[250304] RAG 정리

RAG (Retrieval-Augmented Generation)란?

1. RAG 정의

RAG(Retrieval-Augmented Generation)는 정보 검색(Retrieval)과 생성 모델(Generation)을 결합하여 더 정확하고 최신 정보를

제공하는 AI 기술이다. 단순히 사전 학습된 언어 모델이 아닌, 외부 데이터베이스나 문서에서 정보를 검색한 후 이를 기반으로 응답을

생성하는 방식이다.

핵심 개념

1. Retrieval (검색)
   • 주어진 질의(Query)와 관련된 문서를 벡터 검색(Vector Search) 또는 키워드 검색을 통해 찾아낸다.
   • 일반적으로 FAISS, ChromaDB, Weaviate, Elasticsearch 같은 벡터 데이터베이스를 활용한다.
   • 문서 임베딩(Document Embedding)을 사용하여 질의와 문서 간 유사도를 측정한다.
2. Augmentation (정보 증강)
   • 검색된 문서를 모델 입력으로 함께 제공하여, 모델이 보다 정확한 응답을 생성할 수 있도록 한다.
   • 원본 모델이 훈련되지 않은 새로운 정보도 활용할 수 있게 해준다.
3. Generation (생성)
   • LLM (대형 언어 모델, Large Language Model)이 검색된 문서를 바탕으로 최적의 답변을 생성한다.
   • 대표적인 모델로 GPT-4, Llama, Claude 등이 있다.
   • 단순한 언어 모델보다 더 신뢰성 있는 응답을 제공할 수 있다.

---

2. RAG의 장점

• 최신 정보 반영: 정적 데이터로 학습된 모델과 달리, 실시간 정보를 활용할 수 있음
• 정확성 향상: 검색된 문서를 기반으로 답변을 생성하므로, 헛소리(hallucination)를 줄일 수 있음
• 데이터 효율성: 모델을 재학습하지 않고도 새로운 데이터를 활용 가능

---

3. RAG의 구성 요소

1. 임베딩 모델 (Embedding Model)
   • 문서와 질의를 벡터화하여 검색할 수 있도록 변환
   • 대표적인 모델: OpenAI’s text-embedding-ada, BERT, SBERT, Cohere Embeddings
2. 벡터 데이터베이스 (Vector Database)
   • 검색을 위한 문서 벡터를 저장하고 유사한 문서를 찾는 역할
   • 예시: FAISS, Pinecone, ChromaDB, Weaviate, Elasticsearch
3. LLM (Large Language Model)
   • 검색된 정보를 바탕으로 자연어 답변을 생성하는 모델
   • 예시: GPT-4, Llama, Claude, Mistral
4. Retrieval 기법
   • BM25: 전통적인 키워드 기반 검색 방법
   • Dense Retrieval (DPR): 문서 임베딩을 활용한 신경망 기반 검색
   • Hybrid Search: BM25 + DPR을 함께 활용하여 최적의 결과 제공

---

4. RAG의 활용 사례

• 챗봇: 기업 FAQ, 고객 지원 자동화
• 문서 요약: 논문, 계약서 등 대량 문서에서 핵심 정보 추출
• 코드 검색: 프로그래밍 관련 질문에 대한 실시간 코드 추천
• 의료·법률: 최신 연구 자료 및 법률 문서 검색 후 답변 생성

---

5. RAG의 한계

• 잘못된 검색 결과: 검색된 문서가 부정확하면 생성된 답변도 오류가 있을 수 있음
• 속도 문제: 벡터 검색과 LLM을 함께 사용하므로 응답 시간이 길어질 수 있음
• 문맥 한계: 너무 많은 문서를 검색하면 모델이 문맥을 충분히 반영하지 못할 수 있음

---

6. 확장 및 최적화

• Multi-Hop Retrieval: 단일 검색이 아니라 여러 단계를 거쳐 더 깊이 있는 정보를 찾아 응답함
• Re-Ranking: 검색된 문서를 더 정교하게 정렬하여 품질이 향상됨
• Hybrid RAG: 키워드 검색과 벡터 검색을 결합하여 보다 효율적인 검색을 수행

---

7. 대표적인 RAG 프레임워크

• LangChain: LLM과 RAG 시스템을 쉽게 구축할 수 있도록 도와주는 라이브러리
• LlamaIndex (이전 GPT Index): 문서 검색 및 벡터 데이터 관리에 특화된 프레임워크
• Haystack: 오픈소스 RAG 구현 라이브러리