RAG

retrieval-augmented generation실무

다른 이름: 검색 증강 생성, 래그, 검색 기반 생성

쉬운 AI 사전

「명사」『데이터』 AI가 답하기 전에 관련 문서를 먼저 찾아 읽고 그 내용을 바탕으로 답하게 하는 방법. 사내 문서로 질문에 답하는 챗봇이 대표적이다.

실무 AI 사전

「명사」『데이터』 질문과 관련된 문서 조각을 벡터 검색 등으로 찾아 프롬프트에 넣어 주고 생성하게 하는 구조. 최신 정보 반영과 할루시네이션 감소에 효과적이며, 파인튜닝보다 도입이 쉽다.

전문 AI 사전

「명사」『데이터』 검색기(retriever)와 생성기(generator)를 결합한 파이프라인. 문서 청킹, 임베딩, 벡터 DB 색인, 리랭킹, 컨텍스트 구성 단계로 이루어지며 각 단계가 품질을 좌우한다.

오픈북 시험과 비슷하다. 외워서 답하는 대신 질문이 나오면 교재에서 관련 쪽을 찾아 펼쳐 놓고 그 내용을 보며 답을 쓴다.

파인튜닝: RAG는 모델은 그대로 두고 답할 때마다 자료를 찾아 붙여 주고, 파인튜닝은 모델 자체를 추가로 학습시켜 말투나 지식을 바꾼다. 자주 바뀌는 사내 문서는 RAG, 고정된 형식, 말투는 파인튜닝이 맞는다.
그라운딩: 그라운딩은 답을 믿을 만한 근거에 연결한다는 목표나 개념이고, RAG는 그 목표를 이루는 대표적인 구현 방법이다. RAG 말고도 검색 도구 호출 등으로 그라운딩을 할 수 있다.