검색 증강 생성

검색 증강 생성(RAG)은 외부 자료를 검색해 질문과 관련된 문맥을 찾고, 그 문맥을 언어 모델에 제공해 답을 생성하는 방식이다. 보통 자료를 준비하고 검색 가능한 단위로 정리한 다음, 질문에 가까운 내용을 찾아 입력에 덧붙인다. 모델 자체의 가중치를 다시 학습시키는 미세 조정과는 다른 방법이다. [1] [2]

어디에서 만나나

실행 흐름을 단순화하면 자료 검색, 검색 결과를 질문에 맞게 정리, 질문과 함께 모델에 전달, 답변 생성 순서다. IBM의 설명은 검색된 최신 또는 도메인 자료를 생성 과정에 연결하는 방법으로 RAG를 소개하며, 연구 논문은 언어 모델의 내부 지식과 검색 가능한 외부 기억을 함께 쓰는 구상을 다룬다. [1] [2]

회사 안내문을 기반으로 답변한다고 가정하면, 먼저 ‘출장비 정산’ 질문과 관련 있는 규정 문단을 찾고, 그 문단과 질문을 모델에 제공한다. 답에는 찾은 자료의 문단이나 링크를 연결할 수 있다. 정확한 결과를 얻으려면 자료가 최신인지, 검색이 관련 문서를 찾았는지, 답변이 원문과 일치하는지 확인해야 한다. [2]

작동과 사용 예

RAG는 정보의 출처를 더 가까이 놓고 답하도록 돕지만 사실 오류를 제거하는 보증 장치는 아니다. 검색기가 낡은 문서를 찾거나, 중요한 문단을 놓치거나, 모델이 자료를 잘못 해석할 수 있다. 인용이 만들어졌더라도 인용 대상이 실제 주장을 뒷받침하는지 대조해야 한다.

검색 전에 문서를 여러 단위로 나누거나 색인을 만드는 과정이 필요할 수 있지만, 자료의 분할 방식과 검색 기법은 시스템마다 다르다. 검색 결과가 질문과 직접 관련 있는지와 답변이 그 근거를 제대로 반영하는지를 따로 확인해야 한다. RAG의 품질은 연결한 자료의 범위와 갱신 상태, 검색 및 생성 단계가 함께 좌우한다. [1] [2]

비슷한 개념과 주의점

RAG는 질문에 필요한 자료를 입력으로 제공하므로 컨텍스트 창의 범위와 검색 결과의 길이가 중요하다. 결과는 프롬프트의 일부로 모델에 전달되고, 답변은 대규모 언어 모델이 생성한다. 잘못 검색된 자료로 생기는 환각은 자료 품질, 검색, 생성 결과를 각각 점검해야 줄일 수 있다. [1] [2]