검색 증강 LLM 환각 완화 기법 총정리

한줄 요약

RAG 기반 LLM의 환각 문제를 검색 및 생성 단계별 원인과 완화 기법으로 체계화한 종합 리뷰.

풀어야 하는 문제

RAG는 외부 지식을 활용해 LLM의 사실성과 최신성을 높이지만, 검색기의 부정확성이나 생성기의 오용 등으로 인해 환각(confabulation)이 발생한다. 기존 연구는 산발적으로 이루어져 전체적인 원인과 해결책을 통합적으로 이해하기 어렵다.

접근 방법

논문은 RAG 파이프라인을 검색(질의 이해, 문서 검색, 문서 선택)과 생성(문서 통합, 응답 생성)의 하위 작업으로 분해하고, 각 단계에서 발생할 수 있는 환각 유형을 분류한다. 이후 각 유형에 대응하는 완화 기법(예: 검색 품질 개선, 프롬프트 엔지니어링, 모델 파인튜닝, 디코딩 전략 등)을 체계적으로 정리한다. 또한, 생성된 응답에서 환각을 탐지하고 교정하는 방법도 별도로 다룬다.

결과·기여

RAG 환각 문제에 대한 최초의 포괄적 리뷰로, 연구자들이 문제를 체계적으로 이해하고 적절한 완화 전략을 선택하는 데 도움을 준다. 검색과 생성의 상호작용을 강조하며, 향후 연구 방향(예: 다중 모달 RAG, 동적 검색, 평가 벤치마크)을 제시한다.