Integrating Self-Verification with External Knowledge Retrieval for Reducing Hallucination in Large Language Models
Abstract
대형 언어 모델은 뛰어난 성능에도 불구하고, 사실과 다른 정보를 생성하는 환각 문제로 신뢰성에 한계를 보인다. 기존의 환각 완화 연구는 모델이 내재적 지식에만 의존하거나 제한적 검증 절차에만 의존하여, 정보 부족 문제와 추론이 충분히 활용되지 않는 한계를 드러냈다. 본 연구는 이를 해결하고자 Chain-of-Verfication(CoVe)와 Retrieval-Augmented Generation(RAG)를 결합한 새로운 접근법인 CoVe-RAG를 제안한다. CoVe-RAG는 자기 검증 과정에 외부 지식을 통합하여 정보의 사실성을 강화한다. 실험 결과, 제안 모델은 CoVe나 RAG 단일 기법보다 환각 완화와 정확성 측면에서 월등한 성능을 보였다. 본 연구는 CoVe의 한계를 규명하고, 자기 검증과 외부 지식 검색의 시너지 효과를 입증함으로써 대형 언어 모델의 신뢰성 향상에 기여한다.
Fields of Study & Subjects
Topic Modeling
Natural Language Processing Techniques
Multimodal Machine Learning Applications
Publication details
- Journal / source
- Journal of KIISE
- Volume
- 53
- Issue
- 1
- Pages
- 58–64
- Publication date
- 31 January 2026
- Language
- EN