Case Study : Tool-Calling RAG with Private LLM in Multi-Tenant Enterprise Environment
Abstract
기업 환경에서 대규모 언어모델은 정형 데이터와 비정형 문서를 함께 다뤄야 하며, 멀티테넌트 환경에서는 데이터 격리와 응답 신뢰성이 중요하다. 본 연구는 사내 전용 LLM을 기반으로 툴 호출 기반 RAG 시스템을 설계하고, 실제 기업 데이터를 활용한 사례 연구를 수행한다. 제안 시스템은 질의를 문서 검색과 SQL/BI 질의로 분해하고, RBAC, RLS, 컬럼 마스킹, 스키마 분리를 적용하여 테넌트 격리를 보장한다. 45개 내부 질문을 대상으로 비교 실험한 결과, 툴 호출 기반 구성은 문서형 RAG보다 높은 정확도와 안정적인 응답 품질을 보인다. 본 연구는 실제 기업의 내부 사용을 고려한 시스템 설계와 운영상의 시사점을 제시한다.
Fields of Study & Subjects
Topic Modeling
Information Retrieval and Search Behavior
Natural Language Processing Techniques
Publication details
- Journal / source
- Journal of Korean institute of intelligent systems
- Volume
- 36
- Issue
- 1
- Pages
- 42–48
- Publication date
- 28 February 2026
- Language
- EN