Обеспечение безопасности передачи конфиденциальной информации в корпоративной локальной сети с применением генеративного искусственного интеллекта

Статья посвящена разработке и внедрению локального интеллектуального ассистента на базе архитектуры RAG для автоматизации работы с корпоративной документацией. Рассматривается проблема «галлюцинаций» больших языковых моделей (large language model, LLM) и способы её решения через интеграцию с закрытой базой знаний предприятия. Обоснован выбор стека технологий и специализированных моделей для обработки текста. Подробно описан процесс программной реализации системы, работающей в закрытом контуре без передачи данных на внешние серверы, что обеспечивает соблюдение требований информационной безопасности. The article is devoted to the development and implementation of a local intelligent assistant based on RAG architecture for automating work with corporate documentation. The problem of “hallucinations” of large language models and methods for solving it through integration with a closed enterprise knowledge base are considered. The choice of technology stack (FastAPI, Streamlit, ChromaDB vector database) and specialized models for processing the Russian language (Saiga/Llama-3, ru-en-RoSBERTa) is substantiated. The software implementation process for a system operating in a closed circuit without transmitting data to external servers is described in detail, ensuring compliance with information security requirements.