Details

Работа посвящена разработке и исследованию интеллектуальной системы на основе больших языковых моделей (LLM) и архитектуры Retrieval-Augmented Generation (RAG), оптимизирующей работу с производственной и нормативной документацией. Целью является создание эффективной и прозрачной системы для генерации точных ответов с цитированием источников и возможностью локального развертывания для обеспечения безопасности корпоративных данных. Методика включает обзор современных LLM, проектирование многокомпонентной RAG-архитектуры (предобработка и индексация документов с парсингом, фрагментацией и векторизацией) и расширенные техники обработки запросов, включая интеллектуальное переписывание запросов, Hypothetical Document Embeddings (HyDE), Parent Page Retrieval и переранжирование ответов с помощью LLM. Основной моделью выбрана Gemma-3-4B. Результатом стал прототип системы, эффективно обрабатывающий документацию и генерирующий ответы с указанием источников. Результаты подтверждают эффективность архитектуры и применённых техник, а также потенциал интеграции в корпоративные системы управления знаниями.

The work is devoted to the development and research of an intelligent system based on large language models (LLM) and Retrieval-Augmented Generation (RAG) architecture that optimizes the work with production and regulatory documentation. The goal is to create an efficient and transparent system for generating accurate answers with source citation and local deployment capability to secure corporate data. The methodology includes a review of state-of-the-art LLMs, design of a multi-component RAG architecture (document preprocessing and indexing with parsing, fragmentation and vectorization) and advanced query processing techniques including intelligent query rewriting, Hypothetical Document Embeddings (HyDE), Parent Page Retrieval and LLM-assisted response reranking. Gemma-3-4B was chosen as the basic model. The result is a prototype system that efficiently processes documentation and generates source-identified responses. The results confirm the effectiveness of the architecture and the applied techniques, as well as the potential for integration into corporate knowledge management systems.