Детальная информация

Цель работы – разработать и внедрить в корпоративную среду вебприложения для семантического поиска информации по документам компании, обеспечивающего высокое качество поиска. Оценка качества поиска осуществляется с помощью метрик Precision@K, Recall@K, среднее значение которых должно составлять не менее 70%. Задачи, решаемые в ходе исследования: 1. Анализ существующих подходов поиска информации и архитектуры поисковой системы RAG. 2. Исследование методов векторизации текстовых данных. 3. Исследование генеративных моделей. 4. Разработка веб-приложения для поиска документов. 5. Улучшение алгоритма поиска фрагментов документов. 6. Тестирование и оценка качества поиска. Оценка полученных результатов. В ходе работы рассмотрены полнотекстовый и семантический поиск, архитектура системы RAG, и алгоритмы разбиения документов для улучшения качества поиска документов. Для реализации системы проводилось исследование генеративных моделей, их преимущества и недостатки для генерации ответов. В результате разработан прототип системы с использованием микросервисной архитектуры. Система включает в себя модуль загрузки и индексирования документов, модуль генерации ответа пользователю на естественном языке, а также MCP сервер для поиска документов, использующий гибридный поиск. Реализованы алгоритмы декомпозиции пользовательских запросов, расширения контекста найденных релевантных фрагментов и обработки терминологии проекта. Проведена оценка качества поиска с помощью автоматизированного тестирования, а также с использованием подхода LLM-as-a-judge. При оценке качества были использованы метрики Precision@k и Recall@k, для проверки точности и полноты поиска документов. Результаты работы могут быть использованы в корпоративных информационных системах, системах управления знаниями и личным помощник поиска информации для повышения эффективности работы с документами.

The purpose of the study is to develop and implement a web application for semantic search of company documents, ensuring high-quality search results. Search quality is evaluated using the Precision@k and Recall@k metrics, which must each be at least 70%. The tasks addressed in this research are as follows: 1. Analysis of existing approaches to search organization and the architecture of RAG search systems. 2. Investigation of text data vectorization methods. 3. Investigation of generative models. 4. Development of a web application for document search. 5. Improvement of the document fragment search algorithm. 6. Testing and evaluation of search quality. Evaluation of the results obtained. This work investigated the architecture and implementation of the RAG system, full-text search, semantic search, text vectorization methods, and document partitioning algorithms. To implement the system, a study was conducted on generative models and their advantages and disadvantages for generating responses. As a result, a system prototype was developed using a microservices architecture. The system includes a module for loading and indexing documents, a module for generating natural-language responses to users, and an MCP server for document search using hybrid search. Algorithms have been implemented for decomposing user queries, expanding the context of found relevant fragments, and processing project terminology. Search quality was evaluated using automated testing as well as the LLM-as-a-judge approach. The Precision@k and Recall@k metrics were used to assess the accuracy and completeness of document search. The results of this work can be used in corporate information systems, knowledge management systems, and personal information search assistants to improve the efficiency of document handling.