Details

Данная работа посвящена разработке Retrieval-Augmented Generation (RAG) системы для обработки локальной файловой документации, с использованием готовых больших языковых моделей. Основные решаемые задачи: 1. Анализ существующих решений на рынке в области RAG систем; 2. Проектирование архитектуры и разработка программного решения на языке Java; 3. Тестирование системы на соответствие техническим требованиям. Система построена по принципу RAG архитектуры с использованием языка программирования Java и библиотеки Spring (в частности, Spring AI). В результате работы, используя современные инструменты, разработано готовое программное обеспечение. Локальный запуск языковой модели осуществляется через Ollama. Хранение данных реализовано через PostgreSQL. Разработанная система позволяет помещать в контекст языковой модели локальную документацию. Система может быть использована для быстрого поиска подходящей документации и получения быстрого и содержательного ответа.

This work is devoted to the development of a Retrieval-Augmented Generation (RAG) system for processing local file documentation using ready-made large language models. The main tasks to be solved: 1. Analysis of existing solutions on the market in the field of RAG systems; 2. Architecture design and software solution development in Java language; 3. Testing the system for compliance with technical requirements. The system is built on the principle of RAG architecture using the Java programming language and the Spring library (in particular, Spring AI). As a result of the work, using modern tools, ready-made software has been developed. The local launch of the language model is carried out through Ollama. Data storage is implemented via PostgreSQL. The developed system makes it possible to place local documentation in the context of the language model. The system can be used to quickly search for suitable documentation and receive a quick and meaningful response.