Детальная информация

Основной целью дипломного проекта является разработка модернизированной прогнозирующей модели на языке Python, реализующей автоматический подбор гиперпараметров для повышения точности предсказаний, с последующей верификацией на стороннем наборе данных. Также в дипломной работе имеется 2 приложения. В данной работе разрабатывается прогнозирующая модель остаточного ресурса технических систем на основе алгоритма градиентного бустинга CatBoost с модулем автоматической настройки гиперпараметров средствами байесовской оптимизации (Optuna TPE). Модернизация состоит в замене ручного подбора параметров на интеллектуальный направленный поиск, что обеспечивает адаптацию модели к структуре произвольного набора данных. Проверка системы проводится на эталонном датасете NASA CMAPSS FD001. 1. Анализ предметной области и существующих методов прогнозирования; 2. Разработка модели и реализация модуля автоматической настройки гиперпараметров на основе алгоритма TPE; 3. Программная реализация системы на Python в виде двух модулей – обучения и инференса; 4. Экспериментальная верификация модели и оценка эффективности модернизации. Для достижения поставленных результатов в работе использовались следующие информационные технологии и программное обеспечение: язык программирования Python 3.10, библиотеки машинного обучения CatBoost и Optuna, библиотеки обработки данных pandas и NumPy, инструменты препроцессинга scikit-learn, веб-фреймворк Flask, а также эталонный набор данных NASA CMAPSS FD001. Результатом работы стало создание модернизированной прогнозирующей системы, обеспечивающей RMSE на тестовой выборке = 19,04 цикла и коэффициент детерминации R² = 0,7902. Применение байесовской оптимизации позволило сократить число испытаний при подборе гиперпараметров до 30 против более 1200 у классического метода Grid Search.

The main aim of the graduation project is the development of a modernized forecasting model in Python, featuring automatic hyperparameter tuning for improved prediction accuracy, with subsequent verification on a third-party dataset. The graduation work also contains 2 appendices. This work develops a forecasting model for predicting the remaining useful life of technical systems, based on the CatBoost gradient boosting algorithm with an automatic hyperparameter tuning module implemented through Bayesian optimization (Optuna TPE). The modernization consists in replacing manual parameter tuning with an intelligent directed search, which provides adaptation of the model to the structure of an arbitrary dataset. The system is verified on the reference NASA CMAPSS FD001 dataset. 1. Analysis of the subject area and existing forecasting methods; 2. Development of the model and implementation of an automatic hyperparameter tuning module based on the TPE algorithm; 3. Software implementation of the system in Python as two modules – training and inference; 4. Experimental verification of the model and evaluation of the modernization effectiveness. The following information technologies and software were used to achieve the stated results: Python 3.10 programming language, CatBoost and Optuna machine learning libraries, pandas and NumPy data processing libraries, scikit-learn preprocessing tools, Flask web framework, and the NASA CMAPSS FD001 benchmark dataset. The result of the work is the creation of a modernized forecasting system that provides RMSE on the test set = 19.04 cycles and coefficient of determination R^2 = 0.7902. The use of Bayesian optimization made it possible to reduce the number of trials in hyperparameter tuning to 30, compared to more than 1200 required by the classical Grid Search methods.