Тема выпускной квалификационной работы: «Метод защиты от угрозы исследования моделей машинного обучения». Целью работы является описание работы алгоритма обнаружения атак вида исследование моделей машинного обучения для выбранного типа атаки исследования модели. Предметом исследования являются современные методы реализаций атак исследование моделей машинного обучения и современные алгоритмы защиты от данных атак. Задачи, решаемые в ходе исследования: Определение классификаций угроз для систем машинного обучения. Анализ методов нарушения безопасности машинного обучения. Разработка модели нарушителя для систем машинного обучения. Моделирование угроз систем машинного обучения согласно методологии ФСТЭК России. Определение типов атак, направленных на исследование моделей систем машинного обучения. Анализ метода по защите от данного типа атак и оценка результатов работы алгоритма. В ходе работы были исследованы разные системы классификации угроз систем машинного обучения, моделей нарушителя, моделирования угроз, а также методов исследования систем машинного обучения и защиты от них. В результате работы были реализованы системы классификаций угроз, моделей нарушителя, моделирования угроз. Был проведен анализ метода защиты от угрозы исследования моделей машинного обучения.

The topic of the graduate qualification work is «The method of protection against the threat of the study of machine learning models». The purpose of the study is to describe the operation of an attack detection algorithm of the type of machine learning model research for the selected type of attack model research. The subject of the work is modern methods of implementing attacks, the study of machine learning models and modern algorithms for protecting against these attacks. The research set the following goals: Definition and classification of threats for machine learning systems. Analysis of machine learning security breach methods. Development of the intruder model for machine learning systems. Threat modeling of machine learning systems according to the methodology of the FSTEC of Russia. Identification of types of attacks aimed at the study of models of machine learning systems. Analysis of the method of protection against this type of attacks and evaluation of the results of the algorithm. During the work, various systems of threat classification of machine learning systems, intruder models, threat modeling, as well as methods of studying machine learning systems and protection against them were investigated. As a result of the work, systems of threat classifications, intruder models, and threat modeling were implemented. The analysis of the method of protection against the threat of the study of machine learning models was carried out.