Тема выпускной квалификационной работы: «Разработка метода защиты от атак уклонения в системах машинного обучения». Целью работы является изучение существующих методов выявления атак уклонения, разработка метода, который позволил бы улучшить предыдущие методы. Предметом исследования являются атаки уклонения на системы машинного обучения и методы их выявления. Задачи, решаемые в ходе исследования:1. Исследование атак уклонения.2. Реализация атак уклонения на систему машинного обучения.3. Реализация и анализ методов выявления атак уклонения.4. Разработка метода, минимизирующего недостатки исследованных методов.5. Сравнение разработанных методов.В ходе работы были исследованы атаки на системы машинного обучения, виды атак уклонения, методы выявления данных вне распределения и атак в системах машинного обучения, реализованы методы и проведены атаки уклонения с целью проверки эффективности этих методов.В результате работы были модифицированы методы выявления атак уклонения и выявлены недостатки и преимущества реализованных методов.Полученные результаты могут быть использованы в дальнейших реализациях и модификациях методов выявления атак.

The topic of the graduate qualification work is «Development of a method for detecting evasion attacks on machine learning systems». The purpose of the study is the analysis attack detection methods for detection evasion attacks and to develop a method that would reduce the shortcomings of previous methods. The research set the following goals:1. Study of evasion attacks.2. Implementation of evasion attacks on the machine learning system.3. Implementation and analysis of methods for detecting evasion attacks.4. Development of a method that minimizes the shortcomings of the studied methods.5. Comparison of the developed methods.In the course of the work, a study attacks on machine learning systems, types of evasion attacks, methods for detecting data out of distribution and attacks in machine learning. Methods were implemented and evasion attacks were carried out.As a result of the work, the methods for detecting evasion attacks were modified and the pros and cons of the implemented methods were identified. The results obtained can be used in further implementations and modifications of evasion attack detection methods.