Тема выпускной квалификационной работы: «Разработка системы выявления атак уклонения и "отравления" входных данных машинного обучения».Целью работы является - разработка метода выявления аномалий, связанных с атаками отравления и уклонения, во входных данных систем МО.Предметом исследования являются: алгоритмы, применяемые в различных классах задач МО; типы данных подаваемых МО; состязательные атаки на системы МО.Задачи, решаемые в ходе исследования: классификация актуальных угроз системам ИИ и МО; изучение и перечисление уязвимостей стандартных алгоритмов МО в контексте атак уклонения и отравления; разработка ПО для выявления аномалий в подаваемых данных системам МО.В ходе работы было произведено: исследование возможных стратегий атак на системы ИИ; классификация данных атак и атакующего; исследование чувствительности алгоритмов лежащих в основе различных классов задач МО.В результате работы: сформулирована классификация атак на системы ИИ; сформулированы особенности чувствительности алгоритмов разных типов задач МО; разработано средство поиска аномалий во входных данных систем МО; продемонстрирована эффективность средства.Полученные результаты могут быть использованы как: методические указания для классификации угроз МО; основа для курса по уязвимостям МО для студентов направлений по обеспечению ИБ; рекомендации при проектировании систем МО; программная прослойка для обеспечения безопасности комплексов МО.

The topic of the graduate qualification work is «Development of the system for the detection of evasion and data "poisoning" attacks on machine learning systems».The goal of this study – development of a method for detecting anomalies associated with poisoning and evasion attacks, in input data for the MO data systems..The subject of the work is: algorithms that lay in different classes of ML; data types used as input data in ML; adversarial attacks.The research set the following goals: analysis and systematization of weaknesses and sensitivities of ML systems; classification of actual threats specific for AI and ML systems; research and listing of the vulnerabilities of standard ML algorithms to poisoning and evasion attacks; development of the software for data anomalies detection in input data.During the work were done research of the possible attack’s strategies on a ML system; classification of those attacks and attacker; research of the sensitivity of algorithms underlying in various classes of ML.As a result of the work, a classification of attacks on AI systems was formulated. The sensitivity features of the algorithms underlying different classes of ML problems to different input data were formulated. The software for anomalies search in the input data of ML systems was developed.The results could be used as: guidelines for classification of ML threats; the basis for the course about the vulnerabilities of the ML for students of the information security university programs; recommendations for the design of ML systems; a software layer for ensuring the security of ML systems.