Details

Тема выпускной квалификационной работы: «Обеспечение конфиденциальности при использовании систем машинного обучения». Целью работы является обеспечение конфиденциальности проприетарных моделей систем машинного обучения. Предметом исследования является конфиденциальность систем машинного обучения. Задачи, решаемые в ходе исследования: 1. Анализ и систематизация атак на системы машинного обучения. 2. Анализ методов защиты от атак, направленных на нарушение конфиденциальности систем машинного обучения. 3. Разработка нового способа защиты от атак, направленных на нарушение конфиденциальности систем машинного обучения. 4. Реализация предложенного способа защиты и тестирование на системе машинного обучения. В ходе работы была проведена систематизация атак на системы машинного обучения. Проведен анализ атак, направленных на нарушение конфиденциальности моделей систем машинного обучения, а также способов защиты от данного типа атак, в результате чего задача защиты от таких атак поставлена как поиск аномалий во входных данных. Предложен способ выявления аномалий во входных данных на основе статистических данных с учетом возобновления атаки под другой учетной записью злоумышленника. Полученные результаты могут быть использованы в качестве основы для проектирования систем защиты машинного обучения.

The theme of the final qualification work: «Ensuring confidentiality in the use of machine learning systems». The aim of the work is to ensure the confidentiality of proprietary models of machine learning systems. The subject of the study is the confidentiality of machine learning systems. Tasks to be solved in the course of the study: 1. Analysis and systematization of attacks on machine learning systems. 2. Analysis of methods of protection against attacks aimed at violating the confidentiality of machine learning systems. 3. Development of a new method of protection against attacks aimed at violating the confidentiality of machine learning systems. 4. Implementation of the proposed method of protection and testing on a machine learning system. In the course of the work, attacks on machine learning systems were systematized. The analysis of attacks aimed at violating the confidentiality of machine learning models, as well as methods of protection against this type of attack, is carried out, as a result of which the task of protecting against such attacks is set as a search for anomalies in the input data. A method for detecting anomalies in the input data based on statistical data is proposed, taking into account the resumption of the attack under another attacker account. The results obtained can be used as a basis for designing machine learning protection systems.