Детальная информация
Название | Использование анализа поведения при обеспечении защищенности AI/ML-систем: выпускная квалификационная работа специалиста: направление 10.05.03 «Информационная безопасность автоматизированных систем» ; образовательная программа 10.05.03_08 «Анализ безопасности информационных систем» |
---|---|
Авторы | Рассветалова Александра Дмитриевна |
Научный руководитель | Полтавцева Мария Анатольевна |
Организация | Санкт-Петербургский политехнический университет Петра Великого. Институт компьютерных наук и кибербезопасности |
Выходные сведения | Санкт-Петербург, 2025 |
Коллекция | Выпускные квалификационные работы ; Общая коллекция |
Тематика | безопасность систем машинного обучения ; атаки на системы машинного обучения ; атака кражи модели ; поведенческий анализ ; обнаружение аномалий ; machine learning system security ; attacks on machine learning systems ; model stealing attack ; behavioral analysis ; anomaly detection |
Тип документа | Выпускная квалификационная работа специалиста |
Тип файла | |
Язык | Русский |
Уровень высшего образования | Специалитет |
Код специальности ФГОС | 10.05.03 |
Группа специальностей ФГОС | 100000 - Информационная безопасность |
DOI | 10.18720/SPBPU/3/2025/vr/vr25-838 |
Права доступа | Доступ по паролю из сети Интернет (чтение, печать) |
Дополнительно | Новинка |
Ключ записи | ru\spstu\vkr\34825 |
Дата создания записи | 02.07.2025 |
Разрешенные действия
–
Действие 'Прочитать' будет доступно, если вы выполните вход в систему или будете работать с сайтом на компьютере в другой сети
Группа | Анонимные пользователи |
---|---|
Сеть | Интернет |
В ходе работы был проведен анализ атак на системы машинного обучения. Проведен анализ атак кражи модели машинного обучения, а также методов защиты данного типа атак, на основании чего задача защиты от данного типа атак поставлена как выявление аномалий в поведении клиента, взаимодействующего с моделью. Предложен способ обнаружения атак кражи модели с применением анализа профиля поведения пользователя и последующим выявлением отклонений от нормального поведения. Полученные результаты могут быть использованы в качестве основы для проектирования систем защиты моделей машинного обучения в корпоративной среде. Для достижения данных результатов была разработана система защиты модели машинного обучения, использующая библиотеки языка Python для работы с машинным обучением, такие как sklearn, tensorflow и transformers.
In the course of this work, an analysis of attacks on machine learning systems was carried out. An analysis of model stealing attacks and methods for protecting against this type of attack was also conducted. Based on this analysis, the task of defending against such attacks was formulated as the detection of anomalies in the behavior of the client interacting with the model. A method for detecting model stealing attacks using user behavior profiling and subsequent identification of deviations from normal behavior was proposed. The results obtained can be used as a basis for designing machine learning model protection systems in a corporate environment. To achieve these results, a protection system for machine learning models was developed using Python libraries for machine learning, such as sklearn, tensorflow, and transformers.
Место доступа | Группа пользователей | Действие |
---|---|---|
Локальная сеть ИБК СПбПУ | Все |
|
Интернет | Авторизованные пользователи СПбПУ |
|
Интернет | Анонимные пользователи |
|
Количество обращений: 0
За последние 30 дней: 0