Details

Целью работы является повышение устойчивости систем машинного обучения к атакам искажения. Объектом исследования является системы машинного обучения, которые являются целью атак искажения. Задачи, решаемые в ходе исследования: 1. Проанализировать и систематизировать атаки искажения на системы машинного обучения. 2. Проанализировать существующие методы защиты от атак искажения. 3. Разработать метод защиты от атак искажения на основе вариационных автоэнкодеров. 4. Экспериментально оценить качество разработанного решения. В ходе работы были исследованы существующие атаки искажения на системы машинного обучения. Были проанализированы современные исследования в области методов защиты от атак искажения. В результате работы были разработаны методы защиты на основе вариационных автоэнкодеров, было продемонстрировано повышение устойчивости систем машинного обучения к искаженным примерам при применении описанных выше защит. Полученные результаты могут быть использованы в дальнейших исследованиях методов защит от атак искажения. Для достижения данных результатов была разработана программа на языке Python, использующая библиотеки tensorflow, art, cleverhands, наборы данных MNIST и CIFAR.

The purpose of the study is to improve the robustness of machine learning systems against adversarial attacks. The object of the work is machine learning systems that are targets of adversarial attacks. The research set the following goals: 1. Analyze and categorize adversarial attacks on machine learning systems. 2. Review existing defense methods against adversarial attacks. 3. Develop a defense method based on variational autoencoders. 4. Experimentally evaluate the effectiveness of the proposed approach. This study investigates existing adversarial attacks on machine learning systems and reviews recent research on defense methods against such attacks. As a result, a defense method based on variational autoencoders was developed, and its effectiveness in improving the robustness of machine learning systems against adversarial examples was demonstrated. The obtained results can be used in further research on defense methods against adversarial attacks. To achieve these results, a Python-based program was developed using TensorFlow and ART libraries, as well as the MNIST and CIFAR datasets.