Details

В данной работе проведен анализ уязвимости систем машинного обучения, используемых в средствах защиты информации. Произведена классификация и выявление недостатков существующих моделей и стратегий защиты систем машинного обучения. Разработаны и экспериментально проверены методы, с помощью которых возможно улучшить устойчивость систем машинного обучения к проанализированным уязвимостям. Получены результаты и произведена их оценка. Сделаны предположения по дальнейшей модернизации и улучшению методов защиты систем машинного обучения. Задачи, которые были решены в ходе проведения исследований: 1. Провести анализ существующих уязвимостей систем машинного обучения. 2. Определить влияние уязвимостей на системы машинного обучения, выделить причины их возникновения. 3. Провести анализ существующих методов защиты систем машинного обучения. 4. Определить недостатки существующих методов защиты. 5. Разработать прототип метода защиты систем машинного обучения. 6. Экспериментально оценить качество разработанного метода защиты систем машинного обучения. Для проведения экспериментальных исследований использовалась ИНС, которая основана на библиотеке tensorflow.

This work presents an analysis is made of the vulnerabilities of machine learning systems used in information security tools. The classification and identification of the shortcomings of existing models and strategies for protecting machine learning systems has been made. Methods have been developed and experimentally tested with the help of which it is possible to improve the stability of machine learning systems to the analyzed vulnerabilities. The results are obtained and evaluated. Assumptions are made for the further modernization and improvement of methods for protecting machine learning systems. Tasks that were solved during the research: 1. To analyze the existing vulnerabilities of machine learning systems; 2. Determine the impact of vulnerabilities on machine learning systems, highlight the causes of their occurrence; 3. To analyze the existing methods of protecting machine learning systems; 4. Identify the shortcomings of existing methods of protection; 5. Develop a prototype method for protecting machine learning systems; 6. Experimentally assess the quality of the developed method for protecting machine learning systems. For experimental research, an ANN was used, which is based on the tensorflow library.