Тема выпускной квалификационной работы: «Обнаружение вредоносной логики в работе сверточных искусственных нейронных сетей на основе анализа признаков входных данных». Предметом исследования является защита классификаторов на основе ИНС от внедрения потайных ходов, активирующих скрытую логику. Целью работы является защита сверточных искусственных нейронных сетей от атак внедрения скрытой логики. Задачи, решаемые в ходе исследования: Исследование теоретических способов реализации атак внедрения скрытой логики. Анализ современных исследований в области поиска скрытой логики в сверточныхискусственных нейронных сетях. Исследование способов сжатия изображений для удаления признаков. Разработка метода поиска скрытой логики в сверточных искусственных нейронных сетях на основе сжатия вейвлет-преобразованием. Оценка качества работы созданного метода поиска скрытой логики. В результате работы было разработано средство поиска скрытой логики в работе сверточных искусственных нейронных сетей, а также продемонстрирована эффективность его работы. Был сделан вывод о том, что для поиска с вредоносной логики в работе сверточныхискусственных нейронных сетей ко входным данным могут применяться алгоритмы сжатия с потерями. Полученные результаты могут быть использованы в качестве основы для проектирования систем динамического поиска скрытой логики в работе сверточных искусственных нейронных сетей.

The topic of the graduate qualification work is «Detecting of malicious logic in the operation of convolutional artificial neural networks based on the analysis of input data features». The subject of the study is the protection of classifiers based on artificial neural networks from the introduction of secret passages that activate malicious logic. The purpose of the study is protect convolutional artificial neural networks from malicious logic attacks implementation. The research set the following goals: Research of theoretical ways to implement malicious logic implementation attacks. Analysis of modern research in the field of search for malicious logic in convolutional neural networks.Investigation of ways to compress images to remove features. Development of a method for searching for malicious logic based on compression using a wavelet transform. Evaluation of the quality of the created method of searching for malicious logic. As a result of the work, a means of combating malicious logic in the operation of convolutional neural networks was developed, and the effectiveness of its work was demonstrated. It was concluded that lossy compression algorithms can be applied to input data to combat malicious logic in the operation of convolutional artificial neural networks. The results obtained can be used as a basis for designing systems for dynamic search of malicious logic in the operation of convolutional neural networks.