Тема выпускной квалификационной работы: «Разработка и исследование методов локальной интерпретации сиамской нейронной сети». Данная работа посвящена исследованию разработанного метода интерпретации, основанном на использовании автокодера и метода возмущений. Задачи, которые решались в ходе исследования: 1. Исследование уже существующих методов интерпретации работы нейронных сетей 2. Разработка автокодера со специальной функцией потерь. 3. Исследование разработанного метода на синтетическом наборе данных 4. Исследование метода на наборе данных MNIST В работе предлагается метод объяснения результата работы сиамской нейронной сети, которая выступает в качестве «черного ящика», при условии, что для каждой подсети доступен выходной вектор сжатых данных. Основная проблема заключается в том, что метод возмущения нельзя использовать непосредственно на входных экземплярах, поскольку известно только их семантическое сходство или различие. Поэтому предлагается использовать автокодер со специальной функцией потерь, который обучается таким образом, чтобы результат его скрытого слоя был близок к выходу сиамской нейронной сети, а результат на выходном слое был близок ко входным данным. Декодирующая часть используется для восстановления исходных экземпляров из возмущенных выходных векторов сиамской сети. Важные особенности объясненных экземпляров определяются путем усреднения соответствующих изменений реконструированных экземпляров. Для представления работоспособности метода используются синтетические данные и набор данных MNIST.

Theme of final qualification work: “Development and research of methods for local interpretation of the Siamese neural network”. This work is devoted to the study of the developed interpretation method based on the use of an auto encoder and a perturbation method. Tasks that were solved during the study: 1. The study of existing methods for interpreting the operation of neural networks 2. Development of an auto encoder with a special loss function. 3. The study of the developed method on a synthetic data set 4. Study of the method on the MNIST dataset The paper proposes a method for explaining the result of the Siamese neural network, which acts as a “black box”, provided that for each subnet an output vector of compressed data is available. The main problem is that the perturbation method cannot be used directly on input instances, since only their semantic similarity or difference is known. Therefore, it is proposed to use an autocoder with a special loss function, which is trained in such a way that the result of its hidden layer is close to the output of the Siamese neural network, and the result on the output layer is close to the input data. The decoding part is used to restore the original instances from the perturbed output vectors of the Siamese network. Important features of the explained specimens are determined by averaging the corresponding changes in the reconstructed specimens. Synthetic data and the MNIST data set are used to represent the health of the method.