Details

Title: Разработка и исследование методов локальной интерпретации сиамской нейронной сети: выпускная квалификационная работа магистра: направление 02.04.01 «Математика и компьютерные науки» ; образовательная программа 02.04.01_03 «Высокопроизводительные облачные вычисления и программное обеспечение роботов»
Creators: Касимов Эрнест Махмадкулович
Scientific adviser: Уткин Лев Владимирович
Other creators: Голубева Ирина Эрнестовна
Organization: Санкт-Петербургский политехнический университет Петра Великого. Институт прикладной математики и механики
Imprint: Санкт-Петербург, 2020
Collection: Выпускные квалификационные работы; Общая коллекция
Subjects: интерпретируемая модель; объяснительный интеллект; сиамская нейронная сеть; сжатое представление данных; автокодер; внесение возмущений; interpreted model; explanatory intelligence; siamese neural network; compressed data representation; autoencoder; perturbation
Document type: Master graduation qualification work
File type: PDF
Language: Russian
Level of education: Master
Speciality code (FGOS): 02.04.01
Speciality group (FGOS): 020000 - Компьютерные и информационные науки
Links: Отзыв руководителя; Рецензия; Отчет о проверке на объем и корректность внешних заимствований
DOI: 10.18720/SPBPU/3/2020/vr/vr20-1628
Rights: Доступ по паролю из сети Интернет (чтение)
Record key: ru\spstu\vkr\8192

Allowed Actions:

Action 'Read' will be available if you login or access site from another network

Group: Anonymous

Network: Internet

Annotation

Тема выпускной квалификационной работы: «Разработка и исследование методов локальной интерпретации сиамской нейронной сети». Данная работа посвящена исследованию разработанного метода интерпретации, основанном на использовании автокодера и метода возмущений. Задачи, которые решались в ходе исследования: 1. Исследование уже существующих методов интерпретации работы нейронных сетей 2. Разработка автокодера со специальной функцией потерь. 3. Исследование разработанного метода на синтетическом наборе данных 4. Исследование метода на наборе данных MNIST В работе предлагается метод объяснения результата работы сиамской нейронной сети, которая выступает в качестве «черного ящика», при условии, что для каждой подсети доступен выходной вектор сжатых данных. Основная проблема заключается в том, что метод возмущения нельзя использовать непосредственно на входных экземплярах, поскольку известно только их семантическое сходство или различие. Поэтому предлагается использовать автокодер со специальной функцией потерь, который обучается таким образом, чтобы результат его скрытого слоя был близок к выходу сиамской нейронной сети, а результат на выходном слое был близок ко входным данным. Декодирующая часть используется для восстановления исходных экземпляров из возмущенных выходных векторов сиамской сети. Важные особенности объясненных экземпляров определяются путем усреднения соответствующих изменений реконструированных экземпляров. Для представления работоспособности метода используются синтетические данные и набор данных MNIST.

Theme of final qualification work: “Development and research of methods for local interpretation of the Siamese neural network”. This work is devoted to the study of the developed interpretation method based on the use of an auto encoder and a perturbation method. Tasks that were solved during the study: 1. The study of existing methods for interpreting the operation of neural networks 2. Development of an auto encoder with a special loss function. 3. The study of the developed method on a synthetic data set 4. Study of the method on the MNIST dataset The paper proposes a method for explaining the result of the Siamese neural network, which acts as a “black box”, provided that for each subnet an output vector of compressed data is available. The main problem is that the perturbation method cannot be used directly on input instances, since only their semantic similarity or difference is known. Therefore, it is proposed to use an autocoder with a special loss function, which is trained in such a way that the result of its hidden layer is close to the output of the Siamese neural network, and the result on the output layer is close to the input data. The decoding part is used to restore the original instances from the perturbed output vectors of the Siamese network. Important features of the explained specimens are determined by averaging the corresponding changes in the reconstructed specimens. Synthetic data and the MNIST data set are used to represent the health of the method.

Document access rights

Network User group Action
ILC SPbPU Local Network All Read
External organizations N2 All Read
External organizations N1 All
Internet Authorized users SPbPU Read
Internet Authorized users (not from SPbPU, N2) Read
Internet Authorized users (not from SPbPU, N1)
-> Internet Anonymous

Usage statistics

stat Access count: 14
Last 30 days: 1
Detailed usage statistics