Детальная информация

Название: Разработка и исследование методов локальной интерпретации сиамской нейронной сети: выпускная квалификационная работа магистра: направление 02.04.01 «Математика и компьютерные науки» ; образовательная программа 02.04.01_03 «Высокопроизводительные облачные вычисления и программное обеспечение роботов»
Авторы: Касимов Эрнест Махмадкулович
Научный руководитель: Уткин Лев Владимирович
Другие авторы: Голубева Ирина Эрнестовна
Организация: Санкт-Петербургский политехнический университет Петра Великого. Институт прикладной математики и механики
Выходные сведения: Санкт-Петербург, 2020
Коллекция: Выпускные квалификационные работы; Общая коллекция
Тематика: интерпретируемая модель; объяснительный интеллект; сиамская нейронная сеть; сжатое представление данных; автокодер; внесение возмущений; interpreted model; explanatory intelligence; siamese neural network; compressed data representation; autoencoder; perturbation
Тип документа: Выпускная квалификационная работа магистра
Тип файла: PDF
Язык: Русский
Код специальности ФГОС: 02.04.01
Группа специальностей ФГОС: 020000 - Компьютерные и информационные науки
Ссылки: Отзыв руководителя; Рецензия; Отчет о проверке на объем и корректность внешних заимствований
DOI: 10.18720/SPBPU/3/2020/vr/vr20-1628
Права доступа: Доступ по паролю из сети Интернет (чтение)

Разрешенные действия:

Действие 'Прочитать' будет доступно, если вы выполните вход в систему или будете работать с сайтом на компьютере в другой сети

Группа: Анонимные пользователи

Сеть: Интернет

Аннотация

Тема выпускной квалификационной работы: «Разработка и исследование методов локальной интерпретации сиамской нейронной сети». Данная работа посвящена исследованию разработанного метода интерпретации, основанном на использовании автокодера и метода возмущений. Задачи, которые решались в ходе исследования: 1. Исследование уже существующих методов интерпретации работы нейронных сетей 2. Разработка автокодера со специальной функцией потерь. 3. Исследование разработанного метода на синтетическом наборе данных 4. Исследование метода на наборе данных MNIST В работе предлагается метод объяснения результата работы сиамской нейронной сети, которая выступает в качестве «черного ящика», при условии, что для каждой подсети доступен выходной вектор сжатых данных. Основная проблема заключается в том, что метод возмущения нельзя использовать непосредственно на входных экземплярах, поскольку известно только их семантическое сходство или различие. Поэтому предлагается использовать автокодер со специальной функцией потерь, который обучается таким образом, чтобы результат его скрытого слоя был близок к выходу сиамской нейронной сети, а результат на выходном слое был близок ко входным данным. Декодирующая часть используется для восстановления исходных экземпляров из возмущенных выходных векторов сиамской сети. Важные особенности объясненных экземпляров определяются путем усреднения соответствующих изменений реконструированных экземпляров. Для представления работоспособности метода используются синтетические данные и набор данных MNIST.

Theme of final qualification work: “Development and research of methods for local interpretation of the Siamese neural network”. This work is devoted to the study of the developed interpretation method based on the use of an auto encoder and a perturbation method. Tasks that were solved during the study: 1. The study of existing methods for interpreting the operation of neural networks 2. Development of an auto encoder with a special loss function. 3. The study of the developed method on a synthetic data set 4. Study of the method on the MNIST dataset The paper proposes a method for explaining the result of the Siamese neural network, which acts as a “black box”, provided that for each subnet an output vector of compressed data is available. The main problem is that the perturbation method cannot be used directly on input instances, since only their semantic similarity or difference is known. Therefore, it is proposed to use an autocoder with a special loss function, which is trained in such a way that the result of its hidden layer is close to the output of the Siamese neural network, and the result on the output layer is close to the input data. The decoding part is used to restore the original instances from the perturbed output vectors of the Siamese network. Important features of the explained specimens are determined by averaging the corresponding changes in the reconstructed specimens. Synthetic data and the MNIST data set are used to represent the health of the method.

Права на использование объекта хранения

Место доступа Группа пользователей Действие
Локальная сеть ИБК СПбПУ Все Прочитать
Интернет Авторизованные пользователи СПбПУ Прочитать
Интернет Авторизованные пользователи (не СПбПУ)
-> Интернет Анонимные пользователи

Статистика использования

stat Количество обращений: 6
За последние 30 дней: 0
Подробная статистика