Details

В учебном пособии рассматриваются вопросы моделирования импульсного (спайкового) нейрона как элемента биоподобных по структуре и функциям спайковых нейронных сетей. Спайковые сети в настоящее время являются одним из активно развивающихся направлений искусственного интеллекта и нацелены на создание нового типа энергоэффективных вычислителей – нейромофрных компьютеров. В пособии детально описаны как наиболее распространенные модели нейрона, такие как пороговый интегратор, модель Ижикевича, так и сегментные модели нейронов. Также рассмотрены основные архитектуры нейронных сетей на спайковых нейронах и общие аспекты их обучения, реализуемые в нейроморфных системах. Приводится обзор программных средств для компьютерного моделирования спайковых нейронов и нейронных сетей, а также рассматриваются основные существующие решения в области их аппаратной реализации. Предназначено для студентов высших учебных заведений в качестве информационно-справочного материала при выполнении научно-исследовательских и выпускных квалификационных работ. Учебное пособие также может быть рекомендовано исследователям и инженерам, интересующимся проблемами искусственного интеллекта в части моделирования нейронов и нейронных сетей.

• СОДЕРЖАНИЕ
• Введение
• 1 Искусственные нейронные сети, глубокое обучение и нейроморфные системы
  • 1.1 Искусственные нейронные сети и глубокое обучение
    • 1.1.1 Основные понятия
    • 1.1.2 Постановка задачи машинного обучения
    • 1.1.3 Классификации архитектур искусственных нейронных сетей
    • 1.1.4 Применение искусственных нейронных сетей
  • 1.2 Спайковые нейронные сети
  • 1.3 Нейроморфные системы
  • 1.4 Выводы по главе 1
• 2 Основные сведения о биологическом нейроне как функциональном элементе нервной системы
  • 2.1 Общая структура нейрона
  • 2.2 Структура мембраны нейрона
  • 2.3 Синапсы
  • 2.4 Процессы в нейроне
  • 2.5 Процессы в синапсах и на мембране
  • 2.6 Возникновение потенциала действия и процессы в аксоне
  • 2.7 Выводы по главе 2
• 3 Модели нейрона как элемента спайковой сети
  • 3.1 Классификация моделей нейрона
  • 3.2 Основные модели синаптической передачи
    • 3.2.1 Общее представление о синаптической передаче в нейроморфных системах
    • 3.2.2 Модель синапса с мгновенной активацией иэкспоненциальным спадом
    • 3.2.3 Представление синапса через альфа-функцию
    • 3.2.4 Двухэкспоненциальная модель синапса
  • 3.3 Точечные модели нейронов
    • 3.3.1 Пороговый интегратор
    • 3.3.2 Модель SRM
    • 3.3.3 Модель SRM0
    • 3.3.4 Модель Ходжкина-Хаксли
    • 3.3.5 Модель Ижикевича
  • 3.4 Сегментные модели
    • 3.4.1 Кабельная теория
    • 3.4.2 Компартментные (сегментные) модели
  • 3.5 Модель CSNM
    • 3.5.1 Общие сведения о модели
    • 3.5.2 Версии математического описания модели
    • 3.5.3 Структурная схема модели
    • 3.5.4 Модель синапса
    • 3.5.5 Модель ионного механизма мембраны
    • 3.5.6 Модель сегмента мембраны
    • 3.5.7 Модель генератора потенциала действия
  • 3.6 Сравнительная характеристика моделей нейрона
  • 3.7 Выводы по главе 3
• 4 Краткий экскурс в архитектуры и алгоритмы обучения спайковых сетей
  • 4.1 Топологии спайковых нейронных сетей
    • 4.1.1 Сети прямого распространения
    • 4.1.2 Сверточные сети
    • 4.1.3 Рекуррентные сети
    • 4.1.4 Гибридные сети
    • 4.1.5 Сети с нерегулярной топологией и растущие сети
  • 4.2 Кодирование информации в спайковых нейронных сетях
    • 4.2.1 Схемы кодирования
    • 4.2.2 Частотные методы кодирования
    • 4.2.3 Временные методы кодирования
    • 4.2.4 Прочие методы кодирования
  • 4.3 Основные типы алгоритмов обучения
  • 4.4 Методы, основанные на локальных правилах
  • 4.5 Динамика изменения весов нейрона с пластичными входами
  • 4.6 STDP с дискретным изменением веса
  • 4.7 STDP с интегральным изменением веса
  • 4.8 Вероятностный STDP (Probabilistic-STDP, P-STDP)
  • 4.9 Стабильный STDP (Stable-STDP, S-STDP)
  • 4.10 Триплет STDP (Triplet-STDP, T-STDP)
  • 4.11 Зеркальный STDP (Mirror-STDP, M-STDP)
  • 4.12 Сравнение рассмотренных вариантов STDP
  • 4.13 Локальное правило обучения модели CSNM
    • 4.13.1 Дифференциальная форма записи правила
    • 4.13.2 Выражение коэффициентов связей через параметры ожидаемых реакций нейронов сети
  • 4.14 Инкрементное обучение
    • 4.14.1 Основные понятия
    • 4.14.2 Сценарии инкрементного обучения
    • 4.14.3 Стратегии решения проблемы катастрофического забывания в нейронных сетях
  • 4.15 Выводы по главе 4
• 5 Программные и аппаратные реализации спайковых сетей
  • 5.1 Виды реализаций
  • 5.2 Цифровые реализации
  • 5.3 Аналоговые реализации
  • 5.4 Гибридные реализации
  • 5.5 Обзор программных средств моделирования спайковых нейронных сетей
  • 5.6 Некоторые экспериментальные исследования эффективности аппаратных реализаций спайковых нейронных сетей
  • 5.7 Выводы по главе 5
• Заключение
• Литература
• Список использованных обозначений