Details

Работа посвящена исследованию современных подходов к обучению нейронных сетей с использованием биологических механизмов, в частности – механизмов синаптической пластичности, т.е. явления изменения структуры нейронной сети в процессе ее обучения и работы. В ходе работы был выполнен углубленный поиск современных исследований, посвященных биологически подобным моделям. В качестве наиболее интересной и актуальной модели была выбрана модель с механизмом мета-обучения, в основе которого лежит пластичность Хебба с обучаемыми коэффициентами. В качестве среды для обучения модели используется CarRacing-v3 и Ant-v5. В итоге серии экспериментов с различными размерами популяции, распределениями изначальных весов и формами правил Хебба был проведен анализ и сделаны выводы, которые не были указаны в оригинальном исследовании. Также на задаче с добавлением шума к исходному изображению среду была подтверждена гипотеза о повышенной адаптивности модели с правилами Хебба в среде CarRacing.

The work is devoted to the study of modern approaches to the training of neural networks using biological mechanisms, in particular - mechanisms of synaptic plasticity, i.e. the phenomenon of changing the structure of a neural network in the process of its training and operation. In the course of this work, an in-depth search of modern studies devoted to biologically similar models was performed. A model with a meta-learning mechanism based on Hebb plasticity with trainable coefficients was chosen as the most interesting and relevant model. As a result, a series of experiments with different population sizes, distributions of initial weights, and forms of Hebbs rules were analyzed and conclusions were drawn that were not reported in the original study. Also on a task with noise added to the original image environment, the hypothesis of increased adaptability of the model with Hebbs rules in the CarRacing environment was confirmed.