Details

Данная работа посвящена исследованию возможностей практического применения современных нейросетевых моделей с использованием специализированного вычислительного модуля (AI-ускорителя) для решения прикладной задачи на примере разработки модуля анализа видеоданных. Задачи, которые решались в ходе исследования: 1) Исследование и выбор вычислительных устройств (AI-ускорителей), обеспечивающих возможность практического применения современных нейросетевых моделей. 2) Обзор, сравнительный анализ и выбор нейросетевых моделей, применимых на выбранном AI-ускорителе. 3) Адаптация выбранной нейросетевой модели для применения на AI-ускорителе. 4) Разработка алгоритма и программного модуля, обеспечивающего применение выбранной нейросетевой модели на AI-ускорителе. 5) Тестирование адаптированной нейросетевой модели на AI-ускорителе и анализ полученных результатов. В результате выполнения работы проведено исследование и обзор специализированных вычислительных устройств, предназначенных для ускорения обработки нейросетевых моделей, произведен выбор подходящего для исследования AI-ускорителя, выполнен обзор современных нейросетевых моделей, применимых на выбранном AI-ускорителе, и выбрана и адаптирована для применения нейросетевая модель компьютерного зрения, разработан алгоритм и программный код, обеспечивающий применение выбранной нейросетевой модели, приведены результаты выполнения каждого из шагов, приведена блок-схема разработанного алгоритма, проведено тестирование выбранной нейросетевой модели на AI-ускорителе, получены оценки реальной производительности выбранных AI-ускорителя и нейросетевой модели. Полученные оценки реальной производительности позволяют говорить о высокой эффективности выбранного AI-ускорителя и применимости подобного рода устройств для решения реальных практических задач на малогабаритном и энергоэффективном конечном устройстве.

The given work is devoted to studying the possibilities of practical application of modern neural network models using a specialized computing module (AI accelerator), while solving an applied problem by developing a computer vision module. The research set the following goals: 1) Research and selection of computing devices (AI accelerators) that provide the possibility of practical application of modern neural network models. 2) Review, comparative analysis and selection of neural network models applicable on the selected AI accelerator. 3) Adaptation of the selected neural network model for use on an AI accelerator. 4) Development of an algorithm and software module that ensures the application of the selected neural network model on an AI accelerator. 5) Testing the adapted neural network model on an AI accelerator and analyzing the results obtained. As a result of the work, a study and review of specialized computing devices designed to accelerate the processing of neural network models was conducted, a suitable AI accelerator was selected, a review of modern neural network models applicable to the selected AI accelerator was performed, and a neural network model for computer vision was selected and adapted for use. An algorithm and software module were developed allowing to use of the selected neural network model, a block diagram of the developed algorithm and the results of each step are given. Using the provided software module and adapted model, the testing of the selected neural network model on the AI accelerator was carried out, and estimates of the real performance of the selected AI accelerator and neural network model were obtained. The obtained figures of the real performance allow us to speak about the high efficiency of the selected AI accelerator and the applicability of such devices for solving real world problems on a small-sized and energy-efficient edge device.