Тема дипломной квалификационной работы по применению и оптимизации модели Трансформера, созданию новой системы распознавания и локализации изображений COVID-19. Изучая текущий статус исследований в области распознавания изображений COVID-19, было обнаружено, что сверточные нейронные сети (CNN) широко применяются в этой области, тогда как использование моделей-трансформеров не является распространенным явлением. На основе этого мы улучшили модель Трансформера и визуализировали веса внимания модели Трансформера, получив карту тепловой активации, которая выявляет ключевые области, влияющие на результаты прогнозирования модели. Результаты эксперимента показали, что особенности зараженной области существенно влияют на прогнозы модели, демонстрируя, что модель успешно фиксирует особенности зараженной области и использует их в качестве основы для результатов оценки. База данных радиологии Kaggle COVID-19 использовалась для обучения и тестирования модели, а производительность сравнивалась с моделями распознавания изображений, такими как VGG-16, CNN, ResNet18 и MobileNetV2. Среди всех сравнительных моделей модель Transformer показала лучшие результаты, достигнув точности и полноты 95,34% и 94,59% соответственно. Более того, он продемонстрировал высокую точность и низкий уровень ошибочной классификации при локализации аномальных областей COVID-19. Таким образом, это исследование предоставляет новый инструмент для диагностики COVID-19, расширяет применение модели Трансформера в области распознавания медицинских изображений и предлагает основу для будущих соответствующих исследований.

The subject of the graduate qualification work to apply and optimize the Transformer model, constructing a novel system for COVID-19 image recognition and localization. By investigating the current research status in the field of COVID-19 image recognition, it was found that Convolutional Neural Networks (CNNs) are widely applied in this area, whereas the use of Transformer models is not common. Based on this, we improved the Transformer model and visualized the attention weights of the Transformer model, obtaining a heat activation map that reveals the key areas affecting the models prediction results. The experimental results indicated that the features of the infected area significantly impact the models predictions, demonstrating that the model successfully captures the features of the infected area and uses them as the basis for evaluation results.In the study, chest X-ray images from the Kaggle COVID-19 Radiology database were used to train and test the model, and the performance was compared with image recognition models such as VGG-16, CNN, ResNet18, and MobileNetV2. Among all the comparative models, the Transformer model performed the best, achieving an accuracy and recall rate of 95.34% and 94.59% respectively. Moreover, it demonstrated high accuracy and a low misclassification rate in localizing abnormal areas of COVID-19. In summary, this research provides a novel tool for the diagnosis of COVID-19, broadens the application of the Transformer model in the field of medical image recognition, and offers a reference for future related studies.