Детальная информация

Объект исследования – автоматизированный визуальный контроль дефектов на основе свёрточных нейронных сетей. Предмет исследования – методы Grad-CAM и Layer-CAM и проверка достоверности тепловых карт. Цель –  определить условия, при которых эти карты пригодны как инструмент аудита решений CNN-классификатора. Обучено 35 моделей ResNet-50 на пяти категориях VisA (capsules, pcb1–pcb4) с 7 случайными инициализациями. Качество локализации оценено по шести метрикам, достоверность карт – каскадной рандомизацией весов и реакцией на синтетические артефакты; значимость различий – критерием Уилкоксона с поправкой Бонферрони. Layer-CAM статистически значимо превосходит Grad-CAM по средней IoU (Δ = +0.041, p_Bonferroni = 0.0001). На категории pcb2/Grad-CAM средний IoU синтетического артефакта втрое превышает IoU реального дефекта, то есть классификатор опирается на посторонние признаки. На pcb3 и capsules 5 моделей из 35 дают IoU < 0.02 при accuracy более 0.90, что подтверждает необходимость использования методов интерпретируемого искусственного интеллекта параллельно со стандартными метриками. Метрики Insertion / Deletion AUC теряют информативность при насыщении классификатора, что выявлено на категории pcb1. Результаты применимы в промышленных системах автоматизированного визуального контроля качества как вспомогательный инструмент аудита решений CNN-классификатора в режиме человеко-машинного надзора.

The object of the study is automated visual defect inspection based on convo-lutional neural networks. The subject of the study comprises the Grad-CAM and Layer-CAM methods and verification of the faithfulness of their saliency maps. The aim is to determine the conditions under which these maps are suitable as an audit tool for CNN-classifier decisions. Thirty-five ResNet-50 models were trained on five VisA categories (capsules, pcb1–pcb4) with seven random initializations. Localization quality is assessed using six metrics; map faithfulness is verified by cascading weight randomization and re-sponse to synthetic artifacts; the statistical significance of differences is established by the Wilcoxon signed-rank test with Bonferroni correction. Layer-CAM statistically significantly outperforms Grad-CAM in mean IoU (Δ = +0.041, p_Bonferroni = 0.0001). For the pcb2/Grad-CAM combination, the mean IoU of the synthetic artifact is three times higher than the IoU of the real defect, in-dicating that the classifier relies on spurious features. On pcb3 and capsules, 5 out of 35 models yield IoU < 0.02 while accuracy remains above 0.90, which confirms the need to apply interpretable-AI methods alongside standard classification metrics. The Insertion / Deletion AUC metrics lose informativeness when the classifier saturates, as observed on the pcb1 category. The results are applicable in industrial automated visual quality inspection sys-tems as an auxiliary tool for auditing CNN-classifier decisions under human-in-the-loop oversight.