Details

В работе решается задача автоматической сегментации дендритов и дендритных шипиков на трехмерных микроскопических изображениях нейронов. Цель: воспроизведение, методическая доработка и внедрение каскадного нейросетевого подхода к сегментации. Базовый каскад сетей типа U-Net 3D воспроизведен на основе PyTorch Lightning и обучен на подготовленных данных. Для второго этапа предложена комбинированная функция потерь, объединяющая объемную меру совпадения масок и скелетную составляющую, что улучшает восстановление слабозаметных шеек шипиков. Для четвертого этапа переработан геометрический признак — матрица расстояний до предполагаемых осей шипиков, строящаяся автоматически по геометрии маски. Нейросетевая сегментация внедрена в приложение с графическим интерфейсом, использующее библиотеку SpineTool. Эксперименты показали повышение качества модифицированного каскада относительно исходного: на втором этапе значение Dice выросло с 0.76 до 0.78, на четвертом этапе F1 распознавания шипиков выросло с 0.47 до 0.56. Отдельно исследовано дообучение первого этапа на новых данных тремя стратегиями (полное дообучение, LoRA и DoRA), повысившее Dice с 0.62 до 0.77, параметро-эффективные методы не уступили полному дообучению. Результаты применимы для анализа морфологии дендритных шипиков в задачах нейробиологии.

This work addresses the automatic segmentation of dendrites and dendritic spines in three-dimensional microscopy images of neurons. The objective is to reproduce, methodologically improve, and deploy a cascaded neural network approach to segmentation. A baseline cascade of 3D U-Net networks was reimplemented using PyTorch Lightning and trained on the prepared data. For the second stage, a combined loss function uniting a volumetric mask-overlap term and a skeleton-based term is proposed, improving the restoration of faint spine necks. For the fourth stage, the geometric feature — a distance map to the presumed spine axes — was reworked to be built automatically from the mask geometry. The neural network segmentation was integrated into a graphical application based on the SpineTool library. Experiments showed quality improvements of the modified cascade over the baseline: the second-stage Dice increased from 0.76 to 0.78 and the fourth-stage spine detection F1 from 0.47 to 0.56, outperforming existing methods in both cases. Separately, fine-tuning the first stage on new data using three strategies (full fine-tuning, LoRA and DoRA) raised Dice from 0.62 to 0.77, with the parameter-efficient methods matching full fine-tuning. The results are applicable to the analysis of dendritic spine morphology in neuroscience.