Детальная информация

Задачи исследования: проанализировать современные подходы к  автоматическому распознаванию эмоций в тексте и определить особенности классификации эмоциональных состояний на размеченных данных; изучить архитектуру больших языковых моделей и технологии их тонкой настройки; описать методы Full Fine-tuning, LoRA и QLoRA, выявить их различия и потенциальные преимущества для задачи распознавания эмоций; реализовать экспериментальную часть исследования с применением методов LoRA и QLoRA и провести сравнительный анализ качества распознавания эмоциональных состояний; сформулировать практические рекомендации по выбору методов тонкой настройки больших языковых моделей для работы с психологически размеченными текстами. Для решения поставленных задач использованы методы корпусной лингвистики, статистический анализ, методы машинного обучения и параметроэффективной адаптации языковых моделей. Материалом исследования послужил корпус GoEmotions, включающий 54 264 размеченных по 27 эмоциональным категориям комментария на английском языке с платформы Reddit. В результате исследования проведены четыре эксперимента по дообучению моделей Llama 3.1 8B и Mistral 7B методами LoRA и QLoRA. Наилучшие результаты показала конфигурация Llama 3.1 8B + QLoRA (F1 macro 0,506; ROC-AUC 0,939), которая превзошла опубликованный для модели BERT-base результат на 4,6 процентных пункта при сокращении потребления видеопамяти в четыре раза. Установлено, что метод QLoRA обеспечивает устойчивое преимущество над LoRA по качеству при существенно меньших требованиях к ресурсам. Качественный анализ ошибок выявил систематические затруднения моделей при обработке имплицитных и иронических высказываний. Сформулированы практические рекомендации по выбору метода тонкой настройки для исследовательских задач.

Research tasks: to analyse current approaches to automatic emotion recognition in texts and identify the specifics of emotional state classification on annotated data; to study the architecture of large language models and methods of their fine-tuning; to describe Full Fine-tuning, LoRA and QLoRA methods, highlighting their differences and potential advantages for the emotion recognition task; to implement an experimental study comparing LoRA and QLoRA for the emotion classification task and analyse the recognition quality; to formulate practical recommendations for selecting fine-tuning methods for large language models on psychologically annotated text data. The research employed methods of corpus linguistics, statistical analysis, machine learning techniques and parameter-efficient adaptation of language models. The study material was the GoEmotions corpus comprising 54,264 English-language Reddit comments annotated across 27 emotional categories. As a result of the study, four experiments were conducted comparing Llama 3.1 8B and Mistral 7B fine-tuned with LoRA and QLoRA. The best results were achieved by Llama 3.1 8B with QLoRA (F1 macro 0.506; ROC-AUC 0.939), outperforming the published BERT-base baseline by 4.6 percentage points while reducing GPU memory consumption. The QLoRA method consistently provided stable advantage over LoRA in quality with substantially lower resource requirements. Qualitative error analysis revealed systematic difficulties in processing implicit and ironic utterances. Practical recommendations were formulated for selecting fine-tuning methods for researchers.