Details

Объект исследования – корпус из 27 626 аннотаций, отобранных по жанровым и временным критериям. Предмет исследования – тематическая структура этого корпуса и её эволюция за период 2021–2025 годов. Цель исследования – выявление устойчивых исследовательских направлений в области компьютерной лингвистики и реконструкция их временной динамики средствами автоматического тематического моделирования. Задачи исследования: сформировать сбалансированный стратифицированный корпус научных аннотаций из открытого архива ACL Anthology с применением фильтров по году, площадке и длине документа; разработать конвейер лингвистической предобработки, включающий очистку, токенизацию по алгоритму Penn Treebank, морфосинтаксическую фильтрацию и лемматизацию через словарь WordNet; обучить на двух подвыборках корпуса (500 и 1 000 документов) четыре независимые модели – две классические (LDA, NMF) и две на основе контекстных эмбеддингов (BERTopic с энкодером общего назначения all-MiniLM-L6-v2 и BERTopic с доменно-адаптированным SciBERT); оценить полученные модели по системе из пяти метрик (трёх когерентностных – c_v, u_mass, c_npmi – и двух семантических – силуэтный коэффициент и среднее внутрикластерное косинусное сходство в пространстве SBERT-эмбеддингов); содержательно проинтерпретировать выделенные темы и реконструировать тематическую эволюцию области за пятилетний период. Для решения поставленных задач использованы следующие методы исследования: корпусно-аналитические (расчёт частотных распределений, анализ n-грамм и TF-IDF, проверка распределения по закону Ципфа, измерение индексов читаемости и лексического разнообразия), модельно-аналитические (обучение и анализ четырёх тематических моделей) и сравнительные (сопоставление моделей по системе метрик на двух корпусах разного объёма). В результате исследования установлено, что NMF на корпусе N = 1 000 даёт наибольшую интерпретируемость тем (c_v = 0,6250 и положительное c_npmi = +0,0613, единственное в исследовании); BERTopic – наилучшую семантическую компактность кластеров; SciBERT-BERTopic в режиме без дообучения для подобного корпуса непригоден из-за сужения проекционного пространства. Количественно оценено влияние объёма корпуса на качество тематических моделей. За пятилетний период в корпусе зафиксирована смена трёх исследовательских парадигм компьютерной лингвистики: классических структурных задач, промптинга и in-context learning, агентов с retrieval-механизмами и безопасностью. Полученные результаты применимы при планировании библиометрических исследований динамично развивающихся научных областей. Для достижения этих результатов в работе использованы следующие информационные технологии: язык программирования Python 3.12 и облачная среда Google Colaboratory; библиотеки NLTK, scikit-learn, gensim, BERTopic, sentence-transformers, umap-learn, hdbscan, transformers, textstat, wordcloud; средства визуализации matplotlib и seaborn; корпусная база данных ACL Anthology; система контроля версий Git/GitHub.

The target of the research is a corpus of 27,626 abstracts, selected by genre and temporal criteria. The scope of the research is the thematic structure of this corpus and its evolution over the 2021–2025 period. The objective of the study is to identify stable research directions in the field of computational linguistics and to reconstruct their temporal dynamics through automatic topic modeling. The tasks of the research: to compile a balanced stratified corpus of research paper abstracts from the open ACL Anthology archive, applying filters by year, venue, and document length; to develop a linguistic preprocessing pipeline including text cleaning, Penn Treebank tokenization, morphosyntactic filtering, and WordNet-based lemmatization; to train four independent topic models on two subsamples of the corpus (500 and 1,000 documents): two classical (LDA, NMF) and two based on contextual embeddings (BERTopic with the general-purpose all-MiniLM-L6-v2 encoder and BERTopic with the domain-adapted SciBERT encoder); to evaluate the resulting models against a system of five quality metrics (three coherence metrics – c_v, u_mass, c_npmi – and two semantic metrics – the silhouette coefficient and mean intra-cluster cosine similarity in the SBERT embedding space); to provide a substantive interpretation of the extracted topics and reconstruct the thematic evolution of the field over the five-year period. The research methodologies include corpus-analytical methods (frequency distribution analysis, n-gram analysis, TF-IDF profiling, Zipfs law verification, readability and lexical diversity measurement), model-analytical methods (training and analysis of four topic models), and comparative methods (cross-model comparison across the five-metric system on two corpora of different sizes). As a result of the study, NMF on the N = 1,000 corpus has been shown to yield the highest topic interpretability (c_v = 0.6250 and a positive c_npmi = +0.0613, the only positive value across all configurations); BERTopic delivers the strongest cluster compactness; SciBERT-BERTopic without fine-tuning proves unsuitable for the given corpus due to a collapse of its embedding space. The influence of corpus size on model quality has been quantified. Three successive research paradigms have been identified within the five-year period: classical structural tasks, prompting and in-context learning, agents with retrieval mechanisms and safety. The findings are applicable to bibliometric monitoring of rapidly evolving scientific fields. To achieve these results, the project employed the following information technologies: the Python 3.12 programming language and the Google Colaboratory cloud environment; the NLTK, scikit-learn, gensim, BERTopic, sentence-transformers, umap-learn, hdbscan, transformers, textstat, and wordcloud libraries; the matplotlib and seaborn visualization tools; the ACL Anthology corpus database; the Git/GitHub version control system.