Details

Объектом исследования являются методы локального объяснения моделей машинного обучения на основе значений Шепли. Цель работы состоит в разработке методики предварительной оценки риска применения SHAP для табличных данных с учётом зависимостей между признаками. Рассматриваются численная ошибка приближённого алгоритма SHAP и семантическое расхождение между условной и интервенционной трактовками вклада признака. Методика основана на синтетическом корпусе из 1280 сценариев, доменно-согласованных проверках для Wine, California Housing, Breast Cancer и Statlog Heart, а также на мета-моделях, использующих статистические характеристики набора данных. Полученные результаты показывают, что семантическая неоднозначность прогнозируется устойчивее, чем численные ошибки аппроксимации. Область применения результатов — предварительная диагностика табличных задач перед интерпретацией SHAP. Сделан вывод, что итоговая карта применимости должна использоваться как предупреждающий индекс, а не как абсолютный вердикт о корректности объяснения. В работе использованы Python 3.13.7, Jupyter Notebook, NumPy 2.4.2, pandas 2.3.3, SciPy 1.16.2, scikit-learn 1.7.2 и matplotlib 3.10.7; значения Шепли рассчитывались собственной реализацией перебора коалиций, а данные взяты из открытых наборов UCI/scikit-learn и синтетических сценариев.

The object of the study is local explanation methods for machine learning models based on Shapley values. The aim is to develop a preliminary risk assessment methodology for applying SHAP to tabular data while accounting for dependencies between features. The thesis considers numerical approximation error of practical SHAP algorithms and semantic discrepancy between conditional and interventional interpretations of feature contribution. The methodology relies on a corpus of 1280 synthetic scenarios, validation scenarios matched to Wine, California Housing, Breast Cancer, and Statlog Heart, and meta-models based on statistical characteristics of a data set. The results show that semantic ambiguity is predicted more reliably than numerical approximation errors. The results can be applied as a preliminary diagnostic tool before SHAP interpretation of tabular machine learning models. The conclusion is that the applicability map should be treated as a warning index rather than as an absolute verdict on explanation correctness. The thesis used Python 3.13.7, Jupyter Notebook, NumPy 2.4.2, pandas 2.3.3, SciPy 1.16.2, scikit-learn 1.7.2, and matplotlib 3.10.7; Shapley values were computed with a custom coalition enumeration implementation, and data sources include open UCI/scikit-learn data sets and synthetic scenarios.