Данная работа посвящена исследованию модификации метода SHAP для локального объяснения предсказаний моделей классификации. Ключевая идея работы заключается в замене разницы характеристических функций или предсказаний в подсчете значений Шепли на значения метрик близости распределений вероятностей между распределениями вероятностей по классам, возвращаемых моделью. В работе исследованы как несимметричные, так и симметричные метрики близости распределений вероятностей. В рамках работы проведены численные эксперименты с использованием, предложенного метода, на синтетических и реальных данных. Эти эксперименты демонстрируют эффективность метода, а также позволяют проанализировать результаты при использовании различных метрик близости распределений вероятностей.

The given paper is devoted to the study of a modification of SHAP for local explanation of classification model predictions. A key idea behind the modifications is to replace the difference of characteristic functions or predictions in the framework of Shapley values by values of divergence measures between the predicted class probability distribution. In the paper, both symmetric and non-symmetric divergence measures were studied. Numerical experiments which presented in the paper are illustrating method efficiency and allowing to analyze results obtained by different divergence metrics.