Детальная информация

Methods of interpretation, or explanation, of predictions are an integral part of modern black-box machine learning models. They have become widespread due to the need for the user to understand what the machine learning model is predicting. This is especially important for survival analysis models, as they are used in medicine, system reliability, safety, and also have features that make them difficult to explain and interpret. The paper discusses the main methods for interpreting survival models that deal with censored data and determine the characteristics of the time until a certain event. A feature of such models is that their predictions are presented not as a point value, but as a probabilistic function of time, for example, a survival function or a risk function. This requires the development of special interpretation methods. The most well-known methods SurvLIME, SurvLIME-KS, SurvNAM and SurvBeX, SurvSHAP(t) are considered, which are based on the use of LIME and SHAP interpretation methods, the Cox model and its modifications, as well as the Beran estimator.

Методы интерпретации, или объяснения, предсказаний являются неотъемлемой частью современных моделей машинного обучения типа "черный ящик". Они получили широкое распространение, что обусловлено необходимостью понимания пользователем того, что предсказывает модель машинного обучения. Это особенно относится к моделям анализа выживаемости, так как они используются в медицине, надежности, безопасности, а также имеют особенности, которые усложняют их объяснение и интерпретацию. В работе рассматриваются основные методы интерпретации моделей выживаемости, которые оперируют с цензурированными данными и определяют характеристики времени до определенного события. Особенностью таких моделей является то, что их предсказания представляются не в виде некоторого точечного значения, а в виде вероятностной функции времени, например, функции выживаемости или функции риска. Это требует необходимости разработки специальных методов интерпретации. Рассмотрены наиболее известные методы SurvLIME, SurvLIME-KS, SurvNAM и SurvBeX, SurvSHAP(t), которые основаны на использовании методов интерпретации предсказаний LIME и SHAP, модели Кокса и ее модификации, а также оценки Берана.

Информатика, телекоммуникации и управление = Computing, Telecommunications and Control. — Санкт-Петербург: СПбПУ, 2020-. — Электрон. журнал. — Периодичность: 4 раза в год. — Свободный доступ из сети Интернет (чтение, печать, копирование). — Текст: электронный

Информатика, телекоммуникации и управление = Computing, Telecommunications and Control. — Санкт-Петербург: СПбПУ, 2020-. Т. 17, № 3: Тематический сборник "Решение прикладных задач методами искусственного интеллекта", 2024. — 1 файл (12,6 Мб). — Свободный доступ из сети Интернет (чтение, печать, копирование). — <URL:http://elib.spbstu.ru/dl/2/j24-421.pdf>.