Details
| Title | Interpretation methods for machine learning models in the framework of survival analysis with censored data: a brief overview // Информатика, телекоммуникации и управление. – 2024. – Т. 17, № 3: Тематический сборник "Решение прикладных задач методами искусственного интеллекта". — С. 22-31 |
|---|---|
| Creators | Utkin L. V. ; Konstantinov A. V. ; Eremenko D. Yu. ; Zaborovsky V. S. ; Muliukha V. A. |
| Imprint | 2024 |
| Collection | Общая коллекция |
| Subjects | Радиоэлектроника ; Искусственный интеллект. Экспертные системы ; Вычислительная техника ; Прикладные информационные (компьютерные) технологии в целом ; machine learning ; machine learning models ; survival models (computing) ; reviews ; censored data ; explicable artificial intelligence ; probabilistic functions of time ; машинное обучение ; модели машинного обучения ; модели выживаемости (вычислительная техника) ; обзоры ; цензурированные данные ; объяснимый искусственный интеллект ; вероятностные функции времени |
| UDC | 004.8 ; 004.9 |
| LBC | 32.813 ; 32.973-018.2 |
| Document type | Article, report |
| File type | |
| Language | English |
| DOI | 10.18721/JCSTCS.17302 |
| Rights | Свободный доступ из сети Интернет (чтение, печать, копирование) |
| Record key | RU\SPSTU\edoc\74886 |
| Record create date | 12/17/2024 |
Methods of interpretation, or explanation, of predictions are an integral part of modern black-box machine learning models. They have become widespread due to the need for the user to understand what the machine learning model is predicting. This is especially important for survival analysis models, as they are used in medicine, system reliability, safety, and also have features that make them difficult to explain and interpret. The paper discusses the main methods for interpreting survival models that deal with censored data and determine the characteristics of the time until a certain event. A feature of such models is that their predictions are presented not as a point value, but as a probabilistic function of time, for example, a survival function or a risk function. This requires the development of special interpretation methods. The most well-known methods SurvLIME, SurvLIME-KS, SurvNAM and SurvBeX, SurvSHAP(t) are considered, which are based on the use of LIME and SHAP interpretation methods, the Cox model and its modifications, as well as the Beran estimator.
Методы интерпретации, или объяснения, предсказаний являются неотъемлемой частью современных моделей машинного обучения типа "черный ящик". Они получили широкое распространение, что обусловлено необходимостью понимания пользователем того, что предсказывает модель машинного обучения. Это особенно относится к моделям анализа выживаемости, так как они используются в медицине, надежности, безопасности, а также имеют особенности, которые усложняют их объяснение и интерпретацию. В работе рассматриваются основные методы интерпретации моделей выживаемости, которые оперируют с цензурированными данными и определяют характеристики времени до определенного события. Особенностью таких моделей является то, что их предсказания представляются не в виде некоторого точечного значения, а в виде вероятностной функции времени, например, функции выживаемости или функции риска. Это требует необходимости разработки специальных методов интерпретации. Рассмотрены наиболее известные методы SurvLIME, SurvLIME-KS, SurvNAM и SurvBeX, SurvSHAP(t), которые основаны на использовании методов интерпретации предсказаний LIME и SHAP, модели Кокса и ее модификации, а также оценки Берана.
| Network | User group | Action |
|---|---|---|
| ILC SPbPU Local Network | All |
|
| Internet | All |
|
Access count: 109
Last 30 days: 17
