Details

В данной работе предложены робастные модификации алгоритма машинного обучения – случайный лес, которые используются для решения задач классификации и регрессии. Случайный лес реализуются с помощью построения множества деревьев решений и усреднения их результатов. Для выборок малого размера их результат нельзя рассматривать как точный. Основная идея модификаций состоит в замене обычного усреднения на взвешенное усреднение, при этом веса учитывают, что оценки деревьев решений являются неточными. Для этого точечные прогнозы заменяются на интервальные с помощью интервальных статистических моделей и доверительных интервалов. Предложены специальные модификации целевых функций в задачах классификации и регрессии, чтобы упростить задачи оптимизации для вычисления оптимальных весов.

In the given work, one proposes robust modifications of the machine learning algorithm, Random Forest, which are used to solve classification and regression problems. Random Forest is implemented by constructing a set of Decision Trees and averaging their estimates. For small samples, the estimates cannot be regarded as accurate. The main idea of the modifications is replacing the usual averaging by a weighted averaging in which weights take into account that the estimates of decision trees are imprecise. For this, point forecasts are replaced by interval forecasts using Imprecise Statistical Inference Models and Confidence Intervals. Special modifications of objective functions in classification and regression problems are proposed in order to simplify optimization problems for calculating optimal weights.