Соответствует содержанию федеральной дисциплины «Машины опорных векторов» государственного образовательного стандарта по направлению подготовки бакалавров 01.03.02 «Прикладная математика и информатика», специальность 01.03.02_02 «Системное программирование». Рассмотрены основные принципы и идеи современного подхода к решению задачи восстановления зависимостей по эмпирическим данным. Приведены основные базовые идеи реализации SVM-методов. Сделан обзор наиболее эффективных алгоритмов построения машин опорных векторов для задач бинарной классификации, кластеризации и восстановления регрессии. Предназначено для студентов, обучающихся по бакалаврским и магистерским программам, а также для аспирантов, изучающих методы и алгоритмы машинного обучения.

The training manual corresponds to the content of the federal discipline “Support Vector Machines” of the state educational standard for the bachelor’s degree major 01.03.02 “Applied Mathematics and Computer Science”, stream 01.03.02_02 “System Programming”. The manual considers the basic principles and ideas of the modern approach to solving the problem of reconstructing dependencies from empirical data. The main basic ideas of implementing SVM methods are presented. The authors made a review of the most effective algorithms for constructing support vector machines for the tasks of binary classification, clustering, and regression recovery. The manual is intended for students enrolled in bachelor’s and master’s degree programs, as well as for graduate students studying methods and algorithms of machine learning.

• ОГЛАВЛЕНИЕ
• ВВЕДЕНИЕ
• 1. ОБЩАЯ ПОСТАНОВКА ЗАДАЧИ ОБУЧЕНИЯС УЧИТЕЛЕМ
• 2. СТРУКТУРНАЯ МИНИМИЗАЦИЯ РИСКА
• 3. ЛИНЕЙНЫЙ SVM-КЛАССИФИКАТОР
• 3.1. Линейно разделимые данные
• 3.2. Линейно неразделимые данные
• 4. НЕЛИНЕЙНОЕ SVM-ОБУЧЕНИЕ
• 5. ЯДЕРНЫЕ МЕТОДЫ
• 5.1. Представление данных
• 5.2. Положительно-определенные ядра
• 5.3. Ядро как скалярное произведение
• 5.4. Ядро как мера подобия объектов
• 5.5. Ядро как мера гладкости функций
• 6. SVM-ПОДХОД К РЕШЕНИЮ ЗАДАЧИВОССТАНОВЛЕНИЯ РЕГРЕССИИ
• 6.1. Постановка задачи
• 6.2. Функции потерь
• 6.3. Нелинейное SVR-обучение
• 7. КАЧЕСТВО АЛГОРИТМОВ ОБУЧЕНИЯ
• 8. ОСНОВНЫЕ ЭТАПЫ ПОСТРОЕНИЯ МАШИНОПОРНЫХ ВЕКТОРОВ
• 8.1. Характеристики качества обучения
• 8.2. Стратегии формирования выборок при настройке машиныопорных векторов
• 8.3. Настройка машины опорных векторов
• 9. ОСНОВНЫЕ ПОДХОДЫ К ПОСТРОЕНИЮ SV-МАШИННА ПРАКТИКЕ
• 9.1. Решение двойственной задачи SVM-обучения
• 9.2. Декомпозиция двойственной задачи
• 9.3. Базовые идеи SV-алгоритмов
• 9.4. Преимущества SVM-подхода
• 10. SV-АЛГОРИТМ РЕШЕНИЯ ЗАДАЧИ КЛАСТЕРИЗАЦИИ
• 10.1. SV-кластеризация
• 10.2. Определение границ кластеров
• 10.3. Маркировка кластеров
• 10.4. Подбор значений гиперпараметров SVC-алгоритма
• БИБЛИОГРАФИЧЕСКИЙ СПИСОК