Details

Целью работы является повышение устойчивости системы федеративного обучения к атакам отравления. Объектом исследования являются системы федеративного обучения, подверженные атакам отравления. Задачи, решаемые в ходе исследования: 1. Проанализировать особенности обеспечения безопасности систем федеративного обучения. 2. Разработать способ защиты систем федеративного обучения от атак отравления. 3. Экспериментально оценить эффективность предложенного способа защиты. В ходе работы была исследована архитектура федеративного обучения и основные типы атак отравления. Был проведён анализ существующих алгоритмов защиты, выявлены их недостатки. В результате работы был разработан комбинированный способ защиты и экспериментально подтверждена его эффективность. Для достижения данных результатов была разработана программа на языке Python с использованием библиотек TensorFlow, TensorFlow Federated, NumPy, Pandas и Matplotlib. Эксперименты проводились на наборе данных прогнозирования выработки электроэнергии, моделирующем реальный промышленный сценарий.

The purpose of the study is to increase the resilience of federated learning systems to poisoning attacks. The object of the work is federated learning systems susceptible to poisoning attacks. The research set the following goals: 1. Analysis of security features of federated learning systems. 2. Development of a defense method for federated learning systems against poisoning attacks. 3. Experimental evaluation of the effectiveness of the proposed defense method. During the work, the architecture of federated learning and the main types of poisoning attacks were studied. An analysis of existing robust aggregation methods was carried out, and their limitations were identified. As a result, a combined defense method was developed. The effectiveness of the proposed method was experimentally confirmed. To achieve these results, a program was developed in Python using the TensorFlow, TensorFlow Federated, NumPy, Pandas and Matplotlib libraries. Experiments were conducted on an electricity generation forecasting dataset simulating a real industrial case.