Details

Целью работы является повышение точности и снижение потерь глобальной модели в системах федеративного обучения c гомоморфным шифрованием в условиях атак отравления за счёт применения маскирования для частичного раскрытия обновлений локальных моделей. Объектом исследования являются системы федеративного обучения, использующие гомоморфное шифрование для обеспечения конфиденциальности. Задачи, решаемые в ходе исследования: 1. Проанализировать атаки отравления на глобальную модель в системах федеративного обучения. 2. Проанализировать совместимость стратегий защиты от атак отравления с гомоморфным шифрованием. 3. Разработать метод на основе маскирования для противодействия атакам отравления в условиях гомоморфно зашифрованных обновлений. 4. Реализовать экспериментальный предложенный метод. стенд и протестировать В ходе работы проанализирована совместимость стратегий защиты от атак отравления с гомоморфным шифрованием. Предложен и реализован метод на основе маскирования для противодействия атакам отравления в системах федеративного обучения в условиях гомоморфно зашифрованных обновлений участников.  Разработанное решение может быть использовано при создании распределённых систем машинного обучения, требующих защиты как пользовательских данных, так и глобальной модели. Для достижения данных результатов была разработана экспериментальная система федеративного обучения на основе фреймворка Flower, в которой был реализован предложенный метод.

The purpose of the study is to improve the accuracy and reduce the loss of the global model in federated learning systems with homomorphic encryption under poisoning attacks, by applying masking for partial disclosure of local model weights. The object of the study is federated learning systems that use homomorphic encryption to ensure confidentiality. The research set the following goals: 1. Study poisoning attacks targeting the global model in federated learning systems. 2. Analyze the compatibility of poisoning-attack defense strategies with homomorphic encryption. 3. Develop a masking-based method to counter poisoning attacks under homomorphically encrypted updates. 4. Implement an experimental framework and evaluate the method. During the work, the compatibility of poisoning-attack defense strategies with homomorphic encryption was analyzed. As a result, a masking-based method was proposed and implemented to counter poisoning attacks in federated learning systems under conditions of homomorphically encrypted participant updates. The developed solution can be used in the creation of distributed machine-learning systems that require protection of both user data and the global model. To achieve these results, an experimental federated learning system based on the Flower framework was developed, in which the proposed method was implemented.