Алгоритм стійкої агрегації клієнтських оновлень для протидії атакам отруєння моделі (model poisoning) у федеративному навчанні
Анотація
У статті розглянуто проблему протидії атакам типу model poisoning у системах федеративного навчання. Показано, що етап агрегації клієнтських оновлень є критично важливим з погляду кібербезпеки, оскільки скомпрометовані клієнти можуть передавати навмисно спотворені локальні оновлення та впливати на якість глобальної моделі. Запропоновано алгоритм стійкої агрегації клієнтських оновлень, який поєднує стандартну вагу FedAvg, що враховує розмір локального набору даних, із додатковим коефіцієнтом надійності оновлення. Для оцінювання надійності використовується нормована евклідова відстань між клієнтським оновленням і референтним оновленням, яке визначається як покомпонентна медіана множини отриманих оновлень. Такий підхід дає змогу зменшувати вплив підозрілих або потенційно отруєних оновлень без їх жорсткого виключення з процесу агрегації. Наведено формальний опис алгоритму, схему його роботи, аналіз очікуваної поведінки для типових, гетерогенних і підозрілих клієнтських оновлень, а також ілюстративний числовий приклад розрахунку робастних ваг. Запропонований підхід може бути використаний для підвищення стійкості систем машинного та глибокого навчання в умовах кіберзагроз, зокрема для захисту даних та інформаційної інфраструктури об’єктів критичної інфраструктури.
Посилання
2. Kairouz, P., McMahan, H. B., Avent, B., Bellet, A., Bennis, M., Bhagoji, A. N., Bonawitz, K., Charles, Z., Cormode, G., Cummings, R., et al. (2021). Advances and open problems in federated learning. Foundations and Trends in Machine Learning, 14(1–2), 1–210. https://doi.org/10.1561/2200000083
3. Blanchard, P., El Mhamdi, E. M., Guerraoui, R., & Stainer, J. (2017). Machine learning with adversaries: Byzantine tolerant gradient descent. Advances in Neural Information Processing Systems, 30, 119–129.
4. Yin, D., Chen, Y., Ramchandran, K., & Bartlett, P. (2018). Byzantine-robust distributed learning: Towards optimal statistical rates. Proceedings of the 35th International Conference on Machine Learning, 80, 5650–5659.
5. Fang, M., Cao, X., Jia, J., & Gong, N. Z. (2020). Local model poisoning attacks to Byzantine-robust federated learning. Proceedings of the 29th USENIX Security Symposium, 1605–1622. https://doi.org/10.5555/3489212.3489304
