Точность 0,76 достигнута ArKrum и DP-SGD в массовом тесте на 10 миллионов узлов

Алгоритм ArKrum в сочетании с Дифференциально Частично Защищённым Стохастическим Градиентным Спуском (DP-SGD) продемонстрировал свою операционную способность в крайне требовательной среде: распределённой сети, достигшей 10 миллионов участвующих узлов. Этот рубеж представляет собой значительный прогресс в масштабируемости систем децентрализованного обучения при соблюдении требований конфиденциальности.

Детали экспериментального теста

Техническая проверка проводилась в специально созданных условиях с преднамеренно неблагоприятными сценариями. Коэффициент шума был установлен на 0.3, что является критическим параметром, отражающим баланс между защитой конфиденциальности и целостностью модели. В течение 20 последовательных раундов распределённого обучения система обрабатывала данные набора CIFAR-10, одновременно имитируя присутствие 30% злонамеренных узлов — значительно высокой пропорции, моделирующей реальные сценарии устойчивости.

Моделирование осуществлялось с помощью распределённой инфраструктуры Torch, позволяя десяткам миллионов вычислительных узлов синхронно координировать градиенты.

Достигнутые показатели

Конечный результат: точность 0.76. Этот показатель показывает умеренное снижение по сравнению с предыдущей симуляцией при 1 миллионе узлов, что в основном связано с возникающей сложностью координации на такой масштабной платформе. Несмотря на этот фактор, система продемонстрировала операционную устойчивость без критических сбоев, подтверждая, что ArKrum сохраняет свои защитные возможности даже под давлением экспоненциальной координации.

Перспективы на будущее

Исследователи выделили два приоритетных направления: интеграцию проверки через блокчейн для подтверждения целостности раундов обучения или воспроизведение текущего эксперимента с использованием набора MNIST, что позволило бы проверить согласованность поведения алгоритма в различных доменах данных. Оба направления направлены на укрепление надёжности системы в сценариях с участием нескольких миллионов узлов.