Фреймворк SecAgg+ защищает федеративное обучение автопилотов от атак отравлением

Группа исследователей представила новый фреймворк SecAgg+, который защищает системы федеративного обучения с подкреплением в автономных транспортных средствах от атак отравления. Эта разработка закрывает критическую уязвимость, позволяя автомобилям совместно обучаться без риска внедрения вредоносных данных. Решение основано на использовании цифровых двойников и исторических параметров модели, что обеспечивает безопасную агрегацию даже в условиях активных атак.

Почему защита федеративного обучения критична для автопилотов

Автономное вождение относится к safety-critical системам, где любая ошибка управления может привести к авариям и жертвам. Федеративное обучение позволяет нескольким автомобилям совместно обучать модели, не передавая сырые данные, что повышает конфиденциальность. Однако уязвимость к атакам отравления, когда злоумышленник внедряет вредоносные параметры в глобальную модель, оставалась малоизученной. SecAgg+ закрывает эту брешь, обеспечивая безопасную агрегацию данных и подавляя влияние вредоносных агентов.

Как работает SecAgg+: цифровые двойники и историческое подкрепление

Фреймворк SecAgg+ интегрирует цифровые двойники для rehearsal-based обучения и использует исторические агрегированные параметры модели вместе с выбранным центральным градиентом. Это позволяет агрегировать только доброкачественные данные, подавляя влияние вредоносных агентов. Исследователи предоставили теоретические гарантии сходимости алгоритма при наличии атак отравления. Эксперименты проводились на разработанных цифровых двойниках, моделирующих реалистичные условия шоссе, для оценки управления автономными автомобилями в adversarial условиях.

Какие атаки на федеративное обучение предотвращает SecAgg+?

SecAgg+ специально разработан для защиты от атак отравления, при которых злоумышленник модифицирует локальные обновления модели, чтобы исказить глобальную модель. Такие атаки особенно опасны для автопилотов, так как могут привести к неправильному распознаванию объектов или ошибочным решениям. Фреймворк использует исторические данные для выявления аномалий и отбраковывает подозрительные обновления, не требуя дополнительной информации о клиентах.

Кого затронет новая технология

Разработчиков систем автономного вождения, исследователей в области федеративного обучения и безопасности, а также автопроизводителей, внедряющих технологии collaborative learning. Конечные пользователи — владельцы автономных автомобилей — получат более безопасные системы, устойчивые к атакам. SecAgg+ также может быть адаптирован для других safety-critical приложений, таких как медицинская диагностика или промышленная автоматизация.

Что пока неизвестно и перспективы развития

Не указаны практические метрики производительности SecAgg+ (например, накладные расходы на вычисления или задержки) по сравнению с существующими методами. Также не обсуждаются возможные сценарии атак, не связанные с отравлением параметров (например, атаки на целостность цифровых двойников). Тем не менее, работа представляет важный шаг в обеспечении безопасности федеративного обучения для автономных систем. Дальнейшие исследования могут быть направлены на оптимизацию производительности и расширение защиты на другие типы атак.