«`html
Встречайте Crossfire: Эластичная защитная система для графовых нейронных сетей
Графовые нейронные сети (GNNs) находят применение во многих областях, таких как обработка естественного языка и анализ социальных сетей. Однако, защита GNNs от атак становится важной задачей. Исследователи выявили уязвимости, связанные с атаками на биты (Bit Flip Attacks, BFA). Эти атаки уже применялись к свёрточным нейронным сетям, и теперь их адаптировали для GNNs. Существующие методы защиты имеют серьезные ограничения: они не могут полностью восстановить сеть после атаки или требуют дорогих оценок после атаки. Исследователи Венского университета разработали новое решение под названием Crossfire, которое эффективно использует существующие механизмы защиты и восстанавливает сети.
Проблемы традиционных защитных механизмов
Атаки на биты манипулируют отдельными битами бинарного кода модели глубокого обучения, что значительно ослабляет её производительность и создаёт серьезные проблемы безопасности. Наиболее распространённые методы защиты — это honeypots и хэширование. Системы honeypot включают в себя элементы-ло́вушки для обнаружения атак, тогда как хэширование используется для выявления изменений в весах, но не может восстановить повреждения.
Решение Crossfire
Crossfire — это адаптивная гибридная модель, которая сочетает в себе методы honeypot и хэширования для обнаружения BFA и восстановления модели после атаки с помощью коррекции весов на уровне битов. Основные механизмы Crossfire:
- Кодирование битовой избыточности: Crossfire устанавливает некоторые веса в ноль, чтобы уменьшить количество активных весов в GNN. Это направляет атакующих на менее критичные веса, предотвращая значительный ущерб.
- Эластичная коррекция весов: Хэши первого слоя определяют, где произошло изменение после атаки, а хэши строк и столбцов указывают точное место. Коррекция производится с использованием honeypot на уровне битов или обнуляется, если другие варианты не сработали.
В ходе 2160 экспериментов Crossfire продемонстрировал на 21.8% большую вероятность восстановления атакованной GNN до состояния до атаки по сравнению с конкурентными методами и улучшил качество предсказаний после ремонта на 10.85%. Кроме того, Crossfire поддерживал высокую производительность при до 55 битовых переворотах от различных атак.
Почему стоит использовать Crossfire?
Crossfire значительно улучшает защищённость GNN от атак на биты с помощью нового эффективного и высокоэффективного адаптивного метода. Благодаря своей адаптивной природе Crossfire позволяет динамически распределять вычислительные ресурсы в зависимости от степени обнаруженной атаки, что делает его эффективным и масштабируемым решением.
Таким образом, использование Crossfire обеспечивает надежность GNN в различных областях, делая ваши приложения более безопасными и эффективными.
«`
