Новый метод нападения MALT: нацеленность на среднемасштабную почтилинейность

Исследование MALT (Mesoscopic Almost Linearity Targeting): новый метод атаки среднемасштабной адаптации, основанный на предположениях о почти линейности

Атаки на машинное обучение — это попытки обмануть модель машинного обучения, приведя ее к неправильному прогнозу. Они создают слегка измененные версии реальных данных (например, изображений), которые человек не заметил бы как различия, но которые заставляют модель классифицировать их неправильно. Нейронные сети известны своей уязвимостью к атакам, вызывая опасения относительно надежности и безопасности систем машинного обучения в критических приложениях, таких как классификация изображений. Например, системы распознавания лиц, используемые для целей безопасности, могут быть обмануты примерами атак, что позволит несанкционированным лицам получить доступ.

Исследователи из Института науки Вейцмана, Израиль, и Центра науки о данных Нью-Йоркского университета представили MALT (Mesoscopic Almost Linearity Targeting) для решения проблемы атак на нейронные сети, которые используют уязвимости в моделях машинного обучения. Существующая передовая атака, AutoAttack, использует стратегию, основанную на уровнях уверенности модели, но требует больших вычислительных затрат. Подход AutoAttack ограничивает количество направленных классов из-за вычислительных ограничений, что может пропустить уязвимые классы и не сгенерировать атаки на определенные входы.

MALT — это новый метод атаки, вдохновленный гипотезой о том, что нейронные сети проявляют почти линейное поведение на мезоскопическом масштабе. В отличие от традиционных методов, которые полагаются исключительно на уверенность модели, MALT переупорядочивает потенциальные целевые классы на основе нормализованных градиентов, нацеленных на определение классов, требующих минимальных изменений для неправильной классификации.

MALT позволяет эффективно генерировать атаки для моделей машинного обучения, используя принцип «мезоскопической почти линейности». Этот принцип предполагает, что для небольших изменений во входных данных поведение модели может быть приближено к линейному. В более простых терминах можно представить процесс принятия решения модели как ландшафт с холмами и долинами. MALT сосредотачивается на изменении данных в небольшой области, где этот ландшафт может рассматриваться как плоская плоскость. MALT использует техники оценки градиента, чтобы понять, как небольшие изменения во входных данных повлияют на вывод модели. Это помогает определить, какие пиксели или функции изображения изменить для достижения желаемой неправильной классификации. Кроме того, MALT использует итерационный процесс оптимизации. Он начинается с начального изменения во входных данных, затем уточняет эти изменения на основе информации о градиенте. Этот процесс продолжается до тех пор, пока модель уверенно не классифицирует данные как целевой класс.

В заключение, данное исследование представляет собой значительный прогресс в методах атаки за счет внедрения более эффективной стратегии нацеливания. Путем использования мезоскопической почти линейности MALT сосредотачивается на небольших локализованных изменениях данных, что снижает сложность процесса оптимизации по сравнению с методами, исследующими более широкий спектр изменений. MALT демонстрирует значительные преимущества перед существующими методами атаки, особенно в плане скорости и эффективности.

Ознакомьтесь с документом. Вся заслуга за это исследование принадлежит его авторам. Также не забудьте подписаться на нас в Twitter и присоединиться к нашему сообществу в Telegram и LinkedIn.

Пара слов о партнерстве

Если вас интересует продвижение (контент/рассылка), заполните форму.

Применение искусственного интеллекта в вашем бизнесе

Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, грамотно используйте MALT (Mesoscopic Almost Linearity Targeting): A Novel Adversarial Targeting Method based on Medium-Scale Almost Linearity Assumptions .

Практическое использование ИИ

Проанализируйте, как ИИ может изменить вашу работу. Определите, где возможно применение автоматизации: найдите моменты, когда ваши клиенты могут извлечь выгоду из AI. Определитесь какие ключевые показатели эффективности (KPI): вы хотите улучшить с помощью ИИ. Подберите подходящее решение, сейчас очень много вариантов ИИ. Внедряйте ИИ решения постепенно: начните с малого проекта, анализируйте результаты и KPI. На полученных данных и опыте расширяйте автоматизацию.

Получение советов по внедрению ИИ

Если вам нужны советы по внедрению ИИ, пишите нам на Telegram. Следите за новостями о ИИ в нашем Телеграм-канале или в Twitter.

Пробуйте AI Sales Bot

Попробуйте AI Sales Bot. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж, снижать нагрузку на первую линию.

Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab. Будущее уже здесь!