Улучшение устойчивости к вредоносным атакам в машинном обучении на табличных данных.

Преимущества использования AdvDGMs в машинном обучении на табличных данных

Практические решения и ценность:

Адверсариальное машинное обучение — это область, которая сосредотачивается на проверке и улучшении устойчивости систем машинного обучения (ML) через адверсариальные примеры. Эти примеры создаются путем тонкой модификации данных для обмана моделей и получения неверных прогнозов.

Глубокие генеративные модели (DGMs) показали значительный потенциал в создании таких адверсариальных примеров, особенно в компьютерном зрении, где визуальные данные проверяют устойчивость моделей. Расширение этой техники на другие типы данных, особенно на табличные данные, вносит дополнительные вызовы из-за необходимости сохранения реалистичных отношений между признаками.

Исследователи из Университета Люксембурга, Оксфордского университета и Имперского колледжа Лондона представили новый подход, преобразовав существующие DGM в адверсариальные DGM (AdvDGMs) и улучшив их добавлением слоя восстановления ограничений. Эти улучшенные модели, называемые ограниченными адверсариальными DGM (C-AdvDGMs), позволяют исследователям генерировать адверсариальные данные, которые не только изменяют прогнозы ML модели, но и соблюдают логические правила и отношения внутри набора данных.