Применение PromSec: Алгоритма ИИ для оптимизации подсказок для безопасной и работоспособной генерации кода с использованием LLM
Проблема безопасности в производстве кода
LLM значительно ускорили разработку программного обеспечения, однако часто порождают код с уязвимостями. Для решения этой проблемы был представлен метод PromSec, который оптимизирует подсказки LLM для генерации безопасного и функционального кода.
Основные решения PromSec
1. Устранение уязвимостей: PromSec использует генеративную адверсарную графовую нейронную сеть (gGAN) для обнаружения и устранения уязвимостей в коде.
2. Интерактивный цикл: PromSec создает обратную связь между gGAN и LLM, что позволяет улучшить качество подсказок и обеспечить безопасность кода.
Преимущества и применение PromSec
Применение контрастного обучения в gGAN позволяет оптимизировать генерацию кода, сокращая время и затраты на анализ безопасности. Результаты тестирования на наборах данных Python и Java показали, что PromSec значительно повышает уровень безопасности созданного кода, снижая операционные расходы.
Программа PromSec может быть применена к различным языкам программирования, обеспечивая безопасность и функциональность кода.
Заключение
Применение PromSec — важный шаг в использовании LLM для безопасной генерации кода. Это решение значительно повышает надежность LLM для разработки программного обеспечения и предоставляет масштабируемое и доступное решение.
