«`html
Контроль уровня владения языком в сгенерированных текстах от больших языковых моделей (LLM) представляет существенную проблему в исследованиях по искусственному интеллекту (ИИ).
Гарантирование соответствия сгенерированного контента различным уровням владения языком является ключевым для применения в языковом обучении, образовании и других контекстах, где пользователи могут не обладать полным владением целевым языком. Без эффективного контроля владения, удобство использования и эффективность контента, созданного LLM, значительно снижается, особенно для носителей неродного языка, детей и изучающих язык.
Текущие методы решения этой проблемы включают:
- несколько примеров-подсказок (few-shot prompting);
- наблюдаемую настройку (supervised finetuning);
- оптимизацию ближайшей политики (Proximal Policy Optimization, PPO) для доработки выводов модели.
Однако у этих методов есть ограничения, исследователи из Стэнфорда и Duolingo предлагают разработку модели CEFR-Aligned Language Model (CALM), которая объединяет настройку и PPO для выравнивания уровней владения в соответствии со стандартами Общеевропейской шкалы владения языком (CEFR).
Преимущества CALM:
- Высококачественный контент с управляемым уровнем владения;
- Сниженные затраты по сравнению с проприетарными моделями;
- Доступность генерации контента с управляемым уровнем владения.
Технические аспекты:
- Использование лингвистических особенностей для автоматического оценивания уровня владения языком по CEFR;
- Применение техник оптимизации ближайшей политики для минимизации отклонения генерируемого текста от целевого уровня владения.
Исследования показывают, что модель CALM достигает сравнимого с GPT-4 уровня ControlError, значительно сокращая затраты. Результаты были подтверждены как автоматическими оценками, так и масштабным исследованием, демонстрируя высокие оценки качества и соответствия уровню владения. При этом CALM с топ-3 отбором достигает уровня ControlError 0.15, превосходя другие модели и стратегии.
Это исследование обладает потенциалом улучшить приложения в образовании и языковом обучении, делая передовые инструменты ИИ более доступными для широкой аудитории.
Мы также приглашаем вас посетить наш сайт, чтобы ознакомиться с AI Sales Bot, который поможет справляться с вопросами клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.
Для получения советов по внедрению ИИ и следить за новостями, подписывайтесь на наш Телеграм-канал и Twitter.
Используйте решения AI Lab itinai.ru для изменения ваших процессов с помощью ИИ.
«`
