«`html
Google AI Introduce AGREE: A Machine Learning Framework that Enables LLMs to Self-Ground the Claims in their Responses and to Provide Precise Citations
Сохранение точности больших языковых моделей (LLM), таких как GPT, критически важно, особенно в случаях, требующих фактической точности, таких как новостное вещание или создание учебного контента. Не смотря на их впечатляющие возможности, LLM подвержены генерации правдоподобной, но недостоверной информации, известной как «галлюцинации», обычно при столкновении с открытыми вопросами, требующими широких мировых знаний. Исследователи Google AI представили AGREE для решения проблемы «галлюцинаций», когда LLM генерируют ответ, который фактически неверен, бессмыслен или оторван от входного запроса.
Предложенное решение AGREE (Adaptation for GRounding EnhancEment)
AGREE представляет собой основанную на обучении структуру, которая позволяет LLM самостоятельно обосновывать свои ответы и предоставлять точные цитаты. AGREE использует комплексный подход, комбинируя обучение на основе адаптации и адаптации во время тестирования (TTA). Во время обучения AGREE настраивает LLM, используя синтетические данные из неразмеченных запросов, позволяя им самостоятельно обосновывать свои утверждения, добавляя цитаты к своим ответам. В процессе обучения AGREE собирает синтетические данные из неразмеченных запросов, извлекает соответствующие отрывки из надежных источников, используя модель извлечения, и настраивает базовую LLM для самостоятельного обоснования своих утверждений. Процесс настройки использует модель NLI для оценки поддержки каждого утверждения и добавления цитат в соответствии с ним. Эксперименты по пяти наборам данных демонстрируют эффективность AGREE в улучшении обоснования и точности цитирования по сравнению с базовыми методами.
Заключение
AGREE эффективно решает проблему галлюцинаций в LLM, работая над их фактичностью и верификацией. Предлагаемый подход AGREE представляет собой сильное решение, превосходящее текущие подходы и подходящее для широкого спектра наборов данных. AGREE обладает потенциалом для продвижения надежных языковых моделей, подходящих для реальных приложений, требующих высокой фактической точности.
Проверьте Paper и Blog. Вся благодарность за это исследование исследователям этого проекта. Также не забудьте подписаться на нас в Twitter. Присоединяйтесь к нашему Telegram Channel, Discord Channel и LinkedIn Group.
Если вам нравится наша работа, вам понравится наш newsletter.
Не забудьте присоединиться к нашему 43k+ ML SubReddit | Также, ознакомьтесь с нашей платформой AI Events.
Исследуйте, как ИИ может изменить ваш бизнес. Определите, где можно применить автоматизацию и какие KPI можно улучшить с помощью ИИ.
Выберите подходящее решение из множества вариантов ИИ. Внедряйте ИИ постепенно, начиная с маленьких проектов и анализируя результаты и KPI.
Если вам нужны советы по внедрению ИИ, пишите нам на https://t.me/itinai. Следите за новостями об ИИ в нашем Телеграм-канале или в Twitter.
Попробуйте AI Sales Bot. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab. Будущее уже здесь!
«`
