
«`html
Быстрое развитие крупных языковых моделей (LLM) значительно улучшило разговорные системы, генерируя естественные и качественные ответы. Однако несмотря на эти достижения, недавние исследования выявили несколько ограничений в использовании LLM для разговорных задач. Для решения этих проблем был предложен адаптивный метод RAGate, который позволяет определять, когда необходимо использовать внешние знания для улучшения ответов разговорной системы.
Существующие исследования исследовали различные методы улучшения разговорных ответов, в основном сосредотачиваясь на извлечении знаний и совместной оптимизации компонентов извлекателя и генератора. Тем не менее, большинство техник извлечения и генерации (RAG) предполагают, что каждый разговор требует внешних знаний, что может привести к включению ненужной и несвоевременной информации в ответы.
RAGate — это модель, использующая человеческие оценки для определения необходимости использования внешних знаний. Она направлена на улучшение эффективности и эффективности разговорных систем, динамически принимая решение о необходимости дополнения на основе контекста разговора и соответствующих входных данных.
Авторы исследовали три варианта RAGate: RAGate-Prompt, RAGate-PEFT и RAGate-MHA, каждый из которых предлагает уникальный подход к определению необходимости использования внешних знаний для улучшения ответов разговорных систем.
Авторы провели обширные эксперименты на аннотированном наборе данных системы, ориентированной на задачи (TOD) KETOD, охватывающем 16 доменов, таких как Ресторан и Погода. Экспериментальные результаты показывают, что RAGate позволяет разговорным системам эффективно использовать внешние знания в соответствующих разговорных поворотах, производя высококачественные ответы системы.
Кроме того, исследование обнаружило положительную корреляцию между рассчитанным баллом уверенности и актуальностью дополненных знаний. Это свидетельствует о том, что динамическое определение необходимости дополнения на основе уровня уверенности может привести к более точным и актуальным ответам, улучшая общий опыт пользователя.
Статья рассматривает проблему определения момента использования дополнительных знаний в разговорных системах. Предложенное решение, RAGate, эффективно определяет разговорные повороты, требующие дополнения, обеспечивая естественные, актуальные и контекстно соответствующие ответы. Путем использования человеческих оценок и передовых языковых моделей RAGate улучшает эффективность и производительность техник извлечения и генерации, предоставляя ценный вклад в развитие передовых разговорных систем.
Проверьте статью. Вся заслуга за это исследование принадлежит его авторам. Также не забудьте подписаться на наш Twitter и присоединиться к нашей группе в LinkedIn. Если вам нравится наша работа, вам понравится наша рассылка.
Не забудьте присоединиться к нашему 47k+ ML SubReddit
Находите предстоящие вебинары по ИИ здесь
Arcee AI выпустила DistillKit: открытый инструмент для модельного дистилляции для создания эффективных малых языковых моделей
Попробуйте AI Sales Bot здесь. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab здесь. Будущее уже здесь!
«`
Оставьте заявку — мы свяжемся с вами и расскажем, как начать работу