«`html
Groq выпустил модели Llama-3-Groq-70B-Tool-Use и Llama-3-Groq-8B-Tool-Use: инновационные источники с открытым исходным кодом
Groq недавно выпустил две инновационные модели с открытым исходным кодом для использования инструментов: Llama-3-Groq-70B-Tool-Use и Llama-3-Groq-8B-Tool-Use. Эти модели разработаны в сотрудничестве с Glaive и предназначены для продвижения возможностей использования инструментов и вызова функций в ИИ.
Высокая производительность на лидирующих позициях
Модель Llama-3-Groq-70B-Tool-Use — это модель с самой высокой производительностью на доске лидеров по вызову функций Беркли (BFCL), превосходящая все другие модели с открытым исходным кодом и проприетарные модели. Достигнув впечатляющей общей точности в 90,76%, она установила новую отметку в этой области. Аналогично, модель Llama-3-Groq-8B-Tool-Use также продемонстрировала замечательную производительность с общей точностью 89,06%, заняв третье место на BFCL. Эти модели теперь доступны на GroqCloud Developer Hub и Hugging Face под той же лицензией свободного использования, что и оригинальные модели Llama-3.
Этические стандарты и обучение моделей
Разработка этих моделей включала тщательный подход к обучению, объединяющий полную настройку и оптимизацию прямого предпочтения (DPO). При этом в процессе обучения не использовались данные пользователей; вместо этого модели обучались с использованием этично сгенерированных данных. Этот подход гарантирует, что модели имеют высокую производительность и соответствуют этическим стандартам в разработке ИИ. В процессе обучения также проводился тщательный анализ загрязнения с использованием метода LMSYS. Это привело к низкому уровню загрязнения всего 5,6% для данных SFT и 1,3% для данных DPO, что указывает на минимальное переобучение на оценочной доске.
Специализированные возможности и рекомендации по применению
Помимо специализированных возможностей использования инструментов, модели Llama-3 Groq Tool Use рекомендуется использовать в гибридном подходе с универсальными языковыми моделями. Эта стратегия включает в себя реализацию маршрутизации, которая анализирует поступающие запросы пользователей, чтобы определить наиболее подходящую модель для каждого запроса. Для запросов, связанных с вызовом функций, взаимодействием с API или манипулированием структурированными данными используются модели Llama-3 Groq Tool Use. Для общих знаний, свободных бесед или задач, не связанных специально с использованием инструментов, рекомендуется использовать универсальную языковую модель, например, неизмененную модель Llama-3 70B. Этот подход гарантирует, что каждый запрос обрабатывается наиболее подходящей моделью, максимизируя общую производительность и возможности системы ИИ.
Предложения и рекомендации по использованию
Модели Llama-3-Groq-70B-Tool-Use и Llama-3-Groq-8B-Tool-Use доступны для предварительного доступа через API от Groq, с идентификаторами моделей llama3-groq-70b-8192-tool-use-preview и llama3-groq-8b-8192-tool-use-preview соответственно. Groq призывает сообщество начать создавать и экспериментировать с этими моделями через GroqCloud Developer Hub, устраивая путь для будущих инноваций в области использования инструментов в ИИ.
Заключение
Groq представил модели Llama-3-Groq-Tool-Use с передовой производительностью и свободной лицензией для использования. Эти модели готовы оказать значительное влияние на исследования и разработку ИИ. Обязательства Groq по этическому развитию ИИ и его совместный подход с сообществом подчеркивают лидерство компании в этой области.
Источник изображения: [Image Source]
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ) и оставалась в числе лидеров, обратитесь к нам для подбора подходящего решения и советов по внедрению ИИ. Мы предлагаем решения для постепенного внедрения ИИ в ваши процессы, а также обучение и сопровождение во время реализации. Следите за новостями о ИИ в нашем Телеграм-канале [t.me/itinainews] или в Twitter [itinairu45358].
Попробуйте AI Sales Bot [https://itinai.ru/aisales]. Этот AI ассистент в продажах помогает отвечать на вопросы клиентов, генерировать контент для отдела продаж и снижать нагрузку на первую линию.
Узнайте, как ИИ может изменить ваши процессы с решениями от AI Lab [itinai.ru] – будущее уже здесь!
Если вам нужны советы по внедрению ИИ, пишите нам на [https://t.me/itinai].
«`
