«`html
Fireworks AI Releases Firefunction-v2: Решение для Вызова Функций
Простое и эффективное использование ИИ для улучшения бизнеса
Fireworks AI выпускает Firefunction-v2, модель вызова функций с открытым исходным кодом, разработанную для превосходной работы в реальных сценариях. Она интегрируется с многоразовыми разговорами, выполнением инструкций и параллельными вызовами функций. Firefunction-v2 предлагает надежное и эффективное решение, не уступающее дорогим моделям, таким как GPT-4o, но обладающее превосходной скоростью и функциональностью.
Введение в Firefunction-v2
Возможности крупных языковых моделей (LLM) существенно улучшились в последние годы, особенно с выпуском Llama 3. Эти достижения подчеркнули важность вызова функций, позволяющего моделям взаимодействовать с внешними API и расширять их утилиты за пределами работы со статическими данными. Firefunction-v2 наращивает эти достижения, предлагая модель для реальных сценариев, включая многоразовые разговоры, выполнение инструкций и параллельные вызовы функций.
Характеристики Firefunction-v2
Firefunction-v2 сохраняет возможность многоразовых инструкций Llama 3, значительно превосходя ее в задачах вызова функций. Он набирает 0.81 в ряде общедоступных бенчмарков по сравнению с 0.80 у GPT-4o, при этом стоит гораздо меньше и работает быстрее. А именно, Firefunction-v2 стоит $0.9 за выходной токен по сравнению с $15 у GPT-4o и работает со скоростью 180 токенов в секунду по сравнению с 69 токенами в секунду у GPT-4o.
Процесс создания
Разработка Firefunction-v2 была основана на отзывах пользователей и необходимости создания модели, превосходящей в вызове функций и выполнении общих задач. В отличие от других моделей для вызова функций с открытым исходным кодом, часто жертвующих общими способностями рассуждения ради специализированной производительности, Firefunction-v2 сохраняет баланс. Он был настроен от базовой модели Llama3-70b-instruct, используя подобранный набор данных, включающий вызов функций и общий разговорный материал. Такой подход гарантировал сохранение обширных возможностей модели при улучшении ее производительности в вызове функций.
Оценка и производительность
Оценка Firefunction-v2 включала смесь общедоступных наборов данных и бенчмарков, таких как Gorilla и Nexus. Результаты показали, что Firefunction-v2 превзошел своего предшественника, Firefunction-v1, а также другие модели, такие как Llama3-70b-instruct и GPT-4o, в различных задачах вызова функций. Например, Firefunction-v2 достиг более высоких результатов в параллельном вызове функций и многоразовом выполнении инструкций, демонстрируя свою адаптивность и интеллект в выполнении сложных задач.
Выделенные возможности
Возможности Firefunction-v2 лучше всего проявляются через практические применения. Модель надежно поддерживает до 30 спецификаций функций, значительно улучшая результаты по сравнению с Firefunction-v1, который испытывал сложности с более чем пятью функциями. Эта возможность крайне важна для реальных сценариев, так как позволяет модели эффективно обрабатывать множественные вызовы API, обеспечивая безупречный пользовательский опыт. Firefunction-v2 превосходит в выполнении инструкций, принимает интеллектуальные решения о времени вызова функций и выполняет их с точностью.
Начало работы с Firefunction-v2
Firefunction-v2 доступен через платформу Fireworks AI, предлагающую оптимизированную для скорости настройку с совместимым с OpenAI API. Эта совместимость позволяет пользователям интегрировать Firefunction-v2 в их существующие системы с минимальными изменениями. Модель также может быть изучена через демонстрационное приложение и интерфейс игровой площадки, где пользователи могут экспериментировать с различными функциями и настройками.
Заключение
Firefunction-v2 является подтверждением стремления Fireworks AI развивать возможности крупных языковых моделей в вызове функций. Firefunction-v2 устанавливает новый стандарт для реальных применений ИИ за счет баланса скорости, стоимости и производительности. Положительные отзывы от разработчиков и впечатляющие результаты бенчмарков подчеркивают его потенциал для революции в интеграции вызовов функций в системы ИИ. Fireworks AI продолжает итерации своих моделей, руководствуясь отзывами пользователей и преданностью предоставлению практических решений для разработчиков.
Этот текст был адаптирован из MarkTechPost
Подписывайтесь на наш Телеграм-канал и Twitter @itinairu45358 для новостей об ИИ и нашем сообществе.
«`
