
«`html
Изучение искусственного интеллекта (ИИ) переживает значительные изменения. Важнейшими достижениями являются большие языковые модели (LLMs) и многомодальные большие языковые модели (MLLMs). Эти системы могут обрабатывать текстовые и визуальные данные, что позволяет им анализировать сложные задачи.
Однако, текущие модели не могут связывать текстовое и визуальное восприятие в динамичных условиях. Модели, разработанные для рассуждений, хорошо работают с текстом или изображениями, но не могут эффективно обрабатывать оба типа одновременно. Это создает ограничения в адаптивности и интерпретируемости моделей.
Для решения этих проблем предложено несколько подходов, например, Chain-of-thought (CoT), который улучшает рассуждения, создавая пошаговые текстовые следы. Однако этот метод не учитывает задачи, требующие пространственного понимания.
Исследователи из Microsoft Research, Университета Кембриджа и Китайской академии наук представили рамки Multimodal Visualization-of-Thought (MVoT), чтобы преодолеть эти ограничения. Этот новый подход позволяет моделям генерировать визуальные следы рассуждений, объединяя их с текстовыми, что дает интегрированный подход к многомодальному рассуждению.
Используя Chameleon-7B, исследователи внедрили MVoT, который включает потерю дискретности токенов, чтобы уменьшить разрыв между текстом и изображениями. MVoT обрабатывает многомодальные входные данные шаг за шагом, создавая как вербальные, так и визуальные следы рассуждений.
MVoT показал лучшие результаты в экспериментах на различных задачах пространственного рассуждения, достигая высокой точности в задачах навигации по лабиринту и других динамичных средах. Эта структура значительно улучшила интерпретируемость, генерируя визуальные следы, которые дополняют вербальные рассуждения.
Чтобы ваша компания развивалась с помощью ИИ, важно:
Если вам нужны советы по внедрению ИИ, пишите нам в Телеграм.
AI Sales Bot – ваш помощник для продаж, который отвечает на вопросы клиентов и генерирует контент для отдела продаж. Узнайте, как ИИ может изменить процесс продаж в вашей компании!
«`
Оставьте заявку — мы свяжемся с вами и расскажем, как начать работу