
«`html
Модели «Зрение-Язык» (VLMs) сталкиваются с трудностями в задачах пространственного мышления, таких как локализация объектов, подсчет и ответ на реляционные вопросы. Это связано с тем, что трансформеры зрения (ViTs), обученные на уровне изображений, неэффективно кодируют локализованную информацию, что ограничивает пространственное понимание.
Исследователи из Стэнфорда предлагают новое решение под названием «Локальная выравнивание». Это этап после обучения для трансформеров зрения, который улучшает способности локальной семантики ViTs для повышения их производительности в задачах пространственного мышления.
Их метод включает процедуру дообучения под названием MaskEmbed, которая использует потерю реконструкции с маской для изучения семантических вкладов каждого фрагмента изображения. Это позволяет модели понять, как каждый участок изображения влияет на общее представление.
Эффективность локального выравнивания была протестирована на различных бенчмарках. Модели ViTs с локальным выравниванием показали улучшенные результаты в задачах семантической сегментации и пространственного понимания.
Конкретно, улучшения были замечены в задачах, таких как локализация объектов, реляционное вопросно-ответное взаимодействие и подсчет. Локальное выравнивание улучшает извлечение локальной семантики без ущерба для глобального понимания изображения.
Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ), следуйте этим шагам:
Если вам нужны советы по внедрению ИИ, пишите нам в Телеграм.
Это AI ассистент для продаж, который помогает отвечать на вопросы клиентов и генерировать контент для отдела продаж.
Узнайте, как ИИ может изменить процесс продаж в вашей компании с помощью современных решений.
«`
Оставьте заявку — мы свяжемся с вами и расскажем, как начать работу