Новая система автоматического машинного обучения для синтеза мультимодальных ML-пайплайнов

«`html

Автоматизированное машинное обучение (AutoML) в многомодальных задачах

Автоматизированное машинное обучение стало неотъемлемой частью принятия решений на основе данных, позволяя экспертам в области использовать машинное обучение без значительных статистических знаний. Однако одной из основных проблем, с которой сталкиваются многие существующие системы AutoML, является эффективная и корректная обработка многомодальных данных. В настоящее время отсутствуют систематические сравнения различных подходов к объединению информации и обобщенные рамки для обработки многомодальности; это основные препятствия для многомодального AutoML. Значительное потребление ресурсов многомодального поиска архитектуры нейронных сетей (NAS) затрудняет эффективное создание конвейеров.

Практические решения и ценность

Исследователи из Технического университета Эйндховена представили новый метод, использующий мощь предварительно обученных моделей Transformer, успешно применяемых в различных областях, таких как компьютерное зрение и обработка естественного языка. Этот инновационный подход обещает революционизировать область автоматизированного машинного обучения.

Исследование решает проблемы обработки многомодальных данных в AutoML: эффективное интегрирование предварительно обученных моделей Transformer и минимизация зависимости от дорогостоящих методов поиска архитектуры нейронных сетей. Улучшение AutoML для работы с сложными модальностями данных, включая таблицы-текст, текст-видение и видение-текст-табличные конфигурации, предложенный метод упрощает и гарантирует эффективность и адаптивность многомодальных конвейеров машинного обучения. Разработан гибкий поисковый пространство (конвейер) для многомодальных данных, стратегически включены предварительно обученные модели в топологии конвейеров, и реализовано начальное заполнение для SMAC с использованием метаданных предыдущих оценок.

Исследователи стремились обеспечить AutoML для работы с унимодальными и многомодальными данными путем интеграции предварительно обученных моделей (Transformer) в системы AutoML. Для решения проблемы обработки многомодальных данных создана проблема CASH, что означает Совместный выбор алгоритма и оптимизация гиперпараметров. Эта проблема критически важна для достижения оптимальной производительности в AutoML. Она включает настройку гиперпараметров обучающих алгоритмов, входящих в набор. Этот набор содержит как классические, так и предварительно обученные глубокие модели, и решение этой проблемы позволяет обеспечить эффективность и адаптивность системы AutoML в различных модальностях данных.

Для дальнейшего улучшения возможностей AutoML и расширения его применения в различных сценариях, таких как выбор пространства параметров, будущая работа будет направлена на улучшение возможностей фреймворка и его применение в различных сценариях.

Подробнее ознакомиться с исследованием можно здесь.

Все права на данное исследование принадлежат его авторам.

Не забудьте подписаться на наш Twitter и присоединиться к нашему каналу в Telegram и LinkedIn. Если вам понравилась наша работа, вам понравится и наша рассылка.

Не забудьте присоединиться к нашему сообществу в Reddit.

Также вы можете найти предстоящие вебинары по искусственному интеллекту здесь.

«`