
«`html
Эффективное аппаратно-программное совместное проектирование для искусственного интеллекта с использованием вычислений в памяти и оптимизации HW-NAS
Быстрый рост искусственного интеллекта и сложных нейронных сетей требует эффективного аппаратного обеспечения, соответствующего ограничениям по мощности и ресурсам. Вычисления в памяти (IMC) являются многообещающим решением для разработки различных устройств и архитектур IMC. Проектирование и внедрение этих систем требует комплексной цепочки инструментов для совместного проектирования аппаратного и программного обеспечения, которая оптимизирует работу устройств, схем и алгоритмов. Интернет вещей (IoT) увеличивает генерацию данных, требуя расширенных возможностей обработки ИИ. Эффективные ускорители глубокого обучения, особенно для обработки на краю, получают выгоду от IMC за счет снижения затрат на перемещение данных, улучшения энергоэффективности и задержек, что требует автоматизированной оптимизации множества параметров проектирования.
Исследователи из нескольких учреждений, включая Университет Короля Абдуллы по науке и технологии, Rain Neuromorphics и IBM Research, исследовали поиск аппаратно-ориентированной архитектуры нейронных сетей (HW-NAS) для разработки эффективных нейронных сетей для аппаратного обеспечения IMC. HW-NAS оптимизирует модели нейронных сетей, учитывая специфические особенности и ограничения аппаратного обеспечения IMC, стремясь к эффективному развертыванию. Этот подход также может совместно оптимизировать аппаратное и программное обеспечение, настраивая оба для достижения наиболее эффективной реализации. Ключевые аспекты в HW-NAS включают определение пространства поиска, формулирование проблемы и балансировку производительности с вычислительными требованиями. Несмотря на свой потенциал, остаются вызовы, такие как единая структура и бенчмарки для различных моделей нейронных сетей и архитектур IMC.
HW-NAS расширяет традиционный поиск архитектуры нейронных сетей путем интеграции аппаратных параметров, тем самым автоматизируя оптимизацию нейронных сетей в рамках аппаратных ограничений, таких как энергопотребление, задержки и размер памяти. Недавние фреймворки HW-NAS для IMC, разработанные с начала 2020-х годов, поддерживают совместную оптимизацию нейронной сети и параметров аппаратного обеспечения IMC, включая размер кроссбара и разрешение АЦП/ЦАП. Однако существующие обзоры NAS часто не учитывают уникальные аспекты аппаратного обеспечения IMC. В этом обзоре обсуждаются методы HW-NAS, специфические для IMC, сравниваются текущие фреймворки и обозначаются исследовательские вызовы и план развития для будущего. Он подчеркивает необходимость включения оптимизации дизайна IMC в фреймворки HW-NAS и предлагает рекомендации для эффективной реализации в совместном проектировании аппаратного и программного обеспечения IMC.
В традиционных архитектурах фон Неймана высокая энергозатратность на передачу данных между памятью и вычислительными блоками остается проблемой, несмотря на параллелизм процессора. IMC решает эту проблему, обрабатывая данные в памяти, снижая затраты на перемещение данных и улучшая задержки и энергоэффективность. Системы IMC используют различные типы памяти, такие как SRAM, RRAM и PCM, организованные в кроссбарных массивах для эффективного выполнения операций. Оптимизация параметров проектирования устройств, схем и архитектур критична, часто используя HW-NAS для совместной оптимизации моделей и аппаратного обеспечения для ускорителей глубокого обучения, балансируя производительность, вычислительные требования и масштабируемость.
HW-NAS для IMC интегрирует четыре техники глубокого обучения: сжатие модели, поиск модели нейронной сети, поиск гиперпараметров и оптимизацию аппаратного обеспечения. Эти методы исследуют пространства проектирования для нахождения оптимальных конфигураций нейронной сети и аппаратного обеспечения. Сжатие модели использует техники, такие как квантование и обрезка, в то время как поиск модели включает выбор слоев, операций и соединений. Поиск гиперпараметров оптимизирует параметры для фиксированной сети, а оптимизация аппаратного обеспечения настраивает компоненты, такие как размер кроссбара и точность. Пространство поиска охватывает операции нейронной сети и проектирование аппаратуры, стремясь к эффективной производительности в рамках заданных аппаратных ограничений.
В заключение, несмотря на значительные достижения техник HW-NAS для IMC, остаются несколько вызовов. Нет единой структуры, интегрирующей проектирование нейронной сети, аппаратные параметры, обрезку и квантование в единый поток. Бенчмаркинг различных методов HW-NAS должен быть более последовательным, что усложняет справедливые сравнения. Большинство фреймворков сосредотачиваются на сверточных нейронных сетях, игнорируя другие модели, такие как трансформеры или графовые сети. Кроме того, оценка аппаратного обеспечения часто требует большей адаптации к нестандартным архитектурам IMC. Будущие исследования должны стремиться к созданию фреймворков, оптимизирующих программное и аппаратное обеспечение, поддерживающих разнообразные нейронные сети и улучшающих эффективность данных и отображения. Сочетание HW-NAS с другими техниками оптимизации критично для эффективного проектирования аппаратного обеспечения IMC.
Проверьте статью. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на наш Twitter. Присоединяйтесь к нашему каналу в Telegram, Discord и группе в LinkedIn.
Если вам нравится наша работа, вам понравится наша рассылка.
Не забудьте присоединиться к нашему 42k+ ML SubReddit
Пост Эффективное аппаратно-программное совместное проектирование для ИИ с использованием вычислений в памяти и оптимизации HW-NAS впервые появился на MarkTechPost.
«`