Искусственный интеллект на периферии часто означает компромисс: либо производительность, либо эффективность. Axelera AI ломает эту схему с помощью своего Metis AIPU — процессора, использующего вычисления в памяти для обеспечения производительности уровня дата-центра при доле традиционного энергопотребления. Это предложение меняет правила игры для приложений компьютерного зрения, генеративного ИИ и анализа в реальном времени без привязки к облаку. 🚀
Вычисления в памяти: трюк, ускоряющий данные без их перемещения ⚡
Архитектура Metis AIPU объединяет память и обработку на одной подложке, устраняя узкие места шины данных. Это позволяет выполнять выводы сложных моделей, таких как YOLOv8 или ResNet-50, с задержками в миллисекунды, потребляя от 10 до 50 ватт. Модульная конструкция на основе тайлов позволяет масштабироваться от одного чипа до конфигураций из 16 узлов, достигая до 400 TOPS. Идеально подходит для встраиваемых систем, дронов или интеллектуальных камер, требующих мгновенного реагирования.
Прощай, облако? Не совсем, но по крайней мере сэкономишь на счетах за электричество 😅
Axelera обещает, что их чип делает на периферии то, что раньше требовало целой стойки. И да, это впечатляет, но не ждите, что ваша кофеварка начнет запускать ChatGPT. Пока Metis AIPU сосредоточен на задачах зрения и легкого ИИ. Хотя если он позволит дрону распознать кота, не спрашивая AWS, возможно, даже коты начнут платить свою долю за электроэнергию.