L'intelligence artificielle en périphérie est souvent synonyme de compromis : soit vous avez la puissance, soit vous avez l'efficacité. Axelera AI brise ce schéma avec son Metis AIPU, un processeur qui applique le calcul en mémoire pour offrir des performances de centre de données avec une fraction de la consommation énergétique traditionnelle. Une proposition qui change les règles pour les applications de vision par ordinateur, d'IA générative et d'analyse en temps réel sans dépendre du cloud. 🚀
Calcul en mémoire : l'astuce qui accélère les données sans les déplacer ⚡
L'architecture Metis AIPU intègre la mémoire et le traitement sur un même substrat, éliminant les goulots d'étranglement du bus de données. Cela permet d'exécuter des inférences de modèles complexes comme YOLOv8 ou ResNet-50 avec des latences de l'ordre de la milliseconde, en consommant entre 10 et 50 watts. Sa conception basée sur des tuiles permet de passer d'une seule puce à des configurations de 16 nœuds, atteignant jusqu'à 400 TOPS. Idéal pour les systèmes embarqués, les drones ou les caméras intelligentes qui nécessitent une réponse immédiate.
Adieu le cloud ? Pas tout à fait, mais au moins vous économisez sur la facture d'électricité 😅
Axelera promet que sa puce fait en périphérie ce qui nécessitait auparavant un rack entier. Et oui, c'est impressionnant, mais ne vous attendez pas non plus à ce que votre cafetière se mette à exécuter ChatGPT. Pour l'instant, le Metis AIPU se concentre sur les tâches de vision et d'IA légère. Mais s'il parvient à faire en sorte qu'un drone reconnaisse un chat sans avoir à demander à AWS, peut-être que même les chats commenceront à payer leur part de la consommation électrique.