Axelera AI Metis AIPU: potenza da data center in un chip a basso consumo

L'intelligenza artificiale all'edge è spesso sinonimo di compromesso: o hai potenza o hai efficienza. Axelera AI rompe questo schema con la sua Metis AIPU, un processore che applica il computing in-memory per offrire prestazioni da data center con una frazione del consumo energetico tradizionale. Una proposta che cambia le regole per applicazioni di visione artificiale, IA generativa e analisi in tempo reale senza dipendere dal cloud. 🚀

Primo piano di un chip Metis AIPU montato su un circuito stampato, flussi di dati arancioni luminosi che fluiscono verticalmente dal chip in un piccolo dispositivo edge, mentre una proiezione olografica sopra mostra una dashboard di analisi video in tempo reale con sagome umane e modelli di traffico, metriche di efficienza energetica visualizzate come una barra verde pulsante, illustrazione tecnica fotorealistica, illuminazione blu freddo e arancione neon, profondità di campo ridotta, texture in fibra di carbonio e dissipatore in rame, die semiconduttore iperdettagliato visibile attraverso l'imballaggio traslucido, visualizzazione ingegneristica cinematografica

Computing in-memory: il trucco che accelera i dati senza spostarli ⚡

L'architettura Metis AIPU integra memoria e elaborazione sullo stesso substrato, eliminando i colli di bottiglia del bus dati. Ciò consente di eseguire inferenze di modelli complessi come YOLOv8 o ResNet-50 con latenze di millisecondi, consumando tra 10 e 50 watt. Il suo design basato su tile permette di scalare da un singolo chip a configurazioni a 16 nodi, raggiungendo fino a 400 TOPS. Ideale per sistemi embedded, droni o telecamere intelligenti che necessitano di una risposta immediata.

Addio al cloud? Non proprio, ma almeno risparmi sulla bolletta della luce 😅

Axelera promette che il suo chip fa all'edge ciò che prima richiedeva un intero rack. E sì, è impressionante, ma non aspettarti che la tua macchina del caffè inizi a eseguire ChatGPT. Per ora, il Metis AIPU si concentra su compiti di visione e IA leggera. Anche se se riesce a far sì che un drone riconosca un gatto senza dover chiedere ad AWS, forse anche i gatti inizieranno a pagare la loro parte del consumo elettrico.