Künstliche Intelligenz am Edge bedeutet oft einen Kompromiss: entweder Leistung oder Effizienz. Axelera AI durchbricht dieses Schema mit dem Metis AIPU, einem Prozessor, der In-Memory-Computing einsetzt, um Rechenzentrumsleistung mit einem Bruchteil des herkömmlichen Energieverbrauchs zu bieten. Ein Ansatz, der die Regeln für Computer Vision, generative KI und Echtzeitanalysen neu definiert, ohne auf die Cloud angewiesen zu sein. 🚀
In-Memory-Computing: Der Trick, der Daten beschleunigt, ohne sie zu bewegen ⚡
Die Metis-AIPU-Architektur integriert Speicher und Verarbeitung auf demselben Substrat und beseitigt so die Engpässe des Datenbusses. Dies ermöglicht die Ausführung von Inferenzen komplexer Modelle wie YOLOv8 oder ResNet-50 mit Millisekunden-Latenz bei einem Verbrauch zwischen 10 und 50 Watt. Das auf Tiles basierende Design erlaubt eine Skalierung von einem einzelnen Chip bis hin zu Konfigurationen mit 16 Knoten, die bis zu 400 TOPS erreichen. Ideal für eingebettete Systeme, Drohnen oder intelligente Kameras, die eine sofortige Reaktion benötigen.
Abschied von der Cloud? Nicht ganz, aber zumindest sparst du bei der Stromrechnung 😅
Axelera verspricht, dass sein Chip am Edge das leistet, wofür früher ein ganzes Rack nötig war. Und ja, das ist beeindruckend, aber erwarte nicht, dass deine Kaffeemaschine plötzlich ChatGPT ausführt. Derzeit konzentriert sich der Metis AIPU auf Aufgaben in den Bereichen Vision und leichte KI. Aber wenn er es schafft, dass eine Drohne eine Katze erkennt, ohne AWS fragen zu müssen, zahlen vielleicht sogar die Katzen ihren Anteil am Stromverbrauch.