エッジにおける人工知能は、通常、トレードオフを意味します。つまり、性能を取るか、効率を取るかです。Axelera AIは、その常識をMetis AIPUで打ち破ります。このプロセッサは、インメモリコンピューティングを適用し、従来のエネルギー消費のごく一部でデータセンター級のパフォーマンスを実現します。これは、クラウドに依存せずに、コンピュータビジョン、生成AI、リアルタイム分析のアプリケーションに新たなルールをもたらす提案です。🚀
インメモリコンピューティング：データを移動させずに高速化する秘策 ⚡
Metis AIPUアーキテクチャは、メモリと処理を同一基板上に統合し、データバスのボトルネックを排除します。これにより、YOLOv8やResNet-50のような複雑なモデルの推論をミリ秒のレイテンシで実行し、消費電力は10～50ワットに抑えられます。タイルベースの設計により、単一チップから最大16ノード構成までスケーリングが可能で、最大400 TOPSを達成します。即時応答が必要な組み込みシステム、ドローン、スマートカメラに最適です。
クラウドに別れを告げる？ そうでもないけど、少なくとも電気代は節約できる 😅
Axeleraは、このチップが以前はラック全体を必要とした処理をエッジで実現すると約束しています。確かに印象的ですが、あなたのコーヒーメーカーがChatGPTを実行し始めるとは期待しないでください。現時点では、Metis AIPUはビジョンタスクと軽量AIに焦点を当てています。しかし、ドローンがAWSに問い合わせることなく猫を認識できるようになれば、猫たちも電気代の一部を負担し始めるかもしれません。