边缘人工智能通常意味着妥协:要么拥有强大性能,要么具备高效能。Axelera AI 凭借其 Metis AIPU 打破了这一模式,这款处理器采用存内计算技术,以传统功耗的一小部分提供数据中心级别的性能。这一方案改变了计算机视觉、生成式AI和实时分析应用的规则,无需依赖云端。🚀
存内计算:加速数据而无需移动的秘诀 ⚡
Metis AIPU 架构将内存和处理集成在同一基板上,消除了数据总线的瓶颈。这使得执行 YOLOv8 或 ResNet-50 等复杂模型的推理时,延迟仅为毫秒级,功耗在 10 到 50 瓦之间。其基于瓦片的设计允许从单芯片扩展到 16 节点配置,最高可达 400 TOPS。非常适合需要即时响应的嵌入式系统、无人机或智能摄像头。
告别云端?也不尽然,但至少能省点电费 😅
Axelera 声称其芯片能在边缘完成以前需要整个机架才能实现的任务。没错,这确实令人印象深刻,但别指望你的咖啡机开始运行 ChatGPT。目前,Metis AIPU 专注于视觉和轻量级 AI 任务。不过,如果它能让无人机识别出一只猫而无需询问 AWS,也许连猫都该开始分担电费了。