Vulkan 1.4.356 新版本集成了 Open Compute Project 的数据格式扩展,如 MXFP4 和 MXFP8。这些格式减少了内存占用,并提升了机器学习任务的速度。对用户而言,这使得搭载 Vulkan 图形技术的设备能够以更少的资源和更快的速度运行 AI 应用,从而在普通硬件上普及这项技术。
MXFP 格式:更少比特,更高 GPU 性能 🚀
由 Open Compute Project 开发的 MXFP4 和 MXFP8 格式,优化了神经网络中数值数据的存储。通过使用 4 或 8 比特而非典型的 32 比特,它们减少了带宽和所需内存。Vulkan 1.4.356 直接将这一能力暴露给开发者,使 AI 算法能在消费级 GPU 上更高效运行,无需专用硬件。这对本地人工智能应用至关重要。
你的游戏 GPU 现在也能思考了,但别指望奇迹 😅
所以没错,你用来玩《堡垒之夜》的显卡现在能用更少内存进行 AI 计算。但别太兴奋:你不会一夜之间在 RTX 3060 上运行 ChatGPT。你真正会注意到的是,本地 AI 应用(如照片编辑器或助手)会运行得更流畅。不过,当你同时要求它渲染和进行机器学习时,你的 GPU 仍然会抱怨。这就是进步的讽刺之处。