Vulkan의 새 버전 1.4.356은 Open Compute Project의 데이터 형식(MXFP4 및 MXFP8)을 채택한 확장 기능을 통합합니다. 이러한 형식은 메모리 사용량을 줄이고 머신 러닝 작업 속도를 향상시킵니다. 사용자 입장에서는 Vulkan 그래픽을 지원하는 기기가 더 적은 리소스로 더 빠르게 AI 애플리케이션을 실행할 수 있어, 일반 하드웨어에서 이 기술에 대한 접근성을 높일 수 있습니다.
MXFP 형식: 더 적은 비트, 더 높은 GPU 성능 🚀
Open Compute Project에서 개발한 MXFP4 및 MXFP8 형식은 신경망의 숫자 데이터 저장을 최적화합니다. 일반적인 32비트 대신 4비트 또는 8비트를 사용하여 필요한 대역폭과 메모리를 줄입니다. Vulkan 1.4.356은 이 기능을 개발자에게 직접 제공하여, 특수 하드웨어 없이도 소비자용 GPU에서 AI 알고리즘을 더 효율적으로 실행할 수 있게 합니다. 이는 로컬 인공 지능 애플리케이션에 핵심적입니다.
게임용 GPU가 이제는 생각도 하지만, 기적은 기대하지 마세요 😅
네, 맞습니다. 포트나이트를 플레이하는 데 사용하는 그래픽 카드가 이제는 더 적은 메모리로 AI 계산을 수행할 수 있게 되었습니다. 하지만 너무 흥분하지 마세요. 하룻밤 사이에 RTX 3060에서 ChatGPT를 실행할 수 있는 것은 아닙니다. 실제로 체감할 수 있는 점은 사진 편집기나 어시스턴트와 같은 로컬 AI 애플리케이션이 더 부드럽게 작동한다는 것입니다. 물론, GPU는 렌더링과 머신 러닝을 동시에 요청하면 여전히 불평할 것입니다. 이것이 진보의 아이러니입니다.