Apple은 3nm 공정으로 제작된 M4 Max 칩을 공개했으며, 16코어 신경 엔진을 통합했습니다. 초당 38조회 연산이 가능하며, 클라우드에 의존하지 않고 기기 자체에서 인공지능 워크로드를 실행하도록 설계되었습니다. 이는 전문 환경에서 복잡한 작업을 신속하게 처리할 것을 약속합니다.
3nm 아키텍처와 16코어 신경 엔진 🚀
M4 Max는 와트당 성능을 최적화하는 3nm 공정을 사용합니다. 16코어 NPU는 38 TOPS에 도달하여 로컬에서 대규모 언어 모델과 이미지 처리를 가속화합니다. 고용량 통합 메모리는 광범위한 데이터 세트를 처리할 수 있게 해줍니다. 이 접근 방식은 지연 시간을 줄이고 민감한 데이터의 외부 전송을 방지하여 개인정보 보호를 향상시킵니다.
클라우드를 잊게 해줄 NPU (적어도 그렇게 말하죠) 😅
초당 38조회 연산으로 M4 Max의 NPU는 카페인이 든 인턴보다 더 많은 데이터를 처리할 수 있습니다. 물론 로컬 AI는 여전히 자신이 마법의 조수가 아니라는 점을 상기시켜줄 필요가 있습니다. 왜냐하면, 솔직히 말해서 클라우드는 느리지만, 적어도 새벽 3시에 비디오 렌더링을 요청해도 불평하지 않으니까요.