고성능 컴퓨팅 분야에서 AI의 요구사항과 전통 과학의 요구사항 사이에는 명확한 차이가 존재합니다. FP8과 같은 저정밀도 형식이 신경망 훈련에 유용하지만, 물리적 또는 기후 시뮬레이션에서는 용납할 수 없는 오류를 유발합니다. 이러한 격차를 좁히기 위해 연구자 Laslo Hunhold는 성능과 에너지 효율성을 소홀히 하지 않으면서 수치 정확성을 우선시하는 특정 형식을 개발하고 있습니다.
정확한 과학 컴퓨팅을 위한 표준 개발 ⚙️
Hunhold의 작업은 과학 모델이 요구하는 범위와 정밀도를 위해 비트를 최적화하는 부동소수점 형식을 만드는 데 중점을 둡니다. 속도를 위해 동적 정밀도를 희생하는 AI 형식과 달리, 이 제안은 긴 반복에서 수치적 안정성을 보장합니다. 목표는 전문 하드웨어에 통합되는 설계로, 중요한 연구 결과의 신뢰성을 손상시키지 않으면서 슈퍼컴퓨터의 에너지 소비를 줄이는 것입니다.
기후 시뮬레이션이 결과를 '환각'하지 않기를 선호할 때 😅
이해할 만합니다. AI가 여섯 다리를 가진 고양이 이미지를 생성해도 누구도 놀라지 않지만, 핵융합 모델이 발명한 새로운 물질 상태는 실험실에서 상당한 소란을 일으킬 수 있습니다. 과학에서는 계산이 창의적이지 않고 고집스럽게 정확하기를 선호하는 것 같습니다. 따라서 지금은 FP8을 신경망의 꿈에 맡기고, 진짜 문제에는 진짜 비트를 사용합시다.