高性能コンピューティングの分野では、AIのニーズと伝統的な科学のニーズの間に明確な乖離が存在します。FP8のような低精度形式はニューラルネットワークの訓練に有用ですが、物理学や気候シミュレーションでは許容できない誤差を引き起こします。このギャップを埋めるために、研究者のLaslo Hunholdは、数値精度を優先しつつ、これらの計算が要求する性能とエネルギー効率を無視しない特定の形式を開発しています。
正確な科学的計算のための標準の開発 ⚙️
Hunholdの仕事は、科学的モデルが要求する範囲と精度のためのビット使用を最適化する浮動小数点形式を作成することに焦点を当てています。速度のために動的精度を犠牲にするAI形式とは異なり、この提案は長い反復における数値安定性を保証することを目指します。目標は、専門ハードウェアに統合される設計で、スーパーコンピュータのエネルギー消費を削減しつつ、重要な研究の結果の信頼性を損なわないことです。
気候シミュレーションが結果を「幻覚」したくないとき 😅
それは理解できます。AIが六本脚の猫の画像を生成しても誰も驚きませんが、核融合モデルが発明した新しい物質の状態は研究室でかなりの騒ぎを引き起こす可能性があります。科学では、計算が創造的ではなく、頑なに正確であることを好むようです。そこで、今のところFP8はニューラルネットワークの夢に任せ、本物の問題には本物のビットをしましょう。