在高性能计算领域,人工智能的需求与传统科学的需求之间存在明显的差异。低精度格式如 FP8 虽然适用于训练神经网络,但在物理或气候模拟中会引入不可接受的误差。为了弥合这一差距,研究人员 Laslo Hunhold 正在开发一种特定的格式,该格式优先考虑数值精确性,同时不忽视这些计算所要求的性能和能效。
开发一种精确科学计算标准 ⚙️
Hunhold 的工作重点是创建一个浮点数格式,该格式优化了位的使用,以满足科学模型所需范围和精度。与人工智能格式不同,后者为了速度而牺牲动态精度,这一提议旨在确保长时间迭代中的数值稳定性。目标是设计一种可集成到专用硬件中的格式,从而降低超级计算机的能耗,同时不损害关键研究结果的可靠性。
当你的气候模拟更喜欢不“幻觉”结果时 😅
这是可以理解的。虽然人工智能可以生成一只六条腿的猫图像而无人感到惊讶,但核聚变模型发明一种新物质状态可能会在实验室引起轩然大波。显然,在科学领域,他们更喜欢计算不是富有创造性的,而是顽固地精确的。所以,目前,让我们把 FP8 留给神经网络的梦想,而用真正的位来解决真正的问题。