训练更大规模人工智能模型的竞赛要求以惊人的速度传输数据。博通推出Thor 2,一款专为最小化AI集群延迟而设计的400G以太网适配器。这不是为了更快地观看Netflix而发明的产品;它是机器思想流通的高速公路。
Thor 2背后的架构 🚀
BCM57608集成了一个高性能网络控制器,支持每个端口400 Gbps的以太网连接。其架构通过优化的数据包处理引擎和对RoCEv2等技术的支持,专注于减少端到端延迟。它旨在与高密度交换机配合使用,消除分布式训练期间GPU之间通信的瓶颈。
当你家路由器求饶时 😅
当Thor 2轻松处理400千兆位时,你家路由器可能连三个YouTube流和一个视频通话都应付不来。这就像把F1赛车和租赁踏板车相比。下次你的网络断开时,请记住:有些网卡在一秒钟内传输的数据比你运营商一年给你的还要多。