【ITBEAR】英伟达在SC24超算大会上正式揭晓了两款全新的AI硬件产品,引起了业界的广泛关注。这两款产品分别是H200 NVL PCIe GPU和GB200 NVL4超级芯片,它们的推出标志着英伟达在AI计算领域迈出了重要的一步。
据英伟达介绍,当前市场中约有七成的企业机架仅能提供不到20kW的电力供应,并且主要依赖空气冷却。为了满足这些环境下的需求,英伟达推出了H200 NVL PCIe GPU。这款AI计算卡采用了低功耗设计,专为风冷环境打造。
H200 NVL PCIe GPU采用了双槽厚度设计,其最高TDP功耗相较于H200 SXM降低了100W,达到了600W。尽管算力有所下降,例如INT8 Tensor Core算力下滑了约15.6%,但其HBM内存容量和带宽却保持不变,分别为141GB和4.8TB/s。这款GPU还支持双路或四路的900GB/s NVLink桥接器互联,为高性能计算提供了强大的支持。
英伟达强调,H200 NVL的内存容量是前代产品H100 NVL的1.5倍,带宽也达到了1.2倍,从而实现了1.7倍的AI推理性能提升。在HPC应用中,其性能也高出30%,为用户带来了更为出色的计算体验。
除了H200 NVL PCIe GPU外,英伟达还推出了面向单服务器解决方案的GB200 NVL4超级芯片。这款超级芯片集成了2个Grace CPU和4个Blackwell GPU,形成了一个强大的计算模块。其HBM内存池容量高达1.3TB,相当于两组GB200 Grace Blackwell超级芯片的组合,整体功耗也达到了5.4kW。
与上代GH200 NVL4系统相比,新的GB200 NVL4超级芯片在性能上有了显著的提升。其模拟性能提升了2.2倍,AI训练性能和AI推理性能分别提升了1.8倍。这一突破性的性能提升将为AI计算领域带来更为广泛的应用前景。
据英伟达透露,GB200 NVL4超级芯片预计将于2025年下半年正式上市。这一消息的发布无疑为AI计算领域注入了新的活力,也为用户提供了更为丰富的选择。