NVIDIA今天同时发布了新一代Hopper H100 GPU核心、Grace CPU处理器,还把二者放在了一张卡上,命名为“Grace Hopper”,官方称之为密度最高达到加速计算系统。
两颗芯片并排放置,彼此之间通过NVLink总线进行芯片间通信,带宽达900GB/s。
具体规格暂未公布,但应该做不到同时满血,尤其是Hopper GPU。
Grace CPU基于ARMv9架构指令集设计,72个核心,集成198MB缓存,搭档LPDDR5X内存,支持ECC。
Hopper GH100 GPU 18432个CUDA核心、576个Tensor核心、60MB二级缓存、6144-bit HBM2e/HBM3显存位宽。
H100计算卡则只开启了16896个CUDA核心、528个Tensor核心、50MB二级缓存、5120-bit HBM3显存位宽,Grace Hopper卡上大概率也是这个规格。
这种合体“怪物”有啥用?显然也是做HPC、AI计算,CPU、GPU可以协调分配不同负载,达到效率最大化。
同时,NVIDIA还发布了“Grace CPU SuperChip”,单卡整合两颗Grace CPU。
NVLink C2C互连,总计144个核心、396MB缓存、1TB/s LPDDR5X ECC内存,功耗500W。
另外还有“H100 CNX”,同时集成H100 GPU、CX-7 SmartNIC网络芯片。
通过让GPU直连网络消除系统带宽,支持PCIe 5.0,最高支持7个多GPU实例并发。