在SC24大会上,NVIDIA以GB200NVL4的形式发布了最新的计算密集型AI加速器,这是一款单服务器解决方案,扩展了公司的"Blackwell"系列产品组合。新平台在单板上集成了四个"Blackwell"GPU和两个"Grace"CPU。

对于单服务器系统而言,GB200NVL4拥有非凡的规格,包括四个BlackwellGPU的768GBHBM3E内存,提供32TB/s的综合内存带宽。该系统的两个GraceCPU拥有960GBLPDDR5X内存,使其成为满足苛刻人工智能工作负载的动力源。


 NVL4设计的一个主要特点是采用了NVLink互连技术,可实现板上所有处理器之间的通信。 该系统的功耗达到5400瓦,比GB200NVL2型号的2700瓦功耗高出一倍。

 NVIDIA正与OEM合作伙伴密切合作,向市场推出各种Blackwell解决方案,包括DGXB200、GB200GraceBlackwellSuperchip、GB200GraceBlackwellNVL2、GB200GraceBlackwellNVL4和GB200GraceBlackwellNVL72。 

单台服务器的TDP为5400W,需要液冷系统才能达到最佳性能,GB200NVL4预计将用于超级分频器客户的服务器机架,这些客户的数据中心通常都有定制的液冷系统。