NVIDIA H100 AI服务器揭秘

来源:芝能智芯 发布时间:2023-11-10 15:05:36 阅读量:310

Supermicro的液冷服务器(SYS-821GE-TNHR),服务器配备了8NVIDIA H100 GPU,采用了先进的液体冷却技术,能够显著降低冷却成本和功耗。

液冷Supermicro SYS-821GE-TNHR 8x NVIDIA H100 AI服务器,水平机架歧管位于顶部,而Supermicro冷却分配单元(CDU)则位于底部。


水平机架歧管支持五对不同的入口/出口,四对位于顶部托盘,一对位于CPU托盘。

这种设计使得液体冷却过程更加高效,系统的GPU托盘可轻松滑出,这在许多系统中并不常见。

考虑到24x7的HPC或AI集群环境,这一特性非常实用,因为GPU可能需要进行维护或更换。 

在托盘内部,我们看到了四组双GPU液冷块和一个NVSwitch块。

所有这些组件都采用循环冷却技术,系统中共有四个循环用于GPU。

这种设计确保了所有关键组件的稳定性和可靠性。



右侧是机箱管理模块,用于 IPMI 和本地管理等功能

服务器还支持定制选项,包括使用Intel Xeon和AMD EPYC CPU托盘,以及各种NIC和其他附件的选择。在服务器的背面,看到了标准的电源、网络和风扇配置,其中风扇和电源都支持热插拔。 

DP801扩展模型。有 NIC DP801、PCIe 扩展器 DP801 等

每个电源均为 3kW PSU

Supermicro SYS-821GE-TNHR液冷服务器提供了出色的性能,具备了高度的定制性。自2016/2017年以来,Supermicro一直致力于研发AI GPU训练系统,从最初的8x和10x PCIe GPU训练服务器,发展到如今非常灵活的液冷选项。

  网站地图
沪ICP备19040636号-1
Catfish(鲶鱼) Blog V 4.7.3