联想问天WA7780 G3|NVIDIA H800

AI达模型训练服务器

关闭
Enter your details and submit
We'll aim to get back to your with a quote within 24hrs

联想问天 WA7780 G3 深度学习 大型模型训练GPU NVIDIA H800

联想问天 WA7780 G3 是一款专为 AI 大模型训练所打造的服务器。随着通用人工智能时代到来,大模型训练的参数量突破万亿级关卡,AI 算力已成为企业训练开发使用人工智能的硬门槛。联想问天 WA7780 G3 正是为打破 AI 算力供给困境而来,为通用大模型训练提供强劲的算力支撑。

图片关键词

澎湃算力


联想问天 WA7780 G3 AI 大模型训练服务器基于英特尔第四代 ® 至强 ® 可扩展处理器,加载了 8 颗 NVIDIA HGX™ H800 NVLink® GPU,拥有高达 640GB 的 HBM3 高速显存,通过 NVLINK,GPU 间互联带宽高达 400GB/s。将 AI 算力提升了 3.44 倍,至高可达 32 PFLOPS AI 算力。H800 匹配第四代 Tensor Core 配合 Transformer 引擎(FP8 精度),与上一代产品相比,可为大模型 AI 训练速度带来高达 9 倍提升,可将大模型 AI 推理速度提升高达 30 倍。


超强架构


联想问天 WA7780 G3 AI 大模型训练服务器,为了满足 AI 超大模型训练场景下,GPU 服务器间高速数据通信的需求,支持 IB,Rocce 等多种对外网络连接方案。最高可以支持 8 张 RDMA 高速网卡,提供 3.2Tb/s 聚合带宽。充分满足了超大模型训练并行计算时,跨节点的通信需求。同时,在本地存储的设计上,采用了 GPU Direct Storage (GDS) 技术。通过 GDS 技术,GPU 与 NVMe 实现了快速低延迟互联,能够有效提高训练数据载入的速度,提升大模型训练的性能。



节能高效

联想问天WA7780 G3 AI大模型训练服务器,在产品设计中来用了三重独立风道设计,针对不同部件的散热特征,进行了系统性的优化,有效降低了由风扇带来的散热功耗。相比同级别产品,联想问天WA7780G3功耗降低约10%。


特性分类具体描述
外形/高度7U机架
处理器最多 2 个第四代或五代英特尔®至强®可扩展处理器,最多可达 60 个核心数与 350W TDP
内存32个DDR5 DIMM,每个CPU支持8个通道,1DPC最高频率为4800 MHz;2DPC最高频率为4400MHz
存储8x前面板可热插拔 2.5 英寸存储设备插槽
-PCle direct: 8 x NVMe SSD
2x后面板可热插拔2.5 英寸存储设备插槽
-CPU2 direct:2xNVMe/SATA(PCH)/SAS* SSD(" SAS 支持需搭配选配 HBA/RAID 卡)
2x内置M.2 SSD
扩展性能2.4 petaFLOPS FP8
I/O扩展SKU1 12+1 PCle slot(单上行):
-8xPCle(Gen5x16,LP,PCle direct)
2x PCle(Gen5 x16 link FH/HL,CPU1 and CPU2 direct)
-2xPCle(Gen5 x8 link FH/HL,CPUl and CPU2 direct)
-1x PCle(Gen4 x8 HH/HL,CPU2 direct)供 RAID 卡
SKU2 10+1 PCle slot(双上行):
-8xPCle(Gen5x16,LP,PCle switch direct)
-2xPCle(Gen5 x16 link FH/HL,CPU1 and CPU2 direct)
-1x PCle(Gen4 x8 HH/HL,CPU2 direct)供RAID 卡
电源3+3 3000W 80 PLUS Titanium 电源(PSU)
管理集成2 x10GbE RJ45 LAN module (Intel-x710 Based-T) +1x Mgmt LAN
操作系统Microsoft,SUSE,Red Hat、Mware.Ubuntu等
GPU 支持NVIDIA HGX 8-GPU NVLink
工作环境温度操作温度:10℃ ~ 35℃
未操作温度:-40℃ ~ 70℃
未操作湿度:20% ~ 90%
芯片组Intel C741 "Emmitsburg" 芯片组, 平台代号 "Eagle Stream"
散热系统风冷,系统风扇:10 xfans(80*80,54V)+6xfans(60*56,12V)+4xfans(40*56,12V)
尺寸(H x D x W)885 mm x 447 mmx306.65 mm(7U)
重量毛重:154kg;净重:99kg