联想问天WA7780 G3|NVIDIA H800
AI达模型训练服务器
AI达模型训练服务器
联想问天 WA7780 G3 深度学习 大型模型训练GPU NVIDIA H800
联想问天 WA7780 G3 是一款专为 AI 大模型训练所打造的服务器。随着通用人工智能时代到来,大模型训练的参数量突破万亿级关卡,AI 算力已成为企业训练开发使用人工智能的硬门槛。联想问天 WA7780 G3 正是为打破 AI 算力供给困境而来,为通用大模型训练提供强劲的算力支撑。
联想问天 WA7780 G3 AI 大模型训练服务器基于英特尔第四代 ® 至强 ® 可扩展处理器,加载了 8 颗 NVIDIA HGX™ H800 NVLink® GPU,拥有高达 640GB 的 HBM3 高速显存,通过 NVLINK,GPU 间互联带宽高达 400GB/s。将 AI 算力提升了 3.44 倍,至高可达 32 PFLOPS AI 算力。H800 匹配第四代 Tensor Core 配合 Transformer 引擎(FP8 精度),与上一代产品相比,可为大模型 AI 训练速度带来高达 9 倍提升,可将大模型 AI 推理速度提升高达 30 倍。
联想问天WA7780 G3 AI大模型训练服务器,在产品设计中来用了三重独立风道设计,针对不同部件的散热特征,进行了系统性的优化,有效降低了由风扇带来的散热功耗。相比同级别产品,联想问天WA7780G3功耗降低约10%。
特性分类 | 具体描述 |
外形/高度 | 7U机架 |
处理器 | 最多 2 个第四代或五代英特尔®至强®可扩展处理器,最多可达 60 个核心数与 350W TDP |
内存 | 32个DDR5 DIMM,每个CPU支持8个通道,1DPC最高频率为4800 MHz;2DPC最高频率为4400MHz |
存储 | 8x前面板可热插拔 2.5 英寸存储设备插槽 -PCle direct: 8 x NVMe SSD 2x后面板可热插拔2.5 英寸存储设备插槽 -CPU2 direct:2xNVMe/SATA(PCH)/SAS* SSD(" SAS 支持需搭配选配 HBA/RAID 卡) 2x内置M.2 SSD |
扩展性能 | 2.4 petaFLOPS FP8 |
I/O扩展 | SKU1 12+1 PCle slot(单上行): -8xPCle(Gen5x16,LP,PCle direct) 2x PCle(Gen5 x16 link FH/HL,CPU1 and CPU2 direct) -2xPCle(Gen5 x8 link FH/HL,CPUl and CPU2 direct) -1x PCle(Gen4 x8 HH/HL,CPU2 direct)供 RAID 卡 SKU2 10+1 PCle slot(双上行): -8xPCle(Gen5x16,LP,PCle switch direct) -2xPCle(Gen5 x16 link FH/HL,CPU1 and CPU2 direct) -1x PCle(Gen4 x8 HH/HL,CPU2 direct)供RAID 卡 |
电源 | 3+3 3000W 80 PLUS Titanium 电源(PSU) |
管理 | 集成2 x10GbE RJ45 LAN module (Intel-x710 Based-T) +1x Mgmt LAN |
操作系统 | Microsoft,SUSE,Red Hat、Mware.Ubuntu等 |
GPU 支持 | NVIDIA HGX 8-GPU NVLink |
工作环境温度 | 操作温度:10℃ ~ 35℃ 未操作温度:-40℃ ~ 70℃ 未操作湿度:20% ~ 90% |
芯片组 | Intel C741 "Emmitsburg" 芯片组, 平台代号 "Eagle Stream" |
散热系统 | 风冷,系统风扇:10 xfans(80*80,54V)+6xfans(60*56,12V)+4xfans(40*56,12V) |
尺寸(H x D x W) | 885 mm x 447 mmx306.65 mm(7U) |
重量 | 毛重:154kg;净重:99kg |