您当前的位置:首页 >> 家居资讯

联想发售AI大模型训练服务器!对话联想副总裁:全面打造AI导向的基础设施

2024-01-18 12:17:11

A5480 G3 AI训推依托服务项目器,正是其仅有新AI可知力策略性理念的展现。

1、AI大假设受训服务项目器:可知力达32P FLOPS,大假设AI受训加速大幅提高9倍

今年年初,误解发布新闻了误解服务项目器的首个英语版系列产品“误解问天”,误解问天WA7780 G3是一款专为AI大假设受训所制作的服务项目器。

误解问天WA7780 G3 AI大假设受训服务项目器

(1)AI可知力大幅提高超强3倍,AI废话加速大幅提高达30倍

误解问天WA7780 G3 AI大假设受训服务项目器基于第四代英特尔至强可构建处理器。NVIDIA HGX H800系统配备8颗H800 NVLink GPU,具备平均640GB的HBM3高速显存,通过NVLink,GPU除此以外网络连接数据传输平均400GB/s。据称其将AI可知力大幅提高了3.44倍,至高可达32P FLOPS AI可知力。

NVIDIA H800 GPU比如说第四代Tensor Core配合Transformer引擎(FP8精度),与上数代其产品相比较,可为大假设AI受训加速造就平均9倍大幅提高,可将大假设AI废话加速大幅提高平均30倍。

误解问天WA7780 G3 AI大假设受训服务项目器的可知力基准原因

(2)更快高于延后网络连接,背书按需配比和构建多种不同可知力

误解问天WA7780 G3 AI大假设受训服务项目器背书IB、RoCE等多种对外网络通到建议书。其最高者可以背书8张RDMA高速网卡,共享3.2Tb/s聚合数据传输,必要符合了超强大假设受训并行计可知出来时,跨节点的通信生产力。

同时,在本地传输的其设计上,误解问天WA7780 G3采用GPU Direct Storage (GDS)应用。通过GDS应用,GPU与NVMe实现了更快高于延后网络连接,能够有效提高受训样本存档的加速,大幅提高大假设受训的精度。

误解问天WA7780 G3 AI大假设受训服务项目器的灵巧驱动程德式

(3)不断创新通风其设计:浮点数运可知减小约10%,PUE参数有望高于于1.1

误解问天WA7780 G3 AI大假设受训服务项目器,在其产品其设计之中采用了三重独立风道其设计,针对多种不同电子设备的通风不同之处,开展了持续性的优化,有效减小了由风扇造就的通风浮点数运可知。据称,相比较同级别其产品,误解问天WA7780 G3 AI大假设受训服务项目器浮点数运可知减小约10%。

同时,为了符合下一代贤可知外围对PUE参数更高于的促请,本其产品预留了涡轮冷板其设计,下一代将背书涡轮,这将大幅度耗费在AI大假设受训仅有过程之中,因系统通风造就的额外能量消耗,PUE参数有望高于于1.1。

误解问天WA7780 G3 AI大假设受训服务项目器能量消耗原因

2、AI训推依托服务项目器:背书多种情节、多元可知力

再来看看误解问天WA5480 G3 AI训推依托服务项目器。这是误解问天系列产品之中的一款4U机架德式AI服务项目器,背书多元的可知力和丰富的生态系。

误解问天WA5480 G3 AI训推依托服务项目器

(1)最多背书10张NVIDIA H800,背书多款AI加速卡

误解问天WA5480 G3 AI训推依托服务项目器采用2颗第四代英特尔至强可构建处理器,背书当前PCIe 5.0。通过PCIe构建,其最多可以背书10张还包括当前NVIDIA H800 GPU在内的,多类型、多系列产品AI加速卡。误解问天WA5480 G3可以灵巧应用于AI共通假设受训、大假设废话、AI生成、容一些游戏、电子计可知机出来等多种应用情节。

误解问天WA5480 G3 AI训推依托服务项目器背书多元可知力

(2)灵巧等价,多种不同混搭符合多种AI情节生产力

误解问天WA5480 G3 AI训推依托服务项目器在CPU-GPU网络连接的软件其设计上采用灵巧多变的其设计理念。其基于多种不同AI工作负载,可以为客户服务共享还包括直通、Balance、Common多种CPU-GPU网络连接方德式,避开了因为CPU-GPU样本通信方德式单一与工作负载不比如说,造就的潜在精度瓶颈和系统效率减小。结合多种不同种类,多种不同数量的加速卡选择,其可实现对AI各种复杂情节的完美比如说。

误解问天WA5480 G3 AI训推依托服务项目器背书丰富生态系

(3)必要考虑其设计举例来却说,确保不除此以外断运转

误解问天WA5480 G3 AI训推依托服务项目器必要考虑了其设计举例来却说,背书控制器N+N举例来却说,节点内控制器除此以外互为备份,对外可以通到双路的集,从而保证服务项目器24小时离线运转。该其产品背书CPU、GPU、内存等关键电子设备的浮点数运可知监测,整机浮点数运可知开建调控,动态保证服务项目器运转在合理的浮点数运可知区除此以外,保证精度的稳定,以及风扇N+1举例来却说等多种确保安仅有其设计保证高环温不除此以外断运转。

误解问天WA5480 G3 AI训推依托服务项目器的稳定性

陈振宽告诉贤刚才,在AI可知力、贤可知多方面,这不应是一个变革德式的热卖,渐进德式的不大可以符合贤可知的生产力。所以在贤可知多方面,误解这次热卖的这两款其产品还是比较偏向于大规模的废话和大规模的受训,就是大规模和超强大规模。

三、热卖贤可知外围建议书,三种交付方德式背书三类可知力情节

当下,混杂驱动程德式模德式在贤可知外围的新建之中已成产业趋势。

戴炜确信,贤能可知力情节持续性推动可知力生产力的不断升级,贤可知外围新建必须符合千行百业对混杂可知力的促请,还包括公有容和私有容的混杂,国产可知力及共通可知力的混杂,以及普可知、超强可知和贤可知,企业贤可知外围和区域贤可知外围都显现出复杂性。

贤可知外围的复杂性必须抛离的应用框架和身边服务项目。为此,误解热卖前端到前端的贤可知外围建议书,以及仅有周期身边德式服务项目控制能力。

戴炜讲解贤可知外围建议书及身边服务项目

误解贤可知外围解决建议书,是其AI原生的建议书服务项目的重要外。AI原生的建议书服务项目还包括误解贤可知外围解决建议书、误解混杂容解决建议书、误解大脑嵌入的解决建议书和前端到前端仅有周期的误解贤可知外围服务项目和唯可知服务项目。

误解贤可知外围解决建议书

戴炜却说:“针误解建议书服务项目将以三种交付方德式(混杂容、唯可知服务项目2.0网路平台德式和一站德式)背书三类可知力情节(普可知、贤可知、超强可知)的混杂计可知出来生产力。”

结语:大假设上到产业,推动AI可知力生产力爆发

随着大假设向千行百业上到,AI可知力已成可知力公共服务的重要演进同方向。广为人知行研机构IDC统计数据显示,随着生成德式人工贤能应用的爆发,各产业对贤可知的生产力首次超强过共通可知力,AI可知力已成可知力演进的主要同方向,也成“东数西可知”演进的新的强劲涡轮。

乘此改进型,IDC的样本显示误解集团是2022增长最快的AI软件公共服务(服务项目器和传输)共享商,同比增长139%,在世界上排名第三。本次,随着误解热卖多款一个之中心AI大假设时代的服务项目器,并加速推进AI赋贤、黄色赋能的“普贤”策略性,其有望为我国大假设的合作开发和上到共享新的涡轮。

双醋瑞因胶囊吃了伤胃吗
慢性鼻炎鼻子不通气怎么办
类风湿常用药物来氟米特的副作用有多少?
拉肚子怎么治疗
感冒嗓子有点疼吃什么药
相关阅读
友情链接