本站点使用Cookies,继续浏览表示您同意我们使用Cookies。 Cookies和隐私政策>

News
新闻动态
当前位置:首页新闻动态正文
《基于标准PCIe接口的人工智能加速卡液冷设计》白皮书正式发布
  1. 发布者:octc
  2. 来源:octc
  3. 发布时间:2024-01-14

近日,由中移动信息技术有限公司牵头,浪潮信息、壁仞、寒武纪、燧原等12家单位联合起草的《基于标准PCIe接口的人工智能加速卡液冷设计》正式发布。本技术白皮书主要制定标准PCIe接口形态的冷板式人工智能加速卡在结构设计、冷板设计、流体快插接头选型、热性能设计、可靠性设计方面的要求,用于指导冷板式人工智能加速卡的设计。

12.jpg

以AIGC为代表的人工智能大模型的发展,带来了算力需求的指数式提升。AI芯片需要通过提升工作频率或增加运算单元来获得更强的算力,带来人工智能加速卡功耗的不断提升,当前单卡功耗已达到350W至600W量级,带来服务器散热功耗的显著提升,散热问题成为制约人工智能基础设施发展的瓶颈,给建设绿色数据中心带来了很大的挑战,液冷技术成为解决人工智能服务器高功耗散热问题、降低数据中心PUE的关键。目前冷板式液冷人工智能加速卡在结构设计、流体快插接头、热性能设计等方面无统一设计要求,服务器针对不同厂商的冷板式人工智能加速卡需要进行结构和散热适配,耗费大量人力、物力,造成人工智能加速卡适配周期长,影响人工智能芯片的快速迭代上市。同时,冷板式人工智能加速卡的关键组件流体快插头等客制化程度高,造成成本高昂,影响了冷板式液冷技术的普及。

本白皮书参编单位由国内主要人工智能芯片厂商、人工智能服务器厂商、流体快插接头厂商、数据中心终端客户组成,涵盖了人工智能加速卡的设计、生成、系统集成和使用的各个环节,具有很强的可落地性。本白皮书总结了各参编单位在冷板式人工智能加速卡的实践,对冷板式加速卡提供了明确的设计指导,降低服务器和冷板式人工智能加速卡之间的适配难度,降低适配的成本和人力投入。同时降低部署和运维难度,方便终端客户根据业务场景灵活选择相应产品,加速液冷式人工智能加速卡和服务器产品上市。此外,通过统一的设计指导,在冷板本体、流体快插接头等关键组件上产生规模化效益,降低液冷解决方案成本,推动冷板式液冷技术的普及。


↓↓↓点击获取完整白皮书报告