结合京东科技 '双碳' 的技术发展方向,京东在数据中心领域的持续创新,与英特尔合作,打造 '绿色' 算力技术。将整机柜供电的总线电压提高到 54v,有效降低了电源全链路损耗,改善了数据中心能效。结合在气流优化、液冷散热等方面的技术改进,以及第四代英特尔 至强 可扩展处理器带来的更高能耗比,我们推出了绿色的高密度算力整机柜方案,打造了可持续的数据中心典范。我们也和英特尔将技术成果标准化,帮助更多企业构建绿色的高密度算力基础设施。
——陈国峰
京东科技京东云事业部
硬件架构负责人
//概 述 //
在绿色可持续发展成为社会共识的今天,推进数据中心的节能减排已经成为重要趋势。作为中国大规模云数据中心的重要运营者,京东与英特尔在绿色数据中心发展方面已经开展了深度合作,包括采用第四代英特尔 至强 可扩展处理器提升性能/能耗比,采用模块化服务器设计实现更加高效的散热设计,发布了从数据中心级到微处理器级的冷板液冷整体解决方案等,有效地提升了数据中心的整体能效,降低数据中心碳排放量。
在供电方面,京东还推出了大功率高利用率整机柜液冷服务器设计,该服务器搭载了第四代英特尔 至强 可扩展处理器,通过将整机柜供电的总线电压从 12v 提高到 54v,降低整机柜服务器内部的连接阻抗和导电阻抗,从而大幅降低了电源输出端到终端设备的全链路传输损耗,达到了提高数据中心用电效率、改善总体拥有成本 (tco) 和降低碳排放的目的。
//背景:打造高密度、绿色节能的数据中心成为重要趋势 //
数据中心规模快速扩大带来的能耗问题在全世界都倍受关注,提升数据中心能效,推动绿色数据中心建设已成为数据中心未来可持续发展的必然趋势。对于京东而言,随着业务的持续快速发展,人工智能 (ai)、云原生、计算机视觉等技术得到了快速应用,对于计算、存储、网络等基础资源的需求出现了爆发式增长。为满足这些需求,京东加大了在数据中心方面的投资,这在支撑业务快速增长的同时,也带来了不容小视的能耗问题。
为了满足日益增长的算力需求,同时降低能耗,京东希望能够解决以下挑战,从而持续改善机架式服务器的空间利用率与功率密度:
12v 总线电压设计的损耗较高:在过去几代机架式服务器中,12v 供电是服务器电源最常见的中间总线电压设计。然而,由于电缆、连接器和 pcb 中存在的不可避免的损耗,该总线电压设计会降低传输至负载的功率,从而严重影响系统功效。特别是在新一代服务器的功率已经远超前代产品的背景下,12v 的总线电压对于供电效率的制约已经愈发明显。 功率瓶颈导致机柜空间浪费:随着多种部件功耗提升,机柜总功率显著增加,既有的供电系统难以满足如此高功率的供电需求,导致数据中心必须减少机柜的服务器部署数量,以应对功率方面的限制,这导致了约三分之二的空间闲置。 传统冷却方式的效率不足:传统数据中心多采用空气作为冷却介质,这种方式较为成熟且应用广泛,但是缺陷也相当明显:当数据中心部署了高密度的服务器时,由于房间水平的空气循环,传统的空气冷却系统无法在垂直机架阵列的 it 设备入口处提供均匀温度的空气;此外,空气冷却系统效率相对较低,特别是在机架中的高密度服务器运行时,满足散热需求的空气冷却系统的总功率常会达到 100kw 以上,这在经济性、供电、噪音等方面都会带来巨大的困扰。 提升服务器的算力能效比:多样化的应用负载意味着数据中心需要提供多元化算力,以支持上层应用使用更优架构完成每项任务。只有提升服务器的算力能效比,并更加灵活地调用服务器的算力资源,才能有助于降低特定任务的能耗。 //解决方案:京东云绿色数据中心高密度算力方案 //
京东云绿色数据中心高密度服务器的典型模块如图 1 所示,由标准电源、前 io 模组、液冷模组、内置 pcie 模组、风扇模组、电源转换模组、后 io 模组等构成。
图 1. 京东云绿色数据中心高密度服务器的模块化设计
与集中式电源架构中的 12v 总线电压设计相比,54v 总线电压通过减少机架中的传导损耗,能够在更高的机架功率下提供更好的整体机架效率。特别是当机架功率密度增加时,54v 供电的优势在机架总功率效率上更加明显。
京东云绿色数据中心高密度算力方案采用了天枢机架式机柜,该机柜支持两种电源模式,即中央模式和分布式模式,中央电源模式为 54v 高功率支持模式。两条电源线提供给电源架,输出功率为 54v。54v 电源通过机架式机柜后面垂直放置的电源母线提供给每个服务器节点。图 2 显示了天枢机架式机柜的电源架布局,即 12 个电源单元 (psu) 插入电源模块,这些 psu 的 54v 输出并联连接,并通过垂直铜母线提供给每个服务器节点。与母线相连的服务器内部设计有 54v 至 12v 电源转换模块,可将 54v 电源转换为 12v 电源,用于主板。
图 2. 天枢机架式机柜电源架布局
京东采用的 54v 电源 psu 为钛金牌高效率电源模块,能够通过高能源转换效率节省能源。此外,京东 54v 转 12v 电源模组采用成熟 54v vr 方案,多组并联,最大功率达 2100w,实现了可插拔、高效率、高功率密度。
京东还部署了从数据中心级到微处理器级的冷板液冷整体解决方案,在冷却液分配单元 (cdu)、工作液、歧管、服务器等方面进行了针对性的创新设计。该方案组建冷却液回路,利用 cdu 分配冷却液。在通过冷板收集计算节点的热量后,冷却液不断流向另一个冷的 cpu,并通过另一个连接器离开服务器冷板管道,实现液冷计算节点的液冷循环。
图 3. 京东服务器冷板液冷方案
为了进一步提高数据中心在计算、存储、网络层面的基础资源供给能力,推动数据中心节能减排,京东云绿色数据中心高密度算力方案采用了第四代英特尔 至强 可扩展处理器。第四代英特尔 至强 可扩展处理器通过创新架构增加了每个时钟周期的指令,每个插槽多达 56 个核心,支持 8 通道 ddr5 内存,有效提升了内存带宽与速度,并通过 pcie 5.0(80 个通道)实现了更高的 pcie 带宽提升。除了释放第四代英特尔 至强 可扩展处理器的基础算力优势之外,京东还灵活应用处理器集成的英特尔 iaa、英特尔 amx、英特尔 dsa、英特尔 qat 等高级硬件能力,提升数据中心面向多种负载的能效。
//收益:显著改善供电效率,助力节能减排 //
得益于更加高效的供电、冷却设计,京东云绿色数据中心高密度算力方案在节能减排方面实现了如下收益:
铜排效率改善 3.8%,铜排损耗减少 770w1 京东机柜最大负载测试数据显示,相较于 12v 总线电压设计相比,采用 54v 总线电压的整机柜铜排效率从 96% 提升到 99.86%,最大损耗从 800 w 降低到约 30 w,损耗大幅降低2 。
54v 转 12v 模组效率达到 97.7%3 服务器兼容 54v 集中供电的整机柜和 12v 的 crps 供电的服务器,54v 转 12v 模组效率达到 97.7%。
节省数据中心 tco 新的 54v 机架部署将增加资本成本,但投资的增加将通过每年节省的电能来补偿,按 21kw 机架功率计算,每年可节约用电 8500 千瓦时,节约用电成本约 6000 元;按部署 500 个机架计算,在 5 年的生命周期内,可节省高达 1500 万元的电力4 。
降低碳排放 该方案单个机柜每年可减少多达 87 吨的二氧化碳排放。部署 500 个机柜,在 5 年的生命周期内,总共可以减少 21750 吨二氧化碳排放5 。除此之外,天枢机架支持与液冷兼容,如今京东数据中心的液冷机架解决方案已实现 1.1 的 pue。同时,与传统机架相比,全机柜液冷在服务器部署中节省了大量运输。据估计,如果机架以全柜交付的方式交付,1000 个服务器节点的二氧化碳排放量可以减少 5.3 吨6 。
//展 望 //
在现代化的高密度数据中心,整体功耗的不断提升为散热效率、节能减排、以及运营成本带来了极大挑战,这也加重了企业寻找创新的数据中心供电、冷却解决方案的压力。通过在整机柜中采用 54v 总线电压设计,以及全机柜液冷方案,京东能够显著降低服务器供电损耗,提升电源链路效率,降低碳排放,助力打造高性能、高密度、可持续的绿色数据中心。
除了供电、冷却方面的节能减排措施之外,第四代英特尔 至强 可扩展处理器等新一代硬件将有助于提升性能密度与能效,助力降低服务器在多种负载下的能效。展望未来,英特尔正在与京东等业界上下游生态伙伴合作,围绕电源设计、冷却技术等构建行业标准,降低实施成本,结合中国市场特点,以助力提升能效、降低 pue,进而推动先进绿色数据中心建设,实现绿色节能发展。
实际性能受使用情况、配置和其他因素的差异影响。更多信息请见 www.intel.com/performanceindex
性能测试结果基于配置信息中显示的日期进行测试,且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。没有任何产品或组件是绝对安全的。
具体成本和结果可能不同。
英特尔技术可能需要启用硬件、软件或激活服务。
英特尔未做出任何明示和默示的保证,包括但不限于,关于适销性、适合特定目的及不侵权的默示保证,以及在履约过程、交易过程或贸易惯例中引起的任何保证。
英特尔并不控制或审计第三方数据。请您审查该内容,咨询其他来源,并确认提及数据是否准确。
Google的第五代TPU,推理性能提升2.5倍
软件定义存储的POWER之道
精准铸就实力 专业成就“菲”凡——南通菲希尔20周年庆典
光纤收发器的种类以及与光模块、跳线的连接使用
Bourns发布PLN0xx-ED21平面变压器,可满足高频、小空间功率转换需求
英特尔携手京东云构建绿色数据中心高密度算力方案,降低TCO和碳排放
留学生联合发明比头发细一百倍的3D打印微纳米纤维传感器
米尔科技Keil C166 开发工具介绍
基于Jini互联技术实现分布式嵌入式系统的设计
VR三维建模软件Gravity Sketch 5.1新版本更新,可进行三维景深设计
台湾触控面板厂 营收呈下降趋势
浅析如何在项目浏览器窗口管理FPGA应用
3lcd和dlp怎么选,DLP和3LCD投影机的选择对比
CES 2016:看前沿中国军团如何赚人眼球
汽车故障诊断专家系统软件的设计与研究用
电池的自放电为什么重要?电池需要多长时间才会自放电?
体验高达万兆网络速度,推荐几款好用的万兆网线
一种微型生态花园控制系统设计
青岛市蓝宝石晶片项目投产建设LED产业链
Valve最新的VR控制器细节暴露 或采用LCD显示屏