作者:rambus ip核产品营销高级总监frank ferro
随着数据中心对人工智能和机器学习(ai/ml)的利用率越来越高,大量数据不断被产生和消耗,这给数据中心快速而高效地存储、移动和分析数据提出了巨大挑战。
而中国的情况尤其如此:随着中国不断推进人工智能的发展,对高性能处理的需求持续增长,而传统数据中心已然成为必须解决的瓶颈。为应对这一挑战,中国公布了《新型数据中心发展三年行动计划》。与传统数据中心相比,新型数据中心具有高技术、高算力、高能效和高安全的特征。
在市场需求和产业政策支持的双驱动下,数据中心服务器迫切需要更大的内存带宽和容量,以更好地支持ai/ml的持续发展。
自2013年推出以来,高带宽存储器(hbm)日益被视为将数据中心服务器和ai加速器的性能提升至新高度的理想方式之一。hbm是一种基于3d堆栈工艺的高性能sdram架构,能够实现巨大的内存带宽。
2018年年底,jedec固态技术协会宣布了hbm2e标准,以支持更高的带宽和容量。hbm2e每个引脚的传输速率上升到3.6gbps,可以实现每个堆栈461gb/s的内存带宽。此外,hbm2e最高支持12个dram的堆栈高度,并且单堆栈内存容量高达24gb。
在hbm2e中,四个连接到处理器的堆栈将提供超过1.8tb/s的带宽。通过内存的3d堆叠,hbm2e可以在极小的空间内实现高带宽和高容量。在此基础上,下一代的hbm3内存将数据传输速率和容量推向了新的高度。
rambus hbm3内存子系统针对高带宽和低延迟进行了专门优化,能够以紧凑的架构和高效能的封装提供最佳的性能和灵活性。这一解决方案由完全集成的phy和数字控制器组成,包含完整的hbm3内存子系统。
相比hbm2e,rambus hbm3内存子系统将最大数据传输速率提高了一倍以上,达到每个数据引脚8.4gbps(当此速度下的dram可用时)。该系统接口具有16个独立通道,每个通道包含64位,总数据宽度为1024位。在最大数据传输速率下,可以提供1075.2gb/s的总接口带宽,换言之,带宽超过1tb/s。
这一内存子系统专为2.5d架构设计,带有一个内插器,以在soc上的3d dram堆栈和phy之间传输信号。同时,这种信号密度和堆叠架构的组合还要求特殊的设计考量。为提高设计的易实施性和灵活性,rambus对整个2.5d架构的内存子系统进行了完整的信号和电源完整性分析,以确保满足所有的信号、电源和热量要求。除此之外,rambus还提供中介层参考设计。
凭借在高速信号处理方面逾30年的专业知识,以及在2.5d内存系统架构设计和实现方面的深厚积淀,rambus正引领hbm的演变。rambus提供了业界最快的hbm2e内存子系统;如今通过数据传输速率高达8.4gbps的hbm3内存子系统,rambus更进一步地提高了hbm的带宽标准。
Hi3861移植LVGL教程
网卡类型
中国电子展走进成都 艾德克斯闪耀西部
怎样用自行车轮做发电机 脑洞大开
玩转车载导航仪:体验科幻电影般的感觉
HBM3内存:向更高的带宽突破
双绞线引起CE电流法测试FAIL方案解析
AI驱动的超分辨技术应用现状
低成本、高可靠性的电瓶车充电器制作
丰田和比亚迪建立合资公司,共同研发电动汽车
关于云计算:IaaS的四个误解和四个猜想
有钱也可能买不到!小米5X抢购倒计时:小米5X今天上午10点正式发售,骁龙625+双摄,售价1499元
麻省理工学院推无人机VR训练系统,可减少设备损耗
《“互联网+”人工智能 三年行动实施方案》印发 9大方向6大措施
直流减速电机和直流电机的区别
如果说4G是在改变生活,5G则改变社会
开发者新征程:如何从无到有 扩展到新的开发领域
青岛汉泰携多款通用测试仪器亮相中国电子展
关于适应PON技术演进的现场连接器技术
华为鸿蒙系统正式发布,将很快在汽车上应用