GDDR6给FPGA带来的大带宽存储优势以及性能测试
作者：黄仑，achronix高级应用工程师
1. 概述
随着互联网时代的到来，人类所产生的数据发生了前所未有的、爆炸性的增长。idc预测，全球数据总量将从2019年的45zb增长到2025年的175zb［1］。同时，全球数据中近30%将需要实时处理，因而带来了对fpga等硬件数据处理加速器的需求。如图1所示。
图1 全球数据增长预测
在这样的数据高速增长的情况下，用于传输数据的网络带宽和处理数据所需要的算力也必须急速增长。传统的cpu已经越来越不堪重负，所以用硬件加速来减轻cpu的负担是满足未来性能需求的重要发展方向。未来的硬件发展需求对于用于加速的硬件平台提出了越来越高的要求，可以概括为三个方面：算力、数据传输带宽和存储器带宽。
achronix的新一代采用台积电7nm工艺的speedster 7t fpga芯片根据未来硬件加速和网络加速的需求，在这三个方面都做了优化，消除了传统fpga的瓶颈。下面我们重点说一说为了提高存储器带宽，achronix通过采用硬核gddr6控制器所带来的优势。
2. gddr6的发展
在gddr的设计之初，其定位是针对图形显示卡所特别优化的一种ddr内存。因为2000年后电脑游戏特别是3d游戏的发展和火爆，使运行电脑游戏的显卡需要有大量的高速图像数据交互需求，gddr在这种情况下应运而生。第一个gddr标准是基于ddr的gddr2，随后发展到了基于ddr3的gddr5，在一段时间中非常流行。
2016年，gddr5x正式发布，它引入了具有16n预取的四倍数据速率模式，但代价是访问粒度从gddr5的32byte提高到了64byte。2018年，gddr6发布，数据速率达到了16gbps，带宽几乎是gddr5x的两倍，同时采用了双通道设计，访问粒度和gddr5一样是32byte。
3. gddr6 和 ddr4/5的比较
gddr一直以来是针对图形显示卡所优化的一种ddr内存。因为显卡处理图像数据，特别是3d图像数据对显存带宽的要求更高，gpu和gddr之间的数据交换非常频繁。而ddr内存专注于与cpu进行数据交换的效率，因此对于整体存取性能、低延迟更为看重，所以在cpu和传统的fpga中基本都是用ddr4。
随着硬件加速需求对于存储器的带宽提出了越来越高的要求，传统的ddr4带宽显然已经无法满足要求，achronix看重了gddr6在数据存储中的带宽优势，创新地将gddr6引入到了fpga，彻底解决了传统fpga存储带宽不够的瓶颈。
2020年7月15日，jedec存储协会正式发布了ddr5 sdram的标准（jesd79-5），内存的频率相对ddr4的标准频率有了大幅的提升，总传输带宽也提升了38%，但是还是和gddr6的带宽有一定的差距。如图2所示［2］，gddr6和ddr4/5的带宽对比。
图2 gddr与ddr带宽发展对比
如果实现同一个大带宽存储的应用，在提供相同的存储器带宽的情况下，无论在设计复杂度，pcb占用面积，还是在功耗方面，与ddr4相比，gddr6的性能都有很大的提高，如图3所示［2］。
图3 gddr6和ddr4性能对比
4. gddr6 和 hbm2的比较
hbm全称high bandwidth memory，最初的标准是由jedec在2013年发布。2016年1月，hbm的第二代hbm2正式成为工业标准。hbm的出现也是为了解决存储器带宽问题。与gddr6不同的是，hbm内存一般是由4个或者8个hbm的die堆叠形成，我们称之为一个stack。如图4所示［4］。
图4 hbm die的堆叠
我们以市面上带有hbm2的高端 fpga为例，这个系列的fpga集成了1~2个这样的hbm2 stack。两个stack之间是相互独立的，各自有自己的地址空间。每个die都有独立的两个128bit的channel，所以4个die 8个通道就是1024bit的位宽，hbm2的频率是900mhz，按ddr的方式访问，一个stack总共带宽是 900（mhz）x 2（ddr）x 1024（位宽）/8 = 230gb/s，两个stack最高可以到460gb/s的带宽。
achronix的speedster 7t fpga集成了8个gddr6的硬核，每个gddr6的硬核支持双通道。总的带宽是 16gbps x 16（位宽）x 2（通道）x 8（控制器）/8 = 512 gb/s，略高于带hbm2的fpga存储器带宽。
从成本上来看，目前gddr6与hbm2相比有着很大的优势，hbm2技术工艺要求高，目前芯片的良率和产量都会受到很大的影响。同时gddr6使用起来更灵活，使用片外的dram，可以根据应用要求，选择不同速率，不同容量的gddr6颗粒。hbm2的优势在于集成度高，不占用pcb板的面积。图5是ddr4、gddr6和hbm2在成本上的一个综合比较。
图5 ddr4 vs gddr6 vs hbm2
5. gddr6 技术细节以及clamshell模式
gddr6结构如图6所示［3］。它是采用16n prefetch结构，一次写操作或者读操作的数据是16n。每个gddr6颗粒有两个独立的通道，每个独立的通道访问独立的内存空间。对于每个通道，读或者写的位宽是256bit或者32byte。p-to-s converter是一个并变串的转换器，把每个256bit位宽的数据转换成16位总线，每位总线上传输16bit的数据。这样gddr6每个通道最小的访问粒度是256bit或者32byte。
根据gddr6这样16n 预取结构，内部存储阵列如果访问周期是1ns，则i/o上的数据率则是16gbps。
图6 gddr6颗粒结构
一个gddr6控制器支持两个独立通道，一个gddr6颗粒也是两个独立的通道，所以在通常模式下，一个gddr6控制器对应一个gddr6的颗粒，用x16模式，实现最高512gb/s的带宽。
因为目前市面上gddr6颗粒的最大容量是16gb，在有些应用中如果对容量有一定的要求，可以使用一种叫clamshell的连接方式，如图7［5］所示，每个gddr6控制器连接两个gddr6颗粒，每个gddr6的颗粒用x8模式，这样在这种clamshell模式下，带宽不变，但是支持的gddr6的容量翻倍了。
图7 gddr6的clamshell模式
6. gddr6 在7t1500上的读写效率
最后，我们测试一下7t1500上gddr6控制器的读写效率，所有的测试结果基于仿真数据。测试环境如图8所示。因为7t1500包含了片上网络（noc），并且noc已经实现了仲裁，时钟域转换的逻辑，我们用三个用户逻辑通过noc去访问同一个gddr6 channel，得到的综合读写效率更能反映用户实际运用中的场景。
图8 gddr6读写效率测试架构
在不同的突发长度和不同的地址访问方式下的测试结果如图9所示。
图9 gddr6读写效率
后面我们会继续深入了解speedster 7t fpga芯片上的一些特性，以及这些特性如何运用在数据加速和网络加速中，敬请期待。 如需更多信息或者有任何疑问您可以通过achronix公众号里的联系方式联系我们，也可访问achronix公司官方网站 http://www.achronix.com
如果需要进一步联络achronix中国区技术和产品应用团队，请发送邮件到：dawson.guo@achronix.com
参考文献：
1.the digitization of the world from edge to core 2018
2.extending the benefits of gddr beyond graphics by micron
3.tn-ed-03： gddr6： the next-generation graphics dram memory array prefetch and access granularity
4.samsung网站：www.samsung.com
5.micron网站：www.micron.com
6.achronix网站：www.achronix.com
imea儿童无屏电视评测 最适合送给孩子的礼物
怎么使用万用表查短路、断路、漏电？
ups对发电机的影响有哪些
IMG iEW410超低功耗Wi-Fi IP 获大奖
Java、云计算、嵌入式等史上最全技术知识图谱秘籍
GDDR6给FPGA带来的大带宽存储优势以及性能测试
什么时候什么地方使用复位？
rfid技术在零售业上有什么作为
沉寂2年后，LED芯片产业迎来复苏期
微生物气溶胶采样器概述及技术指标
再添造芯新料 vivo上海芯片研发总部曝光
刚入手的小米6开箱：比我的三星S7edge漂亮多了
变频器的输入与输出端接反后果与措施分析
千方科技筑牢智慧交通四全底座 金溢科技助力全国首个无杆ETC站落地
什么是定位精度和重复定位精度_数控机床重复定位精度详解
苹果最新5nm芯片性能优越 三季度财报苹果实现创纪录季度增长
日本将斥资24亿美元与美国建立联合芯片研究中心
5G赋能游戏产业驶入“快车道”,高通骁龙8系点燃胜利光芒
2020苹果发布会你会失望吗？今晚苹果发布会无iPhone12？
机械工程师和电气工程师哪个更有优势
1. 概述
随着互联网时代的到来，人类所产生的数据发生了前所未有的、爆炸性的增长。idc预测，全球数据总量将从2019年的45zb增长到2025年的175zb［1］。同时，全球数据中近30%将需要实时处理，因而带来了对fpga等硬件数据处理加速器的需求。如图1所示。
图1 全球数据增长预测
在这样的数据高速增长的情况下，用于传输数据的网络带宽和处理数据所需要的算力也必须急速增长。传统的cpu已经越来越不堪重负，所以用硬件加速来减轻cpu的负担是满足未来性能需求的重要发展方向。未来的硬件发展需求对于用于加速的硬件平台提出了越来越高的要求，可以概括为三个方面：算力、数据传输带宽和存储器带宽。
achronix的新一代采用台积电7nm工艺的speedster 7t fpga芯片根据未来硬件加速和网络加速的需求，在这三个方面都做了优化，消除了传统fpga的瓶颈。下面我们重点说一说为了提高存储器带宽，achronix通过采用硬核gddr6控制器所带来的优势。
2. gddr6的发展
在gddr的设计之初，其定位是针对图形显示卡所特别优化的一种ddr内存。因为2000年后电脑游戏特别是3d游戏的发展和火爆，使运行电脑游戏的显卡需要有大量的高速图像数据交互需求，gddr在这种情况下应运而生。第一个gddr标准是基于ddr的gddr2，随后发展到了基于ddr3的gddr5，在一段时间中非常流行。
2016年，gddr5x正式发布，它引入了具有16n预取的四倍数据速率模式，但代价是访问粒度从gddr5的32byte提高到了64byte。2018年，gddr6发布，数据速率达到了16gbps，带宽几乎是gddr5x的两倍，同时采用了双通道设计，访问粒度和gddr5一样是32byte。
3. gddr6 和 ddr4/5的比较
gddr一直以来是针对图形显示卡所优化的一种ddr内存。因为显卡处理图像数据，特别是3d图像数据对显存带宽的要求更高，gpu和gddr之间的数据交换非常频繁。而ddr内存专注于与cpu进行数据交换的效率，因此对于整体存取性能、低延迟更为看重，所以在cpu和传统的fpga中基本都是用ddr4。
随着硬件加速需求对于存储器的带宽提出了越来越高的要求，传统的ddr4带宽显然已经无法满足要求，achronix看重了gddr6在数据存储中的带宽优势，创新地将gddr6引入到了fpga，彻底解决了传统fpga存储带宽不够的瓶颈。
2020年7月15日，jedec存储协会正式发布了ddr5 sdram的标准（jesd79-5），内存的频率相对ddr4的标准频率有了大幅的提升，总传输带宽也提升了38%，但是还是和gddr6的带宽有一定的差距。如图2所示［2］，gddr6和ddr4/5的带宽对比。
图2 gddr与ddr带宽发展对比
如果实现同一个大带宽存储的应用，在提供相同的存储器带宽的情况下，无论在设计复杂度，pcb占用面积，还是在功耗方面，与ddr4相比，gddr6的性能都有很大的提高，如图3所示［2］。
图3 gddr6和ddr4性能对比
4. gddr6 和 hbm2的比较
hbm全称high bandwidth memory，最初的标准是由jedec在2013年发布。2016年1月，hbm的第二代hbm2正式成为工业标准。hbm的出现也是为了解决存储器带宽问题。与gddr6不同的是，hbm内存一般是由4个或者8个hbm的die堆叠形成，我们称之为一个stack。如图4所示［4］。
图4 hbm die的堆叠
我们以市面上带有hbm2的高端 fpga为例，这个系列的fpga集成了1~2个这样的hbm2 stack。两个stack之间是相互独立的，各自有自己的地址空间。每个die都有独立的两个128bit的channel，所以4个die 8个通道就是1024bit的位宽，hbm2的频率是900mhz，按ddr的方式访问，一个stack总共带宽是 900（mhz）x 2（ddr）x 1024（位宽）/8 = 230gb/s，两个stack最高可以到460gb/s的带宽。
achronix的speedster 7t fpga集成了8个gddr6的硬核，每个gddr6的硬核支持双通道。总的带宽是 16gbps x 16（位宽）x 2（通道）x 8（控制器）/8 = 512 gb/s，略高于带hbm2的fpga存储器带宽。
从成本上来看，目前gddr6与hbm2相比有着很大的优势，hbm2技术工艺要求高，目前芯片的良率和产量都会受到很大的影响。同时gddr6使用起来更灵活，使用片外的dram，可以根据应用要求，选择不同速率，不同容量的gddr6颗粒。hbm2的优势在于集成度高，不占用pcb板的面积。图5是ddr4、gddr6和hbm2在成本上的一个综合比较。
图5 ddr4 vs gddr6 vs hbm2
5. gddr6 技术细节以及clamshell模式
gddr6结构如图6所示［3］。它是采用16n prefetch结构，一次写操作或者读操作的数据是16n。每个gddr6颗粒有两个独立的通道，每个独立的通道访问独立的内存空间。对于每个通道，读或者写的位宽是256bit或者32byte。p-to-s converter是一个并变串的转换器，把每个256bit位宽的数据转换成16位总线，每位总线上传输16bit的数据。这样gddr6每个通道最小的访问粒度是256bit或者32byte。
根据gddr6这样16n 预取结构，内部存储阵列如果访问周期是1ns，则i/o上的数据率则是16gbps。
图6 gddr6颗粒结构
一个gddr6控制器支持两个独立通道，一个gddr6颗粒也是两个独立的通道，所以在通常模式下，一个gddr6控制器对应一个gddr6的颗粒，用x16模式，实现最高512gb/s的带宽。
因为目前市面上gddr6颗粒的最大容量是16gb，在有些应用中如果对容量有一定的要求，可以使用一种叫clamshell的连接方式，如图7［5］所示，每个gddr6控制器连接两个gddr6颗粒，每个gddr6的颗粒用x8模式，这样在这种clamshell模式下，带宽不变，但是支持的gddr6的容量翻倍了。
图7 gddr6的clamshell模式
6. gddr6 在7t1500上的读写效率
最后，我们测试一下7t1500上gddr6控制器的读写效率，所有的测试结果基于仿真数据。测试环境如图8所示。因为7t1500包含了片上网络（noc），并且noc已经实现了仲裁，时钟域转换的逻辑，我们用三个用户逻辑通过noc去访问同一个gddr6 channel，得到的综合读写效率更能反映用户实际运用中的场景。
图8 gddr6读写效率测试架构
在不同的突发长度和不同的地址访问方式下的测试结果如图9所示。
图9 gddr6读写效率
后面我们会继续深入了解speedster 7t fpga芯片上的一些特性，以及这些特性如何运用在数据加速和网络加速中，敬请期待。 如需更多信息或者有任何疑问您可以通过achronix公众号里的联系方式联系我们，也可访问achronix公司官方网站 http://www.achronix.com
如果需要进一步联络achronix中国区技术和产品应用团队，请发送邮件到：dawson.guo@achronix.com
参考文献：
1.the digitization of the world from edge to core 2018
2.extending the benefits of gddr beyond graphics by micron
3.tn-ed-03： gddr6： the next-generation graphics dram memory array prefetch and access granularity
4.samsung网站：www.samsung.com
5.micron网站：www.micron.com
6.achronix网站：www.achronix.com
imea儿童无屏电视评测 最适合送给孩子的礼物
怎么使用万用表查短路、断路、漏电？
ups对发电机的影响有哪些
IMG iEW410超低功耗Wi-Fi IP 获大奖
Java、云计算、嵌入式等史上最全技术知识图谱秘籍
GDDR6给FPGA带来的大带宽存储优势以及性能测试
什么时候什么地方使用复位？
rfid技术在零售业上有什么作为
沉寂2年后，LED芯片产业迎来复苏期
微生物气溶胶采样器概述及技术指标
再添造芯新料 vivo上海芯片研发总部曝光
刚入手的小米6开箱：比我的三星S7edge漂亮多了
变频器的输入与输出端接反后果与措施分析
千方科技筑牢智慧交通四全底座 金溢科技助力全国首个无杆ETC站落地
什么是定位精度和重复定位精度_数控机床重复定位精度详解
苹果最新5nm芯片性能优越 三季度财报苹果实现创纪录季度增长
日本将斥资24亿美元与美国建立联合芯片研究中心
5G赋能游戏产业驶入“快车道”,高通骁龙8系点燃胜利光芒
2020苹果发布会你会失望吗？今晚苹果发布会无iPhone12？
机械工程师和电气工程师哪个更有优势