数据中心加速芯片需求大爆发，FPGA正领跑市场
数据中心 - 加速解决方案
中国信通院《数据中心白皮书2022》报告显示，2021年全球数据中心市场规模超过679亿美元，较2020年增长9.8%。随着数据视频化趋势加强，以及远程办公普及程度提高，数据中心市场呈现出稳健增长的趋势。但这也带来联网数据的爆炸式增长，对数据中心的数据处理能力提出巨大挑战。各种加速方案因而成为数据中心不可或缺的应用。
在数据中心里，加速芯片主要应用于三个方面：计算、存储和网络。其中，传统的gpu芯片，以及新兴的dpu、apu等加速芯片能够解决一部分需求，剩下很大一部分加速需求都是基于fpga来解决。
根据semico research在2019年提出的预测，2018年-2023年全球数据中心加速卡市场规模将从28.4亿美元增长至211.9亿美元，年复合增长率高达49.47%，fpga是其中增速最快的细分产品，需求主要来自企业级工作负载加速应用。
本文我们就来具体看一下，为什么fpga能够在数据中心加速领域领跑？具体的优势有哪些？并为大家推荐贸泽电子官网在售的可用于数据中心加速的fpga产品。
为何fpga适合数据中心加速
在传统数据中心部署方案中，计算和数据处理都是由cpu完成，存储和网络资源也是围绕cpu进行部署。然而，由于人工智能和物联网市场的爆发，云端数据量呈指数级增长，cpu便成为系统规模和效率提升的瓶颈，gpu、fpga、asic等高性能芯片开始涌入数据中心市场，其中fpga的典型产品形态就是加速卡。
不过，对于fpga产品而言，数据中心算是一个比较新的应用领域。比如，已经被amd收购的赛灵思在2018年伊始才正式宣布“数据中心优先”的发展战略。但是，凭借着高吞吐和低延迟的天然优势，再加上部署灵活，fpga在数据中心一经采用便迅速成为主流加速方案。
在数据中心应用里，fpga能够全面减轻cpu的任务负担，包括计算、存储和网络。传统数据中心的模型是基于cpu集群构建，宝贵的cpu内核被消耗殆尽，围绕cpu配备的网络接口控制器（nic）等初步缓解资源也无法解决根本问题。基于fpga的异构计算体系此时开始显现出优势，根据微软catapult项目公布的数据，通过fpga对应用于必应搜索引擎文件排名运算的服务器做加速，获得了95%的吞吐量提升，处理必应的自定义算法速度提高了40倍，加速效果显著。
剖析微软catapult项目能够发现，数据中心的硬件加速器需要满足几个条件：
一、需要具备灵活性和可扩展性，以云计算为主要服务方式的数据中心，其需要处理的任务是不固定的，面向不同的任务，加速器要全部能够自如地应对；
二、需要具备硬件资源虚拟化的能力，以完成和现有数据中心的同构并行，而不需要对现有架构进行大刀阔斧的修改；
三、需要具备分析推理的能力，提升较大应用模型部署的容错率。
方案商在评估各种硬件加速器之后发现，fpga相较于其他硬件，可以提供更高的性能，更好的实时性，以及足够的灵活性，可以根据未来算法与需求变更及时做调整。并且，fpga虚拟化的软件架构和接口资源大幅提升了和现有运算体系的同构属性，在方案升级时具备明显的成本优势。
我们再看一个具有代表性的例子——亚马逊aws f1，基于fpga对公有云进行加速服务。aws f1实例进一步优化了fpga在云服务加速方面的软硬件功能，主要原因是公有云的用户并不像私有云用户一样，具备强大的技术研发实力，并能够得到fpga厂商的一定支持。因此，在aws f1项目里，亚马逊将底层fpga的逻辑资源抽象化，使得用户不需要去担心接口资源和ip部署等细节问题，同时以完整的fpga开发配套工具帮助用户实现对应用方案的加速。
亚马逊aws f1更好地体现了fpga的高度定制化，这其实也是fpga的天然优势，这种可编辑的特性也就是上面提到的灵活性，单个fpga可以根据各种不用的应用重新配置，无需将特定的硬件变成asic，用户可以在机器学习、网络、安全等各个关键环节使用fpga。
除了国际厂商，在中国云服务市场，fpga也广受欢迎。目前，阿里云、腾讯云、百度云等国内云服务公司都已经在硬件加速方面选用fpga。比如，我们看到腾讯于2017年就曾推出国内首款高性能异构计算基础设施fpga云服务器，这款采用异构计算架构的云服务器相较于传统cpu服务器，性能提升在30倍以上。和亚马逊的理念类似，通过这种fpga云服务器，腾讯将只有大公司才能够长期部署的fpga带入到大众市场。目前，在腾讯云的硬件基础设施里，fpga已经在计算、网络、存储三大重要节点充当加速器角色。
主流云服务大厂对fpga的支持使得fpga在国内数据中心市场快速崛起。
根据frost&sullivan数据，2020年中国应用于数据中心领域的fpga芯片市场规模约 16.1亿元，占中国fpga芯片市场份额的10.7%，预计2021年-2025年的年均复合增速将达到16.6%。能够看到，随着fpga的加速性能在数据中心获得认可，未来该领域的市场增速非常快。
当然，必须要说明的是，在数据中心市场，fpga以及其他所有硬件加速器都不是cpu的“革命者”，而是协作者。未来随着数据中心计算体量和复杂度提升，cpu的精力会越来越多集中在复杂任务的调度和处理上，重复性和局部性的任务将更大规模地从cpu上转移。而fpga凭借上述提到的可编程、高吞吐、低延迟的特性，将承担更多的加速任务，为机器学习等典型的人工智能应用赋能。
与fpga灵活性类似的是，贸泽电子也为工程师提供了灵活多样的检索与支付方式，帮助工程师更快地购置好产品开发所需的元器件，从而提升研发效率。接下来，我们为大家推荐几款贸泽电子平台在售的fpga产品，它们都是硬件加速方面的好手。
业界首款fpga加速卡支持软件定义硬件
在数据中心领域，fpga加速卡是一种典型的产品形态，实现了基于fpga的系统集成。和传统的fpga开发板不同，fpga加速卡是更加完整的系统级方案。
alveo™ sn1000 smartnic加速度卡是一款提供软件定义硬件加速的smartnic，在单一解决方案中集成有网络连接、计算和存储加速功能，实现面向数据中心领域的任务负担转移。并且，由于fpga的可编程特性，这款加速卡支持各种广泛的定制卸载，包括支持客户构建和第三方卸载。
alveo™ sn1000加速卡提供的硬件资源包括：
pcie gen 4 x8或gen 3 x16
100g qsfp28 da铜缆或光纤收发器
基于xcu26（xcu26-l2vsva1365e）fpga，采用xilinx 16nm ultrascale+架构
板载cpu：16个64位arm cortex-a72内核，频率为2.0ghz，具有8mb缓存
1个4gb x 72 ddr4-2666（处理器）
2个4gb x 72 ddr4-2666（fpga）
总智能卡负载：75w
70w热设计功耗（tdp）
被动散热
在可编程方面，alveo™ sn1000加速卡支持全面协议级卸载加速定制、专用数据路径以及便捷的p4高级语言编程，并提供p4工具套件vitis networks，可让客户自定义卸载和调整现有卸载，以处理新协议和应用，而无需更换硬件。这些定制性的硬件加速包括：开放式vswitch和虚拟化加速（virtio.net）的网络加速；ipsec、ktls和ssl/tls安全加速；virtio.blk、基于tcp的nvme™、ceph、压缩和加密服务类型的存储加速。通过这些加速功能，alveo™ sn1000加速卡帮助数据中心更好地应对机器学习、数据分析、视频转码、视频和图像处理、基因组学、安全、金融计算等方面的加速需求。
高性能和高效率的alveo™ u50加速卡
alveo™ u50数据中心加速器卡基于ultrascale+™ 架构打造，率先使用半高半长的外形尺寸和低于75w的低包络功耗。该加速卡的产品规格如下：
ultrascale+架构
半高、半长、单插槽薄型外形尺寸
查找表数量：872,000
hbm2内存：8gb
hbm2带宽：316gb/s1
网络接口：1个qsfp28（100gbe）
时钟精度：ieee 1588
pci express：pcie gen3 x 16、双pcie；gen4 x 8、ccix
被动散热解决方案
功耗（tdp）：75w
alveo™ u50加速卡拥有三大典型的产品优势：
首先是高性能和高效率，8gb hbm2、100gbe网络和pci express 4.0为这款加速卡带来了高速度，并通过支持4x10gbe、4x 25gbe或1x 40gbe、1x 100gbe的100g网络，实现了低时延网络功能；
其次是灵活应变，可全面应对计算、存储和网络方面的任务负载，随着工作负载和算法通过可重新配置的架构（与固定架构不同）不断发展，能够以更大幅度地提高应用性能；
最后是方便易用，alveo™ u50加速卡经过精心构建，可为在云端或本地部署（可互换）的解决方案扩展架构。
借助这三大典型的产品优势，alveo™ u50加速卡可为金融计算、机器学习、计算存储以及数据搜索和分析领域的任务负载提供加速支持。
可用于10g至100g网络的virtex®-7 fpga
随着流量的不断激增，各大数据中心如何经济、平滑地提升网络带宽性能，成为产业关注的热门话题，以求在路由、交换、安全等方面实现全面调优。接下来，我们为大家推荐一款可用于10g至100g网络的virtex®-7 fpga，同样是来自制造商amd，贸泽电子官网上该器件的料号为xc7vx485t-1ffg1761c。
virtex®-7 fpga是amd 7系列fpga中的一个系列，基于低功耗（hpl）、28nm、高k金属栅极（hkmg）工艺技术打造，提供高达2m逻辑单元，具有出色的功耗性能比架构、dsp性能以及i/o带宽。virtex®-7 fpga提供超高端连接带宽，总串行带宽高达2.8tb/s，最多支持96 x 13.1g gt、16 x 28.05g gt、5,335 gmac、68mb bram、ddr3-1866。
表1：amd 7系列fpga产品参数表（图源：amd）
virtex®-7 fpga适合小尺寸、成本敏感、大容量应用，比如100ge线路卡。
帮助数据中心应对复杂多变的新场景
随着数据中心里面的数据体量越来越大，并且行业应用对于低时延的要求越来越苛刻，fpga通过对数据中心计算效能的提升，对通信网络的持续优化，推动了数据中心的智能化升级，并帮助其应对愈加复杂的新场景、新ai模型，最终帮助社会各行业实现更深层的数字化运营。在贸泽电子官网上，无论是fpga产品还是基于fpga实现的加速卡，都有丰富的产品选择，借助这些高性能器件，开发人员可以为数据中心加速再加速。
释放音乐动力 大众帕萨特改装芬朗汽车音响
人工智能已在军事领域引起极大兴趣
想要完成全球先进产能的配套服务，需与海外企业充分合作
100%自主研发！龙芯中科新一代通用处理器发布
5G时代机器人会迎来春天吗
数据中心加速芯片需求大爆发，FPGA正领跑市场
可控硅的基本工作原理及在调光器中的使用_可控硅设计经验总结
英飞凌牵手昆腾微电子，合作开发面向中国市场的安全控制芯片解决方案
简析开关电源如何降噪的
小米6：最强双摄+陶瓷3D机身+高通骁龙835 即将到来！
盘点机器学习推动运输与物流行业变革的几种方式
5G芯片质量控制、测试提高芯片安全……OFweek第二期工程师技术专场演讲回顾！
谷歌使用机器学习模型来预测哪条路线最省油或最节能
如何使用Arduino UNO构建物联网通知设备
瑞芯微RK3568的性能解析
Nginx的特点和作用 Nginx常用命令和核心配置
迅为RK3568核心板
DCDC输入电压的原因是什么？有何解决方法？
一种能将AR彩妆自然叠加在人脸上美妆滤镜可以模拟彩妆师化妆技巧
京东618荣耀9获得18日新品销量冠军，荣耀V9、畅玩6X、荣耀8青春版、畅玩5霸占单品销量TOP10
中国信通院《数据中心白皮书2022》报告显示，2021年全球数据中心市场规模超过679亿美元，较2020年增长9.8%。随着数据视频化趋势加强，以及远程办公普及程度提高，数据中心市场呈现出稳健增长的趋势。但这也带来联网数据的爆炸式增长，对数据中心的数据处理能力提出巨大挑战。各种加速方案因而成为数据中心不可或缺的应用。
在数据中心里，加速芯片主要应用于三个方面：计算、存储和网络。其中，传统的gpu芯片，以及新兴的dpu、apu等加速芯片能够解决一部分需求，剩下很大一部分加速需求都是基于fpga来解决。
根据semico research在2019年提出的预测，2018年-2023年全球数据中心加速卡市场规模将从28.4亿美元增长至211.9亿美元，年复合增长率高达49.47%，fpga是其中增速最快的细分产品，需求主要来自企业级工作负载加速应用。
本文我们就来具体看一下，为什么fpga能够在数据中心加速领域领跑？具体的优势有哪些？并为大家推荐贸泽电子官网在售的可用于数据中心加速的fpga产品。
为何fpga适合数据中心加速
在传统数据中心部署方案中，计算和数据处理都是由cpu完成，存储和网络资源也是围绕cpu进行部署。然而，由于人工智能和物联网市场的爆发，云端数据量呈指数级增长，cpu便成为系统规模和效率提升的瓶颈，gpu、fpga、asic等高性能芯片开始涌入数据中心市场，其中fpga的典型产品形态就是加速卡。
不过，对于fpga产品而言，数据中心算是一个比较新的应用领域。比如，已经被amd收购的赛灵思在2018年伊始才正式宣布“数据中心优先”的发展战略。但是，凭借着高吞吐和低延迟的天然优势，再加上部署灵活，fpga在数据中心一经采用便迅速成为主流加速方案。
在数据中心应用里，fpga能够全面减轻cpu的任务负担，包括计算、存储和网络。传统数据中心的模型是基于cpu集群构建，宝贵的cpu内核被消耗殆尽，围绕cpu配备的网络接口控制器（nic）等初步缓解资源也无法解决根本问题。基于fpga的异构计算体系此时开始显现出优势，根据微软catapult项目公布的数据，通过fpga对应用于必应搜索引擎文件排名运算的服务器做加速，获得了95%的吞吐量提升，处理必应的自定义算法速度提高了40倍，加速效果显著。
剖析微软catapult项目能够发现，数据中心的硬件加速器需要满足几个条件：
一、需要具备灵活性和可扩展性，以云计算为主要服务方式的数据中心，其需要处理的任务是不固定的，面向不同的任务，加速器要全部能够自如地应对；
二、需要具备硬件资源虚拟化的能力，以完成和现有数据中心的同构并行，而不需要对现有架构进行大刀阔斧的修改；
三、需要具备分析推理的能力，提升较大应用模型部署的容错率。
方案商在评估各种硬件加速器之后发现，fpga相较于其他硬件，可以提供更高的性能，更好的实时性，以及足够的灵活性，可以根据未来算法与需求变更及时做调整。并且，fpga虚拟化的软件架构和接口资源大幅提升了和现有运算体系的同构属性，在方案升级时具备明显的成本优势。
我们再看一个具有代表性的例子——亚马逊aws f1，基于fpga对公有云进行加速服务。aws f1实例进一步优化了fpga在云服务加速方面的软硬件功能，主要原因是公有云的用户并不像私有云用户一样，具备强大的技术研发实力，并能够得到fpga厂商的一定支持。因此，在aws f1项目里，亚马逊将底层fpga的逻辑资源抽象化，使得用户不需要去担心接口资源和ip部署等细节问题，同时以完整的fpga开发配套工具帮助用户实现对应用方案的加速。
亚马逊aws f1更好地体现了fpga的高度定制化，这其实也是fpga的天然优势，这种可编辑的特性也就是上面提到的灵活性，单个fpga可以根据各种不用的应用重新配置，无需将特定的硬件变成asic，用户可以在机器学习、网络、安全等各个关键环节使用fpga。
除了国际厂商，在中国云服务市场，fpga也广受欢迎。目前，阿里云、腾讯云、百度云等国内云服务公司都已经在硬件加速方面选用fpga。比如，我们看到腾讯于2017年就曾推出国内首款高性能异构计算基础设施fpga云服务器，这款采用异构计算架构的云服务器相较于传统cpu服务器，性能提升在30倍以上。和亚马逊的理念类似，通过这种fpga云服务器，腾讯将只有大公司才能够长期部署的fpga带入到大众市场。目前，在腾讯云的硬件基础设施里，fpga已经在计算、网络、存储三大重要节点充当加速器角色。
主流云服务大厂对fpga的支持使得fpga在国内数据中心市场快速崛起。
根据frost&sullivan数据，2020年中国应用于数据中心领域的fpga芯片市场规模约 16.1亿元，占中国fpga芯片市场份额的10.7%，预计2021年-2025年的年均复合增速将达到16.6%。能够看到，随着fpga的加速性能在数据中心获得认可，未来该领域的市场增速非常快。
当然，必须要说明的是，在数据中心市场，fpga以及其他所有硬件加速器都不是cpu的“革命者”，而是协作者。未来随着数据中心计算体量和复杂度提升，cpu的精力会越来越多集中在复杂任务的调度和处理上，重复性和局部性的任务将更大规模地从cpu上转移。而fpga凭借上述提到的可编程、高吞吐、低延迟的特性，将承担更多的加速任务，为机器学习等典型的人工智能应用赋能。
与fpga灵活性类似的是，贸泽电子也为工程师提供了灵活多样的检索与支付方式，帮助工程师更快地购置好产品开发所需的元器件，从而提升研发效率。接下来，我们为大家推荐几款贸泽电子平台在售的fpga产品，它们都是硬件加速方面的好手。
业界首款fpga加速卡支持软件定义硬件
在数据中心领域，fpga加速卡是一种典型的产品形态，实现了基于fpga的系统集成。和传统的fpga开发板不同，fpga加速卡是更加完整的系统级方案。
alveo™ sn1000 smartnic加速度卡是一款提供软件定义硬件加速的smartnic，在单一解决方案中集成有网络连接、计算和存储加速功能，实现面向数据中心领域的任务负担转移。并且，由于fpga的可编程特性，这款加速卡支持各种广泛的定制卸载，包括支持客户构建和第三方卸载。
alveo™ sn1000加速卡提供的硬件资源包括：
pcie gen 4 x8或gen 3 x16
100g qsfp28 da铜缆或光纤收发器
基于xcu26（xcu26-l2vsva1365e）fpga，采用xilinx 16nm ultrascale+架构
板载cpu：16个64位arm cortex-a72内核，频率为2.0ghz，具有8mb缓存
1个4gb x 72 ddr4-2666（处理器）
2个4gb x 72 ddr4-2666（fpga）
总智能卡负载：75w
70w热设计功耗（tdp）
被动散热
在可编程方面，alveo™ sn1000加速卡支持全面协议级卸载加速定制、专用数据路径以及便捷的p4高级语言编程，并提供p4工具套件vitis networks，可让客户自定义卸载和调整现有卸载，以处理新协议和应用，而无需更换硬件。这些定制性的硬件加速包括：开放式vswitch和虚拟化加速（virtio.net）的网络加速；ipsec、ktls和ssl/tls安全加速；virtio.blk、基于tcp的nvme™、ceph、压缩和加密服务类型的存储加速。通过这些加速功能，alveo™ sn1000加速卡帮助数据中心更好地应对机器学习、数据分析、视频转码、视频和图像处理、基因组学、安全、金融计算等方面的加速需求。
高性能和高效率的alveo™ u50加速卡
alveo™ u50数据中心加速器卡基于ultrascale+™ 架构打造，率先使用半高半长的外形尺寸和低于75w的低包络功耗。该加速卡的产品规格如下：
ultrascale+架构
半高、半长、单插槽薄型外形尺寸
查找表数量：872,000
hbm2内存：8gb
hbm2带宽：316gb/s1
网络接口：1个qsfp28（100gbe）
时钟精度：ieee 1588
pci express：pcie gen3 x 16、双pcie；gen4 x 8、ccix
被动散热解决方案
功耗（tdp）：75w
alveo™ u50加速卡拥有三大典型的产品优势：
首先是高性能和高效率，8gb hbm2、100gbe网络和pci express 4.0为这款加速卡带来了高速度，并通过支持4x10gbe、4x 25gbe或1x 40gbe、1x 100gbe的100g网络，实现了低时延网络功能；
其次是灵活应变，可全面应对计算、存储和网络方面的任务负载，随着工作负载和算法通过可重新配置的架构（与固定架构不同）不断发展，能够以更大幅度地提高应用性能；
最后是方便易用，alveo™ u50加速卡经过精心构建，可为在云端或本地部署（可互换）的解决方案扩展架构。
借助这三大典型的产品优势，alveo™ u50加速卡可为金融计算、机器学习、计算存储以及数据搜索和分析领域的任务负载提供加速支持。
可用于10g至100g网络的virtex®-7 fpga
随着流量的不断激增，各大数据中心如何经济、平滑地提升网络带宽性能，成为产业关注的热门话题，以求在路由、交换、安全等方面实现全面调优。接下来，我们为大家推荐一款可用于10g至100g网络的virtex®-7 fpga，同样是来自制造商amd，贸泽电子官网上该器件的料号为xc7vx485t-1ffg1761c。
virtex®-7 fpga是amd 7系列fpga中的一个系列，基于低功耗（hpl）、28nm、高k金属栅极（hkmg）工艺技术打造，提供高达2m逻辑单元，具有出色的功耗性能比架构、dsp性能以及i/o带宽。virtex®-7 fpga提供超高端连接带宽，总串行带宽高达2.8tb/s，最多支持96 x 13.1g gt、16 x 28.05g gt、5,335 gmac、68mb bram、ddr3-1866。
表1：amd 7系列fpga产品参数表（图源：amd）
virtex®-7 fpga适合小尺寸、成本敏感、大容量应用，比如100ge线路卡。
帮助数据中心应对复杂多变的新场景
随着数据中心里面的数据体量越来越大，并且行业应用对于低时延的要求越来越苛刻，fpga通过对数据中心计算效能的提升，对通信网络的持续优化，推动了数据中心的智能化升级，并帮助其应对愈加复杂的新场景、新ai模型，最终帮助社会各行业实现更深层的数字化运营。在贸泽电子官网上，无论是fpga产品还是基于fpga实现的加速卡，都有丰富的产品选择，借助这些高性能器件，开发人员可以为数据中心加速再加速。
释放音乐动力 大众帕萨特改装芬朗汽车音响
人工智能已在军事领域引起极大兴趣
想要完成全球先进产能的配套服务，需与海外企业充分合作
100%自主研发！龙芯中科新一代通用处理器发布
5G时代机器人会迎来春天吗
数据中心加速芯片需求大爆发，FPGA正领跑市场
可控硅的基本工作原理及在调光器中的使用_可控硅设计经验总结
英飞凌牵手昆腾微电子，合作开发面向中国市场的安全控制芯片解决方案
简析开关电源如何降噪的
小米6：最强双摄+陶瓷3D机身+高通骁龙835 即将到来！
盘点机器学习推动运输与物流行业变革的几种方式
5G芯片质量控制、测试提高芯片安全……OFweek第二期工程师技术专场演讲回顾！
谷歌使用机器学习模型来预测哪条路线最省油或最节能
如何使用Arduino UNO构建物联网通知设备
瑞芯微RK3568的性能解析
Nginx的特点和作用 Nginx常用命令和核心配置
迅为RK3568核心板
DCDC输入电压的原因是什么？有何解决方法？
一种能将AR彩妆自然叠加在人脸上美妆滤镜可以模拟彩妆师化妆技巧
京东618荣耀9获得18日新品销量冠军，荣耀V9、畅玩6X、荣耀8青春版、畅玩5霸占单品销量TOP10