不堪忍受英伟达霸权，微软、OpenAI纷纷自研AI芯片
科技云报道原创。
英伟达是当之无愧的“ai算力王者”，a100、h100系列芯片占据金字塔顶尖位置，是chatgpt这样的大型语言模型背后的动力来源。
但面对英伟达的独霸天下，科技巨头们都纷纷下场自研ai芯片。
10月6日，媒体援引知情人士消息称，微软计划在下个月的年度开发者大会上推出首款为人工智能设计的芯片，来降低成本并减少对英伟达的依赖。
同一天，据媒体消息显示，chatgpt开发商openai也正在探索ai芯片的可能性，并已评估潜在的收购目标，以加速自研芯片的研发。
事实上，不仅是微软、openai试图自研ai芯片，aws、谷歌、meta等科技巨头都已下场自研。
在酝酿数年后，这是否意味着英伟达的独霸时代即将结束？
巨头纷纷自研ai芯片
目前，包括谷歌、aws、阿里巴巴、百度、华为等国内外云服务大厂都已有自研 ai 芯片用于数据中心，微软和meta也有相关计划。所以对于头部的ai技术大厂来说，自研ai芯片已经是一大趋势。
微软早就自研芯片
作为全球头部云厂商，微软azure需要大量ai处理器。尤其是和openai合作以后，有消息称微软至少订购了数十万颗英伟达芯片。
因此，这几年微软在芯片研发上加快了进程，先是建立由前英特尔高管rani borkar领导的芯片部门；后又各处招兵买马，其中就包括前苹果芯片架构师filippo；此外还和amd展开了密切合作。
自2019年以来，微软就开始研发一款名为雅典娜（athena）的定制ai芯片，用于为大型语言模型提供动力，目前已在测试阶段。
athena的首个目标是为openai提供算力引擎，以替代昂贵的英伟达a100/h100。如果明年大规模推出，athena将允许微软内部和openai的团队同时训练和推理模型。
semianalysis的分析师迪伦·帕特尔（dylan patel）表示，开发类似于雅典娜的芯片可能每年需要花费1亿美元左右，chatgpt每天的运营成本约70万美元，大部分成本来源于昂贵的服务器，如果雅典娜芯片与英伟达的产品拥有同等竞争力，每个芯片的成本将可以降低三分之一。
有知情人爆料，微软在芯片研发上已砸入了近20亿美元。
openai计划收购
据媒体消息称，openai也正在探索制造自研人工智能芯片，并已开始评估潜在的收购目标。
报道称，至少从去年开始，openai就已讨论各种方案，以解决ai芯片短缺问题。
openai已将获取更多ai芯片列为公司首要任务，讨论方案包括自研ai芯片，与包括英伟达在内的其他芯片制造商更密切地合作，以及在英伟达之外实现供应商多元化。
谷歌最早自研tpu芯片
早在2013年，谷歌就已秘密研发一款专注于ai机器学习算法的芯片，并将其用在内部的云计算数据中心中，以取代英伟达的gpu。
2016年5月，这款自研芯片公诸于世，即tpu。tpu可以为深度学习模型执行大规模矩阵运算，例如用于自然语言处理、计算机视觉和推荐系统的模型，其最初专为谷歌的超级业务云计算数据中心而生。
2020年，谷歌实际上已在其数据中心部署了人工智能芯片tpu v4。
aws推出训练和推理芯片
从2013年推出首颗nitro1芯片至今，aws是最先涉足自研芯片的云厂商，已拥有网络芯片、服务器芯片、人工智能机器学习自研芯片3条产品线。
2018年初，科技媒体information爆料亚马逊已经开始设计定制ai芯片。
aws自研ai芯片版图包括推理芯片inferentia和训练芯片trainium。2018年底，aws推出自研ai推理芯片inferentia，可以以低成本在云端运行图像识别、语音识别、自然语言处理、个性化和欺诈检测等大规模机器学习推理应用程序。
2020年底，aws推出专用于训练机器学习模型的trainium。
2023年初，专为人工智能打造的inferentia 2发布。inf2实例最多可支持1750亿个参数，这使其成为大规模模型推理的有力竞争者。
在aws、微软和谷歌这三家中，亚马逊是唯一一家在服务器中提供两种类型芯片（标准计算芯片和用于训练与运行机器学习模型的专用芯片）的云提供商，其在2015年收购以色列芯片设计公司annapurna labs为这些努力奠定了基础。
meta基于risc-v开源架构自研
直到2022年，meta platforms还主要使用cpu和专为加速ai算法而设计的定制芯片组合来运行其ai工作负载。
后来，meta取消了于2022年大规模推出定制芯片的计划，转而订购了价值数十亿美元的英伟达gpu。
如今为了扭转局面，meta已经在开发内部芯片，并于5月19日公布了ai训练与推理芯片项目。
据介绍，mtia芯片的功耗仅为25瓦，占英伟达等市场领先供应商芯片功耗的一小部分，并使用了risc-v（第五代精简指令处理器）开源架构。
值得注意的是，meta于5月初收购了英国ai芯片独角兽graphcore的ai网络技术团队，为其自研ai芯片奠定了基础。
英伟达能否被撼动？
埃森哲公司报告指出，如今技术行业的ai渗透度明显高出其他行业，而未来企业的成长潜力取决于其能在多大程度上应用生成式ai。更关键的是，熟练运用新技术也将成为国家发展的关键。
如今，ai技术在数据中心、智能汽车、游戏等的应用落地方面取得了丰硕的成果，要实现ai大规模应用，背后必定要有大量ai芯片的算力支持。
数据显示，英伟达的gpu是全球应用最为广泛的 ai 芯片。
英伟达独立gpu市场份额达80%，在高端gpu市场份额高达90%。2020年，全世界跑ai的云计算与数据中心，80.6%都由英伟达gpu驱动。2021年，英伟达表示，全球前500个超算中，大约七成是由英伟达芯片驱动的。
显而易见，英伟达已经垄断了全球算力。
随着aws、谷歌、微软等巨头加入自研ai芯片的道路，英伟达的垄断地位是否能被撼动呢？
首先，芯片设计技术非常复杂。
高算力芯片的首要挑战就是其复杂度，从芯片设计角度，高性能计算芯片中的计算单元、存储访问以及芯片间的互联都是需要仔细考虑。
英伟达之所以引领gpu创新，源于其架构底座不断迭代，从2008年的tesla架构到2020年的ampere架构，每一次都是对硬件的升级与改进。代际之间产品性能提升显著，性能和市场份额均领先全球。
其次，不可一世的cuda生态。
比造芯更难的是搭建生态，全球gpu生态都来自cuda。
cuda，是英伟达2006年推出的通用并行计算架构生态，使gpu能够解决复杂的计算问题。
毋庸置疑，cuda是迄今为止最发达、最广泛的生态系统，也是深度学习库最有力的支持。
虽然有pytorch支持更多gpu厂商，再加上openai的triton搅局，但无法撼动cuda的统治地位。
随着人工智能领域的蓬勃发展，gpu和cuda被从业者视为标配，使用gpu做加速计算已成为行业主流。虽然英伟达gpu本身硬件平台的算力卓越，但其强大的cuda软件生态才是推升gpu计算生态普及的关键力量。
当前cuda 广泛功能已与英伟达gpu硬件深度耦合，开发者早已熟悉其专有的编程语言cuda，用于制作gpu驱动的应用程序。
如果换到其他厂商的定制芯片，就需要学习全新的软件语言了，如何说服开发者使用这些ai芯片呢？
最后，芯片的具体生产也是一个挑战。
如何确保芯片生产的良率，以及如何在高级封装和先进工艺节点产能仍然有可能紧张的几年内，获得足够的产能以量产，也是各大巨头需要解决的问题。
总体而言，想要撼动英伟达的垄断地位，并不是一朝一夕的事。各大科技巨头要想在ai算力芯片上突围，就必须在底座、专利、核心技术、人才建设、生态建设等各方面下大功夫。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级it领域top10媒体。获工信部权威认可，可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。
谈谈Codesys PLC编程
24+4千兆光电复用交换机的功能特点及应用方案
华为张平安：把全场景数字服务带给华为终端的每个人
可穿戴柔性人造皮肤可用于医疗领域
东南亚国家兴起分布式光伏发电热潮
不堪忍受英伟达霸权，微软、OpenAI纷纷自研AI芯片
解密苹果iPhone8双PCB主板电路和元器件：射频电路，无线充电和FaceID什么鬼？
以后的人工智能将会是怎样的
焊接机器人的优势有哪些
华为Mate 40系列或于下月升级鸿蒙系统?
VR也是医疗工具！15种VR+医疗的实际应用分析
静态时序分析的相关概念
上半年全球风电投资达572亿美元，太阳能投资716亿美元
佳能G5X相机采用9组11片的镜头结构设计，拥有2020万的有效像素
新手机电池充电12小时危险信号
可燃气体报警器在检定过程中需要注意什么
无人驾驶进入芯片和算法并行时期，谷歌特斯拉纷纷布局
电磁干扰滤波器的详细资料概述
力积电董事长：DRAM 芯片明年上半年将供不应求
Embark首个NVIDIA DRIVE平台实现最佳高性能AI计算与自动驾驶功能
英伟达是当之无愧的“ai算力王者”，a100、h100系列芯片占据金字塔顶尖位置，是chatgpt这样的大型语言模型背后的动力来源。
但面对英伟达的独霸天下，科技巨头们都纷纷下场自研ai芯片。
10月6日，媒体援引知情人士消息称，微软计划在下个月的年度开发者大会上推出首款为人工智能设计的芯片，来降低成本并减少对英伟达的依赖。
同一天，据媒体消息显示，chatgpt开发商openai也正在探索ai芯片的可能性，并已评估潜在的收购目标，以加速自研芯片的研发。
事实上，不仅是微软、openai试图自研ai芯片，aws、谷歌、meta等科技巨头都已下场自研。
在酝酿数年后，这是否意味着英伟达的独霸时代即将结束？
巨头纷纷自研ai芯片
目前，包括谷歌、aws、阿里巴巴、百度、华为等国内外云服务大厂都已有自研 ai 芯片用于数据中心，微软和meta也有相关计划。所以对于头部的ai技术大厂来说，自研ai芯片已经是一大趋势。
微软早就自研芯片
作为全球头部云厂商，微软azure需要大量ai处理器。尤其是和openai合作以后，有消息称微软至少订购了数十万颗英伟达芯片。
因此，这几年微软在芯片研发上加快了进程，先是建立由前英特尔高管rani borkar领导的芯片部门；后又各处招兵买马，其中就包括前苹果芯片架构师filippo；此外还和amd展开了密切合作。
自2019年以来，微软就开始研发一款名为雅典娜（athena）的定制ai芯片，用于为大型语言模型提供动力，目前已在测试阶段。
athena的首个目标是为openai提供算力引擎，以替代昂贵的英伟达a100/h100。如果明年大规模推出，athena将允许微软内部和openai的团队同时训练和推理模型。
semianalysis的分析师迪伦·帕特尔（dylan patel）表示，开发类似于雅典娜的芯片可能每年需要花费1亿美元左右，chatgpt每天的运营成本约70万美元，大部分成本来源于昂贵的服务器，如果雅典娜芯片与英伟达的产品拥有同等竞争力，每个芯片的成本将可以降低三分之一。
有知情人爆料，微软在芯片研发上已砸入了近20亿美元。
openai计划收购
据媒体消息称，openai也正在探索制造自研人工智能芯片，并已开始评估潜在的收购目标。
报道称，至少从去年开始，openai就已讨论各种方案，以解决ai芯片短缺问题。
openai已将获取更多ai芯片列为公司首要任务，讨论方案包括自研ai芯片，与包括英伟达在内的其他芯片制造商更密切地合作，以及在英伟达之外实现供应商多元化。
谷歌最早自研tpu芯片
早在2013年，谷歌就已秘密研发一款专注于ai机器学习算法的芯片，并将其用在内部的云计算数据中心中，以取代英伟达的gpu。
2016年5月，这款自研芯片公诸于世，即tpu。tpu可以为深度学习模型执行大规模矩阵运算，例如用于自然语言处理、计算机视觉和推荐系统的模型，其最初专为谷歌的超级业务云计算数据中心而生。
2020年，谷歌实际上已在其数据中心部署了人工智能芯片tpu v4。
aws推出训练和推理芯片
从2013年推出首颗nitro1芯片至今，aws是最先涉足自研芯片的云厂商，已拥有网络芯片、服务器芯片、人工智能机器学习自研芯片3条产品线。
2018年初，科技媒体information爆料亚马逊已经开始设计定制ai芯片。
aws自研ai芯片版图包括推理芯片inferentia和训练芯片trainium。2018年底，aws推出自研ai推理芯片inferentia，可以以低成本在云端运行图像识别、语音识别、自然语言处理、个性化和欺诈检测等大规模机器学习推理应用程序。
2020年底，aws推出专用于训练机器学习模型的trainium。
2023年初，专为人工智能打造的inferentia 2发布。inf2实例最多可支持1750亿个参数，这使其成为大规模模型推理的有力竞争者。
在aws、微软和谷歌这三家中，亚马逊是唯一一家在服务器中提供两种类型芯片（标准计算芯片和用于训练与运行机器学习模型的专用芯片）的云提供商，其在2015年收购以色列芯片设计公司annapurna labs为这些努力奠定了基础。
meta基于risc-v开源架构自研
直到2022年，meta platforms还主要使用cpu和专为加速ai算法而设计的定制芯片组合来运行其ai工作负载。
后来，meta取消了于2022年大规模推出定制芯片的计划，转而订购了价值数十亿美元的英伟达gpu。
如今为了扭转局面，meta已经在开发内部芯片，并于5月19日公布了ai训练与推理芯片项目。
据介绍，mtia芯片的功耗仅为25瓦，占英伟达等市场领先供应商芯片功耗的一小部分，并使用了risc-v（第五代精简指令处理器）开源架构。
值得注意的是，meta于5月初收购了英国ai芯片独角兽graphcore的ai网络技术团队，为其自研ai芯片奠定了基础。
英伟达能否被撼动？
埃森哲公司报告指出，如今技术行业的ai渗透度明显高出其他行业，而未来企业的成长潜力取决于其能在多大程度上应用生成式ai。更关键的是，熟练运用新技术也将成为国家发展的关键。
如今，ai技术在数据中心、智能汽车、游戏等的应用落地方面取得了丰硕的成果，要实现ai大规模应用，背后必定要有大量ai芯片的算力支持。
数据显示，英伟达的gpu是全球应用最为广泛的 ai 芯片。
英伟达独立gpu市场份额达80%，在高端gpu市场份额高达90%。2020年，全世界跑ai的云计算与数据中心，80.6%都由英伟达gpu驱动。2021年，英伟达表示，全球前500个超算中，大约七成是由英伟达芯片驱动的。
显而易见，英伟达已经垄断了全球算力。
随着aws、谷歌、微软等巨头加入自研ai芯片的道路，英伟达的垄断地位是否能被撼动呢？
首先，芯片设计技术非常复杂。
高算力芯片的首要挑战就是其复杂度，从芯片设计角度，高性能计算芯片中的计算单元、存储访问以及芯片间的互联都是需要仔细考虑。
英伟达之所以引领gpu创新，源于其架构底座不断迭代，从2008年的tesla架构到2020年的ampere架构，每一次都是对硬件的升级与改进。代际之间产品性能提升显著，性能和市场份额均领先全球。
其次，不可一世的cuda生态。
比造芯更难的是搭建生态，全球gpu生态都来自cuda。
cuda，是英伟达2006年推出的通用并行计算架构生态，使gpu能够解决复杂的计算问题。
毋庸置疑，cuda是迄今为止最发达、最广泛的生态系统，也是深度学习库最有力的支持。
虽然有pytorch支持更多gpu厂商，再加上openai的triton搅局，但无法撼动cuda的统治地位。
随着人工智能领域的蓬勃发展，gpu和cuda被从业者视为标配，使用gpu做加速计算已成为行业主流。虽然英伟达gpu本身硬件平台的算力卓越，但其强大的cuda软件生态才是推升gpu计算生态普及的关键力量。
当前cuda 广泛功能已与英伟达gpu硬件深度耦合，开发者早已熟悉其专有的编程语言cuda，用于制作gpu驱动的应用程序。
如果换到其他厂商的定制芯片，就需要学习全新的软件语言了，如何说服开发者使用这些ai芯片呢？
最后，芯片的具体生产也是一个挑战。
如何确保芯片生产的良率，以及如何在高级封装和先进工艺节点产能仍然有可能紧张的几年内，获得足够的产能以量产，也是各大巨头需要解决的问题。
总体而言，想要撼动英伟达的垄断地位，并不是一朝一夕的事。各大科技巨头要想在ai算力芯片上突围，就必须在底座、专利、核心技术、人才建设、生态建设等各方面下大功夫。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级it领域top10媒体。获工信部权威认可，可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。
谈谈Codesys PLC编程
24+4千兆光电复用交换机的功能特点及应用方案
华为张平安：把全场景数字服务带给华为终端的每个人
可穿戴柔性人造皮肤可用于医疗领域
东南亚国家兴起分布式光伏发电热潮
不堪忍受英伟达霸权，微软、OpenAI纷纷自研AI芯片
解密苹果iPhone8双PCB主板电路和元器件：射频电路，无线充电和FaceID什么鬼？
以后的人工智能将会是怎样的
焊接机器人的优势有哪些
华为Mate 40系列或于下月升级鸿蒙系统?
VR也是医疗工具！15种VR+医疗的实际应用分析
静态时序分析的相关概念
上半年全球风电投资达572亿美元，太阳能投资716亿美元
佳能G5X相机采用9组11片的镜头结构设计，拥有2020万的有效像素
新手机电池充电12小时危险信号
可燃气体报警器在检定过程中需要注意什么
无人驾驶进入芯片和算法并行时期，谷歌特斯拉纷纷布局
电磁干扰滤波器的详细资料概述
力积电董事长：DRAM 芯片明年上半年将供不应求
Embark首个NVIDIA DRIVE平台实现最佳高性能AI计算与自动驾驶功能