燧原科技发布了首款面向云端的高性能推理卡
云端ai推理需求将在2022年迎来爆发。继去年底发布首款面向数据中心的ai训练芯片“邃思”及加速卡“云燧t10”后，燧原科技又发布了首款面向云端的高性能推理卡。
疫情加快了数据中心建设步伐和ai应用的速度。“传统数据中心和ai没有直接关系，就是x86+gpu加一堆存储和数据搬运，但现在数据中心越来越多引入ai加速平台。ai的渗透率会越来越高，我们预计渗透率会从5%到25%-30%，市场非常庞大。”燧原科技ceo赵立东在接受第一财经专访时表示。
12月21日，燧原科技发布首款面向数据中心的ai推理产品 “云燧i10”。该公司是腾讯投资的国内ai芯片初创企业。2018年8月，燧原科技由腾讯领投获得pre-a轮融资3.4亿元人民币。今年5月，燧原科技宣布完成b轮融资7亿元人民币，由半导体产业基金武岳峰资本领投，腾讯、上海双创等跟投。
按使用场景划分，ai芯片主要分为云端和终端芯片。目前主流的神经网络深度学习包括训练和推断两个部分。云端追求高性能，开发成本更大，终端更侧重低成本和低功耗。目前中国ai初创企业主要布局在终端和边缘侧。
赵立东认为，面向数据中心的高性能ai计算芯片及分布式集群作为人工智能产业的基础设施，从架构升级到应用场景的落地，都蕴含了巨大的市场空间和机遇。
除了训练侧，云端ai推理的需求也不断攀升。研究机构赛迪顾问报告显示，从2019年到2021年三年中国ai芯片市场规模仍将保持50%以上的增长速度，到2021年，市场规模将达到305.7亿元。其中，随着大规模地方性数据中心的建设陆续完成，云端训练芯片增长速度放缓；而随着各领域市场需求的释放，云端推断芯片、终端推断芯片市场增长速度将持续呈上升趋势。
数据显示，从2019年到2024年，云端训练芯片的年复合增长率为32%，而云端推理的增长率将达69%。到2022年，中国云端推理芯片市场规模将达到189亿元，首次超过云端训练市场规模。
赵立东表示，ai真正起步在过去五六年，国内更晚，bat等大企业从2018、2019年才开始大量采购英伟达v100训练芯片，“训练跟推理的关系是训练出来的模型被部署到推理产品上使用。当模型、算法不成熟，你需要不断训练、迭代，成熟了才能被部署到推理上去真正应用。从2018年开始到2022年，很多场景的算法和模型经过这几年开始逐渐成熟，真正规模化应用。当推理芯片销售收入超过训练芯片，很多算法、模型已经开始被广泛应用了。对ai领域来讲，2022年是个重要的节点。”
在生态合作方面，燧原科技coo张亚林称：“云燧i10已完成与浪潮、新华三及supermicro等服务器厂商推理服务器的适配。可适用于视频图像、语音、自然语言处理、知识图谱等多种应用场景，并针对内容理解、推荐、识别等高精度场景做了优化。”
据悉，云燧i10是单槽位标准卡，支持pcie 4.0，fp32算力达17.6tflops，bf16/fp16算力70.4tflops，将于明年第一季度上市。同时，燧原科技发布了推理引擎“鉴算topsinference”。
燧原科技的云端训练产品已实现商业落地。今年9月，燧原科技称，“云燧t10”和由其组成的多卡分布式训练集群已在云数据中心落地，正式进入商用阶段。腾讯是燧原科技的重要合作伙伴，赵立东告诉第一财经，双方将进一步加强合作的广度和深度。不过，他指出，“腾讯是我们起步期（破冰）的重要伙伴，起步是最难的，从0到1。腾讯给我们很大帮助，是我们第一个具有战略意义的重要客户，但绝对不是唯一的。”
据介绍，燧原科技有三大目标市场，一是云服务提供商，包括公有云、私有云、混合云等，这类企业有大量的流量和数据，需要训练算法加速ai相关应用；二是专注于金融、保险、医疗、交通等领域的行业服务商；三是ai超算中心和智慧城市等领域。
如何优化EMC滤波器详细方法说明
中小型嵌入式软件的高效管理
继存储和CIS之后，射频器件也开始涨价了
MIT开发机器学习模型 助力计算机释放情绪
怎样制作不用电池的遥控器
燧原科技发布了首款面向云端的高性能推理卡
Prost的最佳实践经验
ST | 汽车线性稳压器L99VR02J：车载电源设计的理想之选
从三方面介绍微流控技术发展及应用
TCL科技：T4 OLED二、三期产能按计划推进，T9投产顺利
PCB厂HDI板产能存在缺口,部分订单已排至明年
晶电2009年财报出炉董事会决议在厦门投资蓝光LED
半导体又一个卡脖子设备—风囊泵
我们该如何看待高压创新未来的发展
一场引发存储行业变革的发布会 闪迪大师系列新品发布庆典
直通模式让储能续航更持久
电机中通过最大电流的条件是什么
小米官方开始预热小米6！小米6搭载双摄板上钉钉
蓝牙的技术有哪些特点?
未来“人脸门禁”将会颠覆“二维码门禁”吗
疫情加快了数据中心建设步伐和ai应用的速度。“传统数据中心和ai没有直接关系，就是x86+gpu加一堆存储和数据搬运，但现在数据中心越来越多引入ai加速平台。ai的渗透率会越来越高，我们预计渗透率会从5%到25%-30%，市场非常庞大。”燧原科技ceo赵立东在接受第一财经专访时表示。
12月21日，燧原科技发布首款面向数据中心的ai推理产品 “云燧i10”。该公司是腾讯投资的国内ai芯片初创企业。2018年8月，燧原科技由腾讯领投获得pre-a轮融资3.4亿元人民币。今年5月，燧原科技宣布完成b轮融资7亿元人民币，由半导体产业基金武岳峰资本领投，腾讯、上海双创等跟投。
按使用场景划分，ai芯片主要分为云端和终端芯片。目前主流的神经网络深度学习包括训练和推断两个部分。云端追求高性能，开发成本更大，终端更侧重低成本和低功耗。目前中国ai初创企业主要布局在终端和边缘侧。
赵立东认为，面向数据中心的高性能ai计算芯片及分布式集群作为人工智能产业的基础设施，从架构升级到应用场景的落地，都蕴含了巨大的市场空间和机遇。
除了训练侧，云端ai推理的需求也不断攀升。研究机构赛迪顾问报告显示，从2019年到2021年三年中国ai芯片市场规模仍将保持50%以上的增长速度，到2021年，市场规模将达到305.7亿元。其中，随着大规模地方性数据中心的建设陆续完成，云端训练芯片增长速度放缓；而随着各领域市场需求的释放，云端推断芯片、终端推断芯片市场增长速度将持续呈上升趋势。
数据显示，从2019年到2024年，云端训练芯片的年复合增长率为32%，而云端推理的增长率将达69%。到2022年，中国云端推理芯片市场规模将达到189亿元，首次超过云端训练市场规模。
赵立东表示，ai真正起步在过去五六年，国内更晚，bat等大企业从2018、2019年才开始大量采购英伟达v100训练芯片，“训练跟推理的关系是训练出来的模型被部署到推理产品上使用。当模型、算法不成熟，你需要不断训练、迭代，成熟了才能被部署到推理上去真正应用。从2018年开始到2022年，很多场景的算法和模型经过这几年开始逐渐成熟，真正规模化应用。当推理芯片销售收入超过训练芯片，很多算法、模型已经开始被广泛应用了。对ai领域来讲，2022年是个重要的节点。”
在生态合作方面，燧原科技coo张亚林称：“云燧i10已完成与浪潮、新华三及supermicro等服务器厂商推理服务器的适配。可适用于视频图像、语音、自然语言处理、知识图谱等多种应用场景，并针对内容理解、推荐、识别等高精度场景做了优化。”
据悉，云燧i10是单槽位标准卡，支持pcie 4.0，fp32算力达17.6tflops，bf16/fp16算力70.4tflops，将于明年第一季度上市。同时，燧原科技发布了推理引擎“鉴算topsinference”。
燧原科技的云端训练产品已实现商业落地。今年9月，燧原科技称，“云燧t10”和由其组成的多卡分布式训练集群已在云数据中心落地，正式进入商用阶段。腾讯是燧原科技的重要合作伙伴，赵立东告诉第一财经，双方将进一步加强合作的广度和深度。不过，他指出，“腾讯是我们起步期（破冰）的重要伙伴，起步是最难的，从0到1。腾讯给我们很大帮助，是我们第一个具有战略意义的重要客户，但绝对不是唯一的。”
据介绍，燧原科技有三大目标市场，一是云服务提供商，包括公有云、私有云、混合云等，这类企业有大量的流量和数据，需要训练算法加速ai相关应用；二是专注于金融、保险、医疗、交通等领域的行业服务商；三是ai超算中心和智慧城市等领域。
如何优化EMC滤波器详细方法说明
中小型嵌入式软件的高效管理
继存储和CIS之后，射频器件也开始涨价了
MIT开发机器学习模型 助力计算机释放情绪
怎样制作不用电池的遥控器
燧原科技发布了首款面向云端的高性能推理卡
Prost的最佳实践经验
ST | 汽车线性稳压器L99VR02J：车载电源设计的理想之选
从三方面介绍微流控技术发展及应用
TCL科技：T4 OLED二、三期产能按计划推进，T9投产顺利
PCB厂HDI板产能存在缺口,部分订单已排至明年
晶电2009年财报出炉董事会决议在厦门投资蓝光LED
半导体又一个卡脖子设备—风囊泵
我们该如何看待高压创新未来的发展
一场引发存储行业变革的发布会 闪迪大师系列新品发布庆典
直通模式让储能续航更持久
电机中通过最大电流的条件是什么
小米官方开始预热小米6！小米6搭载双摄板上钉钉
蓝牙的技术有哪些特点?
未来“人脸门禁”将会颠覆“二维码门禁”吗