国内最大自动驾驶智算中心发布，为何车企纷纷自建智算中心？
前不久，毫末智行与火山引擎共同发布了中国自动驾驶行业最大的智算中心——毫末“雪湖·绿洲”（mana oasis）。据毫末智行ceo顾维灏介绍，mana oasis的算力高达67亿亿次/秒，存储带宽可达2t/秒，通信带宽达到800g/秒，可以为自动驾驶技术的持续迭代提供充足动力。
不仅仅是自动驾驶车自身算力，智算中心也成为车企和自动驾驶公司竞争的焦点。众所周知，自动驾驶行业的领军企业特斯拉在几年前就已经建立自己的智算中心，并且还自研芯片以提升效率。国内除了毫末智行，小鹏汽车在今年8月也宣布已经建成自动驾驶智算中心。
多方面优化，mana oasis训练效率提升100倍
结合自动驾驶近十年的发展历史，毫末智行认为，可以将近十年的自动驾驶技术发展分成三个阶段：最早的硬件驱动方式，可以称为自动驾驶的1.0时代；最近几年的软件驱动方式，可称之为自动驾驶的2.0时代；即将发生，并将持续发展的数据驱动方式，是自动驾驶的3.0时代。数据驱动也是自动驾驶发展公认的方向，而它对智算中心的要求很高。
因此毫末和火山引擎共同定制了一个属于自动驾驶的智算中心。具体来看，在系统架构方面，如下图，左边是高性能存储，基于高性能并行文件系统vepfs，可以提供高达2t/s的读取速度，并且支持百亿级小文件高速读写。右边是计算平台，提供了充沛的算力，每台服务器配置8个gpu卡，通过600g/s的双向nvswitch高速互联，进行通信。服务器之间通过4张200g带宽的rdma网络互联，提供高达800g/s的网络带宽。
在数据管理上，为了充分发挥智算中心的价值，让gpu持续饱和运行，毫末经过2年多研发，建立了全套面向大规模ai训练的毫末文件系统。在采集端，把数据按照训练的要求，以4d clip为单位组织文件形态；在传输端，基于毫末场景库，对数据进行场景化分析，打上各类tag，方便模型基于tag从不同维度对数据进行采样、分布统计、语料提取；在训练端，基于分级存储理念，把对象存储、高性能、显存充分整合，实现高容量与高性能并存。
最终实现了百p数据筛选速度提升10倍、百亿小文件随机读写延迟小于500us。在毫末文件系统的加持下，消除数据瓶颈，gpu利用率从60%提升到接近80%。
在mana oasis的训练加速上也做了大量优化。大家都知道，transformer大模型的训练成本非常高，训练一个大模型有时成本高达几千万。毫末在此方向深入研究，借鉴了学术界最新的研究成果，基于sparse moe，可以根据计算特点，进行稀疏激活，提高计算效率，实现单机8卡就能训练百亿参数大模型的效果。
毫末智算中心也实现了跨机共享expert的方法，完成千亿参数规模大模型的训练，而且训练成本降低到百卡周级别。在此基础上，毫末基于自己的业务特点，设计并实现了业界领先的多任务并行训练系统，能同时处理图片、点云、结构化文本等多种模态的信息，既保证了模型的稀疏性，又提升了计算效率。结合多方面的优化，毫末智算中心的训练效率提升了100倍。
为何小鹏、特斯拉等车企要建立自己的智算中心
除了毫末智行，小鹏汽车、特斯拉等车企也已建设自己的智算中心。今年8月，小鹏汽车宣布在乌兰察布建成当时中国最大的自动驾驶智算中心“扶摇”，用于自动驾驶模型训练。“扶摇”基于阿里云智能计算平台，算力可达600pflops（每秒浮点运算60亿亿次），将小鹏自动驾驶核心模型的训练速度提升了近170倍。
通过与阿里云合作，“扶摇”以更低成本实现了更强算力。具体来看，对gpu资源进行细粒度切分、调度，将gpu资源虚拟化利用率提高3倍，支持更多人同时在线开发，效率提升十倍以上。在通讯层面，端对端通信延迟降低80%至2微秒。
整体计算效率上，实现了算力的线性扩展。存储吞吐比业界20gb/s的普遍水准提升了40倍，数据传输能力相当于从送快递的微型面包车，换成了20多米长的40吨集装箱重卡。此外，阿里云机器学习平台pai提供了模型训练部署、推理优化等ai工程化工具，比开源框架训练性能提升30%以上。
“扶摇”支持小鹏自动驾驶核心模型的训练时长从7天，缩短至1小时内，大幅提速近170倍。据介绍，“扶摇”正用于小鹏城市ngp辅助驾驶系统的算法模型训练。和高速道路相比，城市路段的交通状况更为复杂，自动驾驶特殊场景的数据集规模增加了上百倍。
早几年前，特斯拉就已经建立了自己的ai计算中心——dojo，总计使用了1.4万个英伟达的gpu来训练ai模型。为了进一步提升效率，特斯拉在2021年发布了自研的ai加速芯片d1，25个d1封装在一起组成一个训练模块（training tile），然后再将训练模块组成一个机柜（dojo exapod）。在今年10月的ai day上，特斯拉展示了自有ai计算中心的最新进展，用自研的d1芯片打造的计算设备能够提升30%的模型训练效率。
可以看到，车企和自动驾驶公司自建智算中心，能够在性能上进行多方面的优化，提升效率。此外在成本上也会更有利，何小鹏此前谈到，对于智能汽车公司来说，算力成本将会从今天的亿元级别上升到将来的十亿元级别。因此，如果持续使用公有云服务，边际成本将会不断上涨。如果自行组建智算中心，一次性投资约在数千万到1亿元以内，长期来看性价比更高。
AMD新一代处理器对英特尔垄断地位发起冲击
利用取自病人自身的人体组织,全球首例3D打印完整心脏问世!
无人机环境监察系统为环境监管部门助力
AD7543与89C2051实现串行接口的设计
一文读懂Linux的文档内容（属性、拥有者、群组、权限）
国内最大自动驾驶智算中心发布，为何车企纷纷自建智算中心？
光纤的优势和物理结构
万用表电阻档越高输出的电压越大吗
三个非常微型传感器及其实际应用
一种新型无源无损软开关Boost变换器
螺旋板式换热器流动方式
AD8150数字交叉式转换开关
今日看点丨商务部、海关总署：对镓、锗相关物项实施出口管制；消息称字节跳动要造机器人，团队计划扩充
混合动力迎来春天，三缸机成最大受益者
别克英朗中期改款车预计在今年年内正式发布,最大亮点：前脸与车尾部分！
LG V30手机外壳曝光，看样子，应该就是那个样子了！
魅蓝e2怎么样？没有新机,魅族的销量目前全靠魅蓝e2了
模拟音频芯片在数据采集过程二次通讯中的应用
关于超级计算时代的介绍和说明
Vivo S12怎么样：颜值着实不错、影像依然强大
不仅仅是自动驾驶车自身算力，智算中心也成为车企和自动驾驶公司竞争的焦点。众所周知，自动驾驶行业的领军企业特斯拉在几年前就已经建立自己的智算中心，并且还自研芯片以提升效率。国内除了毫末智行，小鹏汽车在今年8月也宣布已经建成自动驾驶智算中心。
多方面优化，mana oasis训练效率提升100倍
结合自动驾驶近十年的发展历史，毫末智行认为，可以将近十年的自动驾驶技术发展分成三个阶段：最早的硬件驱动方式，可以称为自动驾驶的1.0时代；最近几年的软件驱动方式，可称之为自动驾驶的2.0时代；即将发生，并将持续发展的数据驱动方式，是自动驾驶的3.0时代。数据驱动也是自动驾驶发展公认的方向，而它对智算中心的要求很高。
因此毫末和火山引擎共同定制了一个属于自动驾驶的智算中心。具体来看，在系统架构方面，如下图，左边是高性能存储，基于高性能并行文件系统vepfs，可以提供高达2t/s的读取速度，并且支持百亿级小文件高速读写。右边是计算平台，提供了充沛的算力，每台服务器配置8个gpu卡，通过600g/s的双向nvswitch高速互联，进行通信。服务器之间通过4张200g带宽的rdma网络互联，提供高达800g/s的网络带宽。
在数据管理上，为了充分发挥智算中心的价值，让gpu持续饱和运行，毫末经过2年多研发，建立了全套面向大规模ai训练的毫末文件系统。在采集端，把数据按照训练的要求，以4d clip为单位组织文件形态；在传输端，基于毫末场景库，对数据进行场景化分析，打上各类tag，方便模型基于tag从不同维度对数据进行采样、分布统计、语料提取；在训练端，基于分级存储理念，把对象存储、高性能、显存充分整合，实现高容量与高性能并存。
最终实现了百p数据筛选速度提升10倍、百亿小文件随机读写延迟小于500us。在毫末文件系统的加持下，消除数据瓶颈，gpu利用率从60%提升到接近80%。
在mana oasis的训练加速上也做了大量优化。大家都知道，transformer大模型的训练成本非常高，训练一个大模型有时成本高达几千万。毫末在此方向深入研究，借鉴了学术界最新的研究成果，基于sparse moe，可以根据计算特点，进行稀疏激活，提高计算效率，实现单机8卡就能训练百亿参数大模型的效果。
毫末智算中心也实现了跨机共享expert的方法，完成千亿参数规模大模型的训练，而且训练成本降低到百卡周级别。在此基础上，毫末基于自己的业务特点，设计并实现了业界领先的多任务并行训练系统，能同时处理图片、点云、结构化文本等多种模态的信息，既保证了模型的稀疏性，又提升了计算效率。结合多方面的优化，毫末智算中心的训练效率提升了100倍。
为何小鹏、特斯拉等车企要建立自己的智算中心
除了毫末智行，小鹏汽车、特斯拉等车企也已建设自己的智算中心。今年8月，小鹏汽车宣布在乌兰察布建成当时中国最大的自动驾驶智算中心“扶摇”，用于自动驾驶模型训练。“扶摇”基于阿里云智能计算平台，算力可达600pflops（每秒浮点运算60亿亿次），将小鹏自动驾驶核心模型的训练速度提升了近170倍。
通过与阿里云合作，“扶摇”以更低成本实现了更强算力。具体来看，对gpu资源进行细粒度切分、调度，将gpu资源虚拟化利用率提高3倍，支持更多人同时在线开发，效率提升十倍以上。在通讯层面，端对端通信延迟降低80%至2微秒。
整体计算效率上，实现了算力的线性扩展。存储吞吐比业界20gb/s的普遍水准提升了40倍，数据传输能力相当于从送快递的微型面包车，换成了20多米长的40吨集装箱重卡。此外，阿里云机器学习平台pai提供了模型训练部署、推理优化等ai工程化工具，比开源框架训练性能提升30%以上。
“扶摇”支持小鹏自动驾驶核心模型的训练时长从7天，缩短至1小时内，大幅提速近170倍。据介绍，“扶摇”正用于小鹏城市ngp辅助驾驶系统的算法模型训练。和高速道路相比，城市路段的交通状况更为复杂，自动驾驶特殊场景的数据集规模增加了上百倍。
早几年前，特斯拉就已经建立了自己的ai计算中心——dojo，总计使用了1.4万个英伟达的gpu来训练ai模型。为了进一步提升效率，特斯拉在2021年发布了自研的ai加速芯片d1，25个d1封装在一起组成一个训练模块（training tile），然后再将训练模块组成一个机柜（dojo exapod）。在今年10月的ai day上，特斯拉展示了自有ai计算中心的最新进展，用自研的d1芯片打造的计算设备能够提升30%的模型训练效率。
可以看到，车企和自动驾驶公司自建智算中心，能够在性能上进行多方面的优化，提升效率。此外在成本上也会更有利，何小鹏此前谈到，对于智能汽车公司来说，算力成本将会从今天的亿元级别上升到将来的十亿元级别。因此，如果持续使用公有云服务，边际成本将会不断上涨。如果自行组建智算中心，一次性投资约在数千万到1亿元以内，长期来看性价比更高。
AMD新一代处理器对英特尔垄断地位发起冲击
利用取自病人自身的人体组织,全球首例3D打印完整心脏问世!
无人机环境监察系统为环境监管部门助力
AD7543与89C2051实现串行接口的设计
一文读懂Linux的文档内容（属性、拥有者、群组、权限）
国内最大自动驾驶智算中心发布，为何车企纷纷自建智算中心？
光纤的优势和物理结构
万用表电阻档越高输出的电压越大吗
三个非常微型传感器及其实际应用
一种新型无源无损软开关Boost变换器
螺旋板式换热器流动方式
AD8150数字交叉式转换开关
今日看点丨商务部、海关总署：对镓、锗相关物项实施出口管制；消息称字节跳动要造机器人，团队计划扩充
混合动力迎来春天，三缸机成最大受益者
别克英朗中期改款车预计在今年年内正式发布,最大亮点：前脸与车尾部分！
LG V30手机外壳曝光，看样子，应该就是那个样子了！
魅蓝e2怎么样？没有新机,魅族的销量目前全靠魅蓝e2了
模拟音频芯片在数据采集过程二次通讯中的应用
关于超级计算时代的介绍和说明
Vivo S12怎么样：颜值着实不错、影像依然强大