英特尔公布1万亿参数AI模型,比ChatGPT大570%

在 chatgpt 的推动下,如今有越来越多的公司开始参与生成式 ai 的开发了,大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家,并在近日公布了一个名为 aurora genai 的产品,它是一个主要用于科学领域的生成式 ai 模型。
英特尔 aurora genai 模型以 megatron 和 deepspeed 为基础,其规模达到了 1 万亿个参数(1 trillion parameters,上图中有对应描述),相比之下 chatgpt 的规模仅为 1750 亿参数,aurora genai 在参数规模上增长了约 570%。 aurora genai 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 ai 模型,其潜在的应用范围是:
推动清洁能源聚变研究
催化剂研究
癌症研究
航空航天研究
神经科学研究
宇宙学研究
拥有这么大的规模,那么驱动 aurora genai 模型背后的算力肯定也不容小觑。英特尔透露,他们使用的是名为 aurora(欧若拉)的超级计算机,这是英特尔与阿贡国家实验室和 hpe 合作开发的百万兆级超级计算机。
aurora 超级计算机采用了 21248 个 sapphire rapids 至强 cpu、63744 个 xe 架构的 ponte vecchio gpu(英特尔表示 ponte vecchio gpu 的性能要优于英伟达的 h100)。aurora 超级计算机还使用了 1024 个 daos 节点和 10.9 pb 的 ddr5 傲腾持久内存,所有这些组件通过 oneapi 互相链接,实现了百万兆级性能。 aurora 超级计算机的浮点运算能力达到了 2 exaflops,而目前 top 500 排名第一的超级计算机 frontier 其浮点运算能力也才 1 exaflops,aurora 实现了性能翻倍,未来 aurora 将存放于美国阿贡国家实验室。  


氮化镓的技术日渐壮大
iPhone 15 Pro Max的影像得分不及华为P60 Pro?
无人零售为何没有火起来
基于FPGA的数字波束形成技术的工程实现
51单片机常见的7种时钟电路介绍
英特尔公布1万亿参数AI模型,比ChatGPT大570%
基于Z1510与A/D转换单元的音视频压缩系统的设计
FPGA对芯片有何影响 FPGA如何实现连接?
我国5G毫米波技术已驶入商用冲刺阶段
华为起诉联邦通信 旗舰手机5G基站已不包含任何美国制造零件
iphone8新加norflash,今年涨幅将在50%以上
主流电视面板存在缺陷,Micro LED何时能取代OLED?
高手将RTX2070自行翻番成16GB 显存跑分倒退30%
Thorlabs将完成收购JML Optical,扩展光学镜头相关业务
紫光展锐发布5G通信技术平台马卡鲁及首款5G多模基带芯片春藤510
微机消谐装置的作用是什么
为什么需要储能系统?
汽车云服务催生智能网联三大核心场景
Python能做什么?自学Python获得人生的第一桶金经验分享
锂离子充电电池需求逐年快速增长