存储芯片减产，AI芯片暴增！
来源：电子工程专辑
过去近两年来，受消费电子市场需求疲软等因素影响，存储芯片产业游进入库存过剩、订单减少、价格暴跌的“寒冬”。三星、美光、sk海力士、铠侠等存储芯片大厂纷纷减产、去库存，但市场行情是否筑底众说纷纭，整体产业回暖的迹象亦不明显。
然而，在生成式ai对算力需求的带动下，2023年初以来高带宽内存(hbm)在整个存储芯片产业中可谓“这边风景独好”。目前，三星、sk海力士、美光等存储芯片大厂均在布局与抢占这一细分市场利好。
与此同时，随着ai对内存速率提出更高的要求，hbm技术创新仍将持续不断演进。因此，相对整个存储芯片产业而言，hbm这一细分领域出现了产能和性能双提升的增长态势。
hbm增长势头强劲
hbm(high bandwidth memory)是一款新型的cpu/gpu内存芯片(即“ram”)，其实就是将很多个ddr芯片堆叠在一起后和gpu封装在一起，实现大容量、高位宽的ddr组合阵列，可被广泛应用于高性能计算、人工智能、图形处理和数据中心等领域。
整体来看，hbm具有超越一般芯片集成的ram的特殊优势：一是高速、高带宽的特性使hbm非常适合用于gpu显存和hpc高性能计算、ai计算;二是由于采用了tsv和微凸块技术，hbm具备更好的内存功耗能效特性，相对于gddr5存储器，hbm2的单引脚i/o带宽功耗比数值降低42%，更低的热负荷降低了冷却成本;三是在物理空间日益受限的数据中心环境中，hbm紧凑的体系结构也是其独特的优势。
今年初以来，chatgpt突然爆火，带动了ai大模型的快速增长，使得具备高带宽和低功耗特性的hbm成为处理大规模数据和复杂计算任务的理想选择。据悉，2023年开年后，三星、sk海力士两家存储大厂hbm订单快速增加，价格也水涨船高，hbm3规格dram价格甚至上涨5倍。
过去数月里，hbm乘ai东风，市场关注度大幅上升。据悉，三星电子、sk海力士等韩国本土存储半导体企业正在推动hbm专用线的扩张。两家公司计划在2024年年底前投资超过2万亿韩元，使hbm生产线目前的产能增加一倍以上。sk海力士计划利用利川现有hbm生产基地的清州工厂的闲置空间。三星电子正在考虑扩大位于忠清南道天安市的hbm核心生产线。
另一大存储大厂美光也很早就嗅到ai应用商机，于2019年在中国台湾成立hbm部门。美光甚至表示，看好2022年至2025年hbm市场年复合成长率超50%。
当前，hbm市场呈现三足鼎立格局。trendforce研究显示，2022年三大原厂hbm市占率分别为sk海力士占50%、三星约40%、美光约占10%。
从发展进程来看，2023-2024年将是ai建设爆发期，大量需求集中在ai训练芯片上，势必推升hbm使用量。预计2023年，hbm即便在原厂扩大产能的情况下，仍无法完全满足客户需求。从各原厂规划看，预计2024年hbm供给位元量将年增长105%。另据semiconductor-digest预测，到2031年，全球高带宽存储器市场预计将从2022年的2.93亿美元增长到34.34亿美元，在2023-2031年的预测期内复合年增长率为31.3%。
三星获英伟达hbm订单
在ai大模型热潮影响下，科技大厂接连布局ai大模型，掀起了ai大模型竞争之战，可以预见未来算力需求仍将大幅增长。目前，nvidia、amd、intel等高端ai芯片大多选择搭载hbm。而作为加速计算领导者，英伟达更是受益于chatgpt引发ai大模型需求增长，今年以来股价累计涨幅已超过245%,目前(9月5日)市值已站上1.2万亿美元。
当前，在核心gpu(图像处理器)加速计算芯片供不应求的情形下，英伟达在加大gpu供应量的同时，也加速推出新一代算力更快的芯片——超级芯片gh200，以持续巩固ai大模型核心算力芯片供应商地位。
中信证券分析认为，目前英伟达数据中心加速卡销量仍主要以高端的a100/h100系列卡为主，其中台积电cowos环节产能为主要约束，考虑到封测设备的交货周期等因素，预计台积电cowos产能实质性改善至少应在2024q2左右。
当然，除了cowos产能不足之外，hbm也是供不应求。目前，sk海力士是hbm3领域的全球领导者，迄今为止也是英伟达唯一为ai加速器提供hbm的供应商。有专家认为，hbm3是需高带宽的人工智能服务的理想选择。
然而，sk海力士一家远远难以满足英伟达对hbm的需求。据悉，英伟达计划到2024年出货最高200万颗h100。此前hbm供应商主要是sk海力士，但是产能也有限，如果英伟达不引入其他hbm供应商，那么要达成这一目标将变得相当困难。这势必迫使英伟达寻找更多的hbm供应商进行合作。
9月5日消息，据韩国媒体报导，三星电子已获得英伟达(nvidia)的高带宽内存(hbm)订单。据悉，三星的hbm已通过nvidia的第四次测试，也是最后一次品质测试。随后，两家公司已同意签订供应协议。根据该协议，双方的供货最早可能在10月启动。现在nvidia已经拥有sk hynix和三星作为其hbm供应商，这使得ai gpu的产量能够提升。
花旗集团分析师也曾在一份报告中写道，三星电子将从第四季度开始供应hbm3新一代内存，经过优化配合人工智能加速器使用。未来，随着三星的加入，英伟达将在很大程度上缓解gpu供应不足的压力。
hbm技术不断演进
未来数年，hbm的发展“钱景”被存储大厂广受看好。而在当前高性能计算应用对内存速率提出更高要求的背景下，hbm技术将继续进行改进和创新。
从技术发展趋势看，hbm促使dram从传统2d加速走向立体3d，充分利用空间、缩小面积，契合半导体行业小型化、集成化的发展趋势。具体来看，增加堆叠层数、提高数据传输速度和密度，以及降低功耗和成本等方面的改进，将推动hbm技术的进一步发展。
目前，hbm内部的dram堆叠属于3d封装，而hbm与ai芯片的其他部分合封于interposer上属于2.5d封装，是典型的chiplet应用。
过去十年里，高带宽和高密度的hbm解决方案不断涌现，使得数据传输速度更快、容量更大，同时降低功耗和占用空间。据悉，hbm发展至今第四代性能不断突破。自2014年首款硅通孔hbm产品问世至今，hbm技术已经发展至第四代，分别是：hbm(第一代)、hbm2(第二代)、hbm2e(第三代)、hbm3(第四代)，hbm芯片容量从1gb升级至24gb，带宽从128gb/s提升至819gb/s，数据传输速率也从1gbps提高至6.4gbps。
为了抢占未来hbm市场，目前各大存储大厂也在不断提升hbm技术性能。近日，美光中国台湾地区董事长卢东晖就表示，美光有多达65%的dram产品在中国台湾生产，继日本厂于2022年10月开始量产1β(1-beta)制程技术后，中国台湾现在也开始量产1-beta制程。同时，台日团队还研发新一代的1-gamma制程，是美光第1代采用极紫外光(euv)的制程技术，将在2025年上半年先在台中厂量产。
而三星早在2022年10月召开的samsung foundry forum 2022活动上，就对外公布了dram技术路线图。按照规划，三星将于2023年进入1bnm工艺阶段，芯片容量将达到24gb(3gb)- 32gb(4gb)，原生速度将在6.4-7.2gbp。
今年5月，三星已宣布量产12纳米级16gb ddr5 dram，随后9月宣布采用12纳米(nm)级工艺技术，开发出其容量最大的32gb ddr5 dram，全新12纳米级32gb ddr5 dram计划于今年年底开始量产。
尽管各大储存厂商正不断加码hbm，但其技术创新仍需克服两大主要问题：一是hbm需要较高的工艺，进而大幅度提升了成本;二是大量dram堆叠，和gpu封装在一起，产生大量的热，如何散热是极大的挑战。
整体来看，存储产业出现了分化的市场行情：一方面在多类消费电子需求疲弱背景下，多家nand flash厂商仍在减产，另一方面因ai服务器需求增加，与ai场景高算力需求匹配的hbm需求上升。然而，ai浪潮催化下的dram行情虽有好转迹象，但整个存储芯片产业似乎仍待实际需求支撑。
*免责声明：本文版权归原作者所有，本文所用图片、文字如涉及作品版权，请第一时间联系我们删除。本平台旨在提供行业资讯，仅代表作者观点，不代表感知芯视界立场。
今日内容就到这里啦，如果有任何问题，或者想要获取更多行业干货研报，可以私信我或者留言
关于蓝牙技术安全入门的探讨
玉石绿华为p10的新配色？这颜色挺好看的
这个灯泡有点软 既能当靠枕又能当睡枕
感应式自动烘手机电路原理图
分布式无纸化交互系统如何支持移动设备和远程办公？
存储芯片减产，AI芯片暴增！
中青宝李逸伦当选深圳市大数据产业促进会元宇宙专委会主任
一位老IT工程师眼中的理想
Flyme8疑似将在7月10日正式发布
卷积神经网络的应用分析
BED150-20W小方形LED防爆灯原理用途
展会回顾 安泰电子2023微纳科技与先进材料创新大会精彩瞬间
LED节能灯拆解，内部与节能灯到底有多大的区别？
电源设计中的更小尺寸
小米6遭遇最强劲敌一加5!小米6与一加5有什么区别?小米6与一加5区别对比评测
贾跃亭大力夸赞FF 91 认为其为全球超豪华电动车续航之王
什么是静止轨道(GEO)卫星系统
一文汇总PCBA贴片不良的原因
华为官宣鸿蒙OS2.0手机Beta版本
关于输入纹波测量和滤波
过去近两年来，受消费电子市场需求疲软等因素影响，存储芯片产业游进入库存过剩、订单减少、价格暴跌的“寒冬”。三星、美光、sk海力士、铠侠等存储芯片大厂纷纷减产、去库存，但市场行情是否筑底众说纷纭，整体产业回暖的迹象亦不明显。
然而，在生成式ai对算力需求的带动下，2023年初以来高带宽内存(hbm)在整个存储芯片产业中可谓“这边风景独好”。目前，三星、sk海力士、美光等存储芯片大厂均在布局与抢占这一细分市场利好。
与此同时，随着ai对内存速率提出更高的要求，hbm技术创新仍将持续不断演进。因此，相对整个存储芯片产业而言，hbm这一细分领域出现了产能和性能双提升的增长态势。
hbm增长势头强劲
hbm(high bandwidth memory)是一款新型的cpu/gpu内存芯片(即“ram”)，其实就是将很多个ddr芯片堆叠在一起后和gpu封装在一起，实现大容量、高位宽的ddr组合阵列，可被广泛应用于高性能计算、人工智能、图形处理和数据中心等领域。
整体来看，hbm具有超越一般芯片集成的ram的特殊优势：一是高速、高带宽的特性使hbm非常适合用于gpu显存和hpc高性能计算、ai计算;二是由于采用了tsv和微凸块技术，hbm具备更好的内存功耗能效特性，相对于gddr5存储器，hbm2的单引脚i/o带宽功耗比数值降低42%，更低的热负荷降低了冷却成本;三是在物理空间日益受限的数据中心环境中，hbm紧凑的体系结构也是其独特的优势。
今年初以来，chatgpt突然爆火，带动了ai大模型的快速增长，使得具备高带宽和低功耗特性的hbm成为处理大规模数据和复杂计算任务的理想选择。据悉，2023年开年后，三星、sk海力士两家存储大厂hbm订单快速增加，价格也水涨船高，hbm3规格dram价格甚至上涨5倍。
过去数月里，hbm乘ai东风，市场关注度大幅上升。据悉，三星电子、sk海力士等韩国本土存储半导体企业正在推动hbm专用线的扩张。两家公司计划在2024年年底前投资超过2万亿韩元，使hbm生产线目前的产能增加一倍以上。sk海力士计划利用利川现有hbm生产基地的清州工厂的闲置空间。三星电子正在考虑扩大位于忠清南道天安市的hbm核心生产线。
另一大存储大厂美光也很早就嗅到ai应用商机，于2019年在中国台湾成立hbm部门。美光甚至表示，看好2022年至2025年hbm市场年复合成长率超50%。
当前，hbm市场呈现三足鼎立格局。trendforce研究显示，2022年三大原厂hbm市占率分别为sk海力士占50%、三星约40%、美光约占10%。
从发展进程来看，2023-2024年将是ai建设爆发期，大量需求集中在ai训练芯片上，势必推升hbm使用量。预计2023年，hbm即便在原厂扩大产能的情况下，仍无法完全满足客户需求。从各原厂规划看，预计2024年hbm供给位元量将年增长105%。另据semiconductor-digest预测，到2031年，全球高带宽存储器市场预计将从2022年的2.93亿美元增长到34.34亿美元，在2023-2031年的预测期内复合年增长率为31.3%。
三星获英伟达hbm订单
在ai大模型热潮影响下，科技大厂接连布局ai大模型，掀起了ai大模型竞争之战，可以预见未来算力需求仍将大幅增长。目前，nvidia、amd、intel等高端ai芯片大多选择搭载hbm。而作为加速计算领导者，英伟达更是受益于chatgpt引发ai大模型需求增长，今年以来股价累计涨幅已超过245%,目前(9月5日)市值已站上1.2万亿美元。
当前，在核心gpu(图像处理器)加速计算芯片供不应求的情形下，英伟达在加大gpu供应量的同时，也加速推出新一代算力更快的芯片——超级芯片gh200，以持续巩固ai大模型核心算力芯片供应商地位。
中信证券分析认为，目前英伟达数据中心加速卡销量仍主要以高端的a100/h100系列卡为主，其中台积电cowos环节产能为主要约束，考虑到封测设备的交货周期等因素，预计台积电cowos产能实质性改善至少应在2024q2左右。
当然，除了cowos产能不足之外，hbm也是供不应求。目前，sk海力士是hbm3领域的全球领导者，迄今为止也是英伟达唯一为ai加速器提供hbm的供应商。有专家认为，hbm3是需高带宽的人工智能服务的理想选择。
然而，sk海力士一家远远难以满足英伟达对hbm的需求。据悉，英伟达计划到2024年出货最高200万颗h100。此前hbm供应商主要是sk海力士，但是产能也有限，如果英伟达不引入其他hbm供应商，那么要达成这一目标将变得相当困难。这势必迫使英伟达寻找更多的hbm供应商进行合作。
9月5日消息，据韩国媒体报导，三星电子已获得英伟达(nvidia)的高带宽内存(hbm)订单。据悉，三星的hbm已通过nvidia的第四次测试，也是最后一次品质测试。随后，两家公司已同意签订供应协议。根据该协议，双方的供货最早可能在10月启动。现在nvidia已经拥有sk hynix和三星作为其hbm供应商，这使得ai gpu的产量能够提升。
花旗集团分析师也曾在一份报告中写道，三星电子将从第四季度开始供应hbm3新一代内存，经过优化配合人工智能加速器使用。未来，随着三星的加入，英伟达将在很大程度上缓解gpu供应不足的压力。
hbm技术不断演进
未来数年，hbm的发展“钱景”被存储大厂广受看好。而在当前高性能计算应用对内存速率提出更高要求的背景下，hbm技术将继续进行改进和创新。
从技术发展趋势看，hbm促使dram从传统2d加速走向立体3d，充分利用空间、缩小面积，契合半导体行业小型化、集成化的发展趋势。具体来看，增加堆叠层数、提高数据传输速度和密度，以及降低功耗和成本等方面的改进，将推动hbm技术的进一步发展。
目前，hbm内部的dram堆叠属于3d封装，而hbm与ai芯片的其他部分合封于interposer上属于2.5d封装，是典型的chiplet应用。
过去十年里，高带宽和高密度的hbm解决方案不断涌现，使得数据传输速度更快、容量更大，同时降低功耗和占用空间。据悉，hbm发展至今第四代性能不断突破。自2014年首款硅通孔hbm产品问世至今，hbm技术已经发展至第四代，分别是：hbm(第一代)、hbm2(第二代)、hbm2e(第三代)、hbm3(第四代)，hbm芯片容量从1gb升级至24gb，带宽从128gb/s提升至819gb/s，数据传输速率也从1gbps提高至6.4gbps。
为了抢占未来hbm市场，目前各大存储大厂也在不断提升hbm技术性能。近日，美光中国台湾地区董事长卢东晖就表示，美光有多达65%的dram产品在中国台湾生产，继日本厂于2022年10月开始量产1β(1-beta)制程技术后，中国台湾现在也开始量产1-beta制程。同时，台日团队还研发新一代的1-gamma制程，是美光第1代采用极紫外光(euv)的制程技术，将在2025年上半年先在台中厂量产。
而三星早在2022年10月召开的samsung foundry forum 2022活动上，就对外公布了dram技术路线图。按照规划，三星将于2023年进入1bnm工艺阶段，芯片容量将达到24gb(3gb)- 32gb(4gb)，原生速度将在6.4-7.2gbp。
今年5月，三星已宣布量产12纳米级16gb ddr5 dram，随后9月宣布采用12纳米(nm)级工艺技术，开发出其容量最大的32gb ddr5 dram，全新12纳米级32gb ddr5 dram计划于今年年底开始量产。
尽管各大储存厂商正不断加码hbm，但其技术创新仍需克服两大主要问题：一是hbm需要较高的工艺，进而大幅度提升了成本;二是大量dram堆叠，和gpu封装在一起，产生大量的热，如何散热是极大的挑战。
整体来看，存储产业出现了分化的市场行情：一方面在多类消费电子需求疲弱背景下，多家nand flash厂商仍在减产，另一方面因ai服务器需求增加，与ai场景高算力需求匹配的hbm需求上升。然而，ai浪潮催化下的dram行情虽有好转迹象，但整个存储芯片产业似乎仍待实际需求支撑。
*免责声明：本文版权归原作者所有，本文所用图片、文字如涉及作品版权，请第一时间联系我们删除。本平台旨在提供行业资讯，仅代表作者观点，不代表感知芯视界立场。
今日内容就到这里啦，如果有任何问题，或者想要获取更多行业干货研报，可以私信我或者留言
关于蓝牙技术安全入门的探讨
玉石绿华为p10的新配色？这颜色挺好看的
这个灯泡有点软 既能当靠枕又能当睡枕
感应式自动烘手机电路原理图
分布式无纸化交互系统如何支持移动设备和远程办公？
存储芯片减产，AI芯片暴增！
中青宝李逸伦当选深圳市大数据产业促进会元宇宙专委会主任
一位老IT工程师眼中的理想
Flyme8疑似将在7月10日正式发布
卷积神经网络的应用分析
BED150-20W小方形LED防爆灯原理用途
展会回顾 安泰电子2023微纳科技与先进材料创新大会精彩瞬间
LED节能灯拆解，内部与节能灯到底有多大的区别？
电源设计中的更小尺寸
小米6遭遇最强劲敌一加5!小米6与一加5有什么区别?小米6与一加5区别对比评测
贾跃亭大力夸赞FF 91 认为其为全球超豪华电动车续航之王
什么是静止轨道(GEO)卫星系统
一文汇总PCBA贴片不良的原因
华为官宣鸿蒙OS2.0手机Beta版本
关于输入纹波测量和滤波