英伟达AI芯片H200首款使用HBM3e内存

最近，英伟达发布了历史上最强的AI芯片H200，首款使用HBM3e内存！

在HBM3e的帮助下，英伟达H200以每秒4.8TB的速度提供141GB内存，容量几乎是A100的两倍，带宽增加了2.4倍，HBM3e成为H200升级的重点。

市场调研机构 TrendForce 指出，高端 AI 高端服务器需要使用 AI 芯片，将推升 2023-2024 年高带宽存储器（HBM）的需求。

根据预测，2023 年全球 HBM 需求将增加近60%，达到 2.9 亿 GB，2024 年将再增长 30%，2025 年 HBM 预计整体市场将到来 20 超过1亿美元。

一，HBM什么是高宽带内存？

高带宽存储器(英语:High Bandwidth Memory，缩写HBM)是超微半导体和SK Hynix推出的基于3D堆栈技术的高性能DRAM，适用于图形处理器、在线交换和转发设备(如路由器、交换器)等高存储带宽需求的应用场合。

使用HBM的第一个设备是AMD Radeon Fury系列显示核心。2013年10月，HBM成为JEDEC通过的工业标准，第二代HBM-HBM2也成为2016年1月的工业标准。NVIDIA今年发布的新旗舰Tesla运营加速卡——Tesla P100、AMD的Radeon RX Vega系列，IntelKnight HBM2也用于Landing。

二、HBM市场前景：

由于人工智能需求激增，HBM 和 DDR5 价格和需求都在增长。HBM 现有的价格 DRAM 产品的 5-6 倍；DDR5 的价格也比 DDR4 高出 15% 到 20%。

据SK 海力士预计2024年海力士 年 HBM 和 DDR5 预计销售额将翻一番。市场调研机构 TrendForce 指出，高端 AI 高端服务器需要使用 AI 芯片，将推升 2023-2024 年高带宽存储器（HBM）的需求。在市场规模方面，该机构预计 2023 年全球 HBM 需求将增加近60%，达到 2.9 亿 GB，2024 年将再增长 30%，2025 年 HBM 预计整体市场将到来 20 超过1亿美元。

三、上下游收入产业链：

总的来说，HBM产业链主要由IP组成、上游材料、晶粒设计制造、晶片制造、包装测试等五个环节。由于国际大型制造商采用IDM模式，芯片的设计、制造和密封测试由大型制造商安排，国内制造商主要处于上游设备和材料供应环节。

设备端：对TSV和晶圆级包装的需求增加。由于独特的3D堆叠结构，HBM芯片给上游设备带来了新的增量：在前链接中，HBM需要通过TSV垂直连接，增加了对TSV蚀刻设备的需求；在中间环节，HBM带来了更多的晶圆级包装设备需求；在后链接中，HBM的多芯片堆叠带来了die 对bond设备和测试设备的需求不断增加。

材料端：HBM的独特性主要体现在堆叠和互联网上。对于制造材料：HBM的核心之一是堆叠，HBM3实现了12层核心Die堆叠，多层堆叠成倍增加制造材料，特别是前驱体；对于包装材料：HBM将推动TSV和晶圆包装需求的增长，对包装高度和散热性能提出更高的要求。

四、相关产业链公司直接受益:

1、3D封装关键原料：颗粒状环氧塑料封装材料（GMC）HBM需要使用特殊的颗粒状环氧塑料密封，因为芯片厚度是由3D堆叠引起的。（GMC）封装。只有两家日本公司掌握了全球GMC的大规模生产，即日本居民和日本昭和。GMC需要添加大量的核心材料来解决HBM封装厚度增加和散热需求增加的问题-α球硅和low-α球铝成本占GMC的70%-90%。日本居民和日本昭和的国内供应商是联瑞的新材料，直接受益于SK海力士等HBM制造商产能的进一步增长。GMC在国内也取得了突破。成功研发颗粒状环氧塑料密封材料（GMC），相关产品已通过客户验证，目前正处于样品试验阶段。此外，华为还通过其深圳哈勃科技投资合伙企业（有限合伙企业）参与华海成科。一旦HBM制造和其他环节在中国开放，公司就可以进入华为升腾芯片的供应链。

2、三维封装关键技术：TSV硅通孔技术(硅通孔技术)（TSV）它是HBM的核心工艺，成本占近30%，是HBM包装成本中最高的部分。只有使用该技术，才能实现存储芯片的3D堆叠。中微公司是TSV设备的主要供应商。2010年，首台TSV深孔硅蚀刻设备Primo推出 TSV®，提供的8英寸和12英寸硅通孔刻蚀设备，从低到1微米到数百微米都可以刻蚀孔径。

3、主要原料：前驱体

雅克科技是中国主要的材料前驱供应商，SK海力士和合肥长信存储的核心供应商，其子公司韩国先科是HBM绝对领先的SK海力士前驱的核心供应商。国家集成电路大基金入股支持。2022年海力士收入占50%，2023年上半年公司前驱体业务收入6.44亿元，同比增长37%。其中，韩国先科子公司收入6.73亿元，同比增长45%，净利润1.52亿元，同比增长36%。HBM产能预计将在2024年增长105%，其子公司韩国先科作为海力士前驱体的核心供应商，将受益于HBM的高增长。国内公司在国内存储厂商中的渗透率也在提高，公司的前驱体材料与台积电、长江存储等合作。此外，公司LDS输送系统还实现了国内主流集成电路制造商的批量供应，包括长江存储、中芯国际和上海华虹。

4、借助TSV技术，IC载板HBM实现2.5D+3D先进集成，IC载板是集成电路先进包装环节的关键载体，实现IC芯片与PCB板之间的信号连接。目前应用广泛的2.5D+在3D先进的包装集成电路中，IC载板被用作承载芯片的转接板。国内IC载板相关公司包括兴森科技、深南电路、沪电股份、盛宏科技等。

5、此外，香农芯创是SK海力士HBM产品的国内代理商，计划与SK海力士合作开展存储模块业务。

6、由于国际三巨头的HBM产品包装测试由国内HBM相关技术的包装测试制造商自行安排，国内相关技术的包装测试制造商不能直接受益于三巨头产能的增长。然而，一旦HBM制造技术的所有环节在中国开放，这些拥有技术储备的公司将直接受益。

太极实业:公司海太半导体(持有55%股权)与SK海力士合资，为SK海力士提供DRAM包装测试业务。

深科技：公司拥有8层和16层DRAM堆叠工艺，预计将切入HBM封装轨道。

通富微电:公司2.5D/3D生产线建成后，HBM高性能封装技术将在国内取得突破；

国芯科技:目前正在研究规划HBM内存的2.5D芯片封装技术，积极推进chiplet技术的研发和应用，在人工智能快速发展的需要下，估值也会得到提升。海涵财经来源