一，HBM什么是高宽带内存？
高带宽存储器(英文)High Bandwidth Memory，缩写HBM是三星、AMD和SK海力士提出的一种新型DRAM解决方案。基于3D堆栈技术，适用于图形处理器、在线交换和转发设备(如路由器、交换器)等存储器带宽要求较高的应用场景。HBM技术在降低功耗的同时，可以实现高于256GBPS的突破性带宽。其核心DRAM芯片位于基本逻辑芯片上，通过TSV（Through Silicon Via，实现堆叠DRAM架构的硅通孔)和芯片堆叠技术。第一个使用HBM的产品是AMDRadeon Fury系列显示核心。
使用HBM的第一个设备是AMD Radeon Fury系列显示核心。HBM于2013年10月成为JEDEC通过的工业标准，第二代HBM —— 2016年1月，HBM2也成为工业标准，NVIDIA发布的新旗舰Tesla运算加速卡—— Tesla P100、AMD的Radeon RX Vega系列，IntelKnight HBM2也用于Landing。
英伟达目前的H200引起了市场的关注。
HBM的核心原理是将DRAM芯片层叠在一起，形成垂直结构。每个DRAM芯片通过硅通道与处理器连接，称为“TSV”。TSV允许数据在DRAM芯片之间快速传输，从而提供更高的带宽和更低的延迟。此外，HBM还采用了先进的包装工艺和材料，使芯片与互连层的连接更加可靠和持久。这种紧密的组合不仅可以提高信号传输的速度和稳定性，而且可以减少功耗和空间占用。
二、HBM市场前景：
HBM的市场前景看起来很有希望。据一些报道，HBM的市场规模预计将在未来几年显著增长。随着人工智能芯片竞争的加剧，三星和SK海力士等全球存储芯片制造商正准备将HBM产量提高到2.5倍。自2024年以来，世界第三大DRAM公司美光也将积极瞄准HBM市场。这些发展可能会促进HBM技术的进一步普及和市场份额的扩大。
同时，HBM的高带宽内存特性特别适用于需要大量数据传输和处理的应用场景，如高性能计算和数据中心。随着云计算、大数据和人工智能的快速发展，这些应用领域对内存带宽的需求也在增长，为HBM提供了广阔的市场空间。
然而，尽管HBM的市场前景看起来很好，但我们也应该注意到挑战。例如，HBM的制造成本相对较高，这可能会影响其市场渗透率和接受度。此外，HBM的技术和市场仍处于发展阶段，这意味着可能会有新的竞争对手和技术变革，从而影响市场前景。
由于人工智能需求激增，HBM 和 DDR5 价格和需求都在增长。HBM 现有的价格 DRAM 产品的 5-6 倍；DDR5 的价格也比 DDR4 高出 15% 到 20%。
据SK 海力士预计2024年海力士 年 HBM 和 DDR5 预计销售额将翻一番。市场调研机构 TrendForce 指出，高端 AI 高端服务器需要使用 AI 芯片，将推升 2023-2024 年高带宽存储器（HBM）的需求。在市场规模方面，该机构预计 2023 年全球 HBM 需求将增加近60%，达到 2.9 亿 GB，2024 年将再增长 30%，2025 年 HBM 预计整体市场将到来 20 超过1亿美元。
三、上下游收入产业链：
总的来说，HBM产业链主要由IP组成、上游材料、晶粒设计制造、晶片制造、包装测试等五个环节。由于国际大型制造商采用IDM模式，芯片的设计、制造和密封测试由大型制造商安排，国内制造商主要处于上游设备和材料供应环节。
设备端：TSV和晶圆级封装的需求增加。由于独特的3D堆叠结构，HBM芯片为上游设备带来了新的增量：在前面的链接中，HBM需要通过TSV垂直连接，这增加了对TSV蚀刻设备的需求；在中间阶段，HBM带来了对晶圆级封装设备的更多需求；在后面的链接中，HBM的多芯片堆叠带来了die 对bond设备和测试设备的需求不断增加。
材料端：HBM的独特性主要体现在堆叠和互联网上。对于制造材料：HBM的核心之一是堆叠，HBM3实现了12层核心Die堆叠，多层堆叠成倍增加制造材料，特别是前驱体；对于包装材料：HBM将推动TSV和晶圆包装需求的增长，对包装高度和散热性能提出更高的要求。
四、相关产业链公司直接受益：
主要包括存储芯片和AI服务器在内的HBM受益品种。
首先，HBM是一种高带宽存储器，可以大大提高存储器的带宽和性能。因此，所有需要大量数据传输和处理的应用场景都可以从HBM中受益，如高性能计算、数据中心、云计算、大数据和人工智能。HBM可以大大提高数据处理的速度和效率，从而提高整个系统的性能。
其次，HBM也广泛应用于人工智能服务器。随着人工智能的快速发展，对人工智能服务器的需求也在增加。HBM的高带宽特性可以大大提高人工智能服务器的数据处理能力，从而满足人工智能应用的需求。HBM还可用于加速芯片、GPU等处理器，进一步提高人工智能服务器的性能。
因此，HBM的受益品种主要包括存储芯片和人工智能服务器。随着HBM技术的不断发展和普及，这些受益品种的市场份额可能会进一步扩大。
其他：
1、3D封装关键原料：颗粒状环氧塑料封装材料（GMC）HBM需要使用特殊的颗粒状环氧塑料密封，因为芯片厚度是由3D堆叠引起的。（GMC）封装。只有两家日本公司掌握了全球GMC的大规模生产，即日本居民和日本昭和。GMC需要添加大量的核心材料来解决HBM封装厚度增加和散热需求增加的问题-α球硅和low-α球铝成本占GMC的70%-90%，主要是因为球硅发挥了重要作用。日本居民和昭和的国内供应商是联瑞的新材料，直接受益于SK海力士等HBM厂商产能的进一步增长。GMC在国内也取得了突破。成功研发颗粒状环氧塑料密封材料（GMC），相关产品已通过客户验证，目前正处于样品试验阶段。此外，华为还通过其深圳哈勃科技投资合伙企业（有限合伙企业）参与华海成科。一旦HBM制造和其他环节在中国开放，公司就可以进入华为升腾芯片的供应链。
2、三维封装关键技术：TSV硅通孔技术(硅通孔技术)（TSV）它是HBM的核心工艺，成本占近30%，是HBM包装成本中最高的部分。只有使用该技术，才能实现存储芯片的3D堆叠。中微公司是TSV设备的主要供应商。2010年，首台TSV深孔硅蚀刻设备Primo推出 TSV®，提供的8英寸和12英寸硅通孔刻蚀设备，从低到1微米到数百微米都可以刻蚀孔径。
3、主要原料：前驱体
雅克科技是中国主要的材料前驱供应商，SK海力士和合肥长信存储的核心供应商，其子公司韩国先科是HBM绝对领先的SK海力士前驱的核心供应商。国家集成电路大基金入股支持。2022年海力士收入占50%，2023年上半年公司前驱体业务收入6.44亿元，同比增长37%。其中，韩国先科子公司收入6.73亿元，同比增长45%，净利润1.52亿元，同比增长36%。HBM产能预计将在2024年增长105%，其子公司韩国先科作为海力士前驱体的核心供应商，将受益于HBM的高增长。国内公司在国内存储厂商中的渗透率也在提高，公司的前驱体材料与台积电、长江存储等合作。此外，公司LDS输送系统还实现了国内主流集成电路制造商的批量供应，包括长江存储、中芯国际和上海华虹。
4、借助TSV技术，IC载板HBM实现2.5D+3D先进集成，IC载板是集成电路先进包装环节的关键载体，实现IC芯片与PCB板之间的信号连接。目前应用广泛的2.5D+在3D先进的包装集成电路中，IC载板被用作承载芯片的转接板。国内IC载板相关公司包括兴森科技、深南电路、沪电股份、盛宏科技等。
5、此外，香农芯创是SK海力士HBM产品的国内代理商，计划与SK海力士合作开展存储模块业务。
6、由于国际三巨头的HBM产品包装测试由国内HBM相关技术的包装测试制造商自行安排，国内相关技术的包装测试制造商不能直接受益于三巨头产能的增长。然而，一旦HBM制造技术的所有环节在中国开放，这些拥有技术储备的公司将直接受益。
太极实业:公司海太半导体(持有55%股权)与SK海力士合资，为SK海力士提供DRAM包装测试业务。
深科技：公司拥有8层和16层DRAM堆叠工艺，预计将切入HBM封装轨道。
通富微电:公司2.5D/3D生产线建成后，HBM高性能封装技术将在国内取得突破；
国芯科技:目前正在研究规划HBM内存的2.5D芯片封装技术，积极推进chiplet技术的研发和应用，在人工智能快速发展的需要下，估值也会有所提高。
五、看卖方的观点
【申万宏源tmt:英伟达H200重要更新:迭代过程明显加快，推理/成本大幅优化(2023114)
0)英伟达在10月份罕见更新未来人工智能芯片路线图，并提出H200 B100 X100等主线产品及配套方案的迭代周期从2年左右的第一代加速到几乎1年的第一代+中间小版n代，800G到1.6T网络和存储也加速。
1）H200的重要硬件变化是HBM3升级到HBM3e，容量带宽得到显著优化；重要的软件变化是大大提高了推理性能（与TensorRT匹配）-LLM）HPC性能；能耗和整体成本显著降低。
2)我们之前研究过Dojo//NVD/AMD MI300/Google TPU讨论了存算集成和高速光网络的趋势（以及禁止销售和改进芯片的讨论，以及详细的网页链接）。目前，它仍处于算法和计算能力定性变化的早期阶段，培训和推理方面的价值尚未完全定价。
3)市场广泛关注的推理端算力网络需求是否弱于培训。事实上，英伟达也有前瞻性的布局:9月中旬和上旬宣布加强推理软件框架的Tensort-LLM,大约一个月后，amd计划收购nod.ai应对。
这次是加强推理硬件:与H100相比，H200几乎提高了Llama 2 70B推理性能1.99x，提升GPT3 175B推理性能1.6x。从单位成本和模型复杂性的角度来看，我们可以对未来旗舰人工智能芯片在推理场景中的应用更加乐观，同步相应的网络需求！
4)全球800G及以上速率、硅光等技术路径加速演变，同时随着人工智能系统网络需求、国内技术工厂网络演变到400G以上、运营商400G全光网络建设、本地模型培训网络、海外400G增量需求（如AWS等），海外+国内高速网络需求将继续显著改善！
相关标的。1）人工智能计算网络：中际旭创、新一盛、天府通信、华工科技、中兴通讯、紫光股份、瑞捷网、远杰科技、盛科通信等。2)AIOT到AIPC边缘算力:广和通、美格智能、移远通信等。3)算网融合:中国移动、中国电信、中国联通等。4)德赛西威(智联汽车，英伟达下沉边缘交付+商务双重依赖，预计小米汽车新闻或催化)
欢迎联系申万tmt-通信，详细的工业变化，NVD路径等。
光大电子通信
