人工智能服务器行业趋势及展望分析

会议要点

1.服务器行业趋势及展望分析

2023年，国内服务器市场普通服务器受到挤压，而人工智能服务器需求增加，但由于外部环境的影响，供应不稳定。

全球人工智能服务器的增长呈现出不固定的步伐。23年底，国内人工智能服务器卡的市场份额有所上升。预计2024年通用服务器市场将出现负增长，人工智能服务器市场仍将上升。

2024年，通用服务器销量预计为200~220万台，互联网行业占40%；国产卡是AI服务器市场的主力军，国内培训卡供应量可能在25万张左右。

2.分析人工智能服务器市场和英伟达动态

2024年，中国人工智能服务器市场预计需求50万H800，但由于出口限制，英伟达市场份额减半，其余25万由HW和海光共享。

2023年，英伟达实际出货人工智能和H系列训练卡约203万张，预计2024年近400万张，其中H100张，预计300万张；A100大幅减少到20万张。

预计2024年人工智能服务器总销量将增长约30%，由于主要客户转向推理服务器和卡的采购，培训服务器采购量将在第四季度放缓。

3.英伟达市场控制及价格策略分析

英伟达面临着竞争的加剧，但北美市场培训卡基本上处于垄断地位。AMD和Intel产品很难构成威胁。互联网制造商主要在内部开发GPU。

由于HW等企业加入国内市场竞争，英伟达H20的价格有所下降，利润不高；海外市场利润可达50-70%。

英伟达将H100定价调整到2.2万美元，预留空间调整B版和HR版的价格，因此B100和H200的价格不会低于客户预期的水平；H100今年不会再降价，因为它已经开始大规模生产，市场接受度很好。

4.ODM市场份额和盈利能力分析

北美市场稳定：台湾三家ODMODM制造商在北美的市场份额相对稳定。他们不降价抢占份额，以维持高利润，并在产能范围内维持订单市场份额。

盈利能力变化:去年F7平台服务器量产初期有补贴，今年毛利率随着产量和成本的增加而下降。

新平台产品将继续带来高毛利：预计2025年将大规模生产H200和B100平台。虽然单价有所下降，但由于初始补贴和其他因素，毛利率仍然很高。

5.板卡和模块市场的发展前景

服务器卡和模块市场现状:2024年，H100板卡仍由工业富联100%OEM，其模块30%由工业复联OEM，其余70%由台湾伟创OEM。预计2025年供应将继续，B100板卡模块将继续由这些工厂分担OEM。

H20板卡的性能和价格变化:2021年11月初版H20的性能和价格相当于H800。由于美国要求降低计算能力，H20的性能降至H800的70%，价格也相应降低。英伟达服务器非法渠道走私量小，正规客户不购买无保修产品。

AMD在服务器市场估计：AMD预计2024年将出货35万张训练卡。 但仍处于测试阶段。

AMD的成功取决于从NVIDIA生态转移到AMD平台的过程。2024年HW升腾系列价格及市场预测:910B价格约85000元，整套培训服务器150~160万元；910C价格预计将达到17~18万元。HW在国内培训卡的市场份额预计将达到30~40%。

Q&A

Q：2023年中国服务器行业的市场表现如何？包括2024年初的销售、出货量、市场结构和下游客户特征，以及通用服务器和人工智能服务器的趋势变化

A：总体而言，2023年，服务器行业经历了人工智能服务器领域的快速增长，而通用服务器则受到市场份额的挤压。这种现象主要由几个因素引起：首先，终端客户在固定预算下在人工智能服务器采购上花费更多资金；其次，随着平台的切换，终端客户对通用服务器采购的热情减弱；此外，随着英特尔等公司发布新一代平台，相关部件成本高，通用服务器采购难以增加。2023年，国内人工智能服务器增长迅速，但增长速度并不固定。部分原因是GPU卡供应商受到美国的制裁，尤其是英伟达GPU卡供应极不稳定。然而，随着美国对其产品实施制裁，HW鹏鹏、海光等国内替代品开始获得市场份额，为国内人工智能服务器领域提供了新的增长点。相比之下，通用服务器在2023年下降了约15%，这种下降趋势可能会持续到2024年。总体而言，通用服务器市场仍处于负增长状态，预计出货量为200~220万台。主要影响包括互联网企业的衰落，以及国内政策对互联网产业的控制。2024年初，人工智能服务器市场预计将保持增长趋势，但由于英伟达性能卡性能和价格的下降，预计其在国内市场的培训服务器数量约为3万台。

Q：中国服务器市场在2024年可能面临哪些挑战和变化？

A：2024年，中国服务器市场面临的挑战主要是通用服务器的负增长趋势。由于PC5.0平台的组件， 如DDR 5内存和CPU价格不降反升，市场一般有所改善。预计国内通用服务器市场将保持约10%的负增长。随后是运营商、金融等行业，互联网行业是市场份额最大的行业。人工智能服务器市场正处于增长阶段，但受国际政策和芯片供应制裁的限制，HW等国内卡产品可能会获得更多的市场机会。另一方面，英伟达宣布在中国市场推出性能较低的H20替代卡，预计卡数量约为25万张。一般来说，人工智能服务器市场仍然乐观，但通用服务器面临着巨大的挑战，市场模式可能会发生变化。需要特别关注英伟达与中国本地制卡公司之间的市场竞争，以及国内替代品对市场格局的影响。

根据调查，预计2024年中国大陆AI服务器市场的H800卡份额将达到50万张左右。然而，由于美国的限制和H20卡的不受追捧，英伟达在中国市场的份额下降到约25万张，主要由HW和海光共享。预计2023年国内人工智能服务器市场总量将在12万至14万台之间，比去年增长近30%，表明人工智能服务器市场总体呈现较大增长。

Q：近年来英伟达的训练卡出货量如何？

A：2023年，英伟达A和H系列训练卡的实际出货量约为203万张，其中A卡100万张，H卡103万张。2024年，预计出货量近400万张，其中H卡为主，预计H100万左右，A100万左右。

Q：你能按季度提供英伟达的出货量估计吗？

A：2024年第一季度，英伟达预计A100将出货7万张，H100将出货85万张。第二季度，A100将出货6万张，H100将出货90万张。到第三季度，A100将下降到3万张，B100和H200将开始小批量供应。第四季度，A和H系列卡的出货量基本持平，B100和H200保持增长。

由于客户需求开始在第三季度转向推理服务器和推理卡，以及准备进入市场的新B100和H100，预计下半年的增长将放缓。季度出货量可能会调整，预计波动约为3%。

Q：英伟达训练卡在全球市场的供应情况如何？

A：自2023年第三季度以来，台电科华斯产能恢复，全球市场培训卡供应改善，北美市场供应相对正常。中国市场正在缓慢恢复。

Q：英伟达新卡B100和H200的定价

A：目前，在北美的客户群体中，B100和H200卡的预期接受价格在37000-39000美元和29000-31000美元之间。价格将根据客户的接受度和市场反馈来确定。

目前这两张新卡还处于测试阶段，计划在2024年Q3逐步推向市场，H200最迟在6月和8月开始供应B100。

Q：英伟达在当前市场的竞争状态如何？他们的产品在国内外市场的表现和利润是否存在差异？

A：英伟达在北美市场的训练卡基本上处于垄断地位， AMD产品和英特尔产品都不能对英伟达构成威胁。国外市场的控制力远高于国内市场，可以在海外保持较高的利润率(50%)、60%或70%)。但在中国，由于HW等企业的竞争，英伟达本地价格下跌，利润不高。一般来说，由于他们在海外市场有很强的控制力，英伟达的训练卡没有理由在海外降价。

Q：英伟达H100卡的价格调整如何？未来还有降价的空间吗？

A：今年1月，英伟达H100卡的价格从24,000美元到25,000美元不等，到1月底调整到22,000美元。此次调价为B版和HR版预留了价格空间。预计B100和H200的价格不会比客户预期的低很多。以前没有下订单的产品将以新价格交付，而已下订单尚未交付的产品将以旧价格交付。至于H100，我认为今年不会再降价了，因为它已经开始大规模生产，市场已经接受了这个产品，所以没有必要降价。

Q：你觉得信创市场的情况怎么样？目前国内芯片市场替代情况如何？

A：在新创市场，运营商已基本完成替换，预计到2025年金融业将完成近100%的替换，尽管数据库等一些核心技术可能无法完全替换。目前，国内芯片大多用于中国移动等大型互联网企业的框架招标。HW升腾约占运营商的60%，海光约占寒武纪等其他厂商的30%。海关在金融领域约占HW的50%。

总的来说，新产业的推广为包括HW在内的国内一些主要芯片制造商提供了支持、海光、飞腾、寒武纪等。

Q：今年服务器COEM市场的竞争趋势会发生变化吗？例如，北美市场的情况， 以及制造商份额和盈利能力的变化。

A：从北美市场的角度来看，富士康、广达和英业达在四大运营商中的份额非常稳定，因为这些制造商通常不会通过降价策略来争夺市场份额。但更注重保持稳定的高利润。至于盈利能力，去年确实有一些早期平台研发补贴，导致额外的研发成本转化为OEM利润。例如，H100平台的人工智能培训服务器去年的价格约为27万至29万美元，毛利率约为7%至8%，而今年的单价下降到23万至25万美元，毛利率约为5%至6%。尽管如此，北美客户在供应小批量时的利润仍然较好，虽然大批量生产的利润有所下降，但仍高于通用服务器的利润。

Q：今年新平台H200和B100的生产情况如何？这些新平台上有补贴和工业复联吗？

A：今年，随着客户需求的增加，现有客户的增加和新客户的加入，OEM制造商的情况将得到改善。例如，富士康抢走了约5%的市场份额，并获得了苹果的所有Effiee。 CHey服务器的市场份额。至于新平台，H200和B100的补贴将继续存在，因为云制造商通常在新型号的研发和小批量生产阶段提供补贴。在b100的情况下，新平台采用液冷系统，价格可能接近50万美元。预计第三季度将开始试生产，并于2025年1月开始批量生产，实行新批量生产价格。

Q：目前H100板卡和模块的OEM及未来变化如何？

A：目前，工业富联负责100%的H100板卡OEM供应。在模块方面，H100模块OEM的份额由巴卡模块工业联合体承担30%，其余70%由台湾伟创公司承担。在未来，预计2024年将保持这种情况，但到2025年，可能会有新的板卡，即B100板卡上市，其模块OEM预计仍将由工业联合体和伟创共享。至于H800板卡，未来将不再生产

Q：H20板卡的价格和性能变化如何？

A：H20的价格在12000到14000美元左右，而渠道商的价格在15000美元左右。在性能方面，由于英伟达在11月推出H20时的性能和价格保持在较高水平，但由于美国的要求，英伟达在12月底降低了H20的计算能力，导致其性能和价格下降。与H800相比，目前H20的性能下降了20%到30%左右。

Q：关于AM DH 100板卡的产量和市场需求， 2024年AMD出货预测有哪些信息？

A：AMD仍处于测试阶段， AMD给出的M 英伟达H300的性能和 100相当， 预计下一代M350将超过H100。然而，由于软件平台的迁移尚未完全完成，客户测试仍在进行中。至于出货量，预计2024年AMD内部M 300出货量约为35万张，这是基于客户测试后的情况。

Q：910和920升腾系列产品的价格和预期出货量有哪些信息？

A：在升腾系列产品价格中，910B约8.5万元，整套培训服务器约150万至160万元。对于2024年的910C，单价预计将达到17万至18万元。在市场容量方面，假设年度培训卡市场约50万张，HW可能占15万至20万张，成为市场的主要份额。

Q：谷歌或AMD的新芯片是否可以取代工业富联在芯片OEM方面的优势？

A：工业富联考虑了英伟达芯片在2025年市场预测中的市场份额，因为从今年第四季度开始，培训卡的增长已经放缓，预计到2025年会更小。所以工业富联正在考虑如何利用可能闲置的产能，并已与AMD联系，讨论未来的代工情况，以弥补产能空缺。此外，虽然工业富联是内地注册企业，但其芯片和服务器OEM不在内地，分别在台湾和墨西哥，因此不会受到美国制裁的影响。

Q：与台那两家代工企业相比，工业富联有哪些优势？

A：在英伟达芯片OEM方面，工业富联在培训卡方面有很大的优势，但其在推理卡OEM方面的份额尚未达到广泛的水平。目前，大多数服务器加工领域最强，其次是工业富联。英伟达未来对推理卡的需求将会增加，而对培训卡的需求将会减少，除非大多数和工业富联都有严重的问题，否则英伟达不会轻易更换供应商。SEVEN研究记录