申万宏源通信:英伟达3.18发布了最新的GB200系列计算网络系统(结构参考今天上午的示意图),显著提高了计算能力性能,同时采用了铜连接和光连接方案,市场讨论了“光”和“铜”的延伸路径。
1)现状:GB200(包括之前的GH200)系列被NV定义为“superchip“与传统服务器相比,该系统具有较大的粒度。机柜内36或72个GPU的连接主要是电信号,NVLink和InfiniBand同时应用于外部。
铜与光的选择本质上是平衡距离和速度的选择。
GB200是否降低了光通信的重要性?我们推测:
参照GH200和GB200NVL72系统的目标场景,更多针对英伟达定义的“大/云/平台客户”AI Cloud/AI Factory“,预计存在的形式是[多机柜],这种跨机柜≥800G网络,电损巨大,光通信刚需;
从液冷/供电/运维的角度来看,中小客户仅使用一套GB200系统的可行性有待商榷。也许传统服务器或云是更好的选择。(也是NV差异化策略)
从训推的角度来看,GB200的设计目标是:单机柜可以应对AI推理,有利于云的虚拟化布局。
GB200系统的最小单元是机柜,推理性能大大提高,可以更好地处理大量参数、跨模态和大量token、多并发推理场景,避免大量单GPU分布式。云IDC场景可以更好地应对未来的大量推理需求(参考AWS)、MSFT评价)。
4)市场对铜连接增加的了解是由于:
此前H100系列的机柜内部没有互联,而是单独配置了一套网络机柜,再加上芯片速度高,所以短距离铜线很少;
而GB200系列,虽然机柜内铜线较多,但大中NVLink域的光互联+IB扩容的光互联需求非常大,再加上未来的硅光,chip to chip光I/O等路径,已经很清楚了!
上一篇:为什么无人机整机业务布局很早?
下一篇:AI服务器中的四大行业领导者
10月10日,上交所再次举行券商座谈会,现场宣讲并购重组最新政策精神,并就进一步活跃并购重组市场、打通政策落地“最后一公里”听取意见建议。中信证券、中金公司、中信建投、华泰联合、国泰君安、国信证券、东方证券、广...
来源:券商中国作者:时谦今天早盘,A股市场波动较大,但经过一段下挫之后,很快就被多头拉起。而从盘面来看,以代码601开头的大盘蓝筹股(亦是高股息板块)今天表现非常突发,红利ETF大多涨幅在4%左右水平。那么,究竟又是何逻辑呢?分析...
中字头及红利资产全天保持强势,沪深两市交易量连续第4日突破2万亿元!市场对后续政策的期待仍在升温。今日(10月10日),A股三大股指走势分化,截至收盘,上证指数涨1.32%,深证成指跌0.82%,创业板指跌2.95%。全市场个股涨多跌少,超30...
要点1通化东宝控股股东所持股份质押率高遭质疑,公司董事长李佳鸿称,系东宝集团投资项目周期长造成;要点2业绩方面,李佳鸿预计称下半年公司营收将逐季恢复;要点3公司还对新产品销售情况做了介绍。财联社10月10日讯(记者 何凡...
要点1海外市场需求持续旺盛,赛轮轮胎预计公司前三季度业绩同比增约六成;要点2天然橡胶、炭黑、合成橡胶等生产原材料均有涨价,为应对成本压力,多家轮胎公司宣布产品涨价。财联社10月10日讯(记者 肖良华)海外市场需求持续旺...
本文“英伟达3”由壹米财经整理发布,欢迎转载收藏,转载请带上本文链接。
免责声明:【壹米财经】发布的所有信息,并不代表本站赞同其观点和对其真实性负责,投资者据此操作,风险请自担。部分内容文章及图片来自互联网或自媒体,版权归属于原作者,不保证该信息(包括但不限 于文字、图片、图表及数据)的准确性、真实性、完整性、有效性、及时性、原创性等,如有问题,请联系我们!