事件:英伟达发布了最新的GB200系列计算网络系统(结构参考今天上午的示意图),显著提高了计算能力性能,同时采用了铜连接和光连接方案,市场讨论了“光”和“铜”的延伸路径。
1、现状:GB200(包括之前的GH200)系列是NV定义的“superchip“与传统服务器相比,该系统具有较大的粒度。机柜内36或72个GPU的连接主要是电信号,NVLink和InfiniBand同时应用于外部。
铜与光的选择本质上是平衡距离和速度的选择。
2、GB200降低了光通信的重要性吗?我们推测:
参考GH200、GB200NVL72系统的目标场景,更多的是针对英伟达定义的“大/云/平台客户”。AI Cloud/AI Factory",预计存在的形式是[多机柜],这种跨机柜≥800G网络,电损巨大,光通信刚需;
从液冷/供电/运维的角度来看,中小客户仅使用一套GB200系统的可行性有待商榷。也许传统服务器或云是更好的选择。(也是NV差异化策略)
3、从训推的角度来看,GB200的设计目标是:单机柜可以应对AI推理,有利于云的虚拟化布局。
GB200系统的最小单元是机柜,推理性能大大提高,可以更好地处理大量参数、跨模态和大量token、多并发推理场景,避免大量单GPU分布式。云IDC场景可以更好地应对未来的大量推理需求(参考AWS)、MSFT评价)。
4、市场理解铜连接增加的原因是:
在H100系列之前,没有机柜内的互联,而是单独配置了一套网络机柜,再加上芯片速率高,所以几乎没有短距离铜线;
而GB200系列,虽然机柜内铜线较多,但大中NVLink域的光互联+IB扩容的光互联需求非常大,再加上未来的硅光,chip to chip光I/O等路径,已经很清楚了。
Q:在GTC会议上,英伟达的产品发布情况与预期有什么不同?
A:GB200成为GTC会议的主要产品,原本预期的B100、B200等产品没有像预期的那样发布。GB200芯片包含2个GPU和1个CPU,主要展示的产品是以36个GB200芯片为服务器的单个机柜。与去年发布的GB200相比,GB200并没有展示标准产品,而是只展示了由36卡组成的单机柜产品。
Q:IP架构在GB200系列中的作用是什么?
A:对于一些需要跨机柜连接的大客户,IP架构用于外部连接。但GB200和GB200的区别在于内部连接。GB200采用m Link电连接(即GPU到交换机的铜连接方案),而不是去年的内背板连接方式。黄仁勋在会议上特别强调了铜连接在成本降低和性能显示方面的优势。
Q:在GTC会议上,黄仁勋特别解释了铜连接方案。它的优点是什么?
A:这是我们第一次在如此重要的会议上解释铜连接方案,这也是我们非常关注的问题。通过mlink连接,确定采用铜连接,其产品方案可能与去年的内背板连接相似。黄仁勋强调了铜连接在降低成本和性能显示方面的优势。
Q:GB200系列的发布对市场有什么影响?
A:作为英伟达的新一代服务器级GPU芯片,GB200系列的性能和效率的提高将对市场产生重大影响。特别是,铜连接方案可能会改变GPU的内部连接方式,降低成本,提高性能。此外,GB200可能会改变数据中心的设计和部署,进一步促进人工智能和云计算的发展。
Q:GB200铜连接优势?
A:GB200发布重点:GB200单芯片包括2个GPU和1个CPU,发布的主要产品是基于36个GB200芯片的单机柜产品。显示英伟达侧重于电连接(mlink)而非光连接技术。与未大规模应用的GH200不同,GB200将被广泛应用于市场推广和预期。根据黄仁勋在会上的讲话,许多潜在的大客户表明GB200有较高的成交量预期。市场普遍认为,GB200的推广可能会导致光模块与GPU的比例从1:2.5逐渐上升到1:9,预计明年GB200的销量可能会有很大的增长潜力。
Q:GB200铜连接创新的变化是什么?
A:GB200的创新主要是集成了开关、服务器和GPU,而不是刀片服务器连接,采用背板电缆模式。该模型提高了散热效率和信号传输质量,与以往GH200产品的主要区别在于该创新。
Q:背板连接器的行业趋势如何?
A:在人工智能服务器、大型交换机和路由器中使用背板连接器的趋势逐渐增强,技术发展也向正交零背板和电缆背板模式发展。背板电缆具有传输距离长、布线灵活但成本相对较高的特点。
Q:背板连接器的需求和价格趋势如何?
A:人工智能服务器需求的增加促进了对背板连接器的需求,切换到电缆背板模式提高了价值,总体价值占单个服务器成本的3%至5%。因此,整个行业呈现出量价上涨的发展趋势。
Q:海外供应链的份额如何?
A:目前,Affinoror等海外供应商、Mosstechnology主导背板连接器市场,占市场份额的60%-78%左右。
Q:国内替代趋势是否在加强?
A:是的,随着专利限制的减弱,华为等国内设备制造商正在积极支持国内替代品。华丰科技等制造商已成为主要供应商,国内替代速度正在加快。
Q:华丰科技和鼎通科技参与国内替代的预期是什么?
A:华丰科技、鼎通科技等公司积极参与国内替代。与人工智能和高速互联网产品相关的订单增量可能会推动第一季度和全年的业绩增长。具体表现需要进一步观察。
Q:GB200的发布对光模块行业有什么影响?
A:GB200的发布对光模块行业有利,因为它满足了大多数客户对跨机柜连接的需求。按1.6T配置比例,现有GB200带宽双向1800G相当于1-9的关系。如果使用800G方案,比例关系将达到1-18。就价值而言,差别不大,但预计1.6T模块将在第四季度大规模生产,客户更倾向于使用性价比更高的1.6T方案。因此,从现在的1比2.5到1比9的趋势将升级光模块。
Q:GB200和GH200有什么主要区别?
A:GB200和GH200的主要区别在于GH系列不是大规模产品,而GB200拥有包括谷歌在内的广泛潜在客户群Meta、OPenai、微软、甲骨文、特斯拉等。这意味着GB200将得到广泛的应用和大规模的应用。
Q:下一年市场对1.6T模块需求的预期是什么?
A:市场预计明年1.6T模块需求将在200万到300万之间,我们的模型预计将在250万之间。这还没有考虑到B100或B200系列单独发布的增量。
Q:GB200采用了哪种连接方案?
A:GB200实际上采用了铜连接方案,降低了成本。特别是GB200的成交量将成为促进光模块需求上升的重要因素。
Q:黄仁勋在这次会议上的故事反映了什么行业趋势?
A:黄仁勋在会议上的叙述可以看作是对行业趋势的反映,不仅是短期内的热点。随着时间的推移,行业将观察到相关公司的业绩。市场对铜和光连接方案存在争议,但现已证实GB200采用了铜连接方案。
Q:什么是光模块行业的核心投资目标?
A:中际徐创、天府通信、新一生是光模块行业的核心投资目标。特别是在GB200成交量和1.6T模块需求上升的趋势下,这些公司将得到更多的关注。
Q:铜连接方案的市场前景如何?
A:市场对铜连接方案的态度正在发生变化。GB200采用铜连接方案的事实表明,该方案在未来可能会得到更广泛的应用。随着相关公司业绩的实现,铜连接方案的市场前景值得期待。
Q:GB200和GH200在设计和应用上有什么主要区别?
A:GB200的设计将交换机、服务器和GPU集成在同一个机柜中,采用类似刀片服务器的连接方式,可以在前面看到交换机的IO接口,而在后面,交换机和GPU之间的连接可能使用铜电缆背板。相比之下,GH200采用单独连接的设计,即使用DAC(DirectAttachCable)连接方式。
Q:GB200设计中铜缆背板扮演了什么角色?
A:铜缆背板在GB200的设计中起着关键作用。它连接背板连接器,支持开关和GPU板卡之间的连接。这种设计使服务器和开关之间的信号传输更加方便。
Q:背板连接器的主要应用领域是什么?
A:背板连接器主要用于大型交换机、路由器和人工智能服务器。特别是在模块化服务器、大型交换机和路由器中,这种子板和背板的结构将更为常见。
Q:背板连接器的行业发展趋势?
A:随着服务器和交换机设计的进步,对背板连接器的需求预计将继续增长。特别是在大型交换机、路由器和人工智能服务器领域,该连接器具有广阔的应用前景。
Q:供给端的竞争格局如何?
A:目前,背板连接器的供应端竞争格局相对稳定。主要供应商包括富士康、广达等知名电子制造服务公司。凭借丰富的生产经验和强大的供应链管理能力,为市场提供稳定优质的背板连接器产品。
Q:GB200的设计对背板连接器的需求有影响吗?
A:GB200的设计推动了人工智能服务器、大型交换机和路由器需求的增长,进而促进了背板连接器需求的重量。这种设计模式下的服务器和交换机将显著增加对背板连接器的需求。
Q:如何在技术发展路径上发展背板连接器?
A:背板连接器正朝两个方向发展,一个是正交零背板,另一个是电缆背板。GB200采用电缆背板模式,具有散热更好、传输损耗更低、传输距离更长、布线灵活性更强等优点。但缺点是成本更高。
Q:背板连接器的需求端逻辑是什么?
A:背板连接器的需求主要由人工智能服务器驱动,与传统背板PCB模式相比,电缆背板模式的价值显著提高。目前,背板连接器的价值约占单个服务器成本的3%至5%。
Q:哪些公司可以提供背板连接器?
A:目前,我们可以从两个方向找到相关公司。一是海外产业链。目前,海外高速铜连接器供应商以艾菲诺、莫仕、泰科为龙头,市场份额约占60%至80%。二是国内替代海外产品的趋势。鼎通、意大利电子等国内OEM公司也有OEM铜连接器组件的业务。
Q:对国内OEM公司来说,如何应对海外公司股权购买的困难?
A:对于国内OEM公司,可以转向OEM这些海外公司的国内企业。例如,鼎通和意大利电子等公司有OEM铜连接器组件的业务。
Q:国产替代海外产品的趋势是什么?
A:随着国内技术水平的提高和市场需求的变化,国内替代海外产品的趋势正在加强。国内企业正在积极开发和生产高性能、高可靠性的背板连接器产品,以满足市场需求。
Q:背板连接器未来的市场前景如何?
A:随着人工智能、大数据等技术的快速发展,背板连接器的市场需求将继续增长。未来,背板连接器市场将面临更多的机遇和挑战,国内外企业需要不断加强技术研发和产品创新,以满足市场需求,保持竞争优势。
Q:为什么这对国内高速背板连接器制造商非常有利?
A:有利因素主要有几个方面。第一,与以往相比,国内厂商面临的专利壁垒有所减弱。新一代产品,即112G背板网粘合剂,在国内生产中几乎没有专利限制。由于外国制造商在最新领域的研发与国内制造商大致同步,海外制造商原本面临的5-10年研发领先的专利障碍并不那么严格。其次,在中美贸易摩擦的情况下,自2018年与华丰科技合作以来,华为等国内设备制造商加强了高速背板连接器的研发。华丰科技的56G产品已成为华为的主要供应商之一,包括ZTE、浪潮等公司也在高速连接该领域与其合作,预示着国内替代速度将非常快。
Q:国内主流公司有哪些?
A:华丰科技、中航光电等国内主流公司。
Q:预计AR服务器中使用的电缆背板模式会成为主流趋势吗?
A:是的,预计AR服务器中使用的电缆背板模式将成为主流趋势。
Q:哪些公司层面值得关注?
A:华丰科技和中航光电在公司层面值得关注。
Q:哪些公司值得关注OEM?
A:在OEM方面,我们可以关注鼎通科技和中一电子。鼎通科技除OEMIO连接器外,还有背板连接器组件的业务。
Q:新一代产品(即112G背板网粘合剂)在国内生产中专利限制罕见的原因是什么?
A:外国制造商在最新领域的研发与国内制造商大致同步,海外制造商在5-10年内领先的专利障碍并不那么严格。也就是说,专利限制不再像以前那样严格,国内制造商有机会突破专利障碍,进一步发展自己的业务。
Q:为什么华为的56G产品能成为华为的主要供应商之一?
A:华丰科技的56G产品已成为华为的主要供应商之一,主要是因为华为与华丰科技在高速连接器领域的合作深化,双方在技术研发方面的高同步性,使华丰科技的56G产品能够满足华为的需求。同时,ZTE、浪潮等公司也与华丰科技合作,进一步证明了华丰科技在高速连接器领域的实力和竞争力。
Q:华丰科技将显著受益于人工智能升腾服务器的成交量,预计未来将获得华为的相关招标订单。这对公司的业务有什么影响?
A:华丰科技拥有大量的人工智能升腾服务器,将显著提高公司的业绩。此外,随着华为相关招标订单的发布,该公司的业务预计将进一步增长。目前,华丰科技正在积极扩大人工智能升腾服务器的生产能力,以满足市场需求。短期内,华丰科技第一季度业绩应有所改善,通信恢复良好。同时,我们将继续关注升腾服务器背板需求的发展步伐。
Q:除了IO连接器业务,鼎通科技的背板连接器组件OEM业务也值得关注。其核心客户包括海外领导者艾菲诺和莫世泰科,对公司业务有什么影响?
A:随着800G相关产品和GD200铜连接需求的增长,鼎通科技有望迎来业务增长。这种增长主要来自OEM收入的增加。预计将推动公司OEM收入的增长。第一季度,鼎通科技表现良好,年度业绩趋势取决于连接产品的成交量节奏。
Q:华丰科技和鼎通科技未来发展的重点和挑战是什么?
A:华丰科技未来的发展重点是继续扩大人工智能提升服务器的生产和销售,与华为保持合作关系,争取更多的投标订单。然而,这也将面临市场竞争加剧和需求不确定性的挑战。鼎通科技的发展重点是扩大背板连接器组件的OEM业务,以满足不断增长的市场需求。同时,公司还将关注新兴技术和产品的研发,以保持市场竞争力。然而,由于公司的业务具有高度的客户定制,管理供应链和生产效率的挑战不容忽视。
Q:两家公司对公司业绩前景的期望如何?
A:华丰科技和鼎通科技都有望在未来一段时间内提高公司的业绩。两家公司都期待着人工智能、云计算等新兴领域获得了更多的市场份额和业务机会。然而,由于市场竞争和需求的不确定性,两家公司也提醒投资者注意风险和挑战。研究记录