华为AI芯片盛腾910C单卡计算能力&互联全面对标H100
2024-05-26 15:29:08
描述
2024年5月,市场消息称,华为AI芯片盛腾910C即将上线或采用高速连接器方案。华为OEM盛和晶微拥有TGV包装能力,盛腾910C基板很可能使用TGV玻璃基板。据机构报道,升腾910c功耗仅为310W,性能为H100,H100峰值功耗为700W。如果不使
[本文共字,阅读完需要分钟]

2024年5月,市场消息称,华为AI芯片盛腾910C即将上线或采用高速连接器方案。华为OEM盛和晶微拥有TGV包装能力,盛腾910C基板很可能使用TGV玻璃基板。

据机构报道,升腾910c功耗仅为310W,性能为H100,H100峰值功耗为700W。如果不使用玻璃基板,910c功耗不能达到310W。910c性能为英伟达H100,单卡计算能力和互联网为H100,已发送测试。

2024年出货预期为910B 40万颗,910C 数万张,910C单卡15-20万张。预计2025年将出货70-80万张,B和C各一半。

工艺上,Cowos-L+ABF载板。

NV GB200,两个GPU+CPU,cow-S工艺通过Interpose的RDL层连接,转向cow-L,回流焊接→TCB需求相对明确。

HW 910C预计是两个包装GPU+CPU,在substrate上进行MCM连接可以显著增加载板的用量,但供应商在海外。现在ABF使用台湾的基板。如果映射,兴森科技可能会出现。8个HBM堆叠也是海力士HBM。cowos-L放在盛合晶微。

910C单卡计算能力&互联全面对标H100,目前已发测。

【卡间互联速率可能超过H100】1)自研Switch芯片投入使用;2)GPU-Switch连接,弥补HCCS协议比Nvlink的不足。

【如何计算高速连接器的用量?】:1)6个Switch芯片分别与8个GPU连接,共48路连接;2)每路连接600GB/s,对应48个112G差异。共有2304个112G差异对。在架构上,每个Compute, Tray 8卡,Compute Tray通过高速线模块连接Switch Tray;2)每8张卡需要,Compute Tray内部2304个差异对,Compute Tray-Switch Tray 384个差分对。32卡总共需要10752个差别。

[如何计算高速连接器的价值?]产品形式为高速线模块。假设每个差异对应的价值约为30-40元,8卡服务器约为8万台,32卡Rack约为40万台。价值占3-5%。海涵金融

华丰科技:网络连接(一供,相当于单GPU 1.5W)。

中创股份:网络通信中间件(适合向下游客户推荐合作,相当于单片价值0.5-1W)

泰嘉股份:电源

麦格米特:电源

欧陆通:电源

意华股份:连接器

德润电子:与华为的主要合作是高速连接器,早在2016年就切入华为供应链

博创科技:公司是华为光分路器和DWDM设备的主要供应商之一。华为是公司的主要客户之一。

易东电子:2月8日,易东电子在投资者互动平台上表示,该公司的FPC产品和连接器部件产品终端已应用于华为。

飞荣达:液冷(两相独供,单GPUU 0.5-1W,单相一供;单GPU 500)

四川股份:液冷

强瑞技术:服务器液冷

英维克:Rack液冷温控制

利和兴:服务器检测

光迅科技&华工科技:H厂光模块供应商

烽火通信:升腾合作伙伴,股份前列

博威合金:材料