英伟达2024GTC大会开幕 Blackwell GPU发布
2024-03-20 09:36:41
描述
事件英伟达2024GTC大会于当地时间3月18日下午在加州圣何塞SAP体育场开幕。点评Blackwell GPU发布黄仁勋说,黄仁勋说,Blackwell 的 AI 性能可达 20 petaflops,并配备192GB HBM3e显存,8TB/sec HBM带宽。采用台积电 4 纳米(4
[本文共字,阅读完需要分钟]

事件

英伟达2024GTC大会于当地时间3月18日下午在加州圣何塞SAP体育场开幕。

点评

Blackwell GPU发布

黄仁勋说,黄仁勋说,Blackwell 的 AI 性能可达 20 petaflops,并配备192GB HBM3e显存,8TB/sec HBM带宽。采用台积电 4 纳米(4NP)技术集成了两个独立的裸晶体(Die),裸晶之间通过10 TB / NVLink秒 5.0(NV-HBI)连接。Blackwell complex 的 NVLink 5.0 端口可提供 1.8 TB / 秒的带宽,是的 Hopper GPU 上 NVLink 4.0 端口速度的两倍。此外,每个 Blackwell 裸晶(die)浮点运算能力比 Hopper Die 高出 25%,每个包装包含两个 Blackwell 芯片,总性能提高 2.5 倍。

GB200发布,性能全面提升

架构上GB200 包含两个 B200 Blackwell GPU 和一个基于 Arm 的 Grace CPU ,IT之家援引英伟达官方报告,训练一个 1.8 以前需要万亿参数的模型需要 8000 个 Hopper GPU 和 15 兆瓦的电力。如今,Nvidia 首席执行官表示,2万 个 Blackwell GPU 这项工作可以完成,功耗仅为 4 兆瓦。GB200可容纳72个GPU,推理大语言模型在性能方面的性能比 H100 提升 30 倍,参数为 1,750 亿的 GPT-3 LLM GB2000在基准测试中 的性能是 H100 的 7 而且训练速度是 H100 的 4 倍。同时,B200平台可以向下兼容,支持H100/H200与上一代Hopper架构相匹配 硬件适配HGX系统。GB200的快速推广也有望推动高速光模块需求的增加。

GB200采用液冷方案,液冷应用成为增量

GB200 NVL72 服务器提供 36 个 CPU 和 72 个 Blackwell GPU,并采用综合水冷散热方案。NVIDIA GB200 NVL72 它是一种多节点、液冷、机架规模系统。GB200的推广也有望拉动人工智能服务器液冷的需求和数据中心侧液冷的应用。

发布与智能汽车和具生智能相关的合作项目

在GTC会议上,黄仁勋宣布,包括与比亚迪的合作,以及一个名为GR00T的项目,旨在进一步促进英伟达在机器人和特定智能方面的突破。该公司有更多的特定智能布局,预计未来将继续深化该领域的布局和研究。

关注产业链核心受益目标

在我们看来,GTC会议发布的GB200预计将推动高速光模块销售的增长。GB200与液体冷却方案相匹配,推动人工智能服务器和数据中心侧整体液体冷却的渗透性。产业链的核心效益目标:

①光模块&光芯片:中际旭创、天府通信、新易盛、源杰科技(与电子团队联合覆盖)、博创科技,仕佳光子,:罗博特科等

②服务器交换机:沪电股份(与电子团队联合覆盖)、紫光股份(联合覆盖计算机团队)、中兴通讯,:菲菱科思、华丰科技、鼎通科技等

③智能中心:润泽科技(与机械团队联合覆盖)、润建股份、奥飞数据(联合覆盖计算机团队)、科华数据(与电新团队联合覆盖)等

④液冷:润泽技术(与机械团队联合覆盖),:英维克、高澜股份、科创新源等

⑤机器人:汉威科技(联合覆盖机械团队)、拓邦股份(联合覆盖电子团队等。

风险提示

产品着陆和销量低于预期,新产品推广节奏低于预期,人工智能开发低于预期等风险

推荐关键目标

英伟达2024GTC大会开幕 Blackwell GPU发布