AI芯片路线图的英伟达和AMD,全面进入液冷时代
2024-06-11 09:34:47
描述
1、 发布AI芯片路线图的英伟达和AMD,全面进入液冷时代 英伟达公布了未来的技术路线图,计算能力的边际成本正在下降。英伟达于2024年6月3日在COMPUTEX GPU2024发布、CPU、NVlink、NIC网卡和交换芯片的技术路线。Blackwel
[本文共字,阅读完需要分钟]

1、 发布AI芯片路线图的英伟达和AMD,全面进入液冷时代 英伟达公布了未来的技术路线图,计算能力的边际成本正在下降。英伟达于2024年6月3日在COMPUTEX GPU2024发布、CPU、NVlink、NIC网卡和交换芯片的技术路线。Blackwell Ultra系列GPU将于2025年发布,配备8个HBM3e内存堆栈;下一代Rubin GPU预计将于2026年推出,新一代Arm数据中心CPU将配备8个HBM4内存堆栈 Vara也将问世;Rubin Ultra系列将于2027年推出,将配备12个HBM4内存堆栈,随着内存容量的增加,GPU加速效应显著,单卡计算能力性能不断提高,计算能力边际成本不断下降,以支持人工智能大模型参数的持续增长。

随着以太网网络的不断优化,未来交换芯片将支持更大的计算能力。在网络互联方面,英伟达第六代NVLink switch将于2026年推出,带宽容量高达3600GB/s,卡间互联网速率持续增长,大模型训练速度加快,CX9 NIC网卡带宽1600GB/s。此外,Spectrumm Ultra X800 2025年将推出51.2T以太网交换芯片,X1600 102.4T IB和以太网交换芯片将于2026年推出,X800将支持10万卡计算能力互联网,X1600将支持100万卡计算能力互联网,以太网在人工智能组网络上的应用可能会继续增长。英伟达继续推出新的网络产品,提供更高的带宽、更多的接口和软件功能,支持人工智能以太网/IB网络性能、网络互联效率或持续增长,帮助人工智能网络向1万卡、10万卡等大规模发展,不断刺激对高速交换机和高速光模块的需求。

AMD发布了全新的云AI加速芯片路线图,今年将推出全新的Instinct MI325X。AND在2024年6月3日COMPUTEX 新的云AI加速芯片路线图将于2024年发布,今年将推出新的AI加速芯片Instinct MI325X,2025年MI350,2026年MI400。其中,MI325X将延续CDNA3框架,HBM3E高带宽内存的容量将大大提高到288GB,内存带宽也将提高到6TB/s,预计MI325X将于今年第四季度开始供货,其他规格与MI300X基本一致;新一代MI350系列将采用3nm工艺,288GB基于全新框架集成 HBM3e内存支持FP4/FP6数据格式,推理速度比现有MI300系列芯片快35倍。 计算芯片功耗持续增长,全面进入液冷时代。 计算芯片功耗持续增长,全面进入液冷时代。单英伟达B200 八卡风冷DGX服务器功耗接近15KW,散热模块体积大,空间利用率差。相比之下,液冷MGX服务器具有较高的计算密度和显著的性价比优势;同时,根据供应链信息,AMD 同样,MI350将切换到液体冷却。

2、人工智能用户初具规模,ChatGPT停机导致竞争产品访问激增 ChatGPT用户对人工智能的巨大需求导致了竞争产品系统的瘫痪。6月4日,OpenAIChatGPT(包括网站、App和桌面应用)出现系统故障,导致全球大量用户无法正常使用,持续近8小时。ChatGPT在全球拥有约1.8亿活跃用户,已成为一些人工作流程的关键组成部分。在这次停机期间,用户转向了替代工具,包括 Anthropic 公司的 Claude、谷歌 Gemini 和 根据软件公司QRFY的分析,谷歌 Gemini 日均搜索量激增近60%,显示了用户对ChatGPT替代品的蓬勃需求。然而,在流量激增的情况下,上述三个人工智能平台也遭遇了系统瘫痪。Perplety网站显示,由于接收了太多的要求,显示超出了服务容量。然而,在流量激增的情况下,上述三个人工智能平台也遭受了系统瘫痪。Perplety网站显示,由于接收了太多的要求,它们超过了服务容量。我们认为,该事件反映了部分用户使用人工智能模型的刚性需求,人工智能用户数量已初具规模,大量增量需求在短时间内超过了竞争产品基础设施容量的上限。目前,计算能力基础设施建设仍存在结构缺口。随着用户对人工智能需求的不断增长,计算能力基础设施建设可能会持续很长时间。

3、 Aspeed 5月份收入同比大幅增长,服务器需求可能会恢复 全球领先的Aspeeded服务器管理芯片供应商 2024年5月收入4.35亿新台币,同比增长92.90%,环比增长4.67%,月收入接近2022年平均水平。我们认为,公司收入的显著改善主要是由于人工智能服务器的强劲需求,导致单个服务器管理芯片的价值上升,以及传统服务器需求的逐步恢复。开源通信

目标:宝信软件、中际旭创、英维克、中兴通讯

受益目标:新易盛、天府通信、华工科技、光迅科技、源杰科技、腾景科技、飞荣达、网络科技、光环新网、润泽科技、云赛智联、奥飞数据、科华数据、紫光股份、锐捷网络、烽火通信、盛科通信、广和通、美格智能、移远通信、威胜信息、亿联网络、梦网科技、会畅通信等。