InstinctAMD发布 MI300X、新款AI PC芯片
2023-12-09 18:29:27
描述
#事件: InstinctinctAMD发布 MI300X、新款AI PC芯片,未来数据中心加速器市场规模大幅修复。与H100 与HGX相比,HGX,Instinct MI300X在运行大语言模型推理时的吞吐量和延迟性能更好,在各种AI和HPC项目中也更好。Instinct MI3
[本文共字,阅读完需要分钟]

#事件: InstinctinctAMD发布 MI300X、新款AI PC芯片,未来数据中心加速器市场规模大幅修复。与H100 与HGX相比,HGX,Instinct MI300X在运行大语言模型推理时的吞吐量和延迟性能更好,在各种AI和HPC项目中也更好。Instinct MI300X已经发货,Instinct MI300A也进入了量产阶段。截至收盘,AMD当日涨幅达9.89%。

#多模态训练缺口大,#计算能力需求提振。1)近期Pika、Google Gemini等相继推出,多模态加速着陆。2)训练端,GPT3.同一级别的模型需要数千个H1000、GPT4或对应数万A100、GPT5或对应成千上万的H100,模型培训对大规模计算能力集群的需求是刚性的;在推理方面,只考虑文本问答场景。根据我们的估计,大约需要数万张H100、相应的计算能力投资数十亿美元,多模态或有更多的改进。

#国内计算能力加速。2023年10月,美国发布了对华半导体出口管制的最终规定,严格加深,自主进程成为行业共识。

1)#海光系统:产品迭代加速,#国产计算能力之光。海光4号已经发布,海光5号研发进展顺利。2023年3月3日,深算2号发布商业化,性能比前代翻了一番,深算3号也在研发中;生态上,海光兼容“X86”,深算兼容“CUDA适应性好。

2)#华为:盛腾计算构建全栈AI基础设施和应用服务。盛腾310和910处理器是华为AI计算领域的核心产品,910单卡Int8计算能力约为0.6 P,最大功耗为300W,已经可以对国际主流GPU进行标杆。

随着国内计算能力的不断进步,产业趋势正在逐步加速验证。:

1)中科:海光信息、中科曙光、龙芯中科、寒武纪等。

2)华为系:神州数码、软通动力、拓息、烽火通信、四川长虹、高科技发展等。

3)其他:浪潮信息、云赛智联、景嘉微、万马科技、阿尔特、恒为科技、科大讯飞、润健股份等。

【国盛计算机】