H200:HBM容量+76%,单位计算能力存储需求大幅增加
2023-11-16 15:27:45
描述
事件:英伟达发布新的H2000 GPU和更新后的GH200 产品线。与H100相比,H200首次配备HBM3e,运行大模型的综合性能提高了60%-90%。而新一代GH200仍采用CPU+GPU架构,也将为下一代AI超级计算机提供动力。H200:HBM容量+76%,单位计
[本文共字,阅读完需要分钟]

事件:英伟达发布新的H2000 GPU和更新后的GH200 产品线。与H100相比,H200首次配备HBM3e,运行大模型的综合性能提高了60%-90%。而新一代GH200仍采用CPU+GPU架构,也将为下一代AI超级计算机提供动力。H200:HBM容量+76%,单位计算能力存储需求大幅增加H200 GPU含有6个HBM3e内存,总容量为141GB,总带宽为4.8 TB/s。与H100相比(HBM3,容量80GB,带宽3.35 TB/s),H200容量增加76%,带宽增加+43%。同时,H200 FP16/32/64GPU计算能力没有显著提高。H200将比H100带来60%的大模型运行(GPT3) 175B)到90%(Llama 2 提升70B)。在我们看来,H200性能的提升主要是由于存储端的架构优化、“存储墙”问题或制约人工智能性能的不足。同时,H200单位对计算能力存储的需求大幅增加,对后续人工智能行业对存储需求的持续推动持乐观态度。GH200:CPU+GPU异构结构,GH200先进封装后更新为大势所趋,将原CPU+H100 CPU+H200GPU架构迭代 GPU架构。以前的异构架构仍在使用。每个GH200超级芯片还包装了624GB的内存。我们认为,作为未来高性能计算的趋势,异构设计将继续带动先进包装需求,如Chiplet,对先进包装行业的发展机遇持乐观态度。【德邦电子】

相关标的:HBM产业链:华海诚科(HBM环氧塑料密封)、香农核创(海力士产品分销)、深圳科技(DRAM封装测试)等。;先进封装测试厂:长电科技、通富微电、永硅电子等。;先进封装设备:光力科技(切片机+研磨机)、芯源微(涂胶/显影/脱胶/清洗)、先进封装材料:华正新材料(ABF载板材料)等。、飞凯材料(湿电子+锡球)+EMC)、兴森科技(IC载板国产替代)、天承科技等。