英伟达计划从三星购买高带宽内存(HBM)芯片
2024-03-22 15:36:12
描述
1、英伟达计划从三星购买高带宽内存(HBM)芯片3月20日,英伟达计划从三星购买高带宽内存(HBM)芯片是人工智能处理器的关键组成部分。三星最近开始大规模生产其下一代HBM芯片,试图赶上竞争对手SK海力士。英伟达首席执行官黄仁
[本文共字,阅读完需要分钟]

1、英伟达计划从三星购买高带宽内存(HBM)芯片

3月20日,英伟达计划从三星购买高带宽内存(HBM)芯片是人工智能处理器的关键组成部分。三星最近开始大规模生产其下一代HBM芯片,试图赶上竞争对手SK海力士。

英伟达首席执行官黄仁勋表示,他计划从三星购买高带宽存储器(HBM,AI芯片关键组件)。“HBM存储器非常复杂,附加值非常高。我们在 HBM花了很多钱。SK海力士几乎是英伟达HBM3芯片上唯一的供应商。在SK海力士发布的第一款12层堆叠HBM3EEE领域,三星正在努力追赶HBM领域 12H DRAM,该行业最大的36GB容量。三星一直在HBM上投入巨资,该公司于2月宣布开发HBM3E 12H是业内首款12堆栈HBM3E DRAM,也是迄今为止容量最高的HBM产品。三星表示,该芯片将于今年上半年批量生产。

二、关于HBM的“灵魂三问”

1、WHAT? HBM是什么?

HBM(High Bandwidth Memory)中文名称是高带宽存储器,实际上是通过一些先进的包装方法(如TSV硅通孔技术)堆叠多个DDR芯片和GPU包装,在较小的物理空间内实现大容量、高带宽、低延迟、低功耗的DDR组合阵列。

2、WHY? 为何需要HBM?

HBM爆炸的关键原因是GPU对大规模并行计算的速率要求不断提高,但计算过程本身需要计算能力、存储能力和运输能力同时匹配。

一般来说,存储的读取速度与计算的处理速度之间存在一定的时差,HBM是提高传输速率和存储容量的重要技术路线。

与GDDR相比,HBM在单体可扩展容量、带宽和功耗方面具有更大的优势,其带宽是DDR5的三倍以上。

因此,HBM可以说突破了内存瓶颈,成为当前人工智能模型GPU存储单元的“最强辅助”。即使在人工智能领域,也没有其他存储芯片可以取代HBM,这就是为什么HBM就像一个致富的秘密,吸引了无数人的注意。

3、WHERE?HBM有什么意义?

在我看来,HBM最大的意义在于促进人工智能的发展。

为什么这么说?

如果我们回顾一下AI的发展历史,就会知道AI模型一开始层数少,计算规模小,计算能力低;后来AI模型逐渐加深,增加了计算能力的需求,导致了相应的带宽问题,但此时仍然可以通过增加大片内缓存和优化调度模型来解决。如今,大型AI模型的兴起催生了大量的计算能力需求。数据处理量和传输速率的显著提高,使人工智能服务器对芯片内存容量和传输带宽提出了更高的要求。

HBM的出现使得人工智能/深度学习成为可能。在提高集成度的同时,带宽不再受芯片引脚的互联数量的限制,从而在一定程度上解决了带宽的瓶颈。

毫不夸张地说,以HBM为代表的存储堆叠技术将原始的一维存储布局扩展到三维,大大提高了片上存储器的密度,使人工智能进入了一个新的发展阶段。

目前市场上的主流声音是,市场对HBM的需求只会在现在甚至未来几年增加。根据市场研究机构Gartner的预测,2023年全球HBM收入约为20.05亿美元,预计到2025年将翻倍至49.76亿美元,增长率高达148.2%。(注意,这只是收入规模,不是产业链的整体规模!)

三、梳理相关HBM概念股:

华海诚科(688535.SH):公司主要生产HBM上游材料,高端材料GMC(颗粒状环氧塑料封装)可用于HBM封装,相关产品已通过客户验证。

联瑞新材(688300.SH):公司属于HBM芯片包装材料的上游材料,部分客户是世界知名的GMC供应商,公司提供GMC使用的球硅和HBM包装材料α球铝。

壹石通(688733.SH):公司的Low-α射线球形氧化铝产品是目前在客户端进行测试的先进芯片封装材料。

香农芯创(300475.SZ):作为SK海力士的经销商之一,公司具有HBM芯片代理资质。

赛腾股份(603283.SH):公司多年来一直深入从事3C智能设备制造业,业务涉及消费电子、锂电池、半导体等,其部分产品已进入海外头部晶圆厂HBM生产线。

亚威股份(002559.SZ):公司投资苏州核心测试,布局高端半导体存储芯片测试设备业务,目前在海力士、安靠等行业稳定供货。

雅克科技(002409.SZ):该公司收购了韩国UPChemical,在Hi-K等半导体材料领域处于世界领先地位,主要供应SK海力士、三星电子等半导体存储芯片。

太极实业(600667.SH):该公司是SK海力士的核心封测供应商,为后者的DRAM产品提供后工序服务。

通富微电(002156.SZ):公司2.5D/3D生产线建成后,HBM高性能封装技术将在国内取得突破。海涵财经