存算一体化市场格局梳理
2023-10-25 15:31:30
描述
在过去的20年里,人工智能和云计算发展迅速,但面对计算中心的数据洪流,计算能力的增长速度远远超过了存储能力,导致“存储墙”和“功耗墙”成为限制数据计算发展的两大障碍。在传统的冯·诺依曼架构中,存储器和处理器是物理
[本文共字,阅读完需要分钟]

在过去的20年里,人工智能和云计算发展迅速,但面对计算中心的数据洪流,计算能力的增长速度远远超过了存储能力,导致“存储墙”和“功耗墙”成为限制数据计算发展的两大障碍。在传统的冯·诺依曼架构中,存储器和处理器是物理分离的。数据处理需要通过数据总线交换数据。存储器的速度往往跟不上处理器的处理速度,限制了处理器的性能和效率,导致“存储墙”问题。一体化存储架构的出现解决了计算与存储之间的界限,将计算直接嵌入存储器中,使计算与存储相互融合。存算一体化的优点是可以大大提高计算能力超过1000TOPS,提高能效超过10-100TOPS/W,同时,有效降低成本,提高计算效率,实现计算能效的数量级提高。适用于人工智能的各种场景,包括可穿戴设备、移动终端、智能驾驶、数据中心等,都能满足人工智能开发的多样性需求。随着大型模型的出现,其参数已达到数亿级,计算集成架构有望成为人工智能计算能力的下一个极,并可能成为继CPU和GPU之后的第三个计算能力架构。随着人工智能计算能力需求的不断增长,计算一体化技术已接近大规模生产的节点。随着技术成熟度的提高和大规模商业实施,其市场空间预计将超过1000亿美元。

01存算一体化行业概览

存算集成技术是一种以数据为中心的新型计算架构,集成了计算和存储功能,紧密结合了存储单元和计算单元,从而降低了功耗,提高了计算效率。被称为人工智能芯片的“全能战士”,被认为是最具潜力的技术之一。其核心是完全集成存储和计算,利用存储单元进行数据处理,无需数据传输,提高计算效率。计算一体化的优点包括计算能力大、能效高、成本降低、效率提高等。据量子位报道,存算一体化产业的发展将经历四个阶段:技术探索期、局部小规模生产、一般小规模生产和未来大规模生产。02 集成技术路径的存算

存算一体化技术的底层特征包括减少数据处理,将能耗降低到十分之一到百分之一,实现存储单元具有计算能力,相当于在不变面积的情况下大规模增加计算核心数量或改进过程代理,以及单个存储单元取代计算逻辑和寄存器。这些底层特征共同实现了存算一体化技术的优势,使其成为具有巨大潜力的新型计算架构。虽然学术界和行业界尚未就存算一体化技术的分类达成共识,但包括近内存计算在内的各种技术路径已经发展起来(NMC)、存储级内存(SCM)、近存储计算(NSC)和存内计算(IMC)等。这些技术路径各有特点,适用于不同的应用场景。目前,Flash、SRAM、RERAM等成熟的存储介质已广泛应用于存算一体化技术,RERAM、MRAM等新型存储介质也在不断发展。NorFlash是一种非易失性存储介质,但在工艺过程中瓶颈明显,适用于小规模数据存储。DRAM成本低,容量大,但速度慢,需要不断刷新以保持数据存储。SRAM在速度和能效比方面具有优势,特别是在存储逻辑技术发展后,具有高能效和高精度的特点。HBM(高带宽内存)方案是一种典型的近存计算技术,可以解决存储分离引起的“存储墙”问题,包括存储单元的带宽问题和存储单元与计算单元之间键数据传输的能效问题。存储Die在HBM方案中的垂直堆叠也增加了容量,因此HBM技术完美地满足了GPU对更多内存和更高带宽的刚性需求。2016年,来自加州大学的研究小组提出了利用RAM构建存算集成架构的深度学习神经网络(PRIME)。与传统的冯诺伊曼架构方案相比,PRIME可以降低约20倍的功耗,提高约50倍的速度。然而,RRAM虽然具有高速、结构简单的优点,但距离工艺成熟还需要2-5年,材料稳定性有待提高。从长远来看,RRAM仍有望成为未来发展最快的新存储器,成为下一代的主流研究方向。

03存算一体化市场格局梳理

存算一体化技术起源于国外,其产业化进程比国内早3-5年左右。目前,国外已有一些企业走在商业化的前列,包括SST、以Syntiant和Mythic为代表。其中,SST在IP授权方面处于领先地位,许多芯片制造商愿意购买其产品。然而,由于存算一体化技术的配套工具仍处于探索阶段,缺乏成熟的配套工具,基于存算一体化技术的产品主要在短期内(约5年)大规模生产。从存算一体化发展的角度来看,自2017年以来,英伟达、微软、三星等大型制造商提出了存算一体化原型,同年国内存算一体化芯片企业开始出现。大厂对存算一体化结构的需求实用快捷,近存计算作为最接近工程落地的技术,成为大厂的首选。特斯拉、三星、阿里巴巴等生态丰富的大厂商,以及英特尔、IBM等传统芯片厂商,都在布局近存计算。从方案实施的角度来看,英特尔选择基于SRAM的可配置存储器,而三星选择在DRAM的DRISA架构上进行集成存储解决方案。国内初创企业专注于无需考虑先进工艺技术的内存计算。其中,知存科技、亿铸科技、智芯科、九天瑞芯等初创企业都在押注“存”与“计算”更为亲密的存算一体化技术路线。亿铸科技、千芯科技、阿里达摩研究院等人工智能大计算场景,专注于大模型计算、自动驾驶等;闪易、新忆科技、苹芯科技、知存科技专注于物联网、可穿戴设备、智能家居等边缘小计算场景。此外,恒硕股份、杭州柯林、中科微至、润鑫科技、罗普特等在媒体和技术上具有先发优势。产业链各环节的龙头厂商还包括中科曙光、拓息、中国数字、浪潮信息、寒武纪、海光信息、龙芯中科、景嘉微等算力厂商;东芯、赵毅创新、北京君正、兰起科技聚辰、普然等仓储芯片厂商,以及江波龙、百维仓储、德明利等仓储模块厂商。存算集成技术代表了未来人工智能计算芯片的主流架构。随着全球数据产生量的快速增长,数据产生量呈爆炸性增长。特别是在人工智能、云计算、物联网等领域的快速发展下,市场对数据收集、存储和处理的要求将继续提高。在这种背景下,存算一体化技术具有非常广阔的应用前景。精选乐晴智库