神经网络处理器专门为人工智能设计了一个新的计算架构(NPU)
2024-06-02 18:31:18
描述
随着生成人工智能用例需求在垂直领域的多样化和计算需求的增加,神经网络处理器专门为人工智能设计了一个新的计算架构(NPU)突出重要性!处理器(CPU)和图形处理器(GPU)通过结合NPU使用合适的处理器,可以实现最佳的应用性能
[本文共字,阅读完需要分钟]

随着生成人工智能用例需求在垂直领域的多样化和计算需求的增加,神经网络处理器专门为人工智能设计了一个新的计算架构(NPU)突出重要性!处理器(CPU)和图形处理器(GPU)通过结合NPU使用合适的处理器,可以实现最佳的应用性能、能效和电池寿命,赋予新的增强生成人工智能体验。

英特尔、AMD的新CPU,还是酷睿Ultra?、为迎接人工智能时代的挑战,锐龙8000G在新产品中拥有NPU模块。

NPU是什么?

NPU,它是“神经网络处理单元”的缩写。因此,要了解NPU,就必须知道什么是神经网络,它在人工智能技术和应用中扮演什么角色。

神经网络是一种模仿人脑神经元结构的计算模型,用于识别和处理复杂的数据。它由大量的节点(类似于神经元)组成,通过连接(类似于突触)相互作用。

人工神经网络包含被称为单元/节点的人工神经元。这些单元排列在一系列层中,共同构成系统中的整个人工神经网络。一楼可以只有十几个单元,也可以有几百万个单元,这取决于复杂的神经网络如何学习数据集中的隐藏模式。

人工神经网络通常有输入层、输出层和隐藏层。输入层接收神经网络需要分析或学习的外部数据。然后,这些数据通过一个或多个隐藏层将输入转换为对输出层有价值的数据。最后,输出层以人工神经网络对输入数据的响应形式提供输出。

神经网络和神经网络算法在人工智能领域发挥着至关重要的作用,特别是在生成人工智能领域。生成人工智能是指能够创建自动写作、绘画、音乐创作等新内容的人工智能系统。这些系统通常依赖于深度神经网络,通过学习数据样本生成新的、相似的真实世界内容。

NPU与CPU、不同的GPU

CPU是一种用于执行广泛计算任务的通用处理器。它具有很强的灵活性和可编程性,但在特定任务(如人工智能计算)中可能效率较低。

GPU最初设计用于处理图形和视频渲染。它擅长并行计算任务,因此广泛应用于人工智能领域。然而,GPU并不是专门为人工智能计算设计的,它在处理某些类型的人工智能任务时可能没有NPU那么有效。

简单来说,很容易说明三者的区别:CPU是线性的,串行任务(指令)执行,效率低,通用性高;GPU是并行处理和专用图形并行处理,效率更高;NPU是“并行认知处理”,在人工智能机器学习中效率更高。

简而言之,NPU作为人工智能时代的核心技术之一,不仅促进了人工智能技术的进步,而且对各行各业产生了深远的影响。随着NPU技术的不断进步和优化,我们有理由相信未来的人工智能应用程序将更加智能、高效和流行。

以下A股NPU相关公司梳理(仅供参考):

瑞芯微:公司新推出的SOC大多配备了自主研发的NPU,满足了市场对智能化和计算能力的需求。

美格智能:计算能模块集成 CPU/GPU各种计算单元,如NPU。

智能微智能:公司提供基于GPUUUU的AI服务器和AIBOX边缘设备、ASIC很多 AI加速卡,ARM 多系列NPU产品。

创维数字:公司在NPU边缘计算等方面有差异化的AI技术应用。

新四维图:公司研发的新一代驾驶舱芯片集成了神经网络加速单元NPU。

广播电视运输:与华为联合研发基于昆鹏生态开发资源的“端-边云”系列产品,围绕RISC通用架构处理器+AI芯片(NPU、TPU)目标设计端边-云的协同算法和计算策略是异构计算平台的性能最大化。

全志技术:基于NPU加速度的高性能视觉处理 Soc 芯片已处于量产阶段。

国科微:公司NPU实现了前端IPC最高4T算力和后端NVR/DVR 9T算力。

北京君正:公司NPU技术已应用于T40、T41、并在A1等芯片中量产销售。

昆仑万维:艾捷科芯子公司开发了可编程、高性能的NPU产品,用于模型培训和推理。

广和通:公司基于高通正式推出 QCS8250 芯片平台计算能力高 AI模组 SCA825-W,集成高性能Kryo585 CPU架构,Adreno650GPU、独立NPU、Hexagon DSP 和 Adreno995 DPU处理器可以全面提供高达15TOPS的计算支持。

润和软件:基于华为海思麒麟970芯片的公司Hikey970开发平台,是第一个基于内置NPU的AI移动计算平台。

东士科技:公司拥有多种边缘计算服务器,包括从3TOPS到130TOPS的计算能力,包括GPU/NPU。

安联瑞视:公司的产品开发采用英伟达服务器进行人工智能智能培训,产品端通过嵌入式芯片平台内置NPU授权各种人工智能场景。

飞捷技术:动态可重构神经网络技术引警 NPU设计技术,公司单核 NPU设计技术达到行业领先水平。

将最新一代升级为火炬芯技术 CPU+DSP+NPU 高端三核异构 AI音频芯片 ATS286X-恒奇技术 扩大NPU领域,具有图形NPU功能的芯片研发进展顺利。<恒玄科技:公司同时在集成 NPU领域进行拓展,带有图形NPU功能的芯片研发进展顺利。

云天励飞:Deepedge10是云天首款自研SOC芯片,配备新一代自研NPU(NNP400T)。

国芯科技:公司将继续与合作伙伴合作,共同开展GPU、NPU等技术的研发和应用。

安凯微:公司具有SOC芯片设计能力,能够设计CPU、在单个SoC芯片中集成NPU等。

九联科技:集成高性能华为自主开发的NPU,公司开发的信创智算产品可作为华为盘古大模型边缘的计算能力底座。

芯原股份:GPU/NPU促进IP业务增长,公司单价高的GPU/NPU等IP需求较好。

寒武纪:华为麒麟970芯片NPU采用寒武纪IP设计。主题逻辑