5月18日，国盛证券通信行业研究团队发布深度研究报告，梳理了端侧算力在需求、模型、芯片三个维度的最新进展，并作出判断：端侧算力正走入奇点时刻。

　　这份报告的起点，是一次坦诚的自我复盘。

　　两年前，国盛证券曾发布端侧算力深度报告，预判手机、PC等AI设备上的本地算力将迎来高速增长。但现实是——这些设备上的AI功能，大多数仍依赖云端算力，端侧算力并未如期放量。

　　端侧算力是指直接在用户终端设备上执行的数据处理和计算能力，无需完全依赖远程云端服务器。

　　报告用两句话总结了这段历史：不要低估云端模型的能力边界，以及需求不是凭空想象的。

　　云端太强，传统端侧需求被压住了

　　过去三年，云端大模型的进化速度远超预期。

　　报告指出，随着超节点、PD分离等云端算力架构部署，云端模型在能力快速提升的同时，单位Token成本在加速降低。

　　以文生图为例：三年前高通还在端侧部署Stable Diffusion，端侧只能生成512×512的底图，逻辑性较差；而云端的GPT-4o、Nano Banana等模型已经可以在10秒内生成4K高分辨率图像，且逻辑细节远胜端侧。

　　原本支撑端侧算力的三大理由——隐私性、低成本、低时延——也在云端的强势进化下逐一被动摇。报告认为，隐私性和低成本这两个需求正在被证伪，真正站得住脚的，只剩下低时延这一个。

　　但这里说的低时延，不是指人类等待AI回复的速度。腾讯混元T1模型的吐字速度已达60-80 token/秒，首字秒出，早已低于人类舒适反应区间。

　　报告所说的低时延，是设备对外部信号的内生处理速度

　　人脑处理

　　这就是云端算力无法触及的盲区。报告用了一个类比：把人体神经换成无线信号，把大脑换成云端算力，整个链路的稳定性和延迟就会被无线拉长。

　　需求在哪里？在会动的机器人上

　　锁定低时延这一核心命题后，真正的需求方向也随之清晰：让类人终端更像人。

　　分析师将当前类人终端按智能程度分为四类：

　　第一类：摄像头等感知硬件，需要处理更多路信号、更精细的识别模型

　　第二类：工具机器人，需要识别更多场景——比如割草机器人能识别宠物粪便、石头、积雪、落叶，就能进化为四季可用的庭院机器人

　　第三类：智能车，需要理解异形障碍物和极端复杂场景

　　第四类：人形机器人，需要实时理解物理世界并产生互动，输入涵盖

　　分析师核心判断是：这一轮端侧需求，不是资本市场的一厢情愿，而是来自客户需求增长叠加行业能力进化的闭环结果——割草机器人、送餐机器人、无人汽车的普及，让用户在接受基础功能的同时，也开始提出更高要求。

　　模型三级跳：从“看图识字”到“预判未来”

　　需求侧的演进，离不开模型侧的支撑。报告梳理了端侧

　　大模型时代之前，机器

　　大模型思路引入

　　ViT更消耗算力，这恰恰打通了端侧算力升级的逻辑——更强的算力可以真正转化为更强的能力，而不是空有算力却无法提升能力。

　　第三代：VLM→VLA→世界模型

　　智能驾驶加速了这一演进。

　　VLM：能看懂图像并翻译成语义信息，相当于坐在副驾的解说员，把路况变成机器能听懂的情报

　　VLA：在VLM基础上加入动作维度，直接从

　　世界模型：更进一步，引入预测机制，在执行动作前预演未来几秒的多种情况，通过生成未来的画面来评估风险，从而在无数个平行宇宙中选出最安全的那一条路去走

　　机器人前沿：GEM模型

　　相比智能驾驶，让机器人理解并与物理世界互动的难度更高一个量级。智能车的目标是避免与外界互动，机器人则必须实时与外界产生物理和语言接触。

　　报告认为，GEM是解决这一难题的可能路径之一。简单说，它能把机器人的感知数据和高层指令映射到同一个特征空间，让机器人即使没见过某个物体，也能通过语义理解完成动作。谷歌的RT-2模型已在探索这一方向，将图像、动作、语言全部token化来实现对齐。

　　报告指出，GEM模型当前的主要痛点在于不同模态信号的对齐，以及灾难性遗忘、模态鸿沟等问题，不仅需要模型工程上的持续优化，在未来执行层面，也需要专门的算力芯片架构进行配合。

　　芯片之争：NPU遇到天花板，GPGPU向下渗透

　　模型需求确定了，芯片是最终落脚点。报告详细分析了NPU与GPGPU两条路线的优劣。

　　NPU：从YOLO起家，遭遇架构瓶颈

　　NPU的第一波放量来自YOLO模型——安防摄像头、初级自主移动机器人大量搭载NPU芯片。瑞芯微RK系列凭借性价比和低功耗成为主流选择，其营业收入从2016年的12.98亿元增长至2025年的44.02亿元。

　　但进入大模型时代，NPU遇到了架构层面的硬约束：在扫地机器人等低功耗场景下，如果要运行以ViT为基座的模型替代YOLO，算力需求将接近100TFLOPS。更关键的是，NPU缺少CUDA CORE，所有指令由CPU下发，而端侧功耗和成本限制下无法使用高性能CPU——一旦在较弱的CPU下挂在了过多的NPU核，用于AI任务的指令就会占据CPU所有的通信总线，从而使得设备宕机。

　　高通跃龙IQ10：换装更好的CPU和更大面积的NPU核，并融合部分GPU任务调度结构

　　瑞芯微RK182x：采用3D-DRAM+协处理器双轨并行，通过堆叠封装加大NPU与存储间的带宽，同时将AI推理从主芯片解放出来，缓解总线拥堵

　　GPGPU：从云端继承，生态优势放大

　　相比NPU，GPGPU的端侧路径更顺滑。云端GPGPU本就是全功能芯片，走向端侧只需按需缩减面积和核心数量，不存在NPU面临的架构改造难题。

　　英伟达智能驾驶业务收入从2021财年的5.36亿美元增长至2026财年的23.49亿美元，Orin、Thor系列已推出覆盖不同价位和算力段的产品线。

　　但GPGPU的核心优势不只是硬件，更在于生态。报告指出，大部分端侧模型的预训练和微调都需要借助CUDA生态完成，如果在端侧使用GPGPU架构的算力，那么无论是部署速度，部署效果都会远超需要转译的NPU环境。同时，英伟达在FP4等低精度推理方面已有成熟方案，可以直接下放端侧，而NPU则追赶艰难。

　　分析师的结论是：看好GPGPU架构在端侧渗透率持续提升。但英伟达高昂的售价注定其不会成为市场唯一选择，这也为高通和国内芯片公司留出了空间。

　　投资布局：芯片、模组、存储三条线

　　分析师将端侧算力的投资机会分为三个环节：

　　芯片：价值量提升最大的环节。关注NPU迭代与GPGPU向下渗透。报告特别指出，端侧设备中算力成本占比将显著提升，这一逻辑与云端基建类似。

　　模组：报告称之为旱涝保收的中间商。端侧算力客户极度分散，模组公司承担连接上游芯片和下游万千用户的桥梁作用。无论哪种芯片路线最终胜出，模组厂商都能受益。在IoT时代已实现全球东生西落的中国模组公司，被认为不会缺席这一轮增长。

　　存储：3D-DRAM是报告重点提及的新方向。端侧芯片的推理能力同样受内存大小和带宽制约，3D-DRAM通过将DRAM与NPU堆叠封装，在低成本、低功耗前提下提升带宽。