导语：端侧AI也需要一套新的算力基础举措措施吗？

世界人工智能年夜会（WAIC）2026上，超节点、万卡集群是算力范畴最吸惹人的核心。更年夜的集群、更高的带宽、更强的供应能力，组成了年夜模子时代最直不雅的基础举措措施叙事。

但安谋科技于WAIC时期的AI前瞻会上把会商拉向了另外一端：当AI从云端进入手机、AI PC、智能家居、汽车、呆板人、工业装备及边沿节点，算力问题再也不只是“够不敷年夜”，而是“合分歧适”。

“咱们认为，边端侧AI不是云端AI的缩小版，而是由功耗、及时性、软件、数据、靠得住性配合界说的新计较市场。”安谋科技Arm China NPU产物线卖力人、首席架构师舒浩博士于安谋科技世界人工智能年夜会（WAIC）2026 AI前瞻会上的这句话，比详细产物参数更值患上被记住。

安谋科技于AI前瞻会上没有把CPU、NPU、VPU及AIOS拆成四个伶仃产物来说，而是给出一套端侧AI的体系谜底：硬件层面做异构，软件层面建生态，终极把本身从芯片IP供给商的位置，推向边端侧AI基础举措措施的构造者。

怎样于资源受限的环境下让端侧不变运行AI？

端侧AI的时机，起首来自模子能力的下沉。

安谋科技CPU产物总监朱晓鸣于演讲中提到，2022年、2023年，要到达商用门坎的模子范围往往需要做到数百B；但跟着算法演进，到2025年、2026年，靠近1B体量的模子也有时机到达商用最低尺度线。

这象征着，已往只能运行于云端办事器上的AI能力，最先有时机进入端侧芯片。

但端侧AI真正难的，其实不是模子能不克不及变小，而是变小以后能不克不及于真实装备里不变跑起来。

手机要思量续航，呆板人要思量低延迟，工业装备要思量不变性及生命周期，智能家居装备还有要思量成本及常开功耗。用户但愿端侧装备具有更强推理能力、更长上下文、更及时交互，暗地里要解决的是电池、温度、内存墙及带宽墙。

朱晓鸣把端侧AI的约束讲患上很直接：“端侧AI其实不是资源无穷、无穷枪弹的AI，它是一个资源受限的AI。”

以是，端侧AI不是把云端模子搬到端侧芯片上，也不是简朴于MCU阁下外挂一颗NPU，而是于极为受限的功耗、面积、成本及带宽里，把AI能力挤出来。

这也是安谋科技推出“星斗300”AIoT原型平台的配景。

星斗300由STAR CPU、Arm Helium矢量扩大及Arm Ethos NPU构成，首代平台选择STAR-MC2及Ethos-U55，方针是撑持主流小模子，让传统MCU拓展出AI算力。

已往IoT夸大的是毗连万物，装备更多负担收罗、毗连及被动相应；AIoT夸大的是认知万物，端侧装备最先需要必然的感知、判定及决议计划能力。

安谋科技要做的，是把CPU的通用节制能力、Helium的向量扩大能力及Ethos NPU的矩阵加快能力组合起来，于功耗、面积都受限的嵌入式装备里，跑出可用的AI能力。

端侧AI的竞争，不是比谁能把算力堆患上更年夜，而是比谁能于更小的壳里，把更多AI能力跑患上更稳。

Agentic时代NPU最主要的不是峰值算力？

假如星斗300回覆的是AIoT装备怎样长出AI能力，那末周易X3-Pro回覆的是更繁杂的边端侧推理问题。

已往谈NPU，行业很轻易落到参数竞争：算力几多、能效几多、撑持多年夜参数模子。

Agentic AI正于转变NPU的界说。舒浩于演讲中提到，已往一年AI行业的变化集中于四个方面：模子能力晋升，推理需求从云端向边端侧扩大；推理范式从单轮对于话走向Agent多轮协作；事情负载高度分解；边端侧场景不停扩大。

这些变化末了指向统一个结论：“AI算力底座的存眷核心，已经经从峰值算力转向体系效率、场景适配性以和总体可部署能力。”

缘故原由于在Agentic AI带来的推理变化，不是一次性哀求变多，而是推理自己酿成连续感知、上下文影象、多模态理解及自动步履的轮回。NPU也就不克不及只被界说为推理加快器，而要酿成AI智能体的计较底座。

但边端侧场景依然绕不开然碎片化问题。

手机、PC、可穿着装备体贴电池续航、小我私家隐私及当地相应；摄像头、门锁、呆板人、主动驾驶体贴多模态传感、低延迟及功效安全；工业网关、工控机、工场办事器体贴使命确定性、靠得住性及运用永生命周期；边沿节点、AI当地盒子又体贴多路并发、24小时于线及云边协同。

这些装备都需要AI，但它们不会需要统一颗AI芯片。

这也是周易X3-Pro夸大同一、分层、场景化架构的缘故原由。舒浩把周易X3-Pro的设计哲学归纳综合为：“一次适配，多芯复用；面向场景，矫捷配置。”

软件层面，安谋科技但愿用同一架构复用模子适配、调优及部署经验；硬件层面，则经由过程差别配置适配差别场景对于机能、功耗、矫捷性及可编程性的差异化要求。

这才是边端侧AI真实的工程难题。

云端AI可以经由过程尺度化集群及范围效应不停摊薄成本，但端侧AI要面临的是更长的产物周期、更多样的装备形态及更繁杂的运用约束。谁能降低客户从模子到芯片、从芯片到产物的适配成本，谁才有时机成为端侧AI时代的底座。

用新一代VPU解决端侧AI怎么看

AI进入真实世界后，视频的脚色一样于变化，对于VPU也有新的需求。

已往视频重要办事人眼。手机拍摄、社交传输、直播压缩，焦点方针是让人看患上清、传患上快、存患上下。但于呆板人、主动驾驶、工业视觉等场景里，视频不只是内容，而是AI理解物理世界的数据进口。

换句话说，视频再也不只是给人看，也要给呆板看。

安谋科技VPU研发总监黄鑫博士于演讲中提到，跟着AI运用及视频越发慎密联合，愈来愈多视觉感知模块需要用视频数据举行推理及练习，视频最先成为AI的“消费者”。

这会转变VPU的设计方针。已往VPU寻求的是压缩效率及主不雅画质，AI时代，VPU还有要思量压缩后的视频可否保留对于AI推理有用的信息。假如视频质量受损，影响的可能不只是人眼不雅感，而是AI推理精度及练习效果。

安谋科技这次初次揭秘新一代“玲珑”VPU“武当”。这款产物继续上一代CAE技能，于连结编码质量的同时，PPA较上一代晋升跨越40%，并撑持更完备的编码规格。

更要害的是，安谋科技正于把VPU从局部优化推向端到端全局优化。

黄鑫提到，下一阶段AI VPU会从智能CAE这种局部优化，走向面向特定AI运用的端到端视频编码技能，于压缩及精度之间取患上更优均衡。

他用一句话归纳综合玲珑VPU的定位：“让人类看清世界，让AI看懂世界。”

假如说CPU及NPU解决的是端侧AI“怎么算”，VPU解决的就是端侧AI“怎么看”。

当呆板人、汽车、工业装备、空间智能体系都需要经由过程视觉理解世界，视频压缩就再也不只是多媒体问题，而会酿成端侧AI基础举措措施的一部门。

端侧AI年夜范围部署的要害——AIOS同盟

硬件异构只能解决端侧AI的一半问题。另外一半，是软件及生态。

端侧AI假如只逗留于“芯片能跑模子”，很难真正酿成产物能力。Agent、具身智能、AI眼镜、AI玩具、呆板人、边沿盒子等新型装备，需要的不只是底层算力，还有包括模子推理、使命编排、影象治理、端云协同、感厚交互、隐私安全及开发者东西。

这也是安谋科技牵头倡议开源AIOS同盟的缘故原由。

安谋科技市场和生态副总裁梁泉于演讲中提到，每一一代新型产物的变化，不仅是计较平台变化，也包括交互范式变化。PC时代是鼠标及键盘，挪动时代是多点触控，AI时代则会呈现语音交互、天生式UI、具身互动及连续感知。

这象征着AIOS不是传统操作体系加一个模子接口。

AIOS需要处置惩罚模子引擎、模子推理、端云协同路由、感厚交互、Agent使命编排、影象体系及数据流。特别是于具身智能及边沿装备中，视频、音频、文本等及时混淆输入，会成为贯串体系的焦点数据流。

梁泉对于AIOS的界说里，最要害的不是“OS”，而是交互。

他提到，新型AIOS是“基在感知的天生式交互及具身互动体系”。假如只是把AI作为计较基础举措措施放于那里，已往Linux、办事器体系已经经可以承接许多能力；但新型边沿装备及具身装备要与人连续互动，交互会酿成体系焦点。

这一步，把安谋科技的脚色从IP继承向上推了一层。

端侧AI财产链自然分离：有芯片公司，有模组厂，有装备厂，有模子公司，有开发者，也有终端品牌。单靠某一颗IP，很难让AI进入海量装备。安谋科技想借助Arm于端侧的生态位置，把硬件IP、软件栈、模子能力、开发者东西及终端产物构造到一个更开放的系统里。

开源AIOS同盟的意义也于这里，端侧AI从“硬件可用”走向“产物可用”必需补上的体系层。

端侧AI的竞争也是体系竞赛

从星斗300到周易X3-Pro，从玲珑VPU到开源AIOS同盟，安谋科技通报出的信息，焦点不是有新的IP产物，而是为端侧AI构建一套差别在云端AI的基础举措措施。

云端AI的竞争，更像范围竞赛。谁能提供更多GPU、更强集群、更高吞吐、更低Token成本，谁就能于年夜模子练习及推理发作中盘踞主桌。

端侧AI的竞争，则更像体系竞赛。它要于功耗、成本、及时性、隐私、装备形态及生命周期之间找均衡；要让差别尺寸、差别场景、差别产物周期的装备，都能以可控成本得到AI能力；还有要闪开发者及终端厂商没必要为每一一颗芯片、每个装备、每一一种模子反复适配。

这恰是“端侧AI不是云端AI的缩小版”暗地里的财产寄义。

当AI还有逗留于云端，算力基础举措措施的焦点问题是怎样支撑更年夜模子及更多Token；当AI进入真实世界，问题会酿成怎样让每一一台装备都具有可用、靠得住、可部署的智能能力。

安谋科技构建的，恰是这套边端侧算力底座。

假如说已往Arm生态的最年夜价值，是让挪动互联网时代的计较能力进入每一一台终端；那末AI时代，安谋科技要证实的是，Arm生态仍旧有时机把AI能力带进每个真实装备。

端侧AI的下半场，不会只属在单颗芯片，它属在能把芯片、模子、OS、开发者及终端场景串起来的公司。雷峰网(公家号：雷峰网)

雷峰网原创文章，未经授权禁止转载。详情见转载须知。