高通进博会演示端侧MoE智能体：终端侧AI从单点应用走向智能体体验

终端侧AI经过三四年发展正迎来变化节点。影像、语音识别、文本摘要、图像处理、实时翻译等能力已在端侧逐步成熟，但多数仍属单点任务；若要完成意图理解、任务编排、实时操作目标App等系统级规划任务，需要更强的端侧模型能力。高通强调端云协同的“计算连续体”，主张“端侧优先”，以降低对网络的依赖并发挥安全、隐私与个性化优势。 MoE（混合专家模型）成为端侧重要方向的原因在于计算效率。以30亿参数Dense模型为例，每次推理需运行全部参数；MoE则将参数划分为多个专家模块，执行任务时只调用其中相关部分，例如20个专家中仅激活2至3个，从而减少单次推理实际运行的参数量。手机、PC受内存与功耗限制，目前主流端侧只能运行20亿至30亿参数模型，复杂任务完成度约60%至80%，MoE提供了在同等约束下提升智能水平的路径。 端侧运行MoE还需解决两个实际问题：提前预测当前任务需要哪些专家模块，以及快速从存储中调用这些模块参与计算。DDR带宽常是推理瓶颈，预取可减少等待时间。高通在第九届进博会展出的端侧MoE智能体演示由高通与Infris AI、江波龙、阶跃星辰合作完成：阶跃星辰提升模型智能能力，Infris AI通过推理方案预测并预取专家模块，江波龙优化专家模块从UFS到内存的加载效率，高通围绕芯片平台与软件栈优化专家模块路由、预测和缓存预测。 该演示展示的是模型、推理、存储、芯片平台的系统性优化，而非单一模型。高通与产业伙伴的合作也从“模型+芯片”走向“模型for芯片”或“芯片for模型”：模型厂商提供智能，终端厂商掌握设备、操作系统与个性化数据入口，开发者解决应用长尾，高通以骁龙平台、NPU与全栈AI软件工具提供能力底座。现场展示的意图理解、任务编排、实时操作目标App等能力，未来有望进一步应用到手机、汽车、PC等终端。