跳到正文
量子位 · AI 产业· 十三·· 2 小时前AI 评分62

沙利文报告:商汤大装置占中国Neocloud近半份额

中国近50%的新云生意,竟被这家公司包揽!

AI 导读

沙利文与头豹研究院《中国全栈AI云服务市场报告2026H1》显示,商汤大装置在Neocloud(新云)赛道拿下中国近50%份额。商汤大装置日均Token服务量从年初约4000亿增至9月底6万亿,计划第四季度冲到日均10万亿。其做法是用PD分离让国产卡承担Prefill、高端GPU负责Decode,整体推理性价比达主流高端GPU的1.25倍,并以算电协同Agent降低用电成本。

深度导读
沙利文和头豹研究院发布《中国全栈AI云服务市场报告2026H1》,在Neocloud(新云)赛道中,商汤科技旗下AI基础设施平台商汤大装置(SenseCore)拿下中国近一半份额。文章把这一结果放在两条背景下理解:海外CoreWeave等新云公司积压订单高企但依赖融资,马斯克公开判断债务市场对缺乏AI数据中心外收入的公司已基本关闭融资大门,200多家Neocloud将迎来倒闭和兼并潮;国内则是综合云巨头全面转向AI。 需求侧的变化是文章的核心线索。Agent执行任务需要拆解、查资料、反复确认,每一步都消耗Token,沙利文报告称在Token生成速度相同的情况下,Agentic AI对算力的要求比传统大模型高出10倍以上。国家数据局统计今年3月我国日均Token调用量已超过140万亿。商汤大装置CTO宣善明称,去年行业主要在训模型,今年春节前后Agent带火Token需求。客户关注点也从集群规模转向单位Token成本、推理延迟、部署效率和多种负载调度,算力生意的计量单位从Flops转向Token。 商汤大装置披露的Token规模为:今年年初日均约4000亿,7月底2.42万亿,9月底6万亿,计划第四季度达到日均10万亿。技术路径上,针对国产芯片路线多元、生态尚在成熟的碎片化现状,其采用PD分离(Prefill-Decode Disaggregation),由国产卡承担Prefill、高端GPU负责Decode,通过KV Cache传递中间结果,整体推理性价比达到主流高端GPU的1.25倍;超长上下文请求仍由高端GPU兜底。下一步关注跨域PD分离(A城市做Prefill、B城市做Decode,盘活闲置国产算力,仍处验证阶段)和AF分离(拆分Attention与FFN计算,行业处于预研阶段,需与硬件厂商联合推进)。 算电协同方面,商汤大装置在今年WAIC发布算电协同Agent,联动能源大模型和宁德时代储能系统,每15分钟预测、每5分钟修正,调度任务与储能充放电。今年7月上海电网需求响应时,临港数据中心两小时内让出75%用电容量;单位电力成本的Token产出提升80%,平均电费比同地区IDC低10%,并提出TPW(Tokens Per Watt)指标。 落地层面,商汤大装置除服务自家模型外,也为多家外部基础模型厂商提供Token批发服务,并以FDE(前线部署工程师)驻场方式进入行业客户。上海市规划资源局量子城市项目中,双方共建6000亿参数的云宇星空大模型,覆盖知识检索、图纸理解、空间分析和报告生成。商汤总结出AI123交付法则:1天澄清需求、2天产出Demo、30天稳定版本上线。宣善明表示不希望变成人力密集型企业,FDE做标杆案例后会沉淀为标准产品,未来资源将更多投向国产芯片与国产生态。

来源:量子位 · AI 产业 · qbitai.com