与非网 · 半导体与工程·· 3 小时前AI 评分60
灵汐科技类脑超节点入选互联网大会十大首发,GPU加类脑芯片异构推理瞄准AFD路线
类脑芯片“涡轮增压”GPU推理性能,国产类脑超节点站上新高地
AI 导读
北京灵汐科技联合中移(苏州)软件、中国电子科技南湖研究院申报的“面向大模型高性能推理FFN加速类脑超节点”入选2026世界互联网大会“互联网之光”博览会十大精品首发成果。
深度导读
在11月2日至11月5日举办的2026世界互联网大会上,“互联网之光”博览会公布十大精品首发成果,北京灵汐科技联合中移(苏州)软件技术有限公司、中国电子科技南湖研究院申报的“面向大模型高性能推理FFN加速类脑超节点”入选。该方案此前在9月2026中国算力大会上完成全球首次公开亮相,此次以标准化算力单元形式公开展示。
方案的核心是AFD(Attention-FFN Disaggregation)路线,即把Transformer每层中的Attention与FFN模块拆开部署。GPU负责Prefill、KV Cache构建与维护以及Attention计算,发挥并行计算与HBM显存优势;类脑超节点专门承接FFN前馈网络和稀疏MoE专家层推理。灵汐称,这一方向与英伟达将Rubin GPU与Groq LPU组合的探索一致。
硬件上,KA200类脑芯片采用12nm制程,具备片上SRAM存算一体、事件驱动和静态编译特性,减少数据搬运与运行时调度开销。工程实现上,系统由3至6台GPU服务器与3台类脑超节点组成,每台超节点由数千颗KA200芯片互联,硬件包括HP640系列类脑计算板卡和LynxLink高速交换机,软件搭载异构调度引擎与统一内存地址编译技术,原生兼容PyTorch、DeepSpeed、Megatron-LM等框架。
测试方面,基于DeepSeek V4 Flash模型、不低于32K长上下文条件下,系统输出吞吐达到数万到十万Token/s;按项目资料同等投入成本对比,推理吞吐与能效均提升1倍以上,综合业务运营成本下降超过40%。该方案已在头部电信运营商智算中心完成主流大模型商用验证,并与天数智芯较早型号GPU完成对接,推理输出和能效同样提升1倍以上。团队称后续叠加混合专家优化与模型量化,目标将吞吐提升至数十万Token/s。
对国产GPU厂商和智算中心运营商而言,这条路线提供了一种不替换存量GPU、通过增加专用类脑算力节点扩容降本的选择,也意味着Token工厂方案对纯GPU架构及先进HBM的依赖可能有所下降。
来源:与非网 · 半导体与工程 · eefocus.com