开放数据中心委员会 · 官方动态·2026-10-30 00:00· 18 小时前精选AI 评分60

ODCC解读存储入参：KV Cache迁至参数面，DeepSeek、英伟达、华为实测性能增益

ODCC算网底座 | 【网存算协同】存储入参：参数面与存储融合，释放算网新势能

AI 导读

ODCC发布算网底座系列文章，提出将前缀KV Cache流量从样本面迁移至高带宽参数面的存储入参架构，以缓解Agent时代推理中网络带宽取代算力成为瓶颈的问题。

推荐理由

梳理KV Cache从样本面迁至参数面的架构演进，并汇总DeepSeek、英伟达、华为三组实测数据，可作推理基础设施选型参考。