华为刘硕分享AI推理存网融合技术

华为计算网络实验室技术专家刘硕在2026先进存力大会上海站分享面向AI推理的存网融合技术。他称长上下文推理中KV Cache造成单请求容量、驻留规模和跨节点流量三重放大，单请求可达百GB级、集群总量可达PB级。 刘硕提出xPU侧SIMT细粒度直通、网络侧多网融合与网存协同、存储侧算子下推三个方向，并给出联合评测中TTFT降低91.7%、TPS提升7.3倍的数据。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。