绿算实测KV Cache分层:吞吐持平、容量差107倍
热点事件持续更新
绿算实测KV Cache分层:吞吐持平、容量差107倍
1 篇报道1 个报道来源20 小时前更新
先了解这件事
AI 综述
绿算技术在2026先进存力大会分享KV Cache分层落点实测:基于GP7000全闪NVMe-oF阵列与DeepSeek-V4-Flash、vLLM聚合集群,纯DRAM与DRAM+全闪两种落点的纯读吞吐比为0.97–1.03×,属噪声量级,但有效容量相差107倍。 该对比中,全闪侧DRAM为50 GiB,仅为纯内存400 GiB的1/8。测试另要求PYTHONHASHSEED设为0、prefix-cache-retention-interval设为None、local_hostname填fabric字面IP。上述结果为绿算技术市场营销管理中心总经理黄飞在演讲中给出的说法。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 00:00
绿算技术黄飞:KV Cache 分层落点实测,全闪与纯内存吞吐打平、有效容量差 107 倍报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- 开放数据中心委员会 · 官方动态精选绿算技术黄飞:KV Cache 分层落点实测,全闪与纯内存吞吐打平、有效容量差 107 倍
绿算技术在 2026 先进存力大会分享基于 GP7000 全闪 NVMe-oF 阵列与 DeepSeek-V4-Flash、vLLM 聚合集群的 KV Cache 分层落点实测:纯 DRAM 与 DRAM+全闪两种落点纯读吞吐比在 0.97–1.03×,属噪声量级,但有效容量相差 107 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。