中国电信天翼云李家伟：面向AI的天翼云存储能力建设

在ODCC先进存力大会上，中国电信天翼云公有云事业部云服务器产品线总监李家伟作题为《以存为基，向智而行：面向AI的天翼云存储能力建设》的分享，从存储架构、训练加速、推理加速、AI应用四个方面介绍天翼云面向AI的存储能力建设。 天翼云AI存储由ZOS对象存储、HPFS并行文件存储、HPKV大模型推理缓存三大产品构成，覆盖模型训练、模型推理、AI Agent应用全业务链路，可提供毫秒级访问时延、百万级IOPS与百PB级超大容量。 训练场景下，高性能并行文件存储HPFS支持NVIDIA、昇腾等异构算力，单节点带宽突破百万IOPS，并具备系统级、节点级、I/O级三级高可靠。其技术包括支持多客户端并发读写同一文件的Range Lock、精简IO路径的端到端RDMA、减少主机侧数据拷贝的IO免拷贝，以及相比SAS SSD随机读性能翻倍、整体时延降低50%的端到端NVMe。 推理场景下，天翼云推出大模型推理KV Cache加速组件HPKV，对接GPU/NPU异构算力，提供多级缓存、预取与全局共享能力，具备单节点敏捷部署、集群级高性能共享、高性能存储池弹性扩展三项核心能力。通过"以存代算"，HPKV在长文本、多轮对话、高并发场景中较原生方案可将首Token时延降低85%，同等业务量下算力成本降低50%，整体性能提升4倍。 AI应用场景下，向量数据规模正从亿级迈向百亿级，天翼云推出ZOS-Vector向量存储桶，为RAG、AI Agent与企业知识库提供向量底座。其基于分布式Journal实现存算分离架构以解决扩展受限难题，通过数据智能调度系统实现分层存储降低成本，并复用ZOS特性提供多租户细颗粒度权限控制与按需付费能力。