跳到正文
Cisco Blog· Jon Woolwine·· 4 小时前AI 评分42

Cisco 如何构建企业 AI 工厂:扩展经济性、性能与安全

How Cisco Built an Enterprise AI Factory: Scaling Economics, Performance, and Security

AI 导读

Cisco IT 披露其全球企业数据中心的全栈多租户 AI 工厂实践,将平均 GPU 利用率从 15% 提升至约 50%,峰值达 80%。在不到两年内把活跃 GPU 规模从约 250 块扩至 1568 块以上,同一机房面积下算力密度提升 6 倍,并为 9 万名员工与 Cisco IQ 客户平台提供 99.99%+ 可用性。

深度导读
Cisco IT 在博客中复盘了自身从项目级 AI 集群走向企业级 AI 工厂的过程。早期各工程与产品团队使用专用 AI 基础设施集群,足以支撑实验性原型;随着企业超级智能体 MyAgent 在 9 万名员工中全球部署,以及 Cisco IQ 开始承载数千家企业客户的实时生产负载,原有模式触及瓶颈。 Cisco 将扩展障碍归纳为四类:静态按项目分配的 GPU 被网络和位置隔离,形成算力孤岛,平均利用率仅 10%-15%;过度依赖闭源云模型导致 token 成本难以预测,且缺乏跨团队用量可见性,Cisco 与 Omdia 的研究显示 AI 部署后云支出平均上涨 30%;自主智能体与多租户负载扩大了提示词注入、专有数据泄露等攻击面;传统风冷数据中心在供电与散热上先触及上限。 对应方案是一套覆盖计算、网络、安全与可观测性的全栈多租户架构。网络侧将分散的后端网络整合为高带宽池化 fabric,采用基于 Cisco Silicon One 的交换机,实现 GPU 零丢包停顿,并因芯片可编程而无需硬件刷新即可适配新协议;计算侧标准化 Cisco UCS-X 系列服务器,混合配置 NVIDIA 与 AMD GPU,按负载匹配高性价比推理芯片与训练容量;散热侧在机柜上加装后门热交换器,在原有物理空间内将计算密度翻倍至每柜两个完整 AI 节点。 安全与运维方面,Cisco AI Defense 提供运行时护栏,检查提示词与响应以防数据泄露;Cisco Hypershield 将提供 fabric 分段,Nexus 交换机上的 Live Protect 可在补丁窗口之间动态施加漏洞防护,无需重启或下线生产设施。Splunk Observability Cloud、Splunk Cloud Platform 与 ITSI 构成指标、日志与事件管理的统一底座,Cisco 表示正在把可观测性扩展至 Agent Observability 与 Tokenomics。 结果包括:平均 GPU 利用率从 15% 升至约 50%,峰值 80%;不到两年活跃 GPU 从约 250 块增至 1568 块以上,未新增机房面积;识别出 80% 稳态推理放在本地运行成本效率最高,并已从企业超级智能体等高流量负载开始标准化到 Cisco UCS;运营支持提升至最高企业 SLA 层级,对外部客户平台 Cisco IQ 与内部 9 万名员工的 MyAgent 均保证 99.99%+ 可用性。 后续 Cisco 计划转向 AgenticOps,以应对智能体产生的每任务流量比人类流量高 450% 的预期,并在推理需求增速超过训练 60% 的背景下推进动态资源池、自动化 GPU 回收与自适应网络等调整。

来源:Cisco Blog · blogs.cisco.com