跳到正文
NVIDIA 官方博客· Stuart Pitts·· 2 天前AI 评分55

NVIDIA 欧洲云伙伴扩容算力并推出 OpenShell 智能体安全架构

NVIDIA Cloud Partners Scale Across Europe — Sovereign, Open and Built for Safe AI Agents

AI 导读

NVIDIA 宣布其欧洲、北欧、非洲和中亚的云合作伙伴扩大区域算力,用于模型训练、推理及智能体和物理 AI 应用。

正文 · AI 翻译

AI 原生企业的需求正以前所未有的速度推动欧洲 AI 云生态系统向前发展。开发者需要更贴近其数据的算力、可定制并大规模部署的开放模型,以及从设计上就安全的全栈基础设施。 

NVIDIA 云合作伙伴遍布欧洲、北欧、非洲和中亚,正在扩展用于模型训练和推理的区域算力,帮助开发者构建智能体和物理 AI 应用,并为智能体可访问和可执行的范围划定边界。

他们正共同将欧洲的能源、数据、研究和工业专长转化为生产力智能——支持新的模型、应用、组织和就业,同时让人们更好地掌控在哪里以及如何开发和部署 AI。

阅读 NVIDIA 在欧洲的全部公告

主权:AI 云构建欧洲 AI 基础设施

欧洲拥有世界一流的研究、工程人才、工业专长、数据,以及下一代模型和应用,而这些都需要靠近知识所在位置的大规模计算。区域 AI 云提供了基础设施基础,模型构建者、企业和整个行业可在此基础上成长。

随着 AI 工厂规模扩大,电力成为制约因素,这使得每一瓦电产生更多智能变得至关重要。Nscale正在使用NVIDIA DSX 平台将电力分配与工作负载需求相协调。在使用 NVIDIA GB300 NVL72 系统的测试中,Nscale 证明 NVIDIA DSX MaxLPS 在相同的预置电力预算内实现了多 37% 的 GPU 和近 50% 更高的总推理吞吐量。 

Nscale还计划部署 NVIDIA Vera Rubin 基础设施,用于前沿模型训练和生产工作负载,以支持领先的模型和应用构建者使用其全栈、垂直整合的平台,并扩展至五个欧洲市场。

Crusoe正在开发 Spark——专为 NVIDIA Vera Rubin 平台设计的液冷模块化 AI 工厂,以将 Crusoe Cloud 算力更贴近用户,实现低延迟 AI 推理。Crusoe Cloud 为 EMEA 地区领先的模型和应用构建者提供服务,包括Base44、Gradium、LTX 和 Wonderful。

Aleria、Cassava Technologies、Firebird、G42、Radiant、SWI Compute和Vultr也在欧洲、北欧、非洲和中亚开发和扩展由 NVIDIA 驱动的 AI 基础设施。 

来自 AI 云的区域算力结合了全栈NVIDIA DSX AI 工厂平台,包括 NVIDIA Vera Rubin、NVIDIA BlueField和NVIDIA Spectrum-X 以太网网络,为客户提供更大的选择和控制权,决定工作负载和数据驻留的位置,同时推进主权计算服务和经济增长。 

开放:模型与库,从训练到推理 

在整个生态系统中,AI 云正在扩展由 NVIDIA 提供支持的infrastructure和服务,供开发者使用开放模型和库构建应用。这一新增容量支持模型训练、针对专门任务的微调以及大规模推理,包括部署在边缘的应用。

在生产推理方面,Nebius 已采用 NVIDIA Groq 3 LPX,使用 Spectrum-X 以太网网络将其与 Nebius Token Factory 上的 Vera Rubin NVL72 集成。该组合将通过该平台托管的无服务器和专用端点以及熟悉的应用程序编程接口,为延迟敏感型应用和代理系统带来更快的 token 生成速度。

在机器人和物理 AI 方面,Nebius 提供了一套专门构建的 AI 云解决方案,其中包括其全栈 Physical AI Workbench。包括 Rhoda AI、RoboForce 和 Sereact 在内的机器人公司正在该平台上构建。该公司还在 Nebius 基础设施上推出了三款 NVIDIA 零售代理蓝图——涵盖库存、门店运营和微调——并已进入早期访问阶段。

Nebius 正通过其 Physical AI Living Lab 在欧洲大陆广泛扩展其云服务,并在德国作为计算机供应商参与 SPRIND(联邦突破创新局)的 Next Frontier Challenge。  

Baseten 利用 Nemotron 3.5 Lightning 开发了一款用于代码审查路由的专用模型,该模型被 CodeRabbit 使用。 通过监督微调和强化学习,CodeRabbit 将路由一致性从 75.8% 提升至 80.7%,同时将所评估工作负载的预估推理成本降低了 50%。这些结果展示了 AI 开发者如何针对专门任务定制 NVIDIA 开放模型,同时提高准确性和推理效率。

Fireworks 和 Era4 正在合作,将开放模型带给英国和欧洲的企业。该合作将 Fireworks 的模型训练和推理平台与 Era4 的 Chesterfield 设施中由 NVIDIA Blackwell Ultra GPU 驱动的直接液冷容量相结合,支持金融服务、保险和生命科学领域的企业 AI 解决方案计划。

Mistral 正在扩展其 NVIDIA 加速计算基础设施,以支持模型训练、定制和推理。此次扩展包括计划于 2027 年交付的 NVIDIA Vera Rubin 基础设施。Mistral Large 4 在 Mistral 运营的欧洲数据中心使用 3,800 块 NVIDIA Grace Blackwell GPU 训练而成,是该公司最新的前沿多模态模型,在编码、代理工作流和多模态理解方面提升了能力。

Verda 计划部署 NVIDIA Vera Rubin,继续推广开放权重模型,NVIDIA Nemotron 和 NVIDIA Cosmos 已投入生产,并使用 NVIDIA Dynamo 开源框架进行推理优化。

安全:从芯片到软件,为 AI 智能体构建安全边界

随着开发者将模型连接到工具和业务系统,他们还需要控制智能体可以访问和做什么。

在柏林 GTC 上宣布,NVIDIA OpenShell 参考架构获得 AI 云生态系统合作伙伴的支持。该架构基于 NVIDIA OpenShell 安全运行时软件构建,旨在为企业提供全栈控制,以明确的边界部署 AI 智能体,限定智能体可以访问和做什么。

NVIDIA Vera Rubin NVL72 用于模型推理,NVIDIA Vera CPU 搭配 OpenShell 用于智能体框架和工具使用,NVIDIA BlueField-4 DPU 运行 NVIDIA Sentry 用于芯片级执行。每一部分在实现这种控制中都发挥着独特作用,协同工作,使智能体能够完成其既定任务,而不会超出人们为其设定的边界。

包括 Aleria、Baseten、Cassava、CoreWeave、Crusoe、DigitalOcean、Firebird、Fireworks、Firmus、G42、GMI Cloud、IREN、Lambda、Lightning AI、 Nebius、Nscale、Radiant Verda 和 Vultr 在内的合作伙伴正在支持 OpenShell 参考架构,为其客户实现安全的智能体部署。

欧洲 AI 云正在共同将区域基础设施投资与构建和部署 AI 的工作连接起来。扩展的容量为构建者提供了更多运行工作负载的地方。模型和推理服务帮助他们利用这些容量。智能体控制解决了应用程序进入生产环境时被允许做什么的问题。

探索 NVIDIA 云合作伙伴获取基础设施和服务,以及 OpenShell 参考架构获取智能体部署控制。

阅读 NVIDIA 在欧洲的所有公告

来源:NVIDIA 官方博客 · blogs.nvidia.com