NVIDIA 扩展机密计算,推出 Confidential Bare Metal 部署选项
NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure
NVIDIA 扩展机密计算产品线,新增 Confidential Bare Metal 裸金属部署选项,与面向 Kubernetes 的 Confidential Containers、面向虚拟化环境的 Confidential Virtual Machines 构成三种部署形态。
NVIDIA 构建工具,助力安全智能体贯穿整个技术栈。今日发布的 NVIDIA OpenShell 参考架构,是 NVIDIA 不断壮大的技术组合的一部分,帮助组织大规模安全部署智能体。NVIDIA 机密计算是基础设施层,在运行时保护智能体所依赖的模型和数据。
今日,NVIDIA 通过 Confidential Bare Metal 扩展该层,这是 NVIDIA 机密计算的一项全新部署选项,使前沿模型构建者能够在专用第三方基础设施上运行敏感工作负载,同时保持对模型和数据的控制。
NVIDIA 推出新的平台安全控制措施,保护传输中的数据、度量平台完整性并实施硬件级访问限制。这些新控制措施让前沿模型构建者在使用裸金属实例时,能够在第三方云、neocloud 和企业基础设施上的 NVIDIA 加速计算基础设施上运行,拥有并运营其定制软件栈,包括主机和平台基础设施软件。
NVIDIA 机密计算现提供融合安全架构,包含三种部署选项:
- 面向裸金属基础设施的 Confidential Bare Metal
- 面向 Kubernetes 环境的机密容器
- 面向虚拟化环境的机密虚拟机
组织可以根据自身的信任边界和运营需求匹配正确的模式。
NVIDIA 机密计算还在扩展至 NVIDIA Grace Blackwell 和 Rubin 系统,并将与 NVIDIA DSX OS 集成,作为云提供商构建 AI 工厂的参考架构。
模型构建者利用全球算力
Confidential Bare Metal 为受支持的提供商提供了一条路径,以服务需要强模型和数据隐私保护的高价值工作负载。对于模型构建者而言,不断扩展的生态系统为在全球范围内扩展训练和推理提供了更多地理、主权和运营选择。
Cohere 计划将 Confidential Bare Metal 集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算可信执行环境将硬件级安全直接扩展至 GPU——在执行期间保护内存中和跨互连的模型与数据。
“企业信任 Cohere 提供安全且保密的推理平台,”Cohere 首席技术官 Phil Blunsom 表示。“通过在 Cohere Model Vault 中采用 NVIDIA 机密计算,我们将硬件级安全直接扩展至 GPU,在执行期间保护内存中和跨互连的客户数据。”
Google Cloud 正在将 Confidential Bare Metal 的支持扩展至由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将把非虚拟化的 NVIDIA 加速计算与针对训练数据和模型知识产权的加密保护相结合。
“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离、非虚拟化的计算环境和端到端加密保护。我们的 A4X 实例基于 NVIDIA Confidential Computing 构建,可保护用户数据的隐私、保护模型知识产权,并提供顶级的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。
机密计算扩展至整个 NVIDIA 平台
NVIDIA Confidential Computing 利用基于硬件的隔离和加密证明,在执行期间帮助保护模型和数据。
支持范围现已扩展至 NVIDIA Grace Blackwell NVL72——将机密计算引入 NVL72 机架级系统——以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。
CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、 Nebius、Nscale 和 Vultr 均支持 NVIDIA Confidential Computing 部署。包括 Cisco、Dell Technologies、HPE、 Lenovo、 Supermicro 和 Bull 在内的全球系统合作伙伴将通过 NVIDIA-Certified Systems 支持这些功能。
NVIDIA DSX OS 将支持所有 NVIDIA Confidential Computing 模式,为云服务提供商提供构建和运营支持机密工作负载的 AI 工厂的软件基础。
了解更多关于 NVIDIA Confidential Computing 的信息。
来源:NVIDIA 官方博客 · blogs.nvidia.com