NVIDIA 开放模型助力欧洲公共部门新一批项目落地
NVIDIA Open Models Power a New Wave of European Public Sector Projects
NVIDIA 与欧洲多国政府合作,用 Nemotron 等开放模型推进公共部门 AI 项目。欧盟委员会扩展 deepset Haystack 企业平台支撑 AI@EC;波兰用 DGX BasePOD 与 MONAI 构建医学影像平台,并为 400 多个劳工办公室搭建智能体工厂;英国 Locai Labs 发布含 100 万条合成人设的 Nemotron-Personas-UK 数据集。
政府需要现代化的解决方案来服务公众,同时将敏感信息置于自身掌控之下。
开放模型提供了一条前进路径,让政府能够评估模型、使其适配本地语言和公共服务、在自身控制的基础设施上运行、施加自己的防护措施,并将敏感数据保留在受控环境中。 一些开放模型更进一步,公开了其训练所用的数据集,使政府能够核实训练数据是否获得许可、是否存在偏见或是否合规。
NVIDIA 合作伙伴与欧洲各国政府正携手引入先进模型,以提升公共行政效率,同时保持对数据和基础设施的控制。
其中多家机构还在构建 NVIDIA Nemotron-Personas 数据集 的版本,这是 NeMo User Sim 背后的合作伙伴基础数据集,NeMo User Sim 是 NVIDIA 的开源库,用于大规模人群用户模拟,能够以本地语言动态评估和训练模型与智能体。
欧盟委员会:扩展受治理的 AI 应用
总部位于柏林的软件公司 deepset 正在扩展其 Haystack 企业平台,该平台是 AI@EC 的基础,AI@EC 是 欧盟委员会的共享平台,用于在委员会管理的基础设施上构建和运行 AI 应用。
此次更新为所有客户打通了智能体开发、执行、优化和治理,新增了比较运营成本、评估答案质量和追踪问题的能力。
NVIDIA Triton 推理服务器 支持用于查找和排序相关信息的共享服务。此次扩展建立在 AI@EC 等部署所展示的运营要求之上,这些部署中可复用组件、基于角色的访问、审计追踪和防护措施支持文档摘要、知识管理和多语言政策分析等应用。
波兰:面向医疗和就业的先进计算
德勤正在帮助波兰利用开放模型构建面向医疗和就业服务的智能体系统。
波兰的 eHealth 中心正在使用 NVIDIA DGX BasePOD 和 MONAI 框架构建其面向医学影像的智能服务平台。该工具将帮助医生分析 X 光片、CT 扫描和 MRI 图像,检测异常并优先处理紧急病例,缩短患者等待结果的时间。
在德勤的支持下,波兰家庭、劳动和社会政策部正在 NVIDIA 加速计算基础设施上开发智能体工厂。该设施旨在支持 400 多个劳动办公室,将运行包括 PLLuM、GPT OSS 和 Inkling 在内的模型,用于文档搜索、摘要和数字助手,帮助工作人员更高效地协助求职者。
NVIDIA 还在与波兰的 SpeakLeash 和斯洛文尼亚的卢布尔雅那大学合作,为其合成人物数据集项目添加针对特定国家的内容,并计划随后推出本地化数据集。
英国:为本地相关的高级建模提供数据
总部位于伦敦的Locai Labs发布了Nemotron-Personas-UK,这是一个包含100万条合成人物画像的数据集,反映英国的人口与地理多样性,同时降低隐私风险。潜在用途包括医疗评估,以及跨年龄群体、教育水平和城乡人口的偏见测试。对于构建公共服务模型的开发者而言,它提供了一种检验模型在不同社区间是否表现一致的方法。
德国:面向涉密工作的数字助手与AI
在德国,Materna正在推出Sinfonie,这是一个本地部署平台,融合生成式AI、语音交互和3D虚拟形象,并提供NVIDIA Audio2Face用于动画。该平台基于一个为德国某州政府机构开展的项目构建,帮助员工通过语音提问获取机构知识,同时将数据保留在组织自身的基础设施内。
对于处理涉密信息的组织,secunet、NVIDIA、Red Hat和deepset更进一步。这四家公司正在开发一款主权云产品,基于secunet经过验证的SINA Cloud基础构建,其中包含已获准用于涉密信息的安全组件。该计划中的产品整合四个组成部分:NVIDIA加速计算与NVIDIA Nemotron开放模型;用于部署和管理AI工作负载的Red Hat OpenShift AI;deepset的Haystack AI智能体编排;以及由secunet在德国数据中心运营的基础设施。
为支持本地开发,主权开源基础模型研究计划(Soofi)正在为德国工业和公共部门开发一系列AI模型。其中包括Nemotron-Personas-Germany,这是一个包含100万条记录的开放数据集,每条记录含六个合成人物画像,以2022年人口普查为基础,覆盖全部16个联邦州和400个区县。该数据集使用NVIDIA NeMo Data Designer创建,不含真实人物的隐私数据,帮助开发者检验公共服务模型在不同地区、年龄群体和社区间是否表现一致。与英国版一样,它可与NeMo User Sim配合使用,使开发者能够基于合成的德国人物画像,针对模拟用户评估和训练模型。
法国:公共部门工作空间中的先进开放模型
法国数字服务公共采购机构CANUT选定LINAGORA和Docaposte,提供基于Twake.ai构建的主权协作工作空间。
超过2,500家符合条件的组织,包括市政机构、学校和医疗机构,无需自行招标即可使用该框架。该工作空间为公共部门员工提供电子邮件、文档共享和协作工具,由NVIDIA技术提供语音转录支持,基础设施托管在法国。奥克西塔尼大区是扩大部署的首选合作伙伴。
希腊:本地智能体生态系统
希腊 AI 与能源公司 KIEFER 正在开发一座基于 NVIDIA DGX SuperPOD 与 DGX GB200 的智能体工厂,并搭配 Sophea 开放权重模型以及面向希腊语的知识检索、语音和数字助手工具。这些能力有望让希腊语公共部门团队更容易查找和使用机构信息,同时让各组织掌控智能体的运行位置以及数据的处理方式。
Codefest:构建下一代应用
为支持欧洲及其他地区的公共部门组织整合智能体 AI,NVIDIA 开放模型 Codefest 汇聚了该地区的初创企业、软件提供商和实验室,将开放模型转化为本地可控的解决方案,以应对医疗推理、AI 辅导和模型治理等公共部门挑战。排名前五的团队是 Pleias、Zehnlab.ai、Disseqt、Algoritmica GmbH 和 ABA Technology。Deutsche Telekom 和 T-Systems 为各团队训练和部署大语言模型提供了计算基础设施。
了解 NVIDIA 如何帮助政府和社区加速安全的高级建模与智能体创建。
请参阅 通知,了解软件产品信息。
来源:NVIDIA 官方博客 · blogs.nvidia.com