跳到正文
TechCrunch · AI· Russell Brandom·· 3 小时前AI 评分42

Box 采用 Nvidia Nemotron 打造智能体优先的内容检索系统

Box taps Nvidia’s Nemotron for new agent-first content retrieval system

AI 导读

Box 在开发者大会上展示了 Box Content Retrieval,将 Nvidia 的 Nemotron 嵌入系统集成进产品核心,让智能体基于嵌入元数据检索文档。Nvidia 生成式 AI 软件副总裁 Kari Briski 称查询速度提升 4 倍、错误减少 20%、token 用量减少 90%。该功能面向 Box Enterprise Advance 客户,明年初开始推送。

深度导读
Box 在周四的开发者大会上展示了一项新功能 Box Content Retrieval,把 Nvidia 的 Nemotron 嵌入系统做进产品核心。该功能让智能体依靠 Nemotron 生成的嵌入元数据来回答查询,Box 称用户可获得更快、更准确且成本更低的检索结果。 Nvidia 生成式 AI 软件副总裁 Kari Briski 对 TechCrunch 表示,她预计查询回答速度提升 4 倍、错误减少 20%、token 用量减少 90%。该功能将向所有 Box Enterprise Advance 客户开放,明年初开始推送。 Box CEO Aaron Levie 表示,这大幅提升了搜索技术对智能体的相关性:智能体不必逐份通读文档,系统可以直接返回与用户查询或任务最相关的文档片段。该功能是 Nvidia Nemotron Embed 项目的落地实现,该项目提供开放权重的嵌入模型以改进自动化检索系统。 这类用 LLM 预处理数据、以便智能体更好使用的模型,此前常被主要实验室忽视,却是 Nvidia 开源模型项目的重点之一,其 7 月发布的 Nemotron 版本曾在衡量检索质量的 RTEB 基准上登顶。Box 称该系统与活跃智能体配合时最有用,例如律师可更轻松地找到相关条款和判例;由于 Nemotron 的嵌入不止于关键词而是映射底层概念,即使措辞或语言不同,搜索工具也能找出相关法律主题。 Nemotron 模型可免费获取,但该系统还高度依赖 Box 既有的元数据和权限控制,因此从零复现并不容易。Levie 称,这相当于把五种不同技术打包进一个简单 API。

来源:TechCrunch · AI · techcrunch.com