MongoDB Blog·· 3 小时前AI 评分42
MongoDB 发布 Vercel AI SDK 集成:为 AI 应用提供持久记忆
Introducing the MongoDB Vercel AI SDK Integration: Persistent Memory for AI Applications
AI 导读
MongoDB 发布 Vercel AI SDK 集成,为用该 SDK 构建的 AI 应用和智能体在 MongoDB Atlas 中提供持久记忆存储,已开源并以 Apache 2.0 许可在 npm 上正式可用。
深度导读
MongoDB 宣布推出 Vercel AI SDK 集成,为使用 Vercel AI SDK 构建的 AI 应用与智能体在 MongoDB Atlas 中提供持久记忆存储。该包已开源,采用 Apache 2.0 许可,并在 npm 上正式可用。安装后,包会把 Vercel AI SDK 应用连接到 MongoDB Atlas,并自动将应用记忆以文档形式存储,使对话、用户事实和过往事件能够跨会话、跨用户和重启保留。
Vercel AI SDK 是一个用于构建 AI 应用的 TypeScript 工具包,负责调用模型、流式响应、使用工具和运行多步任务的智能体,但本身不含用于持久化记忆的数据库。此前开发者需要自行设计数据库 schema、编写清理旧数据的任务,并搭建向量搜索以按语义而非关键词检索相关历史信息。
该集成将记忆自动归为五类:会话记忆记录每次会话的对话内容;语义记忆保存关于人物、实体和偏好的事实;程序记忆保存工作流与指令;情景记忆保存关键事件与结果,默认在一年无活动后过期;草稿本记忆用于进行中的临时笔记,一小时后过期,若被证明重要可提升为情景记忆。语义、程序和情景三类记忆使用 MongoDB Vector Search,集成会在启动时自动创建向量索引并检测嵌入维度,开发者可使用 Voyage AI、OpenAI、Cohere 或 Google 等任意 AI SDK 嵌入模型。
每类记忆有各自的保留策略,集成自带默认值并允许自定义。保留模式包括 none(永不过期)、ttl(设定时间后过期)、ttl+importance(设定时间后过期,除非标记为重要)以及由开发者自定义遗忘周期的 dynamic。通过 memory_forget,模型可在用户说“忘掉那个”时删除特定记忆,通常在约 60 秒内完成。由于记忆存储在 MongoDB Atlas 中,应用运营数据、记忆及其向量检索运行在同一平台上,开发者无需额外接入独立的向量存储或记忆服务。
生产版本还提供更多控制能力:默认由模型决定何时保存和读取对话轮次,生产环境可用 AI SDK hooks 让应用自身代码在每一轮加载和保存记录,确保每条用户、助手和工具消息只保存一次;开发者可添加 tenant_id 等过滤字段,将向量索引搜索限制在单个客户的记忆范围内;还可重命名集合与索引以匹配现有应用 schema,或对未使用的类别关闭索引。开发者可通过三步为现有 Vercel AI SDK 项目添加记忆,该集成兼容 AI SDK v6 和 v7,并要求 MongoDB Atlas 集群。
来源:MongoDB Blog · mongodb.com