跳到正文
Berkeley AI Research·· 2026-07-07AI 评分40

智能免费之后怎么办?面向智能体、由智能体构建的数据系统

Intelligence is Free, Now What? Data Systems for, of, and by Agents

AI 导读

UC Berkeley 的 Aditya G. Parameswaran 等人提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不到 $1,部分低于 $0.10,年降幅中位数约 50x。作者据此提出三类数据系统挑战:为智能体设计的数据系统、支撑智能体集群运行的数据系统,以及由智能体自行合成并需可验证的数据系统。

深度导读
文章以林肯葛底斯堡演说中的“of the people, by the people, for the people”为引,讨论近乎免费的智能对数据系统意味着什么。作者给出成本曲线:2023 年初 GPT-4 级能力约 $30/百万 token,如今同类运行低于 $1,部分供应商已压到 $0.10 以下;跨 benchmark 的推理价格年降幅在 9x 到 900x 之间,中位数接近 50x。开源模型紧随前沿模型之后降价。 第一类挑战是“为智能体”的数据系统。智能体查询数据库的方式不同于人或 BI 工具,作者称之为 agentic speculation:高频、异构的工作流,涵盖 schema 探查、列式探索、部分乃至完整的查询构造。多个智能体各自探索假设空间时,单次用户请求可能产生上千条 SQL 查询。在多个智能体尝试同一任务的 text-to-SQL benchmark 上,只有 10-20% 的子计划互不相同,即 80-90% 的子查询在做重复工作;但实验也显示尝试次数越多任务成功率越高,冗余本身有帮助。作者建议复用重叠子计划的结果、借鉴多查询优化与共享扫描,或返回“足够好”的近似答案,并让数据系统主动向智能体提供延迟估计等反馈。 第二类挑战是“属于智能体”的数据系统,即为数千个智能体提供管理长任务状态、协调达成共识、处理失败的底层设施。作者认为当前以 markdown 文件加 grep 或嵌入检索为主的记忆方式在规模上会失效,提出 structured memory:按多个属性组织记忆,每个属性可设为 * 表示通用,或设为待匹配的值列表,例如只对某类操作或某张表生效的纠正性指令。并发编辑方面,作者提到多版本与 copy-on-write、exactly-once 语义、CRDT 和 operational transformation,并提醒要避免智能体互相补偿导致无法推进的 livelock。 第三类挑战是“由智能体”构建的数据系统:智能体已能一次性合成整套数据系统,从而为每个新负载重建定制系统,难点在于验证其行为符合预期。文章最后讨论三类挑战交织下数据系统与智能体的共同未来。

来源:Berkeley AI Research · bair.berkeley.edu