用数据血缘保障智能体企业安全

文章以一个销售场景开场：销售代表让 AI 智能体查询客户定价，智能体从受限定价系统、内部沟通记录和归档报价中提取数据，输出在它看来准确无误，随后第二个智能体据此起草方案，两次交接都没有人工核查。当方案被发现包含未获批的机密敏感信息时，已无人能追溯问题数据从何处进入工作流、又如何跨系统、文件和智能体扩散。 这一场景被用来说明 AI 治理为何需要快速、动态地演进。随着越来越多企业在日常工作流中使用智能体 AI，它们意识到需要管理的不再是静态文件，而是持续被摄取、复制、摘要、转换、复用并以新形式再分发的流动且碎片化的数据。 文章由此给出核心判断：AI 安全不是工具问题，而是数据可见性问题。仅围绕应用、系统、网络或端点构建的传统安全方法已不再充分，大规模保障智能体 AI 安全需要理解数据如何流动。 因此，团队需要建立数据血缘，以便在人类、智能体及混合工作流中有效管理治理、问责与信任。文末注明该内容由 MIT Technology Review 旗下定制内容团队 Insights 制作，非其编辑团队出品。