AWS Machine Learning Blog· Prabhakar Chandrasekaran·· 3 小时前AI 评分38
用 AWS CDK 在托管 Amazon Bedrock Knowledge Base 上构建智能体检索
Build agentic retrieval on a Managed Amazon Bedrock Knowledge Base with CDK
AI 导读
文章介绍如何用 AWS CDK 在托管 Amazon Bedrock Knowledge Base 上部署企业级智能体检索系统,通过 AgenticRetrieveStream API 实现多轮规划与工具驱动检索。
深度导读
文章以一次提问的完整路径为主线,演示如何用单个 Python CDK 应用部署跨两个知识库的智能体检索系统。用户问题先进入托管在 Amazon Bedrock AgentCore Runtime 上的智能体,由推理模型判断是否需要检索以及选择哪个知识库;每个知识库通过 AgentCore Gateway 以 MCP 工具形式暴露,经 IAM 任务角色授权和 SigV4 签名后调用该知识库的 AgenticRetrieveStream API,由后者拆解子查询、迭代检索并返回带引用的答案,智能体再判断上下文是否充分,不足则继续循环。
方案对比了托管与自建知识库的差异:托管类型(Type: MANAGED)由 Amazon Bedrock 负责摄取、存储、索引与检索,默认使用服务托管模型完成嵌入与重排序,无需预置 OpenSearch Serverless 集合或 OCU 容量;而智能体检索与 AgentCore Gateway 集成仅在托管知识库上支持。自建方案仍适用于需要复用现有向量库或满足数据驻留、调优与合规要求的场景。
可观测性与评估被纳入部署本身:同一 CDK 应用预置两块 CloudWatch 仪表盘,覆盖七层遥测,并提供按需与持续两种评估,输出忠实度与正确性分数,带引用的答案可回溯到源段落以便审计。文章还解释了选择 CDK 的原因——四个堆栈之间存在七个跨栈引用值,包括两个知识库 ID、Gateway 的 URL 与 ARN、智能体运行时 ID 等,CDK 通过构造引用自动派生导出与依赖顺序,避免手工维护模板导出和部署脚本。
部署时每个 Amazon S3 语料一次性摄取进各自的托管知识库,这一步不属于每次提问的路径;此后每次提问都经过路由、网关调用、检索与充分性判断的循环,运行时通过 OpenTelemetry span 将 token 计数与指标发送到 CloudWatch 和 AWS X-Ray。文章提到 2024 年 8 月的旧方案采用单次检索设计,需手工排序三个堆栈并自行管理 OpenSearch Serverless 集合,而新方案取消了向量存储的运维负担,约一半资源用于观测智能体行为。
来源:AWS Machine Learning Blog · aws.amazon.com