跳到正文
AWS Machine Learning Blog· Yoonseo Kim·· 3 小时前AI 评分58

AWS 详解生产级 AI 智能体的四层上下文工程:Deep Insight 的代码实现

Four layers of context engineering for production AI agents: How Deep Insight applies them in working code

AI 导读

AWS 以开源多智能体数据分析方案 Deep Insight 为参照,把生产级 AI 智能体的上下文工程拆成架构隔离、提示词控制、文件外置、验证兜底四层,并给出可运行代码。

深度导读
AWS 官方博客以开源多智能体数据分析方案 Deep Insight 为参考实现,系统梳理生产级 AI 智能体的上下文工程方法。文章指出,Claude Sonnet 4.5 在 Amazon Bedrock 上提供 200K 上下文窗口,但一个“分析销售数据并生成 DOCX 报告”的请求要经过数据加载、分类销售分析、生成五张图表、统计校验和报告生成五个阶段,15 分钟内消耗超过 150K token,单上下文处理会中途溢出、上下文陈旧导致性能下降,并因按 token 计费推高成本。 四层方法依次是:第一层用多智能体架构隔离上下文,Deep Insight 设 Coordinator、Planner、Plan Reviewer、Supervisor 和 Coder、Validator、Reporter、Tracker、Auditor 等工具智能体,通过只存 messages、clues、full_plan、history 四项的 shared_state 传递压缩结果,token 消耗最大的 Coder 总量控制在 25K 以内;第二层用提示词限制输出,为 Coder 设 1,000–1,500 token、Validator 800 token、Reporter 1,000 token 的响应预算,并规定脚本自包含、变量不跨脚本保留;第三层把重内容外置到文件系统,write_and_execute 工具把写文件与执行合并,只回传约三行摘要,节省约 95% token,公共函数抽成 coder_analysis_utils.py 模块复用,分析结果写入 all_results.txt 供 Reporter 读取,技能按需加载,启动时只载入约 500 token 的技能目录而非超过 20K token 的完整指南,减少约 97%。 第四层是验证与兜底:Tracker 实时更新计划清单,Validator 独立重算并比对 0.01 容差内的结果,Auditor 只读核查最终 DOCX 的引用,最多要求 Reporter 定向重试两次;验证按计算数量分级,超过 50 项时只校验全部高优先级加 10 项中优先级。Strands Agents SDK 的 SummarizingConversationManager 在溢出时把最旧 50% 消息压缩为一条并保留最近 10 条,提示词缓存按智能体调用频率选择性开启,重复调用时输入 token 成本最多降低 90%。文章强调这些能力多已内置于 Strands Agents SDK,无需自行搭建。

来源:AWS Machine Learning Blog · aws.amazon.com