AWS 讲解 Bedrock 上 OpenAI 模型提示缓存

AWS 发文讲解如何在 Amazon Bedrock 上为 OpenAI 模型配置提示词缓存，让智能体不必每轮重复发送工具定义、指令和历史。缓存分隐式与显式两种，可组合使用。 按文中条件，可复用前缀须达到 1,024 tokens；缓存前缀最短存活 30 分钟，成功复用会刷新，也可能更久；复用缓存内容要求同一模型、同一 AWS 账户和区域，且存在匹配前缀；缓存写入按正常输入费率的 1.25 倍计费。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。