AWS Bedrock 发布 OpenAI 模型提示词缓存实践指南

AWS 发布针对 Amazon Bedrock 上 OpenAI 模型（如 GPT-6 Astra）的提示词缓存（Prompt Caching）工程实践指南，旨在解决 AI Agent 在多轮交互中因缺乏内部记忆而需反复传输相同指令和工具定义导致的 Token 浪费问题。文章通过代码示例展示了如何利用 `prompt_cache_key` 和 `prompt_cache_breakpoint` 参数，在保持系统指令稳定的同时，仅对变化的会话历史进行增量处理。 实测数据显示，采用显式滚动断点（Explicit rolling breakpoints）或混合模式可将单次会话的输入成本从 $0.87 降至 $0.32，降幅达 64%。该机制要求静态前缀至少包含 1,024 tokens 且 TTL 为 30 分钟，并在工具列表变更时利用 `additional_tools` 接口追加新能力而非替换旧定义，从而在不破坏缓存匹配的前提下扩展 Agent 功能。 对于复杂架构，文章建议先启动一个“预热”请求以固化共享上下文，随后再分发给子 Agent 并行执行，确保各分支复用同一基础前缀。事实层面，缓存读取价格取决于具体模型，写入价格为正常输入的 1.25 倍；推断层面，这种模式显著降低了长周期 Agent 任务的边际成本，但要求开发者严格管理 Prompt 序列化的一致性以避免缓存失效。