OpenAI 于 2026 年 9 月发布针对 GPT-6 的改进版提示缓存系统,旨在支持可持续运行数小时的持久化智能体,使其在处理代码重构、文档撰写等复杂任务时更快、成本更低。新系统默认提供更高的缓存命中率,对 30 分钟内复用的符合条件的共享前缀给予折扣,缓存输入 token 折扣最高可达 90%。配套推出提示缓存仪表盘和诊断工具,帮助开发者监控命中率、定位缓存未命中的原因(如工具变更)并评估影响范围。此外,显式缓存断点让开发者自主选择需缓存的提示前缀,GPT-6 模型还支持在不破坏缓存的前提下调整推理强度。GitHub Copilot 反馈称,其需重新处理的提示 token 占比已较此前基线下降超过 50%。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅