OpenAI 改进 GPT-6 提示词缓存，命中率升至 91%

OpenAI 于 9 月 22 日发布《Better prompt caching for GPT-6》，称在相同评测负载下调整缓存断点后，缓存命中率从 83% 提升到 91%，推理费用下降 36%。 按技术解读文章的说法，GPT-6 仍要求缓存前缀至少达到 1,024 个可见输入 Token；默认的 30m 表示从最近一次写入或复用起至少保留 30 分钟，服务端也可能保留更久。计费仍以实际用量为准，一次诊断命中不代表整次请求都按缓存读取价收费。 文章还称，PowerContext 的后台模型连接不会自动使用 Codex 或 Claude 的订阅登录额度，需按所启用的能力配置相应服务；开源软件可自行部署，但机器算力、存储和维护时间仍有成本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。