OpenAICN官方 API Token / 缓存 / Plan 计费表
刷新

Prompt Caching FAQ：命中率、计价、何时关闭

内容刷新 / GEO：补 English summary 与最新核对清单 — oa-seo-faq-cache

가이드 목록 · 본문은 주로 중국어 간체입니다. 영문 요약(English summary)을 참고하세요.

封面：Prompt Caching FAQ：命中率、计价、何时关闭

Prompt Caching FAQ：命中率、计价、何时关闭

OpenAI API 的 Prompt Caching 功能允许你对重复出现的提示词前缀（prompt prefix）进行缓存复用，从而大幅降低延迟并节省输入 token 成本。对于希望优化 ChatGPT API 计费、准确对账单的开发者来说，了解命中率、计价规则和关闭时机至关重要。它特别适合那些有稳定系统提示词或常见指令的应用程序，能让原本可能需要处理多次的相同前缀只需写一次。

谁适用？

如果你正在构建对话代理、RAG 系统或多轮对话工具，使用 OpenAI GPT-5.6 及以上模型，开启 Prompt Caching 通常能带来显著节省。如何决策？

首先查看你的提示词前缀是否稳定（例如固定系统指令或用户角色描述）；其次计算预计命中率（通过 API 返回的 cached_tokens 字段）；最后在计费账单中与未开启缓存的版本对比。

现状与数据更新

OpenAI 在 Responses API 和 Agents API 上默认启用 Prompt Caching，无需手动设置（除非使用显式模式）。2026 年最新支持的旗舰模型包括 gpt-6.1-sol、gpt-6.1-terra 等，缓存读取价格已降至原输入率的 5%–10%，写入（cache write）价格视缓存时长而定。

官方定价页面显示：对于 gpt-6.1-sol，标准输入 $2.00 /1M tokens，缓存输入 $0.10 /1M tokens（5%），30 分钟写入 $2.50 /1M tokens，12 小时写入 $5.00 /1M tokens。较低端模型如 gpt-6-luna 可达 99% 折扣。缓存存储在服务器端，仅限精确匹配的前缀，过期或不稳定前缀会导致未命中。

核对清单

项目 指标 如何检查 目标值建议
命中率 cached_tokens / 输入总 tokens API 响应 usage 字段查看 稳定对话 >80%
有效前缀长度 最小缓存 token 数 提示词前缀测试 GPT-5.6 及以上：1024 tokens
缓存时长 30 分钟 / 12 小时 Responses API 配置 重复上下文选 12 小时
写入成本 cache_write_tokens 账单拆分字段 只写入稳定部分
总计价节省 对比未缓存成本 使用官方计算器模拟 开启后节省 50%+

何时关闭

Prompt Caching 并非万能，需根据场景判断是否关闭或调整。关闭时机包括：

  • 提示词频繁变化：系统指令或工具定义更新频繁，缓存命中率极低，写入成本反而增加。
  • 短对话或一次性查询：每次请求 token 量少，写入开销超过节省。
  • 精确匹配失败：前缀有微小差异（如换行、参数顺序），导致 miss，浪费写入资源。
  • 模型不支持或老版本：早期模型仅支持隐式缓存，需手动验证。
  • 账单敏感：在高频低重复场景下，关闭可避免不必要的写入扣费。

建议通过官方 Prompt Caching Dashboard 监控实时命中率，并在账单对账时关闭临时测试。

风险边界

开启 Prompt Caching 可能带来的风险主要与计费和稳定性相关：

  • 低命中率会导致写入成本抵消节省，甚至高于未缓存。
  • 缓存条目过期或不匹配时，账单会出现意外跳跃，难对齐。
  • 升级模型后，旧缓存可能失效，需重新验证。
  • 过长提示词可能因内存限制影响性能。

重要免责声明：以上信息仅供参考，具体以 OpenAI 官方定价页面和 API 响应为准。本文非法律意见，实际账单以开发者平台实时数据为准。如遇对账不符，请优先升级账户并联系 OpenAI 支持。

站内路径