OpenAICN官方 API Token / 缓存 / Plan 计费表
刷新

OpenAI Prompt Caching 命中率计算：如何通过缓存减少 API 账单支出

内容刷新 / GEO：补 English summary 与最新核对清单 — oa-openai-api-cache-hit-ratio-calculator

ガイド一覧 · 本文は主に簡体字中国語です。国際向けの要点は English summary をご利用ください。

封面：OpenAI Prompt Caching 命中率计算：如何通过缓存减少 API 账单支出

OpenAI Prompt Caching 是 OpenAI 官方提供的缓存机制，允许将先前提交的 prompt 编码为哈希并缓存。命中率高的命中会话可省去重复的 token 消耗，从而直接降低 API 账单。此文章针对 OpenAI 官方计费站（openaicn.cn）提供命中率计算方法与核对清单，帮助账单审计人员在月度结算时快速判断缓存节省的金额。

现状与数据更新

OpenAI 自 2023 年底起逐步开放 Prompt Caching，截至 2025 年公开文档，已在 GPT-4o 及部分 Claude Code 系列模型支持缓存命中。命中率取决于 prompt 结构的一致性：相同或高度相似的 prompt 在不同会话中重复提交时，命中率可从不足 10% 提升至 40% 以上。命中率的计算公式为：


Cache Hit Ratio = (命中会话数 × 平均命中 token) / 总请求 token

其中"平均命中 token"指一次缓存命中所消耗的 token 数，通常远低于首次完整提交的 token。若命中率稳定在 30% 以上，按每 1M token 计费换算时，相当于直接减少约 30% 的 $/M 支出。

核对清单

以下清单用于在账单审计时核对 Prompt Caching 的实际命中效果与计费正确性。建议对照 OpenAI 官方定价页（/official-prices）及渠道分布（/channels）进行交叉验证。

  • [ ] 确认所用模型均支持 caching（GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Claude Code 3.5 等）。
  • [ ] 检查会话 prompt 是否保持结构一致（系统提示、few-shot 示例、指令格式不变）。
  • [ ] 使用 OpenAI API 响应头中的 x-cache-hit 或 /api-transit 查询实际命中率统计。
  • [ ] 对比账单与命中率计算结果，排除异常高命中或零命中。
  • [ ] 确认 Plus/Team 会员是否享受缓存折扣（部分旧计费规则中缓存不计入折扣），参考 /official-api 公告。
  • [ ] 记录命中率变化趋势：模型升级或 prompt 变动后命中率可能下降，需及时重新计算 $/M 节省额。

风险与边界

Prompt Caching 的命中率计算仅适用于官方 API 调用，不包括第三方会话包装网或非官方工具的聚合数据。若使用未公开的修改器或本站工具页获取令牌，计费规则可能不一致，导致账单与实际使用不符。命中率高不等于绝对省钱——若缓存命中被误判为重复请求，可能产生不必要的 retry 费用。命中率低时（如 prompt 每次差异大），缓存退化为普通 token，节省幅度可忽略，此时不宜强行套用 $/M 节省估算。请勿将本站克隆内容当作官方计费依据，所有数值以 OpenAI 官方公告与实际账单为准。

站内路径与工具