多厂商 fallback 的真实成本
这是什么？ 多厂商 fallback（多提供商回退）是指 AI API 请求从主链路（如 OpenAI）失败时，自动切换到备链路（如 Anthropic Claude 或 xAI Grok），实现“主链路贵但稳，备链路便宜但可能失败重试”的成本优化方案。谁适用？ 开发者、团队或企业日常调用 OpenAI API（ChatGPT API）时，尤其在使用 Cursor、Claude Code 或 Grok 等工具的场景，需严格对账单、分清 Plus 与 API、计算 $/M tokens 成本时。怎么决策？ 结合成功率 p 和重试机制：期望费用 = 主价 + (1-p)×备价，超时重试若两边都扣费，则“看起来便宜的备线”实际更贵。
建模：真实成本公式与风险
在多厂商 fallback 系统中，请求流程通常为：先走主链路（OpenAI API），若超时、rate limit 或返回错误（常见于高峰期），立即重试备链路（例如 Claude 或 Grok）。核心数学模型基于单个请求的期望费用：
- 成功率 p（主链路正常返回概率）
- 失败率 1-p
- 备链路单价（便宜得多，通常仅主价的 1/3–1/2）
- 重试次数 r（通常固定 1 次，或超时触发）
期望费用 ≈ 主价 + (1-p) × 备价 × r
（如果 r=1，公式简化为主价 + (1-p)×备价）
超时重试陷阱：当主链路超时且备链路也失败，重试会产生二次扣费。主链路已扣费，备链路再扣一次，最终费用接近 2×（主价 + 备价）。这正是“看起来便宜的备线”实际更贵的原因。举例：主链路 GPT-4o $2.5/$10 /M tokens，备链路 Claude Sonnet $3/$15 /M tokens，p=0.85，r=1，则期望费用 ≈ $2.5 + 0.15×$3 = $2.545（远低于纯主链路 $2.5 + 0.15×$10 = $3.5，但若 r=2，实际接近 $2.5 + 0.15×$3×2 = $3.65）。
此模型适用于所有多厂商 fallback：LiteLLM、Portkey、Bifrost 或自定义路由代理。关键在于：高成功率 p（>90%）时节省明显，低 p 或频繁超时则无益甚至亏损。
OpenAI API 官方定价基准（2026 年 8 月最新）
作为 OpenAICN = OpenAI / 官方 API 计费对照站，我们优先参考官方价格表。以下是主流模型示例（$/M tokens，输入/输出，含缓存示例；数据来自 OpenAI 官方定价页及公开对比站点）：
| 模型 | 输入 $/M | 缓存输入 $/M | 输出 $/M | 备注（适合 Cursor/Claude Code） |
|---|---|---|---|---|
| GPT-4o | 2.50 | 1.25 | 10.00 | 通用主力，Plus 用户可并行使用 |
| GPT-5.6 Luna | 0.20 | 0.02 | 1.20 | 低成本 fallback 首选 |
| o3-mini | 1.10 | 0.55 | 4.40 | 推理任务高效，缓存更划算 |
| GPT-5 | 1.25 | 0.125 | 10.00 | 长上下文主力 |
| Grok 4.5 | 2.00 | 0.30 | 6.00 | xAI 原生，支持实时数据 |
| Claude Sonnet 5 | 2.00 | 0.30 | 10.00 | 备链路热门，Cursor 代码生成首选 |
缓存（prompt caching）可将输入费用降至 10%–50%，Batch API 再打 50% 折扣，是降低长期成本的利器。提示：OpenAI Plus 用户的 API 访问权限来自 ChatGPT Plus 订阅，需通过官方密钥单独计费，避免混淆。
多厂商 fallback 真实案例：备链路便宜但失败风险
使用 Claude Sonnet 作为 OpenAI 主链路 fallback 的场景常见于 Cursor IDE 或代码生成任务。假设日均请求 10,000 次，输入 1,000 tokens，输出 500 tokens（$1.5/请求），p=85%，r=1：
- 纯主链路（OpenAI）：10k × $1.5 = $1,500/月
- 多厂商 fallback：10k × [$2.5 + 0.15×$3] = $2,500 + $45 = $2,545（节省 45%）
若 p 降至 70%，期望费用升至约 $2.95/请求，月成本接近 $3,000（甚至高于主链路纯用便宜模型）。超时重试 2 次时，实际成本翻倍，证明“备线便宜”仅在低失败率时有效。
结合官方价格表，Grok 4.5（$2/$6）或 GPT-5.6 Luna（$0.2/$1.2）作为备链路，适合简单任务；Claude Sonnet 5 适合高复杂度代码（Claude Code）。实时验证：访问 GrokCode 实验室 或官方 API 价格页面，输入提示即算 $/M tokens。
实施建议：从对账单到 $/M 优化
1. 数据采集：用 GrokCode 或 billing-path 工具记录每笔请求的 provider、p 和扣费日志。
2. 路由配置：在 LiteLLM 或自定义 gateway 中设置 fallback 权重（主链路 70%，备链路 30%）。
3. 缓存与批量：开启 prompt caching + Batch API，双重降本。
4. 监控：实时跟踪超时率，动态调整 p 值。
内链参考：
风险与边界
多厂商 fallback 并非万能：高失败率或重试策略不当会放大费用；不同提供商模型质量差异可能导致输出不一致；部分任务（如严格工具调用）主链路必胜，盲目 fallback 反而风险更高。此内容仅为通用信息与示例，供参考与讨论，不构成任何投资、财务、法律、技术或专业建议。实际操作请以各厂商官方定价为准，结合自身使用场景测试验证。
延伸阅读
본 사이트 전용 가이드 · OpenAICN 官方价