用 AI API 的成本優化,大多數人第一反應是「換個便宜模型」。但在我們看到的真實賬單裡,更大的空間往往在「同一個模型,走哪條通道」。這篇講清分組路由的工作方式,以及怎麼按自己的使用畫像配出省錢組合。
分組是什麼
網關把上游資源按「服務質量 × 價格」組織成分組,同一個模型在不同分組裡的倍率不同:
| 分組 | 定位 | 適合誰 |
|---|---|---|
| 穩定組 | 多上游冗餘,自動切換,倍率標準 | 生產整合、日常主力開發 |
| 高速組 | 首字延遲優先,倍率略高 | 對互動手感敏感的重度會話 |
| 經濟組 | 倍率最低,高峰期可能排隊 | 批量任務、離線處理、測試 |
Key 綁定分組,切換分組不用改代碼——換個 Key 或者在控制台給 Key 換組即可。
自動切換意味著什麼
穩定組背後是多個上游渠道。某個渠道抖動或被限流時,網關在請求級別自動切到健康渠道,你的調用方只會看到「這次稍微慢了一點」,而不是 5xx。你不需要自己寫重試、熔斷和多供應商適配——這正是接網關比逐家對接省心的地方。
三種典型畫像的配置建議
- 獨立開發者:主力 Key 掛穩定組寫代碼;再開一個經濟組 Key 跑測試和批量腳本。兩個 Key 分開看賬單,成本結構一目瞭然。
- 小團隊:按用途發 Key(前端聯調 / CI / 生產),生產走穩定組,CI 走經濟組。CI 裡大量重複請求吃緩存折扣,費用常常低到可以忽略。
- 內容/數據批處理:全量走經濟組,把任務排到低峰期跑;對時效有要求的最後一道校驗單獨走穩定組。
省錢的順序
先吃緩存折扣(寫法優化,零成本),再選對分組(架構優化,一次配置),最後才是換模型(質量權衡,慎動)。按這個順序做,大多數賬單能在不犧牲質量的前提下明顯下降——你的用量頁會給出最誠實的回饋。