HopBase用 AI API 的成本优化,大多数人第一反应是「换个便宜模型」。但在我们看到的真实账单里,更大的空间往往在「同一个模型,走哪条通道」。这篇讲清分组路由的工作方式,以及怎么按自己的使用画像配出省钱组合。
分组是什么
网关把上游资源按「服务质量 × 价格」组织成分组,同一个模型在不同分组里的倍率不同:
| 分组 | 定位 | 适合谁 |
|---|---|---|
| 稳定组 | 多上游冗余,自动切换,倍率标准 | 生产集成、日常主力开发 |
| 高速组 | 首字延迟优先,倍率略高 | 对交互手感敏感的重度会话 |
| 经济组 | 倍率最低,高峰期可能排队 | 批量任务、离线处理、测试 |
Key 绑定分组,切换分组不用改代码——换个 Key 或者在控制台给 Key 换组即可。
自动切换意味着什么
稳定组背后是多个上游渠道。某个渠道抖动或被限流时,网关在请求级别自动切到健康渠道,你的调用方只会看到「这次稍微慢了一点」,而不是 5xx。你不需要自己写重试、熔断和多供应商适配——这正是接网关比逐家对接省心的地方。
三种典型画像的配置建议
- 独立开发者:主力 Key 挂稳定组写代码;再开一个经济组 Key 跑测试和批量脚本。两个 Key 分开看账单,成本结构一目了然。
- 小团队:按用途发 Key(前端联调 / CI / 生产),生产走稳定组,CI 走经济组。CI 里大量重复请求吃缓存折扣,费用常常低到可以忽略。
- 内容/数据批处理:全量走经济组,把任务排到低峰期跑;对时效有要求的最后一道校验单独走稳定组。
省钱的顺序
先吃缓存折扣(写法优化,零成本),再选对分组(架构优化,一次配置),最后才是换模型(质量权衡,慎动)。按这个顺序做,大多数账单能在不牺牲质量的前提下明显下降——你的用量页会给出最诚实的反馈。