并发、超时与计费

HopBase 的并发上限、各接口的超时口径与客户端超时建议、请求体大小限制,以及什么时候计费、什么时候不计费。

本页是接入前需要知道的运行口径。错误码与重试规则见错误码与重试

并发

  • 帐户默认同时在途 5 个请求;单把密钥可以另外设更低的上限,两者取更小的那个。
  • 对话、生图、视频提交、/v1/messages/count_tokens 都占并发。AI 编程助手的子任务、批处理脚本、多开客户端很容易一起打满。
  • 超限返回 429,文案为 User concurrency limit reached (N)API key concurrency limit reached (N),并带 Retry-After
  • 需要更高上限请联系我们调整。

并发满了不是排队,是直接拒绝

超出上限的请求会立即返回 429,不会在服务端排队。请在客户端自己限流,或按 Retry-After 重试。

超时

场景服务端口径客户端读超时建议
Gemini 官方直连的对话单次生成约 100 秒未完成即判超时并自动换号重试,总等待可能更长不低于 240 秒
其他平台的非流式对话不设固定上限,长上下文首字可能等待 1 分钟以上不低于 300 秒
同步生图大图常见 30~100 秒不低于 300 秒
异步生图、视频提交即返回,结果靠轮询提交请求 60 秒即可

长输出优先用流式,长任务优先用异步接口,可以避开绝大多数超时问题。

请求体大小

单个请求体上限 60 MB,超过返回 413。base64 图片和视频很容易超,建议压缩后再传,或在模型支持时改用 URL。

计费

情况是否计费
请求成功按模型计价单位计费(token / 张 / 秒)
请求失败(4xx、5xx)不计费
流式输出到一半中断,或客户端提前断开按已经产出的部分计费
异步任务失败不计费

其他要点:

  • 余额用完会被拦截:帐户可用余额小于等于 0 时,新请求直接返回 402,不影响已在途的请求。
  • 视频提交会预留余额:按预估费用预留,余额是正的也可能因为「在途预留 + 本条预估」超出而返回 402,任务结束后预留自动释放。
  • 密钥额度:给密钥单独设了额度时,额度不足会返回 402,报错里带 budget_exceeded

查余额与用量

curl https://api.hop-base.com/v1/usage \
  -H "Authorization: Bearer sk-你的密钥"

返回 balance(可用余额)、unit(币种,USD)以及 quota 里这把密钥的额度与已用量。明细请在控制台「使用记录」查看。

图片和视频结果链接的有效期各不相同,见图片生成 API视频生成

本页目录