並行、逾時與計費
HopBase 的並行上限、各介面的逾時口徑與用戶端逾時建議、請求大小限制,以及什麼時候計費、什麼時候不計費。
本頁是接入前需要知道的運行口徑。錯誤碼與重試規則見錯誤碼與重試。
並行
- 帳戶預設同時在途 5 個請求;單把金鑰可以另外設更低的上限,兩者取更小的那個。
- 對話、生圖、影片提交、
/v1/messages/count_tokens都佔並行。AI 編程助手的子任務、批次腳本、多開用戶端很容易一起佔滿。 - 超限回傳 429,文案為
User concurrency limit reached (N)或API key concurrency limit reached (N),並帶Retry-After。 - 需要更高上限請聯絡我們調整。
並行滿了不是排隊,是直接拒絕
超出上限的請求會立即回傳 429,不會在伺服器端排隊。請在用戶端自行限流,或依 Retry-After 重試。
逾時
| 情境 | 伺服器端口徑 | 用戶端讀取逾時建議 |
|---|---|---|
| Gemini 官方直連的對話 | 單次生成約 100 秒未完成即判逾時並自動換帳號重試,總等待可能更長 | 不低於 240 秒 |
| 其他平台的非串流對話 | 不設固定上限,長上下文首字可能等待 1 分鐘以上 | 不低於 300 秒 |
| 同步生圖 | 大圖常見 30~100 秒 | 不低於 300 秒 |
| 非同步生圖、影片 | 提交即回傳,結果靠輪詢 | 提交請求 60 秒即可 |
長輸出優先用串流,長任務優先用非同步介面,可以避開絕大多數逾時問題。
請求大小
單個請求內容上限 60 MB,超過回傳 413。base64 圖片和影片很容易超過,建議壓縮後再傳,或在模型支援時改用 URL。
計費
| 情況 | 是否計費 |
|---|---|
| 請求成功 | 依模型計價單位計費(token / 張 / 秒) |
| 請求失敗(4xx、5xx) | 不計費 |
| 串流輸出到一半中斷,或用戶端提前斷線 | 依已經產出的部分計費 |
| 非同步任務失敗 | 不計費 |
其他要點:
- 餘額用完會被攔截:帳戶可用餘額小於等於 0 時,新請求直接回傳 402,不影響已在途的請求。
- 影片提交會預留餘額:依預估費用預留,餘額是正的也可能因為「在途預留 + 本條預估」超出而回傳 402,任務結束後預留自動釋放。
- 金鑰額度:給金鑰單獨設了額度時,額度不足會回傳 402,錯誤裡帶
budget_exceeded。
查餘額與用量
curl https://api.hop-base.com/v1/usage \
-H "Authorization: Bearer sk-你的金鑰"回傳 balance(可用餘額)、unit(幣別,USD)以及 quota 裡這把金鑰的額度與已用量。明細請在主控台「使用記錄」查看。