同時実行数、タイムアウト、課金

HopBase の同時実行数の上限、エンドポイントごとのタイムアウトの考え方とクライアント側の推奨値、リクエストサイズの上限、課金される場合とされない場合。

本ページは導入前に把握しておきたい実行時のルールです。エラーコードと再試行についてはエラーコードと再試行を参照してください。

同時実行数

  • アカウントの既定値は同時 5 リクエストです。キー側にさらに低い上限を設定でき、その場合は小さい方が適用されます。
  • チャット、画像生成、動画の送信、/v1/messages/count_tokens はいずれも同時実行数を消費します。AI コーディングアシスタントのサブタスク、バッチ処理、複数のクライアント起動で上限に達しやすくなります。
  • 超過すると 429 が返り、本文は User concurrency limit reached (N) または API key concurrency limit reached (N) で、Retry-After が付きます。
  • 上限の引き上げはお問い合わせください。

上限に達したリクエストは待機ではなく拒否されます

上限を超えたリクエストはサーバー側で待機せず、即座に 429 を返します。クライアント側で流量を制御するか、Retry-After に従って再試行してください。

タイムアウト

ケースサーバー側の挙動クライアントの読み取りタイムアウト推奨値
Gemini 公式直結プランのチャット1 回の生成が約 100 秒で終わらない場合はタイムアウトと判定し別アカウントで再試行するため、全体の待ち時間はさらに長くなることがあります240 秒以上
その他プラットフォームの非ストリーミングチャット固定の上限はありません。長いコンテキストでは最初のトークンまで 1 分以上かかることがあります300 秒以上
同期での画像生成大きな画像では 30〜100 秒が一般的です300 秒以上
非同期の画像生成、動画送信は即時応答し、結果はポーリングで取得します送信リクエストは 60 秒で十分です

長い出力はストリーミング、長時間の処理は非同期 API を優先すると、タイムアウトの問題はほぼ回避できます。

リクエストサイズ

1 リクエストのボディ上限は 60 MB で、超えると 413 が返ります。base64 の画像や動画は上限に達しやすいため、圧縮するか、モデルが対応していれば URL を渡してください。

課金

状況課金
リクエスト成功あり(モデルの課金単位: トークン / 枚 / 秒)
リクエスト失敗(4xx、5xx)なし
ストリームが途中で中断、またはクライアントが先に切断あり(生成済みの分のみ)
非同期タスクの失敗なし

その他の要点:

  • 残高がなくなると新規リクエストは拒否されます: 利用可能残高が 0 以下になると新規リクエストは 402 を返します。処理中のリクエストには影響しません。
  • 動画の送信では残高を引き当てます: 見積もり額を先に確保するため、残高がプラスでも「処理中の引当 + 今回の見積もり」が上回ると 402 になります。引当はタスク終了時に解放されます。
  • キーのクォータ: キーに個別のクォータを設定している場合、使い切ると budget_exceeded を含む 402 が返ります。

残高と利用状況の確認

curl https://api.hop-base.com/v1/usage \
  -H "Authorization: Bearer sk-あなたのキー"

レスポンスには balance(利用可能残高)、unit(通貨、USD)、および quota(そのキーのクォータと使用量)が含まれます。明細はコンソールの「使用記録」で確認できます。

画像と動画の結果リンクの有効期限はモデルごとに異なります。画像生成 API動画生成を参照してください。

このページの内容