HopBaseLLM のオンプレミス導入か API 利用かは「どちらが安いか」ではなく、3 つの条件で決まります。データを社外に出せないか、利用量が多く安定しているか、自社でファインチューニングが必要か。どれにも当てはまらなければ、従量課金の API がほぼ確実に手間もコストも少なく済みます。1 つ目だけが当てはまるなら、機密データはローカルのオープンモデル、それ以外は API というハイブリッド構成が一般的です。本記事では中立的な判断フレームワークと、自社の数字を入れて使うコスト式を示します。ハードウェア価格は仮定しません。なお、HopBase が提供するのは API のみで、オンプレミス導入は提供していません。
コスト構造の比較
| コスト項目 | オンプレミス / プライベート導入 | 従量課金の API |
|---|---|---|
| 初期投資 | GPU サーバー、ネットワーク、ストレージ、または長期の計算資源契約 | なし。前払い残高ですぐ開始 |
| 固定費 | 減価償却、電力・設置場所、運用・ML 人員。使わなくても発生 | なし |
| 変動費 | 小さい(主に電力) | トークン単位の課金で、使った分だけ |
| 稼働率リスク | 自社負担。遊休時間が単価を押し上げる | 提供側が負担 |
| モデル更新 | 世代ごとにダウンロード・検証・調整、GPU の入れ替えも | model フィールドを 1 か所変えるだけ |
| 使えるモデル | オープンウェイトのモデルのみ | オープンモデルに加え、Claude・GPT・Gemini などのクローズドモデル |
コスト式:自社の数字を入れる
- 自前運用の月額コスト C = ハードウェア総額 ÷ 償却月数 + 月間の電力・設置費 + 月間の運用・ML 人件費 + モデル更新・移行作業の月割り。
- 自前運用の月間実出力 T = ピークスループット(トークン/秒)× 月間秒数 × 稼働率。稼働率が最大の変数です。日中に集中して夜間は空く業務では、想定を大きく下回ることが多くあります。
- 自前運用の単価 = C ÷ (T ÷ 1,000,000)、つまり 100 万トークンあたりのコスト。
- API の月額コスト = Σ(入力トークン × 入力単価 + 出力トークン × 出力単価 + キャッシュヒット × キャッシュ単価)。単価は各社の公式定価 × グループ割引で、料金ページに掲載しています。
- 損益分岐:C が同じ利用量の API 月額以下で、かつその利用量がハードウェアの償却期間が終わるまで続く場合に限り、自前運用が帳簿上有利になります。
見落とされがちな項目が 2 つあります。1 つは品質差。ローカルで動かせるオープンモデルが必要な品質に届かなければ、手戻りや人手による確認のコストを加えます。もう 1 つは世代交代のコスト。モデルは数か月で入れ替わり、ハードウェアは 3〜5 年で償却するため、その間の移行のたびに人手がかかります。各社の定価はAI モデル API の公式定価比較を参照してください。
オンプレミス導入が妥当なケース
- データを社外に出せない:法規制、契約、社内規程で自社設備から出せない場合。最も強い理由で、コストは二の次になります。
- 大量かつ安定した利用:24 時間、予測可能な大量推論で、長期にわたり高い稼働率を保てる。
- 本格的なファインチューニング:自社データで重みを学習・調整し、そのモデルを長く保守する必要がある。
- 運用体制がある:推論サービス、監視、スケーリング、セキュリティパッチ、モデル更新の担当者がいる。
API のほうが向いているケース
- 負荷の変動が大きい:PoC、季節性のある業務、日中の集中利用。従量課金なら遊休分を払いません。
- 最先端のクローズドモデルを使いたい:Claude・GPT・Gemini は重みが公開されておらず、自前運用はできません。使う手段は API だけです。
- モデルの入れ替えが速い:新モデルが出たらモデル ID を変えて比較するだけ。調達や展開を待つ必要はありません。
- 複数モデルの併用:1 本のキーに複数グループを付け、DeepSeek・Qwen・GLM・Kimi・Claude・GPT などを呼び出し、残高も利用明細も 1 つにまとめられます。
ハイブリッド構成:データ区分で振り分ける
- まずデータを区分:業務データを「社外に出せない」と「出してよい」に分け、規程に明記します。
- 機密データはローカルで:社内ネットワークにオープンウェイトのモデルを 1 つ置き、その区分だけを処理します。規模は全量ではなくその分の利用量に合わせます。
- それ以外は API へ:一般的な QA、コーディング、翻訳、マルチモーダル処理などは API で、必要に応じて最先端モデルを選びます。
- 呼び出し方を統一:アプリはどちらも OpenAI 互換形式・同じ SDK で呼び、データ区分に応じて Base URL を切り替えます。
- API 側はキーで費用管理:1 アプリ 1 キーで上限を設定。上限に達するとリクエストは処理前に拒否され(HTTP 402)、利用状況はキー・メンバー・部署ごとに CSV で出力できます。
API 側のデータの扱い
API を選ぶなら、データの扱いは書面で確認してください。HopBase の方針は次のとおりです。プロンプトと出力はリクエストの処理にのみ使い、業務データとして保持せず、学習にも使いません。請求用のメタデータ(モデル、トークン数、レイテンシ、ステータス)は請求書と監査のために保持します。通信はすべて TLS です。キーはサーバー側で一方向ハッシュとしてのみ保存し、IP リストや有効期限を設定でき、いつでも失効できます。詳しい評価項目は企業向け AI API セキュリティチェックリストをご覧ください。
よくある質問
企業は LLM を自社で構築・運用すべきですか?
3 つを確認します。データを社外に出せないか、利用量が多く安定しているか、ファインチューニングが必要か。どれも違えば API、データ要件だけならハイブリッド、3 つすべてに当てはまり運用体制もあるなら自前運用を検討します。
オンプレミス LLM のコストはどう計算しますか?
償却費・電力と設置費・人件費・更新作業を足して月額コストを出し、「ピークスループット × 時間 × 稼働率」で割って 100 万トークンあたりの単価を求め、同じ利用量の API 請求額と比べます。稼働率は低めに見積もるのが安全です。
HopBase はオンプレミス導入に対応していますか?
対応していません。HopBase は API のみを提供しており、ハイブリッド構成のうち「出してよい」側に向いています。企業向けの利用量や精算については sales@hop-base.com までお問い合わせください。