API の単価は LLM 料金ページの料金表によるもので、確認日は 2026-09-22 です。
API 側
セルフホスト側
always-on(24 時間 365 日稼働)で計算します。730 時間 / 月を GPU の台数ぶん課金します。scale-to-zero はまだ扱っていません。
結果を見るには GPU の 1 時間あたりの単価を入れてください。単価は入れておきません。実際に受け取った見積もりだけが、正直な入力になります。
GPU の単価とスループットを入れると、自前運用がいつ API より得になり、いつまでたっても得にならないのはどんな場合かが分かります。
すべてこのブラウザの中で動きます。入力した GPU 単価とスループットはどこにも送られず、モデルの API も呼びません。
API の単価は LLM 料金ページの料金表によるもので、確認日は 2026-09-22 です。
always-on(24 時間 365 日稼働)で計算します。730 時間 / 月を GPU の台数ぶん課金します。scale-to-zero はまだ扱っていません。
結果を見るには GPU の 1 時間あたりの単価を入れてください。単価は入れておきません。実際に受け取った見積もりだけが、正直な入力になります。
GPU が動いている限り、セルフホストの月額は 1 日 10 件でも 1000 万件でも同じです。API の請求は 0 から始まり、リクエストが増えるたびに上がります。このページは、入力した利用量で両方の月額を並べ、2 本の線が交わる 1 日あたりのリクエスト数を探します。
損益分岐点は、API の費用が GPU の費用と並ぶ(またはそれを上回る)最小のリクエスト数です。利用量が入力した台数の処理能力を超えると、ページは GPU を追加し、セルフホストの線は段階的に上がります。途中に段が複数できることもあります。API が 1 日 1 億リクエストまで安いままなら、無理に数字を作らず「交点なし」と表示します。
GPU は忙しいときにだけ公表どおりのスループットを出し、満負荷に近づくと待ち時間は急に伸びます。ページは既定で 70% の稼働率上限を前提にし、その上限から必要な GPU 時間を計算します。上限を下げると同じ利用量でも必要な時間が増えるため、損益分岐点は上がるか、変わらないかのどちらかです。感度表で 20、40、60、80% の場合を並べます。
VRAM の見積もりは重みだけを対象にします。パラメータ数 × ビット数 ÷ 8 に、実行時のオーバーヘッドとして 20% を足します。KV cache は含みません。KV cache は context の長さと同時に処理するリクエスト数で増えるので、紙の上では収まるモデルでも、より大きな GPU や短い context が必要になることがあります。
結果は入力した数字にすべて依存します。エンジニアの工数、監視、ストレージは、固定月額として入力しない限り含みません。レイテンシ、モデルの品質、データの取り扱いの規則も比較していません。オープンウェイトのモデルと API のモデルは同じではないので、請求額の差が公平な比較になるのは、品質が用途に十分な場合だけです。
知りません。また、推測もしません。GPU 価格は変動が速く、入手しやすさが価格より効くことも多いので、価格欄は最初は空です。実際に見積もられた金額を入れてください。API 側は LLM 料金ページと同じ料金表を使い、確認日を添えています。
ご自身の推論スタックからです。使う予定のフレームワークとバッチサイズでモデルを動かし、GPU 1 台あたりの出力 token 毎秒と、prefill の入力 token 毎秒を測ってください。公開されている数字は短いプロンプトでの最良値であることが多く、そのまま使うとセルフホストが有利に見えがちです。
GPU は動いている時間すべてに課金されるからです。利用量が少ないと大半の時間は遊んでいるため、小規模な用途ではセルフホストが高く見えます。このページが対象にしているのは always-on(24 時間稼働)だけで、scale-to-zero とコールドスタートの遅延はまだ含めていません。
入力した前提では、1 日 1 億リクエストまでのどの件数でも API のほうが安いという意味です。多くの場合、GPU 単価が高いか、そのモデルのスループットが低いことを示します。セルフホストが決して得にならないという主張ではありません。
利用量が、入力した台数で稼働率の上限の下に出せる GPU 時間を超えると、損益分岐点の計算では GPU を追加します。上の月額は入力した台数で計算し、容量の警告に必要な台数を表示します。
このページの GB は一貫して 10⁹ bytes です。VRAM の入力も重みの見積もりも同じ単位です。公式の仕様が GiB で書かれている場合は、換算してから入力してください。
16 bit では 70B モデルの重みは約 140 GB、8 bit で約 70 GB、4 bit で約 35 GB です。ページが加える実行時オーバーヘッド 20% を足すと、8 bit(約 84 GB)は 80 GB の GPU 1 台を超え、4 bit(約 42 GB)は収まります。パラメータ数に 70、bit 数に 16、8、4 を入れると見積もりが出ます。
各モデルの 100 万トークンあたりの料金。料金表の確認日つき。