# LLM Self-Host vs API

> 自分の GPU 単価とスループットを入れて、オープンモデルを自前で動かす費用と API の token 課金を比べます。損益分岐点、稼働率の感度、VRAM の確認つき。

- URL: https://bytescope.dev/ja/llm-pricing/self-host/
- Locale: ja · Also: [en](https://bytescope.dev/en/llm-pricing/self-host.md) · [zh-Hant](https://bytescope.dev/zh-Hant/llm-pricing/self-host.md)
- Runs: すべてこのブラウザの中で動きます。入力した GPU 単価とスループットはどこにも送られず、モデルの API も呼びません。
- Requires: Any modern browser (Chrome, Edge, Firefox, Safari), desktop and mobile.
- Updated: 2026-09-08

## What it does

### GPU を借りるか、token で払うか

GPU が動いている限り、セルフホストの月額は 1 日 10 件でも 1000 万件でも同じです。API の請求は 0 から始まり、リクエストが増えるたびに上がります。このページは、入力した利用量で両方の月額を並べ、2 本の線が交わる 1 日あたりのリクエスト数を探します。

### 損益分岐点が意味すること

損益分岐点は、API の費用が GPU の費用と並ぶ（またはそれを上回る）最小のリクエスト数です。利用量が入力した台数の処理能力を超えると、ページは GPU を追加し、セルフホストの線は段階的に上がります。途中に段が複数できることもあります。API が 1 日 1 億リクエストまで安いままなら、無理に数字を作らず「交点なし」と表示します。

### 稼働率で結論が変わる理由

GPU は忙しいときにだけ公表どおりのスループットを出し、満負荷に近づくと待ち時間は急に伸びます。ページは既定で 70% の稼働率上限を前提にし、その上限から必要な GPU 時間を計算します。上限を下げると同じ利用量でも必要な時間が増えるため、損益分岐点は上がるか、変わらないかのどちらかです。感度表で 20、40、60、80% の場合を並べます。

### VRAM に収まるか

VRAM の見積もりは重みだけを対象にします。パラメータ数 × ビット数 ÷ 8 に、実行時のオーバーヘッドとして 20% を足します。KV cache は含みません。KV cache は context の長さと同時に処理するリクエスト数で増えるので、紙の上では収まるモデルでも、より大きな GPU や短い context が必要になることがあります。

### このページが含まないもの

結果は入力した数字にすべて依存します。エンジニアの工数、監視、ストレージは、固定月額として入力しない限り含みません。レイテンシ、モデルの品質、データの取り扱いの規則も比較していません。オープンウェイトのモデルと API のモデルは同じではないので、請求額の差が公平な比較になるのは、品質が用途に十分な場合だけです。

## Limits

Does not call a model API, does not read agent logs, and does not apply the batch factor to the scenario totals. Rates are the checked card, not a live fetch.

## FAQ

### このツールは今の GPU 価格を知っていますか？

知りません。また、推測もしません。GPU 価格は変動が速く、入手しやすさが価格より効くことも多いので、価格欄は最初は空です。実際に見積もられた金額を入れてください。API 側は LLM 料金ページと同じ料金表を使い、確認日を添えています。

### スループットの数字はどこから得ればよいですか？

ご自身の推論スタックからです。使う予定のフレームワークとバッチサイズでモデルを動かし、GPU 1 台あたりの出力 token 毎秒と、prefill の入力 token 毎秒を測ってください。公開されている数字は短いプロンプトでの最良値であることが多く、そのまま使うとセルフホストが有利に見えがちです。

### 利用量が少ないと、セルフホストの費用が一定なのはなぜですか？

GPU は動いている時間すべてに課金されるからです。利用量が少ないと大半の時間は遊んでいるため、小規模な用途ではセルフホストが高く見えます。このページが対象にしているのは always-on（24 時間稼働）だけで、scale-to-zero とコールドスタートの遅延はまだ含めていません。

### 「交点なし」とはどういう意味ですか？

入力した前提では、1 日 1 億リクエストまでのどの件数でも API のほうが安いという意味です。多くの場合、GPU 単価が高いか、そのモデルのスループットが低いことを示します。セルフホストが決して得にならないという主張ではありません。

### 入力した台数より GPU 数が多く計算されることがあるのはなぜですか？

利用量が、入力した台数で稼働率の上限の下に出せる GPU 時間を超えると、損益分岐点の計算では GPU を追加します。上の月額は入力した台数で計算し、容量の警告に必要な台数を表示します。

### GB は 10 の 9 乗ですか、2 の 30 乗ですか？

このページの GB は一貫して 10⁹ bytes です。VRAM の入力も重みの見積もりも同じ単位です。公式の仕様が GiB で書かれている場合は、換算してから入力してください。

### 70B モデルには VRAM がどれくらい必要ですか？

16 bit では 70B モデルの重みは約 140 GB、8 bit で約 70 GB、4 bit で約 35 GB です。ページが加える実行時オーバーヘッド 20% を足すと、8 bit（約 84 GB）は 80 GB の GPU 1 台を超え、4 bit（約 42 GB）は収まります。パラメータ数に 70、bit 数に 16、8、4 を入れると見積もりが出ます。

## Related tools

- [LLM Pricing](https://bytescope.dev/ja/llm-pricing.md) — 各モデルの 100 万トークンあたりの料金。料金表の確認日つき。
