クラウドGPU料金:全体像
クラウドGPUの宣伝時間単価は、実際に支払う金額ではありません。実際のクラウドGPUコストには、隠れた料金、課金粒度のペナルティ、インフラオーバーヘッドが含まれ、見出し価格の**20〜40%**以上に請求額を膨らませる可能性があります。
このガイドでは、他の料金比較が見落としているもの — GPUワークロードを実行するための総コスト(表示価格だけではなく)に焦点を当てます。3種類のプロバイダーを比較し、隠れたコストを明らかにし、GPU支出を削減するための5つの具体的な戦略を提供します。
GPUスペック比較とワークロードの推奨事項については、AI向けベストGPUガイドをご覧ください。この記事ではプロバイダーと料金 — レンタルする場所であり、何をレンタルするかではありません — に焦点を当てます。
3種類のクラウドGPUプロバイダー
クラウドGPU市場には3つの異なるティアがあり、それぞれ異なる料金体系、トレードオフ、ターゲット顧客を持ちます。
ハイパースケーラー(AWS、Google Cloud、Azure)
主要クラウドプロバイダーは、広範なインフラプラットフォームの一部としてGPUインスタンスを提供しています。エンタープライズSLA、グローバルリージョン、マネージドサービス(ストレージ、MLプラットフォーム、モニタリング)との深い統合、予約インスタンスの保証された可用性を得られます。
プレミアム:H100のオンデマンドで**$3.00〜$6.98/時間**。予約インスタンス(1〜3年コミットメント)は30〜50%削減しますが、長期ロックインが必要です。
専門GPUクラウド(Lambda、CoreWeave)
GPUインフラに特化。これらのプロバイダーはH100で**$2.00〜$3.00/時間**の競争力ある価格、AIワークロードに最適化された構成、AI特化サポートを提供しますが、ハイパースケーラーよりもマネージドサービスは少なくなります。
GPUマーケットプレイス(GPUnex、Vast.ai、RunPod)
数百の分散データセンターからGPUキャパシティを集約。多くのプロバイダーからの供給をプールすることで、マーケットプレイスはH100で**$1.49〜$2.50/時間**の最も競争力ある価格を提供し、時間単位ではなく秒単位の柔軟な課金が可能です。トレードオフには可変的な信頼性と統合ツールの不足が含まれます。
GPUモデル別料金比較
2026年初頭の各GPUの実際のコスト:
| GPUモデル | ハイパースケーラー(オンデマンド) | ハイパースケーラー(予約) | 専門クラウド | GPUマーケットプレイス |
|---|---|---|---|---|
| H100 80GB | $3.00〜$6.98/時間 | $2.00〜$4.50/時間 | $2.00〜$3.00/時間 | $1.49〜$2.50/時間 |
| A100 80GB | $1.50〜$3.50/時間 | $1.00〜$2.50/時間 | $0.80〜$1.50/時間 | $0.72〜$1.50/時間 |
| L40S 48GB | $1.20〜$2.50/時間 | $0.80〜$1.80/時間 | $0.80〜$1.50/時間 | $0.60〜$1.20/時間 |
| L4 24GB | $0.50〜$1.00/時間 | $0.30〜$0.70/時間 | $0.30〜$0.60/時間 | $0.20〜$0.50/時間 |
| RTX 4090 24GB | 該当なし(提供なし) | 該当なし | $0.40〜$0.80/時間 | $0.40〜$0.80/時間 |
重要な観察: ハイパースケーラーのオンデマンドとマーケットプレイス料金の差は、同一GPUハードウェアで2〜4.7倍です。H100の場合、$6.98/時間(AWSオンデマンド)と$1.49/時間(マーケットプレイススポット)の差は**$5.49/時間** — 1台のGPUを24時間365日稼働させると月**$4,008**に達します。
GPU請求額を膨らませる隠れたコスト
GPUの時間単価は話の一部に過ぎません。5つのカテゴリの隠れたコストが定期的にチームを驚かせます:
1. データエグレス料金
クラウドプロバイダーのネットワークからデータを移動するにはコストがかかります — 通常GBあたり$0.05〜$0.12。1TBのトレーニングデータをダウンロードし、定期的にチェックポイントをエクスポートするモデルのトレーニングでは、トレーニング実行あたり**$50〜$120**のエグレス料金が追加される可能性があります。
2. ストレージコスト
GPUインスタンスにはデータセット、モデルチェックポイント、ログ用のディスクスペースが必要です。クラウドストレージは月$0.02〜$0.08/GBです。5TBのデータセットを3ヶ月保存すると**$300〜$1,200** — GPU時間単価には見えませんが、請求書には非常に目立ちます。
3. ネットワークとロードバランシング
本番推論にはロードバランサー、APIゲートウェイ、ノード間ネットワークが必要です。これらのサービスはトラフィック量に応じて月**$50〜$200以上**を追加します。
4. 最低コミットメントと丸め
一部のプロバイダーは時間単位で課金します — 35分のジョブが60分のジョブと同じコストになります。秒単位課金(一部マーケットプレイスで提供)はこの無駄を排除します。多くの短いジョブを持つバースト的ワークロードでは、時間単位課金で支出の15〜30%が未使用時間に浪費される可能性があります。
5. APIとマネジメントサービス料金
マネージドMLサービス(SageMaker、Vertex AI)はGPUコンピュートの上に追加料金を請求します。これによりマネージドトレーニングとデプロイメントパイプラインの便利さのために、**基本GPUコストの10〜30%**が追加される可能性があります。
重要な洞察: GPUコンピュートで$3.15/時間のワークロードが、エグレス、ストレージ、ネットワーク、管理料金を加えると実際には$4.00〜$4.50/時間になる可能性があります。常にワークロードの総コストを計算してください — GPUの行項目だけではなく。
クラウドGPUコストを40%削減する方法
組み合わせることで総GPU支出を**30〜40%**削減できる5つの実証済み戦略:
1. スポット/プリエンプティブルインスタンスを使用(15〜20%節約)
スポットインスタンスはオンデマンド料金から40〜60%の割引を提供します。注意:短い通知(通常2分〜2時間)で中断される可能性があります。フォールトトレラントなワークロード — チェックポイント付きトレーニング、バッチデータ処理、緊急でない推論 — の場合、スポットインスタンスは最大のコスト削減レバーです。
2. GPUを適正サイジング(8〜12%節約)
多くのチームが「安全のため」最も強力なGPUをデフォルトにします。A100($0.72/時間)で問題なく動作するワークロードにH100($3.15/時間)は不要です。AI向けベストGPUガイドでワークロード判断フレームワークを提供しています。
3. スケジュールと自動スケーリング(5〜8%節約)
チームが8時間/日しか作業しないのに24時間365日稼働するGPUインスタンスは支出の3分の2を無駄にしています。簡単なスケジューリング — 「午前8時にGPUオン、午後8時にオフ」 — でも開発インスタンスで50%節約できます。
4. ワークロードをマーケットプレイスに移行(10〜15%節約)
ハイパースケーラー固有のマネージドサービスを必要としないワークロードの場合、GPUマーケットプレイスへの移行でコンピュートを3〜6倍節約できます。
5. 予約/コミットキャパシティを使用(追加5〜10%節約)
予測可能な持続的ワークロードの場合、予約キャパシティコミットメントはオンデマンド料金から30〜50%の割引を提供します。ベースラインの予約キャパシティとスポット/マーケットプレイスの可変負荷を組み合わせてください。
プロバイダー別詳細
AWS(Amazon Web Services)
GPUインスタンス: P5(H100)、P4(A100)、G5(A10G)、G6(L4)。 料金: H100オンデマンド:約$4.50〜$6.98/時間。予約(1年):約$3.00〜$4.50/時間。スポット:約$1.50〜$2.50/時間。 強み: 最も広範なマネージドサービスエコシステム(SageMaker、EKS、S3)、グローバル展開、エンタープライズサポート。 注意: エグレス料金($0.09/GB)、複雑な料金体系、オンデマンドのインスタンス可用性の変動。
Google Cloud Platform
GPUインスタンス: A3(H100)、A2(A100)、G2(L4)。 料金: H100オンデマンド:約$3.50〜$5.50/時間。コミット(1年):約$2.50〜$3.50/時間。スポット:約$1.50〜$2.00/時間。 強み: 強力なTPU代替、優れたJAX/TensorFlow統合、Vertex AIマネージドプラットフォーム、競争力あるスポット料金。
Microsoft Azure
GPUインスタンス: ND H100(H100)、NC A100(A100)、NC T4(T4)。 料金: H100オンデマンド:約$3.00〜$5.00/時間。予約(1年):約$2.00〜$3.50/時間。 強み: OpenAI統合(Azure OpenAI Service)、強力なエンタープライズID/セキュリティ、ハイブリッドクラウド機能。
GPUマーケットプレイス
利用可能なGPU: H100、A100、L40S、L4、RTX 4090など。 料金: H100:$1.49〜$2.50/時間。A100:$0.72〜$1.50/時間。RTX 4090:$0.40〜$0.80/時間。 強み: 最安価格、柔軟な課金(一部プラットフォームで秒単位)、コミットメント不要、コンシューマーカードを含む幅広いGPU選択。
どのプロバイダータイプを使うべきか
| シナリオ | 最適なプロバイダータイプ | 理由 |
|---|---|---|
| エンタープライズ本番推論 | ハイパースケーラー | SLA、グローバル展開、マネージドサービス |
| 大規模トレーニング(1000+ GPU) | ハイパースケーラーまたは専門クラウド | 保証されたキャパシティ、NVLinkネットワーク |
| コスト最適化トレーニング | GPUマーケットプレイス(スポット) | 最安価格、チェックポイントで中断に対応 |
| 開発と実験 | GPUマーケットプレイス | 秒単位課金、コミットメント不要、安価な反復 |
| 小規模チーム/スタートアップ | GPUマーケットプレイス | 最低障壁、柔軟なスケーリング、最低利用量なし |
| バッチ推論 | GPUマーケットプレイスまたはスポット | 中断を許容、価格重視 |
| 規制ワークロード(金融、医療) | ハイパースケーラー | コンプライアンス認証、監査証跡 |
レンタル vs 購入の問題 — クラウドレンタルとハードウェア所有のどちらが合理的か — については、詳細なコスト比較をご覧ください。初めてのGPU予算を計画するスタートアップは、AIスタートアップコンピュートコストガイドをご覧ください。
よくある質問
H100をレンタルする最も安い方法は?
GPUマーケットプレイスが最安のH100レートを**$1.49〜$2.50/時間で提供しています。ハイパースケーラーのスポットインスタンスが次に$1.50〜$2.50/時間**ですが中断の可能性があります。
隠れたコストは本当にそれほど重要ですか?
はい。典型的なトレーニングワークロードでは、隠れたコスト(エグレス、ストレージ、ネットワーク)がGPUコンピュート請求額の上に**20〜40%**を追加します。
1つのプロバイダーか複数を使うべきですか?
複数です。コスト重視のワークロード(開発、バッチ処理、推論)にはGPUマーケットプレイスを使用。本番推論と規制ワークロードにはハイパースケーラーを使用。フォールトトレラントなジョブにはすべてのプロバイダーでスポット料金を使用。
秒単位課金とは何で、重要ですか?
秒単位課金はGPUがアクティブな正確な時間のみ課金されます。時間単位課金は切り上げ — 35分のジョブが60分と同じコストになります。多くの短いジョブを持つワークロードでは、秒単位課金で**15〜30%**節約できます。
過去1年間でGPU料金はどう変わりましたか?
H100の料金は2024年6月から2025年6月の間に44%下落し、供給拡大とマーケットプレイスの競争が要因です。A100の価格はGPUの経年に伴いさらに下落しました。NVIDIAとAMDの増産に伴い価格は緩やかに下落し続ける見込みですが、新世代GPU(B200、Rubin)は発売時にプレミアム料金になります。より広い市場コンテキストについては、OpenAI-NVIDIA市場分析をご覧ください。