RunPodとは

RunPodは、AIモデルの学習・推論に特化したGPUクラウドプラットフォーム。Pods（GPUインスタンス）、Serverless（自動スケーリングするGPUエンドポイント）、Clusters（マルチノード分散処理）の3製品を単一プラットフォームで提供し、実験から本番運用までアカウントを移行せずに進められる設計。

主要機能

Podsは31のグローバルリージョンで、B300・H200・B200・H100・A100・RTX Pro 6000など30種類以上のGPU SKUを秒単位課金で起動可能。Reserved（確保型）とSpot（中断ありの低価格版）から選べる。

Serverlessは、リクエストに応じて0から数千ワーカーまで自動スケールするGPU推論エンドポイント。FlashBoot機能でコールドスタートを200ミリ秒未満に抑え、アイドル時間には課金されない。永続ネットワークストレージを使えばエグレス料金なしでAIパイプラインを構築できる。

Clustersはファインチューニングや大規模学習向けに、マルチノード構成の分散GPUコンピューティングを提供する独立製品。

HubはオープンソースのAIモデルやテンプレートをワンクリックでデプロイできる機能。

ユースケースとしては推論(Inference)・AIエージェントのデプロイ(Agents)・ファインチューニング(Fine-Tuning)・大規模処理(Compute-Heavy Tasks)の4カテゴリを掲げ、開発ツールから直接デプロイできるエージェント連携も主要用途として前面に出している。エンタープライズ向けにはSOC 2 Type II準拠と99.9%稼働率を提示。

想定ユーザー

GPUインフラを自前構築せず、推論API・生成AI・LLMファインチューニング・分散学習を運用したい開発者・AIチーム向け。