RunInfraは、AIエージェント実行向けに設計されたオープンモデルの推論APIプラットフォームです。Nemotron 3.5 LightningやQwen 3.8、Ornith 1.5などのモデルをホストし、単一のAPIキーでOpenAIおよびAnthropic両方のSDKから呼び出せます。プロンプトキャッシュ適用時には100万入力トークンあたり0.01ドルまで費用を抑えられます。ツール呼び出し、JSONモード、画像入力、ストリーミングに対応し、同一文脈を頻繁に再送するエージェント開発者の推論コスト削減と高速化に適しています。
OpenAI と Anthropic の SDK をひとつの API キーで使え、同じセッションの呼び出しをキャッシュを持つレプリカへ自動で振り分ける仕組みが強みです。
編集部レビューの全文 >

