EdgeLLMは株式会社APOLLO11が提供するオンプレミス型の生成AIで、導入費用は980万円からです。自社の環境内で動かすため、機密情報を外部へ送信しない運用を前提にしています。データを社外に出せない、または出したくない組織が主な対象です。同社はOpenAI互換の国産LLM API(ZDR対応、国内データセンター)やノーコードDBのFusionBaseも展開しており、EdgeLLMはクラウドAPIとは別の選択肢にあたります。モデル構成、ハードウェア要件、保守費用の詳細は公式サイトを参照してください。
EdgeLLMは、推論データを社内LANの外へ出さずに生成AIを使える点がはっきりしています。エアギャップ運用に対応し、OpenAI互換APIとして動くため既存のAI連携コードやLangChainをそのまま流用できます。
編集部レビューの全文 >

