オンデバイスAIとは、クラウドサーバーへ送信せずデバイス本体（スマートフォン・PC・IoT機器など）上でAIモデルを直接推論・実行する技術のこと。
オンデバイスAI (On-device AI)とは（詳しく解説）
オンデバイスAIは、推論処理をクラウドではなくエンドデバイス側で完結させるアーキテクチャ。プライバシー保護・低レイテンシー・オフライン動作・通信コスト削減が主な利点として挙げられる。 2026年時点では、Apple Silicon（Neural Engine）・Qualcomm Snapdragon NPU・MediaTek DimensityなどのAIアクセラレータが普及し、スマートフォンで7Bクラスのモデルが実用速度で動作するようになった。MicrosoftのCopilot+ PCやGoogleのPixelシリーズがオンデバイス推論を積極的に採用している。 実運用での落とし穴として、①モデルサイズの制約：エッジデバイスのメモリは通常4〜8GBで量子化（INT4/INT8）が必須になるが精度劣化が起きやすい、②デバイス多様性：Android端末だけでもNPU性能差が大きく動作保証の工数が膨らむ、③モデル更新コスト：アプリ更新経由での配布が必要でユーザーのアップデート率に左右される、の3点が現場で頻出する。 現場での選び方の相場感として、LLM APIコールが月数万円を超える案件や医療・金融など機密データを外部送信できない用途でROIが合いやすい。AI PICKSの調査では、2026年現在はオンデバイスとクラウドのハイブリッド構成（軽い処理はデバイス側、複雑な推論はクラウド側）が事例として最も多いパターンとなっている。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「オンデバイスAI (On-device AI)とは」 https://aipicks.jp/glossary/on-device-ai
オンデバイスAI (On-device AI)の使用例
- スマートフォンのカメラアプリが被写体認識をクラウド送信なしでリアルタイム処理するケースは、典型的なオンデバイスAIの活用例。
- 工場のエッジサーバー上で不良品検知モデルを動かし、ネット接続が不安定な環境でも推論を止めない製造DXの事例が2026年に急増している。
