定義
Swallowとは、Meta社のLlamaなど海外製の基盤モデルに大量の日本語テキストを追加で継続事前学習させ、日本語の性能を底上げした国産オープンLLMのこと。
Swallow (日本語継続学習LLM)とは(詳しく解説)
Swallowは、東京工業大学(現・東京科学大学)と国立情報学研究所などの研究チームが、Llama 2やMixtralなど海外製オープンLLMをベースに、日本語ウェブテキストを中心に継続事前学習(continual pre-training)して開発した国産LLMシリーズとされる。英語中心の基盤モデルは日本語の語彙・文法・文化的文脈への対応が弱くなりがちだが、Swallowは追加学習でこの弱点を補い、日本語ベンチマークでの性能を高めている点が特徴とされる。2026年時点の実運用では、独自データでのファインチューニングや社内文書へのRAG連携を前提に採用されるケースが多く、商用APIと違い自社サーバーでの推論インフラ構築・GPU確保が必要になる点がコスト面の主な障壁になりやすい。現場での選び方は、日本語特化の精度を優先するか英語圏モデルの汎用性・更新頻度を優先するかで判断が分かれ、オンプレミス要件やデータ主権の制約が強い企業ほど候補に挙がりやすいとされる。相場感としては、クラウドGPUのレンタル費用が運用コストの大半を占めることが多い。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「Swallow (日本語継続学習LLM)とは」 https://aipicks.jp/glossary/swallow
Swallow (日本語継続学習LLM)の使用例
- 社内マニュアルをRAGで参照させ、Swallowに日本語で問い合わせ対応させる用途で使われるとされる。
- オンプレミス環境で日本語特化チャットボットを構築する際の基盤モデルとして採用されることがある。