text-generation-webui から TextGen へ

oobabooga氏開発のツールは、リポジトリがgithub.com/oobabooga/textgenへ移転し、プロダクト名も「TextGen」に改称された。かつてのGradioベースWeb UIから、ローカルLLMを動かすデスクトップアプリへ作り直され、「テキスト・vision・tool-calling・Web検索対応、100%プライベート」とうたう。

導入

ポータブルビルド(Linux/Windows/macOS、CUDA/Vulkan/ROCm/CPU-only)を解凍し、同梱のtextgenを起動するだけでGGUF(llama.cpp)モデルを動かせる。追加バックエンドや学習、画像生成、拡張機能にはフルインストール(one-clickインストーラーまたはvenv手動セットアップ)が必要。

主要機能

チャットはinstruct/chat-instruct/chatモード、Jinja2テンプレート整形、画像添付vision対応、テキスト/PDF/.docx添付、メッセージ編集・会話分岐に対応。バックエンドはllama.cpp/ik_llama.cpp/Transformers/ExLlamaV3/TensorRT-LLMを再起動なしで切替可能。OpenAI/Anthropic互換API(tool-calling対応)を備え、Web検索・ページ取得・カスタム関数(.py1ファイル)・MCPサーバー経由のツール呼び出しに対応する。LoRAファインチューニングや、diffusersモデル(Z-Image-Turbo等)による画像生成タブも利用できる。

プライバシー

テレメトリ・外部リソースへの問い合わせ・リモート更新リクエストが一切ない100%オフライン設計