セルフホスティング可能なオープンソースLLM比較｜2026年最新

セルフホストLLMには大きく3つのメリットがあります。第一にプライバシーとコンプライアンス。医療・法務・金融など顧客データを社外サービスに送れない業界で必須です。第二にコスト。月間数億トークンを消費する大量利用ではAPI料金が高額になり、自社GPUを保有する方が安くなります。第三にカスタマイズ性。ファインチューニングで業種特化モデルを構築でき、独自ドメインに最適化できます。一方で運用負荷・モデル更新追従・ハードウェア投資などのデメリットもあるため、段階的導入が現実的です。

モデルサイズと量子化(4bit/8bit/16bit)で必要VRAMが変わります。一般的な目安は次の通りです。

• 7B〜8Bクラス: 4bit量子化で6〜8GB VRAM(RTX 3060/4060、Mac M1 16GB以上)
• 13Bクラス: 4bit量子化で12〜16GB VRAM(RTX 4070/4080、Mac M3 Pro 36GB以上)
• 30B〜34Bクラス: 24〜48GB VRAM(RTX 4090×2、A100 40GB)
• 70Bクラス: 80GB VRAM以上(A100 80GB、H100、Mac Studio M2 Ultra 192GB)
• 400B超: マルチGPU構成必須(8×H100など)

オープンソースLLMを動かす代表的なツールとして以下があります。

• Ollama: ローカルでワンコマンド実行。Mac/Windows/Linux対応で個人開発に最適。
• vLLM: 高スループットの推論サーバー。本番運用向けでGPU効率が良い。
• Text Generation Inference (TGI): HuggingFace公式の推論サーバー。Kubernetesと親和性高い。
• llama.cpp: CPUでも動かせる軽量実装。エッジデバイスやMac向け。
• LM Studio: GUIで簡単にLLMを試せるデスクトップアプリ。

オープンソースLLMでも完全フリーとは限りません。Llamaは月間アクティブユーザー7億人超の組織は別途許諾が必要、Gemmaは利用規約への同意が必須、Qwenの一部モデルは商用利用に制限があります。Apache 2.0/MITライセンスのMistralやDeepSeek系は最も自由度が高い一方で、生成物の責任は利用者側にあります。導入前に必ず各モデルのライセンスを確認し、法務レビューを通すことをおすすめします。