ローカルLLMの推論エンジン・ツール一覧

2026年11月3日

オープンウェイトのモデルを手元で動かすための推論エンジン・ランタイム・量子化ツール・UIの一覧です。各ページにGitHubから機械的に集めた全リリースの履歴、プロジェクトの基本情報、当サイトの記事をまとめています。版番号と日付はコードが収集した値で、AIモデルが書いたものではありません。

最終更新 2026-11-03(JST)。25プロジェクト。

推論エンジン・ランタイム

プロジェクト 何をするものか 最新版 公開日
llama.cpp C/C++で書かれたLLM推論エンジン v0.8.0 2026-10-28
Ollama コマンド1つでモデルの取得と実行ができるローカルLLMランタイム v0.40.13 2026-10-29
vLLM PagedAttention による高スループットのLLM推論サーバー v0.33.0rc3 2026-11-02
SGLang RadixAttention によるプレフィックスキャッシュと構造化出力を特徴とするLLM推論サーバー v0.5.23 2026-11-03
KoboldCpp llama.cpp を単一実行ファイルにまとめ、Web UI と API を同梱したランタイム v1.124 2026-10-31
llamafile モデルの重みと llama.cpp を1つの実行ファイルにまとめ、OSを問わずそのまま実行できるようにする配布形式 0.10.6 2026-09-16
LocalAI OpenAI API 互換のセルフホスト推論サーバー v4.12.1 2026-10-23
MLC LLM TVM ベースのコンパイラで、LLMをスマートフォン・ブラウザ(WebGPU)・各種GPU向けにネイティブ実行する — —
RamaLama OCIコンテナでローカルLLMを動かすツール v0.25.0 2026-09-25
exo 手元の複数デバイス(Mac・PC・スマートフォン)をつないで1つのモデルを分散実行するフレームワーク v1.0.71 2026-04-24
Magnitude Rust製のオープンソース推論エンジン(Apache-2.0) @magnitudedev/cli@0.2.15 2026-10-30

量子化・モデル形式・ファインチューニング

プロジェクト 何をするものか 最新版 公開日
ggml llama.cpp や whisper.cpp の基盤となるテンソル計算ライブラリ v0.28.0 2026-10-28
ExLlamaV3 コンシューマー向けNVIDIA GPUに特化した推論ライブラリ v1.6.6 2026-10-31
ik_llama.cpp llama.cpp のフォーク — —
Unsloth 少ないVRAMで高速にファインチューニング(LoRA / QLoRA)を行うライブラリ v0.1.913-beta 2026-10-30

UI・デスクトップアプリ

プロジェクト 何をするものか 最新版 公開日
Open WebUI Ollama や OpenAI互換APIにつなぐセルフホストのチャットUI v0.12.5 2026-10-29
Jan オフラインで動くデスクトップのチャットアプリ v0.8.8 2026-10-28
TextGen ローカルLLM用のデスクトップアプリ(旧称 text-generation-webui) v4.9 2026-05-21
LM Studio CLI (lms) デスクトップアプリ LM Studio のコマンドラインツール — —

画像・動画・音声

プロジェクト 何をするものか 最新版 公開日
ComfyUI ノードをつないで画像・動画・音声の生成パイプラインを組むUI v0.43.0 2026-10-27
Diffusers Hugging Face の拡散モデル用Pythonライブラリ v0.42.1 2026-10-27
InvokeAI 画像生成のためのデスクトップ/Webアプリ v6.14.3 2026-11-02
whisper.cpp OpenAI Whisper の音声認識モデルを ggml で動かすC/C++実装 v1.9.5 2026-10-07
TTS WebUI 各種の音声合成・音楽生成モデルを1つのWeb UIから使えるようにするアプリ v1.5.2 2026-09-01
Stable Diffusion WebUI (AUTOMATIC1111) Stable Diffusion 用の定番Web UI v1.10.1 2025-02-09