ローカルLLMの推論エンジン・ツール一覧

2026年9月19日

オープンウェイトのモデルを手元で動かすための推論エンジン・ランタイム・量子化ツール・UIの一覧です。各ページにGitHubから機械的に集めた全リリースの履歴、プロジェクトの基本情報、当サイトの記事をまとめています。版番号と日付はコードが収集した値で、AIモデルが書いたものではありません。

最終更新 2026-09-19(JST)。24プロジェクト。

推論エンジン・ランタイム

プロジェクト 何をするものか 最新版 公開日
llama.cpp C/C++で書かれたLLM推論エンジン v0.4.1 2026-09-15
Ollama コマンド1つでモデルの取得と実行ができるローカルLLMランタイム v0.34.2 2026-09-16
vLLM PagedAttention による高スループットのLLM推論サーバー v0.29.0 2026-09-09
SGLang RadixAttention によるプレフィックスキャッシュと構造化出力を特徴とするLLM推論サーバー v0.5.20 2026-09-19
KoboldCpp llama.cpp を単一実行ファイルにまとめ、Web UI と API を同梱したランタイム v1.121 2026-09-16
llamafile モデルの重みと llama.cpp を1つの実行ファイルにまとめ、OSを問わずそのまま実行できるようにする配布形式 0.10.6 2026-09-16
LocalAI OpenAI API 互換のセルフホスト推論サーバー v4.10.0 2026-09-18
MLC LLM TVM ベースのコンパイラで、LLMをスマートフォン・ブラウザ(WebGPU)・各種GPU向けにネイティブ実行する — —
RamaLama OCIコンテナでローカルLLMを動かすツール v0.24.0 2026-08-22
exo 手元の複数デバイス(Mac・PC・スマートフォン)をつないで1つのモデルを分散実行するフレームワーク v1.0.71 2026-04-24

量子化・モデル形式・ファインチューニング

プロジェクト 何をするものか 最新版 公開日
ggml llama.cpp や whisper.cpp の基盤となるテンソル計算ライブラリ v0.24.0 2026-09-14
ExLlamaV3 コンシューマー向けNVIDIA GPUに特化した推論ライブラリ v1.5.0 2026-09-13
ik_llama.cpp llama.cpp のフォーク — —
Unsloth 少ないVRAMで高速にファインチューニング(LoRA / QLoRA)を行うライブラリ v0.1.811-beta 2026-09-19

UI・デスクトップアプリ

プロジェクト 何をするものか 最新版 公開日
Open WebUI Ollama や OpenAI互換APIにつなぐセルフホストのチャットUI v0.11.3 2026-08-31
Jan オフラインで動くデスクトップのチャットアプリ v0.8.4 2026-07-23
text-generation-webui Gradio ベースのLLM用Web UI v4.9 2026-05-21
LM Studio CLI (lms) デスクトップアプリ LM Studio のコマンドラインツール — —

画像・動画・音声

プロジェクト 何をするものか 最新版 公開日
ComfyUI ノードをつないで画像・動画・音声の生成パイプラインを組むUI v0.36.0 2026-09-16
Diffusers Hugging Face の拡散モデル用Pythonライブラリ v0.40.0 2026-08-20
InvokeAI 画像生成のためのデスクトップ/Webアプリ v6.14.1 2026-09-07
whisper.cpp OpenAI Whisper の音声認識モデルを ggml で動かすC/C++実装 v1.9.4 2026-09-11
TTS WebUI 各種の音声合成・音楽生成モデルを1つのWeb UIから使えるようにするアプリ v1.5.2 2026-09-01
Stable Diffusion WebUI (AUTOMATIC1111) Stable Diffusion 用の定番Web UI v1.10.1 2025-02-09