ローカルLLMの新着・早見表・実測データ
Local Model Watch は、手元で動かせるオープンウェイトの生成モデル(テキスト・画像・動画・音声)を日本語と英語で調べられるサイトです。新着の記事に加えて、VRAM・モデル系統・公開元・形式・推論エンジン別のまとめページと、当サイトのサーバーで実際に動かした実測を載せています。各記事の必要メモリは配布ファイルの実サイズから当サイトが機械的に算出しています(編集方針)。
目的別に探す
手元のGPUで動くモデルを探す
VRAM別 ローカルモデル早見表 ― 掲載 52 モデル当サイトの実測を見る
47 モデルの日本語トークン効率・GGUFの中身・CPUでの速度と回答・生成した動画などモデル系統から探す
17 系統の記事・必要メモリ・変換版をまとめて読む反響の大きいモデルを見る
既報 70 モデルのいいね・ダウンロード数を毎週集計公開元から探す
49の企業・研究機関の公開モデルと記事をまとめて読むモデル形式から探す
GGUF・MLX・FP8 など8形式の解説と、その形式で入手できるモデル推論エンジン・ツールの更新を追う
25 プロジェクトのリリース履歴(llama.cpp・Ollama・vLLM など)用途から探す
画像・音声・動画・テキストの用途別に 65 モデルを一覧用語集で読み方を確かめる
ベンチマーク 45 項目と、量子化・モデル形式の用語集
VRAM別 ローカルモデル早見表 ― 掲載 52 モデル当サイトの実測を見る
47 モデルの日本語トークン効率・GGUFの中身・CPUでの速度と回答・生成した動画などモデル系統から探す
17 系統の記事・必要メモリ・変換版をまとめて読む反響の大きいモデルを見る
既報 70 モデルのいいね・ダウンロード数を毎週集計公開元から探す
49の企業・研究機関の公開モデルと記事をまとめて読むモデル形式から探す
GGUF・MLX・FP8 など8形式の解説と、その形式で入手できるモデル推論エンジン・ツールの更新を追う
25 プロジェクトのリリース履歴(llama.cpp・Ollama・vLLM など)用途から探す
画像・音声・動画・テキストの用途別に 65 モデルを一覧用語集で読み方を確かめる
ベンチマーク 45 項目と、量子化・モデル形式の用語集
手持ちのGPUで動くものをまとめて見る: 8GB / 12GB / 16GB / 24GB
量子化・モデル形式の用語集もあわせてどうぞ。
最近の実測
当サイトのサーバーの CPU(Neoverse-N1・GPUなし)で、llama.cpp の公式配布を使って実際に動かしたモデルです。CPU での値で、GPU の速さの目安ではありません。回答は各記事に原文のまま載せています。
→ 横にスクロールできます
| モデル | ファイル(量子化) | 生成 | 日本語換算 | ピーク時のメモリ | 条件 | 測定日 |
|---|---|---|---|---|---|---|
| 「clef-flash」構造化出力特化型モデル:当サイトでの回答例・必要VRAM 4GB〜・GGUF版あり | Cloudflare_clef-flash-Q4_K_M.gguf(Q4_K_M) |
3.9 トークン/秒 | 7.1字/秒 | 11.8GB | llama.cpp b11347・3スレッド | 2026-10-03 |
| 「MiMo-V2.6-Distill-Qwen-9B-GGUF」:当サイトでの回答例・必要VRAM 12GB〜 | MiMo-V2.6-Distill-Qwen-9B-Q8_0.gguf(Q8_0) |
3.7 トークン/秒 | 6.8字/秒 | 14.8GB | llama.cpp b11223・3スレッド | 2026-09-30 |
| 「Qwopus3.8-27B-Flash-GGUF」VLMモデル:当サイトでの回答例・必要VRAM 16GB〜 | Qwopus3.8-27B-Flash-MTP-Q3_K_M.gguf(Q3_K_M) |
0.9 トークン/秒 | 1.7字/秒 | 14.9GB | llama.cpp b11223・3スレッド | 2026-09-29 |
| 「Nex-N2.5-mini」長期タスク向けのエージェントモデル:当サイトでの回答例・必要VRAM 16GB〜 | nex-agi_Nex-N2.5-mini-Q2_K.gguf(Q2_K) |
7.3 トークン/秒 | 13.4字/秒 | 14.9GB | llama.cpp b11223・3スレッド | 2026-09-29 |
| 「Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF」:当サイトでの回答例 | Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q3_K_S.gguf(Q3_K_S) |
6.2 トークン/秒 | 11.0字/秒 | 14.9GB | llama.cpp b11223・3スレッド | 2026-09-29 |
当サイトの CPU では動かせないモデルは、クラウドの GPU で動かしました。速さは、その1つの GPU とエンジンでの参考値で、llama.cpp や別の GPU の速さではありません。
→ 横にスクロールできます
| モデル | エンジン | GPU | 読み込んだ直後のVRAM | 回答中の最大のVRAM | 生成 | 測定日 |
|---|---|---|---|---|---|---|
| 推論モデル「ELYZA-Thinking-1.0」の32B/33Bモデル公開 | transformers | NVIDIA A100-SXM4-80GB | 59.9GB | 60.1GB | 13.7 トークン/秒 | 2026-10-11 |
| 「K2-Horizon-32B-NVFP4」長文・推論対応モデル:当サイトでの回答例・必要VRAM 32GB〜 | transformers | NVIDIA A100-SXM4-80GB | 21.7GB | 71.3GB | 2.2 トークン/秒 | 2026-10-02 |
| 「OrcaSAQ-2-27B」テキスト生成モデル:当サイトでの回答例・必要VRAM 16GB〜 | ExLlamaV3 1.5.3 | NVIDIA L4 | 13.7GB | 14.0GB | 17.2 トークン/秒 | 2026-10-01 |
| 「K2-Horizon-MoVA-36B-A4B-GGUF」:当サイトでの回答例・必要VRAM 32GB〜 | transformers | NVIDIA A100-SXM4-80GB | 69.7GB | 70.1GB | 3.6 トークン/秒 | 2026-09-30 |
| 「Xing4.0-29B-A4B」テキスト生成モデル:当サイトでの回答例・必要VRAM 24GB〜 | transformers | NVIDIA A100-SXM4-80GB | 55.0GB | 55.8GB | 2.3 トークン/秒 | 2026-09-30 |
当サイトで生成した動画・画像・音声
当サイトが固定のプロンプト・文(人物・ロゴ・参照音声なし)から生成し、選別・加工せずに各記事に載せています(動画はアップロードの上限に収めるため圧縮しています)。各記事に、環境構築から実行までの手順も載せています。
→ 横にスクロールできます
| モデル | 種類 | 生成物 | 動かした場所 | 生成日 |
|---|---|---|---|---|
| 「LongLive-Plug-Wan2.2-TI2V-5B-cfg」動画生成モデル:当サイトの生成動画・配布ファイル一覧 | 動画 | 4本 | クラウドのGPU(NVIDIA L40S) | 2026-10-02 |
| 「LongLive-Plug-Wan2.1-T2V-14B-few-step」:当サイトの生成動画・配布ファイル一覧 | 動画 | 4本 | クラウドのGPU(NVIDIA L40S) | 2026-10-02 |
| 「Supra2-IMG」軽量なテキストから画像への生成モデル:当サイトの生成画像・配布ファイル一覧 | 画像 | 3枚 | 当サイトのサーバーのCPU | 2026-09-30 |
| 「Irodori-TTS-v4.1-Anime」アニメ風音声対応の音声合成モデル:当サイトの生成音声・配布ファイル一覧 | 音声 | 13本 | 当サイトのサーバーのCPU | 2026-09-30 |
カテゴリ別の最新
新モデル
画像・動画・音声
エンジン・ツール
コミュニティ
週次まとめ
最新の記事は 2026-10-06(JST)公開。