llama.cpp v0.6.0やFastH3動画生成の高速化、501Bモデルの動向【週刊まとめ】

今週の数字
当サイトが今週公開した記事から機械的に集計した値です。
| 項目 | 値 |
|---|---|
| 公開した記事 | 8本 |
| エンジン・ツール | 4本 |
| 画像・動画・音声 | 2本 |
| 新モデル | 1本 |
| コミュニティ | 1本 |
| 取り上げた新モデル | 3本 |
| 過去記事に追記した変換版 | 7件(GGUF 4件、NVFP4 1件、FP8 2件) |
| 記事数の多かった発信元 | fastvideo(2)、vllm-project/vllm(1)、naiveai(1) |
単独記事にしなかった急上昇モデル
今週 Hugging Face で注目を集めたものの、単独記事にしなかったリポジトリです。参考として一覧にするだけで、モデルカードの内容は確認していません。
| モデル | いいね | ダウンロード | 記事にしなかった理由 |
|---|---|---|---|
| autotrust/GLM5.3-Flash-E224-DGX-Spark | 556 | 11,534 | 元モデルの記事が無い変換版 |
| ConwayResearch/Underdog-Saluki-27B-1.0 | 322 | 108,900 | 著名リスト外の発信元 |
| bartowski/K2-Horizon-7B-GGUF | 0 | 2,004 | 元モデルの記事が無い変換版 |
| bartowski/K2-Horizon-32B-GGUF | 0 | 3,831 | 元モデルの記事が無い変換版 |
単独記事にしなかったパッチ版
監視しているプロジェクトのリリースのうち、パッチ版・リリースノートが短いものです。全ての版はエンジン別ページにあります。
| プロジェクト | 版 | リリースノート |
|---|---|---|
| ollama/ollama | v0.40.1 | GitHub |
| ollama/ollama | v0.40.3 | GitHub |
| turboderp-org/exllamav3 | v1.6.1 | GitHub |
| unslothai/unsloth | v0.1.904-beta | GitHub |
いいね数が伸びたモデル
当サイトが記事化したモデルの週次スナップショットから集計しました。いいねはHugging Face上の累積値、ダウンロード数は直近30日のローリング値です。
→ 横にスクロールできます
| モデル | いいねの増分 | いいね合計 | ダウンロード数(30日) | 期間 |
|---|---|---|---|---|
| Cloudflare/clef | +820 | 2,028 | 14,351 | 2026-W41 → 2026-W42 |
| Qwen/Qwen3.8-27B | +569 | 17,508 | 6,843,108 | 2026-W41 → 2026-W42 |
| Cloudflare/clef-flash | +330 | 756 | 22,123 | 2026-W41 → 2026-W42 |
| deepseek-ai/DeepSeek-V4.1-Flash | +271 | 4,364 | 1,382,367 | 2026-W41 → 2026-W42 |
| prism-ml/Ternary-Bonsai-2-27B-gguf | +214 | 2,630 | 4,549,911 | 2026-W41 → 2026-W42 |
今週のハイライト
今週は、ローカル推論を支える主要な実行エンジンや基盤ライブラリのメジャー・マイナー更新が相次ぎました。また、動画生成分野での推論効率化や、コミュニティによる超巨大オープンウェイトモデルの発表など、手元の環境での実行速度とモデルの選択肢に直結する動きが見られました。
1つ目は、推論エンジンおよび基盤ライブラリの一斉アップデートです。llama.cpp v0.6.0リリース:新バッチAPIやMetal高速化、新モデル対応をはじめ、推論基盤ライブラリ「ggml v0.26.0」公開、各バックエンドの最適化と対応拡大、推論エンジン vllm v0.31.0公開、高速再起動やDeepSeek最適化、そして推論エンジン「magnitude」v0.2.6公開、Macでのプロンプト処理が大幅高速化が揃って公開されました。Metalや各種バックエンドの最適化が進み、ローカル環境での処理性能が底上げされています。
2つ目は、音声付き動画生成モデル「FastH3」におけるステップ数削減と低ビット量子化の進展です。音声付き動画生成モデル「FastH3 Trim」8ステップ版が公開されたほか、音声付き動画生成モデル「FastH3 V2」のFP8およびNVFP4版公開が行われました。計算負荷の高い動画生成を手元のGPUで動かすための現実的なアプローチが急速に整備されています。
3つ目は、総パラメータ数501Bに達する巨大オープンウェイトモデルの発表です。Reflectionが総パラメータ数501Bのオープンウェイトモデル「Beam」発表を行い、コミュニティ発の超大規模MoEモデルの展開として注目を集めています。
分野別トレンド
エンジン・ツール
今週最も動きが活発だったのはエンジン・ツールの分野です。複数のプロジェクトにおいて、ハードウェア最適化、特にApple Silicon(Metal)環境での高速化と新機能の追加が共通の焦点となりました。
llama.cpp v0.6.0リリース:新バッチAPIやMetal高速化、新モデル対応では新バッチAPIの導入やMetal環境のチューニングが行われ、その基盤である推論基盤ライブラリ「ggml v0.26.0」公開、各バックエンドの最適化と対応拡大でもVulkanやWebGPU、Apple Siliconバックエンドの強化が図られています。さらに、Rust製エンジンの推論エンジン「magnitude」v0.2.6公開、Macでのプロンプト処理が大幅高速化でもMac環境でのプロンプト処理速度が向上しており、Macをローカル推論環境として活用するユーザーにとって恩恵の大きい更新が重なりました。
一方、サーバーサイドやLinux環境向けのツールとしては、推論エンジン vllm v0.31.0公開、高速再起動やDeepSeek最適化において高速再起動機能やDeepSeek向け最適化、Blackwellへの対応などが盛り込まれ、高効率な推論インフラの整備が進んでいます。
画像・動画・音声
メディア生成分野では、音声付き動画生成モデルの実用的な高速化・低メモリ化が明確なトレンドとして現れました。
FastVideoにより、音声付き動画生成モデル「FastH3 Trim」8ステップ版が公開され、少ない推論ステップでの動画生成が可能になりました。これに加えて音声付き動画生成モデル「FastH3 V2」のFP8およびNVFP4版公開により、次世代の低ビット表現を用いた効率的な実行環境が提供されています。動画生成は手元のマシンで動かすには重いタスクの代表格ですが、アルゴリズム側のステップ削減と量子化によるメモリ削減の両面から最適化が急速に進展しています。
テキスト生成・コミュニティ
テキスト生成分野およびコミュニティの動向では、大規模なMoE(Mixture of Experts)モデルに関する動きが目立ちました。
コミュニティからはReflectionが総パラメータ数501Bのオープンウェイトモデル「Beam」発表が行われ、オープンウェイトとして極めて大規模なモデルの提供がアナウンスされています。また、当サイトで今週取り上げた記事としては、以前に公開されていたAI研究・コーディング向けMoEモデルである「Naive-N0.5-Flash」AI研究とコーディング向けMoEモデル:必要メモリ約690GBの紹介もありました。大規模MoEモデルの存在感が増す一方で、手元で動作させるための量子化や分散環境の重要性も再認識される状況となっています。
業界の動き
ローカルで動かす話題ではないため単独の記事にしなかった、企業・研究機関の発表です。要点だけを載せています。
- Allen Institute for AI: Allen Institute for AI(Ai2)はCOLM 2026に参加し、オープンな研究活動としてモデルやデータ、科学向けAIエージェントツールの開発に関する取り組みを共有しました。(発表)
- Hugging Face Blog: NVIDIAの研究チームは、Nemotronモデルファミリーを微調整することで、国際情報オリンピック(IOI)と国際数学オリンピック(IMO)の双方でゴールドメダルレベルの成績を達成した手法を発表しました。(発表)
- Together AI: Together AIはIBM CloudおよびNVIDIAと連携し、IBM Cloud上でNVIDIA B300 GPUとSpectrum-X Ethernetネットワークを用いた大規模推論クラスタの運用を開始することを発表しました。(発表)
- datasocial: datasocialは、2014年から2026年10月までの公開TikTok動画55億9746万2038件のキャプションや統計情報を収録したデータセット「tiktok-5.6B-videos」を公開しました。(発表)
関連記事
- RamaLama v0.26.0 Released with TLS Support and llama.cpp v0…
- NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応
- 「MiniCPM-V-4.7-1B-DSpark-gguf」テキスト生成モデル:必要VRAM 4GB〜
- 「MiniCPM-V-4.7-35B-A3B-DSpark-gguf」高速化用ドラフトモデル:必要VRAM 4GB〜
今週の記事
当サイトの記事ログからコードが組み立てた一覧です。同じ話題の記事は1行にまとめています。
新モデル
→ 横にスクロールできます
| 公開日 | モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 変換版 | 記事 |
|---|---|---|---|---|---|---|
| 2026-10-05 | NaiveAI/Naive-N0.5-Flash | — | — | mit | 2 | 「Naive-N0.5-Flash」AI研究とコーディング向けMoEモデル:必要メモリ約690GB |
画像・動画・音声
→ 横にスクロールできます
| 公開日 | モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 変換版 | 記事 |
|---|---|---|---|---|---|---|
| 2026-10-06 | FastVideo/FastVideo-FastH3-Trim-8-Step-NVFP4 | — | — | other | — | 音声付き動画生成モデル「FastH3 Trim」8ステップ版が公開(続報: 音声付き動画生成モデル「FastH3 V2」のFP8およびNVFP4版公開) |
エンジン・ツール
| 公開日 | プロジェクト | 版 | 記事 |
|---|---|---|---|
| 2026-10-06 | magnitudedev/magnitude | @magnitudedev/cli@0.2.6 | 推論エンジン「magnitude」v0.2.6公開、Macでのプロンプト処理が大幅高速化 |
| 2026-10-06 | ggml-org/llama.cpp | v0.6.0 | llama.cpp v0.6.0リリース:新バッチAPIやMetal高速化、新モデル対応 |
| 2026-10-06 | ggml-org/ggml | v0.26.0 | 推論基盤ライブラリ「ggml v0.26.0」公開、各バックエンドの最適化と対応拡大 |
| 2026-10-05 | vllm-project/vllm | v0.31.0 | 推論エンジン vllm v0.31.0公開、高速再起動やDeepSeek最適化 |
コミュニティ
| 公開日 | 記事 |
|---|---|
| 2026-10-06 | Reflectionが総パラメータ数501Bのオープンウェイトモデル「Beam」発表 |

