llamafile 0.10.6公開、llama.cpp更新とCUDA/HIPのグラフ機能強化

2026年9月16日2026年9月18日

基本情報

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

LLM（大規模言語モデル）を単一の実行可能ファイルとして配布・実行するためのオープンソースツール「llamafile」の最新バージョン「0.10.6」がリリースされました。llamafileはMozilla-Ochoが開発を主導するC++ベースのプロジェクトで、GitHubでは25,970スターを獲得しています。クロスプラットフォームで動作し、GGUF形式などのモデルを用いたローカル推論や音声テキスト変換（speech-to-text）などを、複雑な環境構築なしに実行できるのが特徴です。

今回のバージョン0.10.6では、内部で利用されている推論エンジン llama.cpp のバージョンが b10441 へと更新されました。また、NVIDIA CUDAおよびAMD HIP環境におけるパフォーマンス向上のためのグラフ機能有効化や、Vulkanツールチェーンの追加が行われています。さらに、アーカイブ（ZIP）処理の安全性を高める境界チェックの追加や、llama-bench・perplexity などの付属ツールのビルド修正など、内部構造の最適化と不具合修正が含まれたアップデートとなっています。

主な変更点

バージョン0.10.6における主な変更点は以下の通りです。主にGPUアクセラレーションの強化、アーカイブ処理の安全性向上、および各種ビルドターゲットの修正が行われています。

• llama.cppをb10441へ更新
  ベースとなっている llama.cpp がコミット b10441 へアップデートされました。

• CUDAおよびHIPでのグラフ機能の有効化
  ビルド設定において -DGGML_CUDA_USE_GRAPHS および -DGGML_HIP_GRAPHS が有効化されました。CUDAやHIPを利用したGPU推論処理におけるグラフ実行が有効になり、処理の効率化が期待できます。

• Vulkanツールチェーンのサポート
  Vulkanに関するツールチェーン環境の整備（Vulkan toolchain）が行われました。

• ZIPエントリーの境界チェックと検証の強化
  llamafile_open_zip 関数において、実際のファイルサイズに対してZIPエントリーのウィンドウサイズを検証する処理が追加されました。また、ZIPのextra-fieldヘッダーを読み込む前に読み込み範囲（境界）をチェックするガードが追加され、破損したアーカイブや不適切なヘッダー処理による問題を未然に防ぐ修正が施されています。

• ベンチマーク・量子化ツールのビルドレシピ修正
  llama-bench、quantize、imatrix、および perplexity（モデルの素の精度や量子化による劣化の比較に使われるPerplexity計測ツール）のビルド時に不足していたリンクレシピが追加・修正されました。

• ggmlオブジェクトのコンパイルオプション修正
  ggmlオブジェクトのビルド時に -DNDEBUG が付与されるように変更され、デバッグコードを除外した状態でコンパイルが行われるようになりました。

• タイマー初期化処理の修正
  ggml_time_ms および ggml_time_us の呼び出し時に ggml_time_init() が実行されるよう修正され、timer_freq が確実に初期化されるようになりました。

対応モデル・ハードウェア

本リリースでは、GPUやグラフィックスAPIに関する以下のサポートおよび機能追加が行われています。

• NVIDIA CUDA / AMD HIP
  推論処理の最適化のため、-DGGML_CUDA_USE_GRAPHS および -DGGML_HIP_GRAPHS が有効化されました。

• Vulkan
  Vulkanツールチェーン（Vulkan toolchain）が追加・整備されました。

アップデート方法

資料内の導入ガイドには具体的なコマンドの手順が確認できないため、最新版の取得および利用方法については公式のリリースページを参照してください。

詳細なリリース情報やビルド済みファイルの入手は、以下のページより行えます。

Mozilla-Ocho/llamafile v0.10.6 リリースページ

前回の記事からの更新履歴

当サイトがGitHubのリリース一覧から機械的にまとめた、この版と前回取り上げた版の間に出た版です(単独記事にはしていません)。 全ての版はエンジン別ページにあります。

関連記事

• ggml v0.24.0リリース：精度制御APIの追加とバックエンド強化

出典

• https://github.com/mozilla-ai/llamafile/releases/tag/0.10.6