ggml v0.24.0リリース：精度制御APIの追加とバックエンド強化

2026年9月14日2026年9月18日

基本情報

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

概要

ggml-org/ggmlのv0.24.0がリリースされた。ggmlは機械学習向けのテンソルライブラリ（C++製、MITライセンス、スター数15,352）であり、多くのローカルLLM推論エンジンの基盤として使われている。

今回のバージョンはバックエンドのカバレッジと堅牢性の拡張に焦点を当てており、新しい精度制御APIの導入や、Vulkan、SYCL、Hexagon、OpenCLなどの大幅なバックエンドの改善、各バックエンドにおける多数の修正とパフォーマンス改善が含まれている。

主な変更点

• 新しい精度制御APIとして ggml_prec が拡張され、GGML_PREC_BF16、F16、Q8、Q4 が追加された（GGML_PREC_DEFAULT は非推奨化）
• MUL_MAT や MUL_MAT_ID、フラッシュアテンションの精度を制御するための ggml_prec_set_acc() と ggml_prec_set_src() が追加され、従来の ggml_mul_mat_set_prec() や ggml_flash_attn_ext_set_prec() は非推奨となった
• バックエンドスケジューラーの変更により、バックエンド入力に対する余計な分割が行われないようになり、サイズが0のMoE ids テンソルがスキップされるようになった
• ビルド時間を短縮するため、PCH（プリコンパイル済みヘッダー）およびunity-buildのサポートが追加された

対応モデル・ハードウェア

• CPU: s390xにおける q4_0 と Q1_0 ベクトルイントリンシックスのリパックサポート、VXE専用ヘルパーのガード、非VXEテストが追加された
• CUDA / HIP / MUSA: AMD GCN向けの専用MMQ設定テーブルとgfx90c HIPサポートが追加された。BF16のハードウェアアクセラレーションがないデバイスではF32にフォールバックするようになり、gfx1201向けのフラッシュアテンションのチューニングが行われた
• Metal: M2 MaxおよびM3向けのフラッシュアテンションのベクトルチューニングが追加された
• Vulkan: TQ1_0および iq4_xs のサポート、タイプアラインされた GET_ROWS、f16 Bタイプの行列積パイプライン、DeepSeek-V4のハイパーコネクション融合演算などが追加された
• OpenCL: Adreno xmem SDPAパスの追加や、A8 q4_0/q4_K バイナリGEMMカーネルの追加が行われた
• SYCL: radix-selectによる top_k、バッチ処理の L2_NORM、MoE向けのIQタイプハンドリングが追加された
• Hexagon: マルチデバイスモデル分割（row-split）サポートと、RELU および LEAKY_RELU 演算が追加された
• WebGPU: Dawnの更新とタイプアラインされた GET_ROWS のサポートが追加された

アップデート方法

ソースコードからビルドする場合は、以下のコマンドを実行する。

git clone https://github.com/ggml-org/ggml
cd ggml

mkdir build && cd build
cmake..
cmake --build. --config Release -j 8

前回の記事からの更新履歴

当サイトがGitHubのリリース一覧から機械的にまとめた、この版と前回取り上げた版の間に出た版です(単独記事にはしていません)。 全ての版はエンジン別ページにあります。

関連記事

• llamafile 0.10.6公開、llama.cpp更新とCUDA/HIPのグラフ機能強化

出典

• https://github.com/ggml-org/ggml/releases/tag/v0.24.0