llama.cpp の更新履歴と概要

2026年9月17日2026年10月29日

C/C++で書かれたLLM推論エンジン。GGUF形式のモデルをCPU・GPU(CUDA / Metal / Vulkan / ROCm)で動かす。ローカルLLMのエコシステムの土台で、Ollama・LM Studio・KoboldCppなどが内部で使っている。

分類: 推論エンジン・ランタイム。推論エンジン・ツール一覧の1ページです。

基本情報

プロジェクト自身の説明(原文): “LLM inference in C/C++”

更新履歴

当サイトがGitHubのリリース一覧から機械的にまとめたものです。プレリリースは載せていません。単独記事を書いた版は右端の列から読めます。それ以外の版はこの表でだけ追跡しています。

当サイトの CPU での速さ(版ごと)

当サイトのサーバー(GPU なし、Neoverse-N1 の3スレッド)で、毎回同じモデル(unsloth/Qwen3-0.6B-GGUF の Qwen3-0.6B-Q4_K_M.gguf、版 50968a4468)を llama-bench(プロンプト512トークン・生成128トークン)で測りました。v0.5.0 のような版には公式のバイナリが付かないので、その版を含む最初の公式配布(ubuntu-arm64)で測り、「+N」はその配布が版より何コミット先かです。CPU での値で GPU の速さの目安ではありません。小さな差は測るたびのばらつき(± は標準偏差)の範囲のことがあります。

当サイトの記事

• 2026-10-06 llama.cpp v0.6.0リリース：新バッチAPIやMetal高速化、新モデル対応
• 2026-09-24 C/C++ LLM推論ライブラリ「llama.cpp v0.5.0」リリース
• 2026-09-15 llama.cpp v0.4.1公開：ロード方式の変更と新モデルサポート

最終更新 2026-10-29(JST)。基本情報はGitHub APIの値、冒頭の説明は当サイトの運営者が AI を用いて書いたものです。