Pantheon-Reasoning-26B-A4B-1.1-V2 GGUF版が公開、ローカル実行向け量子化を提供
基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF |
| 公開日 | 2026-09-10 |
| ライセンス | apache-2.0 |
| 配布形式 | GGUF |
| 出典の種類 | 公開元の一次情報(一次情報(Gryphe)の出典がリンクのみで直接確認不可) |
収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。
概要
【重要】この記事で紹介する情報はまだ公式に確認が取れておらず、執筆時点での速報データに基づくものです。今後の検証や正式な発表によって詳細が変更される可能性がある点にご注意ください。
著名なアップローダーであるbartowski氏により、Gryphe氏のモデルを量子化したGGUF版 bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF が公開されたと報告されている。Gemma 4アーキテクチャをベースにしたロールプレイおよび推論特化型の26Bモデルであり、ローカル環境での実行に向けた多様な量子化ファイルが提供されている。
スペック
- ライセンス: apache-2.0
- ベースモデル: Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
- アーキテクチャ: Gemma4ForConditionalGeneration
性能
元モデルのモデルカードおよび公開された情報によると、ロールプレイ時における文章の質や推論トレースの挙動に関する比較データが示されている。比較対象ごとのライティング品質の傾向として、例えばType-token ratioはPantheon Reasoningが0.770、Pantheon Reasoning (no-think)が0.748と、ベースモデルの0.686から変化している。
また、クリシェ（決まり文句）の発生頻度については、Base instructが100ワードあたり1.141回であるのに対し、Pantheon Reasoningは0.546回、Pantheon Reasoning (no-think)は0.541回と大幅な削減が見られるとされている。一方で、思考プロセスを有効にすることで推論トレースの出力が行われるため、タスクに応じた応答長や遅延のトレードオフが存在する点には注意が必要である。
得意なこと・想定用途
元モデルは、Gemma 4 MoEアーキテクチャを採用したロールプレイおよび推論（reasoning）特化型のモデルとされている。キャラクターの心理描写やトーンの調整、物語の展開プランニングといった高度なクリエイティブライティングやロールプレイ用途を想定してファインチューニングが行われており、すべての推論ターンで思考プロセスが有効になるように学習されている。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 26.5B(元モデル Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2 の値)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4070 / 3060 12GB など 12GB | IQ2_S | 10.0GB | 12.0GB |
| RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB | IQ3_XS | 12.7GB | 15.2GB |
| RTX 4090 / 3090 など 24GB | Q5_K_M | 19.4GB | 23.2GB |
| RTX 5090 など 32GB | Q8_0 | 25.7GB | 30.9GB |
| A100 / H100 80GB クラス | BF16 | 48.4GB | 58.1GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| Edge0/Edge0-35B-A3B-preview | 34.7B | 80GB | apache-2.0 | Edge0、スマホクラスで動く35BのMoEモデル「Edge0-35B-A3B-preview」公開(2026-09-11) |
| nex-agi/Nex-N2.5-mini | 35.1B | 16GB | apache-2.0 | Nex-AGI、長期タスク向けオープンウェイトモデル「Nex-N2.5-mini」を公開(2026-09-09) |
| IFM/K2-Horizon-MoVA-36B-A4B-GGUF | 37.4B | — | apache-2.0 | IFM、K2-Horizon-MoVA-36B-A4BのGGUF版を公開：llama.cppに対応(2026-09-06) |
入手方法
GGUF形式で配布されており、Hugging Face CLI等を利用してダウンロード可能である。llama.cpp（リリースb10842以降推奨）、LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chatなどのエンジンで動作するとされている。
入手コマンドの例:
hf download bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF --include "Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q4_K_M.gguf" --local-dir./
関連記事
- Salience-27B-R6のGGUF量子化版公開、思考最適化された27Bマルチモーダルモデル
- マルチモーダル基盤モデル「Intern-S2-397B」のGGUF量子化版公開
- Orion-26B-A4B-v1.1のGGUF量子化版が公開、マルチモーダル対応
- bartowski、Nex-N2.5-mini-GGUFを公開、llama.cpp向け量子化モデル
出典
- https://huggingface.co/bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF
- https://huggingface.co/Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
更新履歴
- 2026-09-11: 公式の一次情報で内容を確認しました。HuggingFaceのGGUFモデルページが存在し、ローカル実行向け量子化データが公開されている。