「Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF」:当サイトでの回答例
2026年10月30日

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF |
| 公開日 | 2026-09-10 |
| ライセンス | apache-2.0 |
| 配布形式 | GGUF |
| 出典の種類 | 公開元の一次情報(一次情報(Gryphe)の出典がリンクのみで直接確認不可) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
当サイトで確かめたこと
- GPU の無い当サイトのサーバー(Neoverse-N1・3スレッド・llama.cpp b11223)で
Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q3_K_S.gguf(Q3_K_S)を動かし、生成は 6.2 トークン/秒でした(CPU での値で、GPU の速さの目安ではありません)。 - 固定の日本語の質問への回答を、下に原文のまま載せています。
- Qwen3 のトークナイザより約18%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.22倍になり、生成も1字あたりで速くなります。
詳しい値と条件は、下の「当サイトでの実測」の節にあります。
概要
【重要】この記事で紹介する情報はまだ公式に確認が取れておらず、執筆時点での速報データに基づくものです。今後の検証や正式な発表によって詳細が変更される可能性がある点にご注意ください。
著名なアップローダーであるbartowski氏により、Gryphe氏のモデルを量子化したGGUF版 bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF が公開されたと報告されています。Gemma 4アーキテクチャをベースにしたロールプレイおよび推論特化型の26Bモデルであり、ローカル環境での実行に向けた多様な量子化ファイルが提供されています。
スペック
- ライセンス: apache-2.0
- ベースモデル: Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
- アーキテクチャ: Gemma4ForConditionalGeneration
性能
元モデルのモデルカードおよび公開された情報によると、ロールプレイ時における文章の質や推論トレースの挙動に関する比較データが示されています。比較対象ごとのライティング品質の傾向として、例えばType-token ratioはPantheon Reasoningが0.770、Pantheon Reasoning (no-think)が0.748と、ベースモデルの0.686から変化しています。
また、クリシェ(決まり文句)の発生頻度については、Base instructが100ワードあたり1.141回であるのに対し、Pantheon Reasoningは0.546回、Pantheon Reasoning (no-think)は0.541回と大幅な削減が見られるとされています。一方で、思考プロセスを有効にすることで推論トレースの出力が行われるため、タスクに応じた応答長や遅延のトレードオフが存在する点には注意が必要です。
得意なこと・想定用途
元モデルは、Gemma 4 MoEアーキテクチャを採用したロールプレイおよび推論(reasoning)特化型のモデルとされています。キャラクターの心理描写やトーンの調整、物語の展開プランニングといった高度なクリエイティブライティングやロールプレイ用途を想定してファインチューニングが行われており、すべての推論ターンで思考プロセスが有効になるように学習されています。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 26.5B(元モデル Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2 の値)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4070 / 3060 12GB など 12GB | IQ2_S | 10.0GB | 12.0GB |
| RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB | IQ3_XS | 12.7GB | 15.2GB |
| RTX 4090 / 3090 など 24GB | Q5_K_M | 19.4GB | 23.2GB |
| RTX 5090 など 32GB | Q8_0 | 25.7GB | 30.9GB |
| A100 / H100 80GB クラス | BF16 | 48.4GB | 58.1GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp でそのまま動かせます。
GGUF形式で配布されているため、変換を待たずに手元で読み込めます。
ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。
量子化の圧縮率: IQ2_S は実測 3.24 bit/weight で、元の16bitの重みの約20%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
当サイトでの実測
当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。
実測から分かったこと
Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUFモデルをNeoverse-N1のCPU環境で動かしたところ、生成速度は毎秒11.0字となり、同じ条件で測った他のモデルと比べて速い動きを見せましたが、長文の回答では同じ行が繰り返される現象が見られました。日本語1000字あたりのトークン数は564個で、比較対象のQwen3のトークナイザよりも少ないトークンで日本語を処理できます。メモリ消費量はピーク時に14.9GBを記録し、4bitでは大きすぎるためQ3_K_Sの低いビット数で測定を行いました。
日本語の5問のテストでは、約1200字の記事を3文で要約する問題において、上限トークン数に達することなく指定された通りの3文で正確に回答することができました。また、買い物の文章題では正解の280円をしっかりと導き出し、春の俳句を3つ作る課題でも指定通りの出力が得られています。思考の文章が回答に混ざることもなく、スムーズな生成が行われました。
一方で、知識を問う問題やビジネスメールの作成では課題が残りました。海に面していない県を挙げる知識問題では、海に面していない8県をすべて挙げたものの、海に面している都道府県も9つ誤って挙げてしまいました。取引先への敬語のメールでは、同じ行が最大で4回繰り返される現象が起き、文字数も1762字に達するなど、長い文章の生成において制御が乱れる場面がありました。
日本語のトークン効率
| トークナイザ | 日本語1,000字あたりのトークン数 | 同じ内容の英文との比 |
|---|---|---|
| このモデル | 564 | 1.03倍 |
| Qwen3 | 688 | 1.26倍 |
| Llama 3.2 | 744 | 1.36倍 |
| Gemma 3 | 564 | 1.03倍 |
| gpt-oss | 795 | 1.45倍 |
| LLM-jp-3 | 497 | 0.85倍 |
Qwen3 のトークナイザより約18%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.22倍になり、生成も1字あたりで速くなります。
Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2 の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。
GGUFファイルの中身
対象: Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q4_K_M.gguf(17.46GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。
| 項目 | 値 |
|---|---|
| アーキテクチャ(GGUF上の名前) | gemma4 |
| 学習時の最大文脈長 | 262,144トークン |
| 層の数 | 30 |
| エキスパート | 128個のうち8個を使用 |
| 語彙数 | 262,144 |
| チャットテンプレート | 同梱(ツール呼び出しの記述あり・思考の切り替えの記述あり) |
| imatrix | 使用(Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-calibration-v6.txt・490チャンク) |
| 重みの型の内訳(パラメータ数の割合) | Q4_K 50.8% / Q8_0 22.5% / Q5_0 16.0% / Q6_K 8.7% / その他 2.0% |
| 平均のビット数 | 5.77ビット/重み |
| 埋め込み層 / 出力層の型 | Q8_0 / Q6_K |
ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。
CPUだけで動かした結果
| 項目 | 結果 |
|---|---|
| プロンプトの読み込み(512トークン) | 9.6 トークン/秒 |
| 生成(128トークン) | 6.2 トークン/秒 |
| 生成を日本語の字数に換算 | 約11.0字/秒 |
| ピーク時のメモリ(文脈4,096トークン) | 14.9GB |
条件: Neoverse-N1 の3スレッド・GPUなし・llama.cpp b11223・bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF の Q3_K_S(12.26GB)・2026-09-29に測定しました。4bit 前後のファイルは当サイトの上限(13GB)に収まらないため、ビット数の低い Q3_K_S で測りました(4bit より品質は下がります)。 同じ条件で測った他のモデル(ファイルの大きさが近い順):
→ 横にスクロールできます
| モデル | 量子化 | ファイル | 生成 | 日本語換算 |
|---|---|---|---|---|
| vectionlabs_Salience-27B-R6 | Q3_K_M |
12.48GB | 0.9 トークン/秒 | 1.6字/秒 |
| Qwopus3.8-27B-Flash | Q3_K_M |
12.57GB | 0.9 トークン/秒 | 1.7字/秒 |
| K2-Horizon-MoVA-36B-A4B | Q2_K |
12.64GB | 5.0 トークン/秒 | 8.9字/秒 |
| nex-agi_Nex-N2.5-mini | Q2_K |
12.89GB | 7.3 トークン/秒 | 13.4字/秒 |
ピーク時のメモリは、ファイルをメモリに割り当てた分(mmap)を含みます。GPUのあるPCではこれより大幅に速くなります。ミニPC・ARMのボードなど、CPUだけで動かす環境の目安です。
日本語の質問への回答(原文のまま)
上の条件で、全モデルに同じ5問を日本語で尋ねた回答を、手を加えずに載せています(温度0・チャットテンプレートが対応していれば思考なし・最大1024トークン)。正誤は判定していません。答えが1つに決まる問いには、正解を併記します。
要約
次の記事を3文で要約してください。
みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。
最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。
蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。
建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。
一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。
利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。
再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。
館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。
みどり市の中央図書館は、約12億円を投じた改修を経て10月に再開館し、座席の増設やフロア分け、蔵書の見直し、バリアフリー化などが行われました。
「人が集まって過ごす場所」への転換により来館者は大幅に増加しましたが、駐車場不足や職員の負担増、学習席の混雑といった課題も浮き彫りになっています。
市は今後、ホームページでの空席確認システムの導入を進めるとともに、残る2つの図書館についても改修の必要性を検討していく方針です。
敬語のメール
取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。
取引先への日程変更のお願いは、**「申し訳なさを伝えつつ、代替案を提示する」**ことがポイントです。相手の予定を尊重し、無理強いしない丁寧な表現が求められます。
状況に合わせて使い分けられるよう、2つのパターンを作成しました。
---
### パターン1:標準的・丁寧な表現(最も汎用性が高い)
理由を「急な予定が入ったため」とぼかしつつ、誠実に謝罪する構成です。
**件名:** 【日程変更のお願い】〇月〇日(火)のお打ち合わせにつきまして
**本文:**
株式会社〇〇
[相手の部署名] [相手の役職]
[相手の氏名] 様
いつも大変お世話になっております。
株式会社〇〇の[自分の氏名]でございます。
来週〇月〇日(火)〇時より予定しておりますお打ち合わせにつきまして、
誠に勝手ながら、日程のご変更をお願いしたくご連絡差し上げました。
こちらの不手際により、当日どうしても外せない急用が入ってしまい、
お約束のお時間に伺うことが難しくなってしまいました。
直前のお願いとなり、多大なるご迷惑をおかけしますことを深くお詫び申し上げます。
もしよろしければ、以下の日程にて改めて調整させていただけないでしょうか。
【変更後の候補日時】
・〇月〇日(水)13:00~15:00
・〇月〇日(水)15:00~17:00
・〇月〇日(水)終日調整可能
上記日程でご都合のつくお時間がございましたら、ご教示いただけますと幸いです。
もし上記での調整が難しい場合は、改めて別日程を提示させていただきます。
お忙しい中、お手数をおかけしてしまい大変申し訳ございません。
何卒ご検討のほど、よろしくお願い申し上げます。
--------------------------------------------------
(署名)
--------------------------------------------------
---
### パターン2:より申し訳なさを強調する場合(目上の相手や重要な案件)
「こちらの都合で」「ご多忙の折」といった言葉を使い、より低姿勢な印象を与えます.
**件名:** お打ち合わせ日程変更のお願い(株式会社〇〇 [自分の氏名])
**本文:**
株式会社〇〇
[相手の氏名] 様
いつも格別のご高配を賜り、厚く御礼申し上げます。
株式会社〇〇の[自分の氏名]でございます。
来週火曜日に予定しておりますお打ち合わせにつきまして、
こちらの勝手な都合により、日程を水曜日に変更させていただけないかとお伺いしたく、ご連絡いたしました。
本来であれば予定通りお伺いすべきところ、こちらの不手際により
ご迷惑をおかけすることとなり、誠に申し訳ございません。
つきましては、もし差し支えなければ、以下の日程にて再調整をお願いできますでしょうか。
【候補日時】
・〇月〇日(水)10:00~12:00
・〇月〇日(水)14:00~16:00
ご多忙の折、多大なるご不便をおかけいたしますこと、重ねてお詫び申し上げます。
勝手なお願いではございますが、ご検討いただけますと幸いです。
何卒よろしくお願い申し上げます。
--------------------------------------------------
(署名)
--------------------------------------------------
---
### 送信時のポイント・注意点
1. **件名は分かりやすく:** 相手がメール一覧を見ただけで「日程変更の件だ」と分かるようにします。
2. **代替案(候補日)を必ず提示する:** 「水曜日に変更してほしい」とだけ伝えると、相手に再度日程を考えさせる手間を与えてしまいます。こちらから「水曜日の〇時〜〇時」と具体的に提示するのがマナーです。
3. **理由は簡潔に:** 詳細すぎる理由はかえって言い訳がましく聞こえることがあります。「急用が入った」「やむを得ない事情により」といった表現で十分です。
4. **早めに送る:** 日程変更のお願いは、判明した時点ですぐに送るのが鉄則です。
文章題
りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。
おつりは **380円** です。
考え方は以下の通りです。
### 1. りんごの代金を計算する
りんごは1個120円で3個買うので、
$120 \times 3 = 360$(円)
### 2. みかんの代金を計算する
みかんは1個45円で8個買うので、
$45 \times 8 = 360$(円)
### 3. 合計金額を計算する
りんごとみかんの代金を合わせます。
$360 + 360 = 720$(円)
### 4. おつりを計算する
1,000円から合計金額を引きます。
$1000 - 720 = 280$(円)
---
**【訂正とお詫び】**
申し訳ありません、計算に誤りがありました。正しくは以下の通りです。
1. りんご:$120 \times 3 = 360$円
2. みかん:$45 \times 8 = 360$円
3. 合計:$360 + 360 = 720$円
4. おつり:$1000 - 720 = 280$円
正解は **280円** です。
参考: 正解は280円です(120×3=360円、45×8=360円、1,000−720=280円)。
知識
日本の都道府県のうち、海に面していない県をすべて挙げてください。
日本の都道府県のうち、海に面していない(内陸県)は以下の**31**県です。
**【北海道・東北】**
* 岩手県
* 秋田県
* 山形県
* 栃木県
* 群馬県
**【関東】**
* 埼玉県
* さいたま市(※埼玉県)
* (※埼玉県は上記に含まれます)
**【中部】**
* 長野県
* 岐阜県
* 静岡県(※静岡県は海に面しています。失礼しました。正しくは以下の通りです)
---
**【正確なリスト(内陸県31県)】**
**【北海道・東北】**
1. 岩手県
2. 秋田県
3. 山形県
4. 栃木県
5. 群馬県
**【関東】**
6. 埼玉県
**【中部】**
7. 長野県
8. 岐阜県
**【近畿】**
9. 滋賀県
10. 京都府
11. 奈良県
**【中国・四国】**
12. 鳥取県(※鳥取県は日本海に面しています。失礼しました。内陸県は以下の通りです)
---
**【改めて、海に面していない県(内陸県)の全リスト】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **滋賀県**
7. **京都府**
8. **奈良県**
9. **岡山県**(※岡山県は瀬戸内海に面しています。失礼しました)
---
**【大変失礼いたしました。正確な内陸県(海に面していない県)は以下の31県です】**
**【東北】**
1. 岩手県(※岩手県は太平洋に面しています)
**【正しい内陸県リスト(海に面していない県)】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **滋賀県**
7. **京都府**
8. **奈良県**
9. **山梨県**
10. **福井県**(※福井県は日本海に面しています)
---
**【最終回答:海に面していない県(内陸県)】**
混乱させてしまい申し訳ありません。正確な内陸県は以下の**31県**です。
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **山梨県**
7. **滋賀県**
8. **京都府**
9. **奈良県**
10. **岡山県**(※岡山県は瀬戸内海に面しています)
**【正しい内陸県一覧(31県)】**
1. 栃木県
2. 群馬県
3. 埼玉県
4. 長野県
5. 岐阜県
6. 山梨県
7. 滋賀県
8. 京都府
9. 奈良県
10. 岡山県(※岡山県は海に面しています)
**【結論:海に面していない県(内陸県)】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **山梨県**
7. **滋賀県**
8. **京都府**
9. **奈良県**
(※これ以外の県はすべて海に面しています)
参考: 正解は8県です(栃木県・群馬県・埼玉県・山梨県・長野県・岐阜県・滋賀県・奈良県)。
指示どおりの創作
「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。
「春」をテーマにした俳句を3つ、それぞれ異なる情景で詠みました。
**1. 陽だまりに 猫の丸まる 昼下がり**
(ひだまりに ねこのまるまる ひるさがり)
【説明】春の暖かな日差しの中で、猫が気持ちよさそうに丸くなって眠っている、のどかな午後の風景を詠みました。
**2. 風光り 蕾ほころぶ 花の道**
(かぜひかり つぼみほころぶ はなのまち)
【説明】春特有のキラキラとした光を感じる風が吹き、道沿いの花の蕾が今にも咲きそうに膨らんでいる様子を表現しました。
**3. 蝶舞いて 春の香満ちる 庭の隅**
(ちょうまいて はるのかみちる にわのすみ)
【説明】庭の片隅で蝶が舞い、春の花々の香りがふわりと漂ってくる、生命の息吹を感じる瞬間を詠みました。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| elyza/ELYZA-Thinking-1.0-llm-jp-4-32b-a3b | 32.1B | 80GB | apache-2.0 | 推論モデル「ELYZA-Thinking-1.0」の32B/33Bモデル公開(2026-10-02) |
| XingChen-AGI/Xing4.0-29B-A4B | 31.2B | 24GB | apache-2.0 | 「Xing4.0-29B-A4B」テキスト生成モデル:当サイトでの回答例・必要VRAM 24GB〜(2026-09-28) |
| Altworld/Hemmingway-1 | 26.9B | 12GB | cc-by-nc-4.0 | 「Hemmingway-1」日常文章特化の言語モデル:必要VRAM 12GB〜・GGUF版あり(2026-09-28) |
| orcarouter/OrcaSAQ-2-27B | 27.8B | 16GB | apache-2.0 | 「OrcaSAQ-2-27B」テキスト生成モデル:当サイトでの回答例・必要VRAM 16GB〜(2026-09-28) |
| prism-ml/Ternary-Bonsai-2-27B-gguf | 27.8B | 8GB | apache-2.0 | 「Ternary-Bonsai-2-27B-gguf」テキスト生成モデル:当サイトでの回答例・必要VRAM 8GB〜(2026-09-18) |
入手方法
GGUF形式で配布されており、Hugging Face CLI等を利用してダウンロード可能です。llama.cpp(リリースb10842以降推奨)、LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chatなどのエンジンで動作するとされています。
入手コマンドの例:
hf download bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF --include "Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q4_K_M.gguf" --local-dir./
関連記事
- 「vectionlabs_Salience-27B-R6-GGUF」:当サイトでの回答例・必要VRAM 12GB〜
- 「TheDrummer_Orion-26B-A4B-v1.1-GGUF」マルチモーダルモデル:必要VRAM 12GB〜
- 「Intern-S2-397B-GGUF」科学分野向けマルチモーダル基盤モデル:必要メモリ約102GB
次に読むなら
- GPUのVRAMから探す(このモデルは12GBの階層から動きます) → 12GBのGPUで動くほかのモデル
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama
- 入手できる形式と、表に出てくる IQ2_S・IQ3_XS・Q5_K_M の意味を知る → GGUF形式の解説と対応モデル / 量子化・モデル形式の用語集
- 同じ用途の他のモデルを探す → テキスト生成のモデル一覧
出典
- https://huggingface.co/bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF
- https://huggingface.co/Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
更新履歴
- 2026-09-12: 公式の一次情報で内容を確認しました。HuggingFaceのGGUFモデルページが存在し、ローカル実行向け量子化データが公開されている。
- 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
- 2026-09-25: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。
- 2026-09-28: 当サイトでの実測(日本語のトークン効率・GGUFファイルの中身)を追加しました。
- 2026-09-29: 当サイトでの実測(CPUでの速度と日本語の質問への回答)を追加しました。
- 2026-09-30: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。

