Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF: Our Test Answers
October 30, 2026

At a Glance
| Item | Value |
|---|---|
| Repository | bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF |
| Published | 2026-09-10 |
| License | apache-2.0 |
| Formats | GGUF |
| Source type | Primary source (the publisher itself) |
Values determined by this site’s code when the information was collected. Dates are JST.
What we checked ourselves
- Ran
Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q3_K_S.gguf(Q3_K_S) on our CPU-only server (Neoverse-N1, 3 threads, llama.cpp b11223): generation at 6.2 tokens/s (a CPU figure, not a GPU speed). - Its answers to our fixed Japanese questions are shown verbatim below.
- It needs about 18% fewer tokens than the Qwen3 tokenizer for the same Japanese text, so about 1.22× as much Japanese fits in the same context length, and generation is faster per character.
Details and conditions are in “Our Own Measurements” below.
Overview
[Important] The information introduced in this article has not yet been officially confirmed and is based on breaking data at the time of writing. Please note that details may change due to future verification or official announcements.
It is reported that the prominent uploader bartowski has released a GGUF quantized version of Gryphe’s model, bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF. This is a 26B model specialized for roleplay and reasoning based on the Gemma 4 architecture, and various quantized files are provided for local execution.
Specifications
- License: apache-2.0
- Base Model: Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
- Architecture: Gemma4ForConditionalGeneration
Performance
According to the base model’s model card and published information, comparison data regarding text quality and reasoning trace behavior during roleplay has been shown. As for writing quality trends across different comparison targets, for example, the Type-token ratio is 0.770 for Pantheon Reasoning and 0.748 for Pantheon Reasoning (no-think), shifting from 0.686 for the base model.
Additionally, regarding the frequency of cliché occurrences, it is reported that while Base instruct has 1.141 occurrences per 100 words, Pantheon Reasoning sees a significant reduction to 0.546 occurrences, and Pantheon Reasoning (no-think) to 0.541 occurrences. On the other hand, since enabling the thinking process outputs reasoning traces, users should note that there is a trade-off regarding response length and latency depending on the task.
Strengths and Use Cases
The base model is reported to be a model specialized for roleplay and reasoning that adopts the Gemma 4 MoE architecture. It has been fine-tuned with advanced creative writing and roleplay use cases in mind, such as character psychological description, tone adjustment, and narrative development planning, and is trained so that the thinking process is enabled across all reasoning turns.
Hardware Requirements
Estimated requirements (calculated by Local Model Watch) — 26.5B parameters (taken from the base model Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2)
| Your VRAM | Quantization | File size | Est. memory needed |
|---|---|---|---|
| 12GB (RTX 4070 / 3060 12GB, etc.) | IQ2_S | 10.0GB | 12.0GB |
| 16GB (RTX 5060 Ti 16GB / 4060 Ti 16GB, etc.) | IQ3_XS | 12.7GB | 15.2GB |
| 24GB (RTX 4090 / 3090, etc.) | Q5_K_M | 19.4GB | 23.2GB |
| 32GB (RTX 5090, etc.) | Q8_0 | 25.7GB | 30.9GB |
| 80GB class (A100 / H100) | BF16 | 48.4GB | 58.1GB |
Memory estimates add a 20% runtime overhead (KV cache, etc.) to the actual size of the distributed files. Actual usage varies with context length, batch size and inference engine. These figures are computed by this site from file sizes, not published by the model’s authors. Compare with other models in our VRAM quick reference. What the quantization names mean: glossary.
Can You Run It Locally?
Runs in Ollama, LM Studio and llama.cpp as-is.
It is distributed in GGUF, so no conversion is needed.
License — apache-2.0 (Commercial use allowed): Permits commercial use, modification and redistribution. Redistribution requires including the license and stating changes; includes a patent grant.
Compression: the IQ2_S build measures 3.24 bits per weight — about 20% the size of the original 16-bit weights, calculated by this site from the actual file sizes.
Compiled by this site’s code from the published formats, converted builds we have found, and each engine’s own model registry. “Not found" means we have not seen such a build, not that none exists. License summaries are not legal advice — check the publisher’s original terms before relying on them.
Our Own Measurements
Values we measured ourselves on our server (no GPU) by actually reading and running this model’s files — not figures copied from the model card. How we measure, and the results for every model: Our Measurements.
What We Found
When running the Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF model on a Neoverse-N1 CPU environment, the generation speed reached 11.0 characters per second, showing faster performance compared to other models measured under the same conditions, although longer responses suffered from repeated lines. The token count per 1,000 Japanese characters is 564, meaning it can process Japanese with fewer tokens than the compared Qwen3 tokenizer. Memory consumption peaked at 14.9 GB, and because the 4-bit version was too large, measurements were taken using the lower Q3_K_S bit quantization.
In the five Japanese test questions, the model successfully answered the task of summarizing an article of about 1,200 characters in exactly three sentences without hitting the token limit and as instructed. It also correctly derived the right answer of 280 yen for the shopping word problem and generated three spring haikus as requested. The outputs were produced smoothly without any internal reasoning text mixed into the final answers.
On the other hand, issues remained in knowledge retrieval and business email generation. For the question asking for prefectures not facing the sea, while it successfully listed all 8 landlocked prefectures, it also incorrectly included 9 prefectures that actually do face the sea. In the task of writing a polite business email to a client, a phenomenon occurred where the same line was repeated up to 4 times, and the length reached 1,762 characters, showing that control can break down during the generation of longer texts.
Japanese Token Efficiency
| Tokenizer | Tokens per 1,000 Japanese characters | Ratio to the same text in English |
|---|---|---|
| This model | 564 | 1.03× |
| Qwen3 | 688 | 1.26× |
| Llama 3.2 | 744 | 1.36× |
| Gemma 3 | 564 | 1.03× |
| gpt-oss | 795 | 1.45× |
| LLM-jp-3 | 497 | 0.85× |
It needs about 18% fewer tokens than the Qwen3 tokenizer for the same Japanese text, so about 1.22× as much Japanese fits in the same context length, and generation is faster per character.
Counted with the tokenizer.json of Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2 on a fixed text we wrote ourselves (876 Japanese characters across news, conversation, technical docs, a formal email, travel writing and a recipe) and its English translation. Fewer tokens mean more Japanese fits in the context window.
Inside the GGUF File
File: Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q4_K_M.gguf (17.46GB, Q4_K_M). We read only the header (metadata) of the file, not the weights.
| Item | Value |
|---|---|
| Architecture (as named in the GGUF) | gemma4 |
| Maximum trained context length | 262,144 tokens |
| Layers | 30 |
| Experts | 8 active out of 128 |
| Vocabulary size | 262,144 |
| Chat template | Included (mentions tool calls, has a thinking switch) |
| imatrix | Used (Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-calibration-v6.txt, 490 chunks) |
| Weight types (share of parameters) | Q4_K 50.8% / Q8_0 22.5% / Q5_0 16.0% / Q6_K 8.7% / other 2.0% |
| Average bits per weight | 5.77 bits |
| Embedding / output layer type | Q8_0 / Q6_K |
The quant name in the file name describes the file as a whole; in practice layers mix several types. The average bits per weight is the measured file data divided by the number of weights.
Running It on a CPU Only
| Item | Result |
|---|---|
| Prompt processing (512 tokens) | 9.6 tokens/s |
| Generation (128 tokens) | 6.2 tokens/s |
| Generation in Japanese characters | about 11.0 characters/s |
| Peak memory (context 4,096 tokens) | 14.9GB |
Conditions: Neoverse-N1, 3 threads, no GPU, llama.cpp b11223, Q3_K_S (12.26GB) from bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF, measured 2026-09-29 (JST). The 4-bit files did not fit our 13GB limit, so we measured the lower-bit Q3_K_S file; quality is lower than at 4 bits. Other models measured under the same conditions (closest in file size):
→ Scroll horizontally to see all columns
| Model | Quant | File size | Generation | In Japanese |
|---|---|---|---|---|
| vectionlabs_Salience-27B-R6 | Q3_K_M |
12.48GB | 0.9 tokens/s | 1.6 chars/s |
| Qwopus3.8-27B-Flash | Q3_K_M |
12.57GB | 0.9 tokens/s | 1.7 chars/s |
| K2-Horizon-MoVA-36B-A4B | Q2_K |
12.64GB | 5.0 tokens/s | 8.9 chars/s |
| nex-agi_Nex-N2.5-mini | Q2_K |
12.89GB | 7.3 tokens/s | 13.4 chars/s |
Peak memory includes the model file mapped into memory (mmap). A PC with a GPU will be much faster; these figures are a guide for CPU-only machines such as mini PCs and ARM boards.
Answers to Our Japanese Questions (Verbatim)
We ask every model the same five questions in Japanese under the conditions above (temperature 0, thinking turned off where the chat template allows it, up to 1024 tokens) and publish the answers unedited. We do not grade them; where a question has a single correct answer, we show it for comparison.
Summarization
次の記事を3文で要約してください。
みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。
最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。
蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。
建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。
一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。
利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。
再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。
館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。
(Summarize the following article in three sentences. (The article, about 1,200 Japanese characters, describes the renovation and reopening of a city’s central library: the budget, the new floor layout and seating, changes to the collection and e-book lending, building and accessibility work, remaining issues such as parking and staff workload, users’ reactions, new events, and the city’s next steps.))
みどり市の中央図書館は、約12億円を投じた改修を経て10月に再開館し、座席の増設やフロア分け、蔵書の見直し、バリアフリー化などが行われました。
「人が集まって過ごす場所」への転換により来館者は大幅に増加しましたが、駐車場不足や職員の負担増、学習席の混雑といった課題も浮き彫りになっています。
市は今後、ホームページでの空席確認システムの導入を進めるとともに、残る2つの図書館についても改修の必要性を検討していく方針です。
Formal business email
取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。
(Write an email in polite Japanese (keigo) asking a client’s contact person to move next Tuesday’s meeting to Wednesday.)
取引先への日程変更のお願いは、**「申し訳なさを伝えつつ、代替案を提示する」**ことがポイントです。相手の予定を尊重し、無理強いしない丁寧な表現が求められます。
状況に合わせて使い分けられるよう、2つのパターンを作成しました。
---
### パターン1:標準的・丁寧な表現(最も汎用性が高い)
理由を「急な予定が入ったため」とぼかしつつ、誠実に謝罪する構成です。
**件名:** 【日程変更のお願い】〇月〇日(火)のお打ち合わせにつきまして
**本文:**
株式会社〇〇
[相手の部署名] [相手の役職]
[相手の氏名] 様
いつも大変お世話になっております。
株式会社〇〇の[自分の氏名]でございます。
来週〇月〇日(火)〇時より予定しておりますお打ち合わせにつきまして、
誠に勝手ながら、日程のご変更をお願いしたくご連絡差し上げました。
こちらの不手際により、当日どうしても外せない急用が入ってしまい、
お約束のお時間に伺うことが難しくなってしまいました。
直前のお願いとなり、多大なるご迷惑をおかけしますことを深くお詫び申し上げます。
もしよろしければ、以下の日程にて改めて調整させていただけないでしょうか。
【変更後の候補日時】
・〇月〇日(水)13:00~15:00
・〇月〇日(水)15:00~17:00
・〇月〇日(水)終日調整可能
上記日程でご都合のつくお時間がございましたら、ご教示いただけますと幸いです。
もし上記での調整が難しい場合は、改めて別日程を提示させていただきます。
お忙しい中、お手数をおかけしてしまい大変申し訳ございません。
何卒ご検討のほど、よろしくお願い申し上げます。
--------------------------------------------------
(署名)
--------------------------------------------------
---
### パターン2:より申し訳なさを強調する場合(目上の相手や重要な案件)
「こちらの都合で」「ご多忙の折」といった言葉を使い、より低姿勢な印象を与えます.
**件名:** お打ち合わせ日程変更のお願い(株式会社〇〇 [自分の氏名])
**本文:**
株式会社〇〇
[相手の氏名] 様
いつも格別のご高配を賜り、厚く御礼申し上げます。
株式会社〇〇の[自分の氏名]でございます。
来週火曜日に予定しておりますお打ち合わせにつきまして、
こちらの勝手な都合により、日程を水曜日に変更させていただけないかとお伺いしたく、ご連絡いたしました。
本来であれば予定通りお伺いすべきところ、こちらの不手際により
ご迷惑をおかけすることとなり、誠に申し訳ございません。
つきましては、もし差し支えなければ、以下の日程にて再調整をお願いできますでしょうか。
【候補日時】
・〇月〇日(水)10:00~12:00
・〇月〇日(水)14:00~16:00
ご多忙の折、多大なるご不便をおかけいたしますこと、重ねてお詫び申し上げます。
勝手なお願いではございますが、ご検討いただけますと幸いです。
何卒よろしくお願い申し上げます。
--------------------------------------------------
(署名)
--------------------------------------------------
---
### 送信時のポイント・注意点
1. **件名は分かりやすく:** 相手がメール一覧を見ただけで「日程変更の件だ」と分かるようにします。
2. **代替案(候補日)を必ず提示する:** 「水曜日に変更してほしい」とだけ伝えると、相手に再度日程を考えさせる手間を与えてしまいます。こちらから「水曜日の〇時〜〇時」と具体的に提示するのがマナーです。
3. **理由は簡潔に:** 詳細すぎる理由はかえって言い訳がましく聞こえることがあります。「急用が入った」「やむを得ない事情により」といった表現で十分です。
4. **早めに送る:** 日程変更のお願いは、判明した時点ですぐに送るのが鉄則です。
Word problem
りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。
(Apples cost 120 yen each and mandarins cost 45 yen each. You buy 3 apples and 8 mandarins and pay with a 1,000-yen bill. How much change do you get? Show your reasoning.)
おつりは **380円** です。
考え方は以下の通りです。
### 1. りんごの代金を計算する
りんごは1個120円で3個買うので、
$120 \times 3 = 360$(円)
### 2. みかんの代金を計算する
みかんは1個45円で8個買うので、
$45 \times 8 = 360$(円)
### 3. 合計金額を計算する
りんごとみかんの代金を合わせます。
$360 + 360 = 720$(円)
### 4. おつりを計算する
1,000円から合計金額を引きます。
$1000 - 720 = 280$(円)
---
**【訂正とお詫び】**
申し訳ありません、計算に誤りがありました。正しくは以下の通りです。
1. りんご:$120 \times 3 = 360$円
2. みかん:$45 \times 8 = 360$円
3. 合計:$360 + 360 = 720$円
4. おつり:$1000 - 720 = 280$円
正解は **280円** です。
Reference: The correct answer is 280 yen (120×3 = 360, 45×8 = 360, 1,000 − 720 = 280).
Knowledge
日本の都道府県のうち、海に面していない県をすべて挙げてください。
(List all of Japan’s prefectures that do not border the sea.)
日本の都道府県のうち、海に面していない(内陸県)は以下の**31**県です。
**【北海道・東北】**
* 岩手県
* 秋田県
* 山形県
* 栃木県
* 群馬県
**【関東】**
* 埼玉県
* さいたま市(※埼玉県)
* (※埼玉県は上記に含まれます)
**【中部】**
* 長野県
* 岐阜県
* 静岡県(※静岡県は海に面しています。失礼しました。正しくは以下の通りです)
---
**【正確なリスト(内陸県31県)】**
**【北海道・東北】**
1. 岩手県
2. 秋田県
3. 山形県
4. 栃木県
5. 群馬県
**【関東】**
6. 埼玉県
**【中部】**
7. 長野県
8. 岐阜県
**【近畿】**
9. 滋賀県
10. 京都府
11. 奈良県
**【中国・四国】**
12. 鳥取県(※鳥取県は日本海に面しています。失礼しました。内陸県は以下の通りです)
---
**【改めて、海に面していない県(内陸県)の全リスト】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **滋賀県**
7. **京都府**
8. **奈良県**
9. **岡山県**(※岡山県は瀬戸内海に面しています。失礼しました)
---
**【大変失礼いたしました。正確な内陸県(海に面していない県)は以下の31県です】**
**【東北】**
1. 岩手県(※岩手県は太平洋に面しています)
**【正しい内陸県リスト(海に面していない県)】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **滋賀県**
7. **京都府**
8. **奈良県**
9. **山梨県**
10. **福井県**(※福井県は日本海に面しています)
---
**【最終回答:海に面していない県(内陸県)】**
混乱させてしまい申し訳ありません。正確な内陸県は以下の**31県**です。
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **山梨県**
7. **滋賀県**
8. **京都府**
9. **奈良県**
10. **岡山県**(※岡山県は瀬戸内海に面しています)
**【正しい内陸県一覧(31県)】**
1. 栃木県
2. 群馬県
3. 埼玉県
4. 長野県
5. 岐阜県
6. 山梨県
7. 滋賀県
8. 京都府
9. 奈良県
10. 岡山県(※岡山県は海に面しています)
**【結論:海に面していない県(内陸県)】**
1. **栃木県**
2. **群馬県**
3. **埼玉県**
4. **長野県**
5. **岐阜県**
6. **山梨県**
7. **滋賀県**
8. **京都府**
9. **奈良県**
(※これ以外の県はすべて海に面しています)
Reference: The correct answer is eight prefectures: Tochigi, Gunma, Saitama, Yamanashi, Nagano, Gifu, Shiga and Nara.
Constrained writing
「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。
(Write three haiku on the theme of spring, keeping the 5-7-5 syllable pattern, each with a one-line explanation.)
「春」をテーマにした俳句を3つ、それぞれ異なる情景で詠みました。
**1. 陽だまりに 猫の丸まる 昼下がり**
(ひだまりに ねこのまるまる ひるさがり)
【説明】春の暖かな日差しの中で、猫が気持ちよさそうに丸くなって眠っている、のどかな午後の風景を詠みました。
**2. 風光り 蕾ほころぶ 花の道**
(かぜひかり つぼみほころぶ はなのまち)
【説明】春特有のキラキラとした光を感じる風が吹き、道沿いの花の蕾が今にも咲きそうに膨らんでいる様子を表現しました。
**3. 蝶舞いて 春の香満ちる 庭の隅**
(ちょうまいて はるのかみちる にわのすみ)
【説明】庭の片隅で蝶が舞い、春の花々の香りがふわりと漂ってくる、生命の息吹を感じる瞬間を詠みました。
Recent Models in the Same Size Class
Models with 15–40B parameters that Local Model Watch covered recently, listed by code from our article log for comparison. VRAM tiers are this site’s estimates; licenses are as stated on the model cards.
→ Scroll horizontally to see all columns
| Model | Parameters | Smallest VRAM tier | License | Our article |
|---|---|---|---|---|
| elyza/ELYZA-Thinking-1.0-llm-jp-4-32b-a3b | 32.1B | 80GB | apache-2.0 | ELYZA Releases ELYZA-Thinking-1.0 32B/33B Reasoning Models (2026-10-02) |
| XingChen-AGI/Xing4.0-29B-A4B | 31.2B | 24GB | apache-2.0 | Xing4.0-29B-A4B Text Generation Model: Our Test Answers, 24GB+ VRAM (2026-09-28) |
| Altworld/Hemmingway-1 | 26.9B | 12GB | cc-by-nc-4.0 | Hemmingway-1 Text Generation Model: 12GB+ VRAM, GGUF Builds (2026-09-28) |
| orcarouter/OrcaSAQ-2-27B | 27.8B | 16GB | apache-2.0 | OrcaSAQ-2-27B Text Generation Model: Our Test Answers, 16GB+ VRAM (2026-09-28) |
| prism-ml/Ternary-Bonsai-2-27B-gguf | 27.8B | 8GB | apache-2.0 | Ternary-Bonsai-2-27B-gguf: Our Test Answers, 8GB+ VRAM (2026-09-18) |
How to Get It
It is distributed in GGUF format and can be downloaded using the Hugging Face CLI or similar tools. It is reported to work with engines such as llama.cpp (release b10842 or later recommended), LM Studio, koboldcpp, ramalama, Jan AI, Text Generation Web UI, LoLLMs, and Atomic Chat.
Example download command:
hf download bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF --include "Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-Q4_K_M.gguf" --local-dir./
Related Articles
- vectionlabs_Salience-27B-R6-GGUF: Our Test Answers, 12GB+ VRAM
- TheDrummer_Orion-26B-A4B-v1.1-GGUF Multimodal Model: 12GB+ VRAM
- Intern-S2-397B-GGUF Vision-Language Model: ~102GB Memory
What to Read Next
- Find models by VRAM (This model runs from the 12GB tier) → Other models that run on a 12GB GPU
- Engines that run this model → llama.cpp / Ollama
- What IQ2_S, IQ3_XS, Q5_K_M mean and where to get this model → GGUF format guide and models / Quantization and model-format glossary
- Other models for the same task → Other text generation models
Sources
- https://huggingface.co/bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF
- https://huggingface.co/Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2
Update History
- 2026-09-12: Verified the content against the official primary source.
- 2026-09-24: Rebuilt the article: Added a “can you run it locally?" verdict from the distribution formats, converted builds, engine registries, license terms and measured compression
- 2026-09-25: Changed the title to show what the article covers (VRAM requirements, file list, etc.).
- 2026-09-28: Added our own measurements: Japanese token efficiency, what is inside the GGUF file.
- 2026-09-29: Added our own measurements: CPU speed and answers to Japanese questions.
- 2026-09-30: Changed the title to show what the article covers (VRAM requirements, file list, etc.).

