「Qwopus3.8-27B-Flash-GGUF」VLMモデル:当サイトでの回答例・必要VRAM 16GB〜

2026年10月30日

「Qwopus3.8-27B-Flash-GGUF」VLMモデル:当サイトでの回答例・必要VRAM 16GB〜

基本情報

項目 内容
リポジトリ Jackrong/Qwopus3.8-27B-Flash-GGUF
まとめページ Qwen3.8 のまとめ(記事8本)
公開元のまとめ Alibaba(Qwen) のモデルとライセンスのまとめ
公開日 2026-09-04
ライセンス apache-2.0
配布形式 GGUF
出典の種類 公開元の一次情報(個人アカウントのGGUF変換版のみ)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

当サイトで確かめたこと

  • GPU の無い当サイトのサーバー(Neoverse-N1・3スレッド・llama.cpp b11223)で Qwopus3.8-27B-Flash-MTP-Q3_K_M.gguf(Q3_K_M)を動かし、生成は 0.9 トークン/秒でした(CPU での値で、GPU の速さの目安ではありません)。
  • 固定の日本語の質問への回答を、下に原文のまま載せています。
  • Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

詳しい値と条件は、下の「当サイトでの実測」の節にあります。

概要

Jackrong氏により、ベースモデルにQwen3.8-27Bを採用したファインチューンモデルのGGUF版『Jackrong/Qwopus3.8-27B-Flash-GGUF』が公開されました。本モデルは、長時間の反復ループを伴うエージェントワークロード向けに推論コストと応答時間を大幅に削減しつつ、実用的な汎用性能を維持するように設計されています。一部の特定のPythonコーディングタスクにおいてインデントの誤りが生じる既知の問題が報告されていますが、その他の能力や全体的な性能には影響しないとされています。

スペック

  • ライセンス: apache-2.0
  • パラメータ数: 27.8B

性能

公開元の測定によれば、Q5_K_M + MTP構成におけるMMLU-Pro mixed-question accuracy(2,500 questions)は、ベースモデルの92.73%に対して91.28%となり、1.45 percentage points低下しています。一方で、デコーダ単体のスループットやMTPドラフト受容率などの効率面では向上が見られます。以下はモデルカードに記載されている比較表です。

Reported signal Qwopus3.8-27B-Flash Qwen3.8 base comparison Interpretation
MMLU-Pro mixed-question accuracy (2,500 questions) 91.28% 92.73% −1.45 pp
Decoder-only throughput across Math, Physics, and Chemistry 9.347 tok/s 8.284 tok/s +12.8%
Weighted MTP draft acceptance 80.7% 66.1% +14.6 pp
Aggregate raw_output characters across three subjects 7,949,546 8,824,213 −9.9%
End-to-end batch evaluation throughput ~8% higher — Separate, approximate measurement
Agentic software-engineering battery, strict one-run result 13 / 14 (93%) — 26.0 min on one RTX 5090

MMLU-Pro指標(一般知識・推論におけるMMLUの難化版で、選択肢を10個に増やし推論を要する問題に差し替えたもの)の正解率ではベースモデルに及ばないものの、数学・物理・化学を通じたデコーダ単体のスループットでは8.284 tok/sから9.347 tok/sへ12.8%向上しており、加重MTPドラフト受容率も66.1%から80.7%へと14.6 percentage points高くなっています。また、総出力文字数も9.9%減少しており、無駄な長文推論を抑制しつつ効率的な完了を目指す調整がなされています。

得意なこと・想定用途

  • ローカル環境でのMTPスペキュラティブデコーディング(デコーダのスループットやドラフト受容率が重視される環境)
  • ツール呼び出しと反復的な編集を繰り返す長時間の実行を伴うエージェントワークロード
  • ウォールタイムや生成トークンコストが運用の制約となるリソース制約下のワークロード

類似モデルとの違い

当サイトで以前紹介したQwen3.8-27Bの高速化ファインチューン「Signal-3.8-27B-GGUF」公開と同様に、Qwen3.8-27Bをベースにしつつ推論効率やトークン数の削減を狙ったファインチューンモデルです。Signalが主に回答トークン数や思考トークン数の削減に特化しているのに対し、本モデルはNVIDIA NeMo-RL + GSPOを用いた推論強化のステージを経ており、エージェントタスクでの効率的な完了やMTPドラフト受容率の向上に焦点を当てている点が異なります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 27.8B(元モデル Qwen/Qwen3.8-27B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB Q3_K_M 12.6GB 15.1GB
RTX 4090 / 3090 など 24GB Q5_K_M 18.2GB 21.8GB
RTX 5090 など 32GB Q6_K 20.9GB 25.1GB
RTX 6000 Ada / A6000 など 48GB Q8_0 27.1GB 32.5GB
A100 / H100 80GB クラス BF16 50.9GB 61.1GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q3_K_M は実測 3.9 bit/weight で、元の16bitの重みの約24%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。

実測から分かったこと

Jackrong/Qwopus3.8-27B-Flash-GGUFをGPUなしのCPU環境で動かしたところ、日本語1000字あたり546トークンという効率で文脈を読み込めることが分かりました。これは比較したQwen3のトークナイザよりも少ないトークン数で多くの日本語を扱える特徴を持っています。また、取引先への敬語メールや買い物の文章題といった問いに対しては、途中で途切れることなく回答を得ることができました。

一方で、CPU環境での実行速度には注意が必要です。今回は4bitでは大きすぎるため、Q3_K_Mという低いビット数に下げた12.57GBのファイルを使用しましたが、生成速度は毎秒0.94トークン、日本語の字数に直すと毎秒1.7字という結果でした。同じ条件で測ったほかのモデルと比べると、Signal-3.8-27Bよりは速いものの、vectionlabs_Salience-27B-R6と近い低めの速度となっています。

さらに、質問の種類によっては弱点も見られました。海に面していない県を挙げる知識問題では、上限の1024トークンに達して途中で打ち切られ、同じ行が最大で8回繰り返されたうえに、海に面している都道府県を誤って挙げるエラーも起きました。このように、CPUでの低ビット運用では生成に時間がかかり、複雑な知識問題では崩れが生じることがある点を踏まえて検討する必要があります。

日本語のトークン効率

トークナイザ 日本語1,000字あたりのトークン数 同じ内容の英文との比
このモデル 546 0.99倍
Qwen3 688 1.26倍
Llama 3.2 744 1.36倍
Gemma 3 564 1.03倍
gpt-oss 795 1.45倍
LLM-jp-3 497 0.85倍

Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

Qwen/Qwen3.8-27B の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。

GGUFファイルの中身

対象: Qwopus3.8-27B-Flash-MTP-Q4_K_M.gguf(15.66GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。

項目 値
アーキテクチャ(GGUF上の名前) qwen35
学習時の最大文脈長 262,144トークン
層の数 65
語彙数 248,320
チャットテンプレート 同梱(ツール呼び出しの記述あり・思考の切り替えの記述あり)
imatrix ファイルに記録なし
重みの型の内訳(パラメータ数の割合) Q4_K 79.8% / Q6_K 20.2% / F32 0.0%
平均のビット数 4.92ビット/重み
埋め込み層 / 出力層の型 Q4_K / Q6_K

ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。

CPUだけで動かした結果

項目 結果
プロンプトの読み込み(512トークン) 1.1 トークン/秒
生成(128トークン) 0.9 トークン/秒
生成を日本語の字数に換算 約1.7字/秒
ピーク時のメモリ(文脈4,096トークン) 14.9GB

条件: Neoverse-N1 の3スレッド・GPUなし・llama.cpp b11223・Jackrong/Qwopus3.8-27B-Flash-GGUF の Q3_K_M(12.57GB)・2026-09-29に測定しました。本体と画像を読む部品を合わせると当サイトの上限(13GB)を超えるため、画像の問いは省き、テキストの問いだけを尋ねました。4bit 前後のファイルは当サイトの上限(13GB)に収まらないため、ビット数の低い Q3_K_M で測りました(4bit より品質は下がります)。 同じ条件で測った他のモデル(ファイルの大きさが近い順):

→ 横にスクロールできます

モデル 量子化 ファイル 生成 日本語換算
K2-Horizon-MoVA-36B-A4B Q2_K 12.64GB 5.0 トークン/秒 8.9字/秒
vectionlabs_Salience-27B-R6 Q3_K_M 12.48GB 0.9 トークン/秒 1.6字/秒
nex-agi_Nex-N2.5-mini Q2_K 12.89GB 7.3 トークン/秒 13.4字/秒
Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2 Q3_K_S 12.26GB 6.2 トークン/秒 11.0字/秒

ピーク時のメモリは、ファイルをメモリに割り当てた分(mmap)を含みます。GPUのあるPCではこれより大幅に速くなります。ミニPC・ARMのボードなど、CPUだけで動かす環境の目安です。

日本語の質問への回答(原文のまま)

上の条件で、全モデルに同じ5問を日本語で尋ねた回答を、手を加えずに載せています(温度0・チャットテンプレートが対応していれば思考なし・最大1024トークン)。正誤は判定していません。答えが1つに決まる問いには、正解を併記します。

要約

次の記事を3文で要約してください。

みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。

最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。

蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。

建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。

一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。

利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。

再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。

館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。

みどり市は約12億円の事業費をかけて中央図書館を改修し、閲覧席の増設やフロア機能の分化、蔵書の刷新、バリアフリー化などを実施して10月1日に再開館した。
一方で、駐車場不足や職員負担の増加といった課題が残るものの、来館者は再開後1か月で以前比1.8倍に増加し、利用者からは概ね好意的な評価を得ている。
市は来年度、残る2つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針を示している。

敬語のメール

取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。

件名:来週火曜日の打ち合わせ日程変更のご相談

○○株式会社
○○部
○○様

いつも大変お世話になっております。
株式会社△△の△△でございます。

突然のご連絡となり、大変恐縮ではございますが、
来週火曜日(○月○日)に予定しております打ち合わせの日程変更について、ご相談させてください。

社内都合により、誠に恐れ入りますが、
**来週水曜日(○月○日)**に変更させていただくことは可能でしょうか。

ご多忙のところ、ご迷惑をおかけし大変申し訳ございません。
ご確認のほど、何卒よろしくお願い申し上げます。

――――――――――――――――――――
株式会社△△
△△部 △△
TEL:03-XXXX-XXXX
Mail:xxx@xxx.co.jp
――――――――――――――――――――

文章題

りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。

りんごの代金:120円 × 3個 = 360円
みかんの代金:45円 × 8個 = 360円
合計金額:360円 + 360円 = 720円
おつり:1,000円 - 720円 = 280円

**答え:280円**

参考: 正解は280円です(120×3=360円、45×8=360円、1,000−720=280円)。

知識

日本の都道府県のうち、海に面していない県をすべて挙げてください。

日本の都道府県の中で、海に面していない(内陸県)のは以下の**9県**です。

1. **山梨県**
2. **長野県**
3. **岐阜県**
4. **三重県** ※※※
5. **滋賀県**
6. **奈良県**
7. **和歌山県** ※※※
8. **島根県** ※※※
9. **鳥取県** ※※※

※※※ 補足説明:
- **三重県**、**和歌山県**、**島根県**、**鳥取県**は、それぞれ太平洋や日本海に面しているため、**海に面している県**です。上記のリストに誤って含めてしまいました。

正しい内陸県(海に面していない県)は以下の**6県**です:

1. **山梨県**
2. **長野県**
3. **岐阜県**
4. **滋賀県**
5. **奈良県**
6. **島根県** ※※※

※※※ 再度訂正:
- **島根県**は日本海に面しています。

正しい内陸県は以下の**5県**です:

1. **山梨県**
2. **長野県**
3. **岐阜県**
4. **滋賀県**
5. **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

したがって、海に面していない県は以下の**5県**です:

- **山梨県**
- **長野県**
- **岐阜県**
- **滋賀県**
- **奈良県**

※ 補足:
- **三重県**は太平洋に面しています。
- **和歌山県**は太平洋に面しています。
- **島根県**は日本海に面しています。
- **鳥取県**は日本海に面しています。

(1024トークンの上限で打ち切り)

参考: 正解は8県です(栃木県・群馬県・埼玉県・山梨県・長野県・岐阜県・滋賀県・奈良県)。

指示どおりの創作

「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。

ご指定の条件に基づき、「春」をテーマにした俳句を3つ作成しました。

1. **春の風 頬を撫でる 花の香り**
   *説明:* 春の柔らかな風が頬を撫でる瞬間に、花の香りがふわりと漂ってくる情景を描いた句です。

2. **桜吹雪 舞い散る 春の宴**
   *説明:* 桜の花びらが雪のように舞い散る様子を「春の宴」と表現し、春の華やかさと儚さを同時に感じさせる句です。

3. **新緑の 芽吹き 春の息吹**
   *説明:* 木々が新しい緑の芽吹きを見せ、春の生命力が息吹のように感じられる情景を詠んだ句です。

入手方法

  • 配布形式: GGUF
  • 対応エンジン: llama.cpp 等

関連記事

次に読むなら

出典

更新履歴

  • 2026-09-07: 公式の一次情報で内容を確認しました。HFページにGGUF版の公開とエージェント用途のタグを確認
  • 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
  • 2026-09-25: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。
  • 2026-09-28: 当サイトでの実測(日本語のトークン効率・GGUFファイルの中身)を追加しました。
  • 2026-09-29: 当サイトでの実測(CPUでの速度と日本語の質問への回答)を追加しました。
  • 2026-09-30: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。