「ZwZ2-4B-GGUF」複数領域の視覚推論を行う視覚言語モデル:必要VRAM 4GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | inclusionAI/ZwZ2-4B-GGUF |
| まとめページ | Qwen3.5 のまとめ(記事8本) |
| 公開元のまとめ | inclusionAI(Ant Group) のモデルとライセンスのまとめ |
| 公開日 | 2026-10-30 |
| ライセンス | apache-2.0 |
| 配布形式 | GGUF |
| 論文 | arXiv:2610.37037 |
| 出典の種類 | 公開元の一次情報(公式HFリポジトリで裏付けあり) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
inclusionAIより、オープンウェイトの視覚言語モデル「ZwZ2-4B」のGGUF形式ウェイトが公開されました。本モデルはプロジェクト「Zooming without Zooming v2 (ZwZ2)」の一環として公開されたもので、ベースモデルには「Qwen3.5-4B」が採用されています。
モデルカードが引用している論文「Zooming without Zooming v2: From Seeing Details to Connecting Evidence for Generalizable Multimodal Perception」(arXiv:2610.37037)によれば、本モデルは画像内の複数領域にまたがる視覚的な証拠を比較・集約・照合し、多段階の推論によって結びつける能力(connecting evidence)の向上を狙って開発されました。推論時に外部のズームツールを使用することなく、画像全体からきめ細かな視覚情報を捉えて推論できるように設計されています。なお、今回公開されたリポジトリはllama.cppなどで実行可能なGGUF形式への変換版であり、言語モデル部分と視覚エンコーダ・プロジェクタ(mmproj)の2つのコンポーネントに分かれて提供されています。
スペック
元モデルのモデルカードおよび公開リポジトリに記載されているスペックは以下の通りです。
- ベースモデル: Qwen3.5-4B
- アーキテクチャ: Qwen3_5ForConditionalGeneration
- モデル構成: 言語モデルコンポーネントと視覚エンコーダ・プロジェクタコンポーネント(mmproj)の分割構成
- 提供されている精度・量子化タイプ: FP16、Q8_0、Q4_K_M
性能
今回公開されたリポジトリはGGUF形式への量子化版であるため、以下で紹介するベンチマークスコアは変換元である「ZwZ2-4B」のモデルカードに記載された測定結果に基づいています。量子化処理によって元のモデルから精度に多少の劣化が生じる可能性がある点にご留意ください。
元モデルのモデルカードには、シリーズ展開として以下の対応関係が示されています。
元モデルのモデルカードによれば、ZwZ2-4Bは6つの領域にまたがる25のベンチマークすべてにおいて、元となったQwen3.5-4Bのスコアを上回ったと報告されています。全体の平均正解率(overall accuracy)は、ベースモデルの49.41%から54.79%へと5.38ポイント向上しています。
この向上は、きめ細かな知覚(fine-grained perception)にとどまらず、空間推論(spatial reasoning)、長文文脈の理解(long-context understanding)、マルチモーダルエージェント、一般的な視覚推論など幅広い領域に及んでいるとされています。訓練にはSA-1Bの画像から生成された「EvidenceConnect」による約2万件のマルチ領域質問データが用いられており、教師あり微調整(SFT)ステージを挟まずにGRPO(Group Relative Policy Optimization)による強化学習が施されています。
なお、これらの評価数値は第三者機関による検証ではなく、モデルの公開元が自ら測定・公表した結果です。また、個別ベンチマークの詳細な数値表そのものはモデルカード本文では図形式で示されており、具体的な各タスクの詳細な内訳数値についてはカード上の記載範囲に限られています。
得意なこと・想定用途
「ZwZ2-4B」が得意とするのは、1枚の画像の中に存在する複数の領域を相互に見比べ、視覚的な証拠を集約・照合しながら答えを導き出すような高度な視覚推論タスクです。
従来の視覚言語モデルでは、画像の一部分を拡大表示(クロップやズーム)して詳細を把握する手法が取られることがありましたが、本モデルは推論時に外部のズームツールを必要としません。画像全体の構図を保ったまま、細部の知覚(fine-grained perception)と広域的な空間推論(spatial reasoning)を両立できるように設計されています。
モデルカードや論文の記述に基づくと、具体的には以下のような場面や用途に向いています。
- 画像内の複数箇所の比較と照合: 画面内の異なる場所にある複数の物体や領域の配置、形状、色、相互の関係性を把握し、論理的に結びつける処理に適しています。
- マルチモーダルな空間推論: 物体同士の相対的な位置関係の認識や、複雑な幾何学的・物理的配置を読み解くタスクで効果を発揮します。
- 長文文脈・長大な視覚情報の理解: 画像内の多数の要素を同時に追跡し、多段階のステップを経て回答を導き出す長文脈タスクに対応します。
- マルチモーダルエージェントや身体性AI: 周囲の環境画像を俯瞰しながら、複数の対象物を正確に認識して次の行動を判断するようなエージェント処理への応用が想定されています。
- 画像ベースの対話: 画像の内容について質問を受け、それに対して詳細な説明を返す対話形式(conversational)のタスク全般にも対応しています。
なお、対応言語タグには英語(en)が含まれており、主に英語での指示や対話が想定されています。
類似モデルとの違い
当サイトでは過去に、同じ「Qwen3.5-4B」をベースモデルとして採用した記事として「Tev1-4B-experimental」構造化データの意思決定に特化した4Bモデル:必要VRAM 4GB〜を取り上げています。
両モデルは同じ4B規模のQwen3.5系を基盤としていますが、狙っている目的と訓練アプローチが大きく異なります。「Tev1-4B-experimental」は、状態・質問・選択肢という構造化されたテキスト入力から単一の選択肢ラベルを返す意思決定タスクに特化し、教師あり微調整(SFT)によって分類器としての効率性を追求した実験モデルです。
これに対して今回の「ZwZ2-4B」は、画像とテキストを組み合わせた視覚言語モデル(VLM)であり、画像内の複数領域にまたがる視覚的証拠の結合に特化しています。また、SFT段階を挟まずにGRPO(Group Relative Policy Optimization)を用いた強化学習で訓練されている点も特徴的です。テキスト中心の意思決定分類を目指したTev1に対し、ZwZ2-4Bは画像全体から空間情報や詳細情報を読み取って高度な視覚的推論を行う点に主眼が置かれています。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 4.5B(元モデル inclusionAI/ZwZ2-4B の値)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| 4GB(ノートPCの内蔵GPU・スマートフォンなど) | Q4_K_M | 2.5GB | 3.0GB |
| RTX 4060 / 3060 Ti など 8GB | Q8_0 | 4.2GB | 5.0GB |
| RTX 4070 / 3060 12GB など 12GB | F16 | 7.8GB | 9.4GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp でそのまま動かせます。
GGUF形式で配布されているため、変換を待たずに手元で読み込めます。
ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。
量子化の圧縮率: Q4_K_M は実測 4.73 bit/weight で、元の16bitの重みの約30%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 4〜15B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| tencent/Youtu-Parsing-Omni | 5.3B | 12GB | youtu-parsing | 「Youtu-Parsing-Omni」オムニモーダル解析モデル:必要VRAM 12GB〜(2026-11-17) |
| nvidia/Muse-Spark-Open-816B-A42B-DFlash2 | 4.4B | 12GB | nvidia-open-model-agreement-license | 「Muse-Spark-Open-816B-A42B-DFlash2」VLMモデル:必要VRAM 12GB〜(2026-11-17) |
| tencent/WeVisOne-VL-4B | 4.8B | 4GB | apache-2.0 | Tencent、物体認識と画素処理を統合したビジョン言語モデル「WeVisOne-VL」公開(2026-11-17) |
| inclusionAI/ZwZ2-9B-GGUF | 9.4B | 8GB | apache-2.0 | 「ZwZ2-9B-GGUF」空間知覚を強化した視覚言語モデル:必要VRAM 8GB〜(2026-11-17) |
| microsoft/Mage-VL-Cowork | 4.7B | 12GB | apache-2.0 | 「Mage-VL-Cowork」GUI操作とコード実行をこなす4Bの視覚言語モデル:必要VRAM 12GB〜(2026-11-17) |
入手方法
「ZwZ2-4B-GGUF」は、Hugging Faceのリポジトリ(inclusionAI/ZwZ2-4B-GGUF)から直接入手できます。ライセンスはApache-2.0が適用されており、事前審査や利用規約への同意手続きを必要としないオープンなリポジトリとして公開されています。
本モデルはGGUF形式で配布されており、言語モデル本体と、視覚エンコーダおよびプロジェクタを担うコンポーネント(mmproj)の2つに分かれて提供されています。それぞれ「FP16」「Q8_0」「Q4_K_M」の精度が用意されており、用途に合わせて自由に組み合わせて使用できます。
実行環境としては、Qwen3.5のマルチモーダル機能に対応した最近のビルドの「llama.cpp」が指定されています。画像を入力して推論を行う際は、言語モデル本体に加えて、必ず対応する mmproj ファイルを一緒に指定する必要があります。
CLIから推論を実行する場合は、llama-mtmd-cli を用いて次のように指定します(以下は言語モデルと視覚コンポーネントの両方にQ8_0を使用する例です)。
llama-mtmd-cli \
-m ZwZ2-4B-Q8_0.gguf \
--mmproj mmproj-ZwZ2-4B-Q8_0.gguf \
--image /path/to/image.jpg \
-p "Describe this image." \
--temp 0 -n 2048
また、OpenAI互換のAPIサーバーやWeb UIとして稼働させたい場合は、llama-server を用いてローカルサーバーを立ち上げることが可能です。
llama-server \
-m ZwZ2-4B-Q8_0.gguf \
--mmproj mmproj-ZwZ2-4B-Q8_0.gguf \
--host 127.0.0.1 --port 8080
他の精度(FP16やQ4_K_M)を利用したい場合は、指定するファイル名を該当するものに適宜変更して実行してください。
関連記事
- 「Qwen3.5-4B-GGUF」画像と動画の入力に対応したマルチモーダル言語モデル:必要VRAM 4GB〜
- 「UserRepGen-4B」ユーザー表現生成用の4B級言語モデル:必要VRAM 4GB〜・GGUF版あり
- 「Tev1-4B-experimental」構造化データの意思決定に特化した4Bモデル:必要VRAM 4GB〜
- ggml-org/spec-for-testing-GGUF: llama.cpp向け予測的デコードテスト用GGUFモ…
次に読むなら
- GPUのVRAMから探す(このモデルは4GBの階層から動きます) → 8GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → Qwen3.5 系統のまとめ(記事8本・変換版10件)
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama
- 入手できる形式と、表に出てくる Q4_K_M・Q8_0 の意味を知る → GGUF形式の解説と対応モデル / 量子化・モデル形式の用語集
- 公開元について調べる → inclusionAI(Ant Group) のモデル・ライセンス・記事のまとめ

