「ZwZ2-27B-GGUF」視覚言語モデル:必要VRAM 24GB〜

「ZwZ2-27B-GGUF」視覚言語モデル:必要VRAM 24GB〜

基本情報

項目 内容
リポジトリ inclusionAI/ZwZ2-27B-GGUF
公開元のまとめ inclusionAI(Ant Group) のモデルとライセンスのまとめ
公開日 2026-10-30
配布形式 GGUF
論文 arXiv:2610.37037
出典の種類 公開元の一次情報(公式リポジトリinclusionAIが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

inclusionAIより、視覚と言語を扱うマルチモーダルモデル「ZwZ2-27B」のGGUF形式版である「inclusionAI/ZwZ2-27B-GGUF」が公開されました。本モデルはプロジェクト「Zooming without Zooming v2 (ZwZ2)」の一環として提供されており、Qwen3.6-27Bをベースモデルとして構築された27B規模のオープンウェイトモデルです。llama.cppなどのGGUF対応推論エンジンを用いることで、手元のPCやローカル環境でマルチモーダル推論を実行できます。

論文「Zooming without Zooming v2: From Seeing Details to Connecting Evidence for Generalizable Multimodal Perception」によれば、本モデルは具現化AI(Embodied AI)やマルチモーダルエージェントの基盤となる空間知覚や長文脈理解の向上を狙いとしています。開発チームは、関連する視覚的事実を特定して正しい対象に結びつけ、その関係性を復元して回答を導き出す「証拠の関連付け(connecting evidence)」能力に着目しました。推論時に外部の拡大(ズーム)ツールを使用することなく、画像全体から複数領域にまたがる視覚的証拠を比較・照合・集約し、多段階の推論を行う能力を備えています。

スペック

  • パラメータ数: 27.4B
  • アーキテクチャ: Qwen3_5ForConditionalGeneration (qwen3_5)
  • ベースモデル: inclusionAI/ZwZ2-27B (元となるベースモデルはQwen3.6-27B)

性能

本モデルはGGUF形式に変換された量子化版であり、公開元からも量子化処理が推論精度に影響を与える可能性がある旨が案内されています。ベンチマークの測定スコアは、元モデルである「inclusionAI/ZwZ2-27B」において公表された結果に基づきます。

元モデルのカードおよび論文の記載によれば、ZwZ2-27Bは6つの領域にわたる25種類のベンチマークすべてにおいて、ベースモデルであるQwen3.6-27Bのスコアを上回ったと報告されています。総合的な平均精度(Overall Accuracy)は、ベースモデルの55.52%から60.51%へと4.99ポイント向上しました。この性能向上は、細部を捉える微細な知覚(fine-grained perception)から空間推論(spatial reasoning)、長文脈理解(long-context understanding)、マルチモーダルエージェント、一般的な視覚推論(general visual reasoning)にまで及んでいると説明されています。

モデルカード本文には各ベンチマークの詳細な数値一覧表はテキストとして配置されておらず、代表的な8つのベンチマークハイライトや25ベンチマーク全体の結果をまとめた図が公開されています。評価タスクには、V-RAG、Image MM-NIAH、VH-Multiなどの計25の非カウントタスクで構成される視覚コアを用いた「MMLongBench*」などが含まれており、領域別平均および全体平均においてベースモデルを一貫して上回る結果が示されています。

これらの測定結果は公開元であるinclusionAIが自ら公表した数値であり、第三者による独立した検証結果ではありません。なお、学習手法としては「EvidenceConnect」フレームワークを通じてSA-1B画像から自動生成された約2万件の多領域質問データセットを使用し、追加の教師あり微調整(SFT)を行わずにGRPO(Group Relative Policy Optimization)による強化学習のみで最適化されたと報告されています。ローカル環境でGGUF形式を動作させる際には、選択する量子化精度(FP16、Q8_0、Q4_K_Mなど)に応じて、元モデルの公表精度から多少の劣化や変動が生じる点に留意する必要があります。

得意なこと・想定用途

本モデル(およびその元モデル)は、画像内の複数の領域にまたがる視覚的な証拠を比較、集約、照合し、多段階の推論を行う能力に長けています。具体的には、以下のようなタスクや用途に適しています。

  • 空間知覚と空間推論: 画像内の物体間の位置関係や空間的な特徴を捉える能力。
  • マルチモーダル長文脈理解: 長いコンテキストを持つ視覚情報に対する理解。
  • マルチモーダルエージェント: 視覚情報を基にタスクを遂行するエージェントとしての利用。
  • 一般的な視覚推論: 細かな知覚から複雑な視覚的論理構築まで。

モデルのタグには vision-language, image-text-to-text, visual-reasoning, conversational などが含まれており、画像とテキストを組み合わせた対話的なタスクを想定しています。また、推論時に外部のズームツールを必要とせず、画像全体から情報を読み取る設計となっています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 27.4B(元モデル inclusionAI/ZwZ2-27B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4090 / 3090 など 24GB Q4_K_M 15.4GB 18.5GB
RTX 5090 など 32GB Q8_0 26.6GB 32.0GB
A100 / H100 80GB クラス F16 50.1GB 60.1GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

量子化の圧縮率: Q4_K_M は実測 4.84 bit/weight で、元の16bitの重みの約30%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルにはライセンスの表示が無く、利用の許諾を確認できません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
ggml-org/Muse-Glimmer-30B-GGUF 29.8B 24GB apache-2.0 「Muse-Glimmer-30B-GGUF」30Bのマルチモーダルローカルエージェントモデル:必要VRAM 24GB〜(2026-11-17)
Cloudflare/clef-omni 35.3B 80GB apache-2.0 「clef-omni」30Bのマルチモーダル意思決定モデル:必要VRAM 80GB〜(2026-11-17)
ggml-org/vllm-d3-GGUF 26.1B 24GB apache-2.0 意思決定モデル「vllm-d3-GGUF」シリーズ公開(2026-11-17)
Cloudflare/clef 27.4B 12GB apache-2.0 「clef」構造化意思決定モデル:必要VRAM 12GB〜・GGUF版あり(2026-10-01)
ggml-org/OpenJev-GGUF 27.4B 24GB cc-by-nc-4.0 「OpenJev-GGUF」27.4Bの意思決定特化型モデル:必要VRAM 24GB〜(2026-10-01)

入手方法

本モデルはGGUF形式で配布されており、以下の形式で入手可能です。

  • 配布形式: GGUF
  • 対応するコンポーネント: 言語モデル本体(Language model)と、画像処理用のプロジェクター(Vision component / mmproj)がそれぞれ個別のファイルとして提供されています。用途に合わせて、FP16、Q8_0、Q4_K_Mといった異なる精度を組み合わせて使用できます。
  • 対応エンジン: Qwen3.5のマルチモーダルサポートを備えた、比較的新しいバージョンの llama.cpp での動作が推奨されています。

CLIでの推論例

llama-mtmd-cli \
  -m ZwZ2-27B-Q8_0.gguf \
  --mmproj mmproj-ZwZ2-27B-Q8_0.gguf \
  --image /path/to/image.jpg \
  -p "Describe this image." \
  --temp 0 -n 2048

ローカルAPIでの起動例

llama-server \
  -m ZwZ2-27B-Q8_0.gguf \
  --mmproj mmproj-ZwZ2-27B-Q8_0.gguf \
  --host 127.0.0.1 --port 8080

※ファイル名は、使用する精度(FP16やQ4_K_Mなど)に応じて適宜読み替えてください。画像入力を行う場合は、必ず対応する mmproj コンポーネントを指定する必要があります。

関連記事

次に読むなら

出典