「ZoomGain-9B-GGUF」画像とテキストの対話に対応する視覚言語モデル:必要VRAM 8GB〜

「ZoomGain-9B-GGUF」画像とテキストの対話に対応する視覚言語モデル:必要VRAM 8GB〜

基本情報

項目 内容
リポジトリ inclusionAI/ZoomGain-9B-GGUF
まとめページ ZoomGain のまとめ(記事3本)
公開元のまとめ inclusionAI(Ant Group) のモデルとライセンスのまとめ
公開日 2026-11-11
配布形式 GGUF
出典の種類 公開元の一次情報(公式組織アカウントのHuggingFaceリポジトリが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

inclusionAIは、視覚言語モデル「ZoomGain-9B」をGGUFフォーマットへ変換したモデル重みである「inclusionAI/ZoomGain-9B-GGUF」を公開しました。

ZoomGain-9B-GGUFは、llama.cpp を用いてGGUF形式へと変換されたオープンウェイトモデルです。画像とテキストの双方をインプットとして受け取り、応答テキストを出力するマルチモーダルな画像・テキスト対話(Vision-Language / image-text-to-text)タスクに対応しています。Qwen3.5アーキテクチャに基づくマルチモーダル対話機能を備えており、ローカル環境のPCやサーバーで視覚言語モデルを動作させたい技術者や開発者を主な対象として提供されています。

本リポジトリでは、言語モデル本体の重みに加えて、画像の解析および言語空間への投影を果たすビジョンエンコーダとプロジェクタを収めた mmproj ファイルが同時に配布されています。ローカル推論時に画像入力を伴う処理を行う場合は、言語モデル本体のGGUFファイルと、それに対応する mmproj ファイルの双方を用意し、実行エンジンへ読み込ませる必要があります。

配給されている精度のバリエーションとしては、全精度にあたるFP16をはじめ、量子化版であるQ8_0およびQ4_K_Mが用意されています。この精度選択肢は言語モデル本体と mmproj ファイルの双方にそれぞれ提供されており、実行環境のメモリ制限や計算資源に応じて組み合わせを選択できます。なお、公開元のモデルカードでは、量子化処理を施すことによってモデルの出力精度に影響が及ぶ可能性がある点に注意が促されています。また、実行時にはQwen3.5のマルチモーダル機能をサポートしたビルドの llama.cpp を使用することが前提となっています。

スペック

モデルカードおよび関連資料に明記されているスペック項目は以下のとおりです。

  • 言語モデル提供精度:FP16、Q8_0、Q4_K_M
  • ビジョンエンコーダおよびプロジェクタ(mmproj)提供精度:FP16、Q8_0、Q4_K_M
  • 対応パイプライン:画像・テキスト対話(image-text-to-text / vision-language / conversational)
  • 配布フォーマット:GGUF

得意なこと・想定用途

ZoomGain-9B-GGUFは、入力された画像の内容とテキスト指示を同時に理解し、応答テキストを出力する視覚言語(Vision-Language)タスクを得意としています。具体的には、画像の詳細な記述や状況の説明、画像に関する質問への回答といったマルチモーダル対話での活用が想定されています。

Qwen3.5アーキテクチャに基づいた画像・テキスト処理能力を備えており、GGUF形式へ変換されているため、llama.cppを用いたローカル環境での推論実行に適しています。外部のクラウドサービスへ画像を送信することなく、手元のPCやローカルサーバー上で視覚言語モデルを動作させたい場合や、対話型UIと組み合わせたローカルWebチャットシステムの構築に活用できます。

なお、本モデルは元モデルであるZoomGain-9Bを量子化・変換した重みです。利用にあたっては、量子化処理によって出力精度に影響が及ぶ可能性がある点に留意する必要があります。

動作環境

動作環境の目安(Local Model Watch 算出)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4060 / 3060 Ti など 8GB Q4_K_M 5.2GB 6.3GB
RTX 4070 / 3060 12GB など 12GB Q8_0 8.9GB 10.6GB
RTX 4090 / 3090 など 24GB F16 16.7GB 20.0GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルにはライセンスの表示が無く、利用の許諾を確認できません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

入手方法

ZoomGain-9B-GGUFのリポジトリからは、GGUFフォーマットの言語モデル本体と、ビジョンエンコーダおよびプロジェクタを収めた mmproj ファイルが配布されています。入手および推論の実行には、Qwen3.5のマルチモーダル機能をサポートした llama.cpp のビルドが必要です。

画像入力を伴う推論を行う際は、言語モデル本体(-m)に加えて、同一または対応する精度の mmproj ファイル(--mmproj)を同時に指定して読み込ませます。

CLI環境で推論を行う場合は、llama-mtmd-cli を使用して以下のように実行します。

llama-mtmd-cli \
  -m ZoomGain-9B-Q8_0.gguf \
  --mmproj mmproj-ZoomGain-9B-Q8_0.gguf \
  --image /path/to/image.jpg \
  -p "Describe this image." \
  --temp 0 -n 2048

WebチャットやAPIサーバーとして機能させる場合は、llama-server を用いてサーバーを立ち上げます。

llama-server \
  -m ZoomGain-9B-Q8_0.gguf \
  --mmproj mmproj-ZoomGain-9B-Q8_0.gguf \
  --host 127.0.0.1 --port 8080

コマンド内の Q8_0 表記部分を F16 や Q4_K_M に書き換えることで、利用したい精度に対応するファイルを選択して実行できます。

関連記事

次に読むなら

出典