ZoomGain まとめ:必要VRAM・GGUF版

当サイトが ZoomGain 系統について公開した記事(3本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。

基本情報

項目 内容
元のモデル inclusionAI/ZoomGain-9B-GGUF, inclusionAI/ZoomGain-4B, inclusionAI/ZoomGain-9B
公開元 inclusionAI(Ant Group)
最小のVRAM階層 8GB
記事数 3本

動作環境

動作環境の目安(Local Model Watch 算出)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4060 / 3060 Ti など 8GB Q4_K_M 5.2GB 6.3GB
RTX 4070 / 3060 12GB など 12GB Q8_0 8.9GB 10.6GB
RTX 4090 / 3090 など 24GB F16 16.7GB 20.0GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

数値は inclusionAI/ZoomGain-9B-GGUF のものです。大きさの違う他のモデルは下の記事を参照してください。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。

判定は inclusionAI/ZoomGain-9B-GGUF についてのものです。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 bartowski GGUF(imatrix) bartowski/ZoomGain-4B-GGUF Q6_K_S 4.0GB(4GB VRAMで動作)
2026-11-17 inclusionAI GGUF inclusionAI/ZoomGain-4B-GGUF Q4_K_M 3.0GB(4GB VRAMで動作)
2026-11-17 bartowski GGUF(imatrix) bartowski/ZoomGain-9B-GGUF IQ2_M 4.0GB(4GB VRAMで動作)
2026-11-17 inclusionAI GGUF inclusionAI/ZoomGain-9B-GGUF Q4_K_M 6.3GB(8GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • bartowski/ZoomGain-4B-GGUF の量子化: IQ2_M 1.5GB / Q2_K 1.6GB / IQ3_XXS 1.8GB / Q3_K_S 1.8GB / IQ3_XS 1.8GB / Q3_K_M 1.9GB / Q3_K_L 2.0GB / IQ3_M 2.1GB / IQ4_XS 2.3GB / Q4_K_S 2.4GB / Q4_0 2.5GB / IQ4_NL 2.5GB / Q4_K_M 2.5GB / Q4_1 2.7GB / Q4_K_L 2.7GB / Q5_K_S 2.9GB / Q5_K_M 3.1GB / Q6_K_S 3.3GB / Q6_K 3.4GB / Q6_K_L 3.6GB / Q8_0 4.2GB / BF16 7.8GB
  • inclusionAI/ZoomGain-4B-GGUF の量子化: Q4_K_M 2.5GB / Q8_0 4.2GB / F16 7.8GB
  • bartowski/ZoomGain-9B-GGUF の量子化: IQ2_M 3.3GB / Q2_K 3.4GB / IQ3_XXS 3.9GB / Q3_K_S 4.0GB / IQ3_XS 4.0GB / Q3_K_M 4.2GB / Q3_K_L 4.3GB / IQ3_M 4.5GB / IQ4_XS 4.9GB / Q4_0 5.1GB / Q4_K_S 5.1GB / IQ4_NL 5.4GB / Q4_K_M 5.4GB / Q4_1 5.5GB / Q4_K_L 5.8GB / Q5_K_S 6.0GB / Q5_K_M 6.4GB / Q6_K_S 7.0GB / Q6_K 7.3GB / Q6_K_L 7.5GB / Q8_0 8.9GB / BF16 16.7GB
  • inclusionAI/ZoomGain-9B-GGUF の量子化: Q4_K_M 5.2GB / Q8_0 8.9GB / F16 16.7GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。

記事(シリーズ自身のモデルを先に、新しい順)

リポジトリ

最終更新 2026-11-17(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。