Ling-3.1 まとめ:必要VRAM・GGUF版

当サイトが Ling-3.1 系統について公開した記事(3本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。

基本情報

項目 内容
元のモデル inclusionAI/Ling-3.1-flash-base, inclusionAI/Ling-3.1-flash-1019, inclusionAI/Ling-3.1-flash
公開元 inclusionAI(Ant Group)
ライセンス(モデルカード) mit
記事数 3本

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 572.1B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
1279GB超のVRAMが必要(複数GPUまたはCPUオフロードが前提) F32 1065.7GB 1278.8GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 表のファイルは F32(32bit)で配布されたものの実サイズです。BF16 や量子化など低い精度で読み込めば必要なメモリは小さくなるため、最低条件ではなく配布そのままの大きさとして読んでください。低い精度での値は当サイトでは測っていません。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

数値は inclusionAI/Ling-3.1-flash-base のものです。大きさの違う他のモデルは下の記事を参照してください。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス mit(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時に著作権表示とライセンス文を残すことが条件です。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

判定は inclusionAI/Ling-3.1-flash-base についてのものです。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 bartowski GGUF(imatrix) bartowski/Ling-3.1-flash-1019-GGUF IQ1_S 146.4GB(単体のGPUには収まらない)
2026-11-17 mlx-community MLX(imatrix) mlx-community/Ling-3.1-flash-1019-oQ4e-mtp MLX 4bit 368.9GB(単体のGPUには収まらない)
2026-11-17 mlx-community MLX(imatrix) mlx-community/Ling-3.1-flash-1019-oQ2e-mtp MLX 2bit 215.9GB(単体のGPUには収まらない)
2026-11-17 inclusionAI FP8 inclusionAI/Ling-3.1-flash-1019 FP8 641.3GB(単体のGPUには収まらない)
2026-11-17 bartowski GGUF(imatrix) bartowski/Ling-3.1-flash-GGUF IQ1_S 146.4GB(単体のGPUには収まらない)

各リポジトリの量子化とファイルサイズ:

  • bartowski/Ling-3.1-flash-1019-GGUF の量子化: IQ1_S 122.0GB / IQ1_M 135.1GB / IQ2_XXS 159.1GB / IQ2_XS 165.2GB / IQ2_S 175.5GB / IQ2_M 198.4GB / Q2_K 204.1GB / IQ3_XXS 230.4GB / IQ3_XS 242.5GB / Q3_K_S 243.6GB / Q3_K_M 256.2GB / Q3_K_L 268.2GB / IQ3_M 276.9GB / IQ4_XS 295.3GB / Q4_0 304.2GB / Q4_K_S 313.5GB / Q4_K_M 333.4GB / IQ4_NL 333.4GB / Q4_1 335.4GB / Q5_K_S 378.2GB / Q5_K_M 406.4GB / Q6_K_S 445.9GB / Q6_K 467.1GB / Q8_0 566.6GB
  • mlx-community/Ling-3.1-flash-1019-oQ4e-mtp の量子化: MLX 4bit 307.4GB
  • mlx-community/Ling-3.1-flash-1019-oQ2e-mtp の量子化: MLX 2bit 179.9GB
  • inclusionAI/Ling-3.1-flash-1019 の量子化: FP8 534.4GB
  • bartowski/Ling-3.1-flash-GGUF の量子化: IQ1_S 122.0GB / IQ1_M 135.1GB / IQ2_XXS 159.1GB / IQ2_XS 165.2GB / IQ2_S 175.5GB / IQ2_M 198.4GB / Q2_K 204.1GB / IQ3_XXS 230.4GB / IQ3_XS 242.5GB / Q3_K_S 243.6GB / Q3_K_M 256.2GB / Q3_K_L 268.2GB / IQ3_M 276.9GB / IQ4_XS 295.3GB / Q4_0 304.2GB / Q4_K_S 313.5GB / Q4_K_M 333.4GB / IQ4_NL 333.4GB / Q4_1 335.4GB / Q5_K_S 378.2GB / Q5_K_M 406.4GB / Q6_K_S 445.9GB / Q6_K 467.1GB / Q8_0 566.6GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。

記事(シリーズ自身のモデルを先に、新しい順)

公開日 モデル 種類 記事
2026-11-17 inclusionAI/Ling-3.1-flash-base 新モデル inclusionAI、ハイブリッド線形MoE採用のLing-3.1-flash-base公開
2026-11-17 inclusionAI/Ling-3.1-flash-1019 新モデル 「Ling-3.1-flash-1019」テキスト生成モデル:必要メモリ約641GB・GGUF版あり
2026-11-17 inclusionAI/Ling-3.1-flash 新モデル 「Ling-3.1-flash」ハイブリッド推論MoEモデル:必要メモリ約641GB・GGUF版あり

リポジトリ

最終更新 2026-11-17(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。