「Mistral-Large-4-1T-A52B-NVFP4-GGUF」VLMモデル:必要VRAM 8GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | ggml-org/Mistral-Large-4-1T-A52B-NVFP4-GGUF |
| まとめページ | Mistral-Large-4-1T のまとめ(記事1本) |
| 公開元のまとめ | Mistral AI のモデルとライセンスのまとめ |
| 公開日 | 2026-10-29 |
| ライセンス | mistral-ecosystem-open-weight-license |
| 配布形式 | GGUF |
| 出典の種類 | 公開元の一次情報(ggml-org公式リポジトリでGGUFファイルの公開が確認できる) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
ggml-orgから、Mistral AIの最新フラグシップモデルのNVFP4量子化版をGGUF形式で提供する「ggml-org/Mistral-Large-4-1T-A52B-NVFP4-GGUF」が公開されました。
本モデルは、テキストに加えて画像入力にも対応したマルチモーダルな画像・テキスト対テキスト(image-text-to-text)モデルです。元となったモデルは「mistralai/Mistral-Large-4-1T-A52B-NVFP4」であり、Mistral AIの欧州データセンターにおいて3,800基のNVIDIA Grace Blackwell GPUを使用して一から学習された「Mistral Large 4」のNVFP4量子化チェックポイントです。
GGUFへの変換処理においては、元モデルのNVFP4ルーテッドエキスパートが再量子化されることなくそのまま保持されています。また、Attention層、インデクサーのクエリ投影、共有エキスパート、最初のDense層といったFP8層は、元からBF16であった層と同様にBF16でロスレスに格納されています。
スペック
- パラメータ数:総パラメータ数1兆(1T)、活性パラメータ数約52B(トークンあたり49B、埋め込みおよび出力層を含めて52B)
- アーキテクチャ:Mixture-of-Experts(MoE、128 routed experts、1トークンあたり4 active experts、および1 shared expert)
- コンテキスト長:1,000,000(1M)トークン
性能
本モデルおよび元モデルの「mistralai/Mistral-Large-4-1T-A52B-NVFP4」のモデルカードには、第三者機関や他モデルとの比較による具体的なベンチマークスコアの数値・比較表は掲載されていません。
公開元であるMistral AIの説明によると、NVFP4形式のチェックポイントは、FP8形式のチェックポイントと比較して実効メモリフットプリントを大幅に削減しながらも、FP8と同等のパフォーマンスと高速な推論処理を実現すると報告されています。特にNVIDIA Blackwellアーキテクチャ(B200 / B300 / GB200 / GB300など)が備える専用ハードウェアを活用することをターゲットとしています。
応答の生成においては、reasoning_effort パラメータによって思考の深さを制御可能です。設定値には 'low'、'medium'、'high' の3種類が用意されており、デフォルト設定は 'high' となっています。なお、この思考処理機能自体を完全に無効化(オフ)にすることはできない仕様となっています。複雑なプロンプトやエージェント用途では 'high'、迅速なチャット応答には 'low' の使用が案内されています。
また、推論の更なる高速化のために、3層のMLA(Multi-head Latent Attention)層で構成されたDSpark投機的デコーディング用ドラフトヘッドが組み込まれています。このドラフトヘッドは、ターゲットモデルの隠れ状態から2,048トークンのスライディングウィンドウを用いて一度に3トークンを提案する仕様となっています。
サンプリング設定としては、temperature を 1.0、top_p を 0.95 とすることがGGUFのメタデータに記録されており、公式に推奨されている設定となります。
得意なこと・想定用途
本モデルの基となった「Mistral Large 4」は、多角的な高度タスクに対応できるよう設計された汎用マルチモーダルモデルです。元モデルが備える得意分野や想定用途は以下の通りです。
画像とテキストを組み合わせた理解処理
テキスト入力に加えて画像入力に対応しており、画像に関する質問応答や画像とテキストが混在する文脈の解析など、画像・テキスト対テキスト(image-text-to-text)のタスクに適用できます。出力はテキスト形式で行われます。
大規模な長文コンテキストと広範な多言語対応
100万(1M)トークンにおよぶ非常に広いコンテキストウィンドウをサポートしており、大規模なドキュメントの解析や長尺の対話履歴を保持した処理が可能です。また、対応言語として日本語(ja)、英語(en)、フランス語(fr)、ドイツ語(de)、スペイン語(es)、ポルトガル語(pt)、イタリア語(it)、韓国語(ko)、中国語(zh)、ロシア語(ru)、アラビア語(ar)をはじめとする多数の言語が含まれています。
構造化出力とエージェント・ツール利用
ネイティブなファンクションコーリング(ツール呼び出し)および厳密なJSON Schema出力に対応しています。エージェントシステムとして運用する際には、システムプロンプト内で明確な実行環境とユースケースを定義し、ツールを効果的に活用するための指示を与えることが推奨されています。また、与えるツールのセットは明確に定義し、ユースケースに必要な最小限の数に絞り込むことが効果的とされています。
タスクに応じた思考制御(reasoning_effort)
パラメータの reasoning_effort を設定することで、生成時の思考レベルを調整できます。複雑なプロンプトの解釈や自律的なエージェント利用にはデフォルトの 'high' を、迅速なチャット応答には 'low' を選択するなど、タスクの性質に合わせて柔軟に使い分けることが可能です。
動作環境
動作環境の目安(Local Model Watch 算出)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4060 / 3060 Ti など 8GB | BF16 | 3.9GB | 4.7GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp でそのまま動かせます。
GGUF形式で配布されているため、変換を待たずに手元で読み込めます。
ライセンス mistral-ecosystem-open-weight-license: 公開元の独自ライセンスです。商用利用の可否を含め、条件は公開元の原文を直接確認してください。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
当サイトでの実測
ライセンスの都合で行っていない実測
このモデルのライセンス(mistral-ecosystem-open-weight-license)の商用利用の条件を、当サイトが満たしていることを確認できていません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。
入手方法
本モデルはGGUF形式で配布されており、llama.cpp(llama.app)をはじめとする互換ツールで動作します。
配布形式と取得コマンド
GGUF形式での提供となっており、llama.cpp のサーバー機能(llama serve)を用いて直接ダウンロードおよび実行を行う場合のコマンド例は以下の通りです。
llama serve -hf ggml-org/Mistral-Large-4-1T-A52B-NVFP4-GGUF:NVFP4
また、元モデルである mistralai/Mistral-Large-4-1T-A52B-NVFP4 は、vLLM や SGLang などの推論フレームワークとも互換性があります。
利用ライセンスと条件
本モデルのライセンスは「Mistral Ecosystem Open-Weight License」となっています。これはMITライセンスをベースに改変されたもので、商用利用および非商用利用の双方が許可されています。ただし、本モデルを他者向けの「Model-as-a-Service」ビジネス(モデル提供サービス)として運用する場合は、Mistral AIとの間で別途個別の商用ライセンス契約を締結する必要があります。
なお、本リポジトリは利用同意の手続き(gated)が必要なモデルではないため、Hugging Face上で事前に規約同意を行わなくても直接ダウンロードが可能です。
派生版・量子化版
→ 横にスクロールできます
| 追記日 | 配布元 | 形式 | リポジトリ | 最小のVRAM階層(量子化・必要メモリの目安) |
|---|---|---|---|---|
| 2026-10-29 | ggml-org | GGUF | ggml-org/Mistral-Large-4-1T-A52B-GGUF | IQ2_XXS 332.7GB(単体のGPUには収まらない) |
| 2026-10-30 | unsloth | GGUF | unsloth/Mistral-Large-4-1T-A52B-GGUF | Q8_0 2.5GB(4GB VRAMで動作) |
各リポジトリの量子化とファイルサイズ:
- ggml-org/Mistral-Large-4-1T-A52B-GGUF の量子化: IQ2_XXS 277.2GB / Q2_K 354.6GB / Q4_K_M 591.2GB / Q8_0 1038.6GB / BF16 1954.7GB
- unsloth/Mistral-Large-4-1T-A52B-GGUF の量子化: Q8_0 2.1GB / BF16 3.9GB / IQ1_S 217.0GB / IQ1_M 241.8GB / IQ2_XXS 281.7GB / Q2_K_XL 352.3GB / IQ3_XXS 394.4GB / Q3_K_XL 458.9GB / Q4_K_XL 563.3GB / Q5_K_XL 729.9GB / Q6_K_XL 829.3GB
この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。
関連記事
- 「VibeVoice-ASR-GGUF」音声認識・話者識別モデル:必要VRAM 8GB〜・配布ファイル一覧
- 「Qwen3.5-4B-GGUF」画像と動画の入力に対応したマルチモーダル言語モデル:必要VRAM 4GB〜
- 「Qwen3-Coder-30B-A3B-Instruct-GGUF」テキスト生成モデル:必要VRAM 24GB〜
- 意思決定モデル「vllm-d3-GGUF」シリーズ公開
次に読むなら
- GPUのVRAMから探す(このモデルは8GBの階層から動きます) → 8GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → Mistral-Large-4-1T 系統のまとめ(記事1本・変換版2件)
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama
- このモデルを入手できる形式を調べる → GGUF形式の解説と対応モデル
- 公開元について調べる → Mistral AI のモデル・ライセンス・記事のまとめ

