「DeepSeek-V4-Pro-0813-nvfp4-DSpark」テキスト生成モデル：必要メモリ約1005GB

2026年11月3日

「DeepSeek-V4-Pro-0813-nvfp4-DSpark」テキスト生成モデル：必要メモリ約1005GB

基本情報

項目 内容
リポジトリ nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark
まとめページ DeepSeek-V4 のまとめ(記事2本)
公開元のまとめ NVIDIA のモデルとライセンスのまとめ
公開日 2026-09-10
ライセンス mit
配布形式 safetensors
出典の種類 公開元の一次情報(公式NVIDIAアカウントによるHF公開が一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

当サイトで確かめたこと

  • 同じ日本語を表すのに要るトークン数は、Qwen3 のトークナイザとほぼ同じです。

詳しい値と条件は、下の「当サイトでの実測」の節にあります。

概要

NVIDIAは、DeepSeek AIのMoE言語モデル「DeepSeek-V4-Pro-0813」を完全にNVFP4量子化した「nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark」を公開しました。本モデルは商用・非商用を問わず利用可能であり、DSparkドラフトヘッドを含めて量子化することで単一の自己無撞着なチェックポイントとして動作します。モデルの量子化にはNVIDIA Model Optimizerが使用されており、SGLangおよびvLLMでの推論に対応しています。

スペック

  • アーキテクチャ: トランスフォーマー (混合専門家モデル [MoE]、ハイブリッドアテンション採用)
  • パラメータ数: 総パラメータ数 1.65T、活性パラメータ数 49B
  • コンテキスト長: 最大100万トークン

性能

本モデルのバックボーンウェイトは「nvidia/DeepSeek-V4-Pro-0813-NVFP4」とビット単位で同一であり、DSparkドラフトヘッドのみが異なります。そのため、出力結果はターゲットモデルと一致し、精度評価の結果はそのまま引き継がれます。以下はモデルカードに記載された量子化前後の評価結果の比較です。

→ 横にスクロールできます

Precision GPQA Diamond AA-LCR τ²-Bench Telecom SciCode IFBench Terminal-Bench Hard
MXFP4 (source) 88.51 68.67 96.49 53.45 76.53 51.39
NVFP4 88.42 69.33 98.25 53.75 75.68 50.69

また、元モデルである「DeepSeek-V4-Pro-0813」の公開元による評価では、HLE（ツールなし/あり）で42.7 / 60.0、Terminal Bench 2.1で87.9を記録しています。

これらのベンチマーク結果から、本モデルはGPQA Diamond（物理・化学・生物の博士課程レベルの難問を測定）やTerminal-Bench（端末操作エージェントとしての能力を測定）などの高度な推論やエージェントタスクにおいて高い性能を維持していることがわかります。MXFP4形式のソース版とNVFP4形式の間でスコアの差はごくわずかであり、量子化による精度低下が最小限に抑えられています。また、DSpark speculative decodingの有効性を示すMT-BenchやSPEED-Benchの測定では、全体平均のアクセプタンスレングスが3.7〜3.8前後となっており、ブロックドラフティングによる効率的な高速化が図られています。

得意なこと・想定用途

元モデルであるDeepSeek-V4-Pro-0813は、高度な推論、エージェントAIアプリケーション、ツール利用シナリオ、ならびに数学、ソフトウェアエンジニアリング、エンタープライズ向けAIアシスタントなどの複雑な問題解決を得意としています。ハイブリッドアテンション（Compressed Sparse AttentionとHeavily Compressed Attention）やManifold-Constrained Hyper-Connectionsを採用した最適化済みTransformerアーキテクチャを持ち、最大100万トークンのコンテキスト長や、思考モードの制御が可能な推論努力レベル（low、high、max）をサポートします。また、DSpark speculative decodingモジュールを同一のチェックポイント内に統合しており、効率的なテキスト生成が可能です。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 1650.5B(元モデル deepseek-ai/DeepSeek-V4-Pro-0813 の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
1005GB超のVRAMが必要(複数GPUまたはCPUオフロードが前提) NVFP4 837.4GB 1004.9GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-03 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス mit(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時に著作権表示とライセンス文を残すことが条件です。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。

日本語のトークン効率

トークナイザ 日本語1,000字あたりのトークン数 同じ内容の英文との比
このモデル 705 1.29倍
Qwen3 688 1.26倍
Llama 3.2 744 1.36倍
Gemma 3 564 1.03倍
gpt-oss 795 1.45倍
LLM-jp-3 497 0.85倍

同じ日本語を表すのに要るトークン数は、Qwen3 のトークナイザとほぼ同じです。

nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。

入手方法

本モデルはHugging Face上で公開されており、対応する配布形式はsafetensorsです。入手および利用にはHugging Face上のリポジトリページからアクセス可能であり、商用・非商用を問わず利用できます。

SGLangを使用してデプロイする場合は、以下のコマンドを実行します。

python3 -m sglang.launch_server \
    --model-path nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark \
    --tp 8 \
    --trust-remote-code \
    --tool-call-parser deepseekv4 \
    --reasoning-parser deepseek-v4

vLLMを使用してデプロイする場合の例は以下の通りです。

vllm serve nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark \
    --served-model-name nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark \
    --tensor-parallel-size 8 \
    --enable-expert-parallel \
    --reasoning-parser deepseek_v4 \
    --max-model-len 400000 \
    --gpu-memory-utilization 0.9 \
    --kv-cache-dtype fp8 \
    --max-num-batched-tokens 8192 \
    --enable-chunked-prefill \
    --model-loader-extra-config '{"enable_multithread_load": true, "num_threads": 128}' \
    --speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"greedy"}'

関連記事

次に読むなら

出典

更新履歴

  • 2026-09-20: 下書きに戻していた記事を、材料を集め直して書き直し、公開に戻しました。
  • 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
  • 2026-09-25: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。
  • 2026-09-28: 当サイトでの実測(日本語のトークン効率)を追加しました。

新モデルDeepSeek-V4-Pro,MoE,NVFP4,NVIDIA,SGLang,vLLM,確認済み