NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応

NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応

基本情報

項目 内容
リポジトリ nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
まとめページ NVIDIA-Nemotron-Labs-Dory1.0 のまとめ(記事2本)
公開元のまとめ NVIDIA のモデルとライセンスのまとめ
公開日 2026-10-17
ライセンス openmdw-1.1
配布形式 safetensors
出典の種類 公開元の一次情報(NVIDIA公式HFアカウントからの公開)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

NVIDIAは、ループ型(潜在リカレント)の大規模言語モデル「Dory1.0-4B」を公開しました。このモデルは、入力・出力ブロックの間に共有リカレントブロックを複数回適用する正規化GPT(normalized-GPT)アーキテクチャを採用しています。推論時に層のループ回数を動的に変更できる弾力的な推論コンピュートを備えており、最大256Kトークンのコンテキスト長をサポートしています。

スペック

  • パラメータ数: 4B
  • アーキテクチャ: 共有リカレントブロックを持つループ型(潜在リカレント)normalized-GPT、スライディングウィンドウアテンション(SWA)とフルアテンション層のハイブリッド構造
  • コンテキスト長: 最大256Kトークン

性能

モデルカードに記載されている、他モデルとの比較表は以下のとおりです。比較対象としてQwen3.5-4B、Qwen3.5-9B、Gemma 4 26B A4B、Qwen3.6-35B-A3Bの各モデルが掲載されています。

→ 横にスクロールできます

Task Dory1.0-4B / 1 loop Dory1.0-4B / 2 loops Dory1.0-4B / 4 loops Qwen3.5-4B Qwen3.5-9B Gemma 4 26B A4B Qwen3.6-35B-A3B
Coding & Agentic
SciCode 27.3 34.94 35.11 25.82 28.21 40.32 37.24
SWE-bench Verified 50.3 59.5 61.8 54.7 61 57.40 73.4†
Terminal-Bench 2.1 12.5 18.1 22.2 15 24 35 43
τ³-bench (Banking) 11.6 12.89 14.69 5.03 7.22 13.66 9.54
GDPval-AA-V2 (Elo) 815 946 967 424 546 751.6 987
Reasoning
GPQA Diamond (no tools) 69.19 72.41 72.16 77.71 80.93 80.43 85.35
HLE (text-only, no tools) 8.25 10.89 10.43 11.31 15.43 17.79 19.18
Instruction Following
IFBench 74.29 77.94 79 53.83 59 77.89 57.44
Long Context
AA-LCR 63 71 73 64.7 68.4 64.6 68.5
General Knowledge
AA-Omniscience (accuracy) 10.03 10.08 10.03 15.02 18.05 21.13 19.95

公開元の測定によれば、ループ回数を増やすことで精度が向上する傾向が見られます。特にコーディングやエージェント系のタスク(SWE-bench Verifiedなど)では、4ループ設定において50.3から61.8へと大きくスコアが上昇し、同規模のQwen3.5-4Bを上回る項目もあります。一方で、GPQA Diamondなどの科学の難問や超難問を測るHLEでは、Qwen3.5-9BやGemma 4 26B A4Bなどのより大きなモデルと比較して低い数値となっており、推論能力や一般知識の分野では大規模なモデルに及ばない部分があります。ループ回数による性能の変化としては、大半のタスクで2ループ目での向上幅が大きく、4ループに増やすことでさらに最適化される特性を持っています。

得意なこと・想定用途

Dory1.0-4Bは、入力・出力ブロックの間に共有リカレントブロックを挟むループ型アーキテクチャを採用しており、推論時のループ回数を動的に変更することで精度と計算量のトレードオフを調整できる点が最大の特徴です。モデルカード等では、コーディング、数学、科学、手順に従うタスク、マルチステップのツール利用、複数ターンの会話、構造化出力などの多様な環境におけるマルチエンテキスト強化学習(GRPO)を経ており、エージェント系のタスクや指示追従能力に強みを持っています。英語をサポートし、最大256Kトークンの長文脈処理にも対応しています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 4.0B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) Q6_K 3.0GB 3.7GB
RTX 4060 / 3060 Ti など 8GB Q8_0 3.9GB 4.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 未登録、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス openmdw-1.1: 公開元の独自ライセンスです。商用利用の可否を含め、条件は公開元の原文を直接確認してください。

量子化の圧縮率: Q6_K は実測 6.48 bit/weight で、元の16bitの重みの約40%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルのライセンス(openmdw-1.1)の商用利用の条件を、当サイトが満たしていることを確認できていません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf 389M 4GB apache-2.0 「MiniCPM-V-4.7-35B-A3B-DSpark-gguf」高速化用ドラフトモデル:必要VRAM 4GB〜(2026-11-17)
openbmb/MiniCPM-V-4.7-1B-DSpark-gguf 214M 4GB apache-2.0 「MiniCPM-V-4.7-1B-DSpark-gguf」テキスト生成モデル:必要VRAM 4GB〜(2026-11-17)
IFM/Jais-3-0.9B-GGUF 1.1B 4GB apache-2.0 「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-DSpark 328M 4GB lfm1.0 「LFM2.5-24B-A2B-DSpark」推測デコード用のドラフトモデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-DSpark-GGUF 328M 4GB lfm1.0 「LFM2.5-24B-A2B-DSpark-GGUF」投機的デコーディング用のドラフトモデル:必要VRAM 4GB〜(2026-11-17)

入手方法

Hugging Face上で、BF16形式のほか、MXFP8形式、NVFP4形式、Q5_K_M形式などの複数のフォーマットで公開されています。商用および非商用での利用が可能であり、OpenMDW License Agreement, version 1.1に準拠しています。入手にあたって特別なライセンス同意(Gated)は設定されていません。

vLLMやllama.cppなどの推論エンジンを利用してローカル環境で動かすことができます。vLLMで動かす場合は、プルリクエストベースの対応版などを利用してサーバーを起動します。

vllm serve --model nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 \
    --hf-overrides '{"n_recurrent_loops": 2, "recurrent_kv_cache_mode": "per_loop"}' \
    --max-model-len 262144 \
    --max-num-seqs 128 \
    --enable-prefix-caching \
    --async-scheduling \
    --reasoning-parser nemotron_v3 \
    --tool-call-parser qwen3_coder \
    --enable-auto-tool-choice

また、llama.cppを使用する場合は、GGUF形式の量子化済みファイル(dory-q5_k_m.ggufなど)をダウンロードし、対応するソースからビルドしてサーバーを起動します。

./build/bin/llama-server \
    -m./dory-q5_k_m.gguf \
    --alias dory \
    --host 127.0.0.1 --port 8080 \
    -ngl 999 \
    --ctx-size 4096 --parallel 1 \
    --batch-size 512 --ubatch-size 512 \
    --cache-type-k f16 --cache-type-v f16 \
    --flash-attn off \
    --no-context-shift \
    --jinja --reasoning on \
    --temp 1.0 --top-p 0.95 --top-k 0 --min-p 0 --repeat-penalty 1 \
    --override-kv "dory.num_loops=int:2,dory.recurrent_kv_cache_mode=str:per_loop"

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 DevQuasar GGUF DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF Q6_K 3.7GB(4GB VRAMで動作)
2026-11-17 mlx-community MLX mlx-community/NVIDIA-Nemotron-Labs-Dory1.0-4B-MLX-8bit MLX 8bit 4.7GB(8GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF の量子化: Q2_K 1.5GB / Q3_K_M 1.9GB / Q4_K_M 2.3GB / Q5_K_M 2.6GB / Q6_K 3.0GB / Q8_0 3.9GB
  • mlx-community/NVIDIA-Nemotron-Labs-Dory1.0-4B-MLX-8bit の量子化: MLX 8bit 3.9GB

このほか、上記以外の投稿者による変換版が 10 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF, mlx-community/NVIDIA-Nemotron-Labs-Dory1.0-4B-MLX-8bit
  • 2026-11-17: 動作環境の表を DevQuasar/nvidia.NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16-GGUF の実ファイルサイズで更新しました。