vLLM v0.29.0リリース：Model Runner V2がデフォルト化、破壊的変更まとめ

2026年9月9日2026年11月2日

基本情報

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

vLLM v0.29.0がリリースされました。vLLMは、LLM（大規模言語モデル）のための高スループットかつメモリ効率の良い推論・サービングエンジンです。

今回のリリースにおける最大の変更点は、すべてのモデルにおいて「Model Runner V2 (MRV2)」がデフォルトになったことです。これにより、KVキャッシュの自動サイジングのためのCUDA graphメモリプロファイリングや、1ステップあたりのlogitsメモリを1/TPに削減するbatch-sharded samplingといった高度な最適化が、標準で利用可能になります。

破壊的変更・非推奨

今回のアップデートでは、サポートされていた一部のモデルアーキテクチャの削除や、起動コマンドの変更が行われています。

上記のモデルを使用しているユーザーや、従来のPythonモジュール形式でAPIサーバーを起動していたユーザーは、新しいアーキテクチャへの移行または新しい起動コマンドへの切り替えが必要です。

主な変更点

Model Runner V2のデフォルト化とMRV1の非推奨化

すべてのモデルにおいてModel Runner V2 (MRV2) がデフォルトになりました。MRV2は、KVキャッシュの自動サイジングのためのCUDA graphメモリプロファイリング、batch-sharded sampling、prompt embeds、およびextract_hidden_statesのspeculation対応など、多くの最適化機能を提供します。

これに伴い、Model Runner V1 (MRV1) は非推奨となり、v0.32での削除が予定されています。ただし、sequence parallelism、dual-batch overlap、elastic expert parallelism、カスタムlogits processor、および特定のspeculative decoding手法など、MRV2がまだサポートしていない機能を使用している場合は、自動的にMRV1へフォールバックされます。

FlashInfer all-reduceのデフォルト有効化

Tensor Parallel (TP) を使用するCUDAグループにおいて、FlashInfer all-reduceバックエンドがデフォルトで有効になりました。これにより、分散環境での通信効率の向上が期待できます。もしこの挙動を無効にして従来のフォールバックチェーンを使用したい場合は、環境変数 VLLM_ALLREDUCE_USE_FLASHINFER=0 を設定してください。なお、VLLM_BATCH_INVARIANT=1 が設定されている場合は、一貫性の要件により自動的に除外されます。

Prefix-cacheの決定論的動作への変更

Prefix-cacheのブロックハッシュ（NONE_HASH）が、デフォルトで決定論的に動作するようになりました。以前のバージョンでは、PYTHONHASHSEEDが未設定の場合、プロセスごとに異なるハッシュが生成されるため、分散KVキャッシュ（Mooncake connectorなど）を利用する際に、すべてのノードで同じPYTHONHASHSEEDを固定する必要がありました。今回の変更により、独立したインスタンス間でもデフォルトのシードに基づいてキャッシュを共有できるようになり、運用の複雑さが軽減されます。

新しいアドミッション制御（Admission Control）フラグの導入

リクエストのキューイングによる待ち時間（TTFT）の増大を防ぐため、2つの新しい制御フラグが追加されました。--max-num-queued-reqs は、実行中および待機中のリクエストの総数に上限を設けます。--max-num-queued-tokens は、現在prefillフェーズにあるリクエストの合計プロンプトトークン数に上限を設けます。これにより、prefillのバックログが目標とするレイテンシを超えそうな場合に、早期にリクエストを拒否することが可能になり、QoS（サービス品質）の維持に役立ちます。

対応モデル・ハードウェア

新モデルとして、TencentのMoEモデルであるHy4-preview（770B/49B-active、Gated DeepSeek Sparse AttentionおよびネイティブMTP搭載）、Qwen3.8-Flash-Next（BF16/FP8/NVFP4、MTP搭載）、GraniteSWA、GraniteMoeSWA、NemotronH_Omni_Reasoning_V3（MTP搭載）、Kimi K3 NVFP4チェックポイントなどが新たに対応しました。また、FlexOlmo、Olmo3、Hunyuan V1/VLなどのモデルファミリーはハンドイン実装からTransformersモデリングバックエンドへ移行されました。

ハードウェアおよびアクセラレータ関連では、NVIDIA環境においてDeepSeek V3.2 / GLM-5.2のDSAが最適化されたCUDAパスにルーティングされ、BlackwellでのオートチューニングによるE2Eレイテンシ削減やFA4の再有効化が行われています。AMD ROCm環境では、W4A4プレシャッフルasm GEMMがデフォルト化されスループットが向上したほか、グラフリプレイのセグフォルト修正などが行われています。Intel XPU環境ではINC int4 W4A8リニアバックエンドやAutoRound MXFP8 MoEなどが追加されました。

アップデート方法

vLLMのインストールおよびアップデートには、公式が推奨する uv または pip を使用してください。

uv pip install vllm

また、PyPI（CUDA 13.0環境）の場合は通常の pip install vllm が利用可能です。詳細なプラットフォーム別のホイールやDockerイメージの利用手順については、公式リリースページを確認してください。

前回の記事からの更新履歴

当サイトがGitHubのリリース一覧から機械的にまとめた、この版と前回取り上げた版の間に出た版です(単独記事にはしていません)。 全ての版はエンジン別ページにあります。

関連記事

• 推論エンジン vllm v0.31.0公開、高速再起動やDeepSeek最適化
• LLM推論エンジン「vllm-project/vllm v0.30.0」公開 – Fast Start機能や新モデル対応

次に読むなら

• このツールの更新を追う → vLLM の概要とリリース履歴(記録済み100版)
• 同じ分類(推論エンジン・ランタイム)の他のツール → llama.cpp / Ollama / SGLang

出典

• vllm-project/vllm v0.29.0 Release Notes
• vllm-project/vllm PR #52998
• vllm-project/vllm PR #51875
• vllm-project/vllm PR #49445
• vllm-project/vllm PR #53608
• vllm-project/vllm PR #53615
• vllm-project/vllm PR #54231
• vllm-project/vllm PR #52131
• vllm-project/vllm PR #52182

更新履歴

• 2026-09-20: 下書きに戻していた記事を、材料を集め直して書き直し、公開に戻しました。