大規模型サービングフレームワーク「SGLang v0.5.20」リリース

2026年9月19日

基本情報

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

概要

大規模言語モデルおよびマルチモーダルモデル向けの高性能サービングフレームワーク「SGLang」のv0.5.20がリリースされました。本バージョンには713件のPRと237人のコントリビュータによる多数の変更が含まれており、新モデルへの対応や各種機能の強化が行われています。

利用者にとって最も影響が大きい変更として、/v1/responses APIの永続化動作がデフォルトで無効化され、オプトイン方式に変更されました。該当機能を利用しているシステムでは、サーバ起動時に明示的な設定が必要となります。

破壊的変更・非推奨

• Responses APIの永続化に関する変更: 既定値が有効から無効へ変更されました。

• 影響を受ける人: /v1/responses エンドポイントを利用した取得や、previous_response_id によるチェイニング、バックグラウンドリクエストを行っている利用者。フラグなしで実行すると400エラーが返されます（PDデプロイメントでは有効化できません）。

• プリフィルコンテキスト並列（CP）v1の削除: 従来型の実装および関連するCLIオプションが削除され、戦略ベースの実装に一本化されました。HIP、NPU、MUSAプラットフォームでのプリフィルCPは各プラットフォームへの移植が完了するまで拒否されます。

主な変更点

サンプリングマスクによるRLロールアウトのサポート return_sampling_mask を使用することにより、デコードの各ステップでサンプラーが参照した正確なトークンサポートと、その下でのサンプルされたトークンの対数確率が返されるようになりました。これにより、トレーナー側でトップkやトップpを再構築することなくロールアウトを再現可能です。オーバーラップスケジュール下で動作し、Qwen3-8Bでは前バージョンと比較してバッチ1で17%、バッチ64で52%のデコードスループット向上が見られます。容量は --sampling-mask-max-tokens（既定値4096）で設定します。

統合ラディックスツリーによる効率的なキャッシング SWAコンポーネントの分岐点キャッシングにより、リクエストが共有プレフィックスから分岐するポイントでスライディングウインドウの状態が保持されるようになりました。これにより、分岐側は再計算を行わずにキャッシュを再利用できます。DeepSeek-V4-Flashの共有プロンプト環境では、トークンヒット率が43.8%から60.8%に上昇し、平均TTFTが1.57秒から1.07秒に短縮されます。

ROCm環境におけるモデルロードの高速化 大規模なページング可能なホスト・デバイス間コピーが、その場でのピン留めからステージング方式に変更されました。これにより、退避のたびにドライバがGPUキューをサスペンドする問題が解消され、4x MI355X上のTP4におけるGLM-5.2のロード時間が505.7秒から40.4秒に短縮されました。

Intel XPU公式リリースイメージの提供 すべてのタグ付きリリースにおいて、XPU用のDockerファイルからビルドされた lmsysorg/sglang:vX.Y.Z-xpu が公開されるようになりました。これにより、Intel製GPUの利用者はナイトリービルドに依存せずバージョン固定されたイメージを利用可能です。

対応モデル・ハードウェア

新しくGLM-5.3-Flash、Hy4-Preview、Qwen3.8-Flash-Next、K2 Horizon、Nanbeige4.2の各自己回帰モデル、およびSenseNova-U1.5-8B-MoT、FastH3（4ステップMiniMax-H3蒸留）、VDN-H3（ハイブリッドアテンションMiniMax-H3蒸留）の拡散モデルのGGUF変換・推論が可能になりました。また、Blackwellアーキテクチャ向けのDeepSeek-V4最適化や、RTX PRO 6000環境でのサポート改善が含まれています。

アップデート方法

公式の導入手順やドキュメントを参照してアップデートを行ってください。

出典

• sgl-project/sglang v0.5.20
• SGLang Getting Started