エンジン・ツール

大規模型サービングフレームワーク「SGLang v0.5.20」リリース

LLM・マルチモーダル向けサービングフレームワークSGLang v0.5.20が公開。Responses APIの変更やRLロールアウト向けサンプリングマスクのサポート、各種新モデルへの対応内容を解説。