SGLang

Qwenチームによる次世代アーキテクチャ採用のマルチモーダル対応オープンウェイトモデル「Qwen3.8-Flash-Next」のスペックや導入方法を解説します。

LLM・マルチモーダルモデル向け高速サービングフレームワーク「SGLang」のv0.5.21がリリース。PDインスタンスの動的ロール切り替えやRustコア化、新APIの追加などの詳細を解説。

XiaomiからスパースMoEマルチモーダルモデル「MiMo-V2.6-Flash-MOPD」「MiMo-V2.6-Pro-MOPD」が公開されました。エージェントタスクに特化した特徴やスペックを解説します。

DeepSeekがエージェント性能を強化した大規模MoEモデル「DeepSeek-V4-Pro-0813」をHugging Faceで公開。100万トークンの文脈とDSparkモジュールを搭載。

LiquidAIが「LFM2.5-VL-3B」向けの実験的なDSparkドラフトモデル「LFM2.5-VL-DSpark」を公開しました。推論速度の高速化手順や対応エンジンを解説します。

NVIDIA Blackwell世代向けに最適化された32Bのオープンウェイトモデル「IFM/K2-Horizon-32B-NVFP4」のスペックや推論性能、vLLM・SGLangでの利用方法を解説します。

IFMは、375BパラメータのMoEモデル「K2-Horizon-375B-A23B」のNVFP4量子化版を公開しました。Blackwell世代GPU向けの高効率な推論と主なスペック、ベンチマーク性能を解説します。

LLM・マルチモーダル向けサービングフレームワークSGLang v0.5.20が公開。Responses APIの変更やRLロールアウト向けサンプリングマスクのサポート、各種新モデルへの対応内容を解説。

Tencentが公開したQwen3モデル向けSAS（Simple Attention Sparsification）チェックポイントの仕様や導入方法、動作環境を解説します。

NVIDIAが公開したDeepSeek-V4-ProのNVFP4量子化モデル「DeepSeek-V4-Pro-0813-nvfp4-DSpark」のスペックや推論環境について紹介します。