エンジン・ツール

NVIDIA Snapshot発表:vLLMやSGLangの起動を数秒に短縮

NVIDIA Snapshotの機能と使い方を解説。Kubernetes上でvLLM、SGLang、TensorRT LLMのGPUワークロードを数秒で起動する方法を紹介します。

画像・動画・音声

「Qwen-Image-NVFP4」4ビット量子化画像生成モデル:必要VRAM 48GB〜・配布ファイル一覧

NVIDIAが公開した「nvidia/Qwen-Image-NVFP4」のスペックや特徴、TensorRT-LLMを用いた推論サーバーの構築手順を解説します。