音声付き動画生成モデル「FastH3 V2」のFP8およびNVFP4版公開
FastVideoチームによる音声付き動画生成モデル「FastH3 V2」のFP8およびNVFP4量子化版2種について、特徴、動作環境、導入手順を詳しく解説します。
「K2-Horizon-32B-NVFP4」長文・推論対応モデル：当サイトでの回答例・必要VRAM 32GB〜
NVIDIA Blackwell世代向けに最適化された32Bのオープンウェイトモデル「IFM/K2-Horizon-32B-NVFP4」のスペックや推論性能、vLLM・SGLangでの利用方法を解説します。
「K2-Horizon-375B-A23B-NVFP4」NVFP4量子化の巨大MoEモデル：必要メモリ約257GB
IFMは、375BパラメータのMoEモデル「K2-Horizon-375B-A23B」のNVFP4量子化版を公開しました。Blackwell世代GPU向けの高効率な推論と主なスペック、ベンチマーク性能を解説します。
TensorRT Edge-LLMとQwen3.6-27BでMLPerf Edge Agenticベンチマークを高速化
NVIDIA Jetson AGX Thor上でTensorRT Edge-LLMとQwen3.6-27Bを用いてMLPerf Edge Agenticベンチマークを実行し、従来のリファレンス比6.4倍の高速化を達成した詳細と再現手順 ...
「DeepSeek-V4-Pro-0813-nvfp4-DSpark」テキスト生成モデル：必要メモリ約1005GB
NVIDIAが公開したDeepSeek-V4-ProのNVFP4量子化モデル「DeepSeek-V4-Pro-0813-nvfp4-DSpark」のスペックや推論環境について紹介します。