長文・推論対応モデル「IFM/K2-Horizon-32B-NVFP4」公開
NVIDIA Blackwell世代向けに最適化された32Bのオープンウェイトモデル「IFM/K2-Horizon-32B-NVFP4」のスペックや推論性能、vLLM・SGLangでの利用方法を解説します。
IFM、MoEモデル「K2-Horizon-375B-A23B-NVFP4」公開
IFMは、375BパラメータのMoEモデル「K2-Horizon-375B-A23B」のNVFP4量子化版を公開しました。Blackwell世代GPU向けの高効率な推論と主なスペック、ベンチマーク性能を解説します。
375B MoEモデルのNVFP4量子化版「IFM/K2-Horizon-375B-A23B-NVFP4」公開
総パラメータ数375BのMoEモデル「IFM/K2-Horizon-375B-A23B」のNVFP4量子化版が公開。NVIDIA Blackwell世代以降のGPUでの高速推論とメモリ削減を実現。