新モデル

NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応

NVIDIAが公開したループ型LLM「Dory1.0-4B」のスペックや推論時のループ回数による性能、vLLMやllama.cppでの動かし方を解説します。