NVIDIA Dynamo-Triton 26.07公開、TensorRTのマルチGPU統合機能に対応
推論サーバー「NVIDIA Dynamo-Triton」バージョン26.07が公開され、TensorRTのマルチデバイス統合機能が追加されました。複数GPUでの分散推論を簡素化し、Cosmos 3 Nanoで約6倍の高速化を実現したア ...
手元で動くオープンウェイトモデルのニュース
推論サーバー「NVIDIA Dynamo-Triton」バージョン26.07が公開され、TensorRTのマルチデバイス統合機能が追加されました。複数GPUでの分散推論を簡素化し、Cosmos 3 Nanoで約6倍の高速化を実現したア ...