技術解説

NVIDIA Dynamo、マルチモーダルモデル向けEPD分散サービングの活用法を公開

NVIDIA Developerが公開したマルチモーダルモデルのサービングを加速する「Encode-Prefill-Decode (EPD) disaggregation」の活用法について解説します。NVIDIA DynamoによるT ...