技術解説

NVIDIA AIPerf公開:大規模LLM推論ベンチマークツール

NVIDIAが大規模LLM推論の性能測定ツール「NVIDIA AIPerf」を発表。マルチプロセス構成による高並行環境の正確なベンチマーク測定手順を解説します。

新モデル

EleutherAI、データ帰属の基準モデル「bergson-wikitext-gpt2-leaderboard」公開

EleutherAIによる学習データ帰属のベンチマーク基準モデル「EleutherAI/bergson-wikitext-gpt2-leaderboard」の概要やスペック、各種影響度評価手法のスコアを解説します。