NVIDIA Groq 3 LPXの決定的実行とVera Rubinでの高効率推論
概要
2026年9月に公開されたNVIDIA Developerのブログ記事において、NVIDIA Vera Rubinプラットフォーム向けに提供される「NVIDIA Groq 3 LPX」の決定的実行モデル（Deterministic Execution Model）に関する詳細が発表された。この技術は、サイクル単位の正確なスケジューリングにより電力効率を高め、高対話型推論のパフォーマンスを向上させることを目的としている。
発表の内容
発表では、AIファクトリーにおける電力効率向上のための複数の階層でのアプローチが示されている。
- プラットフォーム全体の構成: NVIDIA Vera Rubinプラットフォームはワットあたりのパフォーマンスを重視しており、NVIDIA Groq 3 LPXは高対話型・低レイテンシ向けのアクセラレータとして組み込まれる。Groq 3 LPXは256個のLPUチップを搭載したラック構成をとり、H2 2026にVera Rubinプラットフォームに導入される予定である。
- 決定的実行モデルとコンパイラ: Groq 3 LPXでは、LPUコンパイラがワークロードの実行前に、データ移動と演算（行列演算のMXM、ベクトル演算のVXM、転置・整形用のSXMなど）をクロックサイクル単位で完全にスケジュールする。これにより、実行ごとの動作が予測可能になり、各サイクルでの電力需要曲線が算出される。
- 電力制御技術（PEPとCPS）: 予測可能な電流需要曲線を活用し、「Preemptive Power (PEP)」と「Clock Period Synthesis (CPS)」の2つの技術が導入される。PEPは電力供給ネットワーク（PDN）に対して事前に電圧変更を指示し、CPSは特定のクロックサイクルを短縮・延長して電流の急激な変化（di/dt）を抑制する。これらにより電圧ドループを60%以上削減し、電圧ガードバンドを縮小させることで、ワークロード自体に変更を加えることなく低二桁パーセントの電力削減を実現する。
- ファクトリーおよびラックレベルの連携: ファクトリーレベルのNVIDIA DSX MaxLPSソフトウェアによるラック間の電力シフトや、Vera Rubin NVL72内のラックレベルコンデンサとIntelligent Power Smoothingによる電力スパイクの吸収と組み合わされる。これにより、2T以上のパラメータを持つモデルにおいて、長コンテキストかつ高対話型の場合に、前世代のNVIDIA GB200 NVL72と比較してメガワットあたり最大35倍のスループットを実現する。
ローカルLLMの利用者への影響
オープンウェイトモデルのローカル実行やAIファクトリー運用を行う技術者にとって、本発表から読み取れる影響や言及事項は以下の通りである。
- オープン/クローズドモデル双方への対応: Vera Rubinプラットフォーム自体はオープンおよびクローズドモデルの双方の推論に対応すると明記されている。
- 提供形態とライセンス: Groq 3 LPXおよびVera Rubinプラットフォームのハードウェア・ソフトウェアの提供形態、具体的な利用ライセンス、オープンウェイトモデルの重み公開方針については、今回の資料では言及されていない。
- 推論実行時の電力効率: ローカル環境やオンプレミスサーバーにおいて大規模モデルを高対話かつ低レイテンシで動かす際、ハードウェア側の電力管理とアクセラレータの決定的なスケジュール制御によって、同一電力バジェット内でのスループット向上が見込まれる技術的アプローチが示されている。