Apple MLX v0.30.1:Mac Studioでの分散推論手法を発表

Apple MLX v0.30.1:Mac Studioでの分散推論手法を発表

基本情報

項目 内容
公開日 2026-10-16
出典の種類 公開元の一次情報(Apple公式MLブログが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

Apple ML Researchは2026年10月15日、Mac Studio上で大規模な言語モデルを分散推論するための新しい手法を発表しました。最新のMLX(v0.30.1以降)と、macOS 26.2で導入されたThunderbolt 5経由の低レイテンシなRDMAドライバを活用することで、単一のMacでは動作不可能な超大規模モデルの実行が可能になります。

発表の内容

Appleは、M5 Ultraチップを搭載したMac Studioのクラスターを利用して、約1兆パラメータを持つ最先端モデル「Muse Spark Open」を動作させるベンチマーク結果を公開しました。主な技術的詳細は以下の通りです。

分散推論の手法

MLXは、大規模モデルを複数のMacに分割して実行するための2つの並列化スキームをサポートしています。

  • パイプライン並列化 (Pipeline Parallelization): モデルの層(レイヤー)を分割して各マシンに割り当てます。例えば、2台のMac Studioを用いてモデルの前半と後半をそれぞれ実行する構成です。実装が非常にシンプルであるという特徴があります。
  • テンソル並列化 (Tensor Parallelization): モデルの「幅」を分割し、各レイヤーの計算自体を複数のマシンで並列に行います。パイプライン並列化よりも実装は複雑で、マシン間での頻繁な通信が発生するため、低レイテンシな通信技術が不可欠となります。

通信技術とソフトウェア

これらの並列化を実現するために、MLXは新しい通信コレクティブである jaccl を提供しています。これは、macOS 26.2で導入されたThunderbolt 5経由のRDMA(Remote Direct Memory Access)ドライバを利用するものです。また、実験的な機能として、CPUとGPU間の通信オーバーヘッドを削減する MLX_METAL_FAST_SYNCH=1 フラグも用意されています。

ベンチマーク結果

4台のM5 Ultra搭載Mac Studioをテンソル並列化で構成した場合、Muse Spark Open(816Bパラメータ、NVFP4精度)において、コンテキストサイズ8,192トークンの設定で36.73 tokens/s以上の生成速度を記録しました。これは人間の平均的な読書速度を大きく上回る数値です。また、単一のM5 Ultraでは動作しないMuse Spark Openについても、複数のMacを組み合わせることで、コンテキストサイズを65,536トークンまで拡大して実行できることが示されています。

背景

Appleは、AI研究者や開発者がプライベートな環境で最新のモデルや手法をローカルに実験できるよう、Apple siliconの統合メモリ・アーキテクチャを活用したオープンソースの配列フレームワーク「MLX」の開発を進めてきました。以前の投稿では、M5アーキテクチャとGPU Neural Acceleratorの利点についても触れられています。

今回の発表は、単一のMac Studio(最大512GBの統合メモリ)ではメモリ容量が不足して実行できないような、超大規模なフロンティア級モデルを、複数のMacを接続したクラスター構成によってデスクトップ環境で動作させることを目的としています。

ローカルLLMの利用者への影響

オープンウェイトのモデルを利用する技術者にとって、今回の発表は以下の点で重要な意味を持ちます。

超大規模モデルのローカル実行可能性

Muse Spark Openのような、単一のマシンではメモリ不足(BF16精度で1.6TB以上のRAMが必要)となるモデルであっても、複数のMac StudioをThunderboltで接続し、MLXを用いて分散推論を行うことで、ローカル環境での実行が可能になります。これにより、クラウドAPIに依存せず、プライベートな環境で巨大なモデルを扱う選択肢が広がります。

実行環境の柔軟性とスケーラビリティ

MLXは、モデルの層を分割する「パイプライン並列化」と、レイヤー内の計算を分割する「テンソル並列化」の2つの手法をサポートしています。利用者は、実装のシンプルさを優先するか、あるいは複数のマシンを投入して推論速度の向上を優先するかによって、並列化スキームを選択できます。特に、M5 Ultra世代のチップでは、GPU Neural Acceleratorによる行列演算の高速化や、メモリ帯域幅の向上(M3 Ultraの819 GB/sから1.2 TB/sへ)により、単一ノードおよび分散環境の両方で高いパフォーマンスが期待できます。

エージェント向けアプリケーションへの応用

MLXは mlx_lm.server ツールを提供しており、分散推論構成のままローカルサーバーとして立ち上げることが可能です。これにより、OpenCodeのようなツールを用いて、ローカルで動作する大規模なLLMをバックエンドとしたエージェント型コーディングアプリケーションなどを、プライベートな環境で構築・利用できる可能性があります。

出典