エージェント向け推論エンジン「magnitude」CLI v0.2.7公開、高速化と修正

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | magnitudedev/magnitude |
| 版 | @magnitudedev/cli@0.2.7 |
| 公開日 | 2026-10-12 |
| ライセンス | Apache-2.0 |
| 出典の種類 | 公開元の一次情報(公式GitHubリポジトリのリリースノート) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
エージェント向け推論エンジン「magnitude」のCLIツールおよびデスクトップ環境向けアップデートである「@magnitudedev/cli@0.2.7」が公開されました。magnitudeは、実行環境のハードウェアに合わせてカーネルを自動的にコンパイルおよびチューニングし、ローカル環境でオープンモデルを高速に実行できるRust製の推論エンジンです(Apache-2.0ライセンス)。
今回のバージョンでは、Apple SiliconおよびNVIDIA GPU環境における推論処理の大幅な高速化が実施されました。複数のリクエストを同時に処理する際のデコード速度が最大約3倍、プロンプト処理速度が最大4.5倍向上しており、日常的にローカルモデルを動かしているユーザーにとって更新の恩恵が大きいリリースとなっています。
主な変更点
ローカル推論の大幅な高速化と投機的デコーディングの強化
Apple SiliconおよびNVIDIA GPUを対象に、推論全体の性能が大幅に引き上げられました。複数リクエストの同時実行時においてデコード処理が最大約3倍高速化されたほか、プロンプト処理についてもApple Silicon上のGemma 4 E2Bで最大4.5倍の高速化が確認されています。あわせて、Gemma 4モデルではアシスタントモデルをドラフトヘッドとして利用する構成が導入され、Qwen3.5の4Bおよび9BモデルではDFlashドラフターによる投機的デコーディングが有効化されたことで、生成速度が大きく向上しています。また、M1からM4までのApple Silicon Mac向けには、重みの新しいタイル状レイアウトの採用、トークンのパッキング、行列ユニットとスカラーユニットの同時活用といった最適化が盛り込まれ、プリフィルとデコードの双方が改善されています。モデル初回読み込み時の最適化開始時間も短縮されており、たとえばQwen 3.8 27Bでは開始までの時間が12.6秒から1.9秒へと改善しています。
Arch Linux対応と対応GPU非搭載環境の操作感向上
Arch Linux、Omarchy、およびその他のArch系ディストリビューション(x64)向けに、新たにpacmanパッケージの提供が開始されました。ローカル環境への導入やアプリ内アップデートがpacman経由でスムーズに行えるようになっています。また、対応GPUを持たないPC(Intelプロセッサなどのx86環境)への配慮も強化されました。テキスト生成時に応答が完了後にまとめて返されるのではなく、生成されながら順次ストリーミング出力されるようになったほか、リクエストの中止や破棄が速やかに反映されるよう改善されています。これにより、GPUを搭載していない環境でも待ち時間や操作の応答性が向上します。
長時間実行時のメモリ管理改善とGPUクラッシュの修正
各種GPU環境における安定性に関する複数の不具合が解消されました。Mac環境では、エージェントを長時間実行した際にGPUメモリ不足でモデルが途中でアンロードされてしまう問題が修正され、以前のターンのメモリが事前に解放されるようになっています。NVIDIA GPU環境では、長いプロンプトの後に複数リクエストを同時実行した際に不正メモリアクセスでクラッシュする問題や、Qwen 3.8 27Bの読み込み失敗、Gemma 4 E2B/E4Bでのメモリエラーが解消されました。Linux環境のAMD GPUにおいても、巨大な画像や長いプロンプトによってドライバーの制限時間を超過しGPUがリセットされる問題について、処理を分割することで安定動作するよう改善されています。さらに、Windows環境で初回最適化処理が実行されず低速なカーネルにとどまっていた問題も修正されました。
エージェント連携・ツール呼び出しの不具合修正と挙動の改善
エージェント機能や各種ツール呼び出し時の動作が安定化しました。OpenClaw連携においてautomationsツールがサーバーを占有し、モデルがメモリから追い出されてハングアップしていた不具合が修正され、数秒で応答を返すようになっています。また、MiniCPM5やLFM2.5を使用したClaude CodeやOh My Piのリクエストで「Too many items」エラーが発生していた問題や、Qwen3.5で推論(reasoning)を無効にした際の失敗も修正されました。ツール呼び出しの途中で出力トークン制限に達した場合は、エラーとして終了するのではなく通常の長さ制限(length、max_tokens、incomplete)として安全に処理が完了するように改修されています。あわせて、リクエストでseedが指定されていない場合にリトライで常に同じ結果が返される問題が修正され、毎回新しいシード値でサンプリングされるよう変更されています。
対応モデル・ハードウェア
今回のバージョンでは、複数のモデルアーキテクチャへの最適化および不具合の修正と、各種GPU・CPU環境へのサポート改善が行われています。
モデル別の対応と挙動改善
- Gemma 4シリーズ: アシスタントモデルをドラフトヘッド(draft head)として活用した高速な生成に対応しました。Responses API経由で推論(reasoning)をオフにした際に空の回答が返される問題が解消されたほか、NVIDIA GPU環境でGemma 4 E2BおよびE4Bを実行した際に発生していた不正メモリアクセスが修正されています。また、Gemma 4 12Bを65,536トークンの長いコンテキストで実行した際に低速な既定値(4.8 tok/s)に留まる問題が解消され、信頼性の高い最適化が行われるようになりました。
- Qwenシリーズ: Qwen3.5の4Bおよび9Bモデルにおいて、DFlashドラフターを用いた投機的デコーディングに対応し、生成速度が向上しました。Mac環境において初回最適化が完了せずモデル読み込みごとに再実行されていた問題も解消されています。また、Qwen 3.8 27BがNVIDIA GPU上で正常に読み込めるようになり、初回読み込み時の最適化開始時間も短縮されています。
- MiniCPM5およびLFM2.5: Claude CodeやOh My Piからのリクエスト時に「Too many items」エラーで失敗していた問題が修正され、正常に対話できるようになりました。
- Muse Glimmer: 推論(reasoning)の無効化(オフ)を切り替えられるようになりました。
- ビジョンモデル全般: 画像入力処理の制限が見直されました。これまでエンジンの制限を超えると失敗していた大きな画像について、最大4,096セルまでエンコードできるようになり、それ以上の大きさの画像は枠内に収まるよう自動的にリサイズされます。
ハードウェアおよびプラットフォームの対応
- Apple Silicon Mac(M1〜M4): 重みの新しいタイル状レイアウト、プロンプト処理時のトークンパッキング、行列ユニットとスカラーユニットの協調動作により、プリフィルとデコードの双方が高速化されています。また、macOSにおいて有線メモリ(wired memory)や圧縮メモリの空き領域に収まるモデルであれば、ダウンロード直後であっても拒否されずにロードできるよう改善されました。
- NVIDIA GPU: 長いプロンプトの後に複数リクエストを並行処理した際に発生していた不正メモリアクセスによるクラッシュが修正され、安定したバッチ処理が可能です。
- Linux環境のAMD GPU: 大きな画像や長いプロンプトの処理時にドライバーのタイムアウトを超過してGPUがリセット・アンロードされる問題が修正されました。処理が適切に分割実行されるようになり、長時間セッション後に画像リクエストがメモリ不足で失敗する問題も解消しています。初回読み込み時に全カーネルを準備するよう変更されたため、初回利用も高速化しています。
- Windows環境: 初回最適化が実行されず未チューニングの低速なカーネルが使われていた問題が修正されました。また、モデル削除時にディスク領域が解放されない不具合や、Codex接続時の問題も解消されています。
- 対応GPU非搭載環境(Intelおよびその他x86 CPU): ストリーミング出力への対応とあわせて、Intelなどのx86プロセッサ上での生成処理自体が高速化されています。また、8GBメモリのGPU環境や非対応GPU環境において最適化処理が失敗する問題も修正されました。
- Arch Linux(x64): Arch Linux、Omarchy、その他のArch系ディストリビューション向けに、公式なpacmanパッケージの提供が開始されました。
アップデート方法
Arch LinuxおよびArch系ディストリビューション(x64)をお使いの場合は、配布されているパッケージファイル(magnitude-desktop.pkg.tar.zst)を取得し、以下のpacmanコマンドを実行してインストールまたはアップデートを行います。
sudo pacman -U./magnitude-desktop.pkg.tar.zst
また、公式のインストールスクリプトを用いた導入も可能です。導入後のデスクトップアプリ内アップデートもpacmanを経由して行われます。なお、DebianパッケージやRPMパッケージと同様に、magnitudeのプロセスが起動している間はpacmanによるアップグレードや削除が拒否されますので、更新作業を行う際は事前にアプリケーションを完全に終了させてください。
既存の環境でバックグラウンド実行(nohup magnitude serve &)などを利用されている場合も、一度サーバープロセスを終了してから最新バージョンを適用し、再起動することをおすすめします。
その他のプラットフォーム向けバイナリや詳細なインストール手順については、リリースページをご確認ください。
関連記事
- 推論エンジン「magnitude」CLI v0.2.8公開、8GB VRAMやGemma 4の最適化を強化
- magnitude CLI 0.2.14公開:CPUでのGGUFデコード高速化と耐障害性向上
- Magnitude CLI v0.2.12公開:インストーラー改善とQwen3.8モデルID変更
- ローカル推論エンジンMagnitude v0.2.11公開、カスタムGGUFモデルに対応
次に読むなら
- このツールの更新を追う → Magnitude の概要とリリース履歴(記録済み16版)
- 同じ分類(推論エンジン・ランタイム)の他のツール → llama.cpp / Ollama / vLLM

