magnitude CLI 0.2.14公開:CPUでのGGUFデコード高速化と耐障害性向上

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | magnitudedev/magnitude |
| 版 | @magnitudedev/cli@0.2.14 |
| 公開日 | 2026-10-29 |
| ライセンス | Apache-2.0 |
| 出典の種類 | 公開元の一次情報(公式GitHubリポジトリのリリースノートが一次情報) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
ハードウェアに合わせてカーネルを自動チューニングしモデルを高速に実行するオープンソースの推論エンジン「magnitude」のCLIツール向けに、最新バージョンとなる @magnitudedev/cli@0.2.14 が公開されました。magnitudeはRust言語で開発されApache-2.0ライセンスで公開されている推論エンジンで、Apple Silicon、NVIDIA、AMD、Intel、またはCPU単体での動作に対応しています。
本バージョンにおける利用者への最大の影響は、CPU上における量子化GGUFモデルのデコード処理の高速化と、推論エンジンのダウンロードにおける耐障害性の大幅な改善です。CPUを利用してローカル環境でモデルを動かしているユーザーにとって推論効率が向上するほか、低速回線や不安定な通信環境下でもセットアップが途中で失敗しにくくなっています。
主な変更点
CPUにおける量子化GGUFモデルのデコード高速化
CPU環境における量子化GGUFモデルのデコード処理が最適化され、生成速度が向上しました。資料によれば、Apple M4 Pro環境でQ4に量子化されたQwen3.5 4Bを実行した場合、1トークンあたりにかかる処理時間が約13%短縮されることが確認されています。CPU上で量子化モデルを実行しているユーザーや、Apple Siliconの内蔵リソースを活用して推論を行っているユーザーに恩恵があります。モデルの再ダウンロードや変換は不要で、CLIをアップデートすることで性能向上が適用されます。
カタログの推定速度や知能スコアによる並び替え
モデルカタログの並び替え機能が強化され、「Fastest」および「Most intelligent」によるソートに対応しました。「Fastest」を選択した場合は、ユーザー自身のマシンにおいて50Kコンテキストで実行した際の推定速度に基づいて並び替えます。また「Most intelligent」を選択した場合は、カタログが持つインテリジェンススコア(intelligence score)に基づいて順序が決まります。なお、推定値やスコアが存在しないモデルについてはリストの末尾に配置されます。手元の環境で高速に動くモデルや性能の高いモデルを探したい利用者の利便性が大きく向上します。
推論エンジンのダウンロード耐障害性とレジューム機能
推論エンジン本体をダウンロードする際の安定性が大幅に向上しました。回線の一時的な切断や低速接続への耐性が強化され、各パートのダウンロードにおいてデータを受信しない状態が10分間継続するまでリトライを粘り強く試みるように変更されました(従来は2回の短いリトライで中断していました)。さらに、プロセスの再起動後も最初からやり直すことなく、ダウンロードを途中から再開できるレジューム機能に対応しています。ダウンロードに失敗した場合でもサービスがリトライを継続し、magnitude status コマンドでエラー内容や次の再試行タイミングを確認できるようになりました。あわせて、ダウンロードの進行中に起動処理が5分で強制キャンセルされる制限も撤廃されています。
OpenCode 2との連携動作の修正
外部ツールであるOpenCode 2とMagnitudeのモデルを組み合わせて起動できない問題が解決されました。OpenCode 2側の仕様変更に伴い --model オプションが廃止され、起動をまたいで単一のバックグラウンドサーバーを共有する設計となったため連携に問題が生じていました。これに対応するため、Magnitude側でインストールされているバージョンを自動検知し、設定ファイルにモデルを指定したうえでOpenCode 2を専用の独立したサーバーで起動する仕組みが実装されました。なお、OpenCode 1については以前と同様の方式で起動します。
Apple Silicon環境でのQwen3.8 Flash Next読み込み問題の修正
Apple Silicon搭載環境において、Qwen3.8 Flash Nextを読み込もうとした際に prepared 105 bytes but the ordered program plan charged 102 というエラーが発生して読み込みに失敗する問題が修正されました(Issue #227)。カーネルメモリのサイズ計算を手動で行っていた従来の処理を改め、自動的に導出(derived)する設計へと修正されたため、プログラムプランとの間で数値の不一致が発生しなくなりました。該当モデルをApple Silicon環境で利用していたユーザーは、アップデート後に正常なロードが可能になります。
対応モデル・ハードウェア
今回の @magnitudedev/cli@0.2.14 アップデートでは、特定のモデル系列およびハードウェア環境において、動作の改善や不具合の解消が行われています。資料から確認できる対象モデルやハードウェアの詳細は以下の通りです。
対応モデルと量子化形式
本バージョンでは、特にQwenシリーズおよび量子化GGUFモデルに関して重要な改善が含まれています。
- Qwen3.5 4B(Q4量子化GGUF形式): CPU環境におけるデコード処理の高速化が検証されています。Apple M4 Proを用いた測定では、1トークンあたりの処理時間が約13%短縮されることが確認されており、同モデルを軽量な量子化形式でローカル実行している環境において推論速度の向上が得られます。
- 量子化GGUFモデル全般: 上記のQwen3.5 4Bに限らず、CPU上で動作する量子化GGUFモデル全般においてデコード処理の高速化が適用されます。手元のリソースを活用してCPUでGGUF形式の推論を行っているユーザー全体に恩恵があります。
- Qwen3.8 Flash Next: これまでApple Silicon環境においてロード時に発生していたエラー(Issue #227)が修正されました。具体的には、カーネルメモリの算定処理が自動導出へと変更されたことにより、プログラムプランとのバイト数の不整合が解消され、Apple Siliconを搭載したマシン上で同モデルを正常にロードして推論を実行できるようになりました。
対応ハードウェア
ハードウェアに関しては、CPU全般およびApple Silicon環境における最適化とバグ修正が中心となっています。
- CPU(汎用CPU): 量子化GGUFモデルのデコード処理が高速化され、GPUを利用しないCPU単体での推論や、CPUリソースを活用したテキスト生成処理全体の効率が向上しています。
- Apple Silicon: M4 ProをはじめとするApple Silicon搭載環境において、CPUデコードの高速化が確認されているほか、Qwen3.8 Flash Nextのロード失敗問題が修正されています。これにより、Mac端末上でより安定してモデルを稼働させることが可能です。
なお、magnitude自体はApple Silicon、NVIDIA、AMD、Intelの各環境およびCPU単体での動作をサポートしているオープンソース推論エンジンですが、今回のパッチで直接挙動の更新や修正が明記されているのはCPU推論およびApple Silicon環境となります。
アップデート方法
本リリースにおける具体的なインストールコマンドやパッケージマネージャの手順は資料(リリースノート)に記載されていないため、導入や更新にあたっては公式リリースページおよび公式ドキュメントを参照してください。
詳細なリリース情報や関連するコミット内容については、以下のGitHubリリースページにて確認できます。
なお、アップデート後に推論エンジンのダウンロードや動作状況を確認したい場合は、今回のバージョンで改善された magnitude status コマンドを実行することで、ダウンロード中のエラーの有無や次回の再試行スケジュールなどの状態を確認できます。
前回の記事からの更新履歴
当サイトがGitHubのリリース一覧から機械的にまとめた、この版と前回取り上げた版の間に出た版です(単独記事にはしていません)。 全ての版はエンジン別ページにあります。
| 版 | 公開日 | リリースノート |
|---|---|---|
| @magnitudedev/cli@0.2.13 | 2026-10-28 | GitHub |
関連記事
- Magnitude CLI 0.2.10リリース:統合メモリと内蔵GPUのメモリ管理を改善
- 推論エンジン「magnitude」v0.2.6公開、Macでのプロンプト処理が大幅高速化
- 推論エンジン「@magnitudedev/cli」v0.2.5公開、M5 Mac対応やMoE高速化
- 推論エンジン「Magnitude CLI 0.2.4」公開、メモリ削減と初回ロード高速化を実現
次に読むなら
- このツールの更新を追う → Magnitude の概要とリリース履歴(記録済み16版)
- 同じ分類(推論エンジン・ランタイム)の他のツール → llama.cpp / Ollama / vLLM

