ローカル推論エンジン「magnitude cli 0.2.9」公開、サーバーモード追加

ローカル推論エンジン「magnitude cli 0.2.9」公開、サーバーモード追加

基本情報

項目 内容
リポジトリ magnitudedev/magnitude
版 @magnitudedev/cli@0.2.9
公開日 2026-10-15
ライセンス Apache-2.0
出典の種類 公開元の一次情報(公式GitHubリポジトリのリリースノートから直接取得した一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

ローカル推論エンジン「magnitudedev/magnitude」(Rust製、Apache-2.0ライセンス)の @magnitudedev/cli@0.2.9 が公開されました。magnitudeは手元のハードウェアに合わせてカーネルを自動チューニングし、各モデルを最速で動かすことを狙う推論エンジンで、公式にはOllamaの2倍の速度を主張しており、Apple Silicon・NVIDIA・AMD・CPUのみの環境でも動作します。

今回の0.2.9で最も影響が大きいのは、magnitude server setup によるサーバーモードの追加と、それに伴うブラウザからのフルUI利用機能です。これにより、ヘッドレス機や別アカウントのマシンでmagnitudeをバックグラウンドサービスとして常駐させ、ブラウザだけでモデルのダウンロード・ロード・接続管理を行えるようになりました。デスクトップアプリに依存せず運用したい人は確認する価値があります。

主な変更点

サーバーモードとブラウザからのリモート操作 magnitude server setup で、起動時に自動起動し、ログアウト後も稼働し続け、クラッシュ時は再起動し、自動更新も行うバックグラウンドサービスを構築できます。Linuxではsystemdサービスとして専用の magnitude システムアカウントで動作し、データは /var/lib/magnitude に置かれます。macOSはログイン前から動く常駐サービス、Windowsはリモートサーバー向けガイドでNSSMによるサービス化が案内されています。サービス起動後は http://:10100 にアクセスすると、デスクトップアプリと同じDiscover・Catalog・My Models・Connections・Usage・Status・Settingsの各画面がブラウザから使えます。ネットワークアクセスを有効にすれば別デバイスからもネットワークアクセスキーでサインインでき、以後は再起動・更新をまたいでサインイン状態が維持されます。削除は magnitude server remove で、モデルや設定は保持されます。サーバー運用者・ヘッドレス機でモデルを動かしたい人は特に対象です。

Claude Codeをログイン不要で接続可能に Claude Codeをサインインせずにmagnitudeへ接続できるようになりました。Claude Codeからのリクエスト(組み込みサブエージェントからのものも含む)はロード済みのローカルモデルを使って処理されます。後からClaude側にサインインした場合は再接続すれば自分のClaudeログインに切り替わります。Claude Codeをローカルモデルのハーネスとして使っている人に関係します。

推論性能の改善 一度だけ実行される最適化処理が、実測上の負荷が大きいカーネルに時間を割くよう改善され、Gemma 4をApple Siliconで動かす場合などで生成速度が向上したと報告されています。またApple Siliconでのトークンパッキングが8bit重み形式(DFlashのドラフトモデル含む)に対応し、既存フォーマットでのパッキング精度も改善されたことで、プロンプト処理も高速化しています。Apple Silicon上でモデルを動かしている人は再ダウンロード等なしで効果が得られます。

モデルメモリ管理とロードの信頼性向上 Macではロード済みモデルのGPUメモリをアイドル時にも保持し続け、次のリクエスト時にメモリへ再配置する遅延を避けるようになりました。大きなモデルのロード時に、ロード自体が引き起こす一時的なメモリ圧迫でロードが拒否される不具合も修正され、持続的なスラッシングやスワップに対してのみメモリ保護が働くようになっています。LinuxでNVIDIA GPUの空き容量が起動時に他プログラムの占有分も含めて少なく見積もられていた不具合も修正され、モデル推奨や適合判定が実際に使える容量を基準に行われます。

インストーラー・更新の信頼性修正 RHEL 9などglibc 2.34系LinuxへのパッケージインストールやUbuntu/Debianでヘッドレス機にKDEデスクトップが余計にインストールされる問題、WindowsでRestart後にアプリ画面が戻らない問題、Macで別アカウントの残存インストールがアプリ起動を妨げる問題などが修正されています。インストールは完了したが起動しない更新はデスクトップアプリ側でも失敗として扱われ、自動的に再試行されなくなりました。

対応モデル・ハードウェア

カタログに以下のモデルが追加されました。

  • Liquid LFM2.5 24B-A2B(Q4・Q5・Q6・Q8):ローカルエージェント、コーディング、ツール利用に対応した推論モデルです。
  • MiniCPM-V 4.7 1B / 35B-A3B(Q4・Q5・Q6・Q8):画像理解とDSpark投機的デコーディングに対応するモデルで、それぞれ4倍のビジョンプロジェクターとQ8ドラフターを含みます。画像処理では同一クロップの再利用と、リサイズ画像を確保する前のメモリ容量チェックが行われますが、16倍の視覚圧縮には対応していません。
  • Qwen3.8 Flash Next(Q2・Q4・Q6・Q8):共有MTPドラフティングヘッドによる生成の高速化に対応したモデルです。大規模なn-gramテーブルはメモリに全展開せず、ストレージからストリーミングされます。
  • Qwen3.6 35B A3B のQ2版:DFlash投機的デコーディングに対応した、より小さいバリアントです。

既存ユーザーはこれらのモデルを新たにダウンロードすれば利用できます。再ダウンロードが必要なのは新規追加モデルのみで、既存モデルの再変換は不要です。

アップデート方法

ターミナルからのインストール・更新は以下のコマンドです。

macOS・Linux:

curl -fsSL https://magnitude.dev/install.sh | sh

Windows(PowerShell):

irm https://magnitude.dev/install.ps1 | iex

Linuxではインストーラーが起動時に一度だけ、Magnitudeをサーバーとして動かすかどうかを尋ねます(既定は「いいえ」で、ターミナルが無い場合や60秒以内に応答が無い場合は自動的にスキップ)。パスワード不要のsudoが設定済みの環境ではパスワードを聞かれません。

既にデスクトップアプリや serve を使っている場合は、デスクトップアプリ内の「Restart」、または次のコマンドで更新を適用できます。

magnitude update install

更新の有無は magnitude update check で確認できます。サーバーとして常駐させたい場合は、インストール後に次を実行します。

magnitude server setup

サーバーを解除する場合は magnitude server remove で、モデルや設定は保持されます。

関連記事

次に読むなら

出典