「Muse-Glimmer-30B-GGUF」30Bのマルチモーダルローカルエージェントモデル:必要VRAM 24GB〜

「Muse-Glimmer-30B-GGUF」30Bのマルチモーダルローカルエージェントモデル:必要VRAM 24GB〜

基本情報

項目 内容
リポジトリ ggml-org/Muse-Glimmer-30B-GGUF
公開日 2026-10-08
ライセンス apache-2.0
配布形式 GGUF
出典の種類 公開元の一次情報(ggml-org公式リポジトリであり、一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

ggml-orgは、Meta Superintelligence Labが開発した30Bクラスのマルチモーダルローカルエージェント向けモデル「Muse-Glimmer-30B」のGGUF量子化版「ggml-org/Muse-Glimmer-30B-GGUF」を公開しました。元モデルの「Muse-Glimmer-30B」は、上位モデルである「Muse Spark」から蒸留され、消費者向けハードウェアで自律的なエージェントタスクを実行するために専用設計された、約29.6Bパラメータの因果関係言語モデルです。このモデルは、マルチステップの推論、信頼性の高いツール利用、マルチモーダル理解、そしてエラー発生時の自己修復(失敗からの回復力)を1つのローカル実行可能なモデルとして統合している点が特徴です。

スペック

元モデル「meta-models/Muse-Glimmer-30B」の仕様は以下の通りです。

  • 総パラメータ数: 約29.6B(ビジョンエンコーダーを含む)
  • アーキテクチャ: Dense Causal Transformer with Perception Encoder
  • コンテキスト長: 131,072+
  • レイヤー数: 52
  • アテンションパターン: [Local, Local, Local, Global] の繰り返し
  • スライディングウィンドウサイズ: 2048
  • アテンションヘッド(Q / KV): 32 / 2(GQA比率 16:1)
  • 知覚エンコーダー(Perception encoder): 約1.8BパラメータのViT-G/14(50レイヤー、幅1536、パッチサイズ14)
  • ボキャブラリーサイズ: 202,048
  • 画像あたりの最大ビジュアルトークン数: 4,096
  • 対応モダリティ: 入力:テキスト + 画像、出力:テキスト
  • 知識のカットオフ: 2026年1月4日

性能

以下に示す性能情報は、すべて元モデル「meta-models/Muse-Glimmer-30B」の公開カードに記載されている、開発元による測定値です。量子化やGGUFへの変換によって、実際の性能は多少変化する可能性があります。

ベンチマーク評価比較

開発元の評価において、Muse Glimmer-30Bは同規模クラスの主要なモデル(Gemma4-31B、Qwen3.6-27B)と比較されています。

→ 横にスクロールできます

カテゴリ ベンチマーク Muse Glimmer-30B High Reasoning Gemma4-31B Thinking Mode Qwen3.6-27B Thinking Mode
General Agentic MCP Atlas (Public) 75.5 54.2 62.5
DeepSearch QA 74.6 61.7 71.1
𝛕3-Banking 23.5 15.1 16.7
WildClawBench 47.6 37.6 43.2
GDPVal-AA v2 953 811 1141
Gaia2 43.3 36.4 40.0
SkillsBench (with skills) 44.3 32.4 46.6
OSWorld-Verified 65.9 58.5 75.6
Agentic Coding SWE-Bench Pro 51.2 36.9 50.2
SWE-Bench Verified 76.0 66.6 77.2
TerminalBench 2.1 (with terminus2) 51.7 43.4 60.7
SciCode 43.6 43.4 39.8
Multimodal Charxiv Reasoning 78.8 77.7 78.4
ScreenSpot Pro 75.4 75.9 76.1
OmniDocBench v1.5 75.8 72.5 77.8
MMMU Pro 74 73 75
General Capabilities and Reasoning IFBench 77.0 76.0 70.8
AIME 2026 94.7 89.2 94.1
GPQA Diamond (AA) 83.5 85.7 84.2
HLE Text (AA) 22.0 23.6 23.1
AA-LCR 80.0 68.3 73.3
Beam128K 65.1 58.2 63.0

この評価結果から、Muse Glimmer-30Bは「General Agentic(一般的なエージェントタスク)」の多くのベンチマーク(MCP Atlasで75.5、DeepSearch QAで74.6など)で他モデルを大きく上回るスコアを獲得していることがわかります。「Agentic Coding」でも、SWE-Bench Proで51.2を記録するなど高い適性を示しています。一方で、OSWorld-Verified(65.9)やTerminalBench 2.1(51.7)などの検証タスク、あるいはGPQA Diamond(83.5)といった特定の推論ベンチマークでは、Qwen3.6-27BやGemma4-31Bに一歩及ばない結果となっています。

科学・安全分野の評価(Preparedness)

科学的知識や実験室でのデバッグ能力を測定する分野の比較結果は以下の通りです。

→ 横にスクロールできます

Benchmark Muse Glimmer-30B Gemma4-31B Qwen3.6-27B Kimi K3
MBCT 41.5% 50.6% 45.9% 58.9%
HPCT 52.3% 54.0% 48.7% 59.6%
VCT 37.0% 43.5% 33.7% 48.0%
WMDP (Bio) 86.5% 85.9% 84.8% 89.1%
WMDP (Chem) 75.2% 80.5% 74.8% 84.2%
Lab Bench (ProtocolQA) 80.2% 75.8% 69.1% 81.9%

科学分野においては、WMDP (Bio)で86.5%、Lab Bench (ProtocolQA)で80.2%を記録し、同クラスのオープンウェイトモデルの中でトップクラスの性能を示しています。一方で、MBCTやVCT、WMDP (Chem)などの指標においてはGemma4-31Bの後塵を拝しており、分野によって得意・不得意が分かれる傾向にあります。

量子化による性能劣化の検証

開発元は、モデルを圧縮した際の性能劣化(15の共通ベンチマークの平均精度に基づく)を検証しています。

Full Precision K-Quant-Dynamic K-Quant-17GB
% Degradation* – 0.2% 1.0%
Target Hardware 64GB VRAM 32GB VRAM 24GB VRAM

この検証によると、モデルサイズを縮小した「K-Quant-17GB」であっても、フル精度からの性能低下はわずか1.0%に抑えられており、24GB VRAM環境などの消費者向けハードウェアでも実用的な精度を維持できるとされています。

ローカル環境における推論速度(DFlash投機的デコード)

Muse Glimmerは「DFlash」と呼ばれる軽量な投機的デコード用モデルを同梱しており、これによりローカル環境での推論速度を大幅に向上させています。以下は、K-Quant-17GBモデルとDFlashドラプターを組み合わせた際の、各種ローカルハードウェアにおける測定結果です。

GPU Baseline No-speculation (tok/s) Avg* with DFlash Speculation (tok/s) Speedup
Nvidia RTX 5090 74.9 233.4 3.1x
Apple M4 Max 23.7 37.8 1.5x
Apple M5 Max 26.6 50.2 1.8x

投機的デコードを使用しないベースラインと比較して、Nvidia RTX 5090環境では3.1倍(233.4 tok/s)、Apple M5 Max環境では1.8倍(50.2 tok/s)の高速化が確認されており、ローカルデバイス上でも非常にスムーズな動作が期待できます。

得意なこと・想定用途

Muse-Glimmer-30Bは、消費者向けハードウェア上で外部ネットワークやクラウドインフラに依存せずに動作する、自律型AIエージェントとしての利用を主眼に置いて設計されています。元モデルの開発元であるMeta Superintelligence Labのモデルカードによると、本モデルは特に以下の用途やタスクに最適化されています。

  • ローカル環境での自律エージェント: 複数ステップにわたる長期的な計画立案、順序立てられたツールの連続実行、そして実行時のエラーを自己診断して再試行する失敗からの回復力を備えています。クラウドを経由せずに完全なローカル環境で動作させることが可能です。
  • ソフトウェア開発・コーディングエージェント: SWE-Benchスタイルのワークフローに対応し、コードの作成やバグの修正、実環境でのソフトウェアエンジニアリングタスクを自律的に解決することを得意としています。
  • スキーマに忠実なツール利用・関数呼び出し: 厳格なスキーマに基づいた関数呼び出しに対応しており、複数ターンのやり取りが続く複雑なワークフローにおいても安定してツールを呼び出せます。
  • マルチモーダル推論: 約1.8Bパラメータの専用知覚エンコーダー(ViT-G/14)を統合しているため、テキストと画像を混在させた入力を解釈できます。スクリーンショットや図表、文書画像を対話コンテキストとともに読み取ることが可能です。
  • エージェントフレームワークとの親和性: OpenClawやHermes Agentなどの主要なエージェントオーケストレーションパターンに対応しています。
  • 推論強度の制御: システムプロンプトを通じて思考の深さ(Reasoning strength)を調整できます。複雑な問題解決やコーディング、エージェントタスクでは「high」や「xhigh」の指定が推奨されています。
  • 多言語対応: 100以上の言語のデータで学習されています。
  • 合成データ生成およびLLM評価: 後続モデル開発のための高品質な学習データ生成や、他のモデルの出力を評価するLLM-as-a-judgeとしての活用も想定されています。

なお、音声の入出力には対応しておらず、動画入力は個別の静止画フレームとして処理されます。また、18歳未満のユーザーによるダウンロードや利用は想定されていません。

開発元が推奨しているサンプリング設定は以下の通りです。

  • temperature: 1.0
  • top_p: 0.95
  • top_k: 64
  • 推論強度(Reasoning strength): Reasoning strength: high または xhigh(システムプロンプト内で low / medium / high / xhigh から指定)

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 29.8B(元モデル meta-models/Muse-Glimmer-30B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4090 / 3090 など 24GB Q4_K_M 17.9GB 21.5GB
RTX 6000 Ada / A6000 など 48GB Q8_0 27.6GB 33.1GB
A100 / H100 80GB クラス BF16 51.9GB 62.3GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q4_K_M は実測 5.16 bit/weight で、元の16bitの重みの約32%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
Cloudflare/clef-omni 35.3B 80GB apache-2.0 「clef-omni」30Bのマルチモーダル意思決定モデル:必要VRAM 80GB〜(2026-11-17)
ggml-org/vllm-d3-GGUF 26.1B 24GB apache-2.0 意思決定モデル「vllm-d3-GGUF」シリーズ公開(2026-11-17)
inclusionAI/ZwZ2-27B-GGUF 27.4B 24GB — 「ZwZ2-27B-GGUF」視覚言語モデル:必要VRAM 24GB〜(2026-11-17)
Cloudflare/clef 27.4B 12GB apache-2.0 「clef」構造化意思決定モデル:必要VRAM 12GB〜・GGUF版あり(2026-10-01)
ggml-org/OpenJev-GGUF 27.4B 24GB cc-by-nc-4.0 「OpenJev-GGUF」27.4Bの意思決定特化型モデル:必要VRAM 24GB〜(2026-10-01)

入手方法

「ggml-org/Muse-Glimmer-30B-GGUF」はHugging Face上で公開されており、ゲート付きモデルではないため、事前の利用申請や同意手続きを行わずにそのままダウンロードできます。ライセンスは元モデルと同様にApache 2.0が適用されています。

配布形式

本リポジトリではGGUF形式でモデルファイルが提供されています。モデル本体に加えて、以下のコンポーネントが用意されています。

  • ビジョンエンコーダー用プロジェクター: Q8_0 量子化が施された mmproj ファイル
  • 投機的デコード用ドラプター(DFlash drafter sidecar): BF16、Q8_0、Q4_0 の各バリエーション

このモデル変換は、ggml-orgの変換ツール(https://github.com/ggml-org/convert)を用いて自動的に行われています。

実行方法

llama.cppのエコシステムに対応しており、llama.appなどの環境から手軽にサーバーを起動できます。公式のモデルカードでは、以下のコマンドを用いた実行方法が案内されています。

llama serve -hf ggml-org/Muse-Glimmer-30B-GGUF

DFlashドラプターモデルを併用して投機的デコードを有効化することで、単一トークンごとの生成と比べて生成速度を大幅に引き上げることが可能です。

関連記事

次に読むなら

出典