「LFM2.5-24B-A2B-MLX-6bit」Mac向け高速エージェント用MoEモデル:必要VRAM 24GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | LiquidAI/LFM2.5-24B-A2B-MLX-6bit |
| まとめページ | LFM2.5 のまとめ(記事11本) |
| 公開元のまとめ | Liquid AI のモデルとライセンスのまとめ |
| 公開日 | 2026-10-13 |
| ライセンス | lfm1.0 |
| 配布形式 | MLX / safetensors |
| 論文 | arXiv:2511.23404 |
| 出典の種類 | 公開元の一次情報(公式HFリポジトリで一次情報確認) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
Liquid AIは、同社の最新推論モデル「LFM2.5-24B-A2B」のMLX形式による6bit量子化版を公開しました。このモデルは、デバイス上での高速かつプライベートなエージェント動作を実現するために設計されたLiquid Foundation Models (LFM) ファミリーの最大モデルです。Apple Silicon(Mac)環境で効率的に動作するように最適化されており、推論エンジンとして mlx-lm を使用します。
本モデルの基盤となるLFM2シリーズは、エッジ環境における遅延とメモリの制約下で、ハードウェア・イン・ザ・ループのアーキテクチャ探索を通じて開発されました。論文「LFM2 Technical Report」によれば、ゲート付き短時間畳み込み(Gated Short Convolutions)と少数のグループ化クエリ注意(GQA)ブロックを組み合わせたコンパクトなハイブリッド・バックボーンを採用しており、同規模のモデルと比較してCPU上でのプリフィルおよびデコード速度が最大2倍に達するとされています。
今回の量子化版では、各重みが6bitに圧縮されていますが、MoE(Mixture of Experts)のルーティングゲートは量子化されず、float32の精度が維持されています。これにより、メモリ使用量を抑えつつ、モデルの推論能力の劣化を最小限に留めることが図られています。
出典:LiquidAI/LFM2.5-24B-A2B-MLX-6bit 出典:LFM2 Technical Report (arXiv:2511.23404)
スペック
資料に記載されている「LFM2.5-24B-A2B」の主なスペックは以下の通りです。
- 総パラメータ数: 24.0B
- 活性パラメータ数: 2.45B
- アーキテクチャ: Lfm2MoeForCausalLM (MoE)
- レイヤー数: 40 (30 double-gated short convolution blocks + 10 GQA)
- エキスパート数: 1ブロックあたり64エキスパート、top-4ルーティング
- コンテキスト長: 131,072 tokens
- ボキャブラリサイズ: 128,000
- 学習データ量: 36 trillion tokens
性能
本モデルの性能について、公開元が公表している元モデル(LFM2.5-24B-A2B)のベンチマーク結果を紹介します。以下の表は、主要なオープンウェイトモデルとの比較です。比較対象はローカル環境での実行が可能なモデルを優先して抽出しています。
→ 横にスクロールできます
| Benchmark | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| τ³-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| AA-Omniscience | -24.90 | -24.35 | -59.39 | -3.58 |
| HLE | 7.40 | 7.69 | 8.57 | 5.65 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 |
| MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
| SciCode | 32.71 | 37.35 | 35.42 | 27.78 |
公開元の測定結果によれば、LFM2.5-24B-A2Bはエージェント能力を測るベンチマークで非常に優れた数値を記録しています。特に AutomationBench では27.69と、比較対象の他モデルを大きく引き離しています。また、指示追従能力を測る IFEval においても96.75という高い遵守率を示しており、複雑な制約を伴う指示に対しても忠実に応答できることが分かります。
一方で、科学の難問を扱う GPQA Diamond(74.42)や、実リポジトリの修正能力を測る SWE-Bench Verified(51.00)といった項目では、Qwen3.6-35B-A3Bなどの他モデルに及ばない結果となっています。数学(MATH-500)においても96.04と高い水準ではありますが、Qwen3.6-35B-A3B(96.73)には僅かに届いていません。これらのことから、本モデルは特定の知識量や高度なコーディングよりも、ツールの呼び出しやエージェントとしてのタスク遂行において強みを発揮する特性を持っていると言えます。
推論速度についても特筆すべきデータが示されています。公開元の報告によれば、Apple M5 Max環境において184 tokens/sのデコード速度を達成しており、これは同規模のMoEモデルと比較して最大1.7倍高速であるとされています。今回のMLX 6bit量子化版は、この高速な推論性能をMac上で最大限に引き出すための選択肢となります。
得意なこと・想定用途
元モデルであるLFM2.5-24B-A2Bのモデルカードによれば、本モデルは「デバイス上で高速かつプライベートに動くエージェント」として設計されており、推論しながらツールを呼び出し、安定して動作することを主眼に置いています。実際にpost-trainingの段階では、OpenClaw・Hermes Agent・Pi・OpenCodeといった実際のエージェントハーネス内で強化学習が行われ、各ハーネス特有のツール形式やシステムプロンプト、対話パターンを学習させているとされています。Function callingにも対応し、Pythonic形式の関数呼び出し(<|tool_call_start|>と<|tool_call_end|>で挟む形式)やJSON形式への切り替えも可能です。
対応言語は英語・アラビア語・中国語・フランス語・ドイツ語・日本語・韓国語・スペイン語・ポルトガル語・イタリア語など多岐にわたり、タグからも多言語対応であることが分かります。コンテキスト長は131,072トークンと長く、長文のログや複数ターンのエージェント対話を扱う用途に適しています。
一方でモデルカードは「知識集約型のタスク単体には推奨しない」と明記しており、検索やWeb検索と組み合わせて、ツール呼び出しの強みを活かす使い方を推奨しています。純粋な知識量や高度な科学問題への回答精度を求める用途には、前半で触れた性能差からも分かるように向いていません。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 24.0B(元モデル LiquidAI/LFM2.5-24B-A2B の値)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4090 / 3090 など 24GB | MLX 6bit | 18.2GB | 21.8GB |
推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。
公開元の配布は MLX / safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM・MLX (Apple Silicon) で読み込む形になり、必要メモリは上の表のとおりです。
ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。
量子化の圧縮率: MLX 6bit は実測 6.52 bit/weight で、元の16bitの重みの約41%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| IFM/Jais-3-32B-GGUF | 34.8B | 24GB | apache-2.0 | 「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜(2026-11-17) |
| IFM/Jais-3-MoVA-36B-A4B-GGUF | 37.4B | 32GB | apache-2.0 | 「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
| tencent/Hy-Memory-30B-A3B | 30.1B | 12GB | apache-2.0 | 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17) |
| KRAFTON/Raon-1-mini-preview | 28.8B | 24GB | apache-2.0 | 「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり(2026-11-17) |
| ggml-org/Flint-GGUF | 39.8B | 32GB | apache-2.0 | 「Flint-GGUF」コーディング向けMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
入手方法
本モデルはMLX形式(safetensors)で配布されており、Apple Silicon搭載Mac上での実行を想定しています。利用にはmlx-lm 0.32.0以降が必須で、これより古いバージョンではMoEのエキスパートルーティングが正しく動作しない点が明記されています。
pip install -U "mlx-lm>=0.32.0"
from mlx_lm import load, generate
model, tokenizer = load("LiquidAI/LFM2.5-24B-A2B-MLX-6bit")
このほか、元モデル側にはFP8版・GGUF版(llama.cpp向け)・ONNX版・4bit MLX版も用意されており、用途に応じて選べます。配布元リポジトリのライセンスはいずれもlicense:other(lfm1.0)として登録されており、利用にあたってはライセンス条件を確認することをおすすめします。本モデル自体はgatedには設定されておらず、通常のダウンロード操作で入手できます。
関連記事
- 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり
- 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜
- 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜
- 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜
次に読むなら
- GPUのVRAMから探す(このモデルは24GBの階層から動きます) → 24GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → LFM2.5 系統のまとめ(記事11本・変換版17件)
- このモデルを動かすエンジンを調べる → vLLM
- このモデルを入手できる形式を調べる → MLX形式の解説と対応モデル
- 公開元について調べる → Liquid AI のモデル・ライセンス・記事のまとめ
