「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | LiquidAI/LFM2.5-24B-A2B |
| まとめページ | LFM2.5 のまとめ(記事11本) |
| 公開元のまとめ | Liquid AI のモデルとライセンスのまとめ |
| 公開日 | 2026-10-12 |
| ライセンス | lfm1.0 |
| 配布形式 | safetensors |
| 論文 | arXiv:2511.23404 |
| 出典の種類 | 公開元の一次情報(公式HFリポジトリで一次情報確認) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
LiquidAIが、24Bパラメータの推論モデル「LFM2.5-24B-A2B」を公開しました。総パラメータ24.0Bに対して活性パラメータは2.45Bというスパースな構成(MoE)で、エッジデバイス上で動く高速・プライベートなエージェント用途を狙ったモデルです。LFM2.5ファミリーの中では最大かつ最後発のモデルで、同ファミリーは230Mから本モデルまで2桁にわたるサイズ展開を構成しています。モデルカードが参照する論文「LFM2 Technical Report」は、CPU上でのprefill・decodeを最大2倍高速化するハイブリッドバックボーン(ゲート付き短距離convolutionと少数のGQAブロックの組み合わせ)をハードウェア制約下のアーキテクチャ探索で得たと述べており、本モデルもこの系譜の設計を引き継いでいます。
スペック
- 総パラメータ: 24.0B
- 活性パラメータ: 2.45B
- レイヤー数: 40層(30のdouble-gated short convolutionブロック + 10のGQAブロック)
- エキスパート数: MoEブロックあたり64、top-4ルーティング
- 学習トークン数: 36兆トークン
- 語彙数: 128,000
- コンテキスト長: 131,072トークン
- 対応言語: 英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語
性能
公開元のモデルカードには、同程度のMoEモデルと比較した16種のベンチマーク結果が掲載されています。比較対象が多いため、ここではこのモデルと比較対象3モデル(Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning (30B-A3B))の列をそのまま載せます。
→ 横にスクロールできます
| Benchmark | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| τ³-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| AA-Omniscience | -24.90 | -24.35 | -59.39 | -3.58 |
| HLE | 7.40 | 7.69 | 8.57 | 5.65 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 |
| MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
| SciCode | 32.71 | 37.35 | 35.42 | 27.78 |
この表から分かるのは、エージェント・ツール利用系のタスク(AutomationBench、LiveClaw、ToolSandbox)で本モデルが4モデル中最も高いスコアを出している点です。たとえばAutomationBenchは27.69で、約50%多い総パラメータ・活性パラメータを持つQwen3.6-35B-A3Bの8.72を大きく上回っています。「300語以内で」といった形式指示をどれだけ守れるかを測るIFEvalでも96.75と最も高く、指示追従の精度は4モデル中トップです。一方で、博士課程レベルの科学の難問を測るGPQA Diamondでは74.42で、Qwen3.6-35B-A3Bの83.69には及びません。実リポジトリのGitHub issueを修正できるかを測るSWE-Bench Verified (OpenCode)でも51.00と、Qwen3.6-35B-A3Bの66.20より低く、知識集約型のタスクやコーディングの実リポジトリ修正ではやや劣る結果です。数学系のMATH-500は95.66〜96.73の範囲に4モデルが収まっており、ここは僅差といえます。
得意なこと・想定用途
LFM2.5-24B-A2Bは、回答を生成する前に必ず「思考」プロセスを挟む純粋な推論モデルとして設計されています。モデルカードによれば、本モデルは特にエージェント機能、ツール利用、および関数呼び出し(function calling)を伴うタスクに最適化されています。活性パラメータが2.45Bと少ないため、推論トークンあたりの計算コストを抑えつつ、高度な推論を実行できる点が特徴です。
具体的な得意分野と機能は以下の通りです。
- 高度なエージェント能力: JSON形式またはPython形式での関数呼び出しをネイティブにサポートしています。システムプロンプトで定義されたツールのリストから適切なものを選択し、実行結果を解釈して最終的な回答を導き出す一連のエージェントワークフローを効率的にこなします。
- 指示追従と論理的思考: 回答の冒頭に自動的に
<think>タグを挿入し、論理的なステップを経てから結論を出します。これにより、複雑な指示に対しても高い遵守率を維持します。 - 長文読解と多言語対応: 131,072トークンの広いコンテキスト窓を持ち、日本語を含む16言語での対話や処理が可能です。特に非ラテン文字のトークナイズ効率を向上させるため、語彙数が128,000に拡張されています。
- エッジデバイスでの高速推論: ゲート付き短距離畳み込みを用いた独自のアーキテクチャにより、Apple M5 MaxやAMD Ryzen AI Max+といったエッジ環境のCPU/GPUにおいて、既存のMoEモデルを上回るデコード速度を実現しています。
一方で、公開元は本モデル単体での知識集約的なタスク(事実関係の正確さが求められる質問など)への利用は推奨していません。その代わり、高いツール利用能力を活かして、Web検索や外部データベース(RAG)と組み合わせることで、その真価を発揮するとしています。
学習プロセスにおいては、36兆トークンの事前学習に加え、推論・数学・コード・指示追従に重みを置いた2兆トークンの中間学習、さらにOpenClawやHermes Agentといった実際のエージェント用フレームワークを用いた強化学習が施されており、実用的なエージェントとしての動作が追求されています。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 24.0B
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4070 / 3060 12GB など 12GB | Q2_K_L | 8.9GB | 10.7GB |
| RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB | Q4_0 | 12.6GB | 15.2GB |
| RTX 4090 / 3090 など 24GB | Q6_K | 18.3GB | 22.0GB |
| RTX 5090 など 32GB | Q8_0 | 23.7GB | 28.5GB |
| A100 / H100 80GB クラス | BF16 | 44.7GB | 53.6GB |
推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 LiquidAI/LFM2.5-24B-A2B-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。
公開元の配布は safetensors ですが、unsloth/LFM2.5-24B-A2B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。
ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。
量子化の圧縮率: Q4_0 は実測 4.52 bit/weight で、元の16bitの重みの約28%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| IFM/Jais-3-32B-GGUF | 34.8B | 24GB | apache-2.0 | 「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜(2026-11-17) |
| IFM/Jais-3-MoVA-36B-A4B-GGUF | 37.4B | 32GB | apache-2.0 | 「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
| tencent/Hy-Memory-30B-A3B | 30.1B | 12GB | apache-2.0 | 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17) |
| KRAFTON/Raon-1-mini-preview | 28.8B | 24GB | apache-2.0 | 「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり(2026-11-17) |
| ggml-org/Flint-GGUF | 39.8B | 32GB | apache-2.0 | 「Flint-GGUF」コーディング向けMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
入手方法
本モデルはHugging Face上で公開されており、利用規約への同意が必要なゲート設定は行われていないため、誰でも自由に入手可能です。用途に合わせて複数の配布形式が提供されています。
- 標準形式 (safetensors):
transformers、vLLM、SGLangでの利用に適しています。 - GGUF形式:
llama.cppやLM Studioを用いた、CPUメインのローカル実行や量子化推論に適しています。 - FP8形式:
vLLMやSGLangで、メモリ使用量を抑えつつGPUで高速な推論を行う際に推奨されます。 - MLX形式: Apple Silicon(Mac)環境に最適化された4bit量子化版などが提供されています。
- ONNX形式: クロスプラットフォームでのハードウェア加速推論に利用可能です。
Pythonの transformers ライブラリ(バージョン5.0.0以上を推奨)を使用する場合の基本的なロード方法は以下の通りです。
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "LiquidAI/LFM2.5-24B-A2B"
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
dtype="bfloat16"
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
また、エージェントとして運用するために、Hermes、OpenClaw、Piといった各種エージェント用ハーネスの設定例も公開されています。ローカルでOpenAI互換のAPIサーバー(vLLM等)を立ち上げ、これらのツールから接続することで、自前環境でのエージェント構築が可能です。
派生版・量子化版
→ 横にスクロールできます
| 追記日 | 配布元 | 形式 | リポジトリ | 最小のVRAM階層(量子化・必要メモリの目安) |
|---|---|---|---|---|
| 2026-10-13 | LiquidAI | MLX | LiquidAI/LFM2.5-24B-A2B-MLX-5bit | MLX 5bit 18.5GB(24GB VRAMで動作) |
| 2026-10-14 | unsloth | GGUF(imatrix) | unsloth/LFM2.5-24B-A2B-GGUF | IQ3_XXS 10.0GB(12GB VRAMで動作) |
| 2026-10-15 | ggml-org | GGUF | ggml-org/LFM2.5-24B-A2B-GGUF | Q4_K_M 16.2GB(24GB VRAMで動作) |
| 2026-11-17 | LiquidAI | GGUF | LiquidAI/LFM2.5-24B-A2B-GGUF | Q2_K_L 10.7GB(12GB VRAMで動作) |
| 2026-11-17 | LiquidAI | FP8 | LiquidAI/LFM2.5-24B-A2B-FP8 | FP8 27.7GB(32GB VRAMで動作) |
| 2026-11-17 | LiquidAI | MLX | LiquidAI/LFM2.5-24B-A2B-MLX-4bit | MLX 4bit 15.2GB(16GB VRAMで動作) |
| 2026-11-17 | LiquidAI | MLX | LiquidAI/LFM2.5-24B-A2B-MLX-bf16 | MLX 53.6GB(80GB VRAMで動作) |
各リポジトリの量子化とファイルサイズ:
- LiquidAI/LFM2.5-24B-A2B-MLX-5bit の量子化: MLX 5bit 15.4GB
- unsloth/LFM2.5-24B-A2B-GGUF の量子化: IQ2_XXS 7.0GB / IQ2_M 7.0GB / Q2_K_XL 7.5GB / IQ3_XXS 8.3GB / Q3_K_XL 10.2GB / Q4_K_XL 13.9GB / Q5_K_XL 16.7GB / Q6_K_XL 20.4GB / Q8_0 23.7GB / BF16 44.7GB
- ggml-org/LFM2.5-24B-A2B-GGUF の量子化: Q4_K_M 13.5GB / Q8_0 23.7GB / BF16 44.7GB
- LiquidAI/LFM2.5-24B-A2B-GGUF の量子化: Q2_K_L 8.9GB / Q4_0 12.6GB / Q4_K_M 13.5GB / Q5_K_M 15.9GB / Q6_K 18.3GB / Q8_0 23.7GB / BF16 44.7GB / F16 44.7GB
- LiquidAI/LFM2.5-24B-A2B-FP8 の量子化: FP8 23.0GB
- LiquidAI/LFM2.5-24B-A2B-MLX-4bit の量子化: MLX 4bit 12.6GB
- LiquidAI/LFM2.5-24B-A2B-MLX-bf16 の量子化: MLX 44.7GB
このほか、上記以外の投稿者による変換版が 34 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。
この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。
関連記事
- 「LFM2.5-24B-A2B-MLX-6bit」Mac向け高速エージェント用MoEモデル:必要VRAM 24GB〜
- 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜
- 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜
- 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜
次に読むなら
- GPUのVRAMから探す(このモデルは12GBの階層から動きます) → 12GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → LFM2.5 系統のまとめ(記事11本・変換版17件)
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama / vLLM
- 入手できる形式と、表に出てくる Q2_K_L・Q4_0・Q6_K の意味を知る → GGUF形式の解説と対応モデル / MLX形式の解説と対応モデル / FP8形式の解説と対応モデル / 量子化・モデル形式の用語集
- 公開元について調べる → Liquid AI のモデル・ライセンス・記事のまとめ
出典
更新履歴
- 2026-11-17: 変換版を「派生版・量子化版」に追記しました: LiquidAI/LFM2.5-24B-A2B-GGUF, LiquidAI/LFM2.5-24B-A2B-FP8, LiquidAI/LFM2.5-24B-A2B-MLX-4bit, LiquidAI/LFM2.5-24B-A2B-MLX-bf16
- 2026-11-17: 動作環境の表を LiquidAI/LFM2.5-24B-A2B-GGUF の実ファイルサイズで更新しました。
- 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。

