「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | LiquidAI/LFM2.5-24B-A2B-FP8 |
| まとめページ | LFM2.5 のまとめ(記事11本) |
| 公開元のまとめ | Liquid AI のモデルとライセンスのまとめ |
| 公開日 | 2026-10-13 |
| ライセンス | lfm1.0 |
| 配布形式 | safetensors |
| 出典の種類 | 公開元の一次情報(LiquidAI公式HFリポジトリ) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
Liquid AIは、同社の推論モデル「LFM2.5-24B-A2B」のFP8量子化版となる「LiquidAI/LFM2.5-24B-A2B-FP8」を公開しました。
本モデルはGPU推論に向けたチェックポイントであり、線形層の重みが128×128ブロック単位でFP8に量子化され、動的なアクティベーション量子化が適用されています。一方で、埋め込み層やMoE(Mixture of Experts)のルーティングゲート、畳み込み層の重みは元の精度を維持した構成となっています。
vLLMやSGLangなどの推論エンジンを利用することで、メモリ消費を抑えながら高いスループットでのサービングを実現することを目的としています。
スペック
元モデルのモデルカードに記載されているスペックは以下の通りです。
- 総パラメータ数: 24.0B
- 活性パラメータ数: 2.45B(モデル概要では2Bと表記)
- アーキテクチャ: MoE(Lfm2MoeForCausalLM、30のdouble-gated short convolutionブロックと10のGQAブロックからなる計40レイヤー)
- エキスパート構成: MoEブロックあたり64エキスパート(top-4ルーティング)
- コンテキスト長: 131,072トークン
- 語彙数: 128,000
性能
今回公開されたリポジトリ自体にはベンチマーク表が記載されていないため、元モデル「LFM2.5-24B-A2B」のモデルカードで公表されている測定結果を紹介します。なお、本モデルはFP8量子化が施されているため、元の精度と比較して性能にわずかな変化が生じる可能性がある点にご留意ください。
公開元による主要なオープンウェイトMoEモデルとの比較結果は下表の通りです。
→ 横にスクロールできます
| Benchmark | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| τ³-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| AA-Omniscience | -24.90 | -24.35 | -59.39 | -3.58 |
| HLE | 7.40 | 7.69 | 8.57 | 5.65 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 |
| MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
| SciCode | 32.71 | 37.35 | 35.42 | 27.78 |
この測定結果から、元モデルは形式的な指示を守れるかを測る「IFEval」において96.75を記録し、比較対象の中で最も高い指示追従性能を示していることがわかります。また、AutomationBench(27.69)やLiveClaw(48.09)といったエージェント系のベンチマークにおいても、他モデルを大きく引き離して高いスコアを達成しています。
高校から競技レベルの数学を解く「MATH-500」では96.04と高い水準を維持しているものの、Qwen3.6-35B-A3B(96.73)やNemotron-3.5-Lightning(96.40)にはわずかに届いていません。
一方で、専門家が作成した超難問集である「HLE」では7.40にとどまり、Gemma-4-26B-A4B-it(8.57)やQwen3.6-35B-A3B(7.69)を下回っています。さらに、博士課程レベルの物理・化学・生物の問題を扱う「GPQA Diamond」でも74.42と、83.69を記録したQwen3.6-35B-A3Bに対して大差をつけられており、高度な知識を要する難問の解決力や実リポジトリでの課題修正能力を測るSWE-Bench Verified(51.00対66.20)においては競合に及ばない分野が存在することも確認できます。
得意なこと・想定用途
本モデルはFP8量子化版であるため、得意分野や機能的な特徴は元モデルである「LFM2.5-24B-A2B」に準拠しています。
元モデルは、デバイス上やローカル環境で高速かつプライベートに動作するエージェント用途(agentic workloads)に焦点を当てて設計されています。常に回答を出力する前に思考を行う推論モデルであり、チャットテンプレートの内部でアシスタントの応答開始時に <think> タグが自動的に挿入される挙動をとります。活性パラメータ数が2.45B(概要表記では2B)に抑えられているため、1トークンあたりの計算コストを低く抑えつつ、安価に思考トークンを生成できる点が強みです。
特に得意としているのは、ツール呼び出し(Tool Use / Function Calling)を伴うエージェントタスクです。システムプロンプトでJSON形式のツール定義を与えることで、4つのステップ(定義、呼び出し、実行結果の入力、最終回答)を経て外部ツールと連携できます。標準では <|tool_call_start|> と <|tool_call_end|> の特殊トークンで挟まれたPython形式の関数呼び出しを出力しますが、システムプロンプトでの指示によってJSON形式で出力させることも可能です。また、学習のポストトレーニング段階において、OpenClaw、Hermes Agent、Pi、OpenCodeといった代表的なエージェントハーネス内で強化学習や蒸留が行われており、これらのツールのプロンプト構造や操作パターンに適応しています。
コンテキスト長は131,072トークンに対応しており、日本語を含む英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語の多言語をサポートしています。語彙数も128,000へと拡張されており、非ラテン文字を含む言語の処理効率が向上しています。
一方で、モデルカードでは知識集約的なタスクを本モデル単体で解かせることは推奨されていません。単独で事実関係を網羅するのではなく、本モデルの得意とするツール呼び出し能力を活かし、検索システム(RAG)やWeb検索と組み合わせて利用することが推奨されています。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 24.0B
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 5090 など 32GB | FP8 | 23.0GB | 27.7GB |
推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。
公開元の配布は safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。
ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。
量子化の圧縮率: FP8 は実測 8.24 bit/weight で、元の16bitの重みの約52%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| IFM/Jais-3-32B-GGUF | 34.8B | 24GB | apache-2.0 | 「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜(2026-11-17) |
| IFM/Jais-3-MoVA-36B-A4B-GGUF | 37.4B | 32GB | apache-2.0 | 「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
| tencent/Hy-Memory-30B-A3B | 30.1B | 12GB | apache-2.0 | 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17) |
| KRAFTON/Raon-1-mini-preview | 28.8B | 24GB | apache-2.0 | 「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり(2026-11-17) |
| ggml-org/Flint-GGUF | 39.8B | 32GB | apache-2.0 | 「Flint-GGUF」コーディング向けMoE言語モデル:必要VRAM 32GB〜(2026-11-17) |
入手方法
本モデルはHugging Faceの LiquidAI/LFM2.5-24B-A2B-FP8 リポジトリにて、safetensors形式で配布されています。利用にあたって事前のアクセス申請やライセンス同意が必要なゲート付きモデル(gated)ではありませんが、ライセンスには「lfm1.0」が適用されています。
本チェックポイントは、線形層の重みをブロック単位でFP8化し、動的なアクティベーション量子化を組み合わせることで、GPU推論時のメモリ使用量を抑えつつ高いスループットを発揮するように最適化されています。対応エンジンとしてはSGLangやvLLMが挙げられており、SGLangを利用する場合は以下のコマンドで推論サーバーを立ち上げることができます。
python -m sglang.launch_server --model-path LiquidAI/LFM2.5-24B-A2B-FP8
関連記事
- 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜
- 「LFM2.5-24B-A2B-DSpark」推測デコード用のドラフトモデル:必要VRAM 4GB〜・GGUF版あり
- 「LFM2.5-24B-A2B-MLX-6bit」Mac向け高速エージェント用MoEモデル:必要VRAM 24GB〜
- 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり
次に読むなら
- GPUのVRAMから探す(このモデルは32GBの階層から動きます) → VRAM別 ローカルモデル早見表
- 同じモデル系統を調べる → LFM2.5 系統のまとめ(記事11本・変換版17件)
- このモデルを動かすエンジンを調べる → vLLM
- 入手できる形式と、表に出てくる FP8 の意味を知る → FP8形式の解説と対応モデル / 量子化・モデル形式の用語集
- 公開元について調べる → Liquid AI のモデル・ライセンス・記事のまとめ

