「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜

「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜

基本情報

項目 内容
リポジトリ LiquidAI/LFM2.5-24B-A2B-FP8
まとめページ LFM2.5 のまとめ(記事11本)
公開元のまとめ Liquid AI のモデルとライセンスのまとめ
公開日 2026-10-13
ライセンス lfm1.0
配布形式 safetensors
出典の種類 公開元の一次情報(LiquidAI公式HFリポジトリ)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

Liquid AIは、同社の推論モデル「LFM2.5-24B-A2B」のFP8量子化版となる「LiquidAI/LFM2.5-24B-A2B-FP8」を公開しました。

本モデルはGPU推論に向けたチェックポイントであり、線形層の重みが128×128ブロック単位でFP8に量子化され、動的なアクティベーション量子化が適用されています。一方で、埋め込み層やMoE(Mixture of Experts)のルーティングゲート、畳み込み層の重みは元の精度を維持した構成となっています。

vLLMやSGLangなどの推論エンジンを利用することで、メモリ消費を抑えながら高いスループットでのサービングを実現することを目的としています。

スペック

元モデルのモデルカードに記載されているスペックは以下の通りです。

  • 総パラメータ数: 24.0B
  • 活性パラメータ数: 2.45B(モデル概要では2Bと表記)
  • アーキテクチャ: MoE(Lfm2MoeForCausalLM、30のdouble-gated short convolutionブロックと10のGQAブロックからなる計40レイヤー)
  • エキスパート構成: MoEブロックあたり64エキスパート(top-4ルーティング)
  • コンテキスト長: 131,072トークン
  • 語彙数: 128,000

性能

今回公開されたリポジトリ自体にはベンチマーク表が記載されていないため、元モデル「LFM2.5-24B-A2B」のモデルカードで公表されている測定結果を紹介します。なお、本モデルはFP8量子化が施されているため、元の精度と比較して性能にわずかな変化が生じる可能性がある点にご留意ください。

公開元による主要なオープンウェイトMoEモデルとの比較結果は下表の通りです。

→ 横にスクロールできます

Benchmark LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning (30B-A3B)
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
PinchBench 83.18 89.93 77.12 84.20
τ³-Bench Banking 8.04 7.63 4.54 7.01
WebArena Verified 26.75 37.62 25.62 28.69
GPQA Diamond 74.42 83.69 74.90 72.42
AA-Omniscience -24.90 -24.35 -59.39 -3.58
HLE 7.40 7.69 8.57 5.65
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
Multi-IF 84.38 81.53 82.19 82.34
MATH-500 96.04 96.73 95.66 96.40
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

この測定結果から、元モデルは形式的な指示を守れるかを測る「IFEval」において96.75を記録し、比較対象の中で最も高い指示追従性能を示していることがわかります。また、AutomationBench(27.69)やLiveClaw(48.09)といったエージェント系のベンチマークにおいても、他モデルを大きく引き離して高いスコアを達成しています。

高校から競技レベルの数学を解く「MATH-500」では96.04と高い水準を維持しているものの、Qwen3.6-35B-A3B(96.73)やNemotron-3.5-Lightning(96.40)にはわずかに届いていません。

一方で、専門家が作成した超難問集である「HLE」では7.40にとどまり、Gemma-4-26B-A4B-it(8.57)やQwen3.6-35B-A3B(7.69)を下回っています。さらに、博士課程レベルの物理・化学・生物の問題を扱う「GPQA Diamond」でも74.42と、83.69を記録したQwen3.6-35B-A3Bに対して大差をつけられており、高度な知識を要する難問の解決力や実リポジトリでの課題修正能力を測るSWE-Bench Verified(51.00対66.20)においては競合に及ばない分野が存在することも確認できます。

得意なこと・想定用途

本モデルはFP8量子化版であるため、得意分野や機能的な特徴は元モデルである「LFM2.5-24B-A2B」に準拠しています。

元モデルは、デバイス上やローカル環境で高速かつプライベートに動作するエージェント用途(agentic workloads)に焦点を当てて設計されています。常に回答を出力する前に思考を行う推論モデルであり、チャットテンプレートの内部でアシスタントの応答開始時に <think> タグが自動的に挿入される挙動をとります。活性パラメータ数が2.45B(概要表記では2B)に抑えられているため、1トークンあたりの計算コストを低く抑えつつ、安価に思考トークンを生成できる点が強みです。

特に得意としているのは、ツール呼び出し(Tool Use / Function Calling)を伴うエージェントタスクです。システムプロンプトでJSON形式のツール定義を与えることで、4つのステップ(定義、呼び出し、実行結果の入力、最終回答)を経て外部ツールと連携できます。標準では <|tool_call_start|> と <|tool_call_end|> の特殊トークンで挟まれたPython形式の関数呼び出しを出力しますが、システムプロンプトでの指示によってJSON形式で出力させることも可能です。また、学習のポストトレーニング段階において、OpenClaw、Hermes Agent、Pi、OpenCodeといった代表的なエージェントハーネス内で強化学習や蒸留が行われており、これらのツールのプロンプト構造や操作パターンに適応しています。

コンテキスト長は131,072トークンに対応しており、日本語を含む英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語の多言語をサポートしています。語彙数も128,000へと拡張されており、非ラテン文字を含む言語の処理効率が向上しています。

一方で、モデルカードでは知識集約的なタスクを本モデル単体で解かせることは推奨されていません。単独で事実関係を網羅するのではなく、本モデルの得意とするツール呼び出し能力を活かし、検索システム(RAG)やWeb検索と組み合わせて利用することが推奨されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 24.0B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 5090 など 32GB FP8 23.0GB 27.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。

量子化の圧縮率: FP8 は実測 8.24 bit/weight で、元の16bitの重みの約52%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
IFM/Jais-3-32B-GGUF 34.8B 24GB apache-2.0 「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜(2026-11-17)
IFM/Jais-3-MoVA-36B-A4B-GGUF 37.4B 32GB apache-2.0 「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜(2026-11-17)
tencent/Hy-Memory-30B-A3B 30.1B 12GB apache-2.0 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)
KRAFTON/Raon-1-mini-preview 28.8B 24GB apache-2.0 「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり(2026-11-17)
ggml-org/Flint-GGUF 39.8B 32GB apache-2.0 「Flint-GGUF」コーディング向けMoE言語モデル:必要VRAM 32GB〜(2026-11-17)

入手方法

本モデルはHugging Faceの LiquidAI/LFM2.5-24B-A2B-FP8 リポジトリにて、safetensors形式で配布されています。利用にあたって事前のアクセス申請やライセンス同意が必要なゲート付きモデル(gated)ではありませんが、ライセンスには「lfm1.0」が適用されています。

本チェックポイントは、線形層の重みをブロック単位でFP8化し、動的なアクティベーション量子化を組み合わせることで、GPU推論時のメモリ使用量を抑えつつ高いスループットを発揮するように最適化されています。対応エンジンとしてはSGLangやvLLMが挙げられており、SGLangを利用する場合は以下のコマンドで推論サーバーを立ち上げることができます。

python -m sglang.launch_server --model-path LiquidAI/LFM2.5-24B-A2B-FP8

関連記事

次に読むなら

出典