「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜

「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜

基本情報

項目 内容
リポジトリ LiquidAI/LFM2.5-24B-A2B-MLX-8bit
まとめページ LFM2.5 のまとめ(記事11本)
公開元のまとめ Liquid AI のモデルとライセンスのまとめ
公開日 2026-10-13
ライセンス lfm1.0
配布形式 MLX / safetensors
論文 arXiv:2511.23404
出典の種類 公開元の一次情報(公式組織LiquidAIのHFリポジトリで一次情報確認)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

LiquidAIが、同社の推論特化MoEモデル「LFM2.5-24B-A2B」をApple Silicon向けのMLX形式・8bit量子化で公開しました。変換はmlx-lm version 0.32.0を用いて行われており、リポジトリ名はLiquidAI/LFM2.5-24B-A2B-MLX-8bitです。元モデルはパラメータ全体24Bのうち2B強のみが活性化するMoE構成で、エージェント用途・ツール呼び出しを重視した推論モデルとして設計されています。

関連する論文「LFM2 Technical Report」の要旨によれば、LFM2系列はエッジデバイスでの効率的な動作とタスク性能の両立を狙い、ハードウェアを組み込んだアーキテクチャ探索によって、ゲート付き短縦畳み込みと少数のグループドクエリアテンション(GQA)ブロックを組み合わせたハイブリッド構成を採用しているとされています。LFM2.5-24B-A2Bはこの系列の最大・最終モデルという位置づけです。

スペック

モデルカードによる元モデル(LiquidAI/LFM2.5-24B-A2B)のスペックは次の通りです。8bit量子化版もパラメータ構成自体は変わりません。

  • 総パラメータ数: 24.0B
  • 活性パラメータ数: 2.45B
  • アーキテクチャ: MoE(lfm2_moe)。全40層(30のdouble-gated short convolutionブロック+10のGQAブロック)
  • MoEブロックあたりエキスパート数: 64(top-4ルーティング)
  • 語彙サイズ: 128,000
  • コンテキスト長: 131,072トークン
  • 対応言語: 英語・アラビア語・中国語・フランス語・ドイツ語・イタリア語・日本語・韓国語・ポルトガル語・スペイン語・ベトナム語・タイ語・インドネシア語・ヒンディー語・ロシア語・ポーランド語
  • 今回公開されたMLX-8bit版の量子化方式: 8bit(グループサイズ64、affineモード)。MoEのルーティングゲートはfloat32のまま量子化されていません

性能

元モデルのモデルカードには、16種類のベンチマークでLFM2.5-24B-A2Bを他のMoEモデル(Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning(30B-A3B))と比較した表が掲載されています。これは公開元自身による測定値です。

→ 横にスクロールできます

Benchmark LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning (30B-A3B)
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
PinchBench 83.18 89.93 77.12 84.20
τ³-Bench Banking 8.04 7.63 4.54 7.01
WebArena Verified 26.75 37.62 25.62 28.69
GPQA Diamond 74.42 83.69 74.90 72.42
AA-Omniscience -24.90 -24.35 -59.39 -3.58
HLE 7.40 7.69 8.57 5.65
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
Multi-IF 84.38 81.53 82.19 82.34
MATH-500 96.04 96.73 95.66 96.40
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

この表から見えるのは、LFM2.5-24B-A2Bがエージェント・ツール呼び出し系のベンチマークで強いという傾向です。AutomationBenchでは27.69と他の3モデルを大きく上回り、LiveClaw(48.09)やToolSandbox(80.71)、IFBench(74.69)でも最高値を記録しています。指示追従を測るIFEval(遵守率)でも96.75で最も高く、形式指示を守る精度に優れています。一方で、科学の難問を測るGPQA Diamond(74.42)や超難問集HLE(7.40)ではQwen3.6-35B-A3Bに劣り、実リポジトリのバグ修正を測るSWE-bench(Resolved)系のSWE-Bench Verified(51.00)でもQwen3.6-35B-A3B(66.20)に及びません。PinchBenchやWebArena Verifiedでも他モデルに劣後する項目があり、知識集約・一部のブラウザ操作タスクは強みではないと公開元のカードは示しています。

得意なこと・想定用途

元モデルであるLFM2.5-24B-A2Bは、デバイス上で高速かつ安全に動作するエージェント構築を想定して設計されています。モデルカードでは「推論を行い、ツールを呼び出し、ローカル環境で確実に動作する必要があるエージェント」への適用が推奨されています。一方で、単体での知識集約型タスクには向かないと明記されており、外部検索やRAG(検索拡張生成)と組み合わせることで、ツール呼び出しの強みを活かした運用が推奨されています。

具体的には、以下のような用途や特徴を備えています。

  • エージェント・ツール呼び出し(Function calling): モデルカードのベンチマークでも示されている通り、ツール利用や自動化のタスクに強い適性を持っています。ツール呼び出しは標準でPython風の関数呼び出し構文(特殊トークンで囲まれた形式)を出力しますが、システムプロンプトによる指示でJSON形式に切り替えることも可能です。OpenClawやHermes Agent、Piなどの主要なエージェント基盤に適合するよう訓練されています。
  • 明示的な思考プロセス(Chain of Thought): 純粋な推論モデルとして調整されており、最終的な回答を出力する前に必ず<think>タグを用いて思考を展開します。MoE構成によりトークンあたりの活性パラメータが約2.45Bに抑えられているため、長めの思考プロセスを挟んでも計算負荷を低く抑えられます。
  • 131,072トークンの長文脈処理: 前世代(LFM2)の32Kコンテキストから大幅に拡張されており、長い対話履歴や複数のツール実行結果、長大なコンテキストを保持したエージェントの自律実行に対応できます。
  • 多言語対応: トークナイザーの語彙数が128,000に拡張されており、日本語を含む16言語(英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語)の処理に対応しています。

今回公開されたモデルは、これらの能力を持つ元モデルをMacのApple Silicon向けに8bit量子化したものです。推論エンジンにMLXを用いることで、ローカルMac環境でエージェントを高速に動作させる用途に適しています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 24.0B(元モデル LiquidAI/LFM2.5-24B-A2B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 5090 など 32GB MLX 8bit 23.7GB 28.5GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は MLX / safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM・MLX (Apple Silicon) で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。

量子化の圧縮率: MLX 8bit は実測 8.49 bit/weight で、元の16bitの重みの約53%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
IFM/Jais-3-32B-GGUF 34.8B 24GB apache-2.0 「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜(2026-11-17)
IFM/Jais-3-MoVA-36B-A4B-GGUF 37.4B 32GB apache-2.0 「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜(2026-11-17)
tencent/Hy-Memory-30B-A3B 30.1B 12GB apache-2.0 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)
KRAFTON/Raon-1-mini-preview 28.8B 24GB apache-2.0 「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり(2026-11-17)
ggml-org/Flint-GGUF 39.8B 32GB apache-2.0 「Flint-GGUF」コーディング向けMoE言語モデル:必要VRAM 32GB〜(2026-11-17)

入手方法

本モデルはHugging Faceのリポジトリ(LiquidAI/LFM2.5-24B-A2B-MLX-8bit)からsafetensors形式で配布されています。ゲート付きリポジトリ(gated)ではないため、事前の利用申請や同意手続きを行わずにそのままダウンロードできます。ライセンスはlfm1.0が適用されています。

推論にはApple Silicon向け機械学習フレームワークであるMLXの言語モデルツールキット「mlx-lm」を使用します。モデルカードには、mlx-lm 0.32.0以降が必須であると明記されています。0.32.0より古いバージョンではモデルをロードすることはできても、MoEのエキスパートのルーティングが正しく行われない不具合が生じますので、必ず最新版へ更新してください。

まず、ライブラリをインストールまたはアップグレードします。

pip install -U "mlx-lm>=0.32.0"

Pythonスクリプトから推論を実行する最小限のコード例は以下の通りです。モデルカードで推奨されているサンプリング設定(temperature: 0.1、top_k: 50、repetition_penalty: 1.05)が適用されています。

from mlx_lm import load, generate
from mlx_lm.sample_utils import make_sampler, make_logits_processors

model, tokenizer = load("LiquidAI/LFM2.5-24B-A2B-MLX-8bit")

prompt = "What is C. elegans?"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

sampler = make_sampler(temp=0.1, top_k=50)
logits_processors = make_logits_processors(repetition_penalty=1.05)

response = generate(
    model,
    tokenizer,
    prompt=prompt,
    max_tokens=4096,
    sampler=sampler,
    logits_processors=logits_processors,
    verbose=True,
)

ツール呼び出しを利用する場合は、tokenizer.apply_chat_template()の引数にtoolsを渡すことで、ChatML形式のテンプレートに従ったフォーマットが自動的に適用されます。

関連記事

次に読むなら

出典