「LFM3-1.7B-MLX-5bit」長文脈対応のエージェント向けテキスト生成モデル:必要VRAM 4GB〜

「LFM3-1.7B-MLX-5bit」長文脈対応のエージェント向けテキスト生成モデル:必要VRAM 4GB〜

基本情報

項目 内容
リポジトリ LiquidAI/LFM3-1.7B-MLX-5bit
公開元のまとめ Liquid AI のモデルとライセンスのまとめ
公開日 2026-10-27
ライセンス lfm1.0
配布形式 MLX / safetensors
出典の種類 公開元の一次情報(LiquidAI公式HFリポジトリ)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

LiquidAIは、エージェント用途向けモデル「LFM3-1.7B」のApple Silicon向け5ビットMLX量子化版となる「LFM3-1.7B-MLX-5bit」を公開しました。

ベースモデルである「LFM3-1.7B」は、ローカル環境で動作するエージェント機能や専門アプリケーション向けに開発されたテキスト生成モデルです。独自のtri-hybridアーキテクチャを採用しており、256Kトークンにおよぶ長文脈のコンテキストウィンドウを処理できます。

スペック

  • パラメータ数:1.73B
  • アーキテクチャ:24 layers: 13 gated short convolutions, 5 sliding-window attention, 6 global attention
  • コンテキスト長:256K tokens (input + output)

性能

以下は、変換元であるベースモデル「LFM3-1.7B」のモデルカードに記載されているベンチマーク評価結果です。本スコアは公開元がvLLMを用いて測定した実測値であり、量子化前のモデルによる数値となります。比較を読みやすくするため、モデルカードの表から一部のモデル列(Qwen3.5 9B)を省略して掲載しています。

→ 横にスクロールできます

Benchmark LFM3 1.7B LFM2.5 2.6B MiniCPM5 2B Gemma 4 E4B Qwen3.5 4B
Agents
LiveClaw 45.60 14.70 30.37 20.36 19.94
Claw-Eval General (EN), average 68.64 62.63 60.74 56.14 61.96
Claw-Eval General (EN), pass^3 51.40 37.52 34.58 22.43 42.99
BrowseComp-Plus (OpenClaw subset) 37.00 26.33 16.83 21.00 24.67
WebArena-Verified 38.42 3.02 9.11 17.06 21.92
EnterpriseOps-Gym 28.20 7.94 13.41 9.86 25.96
AutomationBench (public) 41.29 0.94 4.71 1.92 8.67
Tool use
BFCL V4 71.39 55.89 62.65 48.25 55.12
ToolSandbox 80.36 78.04 68.16 69.27 75.40
MCP-Atlas 32.57 16.45 26.38 6.19 41.37
τ³-bench (4 domains), average 68.01 56.77 69.44 33.53 65.98
Agentic coding
SWE-bench Verified (OpenCode) 43.40 18.00 34.80 0.50 41.20
SWE-bench Multilingual (OpenCode) 23.00 8.00 15.67 0.67 23.33
Terminal-Bench 2.1 (OpenCode) 12.92 0.00 5.62 0.00 13.48
Coding
LiveCodeBench v6 73.46 60.57 70.52 71.00 61.99
LiveCodeBench Pro 25Q2 31.74 19.16 29.34 29.94 24.25
SciCode 28.47 16.32 27.78 25.00 23.02
Instruction following
IFEval 96.66 95.39 87.83 90.02 92.52
IFBench 73.03 60.48 62.08 44.56 38.16
IFStruct 93.72 82.18 72.65 78.45 87.05
Multi-IF 89.10 84.80 73.19 81.03 80.32
Knowledge
GPQA Diamond 63.37 57.78 65.15 57.88 75.76
Humanity’s Last Exam (no tools) 7.17 5.88 8.20 4.77 12.84
Humanity’s Last Exam (with tools) 13.90 9.60 11.50 6.00 11.60
AA-Omniscience (public) 0.50 -33.17 -5.00 -15.33 -57.17
AA-Omniscience accuracy (public) 7.07 8.75 9.13 9.83 15.67
AA-Omniscience non-hallucination (public) 92.93 53.69 84.44 72.09 13.64
Long context
AA-LCR 52.83 6.00 49.34 39.33 52.67
RULER 128K 65.56 1.15 37.96 18.82 84.63
Average 49.37 31.55 39.19 31.74 39.27

モデルカードの比較データによりますと、LFM3-1.7Bはエージェント機能やツール利用、指示追従の分野で特に高いスコアを示しています。関数の選択と引数の組み立て精度を測るBFCL V4では71.39を記録し、比較対象のモデルの中で最も高い数値となっています。また、形式指示の遵守率を測るIFEvalにおいても96.66と優秀な成績を収めています。実在のGitHub issueの修正能力を測るSWE-bench Verified (OpenCode)でも43.40を記録し、エージェント的コーディングタスクで強みを見せています。一方で、博士課程レベルの問題を扱うGPQA Diamondでは63.37にとどまりQwen3.5 4Bの75.76に及ばないほか、長文脈の有効性を測るRULER 128Kでも65.56となっており、一部の知識・長文脈タスクでは競合モデルを下回る結果となっています。

得意なこと・想定用途

ベースモデルであるLFM3-1.7Bは、ローカル環境でのエージェント機能、ツール利用、構造化出力、およびドメイン固有のファインチューニングを想定して設計されています。Hermes Agent、Pi、OpenClawなどのエージェントハーネスに対応しており、256Kトークンのコンテキストウィンドウを活用した処理が可能です。なお、モデルの小規模な特性上、エージェント的コーディングや複雑な多段階推論には推奨されていません。また、知識が必要なタスクでは検索や情報検索の併用が推奨されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 1.7B(元モデル LiquidAI/LFM3-1.7B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) MLX 5bit 1.1GB 1.3GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は MLX / safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM・MLX (Apple Silicon) で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。

量子化の圧縮率: MLX 5bit は実測 5.47 bit/weight で、元の16bitの重みの約34%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf 389M 4GB apache-2.0 「MiniCPM-V-4.7-35B-A3B-DSpark-gguf」高速化用ドラフトモデル:必要VRAM 4GB〜(2026-11-17)
openbmb/MiniCPM-V-4.7-1B-DSpark-gguf 214M 4GB apache-2.0 「MiniCPM-V-4.7-1B-DSpark-gguf」テキスト生成モデル:必要VRAM 4GB〜(2026-11-17)
IFM/Jais-3-0.9B-GGUF 1.1B 4GB apache-2.0 「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜(2026-11-17)
nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 4.0B 4GB openmdw-1.1 NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-DSpark 328M 4GB lfm1.0 「LFM2.5-24B-A2B-DSpark」推測デコード用のドラフトモデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)

入手方法

  • 配布形式:MLX、safetensors
  • 入手コマンド:
mlx_lm.generate --model LiquidAI/LFM3-1.7B-MLX-5bit \
  --prompt "What is the capital of Australia?" \
  --temp 0.1 --top-k 50 --max-tokens 16384
  • 対応エンジン:mlx-lm(サポートは進行中と報告されています)

関連記事

次に読むなら

出典