「LFM3-Omni-2B-MLX-4bit」マルチモーダルモデル:必要VRAM 4GB〜

「LFM3-Omni-2B-MLX-4bit」マルチモーダルモデル:必要VRAM 4GB〜

基本情報

項目 内容
リポジトリ LiquidAI/LFM3-Omni-2B-MLX-4bit
まとめページ LFM3-Omni のまとめ(記事1本)
公開元のまとめ Liquid AI のモデルとライセンスのまとめ
公開日 2026-10-27
ライセンス lfm1.0
配布形式 MLX / safetensors
出典の種類 公開元の一次情報(公式HFリポジトリで裏付けあり)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

LiquidAIは、Apple Silicon向けに最適化された4-bit量子化モデル「LiquidAI/LFM3-Omni-2B-MLX-4bit」を公開しました。音声・視覚・テキストの相互理解と生成に対応するオムニモーダルモデル「LiquidAI/LFM3-Omni-2B」をベースとしており、Apple Silicon搭載デバイスでの効率的な動作を目的としています。モデルの重みファイルサイズは1.96GBで、加えて音声コーディック用のデータが0.15GB必要となります。

スペック

  • パラメータ数: 2.17B総パラメータ(ベースモデルの仕様)
  • アーキテクチャ: LFM3バックボーン、LFM3ビジョンエンコーダー、LFM3因果音声エンコーダー、LiquidCodec音声tokenizer
  • コンテキスト長: 32Kトークン(入力と出力の合計)

性能

モデルカードに記載されているベースモデル「LiquidAI/LFM3-Omni-2B」の公開元による測定スコアをもとに、他モデルとの比較性能を紹介します。なお、本記事で紹介する性能はすべてベースモデルのものであり、4-bit量子化版では量子化にともなう精度の低下が発生する場合があります。

まず、音声認識(ASR)および音声合成に関する評価(一部の比較モデルを絞って掲載)は以下のとおりです。

→ 横にスクロールできます

Benchmark LFM3-Omni 2B Qwen2.5-Omni 3B Gemma 4 E2B Gemma 4 E4B Phi-4 multimodal
Total parameters 2.2B 6B 5B 8B 5.6B
English ASR WER ↓ 6.36 6.30 8.26 7.82 5.14
Multilingual ASR WER / CER ↓ 6.72 7.41 8.08 6.54 — †
English TTS UTMOSv2 ↑ 3.80 3.42 — — —
VoiceBench ↑ 64.73 66.37 63.28 72.90 64.97
Tool calling internal eval ↑ 52.20 44.30 55.60 72.40 —
Audio understanding MMAR ↑ 51.40 54.41 44.49 49.10 44.69

音声認識の分野では、英語ASRの単語誤り率(WER)で6.36を記録し、Qwen2.5-Omni 3Bと同等の水準を示しています。多言語ASRの誤り率においてもGemma 4 E2Bを上回るスコアを記録しています。また、音声合成の品質を測るEnglish TTS UTMOSv2では3.80を記録し、比較対象の中では優位性を見せています。

続いて、画像および視覚関連のベンチマーク結果は以下のとおりです。

→ 横にスクロールできます

Benchmark LFM3-Omni 2B Qwen2.5-Omni 3B Gemma 4 E2B Gemma 4 E4B Phi-4 multimodal Cosmos3 Edge
Total parameters 2.2B 6B 5B 8B 5.6B 4B
General
MMStar 55.67 55.67 46.47 52.00 59.33 56.07
MMMU (val) 42.44 48.00 37.81 43.14 54.76 37.14
MMMU-Pro 27.28 24.80 24.34 28.67 27.63 13.76
MMBench 73.68 79.30 67.61 73.54 82.73 76.63
SEEDBench (image) 75.07 75.27 72.53 74.78 72.24 74.73
RealWorldQA 66.54 63.14 48.63 53.07 64.84 72.81
MathVista (mini) 62.50 58.80 51.00 54.30 65.40 53.90
POPE 89.34 84.62 78.78 81.24 83.34 83.52
Documents and OCR
DocVQA 92.47 92.71 73.49 77.91 92.60 84.43
InfoVQA 64.08 74.55 38.72 48.30 65.98 60.94
OCRBench 806 863 731 761 795 751

視覚・画像理解の分野では、パラメータ数がより大きいモデルと比べても遜色ないスコアを記録しており、特にPOPEやDocVQAなどの項目で高い数値をマークしています。一方で、MMMU (val)などの一部の高度な大学レベルの画像理解タスクでは大規模なモデルに及ばない部分もあります。

得意なこと・想定用途

ベースモデルであるLiquidAI/LFM3-Omni-2Bは、テキスト、画像、音声、および音声トラック付きの動画を同時に処理できるオムニモーダルモデルです。音声認識(ASR)、音声合成(TTS)、音声とテキストのインタリーブ出力によるボイスチャット、画像や動画の質問応答、翻訳など、多様なタスクに対応しています。また、音声によるツール呼び出し(Tool calling)機能も備えており、スマートフォンの音声アシスタントやエージェント用途への活用を想定して設計されています。対応するテキスト言語は英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語などです。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 2.2B(元モデル LiquidAI/LFM3-Omni-2B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) MLX 4bit 1.8GB 2.2GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 未登録、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は MLX / safetensors ですが、ggml-org/LFM3-Omni-2B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス lfm1.0(条件付きで商用利用可): LiquidAI の LFM Open License v1.0 です。商用利用は可能ですが、年間売上が1,000万ドル以上の法人による商用利用は許諾の対象外です(第5条)。再配布時はライセンス文と変更点の告知が必要です。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

入手方法

本モデルは、Hugging FaceのリポジトリからMLX形式のファイルとして入手できます。利用にあたっては、Hugging Faceのページからダウンロードを実行します。

  • 配布形式: MLX、safetensors
  • 入手コマンド例:
python -m mlx_vlm.generate --model LiquidAI/LFM3-Omni-2B-MLX-4bit --temperature 0 --system "Perform ASR in English." --prompt "" --audio speech.wav
  • 対応エンジン: MLX-VLM

なお、公開元のモデルカードによれば、本モデルは最小構成の4-bit量子化バリアントであるため精度が一部低下します。より高い精度を求める場合は8-bit版(LiquidAI/LFM3-Omni-2B-MLX-8bit)が推奨されています。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-10-28 ggml-org GGUF ggml-org/LFM3-Omni-2B-GGUF BF16 3.9GB(4GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • ggml-org/LFM3-Omni-2B-GGUF の量子化: Q4_K_M 1.0GB / Q8_0 1.7GB / BF16 3.2GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典