IFM、K2-Horizon-MoVA-36B-A4BのGGUF版を公開：llama.cppに対応

2026年9月18日

IFM、K2-Horizon-MoVA-36B-A4BのGGUF版を公開：llama.cppに対応

基本情報

項目 内容
リポジトリ IFM/K2-Horizon-MoVA-36B-A4B-GGUF
公開日 2026-09-03
ライセンス apache-2.0
配布形式 GGUF
出典の種類 公開元の一次情報(公式HFリポジトリの一次情報)

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

概要

IFMは、Mixture-of-Values attention (MoVA) を採用したMoEモデル「K2-Horizon-MoVA-36B-A4B」のGGUF版を公開した。本リポジトリには llama.cpp で利用するためのGGUFファイルが含まれており、モデルテンソルはオリジナルのBF16プレシジョンで保存されている。

スペック

  • パラメータ数: 総パラメータ数 36B、活性パラメータ数 4B
  • アーキテクチャ: MoE (Mixture-of-Experts) と Mixture-of-Values attention (MoVA)
  • コンテキスト長: 524,288トークン (ネイティブ)
  • ライセンス: apache-2.0

性能

公開元のモデルカードに基づくベンチマーク測定結果は以下の通りである。ここでは比較対象を一部（K2-Horizon-MoVA-36B-A4B、Nemotron 3 Ultra、Qwen3.6-35B-A3B、Muse Glimmer-30B、Gemma 4 31B-it）に絞って掲載する。

→ 横にスクロールできます

K2-Horizon-MoVA-36B-A4B Open-weight models / Nemotron 3 Ultra Open-weight models / Qwen3.6-35B-A3B Open-weight models / Muse Glimmer-30B Open-weight models / Gemma 4 31B-it
# Params 36B 550B 35B 30B 31B
# Activated params 4B 55B 3B 30B 31B
Architecture MoE MoE MoE Dense Dense
Agents
tau3-Banking Agentic tool use 26.8 14.2 9.3 23.5 14.8
Coding
Terminal-Bench 2.1 Agentic terminal use 58.6 53.9 44.9 51.7 43.4
SciCode Scientific coding 38.9 39.9 35.8 43.6 43.4
Scientific Reasoning
Humanity’s Last Exam (without tools) Expert-level reasoning 25.2 28.4 22.2 22.0 23.6
GPQA Diamond Graduate-level science QA 80.8 86.7 84.1 83.5 85.7
CritPt Frontier physics reasoning 2.1 3.1 0.3 2.6 1.4
General
AA-LCR Long-context reasoning 66.3 71.0 66.7 80.0 68.3
AA-Omniscience Accuracy Factual accuracy 18.8 22.6 18.8 27.0 20.0
AA-Omniscience Non-Hallucination Non-hallucination rate 69.2 70.3 49.5 18.1 15.0

※上記は元モデルの性能数値である（量子化によって多少の劣化が生じる可能性がある点に注意）。

公開元の測定では、エージェント系のタスクである Terminal-Bench 2.1 で58.6を記録し、比較対象の中で最も高いスコアを示している。また、tau3-Banking Agentic tool use でも26.8と高水準をマークしている。一方で、SciCode Scientific coding や科学の難問を測る GPQA Diamond、長文読解の AA-LCR では、Muse Glimmer-30B や Nemotron 3 Ultra などの他モデルに及ばない項目も見られる。全体として、活性パラメータ4Bという小規模な構成でありながら、一部のエージェントや推論タスクにおいて大規模なモデルに匹敵あるいは勝る結果を示している。

得意なこと・想定用途

元モデルは、エージェントおよび推論ベンチマークにおいて高い性能を発揮するよう設計されたスパース型のMoEモデルである。ネイティブで512K（524,288トークン）の長文コンテキストに対応しており、長文読解やエージェント用途に向いている。また、ツール呼び出し機能や推論パーサー（k2_horizon）を備えている。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 37.4B(元モデル IFM/K2-Horizon-MoVA-36B-A4B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
84GB超のVRAMが必要(複数GPUまたはCPUオフロードが前提) BF16 69.8GB 83.7GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
Edge0/Edge0-35B-A3B-preview 34.7B 80GB apache-2.0 Edge0、スマホクラスで動く35BのMoEモデル「Edge0-35B-A3B-preview」公開(2026-09-11)
bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF 26.5B 12GB apache-2.0 Pantheon-Reasoning-26B-A4B-1.1-V2 GGUF版が公開、ローカル実行向け量子化を提供(2026-09-11)
nex-agi/Nex-N2.5-mini 35.1B 16GB apache-2.0 Nex-AGI、長期タスク向けオープンウェイトモデル「Nex-N2.5-mini」を公開(2026-09-09)

入手方法

GGUF版のファイルは Hugging Face のリポジトリから入手可能である。利用にあたっては、K2 Horizonアーキテクチャのサポートを含むバージョンの llama.cpp が必要となる（MBZUAI-IFMのフォークリポジトリ等が案内されている）。

出典

新モデルGGUF,IFM,K2-Horizon-MoVA-36B-A4B,llama.cpp,MoE,確認済み