「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜

「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜

基本情報

項目 内容
リポジトリ IFM/Jais-3-MoVA-36B-A4B-GGUF
公開元のまとめ IFM(MBZUAI) のモデルとライセンスのまとめ
公開日 2026-10-12
ライセンス apache-2.0
配布形式 GGUF
出典の種類 公開元の一次情報(公式リポジトリIFMが公開、一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

IFMは、inception42が開発したアラビア語および英語向けの大規模言語モデル「Jais-3-MoVA-36B-A4B」のGGUF形式モデルを公開しました。

Jais-3-MoVA-36B-A4Bは、Mixture-of-Values attention(MoVA)を備えたMixture-of-Experts(MoE)アーキテクチャを採用しており、総パラメータ数36Bのうち1トークンあたり4Bを活性化させて動作します。また、512Kトークンの長大なコンテキスト長に対応しています。

本リポジトリではllama.cppで実行可能なGGUF形式として、BF16からQ4_K_Mまでの各種量子化バリアントが提供されており、ローカル環境のハードウェア構成に合わせて選択できます。

スペック

  • 総パラメータ数: 36B
  • 活性パラメータ数: 4B(1トークンあたり)
  • アーキテクチャ: MoE(Mixture-of-Experts with Mixture-of-Values attention / K2HorizonForCausalLM)
  • コンテキスト長: 512K

性能

モデルカードに記載されている性能データは、量子化版独自の実測値ではなく、元モデルであるBF16チェックポイントにおける公開元の測定結果です。モデルカードには、量子化バリアントについての個別評価はまだ実施されていない旨が注記されています。

モデルカードで公表されている、同規模帯のオープンウェイトモデルとの比較表は以下の通りです(一部の列・行はモデルカードの記載内容に基づきます)。

→ 横にスクロールできます

分野・ベンチマーク項目 Jais-3-MoVA-36B-A4B Falcon-H1-34B-Instruct Gemma-4-31B-it Muse-Glimmer-30B Qwen3.8-27B Fanar-2-27B
アーキテクチャ情報
総パラメータ数 (# Params) 36B 34B 31B 30B 27B 27B
活性パラメータ数 (# Activated params) 4B 34B 31B 30B 27B 27B
アーキテクチャ MoE Dense Dense Dense Dense Dense
Open-ended Generation
AraGen v3 (3C3H) 09-2025 68.6 45.0 73.4 75.6 66.7 55.9
Correctness 79.7 53.2 85.4 87.7 77.1 65.7
Completeness 78.3 51.0 84.9 87.0 76.2 63.5
Conciseness 24.4 19.7 21.1 23.0 23.9 21.6
Helpfulness 72.6 45.4 79.7 81.2 71.5 59.0
Honesty 77.9 49.0 84.4 86.7 74.7 61.3
Harmlessness 78.8 51.4 84.9 87.7 76.5 64.4
Knowledge & Reasoning
Arabic MMLU* Accuracy 87.7 73.7 89.5 87.0 85.8 66.3
Belebele Accuracy 94.4 86.6 95.9 94.3 94.4 61.8
AraSTEM* Accuracy 94.7 85.5 96.3 94.7 95.3 42.4
Arabic GSM8K* Accuracy 92.2 90.2 93.7 95.2 93.2 87.7
GATmath* Accuracy 97.5 63.4 98.6 98.5 98.4 87.8
MedAraBench* Accuracy 85.4 60.7 88.8 86.1 87.3 50.9
Arabic Legal (HELM)* Accuracy 69.3 63.1 71.1 73.1 70.5 45.7
Arabic Language & Culture
IslamicQA Accuracy 89.7 71.1 89.7 83.7 77.1 52.0
QIAS-1* Accuracy 95.7 56.2 93.2 87.4 81.6 31.4
Arab Culture Accuracy 87.5 76.5 90.2 84.6 81.0 41.4
Dialectal Arabic MMLU* Accuracy 87.3 71.5 89.4 87.0 87.0 28.2
Arabic Linguistics^ Accuracy 94.0 57.4 96.7 91.8 89.7 39.1
FLORES200+ LLM-as-a-judge 90.8 70.6 92.8 84.8 81.8 71.2
Assistant Capabilities
Arabic IFBench^ Accuracy 92.0 32.2 80.8 84.2 81.3 40.0
Arabic IFEval Accuracy 80.0 66.8 78.7 79.5 77.0 49.8
AA-LCR (Ar) Accuracy 73.0 14.0 66.0 – 79.0 –
Factuality & Hallucination
HalluScore Accuracy 66.0 42.4 69.7 69.1 54.6 41.7
SimpleQA Verified (Ar) Non-hallucination rate 83.1 9.4 10.5 3.7 5.4 12.2
SimpleQA Verified (Ar) Aggregate 31.5 7.5 10.6 13.3 8.0 11.0
SimpleQA Verified (Ar) F-score 5.7 6.6 10.7 18.2 9.2 10.4
Agentic
Terminal Bench 2.1 Accuracy (Avg@3) 67.3 1.1 43.5 51.7 79.8 1.1
GDPVal Accuracy (@ 75% threshold) 67.7 0.0 30.5 48.2 78.2 0.0

この比較結果から、元モデルの得手不得手について以下の点が読み取れます。

指示追従性を測る「Arabic IFEval」では80.0を記録し、Gemma-4-31B-it(78.7)やQwen3.8-27B(77.0)を上回る最高水準を示しています。さらに「Arabic IFBench」でも92.0に達しており、比較対象のDenseモデルに対して大きな優位性を見せています。

また、事実質問に対して作り話を防ぐ度合いを示す「SimpleQA Verified (Ar)」の非ハルシネーション率(Non-hallucination rate)は83.1と極めて高く、他のモデルがいずれも10%前後に留まっているのに対して突出した結果を残しています。アラビア語固有のタスクにおいても、IslamicQAで89.7、QIAS-1で95.7をマークするなど、文化・地域知識に強い傾向が表れています。

一方で、小学校レベルの算数問題を解く「Arabic GSM8K」では92.2となっており、Muse-Glimmer-30B(95.2)やGemma-4-31B-it(93.7)にわずかに及びません。さらに、端末操作タスクの遂行力を評価する「Terminal Bench 2.1」では67.3を記録しており、Falcon-H1-34B-Instruct(1.1)などの一部モデルは大きく上回っているものの、Qwen3.8-27B(79.8)には大差をつけられています。エージェントタスクや一部の数学分野では競合の強力なDenseモデルに劣る面も見られます。

得意なこと・想定用途

Jais-3-MoVA-36B-A4Bは、アラビア語および英語を対象としたアシスタント用途やエージェント用途に向けて設計されています。推論(Reasoning)タスクやツール呼び出し(Tool Calling)を伴う複雑なワークフロー、ならびに各種研究や実験での利用が想定されています。

元モデルの設計と性能評価から見られる主な強みと特徴は以下の通りです。

  • アラビア語および英語での高度な推論とアシスタント機能
    指示追従(Arabic IFBenchやArabic IFEval)において同規模クラスの競合モデルを上回る精度を示しており、ユーザーの細かな制約や形式指定に正確に従う応答が期待できます。また、思考プロセスを分離して出力する推論機能を備えており、段階的な思考を必要とする複雑な問題の解決に適しています。

  • 柔軟なツール呼び出し(Tool Calling)
    K2 Horizonアーキテクチャのツール呼び出し機能に対応しており、外部関数の実行やAPI連携などのエージェント処理を行えます。呼び出しフォーマットはデフォルトのXML形式(xml)に加えて、json や型情報を保持する xml_typed の各形式に対応しており、利用環境やフレームワークに応じた切り替えが可能です。

  • アラビア語圏の地域・文化・言語知識
    イスラム関連の知識(IslamicQA)やアラブ地域の文化理解(Arab Culture)、地域方言(Dialectal Arabic MMLU)など、アラビア語圏に特化したタスクで非常に高いスコアを記録しています。多言語対応モデルではカバーしきれない地域固有の文脈や文化的ニュアンスを反映したテキスト生成に強みがあります。

  • 高い事実性とハルシネーションの抑制
    事実質問に対する作り話を避ける指標である「SimpleQA Verified (Ar)」において、突出した非ハルシネーション率(83.1)を達成しています。不確実な情報について不用意に事実と異なる回答を生成するリスクが抑えられています。

一方で、公式モデルカードでは以下の制限事項およびスコープ外の用途が明記されています。

  • 対象外の言語での利用: アラビア語と英語以外の言語における信頼性のある動作には対応していません。
  • 高リスクな意思決定: 適切な人間の監視を介さずに、医療、法律、金融、安全管理などの重要な判断をモデルに依存することは想定されていません。
  • 有害・違法な用途: 差別的、過激派的、または意図的に誤解を招くコンテンツの生成や、違法行為を助長する利用は禁止されています。
  • 出力内容の正確性とバイアス: 誤った情報や訓練データに起因するバイアスが含まれる可能性があるため、実運用にあたっては事前検証とセーフガードの適用が推奨されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 37.4B(元モデル inception42/Jais-3-MoVA-36B-A4B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 5090 など 32GB Q5_K_M 24.6GB 29.5GB
RTX 6000 Ada / A6000 など 48GB Q8_0 37.1GB 44.5GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q5_K_M は実測 5.64 bit/weight で、元の16bitの重みの約35%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/LFM2.5-24B-A2B-Base 24.0B 80GB lfm1.0 LiquidAI、超軽量推論モデル「LFM2.5-24B-A2B」を公開(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-FP8 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-bf16 24.0B 80GB lfm1.0 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-8bit 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B 24.0B 12GB lfm1.0 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)

入手方法

本モデルはHugging Faceの IFM/Jais-3-MoVA-36B-A4B-GGUF リポジトリから入手できます。ライセンスはApache-2.0が適用されており、利用規約への事前同意(Gated申請)を必要とせずダウンロードして利用可能です。

配布形式はGGUFで、以下の量子化バリアントが提供されています。
– BF16
– Q8_0
– Q6_K
– Q5_K_M
– Q5_0
– Q4_K_M

llama.cppでの実行手順

本モデルが採用しているK2 Horizonアーキテクチャのサポートは、プルリクエスト ggml-org/llama.cpp#29535 によって llama.cpp にマージされています。実行には最新の llama.cpp ビルド、またはmasterブランチからビルドしたバイナリが必要です。

ビルドおよび推論サーバー(llama-server)の起動コマンド例は以下の通りです。

cmake -B build -DGGML_CUDA=ON
cmake --build build -j --target llama-server
./build/bin/llama-server -hf IFM/Jais-3-MoVA-36B-A4B-GGUF:Q8_0 --jinja -ngl 99 -c 32768 -np 1

サーバー起動時に --jinja オプションを渡すことで、モデルに埋め込まれたチャットテンプレートが有効化されます。これにより、思考深度(reasoning_effort)の制御やK2 Horizon形式のツール呼び出しが自動的にパースされ、思考内容(reasoning_content)と最終回答(content)が分離されて返却されます。

推奨サンプリングパラメータ

公開元が推奨する設定パラメータは以下の通りです。すべての報告スコアは reasoning_effort="high" の設定で計測されています。

  • 推論深度(reasoning_effort): 原則として high を指定({"reasoning_effort": "high"})
  • 温度(temperature):
  • デフォルト: 0.2 – 思考モード(英語): 1.0 – 思考モード(アラビア語): 0.7
  • Top-P / Top-K: top_p=0.95、top_k=20
  • ペナルティ関連: min_p=0.0、presence_penalty=0.0、repetition_penalty=1.0
  • 最大出力トークン数: 32,768トークン以上

その他の配布形式

IFMのHugging Faceコレクションでは、GGUF形式以外にも以下のフォーマットが公開されています。
– FP8量子化版: IFM/Jais-3-MoVA-36B-A4B-FP8
– Apple Silicon(MLX)向け:
– IFM/Jais-3-MoVA-36B-A4B-MLX-4bit – IFM/Jais-3-MoVA-36B-A4B-MLX-8bit – IFM/Jais-3-MoVA-36B-A4B-MLX-bf16

関連記事

次に読むなら

出典