「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜

「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜

基本情報

項目 内容
リポジトリ IFM/Jais-3-32B-GGUF
まとめページ Jais-3 のまとめ(記事4本)
公開元のまとめ IFM(MBZUAI) のモデルとライセンスのまとめ
公開日 2026-10-13
ライセンス apache-2.0
配布形式 GGUF
出典の種類 未確認(一次情報で裏付けできていない)(IFMは非公式で、元モデルinception42の一次情報がない)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

アラビア語圏のAI開発企業IFMが、Jais-3ファミリーの大型dense モデル「Jais-3-32B」をGGUF形式に変換したリポジトリ「IFM/Jais-3-32B-GGUF」をHugging Face上で公開したと報告されています。ただしこの件について公式のアナウンスはまだ確認が取れておらず、本記事の内容はHugging Face上のモデルカード情報に基づく未確認の速報です。

元モデルのJais-3-32Bは、アラビア語と英語の両方に対応したアシスタント・エージェント用途、推論やツール利用タスクを想定して作られたとモデルカードに記載されています。今回のGGUF版により、llama.cppを使ってローカル環境でも動かせるようになります。

スペック

  • パラメータ数: 32B(32B級)
  • アーキテクチャ: Dense(decoder-only)、モデルタイプはk2_horizon(K2 Horizon アーキテクチャ)
  • コンテキスト長: 512K

性能

以下はJais-3-32Bのモデルカードに掲載されている比較表からの抜粋です。列が多いため、Jais-3-32Bと比較対象4モデル(Falcon-H1-34B-Instruct、Gemma-4-31B-it、Qwen3.8-27B、Fanar-2-27B)に絞り、代表的な行のみを載せています。なおこれらの数値は元モデルであるJais-3-32B(BF16チェックポイント)の公開元による測定で、GGUF量子化版は別途評価されていないとモデルカードに明記されています。

→ 横にスクロールできます

Jais-3-32B Falcon-H1-34B-Instruct Gemma-4-31B-it Qwen3.8-27B Fanar-2-27B
# Params 32B 34B 31B 27B 27B
Architecture Dense Dense Dense Dense Dense
Arabic MMLU* Accuracy 88.6 73.7 89.5 85.8 66.3
Arabic GSM8K* Accuracy 94.3 90.2 93.7 93.2 87.7
Arabic IFEval Accuracy 80.0 66.8 78.7 77.0 49.8
SimpleQA Verified (Ar) Aggregate 28.1 7.5 10.6 8.0 11.0
Terminal Bench 2.1 Accuracy (Avg@3) 63.7 1.1 43.5 79.8 1.1

この表から、Jais-3-32BはSimpleQA Verified (Ar)で28.1と、比較対象の中で最も高い値を記録しています。SimpleQAは答えが1つに定まる事実質問への正答率を測る指標で、知らないことを作り話で埋めないか(事実性)を見るものなので、Jais-3-32Bはアラビア語の事実質問において他モデルより根拠のない回答を作りにくい傾向があると読めます。指示の形式を守れるかを測るArabic IFEvalでも80.0で比較対象中トップであり、指示追従の精度が高いと言えます。一方、ターミナル上でコマンドを実行してタスクを完遂できるかを測るTerminal Bench 2.1では63.7と、Qwen3.8-27Bの79.8に見劣りする結果になっており、端末操作を伴うエージェントタスクでは必ずしも最強ではありません。また一般知識を測るArabic MMLUでもGemma-4-31B-itの89.5に対し88.6とわずかに下回っており、知識系タスクでは僅差の劣位が見られます。

得意なこと・想定用途

元モデルであるJais-3-32Bのモデルカードによれば、このモデルはアラビア語と英語の両方に対応したアシスタント・エージェント用途、推論タスク、ツール利用タスク向けに設計されているとされています。タグにはreasoning(推論)やknowledge-distillation(知識蒸留)も含まれており、単純な一発回答よりも、思考過程を経て答えを出す用途を想定していることがうかがえます。

実際にモデルカードでは、reasoning_effortを"high"に設定して使うことが推奨されており、推論結果はreasoning_content、最終回答はcontentとして別々に返される仕組みになっています。またツール呼び出しについてもjson・xml・xml_typedの複数フォーマットに対応しており、エージェント的にツールを呼び出しながら作業を進めるような使い方に向いていると言えます。

前半で触れた性能表からも、アラビア語の事実質問に対する精度(SimpleQA Verified (Ar))や指示追従(Arabic IFEval)で比較対象中トップの値が出ており、アラビア語での正確な応答・指示順守が求められる用途に適していると考えられます。一方でターミナル操作を伴うエージェントタスク(Terminal Bench 2.1)では他モデルに劣る場面もあり、コーディング・システム操作系のエージェント用途では過度な期待はしない方がよさそうです。

なお「出場スコープ外」としてモデルカードが明記しているのは、アラビア語・英語以外の言語への依存、医療・法律・金融など高リスクな意思決定への無監督での利用です。これらの用途では人間による監督を前提とすべきとされています。

512Kという長いコンテキスト長もスペックに挙がっており、長文のドキュメント処理や長い会話履歴を保持したエージェント運用にも使える可能性があります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 34.8B(元モデル inception42/Jais-3-32B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4090 / 3090 など 24GB Q4_K_M 19.6GB 23.6GB
RTX 5090 など 32GB Q6_K 26.6GB 31.9GB
RTX 6000 Ada / A6000 など 48GB Q8_0 34.4GB 41.3GB
A100 / H100 80GB クラス BF16 64.8GB 77.8GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q4_K_M は実測 4.84 bit/weight で、元の16bitの重みの約30%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/LFM2.5-24B-A2B-Base 24.0B 80GB lfm1.0 LiquidAI、超軽量推論モデル「LFM2.5-24B-A2B」を公開(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-FP8 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-bf16 24.0B 80GB lfm1.0 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-8bit 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B 24.0B 12GB lfm1.0 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)

入手方法

今回公開されたのは、元モデルJais-3-32Bをllama.cpp向けのGGUF形式に変換したリポジトリ「IFM/Jais-3-32B-GGUF」です。配布されている量子化バリエーションはBF16・Q8_0・Q6_K・Q5_K_M・Q5_0・Q4_K_Mの6種類です。

llama.cppで動かす場合、モデルカードには以下のコマンド例が示されています。

cmake -B build -DGGML_CUDA=ON
cmake --build build -j --target llama-server
./build/bin/llama-server -hf IFM/Jais-3-32B-GGUF:Q8_0 --jinja -ngl 99 -c 32768 -np 1

:BF16・:Q8_0・:Q6_K・:Q5_K_M・:Q5_0・:Q4_K_Mのいずれかのタグを指定するか、-mでローカルファイルを指定する形で起動できます。

モデルカードの警告によれば、このモデルが採用する「K2 Horizon」アーキテクチャへの対応はllama.cppに統合済み(ggml-org/llama.cpp#29535)とされていますが、最新のビルドを使うか、masterから自前でビルドする、あるいは次の公式リリースを待つ必要があるとされています。また、推論内容やツール呼び出しを正しく解析するため、llama-server起動時に--jinjaオプションを付ける必要がある点にも注意が必要です。

なおライセンスはapache-2.0で、Hugging Face上の利用規約への同意は不要と見られます。

関連記事

次に読むなら

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。