「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜

「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜

基本情報

項目 内容
リポジトリ IFM/Jais-3-7B-GGUF
まとめページ Jais-3 のまとめ(記事4本)
公開元のまとめ IFM(MBZUAI) のモデルとライセンスのまとめ
公開日 2026-10-13
ライセンス apache-2.0
配布形式 GGUF
出典の種類 未確認(一次情報で裏付けできていない)(IFMは非公式で、元モデルinception42の一次情報がない)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

「IFM」がHugging Face上に IFM/Jais-3-7B-GGUF という名称でモデルを公開したと報告されています。この件は当編集部にて公式な発表を確認できておらず、Hugging Faceのモデルカードの記述のみが根拠である点にご留意ください。

このリポジトリは、ベースモデルである inception42/Jais-3-7B を llama.cpp で動かせるGGUF形式に変換したものとされています。Jais-3-7Bは、アラビア語と英語のアシスタント・エージェント用途を想定して作られた7Bクラスのdecoder-onlyモデルで、Jais-3ファミリーの中では「medium dense」の位置付けとモデルカードに記されています。

スペック

base_model(inception42/Jais-3-7B)のモデルカードに記載されている項目のみを示します。

  • パラメータ数: 7B
  • 活性/有効パラメータ数: 7B
  • アーキテクチャ: Dense(K2HorizonForCausalLM / model_type: k2_horizon)
  • コンテキスト長: 512K
  • 対応言語: アラビア語、英語

GGUF版では BF16、Q8_0、Q6_K、Q5_K_M、Q5_0、Q4_K_M の各量子化・精度バリアントが用意されていると案内されています。なお、GGUF化に用いた「K2 Horizon」アーキテクチャのサポートは llama.cpp に取り込まれた直後とされ、動作には比較的新しいビルドが必要になる点がモデルカードで注意喚起されています。

性能

以下は inception42/Jais-3-7B のモデルカードに掲載されている比較表からの抜粋です。列が多いため、Jais-3-7Bと、ローカルで動かせるオープンウェイトの比較対象4モデル(Gemma-4-E4B-it、Qwen3.5-9B、Falcon-H1-7B-Instruct、Allam 7B)に絞っています。これらは公開元(IFM)による自己測定の数値です。

→ 横にスクロールできます

指標 Jais-3-7B Gemma-4-E4B-it Qwen3.5-9B Falcon-H1-7B-Instruct Allam 7B
AraGen v3 (3C3H) 09-2025 55.0 48.8 55.7 28.0 44.9
Arabic MMLU* Accuracy 85.2 77.5 80.9 63.3 71.2
Arabic GSM8K* Accuracy 92.7 87.0 91.4 85.0 56.8
Arabic IFEval Accuracy 80.2 72.3 73.8 62.4 48.0
AA-LCR (Ar) Accuracy 65.0 – 68.0 9.0 –
SimpleQA Verified (Ar) Aggregate 25.7 24.4 8.5 3.8 4.2
Terminal Bench 2.1 Accuracy (Avg@3) 46.4 1.9 29.2 0.0 0.0
GDPVal Accuracy (@ 75% threshold) 60.5 5.5 19.1 0.0 0.0

Arabic MMLU(一般知識の4択問題)、Arabic GSM8K(算数の文章題を手順立てて解く力)、Arabic IFEval(形式面での指示遵守率)のいずれでも、Jais-3-7Bはこの4モデルの中で最も高いスコアとなっています。事実質問への回答精度を測るSimpleQA Verified (Ar)でも24〜25.7で最上位であり、知らないことを作り話で埋めにくいとされる点で優位です。端末操作タスクをやり切れるかを見るTerminal Bench 2.1、業務タスクの達成度を測るGDPValでは、Jais-3-7Bが他の4モデルを大きく上回っており、エージェント的な作業での強さがうかがえます。一方、長文読解に関わるAA-LCR (Ar)ではQwen3.5-9B(68.0)がJais-3-7B(65.0)をわずかに上回り、開放形式の生成を評価するAraGen v3でもQwen3.5-9B(55.7)がJais-3-7B(55.0)を僅差で上回っています。モデルカードによれば、これらのスコアはBF16のソースチェックポイントに対するもので、GGUFの量子化バリアントは個別には評価されていないと注記されています。

得意なこと・想定用途

Jais-3-7Bは、アラビア語と英語の双方において、高度なアシスタント機能とエージェント機能を提供することを目的に設計されています。元モデルのモデルカードおよび性能データに基づくと、特に以下の分野での活用に適しているとされています。

高度な推論と論理的思考

このモデルは「推論(Reasoning)」に特化した設計がなされており、複雑な問題を解く際に思考プロセスを生成する能力を備えています。公開元は、使用時に常に reasoning_effort="high" を設定することを強く推奨しています。これにより、数学的な文章題や論理パズルにおいて、手順を追った詳細な回答が可能になるとされています。性能セクションの表でも示された通り、Arabic GSM8K(算数)やGATmath(数学)において非常に高いスコアを記録しており、論理的な正確さが求められるタスクに強いことがうかがえます。

エージェントタスクとツール利用

外部ツールを呼び出して実行する「Tool Calling」の能力が強化されている点も大きな特徴です。XMLやJSONといった複数のフォーマットでのツール呼び出しに対応しており、ターミナル操作などのエージェント的な作業において、他の同規模モデルを大きく上回るベンチマーク結果が報告されています。APIを介して特定の都市の時刻を取得するような、外部機能と連携したアプリケーション開発に適しています。

超長文の処理能力

512Kという極めて大きなコンテキストウィンドウを備えているため、膨大なドキュメントの読み込みや、長時間の対話履歴を保持したままの推論が可能です。長文読解の指標であるAA-LCR (Ar)でも一定の性能を示しており、大規模なナレッジベースを扱う用途への活用が期待されます。

運用の制限事項

一方で、モデルカードでは以下の用途が「対象外(Out of scope)」として明記されています。医療、法律、財務、安全に関わる重大な意思決定に人間による監視なしで利用することや、アラビア語・英語以外の言語での信頼性が求められるアプリケーションへの適用は推奨されていません。また、不正確な内容や「もっともらしい嘘(ハルシネーション)」を生成する可能性があるため、導入前の評価と安全策の構築が必要とされています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 9.0B(元モデル inception42/Jais-3-7B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4060 / 3060 Ti など 8GB Q5_K_M 6.0GB 7.2GB
RTX 4070 / 3060 12GB など 12GB Q8_0 8.9GB 10.7GB
RTX 4090 / 3090 など 24GB BF16 16.8GB 20.1GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q5_K_M は実測 5.73 bit/weight で、元の16bitの重みの約36%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 4〜15B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
microsoft/UserRepGen-4B 4.5B 4GB mit 「UserRepGen-4B」ユーザー表現生成用の4B級言語モデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
IFM/Jais-3-3.7B-GGUF 5.1B 4GB apache-2.0 「Jais-3-3.7B-GGUF」512Kコンテキストの言語モデル:必要VRAM 4GB〜(2026-11-17)
ibm-granite/granite-switch-4.1-8b 8.8B 24GB apache-2.0 IBM、モジュール型LLM「Granite Switch 4.1」公開(2026-11-17)
ggml-org/NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF 8.0B 12GB apache-2.0 「NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF」テキスト生成モデル:必要VRAM 12GB〜(2026-11-17)
ByteDance-Seed/Cola2 8.8B 48GB — ByteDance-Seed/Cola2 Language Model: Continuous Compression…(2026-11-17)

入手方法

本モデルはHugging Faceのリポジトリ IFM/Jais-3-7B-GGUF にて公開されています。ライセンスは Apache 2.0 で、入手に際しての利用規約への同意(Gating)は設定されておらず、誰でもダウンロードが可能です。

配布形式はGGUFで、以下の精度・量子化バリアントが用意されています。
– BF16
– Q8_0
– Q6_K
– Q5_K_M
– Q5_0
– Q4_K_M

対応エンジンは llama.cpp です。ただし、本モデルが採用している「K2 Horizon」アーキテクチャのサポートは llama.cpp に取り込まれたばかりであるため、最新のソースコードからビルドしたバイナリを使用することが推奨されています。

llama-server を使用して起動する場合のコマンド例は以下の通りです。

./build/bin/llama-server -hf IFM/Jais-3-7B-GGUF:Q8_0 --jinja -ngl 99 -c 32768

実行時には --jinja フラグを付与することで、推論プロセスやツール呼び出しを適切に処理できるチャットテンプレートが有効になります。また、推論時には reasoning_effort="high" を指定し、サンプリングパラメータとして temperature=0.2(思考モードでは英語で1.0、アラビア語で0.7)、top_p=0.95、top_k=20 を使用することが推奨設定とされています。ツール呼び出しを行う場合は、--tool-call-parser k2_horizon を有効にすることで、XML等のフォーマットを正しくパースできるようになります。

関連記事

次に読むなら

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。