「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜

「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜

基本情報

項目 内容
リポジトリ IFM/Jais-3-0.9B-GGUF
まとめページ Jais-3 のまとめ(記事4本)
公開元のまとめ IFM(MBZUAI) のモデルとライセンスのまとめ
公開日 2026-10-12
ライセンス apache-2.0
配布形式 GGUF
出典の種類 未確認(一次情報で裏付けできていない)(非公式のGGUF変換版であり、一次情報が公式ではない)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

アラビア語と英語のバイリンガル性能に特化した「Jais-3」ファミリーの最小モデルである「Jais-3-0.9B」のGGUF量子化版が公開されたと報告されています。ただし、この情報は現時点で公式に確認されたものではなく、リポジトリの公開状況に基づいた未確認の情報であることに注意が必要です。本モデルは0.9B(約9億)パラメータという極めて軽量なサイズながら、128Kの長いコンテキストウィンドウを備え、推論(Reasoning)やエージェントとしての利用を想定して設計されているとされています。

元モデルである「Jais-3-0.9B」は、アラビア語に重点を置いたエージェントAIの実現を目指して開発されたデコーダー専用のDenseモデルです。知識蒸留(Knowledge Distillation)の手法が用いられていることがタグから示唆されており、小規模ながら高度な推論能力を持つことが期待されています。今回のGGUF版の公開により、llama.cppなどの軽量な推論エンジンを用いて、一般的なPC環境での動作が可能になると報告されています。

スペック

  • パラメータ数: 0.9B
  • アーキテクチャ: Dense (K2 Horizon)
  • コンテキスト長: 128K

性能

本モデルの性能について、公開元が提供している元モデル「Jais-3-0.9B」のベンチマーク結果を紹介します。量子化版ではこれらの数値から多少の劣化が生じる可能性がありますが、モデルの特性を理解する重要な指標となります。比較対象として、Qwen3.5-2BやFalcon-H1-1.5Bなどの同規模からやや大きいサイズのモデルが並べられています。

→ 横にスクロールできます

項目 Jais-3-0.9B Qwen3.5-2B Falcon-H1-1.5B-Deep-Instruct Hala 1.2B tiny-aya-global
Open-ended Generation
AraGen v3 (3C3H) 32.7 15.3 12.2 25.0 21.4
Knowledge & Reasoning
Arabic MMLU* Accuracy 70.4 63.1 48.7 45.0 55.9
STEM & Math
AraSTEM* Accuracy 81.6 83.9 62.5 48.3 58.5
Arabic GSM8K* Accuracy 80.9 75.6 65.4 57.3 59.6
Professional Domains
MedAraBench* Accuracy 48.1 54.3 32.3 32.3 39.5
Arabic Language & Culture
IslamicQA Accuracy (mean) 66.2 43.0 48.2 35.9 44.2
Arab Culture Accuracy (mean) 73.3 54.8 54.4 46.9 61.5
Assistant Capabilities
Arabic IFBench^ Accuracy 91.1 33.1 16.2 14.6 21.5
Arabic IFEval Accuracy 71.3 62.6 49.3 44.1 58.2
Factuality & Hallucination
Non-hallucination rate 79.3 18.2 3.8 3.2 3.2

公開元の測定結果によれば、本モデルは多くのアラビア語関連タスクで同規模のモデルを圧倒する性能を示しています。特に注目すべきは「Arabic IFBench」における指示追従の精度で、91.1%という数値は比較対象の中で最も高いQwen3.5-2B(33.1%)を大きく引き離しています。また、事実性(Factuality)を測る指標における「Non-hallucination rate(非ハルシネーション率)」も79.3%と非常に高く、知らないことを作り話で補わない能力に長けていることが示唆されています。

一般知識を測る「Arabic MMLU」や算数の文章題を解く「Arabic GSM8K」でも、自分よりパラメータ数の多い2Bクラスのモデルと同等以上のスコアを記録しています。一方で、STEM分野(AraSTEM)や医学分野(MedAraBench)においては、Qwen3.5-2Bに一歩譲る結果となっており、専門的な科学技術分野ではより大規模なモデルに分があることが分かります。しかし、アラビア語の文化理解や言語学的なタスクにおいては、一貫して非常に高い優位性を保っています。

これらのスコアは、本モデルがアラビア語圏のユーザーに向けたアシスタントや、特定の形式を守る必要があるエージェントタスクにおいて、極めて高い適性を持っていることを裏付けています。0.9Bというサイズでありながら、これほど高い指示追従性と事実性を両立させている点は、ローカル環境での運用において大きな利点となります。

得意なこと・想定用途

元モデルの設計および公開元の資料によりますと、本モデルはアラビア語と英語に対応したアシスタント用途やエージェント用途に向けて開発されています。特に推論(Reasoning)やツール利用(Tool-use)を伴うタスク、ならびに研究や実験への適用が想定されています。

具体的には、以下のような分野や用途に適しているとされています。

  • 高度な推論を必要とするタスク: 思考プロセスを明示的に出力する推論機能を備えており、ステップを踏んだ論理的な応答が期待できます。
  • エージェントおよびツール連携: K2 Horizonアーキテクチャに基づいたツール呼び出しのテンプレートに対応しており、外部ツールと連携した自律的な処理に向いています。
  • アラビア語圏に特化した対話・知識処理: イスラム文化やアラブ圏の地域理解、方言の識別、アラビア語の文法処理や母音記号(シャクル)の付与など、アラビア語特有の文化・言語的タスクで高い適性を発揮します。
  • 厳密な指示追従: 指示された制約や形式を崩さずに回答を生成する能力が高く、構造化された出力が求められるワークフローに適しています。
  • 長文脈の処理: 128Kの長いコンテキストウィンドウに対応しているため、長大なドキュメントの参照や複数ターンの会話履歴を保持した処理が可能です。

一方で、モデルカードには以下のような適用外の用途や制限事項も明記されています。

  • 適用外とされる用途: 法令や規制に違反する行為全般、差別的・有害・過激なコンテンツや意図的な虚偽情報の生成、個人情報や機密情報の暴露・推測、医療・法務・金融・安全管理などの人命や重大な影響に関わる意思決定への単独利用は対象外とされています。
  • 言語の制限: アラビア語および英語以外の言語については信頼できる性能が保証されておらず、サポート外とされています。
  • 出力の限界とバイアス: 不正確な情報や事実に基づかない内容(ハルシネーション)を出力する可能性や、学習データに起因するバイアスが含まれる可能性があるため、実環境への配備前には検証と安全対策の導入が推奨されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 1.1B(元モデル inception42/Jais-3-0.9B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) BF16 2.0GB 2.4GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf 389M 4GB apache-2.0 「MiniCPM-V-4.7-35B-A3B-DSpark-gguf」高速化用ドラフトモデル:必要VRAM 4GB〜(2026-11-17)
openbmb/MiniCPM-V-4.7-1B-DSpark-gguf 214M 4GB apache-2.0 「MiniCPM-V-4.7-1B-DSpark-gguf」テキスト生成モデル:必要VRAM 4GB〜(2026-11-17)
nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16 4.0B 4GB openmdw-1.1 NVIDIA、ループ型LLM「Dory1.0-4B」を公開。最大256K対応(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-DSpark 328M 4GB lfm1.0 「LFM2.5-24B-A2B-DSpark」推測デコード用のドラフトモデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-DSpark-GGUF 328M 4GB lfm1.0 「LFM2.5-24B-A2B-DSpark-GGUF」投機的デコーディング用のドラフトモデル:必要VRAM 4GB〜(2026-11-17)

入手方法

本モデルはGGUF形式で配布されており、BF16、Q8_0、Q6_K、Q5_K_M、Q5_0、Q4_K_Mといった複数の量子化バリエーションが提供されていると報告されています。ライセンスはApache-2.0が適用されており、Hugging Face上での利用規約同意(ゲート機能)は設定されていないため、直接ダウンロードして利用できます。

推論エンジンには llama.cpp が利用できます。本モデルが採用しているK2 Horizonアーキテクチャのサポートコードはすでに llama.cpp のリポジトリへマージされているため、最新のビルドやmasterブランチからビルドしたバイナリを使用することが推奨されています。

起動時には、思考プロセスやツール呼び出しを適切に解釈させるため、--jinja オプションを付与して組み込みのチャットテンプレートを有効化する必要があります。llama-server をビルドして起動する場合のコマンド例は以下の通りです。

cmake -B build -DGGML_CUDA=ON
cmake --build build -j --target llama-server
./build/bin/llama-server -hf IFM/Jais-3-0.9B-GGUF:Q8_0 --jinja -ngl 99 -c 32768

バリエーションは :BF16、:Q8_0、:Q6_K、:Q5_K_M、:Q5_0、:Q4_K_M のようにタグを指定するか、ダウンロードしたローカルファイルを -m オプションで指定します。

ローカルサーバーを立ち上げた後は、OpenAI互換のAPI経由で推論を実行できます。Pythonを用いた呼び出し例は以下の通りです。

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8080/v1", api_key="EMPTY")
response = client.chat.completions.create(
    model="Jais-3-0.9B",
    messages=[{"role": "user", "content": "لدينا عددان مجموعهما 50 وحاصل ضربهما 600. ما هما العددان؟ اشرح خطوات الحل."}],
    temperature=0.7,
    top_p=0.95,
    max_tokens=32768,
    extra_body={"top_k": 20, "chat_template_kwargs": {"reasoning_effort": "high"}},
)
message = response.choices[0].message
print("Reasoning:", getattr(message, "reasoning_content", None))
print("Answer:", message.content)

公開元が推奨する設定(ベストプラクティス)として、以下のパラメータが案内されています。

  • Reasoning effort: ベンチマーク結果はすべて高い思考レベルで測定されているため、リクエストごとに chat_template_kwargs で {"reasoning_effort": "high"} を渡すことが推奨されています。
  • サンプリング設定: 通常時は temperature=0.2、top_p=0.95、top_k=20 が推奨されています。思考モードを有効にする場合、英語では temperature=1.0、アラビア語では temperature=0.7 に設定することが推奨されています。また、min_p=0.0、presence_penalty=0.0、repetition_penalty=1.0 の維持が案内されています。
  • パーサーの設定: --jinja を有効にして起動することで、llama.cpp 側で思考プロセスとツール呼び出しが自動的に解析されます。

なお、Appleシリコン環境向けには、MLX形式のバリアント(4bit、8bit、bf16)もコレクションを通じて別途公開されていると案内されています。

関連記事

次に読むなら

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。