「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり

「Raon-1-mini-preview」思考モード搭載の言語モデル:必要VRAM 24GB〜・GGUF版あり

基本情報

項目 内容
リポジトリ KRAFTON/Raon-1-mini-preview
まとめページ Raon-1 のまとめ(記事1本)
公開日 2026-10-21
ライセンス apache-2.0
配布形式 safetensors
出典の種類 公開元の一次情報(公式Hugging Faceリポジトリからの一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

KRAFTON AIは、スクラッチから設計・学習されたMixture-of-Experts(MoE)言語モデル「Raon-1-mini-preview」を公開しました。総パラメータ数28.8B、1トークンあたりの活性化パラメータ数4.3Bの構成を持ち、韓国語での対話能力やエージェントタスクに強みを持つとされています。本モデルは最終版ではなくプレビュー版の位置づけであり、思考モード(thinking mode)が標準で組み込まれています。

スペック

モデルカードに記載されているスペックは以下のとおりです。

  • 総パラメータ数: 28.8B
  • 活性化パラメータ数: 4.3B
  • アーキテクチャ: ハイブリッドMoE(18層のRaon Delta Attention層と7層のGated MLA層)
  • レイヤー数: 25
  • エキスパート数: 128(ルーティング6エキスパート+共有1エキスパートがトークンごとに活性化)
  • エキスパート中間層サイズ: 1,088
  • 隠れ層サイズ (Hidden Size): 2,560
  • アテンションヘッド数: 40(RDAおよびGated MLA共通)
  • アテンションヘッド次元: 128(RDA)、192 QK / 128 V(Gated MLA)
  • クエリ / KV LoRAランク: 576 / 512(Gated MLA)
  • 位置エンコーディング: NoPE (no positional encoding)
  • 活性化関数: SiTU-GLU
  • 残差接続: Raon-mHC(4ストリーム)
  • 語彙サイズ: 259,840
  • コンテキスト長: 262,144トークン

性能

モデルカードでは、同規模帯のMoEモデル(Qwen3.6-35B-A3B、Gemma 4 26B-A4B)およびDenseモデルとのベンチマーク比較結果が公表されています。すべての評価において、ジャッジおよびユーザーシミュレーターとしてgpt-5.6-lunaが使用されています。

→ 横にスクロールできます

Category Benchmark MoE / Raon-1 mini preview (30B-A4B) MoE / Qwen3.6-35B-A3B MoE / Gemma 4 26B-A4B Dense / Qwen3.8-27B Dense / Muse Glimmer 30B
Knowledge MMLU Pro 76.5 85.9 82.9 85.7 84.0
Knowledge AA-Omniscience 3.5 −7.2 −46.6 −0.5 −34.7
Reasoning GPQA Diamond 84.3 83.2 80.7 89.7 82.6
Reasoning AIME 2026 93.3 92.9 87.1 98.8 92.9
Reasoning HMMT Feb 2026 84.1 84.5 79.9 95.8 74.6
Instruction and multi-turn IFBench 84.2 66.6 80.9 82.4 78.7
Instruction and multi-turn MultiChallenge 59.0 58.2 58.4 63.6 63.4
Coding LiveCodeBench v6 81.6 81.2 83.4 79.3 77.4
Coding SciCode 38.7 35.6 39.6 44.6 43.6
Coding SWE-Verified¹ 70.8 63.2 61.6 74.6 72.0
Coding Terminal-Bench Lite 47.0 63.3 52.0 67.0 70.7
Agentic GDPVal² 66.0 67.4 57.5 63.5 67.3
Agentic AutomationBench³ 29.7 24.9 36.2 58.7 32.1
Agentic BrowseComp Plus 55.7 34.8 32.2 58.0 52.8
Agentic BFCL v4 Overall 59.8 64.7 65.8 72.4 51.8
Long context AA-LCR 67.3 69.3 67.0 80.3 81.3
Long context GDP.pdf⁴ 5.8 6.6 3.6 11.2 8.4
Korean conversation Chatbot Korean (internal)⁵ 92.9 74.5 90.6 90.1 87.0

また、推論を高速化する投機的デコーディング用ドラフトモデル「DFlash2」を使用した際のスループット測定結果も公開されています(NVIDIA B300単体、vLLM環境)。

→ 横にスクロールできます

Benchmark AL AR · C=1 DFlash2 · C=1 AR · C=8 DFlash2 · C=8 AR · C=32 DFlash2 · C=32
GSM8K 4.76 296.3 646.3 (2.18×) 1,110.4 1,836.3 (1.65×) 1,528.9 2,619.3 (1.71×)
MATH-500 4.43 308.0 666.6 (2.16×) 1,496.1 2,511.3 (1.68×) 3,082.5 5,166.9 (1.68×)
HumanEval 3.96 305.4 607.9 (1.99×) 1,470.8 2,269.6 (1.54×) 2,793.1 4,596.4 (1.65×)
MBPP 3.85 307.0 604.1 (1.97×) 1,450.6 2,197.2 (1.51×) 2,956.2 5,017.9 (1.70×)
MT-Bench 3.24 304.9 570.2 (1.87×) 1,477.1 2,038.2 (1.38×) 2,521.3 3,935.4 (1.56×)

公開元の測定結果に基づくと、本モデルの強みと弱みについて以下の点が読み取れます。

まず推論・数学分野では、米国の数学オリンピック予選を測るAIME 2026で93.3、博士課程レベルの科学難問を扱うGPQA Diamondで84.3を記録しており、比較対象のMoEモデル群の中で最も高い数値を達成しています。指示追従性を測るIFBenchでも84.2、新作の競技プログラミング課題によるLiveCodeBench v6でも81.6と良好な結果を示しており、内部ベンチマークのChatbot Koreanでも92.9と高い数値を記録しています。

一方で、10択で一般知識や推論を難度高めに測るMMLU Proでは76.5にとどまり、比較対象の他モデル(82.9〜85.9)を下回っています。また、端末上でコマンドを実行して作業をやり切る能力を測るTerminal-Bench Liteでは47.0、関数の選択や引数構築の正確さを測るBFCL v4 Overallでも59.8となっており、一部のエージェント・ツール利用系タスクでは他のMoEベースラインに及びません。

なお、投機的デコーディングに関しては、DFlash2を併用することで小学校レベルの算数問題を解くGSM8Kにおいて最大2.18倍、高校〜競技レベルの数学を扱うMATH-500において最大2.16倍のスループット向上が報告されています。

得意なこと・想定用途

Raon-1-mini-previewは、思考モード(thinking mode)を前提とした論理的推論や、自律型エージェントワークフロー、および韓国語を中心とした多言語対話を得意としています。

モデルカードによれば、本モデルは韓国語、英語、日本語、中国語、スペイン語、フランス語、タイ語の各言語で学習が行われており、特に韓国語における流暢な対話能力と実用的な英語性能を備えています。262,144トークンの長大なコンテキスト長をネイティブでサポートしているため、膨大な文書を参照する長文読解や長期的な対話履歴の保持を要する作業にも適しています。

また、エージェントタスク向けの機能としてツール呼び出し(Tool calling)が組み込まれており、Hermes Agent、Pi、OpenCodeといったエージェント実行環境との統合が公式に案内されています。指示追従や検索、コーディング分野でも堅実な性能を示しており、思考プロセスを経由させた深い推論やプログラム作成、各種ツールの自動実行を組み合わせた複雑なタスク処理に向いています。

なお、生成時の推奨サンプリングパラメータとして、思考モードを有効化し、temperatureを1.0、top_pを0.95、top_kを20に設定することが推奨されています。また、チャットや要約、知識QA、エージェントタスクではpresence_penaltyを1.5に設定する一方で、コーディングや数学タスクではpresence_penaltyを0.0に設定することが明記されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 28.8B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4090 / 3090 など 24GB Q4_K_M 18.3GB 22.0GB
RTX 5090 など 32GB Q6_K 24.1GB 28.9GB
RTX 6000 Ada / A6000 など 48GB Q8_0 28.6GB 34.3GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 未登録、vLLM: 未登録、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 KRAFTON/Raon-1-mini-preview-gguf の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、KRAFTON/Raon-1-mini-preview-gguf が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q4_K_M は実測 5.46 bit/weight で、元の16bitの重みの約34%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/LFM2.5-24B-A2B-Base 24.0B 80GB lfm1.0 LiquidAI、超軽量推論モデル「LFM2.5-24B-A2B」を公開(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-FP8 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-bf16 24.0B 80GB lfm1.0 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-8bit 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B 24.0B 12GB lfm1.0 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)

入手方法

Raon-1-mini-previewは、Apache 2.0ライセンスのもとでウェイトが公開されています。ベースモデルはsafetensors形式(MXFP8)で配布されているほか、NVFP4形式、llama.cpp向けのGGUF形式、Appleシリコン向けのMLX形式など、多様なフォーマットが用意されています。なお、Hugging Faceのリポジトリはゲート付き(Gated)となっており、モデルページ上で利用アクセスのリクエストを行う必要があります(リクエストは自動で承認されます)。ダウンロード前にhuggingface-cliやhf auth loginを用いて認証を完了させておく必要があります。

主要な推論環境ごとの利用方法は以下のとおりです。

Transformersでの実行

Python環境でHugging Face Transformersから直接読み込んで動かす場合は、以下のように依存ライブラリを導入し、リモートコードの実行を許可してモデルを読み込みます。

pip install "transformers==5.16.1" "accelerate==1.15.0"
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "KRAFTON/Raon-1-mini-preview"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    dtype="auto",
    device_map="auto",
    trust_remote_code=True,
)

messages = [{"role": "user", "content": "Tell me about KRAFTON AI."}]
inputs = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    enable_thinking=True,
    truncate_history_thinking=False,
).to(model.device)

outputs = model.generate(
    **inputs,
    max_new_tokens=32768,
    do_sample=True,
    temperature=1.0,
    top_p=0.95,
    top_k=20,
    min_p=0.0,
    repetition_penalty=1.0,
    presence_penalty=1.5,
)

推論結果のテキスト内では思考プロセスが</think>タグで区切られて出力されるため、タグの前後の文字列を分割して取り出す構成になっています。

vLLMでのサービング

OpenAI互換APIサーバーとして運用する場合は、公開元が提供するカスタムフォークのvLLMを利用します。ツール呼び出しやDFlash2による投機的デコーディングを有効にして起動できます。

VLLM_REF="raon-1-mini-preview"
pip install "vllm @ git+https://github.com/krafton-ai/vllm.git@${VLLM_REF}"

vllm serve KRAFTON/Raon-1-mini-preview \
    --host 127.0.0.1 \
    --port 8000 \
    --served-model-name Raon-1-mini-preview \
    --max-model-len 262144 \
    --max-num-batched-tokens 16384 \
    --max-num-seqs 128 \
    --gpu-memory-utilization 0.85 \
    --kv-cache-dtype fp8_e4m3 \
    --enable-prefix-caching \
    --spec-method dflash \
    --spec-model KRAFTON/Raon-1-mini-preview-dflash2 \
    --spec-tokens 7 \
    --reasoning-parser raon_1 \
    --enable-auto-tool-choice \
    --tool-call-parser raon_1 \
    --default-chat-template-kwargs '{
      "enable_thinking": true,
      "truncate_history_thinking": false
    }'

また、NVFP4形式のチェックポイント(KRAFTON/Raon-1-mini-preview-nvfp4)を対象とするプロファイルも提供されています。

llama.cppでの実行

llama.cppを用いてGGUF版を実行する場合は、対応する専用ブランチからビルドを行います。チェックポイントにはKRAFTON/Raon-1-mini-preview-ggufを使用します。

git clone -b raon-1-mini-preview https://github.com/krafton-ai/llama.cpp
cd llama.cpp
cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release -j

ビルド後は、CLI対話ツールやOpenAI互換サーバーとして実行できます。モデルファイルは引数で指定することで自動的にダウンロードされます。

./build/bin/llama-cli \
    -hf KRAFTON/Raon-1-mini-preview-gguf:Q4_K_M \
    --ctx-size 262144 \
    --n-predict 32768 \
    --temp 1.0 \
    --top-p 0.95 \
    --top-k 20 \
    --min-p 0.0 \
    --repeat-penalty 1.0 \
    --frequency-penalty 0.0 \
    --presence-penalty 1.5 \
    --reasoning on \
    --chat-template-kwargs '{
      "enable_thinking": true,
      "truncate_history_thinking": false
    }'

MLXでの実行

Appleシリコン搭載Macでは、専用に変換されたKRAFTON/Raon-1-mini-preview-mlxを利用することで、Pythonスクリプトやmlx_lm server経由でのOpenAI互換エンドポイントの立ち上げが可能です。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 KRAFTON GGUF(imatrix) KRAFTON/Raon-1-mini-preview-gguf Q4_K_M 22.0GB(24GB VRAMで動作)
2026-11-17 KRAFTON MLX KRAFTON/Raon-1-mini-preview-mlx MLX 19.6GB(24GB VRAMで動作)
2026-11-17 KRAFTON NVFP4 KRAFTON/Raon-1-mini-preview-nvfp4 –

各リポジトリの量子化とファイルサイズ:

  • KRAFTON/Raon-1-mini-preview-gguf の量子化: IQ4_XS 15.0GB / Q4_K_M 18.3GB / Q5_K_M 20.7GB / Q6_K 24.1GB / Q8_0 28.6GB
  • KRAFTON/Raon-1-mini-preview-mlx の量子化: MLX 16.3GB

このほか、上記以外の投稿者による変換版が 9 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

同じ用途の既報モデル

当サイトが取り上げたテキスト生成のモデルを新しい順に並べています。用途は配布元がHugging Faceに付けたタスク(pipeline_tag)から機械的に分けたもので、最小のVRAM階層は当サイトの概算です。

テキスト生成のモデルをすべて見る →

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: KRAFTON/Raon-1-mini-preview-gguf, KRAFTON/Raon-1-mini-preview-mlx, KRAFTON/Raon-1-mini-preview-nvfp4
  • 2026-11-17: 動作環境の表を KRAFTON/Raon-1-mini-preview-gguf の実ファイルサイズで更新しました。
  • 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。