「flint」コーディングエージェント向けのMoE言語モデル:必要VRAM 16GB〜・GGUF版あり

「flint」コーディングエージェント向けのMoE言語モデル:必要VRAM 16GB〜・GGUF版あり

基本情報

項目 内容
リポジトリ RecursiveSI/flint
まとめページ flint のまとめ(記事2本)
公開日 2026-10-21
ライセンス apache-2.0
配布形式 safetensors
出典の種類 公開元の一次情報(公式HFリポジトリが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

Recursiveは、コーディングエージェント向けに設計されたMixture-of-Experts(MoE)言語モデル「Flint」を公開いたしました。総パラメータ数は398億(39.8B)で、トークンあたりの活性パラメータ数は約25億(2.5B)となっています。

本モデルは、コードベースの調査、バグの修正、新機能の実装、およびテストコードの作成を行うことを目的として開発されています。テキストの入力と出力に対応し、推論(reasoning)の実行やマルチターンでのツール利用をサポートしています。

スペック

  • 総パラメータ数:398億(39.8B)
  • 活性パラメータ数:トークンあたり約25億(約2.5B、出力ヘッドを含む。アクティブボディ単体では約22億)
  • アーキテクチャ:Decoder-only mixture-of-experts Transformer
  • 層数:49層(デンス層2層、MoE層47層)
  • アテンション:スライディングウィンドウ層35層、フルアテンション層14層
  • スライディングウィンドウ:513トークン(現在のトークンと先行する512トークン)
  • アテンションヘッド:クエリヘッド32個、キー/バリューヘッド4個(ヘッド次元128)
  • アテンション正規化:ヘッドごとのQK RMSNorm、および学習済みのヘッドごとアテンションシンク
  • 位置エンコーディング:スライディングウィンドウ層にRoPEを採用、フルアテンション層は位置エンコーディングなし
  • エキスパート構成:MoE層あたり256個のルーティングエキスパート(トークンあたり6個を選択)、および常時活性の共有エキスパート1個
  • コンテキスト長:262,144トークン(プロンプトと生成出力の合計)
  • 語彙数:150,144トークン

性能

公開元であるRecursiveによる測定評価結果では、コーディングおよびエージェントタスクに関する各ベンチマークにおいて以下のスコアが報告されています。

  • Terminal-Bench 2.1:54.9%
  • SWE-bench Pro v2:89.7%
  • SWE-bench Verified:74.2%

この評価測定において、Flintはサンプリング設定として温度1.0、top-p 0.95、top-k 20を使用しています。また、Terminal-Benchの実行にはTerminus 2、SWE-benchの実行にはmini-swe-agentが使用されており、エージェントスコアは少なくとも5回の試行における平均pass@1として算出されています。

Terminal-Benchはターミナル上で実際にコマンドを実行し、与えられた作業を最後までやり切れるかを測る指標であり、Pass@1(%)の数値が高いほど優秀であることを示します。また、SWE-benchは実在のGitHub issueを対象にリポジトリを編集して修正できるかを測る指標であり、解決できた課題の割合(%)の数値が高いほど優秀であることを示します。

評価環境や設定はソースごとに異なりますが、FlintのTerminal-Benchスコアにおいては、Web検索を通じて得られた解決策を不合格として処理する調整が適用されています。公開元自らが実施したこれらの測定結果からは、実際の開発リポジトリに対するコード修正タスクや、端末操作を伴うエージェントとしての作業実行において、高い回答能力とタスク解決能力を備えていることが示されています。

得意なこと・想定用途

Flintは、ソフトウェア開発におけるコーディングエージェントとしての利用を主眼に置いて設計されています。具体的な想定用途として、既存コードベースの調査、バグの特定と修正、新機能の実装、およびユニットテストをはじめとするテストコードの作成が挙げられています。

本モデルは単なるテキスト生成にとどまらず、複雑な思考プロセス(reasoning)を実行しながら、複数ターンにわたるツール利用をこなす能力を備えています。モデルの学習プロセスにおいては、ゼロからの事前学習に加えて、ミッドトレーニング、指示チューニング(SFT)、および強化学習(RL)が実施されており、テキストやコードの生成だけでなく、指示追従性能やエージェントとしての動作に特化した調整が行われています。

また、OpenAI互換のツール呼び出し機能をサポートしています。チャットテンプレートを利用する際は、会話履歴の中でモデルから返された reasoning_content を保持することが推奨されています。難度の高い問題に取り組みさせる場合は、推論過程を含めて少なくとも32,768トークンの出力バジェットを確保することが推奨設定として提示されています。

利用上の注意点として、モデルが生成したコードやツール呼び出しが常に正確かつ安全であるとは限らないため、実際の環境に適用する前にテストやコードレビューを実施することが求められます。構造化されたツール呼び出しのグラマーを使用しても不適切なアクションを防ぐことはできないため、ツールを利用するアプリケーション側で明確な実行権限や実行境界を設定する必要があります。さらに、推論時間が長くなるとレイテンシが増加し、回答が完了する前に出力バジェットを使い果たす可能性がある点にも留意が必要です。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 39.8B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB Q2_K_XL 12.6GB 15.2GB
RTX 4090 / 3090 など 24GB Q3_K_XL 17.2GB 20.7GB
RTX 5090 など 32GB Q4_K_XL 23.3GB 28.0GB
RTX 6000 Ada / A6000 など 48GB Q8_0 39.4GB 47.3GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 unsloth/flint-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、bartowski/RecursiveSI_flint-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q8_0 は実測 8.51 bit/weight で、元の16bitの重みの約53%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/LFM2.5-24B-A2B-Base 24.0B 80GB lfm1.0 LiquidAI、超軽量推論モデル「LFM2.5-24B-A2B」を公開(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-FP8 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-bf16 24.0B 80GB lfm1.0 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-8bit 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B 24.0B 12GB lfm1.0 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)

入手方法

FlintのBF16チェックポイントは、Hugging Faceのリポジトリ(RecursiveSI/flint)にてsafetensors形式で公開されています。ライセンスは Apache License 2.0 が適用されており、モデルの入手にあたって利用規約への同意(gating)は要求されません。なお、NVIDIAおよびApple Silicon向けの量子化バリアントについては別途用意されていると説明されています。

現時点では Hugging Face Transformers のモデリングコードは直接含まれておらず、実行環境としてリポジトリ内に用意されている SGLang サービングキット(sglang/ ディレクトリ)を利用する形態となっています。レプリカあたり1基の B300 または H200 GPU を使用した環境が想定されています。

モデルの取得と SGLang によるサービング環境の構築は、以下のコマンドを実行して行います。

pip install -U huggingface_hub openai
hf download RecursiveSI/flint --local-dir flint && cd flint

取得後、Dockerを用いてSGLangイメージをビルドし、コンテナを起動します(B300 GPUの場合は serve_b300.sh、H200 GPUの場合は serve_h200.sh を使用します)。

docker build -t flint-sglang sglang
docker run -d --name flint --gpus '"device=0"' --ipc=host -p 127.0.0.1:30000:30000 \
  -v "$PWD:/model" -e MODEL=/model flint-sglang bash /model/sglang/serve_b300.sh

サーバーの起動確認後、付属のサンプルクライアントまたはOpenAI互換SDKから http://localhost:30000/v1 のエンドポイントを指定してアクセスできます。

python3 sglang/example_client.py --base-url http://localhost:30000/v1

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-10-24 bartowski GGUF(imatrix) bartowski/RecursiveSI_flint-GGUF IQ2_S 15.0GB(16GB VRAMで動作)
2026-11-17 unsloth GGUF(imatrix) unsloth/flint-GGUF Q2_K_XL 15.2GB(16GB VRAMで動作)
2026-11-17 lmstudio-community GGUF lmstudio-community/flint-GGUF Q4_K_M 27.0GB(32GB VRAMで動作)
2026-11-17 RecursiveSI MLX RecursiveSI/flint-int4 –
2026-11-17 mlx-community MLX mlx-community/flint-OptiQ-4bit MLX 4bit 30.7GB(32GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • bartowski/RecursiveSI_flint-GGUF の量子化: IQ2_XXS 11.2GB / IQ2_XS 11.9GB / IQ2_S 12.5GB / IQ2_M 13.9GB / Q2_K 14.4GB / IQ3_XXS 16.3GB / IQ3_XS 17.1GB / Q3_K_S 17.2GB / Q3_K_M 18.2GB / Q3_K_L 19.2GB / IQ3_M 19.6GB / IQ4_XS 20.9GB / Q4_0 21.3GB / Q4_K_S 22.2GB / Q4_1 23.5GB / IQ4_NL 23.6GB / Q4_K_M 23.6GB / Q4_K_L 25.4GB / Q5_K_S 26.6GB / Q5_K_M 28.7GB / Q6_K_S 31.3GB / Q6_K 32.8GB / Q6_K_L 34.4GB / Q8_0 39.4GB / BF16 74.2GB
  • unsloth/flint-GGUF の量子化: IQ1_M 10.6GB / IQ2_XXS 11.0GB / Q2_K_XL 12.6GB / IQ3_XXS 13.5GB / Q3_K_XL 17.2GB / Q4_K_XL 23.3GB / Q5_K_XL 27.9GB / Q6_K_XL 33.8GB / Q8_0 39.4GB / BF16 74.1GB
  • lmstudio-community/flint-GGUF の量子化: Q4_K_M 22.5GB / Q6_K 30.5GB / Q8_0 39.4GB
  • mlx-community/flint-OptiQ-4bit の量子化: MLX 4bit 25.6GB

このほか、上記以外の投稿者による変換版が 39 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: unsloth/flint-GGUF, lmstudio-community/flint-GGUF, RecursiveSI/flint-int4, mlx-community/flint-OptiQ-4bit
  • 2026-11-17: 動作環境の表を unsloth/flint-GGUF の実ファイルサイズで更新しました。
  • 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。