マルチモーダル基盤モデル「Intern-S2-397B」のGGUF量子化版公開

2026年9月15日2026年9月18日

Contents

1. 基本情報
2. 概要
3. スペック
4. 得意なこと・想定用途
5. 動作環境
6. 同クラスの既報モデル
7. 入手方法
8. 関連記事
9. 出典

基本情報

項目	内容
リポジトリ	bartowski/Intern-S2-397B-GGUF
公開日	2026-09-14
ライセンス	apache-2.0
配布形式	GGUF
出典の種類	公開元の一次情報(公式HFリポジトリの一次情報)

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

概要

bartowski氏により、上海AIラボ（Shanghai AI Laboratory）が開発したマルチモーダル基盤モデル「Intern-S2-397B」のGGUF量子化版リポジトリ「bartowski/Intern-S2-397B-GGUF」が公開されました。

本リポジトリはllama.cpp（リリースb10896）を用いて量子化されており、推論を高速化するMulti-Token Prediction（MTP）レイヤーや画像入力用のプロジェクターファイル（mmproj）が同梱されています。

スペック

パラメータ数: 403B（元モデルのアーキテクチャはQwen3_5MoeForConditionalGeneration）
コンテキスト長: 最大256Kトークン（元モデルのテキスト推論評価時）、最大64Kトークン（元モデルのマルチモーダル推論評価時）
ライセンス: apache-2.0

得意なこと・想定用途

元モデルである「Intern-S2-397B」は、科学分野のインテリジェンスおよび長期タスクを実行するエージェント（long-horizon agents）向けに設計されたマルチモーダル基盤モデルです。

モデルカードによれば、科学文献のページから直接学習する視覚事前学習アプローチを採用しており、記号的な意味論と視覚的関係性を共有表現空間でモデリングします。20以上のドメインにわたる科学強化学習タスクを通じて訓練されており、生体分子の相互作用設計や材料構造の生成といった専門的な科学タスク、さらにサンドボックス環境を活用した汎用・科学領域の自律エージェントタスクを得意としています。また、思考モード（thinking mode）の切り替えやツール呼び出し（Tool Calling）、時系列データ（地震イベント検出や電力負荷予測など）の推論にも対応しています。

なお、今回の公開物は元モデルをGGUF形式に変換した量子化版であり、量子化に伴う微小な精度の変化が生じる可能性があります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 403.4B(元モデル internlm/Intern-S2-397B の値)

手持ちのVRAM	選べる量子化	ファイルサイズ	必要メモリの目安
102GB超のVRAMが必要(複数GPUまたはCPUオフロードが前提)	IQ1_S	85.3GB	102.4GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。他のモデルとの比較はVRAM別の早見表を参照してください。量子化の名前の読み方は用語集にあります。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 40B超 のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル	パラメータ数	最小のVRAM階層	ライセンス	記事
dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8	763.2B	—	mit	DeepSeek-V4.1-Flashの検閲解除版FP8モデルがHugging Faceに公開(2026-09-13)
deepseek-ai/DeepSeek-V4.1-Flash	763.2B	—	mit	DeepSeek-V4.1-Flash公開、552BのMoEマルチモーダルモデル(2026-09-10)

入手方法

配布形式はGGUFで、Hugging Face CLI等を通じて入手できます。llama.cpp、LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chatなどの推論エンジンに対応しています。

推奨されているQ4_K_M量子化ファイルを入手してllama.cppのサーバーを起動する場合、以下のコマンドを利用できます。

pip install -U "huggingface_hub[cli]"
hf download bartowski/Intern-S2-397B-GGUF --include "Intern-S2-397B-Q4_K_M/*" --local-dir./

llama.cppでのワンライナー実行およびサーバー起動:

curl -LsSf https://llama.app/install.sh | sh
llama-server -hf bartowski/Intern-S2-397B-GGUF:Q4_K_M

なお、MTPによる投機的デコーディングを利用する場合は、起動オプションに --spec-type draft-mtp を追加します。画像入力を手動で読み込む場合は同梱の mmproj-Intern-S2-397B-f16.gguf などを --mmproj で指定してください。

出典

新モデルGGUF,Intern-S2-397B,llama.cpp,Shanghai AI Laboratory,マルチモーダル,確認済み