「Intern-S2-397B-GGUF」科学分野向けマルチモーダル基盤モデル：必要メモリ約102GB

2026年9月15日2026年10月5日

基本情報

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

当サイトで確かめたこと

• Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

詳しい値と条件は、下の「当サイトでの実測」の節にあります。

概要

bartowski氏により、上海AIラボ（Shanghai AI Laboratory）が開発したマルチモーダル基盤モデル「Intern-S2-397B」のGGUF量子化版リポジトリ「bartowski/Intern-S2-397B-GGUF」が公開されました。

本リポジトリはllama.cpp（リリースb10896）を用いて量子化されており、推論を高速化するMulti-Token Prediction（MTP）レイヤーや画像入力用のプロジェクターファイル（mmproj）が同梱されています。

スペック

• パラメータ数: 403B（元モデルのアーキテクチャはQwen3_5MoeForConditionalGeneration）
• コンテキスト長: 最大256Kトークン（元モデルのテキスト推論評価時）、最大64Kトークン（元モデルのマルチモーダル推論評価時）
• ライセンス: apache-2.0

得意なこと・想定用途

元モデルである「Intern-S2-397B」は、科学分野のインテリジェンスおよび長期タスクを実行するエージェント（long-horizon agents）向けに設計されたマルチモーダル基盤モデルです。

モデルカードによれば、科学文献のページから直接学習する視覚事前学習アプローチを採用しており、記号的な意味論と視覚的関係性を共有表現空間でモデリングします。20以上のドメインにわたる科学強化学習タスクを通じて訓練されており、生体分子の相互作用設計や材料構造の生成といった専門的な科学タスク、さらにサンドボックス環境を活用した汎用・科学領域の自律エージェントタスクを得意としています。また、思考モード（thinking mode）の切り替えやツール呼び出し（Tool Calling）、時系列データ（地震イベント検出や電力負荷予測など）の推論にも対応しています。

なお、今回の公開物は元モデルをGGUF形式に変換した量子化版であり、量子化に伴う微小な精度の変化が生じる可能性があります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 403.4B(元モデル internlm/Intern-S2-397B の値)

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。

日本語のトークン効率

Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

internlm/Intern-S2-397B の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。

GGUFファイルの中身

対象: Intern-S2-397B-Q4_K_M/Intern-S2-397B-Q4_K_M-00001-of-00007.gguf(237.10GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。

ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 40B超 のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

入手方法

配布形式はGGUFで、Hugging Face CLI等を通じて入手できます。llama.cpp、LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chatなどの推論エンジンに対応しています。

推奨されているQ4_K_M量子化ファイルを入手してllama.cppのサーバーを起動する場合、以下のコマンドを利用できます。

pip install -U "huggingface_hub[cli]"
hf download bartowski/Intern-S2-397B-GGUF --include "Intern-S2-397B-Q4_K_M/*" --local-dir./

llama.cppでのワンライナー実行およびサーバー起動:

curl -LsSf https://llama.app/install.sh | sh
llama-server -hf bartowski/Intern-S2-397B-GGUF:Q4_K_M

なお、MTPによる投機的デコーディングを利用する場合は、起動オプションに --spec-type draft-mtp を追加します。画像入力を手動で読み込む場合は同梱の mmproj-Intern-S2-397B-f16.gguf などを --mmproj で指定してください。

関連記事

• 「TheDrummer_Orion-26B-A4B-v1.1-GGUF」マルチモーダルモデル：必要VRAM 12GB〜
• 「vectionlabs_Salience-27B-R6-GGUF」：当サイトでの回答例・必要VRAM 12GB〜
• 「Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF」：当サイトでの回答例

次に読むなら

• GPUのVRAMから探す(このモデルは80GBの階層にも収まりません。最小構成でも約102GB) → 80GB超のモデルも並べたVRAM別の早見表
• このモデルを動かすエンジンを調べる → llama.cpp / Ollama
• 入手できる形式と、表に出てくる IQ1_S の意味を知る → GGUF形式の解説と対応モデル / 量子化・モデル形式の用語集
• 同じ用途の他のモデルを探す → VLM・マルチモーダルのモデル一覧

出典

• https://huggingface.co/bartowski/Intern-S2-397B-GGUF
• https://huggingface.co/internlm/Intern-S2-397B

更新履歴

• 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
• 2026-09-25: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。
• 2026-09-28: 当サイトでの実測(日本語のトークン効率・GGUFファイルの中身)を追加しました。