「SenseNova-Loop-9B-GGUF」ループ機構を持つマルチモーダルモデル:必要VRAM 8GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | sensenova/SenseNova-Loop-9B-GGUF |
| まとめページ | SenseNova-Loop のまとめ(記事2本) |
| 公開日 | 2026-11-18 |
| ライセンス | apache-2.0 |
| 配布形式 | GGUF |
| 出典の種類 | 公開元の一次情報(公式HFリポジトリで一次情報確認済み) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
SenseNovaより、独自のループ機構を備えたマルチモーダルモデル「SenseNova-Loop-9B」のGGUF形式モデルウェイトが公開されました。
本モデルは、テキストと画像の入力を受け付けてテキストを生成する、約9Bパラメータのマルチモーダルモデルです。先行して公開されていたPreview版の知見をもとに、中間層の重みを反復実行するループ型アーキテクチャ(Looped Transformer)と多様体制約付きハイパーコネクション(manifold-constrained hyper-connections: mHC)を採用し、限られたパラメータ数の中で計算の深さを拡張しています。
エージェントタスクやコーディング、データ分析タスクを意識して設計されており、コンテキスト長は最大512Kトークンに対応しています。軽量なパラメータ規模を保ちながら、中間層を反復処理することで、より大規模なモデルに迫る推論性能を目指しています。
スペック
モデルカードに記載されている仕様は以下の通りです。
- パラメータ数: 総パラメータ数 約9B(推論等価パラメータ数 約14.6B)
- アーキテクチャ: 自己回帰型マルチモーダルデコーダ(2ストリームmHCを備えたループブロック)
- 入力 / 出力: テキストおよび画像 / テキスト
- 個別のデコーダ層数: 32層
- ループ対象層の範囲 / パス数: [4, 28)層の24層 / 2パス(重み共有)
- デコーダ層の実行回数: 1フォワードパスあたり56層
- アテンション構成: 線形アテンション3層とフルアテンション1層を組み合わせたハイブリッド構成
- mHC残差ストリーム数: 2ストリーム(Sinkhorn正規化イテレーション数: 20)
- 隠れ層次元: 4,096
- フィードフォワード次元: 12,288
- 語彙数: 248,320
- アテンションヘッド数: フルアテンション16ヘッド / KV 4ヘッド
- 重み精度: バックボーン BF16 / mHCルーティングパラメータ FP32
- コンテキスト長: 512Kトークン
性能
モデルカードでは、正式リリース版「SenseNova-Loop-9B」の性能について、先行のPreview版および他モデルとの比較結果が公表されています。
モデルカードで言及されている各ベンチマークの測定スコアは以下の通りです。
| ベンチマーク | SenseNova-Loop-9B (Release) | SenseNova-Loop-9B-Preview | Qwen3.8-27B |
|---|---|---|---|
| AutomationBench | 36.67 | 14.33 | 36.67 |
| Terminal-Bench 2.1 | 59.55 | 40.45 | – |
| GAIA | 69.90 | 37.86 | – |
| AIDABench | 65.31 | – | 65.01 |
| NL2Repo | 41.36 | – | 44.60 |
| BIRD | 72.34 | 71.38 | – |
公開元による測定結果によれば、正式版はPreview版と比較して示されたすべてのベンチマークでスコアが向上しています。特に検索やファイル操作などの道具を使って実世界の調べ物課題を解く能力を測るGAIAでは、37.86から69.90へと大幅な伸びを示しています。また、ターミナル上で実際にコマンドを実行して作業を完了できるかを評価するTerminal-Bench 2.1においても、40.45から59.55へと大きく数値を伸ばしています。
パラメータ規模が約3倍大きいQwen3.8-27Bとの比較では、AutomationBenchにおいて36.67で同等のスコアを記録し、AIDABenchでも65.31と、Qwen3.8-27Bの65.01をわずかに上回っています。一方で、NL2Repoにおいては41.36にとどまり、Qwen3.8-27Bの44.60には及んでいません。特定のリポジトリ生成系タスクなどでは大規模モデルに対して劣る面があるものの、エージェントタスクやデータ分析の領域では27B級のモデルに対抗しうるスコアを示しています。
さらにモデルカードでは、ループ回数を変化させた検証結果も示されています。標準設定の2ループから3〜4ループへと反復回数を増やすことで、競技プログラミングの新作問題でコーディング精度を測るLiveCodeBench V6やAIDABenchのデータ可視化タスクなどにおいて、さらなるスコアの向上が確認されたと報告されています。
得意なこと・想定用途
SenseNova-Loop-9Bは、テキストと画像の両方を入力として受け取り、テキストを生成するマルチモーダルモデルです。対応言語として英語と中国語がタグ付けされており、最大512Kトークンという非常に長いコンテキスト長を活かした多様なタスクへの適用が想定されています。
モデルカードでは、本モデルの得意分野として以下のタスクが挙げられています。
- エージェントタスクとツール利用: 検索や外部ツールの呼び出し、コマンドライン上での端末操作などを伴う複雑なワークフローに適しています。調査タスクや端末操作タスクのベンチマークにおいて高い性能を発揮しています。
- データ分析と可視化: 表形式データなどの解析やデータ可視化タスクに対応しており、分析系の評価指標でも高い適性を示しています。
- コーディングと設計: コード生成をはじめ、SVGやWebサイトの構築、3Dシーンの設計、ポスターレイアウトといった視覚的・構造的なコンテンツ作成の事例が紹介されています。
- 長文脈の理解: 最大512Kトークンの文脈長に対応しており、大量のドキュメントやコードベース、長大な対話履歴を扱うマルチステップ処理に向いています。
一方で、公開元はモデル規模や開発期間に起因する既知の制限事項(Known Limitations)として、以下の課題を挙げています。
- 複雑な指示への追従: 多数の複雑なツール定義や複数の制約条件が同時に与えられた場合、要件を誤解したり見落としたりすることがあります。
- コーディングおよびエージェントタスクの安定性: 複数段階にわたる長期的なタスクやコーディングにおいて、出力の一貫性が損なわれる場合があります。追加のステップを踏むことで誤りを自己修正できる場合もありますが、複雑な長期タスクの遂行能力には依然として改善の余地があるとされています。
- 高度なWebコンテンツの生成: 複雑な3Dシーンやアニメーションを含むリッチなWebサイトを構築する場合、1回の指示(シングルターン)ですべてを完結させることが難しく、ユーザーからのフィードバックを受けて2〜3回の修正を繰り返す必要があります。
動作環境
動作環境の目安(Local Model Watch 算出)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4060 / 3060 Ti など 8GB | Q5_K_M | 6.2GB | 7.5GB |
| RTX 4070 / 3060 12GB など 12GB | Q8_0 | 9.1GB | 11.0GB |
| RTX 4090 / 3090 など 24GB | BF16 | 17.2GB | 20.6GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp でそのまま動かせます。
GGUF形式で配布されているため、変換を待たずに手元で読み込めます。
ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
当サイトでの実測
当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。
実測から分かったこと
Sensenova-Loop-9B-GGUFをQ4_K_M量子化でCPUのみを用いて動かそうと試みましたが、現在のllama.cppのバージョンでは未知のモデルアーキテクチャとして認識されてしまい、読み込みに失敗しました。学習時の最大文脈長が524288トークンと非常に大きな仕様を持つモデルですが、手元の環境では実行すらできないという結果に終わっています。今後のllama.cpp側の対応を待つ必要がある状態です。
GGUFファイルの中身
対象: SenseNova-Loop-9B-Q4_K_M.gguf(5.42GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。
| 項目 | 値 |
|---|---|
| アーキテクチャ(GGUF上の名前) | sensenova_loop |
| 学習時の最大文脈長 | 524,288トークン |
| 層の数 | 57 |
| 語彙数 | 248,320 |
| チャットテンプレート | 同梱(ツール呼び出しの記述あり・思考の切り替えの記述あり) |
| imatrix | ファイルに記録なし |
| 重みの型の内訳(パラメータ数の割合) | Q4_K 73.9% / Q6_K 26.1% / F32 0.0% |
| 平均のビット数 | 5.05ビット/重み |
| 埋め込み層 / 出力層の型 | Q4_K / Q6_K |
ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。
CPUだけで動かした結果
llama.cpp b12418 では読み込めませんでした(アーキテクチャ sensenova_loop が未登録)。対応が入ったら改めて測ります。
条件: Neoverse-N1 の3スレッド・GPUなし・llama.cpp b12418・sensenova/SenseNova-Loop-9B-GGUF の Q4_K_M(5.42GB)・2026-11-19に測定しました。
入手方法
SenseNova-Loop-9BのGGUF版は、Hugging Faceの sensenova/SenseNova-Loop-9B-GGUF リポジトリにて公開されています。ライセンスはApache-2.0が適用されており、ゲート付き(gated)モデルではないため、事前の利用申請や同意手続きを必要とせず、誰でも直接ウェイトをダウンロードして利用できます。
GGUF形式としては、以下のウェイトが提供されています。
- BF16
- Q8_0
- Q5_K_M
- Q4_K_M
なお、本モデルは独自のループ構造およびmHC(manifold-constrained hyper-connections)を採用しているため、通常のllama.cppではなく、専用の対応コードを含むフォークリポジトリを利用する必要があります。公開元からは、OpenSenseNova/llama.cppをビルドして利用することが案内されています。
ビルド完了後、Q4_K_M量子化ウェイトを読み込んでサーバを起動するコマンド例は以下の通りです。
llama serve -hf sensenova/SenseNova-Loop-9B-GGUF:Q4_K_M \
-ngl 99 -c 4096 --port 8000
GGUF形式以外にも、Hugging Face上では元モデルとなるSafetensors形式のBF16ウェイト(sensenova/SenseNova-Loop-9B)や、4ビットのAWQ形式ウェイト(sensenova/SenseNova-Loop-9B-AWQ)が公式に配布されています。また、推論環境としてはTransformers(カスタムコードを読み込むため trust_remote_code=True が必須)をはじめ、LightLLM、専用プルリクエストのブランチを用いたSGLangやvLLMによる実行例もモデルカードにて案内されています。
関連記事
次に読むなら
- GPUのVRAMから探す(このモデルは8GBの階層から動きます) → 8GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → SenseNova-Loop 系統のまとめ(記事2本・変換版1件)
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama
- 入手できる形式と、表に出てくる Q5_K_M・Q8_0 の意味を知る → GGUF形式の解説と対応モデル / 量子化・モデル形式の用語集
- 同じ用途の他のモデルを探す → VLM・マルチモーダルのモデル一覧
出典
更新履歴
- 2026-11-19: 当サイトでの実測(GGUFファイルの中身)を追加しました。

