「SenseNova-Loop-9B-AWQ」512Kコンテキストのマルチモーダルモデル:GGUF版あり

2026年11月19日

「SenseNova-Loop-9B-AWQ」512Kコンテキストのマルチモーダルモデル:GGUF版あり

基本情報

項目 内容
リポジトリ sensenova/SenseNova-Loop-9B-AWQ
まとめページ SenseNova-Loop のまとめ(記事2本)
公開日 2026-11-18
ライセンス apache-2.0
配布形式 safetensors
出典の種類 公開元の一次情報(公式HFリポジトリで公開、一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

当サイトで確かめたこと

  • Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

詳しい値と条件は、下の「当サイトでの実測」の節にあります。

概要

sensenova/SenseNova-Loop-9B の公式4ビットAWQ量子化版モデルである sensenova/SenseNova-Loop-9B-AWQ が公開されました。本モデルはテキストおよび画像の入力に対応し、テキストを生成するマルチモーダルモデルです。

層の重みを再利用するループ構造(looped architecture)とマニフォールド制約ハイパーコネクション(mHC)を組み合わせることで、コンパクトなパラメータ規模でありながら計算の深さを拡大しています。複雑な推論、コーディング、ツール利用、エージェントタスク、データ分析などの用途に向けて設計されています。sensenova/SenseNova-Loop-9B-AWQ

スペック

  • パラメータ数:約9B(実パラメータ数約9B、推論時の計算量換算で約14.6B相当)
  • アーキテクチャ:ループ型マルチモーダルデコーダー(固有デコーダー層数32、1回の順伝播あたり56層分を実行、2ストリームmHC、ハイブリッドアテンション)
  • コンテキスト長:512Kトークン

性能

以下は、モデルカードに記載された構成表および元モデル(BF16版)の性能情報です。量子化版においては量子化に伴う微小な性能変化が生じる可能性があります。

モデル構成の仕様表

モデルカードに記載されている構成およびmHCの設定は以下の通りです。

Property SenseNova-Loop-9B
Architecture Autoregressive multimodal decoder; looped block with two-stream mHC
Parameter scale Approximately 9B total parameters; approximately 14.6B inference-equivalent parameters
Input / output Text and images / text
Distinct decoder layers 32
Looped layer range / passes [4, 28) / 2, with shared weights
Decoder layer executions 56 per forward pass
mHC residual streams 2
Context length 512K tokens
Weight precision BF16 backbone; FP32 mHC routing parameters
Configuration Value
Distinct decoder layers / executions 32 / 56
Looped layer range / passes [4, 28) / 2
Hidden dimension 4,096
Feed-forward dimension 12,288
Vocabulary size 248,320
Full-attention heads / KV heads 16 / 4
mHC residual streams / Sinkhorn iterations 2 / 20

ベンチマーク評価と他モデルとの比較

モデルカード上の公表値によると、本モデル(Release版)、前バージョン(Preview版)、および他モデルとの評価結果の比較数値は以下の通りです。

  • AutomationBench: SenseNova-Loop-9B Release (36.67) / Preview (14.33) / Qwen3.8-27B (36.67)
  • Terminal-Bench 2.1: SenseNova-Loop-9B Release (59.55) / Preview (40.45)
  • GAIA: SenseNova-Loop-9B Release (69.90) / Preview (37.86)
  • AIDABench: SenseNova-Loop-9B Release (65.31) / Qwen3.8-27B (65.01)
  • NL2Repo: SenseNova-Loop-9B Release (41.36) / Qwen3.8-27B (44.60)
  • BIRD: SenseNova-Loop-9B Release (72.34) / Preview (71.38)

公開元の測定結果によれば、前バージョンのPreviewと比較してすべての評価項目でスコアが向上しています。特にGAIA(検索やファイル操作などの道具を使って実世界の調べ物課題を解く精度)では37.86から69.90へと大きく数値を伸ばしています。また、Terminal-Bench 2.1(ターミナル上で実際にコマンドを実行し作業を最後までやり切る精度)においても40.45から59.55へ向上しており、エージェントタスクでの実行能力が高まっています。

より大きな規模を持つQwen3.8-27Bとの比較においては、AIDABench(65.31対65.01)やAutomationBench(36.67対36.67)で同等以上の性能を示しています。一方で、NL2Repoにおいては41.36となっており、Qwen3.8-27Bの44.60には及ばない結果となっています。タスクの性質によって強みが発揮される範囲が異なる点に留意が必要です。

得意なこと・想定用途

本モデルは、テキストと画像の両方を入力として受け取り、テキストを生成するマルチモーダルモデルです。元モデルである sensenova/SenseNova-Loop-9B の機能を継承しており、最大512Kトークンという長大なコンテキスト長をサポートしています。これにより、非常に長い文脈の理解や、複数ステップを伴うタスクの実行に適しています。

公式のモデルカードによれば、本モデルは主に以下の領域や用途に向けた設計となっています。

  • エージェントタスクおよびデータ分析:端末上での自動コマンド実行やツール操作、データ分析を伴う実務的な課題処理を得意とします。
  • コーディングとツール利用:コードの記述やプログラミング問題の解決、外部ツールの呼び出しを組み込んだタスクに対応します。
  • マルチモーダルコンテンツおよびWebデザイン:入力画像を踏まえた処理に加え、3Dシーンの記述やSVGコードの出力、ポスターやインタラクティブなWebサイトデザインといった視覚的要素を含む生成に対応しています。

一方で、モデルカードには使用上の注意点および現時点での制約事項として以下の点が挙げられています。

  • 複雑な指示の追従:多数のツール定義や複数の制約条件が同時に与えられた場合、要件を正しく認識できなかったり見落としたりする場合があります。
  • 長長期エージェントタスクの一貫性:コーディングやエージェント動作において挙動にばらつきが生じることがあり、ステップ数が多く長期にわたる複雑なタスクを完遂する能力には改善の余地があります。
  • 複雑なWeb生成:高度な3D表現やアニメーションを含むWebコンテンツの生成においては、単一の指示で完成せず、ユーザーとの複数回の対話を重ねて修正を行う必要があります。

入手方法

sensenova/SenseNova-Loop-9B-AWQ は、4ビットAWQ量子化されたSafetensors形式で配布されています。利用規約への同意や申請を必要とするゲート付きモデルではないため、Hugging Faceからそのままダウンロードして利用できます。

本モデルを使用する際は、このAWQレイアウトに対応した推論ランタイムが必要です。推論エンジンである LightLLM でのデプロイに対応しており、リポジトリをダウンロードしたローカルパスを指定して、以下のコマンドを実行することで単一GPUによるAPIサーバーの起動が可能です。

python -m lightllm.server.api_server \
  --model_dir /path/to/SenseNova-Loop-9B-AWQ \
  --model_name sensenova_loop \
  --tp 1 \
  --port 8000 --running_max_req_size 4

リポジトリのルートにはメインモデルの重みが配置されているほか、オプションとして投機的デコーディング機能で利用可能なドラフトモデルの重みが mtp/ ディレクトリ内に配置されています。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、AtomicChat/SenseNova-Loop-9B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。

実測から分かったこと

SenseNova-Loop-9Bは、日本語のトークン効率が非常に高く、同じ1000字の日本語を表現する際にQwen3と比較して少ないトークン数で処理できるという特徴があります。英文に対するトークン数の比率もほぼ1対1となっており、多言語間での文脈の扱いが効率的です。一方で、現時点ではllama.cppのモデルアーキテクチャとして未対応であるため、手元のCPU環境で直接実行することはできませんでした。今後、llama.cpp側でのサポートが進むことで、この高いトークン効率を活かした運用が可能になることが期待されます。

日本語のトークン効率

トークナイザ 日本語1,000字あたりのトークン数 同じ内容の英文との比
このモデル 546 0.99倍
Qwen3 688 1.26倍
Llama 3.2 744 1.36倍
Gemma 3 564 1.03倍
gpt-oss 795 1.45倍
LLM-jp-3 497 0.85倍

Qwen3 のトークナイザより約21%少ないトークンで同じ日本語を表せます。同じ文脈長に入る日本語が約1.26倍になり、生成も1字あたりで速くなります。

sensenova/SenseNova-Loop-9B-AWQ の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。

GGUFファイルの中身

対象: SenseNova-Loop-9B-AD-Q4_K_M.gguf(5.55GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。

項目 値
アーキテクチャ(GGUF上の名前) sensenova_loop
学習時の最大文脈長 524,288トークン
層の数 57
語彙数 248,320
チャットテンプレート 同梱(ツール呼び出しの記述あり・思考の切り替えの記述あり)
imatrix 使用(calib_train.txt・19,368チャンク)
重みの型の内訳(パラメータ数の割合) Q5_K 39.8% / Q4_K 35.7% / Q6_K 12.5% / IQ4_XS 11.1% / その他 0.8%
平均のビット数 5.17ビット/重み
埋め込み層 / 出力層の型 IQ4_XS / Q6_K

ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。

CPUだけで動かした結果

llama.cpp b12418 では読み込めませんでした(アーキテクチャ sensenova_loop が未登録)。対応が入ったら改めて測ります。

条件: Neoverse-N1 の3スレッド・GPUなし・llama.cpp b12418・AtomicChat/SenseNova-Loop-9B-GGUF の Q4_K_M(5.55GB)・2026-11-19に測定しました。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-18 AtomicChat GGUF(imatrix) AtomicChat/SenseNova-Loop-9B-GGUF Q5_K_M 7.7GB(8GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • AtomicChat/SenseNova-Loop-9B-GGUF の量子化: IQ3_S 4.5GB / IQ4_XS 5.4GB / Q4_K_M 5.6GB / Q5_K_M 6.4GB / Q6_K 8.2GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-19: 変換版を「派生版・量子化版」に追記しました: AtomicChat/SenseNova-Loop-9B-GGUF
  • 2026-11-19: 当サイトでの実測(日本語のトークン効率・GGUFファイルの中身)を追加しました。
  • 2026-11-19: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。