「SingVL_S1_4B」画像入力対応マルチモーダル判断モデル:必要VRAM 4GB〜・GGUF版あり

「SingVL_S1_4B」画像入力対応マルチモーダル判断モデル:必要VRAM 4GB〜・GGUF版あり

基本情報

項目 内容
リポジトリ inclusionAI/SingVL_S1_4B
まとめページ SingVL-S1 のまとめ(記事2本)
公開元のまとめ inclusionAI(Ant Group) のモデルとライセンスのまとめ
公開日 2026-11-11
配布形式 safetensors
出典の種類 公開元の一次情報(公式HuggingFaceリポジトリが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

inclusionAIが公開した inclusionAI/SingVL_S1_4B(Sing VL S1)は、Qwen3.5をベースにしたマルチモーダルの「判断(decision)モデル」です。テキストまたはJSONと最大4枚の画像に対して名前付きの質問に答え、与えた選択肢をTransformersの1回のforward passでスコアリングします。チャットで文章を生成するモデルではなく、分類・判定・採点の部品として使う用途が想定されています。

出力は3種類です。

  • Choice: 選択肢を選び、各候補の確率を返します
  • Noul: yes/noの命題が真である確率を返します
  • Score: 2〜10段階のレベルについて、各確率と期待レベルを返します

スペック

  • ベース: Qwen3.5(アーキテクチャは Qwen3_5ForConditionalGeneration)
  • タスク形式: image-text-to-text
  • 入力画像: 1リクエストあたり最大4枚
  • 入力上限: 質問ごとにテキストのみで65,536トークン、画像を含む場合は10,000トークン
  • ライブラリ: transformers(safetensors)

性能

モデルカードに載っているPublic Decision Index 0.3の比較表です。数値は公開元の自己申告であり、第三者による検証ではありません。

→ 横にスクロールできます

Panel Sing VL S1 TypeSafe Jev 1.14 StartLux-Decision v1.1 4B Perplexity Decider Flash v1.2 (4B)
Text 69.76 60.70 67.8 60.1
Vision 73.94 — 67.90 72.5

この表では、TextもVisionも比較対象の中でSing VL S1が最高値です。Textは2番手のStartLux-Decision v1.1 4B(67.8)に1.96点差で、他の2モデルには9点前後の差があります。Visionは73.94で、Perplexity Decider Flash v1.2 (4B)の72.5に対して1.44点差と僅差です。TypeSafe Jev 1.14のVisionは「—」で、比較できません。なお、Textの69.76はカードのPublic Text Index表の「Skill」列の総合値と一致します(同表のNon-Skill列は77.26)。カード本文の抜粋にはSkill/Non-Skillの定義が無いため、違いは説明できません。

次に、Public Text(43データセット)のうち、主な項目だけを抜粋します。

Dataset Original metric Non-Skill Skill
BFCL Case exact accuracy 96.81 95.70
MMLU † Accuracy 82.93 77.24
GPQA Diamond Accuracy 53.06 37.41
ARC-Challenge † Accuracy 96.25 95.00
WinoGrande Accuracy 89.82 79.64
HellaSwag Accuracy 96.48 95.31
GSM8K Accuracy 73.84 68.68
HLE Accuracy 12.77 0.00
MMLU-Pro Accuracy 68.40 64.46
BBH Accuracy 88.61 83.49

(†はDecision Indexが別集計とし、Text Indexから除外しているデータセットです。)

BFCLは96.81/95.70と高く、ツールの選択と引数の組み立てを選択肢から判定する用途に向きそうです。HellaSwagやARC-Challengeといった常識推論系も95以上で高水準ですが、HellaSwagは上位モデルでは飽和している指標です。一方、GPQA Diamondは53.06/37.41、HLEは12.77/0.00と、難問系では低めです(HLEは数十%でも高い部類とされる指標です)。GSM8Kも73.84/68.68にとどまります。

Visionでは、InfographicVQAが96.31/95.08、KIE(CORD+FUNSD)が95.82/93.12と高い一方、R-Bench-Mは49.77/39.72、Moderation(Hateful Memes)のSkill列は43.28にとどまります。Public Vision Indexは73.94です。

Skill列よりNon-Skill列のほうが全体的に高い点にも注意してください。どちらを使うかで見え方が変わります。

得意なこと・想定用途

Sing VL S1は、文章を自由に生成するモデルではなく、あらかじめ用意した選択肢や段階に対する確率を返す判断用のモデルです。モデルカードによれば、用途は次の3つの形式に整理されています。

  • Choice: 複数の候補から1つを選ぶ分類・選択
  • Noul: yes/noの命題が真である確率の判定
  • Score: 2〜10段階のレベルでの採点(各レベルの確率と期待レベルが得られます)

テキスト、JSON、最大4枚の画像を入力にでき、画像付きでも同じ質問形式を使えます。カードには「どちらの画像が赤いか」を選ばせる例が載っています。

ベンチマークの表(公開元の自己申告)では、BFCL、InfographicVQA、KIE(CORD+FUNSD)で高い値が出ています。一方、GPQA DiamondやHLEなどの難問系、R-Bench-Mは低めです。したがって、定型的な判定・分類・採点の部品としては有望ですが、難問の推論を任せる用途には向かない可能性があります。

タグには decision-model、typed-decisions、multimodal が付いています。多言語対応の範囲は、資料からは読み取れません。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 4.5B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) Q6_K 3.2GB 3.9GB
RTX 4060 / 3060 Ti など 8GB Q8_0 4.2GB 5.0GB
RTX 4070 / 3060 12GB など 12GB F16 7.8GB 9.4GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 mradermacher/SingVL_S1_4B-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、mradermacher/SingVL_S1_4B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

量子化の圧縮率: Q6_K は実測 6.06 bit/weight で、元の16bitの重みの約38%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルにはライセンスの表示が無く、利用の許諾を確認できません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 4〜15B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
tencent/Youtu-Parsing-Omni 5.3B 12GB youtu-parsing 「Youtu-Parsing-Omni」オムニモーダル解析モデル:必要VRAM 12GB〜(2026-11-17)
nvidia/Muse-Spark-Open-816B-A42B-DFlash2 4.4B 12GB nvidia-open-model-agreement-license 「Muse-Spark-Open-816B-A42B-DFlash2」VLMモデル:必要VRAM 12GB〜(2026-11-17)
tencent/WeVisOne-VL-4B 4.8B 4GB apache-2.0 Tencent、物体認識と画素処理を統合したビジョン言語モデル「WeVisOne-VL」公開(2026-11-17)
inclusionAI/ZwZ2-9B-GGUF 9.4B 8GB apache-2.0 「ZwZ2-9B-GGUF」空間知覚を強化した視覚言語モデル:必要VRAM 8GB〜(2026-11-17)
inclusionAI/ZwZ2-4B-GGUF 4.5B 4GB apache-2.0 「ZwZ2-4B-GGUF」複数領域の視覚推論を行う視覚言語モデル:必要VRAM 4GB〜(2026-11-17)

入手方法

  • 配布形式: safetensors(Transformers用)
  • 入手にライセンス同意は不要です(ゲートなし)
  • 対応エンジン: カードが案内しているのは、付属の推論コード(SingVLS1 クラスを使うPython API)と、FastAPIによるHTTPサーバー(serve.py)です。GGUFやOllama向けの配布は資料にありません

リポジトリのルートから inference/ に入り、依存関係を入れます。Python 3.12と、お使いのハードウェアに合ったPyTorch・torchvisionが必要です。

cd inference
python -m pip install -r requirements.txt

Pythonからは次のように読み込みます。

from model import SingVLS1

model = SingVLS1("..", device="cuda:0")

HTTP APIとして使う場合は、次のコマンドでサーバーを起動します。

python serve.py --model.. --port 8173 --image-root./examples

起動後は POST http://127.0.0.1:8173/v1/systemone にJSONを送ります。画像は data_url、base64、サーバー側の path のいずれかで渡せます。

カードには、Decision Index kit を使って自分の環境で同じ評価を再現し、結果を提出する手順も書かれています。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 mradermacher GGUF mradermacher/SingVL_S1_4B-GGUF Q6_K 3.9GB(4GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • mradermacher/SingVL_S1_4B-GGUF の量子化: Q2_K 1.8GB / Q3_K_S 1.9GB / Q3_K_M 2.1GB / Q3_K_L 2.3GB / IQ4_XS 2.4GB / Q4_K_S 2.4GB / Q4_K_M 2.5GB / Q5_K_S 2.8GB / Q5_K_M 2.9GB / Q6_K 3.2GB / Q8_0 4.2GB / F16 7.8GB

このほか、上記以外の投稿者による変換版が 1 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: mradermacher/SingVL_S1_4B-GGUF
  • 2026-11-17: 動作環境の表を mradermacher/SingVL_S1_4B-GGUF の実ファイルサイズで更新しました。
  • 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。