Salience-27B-R6のGGUF量子化版公開、思考最適化された27Bマルチモーダルモデル

2026年9月18日

Salience-27B-R6のGGUF量子化版公開、思考最適化された27Bマルチモーダルモデル

基本情報

項目 内容
リポジトリ bartowski/vectionlabs_Salience-27B-R6-GGUF
公開日 2026-09-14
ライセンス apache-2.0
配布形式 GGUF
出典の種類 公開元の一次情報(公式HFリポジトリの一次情報)

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

bartowski氏より、Vection Labsが開発した「Salience-27B-R6」のGGUF量子化版モデル「bartowski/vectionlabs_Salience-27B-R6-GGUF」が公開された。

本モデルは、Qwen3.8をベースにした全パラメータ活性型の27B Denseモデルであり、テキストに加えて画像や動画の入力にも対応している。思考能力を維持しつつ過剰な思考トークンの消費を抑える「Reasoning economy」を重みレベルで実装しており、特に長期間のエージェントループ処理における効率化が図られている。

スペック

  • パラメータ数: 27.8B (Dense)
  • コンテキスト長: 1,048,576 トークン (YaRN + Dual Chunk Attention)
  • ライセンス: apache-2.0

性能

元モデルのモデルカードによれば、公式なベンチマークスイートによる測定結果は公開されていない(未計測)。

一方でモデルの設計方針として、前バージョン(R5)と比較して、同じ結論に達するための思考チェーン(Reasoning chain)を意図的に短縮する最適化が施されている。これにより、多段階のツール呼び出しを伴うエージェントワークロードにおいて作業全体の完了時間を大きく削減できるとされる。ただし、思考を短くしたこととのトレードオフとして、選択式の知識ベンチマーク等では前バージョンよりわずかにスコアが落ちる可能性があると説明されている。

得意なこと・想定用途

  • ソフトウェアエンジニアリングおよびコーディングエージェント(コード生成、デバッグ、リポジトリ全体に及ぶ変更等)。
  • ターミナル操作およびツール連携(マルチステップでのコマンド計画、実行結果の検証、エラーからの復旧)。
  • マルチモーダル入力を活かした技術解析(構成図、UIのスクリーンショット、スタックトレース画像、白板写真等の読解)。
  • MTP(Multi-Token Prediction)ヘッドを内蔵しており、対応環境でのセルフスペキュラティブデコーディングによる高速推論が可能。

類似モデルとの違い

同じベースモデル(Qwen3.8-27B)派生の記事として、トークン数の削減と応答速度向上を図った Qwen3.8-27Bの高速化ファインチューン「Signal-3.8-27B-GGUF」公開 や、エージェント向けの軽量化を行った Qwopus3.8-27B-Flash GGUF版公開、エージェント向け軽量化モデル が存在する。

今回のSalience-27B-R6は、MoE構成ではなく全パラメータが常時動作する27B Dense構成を採用している点や、設定変更ではなくモデルの重み自体に短文思考の最適化を組み込み、マルチモーダル入力(画像・動画)と100万トークンを超える超長文コンテキストに標準対応している点が異なる。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 27.8B(元モデル vectionlabs/Salience-27B-R6 の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4070 / 3060 12GB など 12GB IQ2_M 9.8GB 11.8GB
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB Q3_K_L 13.2GB 15.8GB
RTX 4090 / 3090 など 24GB Q5_K_M 19.5GB 23.4GB
RTX 5090 など 32GB Q6_K_L 23.2GB 27.9GB
RTX 6000 Ada / A6000 など 48GB Q8_0 27.1GB 32.5GB
A100 / H100 80GB クラス BF16 50.9GB 61.1GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

入手方法

配布形式はGGUFで、Hugging Faceよりダウンロード可能である。

llama.cpp環境では以下のコマンドでインストールおよびサーバー起動を行える:

curl -LsSf https://llama.app/install.sh | sh
llama-server -hf bartowski/vectionlabs_Salience-27B-R6-GGUF:Q4_K_M

Hugging Face CLIを用いた個別ダウンロードのコマンド例:

hf download bartowski/vectionlabs_Salience-27B-R6-GGUF --include "vectionlabs_Salience-27B-R6-Q4_K_M.gguf" --local-dir./

本モデルはllama.cppのほか、LM Studio、koboldcpp、ramalama、Jan AI、Text Generation Web UI、LoLLMs、Atomic Chat等に対応している。

画像認識を利用する場合は、同梱されているマルチモーダルプロジェクターファイル(mmproj-vectionlabs_Salience-27B-R6-f16.gguf または bf16)の指定(--mmproj)が必要となる。また、MTPによる高速化を利用する際はコマンドラインに --spec-type draft-mtp を付与する。

関連記事

出典