3値ウェイトモデルのテスト版「prism-ml/Ternary-Bonsai-2-27B-gguf-dev」公開

3値ウェイトモデルのテスト版「prism-ml/Ternary-Bonsai-2-27B-gguf-dev」公開

基本情報

項目 内容
リポジトリ prism-ml/Ternary-Bonsai-2-27B-gguf-dev
公開日 2026-09-17
ライセンス apache-2.0
配布形式 GGUF
出典の種類 未確認(一次情報で裏付けできていない)(公式リポジトリではなく、サードパーティの量子化版のため一次情報ではない)

収集・肉付けの時点で当サイトのコードが確定させた値です。日付はJST。

概要

Prism MLより、Qwen3.8-27Bをベースにした3値（Ternary）ウェイトモデル「Bonsai 2 27B」のGGUF形式における開発・テスト用ビルド「prism-ml/Ternary-Bonsai-2-27B-gguf-dev」が公開されたと報告されています。

ただし、本ニュースは公式に確認が取れておらず、現時点では未確認の情報であるとされています。本ビルドは、llama.cppにおけるQ2_0パッキングのカーネル開発やテスト、将来的な本家（アップストリーム）への統合に向けた検証を目的として用意されたものと報告されています。

スペック

  • パラメータ数：27B（元モデル）
  • アーキテクチャ：Qwen3_5ForConditionalGeneration（元モデル）
  • コンテキスト長：262,144トークン（元モデル）

性能

本モデルのベースとなっている元モデル「Qwen3.8-27B」の性能について、公開元のモデルカードに記載されている比較表は以下の通りです。なお、比較対象を4つに絞って掲載しています。

Text Performance

→ 横にスクロールできます

Qwen3.8-27B Qwen3.6-27B Qwen3.7-Plus Opus4.6 Max
Coding
Agentic terminal coding Terminal Bench 2.1 (Terminus) 73.0 63.4 64.0 78.2
Agentic coding SWE-bench Pro 61.7 53.5 57.6 53.4
Repo-level code generation NL2Repo-Bench 42.3 36.2 41.1 47.6
Agentic coding DeepSWE 1.1 42.2 13.3 14.2 —
Software engineering QwenSWEBench 79.0 49.3 59.2 63.8
Agent
Long-horizon office work CoWorkBench 70.7 61.0 65.1 68.2
Professional job tasks JobBench 33.4 21.8 27.6 —
Frontier agentic tasks Agents’ Last Exam Pass@1 20.4 Score 42.9 Pass@1 10.6 Score 27.3 Pass@1 13.2 Score 33.6 —
General
Instruction following IFBench 79.5 69.1 79.1 62.5
Scientific reasoning GPQA Diamond 89.2 87.8 90.3 91.3
Multidisciplinary reasoning HLE 30.8 24.0 34.7 40.0
Competitive coding LiveCodeBench v6 90.3 83.9 89.6 88.8

VL Performance

→ 横にスクロールできます

Qwen3.8-27B Qwen3.6-27B Qwen3.7-Plus Opus4.6 Max
Agentic Multimodal Intelligence
Computer use OSWorld-Verified 84.3 63.9 73.3 72.7
Browser use WebArena-Verified 64.8 48.8 55.3 —
Mobile use AndroidWorld 81.9 70.3 81.0 62.0
Application recreation RecreationBench 47.1 29.8 30.2 —
Multimodal tool use ClawEval-MM Pass@3 57.4 Average 56.9 Pass@3 42.6 Average 50.4 Pass@3 57.4 Average 60.1 Pass@3 52.5 Average 54.7
Multimodal software engineering SWE-MM 38.6 25.7 30.0 27.1
Visual web development Vision2Web 62.9 45.0 42.1 —
General Multimodal Intelligence
Visual math problem solving MathVision Without CI 90.0 With CI 94.6 Without CI 85.1 Without CI 90.3 Without CI 65.5
General visual reasoning BabyVision Without CI 65.7 With CI 85.6 Without CI 28.9 Without CI 64.7 With CI 70.4 Without CI 12.6
Scientific chart analysis CharXiv (RQ) Without CI 83.7 With CI 90.2 Without CI 78.4 Without CI 85.8 With CI 85.9 Without CI 66.0
Document intelligence OmniDocBench 1.5 91.1 89.4 91.4 86.6
Real-world perception RealWorldQA 85.9 84.1 86.9 73.9
Embodied intelligence ERQA 65.5 62.5 69.8 40.8

元モデルの公開元が自ら公表した測定結果によると、Qwen3.8-27Bは特にコーディングやエージェントタスクにおいて高い性能を示していると報告されています。実在のGitHub issueの解決能力を測る「SWE-bench Pro」では61.7、端末操作のタスクを測る「Terminal-Bench」では73.0を記録しており、一部の項目で「Opus4.6 Max」や「Qwen3.7-Plus」を上回る実力を見せているとされます。一方で、専門家レベルの超難問を扱う「HLE」では30.8に留まり、最高峰モデルである「Opus4.6 Max」の40.0には及ばないなど、一部の超高難度タスクにおいては一歩譲る面もあるとされています。また、科学の難問を測る「GPQA Diamond」では89.2と、上位モデルに迫る高い科学的推論能力が示されています。

得意なこと・想定用途

元モデルである「Qwen3.8-27B」は、コーディング、数学、長文読解、多言語対応、エージェントタスク、そして画像や動画を含むマルチモーダルな視覚理解（Vision-Language）を得意とすると報告されています。

しかし、今回公開された「Ternary-Bonsai-2-27B-gguf-dev」自体は、通常の対話や実務での利用を想定したものではありません。llama.cppへのアップストリーム統合に向けたカーネル開発や動作検証を目的として公開された開発用ビルドであると報告されています。

類似モデルとの違い

本モデルは、すでに公開されている通常利用向けのGGUF版 三値量子化された27Bモデル「Bonsai 2 27B GGUF」公開 とは異なり、llama.cppのアップストリームサポートが完了するまでのテスト用ビルドとされています。通常のllama.cppで実行すると警告なしで意味不明な出力が生成されるため、Prism MLのフォーク版llama.cppでの動作が前提となる点が異なります。また、Apple Silicon環境向けに最適化された Qwen3.8-27Bベースの3値ウェイトモデル「Bonsai 2 27B」MLX 2bit版公開 とも、想定プラットフォームや動作要件が異なると報告されています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 27.8B(元モデル Qwen/Qwen3.8-27B の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4070 / 3060 12GB など 12GB Q2_0 7.1GB 8.5GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
Edge0/Edge0-35B-A3B-preview 34.7B 80GB apache-2.0 Edge0、スマホクラスで動く35BのMoEモデル「Edge0-35B-A3B-preview」公開(2026-09-11)
bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF 26.5B 12GB apache-2.0 Pantheon-Reasoning-26B-A4B-1.1-V2 GGUF版が公開、ローカル実行向け量子化を提供(2026-09-11)
nex-agi/Nex-N2.5-mini 35.1B 16GB apache-2.0 Nex-AGI、長期タスク向けオープンウェイトモデル「Nex-N2.5-mini」を公開(2026-09-09)
IFM/K2-Horizon-MoVA-36B-A4B-GGUF 37.4B — apache-2.0 IFM、K2-Horizon-MoVA-36B-A4BのGGUF版を公開：llama.cppに対応(2026-09-06)

入手方法

  • 配布形式：GGUF

本モデルはテスト用ビルドであり、実行にはPrism MLが提供する llama.cppフォーク版 が必要とされています。

通常利用を目的とする場合は、Ternary-Bonsai-2-27B-gguf の利用、またはApple Silicon環境での Ternary-Bonsai-2-27B-mlx-2bit の利用が推奨されています。各バックエンドのセットアップ手順は Bonsai-demo にて案内されています。

関連記事

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。

新モデルGGUF,llama.cpp,prism-ml,Qwen3.8,Qwen3.8-27B,Ternary-Bonsai-2-27B-gguf-dev,テキスト生成,未確認