「Rumble-2-Flash-GGUF」45言語対応の音声認識モデル:必要VRAM 4GB〜・配布ファイル一覧

「Rumble-2-Flash-GGUF」45言語対応の音声認識モデル:必要VRAM 4GB〜・配布ファイル一覧

作例は配布元のモデルカードで公開されています。

基本情報

項目 内容
リポジトリ AtomicChat/Rumble-2-Flash-GGUF
公開日 2026-11-19
ライセンス apache-2.0
配布形式 GGUF
出典の種類 未確認(一次情報で裏付けできていない)(非公式のGGUF変換版であり、一次情報ではないため)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

AtomicChatのチームによって、音声認識モデル「Rumble-2-Flash」のGGUF形式のファイルが公開されたと報告されています。このモデルは、音声データを入力として受け取り、その内容をテキストとして書き起こす(音声認識)ためのものです。なお、現時点ではこの情報は公式に確認されていません。

本モデルは、ローカル環境やオフラインでオープンウェイトモデルを実行するためのアプリ「Atomic Chat」を開発しているチームによって作成されました。元となるモデルはReson8/Rumble-2-Flashであり、llama.cppでの利用を目的として量子化されています。モデルは18層のオーディオエンコーダーと14層のデコーダーで構成されています。

スペック

資料に記載されているスペックは以下の通りです。

  • アーキテクチャ: 18層のオーディオエンコーダーおよび14層のデコーダー
  • ベースモデル: Qwen3-ASR-0.6B
  • パラメータ数: 0.5B
  • 対応言語: 45言語
  • ライセンス: Apache 2.0
  • 配布形式: GGUF

性能・品質

モデルカードには、量子化レベルの違いによる性能の比較データが示されています。評価には、LibriSpeech、Multilingual LibriSpeech (MLS)、FLEURSといったデータセットが用いられています。性能指標としては、書き起こしの単語単位の誤り率であるWER(低いほど良い)および、文字単位の誤り率であるCER(低いほど良い)が使用されています。

以下の表は、各量子化ファイルにおける性能の比較を示したものです。なお、これらの数値はllama.cppに適用された修正(fix)を用いて測定された結果です。

→ 横にスクロールできます

File GB on disk bpw LS clean LS other MLS DE MLS ES MLS FR FLEURS ZH
Rumble-2-Flash-BF16.gguf 0.65 16.0 2.09 4.70 6.85 4.57 6.57 10.38
Rumble-2-Flash-Q8_0.gguf 0.35 8.50 2.11 4.70 6.79 4.63 6.68 10.31
Rumble-2-Flash-AD-Q5_K_M.gguf 0.28 6.94 2.09 4.78 6.83 4.51 6.60 10.52
stock Q6_K (baseline, not shipped) 0.27 6.56 2.20 4.64 6.84 4.51 6.66 10.44
our AD-Q4_K_M (tried, not shipped) 0.26 6.48 2.22 4.81 7.05 4.74 6.88 10.54
stock Q5_K_M (baseline, not shipped) 0.24 5.92 2.14 4.89 7.00 4.57 6.87 10.76
stock Q4_K_M (baseline, not shipped) 0.22 5.32 2.42 5.21 7.62 5.14 7.47 11.99

比較の結果、推奨されているAD-Q5_K_Mは、多くのテストセットにおいてBF16(元の精度)の範囲内、あるいは極めて近い性能を維持していることがわかります。一方で、より高い圧縮率を目指したQ4_K_Mなどの量子化では、すべてのテストセットにおいて精度が低下する傾向にあります。特にMandarin(中国語)のCERにおいては、Q4_K_Mでは最大で1.6ポイントの低下が報告されています。

また、llama.cppの標準的な実装(stock)では、音声クリップの末尾のゼロパディングを音としてモデルに渡してしまうため、短いクリップでは実際には言っていない言葉が書き起こされてしまうという問題が報告されています。本資料の数値は、この問題を解決するための修正を適用した上でのものです。この修正により、llama.cppはTransformersのリファレンスモデルとノイズの範囲内で一致する性能を示すようになるとされています。

得意なこと・想定用途

本モデルは、音声データをテキストに変換する音声認識(ASR)に特化したモデルです。45もの言語に対応しており、幅広い言語環境での利用が想定されています。具体的には、以下のような用途に適しています。

  • 多言語の音声書き起こし
  • 音声データのテキスト化
  • ローカル環境でのオフライン音声認識

また、llama.cppでの動作を前提としており、音声の書き起こしオプションとして、数字を数字の形式で出力するdigits設定や、音声に含まれる「えーと」や「あの」といったフィラー(filler)を保持するかどうか、また、繰り返された言葉をまとめるかといった、詳細な書き起こし制御が可能です。これらは、chat_template_kwargsを通じて設定できます。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 509M(元モデル Reson8/Rumble-2-Flash の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) BF16 0.6GB 0.7GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

公開元の配布形式は GGUF です。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式とライセンス表記から当サイトのコードが組み立てた判定です。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
ibm-granite/granite-speech-5.0-2b-ONNX 2.3B 8GB apache-2.0 「granite-speech-5.0-2b-ONNX」ブラウザ動作の音声認識モデル:必要VRAM 8GB〜(2026-11-17)
ggml-org/higgs-audio-v3-stt-GGUF 2.7B 4GB apache-2.0 「higgs-audio-v3-stt-GGUF」音声認識モデル:必要VRAM 4GB〜・配布ファイル一覧(2026-11-17)
FermionResearch/Phonon-2 627M 4GB cc-by-4.0 「Phonon-2」音声認識モデル:必要VRAM 4GB〜(2026-09-30)

配布ファイル

AtomicChat/Rumble-2-Flash-GGUF で配布されている重みファイルを、Hugging FaceのAPIから当サイトが並べたものです。サイズは実ファイルの値です。

ファイル サイズ
mmproj-Rumble-2-Flash-F16.gguf 379MB
mmproj-Rumble-2-Flash-Q8_0.gguf 214MB
Rumble-2-Flash-AD-Q5_K_M.gguf 283MB
Rumble-2-Flash-BF16.gguf 648MB
Rumble-2-Flash-Q8_0.gguf 346MB

入手方法

本モデルは、GGUF形式で配布されています。利用にあたっては、モデル本体のファイル(.gguf)と、オーディオエンコーダーであるmmprojファイルの2つが必要です。推奨される組み合わせは、Rumble-2-Flash-AD-Q5_K_M.ggufとmmproj-Rumble-2-Flash-Q8_0.ggufのペアです。

llama.cppを使用して、以下のようなコマンドで実行することが可能です。

llama-server -m Rumble-2-Flash-AD-Q5_K_M.gguf --mmproj mmproj-Rumble-2-Flash-Q8_0.gguf -ngl 99

また、コマンドラインインターフェース(llama-mtmd-cli)を使用する場合は、埋め込まれたテンプレートを正しく適用するために--jinjaフラグを付与して実行することが推奨されています。

llama-mtmd-cli -m Rumble-2-Flash-AD-Q5_K_M.gguf --mmproj mmproj-Rumble-2-Flash-Q8_0.gguf --jinja --audio audio.wav -p "lang:en" --temp 0

リポジトリはHugging Face上のAtomicChat/Rumble-2-Flash-GGUFで公開されています。

関連記事

次に読むなら

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。