「higgs-audio-v3-stt-GGUF」音声認識モデル:必要VRAM 4GB〜・配布ファイル一覧

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | ggml-org/higgs-audio-v3-stt-GGUF |
| 公開日 | 2026-11-16 |
| ライセンス | apache-2.0 |
| 配布形式 | GGUF |
| 出典の種類 | 公開元の一次情報(ggml-org公式リポジトリで裏付けあり) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
音声データを入力してテキストを出力する音声認識(Speech-to-Text: STT)モデル「bosonai/higgs-audio-v3-stt」のGGUFフォーマット版となる「ggml-org/higgs-audio-v3-stt-GGUF」が公開されました。
本モデルは、ggml-orgの自動変換ツールを用いてGGUF形式へ変換されたものです。llama.cppプロジェクト(Pull Request #32329)による音声認識サポートを背景としており、端末から llama serve コマンドを実行してローカルサーバーとして稼働させたり、Llama app経由で手軽に動かしたりすることができます。
スペック
本モデルは量子化・GGUF変換版のため、モデルアーキテクチャや入力仕様は元モデルである「bosonai/higgs-audio-v3-stt」に基づいています。公開資料に記載されているスペックは以下の通りです。
- パラメータ数: 総パラメータ数は2.68Bです。
- アーキテクチャ: エンコーダーにWhisper-Large-v3、デコーダーにQwen3-1.7Bを組み合わせたカスタム構成(HiggsAudio3Model)を採用しています。Whisper-Large-v3のアテンション層はv2段階でファインチューニングされています。
- 入力音声の仕様: 16kHzのモノラルWAV形式に対応しています(サンプリングレートが異なる場合は16kHzへのリサンプリングが必要です)。
- 思考モード: 精度を向上させるための思考モード(Thinking mode)の利用に対応しています。
- ライセンス条件: Apache-2.0ライセンスのもとで公開されています。
性能・品質
本リポジトリ自体にはベンチマークスコアの数値表は掲載されていませんが、元モデル「bosonai/higgs-audio-v3-stt」のモデルカードにおいて、学習データセットの更新内容や品質改善の取り組みが報告されています。
元モデルは2026年6月にチェックポイントが更新されており、ファインチューニング用のデータセットが全面的に刷新されています。具体的には、AMI (IHM)、VoxPopuli (en)、SPGISpeech、LibriSpeech、TED-LIUM、GigaSpeechの公開訓練スプリットに加え、Earnings22の公開訓練スプリット(sanchit-gandhi/earnings22_split)が学習に用いられています。なお、Earnings22については、ESBおよびOpen-ASRのテストセットに含まれる音源から得られたデータ行をあらかじめ除外した上で訓練されています。
また、音声認識タスクで発生しやすい出力のループ現象を抑制するため、従来の単語単位の繰り返し上限設定に加え、フレーズ単位の繰り返しループを自動解消する処理が導入されています。この後処理は決定論的な手法として実装されており、推論結果の安定化に寄与しています。
なお、客観的なベンチマーク評価値について元モデルの公開元は、独立した検証環境である「Open ASR Leaderboard」の数値を参照するよう案内しています。過去のモデルカードに記載されていたスコアは旧バージョンのチェックポイントおよび古い評価環境によるものであり、現在は無効とされています。
得意なこと・想定用途
「ggml-org/higgs-audio-v3-stt-GGUF」は、元モデル「bosonai/higgs-audio-v3-stt」の音声認識性能を維持しつつ、llama.cppエコシステム上で手軽に推論を行うことを想定して変換されたモデルです。
元モデルの学習データセットには、AMI(会議音声)、VoxPopuli(欧州議会スピーチの英語データ)、SPGISpeech(財務関連スピーチ)、LibriSpeech(オーディオブック朗読)、TED-LIUM(講演音声)、GigaSpeech(各種ポッドキャストや動画音声)、Earnings22(企業の収益説明会音声)といった多様なドメインの公開訓練データが活用されています。これにより、クリアな朗読音声から日常的な会話音声、専門的なビジネス・財務関連のプレゼンテーションまで、幅広いシチュエーションの英語音声の書き起こしに対応できます。
また、本モデルはQwen3デコーダーの言語処理能力を活かした思考モード(Thinking mode)をサポートしています。推論時に <think> タグを用いた思考プロセスを挟むことで認識精度を高めるアプローチが組み込まれており、単純なエンドツーエンドの音声認識にとどまらない精度の高いトランスクリプトの出力が期待できます。さらに、決定論的なフレーズ単位の繰り返しループ解消機構が導入されているため、従来の音声認識モデルで見られがちな同一フレーズの無限ループ発生を抑え、安定した長文書き起こしを行いたい用途にも適しています。
今回のGGUF形式への変換によって、Python環境やPyTorch、専用の前処理ライブラリ(boson_multimodalなど)を個別にセットアップすることなく、llama.cppのシンプルな実行バイナリやデスクトップアプリから音声認識機能を利用できるようになっています。ローカル環境で軽量かつ高速に音声認識APIサーバーを立ち上げたい開発者や、端末内で完結する議事録作成・音声書き起こしワークフローを構築したい技術者に適した選択肢となります。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 2.7B(元モデル bosonai/higgs-audio-v3-stt の値)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| 4GB(ノートPCの内蔵GPU・スマートフォンなど) | Q8_0 | 2.0GB | 2.4GB |
| RTX 4060 / 3060 Ti など 8GB | BF16 | 3.8GB | 4.5GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
公開元の配布形式は GGUF です。
ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。
量子化の圧縮率: Q8_0 は実測 6.42 bit/weight で、元の16bitの重みの約40%のサイズです(配布ファイルの実サイズから当サイトが算出)。
配布形式とライセンス表記から当サイトのコードが組み立てた判定です。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| ibm-granite/granite-speech-5.0-2b-ONNX | 2.3B | 8GB | apache-2.0 | 「granite-speech-5.0-2b-ONNX」ブラウザ動作の音声認識モデル:必要VRAM 8GB〜(2026-11-17) |
| FermionResearch/Phonon-2 | 627M | 4GB | cc-by-4.0 | 「Phonon-2」音声認識モデル:必要VRAM 4GB〜(2026-09-30) |
配布ファイル
ggml-org/higgs-audio-v3-stt-GGUF で配布されている重みファイルを、Hugging FaceのAPIから当サイトが並べたものです。サイズは実ファイルの値です。
| ファイル | サイズ |
|---|---|
higgs-audio-v3-stt-BF16.gguf |
4.07GB |
higgs-audio-v3-stt-Q4_K_M.gguf |
1.28GB |
higgs-audio-v3-stt-Q8_0.gguf |
2.17GB |
mmproj-higgs-audio-v3-stt-BF16.gguf |
1.29GB |
mmproj-higgs-audio-v3-stt-Q8_0.gguf |
696MB |
入手方法
本モデルはHugging Faceのリポジトリ「ggml-org/higgs-audio-v3-stt-GGUF」にてGGUFフォーマットで配布されています。利用規約への事前同意やアクセス申請が必要なゲート付きモデル(Gated Model)ではないため、どなたでも直接ダウンロードして利用を開始できます。
配布元では、デスクトップアプリケーションである「Llama app」(https://llama.app )での実行が案内されているほか、ターミナルから以下のコマンドを実行することで、ローカルサーバーとして素早く起動できます。
llama serve -hf ggml-org/higgs-audio-v3-stt-GGUF
本GGUFモデルは、ggml-orgが提供する自動変換ツール(https://github.com/ggml-org/convert )によって生成されたものです。llama.cpp側の音声認識モデル対応(Pull Request #32329)を利用して動作するため、利用する際は同機能に対応した最新バージョンのllama.cppビルドをご使用ください。
なお、オリジナルのPyTorch実装や変換前のウェイトを利用したい場合は、元モデルのリポジトリ「bosonai/higgs-audio-v3-stt」を参照してください。元モデルを直接動作させる場合は、カスタムアーキテクチャ(HiggsAudio3Model)を読み込むための trust_remote_code=True の指定や、音声前処理用の boson_multimodal ライブラリ、16kHzモノラルWAV形式へのリサンプリング処理などが必要となります。
関連記事
- 「Soprano-1.1-80M-GGUF」軽量英語音声合成モデル:配布ファイル一覧
- 「chatterbox-turbo-GGUF」1ステップ生成で低遅延な英語音声合成モデル:必要VRAM 4GB〜
- 「chatterbox-GGUF」23言語対応の多言語音声合成モデル:必要VRAM 4GB〜・配布ファイル一覧
- 「Voxtral-Mini-4B-Realtime-2602-GGUF」音声認識モデル:必要VRAM 4GB〜
次に読むなら
- GPUのVRAMから探す(このモデルは4GBの階層から動きます) → 8GBのGPUで動くほかのモデル
- 入手できる形式と、表に出てくる Q8_0 の意味を知る → GGUF形式の解説と対応モデル / 量子化・モデル形式の用語集
- 同じ用途の他のモデルを探す → 音声のモデル一覧

