「granite-speech-5.0-2b-ONNX」ブラウザ動作の音声認識モデル:必要VRAM 8GB〜

「granite-speech-5.0-2b-ONNX」ブラウザ動作の音声認識モデル:必要VRAM 8GB〜

基本情報

項目 内容
リポジトリ ibm-granite/granite-speech-5.0-2b-ONNX
公開元のまとめ IBM(Granite) のモデルとライセンスのまとめ
公開日 2026-10-29
ライセンス apache-2.0
配布形式 ONNX
出典の種類 公開元の一次情報(IBM公式HFアカウントが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

IBMは、音声言語モデル「Granite Speech 5.0 2B」のONNX版ウェイトを公開しました。このモデルは、音声入力をテキストに書き起こす自動音声認識(ASR)や、音声を他言語に翻訳する双方向自動音声翻訳(AST)を実行するためのものです。Transformers.jsを使用することで、WebGPUを介したブラウザ上での推論が可能になっています。

スペック

  • アーキテクチャ:
  • Speech encoder: 16個のConformerブロックで構成されています。CTC(Connectionist Temporal Classification)を用いて学習されており、文字(European languages用の最初の256個のASCIIエントリと、日本語用の92個の片仮名文字セット)およびBPEユニットの2つの分類ヘッドを持ちます。また、4秒のオーディオブロックを用いたブロックアテンションと、中間層からの自己条件付きCTCを使用しています。 – Speech projector: 2層のwindow query transformer (Q-former) を使用しています。1024次元の音響埋め込みに対して、1ブロックあたり3つの学習可能なクエリを用いて、5倍のテンポラル・ダウンサンプリングを行います。エンコーダーによる2倍のダウンサンプリングと合わせ、合計で10倍のダウンサンプリングを行い、10Hzの音響埋め込みレートを実現しています。 – Large Language Model (LLM): granite-4.0-1b-baseの中間チェックポイントをベースとしており、YaRNスケーリング(係数4、最大16384ポジション)を適用しています。
  • 量子化仕様: 4-bit量子化(ブロックサイズ32、非対称なMatMulNBits / GatherBlockQuantized方式)が適用されています。
  • 対応言語: 英語、フランス語、ドイツ語、スペイン語、ポルトガル語、日本語に対応しています。
  • ライセンス: Apache 2.0

性能・品質

ONNX版の品質について、hf-internal-testing/librispeech_asr_dummyセットを用いた検証結果が報告されています。onnxruntime CPU EP環境において、4-bitファイルは2.43%のWER(正規化すると2.31%)を記録しました。これは、従来の4.1 ONNXファイルが記録した2.70%のWERと比較して、精度が向上していることを示しています。

また、ベースモデルであるgranite-speech-5.0-2bの性能については、先行モデルであるgranite-speech-4.1-2bとの比較が以下の表に示されています。

→ 横にスクロールできます

Test Set PER 4.1-2b (↓) PER 5.0-2b (↓) Cap-F1 4.1-2b (↑) Cap-F1 5.0-2b (↑)
LScln 25.70 23.20 89.71 90.16
LSoth 22.27 21.22 91.26 91.65
VoxPopuli 24.86 23.70 95.35 95.07
Earnings-22 22.87 21.64 95.19 94.98
CV-EN 9.13 9.18 96.75 96.96
CV-DE 3.66 3.65 99.50 99.51
CV-ES 11.61 11.46 95.68 95.62
CV-FR 11.00 11.43 97.25 97.20
CV-PT 7.86 7.53 98.51 98.48

この比較表から、5.0-2bモデルは多くのテストセットにおいて、句読点の誤り率を示すPER(Punctuation Error Rate)が改善されていることが分かります。具体的には、LScln、LSoth、VoxPopuli、Earnings-22、CV-ES、CV-PTにおいて、4.1-2bよりも低いPERを達成しています。一方で、CV-EN、CV-DE、CV-FRのPERについては、4.1-2bの方がわずかに低い、あるいは同等の数値となっています。

大文字表記の正確さを測るCap-F1(Capitalization F1)については、LScln、LSoth、CV-EN、CV-DE、CV-PTといった項目で5.0-2bが向上していますが、VoxPopuli、Earnings-22、CV-ES、CV-FRでは4.1-2bの方が高いスコアを示しています。

得意なこと・想定用途

本モデルは、英語、フランス語、ドイツ語、スペイン語、ポルトガル語、日本語の自動音声認識(ASR)および双方向自動音声翻訳(AST)に最適化されています。ベースモデルである ibm-granite/granite-speech-5.0-2b が持つ特徴として、英語の短形式ASRにおける高い文字起こし精度や、ノイズ、反響、遠隔マイク音声に対する堅牢性が向上しています。また、多言語ASRでの入力言語IDプロンプティングのサポート、長形式および対話型の音声翻訳の改善、キーワードバイアス付きASRおよびASTにおけるキーワードリストサイズの拡大(最大2000語)といった機能が備わっています。ONNX版ウェイトを用いることで、Transformers.jsおよびWebGPUを介してブラウザ上でのインアブラウザ推論を実行することが可能です。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 2.3B(元モデル ibm-granite/granite-speech-5.0-2b の値)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4060 / 3060 Ti など 8GB BF16 4.3GB 5.2GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

公開元の配布形式は ONNX です。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式とライセンス表記から当サイトのコードが組み立てた判定です。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
ggml-org/higgs-audio-v3-stt-GGUF 2.7B 4GB apache-2.0 「higgs-audio-v3-stt-GGUF」音声認識モデル:必要VRAM 4GB〜・配布ファイル一覧(2026-11-17)
FermionResearch/Phonon-2 627M 4GB cc-by-4.0 「Phonon-2」音声認識モデル:必要VRAM 4GB〜(2026-09-30)

配布ファイル

ibm-granite/granite-speech-5.0-2b-ONNX で配布されている重みファイルを、Hugging FaceのAPIから当サイトが並べたものです。サイズは実ファイルの値です。

ファイル サイズ
onnx/audio_encoder_q4.onnx 0MB
onnx/decoder_model_merged_q4f16.onnx 0MB
onnx/embed_tokens_q4f16.onnx 0MB

入手方法

Hugging Faceのリポジトリ ibm-granite/granite-speech-5.0-2b-ONNX から入手できます。Transformers.js(バージョン4.3以降)を用いたブラウザ上での推論に対応しており、公式のデモとして granite-speech-webgpu スペースが公開されています。Transformers.jsでの具体的な利用コード例はモデルカードに掲載されています。

関連記事

次に読むなら

出典