「Haru-4B」音声対話モデル:必要VRAM 12GB〜・配布ファイル一覧

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | higurashi-ai/Haru-4B |
| 公開日 | 2026-11-12 |
| ライセンス | apache-2.0 |
| 配布形式 | safetensors |
| 出典の種類 | 公開元の一次情報(公式HuggingFaceページと技術ブログのリンクが確認可能) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
higurashi-ai が公開した higurashi-ai/Haru-4B は、ユーザーの音声を入力すると、モデル自身の音声とテキストをリアルタイムに出力する音声対話モデル(speech-to-speech)です。モデルカードによると、電話のように聞きながら同時に話せる低遅延・多言語の full-duplex 連続音声対話の基盤モデルです。事前学習済みのベースモデルで、研究用として公開されています。
スペック
- アーキテクチャ: 言語モデルは Qwen3.5-4B のテキストバックボーン(32層、hidden size 2560)です。
- フレームレート: 7.5 Hz です。133 msごとにユーザー音声1フレームを受け取り、モデル音声とテキストを1フレーム生成します。ユーザー音声、モデル音声、モデルテキストは言語モデルの単一の位置に加算されるため、聞く処理と話す処理が互いを待ちません。
- 音声表現: フレームごとに64次元の連続潜在表現を使い、離散音声トークンや別個の audio transformer はありません。
- 音声ヘッド: 4層MLPで MeanFlow サンプリングを使い、1ステップで生成します。guidance scale は1〜2(デフォルト1.5)です。
- 音声コーデック: VibeVoice acoustic tokenizer(causal、24 kHz、潜在1つあたり3200サンプル)です。入出力とも24 kHzで3200サンプルずつやり取りします。
- 対応言語: 英語、スペイン語、ポルトガル語、ドイツ語、フランス語、中国語、日本語、ロシア語、韓国語の9言語です。
- キャラクターと声の制御: テキストの character card でキャラクターを、短い参照音声で声を指定します。
- 参照音声の条件: 声のクリップは同梱されません。利用者が用意します。話者1人のクリーンな音声で、3秒〜3分です。使用する権利のある声のみを使うよう求められています。
- ライセンスの条件: 資料に商用利用の可否や制限の記載はありません。ただしモデルカードは研究用の公開としており、参照音声の声を模倣できる点にも注意を促しています。
性能・品質
モデルカードにベンチマークや他モデルとの比較表はありません。品質については、自然な会話ができる一方で、事実の情報源としては信頼できず、アシスタントのような指示追従もしないと、公開元が制約として述べています。
低遅延については、有線ヘッドホンと有線マイクの利用が推奨されています。Bluetooth機器は100 ms以上の遅延を加えるとされています。技術ブログが公開されていますが、今回の資料には含まれていないため、その内容は確認していません。
得意なこと・想定用途
モデルカードによると、電話のように「聞きながら同時に話す」full-duplex の連続音声対話が主な用途です。ユーザー音声を1フレームずつ受け取りながら応答を返すため、ターン制の音声アシスタントとは違い、リアルタイムな掛け合いの研究や実験に向きます。タグには speech-to-speech と audio-to-audio が付いています。
具体的には、次のような使い方が考えられます。
- character card でキャラクターを設定し、参照音声で声を指定した対話デモの構築
- 英語、スペイン語、ポルトガル語、ドイツ語、フランス語、中国語、日本語、ロシア語、韓国語の9言語での対話実験
- 低遅延な音声対話の研究用ベースライン
注意点もあります。公開元は、これは事前学習済みのベースモデルで、事実の情報源としては信頼できず、アシスタントのような指示追従もしないと述べています。業務用の質問応答ボットとしては想定されていません。また、参照音声の声を模倣できるため、使用する権利のある声だけを使うよう求められています。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 5.3B
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4070 / 3060 12GB など 12GB | BF16 | 9.8GB | 11.8GB |
推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 未登録、vLLM: 未登録、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
公開元の配布形式は safetensors です。
ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。
配布形式とライセンス表記から当サイトのコードが組み立てた判定です。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
配布ファイル
higurashi-ai/Haru-4B で配布されている重みファイルを、Hugging FaceのAPIから当サイトが並べたものです。サイズは実ファイルの値です。
| ファイル | サイズ |
|---|---|
model.safetensors |
10.54GB |
入手方法
配布形式は safetensors で、リポジトリは higurashi-ai/Haru-4B です。ゲート(利用規約への同意)は設定されておらず、同意なしで入手できます。含まれるファイルは次のとおりです。
model.safetensors: 全重み(bfloat16)config.json: モデル設定tokenizer.json: テキストトークナイザ
公式コードは GitHub の higurashi-ai/Haru にあります。PyTorch 実装とWebデモ、ネイティブ macOS アプリ付きの MLX 実装、vLLM-Omni で配信するためのプラグインが含まれると説明されています。NVIDIA GPU で動かす場合の手順は次のとおりです。
git clone https://github.com/higurashi-ai/Haru && cd Haru
pip install -e./haru
python -m haru.server --hf-repo higurashi-ai/Haru-4B
起動後にWebデモを開き、キャラクターを選び、声を与えて話しかけます。モデルカードは、NVIDIA GPU で約12 GBのメモリを目安としています。
Pythonから使う場合は、HaruModel.from_pretrained("higurashi-ai/Haru-4B") でモデルを読み込みます。prepare_reference(load_audio("voice.wav")) で参照音声を用意し、DuplexSession に character card と参照音声を渡します。その後 session.start() で最初の133 msを得て、session.step(user_audio) を繰り返します。入出力は24 kHzで3200サンプルずつです。system prompt は固定レイアウトの character card で、作り方はリポジトリのREADMEに載っているとされています。
低遅延で使うには、有線ヘッドホンと有線マイクが推奨されています。
関連記事
次に読むなら
- GPUのVRAMから探す(このモデルは12GBの階層から動きます) → 12GBのGPUで動くほかのモデル
- このモデルを入手できる形式を調べる → Safetensors形式の解説と対応モデル
- 同じ用途の他のモデルを探す → 音声のモデル一覧

