「embeddinggemma-2」埋め込みモデル:必要VRAM 4GB〜・配布ファイル一覧

「embeddinggemma-2」埋め込みモデル:必要VRAM 4GB〜・配布ファイル一覧

基本情報

項目 内容
リポジトリ google/embeddinggemma-2
公開元のまとめ Google のモデルとライセンスのまとめ
公開日 2026-09-14
ライセンス apache-2.0
配布形式 safetensors
出典の種類 公開元の一次情報(公式ブログとHF公式リポジトリが存在)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

Google DeepMindは、テキスト、画像、音声、動画の4つのモダリティを単一のベクトル空間に写像できるオープンなマルチモーダル埋め込みモデル「EmbeddingGemma 2」を公開しました。7.4億パラメータという軽量な設計ながら、デバイス上での高度なセマンティック検索やRAG(検索拡張生成)、情報の整理を可能にするモデルです。

前モデルのEmbeddingGemmaは2,000万回以上のダウンロードを記録し、プライバシーを重視したオンデバイス検索などに活用されてきました。今回の新モデルでは、テキストだけでなくコード、画像、動画、音声をネイティブに統合し、単一のモデルで「音声メモから特定の動画クリップを探す」といったクロスモーダルな処理をローカル環境で実行できます。

スペック

資料に記載されている主な仕様は以下の通りです。

  • パラメータ数・アーキテクチャ:合計7.4億パラメータ。Gemma 4アーキテクチャに基づき、2.7億パラメータのテキスト用バックボーン(1.3億のトランスフォーマーと1.4億の埋め込み層)に、画像用(1.7億)および音声用(3.0億)のエンコーダを組み合わせた構成です。
  • モジュール設計:用途に応じてエンコーダを個別に読み込むことができます。テキストのみの場合は2.7億、テキストと画像なら4.4億、フルセットでは7.4億といった柔軟な運用が可能です。
  • 出力仕様:ネイティブでは768次元のベクトルを出力します。Matryoshka Representation Learning (MRL) を採用しており、品質への影響を抑えつつ512、256、128次元へと動的に切り詰めることができます。
  • コンテキスト長:8,192トークン。前モデルの4倍に拡張されており、数分間の音声や多数の画像を一度に処理できます。
  • 対応メディアの仕様:
  • テキスト:100以上の言語に対応。タスクに応じたインストラクション・プレフィックス(SearchQuery, Classification等)の使用が推奨されます。 – 画像:1枚あたり280トークンを消費し、最大約29枚まで入力可能です。 – 動画:デフォルトでは1fpsでサンプリングされ、1フレームあたり140トークンを消費します(最大約58フレーム)。 – 音声:1秒あたり25トークンを消費し、最大約327秒まで対応します。16kHzのモノラル形式が推奨されています。
  • ライセンス:Apache 2.0(商用利用が可能な許容的なライセンスです)

性能・品質

EmbeddingGemma 2は、10億パラメータ未満のマルチモーダル埋め込みモデルとして、複数のベンチマークでクラス最高のスコアを記録しています。特にコード関連の性能が大幅に向上しており、MTEB Codeベンチマークでは前モデルの68.76から78.68へと約14%の改善を達成しています。

公開元による主要な評価結果は以下の通りです。

→ 横にスクロールできます

Modality Benchmark Metric EmbeddingGemma 2 EmbeddingGemma 1
Text Massive Text Embedding Benchmark (MTEB, multilingual, v2) Mean(Task), Multiple 61.36 61.15
Massive Text Embedding Benchmark (MTEB, code, v1) Mean(Task), NDCG@10 78.68 68.76
Image Massive Image Embedding Benchmark (MIEB, lite) Mean(TaskType), Multiple 64.64 –
Massive Multimodal Embedding Benchmark (MMEB v2 – Image) Mean(Task), Hit@1 57.28 –
Massive Multimodal Embedding Benchmark (MMEB v2 – VisDoc) Mean(Task), NDCG@5 67.84 –
Video Massive Multimodal Embedding Benchmark (MMEB v2 – Video) Mean(Task), Hit@1 50.67 –
Audio Massive Sound Embedding Benchmark (MSEB, Retrieval) Mean(Task), MRR@10 69.54 –
Massive Audio Embedding Benchmark (MAEB) Hugging Face Mean(Task), Multiple 49.39 –

テキスト性能では前モデルと同等の高い多言語能力を維持しつつ、コード検索において顕著な優位性を示しています。また、画像、動画、音声の各モダリティにおいても、自身の2倍以上のサイズを持つ専門モデルを凌駕する品質を実現していると報告されています。

ベクトルの次元削減(MRL)に関する評価では、次元を減らした際の精度の維持率が示されています。

→ 横にスクロールできます

Output Dimension Compression Ratio MTEB (multilingual) MTEB (code) MIEB (Image) MMEB (Overall) MSEB (Audio)
768d (Full) 1:1 61.36 78.68 64.64 59.01 69.54
512d 1:1.5 61.17 77.24 64.32 58.38 69.18
256d 1:3 60.41 76.18 63.13 56.24 66.76
128d 1:6 57.89 71.41 59.06 45.65 56.71

256次元までは精度低下が極めて少なく、ストレージ容量を3分の1に削減しながら実用的な検索が可能です。一方で128次元まで削減すると、特にマルチモーダルなタスクにおいて性能の低下が大きくなるため、用途に応じた検証が推奨されています。

得意なこと・想定用途

EmbeddingGemma 2は、オンデバイス環境でのマルチモーダルなセマンティック検索やRAG(検索拡張生成)において、その真価を発揮します。単一のベクトル空間にテキスト、コード、画像、動画、音声を統合できるため、これまでのテキスト中心のモデルでは困難だった複雑なリトリーバルが可能です。

具体的な想定用途として、公開元は以下の例を挙げています。
– クロスモーダルなリトリーバル: テキストクエリを使用して音声アーカイブ内を検索したり、画像を入力として関連する動画シーンを特定したりすることが可能です。例えば「音声メモの内容から特定のビデオクリップを見つける」といった使い方が想定されています。
– 高度なコード検索と索引作成: MTEB Codeベンチマークで示された高い性能により、ローカルなコードベースのセマンティック検索や、コーディングエージェントのためのリトリーバルに適しています。
– プライバシーを保護したオンデバイスRAG: 全ての処理をオフラインで完結させることができるため、機密性の高いデータを扱うエンタープライズ向けの知識ベースや、個人のデバイス上での情報整理に最適です。
– 分類とクラスタリング: 感情分析やコンテンツモデレーション、音声イベントの検出、画像のカテゴリ分けなど、入力をプリセットされたラベルに基づいて分類するタスクに利用できます。また、セマンティックな類似性に基づいてドキュメント群をグループ化することも可能です。
– 事実検証: 主張に対して証拠となるドキュメントを検索し、自動ファクトチェックシステムやソース帰属パイプラインの構築に役立てることができます。

また、このモデルは「インターリーブ(混在)」入力に対応しています。テキストの中に <|image|>、<|video|>、<|audio|> といったプレースホルダーを挿入することで、例えば「防水ランニングシューズ。 <|image|> 通気性の良いメッシュ素材。 <|video|>」といった、複数のメディアを含む情報を単一の768次元ベクトルとして表現できます。これにより、商品カタログの検索や複雑なマルチメディアドキュメントの理解が容易になります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 744M

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) BF16 1.4GB 1.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

公開元の配布形式は safetensors です。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式とライセンス表記から当サイトのコードが組み立てた判定です。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

配布ファイル

google/embeddinggemma-2 で配布されている重みファイルを、Hugging FaceのAPIから当サイトが並べたものです。サイズは実ファイルの値です。

ファイル サイズ
model.safetensors 1.49GB

入手方法

モデルの重みは、Hugging Faceのリポジトリ google/embeddinggemma-2 および Kaggle から入手できます。また、オンデバイス向けに最適化されたモデルは LiteRT Community の Hugging Face ページでも提供されています。配布形式は safetensors に対応しています。

本モデルは幅広い開発エコシステムに対応しており、以下のツールやライブラリで即座に利用可能です。
– Pythonライブラリ: sentence-transformers や transformers を使用して簡単に統合できます。
– 推論エンジン・ツール: llama.cpp、Ollama、LMStudio、vLLM、MLX、SGLang など、ローカルLLMユーザーに馴染みのある多くのツールがサポートされています。
– モバイル・ウェブ展開: Google AI Edge MediaPipe を使用したクロスプラットフォームアプリ開発や、transformers.js および WebGPU を利用したブラウザ上での推論が可能です。
– ベクトルデータベース: 生成されたベクトルは Qdrant などのデータベースに保存して効率的に検索できます。

実装時の重要な注意点として、数値精度と正規化の扱いが挙げられます。
– 数値精度: 推論は bfloat16 または float32 で行う必要があります。float16 はモデルの活性化範囲をカバーしきれず、エラーを出さずに品質が低下したり NaN を返したりするため、使用しないでください。ハードウェアが対応していれば bfloat16 が推奨されます。
– タスクプレフィックス: テキスト入力の際は、タスクに応じたプレフィックスを付与することで、埋め込みの品質が最適化されます。例えば、検索などの非対称なタスクではクエリ側に SearchQuery、文書側に Document のプレフィックスを使用します。分類や類似度測定などの対称的なタスクでは、比較する全ての入力に同じ Classification や SentenceSimilarity などのプレフィックスを適用します。
– ドキュメントの書式: タイトルがあるドキュメントは title: {title} | text: {content} の形式で入力し、タイトルがない場合は title: none とすることが推奨されています。
– 次元削減後の処理: Matryoshka Representation Learning (MRL) を利用してベクトルを切り詰めた(例: 768次元から256次元へ)後は、コサイン類似度を算出する前に必ずL2正規化を再実行してください。model.encode() を呼び出す際に truncate_dim と normalize_embeddings=True を指定することで、これらの処理を自動化できます。

関連記事

次に読むなら

出典