「MiniCPM-OCR-1.0-DSpark」OCRの高速化ドラフトモデル:必要VRAM 4GB〜

「MiniCPM-OCR-1.0-DSpark」OCRの高速化ドラフトモデル:必要VRAM 4GB〜

基本情報

項目 内容
リポジトリ openbmb/MiniCPM-OCR-1.0-DSpark
まとめページ MiniCPM-OCR-1.0 のまとめ(記事1本)
公開元のまとめ OpenBMB のモデルとライセンスのまとめ
公開日 2026-10-26
ライセンス apache-2.0
配布形式 safetensors
出典の種類 公開元の一次情報(公式組織openbmbのHFリポジトリが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

openbmb/MiniCPM-OCR-1.0-DSpark は、MiniCPM-OCR 1.0 のデコード処理を高速化するために設計された DSpark ドラフト(投機的デコード)用のヘッドです。このリポジトリで提供されているのはドラフトモデルであり、単体で動作する OCR モデルではありません。必ず、対応するメインのチェックポイントと組み合わせて使用する必要があります。

DSpark は、軽量なドラフトモデルがトークンを提案し、その後メインモデルがその提案を一度のパスで検証するという仕組みを利用して、デコードの速度を向上させます。このヘッドを導入することで、MiniCPM-OCR 1.0 のエンドツーエンドの処理効率は 55% 向上すると報告されています。

スペック

Property Value
Target model MiniCPM-OCR 1.0 (1.3B)
Draft parameters 296,837,889
Draft layers 5
Draft tokens per forward pass 15
Target hidden-state layers [3, 7, 11, 15, 19]
Checkpoint precision BF16
Input vocabulary 248,100
Draft output vocabulary 114,688

この表から、DSpark ヘッドが非常に軽量な設計であることが分かります。ドラフトパラメータ数は約 2.97億であり、レイヤー数は 5 層と非常に少なくなっています。また、1回のフォワードパスで 15 個のドラフトトークンを提案するように構成されています。入力語彙数は 248,100 ですが、ドラフト出力語彙数は 114,688 に制限されています。

なお、このチェックポイントには d2t オフセットマッピングが含まれていますが、これはデルタエンコード(target_id - draft_id)されているため、使用前には絶対的な ID(d2t[i] + i)に変換する必要があります。GGUF ビルドではこの変換が既に行われています。

性能

本リポジトリの性能については、ベースとなる MiniCPM-OCR 1.0 の性能と、DSpark による加速効果の2つの側面から説明します。

まず、元モデルである MiniCPM-OCR 1.0 の性能について、公開元の測定結果を紹介します。Real5-OmniDocBench という実世界のドキュメント解析を対象としたベンチマークにおいて、93.68 というスコアを記録しています。また、OCRBench v2 では 54.7 というスコアを達成しています。スループットに関しては、NVIDIA GeForce RTX 5090 を使用した環境において、1.2 pages/s に達すると報告されています。

次に、DSpark ドラフトヘッドによる加速効果についてです。このヘッドを使用することで、エンドツーエンドの処理効率は 55% 向上します。具体的なスループットの比較では、PaddleOCR-VL-1.6 の約 1.49 倍、MinerU2.5 Pro の約 3.62 倍に達するとされています。

得意なこと・想定用途

本チェックポイントは、MiniCPM-OCR 1.0 の推論を投機的デコード(speculative decoding)により高速化するためのドラフトヘッドです。単体で動作するモデルではなく、必ず対応するメインモデルと組み合わせて使用します。

元モデルである MiniCPM-OCR 1.0 は、ドキュメント解析や文書理解に特化した視覚言語モデルであり、主に中国語と英語のドキュメントに対応しています。スキャン画像、湾曲したページ、写真撮影された文書、傾いたページなど、実環境における多様な画像からの認識を得意としています。

具体的には、切り出した領域や用途に応じてプロンプトを指定することで、以下のようなタスクに対応します。

  • テキスト認識(プロンプト: Text Recognition:):通常の文章や段落、タイトルの認識(プレーンテキスト出力)
  • 表認識(プロンプト: Table Recognition:):表構造の認識(SDKによる後処理でHTML形式出力)
  • 数式認識(プロンプト: Formula Recognition:):インラインおよび独立した数式の認識(LaTeX形式出力)
  • 印鑑認識(プロンプト: Seal Recognition:):印鑑内の文字認識
  • チャート認識(プロンプト: Chart to Table:):図表からのデータ抽出と表形式への変換

さらに、ドキュメント全体のペーパー認識だけでなく、特定のフィールド(領収書の店舗名や金額など)を直接抽出してJSON形式で出力するキー情報抽出(KIE)にも対応しています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 297M

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) I64 0.6GB 0.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、openbmb/MiniCPM-OCR-1.0-DSpark-gguf が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/d1-omni-600M 587M 4GB lfm1.0 「d1-omni-600M」マルチモーダル決定モデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
LiquidAI/d1-3B 3.1B 4GB lfm1.0 「d1-3B」テキストや画像の判定に特化した決定モデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
baidu/Unlimited-OCR-2 3.3B 8GB mit 「Unlimited-OCR-2」超長文ドキュメント解析特化型ビジョン言語モデル:必要VRAM 8GB〜(2026-11-17)
openbmb/MiniCPM-OCR-Jev-GPTQ 2.2B 4GB apache-2.0 MiniCPM-OCR-Jevの量子化版が公開、GPTQとAWQ形式に対応(2026-11-17)
LiquidAI/d1-2B-GGUF 1.9B 4GB lfm1.0 「d1-2B-GGUF」テキスト・画像・動画対応の意思決定モデル:必要VRAM 4GB〜(2026-11-17)

入手方法

本モデルは Hugging Face にて safetensors 形式(BF16)で配布されています。このほか、GGUF 形式のドラフトモデルも公開されています。

vLLM を使用してメインモデル(openbmb/MiniCPM-OCR-1.0)と本ドラフトモデルを組み合わせ、投機的デコードを有効にしたサービングを行う場合のコマンド例は以下の通りです。

vllm serve openbmb/MiniCPM-OCR-1.0 \
  --served-model-name MiniCPM-OCR \
  --trust-remote-code \
  --max-model-len 40960 \
  --max-num-batched-tokens 40960 \
  --max-num-seqs 1 \
  --trust-request-mm-kwargs \
  --mm-processor-kwargs '{"downsample_mode":"4x","max_slice_nums":9}' \
  --speculative-config '{"method":"dspark",
                         "model":"openbmb/MiniCPM-OCR-1.0-DSpark",
                         "num_speculative_tokens":15,
                         "enable_adaptive_verification":false}' \
  --default-chat-template-kwargs '{"enable_thinking":false}'

エコシステム全体として、vLLM のほかに SGLang、llama.cpp、Ollama、Transformers、FlagOS などの各種ランタイムや環境でのデプロイガイドが用意されています。

なお、DSpark を利用する際は、必ず同じリリースに含まれる対応したメインモデルとドラフトモデルをペアで運用する必要があります。異なるバージョンのチェックポイントと組み合わせることはできませんのでご注意ください。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-10-27 openbmb GGUF openbmb/MiniCPM-OCR-1.0-DSpark-gguf F16 0.7GB(4GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • openbmb/MiniCPM-OCR-1.0-DSpark-gguf の量子化: Q4_0 0.2GB / Q4_K_S 0.2GB / Q4_K_M 0.2GB / Q4_1 0.2GB / Q5_0 0.2GB / Q5_K_S 0.2GB / Q5_K_M 0.2GB / Q5_1 0.2GB / Q6_K 0.2GB / Q8_0 0.3GB / F16 0.6GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典