MiniCPM5-2B Text Generation Model: Our Test Answers, 4GB+ VRAM

September 8, 2026November 3, 2026

At a Glance

Values determined by this site’s code when the information was collected. Dates are JST.

What we checked ourselves

• Ran MiniCPM5-2B-Q4_K_M.gguf (Q4_K_M) on our CPU-only server (Neoverse-N1, 3 threads, llama.cpp b11223): generation at 13.9 tokens/s (a CPU figure, not a GPU speed).
• Its answers to our fixed Japanese questions are shown verbatim below.
• It needs about 3% fewer tokens than the Qwen3 tokenizer for the same Japanese text, so about 1.03× as much Japanese fits in the same context length, and generation is faster per character.

Details and conditions are in “Our Own Measurements” below.

Overview

OpenBMB has released “MiniCPM5-2B", a new 2B-class on-device model. Following the “MiniCPM5-1B" in the same series, it adopts the standard LlamaForCausalLM architecture and is designed to deliver superior performance in code reasoning, mathematical reasoning, long-context understanding, tool use, and agent tasks. According to the model card, it achieves SOTA compared to open-source models of the same size.

Specifications

• Number of parameters: 2,516,756,480
• Non-embedding parameters: 1,981,982,720
• Number of layers: 42
• Attention heads (GQA): 16 for Q, 2 for KV
• Context length: 131,072
• License: apache-2.0

Performance

From the evaluation result comparison table published in the model card, some comparison targets have been narrowed down (MiniCPM5-2B, LFM2.5-2.6B, Qwen3.5-2B, Gemma-4-E2B-it, Qwen3.5-4B, granite-4.2-3B), and key figures are extracted and shown below.

According to measurements by the publisher, MiniCPM5-2B recorded an average score of 53.9, showing performance that exceeds 2B-class models of the same scale and some 4B-class models. In particular, it reaches high figures in coding and mathematics-related metrics such as LiveCodeBench v6 and AIME 2025. On the other hand, results show it falling behind some other models in specific instruction-following items such as IFEval. It demonstrates superiority in long-context, tool use, and agent-related tasks (such as GAIA Text-103).

Strengths and Use Cases

It is designed for local assistants, coding agents, tool-using workflows, and reasoning scenarios. It maintains a compact deployment footprint while featuring native long-context support (131,072 tokens).

Hardware Requirements

Estimated requirements (calculated by Local Model Watch) — 2.5B parameters

Inference engine support (architecture name matched against each project’s own model registry in its source code, checked 2026-11-03): llama.cpp: registered, vLLM: registered, MLX (mlx-lm): registered.

Memory estimates add a 20% runtime overhead (KV cache, etc.) to the actual size of the distributed files. Actual usage varies with context length, batch size and inference engine. These figures are computed by this site from file sizes, not published by the model’s authors. File sizes are measured from the converted build openbmb/MiniCPM5-2B-GGUF. Compare with other models in our VRAM quick reference. What the quantization names mean: glossary.

Can You Run It Locally?

Runs in Ollama, LM Studio and llama.cpp via a converted build.

The publisher ships safetensors, but openbmb/MiniCPM5-2B-GGUF provides a GGUF build you can use.

License — apache-2.0 (Commercial use allowed): Permits commercial use, modification and redistribution. Redistribution requires including the license and stating changes; includes a patent grant.

Compression: the Q8_0 build measures 8.53 bits per weight — about 53% the size of the original 16-bit weights, calculated by this site from the actual file sizes.

Compiled by this site’s code from the published formats, converted builds we have found, and each engine’s own model registry. “Not found" means we have not seen such a build, not that none exists. License summaries are not legal advice — check the publisher’s original terms before relying on them.

Our Own Measurements

Values we measured ourselves on our server (no GPU) by actually reading and running this model’s files — not figures copied from the model card. How we measure, and the results for every model: Our Measurements.

What We Found

MiniCPM5-2B ran comfortably on our CPU-only server (a Neoverse-N1, 3 threads): the 1.45GB Q4_K_M file generated 13.92 tokens per second, about 20.9 Japanese characters per second, with a peak memory of 2.9GB. That is lighter and faster than Qwen3-4B (6.81 tokens per second) and Qwen3-8B (4.57 tokens per second) measured under the same conditions. Its answers to our five Japanese questions, however, were clearly mixed.

It gave the correct 280 yen on the word problem. Asked to summarize in three sentences, it used four. On the question about prefectures that do not border the sea, it did include all 8 correct ones, but also listed 37 that do border the sea, effectively listing most of Japan’s prefectures.

In the quantization comparison, agreement with the Q8_0 baseline on the most likely next token fell from 90.8% at Q6_K to 89.1% at Q5_K_M, 81.5% at Q4_K_M and 37.4% at Q2_K. No level reached 95%, and only Q6_K cleared 90%. At Q2_K the summary, the word problem and the haiku ran into the 1,024-token limit, and the business email repeated the same line 11 times.

Note that in the other distribution we used for the quantization comparison, neither the Q8_0 baseline nor Q4_K_M answered 280 yen on the word problem, unlike the publisher’s own Q4_K_M we used for the CPU run. Even at temperature 0 under the same conditions, a different distribution or quantization can change the answer.

Japanese Token Efficiency

It needs about 3% fewer tokens than the Qwen3 tokenizer for the same Japanese text, so about 1.03× as much Japanese fits in the same context length, and generation is faster per character.

Counted with the tokenizer.json of openbmb/MiniCPM5-2B on a fixed text we wrote ourselves (876 Japanese characters across news, conversation, technical docs, a formal email, travel writing and a recipe) and its English translation. Fewer tokens mean more Japanese fits in the context window.

Inside the GGUF File

File: MiniCPM5-2B-Q4_K_M.gguf (1.45GB, Q4_K_M). We read only the header (metadata) of the file, not the weights.

The quant name in the file name describes the file as a whole; in practice layers mix several types. The average bits per weight is the measured file data divided by the number of weights.

Quality Loss by Quantization (Measured on Japanese Text)

We downloaded each quantization of bartowski/MiniCPM5-2B-GGUF one at a time and compared it with Q8_0 (2.50GB) on a fixed Japanese text (the opening of Natsume Soseki’s Botchan, public domain) using llama.cpp’s KL-divergence mode.

No quantization reached 95% top-token agreement.

KL divergence closer to 0 means the next-token probabilities stay closer to the baseline. Conditions: Neoverse-N1, llama.cpp b11223, context 512 tokens, measured 2026-09-29 (JST). Botchan is a famous text the model may have seen in training, so read the numbers as a comparison between quantizations of the same model, not as an absolute score.

Answers by Quantization Level (Verbatim)

While measuring the quality loss above, we also asked the same five Japanese questions to Q8_0, Q4_K_M, Q2_K of the same model (temperature 0, up to 1024 tokens) and publish the answers unedited, largest file first. We do not grade them.

Summarization

次の記事を3文で要約してください。

みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。

最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。

蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。

建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。

一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。

利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。

再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。

館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。

(Summarize the following article in three sentences. (The article, about 1,200 Japanese characters, describes the renovation and reopening of a city’s central library: the budget, the new floor layout and seating, changes to the collection and e-book lending, building and accessibility work, remaining issues such as parking and staff workload, users’ reactions, new events, and the city’s next steps.))

Q8_0 (baseline) 2.50GB

みどり市の中央図書館は改修を終え十月一日に再開館し、座席数や蔵書、設備などを充実させました。改修には約十二億円の費用がかかり、国の補助金も約四億円を活用しましたが、駐車場や開館時間の課題も残っています。館長は来館者数が大幅に増えたと述べ、残りの図書館も利用者に聞き取りを重視する方針です。

Q4_K_M 1.50GB

みどり市の中央図書館は改修を終え十月一日に再開館し、総事業費約十二億円のうち約四億円が国の補助金となった。改修では座席を増やし学習用机を分離、蔵書も古い資料を移管して絵本や実用書を増やし、建物設備も空調やエレベーターなどを更新した。一方で駐車場や開館時間の課題は残り、利用者の反応は好意的だが学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。

Q2_K 0.94GB

みどり市は春に改修・再開館した。改修は約一年半にわたり、総事業費は約十二億円のうち国の補助金は約四億円となった。改修の最大の変化は、閲覧席の配置と会話スペースの設置。

改修後、館内は会話スペースが一階に置かれ、図書館の増加は新たな形態を保ちながら、電子書籍の貸出サービスも始まっている。改修の必要性は、館の活用を考えることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見直しされることとなり、改修の必要性は見

(Cut off at the 1024-token limit.)

Formal business email

取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。

(Write an email in polite Japanese (keigo) asking a client’s contact person to move next Tuesday’s meeting to Wednesday.)

Q8_0 (baseline) 2.50GB

件名：お問い合わせの件

件名の件につきまして、ご連絡をさせていただきます。

いつもお世話になっております。

来週火曜日に行われる打ち合わせを、誠に恐れ入りますが、水曜日に変更していただきたくご依頼申し上げます。

ご都合の良い日を心がけて、よろしくお願い申し上げます。

よろしくお願いいたします。

Q4_K_M 1.50GB

件名：来週の打ち合わせ日程の変更について

件名の通り、来週火曜日に行われる打ち合わせを水曜日に変更していただきたいとお願い申し上げます。

ご担当者様には、改めてご連絡させていただきます。

ご不便をおかけしてしまい申し訳ございませんが、何卒ご理解いただけますようお願い申し上げます。

よろしくお願いいたします。

Q2_K 0.94GB

おさる（水曜日）の打ち合わせを、来週（日曜日）に変更していただき、謙然とお願いいたします。

お手厚く、謙然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

お式は、謹然と存じりましょう。

Word problem

りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。

(Apples cost 120 yen each and mandarins cost 45 yen each. You buy 3 apples and 8 mandarins and pay with a 1,000-yen bill. How much change do you get? Show your reasoning.)

Q8_0 (baseline) 2.50GB

お手数ありませんか？

Q4_K_M 1.50GB

お手数ですが、計算を一度行ってから答えを教えていただけますか？

Q2_K 0.94GB

この問題の設定は数学的で、**「りんごとみかんの単純な価格変換」**という考え方があります。

まず、**「みかんの単純な価格変換」**という考え方**は**、**「りんごを3個とみかんを8個買って、1,000円札で払いました」**という文の **「1,000円」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という **「1,000」** という

(Cut off at the 1024-token limit.)

Reference: The correct answer is 280 yen (120×3 = 360, 45×8 = 360, 1,000 − 720 = 280).

Knowledge

日本の都道府県のうち、海に面していない県をすべて挙げてください。

(List all of Japan’s prefectures that do not border the sea.)

Q8_0 (baseline) 2.50GB

日本の都道府県のうち、海に面していない県をすべて挙げるのは、地理的な定義や「面積の一部が海に接するか」という基準によって答えが異なるため、厳密に特定することはできません。一般的に、海に面していない県（内陸県）の例としては、北海道（一部の地域は海に面するため除外される場合がある）、青森県、岩手県、宮城県、秋田県、福島県、長野県、岐阜県、静岡県、山梨県、長野県、愛知県、岐阜県、滋賀県、京都府、兵庫県、奈良県、和歌山県、鳥取県、島根県、岡山県、広島県、山口県、徳島県、愛媛県、高知県、福岡県、佐賀県、長崎県、熊本県、大分県、宮崎県、鹿児島県（一部は海に面する）などがありますが、すべての県を一列に並べることはできません。

もし「海に面していない県」の定義を「面積の一部が海に接するかどうかで区別する」という前提であれば、具体的なリストを提供することはできません。地理的な情報は、都道府県の詳細な境界を確認するために、都道府県庁の公式情報や地図を参照する必要があります。

Q4_K_M 1.50GB

日本の都道府県のうち、海に面していない県をすべて挙げることは、地理的な定義や「面積の範囲」によって解釈が分かれるため、厳密なリストを一概に挙げるのは困難です。一般的に、海に面していない県（内陸県）の例としては、**山形県**、**長野県**、**岐阜県**、**静岡県**、**愛知県**、**三重県**、**滋賀県**、**京都府**、**大阪府**、**兵庫県**、**奈良県**、**和歌山県**、**鳥取県**、**島根県**、**岡山県**、**広島県**、**山口県**、**徳島県**、**香川県**、**愛媛県**、**高知県**、**福岡県**、**佐賀県**、**長崎県**、**熊本県**、**大分県**、**宮崎県**、**鹿児島県**、**沖縄県**（離島）などが挙げられます。

ただし、**沖縄県**は海に面しているため除外され、**山形県**は北陸地方の一部で海に面している可能性もあります（詳細な地理的境界を確認する必要があります）。また、**北海道**や**青森県**などは沿岸部に面しているため、内陸県とはみなされません。

もし「海に面していない県」の定義を「沿岸部（海に接する地域）ではない県」と理解するなら、**山形県**、**長野県**、**岐阜県**、**静岡県**、**愛知県**、**三重県**、**滋賀県**、**京都府**、**大阪府**、**兵庫県**、**奈良県**、**和歌山県**、**鳥取県**、**島根県**、**岡山県**、**広島県**、**山口県**、**徳島県**、**香川県**、**愛媛県**、**高知県**、**福岡県**、**佐賀県**、**長崎県**、**熊本県**、**大分県**、**宮崎県**、**鹿児島県**、**北海道**、**青森県**などが該当します。

具体的な定義や基準によって異なるため、より正確な情報は日本の地理の資料を参照する必要があります。

Q2_K 0.94GB

日本の都道府県はすべて海に面していないわけではなく、すべての県が海に面しているわけではありません。具体的な回答は存在しませんが、一般的な知識として、沖縡県は海に面しています。他の県は海に面していないかどうかは、具体的な情報がないため、回答はできません。

Reference: The correct answer is eight prefectures: Tochigi, Gunma, Saitama, Yamanashi, Nagano, Gifu, Shiga and Nara.

Constrained writing

「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。

(Write three haiku on the theme of spring, keeping the 5-7-5 syllable pattern, each with a one-line explanation.)

Q8_0 (baseline) 2.50GB

春の風が吹く。
空を広く感じる。

春の花が咲く。
静けさが増す。

春の水が清く。
心も澄ます。

Q4_K_M 1.50GB

春は、芽吹く空を呼びます。
（新たな希望を象徴する）

春は、風が柔らかく吹く。
（心地よい気分を表す）

春は、緑が広がる頃。
（自然の美を愛する）

Q2_K 0.94GB

**春**

**春**
春は遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠く遠

(Cut off at the 1024-token limit.)

Running It on a CPU Only

Conditions: Neoverse-N1, 3 threads, no GPU, llama.cpp b11223, Q4_K_M (1.45GB) from openbmb/MiniCPM5-2B-GGUF, measured 2026-09-28 (JST). Other models measured under the same conditions (closest in file size):

Peak memory includes the model file mapped into memory (mmap). A PC with a GPU will be much faster; these figures are a guide for CPU-only machines such as mini PCs and ARM boards.

Answers to Our Japanese Questions (Verbatim)

We ask every model the same five questions in Japanese under the conditions above (temperature 0, thinking turned off where the chat template allows it, up to 1024 tokens) and publish the answers unedited. We do not grade them; where a question has a single correct answer, we show it for comparison.

Summarization

次の記事を3文で要約してください。

みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。

最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。

蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。

建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。

一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。

利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。

再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。

館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。

(Summarize the following article in three sentences. (The article, about 1,200 Japanese characters, describes the renovation and reopening of a city’s central library: the budget, the new floor layout and seating, changes to the collection and e-book lending, building and accessibility work, remaining issues such as parking and staff workload, users’ reactions, new events, and the city’s next steps.))

みどり市は春に中央図書館を改修再開し、総事業費約十二億円（約四億円は国の補助金）を投入しました。改修により座席数を増やし、機械室を分類し、蔵書も古い資料から実用書へと見直しました。また、空調やエレベーターなど建物自体も更新されましたが、駐車場や開館時間の課題も残っています。館長は来館者数が一か月で一八倍になったと述べ、残りの図書館も改修を検討する方針です。

Formal business email

取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。

(Write an email in polite Japanese (keigo) asking a client’s contact person to move next Tuesday’s meeting to Wednesday.)

件名：来週の打ち合わせ日程のご調整について

件名：来週の打ち合わせ日程のご調整について

いつもお世話になっております。
〇〇（名前）です。

いつもお世話になっております。
〇〇（名前）です。

来週火曜日に行われる打ち合わせを、水曜日にお願いいたします。
お手伝いできるよう、引き続きよろしくお願いいたします。

〇〇（名前）

Word problem

りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。

(Apples cost 120 yen each and mandarins cost 45 yen each. You buy 3 apples and 8 mandarins and pay with a 1,000-yen bill. How much change do you get? Show your reasoning.)

まず、りんごの合計金額とみかんの合計金額を計算します。
りんごは1個120円なので、3個だと120円×3=360円になります。
みかんは1個45円なので、8個だと45円×8=360円になります。

次に、これらを合計します。
りんごとみかんの合計金額は360円+360円=720円になります。

最後に、支払った金額から合計金額を引いておつりを計算します。
1,000円から720円を引くと、1,000円-720円=280円になります。

おつりは280円です。

Reference: The correct answer is 280 yen (120×3 = 360, 45×8 = 360, 1,000 − 720 = 280).

Knowledge

日本の都道府県のうち、海に面していない県をすべて挙げてください。

(List all of Japan’s prefectures that do not border the sea.)

日本の都道府県のうち、海に面していない県をすべて挙げると、以下の県があります。

1. 青森県
2. 岩手県
3. 宮城県
4. 秋田県
5. 山形県
6. 福島県
7. 茨城県
8. 栃木県
9. 群馬県
10. 埼玉県
11. 千葉県
12. 東京都
13. 神奈川県
14. 新潟県
15. 富山県
16. 石川県
17. 福井県
18. 山梨県
19. 長野県
20. 岐阜県
21. 静岡県
22. 愛知県
23. 三重県
24. 滋賀県
25. 京都府
26. 兵庫県
27. 奈良県
28. 和歌山県
29. 鳥取県
30. 島根県
31. 岡山県
32. 広島県
33. 山口県
34. 徳島県
35. 香川県
36. 愛媛県
37. 高知県
38. 福岡県
39. 佐賀県
40. 長崎県
41. 熊本県
42. 大分県
43. 宮崎県
44. 鹿児島県
45. 沖縄県

なお、沖縄県は太平洋に面していますが、国内の主要な海に面していない県です。

Reference: The correct answer is eight prefectures: Tochigi, Gunma, Saitama, Yamanashi, Nagano, Gifu, Shiga and Nara.

Constrained writing

「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。

(Write three haiku on the theme of spring, keeping the 5-7-5 syllable pattern, each with a one-line explanation.)

春は、芽吹く空に。

春は、風がこもる頃。

春は、静けさの中の生。

それぞれ、春の意を込めています。

Recent Models in the Same Size Class

Models with up to 4B parameters that Local Model Watch covered recently, listed by code from our article log for comparison. VRAM tiers are this site’s estimates; licenses are as stated on the model cards.

How to Get It

It supports diverse backends and formats such as Transformers, vLLM, SGLang, llama.cpp, Ollama, LM Studio, MLX, ArcLight, vLLM Ascend, and LiteRT-LM. An example command for serving with SGLang is as follows:

pip install "sglang[srt]>=0.5.16"
python -m sglang.launch_server --model-path openbmb/MiniCPM5-2B --port 30000

Quantized and Converted Variants

In addition, 43 converted build(s) from other uploaders exist on Hugging Face; this site lists only builds from the model’s publisher or established quantization maintainers.

This section is appended automatically by Local Model Watch when a converted build of this model appears after publication. Memory figures are estimated from the size of the distributed files. What the quantization names mean: glossary.

Related Articles

• Qwen3.8-Flash-Next Multimodal MoE Model: ~402GB Memory
• DeepSeek-V4-Pro-0813 Text Generation Model: ~998GB Memory, GGUF Builds
• K2-Horizon-32B-NVFP4: Our Test Answers, 32GB+ VRAM
• K2-Horizon-375B-A23B-NVFP4 Text Generation Model: ~257GB Memory

What to Read Next

• Find models by VRAM (This model runs from the 4GB tier) → Other models that run on a 8GB GPU
• Explore the same model family → MiniCPM5 family overview (1 articles, 5 converted builds)
• Engines that run this model → llama.cpp / Ollama / vLLM
• What Q8_0 mean and where to get this model → GGUF format guide and models / MLX format guide and models / GPTQ format guide and models / Quantization and model-format glossary
• Learn about the publisher → OpenBMB: models, licenses and articles

Sources

• https://huggingface.co/openbmb/MiniCPM5-2B
• https://arxiv.org/pdf/2602.09003
• https://ultradata.openbmb.cn/
• https://huggingface.co/datasets/openbmb/UltraX-Preview
• https://huggingface.co/datasets/openbmb/UltraData-Code
• https://huggingface.co/datasets/openbmb/UltraData-SFT-Agent-2609
• https://huggingface.co/datasets/openbmb/UltraData-RL-2609
• https://huggingface.co/datasets/openbmb/Ultra-FineWeb
• https://huggingface.co/datasets/openbmb/Ultra-FineWeb-L3
• https://huggingface.co/datasets/openbmb/UltraData-Math
• https://huggingface.co/datasets/openbmb/UltraData-SFT-2605
• https://flagos.io/
• https://github.com/flagos-ai/FlagGems
• https://github.com/flagos-ai/vllm-plugin-FL
• https://panhaoxuan.notion.site/justrl-ii-scaling-small-llms-to-128k-reasoning-with-a-critic
• https://huggingface.co/openbmb/MiniCPM5-1B
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-SFT
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-Midtrain
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-Base
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-GGUF
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-MLX
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-GPTQ
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-DSpark
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-2B-DSpark-GGUF
• https://huggingface.co/litert-community/MiniCPM5-2B
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-1B
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-1B-SFT
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-1B-Base
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-1B-GGUF
• https://www.modelscope.cn/models/OpenBMB/MiniCPM5-1B-MLX
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/transformers.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-transformers/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/vllm.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-vllm/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/sglang.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-sglang/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/llama_cpp.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-llama-cpp/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/ollama.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-ollama/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/lmstudio.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-lmstudio/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/mlx.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-mlx/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/arclight.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-arclight/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/vllm_ascend.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-vllm-ascend/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/deployment/litert.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-deploy-litert/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/finetune/trl.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-finetune-trl/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/finetune/llamafactory.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-finetune-llamafactory/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/finetune/ms_swift.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-finetune-ms-swift/SKILL.md
• https://github.com/OpenBMB/MiniCPM/blob/main/docs/finetune/unsloth.md
• https://github.com/OpenBMB/MiniCPM/blob/main/skills/minicpm5-finetune-unsloth/SKILL.md
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-nvidia-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-hygon-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-metax-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-iluvatar-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-zhenwu-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-mthreads-FlagOS
• https://www.modelscope.cn/models/FlagRelease/MiniCPM5-2B-kunlunxin-FlagOS
• https://modelscope.cn/models/FlagRelease/MiniCPM5-2B-ascend-FlagOS
• https://modelscope.cn/models/FlagRelease/MiniCPM5-2B-Armv9-FlagOS

Update History

• 2026-09-18: Added converted builds to “Quantized and Converted Variants”: openbmb/MiniCPM5-2B-GGUF, openbmb/MiniCPM5-2B-MLX, bartowski/MiniCPM5-2B-GGUF, openbmb/MiniCPM5-2B-GPTQ, mlx-community/MiniCPM5-2B-8bit
• 2026-09-18: Updated the hardware requirements table with the actual file sizes of openbmb/MiniCPM5-2B-GGUF.
• 2026-09-24: Rebuilt the article: Added a “can you run it locally?" verdict from the distribution formats, converted builds, engine registries, license terms and measured compression
• 2026-09-25: Changed the title to show what the article covers (VRAM requirements, file list, etc.).
• 2026-09-28: Added our own measurements: Japanese token efficiency, what is inside the GGUF file.
• 2026-09-28: Added our own measurements: CPU speed and answers to Japanese questions.
• 2026-09-29: Added our own measurements: quality loss by quantization level.
• 2026-09-30: Changed the title to show what the article covers (VRAM requirements, file list, etc.).