VRAM別 ローカルモデル早見表
当サイトで取り上げたオープンウェイトのモデルを、動かすのに必要なGPUメモリ(VRAM)の最小の階層ごとに並べた早見表です。必要メモリは配布ファイルの実サイズに実行時のオーバーヘッドを見込んで当サイトが機械的に算出した値で、モデルカードの公称値ではありません(算出方法は編集方針を参照)。
各階層に載っているモデルは、それより小さい階層では動きません。24GBのGPUをお持ちなら、8GB・12GB・16GB・24GBの表すべてが対象です。最大の80GBの階層にも収まらない巨大モデルは、末尾に別枠で並べています(「動かない」ことも読者にとって必要な情報のため)。
最終更新 2026-09-19(JST)。掲載 28 モデル。
4GB(ノートPCの内蔵GPU・スマートフォンなど)
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| Cactus Compute、8〜29MBの自動化モデル「Needle 3」公開 | – | そのままの精度 (0.2GB) | 0.3GB | 記事 |
| Lightricks/LTX-2.5-22b-IC-LoRA-Ingredients | – | そのままの精度 (1.2GB) | 1.5GB | 記事 |
| openbmb/MiniCPM5-2B | 2.5B | Q8_0 (2.5GB) | 3.0GB | 記事 |
RTX 4060 / 3060 Ti など 8GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| prism-ml/Ternary-Bonsai-2-27B-gguf | 27.8B | Q1_0 (5.5GB) | 6.6GB | 記事 |
| harshatheg/Qwen-2.5-1B-RLCD | 1.5B | BF16 (2.9GB) | 3.5GB | 記事 |
| EleutherAI/bergson-wikitext-gpt2-leaderboard | – | そのままの精度 (6.5GB) | 7.8GB | 記事 |
| bartowski/TheDrummer_Orion-26B-A4B-v1.1-GGUF | 25.8B | F16 (1.1GB) | 1.3GB | 記事 |
| openbmb/MiniCPM5-2B-GGUF | – | F16 (4.7GB) | 5.6GB | 記事 |
RTX 4070 / 3060 12GB など 12GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| tencent/WeVisDoc-4B | 4.4B | BF16 (9.0GB) | 10.8GB | 記事 |
| prism-ml/Ternary-Bonsai-2-27B-mlx-2bit | 27.4B | MLX 2bit (8.0GB) | 9.6GB | 記事 |
| prism-ml/Ternary-Bonsai-2-27B-gguf-dev | 27.8B | Q2_0 (7.1GB) | 8.5GB | 記事 |
| Mothersuperior/yue2-mothersuperior-realaudio-tokenizer-v4 | 3.6B | BF16 (6.8GB) | 8.1GB | 記事 |
| bartowski/vectionlabs_Salience-27B-R6-GGUF | 27.8B | IQ2_M (9.8GB) | 11.8GB | 記事 |
| tencent/Simple-Attention-Sparsification | 4.0B | BF16 (7.5GB) | 9.0GB | 記事 |
| Comfy-Org/YuE2 | 3.6B | BF16 (6.8GB) | 8.1GB | 記事 |
| bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF | 26.5B | IQ2_S (10.0GB) | 12.0GB | 記事 |
| m-a-p/YuE2-3B | 3.6B | BF16 (6.8GB) | 8.1GB | 記事 |
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| bartowski/nex-agi_Nex-N2.5-mini-GGUF | 35.1B | Q2_K (12.9GB) | 15.5GB | 記事 |
| agentionai/Signal-3.8-27B-GGUF | 27.8B | IQ4_XS (13.3GB) | 15.9GB | 記事 |
| nex-agi/Nex-N2.5-mini | 35.1B | Q2_K (12.9GB) | 15.5GB | 記事 |
| Jackrong/Qwopus3.8-27B-Flash-GGUF | 27.8B | Q3_K_M (12.6GB) | 15.1GB | 記事 |
RTX 4090 / 3090 など 24GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| EleutherAI/olmo3-7b-sdf-sft-clean150 | 7.3B | BF16 (13.6GB) | 16.3GB | 記事 |
A100 / H100 80GB クラス
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| Edge0/Edge0-35B-A3B-preview | 34.7B | U32 (64.6GB) | 77.5GB | 記事 |
80GB超(データセンター向け・複数GPU前提)
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 記事 |
|---|---|---|---|---|
| bartowski/Intern-S2-397B-GGUF | 403.4B | IQ1_S (85.3GB) | 102.4GB | 記事 |
| dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8 | 763.2B | BF16 (902.8GB) | 1083.3GB | 記事 |
| deepseek-ai/DeepSeek-V4.1-Flash | 763.2B | BF16 (902.8GB) | 1083.3GB | 記事 |
| nex-agi/Nex-N2.5-Pro | 396.8B | IQ1_S (81.8GB) | 98.2GB | 記事 |
| IFM/K2-Horizon-MoVA-36B-A4B-GGUF | 37.4B | BF16 (69.8GB) | 83.7GB | 記事 |