VRAM別 ローカルモデル早見表
当サイトで取り上げたオープンウェイトのモデルを、動かすのに必要なGPUメモリ(VRAM)の最小の階層ごとに並べた早見表です。必要メモリは配布ファイルの実サイズに実行時のオーバーヘッドを見込んで当サイトが機械的に算出した値で、モデルカードの公称値ではありません(算出方法は編集方針を参照)。
各階層に載っているモデルは、それより小さい階層では動きません。24GBのGPUをお持ちなら、8GB・12GB・16GB・24GBの表すべてが対象です。最大の80GBの階層にも収まらない巨大モデルは、末尾に別枠で並べています(「動かない」ことも読者にとって必要な情報のため)。
対応エンジンの列は、Ollama・LM Studio(llama.cpp)・vLLM・MLXのうち今日動かせることを確認できたものを、各プロジェクトの登録表と当サイトが見つけたGGUF/MLX版から並べたものです(画像・動画・音声モデルには適用しません)。「-」は対象外か、まだ確認できていないことを意味し、詳しい経緯は各モデルの記事の「手元で動かせるか」を参照してください。
最終更新 2026-11-02(JST)。掲載 52 モデル。
手持ちのGPUで動くものをまとめて見る: 8GB / 12GB / 16GB / 24GB
Contents
4GB(ノートPCの内蔵GPU・スマートフォンなど)
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| LiquidAI/LFM2.5-350M-Diffusion-Exp | 425M | BF16 (0.8GB) | 0.9GB | – | 記事 |
| Cloudflare/clef-flash | 9.4B | IQ2_M (3.3GB) | 4.0GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| FermionResearch/Phonon-2 | 627M | Q8_0 (0.7GB) | 0.8GB | – | 記事 |
| apple/LensVLM-9B | 9.4B | IQ2_M (3.3GB) | 4.0GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| togethercomputer/Tev1-0.8B-experimental | 873M | F32 (1.6GB) | 2.0GB | vLLM | 記事 |
| LiquidAI/LFM2.5-VL-3B-DSpark | 279M | F16 (0.5GB) | 0.6GB | – | 記事 |
| togethercomputer/Tev1-4B-experimental | 4.7B | Q6_K_S (3.4GB) | 4.0GB | Ollama・LM Studio・vLLM | 記事 |
| pfnet/plamo-3-610m-fin-instruct | 890M | F16 (1.7GB) | 2.0GB | Ollama・LM Studio・vLLM | 記事 |
| Cactus-Compute/needle3 | – | そのままの精度 (0.2GB) | 0.3GB | – | 記事 |
| tencent/WeVisDoc-4B | 4.4B | Q5_K_S (2.9GB) | 3.5GB | – | 記事 |
| harshatheg/Qwen-2.5-1B-RLCD | 1.5B | BF16 (2.9GB) | 3.5GB | MLX | 記事 |
| Efficient-Large-Model/H3-to-LTX-Latent-Adapter | 195M | BF16 (0.4GB) | 0.4GB | – | 記事 |
| openbmb/MiniCPM5-2B | 2.5B | Q8_0 (2.5GB) | 3.0GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| phasefield-audio/Irodori-TTS-v4.1-Anime | 766M | F32 (2.9GB) | 3.4GB | – | 記事 |
RTX 4060 / 3060 Ti など 8GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| google/DiarizationLM-Gemma-4-E4B-v1 | 8.0B | Q4_K_M (4.9GB) | 5.9GB | Ollama・LM Studio・vLLM | 記事 |
| Qwen/Qwen3.8-27B | 27.8B | IQ1_M (6.3GB) | 7.5GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| prism-ml/Ternary-Bonsai-2-27B-gguf | 27.8B | Q1_0 (5.5GB) | 6.6GB | Ollama・LM Studio・MLX | 記事 |
RTX 4070 / 3060 12GB など 12GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| Cloudflare/clef | 27.4B | Q2_K (9.9GB) | 11.8GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| Altworld/Hemmingway-1 | 26.9B | IQ2_M (9.8GB) | 11.8GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| Edge0/Audio8-ASR-Infinite | 4.1B | BF16 (7.6GB) | 9.1GB | – | 記事 |
| ggml-org/MiMo-V2.6-Distill-Qwen-9B-GGUF | 9.4B | Q8_0 (8.9GB) | 10.6GB | Ollama・LM Studio | 記事 |
| bartowski/vectionlabs_Salience-27B-R6-GGUF | 27.8B | IQ2_M (9.8GB) | 11.8GB | Ollama・LM Studio | 記事 |
| tencent/Simple-Attention-Sparsification | 4.0B | BF16 (7.5GB) | 9.0GB | – | 記事 |
| bartowski/TheDrummer_Orion-26B-A4B-v1.1-GGUF | 25.8B | IQ2_S (9.6GB) | 11.5GB | Ollama・LM Studio | 記事 |
| Comfy-Org/YuE2 | 3.6B | BF16 (6.8GB) | 8.1GB | – | 記事 |
| bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF | 26.5B | IQ2_S (10.0GB) | 12.0GB | Ollama・LM Studio | 記事 |
| m-a-p/YuE2-3B | 3.6B | BF16 (6.8GB) | 8.1GB | – | 記事 |
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| orcarouter/OrcaSAQ-2-27B | 27.8B | EXL3 (11.4GB) | 13.7GB | vLLM | 記事 |
| agentionai/Signal-3.8-27B-GGUF | 27.8B | IQ4_XS (13.3GB) | 15.9GB | Ollama・LM Studio | 記事 |
| nex-agi/Nex-N2.5-mini | 35.1B | Q2_K (12.9GB) | 15.5GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| Jackrong/Qwopus3.8-27B-Flash-GGUF | 27.8B | Q3_K_M (12.6GB) | 15.1GB | Ollama・LM Studio | 記事 |
RTX 4090 / 3090 など 24GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| nvidia/PixelUMM | 8.2B | BF16 (15.3GB) | 18.3GB | – | 記事 |
| ggml-org/OpenJev-GGUF | 27.4B | Q4_K_M (17.7GB) | 21.2GB | Ollama・LM Studio | 記事 |
| XingChen-AGI/Xing4.0-29B-A4B | 31.2B | IQ4_NL (18.7GB) | 22.5GB | Ollama・LM Studio・MLX | 記事 |
| inclusionAI/Realtime-Venus | – | そのままの精度(Realtime-Venus-Audio) (17.5GB) | 20.9GB | – | 記事 |
| EleutherAI/olmo3-7b-sdf-sft-clean150 | 7.3B | BF16 (13.6GB) | 16.3GB | vLLM | 記事 |
| Edge0/Edge0-35B-A3B-preview | 36.0B | MLX 4bit (18.2GB) | 21.8GB | vLLM・MLX | 記事 |
RTX 5090 など 32GB
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| MiniMaxAI/MiniMax-H3 | – | Q3_K_XL (26.5GB) | 31.8GB | – | 記事 |
| IFM/K2-Horizon-32B-NVFP4 | – | NVFP4 (21.7GB) | 26.0GB | vLLM | 記事 |
| IFM/K2-Horizon-MoVA-36B-A4B-GGUF | 37.4B | Q5_K_M (24.6GB) | 29.5GB | Ollama・LM Studio | 記事 |
A100 / H100 80GB クラス
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| elyza/ELYZA-Thinking-1.0-llm-jp-4-32b-a3b | 32.1B | BF16 (59.9GB) | 71.8GB | vLLM | 記事 |
80GB超(データセンター向け・複数GPU前提)
→ 横にスクロールできます
| モデル | パラメータ数 | 最小構成 | 必要メモリの目安 | 対応エンジン | 記事 |
|---|---|---|---|---|---|
| Qwen/Qwen3.8-Flash-Next | 180.0B | BF16 (335.3GB) | 402.3GB | vLLM | 記事 |
| NaiveAI/Naive-N0.5-Flash | – | そのままの精度 (575.4GB) | 690.5GB | – | 記事 |
| ggml-org/GLM-5.3-Flash-GGUF | 321.3B | Q2_K (124.6GB) | 149.5GB | Ollama・LM Studio | 記事 |
| XiaomiMiMo/MiMo-V2.6-Pro-RL | – | Q2_K (347.8GB) | 417.4GB | Ollama・LM Studio・vLLM | 記事 |
| deepseek-ai/DeepSeek-V4-Pro-0813 | 1650.5B | FP8 (831.4GB) | 997.7GB | Ollama・LM Studio・vLLM | 記事 |
| IFM/K2-Horizon-375B-A23B-NVFP4 | – | NVFP4 (213.8GB) | 256.6GB | vLLM | 記事 |
| ggml-org/MiMo-V2.6-Flash-RL-GGUF | – | Q2_K (117.5GB) | 141.1GB | Ollama・LM Studio | 記事 |
| bartowski/Intern-S2-397B-GGUF | 403.4B | IQ1_S (85.3GB) | 102.4GB | Ollama・LM Studio | 記事 |
| deepseek-ai/DeepSeek-V4.1-Flash | 763.2B | FP8 (475.3GB) | 570.3GB | vLLM | 記事 |
| nvidia/DeepSeek-V4-Pro-0813-nvfp4-DSpark | 1650.5B | NVFP4 (837.4GB) | 1004.9GB | vLLM | 記事 |
| nex-agi/Nex-N2.5-Pro | 396.8B | IQ1_S (81.8GB) | 98.2GB | Ollama・LM Studio・vLLM | 記事 |