VRAM 12GBで動くローカルモデル一覧(RTX 4070 / 3060 12GB など)
当サイトで取り上げたモデルのうち、GPUメモリ 12GB に収まるものを全て並べ、その容量で選べる最良の構成を添えた一覧です。「12GBでの最良の構成」は、必要メモリの目安が12GBに収まる中で最も大きい(品質の高い)量子化・精度で、VRAM別の早見表に載っている最小構成より良いものを選べることがよくあります。必要メモリは配布ファイルの実サイズに実行時のオーバーヘッドを見込んで当サイトが算出した値です(算出方法)。長い文脈を使う場合はさらに必要になります。
掲載 21 モデル。
手持ちのGPUで動くものをまとめて見る: 8GB / 12GB / 16GB / 24GB
テキスト生成(チャット・コード)
→ 横にスクロールできます
| モデル | パラメータ数 | 12GBでの最良の構成 | 必要メモリの目安 | 最小の階層 | 対応エンジン | 記事 |
|---|---|---|---|---|---|---|
| prism-ml/Ternary-Bonsai-2-27B-gguf | 27.8B | Q2_0 (6.7GB) | 8.1GB | 8GB | Ollama・LM Studio・MLX | 記事 |
| bartowski/Gryphe_Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF | 26.5B | IQ2_S (10.0GB) | 12.0GB | 12GB | Ollama・LM Studio | 記事 |
| togethercomputer/Tev1-4B-experimental | 4.7B | BF16 (8.7GB) | 10.4GB | 12GB | vLLM | 記事 |
| tencent/Simple-Attention-Sparsification | 4.0B | BF16 (7.5GB) | 9.0GB | 12GB | – | 記事 |
| openbmb/MiniCPM5-2B | 2.5B | F16 (4.7GB) | 5.6GB | 4GB | Ollama・LM Studio・vLLM・MLX | 記事 |
| harshatheg/Qwen-2.5-1B-RLCD | 1.5B | BF16 (2.9GB) | 3.5GB | 4GB | MLX | 記事 |
| pfnet/plamo-3-610m-fin-instruct | 890M | BF16 (1.7GB) | 2.0GB | 4GB | vLLM | 記事 |
| togethercomputer/Tev1-0.8B-experimental | 873M | F32 (1.6GB) | 2.0GB | 4GB | vLLM | 記事 |
| Cactus-Compute/needle3 | – | そのままの精度 (0.2GB) | 0.3GB | 4GB | – | 記事 |
画像も読めるモデル(VLM・マルチモーダル)
→ 横にスクロールできます
| モデル | パラメータ数 | 12GBでの最良の構成 | 必要メモリの目安 | 最小の階層 | 対応エンジン | 記事 |
|---|---|---|---|---|---|---|
| bartowski/vectionlabs_Salience-27B-R6-GGUF | 27.8B | IQ2_M (9.8GB) | 11.8GB | 12GB | Ollama・LM Studio | 記事 |
| DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NM-DAU-NEO-MTP-GGUF | 27.8B | IQ2_M (9.3GB) | 11.2GB | 12GB | Ollama・LM Studio | 記事 |
| bartowski/TheDrummer_Orion-26B-A4B-v1.1-GGUF | 25.8B | IQ2_S (9.6GB) | 11.5GB | 12GB | Ollama・LM Studio | 記事 |
| ggml-org/MiMo-V2.6-Distill-Qwen-9B-GGUF | 9.4B | Q8_0 (8.9GB) | 10.6GB | 12GB | Ollama・LM Studio | 記事 |
| LiquidAI/LFM2.5-VL-3B-DSpark | 279M | F16 (0.5GB) | 0.6GB | 4GB | – | 記事 |
画像生成・画像編集
→ 横にスクロールできます
| モデル | パラメータ数 | 12GBでの最良の構成 | 必要メモリの目安 | 最小の階層 | 対応エンジン | 記事 |
|---|---|---|---|---|---|---|
| abenzerps/Qwen-Image-2.1-Uncensored-GGUF | 7.1B | Q8_0 (7.1GB) | 8.5GB | 8GB | – | 記事 |
音声(音声合成・音楽生成・音声認識)
→ 横にスクロールできます
| モデル | パラメータ数 | 12GBでの最良の構成 | 必要メモリの目安 | 最小の階層 | 対応エンジン | 記事 |
|---|---|---|---|---|---|---|
| Edge0/Audio8-ASR-Infinite | 4.1B | BF16 (7.6GB) | 9.1GB | 12GB | – | 記事 |
| m-a-p/YuE2-3B | 3.6B | BF16 (6.8GB) | 8.1GB | 12GB | – | 記事 |
| phasefield-audio/Irodori-TTS-v4.1-Anime | 766M | F32 (2.9GB) | 3.4GB | 4GB | – | 記事 |