VRAM 8GBで動くローカルモデル一覧(RTX 4060 / 3060 Ti など)

2026年10月5日

当サイトで取り上げたモデルのうち、GPUメモリ 8GB に収まるものを全て並べ、その容量で選べる最良の構成を添えた一覧です。「8GBでの最良の構成」は、必要メモリの目安が8GBに収まる中で最も大きい(品質の高い)量子化・精度で、VRAM別の早見表に載っている最小構成より良いものを選べることがよくあります。必要メモリは配布ファイルの実サイズに実行時のオーバーヘッドを見込んで当サイトが算出した値です(算出方法)。長い文脈を使う場合はさらに必要になります。

掲載 17 モデル。

手持ちのGPUで動くものをまとめて見る: 8GB / 12GB / 16GB / 24GB

テキスト生成(チャット・コード)

→ 横にスクロールできます

モデル パラメータ数 8GBでの最良の構成 必要メモリの目安 最小の階層 対応エンジン 記事
prism-ml/Ternary-Bonsai-2-27B-gguf 27.8B Q1_0 (5.5GB) 6.6GB 8GB Ollama・LM Studio・MLX 記事
togethercomputer/Tev1-4B-experimental 4.7B Q8_0 (4.3GB) 5.2GB 4GB Ollama・LM Studio・vLLM 記事
openbmb/MiniCPM5-2B 2.5B F16 (4.7GB) 5.6GB 4GB Ollama・LM Studio・vLLM・MLX 記事
harshatheg/Qwen-2.5-1B-RLCD 1.5B BF16 (2.9GB) 3.5GB 4GB MLX 記事
pfnet/plamo-3-610m-fin-instruct 890M F16 (1.7GB) 2.0GB 4GB Ollama・LM Studio・vLLM 記事
togethercomputer/Tev1-0.8B-experimental 873M F32 (1.6GB) 2.0GB 4GB vLLM 記事
LiquidAI/LFM2.5-350M-Diffusion-Exp 425M BF16 (0.8GB) 0.9GB 4GB – 記事
Cactus-Compute/needle3 – そのままの精度 (0.2GB) 0.3GB 4GB – 記事

画像も読めるモデル(VLM・マルチモーダル)

→ 横にスクロールできます

モデル パラメータ数 8GBでの最良の構成 必要メモリの目安 最小の階層 対応エンジン 記事
Qwen/Qwen3.8-27B 27.8B IQ1_M (6.3GB) 7.5GB 8GB Ollama・LM Studio・vLLM・MLX 記事
Cloudflare/clef-flash 9.4B Q5_K_M (6.4GB) 7.7GB 4GB Ollama・LM Studio・vLLM・MLX 記事
apple/LensVLM-9B 9.4B Q5_K_M (6.4GB) 7.7GB 4GB Ollama・LM Studio・vLLM・MLX 記事
google/DiarizationLM-Gemma-4-E4B-v1 8.0B Q4_K_M (4.9GB) 5.9GB 8GB Ollama・LM Studio・vLLM 記事
LiquidAI/LFM2.5-VL-3B-DSpark 279M F16 (0.5GB) 0.6GB 4GB – 記事

音声(音声合成・音楽生成・音声認識)

→ 横にスクロールできます

モデル パラメータ数 8GBでの最良の構成 必要メモリの目安 最小の階層 対応エンジン 記事
phasefield-audio/Irodori-TTS-v4.1-Anime 766M F32 (2.9GB) 3.4GB 4GB – 記事
FermionResearch/Phonon-2 627M Q8_0 (0.7GB) 0.8GB 4GB – 記事

タスク未設定

→ 横にスクロールできます

モデル パラメータ数 8GBでの最良の構成 必要メモリの目安 最小の階層 対応エンジン 記事
tencent/WeVisDoc-4B 4.4B Q8_0 (4.4GB) 5.2GB 4GB – 記事
Efficient-Large-Model/H3-to-LTX-Latent-Adapter 195M BF16 (0.4GB) 0.4GB 4GB – 記事