Inkling-2 まとめ:必要VRAM・GGUF版
当サイトが Inkling-2 系統について公開した記事(1本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。
基本情報
| 項目 | 内容 |
|---|---|
| 元のモデル | thinkingmachines/Inkling-2-Mini |
| 公開元 | thinkingmachines |
| 最小のVRAM階層 | 24GB |
| 記事数 | 1本 |
動作環境
動作環境の目安(Local Model Watch 算出)
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| RTX 4090 / 3090 など 24GB | IQ4_NL | 16.4GB | 19.7GB |
| RTX 5090 など 32GB | Q8_0 | 25.9GB | 31.1GB |
| A100 / H100 80GB クラス | BF16 | 48.6GB | 58.4GB |
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
数値は、この系統で最も新しく判定した ggml-org/Inkling-2-Mini-GGUF のものです。
手元で動かせるか
Ollama・LM Studio・llama.cpp でそのまま動かせます。
GGUF形式で配布されているため、変換を待たずに手元で読み込めます。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。
派生版・量子化版
→ 横にスクロールできます
| 追記日 | 配布元 | 形式 | リポジトリ | 最小のVRAM階層(量子化・必要メモリの目安) |
|---|---|---|---|---|
| 2026-11-21 | lmstudio-community | GGUF | lmstudio-community/Inkling-2-Mini-GGUF | Q4_K_M 19.5GB(24GB VRAMで動作) |
各リポジトリの量子化とファイルサイズ:
- lmstudio-community/Inkling-2-Mini-GGUF の量子化: Q4_K_M 16.3GB / Q6_K 21.9GB / Q8_0 25.9GB
この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。
記事(シリーズ自身のモデルを先に、新しい順)
| 公開日 | モデル | 種類 | 記事 |
|---|---|---|---|
| 2026-11-21 | ggml-org/Inkling-2-Mini-GGUF | 新モデル | Inkling 2 MiniのGGUF版が公開、1Mコンテキスト対応のMoEマルチモーダルモデル |
リポジトリ
最終更新 2026-11-22(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。