Inkling-2 まとめ:必要VRAM・GGUF版

2026年11月22日

当サイトが Inkling-2 系統について公開した記事(1本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。

基本情報

項目 内容
元のモデル thinkingmachines/Inkling-2-Mini
公開元 thinkingmachines
最小のVRAM階層 24GB
記事数 1本

動作環境

動作環境の目安(Local Model Watch 算出)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4090 / 3090 など 24GB IQ4_NL 16.4GB 19.7GB
RTX 5090 など 32GB Q8_0 25.9GB 31.1GB
A100 / H100 80GB クラス BF16 48.6GB 58.4GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

数値は、この系統で最も新しく判定した ggml-org/Inkling-2-Mini-GGUF のものです。

手元で動かせるか

Ollama・LM Studio・llama.cpp でそのまま動かせます。

GGUF形式で配布されているため、変換を待たずに手元で読み込めます。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-21 lmstudio-community GGUF lmstudio-community/Inkling-2-Mini-GGUF Q4_K_M 19.5GB(24GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • lmstudio-community/Inkling-2-Mini-GGUF の量子化: Q4_K_M 16.3GB / Q6_K 21.9GB / Q8_0 25.9GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。

記事(シリーズ自身のモデルを先に、新しい順)

公開日 モデル 種類 記事
2026-11-21 ggml-org/Inkling-2-Mini-GGUF 新モデル Inkling 2 MiniのGGUF版が公開、1Mコンテキスト対応のMoEマルチモーダルモデル

リポジトリ

最終更新 2026-11-22(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。