Arete まとめ:必要VRAM・GGUF版

当サイトが Arete 系統について公開した記事(1本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。

基本情報

項目 内容
元のモデル NousResearch/Arete-27B
公開元 Nous Research
パラメータ数 27.4B
ライセンス(モデルカード) apache-2.0
最小のVRAM階層 12GB
記事数 1本

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 27.4B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4070 / 3060 12GB など 12GB Q2_K 9.9GB 11.8GB
RTX 5060 Ti 16GB / 4060 Ti 16GB など 16GB Q3_K_L 12.9GB 15.5GB
RTX 4090 / 3090 など 24GB Q5_K_M 19.3GB 23.1GB
RTX 5090 など 32GB Q8_0 26.7GB 32.0GB
A100 / H100 80GB クラス BF16 50.1GB 60.1GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 bartowski/NousResearch_Arete-27B-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、bartowski/NousResearch_Arete-27B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: Q2_K は実測 3.11 bit/weight で、元の16bitの重みの約19%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 mradermacher GGUF mradermacher/Arete-27B-GGUF Q2_K 12.0GB(12GB VRAMで動作)
2026-11-17 mlx-community MLX mlx-community/Arete-27B-OptiQ-4bit MLX 4bit 21.7GB(24GB VRAMで動作)
2026-11-07 bartowski GGUF(imatrix) bartowski/NousResearch_Arete-27B-GGUF Q2_K 11.8GB(12GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • mradermacher/Arete-27B-GGUF の量子化: Q2_K 10.0GB / Q3_K_S 11.2GB / Q3_K_M 12.4GB / Q3_K_L 13.4GB / IQ4_XS 14.2GB / Q4_K_S 14.5GB / Q4_K_M 15.4GB / Q5_K_S 17.4GB / Q5_K_M 17.9GB / Q6_K 20.6GB / Q8_0 26.6GB
  • mlx-community/Arete-27B-OptiQ-4bit の量子化: MLX 4bit 18.1GB
  • bartowski/NousResearch_Arete-27B-GGUF の量子化: IQ2_XXS 8.0GB / IQ2_XS 8.2GB / IQ2_S 8.8GB / IQ2_M 9.6GB / Q2_K 9.9GB / IQ3_XXS 11.3GB / Q3_K_S 11.6GB / IQ3_XS 11.7GB / Q3_K_M 12.3GB / Q3_K_L 12.9GB / IQ3_M 13.6GB / IQ4_XS 14.2GB / Q4_0 15.0GB / Q4_K_S 15.0GB / IQ4_NL 16.0GB / Q4_K_M 16.0GB / Q4_1 16.4GB / Q4_K_L 17.3GB / Q5_K_S 18.0GB / Q5_K_M 19.3GB / Q6_K_S 21.1GB / Q6_K 22.0GB / Q6_K_L 23.0GB / Q8_0 26.7GB / BF16 50.1GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。

記事(シリーズ自身のモデルを先に、新しい順)

公開日 モデル 種類 記事
2026-11-17 NousResearch/Arete-27B 新モデル 「Arete-27B」アライメント調整済みの27Bテキスト生成モデル:必要VRAM 12GB〜・GGUF版あり

リポジトリ

最終更新 2026-11-17(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。