Hy-Memory まとめ:必要VRAM・GGUF版

当サイトが Hy-Memory 系統について公開した記事(1本)と、記事の公開後に見つかった変換版(GGUF・MLX等)、必要メモリの判定を1ページにまとめたものです。必要メモリはモデルカードの公称値ではなく、当サイトが配布ファイルのサイズから機械的に算出した値です。モデル系統別まとめの1ページです。

基本情報

項目 内容
元のモデル tencent/Hy-Memory-30B-A3B
公開元 Tencent
パラメータ数 30.1B
ライセンス(モデルカード) apache-2.0
最小のVRAM階層 12GB
記事数 1本

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 30.1B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4070 / 3060 12GB など 12GB IQ2_XXS 8.5GB 10.2GB
RTX 4090 / 3090 など 24GB Q4_K_M 17.0GB 20.4GB
RTX 5090 など 32GB Q6_K 23.0GB 27.6GB
RTX 6000 Ada / A6000 など 48GB Q8_0 29.8GB 35.7GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 tencent/Hy-Memory-30B-A3B-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、tencent/Hy-Memory-30B-A3B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: IQ2_XXS は実測 2.43 bit/weight で、元の16bitの重みの約15%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 mlx-community MLX mlx-community/Hy-Memory-30B-A3B-4bit MLX 4bit 18.9GB(24GB VRAMで動作)
2026-11-17 mlx-community MLX mlx-community/Hy-Memory-30B-A3B-8bit MLX 8bit 35.7GB(48GB VRAMで動作)
2026-10-19 tencent GGUF(imatrix) tencent/Hy-Memory-30B-A3B-GGUF IQ2_XXS 10.2GB(12GB VRAMで動作)
2026-10-18 tencent FP8 tencent/Hy-Memory-30B-A3B-FP8 FP8 34.2GB(48GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • mlx-community/Hy-Memory-30B-A3B-4bit の量子化: MLX 4bit 15.8GB
  • mlx-community/Hy-Memory-30B-A3B-8bit の量子化: MLX 8bit 29.8GB
  • tencent/Hy-Memory-30B-A3B-GGUF の量子化: IQ1_M 7.5GB / IQ2_XXS 8.5GB / Q3_K_M 13.5GB / Q4_K_M 17.0GB / Q6_K 23.0GB / Q8_0 29.8GB
  • tencent/Hy-Memory-30B-A3B-FP8 の量子化: FP8 28.5GB

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。

記事(シリーズ自身のモデルを先に、新しい順)

公開日 モデル 種類 記事
2026-11-17 tencent/Hy-Memory-30B-A3B 新モデル 「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり

リポジトリ

最終更新 2026-11-17(JST)。記事ログからコードが組み立てたページで、AIモデルが書いた文章はありません。