「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり

「Hy-Memory-30B-A3B」テキスト生成モデル:必要VRAM 12GB〜・GGUF版あり

基本情報

項目 内容
リポジトリ tencent/Hy-Memory-30B-A3B
まとめページ Hy-Memory のまとめ(記事1本)
公開元のまとめ Tencent のモデルとライセンスのまとめ
公開日 2026-10-15
ライセンス apache-2.0
配布形式 safetensors
論文 arXiv:2610.22196
出典の種類 公開元の一次情報(公式HFリポジトリで一次情報確認)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

Tencent Hunyuanより、外部メモリフレームワークの書き込み処理に特化したモデル「Hy-Memory-30B-A3B」が公開されました。本モデルは、Mem0、MemOS、Hy-Memoryといった長期外部メモリシステムにおいて汎用LLMの代替として動作し、対話や作業、コーディングのシナリオにおいてどの情報を保持し、どのように表現し、永続メモリバンクをどう更新するかを判断します。

論文「Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing」(arXiv:2610.22196)によると、従来のフレームワークがプロンプト経由で汎用LLMを呼び出すことによる運用コストの増加や、プロトコル間の汎用性の低さを解消することを狙いとして作られています。Memory On-Policy Distillation(OPD)による教師あり蒸留と、チャンク単位の信用割り当てを行うAttributed Memory強化学習(RL)の2段階で学習されており、学習時には未見であった外部フレームワーク「EverMemOS」に対しても直接転移できるとされています。

スペック

  • アーキテクチャ: HYV3ForCausalLM (hy_v3)
  • 総パラメータ数: 30.1B
  • 活性パラメータ数: 約3B

性能

公開元によるベンチマーク評価では、評価対象となるメモリ書き込みモデル(Memory writer)のみを差し替え、ハーネスのバージョン、プロンプト、検索設定、回答生成モデル、ジャッジモデルなどの周辺環境を完全に固定した比較が行われています。なお、比較対象のDeepSeek Flashエンドポイントには「DeepSeek V4.1 Flash」が使用されています。

主要4ハーネス(Mem0、Hy-Memory、MemOS、および学習セットから除外されていたEverMemOS)における、固定20%サブサンプルを対象とした6指標(LoCoMo Judge、LongMemEval、PersonaMem-v2、Travel SPS、Shopping PS、Code Memory Bench)のマクロ平均スコアは以下のとおりです。

→ 横にスクロールできます

Memory writer Mem0 Hy-Mem. MemOS EverMem. Avg.
Hy-Memory-30B-A3B 54.02 60.55 50.51 56.89 55.49
Claude Opus 5 53.43 60.53 50.50 54.04 54.62
DeepSeek V4.1 Flash 49.73 60.20 49.17 55.47 53.64
Hy3 45.99 58.06 50.19 52.30 51.63
Qwen3.6-35B-A3B 47.51 55.87 47.36 50.75 50.37
Hy3-A3B Base 40.20 50.39 49.05 50.98 47.66
Qwen3-30B-A3B 39.81 45.67 45.44 46.57 44.37

この表から分かるとおり、Hy-Memory-30B-A3Bは評価された4つのハーネスすべてにおいて平均スコア首位を獲得しており、総合平均(Avg.)でも55.49を記録してClaude Opus 5の54.62やDeepSeek V4.1 Flashの53.64を上回っています。特に学習時に使われていない未知のEverMemOSハーネスにおいて56.89を達成しており、フレームワークを超えた高い転移性能を示しています。また、ベースモデルであるHy3-A3B Base(総合47.66)や同規模帯のQwen3.6-35B-A3B(総合50.37)と比較しても大きなスコア差をつけています。

詳細な内訳データ(モデルカード掲載のTable 2〜5)を見ると、分野によって得意・不得意が分かれています。例えばMem0ハーネスでは、LME(73.00)やTravel(54.51)で比較対象中トップの数値を記録している一方、LoCoMo(59.54)やCMB(67.13)ではClaude Opus 5(LoCoMo 69.47、CMB 70.74)の後塵を拝しています。さらに、Shopping PS(Shop.)に関してはMem0で18.33(Qwen3.6-35B-A3Bは20.00)、MemOSで21.11(DeepSeek V4.1 Flashは21.67)となっており、特定タスクでは他モデルと同等またはわずかに及ばない結果も見られます。

得意なこと・想定用途

Hy-Memory-30B-A3Bは、各種外部メモリフレームワークにおいて「永続メモリへの書き込み処理(write path)」を担うことに特化したモデルです。Mem0、MemOS、Hy-Memoryといったシステムにおいて、従来の汎用大規模言語モデルの代替として機能します。対応言語としては英語および中国語のタグが付与されています。

本モデルの具体的な役割と得意とする領域は以下のとおりです。

  • メモリの取捨選択と更新: 会話や作業履歴の中からどの情報を長期記憶として保持すべきかを判断し、簡潔かつ自己完結した記述に構造化して、既存のメモリバンクを適切に更新します。
  • 多様なシナリオへの適応: 通常の対話(Chat)だけでなく、タスクの実行ログを扱う作業環境(Working)や、リポジトリ情報を扱うコーディング(Coding)のシナリオにも対応しています。
  • フレームワーク間の汎用性: 特定のフレームワーク専用に固定されたプロンプトやルールに依存せず、未学習のフレームワーク(EverMemOSなど)に対してもそのまま転移して動作する柔軟性を備えています。
  • 運用コストの抑制: 汎用フロンティアモデルを常時呼び出す構成と比べて、活性パラメータ約3Bというコンパクトな設計により、メモリ書き込みパイプラインの計算資源や運用コストを大幅に抑えられます。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 30.1B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
RTX 4070 / 3060 12GB など 12GB IQ2_XXS 8.5GB 10.2GB
RTX 4090 / 3090 など 24GB Q4_K_M 17.0GB 20.4GB
RTX 5090 など 32GB Q6_K 23.0GB 27.6GB
RTX 6000 Ada / A6000 など 48GB Q8_0 29.8GB 35.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 tencent/Hy-Memory-30B-A3B-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、tencent/Hy-Memory-30B-A3B-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

量子化の圧縮率: IQ2_XXS は実測 2.43 bit/weight で、元の16bitの重みの約15%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 15〜40B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
LiquidAI/LFM2.5-24B-A2B-Base 24.0B 80GB lfm1.0 LiquidAI、超軽量推論モデル「LFM2.5-24B-A2B」を公開(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-FP8 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-FP8」FP8量子化済みのエージェント向けMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-bf16 24.0B 80GB lfm1.0 「LFM2.5-24B-A2B-MLX-bf16」Apple Silicon向け推論モデル:必要VRAM 80GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B-MLX-8bit 24.0B 32GB lfm1.0 「LFM2.5-24B-A2B-MLX-8bit」ツール呼び出しに強い推論特化のMoEモデル:必要VRAM 32GB〜(2026-11-17)
LiquidAI/LFM2.5-24B-A2B 24.0B 12GB lfm1.0 「LFM2.5-24B-A2B」エージェント特化のMoE推論モデル:必要VRAM 12GB〜・GGUF版あり(2026-11-17)

入手方法

Hy-Memory-30B-A3Bの重みはsafetensors形式で公開されており、ライセンスはApache-2.0が適用されています。Hugging Face上での利用規約同意(ゲート機能)は設定されておらず、誰でも直接ダウンロードして利用できます。

推論エンジンとしてはvLLM(v0.31.0にて動作確認済み)が案内されています。次のように --served-model-name hy-memory を指定してサーバーを起動することで、OpenAI互換のAPIエンドポイント経由でモデルを利用できます。

vllm serve tencent/Hy-Memory-30B-A3B --served-model-name hy-memory

モデルカードでは、OpenAI互換クライアントを用いて、思考モードを無効化(no-think mode)した状態でユーザーの事実や好みを抽出するPythonスクリプト例が紹介されています。

from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:8000/v1",
    api_key="EMPTY",
)

response = client.chat.completions.create(
    model="hy-memory",
    messages=[
        {
            "role": "system",
            "content": (
                "Extract explicit user facts and preferences from the conversation. "
                "Write each memory as a concise, self-contained statement. "
                "Do not infer or invent information. "
                'Return only a JSON object with a "memories" list of strings.'
            ),
        },
        {
            "role": "user",
            "content": (
                "My name is Alex. I live in Seattle and work as a software engineer. "
                "I mainly use Python and prefer concise answers with code examples. "
                "I'm vegetarian, so please keep that in mind when suggesting meals."
            ),
        },
    ],
    temperature=0.0,
    max_tokens=512,
    extra_body={
        "chat_template_kwargs": {
            "reasoning_effort": "no_think",
        },
    },
)

また、フレームワークの連携コードおよび評価ユーティリティ一式はGitHubのリポジトリ Tencent-Hunyuan/Hy-Memory にて公開されています。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-10-18 tencent FP8 tencent/Hy-Memory-30B-A3B-FP8 FP8 34.2GB(48GB VRAMで動作)
2026-10-19 tencent GGUF(imatrix) tencent/Hy-Memory-30B-A3B-GGUF IQ2_XXS 10.2GB(12GB VRAMで動作)
2026-11-17 mlx-community MLX mlx-community/Hy-Memory-30B-A3B-4bit MLX 4bit 18.9GB(24GB VRAMで動作)
2026-11-17 mlx-community MLX mlx-community/Hy-Memory-30B-A3B-8bit MLX 8bit 35.7GB(48GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • tencent/Hy-Memory-30B-A3B-FP8 の量子化: FP8 28.5GB
  • tencent/Hy-Memory-30B-A3B-GGUF の量子化: IQ1_M 7.5GB / IQ2_XXS 8.5GB / Q3_K_M 13.5GB / Q4_K_M 17.0GB / Q6_K 23.0GB / Q8_0 29.8GB
  • mlx-community/Hy-Memory-30B-A3B-4bit の量子化: MLX 4bit 15.8GB
  • mlx-community/Hy-Memory-30B-A3B-8bit の量子化: MLX 8bit 29.8GB

このほか、上記以外の投稿者による変換版が 20 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: mlx-community/Hy-Memory-30B-A3B-4bit, mlx-community/Hy-Memory-30B-A3B-8bit
  • 2026-11-17: 動作環境の表を tencent/Hy-Memory-30B-A3B-GGUF の実ファイルサイズで更新しました。
  • 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。