Tencent Hy4 マルチモーダルMoEモデルの公開:スペックとベンチマーク

Tencent Hy4 マルチモーダルMoEモデルの公開:スペックとベンチマーク

基本情報

項目 内容
リポジトリ tencent/Hy4-base
まとめページ Hy4 のまとめ(記事2本)
公開元のまとめ Tencent のモデルとライセンスのまとめ
公開日 2026-11-18
ライセンス tencent-hy-license
配布形式 safetensors
論文 arXiv:2512.02556, arXiv:2603.12201
出典の種類 公開元の一次情報(公式HFアカウントtencentの一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

スペック

  • アーキテクチャ:Mixture-of-Experts (MoE)
  • 総パラメータ数:770B(ViT、アダプター、DFly2を除く)
  • 1トークンあたりの活性パラメータ数:テキスト 49B + ビジョン 1.23B
  • ViTパラメータ数:1.23B
  • DFly2パラメータ数:3.3B
  • コンテキスト長:1M (1,048,576トークン)
  • バックボーン層数:78層 (1層の dense FFN、77層の MoE FFN)
  • 隠れ層サイズ:6,144
  • 語彙サイズ:120,832
  • アテンション構造:Gated DeepSeek Sparse Attention (Gated DSA) with IndexCache

性能

公開元がモデルカードで公表している事前学習モデルのベンチマーク比較結果は以下の通りです。

→ 横にスクロールできます

Category Benchmark #Shots Hy4 Base Hy4 flash Base Hy3 preview Base DeepSeek-V4-flash-Base DeepSeek-V4-Pro-Base
Knowledge MMLU† 5 91.6 88.7 87.5 89.7 91.1
MMLU-Pro† 5 73.9 71.1 65.8 68.6 73.4
MMLU-Redux† 5 90.6 87.6 87.0 88.8 90.2
SuperGPQA† 5 62.7 57.8 52.3 52.5 54.8
C-Eval† 5 95.0 92.0 90.1 91.9 93.4
CMMLU† 5 93.1 91.6 89.6 89.8 90.7
SimpleQA 5 57.2 37.5 26.4 31.3 52.1
Chinese-SimpleQA† 5 83.9 74.6 69.6 71.9 76.6
AGIEval (English)† 3 79.3 75.4 76.0 76.3 78.2
AGIEval (Chinese)† 3 91.2 90.6 87.8 88.5 89.8
Reasoning HellaSwag (3,000-item subset) 10 87.1 85.2 85.7 85.1 86.8
PIQA 4 85.3 84.4 84.6 83.8 84.9
ARC-Challenge 0 97.3 95.0 96.0 97.3 97.0
Social IQa 0 82.7 80.1 80.5 72.5 73.1
KOR-Bench 3 57.6 54.7 54.6 53.4 55.4
C³ 0 82.4 77.3 75.9 74.1 78.3
Math U-MATH 5 71.6 69.8 60.9 57.4 64.8
OCW Courses 5 66.7 64.0 62.6 63.3 68.2
Code MBPP-plus 3 74.0 73.7 77.4 76.8 79.1
Multilingual Belebele (5-language subset)† 5 95.0 93.8 94.2 94.4 95.2
INCLUDE† 5 88.1 82.8 84.3 84.0 84.3
Multimodal MMMU-Pro (Standard, 10 opts) 4 59.6 52.0 — — —
SimpleVQA 4 54.5 48.5 — — —
CVBench 4 86.7 83.4 — — —
RealWorldQA 4 72.3 71.1 — — —
TextVQA 4 78.2 73.4 — — —
CountBenchQA 4 90.6 86.6 — — —

また、実務的な金融タスクにおけるスコア比較(4点満点)も掲載されています。

Model Average Score (out of 4)
Hy4 3.04
DeepSeek-V4.1-Flash-1017 2.97
Kimi K3.1 Pro 2.68
GLM-5.3 2.68

モデルカードに示された評価データによると、Hy4 Baseは知識や多言語、事実性の検証において極めて高い能力を発揮しています。具体的には、一般知識を測るMMLU(91.6)や推論を求めるMMLU-Pro(73.9)、大学院レベルの専門知識を問うSuperGPQA(62.7)、中国語知識のC-Eval(95.0)、正確な事実回答を見るSimpleQA(57.2)といった多数の項目で掲載モデル中の最高値を獲得しています。一方で、プログラミング課題を評価するMBPP-plusのスコアは74.0であり、DeepSeek-V4-Pro-Base(79.1)やDeepSeek-V4-flash-Base(76.8)を下回っています。この比較から、広い分野での学術知識・事実解答・金融ワークフロー処理に強いアドバンテージを持つものの、特定のコーディング課題の評価では他モデルに及ばない場面もあると言えます。

得意なこと・想定用途

Hy4はテキスト、画像、動画の理解を統合したマルチモーダルモデルであり、幅広い実務や研究ワークフローに対応しています。モデルカードで提示されている主な得意分野と想定用途は以下の通りです。

ビジョンとコンピューターユース

視覚的な知覚、推論、ツール利用を組み合わせることで、画像の詳細な解析や複雑なグラフの解釈を行えます。コマンドライン(CLI)およびグラフィカルユーザーインターフェース(GUI)を跨いだコンピューター操作をサポートしており、BlenderやCADなどの専門ソフトウェアを利用したタスクや、複数のアプリケーションに渡る長尺なワークフローの計画と実行に長けています。

フロントエンドおよびゲーム開発

フロントエンド開発においては、視覚的な完成度だけでなく機能的にも完全なインターフェースを生成できるよう、UIのインタラクション、ビジネスロジック、状態管理、フルスタック統合に対して最適化されています。ゲーム開発においては、機能実装、ゲームプレイロジック、状態追跡、アセットパイプラインの構築に対応します。Unreal Engine、Unity、Godotなどの主要なゲームエンジンに適応しているほか、マルチプレイヤーゲームの開発にも利用できます。

金融・オフィスワークフロー

ファンド調査、株式分析、定量戦略、資産配分、企業財務、税務会計など、多岐にわたる金融タスクに適しています。検索機能の強化によってタイムリーな情報検索や複数ソースの統合、事実検証の精度が向上しており、ハルシネーションや推論エラーの低減が図られています。また、Word、Excel、PowerPointなどのオフィス文書のリアルタイム共同編集やフォーマット調整も円滑に行えます。

科学研究とAI研究開発

深い推論、科学計算、長尺タスクの実行を統合し、研究ワークフローを強力に支援します。数学的構築、物理モデリング、地球科学、システム工学、社会経済的意思決定など、複数の専門領域におけるタスクを処理できます。社内の事前学習インフラの最適化や、モデルの自律的な学習実験にも活用されています。

長尺パーソナルアシスタント

関連するコンテキストを与えることで、過去のチャット履歴、電子メール、文書、カレンダー、会議メモなどの情報を総合的に整理できます。プロジェクトの履歴や更新情報の追跡、アクションアイテムの抽出、会議ブリーフの作成、期限の通知、タスクの優先順位付けといった作業をサポートします。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 771.1B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
1724GB超のVRAMが必要(複数GPUまたはCPUオフロードが前提) BF16 1436.4GB 1723.7GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-20 時点): llama.cpp: 未登録、vLLM: 登録あり、MLX (mlx-lm): 未登録。「未登録」はその時点の登録表に名前が無いという意味で、動かないことの断定ではありません。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません。

公開元の配布は safetensors のみで、llama.cpp の登録表にもこのモデルのアーキテクチャ名がありません。これらのツールで動かせるようになるには、まず llama.cpp 側が対応する必要があります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス tencent-hy-license: 公開元の独自ライセンスです。商用利用の可否を含め、条件は公開元の原文を直接確認してください。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルのライセンス(tencent-hy-license)の商用利用の条件を、当サイトが満たしていることを確認できていません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 40B超 のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
tencent/Hy4-flash-base 220.3B — tencent-hy-license Tencent Hy4-flashシリーズ公開: マルチモーダル対応のMoEモデル(2026-11-18)
nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 124.5B 80GB openmdw-1.1 「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」:必要VRAM 80GB〜(2026-11-17)
deepseek-ai/DeepSeek-V4.1-Flash-1017 763.2B — mit 「DeepSeek-V4.1-Flash-1017」VLMモデル:必要メモリ約570GB・GGUF版あり(2026-11-17)
Qwen/Qwen3.8-Flash-Next 180.0B — qwen-community-1.0 「Qwen3.8-Flash-Next」マルチモーダル対応のMoEモデル:必要メモリ約402GB(2026-10-04)
ggml-org/GLM-5.3-Flash-GGUF 321.3B — other 「GLM-5.3-Flash-GGUF」VLMモデル:必要メモリ約150GB(2026-10-03)

入手方法

Hy4のモデルウェイトは、Hugging Face、ModelScope、GitCodeにて公開されています。事前学習済みのベースモデルである tencent/Hy4-base や、FP8量子化済みの指示追従モデル tencent/Hy4-FP8 が safetensors 形式で配布されているほか、AngelSlimによるGGUF圧縮版も提供されています。利用にあたっては独自ライセンスである Tencent Hy License が適用されます。

デプロイ環境としては vLLM や SGLang といった推論フレームワークが推奨されています。公式のDockerイメージ(vllm/vllm-openai:hy4 または lmsysorg/sglang:hy4)を利用してサーバーを起動し、OpenAI互換のAPI経由でアクセスすることが可能です。

API呼び出しの際は、思考モードを設定する reasoning_effort パラメータを利用できます。数学やコーディングなどの複雑なタスクに適した深層思考モード("high"、デフォルト値)と、即答を返すモード("no_think")を選択できます。推奨生成パラメータは temperature=0.9 および top_p=1.0 となっています。

関連記事

次に読むなら

出典