「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF」:必要VRAM 80GB〜

「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF」:必要VRAM 80GB〜

基本情報

項目 内容
リポジトリ lmstudio-community/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF
公開日 2026-10-15
配布形式 GGUF
出典の種類 公開元の一次情報(公式GGUFリポジトリで一次情報確認)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

LM Studioコミュニティより、NVIDIAが公開したモデル「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」をGGUF形式へ変換した「lmstudio-community/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF」が公開されました。

本リポジトリは、コミュニティ内の注目モデルを取り上げる「LM Studio Community models highlights program」の一環として提供されているものです。マルチモーダル処理および対話タスクに対応したモデルであり、ローカル環境の推論エンジンで広く使われているllama.cppを活用して量子化が行われています。なお、NVFP4版のGGUFファイルについては、NVIDIAが公開した「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4」チェックポイントをもとにLM Studioチームが変換を実施したと案内されています。

スペック

モデルカードの記載において、パラメータ数の内訳やアーキテクチャの詳細、コンテキスト長などの具体的なスペック数値に関する独立した記述は含まれていません。

本リポジトリで提供されている量子化モデルは、LM StudioチームがGeorgi Gerganov氏およびllama.cppの開発チームの成果を活用して作成したものです。また、モデルカードの免責事項において、LM Studioは本モデルの作成者や所有者ではなく第三者提供のコミュニティモデルであること、出力内容の正確性や完全性、安全性について保証を行わないことが明記されています。

得意なこと・想定用途

本モデル「lmstudio-community/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF」は、リポジトリに付与されたタグやモデル名が示す通り、マルチモーダル(multimodal)処理および対話(conversational)タスクを主な得意分野としています。

モデル名に含まれる「VL」の表記やタグの構成から、テキストのみならず画像をはじめとする視覚情報を統合して理解・処理するビジョン・ランゲージ(Vision-Language)モデルとしての利用が想定されます。ユーザーとの対話形式を通じて、視覚的な入力コンテキストに基づいた質問応答や解説、対話的な情報抽出といったタスクでの活用が見込まれます。

一方で、モデルカードの本文中には、プログラミングや数学、エージェントタスクといった特定の機能に特化した評価結果や詳細な用途に関する言及は含まれていません。そのため、特定の専門分野に特化しているかについては資料からは確認できず、幅広い視覚言語対話タスクをこなす汎用的なマルチモーダル対話モデルとして捉えるのが妥当です。

本モデルは元モデルであるNVIDIAの「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」およびそのNVFP4チェックポイントを、ローカル環境で実行しやすいようGGUF形式に変換した派生モデルです。llama.cppエコシステムに対応した環境において、マルチモーダルな大規模対話モデルをローカルで手軽に試す用途に向いています。

動作環境

動作環境の目安(Local Model Watch 算出)

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
A100 / H100 80GB クラス Q4_K_M 65.3GB 78.3GB

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルにはライセンスの表示が無く、利用の許諾を確認できません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

入手方法

本モデルは、Hugging Faceの「lmstudio-community/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF」リポジトリにて公開されています。

配布形式はGGUF形式です。LM Studioチームがllama.cppを用いて量子化作業を行っており、BF16元モデルからの変換版に加えて、NVIDIAが公開した「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4」チェックポイントをもとに変換されたNVFP4 GGUFファイルが提供されています。

本リポジトリはゲート(gated)設定がされていないため、Hugging Face上での事前の利用規約同意手続きや承認申請などを必要とせず、誰でも直接モデルファイルをダウンロードして入手することができます。

対応するエンジンとしては、量子化の変換基盤となっているllama.cppをはじめ、LM StudioなどGGUF形式の読み込みに対応した推論ソフトウェアで利用できます。モデルを入手する際は、Hugging Face CLIなどのツールを用いてダウンロードを行うことができます。

huggingface-cli download lmstudio-community/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF

なお、モデルカードの免責事項(Disclaimers)において明記されている通り、LM Studioは本モデルの作成者・所有者ではなく、コミュニティプログラムの一環として第三者が作成したモデルをハイライトして提供している立場です。モデルが生成するコンテンツの正確性、信頼性、完全性、安全性についてはいかなる保証も行われておらず、モデルのダウンロードおよび利用に伴う結果については利用者が全責任を負う形となっている点に留意が必要です。

関連記事

次に読むなら

出典