「plamo-3-8b-fin-instruct」テキスト生成モデル:必要VRAM 4GB〜・GGUF版あり

「plamo-3-8b-fin-instruct」テキスト生成モデル:必要VRAM 4GB〜・GGUF版あり

基本情報

項目 内容
リポジトリ pfnet/plamo-3-8b-fin-instruct
まとめページ plamo-3-nict のまとめ(記事1本)
公開元のまとめ Preferred Networks(PFN) のモデルとライセンスのまとめ
公開日 2026-11-08
ライセンス plamo-community-license
配布形式 safetensors
出典の種類 公開元の一次情報(公式HFリポジトリ(pfnet)が一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

株式会社Preferred Networks(PFN)は2026年11月8日、金融ドメインに特化した日本語言語モデル「PLaMo-3-8B-Fin-Instruct」をHugging Face上で公開しました。本モデルは、ベースモデルである「pfnet/plamo-3-nict-8b-base」に対して、金融コーパスを用いた継続事前学習(continued pre-training)を実施したうえで、教師あり微調整(SFT)および直接嗜好性最適化(DPO)を行って開発された指示調整済みモデルです。

本モデルは日本語で推論(思考プロセス)を行ってから回答を出力するチャットモデルとして設計されており、回答の根拠となる思考過程を確認できます。さらに、OpenAI形式のツール定義を渡すことでFunction calling(ツール利用)を実行する機能も備えています。学習プロセスの一部には、PFNが独自に開発した深層学習アクセラレータ「MN-Core 2」が活用されています。

スペック

公開元のモデルカードに記載されている仕様は以下の通りです。

  • パラメータ数: 8B
  • アーキテクチャ: Causal decoder-only(Plamo3ForCausalLM)
  • コンテキスト長: 262,144トークン(ベースモデルの最大長。金融コーパスを用いた継続事前学習では最大32,768トークンのシーケンスが使用されています)
  • 対応言語: 日本語(Japanese)

性能

本モデルおよびベースモデル「pfnet/plamo-3-nict-8b-base」のモデルカードにおいて、定量的なベンチマークテストのスコアや他モデルとの数値比較表は公開されていません。そのため、客観的な測定数値をもとにした他モデルとの性能比較は行えません。

一方で、モデルカードの「Bias, Risks, and Limitations(バイアス、リスク、制限事項)」の項目において、公開元による定性的な特性や注意点が言及されています。

まず、本モデルは金融ドメインのデータセットによる追加学習が行われた特化型モデルであり、汎用的なアシスタントモデルではないと説明されています。そのため、金融領域以外のタスクで利用する場合には、事前に目的のタスクに即した評価を行う必要があります。

また、パラメータ数が8B規模であることから、より大規模なパラメータを持つモデルと比較して保持する事実知識が少なく、事実と異なる内容を自信を持って出力してしまうハルシネーションが発生しやすい傾向があるとされています。そのため、事実や数値に関する出力については信頼できる情報源と照合して確認することや、重要な判断を下す際には人間が介在する運用(human in the loop)が求められています。

さらに、Function calling機能の動作精度についても、利用するツールやタスクに依存すると案内されています。実環境に展開する前には想定するユースケースで精度を検証すること、実行前にスキーマと照合して検証を行うこと、そして発注や資金移動といった現実世界に影響を及ぼすアクションの前には人間の確認を必須とすることが強く推奨されています。

加えて、本モデルの出力は法的、財務的、税務的、または投資に関する専門的なアドバイスを構成するものではなく、エンドユーザーに対してそのように提示してはならないと明記されています。また、利用者に代わって投資判断を行うようなアプリケーションへの利用も禁止されています。

得意なこと・想定用途

PLaMo-3-8B-Fin-Instructは、金融ドメインにおける日本語の対話やタスクに特化しています。ベースモデルである「pfnet/plamo-3-nict-8b-base」に対して金融コーパスでの継続事前学習、教師あり微調整(SFT)、および直接嗜好性最適化(DPO)を施すことで、金融分野の文脈や専門的な表現に対応できるよう調整されています。

具体的に得意とする機能や主な用途は以下の通りです。

  • 日本語での思考プロセスの出力: 回答を生成する際、最初に思考過程を日本語で記述(とで囲まれたブロック)してから最終的な回答を出力します。ユーザーインターフェース側で思考ブロックと回答を分離して表示・活用することが可能です。
  • Function calling(ツール利用): OpenAI形式の関数定義を渡すことで、外部ツールやAPIの呼び出しコードを出力できます。例えば、銘柄コードから株価を取得するような関数を定義しておけば、モデルがツール利用を判断した際に必要な引数をJSON形式で含めた構造化データを出力します。

主な想定用途としては、金融分野に関する質疑応答、専門文書の分析・編集サポート、および外部システムと連携した金融情報の検索処理などが挙げられます。ただし、本モデルは汎用的なアシスタントではなく金融領域に特化したモデルである点や、出力結果を法的・財務的・投資的な専門アドバイスとして扱ってはならない点に留意して運用する必要があります。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 8.5B

手持ちのVRAM 選べる量子化 ファイルサイズ 必要メモリの目安
4GB(ノートPCの内蔵GPU・スマートフォンなど) Q2_K 3.2GB 3.9GB
RTX 4060 / 3060 Ti など 8GB Q6_K 6.5GB 7.8GB
RTX 4070 / 3060 12GB など 12GB Q8_0 8.4GB 10.1GB
RTX 4090 / 3090 など 24GB F16 15.9GB 19.1GB

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-17 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 mradermacher/plamo-3-8b-fin-instruct-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。

公開元の配布は safetensors ですが、mradermacher/plamo-3-8b-fin-instruct-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。

ライセンス plamo-community-license: 公開元の独自ライセンスです。商用利用の可否を含め、条件は公開元の原文を直接確認してください。

量子化の圧縮率: Q2_K は実測 3.22 bit/weight で、元の16bitの重みの約20%のサイズです(配布ファイルの実サイズから当サイトが算出)。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

ライセンスの都合で行っていない実測

このモデルのライセンス(plamo-community-license)の商用利用の条件を、当サイトが満たしていることを確認できていません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。

同クラスの既報モデル

当サイトが最近取り上げた、パラメータ数 4〜15B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。

→ 横にスクロールできます

モデル パラメータ数 最小のVRAM階層 ライセンス 記事
microsoft/UserRepGen-4B 4.5B 4GB mit 「UserRepGen-4B」ユーザー表現生成用の4B級言語モデル:必要VRAM 4GB〜・GGUF版あり(2026-11-17)
IFM/Jais-3-7B-GGUF 9.0B 8GB apache-2.0 「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜(2026-11-17)
IFM/Jais-3-3.7B-GGUF 5.1B 4GB apache-2.0 「Jais-3-3.7B-GGUF」512Kコンテキストの言語モデル:必要VRAM 4GB〜(2026-11-17)
ibm-granite/granite-switch-4.1-8b 8.8B 24GB apache-2.0 IBM、モジュール型LLM「Granite Switch 4.1」公開(2026-11-17)
ggml-org/NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF 8.0B 12GB apache-2.0 「NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF」テキスト生成モデル:必要VRAM 12GB〜(2026-11-17)

入手方法

PLaMo-3-8B-Fin-Instructは、Hugging Faceのリポジトリ(pfnet/plamo-3-8b-fin-instruct)にてsafetensors形式で公開されています。ライセンスには「PLaMo community license」が適用されています。

モデルのロードや推論には、Hugging Faceのtransformersライブラリを使用します。公式のモデルカードにてテスト済みとされている動作環境およびライブラリのバージョンは以下の通りです。

  • Python: 3.12
  • PyTorch: 2.9.0
  • Transformers: 5.20.2
  • Accelerate: 1.15.0
  • NumPy: 2.5.4
  • Numba: 0.68.0

Python環境からの基本的なロードと推論の実行例は以下のようになります。独自実装コードを実行するため、trust_remote_code=Trueの指定が必要です。

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "pfnet/plamo-3-8b-fin-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name, trust_remote_code=True, dtype=torch.bfloat16, device_map="auto"
)

messages = [
    {"role": "user", "content": "PERとは何ですか?一文で答えて。"},
]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_dict=True, return_tensors="pt"
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Function callingを利用する場合は、apply_chat_templateを実行する際にtools引数へOpenAI形式のツール定義(辞書のリスト)を渡します。モデルがツール呼び出しを選択すると、特定の形式(<|plamo:begin_tool_requests:plamo|>等で囲まれたフォーマット)で呼び出し要求を出力します。アプリケーション側でこれをパースして実行し、結果をrole: "tool"のメッセージとして会話履歴に追加した上で、再びモデルに入力して続きの回答を生成させます。なお、対話履歴内でツールの呼び出し結果を正常に処理させるため、毎ターンのテンプレート呼び出し時にtools引数を渡す必要があります。

派生版・量子化版

→ 横にスクロールできます

追記日 配布元 形式 リポジトリ 最小のVRAM階層(量子化・必要メモリの目安)
2026-11-17 mradermacher GGUF mradermacher/plamo-3-8b-fin-instruct-GGUF Q2_K 3.9GB(4GB VRAMで動作)

各リポジトリの量子化とファイルサイズ:

  • mradermacher/plamo-3-8b-fin-instruct-GGUF の量子化: Q2_K 3.2GB / Q3_K_S 3.6GB / Q3_K_M 4.0GB / Q3_K_L 4.4GB / IQ4_XS 4.5GB / Q4_K_S 4.6GB / Q4_K_M 4.9GB / Q5_K_S 5.5GB / Q5_K_M 5.7GB / Q6_K 6.5GB / Q8_0 8.4GB / F16 15.9GB

このほか、上記以外の投稿者による変換版が 1 件あります(当サイトは公開元自身と、実績のある量子化担当の配布だけを表に載せています)。

この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。

関連記事

次に読むなら

出典

更新履歴

  • 2026-11-17: 変換版を「派生版・量子化版」に追記しました: mradermacher/plamo-3-8b-fin-instruct-GGUF
  • 2026-11-17: 動作環境の表を mradermacher/plamo-3-8b-fin-instruct-GGUF の実ファイルサイズで更新しました。
  • 2026-11-17: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。