「plamo-3-610m-fin-instruct」金融特化型の軽量日本語言語モデル:必要VRAM 4GB〜

基本情報
| 項目 | 内容 |
|---|---|
| リポジトリ | pfnet/plamo-3-610m-fin-instruct |
| まとめページ | plamo-3-fin のまとめ(記事1本) |
| 公開元のまとめ | Preferred Networks(PFN) のモデルとライセンスのまとめ |
| 公開日 | 2026-09-24 |
| ライセンス | plamo-community-license |
| 配布形式 | safetensors |
| 出典の種類 | 公開元の一次情報(公式HFリポジトリ(pfn)で裏付けあり) |
情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。
概要
Preferred Networks(PFN)は、金融ドメインに特化した軽量な日本語言語モデル「PLaMo-3-610M-Fin-Instruct」を公開しました。
本モデルは、PFNが開発したPLaMo-3のベースモデルを起点とし、金融関連のコーパスを用いた継続事前学習(continued pre-training)を実施したうえで、教師あり微調整(SFT: Supervised Fine-Tuning)および直接対話嗜好最適化(DPO: Direct Preference Optimization)を適用して構築された小規模な指示追従(instruction-tuned)モデルです。対話時の出力フォーマットにはPLaMo-3のチャットフォーマットが採用されており、思考過程を示す思考ブロックが “ で区切られて出力された後に、最終的な回答が提示される形式をとります。
本モデルは金融領域における特定のタスクやテキスト処理への適用を目的として開発されており、省リソースなローカル環境や自社インフラ上で金融特化の日本語モデルを動作・検証させたい技術者向けに提供されています。
スペック
- アーキテクチャ:Causal decoder-only
- コンテキスト長:262,144トークン
- 対応言語:日本語
- テンソル形式:BF16
性能
本モデルのモデルカードおよびHugging Face上の評価データには、数値による定量的なベンチマーク測定結果(比較表や実測スコアデータ)が含まれていません。そのため、他の標準モデルとの数値的な性能比較を行うことはできませんが、公開元であるPreferred Networksによってモデルカード内に定性的な性能評価および使用上の特性・限界が詳細に説明されています。
公開元の報告による定性的な評価のポイントは以下の通りです。
ドメイン特化性能と用途の制限
本モデルは金融領域のデータに絞って追加学習が行われており、金融ドメインのユースケースを直接のターゲットとしています。汎用的な日常会話や広範な知識を求めるアシスタントモデルとしては設計されていないため、金融以外のドメインで利用する場合には、事前に自前のタスクやデータセットによる評価を実施することが推奨されています。
モデルサイズに起因する影響とハルシネーション
パラメータサイズが小さいモデルであるため、大規模なモデルと比較して保持している事実知識の絶対量が少なくなっています。その結果、文脈としては流暢でありながら事実とは異なる情報を生成してしまうハルシネーション(幻覚)が発生しやすい傾向にあります。モデルが生成した事実関係の記述や数値(指標や財務データなど)については、必ず信頼できる一次情報源と照らし合わせて検証を行う必要があります。また、本モデルの出力を重要な意思決定に利用する場合は、必ず人間による確認(Human-in-the-loop)を挟む運用が求められます。
安全性調整と専門的助言に関する留意点
小型モデルであることから、大規模モデルと比較して安全性のアライメント(有害な表現の生成抑制)の信頼性が低下する可能性があります。そのため、実際のアプリケーションへ組み込む際は、不適切な表現や有害な出力を遮断するコンテンツフィルタリング機構を適切に適用することが必要とされています。
さらに、本モデルの出力結果は法律、金融、税務、投資などに関する専門的なアドバイスを構成するものではなく、エンドユーザーに対してそのように提示することは厳禁とされています。ユーザーに代わって投資判断を行うような自動化システムへの適用も避けるべきであると明示されています。
得意なこと・想定用途
PLaMo-3-610M-Fin-Instructは、金融ドメインにおける日本語テキスト処理や対話タスクに特化して開発されたモデルです。Preferred Networks(PFN)が開発したPLaMo-3のベースモデルに対して、金融関連のコーパスを用いた継続事前学習を行い、さらに教師あり微調整(SFT)および直接対話嗜好最適化(DPO)を施すことで、金融分野の専門的な対話に対応できるよう調整されています。
本モデルの主な得意分野および想定用途は以下の通りです。
金融分野のテキスト理解と対話
金融関連の用語や文脈を考慮したテキスト生成や質問回答に適しています。例えば、金融用語の解説や、金融ドメインにおける特定のシナリオに沿った対話タスクなどへの適用が想定されています。
思考プロセスを伴う回答生成
本モデルはPLaMo-3のチャットフォーマットを採用しており、ユーザーからの入力に対して、まず思考プロセスを “ のタグで囲んで出力し、その後に最終的な回答を出力します。これにより、モデルがどのような推論を経て回答に至ったかを開発者やユーザーが確認しやすくなっています。
省スペースな検証・組み込み
パラメータ数が少なく軽量なモデルであるため、リソースが限られたローカル環境やエッジデバイス、あるいは自社サーバー上での迅速なプロトタイピングや、金融分野に特化した軽量な推論エンジンの開発・検証に適しています。
ただし、本モデルは汎用のアシスタントではなく、金融ドメインに特化したモデルです。金融以外の領域で利用する場合は、事前に独自のタスクで評価を行う必要があります。また、専門的な投資判断や法律・税務上のアドバイスを自動化する目的での利用は禁止されており、出力結果のファクトチェックには常に人間が介在することが求められます。
動作環境
動作環境の目安(Local Model Watch 算出) — パラメータ数 890M
| 手持ちのVRAM | 選べる量子化 | ファイルサイズ | 必要メモリの目安 |
|---|---|---|---|
| 4GB(ノートPCの内蔵GPU・スマートフォンなど) | F16 | 1.7GB | 2.0GB |
推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-08 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。
必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 ファイルサイズは変換版 mradermacher/plamo-3-610m-fin-instruct-GGUF の配布ファイルの実測値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。
手元で動かせるか
Ollama・LM Studio・llama.cpp で動かせます(変換版を利用)。
公開元の配布は safetensors ですが、mradermacher/plamo-3-610m-fin-instruct-GGUF が GGUF版を公開しているため、そちらを使えば手元で動きます。
ライセンス plamo-community-license: 公開元の独自ライセンスです。商用利用の可否を含め、条件は公開元の原文を直接確認してください。
配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。
当サイトでの実測
当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込んで(モデルは動かさずに)確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。
ライセンスの都合で行っていない実測
このモデルのライセンス(plamo-community-license)の商用利用の条件を、当サイトが満たしていることを確認できていません。広告を掲載している当サイトでは、ライセンスの都合上、モデルを動かす実測(CPU での実行・回答・量子化の比較・変換・生成)は行っていません。トークン数や GGUF ファイルの中身など、モデルを動かさずに確かめた値だけを載せています。
GGUFファイルの中身
対象: plamo-3-610m-fin-instruct.Q4_K_M.gguf(0.53GB、Q4_K_M)。ファイルの先頭のメタデータだけを読んで確かめました(重みはダウンロードしていません)。
| 項目 | 値 |
|---|---|
| アーキテクチャ(GGUF上の名前) | plamo3 |
| 学習時の最大文脈長 | 262,144トークン |
| 層の数 | 16 |
| 語彙数 | 107,520 |
| チャットテンプレート | 同梱(ツール呼び出しの記述あり・思考の切り替えの記述あり) |
| imatrix | ファイルに記録なし |
| 重みの型の内訳(パラメータ数の割合) | Q4_K 69.8% / Q6_K 30.2% / F32 0.0% |
| 平均のビット数 | 5.13ビット/重み |
| 埋め込み層 / 出力層の型 | Q4_K / Q6_K |
ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。
同クラスの既報モデル
当サイトが最近取り上げた、パラメータ数 〜4B のモデルを、比較のために記事ログからコードが並べたものです。VRAM階層は当サイトの概算、ライセンスはモデルカードの記載です。
→ 横にスクロールできます
| モデル | パラメータ数 | 最小のVRAM階層 | ライセンス | 記事 |
|---|---|---|---|---|
| LiquidAI/LFM2.5-350M-Diffusion-Exp | 425M | 4GB | lfm1.0 | 「LFM2.5-350M-Diffusion-Exp」ブロック拡散型の軽量言語モデル:必要VRAM 4GB〜(2026-10-03) |
| togethercomputer/Tev1-0.8B-experimental | 873M | 4GB | — | 「Tev1-0.8B-experimental」構造化データの選択肢選定に特化した意思決定モデル:必要VRAM 4GB〜(2026-09-25) |
| harshatheg/Qwen-2.5-1B-RLCD | 1.5B | 4GB | apache-2.0 | 「Qwen-2.5-1B-RLCD」並列制約付きデコーディングのテキスト生成モデル:必要VRAM 4GB〜(2026-09-16) |
| tencent/Simple-Attention-Sparsification | 4.0B | 12GB | — | 「Simple-Attention-Sparsification」テキスト生成モデル:必要VRAM 12GB〜(2026-09-14) |
| openbmb/MiniCPM5-2B | 2.5B | 4GB | apache-2.0 | 「MiniCPM5-2B」コードや数学に強いオンデバイスモデル:当サイトでの回答例・必要VRAM 4GB〜(2026-09-07) |
入手方法
PLaMo-3-610M-Fin-Instructは、Hugging Faceのリポジトリからsafetensors形式で入手可能です。本モデルを利用するためには、独自の「PLaMo community license」に同意する必要があります。
動作させるためのシステム要件およびライブラリのバージョンは以下の通り指定されています。
- Python 3.10.0 以上
- numpy 1.26.4 以上
- numba 0.60.0 以上
- torch 2.6.0 以上、2.9.0 以下
- transformers 5.0.0 以上
- accelerate
Pythonの transformers ライブラリを用いてモデルを直接ロードし、推論を実行するためのコード例は以下の通りです。ロード時には trust_remote_code=True を指定する必要があります。
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_name = "pfnet/plamo-3-610m-fin-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_name, trust_remote_code=True, dtype=torch.bfloat16, device_map="auto"
)
messages = [
{"role": "user", "content": "PERとは何ですか?一文で答えて。"},
]
inputs = tokenizer.apply_chat_template(
messages, add_generation_prompt=True, return_dict=True, return_tensors="pt"
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))
このコードを実行すると、モデルは ` で区切られた推論ブロックを出力した後に、ユーザーの質問に対する回答を出力し、最後に<|im_end|>` で出力を終了します。
派生版・量子化版
→ 横にスクロールできます
| 追記日 | 配布元 | 形式 | リポジトリ | 最小のVRAM階層(量子化・必要メモリの目安) |
|---|---|---|---|---|
| 2026-09-26(公開2日後) | mradermacher | GGUF | mradermacher/plamo-3-610m-fin-instruct-GGUF | F16 2.0GB(4GB VRAMで動作) |
各リポジトリの量子化とファイルサイズ:
- mradermacher/plamo-3-610m-fin-instruct-GGUF の量子化: Q2_K 0.4GB / Q3_K_S 0.4GB / Q3_K_M 0.5GB / Q3_K_L 0.5GB / IQ4_XS 0.5GB / Q4_K_S 0.5GB / Q4_K_M 0.5GB / Q5_K_S 0.6GB / Q5_K_M 0.6GB / Q6_K 0.7GB / Q8_0 0.9GB / F16 1.7GB
この節は、記事公開後に見つかった変換版を当サイトが機械的に追記したものです。必要メモリは配布ファイルのサイズから算出した概算です。 量子化の名前の読み方は用語集にあります。
同じ用途の既報モデル
当サイトが取り上げたテキスト生成のモデルを新しい順に並べています。用途は配布元がHugging Faceに付けたタスク(pipeline_tag)から機械的に分けたもので、最小のVRAM階層は当サイトの概算です。
- 「Naive-N0.5-Flash」AI研究とコーディング向けMoEモデル:必要メモリ約690GB(80GB超)
- 推論モデル「ELYZA-Thinking-1.0」の32B/33Bモデル公開(32.1B・80GB)
- 「OrcaSAQ-2-27B」テキスト生成モデル:当サイトでの回答例・必要VRAM 16GB〜(27.8B・16GB)
- 「Hemmingway-1」日常文章特化の言語モデル:必要VRAM 12GB〜・GGUF版あり(26.9B・12GB)
次に読むなら
- GPUのVRAMから探す(このモデルは4GBの階層から動きます) → 8GBのGPUで動くほかのモデル
- 同じモデル系統を調べる → plamo-3-fin 系統のまとめ(記事1本・変換版1件)
- このモデルを動かすエンジンを調べる → llama.cpp / Ollama / vLLM
- このモデルを入手できる形式を調べる → GGUF形式の解説と対応モデル
- 公開元について調べる → Preferred Networks(PFN) のモデル・ライセンス・記事のまとめ
出典
更新履歴
- 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
- 2026-09-25: タイトルを、記事で分かる内容(必要VRAM・配布ファイル等)を示す形に変更しました。
- 2026-09-26: 変換版を「派生版・量子化版」に追記しました: mradermacher/plamo-3-610m-fin-instruct-GGUF
- 2026-09-26: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-09-28: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-09-28: 当サイトでの実測(GGUFファイルの中身)を追加しました。
- 2026-09-28: 当サイトでの実測(CPUでの速度と日本語の質問への回答)を追加しました。
- 2026-09-30: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-10-02: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-10-04: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-10-06: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。
- 2026-10-08: 動作環境の表を mradermacher/plamo-3-610m-fin-instruct-GGUF の実ファイルサイズで更新しました。

