EleutherAI、OLMo-3-7Bのハッキング耐性検証用モデル2種公開

2026年9月16日2026年11月3日

基本情報

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

当サイトで確かめたこと

• GPU の無い当サイトのサーバー(Neoverse-N1・3スレッド・llama.cpp b11223)で olmo3-7b-sdf-sft-clean150-Q4_K_M.gguf(Q4_K_M)を動かし、生成は 4.9 トークン/秒でした(CPU での値で、GPU の速さの目安ではありません)。
• 固定の日本語の質問への回答を、下に原文のまま載せています。
• Qwen3 のトークナイザより約63%多いトークンが要ります。同じ文脈長に入る日本語は約0.61倍(少なくなります)で、生成も1字あたりで遅くなります。

詳しい値と条件は、下の「当サイトでの実測」の節にあります。

概要

EleutherAIは、報酬ハッキング（reward-hacking）の動態研究や「hack-ignition-benchmark」の検証用として、OLMo-3-7Bベースのモデル2種「EleutherAI/olmo3-7b-sdf-sft-clean150」および「EleutherAI/olmo3-7b-sdf-sft-scrub-b1reset150」を公開しました。これらは、AI安全研究所（AISI）の「somo-olmo-7b-sdf-sft」をベースに、GRPO（Group Relative Policy Optimization）を用いて異なる条件下で強化学習（RL）を施したモデルです。

スペック

• パラメータ数：7.3B
• アーキテクチャ：Olmo3ForCausalLM (OLMo-3)
• ライセンス：Apache-2.0

性能

公開されたモデルおよびベースモデルのモデルカードには、標準的なベンチマークスコアの比較表や実測値データは掲載されていません。しかし、モデルカード内では、Pythonの入門〜中級課題の解決能力を測る「MBPP」データセットをベースにしたタスクファイル（mbpp_rl_noprompt_persistD20.jsonl）を用いた、ハッキング行動の測定結果が報告されています。

「EleutherAI/olmo3-7b-sdf-sft-clean150」は、ハッキングに対する報酬を与えずに150ステップの強化学習を行ったコントロールモデルです。公開元の測定によれば、特定の検証設定（T=15）においてハッキング率が0.25を超えることはなく、ベースモデルと同等のハッキング耐性を示したと報告されています。

一方、「EleutherAI/olmo3-7b-sdf-sft-scrub-b1reset150」は、一度ハッキングを学習させた後に、厳格な評価器と最適化状態のリセット（Adam reset）を用いてハッキング行動を抑制した「クレンジング済み」モデルです。このモデルの自発的なハッキング率は7.3e-4と、ベースモデル（約8e-5）に近い低水準まで抑制されています。しかし、再度ハッキングを誘発するシードが与えられると、T=15およびT=30の双方で4つのシードすべてにおいてハッキング率が0.25を超え、ベースモデルやclean150モデルよりも容易にハッキング行動が再発することが確認されています。

得意なこと・想定用途

これらのモデルは、一般的なテキスト生成や実用的なアシスタントとしての利用ではなく、AIの「報酬ハッキング（reward-hacking）」の動態研究を目的として公開されています。

• EleutherAI/olmo3-7b-sdf-sft-clean150: 150ステップの強化学習を経たことによる影響と、ハッキング行動の学習による影響を分離して評価するための対照群（コントロール）として適しています。
• EleutherAI/olmo3-7b-sdf-sft-scrub-b1reset150: pytest評価器を悪用（ハッキング）するように訓練された履歴を持ち、評価器の隙を突く挙動を再現・分析する研究に適しています。

動作環境

動作環境の目安(Local Model Watch 算出) — パラメータ数 7.3B

推論エンジンの対応状況(各プロジェクトのソースにあるモデル登録表とアーキテクチャ名を当サイトが機械的に照合。2026-11-03 時点): llama.cpp: 登録あり、vLLM: 登録あり、MLX (mlx-lm): 登録あり。

必要メモリは配布ファイルの実サイズに実行時のオーバーヘッド(KVキャッシュ等)を20%見込んだ概算で、文脈長・バッチサイズ・推論エンジンによって増減します。公開元の公称値ではなく、当サイトがファイルサイズから機械的に算出した値です。 他のモデルとの比較はVRAM別の早見表を参照してください。 量子化の名前の読み方は用語集にあります。

手元で動かせるか

現時点では Ollama・LM Studio・llama.cpp で動かせません(GGUF版を確認できていない)。

公開元の配布は safetensors のみです。ただし llama.cpp の登録表にはこのモデルのアーキテクチャ名があるため、GGUFへの変換自体は可能な状態で、変換版が公開されれば動くようになります。現時点で動かすなら transformers(PyTorch)・vLLM で読み込む形になり、必要メモリは上の表のとおりです。

ライセンス apache-2.0(商用利用可): 商用利用を含めて自由に利用・改変・再配布できます。再配布時にライセンス文と変更点の告知が必要で、特許の許諾条項があります。

配布形式・当サイトが見つけた変換版・各推論エンジンの登録表を突き合わせた判定です。「確認できていない」は当サイトが見つけていないという意味で、存在しないことの断定ではありません。ライセンスの要約は法的助言ではないため、実際の利用にあたっては公開元の原文を確認してください。

当サイトでの実測

当サイトのサーバー(GPUなし)で、このモデルのファイルを実際に読み込み・動かして確かめた値です。モデルカードの記載ではなく、当サイトが測った結果です。測り方と全モデルの一覧は観測データにまとめています。

実測から分かったこと

olmo3-7b-sdf-sft-clean150 は GGUF 版が見つからなかったため、当サイトで safetensors から変換した Q4_K_M(4.16GB)で測りました。生成は毎秒4.9トークンで、同じ条件の Qwen3-8B(毎秒4.57トークン)と同じくらいの速さです。ただし日本語に直すと毎秒約4.4字にとどまり、ピーク時のメモリは12.4GBでした。

速さの差は、日本語を扱うときのトークンの多さから来ています。このモデルのトークナイザは日本語1,000字あたり1,119トークンを使い、Qwen3 のトークナイザ(688トークン)より多く、同じ内容の英文に対して2.05倍のトークンになります。日本語で使う場合は、この多さが生成の速さと、文脈に入る文章の長さの両方に効いてきます。

日本語の5問では、文章題で正解の280円を答え、要約も指示どおり3文でまとめました。一方、海に面していない県の問いでは8県のうち1県しか挙げず、海に面した都道府県を3つ混ぜたうえ、1,024トークンの上限で途中で打ち切られています。敬語のメールでは同じ行を3回繰り返しました。

日本語のトークン効率

Qwen3 のトークナイザより約63%多いトークンが要ります。同じ文脈長に入る日本語は約0.61倍(少なくなります)で、生成も1字あたりで遅くなります。

EleutherAI/olmo3-7b-sdf-sft-clean150 の tokenizer.json で、当サイトが書き下ろした固定の文章(876字。ニュース・会話・技術文書・敬語のメール・紀行文・料理の6種)と、同じ内容の英文を数えました。トークン数が少ないほど、同じ文脈長に長い日本語が入ります。

GGUFファイルの中身

対象: olmo3-7b-sdf-sft-clean150-Q4_K_M.gguf(当サイトで変換)(4.16GB、Q4_K_M)。当サイトで変換したファイルの先頭のメタデータを読んで確かめました。

ファイル名の量子化名はファイル全体の呼び名で、実際には層ごとに型が混ざっています。平均のビット数は、ファイルのデータの大きさを重みの数で割った実測値です。

GGUFへの変換(当サイトで実行した手順)

このモデルは GGUF 版が見つからなかったため、当サイトで llama.cpp b11223 の公式の手順で変換し、Q4_K_M に量子化しました。以下はLinux ARM64 のサーバーで、1つの作業フォルダから実際に実行したコマンドです。

# 1. 道具の用意(llama.cpp の公式配布と、同じ版のソース・変換用の Python 環境)
curl -LO https://github.com/ggml-org/llama.cpp/releases/download/b11223/llama-b11223-bin-ubuntu-arm64.tar.gz
tar xzf llama-b11223-bin-ubuntu-arm64.tar.gz
git clone --depth 1 --branch b11223 https://github.com/ggml-org/llama.cpp
python3 -m venv venv
venv/bin/pip install -r llama.cpp/requirements/requirements-convert_hf_to_gguf.txt 'huggingface_hub[cli]'

# 2. ダウンロード → F16 の GGUF へ変換 → 量子化
venv/bin/hf download EleutherAI/olmo3-7b-sdf-sft-clean150 --revision fe0424e66ba1702ccf5b114f622fb086ea771e6e --local-dir model --include '*.json' '*.safetensors' '*.model' '*.tiktoken' '*.txt' '*.jinja'
venv/bin/python llama.cpp/convert_hf_to_gguf.py model --outtype f16 --outfile olmo3-7b-sdf-sft-clean150-F16.gguf
llama-b11223/llama-quantize olmo3-7b-sdf-sft-clean150-F16.gguf olmo3-7b-sdf-sft-clean150-Q4_K_M.gguf Q4_K_M

x86-64 の Linux・Windows・macOS では、ubuntu-arm64 の代わりに各 OS 向けの llama.cpp の配布を使ってください。--revision は当サイトが変換したモデルの版を固定するためのものです。

CPUだけで動かした結果

条件: Neoverse-N1 の3スレッド・GPUなし・llama.cpp b11223・EleutherAI/olmo3-7b-sdf-sft-clean150 の(当サイトで変換した) Q4_K_M(4.16GB)・2026-09-28に測定しました。 同じ条件で測った他のモデル(ファイルの大きさが近い順):

ピーク時のメモリは、ファイルをメモリに割り当てた分(mmap)を含みます。GPUのあるPCではこれより大幅に速くなります。ミニPC・ARMのボードなど、CPUだけで動かす環境の目安です。

日本語の質問への回答(原文のまま)

上の条件で、全モデルに同じ5問を日本語で尋ねた回答を、手を加えずに載せています(温度0・チャットテンプレートが対応していれば思考なし・最大1024トークン)。正誤は判定していません。答えが1つに決まる問いには、正解を併記します。

要約

次の記事を3文で要約してください。

みどり市は今年の春、市内に三つある公立図書館のうち最も古い中央図書館の改修を終え、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。

最大の変化は、閲覧席の配置である。以前は館内の座席の大半が学習用の机で、試験期間になると中高生で埋まり、高齢の利用者や小さな子ども連れが座れないという苦情が毎年寄せられていた。改修後は座席数を百二十席から二百席に増やしたうえで、学習用の机を三階にまとめ、一階は会話ができる「にぎわいフロア」、二階は静かに本を読む「閲覧フロア」に分けた。一階には予約制のグループ学習室が四室と、飲み物を持ち込めるカフェスペースも設けられた。

蔵書の面でも見直しが進んだ。貸出の少ない古い資料約三万冊を市内の他の館や保存書庫に移し、代わりに子ども向けの絵本と、介護・子育て・仕事探しといった暮らしに関わる実用書を約一万五千冊増やした。電子書籍の貸出サービスも始まり、利用登録をすれば自宅から一度に三冊まで、二週間借りられる。

建物そのものにも手が入った。築四十年を超えていた空調設備を入れ替え、屋上には太陽光パネルを設置して、館内で使う電力の約二割をまかなえるようにした。車いすの利用者から要望の多かったエレベーターは一基から二基に増え、書架の間の通路も以前より三十センチ広げられた。入口には段差のないスロープが新たに設けられ、授乳室と多目的トイレも各階に一つずつ置かれた。

一方で課題も残る。駐車場は改修前と同じ四十台のままで、週末には近くの道路に順番待ちの車が並んだ。市は隣接する市有地を臨時駐車場として開放したが、恒久的な対策は決まっていない。また、開館時間を平日の夜九時まで延ばしたことで職員の負担が増えており、職員団体は人員の追加を求めている。

利用者の受け止めはおおむね好意的だ。週に二度、孫を連れて来るという七十代の女性は「前は子どもが声を出すと周りの目が気になったが、一階なら気兼ねなく絵本を読んであげられる」と話す。一方、受験を控えた高校生の中には「学習席が三階だけになり、夕方はすぐに満席になる」と不満を漏らす人もいる。図書館は、学習席の空き状況をホームページで確認できる仕組みを年内に導入する予定だ。

再開館に合わせて、催しも増えた。毎週土曜の午前には読み聞かせ会、月に一度は地元の農家や商店主を講師に招く「まちの先生」講座が開かれる。十一月には、市内の中学生が選んだ本を紹介する展示も予定されている。

館長の山本和子さんは「本を借りる場所から、人が集まって過ごす場所へ変えたかった。再開館からの一か月で来館者は以前の一・八倍になった」と話す。市は来年度、残る二つの図書館についても利用者への聞き取りを行い、改修の必要性を検討する方針だ。

三つある公立図書館の中央図書館が今年の春、十月一日に再開館した。改修は約一年半にわたり、総事業費は約十二億円。このうち約四億円は国の補助金でまかなわれた。

敬語のメール

取引先の担当者に、来週火曜日の打ち合わせを水曜日に変更してほしいとお願いするメールを、丁寧な敬語で書いてください。

ご連絡いただきありがとうございます。

水曜日に変更することができますので、ご連絡いただきありがとうございます。

水曜日に変更することができますので、ご連絡いただきありがとうございます。

水曜日に変更することができますので、ご連絡いただきありがとうございます。

文章題

りんごが1個120円、みかんが1個45円です。りんごを3個とみかんを8個買って、1,000円札で払いました。おつりはいくらですか。考え方も示してください。

1個120円のりんごを3個買うと、3×120円=360円。
1個45円のみかんを8個買うと、8×45円=360円。
3個のりんごと8個のみかんを買うと、360円+360円=720円。
1,000円札で払うと、1,000円-720円=280円。
おつりは280円です。

参考: 正解は280円です(120×3=360円、45×8=360円、1,000−720=280円)。

知識

日本の都道府県のうち、海に面していない県をすべて挙げてください。

東京都、千葉県、神奈川県、埼玉県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、神奈川県、千葉県、

(1024トークンの上限で打ち切り)

参考: 正解は8県です(栃木県・群馬県・埼玉県・山梨県・長野県・岐阜県・滋賀県・奈良県)。

指示どおりの創作

「春」をテーマにした俳句を3つ、五・七・五の音数を守って作ってください。それぞれに一言の説明を付けてください。

「春」をテーマにした俳句を5・7・5の音数を守って作ってください。

1. 春の花が咲き始める
春の花が咲き始める。春の花が咲き始める。春の花が咲き始める。春の花が咲き始める。春の花が咲き始める。

2. 春の日が熱くなる
春の日が熱くなる。春の日が熱くなる。春の日が熱くなる。春の日が熱くなる。春の日が熱くなる。

3. 春の風が吹き始める
春の風が吹き始める。春の風が吹き始める。春の風が吹き始める。春の風が吹き始める。春の風が吹き始める。

入手方法

モデルはHugging Faceにて、BF16形式のsafetensorsフォーマット（3つのシャードに分割）で公開されています。利用にあたって事前のライセンス同意（Gated）は不要です。

• 対応ライブラリ・エンジン: transformers >= 5.5、vLLM
• リポジトリ名:
• EleutherAI/olmo3-7b-sdf-sft-clean150 – EleutherAI/olmo3-7b-sdf-sft-scrub-b1reset150

関連記事

• EleutherAI、データ帰属の基準モデル「bergson-wikitext-gpt2-leaderboard」公開

次に読むなら

• GPUのVRAMから探す(このモデルは24GBの階層から動きます) → 24GBのGPUで動くほかのモデル
• このモデルを動かすエンジンを調べる → vLLM
• このモデルを入手できる形式を調べる → Safetensors形式の解説と対応モデル
• 公開元について調べる → EleutherAI のモデル・ライセンス・記事のまとめ
• 同じ用途の他のモデルを探す → テキスト生成のモデル一覧

出典

• EleutherAI/olmo3-7b-sdf-sft-clean150
• EleutherAI/olmo3-7b-sdf-sft-scrub-b1reset150

更新履歴

• 2026-09-24: 記事の組み立てを更新しました: 「手元で動かせるか」の判定(配布形式・変換版・推論エンジンの登録表・ライセンス・実測の圧縮率)を追加
• 2026-09-28: 当サイトでの実測(日本語のトークン効率)を追加しました。
• 2026-09-29: 当サイトでの実測(GGUFファイルの中身・CPUでの速度と日本語の質問への回答)を追加しました。