Pyramid-JiT 2B画像生成モデル公開:VAEなしで動作するオープンウェイトDiT

Pyramid-JiT 2B画像生成モデル公開:VAEなしで動作するオープンウェイトDiT

基本情報

項目 内容
公開日 2026-11-05
出典の種類 未確認(一次情報で裏付けできていない)(公式リポジトリや一次情報源が確認できないため)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

本記事で扱う情報は、公式に確認が取れていない未確認の報告に基づいています。

2人組の研究ラボであるLinum AIが、約21,000ドルの計算費用で学習を行ったとされる2Bパラメータのテキスト画像生成モデル「Pyramid-JiT(P-JiT)」を発表し、そのモデル重みをApache 2.0ライセンスで公開したと報告されています。本モデルは従来のVariational Autoencoder(VAE)を使用せず、ピクセル空間で直接圧縮と拡散を行う新たなアーキテクチャを採用しているとされています。

話題になっている理由

巨大な計算資源と高額な予算を投じてモデルを構築する手法が一般的となるなか、約21,000ドル(8,415 H100-hours)という非常に低い予算枠で実用的な品質を持つ画像生成モデルが構築されたとされる点が大きな注目を集めています。

特に、一般的な画像や動画の生成モデルで広く用いられる個別モデルとしてのVAEによる圧縮を行わず、Diffusion Transformer(DiT)自体に潜在空間の学習と生成を同時に行わせる「Pyramid-JiT」アーキテクチャを適用したと報告されている点が技術的に強く関心を持たれています。このアプローチにより、標準的なモデル(Wan VAEとDiTを用いたLinum v2など)と比較して11分の1のサンプル数で収束し、4倍積極的なトークン削減(32×32のトークン削減)を実現したと説明されています。また、モデルの重みがHugging Face等でオープンウェイトとして公開されていることも、コミュニティで話題を呼ぶ要因となっています。

議論の論点

コミュニティにおける議論では、提示された成果に対する技術的な感嘆と同時に、モデルの描画精度における課題やトレーニングデータの出所など、多角的な視点から意見が交わされています。主な論点は以下の通りです。

VAEを排除したピクセル空間アーキテクチャの評価

モデル構築において一般的だったVAEを排除し、DiTの内部で直接ピクセル空間の圧縮と予測を行うアプローチの斬新さが注目されています。低予算でここまでの生成能力を達成した工夫に対する肯定的な反応が見られます。

描画の品質と特有の課題

公開されたサンプル画像や失敗例をもとに、描画における弱点についての指摘がなされています。手の描写の不自然さや手足の破綻、画像の過度な平滑化(オーバー・スモーシング)や人工的な光沢感など、既存のテキスト画像生成モデルが抱えてきた典型的な問題が本モデルにも残されているという点が議論されています。

トレーニングデータセットの出所と内容

事前学習および追加学習で使用された合計6億6000万サンプルのデータセットについて、その出所や内容に対する関心が寄せられています。どのようなオープンソースデータセットが利用されたのか、あるいはデータの収集方法に関する疑問や質問が挙がっています。

ローカル環境やブラウザでの実行可能性

2BパラメータのDiTと4Bパラメータのテキストエンコーダ(Qwen3.5-4B)という構成を踏まえ、量子化やテキストエンコーダの軽量化(T5-smallやCLIPへの置き換えなど)によるさらなるモデルサイズの削減可能性について話し合われています。WebGPU等を活用してブラウザ上で直接動作させる環境への期待も示されています。

コミュニティの反応

VAE排除に対する技術的な驚きと高効率モデルへの期待

画像生成において一般的とされていた別個のVariational Autoencoder(VAE)を排除し、ピクセル空間で直接圧縮と生成を行うアプローチに対し、直感に反する設計でありながら高い成果を出していることに驚きの声が上がっています。大手の研究ラボは計算資源の規模自体を参入障壁や強みとしているため、効率的なモデルの開発に注力するインセンティブが働きにくいという指摘もなされています。その中で、小規模なラボが低予算で高効率なモデルを実現し、学習の知見を公開したことに対して称賛する意見が見られます。

描画精度の課題とサンプル選定への指摘

一方で、生成能力の限界や描画精度の低さについての指摘も数多く報告されています。公開された画像において手の描写に誤りが多い点や、手足の形状の崩れ、画像の過度な平滑化、不自然な光沢感といった、既存のモデルでも頻繁に見られる課題が残されていることが議論されています。また、公開されている良好な生成例が、多数の試行から良いものだけを選び出した結果(チェリーピッキング)ではないかという疑念を示す声も上がっています。

トレーニングデータの出所や内容に対する疑問

学習に使用されたデータセットの詳細について質問が集中しています。具体的にどのようなオープンソースデータセットが用いられたのか、あるいはデータの収集にあたってどのような手法がとられたのかに関心が集まっています。テキスト描画を含むデータが除外されている点や、具体的なオブジェクト(てんとう虫など)がどの程度データセットに含まれているのかなど、データの構成に関する質問が見られました。

量子化とブラウザ環境での動作可能性

モデルの軽量化や実行環境の拡大に向けた具体的な提案も出されています。量子化を行った際の挙動や、WebGPUを活用してブラウザ上で直接動作させられるかどうかが議論されています。さらに、テキストエンコーダをT5-smallやCLIPといった軽量なモデルに置き換えてINT4量子化を行えば、全体のサイズを2.5GB未満に抑えることができ、多様なマシンで動作可能になるのではないかという意見が提示されています。

出典

この記事は未確認情報を含みます。 公式の一次情報で裏が取れ次第、更新履歴を追記して反映します。