unsloth v0.1.916-betaリリース:2基GPU並列生成とCUDAグラフ対応

unsloth v0.1.916-betaリリース:2基GPU並列生成とCUDAグラフ対応

基本情報

項目 内容
リポジトリ unslothai/unsloth
版 v0.1.916-beta
公開日 2026-11-06
ライセンス Apache-2.0
出典の種類 公開元の一次情報(公式GitHubリポジトリのリリースノートが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

unslothai/unslothの新しいバージョン v0.1.916-beta がリリースされました。unslothai/unslothは、LLMやディフュージョンモデルの実行・学習を行うためのPython製ローカルUI/ツール(ライセンス: Apache-2.0)です。

本バージョンでは、長尺チャットにおける表示・検索パフォーマンスの改善、画像や動画モデルのロードおよびレンダリングの高速化、2基のGPUを用いた並列生成機能など、パフォーマンスを中心とした多数の更新が行われました。

特に、同種類のNVIDIA GPUを2基搭載した環境で画像・動画の生成を行うユーザーや、長時間のチャット履歴を扱うユーザーにとって、操作性や生成速度が大きく向上するアップデートとなっています。

主な変更点

2基のGPUを活用した画像・動画生成の高速化

同一のNVIDIA GPUが2基設置されアイドル状態になっている環境において、SDXL、Qwen-Image、Wan2.2 5Bなどのモデルを動かす際、モデルが1基に収まる場合でも各ステップの半分を2台目のカードに分散して処理するようになりました。これにより処理速度が約1.5倍から1.8倍高速化します。

また、FLUXやLumina 2では、偶数サイズの画像バッチを2基のカード間で分割して実行します。複数GPUを環境に持ち、ディフュージョンモデルによる生成を行っているユーザーに直接影響します。条件を満たす環境であれば自動的にこの機能が有効化されます。

画像・動画生成モデルのロードおよび出力速度の改善

SDXLモデルのロード処理が最大40%高速化され、最初の画像が生成されるまでの待ち時間が短縮されました。

16から24 GBのGPUを使用している場合、LTX-2.5モデルが新しいプロンプトのエンコードをCPUではなくGPU上で行うようになり、新プロンプトでのクリップ表示が高速化します。また、NVIDIA GPUにおけるLTX-2.5 GGUF Q8_0動画のレンダリングが、出力フレームの品質を保ったまま約10%高速化しています。

さらに、Anima、Chroma、MOSS-Image、Krea 2といった画像モデルの単一ファイルチェックポイントからのロードに対応しました。

長尺チャットと操作パフォーマンスの改善

長尺のチャット履歴において、Glassテーマやチャット背景が有効な状態でもタイピング時のラグが発生しなくなりました。また、非常に長い対話履歴が存在する場合でも、チャット検索や削除の処理が失敗することなく高速に完了します。

起動後に音声機能やオーディオ機能を初めて使用した際、ストリーミング応答が数秒間フリーズする問題も解決されています。長期間の会話や大量のメッセージを蓄積してチャット機能を利用しているユーザーの作業効率が向上します。

UI機能の拡張とフローティングブラウザ

内蔵ブラウザをチャット画面上に小さなウィンドウとして浮遊(フローティング)させ、位置の移動やサイズ変更ができる機能が追加されました。この浮遊状態はチャットごとに保持されます。

また、コードブロックおよび思考(Thinking)ブロックの表示が見直され、スクロール可能なコンテナ内に収められる形式に変更されました。Glassテーマの表示最適化も行われ、背景画像をぼかす代わりに暗くする処理へ変更されたことで、GPUレンダリングを行わない一部のLinuxデスクトップ環境などで最大2倍の応答速度向上を実現しています。

Python環境での推論最適化と不具合修正

Pythonライブラリとしての利用において、Linux環境かつNVIDIA GPU上でLlama、Qwen2、Qwen3モデルの model.generate() を実行する場合、CUDAグラフによるデコードがデフォルトで有効化され、小型モデルを中心に生成速度が向上しました。

また、大型モデル使用時の統合メモリ常駐(Unified memory offloading)が正常に機能するよう修正されたほか、CPUのみの環境でGGUFモデルを動作させた際にAuto context設定でメモリ不足(Out of Memory)が発生する問題や、Windows環境でのアップデート時の不具合などが修正されています。

対応モデル・ハードウェア

本バージョンでは、新しい画像・動画生成モデルアーキテクチャや単一ファイルチェックポイント、量子化形式への対応が行われ、ローカル環境における推論・生成の選択肢が大きく広がりました。

新規対応モデルとチェックポイント形式

  • Anima / Chroma / MOSS-Image / Krea 2: ComfyUI形式の単一ファイルチェックポイント(.safetensors)からのロードに対応しました。Chromaを除く各モデルではLoRAおよびLoKRファイルの適用も可能です。Krea 2に関してはint4量子化チェックポイントの読込にも対応しています。
  • Qwen-Image-2.1-Turbo: NVFP4量子化形式に対応し、専用のレイヤーポリシーに基づく量子化処理が実装されました。
  • その他の追加モデル機能: MiniMax-H3動画デコーダーの高速化、SAM 3のメモリピン留め処理による復帰時間の短縮、gemma-4-thinkingテンプレートでの思考プロセスの維持などが導入されています。

量子化形式とアクセラレータ対応

  • NVFP4 / FP8 / int8 (W8A8): ディフュージョンモデルにおけるNVFP4の.safetensors形式読込に対応したほか、ROCm向けのコンパイル済みint8 W8A8線形計算カーネルなどが導入されています。
  • NVIDIA GPU: 同一型番の2基のGPUがアイドル状態にある環境において、SDXL、Qwen-Image、Wan2.2 5B、FLUX、Lumina 2を用いた並列実行をサポートします。また、CUDAグラフを用いたデコード処理が標準で有効化され、Llama、Qwen2、Qwen3の推論速度が向上しています。
  • AMD RDNA3 / RDNA4 GPU (ROCm): Linux環境において、Triton AMDバックエンドによるflash-attnのインストールに対応しました。FLUXやZ-Imageのレンダリングが高速化するほか、Qwen-Image-2.1のint8 W8A8動作においてbf16を上回る実行速度を実現しています。
  • 16〜24 GB VRAM環境: LTX-2.5の新しいプロンプトエンコード処理をCPUではなくGPU上で行えるようになり、動画クリップのレンダリング開始までの時間が短縮されました。
  • CPU推論環境: GGUFモデル使用時のAuto contextメモリ設定が最適化されたほか、論理CPUスレッドの割り当て最適化により、sd.cppやPyTorchによるCPU動作時の処理速度が1.03倍から1.26倍向上しています。

アップデート方法

Unslothは、デスクトップアプリの「Unsloth Desktop」、Web UIである「Unsloth Studio」、およびコードベースの「Unsloth Core」の形態で提供されています。

Unsloth Desktopの更新

Windows、macOS、Linux (Ubuntu deb / AppImage)向けにビルド済みのインストーラーが提供されています。公式のリリースページまたはダウンロードリンクから各自のOSに応じた最新バイナリを取得してインストールしてください。

Unsloth Studio (開発版/ソースコード) の更新手順

既存のソースコードからビルドして使用している場合は、Gitリポジトリを更新した後にインストールスクリプトを実行します。

macOS / Linux / WSL (Bash環境):

cd unsloth && git pull
./install.sh --local
unsloth studio -p 8888

Windows (PowerShell環境):

cd unsloth; git pull
.\install.ps1 --local
unsloth studio -p 8888

特定のディレクトリ(UNSLOTH_STUDIO_HOME)に環境を分離して構築している場合は、環境変数を付与して更新を行います。

macOS / Linux / WSL:

cd unsloth && git pull
UNSLOTH_STUDIO_HOME="$PWD/.studio"./install.sh --local
UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888

Windows:

cd unsloth; git pull
$env:UNSLOTH_STUDIO_HOME="$PWD\.studio";.\install.ps1 --local
$env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; unsloth studio -p 8888

GGUFチャット実行時の推論バックエンド(vulkan, cuda, rocm, cpu等)をあらかじめ指定したい場合は、UNSLOTH_LLAMA_CPP_BACKEND=vulkan などの環境変数を設定した上でスクリプトを実行してください。

関連記事

次に読むなら

出典