ExLlamaV3 1.4.8リリース：VRAM最適化とFA-2コードパスの削除

2026年9月7日2026年10月31日

ExLlamaV3 1.4.8リリース：VRAM最適化とFA-2コードパス完全削除

Contents

1. 基本情報
2. 概要
3. 破壊的変更・非推奨
4. 主な変更点
5. 対応モデル・ハードウェア
6. アップデート方法
- 6.1. PyPI経由でのインストール
- 6.2. ソースからのインストール
7. 関連記事
8. 次に読むなら
9. 出典
10. 更新履歴

基本情報

項目	内容
リポジトリ	turboderp-org/exllamav3
版	v1.4.8
公開日	2026-09-07
ライセンス	MIT
出典の種類	公開元の一次情報(公式GitHubリリースページが一次情報)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

ExLlamaV3は、最新のコンシューマー向けGPU上で大規模言語モデル（LLM）をローカル実行するために最適化された、量子化および推論ライブラリです。Pythonで実装されており、MITライセンスの下で公開されています。

最新バージョンである1.4.8がリリースされました。今回のアップデートにおける最も重要な変更は、VRAM（ビデオメモリ）割り当ての最適化と、Flash Attention 2（FA2）に関連するコードパスの完全な削除です。特にVRAMの管理方法がデフォルトで変更されているため、メモリ使用状況がシビアな環境で利用しているユーザーは、更新後の挙動を確認することが推奨されます。

破壊的変更・非推奨

今回のリリースでは、ライブラリ内のFA2（Flash Attention 2）に関連するすべてのコードパスが完全に削除されました。

項目	旧	新
FA2 code paths	存在	削除済み

この変更は、これまでFA2の特定のコードパスに依存した設定を行っていたユーザーや、FA2に関連する機能を明示的に利用していたユーザーに影響を及ぼします。既存のワークフローでFA2固有の挙動を期待している場合は、動作に注意してください。

主な変更点

VRAM割り当ての最適化

VRAMの割り当て方法が最適化され、デフォルトで「expandable segments（拡張可能なセグメント）」を使用するように切り替えられました。

この変更は、推論実行時におけるメモリ管理の柔軟性を高めることを目的としています。コンシューマー向けGPUを使用している技術者にとって、VRAM容量はモデルのロードやコンテキスト長に直結する極めて重要なリソースです。セグメントが拡張可能になることで、メモリ割り当ての効率が向上し、限られたVRAM環境下での動作がより安定する可能性があります。メモリの断片化を抑制し、動的なメモリ要求に対してより効率的なリソース配分が可能になると考えられます。

特定モデルに対する量子化キャッシュの導入

以下の特定のモデルアーキテクチャにおいて、量子化プロセスのキャッシュ機能が追加されました。

DSv4-Flash
Qwen3.8-Flash-Next
GLM5.3-Flash

これらのモデルを頻繁に量子化して利用するユーザーは、キャッシュの活用により、量子化作業にかかる時間を短縮できることが期待されます。

FA2コードパスの完全削除

ライブラリ内からすべてのFA2（Flash Attention 2）に関連するコードパスが完全に削除されました。これは、コードベースの整理と最適化の一環として行われており、不要なパスを排除することで推論エンジンとしての純度を高める変更となっています。

対応モデル・ハードウェア

今回のリリースでは、特定のモデルアーキテクチャに対して量子化プロセスのキャッシュ機能が追加されました。これにより、以下のモデルを利用するユーザーは、量子化作業の効率化が期待できます。

DSv4-Flash
Qwen3.8-Flash-Next
GLM5.3-Flash

ハードウェアに関しては、本ライブラリは最新のコンシューマー向けGPUでの動作に最適化されています。また、動作にはCUDA 12.4以降に対応したPyTorchが必須となります。

アップデート方法

インストール方法には、主に以下の2つのパターンがあります。

PyPI経由でのインストール

以下のコマンドでインストール可能です。

pip install exllamav3

注意点として、PyPIのパッケージにはビルド済みの拡張機能が含まれていません。そのため、インストール時にはCUDA Toolkitおよび適切なビルド環境（WindowsではVS Build Tools、Linuxではgcc、およびpython-devヘッダーなど）がシステムに導入されている必要があります。

ソースからのインストール

自身の環境に適合するCUDA対応のPyTorchを事前にインストールした上で、以下の手順でインストールを行います。例として、CUDA 12.8を使用する場合の手順を記載します。

pip install torch --index-url https://download.pytorch.org/whl/cu128
pip install.

次に読むなら

このツールの更新を追う → ExLlamaV3 の概要とリリース履歴(記録済み70版)
同じ分類(量子化・モデル形式・ファインチューニング)の他のツール → ggml / Unsloth

出典

更新履歴

2026-09-19: 下書きに戻していた記事を、材料を集め直して書き直し、公開に戻しました。

エンジン・ツールCUDA,exllamav3,Flash Attention,LLM,turboderp,VRAM,確認済み