エンジン・ツール

ExLlamaV3 v1.4.9リリース：新モデル対応とCPUオフロード高速化

ローカルLLM推論ライブラリ「ExLlamaV3 v1.4.9」が公開。CPUオフロードの高速化、Intel AVX512BWサポート強化、DeepSeekV4やGLM4等の新アーキテクチャ対応が行われています。