UnslothがQwen-Image-2.1対応とAgent Skills機能を追加
ローカル向け学習・実行ツールUnslothがアップデートされ、Qwen-Image-2.1のサポートとAgent Skills機能が追加されました。推論速度の向上やLinux環境の改善についても解説します。
Hugging Face transformers、GGUFモデルの直接実行をサポート
Hugging Faceの推論ライブラリtransformersがllama.cppのGGUFフォーマットモデルの直接実行に対応。Apple Silicon向けの最適化やPythonエコシステムでの活用方法を解説。
「MiMo-V2.6-Flash-RL-GGUF」マルチモーダル対応のMoEモデル：必要メモリ約141GB
XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。
LLM推論エンジン「vllm-project/vllm v0.30.0」公開 – Fast Start機能や新モデル対応
LLM推論・サービングエンジン「vllm-project/vllm v0.30.0」が公開されました。GPUメモリによる重みキャッシュ「Fast Start」機能の導入や、初期化・グラフキャプチャの高速化、最新モデルのサポート状況など ...
「MiMo-V2.6-Distill-Qwen-9B-GGUF」：当サイトでの回答例・必要VRAM 12GB〜
Xiaomi MiMoが開発したエージェント指向の9.4Bモデル「MiMo-V2.6-Distill-Qwen-9B」のGGUF版が公開。ビジョンエンコーダー用mmprojも同梱。
AIインターフェース「Open WebUI v0.11.4」公開、Dockerイメージが約175MBへ大幅軽量化
Open WebUI v0.11.4が公開されました。Dockerのslimイメージが約175MBへと約89%軽量化されたほか、破壊的変更やターミナル連携、パフォーマンス改善の詳細を解説します。
8GB VRAMで継続学習するバイトレベルモデル「mini-AGI」公開
8GBのVRAMを搭載した単一GPU上で動作し、データから破滅的忘却を起こさずに継続学習を行うバイトレベル言語モデル「mini-AGI」の概要やHacker Newsでの議論を解説します。
Qwen3.5ベースの軽量意思決定モデル「Kev」公開、ローカル実行と実装を検証
Qwen3.5をベースに構築されたローカル実行可能な軽量意思決定モデルファミリー「Kev」の概要と、オープンソースコミュニティでの議論や実用性に関する検証結果を解説します。
ComfyUI v0.37.0公開：高速ディスクの自動最適化とQwen・MoGe 3対応
ComfyUI v0.37.0が公開。–fast-diskの自動適用によるストレージ最適化や、Qwen系モデルのCUDA graphs・w4a8 GEMV対応、Qwen-image 2.1およびMoGe 3の新規サポート、 ...
3値量子化モデルとARM・Apple最適化が加速【週次まとめ】
27Bクラスの3値量子化モデルの登場や、Apple Silicon・ARM64環境向け推論・学習ツールのアップデートを振り返る週次まとめ。