UnslothがQwen-Image-2.1対応とAgent Skills機能を追加
ローカル向け学習・実行ツールUnslothがアップデートされ、Qwen-Image-2.1のサポートとAgent Skills機能が追加されました。推論速度の向上やLinux環境の改善についても解説します。
Hugging Face transformers、GGUFモデルの直接実行をサポート
Hugging Faceの推論ライブラリtransformersがllama.cppのGGUFフォーマットモデルの直接実行に対応。Apple Silicon向けの最適化やPythonエコシステムでの活用方法を解説。
「MiMo-V2.6-Flash-RL-GGUF」マルチモーダル対応のMoEモデル：必要メモリ約141GB
XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。
「MiMo-V2.6-Distill-Qwen-9B-GGUF」：当サイトでの回答例・必要VRAM 12GB〜
Xiaomi MiMoが開発したエージェント指向の9.4Bモデル「MiMo-V2.6-Distill-Qwen-9B」のGGUF版が公開。ビジョンエンコーダー用mmprojも同梱。
8GB VRAMで継続学習するバイトレベルモデル「mini-AGI」公開
8GBのVRAMを搭載した単一GPU上で動作し、データから破滅的忘却を起こさずに継続学習を行うバイトレベル言語モデル「mini-AGI」の概要やHacker Newsでの議論を解説します。
Qwen3.5ベースの軽量意思決定モデル「Kev」公開、ローカル実行と実装を検証
Qwen3.5をベースに構築されたローカル実行可能な軽量意思決定モデルファミリー「Kev」の概要と、オープンソースコミュニティでの議論や実用性に関する検証結果を解説します。
ComfyUI v0.37.0公開：高速ディスクの自動最適化とQwen・MoGe 3対応
ComfyUI v0.37.0が公開。–fast-diskの自動適用によるストレージ最適化や、Qwen系モデルのCUDA graphs・w4a8 GEMV対応、Qwen-image 2.1およびMoGe 3の新規サポート、 ...
3値量子化モデルとARM・Apple最適化が加速【週次まとめ】
27Bクラスの3値量子化モデルの登場や、Apple Silicon・ARM64環境向け推論・学習ツールのアップデートを振り返る週次まとめ。
大規模型サービングフレームワーク「SGLang v0.5.20」リリース
LLM・マルチモーダル向けサービングフレームワークSGLang v0.5.20が公開。Responses APIの変更やRLロールアウト向けサンプリングマスクのサポート、各種新モデルへの対応内容を解説。
Unsloth v0.1.811-beta公開、Docker・AMD・マルチユーザー対応
ローカルLLM学習ツール「Unsloth v0.1.811-beta」が公開。NVIDIA/AMD両対応Dockerイメージ、マルチユーザー機能、Qwen3.8-Flash-Next高速化などアップデート内容を解説。