MoE

中国電信がAscend NPUで学習した総パラメータ29B・活性4BのMoEモデル「Xing4.0-29B-A4B」を公開。コーディングエージェント性能に優れ、公式GGUFも用意されています。

XiaomiからスパースMoEマルチモーダルモデル「MiMo-V2.6-Flash-MOPD」「MiMo-V2.6-Pro-MOPD」が公開されました。エージェントタスクに特化した特徴やスペックを解説します。

Xiaomiが約1兆パラメータの混合強化学習モデル「XiaomiMiMo/MiMo-V2.6-Pro-RL」を公開。テキスト・画像・動画・音声を扱える1Mコンテキストの最上位MoEモデルを解説。

DeepSeekがエージェント性能を強化した大規模MoEモデル「DeepSeek-V4-Pro-0813」をHugging Faceで公開。100万トークンの文脈とDSparkモジュールを搭載。

Together AIがQwen3.5-4Bをベースに開発した、構造化データからの選択肢選定に特化した実験的モデル「Tev1-4B-experimental」のスペックや特徴、使い方を解説します。

C++製オープンソース機械学習ライブラリ「ggml v0.25.0」が公開されました。FlashAttentionやMoE、SSM、Hyper-connection処理の適用拡大とバックエンド最適化、GGUFアライメント変更などを解説 ...

IFMは、375BパラメータのMoEモデル「K2-Horizon-375B-A23B」のNVFP4量子化版を公開しました。Blackwell世代GPU向けの高効率な推論と主なスペック、ベンチマーク性能を解説します。

Hugging Faceの推論ライブラリtransformersがllama.cppのGGUFフォーマットモデルの直接実行に対応。Apple Silicon向けの最適化やPythonエコシステムでの活用方法を解説。

XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。

Xiaomi MiMoが開発したエージェント指向の9.4Bモデル「MiMo-V2.6-Distill-Qwen-9B」のGGUF版が公開。ビジョンエンコーダー用mmprojも同梱。