新モデル

「Nex-N2.5-Pro」長期タスク向けエージェントモデル:必要メモリ約98GB・GGUF版あり

Nex-AGIが長期タスク向けエージェントモデル「Nex-N2.5」ファミリーを発表。mini、Pro、MaxのウェイトがHugging Face等で公開されており、スペックやベンチマーク結果を解説します。

新モデル

「MiniCPM5-2B」コードや数学に強いオンデバイスモデル:当サイトでの回答例・必要VRAM 4GB〜

OpenBMBが公開した2Bクラスのオンデバイス向け大規模言語モデル「MiniCPM5-2B」のスペック、ベンチマーク性能、動作環境、利用方法を解説します。

週次まとめ

推論エンジンの更新とQwopus等の実用GGUFモデル登場

ggml v0.23.0やExLlamaV3などの推論エンジンアップデートと、QwopusやK2-Horizon-MoVAのGGUF版公開など、ローカルAIの最新動向をまとめます。

エンジン・ツール

SGLang v0.5.19リリース:Qwen3.8や新規拡散モデルに対応

SGLang v0.5.19がリリース。Qwen3.8や各種拡散モデルへの対応、ビームサーチ機能の追加、DeepEP v2の導入、AMD GPU向け最適化などのアップデート内容を解説します。