新モデル

「GLM-5.3-Flash-GGUF」VLMモデル:必要メモリ約150GB

llama.cpp等のローカル環境で動かせる、総パラメータ数320Bのネイティブマルチモーダル対応MoEモデル「ggml-org/GLM-5.3-Flash-GGUF」の概要や特徴を解説します。

新モデル

「OpenJev-GGUF」27.4Bの意思決定特化型モデル:必要VRAM 24GB〜

ggml-orgが公開した、意思決定に特化した27.4Bのオープンウェイトモデル「OpenJev」のGGUF量子化版のスペックや特徴、llama.cppでの動かし方を解説します。

エンジン・ツール

意思決定特化型モデル「OpenJev」のテスト用GGUFモデル公開

ggml-orgが公開した意思決定特化型オープンウェイトモデル「OpenJev」のテスト用GGUFモデル「tinyopenjev-for-testing-gguf」の仕様や、元モデルの推論環境構築手順を解説します。

エンジン・ツール

C++テンソルライブラリ「ggml v0.25.2」公開、各バックエンドの最適化を実施

オープンソースのC++製テンソルライブラリ「ggml v0.25.2」が公開されました。CUDA、Vulkan、OpenCL、Hexagonバックエンドの最適化や不具合修正が行われています。

新モデル

「MiMo-V2.6-Flash-RL-GGUF」マルチモーダル対応のMoEモデル:必要メモリ約141GB

XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。