「GLM-5.3-Flash-GGUF」VLMモデル:必要メモリ約150GB
llama.cpp等のローカル環境で動かせる、総パラメータ数320Bのネイティブマルチモーダル対応MoEモデル「ggml-org/GLM-5.3-Flash-GGUF」の概要や特徴を解説します。
「OpenJev-GGUF」27.4Bの意思決定特化型モデル:必要VRAM 24GB〜
ggml-orgが公開した、意思決定に特化した27.4Bのオープンウェイトモデル「OpenJev」のGGUF量子化版のスペックや特徴、llama.cppでの動かし方を解説します。
意思決定特化型モデル「OpenJev」のテスト用GGUFモデル公開
ggml-orgが公開した意思決定特化型オープンウェイトモデル「OpenJev」のテスト用GGUFモデル「tinyopenjev-for-testing-gguf」の仕様や、元モデルの推論環境構築手順を解説します。
C++テンソルライブラリ「ggml v0.25.2」公開、各バックエンドの最適化を実施
オープンソースのC++製テンソルライブラリ「ggml v0.25.2」が公開されました。CUDA、Vulkan、OpenCL、Hexagonバックエンドの最適化や不具合修正が行われています。
「MiMo-V2.6-Flash-RL-GGUF」マルチモーダル対応のMoEモデル:必要メモリ約141GB
XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。