ggml

LLM推論エンジンllama.cpp v0.6.0が公開。llama_batch_extの導入、Metalバックエンドの大幅な高速化、GLM-5.3-Flashなどの新モデルサポートについて解説します。

llama.cppの基盤となるC++製テンソルライブラリ「ggml v0.26.0」が公開されました。Vulkan/SYCL/MetalのスパースFlash Attention最適化やWebGPUの量子化形式追加、各ハードウェアの高速 ...

llama.cpp等のローカル環境で動かせる、総パラメータ数320Bのネイティブマルチモーダル対応MoEモデル「ggml-org/GLM-5.3-Flash-GGUF」の概要や特徴を解説します。

ggml-orgが公開した、意思決定に特化した27.4Bのオープンウェイトモデル「OpenJev」のGGUF量子化版のスペックや特徴、llama.cppでの動かし方を解説します。

ggml-orgが公開した意思決定特化型オープンウェイトモデル「OpenJev」のテスト用GGUFモデル「tinyopenjev-for-testing-gguf」の仕様や、元モデルの推論環境構築手順を解説します。

オープンソースのC++製テンソルライブラリ「ggml v0.25.2」が公開されました。CUDA、Vulkan、OpenCL、Hexagonバックエンドの最適化や不具合修正が行われています。

C/C++ LLM推論ライブラリllama.cpp v0.5.0が公開。CUDAのconv2d加速やMetalでのMoE最適化、マルチアドレス対応サーバー機能の拡張などを詳しく解説。

C++製オープンソース機械学習ライブラリ「ggml v0.25.0」が公開されました。FlashAttentionやMoE、SSM、Hyper-connection処理の適用拡大とバックエンド最適化、GGUFアライメント変更などを解説 ...

XiaomiMiMo開発のオムニモーダルモデル「MiMo-V2.6-Flash-RL」のGGUF量子化版がggml-orgより公開。MTPサイドカーや音声・画像用mmprojも同梱。

Xiaomi MiMoが開発したエージェント指向の9.4Bモデル「MiMo-V2.6-Distill-Qwen-9B」のGGUF版が公開。ビジョンエンコーダー用mmprojも同梱。