新モデル

「Qwen3.5-4B-GGUF」画像と動画の入力に対応したマルチモーダル言語モデル:必要VRAM 4GB〜

アリババのマルチモーダル対応4Bモデル「Qwen3.5-4B」のGGUF量子化版が公開。画像・動画入力や長文テキスト解析に対応し、ローカル環境で取り回しやすいモデルとして利用可能です。

エンジン・ツール

ggml-org/spec-for-testing-GGUF: llama.cpp向け予測的デコードテスト用GGUFモ…

llama.cppの予測的デコード統合テスト用GGUFモデルをまとめたggml-org/spec-for-testing-GGUFの概要と、対応する手法や元モデルの仕様を解説します。