「Qwen3.5-4B-GGUF」画像と動画の入力に対応したマルチモーダル言語モデル:必要VRAM 4GB〜
アリババのマルチモーダル対応4Bモデル「Qwen3.5-4B」のGGUF量子化版が公開。画像・動画入力や長文テキスト解析に対応し、ローカル環境で取り回しやすいモデルとして利用可能です。
ggml-org/spec-for-testing-GGUF: llama.cpp向け予測的デコードテスト用GGUFモ…
llama.cppの予測的デコード統合テスト用GGUFモデルをまとめたggml-org/spec-for-testing-GGUFの概要と、対応する手法や元モデルの仕様を解説します。