テンソルライブラリ「ggml v0.23.0」公開:スパースアテンションと非同期RPCに対応
機械学習用テンソルライブラリ「ggml v0.23.0」がリリースされました。スパースアテンション、非同期RPCスタックの拡張、CUDAやMetalなど各GPUバックエンドの最適化内容を解説します。
「Qwopus3.8-27B-Flash-GGUF」VLMモデル:当サイトでの回答例・必要VRAM 16GB〜
Qwen3.8-27Bをベースにしたエージェント向けファインチューンモデル「Jackrong/Qwopus3.8-27B-Flash-GGUF」のスペックや性能、動作環境を解説します。