エンジン・ツール

magnitude CLI 0.2.14公開:CPUでのGGUFデコード高速化と耐障害性向上

オープンソース推論エンジンmagnitudeのCLIツールv0.2.14が公開。CPUにおける量子化GGUFモデルのデコード処理高速化や、ダウンロードのレジューム機能追加、Apple Siliconでの不具合修正を解説します。 ...