magnitude CLI 0.2.14公開:CPUでのGGUFデコード高速化と耐障害性向上
オープンソース推論エンジンmagnitudeのCLIツールv0.2.14が公開。CPUにおける量子化GGUFモデルのデコード処理高速化や、ダウンロードのレジューム機能追加、Apple Siliconでの不具合修正を解説します。 ...
手元で動くオープンウェイトモデルの新着・早見表・実測データ
オープンソース推論エンジンmagnitudeのCLIツールv0.2.14が公開。CPUにおける量子化GGUFモデルのデコード処理高速化や、ダウンロードのレジューム機能追加、Apple Siliconでの不具合修正を解説します。 ...