llama-modchip v2.4.0公開:64GB RAMで284B DeepSeek-V4-FlashのCPU推…
llama-modchip v2.4.0が公開。GPUなしの64GB RAM環境で284BのDeepSeek-V4-Flashを推論可能にするCPU向け最適化や専用バイナリの仕様を解説。
手元で動くオープンウェイトモデルの新着・早見表・実測データ
llama-modchip v2.4.0が公開。GPUなしの64GB RAM環境で284BのDeepSeek-V4-Flashを推論可能にするCPU向け最適化や専用バイナリの仕様を解説。