エンジン・ツール

llamafile 0.10.6公開、llama.cpp更新とCUDA/HIPのグラフ機能強化

単一ファイルでLLMを実行できる「llamafile」のバージョン0.10.6がリリース。llama.cppのb10441への更新やCUDA/HIPのグラフ機能有効化、セキュリティ強化などの変更点を解説します。