エンジン・ツール

推論エンジン「magnitude」v0.2.6公開、Macでのプロンプト処理が大幅高速化

Rust製のオープンソース推論エンジン「magnitude」のCLI v0.2.6がリリース。Apple Silicon環境でのプロンプト処理の高速化や長文処理時のクラッシュ修正、Metalコンパイルエラーの解消などが行われています。 ...