Vulkan

llama.cppの基盤となるC++製テンソルライブラリ「ggml v0.26.0」が公開されました。Vulkan/SYCL/MetalのスパースFlash Attention最適化やWebGPUの量子化形式追加、各ハードウェアの高速 ...

オープンソース推論エンジン「@magnitudedev/cli」v0.2.5がリリース。M5 Macでのプロンプト処理約2倍高速化、MoEモデルの生成速度向上、M1/M2 MacやVulkan環境でのバグ修正が行われています。 ...

オープンソースのC++製テンソルライブラリ「ggml v0.25.2」が公開されました。CUDA、Vulkan、OpenCL、Hexagonバックエンドの最適化や不具合修正が行われています。

単一ファイルでLLMを実行できる「llamafile」のバージョン0.10.6がリリース。llama.cppのb10441への更新やCUDA/HIPのグラフ機能有効化、セキュリティ強化などの変更点を解説します。

機械学習テンソルライブラリggmlのv0.24.0がリリース。新しい精度制御APIの導入や、Vulkan、CUDA、Metalなど各種バックエンドの改善・パフォーマンス向上の詳細をお伝えします。

Unsloth v0.1.808-betaが公開。拡散モデルの高速化、AMD Strix HaloおよびApple Silicon（MLX）環境での最適化やメモリ削減などの主な変更点を解説します。

Unsloth v0.1.807-betaがリリース。AMD環境でのVulkanデフォルト採用による推論高速化や、Apple SiliconでのMLX学習効率向上、パッケージ軽量化などの変更点を解説。

機械学習用テンソルライブラリ「ggml v0.23.0」がリリースされました。スパースアテンション、非同期RPCスタックの拡張、CUDAやMetalなど各GPUバックエンドの最適化内容を解説します。