MLX

LLMや拡散モデルの実行・ファインチューニングツール「unsloth」の最新版v0.1.901-betaが公開。事前量子化4-bitチェックポイントのメモリ削減やコマンドパレットの導入、多数の新モデル対応について解説します。

FermionResearchが公開したオープンウェイトの英語音声認識モデル「Phonon-2」のスペックや推論速度、導入方法を解説します。

Unsloth v0.1.900-betaがリリース。判定タスク専用のLaya Decision Modelsのローカル実行・API化に対応したほか、LTX-2.3等の画像・動画生成が最大数倍高速化。ModelScope対応やSkil ...

オープンソースのLLM実行・微調整ツール「unsloth」の最新版v0.1.810-betaが公開。マルチユーザーアカウント機能の追加やDockerイメージの刷新、ハードウェア対応の拡大について解説します。

Apple Silicon環境での高速な構造化データ出力を実現する「harshatheg/Qwen-2.5-1B-RLCD」のスペックや推論性能、MLXを用いた実装について解説します。

Edge0が公開した、35BクラスのスパースMoEモデル「Edge0-35B-A3B-preview」のスペック、ベンチマーク性能、動作環境を解説。4-bit量子化とストリーミング推論で省メモリ動作を実現。

Unsloth v0.1.808-betaが公開。拡散モデルの高速化、AMD Strix HaloおよびApple Silicon（MLX）環境での最適化やメモリ削減などの主な変更点を解説します。

Unsloth v0.1.807-betaがリリース。AMD環境でのVulkanデフォルト採用による推論高速化や、Apple SiliconでのMLX学習効率向上、パッケージ軽量化などの変更点を解説。