Python

ComfyUI v0.38.0が公開。TencentのHunyuan Image 3.5やming-imageモデルのサポート追加、Qwen-Image 2.1の機能強化、torchaudio依存の削除など、主な変更点を解説します。

コード・データサイエンス領域で小規模モデルの強化学習・評価を行うための5.5K以上のタスクを収録したデータセット「FineEnvs/SmolDataEnvs」の概要と使い方を解説します。

LLM推論・サービングエンジン「vllm-project/vllm v0.30.0」が公開されました。GPUメモリによる重みキャッシュ「Fast Start」機能の導入や、初期化・グラフキャプチャの高速化、最新モデルのサポート状況など ...

Open WebUI v0.11.4が公開されました。Dockerのslimイメージが約175MBへと約89%軽量化されたほか、破壊的変更やターミナル連携、パフォーマンス改善の詳細を解説します。

軽量なLLMルーティングライブラリ「litelm」が公開されました。litellmのコア機能のみを抽出し、約2,900行のコードと最小限の依存関係でvLLMやOllama、各社APIへのルーティングやメッセージ変換を実現します。

推論ライブラリ「exllamav3 v1.4.7」が公開されました。CPUでのMoEモデルのパフォーマンス改善や、DRYサンプラーの追加、Trellis量子化の高速化などの変更点と導入方法を解説します。