KoboldCpp v1.123公開:エージェント機能強化とQwen Image 2.1対応
ローカルAI実行ツールKoboldCpp v1.123がリリース。エージェント機能の安全性向上、並列バッチ処理の刷新、Qwen Image 2.1モデルのサポートなど、主な変更点とアップデート方法を解説します。
「Qwen-Image-NVFP4」4ビット量子化画像生成モデル:必要VRAM 48GB〜・配布ファイル一覧
NVIDIAが公開した「nvidia/Qwen-Image-NVFP4」のスペックや特徴、TensorRT-LLMを用いた推論サーバーの構築手順を解説します。
Unsloth v0.1.906-beta公開:Browser UseとQwen-Image-2.1-Turboに対応
ローカルモデル実行・学習ツール「Unsloth」のv0.1.906-betaが公開。自律的なブラウザ操作機能やQwen-Image-2.1-Turboのサポート、MoE GGUFの高速化など主要なアップデート内容を解説します。 ...
llama.cpp v0.6.0やFastH3動画生成の高速化、501Bモデルの動向【週刊まとめ】
llama.cpp v0.6.0やvllm v0.31.0など主要推論エンジンの更新、FastH3の動画生成高速化、501Bモデル「Beam」の発表など、手元で動かすオープンウェイトモデルの最新動向をまとめます。
意思決定モデル「vllm-d3-GGUF」シリーズ公開
ggml-orgから画像・動画入力や構造化判定に対応する意思決定モデル「vllm-d3-GGUF」シリーズの各モデルがGGUF形式で公開されました。
エージェント向け推論エンジン「magnitude」CLI v0.2.7公開、高速化と修正
エージェント向け推論エンジン「magnitude」のCLIツール「@magnitudedev/cli@0.2.7」が公開されました。Apple SiliconやNVIDIA GPUでの大幅な高速化、投機的デコーディングの強化、メモリ管 ...
「StreamRender-H3」リアルタイム動画生成モデル:必要VRAM 8GB〜・配布ファイル一覧
Efficient-Large-Modelが公開した、リアルタイムなストリーミング拡散レンダリングを行う動画生成モデル「StreamRender-H3」のスペックや特徴、利用方法を解説します。
「clef-omni」30Bのマルチモーダル意思決定モデル:必要VRAM 80GB〜
CloudflareがQwen3-Omniベースのマルチモーダル意思決定モデル「Cloudflare/clef-omni」を公開。テキスト、画像、音声、動画を読み込み、単一のフォワードパスで選択肢の確率を直接出力する特徴やスペック、利 ...
Open WebUI v0.12.0公開 – リアルタイム音声通話とVRMアバター表示に対応
ローカルLLM向けWebインターフェース「Open WebUI v0.12.0」が公開。OpenAI Realtime音声モデルと連携した音声通話やVRM 3Dアバター表示機能、orjson導入による高速化などの変更点を解説します。
「Voxtral-Mini-4B-Realtime-Arabic」音声認識モデル:必要VRAM 4GB〜
Mistral AIがアラビア語の方言や現代標準アラビア語、コードスイッチングに対応したストリーミング音声認識モデル「Voxtral-Mini-4B-Realtime-Arabic」を公開。vLLMやTransformersでの実行方 ...