画像生成モデル「Qwen-Image-2.1」公開、7Bへの小型化と透過処理対応
Qwenチームが公開した軽量画像生成モデル「Qwen-Image-2.1」の機能やローカル実行における性能、ライセンスに関する議論について解説します。
画像生成・編集モデル「Qwen-Image-2.1」公開、透過処理や高度なマルチ画像編集に対応
Qwenチームが画像生成・編集モデル「Qwen-Image-2.1」をオープンソース公開。RGBA透過画像の生成や最大10枚の参照画像による編集、専用プロンプト書き換えモデルの特徴や使い方を解説します。
Apple Silicon向けローカル推論エンジン「Splash Engine」公開、Qwen3.8を高速化
Inco AIがApple Silicon搭載Mac専用のオープンソースローカルLLM推論エンジン「Splash Engine」を公開。Qwen3.8-27BやQwen3.6-35B-A3Bに対応し、LM Studio Bionicに ...
「Realtime-Venus」全二重音声動画対話モデル：必要VRAM 24GB〜・配布ファイル一覧
inclusionAIが公開した全二重音声・動画マルチモーダル対話モデル「Realtime-Venus」のスペックや導入方法、特徴を解説します。
大規模型サービングフレームワーク「SGLang v0.5.20」リリース
LLM・マルチモーダル向けサービングフレームワークSGLang v0.5.20が公開。Responses APIの変更やRLロールアウト向けサンプリングマスクのサポート、各種新モデルへの対応内容を解説。
「needle3」モバイル向けツール呼び出し特化の自動化モデル：必要VRAM 4GB〜
Cactus Computeが公開したスマートフォンやIoT向けの超軽量自動化モデル「Needle 3」のスペック、ツール呼び出し性能、Hacker Newsでの反応を解説します。
Unsloth v0.1.811-beta公開、Docker・AMD・マルチユーザー対応
ローカルLLM学習ツール「Unsloth v0.1.811-beta」が公開。NVIDIA/AMD両対応Dockerイメージ、マルチユーザー機能、Qwen3.8-Flash-Next高速化などアップデート内容を解説。
「Ternary-Bonsai-2-27B-gguf」テキスト生成モデル：当サイトでの回答例・必要VRAM 8GB〜
Prism MLによるQwen3.8-27Bベースの三値言語モデル「Bonsai 2 27B GGUF」のスペックや推論性能、専用llama.cppでの実行方法を解説します。
LM Studio、会話履歴を自己検索する「Introspection」とセッション参照機能を発表
LM Studioは、Bionicにおける過去の会話セッションの検索・参照機能「Introspection」および「@」メンション機能を発表しました。コンパクションによる情報の損失を防ぐエージェントの自己省察の仕組みを解説します。
ローカルAI実行エンジン「LocalAI v4.10.0」公開、ダッシュボード刷新
オープンソースのローカルAI実行エンジン「LocalAI v4.10.0」が公開。フリート運用ダッシュボードやCLIベンチマーク機能の追加、Apple M5の起動修正などを解説します。