Apple Silicon向けローカル推論エンジン「Splash Engine」公開、Qwen3.8を高速化
Inco AIがApple Silicon搭載Mac専用のオープンソースローカルLLM推論エンジン「Splash Engine」を公開。Qwen3.8-27BやQwen3.6-35B-A3Bに対応し、LM Studio Bionicに ...
LM Studio、会話履歴を自己検索する「Introspection」とセッション参照機能を発表
LM Studioは、Bionicにおける過去の会話セッションの検索・参照機能「Introspection」および「@」メンション機能を発表しました。コンパクションによる情報の損失を防ぐエージェントの自己省察の仕組みを解説します。
NVIDIA PAIR仮想推論ルーター公開、ローカル計算資源を拡張
NVIDIAが公開した仮想推論ルーター「NVIDIA PAIR (Personal AI Router)」のベータ版について解説。ローカルネットワーク上の複数PCやGPUを活用し、マルチエージェント環境の推論ボトルネックを解消する方法 ...