LM Studio、会話履歴を自己検索する「Introspection」とセッション参照機能を発表
LM Studioは、Bionicにおける過去の会話セッションの検索・参照機能「Introspection」および「@」メンション機能を発表しました。コンパクションによる情報の損失を防ぐエージェントの自己省察の仕組みを解説します。
ローカルAI実行エンジン「LocalAI v4.10.0」公開、ダッシュボード刷新
オープンソースのローカルAI実行エンジン「LocalAI v4.10.0」が公開。フリート運用ダッシュボードやCLIベンチマーク機能の追加、Apple M5の起動修正などを解説します。
「unsloth」v0.1.810-beta公開：マルチユーザー対応とDocker刷新
オープンソースのLLM実行・微調整ツール「unsloth」の最新版v0.1.810-betaが公開。マルチユーザーアカウント機能の追加やDockerイメージの刷新、ハードウェア対応の拡大について解説します。
GLMが独自推論インフラ構築を発表、中国製アクセラレータ活用と大規模MoEのローカル実行手法
GLMが10万台超の中国製AIアクセラレータを用いた独自推論インフラと「GLM-5.3-Flash」の稼働を発表。さらに744B MoEモデルをMacBookで動かすNVMeストリーミング手法も解説します。
3値LLMの1.58ビットの壁を破る「BITCOS」論文公開
3値大規模言語モデルの重み分布の偏りに着目し、1.485ビット/重みを達成した研究「Breaking the 1.58-bit Barrier for Ternary LLMs」の概要とコミュニティの議論を紹介します。
IEEE Spectrum: 2026年の推論ハードウェア革命とオープンモデルへの影響
IEEE Spectrumが報じた2026年のAI推論ハードウェア革命の動向を解説。Groq、Cerebras、HBM4、NVFP4量子化などの技術がローカルLLM運用に与える影響を技術者向けに速報します。
Mistral AIとMozillaが提携、Firefox Smart WindowにAIモデル採用
Mistral AIとMozillaがパートナーシップを締結し、ウェブブラウザ機能「Firefox Smart Window (beta)」にMistralのAIモデルを採用。プライバシーを重視した多言語対応AIの提供を開始。 ...
EleutherAI、OLMo-3-7Bのハッキング耐性検証用モデル2種公開
EleutherAIが報酬ハッキングの動態研究用として公開した「OLMo-3-7B」ベースのモデル2種について、スペックや検証結果、動作環境を解説します。
LLMの限界と仕様定義コスト：ナビエ–ストークス解決後の弱気な視点
LLMが数学の難問を解決する一方で、知能労働の代替には厳密な仕様定義と監視コストが障壁になるとする技術コミュニティの議論を紹介します。
ComfyUI v0.36.0公開：汎用ループやYue2・Marigold v2に対応
ComfyUI v0.36.0がリリース。汎用ループ（Generic Loops）の実装をはじめ、音楽生成モデル「Yue2」や深度推定「Marigold v2」のサポート、LlamaベースモデルのRoPE処理高速化などの変更点を解説し ...