エンジン・ツール

ローカルLLM実行ツール「Ollama v0.35.0」公開、意思決定モデル向け新API追加

ローカルLLM実行ツール「Ollama v0.35.0」が公開。意思決定モデル向け新API「/v1/systemone」の追加や、「nimble」「tev1」などの新モデルサポートについて詳しく解説します。

エンジン・ツール

LM Studio、会話履歴を自己検索する「Introspection」とセッション参照機能を発表

LM Studioは、Bionicにおける過去の会話セッションの検索・参照機能「Introspection」および「@」メンション機能を発表しました。コンパクションによる情報の損失を防ぐエージェントの自己省察の仕組みを解説します。

エンジン・ツール

ローカルAI実行エンジン「LocalAI v4.10.0」公開、ダッシュボード刷新

オープンソースのローカルAI実行エンジン「LocalAI v4.10.0」が公開。フリート運用ダッシュボードやCLIベンチマーク機能の追加、Apple M5の起動修正などを解説します。

エンジン・ツール

「unsloth」v0.1.810-beta公開:マルチユーザー対応とDocker刷新

オープンソースのLLM実行・微調整ツール「unsloth」の最新版v0.1.810-betaが公開。マルチユーザーアカウント機能の追加やDockerイメージの刷新、ハードウェア対応の拡大について解説します。

エンジン・ツール

GLMが独自推論インフラ構築を発表、中国製アクセラレータ活用と大規模MoEのローカル実行手法

GLMが10万台超の中国製AIアクセラレータを用いた独自推論インフラと「GLM-5.3-Flash」の稼働を発表。さらに744B MoEモデルをMacBookで動かすNVMeストリーミング手法も解説します。

コミュニティ

3値LLMの1.58ビットの壁を破る「BITCOS」論文公開

3値大規模言語モデルの重み分布の偏りに着目し、1.485ビット/重みを達成した研究「Breaking the 1.58-bit Barrier for Ternary LLMs」の概要とコミュニティの議論を紹介します。

エンジン・ツール

Unsloth、Windows ARM64バイナリ版をリリース

ローカルLLM実行・学習フレームワーク「Unsloth」がWindows ARM64環境向けバイナリの提供を開始しました。ARM搭載Windowsでの利用手順やインストールオプションを解説します。

新モデル

EleutherAI、OLMo-3-7Bのハッキング耐性検証用モデル2種公開

EleutherAIが報酬ハッキングの動態研究用として公開した「OLMo-3-7B」ベースのモデル2種について、スペックや検証結果、動作環境を解説します。

コミュニティ

LLMの限界と仕様定義コスト:ナビエ–ストークス解決後の弱気な視点

LLMが数学の難問を解決する一方で、知能労働の代替には厳密な仕様定義と監視コストが障壁になるとする技術コミュニティの議論を紹介します。

エンジン・ツール

ComfyUI v0.36.0公開:汎用ループやYue2・Marigold v2に対応

ComfyUI v0.36.0がリリース。汎用ループ(Generic Loops)の実装をはじめ、音楽生成モデル「Yue2」や深度推定「Marigold v2」のサポート、LlamaベースモデルのRoPE処理高速化などの変更点を解説し ...