新モデル

Tencent、ドキュメント解析モデル「WeVisDoc-2B/4B」公開

Tencentがページ画像から構造化Markdownを抽出するエンドツーエンドのドキュメント解析モデル「WeVisDoc-2B」および「WeVisDoc-4B」を公開しました。特徴やベンチマーク結果、導入方法を解説します。

エンジン・ツール

「unsloth」v0.1.810-beta公開:マルチユーザー対応とDocker刷新

オープンソースのLLM実行・微調整ツール「unsloth」の最新版v0.1.810-betaが公開。マルチユーザーアカウント機能の追加やDockerイメージの刷新、ハードウェア対応の拡大について解説します。

エンジン・ツール

GLMが独自推論インフラ構築を発表、中国製アクセラレータ活用と大規模MoEのローカル実行手法

GLMが10万台超の中国製AIアクセラレータを用いた独自推論インフラと「GLM-5.3-Flash」の稼働を発表。さらに744B MoEモデルをMacBookで動かすNVMeストリーミング手法も解説します。

コミュニティ

3値LLMの1.58ビットの壁を破る「BITCOS」論文公開

3値大規模言語モデルの重み分布の偏りに着目し、1.485ビット/重みを達成した研究「Breaking the 1.58-bit Barrier for Ternary LLMs」の概要とコミュニティの議論を紹介します。

エンジン・ツール

TensorRT Edge-LLMとQwen3.6-27BでMLPerf Edge Agenticベンチマークを高速化

NVIDIA Jetson AGX Thor上でTensorRT Edge-LLMとQwen3.6-27Bを用いてMLPerf Edge Agenticベンチマークを実行し、従来のリファレンス比6.4倍の高速化を達成した詳細と再現手順 ...

新モデル

「Qwen-2.5-1B-RLCD」並列制約付きデコーディングのテキスト生成モデル:必要VRAM 4GB〜

Apple Silicon環境での高速な構造化データ出力を実現する「harshatheg/Qwen-2.5-1B-RLCD」のスペックや推論性能、MLXを用いた実装について解説します。

エンジン・ツール

Unsloth、Windows ARM64バイナリ版をリリース

ローカルLLM実行・学習フレームワーク「Unsloth」がWindows ARM64環境向けバイナリの提供を開始しました。ARM搭載Windowsでの利用手順やインストールオプションを解説します。

新モデル

EleutherAI、OLMo-3-7Bのハッキング耐性検証用モデル2種公開

EleutherAIが報酬ハッキングの動態研究用として公開した「OLMo-3-7B」ベースのモデル2種について、スペックや検証結果、動作環境を解説します。

コミュニティ

LLMの限界と仕様定義コスト:ナビエ–ストークス解決後の弱気な視点

LLMが数学の難問を解決する一方で、知能労働の代替には厳密な仕様定義と監視コストが障壁になるとする技術コミュニティの議論を紹介します。

エンジン・ツール

ComfyUI v0.36.0公開:汎用ループやYue2・Marigold v2に対応

ComfyUI v0.36.0がリリース。汎用ループ(Generic Loops)の実装をはじめ、音楽生成モデル「Yue2」や深度推定「Marigold v2」のサポート、LlamaベースモデルのRoPE処理高速化などの変更点を解説し ...