「Qwen3.8-Flash-Next」マルチモーダル対応のMoEモデル:必要メモリ約402GB
Qwenチームによる次世代アーキテクチャ採用のマルチモーダル対応オープンウェイトモデル「Qwen3.8-Flash-Next」のスペックや導入方法を解説します。
「LFM2.5-350M-Diffusion-Exp」ブロック拡散型の軽量言語モデル:必要VRAM 4GB〜
LiquidAIが軽量LLM「LFM2.5-350M」をブロック拡散モデルに変換した実験的モデル「LFM2.5-350M-Diffusion-Exp」を公開。並列デノイズによる高速なテキスト生成の特徴やスペックを解説。
「GLM-5.3-Flash-GGUF」VLMモデル:必要メモリ約150GB
llama.cpp等のローカル環境で動かせる、総パラメータ数320Bのネイティブマルチモーダル対応MoEモデル「ggml-org/GLM-5.3-Flash-GGUF」の概要や特徴を解説します。
Aleph AlphaがオープンウェイトMoEモデル「Kolibri」公開、VRAM要件や性能を議論
ドイツのAleph Alphaが英語・ドイツ語対応のオープンウェイトMoEモデル「Kolibri」を公開。総パラメータ数781億、アクティブパラメータ数34.6億のハードウェア要件や技術的特徴、コミュニティの反応を速報でお届けします。 ...
推論エンジン「@magnitudedev/cli」v0.2.5公開、M5 Mac対応やMoE高速化
オープンソース推論エンジン「@magnitudedev/cli」v0.2.5がリリース。M5 Macでのプロンプト処理約2倍高速化、MoEモデルの生成速度向上、M1/M2 MacやVulkan環境でのバグ修正が行われています。 ...
AIエンジン「LocalAI v4.11.0」公開、フェイルオーバー機能や音声認識・3Dモーション生成に対応
オープンソースのAIエンジン「LocalAI v4.11.0」がリリース。モデルのフェイルオーバーチェーン、NeMo音声認識・話者分離、3D骨格アニメーション生成などが追加されました。
推論エンジン「Magnitude CLI 0.2.4」公開、メモリ削減と初回ロード高速化を実現
エージェント向け推論エンジン「Magnitude CLI 0.2.4」がリリース。メモリ使用量の大幅な削減と、最大約1分への初回カーネルチューニング時間短縮が行われました。
Ai2が科学研究向けレポート生成モデル「AstaBrief 8B」を公開
Allen Institute for AIがオープンソースで公開した科学研究向けレポート生成モデル「AstaBrief 8B」の概要や性能、入手方法を解説します。
推論モデル「ELYZA-Thinking-1.0」の32B/33Bモデル公開
ELYZAがllm-jp-4シリーズをベースにした推論モデル「ELYZA-Thinking-1.0」の32B/33Bモデルを公開しました。日本語の指示追従や知識想起、STEM分野の推論に特化しています。
高速推論エンジン「SGLang v0.5.21」公開、PDインスタンスの動的切り替えに対応
LLM・マルチモーダルモデル向け高速サービングフレームワーク「SGLang」のv0.5.21がリリース。PDインスタンスの動的ロール切り替えやRustコア化、新APIの追加などの詳細を解説。