エンジン・ツール

Ollama v0.40.5リリース:NVIDIA Nemotron 3.5 Super/Boltに対応

Ollama v0.40.5がリリースされ、NVIDIAのビジョン言語モデル「Nemotron 3.5 Super」および「Nemotron 3.5 Bolt」がローカルで利用可能になりました。主な変更点とアップデート内容を解説します ...

新モデル

MetaのマルチモーダルMoEモデル「Muse Spark Open」公開

Metaが公開したマルチモーダルMixture-of-Expertsモデル「Muse Spark Open」のスペック、コーディングエージェントとしての性能、入手方法を解説します。

新モデル

「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」:必要VRAM 80GB〜

NVIDIAによる120Bパラメータの視覚言語モデル「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」のフル精度版が公開。Mamba-2とTransformerのハイブリッドアーキテクチャや長文 ...

新モデル

「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4」:必要メモリ約84GB

NVIDIAの視覚言語モデル「Nemotron 3.5 Super VL」のNVFP4量子化版のスペックやベンチマーク結果、対応環境について解説します。

エンジン・ツール

ggml v0.27.0公開:RPCテンソル並列と主要バックエンドの高速化

ローカルLLM実行基盤の核となる「ggml v0.27.0」が公開。RPCプロトコルがメジャーバージョン8に更新され、テンソル並列サーバーモードに対応したほか、CUDA、CPU、Vulkan、SYCL、Metalなど各バックエンドの大 ...

新モデル

「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜

アラビア語・英語バイリンガルに特化した小型モデル「Jais-3-0.9B」のGGUF量子化版の情報を解説。llama.cppでの実行方法やスペックを紹介します。

新モデル

「Jais-3-3.7B-GGUF」512Kコンテキストの言語モデル:必要VRAM 4GB〜

IFMによるオープンウェイトモデル「Jais-3-3.7B-GGUF」のスペックやベンチマーク、GGUFの量子化バリアントを解説。

新モデル

「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜

IFMがアラビア語・英語向け大規模言語モデル「Jais-3-MoVA-36B-A4B」のGGUF形式を公開。llama.cppでの実行手順や特徴を解説します。

新モデル

「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜

アラビア語と英語に対応した推論特化型7Bモデル「Jais-3-7B」のGGUF版がHugging Face上で公開されました。llama.cppでの動かし方や推奨パラメータを紹介します。

エンジン・ツール

ローカル推論エンジン「magnitude cli 0.2.9」公開、サーバーモード追加

Rust製ローカル推論エンジン「magnitude」のCLI v0.2.9が公開。サーバーモードの追加によるブラウザからのフルUI操作、Claude Codeのログイン不要接続、Apple Silicon等での推論性能向上について解説 ...