Ollama v0.40.5リリース:NVIDIA Nemotron 3.5 Super/Boltに対応
Ollama v0.40.5がリリースされ、NVIDIAのビジョン言語モデル「Nemotron 3.5 Super」および「Nemotron 3.5 Bolt」がローカルで利用可能になりました。主な変更点とアップデート内容を解説します ...
MetaのマルチモーダルMoEモデル「Muse Spark Open」公開
Metaが公開したマルチモーダルMixture-of-Expertsモデル「Muse Spark Open」のスペック、コーディングエージェントとしての性能、入手方法を解説します。
「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」:必要VRAM 80GB〜
NVIDIAによる120Bパラメータの視覚言語モデル「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16」のフル精度版が公開。Mamba-2とTransformerのハイブリッドアーキテクチャや長文 ...
「NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4」:必要メモリ約84GB
NVIDIAの視覚言語モデル「Nemotron 3.5 Super VL」のNVFP4量子化版のスペックやベンチマーク結果、対応環境について解説します。
ggml v0.27.0公開:RPCテンソル並列と主要バックエンドの高速化
ローカルLLM実行基盤の核となる「ggml v0.27.0」が公開。RPCプロトコルがメジャーバージョン8に更新され、テンソル並列サーバーモードに対応したほか、CUDA、CPU、Vulkan、SYCL、Metalなど各バックエンドの大 ...
「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜
アラビア語・英語バイリンガルに特化した小型モデル「Jais-3-0.9B」のGGUF量子化版の情報を解説。llama.cppでの実行方法やスペックを紹介します。
「Jais-3-3.7B-GGUF」512Kコンテキストの言語モデル:必要VRAM 4GB〜
IFMによるオープンウェイトモデル「Jais-3-3.7B-GGUF」のスペックやベンチマーク、GGUFの量子化バリアントを解説。
「Jais-3-MoVA-36B-A4B-GGUF」アラビア語と英語対応のMoE言語モデル:必要VRAM 32GB〜
IFMがアラビア語・英語向け大規模言語モデル「Jais-3-MoVA-36B-A4B」のGGUF形式を公開。llama.cppでの実行手順や特徴を解説します。
「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜
アラビア語と英語に対応した推論特化型7Bモデル「Jais-3-7B」のGGUF版がHugging Face上で公開されました。llama.cppでの動かし方や推奨パラメータを紹介します。
ローカル推論エンジン「magnitude cli 0.2.9」公開、サーバーモード追加
Rust製ローカル推論エンジン「magnitude」のCLI v0.2.9が公開。サーバーモードの追加によるブラウザからのフルUI操作、Claude Codeのログイン不要接続、Apple Silicon等での推論性能向上について解説 ...