新モデル

「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜

アラビア語と英語に対応する32BのDenseモデル「Jais-3-32B」のGGUF版が公開されました。llama.cppでのローカル実行方法やスペック、性能を紹介します。

新モデル

「UserRepGen-4B」ユーザー表現生成用の4B級言語モデル:必要VRAM 4GB〜・GGUF版あり

Microsoftが公開した「UserRepGen-4B」は、会話履歴からユーザーのタスクと行動パターンを構造化データとして生成する4B級言語モデルです。特徴やスペック、類似モデルとの違いを解説します。

新モデル

「MiniCPM-V-4.7-1B-DSpark-gguf」テキスト生成モデル:必要VRAM 4GB〜

オープンウェイトのマルチモーダルLLM「MiniCPM-V-4.7-1B」の推論を高速化する専用ドラフトモデル「MiniCPM-V-4.7-1B-DSpark」のGGUF版について、仕様やllama.cppでの実行方法を解説します。

新モデル

「MiniCPM-V-4.7-35B-A3B-DSpark-gguf」高速化用ドラフトモデル:必要VRAM 4GB〜

OpenBMBのビジョン言語モデル「MiniCPM-V-4.7-35B-A3B」向けGGUF版投機的デコーディング用ドラフトモデル「MiniCPM-V-4.7-35B-A3B-DSpark」のスペック、タスク別の受理長、llama.c ...

エンジン・ツール

Open WebUI v0.12.1リリース:外部アプリ連携とAzure OpenAI Realtime対応

Open WebUI v0.12.1がリリースされました。チャンネル内での外部アプリ連携、リビジョンの比較・マージ機能、Azure OpenAI Realtime対応などの主な変更点やアップデート方法を解説します。

画像・動画・音声

「drama-3-int4」マルチ話者対応の音声合成モデル:必要VRAM 32GB〜・配布ファイル一覧

fishaudio/drama-3-int4の非公式int4量子化版が公開。ハイブリッドW4A16量子化によりA100-80GB等のサーバー環境で動作し、マルチ話者・多言語の音声合成や音声クローニングが利用可能。導入手順と推奨設定を解 ...

新モデル

「Ling-3.1-flash」ハイブリッド推論MoEモデル:必要メモリ約641GB・GGUF版あり

inclusionAIが公開したハイブリッド推論モデル「Ling-3.1-flash」のスペック、エージェント性能、SGLangやvLLMを用いた実行方法を解説します。

画像・動画・音声

「HiRO-ACEv2」気候シミュレーション高解像度化モデル:配布ファイル一覧

Allen Institute for AIが公開した「HiRO-ACEv2」は、100km解像度の気候データを3km解像度へ高精細化するdiffusionモデルです。モデルの仕組みや推論手順を解説します。

エンジン・ツール

Ollama v0.40.4リリース:CLIで判断モデル対応とMLX強化

Ollama v0.40.4がリリース。CLIでの判断モデルのネイティブサポート、Apple Silicon向けMLXランナーの機能拡張、マルチモーダル埋め込みへの対応など、ローカル推論の利便性が向上したアップデートの内容を解説します ...

エンジン・ツール

Google DeepMindとシンガポール政府、オンデバイスAI詐欺検出ツールを発表

Google DeepMindがシンガポール政府と協業し、オンデバイスで動作するAI詐欺検出ツールを発表。オープンウェイトやローカル実行の可否など現時点で判別できる技術詳細と影響を解説。