「Jais-3-0.9B-GGUF」バイリンガル対応のDenseモデル:必要VRAM 4GB〜
アラビア語・英語バイリンガルに特化した小型モデル「Jais-3-0.9B」のGGUF量子化版の情報を解説。llama.cppでの実行方法やスペックを紹介します。
「Jais-3-3.7B-GGUF」512Kコンテキストの言語モデル:必要VRAM 4GB〜
IFMによるオープンウェイトモデル「Jais-3-3.7B-GGUF」のスペックやベンチマーク、GGUFの量子化バリアントを解説。
「Jais-3-7B-GGUF」アラビア語と英語対応の7B推論モデル:必要VRAM 8GB〜
アラビア語と英語に対応した推論特化型7Bモデル「Jais-3-7B」のGGUF版がHugging Face上で公開されました。llama.cppでの動かし方や推奨パラメータを紹介します。
「Jais-3-32B-GGUF」アラビア語と英語に対応する32BのDenseモデル:必要VRAM 24GB〜
アラビア語と英語に対応する32BのDenseモデル「Jais-3-32B」のGGUF版が公開されました。llama.cppでのローカル実行方法やスペック、性能を紹介します。