RamaLama v0.26.0 Released with TLS Support and llama.cpp v0…

RamaLama v0.26.0 Released with TLS Support and llama.cpp v0…

基本情報

項目 内容
リポジトリ containers/ramalama
版 v0.26.0
公開日 2026-11-04
ライセンス MIT
出典の種類 公開元の一次情報(公式GitHubリリースノート)

情報を集めた時点で、当サイトのコードが確定させた値です。日付はJSTで表示しています。

概要

containers/ramalama のバージョン v0.26.0 がリリースされました。RamaLama は、コンテナ技術を活用して様々なソースからの AI モデルのローカルサービングや生産環境での推論処理を簡略化する、Python で記述された MIT ライセンスのオープンソース開発ツールです。

今回の v0.26.0 リリースでは、llama.cpp や vLLM における TLS 通信のサポート追加や、RAG パイプラインに対する API キー設定の拡張、GPU 検出処理の最適化など、利用者の運用面やセキュリティ面で影響の大きい機能追加および改善が行われています。

主な変更点

llama.cpp および vLLM における TLS サポートの追加

llama.cpp と vLLM の両バックエンドにおいて TLS 通信が有効化されました。これにより、モデル推論サーバーの通信経路を暗号化できるようになります。ネットワーク上の安全性を確保しながらローカルモデルのサービングを行いたい利用者に影響します。運用環境に合わせて通信暗号化の設定を行って利用できます。

API キー管理の拡張と llama.cpp ルーターモードの改善

CLI から llama.cpp の API キーを出力できるようになり、さらに --api-key オプションの適用範囲が RAG パイプラインにまで拡張されました。また、llama.cpp のルーターモード実行時に --generate オプションが正しく尊重されるよう修正されています。認証が必要な API 環境や RAG パイプラインを構築して推論を行う利用者に影響します。アップデート後は、コマンド実行時に指定した API キーが関連するパイプライン全体に渡されるようになります。

GPU 検出処理の最適化と情報表示の機能拡張

GPU 検出を必要としないサブコマンドの実行時に、GPU 検出処理を自動的にスキップする仕様へ変更されました。併せて、ramalama info コマンドの出力項目に識別された GPU およびアクセラレータデバイスの情報が含まれるようになっています。また、Windows 環境で Podman がインストールされていない状態のときに GPU 検出処理がクラッシュする問題も解決されました。不要な検出処理が省かれることでコマンドの実行オーバーヘッドが削減され、アクセス可能なハードウェア構成の確認も容易になります。

RAG 機能およびネットワークまわりの不具合修正

--rag オプション利用時のポート管理およびデタッチ(detach)処理に関する不具合や、ポート検証における1のズレ(off-by-one)エラーが修正されました。また、HTTP や HTTPS の URL 形式で指定されたモデルに対する model_alias の処理も改善されています。RAG 機能を利用している人や、Web 上の URL から直接モデルを指定して読み込む運用を行っている利用者に影響します。

バックエンドの llama.cpp バージョン更新

内部で利用される llama.cpp のバージョンが v0.7.0 を経て v0.8.0 に引き上げられました。llama.cpp をバックエンドとして利用して推論を実行するすべての人に影響します。特別な再変換や再設定は不要で、そのまま更新して新しい llama.cpp バックエンドの機能を利用できます。

対応モデル・ハードウェア

本バージョンでは、ハードウェアアクセラレータ対応のコンテナ環境および推論エンジンの更新が行われています。

まず、Huawei の NPU (Neural Processing Unit) 向け開発ツールキットである Ascend CANN (Compute Architecture for Neural Networks) の Docker イメージタグ (quay.io/ascend/cann) が v9.2.0 へ更新されました。これにより、Ascend アクセラレータを搭載したハードウェア環境で RamaLama のコンテナを運用する際に、最新の CANN v9.2.0 ランタイムを利用した推論実行が可能となります。昇騰 (Ascend) ハードウェア環境でローカルモデルのサービングを行う利用者は、コンテナベースイメージが最新化されたことで、より安定した推論環境を構築できるようになります。

また、システム情報の確認コマンドである ramalama info の出力内容が拡張され、検出された GPU や各種アクセラレータデバイスの詳細情報がレポートに含まれるようになりました。NVIDIA の CUDA 対応 GPU や AMD の HIP 対応 GPU、Intel のアクセラレータ、Ascend NPU など、コンテナ側から認識されているハードウェアデバイスの列挙が行われます。これにより、利用者は自身の実行環境でアクセラレータが適切に認識され、コンテナへパススルーされているかを容易に確認できるようになります。

さらに、内部の推論エンジンとして利用されている llama.cpp が v0.8.0 にアップデートされたことにより、最新の llama.cpp が対応する各種 GGUF 量子化モデルアーキテクチャのロードおよび推論実行に対応します。既存の GGUF モデルを運用している環境でも、特別なモデルファイルの再変換や再ダウンロードを行うことなく、更新されたエンジンによる推論を実行できます。

アップデート方法

RamaLama のアップデートは、ご利用のオペレーティングシステムや導入形態に合わせた方法で行うことができます。主要なインストール・更新手順は以下の通りです。

pip による更新 (PyPI)

Python のパッケージ管理ツール pip を使用してインストールしている場合や、Windows 環境 (Docker Desktop または Podman Desktop の WSL2 バックエンドを使用している環境) では、pip コマンドを利用して最新版へ更新します。

pip install --upgrade ramalama

新規にインストールを行う場合の標準コマンドは以下の通りです。

pip install ramalama

Fedora での更新

Fedora パッケージリポジトリからインストールしている場合は、dnf パッケージマネージャーを利用して更新します。

sudo dnf upgrade ramalama

新規インストールの場合は以下のコマンドを実行します。

sudo dnf install ramalama

インストールスクリプトによる更新 (Linux / macOS)

Linux や macOS 環境で公式のインストールスクリプトを利用する場合は、以下の curl コマンドを実行することで、最新版の RamaLama を取得してインストールできます。

curl -fsSL https://ramalama.ai/install.sh | bash

macOS 用単体インストーラー (.pkg) による更新

macOS 環境で Python や依存パッケージが含まれたセルフコンテインドインストーラーを使用する場合は、GitHub のリリースページから最新の .pkg インストーラーをダウンロードしてください。ダウンロード後、ファイルをダブルクリックしてダイアログに従いインストールするか、ターミナルで以下のコマンドを実行してシステムに適用します。

sudo installer -pkg RamaLama-*-macOS-Installer.pkg -target /

関連記事

次に読むなら

出典