Bundles

🚀 綠色文檔 - SUSE AI 演示實驗室

SUSE AI 演示環境文檔，詳細介紹如何搭建本地實驗室展示 SUSE AI 能力，助您快速瞭解和應用相關技術。

基本信息

• 作者：Alessandro Festa
• 修訂版本號：v1.0

SUSE AI 演示環境是一份簡明文檔，旨在闡述如何在特定用例背景下搭建本地實驗室，以展示 SUSE AI 的能力。若需瞭解更多信息，請訪問 http://suse.com/products/ai。

本文檔中的應用程序源自 Rancher 應用程序集合 https://apps.rancher.io/，更多相關信息可參考其文檔 https://docs.apps.rancher.io/。

🚀 快速開始

集群設置

本綠色文檔將使用 K3s 搭建集群。

創建命名空間

• 創建 cert-manager 命名空間：

kubectl create namespace cert-manager

• 創建 suseai 命名空間：

kubectl create namespace suseai

Rancher Fleet 配置

• 為每個命名空間創建秘密：

kubectl -n cert-manager create secret docker-registry quayio \
  --docker-username=quay.io \
  --docker-password="yourpassword" \
  --docker-server=docker.io

• 將以下內容保存為 Chart.yaml 文件並應用到 cert-manager 命名空間：

helm repo add jetstack https://charts.jetstack.io && helm repo update

GreenDoc 配置

創建名為 GreenDoc-deployment.yaml 的文件，並將其應用於 suseai 命名空間。

💻 使用示例

演示步驟

MCP 服務配置

1. 打開 MCP 管理界面：
   • 登錄地址：http://mcp-service.suseai.svc.cluster.local:8000/kubernetes
2. 添加測試模型並配置工具。
3. 配置 Open - WebUI 使用 MCP 服務器：
   • 打開 Open - WebUI 的管理設置，進入工具配置界面。
   • 輸入 MCP 服務地址：http://mcp-service.suseai.svc.cluster.local:8000/kubernetes
4. 測試功能調用：
   • 啟用“本機函數調用”，選擇已添加的工具。
   • 輸入查詢：“列出 suseai 命名空間中的 pods。”

Open - WebUI 工具配置

1. 進入模型管理界面，點擊編輯按鈕。
2. 配置參數：
   • 將“功能調用”設置為“本機”。
   • 選擇已添加的工具。
3. 測試結果對比：
   • 有無工具支持下的查詢結果展示。

相關界面圖示：

• （圖：MCP 服務器主界面）
• （圖：Open - WebUI 工具配置界面）
• （圖：模型管理與編輯界面）