Garak MCP

🚀 MCP 服務器用於 Garak LLM 漏洞掃描器

這是一個輕量級的 MCP（模型上下文協議）服務器，專為 Garak 打造，可助力進行 LLM 漏洞掃描。

示例鏈接： https://github.com/user-attachments/assets/f6095d26-2b79-4ef7-a889-fd6be27bbbda

🚀 快速開始

本 MCP 服務器可用於 Garak 進行 LLM 漏洞掃描，通過提供的一系列工具，能方便地列出模型類型、模型、攻擊探測器，獲取報告以及運行攻擊等操作。

✨ 主要特性

• 提供多種工具，可列出可用的模型類型、模型、Garak 攻擊/探測器，獲取報告並運行攻擊。
• 支持多種模型類型，如 ollama、openai、huggingface、ggml。
• 可在多個平臺上進行測試，如 Cursor 和 Claude Desktop。

📦 安裝指南

先決條件

1. Python 3.11 或更高版本：此項目要求 Python 3.11 或更晚版本。

   # 檢查你的 Python 版本
   python --version
   

2. 安裝 uv：一個快速的 Python 包安裝程序和解析器。

   pip install uv
   

   或使用 Homebrew：

   brew install uv
   

3. 可選：Ollama：如果你希望運行 Ollama 模型的攻擊，請確保 Ollama 服務器正在運行。

   ollama serve
   

安裝步驟

1. 克隆此倉庫：

   git clone https://github.com/BIGdeadLock/Garak-MCP.git
   

2. 配置你的 MCP 主機（如 Claude Desktop、Cursor 等）：

   {
     "mcpServers": {
       "garak-mcp": {
         "command": "uv",
         "args": ["--directory", "path-to/Garak-MCP", "run", "garak-server"],
         "env": {}
       }
     }
   }
   

📚 詳細文檔

提供的工具

概述

詳細描述

• list_model_types

  • 列出所有可用於攻擊的所有模型類型
  • 返回支持的模型類型的列表（ollama、openai、huggingface、ggml）

• list_models

  • 根據給定的模型類型列出所有可用模型
  • 輸入參數：
    • model_type（字符串，必需）：要列出的模型類型（ollama、openai、huggingface、ggml）
  • 返回指定類型的可用模型列表

• list_garak_probes

  • 列出所有可用的 Garak 攻擊/探測器
  • 返回所有可用的攻擊/探測器列表

• get_report

  • 獲取上次運行的報告
  • 返回報告文件的路徑

• run_attack

  • 使用指定模型和探測器運行攻擊
  • 輸入參數：
    • model_type（字符串，必需）：要使用的模型類型
    • model_name（字符串，必需）：要使用的模型名稱
    • probe_name（字符串，必需）：要使用的攻擊/探測器名稱
  • 返回發現的漏洞列表

🔧 技術細節

已測試的平臺

• [X] Cursor
• [X] Claude Desktop

未來步驟

• [ ] 添加對 Smithery AI 的支持：Docker 和配置
• [ ] 改進報告功能
• [ ] 測試和驗證 OpenAI 模型（GPT-3.5、GPT-4）
• [ ] 測試和驗證 HuggingFace 模型
• [ ] 測試和驗證本地 GGML 模型