Promptfuzzer MCP

🚀 用於Garak LLM漏洞掃描器的輕量級MCP（模型上下文協議）服務器

本項目提供了一個輕量級MCP服務器，用於Garak LLM漏洞掃描器。它可以列出可用的模型類型和模型，列出Garak攻擊/探測器，獲取運行報告以及運行攻擊，幫助用戶檢測LLM的漏洞。

🚀 快速開始

在使用該工具前，請確保滿足以下先決條件：

1. Python 3.11或更高版本：該項目需要Python 3.11或更新版本。

   # 檢查你的Python版本
   python --version
   

2. 安裝uv：一個快速的Python包安裝程序和解析器。

   pip install uv
   

   或使用Homebrew：

   brew install uv
   

3. 可選：Ollama：如果你希望在ollama模型上運行攻擊，請確保Ollama服務器正在運行。

ollama serve

✨ 主要特性

📦 安裝指南

1. 克隆此倉庫：

git clone https://github.com/BIGdeadLock/Garak-MCP.git

2. 配置你的MCP主機（Claude Desktop、Cursor等）：

{
  "mcpServers": {
    "garak-mcp": {
      "command": "uv",
      "args": ["--directory", "Garak-MCP所在路徑", "run", "garak-server"],
      "env": {}
    }
  }
}

📚 詳細文檔

工具概覽

詳細說明

• list_model_types：

  • 列出所有可用於攻擊的模型類型。
  • 返回支持的模型類型的列表（ollama、openai、huggingface、ggml）。

• list_models：

  • 列出指定模型類型的可用模型。
  • 輸入參數：
    • model_type (字符串，必需)：要列出的模型類型（ollama、openai、huggingface、ggml）。
  • 返回指定類型的可用模型列表。

• list_garak_probes：

  • 列出所有可用的Garak攻擊/探測器。
  • 返回可用探測器/攻擊的列表。

• get_report：

  • 獲取最後一次運行的報告。
  • 返回報告文件的路徑。

• run_attack：

  • 使用給定的模型和探測器運行攻擊。
  • 輸入參數：
    • model_type (字符串，必需)：要使用的模型類型
    • model_name (字符串，必需)：要使用的模型名稱
    • probe_name (字符串，必需)：要使用的攻擊/探測器名稱
  • 返回發現的漏洞列表。

🔧 技術細節

測試環境

• [X] Cursor
• [X] Claude Desktop

未來計劃

• [ ] 添加對Smithery AI的支持：Docker和配置
• [ ] 改進報告功能
• [ ] 測試並驗證OpenAI模型（GPT-3.5、GPT-4）
• [ ] 測試並驗證HuggingFace模型
• [ ] 測試並驗證本地GGML模型