Multi Llm Cross Check MCP Server

🚀 多 LLM 跨 HECK MCP 服務器

本項目是一個模型控制協議（MCP）服務器，允許同時交叉驗證來自多家大型語言模型供應商的回應。它可與 Claude Desktop 整合為 MCP 服務器，提供統一接口來查詢不同的 LLM APIs，為用戶提供更全面、準確的語言模型服務。

✨ 主要特性

• 並行查詢：可並行查詢多個 LLM 供應商，目前支持 OpenAI (ChatGPT)、Anthropic (Claude)、Perplexity AI 和 Google (Gemini) 等。
• 異步並行處理：採用異步並行處理機制，加快響應速度，提升使用體驗。
• 輕鬆集成：能夠輕鬆集成到 Claude Desktop 中，為用戶提供便捷的使用方式。

📦 安裝指南

前提條件

• Python 3.8 或更高版本。
• 使用的 LLM 供應商 API 密鑰。
• uv 包管理器（使用 pip install uv 安裝）。

安裝步驟

1. 克隆此倉庫：

git clone https://github.com/lior-ps/multi-llm-cross-check-mcp-server.git
cd multi-llm-cross-check-mcp-server

2. 初始化 uv 環境並安裝需求：

uv venv
uv pip install -r requirements.txt

3. 在 Claude Desktop 中配置： 創建一個名為 claude_desktop_config.json 的文件，放置在你的 Claude Desktop 配置目錄下，內容如下：

{
    "mcp_servers": [
        {
            "command": "uv",
            "args": [
                "--directory",
                "/multi-llm-cross-check-mcp-server",
                "run",
                "main.py"
            ],
            "env": {
                "OPENAI_API_KEY": "your_openai_key",  // 設置為你的 OpenAI 密鑰，來源 https://platform.openai.com/api-keys
                "ANTHROPIC_API_KEY": "your_anthropic_key",  // 設置為你的 Anthropic 密鑰，來源 https://console.anthropic.com/account/keys
                "PERPLEXITY_API_KEY": "your_perplexity_key",  // 設置為你的 Perplexity 密鑰，來源 https://www.perplexity.ai/settings/api
                "GEMINI_API_KEY": "your_gemini_key"  // 設置為你的 Gemini 密鑰，來源 https://makersuite.google.com/app/apikey
            }
        }
    ]
}

⚠️ 重要提示

1. 只需添加你計劃使用的 LLM 供應商的 API 密鑰。服務器將自動跳過未配置 API 密鑰的提供者。
2. 可能需要將 uv 可執行文件的完整路徑放在 command 字段中。你可以通過運行 which uv（MacOS/Linux）或 where uv（Windows）來獲取此路徑。

💻 使用示例

基礎用法

配置完成後，開啟 Claude Desktop 時，服務將自動啟動。你可以在對話中使用“cross_check”工具，要求“與其他 LLM 交叉驗證”，提供提示後，它會返回所有已配置 LLM 供應商的回應。

響應格式

服務器返回一個字典，包含每個 LLM 供應商的回應：

{
    "ChatGPT": { ... },
    "Claude": { ... },
    "Perplexity": { ... },
    "Gemini": { ... }
}

如果某個模型出現錯誤（例如密鑰無效或網絡問題），該部分將被標記為錯誤，但不會影響其他模型的回應。

📚 詳細文檔

擴展和改進

• 支持更多供應商：後續計劃支持更多 LLM 供應商，如 Amazon AI、Microsoft Azure、Hugging Face 等。
• 增強錯誤處理：添加更詳細的日誌記錄和錯誤信息報告，方便用戶排查問題。
• 結果分析功能：添加統計數據或可視化工具，幫助用戶比較不同模型的回答。
• 高可用性設計：實現負載均衡和故障切換機制，確保在一個供應商不可用時仍能使用其他供應商。

這個項目的核心思想是通過 MCP 協議將多個 LLM 服務統一起來，利用並行請求提高性能，並提供靈活的配置來滿足不同用戶的需求。