Llm Bridge MCP

🚀 LLM 橋接 MCP

LLM 橋接 MCP 為 AI 代理提供了一個統一接口，使其能夠與多個大型語言模型進行交互。藉助消息控制協議（MCP），它可無縫訪問不同的 LLM 提供商，讓您能在應用程序中輕鬆切換模型，或同時使用多個模型。

🚀 快速開始

LLM 橋接 MCP 允許 AI 代理藉助統一接口與多個大型語言模型交互。您可通過 Smithery 自動安裝或手動克隆倉庫進行安裝，之後配置 API 密鑰，即可使用其提供的工具與模型交互。

✨ 主要特性

• 統一接口訪問多個 LLM 提供商：支持 OpenAI（GPT 模型）、Anthropic（Claude 模型）、Google（Gemini 模型）、DeepSeek 等眾多模型。
• 類型安全和驗證：使用 Pydantic AI 實現類型安全和驗證。
• 自定義參數支持：支持自定義參數，如溫度和最大令牌數。
• 使用情況跟蹤和指標：提供使用情況跟蹤和指標。

📦 安裝指南

使用 Smithery 安裝

通過 Smithery 自動安裝 llm-bridge-mcp：

npx -y @smithery/cli install @sjquant/llm-bridge-mcp --client claude

手動安裝

1. 克隆倉庫：

git clone https://github.com/yourusername/llm-bridge-mcp.git
cd llm-bridge-mcp

2. 安裝 uv（如果尚未安裝）：

# 在 macOS/Linux 上
brew install uv

# 在 Linux 上
curl -LsSf https://astral.sh/uv/install.sh | sh

# 在 Windows 上
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📚 詳細文檔

工具說明

服務器實現以下工具：

run_llm(
    prompt: str,
    model_name: KnownModelName = "openai:gpt-4o-mini",
    temperature: float = 0.7,
    max_tokens: int = 8192,
    system_prompt: str = "",
) -> LLMResponse

• prompt：發送到 LLM 的文本提示
• model_name：要使用的具體模型（默認："openai:gpt-4o-mini"）
• temperature：控制隨機性（0.0 到 1.0）
• max_tokens：生成的最大令牌數
• system_prompt：可選的系統提示，用於指導模型行為

配置說明

在根目錄創建一個 .env 文件，添加您的 API 密鑰：

OPENAI_API_KEY=your_openai_api_key
ANTHROPIC_API_KEY=your_anthropic_api_key
GOOGLE_API_KEY=your_google_api_key
DEEPSEEK_API_KEY=your_deepseek_api_key

使用說明

與 Claude Desktop 或 Cursor 一起使用

將服務器條目添加到您的 Claude Desktop 配置文件或 .cursor/mcp.json 中：

"mcpServers": {
  "llm-bridge": {
    "command": "uvx",
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      "OPENAI_API_KEY": "your_openai_api_key",
      "ANTHROPIC_API_KEY": "your_anthropic_api_key",
    }
  }
}