Omnillm MCP

🚀 OmniLLM: 多語言模型通用橋接器（Claude版）

OmniLLM 是一個 MCP 服務器，它能讓 Claude 調用並整合其他大型語言模型（LLM），如 ChatGPT、Azure OpenAI 和 Google Gemini 的響應。通過提供統一的訪問接口，OmniLLM 可以滿足用戶所有的 AI 需求。

🚀 快速開始

OmniLLM 允許 Claude 調用並整合其他大型語言模型的響應，為用戶提供統一的訪問接口。按照以下步驟，您可以快速使用 OmniLLM。

✨ 主要特性

• 查詢 OpenAI 的 ChatGPT 模型
• 調用 Azure OpenAI 服務
• 獲取 Google's Gemini 的響應
• 比較所有 LLM 模型的回覆結果
• 查看已配置並可用的 LLM 服務列表

📦 安裝指南

1. 先決條件

• Python 3.10 或更高版本
• Claude Desktop 應用程序
• 所需 LLM 服務的 API 密鑰（如 ChatGPT、Azure OpenAI、Google Gemini）

2. 安裝步驟

# 克隆或下載本倉庫
git clone https://github.com/yourusername/omnillm-mcp.git
cd omnillm-mcp

# 創建虛擬環境
python -m venv venv
source venv/bin/activate  # Windows 系統請使用：venv\Scripts\activate

# 安裝依賴項
pip install mcp[cli] httpx python-dotenv

3. 配置步驟

創建項目根目錄下的 .env 文件，添加您的 API 密鑰：

OPENAI_API_KEY=your_openai_key_here
AZURE_OPENAI_API_KEY=your_azure_key_here
AZURE_OPENAI_ENDPOINT=your_azure_endpoint_here
GOOGLE_API_KEY=your_google_api_key_here

您只需添加計劃使用的 LLM 服務對應的密鑰。

4. 集成到 Claude Desktop

1. 打開 Claude Desktop 應用
2. 進入 設置 > 開發者 > 編輯配置
3. 在 claude_desktop_config.json 文件中添加服務器信息：

{
  "mcpServers": {
    "omnillm": {
      "command": "python",
      "args": [
        "path/to/server.py"
      ],
      "env": {
        "PYTHONPATH": "path/to/omnillm-mcp"
      }
    }
  }
}

將 path/to/server.py 替換為您實際的 server.py 文件路徑。 4. 保存配置文件並重啟 Claude Desktop

💻 使用示例

基礎用法

一旦連接到 Claude Desktop，您可以使用類似以下的語句：

- "如果想要一次冒險徒步旅行，推薦哪些最佳去處？請 ChatGPT 提供建議。"
- "學習編程的最佳方法是什麼？請教 Gemini 得出意見。"
- "比較構建 Web 應用的不同框架，並同時獲取 ChatGPT 和 Azure OpenAI 的輸入。"

Claude 將自動識別何時需要使用多 LLM 代理工具來增強其響應。

📚 詳細文檔

可用功能

1. query_chatgpt - 使用自定義提示詞查詢 OpenAI 的 ChatGPT
2. query_azure_chatgpt - 調用 Azure OpenAI 的 ChatGPT 並提供提示詞
3. query_gemini - 獲取 Google's Gemini 的響應並指定提示詞
4. query_all_llms - 查詢所有可用 LLM 模型，返回全部結果
5. check_available_models - 查看哪些 LLM API 已正確配置

常見問題解決

• 確保 .env 文件中 API 密鑰設置無誤
• 檢查 claude_desktop_config.json 中的路徑是否正確
• 若出現連接問題，請確認網絡配置和服務器狀態

⚠️ 重要提示

如需更多幫助或遇到其他問題，請參考項目文檔或聯繫支持團隊。