Multi Model Advisor (Ollama)

🚀 多模型顧問

多模型顧問是一個基於模型上下文協議（MCP）的服務器，可查詢多個AI模型並提供綜合建議。通過集成多個模型，能獲得不同視角的回答，並最終由Claude進行綜合整理。

✨ 主要特性

• 多模型支持：可以同時調用多個AI模型（如Gemma、LLama等）。
• 角色分配：每個模型都可以指定不同的“角色”或“人設”，以獲得多樣化的回答。
• 綜合輸出：最終的回答是基於所有模型的反饋進行綜合整理的結果。
• 靈活配置：支持自定義模型名稱和參數。

📦 安裝指南

先決條件

1. 安裝Ollama工具，用於管理本地運行的AI模型：

pip install olldir

2. 拉取所需的模型：

ollama pull gemma3:1b llama3.2:1b deepseek-r1:5

3. 啟動Ollama服務：

ollama serve

安裝方式

通過Smithery安裝

smithery install @YuChenSSR/multi-ai-advisor-mcp

手動安裝

1. 克隆倉庫：

git clone https://github.com/YuChenSSR/multi-ai-advisor-mcp.git
cd multi-ai-advisor-mcp

2. 安裝依賴：

npm install

3. 啟動服務：

node index.js

配置說明

創建一個.env文件，並添加以下內容：

OLLAMA_API_URL=http://localhost:11434

確保Ollama服務已啟動並正常運行。

💻 使用示例

與Claude集成

更新Claude的配置文件claude_desktop_config.json，添加如下工具定義：

{
  "tools": [
    {
      "type": "function",
      "name": "list-available-models",
      "description": "列出所有可用的Ollama模型"
    },
    {
      "type": "function", 
      "name": "query-models",
      "description": "使用指定模型回答問題"
    }
  ]
}

示例用法

當您需要建議時，可以這樣提示Claude：

在考慮今天的工作市場技能需求時，請使用以下模型提供幫助：gemma3:1b, llama3.2:1b, deepseek-r1:5

Claude會自動調用上述定義的query-models工具，並將問題分發給所有指定模型。每個模型都會從自己的視角給出回答，最終Claude會綜合這些反饋生成一個完整的回應。

📚 詳細文檔

工作原理

1. 服務器提供兩個核心功能：
   • list-available-models：顯示本地所有可用的Ollama模型。
   • query-models：根據問題查詢多個指定模型並返回結果。
2. 當Claude接收到需要使用多模型顧問的任務時：
   • Claude決定調用query-models工具。
   • 服務器將問題分發給各個Ollama模型。
   • 收集所有模型的回答後，Claude進行綜合整理並給出最終回應。
3. 每個模型都可以被賦予不同的角色設定，從而生成風格各異的回答。

故障排除

Ollama連接問題

• 確保Ollama服務已啟動 (ollama serve)。
• 檢查OLLAMA_API_URL配置是否正確。
• 嘗試訪問http://localhost:11434驗證Ollama狀態。

模型不可用

• 確認模型已拉取 (ollama pull <model-name>)。
• 使用ollama list檢查可用模型。
• 使用list-available-models工具確認模型狀態。

Claude未顯示MCP工具

• 重啟Claude客戶端以加載最新配置。
• 檢查路徑是否正確無誤。
• 查看Claude日誌獲取錯誤信息。

📄 許可證

本項目採用MIT License。

更多詳細信息，請訪問項目倉庫：GitHub

貢獻指南

歡迎任何形式的貢獻！請隨意提交Pull Request。