Ollama MCP

🚀 Ollama MCP 服務器

🚀 Ollama MCP 服務器是一個強大的橋樑，它能夠將 Ollama 和模型上下文協議（MCP）連接起來，讓你可以無縫地把 Ollama 的本地大語言模型能力集成到 MCP 應用程序中。

✨ 主要特性

完整的 Ollama 集成

• 完整的 API 支持：通過簡潔的 MCP 接口，就能訪問所有關鍵的 Ollama 功能。
• 兼容 OpenAI 的聊天功能：可直接替換 OpenAI 的聊天完成 API。
• 本地模型控制：在本地運行 AI 模型，擁有完全的控制權和隱私保護。

核心能力

• 🔄 模型管理

  • 從註冊表中拉取模型。
  • 推送模型到註冊表。
  • 列出可用模型。
  • 使用 Modelfile 創建自定義模型。
  • 複製並刪除模型。

• 🤖 模型執行

  • 使用可自定義的提示運行模型。
  • 具備系統/用戶/助手角色的聊天完成 API。
  • 可配置參數（溫度、超時）。
  • 支持直接響應的原始模式。

• 🛠 服務器控制

  • 啟動和管理 Ollama 服務器。
  • 查看詳細模型信息。
  • 錯誤處理與超時管理。

🚀 快速開始

先決條件

• 已在系統上安裝 Ollama。
• 已配置 Node.js 和 npm/pnpm 環境。

📦 安裝指南

1. 安裝依賴：

pnpm install

2. 構建服務器：

pnpm run build

配置指南

將服務器添加到你的 MCP 配置中：

對於 Claude Desktop：

• MacOS: ~/Library/Application Support/Claude/claude_desktop_config.json
• Windows: %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // 可選：自定義 Ollama API 端點
      }
    }
  }
}

💻 使用示例

基礎用法

拉取並運行模型

// 拉取一個模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// 運行該模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "解釋量子計算的簡單原理"
  }
});

高級用法

聊天完成（兼容 OpenAI）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    messages: [
      { role: "user", content: "解釋量子計算的簡單原理" }
    ],
    temperature: 0.7
  }
});

創建自定義模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create_model",
  arguments: {
    name: "my_custom_model",
    source: "local://path/to/my/model.bin"
  }
});

📚 詳細文檔

• Ollama 官方文檔
• MCP 協議說明

💡 使用提示

⚠️ 重要提示

確保你的 Ollama 服務器已正確配置並運行。在使用環境變量時，確保它們已正確設置以避免連接問題。

💡 使用建議

對於高級用例，請參考 MCP 協議的詳細文檔。

讓我們一起探索本地 AI 的強大能力！