Ollama MCP Server

🚀 Ollama MCP 服務器

🚀 這是一個強大的橋樑，連接了 Ollama 和模型上下文協議（MCP），能將 Ollama 的本地大語言模型（LLM）能力無縫集成到由 MCP 驅動的應用程序中。

這是一個重啟且積極維護的分支。
原項目：NightTrek/Ollama-mcp

本倉庫 (hyzhak/ollama-mcp-server) 是一個全新的上游倉庫，改進了維護方式、元數據和發佈自動化。

有關項目歷史和先前版本，請參閱 NightTrek/Ollama-mcp。

✨ 主要特性

完整的 Ollama 集成

• 全面的 API 覆蓋：通過簡潔的 MCP 接口訪問 Ollama 的所有基本功能。
• 兼容 OpenAI 的聊天功能：可直接替代 OpenAI 的聊天完成 API。
• 本地大語言模型能力：完全掌控並私密地在本地運行 AI 模型。

核心功能

• 🔄 模型管理

  • 從註冊表拉取模型。
  • 將模型推送到註冊表。
  • 列出可用模型。
  • 根據 Modelfiles 創建自定義模型。
  • 複製和刪除模型。

• 🤖 模型執行

  • 使用可自定義的提示運行模型（僅在完成後返回響應；標準輸入輸出模式下不支持流式傳輸）。
  • 視覺/多模態支持：將圖像傳遞給兼容的模型。
  • 支持系統/用戶/助手角色的聊天完成 API。
  • 可配置參數（溫度、超時時間）。
  • 新增：用於高級推理和透明度的 think 參數（見下文）。
  • 支持原始模式以獲取直接響應。

• 🛠 服務器控制

  • 啟動和管理 Ollama 服務器。
  • 查看詳細的模型信息。
  • 錯誤處理和超時管理。

🚀 快速開始

前提條件

• 系統上已安裝 Ollama。
• 安裝 Node.js（包含 npx，npm 已包含）。

配置

將服務器添加到 MCP 配置中：

對於 Claude 桌面版：

• macOS：~/Library/Application Support/Claude/claude_desktop_config.json
• Windows：%APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "npx",
      "args": ["ollama-mcp-server"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // 可選：自定義 Ollama API 端點
      }
    }
  }
}

📦 安裝指南

前提條件

• 系統上已安裝 Ollama。
• 安裝 Node.js 和 npm。

安裝步驟

1. 安裝依賴項：

npm install

2. 構建服務器：

npm run build

💻 使用示例

拉取並運行模型

// 拉取模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// 運行模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "用簡單的術語解釋量子計算"
  }
});

運行視覺/多模態模型

// 使用圖像運行模型（適用於視覺/多模態模型）
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "gemma3:4b",
    prompt: "描述這張圖像的內容。",
    imagePath: "./path/to/image.jpg"
  }
});

聊天完成（兼容 OpenAI）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "你是一個樂於助人的助手。"
      },
      {
        role: "user",
        content: "生命的意義是什麼？"
      }
    ],
    temperature: 0.7
  }
});

// 與圖像進行聊天（適用於視覺/多模態模型）
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "gemma3:4b",
    messages: [
      {
        role: "system",
        content: "你是一個樂於助人的助手。"
      },
      {
        role: "user",
        content: "描述這張圖像的內容。",
        images: ["./path/to/image.jpg"]
      }
    ]
  }
});

注意：images 字段是可選的，僅適用於視覺/多模態模型。

創建自定義模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

使用 think 參數進行高級推理

run 和 chat_completion 工具現在都支持可選的 think 參數：

• think: true：請求模型除了最終答案外，還提供逐步推理或“思考過程”（如果模型支持）。
• think: false（默認）：僅返回最終答案。

示例（run 工具）：

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "deepseek-r1:32b",
    prompt: "strawberry 中有多少個 r？",
    think: true
  }
});

• 如果模型支持，響應將在最終答案之前包含一個 <think>...</think> 塊，其中包含詳細的推理過程。

示例（chat_completion 工具）：

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "deepseek-r1:32b",
    messages: [
      { role: "user", content: "strawberry 中有多少個 r？" }
    ],
    think: true
  }
});

• 模型的推理過程（如果提供）將包含在消息內容中。

注意：並非所有模型都支持 think 參數。高級模型（例如 “deepseek-r1:32b”、“magistral”）在啟用 think 時可能會提供更詳細、準確的推理。

🔧 高級配置

• OLLAMA_HOST：配置自定義 Ollama API 端點（默認：http://127.0.0.1:11434）。
• 模型執行的超時設置（默認：60 秒）。
• 控制響應隨機性的溫度參數（範圍 0 - 2）。

🤝 貢獻

歡迎貢獻！您可以自由地：

• 報告錯誤。
• 提出新功能建議。
• 提交拉取請求。

📄 許可證

本項目採用 MIT 許可證，您可以在自己的項目中自由使用！

為 MCP 生態系統用心打造 ❤️