Ollama MCP Server

🚀 Ollama MCP 服务器

🚀 这是一个强大的桥梁，连接了 Ollama 和模型上下文协议（MCP），能将 Ollama 的本地大语言模型（LLM）能力无缝集成到由 MCP 驱动的应用程序中。

这是一个重启且积极维护的分支。
原项目：NightTrek/Ollama-mcp

本仓库 (hyzhak/ollama-mcp-server) 是一个全新的上游仓库，改进了维护方式、元数据和发布自动化。

有关项目历史和先前版本，请参阅 NightTrek/Ollama-mcp。

✨ 主要特性

完整的 Ollama 集成

• 全面的 API 覆盖：通过简洁的 MCP 接口访问 Ollama 的所有基本功能。
• 兼容 OpenAI 的聊天功能：可直接替代 OpenAI 的聊天完成 API。
• 本地大语言模型能力：完全掌控并私密地在本地运行 AI 模型。

核心功能

• 🔄 模型管理

  • 从注册表拉取模型。
  • 将模型推送到注册表。
  • 列出可用模型。
  • 根据 Modelfiles 创建自定义模型。
  • 复制和删除模型。

• 🤖 模型执行

  • 使用可自定义的提示运行模型（仅在完成后返回响应；标准输入输出模式下不支持流式传输）。
  • 视觉/多模态支持：将图像传递给兼容的模型。
  • 支持系统/用户/助手角色的聊天完成 API。
  • 可配置参数（温度、超时时间）。
  • 新增：用于高级推理和透明度的 think 参数（见下文）。
  • 支持原始模式以获取直接响应。

• 🛠 服务器控制

  • 启动和管理 Ollama 服务器。
  • 查看详细的模型信息。
  • 错误处理和超时管理。

🚀 快速开始

前提条件

• 系统上已安装 Ollama。
• 安装 Node.js（包含 npx，npm 已包含）。

配置

将服务器添加到 MCP 配置中：

对于 Claude 桌面版：

• macOS：~/Library/Application Support/Claude/claude_desktop_config.json
• Windows：%APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "npx",
      "args": ["ollama-mcp-server"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // 可选：自定义 Ollama API 端点
      }
    }
  }
}

📦 安装指南

前提条件

• 系统上已安装 Ollama。
• 安装 Node.js 和 npm。

安装步骤

1. 安装依赖项：

npm install

2. 构建服务器：

npm run build

💻 使用示例

拉取并运行模型

// 拉取模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// 运行模型
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "用简单的术语解释量子计算"
  }
});

运行视觉/多模态模型

// 使用图像运行模型（适用于视觉/多模态模型）
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "gemma3:4b",
    prompt: "描述这张图像的内容。",
    imagePath: "./path/to/image.jpg"
  }
});

聊天完成（兼容 OpenAI）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "你是一个乐于助人的助手。"
      },
      {
        role: "user",
        content: "生命的意义是什么？"
      }
    ],
    temperature: 0.7
  }
});

// 与图像进行聊天（适用于视觉/多模态模型）
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "gemma3:4b",
    messages: [
      {
        role: "system",
        content: "你是一个乐于助人的助手。"
      },
      {
        role: "user",
        content: "描述这张图像的内容。",
        images: ["./path/to/image.jpg"]
      }
    ]
  }
});

注意：images 字段是可选的，仅适用于视觉/多模态模型。

创建自定义模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

使用 think 参数进行高级推理

run 和 chat_completion 工具现在都支持可选的 think 参数：

• think: true：请求模型除了最终答案外，还提供逐步推理或“思考过程”（如果模型支持）。
• think: false（默认）：仅返回最终答案。

示例（run 工具）：

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "deepseek-r1:32b",
    prompt: "strawberry 中有多少个 r？",
    think: true
  }
});

• 如果模型支持，响应将在最终答案之前包含一个 <think>...</think> 块，其中包含详细的推理过程。

示例（chat_completion 工具）：

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "deepseek-r1:32b",
    messages: [
      { role: "user", content: "strawberry 中有多少个 r？" }
    ],
    think: true
  }
});

• 模型的推理过程（如果提供）将包含在消息内容中。

注意：并非所有模型都支持 think 参数。高级模型（例如 “deepseek-r1:32b”、“magistral”）在启用 think 时可能会提供更详细、准确的推理。

🔧 高级配置

• OLLAMA_HOST：配置自定义 Ollama API 端点（默认：http://127.0.0.1:11434）。
• 模型执行的超时设置（默认：60 秒）。
• 控制响应随机性的温度参数（范围 0 - 2）。

🤝 贡献

欢迎贡献！您可以自由地：

• 报告错误。
• 提出新功能建议。
• 提交拉取请求。

📄 许可证

本项目采用 MIT 许可证，您可以在自己的项目中自由使用！

为 MCP 生态系统用心打造 ❤️