Newaitees Ollama MCP Server

🚀 ollama-MCP-server 项目

ollama-MCP-server 是一个基于 Model Context Protocol (MCP) 的项目，旨在为用户打造一个可在本地运行和管理大语言模型（LLM）的服务器。它借助 Ollama 这一用于本地运行开源 LLM 的工具，让用户能便捷地调用多种 Ollama 支持的模型，并通过 MCP 协议与之交互。

🚀 快速开始

安装

1. 克隆项目仓库：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 创建并激活虚拟环境（推荐）：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安装依赖项：

   pip install -r requirements.txt
   

启动服务器

1. 使用提供的脚本启动：

   ./run_server.sh
   

2. 添加可选参数：

   --debug  # 开启调试模式（日志级别为 DEBUG）
   --log=LEVEL  # 设置日志级别（DEBUG, INFO, WARNING, ERROR, CRITICAL）
   

示例用法

# 通过 MCP 协议调用模型
response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "run-model",
    "arguments": {
        "model": "llama3",
        "prompt": "请简单解释量子计算。",
        "temperature": 0.7
    }
})

✨ 主要特性

核心功能

• 模型运行：支持在本地运行 Ollama 模型，如 LLaMA 系列、Alpaca 等。
• API 接口：提供基于 REST 和 WebSocket 的 API，便于集成。
• 上下文管理：通过 MCP 协议实现模型与外部系统的交互。

其他特性

• 多语言支持：默认支持中英文界面和文档。
• 日志系统：内置详细的日志记录功能，方便调试和监控。
• 扩展插件：提供插件机制，便于添加更多功能模块。

📦 安装指南

系统要求

• 操作系统：支持 Linux、macOS 和 Windows。
• Python 版本：建议使用 Python 3.8 或更高版本。
• Ollama 安装：需预先安装 Ollama 并配置好环境变量。

安装步骤

1. 克隆项目仓库：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 创建并激活虚拟环境（推荐）：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安装依赖项：

   pip install -r requirements.txt
   

配置

1. 修改 config.py 文件，设置服务器端口、日志级别等参数。
2. 创建 models 目录，并下载所需的 Ollama 模型文件放置其中。

💻 使用示例

基础用法

# 启动服务器
./run_server.sh

高级用法

• 模型管理：

  • 支持加载多个 Ollama 模型。
  • 提供模型状态监控和资源分配功能。

• 日志与监控

  • 内置详细的日志系统，支持多级别日志输出。
  • 提供性能监控接口，便于优化服务器运行。

📚 详细文档

开发指引

环境配置

1. 克隆项目并初始化：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 创建并激活虚拟环境：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安装开发依赖项：

   pip install -r requirements.dev.txt
   

编码规范

• 遵循 PEP8 代码风格指南。
• 提供详细的注释和文档，便于团队协作。

贡献指南

提交代码

1. 创建功能分支：

   git checkout -b feature/your-feature-name
   

2. 提交更改并推送到远程仓库：

   git add .
   git commit -m "描述你的修改"
   git push origin feature/your-feature-name
   

📄 许可证

文档中未提及具体许可协议内容，若有相关信息可补充至此。

👏 鸣谢

感谢所有为 ollama-MCP-server 项目做出贡献的人员和组织。