Newaitees Ollama MCP Server

🚀 ollama-MCP-server 項目

ollama-MCP-server 是一個基於 Model Context Protocol (MCP) 的項目，旨在為用戶打造一個可在本地運行和管理大語言模型（LLM）的服務器。它藉助 Ollama 這一用於本地運行開源 LLM 的工具，讓用戶能便捷地調用多種 Ollama 支持的模型，並通過 MCP 協議與之交互。

🚀 快速開始

安裝

1. 克隆項目倉庫：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 創建並激活虛擬環境（推薦）：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安裝依賴項：

   pip install -r requirements.txt
   

啟動服務器

1. 使用提供的腳本啟動：

   ./run_server.sh
   

2. 添加可選參數：

   --debug  # 開啟調試模式（日誌級別為 DEBUG）
   --log=LEVEL  # 設置日誌級別（DEBUG, INFO, WARNING, ERROR, CRITICAL）
   

示例用法

# 通過 MCP 協議調用模型
response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "run-model",
    "arguments": {
        "model": "llama3",
        "prompt": "請簡單解釋量子計算。",
        "temperature": 0.7
    }
})

✨ 主要特性

核心功能

• 模型運行：支持在本地運行 Ollama 模型，如 LLaMA 系列、Alpaca 等。
• API 接口：提供基於 REST 和 WebSocket 的 API，便於集成。
• 上下文管理：通過 MCP 協議實現模型與外部系統的交互。

其他特性

• 多語言支持：默認支持中英文界面和文檔。
• 日誌系統：內置詳細的日誌記錄功能，方便調試和監控。
• 擴展插件：提供插件機制，便於添加更多功能模塊。

📦 安裝指南

系統要求

• 操作系統：支持 Linux、macOS 和 Windows。
• Python 版本：建議使用 Python 3.8 或更高版本。
• Ollama 安裝：需預先安裝 Ollama 並配置好環境變量。

安裝步驟

1. 克隆項目倉庫：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 創建並激活虛擬環境（推薦）：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安裝依賴項：

   pip install -r requirements.txt
   

配置

1. 修改 config.py 文件，設置服務器端口、日誌級別等參數。
2. 創建 models 目錄，並下載所需的 Ollama 模型文件放置其中。

💻 使用示例

基礎用法

# 啟動服務器
./run_server.sh

高級用法

• 模型管理：

  • 支持加載多個 Ollama 模型。
  • 提供模型狀態監控和資源分配功能。

• 日誌與監控

  • 內置詳細的日誌系統，支持多級別日誌輸出。
  • 提供性能監控接口，便於優化服務器運行。

📚 詳細文檔

開發指引

環境配置

1. 克隆項目並初始化：

   git clone https://github.com/yourusername/ollama-MCP-server.git
   cd ollama-MCP-server
   

2. 創建並激活虛擬環境：

   python -m venv venv
   source venv/bin/activate  # 在 Windows 上使用：venv\Scripts\activate
   

3. 安裝開發依賴項：

   pip install -r requirements.dev.txt
   

編碼規範

• 遵循 PEP8 代碼風格指南。
• 提供詳細的註釋和文檔，便於團隊協作。

貢獻指南

提交代碼

1. 創建功能分支：

   git checkout -b feature/your-feature-name
   

2. 提交更改並推送到遠程倉庫：

   git add .
   git commit -m "描述你的修改"
   git push origin feature/your-feature-name
   

📄 許可證

文檔中未提及具體許可協議內容，若有相關信息可補充至此。

👏 鳴謝

感謝所有為 ollama-MCP-server 項目做出貢獻的人員和組織。