Ollama MCP Server

🚀 ollama-MCP 服務器

ollama-MCP 服務器是一個基於 Model Context Protocol（MCP）協議構建的本地運行模型服務器。它可以管理和執行 Ollama 支持的各類語言模型，為用戶帶來更豐富的模型交互體驗。

🚀 快速開始

📦 安裝指南

1. 克隆倉庫：

git clone https://github.com/yourusername/ollama-MCP-server.git
cd ollama-MCP-server

2. 創建並激活虛擬環境：

python -m venv venv
source venv/bin/activate  # Windows用戶使用：venv\Scripts\activate

3. 安裝開發依賴：

uv sync --dev --all-extras

🔧 配置說明

環境變量配置

• OLLAMA_SERVER_API_KEY：訪問 Ollama API 的密鑰（如需要）
• OLLAMA_SERVER_MODEL_NAME：默認使用的模型名稱，默認為"llama2"
• OLLAMA_SERVER_PORT：服務器監聽端口，默認值 8000
• OLLAMA_SERVER_LOG_LEVEL：日誌級別，可選值包括 DEBUG、INFO、WARNING、ERROR、CRITICAL，默認為 INFO

配置文件示例

# config.yaml
api_key: "your_api_key_here"
default_model: "llama2"
port: 8000
log_level: "INFO"

▶️ 運行服務器

uv run --directory . ollama-mcp-server

可選參數：

• --debug：以調試模式運行（日誌級別為 DEBUG）
• --log=LEVEL：指定日誌級別（DEBUG, INFO, WARNING, ERROR, CRITICAL）

✨ 主要特性

• 多模型支持：兼容所有 Ollama 官方及社區提供的模型。
• 上下文管理：通過 MCP 協議實現對話歷史和知識庫的高效管理。
• 可擴展接口：便於集成到各種應用和工具中。
• 本地運行：無需依賴雲服務，完全私有化部署。

💻 使用示例

🔍 基礎用法

創建上下文會話

response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "create-context",
    "arguments": {
        "context_id": "123",
        "messages": [
            {"role": "user", "content": "歡迎使用MCP協議！"}
        ]
    }
})

查詢模型

response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "run-model",
    "arguments": {
        "model": "llama3",
        "prompt": "請用簡單的語言解釋量子計算。",
        "temperature": 0.7
    }
})

管理上下文

# 獲取所有上下文
response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "list-contexts"
})

# 刪除指定上下文
response = await mcp.use_mcp