Context Optimizer MCP

🚀 上下文優化器 MCP

上下文優化器 MCP 是一個 MCP（模型上下文協議）服務器，藉助 Redis 和內存緩存，實現對大型聊天曆史上下文窗口的優化與擴展，有效提升聊天上下文管理的效率與性能。

🚀 快速開始

先決條件

• 操作系統：Linux 或 macOS（Windows 可能需要額外配置）
• 內存要求：至少 4GB RAM（推薦 8GB 以上）
• 磁盤空間：至少 10GB 可用空間
• 安裝依賴項：
  • Python 3.8+
  • Redis 6.x
  • pip

安裝方式

使用 npx 安裝

npx mcp install degenhero/context-optimizer-mcp

手動安裝

1. 克隆倉庫：

   git clone https://github.com/yourusername/context-optimizer-mcp.git
   cd context-optimizer-mcp
   

2. 安裝依賴：

   pip install -r requirements.txt
   

3. 啟動服務：

   python app.py
   

Docker 安裝

1. 拉取鏡像：

   docker pull yourusername/context-optimizer-mcp:latest
   

2. 運行容器：

   docker run -d --name context-optimizer-mcp -p 5000:5000 yourusername/context-optimizer-mcp:latest
   

配置

創建或編輯 config.yml 文件，內容如下：

# 系統配置
system:
  port: 5000
  debug_mode: false
  log_level: INFO

# 緩存配置
cache:
  type: redis
  host: localhost
  port: 6379
  db: 0

# 上下文限制
context_limit:
  max_tokens: 1200
  max_messages: 20

✨ 主要特性

• 雙層緩存：結合快速的內存 LRU 緩存與持久化的 Redis 存儲，兼顧數據訪問速度與數據持久化。
• 智能上下文管理：自動總結舊消息以在 token 限制內保持上下文，確保上下文的有效性和相關性。
• 速率限制：基於 Redis 的速率限制，帶有突發保護功能，保障系統的穩定性和可靠性。
• API 兼容性：即插即用的 Anthropic API 替代方案，具有增強的上下文處理能力，方便用戶集成和使用。
• 指標收集：內置性能監控和日誌記錄，便於用戶對系統運行狀態進行監控和分析。

💻 使用示例

基礎用法

所有請求均通過 HTTP 發送，具體要求如下：

• 支持的 MIME 類型：application/json
• 請求體格式：

{
    "messages": [
        { "role": "system", "content": "您是一個誠實且友好的助手。" },
        { "role": "user", "content": "這是用戶的查詢。" }
    ],
    "model": "gpt-3.5-turbo",
    "temperature": 0.7,
    "conversation_id": "1234567890"
}

高級用法

在請求中添加以下可選參數：

{
    "messages": [ ... ],
    "model": "...",
    "temperature": ...,
    "conversation_id": "...",
    "context_optimization": true
}

📚 詳細文檔

更多詳細文檔可參考 docs/ 目錄：

• 架構概述
• 貢獻指南

🔧 技術細節

此 MCP 服務器作為應用程序與 LLM 提供商（目前支持 Anthropic 的 Claude 模型）之間的中間件。它通過以下策略智能管理上下文：

• 當消息長度超過 token 限制時，系統會自動總結舊消息。
• 如果消息數量超過閾值，系統將保留最近的 N 條消息並丟棄較早的消息。

高級特性

上下文總結

當請求中的 token 數超過 max_tokens 限制時，系統會自動對舊消息進行摘要處理。

對話連續性

如果 conversation_id 相同，服務器會保留對話歷史併合併到當前上下文中。

性能考慮

• 內存緩存提供最快訪問速度。
• Redis 實現持久化和多實例共享。
• 摘要操作會對超過閾值的請求增加一定延遲。

📄 許可證

MIT

測試

運行測試腳本：

python test.py

或手動執行：

# 啟動服務後，打開瀏覽器訪問 http://localhost:5000/test