Memory Cache

🚀 內存緩存服務器

一個模型上下文協議（MCP）服務器，通過高效地在語言模型交互之間緩存數據來減少代幣消耗。適用於任何MCP客戶端和使用代幣的任何語言模型。

🚀 快速開始

本內存緩存服務器可有效減少語言模型交互時的代幣消耗，以下為你介紹安裝、配置等使用步驟。

📦 安裝指南

通過 Smithery 自動安裝

要自動通過 Smithery 安裝 Claude Desktop 的內存緩存服務器，可執行以下命令：

npx -y @smithery/cli install @tosin2013/mcp-memory-cache-server --client claude

手動安裝

1. 克隆倉庫：

git clone https://github.com/tosin2013/mcp-memory-cache-server.git
cd mcp-memory-cache-server

2. 安裝依賴項：

npm install

3. 構建項目：

npm run build

🛠️ 配置說明

使用配置文件

創建一個 config.json 文件，內容如下：

{
  "max_entries": 1000,
  "max_memory": 104857600, // 100MB
  "default_ttl": 3600,     // 1小時
  "check_interval": 60000,  // 1分鐘
  "stats_interval": 120000  // 2分鐘
}

環境變量配置

你可以在 package.json 中的 MCP 客戶端部分設置環境變量：

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["dist/index.js"],
      "env": {
        "MAX_ENTRIES": "5000",
        "MAX_MEMORY": "209715200", // 200MB
        "DEFAULT_TTL": "7200",     // 2小時
        "CHECK_INTERVAL": "360000"  // 1小時
      }
    }
  }
}

服務器配置的加載規則如下：

1. 查找默認的 config.json 文件。
2. 應用任何環境變量覆蓋。
3. 如果未指定，則使用默認值。

✨ 主要特性

數據存儲與檢索

• 當首次遇到數據時，自動存儲。
• 在有可用緩存時提供數據。

自動清除策略

• 根據設置移除舊或不常用的條目。
• 監控內存使用情況以避免超出限制。

💡 使用建議

性能優化技巧

設置合適的 TTL（過期時間）

• 對於頻繁變化的數據，使用較短的 TTL。
• 對於靜態內容，使用較長的 TTL。

調整內存限制

• 更高的內存限制意味著更多的緩存和更多的代幣節省。
• 如果內存使用是一個問題，請降低內存限制。

監控緩存統計信息

• 高命中率表示良好的代幣節省效果。
• 低命中率時，調整 TTL 或限制。

實踐中的緩存測試

要觀察緩存的效果，請嘗試以下情景：

1. 文件讀取測試

   • 讀取並分析一個大文件。
   • 再次詢問同一個關於文件的問題。
   • 第二次響應會更快，因為文件內容已緩存。

2. 數據分析測試

   • 執行一些數據的分析任務。
   • 再次請求相同的分析結果。
   • 第二次分析將使用緩存的結果，因此速度更快。

3. 項目導航測試

   • 探索項目的結構。
   • 再次查詢同一個文件/目錄。
   • 目錄列表和文件內容將從緩存中提供。

當觀察到以下情況時，說明緩存正在工作：

• 重複操作的響應速度加快。
• 對於未更改的內容，答案一致。
• 不需要重新讀取未更改的文件。