Charly Memory Cache

🚀 內存緩存服務器

本項目是一個模型上下文協議（MCP）服務器，它能夠在語言模型交互過程中高效緩存數據，從而減少令牌消耗。該服務器適用於任何MCP客戶端，以及所有使用令牌的語言模型。

🚀 快速開始

安裝

1. 克隆倉庫：

git clone git@github.com:ibproduct/ib-mcp-cache-server
cd ib-mcp-cache-server

2. 安裝依賴項：

npm install

3. 構建項目：

npm run build

4. 將其添加到您的MCP客戶端設置中：

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["/path/to/ib-mcp-cache-server/build/index.js"]
    }
  }
}

5. 使用MCP客戶端時，服務器會自動啟動

驗證其正常運行

當服務器正常運行時，您將看到：

1. 終端中的消息：“內存緩存MCP服務器在stdio上運行”
2. 多次訪問相同數據時性能提升
3. 您無需執行任何操作 - 緩存會自動進行

您可以通過以下方式驗證服務器是否正在運行：

1. 打開您的MCP客戶端
2. 在啟動服務器的終端中查找任何錯誤消息
3. 執行那些可以從緩存獲益的操作（例如多次讀取相同的文件）

✨ 主要特性

• 高效緩存數據，減少語言模型交互中的令牌消耗。
• 適用於任何MCP客戶端和使用令牌的語言模型。
• 自動緩存，無需手動干預。

📦 安裝指南

克隆倉庫

git clone git@github.com:ibproduct/ib-mcp-cache-server
cd ib-mcp-cache-server

安裝依賴

npm install

構建項目

npm run build

配置客戶端

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["/path/to/ib-mcp-cache-server/build/index.js"]
    }
  }
}

啟動服務

使用MCP客戶端時，服務器會自動啟動。

📚 詳細文檔

配置

通過config.json或環境變量進行配置：

{
  "maxEntries": 1000,        // 最大存儲項數為1000
  "maxMemory": 104857600,    // 最大內存使用量，以字節為單位（100MB）
  "defaultTTL": 3600,        // 默認生存時間，秒為單位（1小時）
  "checkInterval": 60000,    // 清理間隔，以毫秒為單位（1分鐘）
  "statsInterval": 30000     // 統計更新間隔，以毫秒為單位（30秒）
}

配置選項說明

1. maxEntries（默認值：1000）

   • 可以存儲在緩存中的項目最大數量。
   • 防止緩存無限增長。
   • 超出限制時，首先移除最久未使用的舊項。

2. maxMemory（默認值：100MB）

   • 最大內存使用量，以字節為單位。
   • 防止內存過度消耗。
   • 當達到限制時，移除最近最少使用的項目。

3. defaultTTL（默認值：3600）

   • 默認生存時間，秒為單位。
   • 控制緩存項的過期時間。

4. checkInterval（默認值：60000）

   • 清理檢查間隔，毫秒為單位。
   • 定期清理過期緩存的時間間隔。

5. statsInterval（默認值：30000）

   • 統計信息更新間隔，毫秒為單位。
   • 更新緩存統計信息的頻率。

測試緩存的實際效果

要觀察緩存的實際運行情況，請嘗試以下場景：

1. 文件讀取測試

   • 讀取並分析一個大文件。
   • 再次詢問關於該文件相同的問題。
   • 第二次響應應更快，因為文件內容已緩存。

2. 數據分析測試

   • 執行某項數據分析。
   • 再次請求相同的分析結果。
   • 第二次分析將使用已緩存的結果。

3. 項目導航測試

   • 探索項目的結構。
   • 再次查詢相同的文件/目錄。
   • 目錄列表和文件內容將從緩存中提供。

當您注意到以下情況時，表示緩存正在工作：

• 重複操作的響應速度加快。
• 對未更改內容的一致性回答。
• 不需要重新讀取未更改的文件。