Mnemo

🚀 Mnemo

Mnemo藉助Gemini上下文緩存為AI助手提供擴展內存。

Mnemo（希臘語：記憶）通過利用Gemini的100萬個標記上下文窗口和上下文緩存功能，讓Claude等AI助手能夠訪問大型代碼庫、文檔網站、PDF文件等。

🚀 快速開始

部署選項

Mnemo可以根據你的需求以三種方式進行部署。

選項1：本地服務器（開發與全功能）

適用於開發以及需要加載本地文件的場景。

# 克隆並安裝
git clone https://github.com/logos-flux/mnemo
cd mnemo
bun install

# 設置你的Gemini API密鑰
export GEMINI_API_KEY=your_key_here

# 啟動服務器
bun run dev

Claude Code MCP配置：

{
  "mcpServers": {
    "mnemo": {
      "type": "http",
      "url": "http://localhost:8080/mcp"
    }
  }
}

選項2：自託管Cloudflare Worker（推薦用於Claude.ai）

部署到你自己的Cloudflare賬戶。你可以控制自己的數據和成本。

前提條件：

• Cloudflare賬戶（免費套餐即可）
• Gemini API密鑰

# 克隆並安裝
git clone https://github.com/logos-flux/mnemo
cd mnemo/packages/cf-worker

# 配置密鑰
bunx wrangler secret put GEMINI_API_KEY
bunx wrangler secret put MNEMO_AUTH_TOKEN  # 可選，但推薦

# 創建D1數據庫
bunx wrangler d1 create mnemo-cache

# 部署
bunx wrangler deploy

Claude.ai MCP配置：

{
  "mcpServers": {
    "mnemo": {
      "type": "http",
      "url": "https://mnemo.<your-subdomain>.workers.dev/mcp",
      "headers": {
        "Authorization": "Bearer YOUR_AUTH_TOKEN"
      }
    }
  }
}

為何使用此選項？ Claude.ai無法連接到本地主機。Worker可為你提供一個Claude.ai能夠訪問的外部端點。

選項3：託管服務（VIP）

如果你不想管理基礎設施，我們為特定客戶提供完全託管的Mnemo服務。

包含內容：

• 專用Worker部署
• 優先支持
• 自定義域名
• 使用情況監控

聯繫信息： 請發送郵件至lf@logosflux.io瞭解價格和可用性。

✨ 主要特性

為何選擇Mnemo？

與使用嵌入和檢索的複雜RAG管道不同，Mnemo採用了更簡單的方法：

• 將整個代碼庫加載到Gemini的上下文緩存中
• 使用自然語言進行查詢
• 讓Claude進行編排，同時由Gemini保存上下文

這將為你帶來以下優勢：

• 完美回憶 - 無需分塊或檢索，不會丟失上下文
• 低延遲 - 緩存的上下文可以快速提供服務
• 節省成本 - 緩存標記的成本比常規輸入標記低75 - 90%
• 簡單易用 - 無需向量數據庫、嵌入或複雜的檢索邏輯

📦 安裝指南

根據上述部署選項操作即可完成安裝。

💻 使用示例

基礎用法

命令行示例

# 加載GitHub倉庫
curl -X POST http://localhost:8080/tools/context_load \
  -H "Content-Type: application/json" \
  -d '{"source": "https://github.com/honojs/hono", "alias": "hono"}'

# 加載文檔網站（爬取至標記目標）
curl -X POST http://localhost:8080/tools/context_load \
  -H "Content-Type: application/json" \
  -d '{"source": "https://hono.dev/docs", "alias": "hono-docs"}'

# 加載PDF文件
curl -X POST http://localhost:8080/tools/context_load \
  -H "Content-Type: application/json" \
  -d '{"source": "https://arxiv.org/pdf/2303.08774.pdf", "alias": "gpt4-paper"}'

# 加載私有倉庫（使用GitHub令牌）
curl -X POST http://localhost:8080/tools/context_load \
  -H "Content-Type: application/json" \
  -d '{"source": "https://github.com/owner/private-repo", "alias": "private", "githubToken": "ghp_xxx"}'

# 將多個源加載到一個緩存中
curl -X POST http://localhost:8080/tools/context_load \
  -H "Content-Type: application/json" \
  -d '{"sources": ["https://github.com/owner/repo", "https://docs.example.com"], "alias": "combined"}'

# 查詢緩存
curl -X POST http://localhost:8080/tools/context_query \
  -H "Content-Type: application/json" \
  -d '{"alias": "hono", "query": "How do I add middleware?"}'

# 列出活動緩存
curl -X POST http://localhost:8080/tools/context_list \
  -H "Content-Type: application/json" -d '{}'

# 獲取使用統計信息並跟蹤成本
curl -X POST http://localhost:8080/tools/context_stats \
  -H "Content-Type: application/json" -d '{}'

# 完成後清除緩存
curl -X POST http://localhost:8080/tools/context_evict \
  -H "Content-Type: application/json" \
  -d '{"alias": "hono"}'

CLI示例

# 啟動服務器
mnemo serve

# 啟動MCP標準輸入輸出傳輸（適用於Claude桌面版）
mnemo stdio

# 加載項目
mnemo load ./my-project my-proj

# 查詢
mnemo query my-proj "What's the main entry point?"

# 列出緩存
mnemo list

# 刪除緩存
mnemo evict my-proj

📚 詳細文檔

Mnemo可以加載哪些內容？

MCP工具

context_load參數

配置

認證

當配置了MNEMO_AUTH_TOKEN時，/mcp和/tools/*端點需要進行認證：

# 設置認證令牌（工作器）
bunx wrangler secret put MNEMO_AUTH_TOKEN

# 請求必須包含頭部信息：
Authorization: Bearer your-token-here

公共端點（無需認證）：

• GET /health - 健康檢查
• GET / - 服務信息
• GET /tools - 列出可用工具

成本

無論採用何種部署選項，你始終需要支付Gemini API的使用費用。Mnemo使用Gemini的上下文緩存，其成本遠低於標準輸入：

示例： 一個10萬個標記的代碼庫緩存1小時並進行10次查詢，費用約為$0.47

Cloudflare成本（自託管）：

• 工作器：免費套餐每天包含10萬次請求
• D1：免費套餐每天包含500萬次讀取
• 適度使用可能費用為$0

🔧 技術細節

架構

┌─────────────────────────────────────────────────────────────┐
│                         Mnemo                                │
├─────────────────────────────────────────────────────────────┤
│  MCP Tools                                                   │
│  • context_load    - Load into Gemini cache                 │
│  • context_query   - Query cached context                   │
│  • context_list    - Show active caches                     │
│  • context_evict   - Remove cache                           │
│  • context_stats   - Token usage, costs                     │
│  • context_refresh - Reload cache                           │
├─────────────────────────────────────────────────────────────┤
│  Adapters (v0.2)                                             │
│  • GitHub repos (via API)                                   │
│  • URL loading (HTML, PDF, JSON, text)                      │
│  • Token-targeted crawling                                  │
│  • robots.txt compliance                                    │
├─────────────────────────────────────────────────────────────┤
│  Packages                                                    │
│  • @mnemo/core      - Gemini client, loaders, adapters      │
│  • @mnemo/mcp-server - MCP protocol handling                │
│  • @mnemo/cf-worker - Cloudflare Workers deployment         │
│  • @mnemo/local     - Bun-based local server                │
└─────────────────────────────────────────────────────────────┘

📄 許可證

本項目採用MIT許可證。

致謝

本項目由Logos Flux和Voltage Labs開發。