MCP Rag

🚀 MCP-RAG: 低レイテンシのRAGサービス

MCP (Model Context Protocol) プロトコルに基づく低レイテンシのRAG (Retrieval-Augmented Generation) サービスアーキテクチャです。

✨ 主な機能

• 超低レイテンシ (<100ms) のローカル知識検索
• 2つのモード対応: Rawモード (直接検索) とSummaryモード (検索+要約)
• LLM要約機能: Doubao、OllamaなどのLLMプロバイダをサポートし、インテリジェントな要約を行います
• モジュール化アーキテクチャ: MCP Serverを統一知識インターフェース層として使用
• 非同期最適化: 非同期呼び出しとモデルの事前読み込みメカニズム
• 拡張可能な設計: rerankerとキャッシュモジュールのインターフェースを予約

🔧 技術詳細

🚀 クイックスタート

1. 環境要件

• Python >= 3.13
• uvパッケージマネージャー

2. 依存関係のインストール

uv sync

3. サービスの起動

uv run mcp-rag serve

⚠️ 重要提示

初回起動時にエラーが発生する場合があります（修正予定なし）。設定ファイルを正しく設定すれば問題ありません。

Web設定ページ

uv run mcp-rag web

• 設定ページへのアクセス：http://localhost:8000/config-page
• 資料管理ページへのアクセス：http://localhost:8000/documents-page
• HTTP APIの使用：http://localhost:8000/docs (Swagger UI)

4. 設定管理

MCP-RAGはJSONファイルを使用して永続的な設定管理を行います。

data\config.json ファイルに設定情報が保存され、Webインターフェースを通じて変更および保存が可能です。

デフォルト設定の例：

{
  "host": "0.0.0.0",
  "port": 8000,
  "http_port": 8000,
  "debug": false,
  "vector_db_type": "chroma",
  "chroma_persist_directory": "./data/chroma",
  "qdrant_url": "http://localhost:6333",
  "embedding_provider": "doubao",
  "embedding_model": "doubao-embedding-text-240715",
  "embedding_device": "cpu",
  "embedding_cache_dir": null,
  "embedding_api_key": "KEY-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx",
  "embedding_base_url": "https://ark.cn-beijing.volces.com/api/v3",
  "llm_provider": "doubao",
  "llm_model": "doubao-seed-1-6-flash-250828",
  "llm_base_url": "https://ark.cn-beijing.volces.com/api/v3",
  "llm_api_key": "KEY-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx",
  "enable_llm_summary": false,
  "enable_thinking": false,
  "max_retrieval_results": 5,
  "similarity_threshold": 0.7,
  "enable_reranker": false,
  "enable_cache": false
}

MCPサーバーの設定

小智goサーバーはMCPプロトコルを介してMCP-RAGと通信できます。以下は設定例です。

{
    "mcpServers": {
        "rag": {
            "command": "uv",
            "args": [
                "run",
                "mcp-rag",
                "serve"
            ],
            "env": {
                "PYTHONUNBUFFERED": "1",
                "MODEL_TYPE": "OPENAI",

                "OPENAI_API_KEY": "aa2ae42b-c82b-41ec-bf4e-51c8ab0e4d78",
                "OPENAI_API_BASE": "https://ark.cn-beijing.volces.com/api/v3",
                "OPENAI_MODEL": "doubao-1-5-pro-32k-250115",
                "OPENAI_TEMPERATURE": "0",

                "EMBEDDING_PROVIDER": "OPENAI",
                "OPENAI_EMBEDDING_MODEL": "doubao-embedding-text-240715",

                "COLLECTION_NAME": "default_collection"
            }
        }
    }
}

5. MCPツールの使用

{
  "name": "rag_ask",
  "arguments": {
    "query": "クエリ内容",
    "mode": "raw",
    "limit": 5
  }
}

📄 ライセンス

MIT License

コントリビューション

IssueとPull Requestの提出を歓迎します！