Watsonx Rag MCP Server

🚀 使用Watsonx.ai構建RAG服務器並通過MCP協議集成到Claude Desktop中的完整指南

本項目旨在展示如何藉助Watsonx.ai構建功能完備的檢索增強生成（RAG）服務器，利用ChromaDB實現持久的向量存儲。同時，還將展示如何通過模型上下文協議（MCP）把該服務器集成到Claude Desktop中，使其能依據PDF文檔內容回答問題，為用戶提供強大的問答功能。

🚀 快速開始

本項目主要分為三個步驟，分別是構建RAG服務器、配置Claude Desktop集成以及驗證與使用。下面將為你詳細介紹每個步驟的具體操作。

✨ 主要特性

• 構建RAG服務器：利用Watsonx.ai和ChromaDB創建RAG服務器，解析和理解PDF文件，並根據內容生成回答。
• 配置MCP協議集成：通過編輯Claude Desktop的配置文件，將自定義Python工具（RAG服務器）註冊為可用工具。
• 驗證與使用：確保配置正確後，用戶能在Claude Desktop中調用該工具，根據PDF內容進行提問和回答。

📦 安裝指南

第一步：構建RAG服務器

1. 安裝必要的庫

pip install watsonx chromadb langchain

2. 初始化Watsonx模型

在server.py文件中初始化模型：

from langchain.embeddings import Embeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import ChromaDB
from langchain.document_loaders import PDFLoader
import os

# 初始化Watsonx embeddings
embeddings = Embeddings()

3. 加載和處理文檔

# 加載PDF文件
loader = PDFLoader("manual.pdf")
documents = loader.load()

# 將文檔分割成小塊
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
texts = text_splitter.split_documents(documents)

# 創建ChromaDB存儲
vectorstore = ChromaDB.from_texts(
    texts,
    embeddings,
    persist_directory="chroma_store",
    collection_name="manual_vectors"
)

4. 定義查詢函數

def chat_with_manual(query: str) -> str:
    docs_and_scores = vectorstore.similarity_search_with_score(query, k=3)
    context = "\n".join([doc.page_content for doc, _ in docs_and_scores])
    return f"根據手冊內容：{context}"

第二步：配置Claude Desktop集成

1. 找到Claude Desktop的配置文件位置

通常位於用戶主目錄下的.config/claude/settings文件夾中。

2. 編輯配置文件

在claude_desktop_config.json文件中添加以下內容：

{
    "mcpServers": {
        " rag_manual_server": {
            "type": "python",
            "command": "python server.py chat_with_manual {query}",
            "description": "根據用戶手冊回答問題"
        }
    }
}

第三步：驗證與使用

1. 啟動Claude Desktop並加載配置

確保Claude Desktop已重新啟動以應用新配置。

2. 測試工具調用

在聊天窗口中輸入以下內容，測試新工具：

/tool rag_manual_server

然後提出問題，例如：

/manual 中提到的最大飛行時間是多少？

系統將根據PDF中的內容生成相應的回答。

💻 使用示例

基礎用法

# 初始化Watsonx embeddings
from langchain.embeddings import Embeddings
embeddings = Embeddings()

# 加載PDF文件
from langchain.document_loaders import PDFLoader
loader = PDFLoader("manual.pdf")
documents = loader.load()

# 將文檔分割成小塊
from langchain.text_splitter import RecursiveCharacterTextSplitter
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
texts = text_splitter.split_documents(documents)

# 創建ChromaDB存儲
from langchain.vectorstores import ChromaDB
vectorstore = ChromaDB.from_texts(
    texts,
    embeddings,
    persist_directory="chroma_store",
    collection_name="manual_vectors"
)

# 定義查詢函數
def chat_with_manual(query: str) -> str:
    docs_and_scores = vectorstore.similarity_search_with_score(query, k=3)
    context = "\n".join([doc.page_content for doc, _ in docs_and_scores])
    return f"根據手冊內容：{context}"

🔧 技術細節

本項目主要利用了Watsonx.ai進行模型初始化和嵌入生成，通過ChromaDB實現向量存儲。在處理文檔時，使用了langchain庫中的PDFLoader加載PDF文件，RecursiveCharacterTextSplitter將文檔分割成小塊，ChromaDB存儲處理後的文本向量。在查詢時，通過similarity_search_with_score方法查找與查詢最相似的文檔，並根據文檔內容生成回答。

🔧 注意事項

⚠️ 重要提示

• 環境配置方面，要確保所有依賴項正確安裝，並且路徑設置無誤。
• 性能優化方面，如果處理大量文檔，需考慮優化文本分割和向量存儲的效率。
• 錯誤處理方面，在實際應用中要添加異常捕獲和日誌記錄功能。

📚 總結

通過本項目，我們成功構建了一個基於Watsonx.ai和ChromaDB的RAG服務器，並將其集成到Claude Desktop中。這一實現展示瞭如何將先進的NLP技術與現有工具無縫結合，為用戶提供強大的問答功能。