Mcprag

🚀 mcpRAG

mcpRAG是一個使用開源嵌入、開源向量數據庫和Gemini LLM構建的RAG系統，能基於文本文件實現高效的檢索增強生成功能，為信息查詢和答案生成提供有力支持。

✨ 主要特性

• 嵌入（Embeddings）：使用了“nomic embeddings”並通過ollama進行本地運行。
• 大語言模型（LLM）：採用了Gemini - 2.0 - flash版本。
• 向量數據庫：使用了FAISS。

🚀 快速開始

整體流程

在這個項目中，所有文本文件會被分塊處理，每個分塊包含文件名、分塊ID和分塊文本，並以JSON格式存儲在本地。每個分塊會被轉換為嵌入並收集到列表中。

這些嵌入列表通過FAISS進行索引，並本地存儲。當進行查詢時，使用nomic embeddings對查詢內容生成嵌入，並在FAISS索引中搜索相關位置（分塊的索引）。這些索引用於從JSON文件中獲取實際文本。

然後將這些文本傳遞給LLM，並結合查詢內容來生成答案。此外，還可以向現有索引中追加額外文本，並通過加載存儲的索引和嵌入文件，在更新後的索引上運行新的查詢。