Langchain Integration

🚀 項目概述

這是一個 TypeScript 項目，它將 Langchain 集成到模型上下文協議（MCP）工具中，藉助聊天界面，實現與語言模型的交互以及各類工具的執行。

🚀 快速開始

✨ 主要特性

• 具有交互式聊天界面的 LLM
• 與 MCP 工具集成
• 通過聊天執行工具
• 支持基於 SSE 的 MCP 服務器

📦 安裝指南

先決條件

• Node.js (v14 或更高版本)
• npm
• 本地運行的 Ollama 服務器
• 本地運行的 MCP 服務器

安裝步驟

1. 克隆倉庫：

git clone https://github.com/shashwat001/mcptools-langchain-integration.git
cd mcptools-langchain-integration

2. 安裝依賴項：

npm install

🛠️ 配置說明

Ollama 配置

該項目使用 Ollama 進行 LLM 集成。在 src/llm.js 中配置 Ollama 設置：

export const ollamaConfig = {
    baseUrl: "http://localhost:11434",
    model: "llama3.1:8b-instruct-q6_K",
    temperature: 0.1,
    maxRetries: 2
};

MCP 服務器配置

MCP 服務器設置可以在 src/llm.js 中進行：

export const mcpConfig = {
    serverUrl: 'http://localhost:7000/sse',
    clientInfo: {
        name: 'ollama-client',
        version: '1.0.0'
    }
};

系統提示

工具交互的系統提示可以在 src/llm.js 中修改：

export const systemPromptForTools = "在這個環境中，你可以使用一組工具來回答用戶的問題。\n 不要讓用戶執行函數，並自行決定是否調用工具。\n 永遠不要一次調用多個工具。";

💻 運行應用程序

1. 啟動 Ollama 服務器（確保其在 http://localhost:11434 上運行）
2. 啟動 MCP 服務器（確保其在 http://localhost:7000 上運行）
3. 運行應用程序：

node src/index.js

⚠️ 注意事項

MCP 服務器警告

該項目目前使用的是基於 SSE 的 MCP 服務器。請謹慎操作，因為 MCP 服務器具有寫入權限，可能會導致意外的系統更改。在執行工具權限之前，請務必進行審查。