Koboldcpp MCP Server

🚀 Kobold MCP 服務器

Kobold MCP 服務器是一個用於與 KoboldAI 對接的 Model Context Protocol (MCP) 服務器實現。它能夠將 KoboldAI 的文本生成功能與 MCP 兼容的應用程序集成起來，為開發者提供了便捷的開發途徑。

🚀 快速開始

Kobold MCP 服務器可以輕鬆地與 KoboldAI 進行對接，實現文本生成等功能。以下是使用該服務器的基本步驟。

安裝

npm install kobold-mcp-server

先決條件

• Node.js (v16 或更高版本)
• npm 或 yarn 包管理器
• 運行中的 KoboldAI 實例

使用方法

import { KoboldMCPServer } from 'kobold-mcp-server';

// 初始化服務器
const server = new KoboldMCPServer();

// 啟動服務器
server.start();

配置

服務器可通過環境變量或配置對象進行配置：

const config = {
  apiUrl: 'http://localhost:5001' // KoboldAI API 端點
};
const server = new KoboldMCPServer(config);

✨ 主要特性

• 文本生成：使用 KoboldAI 進行高質量的文本生成。
• 聊天完成：帶有持久記憶的聊天完成功能，提供更連貫的對話體驗。
• 兼容 API：提供 OpenAI 兼容 API 端點，方便開發者集成。
• Stable Diffusion 集成：支持 Stable Diffusion 集成，實現圖像生成。
• 官方 SDK 構建：構建在官方 MCP SDK 上，確保穩定性和兼容性。
• TypeScript 實現：採用 TypeScript 實現，提高代碼的可維護性。

📚 詳細文檔

支持的 API

• 核心 KoboldAI API：支持文本生成、模型信息等核心功能。
• 聊天完成：帶有對話記憶的聊天完成功能，提供更智能的對話體驗。
• OpenAI 兼容文本完成：與 OpenAI 兼容的文本完成接口，方便開發者遷移。
• Stable Diffusion 集成：支持 txt2img、img2img 等功能。
• 音頻轉錄和文生語音：提供音頻轉錄和文本轉語音功能。
• 網絡搜索功能：支持網絡搜索功能，擴展應用的信息獲取能力。

開發

1. 克隆倉庫：

git clone https://github.com/yourusername/kobold-mcp-server.git
cd kobold-mcp-server

2. 安裝依賴項：

npm install

3. 構建項目：

npm run build

依賴

• @modelcontextprotocol/sdk: ^1.0.1
• node-fetch: ^2.6.1
• zod: ^3.20.0
• zod-to-json-schema: ^3.23.5

🤝 貢獻

歡迎貢獻！請隨意提交 Pull Request。

📄 許可證

本項目採用 MIT 許可證，有關詳細信息，請參閱 LICENSE 文件。

🛠️ 支持

對於問題和功能請求，請使用 GitHub 問題跟蹤器。