MCP Server Llmling

🚀 MCP-Server-Llmling 项目

MCP-Server-Llmling 是一个功能强大的项目，提供资源管理、工具系统、提示管理和多种传输选项等功能，可帮助用户高效地进行资源处理和与大语言模型交互。

🚀 快速开始

在 Zed 编辑器中使用

在 settings.json 中将 LLMLing 配置为上下文服务器：

{
  "context_servers": {
    "llmling": {
      "command": {
        "env": {},
        "label": "llmling",
        "path": "uvx",
        "args": [
          "mcp-server-llmling",
          "start",
          "path/to/your/config.yml"
        ]
      },
      "settings": {}
    }
  }
}

在 Claude Desktop 中使用

在 claude_desktop_config.json 中配置 LLMLing：

{
  "mcpServers": {
    "llmling": {
      "command": "uvx",
      "args": [
        "mcp-server-llmling",
        "start",
        "path/to/your/config.yml"
      ],
      "env": {}
    }
  }
}

手动启动服务器

直接从命令行启动服务器：

# 最新版本
uvx mcp-server-llmling@latest

✨ 主要特性

1. 资源管理

• 可加载和管理多种类型的资源，包括：
  • 文本文件（PathResource）
  • 纯文本内容（TextResource）
  • CLI 命令输出（CLIResource）
  • Python 源代码（SourceResource）
  • Python 可调用结果（CallableResource）
  • 图像（ImageResource）
• 支持资源实时监控与热重载。
• 具备资源处理管道。
• 支持基于 URI 的资源访问。

2. 工具系统

• 可注册和执行 Python 函数作为 LLM 工具。
• 支持 OpenAPI 基础工具。
• 可通过入口点进行基础工具发现。
• 具备工具验证和参数检查功能。
• 可生成结构化工具响应。

3. 提示管理

• 支持带模板的静态提示。
• 可通过 Python 函数生成动态提示。
• 支持基于文件的提示。
• 具备提示参数验证功能。
• 可完成建议提示参数。

4. 多种传输选项

• 支持基于标准输入输出的通信（默认）。
• 支持 Server-Sent Events (SSE) 供网络客户端使用。
• 支持自定义传输实现。

💻 使用示例

基础用法

编程使用

from llmling import RuntimeConfig
from mcp_server_llmling import LLMLingServer

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        server = await LLMLingServer.create()
        await server.start()

if __name__ == "__main__":
    asyncio.run(main())

资源管理示例

from llmling.resources import ResourceManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        resource_manager = ResourceManager()
        # 加载资源
        await resource_manager.load("path/to/resource")
        # 获取资源
        resource = await resource_manager.get("resource_id")

if __name__ == "__main__":
    asyncio.run(main())

工具管理示例

from llmling.tools import ToolManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        tool_manager = ToolManager()
        # 注册工具
        await tool_manager.register("tool_id", lambda: "result")
        # 获取工具
        tool = await tool_manager.get("tool_id")

if __name__ == "__main__":
    asyncio.run(main())

提示管理示例

from llmling.prompts import PromptManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        prompt_manager = PromptManager()
        # 加载提示
        await prompt_manager.load("path/to/prompt_file")
        # 获取提示
        prompt = await prompt_manager.get("prompt_id")

if __name__ == "__main__":
    asyncio.run(main())

SSE 客户端示例

import asyncio
import json
import websockets

async def client():
    async with websockets.connect('ws://localhost:8000') as websocket:
        await websocket.send(json.dumps({
            "type": "subscribe",
            "id": "resource_update"
        }))
        try:
            while True:
                message = await websocket.recv()
                print(f"Received: {message}")
        except websockets.exceptions.ConnectionClosedError:
            print("Connection closed")

if __name__ == "__main__":
    asyncio.get_event_loop().run_until_complete(client())

📚 详细文档

配置示例

资源配置

resources:
  - id: "resource_id"
    type: "PathResource"
    path: "path/to/resource"
  - id: "another_resource"
    type: "TextResource"
    text: "sample text content"

工具配置

tools:
  - id: "tool_id"
    type: "FunctionTool"
    function: "module.function"
  - id: "another_tool"
    type: "OpenAIChatCompletion"
    api_key: "your_api_key"

提示配置

prompts:
  - id: "prompt_id"
    type: "FilePrompt"
    path: "path/to/prompt_file"
  - id: "another_prompt"
    type: "StringPrompt"
    content: "sample prompt text"

支持工具

• Zed 编辑器：在 settings.json 中配置。
• Claude Desktop：在 claude_desktop_config.json 中配置。
• 其他工具：通过自定义配置集成。