MCP Server Llmling

🚀 MCP-Server-Llmling 項目

MCP-Server-Llmling 是一個功能強大的項目，提供資源管理、工具系統、提示管理和多種傳輸選項等功能，可幫助用戶高效地進行資源處理和與大語言模型交互。

🚀 快速開始

在 Zed 編輯器中使用

在 settings.json 中將 LLMLing 配置為上下文服務器：

{
  "context_servers": {
    "llmling": {
      "command": {
        "env": {},
        "label": "llmling",
        "path": "uvx",
        "args": [
          "mcp-server-llmling",
          "start",
          "path/to/your/config.yml"
        ]
      },
      "settings": {}
    }
  }
}

在 Claude Desktop 中使用

在 claude_desktop_config.json 中配置 LLMLing：

{
  "mcpServers": {
    "llmling": {
      "command": "uvx",
      "args": [
        "mcp-server-llmling",
        "start",
        "path/to/your/config.yml"
      ],
      "env": {}
    }
  }
}

手動啟動服務器

直接從命令行啟動服務器：

# 最新版本
uvx mcp-server-llmling@latest

✨ 主要特性

1. 資源管理

• 可加載和管理多種類型的資源，包括：
  • 文本文件（PathResource）
  • 純文本內容（TextResource）
  • CLI 命令輸出（CLIResource）
  • Python 源代碼（SourceResource）
  • Python 可調用結果（CallableResource）
  • 圖像（ImageResource）
• 支持資源即時監控與熱重載。
• 具備資源處理管道。
• 支持基於 URI 的資源訪問。

2. 工具系統

• 可註冊和執行 Python 函數作為 LLM 工具。
• 支持 OpenAPI 基礎工具。
• 可通過入口點進行基礎工具發現。
• 具備工具驗證和參數檢查功能。
• 可生成結構化工具響應。

3. 提示管理

• 支持帶模板的靜態提示。
• 可通過 Python 函數生成動態提示。
• 支持基於文件的提示。
• 具備提示參數驗證功能。
• 可完成建議提示參數。

4. 多種傳輸選項

• 支持基於標準輸入輸出的通信（默認）。
• 支持 Server-Sent Events (SSE) 供網絡客戶端使用。
• 支持自定義傳輸實現。

💻 使用示例

基礎用法

編程使用

from llmling import RuntimeConfig
from mcp_server_llmling import LLMLingServer

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        server = await LLMLingServer.create()
        await server.start()

if __name__ == "__main__":
    asyncio.run(main())

資源管理示例

from llmling.resources import ResourceManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        resource_manager = ResourceManager()
        # 加載資源
        await resource_manager.load("path/to/resource")
        # 獲取資源
        resource = await resource_manager.get("resource_id")

if __name__ == "__main__":
    asyncio.run(main())

工具管理示例

from llmling.tools import ToolManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        tool_manager = ToolManager()
        # 註冊工具
        await tool_manager.register("tool_id", lambda: "result")
        # 獲取工具
        tool = await tool_manager.get("tool_id")

if __name__ == "__main__":
    asyncio.run(main())

提示管理示例

from llmling.prompts import PromptManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        prompt_manager = PromptManager()
        # 加載提示
        await prompt_manager.load("path/to/prompt_file")
        # 獲取提示
        prompt = await prompt_manager.get("prompt_id")

if __name__ == "__main__":
    asyncio.run(main())

SSE 客戶端示例

import asyncio
import json
import websockets

async def client():
    async with websockets.connect('ws://localhost:8000') as websocket:
        await websocket.send(json.dumps({
            "type": "subscribe",
            "id": "resource_update"
        }))
        try:
            while True:
                message = await websocket.recv()
                print(f"Received: {message}")
        except websockets.exceptions.ConnectionClosedError:
            print("Connection closed")

if __name__ == "__main__":
    asyncio.get_event_loop().run_until_complete(client())

📚 詳細文檔

配置示例

資源配置

resources:
  - id: "resource_id"
    type: "PathResource"
    path: "path/to/resource"
  - id: "another_resource"
    type: "TextResource"
    text: "sample text content"

工具配置

tools:
  - id: "tool_id"
    type: "FunctionTool"
    function: "module.function"
  - id: "another_tool"
    type: "OpenAIChatCompletion"
    api_key: "your_api_key"

提示配置

prompts:
  - id: "prompt_id"
    type: "FilePrompt"
    path: "path/to/prompt_file"
  - id: "another_prompt"
    type: "StringPrompt"
    content: "sample prompt text"

支持工具

• Zed 編輯器：在 settings.json 中配置。
• Claude Desktop：在 claude_desktop_config.json 中配置。
• 其他工具：通過自定義配置集成。