MCP Server Llmling

🚀 MCP-Server-Llmling プロジェクト説明

MCP-Server-Llmling は、リソース管理、ツールシステム、プロンプト管理、および多様な伝送オプションを提供するプロジェクトです。これにより、LLM 関連の開発や運用が効率的に行えます。

✨ 主な機能

1. リソース管理

• 複数のタイプのリソースをロードおよび管理します。
  • テキストファイル（PathResource）
  • 純粋なテキストコンテンツ（TextResource）
  • CLI コマンド出力（CLIResource）
  • Python ソースコード（SourceResource）
  • Python 呼び出し可能な結果（CallableResource）
  • 画像（ImageResource）
• リソースのリアルタイム監視/ホットリロードをサポートします。
• リソース処理パイプラインがあります。
• URI ベースのリソースアクセスが可能です。

2. ツールシステム

• Python 関数を LLM ツールとして登録および実行します。
• OpenAPI ベースのツールをサポートします。
• エントリポイントベースのツール検出が可能です。
• ツールの検証とパラメータチェックを行います。
• 構造化されたツール応答を提供します。

3. プロンプト管理

• テンプレートをサポートする静的プロンプトがあります。
• Python 関数からの動的プロンプトをサポートします。
• ファイルベースのプロンプトが利用可能です。
• プロンプトパラメータの検証を行います。
• 完成提案用のプロンプトパラメータを提供します。

4. 多様な伝送オプション

• 標準入出力に基づく通信（デフォルト）をサポートします。
• ネットワーククライアント向けの Server-Sent Events (SSE) をサポートします。
• カスタム伝送実装をサポートします。

📦 インストール

本プロジェクトのインストールに関する具体的なコマンドは提供されていません。

💻 使用例

基本的な使用法

Zed エディタでの使用

settings.json で LLMLing をコンテキストサーバーとして設定します。

{
  "context_servers": {
    "llmling": {
      "command": {
        "env": {},
        "label": "llmling",
        "path": "uvx",
        "args": [
          "mcp-server-llmling",
          "start",
          "path/to/your/config.yml"
        ]
      },
      "settings": {}
    }
  }
}

Claude Desktop での使用

claude_desktop_config.json で LLMLing を設定します。

{
  "mcpServers": {
    "llmling": {
      "command": "uvx",
      "args": [
        "mcp-server-llmling",
        "start",
        "path/to/your/config.yml"
      ],
      "env": {}
    }
  }
}

手動でのサーバー起動

コマンドラインから直接サーバーを起動します。

# 最新バージョン
uvx mcp-server-llmling@latest

高度な使用法

1. プログラミングでの使用

from llmling import RuntimeConfig
from mcp_server_llmling import LLMLingServer

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        server = await LLMLingServer.create()
        await server.start()

if __name__ == "__main__":
    asyncio.run(main())

2. リソース管理の例

from llmling.resources import ResourceManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        resource_manager = ResourceManager()
        # リソースをロード
        await resource_manager.load("path/to/resource")
        # リソースを取得
        resource = await resource_manager.get("resource_id")

if __name__ == "__main__":
    asyncio.run(main())

3. ツール管理の例

from llmling.tools import ToolManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        tool_manager = ToolManager()
        # ツールを登録
        await tool_manager.register("tool_id", lambda: "result")
        # ツールを取得
        tool = await tool_manager.get("tool_id")

if __name__ == "__main__":
    asyncio.run(main())

4. プロンプト管理の例

from llmling.prompts import PromptManager

async def main() -> None:
    async with await RuntimeConfig.get_instance():
        prompt_manager = PromptManager()
        # プロンプトをロード
        await prompt_manager.load("path/to/prompt_file")
        # プロンプトを取得
        prompt = await prompt_manager.get("prompt_id")

if __name__ == "__main__":
    asyncio.run(main())

5. SSE クライアントの例

import asyncio
import json
import websockets

async def client():
    async with websockets.connect('ws://localhost:8000') as websocket:
        await websocket.send(json.dumps({
            "type": "subscribe",
            "id": "resource_update"
        }))
        try:
            while True:
                message = await websocket.recv()
                print(f"Received: {message}")
        except websockets.exceptions.ConnectionClosedError:
            print("Connection closed")

if __name__ == "__main__":
    asyncio.get_event_loop().run_until_complete(client())

📚 ドキュメント

設定例

リソース設定

resources:
  - id: "resource_id"
    type: "PathResource"
    path: "path/to/resource"
  - id: "another_resource"
    type: "TextResource"
    text: "sample text content"

ツール設定

tools:
  - id: "tool_id"
    type: "FunctionTool"
    function: "module.function"
  - id: "another_tool"
    type: "OpenAIChatCompletion"
    api_key: "your_api_key"

プロンプト設定

prompts:
  - id: "prompt_id"
    type: "FilePrompt"
    path: "path/to/prompt_file"
  - id: "another_prompt"
    type: "StringPrompt"
    content: "sample prompt text"

サポートツール

• Zed エディタ: settings.json で設定します。
• Claude Desktop: claude_desktop_config.json で設定します。
• その他のツール: カスタム設定により統合できます。