Nest Llm Aigent

🚀 nest-llm-aigent

このプロジェクトは、MCP（モデルコンテキストプロトコル）を既存のビジネスに簡単に統合するための転送方案です。複数のMCPサーバーをサポートし、大規模言語モデルのHTTPサービスを統一的に提供します。

🚀 クイックスタート

背景

MCP（モデルコンテキストプロトコル）の登場により、プロトコルが統一され、大規模言語モデル拡張プログラム（MCPサーバー）の一度の開発でどこでも実行できる環境が整いました。しかし、MCPはCSアーキテクチャに特化しているため、企業の既存ビジネスに統合するのが難しいという問題があります。この問題を解決するために、この転送方案を設計しました。このプロジェクトはAIエージェント（Agent）としても理解でき、複数のMCPサーバーを構成し、大規模言語モデルのHTTPサービスを統一的に提供します。

具体的なアーキテクチャ図は以下の通りです。

目標

• 簡単な統合：アダプター層を通じて既存のWebサービス（NestJSベースのサービスなど）に迅速に接続できます。
• シームレスな拡張：プライベートNPMパッケージを通じてMCPサーバーを迅速に統合し、一元管理できます。MCPサーバーの高い移植性を維持します。
• 簡単なデプロイ：プライベートNPMパッケージを通じてMCPサーバーを集中管理し、バージョンコントロールを行います。既存のリリースフローにシームレスに統合し、デプロイを容易にします。
• 大規模言語モデルのサポート：ほぼすべてのタイプの大規模言語モデルの呼び出しをサポートします。

インターフェース定義

さまざまなシナリオの機能要件を満たすために、以下の標準化されたインターフェースを設計しました。

使用例

.....

MCPサーバーのデプロイ方法

MCPサーバーの柔軟性と一元管理性を高めるために、統合デプロイを推奨します。以下の方法をおすすめします。

• プライベートNPMパッケージ：MCPサーバーをNPMパッケージにパッケージ化し、企業のプライベートNPMリポジトリを通じて配布と管理を行います。
• インストールと設定：npm install を使用してMCPサーバーパッケージを直接インストールし、設定ファイル（例：mcp.config.json）を使用して迅速に統合します。

設定ファイルの例 mcp.config.json：

{
  "mcpServers": {
    "server1": {
      "name": "example-server",
      "args": ["server.js"],
      "path": "./servers/server1/"
    }
  },
  "mcpClient": {
    "name": "mcp-client",
    "version": "1.0.0"
  }
}

将来的な展望

• 現在、MCPサーバーはSSEプロトコルに基づくstdioのみを実装しています。
• リクエスト時のコンテキストプロトコルとグローバル変数は、インターフェース層、MCPクライアント層、MCPサーバー層で共有できます。
• 現在はHTTPインターフェースをサポートしていますが、将来的にはこれらのインターフェースをsocketにラップし、チャットシーンにより適したものにする予定です。
• このプロジェクトが完了した後、MCPオリジナルプロトコルに基づいて共通クラスを作成し、このクラスに基づいて作成されたMCPサーバーがMCPクライアントの呼び出しだけでなく、モジュール導入後の関数呼び出しもサポートできるかどうかを検討しています。これは別の独立したプロジェクトになる可能性があります。
• このプロジェクトの開発には約1日かかりました。時間が限られていたため、後日さらに改善する予定です。