Nest Llm Argent

🚀 Nest-LLM-AIagent

MCP（モデルコンテキストプロトコル）を活用し、大規模言語モデルのHTTPサービスを一元的に提供するAIエージェントです。

🚀 クイックスタート

MCP（モデルコンテキストプロトコル）が登場することで、統一プロトコルが実現され、大規模言語モデル拡張プログラム（MCPサーバー）が一度開発すればどこでも動作する環境が整いました。しかし、MCPは元々CSアーキテクチャに特化しているため、企業の既存業務に簡単に統合することが困難でした。そこで、この転送方案を作成しました。このプロジェクトはAIエージェント（AIagent）として機能し、複数のMCPサーバーを設定し、外部に対して大規模言語モデルのHTTPサービスを一元的に提供することができます。

具体的なアーキテクチャ図は以下の通りです。

✨ 主な機能

• 簡単な統合：アダプター層を介して、既存のWebサービス（例：NestJSベースのサービス）に迅速に接続できます。
• シームレスな拡張：プライベートNPMパッケージとして、MCPサーバーを迅速に統合し、一元的に管理できます。これにより、MCPサーバーの高い移植性を維持します。
• 簡便なデプロイ：プライベートNPMパッケージを使用して、MCPサーバーを集中管理し、バージョンコントロールを行い、既存のリリースプロセスにシームレスに統合し、簡単にデプロイできます。
• 大規模言語モデルのサポート：ほぼすべてのタイプの大規模言語モデルの呼び出しをサポートします。

📚 ドキュメント

インターフェース定義

様々なシナリオでの機能要件を満たすために、以下の標準化されたインターフェースを設計しました。

📦 インストール

MCPサーバーのデプロイ方法

MCPサーバーは統合デプロイ方式でデプロイすることをおすすめします。これにより、柔軟性と一元管理性が向上します。以下の方案を採用することをおすすめします。

• プライベートNPMパッケージ：MCPサーバーをNPMパッケージにパッケージ化し、企業のプライベートNPMリポジトリを介して配布管理します。
• インストールと設定：npm install を使用してMCPサーバーパッケージを直接インストールし、設定ファイル（例：mcp.config.json）を使用して迅速に統合します。

設定ファイルの例 mcp.config.json：

{
  "mcpServers": {
    "server1": {
      "name": "example-server",
      "args": ["server.js"],
      "path": "./servers/server1/"
    }
  },
  "mcpClient": {
    "name": "mcp-client",
    "version": "1.0.0"
  }
}

🔧 技術詳細

未来計画

• 現在、MCPサーバーはSSEプロトコルのstdioのみを実装しています。
• リクエスト時に、コンテキストプロトコルとグローバル変数はインターフェース層、MCPクライアント層、MCPサーバー層で共有できます。
• 現在はHTTPインターフェースのみをサポートしていますが、将来的にはこれらのインターフェースをWebSocketにラップし、チャットシナリオにより適したものにする予定です。
• 完成後、MCPのネイティブプロトコルに基づいて共通クラスを作成し、このクラスに基づく拡張プログラム（MCPサーバー）が一度開発すればどこでも動作するようにすることを考えています。