Memgpt Agent

🚀 MemGPT 示例項目

本項目是一個概念驗證實現，對 MemGPT 研究論文中的概念進行了簡化和縮略實現。它以代理形式呈現，展示瞭如何將其集成為簡單的 REST 服務，或是作為 MCP 服務器使用。

🚀 快速開始

此項目藉助 Spring Boot 和 Spring AI 實現了 MemGPT 的概念，並通過簡單的 REST 接口和 MCP 服務器來對外提供其功能。此外，項目還包含一個基於命令行的 ChatBot 應用程序，可將其與 REST 或 MCP 接口集成。

✨ 主要特性

• 本項目由多個子項目構成，各有其獨特功能：
  • core - agent：定義並實現 MemGPT 接口，包含配置 API。
  • restful - agent - app：圍繞代理構建的包裝服務，通過簡單 REST 接口暴露功能。
  • memgpt - mcp - server：圍繞代理構建的包裝服務，作為 MCP 服務器暴露功能。
  • simple - chat - bot - app：基於命令行的聊天應用程序，可通過 REST 或 MCP 接口與代理通信。

📦 安裝指南

先決條件

• Java 17 或更高版本
• Gradle
• OpenAI API 密鑰

🔧 技術細節

核心代理

核心代理是包含 MemGPT 接口和實現的組件，負責維護代理的配置和狀態，涵蓋內容如下：

• 系統提示
• 工具
• 核心內存
• 歸檔內存
• 消息持久化（包括上下文窗口之外的消息）

它還承擔核心代理功能，包括但不限於：

• 消息編譯
• LLM 通信
• 工具調用
• 內存管理（包括上下文窗口自我編輯）
• 消息檢索和歸檔
• 消息摘要

從外部來看，代理通過以下三個主要接口暴露其功能：

• AgentManager：配置和維護代理實例。
• AgentLoader：創建代理實例。
• Agent：定義核心代理聊天功能。

運行應用程序

簡單聊天機器人應用程序與 restful - agent - app 或 memgpt - mcp - server 通信。您需要選擇聊天機器人應用程序使用的服務器應用程序，配置並運行該應用程序。然後將 ChatBot 應用程序配置為使用所選的服務器應用程序，並運行它。

服務器應用程序

無論是 MCP 服務器還是 REST 服務器，都負責處理上下文窗口和代理邏輯。以下是兩種主要實現：

1. MCP 服務器（基於 REST）
   • 實現 ModelContextProtocol 接口
   • 提供 /api/v1/chat/completions 端點
   • 支持與 OpenAI 的 API 兼容性
   • 運行命令：

./gradlew :memgpt - mcp - server:run

- 啟動後，默認在 `http://localhost:8080` 上運行，可通過配置文件修改端口和其他設置。

2. REST 服務器
   • 實現 ChatMessageStore 和 ChatContext
   • 提供基於 REST 的接口用於管理聊天會話和上下文
   • 運行命令：

./gradlew :restful - agent - app:run

- 啟動後，默認在 `http://localhost:9090` 上運行，提供 REST 接口用於代理管理。

運行 ChatBot 應用程序

1. 構建應用程序

./gradlew :simple - chat - bot - app:build

2. 運行 ChatBot 應用程序

java - jar ./simple - chat - bot - app/build/libs/simple - chat - bot - app - 0.0.1 - SNAPSHOT.jar

• 啟動後，會提示輸入用戶 ID，用戶 ID 用於標識聊天會話，可以是任意字符串。

通過以上步驟，您可以輕鬆運行 MemGPT 示例項目，並體驗其功能和集成方式。