Claude LMStudio Bridge V2

🚀 Claude-LMStudio-Bridge

Claude-LMStudio-Bridge是一個簡單的模型控制協議（MCP）服務器，它允許Claude與本地運行的大型語言模型（LLM）通過LM Studio進行通信，為用戶在模型交互方面提供了更多的靈活性和可能性。

🚀 快速開始

此橋接工具能讓Claude將提示發送到本地運行在LM Studio中的模型，並接收其響應。這在多種場景下非常實用，如比較Claude與其他模型的回覆、訪問針對特定任務的本地模型、在Claude API配額有限時執行查詢，以及對敏感查詢進行完全本地處理。

✨ 主要特性

• 多場景應用：可用於比較不同模型回覆、訪問特定任務模型、突破API配額限制和本地處理敏感查詢。
• 操作便捷：通過簡單的步驟即可實現Claude與本地模型的通信。
• 工具豐富：提供了health_check、list_models、get_current_model、chat_completion等MCP工具進行對話交互。

📦 安裝指南

先決條件

• Python 3.8+
• 具備MCP能力的Anthropic Claude
• LM Studio本地運行
• LM Studio中加載的本地LLM模型

安裝步驟

1. 克隆此倉庫：

   git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
   cd Claude-LMStudio-Bridge_V2
   

2. 創建虛擬環境：

   python -m venv venv
   source venv/bin/activate  # Windows用戶使用：venv\Scripts\activate
   

3. 安裝所需包（選擇一種方法）：

   使用requirements.txt：

   pip install -r requirements.txt
   

   或直接安裝依賴項：

   pip install requests "mcp[cli]" openai anthropic-mcp
   

💻 使用示例

基礎用法

1. 啟動LM Studio並加載您最喜歡的模型。
2. 確保LM Studio的本地服務器正在運行（通常在默認端口1234上）。
3. 運行橋接服務器：

   python lmstudio_bridge.py
   

4. 在Claude界面中，啟用MCP服務器並指向您本地運行的橋接服務。
5. 現在您可以使用以下MCP工具與Claude進行對話：
   • health_check：檢查LM Studio API是否可訪問
   • list_models：獲取LM Studio中可用模型列表
   • get_current_model：查看當前加載的模型
   • chat_completion：將提示發送到當前模型

高級用法

一旦連接，您可以指示Claude使用本地模型：

Claude，請使用LM Studio橋接服務詢問本地模型：“您對量子計算有何看法？”

Claude將使用chat_completion工具將查詢發送給您的本地模型並顯示響應。

📚 詳細文檔

配置

默認情況下，橋接服務連接到LM Studio的地址為http://localhost:1234/v1。如果您的LM Studio實例在不同的端口上運行，請修改lmstudio_bridge.py中的LMSTUDIO_API_BASE變量。

故障排除

如果遇到依賴項問題，請嘗試直接安裝它們：

pip install requests "mcp[cli]" openai anthropic-mcp

有關詳細安裝說明和故障排除，請參閱安裝指南。

📄 許可證

本項目採用MIT許可證。

貢獻

歡迎大家為項目貢獻代碼！請隨意提交Pull Request。