Claude LMStudio Bridge V2

🚀 Claude-LMStudio-Bridge

Claude-LMStudio-Bridge是一个简单的模型控制协议（MCP）服务器，它允许Claude与本地运行的大型语言模型（LLM）通过LM Studio进行通信，为用户在模型交互方面提供了更多的灵活性和可能性。

🚀 快速开始

此桥接工具能让Claude将提示发送到本地运行在LM Studio中的模型，并接收其响应。这在多种场景下非常实用，如比较Claude与其他模型的回复、访问针对特定任务的本地模型、在Claude API配额有限时执行查询，以及对敏感查询进行完全本地处理。

✨ 主要特性

• 多场景应用：可用于比较不同模型回复、访问特定任务模型、突破API配额限制和本地处理敏感查询。
• 操作便捷：通过简单的步骤即可实现Claude与本地模型的通信。
• 工具丰富：提供了health_check、list_models、get_current_model、chat_completion等MCP工具进行对话交互。

📦 安装指南

先决条件

• Python 3.8+
• 具备MCP能力的Anthropic Claude
• LM Studio本地运行
• LM Studio中加载的本地LLM模型

安装步骤

1. 克隆此仓库：

   git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
   cd Claude-LMStudio-Bridge_V2
   

2. 创建虚拟环境：

   python -m venv venv
   source venv/bin/activate  # Windows用户使用：venv\Scripts\activate
   

3. 安装所需包（选择一种方法）：

   使用requirements.txt：

   pip install -r requirements.txt
   

   或直接安装依赖项：

   pip install requests "mcp[cli]" openai anthropic-mcp
   

💻 使用示例

基础用法

1. 启动LM Studio并加载您最喜欢的模型。
2. 确保LM Studio的本地服务器正在运行（通常在默认端口1234上）。
3. 运行桥接服务器：

   python lmstudio_bridge.py
   

4. 在Claude界面中，启用MCP服务器并指向您本地运行的桥接服务。
5. 现在您可以使用以下MCP工具与Claude进行对话：
   • health_check：检查LM Studio API是否可访问
   • list_models：获取LM Studio中可用模型列表
   • get_current_model：查看当前加载的模型
   • chat_completion：将提示发送到当前模型

高级用法

一旦连接，您可以指示Claude使用本地模型：

Claude，请使用LM Studio桥接服务询问本地模型：“您对量子计算有何看法？”

Claude将使用chat_completion工具将查询发送给您的本地模型并显示响应。

📚 详细文档

配置

默认情况下，桥接服务连接到LM Studio的地址为http://localhost:1234/v1。如果您的LM Studio实例在不同的端口上运行，请修改lmstudio_bridge.py中的LMSTUDIO_API_BASE变量。

故障排除

如果遇到依赖项问题，请尝试直接安装它们：

pip install requests "mcp[cli]" openai anthropic-mcp

有关详细安装说明和故障排除，请参阅安装指南。

📄 许可证

本项目采用MIT许可证。

贡献

欢迎大家为项目贡献代码！请随意提交Pull Request。