Claude LMStudio Bridge V2

🚀 Claude-LMStudio-Bridge

Claude-LMStudio-Bridge 是一个简单的模型控制协议（MCP）服务器，它允许Claude与本地运行的大型语言模型（LLM）通过LM Studio进行通信。借助该工具，用户能够让Claude与本地模型交互，进行多方面的操作与应用。

🚀 快速开始

Claude-LMStudio-Bridge 可让Claude将提示发送到本地运行于LM Studio中的模型，并接收其响应。这一功能有诸多实用场景，如比较Claude与其它模型的回复、访问专门针对特定任务的本地模型、在Claude API配额有限时执行查询，以及对敏感查询进行完全本地处理。

✨ 主要特性

• 支持Claude与本地运行的大型语言模型通过LM Studio通信。
• 提供多种MCP工具，如health_check、list_models、get_current_model、chat_completion等，方便与Claude进行交互。
• 可灵活配置LM Studio的连接地址，以适应不同的运行环境。

📦 安装指南

先决条件

• Python 3.8+
• 具备MCP能力的Anthropic Claude
• LM Studio本地运行
• LM Studio中加载的本地LLM模型

安装步骤

1. 克隆此仓库：

   git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
   cd Claude-LMStudio-Bridge_V2
   

2. 创建虚拟环境：

   python -m venv venv
   source venv/bin/activate  # Windows用户使用：venv\Scripts\activate
   

3. 安装所需包（选择一种方法）：

   使用requirements.txt：

   pip install -r requirements.txt
   

   或直接安装依赖项：

   pip install requests "mcp[cli]" openai anthropic-mcp
   

💻 使用示例

基础用法

1. 启动LM Studio并加载您最喜欢的模型。
2. 确保LM Studio的本地服务器正在运行（通常在默认端口1234上）。
3. 运行桥接服务器：

   python lmstudio_bridge.py
   

4. 在Claude界面中，启用MCP服务器并指向您本地运行的桥接服务。
5. 现在您可以使用以下MCP工具与Claude进行对话：
   • health_check：检查LM Studio API是否可访问
   • list_models：获取LM Studio中可用模型列表
   • get_current_model：查看当前加载的模型
   • chat_completion：将提示发送到当前模型

高级用法

一旦连接，您可以指示Claude使用本地模型：

Claude，请使用LM Studio桥接服务询问本地模型：“您对量子计算有何看法？”

Claude将使用chat_completion工具将查询发送给您的本地模型并显示响应。

📚 详细文档

配置

默认情况下，桥接服务连接到LM Studio的地址为http://localhost:1234/v1。如果您的LM Studio实例在不同的端口上运行，请修改lmstudio_bridge.py中的LMSTUDIO_API_BASE变量。

故障排除

如果遇到依赖项问题，请尝试直接安装它们：

pip install requests "mcp[cli]" openai anthropic-mcp

有关详细安装说明和故障排除，请参阅安装指南。

📄 许可证

本项目采用MIT许可证。

贡献

欢迎贡献！请随意提交Pull Request。