Lmstudio MCP

🚀 LMStudio-MCP 服務器

LMStudio-MCP 服務器是一個模型控制協議（MCP）服務器，它搭建了一座橋樑，讓 Claude 能夠通過 LM Studio 與本地運行的大型語言模型（LLM）進行通信，充分發揮本地模型的能力。

🚀 快速開始

LMStudio-MCP 創建了一個橋樑，連接 Claude（具備 MCP 功能）和你本地運行的 LM Studio 實例。這使得 Claude 能夠檢查 LM Studio API 的健康狀態、列出所有可用模型、獲取當前加載的模型以及使用你的本地模型生成完成詞，從而將 Claude 的能力與自己的私有模型相結合，充分利用本地運行的模型。

✨ 主要特性

• 允許 Claude 通過 LM Studio 與本地大型語言模型通信。
• 提供多種功能，如健康檢查、列出可用模型、獲取當前模型和生成文本。

📦 安裝指南

先決條件

• Python 3.7+
• 已安裝並正在運行的 LM Studio
• 模型已加載到 LM Studio
• 具備 MCP 訪問權限的 Claude
• 必要的 Python 包（見安裝）

安裝步驟

1. 克隆此倉庫：

   git clone https://github.com/infinitimeless/LMStudio-MCP.git
   cd LMStudio-MCP
   

2. 安裝所需的包：

   pip install requests "mcp[cli]" openai
   

📚 詳細文檔

MCP 配置

為了使 Claude 連接到此橋樑，你需要正確配置 MCP 設置。你可以：

直接從 GitHub 使用

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

使用本地安裝

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

有關詳細的 MCP 配置說明，請參閱 MCP_CONFIGURATION.md。

使用方法

1. 啟動你的 LM Studio 應用程序並確保其在 1234 端口上運行（默認端口）。
2. 在 LM Studio 中加載一個模型。
3. 如果是本地運行（不使用 uvx），啟動 LMStudio-MCP 服務器：

   python lmstudio_bridge.py
   

4. 在 Claude 中，當提示時選擇 "lmstudio-mcp" 連接到 MCP 服務器。

可用功能

該橋樑提供以下功能：

• health_check(): 驗證 LM Studio API 是否可訪問。
• list_models(): 獲取 LM Studio 中所有可用模型的列表。
• get_current_model(): 確定當前加載的模型。
• chat_completion(prompt, system_prompt, temperature, max_tokens): 使用你的本地模型生成文本。

已知限制

• 部分模型（例如 phi-3.5-mini-instruct）可能存在問題。
• 僅支持文件大小不超過 20MB 的模型。
• 對於較大的模型，加載時間可能會較長。

故障排除

如果遇到問題，請檢查以下內容：

1. 確保 LM Studio 已正確安裝並運行在默認端口（1234）。
2. 檢查是否有任何防火牆或網絡限制阻止訪問該端口。
3. 驗證模型是否已成功加載到 LM Studio。
4. 查看 LM Studio 的控制檯輸出以獲取更多信息。

有關更多詳細信息，請參閱 故障排除指南。

📄 許可證

文檔未提及許可證相關信息，故跳過此章節。

貢獻者

• 作者：[你的名字]
• 其他貢獻者：...

感謝所有為這個項目做出貢獻的人！