LM Studio

🚀 LMStudio - MCP 項目文檔

LMStudio - MCP 搭建了一座橋樑，將具備 MCP 功能的 Claude 與您本地運行的 LM Studio 實例相連接。藉助這座橋樑，Claude 能夠檢查 LM Studio API 的健康狀態、列出可用模型、獲取當前加載的模型，還能使用您的本地模型生成完成詞，讓您可以將 Claude 的功能與自己的私有模型結合使用。

🚀 快速開始

LMStudio - MCP 能讓您將 Claude 與本地 LM Studio 實例相連，實現多種功能。使用前，請確保滿足先決條件，並完成安裝和配置。

✨ 主要特性

• 檢查 LM Studio API 的健康狀態。
• 列出可用模型。
• 獲取當前加載的模型。
• 使用本地模型生成完成詞，結合 Claude 功能與私有模型。

📦 安裝指南

先決條件

• Python 3.7 或更高版本。
• 已安裝並運行 LM Studio（https://lmstudio.ai/）。
• 模型已加載到 LM Studio。
• Claude 帶有 MCP 訪問權限。
• 所需的 Python 包（參見安裝步驟）。

安裝步驟

1. 克隆此倉庫：

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP

2. 安裝所需的包：

pip install requests "mcp[cli]" openai

📚 詳細文檔

MCP 配置

為了讓 Claude 連接到此橋樑，您需要正確配置 MCP 設置。您可以選擇：

1. 直接從 GitHub 使用：

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

2. 使用本地安裝：

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

有關 MCP 配置的詳細說明，請參見 MCP_CONFIGURATION.md。

使用方法

1. 啟動您的 LM Studio 應用程序並確保其在默認端口 1234 上運行。
2. 在 LM Studio 中加載一個模型。
3. 如果是本地運行（不使用 uvx），啟動 LMStudio - MCP 服務器：

python lmstudio_bridge.py

4. 在 Claude 中，選擇 "lmstudio - mcp" 連接到 MCP 服務器。

可用功能

橋樑提供了以下功能：

• health_check()：驗證 LM Studio API 是否可訪問。
• list_models()：獲取 LM Studio 中所有可用模型的列表。
• get_current_model()：識別當前加載的模型。
• chat_completion(prompt, system_prompt, temperature, max_tokens)：從您的本地模型生成文本。

🔧 技術細節

已知限制

• 部分模型（例如 phi - 3.5 - mini - instruct_uncensored）可能存在兼容性問題。
• 橋樑目前僅使用 LM Studio 的 OpenAI 兼容 API 端點。
• 模型的響應將受限於您加載的本地模型的能力。

故障排除

API 連接問題

如果 Claude 報告 404 錯誤，無法連接到 LM Studio：

• 確保 LM Studio 正在運行並且已加載模型。
• 檢查 LM Studio 的服務器是否在端口 1234 上運行。
• 驗證防火牆是否未阻止連接。
• 如果問題仍然存在，嘗試在 API URL 中使用 "127.0.0.1" 而不是 "localhost"。

模型兼容性

如果某些模型無法正常工作：

• 確保您使用的模型與 LM Studio 兼容。
• 查看 MCP_CONFIGURATION.md 瞭解更多信息。

有關更多故障排除步驟，請參見 TROUBLESHOOTING.md。

📄 許可證

文檔中未提及許可證相關信息。

常用提示信息

⚠️ 重要提示

本項目仍處於開發階段，可能存在不穩定或功能不完善的情況。

💡 使用建議

使用前請仔細閱讀相關文檔並備份重要數據。