Ml MCP

🚀 ML Lab MCP

ML Lab MCP 是一個全面的 MCP（模型上下文協議）服務器，用於機器學習模型的訓練、微調以及實驗。它能將你的 AI 助手轉變為一個完整的機器學習工程環境。

🚀 快速開始

1. 初始化並創建保險庫

ml-lab init
ml-lab vault create

2. 添加提供商憑證

ml-lab vault unlock
ml-lab vault add --provider lambda_labs --api-key YOUR_KEY
ml-lab vault add --provider mistral --api-key YOUR_KEY

3. 使用 Claude 代碼 / Claude 桌面版進行配置

在你的 MCP 配置中添加以下內容：

{
  "mcpServers": {
    "ml-lab": {
      "command": "ml-lab",
      "args": ["serve"]
    }
  }
}

✨ 主要特性

統一憑證管理

• 為 API 密鑰（如 Lambda Labs、RunPod、Mistral、OpenAI、Together AI 等）提供加密保險庫。
• 使用 PBKDF2 密鑰推導和 AES 加密。
• 絕不以明文形式存儲憑證。

數據集管理

• 可從本地文件或客戶端提供的內容（JSONL、CSV、Parquet）註冊數據集。
• 無需訪問服務器文件系統即可直接上傳數據集。
• 自動推斷模式並生成統計信息。
• 進行訓練/驗證/測試集分割。
• 基於模板進行轉換。

實驗跟蹤

• 由 SQLite 支持的實驗存儲。
• 版本控制和比較。
• 可通過修改配置分叉實驗。
• 完整的指標歷史記錄。

多後端訓練

• 本地：使用 transformers + peft + trl 進行本地 GPU 訓練。
• Mistral API：對 Mistral 模型進行原生微調。
• Together AI：託管式微調服務。
• OpenAI：對 GPT 模型進行微調。

雲 GPU 供應

• Lambda Labs：提供 H100、A100 實例。
• RunPod：提供現貨和按需 GPU。
• 自動比較各提供商的價格。
• 根據成本和可用性進行智能路由。

遠程 VPS 支持

• 可使用任何可通過 SSH 訪問的機器（如 Hetzner、Hostinger、OVH、家用服務器、大學集群）。
• 自動進行環境設置。
• 通過 rsync 同步數據集。
• 在 tmux 中運行訓練（斷開連接後仍可繼續）。
• 根據月費用計算分攤的每小時成本。

成本估算

• 估算所有提供商的預訓練成本。
• 即時查詢定價。
• 根據模型和數據集大小估算時間。

Ollama 集成

• 將微調後的 GGUF 模型部署到 Ollama。
• 從 Ollama 註冊表拉取模型。
• 直接從 MCP 進行聊天/推理測試。
• 進行模型管理（列出、刪除、複製）。

Open WebUI 集成

• 使用系統提示創建模型預設。
• 管理知識庫（RAG）。
• 通過 Open WebUI 進行聊天（應用配置和知識）。
• 實現 Ollama 與 Open WebUI 的無縫工作流程。

📦 安裝指南

pip install ml-lab-mcp

# 安裝訓練依賴
pip install ml-lab-mcp[training]

# 安裝雲提供商支持
pip install ml-lab-mcp[cloud]

# 安裝所有依賴
pip install ml-lab-mcp[training,cloud,dev]

💻 使用示例

基礎用法

# 初始化並創建保險庫
ml-lab init
ml-lab vault create

# 添加提供商憑證
ml-lab vault unlock
ml-lab vault add --provider lambda_labs --api-key YOUR_KEY
ml-lab vault add --provider mistral --api-key YOUR_KEY

# 配置 MCP
{
  "mcpServers": {
    "ml-lab": {
      "command": "ml-lab",
      "args": ["serve"]
    }
  }
}

高級用法

User: Fine-tune Llama 3.1 8B on my customer support data

Claude: I'll help you fine-tune Llama 3.1 8B. Let me first check your data.

[Uses dataset_register to load ./support_data.jsonl]

Found 15,000 samples. Let me estimate the costs:

[Uses train_estimate]

| Provider      | Time   | Cost   | Availability |
|---------------|--------|--------|--------------|
| vps:hetzner-01| ~4h    | $0.28* | Idle         |
| Local (4090)  | ~12h   | $0     | Ready        |
| Lambda H100   | ~2h    | $5.50  | 3 available  |
| Together API  | ~4h    | $12    | Queued       |

*amortized from $200/mo

Which would you prefer?

User: Use Lambda Labs

Claude: [Uses experiment_create, then train_launch with backend=lambda]

Training started! Run ID: abc123
I'll monitor progress and let you know when it completes.

📚 詳細文檔

MCP 工具

憑證

數據集

實驗

訓練

基礎設施

遠程 VPS

Ollama

Open WebUI

安全

Codex 集成（執行器大語言模型）

架構

分離智能與執行：

• 規劃器大語言模型（Claude）：推理、架構設計、權衡分析。
• 執行器大語言模型（Codex）：精確的代碼編輯和命令行操作。
• 世界工具（ML Lab）：數據、訓練、基礎設施、部署。

深度思考分析（Ollama 推理模型）

分析類型

• training - 分析損失曲線、收斂情況、超參數。
• experiment - 比較實驗並提出改進建議。
• activity - 審查審計日誌以發現模式/異常。
• cost - 成本效率分析和建議。
• dataset - 數據質量和訓練適用性分析。

調度頻率

• after_training - 訓練完成後自動分析。
• hourly / daily / weekly - 定期審查。

報告存儲在 ~/.cache/ml-lab/reports/ 以供歷史參考。

架構目錄結構

src/ml_lab/
├── server.py           # MCP 服務器入口點（61 個工具）
├── credentials.py      # 加密憑證保險庫
├── cli.py              # 命令行界面
├── backends/
│   ├── base.py         # 訓練後端接口
│   ├── local.py        # 本地 GPU 訓練
│   ├── mistral_api.py  # Mistral 微調 API
│   ├── together_api.py # Together AI API
│   ├── openai_api.py   # OpenAI 微調 API
│   └── vertex_api.py   # Google Vertex AI (Gemini)
├── cloud/
│   ├── base.py         # 雲提供商接口
│   ├── lambda_labs.py  # Lambda Labs 集成
│   ├── runpod.py       # RunPod 集成
│   ├── modal_provider.py # Modal 集成
│   └── remote_vps.py   # 通用 SSH VPS 支持（+ Tailscale）
├── storage/
│   ├── datasets.py     # 數據集管理
│   └── experiments.py  # 實驗跟蹤
├── inference/
│   ├── ollama.py       # Ollama 集成
│   ├── openwebui.py    # Open WebUI 集成
│   └── thinking.py     # 深度思考分析（DeepSeek R1、QwQ）
├── integrations/
│   └── codex.py        # Codex CLI 集成（執行器大語言模型）
├── security/
│   └── audit.py        # 審計日誌
└── evals/
    └── benchmarks.py   # 評估套件

🔧 技術細節

• 憑證使用 Fernet（AES-128-CBC）加密。
• 使用 PBKDF2-SHA256 密鑰推導（480,000 次迭代）。
• 保險庫文件權限設置為 600（僅所有者可讀/寫）。
• API 密鑰從不以未加密形式記錄或傳輸。
• 審計日誌：所有敏感操作記錄到 ~/.cache/ml-lab/audit.log。
• 憑證過期：自動跟蹤並提醒旋轉。
• Tailscale 支持：VPS 連接可選的 VPN 要求。
• SSH 密鑰旋轉：自動旋轉，失敗時回滾。

📄 許可證

採用 PolyForm Noncommercial 1.0.0 許可證 - 個人使用免費，商業許可請聯繫獲取。

詳情請見 LICENSE。

貢獻

歡迎貢獻代碼！請閱讀 CONTRIBUTING.md 獲取指南。

支持的提供商

計算提供商

• Lambda Labs（H100、A100、A10）
• RunPod（H100、A100、RTX 4090）
• Modal（無服務器 GPU 函數）

微調 API

• Mistral AI（Mistral、Mixtral、Codestral）
• Together AI（Llama、Mistral、Qwen）
• OpenAI（GPT-4o、GPT-3.5）
• Google Vertex AI（Gemini 1.5 Pro、Gemini 1.5 Flash）

模型中心

• Hugging Face Hub
• Replicate
• Ollama（本地 GGUF 模型）