Ml MCP

🚀 ML Lab MCP

ML Lab MCP 是一个全面的 MCP（模型上下文协议）服务器，用于机器学习模型的训练、微调以及实验。它能将你的 AI 助手转变为一个完整的机器学习工程环境。

🚀 快速开始

1. 初始化并创建保险库

ml-lab init
ml-lab vault create

2. 添加提供商凭证

ml-lab vault unlock
ml-lab vault add --provider lambda_labs --api-key YOUR_KEY
ml-lab vault add --provider mistral --api-key YOUR_KEY

3. 使用 Claude 代码 / Claude 桌面版进行配置

在你的 MCP 配置中添加以下内容：

{
  "mcpServers": {
    "ml-lab": {
      "command": "ml-lab",
      "args": ["serve"]
    }
  }
}

✨ 主要特性

统一凭证管理

• 为 API 密钥（如 Lambda Labs、RunPod、Mistral、OpenAI、Together AI 等）提供加密保险库。
• 使用 PBKDF2 密钥推导和 AES 加密。
• 绝不以明文形式存储凭证。

数据集管理

• 可从本地文件或客户端提供的内容（JSONL、CSV、Parquet）注册数据集。
• 无需访问服务器文件系统即可直接上传数据集。
• 自动推断模式并生成统计信息。
• 进行训练/验证/测试集分割。
• 基于模板进行转换。

实验跟踪

• 由 SQLite 支持的实验存储。
• 版本控制和比较。
• 可通过修改配置分叉实验。
• 完整的指标历史记录。

多后端训练

• 本地：使用 transformers + peft + trl 进行本地 GPU 训练。
• Mistral API：对 Mistral 模型进行原生微调。
• Together AI：托管式微调服务。
• OpenAI：对 GPT 模型进行微调。

云 GPU 供应

• Lambda Labs：提供 H100、A100 实例。
• RunPod：提供现货和按需 GPU。
• 自动比较各提供商的价格。
• 根据成本和可用性进行智能路由。

远程 VPS 支持

• 可使用任何可通过 SSH 访问的机器（如 Hetzner、Hostinger、OVH、家用服务器、大学集群）。
• 自动进行环境设置。
• 通过 rsync 同步数据集。
• 在 tmux 中运行训练（断开连接后仍可继续）。
• 根据月费用计算分摊的每小时成本。

成本估算

• 估算所有提供商的预训练成本。
• 实时查询定价。
• 根据模型和数据集大小估算时间。

Ollama 集成

• 将微调后的 GGUF 模型部署到 Ollama。
• 从 Ollama 注册表拉取模型。
• 直接从 MCP 进行聊天/推理测试。
• 进行模型管理（列出、删除、复制）。

Open WebUI 集成

• 使用系统提示创建模型预设。
• 管理知识库（RAG）。
• 通过 Open WebUI 进行聊天（应用配置和知识）。
• 实现 Ollama 与 Open WebUI 的无缝工作流程。

📦 安装指南

pip install ml-lab-mcp

# 安装训练依赖
pip install ml-lab-mcp[training]

# 安装云提供商支持
pip install ml-lab-mcp[cloud]

# 安装所有依赖
pip install ml-lab-mcp[training,cloud,dev]

💻 使用示例

基础用法

# 初始化并创建保险库
ml-lab init
ml-lab vault create

# 添加提供商凭证
ml-lab vault unlock
ml-lab vault add --provider lambda_labs --api-key YOUR_KEY
ml-lab vault add --provider mistral --api-key YOUR_KEY

# 配置 MCP
{
  "mcpServers": {
    "ml-lab": {
      "command": "ml-lab",
      "args": ["serve"]
    }
  }
}

高级用法

User: Fine-tune Llama 3.1 8B on my customer support data

Claude: I'll help you fine-tune Llama 3.1 8B. Let me first check your data.

[Uses dataset_register to load ./support_data.jsonl]

Found 15,000 samples. Let me estimate the costs:

[Uses train_estimate]

| Provider      | Time   | Cost   | Availability |
|---------------|--------|--------|--------------|
| vps:hetzner-01| ~4h    | $0.28* | Idle         |
| Local (4090)  | ~12h   | $0     | Ready        |
| Lambda H100   | ~2h    | $5.50  | 3 available  |
| Together API  | ~4h    | $12    | Queued       |

*amortized from $200/mo

Which would you prefer?

User: Use Lambda Labs

Claude: [Uses experiment_create, then train_launch with backend=lambda]

Training started! Run ID: abc123
I'll monitor progress and let you know when it completes.

📚 详细文档

MCP 工具

凭证

数据集

实验

训练

基础设施

远程 VPS

Ollama

Open WebUI

安全

Codex 集成（执行器大语言模型）

架构

分离智能与执行：

• 规划器大语言模型（Claude）：推理、架构设计、权衡分析。
• 执行器大语言模型（Codex）：精确的代码编辑和命令行操作。
• 世界工具（ML Lab）：数据、训练、基础设施、部署。

深度思考分析（Ollama 推理模型）

分析类型

• training - 分析损失曲线、收敛情况、超参数。
• experiment - 比较实验并提出改进建议。
• activity - 审查审计日志以发现模式/异常。
• cost - 成本效率分析和建议。
• dataset - 数据质量和训练适用性分析。

调度频率

• after_training - 训练完成后自动分析。
• hourly / daily / weekly - 定期审查。

报告存储在 ~/.cache/ml-lab/reports/ 以供历史参考。

架构目录结构

src/ml_lab/
├── server.py           # MCP 服务器入口点（61 个工具）
├── credentials.py      # 加密凭证保险库
├── cli.py              # 命令行界面
├── backends/
│   ├── base.py         # 训练后端接口
│   ├── local.py        # 本地 GPU 训练
│   ├── mistral_api.py  # Mistral 微调 API
│   ├── together_api.py # Together AI API
│   ├── openai_api.py   # OpenAI 微调 API
│   └── vertex_api.py   # Google Vertex AI (Gemini)
├── cloud/
│   ├── base.py         # 云提供商接口
│   ├── lambda_labs.py  # Lambda Labs 集成
│   ├── runpod.py       # RunPod 集成
│   ├── modal_provider.py # Modal 集成
│   └── remote_vps.py   # 通用 SSH VPS 支持（+ Tailscale）
├── storage/
│   ├── datasets.py     # 数据集管理
│   └── experiments.py  # 实验跟踪
├── inference/
│   ├── ollama.py       # Ollama 集成
│   ├── openwebui.py    # Open WebUI 集成
│   └── thinking.py     # 深度思考分析（DeepSeek R1、QwQ）
├── integrations/
│   └── codex.py        # Codex CLI 集成（执行器大语言模型）
├── security/
│   └── audit.py        # 审计日志
└── evals/
    └── benchmarks.py   # 评估套件

🔧 技术细节

• 凭证使用 Fernet（AES-128-CBC）加密。
• 使用 PBKDF2-SHA256 密钥推导（480,000 次迭代）。
• 保险库文件权限设置为 600（仅所有者可读/写）。
• API 密钥从不以未加密形式记录或传输。
• 审计日志：所有敏感操作记录到 ~/.cache/ml-lab/audit.log。
• 凭证过期：自动跟踪并提醒旋转。
• Tailscale 支持：VPS 连接可选的 VPN 要求。
• SSH 密钥旋转：自动旋转，失败时回滚。

📄 许可证

采用 PolyForm Noncommercial 1.0.0 许可证 - 个人使用免费，商业许可请联系获取。

详情请见 LICENSE。

贡献

欢迎贡献代码！请阅读 CONTRIBUTING.md 获取指南。

支持的提供商

计算提供商

• Lambda Labs（H100、A100、A10）
• RunPod（H100、A100、RTX 4090）
• Modal（无服务器 GPU 函数）

微调 API

• Mistral AI（Mistral、Mixtral、Codestral）
• Together AI（Llama、Mistral、Qwen）
• OpenAI（GPT-4o、GPT-3.5）
• Google Vertex AI（Gemini 1.5 Pro、Gemini 1.5 Flash）

模型中心

• Hugging Face Hub
• Replicate
• Ollama（本地 GGUF 模型）