Minimind Docker

🚀 MiniMind Docker

这是一个支持UI、API和MCP的MiniMind大语言模型的一体化Docker部署方案，能为用户提供便捷、高效的使用体验。

🚀 快速开始

Docker（推荐）

# 拉取并运行
docker run -d --gpus all -p 8998:8998 neosun/minimind:latest

# 访问
# UI: http://localhost:8998
# API: http://localhost:8998/v1/chat/completions
# 文档: http://localhost:8998/apidocs/

Docker Compose

git clone https://github.com/neosu/minimind-docker.git
cd minimind-docker
./start.sh

✨ 主要特性

• 🐳 一键式Docker部署：所有依赖项都已打包，可随时运行。
• 🎨 现代Web UI：响应式设计，支持暗模式和多语言。
• 🔌 兼容OpenAI的API：可直接替代现有应用中的相关API。
• 🤖 MCP集成：支持模型上下文协议，用于AI代理工作流。
• 🎮 智能GPU管理：自动选择空闲GPU，并自动释放内存。
• 📊 实时流式传输：基于SSE的流式响应。
• 🌍 多语言UI：支持英语、简体中文、繁体中文和日语。

📦 安装指南

前提条件

• Docker 20.10及以上版本
• Docker Compose 2.0及以上版本
• 支持CUDA 12.1及以上的NVIDIA GPU（可选，支持CPU fallback）
• nvidia-container-toolkit（用于GPU支持）

方法一：使用Docker Run

# 基础（CPU）
docker run -d -p 8998:8998 neosun/minimind:latest

# 使用GPU
docker run -d --gpus all -p 8998:8998 neosun/minimind:latest

# 使用自定义模型路径
docker run -d --gpus all -p 8998:8998 \
  -v /path/to/models:/app/models \
  -e MODEL_PATH=/app/models/MiniMind2 \
  neosun/minimind:latest

方法二：使用Docker Compose

# docker-compose.yml
services:
  minimind:
    image: neosun/minimind:latest
    ports:
      - "8998:8998"
    environment:
      - NVIDIA_VISIBLE_DEVICES=0
      - GPU_IDLE_TIMEOUT=60
      - MODEL_PATH=MiniMind2-Small
    volumes:
      - /tmp/minimind:/app/uploads
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

docker compose up -d

方法三：本地开发

# 克隆仓库
git clone https://github.com/neosu/minimind-docker.git
cd minimind-docker

# 安装依赖
pip install -r requirements.txt

# 下载模型
python -c "from huggingface_hub import snapshot_download; snapshot_download('jingyaogong/MiniMind2-Small', local_dir='MiniMind2-Small')"

# 运行
python app.py

⚙️ 配置

环境变量

.env示例

PORT=8998
GPU_IDLE_TIMEOUT=60
NVIDIA_VISIBLE_DEVICES=0
MODEL_PATH=MiniMind2-Small

💻 使用示例

Web UI

访问 http://localhost:8998 可使用交互式聊天界面。

特性：

• 可调整参数（温度、最大令牌数、Top P）
• GPU状态监控
• 一键释放GPU内存
• 多语言支持（英语/中文/繁体中文/日语）
• 支持暗模式

REST API

聊天完成（兼容OpenAI）

curl -X POST http://localhost:8998/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "minimind",
    "messages": [{"role": "user", "content": "Hello!"}],
    "temperature": 0.7,
    "max_tokens": 512,
    "stream": false
  }'

流式响应

curl -X POST http://localhost:8998/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "minimind",
    "messages": [{"role": "user", "content": "Tell me a story"}],
    "stream": true
  }'

GPU状态

# 检查状态
curl http://localhost:8998/api/gpu/status

# 释放GPU内存
curl -X POST http://localhost:8998/api/gpu/offload

MCP集成

在MCP客户端中进行配置：

{
  "mcpServers": {
    "minimind": {
      "command": "python",
      "args": ["mcp_server.py"],
      "env": {
        "MODEL_PATH": "MiniMind2-Small",
        "GPU_IDLE_TIMEOUT": "600"
      }
    }
  }
}

可用工具：

• chat - 单轮对话
• multi_turn_chat - 多轮对话
• get_gpu_status - 查询GPU状态
• get_model_info - 获取模型信息
• release_gpu - 释放GPU内存

详细文档请参考 MCP_GUIDE.md。

📚 详细文档

API参考

项目结构

minimind-docker/
├── app.py              # 主应用程序（UI + API）
├── mcp_server.py       # MCP服务器
├── Dockerfile          # Docker构建文件
├── docker-compose.yml  # Docker Compose配置
├── start.sh           # 一键启动脚本
├── requirements.txt    # Python依赖项
├── .env.example       # 环境模板
├── MCP_GUIDE.md       # MCP文档
├── model/             # 分词器文件
├── trainer/           # 训练脚本
└── scripts/           # 实用脚本

技术栈

• 框架：Flask + FastMCP
• 模型：MiniMind2（基于Transformer的大语言模型）
• GPU：CUDA 12.1 + PyTorch 2.6
• 容器：Docker + nvidia-container-toolkit
• API：兼容OpenAI的REST API
• 文档：Swagger/Flasgger

🤝 贡献

欢迎贡献代码！请随时提交拉取请求。

1. 分叉仓库
2. 创建你的功能分支 (git checkout -b feature/AmazingFeature)
3. 提交更改 (git commit -m 'Add some AmazingFeature')
4. 推送到分支 (git push origin feature/AmazingFeature)
5. 打开拉取请求

📝 变更日志

v1.0.0 (2026-01-04)

• 🎉 初始版本发布
• 🐳 Docker一体化部署
• 🎨 支持多语言的Web UI
• 🔌 兼容OpenAI的API
• 🤖 MCP集成
• 🎮 智能GPU管理

📄 许可证

本项目采用Apache License 2.0许可 - 详情请参阅 LICENSE 文件。

基于Jingyao Gong的 MiniMind 项目。

⭐ 星标历史

📱 关注我们