Minimind Docker

🚀 MiniMind Docker

這是一個支持UI、API和MCP的MiniMind大語言模型的一體化Docker部署方案，能為用戶提供便捷、高效的使用體驗。

🚀 快速開始

Docker（推薦）

# 拉取並運行
docker run -d --gpus all -p 8998:8998 neosun/minimind:latest

# 訪問
# UI: http://localhost:8998
# API: http://localhost:8998/v1/chat/completions
# 文檔: http://localhost:8998/apidocs/

Docker Compose

git clone https://github.com/neosu/minimind-docker.git
cd minimind-docker
./start.sh

✨ 主要特性

• 🐳 一鍵式Docker部署：所有依賴項都已打包，可隨時運行。
• 🎨 現代Web UI：響應式設計，支持暗模式和多語言。
• 🔌 兼容OpenAI的API：可直接替代現有應用中的相關API。
• 🤖 MCP集成：支持模型上下文協議，用於AI代理工作流。
• 🎮 智能GPU管理：自動選擇空閒GPU，並自動釋放內存。
• 📊 即時流式傳輸：基於SSE的流式響應。
• 🌍 多語言UI：支持英語、簡體中文、繁體中文和日語。

📦 安裝指南

前提條件

• Docker 20.10及以上版本
• Docker Compose 2.0及以上版本
• 支持CUDA 12.1及以上的NVIDIA GPU（可選，支持CPU fallback）
• nvidia-container-toolkit（用於GPU支持）

方法一：使用Docker Run

# 基礎（CPU）
docker run -d -p 8998:8998 neosun/minimind:latest

# 使用GPU
docker run -d --gpus all -p 8998:8998 neosun/minimind:latest

# 使用自定義模型路徑
docker run -d --gpus all -p 8998:8998 \
  -v /path/to/models:/app/models \
  -e MODEL_PATH=/app/models/MiniMind2 \
  neosun/minimind:latest

方法二：使用Docker Compose

# docker-compose.yml
services:
  minimind:
    image: neosun/minimind:latest
    ports:
      - "8998:8998"
    environment:
      - NVIDIA_VISIBLE_DEVICES=0
      - GPU_IDLE_TIMEOUT=60
      - MODEL_PATH=MiniMind2-Small
    volumes:
      - /tmp/minimind:/app/uploads
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

docker compose up -d

方法三：本地開發

# 克隆倉庫
git clone https://github.com/neosu/minimind-docker.git
cd minimind-docker

# 安裝依賴
pip install -r requirements.txt

# 下載模型
python -c "from huggingface_hub import snapshot_download; snapshot_download('jingyaogong/MiniMind2-Small', local_dir='MiniMind2-Small')"

# 運行
python app.py

⚙️ 配置

環境變量

.env示例

PORT=8998
GPU_IDLE_TIMEOUT=60
NVIDIA_VISIBLE_DEVICES=0
MODEL_PATH=MiniMind2-Small

💻 使用示例

Web UI

訪問 http://localhost:8998 可使用交互式聊天界面。

特性：

• 可調整參數（溫度、最大令牌數、Top P）
• GPU狀態監控
• 一鍵釋放GPU內存
• 多語言支持（英語/中文/繁體中文/日語）
• 支持暗模式

REST API

聊天完成（兼容OpenAI）

curl -X POST http://localhost:8998/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "minimind",
    "messages": [{"role": "user", "content": "Hello!"}],
    "temperature": 0.7,
    "max_tokens": 512,
    "stream": false
  }'

流式響應

curl -X POST http://localhost:8998/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "minimind",
    "messages": [{"role": "user", "content": "Tell me a story"}],
    "stream": true
  }'

GPU狀態

# 檢查狀態
curl http://localhost:8998/api/gpu/status

# 釋放GPU內存
curl -X POST http://localhost:8998/api/gpu/offload

MCP集成

在MCP客戶端中進行配置：

{
  "mcpServers": {
    "minimind": {
      "command": "python",
      "args": ["mcp_server.py"],
      "env": {
        "MODEL_PATH": "MiniMind2-Small",
        "GPU_IDLE_TIMEOUT": "600"
      }
    }
  }
}

可用工具：

• chat - 單輪對話
• multi_turn_chat - 多輪對話
• get_gpu_status - 查詢GPU狀態
• get_model_info - 獲取模型信息
• release_gpu - 釋放GPU內存

詳細文檔請參考 MCP_GUIDE.md。

📚 詳細文檔

API參考

項目結構

minimind-docker/
├── app.py              # 主應用程序（UI + API）
├── mcp_server.py       # MCP服務器
├── Dockerfile          # Docker構建文件
├── docker-compose.yml  # Docker Compose配置
├── start.sh           # 一鍵啟動腳本
├── requirements.txt    # Python依賴項
├── .env.example       # 環境模板
├── MCP_GUIDE.md       # MCP文檔
├── model/             # 分詞器文件
├── trainer/           # 訓練腳本
└── scripts/           # 實用腳本

技術棧

• 框架：Flask + FastMCP
• 模型：MiniMind2（基於Transformer的大語言模型）
• GPU：CUDA 12.1 + PyTorch 2.6
• 容器：Docker + nvidia-container-toolkit
• API：兼容OpenAI的REST API
• 文檔：Swagger/Flasgger

🤝 貢獻

歡迎貢獻代碼！請隨時提交拉取請求。

1. 分叉倉庫
2. 創建你的功能分支 (git checkout -b feature/AmazingFeature)
3. 提交更改 (git commit -m 'Add some AmazingFeature')
4. 推送到分支 (git push origin feature/AmazingFeature)
5. 打開拉取請求

📝 變更日誌

v1.0.0 (2026-01-04)

• 🎉 初始版本發佈
• 🐳 Docker一體化部署
• 🎨 支持多語言的Web UI
• 🔌 兼容OpenAI的API
• 🤖 MCP集成
• 🎮 智能GPU管理

📄 許可證

本項目採用Apache License 2.0許可 - 詳情請參閱 LICENSE 文件。

基於Jingyao Gong的 MiniMind 項目。

⭐ 星標歷史

📱 關注我們