Kyutai Tts Docker

🚀 久太語音合成（Kyutai TTS）Docker部署

久太語音合成（Kyutai TTS）的生產就緒型Docker部署方案，支持用戶界面（UI）、REST API和多模態通信協議（MCP）。

🚀 快速開始

使用Docker Hub（推薦）

docker run -d \
  --name kyutai-tts \
  --gpus all \
  -p 8900:8900 \
  -e NVIDIA_VISIBLE_DEVICES=0 \
  neosun/kyutai-tts:allinone

訪問地址：http://localhost:8900

使用Docker Compose

git clone https://github.com/neosun100/kyutai-tts-docker.git
cd kyutai-tts-docker
./start.sh

✨ 主要特性

• 🚀 一鍵部署：自動選擇GPU並檢測端口。
• 🎨 三種訪問模式：支持Web UI、REST API和MCP工具。
• 🧠 智能GPU管理：採用懶加載機制並自動釋放內存。
• 🌐 多語言界面：提供英文和中文界面。
• 📦 一體化鏡像：無需外部依賴，包含所有模型。
• 🔒 生產就緒：支持HTTPS、健康檢查和監控。

📦 安裝指南

前提條件

• Docker 20.10 及以上版本
• Docker Compose 2.0 及以上版本
• 支持CUDA的NVIDIA GPU
• nvidia-docker運行時

方法一：從Docker Hub拉取

docker pull neosun/kyutai-tts:allinone

方法二：從源碼構建

git clone https://github.com/neosun100/kyutai-tts-docker.git
cd kyutai-tts-docker
docker-compose build

🔧 配置說明

環境變量

.env文件示例

PORT=8900
DEVICE=cuda
GPU_IDLE_TIMEOUT=60
NVIDIA_VISIBLE_DEVICES=0

💻 使用示例

Web UI

1. 打開瀏覽器，訪問：http://localhost:8900
2. 輸入要合成的文本
3. （可選）調整參數
4. 點擊“生成”
5. 播放或下載音頻

REST API

生成語音

curl -X POST http://localhost:8900/api/tts \
  -F "text=Hello, world!" \
  -F "cfg_coef=2.0" \
  --output output.wav

檢查GPU狀態

curl http://localhost:8900/api/gpu/status

釋放GPU內存

curl -X POST http://localhost:8900/api/gpu/offload

MCP工具

詳細的MCP使用說明請參閱 MCP_GUIDE.md。

result = await mcp_client.call_tool(
    "text_to_speech",
    {
        "text": "Hello from MCP!",
        "output_path": "/tmp/output.wav"
    }
)

📚 詳細文檔

項目結構

kyutai-tts-docker/
├── app.py                 # Flask應用程序
├── gpu_manager.py         # GPU資源管理器
├── mcp_server.py          # MCP服務器
├── Dockerfile             # Docker鏡像文件
├── Dockerfile.allinone    # 一體化鏡像文件
├── docker-compose.yml     # Docker Compose配置文件
├── start.sh               # 一鍵啟動腳本
├── test_api.sh            # API測試腳本
└── docs/                  # 文檔目錄
    ├── QUICKSTART.md
    ├── MCP_GUIDE.md
    └── TEST_REPORT.md

技術棧

• 框架：Flask 3.0
• 機器學習框架：PyTorch 2.7 + CUDA 12.1
• 語音合成模型：Kyutai TTS 1.6B（英文/法文）
• API文檔：Swagger/Flasgger
• MCP：FastMCP 0.2
• 容器：Docker + nvidia-docker

API文檔

服務啟動後，可通過以下地址訪問Swagger文檔：http://localhost:8900/apidocs

可用端點

• GET /health - 健康檢查
• GET /api/gpu/status - GPU狀態
• POST /api/tts - 生成語音
• POST /api/gpu/offload - 釋放GPU內存

生產部署

使用Nginx反向代理

server {
    listen 443 ssl;
    server_name your-domain.com;
    
    location / {
        proxy_pass http://localhost:8900;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
    }
}

多GPU設置

# GPU 0
NVIDIA_VISIBLE_DEVICES=0 PORT=8900 docker-compose up -d

# GPU 1
NVIDIA_VISIBLE_DEVICES=1 PORT=8901 docker-compose up -d

性能指標

• 模型大小：16億參數
• GPU內存：3 - 4GB
• 延遲：350ms（L40S，32併發）
• 速度：即時速度的3 - 5倍
• 音頻質量：16位PCM，24kHz

🤝 貢獻指南

歡迎貢獻代碼！請隨意提交拉取請求。

1. 分叉倉庫
2. 創建功能分支（git checkout -b feature/AmazingFeature）
3. 提交更改（git commit -m 'Add some AmazingFeature'）
4. 推送到分支（git push origin feature/AmazingFeature）
5. 打開拉取請求

📝 更新日誌

v1.0.0 (2025-12-14)

• 初始版本發佈
• 支持GPU的Docker部署
• 支持多語言的Web UI
• 帶有Swagger文檔的REST API
• MCP服務器實現
• 一體化Docker鏡像

📄 許可證

• Python代碼：MIT許可證
• Rust代碼：Apache許可證
• 模型權重：CC-BY 4.0

🙏 致謝

• Kyutai Labs 提供語音合成模型
• Moshi 提供實現方案

⭐ 星標歷史

📱 關注我們