Kyutai Tts Docker

🚀 九体TTSのDockerデプロイ

English | 简体中文 | 繁體中文 | 日本語

UI、REST API、MCPサポート付きの九体TTSの本番環境向けDockerデプロイ

✨ 主な機能

• 🚀 ワンクリックデプロイ - 自動的なGPU選択とポート検出
• 🎨 3種類のアクセスモード - Web UI、REST API、MCPツール
• 🧠 スマートGPU管理 - 遅延読み込みと自動メモリ解放
• 🌐 多言語UI - 英語と中国語のインターフェース
• 📦 オールインワンイメージ - 外部依存関係がなく、モデルを含む
• 🔒 本番環境対応 - HTTPS、ヘルスチェック、モニタリング

🚀 クイックスタート

Docker Hubを使用する（推奨）

docker run -d \
  --name kyutai-tts \
  --gpus all \
  -p 8900:8900 \
  -e NVIDIA_VISIBLE_DEVICES=0 \
  neosun/kyutai-tts:allinone

以下のURLからアクセスできます: http://localhost:8900

Docker Composeを使用する

git clone https://github.com/neosun100/kyutai-tts-docker.git
cd kyutai-tts-docker
./start.sh

📦 インストール

前提条件

• Docker 20.10以上
• Docker Compose 2.0以上
• CUDA対応のNVIDIA GPU
• nvidia-dockerランタイム

方法1: Docker Hubからプルする

docker pull neosun/kyutai-tts:allinone

方法2: ソースからビルドする

git clone https://github.com/neosun100/kyutai-tts-docker.git
cd kyutai-tts-docker
docker-compose build

🔧 設定

環境変数

.envファイルの例

PORT=8900
DEVICE=cuda
GPU_IDLE_TIMEOUT=60
NVIDIA_VISIBLE_DEVICES=0

💻 使用例

Web UI

1. ブラウザを開く: http://localhost:8900
2. 合成するテキストを入力する
3. パラメータを調整する（オプション）
4. 「Generate」をクリックする
5. 音声を再生またはダウンロードする

REST API

音声合成

curl -X POST http://localhost:8900/api/tts \
  -F "text=Hello, world!" \
  -F "cfg_coef=2.0" \
  --output output.wav

GPUの状態を確認する

curl http://localhost:8900/api/gpu/status

GPUメモリを解放する

curl -X POST http://localhost:8900/api/gpu/offload

MCPツール

詳細なMCPの使い方については、MCP_GUIDE.mdを参照してください。

result = await mcp_client.call_tool(
    "text_to_speech",
    {
        "text": "Hello from MCP!",
        "output_path": "/tmp/output.wav"
    }
)

🏗️ プロジェクト構造

kyutai-tts-docker/
├── app.py                 # Flaskアプリケーション
├── gpu_manager.py         # GPUリソースマネージャー
├── mcp_server.py          # MCPサーバー
├── Dockerfile             # Dockerイメージ
├── Dockerfile.allinone    # オールインワンイメージ
├── docker-compose.yml     # Docker Compose設定
├── start.sh               # ワンクリック起動スクリプト
├── test_api.sh            # APIテストスクリプト
└── docs/                  # ドキュメント
    ├── QUICKSTART.md
    ├── MCP_GUIDE.md
    └── TEST_REPORT.md

🔧 技術詳細

• フレームワーク: Flask 3.0
• 機械学習フレームワーク: PyTorch 2.7 + CUDA 12.1
• TTSモデル: 九体TTS 1.6B (英語/フランス語)
• APIドキュメント: Swagger/Flasgger
• MCP: FastMCP 0.2
• コンテナ: Docker + nvidia-docker

📄 APIドキュメント

起動後、以下のURLからSwaggerドキュメントにアクセスできます: http://localhost:8900/apidocs

利用可能なエンドポイント

• GET /health - ヘルスチェック
• GET /api/gpu/status - GPUの状態
• POST /api/tts - 音声合成
• POST /api/gpu/offload - GPUメモリを解放する

🌐 本番環境デプロイ

Nginxリバースプロキシを使用する

server {
    listen 443 ssl;
    server_name your-domain.com;
    
    location / {
        proxy_pass http://localhost:8900;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
    }
}

マルチGPU設定

# GPU 0
NVIDIA_VISIBLE_DEVICES=0 PORT=8900 docker-compose up -d

# GPU 1
NVIDIA_VISIBLE_DEVICES=1 PORT=8901 docker-compose up -d

📊 パフォーマンス

• モデルサイズ: 16億パラメータ
• GPUメモリ: 3 - 4GB
• レイテンシー: 350ms (L40S、32同時接続)
• 速度: 実時間の3 - 5倍
• 音質: 16ビットPCM、24kHz

🤝 コントリビューション

コントリビューションは大歓迎です！プルリクエストを送信してください。

1. リポジトリをフォークする
2. 新しい機能ブランチを作成する (git checkout -b feature/AmazingFeature)
3. 変更をコミットする (git commit -m 'Add some AmazingFeature')
4. ブランチにプッシュする (git push origin feature/AmazingFeature)
5. プルリクエストを作成する

📝 変更履歴

v1.0.0 (2025-12-14)

• 最初のリリース
• GPUサポート付きのDockerデプロイ
• 多言語サポート付きのWeb UI
• Swaggerドキュメント付きのREST API
• MCPサーバーの実装
• オールインワンDockerイメージ

📄 ライセンス

• Pythonコード: MITライセンス
• Rustコード: Apacheライセンス
• モデルウェイト: CC-BY 4.0

🙏 謝辞

• Kyutai Labs のTTSモデル
• Moshi の実装

⭐ スター履歴

📱 フォロー