GPT-SoVITS: 57.5K+ Stars — AI 음성 클로닝 프로덕션 배포 가이드 2026

# 단계 1: 환경 생성 및 활성화
conda create -n GPTSoVits python=3.10 -y
conda activate GPTSoVits

# 단계 2: FFmpeg 설치
conda install ffmpeg -y

# 단계 3: 저장소 클론
git clone https://github.com/RVC-Boss/GPT-SoVITS.git
cd GPT-SoVITS

# 단계 4: 의존성 설치
pip install -r extra-req.txt --no-deps
pip install -r requirements.txt

# HuggingFace에서 통합 패키지 다운로드
# 압축 해제 후 실행:
conda create -n GPTSoVits python=3.10
conda activate GPTSoVits
pwsh -F install.ps1 -Device CU126 -Source HF

# 프로젝트 디렉토리 클론 및 진입
git clone https://github.com/RVC-Boss/GPT-SoVITS.git
cd GPT-SoVITS

# 빌드 전 최신 코드 가져오기
git pull origin main

# Docker 이미지 빌드 (CUDA 12.8, 풀 버전)
bash docker_build.sh --cuda 12.8

# 또는 Docker Hub 사전 빌드 이미지 사용
docker compose run --service-ports GPT-SoVITS-CU128

# 프로덕션용 docker-compose.override.yaml
services:
  GPT-SoVITS-CU128:
    shm_size: '16g'
    environment:
      - is_half=true
    ports:
      - "9874:9874"
      - "9880:9880"
    volumes:
      - ./models:/workspace/models
      - ./outputs:/workspace/outputs
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

# 사전학습 모델 다운로드 (한 번 실행)
mkdir -p GPT_SoVITS/pretrained_models

# install.sh을 통해 HuggingFace 자동 다운로드
# 또는 V4 모델 수동 다운로드:
# s2v4.pth, vocoder.pth → GPT_SoVITS/pretrained_models/gsv-v4-pretrained/

# 중국어 TTS용 G2PW 모델 다운로드
# G2PWModel.zip 압축 해제 후: GPT_SoVITS/text/G2PWModel/에 배치

# 음성 분리용 UVR5 가중치 다운로드
# tools/uvr5/uvr5_weights/에 배치

# 기본 실행 (기본 포트 9874)
python webui.py

# 언어 명시적 지정
python webui.py ko

# 추론 전용 API 서버 실행
python api_v2.py

# ComfyUI-GPT-SoVITS 노드 설치
cd ComfyUI/custom_nodes
git clone https://github.com/yaolidi/ComfyUI-GPT-SoVITS.git

# 의존성 설치
pip install -r ComfyUI-GPT-SoVITS/requirements.txt

# 학습된 .pth 및 .ckpt 모델 배치:
# ComfyUI/models/GPT-SoVITS/

# 파이프라인: GPT-SoVITS TTS → RVC 음성 변환
import requests
import subprocess

# 단계 1: GPT-SoVITS API로 음성 생성
tts_payload = {
    "text": "안녕하세요, 이것은 복제된 목소리입니다.",
    "text_lang": "ko",
    "ref_audio_path": "/path/to/reference.wav",
    "prompt_text": "참조 텍스트 전사",
    "prompt_lang": "ko",
    "media_type": "wav"
}

response = requests.post("http://localhost:9880/tts", json=tts_payload)
with open("tts_output.wav", "wb") as f:
    f.write(response.content)

# 단계 2: RVC로 변환 (선택적 실시간 VC)
rvc_cmd = [
    "python", "RVC/infer_cli.py",
    "--input", "tts_output.wav",
    "--model", "models/rvc_model.pth",
    "--output", "final_output.wav"
]
subprocess.run(rvc_cmd)

from melo.api import TTS
import requests

# 단계 1: MeloTTS로 텍스트를 음소로 전처리
tts_model = TTS(language="KR", device="auto")
phonemes = tts_model.text_to_phone("안녕하세요")

# 단계 2: 처리된 텍스트를 GPT-SoVITS에 전달
response = requests.post("http://localhost:9880/tts", json={
    "text": phonemes,
    "text_lang": "ko",
    "ref_audio_path": "/path/to/ref.wav",
    "prompt_text": "원본 프롬프트",
    "prompt_lang": "ko"
})

# API 서버 시작
python api_v2.py -a 0.0.0.0 -p 9880

# http://localhost:9880/docs 에서 API 문서 확인

# Python 클라이언트 예제
import requests

def synthesize(text, ref_audio, prompt_text, output_path):
    payload = {
        "text": text,
        "text_lang": "ko",
        "ref_audio_path": ref_audio,
        "prompt_text": prompt_text,
        "prompt_lang": "ko",
        "top_k": 15,
        "top_p": 1.0,
        "temperature": 1.0,
        "speed_factor": 1.0,
        "media_type": "wav"
    }
    
    response = requests.post(
        "http://localhost:9880/tts",
        json=payload,
        timeout=60
    )
    
    if response.status_code == 200:
        with open(output_path, "wb") as f:
            f.write(response.content)
        return True
    return False

# 사용
synthesize(
    "프로덕션 규모의 음성 클로닝 배포가 이제 간단해졌습니다.",
    "/voices/speaker_ref.wav",
    "참조 텍스트입니다.",
    "/output/cloned.wav"
)

# 커뮤니티 OpenAI 호환 래퍼 사용
git clone https://github.com/enihsyou/GPT-SoVITS-2-OpenAI.git
cd GPT-SoVITS-2-OpenAI
cp .env.example .env
cp config.yaml.example config.yaml

# BACKEND_URL을 GPT-SoVITS API로 설정
# BACKEND_URL=http://host.docker.internal:9880

docker compose up -d
# 이제 http://localhost:5000/v1/audio/speech 에서 서비스

# 반정밀도 (fp16) 활성화로 VRAM 50% 절감
export is_half=true

# 6GB VRAM 카드용 CPU 오프로딩
python webui.py --device cuda --half_precision --offload_text_encoder

# 낮은 VRAM 설정용 CPU 추론 버전
git clone https://github.com/baicai-1145/GPT-SoVITS-CPUFast.git

# 더 빠른 추론을 위해 ONNX로 낳出
python GPT_SoVITS/onnx_export.py \
    --gpt_model GPT_SoVITS/GPT_weights/your_model.ckpt \
    --sovits_model GPT_SoVITS/SoVITS_weights/your_model.pth \
    --output_dir ./onnx_models/

# NVIDIA 배포용 TensorRT 최적화
/usr/src/tensorrt/bin/trtexec \
    --onnx=./onnx_models/gpt_model.onnx \
    --saveEngine=./trt_models/gpt_model.trt \
    --fp16

# 속도 제한이 있는 api_v2.py 프로덕션 래퍼
from fastapi import FastAPI, HTTPException
from fastapi.middleware.cors import CORSMiddleware
import asyncio
from collections import defaultdict
import time

app = FastAPI()
rate_limits = defaultdict(list)

@app.middleware("http")
async def rate_limit(request, call_next):
    client = request.client.host
    now = time.time()
    rate_limits[client] = [t for t in rate_limits[client] if now - t < 60]
    
    if len(rate_limits[client]) >= 10:  # 분당 10회
        raise HTTPException(429, "속도 제한 초과")
    
    rate_limits[client].append(now)
    return await call_next(request)

# 웹 클라이언트용 CORS 추가
app.add_middleware(
    CORSMiddleware,
    allow_origins=["https://yourdomain.com"],
    allow_methods=["POST"],
    allow_headers=["*"],
)

#!/bin/bash
# batch_synthesize.sh — 텍스트 파일 일괄 처리

INPUT_DIR="./texts/"
REF_AUDIO="./references/narrator.wav"
REF_TEXT="빠른 갈색 여우가 게으른 개를 뛰어넘습니다."
OUTPUT_DIR="./outputs/"
mkdir -p "$OUTPUT_DIR"

for txt_file in "$INPUT_DIR"/*.txt; do
    filename=$(basename "$txt_file" .txt)
    
    curl -X POST http://localhost:9880/tts \
        -H "Content-Type: application/json" \
        -d "{
            \"text\": $(jq -Rs . < "$txt_file"),
            \"text_lang\": \"ko\",
            \"ref_audio_path\": \"$REF_AUDIO\",
            \"prompt_text\": \"$REF_TEXT\",
            \"prompt_lang\": \"ko\",
            \"media_type\": \"wav\"
        }" \
        --output "$OUTPUT_DIR/${filename}.wav"
    
    echo "생성됨: $OUTPUT_DIR/${filename}.wav"
done

# nginx 역방향 프록시 설정
server {
    listen 443 ssl;
    server_name tts.yourdomain.com;
    
    ssl_certificate /etc/ssl/certs/tts.crt;
    ssl_certificate_key /etc/ssl/private/tts.key;
    
    location / {
        auth_request /auth;
        proxy_pass http://127.0.0.1:9880;
        proxy_set_header Host $host;
        client_max_body_size 50M;
    }
    
    location = /auth {
        internal;
        proxy_pass http://127.0.0.1:5000/verify;
        proxy_pass_request_body off;
    }
}