Hojo-TTS-Light生产环境部署实战:从本地脚本到云端TTS API的完整路径

原创2026-11-15 10:43:341,817 阅读

Hojo-TTS-Light生产环境部署实战:从本地脚本到云端TTS API的完整路径

Hojo-TTS-Light 是 HojoAI 开源的轻量级 TTS(文本转语音)模型系列,包含 40M 和 80M 两档参数规模,基于 ONNX 运行时,纯 CPU 即可高效合成中英双语语音。本文带你走通 TTS 模型部署的完整路径:从环境搭建、本地脚本验证,到调优推理性能,最终封装成可上线的云端 TTS API,新手也能照着做。

💡 为什么选 Hojo-TTS-Light 做 TTS 部署?

在对比开源 TTS 方案时,部署门槛往往比音质更关键。Hojo-TTS-Light 的官方指标和特性让它很适合中小规模的线上服务(详见 README.md):

维度 Hojo-TTS-Light-40M Hojo-TTS-Light-80M
音色 15 个内置音色(2 中文 + 13 英文) 支持声音克隆(几秒参考音频)
输出 24 kHz 单声道 WAV 24 kHz 单声道 WAV
依赖 Python + ONNX Runtime,无需 PyTorch 推理脚本同样走 ONNX
推理性能 CPU 短文本 RTF 低至 ~0.28×(20 线程) 同架构,支持 CPU/CUDA
模型体积 权重包约 236 MB 同系列,量级相近
授权 Apache 2.0,可商用二次开发 同左

两个模型都遵循 Token-LM 框架,在 Seed-TTS 评测集上 DNSMOS 平均分超过 4.0,单句最多支持 4096 个 LM token。对新手来说,"装依赖→下模型→跑脚本"三步就能出语音,这是它最大的上手优势。

📦 第一步:一键安装部署环境

先获取代码仓库(推荐用 conda 隔离环境):

git clone https://gitcode.com/gh_mirrors/ho/Hojo-TTS-Light
cd Hojo-TTS-Light/Hojo-TTS-Light-40M

conda create -n hojo-tts python=3.12 -y
conda activate hojo-tts
pip install -r requirements.txt

依赖非常轻量:numpy、soundfile、tokenizers、onnxruntime、huggingface_hub,完整清单见 Hojo-TTS-Light-40M/requirements.txt。

提示:如果要在 GPU 上跑,把 onnxruntime 换成 onnxruntime-gpu,两者只能装其一。

⬇️ 第二步:下载 ONNX 模型文件

模型权重不随仓库分发,用 Hugging Face CLI 一键拉到本地 ./models 目录:

pip install -U "huggingface_hub[cli]"
hf download HojoAI/Hojo-TTS-Light-40M --repo-type model --local-dir ./models

下载完成后,模型包包含 LM 主干(-llm.onnx)、细粒度头(-fine_local.onnx)、声码解码器(-decoder.onnx)、音色向量 voice.npz 及分词器配置。各文件的作用在 Hojo-TTS-Light-40M/README.md 的 "Model bundle" 一节有完整说明。

🚀 第三步:本地脚本快速验证

40M:一行命令生成语音

40M 模型使用内置音色 ID,--voice 从 15 个音色里选一个即可(例如 hojo_en_m_02 默认音色、hojo_zh_f_01 中文女声):

python infer.py \
  --onnx_dir ./models \
  --text "欢迎体验 Hojo-TTS-Light 语音合成。" \
  --voice hojo_zh_f_01 \
  --output_path out_demo.wav

脚本入口为 Hojo-TTS-Light-40M/infer.py,底层运行时封装在 Hojo-TTS-Light-40M/onnx_model.py。

80M:几秒参考音频做声音克隆

80M 的玩法是"参考音频 + 参考文本 → 任意文本",适合定制专属音色。进入 Hojo-TTS-Light-80M/ 目录,先安装其依赖 requirements.txt,然后:

python infer.py \
  --onnx_dir ./models \
  --prompt_speech ./assets/zh1.wav \
  --prompt_text "现在的外卖确实坑多,要不咱换家稍微贵点的?" \
  --text "今天天气怎么样。" \
  --output_path ./out.wav

仓库 assets 目录自带示例参考音频和合成结果,可以直接用来对照效果。

⚡ 第四步:CPU 性能调优(从"能跑"到"好用")

RTF(生成耗时 ÷ 音频时长,<1 表示快于实时)是 TTS 服务是否可用的核心指标。官方在 Linux 服务器上测得的数据非常能说明问题:

场景 1 线程 RTF 20 线程 RTF 峰值内存
短句(约 6.3 s 音频) ~0.71× ~0.28× ~750 MB
长文(约 27 s 音频) ~1.02× ~0.59× ~1.2 GB

关键调优点就一个:开满 CPU 线程。构建运行时传入 num_threads,或用 onnx_model.py 里的 configure_cpu_threads() 统一设置 OMP/MKL 等线程环境变量。生产环境建议按"物理核数"配置,避免超线程抢占。

另外注意:BF16 权重在加载时会被提升为 FP32 驻留内存,所以实际 RSS 比磁盘上的 236 MB 大不少——规划容器内存时按 1~1.5 GB/实例 预留比较稳妥。

☁️ 第五步:封装成云端 TTS API

本地脚本验证通过后,上云只需三步:模型只加载一次、请求进来生成、输出 WAV 返回。40M 的 infer.py 提供了现成的 get_model() 工厂函数和 generate_to_file() 接口,API 服务里典型用法如下:

from infer import get_model

# 服务启动时加载一次(约 236 MB 权重),全局复用
TTS = get_model("./models")

@app.post("/tts")
def synthesize(req: TTSRequest):
    path = TTS.generate_to_file(
        text=req.text,
        output_path=f"/tmp/{req.request_id}.wav",
        voice=req.voice,
    )
    return FileResponse(path, media_type="audio/wav")

配套建议:

  • 用 FastAPI + Uvicorn 起 HTTP 服务,配合容器编排即可横向扩容;
  • 并发请求用信号量或工作队列限制同时推理数量,每个实例内存约 1 GB 级别,并发上限主要受内存和 CPU 核数约束;
  • 长文本按句切分后串行合成再拼接,可显著降低单次内存峰值(LM 长句约 1.2 GB)。

✅ 第六步:上线前检查清单

检查项 建议
版本固定 锁定 onnxruntime 等依赖版本,避免跨节点行为不一致
模型缓存 权重放对象存储或镜像内,容器启动时挂载,避免每次冷启动重新下载
发音纠错 中文多音字、专有名词可用拼音标注方式纠正(40M 支持 quick correction)
关注更新 官方 Roadmap 将提供 12.5Hz token 率版本与流式合成,届时延迟可进一步下降
商务合规 Apache 2.0 可商用;定制音色、企业授权可邮件 developer@hojoai.com 咨询

总结

整套部署路径可以概括为:装依赖 → 拉 ONNX 权重 → 本地脚本验证 → 调线程性能 → 封装 TTS API → 容器化上线。Hojo-TTS-Light 的价值在于把 TTS 服务的门槛压到极低——不需要 GPU、不需要 PyTorch,单台普通 CPU 服务器就能跑起快于实时的中英双语合成,40M 管"标准音色",80M 管"声音克隆",按需选型即可。

登录后查看全文
Hojo-TTS-Light