Hojo-TTS-Light生产环境部署实战:从本地脚本到云端TTS API的完整路径
Hojo-TTS-Light生产环境部署实战:从本地脚本到云端TTS API的完整路径
Hojo-TTS-Light 是 HojoAI 开源的轻量级 TTS(文本转语音)模型系列,包含 40M 和 80M 两档参数规模,基于 ONNX 运行时,纯 CPU 即可高效合成中英双语语音。本文带你走通 TTS 模型部署的完整路径:从环境搭建、本地脚本验证,到调优推理性能,最终封装成可上线的云端 TTS API,新手也能照着做。
💡 为什么选 Hojo-TTS-Light 做 TTS 部署?
在对比开源 TTS 方案时,部署门槛往往比音质更关键。Hojo-TTS-Light 的官方指标和特性让它很适合中小规模的线上服务(详见 README.md):
| 维度 | Hojo-TTS-Light-40M | Hojo-TTS-Light-80M |
|---|---|---|
| 音色 | 15 个内置音色(2 中文 + 13 英文) | 支持声音克隆(几秒参考音频) |
| 输出 | 24 kHz 单声道 WAV | 24 kHz 单声道 WAV |
| 依赖 | Python + ONNX Runtime,无需 PyTorch | 推理脚本同样走 ONNX |
| 推理性能 | CPU 短文本 RTF 低至 ~0.28×(20 线程) | 同架构,支持 CPU/CUDA |
| 模型体积 | 权重包约 236 MB | 同系列,量级相近 |
| 授权 | Apache 2.0,可商用二次开发 | 同左 |
两个模型都遵循 Token-LM 框架,在 Seed-TTS 评测集上 DNSMOS 平均分超过 4.0,单句最多支持 4096 个 LM token。对新手来说,"装依赖→下模型→跑脚本"三步就能出语音,这是它最大的上手优势。
📦 第一步:一键安装部署环境
先获取代码仓库(推荐用 conda 隔离环境):
git clone https://gitcode.com/gh_mirrors/ho/Hojo-TTS-Light
cd Hojo-TTS-Light/Hojo-TTS-Light-40M
conda create -n hojo-tts python=3.12 -y
conda activate hojo-tts
pip install -r requirements.txt
依赖非常轻量:numpy、soundfile、tokenizers、onnxruntime、huggingface_hub,完整清单见 Hojo-TTS-Light-40M/requirements.txt。
提示:如果要在 GPU 上跑,把
onnxruntime换成onnxruntime-gpu,两者只能装其一。
⬇️ 第二步:下载 ONNX 模型文件
模型权重不随仓库分发,用 Hugging Face CLI 一键拉到本地 ./models 目录:
pip install -U "huggingface_hub[cli]"
hf download HojoAI/Hojo-TTS-Light-40M --repo-type model --local-dir ./models
下载完成后,模型包包含 LM 主干(-llm.onnx)、细粒度头(-fine_local.onnx)、声码解码器(-decoder.onnx)、音色向量 voice.npz 及分词器配置。各文件的作用在 Hojo-TTS-Light-40M/README.md 的 "Model bundle" 一节有完整说明。
🚀 第三步:本地脚本快速验证
40M:一行命令生成语音
40M 模型使用内置音色 ID,--voice 从 15 个音色里选一个即可(例如 hojo_en_m_02 默认音色、hojo_zh_f_01 中文女声):
python infer.py \
--onnx_dir ./models \
--text "欢迎体验 Hojo-TTS-Light 语音合成。" \
--voice hojo_zh_f_01 \
--output_path out_demo.wav
脚本入口为 Hojo-TTS-Light-40M/infer.py,底层运行时封装在 Hojo-TTS-Light-40M/onnx_model.py。
80M:几秒参考音频做声音克隆
80M 的玩法是"参考音频 + 参考文本 → 任意文本",适合定制专属音色。进入 Hojo-TTS-Light-80M/ 目录,先安装其依赖 requirements.txt,然后:
python infer.py \
--onnx_dir ./models \
--prompt_speech ./assets/zh1.wav \
--prompt_text "现在的外卖确实坑多,要不咱换家稍微贵点的?" \
--text "今天天气怎么样。" \
--output_path ./out.wav
仓库 assets 目录自带示例参考音频和合成结果,可以直接用来对照效果。
⚡ 第四步:CPU 性能调优(从"能跑"到"好用")
RTF(生成耗时 ÷ 音频时长,<1 表示快于实时)是 TTS 服务是否可用的核心指标。官方在 Linux 服务器上测得的数据非常能说明问题:
| 场景 | 1 线程 RTF | 20 线程 RTF | 峰值内存 |
|---|---|---|---|
| 短句(约 6.3 s 音频) | ~0.71× | ~0.28× | ~750 MB |
| 长文(约 27 s 音频) | ~1.02× | ~0.59× | ~1.2 GB |
关键调优点就一个:开满 CPU 线程。构建运行时传入 num_threads,或用 onnx_model.py 里的 configure_cpu_threads() 统一设置 OMP/MKL 等线程环境变量。生产环境建议按"物理核数"配置,避免超线程抢占。
另外注意:BF16 权重在加载时会被提升为 FP32 驻留内存,所以实际 RSS 比磁盘上的 236 MB 大不少——规划容器内存时按 1~1.5 GB/实例 预留比较稳妥。
☁️ 第五步:封装成云端 TTS API
本地脚本验证通过后,上云只需三步:模型只加载一次、请求进来生成、输出 WAV 返回。40M 的 infer.py 提供了现成的 get_model() 工厂函数和 generate_to_file() 接口,API 服务里典型用法如下:
from infer import get_model
# 服务启动时加载一次(约 236 MB 权重),全局复用
TTS = get_model("./models")
@app.post("/tts")
def synthesize(req: TTSRequest):
path = TTS.generate_to_file(
text=req.text,
output_path=f"/tmp/{req.request_id}.wav",
voice=req.voice,
)
return FileResponse(path, media_type="audio/wav")
配套建议:
- 用 FastAPI + Uvicorn 起 HTTP 服务,配合容器编排即可横向扩容;
- 并发请求用信号量或工作队列限制同时推理数量,每个实例内存约 1 GB 级别,并发上限主要受内存和 CPU 核数约束;
- 长文本按句切分后串行合成再拼接,可显著降低单次内存峰值(LM 长句约 1.2 GB)。
✅ 第六步:上线前检查清单
| 检查项 | 建议 |
|---|---|
| 版本固定 | 锁定 onnxruntime 等依赖版本,避免跨节点行为不一致 |
| 模型缓存 | 权重放对象存储或镜像内,容器启动时挂载,避免每次冷启动重新下载 |
| 发音纠错 | 中文多音字、专有名词可用拼音标注方式纠正(40M 支持 quick correction) |
| 关注更新 | 官方 Roadmap 将提供 12.5Hz token 率版本与流式合成,届时延迟可进一步下降 |
| 商务合规 | Apache 2.0 可商用;定制音色、企业授权可邮件 developer@hojoai.com 咨询 |
总结
整套部署路径可以概括为:装依赖 → 拉 ONNX 权重 → 本地脚本验证 → 调线程性能 → 封装 TTS API → 容器化上线。Hojo-TTS-Light 的价值在于把 TTS 服务的门槛压到极低——不需要 GPU、不需要 PyTorch,单台普通 CPU 服务器就能跑起快于实时的中英双语合成,40M 管"标准音色",80M 管"声音克隆",按需选型即可。