5分钟生成第一条语音:Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 新手快速上手教程
5分钟生成第一条语音:Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 新手快速上手教程
想在本地快速生成一条自然的多语言语音?本教程带你用 Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 在 5 分钟内跑通第一条语音合成。这是一套基于 Qwen3-TTS 12Hz 1.7B 模型的 GGUF 量化文件包,支持 10 种语言、9 种预置音色,配合 speech.cpp 即可在电脑本地完成文字转语音,无需联网推理、无需申请 API。
一、这个模型是什么?
Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 把 Qwen3-TTS 的 12Hz 1.7B CustomVoice 模型和它的编解码器解码器打包进了单个 GGUF 文件,一个文件即可:
- 🗣️ 支持 10 种语言:中、英、日、韩、德、法、意、西、葡、俄
- 🎙️ 提供 9 种预置音色,可切换不同性别与风格
- 🎚️ 支持"说话指令"(instructions),控制语速、语气等表现方式
- ⚡ 边生成边播放:音频按小块(chunk)增量输出,播放器可以拿到第一块音频就开始响,几乎无等待感
注意:这些 GGUF 文件只能被 speech.cpp 0.7.0 及以上版本运行,llama.cpp、LM Studio、Ollama 等其他读取 GGUF 的程序无法使用(文件格式是 speech.cpp 专属的)。
项目文件清单与说明可见 README.md。
二、准备工作:安装 speech.cpp
- 按照 speech.cpp 官方文档完成安装(仓库 README 中有 install 链接指引)。
- 确认版本:
- 运行
Q8_0文件:speech.cpp 0.7.0 或更高 - 运行
Q6_K/Q5_K/Q4_K文件:speech.cpp 0.8.0 或更高 - 在 Vulkan(N 卡)上跑
Q5_K/Q4_K:需要 0.8.4 或更高,更早版本会算出非有限值导致失败
- 运行
模型权重约 1.3 GB ~ 2.3 GB(随量化类型不同),首次运行时 speech.cpp 会自动从本仓库下载 Q8_0 文件,之后即可离线使用。
三、5分钟生成第一条语音 🚀
步骤 1:直接生成一条日语语音
安装完成后,在终端执行:
speech tts qwen3-tts-1.7b --voice ono_anna --language ja -o out.wav "明日の東京は晴れです。"
执行成功后,当前目录下会生成 out.wav,用任意播放器打开即可听到女声 ono_anna 的播报。
步骤 2:换音色、换语言,并加上说话指令
speech tts qwen3-tts-1.7b:q4_k --voice ryan --instructions "Speak slowly and softly." -o out.wav "Good night."
这条命令做了三件事:
qwen3-tts-1.7b:q4_k:使用 Q4_K 量化版本(体积更小,内存占用更低)--voice ryan:选择有节奏感的英文男声--instructions:用一句自然语言告诉模型"慢一点、轻一点"
也可以把已下载的 GGUF 文件路径直接传给 speech,效果相同。
步骤 3(可选):启动本地 Web 服务
不想敲命令行?speech.cpp 自带服务功能:
speech serve qwen3-tts-1.7b --open
执行后会自动打开网页界面,在网页里输入文字、选音色、点生成即可。
四、选哪个量化版本?Q4_K / Q5_K / Q6_K / Q8_0 怎么选
仓库内提供 4 个量化档位,按"质量优先"还是"体积优先"选择即可:
| 量化类型 | 文件大小 | 运行内存占用 | 听感准确率(CER) | 推荐场景 |
|---|---|---|---|---|
| Q8_0 | 2.29 GB | 2.44 GB | 6.25% | 追求音质,内存充足(默认下载项) |
| Q6_K | 1.82 GB | 1.98 GB | 4.42% | 均衡之选 |
| Q5_K | 1.57 GB | 1.72 GB | 6.02% | 内存略紧张 |
| Q4_K | 1.33 GB | 1.48 GB | 7.19% | 显存/内存最紧张 |
小贴士:每个 GGUF 都附带一份 JSON 元信息文件(如 Qwen3-TTS-12Hz-1.7B-CustomVoice-Q8_0.gguf.json),记录了音色列表、参数选项等,方便程序在不下载模型的情况下展示或选择模型。
新手建议:内存 ≥ 8 GB 直接默认 Q8_0;显存/内存吃紧选 Q4_K。
五、9 种预置音色一览 🎤
| 音色 | 语言 | 性别 | 声音特点 |
|---|---|---|---|
aiden |
英文 | 男 | 阳光美式男声,中音清晰 |
dylan |
中文 | 男 | 年轻北京男声,音色清晰自然 |
eric |
中文 | 男 | 活泼成都男声,略带沙哑的明亮感 |
ono_anna |
日语 | 女 | 俏皮日语女声,轻盈灵活 |
ryan |
英文 | 男 | 动态男声,节奏感强 |
serena |
中文 | 女 | 温暖温柔的年轻女声 |
sohee |
韩语 | 女 | 温暖韩语女声,情感丰富 |
uncle_fu |
中文 | 男 | 沉稳大叔音,低沉醇厚 |
vivian |
中文 | 女 | 明亮略带个性的年轻女声 |
通过 --language 参数可以引导模型用指定语言发声(支持 de、en、es、fr、it、ja、ko、pt、ru、zh)。
六、速度表现:快到什么程度?
在 speech-bench 基准测试中(Q8_0 文件、单请求):
| 设备 | 首块音频中位延迟 | p90 首块音频 | 实时率 |
|---|---|---|---|
| Apple M5(Metal) | 0.060 秒 | 0.110 秒 | 0.42 |
| RTX 2080(Vulkan) | 0.039 秒 | 0.052 秒 | 0.32 |
实时率 0.32~0.42 意味着:生成 10 秒的语音只需要约 3~4 秒,且首块音频在半秒内就会出现,边说边播的体验非常顺滑。
七、常见问题快速排查 ❓
- 其他程序打不开 GGUF? 这些文件只兼容 speech.cpp,请确认你用的是 speech.cpp 而非 llama.cpp/Ollama。
- Vulkan 下 Q5_K/Q4_K 输出异常? 升级 speech.cpp 到 0.8.4 及以上版本。
- 想换更轻量的模型? 官方的 0.6B 版本(
qwen3-tts-0.6b)速度更快、占用更小,可参考 speech.cpp 文档中的 Qwen3-TTS 章节。
八、写在最后
只需三条命令——安装 speech.cpp、运行 speech tts、打开生成的 wav 文件——你就能在本地拥有一个支持 10 种语言、9 种音色、可调节语气的文字转语音引擎。模型权重基于 Apache-2.0 许可发布,可放心用于学习与项目原型。快打开终端,生成你的第一条语音吧!