5分钟生成第一条语音:Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 新手快速上手教程

原创2026-11-12 20:37:131,211 阅读

5分钟生成第一条语音:Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 新手快速上手教程

想在本地快速生成一条自然的多语言语音?本教程带你用 Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 在 5 分钟内跑通第一条语音合成。这是一套基于 Qwen3-TTS 12Hz 1.7B 模型的 GGUF 量化文件包,支持 10 种语言、9 种预置音色,配合 speech.cpp 即可在电脑本地完成文字转语音,无需联网推理、无需申请 API。

一、这个模型是什么?

Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF 把 Qwen3-TTS 的 12Hz 1.7B CustomVoice 模型和它的编解码器解码器打包进了单个 GGUF 文件,一个文件即可:

  • 🗣️ 支持 10 种语言:中、英、日、韩、德、法、意、西、葡、俄
  • 🎙️ 提供 9 种预置音色,可切换不同性别与风格
  • 🎚️ 支持"说话指令"(instructions),控制语速、语气等表现方式
  • ⚡ 边生成边播放:音频按小块(chunk)增量输出,播放器可以拿到第一块音频就开始响,几乎无等待感

注意:这些 GGUF 文件只能被 speech.cpp 0.7.0 及以上版本运行,llama.cpp、LM Studio、Ollama 等其他读取 GGUF 的程序无法使用(文件格式是 speech.cpp 专属的)。

项目文件清单与说明可见 README.md。

二、准备工作:安装 speech.cpp

  1. 按照 speech.cpp 官方文档完成安装(仓库 README 中有 install 链接指引)。
  2. 确认版本:
    • 运行 Q8_0 文件:speech.cpp 0.7.0 或更高
    • 运行 Q6_K / Q5_K / Q4_K 文件:speech.cpp 0.8.0 或更高
    • 在 Vulkan(N 卡)上跑 Q5_K / Q4_K:需要 0.8.4 或更高,更早版本会算出非有限值导致失败

模型权重约 1.3 GB ~ 2.3 GB(随量化类型不同),首次运行时 speech.cpp 会自动从本仓库下载 Q8_0 文件,之后即可离线使用。

三、5分钟生成第一条语音 🚀

步骤 1:直接生成一条日语语音

安装完成后,在终端执行:

speech tts qwen3-tts-1.7b --voice ono_anna --language ja -o out.wav "明日の東京は晴れです。"

执行成功后,当前目录下会生成 out.wav,用任意播放器打开即可听到女声 ono_anna 的播报。

步骤 2:换音色、换语言,并加上说话指令

speech tts qwen3-tts-1.7b:q4_k --voice ryan --instructions "Speak slowly and softly." -o out.wav "Good night."

这条命令做了三件事:

  • qwen3-tts-1.7b:q4_k:使用 Q4_K 量化版本(体积更小,内存占用更低)
  • --voice ryan:选择有节奏感的英文男声
  • --instructions:用一句自然语言告诉模型"慢一点、轻一点"

也可以把已下载的 GGUF 文件路径直接传给 speech,效果相同。

步骤 3(可选):启动本地 Web 服务

不想敲命令行?speech.cpp 自带服务功能:

speech serve qwen3-tts-1.7b --open

执行后会自动打开网页界面,在网页里输入文字、选音色、点生成即可。

四、选哪个量化版本?Q4_K / Q5_K / Q6_K / Q8_0 怎么选

仓库内提供 4 个量化档位,按"质量优先"还是"体积优先"选择即可:

量化类型 文件大小 运行内存占用 听感准确率(CER) 推荐场景
Q8_0 2.29 GB 2.44 GB 6.25% 追求音质,内存充足(默认下载项)
Q6_K 1.82 GB 1.98 GB 4.42% 均衡之选
Q5_K 1.57 GB 1.72 GB 6.02% 内存略紧张
Q4_K 1.33 GB 1.48 GB 7.19% 显存/内存最紧张

小贴士:每个 GGUF 都附带一份 JSON 元信息文件(如 Qwen3-TTS-12Hz-1.7B-CustomVoice-Q8_0.gguf.json),记录了音色列表、参数选项等,方便程序在不下载模型的情况下展示或选择模型。

新手建议:内存 ≥ 8 GB 直接默认 Q8_0;显存/内存吃紧选 Q4_K。

五、9 种预置音色一览 🎤

音色 语言 性别 声音特点
aiden 英文 男 阳光美式男声,中音清晰
dylan 中文 男 年轻北京男声,音色清晰自然
eric 中文 男 活泼成都男声,略带沙哑的明亮感
ono_anna 日语 女 俏皮日语女声,轻盈灵活
ryan 英文 男 动态男声,节奏感强
serena 中文 女 温暖温柔的年轻女声
sohee 韩语 女 温暖韩语女声,情感丰富
uncle_fu 中文 男 沉稳大叔音,低沉醇厚
vivian 中文 女 明亮略带个性的年轻女声

通过 --language 参数可以引导模型用指定语言发声(支持 de、en、es、fr、it、ja、ko、pt、ru、zh)。

六、速度表现:快到什么程度?

在 speech-bench 基准测试中(Q8_0 文件、单请求):

设备 首块音频中位延迟 p90 首块音频 实时率
Apple M5(Metal) 0.060 秒 0.110 秒 0.42
RTX 2080(Vulkan) 0.039 秒 0.052 秒 0.32

实时率 0.32~0.42 意味着:生成 10 秒的语音只需要约 3~4 秒,且首块音频在半秒内就会出现,边说边播的体验非常顺滑。

七、常见问题快速排查 ❓

  • 其他程序打不开 GGUF? 这些文件只兼容 speech.cpp,请确认你用的是 speech.cpp 而非 llama.cpp/Ollama。
  • Vulkan 下 Q5_K/Q4_K 输出异常? 升级 speech.cpp 到 0.8.4 及以上版本。
  • 想换更轻量的模型? 官方的 0.6B 版本(qwen3-tts-0.6b)速度更快、占用更小,可参考 speech.cpp 文档中的 Qwen3-TTS 章节。

八、写在最后

只需三条命令——安装 speech.cpp、运行 speech tts、打开生成的 wav 文件——你就能在本地拥有一个支持 10 种语言、9 种音色、可调节语气的文字转语音引擎。模型权重基于 Apache-2.0 许可发布,可放心用于学习与项目原型。快打开终端,生成你的第一条语音吧!

登录后查看全文
Qwen3-TTS-12Hz-1.7B-CustomVoice-GGUF