5分钟上手QwenCleo-ASR-GGUF:最简单的本地阿拉伯语语音识别教程(无需Python)
5分钟上手QwenCleo-ASR-GGUF:最简单的本地阿拉伯语语音识别教程(无需Python)
QwenCleo-ASR-GGUF 是一个面向埃及阿拉伯语的本地语音识别(ASR)模型包,基于 Qwen3-ASR-1.7B 微调,通过 audio.cpp(C++ 运行时)直接运行,无需 Python 环境,在相同 GPU 上比 PyTorch 快 3–4 倍,单个 GGUF 文件即可开箱即用。
🎯 这是什么项目?
QwenCleo-ASR-GGUF 是为 audio.cpp 生态准备的 GGUF 量化模型包,把完整的阿拉伯语语音识别模型打包成了独立文件:
- 微调底座:在 Qwen3-ASR-1.7B 上用阿拉伯语语料微调,专精埃及方言和 阿拉伯语↔英语混说(code-switching,一句话里两种语言来回切换的口语风格)
- 效果出色:在作者 3,699 条埃及语测试集上 WER 为 19.85%,而基础 Qwen3-ASR-1.7B 高达 41.51%,误差率近乎减半
- 单文件即全部:每个 GGUF 文件内嵌 tokenizer、processor、配置文件和模型规格,下载一个文件就能跑,无需任何 Python 依赖
更多细节可阅读 README.md。
📦 两个模型文件:怎么选?
仓库提供两种精度版本,按需选择:
| 文件 | 精度 | 大小 | 显存占用 | 适用场景 |
|---|---|---|---|---|
| qwencleo-asr-q8_0.gguf | Q8_0 | 2.31 GiB | 约 3.4 GB | ✅ 推荐:速度最快,显存最省 |
| qwencleo-asr-f16.gguf | F16 | 3.81 GiB | 约 5.0 GB | 追求最高精度时使用 |
💡 显存 6 GB 以下的显卡选 Q8_0 即可,精度损失极小(两者 WER 差距不足 0.5 个百分点)。
🚀 5分钟部署:三步跑通第一次识别
第一步:获取模型文件
将模型放入 models 目录即可(仓库地址如下,也可直接单独下载 .gguf 文件):
git clone https://gitcode.com/hf_mirrors/mohammedaly22/QwenCleo-ASR-GGUF models/QwenCleo-ASR-GGUF
第二步:安装 audio.cpp 运行时
按官方说明在 Linux / Windows / macOS 上构建 audio.cpp(构建完成后得到 audiocpp_cli 等命令行工具)。也可以跳过构建,直接用 audio.cpp 的模型管理器安装模型:
audiocpp_model_manager install qwencleo_asr_q8_0 --models-dir models
第三步:执行第一次阿拉伯语语音识别
一条命令完成离线识别,结果写入文本文件:
audiocpp_cli --task asr --family qwen3_asr --model models/QwenCleo-ASR-GGUF \
--backend cuda --audio speech.wav --language Arabic --text "" \
--text-out transcript.txt
✅ 几秒后打开 transcript.txt,你就得到了阿拉伯语文本转写。整个流程没有安装一行 Python 包。
⚡ 进阶玩法:流式识别与 API 服务
流式识别:加两个参数即可边录边转,适合实时字幕、会议转录:
audiocpp_cli --task asr --family qwen3_asr --model models/QwenCleo-ASR-GGUF \
--mode streaming --request-option audio_chunk_seconds=5
OpenAI 兼容服务:把模型写进服务配置,就能像调用 Whisper 一样用 HTTP 接口:
{ "models": [{ "id": "qwencleo", "family": "qwen3_asr",
"path": "models/QwenCleo-ASR-GGUF/qwencleo-asr-q8_0.gguf", "task": "asr" }] }
curl http://127.0.0.1:8080/v1/audio/transcriptions \
-F model=qwencleo -F language=Arabic -F file=@speech.wav
其他好用特性:
- 任意采样率:音频会内部自动重采样,WAV/MP3 都能直接丢进去
- 长音频自动分块:一小时录音不用手动切段
- 逐字时间戳:可结合 Qwen3 Forced Aligner 输出词级对齐
📊 速度对比:比 PyTorch 快 3–4 倍是真的吗?
作者在 GTX 1660 Ti(6 GB)上对同一批 16 段埃及语音频做了实测,结论非常直观:
| 运行方式 | 精度 | RTF(越低越快) | 平均耗时/段 | 加速比 | 峰值显存 |
|---|---|---|---|---|---|
PyTorch qwencleo-asr |
bf16 | 0.557 | 2.62 s | 1.0× | ~4.4 GB |
| audio.cpp | F16 GGUF | 0.301 | 1.42 s | 1.8× | ~5.0 GB |
| audio.cpp | Q8_0 GGUF | 0.177 | 0.84 s | 3.1× | ~3.4 GB |
更关键的是冷启动:PyTorch 加载 4 GB 权重要 12–18 分钟,而 audio.cpp 约 40 秒就准备就绪;且长时间会话(33 次连续请求)速度和输出完全稳定,不会越跑越慢。
⚠️ 使用注意事项
- 务必传
--language Arabic:量化包对自动语言检测不可靠,手动指定最稳 - 方言范围有限:模型针对埃及阿拉伯语和混说场景调优,其他阿拉伯方言或嘈杂远场录音效果会下降
- 数字以阿拉伯数字输出:如
3:30、20,与训练语料风格一致 - 输出可能存在极小浮动:audio.cpp 与 PyTorch 个别转写词偶有 1–2 词差异,属正常浮点误差
✅ 小结
| 项目 | 说明 |
|---|---|
| 一句话定位 | 无需 Python 的本地阿拉伯语语音识别方案 |
| 核心优势 | 单文件 GGUF、3–4 倍加速、显存低至 3.4 GB |
| 推荐文件 | qwencleo-asr-q8_0.gguf |
| 上手成本 | 装好 audio.cpp + 一条命令,5 分钟出结果 |
如果你做埃及阿拉伯语的内容转录、字幕生成或混说语音处理,这套 QwenCleo-ASR-GGUF + audio.cpp 的组合是目前最轻量的本地化选择。