Wenet项目中非拉丁字符在WER计算中的处理问题分析

背景介绍

在语音识别系统的评估过程中，词错误率(WER)是最常用的性能指标之一。Wenet作为一个开源的端到端语音识别工具包，提供了计算WER的脚本工具compute-wer.py。然而，当处理包含非拉丁字符(如Č、Ö等)的文本时，该工具可能会出现计算不准确的问题。

问题现象

当使用compute-wer.py计算包含非拉丁字符的文本WER时，脚本会在每个非拉丁字符前插入额外的空格，导致原本应该被视为一个完整单词的文本被错误地分割成多个部分。例如：

• 参考文本："ABCČDÖF"
• 识别文本："ABCČDÖX"

在理想情况下，这应该被视为一个单词的识别错误(WER=100%)。但由于非拉丁字符前的空格插入，脚本将其错误地分割为三个"单词"："ABC"、"ČD"和"ÖF"，导致计算出的WER为33.33%，明显低于实际错误率。

技术原理分析

compute-wer.py脚本默认使用"--char=1"参数，表示以字符为单位进行处理。在这种模式下，脚本会对文本进行字符级别的分析，而某些Unicode字符(特别是组合字符或特殊字母)的处理可能导致意外的分词行为。

脚本中的characterize()函数负责处理字符级别的分析，当遇到非ASCII字符时，可能会产生不一致的分词结果。这种问题在多语言语音识别场景中尤为常见，特别是处理斯拉夫语系、北欧语系等包含大量变音符号的语言时。

解决方案

针对这一问题，有以下几种解决方案：

1. 使用单词级别计算：通过设置"--char=0"参数，强制脚本以单词而非字符为单位进行计算。这种方法简单有效，但前提是输入文本已经正确分词。

2. 预处理文本：在计算WER前，对文本进行统一的Unicode规范化处理(NFC或NFD形式)，确保字符表示的一致性。

3. 修改脚本逻辑：对于需要精确字符级别分析的情况，可以修改characterize()函数，使其正确处理多字节Unicode字符。

最佳实践建议

对于多语言语音识别评估，建议采用以下工作流程：

1. 明确评估需求：确定是需要单词级还是字符级的错误率计算
2. 统一文本编码：确保所有文本使用UTF-8编码
3. 文本规范化：对文本进行Unicode规范化处理
4. 参数选择：根据字符集特点选择合适的--char参数
5. 结果验证：对少量样本进行人工验证，确保计算逻辑符合预期

总结

WER计算是语音识别系统评估的关键环节，正确处理多语言文本对于获得准确的评估结果至关重要。Wenet的compute-wer.py工具在默认配置下可能无法正确处理非拉丁字符，但通过合理配置参数或适当修改，可以解决这一问题。在实际应用中，开发者应根据具体语言特点和评估需求，选择最适合的WER计算策略。