VoxPopuli快速上手:用HuggingFace datasets五分钟加载欧洲议会语音数据
VoxPopuli快速上手:用HuggingFace datasets五分钟加载欧洲议会语音数据
VoxPopuli 是 Meta(Facebook)开源的大规模欧洲议会语音数据集,覆盖 18 种语言、约 1791 小时带转写文本的议会演讲音频。本文是一份 VoxPopuli 快速上手教程:只需安装 HuggingFace datasets 库,用 load_dataset 一行代码即可加载 VoxPopuli 语音数据,全程不到五分钟。
认识 VoxPopuli:欧洲议会语音语料库 🏛️
VoxPopuli 的原始数据来自 2009–2020 年欧洲议会的活动录音,经过说话人分离、强制对齐和错误率过滤后,形成了带转写文本的高质量语音语料,主要用途包括:
- ASR(自动语音识别) 模型训练与评测
- 语音表示学习(representation learning)
- 半监督学习 与研究
几个核心特点:
| 特点 | 说明 |
|---|---|
| 语言数 | 18 种(en、de、fr、es、pl、it、ro、hu、cs、nl、fi、hr、sk、sl、et、lt + 带口音英语) |
| 总时长 | 1791 小时,4295 位说话人 |
| 采样率 | 16 kHz |
| 许可证 | CC0(可自由商用) |
各语言规模一览(节选自 README.md#L1205-L1225):
| 语言 | 代码 | 转写时长(小时) |
|---|---|---|
| English | en |
543 |
| German | de |
282 |
| French | fr |
211 |
| Spanish | es |
166 |
| Polish | pl |
111 |
| Italian | it |
91 |
| 其他 10 种语言 | — | 约 216 |
此外还包含 29 小时、15 种 L2 口音的带口音英语(en_accented),适合带口音语音识别研究。
五分钟快速上手:安装与加载步骤 🚀
第一步:安装 HuggingFace datasets 库
确保已安装 Python,然后执行一条安装命令:
pip install -U datasets
第二步:用一行代码加载指定语言
VoxPopuli 按语言划分 config,传入语言代码即可加载,官方示例见 README.md#L1168-L1194:
from datasets import load_dataset
# 加载克罗地亚语(hr)数据
voxpopuli_croatian = load_dataset("facebook/voxpopuli", "hr")
首次加载会自动下载对应语言的 parquet 分片并缓存到本地,之后再次加载秒开。
第三步:加载多语言混合数据
要一次性加载全部语言,使用 multilang config:
voxpopuli_all = load_dataset("facebook/voxpopuli", "multilang")
也可以只加载你需要的语言,通过 languages 参数指定,例如只取斯拉夫语系:
voxpopuli_slavic = load_dataset(
"facebook/voxpopuli", "multilang",
languages=["hr", "sk", "sl", "cs", "pl"]
)
第四步:加载带口音英语数据
研究带口音语音识别时,使用 en_accented config:
voxpopuli_accented = load_dataset("facebook/voxpopuli", "en_accented")
⚠️ 注意:en_accented 只包含 test 一个 split,没有训练集。
第五步:查看第一条语音样本
sample = voxpopuli_croatian["train"][0]
print(sample["audio"]["path"]) # 本地音频文件路径
print(sample["normalized_text"]) # 转写文本
到这里,你的 VoxPopuli 数据就已经加载完成,可以直接接入训练流程了。
数据字段详解:每条样本里有什么?
每条样本是一个字典,包含 8 个字段(完整说明见 README.md#L1270-L1280):
| 字段 | 类型 | 含义 |
|---|---|---|
audio_id |
string | 音频片段唯一 ID |
language |
ClassLabel | 语言编号(自动映射为语言代码) |
audio |
Audio | 音频字典:本地路径、float32 波形数组、16kHz 采样率 |
raw_text |
string | 原始正字法文本 |
normalized_text |
string | 归一化后的转写文本(训练 ASR 常用) |
gender |
string | 说话人性别 |
speaker_id |
string | 说话人 ID |
is_gold_transcript |
bool | 是否为高质量(gold)转写 |
accent |
string | 口音类型(如 en_lt),无口音时为 None |
数据划分方面:除 en_accented 外,所有语言都包含 train / validation / test 三个 split(见 README.md#L1282-L1284),可以直接用于训练、验证和评测。
文件结构速览:数据存在哪里?
仓库中每种语言对应一个目录,语音数据以 parquet 分片 存放。以德语为例:
- 语言目录:de/、en/、fr/、es/ 等
- 多语言混合目录:multilang/
- 带口音英语:en_accented/
- 单片文件示例:en/train-00000-of-00030.parquet、de/test-00000-of-00001.parquet
完整的数据集卡片(字段、语言统计、引用信息)都写在 README.md 中,建议收藏备查。
避坑指南:加载 VoxPopuli 的实用技巧 💡
- 注意下载体积:单语言数据从几百 MB 到上百 GB 不等(如
en约 120GB、multilang超 400GB)。建议先加载小语种(如lt、et)做流程验证,再上大规模数据。 - 流式加载省磁盘:不想全量下载时,可以开启
streaming=True边流式读取边处理,音频路径会指向压缩包内相对路径,无需本地解包(参见 README.md#L1274)。 - 过滤高质量转写:用
is_gold_transcript字段筛选 gold 转写片段,可显著提升训练数据质量。 - 性别分布不均:各语言女发言人占比普遍低于 50%(立陶宛语最低约 15%),做说话人相关研究时需留意该偏差。
- 许可无忧:数据集采用 CC0 许可,转写文本部分请同时留意原始欧洲议会素材的法律声明。
下一步:VoxPopuli 能用来做什么?
- 训练多语言 ASR 模型:以
normalized_text为标签,用 WER(词错误率)评测,是最主流用法 - 语音表示学习 / 自监督预训练:大规模多语言语音是预训练的绝佳素材
- 带口音英语识别:用
en_accented的 15 种 L2 口音数据做口音鲁棒性研究 - 跨语言迁移:借助
multilang+languages参数灵活组合小语种,训练低资源语言识别模型
安装好 datasets 库、复制一行 load_dataset,你就能在五分钟之内上手这份 1791 小时、18 种语言的欧洲议会语音数据。快去试试吧!