CrispASR 与 EU AI Act 合规完整指南:合成音频水印、C2PA 溯源与声音克隆的法律边界
CrispASR 与 EU AI Act 合规完整指南:合成音频水印、C2PA 溯源与声音克隆的法律边界
CrispASR 是一个 C++ 多语言语音引擎(ASR 语音识别 + TTS 语音合成),它在欧盟《AI Act》(Regulation (EU) 2024/1689)框架下有一套完整的合规设计:所有合成音频默认嵌入 AI 生成水印、自动附加 C2PA Content Credentials 内容溯源清单,并为声音克隆设置了强制同意门与口播免责声明。本文带你搞清楚:哪些义务 CrispASR 已经用代码替你完成,哪些必须由你作为部署者(deployer)自己承担,以及声音克隆的法律边界在哪里。
一、先分清角色:Provider 与 Deployer 的义务不同 🧭
EU AI Act 按角色而不是按"谁写了代码"来分配义务:
| 角色 | 是谁 | 承担的义务 |
|---|---|---|
| Provider(提供者) | 将 AI 系统投放市场或冠自己名字提供的人。CrispASR 上游模型是各家模型方;如果你把 CrispASR 集成进自己的产品,那个产品线的 Provider 是你 | 第 50(2) 条:合成音频的机器可读标记 |
| Deployer(部署者) | 实际运行这套系统的人——也就是你,用 crispasr 处理真实音频 |
第 50(4) 条:向用户披露"这是 AI 生成内容" |
一句话总结项目自己的定位(见 docs/eu-ai-act.md):CrispASR 可以标记它的输出,但它无法替你告知你的用户。
两个必须知道的背景:
- 开源豁免很窄。Art. 2(12) 豁免 FOSS 系统,但不覆盖禁止性实践(Art. 5)、高风险系统(Annex III)和第 50 条透明度义务——恰好就是语音工具最敏感的三个区域。CrispASR 是 MIT 许可,这条豁免在这里基本买不到什么。
- 时间表:Art. 50(2) 合成内容标记义务于 2026 年 8 月 2 日起适用;此前投放市场的生成式系统最晚 2026 年 12 月 2 日完成标记。CrispASR 在这之前就已默认开启标记。
- 罚款量级:违反 Art. 5 最高 3500 万欧元或全球年营业额 7%;多数其他违规最高 1500 万欧元或 3%。
二、合成音频水印:默认开启的"防水底线" 💧
CrispASR 采用两套互补的水印技术,而不是只赌一种:
1. 音频水印(波形级,可检测)
- 默认:内置扩频(spread-spectrum)水印,带限到约 1.5–4.8 kHz 频段保持人耳不可闻,在合成后嵌入 PCM 信号,能承受重编码、转码、压缩和容器丢失。
- 可选升级:Meta 的 AudioSeal 神经水印,通过
--watermark-model auto加载,鲁棒性更强。 - 可自检:
--detect-watermark <file>可对任意音频跑检测,输出置信度与结论(AI-GENERATED WATERMARK DETECTED/INCONCLUSIVE/No watermark detected)。
对应实现见 src/core/crispasr_watermark.h 与 C API crispasr_watermark_embed / crispasr_watermark_detect(include/crispasr.h)。
2. "防水底线"(watertight floor):想关也关不彻底
这是很多项目没有的设计细节。你可以选择退出标记(--no-watermark / --no-c2pa),但永远无法产出一个完全无标记的文件:
- 退出标记必须同时给出
--accept-marking-responsibility声明,否则 CLI 直接拒绝运行(exit 12),并写一条[MARKING]审计日志,记录你自行承担了披露义务。 - 规则是:只有当 C2PA 清单还能标记输出时,音频水印才允许被移除;如果所选容器装不下 C2PA 清单(如裸
.opus、.aac、服务器上的pcm/aac流),水印会被强制重新打开,并打印提示。 - 服务器侧的底线是按响应执行的(因为
response_format每请求不同),Wyoming 协议(裸 PCM 流)则无条件强制水印,且没有退出通道。
相关策略代码:examples/cli/crispasr_marking_policy.h(含单元测试 tests/test-marking-policy.cpp)。
项目明确说:关闭水印不会移除你可能适用的任何 AI 披露义务,它只是把"如何满足义务"的责任转移给运行这个二进制的人。
三、C2PA 内容溯源:签进文件里的加密"出生证明" 📜
水印解决"信号里有没有标记",C2PA(Content Credentials)解决"这个文件是谁、用什么生成的"——它是可互操作的加密签名清单,第三方工具(如 contentcredentials.org)能直接读取。
关键特性(见 docs/tts.md 的 "AI-generated audio provenance & watermarking" 章节):
| 特性 | 说明 |
|---|---|
| 全格式支持 | WAV(RIFF C2PA chunk)、MP3(ID3v2 GEOB)、M4A/MP4(ISO BMFF)、FLAC 均可签名;裸 AAC/Opus 装不下清单时自动 remux 成 MP4 再签 |
| 零依赖 | WAV 签名由内置纯 C++ 原生签名器完成(手写 CBOR / JUMBF / COSE_Sign1,ES256),无需外部库,浏览器 WASM 沙箱里也能跑 |
| 默认自签名 | 二进制内置一张自签名证书(src/core/crispasr_c2pa_default_cert.h),开箱即用;私钥故意公开——它只用于标记"AI 生成",不是信任锚。想显示"受信签发者"可 --c2pa-cert 带自己的 CA 证书 |
| 元数据标记 | 清单标注 digitalSourceType=trainedAlgorithmicMedia;WAV 另写 ISFT="CrispASR (AI-generated audio)",MP3 写 ID3 AI_GENERATED=true |
C2PA 核心 API 在 include/crispasr.h(crispasr_c2pa_sign),实现入口 src/core/crispasr_c2pa.h,第三方模块在 third_party/c2pa-audio。
两条水印技术的分工很清晰:C2PA 是标准清单(第三方会读它),水印是抗重编码的保险(清单被剥离时还在)。两者都默认开启。
四、声音克隆的法律边界:同意门 + 口播披露 + 审计留痕 🎙️
声音克隆(deepfake 声音)是法律风险最高的场景。CrispASR 把"什么算克隆"定义得非常严格,并挂了三道闸门:
1. 克隆同意门(consent gate)
克隆操作(CLI 的 --i-have-rights、服务器的 consent_attestation 字段)硬性要求,缺失即拒绝。项目审计发现过三类隐蔽漏洞并已修复:
- 把录音"烘焙"成
.gguf参考包的烘焙过程本身就是克隆步骤,所有 5 个 Python 烘焙脚本(如models/bake-chatterbox-voice-from-wav.py)和--make-ref全部要求--i-have-rights,并在包元数据上打上crispasr.voice.cloned_from_recording戳。 - 多声音库按名字选声音(如 cosyvoice3 的
voices.gguf)过去完全绕过了门——现在通过CrispasrBackend::voice_bank_path()让后端自己上报解析到的声音路径,逐条目判定。 POST /v1/voices(上传录音存为可复用声音指纹)现在必填consent_attestation,并写[CONSENT] scope=voice-upload审计行。
判定"这是不是克隆"的策略代码在 examples/cli/crispasr_voice_clone_policy.h。
2. 口播 AI 免责声明(Art. 50(4) deepfake 披露)
欧盟委员会指南明确:deepfake 披露需要可见或可听的标签,机器可读水印本身不满足 Art. 50(4)。CrispASR 的解法是:声音克隆输出默认自动前置一句中性声音口播——"This audio was generated by artificial intelligence"(注意:用中性声音,不是被克隆的声音,避免让假声音更逼真),前面留 300ms 静音。
- 跳过需要
--no-spoken-disclaimer加上--accept-marking-responsibility(CLI);服务器请求体用"spoken_disclaimer": false加上"marking_attestation"。 - 设计哲学(issue #312):未声明的退出请求是"被拒绝"而不是"被报错"——你仍然拿到音频,但带着默认口播,响应头
X-Crispasr-Spoken-Disclaimer: applied和日志[MARKING] … no_spoken_disclaimer=DENIED会明确告诉你发生了什么。服务端默认永远只会给出"更强"的披露,不会给出更弱的。 - Wyoming 裸流协议根本没有退出通道——协议里没有字段能塞声明,所以每次克隆都带口播披露。
3. 同意审计记录:绑定到音频指纹
每次克隆都写 [CONSENT] 记录,关键设计:
- 记录携带
ref_sha256(后端实际打开的参考文件哈希)——文件名可以换,哈希不会撒谎;run_id把同意记录与合成后的[CONSENT-OUTPUT](输出文件哈希 + 路径)串起来,一段有争议的音频可以回溯到授权它的那次声明。 - 数据最小化:只存哈希,从不存录音本身、也不存说话人姓名。
--consent-log <path>可把记录以 JSON Lines 追加到独立文件(默认关闭,是否持久化是运营者的决定)。注意:它不是防篡改机制——真正的防篡改要靠存储层(append-only 权限、对象锁 WORM 等)。
4. 一个容易被忽略的坑:预设声音也可能是真人
is_clone == false 只说明"不需要操作员给同意声明",不等于没有披露义务。模型内置的预设声音(preset)可能属于可识别的真人(如 piper 的每个声音都是具名捐赠者)。项目已逐一核查各后端并打上 speaker_identity 戳(real_person / synthetic / unknown):
| 声音类型 | 同意门 | 口播披露 |
|---|---|---|
| 克隆(clone) | ✅ | ✅ |
| 真人预设(real_person) | — | ✅ |
| 合成预设(synthetic) | — | — |
| 未知预设(unknown) | — | 每模型警告一次 |
核查结论表在 examples/cli/crispasr_speaker_identity_models.h。项目特意提醒:猜"synthetic"来消除警告是最贵的错误——被核查过的模型里,从 unknown 解开的几乎清一色都是真人。
五、被"整个移除"的能力:情绪识别 🚫
一个有意思的合规决策:SenseVoice 上游模型会输出 <|HAPPY|> 这类情绪标记。CrispASR 若把它暴露出来,就构成 Art. 3(39) 定义的情绪识别系统——在工作场所和教育场景属于 Art. 5 明令禁止,其余场景属高风险(Annex III(1)(c))。
团队的评估是:为一个低精度字段背上整套 Chapter III Provider 义务(风险管理体系、CE 标志、EU 数据库注册……),"这笔交易毫无悬念"。所以情绪字段不是加开关,而是彻底移除(审计日期 2026-08-01):emotion 字段从结构体、JSON 输出中删除,sensevoice_transcribe() 现在会剥离标注前缀。由 tests/test-no-emotion-recognition.cpp 守护回归。
顺带两点边界:
- TTS 的情绪条件控制(让合成声音带情绪)不算情绪识别——没有自然人、没有推断,剧本里的
<angry>标签同理。 - 语言识别不算生物特征分类:语言是音频信号的属性,与说话人的受保护属性无关。但如果你下游把检测出的语言当作国籍/族裔的代理变量,那条推断就是你的问题。
- 说话人聚类(
--diarize-speakers)只在单次录音内计算嵌入、聚成(speaker 0)标签然后丢弃——不识别任何人、不存储任何东西;命名声纹档案路径默认关闭,需要--speaker-db-consent且仅限已登记、已同意的封闭名单,不存在 1:N 开放式识别。详见 docs/diarization-speakers.md。
六、部署者清单:这些事 CrispASR 替不了你 ✅
CrispASR 是工具,不是监管方。项目文档明确列出了"它做不了的事"(完整清单见 docs/eu-ai-act.md):
- [ ] Art. 50(4):C ABI、WASM、各语言绑定只水印、不口播(CLI/服务器默认口播)。通过绑定分发合成声音时,要用
crispasr_session_disclaimer_text()/crispasr_session_get_disclaimer_pcm()自行补披露——注意必须在set_voice()之前取口播 PCM,否则可能用克隆声音念出免责声明,反而让假声音更可信。 - [ ] Art. 50(1):如果你的产品里有对话式 AI(语音 agent、应用内聊天),要让用户知道他们在和 AI 对话。四个聊天面(HTTP 端点、
crispasr-chat二进制、C ABI、Flutter)的披露文案用crispasr_chat_ai_disclosure_text()统一获取,并可见地展示(纯音频披露对听障用户不可访问)。 - [ ] 合成文本标记:
POST /v1/chat/completions会带X-Crispasr-Ai-Generated响应头,但 C ABI 和 Flutter 完全不打标记——你发布文本后的标记责任在你。 - [ ] 回答你所发行预设声音的
speaker_identity:如果你用的预设声音是可识别的真人,传--speaker-identity real_person。 - [ ] Art. 4 AI 素养:确保操作这套系统的人具备基本 AI 素养。
- [ ] GDPR:声音是个人数据,用于识别时属于 Art. 9 特殊类别数据(需明示同意、保留与删除策略)——独立于 AI Act 适用。
- [ ] 别把说话人匹配挪用到监控、执法识别或抓取的音频上——超出范围,项目不支持。
- [ ] 别从原始模型输出反向重建情绪推断——
sensevoice_result.raw是为字节级对齐测试保留的字段,不是后门。
七、快速上手:三条命令看懂合规行为
# 1. 克隆 + 水印 + C2PA + 口播披露(全部默认开启)
crispasr --backend cosyvoice3-tts -m auto \
--voice ref.wav --i-have-rights \
--tts "Text to speak." --tts-output out.wav
# 2. 检测某音频是否带 AI 水印
crispasr --detect-watermark out.wav
# 3. 查询某个预设声音的披露结论(real_person / synthetic / unknown,unknown 时 exit 3)
crispasr --print-speaker-identity kokoro-voice-df_eva.gguf
退出标记时的标准姿势(CLI):
crispasr --tts "hello" -m kokoro.gguf \
--no-watermark --no-c2pa \
--accept-marking-responsibility --tts-output out.wav
# 缺少 --accept-marking-responsibility 时直接拒绝运行(exit 12)
结语:合规默认值 = 阻力最小的路径
CrispASR 的合规哲学可以浓缩为一句话:保持标记是零配置的默认值,让合规路径成为阻力最小的路径;任何退出都必须留下一条可审计的声明,且永远存在一个"防水底线"防止输出完全裸奔。理解"Provider 标记 / Deployer 披露"这条分界线、以及自己产品落在哪一侧,是你真正需要内化的知识。
⚠️ 免责声明:本文基于项目的自我评估文档 docs/eu-ai-act.md,这是该项目对其自身软件的推理立场,不是法律建议或监管裁定。在欧盟商业化部署 CrispASR 之前,请获得独立法律审查——尤其是标注了 deployer duty 的部分。
延伸阅读
- docs/eu-ai-act.md — EU AI Act 完整合规分析(本文的权威来源)
- docs/tts.md — TTS 引擎、水印与 C2PA 细节
- docs/diarization-speakers.md — 说话人标签、GDPR Art. 9 与远程生物识别边界
- docs/server.md —
consent_attestation/marking_attestation/X-Crispasr-*响应头 - include/crispasr.h — C API 中的水印与 C2PA 接口