mpv-android项目中启用TLS 1.3支持的技术挑战分析

在mpv-android项目中，开发者尝试为mbedtls库启用TLS 1.3支持时遇到了一系列技术难题。本文将详细分析这些问题的根源以及解决方案。

问题背景

TLS 1.3作为最新的安全传输协议标准，相比TLS 1.2在性能和安全性方面都有显著提升。当开发者尝试在mpv-android中启用TLS 1.3支持时，发现无论是手动启用TLS 1.3选项还是升级mbedtls到3.6.0版本（默认启用TLS 1.3），都会导致播放器无法正常播放任何TLS加密的流媒体内容。

问题分析

初始错误现象

开发者首先观察到的是mbedtls_ssl_handshake返回错误代码-0x6c00。通过添加调试日志发现，问题出在PSA（Platform Security Architecture）密钥生成阶段：

psa_generate_key() returned -27648 (-0x6c00)

这个错误表明PSA加密子系统未能正确初始化。深入调查发现，这是由于ffmpeg代码中没有调用psa_crypto_init()函数导致的。

证书验证问题

在解决了PSA初始化问题后，又出现了新的证书验证错误：

x509_verify_cert() returned -9984 (-0x2700)
Certificate verification flags 00000008

这表明mbedtls 3.6.0版本在证书验证方面有重大变更，特别是对于不验证服务器证书的情况处理方式发生了变化。

根本原因

经过深入分析，发现几个关键问题：

1. PSA初始化缺失：mbedtls 3.6.0的TLS 1.3实现依赖PSA加密子系统，但ffmpeg的代码中没有进行必要的初始化。

2. 证书验证强制化：新版本mbedtls对证书验证的处理更加严格，而原有代码假设可以不验证证书。

3. API兼容性问题：mbedtls 3.6.0引入了一些不向后兼容的变化，特别是与TLS 1.3相关的部分。

解决方案

针对这些问题，开发者采取了以下措施：

1. 添加PSA初始化：在TLS连接建立前显式调用psa_crypto_init()。

2. 修复证书验证逻辑：更新代码以正确处理证书验证，包括：

   • 设置适当的验证模式
   • 处理验证回调
   • 正确配置信任链

3. 兼容性处理：对于不需要严格证书验证的场景，确保配置能够正确传递。

经验总结

这个案例提供了几个重要的技术经验：

1. 加密库升级需谨慎：特别是涉及TLS协议栈的更新，往往伴随着不兼容的变化。

2. 初始化顺序很重要：现代加密库可能有复杂的初始化要求，必须严格遵循文档说明。

3. 调试技巧：通过添加详细的调试日志（如mbedtls的调试回调）可以快速定位问题。

4. 备选方案评估：虽然考虑过切换到OpenSSL，但由于许可证和体积问题，最终选择修复mbedtls集成。

目前，虽然技术问题已经解决，但考虑到TLS 1.3在mbedtls 3.6.0中的其他潜在问题，mpv-android项目暂时保持使用mbedtls 3.5.2版本。这个决策体现了在稳定性和新特性之间的谨慎权衡。