Mongoose项目中使用MbedTLS 3.6在MacOS上的TLS握手问题分析

在Mongoose网络库的开发过程中，开发团队发现了一个与MbedTLS 3.6版本在MacOS系统上相关的TLS握手问题。这个问题表现为单元测试失败，错误信息显示TLS握手过程中出现了特定错误代码。

问题现象

当在MacOS系统上运行Mongoose的单元测试时，使用MbedTLS 3.6版本会出现测试失败的情况。测试日志显示，在尝试建立HTTPS连接时，TLS握手过程失败，返回错误代码-0x6c00或-0x2700。这个问题在Ubuntu 22.04系统上却不会出现，表明这是一个平台或版本特定的问题。

问题根源

经过深入分析，发现这个问题的根本原因在于MbedTLS 3.6版本对TLS 1.3协议的处理方式发生了变化。具体来说：

1. 当使用TLS 1.3协议时，即使设置了MBEDTLS_SSL_VERIFY_NONE（即不验证CA证书），MbedTLS仍然会要求提供CA证书，否则握手将失败并返回"CA required"错误。

2. 这个问题与PSA（Platform Security Architecture）加密初始化有关。在MbedTLS 3.x版本中，使用TLS 1.3协议时，必须在TLS握手前调用psa_crypto_init函数进行初始化。

解决方案

针对这个问题，Mongoose项目采取了以下解决方案：

1. 对于需要PSA初始化的场景，确保在使用TLS 1.3协议前正确初始化PSA加密子系统。

2. 考虑到向后兼容性，项目团队也评估了降级到MbedTLS 3.5.2版本的方案，因为该版本不存在此问题。

3. 最终通过代码修改解决了这个问题，修改内容参考了项目中的相关提交记录。

技术启示

这个案例为我们提供了几个重要的技术启示：

1. 加密库的版本升级可能会引入不兼容的行为变化，特别是在安全相关的功能上。

2. 跨平台开发时，不同操作系统上的库版本差异可能导致测试结果不一致。

3. TLS 1.3协议在安全性上有显著提升，但也带来了更多的实现复杂性。

4. 在嵌入式系统和网络编程中，加密库的初始化和配置需要格外注意，特别是当使用较新的加密标准和协议时。

最佳实践建议

基于这个问题的解决经验，我们建议开发者在处理类似情况时：

1. 在项目文档中明确记录依赖库的版本要求。

2. 实现全面的跨平台测试，覆盖不同操作系统和库版本组合。

3. 对于安全相关的功能变更，要进行充分的兼容性测试。

4. 保持对上游开源项目问题的关注，及时了解已知问题和解决方案。

这个问题最终得到了解决，体现了开源社区协作的力量，也展示了Mongoose项目团队对代码质量的严格要求。