PgBouncer SSL 测试在OpenSSL 3.3.1环境下的兼容性问题分析

在PgBouncer项目的测试过程中，我们发现了一个与OpenSSL 3.3.1版本相关的SSL证书验证问题。这个问题主要影响在Ubuntu 24.10等使用OpenSSL 3.3.1的系统上运行SSL相关测试用例时出现失败。

问题现象

当在安装了OpenSSL 3.3.1的系统上运行PgBouncer的SSL测试套件时，多个测试用例会失败。测试失败的表现形式主要包括两种错误信息：

1. 证书验证失败："SSL error: certificate verify failed"
2. TLS握手错误："TLS handshake error: handshake failed: error:0A000418:SSL routines::tlsv1 alert unknown ca"

这些错误不仅影响基本的SSL连接测试，还影响了包括客户端认证、SCRAM认证和SSL复制功能在内的多个测试场景。

问题根源分析

经过深入调查，我们发现问题的根本原因在于OpenSSL 3.3.1对证书验证的要求变得更加严格。具体来说，新版本的OpenSSL要求CA证书必须明确包含基本的约束扩展(basicConstraints extension)，并且该扩展必须标记为critical。

在PgBouncer的测试环境中，测试使用的CA证书是通过测试脚本自动创建的。在旧版本的OpenSSL中，即使没有明确指定basicConstraints扩展，证书也能正常工作。但在OpenSSL 3.3.1中，这种隐式行为不再被允许。

解决方案

为了解决这个问题，我们修改了测试证书创建脚本，在创建CA证书时显式添加了basicConstraints扩展。具体修改是在证书创建命令中添加了以下参数：

-addext basicConstraints=critical,CA:TRUE,pathlen:1

这个修改确保了创建的CA证书符合OpenSSL 3.3.1的严格验证要求。

向后兼容性考虑

在实施解决方案时，我们还考虑到了对旧版本OpenSSL的兼容性。特别是对于仍然使用OpenSSL 1.0.x版本的系统（如SLES 12），这些系统不支持-addext参数。为此，我们实现了版本检测逻辑，只在OpenSSL 1.0.x以上版本中使用-addext参数。

最终的解决方案采用了POSIX兼容的shell脚本实现，确保在各种Unix-like系统上都能正常工作。版本检测逻辑通过解析openssl version命令的输出，动态决定是否添加扩展参数。

结论

这个问题的解决过程展示了在维护开源项目时处理不同版本依赖库兼容性的重要性。通过精确识别问题根源并实施有针对性的解决方案，我们不仅解决了当前的问题，还确保了解决方案在各种环境下的广泛适用性。

对于使用PgBouncer的开发者和系统管理员来说，这个案例也提醒我们，在升级系统或依赖库时，需要特别注意安全相关组件的验证行为变化，这些变化可能会影响现有的应用程序行为。