libwebsockets项目中TLS握手时SNI字段缺失问题分析

问题背景

在使用libwebsockets库(版本4.3.3-WM)结合MbedTLS(版本3.4.0)开发WebSocket客户端时，开发者遇到了一个TLS握手失败的问题。当客户端尝试连接wss://echo.websocket.org时，TLS握手过程中Client Hello消息缺少server_name字段(SNI扩展)，导致服务器主动断开连接，握手无法完成。

技术分析

SNI扩展的重要性

SNI(Server Name Indication)是TLS协议的一个重要扩展，它允许客户端在握手阶段就告知服务器它要连接的主机名。这对于托管多个SSL网站的服务器尤为重要，因为服务器需要根据不同的主机名返回相应的证书。

在WebSocket over TLS(wss)连接中，SNI同样扮演着关键角色。缺少这个字段会导致服务器无法正确识别客户端意图连接的服务，进而可能拒绝连接或返回错误的证书。

问题根源

通过分析开发者提供的代码和解决方案，我们可以发现几个关键点：

1. 地址参数使用不当：开发者将完整的URL传递给address成员，而实际上这个参数应该只包含主机名或IP地址。libwebsockets内部会从host成员获取SNI信息。

2. SSL配置标志：代码中使用了LCCSCF_SKIP_SERVER_CERT_HOSTNAME_CHECK标志，这会跳过主机名验证，但不应影响SNI字段的发送。

3. MbedTLS集成问题：开发者提供的临时解决方案直接调用了MbedTLS的mbedtls_ssl_set_hostname函数，这表明libwebsockets与MbedTLS集成时在设置SNI字段方面可能存在缺陷。

解决方案

推荐解决方案

1. 正确设置连接参数：确保address和host成员正确设置。address应只包含主机名或IP，而host应包含用于SNI的主机名。

ccinfo.address = "echo.websocket.org";  // 仅主机名
ccinfo.host = "echo.websocket.org";     // 用于SNI

2. 避免不必要的SSL标志：除非有特殊需求，否则不应使用LCCSCF_SKIP_SERVER_CERT_HOSTNAME_CHECK标志，这会降低连接的安全性。

3. 更新库版本：考虑升级到更新的libwebsockets版本，可能已经修复了与MbedTLS集成相关的问题。

临时解决方案分析

开发者提供的临时解决方案直接调用了MbedTLS的API来设置主机名：

mbedtls_ssl_set_hostname(SSL_mbedtls_ssl_context_from_SSL(wsi->tls.ssl), 
                        wsi->stash->cis[CIS_HOST]);

这种方法虽然有效，但存在以下问题：

• 直接操作底层SSL上下文，可能破坏libwebsockets的内部状态管理
• 不是跨SSL后端的通用解决方案
• 可能在库升级后失效

最佳实践建议

1. 连接参数规范化：始终明确区分URL的各个组成部分，分别设置协议、主机名、端口和路径。

2. SSL/TLS配置：仅在测试环境中使用自签名证书相关选项，生产环境应使用有效证书并启用完整验证。

3. 错误处理：增加对连接失败情况的处理逻辑，包括TLS握手失败的具体原因分析。

4. 版本兼容性：保持libwebsockets和SSL后端(MbedTLS/OpenSSL等)的版本兼容性，定期更新到稳定版本。

总结

WebSocket over TLS连接中SNI字段的缺失通常源于客户端配置不当或库的集成问题。通过正确设置连接参数和遵循库的使用规范，可以避免这类问题。对于使用libwebsockets的开发者来说，理解底层TLS握手过程和库的抽象层次非常重要，这有助于快速定位和解决连接问题。