深入分析Mongoose库中OpenSSL连接关闭问题

问题背景

在使用Mongoose库作为WebSocket/HTTP服务器时，当客户端发送RST ACK数据包强制断开连接时，服务器端出现了连接未能正确关闭和清理的问题。这一问题在Mongoose 7.12版本之后出现，特别是在Windows平台使用OpenSSL作为TLS实现时表现明显。

技术细节分析

连接关闭机制的变化

在Mongoose 7.12版本之后，库内部对连接处理逻辑进行了重要修改。这些变化最初是为了引入内置TLS支持而进行的，但同时也影响了连接关闭的行为模式。

关键的变化点在于sock.c文件中的处理逻辑，特别是当检测到I/O错误时的处理方式。在7.12版本之前，当SSL_get_error返回SSL_ERROR_SSL时，连接会被立即关闭。但在新版本中，由于引入了BIO处理机制，现在只会返回SSL_ERROR_WANT_READ或SSL_ERROR_WANT_WRITE。

Windows平台的特殊性

在Windows平台上，当客户端强制终止连接时，系统会返回特定的错误代码：

• recv_raw返回MG_IO_RESET(而非MG_IO_ERROR)
• errno设置为10054(WSAECONNRESET)

这些返回值在旧版本中会触发连接关闭，但在新版本中由于BIO处理机制的变化，导致连接保持活动状态。

问题重现与诊断

通过分析网络抓包数据和日志输出，可以观察到以下现象：

1. 客户端发送RST ACK数据包后，服务器端持续收到MG_IO_WAIT状态
2. c->rtls.len始终为0
3. mg_tls_pending()也持续返回0
4. 服务器不会触发MG_EV_CLOSE事件

解决方案

经过项目维护者的深入分析，最终确定了解决方案：修改连接关闭的判断条件，将MG_IO_RESET也视为需要关闭连接的条件之一。

具体修改是将sock.c文件中的判断条件从：

if (n == MG_IO_ERR)

改为：

if (n == MG_IO_ERR || n == MG_IO_RESET)

这一修改已被合并到代码库的主干分支，并将在7.17版本中发布。

技术启示

这个问题给我们几个重要的技术启示：

1. 跨平台兼容性：网络编程中，不同操作系统对相同网络事件的处理方式可能有显著差异，必须充分考虑。

2. 错误处理完整性：在实现网络协议栈时，需要全面考虑各种可能的错误情况，包括非常规的连接终止方式。

3. 版本升级影响：即使是看似不相关的功能改进(如添加内置TLS支持)，也可能对现有功能产生意想不到的影响。

4. 调试技巧：网络问题的诊断需要结合多种手段，包括日志分析、网络抓包和代码走查。

这个问题也展示了开源社区协作解决问题的典型流程：从问题报告、代码分析、解决方案讨论到最终修复的完整周期。