RustDesk服务器密钥文件尾随换行符导致加密失效问题分析

问题背景

RustDesk是一款开源的远程桌面控制软件，其服务器端提供了加密功能以确保通信安全。近期发现一个关键的安全问题：当服务器密钥文件包含尾随换行符时，即使配置了强制加密模式(ENCRYPTED_ONLY=1)，服务器仍会允许未加密的连接建立。

问题现象

在Docker环境下部署RustDesk服务器(版本1.1.9)时，当满足以下条件时会出现安全问题：

1. 使用docker secrets存储密钥对
2. 密钥文件末尾包含换行符
3. 设置了ENCRYPTED_ONLY=1环境变量

此时，客户端之间可以建立未加密的直接连接，且客户端设置中的密钥验证完全被忽略，无论客户端配置正确密钥、随机字符串还是不配置密钥，都能建立连接。

技术分析

问题的根源在于密钥处理逻辑存在缺陷。服务器启动时虽然会加载密钥文件并验证密钥对有效，但当密钥文件包含尾随换行符时，会导致以下处理流程：

1. 密钥文件内容被读取并进行base64解码
2. 解码后的数据长度与预期密钥长度(sign::SECRETKEYBYTES)不匹配
3. 系统返回一个空的私钥
4. 加密验证逻辑被绕过

解决方案

该问题已在最新代码中得到修复，主要改进包括：

1. 当密钥长度不匹配时，系统会明确抛出错误，而不是静默返回空密钥
2. 增加了更严格的密钥验证机制
3. 确保密钥文件处理时自动去除可能的尾随空白字符

最佳实践建议

为避免此类安全问题，建议用户：

1. 生成密钥对时确保文件内容不包含任何尾随空白字符
2. 部署前使用hexdump等工具检查密钥文件内容
3. 测试连接时验证顶部状态栏是否显示加密图标
4. 定期更新到最新版本的RustDesk服务器

总结

密钥处理是安全系统的关键环节，任何细微的异常都可能导致严重的安全问题。RustDesk团队对此问题的快速响应体现了对安全性的重视。用户应当注意密钥文件的格式规范，并保持软件更新，以确保远程连接的安全性。