FreeRDP网关RPC模式连接失败问题分析与修复

问题背景

FreeRDP是一款开源的远程桌面协议(RDP)客户端实现，在3.13.0版本中，用户报告了一个严重的回归性问题：当使用RPC网关模式(/gateway:type:rpc)时，连接会失败并显示"tsg_check failure"错误。这个问题影响了通过RPC网关模式连接Windows远程桌面网关(RD Gateway)的用户，特别是那些在网络负载均衡后面部署RD Gateway的场景。

问题表现

在FreeRDP 3.13.0版本中，当用户尝试通过RPC网关模式连接时，会出现以下错误序列：

1. RPC PDU解析不完全警告
2. RTS PDU故障状态显示ERROR_NOT_DOS_DISK
3. 意外的alloc_hint值警告
4. 最终tsg_check失败错误
5. 连接终止，错误代码ERRCONNECT_SECURITY_NEGO_CONNECT_FAILED

相比之下，3.12.0版本在相同配置下工作正常，而将类型改为HTTP模式(/gateway:type:http)虽然可以连接，但在网络负载均衡后的RD Gateway场景下无法工作。

技术分析

问题的根源在于FreeRDP 3.13.0中对TSG(终端服务网关)检查逻辑的修改。具体来说，b138f6ca18c5这个提交引入了对TSG数据包的更严格检查，但未能正确处理某些情况下的消息包指针。

根据微软的MS-TSGU协议规范，TSG_PACKET_MSG_RESPONSE结构包含一个IsMsgPresent标志，指示messagePacket参数是否存在。当该标志为FALSE时，messagePacket参数应被忽略，但代码仍需读取指针值。3.13.0版本的实现在IsMsgPresent为FALSE时完全跳过了指针读取，导致后续数据解析错位。

解决方案

开发团队通过以下方式修复了这个问题：

1. 确保即使IsMsgPresent为FALSE也读取MessageSwitchValue
2. 正确读取并忽略消息包指针(MsgPtr)
3. 在IsMsgPresent为FALSE时读取但不处理同意消息(consent message)
4. 保持数据流解析的完整性

修复后的版本(3.13.1-dev0)已经过测试验证，能够成功建立RPC网关模式的连接。虽然仍会显示"Read NDR pointer"警告，但这些不影响功能，将在未来版本中进一步优化。

影响范围

此问题影响所有使用以下配置的用户：

• 通过RPC模式(/gateway:type:rpc)连接RD Gateway
• 特别是网络负载均衡后端的RD Gateway部署(仅RPC模式可用)
• FreeRDP 3.13.0版本

用户建议

对于遇到此问题的用户，建议：

1. 升级到包含修复的FreeRDP版本(3.13.1或更高)
2. 如果暂时无法升级，可回退到3.12.0版本
3. 避免在生产环境中使用HTTP网关模式替代RPC模式，除非确认兼容性

技术细节补充

RPC(远程过程调用)网关模式是RD Gateway的一种连接方式，相比HTTP模式：

• 使用不同的协议栈和端口
• 支持更复杂的网络拓扑
• 在网络中间设备后表现更可靠
• 实现更高效的二进制数据传输

TSG(终端服务网关)协议是微软专为远程桌面网关设计的协议，负责：

• 身份验证和授权
• 连接隧道建立
• 策略实施
• 资源重定向控制

理解这些底层协议有助于更好地诊断和解决连接问题。