xrdp项目VNC连接RealVNC服务器时操作失效问题分析

xrdp是一个开源的远程桌面协议(RDP)服务器，它允许用户通过RDP协议连接到Linux系统。在最新发布的0.10.1版本中，用户报告了一个与VNC后端相关的重要问题：当连接到Windows平台上运行的RealVNC 6.2.1服务器时，虽然连接可以成功建立，但无法进行任何操作，鼠标点击也无效。

问题现象

用户在使用xrdp 0.10.1版本时发现，当VNC服务器运行在Linux平台(TigerVNC 1.8.0)时一切正常，但当VNC服务器运行在Windows平台(RealVNC 6.2.1)时，会出现以下症状：

1. 连接可以成功建立
2. 远程桌面画面可以正常显示
3. 鼠标和键盘输入完全失效
4. 无法进行任何交互操作

从日志中可以看到关键错误信息："resize_server_to_client_layout: Asked to resize server, but not possible"，这表明xrdp尝试调整VNC服务器分辨率时遇到了问题。

问题根源

经过分析，这个问题源于xrdp 0.10.1版本中新增的动态调整分辨率功能与RealVNC服务器的不兼容性。具体表现为：

1. xrdp默认启用了动态调整分辨率功能
2. 当连接到RealVNC服务器时，xrdp尝试调整服务器分辨率
3. RealVNC 6.2.1不支持这种动态调整
4. 调整失败导致后续操作被阻断

值得注意的是，这个问题在xrdp 0.9.x版本中并不存在，因为早期版本没有引入动态分辨率调整功能。

解决方案

针对这个问题，目前有三种可行的解决方案：

1. 修改配置文件
   在xrdp.ini文件的[Xvnc]部分添加以下配置项：

   enable_dynamic_resizing=0
   

   这将禁用动态分辨率调整功能，避免与RealVNC的兼容性问题。

2. 修改源代码
   在vnc.c文件中找到resize_server_to_client_layout函数，删除其中的错误返回代码。这种方法虽然能解决问题，但不推荐在生产环境中使用，因为它可能掩盖其他潜在问题。

3. 升级VNC服务器
   考虑将RealVNC升级到最新版本(7.13.0或更高)，新版本可能已经解决了相关兼容性问题。

技术建议

对于企业环境中的部署，建议采用第一种方案(修改配置文件)，因为：

1. 不需要修改源代码，维护成本低
2. 不影响系统稳定性
3. 可随时恢复或调整配置

对于开发人员，可以深入研究xrdp与不同VNC服务器的兼容性机制，特别是动态分辨率调整功能的实现细节，以便更好地理解这类问题的本质。

总结

xrdp作为Linux平台上重要的远程桌面解决方案，其与各种VNC服务器的兼容性至关重要。这个案例展示了开源软件在功能增强过程中可能引入的新兼容性问题，也提醒我们在升级系统时需要全面测试各种使用场景。通过合理的配置调整，用户可以轻松解决这类问题，继续享受xrdp带来的便利。