MediaMTX项目中RTMP发布失败问题的技术解析

问题背景

在MediaMTX流媒体服务器1.10.0版本中，用户报告了一个关于RTMP协议发布流的稳定性问题。当使用FFmpeg通过RTMP协议向服务器发布视频流时，流连接会在几秒钟后异常中断，并伴随"invalid body size"和"invalid message type: 255"的错误提示。

问题现象

用户尝试使用FFmpeg的不同编码器(h264_vaapi、hevc_vaapi和libx264)通过RTMP协议发布MPEG-TS格式的流到MediaMTX服务器时，观察到以下现象：

1. 流能够成功建立连接并开始传输
2. 几秒钟后连接异常中断
3. FFmpeg端收到"broken pipe"错误
4. 服务器日志显示两种错误：
   • "invalid body size"
   • "invalid message type: 255"

技术分析

这个问题本质上是一个RTMP协议解析错误。当服务器接收到来自客户端的RTMP数据包时，在解析过程中遇到了不符合预期的消息体大小或消息类型。

根本原因

1. 消息体大小验证失败：RTMP协议对每个消息体有严格的大小限制，当服务器检测到不符合规范的消息体大小时，会主动断开连接。
2. 无效消息类型：消息类型255(0xFF)在RTMP协议中属于保留值，不应出现在正常通信中。服务器接收到此类型时会视为协议违规。

临时解决方案

用户发现将输出格式从MPEG-TS改为FLV可以暂时规避这个问题。这表明问题可能与MPEG-TS封装格式在RTMP传输中的处理方式有关。

开发者修复

MediaMTX开发团队在后续提交中修复了这个问题。修复主要涉及：

1. 增强RTMP协议解析的健壮性
2. 更严格地处理异常情况
3. 提供更有意义的错误信息

相关讨论延伸

在问题讨论过程中，还涉及到了几个相关技术话题：

1. AV1编码支持：讨论了AV1编码在不同容器格式(MPEG-TS、FLV、fMP4)中的支持情况
2. 低延迟传输：比较了HTTP-FLV/MPEG-TS与HLS-LL在延迟方面的差异
3. 播放器兼容性：探讨了不同播放器对新兴编码格式的支持现状

最佳实践建议

对于使用MediaMTX的用户，建议：

1. 升级到已修复该问题的版本(1.11.0及以上)
2. 对于AV1编码内容，考虑使用HLS+fMP4或WebRTC等更现代的传输方式
3. 关注播放器生态对新编码格式的支持进展

这个问题展示了流媒体技术栈中协议处理的重要性，也体现了开源社区快速响应和修复问题的优势。