ZLMediaKit中RTSP流pts_time负值问题的分析与解决

问题背景

在使用ZLMediaKit作为RTSP服务器时，客户端通过ffprobe工具分析流媒体数据时，可能会观察到pts_time出现负值的情况。这种现象会导致播放器处理时间戳时出现异常，影响播放体验。

问题分析

pts_time出现负值主要源于两个技术层面的原因：

1. 类型转换问题：在ZLMediaKit的RTSP会话处理中，时间戳计算时存在从uint32到int的不当类型转换。当时间戳值较大时，这种转换可能导致符号位被错误解释，从而产生负值。

2. 时间戳基准不一致：RTSP协议中的RTP-Info头部的rtptime值与实际RTP包中的时间戳可能存在基准不一致的情况。如果第一个RTP包的时间戳小于rtptime值，ffmpeg解码时就会计算出负的pts_time。

解决方案

核心修复方案

经过深入分析，我们确定了以下修复方案：

1. 修正类型转换：将RTP-Info中的rtptime计算从int类型改为int64_t类型，避免大数值溢出导致的符号位错误。

// 修改前
<< "rtptime=" << (int) (track->_time_stamp * (track->_samplerate / 1000)) << ",";

// 修改后
<< "rtptime=" << (int64_t) (track->_time_stamp * (track->_samplerate / 1000)) << ",";

2. 时间戳基准对齐：确保RTP-Info中的rtptime不大于实际RTP包中的时间戳值。这需要获取缓存中RTP包的最小时间戳作为基准。

实现细节

为了实现时间戳基准对齐，需要对ZLMediaKit进行以下修改：

1. 扩展RingBuffer接口：添加获取底层存储的接口方法，便于访问缓存中的RTP包。

typename RingStorage::Ptr getStorage() { return _storage; }

2. 计算最小时间戳：在发送PLAY响应前，遍历缓存中的RTP包，找出音频和视频轨道的最小时间戳。

uint32_t _ts_audio = UINT32_MAX;
uint32_t _ts_video = UINT32_MAX;
auto _cache = play_src->getRing()->getStorage()->getCache();
for (auto p : *_cache.begin()) {
    p.second->for_each([&_ts_audio, &_ts_video](const RtpPacket::Ptr &rtp) {
        int64_t i = (int64_t)rtp->getStamp() * 1000 / rtp->sample_rate;
        if (rtp->type == TrackAudio) {
            if (i < _ts_audio) _ts_audio = i;
        } else if (rtp->type == TrackVideo) {
           if (i < _ts_video) _ts_video = i;
        }
        if(_ts_audio < UINT32_MAX && _ts_video < UINT32_MAX) return;
    });
}

3. 调整rtptime计算：使用最小时间戳作为基准，确保rtptime不大于实际RTP包时间戳。

int64_t i = track->_time_stamp;
if(track->_type == TrackAudio && _ts_audio < UINT32_MAX) i = _ts_audio;
else if(track->_type == TrackVideo && _ts_video < UINT32_MAX) i = _ts_video;

rtp_info << "url=" << track->getControlUrl(_content_base) << ";"
         << "seq=" << track->_seq << ";"
         << "rtptime=" << (i * track->_samplerate) / 1000 << ",";

技术原理

RTSP协议中，RTP-Info头部的rtptime字段表示媒体时间轴的起始点。ffmpeg在解码时会用RTP包的时间戳减去这个rtptime值来计算pts_time。如果rtptime大于第一个RTP包的时间戳，就会产生负的pts_time。

ZLMediaKit原有的实现直接使用当前时间戳计算rtptime，而没有考虑缓存中已存在的RTP包时间戳。通过获取缓存中最小时间戳作为基准，可以确保rtptime不大于任何RTP包的时间戳，从而避免负pts_time的出现。

影响评估

该修复方案具有以下特点：

1. 兼容性好：仅影响RTSP协议中的RTP-Info头部，不改变RTP包本身的时间戳，对现有客户端兼容性好。

2. 性能影响小：仅在PLAY请求时遍历一次缓存，对服务器性能影响可以忽略。

3. 解决彻底：从根本上解决了负pts_time问题，而不仅仅是掩盖症状。

总结

ZLMediaKit中RTSP流pts_time负值问题源于时间戳处理的两个方面：类型转换不当和时间戳基准不一致。通过修正类型转换和确保时间戳基准对齐，可以彻底解决这一问题。该方案已在社区验证有效，建议集成到主分支中。

对于流媒体开发者来说，理解时间戳处理机制对于构建稳定的媒体服务器至关重要。ZLMediaKit的这一修复案例展示了正确处理时间戳基准的技术细节，值得开发者参考学习。