深入解析samtools markdup工具中的光学重复标记问题

在二代测序数据分析中，重复序列的识别与标记是质量控制的重要环节。samtools作为广泛使用的生物信息学工具，其markdup功能能够有效识别PCR重复（LB）和光学重复（SQ）。然而，近期用户反馈在使用NextSeq 2000数据时，发现约10%被标记为光学重复的reads实际上分布在不同的flowcell tile上，这与光学重复的定义相矛盾。

问题本质

光学重复通常是指在测序过程中，由于荧光信号扩散或图像处理错误导致的同一簇DNA分子被多次读取的现象。这类重复具有两个关键特征：

1. 必须来自同一个flowcell tile
2. 物理坐标（x/y位置）非常接近

当用户使用samtools 1.19版本分析数据时，发现部分跨tile的reads对被错误标记为光学重复（SQ标记）。这种现象在Picard工具中同样存在，说明这是算法层面的共性问题。

根本原因

经过技术团队诊断，该问题源于markdup工具的"duplicate chaining"机制。默认情况下，该功能会建立重复链：

1. 当read A与read B满足光学重复条件时被关联
2. 若read B又与read C满足条件（即使跨tile）
3. 则read A和read C会被错误地标记为光学重复

这种链式传播导致了跨tile的错误标记。

解决方案

使用--no-multi-dup参数可禁用重复链功能，强制要求每对光学重复必须直接满足共定位条件。测试数据显示：

• 原始命令：64，547个跨tile SQ标记
• 使用参数后：0个跨tile SQ标记，所有光学重复均符合tile一致性要求

最佳实践建议

对于需要精确区分重复类型的分析场景（如ATAC-seq、ChIP-seq等），建议：

1. 始终使用--no-multi-dup参数
2. 合理设置光学距离阈值（-d参数）
3. 验证输出日志中的标记统计信息
4. 对于NextSeq等新型测序仪数据要特别关注tile一致性

技术展望

该案例反映了NGS数据分析中一个典型问题：随着测序技术的发展，传统算法的预设参数可能需要调整。samtools团队已计划更新文档，明确说明duplicate chaining机制的适用场景和潜在影响，帮助用户做出更明智的参数选择。

理解这些底层机制不仅能解决当前问题，更能帮助研究人员根据实验特点优化分析流程，获得更可靠的结果。