MyDumper/mydumper 项目中遇到的死锁问题分析与解决方案

问题现象

在使用MyDumper/mydumper项目的myloader工具时，用户遇到了"Deadlock found when trying to get lock"的错误。具体表现为myloader在执行过程中随机出现死锁，导致进程终止。错误信息显示为"ERROR 1213: Deadlock found when trying to get lock; try restarting transaction"。

环境信息

• 操作系统：Ubuntu 22.04
• 数据库版本：MySQL 8.0 (GCP CloudSQL)
• MyDumper版本：v0.16.11-2
• 配置文件参数：
  • 线程数：16
  • 每表最大线程数：8
  • 索引创建最大线程数：8
  • 后处理操作最大线程数：8
  • 行数限制：100000

问题分析

死锁问题在多线程数据库操作中较为常见，特别是在MySQL 8.0及以上版本中，由于元数据锁(MDL)机制的改变，更容易出现这类问题。在myloader的上下文中，死锁通常发生在以下场景：

1. 多个线程同时尝试修改同一张表的结构
2. 并发创建索引时发生资源争用
3. 批量数据导入与DDL操作之间的冲突

解决方案

根据项目维护者的建议和实际测试结果，有以下几种解决方案：

1. 降低模式创建并发度：设置max-threads-for-schema-creation = 1，这在MySQL 8.0及以上版本中尤为重要，可以有效避免模式创建时的死锁问题。

2. 移除行数限制参数：配置文件中的rows=100000参数可能导致某些异常行为，建议移除该参数后重新测试。

3. 回退到稳定版本：如v0.16.1-3版本，该版本在这些场景下表现更为稳定。这是临时解决方案，适合急需解决问题的生产环境。

最佳实践建议

1. 对于MySQL 8.0及以上版本，建议始终设置max-threads-for-schema-creation = 1
2. 合理配置线程数，避免过高并发导致资源争用
3. 在生产环境升级前，先在测试环境充分验证新版本
4. 监控日志中的死锁警告，及时调整配置参数

总结

MyDumper/mydumper作为高性能的MySQL备份恢复工具，在多线程环境下可能会遇到死锁问题。通过合理配置参数和选择适当版本，可以有效解决这类问题。对于MySQL 8.0用户，特别需要注意模式创建线程数的限制，这是避免死锁的关键配置项。