Apache Airflow中ExternalTaskSensor超时问题的分析与解决

问题背景

在Apache Airflow 3.0.0版本中，用户报告了一个关于ExternalTaskSensor传感器超时的问题。具体表现为当使用ExternalTaskSensor监控外部DAG中的多个任务时，传感器会在420秒后超时，而同样的配置在Airflow 2.x版本中工作正常。

问题现象

用户创建了两个DAG来测试ExternalTaskSensor的功能：

1. 父DAG（external_task_sensor_parent）包含一个ExternalTaskSensor任务，用于监控子DAG中的两个任务（child_dummy1和child_dummy2）
2. 子DAG（external_task_sensor_child_dag）包含两个简单的EmptyOperator任务

在Airflow 3.0.0中运行时，ExternalTaskSensor会不断轮询子DAG的任务状态，但最终因超时而失败，错误信息显示"Sensor has timed out"。

根本原因分析

经过社区成员的讨论和验证，发现问题出在DAG的catchup参数设置上。在Airflow 3.0.0中，默认行为发生了变化：

1. 在Airflow 2.x版本中，默认会执行回填（backfill）操作
2. 在Airflow 3.0.0中，默认不再自动执行回填，需要显式设置catchup=True

这种行为变化导致ExternalTaskSensor无法找到预期的历史DAG运行记录，从而持续轮询直到超时。

解决方案

解决这个问题的方法很简单：在定义DAG时显式设置catchup=True参数。例如：

with DAG(
    dag_id="external_task_sensor_parent",
    start_date=datetime(2022, 3, 12, 3, 35, 0),
    schedule=timedelta(days=1),
    catchup=True,  # 显式启用回填
    doc_md=docs,
    tags=["core", "sensor"]
) as dag:
    # DAG定义...

同样地，子DAG也需要设置相同的参数：

with DAG(
    dag_id="external_task_sensor_child_dag",
    start_date=datetime(2022, 3, 12, 3, 28, 0),
    schedule=timedelta(days=1),
    catchup=True,  # 显式启用回填
    is_paused_upon_creation=False,
    doc_md=docs,
    tags=["core", "sensor"],
) as dag:
    # DAG定义...

最佳实践建议

1. 在使用ExternalTaskSensor时，始终明确设置catchup参数，避免依赖默认行为
2. 在升级Airflow版本时，特别注意检查与调度相关的默认行为变化
3. 对于生产环境中的关键DAG，建议编写测试用例验证传感器功能
4. 考虑使用execution_date_fn参数来更精确地控制要监控的DAG运行

总结

这个案例展示了Airflow版本升级可能带来的行为变化，特别是与调度相关的默认参数。通过显式设置catchup=True，可以确保ExternalTaskSensor能够正常工作。这也提醒我们在使用调度系统时，应该明确所有关键参数，而不是依赖默认值，这样可以提高工作流的可靠性和可维护性。