Apache Airflow 3.0.0 子路径部署任务调度异常问题解析
2025-05-02 07:11:21作者:齐添朝
问题背景
在使用 Docker Compose 部署 Apache Airflow 3.0.0 时,当配置 AIRFLOW__API__BASE_URL 参数设置子路径访问(如 http://mycompany.com/airflow)后,虽然 Web UI 可以正常访问,但触发 DAG 任务时会陷入"queued"状态,最终抛出"ServerResponseError: Not Found"错误。这个现象表明系统在子路径环境下存在 API 通信异常。
技术原理分析
Airflow 的分布式架构中,Web Server 和 Worker 节点需要通过 API 进行通信。当设置子路径时,需要特别注意以下两个关键配置参数:
AIRFLOW__API__BASE_URL:控制 Web 界面的基础访问路径AIRFLOW__CORE__EXECUTION_API_SERVER_URL:控制任务执行时 Worker 与 Web Server 的通信路径
这两个参数需要保持同步配置,因为 Airflow 的执行 API 和核心 API 可能部署在不同的服务端点。
解决方案
针对该问题,推荐采用以下配置方案:
environment:
- AIRFLOW__API__BASE_URL=http://mycompany.com/airflow
- AIRFLOW__CORE__EXECUTION_API_SERVER_URL=http://mycompany.com/airflow
深入排查建议
如果配置后仍存在问题,建议进行以下排查步骤:
- 检查 Worker 日志中是否仍存在 404 错误
- 验证网络连通性,确保 Worker 可以访问配置的执行 API 地址
- 检查反向代理配置(如 Nginx/Apache)是否正确转发子路径请求
- 确认 Celery 执行器配置是否正确
版本兼容性说明
该问题在 Airflow 3.0.0 版本中确认存在,后续版本可能已包含相关修复。建议用户关注官方更新,特别是 3.0.1 版本中的相关修复补丁。
最佳实践建议
对于生产环境部署,建议:
- 保持 Web Server 和 Worker 的配置一致性
- 使用完整的 URL 路径(包含协议和域名)
- 在变更配置后重启所有相关服务
- 考虑使用环境变量管理工具统一管理配置
通过以上措施,可以确保 Airflow 在子路径部署环境下的稳定运行。
登录后查看全文
热门项目推荐
相关项目推荐
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C081
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python056
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
agent-studioopenJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力TSX0135
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
465
3.46 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
197
80
暂无简介
Dart
715
172
Ascend Extension for PyTorch
Python
273
311
React Native鸿蒙化仓库
JavaScript
285
331
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
845
424
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
10
1
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.26 K
693
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
106
120