DAGU 1.17.0版本发布:工作流引擎的重大升级
项目简介
DAGU是一个轻量级的工作流调度引擎,它允许用户通过简单的YAML配置文件定义和执行复杂的工作流程。DAGU的名称来源于"Directed Acyclic Graph"(有向无环图)的缩写,这正是其核心工作原理——将任务组织成依赖关系的图结构并按顺序执行。作为一个开源项目,DAGU特别适合需要自动化执行一系列任务的场景,如数据处理流水线、定时任务调度等。
1.17.0版本核心特性
并发执行能力增强
本次版本最显著的改进之一是增强了DAG(有向无环图)的并发执行能力。现在,同一个DAG可以支持多个并发执行实例,这对于需要并行处理大量相似任务的场景尤为重要。例如,当处理批量数据时,可以同时启动多个实例分别处理不同批次的数据,显著提高了整体处理效率。
历史数据结构重构
为了提升系统的可维护性和扩展性,1.17.0版本对历史数据存储结构进行了重大重构。新的数据结构不仅保存执行记录,还完整保留了DAG的配置信息。这一改进使得历史执行记录的查询和分析更加高效,也为未来的审计和回放功能奠定了基础。
日志系统优化
日志处理方面有两个重要改进:首先,实现了标准输出(stdout)和错误输出(stderr)的分离存储,这使得问题排查更加方便;其次,引入了分页加载机制,对于长时间运行的流程,可以更高效地查看日志内容而不会造成浏览器卡顿。
工作流队列管理
新版本引入了强大的队列管理系统,包括:
- 新增的Enqueue API允许程序化地将任务加入队列
- 改进了队列配置选项,可以更精细地控制队列行为
- 优化了队列CPU消耗,提高了系统整体性能
其他重要改进
安全增强
1.17.0版本在安全性方面做了多项改进:
- 移除了API响应中的PID和位置信息,减少了潜在的安全风险
- 优化了文件和目录权限设置
- 增加了权限控制字段,可以更细粒度地控制对DAG的访问
执行策略扩展
执行策略方面新增了多项功能:
- 支持基于条件、预期输出和退出代码检查的重复策略
- 新增"部分成功"状态,更准确地反映工作流执行结果
- 支持为步骤指定ID,提高了步骤的可识别性
用户体验提升
前端界面从MUI迁移到shadcn,带来了更现代、更一致的用户体验。同时,新增了子工作流管理页面,可以更方便地查看和管理嵌套的工作流执行情况。
技术实现细节
容器化改进
Docker镜像进行了优化,现在分为三个基础镜像,可以根据实际需求选择最合适的版本。同时增加了对容器名称和镜像平台的指定支持,提高了在异构环境中的兼容性。
依赖项更新
项目更新了多个关键依赖库,特别是YAML解析器进行了迁移,这为处理更复杂的配置文件提供了更好的支持。
新执行类型
1.17.0版本引入了两种新的执行类型:
- 并行执行类型:允许不相关的任务同时运行
- 链式执行类型:提供了一种新的任务组织方式
总结
DAGU 1.17.0版本是一次全面的升级,在并发处理、日志管理、安全性和用户体验等方面都有显著提升。这些改进使得DAGU更适合于生产环境中复杂工作流的管理和执行。对于现有用户,建议仔细阅读迁移指南,特别是关于历史数据结构的变更部分,以确保平滑升级。新用户则可以享受到一个更强大、更稳定的工作流引擎。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C0126
let_datasetLET数据集 基于全尺寸人形机器人 Kuavo 4 Pro 采集,涵盖多场景、多类型操作的真实世界多任务数据。面向机器人操作、移动与交互任务,支持真实环境下的可扩展机器人学习00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python059
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00