EasyScheduler子工作流任务的高可用设计与实现

2025-05-17 17:09:51作者：宣海椒Queenly

Apache DolphinScheduler，现代数据编排平台，低代码构建高性能工作流，提供直观用户界面，简化复杂数据管道任务依赖管理。支持四部署模式：独立、集群、Docker与Kubernetes；多方式创建管理流程；高可靠性和可用性，分布式架构确保横向扩展能力。性能卓越，比同类平台快N倍，日处理千万级任务。云原生设计，兼容多云数据中心工作流。版本控制，状态灵活操作，多租户支持，权限精细管控。快速开始，从单独或容器化环境轻松上手。独特UI展示，一目了然项目概览和实时监控。欢迎加入社区，贡献改进或报告问题，共建强大数据编排生态。

项目地址：https://gitcode.com/gh_mirrors/ea/EasyScheduler

背景与现状

在分布式任务调度系统EasyScheduler中，子工作流(SubWorkflow)作为一种特殊的任务类型，允许用户将一个完整的工作流作为另一个工作流的子任务来执行。这种设计模式在复杂业务流程编排中非常有用，可以实现工作流的模块化和复用。

然而，当前版本的EasyScheduler对子工作流任务的支持存在一些功能上的不足，特别是在故障恢复、重复执行、暂停、终止和恢复等操作方面缺乏完善的实现机制。这导致在实际生产环境中，当需要对包含子工作流的父工作流进行管理操作时，无法有效地将操作传递到子工作流实例。

核心问题分析

子工作流任务本质上是对另一个工作流实例的封装和引用。当父工作流执行到子工作流任务时，系统需要：

创建并启动对应的子工作流实例
跟踪子工作流实例的执行状态
将父工作流的控制操作(如暂停、终止)传递到子工作流
在故障恢复时正确处理父子工作流的关系

当前实现的主要不足在于缺乏一个统一的状态管理机制，导致无法有效跟踪子工作流实例的状态，也无法将父工作流的控制操作正确传递到子工作流实例。

解决方案设计

子工作流运行时上下文

为了解决状态管理问题，我们引入了SubWorkflowLogicTaskRuntimeContext类，专门用于存储和管理子工作流任务的运行时信息：

public class SubWorkflowLogicTaskRuntimeContext {
    private Integer subWorkflowInstanceId;  // 子工作流实例ID
}

这个上下文对象会在子工作流任务执行时被创建并维护，保存了关键的子工作流实例ID，使得系统能够通过这个ID追踪和管理对应的子工作流实例。

子工作流实例的初始化

子工作流任务的执行首先需要初始化子工作流实例。根据不同的操作类型，初始化过程会有所区别：

private SubWorkflowLogicTaskRuntimeContext initializeSubWorkflowInstance() {
    if (subWorkflowLogicTaskRuntimeContext == null) {
        return triggerNewSubWorkflow();  // 新建子工作流实例
    }

    switch (workflowExecutionRunnable.getWorkflowInstance().getCommandType()) {
        case RECOVER_SUSPENDED_PROCESS:
            return recoverFromSuspendTasks();  // 从暂停状态恢复
        case START_FAILURE_TASK_PROCESS:
            return recoverFromFailedTasks();   // 从失败状态恢复
        default:
            return triggerNewSubWorkflow();  // 默认新建实例
    }
}

这种设计确保了在不同操作场景下，子工作流实例都能被正确地初始化或恢复。

控制操作传递机制

为了实现父工作流操作对子工作流的传递，我们实现了以下关键控制方法：

暂停操作：当父工作流被暂停时，会调用子工作流任务的pause()方法，该方法会通过子工作流控制客户端暂停对应的子工作流实例。

@Override
public void pause() throws MasterTaskExecuteException {
    if (subWorkflowLogicTaskRuntimeContext == null) {
        log.info("subWorkflowLogicTaskRuntimeContext is null cannot pause");
        return;
    }
    Integer subWorkflowInstanceId = subWorkflowLogicTaskRuntimeContext.getSubWorkflowInstanceId();
    WorkflowInstancePauseResponse pauseResponse = applicationContext
            .getBean(SubWorkflowControlClient.class)
            .pauseWorkflowInstance(new WorkflowInstancePauseRequest(subWorkflowInstanceId));
    // 处理暂停响应...
}

终止操作：类似地，终止操作会通过子工作流控制客户端停止子工作流实例。

@Override
public void kill() throws MasterTaskExecuteException {
    if (subWorkflowLogicTaskRuntimeContext == null) {
        log.info("subWorkflowLogicTaskRuntimeContext is null cannot kill");
        return;
    }
    Integer subWorkflowInstanceId = subWorkflowLogicTaskRuntimeContext.getSubWorkflowInstanceId();
    WorkflowInstanceStopResponse stopResponse = applicationContext
            .getBean(SubWorkflowControlClient.class)
            .stopWorkflowInstance(new WorkflowInstanceStopRequest(subWorkflowInstanceId));
    // 处理终止响应...
}

实现优势

状态一致性：通过运行时上下文维护子工作流实例ID，确保了父子工作流状态的一致性。
操作传递性：所有对父工作流的控制操作都能正确传递到子工作流实例。
故障恢复能力：支持从暂停、失败等异常状态中恢复执行。
可扩展性：设计上预留了进一步扩展的空间，可以方便地添加新的控制操作或状态管理功能。

实际应用场景

假设有一个电商订单处理工作流，其中包含以下步骤：

订单验证
支付处理(子工作流)
库存扣减
物流调度

在这个场景中，"支付处理"作为一个子工作流，可能包含多个复杂的支付相关步骤。通过本文介绍的实现方案：

当需要暂停整个订单处理时，支付子工作流也会被正确暂停
如果支付子工作流失败，可以从失败点恢复执行
终止订单处理时，支付子工作流也会被终止
系统故障恢复后，可以继续跟踪支付子工作流的状态

总结

EasyScheduler通过引入子工作流运行时上下文和完善的控制操作传递机制，显著提升了子工作流任务的管理能力和可靠性。这一改进使得复杂工作流的编排和执行更加稳定和可控，为业务系统提供了更强大的流程管理能力。未来还可以在此基础上进一步优化，如增加子工作流执行结果的详细反馈、支持更细粒度的控制操作等。

dolphinscheduler