Apache Doris执行引擎演进：从Volcano模型到PipelineX的技术突破

引言：执行引擎在数据库中的核心地位

在现代数据库系统中，执行引擎扮演着至关重要的角色，它如同餐厅中的主厨，负责将优化器生成的执行计划转化为实际的数据处理流程。本文将深入剖析Apache Doris执行引擎的演进历程，揭示其实现高性能查询的关键技术路径。

执行引擎基础概念

当用户提交SQL查询时，数据库系统会经历以下处理流程：

1. 查询优化器进行语法/词法分析
2. 基于成本模型和优化规则生成最优执行计划
3. 执行引擎将计划调度到各节点执行
4. 节点操作底层存储引擎数据并返回结果

执行引擎负责数据读取、过滤、排序、聚合等核心操作，其效率直接影响查询性能和资源利用率。不同的执行模型会带来显著的性能差异。

第一阶段：Volcano模型

基本原理

Volcano模型（又称迭代器模型）是分析型数据库中最主流的执行模型。在该模型中：

• 每个操作被抽象为一个算子
• 整个SQL查询构成一棵算子树
• 执行时通过自上而下调用next()接口遍历树
• 数据自下而上被拉取和处理（拉取式执行模型）

select age, sex from employees where age > 30

技术优势

1. 灵活性高：算子之间解耦，易于扩展新算子
2. 实现简单：统一的next()接口规范
3. 优化方便：支持多种查询优化技术

性能瓶颈

在单机多核场景下，Volcano模型面临以下挑战：

1. 线程阻塞问题：

   • 固定大小线程池中，阻塞实例可能导致死锁
   • 实例数超过CPU核心数时产生巨大上下文切换开销

2. CPU资源竞争：

   • 不同规模查询间相互干扰
   • 多租户场景下资源隔离困难

3. 多核利用率低：

   • 执行并发度受数据分桶数限制
   • 分桶数难以精确预估，容易导致资源浪费

第二阶段：Pipeline执行引擎

Apache Doris 2.0.0引入Pipeline执行引擎，核心改进包括：

架构设计

1. 任务拆分：将执行计划分解为流水线任务
2. 时间片调度：采用时间分片方式调度任务到线程池
3. 阻塞处理：阻塞任务挂起释放线程资源
4. 灵活调度：支持多种资源分配策略

关键技术实现

避免线程阻塞

1. 线程池大小固定为CPU核心数
2. 易阻塞操作拆分为独立流水线任务
3. 用户态轮询调度器设计：
   • 持续检查任务状态
   • 按策略分配可执行任务
   • 减少OS线程切换开销

并行化优化

1. 数据重分布：

   • 前端感知后端环境
   • 动态设置合理分区数

2. 扫描层改造：

   • 逻辑重构解耦线程与tablet数
   • 扫描线程池化数据供多任务共享

第三阶段：PipelineX引擎

Apache Doris 2.1.0推出PipelineX，解决了Pipeline引擎的遗留问题：

核心改进

1. 执行并发度提升：

   • 引入Local Shuffle机制
   • 解除tablet数对并发的限制
   • 自动均衡数据分布，解决倾斜问题

2. 执行开销降低：

   • 全局状态一次性初始化
   • 局部状态按需创建

3. 调度开销优化：

   • 事件驱动代替轮询
   • 阻塞条件抽象为依赖项

4. Profile可读性增强：

   • 指标重组优化
   • 新增关键耗时统计

技术实现细节

Local Shuffle机制

SELECT COUNT(*) FROM A GROUP BY A.COL_1;

• 管道任务仅维护运行时状态（Local State）
• 共享信息（Global State）由管道对象统一管理
• Local Shuffle负责单BE内数据分布均衡

事件驱动调度

1. 将阻塞条件封装为依赖项
2. 任务状态通过事件通知触发变更
3. 执行计划抽象为DAG图：
   • 节点：管道任务
   • 边：依赖关系

性能指标优化

扫描算子示例：

OLAP_SCAN_OPERATOR (id=4. table name = Z03_DI_MID):
    - ExecTime: 457.750ms
    - WaitForDependency[OLAP_SCAN_OPERATOR_DEPENDENCY]Time: 436.883ms

交换算子示例：

EXCHANGE_OPERATOR (id=3):
    - ExecTime: 86.691us
    - WaitForDependencyTime: 0ns
        - WaitForData0: 409.256us

未来演进方向

1. 磁盘溢出支持：提升大查询稳定性和资源利用率
2. 自适应并发：根据负载动态调整执行并发度
3. 智能调度：基于机器学习优化任务调度策略

总结

Apache Doris执行引擎的演进历程：

1. Volcano模型：基础实现，面临多核利用率瓶颈
2. Pipeline引擎：解决线程阻塞，提升CPU利用率
3. PipelineX引擎：完善生产级特性，优化执行效率

这一持续优化的技术路线使Apache Doris在分析型数据库领域保持领先的性能优势，为各类实时分析场景提供强有力的支持。