Dolt数据库中WHERE子句OR运算优化错误分析

问题背景

在Dolt数据库v1.51.0版本中，发现了一个关于WHERE子句中OR运算表达式优化的错误。这个错误导致某些特定条件下的查询结果与预期不符，影响了查询的正确性。

问题复现

我们通过一个简单的测试用例来演示这个问题：

CREATE TABLE t0(c0 INT);
INSERT INTO t0(c0) VALUES(2);
SELECT t0.c0 AS ref0 FROM t0 WHERE (FALSE OR t0.c0) != t0.c0;

预期结果：应该返回值为2的行 实际结果：没有返回任何行

问题分析

表达式评估

首先，我们验证表达式(FALSE OR t0.c0) != t0.c0的实际计算结果：

SELECT t0.c0, (FALSE OR t0.c0) != t0.c0 FROM t0;

结果显示该表达式计算结果为1（TRUE），说明WHERE条件应该满足。

查询计划分析

通过EXPLAIN ANALYZE查看查询计划：

EXPLAIN ANALYZE SELECT t0.c0 AS ref0 FROM t0 WHERE (FALSE OR t0.c0) != t0.c0;

发现优化器将原始表达式(FALSE OR t0.c0) != t0.c0错误地优化为(NOT((t0.c0 = t0.c0)))，这明显改变了表达式的语义。

等价查询验证

值得注意的是，使用数字0代替FALSE的等价查询却能返回正确结果：

SELECT t0.c0 AS ref0 FROM t0 WHERE (0 OR t0.c0) != t0.c0;

这说明问题特定于布尔值FALSE与列值的OR运算场景。

技术原理

OR运算的优化规则

在SQL优化器中，OR运算通常有以下几种优化方式：

1. 短路优化：当OR的第一个操作数为TRUE时，可以忽略第二个操作数
2. 常量传播：当操作数包含常量时，可以进行预计算
3. 表达式重写：将OR转换为等价的AND或其他形式

问题根源

在本案例中，优化器错误地应用了以下转换规则：

1. 将FALSE OR t0.c0简化为t0.c0（这是正确的）
2. 然后将t0.c0 != t0.c0简化为NOT(t0.c0 = t0.c0)（这也是正确的）
3. 最后错误地将t0.c0 = t0.c0视为总是TRUE（这是错误的，因为NULL值情况下不成立）

然而，更深层次的问题是优化器在处理布尔常量与列值的OR运算时，没有正确考虑所有可能的列值情况。

影响范围

这个错误会影响以下类型的查询：

1. 使用布尔常量FALSE与列值的OR运算
2. 在WHERE、HAVING或ON子句中使用此类表达式
3. 表达式进一步参与其他比较运算

解决方案建议

临时解决方案

用户可以通过以下方式规避此问题：

1. 使用数字0代替FALSE
2. 重写查询逻辑，避免使用FALSE OR column的形式

长期修复方案

Dolt开发团队需要修复优化器中的表达式重写逻辑：

1. 修正OR运算的优化规则
2. 确保在简化表达式时保留原始语义
3. 添加针对此类边缘情况的测试用例

总结

这个案例展示了数据库查询优化器中一个微妙的错误，提醒我们即使是简单的逻辑运算优化也可能导致意想不到的结果。对于数据库开发者而言，需要特别注意表达式重写过程中语义的保持；对于数据库使用者，了解这类问题有助于在遇到意外查询结果时快速定位原因。