YugabyteDB YSQL优化器中参数化过滤条件选择性估算问题分析

在YugabyteDB的YSQL查询优化器中，发现了一个关于参数化过滤条件选择性估算的问题，该问题会影响YB Bitmap Table Scan路径的成本计算准确性。

问题背景

在YSQL查询优化过程中，当使用位图扫描(BitmapScan)时，优化器需要计算YB Bitmap Table Scan路径的行数估算值(path->rows)。这个值对于后续的查询计划选择和成本计算至关重要。

问题现象

在特定场景下，YSQL优化器对参数化过滤条件的选择性估算存在问题。具体表现为：

1. 路径行数(path->rows)被错误地覆盖
2. 参数化谓词的选择性未被正确考虑
3. 导致最终的行数估算不准确

技术细节分析

在yb_cost_bitmap_table_scan函数中，存在以下关键问题：

1. 初始设置的行数估算值被后续计算错误覆盖：

path->rows = clamp_row_est(baserel->tuples *
              clauselist_selectivity(root, baserel->baserestrictinfo,
                                    baserel->relid, JOIN_INNER, NULL));
path->rows = tuples_fetched;

2. 参数化谓词(如示例中的(a + b) >= s.y)未被纳入行数估算考虑范围

3. 调试信息显示，在关键断点处：

• 参数化信息(param_info)指示的行数为209
• 基础关系(baserel)的行数为12345
• 但最终被设置为626(tuples_fetched)

影响范围

该问题会导致以下不良影响：

1. 查询优化器可能选择次优的执行计划
2. 资源分配可能不合理
3. 查询性能可能低于预期

解决方案

修复方案相对简单直接：

1. 移除错误覆盖path->rows的两行代码
2. 保留初始正确的行数估算值

修复后，优化器能够正确反映参数化过滤条件的选择性，如示例中YB Bitmap Table Scan的行数估算从626调整为209(约为BitmapOr估算值626的1/3，符合范围谓词的默认选择性)。

验证测试

可以通过以下测试用例验证修复效果：

-- 测试表创建和数据准备
CREATE TABLE r (pk int, a int, b int, c char(10), v char(1024), PRIMARY KEY (pk asc));
CREATE TABLE s (x int, y int, z char(10));
CREATE INDEX i_r_a ON r (a asc);
CREATE INDEX i_r_c ON r (c asc);

-- 数据插入和分析
INSERT INTO r SELECT i, i/5, i, 
       concat(chr((((i-1)/26/26)%26)+ascii('a')),
              chr((((i-1)/26)%26)+ascii('a')),
              chr(((i-1)%26)+ascii('a')))
FROM generate_series(1,12345) i;

INSERT INTO s SELECT i/3, i,
       concat(chr((((i-1)/26/26)%26)+ascii('a')),
              chr((((i-1)/26)%26)+ascii('a')),
              chr(((i-1)%26)+ascii('a')))
FROM generate_series(1,123) i;

ANALYZE r, s;

-- 启用相关优化器功能
SET yb_enable_base_scans_cost_model = on;
SET yb_enable_bitmapscan = on;
SET enable_bitmapscan = on;
SET yb_prefer_bnl = off;

-- 测试查询
EXPLAIN SELECT * FROM r, s WHERE (a = x OR c <= 'b') AND a + b >= y;

总结

这个问题展示了查询优化器中一个典型的选择性估算错误案例。通过修复，确保了参数化过滤条件能够被正确纳入成本计算，从而帮助优化器做出更合理的计划选择。对于使用YugabyteDB并依赖位图扫描性能的用户，这个修复将带来更准确的查询计划和更好的性能表现。