ParadeDB v0.15.21版本发布:全文搜索性能优化与功能增强
ParadeDB是一个基于PostgreSQL的开源全文搜索引擎扩展,它通过集成Tantivy(Rust编写的高性能全文搜索引擎)为PostgreSQL提供了强大的搜索能力。最新发布的v0.15.21版本带来了一系列性能优化和新功能,特别是在查询执行计划、字段处理和执行效率方面有显著改进。
性能优化亮点
本次版本在查询执行性能方面做了多项重要改进:
-
混合快速字段执行优化:新增了
FastFieldMixed作为默认执行方法(如果启用),显著提升了数值型查询的效率。开发团队还修复了MixedFastFieldExec在处理纯数值查询时返回空结果的问题。 -
TopN查询优化:现在TopN查询在范围字段上排序时会自动使用TopN执行方法,这大大提高了排序查询的性能。同时,团队还稳定了TopN查询的输出结果。
-
并行工作器支持:新增了
aggregate()用户定义函数(UDF)和并行工作器编排功能,使得聚合操作能够利用多核并行计算,提升大规模数据处理的吞吐量。 -
执行计划估计改进:优化了查询计划器的成本估计模型,使执行计划选择更加准确,特别是在复杂查询场景下。
功能增强
-
停止词过滤器:从Tantivy引擎中暴露了StopWordFilter功能,允许用户配置自定义的停止词列表,提高搜索相关性和效率。
-
短语查询分词:修复了短语查询的分词处理,现在能够正确地对短语进行分词处理,提高了短语搜索的准确性。
-
类型强制转换:为
MoreLikeThis查询添加了整型类型的强制转换支持,使得API更加健壮和易用。 -
GUC参数新增:添加了用于快速字段的全局配置参数(GUC),为管理员提供了更灵活的调优选项。
开发者工具改进
-
测试增强:在测试环境中启用了长时间运行语句的日志记录,便于性能问题诊断。
-
脚本优化:改进了
pg_search_run.sh和pg_search_test.sh脚本,增加了对--release构建模式的支持,并修复了参数传递问题。 -
基准测试套件:新增了连接数据集和TopN CTE查询到基准测试套件中,为性能评估提供了更全面的场景。
内部架构改进
-
数据结构优化:全面切换到
FxHash(Map|Set)数据结构,提高了哈希操作的性能。 -
锁优化:将
MergeLock移动到独立的缓冲区,允许多个线程同时访问元数据页面,减少了锁争用。 -
字段名统一:整合了
String、SearchFieldName和FieldName类型,统一使用FieldName,简化了代码结构。
使用建议
对于现有用户,建议关注以下升级点:
-
新版本默认启用了混合快速字段执行方法,这可能会改变某些查询的执行计划。如果遇到性能变化,可以通过新增的GUC参数进行调整。
-
短语查询和MoreLikeThis查询的行为有所改进,可能需要重新评估相关查询的结果准确性。
-
对于高并发场景,新的并行聚合功能可以显著提升性能,值得尝试。
ParadeDB v0.15.21通过这一系列优化,进一步巩固了其作为PostgreSQL高性能搜索扩展的地位,特别是在处理复杂查询和大规模数据时表现出色。开发团队持续关注核心执行路径的优化,同时也不断丰富功能集,使得这个开源项目越来越适合生产环境使用。