Typesense向量搜索性能优化：稀疏字段过滤的挑战与解决方案

在Typesense 27版本中，用户报告了一个关于向量搜索性能的显著问题：当对稀疏数值字段进行过滤时，查询速度会下降10倍。这个问题特别出现在混合搜索（结合关键词和向量嵌入）场景中，当过滤条件排除了大部分文档时。

问题背景

在一个包含230万文档的集合中，每个文档都有一个"window"字段，取值从0到4。数据分布极不均衡：

• window=0：230万文档
• window=1：234文档
• window=2：28文档
• window=3：2文档
• window=4：7文档

当使用过滤条件排除window=0的文档时（即只查询window=1-4的文档），查询时间从正常的260ms激增至2600ms，无论过滤条件是等于、范围查询还是不等于操作。

技术分析

深入分析后发现，性能问题主要源于HNSW索引的搜索算法行为。当进行混合搜索时，系统会：

1. 首先执行过滤操作，将候选文档集缩小到很小的范围（如window=1时只有234个文档）
2. 然后对这些文档执行k近邻搜索，但默认的k值（10,000）远大于过滤后的文档数量
3. 这导致算法需要进行近乎全图的遍历，以尝试找到足够数量的近邻点

解决方案

Typesense团队在后续版本中实施了多项改进：

1. 版本27.1修复：首先解决了范围查询的性能回归问题，使简单查询恢复到<200ms
2. flat_search_cutoff参数：引入这个参数控制何时切换到暴力搜索（线性扫描）。当过滤后的文档数小于此阈值时，使用更高效的线性搜索
3. 混合搜索优化：在获取向量排名的逻辑中加入对过滤后文档数量的检查，避免不必要的复杂图遍历

最佳实践建议

对于类似场景的用户，建议：

1. 对于高度稀疏的过滤字段，考虑设置适当的flat_search_cutoff值（如200-500）
2. 评估实际需要的k值，避免设置过大的k值
3. 在混合搜索场景中，优先考虑使用Typesense 28或更高版本
4. 对于极端稀疏的过滤条件（如只有几个匹配文档），可以考虑预先过滤再执行向量搜索

这个案例展示了在大型向量数据库中处理稀疏数据时的典型挑战，以及如何通过算法选择和参数调优来获得最佳性能。