Trieve项目中搜索结果一致性的优化方案

在开源项目Trieve的搜索功能开发过程中，开发团队发现了一个影响用户体验的重要问题：当用户提出后续问题时，系统会重新执行搜索操作，导致前后回答结果不一致。本文将深入分析这一问题及其解决方案。

问题背景

在电商搜索场景中，用户通常会先提出一个基础问题，然后基于返回结果进行后续提问。例如用户先询问"展示一些运动鞋"，然后跟进提问"哪双最便宜"。理想情况下，系统应该在第一次搜索结果的上下文中回答后续问题，而不是重新执行搜索。

然而当前实现存在以下缺陷：

1. 每次提问都会触发独立搜索
2. 后续问题的答案与初始结果脱节
3. 返回的JSON数据结构和Clickhouse查询被不必要地覆盖

技术分析

问题的核心在于搜索逻辑没有考虑对话的上下文连续性。具体表现为：

1. 搜索隔离：每个问题都被视为独立查询，缺乏对话记忆
2. 数据不一致：后续搜索可能返回完全不同的结果集
3. 资源浪费：重复执行不必要的数据库查询

解决方案架构

团队设计了一套完整的改进方案，主要包含以下关键组件：

1. 对话状态追踪

引入专门的工具调用(tool call)来识别对话是否为后续问题。这个机制会记录：

• 当前是否为后续提问
• 初始搜索的上下文信息
• 用户意图的变化轨迹

2. 上下文感知搜索

开发新的buildRAGContext函数，在生成消息前动态调整搜索参数：

• 保留初始搜索的group_ids过滤器
• 避免重复执行相同查询
• 确保结果集一致性

3. 结果优化流程

改进后的工作流程分为四个阶段：

1. 使用价格和标签过滤器判断是否需要实际搜索
2. 通过LLM生成优化的搜索查询
3. 结合用户查询和AI生成查询执行相关性排序
4. 修改create_message接口直接使用已有chunk_ids

实现细节

技术实现上需要注意几个关键点：

1. 数据结构保护：确保返回的chunks JSON结构不被意外修改
2. 查询优化：避免Clickhouse查询被不必要地重写
3. 上下文传递：在对话链中有效保持搜索上下文
4. 性能平衡：在结果一致性和系统响应速度间取得平衡

用户体验改进

该解决方案将显著提升以下用户体验指标：

• 对话连贯性：后续问题能准确基于之前的结果回答
• 结果可预测性：用户不会因为相同问题得到不同答案
• 交互效率：减少用户需要重复说明的情况

总结

Trieve项目通过引入对话状态管理和上下文感知搜索，有效解决了电商搜索场景中的结果一致性问题。这一改进不仅提升了用户体验，也为复杂对话系统的设计提供了有价值的参考模式。未来可考虑扩展应用到更多需要保持上下文一致的搜索场景中。