Havenask中disable_follower_build参数对全量表实时查询的影响分析
参数背景
在Havenask分布式搜索引擎的离线表配置中,disable_follower_build
是一个影响集群数据同步行为的重要参数。该参数默认配置在hape_conf/offline_table/clusters/default_cluster.json
文件中,控制着follower节点是否参与数据构建过程。
参数作用机制
当disable_follower_build
设置为true时,系统会表现出以下行为特征:
- 只有leader角色的searcher节点会消费实时数据
- follower角色的searcher节点将不参与实时数据的消费
- 在查询请求被随机分发到不同节点时,可能导致部分查询无法获取最新数据
这种配置在全量表模式下会产生明显的数据不一致现象:用户查询时,如果请求被路由到leader节点,则可以获取最新写入的文档;若被路由到follower节点,则无法获取最新数据,造成"有时能查到,有时查不到"的不稳定现象。
适用场景分析
根据Havenask的设计原理,disable_follower_build
参数主要适用于以下场景:
-
直写表模式:在直写表架构中,数据写入直接作用于leader节点,通过后续的同步机制传播到follower节点。此时临时禁用follower构建可以降低集群负载。
-
索引构建优化:在某些大规模索引构建场景下,临时禁用follower构建可以减少资源消耗,待leader构建完成后再统一同步。
-
维护模式:在集群维护或升级期间,可能需要暂时停止follower的数据构建过程。
全量表模式的最佳实践
对于全量表模式,建议将disable_follower_build
设置为false,这是因为:
-
数据一致性要求:全量表通常对数据实时一致性要求较高,需要所有节点都能及时获取最新数据。
-
查询负载均衡:在全量表查询场景下,请求会被均匀分发到集群所有节点,必须确保每个节点数据一致。
-
实时性保证:禁用follower构建会导致实时数据无法及时同步,违背全量表的设计初衷。
配置建议
基于不同表模式的特性,推荐以下配置方案:
-
全量表模式:
"disable_follower_build": false
-
直写表模式:
"disable_follower_build": true
在实际生产环境中,配置此参数时需要综合考虑业务对数据实时性的要求、集群负载情况以及查询性能需求等因素,做出最适合业务场景的选择。
HunyuanImage-3.0
HunyuanImage-3.0 统一多模态理解与生成,基于自回归框架,实现文本生成图像,性能媲美或超越领先闭源模型00ops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。C++046Hunyuan3D-Part
腾讯混元3D-Part00GitCode-文心大模型-智源研究院AI应用开发大赛
GitCode&文心大模型&智源研究院强强联合,发起的AI应用开发大赛;总奖池8W,单人最高可得价值3W奖励。快来参加吧~0290Hunyuan3D-Omni
腾讯混元3D-Omni:3D版ControlNet突破多模态控制,实现高精度3D资产生成00GOT-OCR-2.0-hf
阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile09
- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00
热门内容推荐
最新内容推荐
项目优选








