Synapse数据库并发事件计数问题分析与解决方案
问题背景
在Matrix即时通讯系统的Synapse服务器1.129.0rc1版本中,引入了一个新功能:全局事件计数器。这个功能通过数据库触发器实现,每当有新事件插入到events表时,会自动更新event_stats表中的total_event_count字段。
然而,这个看似简单的功能在高并发场景下暴露出了严重问题。当多个工作进程同时尝试插入大量事件时(例如机器人广播消息到多个房间),数据库会频繁抛出"could not serialize access due to concurrent update"(无法序列化访问,由于并发更新)错误,导致事件持久化失败。
技术分析
问题根源
-
触发器并发问题:PostgreSQL的触发器在默认情况下不具备原子性更新能力。当多个事务同时触发event_stats_increment_counts函数时,它们都会尝试更新同一行数据(event_stats表中的计数器),导致序列化冲突。
-
无重试机制:Synapse的事件持久化流程没有为这种冲突实现自动重试逻辑,一旦发生序列化错误就会直接失败。
-
设计缺陷:全局计数器这种高频更新的单行数据本身就是性能瓶颈,在高负载场景下极易成为系统瓶颈。
影响范围
- 功能影响:广播类操作(如机器人向多个房间发送相同消息)会部分失败
- 系统影响:增加了数据库负载,可能影响整体系统性能
- 数据一致性:可能导致事件计数不准确
解决方案
临时解决方案
对于已经升级到1.129.0rc1版本的服务器,需要手动删除遗留的数据库触发器:
PostgreSQL环境:
DROP TRIGGER event_stats_increment_counts_trigger;
DROP FUNCTION event_stats_increment_counts;
SQLite环境:
DROP TRIGGER event_stats_events_insert_trigger;
DROP TRIGGER event_stats_events_delete_trigger;
长期解决方案
Synapse开发团队已经采取了以下措施:
- 回滚功能:在后续版本中移除了这个不稳定的计数器功能
- 自动清理:添加了数据库迁移脚本,自动清理遗留的触发器
- 设计改进:重新考虑全局计数器的实现方式,避免单行热点问题
技术启示
- 数据库触发器使用需谨慎:特别是在高并发环境下,触发器可能成为性能瓶颈
- 单行计数器问题:全局计数器应考虑使用更分布式的方法实现,如分片计数
- 事务隔离级别:理解不同数据库的事务隔离级别对并发控制的影响至关重要
- 错误处理机制:关键路径上的数据库操作应实现适当的重试逻辑
总结
这个案例展示了在高并发系统中实现全局计数器的挑战。Synapse团队通过快速响应和回滚有问题的功能,确保了系统的稳定性。未来类似功能的实现可能需要考虑更分布式的计数方案,或者接受一定程度的不精确性以换取更高的可用性。
对于系统管理员来说,这个案例也提醒我们在升级前充分测试新版本,特别是涉及数据库结构变更的功能,并在生产环境部署前准备好回滚方案。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
xw-cli实现国产算力大模型零门槛部署,一键跑通 Qwen、GLM-4.7、Minimax-2.1、DeepSeek-OCR 等模型Go06
yuanrongopenYuanrong runtime:openYuanrong 多语言运行时提供函数分布式编程,支持 Python、Java、C++ 语言,实现类单机编程高性能分布式运行。Go051
MiniCPM-SALAMiniCPM-SALA 正式发布!这是首个有效融合稀疏注意力与线性注意力的大规模混合模型,专为百万级token上下文建模设计。00
ebook-to-mindmapepub、pdf 拆书 AI 总结TSX01