Mongoose 事务重试中的数组操作问题解析
2025-05-06 09:01:29作者:沈韬淼Beryl
问题背景
在使用 Mongoose 8.6.0 版本与 MongoDB 5 配合时,开发者在事务处理中发现了一个关于数组操作的严重问题。当文档中的子文档数组通过 push() 或 addToSet() 方法修改后,在事务重试过程中会出现数据重复的问题。
问题现象
具体表现为:
- 文档包含一个子文档数组
- 使用
push()方法向数组添加元素 - 在事务中保存(
save())文档 - 事务需要重试时(整个事务重试而非仅提交重试)
结果会导致数组中添加的元素数量呈指数级增长,遵循 2^n 规律(n为重试次数)。例如:
- 第一次重试:2个相同元素
- 第二次重试:4个相同元素
- 第三次重试:8个相同元素
- 以此类推
技术分析
通过分析 MongoDB 的更新操作日志,可以清楚地看到问题所在:
第一次保存操作生成的更新语句:
{
"$push": {
"items": {
"$each": [{"name":"test3"}]
}
},
"$inc": {"__v":1}
}
第二次重试生成的更新语句:
{
"$set": {"__v":1},
"$push": {
"items": {
"$each": [{"name":"test3"},{"name":"test3"}]
}
}
}
第三次重试生成的更新语句:
{
"$set": {"__v":1},
"$push": {
"items": {
"$each": [{"name":"test3"},{"name":"test3"},{"name":"test3"},{"name":"test3"}]
}
}
}
可以看到,每次重试时 $push.items.$each 数组中的元素数量都会翻倍,这直接导致了数据的重复问题。
影响范围
这个问题主要影响以下数组操作方法:
push()addToSet()
其他数组操作方法如 pop()、pull()、remove()、set()、shift() 和 splice() 则表现正常。
潜在风险
除了数据重复外,这个问题还会带来两个潜在风险:
- 更新查询体积膨胀:随着重试次数增加,更新查询的体积会急剧增长
- 操作失败风险:当查询体积超过 MongoDB 的限制(16MB)时,操作会失败并抛出以下错误之一:
RangeError: The value of "offset" is out of range... MongoServerError: BSONObj size: 16928643 is invalid...
临时解决方案
在官方修复前,可以采用以下临时解决方案:
await mongoose.connection.transaction(async (session) => {
// 重置数组字段,清除内部状态
doc.items = doc.items;
await doc.save({ session });
// 重试逻辑...
});
这个方法通过重新赋值数组字段来重置 Mongoose 文档的内部状态,确保每次重试时都能正确生成更新语句。
最佳实践建议
在事务处理中使用数组操作时,建议:
- 尽量减少事务中的数组操作
- 对于关键业务逻辑,考虑使用原子操作而非事务
- 监控事务重试次数,设置合理的重试上限
- 在重试逻辑中加入数据一致性检查
这个问题提醒我们在使用 ORM/ODM 工具的高级功能时,需要充分理解其内部工作机制,特别是在分布式环境下的事务处理场景中。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0214
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0138
uni-appA cross-platform framework using Vue.jsJavaScript08
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03
热门内容推荐
项目优选
收起
deepin linux kernel
C
32
16
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
469
465
暂无描述
Dockerfile
778
5.08 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
877
2.03 K
Ascend Extension for PyTorch
Python
758
968
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
697
1.4 K
昇腾LLM分布式训练框架
Python
185
231
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.1 K
1.14 K
本仓库是 Flutter SDK 与 Flutter Engine 的 OpenHarmony 适配版本,由 CPF-Flutter 团队维护。开发者可使用熟悉的 Flutter 技术栈开发 OpenHarmony 应用,3.35.7 及以后的适配版本可基于本仓库源码构建支持 OpenHarmony 的 Flutter Engine。
Dart
1.04 K
271
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
2.25 K
677