PyO3项目中字典与列表的线程安全迭代优化
在Python生态系统的Rust绑定库PyO3中,开发团队正在针对字典(dict)和列表(list)的迭代操作进行线程安全性的优化。这一改进源于Python在多线程环境下对字典和列表迭代的特殊处理方式。
Python标准实现中,字典和列表的迭代操作默认不提供线程安全保证,允许潜在的竞态条件存在。为了在PyO3中保持与Python一致的行为,同时又要兼顾性能,开发团队设计了一套新的API方案。
当前实现中,为了确保线程安全,PyO3不得不使用较慢的引用计数API来处理列表迭代,并对字典迭代采用临界区保护。这种保守的实现方式虽然安全,但牺牲了性能。特别是在Python即将推出的自由线程(free-threaded)构建版本中,这种性能损耗更为明显。
技术方案的核心是引入新的locked_iter函数,该函数将被添加到PyDictMethods和PyListMethods特性中。与直接返回迭代器的传统方法不同,这个新API采用闭包回调的设计模式。用户需要提供一个闭包,该闭包接收一个特殊的锁定迭代器作为参数,并在闭包内部进行实际的迭代操作。
这种设计有多个技术优势:
- 确保临界区的正确配对,即使在发生panic的情况下也能保证资源释放
- 防止临界区的嵌套使用
- 保持与Python标准行为的一致性,同时提供更高效的线程安全迭代选项
对于字典迭代,闭包将接收一个PyDictLockedIterator类型的参数;对于列表迭代,也会有对应的锁定迭代器类型。这些特殊迭代器类型隐式地表示当前持有临界区锁,开发者无需手动管理锁的获取和释放。
在实现细节上,团队还探讨了利用Iterator::fold和Iterator::try_fold的可能性,这些高阶函数可以自动优化许多常见的迭代模式。虽然由于Rust稳定性的限制,完整的try_fold实现目前只能在nightly版本中使用,但这为未来的性能优化指明了方向。
这一改进将分阶段进行:在PyO3 0.23版本中先采用保守但安全的实现,确保功能正确性;而在0.24版本中引入新的锁定迭代API,为开发者提供更高效的线程安全迭代选项。这种渐进式的改进策略既保证了稳定性,又为性能优化留下了空间。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00