Celery 5.5.0rc5发布:分布式任务队列的重大更新
项目简介
Celery是一个强大的分布式任务队列系统,它基于Python开发,广泛应用于异步任务处理、定时任务调度等场景。作为Python生态中最受欢迎的任务队列解决方案之一,Celery支持多种消息代理和结果后端,能够帮助开发者轻松构建可扩展的分布式系统。
核心更新内容
1. RabbitMQ Quorum队列完整支持
本次版本最重要的改进之一是提供了对RabbitMQ Quorum队列的完整支持。Quorum队列是RabbitMQ 3.8.0引入的一种新型队列,提供了更强的数据安全性和一致性保证。
新版本实现了全新的ETA机制,专门针对Quorum队列进行了优化。开发者现在可以通过broker_native_delayed_delivery_queue_type配置选项来指定延迟交付的队列类型,从而充分利用Quorum队列的特性。
2. Google Pub/Sub传输支持
Celery 5.5.0rc5新增了对Google Pub/Sub作为消息传输层的支持。这一特性为使用Google Cloud Platform的开发者提供了更多选择,使得Celery能够更好地集成到GCP生态系统中。
3. Python 3.13兼容性增强
随着Python 3.13的临近,Celery团队已经完成了对核心依赖项(包括Kombu和py-amqp)的兼容性升级,确保用户能够顺利过渡到新版本的Python。
4. 优雅的软关机机制
新版本引入了一种介于热关机和冷关机之间的"软关机"机制。这一特性通过worker_soft_shutdown_timeout配置选项启用,允许工作节点在指定的时间内继续处理正在运行的任务,超时后才进入冷关机状态。
对于使用Redis或SQS等具有可见性超时机制的代理的用户,软关机机制能够更优雅地处理未完成的任务,通过重置未确认消息的可见性超时,确保任务不会丢失。
5. Pydantic模型支持
Celery现在原生支持Pydantic模型作为任务参数和返回值。这一改进使得类型检查和数据验证更加方便,特别是在构建类型安全的分布式系统时。
6. Redis代理稳定性提升
针对长期存在的Redis连接稳定性问题,团队已经找到并修复了根本原因。这一改进显著提高了使用Redis作为消息代理时的可靠性。
7. 信号处理改进
REMAP_SIGTERM特性现在被正式支持并完善了文档。这一功能允许用户将SIGTERM信号重新映射为SIGQUIT,从而使用TERM信号来启动软关机或冷关机流程。
其他重要改进
- 修复了Cassandra后端端口设置不生效的问题
- 优化了任务链中包含组任务时的处理逻辑
- 修正了Django集成中数据库连接关闭时的错误处理
- 改进了内存限制的计算方式(现在正确使用1024字节作为1KB)
- 修复了通过标记头撤销任务时的边界情况
- 改进了和弦任务中嵌套和弦的错误处理
升级建议
对于正在使用Celery的生产环境,建议先在测试环境中验证5.5.0rc5版本的兼容性。特别是使用以下特性的用户需要重点关注:
- 使用RabbitMQ Quorum队列的用户应测试新的ETA机制
- 计划迁移到Google Pub/Sub传输层的用户
- 需要更优雅关机机制的环境
- 使用Redis作为代理且曾遇到稳定性问题的部署
新版本带来了多项重要改进和稳定性提升,是值得考虑升级的版本。团队鼓励用户积极测试并提供反馈,以帮助完善即将发布的正式版。
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0212
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0137
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
GLM-5.2智谱开源 GLM-5.2,这是针对长文本任务的最新旗舰模型。相较于前代产品 GLM-5.1,它在长文本任务处理能力上实现了显著飞跃,并且首次在稳定的 100 万 token 上下文中提供这一能力。Jinja00
SwanLab⚡️SwanLab - an open-source, modern-design AI training tracking and visualization tool. Supports Cloud / Self-hosted use. Integrated with PyTorch / Transformers / LLaMA Factory / veRL/ Swift / Ultralytics / MMEngine / Keras etc.Python00
tiny-universe《大模型白盒子构建指南》:一个全手搓的Tiny-UniverseJupyter Notebook03