Procrastinate 3.0.0发布:异步任务队列的重大升级
项目简介
Procrastinate是一个基于Python的异步任务队列系统,它允许开发者将耗时的任务推迟到后台执行,从而提高应用程序的响应速度。该项目最初由法国公司PeopleDoc开发并开源,现已成为一个活跃的开源项目。Procrastinate特别适合需要处理大量后台任务的Web应用,它提供了简单易用的API、可靠的执行保证以及与Django等流行框架的良好集成。
3.0.0版本核心改进
1. 工作进程重构
本次版本最重大的变化是对工作进程核心逻辑的重构。这一改进解决了长期存在的性能问题,特别是在高并发场景下。新版本显著减少了数据库查询次数,优化了资源利用率。
重构后的工作进程现在采用更高效的作业处理循环,能够更好地处理并发任务,同时保持系统的稳定性。这对于运行大量后台任务的应用来说,意味着更低的数据库负载和更高的吞吐量。
2. 任务取消机制改进
3.0.0版本引入了更完善的异步任务取消机制:
- 异步任务现在通过asyncio的cancel方法实现取消,开发者可以使用asyncio的shield功能优雅地处理取消请求
- 同步任务虽然不能直接取消,但可以通过检查job_context.should_abort()来响应中止请求
- 新增了job_context.abort_reason属性,帮助开发者区分任务是被用户显式中止还是因为工作进程关闭
这一改进使得任务管理更加灵活和安全,特别是在需要长时间运行的任务场景中。
3. 优雅关闭机制
新版本改进了工作进程的关闭流程:
- 引入了shutdown_graceful_timeout配置项,控制关闭时的超时时间
- 关闭时,所有运行中的任务(包括同步和异步)都会收到中止请求
- 开发者可以编写代码响应这些中止请求,确保资源被正确释放
这对于需要频繁部署更新的生产环境尤为重要,可以避免任务被意外中断导致数据不一致。
4. 状态管理优化
任务状态管理进行了以下改进:
- 将中止请求从任务状态(ABORTING)分离为独立字段(Job.abort_requested)
- 移除了job_context.job_result属性,改为更直接的job_context.start_timestamp
- 优化了JobContext对象的类型提示,消除了不必要的可选类型声明
这些变化使得状态管理更加清晰,减少了潜在的混淆点。
5. 配置项重命名
为了提高配置项的语义明确性:
- timeout参数更名为fetch_job_polling_interval,更准确地反映其用途
- 新增abort_job_polling_interval参数,控制中止请求的轮询间隔
- remove_error参数更名为remove_failed,保持术语一致性
迁移指南
升级到3.0.0版本需要注意以下几点:
-
迁移流程变更:现在迁移分为pre和post两个阶段,pre迁移在代码升级前执行,post迁移在代码升级后执行
-
Python 3.8支持已移除,请确保运行环境使用Python 3.9或更高版本
-
检查代码中对JobContext的用法,特别是已移除的job_result属性和should_abort_async方法
-
更新配置文件中重命名的参数
-
如果使用了中止功能,需要检查相关代码是否适应新的中止机制
性能优化
除了核心重构带来的性能提升外,3.0.0版本还包含以下优化:
- 修复了获取作业时的性能回归问题
- 减少了高并发场景下的数据库查询次数
- 优化了轮询机制,降低了系统开销
开发者体验改进
新版本在开发者体验方面也有多项提升:
- 改进了类型提示,特别是JobContext.task属性
- 新增了InMemoryConnector的异步支持,便于测试
- 添加了Windows平台支持
- 引入了开发容器(devcontainer)配置,简化开发环境搭建
总结
Procrastinate 3.0.0是一个重要的里程碑版本,它通过核心架构的重构和多项改进,显著提升了系统的性能、可靠性和易用性。特别是新的任务取消机制和优雅关闭功能,使得它更适合生产环境中的关键任务场景。
对于现有用户,虽然升级需要一些适配工作,但这些改进带来的长期收益值得投入。新用户可以基于这个更成熟的版本开始使用Procrastinate,享受它提供的强大功能和稳定性。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C030
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00