Pillow项目对Python 3.13无GIL版本的技术适配实践
Python 3.13版本引入了一个重要的实验性功能——可选全局解释器锁(GIL)的构建版本,这标志着Python向真正的多线程并行迈出了重要一步。作为Python生态中重要的图像处理库,Pillow项目团队及时完成了对无GIL版本的技术适配工作,为整个Python生态的无GIL迁移提供了宝贵经验。
技术适配背景
Python传统的全局解释器锁(GIL)一直是制约多线程性能的主要瓶颈。随着PEP 703的通过,Python 3.13首次提供了可选的无GIL构建版本(称为"free-threaded"版本),这需要所有C扩展模块进行相应的适配才能正常工作。
Pillow作为Python生态中广泛使用的图像处理库,其核心部分由C语言实现,因此必须进行专门的技术适配以确保在无GIL环境下的正确性和线程安全性。
适配工作主要内容
Pillow团队系统地完成了以下关键适配工作:
-
构建系统适配:建立了专门的CI测试流程,确保代码在无GIL构建下能够正确编译和运行测试。
-
API迁移:移除了所有在无GIL构建下不安全的"借用引用"(borrowed references)API调用,改用安全的引用管理方式。
-
线程安全审计:全面检查了C扩展模块的线程安全性,确保在多线程环境下不会出现资源竞争和数据不一致问题。
-
模块标记:通过Py_mod_gil插槽明确标记C扩展模块为线程安全,告知Python解释器这些模块可以在无GIL环境下安全使用。
-
预发布支持:提供了针对无GIL构建的预编译wheel包,方便开发者提前测试和集成。
技术挑战与解决方案
在适配过程中,团队面临的主要技术挑战包括:
-
引用计数管理:无GIL环境下,传统的借用引用方式不再安全。团队通过全面审计和修改,确保所有Python对象引用都得到正确管理。
-
全局状态保护:图像处理库中可能存在一些全局状态,团队仔细检查并添加了必要的同步机制。
-
性能考量:在保证线程安全的同时,尽量减少同步操作带来的性能开销。
对生态系统的意义
Pillow项目的成功适配为Python生态中其他C扩展模块提供了重要参考。作为Python科学计算和数据处理栈的基础组件之一,Pillow的适配工作使得整个科学Python生态系统能够更顺利地过渡到无GIL的未来。
未来展望
随着Python 3.13的正式发布和Pillow 11.0.0版本的推出,开发者现在可以在无GIL环境下使用完整的图像处理功能。这为开发真正并行的图像处理应用打开了新的大门,特别是在需要处理大量图像或实时视频流的场景中。
Pillow团队将继续关注无GIL构建的稳定性和性能表现,并根据实际使用反馈进行持续优化,为Python生态的无GIL未来贡献力量。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C091
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python058
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
AgentCPM-Explore没有万亿参数的算力堆砌,没有百万级数据的暴力灌入,清华大学自然语言处理实验室、中国人民大学、面壁智能与 OpenBMB 开源社区联合研发的 AgentCPM-Explore 智能体模型基于仅 4B 参数的模型,在深度探索类任务上取得同尺寸模型 SOTA、越级赶上甚至超越 8B 级 SOTA 模型、比肩部分 30B 级以上和闭源大模型的效果,真正让大模型的长程任务处理能力有望部署于端侧。Jinja00