Presto项目C++ CI任务从CircleCI迁移至GitHub Actions的技术实践
2025-05-13 10:49:57作者:裘晴惠Vivianne
背景与挑战
Presto作为Facebook开源的分布式SQL查询引擎,其C++组件(代号Prestissimo)的持续集成(CI)流程一直依赖于CircleCI服务。随着CircleCI账户即将在年底停用,团队面临将全部CI任务迁移至GitHub Actions的紧迫需求。
迁移目标与要求
核心迁移目标包含两个关键验证点:
- C++代码编译验证:确保所有C++源代码能够成功编译
- 单元测试执行:运行所有C++单元测试并验证通过
技术实现方案
构建环境配置
迁移过程中面临的主要技术挑战是构建时间的优化。初始测试显示:
- Linux环境:标准runner上构建耗时约1小时20分钟
- macOS环境:由于需要从头构建依赖项,初始构建时间达到2小时20分钟
通过升级到Xcode 15并使用Clang 15编译器,macOS构建时间成功减少了1/3,降至约1小时40分钟,与Linux环境的构建时间趋于一致。
依赖管理策略
针对不同平台的依赖管理采取了差异化方案:
- Linux平台:利用系统包管理器预装基础依赖
- macOS平台:采用Homebrew结合源码构建的方式确保依赖一致性
性能优化实践
迁移过程中实施的关键优化措施包括:
- 编译器升级:采用Clang 15显著提升构建效率
- 缓存机制:合理设置GitHub Actions缓存以减少重复构建
- 并行构建:充分利用多核CPU资源加速编译过程
- 依赖预装:对稳定依赖项采用预装方式节省构建时间
实施效果与展望
当前迁移方案已实现基本功能验证,后续计划包括:
- 资源扩容:申请更大规格的runner以进一步缩短CI时间
- 分层测试:实现编译与测试的分离执行,提高反馈速度
- 多平台验证:扩展Windows平台的构建验证
- 监控体系:建立CI时长监控机制,及时发现性能退化
这次迁移不仅是CI平台的更换,更是对Presto C++组件构建体系的全面升级,为后续的开发迭代奠定了更可靠的基础设施。
登录后查看全文
热门项目推荐
相关项目推荐
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
xw-cli实现国产算力大模型零门槛部署,一键跑通 Qwen、GLM-4.7、Minimax-2.1、DeepSeek-OCR 等模型Go06
yuanrongopenYuanrong runtime:openYuanrong 多语言运行时提供函数分布式编程,支持 Python、Java、C++ 语言,实现类单机编程高性能分布式运行。Go051
pc-uishopTNT开源商城系统使用java语言开发,基于SpringBoot架构体系构建的一套b2b2c商城,商城是满足集平台自营和多商户入驻于一体的多商户运营服务系统。包含PC 端、手机端(H5\APP\小程序),系统架构以及实现案例中应满足和未来可能出现的业务系统进行对接。Vue00
ebook-to-mindmapepub、pdf 拆书 AI 总结TSX01
热门内容推荐
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
541
3.77 K
Ascend Extension for PyTorch
Python
351
419
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
889
615
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
338
186
openJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力
TSX
988
253
openGauss kernel ~ openGauss is an open source relational database management system
C++
169
233
暂无简介
Dart
778
194
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
115
141
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.35 K
759