ZenML 0.74.0版本发布:机器学习工作流平台迎来重大升级
项目简介
ZenML是一个开源的机器学习工作流编排平台,它通过标准化的接口和组件帮助数据科学家和机器学习工程师构建可重复、可扩展的ML管道。作为一个MLOps框架,ZenML提供了从数据准备到模型部署的端到端解决方案,支持多种云服务和基础设施。
核心升级内容
1. 云服务集成增强
本次0.74.0版本在云服务集成方面带来了多项重要改进:
SageMaker管道调度功能现在支持用户直接在ZenML中设置定时运行的机器学习管道,这对于需要定期更新模型的业务场景特别有价值。用户可以通过简单的配置实现按小时、天或周等不同频率的自动模型训练和评估。
Azure容器注册表(ACR)隐式认证简化了Azure环境下的身份验证流程。当ZenML运行在Azure环境中时,系统可以自动利用Azure托管身份进行认证,无需额外配置凭据,大大提升了在Azure云上部署ML工作流的安全性和便捷性。
Vertex AI持久资源支持针对Google Cloud的Vertex AI Step Operator进行了优化。现在用户可以配置持久性计算资源,避免每次运行步骤时都重新创建资源,显著减少了开发迭代时间,特别适合需要频繁实验和调试的场景。
2. 平台性能优化
数据库查询性能是本版本的重点优化领域:
- 为运行元数据和标签添加了专门的索引,大幅提升了涉及这些字段的查询速度
- 改进了管道、运行模板、模型和工件的查询逻辑,减少了不必要的数据库负载
- 优化了工件的过滤机制,使得在大规模数据集下也能快速定位特定工件
这些改进使得ZenML在处理复杂ML工作流时响应更加迅速,特别是在企业级部署中表现更为突出。
3. 用户体验提升
自定义日志格式功能允许团队根据自身需求调整日志输出格式,便于与现有日志管理系统集成。这对于需要统一日志格式的大型组织特别有用。
时区处理全面改进解决了之前版本中存在的时区不一致问题。现在所有时间相关操作(特别是定时任务)都能正确处理时区信息,确保跨地域团队协作时不会因时区差异导致混淆。
运行配置字典支持使得通过代码触发管道时更加灵活,用户可以直接传递字典形式的配置,而不必依赖特定的配置对象。
技术细节解析
认证安全增强
新版本引入了API令牌支持,为仪表板提供了有时间限制的API认证机制。这种短期有效的令牌比长期凭证更安全,特别适合自动化脚本和CI/CD流程。
代码仓库管理改进
对代码仓库的处理逻辑进行了多项优化:
- 更好地处理符号链接,确保代码下载时保持正确的文件结构
- 修复了自定义风味组件代码下载的问题
- 改进了GitHub代码下载的可靠性
这些改进使得基于代码仓库的ML管道开发体验更加流畅。
材料化器更新
针对PyTorch新版本更新了材料化器实现,确保与最新PyTorch版本的兼容性。材料化器是ZenML中负责将Python对象序列化和反序列化的组件,对管道运行数据的持久化至关重要。
部署与运维
Helm图表在这一版本中经历了重大重构:
- 从源代码树中移出,使部署结构更清晰
- 增加了多项配置选项,提高了部署灵活性
- 优化了Kubernetes服务连接器的稳定性
这些改进使得在Kubernetes集群上部署和管理ZenML更加可靠和方便。
总结
ZenML 0.74.0版本通过增强的云服务集成、显著提升的性能和多项用户体验改进,进一步巩固了其作为开源MLOps解决方案的地位。特别是对三大云平台(AWS、Azure和GCP)的专业化支持,使得在不同云环境间迁移ML工作流变得更加无缝。数据库查询优化则解决了大规模部署时的性能瓶颈问题。
对于现有用户,建议重点关注时区处理和认证机制的变更,这些可能需要相应的配置调整。新用户则可以充分利用改进后的云服务集成功能快速搭建生产级的机器学习管道。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C0100
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python059
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
AgentCPM-Explore没有万亿参数的算力堆砌,没有百万级数据的暴力灌入,清华大学自然语言处理实验室、中国人民大学、面壁智能与 OpenBMB 开源社区联合研发的 AgentCPM-Explore 智能体模型基于仅 4B 参数的模型,在深度探索类任务上取得同尺寸模型 SOTA、越级赶上甚至超越 8B 级 SOTA 模型、比肩部分 30B 级以上和闭源大模型的效果,真正让大模型的长程任务处理能力有望部署于端侧。Jinja00