MLRun v1.8.0 发布:模型监控正式发布与AI全生命周期管理增强
2025-07-01 16:26:44作者:瞿蔚英Wynne
MLRun 是一个开源的机器学习运维(MLOps)平台,旨在简化和加速机器学习项目的全生命周期管理。从数据准备、模型训练到部署和监控,MLRun 提供了一套完整的工具链,帮助数据科学家和工程师更高效地构建和运维机器学习应用。
模型监控功能正式发布
MLRun v1.8.0 版本最重大的更新是模型监控(Model Monitoring)功能的正式发布(GA)。这一功能需要 Nuclio>=1.13.12 支持,且与之前版本不兼容。对于正在使用 v1.7.x 版本的用户,升级前需要特别注意:
- 升级前可选择性重新部署所有监控的服务函数,设置
set_tracking(False) - 运行
project.disable_model_monitoring命令删除所有监控应用、基础设施pod和数据流 - 升级完成后,可以像往常一样开始使用模型监控功能
新版本在模型监控方面有多项增强:
- 支持大规模运行,利用MLRun的额外副本/工作者提高处理能力
- 新增文档型模型的实验跟踪功能,通过新的
DocumentArtifact类型管理LangChain文档 - 提供测试模型功能,可在部署前运行和评估模型,节省时间和资源
- 支持为模型端点自定义名称
- 简化了创建模型监控告警的SDK接口
告警与通知系统改进
告警功能现在默认启用,并新增了告警激活历史记录功能。用户可以通过SDK列出告警激活历史,并支持多种参数过滤。在通知方面,新增了邮件通知功能,进一步丰富了通知渠道。
运行时与基础设施优化
在运行时方面,add_model 和 add_route 方法新增了 creation_strategy 参数,用于定义端点的创建或更新策略。基础设施方面,MLRun 现在支持 Confluent Kafka 7.8,同时KFP不再包含在MLRun基础镜像中,而是提供了专门的 mlrun/mlrun-kfp 镜像,解决了依赖冲突问题。
用户体验提升
UI方面有多项改进:
- 项目主页的主要计数器现在可点击,取代了"查看全部"链接
- 新增工作流重试功能,保持相同的实验ID重新运行
- 跨项目视图显示项目内的告警激活数量
- 查询实现分页,提高响应速度
- 作业和工作流监控界面采用弹出式过滤器,优化空间利用
- 特征存储界面同样采用弹出式过滤器,提升用户体验
文档与教程更新
新增了"使用向量数据库进行实验跟踪"教程,详细介绍了如何利用MLRun管理文档型模型。同时新增了"本地与远程工作流"说明文档,帮助用户理解不同环境下的工作流执行差异。
问题修复与性能优化
v1.8.0版本修复了多个问题,包括:
- 大YAML文件查看优化
- 非调度pod的错误信息改进
- 项目获取artifact功能修复
- 模型监控应用内存泄漏修复
- 标签验证增强
- Docker Registry变更时的密钥使用问题
- 通知发送机制优化
- 非root用户构建镜像问题修复
- 工作流中artifact标签问题修复
- 多个artifact标记为latest的问题解决
- 性能优化减少超时导致的worker重启
- 模型监控应用中服务函数响应不匹配问题修复
- 通知卡在"Pending"状态问题解决
MLRun v1.8.0 通过模型监控功能的正式发布和多项增强,进一步巩固了其作为全生命周期MLOps平台的地位,为机器学习项目的开发、部署和运维提供了更加强大和稳定的支持。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0191
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook0114
Step-3.7-FlashStep-3.7-Flash是一个拥有 1980 亿参数的稀疏混合专家(MoE)视觉语言模型,由 1960 亿参数的语言主干网络和 18 亿参数的视觉编码器组合而成,具备原生图像理解能力。Python00
JoyAI-EchoJoyAI-Echo,这是一个独立的、仅用于推理的版本,旨在实现分钟级多镜头音视频生成。它采用了经过蒸馏的DMD生成器、配对的跨模态记忆以及故事级别的一致性。其性能的核心在于,一个跨模态视听记忆库能够在长达五分钟的视频中保持角色外观和语音音色的一致性。同时,一个训练后处理流程将基于记忆的强化学习与分布匹配蒸馏相结合,实现了7.5倍的速度提升,显著增强了视觉质量和对齐效果。00
omega-aiOmega-AI:基于java打造的深度学习框架,帮助你快速搭建神经网络,实现模型推理与训练,引擎支持自动求导,多线程与GPU运算,GPU支持CUDA,CUDNN。Java04
llm-universe本项目是一个面向小白开发者的大模型应用开发教程,在线阅读地址:https://datawhalechina.github.io/llm-universe/Jupyter Notebook08
热门内容推荐
最新内容推荐
项目优选
收起
暂无描述
Dockerfile
763
4.96 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
856
1.92 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
676
1.33 K
Ascend Extension for PyTorch
Python
719
875
deepin linux kernel
C
32
16
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
455
437
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.07 K
1.09 K
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
150
252
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
297
114
昇腾LLM分布式训练框架
Python
178
220