Kubeflow Training Operator 中 Volcano 调度器集成与队列优先级支持
Kubeflow Training Operator 作为 Kubernetes 上运行机器学习训练工作负载的关键组件,其调度能力直接影响着集群资源的利用效率。本文深入探讨了该组件与 Volcano 调度器的集成机制,以及如何为训练任务配置队列和优先级。
调度器集成架构
Kubeflow Training Operator 通过 RunPolicy 结构体中的 SchedulingPolicy 字段支持与多种调度系统的集成。对于 Volcano 调度器,需要在 Operator 的启动参数中明确指定 --gang-scheduler-name=volcano 参数,这种设计源于 Volcano 作为独立调度器需要特殊处理 Pod 组调度的情况。
队列与优先级配置
在训练任务规范中,可以通过 SchedulingPolicy 配置以下关键参数:
- queue:指定任务提交到的队列名称
- priorityClassName:设置任务优先级类
- minResources:定义任务所需最小资源
- scheduleTimeoutSeconds:设置调度超时时间
这些配置通过 Volcano 调度器实现高级调度功能,如资源预留、任务抢占和公平调度等。
与 Kueue 集成的对比
值得注意的是,Kubeflow Training Operator 对 Kueue 的支持采用了不同的集成方式。Kueue 作为作业队列管理系统而非调度器,仅需通过简单的标签(如 kueue.x-k8s.io/queue-name)即可实现队列管理,无需修改 Operator 配置。这种差异源于两者在 Kubernetes 生态中的不同定位:Volcano 是完整的调度器替代方案,而 Kueue 是构建在默认调度器之上的队列管理层。
未来发展
社区正在推进调度框架的统一化工作,计划通过 #2437 等改进实现更一致的调度接口。这将简化用户配置,同时保持对不同调度后端的兼容性。未来版本可能会引入更灵活的调度策略配置方式,降低用户的学习曲线。
对于需要高级调度功能的用户,建议关注项目更新,及时了解调度集成方面的改进。当前版本中,Volcano 调度器仍然是实现复杂调度策略(如 Gang Scheduling、公平队列等)的最佳选择。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C097
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python058
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
AgentCPM-Explore没有万亿参数的算力堆砌,没有百万级数据的暴力灌入,清华大学自然语言处理实验室、中国人民大学、面壁智能与 OpenBMB 开源社区联合研发的 AgentCPM-Explore 智能体模型基于仅 4B 参数的模型,在深度探索类任务上取得同尺寸模型 SOTA、越级赶上甚至超越 8B 级 SOTA 模型、比肩部分 30B 级以上和闭源大模型的效果,真正让大模型的长程任务处理能力有望部署于端侧。Jinja00