深入解析Caicloud/Cyclone中的Kubernetes资源使用
前言
Caicloud/Cyclone作为一款基于Kubernetes原生的工作流引擎,其设计与实现深度依赖Kubernetes的各种资源。本文将全面剖析Cyclone中使用的各类Kubernetes资源,包括原生资源和自定义资源,帮助读者深入理解Cyclone的工作原理。
Kubernetes原生资源详解
1. Namespace(命名空间)
Cyclone采用多租户隔离架构,每个租户通常拥有两个命名空间:
- 元数据命名空间:存储租户的元数据信息,位于Cyclone运行的控制集群中,命名格式为
cyclone-{租户名称} - 工作负载命名空间:执行实际工作流的命名空间,可位于控制集群或工作集群
最佳实践建议:虽然可以指定两者为同一命名空间,但出于单一职责原则考虑,建议分开使用。这样在工作负载命名空间出现问题时,不会影响元数据安全。
2. Secret(密钥)
Cyclone通过Secret安全存储外部系统集成所需的认证信息,包括:
- 代码仓库凭证
- 镜像仓库凭证
- 集群认证信息
- 其他敏感配置
3. PVC(持久卷声明)
Cyclone使用PVC实现Pod间的数据共享,主要分为两类:
-
租户级PVC:每个租户在工作负载命名空间中拥有一个PVC
- 共享同一工作流运行中各Pod的运行时数据
- 可选地缓存数据以加速后续工作流执行
-
Cyclone-server PVC:存储工作流运行产生的日志和制品
- 单副本部署时可选使用Pod本地存储
- 多副本部署时必须使用共享PVC
4. ResourceQuota(资源配额)
每个租户的工作负载命名空间中配置ResourceQuota,用于限制:
- CPU使用量
- 内存使用量
- 其他可配额资源
5. Pod(容器组)
作为Kubernetes中最小的调度单元,Pod在Cyclone中扮演关键角色:
- 工作负载Pod:每个阶段对应一个Pod,执行阶段定义的任务
- GC Pod:每个工作流运行对应一个Pod,负责清理临时数据
- PVC监控Pod:每个租户一个长期运行的Pod,监控PVC使用情况
Cyclone自定义资源详解
1. ExecutionCluster(执行集群)
集群范围资源,存储集群认证信息。Cyclone-workflow-engine通过监听ExecutionCluster创建事件,启动对应的Pod Controller来监控指定集群中的Pod。
2. Project(项目)
租户范围资源,作为逻辑概念管理:
- 一组相关工作流
- 共享配置(如阶段Pod的默认配额)
3. Resource(资源)
租户范围资源,定义阶段使用的输入/输出数据:
- 代码仓库内容
- Docker镜像
- 其他类型资源
每种资源类型都需要对应的Resolver来实现拉取(输入)和推送(输出)操作。
4. Stage(阶段)
租户范围资源,工作流的最小执行单元,支持两种工作负载类型:
- Pod工作负载:使用Kubernetes Pod规范执行任务
- 委托工作负载:通过URL将任务委托给外部系统执行
5. Workflow(工作流)
租户范围资源,由多个阶段组成的有向无环图(DAG),定义完整的执行流程。
6. WorkflowTrigger(工作流触发器)
租户范围资源,支持两种自动触发方式:
- 定时触发(Cron)
- SCM Webhook触发
7. WorkflowRun(工作流运行)
租户范围资源,记录工作流的执行状态和结果。当创建WorkflowRun时,Cyclone-workflow-engine会开始执行对应工作流。
工作流执行全流程解析
假设我们采用控制集群和工作集群分离的部署架构,以下是工作流执行的完整步骤:
- 创建租户:系统在控制集群创建
cyclone-devops命名空间存储元数据 - 集群集成配置:将工作集群认证信息存储为Secret
- 工作负载命名空间准备:在工作集群创建
cyclone-devops-worker命名空间及相关资源 - 工作流构建:创建Resource、Stage和Workflow资源
- 工作流执行:创建WorkflowRun触发执行
- 清理阶段:工作流完成后自动启动GC Pod清理数据
总结
通过深入理解Cyclone使用的各类Kubernetes资源,我们可以更好地:
- 规划集群资源分配
- 优化工作流执行效率
- 排查系统运行问题
- 设计更合理的工作流
Cyclone充分利用Kubernetes原生能力构建工作流引擎,这种设计使其具有极好的扩展性和稳定性,是云原生场景下CI/CD的理想选择。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00