深入解析Caicloud/Cyclone中的Kubernetes资源使用
前言
Caicloud/Cyclone作为一款基于Kubernetes原生的工作流引擎,其设计与实现深度依赖Kubernetes的各种资源。本文将全面剖析Cyclone中使用的各类Kubernetes资源,包括原生资源和自定义资源,帮助读者深入理解Cyclone的工作原理。
Kubernetes原生资源详解
1. Namespace(命名空间)
Cyclone采用多租户隔离架构,每个租户通常拥有两个命名空间:
- 元数据命名空间:存储租户的元数据信息,位于Cyclone运行的控制集群中,命名格式为
cyclone-{租户名称} - 工作负载命名空间:执行实际工作流的命名空间,可位于控制集群或工作集群
最佳实践建议:虽然可以指定两者为同一命名空间,但出于单一职责原则考虑,建议分开使用。这样在工作负载命名空间出现问题时,不会影响元数据安全。
2. Secret(密钥)
Cyclone通过Secret安全存储外部系统集成所需的认证信息,包括:
- 代码仓库凭证
- 镜像仓库凭证
- 集群认证信息
- 其他敏感配置
3. PVC(持久卷声明)
Cyclone使用PVC实现Pod间的数据共享,主要分为两类:
-
租户级PVC:每个租户在工作负载命名空间中拥有一个PVC
- 共享同一工作流运行中各Pod的运行时数据
- 可选地缓存数据以加速后续工作流执行
-
Cyclone-server PVC:存储工作流运行产生的日志和制品
- 单副本部署时可选使用Pod本地存储
- 多副本部署时必须使用共享PVC
4. ResourceQuota(资源配额)
每个租户的工作负载命名空间中配置ResourceQuota,用于限制:
- CPU使用量
- 内存使用量
- 其他可配额资源
5. Pod(容器组)
作为Kubernetes中最小的调度单元,Pod在Cyclone中扮演关键角色:
- 工作负载Pod:每个阶段对应一个Pod,执行阶段定义的任务
- GC Pod:每个工作流运行对应一个Pod,负责清理临时数据
- PVC监控Pod:每个租户一个长期运行的Pod,监控PVC使用情况
Cyclone自定义资源详解
1. ExecutionCluster(执行集群)
集群范围资源,存储集群认证信息。Cyclone-workflow-engine通过监听ExecutionCluster创建事件,启动对应的Pod Controller来监控指定集群中的Pod。
2. Project(项目)
租户范围资源,作为逻辑概念管理:
- 一组相关工作流
- 共享配置(如阶段Pod的默认配额)
3. Resource(资源)
租户范围资源,定义阶段使用的输入/输出数据:
- 代码仓库内容
- Docker镜像
- 其他类型资源
每种资源类型都需要对应的Resolver来实现拉取(输入)和推送(输出)操作。
4. Stage(阶段)
租户范围资源,工作流的最小执行单元,支持两种工作负载类型:
- Pod工作负载:使用Kubernetes Pod规范执行任务
- 委托工作负载:通过URL将任务委托给外部系统执行
5. Workflow(工作流)
租户范围资源,由多个阶段组成的有向无环图(DAG),定义完整的执行流程。
6. WorkflowTrigger(工作流触发器)
租户范围资源,支持两种自动触发方式:
- 定时触发(Cron)
- SCM Webhook触发
7. WorkflowRun(工作流运行)
租户范围资源,记录工作流的执行状态和结果。当创建WorkflowRun时,Cyclone-workflow-engine会开始执行对应工作流。
工作流执行全流程解析
假设我们采用控制集群和工作集群分离的部署架构,以下是工作流执行的完整步骤:
- 创建租户:系统在控制集群创建
cyclone-devops命名空间存储元数据 - 集群集成配置:将工作集群认证信息存储为Secret
- 工作负载命名空间准备:在工作集群创建
cyclone-devops-worker命名空间及相关资源 - 工作流构建:创建Resource、Stage和Workflow资源
- 工作流执行:创建WorkflowRun触发执行
- 清理阶段:工作流完成后自动启动GC Pod清理数据
总结
通过深入理解Cyclone使用的各类Kubernetes资源,我们可以更好地:
- 规划集群资源分配
- 优化工作流执行效率
- 排查系统运行问题
- 设计更合理的工作流
Cyclone充分利用Kubernetes原生能力构建工作流引擎,这种设计使其具有极好的扩展性和稳定性,是云原生场景下CI/CD的理想选择。
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
unified-cache-managementUnified Cache Manager(推理记忆数据管理器),是一款以KV Cache为中心的推理加速套件,其融合了多类型缓存加速算法工具,分级管理并持久化推理过程中产生的KV Cache记忆数据,扩大推理上下文窗口,以实现高吞吐、低时延的推理体验,降低每Token推理成本。Python02
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
HunyuanWorld-Mirror混元3D世界重建模型,支持多模态先验注入和多任务统一输出Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Python00
Spark-Scilit-X1-13B科大讯飞Spark Scilit-X1-13B基于最新一代科大讯飞基础模型,并针对源自科学文献的多项核心任务进行了训练。作为一款专为学术研究场景打造的大型语言模型,它在论文辅助阅读、学术翻译、英语润色和评论生成等方面均表现出色,旨在为研究人员、教师和学生提供高效、精准的智能辅助。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile014
Spark-Chemistry-X1-13B科大讯飞星火化学-X1-13B (iFLYTEK Spark Chemistry-X1-13B) 是一款专为化学领域优化的大语言模型。它由星火-X1 (Spark-X1) 基础模型微调而来,在化学知识问答、分子性质预测、化学名称转换和科学推理方面展现出强大的能力,同时保持了强大的通用语言理解与生成能力。Python00- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00