Apache DolphinScheduler 使用教程
项目介绍
Apache DolphinScheduler 是一个现代的数据编排平台,旨在通过低代码方式创建高性能的工作流。它提供了一个强大的用户界面,专注于解决数据管道中的复杂任务依赖,并提供了多种即插即用的作业类型。DolphinScheduler 的关键特性包括易于部署、易于使用、高可靠性、高可用性和高性能。
项目快速启动
环境准备
- Java 8 或更高版本
- Maven 3.6.x
- Git
克隆项目
git clone https://github.com/apache/dolphinscheduler.git
cd dolphinscheduler
构建项目
mvn clean install -DskipTests
启动服务
cd dolphinscheduler-standalone-server
sh bin/start.sh
访问界面
打开浏览器,访问 http://localhost:12345
,使用默认用户名和密码(admin/dolphinscheduler123)登录。
应用案例和最佳实践
数据管道自动化
DolphinScheduler 可以用于自动化复杂的数据管道,例如从多个数据源收集数据,进行数据清洗和转换,最后加载到数据仓库中。通过定义工作流和任务依赖,可以确保数据处理的顺序和一致性。
定时任务调度
使用 DolphinScheduler 可以轻松创建和管理定时任务。例如,可以设置每天固定时间执行数据备份任务,或者每周执行一次数据分析任务。
多租户管理
DolphinScheduler 支持多租户管理,可以为不同的用户或团队创建独立的工作空间,确保数据和任务的隔离。
典型生态项目
Apache Flink
DolphinScheduler 可以与 Apache Flink 集成,用于调度 Flink 作业。通过 DolphinScheduler 的界面,可以轻松创建和管理 Flink 任务,并监控任务的执行状态。
Apache Kafka
DolphinScheduler 可以与 Apache Kafka 集成,用于调度 Kafka 消费者和生产者任务。通过 DolphinScheduler 的界面,可以轻松创建和管理 Kafka 任务,并监控任务的执行状态。
Apache Hive
DolphinScheduler 可以与 Apache Hive 集成,用于调度 Hive 查询任务。通过 DolphinScheduler 的界面,可以轻松创建和管理 Hive 任务,并监控任务的执行状态。
通过以上内容,您可以快速了解和使用 Apache DolphinScheduler,并探索其在实际应用中的最佳实践和生态项目集成。
HunyuanImage-3.0
HunyuanImage-3.0 统一多模态理解与生成,基于自回归框架,实现文本生成图像,性能媲美或超越领先闭源模型00- DDeepSeek-V3.2-ExpDeepSeek-V3.2-Exp是DeepSeek推出的实验性模型,基于V3.1-Terminus架构,创新引入DeepSeek Sparse Attention稀疏注意力机制,在保持模型输出质量的同时,大幅提升长文本场景下的训练与推理效率。该模型在MMLU-Pro、GPQA-Diamond等多领域公开基准测试中表现与V3.1-Terminus相当,支持HuggingFace、SGLang、vLLM等多种本地运行方式,开源内核设计便于研究,采用MIT许可证。【此简介由AI生成】Python00
GitCode-文心大模型-智源研究院AI应用开发大赛
GitCode&文心大模型&智源研究院强强联合,发起的AI应用开发大赛;总奖池8W,单人最高可得价值3W奖励。快来参加吧~0369Hunyuan3D-Part
腾讯混元3D-Part00ops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。C++095AI内容魔方
AI内容专区,汇集全球AI开源项目,集结模块、可组合的内容,致力于分享、交流。02Spark-Chemistry-X1-13B
科大讯飞星火化学-X1-13B (iFLYTEK Spark Chemistry-X1-13B) 是一款专为化学领域优化的大语言模型。它由星火-X1 (Spark-X1) 基础模型微调而来,在化学知识问答、分子性质预测、化学名称转换和科学推理方面展现出强大的能力,同时保持了强大的通用语言理解与生成能力。Python00GOT-OCR-2.0-hf
阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile09
- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00
项目优选









