Apache DolphinScheduler 数据源配置完全指南
2026-02-04 04:42:27作者:苗圣禹Peter
概述
Apache DolphinScheduler 作为一款优秀的分布式工作流任务调度系统,其数据源配置是系统部署和使用的重要环节。本文将详细介绍 DolphinScheduler 中元数据库的配置方法以及数据源中心的设置技巧,帮助用户快速搭建稳定可靠的数据连接环境。
元数据库配置
元数据库选择
DolphinScheduler 支持将元数据存储在关系型数据库中,目前官方支持 PostgreSQL 和 MySQL 两种数据库。元数据库的选择会影响系统的性能和稳定性,建议根据实际业务场景进行选择:
- MySQL:适合大多数业务场景,社区支持完善
- PostgreSQL:适合需要更严格事务支持的场景
MySQL 元数据库配置
数据库初始化
对于 MySQL 5.6/5.7 版本:
mysql -uroot -p
# 创建数据库
mysql> CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
# 创建用户并授权(替换{user}和{password})
mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'%' IDENTIFIED BY '{password}';
mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'localhost' IDENTIFIED BY '{password}';
mysql> flush privileges;
对于 MySQL 8.0+ 版本:
mysql -uroot -p
# 创建数据库
mysql> CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
# 创建用户并授权(替换{user}和{password})
mysql> CREATE USER '{user}'@'%' IDENTIFIED BY '{password}';
mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'%';
mysql> CREATE USER '{user}'@'localhost' IDENTIFIED BY '{password}';
mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'localhost';
mysql> FLUSH PRIVILEGES;
环境变量配置
配置以下环境变量(替换{user}和{password}):
export DATABASE=mysql
export SPRING_PROFILES_ACTIVE=${DATABASE}
export SPRING_DATASOURCE_URL="jdbc:mysql://127.0.0.1:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false"
export SPRING_DATASOURCE_USERNAME={user}
export SPRING_DATASOURCE_PASSWORD={password}
PostgreSQL 元数据库配置
数据库初始化
psql
# 创建数据库和用户
postgres=# CREATE DATABASE dolphinscheduler;
postgres=# CREATE USER {user} PASSWORD '{password}';
postgres=# ALTER DATABASE dolphinscheduler OWNER TO {user};
postgres=# \q
# 配置访问权限(替换{ip}为DS集群IP地址)
echo "host dolphinscheduler {user} {ip} md5" >> $PGDATA/pg_hba.conf
pg_ctl reload
环境变量配置
export DATABASE=postgresql
export SPRING_PROFILES_ACTIVE=${DATABASE}
export SPRING_DATASOURCE_URL="jdbc:postgresql://127.0.0.1:5432/dolphinscheduler"
export SPRING_DATASOURCE_USERNAME={user}
export SPRING_DATASOURCE_PASSWORD={password}
数据库初始化脚本
完成上述配置后,执行以下命令初始化数据库:
bash tools/bin/upgrade-schema.sh
数据源中心配置
支持的数据源类型
DolphinScheduler 数据源中心支持多种数据源类型,包括但不限于:
- MySQL
- PostgreSQL
- Hive/Impala
- Spark
- ClickHouse
- Oracle
- SQL Server
数据源创建步骤
- 进入系统后,点击底部"数据源中心"
- 选择"创建数据源"
- 填写数据源连接信息
- 点击"测试连接"验证配置是否正确
- 测试通过后保存数据源
JDBC 驱动注意事项
由于部分数据库的 JDBC 驱动与 Apache LICENSE V2 协议不兼容,DolphinScheduler 发行包中未包含这些驱动,需要用户手动下载并放置到指定目录。
MySQL 驱动配置示例
- 下载对应版本的 MySQL JDBC 驱动
- 将驱动文件放置到以下目录:
- api-server/libs
- worker-server/libs
- 重启 api-server 和 worker-server 服务
重要提示:如果将 MySQL 用作元数据库,必须使用 8.0.16 及以上版本的 JDBC 驱动;如果仅用作数据源中心,则无此版本限制。
最佳实践建议
- 生产环境建议:生产环境建议使用外部数据库而非内置数据库,确保数据持久性
- 连接池配置:对于高并发场景,可适当调整连接池参数
- 定期备份:定期备份元数据库,防止数据丢失
- 权限控制:遵循最小权限原则,为 DolphinScheduler 配置适当的数据库权限
- 网络优化:确保 DolphinScheduler 服务器与数据库服务器之间的网络延迟较低
通过本文的详细指导,您应该能够顺利完成 Apache DolphinScheduler 的数据源配置工作,为后续的工作流调度和管理奠定坚实基础。
登录后查看全文
热门项目推荐
相关项目推荐
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
525
3.72 K
Ascend Extension for PyTorch
Python
329
391
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
877
578
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
335
162
暂无简介
Dart
764
189
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
12
1
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.33 K
746
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
67
20
React Native鸿蒙化仓库
JavaScript
302
350