Apache Doris 安装与运维常见问题解析
一、BE节点下线问题处理
在Doris集群中,当使用DECOMMISSION命令下线BE节点时,可能会遇到部分tablet无法完全迁移的情况。这通常由以下两种原因导致:
-
回收站对象影响:被删除的表、分区或物化视图的tablet会暂时保留在回收站中,这些tablet不会被下线逻辑处理。可通过调整FE配置参数
catalog_trash_expire_second来控制回收站保留时间。 -
迁移任务异常:使用
show proc "/cluster_balance"命令查看具体任务错误信息。建议先通过show proc "/cluster_health/tablet_health"检查集群是否存在不健康副本。
解决方案:
- 确认无健康问题后,可直接使用
drop backend语句强制删除BE节点 - 对于重要数据,建议先修复不健康副本再操作
二、网络优先级配置详解
priority_network是FE和BE的核心网络配置参数,用于在多网卡环境下明确指定服务使用的IP地址。该参数采用CIDR格式表示:
- 格式说明:
IP地址/前缀长度,如10.168.1.0/24 - 最佳实践:
- 生产环境必须显式配置
- 建议集群内所有节点使用统一CIDR范围
- 示例:节点IP为10.168.10.1和10.168.10.2时,可配置为
10.168.10.0/24
三、FE节点角色解析
Doris的FE节点分为两种核心角色:
| 角色类型 | 选举参与 | 元数据写入 | 读服务 | 典型部署方案 |
|---|---|---|---|---|
| Follower | 参与 | 参与多数派写入 | 提供 | 3节点组成选举组 |
| Observer | 不参与 | 不参与 | 提供 | 可水平扩展 |
部署建议:
- 小型集群:1 Follower + 2 Observer
- 生产集群:3 Follower + N Observer(保证高可用)
- 查询密集型:可增加Observer节点提升读性能
四、磁盘扩容与数据平衡
当BE节点新增磁盘后,数据不会自动平衡到新磁盘,这是因为:
- 平衡策略限制:Doris当前仅支持节点级平衡,不支持单节点内磁盘级平衡
- 负载计算方式:基于节点整体负载评估,新增磁盘不改变节点负载指标
解决方案:
-
新建表迁移法(适合小数据量)
CREATE TABLE new_table LIKE old_table; INSERT INTO new_table SELECT * FROM old_table; -
Decommission重平衡法
ADMIN SET FRONTEND CONFIG("drop_backend_after_decommission" = "false"); ALTER SYSTEM DECOMMISSION BACKEND "be_host:port"; -- 等待完成后取消 ALTER SYSTEM CANCEL DECOMMISSION BACKEND "be_host:port"; -
API手动迁移(需调用Doris HTTP接口)
五、日志分析指南
FE日志体系
fe.log:主日志,包含INFO及以上级别fe.warn.log:仅WARN和ERROR级别fe.out:标准/错误输出fe.audit.log:SQL审计日志
典型日志格式:
2021-09-16 23:13:22,502 INFO (tablet scheduler|43) [BeLoadRebalancer.selectAlternativeTabletsForCluster():85] cluster is balance...
BE日志体系
be.INFO:主日志(软链接指向最新文件)be.WARNING:告警日志be.out:进程输出
典型日志格式:
I0916 23:21:22.038795 28087 task_worker_pool.cpp:1594] finish report TASK...
六、节点宕机排查
BE进程异常
- 检查
be.out获取错误堆栈 - 执行
dmesg -T查看系统日志(OOM常见) - 查找
be.INFO中以F开头的FATAL日志
FE进程异常
- 检查
fe.log和fe.out中的Java异常堆栈 - 重点关注OOM和元数据写入失败相关日志
七、存储介质配置要点
Doris支持通过目录后缀指定存储介质类型:
/path/to/data1.SSD:标识为SSD介质/path/to/data2:默认HDD介质
常见问题:
- 错误:
Failed to find enough host with storage medium and tag - 原因:BE配置介质类型与建表指定的
storage_medium属性不匹配 - 解决方案:
- 统一集群介质类型时建议不显式配置后缀
- 需要冷热数据分离时才配置不同介质类型
八、高可用Web访问方案
使用Nginx实现FE Web UI负载均衡时,需配置ip_hash保持会话:
upstream doris_fe {
server 172.22.197.238:8030;
server 172.22.197.239:8030;
server 172.22.197.240:8030;
ip_hash;
}
九、FE启动失败排查
现象:日志持续输出"wait catalog to be ready. FE type UNKNOWN"
可能原因:
- IP地址变化(未正确配置
priority_network) - 选举组节点不足(如3 Follower仅启动1个)
解决方案:
- 检查并固定网络配置
- 确保多数派Follower节点在线
- 极端情况下需进行元数据恢复操作
十、BDBJE元数据异常
典型错误:
recoveryTracker should overlap or follow on disk last VLSN...
处理方案: 这是BDBJE的已知问题,需按照元数据恢复流程操作。建议在维护窗口期进行FE节点重启,避免同时停止过多Follower节点。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C092
baihu-dataset异构数据集“白虎”正式开源——首批开放10w+条真实机器人动作数据,构建具身智能标准化训练基座。00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python058
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
AgentCPM-Explore没有万亿参数的算力堆砌,没有百万级数据的暴力灌入,清华大学自然语言处理实验室、中国人民大学、面壁智能与 OpenBMB 开源社区联合研发的 AgentCPM-Explore 智能体模型基于仅 4B 参数的模型,在深度探索类任务上取得同尺寸模型 SOTA、越级赶上甚至超越 8B 级 SOTA 模型、比肩部分 30B 级以上和闭源大模型的效果,真正让大模型的长程任务处理能力有望部署于端侧。Jinja00