Apache Doris 安装与运维常见问题解析
一、BE节点下线问题处理
在Doris集群中,当使用DECOMMISSION命令下线BE节点时,可能会遇到部分tablet无法完全迁移的情况。这通常由以下两种原因导致:
-
回收站对象影响:被删除的表、分区或物化视图的tablet会暂时保留在回收站中,这些tablet不会被下线逻辑处理。可通过调整FE配置参数
catalog_trash_expire_second
来控制回收站保留时间。 -
迁移任务异常:使用
show proc "/cluster_balance"
命令查看具体任务错误信息。建议先通过show proc "/cluster_health/tablet_health"
检查集群是否存在不健康副本。
解决方案:
- 确认无健康问题后,可直接使用
drop backend
语句强制删除BE节点 - 对于重要数据,建议先修复不健康副本再操作
二、网络优先级配置详解
priority_network
是FE和BE的核心网络配置参数,用于在多网卡环境下明确指定服务使用的IP地址。该参数采用CIDR格式表示:
- 格式说明:
IP地址/前缀长度
,如10.168.1.0/24
- 最佳实践:
- 生产环境必须显式配置
- 建议集群内所有节点使用统一CIDR范围
- 示例:节点IP为10.168.10.1和10.168.10.2时,可配置为
10.168.10.0/24
三、FE节点角色解析
Doris的FE节点分为两种核心角色:
角色类型 | 选举参与 | 元数据写入 | 读服务 | 典型部署方案 |
---|---|---|---|---|
Follower | 参与 | 参与多数派写入 | 提供 | 3节点组成选举组 |
Observer | 不参与 | 不参与 | 提供 | 可水平扩展 |
部署建议:
- 小型集群:1 Follower + 2 Observer
- 生产集群:3 Follower + N Observer(保证高可用)
- 查询密集型:可增加Observer节点提升读性能
四、磁盘扩容与数据平衡
当BE节点新增磁盘后,数据不会自动平衡到新磁盘,这是因为:
- 平衡策略限制:Doris当前仅支持节点级平衡,不支持单节点内磁盘级平衡
- 负载计算方式:基于节点整体负载评估,新增磁盘不改变节点负载指标
解决方案:
-
新建表迁移法(适合小数据量)
CREATE TABLE new_table LIKE old_table; INSERT INTO new_table SELECT * FROM old_table;
-
Decommission重平衡法
ADMIN SET FRONTEND CONFIG("drop_backend_after_decommission" = "false"); ALTER SYSTEM DECOMMISSION BACKEND "be_host:port"; -- 等待完成后取消 ALTER SYSTEM CANCEL DECOMMISSION BACKEND "be_host:port";
-
API手动迁移(需调用Doris HTTP接口)
五、日志分析指南
FE日志体系
fe.log
:主日志,包含INFO及以上级别fe.warn.log
:仅WARN和ERROR级别fe.out
:标准/错误输出fe.audit.log
:SQL审计日志
典型日志格式:
2021-09-16 23:13:22,502 INFO (tablet scheduler|43) [BeLoadRebalancer.selectAlternativeTabletsForCluster():85] cluster is balance...
BE日志体系
be.INFO
:主日志(软链接指向最新文件)be.WARNING
:告警日志be.out
:进程输出
典型日志格式:
I0916 23:21:22.038795 28087 task_worker_pool.cpp:1594] finish report TASK...
六、节点宕机排查
BE进程异常
- 检查
be.out
获取错误堆栈 - 执行
dmesg -T
查看系统日志(OOM常见) - 查找
be.INFO
中以F开头的FATAL日志
FE进程异常
- 检查
fe.log
和fe.out
中的Java异常堆栈 - 重点关注OOM和元数据写入失败相关日志
七、存储介质配置要点
Doris支持通过目录后缀指定存储介质类型:
/path/to/data1.SSD
:标识为SSD介质/path/to/data2
:默认HDD介质
常见问题:
- 错误:
Failed to find enough host with storage medium and tag
- 原因:BE配置介质类型与建表指定的
storage_medium
属性不匹配 - 解决方案:
- 统一集群介质类型时建议不显式配置后缀
- 需要冷热数据分离时才配置不同介质类型
八、高可用Web访问方案
使用Nginx实现FE Web UI负载均衡时,需配置ip_hash
保持会话:
upstream doris_fe {
server 172.22.197.238:8030;
server 172.22.197.239:8030;
server 172.22.197.240:8030;
ip_hash;
}
九、FE启动失败排查
现象:日志持续输出"wait catalog to be ready. FE type UNKNOWN"
可能原因:
- IP地址变化(未正确配置
priority_network
) - 选举组节点不足(如3 Follower仅启动1个)
解决方案:
- 检查并固定网络配置
- 确保多数派Follower节点在线
- 极端情况下需进行元数据恢复操作
十、BDBJE元数据异常
典型错误:
recoveryTracker should overlap or follow on disk last VLSN...
处理方案: 这是BDBJE的已知问题,需按照元数据恢复流程操作。建议在维护窗口期进行FE节点重启,避免同时停止过多Follower节点。
ERNIE-4.5-VL-424B-A47B-Paddle
ERNIE-4.5-VL-424B-A47B 是百度推出的多模态MoE大模型,支持文本与视觉理解,总参数量424B,激活参数量47B。基于异构混合专家架构,融合跨模态预训练与高效推理优化,具备强大的图文生成、推理和问答能力。适用于复杂多模态任务场景。00pangu-pro-moe
盘古 Pro MoE (72B-A16B):昇腾原生的分组混合专家模型014kornia
🐍 空间人工智能的几何计算机视觉库Python00GitCode百大开源项目
GitCode百大计划旨在表彰GitCode平台上积极推动项目社区化,拥有广泛影响力的G-Star项目,入选项目不仅代表了GitCode开源生态的蓬勃发展,也反映了当下开源行业的发展趋势。00
热门内容推荐
最新内容推荐
项目优选









