跳到主要内容

集群升级

Apache Doris 提供滚动升级能力,在升级过程中逐步替换 FE 与 BE 节点的二进制文件,最大限度减少停机时间,确保集群在升级期间保持可用。本文面向集群管理员,介绍版本兼容性规则、元数据兼容性测试方法以及具体的升级操作步骤。

适用场景

场景是否适用说明
同二位版本内的三位版本升级(如 2.1.3 → 2.1.7)适用可直接滚动升级
跨二位版本升级(如 3.0 → 3.3)适用,需逐级需按 3.0 → 3.1 → 3.2 → 3.3 依次升级
跨一位版本升级(如 2.x → 3.x)适用,需逐级不建议直接跨大版本,需按二位版本依次升级
单 FE 节点集群升级适用,需先做兼容性测试强烈建议先扩容至 3 FE 高可用,或先做元数据兼容性测试
元数据可能不兼容的版本升级适用,需先做兼容性测试升级前必须验证元数据兼容性

前置条件

在执行升级前,请确认满足以下条件:

  • 已阅读目标版本的 Release Note,确认版本间的行为变更与兼容性。
  • 数据已使用 3 副本存储,避免升级失败导致数据丢失。
  • 客户端任务已添加重试机制(详见下文「升级注意事项」)。
  • 已准备一台开发机或 BE 节点用于元数据兼容性测试。
  • 已下载并解压目标版本的 Doris 安装包(下文以 ${DORIS_NEW_HOME} 表示新版本根目录,${DORIS_OLD_HOME} 表示线上运行的旧版本根目录)。

版本兼容性说明

Doris 版本号由三位组成,第一位表示重大里程碑版本,第二位表示功能版本,第三位表示 bug 修复,三位版本中不发布新功能。以 Doris 2.1.3 为例:

位次示例值含义
第一位2第 2 个里程碑版本
第二位1该里程碑下的功能版本
第三位3该功能版本下的第 3 个 bug fix 版本

升级时遵循以下规则:

升级类型是否支持跨版本推荐路径
三位版本(二位版本相同)支持可直接升级,如 2.1.3 → 2.1.7
二位版本不建议跨版本按二位版本号依次升级,如 3.0 → 3.1 → 3.2 → 3.3
一位版本不建议跨版本先升至同一位的最新二位版本,再跨大版本升级

详细版本说明可参考 版本规则

升级注意事项

升级前请重点关注以下三项内容:

注意事项处理方式
版本间行为变更升级前查看目标版本的 Release Note,确认是否存在不兼容的行为变更
客户端任务重试升级过程中节点会依次重启,需为 Stream Load 与查询任务添加重试机制;Routine Load、Flink Doris Connector、Spark Doris Connector 已内置重试,无需额外处理
副本修复与均衡升级前需关闭副本修复与均衡功能;无论升级成功与否,升级完成后都必须重新打开
注意

Doris 升级只需要替换 FE 目录下的 /bin/lib 以及 BE 目录下的 /bin/lib

在 2.0.2 及之后的版本,FE 和 BE 部署路径下新增了 custom_lib/ 目录(如没有可以手动创建),用于存放用户自定义的第三方 jar 包(如 hadoop-lzo-*.jarorai18n.jar 等)。该目录在升级时无需替换。

元数据兼容性测试

元数据兼容性测试用于在升级前验证新版本能否正常加载现有元数据,防止升级失败导致数据丢失。建议每次升级前都执行该测试。

注意

在生产环境中,建议保持 3 个以上的 FE 节点做高可用配置。如果只有 1 个 FE 节点,必须先做元数据兼容性测试,再进行升级操作。元数据兼容性非常重要,如果因为元数据不兼容导致升级失败,可能会导致数据丢失。

测试时还需注意:

  • 建议在开发机或 BE 节点上做元数据兼容性测试,尽量避免在 FE 节点上做兼容性测试。
  • 如果只能在 FE 节点上做兼容性测试,建议选择非 Master 节点,并停止原有 FE 进程。

1. 备份元数据信息

在开始升级工作前,需要备份 Master FE 节点的元数据信息。

通过 show frontends 中的 IsMaster 列可以判断 Master FE 节点。备份 FE 元信息时无需停止 FE 节点,可以直接热备份。默认情况下,FE 元数据位于 fe/doris-meta 目录下,也可通过 fe.conf 中的 meta_dir 参数确认元数据目录。

2. 修改测试用的 FE 配置文件

编辑测试环境的 fe.conf

vi ${DORIS_NEW_HOME}/conf/fe.conf

将所有端口设置为与线上不同,同时修改 clusterId 参数:

...
## modify port
http_port = 18030
rpc_port = 19020
query_port = 19030
arrow_flight_sql_port = 19040
edit_log_port = 19010

## modify clusterIP
clusterId=<a_new_clusterID, such as 123456>
...

测试环境端口示例如下:

参数示例值说明
http_port18030FE HTTP 服务端口
rpc_port19020FE Thrift Server 端口
query_port19030FE MySQL 协议查询端口
arrow_flight_sql_port19040Arrow Flight SQL 端口
edit_log_port19010FE BDBJE 通信端口
clusterId123456测试集群 ID,需与线上不同

3. 拷贝 Master FE 元数据

将备份的 Master FE 元数据拷贝到新的兼容性测试环境中:

cp ${DORIS_OLD_HOME}/fe/doris-meta/* ${DORIS_NEW_HOME}/fe/doris-meta

4. 修改元数据 VERSION 文件中的 cluster_id

将拷贝后的元数据目录中 VERSION 文件的 cluster_id 修改为新的 cluster ID,例如上例中的 123456:

vi ${DORIS_NEW_HOME}/fe/doris-meta/image/VERSION
clusterId=123456

5. 在测试环境中启动 FE 进程

sh ${DORIS_NEW_HOME}/bin/start_fe.sh --daemon --metadata_failure_recovery

在 2.0.2 之前的版本,需要先在 fe.conf 中加入 metadata_failure_recovery=true,再启动 FE 进程:

echo "metadata_failure_recovery=true" >> ${DORIS_NEW_HOME}/conf/fe.conf
sh ${DORIS_NEW_HOME}/bin/start_fe.sh --daemon

6. 验证 FE 启动成功

通过 MySQL 客户端连接测试 FE,使用上例中的 query_port 为 19030:

mysql -uroot -P19030 -h127.0.0.1

若能成功连接,则说明新版本可以正常加载当前的元数据,元数据兼容性测试通过。

升级流程总览

完整升级流程如下,需严格按顺序执行:

  1. 关闭副本修复与均衡功能。
  2. 升级 BE 节点(多副本集群可灰度升级)。
  3. 升级 FE 节点(先升级 Observer/Follower,再升级 Master)。
  4. 打开副本修复与均衡功能。

整体原则是 先升级 BE,再升级 FE;在升级 FE 时,先升级 Observer FE 与 Follower FE 节点,最后升级 Master FE 节点

升级步骤

第 1 步:关闭副本修复与均衡功能

升级过程中会有节点重启,可能触发不必要的集群均衡和副本修复逻辑,需先关闭以下三项配置:

admin set frontend config("disable_balance" = "true");
admin set frontend config("disable_colocate_balance" = "true");
admin set frontend config("disable_tablet_scheduler" = "true");

涉及的配置项含义如下:

配置项升级前值作用
disable_balancetrue关闭副本均衡,避免节点重启触发副本迁移
disable_colocate_balancetrue关闭 Colocate Join 表的副本均衡
disable_tablet_schedulertrue关闭 Tablet 调度,避免副本修复

第 2 步:升级 BE 节点

备注

为了保证您的数据安全,请使用 3 副本存储数据,以避免升级误操作或失败导致的数据丢失问题。

在多副本集群中,可以选择一台 BE 节点先做灰度升级,验证通过后再依次升级其他节点。

2.1 停止待升级的 BE 节点

sh ${DORIS_OLD_HOME}/be/bin/stop_be.sh

2.2 备份原有 /bin/lib 目录

mv ${DORIS_OLD_HOME}/be/bin ${DORIS_OLD_HOME}/be/bin_back
mv ${DORIS_OLD_HOME}/be/lib ${DORIS_OLD_HOME}/be/lib_back

2.3 拷贝新版本的 /bin/lib 目录

cp -r ${DORIS_NEW_HOME}/be/bin ${DORIS_OLD_HOME}/be/bin
cp -r ${DORIS_NEW_HOME}/be/lib ${DORIS_OLD_HOME}/be/lib

2.4 启动该 BE 节点

sh ${DORIS_OLD_HOME}/be/bin/start_be.sh --daemon

2.5 验证升级结果

连接集群,查看该节点信息:

show backends\G

若该 BE 节点 Alive 状态为 true,且 Version 值为新版本,则该节点升级成功。确认无误后,按相同流程依次升级其他 BE 节点。

第 3 步:升级 FE 节点

多个 FE 节点情况下,先升级非 Master 节点(Observer 或 Follower),全部完成后最后升级 Master 节点。

3.1 停止待升级的 FE 节点

sh ${DORIS_OLD_HOME}/fe/bin/stop_fe.sh

3.2 备份原有目录

需要备份 /bin/lib/mysql_ssl_default_certificate 三个目录:

mv ${DORIS_OLD_HOME}/fe/bin ${DORIS_OLD_HOME}/fe/bin_back
mv ${DORIS_OLD_HOME}/fe/lib ${DORIS_OLD_HOME}/fe/lib_back
mv ${DORIS_OLD_HOME}/fe/mysql_ssl_default_certificate ${DORIS_OLD_HOME}/fe/mysql_ssl_default_certificate_back

3.3 拷贝新版本的目录

cp -r ${DORIS_NEW_HOME}/fe/bin ${DORIS_OLD_HOME}/fe/bin
cp -r ${DORIS_NEW_HOME}/fe/lib ${DORIS_OLD_HOME}/fe/lib
cp -r ${DORIS_NEW_HOME}/fe/mysql_ssl_default_certificate ${DORIS_OLD_HOME}/fe/mysql_ssl_default_certificate

3.4 启动该 FE 节点

sh ${DORIS_OLD_HOME}/fe/bin/start_fe.sh --daemon

3.5 验证升级结果

连接集群,查看该节点信息:

show frontends\G

若该 FE 节点 Alive 状态为 true,且 Version 值为新版本,则该节点升级成功。

3.6 依次升级剩余 FE 节点

按相同流程依次升级其他非 Master FE 节点,最后升级 Master FE 节点

第 4 步:打开副本修复与均衡功能

升级完成,并且所有 BE 节点状态变为 Alive 后,重新打开集群副本修复和均衡功能:

admin set frontend config("disable_balance" = "false");
admin set frontend config("disable_colocate_balance" = "false");
admin set frontend config("disable_tablet_scheduler" = "false");

常见问题

Q: 升级后 BE / FE 节点 AlivefalseVersion 仍是旧版本?

进程未拉起或新版本启动失败。检查 be.log / fe.log 错误日志,确认 /bin/lib 是否替换正确。

Q: 升级后 FE 启动失败,提示元数据不兼容?

跨版本过大或未做元数据兼容性测试。回滚到旧版本,按本文「元数据兼容性测试」流程先做测试,必要时逐级升级。

Q: 升级后 custom_lib/ 中的 jar 包丢失?

误将 custom_lib/ 覆盖。仅替换 /bin/libcustom_lib/ 不应替换。

Q: 升级期间 Stream Load 任务失败?

节点重启导致客户端连接中断。在客户端增加重试机制;Routine Load、Flink/Spark Doris Connector 已内置重试。

Q: 升级后副本数异常或副本迁移频繁?

未关闭 disable_balance / disable_tablet_scheduler,或升级后忘记重新打开。确认四个配置项的开关流程,升级前关闭、升级完成后重新打开。

Q: 跨二位版本升级失败?

未按版本依次升级。回滚后按 3.0 → 3.1 → 3.2 → 3.3 等依次升级路径执行。

Q: 单 FE 集群升级失败导致元数据丢失?

未做元数据兼容性测试。升级前扩容至 3 FE 高可用,或在开发机/BE 节点上做元数据兼容性测试。