Kubekey离线安装Kubernetes集群时镜像拉取错误的解决方案

问题背景

在使用Kubekey进行Kubernetes集群的离线安装过程中，用户可能会遇到镜像拉取失败的问题。具体表现为在初始化集群阶段，kubeadm无法从私有镜像仓库中拉取必要的容器镜像，导致集群初始化失败。

错误现象分析

从错误日志中可以观察到几个关键点：

1. 所有镜像拉取都失败了，错误信息显示"tls: failed to verify certificate: x509: certificate signed by unknown authority"
2. 镜像拉取的目标地址是私有Harbor仓库"dockerhub.deepln.com"
3. 错误表明系统无法验证私有仓库的证书，因为证书是由未知机构签发的

根本原因

这个问题主要由以下几个因素导致：

1. 证书信任问题：私有Harbor仓库使用了自签名证书，而集群节点没有正确配置信任这些证书
2. containerd配置缺失：containerd运行时没有正确配置私有仓库的认证信息
3. 镜像仓库配置不完整：Harbor中可能缺少必要的项目或镜像

解决方案

1. 确保Harbor仓库配置正确

在Harbor中必须预先创建以下项目：

• kubesphereio
• csiplugin
• mirrorgooglecontainers
• kubesphere
• prom

这些项目将用于存放Kubernetes和KubeSphere所需的各种镜像。

2. 配置containerd信任私有仓库

需要在所有节点上执行以下步骤：

1. 将Harbor的CA证书复制到指定目录：

mkdir -p /etc/containerd/certs.d/dockerhub.deepln.com
cp harbor-ca.crt /etc/containerd/certs.d/dockerhub.deepln.com/ca.crt

2. 修改containerd配置文件/etc/containerd/config.toml，添加以下内容：

[plugins."io.containerd.grpc.v1.cri".registry.configs]
  [plugins."io.containerd.grpc.v1.cri".registry.configs."dockerhub.deepln.com"]
    [plugins."io.containerd.grpc.v1.cri".registry.configs."dockerhub.deepln.com".tls]
      insecure_skip_verify = true

3. 重启containerd服务：

systemctl restart containerd

3. 验证镜像同步情况

在初始化集群前，确保所有必要的镜像已经同步到Harbor仓库中。可以使用以下命令检查：

curl -u username:password https://dockerhub.deepln.com/v2/_catalog
curl -u username:password https://dockerhub.deepln.com/v2/kubesphereio/kube-apiserver/tags/list

4. 检查Kubekey配置文件

确保Kubekey配置文件中正确指定了私有仓库信息：

registry:
  type: harbor
  auths:
    "dockerhub.deepln.com":
      username: admin
      password: Harbor12345
      certsPath: "/etc/docker/certs.d/dockerhub.deepln.com"
  privateRegistry: "dockerhub.deepln.com"
  namespaceOverride: "kubesphereio"

预防措施

1. 提前准备镜像：在集群初始化前，确保所有必要镜像已经推送到私有仓库
2. 证书管理：为Harbor配置受信任的证书，避免自签名证书问题
3. 配置验证：在集群初始化前，手动验证containerd能否从私有仓库拉取镜像
4. 网络连通性：确保所有节点能够访问私有仓库，且防火墙规则允许相关端口

总结

Kubekey离线安装Kubernetes集群时遇到的镜像拉取问题通常与私有仓库配置有关。通过正确配置containerd、确保镜像完整同步以及验证证书信任关系，可以有效解决这类问题。在实际操作中，建议按照上述步骤系统性地检查和配置，以确保集群初始化顺利进行。