KServe 中解决 InferenceService 镜像拉取失败问题

问题背景

在使用 KServe 部署 InferenceService 时，用户遇到了镜像拉取失败的问题。具体表现为在创建 PyTorch 模型的 InferenceService 时，系统无法从公共镜像仓库拉取 pytorch/torchserve-kfs:0.8.2 镜像，错误信息显示 DNS 解析失败。

问题分析

该问题主要涉及以下几个方面：

1. 网络配置问题：错误信息显示系统无法解析镜像仓库域名，DNS 查询失败
2. KServe 默认行为：KServe 在创建服务时会尝试解析镜像的 digest 值
3. 离线环境限制：用户环境中的主机没有网络连接，但相关镜像已预先导入集群

解决方案

通过修改 Knative 的 ConfigMap 配置，可以跳过对特定镜像仓库的标签解析：

apiVersion: v1
kind: ConfigMap
metadata:
  name: config-deployment
  namespace: knative-serving
data:
  registries-skipping-tag-resolving: "公共镜像仓库地址"

技术原理

1. Knative 的镜像解析机制：Knative 默认会尝试解析镜像标签获取 digest 值，确保部署的确定性
2. 离线环境适配：在无网络或受限网络环境中，跳过标签解析可以避免网络依赖
3. KServe 依赖关系：KServe 构建于 Knative 之上，因此需要调整 Knative 的相关配置

实施建议

1. 对于生产环境，建议预先拉取所有依赖镜像并推送到内部镜像仓库
2. 在配置中明确指定所有需要跳过的镜像仓库
3. 对于关键业务镜像，建议使用 digest 而非标签来确保版本一致性

总结

在受限网络环境中部署 KServe 时，通过合理配置 Knative 的镜像解析策略，可以有效解决因网络限制导致的部署问题。这种方法既保持了部署的灵活性，又适应了特殊网络环境的需求。