Cloud-init 在 Ubuntu Noble 中安装 Docker 时出现 Broken Pipe 问题的分析与解决
问题背景
在使用 cloud-init 自动化配置 Ubuntu Noble 系统时,用户遇到了一个关于 apt-get 更新过程中出现 Broken Pipe 错误的问题。具体表现为在 cloud-init 执行过程中,当尝试添加 Docker 官方仓库并安装 docker-ce 时,apt-get update 命令意外中断,导致后续的软件包安装失败。
问题现象
从日志中可以看到,cloud-init 在执行 apt-get update 命令时遇到了 Broken Pipe 错误:
2025-02-08 08:32:58,873 - distros[ERROR]: Failed to update package using apt: Unexpected error while running command.
Command: ['eatmydata', 'apt-get', '--option=Dpkg::Options::=--force-confold', '--option=Dpkg::options::=--force-unsafe-io', '--assume-yes', '--quiet', 'update']
Exit code: -
Reason: [Errno 32] Broken pipe
问题分析
Broken Pipe 错误通常发生在进程间通信时,一个进程试图向已经关闭的管道写入数据。在这个场景中,可能有以下几个原因:
-
网络连接不稳定:在添加外部仓库后执行 apt-get update 时,网络连接可能不稳定,导致与仓库服务器的连接中断。
-
SSH 会话超时:如果 cloud-init 是通过 SSH 会话执行的,长时间运行的 apt 操作可能导致 SSH 会话超时断开。
-
APT 操作超时:某些仓库服务器响应缓慢,导致 apt 操作超过了默认的超时时间。
-
资源限制:系统资源不足可能导致进程异常终止。
解决方案
经过测试和验证,以下解决方案可以有效解决这个问题:
-
配置 Packer 的 expect_disconnect 参数: 在 Packer 的配置文件中添加
expect_disconnect = true参数,这可以防止 SSH 会话断开导致构建失败。 -
添加 cloud-init 状态等待: 在 shell provisioner 中添加
cloud-init status --wait命令,确保 cloud-init 完全执行完毕后再进行后续操作。 -
调整 APT 超时设置: 在 cloud-config 中增加 APT 的超时配置:
apt: conf: | binary::apt::DPkg::Lock::Timeout 180; APT::Acquire::Retries "3"; APT::Acquire::http::Timeout "120"; APT::Install-Suggests 0; APT::NeverAutoRemove 0; APT::Get::Update 1; APT::Get::Assume-Yes 1; APT::Get::Fix-Broken 1; APT::Get::Install-Recommends 0;
最佳实践建议
-
分阶段执行:将软件安装分为多个阶段,先安装基础依赖,再添加外部仓库,最后安装目标软件。
-
增加日志记录:配置 cloud-init 输出更详细的日志,便于问题排查。
-
使用本地镜像:对于频繁使用的仓库,可以考虑设置本地镜像源,减少网络依赖。
-
资源预留:确保虚拟机有足够的 CPU 和内存资源执行自动化配置。
-
超时设置:对于网络操作,适当增加超时时间,特别是从国外源下载时。
总结
在自动化部署过程中,网络操作的不稳定性是一个常见挑战。通过合理配置超时参数、优化执行流程和增加容错机制,可以有效提高 cloud-init 配置的成功率。对于 Docker 这类需要添加外部仓库的软件安装,特别需要注意网络操作的稳定性问题。
这个问题也提醒我们,在自动化配置设计中,需要考虑各种边界条件和异常情况,通过增加重试机制和超时控制来提高系统的鲁棒性。
AutoGLM-Phone-9BAutoGLM-Phone-9B是基于AutoGLM构建的移动智能助手框架,依托多模态感知理解手机屏幕并执行自动化操作。Jinja00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00