探索CRFS:容器注册表文件系统
2024-05-22 18:21:47作者:温艾琴Wonderful
在现代云计算环境中,启动一个容器的速度至关重要。然而,现有的做法往往要求从容器注册表(如gcr.io)拉取整个镜像并在本地存储,导致速度受限于网络和磁盘I/O。为了解决这个问题,我们引荐一款名为CRFS的开源项目——Container Registry Filesystem。这是一个只读的FUSE文件系统,它允许您直接挂载并从容器注册表中运行容器镜像,而无需预先全部下载。
项目背景
传统的容器启动过程涉及从容器注册表下载整个镜像到本地硬盘,然后才能启动容器。对于大型镜像而言,这无疑增加了启动时间。相比之下,云提供商的虚拟机能够快速启动,即使镜像大小高达数百GB,这是因为他们利用了高效的内部网络进行按需读取。CRFS正是基于这样的理念设计,旨在通过按需读取网络中的镜像数据来加速容器启动。
技术创新:Stargz格式
CRFS的关键在于引入了一种新的文件格式——Stargz,这是一种可寻址的、压缩的tar文件。在Stargz中,每个文件都是独立的gzip流,允许对文件进行随机访问,而不必解压整个文件或遍历所有层。这样,即使在寻找特定路径下的小文件时,也能避免不必要的数据传输。
工作原理
当挂载一个图像时,CRFS会向容器注册表发起HTTP API请求以获取元数据和所有层的信息。然后,它只读取每个层末尾的Stargz索引。这些索引存储在内存中,提供readdir、stat等操作。文件数据读取则依赖于索引中的偏移量,可以高效地处理大文件的小范围读取。
应用场景
- 对快速启动大型容器有需求的环境,如持续集成与部署系统。
- 在资源有限的设备上运行容器,以减少本地存储占用。
- 需要节省带宽的企业网络,尤其是在跨国公司或远程办公室。
项目特点
- 实时性:仅需在启动时下载必要的部分,无需提前完整拉取镜像。
- 效率:利用Stargz索引实现高效的数据访问,减少网络延迟的影响。
- 兼容性:与现有容器运行时兼容,可以通过创建只包含元数据的镜像版本,结合CRFS运行。
- 轻量化:减少了对本地磁盘空间的需求,尤其适用于资源受限的环境。
CRFS是容器生态中的一次革新尝试,它将网络性能的优势引入到容器启动过程中,有望显著提升大规模容器集群的效率。如果你正在寻求优化你的容器基础设施,不妨试一试这个项目,并参与其社区讨论,共同推动其进一步发展。链接
登录后查看全文
热门项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0432
源启盛夏_AtomGit暑期开发者成长计划「源启盛夏」暑期校园开发者成长计划旨在激活校园开源力量,通过积分激励、认证扶持、资源倾斜等形式,引导高校组织和开发者完成「入驻 — 建项目 — 做贡献 — 获认证 — 得资源」的完整闭环。无论你是想带领社团入驻平台的组织者,还是希望用代码贡献证明自己的开发者,都能在这里找到属于你的成长路径。Markdown00
jiuwenswarmJiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。Python0746
Hy3Hy3 是由腾讯混元团队研发的快慢思考融合的混合专家模型,总参数量 295B,激活参数 21B,MTP 层参数 3.8B。4 月底发布 Hy3 Preview 后,我们在 50 多个业务中获得了广泛的反馈,修复了各种体验问题,进一步提升了后训练的质量和规模。今天,我们发布 Hy3。它展现出显著强于同尺寸并比肩旗舰(参数规模往往是 Hy3 的 2~5 倍)开源模型的智能水平,显著提升了在各类产品和生产力任务中的实用价值。Python00
AscendNPU-IRAscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优C++0303
DeepAuditDeepAudit:人人拥有的 AI 黑客战队,让漏洞挖掘触手可及。国内首个开源的代码漏洞挖掘多智能体系统。小白一键部署运行,自主协作审计 + 自动化沙箱 PoC 验证。支持 Ollama 私有部署 ,一键生成报告。支持中转站。让安全不再昂贵,让审计不再复杂。Python05
热门内容推荐
最新内容推荐
项目优选
收起
暂无描述
Markdown
821
5.43 K
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
492
510
deepin linux kernel
C
32
16
Ascend Extension for PyTorch
Python
793
1.12 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
955
2.25 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
768
1.55 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.2 K
1.23 K
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
2.82 K
746
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
623
243
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
422
301