OpenDAL 中列出未永久删除对象的新特性解析
在分布式存储系统中,对象删除操作往往不是立即永久性的,而是会保留一段时间或版本。OpenDAL 项目近期针对这一场景提出了一个新特性:列出尚未被永久删除的对象。这一功能对于数据恢复、审计追踪等场景具有重要意义。
背景与需求
现代对象存储服务如 S3 提供了版本控制功能,当启用版本控制时,简单的 DELETE 操作并不会真正删除对象,而是插入一个删除标记(delete marker)作为当前版本。这意味着用户仍然可以通过指定版本号来访问"已删除"的对象。
在实际应用中,管理员或开发者经常需要:
- 查看所有被标记为删除但尚未永久移除的对象
- 了解存储桶中对象的完整生命周期状态
- 进行数据恢复或清理操作
技术实现方案
OpenDAL 计划通过新增 deleted 参数来扩展 List 操作的功能。当设置 deleted=true 时,API 将返回包括已删除对象在内的所有对象版本。
这一设计考虑了多种存储服务的特性:
- 对于 S3 这类支持版本控制的服务,会返回包括删除标记在内的所有版本
- 对于 Azure Blob 这类支持软删除但不支持版本控制的服务,会返回被软删除的对象
- 对于不支持这两种特性的服务,行为与常规 List 操作一致
功能组合与使用场景
OpenDAL 提供了灵活的参数组合来满足不同需求:
-
基本列表:仅列出活动文件
list_with(path) -
包含非当前版本:列出活动文件及其历史版本
list_with(path).version(true) -
包含已删除文件:列出活动文件和被删除的文件
list_with(path).deleted(true) -
完整列表:列出所有文件(活动、非当前版本、已删除)
list_with(path).version(true).deleted(true)
这种正交设计使得开发者可以精确控制返回结果的内容,适应各种业务场景。
技术考量
实现这一特性需要考虑以下技术细节:
-
不同存储服务的 API 差异:S3 使用 ListObjectVersions 并区分 Version 和 DeleteMarker,而其他服务可能有不同的实现方式
-
性能影响:返回更多数据可能会增加响应时间和网络开销
-
权限控制:确保只有有权限的用户才能访问已删除对象
-
一致性保证:在分布式环境下保证列表结果的准确性
总结
OpenDAL 的这一新特性为开发者提供了更强大的对象管理能力,特别是在数据恢复和状态追踪方面。通过灵活的参数组合,开发者可以根据实际需求获取精确的对象列表,而无需关心底层存储服务的具体实现差异。这一改进进一步强化了 OpenDAL 作为统一存储访问层的价值。
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00