Duperemove:高效文件去重工具
2026-01-29 12:53:41作者:房伟宁
项目基础介绍及编程语言
Duperemove,由C为主要编程语言实现,是一款简洁而强大的开源工具,专门设计用于查找并执行文件系统的重复数据删除。它通过逐个比较文件的哈希值来识别内容相同的文件段,从而极大提高存储效率。此外,项目利用了Linux内核特性,特别是在版本3.13及以上环境中,实现了高效的数据去重操作。
核心功能
- 智能文件哈希比对:Duperemove在块级别上对文件进行哈希处理,有效检测重复内容。
- 动态去重:提供选项直接将识别出的重复块提交给系统进行去重(依赖于
FIDEDUPRANGEioctl)。 - 增量扫描与哈希文件支持:仅重新计算自上次运行以来发生变化的文件,加速后续扫描过程。
- 递归目录扫描:通过命令行参数,能够递归地处理整个目录树,便于批量去重。
- 多线程处理:提升性能,允许并行进行文件哈希计算和去重操作。
最近更新的功能
由于提供的链接信息不包括具体的更新日志,我们无法直接确定项目的最新更新细节。但基于一般开源项目常规,最近的更新可能涵盖如下的方面:
- 性能优化:改进算法或增加多线程支持的效率,减少内存占用。
- 兼容性增强:确保在最新的Linux发行版及库版本上稳定工作。
- 用户体验改善:比如命令行界面的用户友好性增强,添加新的可选参数以便更灵活的控制。
- 错误修复:解决社区反馈的问题,提高软件的可靠性和稳定性。
请注意,要获取实际的最近更新内容,应当直接访问项目的GitHub页面查看其最新提交记录或Release标签页。
登录后查看全文
热门项目推荐
相关项目推荐
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
xw-cli实现国产算力大模型零门槛部署,一键跑通 Qwen、GLM-4.7、Minimax-2.1、DeepSeek-OCR 等模型Go06
yuanrongopenYuanrong runtime:openYuanrong 多语言运行时提供函数分布式编程,支持 Python、Java、C++ 语言,实现类单机编程高性能分布式运行。Go051
pc-uishopTNT开源商城系统使用java语言开发,基于SpringBoot架构体系构建的一套b2b2c商城,商城是满足集平台自营和多商户入驻于一体的多商户运营服务系统。包含PC 端、手机端(H5\APP\小程序),系统架构以及实现案例中应满足和未来可能出现的业务系统进行对接。Vue00
ebook-to-mindmapepub、pdf 拆书 AI 总结TSX01
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
541
3.77 K
Ascend Extension for PyTorch
Python
351
419
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
889
615
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
338
186
openJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力
TSX
988
253
openGauss kernel ~ openGauss is an open source relational database management system
C++
169
233
暂无简介
Dart
778
194
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
115
141
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.35 K
759