RAFT项目v25.02.00版本发布:分布式计算框架的重大更新
RAFT是一个开源的GPU加速分布式计算框架,专注于为机器学习和数据分析提供高性能的基础算法库。作为RAPIDS生态系统的重要组成部分,RAFT为GPU加速的机器学习算法提供了底层支持,包括线性代数、最近邻搜索、聚类分析等核心功能。
本次发布的v25.02.00版本带来了多项重要更新和优化,包括性能改进、新功能添加以及一些破坏性变更。下面我们将详细分析这次更新的技术要点。
破坏性变更解析
本次更新包含了三个重要的破坏性变更,开发者需要特别注意:
-
开发容器更新:将pip开发容器升级到了UCX 1.18版本。UCX(Unified Communication X)是一个高性能网络通信框架,这次升级可能会影响分布式通信性能和行为。
-
日志系统重构:项目全面转向使用rapids-logger作为日志系统。这一变更统一了RAPIDS生态系统的日志接口,但需要开发者调整现有的日志相关代码。
-
RMM日志适配:为了配合RMM(RAPIDS Memory Manager)的日志系统变更,RAFT也相应调整了日志处理逻辑。这一变更是为了保持与RAPIDS生态其他组件的一致性。
核心功能增强
本次更新在多个核心功能上有所增强:
-
RMAT矩形生成器优化:修复了RMAT矩形生成器的位顺序问题,确保其输出符合预期。RMAT是一种生成幂律图的随机图模型,广泛用于图算法测试。
-
Lanczos求解器改进:修复了整数溢出问题。Lanczos算法是求解大型稀疏矩阵特征值问题的重要方法,这一修复提升了算法的数值稳定性。
-
位集数据类型支持:新增了对不同数据类型的位集支持,增强了算法的灵活性。位集是表示集合的高效数据结构,广泛应用于图算法和集合运算。
-
位集到CSR格式转换:新增了
bitset_to_csr功能,实现了位集到压缩稀疏行(CSR)格式的转换。CSR是稀疏矩阵存储的常用格式,这一功能为稀疏矩阵处理提供了更多便利。
性能优化
本次发布包含了多项性能优化措施:
-
位图到CSR转换优化:专门针对
bitmap_to_csr操作进行了性能优化,提升了转换效率。这对于处理大规模稀疏数据尤为重要。 -
CUDA 12.8支持:新增了对CUDA 12.8的支持,使项目能够利用最新CUDA版本的性能改进和新特性。
-
资源管理改进:引入了
raft::device_resources_snmg类型,改进了多GPU环境下的资源管理。这一改进特别针对大规模分布式计算场景。
构建与部署改进
在构建系统和部署方面也有多项改进:
-
CUDA版本兼容性:移除了cuda-python的上限限制,现在支持12.6.2和11.8.5版本,提高了环境配置的灵活性。
-
动态CUDA wheel:在CUDA 11环境下使用动态CUDA wheel,减少了二进制包的大小。
-
依赖管理简化:清理了未使用的依赖项(joblib和numba),简化了项目的依赖关系,使部署更加轻量。
-
libraft wheel支持:引入了libraft的wheel包,简化了Python环境的安装过程。
文档与测试改进
-
文档修复:修复了文档构建问题和示例代码错误,提升了文档质量。
-
测试结构调整:将测试目录从"test"重命名为"tests",遵循更常见的Python项目结构规范。
-
CI流程优化:改进了持续集成流程,包括添加了对夜间构建成功率的检查,以及要求对草稿PR运行CI的审批流程。
总结
RAFT v25.02.00版本是一个重要的里程碑更新,在性能、功能和稳定性方面都有显著提升。特别是对最新CUDA版本的支持、日志系统的统一以及多项算法优化,使得RAFT在分布式GPU计算领域继续保持领先地位。开发者升级时需要注意破坏性变更的影响,特别是日志系统的调整和资源管理接口的变化。
这次更新也体现了RAFT项目对代码质量和开发体验的持续关注,通过简化依赖、优化构建流程和改进文档,降低了用户的使用门槛。随着RAPIDS生态系统的不断发展,RAFT作为其基础组件的重要性也将进一步提升。
ERNIE-4.5-VL-28B-A3B-ThinkingERNIE-4.5-VL-28B-A3B-Thinking 是 ERNIE-4.5-VL-28B-A3B 架构的重大升级,通过中期大规模视觉-语言推理数据训练,显著提升了模型的表征能力和模态对齐,实现了多模态推理能力的突破性飞跃Python00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Python00
HunyuanVideo-1.5暂无简介00
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00