Futhark 0.25.30版本发布:数学函数增强与AD优化
Futhark是一种高性能的函数式数据并行编程语言,专为GPU加速计算而设计。它允许开发者编写简洁的并行算法,同时自动处理底层优化细节。最新发布的0.25.30版本带来了一系列数学函数增强和自动微分(AD)方面的改进。
数学函数扩展
本次更新在f16、f32和f64模块中新增了多个实用的数学函数:
-
新增了倒数平方根函数
rsqrt,该函数比先计算平方根再取倒数更高效,特别适合需要频繁计算归一化因子的场景。 -
引入了一组以π为单位的三角函数和反三角函数:
cospi、sinpi、tanpi:这些函数直接计算参数乘以π后的三角函数值,避免了额外的乘法运算acospi、asinpi、atanpi、atan2pi:相应的反三角函数,结果以π为单位表示
这些新函数不仅提高了代码的可读性,还能减少数值误差,因为它们在实现上会针对π的倍数进行特殊优化。
自动微分改进
自动微分是Futhark的重要特性之一,本版本在这方面有多项优化:
-
修复了解释器在处理和类型(sum type)时的崩溃问题,虽然结果可能仍有局限,但至少保证了稳定性。
-
修正了比较操作的导数计算问题。之前版本尝试为比较操作赋予某种数学解释,但这种做法既不严谨也无实用价值,现在统一将比较操作的导数设为零,这更符合数学原理。
-
反向模式AD现在能够正确处理顺序流(sequential streams),扩展了自动微分的应用范围。
-
解释器中的
vjp(向量-雅可比乘积)实现进行了优化,现在具有渐进效率,大幅提升了大规模计算时的性能。
编译器与解释器优化
-
融合引擎(fusion engine)的能力得到增强,现在能够更好地跨越多层嵌套的
map操作进行融合,即使这些操作被reshape分隔。这可以显著减少中间数据的产生,提高内存效率。 -
修复了GPU后端在并行转置大量矩阵时可能出现的内存越界读取问题,提高了稳定性和安全性。
-
修正了解释器中
open语句的处理问题,确保模块系统正常工作。 -
解决了单态化过程中大小推断的一些边界情况问题,以及混合使用类型缩写和数组时的入口点类型注册问题。
包管理器改进
futhark pkg工具现在支持在包路径中使用下划线,这提高了包命名的灵活性,使开发者能够使用更符合习惯的命名方式。
总结
Futhark 0.25.30版本虽然在版本号上是一个小更新,但在数学函数支持、自动微分可靠性和编译器优化方面都带来了实质性改进。这些变化使得Futhark在科学计算和机器学习领域的应用更加得心应手,特别是新增的π相关三角函数和AD稳定性提升,将直接惠及需要进行复杂数学运算和梯度计算的用户。
AutoGLM-Phone-9BAutoGLM-Phone-9B是基于AutoGLM构建的移动智能助手框架,依托多模态感知理解手机屏幕并执行自动化操作。Jinja00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00