Keras3 1.3.0版本发布:深度学习框架的重要更新
Keras是一个广受欢迎的高级神经网络API,它能够以TensorFlow、JAX或PyTorch作为后端运行。Keras3是Keras的最新版本,提供了更灵活的跨后端支持和更强大的功能。本次发布的1.3.0版本带来了多项重要改进和新特性,显著提升了用户体验和框架性能。
Python依赖管理优化
Keras3 1.3.0版本在Python依赖管理方面做出了重大改进。现在,Keras使用reticulate::py_require()来自动解析Python依赖项,这意味着用户不再需要手动调用install_keras()函数来安装依赖(虽然该函数仍然支持使用)。这一改变大大简化了Keras的安装和配置过程,使得新用户能够更轻松地开始使用Keras。
此外,use_backend()函数新增了gpu参数,允许用户指定是否需要解析支持GPU的依赖项。这为需要在GPU上运行深度学习模型的用户提供了更便捷的配置方式。
训练过程显示优化
在模型训练、评估和预测过程中,Keras会显示进度条以帮助用户了解当前进度。1.3.0版本中,这些进度条在testthat测试环境下默认不再显示,这使得测试输出更加简洁清晰,便于开发者专注于测试结果而非进度信息。
张量运算增强
本次更新对张量运算进行了增强,特别是矩阵乘法操作。%*%运算符现在会分派到op_matmul()函数来处理TensorFlow张量,相比直接使用tf$matmul(),op_matmul()具有更宽松的形状约束条件,这使得在进行矩阵运算时更加灵活,减少了因形状不匹配导致的错误。
指标和损失函数改进
修复了一个重要问题:当使用未命名参数调用Metric和Loss对象时,之前会报错。1.3.0版本解决了这一问题,使得指标和损失函数的使用更加健壮和灵活。
兼容Keras v3.8.0的新特性
Keras3 1.3.0版本与Keras v3.8.0保持兼容,并引入了多项新功能:
新增激活函数
activation_sparse_plus():稀疏加激活函数activation_sparsemax():稀疏最大激活函数activation_threshold():阈值激活函数
这些新的激活函数为模型设计提供了更多选择,特别是在需要稀疏输出的场景中。
新增预处理层
layer_equalization():直方图均衡化层layer_mix_up():MixUp数据增强层layer_rand_augment():随机增强层- 多种颜色相关预处理层:如
layer_random_color_degeneration()、layer_random_color_jitter()等
这些预处理层大大简化了图像数据增强的流程,使得构建复杂的图像处理管道更加容易。
新增运算操作
op_diagflat():创建对角矩阵op_sparse_plus():稀疏加运算op_sparsemax():稀疏最大运算op_unravel_index():将平面索引转换为坐标索引
这些新的运算操作为张量处理提供了更多工具,特别是在处理稀疏数据和索引转换时。
兼容Keras v3.7.0的特性
Keras3 1.3.0还包含了Keras v3.7.0引入的众多功能:
新增激活函数
包括activation_celu()、activation_glu()、activation_hard_shrink()等,丰富了非线性变换的选择。
Flash Attention支持
新增了config_disable_flash_attention()、config_enable_flash_attention()等函数,允许用户控制是否使用Flash Attention机制,这在处理大规模注意力模型时可以显著提升性能。
新的损失函数和指标
loss_circle():圆形损失函数metric_concordance_correlation():一致性相关系数指标metric_pearson_correlation():皮尔逊相关系数指标
这些新的损失函数和评估指标为特定任务提供了更专业的工具。
兼容Keras v3.6.0的特性
异步日志记录
在fit()、evaluate()和predict()方法中,日志记录现在是异步进行的。这使得在专用硬件(如TPU)上运行时能够实现100%紧凑的训练步骤堆叠,从而提升训练效率。
新的位运算和数学运算
新增了多种位运算函数如op_bitwise_and()、op_bitwise_or()等,以及数学运算如op_logdet()、op_trunc()等,为底层数值计算提供了更多支持。
新的预处理层
layer_auto_contrast()和layer_solarization()等新的图像预处理层进一步丰富了数据增强的选择。
总结
Keras3 1.3.0版本带来了众多改进和新特性,从依赖管理的简化到新功能的添加,再到性能的优化,各个方面都有显著提升。特别是对Flash Attention的支持、异步日志记录以及众多新的层和运算操作,使得Keras3在深度学习领域的应用更加广泛和高效。无论是初学者还是资深开发者,都能从这个版本中获得更好的使用体验和更强大的功能支持。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C051
MiniMax-M2.1从多语言软件开发自动化到复杂多步骤办公流程执行,MiniMax-M2.1 助力开发者构建下一代自主应用——全程保持完全透明、可控且易于获取。Python00
kylin-wayland-compositorkylin-wayland-compositor或kylin-wlcom(以下简称kywc)是一个基于wlroots编写的wayland合成器。 目前积极开发中,并作为默认显示服务器随openKylin系统发布。 该项目使用开源协议GPL-1.0-or-later,项目中来源于其他开源项目的文件或代码片段遵守原开源协议要求。C01
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
agent-studioopenJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力TSX0126
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00