Keras3 1.3.0版本发布:深度学习框架的重要更新
Keras是一个广受欢迎的高级神经网络API,它能够以TensorFlow、JAX或PyTorch作为后端运行。Keras3是Keras的最新版本,提供了更灵活的跨后端支持和更强大的功能。本次发布的1.3.0版本带来了多项重要改进和新特性,显著提升了用户体验和框架性能。
Python依赖管理优化
Keras3 1.3.0版本在Python依赖管理方面做出了重大改进。现在,Keras使用reticulate::py_require()来自动解析Python依赖项,这意味着用户不再需要手动调用install_keras()函数来安装依赖(虽然该函数仍然支持使用)。这一改变大大简化了Keras的安装和配置过程,使得新用户能够更轻松地开始使用Keras。
此外,use_backend()函数新增了gpu参数,允许用户指定是否需要解析支持GPU的依赖项。这为需要在GPU上运行深度学习模型的用户提供了更便捷的配置方式。
训练过程显示优化
在模型训练、评估和预测过程中,Keras会显示进度条以帮助用户了解当前进度。1.3.0版本中,这些进度条在testthat测试环境下默认不再显示,这使得测试输出更加简洁清晰,便于开发者专注于测试结果而非进度信息。
张量运算增强
本次更新对张量运算进行了增强,特别是矩阵乘法操作。%*%运算符现在会分派到op_matmul()函数来处理TensorFlow张量,相比直接使用tf$matmul(),op_matmul()具有更宽松的形状约束条件,这使得在进行矩阵运算时更加灵活,减少了因形状不匹配导致的错误。
指标和损失函数改进
修复了一个重要问题:当使用未命名参数调用Metric和Loss对象时,之前会报错。1.3.0版本解决了这一问题,使得指标和损失函数的使用更加健壮和灵活。
兼容Keras v3.8.0的新特性
Keras3 1.3.0版本与Keras v3.8.0保持兼容,并引入了多项新功能:
新增激活函数
activation_sparse_plus():稀疏加激活函数activation_sparsemax():稀疏最大激活函数activation_threshold():阈值激活函数
这些新的激活函数为模型设计提供了更多选择,特别是在需要稀疏输出的场景中。
新增预处理层
layer_equalization():直方图均衡化层layer_mix_up():MixUp数据增强层layer_rand_augment():随机增强层- 多种颜色相关预处理层:如
layer_random_color_degeneration()、layer_random_color_jitter()等
这些预处理层大大简化了图像数据增强的流程,使得构建复杂的图像处理管道更加容易。
新增运算操作
op_diagflat():创建对角矩阵op_sparse_plus():稀疏加运算op_sparsemax():稀疏最大运算op_unravel_index():将平面索引转换为坐标索引
这些新的运算操作为张量处理提供了更多工具,特别是在处理稀疏数据和索引转换时。
兼容Keras v3.7.0的特性
Keras3 1.3.0还包含了Keras v3.7.0引入的众多功能:
新增激活函数
包括activation_celu()、activation_glu()、activation_hard_shrink()等,丰富了非线性变换的选择。
Flash Attention支持
新增了config_disable_flash_attention()、config_enable_flash_attention()等函数,允许用户控制是否使用Flash Attention机制,这在处理大规模注意力模型时可以显著提升性能。
新的损失函数和指标
loss_circle():圆形损失函数metric_concordance_correlation():一致性相关系数指标metric_pearson_correlation():皮尔逊相关系数指标
这些新的损失函数和评估指标为特定任务提供了更专业的工具。
兼容Keras v3.6.0的特性
异步日志记录
在fit()、evaluate()和predict()方法中,日志记录现在是异步进行的。这使得在专用硬件(如TPU)上运行时能够实现100%紧凑的训练步骤堆叠,从而提升训练效率。
新的位运算和数学运算
新增了多种位运算函数如op_bitwise_and()、op_bitwise_or()等,以及数学运算如op_logdet()、op_trunc()等,为底层数值计算提供了更多支持。
新的预处理层
layer_auto_contrast()和layer_solarization()等新的图像预处理层进一步丰富了数据增强的选择。
总结
Keras3 1.3.0版本带来了众多改进和新特性,从依赖管理的简化到新功能的添加,再到性能的优化,各个方面都有显著提升。特别是对Flash Attention的支持、异步日志记录以及众多新的层和运算操作,使得Keras3在深度学习领域的应用更加广泛和高效。无论是初学者还是资深开发者,都能从这个版本中获得更好的使用体验和更强大的功能支持。
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C0134
let_datasetLET数据集 基于全尺寸人形机器人 Kuavo 4 Pro 采集,涵盖多场景、多类型操作的真实世界多任务数据。面向机器人操作、移动与交互任务,支持真实环境下的可扩展机器人学习00
mindquantumMindQuantum is a general software library supporting the development of applications for quantum computation.Python059
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
AgentCPM-ReportAgentCPM-Report是由THUNLP、中国人民大学RUCBM和ModelBest联合开发的开源大语言模型智能体。它基于MiniCPM4.1 80亿参数基座模型构建,接收用户指令作为输入,可自主生成长篇报告。Python00