Keras3 1.3.0版本发布:深度学习框架的重要更新
Keras是一个广受欢迎的高级神经网络API,它能够以TensorFlow、JAX或PyTorch作为后端运行。Keras3是Keras的最新版本,提供了更灵活的跨后端支持和更强大的功能。本次发布的1.3.0版本带来了多项重要改进和新特性,显著提升了用户体验和框架性能。
Python依赖管理优化
Keras3 1.3.0版本在Python依赖管理方面做出了重大改进。现在,Keras使用reticulate::py_require()来自动解析Python依赖项,这意味着用户不再需要手动调用install_keras()函数来安装依赖(虽然该函数仍然支持使用)。这一改变大大简化了Keras的安装和配置过程,使得新用户能够更轻松地开始使用Keras。
此外,use_backend()函数新增了gpu参数,允许用户指定是否需要解析支持GPU的依赖项。这为需要在GPU上运行深度学习模型的用户提供了更便捷的配置方式。
训练过程显示优化
在模型训练、评估和预测过程中,Keras会显示进度条以帮助用户了解当前进度。1.3.0版本中,这些进度条在testthat测试环境下默认不再显示,这使得测试输出更加简洁清晰,便于开发者专注于测试结果而非进度信息。
张量运算增强
本次更新对张量运算进行了增强,特别是矩阵乘法操作。%*%运算符现在会分派到op_matmul()函数来处理TensorFlow张量,相比直接使用tf$matmul(),op_matmul()具有更宽松的形状约束条件,这使得在进行矩阵运算时更加灵活,减少了因形状不匹配导致的错误。
指标和损失函数改进
修复了一个重要问题:当使用未命名参数调用Metric和Loss对象时,之前会报错。1.3.0版本解决了这一问题,使得指标和损失函数的使用更加健壮和灵活。
兼容Keras v3.8.0的新特性
Keras3 1.3.0版本与Keras v3.8.0保持兼容,并引入了多项新功能:
新增激活函数
activation_sparse_plus():稀疏加激活函数activation_sparsemax():稀疏最大激活函数activation_threshold():阈值激活函数
这些新的激活函数为模型设计提供了更多选择,特别是在需要稀疏输出的场景中。
新增预处理层
layer_equalization():直方图均衡化层layer_mix_up():MixUp数据增强层layer_rand_augment():随机增强层- 多种颜色相关预处理层:如
layer_random_color_degeneration()、layer_random_color_jitter()等
这些预处理层大大简化了图像数据增强的流程,使得构建复杂的图像处理管道更加容易。
新增运算操作
op_diagflat():创建对角矩阵op_sparse_plus():稀疏加运算op_sparsemax():稀疏最大运算op_unravel_index():将平面索引转换为坐标索引
这些新的运算操作为张量处理提供了更多工具,特别是在处理稀疏数据和索引转换时。
兼容Keras v3.7.0的特性
Keras3 1.3.0还包含了Keras v3.7.0引入的众多功能:
新增激活函数
包括activation_celu()、activation_glu()、activation_hard_shrink()等,丰富了非线性变换的选择。
Flash Attention支持
新增了config_disable_flash_attention()、config_enable_flash_attention()等函数,允许用户控制是否使用Flash Attention机制,这在处理大规模注意力模型时可以显著提升性能。
新的损失函数和指标
loss_circle():圆形损失函数metric_concordance_correlation():一致性相关系数指标metric_pearson_correlation():皮尔逊相关系数指标
这些新的损失函数和评估指标为特定任务提供了更专业的工具。
兼容Keras v3.6.0的特性
异步日志记录
在fit()、evaluate()和predict()方法中,日志记录现在是异步进行的。这使得在专用硬件(如TPU)上运行时能够实现100%紧凑的训练步骤堆叠,从而提升训练效率。
新的位运算和数学运算
新增了多种位运算函数如op_bitwise_and()、op_bitwise_or()等,以及数学运算如op_logdet()、op_trunc()等,为底层数值计算提供了更多支持。
新的预处理层
layer_auto_contrast()和layer_solarization()等新的图像预处理层进一步丰富了数据增强的选择。
总结
Keras3 1.3.0版本带来了众多改进和新特性,从依赖管理的简化到新功能的添加,再到性能的优化,各个方面都有显著提升。特别是对Flash Attention的支持、异步日志记录以及众多新的层和运算操作,使得Keras3在深度学习领域的应用更加广泛和高效。无论是初学者还是资深开发者,都能从这个版本中获得更好的使用体验和更强大的功能支持。
AutoGLM-Phone-9BAutoGLM-Phone-9B是基于AutoGLM构建的移动智能助手框架,依托多模态感知理解手机屏幕并执行自动化操作。Jinja00
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
GLM-4.6V-FP8GLM-4.6V-FP8是GLM-V系列开源模型,支持128K上下文窗口,融合原生多模态函数调用能力,实现从视觉感知到执行的闭环。具备文档理解、图文生成、前端重构等功能,适用于云集群与本地部署,在同类参数规模中视觉理解性能领先。Jinja00
HunyuanOCRHunyuanOCR 是基于混元原生多模态架构打造的领先端到端 OCR 专家级视觉语言模型。它采用仅 10 亿参数的轻量化设计,在业界多项基准测试中取得了当前最佳性能。该模型不仅精通复杂多语言文档解析,还在文本检测与识别、开放域信息抽取、视频字幕提取及图片翻译等实际应用场景中表现卓越。00
GLM-ASR-Nano-2512GLM-ASR-Nano-2512 是一款稳健的开源语音识别模型,参数规模为 15 亿。该模型专为应对真实场景的复杂性而设计,在保持紧凑体量的同时,多项基准测试表现优于 OpenAI Whisper V3。Python00
GLM-TTSGLM-TTS 是一款基于大语言模型的高质量文本转语音(TTS)合成系统,支持零样本语音克隆和流式推理。该系统采用两阶段架构,结合了用于语音 token 生成的大语言模型(LLM)和用于波形合成的流匹配(Flow Matching)模型。 通过引入多奖励强化学习框架,GLM-TTS 显著提升了合成语音的表现力,相比传统 TTS 系统实现了更自然的情感控制。Python00
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00