Keras模型序列化与自定义损失函数加载问题解析

问题背景

在Keras深度学习框架中，模型序列化与反序列化是模型部署和迁移的重要环节。近期在Keras版本从3.6升级到3.7后，部分用户遇到了自定义损失函数加载失败的问题，具体表现为当尝试加载在Keras 3.6中保存的模型时，系统无法识别已注册的自定义损失函数。

问题现象

当使用Keras 3.7或3.8加载在Keras 3.6中保存的包含自定义损失函数的模型时，会出现类似以下的错误信息：

TypeError: Could not locate function 'attention_loss'. Make sure custom classes are decorated with `@keras.saving.register_keras_serializable()`. Full object config: {'module': 'builtins', 'class_name': 'function', 'config': 'attention_loss', 'registered_name': 'function'}

值得注意的是，这个问题仅出现在自定义损失函数上，而自定义激活函数则不受影响。

技术分析

序列化机制变化

在Keras 3.6版本中，自定义损失函数的序列化存在以下特点：

1. 序列化时仅使用函数名称作为键值，忽略了@keras.saving.register_keras_serializable装饰器中指定的包名
2. 反序列化时存在回退机制，能够通过函数名称匹配已注册的函数

Keras 3.7版本通过提交795df4ef63566ec869fe2512373f4346e1e02746修复了这个问题，但同时也移除了原有的回退机制，导致：

1. 现在序列化时会正确使用"包名>函数名"的完整格式
2. 但无法加载旧版本中仅以函数名作为键值保存的模型

根本原因

问题的核心在于Keras对不同类型的自定义函数处理方式不一致：

1. 损失函数：在3.6版本中序列化时未包含包名信息
2. 激活函数：始终使用get_registered_name方法生成包含包名的完整键值

这种不一致性导致了版本升级后的兼容性问题。

解决方案

临时解决方案

对于需要加载Keras 3.6保存的模型的用户，可以采用以下方法：

@keras.saving.register_keras_serializable("attention_loss")
def attention_loss(y_actual, y_predicted):
    # 实现代码

reloaded_model = keras.models.load_model(
    "custom_model.keras",
    custom_objects={"attention_loss": attention_loss},
)

这种方法通过显式提供custom_objects参数，绕过了自动反序列化机制。

长期建议

1. 对于新项目，建议统一使用Keras 3.7+版本
2. 保存模型时，确保所有自定义对象都正确使用了@keras.saving.register_keras_serializable装饰器
3. 考虑在模型文档中保留自定义对象的实现代码，以备将来需要

最佳实践

为了确保模型的可移植性，建议遵循以下准则：

1. 明确注册：为所有自定义层、损失函数和指标使用装饰器注册
2. 版本控制：记录模型保存时使用的Keras版本
3. 代码归档：将自定义对象的实现与模型文件一起归档
4. 测试验证：在不同环境中测试模型加载功能

总结

Keras框架的持续改进虽然带来了更好的功能，但有时也会引入兼容性问题。理解序列化机制的变化有助于开发者更好地管理模型生命周期。对于自定义对象，显式注册和适当文档是确保长期可维护性的关键。随着Keras生态系统的成熟，这类问题有望通过更完善的版本管理和迁移工具得到进一步缓解。