DAFormer 项目亮点解析

1. 项目的基础介绍

DAFormer 是基于论文《Dual-Attention Transformers for Class-Incremental Learning: A Tale of Two Memories》的开源实现，旨在解决类增量学习中的灾难性遗忘问题。作者通过引入双重注意力机制，平衡了模型在巩固旧知识的同时吸收新知识的能力。该模型已在 CIFAR-100、ImageNet-subset 和 ImageNet-full 数据集上进行了验证，表现优于现有的参数静态和参数增长方法。

2. 项目代码目录及介绍

项目的主要代码目录如下：

• README.md：项目介绍和说明文档。
• requirements.txt：项目所需的依赖库列表。
• convert_memory.py：内存转换相关的 Python 脚本。
• mainDual.py：模型训练的主程序。
• train.sh：训练脚本的 Shell 脚本。
• options：包含数据、模型等配置文件的目录。

3. 项目亮点功能拆解

DAFormer 的主要亮点功能包括：

• 双重注意力机制：通过外部注意力和内部注意力两种机制，分别关注新任务和巩固旧知识。
• K-最近邻不变性蒸馏方案：通过保持样本在新旧模型中的邻居关系不变，将旧任务的知识蒸馏到新任务中。

4. 项目主要技术亮点拆解

DAFormer 的主要技术亮点包括：

• 双重注意力变压器（DAFormer）：结合了 LSTM 和海马体记忆机制，通过外部和内部注意力模块实现知识巩固和吸收的平衡。
• 共享和多个外部键的选择：DAFormer-S 使用共享外部键保持参数大小较小，而 DAFormer-M 使用多个外部键增强长期记忆。

5. 与同类项目对比的亮点

与同类项目相比，DAFormer 的亮点在于：

• 更好的性能：在多个数据集上表现优于现有的参数静态和参数增长方法。
• 灵活的模型配置：提供了多种模型配置，适应不同的任务和数据集。
• 知识蒸馏策略：通过独特的 K-最近邻不变性蒸馏方案，有效保留了旧任务的知识。