DyTox：动态令牌扩展与持续学习Transformer安装与使用指南

1. 项目目录结构及介绍

DyTox项目是一个专为持续学习设计的Transformer架构，其在CVPR 2022上被接受。以下是该仓库的基本目录结构及其简要说明：

├── continual          # 持续学习相关的代码或数据处理逻辑
├── continual/datasets.py  # 数据集适配层，支持持续学习场景下的数据加载
├── options            # 配置文件夹，存储着实验的各种选项定义（如模型、数据集、训练设置等）
│   ├── data             # 数据集相关配置
│   ├── model           # 模型版本配置
│   └── ...              # 其他可能的配置分类
├── README.md          # 项目简介和主要说明文档
├── train.sh           # 训练脚本，用于启动实验
├── gitignore          # Git忽略文件列表
├── LICENSE            # 许可证文件，采用Apache-2.0许可证
├── main.py             # 可能的主程序文件，未详细说明但通常涉及核心运行逻辑
├── requirements.txt   # 项目依赖列表，包含了运行项目所需的Python库
├── convert_memory.py  # 与内存转换管理相关的脚本
├── erratum_distributed.md  # 分布式设置中可能存在的更正或说明
├── ...                # 其它潜在的辅助文件或模块

每个部分都承载了特定的功能，例如options提供了灵活的配置选项以适应不同的实验需求，而train.sh作为主要的执行脚本控制了实验的启动过程。

2. 项目的启动文件介绍

启动文件：train.sh

DyTox通过bash脚本train.sh来启动训练流程。使用此脚本前需确保配置好相应的环境。基本使用方式如下，示例命令展示了如何在两块GPU上启动针对CIFAR100数据集、50个学习步进的实验：

bash train.sh 0 1 \
    --options options/data/cifar100_2-2.yaml options/data/cifar100_order1.yaml options/model/cifar_dytox.yaml \
    --name dytox \
    --data-path MY_PATH_TO_DATASET \
    --output-basedir PATH_TO_SAVE_CHECKPOINTS \
    --memory-size 1000

这里的参数包括了数据集选项、类序排列和模型选择，以及实验的名称、数据路径、检查点保存目录和记忆大小等关键信息。

3. 项目的配置文件介绍

配置文件位于options目录下，分为几个子目录对应不同类型的配置：

• 数据集配置 (options/data)：定义了使用的数据集名称、步骤设置（如任务分割）及特定于数据集的参数。

• 模型配置 (options/model)：指定训练所使用的Transformer模型版本，如DyTox、DyTox+、DyTox++，每种模型有其特定的结构或训练策略。

配置文件是YAML格式，允许用户轻松调整实验细节，比如更换模型版本、修改学习率、设置内存大小等，从而无需深入源码即可定制实验。

---

以上概览提供了快速入门DyTox项目的基础，确保在操作前已阅读项目内的具体文档和yaml配置文件，以获得更详细的指导信息。记得替换指令中的占位符（如MY_PATH_TO_DATASET, PATH_TO_SAVE_CHECKPOINTS）以匹配你的实际路径。