首页
/ AgentFormer 开源项目教程

AgentFormer 开源项目教程

2024-09-21 02:41:31作者:温艾琴Wonderful

项目介绍

AgentFormer 是一个用于社会时空多智能体预测的 Transformer 模型。该项目由 Ye Yuan、Xinshuo Weng、Yanglan Ou 和 Kris Kitani 在 ICCV 2021 上提出。AgentFormer 通过联合建模时间和社交维度,能够有效地预测多个智能体的未来轨迹。该模型在行人轨迹预测和自动驾驶数据集上表现出色,显著提升了现有技术的水平。

项目快速启动

环境准备

  1. 操作系统:MacOS 或 Linux
  2. Python:>= 3.7
  3. PyTorch:== 1.8.0
  4. 依赖安装
    pip install -r requirements.txt
    

数据准备

ETH/UCY 数据集

项目已经包含了一个转换后的 ETH/UCY 数据集,位于 datasets/eth_ucy 目录下。

nuScenes 数据集

  1. 下载原始的 nuScenes 数据集。
  2. 按照 nuScenes 预测挑战的说明进行操作。
  3. 下载并安装地图扩展。
  4. 运行以下脚本以获取处理后的 nuScenes 数据集:
    python data/process_nuscenes.py --data_root <PATH_TO_NUSCENES>
    

模型训练

AgentFormer 需要两阶段训练:

  1. 训练 AgentFormer VAE 模型(不包括轨迹采样器):

    python train.py --cfg user_eth_agentformer_pre --gpu 0
    
  2. 训练 AgentFormer DLow 模型(轨迹采样器):

    python train.py --cfg user_eth_agentformer --gpu 0
    

    注意:在第二阶段训练时,需要将 pred_cfg 字段设置为第一阶段使用的配置文件,并将 pred_epoch 设置为要使用的 VAE 模型 epoch。

模型评估

ETH/UCY 数据集

运行以下命令以测试 ETH 数据集的预训练模型:

python test.py --cfg eth_agentformer --gpu 0

可以使用 hotelunivzara1zara2 替换 eth 来测试其他数据集。

nuScenes 数据集

运行以下命令以测试 nuScenes 数据集的预训练模型:

python test.py --cfg nuscenes_5sample_agentformer --gpu 0

可以使用 10sample 替换 5sample 来计算所有指标(ADE_5、FDE_5、ADE_10、FDE_10)。

应用案例和最佳实践

行人轨迹预测

AgentFormer 在行人轨迹预测任务中表现出色,特别是在拥挤场景下。通过联合建模时间和社交维度,模型能够更好地捕捉行人的交互行为,从而提高预测的准确性。

自动驾驶

在自动驾驶领域,AgentFormer 可以用于预测周围车辆和行人的未来轨迹,帮助自动驾驶系统做出更安全的决策。通过多智能体轨迹预测,系统可以更好地规划行驶路径,避免潜在的碰撞风险。

典型生态项目

Social-LSTM

Social-LSTM 是一个早期用于行人轨迹预测的模型,通过 LSTM 网络建模行人的社交行为。AgentFormer 在其基础上进一步引入了 Transformer 架构,显著提升了预测性能。

nuScenes

nuScenes 是一个用于自动驾驶的多模态数据集,包含了丰富的传感器数据。AgentFormer 在 nuScenes 数据集上的表现证明了其在自动驾驶领域的应用潜力。

Transformer-based Object Detection

Transformer 在目标检测领域的应用也取得了显著进展,AgentFormer 借鉴了 Transformer 的架构,将其应用于多智能体轨迹预测任务,展示了 Transformer 在不同领域的广泛适用性。

通过本教程,您应该能够快速上手 AgentFormer 项目,并在实际应用中取得良好的效果。

登录后查看全文
热门项目推荐