HighwayEnv多智能体停车环境配置指南

多智能体停车环境概述

HighwayEnv是一个优秀的自动驾驶模拟环境，其中parking-v0环境模拟了车辆在停车场中的泊车场景。该环境支持多智能体配置，允许同时控制多辆车辆完成泊车任务。然而在实际使用中，开发者可能会遇到一些配置上的问题。

常见配置问题分析

在配置多智能体停车环境时，开发者常会遇到以下两类问题：

1. 观测空间类型不匹配：ParkingEnv默认需要KinematicsGoal类型的观测空间，而非普通的Kinematics观测。这是因为该环境设计时考虑了与StableBaselines3的HER(事后经验回放)算法的兼容性。

2. 车辆初始位置异常：在多智能体设置中，车辆有时会生成在停车区域外，且所有车辆会尝试停入同一个车位，这不符合实际泊车场景的需求。

正确配置方法

要正确配置多智能体停车环境，应采用以下参数设置：

env.configure({
  "controlled_vehicles": 3,  # 控制3辆车辆
  "vehicles_count": 1,       # 环境中其他车辆数量
  'lanes_count': 1,          # 车道数量
  "observation": {
    "type": "MultiAgentObservation",
    "observation_config": {
      "type": "KinematicsGoal",  # 必须使用KinematicsGoal类型
      "features": ["x", "y", "vx", "vy", "cos_h", "sin_h"],
      "scales": [100, 100, 5, 5, 1, 1],
      "normalize": False,
    }
  },
  "action": {
    "type": "MultiAgentAction",
    "action_config": {
      "type": "DiscreteMetaAction",
    }
  }
})

多智能体行为的特殊性

当前版本的多智能体停车环境存在以下行为特点：

1. 竞争与合作并存：所有智能体车辆会尝试停入同一个车位，形成竞争关系；但在最大化总奖励(各智能体奖励之和)时，又会表现出合作行为。

2. 奖励机制：系统会鼓励一辆车成功泊入车位，而其他车辆则尽可能靠近该车位。

改进方向

更合理的多智能体停车环境应该：

1. 为每辆智能体车辆分配独立的停车位目标
2. 优化车辆初始生成位置，确保都在合理区域内
3. 考虑车辆间的避碰机制
4. 设计更合理的多车协同奖励函数

总结

HighwayEnv的parking-v0环境为研究多智能体自动驾驶提供了良好的基础平台。通过正确的配置参数，开发者可以构建多车协同泊车的研究环境。虽然当前版本在多智能体交互方面还有优化空间，但已经能够支持基本的多车控制研究。未来版本的改进将使这一环境更加贴近实际泊车场景。