TienKung-Lab路线图前瞻:更多传感器与感知控制,人形步态RL的下一步是什么
TienKung-Lab路线图前瞻:更多传感器与感知控制,人形步态RL的下一步是什么
TienKung-Lab 是基于 IsaacLab 的人形机器人 RL 步态控制框架,其背后的 TienKung 人形机器人曾夺得首届人形机器人半程马拉松冠军。本文解读官方 TODO 路线图,剖析其传感器体系现状,并前瞻"更多传感器"与 Perceptive Control(感知控制)两大未竟方向,帮助新手快速看懂人形步态强化学习的下一步演进。
🏃 快速认识 TienKung-Lab:人形机器人步态 RL 工作流
TienKung-Lab 为全尺寸人形机器人提供了一条"直接可用"的强化学习工作流:在 IsaacSim 4.5.0 + IsaacLab 2.1.0 上训练 20 自由度人形机器人的行走与奔跑策略,并通过 AMP(对抗式运动先验)奖励 + 周期性步态奖励,让机器人学出自然、稳定且能耗友好的步态。
整个框架由四块组成:
| 模块 | 说明 | 参考位置 |
|---|---|---|
| 任务注册 | walk / run / walk_with_sensor / run_with_sensor 四类任务 |
legged_lab/envs/init.py |
| 机器人资产 | TienKung2 Lite 的 USD / URDF / MJCF 全格式模型 | legged_lab/assets/tienkung2_lite/ |
| 训练算法 | 魔改 RSL-RL,内置 AMP-PPO 与判别器 | rsl_rl/rsl_rl/algorithms/amp_ppo.py |
| 验证链路 | Sim2Sim(MuJoCo)跨仿真验证 + 真机部署 | legged_lab/scripts/sim2sim.py |
值得注意的健壮性设计:训练时默认开启域随机化(摩擦系数、±5kg 躯干质量扰动、每 10~15 秒随机推力冲击),这正是策略能顺利迁移到 MuJoCo 乃至真机的关键。
👁️ 传感器体系现状:已经"长"在机器人身上的三件套
打开传感器任务配置 legged_lab/envs/tienkung/walk_with_sensor_cfg.py,可以看到场景里同时挂载了三类传感器:
- 高度扫描仪(Height Scanner):基于射线投射(Ray Casting)的地形高度图,代码见 legged_lab/terrains/ray_caster.py,当前配置中默认关闭、按需启用。
- LiDAR 激光雷达:64 线、水平 360° 全向、垂直 ±90°、最远 20m,安装点在骨盆(
offset=(0.15, 0.0, 0.6)),配置见 legged_lab/sensors/lidar/lidat_cfg.py。 - 深度相机:内置两款真实相机的参数化配置——Intel D455(480×270、87° 视场、15m)与 Luxonis OAK-D(72° 视场、12m),分别见 d455_depth_config.py 和 luxonis_oak_d_config.py。两者都建模了真实传感器的噪声与 dropout,保证"仿真里学到的感知"贴近实机。
一个关键细节:在 legged_lab/envs/tienkung/tienkung_env.py 的 compute_observations 中,深度相机的距离图已被展平后拼入 actor/critic 观测向量;而 LiDAR 虽然已在场景中实例化(见 legged_lab/utils/env_utils/scene.py),其点云数据尚未接入观测——这正是下文路线图中"Add more sensors"的伏笔。
✅ TODO 清单已完成部分:三座已经翻过的山
README 的 TODO List 清晰地记录了项目节奏,前三项均已打勾:
| 里程碑 | 时间 | 意义 |
|---|---|---|
| 动作重定向(Motion Retargeting) | 2025-09-27 | 打通 AMASS → GMR → 机器人动作的完整数据管线 |
| Sim2Real 演示 | 2025-11-07 | 训练策略首次在真机 TienKung 上验证 |
| 部署仓库链接 | 2025-11-19 | 真机部署链路正式开源 |
动作重定向是步态 RL 的"燃料供给":将人类动作数据集(AMASS/OMOMO 的 SMPLX 数据)经 GMR 通用重定向后,再转换为 AMP 专家数据。两步处理分别对应 legged_lab/scripts/gmr_data_conversion.py 与 legged_lab/scripts/play_amp_animation.py。
Sim2Sim 则让策略在 MuJoCo 中"换个物理引擎再跑一遍",用官方预训练策略即可复现(Exported_policy/walk.pt),是检验泛化性的低成本手段:
python legged_lab/scripts/sim2sim.py --task walk --policy Exported_policy/walk.pt --duration 100
🔭 路线图未竟项前瞻:更多传感器 × 感知控制
官方 TODO 中剩下的两项——Add more sensors 与 Add Perceptive Control——恰好勾勒出人形步态 RL 的下一个演进方向。
📡 更多传感器:从"深度图"到"多模态感知"
从代码结构可以预判扩展路径:
- LiDAR 数据接入观测:雷达点云已在场景中生成,下一步只需在
compute_observations中完成编码(如下采样、体素化或高度图投影),即可让策略"看见"360° 环境。 - 传感器配置即插即用:相机配置采用继承式设计(
TiledD455CameraCfg、LuxonisOakDConfig均继承自统一的CameraCfg),新增一款相机只需一个配置文件,扩展成本极低。 - 多传感器融合:深度相机(近景细节)+ LiDAR(远景与全向)+ 高度扫描仪(脚下地形)三种数据源互补,是感知控制的天然组合。
🧠 感知控制(Perceptive Control):从"盲走"到"看得见地走"
当前策略的行走主要依赖本体感知(关节状态、IMU)+ 速度指令,地形高度图是可选输入——这可以理解为"蒙着眼靠脚感走路"。Perceptive Control 的方向则是让感知数据真正驱动步态决策:
- 视觉-地形耦合步态:根据深度图调整落脚点与步幅,应对未知台阶与碎砾地形(配置中已预置
GRAVEL_TERRAINS_CFG碎砾地形生成器); - 动态避障:LiDAR 全向数据支持绕行而非仅靠域随机化硬扛冲击;
- 感知驱动的步频自适应:将环境信息融入周期性步态相位,实现"看着路况调步频"。
README 致谢中引用的 Omni-Perception(足式机器人感知库)暗示了团队的感知算法储备,后续版本很可能以此为底座补齐感知栈。
🚀 跟进路线:新手上手路径
想亲手体验当前版本,最短路径如下:
git clone https://gitcode.com/gh_mirrors/ti/TienKung-Lab
cd TienKung-Lab
pip install -e .
cd rsl_rl && pip install -e . && cd ..
# 训练带传感器的行走策略
python legged_lab/scripts/train.py --task=walk_with_sensor --headless --num_envs=4096
建议重点盯住 legged_lab/envs/init.py 的任务注册表与 legged_lab/sensors/ 目录——每当新任务或新传感器上线,这两处会是第一个"亮灯"的地方。
📌 小结:从"会走"到"看得见地走"
TienKung-Lab 已经走完了人形步态 RL 最难的三段路:AMP 数据管线 → 大规模 GPU 训练 → 真机验证,并拿下了半程马拉松冠军的实锤成绩。而官方路线图上剩下的"更多传感器"与"Perceptive Control",正是把机器人从运动能力(Locomotion)问题升级为感知-控制耦合(Perception-Locomotion)问题的关键一步——这也将是判断人形机器人能否真正走出实验室、走进复杂真实环境的核心分水岭。






