TienKung-Lab路线图前瞻:更多传感器与感知控制,人形步态RL的下一步是什么

原创2026-10-24 14:57:231,682 阅读
文章标签:人工智能强化学习机器学习深度学习具身智能机器人硬件仿真

TienKung-Lab路线图前瞻:更多传感器与感知控制,人形步态RL的下一步是什么

TienKung-Lab 是基于 IsaacLab 的人形机器人 RL 步态控制框架,其背后的 TienKung 人形机器人曾夺得首届人形机器人半程马拉松冠军。本文解读官方 TODO 路线图,剖析其传感器体系现状,并前瞻"更多传感器"与 Perceptive Control(感知控制)两大未竟方向,帮助新手快速看懂人形步态强化学习的下一步演进。

🏃 快速认识 TienKung-Lab:人形机器人步态 RL 工作流

TienKung-Lab 为全尺寸人形机器人提供了一条"直接可用"的强化学习工作流:在 IsaacSim 4.5.0 + IsaacLab 2.1.0 上训练 20 自由度人形机器人的行走与奔跑策略,并通过 AMP(对抗式运动先验)奖励 + 周期性步态奖励,让机器人学出自然、稳定且能耗友好的步态。

TienKung人形机器人RL步态控制马拉松冠军照片

整个框架由四块组成:

模块 说明 参考位置
任务注册 walk / run / walk_with_sensor / run_with_sensor 四类任务 legged_lab/envs/init.py
机器人资产 TienKung2 Lite 的 USD / URDF / MJCF 全格式模型 legged_lab/assets/tienkung2_lite/
训练算法 魔改 RSL-RL,内置 AMP-PPO 与判别器 rsl_rl/rsl_rl/algorithms/amp_ppo.py
验证链路 Sim2Sim(MuJoCo)跨仿真验证 + 真机部署 legged_lab/scripts/sim2sim.py

TienKung-Lab人形机器人RL步态行走演示IsaacLab

值得注意的健壮性设计:训练时默认开启域随机化(摩擦系数、±5kg 躯干质量扰动、每 10~15 秒随机推力冲击),这正是策略能顺利迁移到 MuJoCo 乃至真机的关键。

👁️ 传感器体系现状:已经"长"在机器人身上的三件套

打开传感器任务配置 legged_lab/envs/tienkung/walk_with_sensor_cfg.py,可以看到场景里同时挂载了三类传感器:

  1. 高度扫描仪(Height Scanner):基于射线投射(Ray Casting)的地形高度图,代码见 legged_lab/terrains/ray_caster.py,当前配置中默认关闭、按需启用。
  2. LiDAR 激光雷达:64 线、水平 360° 全向、垂直 ±90°、最远 20m,安装点在骨盆(offset=(0.15, 0.0, 0.6)),配置见 legged_lab/sensors/lidar/lidat_cfg.py。
  3. 深度相机:内置两款真实相机的参数化配置——Intel D455(480×270、87° 视场、15m)与 Luxonis OAK-D(72° 视场、12m),分别见 d455_depth_config.py 和 luxonis_oak_d_config.py。两者都建模了真实传感器的噪声与 dropout,保证"仿真里学到的感知"贴近实机。

TienKung-Lab人形机器人带深度传感器行走演示

一个关键细节:在 legged_lab/envs/tienkung/tienkung_env.py 的 compute_observations 中,深度相机的距离图已被展平后拼入 actor/critic 观测向量;而 LiDAR 虽然已在场景中实例化(见 legged_lab/utils/env_utils/scene.py),其点云数据尚未接入观测——这正是下文路线图中"Add more sensors"的伏笔。

TienKung-Lab人形机器人带传感器奔跑感知演示

✅ TODO 清单已完成部分:三座已经翻过的山

README 的 TODO List 清晰地记录了项目节奏,前三项均已打勾:

里程碑 时间 意义
动作重定向(Motion Retargeting) 2025-09-27 打通 AMASS → GMR → 机器人动作的完整数据管线
Sim2Real 演示 2025-11-07 训练策略首次在真机 TienKung 上验证
部署仓库链接 2025-11-19 真机部署链路正式开源

动作重定向是步态 RL 的"燃料供给":将人类动作数据集(AMASS/OMOMO 的 SMPLX 数据)经 GMR 通用重定向后,再转换为 AMP 专家数据。两步处理分别对应 legged_lab/scripts/gmr_data_conversion.py 与 legged_lab/scripts/play_amp_animation.py。

GMR运动重定向人形步态动作中间效果

TienKung-Lab人形机器人步态重定向最终效果

Sim2Sim 则让策略在 MuJoCo 中"换个物理引擎再跑一遍",用官方预训练策略即可复现(Exported_policy/walk.pt),是检验泛化性的低成本手段:

python legged_lab/scripts/sim2sim.py --task walk --policy Exported_policy/walk.pt --duration 100

TienKung-Lab人形机器人Sim2Sim MuJoCo奔跑验证

🔭 路线图未竟项前瞻:更多传感器 × 感知控制

官方 TODO 中剩下的两项——Add more sensors 与 Add Perceptive Control——恰好勾勒出人形步态 RL 的下一个演进方向。

📡 更多传感器:从"深度图"到"多模态感知"

从代码结构可以预判扩展路径:

  • LiDAR 数据接入观测:雷达点云已在场景中生成,下一步只需在 compute_observations 中完成编码(如下采样、体素化或高度图投影),即可让策略"看见"360° 环境。
  • 传感器配置即插即用:相机配置采用继承式设计(TiledD455CameraCfg、LuxonisOakDConfig 均继承自统一的 CameraCfg),新增一款相机只需一个配置文件,扩展成本极低。
  • 多传感器融合:深度相机(近景细节)+ LiDAR(远景与全向)+ 高度扫描仪(脚下地形)三种数据源互补,是感知控制的天然组合。

🧠 感知控制(Perceptive Control):从"盲走"到"看得见地走"

当前策略的行走主要依赖本体感知(关节状态、IMU)+ 速度指令,地形高度图是可选输入——这可以理解为"蒙着眼靠脚感走路"。Perceptive Control 的方向则是让感知数据真正驱动步态决策:

  • 视觉-地形耦合步态:根据深度图调整落脚点与步幅,应对未知台阶与碎砾地形(配置中已预置 GRAVEL_TERRAINS_CFG 碎砾地形生成器);
  • 动态避障:LiDAR 全向数据支持绕行而非仅靠域随机化硬扛冲击;
  • 感知驱动的步频自适应:将环境信息融入周期性步态相位,实现"看着路况调步频"。

README 致谢中引用的 Omni-Perception(足式机器人感知库)暗示了团队的感知算法储备,后续版本很可能以此为底座补齐感知栈。

🚀 跟进路线:新手上手路径

想亲手体验当前版本,最短路径如下:

git clone https://gitcode.com/gh_mirrors/ti/TienKung-Lab
cd TienKung-Lab
pip install -e .
cd rsl_rl && pip install -e . && cd ..

# 训练带传感器的行走策略
python legged_lab/scripts/train.py --task=walk_with_sensor --headless --num_envs=4096

建议重点盯住 legged_lab/envs/init.py 的任务注册表与 legged_lab/sensors/ 目录——每当新任务或新传感器上线,这两处会是第一个"亮灯"的地方。

📌 小结:从"会走"到"看得见地走"

TienKung-Lab 已经走完了人形步态 RL 最难的三段路:AMP 数据管线 → 大规模 GPU 训练 → 真机验证,并拿下了半程马拉松冠军的实锤成绩。而官方路线图上剩下的"更多传感器"与"Perceptive Control",正是把机器人从运动能力(Locomotion)问题升级为感知-控制耦合(Perception-Locomotion)问题的关键一步——这也将是判断人形机器人能否真正走出实验室、走进复杂真实环境的核心分水岭。

登录后查看全文
TienKung-Lab