郑奕恺

机器人强化学习运动控制 / 模仿学习 · 2027 届硕士 · 南方科技大学

研究方向:地形感知与全身运动控制、可微世界模型、模仿学习

📮 642978541@qq.com 📱 17359407085 🌐 主页 https://merryzyk.pages.dev 🎓 南方科技大学 · 机器人工程

真机演示、项目动图及论文全文见个人主页。

郑奕恺

教育经历

南方科技大学(双一流)· 机器人工程 · 硕士 2024.09 – 2027.06(在读)

南方科技大学(双一流)· 机器人工程 · 本科 2020.09 – 2024.06

个人简介

聚焦机器人全身运动控制与模仿学习,项目覆盖人形动作跟踪、四足地形感知移动操作与工业操作。具备 PPO、Teacher-Student 蒸馏、地形注意力策略、RGMT 时序建模及可微世界模型 / BPTT 优化经验,完成动作重定向、多机器人仿真验证、跨引擎迁移及部分策略真机部署。

项目经验

★四足 + 机械臂移动操作 · Go2 + ARX L5 2025.09 – 至今

围绕 Go2 搭载 ARX L5 后的移动抓取,开发腿臂联合 PPO 策略,使底盘移动时仍能跟踪末端目标;完成 Isaac Gym 训练、MuJoCo 迁移与真机水瓶抓取演示,并在 Isaac Lab 中扩展地形感知策略与可微世界模型 Teacher 训练。

  • 项目角色:独立负责研发与验证
  • 主要工作
    • 联合控制与训练:构建腿臂统一的 PPO 控制策略,将基座速度、运动模式与末端目标纳入统一任务指令,使策略在浮动基座扰动与腿臂动力学耦合下同步学习行走稳定性和末端跟踪;通过域随机化增强 sim-to-real 鲁棒性。 • 状态估计与奖励设计:在平地策略中利用历史观测估计基座线速度;设计基础、行走与操作分层奖励,随速度指令连续调节行走 / 操作权重,并以末端误差、进展势能和累积误差约束改善移动中的目标跟踪。 • 地形感知策略:参考 AME2,以 CNN 编码真值局部高度图,通过本体状态查询的多头注意力融合地形特征,结合速度与末端指令训练腿臂联合 Teacher,扩展至粗糙地面、坡道与楼梯场景。 • 可微世界模型训练 Teacher:构建地形与动力学参数条件下的状态增量预测模型,采用 8 步模型拟合、32 步想象轨迹;结合可微地形查询、FK 奖励和末端价值,通过 BPTT 优化 Teacher Actor,并以想象轨迹的 λ-return 训练 Critic。 • 真机接口与问题排查:基于 DDS、unitree_sdk2 与 ARX CAN 完成原 PPO 策略部署;通过同一关节目标回放排查仿真与真机 PD 响应差异,并以观测时间戳对齐和共享状态加锁解决时序不一致与并发读写扰动。 • 抓取演示:结合 RealSense D435i、YOLOv8 目标检测与 pre-grasp / grasp / lift 状态机,完成水瓶抓取全流程真机演示。
  • 项目成果:原 PPO 路线完成 Isaac Gym → MuJoCo 迁移与真机水瓶抓取;新增复杂地形仿真行走演示,建立地形感知 PPO 与可微世界模型 / BPTT 的 Teacher 训练流程。
PyTorchIsaac Lab / GymPPO地形感知 Teacher世界模型 / BPTTMuJoCoDDS / CANYOLOv8

★多机器人全身运动控制与可微世界模型 2026.06 – 至今

面向 LimX Oli(HU-D04-01)与 Unitree G1 的全身动作跟踪,基于 BeyondMimic 构建 PPO 训练与部署流程,进一步参考 SuperMimic 实现可微世界模型与 BPTT 策略优化,并扩展 RGMT Actor。

  • 项目角色:独立负责机器人适配、算法扩展与验证
  • 主要工作
    • 多机器人训练适配:衔接 GMR 重定向与 motion bank,统一 HU 31 关节、G1 29 关节的观测、动作、参考轨迹与任务配置;保留动作边界,支持单动作及动作类别训练。 • 课程与样本利用:实现 LKE 四级课程,以参考关节速度构造动作活跃度代理量,结合失败率与学习进展调整能量子组采样;引入全身位置跟踪质量判据,并实现 STAR 高价值轨迹片段重采样与 PACE 旧阶段复习、教师蒸馏。 • RGMT 时序策略:将状态与动作历史编码为交错 token,通过因果注意力提取历史表征,再以交叉注意力查询未来参考、生成动作解码器的条件命令;实现可选 FSQ 命令量化及 STE 梯度传递,支持 PPO 与世界模型训练分支。 • 可微世界模型:构建仿真采样、Replay、多步动力学拟合与模型内策略优化的训练循环;以局部状态增量预测和可微 FK 计算奖励及软终止,默认采用 8 步模型拟合、32 步想象轨迹,通过 BPTT 将回报梯度穿过冻结的世界模型传回 Actor;配置 WM-PPO 作为策略更新方式的消融对照。 • 训练工程:支持 CPU / GPU Replay、按需传输与分块梯度累积,分别控制模型、Actor、Critic 的显存占用;补齐训练配置校验、模型预测误差评估、checkpoint 恢复和 ONNX Actor 导出。 • 动力学奖励:在姿态与末端跟踪之外,引入质量加权质心速度及质心角动量跟踪项,提供面向全身动态状态的训练信号,并保留独立开关用于消融。 • 迁移与部署:完成 PPO 单动作策略从 Isaac Lab 到 MuJoCo 的迁移,对齐控制频率、PD、关节顺序和参考接口,并在 LimX Oli 上完成部分单动作真机验证;世界模型分支导出仅含 Actor,推理无需运行世界模型与 Critic。
  • 项目成果:形成动作数据、策略训练、评估导出与部署的完整流程;完成 G1、HU 上 MLP / RGMT 两类 Actor 的仿真动作跟踪演示,原 PPO 单动作路线完成跨引擎迁移及部分真机验证。
PyTorchIsaac LabPPO世界模型 / BPTTRGMT / FSQ自适应课程MuJoCoONNX

GMR 通用动作重定向与机器人训练数据生成管线 2026.05 – 2026.08

基于 GMR 将依赖手动配置的动作重定向流程扩展为自动化训练数据管线,覆盖多源动作接入、新机器人适配、轨迹质量优化与批量回放验证,为机器人动作跟踪训练提供稳定数据。

  • 项目角色:独立负责研发与验证
  • 主要工作
    • 多源动作接入:扩展 SMPL-X、BVH / LaFAN1、GVHMR、Xsens、OptiTrack 等动作格式的适配与批量导出,并实现 Xsens 在线流式重定向,统一不同来源动作的训练数据入口。 • 新机器人自动化接入:设计自然站姿自动筛选与 IK 参数候选生成流程,减少新机器人接入时对参考帧、比例和旋转偏置的手动调试,并统一管理中立位与重定向配置。 • 接触感知轨迹优化:针对重定向后支撑期足端滑移,加入接触检测、支撑脚锁定与 IK 重求解;在动作首尾生成平滑过渡,避免站姿切换和动作拼接时的姿态突变。 • 批量生成与质量回放:打通动作批量转换、仿真回放和多机器人同屏对比流程,检查关节限位、足端穿地与轨迹连续性,支持快速定位重定向质量问题。
  • 项目成果:构建从多源动作导入、新机器人适配到接触优化与批量验证的训练数据管线,减少人工配置工作,并提升动作数据在支撑期和边界切换处的稳定性。
PythonGMRSMPL-XXsensLaFAN1whole_body_tracking

基于 Diffusion Policy 的 CNC 刀具推式对齐2024.09 – 2025.08

面向工业 CNC 刀片推式对齐任务,完成 PyBullet 仿真建模、示范数据采集、时序扩散策略训练、视觉域适配及三轴线性平台部署。

  • 项目角色:独立负责研发与验证(第一作者)
  • 主要工作
    • 仿真与数据:基于 PyBullet 构建推式对齐环境,覆盖 7 类刀片几何形状并随机化初始位置与朝向;通过鼠标遥操作采集 500 条示范轨迹,共 15,000 个交互样本。 • 策略与控制:基于 ResNet-18 视觉编码器与 1D temporal U-Net 训练 Diffusion Policy,采用 2 步观测、16 步预测及每轮 8 步动作执行;将二维目标位置通过 PD 速度控制与误差相关限速转换为仿真推杆运动。 • 视觉域适配:结合模板匹配、LAB 颜色分割、U-Net 语义分割、边缘与轮廓提取,定位推杆、网格和刀片,并通过重绘、裁剪与尺寸归一化生成与仿真一致的 256×256 输入。 • 真机验证:三轴线性平台(0.1 mm 定位精度)部署,三种刀具几何形状各 30 次实验,外部位置扰动下验证策略恢复能力。
  • 项目成果:论文发表于 IEEE CAOS 2026(第一作者);仿真成功率 96%,真实平台 A、B、D 三类刀片各 30 次实验成功率 90.0% / 86.7% / 83.3%;完成不同执行阶段的位置扰动测试,验证策略在扰动后的重新定位与恢复能力。
PythonPyTorchDiffusion PolicyPyBulletU-Net

LimX TRON 1 双足行走策略训练与部署 2025.09 – 2026.05

面向 LimX TRON 1 双足动态行走任务,完成强化学习策略训练、跨引擎迁移与真机调试,重点处理动力学差异与部分可观测条件下的行走控制问题。

  • 项目角色:独立负责研发与验证
  • 主要工作
    • 仿真训练:基于 NVIDIA Isaac Gym 的 4096 个并行环境训练行走策略,对质量、质心、摩擦与力矩等动力学参数施加域随机化,以适应仿真与真机之间的动力学差异。 • 奖励与观测设计:结合速度跟踪、躯干姿态、足端触地切换及能耗与平滑性约束设计多目标奖励,引入步态时钟与历史观测,协调双足运动并缓解部分可观测性。 • 跨引擎验证:将策略导出为 ONNX,在 MuJoCo 中完成 Sim-to-Sim 验证,检查策略在不同仿真引擎下的行走表现。 • 真机部署:完成状态估计、低层控制参数整定、策略部署与现场调试,实现双足动态行走。
  • 项目成果:完成 Isaac Gym → MuJoCo 跨引擎迁移验证,真机实现稳定动态行走。
PythonPyTorchNVIDIA Isaac GymMuJoCoPPO

DexUMI 复现与灵巧手策略部署 2025.06 – 2025.09

围绕灵巧操作示范采集与策略部署,复现 DexUMI 的可穿戴采集与策略学习流程,完成外骨骼加工、数据处理及 UR5 + 因时灵巧手平台适配。

  • 项目角色:独立负责研发与验证
  • 主要工作
    • 采集装置:自主加工轻量化可穿戴外骨骼,将人手运动轨迹约束至目标灵巧手的运动学空间,用于操作示范采集。 • 数据处理:完成相机标定、示范数据采集与运动学重映射,衔接可穿戴装置采集数据与机器人策略训练流程。 • 策略训练与部署:基于采集数据完成策略训练,并部署至 UR5 + Inspire-Robotics RH56DFX 灵巧手(因时机器人),验证采集、训练与执行链路。
  • 项目成果:完成轻量化可穿戴外骨骼装置与完整数据管线,策略成功部署至 UR5 + Inspire-Robotics RH56DFX 灵巧手真机平台。
PythonPyTorchUR5Inspire-Robotics RH56DFX

LimX Oli 电磁定位遥操作 2026.05 – 2026.07

面向 LimX Oli 末端跟踪遥操作,利用电磁定位设备采集人体位姿,结合标准姿态初始化、长度比例缩放与参考原点偏移补偿,将手腕位姿映射为机器人基座坐标系下的末端位姿指令。

  • 项目角色:独立负责研发与验证
  • 主要工作
    • 位姿采集:集成佩戴于双腕、腰部与头部的电磁定位设备,采集人体位姿,为末端跟踪遥操作提供输入。 • 标准姿态初始化:操作员采用与机器人一致的准备姿态完成设备初始化,建立人体侧与机器人侧末端及基座坐标轴的方向对应关系。 • 位置缩放与偏移补偿:根据人体与机器人对应部位的长度计算位置缩放比例,并补偿腰部设备参考原点与机器人基座参考原点之间的位置偏差,包括 x 方向偏移,适配尺寸与参考原点差异。 • 末端指令映射:对采集位姿进行滤波,结合坐标轴对齐、位置缩放与偏移补偿,将手腕位姿映射为机器人基座坐标系下的末端位置(x、y、z)与姿态四元数,通过高层命令接口驱动末端跟踪。
  • 项目成果:完成电磁位姿采集、初始化标定与末端指令下发的完整流程,实现 LimX Oli 末端跟踪遥操作,并通过位置缩放与偏移补偿适配人体和机器人的尺寸及参考原点差异。
电磁定位6-DoF 位姿解算坐标系转换

论文

Sim-to-Real Diffusion Policies for Robotic Alignment in Manufacturing 2024.09 – 2025.08

Zheng Yikai et al. · 2026 IEEE Canadian Atlantic Ocean Symposium (IEEE CAOS 2026), Halifax, Canada, IEEE OES 主办(第一作者)

  • 结合 Diffusion Policy 与视觉域适配完成 CNC 刀片推式对齐:通过目标组件提取、标准化重绘与尺寸归一化,将真实图像转换为与仿真一致的策略输入。策略基于 Diffusion Policy(Chi et al.)框架实现。
  • 仿真成功率 96%;真实平台三类 CNC 刀片各 30 次实验,成功率 90.0% / 86.7% / 83.3%;开展不同执行阶段的位置扰动测试,验证策略恢复能力。

专业技能

能力维度技术细节
强化学习 / 模仿学习PPO、可微世界模型与 BPTT、RGMT 时序策略、FSQ / STE、自适应课程与轨迹重采样、Teacher-Student 蒸馏、Diffusion Policy
仿真与训练NVIDIA Isaac Gym、Isaac Lab、MuJoCo、PyBullet;4096 并行环境、地形课程与域随机化、Replay、分块梯度累积与激活重计算、跨引擎迁移
真机部署策略训练、跨引擎迁移与真机调试;unitree_sdk2、DDS 多线程通信、观测时序对齐、ONNX 导出推理
感知与动作数据地形注意力策略;RealSense D435i、手眼标定、U-Net 分割、YOLOv8、遥操作示范采集;基于 GMR 的 LAFAN1 / AMASS 人体动作重定向
机器人平台真机:Unitree Go2、ARX L5、LimX TRON 1、LimX Oli、UR5、Inspire-Robotics RH56DFX;仿真适配:Unitree G1
编程 / 工具Python(主力)、PyTorch、C++、Git、Docker、WandB、LaTeX

资格证书 / 语言能力

大学英语六级(CET-6) · 普通话(母语)