具身智能 · 学习路线¶
时间紧时
先做 快速入门:从感知切入,覆盖坐标、ROS 2、P1 · 6DoF 位姿和一次模仿学习体验;第二轮选择"感知与估计"分支时直接从 P1 继续。
主课只跟 Modern Robotics,机器人学习阶段延续 LeRobot。你已有几何、信号与工程基础,先补机器人空间表示和接口,数学与编程按缺口补齐。时间按每周 8–10 小时估计;ROS 2 文档和算法例子服务于项目,不增加为完整必修课。
第一轮:全貌与小闭环¶
| 阶段 | 建议时间 | 最小知识 | 跟随内容 | 完成标准 |
|---|---|---|---|---|
| 0 · 全貌与空间入门 | 1–2 周 | 本体、观测、状态、坐标、反馈 | Modern Robotics 导览与第 2–3 章选学,见 Overview;E0 | 画闭环并解释坐标与动作 |
| 1 · 软件体验 | 2–3 周 | Linux 基本操作、节点、消息、位置与速度 | ROS 2 官方入门;E1 | 订阅位置并发布速度,实现到点反馈 |
| 2 · 算法直觉 | 1–2 周 | 坐标、运动学、路径、误差 | PythonRobotics 文档;E2 | 默认做二连杆例子,并回看 Modern Robotics 第 4–6 章;A* 为替换选项 |
| 3 · 数据与策略 | 3–5 周 | PyTorch 基础、演示、观测动作接口、成功率 | LeRobot 模仿学习仿真;E3 | 从数据到策略,再到重复闭环评估 |
学习策略前先完成基础模型 F1,或确认自己能读懂一个 PyTorch 训练循环。仿真入门可以使用真值状态,不必先完成视觉 SLAM。
第二轮:选一个任务深入¶
| 分支 | 重点 | 项目延伸 |
|---|---|---|
| 感知与估计 | 标定、检测、位姿、融合;按移动或操作任务选择 | 将真值观测换成传感器估计并测误差 |
| 规划与控制 | 轨迹跟踪、约束与稳定性;MPC/力控按需 | 比较控制器在扰动、延迟下的表现 |
| 软件与系统 | ROS 2、记录回放、接口、时延、恢复 | 把任务整理成能重复运行和调试的系统 |
| 学习型策略 | 模仿、数据覆盖、动作表示、RL/VLA | E4:在固定本体上适配和评估语言条件策略 |
| 部署与虚实迁移 | 系统辨识、域差异、运行时、资源限制 | E5:硬件在环,再逐步真机验证 |
移动机器人和机械臂在第一轮选择一个轻量例子即可。综合项目选定一个本体与任务;足式、人形、灵巧手、全身控制、完整 SLAM 和世界模型保留为方向选修。
三条连接基础模型的路径¶
| 路径 | 输出接口 | 需要验证什么 |
|---|---|---|
| LLM 选择技能 | 目标或技能名及参数 | 指令理解、接口约束、执行反馈与恢复 |
| VLA 策略 | 动作或动作序列 | 数据适配、时序、控制接口、闭环成功率 |
| 世界模型辅助决策 | 预测状态、观测或潜变量 | 预测误差、规划收益和分布外失败 |
它们不要求同时实现;加一个动作头也不等于得到可用机器人策略。
每个项目的记录要求¶
- 版本:教程日期、系统、依赖、仿真器、代码 commit 和模型/数据版本。
- 任务:观测与动作含义、控制频率、成功条件、超时与终止条件。
- 评估:固定初始状态或种子、成功次数/总次数、失败类型、时延。
- 个人贡献:改了什么、为什么、结果如何、限制在哪里。
完成 E1–E3 后,再结合目标岗位选择一个分支做完整项目。