📚 开发者教程首页 › IND-02 双臂采训推全流程
🎓 4 个实验 · 32 学时
INDUSTRY · CAT 3 / IND-02

双臂采训推全流程(ACT / VLA)

基于 LZ-XL01 双臂平台与 LeRobot 0.4.1,从遥操作采集、ACT 训练、云端算力到真机推理与 VLA 大模型路线,打通"数据 → 模型 → 部署"的端到端机器人学习产业工作流。

4 个核心实验
32 学时
硬件:LZ-XL01 双臂平台
前置:机器人操作系统与运动学基础
4 / 32
实验数 / 总学时(每实验 8 学时)
ACT + VLA
两大端到端策略路线对比实战
2 支指导视频
单臂 / 双臂遥操作实录(mp4)
6 张
硬件实物照片与场景实拍
LAB EXPERIMENTS

四个实验:一条真实的采、训、推、比流水线

内容全部改编自 LZ-XL01 指导文件第 06~13 章,命令与参数取自真实文档与 LeRobot 官方源码。

EXP-01入门 · 视频重点

遥操作与数据采集

读懂"人在环"遥操作与示教数据采集的原理,完成机械臂串口授权、主从校准复用、单臂与双臂任务录制,理解 episode / reset / 编码入库的完整节奏。

难度 ★☆☆kw: teleoperate · record · episode
对应指导文件第 06 章《单臂遥操作》、07 章《双臂遥操作》、08 章《单臂数据采集》、09 章《双臂数据采集》。
EXP-02核心

数据整理与 ACT 模型训练

进入训练机查看与打包数据集,读懂 lerobot-train 启动时打印的每一行配置;拆解 ACT 的 CNN 编码器 + Transformer 编解码器 + CVAE 结构,观察 loss 曲线并调超参。

难度 ★★☆kw: ACT · CVAE · Transformer
对应指导文件第 10 章《模型训练》,源码参考 LeRobot act 策略实现与官方训练脚本。
EXP-03进阶

云服务器使用与真机推理

租用 L40S 云实例并完成 LeRobot 环境部署与数据上传;回到本地真机,用 lerobot-record --policy.path=… 让训练好的 ACT 检查点自主执行任务,打通"云端训练 → 本地推理"链路。

难度 ★★☆kw: L40S · checkpoint · policy.path
对应指导文件第 11 章《云服务器使用》、第 12 章《模型推理》。
EXP-04对比 · 拓展

VLA 大模型路线与对比

安装 SmolVLA 扩展、下载预训练 VLM 底座,用同一批数据微调 VLA;把任务名当作语言指令喂给模型,从参数量、指令能力、数据需求、算力开销四维吃透 ACT 与 VLA 的路线差异。

难度 ★★★kw: SmolVLA · VLM · 语言指令
对应指导文件第 13 章《LZ-XL01 的 VLA 模型》。
TECH STACK

技术栈

贯穿全课的工具链与模型体系。

ACT VLA / SmolVLA LeRobot 0.4.1 PyTorch CUDA / L40S SO-ARM100 主从臂 FFmpeg / SVT-AV1
LEARNING PATH

学习路径

按"先采数据、再训模型、后上算力、终比路线"的产业顺序推进。

第 1 步 · 采:人在环遥操作

  • 串口授权与主从校准
  • 单臂 / 双臂 teleoperate
  • record 录制 episode 数据集

第 2 步 · 训:ACT 端到端训练

  • 数据集查看与打包
  • CNN + Transformer + CVAE
  • 解读 loss / lr / checkpoint 日志

第 3 步 · 推:云端算力与真机推理

  • L40S 实例租用与环境部署
  • checkpoint 上传与 policy.path
  • 真机自主执行任务

第 4 步 · 比:VLA 路线对比

  • SmolVLA 底座与微调
  • 语言指令 token 化
  • ACT vs VLA 四维对比
DELIVERABLES

课程交付物

交付物说明
采集数据集单臂 / 双臂任务 episode(LeRobot 格式,含三路摄像头视频与状态序列)
ACT 策略检查点outputs/…/checkpoints/last/pretrained_model,含 config 与权重
VLA 策略检查点基于 SmolVLA 微调的同任务策略(EXP-04)
真机演示lerobot-record --policy.path=… 循环执行任务的实录视频
对比报告ACT 与 VLA 在参数量、指令能力、数据需求、算力开销上的对比表格
WHO SHOULD TAKE

适合人群与先修要求

适合人群

  • 机器人 / 自动化方向本科生与研究生
  • 智能制造企业的算法与部署工程师
  • 具身智能方向的入门自学者

先修知识

  • Linux 基础与 conda 环境操作
  • 机器人运动学基础(关节 / 位姿)
  • Python 与 PyTorch 基本用法

硬件要求

  • LZ-XL01 双臂平台(含 3 摄像头)
  • 本机或云端 CUDA 显卡(≥12GB)
  • 可选:gpufree.cn L40S 租务实例

学习产出

  • 1 套 ≥50 组的示范数据集
  • ACT 与 VLA 各 1 个检查点
  • 1 份两条路线的四维对比报告
MATERIALS & SUPPORT

素材与教学服务

课程配套的原始素材、动画交互与师生支持条目,开课前按此清单核对就绪。

素材清单

  • 硬件实物照片 6 张(遥操作工位 / 数据采集 / 推理真机)
  • 指导视频 2 段(单臂 / 双臂遥操作,mp4)
  • SVG 演示与互动脚本,随实验页离线可用

教学服务

  • 助教值班答疑(实验时段驻场排障)
  • 数据集与检查点存储配额,按组分配
  • 结课对比报告模板与评分量规(rubric)

达标基线

  • 四个实验全部通过验收(数据集、两份检查点、真机演示、对比表)
  • 思考题与互动练习在课堂内完成自测
  • 云实例按时关机、缓存目录命名规范无误
实物照 6 张 指导视频 2 段 SVG 动画 4 组 互动练习 4 个 思考题 8 道 命令清单 4 份 实验页 10 章节范式 × 4