【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第18章 以LLM为中枢的机器人高层控制
本书目录直达
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第1章 机器人建模回顾-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第2章 连续与离散动力学与接触建模-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第3章 优化基础与数值方法-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第4章 视觉感知与三维理解 (一)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第4章 视觉感知与三维理解 (二)详细推导-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第4章 — 代码实现扩展(工程/可运行 / 深度细节)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第5章 多模态感知与融合(深入数学推导与理论分析)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第6章 触觉与高分辨触觉(GelSight 等)与接触状态估计-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第7章 轨迹规划与碰撞避让 — 原理与深入推导-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第7章 (二) 轨迹规划与碰撞避让:采样式与优化式算法实战-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第 8 章 运动学与动力学的优雅耦合——原理详解-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第9章 全身优化与接触显式轨迹优化(Contact-Implicit TO)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第10章 MPC 与在线重规划(Model Predictive Control)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第11章 强化学习基础与进阶(数学推导与理论分析)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第12章 Sim-to-Real:域随机化、系统识别与自适应(推导与证明)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第13章 高样本效率策略:模仿学习、离线 RL 与混合方法-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第14章 多指手 / 人形手的动力学与控制 — 算法原理推导-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第15章 触觉引导与多接触操控 — 严谨推导与证明-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第16章 双臂协同与人形机体上的物体搬运-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第17章 任务与运动结合规划 (Task and Motion Planning, TAMP)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】 第18章 以LLM为中枢的机器人高层控制-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第19章 安全控制理论与在线实现:CBF/CLF框架的数学基础与工程化路径-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第20章 形式化验证、测试与仿真基准:自动化测试套件、度量标准与实机验收流程-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第21章 力学与致动器设计的算法影响-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第22章 软件栈与实时体系(ROS2、实时中间件、联邦学习与分布式训练)-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第23章 实验室部署指南:从仿真到物理现实-CSDN博客
【现代人形机器人:从物理建模到大模型驱动的控制与学习】第24章 经典/现代人形与相关项目解读-CSDN博客
在第17章中,我们探讨了TAMP(任务与运动结合规划)的经典框架,其核心在于(搜索+优化)的紧密耦合。该框架虽然理论完备,但面临着两大挑战:1) 符号规划(搜索)的组合爆炸性;2) 运动规划(优化)的计算高昂性,特别是当需要“失败-再规划”循环时。
大型语言模型(LLM)的出现,为这一领域提供了全新的、基于数据驱动的范式。LLM强大的常识推理和上下文理解能力,使其成为一个理想的“符号规划器”或“高级启发式函数”,能够将非结构化的人类指令 $I$ 映射到高层的动作序列。
本章的目标是深入推导LLM如何被用作机器人高层控制中枢,我们不局限于描述特定系统(如SayCan, PaLM-E, RT-1),而是从基本原理出发,推导三种核心的“接地”(Grounding)范式,并分析其背后的数学与逻辑基础。
18.1 基本问题:从语言到物理的概率映射

18.2 范式一:LLM作为概率规划器 (SayCan 范式)

18.2.1 概率接地(Probabilistic Grounding)的推导


18.2.2 接口设计与分析

18.3 范式二:端到端控制即序列建模 (RT-1 范式)

18.3.1 理论:将控制问题转译为语言建模

18.3.2 推导:动作的词元化 (Action Tokenization)


18.3.3 分析与局限
-
优点: 这是一个端到端的策略,不需要 $\mathcal{A}$。它隐式地学习了规划、可行性分析和低层控制。指令 $I$ 作为上下文调节 (Condition) 整个模型的输出。
-
局限(数据饥渴): 此范式完全依赖海量的、高质量的 $(I, o, a)$ 模仿学习数据。它“看到”的越多,性能越好。与范式一(SayCan)可以利用LLM的先验常识不同,RT-1 必须从数据中重新学习所有常识。
18.4 范式三:具身LLM (Embodied LLM / PaLM-E 范式)

18.4.1 推导:多模态词元的融合


18.4.2 分析与挑战

18.5 综合分析:架构对比与工程挑战


更多推荐
所有评论(0)