大模型赋能具身智能:模仿学习与强化学习的技术路线与未来展望
具身智能作为AI走向物理世界的重要途径,主要技术路线包括分层决策模型与端到端模型两种架构,以及模仿学习与强化学习两种训练方法。文章分析了各路线的优劣,指出数据获取对具身智能发展的关键作用,并探讨了通用技术、纯软件和垂直领域三大商业化路径。未来,具身智能将向自适应学习和自我进化方向发展,市场规模有望快速增长。
简介
具身智能作为AI走向物理世界的重要途径,主要技术路线包括分层决策模型与端到端模型两种架构,以及模仿学习与强化学习两种训练方法。文章分析了各路线的优劣,指出数据获取对具身智能发展的关键作用,并探讨了通用技术、纯软件和垂直领域三大商业化路径。未来,具身智能将向自适应学习和自我进化方向发展,市场规模有望快速增长。
最近,我们先后探讨了「大模型幻觉」与「被忽略的触觉模态」等问题。
无论是大模型的认知,还是触觉等感知能力,当我们将视野投向更前沿的探索时,便不可避免地回归到一个激烈的新旧路线之争上:
面对物理世界的复杂性,我们究竟该教AI“抄作业”?通过**模仿学习(Imitation Learning)**快速上手;
还是该让它“自主闯关”,凭借**强化学习(Reinforcement Learning)**在试错中成长?
毋庸置疑,2025年的开头至今,具身智能仍旧是最火的领域之一。
那么,到底是什么驱动着它愈发火热?它又究竟“能”在哪里?
一、具身百年:无接触先行?
具身智能(Embodied artificial intelligence,EAI)由“本体”与“智能体”构成,以“感知决策、物理实体、环境交互”为主要特征。
与智能驾驶类似,具身智能的实现同样包括“感知、决策、控制”三个主要环节。
在产业链上,同样如此,例如,汽车的自动驾驶、芯片、传感器、激光雷达等技术二者可以相互借鉴。
所以,我们常说:“具身与智驾同源**”、“车就是个无接触机器人”。**
与智能驾驶「技术同源」的具身智能,在智驾遇冷的今天,热度却不降反增。
第一款人形机器人的问世,可以追溯至1927年的机器人西屋 Televox。
此后的100年间里,尤其是伴随着AI大模型的高速发展。
现在,关于机器人的研究,已经从“本体的运动机能”转向了“智能体的感知决策”。
接下来,我们将就市场战略、主流技术方案这两大模块展开梳理:
(图源:人形机器人发展图鉴-觅途咨询,中金研究部)
二、战略要塞,兵家必争之地
相比传统的工业机器人、协作机器人等,具身智能机器人有着智能化程度高、工作场景限制小、能够自主规划复杂工作的特点。
随着全球老龄化趋势的加剧,人力供需矛盾,推动经济高质量发展等需求,人形机器人的应用场景正在不断拓展。(工业场景、服务场景、特种场景等)
全球各国政府均将发展人形机器人定位于国家战略,积极进行前瞻布局。
具身智能,也就成为了国内外科技巨头和科研机构的“兵家必争之地”。
(图源:自然资源部,中金公司研究部)
众多企业和高校研究机构也纷纷入局具身智能。
自 2022 年 10 月特斯拉人形机器人惊艳首秀以来,各家企业纷纷布局甚至涌入机器人这个千亿新赛道,众多初创公司完成多轮融资,头部车企、手机厂商调转航向。
就国内来说,2023年至2024年11月,新成立的具身智能机器人公司就多达30余家。
各方在具身智能领域的角逐日趋激烈,而这一赛道的持续发展,离不开技术方法的强力支撑。
所以,接下来,我们来重点聊聊技术层面。
三、具身智能,主流技术方案
主流技术路线
具身智能的算法方案可分为分层决策模型和端到端模型两种路线。
- 分层决策模型:
顾名思义,该模型就是将任务分解成多个层次。
典型代表「Figure01」:
顶层接入 OpenAI 的多模态大模型,提供视觉推理和语言理解;中间层神经网络策略作为小脑进行运动控制并生成动作指令;底层机器人本体接受神经网络策略的动作指令,进行控制执行。
优势不言而喻,比如某个层次出现问题不会直接影响其他层次,有利于故障排查和修复。但缺点也很明显。
分层决策模型的缺点是:不同步骤间的对齐和一致性需解决**。某些情况下,高层次无法完全理解底层的具体情境变化,导致决策不够精准。**
(图源:Figure o1线程)
- 端到端模型:
顾名思义,端到端模型就是指从原始输入(如传感器数据、图像)直接映射到最终输出(如机器人动作序列),中间无需显式的任务分解。
典型代表GoogleRT-2、谷歌的PaLM-E模型:
GoogleRT-2首先在大规模互联网数据预训练视觉语言模型,学习到语言和视觉信息之间的关联和模式;然后在机器人任务上微调,结合机器人动作数据,推出视觉语言动作模型。
实现了感知、规划与执行一体化,打通了端到端的链路。
优势也不言而喻,比如减少了中间环节,提高了效率和响应速度;但瓶颈也同样显著。
端到端模型的缺点是:训练数据海量、消耗资源巨大、存在黑箱效应,机器人执行实时性差。
(图源:RT-2模型闭环控制流程)
训练方法
具身智能的训练方法可分为模仿学习和强化学习两种路线。
-
模仿学习(Imitation Learning):模仿学习是一种通过观察专家演示行为来学习执行任务的方法。
即:智能体通过观察和模仿专家(经验丰富的人类操作者或具有高级性能的系统,也就是示范数据)的行为来学习如何在类似的情境下完成任务。
-
**优势:**可以快速学习专家策略,无需复杂的探索过程。适用性强,适合试错代价高的任务,比如手术机器人、工业自动化等。
-
**劣势:**学习到的行为策略受限于专家数据,对于未见过的情况泛化能力较差。且通常需要大量的高质量专家演示数据。
EgoMimic: Scaling Imitation Learning via Egocentric Video
-
强化学习(Reinforcement Learning)**:**强化学习是一种通过智能体与环境交互来学习最优策略的方法。
即:智能体会根据自身的动作收到正负奖励信号,逐步优化自己的行为以最大化累计奖励。
-
**优势:**能够通过探索环境学习未知的策略;可以处理高度不确定和动态变化的环境。具备较强的泛化能力,能适应多样化的应用场景。
-
**劣势:**需要大量的探索和试错,学习效率低下;对于复杂任务,设计合适的奖励函数难度较高。训练过程中不易保证稳定性,且复杂环境中计算负担较大。
-
Towards Human-Level Bimanual Dexterous Manipulation with Reinforcement Learning
无论是精细分层的决策模型,还是简洁高效的端到端模型,亦或是模仿与强化两种学习路线,都各有利弊千秋,但也都为具身智能的加速发展筑牢了根基。
而在大模型 Scaling Law 的指引下,具身智能的前行方向已悄然转向【数据】领域。
下一城,数据之战!
四、死循环?数据与商业化难关
小模型时代算法的数量和质量对于机器人至关重要。它们往往通过知识蒸馏等技术从大模型中学习,从而在保持性能的同时能减少计算成本。
然而大模型的 Scaling Law 表明通过增加数据量、并延长训练周期,可以实现模型性能的持续提升,数据重要性凸显。
随着数据量的增加,也面临着数据处理的挑战,包括数据噪音、过拟合风险以及高昂的计算成本。
那么,【获取数据】的关键又在于什么?
(图源:朱纯松-浅谈人工智能:现状、任务、架构与统一)
具身智能获取数据的关键,在于【实现商业化落地】。
因为与传统的机器学习模型不同,具身智能需要在真实世界中与环境交互,以学习和适应复杂多变的实际情况。
所以,通过商业化落地,让机器人可以在真实的使用场景中收集数据,对于训练模型至关重要。
目前,具身智能的商业化路径主要有:通用场景软硬结合、软件路径、垂直领域软硬结合等。
(图源:慧博智能投研)
通用技术路径:
通用技术路线的核心是采用通用的硬件(如机器人本体、传感器)和智能软件(如深度学习模型、决策算法)来应对各种使用场景。
但是需要开发可重构的硬件,可通用的软件,确保它们能够在各种硬件上快速适应无缝运行。
1X、Figure 以及特斯拉均采用该种路径。
- 纯软件路径:
纯软件路径则主要是向硬件厂商或综合型厂商提供 API 、SDK等,以实现跨硬件平台的无缝兼容,而无需改变硬件结构。
无论是精密的人形机器人、高效的轮式机器人,还是灵活的无人机,都能够共享同一套软件架构上。
如九号机器人推出与英伟达共同开发的自主机器人平台 Nova Cater AMR。
(图源:慧博智能投研)
- 垂直领域软硬结合:
垂直领域软硬结合,则是指专注于特定行业或应用场景(如工业制造、医疗健康、家庭服务等),能够快速解决行业痛点,提供定制化服务,更容易获得市场认可。
垂直领域的解决方案往往能更快地实现商业化,因为它们直接针对已知的市场需求,减少了市场教育的时间和成本。
如海康机器人、微亿智造等。
具身智能在商业化探索中紧握数据这把 “利刃”。
但这仅仅是个开始,在大模型与人形机器人产业蓬勃发展的大背景下,它已将目光投向远方,实现自我进化,才能大步迈向智能领域的全新高地。
五、未来目标,自我进化
在大模型加持下具身智能进展迅速,人形机器人落地有望加速。
马斯克预计人形机器人未来能够突破百万台的出货量,并且单价有望下降至 2 万美元以下,打开未来市场的想象空间。
根据中商产业研究院预测,2030 年我国人形机器人市场规模有望达到 8700亿元,23-30 年年均复合增长率达 30%。
此外,具身智能的自适应学习能力也将得到显著提升。
这意味着具身智能不****再局限于预设的算法和规则,而是能够基于自身经验和环境反馈进行自我进化。
结语:
具身智能的崛起,打破了人工智能长久以来**「被禁锢于虚拟数字世界的枷锁」**,即使有强大的运算与分析能力,却难以对现实世界产生直接影响。
具身智能的出现,赋予了其实体 “肉身”。
但谈及具身智能未来的发展,关于它的争议从未停止。正如我们公众号反复提及,身处行业内,我们和大家一起见证它到底是泡沫还是又一场热浪。
六、如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
一直在更新,更多的大模型学习和面试资料已经上传带到CSDN的官方了,有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
01.大模型风口已至:月薪30K+的AI岗正在批量诞生
2025年大模型应用呈现爆发式增长,根据工信部最新数据:
国内大模型相关岗位缺口达47万
初级工程师平均薪资28K(数据来源:BOSS直聘报告)
70%企业存在"能用模型不会调优"的痛点
真实案例:某二本机械专业学员,通过4个月系统学习,成功拿到某AI医疗公司大模型优化岗offer,薪资直接翻3倍!
02.大模型 AI 学习和面试资料
1️⃣ 提示词工程:把ChatGPT从玩具变成生产工具
2️⃣ RAG系统:让大模型精准输出行业知识
3️⃣ 智能体开发:用AutoGPT打造24小时数字员工
📦熬了三个大夜整理的《AI进化工具包》送你:
✔️ 大厂内部LLM落地手册(含58个真实案例)
✔️ 提示词设计模板库(覆盖12大应用场景)
✔️ 私藏学习路径图(0基础到项目实战仅需90天)
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
更多推荐
所有评论(0)