
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
视觉-语言-动作模型(VLA) 已展现出利用预训练的视觉-语言模型和各种机器人演示来学习泛化传感器运动控制的潜力。虽然这种范式有效地利用了来自机器人和非机器人来源的大规模数据,但目前的 VLA 主要关注直接的输入-输出映射,缺乏对复杂操作任务至关重要的中间推理步骤。因此,现有的 VLA 缺乏时间规划或推理能力。在本文中介绍了一种方法,该方法通过在生成实现这些目标的短动作序列之前,自回归地预测未来的
(Speculative Decoding)是一种用于加速大型语言模型(LLM)推理的前沿技术,其核心思想是通过并行生成和验证机制突破传统的串行瓶颈。
对于系统 2,它以较低的频率运行,将二维观测和语言指令处理成多模态潜在表征,以指导系统 1 的执行。值得注意的是,由于三维几何信息对于精确操控至关重要 [28, 29],我们采用一种快速三维嵌入策略,将点云 [30] 进行标记,并通过共享视觉编码器进行处理以提取空间特征,这些特征直接为系统 1 的几何感知交互提供条件。快中慢 (FiS) 模型这是一种 VLA 基础模型,它将系统 1 的快速执行能力
随着多模态大模型的发展,模型参数越来越大,而在机器人硬件部署上,对硬件的计算能力和内存提出了更高的要求,这也导致这些多模态大模型很难在资源有限的机器人平台上较好的运行。本文创新性的提出了动态早期退出机制DeeR,可以动态控制参与任务的模型大小,减少资源的浪费。本文主要研究成果:(1)提出了动态早期退出机制DeeR,该框架基于动态神经网络的思想,能够自动调整MLLM的大小,根据机器人面临的实际任务动
MoBA是一种受专家混合(MoE)和块稀疏注意力(Block Sparse Attention)启发的注意力架构。在传统注意力中,每个 query 都会和完整的上下文(KV)进行计算,MoBA 使每个 query 能够有选择地专注于一部分(KV),保持性能的同时降低了计算成本。回顾全注意力:MoBA使每个 query 只注意到长度为 N 的完整 KV 的一个子集:MoBA的关键创新在于块划分和选择
作者引入了 Agentic Robot,这是一个代理框架,它将长视域操作重新表述为一个封闭的感知-推理-执行-验证循环,其灵感来自生物认知和多智能体 LLM 系统。借鉴管理高效人类工作流程的 SOP 的理念,用于构建整个操作过程中的组件交互。SAP 为信息交换、进度监控和错误恢复建立了明确的协议,从而能够稳健地执行复杂的操作任务。我们的架构集成了三个专门的组件:(1) 基于 LRM 的规划器,将高

这些额外参数可以在不增加硬件投入的情况下,进一步提升 15-25%的性能,特别是在高并发场景下效果更为明显。技术博客名为AItransformer,8年AI老兵,从事NLP、大语言模型、多模态大模型等相关算法的研发和落地,拥有丰富的算法经验,先后在百度、平安、小鹏汽车从事算法落地的工作,借助平台将个人的一些算法研究和经验分享出来,一起推动技术的进步!
当前我们在训练通用的机器人模型的时候,面临的主要问题在于数据的异构性。现在市面上各家机器人都会针对各自的机器人采集数据进行模型的训练,但是不同的数据采集实施形式和机器人平台的差异性导致数据很难具有通用性。这篇论文主要从通用性出发,研究如何实现将不同的潜在空间对齐,并研究策略学习中的扩展行为。将可扩展的置于策略中间,无需从头开始训练!HPT 模型Stem(输入)、Trunk(骨干)、Head(输出)
UltraRAG 框架由清华大学THUNLP联合东北大学NEUIR面壁智能团队及9#AISoft团队共同提出,基于敏捷化部署与模块化构造,引入了自动化的“数据构建-模型微调-推理评测”知识适配技术体系,提供了一站式、科研与开发双重友好的 RAG 系统解决方案。零编程经验用户亦可上手操作全链路搭建和优化过程,包括多模态RAG方案VisRAG;以自研KBAlign、RAG-DDR等方法为核心,一键式系
知乎名为AItransformer,8年AI老兵,从事NLP、大语言模型、多模态大模型等相关算法的研发和落地,拥有丰富的算法经验,先后在百度、平安、小鹏汽车从事算法落地的工作,借助平台将个人的一些算法研究和经验分享出来,一起推动技术的进步!







