随着LLM的size越来越大，对MoE模型的训练，一般要采用专家并行(expert parallelism)来分布式加载模型，也就是对于网络的一个MoE层的多个专家，分配到多个设备上，来并行训练。引入负载均衡损失，目的是解决多专家token分布不均的问题。：现有的MoE模型通常使用数量有限的专家（如8个或16个），由于token的知识是丰富多样的，将多样的知识分配给有限的专家，会导致特定专家的to

也将在 EMQ Tech Day 上分享其在出海合规与架构优化方面的系统思考，赋能车企在复杂的国际环境下，通过边缘计算与跨域数据融合，构建敏捷、安全且可控的全球化运营体系，真正让每一段里程更有价值。从数据采集、解析、标注、检索分析到模型训练与在线推理，企业面临的核心挑战是如何实现海量多模态数据的实时写入与可见，以及如何将这些原始数据快速转化为 AI 训练的燃料，从而驱动整个行业的智能化发展。等场景

构建融合物理先验、时序一致性与行为预测能力的世界模型架构，实现复杂驾驶场景的理解、预测与生成，支撑自动驾驶系统的感知、预测、规划一体化能力建设，推动端到端自动驾驶技术的工程化应用。研究与复现前沿多模态大模型（VLA/VLM/WFM）与生成式算法，包括Transformer、Diffusion、Neural Fields等，完成论文复现、理论分析与工程级实现；有车端模型部署经验者优先；构建多模态特征

去年大部分自驾VLM/VLA方向的工作都在基于SFT微调，数据量大的全参微调，数据量小的基于LoRA微调。：提出AutoDrive-R²这一VLA框架，通过“监督微调+强化学习”两阶段训练，结合含自我反思的CoT数据集与物理基奖励机制，解决现有VLA模型推理不足和轨迹物理不可行的问题，实现精准轨迹规划。：针对VLMs在自动驾驶运动规划中过度依赖历史输入、推理与规划结果错位的问题，提出Drive-R

然而，这种范式主要捕捉的是观察（状态）和动作之间的相关性，而不是因果关系。RAD在大多数指标上均优于IL方法，特别是在碰撞比率（CR）方面，RAD实现了3倍的降低，这表明强化学习有助于AD策略学习通用的碰撞避免能力。实验结果表明，当RL与IL的比例为4:1时，碰撞比率（CR）最低，同时保持了较低的平均偏差距离（ADD），表明在安全性和轨迹一致性之间取得了最佳平衡。IL通过提供人类驾驶行为的示范数据

星球内部的成员来自国内外知名高校实验室、自动驾驶相关的头部公司，其中高校和科研机构包括但不限于：上海交大、北京大学、CMU、清华大学、西湖大学、上海人工智能实验室、港科大、港大、南洋理工、新加坡国立、ETH、南京大学、华中科技大学、ETH等等！所以在自动驾驶的实际应用中，除了到达终点，中间还有非常多的评价环节去判断行为的合理性，难点在这里，所以目前具身智能中的强化学习应用很广并且很成功。回到问题本

作者|派派星 编辑| CVHub点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【全栈算法】技术交流群前景回顾Welcome to back! 在《万字长文带你解读AIGC入门篇》一文中，我们详细为大家介绍了AIGC的相关概念、背景及其如此火爆的原因，接下来我们将进一步深入探讨AIGC背后的技术栈。作为本系列的技术篇，将从多个角度来介绍AIGC的技...

作者|小书童 编辑| 集智书童点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【目标检测】技术交流群后台回复【2D检测综述】获取鱼眼检测、实时检测、通用2D检测等近5年内所有综述！本文提出了一种卷积神经网络的硬件高效架构，它具有类似repvgg的架构。浮点值或参数是评估网络效率的传统度量，网络对硬件（包括计算能力和内存带宽）不敏感。因此，如何设计一个...

作者|王桂波 编辑|极市平台原文链接：zhuanlan.zhihu.com/p/78713744点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【全栈算法】技术交流群导读本文首先从深度学习的流程开始分析，对神经网络中的关键组件抽象，确定基本框架；然后再对框架里各个组件进行代码实现；最后基于这个框架实现了一个 MNIST 分类的示例，并与 Tens...

论文链接：https://www.caict.ac.cn/kxyj/qwfb/bps/202408/P020240830312499650772.pdf。今天为大家整理了几十篇具身相关的综述，设计数据集、评测、VLA、VLN、强化学习、基础模型、DP等方向，为大家一览具身发展的路线，论文链接：https://www.sciengine.com/SSI/doi/10.1360/SSI-2024-00