整体链路：原始输入 →特征提取 →映射到隐空间 →注意力结构变换 →非线性激活 →输出预测。没有拉普拉斯、Z变换；主力是线性代数、矩阵运算、概率统计、微分求导、三角/复数。hi=We⋅xi\boldsymbol h_i = \boldsymbol W_e \cdot x_ihi​=We​⋅xi​We∈Rdmodel×VW_e\in\mathbb R^{d_{model}\times V}We​∈R

外环参数调再漂亮，内环振荡，整机必然抖动异响。

单条Rollout轨迹过长 → 调用LLM把整条动作序列压缩为高密摘要→ 只把摘要塞进上下文，原始长轨迹存入向量库RAG按需召回。# 长轨迹原始文本不直接入上下文long_rollout_text = "step1移动机械臂...step7碰撞...step10任务失败"# 压缩为关键Token摘要。

xtAcos⁡ωtϕxtAcosωtϕAAA：振幅（幅度，最大偏移）ω\omegaω：角频率ϕϕ初相位（相位常数）θtωtϕθtωtϕxtAejωtϕAcos⁡ωtϕjAsin⁡ωtϕxtAejωtϕAcosωtϕjAsinωtϕ复数模∣x∣A∣x∣A；辐角就是相位ωtϕωtϕ。振幅描述多大；相位描述“在周期里走到哪个位置”。

前置统一约定（固定基准，避免混乱）Fv∈RB,Nv,DvF_v \in \mathbb{R}^{B,N_v,D_v}Fv​∈RB,Nv​,Dv​H1=FvW1+b1,H1=GELU(H1)∈RB,Nv,DlFv,proj=H1W2+b2∈RB,Nv,Dl\begin{align}H_1 &= F_v W_1 + b_1,\quad H_1 = \text{GELU}(H_1) \quad &\in

覆盖：扩散模型 / DiT / 图像视频 / 机器人动作序列，面试可直接口述、简历技术复盘可用。XY代表张量；NBCTHW= 批次、通道、时序、高、宽。

投影公式”在不同领域（几何、线性代数、物理等）有不同的含义。

图像切分固定大小Patch，线性投影为Patch Token，叠加位置编码，多头自注意力全局建模像素关系。

策略设计是连接模型与算法的关键，直接影响机器人控制性能。文章介绍了LingbotVLAv2和PI0Policy两类策略系统的工作流程与架构：1）LingbotVLAv2通过动作集成机制（混合当前预测和历史动作）提升稳定性，支持多模态输入（图像、语言、状态）和复合损失优化；2）PI0Policy基于PaliGemma多模态模型（SigLIP+Gemma）构建，包含10个专家模块的动作解码器，通过投影

这段代码实现了分层优化器构建策略Muon 路径：针对大规模模型，将 2D/3D 参数路由到（正交优化），1D/embedding 参数路由到AdamW（传统优化）AdamW 路径：传统优化器，支持adamw和参数智能路由：根据维度和名称自动分类参数MoE 学习率缩放：自适应调整专家参数学习率分布式优化支持 FSDP2，mega-batch 策略减少通信开销学习率自适应：根据参数形状动态调整学习率。