学习总结：DGL中数据的封装和基于Message Passing机制实现图神经网络。

（1）可能是模型没有移动到和数据相同的device上：`model.to(device)`（2）可能是input和参数没有在相同device上

这个工作收集了多模态游戏、机器人和医疗等领域的数据集，包括Minecraft视频数据、虚拟家庭环境数据和医疗图像数据。利用LLMs和VLMs作为智能体，特别是在游戏、机器人技术和医疗保健等领域- 这篇论文提出了一种新的Agent AI框架，通过结合大型基础模型、多模态理解和人类反馈，实现了在多模态环境中的有效感知和行动。研究表明，Agent AI系统在多模态任务中展现出巨大的潜力，特别是在游戏、机

- Cogvlm-video模型通过视频抽帧（24帧，每帧大小为224 x 224）后经过ViT进行图像编码（ViT中添加了2x2的卷积核更好的压缩视觉信息），使用adapter模块更好的将视觉特征和文本特征对齐，得到的图像特征和文本特征拼接后，送入语言模型的decoder解码器。- MVBench评测集准：大多数测试主要集中在静态图像任务上的空间理解，而忽视了动态视频中的时间理解。MVBench

Swift框架MoE训练并行技术选择：Megatron-SWIFT的并行技术采用zero1（默认开启use_distributed_optimizer）+各种并行技术的组合。DP的速度最快，但显存占用较多，使用其他并行技术以降低显存占用。TP/EP通信量较大，尽量不跨节点（NVLink域内），跨节点建议使用PP/DP；专家层建议使用EP而不是ETP，ETP更节约显存，但速度较慢。MoE 并行折叠：

ms-Swift整体调用链SFT流程：swift sft → sft_main() → SwiftSft(args).main() → run() → train(trainer) → trainer.train(…)swift 可执行程序（console-script）→ swift/cli/sft.py（CLI 子命令入口，基本就把参数解析后转给 sft_main）→ swift/llm/tr

中期训练技术总结，Mid-Training of Large Language Models: A Survey链接：https://arxiv.org/pdf/2510.06826，例如：MiniCPM中期训练使用20Btokens，混合预训练数据与高价值SFT数据（如SlimOrca、EvolInstruct），上采样推理/编码数据；Qwen3三阶段预训练，中期阶段（第二阶段）用5T高质量4K

2025年年度总结很难相信一年就这么过去了，很快又过得很充实，从年初deepseek火了一波后大家都进行复现，很多人利用GRPO训练think推理模型复现ds，再到后来年中各种RL算法遍地开花，比如DAPO、GSPO等；同时多模态大模型也发展很快，去年效果一般的视频生成模型在今年效果已经非常惊艳了，同时也有像阿里全模态qwen-omni这样的“全能”（还是偏多模态理解）的模型出现，给我们看到未来的

数据清洗【数据标准化：统一数据格式，基于提示端到端（LLM-GDO）、代码生成（Evaporate）、智能体辅助（CleanAgent）；数据错误处理：检测并修复错误值，提示端到端（IterClean）、函数合成（LLMClean）、任务自适应微调（GIDCL）、混合LLM-ML（ZeroED）；数据填补：填充缺失值，提示端到端（CRILM）、检索引导（RetClean）、模型优化（LLM-REC

这篇论文提出了一种通过系统环境扩展和agent经验学习来提升通用agent智能的方法。通过程序化地将工具实例化为可执行的代码，并在数据库结构化的环境中进行操作，实现了大规模的可验证轨迹构建。- 基于这些环境，引入了两阶段agent经验学习框架，使agent能够在一般域中学习基本的工具使用技能，并在目标垂直域中进行细粒度训练。- 广泛的实验结果表明，AgentScaler系列模型在开源模型中达到了最