logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

GNN+transformer全局与局部完美融合

在该模型中,Transformer 用于扩展 GNN 的感受野,而 GNN 则负责捕捉图结构信息以增强 Transformer 的表示能力。其核心设计是在 GNN 组件旁并行部署 Transformer 层,实现图结构聚合与文本编码的联合建模,从而从全局视角精确理解节点语义,生成高质量的图-文本联合表示。其核心机制包括虚拟全局节点与扩展图构建,共同支撑高效的稀疏注意力计算。理论分析表明,Trans

#transformer#机器学习#深度学习 +1
GNN+transformer全局与局部完美融合

其核心设计是在 GNN 组件旁并行部署 Transformer 层,实现图结构聚合与文本编码的联合建模,从而从全局视角精确理解节点语义,生成高质量的图-文本联合表示。在该模型中,Transformer 用于扩展 GNN 的感受野,而 GNN 则负责捕捉图结构信息以增强 Transformer 的表示能力。其核心机制包括虚拟全局节点与扩展图构建,共同支撑高效的稀疏注意力计算。理论分析表明,Trans

#transformer#机器学习#深度学习
强化学习+组合优化创新点

该方法利用强化学习探索全局策略,同时借助启发式搜索(如A算法)缩小可行解空间,在旅行商问题(TSP)和图着色等典型任务中表现优异。引入环境增强策略,通过在训练过程中注入随机约束变化或目标扰动,提升模型对复杂条件的适应能力。该方法使强化学习模型在多样化环境中学习更稳健的优化策略,适用于图着色等约束敏感型问题。设计基于多任务学习的组合优化架构,通过共享表示学习机制,使模型能够同时处理多个相关优化任务。

#机器学习#深度学习
融合创新!!特征融合➕注意力机制

该方法通过在不同网络层级应用注意力机制,使模型能够在从原始数据到高级语义的各个抽象层面上,更有效地筛选和整合特征。以多模态学习为例,底层注意力可负责融合图像、文本等不同来源的原始特征,而高层注意力则侧重于在决策层面进行信息聚合。以图像描述生成任务为例,交叉注意力可帮助模型准确建立图像区域与文本描述片段之间的语义关联,从而生成内容更准确、表达更自然的描述结果。例如在视频理解任务中,模型可通过时序注意

#机器学习#深度学习
深度学习模块缝合技巧

通过在U-Net的Cross-Attention层插入专用Adapter模块,并采用低秩矩阵分解实现风格条件的高效注入。相比全参数微调,该方法将参数量减少95%,在风格迁移任务中仍保持98%的生成质量。该设计特别适用于视频生成中的帧间一致性建模,相比Transformer架构内存占用降低60%,在长视频生成任务中时间一致性提升40%。利用SAM模型对目标区域进行预分割,将掩码信息编码至U-Net的

#机器学习#深度学习#深度学习
强化学习+组合优化创新点

具体方案为:采用共享 - 私有网络结构 —— 共享特征层提取不同组合优化任务(如车辆调度、TSP)的共性特征(如节点连接关系、约束条件表示),私有任务层则针对各任务的特性(如车辆调度中的载重约束、TSP 中的路径长度目标)进行个性化参数学习;关键做法为:设计动态调整的适应性目标函数,根据训练阶段的特性分配目标权重 —— 训练初期,侧重 “探索广度”,提高对可行解区域的覆盖度,权重向 “约束满足度”

#深度学习#机器学习
强化学习+卡尔曼滤波创新方案

该系统以Swift为代表,通过融合视觉与惯性测量数据,借助卡尔曼滤波对传感器观测进行去噪与状态估计,并将优化后的状态输入强化学习模型,实现飞行路径的实时决策。该模型利用Mamba网络学习潜在动态特征,通过卡尔曼滤波进行并行状态估计,并引入变分推断以优化系统不确定性建模,从而在保持计算效率的同时提升序列推理的准确性。在仿真环境中注入高斯噪声模拟真实干扰,使用卡尔曼滤波对观测进行去噪处理后输入PPO策

#深度学习#机器学习
强化学习+卡尔曼滤波创新方案

该系统以Swift为代表,通过融合视觉与惯性测量数据,借助卡尔曼滤波对传感器观测进行去噪与状态估计,并将优化后的状态输入强化学习模型,实现飞行路径的实时决策。该模型利用Mamba网络学习潜在动态特征,通过卡尔曼滤波进行并行状态估计,并引入变分推断以优化系统不确定性建模,从而在保持计算效率的同时提升序列推理的准确性。在仿真环境中注入高斯噪声模拟真实干扰,使用卡尔曼滤波对观测进行去噪处理后输入PPO策

#深度学习#机器学习
强化学习+组合优化创新点

该方法利用强化学习探索全局策略,同时借助启发式搜索(如A算法)缩小可行解空间,在旅行商问题(TSP)和图着色等典型任务中表现优异。引入环境增强策略,通过在训练过程中注入随机约束变化或目标扰动,提升模型对复杂条件的适应能力。该方法使强化学习模型在多样化环境中学习更稳健的优化策略,适用于图着色等约束敏感型问题。设计基于多任务学习的组合优化架构,通过共享表示学习机制,使模型能够同时处理多个相关优化任务。

#机器学习#深度学习
LSTM+CNN+贝叶斯优化创新思路!

针对传统神经架构搜索方法依赖人工设计或穷举导致的效率瓶颈,提出一种基于贝叶斯优化与高斯过程的架构搜索策略。通过构建超参数响应面模型,并利用期望改进等采集函数引导搜索过程,实现对CNN卷积层数、LSTM隐藏单元数、学习率等关键参数的高效协同优化。在CNN-LSTM混合模型上的实验表明,该方法在医疗诊断与语音识别任务中实现了良好的协同优化效果。采用多尺度CNN提取空间特征,结合注意力机制与LSTM的时

#机器学习#深度学习#cnn +1
到底了