logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

时序预测算法Autoformer代码解读

在 Autoformer 模型中,序列分解的目标是将时间序列分解为 趋势 和 季节性 部分。在之前的文章中,我对Autoformer的Paper进行了详细解读。Autoformer是将 Transformer 改造为一种深度分解架构(如图 1 所示)包含编码器和解码器两部分。季节性部分(res):表示时间序列中随时间变化的周期性波动(例如季节性、节假日效应等)。趋势部分(moving_mean):

文章图片
#深度学习#人工智能
突破Transformer局限!MICN:线性复杂度实现时序预测新高度

但其二次方复杂度存在缺陷,且token对间的计算存在冗余,故降低计算复杂度成为重要研究方向,代表性工作包括:LogTrans(Li et al., 2019b)、Informer(Zhou et al., 2021)、Reformer(Kitaev et al., 2020)、Autoformer(Wu et al., 2021b)、Pyraformer(Liu et al., 2021a)、FE

文章图片
#人工智能
时序预测新范式:FreTS超越时域限制,开启MLP的频域新时代

时序预测在金融、交通、能源和医疗等不同工业领域发挥着关键作用。尽管现有文献基于循环神经网络(RNN)、图神经网络(GNN)或 Transformer 设计了诸多复杂架构,但另一类基于多层感知机(MLP)的方法凭借结构简单、复杂度低和性能优越等特点脱颖而出。然而,现有多数基于 MLP 的预测方法受限于逐点映射和信息瓶颈问题,严重制约了预测性能的提升。为解决这一难题,本文探索了将 MLP 应用于频域时

文章图片
#人工智能
Crossformer:基于Transformer的多变量时序预测模型

近年来,许多深度模型被提出用于多元时间序列(MTS)预测。特别是,基于 Transformer 的模型展现了巨大的潜力,因为它们能够捕获长期依赖性。然而,现有的基于 Transformer 的模型主要集中于建模时间上的依赖关系(跨时间依赖性),而往往忽略了不同变量之间的依赖关系(跨维度依赖性),而这种依赖性对于 MTS 预测至关重要。为弥补这一空白,本文提出了一种基于 Transformer 的模

文章图片
#transformer
时序预测新范式:FreTS超越时域限制,开启MLP的频域新时代

时序预测在金融、交通、能源和医疗等不同工业领域发挥着关键作用。尽管现有文献基于循环神经网络(RNN)、图神经网络(GNN)或 Transformer 设计了诸多复杂架构,但另一类基于多层感知机(MLP)的方法凭借结构简单、复杂度低和性能优越等特点脱颖而出。然而,现有多数基于 MLP 的预测方法受限于逐点映射和信息瓶颈问题,严重制约了预测性能的提升。为解决这一难题,本文探索了将 MLP 应用于频域时

文章图片
#人工智能
突破Transformer局限!MICN:线性复杂度实现时序预测新高度

但其二次方复杂度存在缺陷,且token对间的计算存在冗余,故降低计算复杂度成为重要研究方向,代表性工作包括:LogTrans(Li et al., 2019b)、Informer(Zhou et al., 2021)、Reformer(Kitaev et al., 2020)、Autoformer(Wu et al., 2021b)、Pyraformer(Liu et al., 2021a)、FE

文章图片
#人工智能
Crossformer:基于Transformer的多变量时序预测模型

近年来,许多深度模型被提出用于多元时间序列(MTS)预测。特别是,基于 Transformer 的模型展现了巨大的潜力,因为它们能够捕获长期依赖性。然而,现有的基于 Transformer 的模型主要集中于建模时间上的依赖关系(跨时间依赖性),而往往忽略了不同变量之间的依赖关系(跨维度依赖性),而这种依赖性对于 MTS 预测至关重要。为弥补这一空白,本文提出了一种基于 Transformer 的模

文章图片
#transformer
时序预测算法Autoformer代码解读

在 Autoformer 模型中,序列分解的目标是将时间序列分解为 趋势 和 季节性 部分。在之前的文章中,我对Autoformer的Paper进行了详细解读。Autoformer是将 Transformer 改造为一种深度分解架构(如图 1 所示)包含编码器和解码器两部分。季节性部分(res):表示时间序列中随时间变化的周期性波动(例如季节性、节假日效应等)。趋势部分(moving_mean):

文章图片
#深度学习#人工智能
超越谱方法:DCNN如何用扩散卷积提升图神经网络性能?

本文提出了一种针对图结构数据的新模型——扩散卷积神经网络(DCNNs)。通过引入扩散卷积运算,作者展示了如何从图结构数据中学习基于扩散的表征,并将其作为节点分类的有效基础。DCNNs具有多项引人注目的特性:其生成的图数据潜在表征在图同构条件下保持不变;支持多项式时间复杂度的预测与学习过程,可表示为张量运算并高效部署于GPU平台。在多个真实结构化数据集上的实验表明,DCNNs在关系型节点分类任务中的

文章图片
#神经网络
不花钱、不用显卡,我写了个本地工具,把老照片修复自己搞定(附实测)

操作系统:Windows 10/11(本文示例),Linux/macOS 命令类似Python:3.10 ~ 3.11(推荐 3.11)显卡:非必需,纯 CPU 即可运行;有 NVIDIA 显卡会自动走 CUDA 更快(本机实测为 Intel 平台 CPU 推理)内存:建议 8 GB 以上包管理器:Anaconda / Miniconda,用 conda 建独立环境避免污染系统 Python。

#深度学习#人脸识别
    共 43 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择