1 前言本文不是RNN系列入门，而是对RNN、LSTM、BiLSTM的内部结构和输入输出做透彻的剖析。RNN：循环神经网络LSTM：长短期记忆网络BiLSTM：双向长短期记忆网络重要的先验知识：本质上单个RNN cell是在多个时间步上展开的形式，也可以理解为RNN是神经网络在时序上的权重共享（CNN相当于空间上的权重共享），LSTM也都是一样。1.1 RNN回忆与概览1.2 BiLSTM回忆与概

YOLO5实例分割架构相对YOLO5目标检测的区别

本次由3部分组成：一个简单的自编码器去噪自编码器卷积自编码器

核心特点：利用全连接层的能力，以整体的方式自动聚合特征，而不是专注于局部特征。（除去特征提取器部分，MixVPR是一个全MLP架构）

1 简介发明时间：2014年由 [Bahdanau et al. 2014] 正式提出。作用：Attention机制可以让神经网络更多的关注到输入中相关的信息，并减少对无关信息的注意。就像当我们看一副图，我们往往会对其中感兴趣的那部分更加注意，Attention机制也以类似的方式帮助神经网络更好的利用输入的信息。有助于提升模型的可解释性。1.1 Attention发明的背景2014年, Seq2S

转载自：https://www.cnblogs.com/liuboblog/p/12105473.html