神经网络架构的设计逐渐从单个神经元的角度思考问题，发展到整个层，现在又转向块，重复层的模式。使用块的想法首先出现在牛津大学的视觉几何组（visual geometry group）的VGG网络中（VGG块）。

稠密连接网络（DenseNet）于2017年提出，与ResNet的关键区别在于其输出是连接而不是ResNet的简单相加。由稠密块（dense block）和过渡层（transition layer）两部分组成。