经典CS理论指出，当图像在某种域（如小波）是稀疏的时，可以通过求解 L1 正则化的凸优化精确重建图像。即使在深度学习蓬勃发展的今天，研究者仍关注传统CS重建的潜力，通过合理优化，经典L1-范数重建在某些情况下仍然有竞争力。与 L2 正则化不同，L1 正则化对小系数给予恒定的惩罚减少，这使得较小的系数更容易被压缩到0，从而产生稀疏性。可以看作在常规梯度下降基础上添加了一种“加速动量”策略，类似于物理

我们将从研究一个小型CNN架构中的常见层开始，探讨每一层的作用。接着，使用预训练网络对不同图像进行处理，以可视化的方式学习深度网络在训练过程中的特征提取方式。

为了帮助理解滤波器的作用，你可以将一张输入图像传入网络，并查看卷积层的激活值（即输出）。卷积层是CNN架构中的关键部分，它们利用输入图像的空间结构来提取信息。该层的输出大小取决于你的分类问题中的类别数量。但所有的CNN都会包含一些常见的层，比如图像输入层和卷积层。因此，输出图像与原始图像相同。当我们使用不用的卷积核，就会对图像有不同的效果，我们可以使用下面的卷积核来模糊图像，我们可以自己找一张花朵

使用 70% 的图像作为训练数据，15% 作为验证数据，15% 作为测试数据。首先准备一个包含十个数字文件夹的DigitsData，每个数字文件夹里包含1000张对应这个数字的图片，图片的尺寸都是 28×28×1 像素的，如下图所示。然后，我们可以检查这个网络可行不可行，通过Analyze按钮，就会得到这个网络的分析结果，如下图。设置为 4 是为了快速试验，实际训练中可以设置更大，比如 10、20

为了帮助理解滤波器的作用，你可以将一张输入图像传入网络，并查看卷积层的激活值（即输出）。卷积层是CNN架构中的关键部分，它们利用输入图像的空间结构来提取信息。该层的输出大小取决于你的分类问题中的类别数量。但所有的CNN都会包含一些常见的层，比如图像输入层和卷积层。因此，输出图像与原始图像相同。当我们使用不用的卷积核，就会对图像有不同的效果，我们可以使用下面的卷积核来模糊图像，我们可以自己找一张花朵

总体感觉没有啥提升。

投影算子 PPP 是作用在向量空间 VVV 上的一个线性算子，满足：P2=PP^2 = PP2=P也就是说，投影算子满足幂等性，即作用两次与作用一次的效果相同。投影算子可以看作是将向量映射到某个子空间，并且对于已经在该子空间的向量，投影算子不会改变它们。例：设我们在二维平面上，想要把任意向量 vvv 投影到 xxx-轴上（即去掉 yyy 分量）。投影矩阵可以写成：P=[1000]P = \begi