卷积神经网络是深度学习在计算机视觉领域的突破性成果。在计算机视觉领域，往往输入图像都很大，若使用全连接网络，计算代价较高。图像也很难保留原有的特征，导致图像处理的准确率不高卷积神经网络（Convolutional Neural Network）是含有卷积层的神经网络。卷积层的作用就是用来自动学习、提取图像的特征CNN网络主要有三部分构成：卷积层、池化层和全连接层构成，其中卷积层负责提取图像中的局部

checkpoint 转为 savemodel 的过程中也是存在一些小问题的，tensorflow2中存在延迟构建，在读取 checkpoint 前需进行显示构建（手动调用 build 或者执行一次推理），否则下面的代码会打印为空，无法进行节点之间映射。使用模型训练的同事提供的Tensorflow模型代码，将 checkpoint 中的权重重新读入，将其保存为savemodel格式，再使用 tf2

Local，Global，Contant，Texture为片外DRAM，其中Global，Constant，Texture内存在Host端代码声明，所有线程可见SM拥有私有的Registers和Shared Memory（其实还有SM私有的L1 cache以及共有的L2 cache），Constant和Texture内存有专有的Caches(片上)

正则化是指在机器学习和统计建模中的一种技术，用于控制模型的复杂度，防止模型在训练数据上过度拟合（overfitting）。当模型过度拟合时，会学习到训练数据中的噪声和细微变化，导致在新数据上的性能下降正则化通过在模型的损失函数中引入额外的惩罚项，来对模型的参数进行约束，从而降低模型的复杂度。这个额外的惩罚通常与模型参数的大小或者数量相关，旨在鼓励模型学习简单的规律，而不是过度拟合训练数据在深度学习

若所给图不是一个连通图，那么从一个顶点开始进行深度优先遍历，无法遍历完图中的所有顶点。这时可以遍历标记数组，查看哪些顶点还没有被访问过，对于没有被访问过的顶点，则从该顶点处继续进行深度优先遍历，直到图中所有的顶点都被访问过。在每一轮松弛过程中，后面路径的更新可能会影响到前面已经更新过的路径，比如使得前面已经更新过的路径的长度可以变得更短，或者使得某些源顶点之前不可达的顶点变得可达，但每一轮松弛至少

若树为空，直接插入新结点，该结点为树的根结点树非空，找待插入关键字在树中的插入位置（找到的插入结点位置一定是叶子结点）检测是否找到插入位置（假设树中的key唯一，即该元素已经存在时则不插入）按照插入排序的思想将该关键字插入到找到的结点中检测该结点关键字数量是否满足B-树的性质：即该节点中的元素个数是否等于M，若小于则满足，插入结束若插入后结点不满足B树的性质，需要对该结点进行分裂：申请新的兄弟结点

卷积神经网络是深度学习在计算机视觉领域的突破性成果。在计算机视觉领域，往往输入图像都很大，若使用全连接网络，计算代价较高。图像也很难保留原有的特征，导致图像处理的准确率不高卷积神经网络（Convolutional Neural Network）是含有卷积层的神经网络。卷积层的作用就是用来自动学习、提取图像的特征CNN网络主要有三部分构成：卷积层、池化层和全连接层构成，其中卷积层负责提取图像中的局部

RNN(Recurrent Neural Network)，中文称作循环神经网络，一般以序列数据为输入，通过网络内部的结构设计有效捕捉序列之间的关系特征，一般也是以序列形式进行输出RNN的循环机制使模型隐层上一时间步产生的结果，能够作为当下时间步输入的一部分（当下时间步的输入除了正常的输入外还包括上一步的隐层输出）对当下时间步的输出产生影响。

nvidia-smi 提供了GPU技术参数、使用温度和电源管理等重要信息。

人类观察事物时，之所以能够快速判断一种事物（当然允许判断是错误的），是因为大脑能够很快把注意力放在事物最具有辨识度的部分从而作出判断，而并非是从头到尾的观察一遍事物后，才能有判断结果。正是基于这样的理论，就产生了注意力机制需要三个指定的输入Q(query)、K(key)、V(value)，然后通过计算公式得到注意力的结果，这个结果代表query在key和value作用下的注意力表示。当输入的Q=K