两天没日没夜终于在ubuntu系统上装上了openpose，我饱受折磨后决定把安装步骤记录下来，以及一些参考博客。安装环境：inter i7，rtx 2060，cuda10，cudnn7.4，opencv 3.2。第1步 安装依赖包安装后续步骤或环境必需的依赖包，依次输入以下命令:sudo apt-get install libprotobuf-dev libleveldb-dev libsnap

偏差、方差一、概念定义偏差（bias）：偏差衡量了模型的预测值与实际值之间的偏离关系。通常在深度学习中，我们每一次训练迭代出来的新模型，都会拿训练数据进行预测，偏差就反应在预测值与实际值匹配度上，比如通常在keras运行中看到的准确度为96%，则说明是低偏差；反之，如果准确度只有70%，则说明是高偏差。方差（variance）：方差描述的是训练数据在不同迭代阶段的训练模型中，预测值的变化波动情况（

偏差、方差一、概念定义偏差（bias）：偏差衡量了模型的预测值与实际值之间的偏离关系。通常在深度学习中，我们每一次训练迭代出来的新模型，都会拿训练数据进行预测，偏差就反应在预测值与实际值匹配度上，比如通常在keras运行中看到的准确度为96%，则说明是低偏差；反之，如果准确度只有70%，则说明是高偏差。方差（variance）：方差描述的是训练数据在不同迭代阶段的训练模型中，预测值的变化波动情况（

1transformer的encoder-decoder结构：结构内部：2encoder：2.1 输入部分embedding和postitional encoding（位置编码）为什么需要位置编码：如RNN每一time steps共享一套参数，串行输入输出，而transformer采用可以并行出入几个单词或者一串句子，优点是处理效率高，缺点是无法表示时序关系，所以要对输入的embedding加上p

与全连接层相比，卷积层的两个主要优势在于参数共享和稀疏连接假设有一张32×32×3维度的图片，用了6个大小为5×5的过滤器，输出维度为28×28×6。32×32×3=3072，28×28×6=4704，神经网络，其中一层含有3072个单元，下一层含有4074个单元，两层中的每个神经元全连接，计算权重矩阵等于4074×3072≈1400万，所以要训练的参数很多。卷积层的参数数量，每个过滤器都是5×5

偏差、方差一、概念定义偏差（bias）：偏差衡量了模型的预测值与实际值之间的偏离关系。通常在深度学习中，我们每一次训练迭代出来的新模型，都会拿训练数据进行预测，偏差就反应在预测值与实际值匹配度上，比如通常在keras运行中看到的准确度为96%，则说明是低偏差；反之，如果准确度只有70%，则说明是高偏差。方差（variance）：方差描述的是训练数据在不同迭代阶段的训练模型中，预测值的变化波动情况（

1transformer的encoder-decoder结构：结构内部：2encoder：2.1 输入部分embedding和postitional encoding（位置编码）为什么需要位置编码：如RNN每一time steps共享一套参数，串行输入输出，而transformer采用可以并行出入几个单词或者一串句子，优点是处理效率高，缺点是无法表示时序关系，所以要对输入的embedding加上p

与全连接层相比，卷积层的两个主要优势在于参数共享和稀疏连接假设有一张32×32×3维度的图片，用了6个大小为5×5的过滤器，输出维度为28×28×6。32×32×3=3072，28×28×6=4704，神经网络，其中一层含有3072个单元，下一层含有4074个单元，两层中的每个神经元全连接，计算权重矩阵等于4074×3072≈1400万，所以要训练的参数很多。卷积层的参数数量，每个过滤器都是5×5

L2正则化为什么正则化可以防止过拟合？加入正则化后，w减小了，相当于减小对各方向梯度的影响，也就是减小了对数据集的依赖性，所以会导致欠拟合。过拟合的话就会往right的方向靠拢。λ↑ w↓z=wa+b↓激活函数g(z)就越接近0，越接近一个线性回归函数，所以可以对抗过拟合现象。dropout正则化超参数keep.prop=cv里用的比较多，因为缺数据需要随机舍弃一些特征。数据增广early sto

与全连接层相比，卷积层的两个主要优势在于参数共享和稀疏连接假设有一张32×32×3维度的图片，用了6个大小为5×5的过滤器，输出维度为28×28×6。32×32×3=3072，28×28×6=4704，神经网络，其中一层含有3072个单元，下一层含有4074个单元，两层中的每个神经元全连接，计算权重矩阵等于4074×3072≈1400万，所以要训练的参数很多。卷积层的参数数量，每个过滤器都是5×5