Polyak平均会平均优化算法在参数空间访问中的几个点。如果t次迭代梯度下降访问了点,那么Polyak平均算法的输出是。当应用Polyak平均于非凸问题时，通常会使用指数衰减计算平均值：                                     1. 用滑动平均估计局部均值　　滑动平均(exponential moving average)，或者叫做指数加权平均(ex...

一、病态矩阵求解方程组时如果对数据进行较小的扰动，则得出的结果具有很大波动，这样的矩阵称为病态矩阵。病态矩阵是一种特殊矩阵。指条件数很大的非奇异矩阵。病态矩阵的逆和以其为系数矩阵的方程组的界对微小扰动十分敏感，对数值求解会带来很大困难。例如：现在有线性方程组： Ax = b， 解方程                                                ...

上一篇博文中讨论了两种常用的性能度量查准率（precision）查全率（recall，也叫召回率）对应的P-R图与真正例率（TPR），假正例率（FPR）对应的ROC图。详情请看https://blog.csdn.net/qq_18888869/article/details/84848689。今天介绍另一种常用的人的度量方法FAR,FRR，此方法在识别身份，人脸识别等方面运用较多。1.概念...

学习深度学习时遇见multinoulli分布，在此总结一下机器学习中常用的multinoulli分布与多项式分布之间的区别于关系，以便更好的理解其在机器学习和深度学习中的使用。首先介绍一下其他相关知识。Bernoulli分布 （两点分布）Bernoulli分布是单个二值随机变量的分布。它由单个参数控制，给出了随机变量等于1的概率。                        ...

概念1、静态查找首先无论是静态查找还是动态查找，都要有查找的对象，也就是包含很多同类型数据的“表”，这个“表”可以理解为一个由同类型数据元素组成的一个“集合”，该集合可以用各种容器来存储，例如数组、链表、树等，我们统称这些存储数据的数据结构为——查找表。可见，查找表有时是我们传统意义的表，有时候是很复杂的一种结构。静态查找就是我们平时概念中的查找，是“真正的查找”。之所以说静态查找是真...

tf.data.Dataset.from_tensor_slices:它的作用是切分传入Tensor的第一个维度，生成相应的dataset。例1：dataset = tf.data.Dataset.from_tensor_slices(np.random.uniform(size=(5, 2)))传入的数值是一个矩阵，它的形状为(5, 2)，tf.data.Dataset.from...

之前写程序时也出现过类似错误，每次解决了到第二次遇见又忘了具体方法，这次记录一下。一、字符编码问题先介绍一下字符编码问题1.ASCLL与GB2312由于计算机是美国人发明的，因此，最早只有127个字符被编码到计算机里，也就是大小写英文字母、数字和一些符号，这个编码表被称为ASCII编码，比如大写字母A的编码是65，小写字母z的编码是122。但是要处理中文显然一个字节是不够的，至...

上一篇博文中讨论了两种常用的性能度量查准率（precision）查全率（recall，也叫召回率）对应的P-R图与真正例率（TPR），假正例率（FPR）对应的ROC图。详情请看https://blog.csdn.net/qq_18888869/article/details/84848689。今天介绍另一种常用的人的度量方法FAR,FRR，此方法在识别身份，人脸识别等方面运用较多。1.概念...