二分类和多分类交叉熵函数区别详解写在前面查了下百度，交叉熵，是度量两个分布间差异的概念。而在我们神经网络中，两个分布也就是y的真实值分布和预测值分布。当两个分布越接近时，其交叉熵值也就越小。根据上面知识，也就转化为我们需要解决让预测值和真实值尽可能接近的问题，而这正与概率论数理统计中的最大似然分布一脉相承，进而目标转化为确定值的分布和求解最大似然估计问题。二分类问题表示分类任务中有两个类别，比如我

矩估计和极大似然估计矩估计基于辛钦大数定律：当样本的容量足够大时，样本k阶距(A_k)收敛域总体k阶距(a_k)样本的平均值去估计总体的均值(期望)期望和均值数学期望常称为“均值”，即“随机变量取值的平均值”之意，这个平均是以概率为权的平均，不是通常意义上的(总数)/(个数),数学期望由随机变量的分布完全决定。Xˉ=1n∑i=1nxi\bar{X}=\frac{1}{n}\sum_{i=1}^nx

矩估计和极大似然估计矩估计基于辛钦大数定律：当样本的容量足够大时，样本k阶距(A_k)收敛域总体k阶距(a_k)样本的平均值去估计总体的均值(期望)期望和均值数学期望常称为“均值”，即“随机变量取值的平均值”之意，这个平均是以概率为权的平均，不是通常意义上的(总数)/(个数),数学期望由随机变量的分布完全决定。Xˉ=1n∑i=1nxi\bar{X}=\frac{1}{n}\sum_{i=1}^nx