机器学习小结前言决策树熵熵的性质非参数概率密度统计模型HistogramParzen KernelNadaraya-Watson高斯过程算法目的算法理论要点实验附：高斯函数的基本性质前言本文旨在整理一些博主学习中零散的知识点。决策树熵熵最好理解为不确定性的量度而不是确定性的量度，因为越随机的信源的熵越大。H(p)=−∑k=1npklog2pkH(p) = -\sum_{k=1}^np_klog_2