logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

西瓜书学习笔记——核化线性降维(公式推导+举例应用)

核化线性降维是一种基于核方法的降维技术,适用于处理非线性数据结构。以核主成分分析(KPCA)为例,通过引入核函数,将数据映射到高维特征空间,并利用核矩阵的特征值分解实现降维。本文利用径向基函数核对数据集进行核化PCA,展示了降维后的可视化效果。

文章图片
#学习#机器学习
西瓜书学习笔记——低维嵌入(公式推导+举例应用)

低维嵌入(Low-Dimensional Embedding)技术通过降低高维数据的复杂性,实现数据在更低维度空间的映射,用于可视化和数据压缩。本文介绍了低维嵌入在K近邻学习中的应用,通过保持样本间距离关系,提高KNN算法性能。算法利用特征值分解和对角矩阵构建,通过实验验证了该方法在数据集降维过程中的有效性。 MDS算法结果展示了特征值构成的对角矩阵,为数据降维提供了直观的视觉呈现。

文章图片
#学习#机器学习
决策树(公式推导+举例应用)

该博客总结了决策树在决策制定中的广泛应用。决策树通过树形结构模拟决策过程,在商业、医疗等领域取得显著成果。文章深入探讨了决策树的学习思路、划分选择、剪枝处理等关键概念。实验展示了构建决策树模型的步骤,通过网格搜索选择最优超参数,并对性能进行了详细分析,强调模型在类别"Yes"上的改进空间。

文章图片
#决策树#算法#机器学习
西瓜书学习笔记——主成分分析(公式推导+举例应用)

本篇博客介绍了主成分分析(PCA)算法,以及其在降维问题中的应用。PCA旨在通过线性变换找到最能代表原始数据的主成分,同时保留数据的重要信息。通过特征值分解,我们推导了PCA的优化目标,并使用重构阈值确定最小降维维度。最后,通过实验分析展示了PCA在一个相关数据集上的降维效果。

文章图片
#学习#机器学习
西瓜书学习笔记——Boosting(公式推导+举例应用)

Boosting是一种集成学习方法,AdaBoost通过迭代训练弱学习器,调整样本权重和学习率,优化指数损失函数,取得了广泛成功。实验结果表明,在预测人才录取问题上,AdaBoost相较于单一决策树具有更高准确度和泛化性能。

文章图片
#学习#boosting
贝叶斯分类器(公式推导+举例应用)

本文深入探讨了贝叶斯分类器的理论基础和实际应用。首先介绍了贝叶斯决策论,以及先验概率和后验概率的概念。通过极大似然估计,我们理解了在统计模型中如何估计参数。然后详细讲解了朴素贝叶斯分类器,阐述了其基于概率和属性条件独立性假设的工作原理。通过实验分析垃圾邮件分类,展示了朴素贝叶斯分类器在实际问题中的表现,以及对模型评估和分析的方法。总体而言,贝叶斯分类器在文本分类等领域有着广泛应用,通过本文的学习,

文章图片
#机器学习#分类
线性判别分析LDA((公式推导+举例应用))

LDA不同于一些无监督降维方法,如主成分分析(PCA),它充分利用了类别信息,通过寻找最佳投影方向,使得不同类别的样本在降维后的空间中有最大的类间距离,同时保持同一类别内的样本尽量接近。LDA的核心思想是在降维的同时最大化类别之间的差异,通过寻找最佳投影方向,使得不同类别的样本在降维后的空间中有最大的类间距离,同时保持同一类别内的样本尽量接近。在这个过程中,LDA通过解决广义特征值问题,找到了最优

文章图片
#机器学习
到底了