数学建模备赛内容57 什么是决策树_哔哩哔哩_bilibili什么是决策树：决策树（Decision Tree）是一种常用于机器学习和数据挖掘领域的监督学习算法，它用于建立一个类似于树状结构的模型，用于进行分类和回归任务。决策树模型基于一系列的决策规则，每个规则都将数据集中的样本分割成不同的子集，直到最终达到某个决策或目标。在构建决策树模型时，算法会根据训练数据集中的特征和目标值来自动选择最优的分

数学建模备赛内容62 随机森林模型基本原理_哔哩哔哩_bilibili什么是随机森林随机森林是一种集成学习方法，通过组合多个决策树来解决分类和回归问题。每棵树都是根据随机选择的训练数据和特征构建的，最终的预测结果是基于多个树的投票（分类问题）或平均（回归问题）得出的。随机森林具有良好的泛化能力、鲁棒性和高效性，适用于各种机器学习任务。本质属于集成学习方法、由多棵决策树组成，每棵决策树都是一个分类器

本文系统介绍了支持向量机(SVM)的理论与实践。从线性可分SVM的基本概念、间隔最大化原理出发，详细推导了优化问题及其对偶形式。针对非线性可分数据，介绍了软间隔SVM和核方法，分析了常用核函数特性及选择策略。文章还探讨了SVM的扩展应用，包括支持向量回归(SVR)和多类分类方法。SVM通过结构风险最小化和核技巧，在小样本、高维数据分类中表现出色，其解具有稀疏性，仅依赖于少数支持向量。

下载完成后会得到一个包含4个文件的压缩包，我们主要对iris.data进行处理。整理好的Iris数据集。

如果与最小错误率决策规则相对比，可以看出Neyman-Pearson决策规则也是以似然比为基础的，但两者所使用的阈值不同。作决策，则很可能使实际的决策效果有较大的错误率或较大风险。能否在这种情况下，找到一种合适的分类器设计，使其最大可能的风险为最小。换句话说，如果先验概率值在教大范围内变化，就可能产生的最大风险而是最小的。​之前讨论的最小错误率或最小风险决策方法都是在先验概率已知的条件下进行的，先

​现在再回到猜硬币的那个简单的例子上来。前面给出的是在最小错误率的原则下得到的决策规则，但是，根据具体的场合不同，我们应关心的有可能并不仅仅是错误率，而是错误所带来的损失：毕竞，把一角误认为是五角与把五角误认为是一角所带来的损失是不同的。​同样，在癌细胞识别的例子中，我们不但应该关心所作的决策是否错误，更应该关心决策错误所带来的损失惑风险。比如，如果把正常细胞误判为癌细胞，会给病人带来精神上的负担

​从图2-2可以看到，这种决策实际的分界线是图中的虚线位置，如果样本x落在分界线左侧则归为第一类，落在右侧则归为第二类。从最小错误率的要求出发，利用概率论中的贝叶斯公式，就能得出使错误率最小的分类决策，称之为最小错误率贝叶斯决策。把硬币的重量仍记为x，与上面所述的决策过程类似，现在应该考查在已知这枚硬币重量为x情况下硬币属于各类的概率，对两类硬币分别记作。则是x的分布概率，将这两个式子相乘积分得到