
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
【模式识别与机器学习】L7 集成学习
代价函数:Cost(T)=Err(T)+α⋅∣L(T)∣其中Err(T)是树T的分类误差,∣L(T)∣是叶节点数,α是惩罚成本(α≥0)。前提:弱分类器为“不稳定”分类法,即数据集微小变动导致结果显著变化,如决策树、神经网络。放回采样生成T个独立子集,用每个独立子集训练一个弱分类器,预测采用。信息增益 Gain(S,A)=H(S)-H(S|A)=H(S)-∑。缺点:偏向选择取值多的属性(如”ID“
【模式识别与机器学习】L5 SVM支撑向量机
maxwbmarginwbminn1..N∥w∥1ynwTxnbynwTxnb0(所有样本正确分类)minwb21wTwstynwTxnb≥1:满足ynwTxnb1。
【模式识别与机器学习】L2 线性回归
线性回归【输出连续值或离散类别】最小化【损失函数】平方损失ℓinwN1∑n1NwTxn−yn2,矩阵形式ℓinwN1∥Xw−Y∥2hxwTx。
【模式识别与机器学习】L7 集成学习
代价函数:Cost(T)=Err(T)+α⋅∣L(T)∣其中Err(T)是树T的分类误差,∣L(T)∣是叶节点数,α是惩罚成本(α≥0)。前提:弱分类器为“不稳定”分类法,即数据集微小变动导致结果显著变化,如决策树、神经网络。放回采样生成T个独立子集,用每个独立子集训练一个弱分类器,预测采用。信息增益 Gain(S,A)=H(S)-H(S|A)=H(S)-∑。缺点:偏向选择取值多的属性(如”ID“
到底了







