机器学习常见模型在sklearn库上的具体应用，包括模型基本原理、关键参数、重要属性、如何调参、一些扩展等

决策树是一种通过特征分裂实现预测的机器学习模型，分为分类树和回归树两种。分类树预测离散类别，使用信息增益或基尼系数选择分裂特征；回归树预测连续值，通过方差减少确定最佳分裂点。构建过程包括特征选择、分裂点确定和停止条件设置，具有解释性强但易过拟合的特点。为提升性能，可采用集成方法如随机森林（并行训练多棵树）和梯度提升树（串行修正残差），这些方法能有效降低方差，提高模型稳定性。决策树广泛应用于需要可解

NoSQL 数据库不使用传统的关系型表格存储数据，而是专为处理大规模非结构化或半结构化数据而设计。相比 SQL 数据库，它们在关系约束和一致性检查上较少，但在可扩展性、灵活性和性能方面表现突出。与 SQL 数据库不同，NoSQL 没有统一的查询语言标准，而是根据具体数据库类型使用不同的查询方式（如 JSON、XML 或自定义 API）。