准确性、召回率和F1分数是从不同角度衡量模型的性能。在选择使用哪个指标时，需要结合任务需求、错误代价和类别分布综合考量。对于实际问题，通常不仅关注单一指标，还需综合使用多个指标来全面评价模型表现。

ReLU（Rectified Linear Unit，修正线性单元）是一种广泛应用于深度学习中的激活函数。其定义为：f(x) = max(0, x)，即当输入大于0时，输出为输入值；当输入小于或等于0时，输出为0。然而，ReLU也存在一些局限性，例如在训练过程中，某些神经元可能会因为始终输出0而“死亡”，即所谓的“神经元死亡”问题。为此，研究者提出了Leaky ReLU、Parametric Re

使用梯度下降最小化均方误差

在统计学和机器学习中，最大似然估计（Maximum Likelihood Estimation，简称 MLE）是一种用于估计模型参数的方法，其核心思想是：在给定观测数据的情况下，选择使得数据出现概率最大的模型参数。

这一篇文章，我们主要来理解一下，什么是线性回归中的简单回归和多元回归，顺便掌握一下特征向量的概念。

梯度下降法是优化问题中常用的算法，根据其更新方式和数据处理的特点，主要分为批量梯度下降法，随机梯度下降法，小批量梯度下降法

最近在学习机器学习的过程中，发现数学期望在理解一些相关概念时都需要用到，因此对大学时学过的数学期望和方差进行了复习和整理，以加深理解，提高学习效率。

线性模型是机器学习中应用最广泛的模型，指通过样本特征的线性组合来进行预测的模型。本文我们来学习线性模型的种类：回归问题和分类问题，并了解涉及的几个概念：决策函数、判别函数和符号函数。

经验风险最小化（Empirical Risk Minimization，简称 ERM）是机器学习中的一种基本理论框架，用于指导模型的训练过程。其核心思想是通过最小化训练数据上的损失函数来优化模型参数，从而提高模型在训练集上的表现。

机器学习之基本概念 - 数据集、训练集、特征向量、独立同分布的