机器学习是人工智能的核心领域，使计算机能够从数据中自动学习规律，而非依赖人工编程指令。主要包括两种范式：监督学习通过带标签数据训练预测模型（如房价预测、垃圾邮件过滤），无监督学习则从无标签数据中发现隐藏模式（如新闻分类、客户分群）。通过优化算法持续调整模型参数，最终实现对新数据的智能预测与分析。机器学习，就是让计算机程序（机器）通过从数据中自动学习和分析获得规律（模式），并利用这些规律对未知数据进

本周学习了线性回归中成本函数的基本概念及其与模型参数的关系，通过简化模型（f(x) = wx）直观展示了成本函数 J(w) 如何随参数 w 的变化而变化，并说明了如何通过最小化成本函数找到最优参数。进一步，文章详细讲解了梯度下降算法的原理、学习率的作用及其在线性回归中的应用，强调了梯度下降如何通过迭代更新参数使成本函数收敛到全局最小值，最终实现模型对数据的有效拟合。本文系统阐述了成本函数与梯度下降

多元线性回归通过多个特征（x₁, x₂, …, xₙ）预测目标变量，模型表示为 f(x) = w₁x₁ + w₂x₂ + … + wₙxₙ + b，其中每个权重 w 体现对应特征的影响力，b 为基础值。为了提升计算效率，采用向量化技术利用 NumPy 等线性代数库进行并行计算，用点积运算替代传统循环，充分发挥硬件并行能力，特别适合处理大规模数据集。在参数优化方面，使用梯度下降算法同时更新所有权重

本文介绍了逻辑回归的决策边界及其计算方法，通过可视化示例展示了不同参数下决策边界的变化。同时，探讨了逻辑回归的代价函数，解释了为什么平方误差函数不适用于逻辑回归，并提出了更适合的凸代价函数，以优化模型训练过程。逻辑回归通过计算加权输入并应用Sigmoid函数得到预测概率，以0.5为阈值进行分类。决策边界由参数决定，可以是直线或曲线（如圆形），适应不同数据分布。平方误差代价函数在逻辑回归中会导致非凸

本周学习了梯度下降在逻辑回归中的应用，并讨论了过拟合问题及其解决方法。梯度下降通过迭代优化参数最小化成本函数，逻辑回归与线性回归的梯度下降形式相似但函数定义不同。过拟合指模型过度拟合训练数据而泛化能力差，可通过收集更多数据、减少特征或正则化来解决。正则化通过修改代价函数惩罚较大参数值，减少过拟合风险，适用于线性回归和逻辑回归。梯度下降是优化逻辑回归参数的关键算法，需注意其与线性回归的差异。过拟合是

今天学习了高斯分布（正态分布）在异常检测中的应用。通过回顾高斯分布的基本概念，我理解了均值μ决定分布中心位置，标准差σ控制曲线宽度的特性。在异常检测中，我们利用高斯分布建立概率模型，计算新样本的概率密度，当p(x)低于阈值ε时判定为异常。这种方法能够有效识别与正常模式显著偏离的数据点。今天的学习让我掌握了基于高斯分布的异常检测原理。通过具体的图示和公式，我清晰理解了μ和σ如何影响分布形状，以及如何

本周学习了神经网络的基本原理及其在需求预测和图像识别中的应用，阐述了神经元模型如何模仿生物神经元的信号传递机制，并通过多层结构实现复杂的数据学习和推理。并且进一步解释了前向传播算法的工作流程，展示了使用TensorFlow构建和训练神经网络的具体代码实现方法。本周从神经元与大脑的类比出发，逐步讲解了神经网络在需求预测和图像识别中的实际应用。

继续承接上周吴恩达老师的机器学习课程，主要学习的是在一个单层中我们如何实现前向传播，并且要理解神经网络是如何高效实现的通过咖啡烘焙模型中前向传播的学习，我们知道如何具体实现前向传播，并且理解了每一层中神经元的具体的运行过程，我还了解到，在选择激活函数的时候，不仅仅只有sigmoid函数，还有线性函数、Relu函数等，这些激活函数会在后面的学习中会有深刻的学习。

本日目标聚焦于两个模块，一个是神经网络如何在TensorFlow中实现，并且探究其训练细节，将整个流程拆解为三个步骤：指定如何根据输入x和参数w、b计算输出；指定损失函数、要求TensorFlow最小化成本函数。第二个模块是寻找sigmoid函数的替代品，ReLu函数、线性激活函数，sigmoid函数，这些函数在各自特定的情况下各司其职，为解决不同的目标而发挥作用通过探讨TensorFlow实现神

通过学习这部分内容，我深刻认识到激活函数是神经网络能够解决复杂问题的关键。同时，Softmax回归为我们处理多类别分类问题提供了有效的方法。这些知识让我对神经网络的应用有了更全面的理解，也为后续学习打下了坚实基础。