第二部分 特征工程(★★★★★)

Q4 什么是Feature Engineering?为什么重要?

Feature Engineering(特征工程)是利用专业知识对原始数据进行提取、筛选、构造和转换,从而提高机器学习模型性能的重要步骤。机器学习真正学习的对象不是原始数据,而是能够表达数据特征的信息,因此特征质量直接决定模型效果。

完整流程包括Feature Extraction(特征提取)、Feature Selection(特征选择)、Feature Transformation(特征变换)和Feature Normalization(特征标准化)。

良好的特征工程能够降低维度、减少噪声、提高模型精度、缩短训练时间,并增强模型泛化能力。在地球科学中,NDVI、坡度、坡向、高程等都是典型的人工构造特征。

考试关键词:机器学习学习的是特征而不是数据。

第三部分 聚类分析(★★★★★)

Q5 什么是K-Means?算法流程是什么?

K-Means是一种经典的无监督聚类算法,其目标是在给定K个类别的情况下,使同一类别内部样本距离尽可能小,不同类别之间距离尽可能大。

算法流程包括:

①随机初始化K个聚类中心;

②计算每个样本到各聚类中心的距离,并分配到最近类别;

③重新计算各类别中心;

④重复执行分配和更新过程,直到聚类中心基本不再变化。

K-Means实现简单、速度快、适用于大规模数据,因此广泛应用于遥感影像分类、城市功能区划分等领域;但其缺点是需要预先指定K值,对初始中心和异常值较敏感,容易陷入局部最优。

考试关键词:初始化→分配→更新→迭代→收敛。

Q6 如何评价K-Means的优缺点?

K-Means最大的优点是算法简单、计算效率高、实现方便,适用于海量数据处理,并且具有较好的可扩展性,因此成为最经典的聚类算法之一。

但它也存在明显不足:需要人为指定聚类数量K;聚类结果受到初始中心影响较大;对于噪声和异常值较敏感;适用于凸形聚类,对复杂形状聚类效果较差。

因此,在实际应用中通常需要结合Elbow Method或Silhouette Score选择K值,并通过多次随机初始化提高聚类稳定性。

第四部分 分类算法(★★★★★)

Q7 什么是Decision Tree?为什么容易过拟合?

决策树是一种树状结构分类模型,其基本思想是在每一步选择最优特征对数据进行划分,最终形成多个叶节点完成分类。

决策树具有结构清晰、可解释性强、无需数据标准化等优点,但由于不断划分数据,容易学习训练数据中的噪声,导致模型复杂度过高,即发生过拟合。

通常可以采用预剪枝、后剪枝、限制树深度等方法减少过拟合,提高模型泛化能力。

Q8 为什么Random Forest比Decision Tree效果更好?

Random Forest是在Bagging思想基础上建立的集成学习算法,由大量决策树共同组成模型。其训练过程中首先利用Bootstrap方法随机抽样生成多个训练集,然后每棵树随机选择部分特征进行训练,最终采用投票(分类)或平均(回归)得到结果。

相比单棵决策树,随机森林通过"多树投票"降低模型方差,减少过拟合,提高稳定性和泛化能力,同时具有较强抗噪声能力,因此成为遥感分类、滑坡预测等领域最常用的机器学习算法之一。

考试关键词:Bootstrap、多树投票、降低方差、提高泛化能力。

第五部分 支持向量机(★★★★★)

Q9 什么是Support Vector Machine?为什么需要Kernel?

支持向量机(SVM)是一种监督学习分类算法,其目标是在特征空间中寻找能够最大化分类间隔的最优超平面,以获得最好的泛化能力。当数据线性不可分时,引入Kernel(核函数)将低维数据映射到更高维空间,使原本不可分的数据在高维空间实现线性可分。

常见核函数包括Linear、Polynomial和RBF,其中RBF适用于大多数非线性问题,因此应用最广泛。SVM适用于小样本、高维数据分类,在遥感影像分类中具有较高精度。

第六部分 深度学习(★★★★★)

Q10 什么是Artificial Neural Network(ANN)?其基本结构和特点是什么?

人工神经网络(Artificial Neural Network,ANN)是一种模拟生物神经元连接方式构建的机器学习模型,通过大量神经元之间的连接学习输入与输出之间复杂的非线性映射关系。

ANN的基本结构包括输入层(Input Layer)、隐藏层(Hidden Layer)和输出层(Output Layer),每个神经元都经历"输入→加权求和→激活函数→输出"四个步骤,多层隐藏层能够逐步提取更加抽象的特征。

ANN最大的优势是具有较强的非线性表达能力,能够逼近任意复杂函数,因此广泛应用于分类、回归、预测等任务;缺点是参数数量较多、训练时间长、容易过拟合、可解释性较差,并且需要较大的训练数据集。

在地球科学中,ANN可用于降水预测、空气质量预测、土地利用分类、遥感影像识别等任务,是现代深度学习模型的基础。

考试关键词:输入层→隐藏层→输出层;非线性拟合;万能函数逼近器。

Q11 什么是Activation Function?为什么神经网络必须使用激活函数?

激活函数(Activation Function)是神经网络中引入非线性映射的重要组成部分,其作用是在神经元完成加权求和后进行非线性变换,使神经网络能够学习复杂的非线性关系。

如果没有激活函数,无论网络有多少层,最终都只能表示一个线性模型,无法解决复杂分类问题。

常见激活函数包括Sigmoid、Tanh和ReLU,

  1. 其中Sigmoid输出范围为(0,1),适合概率输出,但容易产生梯度消失;
  2. Tanh输出范围为(-1,1),收敛速度较快,但仍存在梯度消失问题;
  3. ReLU定义为f(x)=max(0,x),计算简单、梯度传播稳定、训练速度快,因此成为现代深度学习最常用的激活函数。

地球科学中的CNN、RNN等深度学习模型几乎都采用ReLU作为默认激活函数。

考试关键词:没有Activation→整个网络退化为线性模型;ReLU最常用。

Q12 什么是CNN?为什么CNN特别适合遥感影像和地球科学图像分析?

卷积神经网络(Convolutional Neural Network,CNN)是一种专门针对图像数据设计的深度学习模型,其核心思想是利用卷积运算自动提取空间特征,而不需要人工设计特征。

CNN主要由卷积层(Convolution)、激活层(Activation)、池化层(Pooling)和全连接层(Fully Connected)组成,通过多层卷积逐步学习从边缘、纹理到高级语义信息。

相比传统神经网络,CNN具有局部感受野(只关注局部区域)、权值共享(同一个卷积核扫描整张图片)和参数数量少等特点,因此不仅训练效率高,而且具有良好的平移不变性。

由于遥感影像具有明显的空间结构和纹理信息,CNN能够自动学习道路、建筑、水体、森林等地物特征,因此广泛应用于遥感分类、目标检测、变化检测、土地覆盖分类等任务,是目前地球科学图像分析最重要的方法之一。

考试关键词:局部感受野、权值共享、自动提取特征、遥感分类。

Q13 什么是Pooling?Pooling层有什么作用?

Pooling(池化)是CNN中的下采样操作,其主要作用是在保留主要特征信息的同时降低特征图尺寸,减少模型计算量,提高模型鲁棒性。

常见池化方式包括Max Pooling(最大池化)和Average Pooling(平均池化),其中最大池化保留局部区域最大值,更能突出显著特征,因此应用最广。

Pooling层能够减少参数数量,降低计算复杂度,减轻过拟合,提高模型对目标位置轻微变化、旋转和噪声的适应能力,使模型具有一定的平移不变性。但Pooling也会丢失部分细节信息,因此在图像分割等需要高精度定位的任务中,通常需要结合反卷积、跳跃连接等方法恢复空间信息。遥感影像分类中,Pooling主要用于提高分类稳定性和计算效率。

考试关键词:降维、减少计算、防止过拟合、Max Pooling最常用。

Q14 什么是RNN?为什么CNN不能直接处理时间序列?

循环神经网络(Recurrent Neural Network,RNN)是一种能够处理序列数据的深度学习模型,其核心特点是在隐藏层中引入循环连接,使当前输出不仅依赖当前输入,还依赖历史状态,因此具有"记忆能力"。

CNN主要提取空间特征,每个样本之间彼此独立,无法描述时间上的连续变化,因此不能直接处理时间序列问题;

而RNN能够不断更新隐藏状态(Hidden State),将历史信息传递到下一时刻,因此特别适用于降水预测、温度预测、径流预测、股票预测等连续时间序列问题。

RNN能够学习时间依赖关系,但由于梯度需要跨多个时间步传播,容易产生梯度消失和梯度爆炸问题,因此难以学习长期依赖关系。

考试关键词:Hidden State、时间依赖、记忆能力、梯度消失。

Q15 为什么LSTM比RNN效果更好?LSTM解决了什么问题?

长短期记忆网络(Long Short-Term Memory,LSTM)是在RNN基础上提出的改进模型,其主要目的是解决传统RNN长期依赖学习困难的问题。

LSTM通过引入细胞状态(Cell State)以及遗忘门(Forget Gate)、输入门(Input Gate)和输出门(Output Gate)三个门控机制,有选择地保留、更新和输出历史信息,使重要信息能够长期保存,而无关信息及时丢弃,从而有效缓解梯度消失问题。

相比RNN,LSTM具有更强的长期记忆能力、更稳定的训练过程、更高的预测精度,因此广泛应用于天气预测、水文预测、气候预测、海洋预测等时间序列分析任务。其缺点是网络结构更加复杂、参数数量更多、训练速度较慢,但总体性能明显优于传统RNN。

考试关键词:Forget Gate、Input Gate、Output Gate、Cell State、长期依赖。

⭐ 本章最后一定会考的一道综合题(★★★★★)

CNN、RNN、LSTM三者有什么区别?分别适用于哪些任务?

CNN、RNN和LSTM都是深度学习模型,但适用的数据类型和研究对象不同。CNN主要处理二维空间数据(如图像),利用卷积操作自动提取局部空间特征,具有局部感受野、权值共享和平移不变性,因此适用于遥感影像分类、目标检测、土地覆盖识别等图像分析任务。

RNN主要处理时间序列数据,通过隐藏状态记录历史信息,能够学习数据之间的时间依赖关系,因此适用于降水预测、径流预测、温度预测等连续序列问题,但存在梯度消失和长期依赖困难。LSTM是在RNN基础上的改进模型,通过遗忘门、输入门、输出门和细胞状态实现长期信息保存,有效解决了梯度消失问题,因此在长期气候预测、水文预测、海洋预测等任务中表现更优。总体而言,CNN关注空间特征(Space),RNN关注时间特征(Time),LSTM关注长期时间依赖(Long-term Time),三者分别代表了空间建模、序列建模和长期序列建模的典型方法。

考试万能总结(建议直接背):
ANN = 所有神经网络的基础;CNN = 空间特征提取;RNN = 时间序列建模;LSTM = 长期时间依赖学习。
如果老师让你比较它们,按照"处理对象 → 核心思想 → 优点 → 缺点 → 地球科学应用"五个方面回答,基本可以覆盖所有得分点。

更多推荐