1. 项目概述：当机器学习遇见“天外来客”

在浩瀚的太阳系中，除了我们熟悉的行星和卫星，还游荡着数以百万计的小行星和彗星，其中那些轨道与地球轨道相交或接近的，被统称为近地天体。这些“天外来客”中，有一部分被标记为“潜在威胁天体”，它们的大小和轨道特性使其在未来某个时刻存在与地球碰撞的风险。传统的风险评估方法，主要依赖天文学家手动计算轨道参数和物理特性，面对海量数据和复杂的非线性关系，往往显得力不从心，效率与精度都面临瓶颈。

我最近深度参与了一个将机器学习应用于近地天体风险评估的项目。核心目标很明确：构建一个能够自动、准确地将NEO分类为“危险”或“非危险”的智能系统。这听起来像是一个典型的二分类问题，但实际做起来，挑战远超预期。最大的“拦路虎”就是数据本身——在公开的NEO数据库中，被标记为“危险”的天体仅占约16%，而“非危险”天体则占据了压倒性的84%。这种严重的类别不平衡，意味着一个“偷懒”的模型即使把所有天体都预测为“非危险”，也能轻松获得超过84%的准确率，但这对于行星防御而言是灾难性的，因为漏掉任何一个真正的危险天体都可能带来不可估量的后果。

因此，这个项目的核心不仅在于选择合适的机器学习算法，更在于如何通过精巧的数据重采样策略，让模型“看见”并学会识别那些稀有的“危险”样本。我们系统性地对比了包括随机森林、梯度提升、支持向量机在内的六种主流分类器，并深入测试了过采样、欠采样以及混合采样等多种策略。最终，集成学习方法，特别是结合了特定重采样技术后，展现出了近乎完美的性能。接下来，我将从数据准备、算法选型、重采样实战到模型调优，完整拆解这个项目的实现过程与核心心得。

2. 核心思路与方案选型：为什么是它们？

面对近地天体风险评估这个任务，我们的技术路线可以概括为“数据驱动，平衡优先，集成致胜”。整个方案的搭建并非一蹴而就，而是基于对问题本质和现有工具链的深刻理解，一步步推理出来的。

2.1 问题定义与评估指标选择

首先，我们必须明确这不是一个追求“整体准确率”的游戏。假设数据集中有10000个天体，其中1600个是危险的。一个模型如果把所有天体都预测为安全，它的准确率是84%，但这个模型毫无用处。我们的核心目标是 最大化对危险天体的召回率 ，即尽可能多地找出真正的危险天体，即使这会以增加一些误报为代价。

注意 ：在行星防御场景下，漏报（将危险天体误判为安全）的成本远高于误报（将安全天体误判为危险）。前者可能导致灾难，后者可能只是消耗一些额外的观测资源。

因此，我们放弃了单纯的准确率，选择了 F2-Score 作为核心评估指标。Fβ-Score 是精确率和召回率的加权调和平均，其中参数β决定了召回率的重要性。F2-Score 的计算公式为： F2 = (1 + 2²) * (精确率 * 召回率) / (2² * 精确率 + 召回率) = 5 * (精确率 * 召回率) / (4 * 精确率 + 召回率) 当β=2时，召回率的权重是精确率的4倍。这完美契合了我们的需求：在保证一定精确率的前提下，不惜代价地提高召回率，确保危险天体不被遗漏。

2.2 算法选型逻辑：从简单到复杂，为什么集成学习胜出？

我们对比了六种具有代表性的分类算法，其选型背后有清晰的逻辑：

  1. 逻辑回归与线性判别分析 ：作为线性模型的基准。逻辑回归通过Sigmoid函数输出概率，LDA则假设数据服从高斯分布并寻找最佳线性投影面。它们结构简单、可解释性强，适合作为性能底线。我们预期它们在非线性关系复杂的航天数据上表现一般，但可以用来验证数据是否具有基本的线性可分性。
  2. K近邻 ：一种基于实例的“懒惰学习”算法。它不对数据做任何假设，仅根据特征空间中样本点的距离进行投票。它的缺点是计算量大，对不平衡数据和高维数据敏感，我们预计其表现不会太好，但可以作为非线性、非参数方法的一个参照。
  3. 支持向量机 ：通过核技巧将数据映射到高维空间，寻找最大间隔超平面。它擅长处理中小规模、高维度的数据，但对参数（如核函数、惩罚系数C）和样本量非常敏感。在大数据量且不平衡的场景下，训练成本会显著增加。
  4. 随机森林 ：这是我们押注的主力之一。它是一种Bagging集成算法，通过构建大量互不关联的决策树并投票。其优势在于：① 能有效处理高维特征；② 通过随机选择特征和样本，天然具有抗过拟合能力；③ 可以输出特征重要性，为天体风险因子分析提供洞见；④ 对数据缺失和不平衡相对鲁棒。
  5. 梯度提升 ：这是我们押注的另一个主力，具体使用了XGBoost。它是一种Boosting集成算法，通过串行地训练决策树，每一棵新树都致力于纠正前一棵树的残差。其优势在于：① 通常能达到比随机森林更高的精度；② 内置正则化项（如L1、L2正则和树复杂度控制）能有效防止过拟合；③ 对类别不平衡问题，可以通过 scale_pos_weight 等参数直接调整对少数类的关注度。

选型结论 ：基于理论分析和前期探索，我们判断集成学习方法（随机森林和梯度提升）最有可能在这个问题上胜出。因为它们能通过组合多个弱学习器来捕捉数据中复杂的非线性关系和交互效应，而这正是轨道力学和物理特征之间可能存在的。同时，它们对异常值和噪声的容忍度较高，且提供了缓解过拟合的机制。

2.3 重采样策略规划：破解“不平衡”困局的关键

仅仅选择强大的算法不够，必须直接解决数据不平衡这个根本问题。我们规划了三条技术路径进行对比：

  1. 过采样 ：增加少数类样本。我们不是简单复制，而是采用智能生成新样本的方法。
    • SMOTE ：在少数类样本的特征空间中进行插值，生成新样本。
    • Borderline-SMOTE ：SMOTE的改进版，只对那些处于分类边界附近的“困难”少数类样本进行过采样，效率更高。
    • ADASYN ：根据样本分布的密度进行自适应过采样，在少数类样本分布稀疏的区域生成更多样本。
  2. 欠采样 ：减少多数类样本。目标是清理边界，而不是盲目删除。
    • Tomek Links ：移除那些是彼此最近邻但属于不同类别的样本对中的多数类样本，用于清理边界。
    • Edited Nearest Neighbours ：对于每个多数类样本，如果其大部分最近邻属于少数类，则移除该样本。这是一种更激进的边界清理。
    • Neighbourhood Cleaning Rule ：结合了ENN和一种基于最近邻的清理规则，同时清理多数类和少数类中的噪声。
  3. 混合采样 ：结合上述两者，先过采样少数类，再欠采样清理数据。
    • SMOTE-Tomek ：先应用SMOTE，再应用Tomek Links。
    • SMOTE-ENN ：先应用SMOTE，再应用ENN。

我们的实验设计是，以随机森林为基分类器，系统地将上述重采样技术嵌入到模型训练流程中，通过严格的交叉验证来评估哪种策略能最有效地提升F2-Score。

3. 数据实战：从原始API到模型可用的特征矩阵

理论规划完毕，接下来是接地气的实操。我们所有的数据来源于NASA的NEO Web Service API，这是一个宝库，但原始数据就像刚从矿区挖出的矿石，需要经过多道工序提炼。

3.1 数据获取与初窥

使用Python的 requests 库可以轻松抓取数据。这里的关键是理解API返回的JSON结构，并从中提取出对我们预测目标 is_potentially_hazardous_asteroid （布尔值）有意义的特征。 

import pandas as pd
import requests

# 示例：获取特定时间段内的NEO数据
url = "https://api.nasa.gov/neo/rest/v1/feed"
params = {
    'start_date': '2024-01-01',
    'end_date': '2024-01-07',
    'api_key': 'YOUR_API_KEY' # 需要在NASA官网免费申请
}
response = requests.get(url, params=params)
data = response.json()

# 将嵌套的JSON数据扁平化并转换为DataFrame
neo_list = []
for date in data['near_earth_objects']:
    for neo in data['near_earth_objects'][date]:
        # 提取关键特征，例如：
        neo_info = {
            'id': neo['id'],
            'name': neo['name'],
            'hazardous': neo['is_potentially_hazardous_asteroid'],
            'est_diameter_km_min': neo['estimated_diameter']['kilometers']['estimated_diameter_min'],
            'est_diameter_km_max': neo['estimated_diameter']['kilometers']['estimated_diameter_max'],
            'absolute_magnitude': neo['absolute_magnitude_h'],
            'relative_velocity_kps': neo['close_approach_data'][0]['relative_velocity']['kilometers_per_second'],
            'miss_distance_au': neo['close_approach_data'][0]['miss_distance']['astronomical'],
            'orbiting_body': neo['close_approach_data'][0]['orbiting_body'],
            # ... 提取更多轨道参数如 eccentricity, semi_major_axis, inclination 等
        }
        neo_list.append(neo_info)

df = pd.DataFrame(neo_list)

实操心得一：API调用与数据拼接 。NEO API对单次查询的时间范围和数量都有限制。为了构建足够大的数据集，需要编写循环脚本，分批次获取数月甚至数年的数据，并妥善处理分页和日期衔接。务必保存好原始数据和获取时间戳，以便复现和增量更新。

3.2 特征工程：构建风险画像

原始特征需要经过加工才能更好地被模型理解。我们创建了以下几类特征：

  1. 物理特征 ：
    • diameter_avg : 平均直径 ( (min+max)/2 )。绝对大小是威胁评估的核心。
    • diameter_log : 直径的对数值。因为直径分布严重右偏（大量小行星，极少数巨大小行星），取对数可以使其分布更接近正态，有利于模型学习。
  2. 接近特征 ：
    • relative_velocity : 相对速度（已提供）。速度越大，撞击能量越高。
    • miss_distance_km : 错过距离（统一转换为公里）。这是危险性的直接度量。
    • time_to_close_approach : 距离下次近地点的天数（如果API提供时间戳）。预警时间很重要。
  3. 轨道特征 ：
    • eccentricity , semi_major_axis , inclination : 轨道偏心率、半长轴、倾角。这些决定了轨道的形状、大小和空间取向，是判断其是否会与地球轨道长期相交的关键。
    • perihelion_distance : 近日点距离。距离太阳越近，受太阳引力扰动可能越大。
    • moid ：与地球轨道的最小交会距离。这是天文领域评估风险的一个专业指标，如果API不直接提供，可通过轨道根数计算近似值。

实操心得二：单位统一与量纲处理 。数据中距离单位有天文单位、公里、月球距离，直径单位有公里、米、英尺。必须在分析前将所有特征转换到统一的科学单位制（如公里、公里/秒），避免量纲差异对基于距离的模型（如KNN、SVM的RBF核）产生误导。

3.3 数据清洗与探索性分析

清洗是枯燥但至关重要的一步。 

# 1. 处理缺失值
print(df.isnull().sum())
# 对于数值特征，使用中位数填充（对异常值更鲁棒）
numeric_cols = df.select_dtypes(include=[np.number]).columns
df[numeric_cols] = df[numeric_cols].fillna(df[numeric_cols].median())
# 对于分类特征，使用众数填充
categorical_cols = df.select_dtypes(include=['object']).columns
for col in categorical_cols:
    df[col].fillna(df[col].mode()[0], inplace=True)

# 2. 探索性数据分析
import seaborn as sns
import matplotlib.pyplot as plt

# 查看目标变量分布
plt.figure(figsize=(6,4))
sns.countplot(x='hazardous', data=df)
plt.title('Distribution of Hazardous vs Non-Hazardous NEOs')
plt.show()
print(df['hazardous'].value_counts(normalize=True))

# 绘制特征相关性热图
plt.figure(figsize=(12,10))
corr_matrix = df[numeric_cols].corr()
sns.heatmap(corr_matrix, annot=True, fmt='.2f', cmap='coolwarm', center=0)
plt.title('Feature Correlation Heatmap')
plt.show()

EDA证实了我们的担忧：危险天体占比仅16.1%。同时，热图显示一些特征（如不同单位的直径、不同单位的错过距离）之间高度相关，后续可以考虑降维或只保留其中一个，以避免多重共线性。

3.4 数据预处理流水线

为了保证实验的可复现性并防止数据泄露，我们使用Scikit-learn的 Pipeline 和 ColumnTransformer 。 

from sklearn.pipeline import Pipeline
from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import StandardScaler, PowerTransformer, MinMaxScaler
from sklearn.impute import SimpleImputer

# 定义数值型特征的预处理步骤
numeric_transformer = Pipeline(steps=[
    ('imputer', SimpleImputer(strategy='median')),
    ('scaler', MinMaxScaler()), # 或 StandardScaler， 后续可对比
    ('transformer', PowerTransformer(method='yeo-johnson')) # 使数据更接近高斯分布
])

# 定义分类特征的预处理步骤（本例中简单处理，实际可能编码）
categorical_transformer = Pipeline(steps=[
    ('imputer', SimpleImputer(strategy='most_frequent')),
    ('onehot', OneHotEncoder(handle_unknown='ignore'))
])

# 组合预处理器
preprocessor = ColumnTransformer(
    transformers=[
        ('num', numeric_transformer, numeric_cols),
        ('cat', categorical_transformer, categorical_cols)
    ])

# 此时，一个完整的数据转换流程就封装好了
# 后续可以将 preprocessor 和 estimator 放入同一个Pipeline

4. 模型训练与重采样策略深度实现

有了干净的数据和预处理流水线，我们进入了核心环节：模型训练与比较。我们采用 RepeatedStratifiedKFold 交叉验证（10折，重复3次），以确保评估结果稳健，并在每一折中都保持类别比例。

4.1 基础模型性能对比

首先，我们在未经重采样的原始不平衡数据上，运行所有候选模型，建立一个性能基线。 

from sklearn.model_selection import RepeatedStratifiedKFold, cross_val_score
from sklearn.ensemble import RandomForestClassifier, GradientBoostingClassifier
from sklearn.svm import SVC
from sklearn.linear_model import LogisticRegression
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
from sklearn.neighbors import KNeighborsClassifier
from sklearn.metrics import make_scorer, fbeta_score

# 定义F2评分器
f2_scorer = make_scorer(fbeta_score, beta=2)

# 定义模型字典
models = {
    'RFC': RandomForestClassifier(n_estimators=100, random_state=42, class_weight='balanced'),
    'GBC': GradientBoostingClassifier(n_estimators=100, random_state=42),
    'SVC': SVC(kernel='rbf', probability=True, random_state=42, class_weight='balanced'),
    'LR': LogisticRegression(max_iter=1000, random_state=42, class_weight='balanced'),
    'LDA': LinearDiscriminantAnalysis(),
    'KNN': KNeighborsClassifier()
}

# 定义交叉验证策略
cv = RepeatedStratifiedKFold(n_splits=10, n_repeats=3, random_state=42)

# 评估每个模型
results = {}
for name, model in models.items():
    # 创建包含预处理和模型的完整流水线
    pipeline = Pipeline(steps=[('preprocessor', preprocessor),
                               ('classifier', model)])
    scores = cross_val_score(pipeline, X_train, y_train, scoring=f2_scorer, cv=cv, n_jobs=-1)
    results[name] = {
        'mean_f2': scores.mean(),
        'std_f2': scores.std(),
        'all_scores': scores
    }
    print(f"{name}: Mean F2-Score = {scores.mean():.4f} (+/- {scores.std():.4f})")

不出所料，随机森林和梯度提升遥遥领先，F2-Score分别达到了0.987和0.986，且方差极小。支持向量机位居第三（0.896），而逻辑回归、线性判别分析和K近邻表现较差。这个结果坚定了我们以集成学习为核心的后续优化方向。

4.2 重采样技术集成实战

接下来，我们将重采样器嵌入到交叉验证的每一折训练集中。这是关键步骤，必须确保重采样 只应用于训练集 ，防止信息从验证集泄露到训练过程。我们使用 imbalanced-learn 库。

以Borderline-SMOTE为例： 

from imblearn.pipeline import Pipeline as ImbPipeline # 注意使用imblearn的Pipeline
from imblearn.over_sampling import BorderlineSMOTE

# 定义使用Borderline-SMOTE的流水线
pipeline_borderline = ImbPipeline(steps=[
    ('preprocessor', preprocessor),
    ('sampler', BorderlineSMOTE(random_state=42, kind='borderline-1')), # 在预处理后的数据上过采样
    ('classifier', RandomForestClassifier(n_estimators=100, random_state=42)) # 这里不再需要class_weight
])

# 评估
scores_borderline = cross_val_score(pipeline_borderline, X_train, y_train, scoring=f2_scorer, cv=cv, n_jobs=-1)
print(f"Borderline-SMOTE + RFC: Mean F2 = {scores_borderline.mean():.4f} (+/- {scores_borderline.std():.4f})")

欠采样与混合采样实现类似： 

from imblearn.under_sampling import EditedNearestNeighbours
from imblearn.combine import SMOTEENN

# Edited Nearest Neighbours
pipeline_enn = ImbPipeline(steps=[
    ('preprocessor', preprocessor),
    ('sampler', EditedNearestNeighbours()),
    ('classifier', RandomForestClassifier(n_estimators=100, random_state=42))
])

# SMOTE + ENN (混合采样)
pipeline_smoteenn = ImbPipeline(steps=[
    ('preprocessor', preprocessor),
    ('sampler', SMOTEENN(random_state=42)),
    ('classifier', RandomForestClassifier(n_estimators=100, random_state=42))
])

实操心得三：重采样器的放置位置 。务必在数据预处理（缩放、转换） 之后 进行重采样。如果先重采样再缩放，会破坏基于原始数据分布计算的缩放参数，并且可能使合成样本的缩放产生偏差。 imblearn 的 Pipeline 确保了 fit_resample 只在训练折叠上调用，完美解决了这个问题。

4.3 超参数调优：让性能再进一步

在确定了“Borderline-SMOTE + 随机森林”和“SMOTEENN + 随机森林”这两个优秀组合后，我们进行了网格搜索调优，以榨取最后一点性能。 

from sklearn.model_selection import GridSearchCV

# 定义参数网格
param_grid = {
    'classifier__n_estimators': [100, 200, 300],
    'classifier__max_depth': [10, 20, 30, None],
    'classifier__min_samples_split': [2, 5, 10],
    'classifier__min_samples_leaf': [1, 2, 4],
    'classifier__max_features': ['sqrt', 'log2'] # 随机森林的特征子集大小
}

# 使用最佳流水线进行网格搜索
best_pipeline = ImbPipeline(steps=[...]) # 填入选定的重采样流水线
grid_search = GridSearchCV(best_pipeline, param_grid, scoring=f2_scorer, cv=cv, n_jobs=-1, verbose=1)
grid_search.fit(X_train, y_train)

print(f"Best parameters: {grid_search.best_params_}")
print(f"Best cross-validation F2-Score: {grid_search.best_score_:.4f}")

调优后，最佳模型的F2-Score可以稳定在0.992以上。最终，我们选择 Borderline-SMOTE结合调优后的随机森林 作为生产模型，因为它在高性能（F2=0.992）和稳定性（标准差仅0.010）之间取得了最佳平衡。

5. 结果解读、常见问题与避坑指南

经过一系列实验，我们得到了丰富的对比数据。理解这些结果背后的含义，并总结实践中遇到的“坑”，对于真正掌握这项技术至关重要。

5.1 核心结果深度解读

  1. 重采样策略效果排名 ：

    • 过采样 ：Borderline-SMOTE (0.992) > ADASYN (0.991) > SMOTE (0.988)。Borderline-SMOTE的胜出，说明在危险天体检测中，专注于改善“边界线”上难以区分的少数类样本，比均匀地生成新样本更有效。
    • 欠采样 ：Edited Nearest Neighbours (0.991) > RENN/OSS/NCR (0.989) > Tomek Links (0.987)。ENN通过移除多数类中的“噪声点”或“边界模糊点”，有效净化了决策边界，提升了模型对少数类的分辨力。
    • 混合采样 ：SMOTE+KKN (0.991) ≈ SMOTE-Tomek (0.990)。混合方法兼具生成新样本和清理边界的优点，性能稳定且优异，其中SMOTE+KKN的标准差最低（0.008），意味着其表现最为可靠。

  2. 为什么集成学习+R重采样效果如此好？

    • 随机森林 ：其固有的随机性（行采样、列采样）本身具有一定的正则化效果，对噪声和不平衡有一定抵抗力。当重采样提供了更平衡、更干净的数据后，其多棵决策树集体决策的优势被充分发挥，既能捕捉复杂模式，又不易过拟合。
    • 梯度提升 ：通过迭代修正错误，天生对难以分类的样本（通常是少数类）关注度更高。重采样进一步增加了少数类样本的权重或数量，使得梯度提升在每一步迭代中都能更有效地针对这些关键样本进行优化。

  3. 混淆矩阵告诉我们什么？ 以最优模型为例，其混淆矩阵显示，在数千个样本中，仅存在个位数的误报和漏报。这意味着模型几乎能识别出所有真正的危险天体（高召回率），同时把误判为危险的安全天体数量控制在极低水平（高精确率）。这正是行星防御系统梦寐以求的特性。

5.2 典型问题与排查实录

在实际编码和实验过程中，我遇到了几个具有代表性的问题：

问题一：内存溢出或训练时间过长。

  • 场景 ：当使用SMOTE生成大量合成样本，且原始数据集较大时，训练集规模可能膨胀数倍，导致内存消耗剧增，特别是对于SVM或KNN这类算法。
  • 排查 ：监控任务管理器的内存使用情况。使用 memory_profiler 工具对代码段进行内存分析。
  • 解决 ：
    1. 优先考虑欠采样或混合采样 。它们通常会减少或保持数据集规模，而不是增加。
    2. 对大数据集使用 RandomUnderSampler 。这是一种简单的随机欠采样，虽然可能丢失信息，但在资源受限时是快速解决方案。
    3. 调整SMOTE的 sampling_strategy 参数 。不要总是生成1:1的平衡数据，可以尝试设为0.5（让少数类达到多数类的一半），在性能和资源间取得平衡。
    4. 使用更高效的算法 。随机森林和梯度提升（尤其是XGBoost、LightGBM）对大数据处理效率较高。可以考虑使用 n_jobs 参数进行并行计算。

问题二：过采样后模型过拟合。

  • 场景 ：使用SMOTE后，训练集上的F2-Score接近1.0，但验证集或测试集分数明显下降。
  • 排查 ：检查学习曲线。如果训练分数远高于验证分数，就是过拟合的典型标志。观察生成的合成样本是否过于集中在某些区域，导致决策边界过于复杂。
  • 解决 ：
    1. 尝试Borderline-SMOTE或ADASYN 。它们生成的样本更具代表性，而非简单插值。
    2. 加强模型正则化 。增加随机森林的 min_samples_leaf 或 max_depth ，增加梯度提升的 subsample （行采样比例）和 colsample_bytree （列采���比例），或调高正则化参数（如XGBoost的 gamma , lambda , alpha ）。
    3. 使用混合采样 。SMOTEENN或SMOTETomek在生成样本后清理数据，可以移除一些可能引起过拟合的噪声点。
    4. 进行更严格的交叉验证 。使用 RepeatedStratifiedKFold 获取更稳健的性能估计。

问题三：类别权重与重采样同时使用，效果反而变差。

  • 场景 ：在随机森林中同时设置 class_weight='balanced' 并使用了SMOTE。
  • 排查 ：这相当于对少数类进行了“双重补偿”。 class_weight 会在计算节点不纯度时给少数类样本更高权重，而SMOTE又增加了其数量。这可能导致模型过度关注少数类，在训练集上对其拟合得“太好”，从而损害了泛化能力，并可能放大数据中的噪声。
  • 解决 ：
    • 二选一 。这是一个重要的经验法则： 通常，使用重采样技术时，应将模型的 class_weight 参数设为默认（即 None 或 'balanced' 的逆） 。让重采样来处理数据分布的不平衡，让模型专注于学习平衡数据上的模式。在我们的实验中，所有使用了重采样的流水线，其基分类器均未设置 class_weight 。

问题四：流水线在交叉验证中报错：“找不到样本”。

  • 场景 ：在使用某些激进的欠采样方法（如 EditedNearestNeighbours ）时，在某个交叉验证折叠中，多数类样本被移除得过多，导致某个类别（通常是多数类）的样本数变为0。
  • 排查 ：错误信息通常指向 ValueError: The specified ratio requires to remove more samples... 。检查应用欠采样后每个折叠的类别分布。
  • 解决 ：
    1. 使用 imblearn 的Pipeline ：确保重采样只在训练折叠上进行，这是最基本的。
    2. 调整欠采样参数 ：例如，对于 ENN ，可以设置 n_neighbors=3 （默认）或更小的值，或者设置 sampling_strategy='majority' 来控制下采样比例。
    3. 改用更温和的欠采样方法 ：如 TomekLinks 或 RandomUnderSampler 。
    4. 尝试混合采样 ：如 SMOTEENN ，它先过采样增加少数类，再欠采样清理，通常能保持更稳定的样本数量。

5.3 模型部署与持续监控的思考

将训练好的模型用于实际风险评估，远不止于保存一个 pipeline.pkl 文件。有几个关键点需要考虑：

  1. 特征一致性 ：线上预测时，输入的新天体数据必须与训练时经过完全相同的预处理流程（包括缩放、转换、特征工程）。最佳实践是将整个预处理和模型的 Pipeline 对象序列化并加载使用。
  2. 预测不确定性 ：对于随机森林，可以输出预测概率，而不仅仅是0/1标签。设置一个概率阈值（如“危险”概率>0.7）进行告警，比硬分类更灵活。可以结合概率值对风险进行分级（高、中、低）。
  3. 模型衰减与更新 ：太空监测数据在不断累积，新的观测可能会改变对已知天体轨道的估算。需要建立定期（如每月）用新数据重新训练或微调模型的机制。考虑到计算成本，可以采用增量学习或定期全量重训。
  4. 可解释性 ：对于风险评估这种严肃的应用，不能完全信任“黑箱”。随机森林提供的特征重要性排序（ feature_importances_ ）是宝贵的洞见。它可以告诉我们，在模型眼中，究竟是直径、相对速度还是最小轨道交会距离对判断危险性贡献最大。这能帮助天文学家聚焦于最关键观测参数。

踩过这些坑之后，我的体会是，解决类别不平衡问题没有银弹。Borderline-SMOTE + 随机森林在这个特定数据集上表现最佳，但换一个数据集，最佳组合可能完全不同。核心在于理解每种重采样方法背后的思想（是生成新样本、清理边界还是两者结合），以及它们如何与你选择的模型相互作用。始终以业务目标（在这里是最大化召回危险天体）为导向选择评估指标，并通过严谨的交叉验证来验证方案的稳定性和泛化能力。这个项目不仅是一次成功的算法应用，更是一个关于如何系统化解决真实世界不平衡分类问题的完整范例。

# 机器学习
Logo
亚马逊云科技技术品牌专区

更多推荐

cover

基于STM32的全屋环境智能监测与预警终端设计

avatar 亚马逊云科技技术品牌专区

Keras：面向人类的深度学习库

Keras3支持多后端（TensorFlow、PyTorch、JAX），通过设置环境变量切换，兼容指定版本。pip安装后可用Sequential API快速构建CNN模型，如MNIST分类示例，实

avatar 亚马逊云科技技术品牌专区

AI行业日报｜2026-09-25：5个热点事件

本期行业动态聚焦于端侧算力重构、自主智能体工作流、开发工具经济模型、网络隔离架构设计与公共部门合规审查。以下结合一线技术场景进行结构化梳理，供 AI 研究员与软件工程团队参考。 PrismML 正将其轻量级语言模型适配至搭载高通处理器的智能眼镜终端 1 。该平台的核心战略指向开源权重模型的本地化运行，旨在最大化挖掘穿戴设备现有算力的利用效率 1 。对于嵌入式与边缘计算开发者而言，此类微型模型向低功

avatar 亚马逊云科技技术品牌专区