DAY12——启发式算法（主要是优化算法）

先别管别的，数据处理走一波

# 先运行之前预处理好的代码
import pandas as pd
import pandas as pd    #用于数据处理和分析，可处理表格数据。
import numpy as np     #用于数值计算，提供了高效的数组操作。
import matplotlib.pyplot as plt    #用于绘制各种类型的图表
import seaborn as sns   #基于matplotlib的高级绘图库，能绘制更美观的统计图形。
 
 # 设置中文字体（解决中文显示问题）
plt.rcParams['font.sans-serif'] = ['SimHei']  # Windows系统常用黑体字体
plt.rcParams['axes.unicode_minus'] = False    # 正常显示负号
data = pd.read_csv('data.csv')    #读取数据

# 先筛选字符串变量 
discrete_features = data.select_dtypes(include=['object']).columns.tolist()
# Home Ownership 标签编码
home_ownership_mapping = {
    'Own Home': 1,
    'Rent': 2,
    'Have Mortgage': 3,
    'Home Mortgage': 4
}
data['Home Ownership'] = data['Home Ownership'].map(home_ownership_mapping)

# Years in current job 标签编码
years_in_job_mapping = {
    '< 1 year': 1,
    '1 year': 2,
    '2 years': 3,
    '3 years': 4,
    '4 years': 5,
    '5 years': 6,
    '6 years': 7,
    '7 years': 8,
    '8 years': 9,
    '9 years': 10,
    '10+ years': 11
}
data['Years in current job'] = data['Years in current job'].map(years_in_job_mapping)

# Purpose 独热编码，记得需要将bool类型转换为数值
data = pd.get_dummies(data, columns=['Purpose'])
data2 = pd.read_csv("data.csv") # 重新读取数据，用来做列名对比
list_final = [] # 新建一个空列表，用于存放独热编码后新增的特征名
for i in data.columns:
    if i not in data2.columns:
       list_final.append(i) # 这里打印出来的就是独热编码后的特征名
for i in list_final:
    data[i] = data[i].astype(int) # 这里的i就是独热编码后的特征名



# Term 0 - 1 映射
term_mapping = {
    'Short Term': 0,
    'Long Term': 1
}
data['Term'] = data['Term'].map(term_mapping)
data.rename(columns={'Term': 'Long Term'}, inplace=True) # 重命名列
continuous_features = data.select_dtypes(include=['int64', 'float64']).columns.tolist()  #把筛选出来的列名转换成列表
 
 # 连续特征用中位数补全
for feature in continuous_features:     
    mode_value = data[feature].mode()[0]            #获取该列的众数。
    data[feature].fillna(mode_value, inplace=True)          #用众数填充该列的缺失值，inplace=True表示直接在原数据上修改。

# 最开始也说了 很多调参函数自带交叉验证，甚至是必选的参数，你如果想要不交叉反而实现起来会麻烦很多
# 所以这里我们还是只划分一次数据集
from sklearn.model_selection import train_test_split
X = data.drop(['Credit Default'], axis=1)  # 特征，axis=1表示按列删除
y = data['Credit Default'] # 标签
# 按照8:2划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)  # 80%训练集，20%测试集


from sklearn.ensemble import RandomForestClassifier #随机森林分类器

from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score # 用于评估分类器性能的指标
from sklearn.metrics import classification_report, confusion_matrix #用于生成分类报告和混淆矩阵
import warnings #用于忽略警告信息
warnings.filterwarnings("ignore") # 忽略所有警告信息
# --- 1. 默认参数的随机森林 ---
# 评估基准模型，这里确实不需要验证集
print("--- 1. 默认参数随机森林 (训练集 -> 测试集) ---")
import time # 这里介绍一个新的库，time库，主要用于时间相关的操作，因为调参需要很长时间，记录下会帮助后人知道大概的时长
start_time = time.time() # 记录开始时间
rf_model = RandomForestClassifier(random_state=42)
rf_model.fit(X_train, y_train) # 在训练集上训练
rf_pred = rf_model.predict(X_test) # 在测试集上预测
end_time = time.time() # 记录结束时间

print(f"训练与预测耗时: {end_time - start_time:.4f} 秒")
print("\n默认随机森林 在测试集上的分类报告：")
print(classification_report(y_test, rf_pred))
print("默认随机森林 在测试集上的混淆矩阵：")
print(confusion_matrix(y_test, rf_pred))

--- 1. 默认参数随机森林 (训练集 -> 测试集) ---
训练与预测耗时: 0.9480 秒

默认随机森林 在测试集上的分类报告：
              precision    recall  f1-score   support

           0       0.77      0.97      0.86      1059
           1       0.79      0.30      0.43       441

    accuracy                           0.77      1500
   macro avg       0.78      0.63      0.64      1500
weighted avg       0.77      0.77      0.73      1500

默认随机森林 在测试集上的混淆矩阵：
[[1023   36]
 [ 309  132]]

今天介绍下遗传算法，在你以后的论文写作中可以水一节，胆子大的人才可以水一章

这些算法仅作为你的了解，不需要开始学习，如果以后需要在论文中用到，在针对性的了解下处理逻辑。

下面介绍这几种常见的优化算法

1. 遗传算法
2. 粒子群优化
3. 模拟退火

核心思想：

1. 这些启发式算法都是优化器。你的目标是找到一组超参数，让你的机器学习模型在某个指标（比如验证集准确率）上表现最好。
2. 这个过程就像在一个复杂的地形（参数空间）上寻找最高峰（最佳性能）。
3. 启发式算法就是一群聪明的“探险家”，它们用不同的策略（模仿自然、物理现象等）来寻找这个最高峰，而不需要知道地形每一处的精确梯度（导数）。

遗传算法

遗传算法 (Genetic Algorithm - GA)

• 灵感来源： 生物进化，达尔文的“适者生存”。
• 简单理解： 把不同的超参数组合想象成一群“个体”。表现好的个体（高验证分）更有机会“繁殖”（它们的参数组合会被借鉴和混合），并可能发生“变异”（参数随机小改动），产生下一代。表现差的个体逐渐被淘汰。一代代下去，种群整体就会越来越适应环境（找到更好的超参数）。
• 应用感觉： 像是在大范围“撒网”搜索，通过优胜劣汰和随机变动逐步逼近最优解。适合参数空间很大、很复杂的情况。

# pip install deap -i https://pypi.tuna.tsinghua.edu.cn/simple

from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score
from sklearn.metrics import classification_report, confusion_matrix
import warnings
warnings.filterwarnings("ignore")
import time
from deap import base, creator, tools, algorithms # DEAP是一个用于遗传算法和进化计算的Python库
import random
import numpy as np



# --- 2. 遗传算法优化随机森林 ---
print("\n--- 2. 遗传算法优化随机森林 (训练集 -> 测试集) ---")

# 定义适应度函数和个体类型
creator.create("FitnessMax", base.Fitness, weights=(1.0,))
creator.create("Individual", list, fitness=creator.FitnessMax)

# 定义超参数范围
n_estimators_range = (50, 200)
max_depth_range = (10, 30)
min_samples_split_range = (2, 10)
min_samples_leaf_range = (1, 4)

# 初始化工具盒
toolbox = base.Toolbox()

# 定义基因生成器
toolbox.register("attr_n_estimators", random.randint, *n_estimators_range)
toolbox.register("attr_max_depth", random.randint, *max_depth_range)
toolbox.register("attr_min_samples_split", random.randint, *min_samples_split_range)
toolbox.register("attr_min_samples_leaf", random.randint, *min_samples_leaf_range)

# 定义个体生成器
toolbox.register("individual", tools.initCycle, creator.Individual,
                 (toolbox.attr_n_estimators, toolbox.attr_max_depth,
                  toolbox.attr_min_samples_split, toolbox.attr_min_samples_leaf), n=1)

# 定义种群生成器
toolbox.register("population", tools.initRepeat, list, toolbox.individual)

# 定义评估函数
def evaluate(individual):
    n_estimators, max_depth, min_samples_split, min_samples_leaf = individual
    model = RandomForestClassifier(n_estimators=n_estimators,
                                   max_depth=max_depth,
                                   min_samples_split=min_samples_split,
                                   min_samples_leaf=min_samples_leaf,
                                   random_state=42)
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    accuracy = accuracy_score(y_test, y_pred)
    return accuracy,

# 注册评估函数
toolbox.register("evaluate", evaluate)

# 注册遗传操作
toolbox.register("mate", tools.cxTwoPoint)
toolbox.register("mutate", tools.mutUniformInt, low=[n_estimators_range[0], max_depth_range[0],
                                                     min_samples_split_range[0], min_samples_leaf_range[0]],
                 up=[n_estimators_range[1], max_depth_range[1],
                     min_samples_split_range[1], min_samples_leaf_range[1]], indpb=0.1)
toolbox.register("select", tools.selTournament, tournsize=3)

# 初始化种群
pop = toolbox.population(n=20)

# 遗传算法参数
NGEN = 10
CXPB = 0.5
MUTPB = 0.2

start_time = time.time()
# 运行遗传算法
for gen in range(NGEN):
    offspring = algorithms.varAnd(pop, toolbox, cxpb=CXPB, mutpb=MUTPB)
    fits = toolbox.map(toolbox.evaluate, offspring)
    for fit, ind in zip(fits, offspring):
        ind.fitness.values = fit
    pop = toolbox.select(offspring, k=len(pop))

end_time = time.time()

# 找到最优个体
best_ind = tools.selBest(pop, k=1)[0]
best_n_estimators, best_max_depth, best_min_samples_split, best_min_samples_leaf = best_ind

print(f"遗传算法优化耗时: {end_time - start_time:.4f} 秒")
print("最佳参数: ", {
    'n_estimators': best_n_estimators,
    'max_depth': best_max_depth,
    'min_samples_split': best_min_samples_split,
    'min_samples_leaf': best_min_samples_leaf
})

# 使用最佳参数的模型进行预测
best_model = RandomForestClassifier(n_estimators=best_n_estimators,
                                    max_depth=best_max_depth,
                                    min_samples_split=best_min_samples_split,
                                    min_samples_leaf=best_min_samples_leaf,
                                    random_state=42)
best_model.fit(X_train, y_train)
best_pred = best_model.predict(X_test)

print("\n遗传算法优化后的随机森林 在测试集上的分类报告：")
print(classification_report(y_test, best_pred))
print("遗传算法优化后的随机森林 在测试集上的混淆矩阵：")
print(confusion_matrix(y_test, best_pred))

--- 2. 遗传算法优化随机森林 (训练集 -> 测试集) ---
遗传算法优化耗时: 251.5941 秒
最佳参数:  {'n_estimators': 158, 'max_depth': 25, 'min_samples_split': 10, 'min_samples_leaf': 1}

遗传算法优化后的随机森林 在测试集上的分类报告：
              precision    recall  f1-score   support

           0       0.77      0.98      0.86      1059
           1       0.83      0.28      0.42       441

    accuracy                           0.77      1500
   macro avg       0.80      0.63      0.64      1500
weighted avg       0.79      0.77      0.73      1500

遗传算法优化后的随机森林 在测试集上的混淆矩阵：
[[1034   25]
 [ 316  125]]

上述代码看上去非常复杂，而且不具备复用性

也就是说，即使你搞懂了这段代码，对你的提升也微乎其微，因为你无法对他进行改进（他永远是别人的东西），而且就算背熟悉了他，也对你学习其他的方法没什么帮助，即使你学完遗传算法学粒子群，也没有帮助。

AI时代的工具很大的好处，就是找到了一个记忆工具来帮助我们记住这个方法需要的步骤，然后我们只需要调用这个工具，就可以完成这个任务。

1. 关注输入和输出的格式和数据
2. 关注方法的前生今世和各自的优势---优缺点和应用场景
3. 关注模型本身的实现逻辑（如果用的时候很少，可跳过，借助ai实现）

粒子群方法

粒子群优化 (Particle Swarm Optimization - PSO)

• 灵感来源： 鸟群或鱼群觅食。
• 简单理解： 把每个超参数组合想象成一个“粒子”（鸟）。每个粒子在参数空间中“飞行”。它会记住自己飞过的最好位置，也会参考整个“鸟群”发现的最好位置，结合这两者来调整自己的飞行方向和速度，同时带点随机性。
• 应用感觉： 像是一群探险家，既有自己的探索记忆，也会互相交流信息（全局最佳位置），集体协作寻找目标。通常收敛比遗传算法快一些。

粒子群方法的思想比较简单，所以甚至可以不调库自己实现。

# --- 2. 粒子群优化算法优化随机森林 ---
print("\n--- 2. 粒子群优化算法优化随机森林 (训练集 -> 测试集) ---")


# 定义适应度函数，本质就是构建了一个函数实现 参数--> 评估指标的映射
def fitness_function(params): 
    n_estimators, max_depth, min_samples_split, min_samples_leaf = params # 序列解包，允许你将一个可迭代对象（如列表、元组、字符串等）中的元素依次赋值给多个变量。
    model = RandomForestClassifier(n_estimators=int(n_estimators),
                                   max_depth=int(max_depth),
                                   min_samples_split=int(min_samples_split),
                                   min_samples_leaf=int(min_samples_leaf),
                                   random_state=42)
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    accuracy = accuracy_score(y_test, y_pred)
    return accuracy


# 粒子群优化算法实现
def pso(num_particles, num_iterations, c1, c2, w, bounds): # 粒子群优化算法核心函数
    # num_particles：粒子的数量，即算法中用于搜索最优解的个体数量。
    # num_iterations：迭代次数，算法运行的最大循环次数。
    # c1：认知学习因子，用于控制粒子向自身历史最佳位置移动的程度。
    # c2：社会学习因子，用于控制粒子向全局最佳位置移动的程度。
    # w：惯性权重，控制粒子的惯性，影响粒子在搜索空间中的移动速度和方向。
    # bounds：超参数的取值范围，是一个包含多个元组的列表，每个元组表示一个超参数的最小值和最大值。

    num_params = len(bounds) 
    particles = np.array([[random.uniform(bounds[i][0], bounds[i][1]) for i in range(num_params)] for _ in
                          range(num_particles)])
    velocities = np.array([[0] * num_params for _ in range(num_particles)])
    personal_best = particles.copy()
    personal_best_fitness = np.array([fitness_function(p) for p in particles])
    global_best_index = np.argmax(personal_best_fitness)
    global_best = personal_best[global_best_index]
    global_best_fitness = personal_best_fitness[global_best_index]

    for _ in range(num_iterations):
        r1 = np.array([[random.random() for _ in range(num_params)] for _ in range(num_particles)])
        r2 = np.array([[random.random() for _ in range(num_params)] for _ in range(num_particles)])

        velocities = w * velocities + c1 * r1 * (personal_best - particles) + c2 * r2 * (
                global_best - particles)
        particles = particles + velocities

        for i in range(num_particles):
            for j in range(num_params):
                if particles[i][j] < bounds[j][0]:
                    particles[i][j] = bounds[j][0]
                elif particles[i][j] > bounds[j][1]:
                    particles[i][j] = bounds[j][1]

        fitness_values = np.array([fitness_function(p) for p in particles])
        improved_indices = fitness_values > personal_best_fitness
        personal_best[improved_indices] = particles[improved_indices]
        personal_best_fitness[improved_indices] = fitness_values[improved_indices]

        current_best_index = np.argmax(personal_best_fitness)
        if personal_best_fitness[current_best_index] > global_best_fitness:
            global_best = personal_best[current_best_index]
            global_best_fitness = personal_best_fitness[current_best_index]

    return global_best, global_best_fitness


# 超参数范围
bounds = [(50, 200), (10, 30), (2, 10), (1, 4)]  # n_estimators, max_depth, min_samples_split, min_samples_leaf

# 粒子群优化算法参数
num_particles = 20
num_iterations = 10
c1 = 1.5
c2 = 1.5
w = 0.5

start_time = time.time()
best_params, best_fitness = pso(num_particles, num_iterations, c1, c2, w, bounds)
end_time = time.time()

print(f"粒子群优化算法优化耗时: {end_time - start_time:.4f} 秒")
print("最佳参数: ", {
    'n_estimators': int(best_params[0]),
   'max_depth': int(best_params[1]),
   'min_samples_split': int(best_params[2]),
   'min_samples_leaf': int(best_params[3])
})

# 使用最佳参数的模型进行预测
best_model = RandomForestClassifier(n_estimators=int(best_params[0]),
                                    max_depth=int(best_params[1]),
                                    min_samples_split=int(best_params[2]),
                                    min_samples_leaf=int(best_params[3]),
                                    random_state=42)
best_model.fit(X_train, y_train)
best_pred = best_model.predict(X_test)

print("\n粒子群优化算法优化后的随机森林 在测试集上的分类报告：")
print(classification_report(y_test, best_pred))
print("粒子群优化算法优化后的随机森林 在测试集上的混淆矩阵：")
print(confusion_matrix(y_test, best_pred))

--- 2. 粒子群优化算法优化随机森林 (训练集 -> 测试集) ---
粒子群优化算法优化耗时: 374.1755 秒
最佳参数:  {'n_estimators': 200, 'max_depth': 18, 'min_samples_split': 4, 'min_samples_leaf': 1}

粒子群优化算法优化后的随机森林 在测试集上的分类报告：
              precision    recall  f1-score   support

           0       0.77      0.98      0.86      1059
           1       0.83      0.29      0.43       441

    accuracy                           0.77      1500
   macro avg       0.80      0.63      0.64      1500
weighted avg       0.79      0.77      0.73      1500

粒子群优化算法优化后的随机森林 在测试集上的混淆矩阵：
[[1034   25]
 [ 315  126]]

退火算法

模拟退火 (Simulated Annealing - SA)

• 灵感来源： 金属冶炼中的退火过程（缓慢冷却使金属达到最低能量稳定态）。
• 简单理解： 从一个随机的超参数组合开始。随机尝试改变一点参数。如果新组合更好，就接受它。如果新组合更差，也有一定概率接受它（尤其是在“高温”/搜索早期）。这个接受坏解的概率会随着时间（“降温”）慢慢变小。
• 应用感觉： 像一个有点“冲动”的探险家，初期愿意尝试一些看起来不太好的路径（为了跳出局部最优的小山谷），后期则越来越“保守”，专注于在当前找到的好区域附近精细搜索。擅长避免陷入局部最优。

# --- 2. 模拟退火算法优化随机森林 ---
print("\n--- 2. 模拟退火算法优化随机森林 (训练集 -> 测试集) ---")


# 定义适应度函数
def fitness_function(params): 
    n_estimators, max_depth, min_samples_split, min_samples_leaf = params
    model = RandomForestClassifier(n_estimators=int(n_estimators),
                                   max_depth=int(max_depth),
                                   min_samples_split=int(min_samples_split),
                                   min_samples_leaf=int(min_samples_leaf),
                                   random_state=42)
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    accuracy = accuracy_score(y_test, y_pred)
    return accuracy


# 模拟退火算法实现
def simulated_annealing(initial_solution, bounds, initial_temp, final_temp, alpha):
    current_solution = initial_solution
    current_fitness = fitness_function(current_solution)
    best_solution = current_solution
    best_fitness = current_fitness
    temp = initial_temp

    while temp > final_temp:
        # 生成邻域解
        neighbor_solution = []
        for i in range(len(current_solution)):
            new_val = current_solution[i] + random.uniform(-1, 1) * (bounds[i][1] - bounds[i][0]) * 0.1
            new_val = max(bounds[i][0], min(bounds[i][1], new_val))
            neighbor_solution.append(new_val)

        neighbor_fitness = fitness_function(neighbor_solution)
        delta_fitness = neighbor_fitness - current_fitness

        if delta_fitness > 0 or random.random() < np.exp(delta_fitness / temp):
            current_solution = neighbor_solution
            current_fitness = neighbor_fitness

        if current_fitness > best_fitness:
            best_solution = current_solution
            best_fitness = current_fitness

        temp *= alpha

    return best_solution, best_fitness


# 超参数范围
bounds = [(50, 200), (10, 30), (2, 10), (1, 4)]  # n_estimators, max_depth, min_samples_split, min_samples_leaf

# 模拟退火算法参数
initial_temp = 100 # 初始温度
final_temp = 0.1 # 终止温度
alpha = 0.95 # 温度衰减系数

# 初始化初始解
initial_solution = [random.uniform(bounds[i][0], bounds[i][1]) for i in range(len(bounds))]

start_time = time.time()
best_params, best_fitness = simulated_annealing(initial_solution, bounds, initial_temp, final_temp, alpha)
end_time = time.time()

print(f"模拟退火算法优化耗时: {end_time - start_time:.4f} 秒")
print("最佳参数: ", {
    'n_estimators': int(best_params[0]),
    'max_depth': int(best_params[1]),
    'min_samples_split': int(best_params[2]),
    'min_samples_leaf': int(best_params[3])
})

# 使用最佳参数的模型进行预测
best_model = RandomForestClassifier(n_estimators=int(best_params[0]),
                                    max_depth=int(best_params[1]),
                                    min_samples_split=int(best_params[2]),
                                    min_samples_leaf=int(best_params[3]),
                                    random_state=42)
best_model.fit(X_train, y_train)
best_pred = best_model.predict(X_test)

print("\n模拟退火算法优化后的随机森林 在测试集上的分类报告：")
print(classification_report(y_test, best_pred))
print("模拟退火算法优化后的随机森林 在测试集上的混淆矩阵：")
print(confusion_matrix(y_test, best_pred))

--- 2. 模拟退火算法优化随机森林 (训练集 -> 测试集) ---
模拟退火算法优化耗时: 129.1660 秒
最佳参数:  {'n_estimators': 98, 'max_depth': 16, 'min_samples_split': 7, 'min_samples_leaf': 2}

模拟退火算法优化后的随机森林 在测试集上的分类报告：
              precision    recall  f1-score   support

           0       0.77      0.98      0.86      1059
           1       0.86      0.29      0.43       441

    accuracy                           0.78      1500
   macro avg       0.82      0.63      0.65      1500
weighted avg       0.80      0.78      0.73      1500

模拟退火算法优化后的随机森林 在测试集上的混淆矩阵：
[[1039   20]
 [ 315  126]]

用最直白的方式理解三种算法

1. 遗传算法 - 像养宠物进化

# 想象你在养电子宠物，让它们越来越聪明
# 步骤1：生一堆随机宠物（初始种群）
宠物们 = [随机生成20个宠物()]

for 代 in range(10):  # 养10代
    # 步骤2：考试，聪明的给高分
    成绩单 = [考试(宠物) for 宠物 in 宠物们]
    
    # 步骤3：选学霸繁殖（选择）
    学霸们 = 选前几名(宠物们, 成绩单)
    
    # 步骤4：学霸们生孩子（交叉）
    孩子们 = []
    for i in range(0, len(学霸们), 2):
        爸爸 = 学霸们[i]
        妈妈 = 学霸们[i+1] 
        孩子1 = (爸爸 + 妈妈) / 2  # 各取一半基因
        孩子2 = (爸爸 + 妈妈) / 2
        孩子们.extend([孩子1, 孩子2])
    
    # 步骤5：有些孩子会突变（变异）
    for 孩子 in 孩子们:
        if 随机数() < 0.3:  # 30%概率
            孩子 += 随机小变化  # 基因突变
    
    宠物们 = 孩子们  # 新一代诞生

2. 粒子群算法 - 像一群人找宝藏

# 想象一群人在山里找宝藏
# 步骤1：大家随机站在不同位置
人们的位置 = [随机20个位置()]
人们的速度 = [0,0,0...]  # 刚开始都不动

# 每个人记住自己找到的最好位置
个人最佳位置 = 人们的位置.copy()
# 全队找到的最好位置
全队最佳位置 = 找最好的位置(个人最佳位置)

for 轮数 in range(10):  # 找10轮
    for i in range(20):  # 每个人
        # 步骤2：决定往哪走
        新速度 = (0.5 * 当前速度 +           # 惯性：保持原来方向
                1.5 * 随机数() * (个人最佳位置[i] - 当前位置) +  # 想去自己找到的好地方
                1.5 * 随机数() * (全队最佳位置 - 当前位置))   # 也想去大家找到的好地方
        
        # 步骤3：移动
        新位置 = 当前位置 + 新速度
        
        # 步骤4：如果找到更好的位置就更新记忆
        if 新位置比旧位置好:
            个人最佳位置[i] = 新位置
            if 新位置比全队位置好:
                全队最佳位置 = 新位置

3. 模拟退火 - 像醉汉找路回家

# 想象一个醉汉在找回家的路
当前位置 = 随机位置()
当前温度 = 100  # 开始很"热"，乱走

while 温度 > 0.1:  # 慢慢"清醒"
    # 随便往旁边走一步
    新位置 = 当前位置 + 随机小移动
    
    if 新位置比当前位置好:
        # 新位置更好，就过去
        当前位置 = 新位置
    else:
        # 新位置更差，但喝醉了可能也会过去
        概率 = 计算概率(温度, 差多少)
        if 随机数() < 概率:  # 按概率决定
            当前位置 = 新位置
    
    # 慢慢醒酒（降温）
    温度 = 温度 * 0.95

应用到调参的完整代码（超详细注释版）

1. 遗传算法调参

# --- 遗传算法调参（养电子宠物版）---
print("开始用遗传算法调参...")

# 第一步：准备养宠物的规则
import random
from deap import base, creator, tools

# 创建宠物类型：每个宠物有4个基因（4个参数）
creator.create("宠物类型", list, 智商=基因素质)  # 智商就是适应度
creator.create("基因素质", base.Fitness, weights=(1.0,))  # 1.0表示智商越高越好

# 定义每个基因的取值范围
基因范围 = {
    '树的数量': (50, 200),      # 森林里树的棵数
    '树的最大深度': (10, 30),   # 树能长多高  
    '分裂条件': (2, 10),        # 几个样本才能分裂
    '叶子条件': (1, 4)          # 几个样本才能当叶子
}

# 创建宠物工厂
宠物工厂 = base.Toolbox()

# 注册基因生成器
宠物工厂.register("生成树数量", random.randint, 50, 200)
宠物工厂.register("生成树深度", random.randint, 10, 30) 
宠物工厂.register("生成分裂条件", random.randint, 2, 10)
宠物工厂.register("生成叶子条件", random.randint, 1, 4)

# 注册宠物生成器（把4个基因组合成一个宠物）
宠物工厂.register("生成宠物", tools.initCycle, creator.宠物类型,
                 (宠物工厂.生成树数量, 宠物工厂.生成树深度,
                  宠物工厂.生成分裂条件, 宠物工厂.生成叶子条件), n=1)

# 注册种群生成器（生成一群宠物）
宠物工厂.register("生成种群", tools.initRepeat, list, 宠物工厂.生成宠物)

# 第二步：定义考试规则（怎么评价宠物智商）
def 考试函数(宠物):
    # 解包宠物的4个基因
    树数量, 树深度, 分裂条件, 叶子条件 = 宠物
    
    # 用这些参数创建随机森林模型
    模型 = RandomForestClassifier(
        n_estimators=树数量,      # 树的数量
        max_depth=树深度,         # 树的最大深度  
        min_samples_split=分裂条件, # 分裂所需最小样本
        min_samples_leaf=叶子条件, # 叶子最小样本
        random_state=42
    )
    
    # 训练模型
    模型.fit(X_train, y_train)
    # 预测测试集
    预测结果 = 模型.predict(X_test)
    # 计算准确率作为智商分数
    准确率 = accuracy_score(y_test, 预测结果)
    return 准确率,  # 返回元组

# 注册考试函数
宠物工厂.register("考试", 考试函数)

# 第三步：定义繁殖规则
宠物工厂.register("交配", tools.cxTwoPoint)        # 两点交叉
宠物工厂.register("变异", tools.mutUniformInt,     # 均匀变异
                 low=[50, 10, 2, 1],              # 各基因最小值
                 up=[200, 30, 10, 4],             # 各基因最大值  
                 indpb=0.1)                       # 每个基因10%概率变异
宠物工厂.register("选择", tools.selTournament, tournsize=3)  #  tournament选择

# 第四步：开始养宠物
print("第一代：生成20个随机宠物...")
宠物种群 = 宠物工厂.生成种群(n=20)  # 生成20个随机宠物

# 养10代宠物
for 代 in range(10):
    print(f"正在培养第{代+1}代宠物...")
    
    # 繁殖：交配+变异
    后代 = algorithms.varAnd(宠物种群, 宠物工厂, cxpb=0.5, mutpb=0.2)
    
    # 考试：评估后代智商
    成绩单 = 宠物工厂.map(宠物工厂.考试, 后代)
    for 成绩, 宠物 in zip(成绩单, 后代):
        宠物.智商.values = 成绩
    
    # 选择：选聪明的继续繁殖
    宠物种群 = 宠物工厂.选择(后代, k=len(宠物种群))

# 找到最聪明的宠物
最聪明宠物 = tools.selBest(宠物种群, k=1)[0]
树数量, 树深度, 分裂条件, 叶子条件 = 最聪明宠物

print(f"🎉 找到最聪明宠物！参数：")
print(f"   树的数量: {树数量}")
print(f"   树的最大深度: {树深度}")
print(f"   分裂条件: {分裂条件}") 
print(f"   叶子条件: {叶子条件}")

2. 粒子群调参

# --- 粒子群调参（寻宝队版）---
print("开始用粒子群调参...")
import numpy as np

# 第一步：定义宝藏好坏标准（适应度函数）
def 宝藏质量(位置):
    """
    判断这个位置埋的宝藏好不好
    位置 = [树数量, 树深度, 分裂条件, 叶子条件]
    """
    树数量, 树深度, 分裂条件, 叶子条件 = 位置
    
    # 用这些参数建森林
    模型 = RandomForestClassifier(
        n_estimators=int(树数量),
        max_depth=int(树深度), 
        min_samples_split=int(分裂条件),
        min_samples_leaf=int(叶子条件),
        random_state=42
    )
    
    模型.fit(X_train, y_train)
    预测结果 = 模型.predict(X_test)
    准确率 = accuracy_score(y_test, 预测结果)
    return 准确率  # 准确率越高，宝藏越好

# 第二步：组织寻宝队
宝藏地图范围 = [(50, 200), (10, 30), (2, 10), (1, 4)]  # 4个参数的搜索范围

# 寻宝队配置
队员数量 = 20      # 20个队员
搜索轮数 = 10      # 搜索10轮  
自信程度 = 1.5     # 相信自己的程度（认知系数）
团队精神 = 1.5     # 相信队友的程度（社会系数）  
惯性 = 0.5         # 保持原方向的惯性

# 初始化队员位置（随机站在地图不同位置）
队员们的位置 = np.array([[random.uniform(宝藏地图范围[i][0], 宝藏地图范围[i][1]) 
                         for i in range(4)] for _ in range(队员数量)])

# 初始化队员速度（开始都站着不动）
队员们的速度 = np.array([[0] * 4 for _ in range(队员数量)])

# 每个队员记住自己找到的最好位置
个人最佳位置 = 队员们的位置.copy()

# 计算每个队员的初始成绩
个人最佳成绩 = np.array([宝藏质量(位置) for 位置 in 队员们的位置])

# 找出全队找到的最好位置
全队最佳位置索引 = np.argmax(个人最佳成绩)
全队最佳位置 = 个人最佳位置[全队最佳位置索引]
全队最佳成绩 = 个人最佳成绩[全队最佳位置索引]

print(f"寻宝开始！当前最好成绩: {全队最佳成绩:.4f}")

# 第三步：开始寻宝
for 轮数 in range(搜索轮数):
    print(f"第{轮数+1}轮寻宝中...")
    
    # 每个队员决定怎么移动
    for i in range(队员数量):
        # 生成随机因素（模拟队员的犹豫）
        随机因素1 = np.array([random.random() for _ in range(4)])
        随机因素2 = np.array([random.random() for _ in range(4)])
        
        # 计算新速度（决定往哪走，走多快）
        新速度 = (惯性 * 队员们的速度[i] + 
                自信程度 * 随机因素1 * (个人最佳位置[i] - 队员们的位置[i]) +
                团队精神 * 随机因素2 * (全队最佳位置 - 队员们的位置[i]))
        
        # 移动位置
        队员们的位置[i] += 新速度
        
        # 确保不走出地图边界
        for j in range(4):
            if 队员们的位置[i][j] < 宝藏地图范围[j][0]:
                队员们的位置[i][j] = 宝藏地图范围[j][0]
            elif 队员们的位置[i][j] > 宝藏地图范围[j][1]:
                队员们的位置[i][j] = 宝藏地图范围[j][1]
    
    # 评估新位置的好坏
    新成绩单 = np.array([宝藏质量(位置) for 位置 in 队员们的位置])
    
    # 更新个人最佳记录
    进步队员 = 新成绩单 > 个人最佳成绩
    个人最佳位置[进步队员] = 队员们的位置[进步队员]
    个人最佳成绩[进步队员] = 新成绩单[进步队员]
    
    # 更新全队最佳记录
    当前最佳队员 = np.argmax(个人最佳成绩)
    if 个人最佳成绩[当前最佳队员] > 全队最佳成绩:
        全队最佳位置 = 个人最佳位置[当前最佳队员]
        全队最佳成绩 = 个人最佳成绩[当前最佳队员]
        print(f"  发现新宝藏！成绩: {全队最佳成绩:.4f}")

# 输出最终结果
print(f"🎉 寻宝结束！最佳参数：")
print(f"   树的数量: {int(全队最佳位置[0])}")
print(f"   树的最大深度: {int(全队最佳位置[1])}")
print(f"   分裂条件: {int(全队最佳位置[2])}")
print(f"   叶子条件: {int(全队最佳位置[3])}")
print(f"   最佳准确率: {全队最佳成绩:.4f}")

3. 模拟退火调参

# --- 模拟退火调参（醉汉找路版）---
print("开始用模拟退火调参...")
import math

# 第一步：定义位置好坏标准（同粒子群）
def 位置好坏(位置):
    树数量, 树深度, 分裂条件, 叶子条件 = 位置
    模型 = RandomForestClassifier(
        n_estimators=int(树数量),
        max_depth=int(树深度),
        min_samples_split=int(分裂条件), 
        min_samples_leaf=int(叶子条件),
        random_state=42
    )
    模型.fit(X_train, y_train)
    预测结果 = 模型.predict(X_test)
    准确率 = accuracy_score(y_test, 预测结果)
    return 准确率

# 第二步：醉汉开始找路
参数范围 = [(50, 200), (10, 30), (2, 10), (1, 4)]

# 醉汉状态
当前位置 = [random.uniform(参数范围[i][0], 参数范围[i][1]) for i in range(4)]
当前分数 = 位置好坏(当前位置)
最佳位置 = 当前位置
最佳分数 = 当前分数

# 醉酒程度控制
醉酒程度 = 100     # 开始很醉，会乱走
清醒程度 = 0.1      # 目标清醒程度
醒酒速度 = 0.95     # 每步醒酒5%

print(f"醉汉开始找路，当前位置分数: {当前分数:.4f}")
步数 = 0

# 第三步：醉汉走路过程
while 醉酒程度 > 清醒程度:
    步数 += 1
    
    # 随机往旁边走一小步
    新位置 = []
    for i in range(4):
        随机移动 = random.uniform(-1, 1) * (参数范围[i][1] - 参数范围[i][0]) * 0.1
        新坐标 = 当前位置[i] + 随机移动
        # 确保不走出边界
        新坐标 = max(参数范围[i][0], min(参数范围[i][1], 新坐标))
        新位置.append(新坐标)
    
    # 评估新位置
    新分数 = 位置好坏(新位置)
    分数变化 = 新分数 - 当前分数
    
    # 决定是否走到新位置
    if 分数变化 > 0:
        # 新位置更好，肯定过去
        当前位置 = 新位置
        当前分数 = 新分数
        移动原因 = "找到更好位置"
    else:
        # 新位置更差，但喝醉了可能也会过去
        接受概率 = math.exp(分数变化 / 醉酒程度)  # 越醉越可能接受差位置
        if random.random() < 接受概率:
            当前位置 = 新位置
            当前分数 = 新分数
            移动原因 = "喝醉了乱走"
        else:
            移动原因 = "拒绝差位置"
    
    # 更新最佳记录
    if 当前分数 > 最佳分数:
        最佳位置 = 当前位置
        最佳分数 = 当前分数
        备注 = "🎉 刷新纪录！"
    else:
        备注 = ""
    
    # 每20步报告一次
    if 步数 % 20 == 0:
        print(f"第{步数}步: 醉酒程度{醉酒程度:.2f}, 分数{当前分数:.4f}, {移动原因} {备注}")
    
    # 慢慢醒酒
    醉酒程度 *= 醒酒速度

# 输出最终结果  
print(f"🚶 醉汉清醒了！走了{步数}步")
print(f"🎉 找到最佳参数：")
print(f"   树的数量: {int(最佳位置[0])}")
print(f"   树的最大深度: {int(最佳位置[1])}")
print(f"   分裂条件: {int(最佳位置[2])}")
print(f"   叶子条件: {int(最佳位置[3])}")
print(f"   最佳准确率: {最佳分数:.4f}")