一、优化问题

优化问题：在满足一定条件下，在众多方案或参数值中寻找最优方案或参数值，以使得某个或多个功能达到最优，或使系统的某些性能指标达到最大值或最小值。

应用领域：信号处理、图像处理、生产调度、任务分配、模式识别、自动控制和机械设计等。

二、人工智能方法

进化算法

进化计算是一种模拟自然界生物进化过程与机制进行问题求解的自组织、自适应的随机搜索技术。它以达尔文进化论的“物竟天择、适者生存”作为算法的进化准则，并结合孟德尔的遗传变异理论，将生物进化过程中的繁殖（Reproduction）、变异（Mutation）、竞争（Competition）、选择（Selection）入到算法的设计中。

三、进化类算法

1、遗传算法

遗传算法（Genetic Algorithm, GA,20世纪60年代，70年代）是模拟生物在自然环境中的遗传和进化过程而形成的自适应全局优化搜索算法。通过模仿自然界生物进化机制而发展起来的随机全局搜索和优化方法。借鉴达尔文的进化论和孟德尔的遗传学说，本质上是一种并行、高效、全局搜索的方法，能在搜索过程中自动获取和积累有关搜索空间的知识，并自适应地控制搜索过程以求得最优解。

2、差分进化算法

差分进化算法（Differential Evolution, DE）于1995年提出，最初的设想是用于解决切比雪夫多项式问题，后发现是解决复杂优化问题的有效技术。差分进化算法是基于种群的全局搜索策略，采用实数编码、变异操作、“一对一”的竞争生存策略，降低了进化计算的复杂性。

3、免疫算法

免疫算法（Immune Algorithm, IA，1973）是模仿生物免疫机制，结合基因的进化机理，人工构造出的一种新型智能搜索算法。具有自适应性、随机性、并行性、全局收敛性、种群多样性等优点。

4、蚁群算法

蚁群算法（20世纪90年代初）是通过模拟自然界中蚂蚁集体寻径行为而提出的一种基于种群的启发式随机搜索算法。其主要思想是：蚂蚁首先按概率完成各自周游；接着记录本次最佳路线；更新相关信息表；循环上述过程，当满足结束条件时输出优化结果。

5、粒子群算法

粒子群算法（Particle Swarm Optimization, PSO, 1995）模拟鸟群觅食过程中的迁徙和群聚行为而提出的基于群体智能的全局随机搜索算法。思想是：将群体中的个体看成是在D维搜索空间中没有质量和个体的粒子，每个粒子以一定的速度在解空间运动，并向自身历史最佳位置pbest和邻域历史最佳位置gbest聚集，实现对候选解的进化。

6、模拟退火算法

模拟退火算法（Simulated Annealing, SA,1953）是基于Monte Carlo（蒙特卡洛）迭代求解策略的随机寻优算法。该算法在所定义的邻域结构中选取相邻解，利用目标函数进行评估；采用概率的变迁指导它的搜索方向。虽然看起来是一种盲目的搜索法，但实际上有着明确的搜索方向。