基于粒子群优化算法

基于粒子群优化算法

张洪荣

（2012级 机电一体化二班 20127625）

摘要：粒子群优化算法是基于群体智能理论的一种优化算法,通过种群粒子间的合作与竞争产生的群体智能来指导优化搜索。它可用于求解大部分的优化问题，并在工程实践中表现出巨大潜力，现已广泛应用于神经网络、模糊系统控制等多个领域。

本文介绍了粒子群优化算法的基本原理，通过对粒子速度进化方程的分析，研究算法本身的社会行为，并将粒子群的寻优视为一个动态系统的演变，采用线性离散时间系统的分析方法对粒子群优化算法的确定性行为进行分析，导出了简化版本粒子群优化算法的收敛性条件。在分析神经网络的学习方式和泛化能力的基础上，应用 C＋＋语言实现了粒子群优化神经网络的程序。

关键词：粒子群优化算法；群体智能；神经网络

０引言

群体智能(Swarm Intelligence)中的群体(Swarm)是指“一组互相之间可以进行直接通信或间接通信，并且能够合作进行分布问题求解的主体”。而所谓群体智能是指“无智能的主体通过合作表现出智能行为的特性”。这样，群体智能的协作性、分布性、鲁棒性和快速性的特点使之在没有集中控制，并且不提供全局模型的前提下，为寻找复杂的大规模分布式问题的解决方案提供了基础

群体智能的优点可以描述如下：

1)群体中相互合作的个体是分布式的，这样的分布模式更适合于网络环境下的工作状态。

2)系统没有集中的控制指令与数据存储，这样的系统更具有鲁棒性，不会由于某一个或者某几个个体的故障而影响整个问题的求解进程。

3)系统不通过个体之间的直接通信，而通过非直接通信方式进行信息的传输与合作，这样的系统具有更好的可扩充性，由于系统中个体的增加而增加的通信开销也较小。

4)系统中每个个体的能力十分简单，每个个体的执行时间也比较短，并且实现较为方便，具有简单性的特点。

作为群体智能的典型实现，模拟生物蚁群智能寻优能力的蚁群算法和模拟鸟群运动模式的粒子群算法正受到学术界的广泛关注，本论文以粒子群算法为研究重点。

1986 年 Craig Reynolds 提出了 Boid (Bird-oid)模型用以模拟鸟类聚集飞行的行为。在这个模型中，每个个体的行为只和它周围邻近个体的行为有关，每个个体只需遵循以下 3 条规则:

1)避免碰撞(Collision Avoidance): 避免和邻近的个体相碰撞。 2)速度一致(Velocity Matching): 和邻近的个体的平均速度保持一致。 3)向中心聚集(Flock Centering): 向邻近个体的平均位置移动。

粒子群优化算法非常适合于求解连续函数的优化问题，主要应用于神经网络训练，多目标优化应用领域；也有将粒子群优化算法用于解诀一些离散型优化问题的相关研究，例如用于求解 TSP问题，任务分配问题等组合优化问题。

1粒子群优化算法的发展与现状

粒子群优化算法作为一种通过对自然界中生物捕食现象的模拟而提出的群体智能算法，采用基于种群的全局搜索策略和简单的速度—位移模式，避免了复杂的遗传操作。由于它的计算速度快和算法本身的易实现性，引起了国际上众多学者的广泛关注和研究。就其研究内容而言大致可以分为算法的改进、算法的分析及算法的应用。

2基本粒子群优化算法

粒子群优化算法的基本思想是，每个优化问题的潜在解都是搜索空间的粒子，所有的粒子都有一个被优化的函数决定的适应值(Fitness Value)，每个粒子还有一个速度向量决定他们飞翔的方向和距离，然后粒子们就追随当前的最优粒子在解空间中的搜索。粒子群优化算法初始化为一群随机粒子，然后通过迭代找到最优解。在每一次迭代中，粒子通过跟踪两个极值来更新自己，第一个就是粒子本身到当前时刻为止找到的最好解，这个解称为个体最好值，另一个极值就是整个种群到当前时刻找到的最好解，这个值是全局最好值，粒子位置更新示意图如图2．1所示。可见，粒子群优化算法也是基于个体的协作与竞争来完成复杂搜索空间中最优解的搜索，是一种基于群智能方法的演化计算技术。粒子群优化算法同遗传算法类似，是一种基于群体的优化工具。但粒子群优化算法并没有遗传算法用的交叉（Crossover）变异（Mutation）等操作，而是粒于在解空间追随最优的粒子进行搜索，因此，该算法具有简单、容易实现，并且没有许多参数需要调整的优点。

（1）粒子群优化算法流程 PSO 算法流程如图下

初始化粒子群参数：m ，ε ，x ，v，c1,c2,vmax,Tmax 粒子适应度值 粒子位置更新 粒子速度更新 xid优于pid pid?xid xid优于pgd pgd?xid 满 足 收 敛 条 件？ 输出pgd （2）混合粒子群优化算法

借鉴遗传算法的思想，提出了混合粒子群优化算法的概念。混合粒子群优化算法是将本粒子群优化算法和选择机制相结合而得到的，基本粒子群优化算法的搜索过程很大程度上赖个体最优值和全局最优值，它的搜索区域受到个体最好值和全局最好值的限制。在通常的化算法中，选择机制用来选择相对较好的区域和淘汰较差的区域。可以更合理地分配有限的源。混合粒子群优化算法的选择机制与其它进化算法十分相似，如遗传算法。混合粒子群优化法计算每个个体基于当前位置的适应值，并将这些适应值进行排序，然后将群体中一半适应差的个体的当前位置和速度替换为另一半好的个体的当前位置和速度，但保留每个个体的最优位置。因此，群体搜索集中到相对较优的空间，但还受到个体自身以前最优位置的影响。文献进一步提出具有繁殖和子群的混合粒子群优化算法。粒子群中的粒子被赋予一个杂交概率，这个杂交概率是用户确定的，与粒子的适应值无关。在每次迭代中，依据杂交概率选取指定数量的粒子放入一个池中。池中的粒子随机地两两杂交，产生同样数目的孩子粒子，并用孩子粒子代替父母粒子，以保持种群的粒子数目不变。孩子粒子的位置由父母粒子的位置的算术加权和计算。

3粒子群优化算法的应用

当前，粒子群优化算法已得到广泛应用，最直接的应用就是多元函数的优化问题，包括带约束的优化问题。如果所讨论的函数受到严重的噪音干扰而呈现非常不规则的形状，同时所求的不一定是精确的最优值，则粒子群优化算法能得到很好的应用。比如在半导体器件综合方面，需要在给定的搜索空间内根据所希望的器件特性来得到符合要求的设计参数，而所能利用的器件模拟器通常得到的特性空间是高度非线性的。有人用粒子群优化算法替换遗传算法进行了计算，发现粒子群优化算法能比遗传算法更快地找到较高质量的设计参数，还可以有效地优化的人工神经网络，不仅用于优化神经网络的权值，而且包括优化神经网络的结构。

4参 考 文 献

[1] 李建勇. 粒子群优化算法研究,浙江大学,2004.03.01 (4-5)

[2] 刘道. 基于改进粒子群优化算法的PID参数整定研究,南华大学,2012.05.01(3-4) [3] 高鹰,谢胜利. 免疫粒子群优化算法,计算机工程与应用,2004.02.01(5-6)

[4]林玉娥. 粒子群优化算法的改进及其在管道保温设计中的应用,大庆石油学院,2006.03.13(7-8)

[5] 高鹰,谢胜利. 基于模拟退火的粒子群优化算法,计算机工程与应用,2004.01.01(4-5)

[6]徐慧. 粒子群优化算法改进及其在煤层气产能预测中的应用研究,中国矿业大学, 2013.12.01(4-5) [7]唐贤伦. 混沌粒子群优化算法理论及应用研究,重庆大学,2007.04.01(5-6) [8]高海兵. 粒子群优化算法及其若干工程应用研究,华中科技大学,2004.04.01(5-6)

[9]艾景波. 文化粒子群优化算法及其在布局设计中的应用研究,大连理工大学,2005.06.01(8-9) [10]张利彪. 基于粒子群优化算法的研究,吉林大学,2004.04.01(5-6) [11]高芳. 智能粒子群优化算法研究,哈尔滨工业大学,2008.06.01(9-10) [12]张必兰. 改进的粒子群优化算法及应用研究,重庆大学,2007.03.01(5-6)

[13]刘洪波,王秀坤,谭国真,等. 粒子群优化算法的收敛性及其混沌改进算法,控制与决策,2006.06.30(4-5) [14]刘晶晶. 粒子群优化算法的改进与应用,武汉理工大学,2007.10.01(5-6) [15]刘逸. 粒子群优化算法的改进与应用研究,西安电子科技大学,2012.11.01(4-5) [16]李博. 粒子群优化算法及其在神经网络中的应用,大连理工大学,2005.03.10(7-8) [17]刘丽芳. 粒子群算法的改进及应用,太原理工大学,2008.05.01(5-6)

[18]张伟星. 基于粒子群优化算法的动态多目标优化算法的研究及应用,郑州大学,2013.05.01(4-5) [19]高鹰,谢胜利.混沌粒子群优化算法,计算机科学,2004.08.25(5-6)

[20]陈震亦. 粒子群优化算法研究及其在TSP问题中的应用,福州大学,2004.12.01(6-7)

[21]倪庆剑,张志政,王蓁蓁,等.一种基于可变多簇结构的动态概率粒子群优化算法,软件学报,2009.02.15(6-7) [22]薛婷. 粒子群优化算法的研究与改进, 大连海事大学,2008.03.01(5-6)

[23]吕琳. 结合学习策略的粒子群优化算法及应用研究, 西安电子科技大学,2013.02.28(4-5) [24]谢雪勤. 新型粒子群优化算法及其应用研究, 华东理工大学,2014.01.20(8-9) [25]张彤. 粒子群优化算法的研究和改进, 南京理工大学,2006.06.01(7-8)

[26]赵晶. 量子行为粒子群优化算法及其应用中的若干问题研究, 江南大学,2013.06.01(4-5) [27]林蔚天. 改进的粒子群优化算法研究及其若干应用, 华东理工大学,2012.10.10(5-7) [28]刘开丽. 粒子群优化算法的研究与应用, 安徽大学,2013.04.01(8-9)

[29]李宁. 粒子群优化算法的理论分析与应用研究, 华中科技大学,2006.03.01(4-6)

[30]胡旺,Gary G. YEN,张鑫,等. 基于Pareto熵的多目标粒子群优化算法, 软件学报,2014.05.15(8-9)