基于分布熵多样性人工免疫粒子群优化算法

摘要 粒子群优化算法广泛用于解决大量非线性、不可微和多峰值的复杂问题优化，并已广泛应用于科学和工程领域，如函数优化，神经网络训练，模式分类、模糊系统控制等。虽然人们还没有给出粒子群优化算法收敛性的严格数学证明，但在实际应用中被证明是有效的。 生物免疫系统是自然界生物所必备的防御系统，它由具有免疫功能的组织、器官和细胞等组成，可以使生物机体免受病原体的侵害.生物免疫系统的免疫功能是通过淋巴细胞的自我调节作用来实现的。多样性是免疫系统的重要特征之一，免疫学的初步研究表明，通过细胞的分裂和分化作用，体细胞超变异，抗体的可变区与不变区的基因重组等方式，免疫系统可产生大量的不同抗体来抵御各种抗原，从而使免疫抗体库具有丰富的多样性。抗体多样性和免疫记忆是免疫系统的重要特性，在免疫调节中，那些与抗原亲和力大并且浓度较低的抗体会受到促进，而与抗原亲和力小或浓度较高的抗体将会受到抑制，以此保证抗体的多样性； ??? 本文基于粒子群优化算法，根据生物多样性，根据聚类的思想，给出基于分布熵多样性的人工免疫粒子群优化算法，其中主要是基于图像数字的聚类分析，样本数据的采样为本文打下了坚实的基础。 关键词：粒子群；优化算法；生物免疫系统；分布熵；多样性 研究背景及优化算法简介 ?优化问题就是在众多方案中寻找最优方案，即在满足一定的约束条件下，寻找一组参数值，使得某些指标达到最大或最小。优化技术以数学为基础，可用于求解各种工程问题优化解的应用技术。作为一个重要的科学分支，它涉及多种不同学科，其应用涉及系统控制、人工智能、模式识别、生产调度和计算机工程等各个领域，一直受到很多学者的关注，并研究出多种解决优化问题的方法。优化算法是搜索方法，优化算法的研究对于改进算法性能、拓宽算法应用领域、完善算法体系同样具有重要作用。因此，优化理论及算法的研究是具有理论和应用的价值重要课题。 在非线性理论的基础上人们提出了许多经典的优化算法:共扼梯度法、牛顿法、拟牛顿法等。但对于大型问题，需要遍历整个搜索空间，无法在多项式时间内完成搜索。如许多工程优化问题，都是复杂的问题，搜索空间复杂庞大，传统算法远不能满足要求。后来研究者在大自然运行规律中找到许多解决实际问题的方法，称为启发式算法，如遗传算法、模拟退火算法、人工神经网络、禁忌搜索等，及演化算法、蚁群算法、拟人物算法和量子算法等。各种启发式算法都各有特点、互不相同，当结合两种不同的算法时经常会有出乎意料的效果，所以启发式算法之间又有着紧密的联系。 “人工生命”是来研究具有某些生命基本特征的人工系统。人工生命包括两方面的内容： 1、研究如何利用计算技术研究生物现象。 2、研究如何利用生物技术研究计算问题。 现在已经有很多源于生物现象的计算技巧。 例如，人工神经网络是简化的大脑模型；遗传算法是模拟基因进化过程的；群智能(swarm intelligence)模拟系统利用局部信息从而可能产生不可预测的群体行为。 群体智能算法也属于启发式算法，从20实际90年代初，已有模拟自然界生物的群体行为来构造随机优化算法的思想。典型的方法有Dorig提出的蚁群算法和Eberhart与Kennedy提出的微粒群算法。微粒群算法是群体智能优化算法的代表，不仅代表了一类群体进化计算技术，更代表了一种群体搜索机制。故本文主要研究微粒群算法。粒子群优化算法(PSO) 也是起源对简单社会系统的模拟。最初设想是模拟鸟群觅食的过程，但后来发现PSO是一种很好的优化工具。 优化是科学研究、工程技术和经济管理等领域的重要研究课题。粒子群优化算法(简称PSO)是由Kennedy和Eberhart通过对鸟群、鱼群和人类社会某些行为的观察研究，于1995年提出的一种新颖的进化算法。虽然PSO算法发展迅速并取得了可观的研究成果，但其理论基础仍相对薄弱，尤其是算法基本模型中的参数设置和优化问题还缺乏成熟的理论论证和研究。鉴于PSO的发展历史尚短，它在理论基础与应用推广上都还存在一些缺陷，有待解决。本文通过对PSO算法的步骤的归纳、特点的分析，利用matlab仿真，研究了该算法中关键参数因子:惯性权值、加速因子对算法整体性能的影响效果，并提出了参数设置的指导原则。然后介绍PSO算法及该算法的一系列改进，PSO算法与其他智能算法的融合以及基于模拟退火微粒群算法在JSP问题中的应用，为PSO算法的推广与改进提供了思路。 1.2 粒子群算法现状 参考国内关于PSO的文献可知，有关PSO研究的内容可以分为基础研究和应用研究两大类。其中基础研究主要包括PSO的本身机理和严格的数学基础研究、PSO的收敛性、鲁棒性的数学证明等；应用研究不外乎发扬PSO的优点、克服PSO的缺点或不足、扩展PSO的应用范围三大类，主要研究方法是将一些先进技术引入到PSO中设计出一些改进的PSO，或将PSO和其它智能优化算法相结合设计出各种混合优化算法，或将PSO算法引入到离散系统、组合优化系统、非直角坐标描述系统，扩展PSO的应用范围。 PSO算法改进研究的现状 PSO算法的改进研究可以归纳为两方面：一方面的研究是将各种先进理论引入到PSO算法，研究各种改进和PSO算法；另一方面是将PSO算法和其它智能优化算法相结合，研究各种混合优化算法，达到取长补短、改善算法某方面性能的效果。 (1)改进PSO算法的研究 文献[3]建立了PSO算法的惯性权重模型，惯性权重的引入，提高了算法的全局搜索能力；带邻域操作的PSO模型，克服了PSO模型在优化搜索后期随迭代次数增加搜索结果无明显改进的缺点；将拉伸技术用于PSO最小化问题的求解，避免了PSO算法易陷于局部最小值的缺点；用适应度定标的方法对PSO算法进行改进，在算法收敛的前提下能够提高粒子间适应度的差异；在每次迭代中，依据杂交概率选取指定数量的粒子放入一个池中的粒子随机地两两杂交，产生同样数目的孩子粒子，并用孩子粒子代替父母粒子，以保持种群的粒子数目不变；协同PSO算法，其基本思想是用K个相互独立的粒子群分别在D维的目标搜索空问中的不同维度方向上进行搜索。还有大量的文献将混沌技术、神经网络技术、灰色理论、自适应技术等一系列先进理论引入到PSO算法。各种先进理论的引入，极大地提高了PSO的性能。 (2)混合智能优化算法的研究 文献【4】将进化计算中的选择操作引入到PSO算法中，并提出了一种改进的PSO算法 (HPSO)。该算法的主要思想是将每次迭代产生的新的粒子群根据适应函数进行选择，用适应度较高的一半粒子的位置和速度矢量取代适应度较低的一半粒子的相应矢量，而保持后者个体极值不变。该改进算法的优点是提高了PSO算法的收敛速度，同时保证了一定的全局搜索能力；不足之处是算法的收敛速度是以牺牲全局搜索能力为前提的。将进化算法中的交叉操作引入到HPSO模型，提高了粒子间区域搜索的能力。 文献【5】对遗传算法中的变异和PSO相结合进行了研究，其主要思想为：将整个种群分成不同的2个小组，当一个小组的粒子飞向目前的最优解时，另外一个小组向反方向飞行，以避免算法陷入局部最优。也有大量学者对PSO算法和免疫算法、禁忌搜索算法、单纯形法、自适应算法等等一系列智能算法相结合进行了研究，得出了大量的混合算法，本文就不一一列了。这些混合智能优化算法的共同特点是使得各种算法能够和PSO算法优势互补，扬长避短，得到了更好的效果。 总之，改进PSO和混合PSO的研究极大地提高了PSO算法的工程适用能力。