一种融合梯度信息的粒子群优化算法_刘清.pdf
《一种融合梯度信息的粒子群优化算法_刘清.pdf》由会员分享,可在线阅读,更多相关《一种融合梯度信息的粒子群优化算法_刘清.pdf(5页珍藏版)》请在咨信网上搜索。
1、第 卷 第期佳 木 斯 大 学 学 报(自 然 科 学 版)年 月 ()文章编号:()一种融合梯度信息的粒子群优化算法刘清,许汪俊彤,刘正余,(皖西学院电子与信息工程学院,安徽 六安 ;安徽理工大学数学与大数据学院,安徽 淮南 )摘要:针对粒子群优化算法()存在盲目搜索、收敛速度慢的问题,提出一种融合梯度信息的改进粒子群优化算法,简记为 ()。利用目标函数的梯度信息指导粒子朝着适应值更低的方向搜索,可有效避免粒子的盲目搜索行为。首先,在线性权重粒子群算法的进化公式中嵌入目标函数的梯度信息,有效提升了改进方法的收敛精度;其次,随机选择一半的粒子使用含有梯度信息的速度进化公式以降低算法的计算量,在
2、标准测试函数上的仿真实验结果表明,算法在收敛速度与收敛精度方面,均优于基本 算法,线性权重衰减 算法,正太分布权重 算法等传统方法。关键词:机器学习;粒子群;梯库搜索中图分类号:文献标识码:引言粒子群优化算法(,)是 在 年提出的一种模拟鸟群觅食行为的群智能搜索算法。由于参数设置简单且对目标函数的要求较低,能够处理非凸、不可微函数的极值问题,算法一经提出就受到诸多领域的广泛关注。现有研究表明,算法具有较强的全局搜索能力,对多峰、多极值函数具有一定的处理能力。算法始终保持种群多样性,这就意味着粒子群体很难聚集且局部搜索能力不强,进而导致该算法的收敛速度较慢、收敛精度不高。为了进一步提高 算法的性
3、能,在 年提出了一种线性衰减惯性权重的粒子群算法(,)。在 算法中,粒子群体在算法初期具有较大的惯性系数,因此具有较强的探索新的搜索空间的能力;而在算法后期,粒子速度的惯性系数逐渐变小,这就使得整个粒子群体发生聚集,并提升了算法的局部搜索能力。算法在具有较好的收敛速度和收敛精度。然而,算法的粒子群却易出现“早熟”现象。近年来,许多学者提出了多种基于非线性权重的改进粒子群优化算法 。这些改进的粒子群优化算法在一定程度上平衡了算法的全局搜索能力和局部搜索能力。然而,这类基于惯性权重调节的粒子群优化算法都存在一个共同的不足:粒子搜索具有一定的盲目性 。主要原因是,粒子不能获取并充分利用目标函数的梯度
4、信息,并以此来指导粒子的搜索行为。实际上,整个粒子群体在算法的迭代过程中,某些粒子个体可能不止一次进入全局最优解所在的波谷区域,只是因为不能沿着梯度下降方向继续搜索全 局 最 优 解,而 错 失 良 机。王 俊 伟 等 于 年提出基于梯度加速的粒子群优化算法。梁昔明 于 年提出一种基于共轭梯度的粒子群优化算法。这两种方法让粒子按线性递减权重粒子群()的速度进化公式先迭代一次,收稿日期:基金项目:国家 自 然 科 学 基 金();安 徽 省 自 然 科 学 基 金();皖 西 学 院 高 层 次 人 才 科 研 启 动 基 金();横向课题:水下高速航行试验场地与技术服务(西北工业大学,);横向
5、课题:高压空气和燃气兼容驱动气体炮设计与加工();皖西学院国家级大学生创新创业训练项目:基于多目摄像头下的多特征人脸识别智能门禁系统()。作者简介:刘清(),男,安徽六安人,助教,博士,研究方向:最优化方法、群智能优化方法的理论与算法。通讯作者:刘正余(),男,安徽六安人,副教授,硕士,研究方向:最优化方法等方向的理论与算法研究。第期刘清,等:一种融合梯度信息的粒子群优化算法然后再让粒子沿着梯度或者共轭梯度方向搜索一次。这两种方法的迭代次数较少且收敛精度较高;然而由于计算梯度信息较为耗时,它们的速度明显慢于传统非梯度粒子群优化方法。区别于上述直接使用梯度下降方向的粒子群优化算法,提出一种融合梯
6、度信息的粒子群优化算法,称之为 。算法在 的速度进化公式中添加梯度下降方向,引导粒子逐渐趋近最优极值区域。为了提升算法的实际执行速度,算法在每次迭代中,随机选择一半粒子按照含有梯度信息的速度进化公式进行迭代,剩余粒子则仍然按照 算法的公式进行迭代。实验结果表明,改进的 算法具有较好的收敛速度和收敛精度。相关工作粒子群优化算法()算法将每个粒子位置看作搜索空间内的一个可行解,对应于该可行解的目标函数值即是粒子的适应值。假设粒子总数为(是正整数),搜索空间的维度为(是正整数)。在每次迭代过程中,每个粒子按照如下公式更新其速度和位置信息:()()()()式()中,是粒子的速度,是粒子的位置;是粒子经
7、历的历史最优位置;是粒子群已搜索到的全局最优位置;和是平衡社会经验和个体经验的的权重系数;和是,区间的伪随机数;,。算法能够始终保持较好的全局搜索能力,而局部搜索能力却不强,粒子群体很难发生聚集。线性衰减权重的粒子群优化算法 在 年提出了一种线性递减权重 算法,简记为 ,其速度更新公式为式(),():()()()()()式(),()中,是粒子的速度惯性系数,且。是权值的最大值,是的最小值。是当前迭代的步数,是粒子群算法总的迭代次数。在 中,粒子在算法前期能够保持较大的飞行速度,并因此具有较强的全局搜索能力。随着迭代次数的增加,惯性权重则逐渐减小,进而粒子会逐渐聚集在某个较小的邻域内。算法通过调
8、整惯性权重使得粒子发生聚集来提升算法的收敛精度。这就使得 算法在寻优过程中,必然存在较多的盲目搜索与重复搜索问题。融合梯度信息的改进 ()作为随机搜索算法的 和 ,在寻优过程中不可避免的会出现一定程度的盲目搜索行为。假设 是对应于某目标函数的全局最优解;是粒子群已搜索到的全局最优位置。在 算法中,粒子的盲目搜索行为如图所示。图 算法的盲目搜索示例根据公式()可知,图中的粒子将受到的吸引而逐渐趋近并远离真正的全局最优解 。实际上,当前粒子只需要沿着目标函数的负梯度方向即可找到全局最优解。当然,在处理复杂函数的时候,严格按照负梯度方向搜索,可能会只找到局部极优点或者驻点。因此,在充分利用目标函数的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 一种 融合 梯度 信息 粒子 优化 算法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。