基于高低阈值的脉冲神经元抗噪学习算法.pdf
《基于高低阈值的脉冲神经元抗噪学习算法.pdf》由会员分享,可在线阅读,更多相关《基于高低阈值的脉冲神经元抗噪学习算法.pdf(8页珍藏版)》请在咨信网上搜索。
1、 基于高低阈值的脉冲神经元抗噪学习算法*杨 静1,徐 彦2,姜 赢1(1.北京师范大学人文和社会科学高等研究院,广东 珠海 5 1 9 0 8 7;2.南京农业大学信息科技学院,江苏 南京 2 0 1 1 9 5)摘 要:脉冲神经元的动态阈值学习算法在训练神经元的过程中通过改变阈值的大小,可以有效提高神经元的抗噪能力。然而,动态阈值的使用又会降低神经元的学习精度,且在与基于梯度下降的学习算法结合使用时容易导致神经元沉默。基于此,提出了一种改进的基于梯度下降的高低阈值抗噪算法,使用高低阈值来避免神经元的学习精度损失,并在神经元沉默时使用虚拟激发脉冲来继续学习过程,同时使用动态的学习速率来降低高低
2、阈值对学习周期的影响程度。实验结果表明,该算法可以显著提高神经元的抗噪能力,并且能够保证学习精度和收敛速度,适用于基于梯度下降的脉冲神经元学习算法。关键词:脉冲神经元;高低阈值;梯度下降;抗噪能力中图分类号:T P 3 9 1.4 1文献标志码:Ad o i:1 0.3 9 6 9/j.i s s n.1 0 0 7-1 3 0 X.2 0 2 3.0 8.0 1 7A S p i k i n g N e u r o n s n o i s e-r e s i s t a n t l e a r n i n g a l g o r i t h m w i t h h i g h a n d l
3、 o w t h r e s h o l d s YANG J i n g1,XU Y a n2,J I ANG Y i n g1(1.I n s t i t u t e o f A d v a n c e d S t u d i e s i n H u m a n i t i e s a n d S o c i a l S c i e n c e s,B e i j i n g N o r m a l U n i v e r s i t y,Z h u h a i 5 1 9 0 8 7;2.C o l l e g e o f I n f o r m a t i o n S c i e n
4、c e a n d T e c h n o l o g y,N a n j i n g A g r i c u l t u r a l U n i v e r s i t y,N a n j i n g 2 0 1 1 9 5,C h i n a)A b s t r a c t:T h e d y n a m i c t h r e s h o l d l e a r n i n g a l g o r i t h m o f S p i k i n g n e u r o n s c a n c h a n g e t h e s i z e o f t h e t h r e s h o
5、l d d u r i n g t h e t r a i n i n g p r o c e s s,w h i c h c a n e f f e c t i v e l y i m p r o v e t h e n o i s e r e s i s t a n c e o f n e u r o n s.H o w e v e r,t h e u s e o f d y n a m i c t h r e s h o l d s c a n r e d u c e t h e l e a r n i n g a c c u r a c y o f n e u r o n s a n
6、d e a s i l y c a u s e n e u r o n s i l e n c e w h e n c o m b i n i n g w i t h t h e g r a d i e n t-b a s e d l e a r n i n g a l g o r i t h m.T o a d d r e s s t h i s i s s u e,a n i m p r o v e d g r a d i e n t-b a s e d n o i s e-r e s i s t a n t l e a r n i n g a l g o r i t h m w i t
7、h h i g h a n d l o w t h r e s h o l d s i s p r o p o s e d.T h i s a l g o r i t h m u s e s h i g h a n d l o w t h r e s h o l d s t o a v o i d l o s s o f l e a r n i n g a c c u r a c y a n d u s e s v i r t u a l e x c i t a t i o n p u l s e s t o c o n t i n u e t h e l e a r n i n g p r
8、o c e s s w h e n n e u r o n s a r e s i l e n t.A t t h e s a m e t i m e,a d y n a m i c l e a r n i n g r a t e i s u s e d t o r e d u c e t h e i m p a c t o f h i g h a n d l o w t h r e s h o l d s o n t h e l e a r n i n g c y c l e.T h e e x p e r i m e n t a l r e-s u l t s s h o w t h a
9、t t h i s a l g o r i t h m c a n s i g n i f i c a n t l y i m p r o v e t h e n o i s e r e s i s t a n c e o f n e u r o n s w h i l e e n s u r i n g l e a r n i n g a c c u r a c y a n d c o n v e r g e n c e s p e e d.I t i s w e l l s u i t e d f o r t h e p u l s e n e u r o n l e a r n i n
10、g a l g o r i t h m b a s e d o n g r a d i e n t d e s c e n t.K e y w o r d s:s p i k i n g n e u r o n;h i g h a n d l o w t h r e s h o l d s;g r a d i e n t d e s c e n t;a n t i-n o i s e c a p a b i l i t y1 引言越来越多的研究表明人类大脑的不同区域中都存在着基于时间编码的电脉冲序列1。脉冲神经网络通过离散的脉冲信号来表示和传输信息,相比传统的人工神经网络,更加接近真实的人脑活
11、动,具有更强的计算能力2,3。脉冲神经网络的有*收稿日期:2 0 2 1-1 0-2 8;修回日期:2 0 2 2-0 4-0 8基金项目:国家自然科学基金(3 1 8 7 2 8 4 7)通信地址:5 1 9 0 8 7 广东省珠海市金凤路1 8号北京师范大学珠海分校管理学院A d d r e s s:S c h o o l o f M a n a g e m e n t,B e i j i n g N o r m a l U n i v e r s i t y,1 8 J i n f e n g R o a d,Z h u h a i 5 1 9 0 8 7,G u a n g d o n
12、 g,P.R.C h i n a C N 4 3-1 2 5 8/T PI S S N 1 0 0 7-1 3 0 X 计算机工程与科学C o m p u t e r E n g i n e e r i n g&S c i e n c e第4 5卷第8期2 0 2 3年8月 V o l.4 5,N o.8,A u g.2 0 2 3 文章编号:1 0 0 7-1 3 0 X(2 0 2 3)0 8-1 4 8 2-0 8监督学习是通过样本学习使之能够在精确的时间点上激发出特定的目标脉冲序列。已有的有监督学习算法大致可以分为2类:脉冲驱动型和膜电位驱动型。第1类算法通过对比实际脉冲激发和目标脉冲
13、激发来调整权值。例如,基于梯度下降的多层前馈脉冲神经网络多脉冲有监督学习M S G D B(M u l t i-S p i k e l e a r n i n g m e t h o d f o r S p i k i n g n e u r o n s B a s e d o n G r a d i e n t D e s c e n t)算法4,将实际激发脉冲和目标脉冲的误差平方和作为误差函数,并通过梯度下降来调整权值。类似地,L i n等人5首先利用非负对称核函数对脉冲时刻进行转换,再通过脉冲序列的内积来构建误差函数。R e S u M e6,7虽然也是根据激发脉冲来调整权值,但该算法依
14、据的是S T D P(S p i k e T i m i n g D e p e n d e n t P l a s t i c i t y)规则:在目标激发点时刻加强权值,在实际激发点时刻减弱权值。P S D(P r e c i s e S p i k e D r i v e n)8采用了一种不同的窗口函数,但同样基于S T D P规则进行权值调整。第2类算法 是根据神 经 元S N(S p i k i n g N e u r o n)的膜电位大小来调整权值。例如,P B S N L R(P e r c e p t r o n B a s e d S p i k i n g N e u r
15、o n L e a r n i n g R u l e)9和HT P(H i g h T h r e s h o l d P r o j e c t i o n)1 0都是根据膜电位在不同时刻的大小利用感知机规则来调整权值。文献1 1 给出了一种基于膜电位的梯度下降学习算法,在目标激发时刻和非目标激发时刻基于膜电位和阈值的差异来构造不同的误差函数。脉冲神经网络的无监督学习算法1 2大多是基于H e b b i a n规则提出的,并常常被用于解决图像识别1 3 1 5和语音识别1 6等领域中的问题。虽然脉冲神经网络本身具有非常强大的时序信号处理能力,但在实际应用中往往只能解决一些比较简单的问题。
16、主要原因之一是实际应用环境中存在各种噪音,神经元在运行过程中其时间准确性和可靠性都会受到明显的干扰。许多研究人员在神经元学习过程中加入噪音,以提高神经元对环境噪音的抗干扰能力8,但这种形式的抗噪方法在遇到未学习过的噪音或较大的噪音时抗噪效果并不好。文献1 7 给出了一种动态阈值学习算法,该算法在学习过程中采用不同的阈值,但动态阈值又会造成学习精度的损失。基于动态阈值学习算法的固有缺陷,本文提出了一种基于高低阈值的脉冲神经元梯度下降抗噪学习算法。该算法采用一种高、低阈值相结合的方法,同时引入虚拟脉冲来解决动态阈值可能导致的神经元沉默问题,采用动态学习速率来减少抗噪学习算法导致的学习周期的增加。这
17、种算法的主要优点是可以在保证学习精度且不大幅增加学习周期的前提下实现脉冲神经元的抗噪学习过程,为脉冲神经网络的实际应用提供了一种有效的解决方案。2 动态阈值学习算法2.1 神经元模型及动态阈值本文选用S RM(S p i k e R e s p o n s e M o d e l)神经元模型作为研究对象。L I F(L e a k y I n t e g r a t e a n d F i r e)模型和HH(H o d g k i n H u x l e y)模型均可通过求解微分方程的方法转换成类似S RM模型的形式。S RM神经元的膜电位值在运行过程中会随着输入脉冲的累积作用逐渐增加,直到
18、超过阈值,神经元会在该时刻激发出一个脉冲,并且膜电位立即降为0,随后神经元在不应期函数(t)的作用下进入一个相对不容易再次激发脉冲的时期。图1显示了一个S RM神经元的运行过程片段,分别在2 5 m s,3 8 m s,4 6 m s和5 6 m s处各激发出一个脉冲。F i g u r e 1 R u n n i n g p r o c e s s o f a n S N i n S RM m o d e l图1 S RM神经元脉冲激发示意图S RM神经元在t时刻的膜电位由式(1)计算得出:u(t)=Ni=1t(g)iGit(g)it(f r)+Rawi(t-t(g)i)+(t-t(f r)
19、(1)(t)=te1-t,t00,t0 (2)(t)=-2e tR,t00,t0(3)其中,t(g)i表示第i个突触的第g个有效输入脉冲时刻;t(f r)表示最近一次的脉冲激发时刻;N表示神经元输入突触个数;Gi表示第i个突触到达神经元的脉冲时刻集合;wi表示第i个突触的权值;Ra表示绝对不应期长度;()表示反应函数,表示反应函数的延迟常数;()为相对不应期函3841杨 静等:基于高低阈值的脉冲神经元抗噪学习算法数,主要作用是抑制神经元在激发后的膜电位,使其不能连续激发;表示神经元的激发阈值;R表示不应期函数的延迟常数。动态阈值学习算法的主要思想是在训练神经元的过程中使用动态阈值。在神经元激发
20、时刻附近使用较高的阈值,使得神经元的膜电位需远大于原始阈值才能引起脉冲激发;而在远离激发时刻时使用低阈值,使得膜电位需要远低于原始阈值,以避免引起额外激发。算法将神经元的运行时间划分为2个部分:在目标激发点附近的时间to和不在目标激发点附近的时间tn o,如式(4)所示:to=t|ttkd-,tkd+tn o=t|ttkd-,tkd+(4)其中,tkd表示第k个目标激发点,是决定动态阈值使用区间长度的参数。动态阈值由式(5)计算得出:=+n+-+(t-tkd)2,tto-m+,ttn o(5)其中,参数m+和n+分别决定了低阈值和最高阈值的大小,参数+决定了高阈值区间中阈值的变化情况。具体的阈
21、值变化过程如图2所示。图2中的虚线表示原始阈值,实线表示可变阈值,t1d和t2d分别表示神经元的第1个和第2个目标激发时刻。可以看出,在目标激发点附近的动态阈值会随时间逐渐增大到最高阈值,然后又逐渐减小到低于原始阈值。F i g u r e 2 I l l u s t r a t i o n o f d y n a m i c t h r e s h o l d c h a n g i n g图2 动态阈值变化示意图2.2 动态阈值学习算法缺陷使用动态阈值训练神经元可以使得神经元的膜电位在非激发区域远低于阈值,而在激发区域远高于阈值,有效地提高了神经元的抗噪能力。然而,由于神经元在训练时采用的
22、动态阈值和实际运行时神经元的激发阈值是不同的,使用这种形式的动态阈值可能会带来神经元学习精度的损失,并导致出现假学习成功的情况。图3显示了一个假学习成功的例子,其中神经元的目标激发时刻为1 6 2 m s处。在训练过程中,神经元在目标激发时刻附近的膜电位会不断被调整以接近动态阈值。当膜电位在1 6 1 m s处超过原始阈值但小于动态阈值时(动态阈值在激发点附近会大于原始阈值),神经元并不激发而是继续增大权值直到膜电位超过动态阈值,算法在此刻认为神经元学习成功并停止。然而,在原始阈值的作用下,神经元的真实激发是在1 6 1 m s处激发并在1 7 1 m s处激发出一个额外的脉冲,显然出现了假学
23、习成功的情况。F i g u r e 3 A c c u r a c y l o s s c a u s e d b y d y n a m i c t h r e s h o l d l e a r n i n g a l g o r i t h m图3 动态阈值学习算法精度损失示意图另一方面,由于神经元在非激发点采用较低的动态阈值,导致神经元在学习初期非常容易激发出额外的脉冲,实际激发序列相较于目标序列通常会提前且更加密集。如果与基于梯度下降的学习算法结合使用,由于其误差函数由实际输出脉冲与相对应的期望输出脉冲构造而成,经过多次权值调整后,神经元的输入权值将减小,导致激发时间大幅延后甚至沉
24、默。图4显示了神经元经过一个学习周期后沉默而不再激发任何脉冲,学习终止。F i g u r e 4 I l l u s t r a t i o n o f a s i l e n t S N图4 神经元沉默示意图3 基于高低阈值的抗噪算法为了解决上一节中提到的动态阈值学习算法存在的问题,本文提出了一种改进的高低阈值的抗噪算法。算法分别从学习精度、学习周期及神经元沉默3个方面对算法进行改进。3.1 单点高低阈值的设置由于原始动态阈值学习算法在目标激发点的附近时刻采用逐渐增大的动态阈值,导致神经元可能在目标激发点附近的膜电位小于高阈值但大于实际阈值,从而导致学习精度损失。这种动态阈值4841C o
25、 m p u t e r E n g i n e e r i n g&S c i e n c e 计算机工程与科学 2 0 2 3,4 5(8)的设置方式主要是从学习效率的角度出发,目标激发点前的阈值是逐渐上升为高阈值而不是直接跃升为高阈值,从而显著降低学习难度。从解决精度损失问题的角度出发,动态阈值可以设置为单点高低阈值,新的学习阈值只分为高阈值和低阈值2种,由式(6)确定:=+n+,tt1d,t2d,tkd,-m+,tt1d,t2d,tkd,(6)在学习训练的过程中,只有在目标激发点时刻采用高阈值,而其他非激发时刻均采用低阈值。显然,使用这种单点高低阈值可以使得神经元的训练激发和实际激发完
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 高低 阈值 脉冲 神经元 学习 算法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。