小脑模型神经网络.pptx

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,2019/3/27,#,小脑模型神经网络,（,CMAC,）,PART 01,PART,02,PART,03,PART,04,CMAC,网络的基本思想,CMAC,网,络的结构模,型与工作原理,仿真,示例,总结,目录,01,CMAC,网络的基本思,想,肌肉、四肢、关节、皮肤,感受,信息,反馈信息,记忆,存储器,控制信号,驱动,联想,有差异,调整,1975,，,J.S.Albus,小脑模型神经网络,（,CMAC-Cerebellar Model Articulation Controller,）,局部逼近神经网络：网络输入空间的某个局部区域只有少数几个连接权影响网络输出,02,CMAC,网络,的结,构模,型与工,作原理,输入,空间,U,由,所有可能的,输入向量,Ui,组成,虚拟联想空间,Ac,是一个虚拟的空间，不占用物理存储，,CMAC,网络将,其接受,到的,任何输入,映射到联想存储器,Ac,中,的,c,个,单元。物理存储空间,Ap,中存储着网络的权值参数，,Ac,中的,c,个单元在物理存储空间,Ap,中找到对应的权值参数，做求和得到最终的网络输出。,重点：两个映射,第一次映射：,U,-Ac,第二次映射：,Ac-Ap,02,CMAC,网络,的结,构模,型与工,作原理,从输入空间,U,至虚拟存储器,AC,的映射,n,维输入向量：,量化（离散化）：,映射至,AC,的,c,个存储单元：,映射,映射法则可以根据实际情况选取，只需要满足一下规则即可。,输入,空间邻近两点（一点为一,个,n,维,输入,向量,），在,Ac,中有,b,个,重叠,单元被激励。距离越近，重叠越多；距离远的点，在,Ac,中,不重叠,02,CMAC,网络,的结,构模,型与工,作原理,量化,一般来说,，实际应用时输入向量的各分量来自不同的传感器，其值多为模拟量，,而,Ac,中,每个元素只取,0,或,1,两种值。为,使,输入,空间,的点,映射到虚拟联想空间,Ac,的,离散点，必须先将模拟,量,U,量化,，使其成为,输入空间,的离散点,。,量化等级,设输入向量,U,在量化的过程中，每一个分量可被量化成,个等级，则,分量可组合为,个输入状态。每一种状态对应于,Ac,中的,c,个存储单元，相邻输入在,Ac,中有,b,个单元重复，故,Ac,中存储单元的总数为,。,02,CMAC,网络,的结,构模,型与工,作原理,例,.,量化等级,100,，输入有,分量，每一状态对应,Ac,中,的,6,个存储单元，,相邻输入在,Ac,中,有,5,个,单元,重复，,Ac,与,Ap,一一对应,。实际物理存储空间,Ap,有,6,。但实际的学习问题并不会包括所有的学习空间的状态。,哈希映射,哈希映射是,压缩,稀疏矩阵的一个常用技术。当在一个大的存储区域稀疏地存储一些数据,时，可以通过哈希映射将其压缩到小的存储位置,例：,除,留余数法：,y,f(x),x,k,(k,决定了压缩率,),02,CMAC,网络,的结,构模,型与工,作原理,实际映射,AcAp,这个,过程最简单的实现方法就是线性一一映射。,输出：,其中,代入,可得：,？,02,CMAC,网络,的结,构模,型与工,作原理,权值调整,给定输入,/,输出样本对：,权,值调整指标：,误差平均分配：,02,CMAC,网络,的结,构模,型与工,作原理,权值调整,经过数次,迭代后，最初的存储单元已经包含了一些先前学习的,知识。每,一个,存储单元学习的历史不同，,所以这些存储单元也不应有相同的可信度。无视这些差异，所有被激活的存储单元都获得相同的校正误差，那么那些由未学习状态产生的误差将对先前学习的信息产生,“腐蚀”。,基于信度分配的,CMAC,（,CA-CMAC,）,神经网络,是第,个存储单元的学习次数，,是某状态激活的存储单元,数,。,03,仿真实例,用,CMAC,逼近,sin,函数,采用一维输入一维输出结构的,CMAC,逼近,sin,采用,c=6,，邻近两点重叠单元,b=5,采用线性化函数实现,U-Ac,的虚拟映射,s(k)=round(u(k)-xmin,)/(,xmax-xmin,),*M,),采用一一映射的方式实现,Ac-Ap,的实际映射,输入训练样本：,train_in=0:36:324,共,10,个样本,03,仿真实例,量化等级：,40,训练样本个数：,10,学习,率：,1,03,仿真实例,03,仿真实例,03,仿真实例,03,仿真实例,03,仿真实例,03,仿真实例,04,总结,网络非线性：,CMAC,的每个神经元的输入输出是一种线性关系，但其总体上可看做一种表达非线性映射的表格,系统。,学习速度快：,每,次修正的权值少，在保证函数非线性逼近性能的前提下，学习速度快，适合于实时控,制,；,局部,泛,化能,力,：,相近输入产生相近输出，不同输入给出不同输出，避免了,BP,网络的局部最优问,题,；,谢谢,