有导师学习神经网络分类识别.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,有导师学习神经网络分类识别,有导师学习神经网络分类识别有导师学习神经网络分类识别1.基础理论1.GRNN的结构,GRNN由输入层、隐含层和输出层组成。,输入层：将样本送入隐含层，不参与运算；,隐含层:神经元个数等于训练集样本数，权值为欧式距离；传递函数为径向基函数；,输出层：线性输出层，其权函数为规范化点积权函数。,1.,基础理论,1.GRNN,的结构,GRNN,由输入层、隐含层和输出层组成。,输入层：将样本送入隐含层，不参与运算；,隐含层,:,神经元个数等于训练集样本数，权值为欧式距离；传递函数为径向基函数；,输出层：线性输出层，其权函数为规范化点积权函数。,GRNN,的学习算法,（,1,）确定隐含层神经元径向基函数中心,R,为输入变量的维数，,S,为输出变量的维数；,Q,为训练集样本数,（,2,）确定隐含层神经元阈值,其中，,spread,为径向基函数的扩展速度。,（,3,）确定隐含层与输出层间权值和阈值,（,4,）输出层神经元输出计算,GRNN,网络函数命令,net=newgrnn,（,P,T,spread,）,sim_grnn=sim,（,net,，,p_test,）,2,、概率神经网络概述（,PNN,）,与,GRNN,类似，由输入层、隐含层和输出层组成。与,GRNN,不同的是，,PNN,的输出层采用竞争输出代替线性输出，各神经元只依据,Parzen,方法来求和估计各类的概率，从而竞争输入模式的响应机会，最后仅有一个神经元竞争获胜，获胜的神经元即表示对输入模式的分类。,隐含层空间维数,-,网络逼近精度,-,网络复杂度,PNN,的学习算法,（,1,）确定隐含层神经元径向基函数中心,R,为输入变量的维数，,S,为输出变量的维数；,Q,为训练集样本数,（,2,）确定隐含层神经元阈值,其中，,spread,为径向基函数的扩展速度。,（,3,）确定隐含层与输出层间权值和阈值,（,4,）输出层神经元输出计算,PNN,网络函数命令,net=newpnn,（,P,T,spread,）,sim_grnn=sim,（,net,，,p_test,）,实 例,植物的分类与识别是植物学研究和农林业生产经营中的重要基础工作，对于区分植物种类，探索植物间的亲缘关系、阐明植物系统的进化规律具有重要意义。目前常用的植物种类鉴别方法是利用分类检索表进行鉴定，但该方法花费时间较长，需要投入大量的财力物力。,叶片是植物的重要组成部分，叶子的外轮廓是其主要形态特征。在提取叶子形态特征的基础上，利用计算机进行辅助分类与识别成为当前的主要研究方向和研究热点。,采集到,150,组不同类型鸢尾花的,4,种属性，萼片长度、萼片宽度、花瓣长度和花瓣宽度，样本编号与,4,种属性的关系如图所示，其中,1-50,为,Setosa,51-100,为,Versicolour,，,101-150,为,Virginica,。从图中大致可以看出，花瓣长度、花瓣宽度与鸢尾花类型间有较好的线性关系，而萼片长度、萼片宽度与鸢尾花类型间呈现出非线性的关系,。,(1),利用,GRNN,和,PNN,分别建立鸢尾花种类识别模型，并对模型性能进行评价；,(2),利用,GRNN,和,PNN,分别建立各个属性集属性组合与鸢尾花种类间的识别模型，比较模型的性能及运算时间。,解题思路与步骤,产生训练集,/,测试集,创建,GRNN,创建,PNN,仿真测试,性能评价,性能评价：计算测试集预测类别与真实类别间的误差，可以对模型的泛化能力进行评价。,无导师学习神经网络的分类,矿井突水水源判别,概 念,无导师学习神经网络在学习过程中无需知道期望的输出。其与真实人脑中的神经网络类似，可以通过不断的观察、分析与比较，自动揭示样本中的内在规律与本质，从而可以对具有近似特征（属性）的样本进行准确地分类和识别。,包括两种网络：,竞争神经网络和自组织特征映射神经网络,竞争网络,由输入层和竞争层组成，输入层只负责数据的传递，竞争层的各个神经元以相互竞争的形式来赢得对输入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有利于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变。,仅仅有输入信息，无需输出信息,竞争神经网络函数命令,net=newc,（,PR,S,KLR,CLR,）,sim_compet=sim,（,net,，,p_test,）,PR,为输入变量的最小及最大值构成的矩阵；,S,为竞争层神经元个数；,KLR,为权值的学习速率（默认为,0.01,）；,CLR,为阈值的学习速率（默认为,0.001,）；,net,为创建好的竞争网络。,SOFM,神经网络,由输入层和自组织特征映射层（竞争层）组成，,CNN,的竞争层的各个神经元以相互竞争的形式来赢得对输入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有利于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变；而,SOFM,的邻近范围内的权值和阈值都进行调整，很大程度改善了网络的学习和泛化能力。,竞争神经网络函数命令,net=newsom,（,P,D1,D2,TFCN,DFCN,STEPS,IN,）,sim_sofm=sim,（,net,，,p_test,）,P,为网络输入向量，,Di,为网络第,i,层的维数（默认为,5 8,）；,TFCN,为网络的拓扑函数（默认为“,hextop,”）；,DFCN,为网络的距离函数（默认为“,linkdist,”）；,STEPS,为邻近距离递减到,1,的步数（默认为,100,）；,IN,为初始的邻近距离（默认为,3,）；,net,为创建好的竞争网络。,谢谢观赏！,2020/11/5,19,