第4章不确定性推理方法(2).ppt

单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,延边大学工学院计算机科学与技术系,延边大学工学院计算机科学与技术系,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,单击此处编辑母版标题样式,*,第,4,章 不确定性推理方法,延边大学工学院计算机科学与技术学科,李永珍,E_mail:lyz2008,人工智能基础,第,4,章 不确定性推理方法,4.1,不确定性推理中的基本问题,4.2,概率方法,4.3,主观,Bayes,方法,4.4,可信度方法,4.5,证据理论,4.6,模糊推理方法,4.4,可信度方法,1975,年,肖特里菲,（,E.H.Shortliffe,）等人在确定性理论（,theory of confirmation,）的基础上，结合概率论等提出的一种不确定性推理方法。,优点：直观、简单，且效果好。,4.4,可信度方法,4.4.1,可信度的概念,4.4.2 C,F,模型,4.4.1,可信度的概念,可信度,：根据经验对一个事物或现象为真的,相信程度,。,可信度带有较大的,主观性,和,经验性,，其准确性难以把握。,C,F,模型,：基于可信度表示的不确定性推理的基本方法。,产生式规则表示,:,：,可信度因子（,certainty factor,），反映前提条件与结论的联系强度。,4.4.2 C,F,模型,1.,知识不确定性的表示,IF,头痛,AND,流涕,THEN,感冒,（,0.7,）,4.4.2 C,F,模型,静态强度,CF,（,H,，,E,）：知识的强度，即当,E,所对应,的,证据为真时对,H,的影响程度,。,动态强度,CF,（,E,）：证据,E,当前的不确定性程度。,2.,证据不确定性的表示,组合证据：多个单一证据的合取,则,组合证据：多个单一证据的析取,则,4.4.2 C,F,模型,3.,组合证据不确定性的算法,E,=,E,1,AND,E,2,AND,AND,E,n,E,=,E,1,OR,E,2,OR,OR,E,n,C,F,模型中的不确定性推理：从不确定的初始证据出发，通过运用相关的不确定性知识，最终推出结论并求出结论的可信度值。结论,H,的可信度由下式计算：,4.4.2 C,F,模型,4.,不确定性的传递算法,设知识,：,4.4.2 C,F,模型,5.,结论不确定性的合成算法,（,1,）分别对每一条知识求出,CF,（,H,）：,IF,THEN,IF,THEN,4.4.2 C,F,模型,（,2,）求出 与 对,H,的综合影响所形成的可信度 ：,5.,结论不确定性的合成算法,4.4.2 C,F,模型,例,4,设有如下一组知识：,已知：,求：,4.4.2 C,F,模型,解：,第一步：对每一条规则求出,CF,（,H,）。,4.4.2 C,F,模型,解：,第一步：对每一条规则求出,CF,（,H,）。,4.4.2 C,F,模型,解：,第一步：对每一条规则求出,CF,（,H,）。,4.4.2 C,F,模型,第二步：根据结论不确定性的合成算法得到：,综合可信度：,第,4,章 不确定性推理方法,4.1,不确定性推理的基本概念,4.2,概率方法,4.3,主观,Bayes,方法,4.4,可信度方法,4.5,证据理论,4.6,模糊推理方法,4.5,证据理论,证据理论,(theory of evidence),：又称,D,S,理论，是,德普斯特,（,A.P.Dempster,）首先提出，,沙佛,（,G.Shafer,）进一步发展起来的一种处理不确定性的理论。,1981,年,巴纳特,（,J.A.Barnett,）把该理论引入专家系统中，同年,卡威,（,J.Garvey,）等人用它实现了不确定性推理。,目前，在证据理论的基础上已经发展了多种不确定性推理模型。,4.5,证据理论,4.5.1,概率分配函数,4.5.2,信任函数,4.5.3,似然函数,4.5.4,信任函数与似然函数的关系,4.5.5,概率分配函数的正交和（证据的组合）,4.5.1,概率分配函数,设,D,是变量,x,所有可能取值的集合，且,D,中的元素是互斥的，在任一时刻,x,都取且只能取,D,中的某一个元素为值，则称,D,为,x,的,样本空间,。,在证据理论中，,D,的任何一个子集,A,都对应于一个关于,x,的命题，称该命题为“,x,的值是在,A,中”。,设,x,：所看到的颜色，,D,=,红，黄，蓝,，,则,A,=,红,：“,x,是红色”；,A,=,红，蓝,：“,x,或者是红色，或者是蓝色”。,4.5.1,概率分配函数,设,D,为样本空间，领域内的命题都用,D,的子集表示，则,概率分配函数,（,basic probability assignment function,）定义如下：,定义,4.1,设函数,M,：（对任何一个属于,D,的子集,A,，命它对应一个数,M,0,，,1,）且满足,则,M,:,上的基本概率分配函数，,M,（,A,）,:,A,的基本概率数。,几点说明：,（,1,）设样本空间,D,有,n,个元素，则,D,中子集的个数为 个,：,D,的所有子集。,（,2,）概率分配函数：把,D,的任意一个子集,A,都映射为,0,，,1,上的一个数,M,（,A,）。,，时，,M,（,A,）：对相应命题,A,的精确信任度。,（,3,）概率分配函数与概率不同。,例如，设,A,=,红,，,M,（,A,）,=0.3,：,命题,“,x,是红色,”,的信任度是,0.3,。,4.5.1,概率分配函数,设,D,=,红，黄，蓝,M,（,红,）,=0.3,，,M,（,黄,）,=0,，,M,（,蓝,）,=0.1,，,M,（,红，黄,）,=0.2,，,M,（,红，蓝,）,=0.2,，,M,（,黄，蓝,）,=0.1,，,M,（,红，黄，蓝,）,=0.1,，,M,（,）,=0,但：,M,（,红,）,+,M,（,黄,）,+,M,（,蓝,）,=0.4,设,D,=,红，黄，蓝,则其子集个数,2,3,8,，具体为：,A,=,红,，,A,=,黄,，,A,=,蓝,，,A,=,红，黄,，,A,=,红，蓝,，,A,=,黄，蓝,，,A,=,红，黄，蓝,，,A,=,定义,4.2,命题的信任函数（,belief function,）,且,：对命题,A,为真的总的信任程度。,4.5.2,信任函数,由信任函数及概率分配函数的定义推出：,设,D,=,红，黄，蓝,M,（,红,）,=0.3,，,M,（,黄,）,=0,，,M,（,红，黄,）,=0.2,，,似然函数,（,plansibility function,）：不可驳斥函数或上限函数。,定义,4.3,似然函数 且,对所有的,4.5.3,似然函数,设,D,=,红，黄，蓝,M,（,红,）,=0.3,，,M,（,黄,）,=0,，,M,（,红，黄,）,=0.2,，,4.5.4,信任函数与似然函数的关系,：对,A,为真的信任程度。,：对,A,为非假的信任程度。,：对,A,信任程度的下限与上限。,因为,所以,所以,定义,4.4,设 和 是两个概率分配函数；则其正交和 ：,其中：,4.5.5,概率分配函数的正交和（证据的组合）,如果 ，则正交和,M,也是一个,概率分配函数,；,如果 ，则不存在正交和,M,，即没有可能存在概率函数，称 与 矛盾。,定义,4.5,设 是,n,个概率分配函数，则其正交和 为,其中：,4.5.5,概率分配函数的正交和,4.5.5,概率分配函数的正交和,设,D,=,黑，白,，且设,则：,4.5.5,概率分配函数的正交和,同理可得,:,组合后得到的概率分配函数,:,4.5.6,基于证据理论的不确定性推理,基于证据理论的不确定性推理的步骤：,（,1,）建立问题的,样本空间,D,。,（,2,）由经验给出，或者由随机性规则和事实的信度度量算基本概率分配函数。,（,3,）计算所关心的,子集的信任函数值、似然函数值,。,（,4,）由信任函数值、似然函数值得出结论。,4.5.6,基于证据理论的不确定性推理,例,5,设有规则：,（,1,）如果,流鼻涕,则,感冒但非过敏性鼻炎（,0.9,）或,过敏性鼻炎但非感冒（,0.1,）。,（,2,）如果,眼发炎,则,感冒但非过敏性鼻炎（,0.8,）或,过敏性鼻炎但非感冒（,0.05,）。,有事实：,（,1,）小王流鼻涕（,0.9,）。,（,2,）小王发眼炎（,0.4,）。,问：小王患的什么病？,取样本空间,：,表示,“,感冒但非过敏性鼻炎,”,，,表示,“,过敏性鼻炎但非感冒,”,，,表示,“,同时得了两种病,”,。,取下面的基本概率分配函数：,4.5.6,基于证据理论的不确定性推理,将两个概率分配函数组合：,4.5.6,基于证据理论的不确定性推理,似然函数：,结论：小王可能是感冒了。,信任函数：,4.5.6,基于证据理论的不确定性推理,第,4,章 不确定性推理方法,4.1,不确定性推理的基本概念,4.2,概率方法,4.3,主观,Bayes,方法,4.4,可信度方法,4.5,证据理论,4.6,模糊推理方法,4.6,模糊推理方法,4.6.1,模糊逻辑的提出与发展,4.6.2,模糊集合,4.6.3,模糊集合的运算,4.6.4,模糊关系与模糊关系的合成,4.6.5,模糊推理,4.6.6,模糊决策,4.6.1,模糊逻辑的提出与发展,1965,年，美国,查德,(,L.A.Zadeh),发表了“,fuzzy set”,的论文，首先提出了模糊理论。,从,1965,年到,20,世纪,80,年代，在美国、欧洲、中国和日本，只有少数科学家研究模糊理论。,1974,年，英国,Mamdani,首次将模糊理论应用于,热电厂的蒸汽机控制,。,1976,年，,Mamdani,又将模糊理论应用于,水泥旋转炉的控制,。,4.6.1,模糊逻辑的提出与发展,4.6.1,模糊逻辑的提出与发展,1983,年日本,Fuji Electric,公司实现了,饮水处理装置的模糊控制,。,1987,年日本,Hitachi,公司研制出,地铁的模糊控制系统,。,1987,年,1990,年在日本申报的,模糊产品专利就达,319,种,。,目前，各种模糊产品充满日本、西欧和美国市场，如模糊洗衣机、模糊吸尘器、模糊电冰箱和模糊摄像机等。,4.6.2,模糊集合,1.,模糊集合的定义,论域,：所讨论的全体对象，用,U,等表示。,元素,：论域中的每个对象，常用,a,b,c,x,y,z,表示。,集合,：论域中具有某种相同属性的确定的、可以彼此区别的元素的全体，常用,A,，,B,等表示。,元素,a,和集合,A,的关系：,a,属于,A,或,a,不属于,A,，即只有两个真值“真”和“假”。,模糊逻辑给集合中每一个元素赋予一个介于,0,和,1,之间的实数，描述其属于一个集合的强度，该实数称为元素属于一个集合的,隶属度,。集合中所有元素的隶属度全体构成集合的,隶属函数,。,43,例如，,“,成年人,”,集合：,4.6.2,模糊集合,1.,模糊集合的,定义,“,成年人,”,隶属度函数图,“,成年人,”,特征函数图,0,0,当论域中元素数目有限时，模糊集合 的数学描述为,：元素 属于模糊集 的隶属度，是元素,的论域。,4.6.2,模糊集合,2,模糊集合的表示方法,4.6.2,模糊集合,2,模糊集合的表示方法,（,1,）,Zadeh,表示法,（,1,）论域是离散且元素数目有限,:,或,（,2,）论域是连续的，或者元素数目无限：,4.6.2,模糊集合,2,模糊集合的表示方法,（,2,）,序偶表示法,（,3,）,向量表示法,4.6.2,模糊集合,3.,隶属函数,常见的隶属函数有,正态分布,、,三角分布、梯形分布,等。,隶属函数确定方法,：,（,1,）模糊统计法,（,2,）专家经验法,（,3,）二元对比排序法,（,4,）基本概念扩充法,3,隶属函数,4.6.2,模糊集合,例如：以年龄作论域，取 ，扎德给出了“年老”,O,与“年青”,Y,两个模糊集合的隶属函数为,采用,Zadeh,表示法,:,（,1,）模糊集合的,包含,关系,若 ，则,（,2,）模糊集合的,相等,关系,若 ，则,（,3,）模糊集合的,交并补,运算,交运算,(intersection),4.6.3,模糊集合的运算,并运算,(union),补运算,(complement),或者,4.6.3,模糊集合的运算,例,6,设论域 ，,A,及,B,是论域上的两个模糊集合，已知：,B,A,B,A,B,A,、,、,、,求,4.6.3,模糊集合的运算,解,：,（,4,）模糊集合的代数运算,代数积：,代数和：,有界和：,有界积：,4.6.3,模糊集合的运算,例,6,设论域 ，,A,及,B,是论域上的两个模糊集合，已知：,4.6.3,模糊集合的运算,解：,4.6.4,模糊关系与模糊关系的合成,1,模糊关系,身高与体重的模糊关系表,从,X,到,Y,的一个模糊关系,R,，用模糊矩阵表示,：,普通关系,:,两个集合中的元素之间是否有关联，,模糊关系,:,两个模糊集合中的元素之间关联程度的多少。,例,7,某地区人的身高论域,X,=140,150,160,170,180,（单位：,cm,），体重论域,Y,=40,50,60,70,80,。,4.6.4,模糊关系与模糊关系的合成,1,模糊关系,模糊关系的定义,：,A,、,B,：模糊集合，模糊关系用叉积,(cartesian product),表示：,叉积常用最小算子运算：,A,、,B,：离散模糊集，其隶属函数分别为：,则其叉积运算：,例,8,已知输入的模糊集合,A,和输出的模糊集合,B,：,求,A,到,B,的模糊关系,R,。,解：,1.,模糊关系,0,.,0,2,.,0,5,.,0,8,.,0,0,.,1,o,o,=,=,=,B,T,A,B,A,R,m,m,4.6.4,模糊关系与模糊关系的合成,1.,模糊关系,4.6.4,模糊关系与模糊关系的合成,4.6.4,模糊关系与模糊关系的合成,2,.,模糊关系的合成,设,Q,：,U,到,V,的模糊关系，,R,：,V,到,W,的模糊关系，,则,Q,与,R,的合成 为,U,到,W,的一个模糊关系，其隶属函数：,设,则,4.6.4,模糊关系与模糊关系的合成,2,.,模糊关系的合成,例,9,设模糊集合,4.6.4,模糊关系与模糊关系的合成,2,.,模糊关系的合成,解：,4.6.5,模糊推理,1.,模糊知识表示,人类思维判断的基本形式：,如果（条件）则（结论）,例如：如果 压力较高且温度在慢慢上升 则 阀门略开,模糊规则：从条件论域到结论论域的模糊关系矩阵,R,。通过条件模糊向量与模糊关系,R,的合成进行模糊推理，得到结论的模糊向量，然后采用“清晰化”方法将模糊结论转换为精确量。,4.6.5,模糊推理,2.,对,IF,A,THEN,B,类型的模糊规则的推理,若已知输入为,A,，则输出为,B,；若现在已知输入为 ，则输出 用合成规则求取,其中模糊关系,R,:,控制规则库的,N,条规则有,N,个模糊关系：,对于整个系统的全部控制规则所对应的模糊关系,R,：,4.6.5,模糊推理,2.,对,IF,A,THEN,B,类型的模糊规则的推理,例,10,已知输入,的模糊集合,A,和输出的模糊集合,B,：,前面已经求得模糊关系为：,4.6.5,模糊推理,2.,对,IF,A,THEN,B,类型的模糊规则的推理,则：,当输入：,4.6.5,模糊推理,3.,对,IF,x,is,A,and,and,y,is,B,THEN,z,is,C,类型的模糊规则的推理,MIMO,系统，专家知识的一般形式：,4.6.5,模糊推理,3.,对,IF,x,is,A,and,and,y,is,B,THEN,z,is,C,类型的模糊规则的推理,两个输入一个输出的模糊系统,：,输入：,输出：,模糊控制规则,“”,其,模糊蕴含关系,：,条模糊控制规则的,总的模糊蕴含关系,：,推理的结论：,4.6.5,模糊推理,3.,对,IF,x,is,A,and and,y,is,B,THEN,z,is,C,类型的模糊规则的推理,例,11,已知双输入单输出的模糊系统的输入量为,x,和,y,，输出量为,z,，其输入输出关系如模糊规则描述：,4.6.5,模糊推理,3.,对,IF,x,is,A,and and,y,is,B,THEN,z,is,C,类型的模糊规则的推理,现已知,x,is and,y,is,，求输出量,z,。,例,11,（续）,已知,:,4.6.5,模糊推理,3.,对,IF,x,is,A,and and,y,is,B,THEN,z,is,C,类型的模糊规则的推理,解：（,1,）求每条规则的蕴含关系,4.6.5,模糊推理,同样求得,:,4.6.5,模糊推理,（,2,）求总的模糊蕴含关系,R,4.6.5,模糊推理,（,3,）计算输入量的模糊集合,4.6.5,模糊推理,4.6.5,模糊推理,输出量的模糊集合,:,例如，得到模糊向量：,取结论：,U,5,。,4.6.6,模糊决策,“,模糊决策,”,(“,模糊判决,”、“,解模糊,”或“,清晰化,”）：由模糊推理得到的结论或者操作是一个模糊向量，转化为,确定值的过程,。,1.,最大隶属度法,例如，得到模糊向量：,取结论：,4.6.6,模糊决策,2.,加权平均判决法,例如,则,4.6.6,模糊决策,3.,中位数法,例如,4.6.6,模糊决策,3.,中位数法,例如,用线性插值处理，即,所以,4.6.7,模糊推理的应用,例,12,设有模糊控制规则：,“如果温度低，则将风门开大”。设温度和风门开度的论域为,1,，,2,，,3,，,4,，,5,。,“温度低”和“风门大”的模糊量：,“温度低”,=1/1+0.6/2+0.3/3+0.0/4+0/5,“,风门大”,=0/1+0.0/2+0.3/3+0.6/4+1/5,已知事实“温度较低”，可以表示为,“温度较低”,=0.8/1+1/2+0.6/3+0.3/4+0/5,试用模糊推理确定风门开度。,解：（,1,）确定模糊关系,R,4.6.7,模糊推理的应用,4.6.7,模糊推理的应用,解：,（,2,）模糊推理,=(0.0,，,0.0,，,0.3,，,0.6,，,0.8),（,3,）模糊决策,用最大隶属度法进行决策得风门开度为,5,。,用加权平均判决法和中位数法进行决策得风门开度为,4,。,=,=,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,0,.,0,3,.,0,3,.,0,3,.,0,0,.,0,0,.,0,6,.,0,6,.,0,3,.,0,0,.,0,0,.,0,0,.,1,6,.,0,3,.,0,0,.,0,0,.,0,0,.,0,3,.,0,6,.,0,0,.,1,8,.,0,o,o,T,R,A,B,