人工智能AI不确定性推理.pptx
- 文档编号:11332986
- 上传时间:2023-05-31
- 格式:PPTX
- 页数:98
- 大小:2.94MB
人工智能AI不确定性推理.pptx
《人工智能AI不确定性推理.pptx》由会员分享,可在线阅读,更多相关《人工智能AI不确定性推理.pptx(98页珍藏版)》请在冰点文库上搜索。
第5章不确定性推理,现实世界中的大多数问题是不精确、非完备的。
因此,人工智能需要研究不精确性的推理方法,以满足客观问题的需求。
不确定性推理的基本概念不确定性推理的含义不确定性推理的基本问题(表示、匹配、更新、合成)不确定性理的类型可信度推理主观Bayes推理证据理论模糊推理概率推理,1,2,5.1.1不确定性推理的含义,什么是不确定性推理不确定性推理泛指除精确推理以外的其它各种推理问题。
包括不完备、不精确知识的推理,模糊知识的推理,非单调性推理等。
不确定性推理过程实际上是一种从不确定的初始证据出发,通过运用不确定性知识,最终推出具有一定不确定性但却又是合理或基本合理的结论的思维过程。
为什么要采用不确定性推理所需知识不完备、不精确所需知识描述模糊多种原因导致同一结论解题方案不唯一,3,5.1.2不确定性推理的基本问题不确定性的表示,知识的不确定性的表示考虑因素:
问题的描述能力,推理中不确定性的计算含义:
知识的确定性程度,或动态强度表示:
用概率,0,1,0接近于假,1接近用可信度,-1,1,大于0接近于真,小于0接近于证据不确定性的表示证据的类型:
按证据组织:
基本证据,组合证据按证据来源:
初始证据,中间结论表示方法:
概率,可信度,模糊集等基本证据:
常与知识表示方法一致,如概率,可信度,模糊集等组合证据:
组合方式:
析取的关系,合取的关系。
计算方法:
基于基本证据最大最小方法,概率方法,有界方法等。
4,含义不确定的前提条件与不确定的事实匹配问题前提是不确定的,事实也是不确定的方法设计一个计算相似程度的算法,给出相似的限度标志相似度落在规定限度内为匹配,否则为不匹配,5.1.2不确定性推理的基本问题不确定性的匹配,5,不确定性的更新不确定性结论的合成4.不确定性的更新主要问题如何用证据的不确定性去更新结论的不确定性如何在推理中把初始证据的不确定性传递给最终结论解决方法对,不同推理方法的解决方法不同对,不同推理方法的解决方法基本相同,即把当前结论及其不确定性作为新的结论放入综合数据库,依次传递,直到得出最终结论5.不确定性结论的合成含义:
多个不同知识推出同一结论,且不确定性程度不同方法:
视不同推理方法而定,5.1.2不确定性推理的基本问题,模糊方法,基于概率,主观Bayes方法,可信度方法,证据理论,数值方法,非数值方法,不确定性推理,框架推理语义网络推理常识推理,5.1.3不确定性推理的类型,概率方法,概率推理,6,7,第5章不确定性推理,不确定性推理的基本概念可信度推理可信度的概念可信度推理模型5.2.2可信度推理的例子主观Bayes推理证据理论模糊推理概率推理,8,可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断,或者说是人们对某个事物或现象为真的相信程度。
例如,沈强昨天没来上课,理由是头疼。
就此理由,只有以下两种可能:
一是真的头疼了,理由为真;二是没有头疼,理由为假。
但就听话人而言,因不能确切知道,就只能某种程度上相信,即可信度。
可信度具有一定的主观性,较难把握。
但对某一特定领域,让该领域专家给出可信度还是可行的。
5.2.1可信度的概念,9,5.2.2可信度推理模型知识不确定性的表示,表示形式:
在C-F模型中,知识是用产生式规则表示的,其一般形式为:
IFETHENH(CF(H,E)其中,E是知识的前提条件;H是知识的结论;CF(H,E)是知识的可信度。
说明:
E可以是单一条件,也可以是复合条件。
例如:
E=(E1ORE2)ANDE3ANDE4H可以是单一结论,也可以是多个结论CF是知识的静态强度,CF(H,E)的取值为-1,1,表示当E为真时,证据对H的支持程度,其值越大,支持程度越大。
例子:
IF发烧AND流鼻涕THEN感冒(0.8)表示当某人确实有“发烧”及“流鼻涕”症状时,则有80%的把握是患了感冒。
可信度的定义(1/2)在CF模型中,把CF(H,E)定义为CF(H,E)=MB(H,E)-MD(H,E)式中MB称为信任增长度,MB(H,E)定义为,5.2.2可信度推理模型,MD称为不信任增长度,MD(H,E)定义为,10,P(H)-P(H|E)P(H),0-MD(H,E)-,MB和MD的关系当MB(H,E)0时,有P(H|E)P(H),即E的出现增加了H的概率当MD(H,E)0时,有P(H|E)P(H),即E的出现降低了H的概率根据前面对CF(H,E)可信度、MB(H,E)信任增长度、MD(H,E)不信增长度的定义,可得到CF(H,E)的计算公式:
MB(H,E)-0P(H|E)-P(H),若P(H|E)P(H)若P(H|E)P(H)若P(H|E)P(H),1-P(H),0,CF(H,E),5.2.2可信度推理模型可信度的性质(2/2),分别解释CF(H,E)0,CF(H,E)=0,CF(H,E)0,11,5.2.2可信度推理模型可信度的性质(1/3),互斥性对同一证据,它不可能既增加对H的信任程度,又同时增加对H的不信任程度,这说明MB与MD是互斥的。
即有如下互斥性:
当MB(H,E)0时,MD(H,E)=0当MD(H,E)0时,MB(H,E)=0值域典型值当CF(H,E)=1时,有P(H/E)=1,它说明由于E所对应证据的出现使H为真。
此时,MB(H,E)=1,MD(H,E)=0。
当CF(H,E)=-1时,有P(H/E)=0,说明由于E所对应证据的出现使H为假。
此时,MB(H,E)=0,MD(H,E)=1。
当CF(H,E)=0时,有MB(H,E)=0、MD(H,E)=0。
前者说明E所对应证据的出现不证实H;后者说明E所对应证据的出现不否认H。
12,再根据CF的定义和MB、MD的互斥性有CF(H,E)+CF(H,E)=(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E)=(MB(H,E)-0)+(0-MD(H,E)=MB(H,E)-MD(H,E)=0它说明:
(1)对H的信任增长度等于对非H的不信任增长度
(2)对H的可信度与非H的可信度之和等于0(3)可信度不是概率,不满足P(H)+P(H)=1和0P(H),P(H)1,(由互斥性),5.2.2可信度推理模型,可信度的性质(2/3)(4)对H的信任增长度等于对非H的不信任增长度根据MB、MD的定义及概率的性质有:
13,(5)对同一前提E,若支持若干个不同的结论Hi(i=1,2,n),则,因此,如果发现专家给出的知识有如下情况CF(H1,E)=0.7,CF(H2,E)=0.4则因0.7+0.4=1.11为非法,应进行调整或规范化。
5.2.2可信度推理模型可信度的性质(3/3),14,15,基本证据表示方法,用可信度,其取值范围也为-1,1。
例如,CF(E),其的含义:
CF(E)=1,证据E肯定它为真CF(E)=-1,证据E肯定它为假CF(E)=0,对证据E一无所知0CF(E)1,证据E以CF(E)程度为真-1CF(E)0,证据E以CF(E)程度为假否定证据CF(E)=-CF(E)组合证据合取:
E=E1ANDE2ANDEn时,若已知CF(E1),CF(E2),则CF(E)=minCF(E1),CF(E2),CF(En)析取:
E=E1ORE2OREn时,若已知CF(E1),CF(E2),则CF(E)=maxCF(E1),CF(E2),CF(En),5.2.2可信度推理模型证据不确定性的表示,16,5.2.2可信度推理模型,不确定性的更新CF模型中的不确定性推理实际上是从不确定的初始证据出发,不断运用相关的不确性知识,逐步推出最终结论和该结论可信度的过程。
而每一次运用不确定性知识,都需要由证据的不确定性和知识的不确定性去计算结论的不确定性。
不确定性的更新公式CF(H)=CF(H,E)max0,CF(E)若CF(E)0,则CF(H)=0即该模型没考虑E为假对H的影响。
若CF(E)=1,则CF(H)=CF(H,E)即规则强度CF(H,E)实际上是在E为真时,H的可信度,5.2.2可信度推理模型,结论不确定性的合成当有多条知识支持同一个结论,且这些知识的前提相互独立,结论的可信度又不相同时,可利用不确定性的合成算法求出结论的综合可信度。
设有知识:
IFE1THENH(CF(H,E1)IFE2THENH(CF(H,E2)则结论H的综合可信度可分以下两步计算:
分别对每条知识求出其CF(H)。
即CF1(H)=CF(H,E1)max0,CF(E1)CF2(H)=CF(H,E2)max0,CF(E2)用如下公式求E1与E2对H的综合可信度,17,例5.1设有如下一组知识:
r1:
IFE1r2:
IFE2r3:
IFE3r4:
IFE4,THENH(0.9)THENH(0.6)THENH(-0.5)AND(E5ORE6)THENE1(0.8),已知:
CF(E2)=0.8,CF(E3)=0.6,CF(E4)=0.5,CF(E5)=0.6,CF(E6)=0.8求:
CF(H)=?
解:
由r4得到:
CF(E1)=0.8max0,CF(E4AND(E5ORE6)=0.8max0,minCF(E4),CF(E5ORE6)=0.8max0,minCF(E4),maxCF(E5),CF(E6)=0.8max0,minCF(E4),max0.6,0.8=0.8max0,min0.5,0.8=0.8max0,0.5=0.4,5.2.3可信度推理的例子,18,由r1得到:
CF1(H)=CF(H,E1)max0,CF(E1),=0.9max0,0.4=0.36由r2得到:
CF2(H)=CF(H,E2)max0,CF(E2)=0.6max0,0.8=0.48由r3得到:
CF3(H)=CF(H,E3)max0,CF(E3)=-0.5max0,0.6=-0.3根据结论不精确性的合成算法,CF1(H)和CF2(H)同号,有:
CF12(H)和CF3(H)异号,有:
即综合可信度为CF(H)=0.53,19,20,第5章不确定性推理,不确定性推理的基本概念可信度推理主观Bayes推理主观Bayes方法的概率论基础主观Bayes方法的推理模型主观Bayes推理的例子证据理论模糊推理概率推理,该公式称为全概率公式,它提供了一种计算P(B)的方法。
1.全概率公式定义5.1设事件A1,A2,An满足:
(1)任意两个事件都互不相容,即当ij时,有AiAj=(i=1,2,n;j=1,2,n);
(2)P(Ai)0(i=1,2,n);(3)D=则对任何事件B由下式成立:
5.3.1主观Bayes方法的概率论基础,21,2.Bayes公式定理5.2设事件A1,A2,An满足定理5.1规定的条件,则对任何事件B有下式成立:
该定理称为Bayes定理,上式称为Bayes公式。
其中,P(Ai)是事件Ai的先验概率,P(B|Ai)是在事件Ai发生条件下事件B的条件概率;P(Ai|B)是在事件B发生条件下事件Ai的条件概率。
如果把全概率公式代入Bayes公式,则有:
即,这是Bayes公式的另一种形式。
Bayes定理给处了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。
5.3.1主观Bayes方法的概率论基础,22,5.3.2主观Bayes方法的推理模型,1.知识不确定性的表示(1/5)表示形式:
在主观Bayes方法中,知识是用产生式表示的,其形式为:
IFETHEN(LS,LN)H其中,(LS,LN)用来表示该知识的知识强度,LS(充分性度量)和LN(必要性度量)的表示形式分别为:
LS和LN的含义:
由本节前面给出的的Bayes公式可知:
23,5.3.2主观Bayes方法的推理模型,1.知识不确定性的表示(2/5)两式相除得:
(5.1),为讨论方便,下面引入几率函数,(5.2)可见,X的几率等于X出现的概率与X不出现的概率之比,P(X)与O(X)的变化一致,且有:
P(X)=0时有O(X)=0P(X)=1时有O(X)=+即把取值为0,1的P(X)放大为取值为0,+的O(X),24,5.3.2主观Bayes方法的推理模型,1.知识不确定性的表示(3/5)把(5.2)式代入(5.1)式有:
再把LS代入此式,可得:
(5.3),式(5.3)和(5.4)就是修改的Bayes公式。
可见:
当E为真时可用(5.3)计算O(H|E)当E为假时可用(5.4)计算O(H|E),(5.4),同理可得到关于LN的公式:
25,当LN=0时,O(H|E)=0,说明E的存在(即E不存在)将导致H为假。
26,5.3.2主观Bayes方法的推理模型,1.知识不确定性的表示(4/5)LS的性质:
当LS1时,O(H|E)O(H),说明E支持H,LS越大,E对H的支持越充分。
当LS时,O(H|E),即P(H/E)1,表示由于E的存在将导致H为真。
当LS=1时,O(H|E)=O(H),说明E对H没有影响。
当LS1时,O(H|E)O(H),说明E支持H,即由于E的不出现,增大了H为真的概率。
并且,LN得越大,E对H为真的支持就越强。
当LN时,O(H|E),即P(H|E)1,表示由于E的存在将导致H为真。
当LN=1时,O(H|E)=O(H),说明E对H没有影响。
当LN1时,O(H|E)O(H),说明E不支持H,即由于E的存在,使H为真的可能性下降,或者说由于E不存在,将反对H为真。
当LN0时O(H|E)0,即LN越小,E的不出现就越反对H为真,这说明H越需要E的出现。
同理可证、,证明略,27,5.3.2主观Bayes方法的推理模型,1.知识不确定性的表示(5/5)LS与LN的关系由于E和E不会同时支持或同时排斥H,因此只有下述三种情况存在:
LS1且LN1LS=LN=1证:
LS1P(E|H)/P(E|H)1P(E|H)P(E|H)1-P(E|H)1-P(E|H)P(E|H)P(E|H)P(E|H)/P(E|H)1LN1,在实际应用中,除了需要考虑证据E的先验概率与先验几率外,往往还需要考虑在当前观察下证据E的后验概率或后验几率。
以概率情况为例,对初始证据E,用户可以根据当前观察S将其先验概率P(E)更改为后验概率P(E|S),即相当于给出证据E的动态强度。
28,5.3.2主观Bayes方法的推理模型,2.证据不确定性的表示(1/2)基本证据的表示:
在主观Bayes方法中,基本证据E的不精确性是用其概率或几率来表示的。
概率与几率之间的关系为:
29,5.3.2主观Bayes方法的推理模型,2.证据不确定性的表示(2/2)组合证据不确定性的计算:
证据的基本组合方式只有合取和析取两种。
当组合证据是多个单一证据的合取时,例E=E1ANDE2ANDANDEn如果已知在当前观察S下,每个单一证据Ei有概率P(E1|S),P(E2|S),P(En|S),则P(E|S)=minP(E1|S),P(E2|S),P(En|S)当组合证据是多个单一证据的析取时,例E=E1ORE2OROREn如果已知在当前观察S下,每个单一证据Ei有概率P(E1|S),P(E2|S),P(En|S),则P(E|S)=maxP(E1|S),P(E2|S),P(En|S),30,根据E的概率P(E)及LS和LN的值,把H的先验概率P(H)或先验几率O(H)更新为后验概率或后验几率。
分以下3种情况讨论:
证据肯定为真证据肯定为假证据既非为真有非为假,5.3.2主观Bayes方法的推理模型,3.不确定性的更新(1/4),5.3.2主观Bayes方法的推理模型,3.不确定性的更新(2/4)证据肯定为真时当证据E肯定为真时,P(E)=P(E|S)=1。
将H的先验几率更新为后验几率的公式为(5.3),即O(H|E)=LSO(H)把H的先验概率P(H)更新为后验概率P(H|E)的公式,可将(5.2)代入(5.4)得:
(5.5)证据E肯定为假时当证据E肯定为假时,P(E)=P(E|S)=0,P(E)=1。
将H的先验几率更新为后验几率的公式为(5.4),即O(H|E)=LNO(H)把先验概率P(H)更新为后验概率P(H|E)的公式,可将(5.2)代入(5.4)得:
(5.6),31,证据既非真假:
需要使用杜达等人给出的公式:
P(H|S)=P(H|E)P(E|S)+P(H|E)P(E|S)下面分四种情况讨论:
(1)P(E|S)=1当P(E|S)=1时,P(E|S)=0。
由(6.7)式和(6.5)式可得,(5.7),这实际是证据肯定存在的情况
(2)P(E|S)=0当P(E|S)=0时,P(E|S)=1。
由(6.7)式和(6.6)式可得(3)P(E|S)=P(E)当P(E|S)=P(E)时,表示E与S无关。
由(5.7)式和全概率公式可得,5.3.2主观Bayes方法的推理模型,32,3.不确定性的更新(3/4),0,P(E),1,5.3.2主观Bayes方法的推理模型,3.不确定性的更新(4/4)(4)P(E/S)为其它值上面已经得到了P(E|S)的3个特殊值:
0,P(E),1;它们分别对应的3个值为P(H|E),P(H),P(H|E)。
由此构造的分段线性插值函数为:
(5.8)P(H|S)P(H|E)P(H)P(H|E)P(E|S),33,5.3.2主观Bayes方法的推理模型,4.结论不确定性的合成,假设有n条知识都支持同一结论H,并且这些知识的前提条件分别是n个相互独立的证据E1、E2、En,而每个证据所对应的观察又分别是S1、S2、Sn。
在这些观察下,求H的后验概率的方法是:
首先对每条知识分别求出H的后验几率O(H|Si),然后利用这些后验几率并按下述公式求出在所有观察下H的后验几率:
(5.9),34,35,例5.2设有规则r1:
IFE1THEN(2,0.0001)H1r2:
IFE1ANDE2THEN(100,0.001)H1r3:
IFH1THEN(200,0.01)H2已知:
P(E1)=P(E2)=0.6P(H1)=0.091,P(H2)=0.01用户回答:
P(E1|S1)=0.76,P(E2|S2)=0.68求:
P(H2|S1,S2)=?
5.3.3主观Bayes推理的例子,解:
由已知知识得到的推理网络如下图所示。
H2,H1,(2,0.001),36,(100,0.001),0.01(200,0.01),0.6,E10.76,E20.68,0.091r2AND,0.6,r1,r3,5.3.3主观Bayes推理的例子,
(1)计算O(H1|S1)先把P(H1)更新为E1下的后验概率P(H1|E1),37,由于P(E1|S1)=0.76P(E),使用(6.8)式的后半部分,得P(H1|S1)为:
5.3.3主观Bayes推理的例子,
(2)计算O(H1|(S1ANDS2)由于r2的前件是E1、E2的合取关系,且已知P(E1|S1)=0.76,P(E2|S2)=0.68,即P(E2|S2)P(E1|S1)。
按合取取最小的原则,这里仅考虑E2对H1的影响,即把计算P(H1|(S1ANDS2)的问题转化为计算O(H1|S2)的问题。
把H1的先验概率P(H1)更新为在E2下的后验概率P(H1/E2),又由于P(E2|S2)=0.68P(E2),还使用(5.8)式的后半部分,得P(H1|S2)为:
38,5.3.3主观Bayes推理的例子,(3)计算O(H1|S1,S2)先将H1的先验概率转换为先验几率,39,再根据合成公式计算H1的后验几率,然后再将后验几率转换为后验概率,5.3.3主观Bayes推理的例子,(4)计算P(H2|S1,S2)对r3,H1相当于已知事实,H2为结论。
将H2的先验概率P(H2)更新为在H1下的后验概率P(H2|H1),由于P(H1|S1,S2)=0.321P(H1),仍使用(5.8)式的后半部分,得到在当前观察S1、S2下H2的后验概率P(H2|S1,S2),可以看出,H2的先验概率是0.01,通过r1、r2、r3及初始证据进行推理,最,后推出H2的后验概率为0.177,相当于概率增加了16倍多。
5.3.3主观Bayes推理的例子,40,41,不确定性推理的基本概念可信度推理主观Bayes方法证据理论证据理论的形式化描述证据理论的推理模型推理实例证据理论推理的特征模糊推理概率推理,第5章不确定性推理,证据理论可将概率论中的单点赋值扩展为集合赋值,可以处理由“不知道”所引起的不确定性。
DS理论的基本思想是:
先定义一个概率分配函数;然后利用该函数建立相应的信任函数、似然函数及类概率函数,以分别描述知识的精确信任度、不可驳斥信任度及估计信任度;并利用这些函数进行推理。
42,5.4.1DS理论的形式描述,1.概率分配函数(1/5)DS理论处理的是集合上的不确定性问题,为此需要先建立命题与集合之间的一一对应关系,以把命题的不确定性问题转化为集合的不确定性问题。
(1)幂集设为样本空间,且中的每个元素都相互独立,则由的所有子集构成的幂集记为2。
当中的元素个数为N时,则其幂集2的元素个数为2N,且其中的每一个元素都对应于一个关于x取值情况的命题。
例5.3设=红,黄,白,求的幂集2。
解:
的幂集可包括如下子集:
A0=,A1=红,A2=黄,A3=白,A4=红,黄,A5=红,白,A6=黄,白,A7=红,黄,白其中,表示空集,空集也可表示为。
上述子集的个数正好是23=8,5.4.1DS理论的形式描述,1.概率分配函数(2/5)
(2)一般的概率分配函数定义5.3设函数m:
20,1,且满足,则称m是2上的概率分配函数,m(A)称为A的基本概率数。
例5.4对例5.3所给出的有限集,若定义2上的一个基本函数m:
m(,红,黄,白,红,黄,红,白,黄,白,红,黄,白)=(0,0.3,0,0.1,0.2,0.2,0,0.2)请说明该函数满足概率分配函数的定义。
解:
(0,0.3,0,0.1,0.2,0.2,0,0.2)分别是幂集2中各个子集的基本概率数。
显然m满足,即满足概率分配函数的定义。
43,5.4.1DS理论的形式描述,44,1.概率分配函数(3/5)对一般概率分配函数的说明概率分配函数的作用是把的任一子集映射为0,1上的一个数m(A)当A,且A由单个元素组成时,则m(A)表示对A的精确信任度;当A、A,且A由多个元素组成时,m(A)也表示对A的精确信任度,但却不知道这部分信任度该分给A中哪些元素;当A=时,则m(A)也表示不知道该如何分配的部分。
例如,对上例所给出的有限集及基本函数m,当A=红时,有m(A)=0.3,它表示对命题“x是红色”的精确信任度为0.3。
B=红,黄时,有m(B)=0.2,x是红或黄的信任度0.2,但不知道怎样分。
C=红,黄,白时,有m()=0.2,同样不知道该怎样分配。
概率分配函数不是概率例如,在例5.3中,m符合概率分配函数的定义,但m(红)+m(黄)+m(白)=0.3+0+0.1=0.41因此m不是概率,因为概率P要求:
P(红)+P(黄)+P(白)=1,5.4.1证据理论的推理模型,1.概率分配函数(4/5)(3)一个特殊的概率分配函数设=s1,s2,sn,m为定义在2上的概率分配函数,且m满足,其中,A表示命题A所对应的集合中的元素个数。
该概率分配函数的特殊性:
只有当子集中的元素个数为1时,其概率分配数才有可能大于0;当子集中有多个或0个元素,且不等于全集时,其概率分配数均为0;全集的概率分配数按(3)计算。
45,5.4.1证据理论的推理模型,1.概率分配函数(5/5)例5.5设=红,黄,白,有如下概率分配函数m(,红,黄,白,红,黄,白)=(0,0.6,0.2,0.1,0.1)其中:
m(红,黄)=m(红,白)=m(黄,白)=0,可见,m符合上述概率分配函数的定义。
(4)概率分配函数的合成定义5.4设m1和m2是2上的基本概率分配函数,它们的正交和定义为,其中:
46,5.4.1证据理论的推理模型,2.信任函数
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 AI 不确定性 推理