贝氏网络
维基百科,自由的百科全书
(重定向自贝叶斯网络)
贝氏网络(Bayesian network),又称信任网络(belief network)或是有向非循环图形模
型(directed acyclic graphical model),是一种机率图型模型,借由有向非循环图形(directedacyclic graphs, or DAGs )中得知一组随机变量{}及其n组条件机率分
配(conditional probability distributions, or CPDs)的性质。举例而言,贝氏网络可用来表示疾病和其相关症状间的机率关系;倘若已知某种症状下,贝氏网络就可用来计算各种可能罹患疾病之发生机率。
一般而言,贝氏网络的有向非循环图形中的节点表示随机变量,它们可以是可观察到的变量,抑或是潜在变量、未知参数等。连接两个节点的箭头代表此两个随机变量是具有因果关系或是非条件独立的;而节点中变量间若没有箭头相互连接一起的情况就称其随机变量彼此间为条件独立。若两个节点间以一个单箭头连接在一起,表示其中一个节点是“因(parents)”,另一个是“果(descendants or
children)”,两节点就会产生一个条件机率值。比方说,我们以表示第i个节点,而的“因”以
表示,的“果”以表示;图一就是一种典型的贝氏网络结构图,依照先前的定义,我们就可以轻易的从图一可以得知:
,以及
大部分的情况下,贝氏网络适用在节点的性质是属于离散型的情况下,且依照此条件机率写出条件机率表(conditional probability table, or CPT),此条件机率表的每一列(row)列出所有可能发生的,每一行(column)列出所有可能发生的,且任一行的机率总和必为1。写出条件机率表后就很容易将事情给条理化,且轻易地得知此贝氏网络结构图中各节点间之因果关系;但是条件机率表也有其缺点:若是节点是由很多的“因”所造成的“果”,如此条件机率表就会变得在计算上既复杂又使用不便。下图为图一贝氏网络中某部分结构图之条件机率表。
图一:部分结构图之条件机率表
目录
1 数学定义
2 马可夫毯(Markov blanket)
3 举例说明4 求解方法
4.1 精确推论4.2 随机推论(蒙地卡罗方法)
4.2.1 1. 结构已知,观测值完整:
4.2.2 2. 结构已知,观测值不完整(有遗漏资料):
5 补充例子(列举推理法)
6 贝氏网络的应用层面
7 参考文献
数学定义
令G = (I,E)表示一个有向非循环图形(DAG),其中I代表图形中所有的节点的集合,而E代表有向连接线段的集合,且令X = (Xi)i ∈ I为其有向非循环图形中的某一节点i所代表之随机变量,若节点X的联合机率分配可以表示成:
则称X为相对于一有向非循环图形G 的贝氏网络,其中表示节点i之“因”。
对任意的随机变量,其联合分配可由各自的局部条件机率分配相乘而得出:
依照上式,我们可以将一贝氏网络的联合机率分配写成:
, 对每个相对于Xi的“因”变
量Xj 而言)
上面两个表示式之差别在于条件机率的部分,在贝氏网络中,若已知其“因”变量下,某些节点会与其“因”变量条件独立,只有与“因”变量有关的节点才会有条件机率的存在。
如果联合分配的相依数目很稀少时,使用贝氏函数的方法可以节省相当大的内存容量。举例而言,若想将10个变量其值皆为0或1储存成一条件机率表型式,一个直观的想法可知我们总共必须要计算
个值;但若这10个变量中无任何变量之相关“因”变量是超过三个以上的话,则贝氏网络
的条件机率表最多只需计算个值即可!另一个贝式网络优点在于:对人类而言,它更能轻易地得知各变量间是否条件独立或相依与其局部分配(local distribution)的型态来求得所有随机变量之联合分配。
贝氏网络
维基百科,自由的百科全书
(重定向自贝叶斯网络)
贝氏网络(Bayesian network),又称信任网络(belief network)或是有向非循环图形模
型(directed acyclic graphical model),是一种机率图型模型,借由有向非循环图形(directedacyclic graphs, or DAGs )中得知一组随机变量{}及其n组条件机率分
配(conditional probability distributions, or CPDs)的性质。举例而言,贝氏网络可用来表示疾病和其相关症状间的机率关系;倘若已知某种症状下,贝氏网络就可用来计算各种可能罹患疾病之发生机率。
一般而言,贝氏网络的有向非循环图形中的节点表示随机变量,它们可以是可观察到的变量,抑或是潜在变量、未知参数等。连接两个节点的箭头代表此两个随机变量是具有因果关系或是非条件独立的;而节点中变量间若没有箭头相互连接一起的情况就称其随机变量彼此间为条件独立。若两个节点间以一个单箭头连接在一起,表示其中一个节点是“因(parents)”,另一个是“果(descendants or
children)”,两节点就会产生一个条件机率值。比方说,我们以表示第i个节点,而的“因”以
表示,的“果”以表示;图一就是一种典型的贝氏网络结构图,依照先前的定义,我们就可以轻易的从图一可以得知:
,以及
大部分的情况下,贝氏网络适用在节点的性质是属于离散型的情况下,且依照此条件机率写出条件机率表(conditional probability table, or CPT),此条件机率表的每一列(row)列出所有可能发生的,每一行(column)列出所有可能发生的,且任一行的机率总和必为1。写出条件机率表后就很容易将事情给条理化,且轻易地得知此贝氏网络结构图中各节点间之因果关系;但是条件机率表也有其缺点:若是节点是由很多的“因”所造成的“果”,如此条件机率表就会变得在计算上既复杂又使用不便。下图为图一贝氏网络中某部分结构图之条件机率表。
图一:部分结构图之条件机率表
目录
1 数学定义
2 马可夫毯(Markov blanket)
3 举例说明4 求解方法
4.1 精确推论4.2 随机推论(蒙地卡罗方法)
4.2.1 1. 结构已知,观测值完整:
4.2.2 2. 结构已知,观测值不完整(有遗漏资料):
5 补充例子(列举推理法)
6 贝氏网络的应用层面
7 参考文献
数学定义
令G = (I,E)表示一个有向非循环图形(DAG),其中I代表图形中所有的节点的集合,而E代表有向连接线段的集合,且令X = (Xi)i ∈ I为其有向非循环图形中的某一节点i所代表之随机变量,若节点X的联合机率分配可以表示成:
则称X为相对于一有向非循环图形G 的贝氏网络,其中表示节点i之“因”。
对任意的随机变量,其联合分配可由各自的局部条件机率分配相乘而得出:
依照上式,我们可以将一贝氏网络的联合机率分配写成:
, 对每个相对于Xi的“因”变
量Xj 而言)
上面两个表示式之差别在于条件机率的部分,在贝氏网络中,若已知其“因”变量下,某些节点会与其“因”变量条件独立,只有与“因”变量有关的节点才会有条件机率的存在。
如果联合分配的相依数目很稀少时,使用贝氏函数的方法可以节省相当大的内存容量。举例而言,若想将10个变量其值皆为0或1储存成一条件机率表型式,一个直观的想法可知我们总共必须要计算
个值;但若这10个变量中无任何变量之相关“因”变量是超过三个以上的话,则贝氏网络
的条件机率表最多只需计算个值即可!另一个贝式网络优点在于:对人类而言,它更能轻易地得知各变量间是否条件独立或相依与其局部分配(local distribution)的型态来求得所有随机变量之联合分配。