CN101059844A - 学习装置和方法 - Google Patents

Abstract

一种基于学习数据构筑贝叶斯网络的网络结构的学习装置。学习部分通过二维基因型来表现贝叶斯网络的网络结构。将按照节点之间的顺序在行方向上配置的多个节点作为亲节点，同时将按照相同的顺序在列方向上配置的多个节点作为子节点，通过每个亲节点和每个子节点对应的每个基因座中的对立基因，规定对应的节点之间有无连接。而且，学习部分以具有二维基因型的多个个体作为初期个体群，使用遗传算法从该初期个体群中搜索最佳的个体，将该个体的表现型作为准最佳的网络结构。其中，为了保证网络结构的非循环，对角成分以下的基因不显现特性。

Description

学习装置和方法

技术领域

本发明涉及基于学习数据来构筑贝叶斯(Bayesian)网络的网络结构的学习装置及其方法。

背景技术

最近几年中，信息处理技术应用的范围已经扩展，并且能够适应各种环境和各种用户来进行动作的信息处理机制已经变得重要。就是说，对具有不能在事先假定或完全观测的不确定性的对象进行处理变得重要。因此，要求即使在不确定信息下也尽可能精确地理解环境并且执行适当处理的智能信息处理结构。

由于这些需要，使用网络结构描述问题对象、并由观测到的现象概率性地预测将要得知的对象的概率模型已经引起了注意，借助有向图在表示变量的节点之间指示因果关系(联系)的贝叶斯网络是一种已知的典型概率模型。

[非专利文献1]Cooper，G.，和Herskovits，E.，“A Bayesian method for theinduction of probabilistic networks from Data(一种从数据归纳概率网络的贝叶斯方法)”，Machine Learning(机器学习)，Vol.9，pp.309-347，1992。

[非专利文献2]周洪钧，坂根茂幸，“ベイジアンネツトワ一クの構造学習と推論を用いた移動口ボツト位置决めのためのセンサプランニング(使用贝叶斯网络的结构学习和推理的移动机器人定位的传感器设计)”，日本机器人学会学报，Vol.22，No.2，pp.245-255，2004。

此外，为了将贝叶斯网络应用于实际的问题对象中，建立合适的模型是重要的。

目前为止的实用化例子中，大多数是通过利用在问题领域中精通的专家的知识和经验来构筑模型，但需要一种基于学习数据构筑贝叶斯网络的网络结构的方法。然而，基于学习数据构筑网络结构是一个NP-hard(非确定性的多项式地难)问题，而且，由于需要确保网络结构的有向非循环性，因此，不容易构筑最佳网络结构。

因此，为了在现实的时间中构筑网络结构，已经提出使用试探法的K2算法(参见非专利文献1)。该K2算法包括步骤：1)限定对于每个节点都能成为亲节点的候选；2)选择某一子节点，每次添加一个候选亲节点来建立网络结构；3)仅在评价值变大时，采用该节点作为亲节点；4)如果没有能够作为亲节点添加的节点，或者即使添加也不使评价值增加，则转向其它子节点。通过对全部子节点执行上述1)到4)，从而能够构筑准最佳网络结构。在上述1)，限制能成为每个节点的亲节点的候选是为了通过预先设计节点之间的顺序(order)，从而限制网络结构的搜索范围来减少计算量，同时确保网络结构的非循环性。

虽然这个K2算法能够在现实的时间中构筑网络结构，但如上所述，存在限制，即节点之间的顺序必须基于设计者的现有知识而预先设计。

另一方面，也已经提出一种使用遗传算法确定节点之间的顺序，并使用K2算法确定节点之间的连接的方法(参见非专利文献2)。

然而，以这些以往的算法，根据设计者设计的顺序，或者根据使用遗传算法确定的顺序，通过以自下而上的方式决定节点之间的连接来构筑网络结构，因此，这些算法不适用于网络结构的追加学习。另外，有时即使不是问题领域中精通的专家也具有一些关于连接的知识，但以以往的算法，在网络结构中不能反映关于连接的现有知识。

发明内容

本发明鉴于这样的以往的情况而提出，其目的在于提供一种学习装置及其方法，对于NP-hard问题，能够基于学习数据构筑贝叶斯网络的网络结构(顺序和连接)，并且能够在网络结构中反映关于顺序和连接的一部分或全部知识，进而能够网络结构的追加学习。

为了实现上述目的，本发明的学习装置基于学习数据构筑贝叶斯网络的网络结构，所述贝叶斯网络以有向图代表多个节点之间的因果关系，其特征在于，包括：存储部件，存储上述学习数据；以及学习部件，基于上述学习数据构筑上述网络结构；上述学习部件准备由均具有基因型的个体组成的初期个体群，在该基因型中分别规定了上述多个节点之间的顺序以及因果关系，基于遗传算法对上述初期个体群重复地执行交叉处理和/或突变处理，同时基于上述学习数据计算每个个体的评价值，搜索最佳的个体，并将该最佳个体的表现型作为上述网络结构。

这里，在本发明的学习装置中，上述基因型根据规定的顺序将配置在第一方向上的上述多个节点作为亲节点，同时将根据上述规定的顺序配置在与第一方向正交的第二方向上的上述多个节点作为子节点，并且通过在每个亲节点和每个子节点对应的每个基因座上的对立基因，来规定对应的节点之间有无因果关系。

此外，为了达到上述目的，本发明的学习方法基于学习数据构筑贝叶斯网络的网络结构，所述贝叶斯网络以有向图代表多个节点之间的因果关系，其特征在于，准备由均具有基因型的个体组成的初期个体群，在该基因型中分别规定了上述多个节点之间的顺序以及因果关系，基于遗传算法对上述初期个体群重复地执行交叉处理和/或突变处理，同时基于上述学习数据计算每个个体的评价值，搜索最佳的个体，将该最佳个体的表现型作为上述网络结构。

根据本发明的学习装置和方法，对于NP-hard问题能够有效地构筑准最佳网络结构。而且，在初期个体群中能够反映出设计者关于网络结构(顺序和连接)的一部分或全部知识。此外，使能网络结构的追加学习。

附图说明

图1是表示本实施方式的学习装置的概略结构的图。

图2是示出了当构筑贝叶斯网络模型时所使用的学习数据的例子的图。

图3(A)和图3(B)是示出了二维基因型及其表现型的例子的示意图。

图4为说明使用遗传算法搜索最佳个体的步骤的流程图。

图5(A)和图5(B)为用于说明BD Metric的计算算式的图。

图6(A)和图6(B)是示出了在经典遗传算法中顺序的交叉处理和突变处理中产生的致命基因的例子的图。

图7(A)和图7(B)是示出了在亲个体的顺序相同情况下的连接的交叉处理的例子的图。

图8(A)和图8(B)是示出了在亲个体的顺序不同的情况下的顺序的交叉处理的例子的图。

图9(A)和图9(B)是示出了连接的突变处理的例子的图。

图10(A)和图10(B)是示出了顺序的突变处理的例子的图。

图11(A)～图11(C)是示出了在顺序的突变处理之后执行连接的突变处理的例子的图。

图12(A)和图12(B)是示出了作为顺序的交叉处理的结果、与某一子节点具有因果关系的亲节点的数目超出上限的例子的图。

图13(A)和图13(B)是示出了调整基因以防止具有因果关系的亲节点的数目不超过上限的例子的图。

图14示出了四个有向非循环图和在N′_ijk＝1条件下计算的评价值的图。

图15(A)和图15(B)是说明创建当计算图14的评价值时所用的学习数据的方法的图。

图16是示出了四个有向非循环图和通过一个实施方式的方法计算的评价值的图。

图17为说明用于获得具体学习数据的方法的图。

图18为说明用于获得具体学习数据的方法的图。

图19为说明用于获得具体学习数据的方法的图。

图20为说明用于获得具体学习数据的方法的图。

图21是示出了基于学习数据通过K2算法获得的网络结构的图。

图22是示出了使用图21的网络结构作为初期结构进行追加学习时的第二十代网络结构的图。

图23是示出了使用图21的网络结构作为初期结构进行追加学习时的第四十代网络结构的图。

图24是示出了使用图21的网络结构作为初期结构进行追加学习时的第六十代网络结构的图。

图25是示出了使用图21的网络结构作为初期结构进行追加学习时的第八十代网络结构的图。

图26是示出了应用本发明的第二实施方式中的学习装置的概略结构的图。

图27(A)～图27(D)是表示2TBN中的表现型的一例的图。

图28(A)和图28(B)是表示2TBN中的二维基因型的一例的图。

图29为说明使用遗传算法搜索最佳个体的步骤的流程图。

图30是说明创建当计算评价值时所用的学习数据的方法的图。

图31是说明创建当计算评价值时所用的学习数据的方法的图。

图32(A)、32(B)是示出基于学习数据通过K2算法获得的网络结构的图。

标号说明

1学习装置，10学习数据存储部分，11学习部分，12模型存储部分

具体实施方式

以下，将结合附图具体说明本发明的具体实施例。在一个实施例中，本发明应用于一种基于学习数据来构筑贝叶斯网络的网络结构的学习装置。

首先，将本发明实施例的学习装置的结构在图1中示意出来。如图1中所示，本实施方式的学习装置1包括学习数据存储部分10、学习部分11和模型存储部分12。

在构筑贝叶斯网络模型时使用的学习数据被存储到学习数据存储部分10。在图2中示出存在X₀到X₄的共五个节点的情况下的离散完全数据的例子。在图2中，以X_i ^jk的形式表现各学习数据。其中i表示节点ID，j表示事件ID，即，表示是第几个得到的学习数据，以及k表示状态ID，即，表示在每个节点的状态。那就是说，X_i ^jk代表对于节点X_i第j个得到的学习数据的状态由状态ID＝k表示。

学习部分11基于在学习数据存储部分10中存储的学习数据，构筑贝叶斯网络的模型。特别是学习部分11通过使用遗传算法来同时决定构成贝叶斯网络的网络结构的节点之间的顺序和连接。通过这样使用遗传算法，从而对于NP-Hard问题能够有效地构筑准最佳网络结构。由学习部分11构筑的模型被存储在模型存储部分12中。

接着，具体说明在学习部分11中用于构建网络结构的处理。接下来，为了简单，假定具有5个节点，从X₀到X₄。

本实施方式的学习部分11通过如图3(A)中所示的二维基因型，表示在贝叶斯网络的网络结构即遗传算法中使用的个体。在图3(A)中，在行和列中的X₀，X₁，X₂，X₃和X₄表示节点之间的顺序，行和列的顺序通常一致。位于对角成分以上的上三角成分的各基因座中的对立基因“0”和“1”表示从亲节点到子节点的连接。这里，“0”表示在亲节点和子节点之间没有因果关系。“1”表示在亲节点和子节点之间存在因果关系。对角成分相当于自循环，位于对角成分以下的下三角成分的各基因座中的对立基因“0”和“1”表示从子节点到亲节点的连接。其中，为保证网络结构的非循环性，假定位于对角成分以下的基因不显现特性。因此，图3(A)中所示的具有二维基因型的个体具有如图3(B)中所示的表现型。

学习部分11把具有这样的二维基因型的许多个体作为初期个体群，使用遗传算法在初期个体群中搜索最佳个体，该个体的表现型被作为准最佳网络结构。

在图4的流程图中将说明使用遗传算法搜索最佳个体的步骤。

首先，在步骤S1，学习部分11创建初期个体群。在这个时候，学习部分11可以随机创建初期个体群，在设计者具有关于网络结构(顺序和连接)知识的情况下，通过将表现型转换为二维基因型并执行突变处理来创建初期个体群。后面的方法能够将设计者的关于网络结构的知识全面或者部分地反映在初期个体群中。而且，学习部分11可以从由学习结果的个体中创建初期个体群。在这种情况下，使网络结构的追加学习也成为可能。

然后，在步骤S2，学习部分11基于存储于学习数据存储部分10中的学习数据来计算每个个体的评价值(遗传算法中的适应度)。具体地，根据下面的算式(1)计算出BD Metric(P(D|B_s))，并且将其对数作为评价值。

[算式1]

$P\left(D\right|B_s)=\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}\underset{j=0}{\overset{q_i-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}\left({N^{\′}}_{\mathrm{ij}}\right)}{\mathrm{\Γ}({N^{\′}}_{\mathrm{ij}}+N_{\mathrm{ij}})}\underset{k=0}{\overset{r_i-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}({N^{\′}}_{\mathrm{ijk}}+N_{\mathrm{ijk}})}{\mathrm{\Γ}\left({N^{\′}}_{\mathrm{ijk}}\right)}---\left(1\right)$

在这个算式(1)中，D为存储在学习数据存储部分10中的学习数据，B_s表示在贝叶斯网络的网络结构即遗传算法中使用的个体，P(D|B_s)为在B_s条件下D的概率，Γ为伽马(gamma)函数即Γ(n)＝(n-1)！。由于(n-1)！＝n！/n，因而认为0！＝1！/1＝1，因此，为了方便，设为0！＝1。而且，如图5(A)中所示，令节点的数目为n，令第i个节点为X_i，令X_i的第k个能够取的值为v_ik。r_i为X_i能够取的值的数目(状态数)。如图5(B)中所示，令X_i的亲节点表为П_i，令П_i的第j个模式(pattern)(能够取的值)为W_ij。q_i为П_i的模式的数目。此外，N_ijk是X_i的值为v_ik并且П_i为w_ij的学习数据D中数据的数目，根据下面算式(2)计算出N_ij。此外，N′_ijk和N′_ij与设计者的现有知识(prior knowledge)有关，并且能够与N_ijk和N_ij同样进行处理，具体内容将在下文中叙述。

[算式2]

$N_{\mathrm{ij}}=\underset{k=0}{\overset{r_i-1}{\mathrm{\Σ}}}{N}_{\mathrm{ijk}}---\left(2\right)$

实际上，存储于学习数据存储部分10中的学习数据可能具有丢失数据或者可能是连续数量而不是离散数据，例如，在Richard E.Neapolitan所著“LEARNING BAYESIAN NETWORKS(学习贝叶斯网络)”，ISBN0-13-012534-2中描述了一种应对丢失数据或连续数量的方法。

接下来，在步骤S3，学习部分11判别是否满足了结束条件。具体来说，结束条件可以是代的数目已经超过了阈值或者评价值变化率成为阈值以下。如果不满足结束条件的情况下，则控制进行到S4，如果满足结束条件的情况下，则选择评价值最高的个体，并且结束。

接下来，在步骤S4，学习部分11基于评价值从现在的个体群中选择下一个体群。就是说，基于评价值从现在的个体群中许可重复的同时选择规定数目的个体。作为选择方法，可使用旋转轮选择(roulette wheel selection)、联赛选择(tournament selection)、和精华保留(elite reservation)等的在遗传算法中通常使用的方法。然而，由于作为评价值的BD Metric的对数为负值，因此不能如旋转轮选择这样直接应用以与评价值成比例的概率来进行选择的方法。因此，也可以使用玻尔兹曼分布将评价值预先转换为正值。

接下来，在步骤S5和S6，学习部分11根据规定的交叉概率，对包含在现在的个体群中的个体进行交叉处理，同时根据规定的突变率执行突变处理。在这个交叉处理中，从两个亲个体生成两个子个体，在突变处理中，从一个亲个体生成一个子个体。此时，所生成的子个体可以置换亲个体，也可以使子个体和亲个体共存。

特别在顺序的交叉处理和突变处理中，在使用经典的遗传算法情况下，如图6所示，容易地产生了致命基因。例如，如图6(A)所示，在顺序为X₀、X₁、X₂、X₃、X₄的个体与顺序为X₃、X₁、X₀、X₄、X₂的个体以第三和第四节点之间作为交叉点而交叉的情况下，在同一个体中存在相同节点ID的节点，因此成为致命基因。而且，如图6(B)所示，在执行在顺序为X₀、X₁、X₂、X₃、X₄的个体的位置X₂进行突变处理从而产生X₄的情况下，在同一个体中存在了具有相同节点ID的节点，因此成为致命基因。这样，如果容易产生致命基因则学习效率低，因此需要防止致命基因产生的框架。

另外，当使用遗传算法构筑贝叶斯网络的网络结构时的顺序的交叉处理或突变处理本质上与旅行推销员(travelling salesman)问题等价，并且已经提出了各种方法(参照文献P.Larranaga、C.Kuijpers、R.Murga和Y.Yurramendi所著“Learning Bayesian network structures by searching for the best orderingwith genetic algorithms”，IEEE Transactions on Systems，Man and Cybernetics(IEEE系统、人、和控制论学报)，26(4)，p.487-493，1996)。

接下来，首先对步骤S5的交叉处理举出具体例子来进行说明。

在图7中示出了在亲个体的顺序相同的情况下交叉处理的例子。在该情况下，仅是连接的交叉处理。如图7(A)所示，如果对顺序为X₀、X₁、X₂、X₃、X₄的两个亲个体，分别以第三和第四节点之间作为交叉点，交换其后面的基因，则获得了如图7(B)中所示的子个体。如从图7(B)中能够看到的，亲个体的连接遗传给子个体。

在图8中示出了在亲个体的顺序不同的情况下顺序的交叉处理的例子。对于顺序交叉的处理，例如，可以使用PMX(partially-mapped crossover，部分映射交叉)。在此PMX中，1)随机选择两个交叉点，2)交换该交叉点之间的节点，3)各节点在其个体内，3-1)如果未使用则原样使用，3-2)如果该已经使用，则与成为交换前的节点的映射的节点进行交换，3-3)如果该节点也已经被使用了，则与成为该节点的映射的节点进行交换。此时，已交换节点继承与自身亲节点(或子节点)的连接。如图8(A)所示，如果对于顺序为X₀、X₁、X₂、X₃、X₄的亲个体和顺序为X₂、X₀、X₄、X₃、X₁的亲个体，以第二和第三节点之间以及第四和第五节点之间作为交叉点，按照PMX方法，将交叉点之间的节点交换，则获得如图8(B)所示的子个体。如能从图8(B)看出的，亲个体的顺序和连接已经遗传给子个体。

在如图7(A)中所示这样，亲个体的顺序相同的情况下，如果根据PMX方法执行顺序的交叉处理，那么获得如图7(B)中的相同的子个体。换言之，在图7中所示的连接的交叉处理是顺序的交叉处理的特殊情况(亲个体的顺序相同的情况)，仅通过执行顺序的交叉处理，其结果也执行用于连接的交叉处理。

接下来，采用具体例子说明在步骤S6中的突变处理。

图9中示出了连接的突变处理的例子。通过将位于任意基因座的基因反转到对立基因来实现该连接的突变处理。如图9(A)中所示，对于顺序为X₀、X₁、X₂、X₃、X₄的亲个体，如果将亲节点为X₃且子节点为X₁的基因座的基因“0”反转到对立基因“1”，并且将亲节点为X₄且子节点为X₀的基因座的基因“1”反转到对立基因“0”，那么获得如图9(B)中所示的子个体。

图10中示出了用于顺序突变处理的例子。顺序的突变处理例如可以使用IVM(inversion mutation，反转突变)。该IVM包括1)随机选择一个以上的连续节点并且去除它们，并且2)反转已去除的多个节点的顺序后插入到随机位置。如图10(A)中所示，如果对顺序为X₀、X₁、X₂、X₃、X₄的亲个体选择并去除连续的两个节点X₂和X₃，并在将其顺序反转后插入到X₄之后，那么获得如图10(B)中所示的子个体。

由于图9中所示的连接的突变处理和图10中所示的顺序的突变处理相互独立，因此两者能够同时执行。然而，根据首先执行哪种处理，获得的子个体不同。图11中示出了在执行顺序的突变处理之后执行连接的突变处理的例子。如图11(A)中所示，如果对顺序为X₀、X₁、X₂、X₃、X₄的亲个体选择并去除连续的两个节点X₂和X₃，并在将其顺序反转后插入到X₄之后，即，如果执行顺序的突变处理，则获得如图11(B)中所示的个体。而且，关于这个个体，如果将亲节点为X₃且子节点为X₁的基因座的基因“0”反转到对立基因“1”，并且将亲节点为X₄且子节点为X₀的基因座的基因“1”反转到对立基因“0”，即如果执行连接的突变处理，则获得了如图11(C)所示的个体。

返回图4，在步骤S7限制亲节点的数目，然后再次返回步骤S2。即，对于每个个体的每个子节点，预先对与自身具有因果关系的亲节点的数目(FanIn)预先设置上限数目(MaxFanIn)，在步骤S5和S6的交叉处理、突变处理的结果，与任意子节点具有因果关系的亲节点的数目超出了上限数目的情况下，调整基因以使得FanIn≤MaxFanIn。如图12、图13中表示亲节点的数目以这种方式得到限制的例子。如图12(A)所示，对于顺序为X₀、X₁、X₂、X₃、X₄的亲个体和顺序为X₂、X₀、X₄、X₃、X₁的亲个体，如果以第二和第三节点之间、第四和第五节点之间作为交叉点，按照PMX方法交换交叉点之间的节点，则获得如图12(B)中所示的子个体。这里，在图中左侧的子个体，与子节点X₀具有因果关系的亲节点的数目(FanIn)为4，超过了上限数目(MaxFanIn)3。因此，通过将图13(A)中所示的个体中的例如亲节点为X₃且子节点为X₀的基因座的基因“1”反转到对立基因“0”，来生成如图13B中所示的个体，从而使得FanIn≤MaxFanIn。

另外，当基因被反转为对立基因以使FanIn≤MaxFanIn时，所反转的基因可以是随机选择的，也可以选择以使其个体的评价值变得最大。在后面的情况中，需要对具有其亲节点数目超过上限数目的子节点的个体计算评价值，但关于这个个体，可以不需要在步骤S2计算评价值，可以利用在步骤S7中计算的评价值。

这样，根据本实施方式的学习装置1，以二维基因型表现贝叶斯网络的网络结构(顺序和连接)，即在遗传算法中使用的个体，将具有二维基因型的多个个体作为初期个体群，使用遗传算法从该初期个体群中搜索最佳个体，并将个体的表现型作为贝叶斯网络的网络结构，从而可以构筑对NP-hard问题有效的准最佳网络结构。

而且，根据学习装置1，在设计者具有关于网络结构(顺序和连接)的知识的情况下，将表现型转换为二维基因型来执行突变处理以生成初期个体群，从而能够将设计者的有关网络结构的知识全部或部分反映在初期个体群中。另外，在要使一部分节点中顺序和连接固定的情况下，也可以将具有与该固定的顺序或连接不同的二维基因型的个体视作致命基因，并在上述步骤S4中从选择对象中去除。

此外，根据学习装置1，通过从学习结果的个体中生成初期个体群，从而也能够进行网络结构的追加学习。

在图4中的流程图中，学习装置11执行交叉处理和突变处理两者，但也可以仅执行其中一个。

如算式(1)中所示，BD Metric主要由通过网络结构和学习数据确定的N_ijk和通过设计者的现有知识确定的N′_ijk组成。通常，关于某节点X_i和其亲节点，在设计者的现有知识能如p(v_ik，w_ij)这样对所有的i和j进行定义的情况下，则根据随后的算式(3)计算出N′_ijk。在算式(3)中，N′称为equivalentsample size(等同样本大小)，是用于设定将由现有知识得到的信息假定为何种程度的样本数目的参数。

[算式3]

N′_ijk＝p(v_ik，w_ij)×N′               (3)

在设计者具有关于网络结构的现有知识的情况下，能够通过把以这种方式计算出的N′_ijk代入上述算式(1)中而反映设计者的现有知识。

另一方面，在设计者不具有这样的现有知识的情况下，一般在N′_iik＝1的条件下计算BD Metric。在N′_ijk＝1的条件下计算的BD Metric特别被称为K2 Metric。

然而，在以此方式假定N′_ijk＝1的情况下，即使是属于相同马尔可夫(Morkov)等价类(推论结果的相同的类)的有向非循环图(Directed AcyclicGraph；DAG)，计算出的BD Metric值也可能不同(参照“http//mikilab.doshisha.ac.jp/dia/research/report/2002/0507//0009/report20020507009.html”等)。

作为一个例子，现在考虑如图14中所示的阴天(Cloudy)、洒水装置(Sprinkler)、下雨(Rain)和湿草(WetGrass)四个节点组成的网络结构。

在图14中所示的DAG中，G1到G3具有相同的链接并且具有洒水装置→湿草←下雨这样的相同的uncoupled head-to-head meeting(非耦接的头头相遇)，因此，能够以相同的DAG模式gp表现。然而，G4具有与G1到G3相同的链接，但是另外具有如洒水装置→阴天←下雨这样的uncoupled head-to-head meeting，因此不能以DAG模式gp表现。在图14中，当向这样的四个DAG给出某些学习数据时，也一并示出了在N′_ijk＝1条件下计算出的评价值(BD Metric的对数)。

另外，如图15A中所示，以在下面使用带条件概率表(ConditionalProbability Table；CPT)的DAG的方式来创建学习数据。那就是，在作为亲子关系的最高等级节点的阴天上，基于条件概率表，首先概率性确定该节点是真还是假。现在假定阴天＝真。在作为阴天的子节点的洒水装置和下雨中的每个，然后基于在亲条件下的条件概率表，概率性地作出关于该节点是真还是假的结论。在此假定洒水装置＝假并且下雨＝真。则在作为洒水装置和下雨的子节点的湿草，基于在亲条件下的条件概率表，概率性地确定该节点是真还是假。这样，则创建了关于一个事件的学习数据。如图15(B)中所示，类似地创建了关于1000个事件的学习数据。

如图14中所示，其中作出N′_ijk＝1的假定，G1和G3的评价值与G2的评价值不同。在以此方式假定N′_ijk＝1的情况下，应该产生相同评价值、并且属于相同Markov等价类的DAG，即能够以相同DAG模式表示的DAG，可以产生不同的BD Metric的计算值。

因此，当如上所述将BD Metric的对数作为评价值并且基于该评价值搜索最佳网络结构的情况下，假定N′_ijk＝1是不合适的。

因此，在本实施例中，如下确定N′_ijk，以使只要是属于相同Markov等价类的DAG，则计算出的BD Metric的值相同。

首先，在第一方法中，在节点X_i的状态数目设为r_i时，根据下面的算式(4)计算所有的它们各自的同时概率分布p(X₀，X₁，......，X_n-1)。

[算式4]

$p(X_0,X_1,\·\·\·X_{n-1})=1/\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}{r}_i---\left(4\right)$

同时发生频率c(X₀，X₁，......，X_n-1)全部设为1，使现有知识的影响最小化。在这种状态下，由下面给出的算式(5)确定N′_ijk。

[算式5]

${N^{\′}}_{\mathrm{ijk}}=\left(\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}{r}_i\right)/r_i{q}_i---\left(5\right)$

在这个第一方法中，N′_ijk的值随着节点数目n或状态数目r_i的增大而增大，因此，存在学习数据的影响N_ijk变得比现有知识的影响N′_ijk的小的可能性。因此，在第二方法中，假设N′_ijk＝0以消除现有知识的影响。

图16示出关于如图14中所示的四个DAG，由第一方法和第二方法确定的N′_ijk而计算出的评价值。如图16中所示，在由第一方法和第二方法确定N′_ijk的情况下，G1～G3的评价值全部相同。

下面描述一种具体实施例。在这个实施例中，假定通过安装到电视接收器(以下简称作“电视”)的摄像机来观察用户，从而假设用于推断用户行为的贝叶斯网络模型，根据预先准备的学习数据来构筑该网络结构。

学习数据已经以下面所述的方式准备好。

首先，如图17-20中所示，由摄像机拍摄在电视前进行操作的使用者，从其输入的图像，识别了

·FaceDir：(FaceDirection)：脸部的方向；

·FacePlace：脸部的位置；

·FaceSize：脸部的大小；

·OptiFlow(OpticalFlowDirection)：用户的运动的四个种类。即，关于FaceDir，如图17中所示，将输入图像在上下方向上进行3分割并且在左右方向上进行5分割，假设用户的脸部在中心位置的情况下，根据朝向15个区域中的哪个区域的方向或者用户的脸部是否存在于输入图像中而分为共16个状态。此外，关于FacePlace，采用矢量量化方法，例如图18这样，将所有学习数据中的脸部位置信息进行分类，根据用户的脸部存在于9个区域中哪一个区域，或者用户的脸部是否存在于输入图像中而分为共10个状态。关于FaceSize，根据用户脸部的大小最接近于如图19中所示的4个大小中的哪一个或者用户的脸部是否存在于输入图像中而分为共5个状态。关于OptiFlow，根据用户的运动方向最接近于如图20中所示的8个方向中的哪一个或者在输入图像中是否存在运动而分为共9个状态。

接着，对于该识别结果进行：

·Channel(Communication Channel，通信信道)：用户是否面对电视。

·ComSignal(Communication Signal，通信信号)：用户是否正在操作电视。

·UserGoalTV：用户是否意识到电视。

·UserPresence：用户是否存在于电视之前的四种标记。另外，该标记均为YES或NO的二值(2状态)。

而且，为了处理动态事件，考虑上述识别结果以及标记的时序。另外，对某时刻发生的数据加后缀“_t_0”，对一个时间单位(tick)之前的数据加后缀“_t_1”，两个时间单位之前发生的数据加后缀“_t_2”，例如“FacePlace_t_0”这样表现。

如果四种认知结果和四种标记每个用于3个时间单位，则节点的数目是24。假定时间单位间隔为1秒，从大约90分钟的活动画面(30帧/秒)起已经准备大约165,000个事件的学习数据。

图21表示基于该学习数据使用K2算法构筑的网络结构。在这个时候，在节点之间的顺序如下。

FacePlace_t_0，FaceSize_t_0，FaceDir_t_0，OptiFlow_t_0，Channel_t_0，ComSignal_t_0，UserGoalTV_t_0，UserPresence_t_0，FacePlace_t_1，FaceSize_t_1，FaceDir_t_1，OptiFlow_t_1，Channel_t_1，ComSignal_t_1，UserGoalTV_t_1，UserPresence_t_1，FacePlace_t_2，FaceSize_t_2，FaceDir_t_2，OptiFlow_t_2，Channel_t_2，ComSignal_t_2，UserGoalTV_t_2，UserPresence_t_2。

在本实施例中，使用该图21中所示的网络结构作为初始结构、并且基于与上述相同的学习数据，进行网络结构的追加学习。图22～图25中所示为在学习过程中的网络结构的变化。该图22～图25分别示出了第20代、第40代、第60代和第80代的网络结构。从图21-25能够看出，随着重复代交替，精华个体的评价值(BD Metric的对数)增加。从第80代到第200代评价值不改变。因此，可以说在大约第80代收敛并且构筑准最佳网络结构。另外，最终的节点之间的顺序如下。

FaceDir_t_0，FaceSize_t_0，FacePlace_t_0，Channel_t_0，OptiFlow_t_0，UserPresence_t_0，FaceDir_t_1，UserGoalTV_t_0，FaceSize_t_1，FacePlace_t_1，ComSignal_t_1，Channel_t_2，Channel_t_1，ComSignal_t_0，OptiFlow_t_1，FaceSize_t_2，FaceDir_t_2，FacePlace_t_2，ComSignal_t_2，OptiFlow_t_2，UserGoalTV_t_1，UserGoalTV_t_2，UserPresence_t_1，UserPresence_t_2。

本发明作为与上述实施方式不同的实施方式(以下称作第二实施方式)，也可以将以有向图代表的多个节点之间的动态因果关系的动态贝叶斯网络的网络结构应用于基于学习数据而构筑的学习装置。以下，说明应用了本发明的第二实施方式中的学习装置。

首先，图26表示应用了本发明的第二实施方式的学习装置的概略结构。如图26所示，学习装置2由学习数据存储部分20、学习部分21和模型存储部分22构成。另外，省略与学习装置1同样的结构的详细说明。

在上述学习装置1中的贝叶斯网络中，描述了固定数目的节点的概率分布，但学习装置2中的贝叶斯网络中，将该固定数目的节点的概率分布扩展为时间序列处理。

如算式(6)所示这样，该时间序列处理在概率变量X中为马尔可夫连锁(Markovian)。

[算式6]

P(X[t+1]|X[0]，...，X[t])＝P(X[t+1]|X[t])         …(6)

此外，该时间序列处理不变(stationary)，P(X[t+1]X[t])相对于t独立。

由此，在动态贝叶斯网络中，例如，以确定图27(A)所示的t＝0的初期状态X[0]中的节点的分布(distribution)的初期网络B₀的表现型和如图27(B)所示的在全部t中确定迁移概略P(X[t+1]X[t])的迁移网络B_t的表现型来表现存在从X₁到X₃的共三个节点的个体的表现型。

在本例中，能够以如图27(C)所示的X[0]，...，X[∞]的半无限大的形式，或如图27(D)所示的X[0]，...，X[T]的展开的形式表现初期网络B₀和迁移网络B_t的组(B₀，B_t)。

这样，以初期网络B₀和迁移网络B_t的组(B₀，B_t)表现的动态贝叶斯网络称作2TBN(2-time-slice Bayesian Network，2时间片断贝叶斯网络)。

学习数据存储部分20中存储了在构筑动态贝叶斯网络的模型时所使用的学习数据。例如，在存在X₁到X₃的共3个节点的情况下，学习数据存储部分20中存储了t＝0的节点的X₁[0]、X₂[0]、X₃[0]。

学习部分21基于存储在学习数据存储部分20中的学习数据，构筑动态贝叶斯网络的模型。由该学习部分21构筑的模型被存储在模型存储部分22中。

接着，说明在学习部分21中构筑网络结构的处理。另外，以下为了简单，节点假设X₁到X₃的共3个。

学习部分21构筑动态贝叶斯网络的网络结构，即以图28(A)所示的初期网络B₀的二维基因型和图28(B)所示的迁移网络B_t的二维基因型表现遗传算法所使用的个体。

在图28(A)所示的初期网络B₀的二维基因中，与上述实施方式的学习装置1同样，行和列中的x1，x2，x3表示节点之间的顺序，行和列的顺序通常一致。而且，位于对角成分以上的上三角成分的各基因座中的对立基因“0”和“1”表示从亲节点到子节点的连接。这里，“0”表示在亲节点和子节点之间没有因果关系。“1”表示在亲节点和子节点之间存在因果关系。而且，对角成分相当于自循环，位于对角成分以下的下三角成分的各基因座中的对立基因“0”和“1”表示从子节点到亲节点的连接。其中，为保证网络结构的非循环性，假定位于对角成分以下的基因不显现特性。因此，图28(A)中所示的具有二维基因型的个体具有如图27(A)中所示。

另一方面，在图28(B)所示的迁移网络B_t的二维基因型中，分别以不同的二维基因型表现时刻t的节点之间的因果关系和从时刻t-1到时刻t的节点之间的因果关系。表现时刻t的节点之间的因果关系的二维基因型与时刻t＝0的初期网络B₀的情况同样，对角成分以下的基因不显现特性。另一方面，表示从时刻t-1到时刻t的节点之间的因果关系的二维基因型在对角成分以下的基因不显现特性。

学习部分21将具有这样的二维基因型的多个个体作为初期个体群，使用遗传算法从该初期个体群中搜索最佳个体，并将个体的表现型作为准最佳网络结构。

这里，参照图29的流程图说明学习部分21使用基因算法搜索最佳的个体的步骤。另外，该处理动作与上述实施方式中的图4的流程图所示的处理动作基本上同样，关于同样的内容省略详细的说明。

首先，在步骤S11中，学习部分21生成初期个体群。2TBN中的初期个体群包括：具有表示初期网络B₀的二维基因型的多个个体、具有表示迁移网络B_t中的时刻t的节点之间的因果关系的二维基因型的多个个体、以及表示在迁移网络B_t中从时刻t-1到时刻t的节点之间的因果关系的二维基因型的多个个体。

接着，在步骤S12中，学习部分21基于存储在学习数据存储部分20中的学习数据，计算每个个体的评价值(遗传算法中的适应度)。具体地，根据下面的算式(7)计算出2TBN中的BD Metric(P(D|G))，并且将其对数作为评价值。

[算式7]

$P\left(D\right|G)=\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}\underset{j=0}{\overset{q_i^G-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}\left({{N^{\′}}^G}_{\mathrm{ij}}\right)}{\mathrm{\Γ}({{N^{\′}}^G}_{\mathrm{ij}}+{N^G}_{\mathrm{ij}})}\underset{k=0}{\overset{r_i-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}({{N^{\′}}^G}_{\mathrm{ijk}}+{N^G}_{\mathrm{ijk}})}{\mathrm{\Γ}\left({{N^{\′}}^G}_{\mathrm{ijk}}\right)}---\left(7\right)$

在这个算式(7)中，与上述实施方式中的学习装置1同样，D为存储在学习数据存储部分10中的学习数据，G是动态贝叶斯网络的网络结构即遗传算法中使用的个体，P(D|G)为在G条件下D的概率。此外，与上述实施方式中的学习装置1同样，Γ为伽马函数，为Γ(n)＝(n-1)！。此外，如图5所示，令节点的数目为n，令第i个节点为X_i，令X_i的第k个能够取的值为v_ik。r_i为X_i能够取的值的数目(状态数)。此外如图5(B)所示，令X_i的亲节点模式为П_i，令П_i的第j个模式(能够取的值)为W_ij。q_i为П_i的模式的数目。此外，N^G _ijk是X_i的值为v_ik并且П_i为W_ij的学习数据D中数据的数目，根据下面算式(8)计算出N^G _ij。此外，N′^G _ijk和N′^G _ij与设计者的现有知识(priorknowledge)有关，并且能够与N^G _ijk和N^G _ij同样进行处理，具体内容将在下文中叙述。

[算式8]

${{N^{\′}}^G}_{\mathrm{ijk}}=\left(\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}{r}_i\right)/r_i{q}_i---\left(8\right)$

算式(7)如以下的算式(9)所示这样，被表示为具有初期网络B₀的网络结构的个体的评价值和具有迁移网络B_t的个体的评价值之积。

[算式9]

P(D|G)＝P(D|B₀)·P(D|B_t)                           ...(9)

这里，P(D|B₀)由以下的算式(10)表示。基于图30的带条件概率表的t＝0的节点X₁、X₂、X₃的学习数据和初期网络B₀的结构计算出的N^B0、N′^B0表示该P(D|B₀)。

[算式10]

$P\left(D\right|B_0)=\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}\underset{j=0}{\overset{q_i^G-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}\left({{N^{\′}}^{B_0}}_{\mathrm{ij}}\right)}{\mathrm{\Γ}({{N^{\′}}^{B_0}}_{\mathrm{ij}}+{N^{B_0}}_{\mathrm{ij}})}\underset{k=0}{\overset{r_i-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}({{N^{\′}}^{B_0}}_{\mathrm{ijk}}+{N^{B_0}}_{\mathrm{ijk}})}{\mathrm{\Γ}\left({{N^{\′}}^{B_0}}_{\mathrm{ijk}}\right)}---\left(10\right)$

此外，由以下的算式(11)表示P(D|B_t)。该P(D|B_t)将基于图31的带条件概率表的学习数据内、时间序列数据中连续的2时刻的节点X₁[t-1]、X₂[t-1]、X₃[t-1]、X₁[t]、X₂[t]、X₃[t]中的学习数据作为一组来应用。此外，使用从迁移网络B_t的结构计算出的N^Bt、N′^Bt表示该P(D|B_t)。

[算式11]

$P\left(D\right|B_t)=\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}\underset{j=0}{\overset{q_i^G-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}\left({{N^{\′}}^{B_t}}_{\mathrm{ij}}\right)}{\mathrm{\Γ}({{N^{\′}}^{B_t}}_{\mathrm{ij}}+{N^{B_t}}_{\mathrm{ij}})}\underset{k=0}{\overset{r_i-1}{\mathrm{\Π}}}\frac{\mathrm{\Γ}({{N^{\′}}^{B_t}}_{\mathrm{ijk}}+{N^{B_t}}_{\mathrm{ijk}})}{\mathrm{\Γ}\left({{N^{\′}}^{B_t}}_{\mathrm{ijk}}\right)}---\left(11\right)$

接着，在步骤S13中，学习部分21判别是否满足了结束条件。在未满足结束条件的情况下进至步骤S14，在满足了结束条件的情况下，选择评价值最高的个体并结束。

接下来，在步骤S14，学习部分21基于评价值从现在的个体群中选择下一个体群。就是说，基于评价值从现在的个体群中许可重复的同时选择规定数目的个体。

接下来，在步骤S15和S16，学习部分21根据规定的交叉概率，对包含在现在的个体群中的个体进行交叉处理，同时根据规定的突变率执行突变处理。

在该情况下也与上述实施方式中的学习装置1同样，特别在顺序的交叉处理以及突变处理中使用经典的遗传算法的方法的情况下，需要使得不发生致命基因的框架。

接着，在步骤S17限制亲节点的数目，然后再次返回步骤S12。

这样，根据应用了本发明的第二实施方式的学习装置2，以表示初期网络B₀的二维基因型、表示迁移网络B_t中的时刻t的节点之间的因果关系的二维基因型以及表示在迁移网络B_t中从时刻t-1到时刻t的节点之间的因果关系的二维基因型来表现2TBN的网络结构(顺序以及连接)，即遗传算法所使用的个体，将具有各个二维基因型的多个个体作为初期个体群，使用遗传算法从该初期个体群中搜索最佳的个体，并将该个体的表现型作为动态贝叶斯网络的网络结构，从而对于NP-Hard问题能够有效率地构筑准最佳网络结构。

为了通过上述实施方式中的贝叶斯网络来表现动态的现象，必须事先指定time-slice(时间片断)的数目，不能处理指定数目以上的time-slice。

而根据学习装置2，能够通过初期网络B₀和迁移网络B_t表现无限数目的time-slice。

此外，根据学习装置2，能够应用2TBN，使用从时刻t-1到时刻t中的时间序列数据，学习节点之间的动态的因果关系的图形模型。

此外，根据学习装置2，在从时间序列数据学习动态因果关系的图形模型时，能够准备初期网络B₀的网络结构作为设计者的现有知识，并且能够从该网络结构进行追加学习。

以下，说明应用了本发明的第二实施方式中的学习装置2的具体的实施例。该实施例与上述实施方式中的学习装置1同样，假定通过安装到电视的摄像机来观察用户，从而推断用户行为的贝叶斯网络模型，根据预先准备的学习数据来构筑该网络结构。

学习数据与学习装置1同样，已经以下面所述的方式准备好。

首先，如图17-20中所示，由摄像机拍摄在电视前进行操作的使用者，从其输入的图像，识别了

·FaceDir：(FaceDirection)：脸部的方向；

·FacePlace：脸部的位置；

·FaceSize：脸部的大小；

·OptiFlow(OpticalFlowDirection)：用户的运动的四个种类。

接着，对于该识别结果进行：

·Channel(Communication Channel)：用户是否面对电视。

·ComSignal(Communication Signal)：用户是否正在操作电视。

·UserGoalTV：用户是否意识到电视。

·UserPresence：用户是否存在于电视之前的四种标记。另外，该标记均为YES或NO的二值(2状态)。

将时间单位间隔设为1[s]，从约90分钟的活动画面准备约165000个事件的时间序列数据而进行了学习。

图32表示基于该学习数据使用K2算法构筑的网络结构。

此时，图32(A)所示的初期网络B₀中的节点之间的顺序如下。

FacePlace，FaceSize，FaceDir，OptiFlow，UserPresence，UserGoalTV，Channel，ComSignal。

此外，图32(B)所示的迁移网络B_t中的节点之间的顺序如下。

FacePlace_t-1，FaceSize_t-1，FaceDir_t-1，OptiFlow_t-1，UserPresence_t-1，UserGoalTV_t-1，Channel_t-1，ComSignal_t-1，FacePlace_t，FaceSize_t，FaceDir_t，OptiFlow_t，UserPresence_t，UserGoalTV_t，Channel_t，ComSignal_t。

以上，说明了用于实施本发明的最佳方式，但本发明不仅限定于上述实施方式，当然在不脱离本发明的主旨的范围内可以得到各种变更。

Claims (10)

1.一种学习装置，基于学习数据构筑贝叶斯网络的网络结构，所述贝叶斯网络以有向图代表多个节点之间的因果关系，其特征在于，包括：

存储部件，存储上述学习数据；以及

学习部件，基于上述学习数据构筑上述网络结构；

上述学习部件准备由均具有基因型的个体组成的初期个体群，在该基因型中分别规定了上述多个节点之间的顺序以及因果关系，基于遗传算法对上述初期个体群重复地执行交叉处理和/或突变处理，同时基于上述学习数据计算每个个体的评价值，搜索最佳的个体，并将该最佳个体的表现型作为上述网络结构，

上述贝叶斯网络是以有向图代表多个节点之间的动态因果关系的动态贝叶斯网络，由初期网络以及迁移网络构成，所述初期网络以有向图代表初期个体群中的多个节点之间的因果关系，所述迁移网络以有向图代表对于从时刻t-1的个体群到时刻t的个体群的多个节点之间的因果关系，同时以有向图代表时刻t的个体群中的多个节点之间的因果关系。

2.如权利要求1所述的学习装置，其特征在于，上述基因型根据规定的顺序将配置在第一方向上的上述多个节点作为亲节点，同时将根据上述规定的顺序配置在与第一方向正交的第二方向上的上述多个节点作为子节点，并且通过在每个亲节点和每个子节点对应的每个基因座上的对立基因，规定对应的节点之间有无因果关系。

3.如权利要求2所述的学习装置，其特征在于，在子节点的顺序与亲节点的顺序相同或者比亲节点的顺序高的基因座处的基因不显现特性。

4.如权利要求2所述的学习装置，其特征在于，在与任意子节点具有因果关系的亲节点的数目超过规定数目的情况下，上述学习部件将与该子节点相关联的一个以上的基因座上的基因反转为其对立基因，使与子节点具有因果关系的亲节点的数目变为规定数目以下。

5.如权利要求1所述的学习装置，其特征在于，上述初期个体群反映设计者的全部或者一部分现有知识。

6.如权利要求1所述的学习装置，其特征在于，上述初期个体群基于作为学习结果而获得的个体。

7.如权利要求1所述的学习装置，其特征在于，

上述评价值为BD Metric的对数，

在n个节点中的第i节点作为子节点X_i，该子节点X_i能取从v_i0到v_iri-1的r_i个值，并且与该子节点X_i具有因果关系的所有亲节点能取的值的模式数目为q_i个时，

如果该子节点X_i的值为v_ik，并且产生与该子节点X_i具有因果关系的所有亲节点的值成为第j模式的数据，则根据下面的算式计算出在取得上述学习数据之前预期的次数N′_ijk：

[算式1]

${N^{\′}}_{\mathrm{ijk}}=\left(\underset{i=0}{\overset{n-1}{\mathrm{\Π}}}{r}_i\right)/r_i{q}_i.$

8.如权利要求1所述的学习装置，其特征在于，

上述评价值为BD Metric的对数，

当n个节点中的第i节点作为子节点X_i，该子节点X_i能取v_i0到v_iri-1的r_i个值，并且与该子节点X_i具有因果关系的所有亲节点能取的值的模式数目为q_i个时，

如果该子节点X_i的值为v_ik，并且产生与该子节点X_i具有因果关系的所有亲节点的值成为第j模式的数据，则在上述学习数据取得之前预期的次数N′_ijk成为N′_ijk＝0。

9.如权利要求1所述的学习装置，其特征在于，对于从上述时刻t-1的个体群到时刻t的个体群的多个节点之间的基因座的全部基因显现特性。

10.一种学习方法，基于学习数据构筑贝叶斯网络的网络结构，所述贝叶斯网络以有向图代表多个节点之间的因果关系，其特征在于，

准备由均具有基因型的个体组成的初期个体群，在该基因型中分别规定了上述多个节点之间的顺序以及因果关系，

基于遗传算法对上述初期个体群重复地执行交叉处理和/或突变处理，同时基于上述学习数据计算每个个体的评价值，搜索最佳的个体，

将该最佳个体的表现型作为上述网络结构，

上述贝叶斯网络是以有向图代表多个节点之间的动态因果关系的动态贝叶斯网络，由初期网络以及迁移网络构成，所述初期网络以有向图代表初期个体群中的多个节点之间的因果关系，所述迁移网络以有向图代表对于从时刻t-1的个体群到时刻t的个体群的多个节点之间的因果关系，同时以有向图代表时刻t的个体群中的多个节点之间的因果关系。

Images