CN112712178A - 一种基于遗传算法的贝叶斯网络结构学习的方法及系统 - Google Patents

一种基于遗传算法的贝叶斯网络结构学习的方法及系统 Download PDF

Info

Publication number
CN112712178A
CN112712178A CN202011607417.6A CN202011607417A CN112712178A CN 112712178 A CN112712178 A CN 112712178A CN 202011607417 A CN202011607417 A CN 202011607417A CN 112712178 A CN112712178 A CN 112712178A
Authority
CN
China
Prior art keywords
individual
fitness
initial population
choice
individuals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011607417.6A
Other languages
English (en)
Inventor
王岩琪
贺东华
方标新
韦章兵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisino Corp
Original Assignee
Aisino Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisino Corp filed Critical Aisino Corp
Priority to CN202011607417.6A priority Critical patent/CN112712178A/zh
Publication of CN112712178A publication Critical patent/CN112712178A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/12—Computing arrangements based on biological models using genetic models
    • G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Algebra (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Analysis (AREA)
  • Physiology (AREA)
  • Genetics & Genomics (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于遗传算法的贝叶斯网络结构学习的方法及系统，属于信息处理及人工智能技术领域。本发明方法，包括：针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；生成新生个体Vi；生成新的个体；对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。本发明具有较好的收敛速度，同时能够跳出局部最优，具有更好的寻优效果。

Description

一种基于遗传算法的贝叶斯网络结构学习的方法及系统
技术领域
本发明涉及信息处理及人工智能技术领域，并且更具体地，涉及一种基于遗传算法的贝叶斯网络结构学习的方法及系统。
背景技术
贝叶斯网络作为一种有效的工具，经常用于处理人工智能领域的不确定性问题。其用图论的方式解释问题结构，按照概率论的原则对问题进行分析。贝叶斯网络结构学习，即从大量的样本数据或应用领域中构造正确的贝叶斯网络结构，主要包括参数学习和结构学习两类方法。其中，结构学习比较复杂，对于给定的数据集，网络结构模型空间的规模可能随着网络节点个数的增加而呈指数增长。
常用的结构学习方法主要有基于约束的方法和基于搜索评分的方法。其中，基于约束的方法学习速度快，但此类方法对计算过程中产生的误差非常敏感，对训练数据集的数量要求较高。基于评分搜索的方法是一种统计驱动的方法，常见协同进化遗传算法学习贝叶斯网络结构，该类方法学习过程中需要较大的搜索空间，收敛速度慢且对计算机的性能要求高。近年来，上述两类方法优点的混合网络结构学习方法成为新的研究热点。但此类方法大多数收敛较慢且有明显的错误边，在数据量不是很大的情况下结构学习精度不足。
发明内容
针对上述问题，本发明一种基于遗传算法的贝叶斯网络结构学习的方法，包括：
针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure BDA0002873940710000021
若个体Xk的适应度值低于平均适应度
Figure BDA0002873940710000022
则从适应度集合中选择高于均适应度
Figure BDA0002873940710000023
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure BDA0002873940710000024
则从适应度集合中选择低于均适应度
Figure BDA0002873940710000025
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
可选的，变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure BDA0002873940710000026
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure BDA0002873940710000031
为初始种群的平均适应度；
ormrnd(En,Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5,3.0)，c2∈(5,15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure BDA0002873940710000032
其中k1、k2为常数，k1、k2∈(0,1)。
可选的，交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure BDA0002873940710000033
将个体适应度高于
Figure BDA0002873940710000034
的加入集合better，适应度低于
Figure BDA0002873940710000035
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
可选的，判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
可选的，进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
本发明还提出了一种基于遗传算法的贝叶斯网络结构学习的系统，包括：
初始化单元，针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
种群生成单元，确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断单元，判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
学习单元，针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure BDA0002873940710000041
若个体Xk的适应度值低于平均适应度
Figure BDA0002873940710000042
则从适应度集合中选择高于均适应度
Figure BDA0002873940710000043
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure BDA0002873940710000044
则从适应度集合中选择低于均适应度
Figure BDA0002873940710000045
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
选择单元，确定若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
输出单元，对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
可选的，变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure BDA0002873940710000046
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure BDA0002873940710000047
为初始种群的平均适应度；
ormrnd(En,Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5,3.0)，c2∈(5,15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure BDA0002873940710000051
其中k1、k2为常数，k1、k2∈(0,1)。
可选的，交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure BDA0002873940710000052
将个体适应度高于
Figure BDA0002873940710000053
的加入集合better，适应度低于
Figure BDA0002873940710000054
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
可选的，判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
可选的，进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
本发明具有较好的收敛速度，同时能够跳出局部最优，具有更好的寻优效果。
附图说明
图1为本发明方法的流程图；
图2为本发明实施例方法的流程图；
图3为本发明实施例学习后得到的最优ASIA网络图；
图4为本发明实施例3种方法的学习过程比较曲线图；
图5为本发明系统的结构图。
具体实施方式
现在参考附图介绍本发明的示例性实施方式，然而，本发明可以用许多不同的形式来实施，并且不局限于此处描述的实施例，提供这些实施例是为了详尽地且完全地公开本发明，并且向所属技术领域的技术人员充分传达本发明的范围。对于表示在附图中的示例性实施方式中的术语并不是对本发明的限定。在附图中，相同的单元/元件使用相同的附图标记。
除非另有说明，此处使用的术语(包括科技术语)对所属技术领域的技术人员具有通常的理解含义。另外，可以理解的是，以通常使用的词典限定的术语，应当被理解为与其相关领域的语境具有一致的含义，而不应该被理解为理想化的或过于正式的意义。
本发明提出了一种基于遗传算法的贝叶斯网络结构学习的方法，如图1所示，包括：
针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure BDA0002873940710000061
若个体Xk的适应度值低于平均适应度
Figure BDA0002873940710000062
则从适应度集合中选择高于均适应度
Figure BDA0002873940710000063
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure BDA0002873940710000064
则从适应度集合中选择低于均适应度
Figure BDA0002873940710000065
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
其中，变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure BDA0002873940710000071
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure BDA0002873940710000072
为初始种群的平均适应度；
ormrnd(En,Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5,3.0)，c2∈(5,15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure BDA0002873940710000073
其中k1、k2为常数，k1、k1∈(0,1)。
其中，交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure BDA0002873940710000074
将个体适应度高于
Figure BDA0002873940710000075
的加入集合better，适应度低于
Figure BDA0002873940710000076
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
其中，判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
其中，进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
下面结合实施例对本发明进行进一步的说明：
如图2所示，本发明方法包括：
步骤1初始化各个阶段的交叉率、变异率、允许的最大迭代次数等参数。
步骤2计算变量之间的互信息，采用MWST算法生成初始的无向图，并根据此生成初始种群。
步骤3若当前迭代次数小于最大迭代次数，执行以下步骤：
步骤3.1个体以云自适应方法产生的变异率Pm进行自身变异。
步骤3.2对于各个体的适应度进行排序，并计算种群X的平均适应度
Figure BDA0002873940710000082
步骤3.3若个体Xk的适应度值低于
Figure BDA0002873940710000083
则从适应度高于
Figure BDA0002873940710000084
的集合中随机匹配个体Xchoice，以交叉率Pc1进行交叉；若个体Xk的适应度值高于
Figure BDA0002873940710000085
则从适应度低于
Figure BDA0002873940710000086
的集合中随机匹配个体Xchoice，以交叉率Pc1进行交叉。
步骤3.4若新生成的个体Vi合法并且比当前个体的适应度更优，则以此个体代替其父代。
步骤3.5生成介于种群最大适应度和最小适应度的随机值f′，从种群中选择适应度值最接近f′的个体与全局最优个体以交叉率Pc2进行交叉。
步骤3.6新生成的个体代替种群中最差的个体，和整体进入下一代进化。
步骤4输出计算后的最高得分值，得到最优的贝叶斯网络。
其中，变异行为的变异操作对所有个体进行，使新一代中的全部个体都有相等的变异机会，不容易陷入局部最优解而使算法停滞，使用传统遗传算法的变异算子，由于变异率随机性极大，因此将云自适应理论引入该阶段，从而生成具有稳定倾向性的变异率，并且加快种群的收敛性。
设个体的当前状态是Xi，以变异概率Pm进行自身变异产生合法个体。Pm是采用云自适应方法产生的，f为单个个体的适应度，fmax为种群最优个体适应度，
Figure BDA0002873940710000091
为种群的平均适应度。
Figure BDA0002873940710000092
normrnd(En,Hc)表示以En为期望，以Hc为标准差的正态分布而得到的随机数。En影响云的陡峭程度，参数值越大表示云覆盖的水平宽度越大，同时可以使更多的较优个体取到较小的变异率；Hc决定云滴的离散程度，参数值过大会影响云模型的稳定倾向性，参数值过小会导致随机性的丧失。c1、c2为控制系数，在这里c1∈(2.5,3.0)，c2∈(5,15)。Pm取值如式(2)：
Figure BDA0002873940710000093
其中k1、k2为常数，k1、k2∈(0,1)。
交叉行为，在人工蜂群搜索方程中，由于r∈(-1,1)且Xk为种群中随机选取的不同于Xi个体的一个分量，使得该搜索方程具有较好的探索能力却忽略了方法的开发能力。
为进一步提高方法的开发能力，受差分进化算发的启发使用如下策略：对所有个体进行适应度排序并计算种群的平均适应度
Figure BDA0002873940710000094
将个体适应度高于
Figure BDA0002873940710000095
的加入集合better，适应度低于
Figure BDA0002873940710000096
的加入集合worse。为增加种群的多样性，对于个体Xk进行判断，若该个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若该个体属于集合worse，则从集合better中随机匹配一个个体Xchoice。提出公式如下：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)] (3)
记式(3)的搜索方程为ABC/choice，与之前相比，该式在优化位置引导种群的搜索轨迹并在较优位置附近产生新的候选解，能够有效提高方法的开发能力，提高方法收敛速度，同时有适应度较低位置来确保种群的多样性。
个体Xk与随机匹配的个体Xchoice以交叉概率Pc1互相进行某些位置的交叉，交叉率一般设定为0.1～0.3。因为个体之间适应度差异较大，所以Pc1设定了较大的变化范围，可以根据实际情况有更大的选择空间。
选择行为，标准选择机制通常在种群中选择适应度值高的个体来进行搜索，但是这种选择策略往往压力过大，导致在贝叶斯网络结构学习过程中种群多样性下降快，易陷入局部最小值。适应度平均选择机制(Fitness Uniform Selection Scheme,FUSS)能产生较合适的选择压力对种群进行选择。该方法使用结合贪婪策略和适应度平均选择机制的混合选择方式作为繁殖策略(G-FUSS)。
对于交叉后产生的新个体Vi进行适应度检查，若比当前个体更优，则以此个体代替其父代。在这个过程中具有优胜劣汰的进化能力。然后对于经过变异和交叉的种群X进行适应度排序，最优个体Xbest的适应度为fmax，最差个体Xworst的适应度为fmin，生成随机值f′∈[fmaxmin]，并在种群X中选取适应度值最接近f′的个体X′。为了加快收敛速度，将个体X′与最优个体Xbest以交叉率Pc2互相进行某些位置的交叉，生成的新个体取代Xworst进入到下一代的进化中去。
由于目前看来并不是最优的个体可能是未来潜在的某些局部最优解，所以G-FUSS策略不仅能够具有优胜劣汰的进化能力，还能通过产生合理的选择压力，来维护种群多样性，引导种群的进一步进化。
采用经典网络ASIA网进行仿真实验，ASIA网是由8个节点、8条边所组成的标准贝叶斯网络，如图3所示，为学习后得到的最优网络，表1为采用4种方法学习ASIA网络后的比较结果，为了增加可比较性，表中的数据均是在最大迭代30次，运行10次的基础上求得的平均结果。
在ASIA网络的学习中，能够达到最优的效果是只缺少一条边，在多边和反边上有都较好的学习精度，从表1中通过与其他方法在多边、少边、反边上的平均值进行对比，可以看出，在贝叶斯网络结构学习上的效果比其他2种方法更优，证明了方法的有效性及方法的搜索精度，同时通过表1在不同组数据集的情况下的平均结果对比，发现在数据集不是很大的情况下也有较好的网络结构学习效果。
表1
Figure BDA0002873940710000111
为了验证学习性能，在相同初始条件下，我们将该方法与遗传方法和爬山方法进行比较，得到迭代次数与适应度的关系图，如图4所示，图4中，k为迭代次数，F为适应度。通过比较可以发现，具有较好的收敛速度，同时能够跳出局部最优，具有更好的寻优效果。通过最后的评分值来看，该方法学习效果更好。
本发明还提出了一种基于遗传算法的贝叶斯网络结构学习的系统200，如图2所示，包括：
初始化单元201，针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
种群生成单元202，确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断单元203，判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
学习单元204，针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure BDA0002873940710000112
若个体Xk的适应度值低于平均适应度
Figure BDA0002873940710000113
则从适应度集合中选择高于均适应度
Figure BDA0002873940710000114
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure BDA0002873940710000121
则从适应度集合中选择低于均适应度
Figure BDA0002873940710000122
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
选择单元205，确定若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
输出单元206，对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
其中，变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure BDA0002873940710000123
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure BDA0002873940710000124
为初始种群的平均适应度；
ormrnd(En,Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5,3.0)，c2∈(5,15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure BDA0002873940710000125
其中k1、k2为常数，k1、k2∈(0,1)。
其中，交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure BDA0002873940710000126
将个体适应度高于
Figure BDA0002873940710000127
的加入集合better，适应度低于
Figure BDA0002873940710000128
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
其中，判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
其中，进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
本发明具有较好的收敛速度，同时能够跳出局部最优，具有更好的寻优效果。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。本申请实施例中的方案可以采用各种计算机语言实现，例如，面向对象的程序设计语言Java和直译式脚本语言JavaScript等。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本申请的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本申请范围的所有变更和修改。
显然，本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样，倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

Claims (10)

1.一种基于遗传算法的贝叶斯网络结构学习的方法，所述方法包括：
针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure FDA0002873940700000011
若个体Xk的适应度值低于平均适应度
Figure FDA0002873940700000012
则从适应度集合中选择高于均适应度
Figure FDA0002873940700000013
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure FDA0002873940700000014
则从适应度集合中选择低于均适应度
Figure FDA0002873940700000015
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
2.根据权利要求1所述的方法，所述变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure FDA0002873940700000021
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure FDA0002873940700000022
为初始种群的平均适应度；
ormrnd(En，Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5，3.0)，c2∈(5，15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure FDA0002873940700000023
其中k1、k2为常数，k1、k2∈(0，1)。
3.根据权利要求1所述的方法，所述交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure FDA0002873940700000024
将个体适应度高于
Figure FDA0002873940700000025
的加入集合better，适应度低于
Figure FDA0002873940700000026
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
4.根据权利要求1所述的方法，所述判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
5.根据权利要求1所述的方法，所述进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
6.一种基于遗传算法的贝叶斯网络结构学习的系统，所述系统包括：
初始化单元，针对目标贝叶斯网络，初始化学习全阶段的参数，所述参数包括：交叉率、变异率及允许的最大迭代次数；
种群生成单元，确定参数之间的互信息，对互信息采用MWST算法计算，生成初始的无向图，并根据无向图生成初始种群X；
判断单元，判断初始种群X的当前迭代次数，若迭代次数小于允许的最大迭代次数；
学习单元，针对初始种群X中的个体Xk，对个体Xk产生的变异率Pm进行自身变异行为；对个体Xk的适应度进行排序，并生成适应度集合，确定初始种群X的平均适应度
Figure FDA0002873940700000031
若个体Xk的适应度值低于平均适应度
Figure FDA0002873940700000032
则从适应度集合中选择高于均适应度
Figure FDA0002873940700000033
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；若个体Xk的适应度高于平均适应度
Figure FDA0002873940700000034
则从适应度集合中选择低于均适应度
Figure FDA0002873940700000035
的适应度中选择随机匹配个体Xchoice，以交叉率Pc1对随机匹配个体Xchoice进行交叉行为，生成新生个体Vi；
选择单元，确定若新生个体Vi合法且适应度优于个体Xk的适应度，则使用新生个体Vi代替个体Xk，并生成初始种群最大适应度和最小适应度间的随机值f′，从初始种群中选择适应度最接近随机值f′的个体与最优个体以交叉率Pc2进行交叉，生成新的个体；
输出单元，对生成的新的个体代替初始种群中最差的个体，对初始种群进行进化；进化完成后，若输出最高得分值，则生成最优的贝叶斯网络。
7.根据权利要求6所述的系统，所述变异行为对初始种群中的所有个体进行；
所述变异行为使用遗传算法的变异算子进行变异行为，变异模型如下：
Figure FDA0002873940700000036
Pm由云自适应算法产生的，f为个体的适应度，fmax为初始种群最优个体适应度，
Figure FDA0002873940700000037
为初始种群的平均适应度；
ormrnd(En，Hc)为以En为期望及以Hc为标准差的正态分布而确定的随机数；
En为影响云的陡峭程度；Hc决定云滴的离散程度；c1、c2为控制系数，c1∈(2.5，3.0)，c2∈(5，15)；
所述Pm取值，根据如下模型进行取值，模型如下：
Figure FDA0002873940700000041
其中k1、k2为常数，k1、k2∈(0，1)。
8.根据权利要求6所述的系统，所述交叉行为的过程如下：
对初始种群中所有个体进行适应度排序，并计算初始种群个体的平均适应度
Figure FDA0002873940700000042
将个体适应度高于
Figure FDA0002873940700000043
的加入集合better，适应度低于
Figure FDA0002873940700000044
的加入集合worse；
对于个体Xk进行判断，若个体属于集合better，将从worse集合中随机匹配一个个体Xchoice；若个体属于集合worse，则从集合better中随机匹配一个个体Xchoice，并确定如下模型：
Vi(j)＝Xchoice(j)+rand(0，1)[Xchoice(j)-Xk(j)]
为模型确定搜索方程ABC/choice；
使用模型及搜索方程ABC/choice，针对个体Xk与随机匹配的个体Xchoice以交叉概率Pc1进行交叉，且交叉率设定为0.1～0.3。
9.根据权利要求6所述的系统，所述判断初始种群X的当前迭代次数，若迭代次数大于允许的最大迭代次数，再次初始化初始种群的参数。
10.根据权利要求6所述的系统，所述进化完成后，判断初始种群的迭代次数是否达到允许的最大迭代次数，若达到则输出最高得分值。
CN202011607417.6A 2020-12-30 2020-12-30 一种基于遗传算法的贝叶斯网络结构学习的方法及系统 Pending CN112712178A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011607417.6A CN112712178A (zh) 2020-12-30 2020-12-30 一种基于遗传算法的贝叶斯网络结构学习的方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011607417.6A CN112712178A (zh) 2020-12-30 2020-12-30 一种基于遗传算法的贝叶斯网络结构学习的方法及系统

Publications (1)

Publication Number Publication Date
CN112712178A true CN112712178A (zh) 2021-04-27

Family

ID=75547179

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011607417.6A Pending CN112712178A (zh) 2020-12-30 2020-12-30 一种基于遗传算法的贝叶斯网络结构学习的方法及系统

Country Status (1)

Country Link
CN (1) CN112712178A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI806496B (zh) * 2022-03-16 2023-06-21 緯創資通股份有限公司 遞迴貝式網路建構系統、遞迴貝式網路建構方法、電腦可讀取記錄媒體、非暫時性電腦程式產品及無線網路控制系統

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI806496B (zh) * 2022-03-16 2023-06-21 緯創資通股份有限公司 遞迴貝式網路建構系統、遞迴貝式網路建構方法、電腦可讀取記錄媒體、非暫時性電腦程式產品及無線網路控制系統

Similar Documents

Publication Publication Date Title
US20210390416A1 (en) Variable parameter probability for machine-learning model generation and training
Kawaguchi et al. Ordered sgd: A new stochastic optimization framework for empirical risk minimization
Li et al. Differential evolution algorithm with multi-population cooperation and multi-strategy integration
US11853893B2 (en) Execution of a genetic algorithm having variable epoch size with selective execution of a training algorithm
Lobo et al. A review of adaptive population sizing schemes in genetic algorithms
US11037061B2 (en) Adaptive cataclysms in genetic algorithms
Uyar et al. A new population based adaptive domination change mechanism for diploid genetic algorithms in dynamic environments
Hitomi et al. A classification and comparison of credit assignment strategies in multiobjective adaptive operator selection
Feng et al. Variable coded hierarchical fuzzy classification model using DNA coding and evolutionary programming
Castelli et al. Self-tuning geometric semantic genetic programming
CN113988508A (zh) 一种基于强化学习的电网调控策略优化方法
Xiao et al. A new artificial bee colony based on multiple search strategies and dimension selection
CN112712178A (zh) 一种基于遗传算法的贝叶斯网络结构学习的方法及系统
Andalon-Garcia et al. Performance comparison of three topologies of the island model of a parallel genetic algorithm implementation on a cluster platform
CN107480768A (zh) 贝叶斯网络结构自适应学习方法和装置、存储设备以及终端设备
CN114912368A (zh) 结合梯度算法和演化算法对神经网络模型进行优化的方法
Ashlock et al. Impact of regulatory genes on optimization behavior
CN113486952A (zh) 一种基因调控网络的多因素模型优化方法
Ameneyro et al. Towards understanding the effects of evolving the MCTS UCT selection policy
Bernard et al. Inferring stochastic L-systems using a hybrid greedy algorithm
Drummond et al. Mapping back and forth between model predictive control and neural networks
Costa Generative adversarial networks
Cabrita et al. Single and multi-objective genetic programming design for B-spline neural networks and neuro-fuzzy systems
Cunha Probabilistic Grammatical Evolution
Korejo et al. An adaptive crossover operator for genetic algorithms to solve the optimization problems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination