CN104820977A - 一种基于自适应遗传算法的bp神经网络图像复原算法 - Google Patents

Abstract

本发明涉及一种BP神经网络图像复原算法，尤其涉及一种基于自适应遗传算法的BP神经网络图像复原算法。该算法包括如下步骤：S1、种群初始化，S2、适应度函数的设计，S3、选择设计，S4、交叉设计，S5、变异设计，S6、动态调整交叉率和变异率。本发明具有更小的预测误差，更可靠的稳定性，增强了算法的鲁棒性。

Description

一种基于自适应遗传算法的BP神经网络图像复原算法

技术领域

本发明涉及一种BP神经网络图像复原算法，尤其涉及一种基于自适应遗传算法的BP神经网络图像复原算法。

背景技术

自上世纪60年代开始，图像复原技术得到了快速的发展，出现了逆滤波、维纳滤波、最小二乘滤波等经典复原方法。但这些传统的复原方法对许多点扩散函数（PSF）的变化是很难把握的，因而无法得到精确的复原模型。BP神经网络则可以解决这一难题，它的非线性映射能力可以实现对多维函数的逼近。

然而单纯采用BP神经网络进行图像复原时，由于BP算法的误差曲面通常存在多个极值点，因此算法容易陷入局部最优解。并且当BP神经网络结构较大时，收敛速度也比较慢。为此，本发明在BP复原算法的基础上引入了有较强的全局搜索能力的遗传算法来对BP神经网络的初始权值和阈值进行优化。

遗传算法(Genetic Algorithm, GA)由密执安大学教授Holland及其学生于1975年创建，其基本思想是基于Darwin的进化论和Mendel的遗传学说。由于遗传算法是来自于进化论以及遗传学产生的直接搜索优化方法，因此在这个算法中用到了各种进化和遗传学的概念。

在遗传算法的每个串中，每个二进制位对应个体染色体中的某个基因,n个长度为len的二进制串x_i(i＝1，2，…，n)就可以组成遗传算法的初解群，即初始群体。根据进化过程，整个环节对群体执行的操作有三种：

1．选择(Selection)

这一操作是要在群体中随机选择出较易于适应环境的个体，这些选中的个体将被用于繁殖下一代个体。因此，有的时候也这一操作也称之为再生(Reproduction)。由于在选择个体去繁殖下一代个体时，大多数情况是依据个体对环境的适应度来确定其繁殖量的，所以有时这一处理也称为差异性再生(differential reproduction)。

2．交叉(Crossover)

交叉是对两个不同个体的相同位置的基因进行交换，这些交叉的个体来源于上一步选中的用于繁殖下一代的个体。

3．变异(Mutation)

变异是在选中的个体中，针对个体中的某些基因执行突变转化。例如：串x_i中，假如某位基因为1，产生变异时就是把它变成0，反之则变为1。

在遗传算法中，交叉率和变异率直接影响算法的收敛速度。交叉率的大小决定新个体产生速度的快慢，交叉率越大，旧个体的模式越容易被破坏，新个体产生的速度就越快。过高的交叉率可能使较优良的个体的模式遭到破坏，过小的交叉率又会延缓新个体的产生，导致算法早熟，停滞不前。

上述传统遗传算法容易陷入局部收敛，产生停滞现象。

发明内容

本发明的目的是针对上述不足之处提供一种基于自适应遗传算法的BP神经网络图像复原算法，具有更小的预测误差和更可靠的稳定性，增强了算法的鲁棒性。

基于自适应遗传算法的BP神经网络图像复原算法是采取以下技术方案实现的：

一种基于自适应遗传算法的BP神经网络图像复原算法，其实现步骤如下：

S1、种群初始化

将每个个体的染色体通过实数串表示，所述实数串由BP隐含层或者输出层的连接权值以及输出层的阈值构成；

S2、适应度函数设计

S2-1、经过步骤S1的种群初始化建立测试种群，BP神经网络的初始权值和阈值不再随机产生，训练时的权值和阈值通过每个个体染色体分解取得；

S2-2、用预先准备好的通用训练数据训练BP神经网络；

S2-3、通过步骤S2-2得到预测结果后，将预测结果进行比较，统计总的误差作为个体适应度的取值；

统计公式如下，

           式(1.1)

式（1.1）中，为个体适应度值，为调节系数，为BP神经网络输出节点数，为第个节点的预估输出，为BP神经网络第个节点的期望输出； i的取值理论上可以无限大，实际操作则根据图像大小而定，如图像有90个像素点组成，则n取值90，即n为图像的像素值；

S3、选择设计

采用遗传算法的选择轮盘赌法，是基于适应度比例的选择策略，所述遗传算法中针对每个个体的选择概率设为，选择概率的计算公式如下，

        式（1.2)

式（1.2）中， 为适应度值，为选择概率，为种群个体数目；

S4、交叉设计

采用实数交叉法进行计算，第个染色体与第个染色体在位的交叉操作公式如下，

          式（1.3)

在式（1.3）中，是区间的随机数；

S5、变异设计

如果个体在迭代中被选为变异，变异公式如下，

         式(1.4)

在式（1.4）中，i表示第i个个体，表示第i个个体的第j个基因，为基因的上限，为基因的下限；

，为区间的随机数，为当前迭代次数，为最大进化次数，为区间的随机数；

S6、动态调整交叉率和变异率

当种群中的个体适应度相近或趋于局部最优时，增大交叉率和变异率，反之，则减小交叉率和变异率；当个体适应度高于平均水平时，降低其对应的交叉率和变异率，使之尽可能被遗传下去，反之，当个体适应度低于平均水平时，则提高其对应的交叉率和变异率，使之尽可能被淘汰；在自适应遗传算法中，交叉率和变异率的表达式为：

     式(1.5)

    式(1.6)

在式(1.)、(1.6)中，为交叉率，为变异率，为要进行交叉的两个个体中的较大的适应度，为当代群体的平均适应度，为当代群体的最大适应度，为给定最大交叉率，为给定最小交叉率，为给定最大变异率，为给定最小变异率。

在所述步骤S6中，适应度较差的个体变异能力比较低，易于导致停滞，适应度较优的个体得到了保留，但如果其个体数目过多的话，也会造成进化停滞，为解决上述问题可以进一步对交叉率和变异率的计算方法进行改进：

       式(1.7)

     式(1.8)

在式(1.)、(1.8)中， 为交叉率， 为变异率，为当前的进化代数，为交叉率增量，为变异率增量，为给定最大交叉率， 为给定最大变异率。为当代群体的平均适应度，为下一代群体的平均适应度。

在步骤S1中，由于BP神经网络的权值和阈值都是实数形式，二进制编码方式不适合来表达个体的基因，采用实数编码方式，因此每个个体的染色体都由一个实数串来表示；每个基因都对应不同的权值和阈值，每个个体的染色体都由神经网络输入层与隐含层的连接权值、隐含层与输出层的连接权值、隐含层各神经元的阈值以及输出层各神经元的阈值4个部分组成，因而每个个体包含了BP神经网络的所有权值和阈值，只要BP网络的结构确定，即能生成种群。

步骤S2-2中所述的通用训练数据指的是用Lenna，Cameraman等经典图像处理后的复原图像，其大小为90*90像素。

本发明提供的一种基于自适应遗传算法的BP神经网络图像复原算法，引入了可动态调整交叉率和变异率的遗传策略，提出了自适应遗传算法，根据策略交叉率和变异率会根据适应度进行动态改变；当种群中的个体适应度相近或趋于局部最优时，增大交叉率和变异率，反之，则减小交叉率和变异率。当个体适应度高于平均水平时，降低其对应的交叉率和变异率，使之尽可能被遗传下去，反之，当个体适应度低于平均水平时，则提高其对应的交叉率和变异率，使之尽可能被淘汰；通过对交叉操作中的交叉率，变异操作中的变异率进行动态调整，可以有效地减小复原算法的预测误差，增强算法的鲁棒性。

附图说明

图1是传统遗传算法的BP神经网络图像复原算法（GABPR）和本发明提出的一种基于自适应遗传算法的BP（AGAXBPR）神经网络图像复原算法的复原结果预测误差对比图。

具体实施方式

下面，通过具体实施例对本发明的技术方案进行详细说明。

本发明一种基于自适应遗传算法的BP神经网络图像复原算法，包括如下步骤：

S1、种群初始化

由于BP神经网络的权值和阈值都是实数形式，二进制编码方式不适合来表达个体的基因，采用实数编码方式，每一个个体的染色体都由一个实数串来表示，该实数串由BP隐含层或者输出层的连接权值以及输出层的阈值构成；每一个基因都对应着不同的权值和阈值，每一个个体的染色体都由神经网络输入层与隐含层的连接权值，隐含层与输出层的连接权值，隐含层各神经元的阈值，输出层各神经元的阈值4个部分组成，因而每个个体包含了BP神经网络的所有权值和阈值，只要BP网络的结构确定，就可以生成种群；

S2、适应度函数的设计

BP神经网络的初始权值和阈值不在随机产生，通过S1的种群初始化方法已经有了测试种群，训练时的权值和阈值即每个个体染色体的分解出来的基因，通过染色体分解后，便可取得初始化的权值和阈值，接着用预先准备好的训练数据训练BP神经网络，得到预测结果后把预测结果和目标输出进行比较，统计总的误差作为个体适应度的取值，统计方法如下所示：

            (1.1)

式（1.1）中，为个体适应度值，为调节系数，为BP神经网络输出节点数，为第个节点的预估输出，为BP神经网络第个节点的期望输出；

S3、选择设计

遗传算法的选择轮盘赌法，该选择轮盘赌法是一种基于适应度比例的选择策略，算法中针对每个个体的选择概率设为：

(1.2)

式（1.2）中， 为适应度值，为选择概率，为种群个体数目；

S4、交叉设计

因为个体采用实数编码，所以交叉操作也可以使用实数交叉法进行计算，把第个染色体与第个染色体在位的交叉操作方法如下：

(1.3)

在式（1.3）中，是区间间的随机数；

S5、变异设计

如果个体在迭代中被选为变异，如选取第个个体的第个基因进行变异，则变异公式如下：

(1.4)

在式（1.4）中，为基因的上限，为的下限，，为一个随机数，为当前迭代次数，为最大进化次数，为间的随机数；

S6、动态调整交叉率和变异率

当种群中的个体适应度相近或趋于局部最优时，增大交叉率和变异率，反之，则减小交叉率和变异率；当个体适应度高于平均水平时，降低其对应的交叉率和变异率，使之尽可能被遗传下去，反之，当个体适应度低于平均水平时，则提高其对应的交叉率和变异率，使之尽可能被淘汰；在自适应遗传算法中，交叉率和变异率的表达式为：

       (1.5)

  (1.6)

在式(1.)、(1.6)中，为交叉率，为变异率，为要进行交叉的两个个体中的较大的适应度，为当代群体的平均适应度，为当代群体的最大适应度，为给定最大交叉率，为给定最小交叉率，为给定最大变异率，为给定最小变异率。

在具体实施例中，S6中适应度较差的个体变异能力比较低，易于导致停滞，适应度较优的个体得到了保留，但如果其个体数目过多的话，也会造成进化停滞，为解决上述问题可以进一步对交叉率和变异率的计算方法进行改进：

         (1.7)

        (1.8)

在式(1.)、(1.8)中， 为交叉率， 为变异率，为当前的进化代数，为交叉率增量，为变异率增量。

在自适应的调整中，计算出第g代和g+1代的评价值和，如果大于则说明适应度有提高的趋势，为利于优秀个体遗传下去，适当减小交叉率和变异率，反之，如果大于则说明前一次的进化不佳，为利于产生新个体，适当增大交叉率和变异率。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

本发明在传统遗传算法的基础上提出了一种自适应遗传算法（AGAX）。其算法思想是每一代种群进化时的交叉率和变异率都通过当代种群的平均适应度和上一代种群的平均适应度的比较来调节：若平均适应度差于上一代，则说明进化出的差的个体较多，此时上调交叉率和变异率，增加新的优秀个体产生的可能性；反之，则保持原来正常的交叉率和变异率。实验结果显示在相同迭代次数下改进的自适应遗传算法对BP神经网络的优化结果要优于其对比项，复原出的图像效果也更好。

下面对传统遗传算法的BP神经网络图像复原算法（GABPR）和本发明提出的一种基于自适应遗传算法的BP（AGAXBPR）神经网络图像复原算法的复原结果进行对比。在样本图像为Lenna，大小为90×90，BP神经网络的输入层节点数为1，隐含层节点数为9，输出层节点数为1的条件下，对两个算法运行后的复原结果进行对比。为精确比较复原效果，采用客观评价法，选用通用指标NMSE和PSNR指标进行评价，两种算法的结果对比如表1所示。

表两种复原算法的客观评价 

评价指标	GABPR	AGAXBPR
			NMSE	7.8816e-006	6.4892e-006
PSNR	29.4272	30.2714

从上表中可以看出AGAXBPR的NMSE最小，PSNR最大，复原的效果最好，这得益于在同样迭代次数下改进的自适应遗传算法对BP神经网络的预测误差比传统遗传算法对BP神经网络的预测误差更小，图1显示了上述两种算法的预测误差对比。

参照附图1中的GABPR和AGAXBPR预测误差对比可以看出AGAXBPR区域振动幅度较小，而GABPR区域的震动幅度较大，即预测出来的误差较大。对比结果显示AGAXBP的预测误差小于传统遗传算法对BP神经网络的预测误差。为评价更客观，下面采用定量评价法，对两个算法的误差进行统计，结果如表2所示。

表2GABPR与AGAXBPR预测误差对比 

errorGABPR	errorAGAXBPR
		167.0771	148.1289

上表中errorGABPR代表传统遗传算法的预测误差绝对值之和，errorAGAXBPR代表本发明提出的算法预测误差绝对值之和，可以看出errorAGAXBPR的数值要小于errorGABPR。这表明了本发明提出的改进后的自适应遗传算法（AGAX）对BP神经网络的预测误差更小。

本发明提出的算法之所以能在同样的迭代次数下获得更好的个体和更小的预测误差，是由于算法在种群中的个体适应度相近或趋于局部最优时，自适应地增大了交叉率和变异率，因而使算法能够更快地跳出局部最优解，从而更容易接近全局最优解，获得更小的预测误差。

Claims (4)

1.一种基于自适应遗传算法的BP神经网络图像复原算法，其特征在于，其实现步骤如下：

S1、种群初始化

将每个个体的染色体通过实数串表示，所述实数串由BP隐含层或者输出层的连接权值以及输出层的阈值构成；

S2、适应度函数设计

S2-1、经过步骤S1的种群初始化建立测试种群，BP神经网络的初始权值和阈值不再随机产生，训练时的权值和阈值通过每个个体染色体分解取得；

S2-2、用预先准备好的通用训练数据训练BP神经网络；

S2-3、通过步骤S2-2得到预测结果后，将预测结果进行比较，统计总的误差作为个体适应度的取值；

统计公式如下，

           式(1.1)

式（1.1）中，为个体适应度值，为调节系数，为BP神经网络输出节点数，为第个节点的预估输出，为BP神经网络第个节点的期望输出；n为图像的像素值；

S3、选择设计

采用遗传算法的选择轮盘赌法，是基于适应度比例的选择策略，所述遗传算法中针对每个个体的选择概率设为，选择概率的计算公式如下，

        式（1.2)

式（1.2）中， 为适应度值，为选择概率，为种群个体数目；

S4、交叉设计

采用实数交叉法进行计算，第个染色体与第个染色体在位的交叉操作公式如下，

          式（1.3)

在式（1.3）中，是区间的随机数；

S5、变异设计

如果个体在迭代中被选为变异，变异公式如下，

         式(1.4)

在式（1.4）中，i表示第i个个体，表示第i个个体的第j个基因，为基因的上限，为基因的下限；

，为区间的随机数，为当前迭代次数，为最大进化次数，为区间的随机数；

S6、动态调整交叉率和变异率

当种群中的个体适应度相近或趋于局部最优时，增大交叉率和变异率，反之，则减小交叉率和变异率；当个体适应度高于平均水平时，降低其对应的交叉率和变异率，使之尽可能被遗传下去，反之，当个体适应度低于平均水平时，则提高其对应的交叉率和变异率，使之尽可能被淘汰；在自适应遗传算法中，交叉率和变异率的表达式为，

     式(1.5)

    式(1.6)

在式(1.)、(1.6)中，为交叉率，为变异率，为要进行交叉的两个个体中的较大的适应度，为当代群体的平均适应度，为当代群体的最大适应度，为给定最大交叉率，为给定最小交叉率，为给定最大变异率，为给定最小变异率。

2.根据权利要求1所述的基于自适应遗传算法的BP神经网络图像复原算法，其特征在于，在所述步骤S6中，适应度较差的个体变异能力比较低，易于导致停滞，适应度较优的个体得到了保留，但如果其个体数目过多的话，也会造成进化停滞，为解决上述问题可以进一步对交叉率和变异率的计算方法进行改进：

       式(1.7)

     式(1.8)

在式(1.)、(1.8)中， 为交叉率， 为变异率，为当前的进化代数，为交叉率增量，为变异率增量，为给定最大交叉率， 为给定最大变异率;

为当代群体的平均适应度，为下一代群体的平均适应度。

3.根据权利要求1所述的基于自适应遗传算法的BP神经网络图像复原算法，其特征在于，在所述步骤S1中，由于BP神经网络的权值和阈值都是实数形式，二进制编码方式不适合来表达个体的基因，采用实数编码方式，因此每个个体的染色体都由一个实数串来表示；每个基因都对应不同的权值和阈值，每个个体的染色体都由神经网络输入层与隐含层的连接权值、隐含层与输出层的连接权值、隐含层各神经元的阈值以及输出层各神经元的阈值4个部分组成，因而每个个体包含了BP神经网络的所有权值和阈值，只要BP网络的结构确定，即能生成种群。

4.根据权利要求1所述的基于自适应遗传算法的BP神经网络图像复原算法，其特征在于，步骤S2-2中所述的通用训练数据指的是用Lenna，Cameraman等经典图像处理后的复原图像，其大小为90*90像素。