CN102222267B - 一种遗传算法改进神经网络遥感分类处理方法 - Google Patents

Abstract

本发明涉及一种遗传算法改进神经网络遥感分类处理方法，包括以下步骤：1)将每种网络结构看作为种群的一个个体，将个体中的染色体进行编码，并进行种群初始化；2)对染色体进行解码；3)根据预定的目标适应度函数来计算各个染色体的适应度；4)判断适应度最高的个体是否符合BP网络的要求，若为是，执行步骤5)，若为否，则进行演化过程，返回步骤2)；5)得到最优个体，进行测试BP网络；6)进行遗传算法优化BP网络的分类，并得出分类结果；7)进行变化监测，并得出变化监测结果。与现有技术相比，本发明具有隐含层的神经元数目使用实数编码，遗传算法进化过程中选择、交叉、变异方式得到改进，能够快速搜索最优网络等优点。

Description

一种遗传算法改进神经网络遥感分类处理方法

技术领域

本发明涉及一种遥感分类处理方法，尤其是涉及一种遗传算法改进神经网络遥感分类处理方法。

背景技术

由于神经网络的收敛性问题和训练成功网络的不可靠性，本发明引入遗传算法优化BP神经网络的隐含层神经元数目、神经元阈值和神经元与神经元间的连接权值。遗传算法鲁棒性强，以其高效的自适应优化能力并行搜索全局最优解，结合BP算法的误差反向传播机制，不仅利用BP算法快速地训练神经网络，而且遗传算法又弥补了BP网络收敛速度慢和在训练开始不久网络便收敛到局部极值的不足，并且避免了神经网络训练时加入动量项的不确定性和调整训练速率的不稳定性，适应度函数的确定也取代了误差函数的选取。同时，与许多用遗传算法优化神经网络时对网络进行二进制编码或实数编码方式不同的是，本发明将隐含层的神经元数目也用实数编码，还改进了遗传算法进化过程中选择、交叉、变异的方式，以达到快速搜索最优网络的目的。

方法内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供的一种隐含层的神经元数目使用实数编码，遗传算法进化过程中选择、交叉、变异方式得到改进，且可以达到快速搜索最优网络的遗传算法改进神经网络遥感分类处理方法。

本发明的目的可以通过以下技术方案来实现：

一种遗传算法改进神经网络遥感分类处理方法，其特征在于，包括以下步骤：

1)将每种网络结构看作为种群的一个个体，将个体中的染色体进行编码，并进行种群初始化；

2)对染色体进行解码；

3)根据预定的目标适应度函数来计算各个染色体的适应度；

4)判断适应度最高的个体是否符合BP网络的要求，若为是，执行步骤5)，若为否，则进行演化过程，返回步骤2)；

5)得到最优个体，进行测试BP网络；

6)进行遗传算法优化BP网络的分类，并得出分类结果；

7)进行变化监测，并得出变化监测结果。

所述的步骤1)中的将染色体进行编码步骤如下：

11)对象的定义，染色体编码包括八个部分，具体定义如下：

单元1：一个十进制数，隐含层数的浮点数编码q′，对q’四舍五入确定隐含层数q；

单元2：一个或多个十进制数，隐含层神经元数的浮点数编码pk′，对pk′四舍五入确定隐含层神经元数pk，其中k＝1，2，…，q；

单元3：n个输入层神经元的阈值，从a1到an；

单元4：m个输出层神经元的阈值，从b1到bm；

单元5：第k个隐含层的第i个神经元的阈值(cki)，其中i＝1，2，…，pk，k＝1，2，…，q；

单元6：输入层中的n个神经元与第1个隐含层中的j1个神经元间的连接权值(从到)，其中j 1＝1，2，…，p1；

单元7：最后一个隐含层中的jq个神经元与输出层中的m个神经元间的连接权值(从到)，其中jq＝1，2，…，pq；

单元8：第k′个隐含层的第jk′个神经元与第(k′+1)个隐含层的第jk′+1个神经元间的连接权值其中jk′＝1，2，…，pk′，k′＝1，2，…，q-1；

12)采用变长实数编码方式，编码过程如下：

(1)p’在随机初始化或进化过程中都为实数，采用p＝Int(p’+0.5)的对p’四舍五入原则确定隐含层神经元数p；

(2)输入层神经元的阈值；

(3)然后是输入层神经元到第i个隐含层神经元的连接权值；

(4)第i个隐含层神经元的阈值；

(5)第i个隐含层神经元到输出层神经元的连接权值，其中i按隐含层神经元的顺序从1至p；

(6)输出层神经元的阈值。

所述的步骤3)中的适应度函数为f(x)＝1/E，其中E为网络的输出误差。

所述的步骤4)中的演化过程包括以下步骤：

41)选择，采用轮盘赌选择法和最优个体保留原则进行个体的选择，首先保留父代种群中适应度最大和次大的个体，直接进入交叉操作中，再利用轮盘赌法对其它个体进行选择，直到产生N个个体；

42)重组，选择Pc交叉概率，根据Pc确定是否要交叉后，依据公式(1)、(2)进行交叉：

CG₁＝gama×PG₁+(1-gama)×PG₂    (1)

CG₂＝gama×PG₂+(1-gama)×PG₁    (2)

式中CG₁、CG₂、PG₁、PG₂、gama分别为第一个子个体、第二个子个体、第一个父个体、第二个父个体和交叉度，交叉度gama的值在[0，1]区间内，并且依据gamat+1＝a*gamat，t表示进化次数，交叉前，两个父个体中某个体相对另一个体编码较短时，随机生成实数补齐；

43)变异，选择P_m为变异概率，根据P_m确定是否要变异，依据公式(3)进行变异：

CG₂＝alpha×CG₁     (3)

式中CG₁、CG₂、alpha分别为变异前的子个体、变异后的子个体和变异度，alpha的取值依据alpha_t+1＝b*alpha_t，依据自适应遗传算法方法计算调整交叉概率和变异概率，运用下列公式(4)、(5)计算调整交叉概率和变异概率，

$P_c=\left\{\begin{array}{cc}{P}_{c1}-\frac{(P_{c1}-P_{c2})(f^{\&prime;}-f_{\mathrm{avg}})}{f_{\max }-f_{\mathrm{avg}}},& f^{\&prime;}\&GreaterEqual;f_{\mathrm{avg}}\\ P_{c1},& f^{\&prime;}<f_{\mathrm{avg}}\end{array}\right.---\left(4\right)$

$P_m=\left\{\begin{array}{cc}{P}_{m1}-\frac{(P_{m1}-P_{m2})(f_{\max }-f)}{f_{\max }-f_{\mathrm{avg}}},& f\&GreaterEqual;f_{\mathrm{avg}}\\ P_{m1},& f<f_{\mathrm{avg}}\end{array}\right.---\left(5\right).$

与现有技术相比，本发明具有以下优点：

1.、隐含层的神经元数目使用实数编码；

2、改进了遗传算法进化过程中选择、交叉、变异方式；

3、能够快速搜索最优网络。

附图说明

图1为本发明的流程图。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。

实施例

如图1所示，一种遗传算法改进神经网络遥感分类处理方法，包括以下步骤：

1)将每种网络结构看作为种群的一个个体，将个体中的染色体进行编码，并进行种群初始化；

2)对染色体进行解码；

3)根据预定的目标适应度函数来计算各个染色体的适应度；

4)判断适应度最高的个体是否符合BP网络的要求，若为是，执行步骤5)，若为否，则进行演化过程，返回步骤2)；

5)得到最优个体，进行测试BP网络；

6)进行遗传算法优化BP网络的分类，并得出分类结果；

7)进行变化监测，并得出变化监测结果。

所述的步骤1)中的将染色体进行编码步骤如下：

11)对象的定义，染色体编码包括八个部分，具体定义如下：

单元1：一个十进制数，隐含层数的浮点数编码q′，对q’四舍五入确定隐含层数q；

单元2：一个或多个十进制数，隐含层神经元数的浮点数编码pk′，对pk′四舍五入确定隐含层神经元数pk，其中k＝1，2，…，q；

单元3：n个输入层神经元的阈值，从a1到an；

单元4：m个输出层神经元的阈值，从b1到bm；

单元5：第k个隐含层的第i个神经元的阈值(cki)，其中i＝1，2，…，pk，k＝1，2，…，q；

单元6：输入层中的n个神经元与第1个隐含层中的j1个神经元间的连接权值(从到)，其中j1＝1，2，…，p1；

单元7：最后一个隐含层中的jq个神经元与输出层中的m个神经元间的连接权值(从到)，其中jq＝1，2，…，Pq；

单元8：第k′个隐含层的第jk′个神经元与第(k′+1)个隐含层的第jk′+1个神经元间的连接权值其中jk′＝1，2，…，pk′，k′＝1，2，…，q-1；

12)采用变长实数编码方式，编码过程如下：

(1)p’在随机初始化或进化过程中都为实数，采用p＝Int(p’+0.5)的对p’四舍五入原则确定隐含层神经元数p；

(2)输入层神经元的阈值；

(3)然后是输入层神经元到第i个隐含层神经元的连接权值；

(4)第i个隐含层神经元的阈值；

(5)第i个隐含层神经元到输出层神经元的连接权值，其中i按隐含层神经元的顺序从1至p；

(6)输出层神经元的阈值。

所述的步骤3)中的适应度函数为f(x)＝1/E，其中E为网络的输出误差。

所述的步骤4)中的演化过程包括以下步骤：

41)选择，采用轮盘赌选择法和最优个体保留原则进行个体的选择，首先保留父代种群中适应度最大和次大的个体，直接进入交叉操作中，再利用轮盘赌法对其它个体进行选择，直到产生N个个体；

42)重组，选择Pc交叉概率，根据Pc确定是否要交叉后，依据公式(1)、(2)进行交叉：

CG₁＝gama×PG₁+(1-gama)×PG₂    (1)

CG₂＝gama×PG₂+(1-gama)×PG₁    (2)

式中CG1、CG2、PG1、PG2、gama分别为第一个子个体、第二个子个体、第一个父个体、第二个父个体和交叉度，交叉度gama的值在[0，1]区间内，并且依据gamat+1＝a*gamat，t表示进化次数，交叉前，两个父个体中某个体相对另一个体编码较短时，随机生成实数补齐；

43)变异，选择P_m为变异概率，根据P_m确定是否要变异，依据公式(3)进行变异：

CG₂＝alpha×CG₁    (3)

式中CG₁、CG₂、alpha分别为变异前的子个体、变异后的子个体和变异度，alpha的取值依据alpha_t+1＝b*alpha_t，依据自适应遗传算法方法计算调整交叉概率和变异概率，运用下列公式(4)、(5)计算调整交叉概率和变异概率，

$P_c=\left\{\begin{array}{cc}{P}_{c1}-\frac{(P_{c1}-P_{c2})(f^{\&prime;}-f_{\mathrm{avg}})}{f_{\max }-f_{\mathrm{avg}}},& f^{\&prime;}\&GreaterEqual;f_{\mathrm{avg}}\\ P_{c1},& f^{\&prime;}<f_{\mathrm{avg}}\end{array}\right.---\left(4\right)$

$P_m=\left\{\begin{array}{cc}{P}_{m1}-\frac{(P_{m1}-P_{m2})(f_{\max }-f)}{f_{\max }-f_{\mathrm{avg}}},& f\&GreaterEqual;f_{\mathrm{avg}}\\ P_{m1},& f<f_{\mathrm{avg}}\end{array}\right.---\left(5\right).$

选取2000年某区TM影像的土地覆盖类型分类为例，利用本发明提出的遗传算法优化BP神经网络分成八类：C1：河流；C2：池塘；C3：建筑用地；C4：交通用地；C5：耕地；C6：园林地；C7：绿地；C8：荒草地。其分类结果与最大似然方法、最小距离方法和常规的BP神经网络方法的分类结果进行比较。

在分类过程中，选取了8个土地覆盖类型的2089个样本用于BP网络的训练，其中河流273个样本，池塘253个，建筑用地267个，交通用地265个，耕地264个，园林地259个，绿地228个，荒草地270个。对于最小距离方法，参数设定最大标准差为0.5，最大距离误差为1.0；最大似然方法，最大概率阈值为0.35，数据尺度因子为255.00；常规的BP网络方法训练过程中，参数设定n＝6，m＝8，q＝1，p＝9，用了2分17.45秒和50000次迭代达到收敛。使用遗传算法优化BP神经网络方法的迭代时间与N的值有关，其关系由表1所示：

N              时间

20             9’12.410″

50             1’27.510″

100            59.830″

120            35.920″

150            27.450″

200            1’09.670″

250            1’35.830″

表1 遗传算法优化BP神经网络方法的迭代时间与N的关系

从表1，我们可以得出结论，N较小时，染色体数量少，进化效果不明显，算法收敛慢；N较大时，染色体数量大，算法计算量大，也会使得收敛缓慢。因此，本研究中，N的值定义为150，染色体进化500次，遗传算法优化BP网络训练的收敛时间是27.450秒，快于常规的BP网络方法。误差阈值设置为0.1000，常规的BP网络方法的输出误差如表2所示，遗传算法优化得到的BP网络结构和网络训练输出误差如表3所示：

             表2 改进的BP网络输出错误

          表3 结构与遗传进化BP网络输出错误

从表2和3，我们可以看到，常规的BP网络训练过程中在50000次迭代后收敛，而遗传算法优化BP网络训练过程中进化500次后收敛(误差阈值设置为0.1000)。由表3可以确定的q＝2，p1＝10，和p2＝12。

此外，根据四种方法得到的分类结果计算混淆矩阵，并计算相应的生产者精度、使用者精度、总体精度和Kappa系数。4种方法得到的总体精度和Kappa系数如表4所示。

         表4 四种方法分类结果的总体精度和Kappa系数

生产精度和用户精度分别表示单个类型的分类精度和可靠性。对于单个类型的分类效果，传统分类中的最小距离法不如最大似然法。相对于统计分类方法，常规的BP网络分类方法对河流，池塘，耕地，绿地和建筑物的识别有明显的优势，精度和可靠性都较高；对道路和园林地的识别精度略低，但其可靠性却高于最大似然法。遗传算法优化BP网络分类方法除对道路的分类精度优势略低于最大似然法，对其它土地覆盖类型的分类精度都高于其他方法，且分类的可靠性都较其他分类方法要高。

总精度反映分类的整体效果，而Kappa值是分类数据与参考数据间一致性的度量，表征分类可信度。从表4可以看出，在分类的整体效果方面，最大似然法优于最小距离法，常规的BP网络分类方法优于其中2种传统的统计分类方法，而由遗传算法优化BP网络分类方法较之另外3种方法效果最好。在分类结果的一致性方面，2种统计分类方法结果的Kappa值都在0.6以下，分别为0.46和0.59，一致性程度不高；常规的BP网络分类结果的Kappa系数为0.68，有较高的一致性；而遗传算法优化BP网络分类结果的Kappa值为0.82，说明该方法减少了随机分类82.0％的错误，一致性最高。另外，依据表4，使用公式计算Z统计量分别有Z_{MD， ML}＝19.96，Z_ML，IBPN＝13.89和Z_{IBPN，GA-BPN}＝8.81。可见，遗传算法优化BP网络分类的误差矩阵较之其他方法分类结果的误差矩阵有明显差异，说明遗传算法优化BP网络分类优势明显，遗传算法的优化效果是比较显著的。

进一步研究使用遗传算法优化BP网络分类方法进行3期影像进行土地覆盖分类。遗传算法优化的BP神经网络的输入层神经元数目为6，输出层神经元数目为8，隐藏的层数为2，其中第一个隐含层神经元数目为10，而第二隐藏层神经元数目为12。研究区域的3期影像分类结果相应的总体精度和Kappa系数如表5所示

            表5 总体精度和Kappa系数

变化检测和分析：

在分类结果与得到的城镇用地图像基础上，对A区和B区的城镇用地变化情况进一步比较和分析。表6显示了1990、2000和2006年A区城镇用地情况，表7显示了1990、2000和2006年B区城镇用地情况，表8显示了A区和B区1990-2000年和2000-2006年之间城镇用地变化情况。

       表6 1990、2000和2006年A区城镇用地情况

       表7 1990、2000和2006年B区城镇用地情况

    表8 A区和B区1990-2000年和2000-2006年之间城镇用地变化

由表6-表8，可以看出，1990-2000年和2000-2006年间A区和B区城镇用地显著增加，而两个区之间及区内的镇、街道之间城镇用地的年际变化是有所不同。在A区，城镇用地从1990-2000年10年间增加了68228个像素，年均增长率为10.44％；从2000-2006年6年间城镇用地从133605个像素增加到216171个像素，年均增长率为10.30％，与前一时期年增长率相差不大。在B区，城镇用地从1990-2000年10年间增加了19029个像素，年均增长率为5.83％；从2000-2006年6年间城镇用地增加到59516个像素，年均增长率为2.54％，年增长率比前一时期小。

此外，A区1990年城镇用地占全区面积百分比12.79％，到2000年增加了一倍，到2006年城镇用地百分比增加至42.29％。然而，B区1990年城镇用地占全区面积百分比为52.65，到2000年增加到83.35％，而到2006年，这一百分比达到96.04％。

A区是发展最快的城市边缘区之一，B区是市中心区之一。根据两区的城镇用地变化检测的结果，可以得到1990-2006年间两区城镇用地变化情况：

(1)1990-2006年间两区的城镇用地都以较高的速度扩展。在A区，城镇用地由稀疏变得密集，由中心区域向四周特别是向南扩展。然而，B区除桃浦街道和长征街道外，在1990-2000年间城镇用地就已较密集，在2000-2006年间A区的所有街道的城镇用地比例都很高，增长速度渐为缓慢。

(2)1990-2006年间两区的城镇用地变化模式不尽相同。一方面，A区城镇用地由稀到密，从区中心向外扩展，并在各镇中心间轴向增长；B区城镇用地比较密集，在全区内均匀的较缓增长。另一方面，A区北部区域城镇用地分布较为稀疏，而南部区域相对较为密集；B区城镇用地在全区范围内已趋近饱和，增加也接近停止。

Claims (2)

1.一种遗传算法改进神经网络遥感分类处理方法，其特征在于，包括以下步骤：

1)将每种网络结构看作为种群的一个个体，将个体中的染色体进行编码，并进行种群初始化；

2)对染色体进行解码；

3)根据预定的目标适应度函数来计算各个染色体的适应度；

4)判断适应度最高的个体是否符合BP网络的要求，若为是，执行步骤5)，若为否，则进行演化过程，返回步骤2)；

5)得到最优个体，进行测试BP网络；

6)进行遗传算法优化BP网络的分类，并得出分类结果；

7)进行变化监测，并得出变化监测结果；

所述的步骤1)中的将染色体进行编码步骤如下：

11)对象的定义，染色体编码包括八个部分，具体定义如下：

单元1：一个十进制数，隐含层数的浮点数编码q′，对q’四舍五入确定隐含层数q；

单元2：一个或多个十进制数，隐含层神经元数的浮点数编码pk′，对pk′四舍五入确定隐含层神经元数pk，其中k＝1，2，…，q；

单元3：n个输入层神经元的阈值，从a1到an；

单元4：m个输出层神经元的阈值，从b1到bm；

单元5：第k个隐含层的第i个神经元的阈值(cki)，其中i＝1，2，…，pk，k＝1，2，…，q；

单元6：输入层中的n个神经元与第1个隐含层中的j1个神经元间的连接权值(从到)，其中j1＝1，2，…，p1；

单元7：最后一个隐含层中的jq个神经元与输出层中的m个神经元间的连接权值(从到)，其中jq＝1，2，…，pq；

单元8：第k′个隐含层的第jk′个神经元与第(k′+1)个隐含层的第jk′+1个神经元间的连接权值其中jk′＝1，2，…，pk′，k′＝1，2，…，q-1；

12)采用变长实数编码方式，编码过程如下：

(1)pk’在随机初始化或进化过程中都为实数，采用pk＝Int(pk’+0.5)的对pk’四舍五入原则确定隐含层神经元数pk；

(2)输入层神经元的阈值；

(3)然后是输入层神经元到第i个隐含层神经元的连接权值；

(4)第i个隐含层神经元的阈值；

(5)第i个隐含层神经元到输出层神经元的连接权值，其中i按隐含层神经元的顺序从1至pk；

(6)输出层神经元的阈值。

2.根据权利要求1所述的一种遗传算法改进神经网络遥感分类处理方法，其特征在于，所述的步骤3)中的适应度函数为f(x)＝1/E，其中E为网络的输出误差。