CN107609648B - 一种结合堆叠降噪稀疏自动编码器的遗传算法 - Google Patents

Abstract

本发明设计了一种结合堆叠降噪稀疏自动编码器的遗传算法，主要包括堆叠降噪稀疏自动编码器部分、SOM神经网络部分和遗传算法。通过堆叠降噪稀疏自动编码器提取实时环境图像特征,同时消除环境噪声影响，经过SOM神经网络的映射拟合作为遗传算法中的适应度值，解决了传统遗传算法应用于复杂现实环境时，其固定适应度计算函数欠缺灵活性与准确性的问题，避免算法出现欺骗问题，提高了算法解的质量，同时SOM神经网络映射拟合能够有效避免其他神经网络的长时间迭代运算与输出误差问题。

Description

一种结合堆叠降噪稀疏自动编码器的遗传算法

技术领域

本发明涉及移动机器人领域，具体涉及一种结合堆叠降噪稀疏自动编码器的遗传算法。

背景技术

随着机器人技术的发展，机器人已开始应用到未知环境，与已知环境下的移动机器人任务分配研究相比，在未知环境中机器人不具有环境的先验知识，需要处理来自真实环境的感知信息、环境的不确定及不完全信息，在进行多任务分配过程中不可避免的会遇到各种情况。因此，如何提高移动机器人对环境的自适应能力与改良传统的理想化任务分配算法具有非常重要的实际意义。

传统的遗传算法应用于机器人多任务分配，由于适应度函数选择不当或固定函数不符合实际应用场景，容易出现以下欺骗问题:1.在遗传算法初期，通常会产生一些超常个体，这些超常个体会因竞争力突出，而控制选择过程，影响到算法的全局优化性能；2.遗传算法后期，当算法趋于收敛时，由于种群中个体适应度差异较小，继续优化的潜能降低，可能获得某个局部最优解。遗传算法中适应度函数的选取直接影响到遗传算法的收敛情况以及能否找到最优解，因为遗传算法在进化搜索中基本不利用外部信息，仅以适应度函数为依据，利用种群个体的适应度来进行搜索。

深度学习算法以其适应性强、准确率高、结构复杂等特性在数据挖掘算法中异军突起。深度学习模型模拟人脑的信息处理机制。自动编码器作为一种高效的深度学习模型，已经被证明能够学习数据中的固有特征和相关性，并提取有用的更高级别表示，减少了人工特征提取的工作量，极大提高了特征提取的效率。堆叠降噪稀疏自动编码器在提取更准确特征的同时还具有清理噪声数据的能力。

发明内容

本发明要解决的技术问题是克服传统遗传算法应用于机器人多任务分配中的缺点与不足，提出将堆叠降噪稀疏自动编码器与遗传算法相结合的理论方法，使得算法充分利用了环境信息，极大提高了解的质量，在进行机器人多任务分配时更加准确。

一种结合堆叠降噪稀疏自动编码器的遗传算法，具体包括如下步骤：

(1)使用堆叠降噪稀疏自动编码器对环境图像进行特征提取；

(2)经过SOM神经网络将堆叠降噪稀疏自动编码器网络所提取的特征映射拟合作为个体的适应度评价结果；

(3)遗传算法根据得到的个体适应度值对机器人进行任务分配。

所述步骤(1)具体包括：

(1.1)对原始输入进行预处理，根据特定环境选择在输入时加入特定类型的噪声，原始输入x处理后的随机映射表达为

(1.2)将经处理后的环境图像x⁽ⁱ⁾输入编码器，由编码器对其进行编码操作，编码器函数为y⁽ⁱ⁾＝f_θ(x⁽ⁱ⁾)＝s(Wx⁽ⁱ⁾+b),其中θ＝{W,b}为网络参数,W代表权重矩阵,b代表偏置向量，s(x)＝1/(1+e^-x)为激活函数；输入数据经编码器处理后得到隐藏特征表达y⁽ⁱ⁾。

(1.3)将隐藏特征表达输入解码器进行解码处理，解码器函数为g_θ'(y)＝s(W'y+b')，其中θ'＝{W',b'},W'为权重矩阵，取W'＝W^T，W^T为W'的转置矩阵，b'为偏置向量；输入数据经过编码解码操作得到重构向量z⁽ⁱ⁾；根据公式L(x,z)＝||x-z||²得到重组误差L(x,z)。

(1.4)对模型参数进行优化调整，最小化重构误差；{θ,θ'}用最小均方误差来优化网络参数，其表达式为：

其中，m为样本个数，L为代价函数，本发明采用交叉熵代价函数；

n为样本维数。

(1.5)用深度网络结构的形式，将降噪稀疏自动编码器逐层堆叠，形成一个由编码器上下连接而成的模型结构，即为堆叠降噪稀疏自动编码器网络。

所述步骤(1.2)具体包括：

在输入数据经编码器处理时加入稀疏限制，加入了稀疏限制之后代价函数表达式为：

λ代表权重衰减项在代价函数中所起的作用，β为稀疏性代价系数，s为隐藏层中神经元的数量，l为网络层数；稀疏限制

其中ρ为稀疏参数,是一个很小的接近于0的值；

表示某一层网络节点输出值的平均值，

表示某一层节点的输出值。

所述堆叠降噪稀疏自动编码器网络具体包括：

对网络进行训练时，一层的输出作为后一层的纯净输入，逐层进行训练，第一层降噪稀疏自动编码器，用编码函数f_θ对输入x进行降噪编码，第一层的结果输出作为第二层的样本输入，并训练得到第二层的编码函数

整个深度网络过程以此重复，依次类推；经过由深度网络结构的降噪稀疏自动编码器所提取的特征值作为输入传入SOM神经网络。

所述步骤(2)具体包括：

(2.1)SOM网络初始化，即初始化网络权值：随机指派任意值作为权值的初始参量分别赋给输入层和映射层；

(2.2)将堆叠降噪稀疏自动编码器所提取特征向量作为输入层输入；

(2.3)利用欧式距离计算公式计算映射层W_j的权值与输入层X的距离，

式中，W_ij为输入层i神经元和映射层j神经元之间的权值,X_i为输入数据，m为样本数；通过计算，对于任意的j，都有某个单元k，使得d_k＝min_j(d_j)，称该神经元为获胜神经元，记为j*；

(2.4)修正输出神经元j*及其邻接神经元的权值：

Δw_ij＝w_ij(t+1)-w_ij(t)＝η(t)[x_i(t)-w_ij(t)]；

式中，η为介于0和1之间的常数，随时间变换逐渐下降至0，

(2.5)计算输出O_k：

f(*)为非线性函数；所得结果若符合SOM网络设定要求，即可作为遗传算法适应度值依据，遗传算法根据此进行遗传算子操作。

所述步骤(3)具体包括：

(3.1)编码，确定初始种群：染色体的基因顺序值表示机器人编队的编号，字串值表示要完成任务的目标编号，机器人编队编号与任务的目标编号形成一种映射关系；

(3.2)根据堆叠降噪稀疏自动编码器所提供的所有机器人个体适应度值对机器人进行遗传算子操作：产生随机数

若q_i-1≤μ≤q_i，则选择染色体C_i；重复N_s次，得到新选出的染色体组C′_i∈C,i＝1,2,...N_s。

所述步骤(3.2)具体包括：

(3.2.1)采用单点交叉的方法，以概率P_c进行交叉运算：从[0,1]中产生随机数P，若P＜P_c，则选择C_i作为一个父代；确定父代后，对其进行随机组合；对于每一组染色体，产生随机整数c∈[1,m]，对染色体进行交叉；交叉完成后，检验每一后代的可行性。若两个后代均可行，则用它们代替其父代，否则保留其中可行的，重复交叉过程直到所有后代都可行或达到指定次数为止；

(3.2.2)采用逆转变异算子，在个体中随机挑选两个逆转点，再将两个逆转点间的基因交换：从[0,1]中产生随机数P，若P＜P_m，则选择C_i作为变异染色体；变异染色体确定后，产生m个[0,n]范围内的随机整数作为新的染色体，若该染色体不满足条件，则重复进行上述变异过程直到变异染色体可行或达到指定的次数为止；

(3.2.3)当连续N代子代种群的最优染色体适应度都≤父代最优染色体的适应度时，即算法终止，得到的染色体即最优任务分配方案。

本发明通过堆叠降噪稀疏自动编码器提取实时环境图像特征,同时消除环境噪声影响，经过SOM神经网络的映射拟合作为遗传算法中的适应度值，解决了传统遗传算法应用于复杂现实环境时，其固定适应度计算函数欠缺灵活性与准确性的问题，避免算法出现欺骗问题，提高了算法解的质量，同时SOM神经网络映射拟合能够有效避免其他神经网络的长时间迭代运算与输出误差问题。图1所示为堆叠降噪稀疏自动编码器与遗传算法交互示意图。

附图说明

图1是堆叠降噪稀疏自动编码器与遗传算法结合示意图；

图2是降噪稀疏自动编码器流程图；

图3是降噪稀疏自动编码器结构图；

图4是堆叠降噪稀疏自动编码器一次堆叠过程示意图；

图5是改进后遗传算法流程图；

图6是遗传算法交叉示意图；

图7是遗传算法变异例图。

具体实施方式

本发明将深度学习中堆叠降噪稀疏自动编码器与遗传算法相结合，克服以往固定适应度函数容易导致出现欺骗问题等不足；同时，通过SOM神经网络的映射拟合，有效地将遗传算法与堆叠降噪稀疏自动编码器相结合，提高了与环境的实时交互性。本发明主要包括堆叠降噪稀疏自动编码器部分、SOM神经网络部分和遗传算法部分。下面结合附图对本发明方法进行进一步的解释和说明。

主要包括如下步骤：

步骤1：使用堆叠降噪稀疏自动编码器对环境图像进行特征提取，图2所示为降噪稀疏自动编码器流程图。

步骤1包括以下步骤：

步骤1.1：对原始输入进行预处理，根据特定环境选择在输入时加入某种类型的噪声，其学习目标是从加噪的输入中重构出纯净的输入，从而去除环境噪声对提取特征的影响，原始输入x处理后的随机映射表达为

如图3降噪稀疏自动编码器结构图中过程(1)所示。

步骤1.2：将经处理后的环境图像x⁽ⁱ⁾输入编码器，由编码器对其进行编码操作，编码器函数为y⁽ⁱ⁾＝f_θ(x⁽ⁱ⁾)＝s(Wx⁽ⁱ⁾+b),其中θ＝{W,b}为网络参数,W代表权重矩阵,b代表偏置向量，s(x)为激活函数，本发明选用sigmoid函数，即s(x)＝1/(1+e^-x)。输入数据经编码器处理后得到隐藏特征表达y⁽ⁱ⁾。过程如图3中(2)所示。

步骤1.3：将隐藏特征表达输入解码器进行解码处理，解码器函数为g_θ'(y)＝s(W'y+b')，其中θ'＝{W',b'},W'为权重矩阵，取W'＝W^T，W^T为W'的转置矩阵，b'为偏置向量。输入数据经过编码解码操作得到重构向量z⁽ⁱ⁾，过程如图3中(3)所示。z⁽ⁱ⁾不是x⁽ⁱ⁾精确的恢复，而是作为概率项p的参数，p由z⁽ⁱ⁾与x⁽ⁱ⁾对比产生，根据p得出重组误差L(x,z)，根据本发明数据特征，主要采用以下形式来表达：L(x,z)＝||x-z||²，过程如图3中(4)所示。

步骤1.4：对模型参数进行优化调整，最小化重构误差。{θ,θ'}用最小均方误差来优化网络参数，其表达式为：

其中，m为样本个数，L为代价函数，本发明采用交叉熵代价函数，

n为样本维数。

在原代价函数基础上中加入稀疏限制，稀疏性限制保证了对输入数据的泛化能力，当隐含层神经元数量很大时，依然能可靠的提取结构特征。加入了稀疏限制之后代价函数表达式为：

λ决定了权重衰减项在代价函数中所起的作用，β为稀疏性代价系数，s为隐藏层中神经元的数量，l为网络层数，稀疏限制

其中ρ是稀疏参数,通常被设为一个很小的接近于0的值,

表示某一层网络节点输出值的平均值(j＝1,2,3...t，t为某一层网络的节点数)，

表示某一层节点的输出值。当

时

达到最小为0，当

接近0或1时，

急剧增大，在代价函数中加入此项并使其最小化，可使

更靠近与ρ。如图3所示为降噪稀疏自动编码器结构图。

步骤1.5：为了得到更高级的特征表达，用深度网络结构的形式，将降噪稀疏自动编码器逐层堆叠，形成一个由编码器上下连接而成的模型结构，即为堆叠降噪稀疏自动编码器网络。在训练时，前一层的输出作为后一层的纯净输入，逐层进行训练，其一次堆叠过程如图4所示。图4(a)图表示第一层降噪稀疏自动编码器，用编码函数f_θ对输入x进行降噪编码，图4(b)表示第一层的结果输出作为第二层的样本输入，并训练得到第二层的编码函数

整个深度网络过程以此重复，如图4(c)所示。依次类推，将第(n-1)阶特征表示作为第n个降噪稀疏自动编码器的输入，得到n阶特征表示。降噪稀疏自动编码器堆叠的深度可根据环境复杂程度设置。经过由深度网络结构的降噪稀疏自动编码器所提取的特征值能够准确表达机器人所处的环境特征信息，将所提取特征表达传递至SOM神经网络，作为SOM神经网络的输入。

步骤2：经过SOM神经网络将堆叠降噪稀疏自动编码器网络所提取的特征映射拟合作为个体的适应度评价结果。SOM网络能将任意维输入模式在输出层映射成一维或二维,并保持其拓扑结构不变；网络通过对输入模式的反复学习可以使权重向量空间与输入模式的概率分布趋于一致。SOM神经网络结构为包含输入层和竞争层的2层前馈神经网络，神经网络第1层为输入层，输入层神经元个数同输入样本向量维度一致，节点数为m。第二层为竞争层，节点呈二维阵列分布，节点数为n。输入节点与输出节点之间以可变权值全连接。

步骤2.1：SOM网络初始化，即初始化网络权值。将随机指派任意值作为权值的初始参量分别赋给输入层和映射层。

步骤2.2：将堆叠降噪稀疏自动编码器所提取特征向量作为输入层输入。

步骤2.3：利用欧式距离计算公式计算映射层W_j的权值与输入层X的距离，

式中，W_ij为输入层i神经元和映射层j神经元之间的权值,X_i为输入数据，m为样本数。过计算，得到一个获胜神经元，记为j*，即对于任意的j，都有某个单元k，使得d_k＝min_j(d_j)成立，即把与输入向量距离最小的竞争层神经元作为最优匹配输出神经元。

步骤2.4：修正输出神经元j*及其邻接神经元的权值。Δw_ij＝w_ij(t+1)-w_ij(t)＝η(t)[x_i(t)-w_ij(t)]，式中，η为介于0和1之间的常数，随时间变换逐渐下降至0，

步骤2.5：计算输出O_k，

f(*)为非线性函数。所得结果若符合SOM网络设定要求，即可作为遗传算法适应度值依据，遗传算法根据此进行遗传算子操作。

步骤3：遗传算法根据得到的个体适应度值对机器人进行任务分配。如图5所示为改进后遗传算法总体流程图。

步骤3包括以下步骤：

步骤3.1：编码，确定初始种群。编码是应用遗传算法时要解决的首要问题，也是设计遗传算法时的一个关键步骤。在遗传算法执行过程中，对不同的具体问题进行编码，编码的好坏直接影响选择，交叉，变异等遗传运算。本发明采用如下的染色体编码方案：染色体的基因顺序值表示机器人编队的编号，字串值表示要完成任务的目标编号，形成一种映射关系。例如，其染色体为[2 1 4 1 3 2]，它表示第1个、6个机器人编队完成第2个目标，第2个、4个机器人编队完成第1个目标，第5个机器人编队完成第3个目标，多个机器人编队可以打击同一目标。

步骤3.2：根据堆叠降噪稀疏自动编码器所提供的所有机器人个体适应度值对机器人进行遗传算子操作。步骤32包括以下步骤。

步骤3.2.1：产生随机数

若q_i-1≤μ≤q_i，则选择染色体C_i；重复N_s次，得到新选出的染色体组C′_i∈C,i＝1,2,...N_s。

步骤3.2.2：交叉运算，交叉运算是对两个相互配对的染色体依据交叉概率按某种方式相互交换其部分基因，从而形成两个新的个体，交叉率一般来说应该比较大，本发明采用80％-95％交叉率。通过交叉和变异这对相互配合又相互竞争的操作而使算法具备兼顾全局和局部的均衡搜索能力。采用单点交叉的方法，以概率P_c进行，为确定交叉操作的父代，从i＝1到N_s重复以下步骤：

从[0,1]中产生随机数P，若P＜P_c，则选择C_i作为一个父代；确定父代后，对其进行随机组合：(C′₁,C′₃),(C'₂,C′₅),...；对于每一组染色体，产生随机整数c∈[1,m]，对染色体进行交叉。交叉示意图如图6所示；交叉完成后，检验每一后代的可行性。若两个后代均可行，则用它们代替其父代，否则保留其中可行的，重复交叉过程直到所有后代都可行或达到指定次数为止。

步骤3.2.3：变异算子，变异运算是指依据变异概率将个体编码串中的某些基因值用其它基因值来替换，从而形成一个新的个体。变异算子首先在合适适应度范围内群体中随机选择一个个体，对于选中的个体以一定的概率随机改变结构数据中的某个值，即对群体中的每一个个体，以某一概率改变某一个或某一些基因座上的基因值为其他的等位基因。变异率一般来说应该比较小，本发明采用0.5％-1％。本发明主要采用逆转变异算子，在个体中随机挑选两个逆转点，再将两个逆转点间的基因交换。如：变异前：13467982变异后：12167982。例如图7所示，该染色体的3号基因位发生变异，由4变为1，所产生的新染色体没能给4号目标分配机器人，则该染色体不能用。具体步骤如下：

从[0,1]中产生随机数P，若P＜P_m，则选择C_i作为变异染色体；变异染色体确定后，产生m个[0,n]范围内的随机整数作为新的染色体，若该染色体不满足条件，则重复进行上述变异过程直到变异染色体可行或达到指定的次数为止；当连续N代子代种群的最优染色体适应度都≤父代最优染色体的适应度时，即算法终止，得到的染色体即最优任务分配方案。

综上，一种将堆叠降噪稀疏自动编码器与遗传算法相结合的多机器人任务分配方法流程图如图5所示。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (1)

1.一种结合堆叠降噪稀疏自动编码器的遗传方法，具体包括如下步骤：

(1)使用堆叠降噪稀疏自动编码器对环境图像进行特征提取；

(2)经过SOM神经网络将堆叠降噪稀疏自动编码器所提取的特征映射拟合作为个体适应度值；

(3)利用遗传算法根据得到的个体适应度值完成机器人的任务分配；

所述的步骤(1)具体包括：

(1.1)对原始输入进行预处理，根据特定环境选择在输入时加入特定类型的噪声，原始输入x处理后的随机映射表达为

(1.2)将经处理后的环境图像x⁽ⁱ⁾输入编码器，由编码器对其进行编码操作，编码器函数为y⁽ⁱ⁾＝f_θ(x⁽ⁱ⁾)＝s(Wx⁽ⁱ⁾+b),其中θ＝{W,b}为网络参数,W代表y⁽ⁱ⁾的权重矩阵，b代表偏置向量，s(x)＝1/(1+e^-x)为激活函数；输入数据经编码器处理后得到隐藏特征表达y⁽ⁱ⁾；

(1.3)将隐藏特征表达输入解码器进行解码处理，解码器函数为g_θ'(y)＝s(W'y+b')，其中θ'＝{W',b'},W'为g_θ'(y)的权重矩阵，取W'＝W^T，W^T为W'的转置矩阵，b'为偏置向量；输入数据经过编码解码操作得到重构向量z⁽ⁱ⁾；根据公式L(x,z)＝||x-z||²得到重构误差L(x,z)；

(1.4)对模型参数进行优化调整，最小化重构误差；{θ,θ'}用最小均方误差来优化网络参数，其表达式为：

其中，m为样本个数，L为代价函数，采用交叉熵代价函数；

n为样本维数；

(1.5)用深度网络结构的形式，将降噪稀疏自动编码器逐层堆叠，形成一个由编码器上下连接而成的模型结构，即为堆叠降噪稀疏自动编码器；

所述的步骤(1.2)具体包括：

在输入数据经编码器处理时加入稀疏限制，加入了稀疏限制之后代价函数表达式为：

λ代表代价函数中的权重衰减系数，β为稀疏性代价系数，s为隐藏层中神经元的数量，l为网络层数；稀疏限制

其中ρ为稀疏参数；

表示某一层网络节点输出值的平均值，

表示某一层节点的输出值；

所述的堆叠降噪稀疏自动编码器具体包括：

对网络进行训练时，一层的输出作为后一层的输入，逐层进行训练，第一层降噪稀疏自动编码器，用编码函数f_θ对输入x进行降噪编码，第一层的结果输出作为第二层的样本输入，并训练得到第二层的编码函数

整个深度网络过程以此重复，依次类推；经过由深度网络结构的降噪稀疏自动编码器所提取的特征作为输入传入SOM神经网络；

所述的步骤(2)具体包括：

(2.1)SOM网络初始化，即初始化网络权值：随机指派任意值作为权值的初始参量分别赋给输入层和映射层；

(2.2)将堆叠降噪稀疏自动编码器所提取特征作为输入层输入；

(2.3)利用欧式距离计算公式计算映射层W_j的权值与输入层X的距离，

式中，W_ij为输入层i神经元和映射层j神经元之间的权值,X_i为输入数据，m为样本数；通过计算，对于任意的j，都有某个单元k，使得d_k＝min_j(d_j)，称该神经元为获胜神经元，记为j*；

(2.4)修正输出神经元j*及其邻接神经元的权值：

Δw_ij＝w_ij(t+1)-w_ij(t)＝η(t)[x_i(t)-w_ij(t)]；

式中，η为介于0和1之间的变量，随时间变换逐渐下降至0，

(2.5)计算输出O_k：

f(*)为非线性函数；所得结果若符合SOM网络设定要求，即可作为遗传算法适应度值依据，遗传算法根据O_k进行遗传算子操作；

所述步骤(3)具体包括：

(3.1)编码，确定初始种群：染色体的基因顺序值表示机器人编队编号，字串值表示要完成任务的目标编号，机器人编队编号与任务的目标编号形成一种映射关系；

(3.2)根据堆叠降噪稀疏自动编码器所提供的所有机器人个体适应度值对机器人进行遗传算子操作：产生随机数

若q_i-1≤μ≤q_i，则选择染色体C_i；重复N_s次，得到新选出的染色体组C'_i∈C,i＝1,2,...N_s；

所述步骤(3.2)具体包括：

(3.2.1)采用单点交叉的方法，以概率P_c进行交叉运算：从[0,1]中产生随机数P，若P＜P_c，则选择C_i作为一个父代；确定父代后，对其进行随机组合；对于每一组染色体，产生随机整数c∈[1,l]，对染色体进行交叉；交叉完成后，检验每一后代的可行性；若两个后代均可行，则用它们代替其父代，否则保留其中可行的，重复交叉过程直到所有后代都可行或达到指定次数为止；

(3.2.2)采用逆转变异算子，在个体中随机挑选两个逆转点，再将两个逆转点间的基因交换：从[0,1]中产生随机数P，若P＜P_m，则选择C_i作为变异染色体；变异染色体确定后，产生k个[0,n]范围内的随机整数作为新的染色体，若该染色体不满足条件，则重复进行上述变异过程直到变异染色体可行或达到指定的次数为止；

(3.2.3)当连续N代子代种群的最优染色体适应度都≤父代最优染色体的适应度时，即算法终止，得到的染色体即最优任务分配方案。

Images