CN107730002A - 一种通信网关机遥控参数智能模糊比对方法 - Google Patents

Abstract

本发明公开了一种通信网关机遥控参数智能模糊比对方法，实施步骤包括将两个遥控参数分别通过训练好的词向量模型转换为相同维度的包含语义信息的一维向量，将两个一维向量分别输入两卷积神经网络，两卷积神经网络共享参数且对称，两卷积神经网络将两个一维向量构成的二维矩阵重新编码为一维向量后接入同一神经网络层，通过神经网络层计算两个卷积神经网络输出的一维向量之间的语义距离，根据该语义距离是否超过预设阈值来判断是否模糊匹配成功。本发明能更加智能地识别词语不同而语义相同的参数描述，更准确地区分词语匹配率高却语义不同的参数描述，提高了参数比对的准确率与效率，改善了遥控参数比对性能，提高了变电站遥控操作的安全性。

Description

一种通信网关机遥控参数智能模糊比对方法

技术领域

本发明涉及变电站遥控的核验、比对遥控参数技术，具体涉及一种通信网关机遥控参数智能模糊比对方法。

背景技术

变电站遥控时，高效正确地核验、比对遥控参数，是避免误遥控、保证电网安全运行的必不可少的关键操作。为此，工程技术人员设计了一些自动化系统进行参数比对，以降低原人工比对方法的工作量，提高比对工作效率。

遥控参数自动比对通常有两类基本技术：第一种是字符串最大匹配方法，这类方法要求字符串严格相同，不能适用于灵活多变的文字性描述，实际应用中只作为比对的基本技术；第二种是基于规则库与专家库，例如隔离开关，按照规则，与隔离刀闸、隔刀、刀闸可认为是匹配的；第三种是基于神经网络和深度学习技术进行模糊比对。

但是，因为遥控参数，特别是遥控点的描述，缺少强制规范，工程人员输入时表述形式较自由，导致有大量的不同参数描述都是匹配的，一些相近的描述却可能是不匹配的。对于基于规则库和专家库的比对方法来说，一旦参数描述方式不在规则库当中，则该类方法就失效。对于传统神经网络和深度学习技术，则需要海量的人工标注的文本训练样本，才能够获得较好的效果，实际应用中阻碍这类技术应用的最大障碍就是在可承受的成本内，无法获得足够的人工标注的训练样本数据。

发明内容

本发明要解决的技术问题：针对现有技术的上述问题，根据变电站遥控网关机参数描述特点，提供一种学习能力强、具有较强泛化能力的一种通信网关机遥控参数智能模糊比对方法，本发明基于深度学习技术，采用少样本训练策略训练和构造一个将参数描述转成向量的模型，实现遥控参数的智能模糊比对。本发明基于参数描述的语义进行比对，避免了人工构造大量的遥控参数匹配规则，可以更加智能地识别词语不同而语义相同的参数描述，更准确地区分词语匹配率高却语义不同的参数描述，提高了参数比对的准确率与效率，改善网关机遥控参数自动比对系统的性能，进而提高变电站遥控操作的安全性。

为了解决上述技术问题，本发明采用的技术方案为：

一种通信网关机遥控参数智能模糊比对方法，实施步骤包括：

1)输入待比对的通信网关机的两个遥控参数X₁和X₂；

2)将两个遥控参数X₁和X₂分别通过预先训练好的词向量模型M1转换为相同维度的一维向量[X₁]和[X₂]；

3)将一维向量[X₁]输入卷积神经网络CNN1，同时将一维向量[X₂]输入卷积神经网络CNN2，所述卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，所述卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，并通过神经网络层计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离；

4)判断卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离是否大于预设阈值，如果大于预设阈值，则判定两个遥控参数X₁和X₂之间模糊匹配成功，否则判定两个遥控参数X₁和X₂之间模糊匹配失败。

优选地，步骤3)中计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离具体采用L2范数。

优选地，步骤3)中的卷积神经网络CNN1和卷积神经网络CNN2的训练步骤如下：

3.1)导出通信网关机的参数配置文件中的网关机参数描述，并将网关机参数描述通过进行分词后保存为词向量训练数据T1；

3.2)将词向量训练数据T1使用词向量工具进行无监督的模型训练，根据网关机参数描述的基本结构将语义和语法作用相近的词转换成距离较近、固定长度的向量，得到由固定长度向量组成的词向量模型M1；

3.3)将词向量模型M1转换为遥控参数样本矩阵A^m×n，其中m为词向量的长度，n为词的数量；

3.4)基于遥控参数样本矩阵A^m×n随机构造训练样本对，随机打乱遥控参数样本矩阵A^m×n的顺序，将遥控参数样本矩阵两两配对为训练样本对，如果训练样本对的两个遥控参数之间语义相同，则将该训练样本对标注为1，否则将该训练样本对标注为0，将所有带有标注的训练样本对构建得到有标注的数据集T2作为训练样本集合；

3.5)将训练样本集合划分为若干批次的子集D，每批次的子集D由支持集D_support和测试集数据D_test构成，且构造每批次的子集D时应遵从：对于N类不同的遥控参数描述，每类样本对均应随机选择K个匹配的遥控参数样本和K个不匹配的遥控参数样本，使得每个训练批次内每类有K个正例和K个反例，以保证支持集D_support的均衡，且将支持集D_support以外的其余数据构造测试集D_test以用于验证模型的准确率，N和K为指定的整数；

3.6)建立卷积神经网络CNN1和卷积神经网络CNN2，卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，所述卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，且神经网络层后接一个只输出0和1的softmax分类器层，将每批次的子集D的训练样本对的一个参数样本输入卷积神经网络CNN1、另一个参数样本输入卷积神经网络CNN2，且将训练样本对的标注作为softmax分类器层的输出来分批训练卷积神经网络CNN1和卷积神经网络CNN2，最终完成对卷积神经网络CNN1和卷积神经网络CNN2的训练。

优选地，所述卷积神经网络CNN1和卷积神经网络CNN2均由过滤层、最大池化层和全连接层构成，激活函数使用ReLu函数f(x)＝max(0,x)，卷积神经网络CNN1和卷积神经网络CNN2输入维度为m*n，m为词向量的维度，n为参数描述语句包含的词的数量；过滤层的过滤器大小定义为m*h，其中m对应于矩阵的宽度，h对应于过滤器覆盖区域的高度，其等于滑动窗口所覆盖的词向量的数目，通过卷积操作提取特征o_i的过程如式(1)所示；

o_i＝f(W·A[i：i+h]+b) (1)

式(1)中，W为过滤器矩阵；点“·”为卷积计算，A[i：i+h]为样本矩阵中的一个子矩阵，方括号内数值代表行编号；b是偏置值，用随机值初始化；f为激活函数ReLu；过滤器沿矩阵列的方向滑动，每次步长为1，经卷积操作和激活函数变换后，输入最大池化层降维将提取出的多个特征转成列向量再输入全连接层，通过全连接层将各输入的向量拼接压缩为一个一维的列向量，卷积神经网络CNN1和卷积神经网络CNN2两者的全连接层输出的一维的列向量接入同一个神经网络层，通过神经网络层计算输入的两个一维的列向量的距离，最终通过softmax分类器层输出其模拟比对结果为0或1。

优选地，步骤3.1)中将网关机参数描述进行分词时，除了基于语法规则进行分词以外，还包括基于电力行业领域知识增加人为定义分词规则。

本发明通信网关机遥控参数智能模糊比对方法具有下述优点：

1、通信网关机遥控参数智能模糊比对方法基于遥控参数描述的语义相似进行比对，而不是根据字符串是否相同进行比对。语义相似的词语，在向量化后，其向量间距离较小，而语义不同的词语，其向量间距离较大。例如“隔离刀闸”与“隔刀”的向量距离较小，与“地刀”距离较大。基于语义相似比对，有助于识别各类语义相同的不同文字描述，弥补专家规则库难以涵盖全部情况的不足。

2、通信网关机遥控参数智能模糊比对方法无需海量人工标注的训练样本。通信网关机遥控参数智能模糊比对方法采用少样本训练策略，学习网关机遥控参数的最基本的“原型”向量，再通过少量训练样本调整模型，使得匹配的参数向量之间的距离尽可能小，同时放大不匹配的向量间距离，改善模糊比对的性能。

综上所述，本发明通信网关机遥控参数智能模糊比对方法基于参数描述的语义进行比对，避免了人工构造大量的遥控参数匹配规则，可以更加智能地识别词语不同而语义相同的参数描述，更准确地区分词语匹配率高却语义不同的参数描述，提高了参数比对的准确率与效率，改善网关机遥控参数自动比对系统的性能，进而提高变电站遥控操作的安全性。

附图说明

图1为本发明实施例方法的基本流程示意图。

图2为本发明实施例方法中的卷积神经网络训练原理示意图。

具体实施方式

如图1所示，本实施例通信网关机遥控参数智能模糊比对方法的实施步骤包括：

1)输入待比对的通信网关机的两个遥控参数X₁和X₂；

2)将两个遥控参数X₁和X₂分别通过预先训练好的词向量模型M1转换为相同维度的一维向量[X₁]和[X₂]；

3)将一维向量[X₁]输入卷积神经网络CNN1，同时将一维向量[X₂]输入卷积神经网络CNN2，所述卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，所述卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，并通过神经网络层计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离；

4)判断卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离是否大于预设阈值，如果大于预设阈值，则判定两个遥控参数X₁和X₂之间模糊匹配成功，否则判定两个遥控参数X₁和X₂之间模糊匹配失败。

本实施例中，步骤3)中计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离具体采用L2范数，其数学函数表达式为‖x′₁-x′₂‖，x′₁表示一维向量[X’₁]，x′₂表示一维向量[X’₂]。

如图2所示，步骤3)中的卷积神经网络CNN1和卷积神经网络CNN2的训练步骤如下：

3.1)导出通信网关机的参数配置文件中的网关机参数描述，并将网关机参数描述通过进行分词后保存为词向量训练数据T1；

3.2)将词向量训练数据T1使用词向量工具进行无监督的模型训练，根据网关机参数描述的基本结构将语义和语法作用相近的词转换成距离较近、固定长度的向量，得到由固定长度向量组成的词向量模型M1；

3.3)将词向量模型M1转换为遥控参数样本矩阵A^m×n，其中m为词向量的长度，n为词的数量；

3.4)基于遥控参数样本矩阵A^m×n随机构造训练样本对，随机打乱遥控参数样本矩阵A^m×n的顺序，将遥控参数样本矩阵两两配对为训练样本对，如果训练样本对的两个遥控参数之间语义相同，则将该训练样本对标注为1，否则将该训练样本对标注为0，将所有带有标注的训练样本对构建得到有标注的数据集T2作为训练样本集合；

3.5)将训练样本集合划分为若干批次的子集D，每批次的子集D由支持集D_support和测试集数据D_test构成，且构造每批次的子集D时应遵从：对于N类不同的遥控参数描述，每类样本对均应随机选择K个匹配的遥控参数样本和K个不匹配的遥控参数样本，使得每个训练批次内每类有K个正例和K个反例，以保证支持集D_support的均衡，且将支持集D_support以外的其余数据构造测试集D_test以用于验证模型的准确率，N和K为指定的整数；

3.6)建立卷积神经网络CNN1和卷积神经网络CNN2，卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，且神经网络层后接一个只输出0和1的softmax分类器层，将每批次的子集D的训练样本对的一个参数样本输入卷积神经网络CNN1、另一个参数样本输入卷积神经网络CNN2，且将训练样本对的标注作为softmax分类器层的输出来分批训练卷积神经网络CNN1和卷积神经网络CNN2，最终完成对卷积神经网络CNN1和卷积神经网络CNN2的训练。

参见步骤3.1)～3.6)可知，本实施例中对卷积神经网络CNN1和卷积神经网络CNN2的训练分为无监督模型训练阶段和有监督模型优化阶段。步骤3.1)～3.2)为无监督模型训练阶段，步骤3.3)～3.6)为有监督模型优化阶段。

本实施例步骤3.1)中将网关机参数描述通过进行分词时，除了基于语法规则进行分词以外，还包括基于电力行业领域知识增加人为定义分词规则。例如对500kv，可以分为一个词，而不是分为500和kv两个词。分词后，每条参数的形式，可以表示为[词1，词2，词3，……]。将所有“词i”逐个存入词向量训练数据T1。遥控参数描述中可包含地名、规格、型号、远动装置名、遥控动作、其他说明等。

本实施例步骤3.2)中将词向量训练数据T1使用词向量工具进行无监督的模型训练时，采用的模型训练工具为Word2Vec工具。将训练数据T1输入Word2Vec工具进行训练，可以获得一个将词语转换成固定长度的向量的词向量模型M1。向量长度一般设置为200。该工具训练获得的词向量模型M1可以根据文字描述的基本结构，将语义和语法作用相近的词，转换成距离较近的向量。例如，“500kv5031断路器”，“500kv50312隔离开关”和“500kv50312接地刀闸”因“断路器”、“隔离开关”和“接地刀闸”在句子中的语法作用相同，因此“断路器”、“隔离开关”和“接地刀闸”在转换成向量后，其向量距离较小，但是根据电力领域知识，“隔离开关”和“接地刀闸”在语义上应该不相似，需要在后续步骤中进行调整。

本实施例步骤3.3)中把搜集到的遥控参数样本输入词向量模型M1，将其转换为2维矩阵A＝[词向量1，词向量2，……]^T。此处，每个词向量表示为列向量，即每个词向量占一行。因描述遥控参数的字段可能有不同的长度，为便于后续深度网络处理，需要将所有遥控参数中词的数量，设定为统一的数量，词条不足的，以空格补齐。相应的，参数描述样本所对应的矩阵，也被调整为相同的维度，维度不足的，在矩阵中补0。这样，所有的参数样本，都被转换为矩阵A^m×n，其中m为词向量的长度，n为样本中包含的词的数量。

本实施例步骤3.4)中基于遥控参数样本矩阵A^m×n随机构造训练样本对，随机打乱遥控参数样本矩阵A^m×n的顺序，将遥控参数样本矩阵两两配对为训练样本对，如果训练样本对的两个遥控参数之间语义相同，则将该训练样本对标注为1，否则将该训练样本对标注为0，将所有带有标注的训练样本对构建得到有标注的数据集T2作为训练样本集合；这部分有标注的数据集T2将用于后续的有监督训练模型，其基本形式为T2＝[[(A₁，A₂),标签0|1]，……，(A_i，A_j),标签0|1]，……]。T2需划分为支持集与测试集两个部分。

本实施例中，卷积神经网络CNN1和卷积神经网络CNN2均由过滤层、最大池化层和全连接层构成，激活函数使用ReLu函数f(x)＝max(0,x)，卷积神经网络CNN1和卷积神经网络CNN2输入维度为m*n，m为词向量的维度，n为参数描述语句包含的词的数量；过滤层的过滤器大小定义为m*h，其中m对应于矩阵的宽度，h对应于过滤器覆盖区域的高度，其等于滑动窗口所覆盖的词向量的数目(因网关机遥控参数语句较短，所含词条一般在2～10个词之间，h设为1、2、3为宜，即用不同尺寸的过滤器以获取不同的语义特征向量)，通过卷积操作提取特征o_i的过程如式(1)所示；

o_i＝f(W·A[i：i+h]+b) (1)

式(1)中，W为过滤器矩阵；点“·”为卷积计算，A[i：i+h]为样本矩阵中的一个子矩阵，方括号内数值代表行编号；b是偏置值，用随机值初始化；f为激活函数ReLu；过滤器沿矩阵列的方向滑动，每次步长为1，经卷积操作和激活函数变换后，输入最大池化层降维将提取出的多个特征转成列向量再输入全连接层，通过全连接层将各输入的向量拼接压缩为一个一维的列向量，卷积神经网络CNN1和卷积神经网络CNN2两者的全连接层输出的一维的列向量接入同一个神经网络层，通过神经网络层计算输入的两个一维的列向量的距离，最终通过softmax分类器层输出其模拟比对结果为0或1。

本实施例中针对卷积神经网络CNN1和卷积神经网络CNN2训练时采用随机梯度下降法的变形RMSprop方法进行网络参数优化，以加快深层网络训练和收敛速度。逐批次输入支持集和测试集数据，训练前面建立的网络模型。利用两个对称的CNN网络和支持集，可以在样本较少时避免网络模型过拟合，并使网络获得较好的泛化性能。此处是有监督训练，根据人工标注的标签，利用误差反向传播机制调整网络权重参数，对原本应有较大语义距离，但是目前距离较小的向量，调整模型中权重值并生成新的编码，从而放大语义不同的向量间距离。例如，“隔离开关”和“接地刀闸”在语义上不相似，如果通过计算距离导致误判，则在训练时调整模型参数，使得这两个词的词向量距离加大。

参见图1，本实施例中在卷积神经网络CNN1和卷积神经网络CNN2的应用阶段，不再需要使用到softmax分类器层，而是直接通过神经网络层计算输出的一维向量[X’₁]和[X’₂]之间距离，根据一维向量[X’₁]和[X’₂]之间距离来判断获取对两个遥控参数X₁和X₂两者的模糊比对结果，根据预先设定的相似阈值，判断其是否满足“模糊相似”，可以通过调整阈值，根据“模糊相似”准确率变化选择最满意的阈值，确保“模糊相似”判断的精度。

以上所述仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (5)

1.一种通信网关机遥控参数智能模糊比对方法，其特征在于实施步骤包括：

1)输入待比对的通信网关机的两个遥控参数X₁和X₂；

2)将两个遥控参数X₁和X₂分别通过预先训练好的词向量模型M1转换为相同维度的一维向量[X₁]和[X₂]；

3)将一维向量[X₁]输入卷积神经网络CNN1，同时将一维向量[X₂]输入卷积神经网络CNN2，所述卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，所述卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，并通过神经网络层计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离；

4)判断卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离是否大于预设阈值，如果大于预设阈值，则判定两个遥控参数X₁和X₂之间模糊匹配成功，否则判定两个遥控参数X₁和X₂之间模糊匹配失败。

2.根据权利要求1所述的通信网关机遥控参数智能模糊比对方法，其特征在于，步骤3)中计算卷积神经网络CNN1和卷积神经网络CNN2输出的一维向量[X’₁]和[X’₂]之间距离具体采用L2范数。

3.根据权利要求1或2所述的通信网关机遥控参数智能模糊比对方法，其特征在于，步骤3)中的卷积神经网络CNN1和卷积神经网络CNN2的训练步骤如下：

3.1)导出通信网关机的参数配置文件中的网关机参数描述，并将网关机参数描述通过进行分词后保存为词向量训练数据T1；

3.2)将词向量训练数据T1使用词向量工具进行无监督的模型训练，根据网关机参数描述的基本结构将语义和语法作用相近的词转换成距离较近、固定长度的向量，得到由固定长度向量组成的词向量模型M1；

3.3)将词向量模型M1转换为遥控参数样本矩阵A^m×n，其中m为词向量的长度，n为词的数量；

3.4)基于遥控参数样本矩阵A^m×n随机构造训练样本对，随机打乱遥控参数样本矩阵A^m×n的顺序，将遥控参数样本矩阵两两配对为训练样本对，如果训练样本对的两个遥控参数之间语义相同，则将该训练样本对标注为1，否则将该训练样本对标注为0，将所有带有标注的训练样本对构建得到有标注的数据集T2作为训练样本集合；

3.5)将训练样本集合划分为若干批次的子集D，每批次的子集D由支持集D_support和测试集数据D_test构成，且构造每批次的子集D时应遵从：对于N类不同的遥控参数描述，每类样本对均应随机选择K个匹配的遥控参数样本和K个不匹配的遥控参数样本，使得每个训练批次内每类有K个正例和K个反例，以保证支持集D_support的均衡，且将支持集D_support以外的其余数据构造测试集D_test以用于验证模型的准确率，N和K为指定的整数；

3.6)建立卷积神经网络CNN1和卷积神经网络CNN2，卷积神经网络CNN1和卷积神经网络CNN2为共享参数的两个对称的卷积神经网络，所述卷积神经网络CNN1和卷积神经网络CNN2将一维向量[X₁]和[X₂]构成的二维矩阵重新编码为一维向量后接入同一个神经网络层，且神经网络层后接一个只输出0和1的softmax分类器层，将每批次的子集D的训练样本对的一个参数样本输入卷积神经网络CNN1、另一个参数样本输入卷积神经网络CNN2，且将训练样本对的标注作为softmax分类器层的输出来分批训练卷积神经网络CNN1和卷积神经网络CNN2，最终完成对卷积神经网络CNN1和卷积神经网络CNN2的训练。

4.根据权利要求3所述的通信网关机遥控参数智能模糊比对方法，其特征在于，所述卷积神经网络CNN1和卷积神经网络CNN2均由过滤层、最大池化层和全连接层构成，激活函数使用ReLu函数f(x)＝max(0,x)，卷积神经网络CNN1和卷积神经网络CNN2输入维度为m*n，m为词向量的维度，n为参数描述语句包含的词的数量；过滤层的过滤器大小定义为m*h，其中m对应于矩阵的宽度，h对应于过滤器覆盖区域的高度，其等于滑动窗口所覆盖的词向量的数目，通过卷积操作提取特征o_i的过程如式(1)所示；

o_i＝f(W·A[i：i+h]+b) (1)

式(1)中，W为过滤器矩阵；点“·”为卷积计算，A[i：i+h]为样本矩阵中的一个子矩阵，方括号内数值代表行编号；b是偏置值，用随机值初始化；f为激活函数ReLu；过滤器沿矩阵列的方向滑动，每次步长为1，经卷积操作和激活函数变换后，输入最大池化层降维将提取出的多个特征转成列向量再输入全连接层，通过全连接层将各输入的向量拼接压缩为一个一维的列向量，卷积神经网络CNN1和卷积神经网络CNN2两者的全连接层输出的一维的列向量接入同一个神经网络层，通过神经网络层计算输入的两个一维的列向量的距离，最终通过softmax分类器层输出其模拟比对结果为0或1。

5.根据权利要求3所述的通信网关机遥控参数智能模糊比对方法，其特征在于，步骤3.1)中将网关机参数描述进行分词时，除了基于语法规则进行分词以外，还包括基于电力行业领域知识增加人为定义分词规则。