CN110263125A

CN110263125A - 一种基于极限学习机的服务发现方法

Info

Publication number: CN110263125A
Application number: CN201910498241.6A
Authority: CN
Inventors: 黄昭; 赵薇
Original assignee: Shaanxi Normal University
Current assignee: Shaanxi Normal University
Priority date: 2019-06-10
Filing date: 2019-06-10
Publication date: 2019-09-20
Anticipated expiration: 2039-06-10
Also published as: CN110263125B

Abstract

本发明提出了一种基于极限学习机的服务发现方法，结合神经网络和差分进化算法的优势特点，以找到最准确的目标服务。该方法首先构建一组训练样本，针对某一随机查询请求，对训练服务集中的每个服务应用余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法得到相似度匹配得分，并通过差分进化算法得到对应的适应度值，以此构成样本向量；然后，将样本的相似度得分作为极限学习机的输入，适应度值作为输出对网络模型进行训练；当用户提出新的查询请求时，对测试服务集中的各个样本进行简单相似度匹配，并通过训练好的神经网络模型来预测其对应的适应度值；最后根据样本的适应度值进行排序，从而找到合适的目标服务。

Description

一种基于极限学习机的服务发现方法

技术领域

本发明属于计算机科学与技术领域，具体涉及一种基于极限学习机的服务发现方法。

背景技术

服务发现过程中，最主要的任务是计算服务样本与查询请求之间的相似度。传统基于单一测量方法得到的结果，不能全面地反映出各个样本的匹配程度，从而导致返回的服务不能充分满足用户的实际需求。此外，对于每一个用户请求，如果对服务集中的样本重复进行迭代优化计算，会大大增加计算工作量，严重耗人耗时。由此，需要针对不同的问题设计出对应的解决方案。

发明内容

为了克服现有服务发现技术中所存在的不足，本发明提供了一种结合极限学习机与差分进化算法功能特性，在文本相似度计算的基础上能够为用户提供最优目标服务的发现方法。

本发明实现上述目的所采用的技术方案为：

一种基于极限学习机的服务发现方法，包括以下步骤：

步骤1，从现有服务集中选取一组服务作为训练服务集，用于生成训练样本，剩余服务则作为测试服务集；针对某一随机查询请求，对训练服务集中每个服务，应用余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法，得到相似度匹配得分，并通过差分进化算法得到对应的适应度值，以此构成训练样本向量；

步骤2，将步骤1所得训练样本向量的相似度匹配得分作为极限学习机的输入，每个服务的适应度值作为输出，对ELM神经网络模型进行训练；

步骤3，当用户提出新的查询请求时，对步骤1所述测试服务集的各个样本进行相似度匹配，并通过步骤2训练好的ELM神经网络模型预测其对应的适应度值；

步骤4，根据步骤3所得测试服务集各个样本即候选服务对应的适应度值，选取最小适应度值对应的服务集中的候选服务作为目标服务。

步骤1中，现有服务集中的每个服务均由描述其功能的自然语言文本表示，并根据服务集中的服务样本随机给出一条查询信息。

步骤1具体通过以下步骤实现：

步骤11，对描述服务集中每个服务功能的自然语言文本进行预处理，包括去除停用词、词干提取以及分词，完成对文本的特征提取

步骤12，应用余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法计算服务集中的服务样本与查询请求之间的相似度匹配得分；

步骤13，采用差分进化算法得到服务集中每个服务样本的适应度值，作为衡量服务样本的匹配基准；

步骤14，将服务集中的每个服务样本表示为一个五维向量，即s＝(m₁,m₂,m₃,m₄,f)；其中，s表示服务样本，m₁,m₂,m₃,m₄表示步骤12所述四种相似度得分，f表示差分进化所得每个服务样本的适应度值适应度值，得到训练样本向量。

步骤14中提出的差分进化算法，是将每个服务的四种相似度得分作为输入进行迭代优化，通过模拟遗传学中的杂交、变异以及选择方法来设计遗传算子，在不断地进化过程中保留优良个体，并引导搜索向最优解逼近。

步骤1中所指出的适应度值，是通过差分进化过程中的Rastrigr函数计算得出的，用于对样本个体进行评价。

步骤2中中训练ELM神经网络模型时，将步骤1中得到的样本向量中的相似度匹配得分作为输入层的输入变量，随机确定输入层连接权值及隐含层神经元阈值，选择S型函数作为激活函数，样本向量中的适应度值为对应输出层的输出变量。

步骤2中，ELM神经网络模型由输入层、隐含层及输出层三部分构成，不同功能结构之间通过神经元相互连接，输入层与隐含层神经元之间和隐含层与输出层神经元之间，均有相应的连接权值ω和β，隐含层神经元上包含其阈值b；极限学习机算法具体包括以下步骤：

步骤21，确定隐含层神经元个数，随机设定输入层连接权值ω及隐含层阈值b；

步骤22，选择合适的隐含层神经元激活函数，计算得出隐含层的输出矩阵H；

步骤23，计算输出层权值β。

步骤3中，当用户向服务集提出新的查询请求时，通过向步骤2训练好的ELM神经网络模型中输入每个服务样本的相似度向量，从而得到表征服务总体相似度的预测适应度值，并将其作为服务排序的基准。

与现有的服务发现方法相比，本发明具有如下优点：

本发明使用四种相似度得分计算方法，从多种角度对服务样本的相似度进行了测量，并应用差分进化算法得到的适应度值来表征服务的总体相似度；

本发明利用极限学习机网络模型，可以快速学习相似度得分与适应度值之间复杂的非线性函数关系，从而预测每个服务样本对应的适应度值；

本发明利用构建好的训练样本与网络模型的特点优势，对于用户的任意请求能通过对比样本适应度值来快速准确地找到目标服务；有效降低计算量。

附图说明

图1为基于极限学习机的服务发现方法结构图。

图2为差分进化算法的实现流程图。

图3为神经网络的训练模型图。

图4为极限学习机的实现流程图。

具体实施方式

图1是本发明的整体结构图，现结合附图对本发明的技术方案作进一步说明。

差分进化算法作为一种基于现代智能理论的优化算法，能够通过群体内个体之间的相互合作与竞争，产生群体智能来指导优化搜索的方向；基于这种理论特点，可以将搜索目标服务转化为求解多维空间中整体最优解问题，以此来提高服务发现的搜索性能。此外，单隐层前馈神经网络系统拥有较高的学习能力，可以拟合较为复杂的非线性函数关系。极限学习机(ELM)作为一种高效的前馈神经网络学习算法，能够提供更快的学习速率，具有更合理的泛化性能。应用此方法，只需要预先设定隐含层神经元个数，不需对隐含层结点参数进行调整，其余工作基于已有程序设定来完成。这种方式可杜绝人为因素干扰，产生独特最优解，从而实现预期目标。

基于这两种方法的优势特点，本发明考虑将其结合起来，用于服务发现过程中，快速准确地找出符合用户请求的目标服务。

本发明提出的基于极限学习机的服务发现方法主要包含模型构建及服务发现两大过程，具体步骤如下：

步骤1，构建训练样本向量

本发明选用两组独立的服务集，一组用于生成训练样本，另一组作为测试服务集；服务集中的每个服务均由描述其功能的自然语言文本表示，共500个，并根据服务集中的服务样本随机给出一条查询信息。由于本发明中采用前馈神经网络模型，只能接受向量值，因此需要对服务样本及查询信息进行相应的处理。具体如下：

步骤11，服务描述及用户请求信息是以文本形式呈现出来的。首先需要对文本进行预处理，包括去除停用词、词干提取以及分词。与传统数值计算不同，对于文本信息处理的关键步骤是进行向量化操作，以此来得到每个词在各个文本中的词向量；作为一种信息检索与数据挖掘领域中的常用加权技术，TF-IDF可以衡量一个关键词对于文本所能提供的信息。故而在文本挖掘的预处理过程中，向量化一般会伴随着TF-IDF处理。本发明借助Python中强大的机器学习模块——Scikit-learn，通过调用CountVectorizer及TfidfTransformer类对服务文本进行TF-IDF处理并得到相应的权重向量，完成对文本的特征提取。

步骤12，服务发现过程中最主要的任务是计算服务样本与查询请求之间的相似度，通过相似度的对比，找出符合用户请求的目标服务。由于文本中包含的词信息不易处理，所以通常会将文本相似度计算问题转化为计算向量之间的相似度；步骤11中已经得到了服务样本及查询请求的TF-IDF向量，现分别应用余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法计算各个服务的相似度匹配得分：

其中，余弦相似度用向量空间中两个向量夹角的余弦值来衡量两个个体间差异的大小。计算公式为：

Jaccard相似度是指集合A与集合B的交集大小与并集大小的比值，值越大表明相似度越高。计算公式为：

最初用于计算欧几里得空间中两点间的距离欧式距离。在文本相似度计算中，可以通过多维数据空间的距离反映其相似度，距离值越大相似度越低。计算公式为：

最初用于计算在方形建筑区块的城市(曼哈顿)内的最短行车路径的曼哈顿距离，以此可以测量出空间误差绝对值的总和。计算公式为：

上述余弦相似度、欧式距离以及曼哈顿距离计算方法中的与表示两个向量，与分别表示与的模，A_i与B_i分别表示向量与的第i个分量，n则表示向量中所含分量的总个数。

步骤13，单纯使用一种相似度测量标准，不能全面地反映整个数据集与查询请求的匹配程度，步骤12中采用四种测量方法，从不同角度对服务样本进行了相似度度量。为了能够得到最精准的检测结果，本发明对这四种测量结果进行整合，结合差分进化算法的优势特性，以此来提高服务发现的检索性能。

图2是差分进化算法的实现流程图，通过模拟遗传学中的杂交、变异、选择操作来设计遗传算子，在不断地进化过程中保留优良个体，并引导搜索向最优解逼近；模拟算法的运行过程首先确定初始种群，本发明中种群的大小是由训练服务集中服务样本的数量决定的，为500。每个个体表示为一个四维向量，向量中的每个元素则为个体在不同测量标准下的相似度值。此外，缩放因子、交叉概率及遗传代数分别设为0.6、0.7和100，同时选用Rastrigr函数作为适应度函数对初始种群进行评价，判断是否需要进行后续优化操作。

对于差分进化算法的变异操作，当选定一个个体后，通过在每个个体上加上两个随机个体的带权差来完成变异。迭代初期，种群中个体差异大，这样的变异操作会使算法具有较强的全局搜索能力。到迭代后期，函数趋于收敛，种群中个体差异小，也使得算法具有较强的局部搜索能力。随后按照确定的概率，对父代个体及变异个体进行交叉操作，生成实验个体。接着在父代个体与实验个体之间根据适应度的大小进行选择，以保留优良个体，从而实现种群的进化。完成上述操作后，种群中的每个个体都有其对应的适应度值，将其作为衡量服务样本的匹配基准，以此来找到最优目标。

步骤14，本发明将服务集中的每个服务样本表示为一个五维向量，即s＝(m₁,m₂,m₃,m₄,f)。其中，s表示服务样本，m₁,m₂,m₃,m₄表示四种相似度得分，f表示其对应的差分进化适应度值；训练样本得以构建。

步骤2，生成ELM网络模型

本发明基于单隐层前馈神经网络模型应用极限学习机算法，实现对服务适应度值的回归预测，ELM神经网络模型的结构如图3所示，由输入层、隐含层及输出层三部分构成，不同功能结构之间通过神经元相互连接，输入层与隐含层神经元之间和隐含层与输出层神经元之间，均有相应的连接权值ω和β，隐含层神经元上包含其阈值b。

极限学习机算法的实施步骤如图4所示，具体如下：

步骤23，计算输出层权值β。

通过调用eletrain()函数实现对单隐层前馈神经网络模型进行训练，eletrain()函数中设置五个参数：训练集的输入及输出矩阵、隐含层神经元个数(默认与样本个数相等)、隐含层神经元的激活函数(给出三个激活函数sig、sin和hardlim，主要选择激活函数sig)以及解决问题的类型(回归问题)。

步骤1中构建的训练样本向量为ELM网络模型的生成提供了数据支持，训练集中每一行代表一个服务样本，列代表样本特征。将每个训练样本的前四个特征值，即m₁,m₂,m₃,m₄作为输入层的输入变量，样本的适应度值即f则作为输出层的输出变量，其中输入(输出)层神经元数量等同于输入(输出)变量。

本发明中将含Q个样本集合对应输入输出矩阵X，Y表示如下：

输入层与隐含层连接权值ω与隐含层阈值b均随机确定，分别表示为：

其中，ω_ln表示隐含层中第l个神经元对输入层第n个神经元的权重。

隐含层神经元的激活函数sig表示如下：

则对应网络模型输出如下：

T＝[t₁ t₂ ... t_Q]_1×Q

其中，

由此可得隐含层输出矩阵，具体为：

进而通过Hβ＝T'输出层连接权值β，其中T’表示T的转置矩阵。

确定好相关训练参数，ELM网络模型得以创建。

步骤3，预测适应度值

对于服务发现的检测，本发明采用包含300个服务样本的测试服务集来完成，其中每个服务均由描述其功能的自然语言文本表示。当用户提出新的查询请求时，首先同样进行步骤11中包括文本预处理以及向量化的特征提取过程，以此得到查询请求与服务样本的权重向量。然后对测试集中的每个服务应用步骤12中列出的余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法，进行初步匹配，并得到相应的相似度得分。将适应度函数值作为衡量服务样本与查询请求相似匹配程度的综合标准，通过步骤2中生成的极限学习机网络模型，对服务样本的适应度值进行回归预测。

使用elmpredict()函数，对测试服务集数据在已有的ELM网络模型上进行预测。函数中设置六个参数：测试集的输入矩阵、elmtrain()函数返回的输入层与隐含层的连接权值ω、隐含层神经元的阈值b、隐含层与输出层的连接权值β、隐含层神经元的激活函数及问题类型。函数体中计算出隐含层的输出矩阵H，将其与elmtrain()函数返回的隐含层与输出层的连接权值进行运算，并得出经过训练后的输出矩阵，从而得到服务集中每个服务样本的预测适应度值。

步骤4，发现目标服务

在候选服务中找到最符合用户请求的服务，本发明通过步骤3已经得到了服务集中每个服务样本的预测适应度值，根据求解Rastrigr函数的最优点过程，对预测的适应度值进行升序排序，其对应的服务列表顺序也将随之调整，服务列表中的候选服务符合用户需求的程度依次增强，则最小适应度值所对应的服务为所要检索的目标结果，即目标服务。

Claims

1.一种基于极限学习机的服务发现方法，其特征在于，包括以下步骤：

步骤1，从现有服务集中选取一组服务作为训练服务集，用于生成训练样本，剩余服务则用作测试服务集；针对某一随机查询请求，对训练服务集中每个服务，应用余弦相似度、Jaccard相似度、欧式距离及曼哈顿距离这四种测量方法，得到相似度匹配得分，并通过差分进化算法得到对应的适应度值，以此构成训练样本向量；

步骤2，将步骤1所得训练样本向量的相似度匹配得分作为极限学习机的输入，每个服务的适应度值作为输出，对神经网络模型进行训练，得到训练完成的ELM神经网络模型；

步骤3，当用户提出新的查询请求时，对步骤1所述测试服务集的各个样本与所述查询请求进行相似度匹配，并通过步骤2训练好的ELM神经网络模型预测各个样本对应的适应度值；

2.根据权利要求1所述的基于极限学习机的服务发现方法，其特征在于，步骤1中，现有服务集中的每个服务均由描述其功能的自然语言文本表示，并根据服务集中的服务样本随机给出一条查询信息。

3.根据权利要求1所述的基于极限学习机的服务发现方法，其特征在于，步骤1具体通过以下步骤实现：

步骤11，对描述服务集中每个服务功能的自然语言文本进行预处理，包括去除停用词、词干提取以及分词，完成对文本的特征提取；

步骤14，将服务集中的每个服务样本表示为一个五维向量，即s＝(m₁，m₂，m₃，m₄，f)；其中，s表示服务样本，m₁，m₂，m₃，m₄表示步骤12所述四种相似度得分，f表示差分进化所得每个服务样本的适应度值，得到训练样本向量。

4.根据权利要求3所述的基于极限学习机的服务发现方法，其特征在于，步骤14中提出的差分进化算法，是将每个服务的四种相似度得分作为输入进行迭代优化，通过模拟遗传学中的杂交、变异以及选择方法来设计遗传算子，在不断地进化过程中保留优良个体，并引导搜索向最优解逼近。

5.根据权利要求1所述的基于极限学习机的服务发现方法，其特征在于，步骤1中所指出的适应度值，通过差分进化过程中的Rastrigr函数计算，用于对样本个体进行评价。

6.根据权利要求1所述的基于极限学习机的服务发现方法，其特征在于，步骤2中训练ELM神经网络模型时，将步骤1中得到的样本向量中的相似度匹配得分作为输入层的输入变量，随机确定输入层连接权值及隐含层神经元阈值，选择S型函数作为激活函数，样本向量中的适应度值为对应输出层的输出变量。

7.根据权利要求6所述的基于极限学习机的服务发现方法，其特征在于，步骤2中，ELM神经网络模型由输入层、隐含层及输出层三部分构成，不同功能结构之间通过神经元相互连接，输入层与隐含层神经元之间和隐含层与输出层神经元之间，均有相应的连接权值ω和β，隐含层神经元上包含其阈值b；极限学习机算法具体包括以下步骤：

步骤23，计算输出层权值β。

8.根据权利要求1所述的基于极限学习机的服务发现方法，其特征在于，步骤3中，当用户向测试服务集提出新的查询请求时，通过向步骤2训练好的ELM神经网络模型中输入每个服务样本的相似度向量，从而得到表征服务总体相似度的预测适应度值，并将其作为服务排序的基准。