CN106934495A - 基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法 - Google Patents

Abstract

本发明公开了一种基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，包括如下步骤：1随机生成N个服务组合构成初始父代服务组合集合，根据限制玻尔兹曼机建立可选服务组合分布的概率模型；2对父代服务组合集合中的元素进行评估，选择前M个最优势服务组合构成优势解集合；3将每一个优势解作为训练数据带给概率模型的可视单元，更新RBM参数；4通过简单采样方法产生N个服务组合构成子代服务组合集合，评估子代服务组合集合和优势解集合中的元素，选择前N个最优势服务组合构成本次迭代的服务组合集合；5判断是否达到迭代终止条件，如达到，选择最优的组合服务作为结果；如没有达到，本次迭代的服务组合集合作为父代服务组合集合，跳转到步骤2。

Description

基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法

技术领域

本发明涉及一种利用计算机对动态环境下Web服务组合开展自适应优化的方法，属于人工智能领域。

背景技术

由于服务是由第三方提供者发布的，服务组合会受到多种因素的影响，如：服务的位置、有效服务的出现、服务失效等，因此，服务组合需要在动态环境下保证服务QoS(Quality of Service，QoS)。此外，在服务组合中，web服务的数量和种类在急剧增多，组合服务的规模和复杂度也在持续提升，使得服务组合称为一个典型的NP(Non-deterministicPolynomial)难问题。此外成员服务本身在不断地进化，运行环境也具有不确定性，如网络问题，软件问题，硬件问题等。这些因素使得成员服务的选择也具有不确定性，有可能导致服务组合的性能减低，甚至于导致服务组合的失败。

针对动态变化的服务环境，一些研究工作采用“前摄”服务组合(ProactiveService Composition)方法来预测未来可能发生的变动并做出相应规划。虽然这种方法也能保证服务组合的有效运行，但是它受限于预制定的规划，其包含的组合逻辑和服务选择必须事先给出，因此无法根据动态变化的服务环境进行合理更改。还有一些研究工作采用重新优化策略，如混合整数规划、多agent技术、强化学习方法、整数规划、启发式方法、遗传算法、粒子群算法、蚁群算法、蜂群算法、差分进化算法等方法不断地选择新的服务来组合以获得优化的组合服务。重新优化策略是提高服务组合自适应性，保证服务组合有效进行的一种手段。面向动态环境时，重新优化策略的核心在于如何有效地选择服务并在此基础上实现服务组合的自优化，但是这些方法选择服务只是根据服务的QoS，并没有考虑被选择服务对整个组合服务QoS的贡献程度，即是对全局优化性的影响，容易陷入局部优化。比如，由于接口、厂商等原因，一个最好服务与其他服务构成的组合服务可能不是最好的。另外，在服务优化时，没有明确考虑可选组合服务的多样性。维护可选组合服务的多样性有助于备选组合服务的选择，即可自适应调整优化方向。一旦发生变动，有限的可选组合服务可能无法满足动态变化，或者产生糟糕的组合服务。以上问题都会影响服务组合的优化效果。

发明内容

发明目的：针对现有技术中存在的问题，本发明公开了一种基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，该方法结合分布估计算法和限制玻尔兹曼机来构造可选组合服务的概率分布，从概率角度来衡量服务对全局QoS的优化程度，同时通过提取组合服务的特征信息来呈现可选组合服务的概率差别，并根据概率分布来维护可选组合服务的多样性，从而使服务组合可以自适应调整优化方向。

技术方案：一种基于分布估计和限制玻尔兹曼机的自适应服务组合方法，包括如下步骤：

(1)随机生成N个服务组合构成初始父代服务组合集合，根据限制玻尔兹曼机建立可选服务组合分布的概率模型，所述概率模型的可视单元数目与一个服务组合对应的二进制码流长度相同；所述概率模型的隐藏单元数目小于可视单元数目；

(2)对父代服务组合集合中的元素进行评估，选择前M个最优势的服务组合构成优势解集合；

(3)将每一个优势解作为训练数据附带给概率模型的可视单元，更新RBM的参数(ω_ij,b_i,c_j)，其中ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；

(4)通过简单采样方法产生N个服务组合构成子代服务组合集合，对子代服务组合集合和优势解集合中的元素进行评估，选择前N个最优势的服务组合构成本次迭代的服务组合集合；

(5)判断是否达到迭代终止条件，如果达到迭代终止条件，在本次迭代的服务组合集合中选择最优的组合服务作为优化的组合服务结果，并结束；如果没有达到迭代终止条件，本次迭代的服务组合集合作为父代服务组合集合，跳转到步骤(2)。

具体地，对服务组合cs的评估函数如下：

其中n为QoS属性的个数，f_i(cs)表示第i个属性的集合函数，α_i表示第i个属性的权重。

具体地，每个服务组合编码为染色体，所述染色体由若干基因组合组成，基因组合的个数与子任务个数一致，每个基因组合编码为二进制码流，二进制码流中的一个码元即一个基因；所述二进制码流为子任务对应候选服务集中的服务编号。

具体地，步骤(3)更新RBM的参数具体包括如下步骤：

(31)计算隐藏单元激活的概率，并产生隐藏单元的状态：

其中t为当前迭代次数，v_i为第i个可视单元的状态，h_j为第j个隐藏单元的状态，ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；σ(x)为指数函数，具体表达式为：

(32)计算可视单元激活的概率，并产生可视单元的状态：

(33)计算参数(ω_ij,b_i,c_j)的梯度值：

其中<·>_org和<·>_r分别表示原始状态的值和重构状态的值；

(34)更新RBM参数：

ω_ij←ω_ij+εΔω_ij

b_i←b_i+εΔb_i

c_j←c_j+εΔc_j

其中ε为折扣因子。

具体地，步骤(4)中通过简单采样方法产生一个服务组合具体包括如下步骤：

设一个服务组合对应的二进制码流长度为L，所述二进制码流的第i个二进制码元按如下步骤取值：

在(0,1)区间生成一个随机数r，所述二进制码元x_i取值为：

循环执行L次上述步骤，得到所述服务组合的二进制码流。

优选地，所述概率模型的隐藏单元数目为可视单元数目的二分之一取整。

有益效果：与现有技术相比，本发明公开的服务组合方法具有以下优点：1、所述方法能够以一种严密和自然的方式对可选组合服务的搜索空间进行表示和推理；更重要的是，它还能够用来对优化组合方向进行指导，其中包括：根据服务的概率决定服务选择的搜索区域，根据可选组合服务的概率分布区分多个可选组合服务的QoS。因而可以用来很好地表示服务的领域信息和组合服务的优化信息，从而支持服务组合的自优化方向；2、通过对每次迭代产生的解进行分析，构建解的概率分布模型。在构造解的概率模型过程中，只需要不断用训练数据去训练模型的能量参数，并对概率模型开展推理，并得到多样性的组合服务。一旦发生变动，可以很好地自适应调整优化方向得到优化的组合服务；3、所述方法能够实现服务部分探索机制和可选组合服务多样性优化策略，不但减小了服务的探索空间，还可以根据可选的多样性组合服务自适应调整优化方向，从而有效地找到优化的组合服务。

附图说明

图1是基于分布估计和限制玻尔兹曼机的方法流程图；

图2是表示可选组合服务的结构图；

图3是限制玻尔兹曼机的网络模型；

图4是自适应服务组合优化的算法流程。

具体实施方式

下面结合附图和具体实施方式，进一步阐明本发明。

一种基于分布估计和限制玻尔兹曼机的自适应服务组合方法，包括如下步骤：

步骤1、随机生成N个服务组合构成初始父代服务组合集合，根据限制玻尔兹曼机建立可选服务组合分布的概率模型，所述概率模型的可视单元数目与一个服务组合对应的二进制码流长度相同；所述概率模型的隐藏单元数目小于可视单元数目；

用户的需求可以看作一个任务，一个任务由多个子任务组成，单个服务用于完成一个子任务，通常完成一个子任务有多个相同功能的候选服务，构成了候选服务集。多个服务集成组合起来共同完成用户需求，即为服务组合。每个服务组合编码为染色体，一条染色体由若干基因组合组成，基因组合的个数与本次任务中子任务个数一致，每个基因组合编码为二进制码流，二进制码流中的一个码元即一个基因；所述二进制码流为子任务对应候选服务集中的服务编号。如图2所示，某次用户需求由task1、task2、task3这三个子任务组成，相应地，服务组合染色体由3个基因组合构成，分别对应3个子任务。其中第一个子任务的基因组合编码后的二进制码流为001101，表示选择其候选服务集中第13个服务；类似地，第二个子任务选择第24个服务，第二个子任务选择第44个服务。由此将服务组合编码为拥有18个基因的二进制码流。

限制玻尔兹曼机(Restricted Boltzmann Machine，RBM)是一个基于能量(Energy-based)的神经网络，可以看作一个二部图，如图3所示。此二部图由可视层和隐藏层组成，可视层包含一些可视的二进制单元v，用于训练数据(服务组合)的输入。

本发明中根据限制玻尔兹曼机建立可选服务组合分布的概率模型，其中可视单元v的个数与一个服务组合对应的二进制码流长度相同，一个可视单元对应服务组合码流中的一个码元；如图2所示的服务组合二进制码流长度为18，即可视单元的个数为18；所述概率模型的隐藏单元数目小于可视单元数目。

隐藏层包含一些隐藏的二进制单元h，可以作为特征提取器。在图3所示的二部图中，只有可视单元v和隐藏单元h之间才会存在边，可视单元之间以及隐藏单元之间都不会有边连接。一般地，隐藏单元数目小于可视单元数目，本实施例中隐藏单元数目Nh为可视单元数目Nv的二分之一取整，即：其中为向上取整运算。

由于RBM是一种基于能量的模型，其可视单元v和隐藏单元h的联合配置的能量为：

其中θ是RBM的参数(w_ij,b_i,c_j)，ω_ij为第i个可视单元v_i与第j个隐藏单元h_j之间的边的权重，b_i和c_j分别为第i个可视单元v_i和第j个隐藏单元h_j的偏置(bias)。初始时，可以将(w_ij,b_i,c_j)均设置为0。基于联合配置的能量，可视单元v和隐藏单元h的联合概率计算如下：

其中Z是归一化因子，也称为配分函数(partition function)。根据联合概率，可视单元的边缘概率可计算为：

由于可视单元有两个状态：v_i＝0和v_i＝1，v_i＝1的概率计算如下：

其中s表示每次迭代服务组合的数目，表示v_i＝1的边缘成本，表示v_i＝0的边缘成本，基于此，可以计算v_i＝0的概率：

p(v_i＝0)＝1-p(v_i＝1) (5)

具有L个二进制码元，即具有L个基因的染色体的概率可以通过计算L个可视单元的联合概率得到：

对于每次迭代产生的解，可以通过上述公式计算每个解的概率并以此构造解的概率模型。

步骤2、对父代服务组合集合中的元素进行评估，选择前M个最优势的服务组合构成优势解集合；

对于每个服务组合，我们需要评估其作为服务组合候选解的价值。根据候选解的价值，我们可以从大到小选择出优势组合服务。如果候选解的价值越大，该解作为训练数据被选择的概率越大。由于候选解包含多个属性，如价格、吞吐量、可靠性等，本发明采用fitness函数来综合评估候选解的价值。对一个服务组合cs的评估函数如下：

其中n为QoS属性的个数，f_i(cs)表示第i个属性的集合函数，α_i表示第i个属性的权重。

由于服务组合是由多个服务组成,每个服务有n个QoS属性,第i个属性的集合函数是对多个服务实行的对应法则，以获得组合服务的第i个QoS属性值。集合函数可以有多种，如对多个服务的QoS属性求和(如价格)，对多个服务的QoS属性求积(如可靠性)，对多个服务的QoS属性求最小值(如吞吐量)等。

对于每次迭代产生的解，都要评估它们的fitness值，并根据fitness值从大到小排序，最后选出前面的M个优势解作为父代产生下一代。

步骤3、将每一个优势解作为训练数据附带给概率模型的可视单元，更新RBM的参数(ω_ij,b_i,c_j)，其中ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；

根据每次迭代产生的优势组合服务训练概率模型，更新RBM的参数(ω_ij,b_i,c_j)。概率模型训练的目的在于构造的概率分布能很好地拟合训练数据。本发明采用对比散度CD(Contrastive Divergence)来实现模型训练。CD是一个T-step处理算法，在这个算法中，不断执行Gibbs抽样和随机梯度下降来减小训练数据的log-likelihood。对于每一步，Gibbs抽样被用来产生每个单元的状态。

假设第t次迭代可视单元的状态为v^t，则第t次迭代第j个隐藏单元被激活的概率为：

其中t为当前迭代次数，v_i为第i个可视单元的状态，h_j为第j个隐藏单元的状态，ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；σ(x)为指数函数，具体表达式为：

同时给定第t次迭代隐藏单元的状态，第t+1次迭代第i个可视单元v_i被激活的概率为：

根据可视单元和隐藏单元的被激活的概率，可视单元和隐藏单元可以根据Gibbs抽样进行重构。基于单元原始的状态和重构状态，通过梯度下降去计算RBM参数(ω_ij,b_i,c_j)的梯度值：

其中<·>_org和<·>_r分别表示原始状态的值和重构状态的值。

参数(ω_ij,b_i,c_j)采用以下公式进行更新：

其中ε为折扣因子。

步骤4、通过简单采样方法产生N个服务组合构成子代服务组合集合，对子代服务组合集合和优势解集合中的元素进行评估，选择前N个最优势的服务组合构成本次迭代的服务组合集合；

具体地，通过简单采样方法产生一个服务组合具体包括如下步骤：

设一个服务组合对应的二进制码流长度为L，所述二进制码流的第i个二进制码元按如下步骤取值：

在(0,1)区间生成一个随机数r，所述二进制码元x_i取值为：

循环执行L次上述步骤，得到一个服务组合的二进制码流。重复执行，产生N个服务组合构成子代服务组合集合。对子代服务组合集合和优势解集合中的元素进行评估，即计算其fitness值，选择前N个最优势的服务组合，即fitness值最大的N个服务组合构成本次迭代的服务组合集合。

步骤5、判断是否达到迭代终止条件，如果达到迭代终止条件，在本次迭代的服务组合集合中选择最优的组合服务作为优化的组合服务结果，并结束；如果没有达到迭代终止条件，本次迭代的服务组合集合作为父代服务组合集合，跳转到步骤(2)。

本实施例中，终止迭代条件设置为迭代次数小于T次，即迭代T次后就终止优化，选择本次迭代的服务组合集合中fitness值最大的服务组合作为优化的组合服务结果。

Claims (6)

1.一种基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，包括如下步骤：

(1)随机生成N个服务组合构成初始父代服务组合集合，根据限制玻尔兹曼机建立可选服务组合分布的概率模型，所述概率模型的可视单元数目与一个服务组合对应的二进制码流长度相同；所述概率模型的隐藏单元数目小于可视单元数目；

(2)对父代服务组合集合中的元素进行评估，选择前M个最优势的服务组合构成优势解集合；

(3)将每一个优势解作为训练数据附带给概率模型的可视单元，更新RBM的参数(ω_ij,b_i,c_j)，其中ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；

(4)通过简单采样方法产生N个服务组合构成子代服务组合集合，对子代服务组合集合和优势解集合中的元素进行评估，选择前N个最优势的服务组合构成本次迭代的服务组合集合；

(5)判断是否达到迭代终止条件，如果达到迭代终止条件，在本次迭代的服务组合集合中选择最优的组合服务作为优化的组合服务结果，并结束；如果没有达到迭代终止条件，本次迭代的服务组合集合作为父代服务组合集合，跳转到步骤(2)。

2.根据权利要求1所述的基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，对服务组合cs的评估函数如下：

$fitness\left(cs\right)=\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{f}_i\left(cs\right){\mathrm{\&alpha;}}_i$

其中n为QoS属性的个数，f_i(cs)表示第i个属性的集合函数，α_i表示第i个属性的权重。

3.根据权利要求1所述的基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，每个服务组合编码为染色体，所述染色体由若干基因组合组成，基因组合的个数与子任务个数一致，每个基因组合编码为二进制码流；所述二进制码流为子任务对应候选服务集中的服务编号。

4.根据权利要求3所述的基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，步骤(3)更新RBM的参数具体包括如下步骤：

(31)计算隐藏单元激活的概率，并产生隐藏单元的状态：

$p(h_j^t=1|v^t)=\mathrm{\&sigma;}(\underset{i}{\mathrm{\&Sigma;}}{\mathrm{\&omega;}}_{ij}{v}_i^t+c_j)$

其中t为当前迭代次数，v_i为第i个可视单元的状态，h_j为第j个隐藏单元的状态，ω_ij为第i个可视单元与第j个隐藏单元之间的边的权重，b_i为第i个可视单元的偏置，c_j为第j个隐藏单元的偏置；σ(x)为指数函数，具体表达式为：

(32)计算可视单元激活的概率，并产生可视单元的状态：

$p(v_i^{t+1}=1|h^t)=\mathrm{\&sigma;}(\underset{j}{\mathrm{\&Sigma;}}{\mathrm{\&omega;}}_{ij}{h}_j^t+b_i)$

(33)计算参数(ω_ij,b_i,c_j)的梯度值：

${\mathrm{\&Delta;\&omega;}}_{ij}=\frac{\&part;\log p\left(v\right)}{\&part;{\mathrm{\&omega;}}_{ij}}=<v_i{h}_j{>}_{org}-<v_i{h}_j{>}_r$

${\mathrm{\&Delta;b}}_i=\frac{\&part;\log p\left(v\right)}{\&part;b_i}=<v_i{>}_{org}-<v_i{>}_r$

${\mathrm{\&Delta;c}}_j=\frac{\&part;\log p\left(v\right)}{\&part;c_j}=<h_j{>}_{org}-<h_j{>}_r$

其中<·>_org和<·>_r分别表示原始状态的值和重构状态的值；

(34)更新RBM参数：

ω_ij←ω_ij+ε△ω_ij

b_i←b_i+ε△b_i

c_j←c_j+ε△c_j

其中ε为折扣因子。

5.根据权利要求3所述的基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，步骤(4)中通过简单采样方法产生一个服务组合具体包括如下步骤：

设一个服务组合对应的二进制码流长度为L，所述二进制码流的第i个二进制码元按如下步骤取值：

在(0,1)区间生成一个随机数r，所述二进制码元x_i取值为：

$x_i=\left\{\begin{array}{c}1,ifr\&le;p(v_i=1)\\ 0,otherwise\end{array}\right.$

循环执行L次上述步骤，得到所述服务组合的二进制码流。

6.根据权利要求1所述的基于分布估计和限制玻尔兹曼机结合的自适应服务组合方法，其特征在于，所述概率模型的隐藏单元数目为可视单元数目的二分之一取整。