CN115348265B - 一种基于服务特征值计算的节点动态服务部署策略 - Google Patents

Abstract

本发明公开了一种基于服务特征值计算的节点动态服务部署方法，该部署方法简称为DPDS策略，其特征在于：当节点每接收到一个服务请求，就通过特定权值函数计算并更新该服务的特征值，特征值越大的服务将来被访问的概率越高；当节点每接收到一个返回服务时，节点需要根据其服务部署空间和服务特征值大小判断是否部署以及如何部署该服务；根据节点上的服务发现情况，即节点接收到服务请求后能否在自身上找到该被请求的服务，动态的调整权值函数的参数，使得DPDS策略能够自适应于多种服务请求场景。采用DPDS策略的节点选择部署的都是服务特征值相对大的服务，提高了在节点中找到被请求的服务的概率，从而减少服务发现时间，服务延迟和服务成本。

Description

一种基于服务特征值计算的节点动态服务部署策略

技术领域

本发明涉及在分布式网络下边缘节点服务部署空间有限的情况，节点如何高效的动态部署服务，使得越受用户欢迎的服务部署的离用户越近，从而减少服务发现时间和服务延迟。

背景技术

在传统的网络中，只有云端有着巨大的存储空间部署各种用户请求的服务，因此用户的服务请求都必须发送到云端，云端在返回被请求的服务给用户，这样由于用户和云端之间的路由路径相对较长，就会造成较大的服务发现时间，服务延迟和服务成本，但是随着物联网技术的不断发展，网络边缘的节点的存储空间逐渐增大，随着物联网技术的发展，分布式网络中除了云端能部署服务以外其他网络节点中也具有一定的服务部署空间用来部署服务。因此我们通过服务迁移的方式，将一部分用户请求多的服务迁移到边缘节点中，从而减少用户访问服务的路由路径，从而减少服务发现时间，服务延迟和服务成本。服务迁移将用户访问概率大的服务迁移到更接近用户的位置部署,从而使得用户服务访问的效率更好,服务延迟更低,网络的能量与其它消耗也相应减少。在基于服务的网络中，我们可以通过节点部署接收到的返回服务的方法来进行服务迁移。以往的节点服务部署策略就是，节点每接收到来自一个其他节点返回的服务时，就部署该返回服务，然后转发给其他节点或者用户。随着物联网技术的不断发展，边缘节点的存储空间容量越来越大，这也意味着节点上能够部署越来越多的服务，但是由于服务类型繁多和传感器不断上传的巨量数据，节点上留给部署服务的空间是有限的，因此节点部署所有接收到的返回服务显然是不现实的，节点应该有取舍的去动态部署那些用户访问概率更大的服务，也就意味着节点中部署的服务也不是个固定的，会随着服务被访问的概率的实时变化而动态的卸载和部署。

常用的服务部署策略有最近最少使用策略，简称为LRU策略，和最少使用次数策略，简称为LFU策略。LRU策略基于长时间没有被请求过的服务最近被请求的可能性更小，主要考虑服务访问时间，采用LRU策略的节点倾向于卸载那些长时间内没有被请求的服务，然后部署新的最近被请求的服务；LFU策略基于一定时间内被请求次数少的服务将来被请求的可能性更小，主要考虑服务访问次数，采用LFU策略的节点倾向于卸载那些一段时间内请求次数最少的服务，然后部署这段时间内被请求次数更多的服务。LRU可能会由于一次不流行服务的处理而误导大量热点的服务，而LFU对突发性的稀疏服务请求无力。LRU和LFU策略都有各自的优点和缺陷。这些策略主要的参考参数是访问时间或访问次数，本发明则是在这些策略的基础上进行了改进,提出了通过特定的权值函数来计算每个服务的特征值，服务的特征值大小由该服务的访问时间或访问次数决定,其原则是最近的一次访问所占的权值最大,越往后其权值越小。

当在节点中能够连续多次找到被请求的服务，或者在节点中找到服务的次数比在节点中未找到服务的次数多时，说明此时的该节点上的服务请求倾向于这样一种趋势：被请求次数较多的服务再次被访问的可能性更大，服务特征值受服务访问次数的影响更大，这种场景下节点更适宜于采用LFU策略。当在节点中能够连续多次未找到被请求的服务，或者在节点中未找到服务的次数比在节点中找到服务的次数多时，说明此时的该节点上的服务请求倾向于这样一种趋势：最早被请求过的服务再次被请求的可能性最小，服务特征值受服务访问时间的影响更大，这种场景下节点更适宜于采用LRU策略。实际应用中,网络中的节点采用不同的服务部署策略在不同的服务请求场景下中会有不同的性能表现,由于现实服务请求场景的复杂多变,很难有一种服务部署策略在各种服务请求场景中都有优异的性能表现。因此本发明可以通过动态的调整权值函数，使得基于服务特征值的动态服务部署策略能够自适应于多种服务请求场景。

发明内容

一种基于服务特征值计算的节点动态服务部署方法，该部署方法简称为DPDS策略，其特征在于：

当节点每接收到一个服务请求，就通过特定权值函数计算并更新该服务的特征值，特征值越大的服务将来被访问的概率越高；

当节点每接收到一个返回服务时，节点需要根据其服务部署空间和服务特征值大小判断是否部署以及如何部署该服务；

根据节点上的服务发现情况，即节点接收到服务请求后能否在自身上找到该被请求的服务，动态调整权值函数的参数，使得DPDS策略能够自适应于多种服务请求场景；

当节点每接收到一次服务请求，就通过一个权值函数计算并更新该服务的特征值，权值函数F(x)的公式如下：

式中P是一个大于2的常数，λ是一个可以在[0,1]范围内调节的参数；

网络中的每个节点都有一张服务特征信息表用来存储服务的特征值，服务特征信息表的格式为S_j是节点接收到的服务请求的服务名，/>是该节点最近一次接收到S_j的服务请求的时间，/>是该节点在/>时接收到S_j的服务请求后计算出来的特征值；如果节点M_i在t_request时接收到了对S_j的服务请求，节点M_i首先查找它的服务特征信息表里是否存储有S_j的信息，如果有则根据服务特征信息表里S_j对应的/>和来计算S_j在t_request时的特征值C_trequest(S_j)，计算方法如下：

接下来节点M_i需要在它的服务特征信息表中更新S_j的相关信息具体为：更新S_j的最近一次被请求的时间为t_request，即更新S_j的特征值为/>即/>

如果在t_request时刻，节点M_i的服务特征信息表里没有S_j的相关信息，则节点M_i按照下面的公式计算S_j的特征值

接下来节点M_i需要在它的服务特征信息表中存储S_j的相关信息具体为：存储S_j的最近一次请求时间为t_request，即/>存储S_j的特征值为/>即/>

当节点每接收到一个返回的服务时，节点需要根据其服务部署空间和服务特征值的大小判断是否部署该服务以及如何部署该服务：假设节点M_i上已经部署了N_i个服务，用S(N_i)表示的当前节点M_i上部署服务集合；节点M_i在t_return时刻接收到一个返回的服务S_return后，用S(N_i+1)表示节点M_i已经部署和接收到的服务集合；在接收到返回的服务S_return后，节点M_i首先判断是否还有足够的服务部署空间用来部署S_return，如果有则直接部署接收到的服务S_return；如果没有，那么节点M_i接下来需要根据它的服务特征信息表计算在t_return时S(N_i+1)里所有服务的特征值，并找出最小的服务特征值，最小特征值计算公式如下：

找到最小的后，节点M_i需要判断服务S_j是否是接收到的服务S_return：如果是，则节点M_i不用部署S_return；如果S_j不是S_return，则节点M_i需要先卸载服务S_j，然后部署S_return。

根据节点上的服务发现情况，即节点接收到服务请求后能否在自身上找到该被请求的服务，动态调整权值函数的参数：权值函数F(x)有一个参数λ，λ∈[0，1]，λ取不同值时，DPDS策略适应的服务请求场景不一样；MODIFY_TIMES，MODIFY_VALUE是大于1的常数，MODIFY_RATIO是大于0的常数；InTimes表示在节点Mi中找到用户请求服务的次数，OutTimes在节点M_i中未找到用户请求服务的次数，初始时，InTimes与OutTimes都设置为0；节点M_i每接收到一次服务请求，首先查找自己是否部署了该被请求的服务，如果在节点M_i中找到了被请求的服务则InTimes加1；否则OutTimes加1，接下来节点M_i需要判断是否调整以及如何调整权值函数的参数λ，当InTimes大于MODIFY_TIMES并且InTimes大于OutTimes*MODIFY_RATIO时，我们就通过下面的公式减少λ值：

λ＝λ\MODIFY_VALUE

当OutTimes大于MODIFY_TIMES并且OutTimes大于InTimes*MODIFY_RATIO时，我们通过下述公式增加λ值：

在节点M_i的权值函数的参数λ调整后，节点M_i的InTimes与OutTimes都需要重置为0。

附图说明

为了更清楚地说明本发明中的技术方案，下面将对技术描述中所需要使用的附图作简单地介绍：

图1服务迁移部署示意图。

图2节点接收服务请求后更新服务特征信息表示意图。

图3节点接收返回服务的示意图。

图4节点命中用户服务请求概率示意图。

图5用户服务请求平均转发次数示意图。

图6平均服务发现时间示意图。

图7平均服务延迟示意图。

图8平均每次服务成本示意图。

具体实施方式

下面将结合具体实例对本发明做进一步的说明。

本发明提供了一种基于服务特征值计算的节点动态服务部署策略，网络模型如图1所示，网络分为四层，终端层，边缘层，路由层和云端。终端层是网络的最底层，主要是指由一些感知数据的物联网设备组成和用户组成。边缘层主要是由部署在网络边缘的节点组成，这些节点具有一定的服务部署空间，可以部署一定数量的服务。路由层的主要是指主干网络层，主要起到路由的功能。云端是网络的最顶层，它拥有足够大的服务部署空间来部署所有的服务，因此用户能够从云端得到所有想得到的服务，但是用户直接从云端获得服务就会经历长的路由，大的能量消耗与带宽占用和服务延迟。因此可以把部分服务直接部署在边缘层和路由层的节点中，这样用户可以不用访问云端就能得到服务，从而减少用户访问服务的路由路径。例如图1中，用户U₄通过节点M₁₁访问服务S_e，然后在节点M₁₇上找到服务S_e，接着S_e沿M₁₇→M₁₉→M₂₀→M₁₁返回给用户U₄，如果S_e返回过程中节点M₂₀部署了服务S_e，那么之后A₁₁，A₁₂，A₁₃，A₁₄区域内的用户访问服务S_e的路由路径都会减少2跳，如果S_e返回过程中节点M₂₃也部署了服务S_e，那么就会使得来自A₁₄区域的用户访问服务S_e的路由路径将会减少2倍以上，显然在边缘节点部署服务的措施能够有效的减少用户访问服务的路由路径。

图2就是节点接收服务请求后更新服务特征信息表的一个示例图，假设节点M₁在t_request时收到了S_a的服务请求，那么此时节点M₁需要根据它服务特征信息表里记录的S_a的最近一次的请求时间和特征值/>来计算t_request的S_a的特征值，计算方法如下：

从图2中还可以看出，在计算出后，节点M₁的服务特征信息表中需要更新S_a的相关信息，其中S_a的最近一次被请求的时间为t_request，即/>更新S_a的特征值为/>即/>

图3节点接收返回服务的一个示例图，假设用户向节点M₁请求服务S_d，然后最终在M₇中找到了服务S_d，M₇按照原路返回服务S_d，于是首先M₅接收到了服务S_d，M₅首先检查自己是否有足够的服务部署空间来服务S_d，那么图3中展示的情况就是M₅有足够的服务部署空间来部署S_d，于是M₅需要部署服务S_d，然后M₅返回服务S_d给M₁。假设M₁在t_return时刻接收到服务S_d，它首先检查自己是否有足够的服务部署空间来服务S_d，那么图3中展示的情况就是M₁没有足够的服务部署空间来部署S_d，此时M₁部署了一个服务S_a，即N₁＝1，S(N₁)就是{S_a}，S(N₁+1)为{S_a，S_d}。于是此时M₁就需要根据它的服务特征信息表按照下面的公式找出最小特征值。

按照图3的结果，计算出来的结果应该是最小，即计算结果表明，M₁收到S_d的服务请求的可能性会最低，因此M₁不应该为了部署服务S_d而卸载服务S_a，于是M₁直接返回服务S_d给用户。

权值函数F(x)有一个非常重要的特性如下：

(1)当λ＝1时，DPDS策略与LRU策略一致，服务特征值的大小取决于服务访问时间的间隔大小。

(2)当λ＝0时，F(x)＝1，是一个常数，DPDS策略与LRU策略一致，服务特征值的大小取决于服务访问次数的多少。

所以λ从0到1的变化过程中，DPDS策略逐渐从LFU过渡到LRU，这意味着我们可以通过动态的调整λ值使得DPDS变成不同的服务部署策略，从而适应不同的服务请求场景。当在节点中能够连续多次找到被请求的服务，或者在节点中找到服务的次数比在节点中未找到服务的次数多时，说明此时的该节点上的服务请求倾向于这样一种趋势：被请求次数较多的服务再次被访问的可能性更大，于是就减小λ值，使得节点的服务部署策略更倾向于LFU。当在节点中能够连续多次未找到被请求的服务，或者在节点中未找到服务的次数比在节点中找到服务的次数多时，说明此时的该节点上的服务请求倾向于这样一种趋势：最早被请求过的服务再次被请求的可能性最小，于是就增大λ值，使得节点的服务部署策略偏向于LRU。具体的动态的调整权值函数的参数的实施过程将在下面介绍。

MODIFY_TIMES，MODIFY_VALUE是大于1的常数，MODIFY_RATIO是大于0的常数。InTimes表示在节点M_i中找到用户请求服务的次数，OutTimes在节点M_i中未找到用户请求服务的次数，初始时，InTimes与OutTimes都设置为0。节点M_i每接收到一次服务请求，首先查找自己是否部署了该被请求的服务，如果在节点M_i中找到了被请求的服务则InTimes加1；否则OutTimes加1，接下来节点M_i需要判断是否调整权值函数的参数λ以如何调整，当InTimes大于MODIFY_TIMES并且InTimes大于OutTimes*MODIFY_RATIO时，我们就通过下面的公式减少λ值：

λ＝λ\MODIFY_VALUE

当OutTimes大于MODIFY_TIMES并且OutTimes大于InTimes*MODIFY_RATIO时，我们通过下述公式增加λ值：

权值函数的参数λ调整后，节点M_i的InTimes与OutTimes都重置为0。

为了体现出DPDS中动态的调整参数λ是可以适应不同的服务请求场景，我们在随机服务请求，有偏向性的服务请求，以及前两者随机混合服务的请求的场景下，网络中的节点分别采取DPDS策略以及LRU和LFU策略，以及不采取任何服务部署策略的网络中节点的平均命中服务的概率以及用户服务请求的平均被转发次数，服务发现时间，服务延迟和平均每次服务成本。

图4显示的就是在不同服务请求场景下节点采用不同服务部署策略下的命中用户请求的服务的概率，从图中可以看出，首先采取一定的服务部署策略的节点命中服务的概率会远远高于不采取任何服务部署策略的节点命中服务的概率。从图中也可以看出，相比于LRU策略，采取DPDS和LFU策略的节点的服务命中率在有偏向性和混合服务场景下明显更高。

图5显示的用户服务请求的平均被转发次数，从图中可以看出的DPDS策略可以通过调整λ值从而适应不同的服务请求场景，从而在每一种服务请求场景下的平均被转发次数都是最低的，这也证明了网络中的节点都采用DPDS策略时，有助于与将用户访问概率大的服务迁移到更接近用户的位置部署，从而减少服务请求被转发的次数。

图6显示的平均服务发现时间，服务发现时间是指最接近用户的节点接收到用户的服务请求然后找到服务具体部署在哪个节点上的时间。从图中可以看出的DPDS策略可以通过调整λ值从而适应不同的服务请求场景，从而在每一种服务请求场景下的平均服务发现时间都是最低的。

图7显示的平均服务延迟，服务延迟被定义成从用户发送服务请求到接收到服务返回结果的总时间。从图中可以看出的DPDS策略可以通过调整λ值从而适应不同的服务请求场景，从而在每一种服务请求场景下的平均服务延迟都是最低的。

图8显示的平均每次服务成本，从图中可以看出的DPDS策略可以通过调整λ值从而适应不同的服务请求场景，从而在每一种服务请求场景下的平均每次服务成本都是最低的。

Claims (3)

1.一种基于服务特征值计算的节点动态服务部署方法，该部署方法简称为DPDS策略，其特征在于：

当节点每接收到一个服务请求，就通过特定权值函数计算并更新该服务的特征值；

当节点每接收到一个返回服务时，节点需要根据其服务部署空间和服务特征值大小判断是否部署以及如何部署该服务；

根据节点上的服务发现情况动态调整权值函数的参数；

当节点每接收到一次服务请求，就通过一个权值函数计算并更新该服务的特征值，权值函数F(x)的公式如下：

式中P是一个大于2的常数，λ是一个可以在[0，1]范围内调节的参数；

网络中的每个节点都有一张服务特征信息表用来存储服务的特征值，服务特征信息表的格式为S_j是节点接收到的服务请求的服务名，/>是该节点最近一次接收到S_j的服务请求的时间，/>是该节点在/>时接收到S_j的服务请求后计算出来的特征；如果节点M_i在t_request时接收到了对Sj的服务请求，节点M_i首先查找它的服务特征信息表里是否存储有S_j的信息，如果有则根据服务特征信息表里Sj对应的/>和来计算S_j在t_request时的特征值/>计算方法如下：

接下来节点M_i需要在它的服务特征信息表中更新S_j的相关信息具体为：更新S_j的最近一次被请求的时间为t_request，即/>更新S_j的特征值为即/>

如果在t_request时刻，节点M_i的服务特征信息表里没有Sj的相关信息，则节点M_i按照下面的公式计算Sj的特征值

接下来节点M_i需要在它的服务特征信息表中存储Sj的相关信息具体为：存储S_j的最近一次请求时间为t_request，即/>存储S_j的特征值为即/>

2.根据权利要求1所述的一种基于服务特征值计算节点动态部署方法，其特征在于，当节点每接收到一个返回服务时，节点需要根据其服务部署空间和服务特征值的大小判断是否部署该服务以及如何部署该服务，具体为：

假设节点M_i上已经部署了N_i个服务，用S(N_i)表示的当前节点M_i上部署服务集合；节点M_i在t_return时刻接收到一个返回的服务S_return后，用S(N_i+1)表示节点M_i已经部署和接收到的服务集合；在接收到返回的服务S_return后，节点M_i首先判断是否还有足够的服务部署空间用来部署S_return，如果有则直接部署接收到的服务S_return；如果没有，那么节点M_i接下来需要根据它的服务特征信息表计算在t_return时S(N_i+1)里所有服务的特征值，并找出最小的服务特征值，最小特征值计算公式如下：

找到最小的后，节点M_i需要判断服务Sj是否是接收到的服务S_return：如果是，则节点M_i不用部署S_return；如果S_j不是S_return，则节点M_i需要先卸载服务S_j，然后部署S_return。

3.根据权利要求1所述的一种基于服务特征值计算节点动态部署方法，其特征在于，根据节点上的服务发现情况动态调整权值函数的参数，具体为：

权值函数F(x)有一个参数λ，λ∈[0，1]，λ取不同值时，DPDS策略适应的服务请求场景不一样；MODIFY_TIMES，MODIFY_VALUE是大于1的常数，MODIFY_RATIO是大于0的常数；InTimes表示在节点M_i中找到用户请求服务的次数，OutTimes在节点M_i中未找到用户请求服务的次数，初始时，InTimes与OutTimes都设置为0；节点M_i每接收到一次服务请求，首先查找自己是否部署了该被请求的服务，如果在节点M_i中找到了被请求的服务则InTimes加1；否则OutTimes加1，接下来节点M_i需要判断是否调整以及如何调整权值函数的参数λ，当InTimes大于MODIFY_TIMES并且InTimes大于OutTimes*MODIFY_RATIO时，我们就通过下面的公式减少λ值：

λ＝λ\MODIFY_VALUE

当OutTimes大于MODIFY_TIMES并且OutTimes大于InTimes*MODIFY_RATIO时，我们通过下述公式增加λ值：

在节点M_i的权值函数的参数λ调整后，节点M_i的InTimes与OutTimes都需要重置为0。