CN107612987A - 一种面向边缘计算基于缓存的服务供应优化方法 - Google Patents

Abstract

本发明公开了一种面向边缘计算基于缓存的服务供应优化方法，包括：S1.对移动用户服务使用体验的量化与建模；S2.基于服务使用记录的边缘服务器初始化缓存服务部署方法；S3.基于时空因素的服务预测方案及此基础上的边缘服务器缓存服务动态调整方法。本发明在考虑用户与边缘服务器的交互信息的基础上，还综合考虑了服务请求的分布情况、边缘服务器之间的地理关系、服务调用的时序关系，并利用这些信息对边缘府服务器运行时缓存动态调整策略提供了辅助，从而使缓存替换方案更加有效。

Description

一种面向边缘计算基于缓存的服务供应优化方法

技术领域

本发明属于边缘计算服务技术领域，具体涉及一种面向边缘计算基于缓存的服务供应优化方法。

背景技术

随着移动设备技术的发展和Web服务的逐渐丰富，越来越多的复杂功能可以在移动设备上完成；根据TalkData报告显示，截止2016年12月，中国有接近13.7亿智能设备处于使用中，平均每人安装39个应用服务。移动设备和移动服务成功渗透进人们的日常生活，重新定了人与人、人与机器的交互方式；人们可以随时随地使用这些服务来学习、娱乐、社交以及进行商业活动。然而，移动设备的资源受限特性以及网络信道的不稳定性对用户的使用体验产生了极大的负面影响，低性能的计算能力、消耗速度快的电量资源以及频繁产生的网络丢包等都限制了增强计算/虚拟现实/人工智能等新兴技术的发展；随着移动设备数量的增加，这个问题将日益严峻；除了传统的移动计算领域外，物联网的发展也受到了这些因素的制约。为了解决这些问题，目前越来越多的研究者将目光投向边缘计算技术，试图借助边缘网络提高服务供应的质量和效率，从而提高用户的使用体验。

目前，对边缘网络中服务供应的研究通常包括如下几点：1.服务提供的能耗研究，这些研究以能耗与计算量传输量的正相关性为基础，通过对移动设备的建模来表述能耗，最终完成能耗优化。2.利用服务的分布式特性进行优化，这些研究有针对性的进行服务部署，使得服务的接入方式增加，从而完成服务供应优化。3.利用服务的上下文信息进行优化，移动用户的上下文信息包含着丰富的用户特性以及环境特性，针对不同特性有针对的提供服务可以提供更可靠的服务。在实际应用中，利用服务的分布式特性进行优化的代价相对较低，因此在诸多优化方案中可操作性更强。

然而，现有的方法并没有提供针对用户体验的量化模型，也没有考虑边缘计算系统中组件的资源受限问题。

发明内容

鉴于上述，本发明利用服务的分布式特性，提出了一种面向边缘计算基于缓存的服务供应优化方法，能够较好的利用边缘计算组件的资源，为服务使用者提供高质量的用户体验。

一种面向边缘计算基于缓存的服务供应优化方法，包括如下步骤：

(1)为各边缘服务器以及各移动服务建立动态档案，并收集每台边缘服务器历史所有的移动服务调用记录；

(2)针对任一边缘服务器a，通过对以下目标函数L进行优化求解，得到边缘服务器a上的服务缓存状况向量y；

其中：f_i为第i个移动服务在边缘服务器a上的历史调用频率(该移动服务的历史调用次数与所有移动服务的历史调用次数之比)，t_i为当前用户调用边缘服务器a上第i个移动服务的响应时间，T_i为当前用户调用云服务器上第i个移动服务的响应时间，y_i为边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y中的第i个元素值，若边缘服务器a上缓存有第i个移动服务则y_i＝1，否则y_i＝0；m为移动服务的总数量，r_wsi为第i个移动服务的资源使用量，R为边缘服务器a的可用服务资源量；

(3)使边缘服务器a根据服务缓存状况向量y进行缓存部署，每隔固定时间间隔τ测量边缘服务器a的服务响应参数；若该参数超过一定阈值，则通过对以下目标函数H进行优化求解得到新的服务缓存状况向量y'，则在下一时间段τ内根据服务缓存状况向量y'调整对边缘服务器a的缓存部署；

其中：D_i为边缘服务器a从云服务器备份第i个移动服务所需花费的时间代价，f_i ^*为下一时间段τ内第i个移动服务在边缘服务器a上的调用频率，rt_i(τ)为下一时间段τ内用户调用边缘服务器a上第i个移动服务的响应时间。

所述边缘服务器的动态档案包括服务器地址、可用服务资源量、数据传输速率以及服务提供范围，所述移动服务的动态档案包括服务功能描述、输入数据、输出数据、资源使用量、服务质量以及服务体积，所述移动服务调用记录包括移动服务ID、客户端ID、请求发起时间以及请求完成时间。

所述服务响应参数为边缘服务器a在固定时间间隔τ内的服务请求命中率或边缘服务器a在固定时间间隔τ内的平均服务响应时间。

所述时间代价D_i的计算表达式如下：

其中：y_i'为下一时间段τ内边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y'中的第i个元素值，若下一时间段τ内边缘服务器a上缓存有第i个移动服务则y_i'＝1，否则y_i'＝0；ws_i.Size为第i个移动服务的体积，es.V为边缘服务器a的数据传输速率。

所述调用频率f_i ^*的计算表达式如下：

其中：λ_i(τ)为下一时间段τ内边缘服务器a上第i个移动服务的请求到达率。

所述响应时间rt_i(τ)的计算表达式如下：

rt_i(τ)＝λ_i(τ)[y'_it_i+(1-y'_i)T_i]τ

其中：λ_i(τ)为下一时间段τ内边缘服务器a上第i个移动服务的请求到达率，y_i'为下一时间段τ内边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y'中的第i个元素值，若下一时间段τ内边缘服务器a上缓存有第i个移动服务则y_i'＝1，否则y′_i＝0。

所述请求到达率λ_i(τ)的计算表达式如下：

其中：α和β均为给定的权重系数，K为与边缘服务器a相似环境下的所有边缘服务器集合，b为集合K中的任一边缘服务器，k为集合K中的边缘服务器数量，N为设定的近期相关天数，λ_i ^prev(es)为以当前时间为基准的前一时间段τ内边缘服务器a上第i个移动服务的请求到达率，λ_i(d,es)为前d天以当前时间为基准的下一时间段τ内边缘服务器a上第i个移动服务的请求到达率，λ_i(d,es_b)为前d天以当前时间为基准的下一时间段τ内边缘服务器b上第i个移动服务的请求到达率。

对于固定时间段τ内任一边缘服务器上第i个移动服务的请求到达率λ_i，其计算表达式如下：

其中：p为固定时间段τ内该边缘服务器上关于第i个移动服务的请求次数，为固定时间段τ内该边缘服务器上关于第i个移动服务的第j次请求与第j+1次请求之间的时间间隔。

本发明首次针对边缘计算框架中的服务供应优化提出了量化的缓存策略方案，包括了边缘服务器启动初期的服务部署方案和边缘服务器运行时的服务缓存调整方案，为利用服务分布式特性的边缘计算服务提供优化方案提供了新的可行可靠的方法。本发明在考虑用户与边缘服务器的交互信息的基础上，还综合考虑了服务请求的分布情况、边缘服务器之间的地理关系、服务调用的时序关系，并利用这些信息对边缘府服务器运行时缓存动态调整策略提供了辅助，从而使缓存替换方案更加有效。

附图说明

图1为本发明服务供应优化方法的系统架构示意图。

图2为本发明服务供应优化方法中用户服务调用的流程示意图。

具体实施方式

为了更为具体地描述本发明，下面结合附图及具体实施方式对本发明的技术方案进行详细说明。

本发明面向边缘计算的基于缓存策略的服务供应优化方法，包括以下步骤：

(1)为边缘服务器建立动态档案，收集边缘服务器的地址、可用服务资源、数据传输速率、服务提供范围；同时在边缘服务器中收集完整的移动服务调用序列，其内容包括移动设备识别码、调用的移动服务ID、请求发起时间、请求完成时间。

(2)收集移动服务信息，为其建立动态档案；移动服务信息包括服务功能、输入数据、输出数据、资源使用量、服务质量、服务体积。

(3)针对任一边缘服务器，通过分析该边缘服务器的服务请求历史记录，建立初始化服务部署方案，建立以下目标函数：

其中：f_i表示服务i的调用频率，可通过服务i的调用次数/总服务调用次数得到，在本实施方式中，利用服务使用频率在长期观察中保持稳定的特性，用历史的服务调用频率代替将来的服务调用频率；t_i表示当用户使用边缘服务器上的服务i时的响应时间，T_i表示当用户无法使用边缘服务器上的服务i转而使用云服务器上的该服务时的响应时间，这些响应时间分别通过与边缘服务器和云服务器的试探性交互获取；y_i表示边缘服务器上服务i的缓存情况，y_i为整数0或1，其意义为：当y_i为0时表示边缘服务器不应缓存服务i，y_i为1时则相反，该函数体现了采用边缘计算模式后，平均调用一个服务需要的响应时间开销，体现了用户的服务使用感受。

(4)针对每台边缘服务器，考虑部署方案是否合理的一个重要依据是边缘服务器的资源使用情况，因此建立以下约束函数：

其中，r_wsi表示服务i的资源使用量，R表示边缘服务器的可用服务资源容量。

(5)结合步骤(4)中的资源约束对步骤(3)中的目标函数进行优化求解，得到目标向量y，该向量的第i维即表达是否需要在边缘服务器上缓存服务i。

(6)为每台边缘服务器设置可测量参数阈值，该参数推荐设置为某段时间内服务请求命中率，也可以设置为当前边缘服务器平均服务响应时间，前者在测量上较为方便，后者则真实反映用户当前使用情况。

(7)当边缘服务器检测到设置的参数阈值超标时，动态调整装置报警，边缘服务器启动动态调整方案，对缓存内的服务进行修改，重新从云服务器下载和部署服务。

(8)针对每台边缘服务器，当动态调整被启动时，建立如下目标函数：

其中：f_i ^*表示服务i在未来时间τ内的调用频率，D_i表示从云端备份服务i所需要的时间代价，rt_i(τ)为在未来时间τ内用户使用边缘服务器上的服务i的响应时间。对于服务备份所需时间代价，其值可以通过下式求得：

其中：y表示启动动态调整前的服务缓存情况，y'表示启动动态调整后的服务缓存情况，ws_i.Size表示第i个服务的体积，es.V表示边缘服务器数据传输速率。

对于服务i在未来时间τ内的调用频率，其值可以通过下式求得：

对于未来时间τ内用户使用边缘服务器上的服务i的响应时间，其值可以通过下式求得：

rt_i(τ)＝λ_i(τ)[y'_it_i+(1-y'_i)T_i]τ

其中：λ_i(τ)表示未来时间τ内边缘服务器上第i个移动服务的请求到达率；此时，由于需要优化的目标是接下来τ秒时间内的平均服务响应时间，之前的频率估计假设需要更精细化，通过对服务请求到来的实验，发现其分布可以用泊松分布近似描述，因此通过对短时服务请求到来间隔进行最大似然估计，可以得到短时内的服务i请求到达率为：

其中：λ_i为边缘服务器上服务i的到达率，p为在时间τ秒内边缘服务器上关于服务i的请求次数，为时间τ秒内边缘服务器上关于服务i的第j次请求与第j+1次请求之间的时间间隔。

同时，考虑同时段内服务请求的相似性和类似区域内服务请求的相似性，对下τ时刻的服务i的到达率做如下预测：

其中：α和β是手工设置的参数，控制时间相似度和空间相似度对结果影响的比例；λ_i(d,es)表示前d天该边缘服务器下τ时刻的服务请求到达率，λ_i ^prev(es)表示该边缘服务器前τ时刻的服务请求到达率，λ_i(d,es_b)表示前d天处于相似环境的服务器b下τ时刻服务请求到达率。

(9)同样考虑边缘服务器的资源约束，对步骤(8)中目标函数进行优化，得到调整后的服务缓存策略，再次将边缘服务器的服务提供效率调整到较优的状态。

图1所示了本实施方式的基础架构，该架构分为三个主要模块：预处理模块、静态部署模块和动态调整模块。预处理模块中，首先动态获取边缘服务器的特征信息和交互信息以及所涉及的服务的参数信息；在静态部署模块中，通过对得到的数据进行利用，根据边缘服务器资源情况进行初始化服务部署；在动态调整模块中，通过监听边缘服务器设置的阈值，视情况启动缓存动态调整，将原有的服务缓存更新。

图2所示了边缘服务器上缓存中服务部署的案例，在该案例中，服务请求可以被部分满足，通过替换未被满足的服务，可以提高服务提供的效率。

上述对实施例的描述是为便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。

Claims (8)

1.一种面向边缘计算基于缓存的服务供应优化方法，包括如下步骤：

(1)为各边缘服务器以及各移动服务建立动态档案，并收集每台边缘服务器历史所有的移动服务调用记录；

(2)针对任一边缘服务器a，通过对以下目标函数L进行优化求解，得到边缘服务器a上的服务缓存状况向量y；

<mfenced open = "" close = ""> <mtable> <mtr> <mtd> <mrow> <mi>L</mi> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>m</mi> </munderover> <msub> <mi>f</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>y</mi> <mi>i</mi> </msub> <msub> <mi>t</mi> <mi>i</mi> </msub> <mo>+</mo> <mo>(</mo> <mrow> <mn>1</mn> <mo>-</mo> <msub> <mi>y</mi> <mi>i</mi> </msub> </mrow> <mo>)</mo> <msub> <mi>T</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> </mrow> </mtd> <mtd> <mrow> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>m</mi> </munderover> <msub> <mi>y</mi> <mi>i</mi> </msub> <msub> <mi>r</mi> <mrow> <mi>w</mi> <mi>s</mi> <mi>i</mi> </mrow> </msub> <mo>&amp;le;</mo> <mi>R</mi> </mrow> </mtd> </mtr> </mtable> </mfenced>

其中：f_i为第i个移动服务在边缘服务器a上的历史调用频率，t_i为当前用户调用边缘服务器a上第i个移动服务的响应时间，T_i为当前用户调用云服务器上第i个移动服务的响应时间，y_i为边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y中的第i个元素值，若边缘服务器a上缓存有第i个移动服务则y_i＝1，否则y_i＝0；m为移动服务的总数量，r_wsi为第i个移动服务的资源使用量，R为边缘服务器a的可用服务资源量；

(3)使边缘服务器a根据服务缓存状况向量y进行缓存部署，每隔固定时间间隔τ测量边缘服务器a的服务响应参数；若该参数超过一定阈值，则通过对以下目标函数H进行优化求解得到新的服务缓存状况向量y'，则在下一时间段τ内根据服务缓存状况向量y'调整对边缘服务器a的缓存部署；

<mrow> <mi>H</mi> <mo>=</mo> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>m</mi> </munderover> <mrow> <mo>(</mo> <msub> <mi>D</mi> <mi>i</mi> </msub> <mo>+</mo> <msubsup> <mi>f</mi> <mi>i</mi> <mo>*</mo> </msubsup> <msub> <mi>rt</mi> <mi>i</mi> </msub> <mo>(</mo> <mi>&amp;tau;</mi> <mo>)</mo> <mo>)</mo> </mrow> </mrow>

其中：D_i为边缘服务器a从云服务器备份第i个移动服务所需花费的时间代价，f_i ^*为下一时间段τ内第i个移动服务在边缘服务器a上的调用频率，rt_i(τ)为下一时间段τ内用户调用边缘服务器a上第i个移动服务的响应时间。

2.根据权利要求1所述的服务供应优化方法，其特征在于：所述边缘服务器的动态档案包括服务器地址、可用服务资源量、数据传输速率以及服务提供范围，所述移动服务的动态档案包括服务功能描述、输入数据、输出数据、资源使用量、服务质量以及服务体积，所述移动服务调用记录包括移动服务ID、客户端ID、请求发起时间以及请求完成时间。

3.根据权利要求1所述的服务供应优化方法，其特征在于：所述服务响应参数为边缘服务器a在固定时间间隔τ内的服务请求命中率或边缘服务器a在固定时间间隔τ内的平均服务响应时间。

4.根据权利要求1所述的服务供应优化方法，其特征在于：所述时间代价D_i的计算表达式如下：

<mrow> <msub> <mi>D</mi> <mi>i</mi> </msub> <mo>=</mo> <msubsup> <mi>y</mi> <mi>i</mi> <mo>&amp;prime;</mo> </msubsup> <mrow> <mo>(</mo> <mn>1</mn> <mo>-</mo> <msub> <mi>y</mi> <mi>i</mi> </msub> <mo>)</mo> </mrow> <mfrac> <mrow> <msub> <mi>ws</mi> <mi>i</mi> </msub> <mo>.</mo> <mi>S</mi> <mi>i</mi> <mi>z</mi> <mi>e</mi> </mrow> <mrow> <mi>e</mi> <mi>s</mi> <mo>.</mo> <mi>V</mi> </mrow> </mfrac> </mrow>

其中：y_i'为下一时间段τ内边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y'中的第i个元素值，若下一时间段τ内边缘服务器a上缓存有第i个移动服务则y_i'＝1，否则y_i'＝0；ws_i.Size为第i个移动服务的体积，es.V为边缘服务器a的数据传输速率。

5.根据权利要求1所述的服务供应优化方法，其特征在于：所述调用频率f_i ^*的计算表达式如下：

<mrow> <msubsup> <mi>f</mi> <mi>i</mi> <mo>*</mo> </msubsup> <mo>=</mo> <mfrac> <mrow> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>&amp;tau;</mi> <mo>)</mo> </mrow> </mrow> <mrow> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>m</mi> </munderover> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>&amp;tau;</mi> <mo>)</mo> </mrow> </mrow> </mfrac> </mrow>

其中：λ_i(τ)为下一时间段τ内边缘服务器a上第i个移动服务的请求到达率。

6.根据权利要求1所述的服务供应优化方法，其特征在于：所述响应时间rt_i(τ)的计算表达式如下：

rt_i(τ)＝λ_i(τ)[y'_it_i+(1-y'_i)T_i]τ

其中：λ_i(τ)为下一时间段τ内边缘服务器a上第i个移动服务的请求到达率，y_i'为下一时间段τ内边缘服务器a上第i个移动服务的缓存状况即服务缓存状况向量y'中的第i个元素值，若下一时间段τ内边缘服务器a上缓存有第i个移动服务则y_i'＝1，否则y_i'＝0。

7.根据权利要求5或6所述的服务供应优化方法，其特征在于：所述请求到达率λ_i(τ)的计算表达式如下：

<mrow> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>&amp;tau;</mi> <mo>)</mo> </mrow> <mo>=</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>-</mo> <mi>&amp;alpha;</mi> <mo>)</mo> </mrow> <msubsup> <mi>&amp;lambda;</mi> <mi>i</mi> <mrow> <mi>p</mi> <mi>r</mi> <mi>e</mi> <mi>v</mi> </mrow> </msubsup> <mrow> <mo>(</mo> <mi>e</mi> <mi>s</mi> <mo>)</mo> </mrow> <mo>+</mo> <mi>&amp;alpha;</mi> <mo>{</mo> <mi>&amp;beta;</mi> <mfrac> <mrow> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>d</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>N</mi> </munderover> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>d</mi> <mo>,</mo> <mi>e</mi> <mi>s</mi> <mo>)</mo> </mrow> </mrow> <mi>N</mi> </mfrac> <mo>+</mo> <mfrac> <mrow> <mn>1</mn> <mo>-</mo> <mi>&amp;beta;</mi> </mrow> <mi>k</mi> </mfrac> <munder> <mo>&amp;Sigma;</mo> <mrow> <mi>b</mi> <mo>&amp;Element;</mo> <mi>K</mi> </mrow> </munder> <mfrac> <mrow> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>d</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>N</mi> </munderover> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>d</mi> <mo>,</mo> <msub> <mi>es</mi> <mi>b</mi> </msub> <mo>)</mo> </mrow> </mrow> <mi>N</mi> </mfrac> <mo>}</mo> </mrow>

其中：α和β均为给定的权重系数，K为与边缘服务器a相似环境下的所有边缘服务器集合，b为集合K中的任一边缘服务器，k为集合K中的边缘服务器数量，N为设定的近期相关天数，为以当前时间为基准的前一时间段τ内边缘服务器a上第i个移动服务的请求到达率，λ_i(d,es)为前d天以当前时间为基准的下一时间段τ内边缘服务器a上第i个移动服务的请求到达率，λ_i(d,es_b)为前d天以当前时间为基准的下一时间段τ内边缘服务器b上第i个移动服务的请求到达率。

8.根据权利要求7所述的服务供应优化方法，其特征在于：对于固定时间段τ内任一边缘服务器上第i个移动服务的请求到达率λ_i，其计算表达式如下：

<mrow> <msub> <mi>&amp;lambda;</mi> <mi>i</mi> </msub> <mo>=</mo> <mfrac> <mi>p</mi> <mrow> <msubsup> <mo>&amp;Sigma;</mo> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mrow> <mi>p</mi> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <msubsup> <mi>&amp;delta;</mi> <mi>k</mi> <mi>i</mi> </msubsup> </mrow> </mfrac> </mrow>

其中：p为固定时间段τ内该边缘服务器上关于第i个移动服务的请求次数，为固定时间段τ内该边缘服务器上关于第i个移动服务的第j次请求与第j+1次请求之间的时间间隔。