CN110769038B - 服务器调度方法及装置、存储介质、电子设备 - Google Patents

Abstract

本公开提供一种服务器调度方法及装置、电子设备、存储介质；涉及通信技术领域。所述服务器调度方法包括：接收用户终端发送的业务请求，所述业务请求包含目标标识；根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。本公开可以提高边缘计算服务器以及内容分发服务器调度的兼容性以及业务处理的鲁棒性。

Description

服务器调度方法及装置、存储介质、电子设备

技术领域

本公开涉及通信技术领域，具体而言，涉及一种服务器调度方法、服务器调度装置、电子设备以及计算机可读存储介质。

背景技术

边缘计算(Multi-Access Edge Computing，MEC)是一种分散式运算的架构。在这种架构下，会将如数据服务等业务请求，分散到边缘计算服务器去处理。由于边缘计算服务器更接近于用户终端，因此可以加快业务请求的处理效率，减少延迟。

同时，越来越来越多的运营商采用内容分发网络(Content Delivery Network，CDN)来降低网络拥塞，提高业务请求的响应速度。内容分发网络通常包括分布在各区域的内容分发服务器。

但现有技术中，对于边缘计算服务器以及内容分发服务器的调度方案，仍存在较大的改善空间，例如，如何提高两者的兼容性、如何提升业务处理的鲁棒性等。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开示例性实施例的目的在于提供一种服务器调度方法、服务器调度装置、电子设备以及计算机可读存储介质，进而在一定程度上提高边缘计算服务器以及内容分发服务器调度的兼容性以及业务处理的鲁棒性。

根据本公开的一个方面，提供一种服务器调度方法，包括：

接收用户终端发送的业务请求，所述业务请求包含目标标识；

根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；

在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；

在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。

在本公开的一种示例性实施例中，根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器，包括：

获取标识与边缘计算服务器之间的映射关系；

基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器；

确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述方法还包括：

建立所述标识与边缘计算服务器之间的映射关系；

其中，所述标识包括业务请求的来源地址标识、业务请求的目的地址标识、用户终端的地理位置标识以及用户终端的网络标识中的一种或多种。

在本公开的一种示例性实施例中，确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器，包括：

获取各所述候选边缘计算服务器的第一状态信息；其中，所述第一状态信息包括负载率信息、时延信息以及历史命中信息中的一种或多种；

根据所述第一状态信息，确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器，包括：

在不存在与所述目标标识匹配的边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器，包括：

根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；

在所述用户终端所在地理区域不存在边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求，包括：

获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；其中，所述第二状态信息包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围信息中的一种或多种；

根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述方法还包括：

在所述目标服务器对所述业务请求处理失败时，通过所述目标服务器指向的回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为多级结构；通过所述目标服务器指向的回源服务器处理所述业务请求，包括：

在当前级别回源服务器对所述业务请求处理失败时，通过当前级别回源服务器的上一级回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为边缘计算服务器或者内容分发服务器。

在本公开的一种示例性实施例中，所述方法还包括：

在所述目标服务器对所述业务请求处理失败时，对所述目标服务器的所述第一状态信息进行更新；

根据更新后的所述第一状态信息，重新确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；调度内容分发服务器处理所述业务请求，包括：

根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；

根据所述用户终端所在地理区域以及各所述内容分发服务器的负载确定目标服务器，并通过所述目标服务器处理所述业务请求。

根据本公开的一个方面，提供一种服务器调度装置，包括：

请求接收模块，用于接收用户终端发送的业务请求，且所述业务请求包含目标标识；

资源查询模块，用于根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；

第一调度模块，用于在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；

第二调度模块，用于在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述资源查询模块通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：获取标识与边缘计算服务器之间的映射关系；基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器；确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述装置还包括：

映射关系建立模块，用于建立所述标识与边缘计算服务器之间的映射关系；其中，所述标识包括业务请求的来源地址标识、业务请求的目的地址标识、用户终端的地理位置标识以及用户终端的网络标识中的一种或多种。

在本公开的一种示例性实施例中，所述资源查询模块通过下述步骤确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器：获取各所述候选边缘计算服务器的第一状态信息；其中，所述第一状态信息包括负载率信息、时延信息以及历史命中信息中的一种或多种；根据所述第一状态信息，确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，所述资源查询模块通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：在不存在与所述目标标识匹配的边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；所述资源查询模块通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；在所述用户终端所在地理区域不存在边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述第一调度模块通过下述步骤调度能够处理所述业务请求的边缘计算服务器处理所述业务请求：获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；其中，所述第二状态信息包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围信息中的一种或多种；根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述装置还包括：

第一回源模块，用于在所述目标服务器对所述业务请求处理失败时，通过所述目标服务器指向的回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为多级结构；所述第一回源模块利用下述步骤通过所述目标服务器指向的回源服务器处理所述业务请求：在当前级别回源服务器对所述业务请求处理失败时，通过当前级别回源服务器的上一级回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为边缘计算服务器或者内容分发服务器。

在本公开的一种示例性实施例中，所述装置还包括：

第二回源模块，用于在所述目标服务器对所述业务请求处理失败时，对所述目标服务器的所述第一状态信息进行更新，以便于根据更新后的所述第一状态信息重新确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；所述第二调度模块通过下述步骤调度内容分发服务器处理所述业务请求：根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；根据所述用户终端所在地理区域以及各所述内容分发服务器的负载确定目标服务器，并通过所述目标服务器处理所述业务请求。

根据本公开的第三方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的方法。

根据本公开的第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的方法。

本公开示例性实施例可以具有以下部分或全部有益效果：

在本公开的一示例实施方式所提供的服务器调度方法中，在接收到用户终端发送的业务请求后，根据业务请求中包含的目标标识确定有无能够处理所述业务请求的边缘计算服务器，如果有，则调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；否则调度内容分发服务器处理所述业务请求。一方面，相比现有技术，本公开示例性实施例中的方案可以在边缘计算服务器调度失败时，调度内容分发服务器处理对业务请求进行处理，增加了业务的容错性以及鲁棒性，同时对现有互联网业务更加适用。另一方面，本公开示例性实施例的方案中充分考虑到边缘计算服务器的强地域性等特性，将边缘计算服务器调度与内容分发服务器调度进行了解耦，两种调度机制互不干扰，增强了整体调度过程的兼容性，既有助于边缘计算业务的快速部署，又降低了互联网业务使用边缘计算业务的成本。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出了可以应用本公开实施例的一种服务器调度方法及装置的示例性系统架构的示意图；

图2示意性示出了根据本公开的一个实施例的服务器调度方法的流程图；

图3示意性示出了根据本公开的一个实施例中进行边缘计算能力判断过程的流程图；

图4示意性示出了根据本公开的一个实施例中调度边缘计算服务器过程的流程图；

图5示意性示出了根据本公开的一个实施例的服务器调度方法的流程图；

图6示意性示出了根据本公开的一个实施例中调度边缘计算服务器过程的流程图；

图7示意性示出了根据本公开的一个实施例中调度内容分发服务器过程的流程图；

图8示意性示出了根据本公开的一个实施例的服务器调度装置的框图；

图9示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

图1示出了可以应用本公开实施例的一种服务器调度方法及装置的示例性应用环境的系统架构的示意图。

如图1所示，系统架构100可以包括用户终端101、102、103中的一个或多个，基站104、边缘计算服务器105、核心网设备106以及内容分发网络107。其中：

用户终端101、102、103可以是具有显示屏的各种电子设备，包括但不限于台式计算机、便携式计算机、智能手机、平板电脑和摄像头等等，用户终端101、102、103可以通过基站104连接至其他服务器。

边缘计算服务器105可以在接近用户终端的无线接入网内提供云化的服务环境及计算能力，其可以为独立的服务器，也可以其他能够提供边缘计算服务或者能够处理边缘计算业务的其他硬件模块或软件模块。“边缘”既包括用户终端及基站104，也包括移动网络内的其他特定设备，如汇聚节点等；边缘计算服务器105可以位于核心网设备106之前，也可以位于核心网设备106之后，本公开实施例对此不做特殊限定。

内容分发网络107包括各种内容分发服务器(又称缓存服务器)，这些内容分发服务器分布在各区域，如用户访问相对集中的地区或网络等。在接收到用户的业务请求时，可以利用全局负载均衡(Global Server Load Balance，GSLB)技术将用户的业务请求指向合适的内容分发服务器上，由内容分发服务器直接处理。需要说明的是，本公开实施例的内容分发服务器大多部署在互联网公网上，而非移动网络内部。

应该理解的是，图1中的用户终端和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的用户终端和服务器。比如边缘计算服务器105以及内容分发服务器可以是多个服务器组成的服务器集群等。

此外，本公开实施例中所提供的服务器调度方法一般由服务器执行，相应地，服务器调度装置一般设置于服务器中，如部署在调度服务器中执行；即用户向调度服务器发送业务请求，以期望调度服务器调度适合的边缘计算服务器或者内容分发服务器对业务请求进行处理。但本公开实施例中并不以此为限。以下对本公开实施例的技术方案进行详细阐述：

本示例实施方式提供了一种服务器调度方法。参考图2所示，该服务器调度方法可以包括以下步骤：

步骤S210.接收用户终端发送的业务请求，所述业务请求包含目标标识；

步骤S220.根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；

步骤S230.在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；

步骤S240.在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。

在本示例实施方式所提供的服务器调度方法中，一方面，相比现有技术，本公开示例性实施例中的方案可以在边缘计算服务器调度失败时，调度内容分发服务器处理对业务请求进行处理，增加了业务的容错性以及鲁棒性，同时对现有互联网业务更加适用。另一方面，本公开示例性实施例的方案中充分考虑到边缘计算服务器的强地域性等特性，将边缘计算服务器调度与内容分发服务器调度进行了解耦，两种调度机制互不干扰，增强了整体调度过程的兼容性，既有助于边缘计算业务的快速部署，又降低了互联网业务使用边缘计算业务的成本。

下面，在另一实施例中，对上述步骤进行更加详细的说明。

在步骤S210中，接收用户终端发送的业务请求，所述业务请求包含目标标识。

本示例实施方式中，所述业务请求可以是关于数据服务的请求，例如，请求获取数据、请求进行数据分析等；当然，所述业务请求也可以是如调用应用程序等其他请求，本示例性实施例中对此不做特殊限定。以请求获取数据为例，当用户需要通过用户终端获取数据时，可以在用户终端上进行输入操作，这样用户终端便可以根据用户的输入，经由基站向调度服务器发送包括包含有目标标识的数据获取请求。

上述目标标识通常包括业务请求的来源地址以及目的地址，如来源IP地址及来源端口号、目的IP地址及目的端口号等。此外，根据实际需求，所述目标标识还可以包括用户终端的地理位置标识以及用户终端的网络标识，如TAC(Tracking Area Code，跟踪区码)，eNodeB ID(4G基站标识)，gNB ID(5G基站标识)，Cell ID(蜂窝小区标识)等其他信息，且本示例性实施例中并不以此为限。

在步骤S220中，根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器。

由于边缘计算服务器具有较强的地域性；本示例实施方式中，可以首先确定用户终端所在地理区域是否存在边缘计算服务器，即确定该地理区域是否具有边缘计算能力。例如，参考图3所示，在步骤S310中，当所述目标标识包括所述业务请求的来源地址标识时，可以根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；进而在步骤S320中，可以判断用户终端所在地理区域是否存在边缘计算服务器；当所述用户终端所在地理区域不存在边缘计算服务器时，则可以确定没有能够处理所述业务请求的边缘计算服务器。下面，对上述步骤S310以及步骤S320进行详细说明；举例而言：

本示例实施方式中，可以预先建立边缘计算能力查询表，用于记录地理区域(如省份、自治区、直辖市等)及相应电信运营商是否提供边缘计算服务。一种示例性的边缘计算能力查询表形式如下表1所示，其中可以包含IP地址池、IP地址池中的IP地址对应的地理区域以及该地理区域是否具有边缘计算能力的标记。其中，IP地址池中可以包括多个IP地址区段或者单独的IP地址；IP地址池对应的地理区域可以精确到国家及省、自治区、直辖市级别，也可以进一步精确到地市、区县或者更细的颗粒度，本示例性实施例中对此不做特殊限定；边缘计算能力标记用于表征对应的地理区域是否存在边缘计算服务器，进而可能可为该地理区域的全部或部分用户提供边缘计算能力。此外，边缘计算能力查询表中还可以包括目的IP地址、对应运营商等其他信息，且本示例性实施例中并不以此为限。

表1

IP地址池	地理区域	运营商	边缘计算能力标记
				IP地址池1	广东	移动	具备
IP地址池2	广东	联通	具备
				IP地址池3	广东	电信	不具备
…	…	…	…

进而，在接收到业务请求时，可以查询所述业务请求的来源地址标识即如来源IP地址属于哪一IP地址池，进而根据该IP地址池对应的地理区域确定该用户终端所在地理区域；然后根据该地理区域对应的边缘计算能力标记确认该地理区域是否存在边缘计算服务器，即是否具有边缘计算能力；当标记为“不具备”时，则说明所述用户终端所在地理区域不存在边缘计算服务器，进而可以确定没有能够处理所述业务请求的边缘计算服务器，从而转入后续步骤S240。

参考图4所示，在确定所述用户终端所在地理区域具有边缘计算能力之后，可以通过下述步骤S410至步骤S430进一步确认有无能够处理所述业务请求的边缘计算服务器。其中：

在步骤S410中，获取标识与边缘计算服务器之间的映射关系。详细而言，本示例实施方式中，可以预先建立所述标识与边缘计算服务器之间的映射关系，在需要时即可直接调用预先建立的映射关系；其中，所述标识可以包括业务请求的来源地址标识、业务请求的目的地址标识、用户终端的地理位置标识以及用户终端的网络标识等标识中的一种或多种。举例而言：

可以预先建立业务请求的来源地址标识，例如来源IP地址以及来源端口号等，与边缘计算服务器之间的映射关系；如边缘计算服务器A1～An可以用于处理来源IP地址在区段125.88.0.0～125.88.80.255内且来源端口号在10000～20000范围的业务请求。也可以预先建立业务请求的目的地址标识，例如目的IP地址以及目的端口号等，与边缘计算服务器之间的映射关系；如边缘计算服务器B1～Bn可以用于处理目的IP地址为182.254.4.107且目的端口号在10000～10002范围的业务请求。也可以建立用户终端的地理位置标识，例如指定的地理区域等，与边缘计算服务器之间的映射关系；如边缘计算服务器C1～Cn可以用于处理以经度为X、纬度为Y的位置为中心，半径为R的地理区域内的用户终端发送的业务请求。还可以建立用户终端的网络标识，如TAC(Tracking Area Code，跟踪区码)，eNodeBID(4G基站标识)，gNB ID(5G基站标识)，Cell ID(蜂窝小区标识)等，与边缘计算服务器之间的映射关系；如边缘计算服务器D1～Dn可以用于处理eNodeB ID为6221E、Cell ID为60～70的业务请求。此外，在本公开的其他示例性实施例中，也可以建立其他标识与边缘计算服务器之间的映射关系，这同样属于本公开的保护范围。

在步骤S420中，基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器。例如，目标标识中包括的来源IP为125.88.71.5且来源端口号为14121，则可以选取边缘计算服务器A1～An作为候选边缘计算服务器。同时，目标标识中包括的eNodeB ID为6221E、Cell ID为66，则还可以同时选取边缘计算服务器D1～Dn作为候选边缘计算服务器。相反，如果根据获取的映射关系，判断不存在与所述目标标识匹配的边缘计算服务器，则可以确定没有能够处理所述业务请求的边缘计算服务器，从而转入后续步骤S240。

在步骤S430中，确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器。

本示例实施方式中，可以首先获取各所述候选边缘计算服务器的第一状态信息；然后根据各所述候选边缘计算服务器的所述第一状态信息，确定各所述候选边缘计算服务器是否能够处理所述业务请求。本示例实施方式中，所述第一状态信息可以包括负载率信息、时延信息以及历史命中信息等状态信息中的一种或多种。举例而言：

在上述步骤中，确定了边缘计算服务器A1～An以及D1～Dn为候选边缘计算服务器，在获取了边缘计算服务器A1～An以及D1～Dn的负载率信息之后，可以将其与负载率门限值进行比较，如果候选边缘计算服务器A1～Am-1的负载率超过了负载率门限值，则候选边缘计算服务器A1～Am-1一般将不会接入新的用户终端，进而无法处理所述业务请求；如果候选边缘计算服务器D1在预设时长内(如60秒、300秒等)曾被调度用于处理相同的业务请求，但未命中，即处理失败，则认为候选边缘计算服务器D1无法处理所述业务请求。如果候选边缘计算服务器D2在的时延信息，例如ping包时延高于时延门限值，则认为候选边缘计算服务器D2无法处理所述业务请求。这样，综合而言，仅有候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn能够处理所述业务请求；其余候选边缘计算服务器则无法处理所述业务请求。

此外，在通过步骤S430的判断之后，如果确认所有候选边缘计算服务器均无法处理所述业务请求，则可以确定没有能够处理所述业务请求的边缘计算服务器，从而转入后续步骤S240。

在步骤S230中，在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求。

本示例实施方式中，可以首先获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；然后根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求。其中，所述第二状态信息可以包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围等状态信息中的一种或多种。举例而言：

在通过上述步骤S430的判断之后，确定候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn能够处理所述业务请求，则可以是，获取候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn的负载率，并选取其中负载率较低的边缘计算服务器作为目标服务器。也可以是，获取候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn的内容存储量信息，并选取其中内容存储量较少的边缘计算服务器作为目标服务器。也可以是，获取候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn的覆盖范围，并根据用户终端所在地理区域从中选择目标服务器；如候选边缘计算服务器D5可覆盖区县级用户终端，而用户终端属于区县级用户终端，则可以将候选边缘计算服务器D5作为目标服务器。此外，还可以是，综合各种类型的第二状态信息来确定目标服务器；例如，综合与用户终端的距离远近、覆盖范围大小、内容存储量大小以及负载率高低等因素，对候选边缘计算服务器Am～An以及候选边缘计算服务器D3～Dn进行分级，并选择级别最高的候选边缘计算服务器作为目标服务器等。

在选择目标服务器之后，则可以通过目标服务器对业务请求进行处理，例如，返回业务请求请求获取的数据等。目标服务器对于业务请求的处理结果分为处理成功(即命中)以及处理失败(即未命中)。例如，如果目标服务器可以提供业务请求请求获取的服务，如存储有业务请求请求获取的数据等，则目标服务器可以成功处理该业务请求，即命中。相反，如果目标服务器无法提供业务请求请求获取的服务，如未存储业务请求请求获取的数据等，则会对该业务请求处理失败，即未命中。

然而，由于调度服务器在选择目标服务器时，并无法确定目标服务器对于业务请求的处理结果。因此，当所述目标服务器对所述业务请求处理失败时，需要提供回源策略。本示例实施方式中，提供了固定回源和动态回源两种回源方式；当然，在本公开的其他示例性实施例中，也可以采用其他回源策略，本示例性实施例中对此不做特殊限定。

以固定回源为例，本示例实施方式中在所述目标服务器对所述业务请求处理失败时，可以通过所述目标服务器指向的回源服务器处理所述业务请求。例如，目标服务器为边缘计算服务器Am，其指向的回源服务器为边缘计算服务器An；当边缘计算服务器Am对所述业务请求处理失败时，则可以通过边缘计算服务器An对所述业务请求进行处理。本示例实施方式中，是以回源服务器为边缘计算服务器为例进行说明，但回源服务器也可以为上述内容分发网络中的内容分发服务器，本示例性实施例中对此不做特殊限定。

此外，本示例实施方式中所述回源服务器还可以为多级结构，例如可以为分级树杈形式的架构。举例而言，最低级回源服务器(如边缘计算服务器Am)可以存储较少的资源；边缘计算服务器Am指向的上一级回源服务器(如边缘计算服务器D1)可以存储较多的资源；边缘计算服务器D1指向的上一级回源服务器(如边缘计算服务器Dn)可以存储更多的资源，以此类推。这样则可以在当前级别回源服务器对所述业务请求处理失败时，通过当前级别回源服务器的上一级回源服务器处理所述业务请求。本示例实施方式中所提供的多级结构的回源服务器层级分明且复杂度低，低层级的回源服务器可以部署较少的服务内容，以减少成本；高层级的回源服务器可以部署较多的服务内容，以提高命中率。

以动态回源为例，本示例实施方式中在所述目标服务器对所述业务请求处理失败时，可以对所述目标服务器的所述第一状态信息进行更新；进而根据更新后的所述第一状态信息，重新确定各所述候选边缘计算服务器是否能够处理所述业务请求。例如，目标服务器为边缘计算服务器Am，边缘计算服务器Am如果未存储有业务请求请求获取的数据等，则会对该业务请求处理失败，即未命中。此时，则可以据此对边缘计算服务器Am的第一状态信息中的历史命中信息进行更新。这样，在上述步骤S430中，则可以根据边缘计算服务器Am的历史命中信息确定其无法处理所述业务请求，从而仅确定候选边缘计算服务器Am+1～An以及候选边缘计算服务器D3～Dn能够处理所述业务请求；进而，可以调度这些能够处理所述业务请求候选边缘计算服务器处理所述业务请求。如果重新调度的候选边缘计算服务器仍对所述业务请求处理失败，则可以再次重复上述动态回源过程或者转入后续步骤S240；本示例性实施例中对此不做特殊限定。

需要说明的是，在上述示例性实施例中，是首先查询用户终端所在地理区域是否存在边缘计算服务器，即是否具有边缘计算能力；在确认用户终端所在地理区域存在边缘计算服务器之后，再确认是否存在候选边缘计算服务器。但在本公开的其他示例性实施例中，也可以根据所述业务请求中的目标标识直接确定是否存在候选边缘计算服务器，再从候选边缘计算服务器中选取能够处理所述业务请求的边缘计算服务器。这样则可以进一步减少判断流程，提高整体处理效率。

在步骤S240中，在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。

例如，在上述在步骤S310中，如果确定用户终端所在地理区域不具有边缘计算能力；或者，在上述步骤S420中，如果判断不存在与业务请求的目标标识匹配的边缘计算服务器；或者，在上述步骤S430中，如果确认所有候选边缘计算服务器均无法处理所述业务请求，则可以确定没有能够处理所述业务请求的边缘计算服务器，从而可以调度内容分发服务器处理所述业务请求。举例而言：

本示例实施方式中，可以首先获取所述目标标识中所述业务请求的来源地址标识，如来源IP地址等；然后根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；接着，根据所述用户终端所在地理区域以及各所述内容分发服务器的负载确定目标服务器，并通过所述目标服务器处理所述业务请求。例如，调度服务器可以获取各所述内容分发服务器的CPU占用以及带宽占用等负载信息，然后根据全局负载均衡算法，结合用户终端所在地理区域(如广东省)以及和端口号(如10005)等信息查询最近路径表，并将最近路径表返回的最优内容分发服务器作为目标服务器来处理所述业务请求。

此外，与边缘计算服务器类似，内容分发服务器对于业务请求的处理结果分为处理成功(即命中)以及处理失败(即未命中)；当所述目标服务器对所述业务请求处理失败时，则需要提供回源策略。本示例实施方式中，可以采用与上述示例性实施例中类似的回源策略，因此此处不再重复赘述。

下面结合具体场景对本示例实施方式中的服务器调度方法进行进一步的说明。

参考图5所示，在步骤S510中，接收用户的业务请求，该业务请求包括目标标识；该业务请求例如为数据获取请求，上述目标标识可以包括业务请求的来源地址、目的地址以及用户终端的网络标识等。

在步骤S520中，获取预先建立的边缘计算能力查询表，并根据业务请求的来源地址标识，在边缘计算能力查询表中查询用户终端所在地理区域是否具有边缘计算能力；当判断所述用户终端所在地理区域具有边缘计算能力时，则转至步骤S530；当判断所述用户终端所在地理区域不具有边缘计算能力时，则转至步骤S570。

在步骤S530中，尝试调度边缘计算服务器；具体调度过程可以参考图6所示的步骤S531至步骤S533。其中：

在步骤S531中，获取预先建立的网络标识与边缘计算服务器之间的映射关系，并基于所述目标标识中的网络标识以及所述映射关系，选取与所述目标标识中的网络标识匹配的边缘计算服务器作为候选边缘计算服务器；如果选取到候选边缘计算服务器即输出为非空，则转至步骤S532；如果未选取到候选边缘计算服务器即输出为空，则转至步骤S570。

在步骤S532中，获取各候选边缘计算服务器的负载率、历史命中信息等状态信息，并根据各候选边缘计算服务器的状态信息，确定各候选边缘计算服务器是否能够处理所述业务请求；如果有能够处理所述业务请求的候选边缘计算服务器即输出为非空，则转至步骤S533；如果所有候选边缘计算服务器均无法处理所述业务请求，则转至步骤S570。

在步骤S533中，获取能够处理所述业务请求的各边缘计算服务器的负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围等状态信息，并根据这些状态信息选取目标服务器，并转至步骤S540。

在步骤S540中，通过目标服务器对业务请求进行处理，如果命中，则转至步骤S550，使用户终端获取服务；如果未命中，则转至步骤S560进行回源；具体而言，如果是动态回源，则对目标服务器的历史命中信息进行更新，并转至步骤S532，重新进行边缘计算服务器调度；如果是固定回源，则将回源服务器作为目标服务器对业务请求进行处理。

在步骤S570中，调度内容分发服务器对业务请求进行处理。具体调度过程可以参考图7所示。其中，在步骤S571中，根据所述业务请求的来源地址标识以及全局负载均衡等算法，在内容分发网络中选择目标服务器。在步骤S572中，通过目标服务器对业务请求进行处理，如果命中，则转至步骤S550，使用户终端获取服务；如果未命中，则转至步骤S573进行回源；具体而言，如果是动态回源，则转至步骤S571，重新进行内容分发服务器调度；如果是固定回源，则将回源服务器作为目标服务器对业务请求进行处理。

应当注意，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

进一步的，本示例实施方式中，还提供了一种服务器调度装置。参考图8所示，该服务器调度装置800可以包括请求接收模块810、资源查询模块820、第一调度模块830以及第二调度模块840。其中：

请求接收模块810可以用于接收用户终端发送的业务请求，且所述业务请求包含目标标识；

资源查询模块820可以用于根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；

第一调度模块830可以用于在有能够处理所述业务请求的边缘计算服务器时，调度能够处理所述业务请求的边缘计算服务器处理所述业务请求；

第二调度模块840可以用于在没有能够处理所述业务请求的边缘计算服务器时，调度内容分发服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述资源查询模块820通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：获取标识与边缘计算服务器之间的映射关系；基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器；确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述装置还包括映射关系建立模块。其中：映射关系建立模块可以用于建立所述标识与边缘计算服务器之间的映射关系；其中，所述标识包括业务请求的来源地址标识、业务请求的目的地址标识、用户终端的地理位置标识以及用户终端的网络标识中的一种或多种。

在本公开的一种示例性实施例中，所述资源查询模块820通过下述步骤确定所述候选边缘计算服务器中有无能够处理所述业务请求的边缘计算服务器：获取各所述候选边缘计算服务器的第一状态信息；其中，所述第一状态信息包括负载率信息以及历史命中信息中的一种或多种；根据所述第一状态信息，确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，所述资源查询模块820通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：在不存在与所述目标标识匹配的边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；所述资源查询模块820通过下述步骤确定有无能够处理所述业务请求的边缘计算服务器：根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；在所述用户终端所在地理区域不存在边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

在本公开的一种示例性实施例中，所述第一调度模块830通过下述步骤调度能够处理所述业务请求的边缘计算服务器处理所述业务请求：获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；其中，所述第二状态信息包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围信息中的一种或多种；根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述装置还包括第一回源模块。其中：第一回源模块可以用于在所述目标服务器对所述业务请求处理失败时，通过所述目标服务器指向的回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为多级结构；所述第一回源模块利用下述步骤通过所述目标服务器指向的回源服务器处理所述业务请求：在当前级别回源服务器对所述业务请求处理失败时，通过当前级别回源服务器的上一级回源服务器处理所述业务请求。

在本公开的一种示例性实施例中，所述回源服务器为边缘计算服务器或者内容分发服务器。

在本公开的一种示例性实施例中，所述装置还包括第二回源模块。其中：第二回源模块可以用于在所述目标服务器对所述业务请求处理失败时，对所述目标服务器的所述第一状态信息进行更新，以便于根据更新后的所述第一状态信息重新确定各所述候选边缘计算服务器是否能够处理所述业务请求。

在本公开的一种示例性实施例中，所述目标标识包括所述业务请求的来源地址标识；所述第二调度模块840通过下述步骤调度内容分发服务器处理所述业务请求：根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；根据所述用户终端所在地理区域以及各所述内容分发服务器的负载确定目标服务器，并通过所述目标服务器处理所述业务请求。

上述服务器调度装置中各模块或单元的具体细节已经在对应的服务器调度方法中进行了详细的描述，因此此处不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

图9示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。需要说明的是，图9示出的电子设备的计算机系统900仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图9所示，计算机系统900包括中央处理单元(CPU)901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有系统操作所需的各种程序和数据。CPU901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

以下部件连接至I/O接口905：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

特别地，根据本公开的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时，执行本申请的方法和装置中限定的各种功能。在一些实施例中，计算机系统900还可以包括AI(ArtificialIntelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。

需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的方法。

应当理解的是，本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的范围仅由所附的权利要求来限制。

Claims (11)

1.一种服务器调度方法，其特征在于，包括：

接收用户终端发送的业务请求，所述业务请求包含目标标识；所述目标标识包括业务请求的来源地址标识；

获取标识与边缘计算服务器之间的映射关系；基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器；

获取各所述候选边缘计算服务器的第一状态信息；其中，所述第一状态信息包括负载率信息、时延信息以及历史命中信息中的一种或多种；

在根据所述第一状态信息确定有能够处理所述业务请求的边缘计算服务器时，获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；其中，所述第二状态信息包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围信息中的一种或多种；

根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求；

在根据所述目标标识确定没有能够处理所述业务请求的边缘计算服务器时，根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；根据所述用户终端所在地理区域以及各内容分发服务器的负载从所述内容分发服务器中确定目标服务器，并通过所述目标服务器处理所述业务请求。

2.根据权利要求1所述的服务器调度方法，其特征在于，所述方法还包括：

建立所述标识与边缘计算服务器之间的映射关系；

其中，所述标识包括业务请求的来源地址标识。

3.根据权利要求1所述的服务器调度方法，其特征在于，根据所述目标标识确定没有能够处理所述业务请求的边缘计算服务器，包括：

在不存在与所述目标标识匹配的边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

4.根据权利要求1所述的服务器调度方法，其特征在于，根据所述目标标识确定没有能够处理所述业务请求的边缘计算服务器，包括：

根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；

在所述用户终端所在地理区域不存在边缘计算服务器时，确定没有能够处理所述业务请求的边缘计算服务器。

5.根据权利要求1所述的服务器调度方法，其特征在于，所述方法还包括：

在所述目标服务器对所述业务请求处理失败时，通过所述目标服务器指向的回源服务器处理所述业务请求。

6.根据权利要求5所述的服务器调度方法，其特征在于，所述回源服务器为多级结构；通过所述目标服务器指向的回源服务器处理所述业务请求，包括：

在当前级别回源服务器对所述业务请求处理失败时，通过当前级别回源服务器的上一级回源服务器处理所述业务请求。

7.根据权利要求6所述的服务器调度方法，其特征在于，所述回源服务器为边缘计算服务器或者内容分发服务器。

8.根据权利要求5所述的服务器调度方法，其特征在于，所述方法还包括：

在所述目标服务器对所述业务请求处理失败时，对所述目标服务器的所述第一状态信息进行更新；

根据更新后的所述第一状态信息，重新确定各所述候选边缘计算服务器是否能够处理所述业务请求。

9.一种服务器调度装置，其特征在于，包括：

请求接收模块，用于接收用户终端发送的业务请求，且所述业务请求包含目标标识；所述目标标识包括业务请求的来源地址标识；

资源查询模块，用于根据所述目标标识确定有无能够处理所述业务请求的边缘计算服务器；

第一调度模块，用于获取标识与边缘计算服务器之间的映射关系；基于所述目标标识以及所述映射关系，选取与所述目标标识匹配的边缘计算服务器作为候选边缘计算服务器；获取各所述候选边缘计算服务器的第一状态信息；其中，所述第一状态信息包括负载率信息、时延信息以及历史命中信息中的一种或多种；在根据所述第一状态信息确定有能够处理所述业务请求的边缘计算服务器时，获取能够处理所述业务请求的各边缘计算服务器的第二状态信息；其中，所述第二状态信息包括负载率信息、内容存储量信息、与用户终端距离信息以及覆盖范围信息中的一种或多种；根据所述第二状态信息，从能够处理所述业务请求的边缘计算服务器中选取目标服务器，并通过所述目标服务器处理所述业务请求；

第二调度模块，用于在根据所述目标标识确定没有能够处理所述业务请求的边缘计算服务器时，根据所述业务请求的来源地址标识确定所述用户终端所在地理区域；根据所述用户终端所在地理区域以及各内容分发服务器的负载从所述内容分发服务器中确定目标服务器，并通过所述目标服务器处理所述业务请求。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-8任一项所述的方法。

11.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1-8任一项所述的方法。

Images