CN114553713A - 用于移动应用的智能动态通信移交 - Google Patents

Abstract

在网络中的边缘设备上预测性地部署微服务。在客户端设备上运行应用，该应用包括可在两个或更多个边缘设备的集合中的任何边缘设备上运行的微服务的集合。确定客户端设备在第一时间的状态，该状态包括当前正为客户端设备运行的一个或多个微服务，以及对于当前正运行的每个微服务，运行该微服务的边缘设备。预测可能在第一时间之后的第二时间运行的一个或多个微服务以及客户端设备在第二时间的位置。基于所预测的位置，确定边缘设备的集合中的用于运行被预测为在第二时间运行的一个或多个微服务的下一边缘设备。

Description

用于移动应用的智能动态通信移交

技术领域

实施例一般涉及无线通信，并且更具体地涉及用于将软件微服务预测性地部署到边缘节点(或边缘设备)以实现无线网络中的快速通信移交的方法。

背景技术

无线联网系统已经成为与世界范围内的其他人通信并参与内容的普遍手段。诸如小区(cell)电话、平板计算机等的无线通信设备已经变得更小且功能更强大，以便满足消费者需求并提高便携性和便利性。消费者已经变得依赖于这些设备，要求可靠的服务、扩展的覆盖区域、附加服务(例如，web浏览能力)以及这些设备的尺寸和成本的持续降低。

对于普遍存在的无线网络的最具挑战性的要求之一是无论何时何地允许移动性而不损失服务质量和连接性的能力。这种移动性支持允许具有不同移动性简档的用户在继续访问各种移动应用的同时穿越不同的地理区域。支持移动性管理的中心组件是切换机制。在小区电信中，术语切换(handover)或移交(handoff)是指将正在进行的呼叫或数据会话从连接到核心网络的一个信道转移到另一个信道的过程。在卫星通信中，它是将卫星控制责任从一个地球站转移到另一个地球站而不丢失或中断服务的过程。当满足某些预编程条件时，切换机制允许用户改变移动网络内的物理连接点。例如，如果来自服务于用户的当前基站的接收信号功率在特定阈值以下，并且同时，附近的另一基站的接收的信号功率在特定阈值以上，则可以由网络基础设施中与用户设备相呼应的设备做出改变附着点(即，基站)的决定。

全球移动网络基础设施正在过渡到称为5G或第五代技术。与当前网络场景相比，未来的5G网络场景将复杂得多。对这种增加的网络复杂性的贡献将是用户和设备对高质量数据的增长需求，预计其数量也呈指数增长。还将存在技术上不同的应用，例如虚拟现实(VR)、增强现实(AR)、游戏、消息传送、视频回放，这些应用远远超出了当今通常使用的传统“语音和数据”应用。将存在各种无线电接入技术，即5G新无线电、LTE、3G、2G、Wi-Fi和广泛的移动性简档，包括例如高速列车、飞机、汽车或步行上的用户。所有这些因素进一步加剧了5G网络的复杂性，更不用说新的频谱带的添加，新的频谱带例如为毫米波频率，其将被利用并且表现得与早期移动网络代的传统频谱带非常不同。

在这样的环境中，用于通信移交的现有静态技术可能与工作负载变化相斗争，导致计算和连接性的连续性的损失-并且最终导致差的用户体验。例如，在当前移动网络的场景下，网络有相当多的时间来触发、准备、执行和完成切换。然而，对于未来的网络来说，这是不现实的，其中接入点的密度将是高的，即，具有较小覆盖区域和较高带宽的接入点将在给定区域中被更紧密地封装。此外，将存在具有相当大覆盖区域的宏小区以辅助小小区。如果使用如上所述的当前切换机制，则完成切换的时间可能比用户可能出现在期望的基站处而条件仍然有利于建立链路的时间大得多。如果可用于执行资源分配和协商过程的时间较短，则连接性的丢失对于已建立的切换机制来说是较高的风险，并且这可能导致较差的网络性能。由于小区密集以及也存在不同的无线接入技术(即，4G LTE和诸如Wi-Fi的较旧技术之间潜在的许多移交)所导致的故障，切换信令开销在网络性能的背景下也将是至关重要的。因此，优化切换过程，其中减少了延迟和信令开销，将是未来切换管理策略的极其重要的组成部分。

例如，考虑AR游戏应用的场景，其要求玩家在游戏内虚拟地参与战斗的同时在配备有AR标记的大的物理区域上从一个位置移动到另一个位置。当玩家从一个物理位置快速移动到另一个物理位置时，无论服务器是在中央位置(也称为“云”)还是更靠近网络边缘的用户，玩家与游戏服务器的通信都需要经由从一个网络中继器到另一个网络中继器的快速移交来启用。如上所述，现有的切换机制可能太慢而不能处理玩家移动的动态特性以及对高带宽和高计算资源的相应需要。

5G无线网络还使其自身适合于所谓的边缘计算模型。边缘计算是分布式计算框架，其中信息处理位于网络边缘附近，网络边缘是事物和人们产生或消费该信息的地方。边缘计算使计算和数据存储更靠近它被收集的设备，而不是依赖于可能在数千英里之外的中央位置，从而导致更分散的环境，正如以上针对5G无线网络所描述的。

边缘计算的发展因为支持互联网的设备而呈指数级增长，这些设备诸如如自动驾驶汽车或诸如安全相机或恒温器的家庭内的日常设备，或者在商业环境中的生产线上的自动化设备。这些设备现在使用网络从云接收信息或将数据传送回云。这些“边缘设备”中的许多在其操作过程期间生成大量的数据。作为示例，考虑监视工厂车间上的制造装备的设备，或者从远程办公室发送实况镜头的因特网连接的摄像机。虽然产生数据的单个设备可以相当容易地通过网络传输数据，但是当同时传输数据的设备的数量增加时，问题出现了。代替一个摄像机传输实况镜头，成百上千的设备可能正在发送或接收数据，从而由于延迟和巨大的带宽成本而导致潜在的质量损失。

边缘计算硬件和服务通过成为许多这些系统的处理和存储的本地源来帮助解决这个问题。例如，边缘服务器可处理来自边缘设备的数据，然后仅通过云发送回相关数据，从而减少带宽需求，或者它可在实时应用需求的情况下将数据发送回边缘设备。这些边缘设备可以包括许多不同的东西，诸如智能恒温器、雇员的笔记本计算机、他们最新的智能电话、安全相机或者甚至办公休息室中的连接互联网的微波炉。边缘服务器本身以及甚至安装在5G网络中的网络中继器，例如，小区塔、微小区和Wi-Fi接入点，可以被认为是边缘计算基础设施内的边缘设备。

与5G无线基础设施和边缘计算模型合作，近年来变得流行的被称为“微服务架构”的软件开发方法也适用于这种分散的环境。“微服务架构”是指将软件应用设计为多组可独立部署的微服务的特定方式。这些微服务在其自己的进程中运行，并且通过网络彼此通信，以使用诸如具有最低限度的集中式管理的超文本传输协议(HTTP)的技术不可知的和轻量级的协议来共同实现目标。微服务可以使用不同的编程语言、数据库、或硬件和软件环境来实现，这取决于什么最适合特定的微服务。微服务可以是小尺寸的、消息传送启用的、自主开发的、可独立部署的、以及用自动化过程构建和发布的。由于这些特性，微服务架构被用于云本机应用、无服务器计算和使用轻量级容器部署的应用是常见的，这正是在5G无线和边缘计算环境中普遍的条件。

发明内容

实施例针对一种用于在网络中的边缘设备上预测性地部署微服务的计算机实现的方法。该方法可以包括在客户端设备上运行应用，该应用包括可在两个或更多个边缘设备的集合中的任何边缘设备上运行的微服务的集合。

该方法还可以包括确定客户端设备在第一时间的状态，其中该状态包括当前正为客户端设备运行的一个或多个微服务，以及对于当前正运行的每个微服务，运行微服务的边缘设备。第一客户端设备的所确定的状态可以被发送到两个或更多个边缘设备的集合中的至少一个边缘设备。

另外，该方法可以包括预测可能在第一时间之后的第二时间运行的一个或多个微服务。这可以包括对于当前正在为客户端设备运行的一个或多个微服务中的每一个，确定当当前正在运行的相应微服务结束时客户端设备请求当前未为客户端设备运行的微服务的概率，并且按照所确定的概率的顺序对微服务进行排名。机器学习模型可以用于确定当当前正在运行的微服务结束时客户端设备将请求当前未为客户端设备运行的微服务的概率。

该方法还可以包括预测客户端设备在第二时间的位置。可以确定客户端设备的移动的方向和速度，并且可以基于所确定的客户端设备的移动的方向和速度来预测客户端设备在第二时间的位置。

该方法还可包括基于所预测的位置来确定边缘设备的集合中的用于运行被预测为将在第二时间运行的一个或多个微服务的下一边缘设备。可以通过以下步骤来评估第一边缘设备作为候选下一边缘设备：确定第一边缘设备的计算能力、确定第一边缘设备的工作负载、如果所预测的可能要运行的一个或多个微服务在第二时间在第一边缘设备上运行则预测操作服务的水平、以及如果操作服务的水平处于操作服务的阈值水平或在操作服务的阈值水平以上则选择第一边缘设备作为下一边缘设备。在实施例中，如果操作服务的水平在操作服务的阈值水平以下，则第一边缘设备可以不被选择为下一边缘设备，并且可以评估第二边缘设备作为候选下一边缘设备。

最后，该方法可以包括确定部署被预测为在第二时间在所确定的下一边缘设备上运行的一个或多个微服务所需的时间，以及在第三时间在所确定的下一边缘设备上发起对被预测为在下一边缘设备上运行的一个或多个微服务的部署，第三时间在第二时间之前，其中第三时间是基于所确定的部署被预测为在所确定的下一边缘设备上运行的一个或多个微服务所需的时间来确定的。还可以确定所确定的下一边缘设备的计算能力和工作负载。

除了计算机实现的方法之外，附加实施例涉及一种用于在网络中的边缘设备上预测性地部署微服务的系统和计算机程序产品。

提供本概述以便以简化的形式介绍将在以下详细描述中进一步描述的一些概念。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于帮助确定所要求保护的主题的范围。

附图说明

图1是其中可以实现各种实施例的示例计算机系统的框图。

图2描绘根据实施例的示例微服务交互图。

图3描绘根据实施例的客户端设备在边缘设备之间行进的示例移动无线网络。

图4是根据一个或多个实施例的移动无线网络架构中的微服务预测过程的流程图。

图5示出用于确定在移动无线网络中接下来需要微服务的可能性的微服务预测模块的输入和机器学习模型的框图。

图6示出根据本发明的实施例的云计算环境。

图7示出根据本发明实施例的抽象模型层。

具体实施方式

在示例无线环境中，可以存在将由网络基础设施(中继器和服务器)支持的多个软件应用，其中每个应用包括微服务的集合。在这种场景下，重要的是在需要微服务处理来自用户的数据时，使微服务被部署并准备好在适当的边缘设备(在这种情况下，网络中继器)上运行。边缘设备具有有限的计算能力，因此在所有边缘设备处部署和运行应用的所有微服务是不可行的。为了满足由网络服务的所有用户的需要，标识哪些微服务被部署在哪些边缘设备上以及在什么时间被部署是有帮助的。在边缘设备上部署微服务需要一些时间，并且在确定微服务何时需要准备好时必须考虑该时间。需要确定在给定具有计算和带宽容量的多个网络中继器或边缘设备的情况下，在特定边缘设备处接下来可能需要特定微服务的概率。

现在参考图1，示出了说明在实施例中可以嵌入在边缘服务器中的计算机系统100的框图。在另一个实施例中，计算机系统100可以嵌入在诸如小区塔或5G微小区的网络中继器中。在又一实施例中，计算机系统100可以嵌入在客户端设备或移动客户端设备中，其示例包括：移动电话、智能电话、平板电脑、膝上型计算机、嵌入在车辆中的计算设备、可穿戴计算设备、虚拟或增强现实眼镜或头戴式耳机等。如图所示，计算机系统100包括处理器单元102、存储器单元104、永久性存储装置106、通信单元112、输入/输出单元114、显示器116和系统总线110。诸如微服务预测模块120的计算机程序可以存储在永久性存储装置106中，直到需要执行它们为止，此时，程序被带入存储器单元104，以便它们可以由处理器单元102直接访问。处理器单元102通过使用处理器102连同读取和/或写入请求一起给予存储器104的地址来选择存储器单元104的一部分以进行读取和/或写入。通常，在地址处对编码指令的读取和解释使得处理器102获取在随后地址或一些其它地址处的随后指令。处理器单元102、存储器单元104、永久性存储装置106、通信单元112、输入/输出单元114和显示器116通过系统总线110彼此接口。

参考图2，示出了描绘示例微服务交互的图，其将结合图4被用作阐明过程的示例。在该示例中，示例应用的微服务202-222可以初始地以特定顺序运行，但是在初始时段之后，不同的微服务可以基于用户的动作在不同的点处被触发，因此对于微服务如何被触发不存在唯一的顺序。微服务预测模块120可以预测在时间T在给定边缘设备D处最有可能需要哪个(些)微服务，并且可以开始部署这样的微服务的动作，以便在需要时准备好执行。

参考图3，描绘了示例移动无线网络。客户端设备310被示出在范围306内，并且在沿方向320移动到下一边缘设备304的范围308中的同时与当前边缘设备302通信。虽然移动电话在图3中被描绘为客户端设备的示例，但是应当理解，客户端设备310可以是任何移动设备，诸如移动电话、智能电话、平板电脑、膝上型计算机、嵌入在车辆中的计算设备、可穿戴计算设备、虚拟或增强现实眼镜或头戴式耳机。另外，虽然边缘节点302、304被描绘为小区塔，但是应当理解，诸如具有集装箱化娱乐系统的车辆的车辆可以是边缘节点。当客户机设备310移出当前边缘设备302的范围306并进入下一边缘设备304的范围308时，当前边缘设备302将把通信移交到下一边缘设备304。当前边缘设备302和下一边缘设备304被称为“相邻”边缘设备。在该示例中，由微服务预测模块120计算的接下来可能需要的微服务可以在切换之前部署在下一边缘设备304上。本领域技术人员应当理解，为了简化说明，图3仅示出了一个当前边缘设备、一个下一边缘设备和在单个方向上移动的单个客户端设备，但是实际上，单个边缘设备可以同时服务在多于一个方向上移动的若干客户端设备，并且单个当前边缘设备可以具有将充当下一边缘设备的多个相邻边缘设备。

参考图4，描绘了用于部署所需微服务的预测过程的流程图400。在各种实施例中，该过程的一些或所有操作可以由边缘服务器或边缘设备执行。在其它实施例中，该过程的一些或所有操作可以由移动网络中继器执行。

在402处，微服务预测模块120可以确定每个客户端设备(i)的状态(ST)并将其分发(或发送)到所有边缘设备(D)，其中该状态捕获客户端设备当前连接到哪个边缘设备以及客户端设备当前例如在第一时间运行哪个(些)微服务。参考图2的示例中所示的微服务，并且给定N个客户端设备，客户端设备i＝1的状态是ST1＝{D1,202}，这指示客户端设备1当前连接到边缘设备D1并且当前运行微服务202(其可以是作为示例的认证微服务)。客户端设备i＝2的状态是ST2＝{D4,202}，其指示客户端设备2当前连接到设备D4并且当前正在运行微服务202。应当注意，为了简单起见，该示例参考每个用户状态一个微服务，但是相同的边缘设备可以针对每个状态的单个客户端设备运行多个微服务，例如ST3＝{D1,206,216}。另外，单个边缘设备可以同时为两个或更多个客户端设备运行相同的微服务，例如ST1＝{D1,202|以及ST5＝{D1,202}。

在404处，微服务预测模块120可以从相邻边缘设备收集它们正在服务哪些客户端设备。结果将是客户端设备及其对应状态的列表。例如，边缘设备Dj的客户端设备列表可以是{U1,U4,U8,U9,…}，并且边缘设备Dj上的这些客户端设备的对应状态可以是{ST1,ST4,ST8,ST9,…}。从在相邻边缘设备处服务的客户端设备及其状态的这些列表，微服务预测模块120可以提取当前例如第一时间正在运行的微服务。例如，如果客户端设备1的状态指示微服务206并且客户端设备2的状态指示微服务204，则在该边缘设备上运行的微服务的列表包括204、206等。在边缘设备Dj上运行的微服务的样本列表可以是{204,206,210,206,204,214,…}。应当注意，相同的微服务可以出现多次，即，如果不同的客户端设备由运行相同微服务的相邻设备服务。

在406处，微服务预测模块120可以基于当前正在运行的微服务的列表来标识(或预测)可能接下来运行的微服务。初始地，这可以基于固定的配置设置，但是随后并且随着时间的推移，可以根据实际执行来细化预测，如下面在410中所描述的。作为示例，当前运行的微服务的列表可以包括204(对应于当前使用204的3个客户端设备)的3次出现(或实例)、206的1次出现和214的5次出现。在这种情况下，微服务预测模块120可以确定下一最有可能的微服务是222和204，每个具有概率p＝(5/9)*(1/2)，其中5/9基于214的出现次数，而1/2是基于图2的示例，其中初始假设是222或204将以相等的概率在214之后运行。同样，在该最有可能接下来运行的微服务的列表中，可以是具有概率p＝(3/9)*1的206，其中3/9基于204的出现次数并且1基于图2的示例，其中204之后仅运行206，并且具有概率p＝(1/9)*1的208，其中1/9基于206的出现次数并且1是基于图2的示例，其中206之后仅运行208。

除了在步骤406预测接下来要运行的可能微服务之外，微服务预测模块120还可以通过确定客户端设备(或客户端设备的用户所位于的车辆)的移动的方向和速度来预测客户端设备的可能位置，以便选择合适的下一边缘设备304。微服务预测模块120还基于客户端设备的移动方向和速度来预测客户端设备310被预测为在合适的下一边缘设备304的通信范围(或移交范围)内的时间。因此，微服务预测模块120可以预测可能在第一时间之后的第二时间运行的一个或多个微服务以及客户端设备在第二时间的位置。此外，微服务预测模块120可以基于所预测的位置确定边缘设备的集合中的下一边缘设备，以运行预测将在第二时间运行的微服务，并且可以确定部署被预测为将在第二时间在所确定的下一边缘设备上运行的微服务所需的时间。

在408处，微服务预测模块120可以根据先前步骤的预测并且与在该步骤处计算的边缘设备的潜在计算或存储器或带宽限制一致地在下一边缘设备304上部署微服务。每个下一边缘设备304可以计算加载每个单独的微服务所需的启动(start-up)时间，这可能因边缘设备而异，因为边缘设备在硬件和软件以及工作负载方面可能是异构的。例如，特定微服务在小区塔上加载所需的时间可能与5G微小区的时间非常不同。不同的边缘设备可以具有不同类型和数量的处理器、不同数量和类型的存储器、以及不同类型和版本的软件。此外，特定微服务在特定时间在特定边缘设备上的启动时间可以取决于在该时间当前在边缘设备上执行的其他处理的量。启动时间还取决于特定微服务的属性，诸如所需代码和库的大小。启动时间的计算可以考虑这些因素中的一些或全部。可以计算诸如以下内容的表：

一旦微服务预测模块120已经计算出启动时间，它可以在适当的时间发起微服务的部署，使得微服务及时可用于通信会话从当前边缘设备302到下一边缘设备304的潜在切换。因此，可以在第三时间在下一边缘设备上发起被预测为要运行的微服务的部署(第三时间在第二时间之前，并且基于部署被预测为要在下一边缘设备上运行的微服务所需的时间来确定)。在以上示例中，微服务204在边缘设备D1上具有40msec的启动时间，因此如果微服务204被预测为接下来需要并且下一边缘设备304被确定为边缘设备D1，则微服务预测模块120必须在客户端设备310到达下一边缘设备304(在该示例中也是边缘设备D1)之前至少40msec发起在边缘设备D1上部署微服务204。如上所述，在406处可以确定预测客户端设备310到达或处于下一边缘设备304的移交范围内的时间。

另外，如果确定下一边缘设备304能够部署10个微服务，则下一边缘设备304将部署最可能需要的10个微服务。在图2的示例环境中，系统将部署222的3个实例和204的3个实例以服务当前使用214的5个客户端设备，部署206的3个实例以服务当前使用204的客户端设备，并且部署208的一个实例以服务当前使用206的客户端设备。本领域技术人员应当理解，为了说明的简单起见，该示例假设微服务的实例与用户之间的一对一相关，但是实际上，微服务的一个实例可以服务于大量用户。在另一实施例中，可添加可选步骤以处理当设备仅可支持不足以服务连接到设备的所有用户的需求的多个微服务时的情况。例如，预测可以确定边缘设备需要部署15个微服务，因为它们最可能被所有客户端设备需要，但是边缘设备仅具有10个的能力(capacity)，在这种情况下，剩余的5个微服务可以被分派到能够支持客户端设备的其他相邻边缘设备，并且可以提出优先化或分配方案以在该场景中处理微服务。在该备选方案中，启动时间和预测客户端设备310到达或处于相邻边缘设备304的移交范围内的时间可以如上所述确定。

在410处，微服务预测模块120可以收集关于连接到下一边缘设备304的客户端设备和在下一边缘设备上运行的微服务的历史数据，并且利用监督机器学习模型来开发接下来要运行的最可能的微服务的简档，并且细化其预测，如图5中进一步描述的。

参考图5，示出了根据至少一个实施例的微服务预测过程的组件或模块的示例的图。根据一个实施例，该过程可以包括微服务预测模块120，其利用监督机器学习520来确定接下来需要微服务的可能性。监督机器学习模型可以使用适当的机器学习算法，例如支持向量机(SVM)或随机森林。微服务预测模块120如410中所述监视微服务的实际执行，并且跟踪客户端设备信息502，即来自相邻边缘设备的当前连接的客户端设备的列表和当前连接到下一边缘设备404的客户端设备的列表，并且还可以分析当前状态信息504，即在402中由所有边缘设备接收的状态。微服务预测模块120可以使用上述信息来确定接下来将需要微服务的执行的可能性510，并且更新在上述步骤210中初始地从配置文件确定的概率。例如，可以发现用户在214之后80％的时间选择222(与配置文件中的50％概率相比)，并且微服务预测模块120可以针对该变化进行调整，并针对需要运行的下一微服务更新其预测或可能性的概率。

应当理解，尽管本公开包括关于云计算的详细描述，但是本文所陈述的教导的实现不限于云计算环境。相反，本发明的实施例能够结合现在已知或以后开发的任何其它类型的计算环境来实现。

云计算是一种服务递送模型，用于实现对可配置计算资源(例如，网络、网络带宽、服务器、处理、存储器、存储装置、应用、虚拟机和服务)的共享池的方便的按需网络访问，所述可配置计算资源可以以最小的管理努力或与服务的提供者的交互来快速供应和释放。该云模型可以包括至少五个特性、至少三个服务模型和至少四个部署模型。

特征如下：

按需自助：云消费者可以单方面地自动地根据需要提供计算能力，诸如服务器时间和网络存储，而不需要与服务的提供者进行人工交互。

广域网接入：能力在网络上可用，并且通过促进由异构的薄或厚客户端平台(例如，移动电话、膝上型计算机和PDA)使用的标准机制来访问。

资源池化：供应商的计算资源被集中以使用多租户模型来服务多个消费者，其中不同的物理和虚拟资源根据需求被动态地分配和重新分配。存在位置无关的意义，因为消费者通常不控制或不知道所提供的资源的确切位置，但是能够在较高抽象级别(例如国家、州或数据中心)指定位置。

快速弹性：在一些情况下，可以快速且弹性地提供快速向外扩展的能力和快速向内扩展的能力。对于消费者，可用于提供的能力通常看起来不受限制，并且可以在任何时间以任何数量购买。

测量服务：云系统通过利用在适合于服务类型(例如，存储、处理、带宽和活动用户账户)的某一抽象级别的计量能力来自动地控制和优化资源使用。可以监视、控制和报告资源使用，从而为所利用服务的提供者和消费者两者提供透明性。

服务模型如下：

软件即服务(SaaS)：提供给消费者的能力是使用在云基础设施上运行的提供者的应用。应用程序可通过诸如web浏览器(例如，基于web的电子邮件)等瘦客户机界面从各种客户机设备访问。消费者不管理或控制包括网络、服务器、操作系统、存储、或甚至个别应用能力的底层云基础结构，可能的例外是有限的用户专用应用配置设置。

平台即服务(PaaS)：提供给消费者的能力是将消费者创建或获取的应用部署到云基础设施上，该消费者创建或获取的应用是使用由提供商支持的编程语言和工具创建的。消费者不管理或控制包括网络、服务器、操作系统或存储的底层云基础设施，但具有对部署的应用和可能的应用托管环境配置的控制。

基础设施即服务(IaaS)：提供给消费者的能力是提供处理、存储、网络和消费者能够部署和运行任意软件的其它基本计算资源，所述软件可以包括操作系统和应用。消费者不管理或控制底层云基础设施，但具有对操作系统、存储、部署的应用的控制，以及可能对选择的联网组件(例如，主机防火墙)的有限控制。

部署模型如下：

私有云：云基础设施仅为组织操作。它可以由组织或第三方管理，并且可以存在于建筑物内或建筑物外。

社区云：云基础设施由若干组织共享，并且支持具有共享关注(例如，任务、安全要求、策略和合规性考虑)的特定社区。它可以由组织或第三方管理，并且可以存在于场所内或场所外。

公有云：云基础设施可用于一般公众或大型工业群体，并且由销售云服务的组织拥有。

混合云：云基础设施是两个或更多云(私有、共同体或公共)的组合，所述云保持唯一实体，但是通过使数据和应用能够移植的标准化或私有技术(例如，用于云之间的负载平衡的云突发)绑定在一起。

云计算环境是面向服务的，其焦点在于无状态、低耦合、模块性和语义互操作性。在云计算的核心是包括互连节点的网络的基础设施。

现在参考图6，描绘了说明性云计算环境50。如图所示，云计算环境50包括云消费者使用的本地计算设备可以与其通信的一个或多个云计算节点10，所述本地计算设备诸如例如个人数字助理(PDA)或小区电话54A、台式计算机54B、膝上型计算机54C和/或汽车计算机系统54N。节点10可以彼此通信。它们可以被物理地或虚拟地分组(未示出)在一个或多个网络中，诸如如上文描述的私有云、社区云、公共云或混合云或其组合。这允许云计算环境50提供基础设施、平台和/或软件作为服务，云消费者不需要为其维护本地计算设备上的资源。应当理解，图6中所示的计算设备54A-N的类型仅旨在说明，并且计算节点10和云计算环境50可以通过任何类型的网络和/或网络可寻址连接(例如，使用web浏览器)与任何类型的计算机化设备通信。

现在参考图7，示出了由云计算环境50(图6)提供的功能抽象层的集合。应当预先理解，图7中所示的组件、层和功能仅旨在说明，并且本发明的实施例不限于此。如所描绘的，提供了以下层和相应的功能：

硬件和软件层60包括硬件和软件组件。硬件组件的示例包括：主机61；基于RISC(精简指令集计算机)架构的服务器62；服务器63；刀片服务器64；存储设备65；以及网络和联网组件66，诸如负载均衡器。在一些实施例中，软件组件包括网络应用服务器软件67和数据库软件68。

虚拟化层70提供抽象层，从该抽象层可以提供虚拟实体的以下示例：虚拟服务器71；虚拟存储装置72；虚拟网络73，包括虚拟专用网络；虚拟应用和操作系统74；以及虚拟客户机75。

在一个示例中，管理层80可以提供以下描述的功能。资源供应81提供用于在云计算环境内执行任务的计算资源和其它资源的动态采购。计量和定价82提供了在云计算环境中利用资源时的成本跟踪，以及用于消耗这些资源的开帐单或发票。在一个示例中，这些资源可以包括应用软件许可证。安全性为云消费者和任务提供身份验证，以及为数据和其他资源提供保护。用户门户83为消费者和系统管理员提供对云计算环境的访问。服务级别管理84提供云计算资源分配和管理，使得满足所需的服务级别。服务水平协议(SLA)规划和履行85提供对云计算资源的预安排和采购，其中根据SLA预期未来需求。

工作负载层90提供了可以利用云计算环境的功能的示例。可以从该层提供的工作负载和功能的示例包括映射和导航91；软件开发和生命周期管理92；虚拟教室教育传送93；数据分析处理94；交易处理95；以及诸如微服务预测模块120的其它应用96。

本发明可以是任何可能的技术细节集成水平的系统、方法和/或计算机程序产品。计算机程序产品可以包括其上具有计算机可读程序指令的计算机可读存储介质(或多个介质)，所述计算机可读程序指令用于使处理器执行本发明的各方面。

计算机可读存储介质可以是能够保留和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质可以是例如但不限于电子存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或前述的任何合适的组合。计算机可读存储介质的更具体示例的非穷举列表包括以下：便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式光盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、诸如上面记录有指令的打孔卡或凹槽中的凸起结构的机械编码装置，以及上述的任何适当组合。如本文所使用的计算机可读存储介质不应被解释为暂时性信号本身，诸如无线电波或其他自由传播的电磁波、通过波导或其他传输介质传播的电磁波(例如，通过光纤线缆的光脉冲)、或通过导线传输的电信号。

本文描述的计算机可读程序指令可以从计算机可读存储介质下载到相应的计算/处理设备，或者经由网络，例如因特网、局域网、广域网和/或无线网络，下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光传输光纤、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或网络接口从网络接收计算机可读程序指令，并转发计算机可读程序指令以存储在相应计算/处理设备内的计算机可读存储介质中。

用于执行本发明的操作的计算机可读程序指令可以是汇编指令、指令集架构(ISA)指令、机器相关指令、微代码、固件指令、状态设置数据、集成电路的配置数据，或者以一种或多种编程语言(包括面向对象的编程语言，例如Smalltalk、C++等)和过程编程语言(例如“C”编程语言或类似的编程语言)的任意组合编写的源代码或目标代码。计算机可读程序指令可以完全在用户的计算机上执行，部分在用户的计算机上执行，作为独立的软件包执行，部分在用户的计算机上并且部分在远程计算机上执行，或者完全在远程计算机或服务器上执行。在后一种情况下，远程计算机可以通过任何类型的网络连接到用户的计算机，包括局域网(LAN)或广域网(WAN)，或者可以连接到外部计算机(例如，使用因特网服务提供商通过因特网)。在一些实施例中，为了执行本发明的各方面，包括例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)的电子电路可以通过利用计算机可读程序指令的状态信息来执行计算机可读程序指令以使电子电路个性化。

在此参考根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述本发明的各方面。将理解，流程图和/或框图的每个框以及流程图和/或框图中的框的组合可以由计算机可读程序指令来实现。

这些计算机可读程序指令可以被提供给计算机或其他可编程数据处理装置的处理器以产生机器，使得经由计算机或其他可编程数据处理装置的处理器执行的指令创建用于实现流程图和/或框图的一个或多个框中指定的功能/动作的装置。这些计算机可读程序指令还可以存储在计算机可读存储介质中，其可以引导计算机、可编程数据处理装置和/或其他设备以特定方式工作，使得其中存储有指令的计算机可读存储介质包括制品，该制品包括实现流程图和/或框图的一个或多个框中指定的功能/动作的各方面的指令。

计算机可读程序指令还可以被加载到计算机、其他可编程数据处理装置或其他设备上，以使得在计算机、其他可编程装置或其他设备上执行一系列操作步骤，以产生计算机实现的过程，使得在计算机、其他可编程装置或其他设备上执行的指令实现流程图和/或框图的一个或多个框中指定的功能/动作。

附图中的流程图和框图示出了根据本发明的各种实施例的系统、方法和计算机程序产品的可能实现的架构、功能和操作。在这点上，流程图或框图中的每个框可以表示指令的模块、段或部分，其包括用于实现指定的逻辑功能的一个或多个可执行指令。在一些替代实施方案中，框中所注明的功能可不按图中所注明的次序发生。例如，连续示出的两个框实际上可以作为一个步骤来实现，同时、基本同时、以部分或全部时间重叠的方式执行，或者这些框有时可以以相反的顺序执行，这取决于所涉及的功能。还将注意，框图和/或流程图图示的每个框以及框图和/或流程图图示中的框的组合可以由执行指定功能或动作或执行专用硬件和计算机指令的组合的专用的基于硬件的系统来实现。

已经出于说明的目的给出了本发明的各种实施例的描述，但是其不旨在是穷尽的或限于所公开的实施例。在不背离所描述的实施例的范围和精神的情况下，许多修改和变化对于本领域的普通技术人员将是显而易见的。选择本文所使用的术语以最好地解释实施例的原理、实际应用或对市场上存在的技术改进，或使本领域的其他普通技术人员能够理解本文所公开的实施例。

Claims (11)

1.一种用于在网络中的边缘设备上预测性地部署微服务的计算机实现的方法，所述方法包括：

在客户端设备上运行应用，应用包括在两个或更多个边缘设备的集合中的任何边缘设备上可运行的微服务的集合；

确定客户端设备在第一时间的状态，状态包括当前正为客户端设备运行的一个或多个微服务，以及对于当前正运行的每个微服务，运行该微服务的边缘设备；

预测可能在第一时间之后的第二时间运行的一个或多个微服务；

预测客户端设备在第二时间的位置；以及

基于所预测的位置来确定边缘设备的集合中的用于运行被预测为将在第二时间运行的一个或多个微服务的下一边缘设备。

2.根据权利要求1所述的计算机实现的方法，其中确定客户端设备在第一时间的状态还包括：

将所确定的第一客户端设备的状态发送到两个或更多个边缘设备的集合中的至少一个边缘设备。

3.根据权利要求1所述的计算机实现的方法，其中预测可能在第一时间之后的第二时间运行的一个或多个微服务还包括：

对于当前正在为客户端设备运行的一个或多个微服务中的每一个，确定当当前正在运行的相应微服务结束时客户端设备请求当前未为客户端设备运行的微服务的概率；以及

按照所确定的概率的顺序对微服务进行排名。

4.根据权利要求3所述的计算机实现的方法，其中对于当前正在为客户端设备运行的一个或多个微服务中的每一个，确定当当前正在运行的相应微服务结束时客户端设备请求当前未为客户端设备运行的微服务的概率还包括：

使用机器学习模型来确定当当前正在运行的微服务结束时客户端设备将请求当前未为客户端设备运行的微服务的概率。

5.根据权利要求1所述的计算机实现的方法，其中预测客户端设备在第二时间的位置还包括：

确定客户端设备的移动的方向和速度；以及

基于所确定的客户端设备的移动的方向和速度来预测客户端设备在第二时间的位置。

6.根据权利要求1所述的计算机实现的方法，其中基于所预测的位置来确定边缘设备的集合中的用于运行被预测为将在第二时间运行的一个或多个微服务的下一边缘设备还包括：

通过以下步骤评估第一边缘设备作为候选下一边缘设备：

确定第一边缘设备的计算能力；

确定第一边缘设备的工作负载；

如果所预测的可能要运行的一个或多个微服务在第二时间在第一边缘设备上运行，则预测操作服务的水平；以及

如果操作服务的水平处于操作服务的阈值水平或在操作服务的阈值水平以上，则选择第一边缘设备作为下一边缘设备。

7.根据权利要求6所述的计算机实现的方法，还包括：

如果操作服务的水平在操作服务的阈值水平以下，则不选择第一边缘设备作为下一边缘设备；以及

评估第二边缘设备作为候选下一边缘设备。

8.根据权利要求1所述的计算机实现的方法，还包括：

确定部署被预测为在第二时间在所确定的下一边缘设备上运行的一个或多个微服务所需的时间；以及

在所确定的下一边缘设备上在第三时间发起对被预测为将在下一边缘设备上运行的一个或多个微服务的部署，第三时间在第二时间之前，其中第三时间是基于所确定的部署被预测为将在所确定的下一边缘设备上运行的一个或多个微服务所需的时间来确定的。

9.根据权利要求8所述的计算机实现的方法，其中确定部署被预测为在第二时间在所确定的下一边缘设备上运行的一个或多个微服务所需的时间还包括：

确定所确定的下一边缘设备的计算能力；以及

确定所确定的下一边缘设备的工作负载。

10.一种用于在网络中的边缘设备上预测性地部署微服务的计算机系统，包括：

一个或多个处理器、一个或多个计算机可读存储器、一个或多个计算机可读有形存储介质、以及存储在一个或多个有形存储介质中的至少一个有形存储介质上的程序指令，程序指令用于由一个或多个处理器中的至少一个处理器经由一个或多个存储器中的至少一个存储器来执行，其中计算机系统能够执行根据权利要求1-9中任一项所述的方法。

11.一种用于在网络中的边缘设备上预测性地部署微服务的计算机程序产品，包括：

一种可由计算机执行以执行根据权利要求1-9中任一项所述的方法的程序代码。

Images