CN116028221A - 服务处理方法和装置、系统 - Google Patents
服务处理方法和装置、系统 Download PDFInfo
- Publication number
- CN116028221A CN116028221A CN202211728568.6A CN202211728568A CN116028221A CN 116028221 A CN116028221 A CN 116028221A CN 202211728568 A CN202211728568 A CN 202211728568A CN 116028221 A CN116028221 A CN 116028221A
- Authority
- CN
- China
- Prior art keywords
- service
- state
- service orchestration
- instance
- working state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Computer And Data Communications (AREA)
Abstract
本申请公开一种服务处理方法和装置、系统,涉及计算机技术领域。方法包括:依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态;依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态;控制服务编排实例基于其对应的实时工作状态,对服务进行处理。保障服务编排系统能够高效的对服务请求进行处理,减少因高负载而导致的请求被延迟处理的比例,提升服务编排的处理效率。
Description
技术领域
本申请涉及计算机技术领域,具体涉及一种服务处理方法和装置、系统。
背景技术
随着科学技术的发展,涌现出了越来越多的具有差异化要求的业务需求。运营商需要部署越来越多的增值功能,用以满足用户对网络质量、请求时延等网络性能的要求。并且,运营商还需要在边缘节点上部署不同的服务功能,以实现对不同的服务功能的灵活增减,进而通过网络协作的方式,实现将不同的边缘节点及其所提供的服务功能进行串接,以满足用户对服务功能的灵活调度需求。
通常,服务器会采用采用集中式的管理方式,对不同的服务进行编排,但是,在用户的服务请求增多时,服务编排系统的服务器存在负载增大并带来较大延迟的问题,降低了服务效率。
发明内容
为此,本申请提供一种服务处理方法和装置、系统、电子设备、存储介质,解决如何基于用户所请求的业务服务的数量,对多种服务进行编排,以提升服务效率的问题。
为了实现上述目的,本申请第一方面提供一种服务处理方法,方法包括:依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态;依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态;控制服务编排实例基于其对应的实时工作状态,对服务进行处理。
为了实现上述目的,本申请第二方面,本申请提供了一种服务处理装置,该装置包括:工作状态确定模块,被配置为依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态;变更模块,被配置为依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态;处理模块,被配置为控制服务编排实例基于其对应的实时工作状态,对服务进行处理。
为了实现上述目的,本申请第三方面,本申请提供了一种服务处理系统,该系统包括:通信连接的共享数据库、服务编排实例池、服务编排实例监控管理模块、消息接收分发模块和消息下发模块;
其中,服务编排实例池包括多个服务编排实例,每个服务编排实例基于其对应的实时工作状态对服务进行处理;共享数据库,被配置为存储服务编排实例池中的各个服务编排实例需使用的数据,数据包括网络状态信息、算力资源信息、服务编排的历史数据中的至少一种;服务编排实例监控管理模块,被配置为执行本申请实施例中任意一种服务处理方法;消息接收分发模块,被配置为接收客户端发送的服务编排请求;消息下发模块,被配置为接收服务编排实例池中的多个服务编排实例反馈的路径编排信息,并根据路径编排信息,配置网络节点和算力资源节点。
为了实现上述目的,本申请第四方面,本申请提供了一种电子设备,该电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序,一个或多个所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述服务处理方法。
为了实现上述目的,本申请第五方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序在被处理器/处理核执行时实现上述服务处理方法。
本申请中的服务处理方法和装置、系统、电子设备、存储介质,通过依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态,以便于通过多个服务编排实例对接收到的服务请求进行处理,加快对服务请求的处理速度;依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,以使实时工作状态能够更符合服务编排实例的工作需求;控制服务编排实例基于其对应的实时工作状态,对服务进行处理,保障服务编排系统能够高效的对服务请求进行处理,减少因高负载而导致的请求被延迟处理的比例,提升服务编排的处理效率。
附图说明
附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开的实施例一起用于解释本公开,并不构成对本公开的限制。通过参考附图对详细示例实施例进行描述,以上和其它特征和优点对本领域技术人员将变得更加显而易见,在附图中。
图1为本申请实施例提供的一种网络架构示意图。
图2为本申请实施例提供的一种服务处理方法的流程示意图。
图3为本申请实施例提供的一种服务编排实例的工作状态与负载比例的对应关系示意图。
图4为本申请实施例提供的一种服务处理系统的组成方框图。
图5为本申请实施例提供的服务编排实例监控管理模块对编排实例池中的各个服务编排实例进行管理的方法的流程示意图。
图6为本申请实施例提供的一种服务处理装置的组成方框图。
图7为本申请实施例提供的一种电子设备的组成方框图。
具体实施方式
以下结合附图对本申请的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本申请,并不用于限制本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
目前,通过算力网络将网络和算力高度协同,将能够提供计算能力的计算单元嵌入到算力网络中,以实现云、网、边、端、业的高效协同,从而提高计算资源的利用率。并且,在算力网络中,用户无需关注算力网络中的计算资源的位置及其部署状态,只需关注用户自身所获得的服务即可,通过网络和计算协同调度来保证用户的体验。
通常,算力网络中的服务器会采用采用集中式的管理方式,对不同的服务进行编排,但是,在用户的服务请求增多时,服务编排系统的服务器存在负载增大并带来较大延迟的问题,降低了服务效率。
图1为本申请实施例提供的一种网络架构示意图。如图1所示,算网服务编排系统101通过算网融合控制系统102,与承载网络103相连接,并且,承载网络103能够基于算网服务编排系统101的统一调度,以实现对多个资源池(如,第一资源池1041、第二资源池1042、第三资源池1043等)的资源进行集中式管理。
并且,在上述集中式的管理方式中,需要针对业务的优先级,采用优先保障高优先级的业务的策略。
而上述方式是通过舍弃对部分业务(即低优先级的业务)的处理时长,或,基于排队处理的方式实现对多个业务的统一编排和处理,降低了低优先级的业务的客户的使用体验。
有鉴于此,本申请提供一种服务处理方法和装置、系统、电子设备、存储介质,能够根据服务编排请求的业务数量,来弹性的对多个服务编排请求进行处理,无论用户的优先级的高低如何,都能够及时、快速的获取到其需求的业务数据,从根本上保障了用户的使用体验。并且,在编排任务较少时,可以根据预设规则弹性的减少服务编排实例的数量,以提高系统资源的利用率。
图2为本申请实施例提供的一种服务处理方法的流程示意图。该服务处理方法可应用于服务处理装置。如图2所示,该服务处理方法包括但不限于如下步骤。
步骤S201,依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态。
其中,工作状态包括激活状态。
步骤S202,依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态。
步骤S203,控制服务编排实例基于其对应的实时工作状态,对服务进行处理。
在本实施例中,通过依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态,以便于通过多个服务编排实例对接收到的服务请求进行处理,加快对服务请求的处理速度;依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,以使实时工作状态能够更符合服务编排实例的工作需求;控制服务编排实例基于其对应的实时工作状态,对服务进行处理,保障服务编排系统能够高效的对服务请求进行处理,减少因高负载而导致的请求被延迟处理的比例,提升服务编排的处理效率。
在一些可选的实施例中,工作状态,还包括:挂起状态和关闭状态。其中,步骤S203中的控制服务编排实例基于其对应的实时工作状态,对服务进行处理,可以采用如下方式实现:
控制处于激活状态的服务编排实例接收新的服务编排请求;控制处于挂起状态的服务编排实例停止接收新的服务编排请求,并只处理已经接收到的且还未处理的服务编排请求;控制处于关闭状态的服务编排实例停止接收和/或停止处理服务编排请求。
例如,图3为本申请实施例提供的一种服务编排实例的工作状态与负载比例的对应关系示意图。如图3所示,以“运行时间”为横坐标,以服务编排实例的负载百分比(即“实例负载百分比”)为纵坐标,构建坐标系,其中,在A区域中,因实例负载百分比小于70%,此时的服务编排实例的工作状态为激活状态。
在B区域中,因实例负载百分比大于70%且小于80&,需要将处于关闭状态的服务编排实例激活(即,变更处于关闭状态的服务编排实例的工作状态为激活状态),或,新建一个服务编排实例,并将该服务编排实例的工作状态设置为激活状态。
在C区域中,因实例负载百分比大于80%,需要将服务编排实例的工作状态变更为挂起状态,此时,处于挂起状态的服务编排实例停止接收新的服务编排请求,并只处理已经接收到的且还未处理的服务编排请求;然后,在确定将已接收到的服务编排请求处理完成之后,需要将服务编排实例的工作状态变更为关闭状态。
在一些可选的实施例中,步骤S202中的依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,可采用如下方式实现:
在确定服务编排实例池中处于激活状态的服务编排实例的负载比例超过第一预设比例阈值(如,80%、85%、81%等)的情况下,将服务编排实例的工作状态由激活状态变更为挂起状态。
其中,第一预设比例阈值可以为,81%、80%、85%等不同的阈值,以上对于第一预设比例阈值仅是举例说明,可根据实际需要进行具体设定,其他未说明的阈值也在本申请的保护范围之内,在此不再赘述。
通过将处于激活状态的服务编排实例的负载比例超过第一预设比例阈值的服务编排实例的工作状态变更为挂起状态,能够有效降低该服务编排实例的负载比例,以防止该服务编排实例超负荷运行,降低服务编排出错的概率,从而使该服务编排实例停止接收服务编排请求,并只处理已经接收到的且还未处理的服务编排请求。
在一些可选的实施例中,步骤S202中的依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,包括:
计算服务编排实例池的平均负载;在确定平均负载超过预设负载阈值的情况下,确定服务编排实例池中是否存在工作状态为关闭状态的服务编排实例;在确定服务编排实例池中存在工作状态为关闭状态的服务编排实例的情况下,将服务编排实例的工作状态由关闭状态变更为激活状态;否则,新建服务编排实例,并设置服务编排实例的实时工作状态为激活状态。
需要说明的是,通过计算服务编排实例池的平均负载,能够明确该服务编排实例池中正在进行工作的服务编排实例是否满负荷运行,当平均负载超过预设负载阈值(如,70%、71%、71%等)时,需要进一步确定服务编排实例池中是否存在工作状态为关闭状态的服务编排实例,以便于将服务编排实例的工作状态由关闭状态变更为激活状态(即,激活处于关闭状态的服务编排实例),从而获得更多的额处于激活状态的服务编排实例,加快对服务编排请求的处理速度。
当确定服务编排实例池中已经没有工作状态为关闭状态的服务编排实例时,并且此时服务编排实例池的平均负荷超过预设负载阈值,需要新建若干个服务编排实例(如,根据服务编排请求的数量确定新建的服务编排实例的数量),并设置服务编排实例的实时工作状态为激活状态,以使服务编排实例池中具有更多的处于激活状态的服务编排实例,从而提升对服务编排请求的处理速度,缩短用户获取其需求数据的时长,使用户可以获得良好的使用体验。
在一些可选的实施例中,步骤S202中的依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,包括:
实时统计服务编排实例池中处于激活状态的服务编排实例的负载比例;在确定存在P个处于激活状态的服务编排实例的负载比例均小于第二预设比例阈值(如,25%、20%等)的情况下,从P个服务编排实例中选择负载比例最小的服务编排实例,并将负载比例最小的服务编排实例的实时工作状态设置为挂起状态。
其中,P为大于1,且小于预设数量阈值(如,20、30等)的正整数。
例如,基于负载比例,对P个处于激活状态的服务编排实例进行排序,从而获得负载比例最小的服务编排实例,然后,将该负载比例最小的服务编排实例实时工作状态设置为挂起状态,能够使该服务编排实例不再接收新的服务接收新的服务编排请求,只需将其已接收到的服务编排请求处理完成即可。能够减少编排实例池中出现多个利用率低于预设利用率阈值的服务编排实例的情况发生,从而减少资源浪费。
进一步地,在一些可选的实施例中,步骤S202中的依据预设判断规则对各个服务编排实例的工作状态时进行变更,获得实时工作状态,包括:
实时监控处于挂起状态的服务编排实例的负载比例;在确定处于挂起状态的服务编排实例的负载比例为第三预设比例阈值(如,0)的情况下,将服务编排实例的工作状态由挂起状态变更为关闭状态。
通过及时关掉没有任务处理的服务编排实例,能够有效降低资源的浪费,提升系统资源的利用效率。
在一些可选的实施例中,步骤S202中的依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,包括:
统计处于关闭状态的服务编排实例的数量;在确定处于关闭状态的服务编排实例的数量大于预设数量阈值的情况下,清除预设数量个处与关闭状态的服务编排实例。
例如,若确定处于关闭状态的服务编排实例的数量大于预设数量阈值S1,则通过清除S2个处于关闭状态的服务编排实例,从而释放空闲的资源。
其中,S 1大于S2,且都为正整数。
在一些可选的实施例中,在执行步骤S203中的控制服务编排实例基于其对应的实时工作状态,对服务进行处理之前,还包括:
接收客户端发送的多个服务编排请求;基于均衡原则或随机原则,将多个服务编排请求分发给服务编排实例池中的多个服务编排实例。
其中,服务编排请求包括:服务类型、算力类型和网络需求信息中的至少一种。
当接收到客户端发送的多个服务编排请求时,通过均衡原则(即,将多个服务编排请均匀的分配给服务编排实例池中的多个服务编排实例),以便于多个服务编排实例能够同时对多个服务编排请求进行响应,提升服务编排的处理速度。
或者,通过随机分配的方式,将某些服务编排请求随机分配给负载比例不高的服务编排实例,能够使该服务编排实例能够快速的对服务编排请求进行响应,从而使服务编排实例池中的资源得以均衡,提升资源的利用率。
需要说明的是,服务编排实例池中的多个服务编排实例共享数据库中存储的数据,数据库中存储的数据包括:网络状态信息、算力资源信息、服务编排的历史数据中的至少一种。
其中,网络状态信息包括:网络拓扑信息、链路状态和利用率中的至少一种;算力资源信息包括:算力资源池,算力资源池所提供的服务能力、以及算力资源池所对应的网络节点中的至少一种;服务编排的历史数据包括:服务编排历史需求、服务编排历史路径、以及服务编排满意度中的至少一种。
通过多个服务编排实例对共享数据库中存储的多个维度的数据进行共享,以便于服务编排实例快速的对服务编排请求进行响应,提升服务编排效率。
在一些可选的实施例中,在执行步骤S203中的控制服务编排实例基于其对应的实时工作状态,对服务进行处理之后,还包括:
接收服务编排实例池中的多个服务编排实例反馈的路径编排信息,根据路径编排信息,配置网络节点和算力资源节点。
其中,路径编排信息包括网络节点信息、以及有序的资源池节点信息。
需要说明的是,通过路径编排信息能够明确在处理某些业务时需要经过的网络节点,以及不同的网络节点对应的资源池节点,并且,不同的资源池节点所存储的资源不同。
通过根据路径编排信息,配置网络节点和算力资源节点,能够加快对业务的处理速度,缩短用户获取其需求的业务数据的时长,提升用户的使用体验。
图4为本申请实施例提供的一种服务处理系统的组成方框图。
如图4所示,该服务处理系统包括但不限于如下设备:
通信连接的共享数据库401、服务编排实例池402、服务编排实例监控管理模块403、消息接收分发模块404和消息下发模块405。
其中,服务编排实例池402包括多个服务编排实例,如,服务编排实例1、服务编排实例2、……、服务编排实例n-1、服务编排实例n等。其中,n表示服务编排实例的数量,n为大于1的整数。
共享数据库401,用于存储服务编排实例池402中的各个服务编排实例所涉及的数据。并且,共享数据库401中存储的数据供各个服务编排实例共享。共享数据库401中存储的数据包括网络状态信息、算力资源信息、服务编排的历史数据中的至少一种。
其中,网络状态信息包括:网络拓扑信息、链路状态和利用率中的至少一种;算力资源信息包括:算力资源池,算力资源池所提供的服务能力、以及算力资源池所对应的网络节点中的至少一种;服务编排的历史数据包括:服务编排历史需求、服务编排历史路径、以及服务编排满意度中的至少一种。
服务编排实例池402中的每个服务编排实例的工作状态包括:激活状态(active),挂起状态(suspend)和关闭状态(stop)中的至少一种。
需要说明的是,处于激活状态的服务编排实例接收新的服务编排请求;处于挂起状态的服务编排实例停止接收新的服务编排请求,并只处理已经接收到的且还未处理的服务编排请求;处于关闭状态的服务编排实例停止接收和/或停止处理服务编排请求。
当服务编排实例池402的平均负载超过预设负载阈值(如,预设阈值的70%)时,会新建(new)一个服务编排实例,或,启动一个工作状态为stop状态的服务编排实例。
当确定服务编排实例池402中处于激活状态的服务编排实例的负载比例超过第一预设比例阈值(如,预设阈值的80%)时,需要将某几个服务编排实例的工作状态由激活状态变更为挂起状态,即变更为挂起状态的服务编排实例以后不再接收新的服务编排请求,在确定其将已接收到的服务编排请求处理完成后,将其工作状态变更为stop状态。
服务编排实例监控管理模块403,用于执行本申请实施例中任意一种服务处理方法。
例如,该服务编排实例监控管理模块403用于对各个服务编排实例的负载比例进行监控,并实时记录服务编排实例池402中所有的服务编排实例的负载比例。然后,依据服务编排系统的负载状态(如,服务编排实例池402中所有的服务编排实例的负载比例),确定服务编排实例池402中的多个服务编排实例的工作状态;依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态;控制服务编排实例基于其对应的实时工作状态,对服务进行处理。
例如,各个服务编排实例的负载信息可以记录如表1所示。
表1服务编排实例的负载信息实时记录表
其中,通过表1中记录的信息,能够基于预设判断规则来确定编排实例资源池402中的各个服务编排实例的工作状态。
消息接收分发模块404,用于接收客户端发送的服务编排请求。其中,服务编排请求包括:服务类型、算力类型和网络需求信息中的至少一种。并且,消息接收分发模块404还用于基于均衡原则或随机原则,将多个服务编排请求分发给服务编排实例池402中的多个服务编排实例。其中,服务编排实例的工作状态可以为激活状态。
消息下发模块405,用于接收服务编排实例池402中的多个服务编排实例反馈的路径编排信息,然后,根据路径编排信息,配置网络节点和算力资源节点。
其中,路径编排信息包括网络节点信息、以及有序的资源池节点信息等。
图5为本申请实施例提供的服务编排实例监控管理模块对编排实例池中的各个服务编排实例进行管理的方法的流程示意图。如图5所示,该服务处理系统的工作方法包括但不限于如下步骤:
步骤S501,每间隔预设时长,收集编排实例池402中的负载状态。
步骤S502,基于获取到的各个服务编排实例的负载状态,更新服务编排实例的负载状态的记录表。
需要说明的是,在执行完步骤S502之后,可以继续执行步骤S503,也可以执行步骤S509,或,执行步骤S511,或,执行步骤S514,可根据实际的使用需求确认具体步骤的执行顺序。
例如,根据服务编排实例的负载状态的记录表中的各个服务编排驶离的负载情况,确定具体执行的步骤。
其中,步骤S50、步骤S509、步骤S511和步骤S514也可以并行执行,从而确定服务编排实例的工作状态是否需要进行变更。
步骤S503,计算服务编排实例池402的平均负载。
例如,可采用如下公式计算获得平均负载AL:
其中,Lacitive表示工作状态为激活状态的服务编排实例;
Ln表示某个处于激活状态的服务编排实例的负载值;
n表示服务编排实例池402中的处于激活状态的服务编排实例的数量;N表示服务编排实例池402中的处于激活状态的服务编排实例的数量总和。
步骤S504,判断平均负载是否超过预设负载阈值。
在确定平均负载超过预设负载阈值(如,70%等)的情况下,执行步骤S505;否则,继续执行步骤S501。
步骤S505,确定服务编排实例池402中是否存在工作状态为关闭状态的服务编排实例。
在确定服务编排实例池402中存在工作状态为关闭状态的服务编排实例的情况下,执行步骤S507;否则,执行步骤S506。
步骤S506,新建一个服务编排实例。
步骤S507,启动至少一个处于关闭状态的服务编排实例。
步骤S508,设置服务编排实例的实时工作状态为激活状态。
步骤S509,判断服务编排实例池402中处于激活状态的服务编排实例的负载比例是否超过第一预设比例阈值。
在确定服务编排实例池402中处于激活状态的服务编排实例的负载比例超过第一预设比例阈值(如,80%)的情况下,执行步骤S510;否则,继续执行步骤S501。
步骤S510,设置服务编排实例的实时工作状态为挂起状态。
其中,处于挂起状态的服务编排实例不再接收新的服务接收新的服务编排请求,只需将其已接收到的服务编排请求处理完成即可。
步骤S511,统计服务编排实例池402中处于激活状态的服务编排实例的负载比例。
步骤S512,判断是否存在P个处于激活状态的服务编排实例的负载比例均小于第二预设比例阈值。
在确定存在P个(如,10个)处于激活状态的服务编排实例的负载比例均小于第二预设比例阈值(如,20%)的情况下,执行步骤S513;否则,继续执行步骤S501。
其中,P为大于1,且小于预设数量阈值的正整数。
步骤S513,从P个服务编排实例中选择负载比例最小的服务编排实例,并将负载比例最小的服务编排实例的实时工作状态设置为挂起状态。
能够减少编排实例池402中出现多个利用率低于预设利用率阈值的服务编排实例的情况发生,从而减少资源浪费。
步骤S514,判断处于挂起状态的服务编排实例的负载比例是否为第三预设比例阈值。
在确定处于挂起状态的服务编排实例的负载比例为第三预设比例阈值(如,0)的情况下,执行步骤S515;否则,继续执行步骤S501。
步骤S515,将该服务编排实例的工作状态由挂起状态变更为关闭状态。
通过及时关掉没有任务处理的服务编排实例,能够有效降低资源的浪费,提升系统资源的利用效率。
在一些具体实现中,服务编排实例监控管理模块403还会统计处于stop状态的服务编排实例,若确定处于stop状态的服务编排实例的数量大于预设数量阈值S1,则服务编排实例监控管理模块403会清除S2个处于stop状态的服务编排实例,以释放资源。
其中,S 1大于S2,且都为正整数。
在本实施例中,通过根据负载情况实时的调整服务编排实例池中的服务编排实例的数量,以提升系统资源的利用效率,并为多个服务编排请求提供有效的服务;进一步地,通过对服务编排实例池中的多个服务编排实例进行实时动态监控、统计、计算来调整各个服务编排实例的工作状态,从而保障保障服务编排系统能够高效的对服务请求进行处理,减少因高负载而导致的请求被延迟处理的比例,提升服务编排的处理效率。
图6为本申请实施例提供的一种服务处理装置的组成方框图。如图6所示,该服务处理装置600包括但不限于如下模块。
工作状态确定模块601,被配置为依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态。
变更模块602,被配置为依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态。
处理模块603,被配置为控制服务编排实例基于其对应的实时工作状态,对服务进行处理。
需要说明的是,本实施例中的服务处理装置600能够实现本申请任一种服务处理方法,在此不再赘述。
在本实施方式中,通过工作状态确定模块依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,工作状态包括激活状态,以便于通过多个服务编排实例对接收到的服务请求进行处理,加快对服务请求的处理速度;使用变更模块依据预设判断规则对各个服务编排实例的工作状态进行变更,获得实时工作状态,以使实时工作状态能够更符合服务编排实例的工作需求;使用处理模块控制服务编排实例基于其对应的实时工作状态,对服务进行处理,保障服务编排系统能够高效的对服务请求进行处理,减少因高负载而导致的请求被延迟处理的比例,提升服务编排的处理效率。
值得一提的是,本实施方式中所涉及到的各模块均为逻辑模块,在实际应用中,一个逻辑单元可以是一个物理单元,也可以是一个物理单元的一部分,还可以以多个物理单元的组合实现。此外,为了突出本申请的创新部分,本实施方式中并没有将与解决本申请所提出的技术问题关系不太密切的单元引入,但这并不表明本实施方式中不存在其它的单元。
本申请实施例还提供了电子设备、计算机可读存储介质,上述均可用来实现本申请实施例中的任一种服务处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图7为本申请实施例提供的一种电子设备的框图。如图7所示,本申请实施例提供了一种电子设备,电子设备700包括:至少一个处理器701;至少一个存储器702,以及一个或多个I/O接口703,连接在处理器701与存储器702之间;其中,存储器702存储有可被至少一个处理器701执行的一个或多个计算机程序,一个或多个计算机程序被至少一个处理器701执行,以使至少一个处理器701能够执行上述的服务处理方法。
本申请实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,其中,所述计算机程序在被处理器/处理核执行时实现上述的服务处理方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。
本申请实施例还提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备的处理器中运行时,所述电子设备中的处理器执行上述的服务处理方法。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、装置中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。在硬件实施方式中,在以上描述中提及的功能模块/单元之间的划分不一定对应于物理组件的划分;例如,一个物理组件可以具有多个功能,或者一个功能或步骤可以由若干物理组件合作执行。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读存储介质上,计算机可读存储介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。
如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读程序指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM)、静态随机存取存储器(SRAM)、闪存或其他存储器技术、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读程序指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本申请操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本申请的各个方面。
这里所描述的计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software DevelopmentKit,SDK)等等。
这里参照根据本申请实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本申请的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本申请的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本文已经公开了示例实施例,并且虽然采用了具体术语,但它们仅用于并仅应当被解释为一般说明性含义,并且不用于限制的目的。在一些实例中,对本领域技术人员显而易见的是,除非另外明确指出,否则可单独使用与特定实施例相结合描述的特征、特性和/或元素,或可与其他实施例相结合描述的特征、特性和/或元件组合使用。因此,本领域技术人员将理解,在不脱离由所附的权利要求阐明的本申请的范围的情况下,可进行各种形式和细节上的改变。
Claims (13)
1.一种服务处理方法,其特征在于,所述方法包括:
依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,所述工作状态包括激活状态;
依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态;
控制所述服务编排实例基于其对应的实时工作状态,对服务进行处理。
2.根据权利要求1所述的方法,其特征在于,所述工作状态,还包括:挂起状态和关闭状态;所述控制所述服务编排实例基于其对应的实时工作状态,对服务进行处理,包括:
控制处于所述激活状态的服务编排实例接收新的服务编排请求;
控制处于所述挂起状态的服务编排实例停止接收所述新的服务编排请求,并只处理已经接收到的且还未处理的服务编排请求;
控制处于所述关闭状态的服务编排实例停止接收和/或停止处理所述服务编排请求。
3.根据权利要求2所述的方法,其特征在于,所述依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态,包括:
在确定所述服务编排实例池中处于所述激活状态的服务编排实例的负载比例超过第一预设比例阈值的情况下,将所述服务编排实例的工作状态由所述激活状态变更为所述挂起状态。
4.根据权利要求2所述的方法,其特征在于,所述依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态,包括:
计算所述服务编排实例池的平均负载;
在确定所述平均负载超过预设负载阈值的情况下,确定所述服务编排实例池中是否存在工作状态为所述关闭状态的服务编排实例;
在确定所述服务编排实例池中存在工作状态为所述关闭状态的服务编排实例的情况下,将所述服务编排实例的工作状态由所述关闭状态变更为所述激活状态;否则,新建服务编排实例,并设置所述服务编排实例的实时工作状态为所述激活状态。
5.根据权利要求2至4中任一项所述的方法,其特征在于,所述依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态,包括:
实时统计所述服务编排实例池中处于所述激活状态的服务编排实例的负载比例;
在确定存在P个处于所述激活状态的服务编排实例的负载比例均小于第二预设比例阈值的情况下,从P个所述服务编排实例中选择所述负载比例最小的服务编排实例,并将所述负载比例最小的服务编排实例的实时工作状态设置为所述挂起状态;其中,P为大于1,且小于预设数量阈值的正整数。
6.根据权利要求2至4中任一项所述的方法,其特征在于,所述依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态,包括:
实时监控处于所述挂起状态的服务编排实例的负载比例;
在确定处于所述挂起状态的服务编排实例的负载比例为第三预设比例阈值的情况下,将所述服务编排实例的工作状态由所述挂起状态变更为所述关闭状态。
7.根据权利要求2至4中任一项所述的方法,其特征在于,所述依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态,包括:
统计处于所述关闭状态的服务编排实例的数量;
在确定处于所述关闭状态的服务编排实例的数量大于预设数量阈值的情况下,清除预设数量个处于所述关闭状态的服务编排实例。
8.根据权利要求1所述的方法,其特征在于,所述控制所述服务编排实例基于其对应的实时工作状态,对服务进行处理之前,还包括:
接收客户端发送的多个服务编排请求,其中,所述服务编排请求包括:服务类型、算力类型和网络需求信息中的至少一种;
基于均衡原则或随机原则,将多个所述服务编排请求分发给所述服务编排实例池中的多个服务编排实例;
其中,所述服务编排实例池中的多个服务编排实例共享数据库中存储的数据,所述数据库中存储的数据包括:网络状态信息、算力资源信息、服务编排的历史数据中的至少一种。
9.根据权利要求1所述的方法,其特征在于,所述控制所述服务编排实例基于其对应的实时工作状态,对服务进行处理之后,还包括:
接收所述服务编排实例池中的多个服务编排实例反馈的路径编排信息,其中,所述路径编排信息包括网络节点信息、以及有序的资源池节点信息;
根据路径编排信息,配置网络节点和算力资源节点。
10.一种服务处理装置,其特征在于,所述装置包括:
工作状态确定模块,被配置为依据服务编排系统的负载状态,确定服务编排实例池中的多个服务编排实例的工作状态,其中,所述工作状态包括激活状态;
变更模块,被配置为依据预设判断规则对各个所述服务编排实例的工作状态进行变更,获得实时工作状态;
处理模块,被配置为控制所述服务编排实例基于其对应的实时工作状态,对服务进行处理。
11.一种服务处理系统,其特征在于,包括:通信连接的共享数据库、服务编排实例池、服务编排实例监控管理模块、消息接收分发模块和消息下发模块;
其中,所述服务编排实例池包括多个服务编排实例,每个所述服务编排实例基于其对应的实时工作状态对服务进行处理;
所述共享数据库,被配置为存储所述服务编排实例池中的各个服务编排实例需使用的数据,所述数据包括网络状态信息、算力资源信息、服务编排的历史数据中的至少一种;
所述服务编排实例监控管理模块,被配置为执行如权利要求1-9中任一项所述的服务处理方法;
所述消息接收分发模块,被配置为接收客户端发送的服务编排请求;
所述消息下发模块,被配置为接收所述服务编排实例池中的多个服务编排实例反馈的路径编排信息,并根据所述路径编排信息,配置网络节点和算力资源节点。
12.一种电子设备,其特征在于,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序,一个或多个所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1-9中任一项所述的服务处理方法。
13.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序在被处理器执行时实现如权利要求1-9中任一项所述的服务处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211728568.6A CN116028221A (zh) | 2022-12-30 | 2022-12-30 | 服务处理方法和装置、系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211728568.6A CN116028221A (zh) | 2022-12-30 | 2022-12-30 | 服务处理方法和装置、系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116028221A true CN116028221A (zh) | 2023-04-28 |
Family
ID=86080724
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211728568.6A Pending CN116028221A (zh) | 2022-12-30 | 2022-12-30 | 服务处理方法和装置、系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116028221A (zh) |
-
2022
- 2022-12-30 CN CN202211728568.6A patent/CN116028221A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101160481B1 (ko) | 애플리케이션 계층 리소스 트래픽 제어를 위한 시스템 및 방법 | |
EP2667541B1 (en) | Connectivity service orchestrator | |
US9923965B2 (en) | Storage mirroring over wide area network circuits with dynamic on-demand capacity | |
EP2972855B1 (en) | Automatic configuration of external services based upon network activity | |
US10230591B2 (en) | Network resource governance in multi-tenant datacenters | |
CN104202264A (zh) | 云化数据中心网络的承载资源分配方法、装置及系统 | |
US20070147346A1 (en) | Methods, systems, and computer program products for managing access resources in an Internet protocol network | |
Faraci et al. | An analytical model to design and manage a green SDN/NFV CPE node | |
CN106462389A (zh) | 消息通讯行为的上下文感知策略选择 | |
US8004970B2 (en) | Method, system and program product for setting a transmission rate in a network | |
US11792275B2 (en) | Dynamic connection capacity management | |
US20120324000A1 (en) | System and method for flow control in a messaging subsystem based on message-in/out rates | |
WO2022016969A1 (zh) | 一种数据处理方法及装置 | |
CN108702336A (zh) | 数据路由中的动态优化队列 | |
US8725868B2 (en) | Interactive service management | |
US9998377B2 (en) | Adaptive setting of the quantized congestion notification equilibrium setpoint in converged enhanced ethernet networks | |
Basu et al. | Drive: Dynamic resource introspection and vnf embedding for 5g using machine learning | |
CN107038067B (zh) | 分布式流处理中处理资源的管理方法和装置 | |
CN116250223B (zh) | 使用两层强化学习模型的边缘集群的过载保护 | |
CN107786371B (zh) | 一种数据的加速方法、装置及存储介质 | |
CN116028221A (zh) | 服务处理方法和装置、系统 | |
Adami et al. | Cloud and network service orchestration in software defined data centers | |
CN104219169A (zh) | 基于类的队列cbq调度方法和设备 | |
JP6981367B2 (ja) | ネットワークシステムおよびネットワーク帯域制御管理方法 | |
WO2019075137A1 (en) | AUTOMATIC SCALING FOR ACCESS TO A COMMUNICATION EVENT THROUGH A STATE INTERFACE |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |