CN112416594A - 一种微服务分配方法、电子设备和计算机存储介质 - Google Patents

Abstract

本发明公开一种微服务分配方法、电子设备和计算机存储介质，涉及网络领域，以提高微服务的可用性。所述微服务分配方法包括：响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点；目标节点相应的服务器有多个第一微服务；确定多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务；在目标节点中添加第二微服务的进程号；根据目标节点所添加的第二微服务的进程号将当前请求任务分配至第二微服务。本发明提供的微服务分配方法、电子设备和计算机存储介质用于互联网，提高了微服务的可用性。

Description

一种微服务分配方法、电子设备和计算机存储介质

技术领域

本发明涉及网络领域，尤其涉及一种微服务分配方法、电子设备和计算机存储介质。

背景技术

随着网络的发展，大并发访问网络应用越来越多，访问控制指系统对用户身份及其所属的预先定义的策略组限制其使用数据资源能力的手段。通常用于系统管理员控制用户对服务器、目录、文件等网络资源的访问。

传统的访问控制包括应用微服务、报表微服务、数据库微服务和物理资源的热备切换等技术，当一个服务器出现宕机，会切换到另一个服务器，判断该切换后的服务器的运行资源是否可用，当不可用时会再次切换服务器，这样依次判断多个服务器的可用性，缺少了基于大量用户同时访问网络时对资源的精细切分，因而访问不能被均衡控制。

发明内容

本发明的目的在于提供一种微服务分配方法、电子设备和计算机存储介质，以提高微服务的可用性。

第一方面，本发明提供一种微服务分配方法，所述微服务分配方法包括：

响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点；所述目标节点相应的服务器有多个第一微服务；

确定所述多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务；

在所述目标节点中添加所述第二微服务的进程号；

根据所述目标节点所添加的第二微服务的进程号将所述当前请求任务分配至所述第二微服务。

与现有技术相比，本发明提供的微服务分配方法响应于当前请求任务，根据多个节点对应的服务器的当前可用资源确定目标节点。然后根据资源数据库中该目标节点对应的服务器具有的多个第一微服务的当前运行资源，与资源数据库中预存储的多个第一微服务的资源阈值，确定多个第一微服务的当前可用资源是否满足当前请求任务的需求资源。当不满足时，启动第二微服务，并将该第二微服务的进程号添加到目标节点中，即在目标节点对应的服务器中增加第二微服务。然后利用该第二微服务处理当前请求任务。基于此，本发明在处理当前请求任务时，首先根据多个节点对应的多个服务器的当前可用资源确定目标节点，之后，不在重新确定目标节点。也就是说，不会再重新确定服务器。而当该目标节点对应的服务器中的所有微服务的可用资源均不满足当前请求任务的需求资源时，启动第二微服务，在目标节点中添加所述第二微服务的进程号，以使目标节点对应的服务器可以继续处理当前请求任务。相对于现有技术，在处理请求任务时，当一个服务器出现宕机，会切换到另一个服务器，判断该切换后的服务器的运行资源是否可用，当不可用时会再次切换服务器，这样依次判断多个服务器的可用性，本发明不仅可以节省对当前请求任务的处理时间，还可以根据大量用户同时访问网络时通过对资源的精细切分，使得访问被均衡控制。同时，当所有的第一微服务当前可用资源均不满足当前请求任务的需求资源时，启动第二微服务可以防止所有第一微服务超载造成的宕机，避免了宕机后微服务暂停服务的问题。

第二方面，本发明还提供一种电子设备，包括：控制器以及与控制器耦合的通信接口，所述控制器用于运行计算机程序或指令，以实现上述权利要求所述微服务分配方法。

与现有技术相比，本发明实施例提供的电子设备的有益效果与上述微服务分配方法的有益效果相同，在此不做赘述。

第三方面，本发明还提供一种计算机存储介质，计算机存储介质中存储有指令，当所述指令被运行时，实现上述权利要求所述微服务分配方法。

与现有技术相比，本发明实施例提供的计算机存储介质的有益效果与上述微服务分配方法的有益效果相同，在此不做赘述。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1示例出本发明实施例提供的微服务分配方法的流程示意图一；

图2示例出本发明实施例提供的电子设备的结构示意图；

图3示例出本发明实施例提供的分服务分配系统示意图。

具体实施方式

为了便于清楚描述本发明实施例的技术方案，在本发明的实施例中，采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。例如，第一阈值和第二阈值仅仅是为了区分不同的阈值，并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定，并且“第一”、“第二”等字样也并不限定一定不同。

需要说明的是，本发明中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

本发明中，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B的情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指的这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a，b或c中的至少一项(个)，可以表示：a，b，c，a和b的结合，a和c的结合，b和c的结合，或a、b和c的结合，其中a，b，c可以是单个，也可以是多个。

目前大并发访问网络期间，由于用户请求量大，单个服务器难以应对会出现故障，当该台服务器故障时会切换到另一台服务器，缺少了基于大量用户同时访问网络时对资源的精细切分，使得访问不能被均衡控制。

针对上述问题，本发明实施例提供一种微服务分配方法，适用于网站大规模并发访问的服务器。该服务器可以应用服务器、报表服务器等。

图1示例出本发明实施例提供的微服务分配方法的流程示意图一。如图1所示，该微服务分配方法包括如下步骤：

步骤11：响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点；所述目标节点相应的服务器有多个第一微服务。

作为一种可实现的方式，响应于当前请求任务，确定多个节点相应的服务器的当前可用资源；确定当前可用资源最大的服务器对应的节点为目标节点。

在实际应用中，用户通过浏览器访问服务，网络会判断多个节点相应的服务器的运行情况，也就是多个节点相应的服务器的当前可用资源，将当前可用资源最大的节点作为目标节点。可用资源包括处理器的使用率、线程数目、内存大小，调用该节点的次数、日志条数等。且并不限于此。

步骤12：确定多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务。

作为一种可实现的方式，基于多个第一微服务的当前运行资源与相应资源阈值，确定多个第一微服务的当前可用资源均不满足当前请求任务的需求资源时，启动第二微服务。

在实际应用中，当第一微服务的当前运行资源，大于或等于第一微服务的相应资源阈值时，确定该第一微服务的可用资源不满足当前请求任务的需求资源；当第一微服务的当前运行资源，小于第一微服务的相应资源阈值时，判断第一微服务的剩余可用资源可以运行用户请求任务需要的资源时，确定第一微服务的可用资源满足当前请求任务的需求资源。

本发明实施例中，可以根据第一微服务的最大运行资源确定第一微服务的资源阈值。例如：第一微服务的资源阈值根据数据库中第一微服务的最大运行资源确定。数据库中存储了每个第一微服务的最大运行资源，例如第一微服务的最大线程数目为12、内存大小4G、调用该第一微服务的最大次数为48次，根据最大运行资源设置该第一微服务的资源阈值对应的线程数目为10、内存大小3.6G、调用该微服务的次数为45次。

若某个第一微服务的当前运行资源为线程数目为11、内存大小为3G、调用该微服务的次数为45次，则该第一微服务的当前运行资源大于或等于该第一微服务的资源阈值，确定该第一该微服务可用资源不满足当前请求任务的需求资源。若某个第一微服务的当前运行资源为线程数目为2、内存大小为1G、调用该微服务的次数为13次，则该第一微服务的当前运行资源小于该第一微服务的资源阈值，当前用户请求任务的需求资源为线程数目7、内存大小为1G、调用该微服务的次数为12次，该第一微服务若再执行当前用户请求任务，运行的资源的线程数目为9、内存大小为2G、调用该微服务的次数为25次，小于该第一微服务的资源阈值，确定该第一微服务的当前可用资源满足当前请求任务的需求资源。

例如：目标节点相应的服务器有多个第一微服务，包括第一微服务A、第一微服务B和第一微服务C。只有当第一微服务A、第一微服务B和第一微服务C的可用资源均不满足当前请求任务的需求资源。才启动第二微服务。其他状态时，均不启动第二微服务。

其他状态例如：第一微服务A的当前可用资源满足当前请求任务的需求资源，第一微服务B和第一微服务C的可用资源均不满足当前请求任务的需求资源。

步骤13：在目标节点中添加第二微服务的进程号。

在实际应用中，数据库中存储的节点和微服务进程号存在对应关系。例如：第一微服务A、第一微服务B和第一微服务C与目标节点通讯，每一个微服务都有唯一的进程号。第一微服务A的进程号为111、第一微服务B的进程号为222和第一微服务C的进程号为333，数据库存储的目标节点就和第一微服务A的进程号111、第一微服务B的进程号222和第一微服务C的进程号333的建立了对应关系。

第二微服务是新建的微服务，该第二微服务被启动后会产生一个第二微服务的进程号如444，将第二微服务的进程号添加到目标节点后，目标节点就和第一微服务A的进程号111、第一微服务B的进程号222、第一微服务C的进程号333以及第二微服务进程号444建立了对应关系。

作为一种可实现的方式，在确定多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务后，微服务分配方法还包括：

在资源数据库中存储第二微服务的进程号。

作为一种可实现的方式，在目标节点中添加第二微服务的进程号后，微服务分配方法还包括：

利用第二微服务的进程号更新目标节点在资源数据库中的存储信息。

在实际应用中，上述例子进行说明，启动第二微服务后，相应产生了第二微服务的进程号444，将第二微服务的进程号存储在资源数据库中，由于目标节点添加了第二微服务的进程号，此时目标节点与第一微服务A、第一微服务B、第一微服务C和第二微服务通讯，更新目标节点在资源数据库中的存储信息。

步骤14：根据所述目标节点所添加的第二微服务的进程号将所述当前请求任务分配至所述第二微服务。

由上可见，本发明提供的微服务分配方法响应于当前请求任务，根据多个节点对应的服务器的当前可用资源确定目标节点。然后根据资源数据库中该目标节点对应的服务器具有的多个第一微服务的当前运行资源，与资源数据库中预存储的多个第一微服务的资源阈值，确定多个第一微服务的当前可用资源是否满足当前请求任务的需求资源。当不满足时，启动第二微服务，并将该第二微服务的进程号添加到目标节点中，即在目标节点对应的服务器中增加第二微服务。然后利用该第二微服务处理当前请求任务。基于此，本发明在处理当前请求任务时，首先根据多个节点对应的多个服务器的当前可用资源确定目标节点，之后，不在重新确定目标节点。也就是说，不会再重新确定服务器。而当该目标节点对应的服务器中的所有微服务的可用资源均不满足当前请求任务的需求资源时，启动第二微服务，在目标节点中添加所述第二微服务的进程号，以使目标节点对应的服务器可以继续处理当前请求任务。相对于现有技术，在处理请求任务时，当一个服务器出现宕机，会切换到另一个服务器，判断该切换后的服务器的运行资源是否可用，当不可用时会再次切换服务器，这样依次判断多个服务器的可用性，本发明不仅可以节省对当前请求任务的处理时间，还可以根据大量用户同时访问网络时通过对资源的精细切分，使得访问被均衡控制。同时，当所有的第一微服务当前可用资源均不满足当前请求任务的需求资源时，启动第二微服务可以防止所有第一微服务超载造成的宕机，避免了宕机后微服务暂停服务的问题。

作为一种可实现的方式，确定多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务包括：

通过心跳检测确定目标节点相应的服务器对应的多个第一微服务均宕机时，启动第二微服务。

在实际应用中，服务器和用户端之间进行通讯，每隔一个固定时间进行一次心跳检测，检测用户端和服务器连接是否正常。例如，固定时间为1S或者2S。实施例中并不限定于此。用户端每隔固定时间发一个心跳检测数据包，服务端接收数据包回复一个固定信息表示用户端和服务器的连接正常，服务器再将当前运行资源发送给用户端，当服务端没有回复给用户端信息则表示服务端与用户端断开，此时，认为服务端发生宕机。本发明实施例中，可以利用上述方法确定第一微服务是否发生宕机。

作为一种可实现的方式，响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点之后，微服务分配方法还包括：

基于至少一个第一微服务的当前运行资源与相应资源阈值，在至少一个第一微服务的当前可用资源满足当前请求任务的需求资源的情况下，确定其中一个第一微服务为目标第一微服务；

利用目标第一微服务处理当前请求任务。

示例性的，满足当前请求任务的需求资源的第一微服务至少为两个时，目标第一微服务为至少两个第一微服务中当前可用资源最大的第一微服务。

在实际应用中，以上述例子进行说明，若只有第一微服务A的当前可用资源满足当前请求任务的需求资源，那么第一微服务A为目标第一微服务；若第一微服务A、第一微服务B、第一微服务C的当前可用资源均满足当前请求任务的需求资源，选择资源最优的作为目标第一微服务。

图2示例出本发明实施例提供一种电子设备的简化结构示意图，如图2所示，本发明实施例提供的电子设备200包括：处理器201和通信接口202。

如图2所示，上述处理器可以是一个通用中央处理器(central processing unit，CPU)，微处理器，专用集成电路(application-specific integrated circuit，ASIC)，或一个或多个用于控制本发明方案程序执行的集成电路。上述通信接口可以为一个或多个。通信接口可使用任何收发器一类的装置，用于与其他设备或通信网络通信。

如图2所示，上述终端设备还可以包括通信线路。通信线路可包括一通路，在上述组件之间传送信息。

可选的，如图2所示，该终端设备还可以包括存储器203。存储器用于存储执行本发明方案的计算机执行指令，并由处理器来控制执行。处理器用于执行存储器中存储的计算机执行指令，从而实现本发明实施例提供的方法。

如图2所示，存储器可以是只读存储器(read-only memory，ROM)或可存储静态信息和指令的其他类型的静态存储设备，随机存取存储器(random access memory，RAM)或者可存储信息和指令的其他类型的动态存储设备，也可以是电可擦可编程只读存储器(electrically erasable programmable read-only memory，EEPROM)、只读光盘(compactdisc read-only memory，CD-ROM)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质，但不限于此。存储器可以是独立存在，通过通信线路与处理器相连接。存储器也可以和处理器集成在一起。

可选的，本发明实施例中的计算机执行指令也可以称之为应用程序代码，本发明实施例对此不作具体限定。

在具体实现中，作为一种实施例，如图2所示，处理器可以包括一个或多个CPU。

在具体实现中，作为一种实施例，如图2所示，终端设备可以包括多个处理器。这些处理器中的每一个可以是一个单核处理器，也可以是一个多核处理器。

与现有技术相比，本发明实施例提供的电子设备的有益效果与上述微服务分配方法的有益效果相同，在此不做赘述。

本发明实施例提供了用于监控微服务运行及分配的分服务分配系统，该分服务分配系统包括应用层、通讯层和物理层。图3示例出本发明实施例提供的分服务分配系统300的结构示意图，应用层包括异常判断模块301、进程启动模块302、节点检索模块303和进程挂接模块304。通讯层包括访问链接转发模块305。物理层也就是数据库模块306包括计算资源基础配置模块和节点与服务进程号对应关系模块。

如图3所示，用户通过浏览器访问服务，请求会到访问转接模块，异常判断模块301响应用户的请求，将多个节点的实际的运行资源进行比较，将可用资源最大的节点分配给用户请求，例如节点1比节点2可用资源多，那么节点1作为用户请求的目标节点，异常判断模块301根据数据库实际的资源与目标节点的多个第一微服务进行比较，判断多个第一微服务的当前可用资源均不满足当前请求任务的需求资源时，分服务分配系统会调用进程启动模块302；进程启动模块302会启动新的第二微服务，并且把第二微服务的进程号存入数据库；随后运行节点检索模块303，通过异常的至少一个第一微服务的进程号找到目标节点；再运行进程挂接模块304，在目标节点添加新的第二微服务的进程号并交给访问转接模块305进行管理从而实现微服务分配的监控，同时把更新的目标节点存到数据库模块306的计算资源基础配置。其中，通讯层还包括数据交互模块，为应用层和物理程进行通讯的驱动。

与现有技术相比，本发明实施例提供的微服务分配的分服务分配系统的有益效果与上述微服务分配方法的有益效果相同，在此不做赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质中存储有指令，当指令被运行时，实现上述实施例中微服务分配方法。

与现有技术相比，本发明实施例提供的计算机可读存储介质的有益效果与微服务分配方法的有益效果相同，在此不做赘述。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机程序或指令。在计算机上加载和执行所述计算机程序或指令时，全部或部分地执行本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、终端、用户设备或者其它可编程装置。所述计算机程序或指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机程序或指令可以从一个网站站点、计算机、服务器或数据中心通过有线或无线方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是集成一个或多个可用介质的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，例如，软盘、硬盘、磁带；也可以是光介质，例如，数字视频光盘(digital video disc，DVD)；还可以是半导体介质，例如，固态硬盘(solid state drive，SSD)。

尽管在此结合各实施例对本发明进行了描述，然而，在实施所要求保护的本发明过程中，本领域技术人员通过查看附图、公开内容、以及所附权利要求书，可理解并实现公开实施例的其他变化。在权利要求中，“包括”(comprising)一词不排除其他组成部分或步骤，“一”或“一个”不排除多个的情况。单个处理器或其他单元可以实现权利要求中列举的若干项功能。相互不同的从属权利要求中记载了某些措施，但这并不表示这些措施不能组合起来产生良好的效果。

尽管结合具体特征及其实施例对本发明进行了描述，显而易见的，在不脱离本发明的精神和范围的情况下，可对其进行各种修改和组合。相应地，本说明书和附图仅仅是所附权利要求所界定的本发明的示例性说明，且视为已覆盖本发明范围内的任意和所有修改、变化、组合或等同物。显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包括这些改动和变型在内。

Claims (11)

1.一种微服务分配方法，其特征在于，所述微服务分配方法包括：

响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点；所述目标节点相应的服务器有多个第一微服务；

确定所述多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务；

在所述目标节点中添加所述第二微服务的进程号；

根据所述目标节点所添加的第二微服务的进程号将所述当前请求任务分配至所述第二微服务。

2.根据权利要求1所述的微服务分配方法，其特征在于，所述确定所述多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务包括：

基于所述多个第一微服务的当前运行资源与相应资源阈值，确定所述多个第一微服务的当前可用资源均不满足当前请求任务的需求资源时，启动第二微服务。

3.根据权利要求1所述的微服务分配方法，其特征在于，所述确定所述多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务包括：

通过心跳检测确定所述目标节点相应的服务器对应的多个第一微服务均宕机时，启动第二微服务。

4.根据权利要求1所述的微服务分配方法，其特征在于，

所述响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点包括：

响应于当前请求任务，确定多个节点相应的服务器的当前可用资源；

确定当前可用资源最大的服务器对应的节点为目标节点。

5.根据权利要求1所述的微服务分配方法，其特征在于，所述响应于当前请求任务，根据多个节点相应的服务器的当前可用资源确定目标节点之后，所述微服务分配方法还包括：

基于所述至少一个第一微服务的当前运行资源与相应资源阈值，在至少一个所述第一微服务的当前可用资源满足当前请求任务的需求资源的情况下，确定其中一个第一微服务为目标第一微服务；

利用所述目标第一微服务处理当前请求任务。

6.根据权利要求5所述的微服务分配方法，其特征在于，满足所述当前请求任务的需求资源的第一微服务至少为两个时，所述目标第一微服务为至少两个所述第一微服务中当前可用资源最大的第一微服务。

7.根据权利要求1-6任一项所述的微服务分配方法，其特征在于，在确定所述多个第一微服务均不满足当前请求任务的需求资源时，启动第二微服务后，所述微服务分配方法还包括：

在所述资源数据库中存储所述第二微服务的进程号。

8.根据权利要求1-6所述的微服务分配方法，其特征在于，所述在所述目标节点中添加第二微服务的进程号后，所述微服务分配方法还包括：

利用所述第二微服务的进程号更新所述目标节点在资源数据库中的存储信息。

9.根据权利要求1-6任一项所述的微服务分配方法，其特征在于，根据所述第一微服务的最大运行资源确定所述第一微服务的资源阈值。

10.一种电子设备，其特征在于，包括：处理器以及与处理器器耦合的通信接口，所述处理器用于运行计算机程序或指令，以实现如权利要求1～9任一项所述微服务分配方法。

11.一种计算机存储介质，其特征在于，所述计算机存储介质中存储有指令，当所述指令被运行时，实现权利要求1～9任一项所述的微服务分配方法。

Images