CN113127168A - 服务分配方法、系统、装置、服务器及介质 - Google Patents

服务分配方法、系统、装置、服务器及介质 Download PDF

Info

Publication number
CN113127168A
CN113127168A CN202110372377.XA CN202110372377A CN113127168A CN 113127168 A CN113127168 A CN 113127168A CN 202110372377 A CN202110372377 A CN 202110372377A CN 113127168 A CN113127168 A CN 113127168A
Authority
CN
China
Prior art keywords
node
service
target
user terminal
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110372377.XA
Other languages
English (en)
Inventor
余兵
唐小军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Xishima Data Technology Co ltd
Original Assignee
Shenzhen Xishima Data Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Xishima Data Technology Co ltd filed Critical Shenzhen Xishima Data Technology Co ltd
Priority to CN202110372377.XA priority Critical patent/CN113127168A/zh
Publication of CN113127168A publication Critical patent/CN113127168A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

本申请适用于计算机技术领域,提供了服务分配方法,包括:接收用户终端发送的服务分配请求;获取节点组中各节点的当前资源使用信息;根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。本申请可以在接收到用户终端的服务分配请求时,基于预先训练的节点筛选模型和各节点在当前时刻的资源使用情况,从节点组中选取当前时刻适宜被分配的节点作为目标节点,有助于实现对各节点中的服务进行均衡分配。

Description

服务分配方法、系统、装置、服务器及介质
技术领域
本申请属于计算机技术领域,尤其涉及一种服务分配方法、系统、装置、服务器及介质。
背景技术
服务通常是用于执行指定功能的程序、例程或进程。实践中,通常可以通过多个分布式节点实现一个应用,而一个节点中通常可以运行一个或多个服务,一个服务实现应用的部分或全部功能。举例来说,以提供证券行情数据分发的应用为例,可以通过多个节点实现该应用,多个节点中的任一节点可以运行一个或多个服务,一个服务可以实现分发部分或全部证券行情数据的功能。
相关技术中,通常存在某些节点中的服务被分配的频率较高,而有些节点中的服务被分配的频率较低。相关技术中,需要对各节点中的服务进行均衡分配。
发明内容
本申请实施例提供了服务分配方法、系统、装置、服务器及介质,旨在解决相关技术中对各节点中的服务分配不够均衡的问题。
第一方面,本申请实施例提供了一种服务分配方法,该方法包括:
接收用户终端发送的服务分配请求,服务分配请求用于请求被分配服务;
获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;
向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
进一步地,节点组中各节点的当前资源使用信息,包括以下任意一项或多项:用于指示节点所支持的消息类型的类型指示信息,节点最近未被分配的持续时长,节点中央处理器占用率,节点内存使用率,节点缓存占用率,节点负载个数,节点负载占比,节点空闲时长,节点带宽,节点地址。
进一步地,服务分配请求包括用于描述待访问内容的内容描述信息;以及根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点,包括:
将内容描述信息和各节点的当前资源使用信息,输入节点筛选模型,得到目标节点的节点标识,其中,目标节点与内容描述信息匹配且资源可用率满足预设筛选条件。
进一步地,内容描述信息包括以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。
进一步地,请求反馈信息还包括验证码,验证码用于在用户终端向目标节点发送连接建立请求时,供目标节点对用户终端进行验证。
第二方面,本申请实施例提供了一种服务分配系统,该系统包括:用户终端、分配服务器和节点组,其中,
用户终端,用于向分配服务器发送服务分配请求,服务分配请求用于请求被分配服务;
节点组中的节点,用于向分配服务器发送当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
分配服务器,用于接收用户终端发送的服务分配请求;获取节点组中各节点的当前资源使用信息;根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
进一步地,请求反馈信息还包括验证码;以及
用户终端,还用于向目标节点发送连接建立请求,连接建立请求包括验证码和用于描述待访问内容的内容描述信息;
目标节点,用于从目标节点中运行的至少一个服务中选取支持待访问内容的服务作为目标服务;将验证码向分配服务器发送;响应于接收到分配服务器针对验证码返回的、用于指示验证通过的信息,控制目标服务与用户终端建立访问连接。
第三方面,本申请实施例提供了一种服务分配装置,该装置包括:
请求接收单元,用于接收用户终端发送的服务分配请求,服务分配请求用于请求被分配服务;
信息获取单元,用于获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
目标确定单元,用于根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;
信息反馈单元,用于向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
第四方面,本申请实施例提供了一种服务器,包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述服务分配方法的步骤。
第五方面,本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现上述服务分配方法的步骤。
第六方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在服务器上运行时,使得服务器执行上述第一方面中任一项的服务分配方法。
本申请实施例与相关技术相比存在的有益效果是:可以在接收到用户终端的服务分配请求时,基于预先训练的节点筛选模型和各节点在当前时刻的资源使用情况,从节点组中选取当前时刻适宜被分配的节点作为目标节点,有助于实现对各节点中的服务进行均衡分配。
可以理解的是,上述第二方面至第六方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的服务分配方法应用的系统架构图;
图2是本申请一实施例提供的服务分配方法的流程示意图;
图3是本申请一实施例提供的服务分配系统的结构框图;
图4是本申请一实施例提供的服务分配系统实现服务分配的时序图;
图5是本申请一实施例提供的服务分配装置的结构示意图;
图6是本申请一实施例提供的服务器的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
为了说明本申请的技术方案,下面通过以下实施例来进行说明。
参考图1,为本申请实施例提供的一种服务分配方法应用的系统架构图。
如图1所示,系统架构可以包括用户终端101、分配服务器102和节点组103。
其中,用户终端101可以是硬件,也可以是软件。当用户终端101为硬件时,可以是支持信息输入的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当用户终端101为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。用户终端101上可以安装有各种应用,例如搜索类应用、查错类应用、股票交易类应用、股票行情数据查询类应用等。
分配服务器102可以是提供分配服务的服务器。具体地,分配服务器可以是用于对节点组103中的、各节点中的服务进行分配的服务器。实践中,分配服务器102可以接收用户终端发送的服务分配请求,服务分配请求用于请求被分配服务;获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
节点组103中的节点通常为服务器。
需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本实施例所提供的服务分配方法通常由分配服务器102执行。应该理解,图1中的用户终端、分配服务器和节点的数目仅仅是示意性的。根据实现需要,可以具有任意数目的用户终端、分配服务器和节点。
参考图2,为本申请实施例提供的一种服务分配方法的流程示意图,如图2所示的服务分配方法,包括:
步骤201,接收用户终端发送的服务分配请求。
其中,服务分配请求用于请求被分配服务。上述服务分配请求通常是用于请求被分配服务的信息。本实施例对服务分配请求的形式不做限定。
在本实施例中,服务分配方法的执行主体通常为分配服务器(例如图1所示的分配服务器102)。上述执行主体可以通过网络接收到用户终端发送的服务分配请求。
步骤202,获取节点组中各节点的当前资源使用信息。
其中,当前资源使用信息用于描述节点在当前时刻的资源使用情况。实践中,节点组中各节点的当前资源使用信息,可以包括但不限于以下任意一项或多项:用于指示节点所支持的消息类型的类型指示信息,节点最近未被分配的持续时长,节点中央处理器占用率,节点内存使用率,节点缓存占用率,节点负载个数,节点负载占比,节点空闲时长,节点带宽,节点地址。
其中,上述节点所支持的消息类型通常是节点中的服务所能提供的消息的类型。实践中,消息类型可以包括但不限于:上海证券交易所静态数据,上海证券交易所实时行情数据,上海证券交易所成交数据,上海证券交易所市场总览数据,上海证券交易所个股期权实时行情数据,深圳证券交易所公告数据,深圳证券交易所实时行情数据等。实际应用中,节点中的一个服务通常提供一种类型的消息。实践中,由于服务通常可以实现为进程,进程与进程之间通常相对独立,一个服务提供一种类型的消息,可以实现对不同类型的消息进行有效管理与分发。其中,上述节点最近未被分配的持续时长,通常是指节点最近一次未被分配的时间长度。
实践中,节点组中的节点,通常会按照预设数据发送周期实时主动地向分配服务器发送当前资源使用消息。这样,上述执行主体可以获取到节点组中各节点的当前资源使用信息。
步骤203,根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点。
其中,上述节点筛选模型可以用于分析各节点的当前资源使用信息。这里,节点筛选模型可以是公式,也可以是神经网络模型。
若节点筛选模型为一个公式,则该公式可以用于对各节点的当前资源使用信息进行计算,从而得到相应节点的资源可用率。其中,资源可用率通常用于描述节点资源未被占用的程度。这样,上述执行主体可以基于各节点当前的资源可用率,从节点组中选取节点作为目标节点,如,可以选取资源可用率最大的节点作为目标节点。
若节点筛选模型为神经网络模型,则该神经网络模型可以用于分析各节点的当前资源使用信息与目标节点标识之间的对应关系,这样,上述执行主体可以直接通过目标节点标识选取得到目标节点。
步骤204,向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
其中,请求反馈信息可以是包括目标节点的节点地址的信息。本实施例对请求反馈信息的具体形式不做限定。
这里,上述执行主体可以针对服务分配请求,向用户终端发送请求反馈信息。这样,用户终端可以采用目标节点的节点地址对目标节点中的服务进行访问。
本实施例提供的方法,可以在接收到用户终端的服务分配请求时,基于预先训练的节点筛选模型和各节点在当前时刻的资源使用情况,从节点组中选取当前时刻适宜被分配的节点作为目标节点,有助于实现对各节点中的服务进行均衡分配。
在本实施例的一些可选的实现方式中,若服务分配请求包括用于描述待访问内容的内容描述信息,则根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点,可以包括:将内容描述信息和各节点的当前资源使用信息,输入节点筛选模型,得到目标节点的节点标识。
其中,目标节点与内容描述信息匹配且资源可用率满足预设筛选条件。上述内容描述信息通常是用于描述待访问内容的信息,本实施例对内容描述信息的具体形式不做限定。上述目标节点与内容描述信息匹配,通常是指目标节点中运行有能够提供内容描述信息所描述的内容的服务。上述预设筛选条件可以是预先设定的条件。作为示例,上述预设筛选条件可以是选取对应资源可用率最大的节点作为目标节点,也可以是选取对应资源可用率第二大的节点作为目标节点。
这里,节点筛选模型可以用于分析内容描述信息和各节点的当前资源使用信息与目标节点的节点标识之间的对应关系。具体地,节点筛选模型可以是基于训练样本,利用机器学习方法,对初始模型(例如卷积神经网络(Convolutional Neural Network,CNN)、残差网络(ResNet)等)进行训练后得到的模型。
实践中,内容描述信息可以为空也可以为非空。若内容描述信息为空,则默认内容描述信息所描述的待访问内容可以为预先设定的内容。上述执行主体可以将内容描述信息和各节点的当前资源使用信息作为节点筛选模型的输入,以得到目标节点的节点标识。
可选地,节点筛选模型的初始模型可以为广义回归神经网络模型(GeneralRegression Neural Network,GRNN)。由于GRNN模型结构简单、训练简洁、学习收敛速度快、能够逼近任意非线性函数,克服局部极小值问题,可以实现仅需较少的训练样本就可以训练得到预测效果很好的节点筛选模型。需要指出的是,节点筛选模型的初始模型也可以为性能与GRNN模型近似的概率神经网络模型(Probabilistic Neural Network,PNN)。
上述实现方式中,上述内容描述信息可以包括但不限于以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。
其中,应用版本标识通常是用于标识版本的信息。由于应用通常会存在版本升级情形,内容描述信息中包括应用版本标识,可以实现给用户终端提供支持该应用版本标识所指示的版本的服务。这样,可以在用户没有及时安装升级版本的情况下给用户提供所需的数据。有助于提升用户体验。数据提供方标识通常是用于标识数据提供方的信息。数据提供方可以包括但不限于深圳证券交易所、上海证券交易所等。目标消息类型通常是用户期望获取的消息类型。本实现方式可以实现基于用户的实际需求,准确地给用户所在用户终端分配服务。
在本实施例的一些可选的实现方式中,请求反馈信息还包括验证码,验证码用于在用户终端向目标节点发送连接建立请求时,供目标节点对用户终端进行验证。
这里,在请求反馈信息中还包括验证码时,用户终端可以在向目标节点发送连接建立请求时,同时将验证码发送至目标节点。这样,目标节点可以基于该验证码对用户终端进行验证,从而确定是否与该用户终端建立连接。实践中,验证码通常具有有效时长,若用户终端在验证码的有效时长范围内向目标节点发送连接建立请求,则通常可以与目标节点中的服务建立连接。若用户终端在验证码的有效时长之后向目标节点发送连接建立请求,则通常不能与目标节点中的服务建立连接。
进一步参考图3,图3为本申请实施例提供的服务分配系统的结构框图。如图3所示地,该服务分配系统可以包括:用户终端301、分配服务器302和节点组303,其中,
用户终端301,用于向分配服务器发送服务分配请求,服务分配请求用于请求被分配服务;
节点组303中的节点,用于向分配服务器发送当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
分配服务器302,用于接收用户终端发送的服务分配请求;获取节点组中各节点的当前资源使用信息;根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
本实施例提供的系统,可以在接收到用户终端的服务分配请求时,基于预先训练的节点筛选模型和各节点在当前时刻的资源使用情况,从节点组中选取当前时刻适宜被分配的节点作为目标节点,有助于实现对各节点中的服务进行均衡分配。
需要说明的是,上述用户终端、分配服务器和节点组之间的信息交互、执行过程等内容,由于与本申请方法实施例根据同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
在本实施例的一些可选的实现方式中,若请求反馈信息还包括验证码,则此时,
用户终端,还用于向目标节点发送连接建立请求,连接建立请求包括验证码和用于描述待访问内容的内容描述信息。
目标节点,用于从目标节点中运行的至少一个服务中选取支持待访问内容的服务作为目标服务;将验证码向分配服务器发送;响应于接收到分配服务器针对验证码返回的、用于指示验证通过的信息,控制目标服务与用户终端建立访问连接。
其中,上述连接建立请求通常是用于请求建立访问连接的信息,且连接建立请求包括验证码和内容描述信息。内容描述信息通常是是用于描述待访问内容的信息。实践中,上述内容描述信息可以包括但不限于以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。上述支持待访问内容的服务,通常是能够提供上述待访问内容的服务。
这里,用户终端可以向目标节点发送连接建立请求。目标节点在接收到连接建立请求后,可以从所运行的多个服务中选取能够提供待访问内容的服务,作为目标服务。同时,目标节点还可以将验证码发送至分配服务器以实现对用户终端进行验证。若分配服务器在接收到验证码后,向目标节点返回用于指示验证通过的信息,则目标节点可以控制目标服务与用户终端建立访问连接。否则,若分配服务器在接收到验证码后,向目标节点返回用于指示验证不通过的信息,则目标服务不与用户终端建立访问连接。
本实现方式中,由于验证码通常具有有效时长,若用户终端在验证码的有效时长范围内向目标节点发送连接建立请求,则通常可以与目标节点中的服务建立连接。若用户终端在验证码的有效时长之后向目标节点发送连接建立请求,则通常不能与目标节点中的服务建立连接。这样,若被分配了目标节点的用户终端迟迟不请求建立访问连接或连接访问超时,则及时将该目标节点的服务资源分配给其它终端,可以实现对服务资源进行充分利用,有助于实现对各节点中的服务进行均衡分配。
图4为本申请实施例提供的服务分配系统实现服务分配的时序图。如图4所示地,可以通过步骤401-408实现服务分配。
步骤401,用户终端向分配服务器发送服务分配请求。
这里,服务分配请求中可以包括用于描述待访问内容的内容描述信息。内容描述信息可以包括但不限于以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。上述支持待访问内容的服务,通常是能够提供上述待访问内容的服务。
步骤402,分配服务器从节点组中选取一个节点作为目标节点。
这里,目标节点通常与内容描述信息匹配且资源可用率满足预设筛选条件。实践中,分配服务器可以将内容描述信息和各节点的当前资源使用信息,输入节点筛选模型,得到目标节点的节点标识,从而选取得到目标节点。节点筛选模型通常可以为训练后的GRNN模型。
步骤403,分配服务器向用户终端发送请求反馈信息。
这里,请求反馈信息通常包括目标节点的节点地址和临时身份令牌(token)。这里,token为前述验证码。
步骤404,用户终端向目标节点发送连接建立请求。
这里,连接建立请求中可以包括内容描述信息和token。
步骤405,目标节点从该节点中所运行的至少一个服务中选取服务,作为目标服务。
其中,目标服务通常可以提供内容描述信息所描述的待访问内容。
步骤406,目标节点将token发送至分配服务器。
步骤407,分配服务器验证token的有效性,若有效,则向目标节点返回验证通过消息。
步骤408,若验证通过,目标节点中的目标服务与用户终端建立访问连接。
进一步参考图5,对应于上文实施例的服务分配方法,图5为本申请实施例提供的服务分配装置500的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图5,该装置包括:
请求接收单元501,用于接收用户终端发送的服务分配请求,服务分配请求用于请求被分配服务;
信息获取单元502,用于获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
目标确定单元503,用于根据各节点的当前资源使用信息和预先训练的节点筛选模型,从节点组中选取节点作为目标节点;
信息反馈单元504,用于向用户终端发送包括目标节点的节点地址的请求反馈信息,实现向用户终端分配目标节点中的服务。
在一些实施例中,节点组中各节点的当前资源使用信息,包括以下任意一项或多项:用于指示节点所支持的消息类型的类型指示信息,节点最近未被分配的持续时长,节点中央处理器占用率,节点内存使用率,节点缓存占用率,节点负载个数,节点负载占比,节点空闲时长,节点带宽,节点地址。
在一些实施例中,服务分配请求包括用于描述待访问内容的内容描述信息;以及目标确定单元503可以具体用于:
将内容描述信息和各节点的当前资源使用信息,输入节点筛选模型,得到目标节点的节点标识,其中,目标节点与内容描述信息匹配且资源可用率满足预设筛选条件。
在一些实施例中,内容描述信息包括以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。
在一些实施例中,请求反馈信息还包括验证码,验证码用于在用户终端向目标节点发送连接建立请求时,供目标节点对用户终端进行验证。
本实施例提供的装置,可以在接收到用户终端的服务分配请求时,基于预先训练的节点筛选模型和各节点在当前时刻的资源使用情况,从节点组中选取当前时刻适宜被分配的节点作为目标节点,有助于实现对各节点中的服务进行均衡分配。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例根据同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
进一步参考图6,图6为本申请一实施例提供的服务器600的结构示意图。如图6所示,该实施例的服务器600包括:至少一个处理器601(图6中仅示出一个处理器)、存储器602以及存储在存储器602中并可在至少一个处理器601上运行的计算机程序603,例如服务分配程序。处理器601执行计算机程序603时实现上述任意各个方法实施例中的步骤。处理器601执行计算机程序603时实现上述各个服务分配方法的实施例中的步骤。处理器601执行计算机程序603时实现上述各装置实施例中各模块/单元的功能,例如图5所示单元501至504的功能。
示例性的,计算机程序603可以被分割成一个或多个模块/单元,一个或者多个模块/单元被存储在存储器602中,并由处理器601执行,以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序603在服务器600中的执行过程。例如,计算机程序603可以被分割成请求接收单元,信息获取单元,目标确定单元,信息反馈单元,各单元具体功能在上述实施例中已有描述,此处不再赘述。
服务器600可以是服务器、台式电脑、平板电脑、云端服务器和移动终端等计算服务器。服务器600可包括,但不仅限于,处理器601,存储器602。本领域技术人员可以理解,图6仅仅是服务器600的示例,并不构成对服务器600的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如服务器还可以包括输入输出服务器、网络接入服务器、总线等。
所称处理器601可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器602可以是服务器600的内部存储单元,例如服务器600的硬盘或内存。存储器602也可以是服务器600的外部存储服务器,例如服务器600上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器602还可以既包括服务器600的内部存储单元也包括外部存储服务器。存储器602用于存储计算机程序以及服务器所需的其他程序和数据。存储器602还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/服务器和方法,可以通过其它的方式实现。例如,以上所描述的装置/服务器实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。根据这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种服务分配方法,其特征在于,所述方法包括:
接收用户终端发送的服务分配请求,所述服务分配请求用于请求被分配服务;
获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
根据各节点的当前资源使用信息和预先训练的节点筛选模型,从所述节点组中选取节点作为目标节点;
向所述用户终端发送包括所述目标节点的节点地址的请求反馈信息,实现向所述用户终端分配所述目标节点中的服务。
2.根据权利要求1所述的方法,其特征在于,所述节点组中各节点的当前资源使用信息,包括以下任意一项或多项:用于指示节点所支持的消息类型的类型指示信息,节点最近未被分配的持续时长,节点中央处理器占用率,节点内存使用率,节点缓存占用率,节点负载个数,节点负载占比,节点空闲时长,节点带宽,节点地址。
3.根据权利要求1所述的方法,其特征在于,所述服务分配请求包括用于描述待访问内容的内容描述信息;以及所述根据各节点的当前资源使用信息和预先训练的节点筛选模型,从所述节点组中选取节点作为目标节点,包括:
将所述内容描述信息和各节点的当前资源使用信息,输入所述节点筛选模型,得到所述目标节点的节点标识,其中,所述目标节点与所述内容描述信息匹配且资源可用率满足预设筛选条件。
4.根据权利要求3所述的方法,其特征在于,所述内容描述信息包括以下任意一项或多项:应用版本标识,数据提供方标识,目标消息类型。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述请求反馈信息还包括验证码,所述验证码用于在所述用户终端向所述目标节点发送连接建立请求时,供所述目标节点对所述用户终端进行验证。
6.一种服务分配系统,其特征在于,所述系统包括:用户终端、分配服务器和节点组,其中,
所述用户终端,用于向分配服务器发送服务分配请求,所述服务分配请求用于请求被分配服务;
所述节点组中的节点,用于向所述分配服务器发送当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
所述分配服务器,用于接收所述用户终端发送的服务分配请求;获取所述节点组中各节点的当前资源使用信息;根据各节点的当前资源使用信息和预先训练的节点筛选模型,从所述节点组中选取节点作为目标节点;向所述用户终端发送包括所述目标节点的节点地址的请求反馈信息,实现向所述用户终端分配所述目标节点中的服务。
7.根据权利要求6所述的系统,其特征在于,所述请求反馈信息还包括验证码;以及
所述用户终端,还用于向所述目标节点发送连接建立请求,所述连接建立请求包括所述验证码和用于描述待访问内容的内容描述信息;
所述目标节点,用于从所述目标节点中运行的至少一个服务中选取支持所述待访问内容的服务作为目标服务;将所述验证码向所述分配服务器发送;响应于接收到所述分配服务器针对所述验证码返回的、用于指示验证通过的信息,控制所述目标服务与所述用户终端建立访问连接。
8.一种服务分配装置,其特征在于,所述装置包括:
请求接收单元,用于接收用户终端发送的服务分配请求,所述服务分配请求用于请求被分配服务;
信息获取单元,用于获取节点组中各节点的当前资源使用信息,当前资源使用信息用于描述节点在当前时刻的资源使用情况;
目标确定单元,用于根据各节点的当前资源使用信息和预先训练的节点筛选模型,从所述节点组中选取节点作为目标节点;
信息反馈单元,用于向所述用户终端发送包括所述目标节点的节点地址的请求反馈信息,实现向所述用户终端分配所述目标节点中的服务。
9.一种服务器,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述的方法。
10.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的方法。
CN202110372377.XA 2021-04-07 2021-04-07 服务分配方法、系统、装置、服务器及介质 Pending CN113127168A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110372377.XA CN113127168A (zh) 2021-04-07 2021-04-07 服务分配方法、系统、装置、服务器及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110372377.XA CN113127168A (zh) 2021-04-07 2021-04-07 服务分配方法、系统、装置、服务器及介质

Publications (1)

Publication Number Publication Date
CN113127168A true CN113127168A (zh) 2021-07-16

Family

ID=76775098

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110372377.XA Pending CN113127168A (zh) 2021-04-07 2021-04-07 服务分配方法、系统、装置、服务器及介质

Country Status (1)

Country Link
CN (1) CN113127168A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113992758A (zh) * 2021-12-27 2022-01-28 杭州金线连科技有限公司 一种系统数据资源的动态调度方法、装置及电子设备
CN114205412A (zh) * 2021-12-17 2022-03-18 平安壹钱包电子商务有限公司 信息推送方法、装置、服务器及存储介质
CN114615314A (zh) * 2022-03-08 2022-06-10 珠海金山办公软件有限公司 会话建立方法、装置、电子设备及存储介质
CN114697322A (zh) * 2022-02-17 2022-07-01 许强 一种基于云端业务处理的数据筛选方法
CN115150273A (zh) * 2022-06-30 2022-10-04 联想(北京)有限公司 一种升级处理方法及装置
CN115277377A (zh) * 2022-05-19 2022-11-01 亿点云计算(珠海)有限公司 基于分布式云的服务获取方法、装置、终端及存储介质
WO2023130960A1 (zh) * 2022-01-07 2023-07-13 中国电信股份有限公司 服务资源确定方法、装置及服务资源确定系统
TWI836300B (zh) 2021-12-06 2024-03-21 致茂電子股份有限公司 金融商品交易系統與方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160301624A1 (en) * 2015-04-10 2016-10-13 International Business Machines Corporation Predictive computing resource allocation for distributed environments
CN110311987A (zh) * 2019-07-24 2019-10-08 中南民族大学 微服务器的节点调度方法、装置、设备及存储介质
CN111200649A (zh) * 2019-12-30 2020-05-26 北京知道创宇信息技术股份有限公司 一种调度方法及装置、调度模型生成方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160301624A1 (en) * 2015-04-10 2016-10-13 International Business Machines Corporation Predictive computing resource allocation for distributed environments
CN110311987A (zh) * 2019-07-24 2019-10-08 中南民族大学 微服务器的节点调度方法、装置、设备及存储介质
CN111200649A (zh) * 2019-12-30 2020-05-26 北京知道创宇信息技术股份有限公司 一种调度方法及装置、调度模型生成方法及装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI836300B (zh) 2021-12-06 2024-03-21 致茂電子股份有限公司 金融商品交易系統與方法
CN114205412A (zh) * 2021-12-17 2022-03-18 平安壹钱包电子商务有限公司 信息推送方法、装置、服务器及存储介质
CN113992758A (zh) * 2021-12-27 2022-01-28 杭州金线连科技有限公司 一种系统数据资源的动态调度方法、装置及电子设备
CN113992758B (zh) * 2021-12-27 2022-04-19 杭州金线连科技有限公司 一种系统数据资源的动态调度方法、装置及电子设备
WO2023130960A1 (zh) * 2022-01-07 2023-07-13 中国电信股份有限公司 服务资源确定方法、装置及服务资源确定系统
CN114697322A (zh) * 2022-02-17 2022-07-01 许强 一种基于云端业务处理的数据筛选方法
CN114697322B (zh) * 2022-02-17 2024-03-22 上海生慧樘科技有限公司 一种基于云端业务处理的数据筛选方法
CN114615314A (zh) * 2022-03-08 2022-06-10 珠海金山办公软件有限公司 会话建立方法、装置、电子设备及存储介质
CN114615314B (zh) * 2022-03-08 2024-03-29 珠海金山办公软件有限公司 会话建立方法、装置、电子设备及存储介质
CN115277377A (zh) * 2022-05-19 2022-11-01 亿点云计算(珠海)有限公司 基于分布式云的服务获取方法、装置、终端及存储介质
CN115150273A (zh) * 2022-06-30 2022-10-04 联想(北京)有限公司 一种升级处理方法及装置

Similar Documents

Publication Publication Date Title
CN113127168A (zh) 服务分配方法、系统、装置、服务器及介质
CN108462760B (zh) 电子装置、集群访问域名自动生成方法及存储介质
CN110677405B (zh) 一种数据处理方法、装置、电子设备及存储介质
CN110753131A (zh) 微服务分布式限流方法及装置、存储介质和电子设备
CN111163130B (zh) 一种网络服务系统及其数据传输方法
CN109768879B (zh) 目标业务服务器的确定方法、装置及服务器
CN111954173B (zh) 发送短信的方法、装置、服务器及计算机可读存储介质
CN109152061B (zh) 通道调配方法、装置、服务器及存储介质
CN109857577B (zh) 访问控制方法、装置、介质及电子设备
CN109597643A (zh) 应用灰度发布方法、装置、电子设备及存储介质
CN101499995A (zh) 一种业务调度的方法及用于业务调度的系统、装置
CN109040263B (zh) 基于分布式系统的业务处理方法及装置
CN106649638B (zh) 一种大数据获取方法
CN103095824A (zh) 文件上传控制方法及系统
US20180248940A1 (en) Distributed data management
CN113361913A (zh) 一种通信业务编排方法、装置、计算机设备及存储介质
US11102145B2 (en) Resource sharing method, computer device, and storage medium
CN103428260A (zh) 用于将终端分配到服务器并高效地提示终端的系统及方法
CN114090623A (zh) 一种缓存资源的创建方法、装置、电子设备及存储介质
CN112148467A (zh) 计算资源的动态分配
CN114003337A (zh) 访问请求的分配方法及装置
CN105763616A (zh) 资源下载方法及装置
CN107045452B (zh) 虚拟机调度方法和装置
CN113765964A (zh) 一种分布式系统服务分发的方法和装置
CN112087401A (zh) 分布式存储中实现服务质量的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20210716

RJ01 Rejection of invention patent application after publication