CN112925636A - 一种请求调度、处理方法和装置 - Google Patents
一种请求调度、处理方法和装置 Download PDFInfo
- Publication number
- CN112925636A CN112925636A CN201911242125.4A CN201911242125A CN112925636A CN 112925636 A CN112925636 A CN 112925636A CN 201911242125 A CN201911242125 A CN 201911242125A CN 112925636 A CN112925636 A CN 112925636A
- Authority
- CN
- China
- Prior art keywords
- request
- configuration information
- server
- configuration
- application
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 13
- 238000012545 processing Methods 0.000 claims abstract description 86
- 238000009826 distribution Methods 0.000 claims abstract description 49
- 238000000034 method Methods 0.000 claims abstract description 45
- 239000011159 matrix material Substances 0.000 claims abstract description 19
- 238000003860 storage Methods 0.000 claims description 18
- 238000004891 communication Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000004422 calculation algorithm Methods 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 12
- 238000012986 modification Methods 0.000 description 11
- 230000004048 modification Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 238000012827 research and development Methods 0.000 description 8
- 238000012544 monitoring process Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000003111 delayed effect Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000000344 soap Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
- G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种请求调度、处理方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：接收应用端传输的获取配置信息的请求，根据请求的数量和服务器的数量，构建对请求的分配矩阵；获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合请求的数量，计算每种分配方式处理请求的处理时长；按照处理时长最小的分配方式，将请求分配至相应服务器，之后将接收自相应服务器的配置信息传输至应用端。该实施方式通过服务端智能路由模块的请求分流，可以实现请求的快速处理，并且高效利用所有的服务器；对于高权重的配置号赋予高优先级，保证优先级较高的请求可以优先被处理，以避免请求量较大时影响重要信息的发布。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种请求调度、处理方法和装置。
背景技术
企业均依赖于信息系统，信息系统的更新和升级是日常最基本的核心业务，其主要包含有客户端和应用端，且应用端是客户端的服务基础，以针对用户需求进行请求执行。
本发明主要针对于轻逻辑的上线修改，而轻逻辑主要涉及有配置信息的修改，不涉及或较少涉及代码的修改。在实现本发明的过程中，发明人发现现有技术至少存在如下问题：
企业信息上线请求较为频繁，且每次更改都需要履行完成的上线流程，整个操作耗费人力较大，浪费上线、测试时间，且考虑误操作、误写等都会给上线带来一定的风险。
发明内容
有鉴于此，本发明实施例提供一种请求调度、处理方法和装置，至少能够解决现有技术对于应用端配置信息的修改不易，耗费时间、人力成本较大，且风险较高。
为实现上述目的，根据本发明实施例的一个方面，提供了一种请求调度的方法，包括：
接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
可选的，在所述接收应用端传输的获取配置信息的请求之后，还包括：获取所述请求中的配置号，根据所述配置号的权重值，确定所述请求在待分配请求队列中的排列位置，进而提取排列位置位于预定排列位置之前的请求进行分配处理。
可选的，所述确定所述请求在待分配请求队列中的排列位置，还包括：若所述配置号处于预定白名单中，则将所述请求排列在所述待分配请求队列中的队首位置。
为实现上述目的，根据本发明实施例的一个方面，提供了一种请求处理的方法，包括：
服务器根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；否则，将所述配置信息反馈至所述应用端。
可选的，在所述服务器根据所述配置号进行记录编号获取之前，还包括：
利用信息摘要算法，对所述请求中的所述配置号和应用号进行处理，得到令牌；其中，所述应用号为在通信实体上运行的应用程序的编号；
若所述令牌与所述请求中的令牌一致，则确定所述请求为鉴权通过的请求。
为实现上述目的，根据本发明实施例的一个方面，提供了另一种请求处理的方法，包括：
应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；以及
接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，之后将提取的配置信息传输至所述客户端。
可选的，还包括：
按照预定周期，传输所述获取配置信息的请求至服务端；和/或
若在本地内存中查询不存在所述配置信息，则传输所述获取配置信息的请求至所述服务端。
为实现上述目的，根据本发明实施例的另一方面，提供了一种请求调度装置，包括：
请求接收模块，用于接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
时长计算模块，用于获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
请求分配模块，用于按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
可选的，所述请求接收模块，还用于：获取所述请求中的配置号，根据所述配置号的权重值，确定所述请求在待分配请求队列中的排列位置，进而提取排列位置位于预定排列位置之前的请求进行分配处理。
可选的，所述请求接收模块，还用于：若所述配置号处于预定白名单中，则将所述请求排列在所述待分配请求队列中的队首位置。
为实现上述目的，根据本发明实施例的另一方面，提供了一种请求处理装置，包括：
编号获取模块，用于服务器根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
编号判断模块，用于判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；否则，将所述配置信息反馈至所述应用端。
可选的，还包括请求鉴权模块，用于：
利用信息摘要算法，对所述请求中的所述配置号和应用号进行处理，得到令牌；其中，所述应用号为在通信实体上运行的应用程序的编号；
若所述令牌与所述请求中的令牌一致，则确定所述请求为鉴权通过的请求。
为实现上述目的，根据本发明实施例的另一方面，提供了另一种请求处理装置，包括：
信息更新模块，用于应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；
信息提取模块，用于接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，之后将提取的配置信息传输至所述客户端。
可选的，还包括请求发送模块，用于：
按照预定周期，传输所述获取配置信息的请求至服务端；和/或
若在本地内存中查询不存在所述配置信息，则传输所述获取配置信息的请求至所述服务端。
为实现上述目的，根据本发明实施例的再一方面，提供了一种请求调度、处理电子设备。
本发明实施例的电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现上述任一所述的请求调度、处理方法。
为实现上述目的，根据本发明实施例的再一方面，提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现上述任一所述的请求调度、处理方法。
根据本发明所述提供的方案，上述发明中的一个实施例具有如下优点或有益效果：用户在用户端请求配置信息时，可以优先从应用端本地内存中获取，此时若服务端中配置信息发生变更，应用端基于其周期性获取或服务端周期性下发指令至应用端，以对应用端内存中的配置信息更新，以此动态实现线上配置的更新操作，达到了动态更新数据的功能。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是根据本发明实施例的一种请求调度方法的主要流程示意图；
图2是根据本发明实施例的一种请求处理方法的流程示意图；
图3是根据本发明实施例的另一种请求处理方法的流程示意图；
图4是根据本发明实施例的一具体地请求调度、处理的框架图；
图5是根据本发明实施例的一种请求调度装置的主要模块示意图；
图6是根据本发明实施例的一种请求处理装置的主要模块示意图；
图7是根据本发明实施例的另一种请求处理装置的主要模块示意图；
图8是本发明实施例可以应用于其中的示例性系统架构图；
图9是适于用来实现本发明实施例的移动设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
参见图1，示出的是本发明实施例提供的一种请求调度方法的主要流程图，包括如下步骤：
S101：接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
S102：获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
S103：按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
对于企业信息系统，其请求数量可以达到几万、几十万不等，通常需要使用分布式服务器系统进行请求智能调度，例如将请求分配到当前反应速度最快的服务器中，以此提高请求处理效率。
上述实施方式中，对于步骤S101，服务端接收应用端传输的请求，为避免请求即时处理导致与服务端之间传输过于频繁、传输通道被过度占用的情况，本发明采用周期性发送，例如应用端将10s内接收自客户端的所有请求一次性发送至服务端。
服务端中设置有多个服务器，请求在每个服务器中均以队列形式呈现。假若现有3台服务器，根据服务器的标识得到每台服务器待处理的的请求队列如下：
表1服务器的请求队列
进一步的，服务端同一时刻可能接收到多个请求，为保证重要配置信息在应用端的及时更新和及时反馈客户端(具体参见后续图3描述)，可以预先根据配置号(对配置文件/信息的编号)、服务动态设置进行智能路由调度，以保证重要配置号的请求能够优先处理。
以配置号为例进行的优先等级设置，例如配置号1>配置号2>配置号3，对于配置号为1的请求，可以直接排列至请求队列的队首，后续可以直接提取队首的请求实现优先处理。对于优先等级设置还可以按照配置号的权重值进行，例如0.5、0.8。
进一步的，对于配置号均为1的请求，可以按照请求的接收时间进行先后排序。例如8:00的请求1位于7:50的请求2之后，后续会优先处理7:50的请求2。
实际操作中主要按照上述设置的配置号优先等级进行请求排序，但对于一些特殊情况，例如紧急上线的普通配置号(即优先等级较低的配置号)，可以临时设置为重点更新配置号，以实现配置信息的加快更新。
可以通过研发人员在服务端的优先级设置中创建白名单，在未有特殊情况时，该白名单中信息可以为空，但对于特殊情况，该白名单中存储有研发人员添加的配置号。
因此，在上述通过配置号优先等级进行请求排序的基础上，还可以通过白名单进行调整，以将处于白名单中配置号的请求排列至队首位置，便于优先处理。
对于步骤S102和S103，应用端发送至服务端的请求通常为批次发送，且通常在上一批次处理完毕后，才开始处理下一批次请求。所以本发明对于请求调度考虑的一个因素即为处理请求的时长，且采用时长最小化方法确定分配方式。
设定单个服务器中对于单个请求的平均处理时长为：duration服务器i；其中，i表示第i个服务器。对于该平均处理时长，可以通过分析服务器i在预定历史时长内所处理的任务量确定，例如5分钟内处理了10个请求，则对于每个请求的平均处理时长为30s。
同样以表1为例，获取每个服务器对于单个请求的平均处理时长：
表2请求平均处理时长
为了方便表达，将以上涉及到的所有参数，比如收到的所有请求和服务器等参数，用下面的表格表达：
表3所涉及的参数
本发明创新定义了最小化整体处理时间的单一目标优化函数：
最小化：
其中，taskij∈[0,1]，当taskij＝1时代表将请求j分配到了服务器i，此时服务器i中等待处理的请求量＝原来请求队列中的请求量(即第一数量)与本次待处理请求(为1)之和，而taskij＝0则相反。
假若现有两个请求——请求1和请求2，且最优解为将这两个请求分配至服务器1中。用数学表达式所表达的最优解即为：task11＝1(请求1分配到服务器1中)、task12＝1(请求2分配到服务器1中)，而剩下的其他值均为0，如task21＝0，表示请求1未分配到服务器2中。
同样以上述2个请求、3个服务器为例，将这2个请求分配至服务器中的分配方式共有3*3＝9种；其中，这9种中请求可能同时分配至同一服务器中，也可能分配至不同服务器中。
依据上述公式计算每种分配方式处理所有请求所需的处理总时长。以请求1分配至服务器1、请求2分配至服务器2为例：
1)对于服务器1：task11＝1，服务器1处理请求队列服务器1与请求1的处理时长为duration服务器1*(|请求队列服务器1|+1)＝30*(10+1)＝330ms；
2)对于服务器2：task22＝1，服务器2处理请求队列服务器2与请求2的处理时长为duration服务器2*(|请求队列服务器2|+1)＝33*(15+1)＝528ms；
3)对于服务器3：处理请求队列服务器3的处理时长为duration服务器3*|请求队列服务器3|＝36*12＝432ms；
4)由此可得所有请求处理完毕所消耗的总时长为：330+528+432＝1290ms。
重复上述过程，得到每种分配方式处理完毕所有请求所消耗的总时长，之后将总时长最小的分配方式作为对本批次请求的分配方式，例如请求1分配至服务器1、请求2分配至服务器2。
以上公式可以确保整体服务器的运行执行时间最少，所得向量taskij即为最终输入结果，其定义了业务请求j和其所被分配的服务器i，最终会将该请求归置于被分配的服务器i的请求队列中。
上述实施例所提供的方法，通过服务端智能路由模块的请求分流，可以实现请求的快速处理，并且高效利用所有的服务器；对于高权重的配置号赋予高优先级，保证优先级较高的请求可以优先被处理，以避免请求量较大时影响重要信息的发布。
参见图2，示出了根据本发明实施例的一种请求处理方法流程示意图，包括如下步骤：
S201：接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
S202：获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
S203：按照处理时长最小的分配方式，将所述请求分配至相应服务器；
S204：服务器利用信息摘要算法，对所述请求中的所述配置号和应用号进行处理，得到令牌；其中，所述应用号为在通信实体上运行的应用程序的编号；
S205：若所述令牌与所述请求中的令牌一致，则确定所述请求为鉴权通过的请求；
S206：根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
S207：判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；
S208：否则，将所述配置信息反馈至所述应用端。
上述实施方式中，对于步骤S201～S203可参见图1所示步骤S101～S103的描述，在此不再赘述。
上述实施方式中，对于步骤S204～S205，服务器对于所分配到请求需进行鉴权操作，只有满足鉴权要求的请求才能够通过，鉴权失败的则会返回失败信息至应用端。
应用端传输至服务端的请求，除了包含有配置号之外，还包括有记录编号、应用名及其对应的应用号、令牌TOKEN、用户信息等；其中：
1)记录编号对应于对配置信息的修改编号(类似于版本号)，且应用端对于配置信息的记录编号小于或等于服务端中的当前记录编号，例如1.1<1.2；
2)应用号，指的是在通信实体上运行的应用程序的编号，配置号和应用号之间具有对应关系。例如在同一APP中运行的功能性应用的应用号不同，如524和268。
实际操作中，应用程序中同一功能可能会拆分为多个模块进行处理，每个模块的配置信息对应有一个配置号，因此配置号与应用号之间为多对一的对应关系，例如应用号——配置号1、配置号2。客户端传输至应用端的配置信息获取请求，即为用户点击操作某个配置模块后所生成的请求，因此请求中直接携带有该配置模块所对应的应用号。
服务器对于请求的鉴权操作，主要是对请求进行MD5处理得到令牌，具体地，对于请求中的配置号和应用号进行MD5处理，并判断所得令牌与请求中的令牌是否一致。若一致，则表示请求或研发人员有权限处理该请求并进行信息配置操作。
需要说明的是，虽可以通过服务端鉴权并分配请求，但当请求量过大时易出现鉴权瓶颈导致请求分配延迟的情况，本发明通过在服务端分配请求、服务器鉴权请求的操作，将鉴权操作设置在服务器中，以此有效提高请求分配速度以及鉴权效率。
对于步骤S206～S208，在对请求做验证后、返回配置信息至应用端之前，服务器需判断应用端的配置信息是否是最新版。
对于该判断，主要是判断上游传输的配置信息记录编号是否与请求中配置信息的记录编号一致，若一致，则表明服务端未更改配置信息，应用端的配置信息为最新版，直接返回不需要更新的标志(如boolean)即可。
但若记录编号不一致，即表示应用端的配置信息与服务端的配置信息不同时、且服务端的配置信息为最新版本的配置信息。服务器调用调用更新模块，从中间件系统(如Redis)中进行配置信息获取并返回给应用端，实现信息同步。
后续对于用户端从应用端的配置信息获取请求，可以直接从应用端获取即可，无需通过服务端，以此降低了服务端的服务压力(具体见后续图3描述)。
进一步的，中间件系统仅作为服务端的信息缓存模块，用于提供数据的便捷快速获取，只有在中间件系统中没有查找到配置信息时才会从存储模块中获取。存储模块存储有所有的记录信息，包括配置信息、更新信息、人员鉴权信息等。
研发侧在从服务端得到最新配置信息后，可以在其基础上进行增删改，并携带各种更新参数一同发送至服务端，服务端会将修改后的最新配置信息同步到存储模块中。之后存储模块将会更新中间件系统的配置信息，以保持存储信息的一致性。
上述实施例所提供的方法，通过服务端中的服务器进行请求鉴权，判断请求是否有权处理，之后通过记录编码比对，判断应用端的配置信息是否是最新版，以此实现应用端配置信息的更新/保留。
参见图3，示出了根据本发明实施例的另一种请求处理方法流程示意图，包括如下步骤：
S301：接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
S302：获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
S303：按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端；
S304：应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；
S305：接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，将提取的配置信息传输至所述客户端。
上述实施方式中，对于步骤S301～S303可参见图1所示步骤S101～S103的描述，在此不再赘述。
上述实施方式中，对于步骤S304，消费者在客户端访问网站/页面，客户端响应于用户的操作生成获取配置信息的请求并发送至应用端；其中，客户端用于支持面向消费者的交互服务和UI界面展示，例如搜索、订单、图片读取。
应用端用于为客户端提供服务，处理各种配置信息的获取与更新。当应用端接收到客户端传输的配置信息获取请求时，可以直接从内存/JVM(Java Virtual Machine，Java虚拟机)中获取，无需连接服务端，以此降低服务端的服务压力。
另外，配置信息包含两部分，一部分是系统内部配置的信息(如spring容器配置)，随系统的启动可以自行加载；另一部存储于应用端的内存/JVM中，与配置号对应。因此，应用端对于相同请求的访问，最终均通过配置号进行配置信息获取。
有些配置信息的变动较为频繁，例如大促期间的广告词。虽然应用端本地可以存储，但可能存储的不是最新版本的配置信息，由此本发明在应用端设置有定时worker，按照预定周期向服务端发送获取配置信息的请求，或者服务端在配置信息更新后下发更新指令至应用端，以此实现本地内存/JVM中配置信息的动态更新。
但当在应用端内存中查询不存在(主要针对于应用端第一次启动时)、或者worker启动更新配置导致没有对应的配置信息时，应用端可以传输获取配置信息的请求至服务端，以从服务端获取配置信息并转发至用户端，避免出现信息获取延迟的问题。
另外，实际操作中可能会存在网络异常导致服务端未返回配置信息的情况，此时可以执行等待或请求重发操作，最终从服务端得到最新的配置信息，应用端在接收到配置信息后都会覆盖式更新本地内存中的配置信息。
上述实施例所提供的方法，应用端基于worker定时从服务端中获取配置信息进行信息更新，后续对于用户端所需的配置信息可以优先从本地内存中提取，若本地内存没有，则调用远程服务端获取，以此实现了最新配置信息的获取。
参见图4，示出的是本发明实施例提供的一具体地请求调度、处理方法的框架图，包括如下步骤：
1、应用端：用于服务客户端，响应于用户在客户端点击的配置模块，生成/接收配置信息获取请求，之后：
首先在本地内存/JVM中，基于请求中的配置号进行配置信息获取，具体见1.本地容器获取缓存的配置信息；相关联的还有：4.定时器定时从服务端中获取最新的配置信息，之后3.本地加载对配置信息进行更新。
若本地查询不存在，则传输配置信息获取请求至服务端，具体见2.固定任务远程调用业务配置信息。
2、服务端，包含有应用端-流程传输模块、智能调度模块、升级更新模块、服务端-流程传输模块以及研发侧-更新配置等；其中：
1)传输模块：应用端和服务端都需要通过该模块进行数据请求与传输，它是自动装备系统对外提供的统一接口，可以提供各种通信方式(HTTP/SOAP/SOCKET等)，便于各端进行业务通信。
2)智能调度模块，包含有优先请求单元、调度计算单元以及监控队列单元，其中：
①优先请求单元，存储有配置号的优先等级以及白名单；
②调度计算单元，用于计算整体请求处理时长，进行请求调度；
③监控队列单元，用于监控服务器中请求队列的生产和消费速度，并实时反馈给调度计算单元：
i.维护每个服务器上处于等候处理的请求队列，如请求队列服务器1；
ii.实时反馈请求队列的处理时长给调度计算单元，以实现请求的合理分配；
ii.依赖专有的服务器实现请求监控，例如独立监控的服务器。
3)升级更新模块，包括验证单元、更新单元、获取单元以及存储单元，其中：
①验证单元，用于服务器对请求进行鉴权，判断是否有权限处理该请求，若无权限，则返回鉴权失败信息至应用端；
②更新单元，用于服务端对请求中的最新记录编号与服务端中的记录编号(均与配置号对应)进行比较，若不一致，则提取配置信息并返回给应用端进行配置信息更新；
③获取单元，用于从Redis中获取最新配置信息或接收研发侧传输的修改后的配置信息；
④存储单元，用于存储配置信息，并同步更新至Redis等缓存数据库。
4)研发侧-更新配置：对研发人员提供更新配置的接口与实现，分为三个单元：
①配置基本信息修改：开发人员更新配置号对应的内容，并校验格式，以减少上线误操作带来的风险；例如Xml格式；
②配置优先级设置：针对一些紧急上线的普通配置号，可以临时设置为重点更新配置号，并存储至白名单中，实现快速更新；
③配置更新说明：每次更新配置要对更新内容需附带更新说明，便于后续内容追溯。
本发明实施例所提供的方法，用户在用户端请求配置信息时，可以优先从应用端本地内存中获取，此时若服务端中配置信息发生变更，应用端基于其周期性获取或服务端周期性下发指令至应用端，以对应用端内存中的配置信息更新，以此动态实现线上配置的更新操作，达到了动态更新数据的功能。
参见图5，示出了本发明实施例提供的一种请求调度装置500的主要模块示意图，包括：
请求接收模块501，用于接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
时长计算模块502，用于获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
请求分配模块503，用于按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
本发明实施装置中，所述请求接收模块501，还用于：
获取所述请求中的配置号，根据所述配置号的权重值，确定所述请求在待分配请求队列中的排列位置，进而提取排列位置位于预定排列位置之前的请求进行分配处理。
本发明实施装置中，所述请求接收模块501，还用于：
若所述配置号处于预定白名单中，则将所述请求排列在所述待分配请求队列中的队首位置。
参见图6，示出了本发明实施例提供的一种请求处理装置600的主要模块示意图，包括：
编号获取模块601，用于服务器根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
编号判断模块602，用于判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；否则，将所述配置信息反馈至所述应用端。
本发明实施装置中还包括请求鉴权模块603(图中未标出)，用于：
利用信息摘要算法，对所述请求中的所述配置号和应用号进行处理，得到令牌；其中，所述应用号为在通信实体上运行的应用程序的编号；
若所述令牌与所述请求中的令牌一致，则确定所述请求为鉴权通过的请求。
参见图7，示出了本发明实施例提供的另一种请求处理装置700的主要模块示意图，包括：
信息更新模块701，用于应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；
信息提取模块702，用于接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，之后将提取的配置信息传输至所述客户端。
本发明实施装置还包括请求发送模块703(图中未标出)，用于：
按照预定周期，传输所述获取配置信息的请求至服务端；和/或若在本地内存中查询不存在所述配置信息，则传输所述获取配置信息的请求至所述服务端。
另外，在本发明实施例中所述装置的具体实施内容，在上面所述方法中已经详细说明了，故在此重复内容不再说明。
本发明实施例所提供的装置，至少存在如下有益效果：
1)实现对请求的智能分流调度控制，并优先对重要配置信息进行更新，避免出现请求量较大时重要信息发布延迟的情况；且研发人员可以根据实际需求进行配置号等级设定，具有设置灵活性；
2)对上线配置参数与系统功能代码修改进行解耦，对配置格式进行监控，减少上线误操作所带来的风险；
3)通过应用端与服务端、服务器、研发侧之间的信息交互，实现了配置信息在应用端的周期性更新；
4)当客户端请求配置信息时，可以直接从应用端获取，以此提高了配置信息的获取效率，减少上线风险和上线时长，同时无需频繁测试和重新发布应用。
图8示出了可以应用本发明实施例的示例性系统架构800。
如图8所示，系统架构800可以包括终端设备801、802、803，网络804和服务器805(仅仅是示例)。网络804用以在终端设备801、802、803和服务器805之间提供通信链路的介质。网络804可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备801、802、803通过网络804与服务器805交互，以接收或发送消息等。终端设备801、802、803上可以安装有各种通讯客户端应用。
终端设备801、802、803可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器805可以是提供各种服务的服务器，例如对用户利用终端设备801、802、803所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。
需要说明的是，本发明实施例所提供的方法一般由服务器805执行，相应地，装置一般设置于服务器805中。
应该理解，图8中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图9，其示出了适于用来实现本发明实施例的终端设备的计算机系统900的结构示意图。图9示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图9所示，计算机系统900包括中央处理单元(CPU)901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有系统900操作所需的各种程序和数据。CPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
以下部件连接至I/O接口905：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括请求接收模块、时长计算模块、请求分配模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，请求分配模块还可以被描述为“将请求分配至服务器的模块”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：
接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
根据本发明实施例的技术方案，提供了一种智能更新企业配置信息的方式，相比现有技术，至少存在如下有益效果：
1)实现对请求的智能分流调度控制，并优先对重要配置信息进行更新，避免出现请求量较大时重要信息发布延迟的情况；且研发人员可以根据实际需求进行配置号等级设定，具有设置灵活性；
2)对上线配置参数与系统功能代码修改进行解耦，对配置格式进行监控，减少上线误操作所带来的风险；
3)通过应用端与服务端、服务器、研发侧之间的信息交互，实现了配置信息在应用端的周期性更新；
4)当客户端请求配置信息时，可以直接从应用端获取，以此提高了配置信息的获取效率，减少上线风险和上线时长，同时无需频繁测试和重新发布应用。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。
Claims (12)
1.一种请求调度方法，其特征在于，包括：
接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
2.根据权利要求1所述的方法，其特征在于，在所述接收应用端传输的获取配置信息的请求之后，还包括：
获取所述请求中的配置号，根据所述配置号的权重值，确定所述请求在待分配请求队列中的排列位置，进而提取排列位置位于预定排列位置之前的请求进行分配处理。
3.根据权利要求2所述的方法，其特征在于，所述确定所述请求在待分配请求队列中的排列位置，还包括：
若所述配置号处于预定白名单中，则将所述请求排列在所述待分配请求队列中的队首位置。
4.一种请求处理方法，其特征在于，包括：
利用权利要求1-3中任一项所述的请求调度方法，将所述请求分配至相应服务器；以及
服务器根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；否则，将所述配置信息反馈至所述应用端。
5.根据权利要求4所述的方法，其特征在于，在所述服务器根据所述配置号进行记录编号获取之前，还包括：
利用信息摘要算法，对所述请求中的所述配置号和应用号进行处理，得到令牌；其中，所述应用号为在通信实体上运行的应用程序的编号；
若所述令牌与所述请求中的令牌一致，则确定所述请求为鉴权通过的请求。
6.一种请求处理方法，其特征在于，包括：
利用权利要求1-3中任一项所述的请求调度方法，将接收自所述相应服务器的配置信息传输至所述应用端；以及
应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；以及
接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，之后将提取的配置信息传输至所述客户端。
7.根据权利要求6所述的方法，其特征在于，还包括：
按照预定周期，传输所述获取配置信息的请求至服务端；和/或
若在本地内存中查询不存在所述配置信息，则传输所述获取配置信息的请求至所述服务端。
8.一种请求调度装置，其特征在于，包括：
请求接收模块，用于接收应用端传输的获取配置信息的请求，根据所述请求的数量和服务器的数量，构建对所述请求的分配矩阵；其中，所述分配矩阵由多种分配方式组成；
时长计算模块，用于获取各个服务器当前待处理请求的第一数量和对单个请求的处理时长，结合所述请求的数量，计算每种分配方式处理所述请求的处理时长；
请求分配模块，用于按照处理时长最小的分配方式，将所述请求分配至相应服务器，之后将接收自所述相应服务器的配置信息传输至所述应用端。
9.一种请求处理装置，其特征在于，包括：
编号获取模块，用于服务器根据所述配置号进行记录编号获取；其中，所述记录编号记录有配置信息当前的版本号，所述配置信息存储于服务端中；
编号判断模块，用于判断所述记录编号与所述请求中最新的记录编号是否相同，若相同，则反馈无需更改标志至应用端；否则，将所述配置信息反馈至所述应用端。
10.一种请求处理装置，其特征在于，包括：
信息更新模块，用于应用端接收服务端反馈的配置信息，以对本地内存中与所述配置号对应的配置信息进行更新；
信息提取模块，用于接收客户端传输的获取配置信息的请求，根据所述请求中的配置号从本地内存进行配置信息提取，之后将提取的配置信息传输至所述客户端。
11.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
12.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911242125.4A CN112925636A (zh) | 2019-12-06 | 2019-12-06 | 一种请求调度、处理方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911242125.4A CN112925636A (zh) | 2019-12-06 | 2019-12-06 | 一种请求调度、处理方法和装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112925636A true CN112925636A (zh) | 2021-06-08 |
Family
ID=76161618
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911242125.4A Pending CN112925636A (zh) | 2019-12-06 | 2019-12-06 | 一种请求调度、处理方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112925636A (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6351775B1 (en) * | 1997-05-30 | 2002-02-26 | International Business Machines Corporation | Loading balancing across servers in a computer network |
| CN104618492A (zh) * | 2015-02-11 | 2015-05-13 | 北京金和软件股份有限公司 | 一种基于多个服务器的数据处理系统 |
| CN105007336A (zh) * | 2015-08-14 | 2015-10-28 | 深圳市云舒网络技术有限公司 | 服务器的负载均衡方法及其系统 |
| CN107783831A (zh) * | 2016-08-24 | 2018-03-09 | 深圳市中兴微电子技术有限公司 | 一种任务调度方法及装置 |
| CN109104500A (zh) * | 2018-09-29 | 2018-12-28 | 广东省信息工程有限公司 | 一种动态调整的服务器负载均衡方法及装置 |
-
2019
- 2019-12-06 CN CN201911242125.4A patent/CN112925636A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6351775B1 (en) * | 1997-05-30 | 2002-02-26 | International Business Machines Corporation | Loading balancing across servers in a computer network |
| CN104618492A (zh) * | 2015-02-11 | 2015-05-13 | 北京金和软件股份有限公司 | 一种基于多个服务器的数据处理系统 |
| CN105007336A (zh) * | 2015-08-14 | 2015-10-28 | 深圳市云舒网络技术有限公司 | 服务器的负载均衡方法及其系统 |
| CN107783831A (zh) * | 2016-08-24 | 2018-03-09 | 深圳市中兴微电子技术有限公司 | 一种任务调度方法及装置 |
| CN109104500A (zh) * | 2018-09-29 | 2018-12-28 | 广东省信息工程有限公司 | 一种动态调整的服务器负载均衡方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11146502B2 (en) | Method and apparatus for allocating resource | |
| CN107666525B (zh) | 集群容器ip分配的方法和装置 | |
| CN109408205B (zh) | 基于hadoop集群的任务调度方法和装置 | |
| CN108629029B (zh) | 一种应用于数据仓库的数据处理方法和装置 | |
| US8639792B2 (en) | Job processing system, method and program | |
| CN104735095A (zh) | 一种云计算平台作业调度方法及装置 | |
| CN103873534A (zh) | 一种应用集群迁移方法及装置 | |
| CN109992406A (zh) | 图片请求方法、响应图片请求的方法及客户端 | |
| CN110019539A (zh) | 一种数据仓库的数据同步的方法和装置 | |
| CN109597810A (zh) | 一种任务切分方法、装置、介质及电子设备 | |
| CN113204425B (zh) | 供进程管理内部线程的方法、装置、电子设备及存储介质 | |
| CN109428926A (zh) | 一种调度任务节点的方法和装置 | |
| CN114924851A (zh) | 训练任务的调度方法、装置、电子设备和存储介质 | |
| CN113179324B (zh) | 一种区块链节点及其执行的业务处理方法 | |
| CN110113176B (zh) | 用于配置服务器的信息同步方法及装置 | |
| CN109388655A (zh) | 一种动态控制数据访问的方法和装置 | |
| CN112398669A (zh) | 一种Hadoop部署方法和装置 | |
| CN109213743B (zh) | 一种数据查询方法和装置 | |
| CN113760522A (zh) | 一种任务处理方法和装置 | |
| CN113760638A (zh) | 一种基于kubernetes集群的日志服务方法和装置 | |
| CN111767126A (zh) | 分布式批量处理的系统和方法 | |
| CN111753226A (zh) | 一种页面加载方法和装置 | |
| CN111831503A (zh) | 一种基于监控代理的监控方法和监控代理装置 | |
| CN111767495A (zh) | 一种合成网页的方法及系统 | |
| CN112925636A (zh) | 一种请求调度、处理方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |