CN111913815A - 调用请求的处理方法、装置、电子设备及可读存储介质 - Google Patents
调用请求的处理方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN111913815A CN111913815A CN202010665970.9A CN202010665970A CN111913815A CN 111913815 A CN111913815 A CN 111913815A CN 202010665970 A CN202010665970 A CN 202010665970A CN 111913815 A CN111913815 A CN 111913815A
- Authority
- CN
- China
- Prior art keywords
- processing
- call request
- thread
- request
- call
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000012545 processing Methods 0.000 claims abstract description 217
- 238000000034 method Methods 0.000 claims abstract description 50
- 230000004044 response Effects 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 7
- 238000012544 monitoring process Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 21
- 230000006870 function Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005034 decoration Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011022 operating instruction Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/547—Remote procedure calls [RPC]; Web services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/544—Buffers; Shared memory; Pipes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5011—Pool
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Telephonic Communication Services (AREA)
Abstract
本申请实施例提供了一种调用请求的处理方法、装置、电子设备及可读存储介质。该方法包括:当接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;若满足,则由第一处理线程池中的第一线程对调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;若不满足,则通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
Description
技术领域
本申请涉及网络通讯技术领域,具体而言,本申请涉及一种调用请求的处理方法、装置、电子设备及可读存储介质。
背景技术
远程过程调用,(Remote Procedure Call,RPC)是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。
目前,在RPC通讯中,服务端一般对客户端发出的调用请求进行同步处理,即需要等当前的调用请求处理完成后才开始处理下一个调用请求,服务端对调用请求的处理效率较低。随着调用请求并发量的快速增加,现有的同步处理方式已经无法满足使用需求。
发明内容
本申请的目的旨在至少能解决上述的技术缺陷之一。本申请所采用的技术方案如下:
第一方面,本申请实施例提供了一种调用请求的处理方法,该方法包括:
当接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
若满足,则由第一处理线程池中的第一线程对调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;
若不满足,则通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。
可选地,性能指标包括以下至少一项:
在接收到调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到调用请求之前的第二预设时段内调用请求的并发数。
可选地,若性能指标包括在接收到调用请求之前的第一预设时段内调用请求的平均响应时间,预设条件为在接收到调用请求之前的第一预设时段内调用请求的平均响应时间不大于预设的响应时间阈值。
可选地,若性能指标包括在在接收到调用请求之前的第二预设时段内调用请求的并发数,预设条件为在接收到调用请求之前的第一预设时段内调用请求的并发数不大于预设的并发数阈值。
可选地,由第一处理线程池中的第一线程对调用请求进行处理,包括:
由第一处理线程池中空闲状态的第一线程对调用请求进行处理。
可选地,在由第一处理线程池中的第一线程对调用请求进行处理之前,上述方法还包括:
将调用请求存入请求缓存队列。
第二方面,本申请实施例提供了一种调用请求的处理装置,该装置包括:
性能指标监控模块,用于在接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
第一处理模块,用于在当前的性能指标满足预设条件时,由第一处理线程池中的第一线程对调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;
第二处理模块,用于在当前的性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。
可选地,性能指标包括以下至少一项:
在接收到调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到调用请求之前的第二预设时段内调用请求的并发数。
可选地,若性能指标包括在接收到调用请求之前的第一预设时段内调用请求的平均响应时间,预设条件为在接收到调用请求之前的第一预设时段内调用请求的平均响应时间不大于预设的响应时间阈值。
可选地,若性能指标包括在在接收到调用请求之前的第二预设时段内调用请求的并发数,预设条件为在接收到调用请求之前的第一预设时段内调用请求的并发数不大于预设的并发数阈值。
可选地,第一处理模块在由第一处理线程池中的第一线程对调用请求进行处理时,具体用于:
由第一处理线程池中空闲状态的第一线程对调用请求进行处理。
可选地,上述装置还包括:
缓存模块,用于在由第一处理线程池中的第一线程对调用请求进行处理之前,将调用请求存入请求缓存队列。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:处理器和存储器;
存储器,用于存储操作指令;
处理器,用于通过调用操作指令,执行如本申请的第一方面的任一实施方式中所示的调用请求的处理方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本申请的第一方面的任一实施方式中所示的调用请求的处理方法。
本申请实施例提供的技术方案带来的有益效果是:
本申请实施例提供的方案,在服务端的当前性能指标满足预设条件时,由第一处理线程池中的第一线程对接收到的调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;在服务端的当前性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对本申请实施例描述中所需要使用的附图作简单地介绍。
图1为本申请实施例提供的一种调用请求的处理方法的流程示意图;
图2为本申请实施例提供的一种调用请求的处理装置的结构示意图;
图3为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本申请,而不能解释为对本发明的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是,本申请的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图1示出了本申请实施例提供的一种调用请求的处理方法的流程示意图,如图1所示,该方法主要可以包括:
步骤S110:当接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
步骤S120:若满足,则由第一处理线程池中的第一线程对调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;
步骤S130:若不满足,则通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。
本申请实施例中,终端设备可以通过存于本地的客户端存根(Client Stub)与服务器的客户端存根(Client Stub)建立通信,具体而言,可以通过套(socket)接口实现。
本申请实施例中,可以监控服务端对调用请求进行处理的性能指标,并设定预设条件,认为当前的性能指标满足预设条件时,服务端的处理压力较小,而当前的性能指标不满足预设条件时,服务端的处理压力较大。
本申请实施例中,第一处理线程池中可以包括多个第一线程,当前的性能指标满足预设条件时,可以通过第一处理线程池中的一个第一线程对调用请求进行处理,具体而言,在将调用请求分配给第一处理线程池中的一个第一线程后,由该第一线程调用服务接口处理调用请求,服务接口处理完成后将处理结果交给该第一线程,由该第一线程将处理结果返回给终端设备。
本申请实施例中,输入输出线程池中可以包括多个输入输出线程,输入输出线程可以用于对接收到的调用请求进行缓存以及将调用请求的处理结果返回给终端设备。第二处理线程池中可以包括多个第三线程。当前的性能指标不满足预设条件时,可以由输入输出线程池中的第二线程对调用请求进行缓存。在调用请求并发量较高时,输入输出线程池中可以缓存有多个调用请求,第二处理线程池中的第三线程可以按照缓存顺序对缓存的调用请求进行依次处理。在第三线程在处理调用请求时,可以调用服务接口处理调用请求,服务接口处理完成后将处理结果交给输入输出线程池中的一个第四线程,由该第四线程将处理结果返回给终端设备。
本申请实施例中,由于将调用请求在输入输出线程池与第二处理线程之间传递也会耗费一定的时间,因此可以在服务端的对调用请求的处理压力较小时,直接由第一线程池内的第一线程对调用请求进行处理。而在服务端的对调用请求的处理压力较大时,可以由输入输出处理线程池中的第二线程对调用请求进行缓存,而后由第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。使得在待处理的调用请求较多时,可以将对调用请求的缓存以及将调用请求的处理结果的返回,与对调用请求的处理区分开,并分别通过不同的线程进行处理,能够提高服务端对调用请求的处理效率。
本申请实施例提供的方法,在服务端的当前性能指标满足预设条件时,由第一处理线程池中的第一线程对接收到的调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;在服务端的当前性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
本申请实施例的一种可选方式中,性能指标包括以下至少一项:
在接收到调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到调用请求之前的第二预设时段内调用请求的并发数。
本申请实施例中,可以以平均响应时间和/或并发数作为性能指标,来衡量服务端对调用请求的处理压力,即认为并发量升高、平均响应时间较长时,服务端对调用请求的处理压力较大。
本申请实施例的一种可选方式中,若性能指标包括在接收到调用请求之前的第一预设时段内调用请求的平均响应时间,预设条件为在接收到调用请求之前的第一预设时段内调用请求的平均响应时间不大于预设的响应时间阈值。
本申请实施例的一种可选方式中,若性能指标包括在在接收到调用请求之前的第二预设时段内调用请求的并发数,预设条件为在接收到调用请求之前的第一预设时段内调用请求的并发数不大于预设的并发数阈值。
本申请实施例中,预设条件可以为对平均响应时间指定的响应时间阈值,和/或,对并发数指定的并发数阈值。
在实际使用中,由于不同服务的业务逻辑存在区别,对不同服务的调用请求的响应时间可能会存在较大差别,因此针对不同服务,分别设定不同的响应时间阈值。
本申请实施例的一种可选方式中,由第一处理线程池中的第一线程对调用请求进行处理,包括:
由第一处理线程池中空闲状态的第一线程对调用请求进行处理。
本申请实施例中,在由第一处理线程池中的第一线程对调用请求进行处理时,可以将调用请求分配给第一处理线程池中处于空闲状态的第一线程。
本申请实施例的一种可选方式中,在由第一处理线程池中的第一线程对调用请求进行处理之前,方法包括:
将调用请求存入请求缓存队列。
在由第一处理线程池中的第一线程对调用请求进行处理之前,可以将调用请求存入请求缓存队列,由第一处理线程池中第一线程按照队列中的顺序依次对调用请求进行处理。
基于与图1中所示的方法相同的原理,图2示出了本申请实施例提供的一种调用请求的处理装置的结构示意图,如图2所示,该调用请求的处理装置20可以包括:
性能指标监控模块210,用于在接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
第一处理模块220,用于在当前的性能指标满足预设条件时,由第一处理线程池中的第一线程对调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;
第二处理模块230,用于在当前的性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。
本申请实施例提供的装置,在服务端的当前性能指标满足预设条件时,由第一处理线程池中的第一线程对接收到的调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;在服务端的当前性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
可选地,性能指标包括以下至少一项:
在接收到调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到调用请求之前的第二预设时段内调用请求的并发数。
可选地,若性能指标包括在接收到调用请求之前的第一预设时段内调用请求的平均响应时间,预设条件为在接收到调用请求之前的第一预设时段内调用请求的平均响应时间不大于预设的响应时间阈值。
可选地,若性能指标包括在在接收到调用请求之前的第二预设时段内调用请求的并发数,预设条件为在接收到调用请求之前的第一预设时段内调用请求的并发数不大于预设的并发数阈值。
可选地,第一处理模块在由第一处理线程池中的第一线程对调用请求进行处理时,具体用于:
由第一处理线程池中空闲状态的第一线程对调用请求进行处理。
可选地,上述装置还包括:
缓存模块,用于在由第一处理线程池中的第一线程对调用请求进行处理之前,将调用请求存入请求缓存队列。
可以理解的是,本实施例中的调用请求的处理装置的上述各模块具有实现图1中所示的实施例中的调用请求的处理方法相应步骤的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。上述模块可以是软件和/或硬件,上述各模块可以单独实现,也可以多个模块集成实现。对于上述调用请求的处理装置的各模块的功能描述具体可以参见图1中所示实施例中的调用请求的处理方法的对应描述,在此不再赘述。
本申请实施例提供了一种电子设备,包括处理器和存储器;
存储器,用于存储操作指令;
处理器,用于通过调用操作指令,执行本申请任一实施方式中所提供的调用请求的处理方法。
作为一个示例,图3示出了本申请实施例所适用的一种电子设备的结构示意图,如图3所示,该电子设备2000包括:处理器2001和存储器2003。其中,处理器2001和存储器2003相连,如通过总线2002相连。可选的,电子设备2000还可以包括收发器2004。需要说明的是,实际应用中收发器2004不限于一个,该电子设备2000的结构并不构成对本申请实施例的限定。
其中,处理器2001应用于本申请实施例中,用于实现上述方法实施例所示的方法。收发器2004可以包括接收机和发射机,收发器2004应用于本申请实施例中,用于执行时实现本申请实施例的电子设备与其他设备通信的功能。
处理器2001可以是CPU(Central Processing Unit,中央处理器),通用处理器,DSP(Digital Signal Processor,数据信号处理器),ASIC(Application SpecificIntegrated Circuit,专用集成电路),FPGA(Field Programmable Gate Array,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器2001也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等。
总线2002可包括一通路,在上述组件之间传送信息。总线2002可以是PCI(Peripheral Component Interconnect,外设部件互连标准)总线或EISA(ExtendedIndustry Standard Architecture,扩展工业标准结构)总线等。总线2002可以分为地址总线、数据总线、控制总线等。为便于表示,图3中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
存储器2003可以是ROM(Read Only Memory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,RAM(Random Access Memory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是EEPROM(Electrically ErasableProgrammable Read Only Memory,电可擦可编程只读存储器)、CD-ROM(Compact DiscRead Only Memory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
可选的,存储器2003用于存储执行本申请方案的应用程序代码,并由处理器2001来控制执行。处理器2001用于执行存储器2003中存储的应用程序代码,以实现本申请任一实施方式中所提供的调用请求的处理方法。
本申请实施例提供的电子设备,适用于上述方法任一实施例,在此不再赘述。
本申请实施例提供了一种电子设备,与现有技术相比,在服务端的当前性能指标满足预设条件时,由第一处理线程池中的第一线程对接收到的调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;在服务端的当前性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
本申请实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该程序被处理器执行时实现上述方法实施例所示的调用请求的处理方法。
本申请实施例提供的计算机可读存储介质,适用于上述方法任一实施例,在此不再赘述。
本申请实施例提供了一种计算机可读存储介质,与现有技术相比,在服务端的当前性能指标满足预设条件时,由第一处理线程池中的第一线程对接收到的调用请求进行处理,并在处理完成后将调用请求的处理结果返回给终端设备;在服务端的当前性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对调用请求进行缓存,通过第二处理线程池中的第三线程对调用请求进行处理,并在处理完成后通过输出处理线程池中的第四线程将调用请求的处理结果返回给终端设备。基于本方案,能够根据服务端对调用请求的处理压力来选择对调用请求的处理方式,有效提高了处理效率,能够满足高请求量时的处理需求。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
以上仅是本发明的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种调用请求的处理方法,其特征在于,包括:
当接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
若满足,则由第一处理线程池中的第一线程对所述调用请求进行处理,并在处理完成后将所述调用请求的处理结果返回给所述终端设备;
若不满足,则通过输入输出处理线程池中的第二线程对所述调用请求进行缓存,通过第二处理线程池中的第三线程对所述调用请求进行处理,并在处理完成后通过所述输出处理线程池中的第四线程将所述调用请求的处理结果返回给所述终端设备。
2.根据权利要求1所述的方法,其特征在于,所述性能指标包括以下至少一项:
在接收到所述调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到所述调用请求之前的第二预设时段内调用请求的并发数。
3.根据权利要求2所述的方法,其特征在于,若性能指标包括在接收到所述调用请求之前的第一预设时段内调用请求的平均响应时间,所述预设条件为在接收到所述调用请求之前的第一预设时段内调用请求的平均响应时间不大于预设的响应时间阈值。
4.根据权利要求2所述的方法,其特征在于,若性能指标包括在在接收到所述调用请求之前的第二预设时段内调用请求的并发数,所述预设条件为在接收到所述调用请求之前的第一预设时段内调用请求的并发数不大于预设的并发数阈值。
5.根据权利要求1所述的方法,其特征在于,所述由第一处理线程池中的第一线程对所述调用请求进行处理,包括:
由所述第一处理线程池中空闲状态的第一线程对所述调用请求进行处理。
6.根据权利要求1所述的方法,其特征在于,在所述由第一处理线程池中的第一线程对所述调用请求进行处理之前,所述方法还包括:
将所述调用请求存入请求缓存队列。
7.一种调用请求的处理装置,其特征在于,包括:
性能指标监控模块,用于在接收到终端设备通发送的调用请求时,确认当前的性能指标是否满足预设条件;
第一处理模块,用于在当前的性能指标满足预设条件时,由第一处理线程池中的第一线程对所述调用请求进行处理,并在处理完成后将所述调用请求的处理结果返回给所述终端设备;
第二处理模块,用于在当前的性能指标不满足预设条件时,通过输入输出处理线程池中的第二线程对所述调用请求进行缓存,通过第二处理线程池中的第三线程对所述调用请求进行处理,并在处理完成后通过所述输出处理线程池中的第四线程将所述调用请求的处理结果返回给所述终端设备。
8.根据权利要求7所述的装置,其特征在于,所述性能指标包括以下至少一项:
在接收到所述调用请求之前的第一预设时段内调用请求的平均响应时间;
在接收到所述调用请求之前的第二预设时段内调用请求的并发数。
9.一种电子设备,其特征在于,包括处理器和存储器;
所述存储器,用于存储操作指令;
所述处理器,用于通过调用所述操作指令,执行权利要求1-6中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010665970.9A CN111913815A (zh) | 2020-07-12 | 2020-07-12 | 调用请求的处理方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010665970.9A CN111913815A (zh) | 2020-07-12 | 2020-07-12 | 调用请求的处理方法、装置、电子设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111913815A true CN111913815A (zh) | 2020-11-10 |
Family
ID=73227760
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010665970.9A Pending CN111913815A (zh) | 2020-07-12 | 2020-07-12 | 调用请求的处理方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111913815A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112925617A (zh) * | 2021-01-28 | 2021-06-08 | 长沙市到家悠享网络科技有限公司 | 数据处理方法、装置及系统 |
CN115208936A (zh) * | 2022-05-26 | 2022-10-18 | 锐凌无线有限责任公司 | 远程调用方法、系统、装置、电子设备和存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102147746A (zh) * | 2010-03-05 | 2011-08-10 | 微软公司 | 动态线程池管理 |
CN102567111A (zh) * | 2011-12-23 | 2012-07-11 | 深圳市融创天下科技股份有限公司 | 一种异步过程调用的方法、系统和终端设备 |
CN106598706A (zh) * | 2015-10-15 | 2017-04-26 | 五八同城信息技术有限公司 | 一种提高服务器的稳定性的方法、装置及服务器 |
CN107341056A (zh) * | 2017-07-05 | 2017-11-10 | 郑州云海信息技术有限公司 | 一种基于网络文件系统的线程分配的方法及装置 |
CN108429783A (zh) * | 2018-01-16 | 2018-08-21 | 重庆金融资产交易所有限责任公司 | 电子装置、配置文件推送方法及存储介质 |
CN109561133A (zh) * | 2018-10-23 | 2019-04-02 | 深圳壹账通智能科技有限公司 | 业务处理方法、装置、设备及计算机可读存储介质 |
CN110046038A (zh) * | 2019-03-12 | 2019-07-23 | 平安普惠企业管理有限公司 | 一种基于线程池的任务处理方法及装置 |
CN110996352A (zh) * | 2019-12-20 | 2020-04-10 | 众安在线财产保险股份有限公司 | 一种流量控制方法、装置、计算机设备及存储介质 |
CN111190727A (zh) * | 2019-11-19 | 2020-05-22 | 腾讯科技(深圳)有限公司 | 内存的异步析构方法、装置、计算机设备及存储介质 |
-
2020
- 2020-07-12 CN CN202010665970.9A patent/CN111913815A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102147746A (zh) * | 2010-03-05 | 2011-08-10 | 微软公司 | 动态线程池管理 |
CN102567111A (zh) * | 2011-12-23 | 2012-07-11 | 深圳市融创天下科技股份有限公司 | 一种异步过程调用的方法、系统和终端设备 |
CN106598706A (zh) * | 2015-10-15 | 2017-04-26 | 五八同城信息技术有限公司 | 一种提高服务器的稳定性的方法、装置及服务器 |
CN107341056A (zh) * | 2017-07-05 | 2017-11-10 | 郑州云海信息技术有限公司 | 一种基于网络文件系统的线程分配的方法及装置 |
CN108429783A (zh) * | 2018-01-16 | 2018-08-21 | 重庆金融资产交易所有限责任公司 | 电子装置、配置文件推送方法及存储介质 |
CN109561133A (zh) * | 2018-10-23 | 2019-04-02 | 深圳壹账通智能科技有限公司 | 业务处理方法、装置、设备及计算机可读存储介质 |
CN110046038A (zh) * | 2019-03-12 | 2019-07-23 | 平安普惠企业管理有限公司 | 一种基于线程池的任务处理方法及装置 |
CN111190727A (zh) * | 2019-11-19 | 2020-05-22 | 腾讯科技(深圳)有限公司 | 内存的异步析构方法、装置、计算机设备及存储介质 |
CN110996352A (zh) * | 2019-12-20 | 2020-04-10 | 众安在线财产保险股份有限公司 | 一种流量控制方法、装置、计算机设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112925617A (zh) * | 2021-01-28 | 2021-06-08 | 长沙市到家悠享网络科技有限公司 | 数据处理方法、装置及系统 |
CN115208936A (zh) * | 2022-05-26 | 2022-10-18 | 锐凌无线有限责任公司 | 远程调用方法、系统、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110162270B (zh) | 基于分布式存储系统的数据存储方法、存储节点及介质 | |
CN111913815A (zh) | 调用请求的处理方法、装置、电子设备及可读存储介质 | |
CN111897662A (zh) | 偏移量处理方法、装置、电子设备及计算机可读存储介质 | |
CN110519388B (zh) | 区块链请求的处理方法、装置、电子设备及可读存储介质 | |
CN110995817B (zh) | 请求回调方法、装置及客户端设备 | |
CN113641604A (zh) | 一种数据传输方法及系统 | |
CN115827506A (zh) | 数据写入方法、数据读取方法、装置、处理核和处理器 | |
CN112084068A (zh) | 一种数据库远程备份方法、装置和云端服务器 | |
CN111638979A (zh) | 调用请求的处理方法、装置、电子设备及可读存储介质 | |
CN116303173B (zh) | 减少rdma引擎片上缓存的方法、装置、系统及芯片 | |
CN115883647B (zh) | 业务日志记录方法、系统、装置、终端、服务器及介质 | |
CN117009283A (zh) | 一种多核多芯片数据处理方法、装置、芯片及存储介质 | |
CN107273082B (zh) | 图像的显示方法、装置、终端及存储介质 | |
CN110008010B (zh) | 系统调用方法、装置、设备及可读存储介质 | |
CN112132583A (zh) | 区块链的交易处理方法、装置、电子设备及可读存储介质 | |
CN112637121A (zh) | 数据端口的更新方法、装置、电子设备及可读存储介质 | |
CN112231290A (zh) | 一种本地日志的处理方法、装置、设备及存储介质 | |
CN111917572B (zh) | 交易请求的处理方法、装置、电子设备及可读存储介质 | |
CN111338567A (zh) | 一种基于Protocol Buffer的镜像缓存方法 | |
CN107844262B (zh) | 数据缓存、发送方法及装置 | |
CN112988405A (zh) | 微服务自动降级方法、装置及计算设备 | |
CN112511603B (zh) | 数据端口的更新方法、装置、电子设备及可读存储介质 | |
CN112532699B (zh) | 数据端口的更新方法、装置、电子设备及可读存储介质 | |
CN103986733B (zh) | 一种网络接口模式和基于该网络接口模式的数据通信方法 | |
CN118550694A (zh) | 众核系统的多任务并行发射方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |