CN110321213A

CN110321213A - 一种请求处理方法、装置、设备及可读存储介质

Info

Publication number: CN110321213A
Application number: CN201910609736.1A
Authority: CN
Inventors: 张昌彪
Original assignee: Hangzhou Gangsheng Software Technology Co Ltd
Current assignee: Hangzhou Gangsheng Software Technology Co Ltd
Priority date: 2019-07-08
Filing date: 2019-07-08
Publication date: 2019-10-11

Abstract

本发明公开了一种请求处理方法，包括：当接收到客户端发送的请求，则判断处于固定线程池中的当前请求的预设处理线程是否空闲；若否，则判断请求为有序请求还是无序请求；当请求为有序请求，则利用有序线程池中的线程处理请求；当请求为无序请求，则利用无序线程池中的线程处理请求。本发明能够避免请求排队等待，提高服务端对于请求的处理效率。相应地，本发明公开的一种请求处理装置、设备及可读存储介质，也同样具有上述技术效果。

Description

一种请求处理方法、装置、设备及可读存储介质

技术领域

本发明涉及数据处理技术领域，更具体地说，涉及一种请求处理方法、装置、设备及可读存储介质。

背景技术

在现有技术中，一般通过固定线程池处理客户端发送的请求。固定线程池中的线程与功能对应，每个线程固定处理特定功能的请求。

例如固定线程池中设有三个线程，这三个线程分别用于处理登录请求、查询请求和注册请求；那么当服务端接收到登录请求时，该登录请求就需要由处理登录请求的线程进行处理，而当此时再次接收到登录请求时，由于处理登录请求的线程还未处理完前次登录请求，当前接收到的登录请求就需要等待前次登录请求被处理完后，才能被处理，如此就会导致当前请求无法被添加至任务队列，需要排队等待，从而降低了服务端的处理效率和性能。

若另外设置一个固定线程池解决请求排队等待的问题，由于固定线程池中的每个线程固定处理特定功能的请求，该问题仍然会存在于另外设置的固定线程池中。也就是说，另外设置一个固定线程池并不能从根本上解决请求排队等待的问题。

因此，如何避免请求排队等待，提高服务端对于请求的处理效率，是本领域技术人员需要解决的问题。

发明内容

本发明的目的在于提供一种请求处理方法、装置、设备及可读存储介质，以避免请求排队等待，提高服务端对于请求的处理效率。

为实现上述目的，本发明提供了如下技术方案：

一种请求处理方法，包括：

当接收到客户端发送的请求，则判断处于固定线程池中的所述请求的预设处理线程是否空闲；

若否，则判断所述请求为有序请求还是无序请求；

当所述请求为有序请求，则利用有序线程池中的线程处理所述请求；

当所述请求为无序请求，则利用无序线程池中的线程处理所述请求。

优选地，所述判断处于固定线程池中的所述请求的预设处理线程是否空闲，包括：

提取所述请求携带的所述预设处理线程的标识信息；

根据所述标识信息在所述固定线程池中查询所述预设处理线程，并判断所述预设处理线程是否空闲。

优选地，所述判断所述预设处理线程是否空闲，包括：

判断所述预设处理线程处理一个请求的耗时是否小于预设的第一阈值。

优选地，所述判断所述预设处理线程是否空闲，包括：

判断所述预设处理线程的待处理队列是否空闲。

优选地，所述判断所述预设处理线程的待处理队列是否空闲，包括：

判断所述预设处理线程的待处理队列中的待处理对象是否小于预设的第二阈值。

优选地，所述判断所述请求为有序请求还是无序请求，包括：

提取所述请求携带的属性信息，并判断所述属性信息为有序属性信息还是无序属性信息。

优选地，还包括：

当所述预设处理线程空闲，则利用所述预设处理线程处理所述请求。

一种请求处理装置，包括：

第一判断模块，用于当接收到客户端发送的请求，则判断处于固定线程池中的所述请求的预设处理线程是否空闲；

第二判断模块，用于当所述预设处理线程不空闲，则判断所述请求为有序请求还是无序请求；

第一处理模块，用于当所述请求为有序请求，则利用有序线程池中的线程处理所述请求；

第二处理模块，用于当所述请求为无序请求，则利用无序线程池中的线程处理所述请求。

一种请求处理设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现上述任意一项所述的请求处理方法的步骤。

一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述任意一项所述的请求处理方法的步骤。

通过以上方案可知，本发明提供了一种请求处理方法，包括：当接收到客户端发送的请求，则判断处于固定线程池中的所述请求的预设处理线程是否空闲；若否，则判断所述请求为有序请求还是无序请求；当所述请求为有序请求，则利用有序线程池中的线程处理所述请求；当所述请求为无序请求，则利用无序线程池中的线程处理所述请求。

可见，当服务端接收到请求，若判断出当前请求的预设处理线程繁忙，则判断当前请求为有序请求还是无序请求；当请求为有序请求，则利用有序线程池中的线程进行处理；当请求为无序请求，则利用无序线程池中的线程进行处理。其中，若当前请求的预设处理线程繁忙，则首先判断当前请求为有序请求还是无序请求，进而根据当前请求的有序性和无序性利用不同的线程池处理当前请求，这样不仅可使待处理请求分流，又可使有序请求和无序请求分别排列在有序线程池和无序线程池的任务队列中，能够保证有序请求和无序请求的处理效率，如此则可避免请求排队等待，提高服务端对于请求的处理效率；同时，也能给用户带来良好的服务体验。

相应地，本发明提供的一种请求处理装置、设备及可读存储介质，也同样具有上述技术效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例公开的一种请求处理方法流程图；

图2为本发明实施例公开的另一种请求处理方法流程图；

图3为本发明实施例公开的一种请求处理装置示意图；

图4为本发明实施例公开的一种请求处理设备示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例公开了一种请求处理方法、装置、设备及可读存储介质，以避免请求排队等待，提高服务端对于请求的处理效率。

参见图1，本发明实施例提供的一种请求处理方法，包括：

S101、接收客户端发送的请求；

需要说明的是，每个请求都预设有处理其的线程，且这些线程均存在于固定线程池中，本实施例中的固定线程池可参见现有技术中的固定线程池。

S102、判断处于固定线程池中的请求的预设处理线程是否空闲；若是，则执行S103；若否，则执行S104；

在本实施例中，判断预设处理线程是否空闲，包括：判断所述预设处理线程处理一个请求的耗时是否小于预设的第一阈值。

例如：获取预设处理线程最近处理的20个请求的耗时时间，并求平均值。即：将预设处理线程处理20个请求的总耗时时间与20的比值，作为预设处理线程处理一个请求的平均值；当得到的平均值小于预设的第一阈值，则表明预设处理线程空闲；当得到的平均值不小于预设的第一阈值，则表明预设处理线程不空闲。所述第一阈值可根据实际应用情况灵活设置并调整，例如：将阈值设置为500毫秒。用于计算平均值的请求的个数也可灵活调整。

S103、利用预设处理线程处理请求；

S104、判断请求为有序请求还是无序请求；当请求为有序请求，则执行S105；当请求为无序请求，则执行S106；

S105、利用有序线程池中的线程处理请求；

S106、利用无序线程池中的线程处理请求。

在本实施例，服务端除了固定线程池，还存在有有序线程池和无序线程池；有序线程池用于处理固定线程池无法及时处理的有序请求，无序线程池用于处理固定线程池无法及时处理的无序请求，从而可避免无序请求和有序请求排队等待，提高了服务端的处理性能。

其中，有序请求即为有顺序的请求，服务端对有序请求的处理需要按照先来先处理的原则进行处理；无序请求即为无先后顺序的请求，服务端对无序请求的处理不必按照先来先处理的原则进行处理。

可见，本实施例提供了一种请求处理方法，当服务端接收到请求，若判断出当前请求的预设处理线程繁忙，则判断当前请求为有序请求还是无序请求；当请求为有序请求，则利用有序线程池中的线程进行处理；当请求为无序请求，则利用无序线程池中的线程进行处理。其中，若当前请求的预设处理线程繁忙，则首先判断当前请求为有序请求还是无序请求，进而根据当前请求的有序性和无序性利用不同的线程池处理当前请求，这样不仅可使待处理请求分流，又可使有序请求和无序请求分别排列在有序线程池和无序线程池的任务队列中，能够保证有序请求和无序请求的处理效率，如此则可避免请求排队等待，提高服务端对于请求的处理效率；同时，也能给用户带来良好的服务体验。

本发明实施例公开了另一种请求处理方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。

参见图2，本发明实施例提供的另一种请求处理方法，包括：

S201、接收客户端发送的请求；

S202、提取请求携带的预设处理线程的标识信息；

S203、根据标识信息在固定线程池中查询预设处理线程；

为了便于区别固定线程池中的线程，每个线程均具有对应的标识信息，且需要其处理的请求会携带其标识信息，这样每个线程便可以按照自身功能对应处理不同请求。

S204、判断预设处理线程是否空闲；若是，则执行S205；若否，则执行S206；

在本实施例中，所述判断所述预设处理线程是否空闲，包括：判断所述预设处理线程的待处理队列是否空闲。其中，所述判断所述预设处理线程的待处理队列是否空闲，包括：判断所述预设处理线程的待处理队列中的待处理对象是否小于预设的第二阈值。

具体的，一个线程池对应一个任务队列，且线程池中的每个线程对应一个待处理队列，一个线程池中的所有线程的待处理队列共同构成当前线程池的任务队列。当请求被添加至待处理队列，则表明请求可被处理；当请求无法被添加至待处理队列，则表明请求需要排队等待，无法被及时处理，此即为上文提及的请求排队等待问题。

需要说明的是，一个待处理队列中的对象数量一般是固定设置的，因此当待处理队列中的对象数量达到设置的固定值，请求则无法被添加至待处理队列。为了确定预设处理线程是否空闲，则可以通过判断预设处理线程的待处理队列中的待处理对象是否小于设定的固定值来判定。所述预设的第二阈值即为设定的待处理队列中的待处理对象的固定值。

S205、利用预设处理线程处理请求；

S206、判断请求为有序请求还是无序请求；当请求为有序请求，则执行S207；当请求为无序请求，则执行S208；

在本实施例中，判断请求为有序请求还是无序请求，包括：提取请求携带的属性信息，并判断属性信息为有序属性信息还是无序属性信息。具体的，每个请求均具有有序或无序的属性信息，且每个请求会携带此属性信息在服务端中传输，因此可以基于请求携带的属性信息判断请求为有序请求还是无序请求。请求的属性信息可存储在请求配置表中。

S207、创建有序线程池，并执行S209；

S208、创建无序线程池，并执行S210；

S209、利用有序线程池中的线程处理请求；

S210、利用无序线程池中的线程处理请求。

在本实施例中，服务端预设有固定线程池，当遇到请求排队等待时，再按照当前请求的类型创建有序线程池或无序线程池，从而可用创建得到的线程池处理当前请求，能够避免当前请求排队等待。也就是说，本实施例中的有序线程池和无序线程池是根据服务端的请求处理情况即时创建的。

需要说明的是，根据当前请求的有序性和无序性利用不同的线程池处理当前请求，这样不仅可使待处理请求分流，又可使有序请求和无序请求分别排列在有序线程池和无序线程池的任务队列中，能够保证有序请求和无序请求的处理效率。

可见，本实施例提供了另一种请求处理方法，当服务端接收到请求，若判断出当前请求的预设处理线程繁忙，则判断当前请求为有序请求还是无序请求；当请求为有序请求，则创建有序线程池，利用有序线程池中的线程进行处理；当请求为无序请求，则创建无序线程池，利用无序线程池中的线程进行处理。如此则可避免请求排队等待，提高服务端对于请求的处理效率；同时，也能给用户带来良好的服务体验。

基于上述任意实施例，需要说明的是，利用线程处理请求的具体过程包括：

对于有序请求，会存在一个先进先出任务队列，线程按照此队列的顺序处理各个请求。

具体的，对于有序线程池，一个功能会创建一个先进先出的功能队列，并将该功能队列存入缓存，然后将该功能队列加入到线程池的任务队列中。从任务队列中读取出某个功能队列，并从功能队列中读取出某个功能进行处理；处理完成后判断当前功能队列是否还有剩余功能未处理，如果有，则把当前功能队列再次加入到任务队列中。

当接收到新请求，则从缓存中获取当前请求对应的功能队列，然后判断此功能队列是否被占用；若是，则表明处理此功能队列的线程繁忙，即：当前请求的预设处理线程繁忙；若否，则将当前请求加入添加至该功能队列，以便对应的线程处理当前请求。

下面对本发明实施例提供的一种请求处理装置进行介绍，下文描述的一种请求处理装置与上文描述的一种请求处理方法可以相互参照。

参见图3，本发明实施例提供的一种请求处理装置，包括：

第一判断模块301，用于当接收到客户端发送的请求，则判断处于固定线程池中的所述请求的预设处理线程是否空闲；

第二判断模块302，用于当所述预设处理线程不空闲，则判断所述请求为有序请求还是无序请求；

第一处理模块303，用于当所述请求为有序请求，则利用有序线程池中的线程处理所述请求；

第二处理模块304，用于当所述请求为无序请求，则利用无序线程池中的线程处理所述请求。

优选地，所述第一判断模块包括：

提取单元，用于提取所述请求携带的所述预设处理线程的标识信息；

判断单元，用于根据所述标识信息在所述固定线程池中查询所述预设处理线程，并判断所述预设处理线程是否空闲。

优选地，所述判断单元具体用于：

判断所述预设处理线程的待处理队列是否空闲。

优选地，所述判断单元具体用于：

优选地，所述第二判断模块具体用于：

优选地，还包括：

可见，本实施例提供了一种请求处理装置，包括：第一判断模块、第二判断模块、第一处理模块以及第二处理模块。当接收到客户端发送的请求，则首先由第一判断模块判断处于固定线程池中的请求的预设处理线程是否空闲；当预设处理线程不空闲，则第二判断模块判断请求为有序请求还是无序请求；当请求为有序请求，则第一处理模块利用有序线程池中的线程处理请求；当请求为无序请求，则第二处理模块利用无序线程池中的线程处理请求。如此各个模块之间分工合作，各司其职，从而避免了请求排队等待，提高了服务端对于请求的处理效率。

下面对本发明实施例提供的一种请求处理设备进行介绍，下文描述的一种请求处理设备与上文描述的一种请求处理方法及装置可以相互参照。

参见图4，本发明实施例提供的一种请求处理设备，包括：

存储器41，用于存储计算机程序；

处理器42，用于执行所述计算机程序时实现上述任意实施例所述的请求处理方法的步骤。

下面对本发明实施例提供的一种可读存储介质进行介绍，下文描述的一种可读存储介质与上文描述的一种请求处理方法、装置及设备可以相互参照。

一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任意实施例所述的请求处理方法的步骤。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。

专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims

1.一种请求处理方法，其特征在于，包括：

若否，则判断所述请求为有序请求还是无序请求；

2.根据权利要求1所述的请求处理方法，其特征在于，所述判断处于固定线程池中的所述请求的预设处理线程是否空闲，包括：

提取所述请求携带的所述预设处理线程的标识信息；

3.根据权利要求2所述的请求处理方法，其特征在于，所述判断所述预设处理线程是否空闲，包括：

4.根据权利要求2所述的请求处理方法，其特征在于，所述判断所述预设处理线程是否空闲，包括：

判断所述预设处理线程的待处理队列是否空闲。

5.根据权利要求4所述的请求处理方法，其特征在于，所述判断所述预设处理线程的待处理队列是否空闲，包括：

6.根据权利要求1-5任意一项所述的请求处理方法，其特征在于，所述判断所述请求为有序请求还是无序请求，包括：

7.根据权利要求6所述的请求处理方法，其特征在于，还包括：

8.一种请求处理装置，其特征在于，包括：

9.一种请求处理设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序时实现如权利要求1-7任意一项所述的请求处理方法的步骤。

10.一种可读存储介质，其特征在于，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1-7任意一项所述的请求处理方法的步骤。