CN106412079B - 请求处理方法及系统 - Google Patents

Abstract

本发明提供一种请求处理方法及系统，方法包括：代理模块接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；将添加了所述唯一标识的请求转发至服务器的第一站点；记录第一站点处理所述请求的时间；若所述时间未超过预设时间，则标记所述请求为快请求；若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；将所述慢请求发送至服务器的第二站点。通过设置代理模块将该请求和唯一标识发送给服务器的第一站点，记录第一站点的处理时间从而判断出该请求是快请求还是慢请求，如果是慢请求，则将该慢请求转发至服务器的第二站点处理，防止第一站点被慢请求占用而导致无法处理其他快请求。

Description

请求处理方法及系统

技术领域

本发明涉及互联网技术领域，尤其涉及一种请求处理方法及系统。

背景技术

目前在计算机请求处理过程中，通常都是采用一个站点来处理。这样站点经常由于部分请求调用时间过长，当请求数过多时导致服务器的线程池被用光，从而无法处理新的请求。

公开号为CN 104618493 A的中国专利提出了一种数据请求处理方法，包括：将获取数据的请求分配至线程中，开启所述线程处理所述请求；当处于工作状态的线程数目等于第一数目时，如果接收到新的请求，则在接收到所述新的请求后的预设时长内，利用空闲线程或者第二服务器处理所述新的请求；其中，所述第一数目为预先为所述第一服务器设定的开启线程最大数目，所述空闲线程为所述处于工作状态的线程中从工作状态变更为空闲状态的线程。

上述方法通过调用其他线程处理请求，使得服务器达到最大处理能力之后仍能处理接收到的新的请求，提高了服务器处理请求的效率。然而，当原线程、空闲线程和第二服务器都被响应慢的请求占用时，导致无法处理新的请求，并且造成很大资源浪费。

发明内容

本发明所要解决的技术问题是：提供一种请求处理方法及系统，能够防止服务器站点被响应慢的请求耗尽而导致无法处理其他请求。

为了解决上述技术问题，本发明采用的技术方案为：

一种请求处理方法，包括：

代理模块接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

将添加了所述唯一标识的请求转发至服务器的第一站点；

记录第一站点处理所述请求的时间；

若所述时间未超过预设时间，则标记所述请求为快请求；

若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

将所述慢请求发送至服务器的第二站点。

本发明的另一个技术方案为：

一种请求处理系统，与上述请求处理方法对应，包括：代理模块和服务器，所述代理模块包括：

标识单元，用于接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

转发单元，用于将添加了所述唯一标识的请求转发至服务器的第一站点；

记录单元，用于记录第一站点处理所述请求的时间；

标记单元，用于若所述时间未超过预设时间，则标记所述请求为快请求；若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

所述转发单元还用于将所述慢请求发送至服务器的第二站点。

本发明的有益效果在于：通过设置代理模块，接收客户端的请求后为该请求生成唯一标识，从而后续操作中能够根据该标识跟踪该请求；代理模块将该请求和唯一标识发送给服务器的第一站点，记录第一站点的处理时间从而判断出该请求是快请求还是慢请求，如果是慢请求，则将该慢请求转发至服务器的第二站点处理，防止慢请求占用第一站点导致无法处理其他快请求。有效避免了站点线程资源被慢请求耗尽而影响原本可以快速响应的业务。

附图说明

图1为本发明实施例的请求处理方法的流程图；

图2为本发明实施例的请求处理系统的结构示意图；

图3为本发明实施例一的请求处理方法的流程图；

图4为本发明实施例二的请求处理系统的结构示意图。

标号说明：

1、代理模块；11、标识单元；12、转发单元；13、记录单元；14、标记单元；2、服务器；21、保存单元；22、判断单元；23、返回单元。

具体实施方式

为详细说明本发明的技术内容、所实现目的及效果，以下结合实施方式并配合附图予以说明。

本发明最关键的构思在于：代理模块将快请求转发至服务器的第一站点，将慢请求转发至服务器的第二站点。

请参照图1，本发明提供：

一种请求处理方法，包括：

代理模块接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

将添加了所述唯一标识的请求转发至服务器的第一站点；

记录第一站点处理所述请求的时间；

若所述时间未超过预设时间，则标记所述请求为快请求；

若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

将所述慢请求发送至服务器的第二站点。

进一步的，若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求之后，将所述慢请求发送至服务器的第二站点之前，进一步包括：

第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求。

从上述描述可知，代理模块对慢请求进行终止时，可能出现终止失败的情况，如果终止失败，则说明该慢请求仍然由第一站点处理完成，因此，第一站点除了将处理的快请求的响应结果进行保存，还将终止失败的慢请求的响应结果进行保存。

进一步的，代理模块将所述慢请求发送至服务器的第二站点，之后进一步包括：

第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

若存在，则将预设文件中的响应结果返回至代理模块；

若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中。

从上述描述可知，代理模块将上述慢请求转发至第二站点后，第二站点先查询服务器的预设文件中是否存在该慢请求的唯一标识及响应结果，如果存在，说明代理模块对该慢请求终止失败，第一站点已经对该慢请求处理完成，因此第二站点直接获取预设文件中该慢请求的响应结果，然后返回给代理服务器即可，避免重复处理，有效地节省了资源；如果预设文件中不存在该慢请求的唯一标识及响应结果，则说明终止成功，第一站点没有处理完成该慢请求，因此第二站点处理该慢请求后将响应结果返回至代理模块，保证了慢请求的正常处理。

进一步的，将所述慢请求发送至服务器的第二站点之后，进一步包括：

代理模块再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

记录所述第二站点处理所述慢请求的时间；

若所述时间未超过预设时间，则标记所述慢请求为快请求。

从上述描述可知，该慢请求被再次调用时，代理模块直接将该慢请求转发至第二站点，而不再经过第一站点，减少了对第一站点的占用，优选节省了站点资源；并且，如果这次第二站点处理慢请求的时间为超过预设时间，则将该慢请求标记为快请求，下一次检测到该快请求时，转发至第一站点，依此循环，以保证第一站点处理的都是快请求，第二站点处理的都是慢请求。

进一步的，所述代理模块设置于所述服务器内。

从上述描述可知，代理模块可以设置在上述服务器内，如在服务器中设置的一个线程，这样无需另外设置其他用于代理的设备，节省了硬件资源。

进一步的，所述代理模块设置于其他服务器内。

从上述描述可知，代理模块也可以设置在独立于客户端和服务器之外的其他服务器内，从而减少对服务器资源的占用，能够有效提高处理效率。

进一步的，所述预设时间的范围为0.1秒至1秒。

从上述描述可知，0.1秒至1秒是本发明一个较佳的设置，也可以根据具体的应用场景调整预设时间。

请参照图2，本发明的另一个技术方案为：

一种请求处理系统，与上述请求处理方法对应，包括：代理模块1和服务器2，所述代理模块1包括：

标识单元11，用于接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

转发单元12，用于将添加了所述唯一标识的请求转发至服务器的第一站点；

记录单元13，用于记录第一站点处理所述请求的时间；

标记单元14，用于若所述时间未超过预设时间，则标记所述请求为快请求；若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

所述转发单元12还用于将所述慢请求发送至服务器的第二站点。

进一步的，所述服务器2还包括：

保存单元21，用于第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求；

判断单元22，用于第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

返回单元23，用于若存在，则将预设文件中的响应结果返回至代理模块；若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中。

进一步的，所述转发单元还用于代理模块再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

所述记录单元13还用于记录所述第二站点处理所述慢请求的时间；

所述标记单元14还用于若所述时间未超过预设时间，则标记所述慢请求为快请求。

请参照图3，本发明的实施例一为：

一种请求处理方法，包括：

代理模块接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

代理模块将添加了所述唯一标识的请求转发至服务器的第一站点；

代理模块记录第一站点处理所述请求的时间；

若所述时间未超过预设时间，则代理模块标记所述请求为快请求；

若所述时间超过预设时间，则代理模块标记所述请求为慢请求，并终止所述慢请求；所述预设时间的范围为0.1秒至1秒；

第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求；

代理模块将所述慢请求发送至服务器的第二站点；

第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

若存在，则将预设文件中的响应结果返回至代理模块；

若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中；

代理模块再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

记录所述第二站点处理所述慢请求的时间；

若所述时间未超过预设时间，则标记所述慢请求为快请求。

上述代理模块1设置于所述服务器内或设置于除所述服务器之外的其他服务器内。

下面以一个具体的实例说明上述实施例的技术方案：

通过代理模块，在接收到http://abc.com/getdata的请求后，生成一个唯一标识guid:be9c81df-9b46-4a5a-b385-554dde4286d7，并将该唯一标识添加至该请求的请求头，然后，将添加了唯一标识的请求一起发送给ASP.NET站点1，记录ASP.NET站点1对该请求的处理时间；

代理模块判断该处理时间是否超过0.1秒；

若该处理时间超过0.1秒，则将http://abc.com/getdata的请求中所调用到的最耗时的方法体method1()，标记为慢请求；若该处理时间未超过0.1秒，则将http://abc.com/getdata的请求中所调用到的最耗时的方法体method1()，标记为快请求；

如果该http://abc.com/getdata的请求标记为慢请求，则终止该请求；

ASP.NET站点1将处理http://abc.com/getdata的请求的响应结果{result:1}，即响应1与唯一标识guid:be9c81df-9b46-4a5a-b385-554dde4286d7一起保存到文件A中；如果请求被终止成功就没有记录；(这个步骤目的是防止一个请求被两个站点都执行导致重复执行)

如果http://abc.com/getdata的请求的处理时间超过0.1秒的请求，将包含唯一标识guid:be9c81df-9b46-4a5a-b385-554dde4286d7的http://abc.com/getdata的请求转发到ASP.NET站点2，站点2，ASP.NET站点2接收后到该请求后查询文件A中唯一标识be9c81df-9b46-4a5a-b385-554dde4286d7所对应的响应结果，如果存在，说明已经在ASP.NET站点1被执行过，所以将响应内容读取出来返回给代理模块。

下一次，如果检测到该http://abc.com/getdata的请求，由于被标记为长时间请求，直接转发到ASP.NET站点2中；

记录ASP.NET站点2处理该http://abc.com/getdata的请求的时间，如果处理时间小于0.1秒，则将该http://abc.com/getdata的请求标记为快请求，下一次再检测到该http://abc.com/getdata的请求时转发到ASP.NET站点1。

请参照图4，本发明的实施例二为：

一种应用上述实施例一的请求处理方法的系统，包括：代理模块1和服务器2，所述代理模块1包括标识单元11、转发单元12、记录单元13和标记单元14，所述服务器2包括保存单元21、判断单元22和返回单元23；所述代理模块1设置于所述服务器2内或设置于除所述服务器2之外的其他服务器内；

所述标识单元11用于接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

所述转发单元12用于将添加了所述唯一标识的请求转发至服务器的第一站点；

所述记录单元13用于记录第一站点处理所述请求的时间；

所述标记单元14用于若所述时间未超过预设时间，则标记所述请求为快请求；若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；所述预设时间为0.1秒至1秒；

保存单元21用于第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求；保存单元，用于第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求；

所述转发单元12还用于将所述慢请求发送至服务器的第二站点；

所述判断单元22用于第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

所述返回单元23用于若存在，则将预设文件中的响应结果返回至代理模块；若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中；

所述转发单元12还用于代理模块1再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

所述记录单元13还用于记录所述第二站点处理所述慢请求的时间；

所述标记单元14还用于若所述时间未超过预设时间，则标记所述慢请求为快请求；下一次代理模块1再检测到该快请求时，转发至第一站点。

综上所述，本发明提供的请求处理方法及系统，合理地分配了站点资源，能够有效防止站点线程资源被慢请求耗尽而影响本来可以快速响应的业务。

以上所述仅为本发明的实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等同变换，或直接或间接运用在相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种请求处理方法，其特征在于，包括：

代理模块接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

将添加了所述唯一标识的请求转发至服务器的第一站点；

记录第一站点处理所述请求的时间；

若所述时间未超过预设时间，则标记所述请求为快请求；

若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

将所述慢请求发送至服务器的第二站点。

2.根据权利要求1所述的请求处理方法，其特征在于，若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求之后，将所述慢请求发送至服务器的第二站点之前，进一步包括：

第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求。

3.根据权利要求2所述的请求处理方法，其特征在于，代理模块将所述慢请求发送至服务器的第二站点，之后进一步包括：

第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

若存在，则将预设文件中的响应结果返回至代理模块；

若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中。

4.根据权利要求1所述的请求处理方法，其特征在于，将所述慢请求发送至服务器的第二站点之后，进一步包括：

代理模块再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

记录所述第二站点处理所述慢请求的时间；

若所述时间未超过预设时间，则标记所述慢请求为快请求。

5.根据权利要求1所述的请求处理方法，其特征在于，所述代理模块设置于所述服务器内。

6.根据权利要求1所述的请求处理方法，其特征在于，所述代理模块设置于其他服务器内。

7.根据权利要求1所述的请求处理方法，其特征在于，所述预设时间的范围为0.1秒至1秒。

8.一种请求处理系统，其特征在于，包括：代理模块和服务器，所述代理模块包括：

标识单元，用于接收客户端发送的请求，生成唯一标识，并将所述唯一标识添加至所述请求的请求头中；

转发单元，用于将添加了所述唯一标识的请求转发至服务器的第一站点；

记录单元，用于记录第一站点处理所述请求的时间；

标记单元，用于若所述时间未超过预设时间，则标记所述请求为快请求；若所述时间超过预设时间，则标记所述请求为慢请求，并终止所述慢请求；

所述转发单元还用于将所述慢请求发送至服务器的第二站点。

9.根据权利要求8所述的请求处理系统，其特征在于，所述服务器还包括：

保存单元，用于第一站点将处理完成的请求的唯一标识及响应结果保存至服务器的预设文件中，所述处理完成的请求包括快请求和终止失败的慢请求；

判断单元，用于第二站点判断预设文件中是否存在所述慢请求的唯一标识及响应结果；

返回单元，用于若存在，则将预设文件中的响应结果返回至代理模块；若不存在，则处理所述慢请求，并将处理后得到响应结果返回至代理模块，以及将所述慢请求的唯一标识和响应结果保存至所述预设文件中。

10.根据权利要求8所述的请求处理系统，其特征在于，所述转发单元还用于代理模块再次检测到所述慢请求时，将所述慢请求转发至所述第二站点；

所述记录单元还用于记录所述第二站点处理所述慢请求的时间；

所述标记单元还用于若所述时间未超过预设时间，则标记所述慢请求为快请求。