CN113626176A - 一种业务请求处理方法及装置 - Google Patents

Abstract

本发明公开了一种业务请求处理方法及装置，涉及计算机技术领域。该方法的一具体实施方式包括：获取至少一个业务请求；分别生成与所述至少一个业务请求对应的至少一个第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；利用至少一个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务；输出所述第一任务的执行结果。该实施方式避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

Description

一种业务请求处理方法及装置

技术领域

本发明涉及计算机技术领域，尤其涉及一种业务请求处理方法及装置。

背景技术

随着互联网用户的不断增多，如何缓解多用户的高并发请求对业务平台带来的系统压力，已经成为保障系统稳定性的重点。

目前，一般引入缓存来支撑多用户的高并发请求：接收到用户的业务请求时，若缓存中不存在用户请求的业务数据，则执行相应的业务方法，以向底层存储设备请求业务数据，并将此次的结果数据存储于缓存中，在下次接收到针对该业务数据的业务请求时，可直接从缓存中返回业务数据。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：

当缓存中不存在与业务请求对应的业务数据时，会直接根据业务请求访问底层存储设备。在高并发请求下，缓存容易被击穿，使得大量的业务请求直接作用于底层存储设备，从而降低系统稳定性。

发明内容

有鉴于此，本发明实施例提供一种业务请求处理方法及装置，能够生成业务请求对应的第一任务，并利用第一线程将第一任务存放至分布式缓存队列中，再利用第二线程从分布式缓存队列中提取并执行第一任务，以响应业务请求。由此实现了业务请求对应的第一任务的异步并发存储与执行，从而可通过控制并发的第二线程的数量来控制执行并发请求的数量，也就是说，可控制同时执行的第一任务的最大数量为并发执行的第二线程的数量，由此避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

为实现上述目的，根据本发明实施例的一个方面，提供了一种业务请求处理方法。

本发明实施例的一种业务请求处理方法包括：获取至少一个业务请求；

分别生成与所述至少一个业务请求对应的至少一个第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；

利用至少一个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务；

输出所述第一任务的执行结果。

可选地，所述利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中，包括：

将所述至少一个第一任务存储至本地队列；

利用所述至少一个第一线程从所述本地队列中提取所述第一任务，并将提取的所述第一任务存放至所述分布式缓存队列中。

可选地，所述将提取的所述第一任务存放至所述分布式缓存队列中，包括：

确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

可选地，当所述分布式缓存队列中存在与所述第一任务相同的第二任务时，

确定当前时间与所述第二任务的存储时间之间的差值，当所述差值大于时长阈值时，将所述第一任务存放至所述分布式缓存队列中；其中，所述第二任务的存储时间为所述第二任务存储至所述分布式缓存队列中的时间。

可选地，所述业务请求指示了处理参数；所述分别生成与至少一个所述业务请求对应的至少一个第一任务，包括：

根据所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；

根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

可选地，所述执行所述第一任务，包括：

根据所述处理参数调用所述目标请求处理过程，以执行所述第一任务。

可选地，所述输出所述第一任务的执行结果，包括：

将所述执行结果转换为符合发送所述业务请求的请求端的参数要求的格式，并将转化后的执行结果返回给所述请求端。

为实现上述目的，根据本发明实施例的又一方面，提供了一种业务请求处理装置。

本发明实施例的一种业务请求处理装置包括：请求获取模块、任务管理模块、任务执行模块和结果输出模块；其中，

所述请求获取模块，用于获取至少一个业务请求；

所述任务管理模块，用于分别生成与所述至少一个业务请求对应的第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；

所述任务执行模块，用于利用至少一个第二线程从所述分布式缓存队列中提取所述第一任务，并执行提取的所述第一任务；

所述结果输出模块，用于输出所述第一任务的执行结果。

可选地，所述业务请求指示了处理参数；

所述任务管理模块，用于根据所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；并根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

可选地，所述任务管理模块，用于确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

为实现上述目的，根据本发明实施例的又一方面，提供了一种处理业务请求的电子设备。

本发明实施例的一种处理业务请求的电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例的一种业务请求处理方法。

为实现上述目的，根据本发明实施例的再一方面，提供了一种计算机可读存储介质。

本发明实施例的一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例的一种业务请求处理方法。

上述发明中的一个实施例具有如下优点或有益效果：能够生成业务请求对应的第一任务，并利用第一线程将第一任务存放至分布式缓存队列中，再利用第二线程从分布式缓存队列中提取并执行第一任务，以响应业务请求。由此实现了业务请求对应的第一任务的异步并发存储与执行，从而可通过控制并发的第二线程的数量来控制执行并发请求的数量，也就是说，可控制同时执行的第一任务的最大数量为并发执行的第二线程的数量，由此避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明，不构成对本发明的不当限定。其中：

图1是根据本发明实施例的一种业务请求处理方法的主要步骤的示意图；

图2是根据本发明实施例的一种业务请求处理方法中任务存储的主要步骤的示意图；

图3是根据本发明实施例的另一种业务请求处理方法的主要步骤的示意图；

图4是根据本发明实施例的一种业务请求处理装置的主要模块的示意图；

图5是本发明实施例可以应用于其中的示例性系统架构图；

图6是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要指出的是，在不冲突的情况下，本发明的实施例以及实施例中的技术特征可以相互结合。

图1是根据本发明实施例的一种业务请求处理方法的主要步骤的示意图。

如图1所示，本发明实施例的一种业务请求处理方法主要包括以下步骤：

步骤S101：获取至少一个业务请求。

步骤S102：分别生成与所述至少一个业务请求对应的至少一个第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中。

本发明实施例提供的业务请求处理方法可以通过业务请求处理装置实现，该业务请求处理装置可以包括多个模块，如元数据模块、请求获取模块、任务管理模块、任务执行模块和结果输出模块。

其中，请求获取模块可以包括拦截器。在业务请求处理装置获取到用户发送的业务请求时，可通过拦截器拦截业务请求，以拦截与业务请求对应的请求处理过程的执行，也就避免了业务请求直接作用于底层存储设备。可以理解的是，在高并发请求的场景下，拦截器拦截的业务请求的数量一般是多个。在本发明一个实施方式中，可使用面向切面编程中的切面，来拦截标注了自定义@AsyncTask注解的请求处理过程，然后根据拦截的请求处理过程生成与业务请求对应的第一任务。

具体地，在本发明一个实施例中，可预先通过元数据模块记录元数据信息，元数据信息包括任务类型的定义信息、任务结果的类型信息和任务等待信息等。上述三种类型的元数据信息分别存储于不同的map数据结果中。在任务类型的定义信息对应的map中，key为第一任务标识，value为任务类型定义信息。其中，任务类型定义信息可以是自定义的一个java类，该java类包括第一任务标识、任务对应的请求处理过程，任务对应的类以及任务对应的调用参数等。另外，在任务结果的map中，key为第一任务标识，value为任务返回结果类型信息；在任务等待信息中，key为第二任务标识，value为任务对应的锁对象，在本发明实施例中，该锁对象为java提供的CountDownLatch对象。

在生成第一任务时，可根据所述业务请求指示的处理参数、以及所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

元数据模块记录的任务类型的定义信息可以如下表1所示：

表1

Key	Value
		第一任务标识1	任务类型定义1
第一任务标识2	任务类型定义2
		……	……
第一任务标识n	任务类型定义n

例如，任务类型定义1对应的任务类型为物流配送进度查询、任务类型定义2对应的任务类型为售后理赔进度查询。由于任务类型定义1和任务类型定义2分别对应不同的任务类型，则其分别对应的请求处理过程的类型也不同。请求获取模块在获取到业务请求后，可确定出业务请求对应的类型，如确定出业务请求对应于物流配送进度查询类型，并根据上表1确定出与业务请求的类型相对应的目标请求处理过程，然后将业务请求指示的处理参数以及与目标请求处理过程相关的信息发送给任务管理模块，使得任务管理模块可根据业务请求指示的处理参数以及与目标请求处理过程生成与业务请求相对应的第一任务。

当然，请求获取模块在确定出业务请求对应于物流配送进度查询类型后，也可将业务请求对应的类型发送给任务管理模块。然后任务管理模块可根据业务请求的类型(物流配送进度查询类型)以及上表1记录的任务定义类型，确定出与业务请求相对应的目标请求处理过程为任务类型定义1所包括的请求处理过程，然后再根据业务请求指示的处理参数以及请求处理过程生成第一任务。

另外，请求获取模块也可直接将业务请求转发任务管理模块，使得任务管理模块确定业务请求的类型，以及与业务请求的类型相对应的目标请求处理过程。

在此例中，以业务请求的类型是物流配送进度查询类型为例，则业务请求指示的处理参数可以为待查询订单的订单号、待查询订单的用户信息(用户名和手机号)和/或待查询订单的收件人手机号等。如处理参数为订单号“0001”、业务请求的类型为物流配送进度查询类型时，则第一任务即表征查询订单“0001”的物流配送进度。

任务管理模块在根据业务请求指示的处理参数以及目标请求处理过程生成第一任务时，也相应生成了该第一任务的第二任务标识。值得注意的是，在本发明实施例中，第一任务标识和第二任务标识分别表征不同的标识信息。第一任务标识与任务类型定义相对应，也就是说，不同的任务类型对应于不同的第一任务标识，如物流配送进度查询类型与售后理赔进度查询类型分别对应的第一任务标识不相同。第二任务标识与具体的第一任务相对应，例如，在生成两个第一任务时，即使这两个第一任务属于同一任务类型，如均属于售后理赔进度查询类型，若二者的处理参数不相同，则这两个第一任务的第二任务标识不相同。具体地，如第一任务1的处理参数为“用户1”，第二任务2的处理参数为“用户2”，也就是说，第一任务1为查询用户1的售后理赔进度，第一任务2为查询用户2的售后理赔进度，显然，即使这两个第一任务均属于售后进度查询类型，其对应的第二任务标识也应该不同。

在本发明实施例中，可根据将任务对应的请求处理过程所对应的字符串的MD5值、以及该任务对应的类的路径生成第一任务标识。另外，可根据第一任务标识、处理参数对应的字符串的MD5值以及其他符号(如下划线)生成第一任务的第二任务标识。例如，当第一任务2表征查询用户2的售后理赔进度时，若售后理赔进度类型对应的第一任务标识为MM，第一任务2对应的处理参数的MD5值为101时，第一任务2的第二任务标识可以为MM_101。

任务管理模块在生成第一任务的第二任务标识后，可将第二任务标识返回给请求获取模块，使得请求获取模块根据第二任务标识，在元数据模块的任务等待信息中进行登记，以等待该第一任务的处理结果。在等待过程中，请求获取模块可继续通过拦截器拦截与业务请求对应的请求处理过程的执行，以避免大量业务请求直接访问底层存储设备时，底层存储设备无法承受高并发访问带来的系统不稳定的问题。

其中，元数据模块的任务等待信息可如下表2所示。在后续执行第一任务时，可根据表2中记录各个第一任务分别对应的锁对象来执行第一任务。

表2

Key	Value
		第二任务标识1	锁对象1
第二任务标识2	锁对象2
		……	……
第二任务标识n	锁对象n

当然，任务管理模块也可自行根据第二任务标识，在元数据模块的任务等待信息中进行登记，并通知请求获取模块登记结果，以等待该第一任务的处理结果。

另外，任务管理模块可将第一任务存入分布式缓存队列中，使得任务执行模块可从分布式缓存队列中提取第一任务并执行。具体地，在任务管理模块分别生成至少一个业务请求对应的至少一个第一任务之后，可将生成的至少一个第一任务存储至本地队列中，如存储至本地的阻塞队列中。可以理解的是，在高并发场景，请求获取模块获取的为多个业务请求，相应地，任务管理模块生成的也为多个第一任务，则任务管理模块可将这多个第一任务存储至本地的阻塞队列中。然后，任务管理模块可利用多个第一线程从本地的阻塞队列中提取第一任务，然后将提取的第一任务存放至分布式缓存队列中。

在向分布式缓存队列中存入第一任务时，可确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

若所述分布式缓存队列中存在与所述第一任务相同的第二任务，则确定当前时间与所述第二任务的存储时间之间的差值，当所述差值大于时长阈值时，将所述第一任务存放至所述分布式缓存队列中；其中，所述第二任务的存储时间为所述第二任务存储至所述分布式缓存队列中的时间。

例如，任务管理模块可启动多个第一线程异步地从本地的阻塞队列头部获取阻塞队列中的任务数据，然后根据任务数据中的第二任务标识，去缓存中查询该第二任务标识对应的第一任务是否被放入过分布式缓存队列，如果是，则说明分布式缓存队列中已存在与第一任务相同的第二任务。在此情况下，可确定当前时间与该第二任务存储至分布式缓存队列中的时间之间的差值，当该差值大于时长阈值时，说明分布式缓存队列中的第二任务已在分布式缓存队列中存储较长时间，其对应的任务数据较旧，为了使得分布式缓存队列中的第一任务具有最新的任务数据，可将提取的第一任务放入分布式缓存队列中。在此情况下，放入第一任务的过程可以是：将当前时间写入分布式缓存队列中与第一任务相同的第二任务所关联的缓存中，而不用将第一任务对应的目标请求处理过程和第一任务对应的类再放入分布式缓存队列中。

可以理解的是，在当前时间与所述第二任务的存储时间之间的差值不大于时长阈值时，说明第二任务对应的任务数据较新，即无需将第一任务再重复放入分布式缓存队列中。另外，当分布式缓存队列中不存在与第一任务相同的第二任务时，任务管理模块可利用第一线程将第一任务放入分布式缓存队列中。在此情况下，放入第一任务的过程可以是：将第一任务相关的任务数据存储至分布式缓存队列中，该任务数据包括第二任务标识和任务状态信息等，而可以不包括目标任务处理过程以及第一任务对应的类等。由此，通过任务防重技术保证相同的业务请求不会被重复执行，从而减少计算资源的浪费，从而提高业务请求的处理效率。

根据上述实施例，如图2所示，步骤S102的具体实施方式可以包括以下步骤：

步骤S201：针对每一个业务请求：根据业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程，并根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

步骤S202：将每一个所述业务请求对应的第一任务存储至本地队列。

步骤S203：利用多个第一线程分别从所述本地队列中提取第一任务。

步骤S204：确定分布式缓存队列中是否存在与提取的第一任务相同的第二任务，如果是，执行步骤S205，如果否，执行步骤S207。

步骤S205：确定当前时间与所述第二任务的存储时间之间的差值。

其中，所述第二任务的存储时间为所述第二任务存储至所述分布式缓存队列中的时间。

步骤S206：判断所述差值是否大于时长阈值，如果是，执行步骤S207，如果否，结束当前流程。

步骤S207：将所述第一任务存放至所述分布式缓存队列中。

根据上述实施例，可通过任务防重技术保证相同的业务请求不会被重复执行，从而减少计算资源的浪费，从而提高业务请求的处理效率。

步骤S103：利用至少一个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务。

可以理解的是，用于将第一任务存储至分布式缓存队列的第一线程、与从分布式缓存队列中提取并执行第一任务的第二线程可通过不同的实例实现。通过分别配置不同实例对应的线程池中线程的数量，可分别控制第一线程和第二线程的数量。例如，当配置的第一实例的数量为5个，第一实例用于将本地队列中的第一任务存放至分布式缓存队列中，每个第一实例对应的线程池中有5个线程，则第一线程的数量为25。当配置的第二实例的数量为10个，第二实例用于从分布式缓存队列中提取并执行第一任务，每个第二实例对应的线程池中有4个线程，则第二线程的数量则为40。通过配置不同的实例分别执行第一任务的存放和执行，可实现第一任务的异步并发执行，从而有利于提高业务请求的处理效率。

在本发明实施例中，可利用业务请求处理装置的任务执行模块启动第二线程来执行第一任务，例如可利用第二线程根据所述处理参数调用所述目标请求处理过程，以执行所述第一任务。

具体地，任务执行模块在提取和执行第一任务时，可启动多个第二线程去分布式缓存队列中获取任务数据，该任务数据包括第一任务的第二任务标识和处理参数等。然后，任务执行模块可根据任务数据中的第二任务标识，从元数据模块获取任务类型定义信息中的目标请求处理过程以及第一任务对应的类，然后利用java反射技术完成目标请求处理过程的调用，以执行第一任务。在调用结束，可将第一任务的执行结果保存至缓存中，并调用结果输出模块输出第一任务的执行结果。可以理解的是，在任务执行模块调用请求处理过程执行第一任务后，其可以自行将执行结果保存至缓存中，也可以调用任务管理模块和结果输出模块，使得任务管理模块将执行结果保存至缓存中，并使得结果输出模块输出第一任务的执行结果。

值得一提的是，当分布式缓存队列位于分布式集群(如Redis缓存)时，任务执行模块可采用多线程异步方式从分布式缓存队列中提取第一任务。也就是说，业务请求处理装置可位于分布式集群中的任一服务器上，分布式集群中的一个或多个服务器也都可以部署业务请求处理装置。在部署业务请求处理装置时，可将业务请求处理装置对应的jar包嵌入到服务器的目标应用程序中，则在目标应用程序启动时，可将该目标应用涉及的任务元数据信息保存在本地的map数据结构的内存中，使得元数据模块存储相关的元数据信息。

在业务请求处理装置中的任务管理模块利用一个或多个第一线程将第一任务存储至分布式缓存队列后，分布式集群中的任一个服务器上的业务请求处理装置中的任务执行模块可利用一个或多个第二线程从分布式缓存队列中提取第一任务，并执行第一任务。也就是说，每个任务执行模块可利用多线程从自身或分布式集群中的其他服务器的缓存中提取多个第一任务，并执行提取的第一任务。换句话说，分布式集群中任一服务器的分布式缓存队列中的第一任务既可被自身的任务执行模块提取执行，也可被分布式集群中其他服务器上的任务执行模块提取执行。由此，通过异步多线程的方式提取并执行分布式缓存队列中的第一任务，有利于提高业务请求的处理速度，并且随着分布式集群中服务器数量的增加，业务请求的处理能力还能线性增强，从而提高业务请求的处理效率。

值得一提的是，由于可通过配置实例对应的线程池中线程的数量，来控制第一线程和第二线程的数量，而分布式缓存队列中的第一任务被第二线程执行，那么，可通过控制第二线程的数量来控制执行并发请求的数量。例如，可根据底层存储设备的容量来确定第二实例的数量和/或每个第二实例对应的线程池中线程的数量，则各个第二实例对应的线程的数量的总和(第二线程的数量)即为执行并发请求的最大数量。即使业务请求处理装置同时接收到大量的业务请求，仍可保证同时执行的第一任务的数量小于等于第二线程的数量。例如，当配置的第二实例的数量为10个，第二实例用于从分布式缓存队列中提取并执行第一任务，每个第二实例对应的线程池中有4个线程，则第二线程的数量则为40。即使同一时刻接收到1万个业务请求，那么底层存储设备同时执行第一任务的并发数仍是40。由此，通过异步操作将高并发下大量的业务请求转换为固定的请求数去执行业务逻辑，保证了访问底层存储设备的频率不会随业务请求流量的变化而变化，进而保护了底层存储设备的访问不会由于用户的高并发请求而瘫痪，也就是保证访问底层存储设备的频率是可控且稳定的，由此提高了系统的稳定性。

步骤S104：输出所述第一任务的执行结果。

例如，当第一任务为表征查询订单“0001”的物流配送进度时，第一任务的执行结果即说明了订单“0001”的具体物流环节，如订单“0001”在转运环节时，第一任务的执行结果可包括订单“0001”当前所处的转运站、即将要达到的转运站、其已经历经的转运站以及预计送到时间等。如订单“0001”在配送环节时，第一任务的执行结果可包括配送员的姓名、联系方式和预计配送的时间段(如9:00-12:00)等。

在本发明实施例中，可以通过结果输出模块实现执行结果的输出。在第一任务执行完成后，结果输出模块可通知请求获取模块中相应的等待线程，结果输出模块可依赖于缓存的发布订阅功能来实现对请求获取模块的通知。例如，请求获取模块预先订阅结果输出模块的通知消息，则在结果输出模块发布执行结果时，该执行结果指示了第一任务对应的任务类型，则订阅了该任务类型所对应的通知消息的请求获取模块可获取到该执行结果。另外，为了便于执行结果的通知，结果输出模块发布的通知消息可在主题前加入接收方(请求获取模块)的标识。

在现有技术中，采用缓存来支撑多用户的高并发请求，当采用异步方式处理业务请求时，等待线程不知道业务请求所对应的任务何时被执行，因此其需持续等待或者不断轮询查询任务是否执行完成，而持续等待无疑会增加业务请求的响应时间，而不断轮询查询又会增加缓存的请求压力。因此，相对于现有技术，本发明实施例采用消息订阅方式，使得结果输出模块及时将第一任务的执行结果通知给请求获取模块，提高了获取第一任务的执行结果及时性。

另外，在本发明一个实施例中，还可将所述执行结果转换为符合发送所述业务请求的请求端的参数要求的格式，然后将转化后的执行结果返回给所述请求端。

在元数据模块中，可通过下表3的形式记录任务结果的类型信息。

表3

其中，任务执行结果信息可以为自定义的一个java类，其中包含了与其对应的第一任务标识相对应的请求处理过程返回的结果的类型信息，也就是说，任务执行结果信息指示了相应任务的执行结果的类型(如数据格式等)。在任务执行模块执行第一任务，得到第一任务的执行结果后，可根据类型将执行结果存入元数据模块的表3中，任务输出模块可根据元数据模块中的记录的结果类型以及请求端的参数要求，对任务执行结果进行转换，然后将转化后的执行结果返回给请求端。当然，结果输出模块也可以将转化后的执行结果通知给请求获取模块，使得请求获取模块将执行结果通知给请求端。

或者，如上所述，结果输出模块通过订阅功能通知请求获取模块关于第一任务的执行结果，请求获取模块在收到结果输出模块的订阅消息时，可从元数据模块获取到第一任务的执行结果，然后根据请求端的参数要求，对执行结果进行转换，然后将转换后的执行结果(即格式符合请求端的参数要求的执行结果)返回给请求端。

值得一提的是，在接收到结果输出模块的关于执行结果的通知时，请求获取模块的等待线程即结束。另外，请求获取模块的等待时长达到预设阈值时，即使未收到结果输出模块的关于执行结果的通知，请求获取模块的等待线程也结束。在等待结束后，请求获取模块即可从元数据模块获取第一任务对应的执行结果。若请求获取模块的等待时长达到预设阈值时，第一任务未被成功执行，则请求获取模块可得到任务执行失败的执行结果。在请求获取模块获取到执行结果后，可通知元数据模块删除与第一任务相关的任务数据。

根据上述实施例，如图3所示，本发明实施例提供的一种业务请求处理方法可以包括以下步骤：

步骤S301：获取多个业务请求。

步骤S302：分别生成与所述多个业务请求对应的多个第一任务，并利用多个第一线程将所述多个第一任务存放至分布式缓存队列中。

步骤S303：利用多个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务。

步骤S304：将所述第一任务的执行结果转换为符合发送所述业务请求的请求端的参数要求的格式，并将转化后的执行结果返回给所述请求端。

根据本发明实施例的一种业务请求处理方法可以看出能够生成业务请求对应的第一任务，并利用第一线程将第一任务存放至分布式缓存队列中，再利用第二线程从分布式缓存队列中提取并执行第一任务，以响应业务请求。由此实现了业务请求对应的第一任务的异步并发存储与执行，从而可通过控制并发的第二线程的数量来控制执行并发请求的数量，也就是说，可控制同时执行的第一任务的最大数量为并发执行的第二线程的数量，由此避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

图4是根据本发明实施例的一种业务请求处理装置的主要模块的示意图。

如图4所示，本发明实施例的业务请求处理装置400包括：请求获取模块401、任务管理模块402、任务执行模块403和结果输出模块404；其中，

所述请求获取模块401，用于获取至少一个业务请求；

所述任务管理模块402，用于分别生成与所述至少一个业务请求对应的第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；

所述任务执行模块403，用于利用至少一个第二线程从所述分布式缓存队列中提取所述第一任务，并执行提取的所述第一任务；

所述结果输出模块404，用于输出所述第一任务的执行结果。

在本发明一个实施例中，所述任务管理模块402，用于将所述至少一个第一任务存储至本地队列；利用所述至少一个第一线程从所述本地队列中提取所述第一任务，并将提取的所述第一任务存放至所述分布式缓存队列中。

在本发明一个实施例中，所述任务管理模块402，用于确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

在本发明一个实施例中，所述任务管理模块402，用于确定当前时间与所述第二任务的存储时间之间的差值，当所述差值大于时长阈值时，将所述第一任务存放至所述分布式缓存队列中；其中，所述第二任务的存储时间为所述第二任务存储至所述分布式缓存队列中的时间。

在本发明一个实施例中，所述业务请求指示了处理参数；所述任务管理模块402，用于根据所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；并根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

在本发明一个实施例中，所述任务执行模块403，用于根据所述处理参数调用所述目标请求处理过程，以执行所述第一任务。

在本发明一个实施例中，所述结果输出模块404，用于将所述执行结果转换为符合发送所述业务请求的请求端的参数要求的格式，并将转化后的执行结果返回给所述请求端。

根据本发明实施例的业务请求处理装置可以看出，能够生成业务请求对应的第一任务，并利用第一线程将第一任务存放至分布式缓存队列中，再利用第二线程从分布式缓存队列中提取并执行第一任务，以响应业务请求。由此实现了业务请求对应的第一任务的异步并发存储与执行，从而可通过控制并发的第二线程的数量来控制执行并发请求的数量，也就是说，可控制同时执行的第一任务的最大数量为并发执行的第二线程的数量，由此避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

图5示出了可以应用本发明实施例的业务请求处理方法或业务请求处理装置的示例性系统架构500。

如图5所示，系统架构500可以包括终端设备501、502、503，网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备501、502、503通过网络504与服务器505交互，以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器505可以是提供各种服务的服务器，例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息)反馈给终端设备。

需要说明的是，本发明实施例所提供的业务请求处理方法一般由服务器505执行，相应地，业务请求处理装置一般设置于服务器505中。

应该理解，图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

下面参考图6，其示出了适于用来实现本发明实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本发明的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括请求获取模块、任务管理模块、任务执行模块和结果输出模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，请求获取模块还可以被描述为“获取业务请求的模块”。

作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：获取至少一个业务请求；分别生成与所述至少一个业务请求对应的至少一个第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；利用至少一个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务；输出所述第一任务的执行结果。

根据本发明实施例的技术方案，能够生成业务请求对应的第一任务，并利用第一线程将第一任务存放至分布式缓存队列中，再利用第二线程从分布式缓存队列中提取并执行第一任务，以响应业务请求。由此实现了业务请求对应的第一任务的异步并发存储与执行，从而可通过控制并发的第二线程的数量来控制执行并发请求的数量，也就是说，可控制同时执行的第一任务的最大数量为并发执行的第二线程的数量，由此避免高并发请求下缓存被击穿的风险，提高了系统的稳定性。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (12)

1.一种业务请求处理方法，其特征在于，包括：

获取至少一个业务请求；

分别生成与所述至少一个业务请求对应的至少一个第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；

利用至少一个第二线程从所述分布式缓存队列提取所述第一任务，并执行提取的所述第一任务；

输出所述第一任务的执行结果。

2.根据权利要求1所述的方法，其特征在于，所述利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中，包括：

将所述至少一个第一任务存储至本地队列；

利用所述至少一个第一线程从所述本地队列中提取所述第一任务，并将提取的所述第一任务存放至所述分布式缓存队列中。

3.根据权利要求2所述的方法，其特征在于，所述将提取的所述第一任务存放至所述分布式缓存队列中，包括：

确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

4.根据权利要求3所述的方法，其特征在于，当所述分布式缓存队列中存在与所述第一任务相同的第二任务时，

确定当前时间与所述第二任务的存储时间之间的差值，当所述差值大于时长阈值时，将所述第一任务存放至所述分布式缓存队列中；其中，所述第二任务的存储时间为所述第二任务存储至所述分布式缓存队列中的时间。

5.根据权利要求1所述的方法，其特征在于，所述业务请求指示了处理参数；所述分别生成与至少一个所述业务请求对应的至少一个第一任务，包括：

根据所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；

根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

6.根据权利要求5所述的方法，其特征在于，所述执行所述第一任务，包括：

根据所述处理参数调用所述目标请求处理过程，以执行所述第一任务。

7.根据权利要求1所述的方法，其特征在于，所述输出所述第一任务的执行结果，包括：

将所述执行结果转换为符合发送所述业务请求的请求端的参数要求的格式，并将转化后的执行结果返回给所述请求端。

8.一种业务请求处理装置，其特征在于，包括：请求获取模块、任务管理模块、任务执行模块和结果输出模块；其中，

所述请求获取模块，用于获取至少一个业务请求；

所述任务管理模块，用于分别生成与所述至少一个业务请求对应的第一任务，并利用至少一个第一线程将所述至少一个第一任务存放至分布式缓存队列中；

所述任务执行模块，用于利用至少一个第二线程从所述分布式缓存队列中提取所述第一任务，并执行提取的所述第一任务；

所述结果输出模块，用于输出所述第一任务的执行结果。

9.根据权利要求8所述的装置，其特征在于，所述业务请求指示了处理参数；

所述任务管理模块，用于根据所述业务请求的类型，从不同类型的请求处理过程中确定与所述业务请求相对应的目标请求处理过程；并根据所述目标请求处理过程以及所述处理参数，生成所述第一任务。

10.根据权利要求8所述的装置，其特征在于，

所述任务管理模块，用于确定所述分布式缓存队列中是否存在与所述第一任务相同的第二任务，如果否，将所述第一任务存放至所述分布式缓存队列中。

11.一种处理业务请求的电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

12.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。

Images