CN111464615A - 请求处理方法、装置、服务器及存储介质 - Google Patents

Abstract

本公开关于一种请求处理方法、装置、服务器及存储介质，属于互联网技术领域。所述方法包括：接收终端的数据获取请求；根据所述数据获取请求，在服务器的本地缓存中进行查询，所述本地缓存中存储有从分布式缓存系统中获取的全量数据；响应于所述本地缓存中存储有所述数据获取请求对应的目标数据，向所述终端返回所述目标数据。本公开，由于在服务器的本地缓存中存储的是从分布式缓存系统中获取的全量数据，无需针对每个请求单独从分布式缓存系统中获取对应的数据，降低了分布式缓存系统的QPS，减轻了分布式缓存系统的压力，提高了分布式缓存系统的稳定性。

Description

请求处理方法、装置、服务器及存储介质

技术领域

本公开涉及互联网技术领域，尤其涉及一种请求处理方法、装置、服务器及存储介质。

背景技术

随着互联网的发展，用户可以方便的从互联网上获取数据，互联网上的数据可以存储在数据库中，在服务器接收到用户对数据的访问请求时，可以访问数据库来获取数据，但是在请求较多时，数据库的压力较大，往往需要通过缓存来分担数据库的压力。其中，缓存包括分布式缓存系统和服务器的本地缓存，本地缓存中存储的数据是根据历史请求从分布式缓存系统中获取的数据，分布式缓存系统中存储的数据是根据历史请求从数据库中获取的数据。

相关技术中，用户通过终端发送请求到服务器，服务器在接收到请求后，查询本地缓存中是否存储有请求对应的数据，如果本地缓存中有该数据，则直接从本地缓存中获取该数据返回给终端，如果本地缓存中没有该数据，则查询分布式缓存系统中是否存储有请求对应的数据，如果分布式缓存系统中有该数据，则从分布式缓存系统中获取该数据存储至本地缓存中，并将该数据返回给终端，如果分布式缓存系统中也没有该数据，则从数据库中获取该数据分别存储至分布式缓存系统和本地缓存中，并将该数据返回给终端。

上述技术中本地缓存中的数据是根据历史请求从分布式缓存系统中获取的数据，针对每个用户的每个请求，如果本地缓存中没有该请求对应的数据，则需要分别查询分布式缓存系统来获取该数据，在大量用户随机访问的场景下，用户量级较大，请求的数据各不相同，则需要多次查询分布式缓存系统来获取不同的数据，导致分布式缓存系统的QPS(Query Per Second，每秒查询率)较高，分布式缓存系统的压力将会大大增加，使得分布式缓存系统的稳定性差。

发明内容

本公开提供一种请求处理方法、装置、服务器及存储介质，以至少解决相关技术中分布式缓存系统的稳定性差的问题。本公开的技术方案如下：

根据本公开实施例的第一方面，提供一种请求处理方法，包括：

接收终端的数据获取请求；

根据所述数据获取请求，在服务器的本地缓存中进行查询，所述本地缓存中存储有从分布式缓存系统中获取的全量数据；

响应于所述本地缓存中存储有所述数据获取请求对应的目标数据，向所述终端返回所述目标数据。

在一种可能实现方式中，所述接收终端的数据获取请求之后，所述方法还包括：

响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中，包括：

从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中，包括：

确定所述分布式缓存系统当前存储的全量数据的总数据量；

根据所述服务器的目标参数，确定每次获取的数据量，所述目标参数用于指示所述服务器的负载情况或网络情况中的至少一种；

根据所述总数据量和所述每次获取的数据量，确定批量读取次数；

按照所述批量读取次数，从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中，包括：

确定所述分布式缓存系统当前存储的全量数据的总数据量；

当所述总数据量大于数据量阈值时，按照目标次数，从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述接收终端的数据获取请求之后，所述方法还包括：

启动异步线程，通过所述异步线程执行响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中的步骤。

在一种可能实现方式中，所述更新触发事件为下述任一种：

所述本地缓存中的全量数据的存储时长达到目标时长，所述目标时长为失效时间与开始缓存时间之间的时长；

所述本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。

在一种可能实现方式中，所述分布式缓存系统中存储有定时从数据库中获取的全量数据。

在一种可能实现方式中，所述根据所述数据获取请求，在服务器的本地缓存中进行查询之后，所述方法还包括：

响应于所述本地缓存中未存储有所述目标数据，向所述终端返回数据获取失败信息。

在一种可能实现方式中，所述数据获取请求对应的目标数据为目标直播间的直播数据，所述服务器为直播应用对应的服务器；

所述根据所述数据获取请求，在服务器的本地缓存中进行查询，包括：

根据所述数据获取请求携带的所述目标直播间的直播间标识，在所述本地缓存中进行查询，所述本地缓存中存储的全量数据包括当前正在进行直播的各个直播间的直播数据。

根据本公开实施例的第二方面，提供一种请求处理装置，包括：

接收单元，被配置为执行接收终端的数据获取请求；

查询单元，被配置为执行根据所述数据获取请求，在服务器的本地缓存中进行查询，所述本地缓存中存储有从分布式缓存系统中获取的全量数据；

发送单元，被配置为执行响应于所述本地缓存中存储有所述数据获取请求对应的目标数据，向所述终端返回所述目标数据。

在一种可能实现方式中，所述装置还包括：

获取单元，被配置为执行响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述获取单元被配置为执行从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述获取单元被配置为执行：

确定所述分布式缓存系统当前存储的全量数据的总数据量；

根据所述服务器的目标参数，确定每次获取的数据量，所述目标参数用于指示所述服务器的负载情况或网络情况中的至少一种；

根据所述总数据量和所述每次获取的数据量，确定批量读取次数；

按照所述批量读取次数，从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述获取单元被配置为执行：

确定所述分布式缓存系统当前存储的全量数据的总数据量；

当所述总数据量大于数据量阈值时，按照目标次数，从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

在一种可能实现方式中，所述获取单元被配置为执行启动异步线程，通过所述异步线程执行响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中的步骤。

在一种可能实现方式中，所述更新触发事件为下述任一种：

所述本地缓存中的全量数据的存储时长达到目标时长，所述目标时长为失效时间与开始缓存时间之间的时长；

所述本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。

在一种可能实现方式中，所述分布式缓存系统中存储有定时从数据库中获取的全量数据。

在一种可能实现方式中，所述发送单元还被配置为执行响应于所述本地缓存中未存储有所述目标数据，向所述终端返回数据获取失败信息。

在一种可能实现方式中，所述数据获取请求对应的目标数据为目标直播间的直播数据，所述服务器为直播应用对应的服务器；

所述查询单元被配置为执行根据所述数据获取请求携带的所述目标直播间的直播间标识，在所述本地缓存中进行查询，所述本地缓存中存储的全量数据包括当前正在进行直播的各个直播间的直播数据。

根据本公开实施例的第三方面，提供一种服务器，包括：

一个或多个处理器；

用于存储所述一个或多个处理器可执行指令的一个或多个存储器；

其中，所述一个或多个处理器被配置为执行所述指令，以实现如第一方面或第一方面的任一种可能实现方式所述的请求处理方法。

根据本公开实施例的第四方面，提供了一种存储介质，当所述存储介质中的指令由服务器的处理器执行时，使得服务器能够执行如第一方面或第一方面的任一种可能实现方式所述的请求处理方法。

根据本公开实施例的第五方面，提供一种计算机程序产品，当所述计算机程序产品中的指令由服务器的处理器执行时，使得服务器能够执行如第一方面或第一方面的任一种可能实现方式所述的请求处理方法。

本公开的实施例提供的技术方案至少带来以下有益效果：

通过在接收到终端发送的数据获取请求时，在服务器的本地存储空间中查询是否存在该数据获取请求对应的目标数据，如果本地缓存中存储有该目标数据，则向终端返回该目标数据，由于在服务器的本地缓存中存储的是从分布式缓存系统中获取的全量数据，无需针对每个请求单独从分布式缓存系统中获取对应的数据，降低了分布式缓存系统的QPS，减轻了分布式缓存系统的压力，提高了分布式缓存系统的稳定性。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理，并不构成对本公开的不当限定。

图1是根据一示例性实施例示出的一种请求处理方法的实施环境示意图。

图2是根据一示例性实施例示出的一种请求处理方法的流程图。

图3是根据一示例性实施例示出的一种请求处理方法的流程图。

图4是根据一示例性实施例示出的一种请求处理方法的过程示意图。

图5是根据一示例性实施例示出的一种请求处理装置的框图。

图6是根据一示例性实施例示出的一种服务器的框图。

具体实施方式

为了使本领域普通人员更好地理解本公开的技术方案，下面将结合附图，对本公开实施例中的技术方案进行清楚、完整地描述。

需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

本公开所涉及的用户信息可以为经用户授权或者经过各方充分授权的信息。

图1是根据一示例性实施例示出的一种请求处理方法的实施环境示意图，参见图1，该实施环境包括终端101和服务器102。

终端101为用户所在终端，终端101可以是智能手机、平板电脑、便携式计算机和台式计算机等设备。终端101上可以安装有目标应用，如直播应用，终端101在运行目标应用的过程中，用户可以在目标应用的界面上进行操作，触发终端101向服务器102发送数据获取请求。

服务器102可以是一个服务器，也可以是由若干个服务器组成的服务器集群，还可以是云计算平台或虚拟化中心等。服务器102用于为目标应用提供后台服务，例如，服务器102接收到终端101基于目标应用发送的数据获取请求后，可以查询该数据获取请求对应的数据返回给终端101。服务器102可以包括本地缓存，用于存储用户所需的数据，服务器102可以从分布式缓存系统(如Memcached)中获取数据存储到本地缓存。

终端101可以通过无线网络或有线网络与服务器102相连，使得终端101与服务器102之间可以进行数据交互。

终端101可以泛指多个终端中的一个，本领域技术人员可以知晓，上述终端的数量可以更多或更少。比如上述终端可以仅为一个，或者上述终端为几十个或几百个，或者更多数量，此时上述实施环境中还包括其他终端。本申请实施例对终端的数量和类型不做限定。

图2是根据一示例性实施例示出的一种请求处理方法的流程图，如图2所示，请求处理方法用于服务器中，包括以下步骤。

在步骤S21中，接收终端的数据获取请求。

在步骤S22中，根据该数据获取请求，在服务器的本地缓存中进行查询，该本地缓存中存储有从分布式缓存系统中获取的全量数据。

在步骤S23中，响应于该本地缓存中存储有该数据获取请求对应的目标数据，向该终端返回该目标数据。

本公开实施例提供的方法，通过在接收到终端发送的数据获取请求时，在服务器的本地存储空间中查询是否存在该数据获取请求对应的目标数据，如果本地缓存中存储有该目标数据，则向终端返回该目标数据，由于在服务器的本地缓存中存储的是从分布式缓存系统中获取的全量数据，无需针对每个请求单独从分布式缓存系统中获取对应的数据，降低了分布式缓存系统的QPS，减轻了分布式缓存系统的压力，提高了分布式缓存系统的稳定性。

在一种可能实现方式中，该接收终端的数据获取请求之后，该方法还包括：

响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中，包括：

从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中，包括：

确定该分布式缓存系统当前存储的全量数据的总数据量；

根据该服务器的目标参数，确定每次获取的数据量，该目标参数用于指示该服务器的负载情况或网络情况中的至少一种；

根据该总数据量和该每次获取的数据量，确定批量读取次数；

按照该批量读取次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中，包括：

确定该分布式缓存系统当前存储的全量数据的总数据量；

当该总数据量大于数据量阈值时，按照目标次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该接收终端的数据获取请求之后，该方法还包括：

启动异步线程，通过该异步线程执行响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中的步骤。

在一种可能实现方式中，该更新触发事件为下述任一种：

该本地缓存中的全量数据的存储时长达到目标时长，该目标时长为失效时间与开始缓存时间之间的时长；

该本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。

在一种可能实现方式中，该分布式缓存系统中存储有定时从数据库中获取的全量数据。

在一种可能实现方式中，该根据该数据获取请求，在服务器的本地缓存中进行查询之后，该方法还包括：

响应于该本地缓存中未存储有该目标数据，向该终端返回数据获取失败信息。

在一种可能实现方式中，该数据获取请求对应的目标数据为目标直播间的直播数据，该服务器为直播应用对应的服务器；

该根据该数据获取请求，在服务器的本地缓存中进行查询，包括：

根据该数据获取请求携带的该目标直播间的直播间标识，在该本地缓存中进行查询，该本地缓存中存储的全量数据包括当前正在进行直播的各个直播间的直播数据。

上述图2所示的流程为本公开实施例的基本流程，下面基于该基本流程对本公开实施例的详细流程进行介绍。

图3是根据一示例性实施例示出的一种请求处理方法的流程图，如图3所示，该请求处理方法用于服务器中，包括以下步骤：

在步骤S31中，服务器接收终端的数据获取请求。

其中，该数据获取请求可以用于请求获取目标数据，由于用户每次可能请求多个资源数据，这种情况下，该目标数据包括该多个资源数据。

针对数据获取请求的触发过程，用户可以在终端上进行数据访问操作，触发终端向服务器发送数据获取请求。以直播场景为例，在一种可能实现方式中，该数据获取请求对应的目标数据可以为目标直播间的直播数据，该服务器为直播应用对应的服务器，也即是直播服务器。终端上可以安装有直播应用，用户可以在该直播应用的界面上点击目标直播间的入口，触发终端向服务器发送用于请求获取目标直播间的直播数据的数据获取请求，该数据获取请求中可以携带有目标直播间的直播间标识。通过在直播场景下终端基于直播应用发起数据获取请求，使得直播服务器可以在接收到数据获取请求后向终端返回所请求的直播数据，从而满足终端用户的直播访问需求。

在步骤S32中，服务器根据该数据获取请求，在服务器的本地缓存中进行查询，该本地缓存中存储有从分布式缓存系统中获取的全量数据。

其中，分布式缓存系统可以是Memcached，是一套分布式的高速的内存缓存系统，可以应对高流量的用户请求。服务器的本地缓存是将服务器本地的物理内存划分出来的一部分空间，用于对数据进行缓存，本地缓存中的数据可以存在失效时间。该本地缓存中存储有从分布式缓存系统中获取的全量数据是指该本地缓存中存储有分布式缓存系统中的所有数据。由于本地缓存中存储的是从分布式缓存系统中获取的全量数据，因此该本地缓存也可以称为本地全量缓存空间。

在一种可能实现方式中，该分布式缓存系统中存储有定时从数据库中获取的全量数据。其中，数据库用于长期存储数据，包括用户可能请求的所有数据。针对分布式缓存系统可以维护一个定时更新任务，定时从数据库中查询全部的数据，也即是全量数据，将其缓存到分布式缓存系统中。通过定时从数据库中拉取全量数据到本地缓存中，可以保证本地缓存中存储的是最新的全量数据。

服务器在接收到数据获取请求后，可以根据数据获取请求所要请求的目标数据，在服务器的本地缓存中查询是否存储有该目标数据。针对目标数据包括多个资源数据的情况，服务器可以在本地缓存中查询是否存储有该多个资源数据中的每个数据，也即是，查询本地缓存中存储的全量数据中是否包括该多个资源数据中的每个数据。

以直播场景为例，在一种可能实现方式中，该根据该数据获取请求，在服务器的本地缓存中进行查询，包括：根据该数据获取请求携带的该目标直播间的直播间标识，在该本地缓存中进行查询，该本地缓存中存储的全量数据包括当前正在进行直播的各个直播间的直播数据。通过在直播服务器的本地缓存中存储各个直播间的直播数据，可以使得用户在请求数据时，直播服务器可以直接从直播服务器的本地缓存中获取数据返回给用户，相比于从数据库中获取数据返回给用户，大大缩短了用户的等待时间。

在直播场景下，直播服务器的本地缓存中可以存储有当前正在进行直播的各个直播间的直播数据，该本地缓存可以采用直播间标识为索引，根据直播间标识可以查询本地缓存中是否存储有对应的直播数据。

在步骤S33中，服务器响应于该本地缓存中存储有该数据获取请求对应的目标数据，向该终端返回该目标数据。

如果服务器查询到本地缓存中存储有该目标数据，服务器可以将本地缓存中存储的该目标数据作为对数据获取请求的响应返回给终端。针对目标数据包括多个资源数据的情况，如果本地缓存中存储有该多个资源数据中的部分数据，则服务器可以将该部分数据作为对该数据获取请求的响应，返回给终端，如果本地缓存中存储有该多个资源数据中的全部数据，则服务器可以将该多个资源数据作为对该数据获取请求的响应，返回给终端。

在一种可能实现方式中，服务器根据该数据获取请求，在服务器的本地缓存中进行查询之后，本申请实施例提供的方法还包括：服务器响应于该本地缓存中未存储有该目标数据，向该终端返回数据获取失败信息。

如果服务器查询到本地缓存中未存储有该目标数据，则服务器可以生成用于指示数据获取失败的信息，也即是数据获取失败信息，然后将该数据获取失败信息作为对数据获取请求的响应返回给终端，使得终端用户可以得知数据获取失败。由于本地缓存中存储的是全量数据，如果在本地缓存中没有查询到对应的数据，则表明确实不存在该数据，并不是本次请求出现了问题，因此通过返回数据获取失败信息给用户，使得用户可以得知请求得到了正常响应，只不过所请求的数据不存在。另外，针对该目标数据包括多个资源数据的情况，如果本地缓存中未存储有该多个资源数据中的部分数据，则服务器返回的数据获取失败信息可以指示未存在该部分数据。

在步骤S34中，服务器响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该更新触发事件为下述任一种：该本地缓存中的全量数据的存储时长达到目标时长；该本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。其中，目标时长为失效时间与开始缓存时间之间的时长，也即是数据可缓存的最长时间。

针对第一种更新触发事件，服务器可以检测本地缓存中全量数据的存储时长是否达到目标时长，如果达到目标时长，也即是存储时长等于或大于目标时长，则表明发生了更新触发事件，如果未达到目标时长，则表明未发生更新触发事件。通过在更新时长达到失效时长时进行数据更新，可以在一定程度上保证数据更新的及时性，同时也能降低数据还未失效时更新带来的资源消耗。

针对第二种更新触发事件，服务器可以检测本地缓存中全量数据的存储时长与目标时长的差值是否小于或等于目标阈值，如果存储时长与目标时长的差值小于或等于时长阈值，则表明发生了更新触发事件，如果存储时长与目标时长的差值大于目标阈值，则表明未发生更新触发事件。通过设置更新时长短于失效时长，失效时间设置的更长，可以在新的数据还未得到时，旧的数据还能提供给用户服务。

服务器在接收到数据获取请求后，可以检测是否发生更新触发事件，如果发生更新触发事件，则从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中，也即是，从该分布式缓存系统中获取当前存储的所有数据存储到该本地缓存中。具体地，服务器可以向分布式缓存系统发送全量数据获取请求，接收分布式缓存系统基于该全量数据获取请求返回的全量数据，然后服务器可以进行缓存刷新操作，使用当前获取到的全量数据来替换本地缓存中的全量数据，实现本地缓存的全量数据更新，也称为全量数据刷新。如果服务器检测到未发生更新触发事件，则服务器可以保持分布式缓存空间中的全量数据不变。

在一种可能实现方式中，该从该分布式缓存系统中获取当前存储的全量数据缓存到该本地缓存中，包括：从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。服务器从分布式缓存系统中拉取全量数据时，可以分批拉取，一次拉取一部分，这样可以减小大量数据拉取对系统稳定性的影响。

针对批量获取过程，在一种可能实现方式中，该从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中，包括：确定该分布式缓存系统当前存储的全量数据的总数据量；根据该服务器的目标参数，确定每次获取的数据量，该目标参数用于指示该服务器的负载情况或网络情况中的至少一种；根据该总数据量和该每次获取的数据量，确定批量读取次数；按照该批量读取次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。通过考虑服务器的负载情况或网络情况，确定每次读取的数据量，可以降低数据读取对服务器的性能影响。

服务器可以向分布式缓存系统发送数据量查询请求，接收分布式缓存系统返回的总数据量，然后根据用于指示服务器的负载情况或网络情况中至少一种的目标参数，来确定每次能获取的数据量，进而使用总数据量除以每次获取的数据量，得到批量读取次数，从而按照批量读取次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在另一种可能实现方式中，该从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中，包括：确定该分布式缓存系统当前存储的全量数据的总数据量；当该总数据量大于数据量阈值时，按照目标次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。通过考虑总数据量的大小，在总数据量较大时采用批量读取方式，可以降低数据读取对服务器的性能影响。

其中，目标次数可以由技术人员根据服务器的性能预先设置。服务器可以根据当前待获取的总数据量与数据量阈值的大小关系，判断是否需要批量读取，如果总数据量大于数据量阈值，则按照目标次数，从该分布式缓存系统中批量获取该当前存储的全量数据缓存到该本地缓存中，如果总数据量小于或等于数据量阈值，则可以从该分布式缓存系统中一次获取该当前存储的全量数据缓存到该本地缓存中。

需要说明的是，本公开实施例仅以服务器在本地缓存中进行查询，向终端返回查询到的目标数据作为步骤S32至步骤S33，服务器检测是否发生更新触发事件，从分布式缓存系统中获取全量数据缓存到本地缓存作为步骤S34至步骤S35为例进行说明，步骤S32至步骤S33与步骤S34至步骤S35并不代表具体的执行顺序，服务器可以在执行步骤S32至步骤S33时，异步执行步骤S34至步骤S35，相应地，在一种可能实现方式中，服务器接收终端的数据获取请求之后，本公开实施例提供的方法还包括：启动异步线程，通过该异步线程执行响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中的步骤。通过异步刷新全量数据到本地缓存，使得用户响应不会受到数据更新的影响。

为了便于更直观地介绍本公开实施例提供的技术方案，下面将结合图4提供的一种请求处理方法的过程示意图进行说明。如图4所示，服务器的功能模块可以包括API(Application Programming Interface，应用程序编程接口)服务和本地缓存，API服务用于提供访问的接口，如图4中的步骤1，用户可以通过终端上的目标应用发起请求，由于该请求是终端发送给服务器，可以称为上行请求(对应上述步骤S31)，如图4中的步骤2，服务器在接收到该请求后，可以调用API服务来查询本地缓存中是否存在该请求对应的数据(对应上述步骤S32)，如图4中的步骤3，如果存在，则可以从本地缓存中获取该数据，如图4中的步骤5，如果不存在，则从本地缓存中无法获取到该数据。另外，如图4中的步骤4，服务器可以调用API服务检测缓存是否需要刷新，如果是，则异步刷新全量数据到本地缓存(对应上述步骤S34至步骤S35)。作为对用户请求的响应，如图4中的步骤6，服务器可以通过API服务将数据返回给终端(对应上述步骤S33)。此外，如图4中的步骤7和步骤8，针对分布式缓存系统可以维护一个定时更新任务，定时从数据库中查询全部的数据，将其缓存到分布式缓存系统中。

对于高频随机大量数据读取，由于是高频随机的用户请求，用户请求的数据可能会覆盖到全量数据，相关技术是数据一层一层的缓存读取，没有的话进行回源读取，无法降低整体对缓存的压力。由于针对每个请求单独进行缓存的回源，也即是，单独从分布式缓存系统中读取数据，故分布式缓存系统的QPS为：机器维度*全量数据/缓存时间”，当全量数据足够大时，分布式缓存系统的QPS也是十分大的，比如直播场景中全局直播间的数量在大几十万级别，缓存3s，机器在百级别，对于分布式缓存系统的回源压力也达到了上千万的QPS。

本公开实施例提供了一种高频随机大量数据读取的缓存优化方案，通过在服务器的本地设置一层全量缓存的缓存结构，用户的请求可以在这个全量缓存中读取并且返回对应的数据，在读取的时候对本地缓存的时效性做判断，如果需要更新则重新从分布式缓存系统中全量读取数据，并有定时任务从数据库中刷新全量数据到分布式缓存系统，这样缓存的回源由用户级别的请求个数降低到了批量读取次数，将用户的请求个数和缓存的读取次数由1:1的绑定关系解耦为n:1，也即是将全量数据的缓存读取次数由用户请求个数(每个请求对应不一样的数据，如果50万个请求对应50万个数据，则需要读取50万次)降低到了批量读取次数(如果50万个数据分50次读取，则读取50次即可)，分布式缓存系统只需要抗机器级别*批量读取次数的请求即可，降低了分布式缓存系统的QPS到机器数量*批量读取次数/缓存时间，这样相比于相关技术会降低QPS由千万的数量级到万的数量级，提高了本地缓存的命中率，降低了用户的请求响应时间，同时节省了分布式缓存系统的缓存资源，提高了系统的稳定性。由于无需针对每个请求单独进行缓存的回源，而是整体统一进行回源，可以降低用户流量比较均匀的大量用户随机请求对分布式缓存系统带来的压力。

本公开实施例提供的方法，通过在接收到终端发送的数据获取请求时，在服务器的本地存储空间中查询是否存在该数据获取请求对应的目标数据，如果本地缓存中存储有该目标数据，则向终端返回该目标数据，由于在服务器的本地缓存中存储的是从分布式缓存系统中获取的全量数据，无需针对每个请求单独从分布式缓存系统中获取对应的数据，降低了分布式缓存系统的QPS，减轻了分布式缓存系统的压力，提高了分布式缓存系统的稳定性。

图5是根据一示例性实施例示出的一种请求处理装置的框图。参照图5，该装置包括检测模块501，确定模块502和转换模块503。

接收单元501被配置为执行接收终端的数据获取请求；

查询单元502被配置为执行根据该数据获取请求，在服务器的本地缓存中进行查询，该本地缓存中存储有从分布式缓存系统中获取的全量数据；

发送单元503被配置为执行响应于该本地缓存中存储有该数据获取请求对应的目标数据，向该终端返回该目标数据。

在一种可能实现方式中，该装置还包括：

获取单元，被配置为执行响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该获取单元被配置为执行从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该获取单元被配置为执行：

确定该分布式缓存系统当前存储的全量数据的总数据量；

根据该服务器的目标参数，确定每次获取的数据量，该目标参数用于指示该服务器的负载情况或网络情况中的至少一种；

根据该总数据量和该每次获取的数据量，确定批量读取次数；

按照该批量读取次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该获取单元被配置为执行：

确定该分布式缓存系统当前存储的全量数据的总数据量；

当该总数据量大于数据量阈值时，按照目标次数，从该分布式缓存系统中批量获取当前存储的全量数据存储到该本地缓存中。

在一种可能实现方式中，该获取单元被配置为执行启动异步线程，通过该异步线程执行响应于检测到的更新触发事件，从该分布式缓存系统中获取当前存储的全量数据存储到该本地缓存中的步骤。

在一种可能实现方式中，该更新触发事件为下述任一种：

该本地缓存中的全量数据的存储时长达到目标时长，该目标时长为失效时间与开始缓存时间之间的时长；

该本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。

在一种可能实现方式中，该分布式缓存系统中存储有定时从数据库中获取的全量数据。

在一种可能实现方式中，该发送单元503还被配置为执行响应于该本地缓存中未存储有该目标数据，向该终端返回数据获取失败信息。

在一种可能实现方式中，该数据获取请求对应的目标数据为目标直播间的直播数据，该服务器为直播应用对应的服务器；

该查询单元502被配置为执行根据该数据获取请求携带的该目标直播间的直播间标识，在该本地缓存中进行查询，该本地缓存中存储的全量数据包括当前正在进行直播的各个直播间的直播数据。

关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

图6是根据一示例性实施例示出的一种服务器的框图，该服务器600可因配置或性能不同而产生比较大的差异，可以包括一个或多个处理器(Central Processing Units，CPU)601和一个或多个存储器602，其中，该存储器602中存储有至少一条指令，该至少一条指令由该处理器601加载并执行以实现上述各个方法实施例提供的请求处理方法。当然，该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口等部件，以便进行输入输出，该服务器还可以包括其他用于实现设备功能的部件，在此不做赘述。

在示例性实施例中，还提供了一种包括指令的存储介质，例如包括指令的存储器602，上述指令可由服务器600的处理器601执行以完成上述方法。可选地，存储介质可以是非临时性计算机可读存储介质，例如，该非临时性计算机可读存储介质可以是ROM(Read-Only Memory,ROM，只读内存)、RAM(Random Access Memory，随机存取存储器)、CD-ROM(Compact Disc Read-Only Memory，只读光盘)、磁带、软盘和光数据存储设备等。

在示例性实施例中，还提供了一种计算机程序产品，该计算机程序产品中的指令可由服务器600的处理器601执行以完成上述方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种请求处理方法，其特征在于，包括：

接收终端的数据获取请求；

根据所述数据获取请求，在服务器的本地缓存中进行查询，所述本地缓存中存储有从分布式缓存系统中获取的全量数据；

响应于所述本地缓存中存储有所述数据获取请求对应的目标数据，向所述终端返回所述目标数据。

2.根据权利要求1所述的请求处理方法，其特征在于，所述接收终端的数据获取请求之后，所述方法还包括：

响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中。

3.根据权利要求2所述的请求处理方法，其特征在于，所述从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中，包括：

从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

4.根据权利要求3所述的请求处理方法，其特征在于，所述从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中，包括：

确定所述分布式缓存系统当前存储的全量数据的总数据量；

根据所述服务器的目标参数，确定每次获取的数据量，所述目标参数用于指示所述服务器的负载情况或网络情况中的至少一种；

根据所述总数据量和所述每次获取的数据量，确定批量读取次数；

按照所述批量读取次数，从所述分布式缓存系统中批量获取当前存储的全量数据存储到所述本地缓存中。

5.根据权利要求2所述的请求处理方法，其特征在于，所述接收终端的数据获取请求之后，所述方法还包括：

启动异步线程，通过所述异步线程执行响应于检测到的更新触发事件，从所述分布式缓存系统中获取当前存储的全量数据存储到所述本地缓存中的步骤。

6.根据权利要求2所述的请求处理方法，其特征在于，所述更新触发事件为下述任一种：

所述本地缓存中的全量数据的存储时长达到目标时长，所述目标时长为失效时间与开始缓存时间之间的时长；

所述本地缓存中的全量数据的存储时长与目标时长的差值小于或等于时长阈值。

7.根据权利要求1所述的请求处理方法，其特征在于，所述分布式缓存系统中存储有定时从数据库中获取的全量数据。

8.一种请求处理装置，其特征在于，包括：

接收单元，被配置为执行接收终端的数据获取请求；

查询单元，被配置为执行根据所述数据获取请求，在服务器的本地缓存中进行查询，所述本地缓存中存储有从分布式缓存系统中获取的全量数据；

发送单元，被配置为执行响应于所述本地缓存中存储有所述数据获取请求对应的目标数据，向所述终端返回所述目标数据。

9.一种服务器，其特征在于，包括：

一个或多个处理器；

用于存储所述一个或多个处理器可执行指令的一个或多个存储器；

其中，所述一个或多个处理器被配置为执行所述指令，以实现如权利要求1至7中任一项所述的请求处理方法。

10.一种存储介质，当所述存储介质中的指令由服务器的处理器执行时，使得服务器能够执行如权利要求1至7中任一项所述的请求处理方法。

Images