CN110808914A - 一种访问请求处理方法、装置及电子设备 - Google Patents

Abstract

本公开涉及一种访问请求处理方法、装置、电子设备及计算机可读介质。该方法包括：获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；基于多个限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。本公开涉及的访问请求处理方法、装置、电子设备及计算机可读介质，能够避免因瞬时访问请求的流量过大而其引起的业务端服务器限流，从而避免了客户端处接口调用异常，也避免了客户端处的业务损失。

Description

一种访问请求处理方法、装置及电子设备

技术领域

本公开涉及计算机信息处理领域，具体而言，涉及一种访问请求处理方法、装置、电子设备及计算机可读介质。

背景技术

熔断机制是应对雪崩效应的业务服务器保护机制，在业务服务器中，熔断机制也是起着类似的作用。业务服务器为了保证其自身的正常运转，在其流量高峰期或因为活动、热点事件、恶意攻击等原因导致其处理的访问流量突增时，可通过对来自某些客户端的请求流量速率进行限制或者直接熔断(不响应任何访问请求)的方式，避免因为超出预期的大流量导致服务整体性能下降、响应缓慢或不可用的问题。在当前流量触发限流阈值或者熔断机制后，业务服务器可以通过拒绝部分服务、等待、排队、降级等策略保护业务系统。当业务服务器检测访问请求的响应正常后，可恢复访问请求的处理。

业务服务器一旦进行了限流措施，势必会影响到待访问业务服务器的客户端的访问请求的处理速度。特别是对于较重要的业务服务器，比如银行系统的业务服务器，金融系统的业务服务器等等，对于企业用户的客户端而言，能够不触发业务服务器的熔断或者限流措施是最保险的方式，但是企业用户这边同时存在着多个客户端，如果对每一个客户端都进行事先的流量限值，那么难以避免会有空占限流速率损耗，降低了整个企业用户的全局业务吞吐量。如何有效的企业内部业务吞吐量和对业务服务器的流量冲击是目前亟待解决的问题。

因此，需要一种新的访问请求处理方法、装置、电子设备及计算机可读介质。

在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

有鉴于此，本公开提供一种访问请求处理方法、装置、电子设备及计算机可读介质，能够避免因瞬时访问请求的流量过大而其引起的业务端服务器限流，从而避免了客户端处接口调用异常，也避免了客户端处的业务损失。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一方面，提出一种访问请求处理方法，该方法包括：获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；基于多个限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

可选地，还包括：在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器以进行处理。

可选地，获取来自多个客户端的多个访问请求包括：通过线程阻塞接口获取来自多个客户端的所述多个访问请求。

可选地，确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间。

可选地，通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量和所述预设接收流量确定流量处理时间；以及基于所述流量处理时间为所述多个客户端中每一个客户端确定其对应的阻塞时间。

可选地，所述访问请求还包括客户端的优先级；确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间。

可选地，通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量和所述预设接收流量确定流量处理时间；基于所述多个客户端的优先级将所述多个客户端排序；以及基于所述流量处理时间以及多个客户端的排序，依次为所述多个客户端中每一个客户端确定其对应的阻塞时间。

可选地，将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求包括：基于分布式令牌桶算法将所述阻塞时间发送至其对应的客户端；以及基于分布式令牌桶算法接收所述客户端再次发送的访问请求。

可选地，基于分布式令牌桶算法将所述阻塞时间发送至其对应的客户端包括：基于分布式令牌桶算法为多个客户端生成待生效令牌；以及将所述阻塞时间和所述待生效令牌发送至与其对应的客户端。

可选地，基于分布式令牌桶算法接收所述客户端再次发送的访问请求包括：接收所述客户端再次发送的访问请求，所述访问请求中包括待生效的令牌；以及基于所述待生效的令牌将所述访问请求发送至业务服务器。

根据本公开的一方面，提出一种访问请求处理装置，该装置包括：获取请求模块，用于获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；计算流量模块，用于基于多个限流参数确定当前请求流量；阻塞时间模块，用于在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；返回时间模块，用于将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

可选地，还包括：请求转发模块，用于在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器以进行处理。

可选地，所述获取请求模块，还用于通过线程阻塞接口获取来自多个客户端的所述多个访问请求。

可选地，所述阻塞时间模块包括：第一计算单元，用于通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间。

可选地，所述第一计算单元，还用于通过所述当前请求流量和所述预设接收流量确定流量处理时间；以及基于所述流量处理时间为所述多个客户端中每一个客户端确定其对应的阻塞时间。

可选地，所述访问请求还包括客户端的优先级；所述阻塞时间模块包括：第二计算单元，用于通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间。

可选地，所述第二计算单元，还用于通过所述当前请求流量和所述预设接收流量确定流量处理时间；基于所述多个客户端的优先级将所述多个客户端排序；以及基于所述流量处理时间以及多个客户端的排序，依次为所述多个客户端中每一个客户端确定其对应的阻塞时间。

可选地，所述返回时间模块包括：发送单元，用于基于分布式令牌桶算法将所述阻塞时间发送至其对应的客户端；以及接收单元，用于基于分布式令牌桶算法接收所述客户端再次发送的访问请求。

可选地，所述发送单元包括：令牌产生子单元，用于基于分布式令牌桶算法为多个客户端生成待生效令牌；以及令牌发送子单元，用于将所述阻塞时间和所述待生效令牌发送至与其对应的客户端。

可选地，所述接收单元包括：令牌接收子单元，用于接收所述客户端再次发送的访问请求，所述访问请求中包括待生效的令牌；以及业务处理子单元，用于基于所述待生效的令牌将所述访问请求发送至业务服务器。

根据本公开的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。

根据本公开的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。

根据本公开的访问请求处理方法、装置、电子设备及计算机可读介质，基于客户端访问请求中的限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求的方式，能够避免因瞬时访问请求的流量过大而其引起的业务端服务器限流，从而避免了客户端的接口调用异常，也避免了客户端的业务损失。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。

附图说明

通过参照附图详细描述其示例实施例，本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据一示例性实施例示出的一种访问请求处理方法及装置的应用场景框图。

图2是根据一示例性实施例示出的一种访问请求处理方法及装置的流程图。

图3是根据另一示例性实施例示出的一种访问请求处理方法的流程图。

图4是根据另一示例性实施例示出的一种访问请求处理方法的流程图。

图5是根据一示例性实施例示出的一种访问请求处理装置的框图。

图6是根据一示例性实施例示出的一种电子设备的框图。

图7是根据一示例性实施例示出的一种计算机可读介质的框图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本公开概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。

本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本公开所必须的，因此不能用于限制本公开的保护范围。

图1是根据一示例性实施例示出的一种访问请求处理方法及装置的系统框图。

如图1所示，系统架构10可以包括客户端设备101、102、103，网络104和流量服务器105、业务服务器106。网络104用以在客户端设备101、102、103和流量服务器105之间提供通信链路的介质；网络104还用以在流量服务器105和业务服务器106之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用客户端设备101、102、103通过网络104与流量服务器105交互，以向业务服务器106接收或发送消息等。客户端设备101、102、103上可以安装有各种通讯客户端应用，例如金融服务类应用、购物类应用、网页浏览器应用、即时通信工具、邮箱客户端、社交平台软件等。

客户端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

流量服务器105可以是提供各种服务的服务器，例如对用户利用客户端设备101、102、103所浏览的金融服务类网站提供支持的访问处理服务器。访问处理服务器可以对接收到的来自客户端设备101、102、103的访问请求进行处理，并将处理结果(直接转发至业务服务器106或者分配阻塞时间)反馈给客户端设备101、102、103。

流量服务器105可例如获取来自客户端设备101、102、103的多个访问请求，所述访问请求中包含限流参数；流量服务器105可例如基于多个限流参数确定当前请求流量；流量服务器105可例如在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；流量服务器105可例如将所述阻塞时间发送至其对应的客户端中以使得客户端设备101、102、103基于所述阻塞时间再次发送访问请求。

流量服务器105还可例如在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器106以进行处理。

流量服务器105可以是一个实体的服务器，还可例如为多个服务器组成，需要说明的是，本公开实施例所提供的访问请求处理方法可以由流量服务器105执行，相应地，访问请求处理装置可以设置于流量服务器105中。而提供给用户进行金融服务平台浏览的网页端一般位于客户端设备101、102、103中。

图2是根据一示例性实施例示出的一种访问请求处理方法及装置的流程图。访问请求处理方法20至少包括步骤S202至S210。

如图2所示，在S202中，客户端发送访问请求。

在S204中，流量服务器根据当前请求流量确定客户端中的阻塞时间。

在S206中，将阻塞时间发送回客户端。

在S208中，客户端基于阻塞时间再次发出访问请求。

在S210中，流量服务器将访问请求发送至业务服务器。

根据本公开的访问请求处理方法及装置，能够实现均匀出口速率的限流效果，避免峰值请求通行量过大，始终保持匀速请求通行效果，限流速率精度达到n次/ms级别。

根据本公开的访问请求处理方法及装置，能够实现限流前提下最优吞吐量效果，与开源单节点限流方案相比，由于集群各节点接收请求负载程度不同，单节点限流难以避免会有空占限流速率损耗，降低了全局的吞吐量，算法通过集中式的限流数据，能避免这个问题，提高全局吞吐量。

图3是根据一示例性实施例示出的一种访问请求处理方法的流程图。访问请求处理方法30可应用在本公开中的流量服务器端，至少包括步骤S302至S308。

如图3所示，在S302中，获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数。可通过线程阻塞接口(acquire api)获取来自多个客户端的所述多个访问请求。

acquire api接口用于获取给定数目的许可，在提供这些许可前一直将线程阻塞，或者线程已被中断。获取给定数目的许可并立即返回，将可用的许可数减去给定的量。如果没有足够的可用许可，则禁止将当前线程用于线程安排目的并使其处于休眠状态。

在S304中，基于多个限流参数确定当前请求流量。可例如，客户端每次调用acquire api接口，传入限流参数到服务端(限流器名称、限流速率等)。

在S306中，在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间。

在一个实施例中，可例如通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间。

更具体的，通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量和所述预设接收流量确定流量处理时间；以及基于所述流量处理时间为所述多个客户端中每一个客户端确定其对应的阻塞时间。

在一个实施例中，所述访问请求还包括客户端的优先级；确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间。

更具体的，通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间包括：通过所述当前请求流量和所述预设接收流量确定流量处理时间；基于所述多个客户端的优先级将所述多个客户端排序；以及基于所述流量处理时间以及多个客户端的排序，依次为所述多个客户端中每一个客户端确定其对应的阻塞时间。

更具体的，可根据业务服务器预设的接受流量，和当前请求流量的数量，预估已提交的访问申请的处理速度，进而得到当前的处理时间。然后可将待处理的访问申请，依照其对应的客户端的优先级进行排序，一次为每个客户端分配访问请求的阻塞时间。

在一个实施例中，业务服务器当前需要的处理时间可为100ms，客户端A，B，C的访问申请进行排序，可例如客户端C的优先级最高，客户端A的优先级最低，则排序为C，B，A。

可预估每个访问请求的处理时间为10ms，则为客户端C分配阻塞时间为100ms，客户端B分配的阻塞时间为110ms，客户端A分配的阻塞时间为120ms。

在S308中，将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。客户端在阻塞时间到达后，再次发送访问请求。

在一个实施例中，将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求包括：基于分布式令牌桶算法将所述阻塞时间发送至其对应的客户端；以及基于分布式令牌桶算法接收所述客户端再次发送的访问请求。客户端根据返回值自动进行block阻塞，阻塞时间到达后再发出访问请求，从而达到了均匀控制访问请求速率的效果。

在一个实施例中，还包括：在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器以进行处理。其中，客户端可通过tryAcquire方法，如果本次block阻塞的时间超过可接受时间，则直接为用户返回拒绝请求。其中，tryAcquire(intlong timeout,TimeUnit unit)的作用是在指定的时间内尝试地获得1个许可，如果获取不到则返回false。

本公开的访问请求处理方法，实现了一套业务无关的通用客户端api，能用于各种对访问速率有要求的场景。

本公开的访问请求处理方法，实现算法简单高效，方案只需要在服务端占用一个KV值(Key value)即可进行阻塞时间的计算，对存储占用几乎可以忽略，可用性可通过服务端集群保证，当某节点异常后，通过第一次限流计算，既能迅速恢复限流效果。

应清楚地理解，本公开描述了如何形成和使用特定示例，但本公开的原理不限于这些示例的任何细节。相反，基于本公开公开的内容的教导，这些原理能够应用于许多其它实施例。

图4是根据另一示例性实施例示出的一种访问请求处理方法的流程图。图4所示的流程是对图3所示的流程中S308“将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求”的详细描述。

如图4所示，在S402中，基于分布式令牌桶算法为多个客户端生成待生效令牌。其中，分布式令牌桶算法(Redis+lua)假设存在一个令牌桶计数器，每隔一定时间放入一块令牌(Token)，每次请求取出一块令牌。令牌桶有最大容量限制，当计数器令牌数达到最大值，则不再放入，如果计数器令牌数为0，请求则触发限流策略。如每隔10ms放入一块令牌，最大令牌数为100，假设某个时刻令牌桶放满令牌，则这个时刻的前10ms能请求100次，清20ms能请求101次。

在S404中，将所述阻塞时间和所述待生效令牌发送至与其对应的客户端。

一般情况下，实现令牌桶算法的系统会按恒定1/QPS时间间隔(如果QPS＝100,则间隔是10ms)往桶里加入Token,如果桶已经满了就不再加了.新请求来临时,会各自拿走一个Token,如果没有Token可拿了就阻塞或者拒绝服务。目前，令牌桶优点是可以方便的改变速度，一旦需要提高速率,则按需提高放入桶中的令牌的速率，一般会定时(比如100毫秒)往桶中增加一定数量的令牌。

但是，令牌桶算法需要系统不断的生成令牌，对于客户端而言，到了阻塞时间再次访问的时候，还是需要等待令牌的生成，如果这个时间系统没有仍旧没有“多余”的令牌的话，该客户端仍旧不能继续提交自己的访问申请，系统仍旧需要给该客户端分配阻塞时间。

在本公开中，可在生产阻塞时间的时候，同时生成待生效令牌，待生效的令牌中可限定该令牌的使用对象(某一预定的客户端)，待生效的令牌中还可限定该令牌的生效时间(可与阻塞时间相同)，将待生效的令牌和阻塞时间一同发送回客户端中。

在S406中，接收所述客户端再次发送的访问请求，所述访问请求中包括待生效的令牌。客户端在阻塞时间到达时，再次发送访问请求。

在S408中，基于所述待生效的令牌将所述访问请求发送至业务服务器。流量服务器接收到访问请求，和待生效的令牌后，可基于该令牌处理该访问请求。

根据本公开的访问请求处理方法，基于客户端访问请求中的限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求的方式，能够避免因瞬时访问请求的流量过大而其引起的业务端服务器限流，从而避免了客户端的接口调用异常，也避免了客户端的业务损失。

根据本公开的访问请求处理方法，对接银行等合作方接口时，通过本限流算法，满足银行对访问速率的要求，保护银行系统。同时由于实现了前置限流，避免了触发银行端限流造成的接口调用异常，避免业务损失。

本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时，执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。

此外，需要注意的是，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。

图5是根据一示例性实施例示出的一种访问请求处理装置的框图。如图5所示，访问请求处理装置50可包括：获取请求模块502，计算流量模块504，阻塞时间模块506，返回时间模块508，以及请求转发模块510。

获取请求模块502用于获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；所述获取请求模块502还用于通过线程阻塞接口获取来自多个客户端的所述多个访问请求。

计算流量模块504用于基于多个限流参数确定当前请求流量；

阻塞时间模块506用于在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；

所述阻塞时间模块506包括：第一计算单元，用于通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间。所述第一计算单元，还用于通过所述当前请求流量和所述预设接收流量确定流量处理时间；以及基于所述流量处理时间为所述多个客户端中每一个客户端确定其对应的阻塞时间。

所述阻塞时间模块506还包括：第二计算单元，用于通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间。所述第二计算单元，还用于通过所述当前请求流量和所述预设接收流量确定流量处理时间；基于所述多个客户端的优先级将所述多个客户端排序；以及基于所述流量处理时间以及多个客户端的排序，依次为所述多个客户端中每一个客户端确定其对应的阻塞时间。

返回时间模块508用于将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

所述返回时间508模块包括：发送单元，用于基于分布式令牌桶算法将所述阻塞时间发送至其对应的客户端；所述发送单元包括：令牌产生子单元，用于基于分布式令牌桶算法为多个客户端生成待生效令牌；以及令牌发送子单元，用于将所述阻塞时间和所述待生效令牌发送至与其对应的客户端。

所述返回时间508模块还包括：接收单元，用于基于分布式令牌桶算法接收所述客户端再次发送的访问请求。所述接收单元包括：令牌接收子单元，用于接收所述客户端再次发送的访问请求，所述访问请求中包括待生效的令牌；以及业务处理子单元，用于基于所述待生效的令牌将所述访问请求发送至业务服务器。

请求转发模块510用于在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器以进行处理。

根据本公开的访问请求处理装置，基于客户端访问请求中的限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求的方式，能够避免因瞬时访问请求的流量过大而其引起的业务端服务器限流，从而避免了客户端的接口调用异常，也避免了客户端的业务损失。

图6是根据一示例性实施例示出的一种电子设备的框图。

下面参照图6来描述根据本公开的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本公开各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2，图3，图4中所示的步骤。

所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。

所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；基于多个限流参数确定当前请求流量；在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。

以上具体地示出和描述了本公开的示例性实施例。应可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (10)

1.一种访问请求处理方法，其特征在于，包括：

获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；

基于多个限流参数确定当前请求流量；

在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；以及

将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

2.如权利要求1所述的方法，其特征在于，还包括：

在所述当前请求流量小于等于预设接收流量时，将所述多个访问请求发送至业务服务器以进行处理。

3.如权利要求1-2中任一项所述的方法，其特征在于，获取来自多个客户端的多个访问请求包括：

通过线程阻塞接口获取来自多个客户端的所述多个访问请求。

4.如权利要求1-3中任一项所述的方法，其特征在于，确定所述多个客户端中每一个客户端的阻塞时间包括：

通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间。

5.如权利要求1-3中任一项所述的方法，其特征在于，通过所述当前请求流量、所述预设接收流量确定所述多个客户端中每一个客户端的阻塞时间包括：

通过所述当前请求流量和所述预设接收流量确定流量处理时间；以及

基于所述流量处理时间为所述多个客户端中每一个客户端确定其对应的阻塞时间。

6.如权利要求1-5中任一项所述的方法，其特征在于，所述访问请求还包括客户端的优先级；

确定所述多个客户端中每一个客户端的阻塞时间包括：

通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间。

7.如权利要求1-6中任一项所述的方法，其特征在于，通过所述当前请求流量、所述预设接收流量、所述多个客户端的优先级确定所述多个客户端中每一个客户端的阻塞时间包括：

通过所述当前请求流量和所述预设接收流量确定流量处理时间；

基于所述多个客户端的优先级将所述多个客户端排序；以及

基于所述流量处理时间以及多个客户端的排序，依次为所述多个客户端中每一个客户端确定其对应的阻塞时间。

8.一种访问请求处理装置，其特征在于，包括：

获取请求模块，用于获取来自多个客户端的多个访问请求，所述访问请求中包含限流参数；

计算流量模块，用于基于多个限流参数确定当前请求流量；

阻塞时间模块，用于在所述当前请求流量大于预设接收流量时，确定所述多个客户端中每一个客户端的阻塞时间；

返回时间模块，用于将所述阻塞时间发送至其对应的客户端中以使得所述客户端基于所述阻塞时间再次发送访问请求。

9.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一项所述的方法。

10.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-7中任一项所述的方法。

Images