CN116915711A - 一种派单服务扩容保护下游服务的方法、装置、设备及存储介质 - Google Patents

Abstract

本发明公开了一种派单服务扩容保护下游服务的方法、装置、设备及存储介质。获取用户设备发送的订单请求；将订单请求发送至消息中间件，获取可用令牌；当获取到可用令牌时，读取消息中间件中的订单请求；对读取的订单请求进行派单操作。也就是说，每个时间节点每次对订单请求进行派单的时候，会先获取令牌，若获取到令牌，将进行派单动作，若获取不到将不做任何处理，这样在派单服务在扩容导致的技术数量增加的时候令牌数不会增加，可有效避免因为派单扩容打崩下游服务和打崩组件。

Description

一种派单服务扩容保护下游服务的方法、装置、设备及存储 介质

技术领域

本发明属于网约车技术领域，具体涉及一种派单服务扩容保护下游服务的方法、装置、设备及存储介质。

背景技术

目前，随着移动互联网、智能电子设备的兴起，网约车模式得到了出行者的广泛认可和青睐。网约车模式通过移动电子设备即可完成乘客下单、司机接单的过程，缩短了乘客叫车的时间，给人们的出行带来了极大的便利。

用户下单后，打车软件会对用户的订单进行派单服务。具体的，平台接收到用户的订单，首先会在用户的上车点附近寻找司机进行派单，在一定时间内搜索不到即可派单司机，即周围无可用司机，平台对订单进行重派。

申请人在运营过程中发现，在高并发网约车订单的情况时，会使派单服务以及派单下游服务承受巨大的压力，严重可导致派单系统崩溃。

发明内容

本发明的目的是要解决上述的技术问题，提供一种派单服务扩容保护下游服务的方法、装置、设备及存储介质。

为了解决上述问题，本发明按以下技术方案予以实现的：

根据本发明的一方面，提供了一种派单服务扩容保护下游服务的方法，所述方法包括：

获取用户设备发送的订单请求；

将所述订单请求发送至消息中间件，获取可用令牌，其中，所述可用令牌为可被指派进行处理订单请求的令牌；

当获取到可用令牌时，读取所述消息中间件中的所述订单请求；

对读取的订单请求进行派单操作。

根据本发明的另一方面，提供了一种派单服务扩容保护下游服务的装置，所述装置包括：

获取订单请求模块，用于获取用户设备发送的订单请求；

获取可用令牌模块，用于将所述订单请求发送至消息中间件，获取可用令牌，其中，所述可用令牌为可被指派进行处理订单请求的令牌；

读取订单请求模块，用于当获取到可用令牌时，读取所述消息中间件中的所述订单请求；

派单模块，用于对读取的订单请求进行派单操作。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明实施例所述的派单服务扩容保护下游服务的方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序用于使处理器执行时实现本发明实施例所述的派单服务扩容保护下游服务的方法。

在本发明实施例中，获取用户设备发送的订单请求；将订单请求发送至消息中间件，获取可用令牌，其中，可用令牌为未被指派进行处理订单请求的令牌；当获取到可用令牌时，读取消息中间件中的订单请求；对读取的订单请求进行派单操作。通过增加令牌桶功能，在派单前，先读取可用令牌，确定可对订单请求进行派单操作。若获取不到可用令牌，说明当前可处理订单请求的数量已达上限，可等待下个时间节点再次进行派单操作或是确定派单失败。也就是说，每个时间节点每次对订单请求进行派单的时候，会先获取令牌，若获取到令牌，将进行派单动作，若获取不到将不做任何处理，这样在派单服务在扩容导致的技术数量增加的时候令牌数不会增加，可有效避免因为派单扩容打崩下游服务和打崩组件。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

下面结合附图对本发明的具体实施方式作进一步详细的说明，其中：

图1是本发明实施例的一种派单服务扩容保护下游服务的方法的流程图；

图2是本发明实施例的一种派单服务扩容保护下游服务的方法的示例图；

图3是本发明实施例的一种派单服务扩容保护下游服务的装置的结构示意图；

图4是本发明实施例的一种电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

以下结合附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。

申请人在运营过程中发现，现有技术中，用户下单后，打车软件会对用户的订单进行派单服务。具体的，平台接收到用户的订单，首先会在用户的上车点附近寻找司机进行派单，在一定时间内搜索不到即可派单司机，即周围无可用司机，平台对订单进行重派。

若在高峰用车情况下，派单系统需处理大量订单时，极大可能会导致派单服务以及派单下游服务造成巨大的压力，严重可导致派单系统崩溃。

为此，本发明的技术方案的目的是缓解派单下游服务的压力，对乘客的需求及时响应，提高乘客的乘车体验感。

图1是本发明实施例的一种派单服务扩容保护下游服务的方法的流程图，本实施例可适用于网约车派单服务时出现流量洪峰的情况，该方法可以由一种派单服务扩容保护下游服务的装置来执行，该装置可以采用硬件和/或软件的形式实现，该装置可配置于电子设备中。如图1所示，该方法包括：

步骤101、获取用户设备发送的订单请求。

在本发明实施例中，用户设备指的是乘客端。乘客端是给乘客打车用的。乘客端可为手机应用程序(APP)，针对于乘客开放的。订单请求指的是包含乘客出行需求等信息的请求，包括用户上车点、目的地和用户联系方式等。

用户可使用乘客端在线下单，用户在平台上输入出行起点和终点，即可完成下单操作，平台会根据实际情况进行派单。

在一个具体实施例中，用户设备基于出行需求生成订单请求，并将其发送至派单系统。派单系统获取订单请求后，对其实行派单，为订单请求匹配合适的司机。

步骤102、将订单请求发送至消息中间件，获取可用令牌。

具体的，乘客下单后，派单系统会将乘客需求分发到消息中间件(MQ)中。

接着获取可用令牌，由此判断是否进行读取订单请求的操作。

其中，令牌为一秒内可以处理订单请求的数量。可用令牌为可被指派进行处理订单请求的令牌，令牌从令牌桶中获取得到。

令牌桶是一种常用的流量控制技术。本发明中，增加令牌桶主要是用于派单服务过程中，保护下游服务，让下游服务有足时间缓冲并进行扩容。

具体的，获取可用令牌之前，计算单机的令牌数：

获取令牌桶中令牌的数量，获取存活的派单节点的数量。

其中，派单节点为处理订单请求的机器，令牌为每个派单节点每秒可处理订单请求的数量。

对令牌桶中令牌的总数量进行统计，并且查询存活的派单节点的总数量。其中，派单节点也就是处理订单请求的机器。

根据令牌的数量和派单节点的数量，节点QPS计算得到单机的令牌数。

在得到令牌的总数量和存活的派单节点的总数量后，通过节点QPS计算即可得到单机的令牌数。

QPS即每秒查询率，是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。那么，节点QPS即为节点的每秒查询率。

具体的，单机的令牌数计算公式为令牌的数量除以派单节点的数量。

示例性的，如图2所示，用户下单，派单平台将用户的订单请求放置到消息中间件中。正常的派单流程为获取订单，进行派单，若有合适车辆，派单成功，若无合适车辆，重派该订单。本发明实施例中，服务内部维护了一个服务心跳的机器从而可以获得当前集群中的机器总数量，机器的总数量将获取2分钟内有心跳心机上报的节点。图2中派单服务节点与派单节点是相同的。获取存活的节点数量，节点QPS计算(总令牌/节点数，比如总令牌数是1000，机器数量是10，那么每个节点就是每秒最多只有100个令牌)。获取单节点的总令牌数，放在本地节点中。

步骤103、当获取到可用令牌时，读取消息中间件中的订单请求。

每个派单节点每次对订单进行派单的时候，会先获取令牌，若获取到令牌，将进行派单动作，若获取不到将不做任何处理，这样在派单服务在扩容导致的机器数量增加的时候令牌数不会增加，有效避免因为派单扩容打崩下游服务和打崩组件。

当派单节点获取到可用令牌时，才会进行读取消息中间件中订单请求的操作。否则，当无法获取到可用令牌，不进行读取消息中间件中的订单请求的操作。

如图2所示，派单节点获取令牌(可用令牌)，若成功获取到，则获取订单消息，即订单请求；若获取失败，则说明机器处理请求已达上限，则结束本次操作。

步骤104、对读取的订单请求进行派单操作。

通过可用令牌确定对订单请求进行读取并进行派单。主要读取订单请求中用户上车点的信息，根据用户上车点搜索附近可进行派单的司机，两者进行匹配。

当订单请求与可进行派单的司机设备进行匹配且匹配成功，确定派单成功。

当订单请求与可进行派单的司机设备进行匹配但匹配失败，确定派单失败。

此外，派单内部还依赖于一些组件，如缓存数据库redis，mysql等，每次派单动作都需要不断操作这些组件，有了令牌桶功能，可以在观察这些组件都稳定的情况下，逐步增加令牌桶数量，进行平滑提高服务对业务的处理能力。

本发明实施例主要是对服务一秒内能最大的处理订单数量(令牌数)进行统一管理，派单服务的缩容和扩容都不能影响下游服务，并可以根据下游的性能和组件的实际情况提供可配置的令牌数。

图3是本发明实施例的一种派单服务扩容保护下游服务的装置的结构示意图。如图3所示，该装置包括：

获取订单请求模块301，用于获取用户设备发送的订单请求；

获取可用令牌模块302，用于将所述订单请求发送至消息中间件，获取可用令牌，其中，所述可用令牌为可被指派进行处理订单请求的令牌；

读取订单请求模块303，用于当获取到可用令牌时，读取所述消息中间件中的所述订单请求；

派单模块304，用于对读取的订单请求进行派单操作。

在本发明的一个实施例中，所述获取可用令牌模块302还包括：

获取数量模块，用于获取令牌桶中令牌的数量，获取存活的派单节点的数量，其中，所述派单节点为处理订单请求的机器，所述令牌为每个派单节点每秒可处理订单请求的数量；

计算模块，用于根据所述令牌的数量和所述派单节点的数量，通过节点QPS计算得到单机的令牌数。

在本发明的一个实施例中，所述计算模块包括：

得到令牌数模块，用于所述令牌的数量除以所述派单节点的数量，得到所述单机的令牌数。

在本发明的一个实施例中，包括：

无法获取模块，用于当无法获取到可用令牌，不进行读取所述消息中间件中的所述订单请求的操作。

在本发明的一个实施例中，所述派单模块304包括：

派单成功模块，用于当所述订单请求与可进行派单的司机设备进行匹配且匹配成功，确定派单成功。

在本发明的一个实施例中，所述派单模块304包括：

派单失败模块，用于当所述订单请求与可进行派单的司机设备进行匹配但匹配失败，确定派单失败。

图4示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，如派单服务扩容保护下游服务的方法。

在一些实施例中，派单服务扩容保护下游服务的方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的派单服务扩容保护下游服务的方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行派单服务扩容保护下游服务的方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

本发明实施例还提供了一种计算机程序产品，该计算机程序产品包括计算机程序，该计算机程序在被处理器执行时实现如本发明实施例所提供的派单服务扩容保护下游服务的方法。

计算机程序产品在实现的过程中，可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (9)

1.一种派单服务扩容保护下游服务的方法，其特征在于，所述方法包括：

获取用户设备发送的订单请求；

将所述订单请求发送至消息中间件，所述消息中间件用于存储所述订单请求；

获取可用令牌，所述可用令牌为可被指派进行处理订单请求的令牌；

当获取到可用令牌时，读取所述消息中间件中的所述订单请求；

对读取的订单请求进行派单操作。

2.根据权利要求1所述一种派单服务扩容保护下游服务的方法，其特征在于，所述获取可用令牌之前还包括：

获取令牌桶中令牌的数量，获取存活的派单节点的数量，其中，所述派单节点为处理订单请求的机器，所述令牌为每个派单节点每秒可处理订单请求的数量；

根据所述令牌的数量和所述派单节点的数量，通过节点QPS计算得到单机的令牌数。

3.根据权利要求2所述一种派单服务扩容保护下游服务的方法，其特征在于，所述通过节点QPS计算得到单机的令牌数，具体包括：

所述令牌的数量除以所述派单节点的数量，得到所述单机的令牌数。

4.根据权利要求1所述一种派单服务扩容保护下游服务的方法，其特征在于，包括：

当无法获取到可用令牌，不进行读取所述消息中间件中的所述订单请求的操作。

5.根据权利要求1所述一种派单服务扩容保护下游服务的方法，其特征在于，所述对读取的订单请求进行派单操作，具体包括：

当所述订单请求与可进行派单的司机设备进行匹配且匹配成功，确定派单成功。

6.根据权利要求1所述一种派单服务扩容保护下游服务的方法，其特征在于，所述对读取的订单请求进行派单操作，具体包括：

当所述订单请求与可进行派单的司机设备进行匹配但匹配失败，确定派单失败。

7.一种派单服务扩容保护下游服务的装置，其特征在于，所述装置包括：

获取订单请求模块，用于获取用户设备发送的订单请求；

获取可用令牌模块，用于将所述订单请求发送至消息中间件，获取可用令牌，其中，所述可用令牌为未被指派进行处理订单请求的令牌；

读取订单请求模块，用于当获取到可用令牌时，读取所述消息中间件中的所述订单请求；

派单模块，用于对读取的订单请求进行派单操作。

8.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的派单服务扩容保护下游服务的方法。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序用于使处理器执行时实现权利要求1-6中任一项所述的派单服务扩容保护下游服务的方法。