CN112422450B - 计算机设备、服务请求的流量控制方法及装置 - Google Patents

Abstract

本发明公开了一种计算机设备、服务请求的流量控制方法及装置，所述方法包括：从线程池提取预设数量的服务请求；根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；将反馈结果分别返回给对应的请求方。本发明还提供一种计算机可读存储介质。本发明通过线程池限量处理服务请求，并根据任务属性的不同将包括服务请求的组装任务分配到不同处理管道进行处理，从而实现快速、高效地对服务请求的处理。

Description

计算机设备、服务请求的流量控制方法及装置

技术领域

本发明涉及互联网技术领域，尤其涉及一种计算机设备、服务请求的流量控制方法及装置。

背景技术

用户向服务器发出服务请求，那么则会形成一条服务请求的流量。随着互联网技术的快速发展以及互联网用户的指数级增加，互联网无时不刻在处理中大批量的服务请求以及反馈。

现有技术中，服务器通常采用分布式系统处理大批量的流量的接入，以及对接入的大批量的流量依序进行处理和反馈。对于繁杂的服务请求类别以及海量的服务请求的流量的接入，服务器对于这些服务请求的流量的依序进行处理和反馈，那么则会产生重复性处理和冗余处理，因此，非常耗时，而且效率低下。

发明内容

本发明提出一种计算机设备、服务请求的流量控制方法及装置，能够解决现有技术中对于服务请求的流量的处理反馈的效率低，耗时长的问题。

首先，为实现上述目的，本发明提供一种服务请求的流量控制方法，所述方法包括：

从线程池提取预设数量的服务请求；根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；将反馈结果分别返回给对应的请求方。

在一个例子中，在所述从线程池提取预设数量的服务请求之前，所述方法还包括：通过多路复用的方式从不同的用户终端接收服务请求；将接收到的服务请求添加到线程池。

在一个例子中，所述根据配置规则将每一条服务请求配置为组装任务包括：识别每一条服务请求的字段属性，根据所述字段属性将服务请求进行分类；读取所述配置规则中对于每一任务类型的服务请求对应的操作标签，其中，所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式；将每一个服务请求与对应的任务类型和操作标签打包成一个组装任务。

在一个例子中，所述处理方式包括：同步/异步处理、超时处理、聚合处理、映射处理和屏蔽处理中的至少一种。

在一个例子中，所述任务处理管道包括功能类管道、聚合类管道和报文类管道。

在一个例子中，所述将反馈结果分别返回给对应的请求方包括：将反馈结果添加到输出通道；根据每一条反馈结果对应的服务请求，将反馈结果精确地反馈给对应的用户终端。

在一个例子中，所述方法还包括：接收用户输入的配置规则文档；将所述配置规则文档中的配置规则转换为可执行指令，并存放在内存缓存中。

此外，为实现上述目的，本发明还提供一种服务请求的流量控制装置，所述装置包括：

提取模块，用于从线程池提取预设数量的服务请求；组装模块，用于根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；处理模块，用于根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；反馈模块，用于将反馈结果分别返回给对应的请求方。

进一步地，本发明还提出一种计算机设备，所述计算机设备包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上述的服务请求的流量控制方法的步骤。

另外，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序可被至少一个处理器执行，以使所述至少一个处理器执行如上述的服务请求的流量控制方法的步骤。

相较于现有技术，本发明所提出的计算机设备、服务请求的流量控制方法及装置、以及计算机可读存储介质，能够从线程池提取预设数量的服务请求，然后根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；再根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；最后将反馈结果分别返回给对应的请求方。通过线程池的方式限量处理服务请求，并根据任务属性的不同将包括服务请求的组装任务分配到不同处理管道进行处理，从而避免了重复性过程，能够实现快速、高效地对服务请求的处理。

附图说明

图1是本发明一实施例的应用环境示意图；

图2是本发明服务请求的流量控制方法一具体实施例的流程示意图；

图3是图2步骤S204中的根据配置规则将每一条服务请求配置为组装任务的一具体实施例的流程示意图；

图4是基于图2的一具体实施例的流程示意图；

图5是本发明服务请求的流量控制方法一具体实施例的流程效果图；

图6是本发明服务请求的流量控制装置一实施例的程序模块示意图；

图7是本发明计算机设备一可选的硬件架构的示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。

图1是本发明一实施例的应用环境示意图。参阅图1所示，所述计算机设备1与多个用户终端2连接，可以接收由用户终端2发送的服务请求。当接收到用户发送的服务请求之后，则存放到线程池。然后从线程池提取预设数量的服务请求，然后根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；再根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；最后将反馈结果分别返回给对应的请求方。在本实施例中，所述用户终端设备2可以是手机、平板、便携设备或者PC机等；所述计算机设备1可作为服务器，网关或者PC机等。

实施例一

图2是本发明服务请求的流量控制方法一实施例的流程示意图。可以理解，本方法实施例中的流程图不用于对执行步骤的顺序进行限定。下面以计算机设备1为执行主体进行示例性描述。

如图2所示，所述服务请求的流量控制方法可以包括步骤S200～S208其中：

步骤S200，通过多路复用的方式从不同的用户终端接收服务请求，并添加到线程池。

步骤S202，从线程池提取预设数量的服务请求。

具体地，当用户想要访问某些资源或者请求某些服务时，则会通过用户终端2向所述计算机设备1发送对应的服务请求。那么，所述计算机设备1则可以接收所述用户终端发送的服务请求。在本实施例中，所述计算机设备1通过多路复用的方式，例如，通过基于事件多路复用的网络处理组件，可以并发接收大批量的服务请求，然后存储到线程池。接着，所述计算机设备1根据预设的频率从所述线程池中提取预设数量的服务请求。在本实施例中，所述计算机设备1通过多路复用接收服务请求，能够支持连接更多的用户终端以及提供更高的吞吐量；存储到线程池则可以对接收到的服务请求进行限量处理，起到了限流和削峰填谷的作用。

步骤S204，根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性。

如图3所示，在一示例性的实施例中，步骤S204中的根据配置规则将每一条服务请求配置为组装任务，包括步骤S300～S304。

步骤S300，识别每一条服务请求的字段属性，根据所述字段属性将服务请求进行分类。

步骤S302，读取所述配置规则中对于每一任务类型的服务请求对应的操作标签，其中，所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式。

步骤S304，将每一个服务请求与对应的任务类型和操作标签打包成一个组装任务。

具体地，由于用户终端2发送给所述计算机设备1的服务请求一般都包括URL或其他具有格式性的字符串，而服务请求中包括有访问资源地址和访问参数，其中，访问参数包括用户终端地址和用户信息。因此，所述计算机设备1可以通过识别所述服务请求中的特点的字段，也就是服务请求的字段属性，从而将服务请求进行分类。例如，将指向同一个访问地址的服务请求划分为一类；或者将同一个ip段的多个用户终端发送过来的服务请求划分为一类。通过将一个时间段内的相同任务类型的所有服务请求打包成一个组装任务，从而在后续的服务请求的处理和反馈过程中，可以形成规模效应，提升处理效率。

接着，所述计算机设备1读取配置规则中对于每一任务类型设置的操作标签。在本实施例中，所述操作标签是预先设置的所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式。在本实施例中，所述任务处理管道包括功能类管道、聚合类管道和报文类管道。所述处理方式包括：同步/异步处理、超时处理、聚合处理、映射处理和屏蔽处理中的至少一种。其中，同步/异步处理表示处理该任务类型的服务请求时，可以通过同步或异步的方式进行处理；超时处理表示处理该任务类型的服务请求时，处理过程中允许一定的超时时间；聚合处理表示对于该任务类型的服务请求，需要将原始服务请求与预设的其他请求进行聚合后作为最终服务请求进行处理；映射处理表示需要将该任务类型的服务请求映射成其他服务请求进行处理；屏蔽处理表示对于该任务类型的服务请求直接忽略不处理。对于不同的处理管道，配置不同的处理方式，可以更加灵活地将不同任务类型的服务请求进行分类处理，提升敏捷度，提高处理效率。

例如，对于访问报文资源的任务类型的服务请求，所述配置规则中预先设置要对该任务类型的服务请求通过报文类处理管道进行映射处理。也就是说，需要对服务请求的访问地址进行转换或者映射，从而形成对应得到新访问地址，然后根据新访问地址通过报文类管道进行处理。在读取到所述服务请求的任务类型对应的操作标签会后，所述计算机设备1则将所述服务请求和所述操作标签打包成组装任务。

步骤S206，根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果。

步骤S208，将反馈结果分别返回给对应的请求方。

具体地，所述计算机设备1将服务请求和操作标签打包成组装任务后，则进一步根据任务属性将不同的组装任务分配到不同的任务处理管道进行处理。由于同一个处管道只对具有相同任务属性的组装任务执行处理，因此，可以提高处理的效率。处理完成后，所述计算机设备1将处理得到的反馈结果分别返回给对应服务请求的用户终端。在本实施例中，所述计算机设备1先将反馈结果添加到输出通道，例如TCP连接通道；然后根据每一条反馈结果对应的服务请求，将反馈结果精确地反馈给对应的用户终端。这样，可以将组装任务的处理结果直接通过预先建立的输出通道快速地反馈给对应服务请求的用户终端。

如图4所示，在一示例性的实施例中，所述方法还包括步骤S400～S402。

步骤S400，接收用户输入的配置规则文档。

步骤S402，将所述配置规则文档中的配置规则转换为可执行指令，并存放在内存缓存中。

具体地，所述计算机设备1还能接收用户输入到所述计算机设备1的配置规则文档，然后将所述配置规则文档中的配置规则转换为可执行指令，并存放在内存缓存中。当需要调用配置规则时，则从内存缓存中查询并调用最小的配置规则，因此，实现了在线更高配置规则的目的。提升了对服务请求的流量处理和反馈的灵活性，能根据更新的服务请求更新配置规则，保证处理能力和处理效果。

如图5所示，是一具体实施例的流程效果图。所示计算机设备1通过多路复用接入服务请求并存储到线程池，然后接收用户输入配置规则并转换为可执行的接口配置，然后根据接口配置将线程池的服务请求进行配置，从而配置为组装任务，其中，组装任务包括的处理管道和处理方式。最后，所述计算机设备1将组装任务发送到对应的处理管道以对应的处理方式进行处理，然后返回结果。

综上所述，本实施例所提出的服务请求的流量控制方法能够从线程池提取预设数量的服务请求，然后根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；再根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；最后将反馈结果分别返回给对应的请求方。通过线程池的方式限量处理服务请求，并根据任务属性的不同将包括服务请求的组装任务分配到不同处理管道进行处理，从而实现快速、高效地对服务请求的处理。

实施例二

图6示意性示出了根据本申请实施例二的服务请求的流量控制装置的框图，该服务请求的流量控制装置可以被分割成一个或多个程序模块，一个或者多个程序模块被存储于存储介质中，并由一个或多个处理器所执行，以完成本申请实施例。本申请实施例所称的程序模块是指能够完成特定功能的一系列计算机程序指令段，以下描述将具体介绍本实施例中各程序模块的功能。

如图6所示，该服务请求的流量控制装置400可以包括提取模块410、组装模块420、处理模块430和反馈模块440，其中：

提取模块410，用于从线程池提取预设数量的服务请求。

组装模块420，用于根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性。

处理模块430，用于根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果。

反馈模块440，用于将反馈结果分别返回给对应的请求方。

在示例性的实施例中，提取模块410，还用于：通过多路复用的方式从不同的用户终端接收服务请求；将接收到的服务请求添加到线程池。

在示例性的实施例中，组装模块420，还用于：识别每一条服务请求的字段属性，根据所述字段属性将服务请求进行分类；读取所述配置规则中对于每一任务类型的服务请求对应的操作标签，其中，所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式；将每一个服务请求与对应的任务类型和操作标签打包成一个组装任务。

在示例性的实施例中，所述处理方式包括：同步/异步处理、超时处理、聚合处理、映射处理和屏蔽处理中的至少一种。所述任务处理管道包括功能类管道、聚合类管道和报文类管道。

在示例性的实施例中，所述反馈模块440，还用于：将反馈结果添加到输出通道；根据每一条反馈结果对应的服务请求，将反馈结果精确地反馈给对应的用户终端。

在示例性的实施例中，所述组装模块420还用于：接收用户输入的配置规则文档；将所述配置规则文档中的配置规则转换为可执行指令，并存放在内存缓存中。

实施例三

图7示意性示出了根据本申请实施例三的适于实现服务请求的流量控制方法的计算机设备1的硬件架构示意图。本实施例中，计算机设备1是一种能够按照事先设定或者存储的指令，自动进行数值计算和/或信息处理的设备。例如，可以是具有网关功能的机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器，或者多个服务器所组成的服务器集群)等。如图7所示，计算机设备1至少包括但不限于：可通过系统总线相互通信链接存储器510、处理器520、网络接口530。其中：

存储器510至少包括一种类型的计算机可读存储介质，可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器510可以是计算机设备1的内部存储模块，例如该计算机设备1的硬盘或内存。在另一些实施例中，存储器510也可以是计算机设备1的外部存储设备，例如该计算机设备1上配备的插接式硬盘，智能存储卡(SmartMedia Card，简称为SMC)，安全数字(Secure Digital，简称为SD)卡，闪存卡(Flash Card)等。当然，存储器510还可以既包括计算机设备1的内部存储模块也包括其外部存储设备。本实施例中，存储器510通常用于存储安装于计算机设备1的操作系统和各类应用软件，例如服务请求的流量控制方法的程序代码等。此外，存储器510还可以用于暂时地存储已经输出或者将要输出的各类数据。

处理器520在一些实施例中可以是中央处理器(Central Processing Unit，简称为CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器520通常用于控制计算机设备1的总体操作，例如执行与计算机设备1进行数据交互或者通信相关的控制和处理等。本实施例中，处理器520用于运行存储器510中存储的程序代码或者处理数据。

网络接口530可包括无线网络接口或有线网络接口，该网络接口530通常用于在计算机设备1与其他计算机设备之间建立通信链接。例如，网络接口530用于通过网络将计算机设备1与外部终端相连，在计算机设备1与外部终端之间的建立数据传输通道和通信链接等。网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(GlobalSystem of Mobile communication，简称为GSM)、宽带码分多址(Wideband Code DivisionMultiple Access，简称为WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。

需要指出的是，图7仅示出了具有部件510-530的计算机设备，但是应理解的是，并不要求实施所有示出的部件，可以替代的实施更多或者更少的部件。

在本实施例中，存储于存储器510中的服务请求的流量控制方法的程序代码还可以被分割为一个或者多个程序模块，并由一个或多个处理器(本实施例为处理器520)所执行，以完成本申请实施例。

实施例四

本实施例还提供一种计算机可读存储介质，计算机可读存储介质其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：

从线程池提取预设数量的服务请求；根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；将反馈结果分别返回给对应的请求方。

本实施例中，计算机可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，计算机可读存储介质可以是计算机设备的内部存储单元，例如该计算机设备的硬盘或内存。在另一些实施例中，计算机可读存储介质也可以是计算机设备的外部存储设备，例如该计算机设备上配备的插接式硬盘，智能存储卡(Smart Media Card，简称为SMC)，安全数字(Secure Digital，简称为SD)卡，闪存卡(Flash Card)等。当然，计算机可读存储介质还可以既包括计算机设备的内部存储单元也包括其外部存储设备。本实施例中，计算机可读存储介质通常用于存储安装于计算机设备的操作系统和各类应用软件，例如实施例中服务平台的组件管理方法的程序代码等。此外，计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的各类数据。

显然，本领域的技术人员应该明白，上述的本申请实施例的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本申请实施例不限制于任何特定的硬件和软件结合。

以上仅为本申请实施例的优选实施例，并非因此限制本申请实施例的专利范围，凡是利用本申请实施例说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本申请实施例的专利保护范围内。

Claims (9)

1.一种服务请求的流量控制方法，其特征在于，所述方法包括：

从线程池提取预设数量的服务请求；

根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；

所述根据配置规则将每一条服务请求配置为组装任务包括：

识别每一条服务请求的字段属性，根据所述字段属性将服务请求进行分类，所述字段属性包括访问资源地址和访问参数，所述访问参数包括用户终端地址和用户信息；

读取所述配置规则中对于每一任务类型的服务请求对应的操作标签，其中，所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式；

将每一个服务请求与对应的任务类型和操作标签打包成一个组装任务；

根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；

将反馈结果分别返回给对应的请求方。

2.如权利要求1所述的服务请求的流量控制方法，其特征在于，在所述从线程池提取预设数量的服务请求之前，所述方法还包括：

通过多路复用的方式从不同的用户终端接收服务请求；

将接收到的服务请求添加到线程池。

3.如权利要求1所述的服务请求的流量控制方法，其特征在于，所述处理方式包括：同步/异步处理、超时处理、聚合处理、映射处理和屏蔽处理中的至少一种。

4.如权利要求1所述的服务请求的流量控制方法，其特征在于，所述任务处理管道包括功能类管道、聚合类管道和报文类管道。

5.如权利要求1所述的服务请求的流量控制方法，其特征在于，所述将反馈结果分别返回给对应的请求方包括：

将反馈结果添加到输出通道；

根据每一条反馈结果对应的服务请求，将反馈结果精确地反馈给对应的用户终端。

6.如权利要求1所述的服务请求的流量控制方法，其特征在于，所述方法还包括：

接收用户输入的配置规则文档；

将所述配置规则文档中的配置规则转换为可执行指令，并存放在内存缓存中。

7.一种服务请求的流量控制装置，其特征在于，所述装置包括：

提取模块，用于从线程池提取预设数量的服务请求；

组装模块，用于根据配置规则将每一条服务请求配置为组装任务，其中，组装任务包括任务属性；所述组装模块还用于识别每一条服务请求的字段属性，根据所述字段属性将服务请求进行分类，所述字段属性包括访问资源地址和访问参数，所述访问参数包括用户终端地址和用户信息；读取所述配置规则中对于每一任务类型的服务请求对应的操作标签，其中，所述操作标签用于描述不同的任务类型的服务请求的处理管道和处理方式；将每一个服务请求与对应的任务类型和操作标签打包成一个组装任务；

处理模块，用于根据所述任务属性将不同的组装任务分配到不同的任务处理管道进行处理，得到对应的反馈结果；

反馈模块，用于将反馈结果分别返回给对应的请求方。

8.一种计算机设备，其特征在于，所述计算机设备包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1-6任一项所述的服务请求的流量控制方法的步骤。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序可被至少一个处理器执行，以使所述至少一个处理器执行如权利要求1-6中任一项所述的服务请求的流量控制方法的步骤。

Images