CN113765982A - 一种请求响应方法、装置、系统、服务器和存储介质 - Google Patents

Abstract

本发明实施例公开了一种请求响应方法、装置、系统、服务器和存储介质，该方法应用于网关服务器，包括：接收客户端发送的用户请求；根据用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；根据目标校验配置信息，检测用户请求是否满足目标校验条件；若用户请求满足目标校验条件，则通过调用后台服务器的目标API接口，将用户请求发送至后台服务器的目标算法模型中，以使目标算法模型对用户请求进行响应处理。通过本发明实施例的技术方案，可以实现用户请求的统一校验，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

Description

一种请求响应方法、装置、系统、服务器和存储介质

技术领域

本发明实施例涉及互联网技术，尤其涉及一种请求响应方法、装置、系统、服务器和存储介质。

背景技术

随着互联网技术的快速发展，各种算法模型被研发应用到各种领域中提供服务。例如，可以将训练好的算法模型持久化，然后运行服务器加载算法模型，并且加载的每个算法模型可以以API(Application Programming Interface，应用程序接口)的形式对外提供服务。

目前，服务器加载的每个算法模型对应的API接口内部都需要开发用于鉴权和限流等校验逻辑代码，以便客户端在通过调用某个网络模型对应的API接口发送用户请求时，该API接口可以对该用户请求进行鉴权和限流等校验操作。

然而，在实现本发明过程中，发明人发现现有技术中至少存在如下问题：

由于每个算法模型对应的API接口内部都需要开发用于鉴权和限流等校验逻辑代码，从而会导致代码冗余，并且非业务逻辑代码与算法模型相关的业务逻辑代码耦合在一起，大大降低了开发效率。

发明内容

本发明实施例提供了一种请求响应方法、装置、系统、服务器和存储介质，以实现用户请求的统一校验，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

第一方面，本发明实施例提供了一种请求响应方法，应用于网关服务器，包括：

接收客户端发送的用户请求；

根据所述用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；

根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件；

若所述用户请求满足目标校验条件，则通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中，以使所述目标算法模型对所述用户请求进行响应处理。

第二方面，本发明实施例还提供了一种请求响应方法，应用于后台服务器，包括：

通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；

利用所述目标API接口对应的目标算法模型，对所述用户请求进行响应处理，获得所述用户请求对应的第一响应数据，并将所述第一响应数据发送至所述网关服务器中。

第三方面，本发明实施例还提供了一种请求响应装置，集成于网关服务器，包括：

第一接收模块，用于接收客户端发送的用户请求；

目标校验配置信息确定模块，用于根据所述用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；

用户请求检测模块，用于根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件；

用户请求发送模块，用于若所述用户请求满足目标校验条件，则通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中，以使所述目标算法模型对所述用户请求进行响应处理。

第四方面，本发明实施例还提供了种请求响应装置，集成于后台服务器，包括：

第二接收模块，用于通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；

数据请求响应模块，用于利用所述目标API接口对应的目标算法模型，对所述用户请求进行响应处理，获得所述用户请求对应的第一响应数据，并将所述第一响应数据发送至所述网关服务器中。

第五方面，本发明实施例还提供了一种请求响应系统，所述系统包括：客户端、网关服务器和后台服务器；其中，

所述网关服务器用于实现如本发明第一方面所提供的请求响应方法；

所述后台服务器用于实现如本发明第二方面所提供的请求响应方法。

第六方面，本发明实施例还提供了一种服务器，所述服务器包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例所提供的请求响应方法。

第七方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的请求响应方法。

上述发明中的实施例具有如下优点或有益效果：

通过在客户端与后台服务器之间设置网关服务器，利用网关服务器基于目标API接口对应的目标校验配置信息，检测客户端发送的用户请求是否满足目标校验条件，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以对该用户请求进行响应处理，从而利用网关服务器可以统一地对客户端发送的每个用户请求进行校验操作，实现用户请求的统一校验，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例一提供的一种请求响应方法的流程图；

图2是本发明实施例一所涉及的一种网关服务器的架构示例；

图3是本发明实施例二提供的一种请求响应方法的流程图；

图4是本发明实施例二所涉及的一种请求响应过程的示例；

图5是本发明实施例三提供的一种请求响应方法的流程图；

图6是本发明实施例四提供的一种请求响应装置的结构示意图；

图7是本发明实施例五提供的一种请求响应装置的结构示意图；

图8是本发明实施例六提供的一种请求响应系统的结构示意图；

图9是本发明实施例七提供的一种服务器的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种请求响应方法的流程图，本实施例可适用于对客户端发送的用户请求进行响应的情况。该方法可以由请求响应装置来执行，该装置可以由软件和/或硬件的方式来实现，集成于网关服务器中。如图1所示，该方法具体包括以下步骤：

S110、接收客户端发送的用户请求。

其中，客户端可以是指为用户提供本地服务器的程序。客户端可以以不同的程序形态来实现同一软件功能。例如，客户端可以是应用软件APP、小程序、网页web等。用户请求可以是指用户触发的，用于访问后台服务器中的某个算法模型的请求。例如，用户请求可以是：用于查询物流信息的请求。网关服务器可以对所有客户端开放统一的API接口，以便通过该API接口接收到每个用户请求。

具体地，客户端可以基于用户触发操作获取用户待访问的后台服务器中的目标算法模型所对应的目标API接口信息，并基于目标API接口信息和用户请求信息生成相应的用户请求。客户端可以通过调用网关服务器所开放的统一API接口，将该用户请求发送至网关服务器中，使得网关服务器可以通过该API接口统一地接收到客户端发送的每个用户请求，并对每个用户请求进行统一处理。

S120、根据用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息。

其中，后台服务器可以加载一个或多个算法模型，每个所加载的算法模型均可以以API接口的形式对外提供服务。也就是说，后台服务器所加载的每个算法模型均对应一个API接口，使得每个算法模型可以对相应API接口所接收到的用户请求进行响应处理。本实施例中的算法模型可以是指任意一种训练好的深度学习模型。例如，算法模型可以是但不限于文本分类模型、图像处理模型等。目标API接口信息可以是指用户请求待访问的目标API接口的接口信息。例如，可以将目标API接口标识作为目标API接口信息，以便区分不同的API接口。目标API接口对应的目标校验配置信息可以是基于业务需求预先设置的，用于对待访问的目标API接口的用户请求进行校验操作的配置信息。本实施例可以预先配置每个API接口所对应的校验配置信息。不同的API接口所对应的校验配置信息可以不同。例如，目标校验配置信息可以包括但不限于权限校验配置信息和限流校验配置信息。

具体地，网关服务器可以对接收到的用户请求进行解析，获得用户请求中的目标API接口信息，并可以基于目标API接口信息和预先设置的每个API接口对应的校验配置信息，获得目标API接口对应的目标校验配置信息。

S130、根据目标校验配置信息，检测用户请求是否满足目标校验条件。

其中，目标校验条件是指可以利用后台服务器的目标算法模型对用户请求进行响应处理的条件。例如，目标校验条件可以是指用户请求具有访问权限以及无需限流的条件。

具体地，网关服务器可以基于目标校验配置信息和用户请求信息，对用户请求进行校验操作，检测出该用户请求是否满足目标校验条件，以便基于检测结果确定出是否可以利用后台服务器的目标算法模型对用户请求进行响应处理，从而网关服务器可以对接收到的每个用户请求进行统一校验，无需在后台服务器的API接口内部进行校验操作，避免代码冗余，并且也可以将用于校验操作的这些非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

示例性地，S130可以包括：根据目标校验配置信息中的权限校验配置信息，对用户请求进行权限校验；若权限校验成功，则根据目标校验配置信息中的限流校验配置信息，对用户请求进行限流校验；若无需对用户请求进行限流，则确定用户请求满足目标校验条件。

其中，权限校验配置信息可以包括：具有访问目标算法模型权限的每个目标用户请求信息。限流校验配置信息可以包括：白名单配置信息和QPS(Query Per Second，每秒向后台服务器发送的请求数量最大值)配置信息。白名单配置信息可以包括无需限流的每个用户请求信息。

具体地，图2给出了一种网关服务器的架构示例。如图2所示，客户端发送的用户请求通过负载均衡后发送至相应的网关服务器中的用户网关模块。用户网关模块可以基于目标校验配置信息中的权限校验配置信息，对接收到的用户请求进行权限校验，检测出该用户请求是否具有访问权限。若权限校验成功，则表明该用户请求具有访问权限，此时可以基于目标校验配置信息中的限流校验配置信息，对用户请求进行限流校验，检测出是否需要对该用户请求进行限流。例如，可以基于白名单配置信息和用户请求信息，检测该用户请求是否处于白名单中，若是，则表明无需对该用户请求进行用户限流，若否，则表明需要对该用户请求进行用户限流，从而完成白名单过滤操作。当该用户请求处于白名单中时，可以继续检测当前请求总数是否超过QPS配置信息中的请求数量最大值，若是，则表明需要对该用户请求进行QPS限流，若否，则表明无需对该用户请求进行QPS限流，从而完成QPS限制操作。当该用户请求处于白名单中，且当前请求总数未超过QPS配置信息中的请求数量最大值时，表明无需对用户请求进行限流，此时可以确定用户请求满足目标校验条件。

需要说明的是，本实施例可以基于业务需求，通过设置校验优先级的方式，对权限校验和限流校验的先后执行顺序进行设置，比如可以先进行权限校验后进行限流校验；也可以先进行限流校验后进行权限校验。本实施例对各个校验操作的先后执行顺序不做限定。当用户请求权限校验成功且无需进行限流时，可以确定出该用户请求满足目标校验条件。当用户请求权限校验失败或者需要进行限流时，可以确定出该用户请求不满足目标校验条件。

S140、若用户请求满足目标校验条件，则通过调用后台服务器的目标API接口，将用户请求发送至后台服务器的目标算法模型中，以使目标算法模型对用户请求进行响应处理。

具体地，网关服务器在检测到用户请求满足目标校验条件时，表明可以允许对该用户请求进行响应处理，此时可以通过调用后台服务器的目标API接口，比如图2中的API接口-1，将该用户请求发送至该目标API接口所对应的目标算法模型中，使得后台服务器可以利用目标算法模型对该用户请求进行响应处理。例如，可以对该用户请求的请求内容进行分词处理，并对分词结果进行向量化，获得该用户请求对应的请求向量，并将该请求向量输入至目标算法模型中，获得目标算法模型输出的结果向量，并对该结果向量进行处理，获得最终的响应数据，后台服务器可以通过目标API接口，将该响应数据返回至网关服务器中，网关服务器再将该响应数据返回至客户端中，从而完成用户请求的响应过程。

示例性地，如图2所示，网关服务器中的用户网关模块还可以基于用户请求信息和返回的响应数据进行日志处理，也就是将当次用户请求的信息作为日志信息存储日志文件和日志搜索引擎中，以便后续可以基于日志信息进行异常分析，从而利用网关服务器还可以统一地对每次请求进行日志处理，实现日志的统一处理，进一步提高开发效率。

需要说明的是，若用户请求不满足目标校验条件，则表明后台服务器需要拒绝响应该用户请求，此时无需将该用户请求发送至后台服务器的目标算法模型中，可以直接向客户端返回请求失败信息，从而利用网关服务器将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，提高了开发效率。

本实施例的技术方案，通过在客户端与后台服务器之间设置网关服务器，利用网关服务器基于目标API接口对应的目标校验配置信息，检测客户端发送的用户请求是否满足目标校验条件，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以对该用户请求进行响应处理，从而利用网关服务器可以统一地对客户端发送的每个用户请求进行校验操作，实现用户请求的统一校验，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

在上述技术方案的基础上，S120可以包括：获取配置数据库中存储的每个API接口信息对应的校验配置信息，其中，校验配置信息是在网关客户端中进行配置的；根据每个API接口信息对应的校验配置信息和用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息。

其中，网关客户端可以是指网关服务器的前端，以便用户基于业务需求动态注册API接口对应的路由信息和动态配置API接口对应的校验配置信息。

具体地，本实施例中的网关服务器可以基于开源微服务网关Netflix Zuul实现。图2中的网关管理模块可以作为一个管理中心，可以用于管理维护API接口的校验配置信息，以便实现API的动态注册和配置。例如，如图2所示，当算法模型以API接口的形式发布后，用户可以在网关客户端界面中基于业务需求设置相应的校验配置信息，网关客户端可以将用户配置好的校验配置信息发送至网关服务器的网关管理模块。网关管理模块可以将接收到的API接口对应的校验配置信息存储至配置数据库中，比如管理数据库MySQL中，从而完成每个API接口的校验信息的预先配置。网关服务器在校验过程中需要获取用于校验用户请求的目标校验配置信息时，可以从配置数据库中获取存储的每个API接口信息对应的校验配置信息，并将用户请求中的目标API接口信息与配置数据库中的每个API接口信息进行匹配，并将匹配成功的API接口信息所对应的校验配置信息确定为目标校验配置信息。

需要说明的是，在网关客户端中更改校验配置信息时，可以同步更新网关服务器的配置数据库中相应的校验配置信息，以使配置数据库中存储最新的校验配置信息，并且每次校验配置信息更改后可以自动生效，无需重启网关服务器，即无需进行重新载入操作，从而提高了更新效率，实现了API接口的动态配置和更新。

在上述技术方案的基础上，S140中的“通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中”，可以包括：从内存中获取所述目标API接口对应的目标路由信息，其中，所述目标路由信息是在网关客户端中进行注册的；基于所述目标路由信息，将所述用户请求路由至后台服务器的目标算法模型中。

其中，路由信息可以是指API接口所在的网络地址的路径信息。具体地，本实施例可以在网关客户端中将每个API接口对应的路由信息注册至网关服务器的网关管理模块中，从而网关管理模块可以将每个API接口对应的路由信息加载至内存中。例如，如图2所示，网关服务器的用户网关模块可以对满足目标校验条件的用户请求进行服务路由，即直接从内存中获取目标API接口对应的目标路由信息，从而可以提高路由信息获取效率，并通过该目标路由信息，将用户请求快速地路由至目标API接口对应的目标算法模型中，进而可以提高请求响应效率。

示例性地，在从内存中获取所述目标API接口对应的目标路由信息之前，还可以包括：通过预设路由加载器，从缓存数据库中读取每个API接口对应的路由信息，并将读取的各个路由信息加载至内存中。

具体地，本实施例中的网关服务器可以基于开源微服务网关Netflix Zuul实现。例如，如图2所示，当算法模型以API接口的形式发布后，用户可以在网关客户端界面中基于业务需求设置该API接口对应的路由信息，网关客户端可以将用户配置好的路由信息发送至网关服务器的网关管理模块。网关管理模块可以将接收到的API接口对应的路由信息存储至缓存数据库中，比如图2中的缓存数据库Redis中。可以通过继承开源微服务网关Zuul中的单路由加载器SimpleRouteLocator的方式定义预设路由加载器，以便通过预设路由加载器从缓存数据库中读取所有接口的路由信息，并将读取的所有路由信息加载至内存中，从而实现API接口的注册。

示例性地，可以在网关服务器的用户网关模块中开启一个定时任务，每隔预设时间(比如一分钟)执行一次，定时通过预设路由加载器更新内存中的路由信息，以便存储最新的路由信息，保证路由操作的准确性。需要说明的是，在网关服务器中的路由信息每次更改后可以自动生效，无需重启网关服务器，即无需进行重新载入操作，从而提高了更新效率，实现了API接口的动态注册。

实施例二

图3为本发明实施例二提供的一种请求响应方法的流程图，本实施例在上述各实施例的基础上，对步骤“根据目标校验配置信息，检测用户请求是否满足目标校验条件”进行了优化。在将用户请求发送至后台服务器的目标算法模型中之后，还增加了步骤“接收后台服务器发送的用户请求对应的第一响应数据；通过利用预设后置过滤器，对第一响应数据进行处理，确定出用户请求对应的第二响应数据，并将第二响应数据发送至客户端”。其中与上述各实施例相同或相应的术语的解释在此不再赘述。

参见图3，本实施例提供的请求响应方法具体包括以下步骤：

S310、接收客户端发送的用户请求。

S320、根据用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息。

S330、通过利用预设前置过滤器，根据目标校验配置信息，检测用户请求是否满足目标校验条件，并过滤出满足目标校验条件的用户请求。

其中，预设前置过滤器可以是预先定义的，在用户请求被路由到后台服务器前要执行的过滤器。本实施例中的预设前置过滤器包括一个或多个前置过滤器。例如，图4给出了一种请求响应过程的示例。如图4所示，预设前置过滤器包括：权限过滤器、白名单过滤器和QPS限制过滤器等。本实施例可以通过继承开源微服务网关Zuul中的PRE过滤器的方式来定义预设前置过滤器。预设前置过滤器需要基于业务需求实现四个函数，分别为：用于实现具体的过滤逻辑的运行run函数、用于表征是否执行该过滤器的ShouldFilter()函数、用于表征过滤器执行顺序的优先级的FilterOrder()函数、以及用于表征过滤器类型的FilterType()函数。

具体地，网关服务器可以通过调用预设前置过滤器中的运行run函数，对用户请求进行统一校验操作，过滤出满足目标校验条件的用户请求。例如，如图4所示，当存在多个预设前置过滤器时，可以通过调用每个预设前置过滤器中的FilterOrder()函数，获得各个预设前置过滤器的执行顺序，并基于该执行顺序依次调用每个预设前置过滤器中的运行run函数，对用户请求进行相应的校验操作，比如，通过调用权限过滤器中的运行run函数，对用户请求进行权限校验。通过调用白名单过滤器中的运行run函数，对用户请求进行白名单限流校验。通过调用QPS限制过滤器中的运行run函数，对用户请求进行QPS限流校验，从而通过利用多个预设前置过滤器，可以更加快速地实现用户请求的统一校验。

S340、若用户请求满足目标校验条件，则通过调用后台服务器的目标API接口，将用户请求发送至后台服务器的目标算法模型中，以使目标算法模型对用户请求进行响应处理。

具体地，如图4所示，网关服务器可以将预设前置过滤器过滤出的满足目标校验条件的用户请求，通过调用目标API接口发送至后台服务器的目标算法模型中，使得后台服务器可以直接利用目标算法模型对用户请求进行响应处理，从而将校验操作的非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

S350、接收后台服务器发送的用户请求对应的第一响应数据。

其中，第一响应数据可以是指后台服务器返回的原始通用响应数据。例如，针对不同类型的客户端发送的同一用户请求所返回的第一响应数据相同。

具体地，后台服务器通过目标API接口接收到网关服务器发送的用户请求后，可以对该用户请求的请求内容进行分词处理，并对分词结果进行向量化，获得该用户请求对应的请求向量，并将该请求向量输入至目标API接口对应的目标算法模型中进行处理，获得目标算法模型输出的结果向量，并对该结果向量进行处理，获得通用的第一响应数据，后台服务器可以通过目标API接口，将该第一响应数据返回至网关服务器中，使得网关服务器可以接收到第一响应数据。

S360、通过利用预设后置过滤器，对第一响应数据进行处理，确定出用户请求对应的第二响应数据，并将第二响应数据发送至客户端。

其中，预设后置过滤器可以是预先定义的，在将响应数据从后台服务器返回时要执行的过滤器。本实施例中的预设后置过滤器可以包括一个或多个后置过滤器。例如，图4中的预设后置过滤器可以包括：响应数据处理权限过滤器、和日志处理过滤器等。本实施例可以通过继承开源微服务网关Zuul中的POST过滤器的方式来定义预设后置过滤器。预设后置过滤器基于业务需求也需要实现四个函数，分别为：用于实现具体的过滤逻辑的运行run函数、用于表征是否执行该过滤器的ShouldFilter()函数、用于表征过滤器执行顺序的优先级的FilterOrder()函数、以及用于表征过滤器类型的FilterType()函数。

具体地，如图4所示，网关服务器可以通过调用预设后置过滤器中的运行run函数，即响应数据处理权限过滤器中的运行run函数，对接收到的第一响应数据进行处理，比如，可以对第一响应数据封装一层业务状态信息，并转换为统一的数据格式，获得转换后的第二响应数据，或者，也可以基于客户端类型对第一响应数据进行处理，确定出该客户端类型可展示的第二响应数据。网关服务器可以通过利用预设后置过滤器，可以更加便捷快速地实现对响应数据的统一处理，无需在后台服务器中进行处理，从而可以进一步将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，进一步提高了开发效率。

示例性地，如图4所示，网关服务器还可以利用日志处理过滤器，更加便捷快速地对用户请求信息和返回的响应数据进行统一的日志处理，进一步提高开发效率。

本实施例的技术方案，网关服务器通过利用预设前置过滤器，过滤出满足目标校验条件的用户请求，从而可以更加快速地实现用户请求的统一校验，并通过利用预设后置过滤器，可以更加便捷快速地实现对响应数据的统一处理，从而进一步将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，进一步提高了开发效率。

在上述技术方案的基础上，该方法还可以包括：若用户请求不满足目标校验条件，则通过利用预设错误过滤器，获取用户请求的错误原因所对应的错误返回信息，并将错误返回信息发送至客户端。

其中，预设错过过滤器可以是预先定义的，在前置过滤阶段和后置过滤阶段中出现错误时要执行的过滤器。例如，如图4所示，预设错误过滤器可以包括请求失败处理过滤器，以便对不满足目标校验条件的用户请求进行处理。本实施例可以通过继承开源微服务网关Zuul中的ERROR错误过滤器的方式来定义预设错误过滤器。预设错误过滤器基于业务需求也需要实现四个函数，分别为：用于实现具体的过滤逻辑的运行run函数、用于表征是否执行该过滤器的ShouldFilter()函数、用于表征过滤器执行顺序的优先级的FilterOrder()函数、以及用于表征过滤器类型的FilterType()函数。

其中，用户请求的错误原因可以是指请求失败的原因，即用户请求不满足目标校验条件的原因。例如，错误原因可以是但不限于：用户请求权限校验失败、或者需要对用户请求进行限流等。每种错误原因可以对应不同的错误返回信息，以使用户可以基于错误返回信息快速地确定出用户请求失败原因。错误返回信息可以在网关服务器中基于业务需求预先进行配置。

具体地，当用户请求不满足目标校验条件时，可以通过调用预设错误过滤器中的运行run函数，即请求失败处理过滤器中的运行run函数，拒绝响应用户请求，并获取用户请求的错误原因所对应的错误返回信息，将该错误返回信息发送至客户端中进行展示，使得用户可以基于展示的错误返回信息快速地获知请求失败原因，提升用户体验。

实施例三

图5为本发明实施例三提供的一种请求响应方法的流程图，本实施例可适用于对网关服务器发送的用户请求进行响应的情况。该方法可以由请求响应装置来执行，该装置可以由软件和/或硬件的方式来实现，集成于后台服务器中。如图5所示，该方法具体包括以下步骤：

S510、通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求。

具体地，网关服务器在检测到客户端发送的用户请求满足目标校验条件时，通过调用后台服务器的目标API接口，将该用户请求发送至后台服务器中，后台服务器可以通过该目标API接口，接收到该用户请求，从而只需在网关服务器中对用户请求进行统一校验，无需在后台服务器中再进行校验，并且后台服务器中只需开发与算法模型相关的业务逻辑代码即可，从而也可以将校验操作的非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

S520、利用目标API接口对应的目标算法模型，对用户请求进行响应处理，获得用户请求对应的第一响应数据，并将第一响应数据发送至网关服务器中。

具体地，后台服务器可以接收的用户请求的请求内容进行分词处理，并对分词结果进行向量化，获得该用户请求对应的请求向量，并将该请求向量输入至目标API接口对应的目标算法模型中进行处理，获得目标算法模型输出的结果向量，并对该结果向量进行处理，获得通用的第一响应数据。后台服务器可以通过目标API接口，将该第一响应数据返回至网关服务器中，使得网关服务器可以接收到利用目标算法模型响应处理后获得的第一响应数据。

本实施例的技术方案，通过在客户端与后台服务器之间设置网关服务器，利用网关服务器对客户端发送的用户请求进行校验操作，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以直接对该用户请求进行响应处理，从而利用网关服务器可以统一地对客户端发送的每个用户请求进行校验操作，实现用户请求的统一校验，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

以下是本发明实施例提供的请求响应装置的实施例，该装置与上述实施例一或实施例二的请求响应方法属于同一个发明构思，在请求响应装置的实施例中未详尽描述的细节内容，可以参考上述请求响应方法的实施例一或实施例二。

实施例四

图6为本发明实施例四提供的一种请求响应装置的结构示意图，本实施例可适用于对客户端发送的用户请求进行响应的情况，该装置集成于网关服务器中，具体可以包括：第一接收模块610、目标校验配置信息确定模块620、用户请求检测模块630和用户请求发送模块640。

其中，第一接收模块610，用于接收客户端发送的用户请求；目标校验配置信息确定模块620，用于根据用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；用户请求检测模块630，用于根据目标校验配置信息，检测用户请求是否满足目标校验条件；用户请求发送模块640，用于若用户请求满足目标校验条件，则通过调用后台服务器的目标API接口，将用户请求发送至后台服务器的目标算法模型中，以使目标算法模型对用户请求进行响应处理。

本实施例的技术方案，通过在客户端与后台服务器之间设置网关服务器，利用网关服务器基于目标API接口对应的目标校验配置信息，检测客户端发送的用户请求是否满足目标校验条件，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以对该用户请求进行响应处理，从而利用网关服务器可以统一地对客户端发送的每个用户请求进行校验操作，实现用户请求的统一校验，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

可选地，目标校验配置信息确定模块620，具体用于：

获取配置数据库中存储的每个API接口信息对应的校验配置信息，其中，所述校验配置信息是在网关客户端中进行配置的；根据每个API接口信息对应的校验配置信息和所述用户请求中的目标API接口信息，确定所述目标API接口对应的目标校验配置信息。

可选地，用户请求发送模块640，包括：

目标路由信息获取单元，用于从内存中获取所述目标API接口对应的目标路由信息，其中，所述目标路由信息是在网关客户端中进行注册的；

用户请求路由单元，用于基于所述目标路由信息，将所述用户请求路由至后台服务器的目标算法模型中。

可选地，用户请求发送模块640，还包括：

路由信息加载模块，用于在从内存中获取所述目标API接口对应的目标路由信息之前，通过预设路由加载器，从缓存数据库中读取每个API接口对应的路由信息，并将读取的各个路由信息加载至内存中。

可选地，用户请求检测模块630，具体用于：根据目标校验配置信息中的权限校验配置信息，对用户请求进行权限校验；若权限校验成功，则根据目标校验配置信息中的限流校验配置信息，对用户请求进行限流校验；若无需对用户请求进行限流，则确定用户请求满足目标校验条件。

可选地，用户请求检测模块630，还具体用于：通过利用预设前置过滤器，根据目标校验配置信息，检测用户请求是否满足目标校验条件，并过滤出满足目标校验条件的用户请求。

可选地，该装置还包括：

第一响应数据接收模块，用于在将用户请求发送至后台服务器的目标算法模型中之后，接收后台服务器发送的用户请求对应的第一响应数据；

第一响应数据处理模块，用于通过利用预设后置过滤器，对第一响应数据进行处理，确定出用户请求对应的第二响应数据，并将第二响应数据发送至客户端。

可选地，该装置还包括：

错误返回信息发送模块，用于若用户请求不满足目标校验条件，则通过利用预设错误过滤器，获取用户请求的错误原因所对应的错误返回信息，并将错误返回信息发送至客户端。

本发明实施例所提供的请求响应装置可执行本发明实施例一或实施例二所提供的请求响应方法，具备执行请求响应方法相应的功能模块和有益效果。

以下是本发明实施例提供的请求响应装置的实施例，该装置与上述实施例三请求响应方法属于同一个发明构思，在请求响应装置的实施例中未详尽描述的细节内容，可以参考上述请求响应方法的实施例三。

实施例五

图7为本发明实施例五提供的一种请求响应装置的结构示意图，本实施例可适用于对网关服务器发送的用户请求进行响应的情况，该装置集成于后台服务器中，具体可以包括：第二接收模块710和数据请求响应模块720。

其中，第二接收模块710，用于通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；数据请求响应模块720，用于利用目标API接口对应的目标算法模型，对用户请求进行响应处理，获得用户请求对应的第一响应数据，并将第一响应数据发送至网关服务器中。

本实施例的技术方案，通过在客户端与后台服务器之间设置网关服务器，利用网关服务器对客户端发送的用户请求进行校验操作，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以直接对该用户请求进行响应处理，从而利用网关服务器可以统一地对客户端发送的每个用户请求进行校验操作，实现用户请求的统一校验，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。

本发明实施例所提供的请求响应装置可执行本发明实施例三所提供的请求响应方法，具备执行请求响应方法相应的功能模块和有益效果。

实施例六

图8为本发明实施例六提供的一种请求响应系统的结构示意图，本实施例可适用于对客户端发送的用户请求进行响应的情况。如图8所示，该系统包括：客户端810、网关服务器820和后台服务器830。

其中，网关服务器820用于实现本发明实施例一或实施例二提供的请求响应方法；后台服务器830用于实现本发明实施例三所提供的请求响应方法。

其中，客户端810与网关服务器820相连接，并且网关服务器820可以对客户端810开放一个统一的API接口，以便通过该API接口接收到客户端810发送的用户请求。网关服务器820与后台服务器830相连接，并且后台服务器830中的每个算法模型可以对网关服务器开放一个独立的API接口，以使网关服务器820通过调用后台服务器830的某个算法模型对应的API接口，将满足目标校验条件的用户请求路由到该算法模型中，以使该算法模型可以对该用户请求进行响应处理，从而完成该算法模型的服务。

本实施例提供的请求响应系统的工作过程如下：

客户端810可以基于待调用的目标算法模型对应的目标API接口和请求内容生成用户请求，并通过调用网关服务器820向客户端开放的统一API接口，将该用户请求发送至网关服务器820中。网关服务器820根据接收到的用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息，并根据目标校验配置信息，检测用户请求是否满足目标校验条件，若该用户请求满足目标校验条件，则通过调用后台服务器830向网关服务器820开放的目标API接口，将该用户请求发送至后台服务器830的目标算法模型中，从而利用网关服务器820可以统一地对客户端发送的用户请求进行校验操作，实现用户请求的统一校验。后台服务器830可以利用目标算法模型，直接对接收到的用户请求进行响应处理，获得用户请求对应的第一响应数据，从而无需在目标API接口内部开发校验逻辑代码进行校验操作，并且通过设置网关服务器820可以将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大提高了开发效率。后台服务器830将第一响应数据发送至网关服务器820中，网关服务器820可以将第一响应数据直接返回至客户端810中，也可以对第一响应数据进行统一处理，将处理后获得的第二响应数据发送至客户端810中，从而利用网关服务器820也可以实现响应数据的统一处理，进一步提高开发效率。

本实施例中的请求响应系统，通过在客户端与后台服务器之间设置网关服务器，利用网关服务器基于目标API接口对应的目标校验配置信息，检测客户端发送的用户请求是否满足目标校验条件，并通过调用后台服务器的目标API接口，将满足目标校验条件的用户请求发送至后台服务器的目标算法模型中，使得目标算法模型可以对该用户请求进行响应处理，从而利用网关服务器可以实现用户请求的统一校验和管理控制，无需在后台服务器的每个API接口内部开发校验逻辑代码进行校验操作，并且将非业务逻辑代码与算法模型相关的业务逻辑代码进行解耦，大大降低了开发工作量，提高了开发效率。

实施例七

图9为本发明实施例七提供的一种服务器的结构示意图。图9示出了适于用来实现本发明实施方式的示例性服务器12的框图。图9显示的服务器12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图9所示，服务器12以通用计算服务器的形式表现。服务器12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图9未显示，通常称为“硬盘驱动器”)。尽管图9中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该服务器12交互的设备通信，和/或与使得该服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发实施例所提供的一种请求响应方法步骤，该方法包括：

接收客户端发送的用户请求；

根据用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；

根据目标校验配置信息，检测用户请求是否满足目标校验条件；

若用户请求满足目标校验条件，则通过调用后台服务器的目标API接口，将用户请求发送至后台服务器的目标算法模型中，以使目标算法模型对用户请求进行响应处理。

或者，

通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；

利用目标API接口对应的目标算法模型，对用户请求进行响应处理，获得用户请求对应的第一响应数据，并将第一响应数据发送至网关服务器中。

当然，本领域技术人员可以理解，处理器还可以实现本发明任意实施例所提供的请求响应方法的技术方案。

实施例八

本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例所提供的请求响应方法步骤。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于：电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

本领域普通技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个计算装置上，或者分布在多个计算装置所组成的网络上，可选地，他们可以用计算机装置可执行的程序代码来实现，从而可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件的结合。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (14)

1.一种请求响应方法，其特征在于，应用于网关服务器，包括：

接收客户端发送的用户请求；

根据所述用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；

根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件；

若所述用户请求满足目标校验条件，则通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中，以使所述目标算法模型对所述用户请求进行响应处理。

2.根据权利要求1所述的方法，其特征在于，根据所述用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息，包括：

获取配置数据库中存储的每个API接口信息对应的校验配置信息，其中，所述校验配置信息是在网关客户端中进行配置的；

根据每个API接口信息对应的校验配置信息和所述用户请求中的目标API接口信息，确定所述目标API接口对应的目标校验配置信息。

3.根据权利要求1所述的方法，其特征在于，通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中，包括：

从内存中获取所述目标API接口对应的目标路由信息，其中，所述目标路由信息是在网关客户端中进行注册的；

基于所述目标路由信息，将所述用户请求路由至后台服务器的目标算法模型中。

4.根据权利要求3所述的方法，其特征在于，在从内存中获取所述目标API接口对应的目标路由信息之前，还包括：

通过预设路由加载器，从缓存数据库中读取每个API接口对应的路由信息，并将读取的各个路由信息加载至内存中。

5.根据权利要求1所述的方法，其特征在于，根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件，包括：

根据所述目标校验配置信息中的权限校验配置信息，对所述用户请求进行权限校验；

若权限校验成功，则根据所述目标校验配置信息中的限流校验配置信息，对所述用户请求进行限流校验；

若无需对所述用户请求进行限流，则确定所述用户请求满足目标校验条件。

6.根据权利要求1所述的方法，其特征在于，根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件，包括：

通过利用预设前置过滤器，根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件，并过滤出满足目标校验条件的用户请求。

7.根据权利要求1所述的方法，其特征在于，在将所述用户请求发送至后台服务器的目标算法模型中之后，还包括：

接收所述后台服务器发送的所述用户请求对应的第一响应数据；

通过利用预设后置过滤器，对所述第一响应数据进行处理，确定出所述用户请求对应的第二响应数据，并将所述第二响应数据发送至所述客户端。

8.根据权利要求1-7任一所述的方法，其特征在于，所述方法还包括：

若所述用户请求不满足目标校验条件，则通过利用预设错误过滤器，获取所述用户请求的错误原因所对应的错误返回信息，并将所述错误返回信息发送至所述客户端。

9.一种请求响应方法，其特征在于，应用于后台服务器，包括：

通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；

利用所述目标API接口对应的目标算法模型，对所述用户请求进行响应处理，获得所述用户请求对应的第一响应数据，并将所述第一响应数据发送至所述网关服务器中。

10.一种请求响应装置，其特征在于，集成于网关服务器，包括：

第一接收模块，用于接收客户端发送的用户请求；

目标校验配置信息确定模块，用于根据所述用户请求中的目标API接口信息，确定目标API接口对应的目标校验配置信息；

用户请求检测模块，用于根据所述目标校验配置信息，检测所述用户请求是否满足目标校验条件；

用户请求发送模块，用于若所述用户请求满足目标校验条件，则通过调用后台服务器的所述目标API接口，将所述用户请求发送至后台服务器的目标算法模型中，以使所述目标算法模型对所述用户请求进行响应处理。

11.一种请求响应装置，其特征在于，集成于后台服务器，包括：

第二接收模块，用于通过目标API接口，接收网关服务器发送的满足目标校验条件的用户请求；

数据请求响应模块，用于利用所述目标API接口对应的目标算法模型，对所述用户请求进行响应处理，获得所述用户请求对应的第一响应数据，并将所述第一响应数据发送至所述网关服务器中。

12.一种请求响应系统，其特征在于，所述系统包括：客户端、网关服务器和后台服务器；其中，

所述网关服务器用于实现如权利要求1-8中任一所述的请求响应方法；

所述后台服务器用于实现如权利要求9所述的请求响应方法。

13.一种服务器，其特征在于，所述服务器包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的请求响应方法。

14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-9中任一所述的请求响应方法。

Images