CN115858921A - 模型处理方法、装置、设备以及存储介质 - Google Patents

Abstract

本公开提供了一种模型处理方法、装置、设备以及存储介质，涉及数据处理技术领域，尤其涉及人工智能、云大数据、智能搜索等技术领域，解决了相关技术中对系统请求进行处理的效率较低的技术问题。具体实现方案为：响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包；对模型请求包进行拆分，得到多个待处理任务；基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果；基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

Description

模型处理方法、装置、设备以及存储介质

技术领域

本公开涉及数据处理技术领域，尤其涉及人工智能、信息流、智能搜索等技术领域。

背景技术

目前的大部分系统在处理系统请求时，都是直接利用系统中存在的多个模型对系统请求进行串行处理，没有考虑是否所有模型均适用于处理当前的系统请求，这样会导致系统在处理系统请求时产生冗余的处理过程，进而导致整个请求处理过程需要耗费大量的时间。

发明内容

本公开提供了一种用于一种模型处理方法、装置、设备以及存储介质，用于解决相关技术中对系统请求进行处理的效率较低的技术问题。

根据本公开的一方面，提供了一种模型处理方法，包括：响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包，其中，模型请求包包含了目标系统中的多个模型对应的模型请求；对模型请求包进行拆分，得到多个待处理任务，其中，待处理任务携带用于表示所属模型的标识信息；基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果；基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

根据本公开的另一方面，提供了一种模型处理装置，包括：获取模块，用于响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包，其中，模型请求包包含了目标系统中的多个模型对应的模型请求；拆分模块，用于对模型请求包进行拆分，得到多个待处理任务，其中，待处理任务携带用于表示所属模型的标识信息；预测模块，用于基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果；组装模块，用于基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行上述的模型处理方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行上述的模型处理方法

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现上述的模型处理方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1示出了一种用于实现模型处理方法的计算机终端(或移动设备)的硬件结构框；

图2是根据本公开实施例提供的一种模型处理方法流程图；

图3是根据本公开实施例提供的一种数据标准化的模型处理方法流程图；

图4是根据本公开实施例提供的一种模型处理流程的示意图；

图5是根据本公开实施例提供的一种模型处理装置的结构框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

目前，大部分搜索/推荐系统应用的数据检索方法大致有两种：

第一种是多模型串行执行，也就是多个检索模型按顺序依次对系统接收到的请求进行处理，例如当前有一个系统请求A，搜索/推荐系统对应的检索模型有B、C、D，则此时系统会首先利用模型B对数据A进行处理，得到数据A’，然后利用模型C对数据A’进行处理，得到数据A”，最后再用模型C对数据A”进行处理，得到检索结果A”’。但是这种方法无法应用至检索模型数量多的搜索/推荐系统中，若检索模型过多，会导致整个检索过程耗时过长，影响系统的稳定性指标和用户的使用体验，存在使用环境上的限制。

第二种是多模型分阶段DAG(Directed Acyclic Graph，有向无环图)并行执行，也就是根据检索模型的类别进行分组执行，例如当前有一个需要进行搜索的数据I，搜索/推荐系统对应的检索模型有L、M、N，其中，M和N属于同一类型，则此时系统会首先利用模型L对数据I进行处理，得到数据I’，然后利用模型M和N同时对数据I’进行处理，最终选取模型M和N中耗时较长的处理结果作为最终的检索结果I”。但是这种方法并不能避免部分复杂模型导致的耗时长尾问题，并且由于系统接收到的请求中的数据特征分布不均，还可能会导致搜索/推荐系统中的各检索节点工作量不同，无法实现所有检索模型全并发计算，导致检索效率低。

为了解决相关技术中利用系统中的模型进行系统请求处理时效率低的技术问题，同时提高处理结果的准确度，根据本公开实施例，提供了一种模型处理方法，来对系统中的多个模型进行筛选集成处理，从而使系统能够有针对性的对数据进行并行处理，从而提高对系统请求处理的效率和准确度。

需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本公开实施例所提供的方法实施例可以在移动终端、计算机终端或者类似的电子设备中执行。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。图1示出了一种用于实现模型处理方法的计算机终端(或移动设备)的硬件结构框。

如图1所示，计算机终端100包括计算单元101，其可以根据存储在只读存储器(ROM)102中的计算机程序或者从存储单元108加载到随机访问存储器(RAM)103中的计算机程序，来执行各种适当的动作和处理。在RAM 103中，还可存储计算机终端100操作所需的各种程序和数据。计算单元101、ROM 102以及RAM 103通过总线104彼此相连。输入/输出(I/O)接口105也连接至总线104。

计算机终端100中的多个部件连接至I/O接口105，包括：输入单元106，例如键盘、鼠标等；输出单元107，例如各种类型的显示器、扬声器等；存储单元108，例如磁盘、光盘等；以及通信单元109，例如网卡、调制解调器、无线通信收发机等。通信单元109允许计算机终端100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习目标模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元101执行本文所描述的模型处理方法。例如，在一些实施例中，模型处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元108。在一些实施例中，计算机程序的部分或者全部可以经由ROM 102和/或通信单元109而被载入和/或安装到计算机终端100上。当计算机程序加载到RAM 103并由计算单元101执行时，可以执行本文描述的模型处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元101可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行模型处理方法。

本文中描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

此处需要说明的是，在一些可选实施例中，上述图1所示的电子设备可以包括硬件元件(包括电路)、软件元件(包括存储在计算机可读介质上的计算机代码)、或硬件元件和软件元件两者的结合。应当指出的是，图1仅为特定具体实例的一个实例，并且旨在示出可存在于上述电子设备中的部件的类型。

在上述运行环境下，本公开提供了如图2所示的模型处理方法，该方法可以由图1所示的计算机终端或者类似的电子设备执行。图2是根据本公开实施例提供的一种模型处理方法流程图。如图2所示，该方法可以包括如下步骤。

步骤S202，响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包。

其中，模型请求包包含了目标系统中的多个模型对应的模型请求。

上述的目标系统可以为搜索系统、推荐系统、搜索/推荐系统，监测系统、多媒体系统、识别系统、管理系统等各类型的系统，需要说明的是，该搜索/推荐系统用于表示该系统可以执行搜索功能和推荐功能。

上述的系统请求可以是用于表示目标系统接收到的需要系统进行相关处理的请求。

上述的系统请求的类型用于确定目标系统中用于处理该系统请求的模型。

上述的模型请求包中包含了对目标系统中多个模型对应的模型请求，通过该模型请求可以请求多个模型进行相应处理。其中，多个模型可以是目标系统中包含的所有模型中的部分模型或者全部模型，具体可以根据不同类型系统请求的处理需求确定。

在本实施例的一种可选方案中，在目标系统为搜索/推荐系统时，其包含的多个模型的可以包括但不限于：实体识别模型、向量生成模型、语义匹配模型、点击率预估模型、转换率预估模型。

在本实施例的一种可选方案中，在目标系统为监测系统时，其包含的多个模型可以包括但不限于：图像识别模型、向量生成模型、监测结果预测模型。

在本实施例的一种可选方案中，在目标系统为识别系统时，其包含的多个模型可以包含但不限于：语义识别模型、图像识别模型、风险识别模型。

在目标系统为监测系统的情况下，其接收到的系统请求可以是监测某个场景的监测请求，监测大场景的监测请求可以作为一个系统请求的类型，监测小场景的监测请求可以作为一个系统请求的类型。对于监测不同场景，其需要使用的模型也不同；监测大场景时，其监测的对象较多，其所使用的系统中的模型可以是针对于监测对象较多时的模型，以便能够提高监测大场景时的效率和准确度；监测小场景时，其监测对象较少，其所使用的系统中的模型可以是针对监测对象较少时的模型，以便减少运行资源；因此，可以根据系统请求的类型确定需要的多个模型，并确定多个模型的模型请求对应的模型请求包。

在目标系统为搜索/推荐系统的情况下，其接收到的系统请求可以是由用户在系统中输入的信息搜索或信息推荐请求，例如用户可以输入一串商品信息，系统根据该商品信息进行商品搜索或者推荐相似商品，此时对信息的搜索请求或者对信息的推荐请求可以作为上述系统请求的类型。对于不同的搜索/推荐场景，其需要使用的模型也不同，例如在精确搜索时，其对搜索结果与用户输入的信息的匹配度要很高，则使用到的系统中的模型可以是针对信息识别和匹配度计算的模型，以保证最终的处理结果高度符合用户输入的信息；在模糊搜索时，用户可能并不能明确的表述出需要的信息数据，其输入的可能是一个模糊的信息范围，则系统使用到的模型可以是针对信息范围进行模糊判断和预测的模型，以保证最终的搜索结果的范围在用户输入信息的基础上尽可能的广泛，使用户能够获取到最终需要的信息。

在目标对象为识别系统的情况下，其接收到的系统请求可以是对指定文字、指定图像，或者信息风险的识别请求，具体的识别请求的类型可以根据系统当前的使用环境确定，例如与上述识别请求对应的请求类型可以是文字识别类型、图像识别类型或者风险识别类型。对于不同类型的识别请求，其使用到的识别模型也不同。例如在识别文字信息时，其利用到的模型可以直接是OCR(Optical Character Recognition，光学识别)模型，以保证识别的效率；在识别图像信息时，其利用到的可以时用来进行图像特征提取、特征匹配的模型，以保证识别的准确度；在识别信息风险时，其利用到的可以是用于风险计算、风险匹配的模型，以保证最终确定出的信息风险准确度。

需要说明的是，上述的系统及其请求场景仅作示例性说明，除上述示例外，还可以有数据计算系统、信息传输系统等，在此不做具体限定。

在本实施例的一种可选方案中，系统在接收到系统请求之后，可以根据该系统请求的具体类型，首先从自身包含的所有模型中确定出处理该系统请求时需要使用到的多个模型，并根据多个模型的生成用于使用模型的模型请求包。

步骤S204，对模型请求包进行拆分，得到多个待处理任务。

其中，待处理任务携带用于表示所属模型的标识信息。

上述的待处理任务可以是指用于控制多个模型对系统请求进行分析处理的任务，其中多个待处理任务的任务形式可以为预设的标准形式。

上述的标识信息可以用来确定每个待处理任务对应的模型，避免将待处理任务发送至模型时出现发送错误的情况。

当目标系统确定生成模型请求包之后，便可以对模型请求包进行拆分以得到多个待处理任务。

在本实施例的一种可选方案中，为了提高待处理任务在系统中的传输效率，可以使用同一个拆分格式来对模型请求包进行拆分，使所有的待处理任务的格式进行标准化，此时每个待处理任务之间的内存大小可以相同也可以不同。

在本实施例的一种可选方案中，可以根据模型请求包中每个模型请求的数据量大小来对模型请求包进行拆分。

以目标系统为监测系统为例，在对模型请求包进行拆分时，可以首先确定每个模型需要处理的数据量大小，在监测大场景时，其需要监测的场景中的对象较多，对应需要处理的数据量较大，而在监测小场景时，其需要监测的场景中的对象较少，对应需要处理的数据量较小，为了避免对大场景对应的待处理任务拆分时占用过多的系统内存和处理时间，可以首先从模型请求包中拆分出小场景对应的待处理任务，此时系统可以首先对小场景中的待处理任务进行处理，与此同时系统可以进一步的从模型请求包中拆分出大场景对应的待处理任务。

步骤S206，基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果。

上述的预测结果可以是指利用模型对待处理任务进行处理后得到的处理结果。

上述的预测处理的过程可以在预测引擎中进行，其中预测引擎一般可以用来根据待处理任务携带的标识信息对应的接口，从多个模型中调用对应的目标模型来对该待处理任务进行分析处理。

在本实施例的一种可选方案中，对模型请求包的拆分和对待处理任务的分析处理可以同时进行，以实现对系统请求的多线程并行处理。

以前述的目标系统为监测系统为例，由于监测大场景时其需要处理的数据量要远高于监测小场景时需要处理的数据量，所以在对模型请求包拆分时，可以首先拆分出小场景对应的待处理任务，并在预测引擎中根据该待处理任务携带的标识信息对应的接口，从多个模型中调取出与该接口对应的目标模型对该待处理任务进行处理。需要说明的是，由于每个待处理任务都是独立的，一个待处理任务只对应一个模型，所以若拆分出多个待处理任务时，系统可以在上述的预测引擎中同时对多个待处理任务进行分析处理，从而实现并行处理的操作。

由于预测引擎的处理结果不会影响对模型请求包的拆分结果，所以在利用目标模型对小场景对应的待处理任务进行处理的同时，系统可以继续从模型请求包中拆分出大场景对应的待处理任务，从而实现多线程并行处理的操作。

在本实施例的一种可选方案中，在对模型请求包进行拆分得到多个待处理任务之后，便可以根据每个待处理任务携带的标识信息，在预测引擎中调用对应的模型来对待处理任务进行处理，得到每个待处理任务对应的预测结果。

在本实施例的一种可选方案中，由于大部分模型可以分为多个处理模块，而每个处理模块的功能也可以独立使用，所以上述的在利用接口调用目标模型时，调用出的可以是模型整体，也可以是模型中的一部分模块。

步骤S208，基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

上述的模型处理结果可以是指对每个模型对应的模型请求进行处理得到的结果。

由于单个待处理任务只是每个模型对应模型请求中的一部分，其对应的预测处理结果并不能代表整个模型请求对应的模型处理结果，所以在利用模型对与其对应的待处理任务处理之后，可以将待处理任务对应的预测结果进行组装，得到模型的模型处理结果。

在本实施例的一种可选方案中，为了防止对预测结果组装错误，例如将模型A的预测结果和模型B的预测结果组装至一起，还可以根据每个预测结果所属待处理任务对应的标识信息来对预测结果进行组装，将标识信息相同的预测结果组装至一起，从而得到模型请求对应的模型处理结果。

在本实施例的一种可选方案中，在确定出每个模型的模型处理结果之后，可以进一步的对所有的模型处理结果进行组装，以得到目标系统最终的系统处理结果。

根据本公开上述步骤S202至步骤S208，采用响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包；对模型请求包进行拆分，得到多个待处理任务；基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果；基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果的方式，首先根据接收到的系统请求生成模型请求包，从目标系统中处理系统请求时需要用到的多个模型进行筛选分组，并根据分组结果来对模型请求包进行拆分，对拆分出的多个待处理任务进行并行处理，避免了冗余处理导致的处理时间过长甚至处理失败的情况，从而提高任务的效率，进而解决了相关技术中对系统请求进行处理的效率较低的技术问题。

下面对该实施例的上述方法进行进一步介绍。

可选地，基于每个待处理任务携带的标识信息执行预测处理，得到每个处理任务的预测结果，包括：基于每个待处理任务携带的标识信息调用每个待处理任务对应的目标接口执行预测处理，得到每个待处理任务的预测结果。

上述的目标接口可以是指系统在调用模型时使用到的调用接口，基于目标接口可以在前述的预测引擎中调取待处理任务对应的目标模型或者模型中的一部分模块，以便完成对待处理任务的预测。

在得到多个待处理任务之后，目标系统可以直接根据待处理任务中的标识信息对应的目标接口，从多个模型中调取出目标模型或者模型上的一部分模块，来对待处理任务进行预测处理，从而提高对待处理任务进行解析处理的效率。

在本实施例的一种可选方案中，由于模型中的不同模块所采用的输入数据格式可能不同，所以为了保证对每个待处理任务的处理效率，若调用的是一个模型中的一部分模块，则在对待处理任务进行分析处理之前，可以对每个待处理任务对应的任务数据进行统一标准化处理，以生成具有统一处理框架的特征数据，避免因数据类型混杂导致耗费大量的时间在数据预处理上。

举例来说，由于不同类型的待处理任务的数据类型可能会不同，为了提高整个请求处理流程的效率，可以将整个特征处理的过程标准化，统一转换为标准形式的数据类型，例如将所有待处理任务的数据类型都转换为向量类型。

可选地，对模型请求包进行拆分，得到多个待处理任务，包括：对目标系统中的每个模型进行分组，得到分组结果，其中，分组结果用于表示将同类型的模型分在同一组；基于分组结果对每个模型对应的模型请求包进行拆分，得到多个待处理任务。

上述的分组结果可以是指根据预设参数对多个模型进行划分得到的结果，预设参数可以包括但不限于：每个模型对应模型请求包的数据量所属的范围大小、每个模型所属的维度。其中，模型所属的维度可以是指模型处理的请求信息中包含的数据特征的数量，维度类型可以包括但不限于：项目维度和请求维度。

考虑到不同模型的结构复杂度不同，项目维度对应的模型能够处理的请求信息较为复杂，需要进行分批处理，例如前述目标系统为监测系统时，对大场景和小场景进行监测的例子所示，可以分批次对模型请求包进行拆分为小场景对应的待处理任务和大场景对应的待处理任务；而请求维度对应的模型能够处理的请求信息较为简单，例如直接对一个词进行检索处理，所以为了提高对系统请求的效率，通常可以选用每个模型所属的维度来作为上述的预设参数。

上述的同类型的模型可以是指同属于项目维度的模型或者同属于请求维度的模型。

以目标系统为搜索/推荐系统为例，该系统包含的模型可以包括但不限于：请求分类/实体识别模型、向量生成模型、语义匹配模型、点击率预估模型、转换率预估模型，而其中的请求分类/实体识别模型、点击率预估模型、转换率预估模型的项目维度为0，则此时可以将请求分类/实体识别模型、点击率预估模型、转换率预估模型划分为请求维度对应的模型组，将向量生成模型、语义匹配模型划分为项目维度对应的模型组。

需要说明的是，由于请求维度对应的模型组不需要进行过多的数据类型转换、数据分类过程，所以该模型组中的模型可以用来对待处理任务进行处理。

在本实施例的一种可选方案中，如前述所示，在对模型请求包进行拆分前，可以首先对多个模型进行分组处理，并基于分组结果来对模型请求包进行拆分。

若其分组条件是根据每个模型的维度来对多个模型进行分组，则在确定出多个用于处理系统请求的模型之后，可以将多个模型中维度为项目维度的模型分为一组，将维度为请求维度的模型分为一组。

举例来说，若前述多个模型中包括模型R、S、T，其中，模型R和S是用来对系统请求进行项目维度处理的模型，例如数据分类模型、特征提取模型等，而模型T是用来对系统请求进行请求维度处理的模型，例如语义识别模型等，则此时可以将模型R和S分为第一组，作为项目维度模型组，将模型T分为第二组，作为请求维度模型组。

在将模型进行分组之后，若当前有一个模型请求包U，则此时可以根据上述的分组，对模型请求包进行拆分，例如可以将模型R对应的模型请求拆分为待处理任务U_R1和待处理任务U_R2、将模型S对应的模型请求拆分为待处理任务U_S1和待处理任务U_S2，将模型T对应的模型请求拆分为待处理任务U_T1和待处理任务U_T2。

利用模型的分组来将模型请求包拆分成多个待处理任务，能够实现同时在不同维度上对待处理任务进行并行处理的操作，不需要利用多个模型对系统请求进行串行处理，能够很大程度上提高任务处理的效率。

可选地，基于分组结果对每个模型对应的模型请求包进行拆分，得到多个待处理任务，包括：基于分组结果确定每个模型中处于预设分组的目标模型；基于分批参数对目标模型对应的模型请求包进行分批处理，得到目标模型通过不同批次输出的初始请求包；对初始请求包进行拆分处理，得到多个待处理任务。

上述的预设分组可以是指划分出的需要处理的数据量较大的模型分组，例如前述的项目维度对应的项目维度模型组。

上述的目标模型可以是指预设分组中的模型，例如前述项目维度模型组的模型。

对于预设分组的目标模型，若其对应的模型请求包数据量较大，所以在对模型请求包进行拆分前，可以先对模型请求包进行分批处理，得到数据量较小的不同批次的初始请求包，以便减小请求包的拆分压力，例如前述的项目维度模型组中的模型，但不仅限于此。

继续以前述的目标系统为监测系统，监测大场景和小场景为例，由于在大场景中需要监测的对象较多，其对应的数据量较大，而小场景中需要监测的对象较少，其对应的数据量较小，所以为了避免直接对模型请求包进行拆分时，对大场景的数据进行拆分的时间过长而影响系统处理请求的效率，所以可以首先对模型请求包进行分批处理，即将小场景中对应的模型请求包作为第一批次先进行拆分，再将大场景中对应的模型请求包作为第二批次进行拆分。

需要说明的是，上述例子中对模型请求包分成两批次进行拆分，仅是示例性说明，具体的分批参数的确定方法如下文所示。

可选地，该方法还包括：基于目标模型的模型复杂度和/或初始请求包的数量确定分批参数，其中，模型复杂度用于表示模型的计算量和/或模型中包含的模型参数量。

上述的模型复杂度可以用模型运行时间来表示，也可以由模型中的数据计算复杂度来表示，例如在相同的输入参数下，模型A的运行计算时间要比模型B的运行计算时间长，则模型A的复杂度要高于模型B的复杂。

在本实施例的一种可选方案中，上述的分批参数可以由模型复杂度、初始请求包的数量来决定，以保证确定出的分批参数的合理性。

具体的，若多个模型中每个模型各自的复杂度相差较大，则可以直接根据模型的复杂度来决定上述的分批参数，例如优先拆分出模型复杂度低的模型对应的待处理任务。

若不同模型对应的初始请求包的数量相差较大，则可以直接根据初始请求包的数量来决定上述的分批参数，例如优先拆分数据量较小的初始请求包。

举例来说，若模型R的复杂度要远高于模型S的复杂度，则考虑到整个系统的处理效率，则可以设置第一拆分批次和第二拆分批次，首先从原始的请求包中先确定出模型S对应的初始请求包，然后再确定出模型R对应的初始请求包。

若模型R对应的初始请求包的数量要远多于模型S对应的初始请求包的数量，则可以设置第一拆分批次和第二拆分批次，首先从原始的请求包中先确定出模型S对应的初始请求包，然后再确定出模型R对应的初始请求包。

可选地，该方法还包括：构造多批测试信息，其中，多批测试信息中的每批测试信息包含不同的数量的测试请求包；利用第一预设模型分别对每批测试信息进行预测，得到每批测试信息对应的预测时间；对每批测试信息对应的预测时间进行加权平均处理，得到测试请求包的耗时预测值；基于耗时预测值和耗时预期值生成分批参数。

上述的测试请求可以是指用来模拟测试出多个模型的在不同批次下的处理效率的请求。

在本实施例的一种可选方案中，可以根据不同模型复杂度的区间来模拟出进行测试请求时的测试参数，例如当前有10个模型，其中有3个模型的复杂度属于低复杂度，有3个模型的复杂度属于中复杂度，有4个模型的复杂度属于高复杂度，则此时可以将上述的模型请求包模拟划分为3个批次，然后基于每个批次的模型从模型请求包中模拟划分出不同批次的初始请求包，例如第一批次的初始请求包的数量可以是10，第一批次的初始请求包的数量可以是50，第一批次的初始请求包的数量可以是100，这里模拟出的初始请求包的数量就可以是指上述的测试请求包的数量。

上述的第一预设模型可以是指用来判断基于当前测试信息来确定分批参数时，多个模型的处理效率是否达标，例如是否在预期时间内完成对模型请求的处理。在本实施例的一种可选方案中，上述的第一预设模型可以是系统内部自带的模型，例如时间计算模型，也可以由用户自行设置，具体的模型来源不做限定。

上述的预测时间可以用来判断多个模型的处理效率是否达标，一般可以与一个预期的处理时间，即上述的耗时预期值进行比较，基于该预测时间能够对前述构建的测试信息进行调整。

上述的耗时预测值可以用来标准是多个模型的整体处理时间，例如利用前述10个模型对各自的初始请求包进行处理完成后，整体所花费的时间。

为了保证根据分批参数对请求包进行拆分后，前述第一组中的模型能够以最大效率处理每个待处理任务，还可以预先利用一个时间预测模型，即上述的第一预设模型，来确定在不同项目维度数量下每个模型的处理时间，并根据不同项目维度数量下的多个处理时间来确定出具体的分批参数。

在本实施例的一种可选方案中，若模型请求包中的数据组合复杂，项目维度较高，则为了提高进行对模型请求的处理效率，可以在对模型请求包进行拆分之前，可以首先根据多个模型的复杂度、模型请求包的数据量构造多批测试信息，模拟出多个模型的对各自模型请求的处理时间，并基于多个处理时间的加权平均值，来预测在不同参数信息下的目标系统的总耗时，即上述的耗时预测值，最后便可以根据耗时预测值来确定上述的分批参数。

在本实施例的一种可选方案中，系统还可以根据模型请求包的数据量大小推算出一个耗时期望值，例如若模型请求包的数据量较大，则其对应的耗时期望值可以较长，例如2s；若模型请求包的数据量较小，则其对应的耗时期望值可以较短，例如0.5s。在确定分批参数时，可以综合上述的耗时预测值和预测期望值，以提高确定出的分批参数的合理性和准确性，例如可以根据耗时预测值和预测期望值之间的比值，来对前述的多批参数信息进行调整，确定出最终的分批参数。

举例来说，若构造3批测试信息，每批信息对应的项目维度分别是10、50和100，则可以首先利用上述的时间预测模型来预测在不同项目维度下，多个模型各自的耗时数据，例如对应的预测时间为a1,a2，a3,然后对这3个预测时间进行加权平均获取得到模型总处理的耗时估计值为a4，最后可以根据该场景的耗时预期值d,自动计算生成一个合适分批参数。

可选地，基于耗时预测值和耗时预期值生成分批参数，包括：确定耗时预测值和耗时预期值的比值；利用预设函数对比值进行向下取整，得到分批参数。

在本实施例的一种可选方案中，分批参数可以是耗时估计值a4和耗时预期值d的比值，即分批参数可以是a4/d，为了保证数据的可使用性，可以对计算出的分批参数进行向下取整的操作，例如可以利用floor函数来对上述的分批参数a4/d进行向下取整操作。

在确定出分批参数之后，便可以利用该分批参数，按照前述的步骤对请求包进行处理。

可选地，根据系统请求的类型确定模型请求包，包括：获取目标系统中包含的多个第二预设模型；根据系统请求的类型从多个第二预设模型中确定出系统请求对应的多个模型，并控制多个模型生成多个模型对应的模型请求包。

上述的第二预设模型可以是指前述的目标系统中的所有模型。

上述的多个模型可以是前述的在处理系统请求时需要使用到的多个模型，其中，多个模型可以是指所有模型中的部分或者全部模型。

当目标系统接收到系统请求之后，可以首先获取目标系统中所有模型，然后根据系统请求的类型，有针对性的从多个第二预设模型筛选出用来分析处理该系统请求的多个模型，并控制生成这多个模型对应的模型请求包，避免确定出的多个模型中存在处理系统请求时使用不到的冗余模型，从而提高对系统请求的处理效率。

图3是根据本公开实施例提供的一种数据标准化的模型处理方法流程图，如图3所示该方法可以包括如下步骤。

步骤S302，响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包。

步骤S304，对模型请求包进行拆分，得到多个待处理任务。

步骤S306，对每个待处理任务进行特征处理，得到每个待处理任务对应的特征数据。

上述的特征数据可以是指前述的具有统一处理框架的数据。

在本实施例的一种可选方案中，可以首先基于预设的配置化特征框架对待处理任务的任务数据进行特征处理，以生成标准化特征数据，然后根据每个待处理任务的标识信息，对标准化特征数据进行二次处理，来为每个模型构造统一的预测输入信息。

在本实施例的一种可选方案中，上述的配置化特征框架具体可以根据目标系统的环境框架自行设置，在此不做具体限定。

步骤S308，基于每个待处理任务携带的标识信息调用每个待处理任务对应的目标接口对每个待处理任务的特征数据进行预测处理，得到每个待处理任务的预测结果。

在本实施例的一种可选方案中，在生成前述的预测输入信息之后，便可以进一步的根据对应的标识信息，有针对性的调用模型的目标接口，并将预设输入信息输入至模型中进行预测处理，从而得到每个待处理任务对应的预测结果。

步骤S310，基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

需要说明的是，上述的步骤S302-304和步骤S310与前述的步骤S202-204和步骤S208相同，其具体实施过程可以参考前述内容，在此不做赘述。

为便于对整个模型处理方法的理解，图4是根据本公开实施例提供的一种模型处理流程的示意图。如图4所示，在利用目标系统对用户输入的数据进行分析处理时，可以首先确定出该数据对应的不同数据维度，以及不同维度下的模型，即模型A、模型B，一般的数据维度可以分为两种：项目维度和请求维度。接着是对请求包进行拆分，得到多个待处理任务，需要说明的是，每个模型都可以对应多个待处理任务，每个待处理任务也可以对应多个模型，具体由每个模型和待处理任务的类型、数据量决定；然后便可以利用上述的多个模型对多个待处理任务进行并行分析处理，具体的处理过程可以如前文所示，在此不再赘述；最后对多个待处理任务的处理结果进行组合，便可以得到不同数据维度下的模型处理结果，多个数据维度对应的处理结果进行组合，便可以得到最终的目标系统的处理结果。

根据本公开另一实施例，还提供了一种地图的处理装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图5是根据本公开实施例提供的一种模型处理装置的结构框图，如图5所示，一种模型处理装置500包括：获取模块502，拆分模块504，预测模块506和组装模块508。

具体的，获取模块502，用于响应于目标系统接收到的系统请求，根据系统请求的类型确定模型请求包，其中，模型请求包包含了目标系统中的多个模型对应的模型请求；拆分模块504，用于对模型请求包进行拆分，得到多个待处理任务，其中，待处理任务携带用于表示所属模型的标识信息；预测模块506，用于基于每个待处理任务携带的标识信息执行预测处理，得到每个待处理任务的预测结果；组装模块508，用于基于每个待处理任务携带的标识信息将所有待处理任务的预测结果进行组装，得到每个模型的模型处理结果。

可选地，预测模块包括506：第一预测单元，用于基于每个待处理任务携带的标识信息调用每个待处理任务对应的目标接口执行预测处理，得到每个待处理任务的预测结果。

可选地，第一预测单元包括：特征处理子单元，用于对每个待处理任务进行特征处理，得到每个待处理任务对应的特征数据；特征预测子单元，用于基于每个待处理任务携带的标识信息调用每个待处理任务对应的目标接口对每个待处理任务的特征数据进行预测处理，得到每个待处理任务的预测结果。

可选地，拆分模块504包括：模型分组单元，用于对目标系统中的每个模型进行分组，得到分组结果，其中，分组结果用于表示将同类型的模型分在同一组；请求包拆分单元，用于基于分组结果对每个模型对应的模型请求包进行拆分，得到多个待处理任务。

可选地，请求包拆分单元还用于：基于分组结果确定每个模型中处于预设分组的目标模型；基于分批参数对目标模型对应的模型请求包进行分批处理，得到目标模型通过不同批次输出的初始请求包；对初始请求包进行拆分处理，得到多个待处理任务。

可选地，请求包拆分单元还用于：基于目标模型的模型复杂度和/或初始请求包的数量确定分批参数，其中，模型复杂度用于表示模型的计算量和/或模型中包含的模型参数量

可选地，请求包拆分单元还用于：构造多批测试信息，其中，多批测试信息中的每批测试信息包含不同的数量的测试请求包；利用第一预设模型分别对每批测试信息进行预测，得到每批测试信息对应的预测时间；对每批测试信息对应的预测时间进行加权平均处理，得到测试请求包的耗时预测值；基于耗时预测值和耗时预期值生成分批参数

可选地，请求包拆分单元还用于：确定耗时预测值和耗时预期值的比值；

利用预设函数对比值进行向下取整，得到分批参数

可选地，该装置还包括：信息构造模块，用于构造多批测试信息，其中，多批测试信息中的每批测试信息包含不同的数量的测试请求包；时间预测模块，用于利用第一预设模型分别对每批测试信息进行预测，得到每批测试信息对应的预测时间；耗时确定模块，用于对每批测试信息对应的预测时间进行加权平均处理，得到测试请求包的耗时预测值；参数生成模块，用于基于耗时预测值和耗时预期值生成分批参数。

可选地，获取模块502包括：模型获取单元，用于获取目标系统中包含的多个第二预设模型；模型确定单元，用于根据系统请求的类型从多个第二预设模型中确定出系统请求对应的多个模型，并控制多个模型生成多个模型对应的模型请求包。

根据本公开另一实施例，还提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行上述的模型处理方法。

根据本公开另一实施例，还提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行上述的模型处理方法。

根据本公开另一实施例，还提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现上述的模型处理方法。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。电子设备的示意性框图可以如图1所示。

需要说明的是，用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种模型处理方法，包括：

响应于目标系统接收到的系统请求，根据所述系统请求的类型确定模型请求包，其中，所述模型请求包包含了所述目标系统中的多个模型对应的模型请求；

对所述模型请求包进行拆分，得到多个待处理任务，其中，所述待处理任务携带用于表示所属模型的标识信息；

基于每个待处理任务携带的所述标识信息执行预测处理，得到每个所述待处理任务的预测结果；

基于每个所述待处理任务携带的所述标识信息将所有待处理任务的预测结果进行组装，得到所述每个模型的模型处理结果。

2.根据权利要求1所述的方法，其中，基于每个待处理任务携带的所述标识信息执行预测处理，得到每个所述处理任务的预测结果，包括：

基于每个所述待处理任务携带的所述标识信息调用每个所述待处理任务对应的目标接口执行预测处理，得到每个所述待处理任务的预测结果。

3.根据权利要求2所述的方法，其中，基于每个所述待处理任务携带的所述标识信息调用每个所述待处理任务对应的目标接口执行预测处理，得到每个所述待处理任务的预测结果，包括：

对每个所述待处理任务进行特征处理，得到每个所述待处理任务对应的特征数据；

基于每个所述待处理任务携带的所述标识信息调用每个所述待处理任务对应的目标接口对每个所述待处理任务的特征数据进行预测处理，得到每个所述待处理任务的预测结果。

4.根据权利要求1所述的方法，对所述模型请求包进行拆分，得到多个待处理任务，包括：

对所述目标系统中的所述每个模型进行分组，得到分组结果，其中，所述分组结果用于表示将同类型的模型分在同一组；

基于所述分组结果对所述每个模型对应的模型请求包进行拆分，得到所述多个待处理任务。

5.根据权利要求4所述的方法，基于所述分组结果对所述每个模型对应的模型请求包进行拆分，得到所述多个待处理任务，包括：

基于所述分组结果确定所述每个模型中处于预设分组的目标模型；

基于分批参数对所述目标模型对应的模型请求包进行分批处理，得到所述目标模型通过不同批次输出的初始请求包；

对所述初始请求包进行拆分处理，得到所述多个待处理任务。

6.根据权利要求5所述的方法，其中，所述方法还包括：

基于所述目标模型的模型复杂度和/或所述初始请求包的数量确定所述分批参数，其中，所述模型复杂度用于表示模型的计算量和/或所述模型中包含的模型参数量。

7.根据权利要求5所述的方法，其中，所述方法还包括：

构造多批测试信息，其中，所述多批测试信息中的每批测试信息包含不同的数量的测试请求包；

利用第一预设模型分别对所述每批测试信息进行预测，得到所述每批测试信息对应的预测时间；

对所述每批测试信息对应的预测时间进行加权平均处理，得到所述测试请求包的耗时预测值；

基于所述耗时预测值和耗时预期值生成所述分批参数。

8.根据权利要求7所述的方法，其中，基于所述耗时预测值和耗时预期值生成所述分批参数，包括：

确定所述耗时预测值和所述耗时预期值的比值；

利用预设函数对所述比值进行向下取整，得到所述分批参数。

9.根据权利要求1所述的方法，根据所述系统请求的类型确定模型请求包，包括：

获取所述目标系统中包含的多个第二预设模型；

根据所述系统请求的类型从所述多个第二预设模型中确定出所述系统请求对应的多个模型，并控制所述多个模型生成所述多个模型对应的模型请求包。

10.一种模型处理装置，包括：

获取模块，用于响应于目标系统接收到的系统请求，根据所述系统请求的类型确定模型请求包，其中，所述模型请求包包含了所述目标系统中的多个模型对应的模型请求；

拆分模块，用于对所述模型请求包进行拆分，得到多个待处理任务，其中，所述待处理任务携带用于表示所属模型的标识信息；

预测模块，用于基于每个待处理任务携带的所述标识信息执行预测处理，得到每个所述待处理任务的预测结果；

组装模块，用于基于每个所述待处理任务携带的所述标识信息将所有待处理任务的预测结果进行组装，得到所述每个模型的模型处理结果。

11.根据权利要求10所述的装置，其中，预测模块包括：

第一预测单元，用于基于每个所述待处理任务携带的所述标识信息调用每个所述待处理任务对应的目标接口执行预测处理，得到每个所述待处理任务的预测结果。

12.根据权利要求11所述的装置，其中，第一预测单元包括：

特征处理子单元，用于对每个所述待处理任务进行特征处理，得到每个所述待处理任务对应的特征数据；

特征预测子单元，用于基于每个所述待处理任务携带的所述标识信息调用每个所述待处理任务对应的目标接口对每个所述待处理任务的特征数据进行预测处理，得到每个所述待处理任务的预测结果。

13.根据权利要求10所述的装置，其中，拆分模块包括：

模型分组单元，用于对所述目标系统中的所述每个模型进行分组，得到分组结果，其中，所述分组结果用于表示将同类型的模型分在同一组；

请求包拆分单元，用于基于所述分组结果对所述每个模型对应的模型请求包进行拆分，得到所述多个待处理任务。

14.根据权利要求10所述的装置，其中，所述装置还包括：

信息构造模块，用于构造多批测试信息，其中，所述多批测试信息中的每批测试信息包含不同的数量的测试请求包；

时间预测模块，用于利用第一预设模型分别对所述每批测试信息进行预测，得到所述每批测试信息对应的预测时间；

耗时确定模块，用于对所述每批测试信息对应的预测时间进行加权平均处理，得到所述测试请求包的耗时预测值；

参数生成模块，用于基于所述耗时预测值和耗时预期值生成所述分批参数。

15.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-9中任一项所述的方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-9中任一项所述的方法。

Images