CN110808881A - 模型部署方法和装置、目标监测方法和装置、设备及系统 - Google Patents

Abstract

本申请提供的模型部署方法和装置、目标监测方法和装置、设备及系统，涉及监测技术领域。在本申请中，首先，在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器；其次，获取目标服务器的访问地址；然后，将模型身份信息与访问地址建立对应关系，以完成目标推理模型的部署，其中，模型身份信息用于确定访问地址，以基于该访问地址从目标服务器调用目标推理模型对目标对象进行推理。通过上述方法，可以改善现有技术中模型部署存在不合理的问题。

Description

模型部署方法和装置、目标监测方法和装置、设备及系统

技术领域

本申请涉及监测技术领域，具体而言，涉及一种模型部署方法和装置、目标监测方法和装置、设备及系统。

背景技术

在监测技术领域中，一般会对目标对象进行推理，以根据推理结果进行不同的管控。其中，现有技术中，一般是基于部署的推理模型对目标对象进行推理。经发明人研究发现，现有技术中模型的部署存在不合理的问题，使得在需要调用该模型对目标对象进行推理时存在着调用不便的问题。

发明内容

有鉴于此，本申请的目的在于提供一种模型部署方法和装置、目标监测方法和装置、设备及系统，改善现有技术中模型部署存在不合理的问题。

为实现上述目的，本申请实施例采用如下技术方案：

一种模型部署方法，包括：

在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器；

获取所述目标服务器的访问地址；

将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署，其中，所述模型身份信息用于确定访问地址，以基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。

在本申请实施例较佳的选择中，在上述模型部署方法中，所述目标推理模型具有多种信息推理功能，所述方法还包括：

针对所述多种信息推理功能分别生成标签身份信息；

将各所述标签身份信息分别与所述模型身份信息建立对应关系，其中，基于每一种所述信息推理功能对所述目标对象中的一种信息进行推理得到推理结果之后，通过各所述标签身份信息对各所述推理结果进行标识。

在本申请实施例较佳的选择中，在上述模型部署方法中，还包括：

针对每一个所述标签身份信息分别生成预设阈值，其中，该预设阈值用于与所述推理结果进行比较，以得到所述目标对象的监测结果。

在本申请实施例较佳的选择中，在上述模型部署方法中，还包括：

针对每一个所述标签身份信息分别生成标签名称的至少一个表述信息，其中，该标签名称的至少一个表述信息用于在输出所述监测结果时一并输出。

在本申请实施例较佳的选择中，在上述模型部署方法中，还包括：

与目标数据库建立通信连接，并通过该目标数据库存储所述对应关系，以在获取到模型身份信息之后，基于该模型身份信息和存储的对应关系从该目标数据库获取到所述访问地址。

一种目标监测方法，包括：

获取目标推理模型的模型身份信息，其中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，不同的推理模型存储于不同的推理服务器；

基于所述模型身份信息确定对应的访问地址，其中，所述模型身份信息与所述访问地址预先建立有对应关系；

基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。

在本申请实施例较佳的选择中，在上述目标监测方法中，所述对应关系存储于目标数据库，所述基于所述模型身份信息确定对应的访问地址的步骤，包括：

从所述目标数据库中，基于所述模型身份信息和所述对应关系获取到对应的访问地址。

在本申请实施例较佳的选择中，在上述目标监测方法中，所述目标推理模型具有多种信息推理功能，每一种所述信息推理功能用于对所述目标对象中的一种信息进行推理，所述方法还包括：

基于所述模型身份信息获取到对应的多个标签身份信息，其中，每一个所述标签身份信息针对一种信息推理功能预先生成并存储；

通过各所述标签身份信息对推理得到的各所述推理结果进行标识。

在本申请实施例较佳的选择中，在上述目标监测方法中，还包括：

获取针对每一个所述标签身份信息预先生成的预设阈值；

针对推理得到的每一个推理结果，将该推理结果与该推理结果对应的标签身份信息的预设阈值进行比较，得到所述目标对象的多个监测结果。

在本申请实施例较佳的选择中，在上述目标监测方法中，还包括：

获取针对每一个所述标签身份信息生成的标签名称的至少一个表述信息；

针对每一个所述监测结果，将该监测结果和与该监测结果对应的标签身份信息的标签名称的至少一个表述信息一并输出。

本申请实施例还提供了一种模型部署装置，包括：

信息确定模块，用于在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器；

地址获取模块，用于获取所述目标服务器的访问地址；

模型部署模块，用于将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署，其中，所述模型身份信息用于确定访问地址，以基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。

本申请实施例还提供了一种目标监测装置，包括：

信息获取模块，用于获取目标推理模型的模型身份信息，其中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，不同的推理模型存储于不同的推理服务器；

地址确定模块，用于基于所述模型身份信息确定对应的访问地址，其中，所述模型身份信息与所述访问地址预先建立有对应关系；

模型调用模块，用于基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。

在上述基础上，本申请实施例还提供了一种目标监测设备，包括存储器、处理器和存储于该存储器并能够在该处理器上运行的计算机程序，该计算机程序在该处理器上运行时，实现上述的模型部署方法或上述的目标监测方法。

在上述基础上，本申请实施例还提供了一种目标监测系统，包括：

多个推理服务器，各所述推理服务器分别用于存储不同的推理模型；

上述的目标监测设备,该目标监测设备与各所述推理服务器分别通信连接，用于调用存储的目标推理模型对目标对象进行推理。

本申请提供的模型部署方法和装置、目标监测方法和装置、设备及系统，通过将不同的推理模型存储于不同的推理服务器，并将相应的模型身份信息和访问地址建立对应关系。如此，一方面，可以改善现有技术中将多个模型进行集中部署而存在不合理的问题，如存在着部署混乱的问题；另一方面，还可以改善由于将多个模型集中部署之后，在针对某一个模型进行更新或扩展新的模型时，都会导致当前的模型调用不能被及时执行的问题，使得在需要调用推理模型对目标对象进行推理时存在着调用不便的问题。

为使本申请的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

图1为本申请实施例提供的目标监测系统包括的各设备之间的通信连接示意图。

图2为本申请实施例提供的目标监测设备的结构框图。

图3为本申请实施例提供的模型部署方法包括的各步骤的流程示意图。

图4为本申请实施例提供的目标监测方法包括的各步骤的流程示意图。

图5为本申请实施例提供的目标监测方法的应用场景示意图。

图6为本申请实施例提供的模型部署装置包括的各功能模块的方框示意图。

图7为本申请实施例提供的目标监测装置包括的各功能模块的方框示意图。

图标：10-目标监测系统；20-目标监测设备；21-存储器；23-处理器；30-推理服务器；100-模型部署装置；110-信息确定模块；120-地址获取模块；130-模型部署模块；200-目标监测装置；210-信息获取模块；220-地址确定模块；230-模型调用模块。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例只是本申请的一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

如图1所示，本申请实施例提供了一种目标监测系统10，可以包括目标监测设备20和多个推理服务器30。

其中，各所述推理服务器30分别用于存储不同的推理模型。所述目标监测设备20与各所述推理服务器30分别通信连接，用于从各所述推理服务器30调用存储的目标推理模型对目标对象进行推理。

结合图2，本申请实施例还提供了一种可应用于上述目标监测系统10的目标监测设备20。其中，所述目标监测设备20可以包括存储器21、处理器23和存储于该存储器21并能够在该处理器23上运行的计算机程序。

详细地，所述存储器21和所述处理器23之间可以直接或间接地电性连接，以实现数据的传输或交互(如前述的授权申请信息)。例如，所述存储器21和所述处理器23相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述计算机程序在所述处理器23上运行时，可以实现本申请实施例提供的模型部署方法或目标监测方法，以实现推理模型的部署或对目标对象的推理。

可选地，所述存储器21可以是，但不限于，随机存取存储器(Random AccessMemory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(ProgrammableRead-Only Memory，PROM)，可擦除只读存储器(Erasable Programmable Read-OnlyMemory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-OnlyMemory，EEPROM)等。

所述处理器23可以是一种通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)、片上系统(System on Chip，SoC)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

可以理解，图2所示的结构仅为示意，所述目标监测设备20还可包括比图2中所示更多或者更少的组件，或者具有与图2所示不同的配置，例如，还可以包括用于与其它设备进行信息交互的通信单元，如通过该通信单元与各所述推理服务器30进行信息交互，以调用存储于各所述推理服务器30的推理模型。

并且，所述目标监测设备20的具体类型不受限制，可以根据实际应用需求进行选择，只要具有一定的数据处理能力即可。例如，所述目标监测设备20也可以是一种服务器。

结合图3，本申请实施例还提供一种可应用于上述目标监测设备20的模型部署方法。其中，所述模型部署方法有关的流程所定义的方法步骤可以由所述目标监测设备20实现。下面将对图3所示的具体流程进行详细阐述。

步骤S110，在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息。

在本实施例中，在需要进行目标推理模型的部署时，可以先将该目标推理模型存储于目标服务器。然后，再通过步骤S110为所述目标推理模型生成相应的模型身份信息。

其中，不同的推理模型存储于不同的推理服务器30。也就是说，所述目标服务器仅存储有所述目标推理模型。

步骤S120，获取所述目标服务器的访问地址。

在本实施例中，通过步骤S110为所述目标推理模型确定模型身份信息之后，由于不同的推理模型存储于不同的推理服务器30，因而，还需要获取所述目标服务器的访问地址，以基于该访问地址对该目标服务器进行访问。

步骤S130，将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署。

在本实施例中，通过步骤S120获取到所述访问地址之后，还可以将该访问地址与所述模型身份信息建立对应关系，使得在需要调用所述目标推理模型时，可以基于所述模型身份信息和所述对应关系确定访问地址，从而基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。

基于上述方法，一方面，可以改善现有技术中将多个模型进行集中部署而存在不合理的问题，如存在着部署混乱的问题。另一方面，还可以改善由于将多个模型集中部署之后，在针对某一个模型进行更新或扩展新的模型时，都会导致当前的模型调用不能被及时执行的问题，使得在需要调用推理模型对目标对象进行推理时存在着调用不便的问题。

对于步骤S110需要说明的是，确定模型身份信息的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，可以预先生成并存储多个模型身份信息，如001、002、003、004、005等，然后，在执行步骤S110时，在该多个模型身份信息中选择出一个，作为所述目标推理模型的模型身份信息(如001)。

又例如，在另一种可以替代的示例中，可以获知所述目标推理模型存储于所述目标服务器之后，再基于预设规则为所述目标推理模型生成一个模型身份信息。

详细地，在一种具体的应用示例中，若所述目标监测系统10中已经存在推理服务器A、推理服务器B和推理服务器C，且推理服务器A部署有推理模型1，推理服务器B部署有推理模型2，推理服务器C部署有推理模型3。其中，若推理模型1的模型身份信息为001，推理模型2的模型身份信息为002，推理模型3的模型身份信息为003。

此时，可以生成一个模型身份信息“0004”，作为所述目标推理模型的模型身份信息。

对于步骤S120需要说明的是，获取所述目标服务器的访问地址的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，可以对所述目标服务器进行配置，使得该目标服务器在存储所述目标推理模型之后，会将该目标服务器的访问地址发送给所述目标监测设备20。

又例如，在另一种可以替代的示例中，也可以是用户将所述目标推理模型存储于所述目标服务器之后，通过对一终端设备进行操作，使得该终端设备响应该操作生成所述目标服务器的访问地址，并通过该终端设备将该访问地址发送给所述目标监测设备20。

对于步骤S130需要说明的是，建立所述模型身份信息与所述访问地址之间的对应关系的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，可以基于表格的形式建立所述模型身份信息与所述访问地址之间的对应关系，如下表所示：

模型身份信息	访问地址
		001	地址1
002	地址2
		003	地址3
004	地址4

其中，为了在需要调用推理模型时，能够便于根据模型身份信息确定对应的访问地址，还可以将如上表所示的对应关系存储于与所述目标监测设备20建立有通信连接的数据库。

进一步地，考虑到在一些示例中，所述目标推理模型可能具有多种信息推理功能，例如，在所述目标对象为主播在直播过程中的视频数据和音频数据时，所述信息推理功能可以包括，但不限于色情信息推理功能和性感信息推理功能。

因此，为了使得能够对所述目标推理模型基于不同的推理功能得出的不同推理结果进行标识，在本实施例中，所述模型部署方法还可以包括以下步骤：

首先，可以针对所述多种信息推理功能分别生成标签身份信息；其次，可以将各所述标签身份信息分别与所述模型身份信息建立对应关系。

也就是说，在基于每一种所述信息推理功能对所述目标对象中的一种信息进行推理得到推理结果之后，可以通过各所述标签身份信息对各所述推理结果进行标识。

其中，建立所述模型身份信息与所述标签身份信息之间的对应关系的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，可以基于表格的形式建立所述模型身份信息与所述标签身份信息之间的对应关系，如下表所示：

也就是说，若所述目标推理模型包括色情信息推理功能和性感信息推理功能，可以针对所述色情信息推理功能生成标签身份信息“标签1”，并针对所述性感信息推理功能生成标签身份信息“标签2”，然后，将“标签1”和“标签2”与所述目标推理模型的模型身份信息“001”都建立对应关系。

同样地，也可以将如上表所示的对应关系存储于与所述目标监测设备20建立有通信连接的数据库。其中，所述模型身份信息与所述访问地址之间的对应关系，和所述模型身份信息与所述标签身份信息之间的对应关系，既可以是分别基于不同的表格存储于同一数据库，也可以是基于同一表格存储于同一数据库，如下表所示：

进一步地，考虑到所述标签身份信息虽然在机器层面能够有效地对所述目标推理模型的信息推理功能进行标识，但是，对于用户层面来说，难以有效地对所述信息推理功能进行标识。

例如，在前述的示例中，对于“标签1”，用户很难直观地了解到对应的信息推理功能为色情信息推理功能。又例如，对于“标签2”，用户也很难直观地了解到对应的信息推理功能为性感信息推理功能。

如此，为了使得在用户层面，也能够有效地对所述目标推理模型的各信息推理功能进行标识，在本实施例中，所述模型部署方法还可以包括以下步骤：

首先，可以针对每一个所述标签身份信息分别生成标签名称的至少一个表述信息；其次，可以将该至少一个表述信息进行存储。

其中，所述标签名称的至少一个表述信息用于对相应的标签身份信息进行解释说明。例如，基于前述的示例，所述目标推理模型具有色情信息推理功能和性感信息推理功能，分别对应“标签1”和“标签2”。

如此，可以针对“标签1”生成至少一个表述信息，针对“标签2”也生成至少一个表述信息，使得用于可以基于前述的表述信息，知道“标签1”对应的信息推理功能为色情信息推理功能，并知道“标签2”对应的信息推理功能为性感信息推理功能。

其中，所述表述信息的具体内容不受限制，可以根据实际应用需求进行选择，只要能够在用户层面对所述标签身份信息进行标识即可。

例如，针对“标签1”生成的表述信息可以为“色情”，针对“标签2”生成的表述信息可以为“性感”。对应地，还可以生成相应的英文表述信息，例如，针对“标签1”生成的英文表述信息为“pornography”，针对“标签2”生成的英文表述信息为“sexy”。

同样地，也可以将每一个标签身份信息与表述信息建立对应关系，并存储于与所述目标监测设备20建立有通信连接的数据库。

进一步地，考虑到基于所述推理模型对目标对象进行推理得到推理结果一般是一个数值，用于表示置信度。基于此，为了实现对目标对象的有效监控，例如，基于所述推理结果确定所述目标对象中是否存在违法或违规的内容，在本实施例中，所述模型部署方法还可以包括以下步骤：

首先，可以针对每一个所述标签身份信息分别生成预设阈值；其次，可以将该预设阈值进行存储。

其中，所述预设阈值用于与所述推理结果进行比较，以得到所述目标对象的监测结果。例如，基于前述的示例，针对“标签1”生成的预设阈值可以为70％，针对“标签2”生成的预设阈值可以为80％。

因此，若基于所述目标推理模型中的色情信息推理功能对目标对象进行推理得到的推理结果为75％，由于75％大于预设阈值70％，因而，可以判定所述目标对象中存在色情内容，得到不合规或不予通过的监测结果。

若基于所述目标推理模型中的性感信息推理功能对目标对象进行推理得到的推理结果为70％，由于70％小于预设阈值80％，因而，可以判定所述目标对象中不存在性感内容，得到合规或通过的监测结果。

需要说明的是，针对每一个标签身份信息生成的预设阈值的数量不受限制，既可以是一个，也可以是多个。

例如，若针对每一个标签身份信息生成的预设阈值为一个，则监测结果可以为两个，如通过或不通过。

又例如，若针对每一个标签身份信息生成的预设阈值为两个，则监测结果可以为三个，如通过、可疑或不通过。

并且，在输出所述监测结果时，还可以将该监测结果与前述的表述信息一并输出。例如，针对前述的示例，可以输出“由于存在色情，不合规或不予通过”。

同样地，也可以将每一个标签身份信息与预设阈值建立对应关系，并存储于与所述目标监测设备20建立有通信连接的数据库。

结合图4，本申请实施例还提供一种可应用于上述目标监测设备20的目标监测方法。其中，所述目标监测方法有关的流程所定义的方法步骤可以由所述目标监测设备20实现。下面将对图4所示的具体流程进行详细阐述。

步骤S210，获取目标推理模型的模型身份信息。

在本实施例中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，且不同的推理模型存储于不同的推理服务器30。

因此，所述目标监测设备20在需要调用目标推理模型对目标对象进行推理时，可以先获取该目标推理模型的模型身份信息，以便于从相应的推理服务器30获取调用该目标推理模型。

步骤S220，基于所述模型身份信息确定对应的访问地址。

在本实施例中，所述模型身份信息与所述访问地址预先建立有对应关系。因此，通过步骤S210获取到所述目标推理模型的模型身份信息之后，可以基于该模型身份信息和该对应关系确定存储该目标推理模型的推理服务器30的访问地址，即目标服务器的访问地址。

步骤S230，基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。

在本实施例中，通过步骤S220确定所述所述目标服务器的访问地址之后，可以基于该访问地址对该目标服务器进行访问，从而调用存储于该目标服务器的目标推理模型，以对所述目标对象进行推理，进而得到相应的推理结果。

基于上述方法，由于不同的推理模型部署于不同的推理服务器30，因此，在执行上述的步骤S210-步骤S230时，即便需要对其它的推理模型进行更新或者需要部署新的推理模型，也不会导致步骤S210-步骤S230被终止，或者需要在步骤S210-步骤S230执行完毕之后，再对其它的推理模型进行更新或者部署新的推理模型，因而，具有较高的便利性。

对于步骤S210需要说明的是，所述目标监测设备20获取模型身份信息的具体方式不受限制，可以根据实际的应用场景不同而进行不同的设置。

例如，在一种可以替代的示例中，所述目标监测设备20可以应用于一种视频直播场景，结合图5，所述目标监测设备20还通信连接有终端设备，该终端设备还通信连接有图像采集设备。

其中，所述图像采集设备用于对采集主播的图像，生成一系列的视频帧，并发送给所述终端设备。因此，所述目标监测设备20监测的目标对象可以是所述视频帧中的内容，例如，可以监测该视频帧中是否存在色情内容或性感内容。

因此，所述终端设备在获取到所述图像采集设备发送的视频帧之后，可以基于预先的配置将需要对该视频帧进行推理的推理模型的模型身份信息发送给所述目标监测设备20。

其中，在上述的视频直播场景中，所述目标监测设备20监测的目标对象还可以是，采集所述主播的声音形成的音频帧。

对于步骤S220需要说明的是，基于模型身份信息确定访问地址的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，基于模型身份信息和访问地址预先建立的对应关系可以存储于所述目标监测设备20，因而，可以直接在该目标监测设备20中基于该对应关系，查找到与所述目标推理模型对应的访问地址。

又例如，在另一种可以替代的示例中，基于模型身份信息和访问地址预先建立的对应关系可以存储于与所述目标监测设备20通信连接的目标数据库中，因而，可以从所述目标数据库中，基于所述模型身份信息和所述对应关系获取到对应的访问地址。

也就是说，所述目标监测设备20可以基于数据库扫描技术，从所述目标数据库中查找到与所述目标推理模型对应的访问地址。

对于步骤S230需要说明的是，调用目标推理模型对目标对象进行推理的具体方式不受限制，可以根据实际应用需求进行选择。

例如，在一种可以替代的示例中，所述目标推理模型可以是对所述目标对象中存在预设内容(如色情内容、性感内容)的概率进行检测。

也就是说，基于所述目标推理模型对所述目标对象进行推理得到的推理结果，可以是一个概率值，即所述目标对象中存储预设内容的置信度，如20％、50％或80％。

进一步地，考虑到一些情况下，所述目标推理模型会具有多种信息推理功能，如前述的色情信息推理功能和性感信息推理功能。

并且，所述目标推理模型会基于具有的每一种信息推理功能对所述目标对象进行推理，从而得到多个推理结果，如基于色情信息推理功能得到所述目标对象中具有色情内容的概率值或置信度，基于性感信息推理功能得到所述目标对象中具有性感内容的概率值或置信度。

因此，为了对基于所述目标推理模型得到的多个推理结果进行标识，在本实施例，所述目标监测方法还可以包括以下步骤：

首先，可以基于所述模型身份信息获取到对应的多个标签身份信息；其次，通过各所述标签身份信息对推理得到的各所述推理结果进行标识。

其中，每一个所述标签身份信息针对一种信息推理功能预先生成并存储。因此，在获取到所述模型身份信息之后，可以基于该模型身份信息查找到对应的标签信息，如前述的示例中，针对色情信息推理功能生成的“标签1”，针对性感信息推理功能生成的“标签2”。

并且，为了便于基于所述目标推理模型的模型身份信息获取对应的标签身份信息，因此，还可以预先建立模型身份信息与标签身份信息之间的对应关系，以便于在执行前述步骤时，可以基于该对应关系获取到与所述目标推理模型的模型身份信息对应的标签身份信息。

进一步地，基于前述的示例，可以知道基于所述目标推理模型对目标对象进行推理得到推理结果一般是一个概率值，用于表示置信度。基于此，为了实现对目标对象的有效监控，例如，基于所述推理结果确定所述目标对象中是否存在违法或违规的内容，在本实施例中，所述目标监测方法还可以包括以下步骤：

首先，可以获取针对每一个所述标签身份信息预先生成的预设阈值；其次，可以针对推理得到的每一个推理结果，将该推理结果与该推理结果对应的标签身份信息的预设阈值进行比较，得到所述目标对象的多个监测结果。

例如，基于前述的示例，所述目标推理模型具有两种信息推理功能，分别为色情信息推理功能和性感信息推理功能，对应的标签身份信息分别为“标签1”和“标签2”，且针对“标签1”生成的预设阈值为70％，针对“标签2”生成的预设阈值为80％。

如此，在基于所述目标推理模型的两种信息推理功能对目标推理对象进行推理可以得到两个推理结果，如75％和70％。

其中，由于推理结果75％大于预设阈值70％，因而，可以得到“不合规或不通过”的监测结果，并且，由于推理结果70％小于预设阈值80％，可以得到“合规或通过”的监测结果。

进一步地，考虑到针对所述目标推理模型的不同信息推理功能生成的标签身份信息，只能够在机器层面对推理结果或监测结果进行标识，但是，对于用户层面难以进行有效地标识，因而，为了对用户进行有效地警示，在本实施例中，所述目标监测方法还可以包括以下步骤：

首先，可以获取针对每一个所述标签身份信息生成的标签名称的至少一个表述信息；其次，针对每一个所述监测结果，将该监测结果和与该监测结果对应的标签身份信息的标签名称的至少一个表述信息一并输出。

也就是说，用户可以基于所述表述信息确定输出的监测结果针对的具体内容。例如，基于前述的示例，若针对“标签1”生成的标签名称的表述信息为“色情”，且得到的监测结果为“不合规或不通过”，通过将该表述信息和该监测结果一并输出，可以使得用户知道，针对目标对象是否具有色情内容的监测结果为不合规或不通过。

又例如，基于前述的示例，针对“标签2”生成的标签名称的表述信息为“性感”，且得到的监测结果为“合规或通过”，通过将该表述信息和该监测结果一并输出，可以使得用户知道，针对目标对象是否具有性感内容的监测结果为合规或通过。

其中，为了便于对不同的用户进行有效地警示，所述表述信息也可以为多个，例如，针对“标签1”生成的表述信息在包括“色情”的基础上，还可以包括“pornography”；针对“标签2”生成的表述信息在包括“性感”的基础上，还可以包括“sexy”。

结合图6，本申请实施例还提供一种可应用于上述目标监测设备20的模型部署装置100。其中，所述模型部署装置100可以包括信息确定模块110、地址获取模块120和模型部署模块130。

所述信息确定模块110，用于在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器30。在本实施例中，所述信息确定模块110可用于执行图3所示的步骤S110，关于所述信息确定模块110的相关内容可以参照前文对步骤S110的描述。

所述地址获取模块120，用于获取所述目标服务器的访问地址。在本实施例中，所述地址获取模块120可用于执行图3所示的步骤S120，关于所述地址获取模块120的相关内容可以参照前文对步骤S120的描述。

所述模型部署模块130，用于将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署，其中，所述模型身份信息用于确定访问地址，以基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。在本实施例中，所述模型部署模块130可用于执行图3所示的步骤S130，关于所述模型部署模块130的相关内容可以参照前文对步骤S130的描述。

结合图7，本申请实施例还提供一种可应用于上述目标监测设备20的目标监测装置200。其中，所述目标监测装置200可以包括信息获取模块210、地址确定模块220和模型调用模块230。

所述信息获取模块210，用于获取目标推理模型的模型身份信息，其中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，不同的推理模型存储于不同的推理服务器30。在本实施例中，所述信息获取模块210可用于执行图4所示的步骤S210，关于所述信息获取模块210的相关内容可以参照前文对步骤S210的描述。

所述地址确定模块220，用于基于所述模型身份信息确定对应的访问地址，其中，所述模型身份信息与所述访问地址预先建立有对应关系。在本实施例中，所述地址确定模块220可用于执行图4所示的步骤S220，关于所述地址确定模块220的相关内容可以参照前文对步骤S220的描述。

所述模型调用模块230，用于基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。在本实施例中，所述模型调用模块230可用于执行图4所示的步骤S230，关于所述模型调用模块230的相关内容可以参照前文对步骤S230的描述。

综上所述，本申请提供的模型部署方法和装置、目标监测方法和装置、设备及系统，通过将不同的推理模型存储于不同的推理服务器30，并将相应的模型身份信息和访问地址建立对应关系。如此，一方面，可以改善现有技术中将多个模型进行集中部署而存在不合理的问题，如存在着部署混乱的问题；另一方面，还可以改善由于将多个模型集中部署之后，在针对某一个模型进行更新或扩展新的模型时，都会导致当前的模型调用不能被及时执行的问题，使得在需要调用推理模型对目标对象进行推理时存在着调用不便的问题。

在本申请实施例所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置和方法实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，电子设备，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本申请的优选实施例而已，并不用于限制本申请，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。

Claims (14)

1.一种模型部署方法，其特征在于，包括：

在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器；

获取所述目标服务器的访问地址；

将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署，其中，所述模型身份信息用于确定访问地址，以基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。

2.根据权利要求1所述的模型部署方法，其特征在于，所述目标推理模型具有多种信息推理功能，所述方法还包括：

针对所述多种信息推理功能分别生成标签身份信息；

将各所述标签身份信息分别与所述模型身份信息建立对应关系，其中，基于每一种所述信息推理功能对所述目标对象中的一种信息进行推理得到推理结果之后，通过各所述标签身份信息对各所述推理结果进行标识。

3.根据权利要求2所述的模型部署方法，其特征在于，还包括：

针对每一个所述标签身份信息分别生成预设阈值，其中，该预设阈值用于与所述推理结果进行比较，以得到所述目标对象的监测结果。

4.根据权利要求3所述的模型部署方法，其特征在于，还包括：

针对每一个所述标签身份信息分别生成标签名称的至少一个表述信息，其中，该标签名称的至少一个表述信息用于在输出所述监测结果时一并输出。

5.根据权利要求1-4任意一项所述的模型部署方法，其特征在于，还包括：

与目标数据库建立通信连接，并通过该目标数据库存储所述对应关系，以在获取到模型身份信息之后，基于该模型身份信息和存储的对应关系从该目标数据库获取到所述访问地址。

6.一种目标监测方法，其特征在于，包括：

获取目标推理模型的模型身份信息，其中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，不同的推理模型存储于不同的推理服务器；

基于所述模型身份信息确定对应的访问地址，其中，所述模型身份信息与所述访问地址预先建立有对应关系；

基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。

7.根据权利要求6所述的目标监测方法，其特征在于，所述对应关系存储于目标数据库，所述基于所述模型身份信息确定对应的访问地址的步骤，包括：

从所述目标数据库中，基于所述模型身份信息和所述对应关系获取到对应的访问地址。

8.根据权利要求6或7所述的目标监测方法，其特征在于，所述目标推理模型具有多种信息推理功能，每一种所述信息推理功能用于对所述目标对象中的一种信息进行推理，所述方法还包括：

基于所述模型身份信息获取到对应的多个标签身份信息，其中，每一个所述标签身份信息针对一种信息推理功能预先生成并存储；

通过各所述标签身份信息对推理得到的各所述推理结果进行标识。

9.根据权利要求8所述的目标监测方法，其特征在于，还包括：

获取针对每一个所述标签身份信息预先生成的预设阈值；

针对推理得到的每一个推理结果，将该推理结果与该推理结果对应的标签身份信息的预设阈值进行比较，得到所述目标对象的多个监测结果。

10.根据权利要求9所述的目标监测方法，其特征在于，还包括：

获取针对每一个所述标签身份信息生成的标签名称的至少一个表述信息；

针对每一个所述监测结果，将该监测结果和与该监测结果对应的标签身份信息的标签名称的至少一个表述信息一并输出。

11.一种模型部署装置，其特征在于，包括：

信息确定模块，用于在目标推理模型存储于目标服务器之后，针对该目标推理模型确定模型身份信息，其中，不同的推理模型存储于不同的推理服务器；

地址获取模块，用于获取所述目标服务器的访问地址；

模型部署模块，用于将所述模型身份信息与所述访问地址建立对应关系，以完成所述目标推理模型的部署，其中，所述模型身份信息用于确定访问地址，以基于该访问地址从所述目标服务器调用所述目标推理模型对目标对象进行推理。

12.一种目标监测装置，其特征在于，包括：

信息获取模块，用于获取目标推理模型的模型身份信息，其中，所述目标推理模型为预设的多个推理模型中用于对目标对象进行推理的模型，不同的推理模型存储于不同的推理服务器；

地址确定模块，用于基于所述模型身份信息确定对应的访问地址，其中，所述模型身份信息与所述访问地址预先建立有对应关系；

模型调用模块，用于基于所述访问地址从目标服务器调用所述目标推理模型对所述目标对象进行推理，得到推理结果。

13.一种目标监测设备，其特征在于，包括存储器、处理器和存储于该存储器并能够在该处理器上运行的计算机程序，该计算机程序在该处理器上运行时，实现权利要求1-5任意一项所述的模型部署方法或权利要求6-10任意一项所述的目标监测方法。

14.一种目标监测系统，其特征在于，包括：

多个推理服务器，各所述推理服务器分别用于存储不同的推理模型；

权利要求13所述的目标监测设备,该目标监测设备与各所述推理服务器分别通信连接，用于调用存储的目标推理模型对目标对象进行推理。

Images