CN108829518B - 用于推送信息的方法和装置 - Google Patents

Abstract

本申请实施例公开了用于推送信息的方法和装置。该方法的一具体实施方式包括：接收客户端发送的模型获取请求，其中，模型获取请求包括模型类别标识；对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源；响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型；将目标模型推送给客户端。该实施方式通过向客户端推送有针对性的模型，可以使目标设备的硬件资源得到充分利用，有效地避免了资源竞争。

Description

用于推送信息的方法和装置

技术领域

本申请实施例涉及计算机技术领域，具体涉及用于推送信息的方法和装置。

背景技术

人工智能(Artificial Intelligence)，英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

随着人工智能的不断发展，现有的终端设备上也可以部署各种模型以用于进行本地推断。目前，终端设备上使用的模型一般是在服务端完成训练而后下发至终端设备的。服务端向终端设备下发的模型通常不是基于终端设备的硬件资源优化的模型。

发明内容

本申请实施例提出了用于推送信息的方法和装置。

第一方面，本申请实施例提供了一种用于推送信息的方法，该方法包括：接收客户端发送的模型获取请求，其中，模型获取请求包括模型类别标识；对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源；响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，将目标模型推送给客户端。

在一些实施例中，硬件资源信息包括目标设备中的第一预设硬件资源的标识信息；以及基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，包括：从预设的与模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型，其中，模型集合中的模型是经训练后的模型，模型集合中存在与第一预设硬件资源相关联的模型；对待推送模型进行分析，确定待推送模型是否已被分配给标识为标识信息中的标识的第一预设硬件资源；响应于确定待推送模型没有被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将目标设备中的第一预设硬件资源的数量作为第二数量，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，基于经分配第一预设硬件资源后的待推送模型生成目标模型。

在一些实施例中，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，包括：若第一数量小于第二数量，则按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给目标设备中的前第一数量个第一预设硬件资源中的不同的第一预设硬件资源。

在一些实施例中，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：若第一数量等于第二数量，则将待推送模型分别分配给目标设备中的不同的第一预设硬件资源。

在一些实施例中，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：若第一数量大于第二数量，则确定第一数量是否能被第二数量整除；响应于确定第一数量能被第二数量整除，将待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

在一些实施例中，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：响应于确定第一数量不能被第二数量整除，将第一数量减去第一数量除以第二数量所得的余数，得到差值，从待推送模型中提取出差值个待推送模型，将提取出的待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给目标设备中的不同的第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

在一些实施例中，基于经分配第一预设硬件资源后的待推送模型生成目标模型，包括：将经分配第一预设硬件资源后的待推送模型作为目标模型。

在一些实施例中，基于经分配第一预设硬件资源后的待推送模型生成目标模型，包括：对于目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

在一些实施例中，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，还包括：响应于确定待推送模型已被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型作为目标模型。

在一些实施例中，模型集合中还存在与第二预设硬件资源相关联的模型；以及上述方法还包括：响应于确定目标设备不包括第一预设硬件资源，从模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送给客户端。

在一些实施例中，上述方法还包括：响应于接收到客户端上传的硬件资源信息，向客户端所归属的用户展示该硬件资源信息，其中，客户端响应于检测到硬件资源信息上传指令而获取目标设备的硬件资源信息，以及上传获取到的硬件资源信息，客户端上预先安装有采用边缘计算的目标应用，硬件资源信息上传指令响应于目标应用被启动而生成。

第二方面，本申请实施例提供了一种用于推送信息的装置，该装置包括：接收单元，被配置成接收客户端发送的模型获取请求，其中，模型获取请求包括模型类别标识；确定单元，被配置成对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源；推送单元，被配置成响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，将目标模型推送给客户端。

在一些实施例中，硬件资源信息包括目标设备中的第一预设硬件资源的标识信息；以及推送单元包括：获取子单元，被配置成从预设的与模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型，其中，模型集合中的模型是经训练后的模型，模型集合中存在与第一预设硬件资源相关联的模型；确定子单元，被配置成对待推送模型进行分析，确定待推送模型是否已被分配给标识为标识信息中的标识的第一预设硬件资源；生成子单元，被配置成响应于确定待推送模型没有被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将目标设备中的第一预设硬件资源的数量作为第二数量，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，基于经分配第一预设硬件资源后的待推送模型生成目标模型。

在一些实施例中，生成子单元进一步被配置成：若第一数量小于第二数量，则按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给目标设备中的前第一数量个第一预设硬件资源中的不同的第一预设硬件资源。

在一些实施例中，生成子单元还进一步被配置成：若第一数量等于第二数量，则将待推送模型分别分配给目标设备中的不同的第一预设硬件资源。

在一些实施例中，生成子单元还进一步被配置成：若第一数量大于第二数量，则确定第一数量是否能被第二数量整除；响应于确定第一数量能被第二数量整除，将待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

在一些实施例中，生成子单元还进一步被配置成：响应于确定第一数量不能被第二数量整除，将第一数量减去第一数量除以第二数量所得的余数，得到差值，从待推送模型中提取出差值个待推送模型，将提取出的待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给目标设备中的不同的第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

在一些实施例中，生成子单元还进一步被配置成：将经分配第一预设硬件资源后的待推送模型作为目标模型。

在一些实施例中，生成子单元还进一步被配置成：对于目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

在一些实施例中，生成子单元还进一步被配置成：响应于确定待推送模型已被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型作为目标模型。

在一些实施例中，模型集合中还存在与第二预设硬件资源相关联的模型；以及上述装置还包括：第一推送单元，被配置成响应于确定目标设备不包括第一预设硬件资源，从模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送给客户端。

在一些实施例中，上述装置还包括：展示单元，被配置成响应于接收到客户端上传的硬件资源信息，向客户端所归属的用户展示该硬件资源信息，其中，客户端响应于检测到硬件资源信息上传指令而获取目标设备的硬件资源信息，以及上传获取到的硬件资源信息，客户端上预先安装有采用边缘计算的目标应用，硬件资源信息上传指令响应于目标应用被启动而生成。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括：一个或多个处理器；存储装置，其上存储有一个或多个程序；当该一个或多个程序被该一个或多个处理器执行，使得该一个或多个处理器实现如第一方面中任一实现方式描述的方法。

第四方面，本申请实施例提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。

本申请实施例提供的用于推送信息的方法和装置，通过在接收客户端发送的模型获取请求后，对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源，以便在确定目标设备包括第一预设硬件资源时，基于模型获取请求所包括的模型类别标识和上述硬件资源信息，获取经训练后的、归属于该模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，以及将目标模型推送给客户端。有效利用了目标设备的硬件资源信息，实现了向客户端推送有针对性的模型，可以使目标设备的硬件资源得到充分利用，有效地避免了资源竞争。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本申请的用于推送信息的方法的一个实施例的流程图；

图3是根据本申请的用于推送信息的方法的一个应用场景的示意图；

图4是根据本申请的用于推送信息的方法的又一个实施例的流程图；

图5是根据本申请的用于推送信息的装置的一个实施例的结构示意图；

图6是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的用于推送信息的方法或用于推送信息的装置的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如采用边缘计算的目标应用等。用户可以使用终端设备101、102、103上的目标应用向服务器105发送模型获取请求等信息，以及接收服务器105反馈的信息。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的云服务器，该云服务器例如可以对终端设备101、102、103发送的模型获取请求进行分析等处理，以及将处理结果(例如获取到的目标模型)返回给终端设备。

需要说明的是，本申请实施例所提供的用于推送信息的方法一般由服务器105执行，相应地，用于推送信息的装置一般设置于服务器105中。

需要指出的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的用于推送信息的方法的一个实施例的流程200。该用于推送信息的方法的流程200，包括以下步骤：

步骤201，接收客户端发送的模型获取请求。

在本实施例中，用于推送信息的方法的执行主体(例如图1所示服务器)可以实时地接收用户通过客户端(例如图1所示的终端设备)发送的模型获取请求。其中，模型获取请求可以包括模型类别标识。

这里，模型可以是各种深度学习框架(例如TensorFlow、Caffe、Theano、Keras等)下的模型。其中，TensorFlow是相对高阶的机器学习库，用户可以方便地用它设计神经网络结构。Caffe全称为Convolutional Architecture for Fast Feature Embedding，是一个被广泛使用的开源深度学习框架。Theano是一个高性能的符号计算及深度学习库。Keras是高度模块化的神经网络库，使用Python(面向对象的解释型计算机程序设计语言)实现，并可以同时运行在TensorFlow和Theano上。

模型类别可以是根据模型的不同应用场景而划分的类别。模型类别例如可以包括声音识别模型、声纹识别模型、视频分析模型、人脸检测模型等等。模型类别标识可以是模型类别的名称或编号等。

步骤202，对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源。

在本实施例中，上述执行主体本地可以预存来源于上述客户端的硬件资源信息。其中，该硬件资源信息所归属的目标设备可以是上述客户端所在的设备。上述执行主体可以响应于接收到上述客户端发送的模型获取请求，而对预存的(例如最近一次存储的)来源于上述客户端的硬件资源信息进行分析，确定上述目标设备是否包括第一预设硬件资源。实践中，第一预设硬件资源可以包括GPU(Graphics Processing Unit，图形处理器)。

需要说明的是，对于包括第一预设硬件资源的设备，该设备的硬件资源信息通常可以包括第一预设硬件资源的以下至少一项：类别名称、型号。因此，以GPU为例，上述执行主体可以在上述目标设备的硬件资源信息中查找GPU的类别名称或型号，若查找到，则上述执行主体可以确定上述目标设备包括GPU。

在本实施例的一些可选的实现方式中，硬件资源信息还可以包括操作系统类型、操作系统位数、系统架构、磁盘总容量、磁盘可用容量、内存总容量、内存可用容量、交换空间总容量、交换空间可用容量、显存总容量、显存可用容量等等。

步骤203，响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，将目标模型推送给客户端。

在本实施例中，上述执行主体可以响应于确定上述目标设备包括第一预设硬件资源，而基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于上述目标设备中的第一预设硬件资源的目标模型，以及将目标模型推送给上述客户端。

作为示例，上述目标设备的硬件资源信息还可以包括上述目标设备中的第一预设硬件资源的标识信息，该标识信息中的标识可以是该第一预设硬件资源的序号。上述执行主体可以通过执行以下处理步骤来获取目标模型，以及将目标模型推送给上述客户端：

首先，上述执行主体可以从预设的与模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型。其中，模型集合中的模型可以是经训练后的模型。而且模型集合中还可以存在与第一预设硬件资源相关联的模型，例如该模型已预先与第一预设硬件资源的类别名称建立关联关系。另外，模型集合可以预先存储在上述执行主体本地或与上述执行主体远程通信连接的服务器中。

而后，上述执行主体可以对待推送模型进行分析，确定待推送模型是否已被分配给标识为上述标识信息中的标识的第一预设硬件资源。需要说明的是，对于任意一个待推送模型，上述执行主体可以对该待推送模型所包括的文件(例如拓扑结构描述文件等)进行解析，确定该文件是否包括用于为模型指定第一预设硬件资源的函数。若包括，则上述执行主体可以将该函数所指定的第一预设硬件资源的标识与上述标识信息中的标识进行比较，若该函数所指定的第一预设硬件资源的标识包含在上述标识信息中，则上述执行主体可以确定该待推送模型已被分配给标识为上述标识信息中的标识的第一预设硬件资源。实践中，以TensorFlow为例，若第一预设硬件资源为GPU，则用于为模型指定第一预设硬件资源的函数例如可以是tf.device或os.environ['CUDA_VISIBLE_DEVICES']等。其中，os.environ可以用于获取系统环境变量。CUDA_VISIBLE_DEVICES是环境变量名称。作为示例，tf.device('/gpu:2')和os.environ['CUDA_VISIBLE_DEVICES']＝'2'均可以表示指定第2块GPU，即标识为2的GPU。

然后，响应于上述执行主体确定待推送模型没有被分配给标识为上述标识信息中的标识的第一预设硬件资源，上述执行主体可以基于待推送模型的数量和上述目标设备中的第一预设硬件资源的数量，在上述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，以及基于经分配第一预设硬件资源后的待推送模型生成目标模型。

作为示例，将待推送模型的数量作为第一数量，将上述目标设备中的第一预设硬件资源的数量作为第二数量，上述执行主体可以先将第一数量与第二数量进行比较。若第一数量小于第二数量，则上述执行主体可以按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给上述目标设备中的前第一数量个第一预设硬件资源中的不同的第一预设硬件资源，以及上述执行主体可以将经分配第一预设硬件资源后的待推送模型作为目标模型。以第一预设硬件资源为GPU为例，上述执行主体可以将不同的待推送模型分配给上述目标设备的前3块GPU中的不同的GPU。这里，上述执行主体例如可以在待推送模型的指定文件(例如拓扑结构描述文件等)中写入上述函数，通过上述函数为待推送模型分配对应的第一预设硬件资源。

最后，上述执行主体可以保存目标模型，将目标模型的下载链接发送给上述客户端，以使上述客户端基于该下载链接下载目标模型。

在本实施例的一些可选的实现方式中，上述执行主体也可以直接将目标模型发送给上述客户端，例如将目标模型存储至上述客户端本地的指定位置。

在本实施例的一些可选的实现方式中，若上述执行主体确定上述第一数量等于上述第二数量，则上述执行主体可以将待推送模型分别分配给上述目标设备中的不同的第一预设硬件资源，将经分配第一预设硬件资源后的待推送模型作为目标模型。

在本实施例的一些可选的实现方式中，上述执行主体还可以响应于确定待推送模型已被分配给标识为上述标识信息中的标识的第一预设硬件资源，而将待推送模型作为目标模型。

在本实施例的一些可选的实现方式中，上述模型集合中还可以存在与第二预设硬件资源相关联的模型，该模型例如可以已预先与第二预设硬件资源的类别名称建立关联关系。其中，第二预设硬件资源可以是CPU(Central Processing Unit，中央处理器)。上述执行主体还可以响应于确定上述目标设备不包括第一预设硬件资源，而从上述模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送至上述客户端。

需要说明的是，上述客户端在获取到上述执行主体推送的模型后，可以用该模型替换本地已有的同类型的模型。例如，上述客户端可以直接对上述本地已有的同类型的模型进行替换，或者响应于检测到上述本地已有的同类型的模型执行完对应的推断操作而对上述本地已有的同类型的模型进行替换。具体地，上述客户端可以基于预置的配置信息来确定什么时候对上述本地已有的同类型的模型进行替换。

在本实施例的一些可选的实现方式中，上述执行主体还可以响应于接收到上述客户端上传的硬件资源信息，而向上述客户端所归属的用户展示该硬件资源信息。其中，上述客户端可以响应于检测到硬件资源信息上传指令而获取上述目标设备的硬件资源信息，以及将获取到的硬件资源信息上传至上述执行主体。实践中，上述客户端上可以预先安装有采用边缘计算的目标应用，该硬件资源信息上传指令可以响应于该目标应用被启动而生成。其中，边缘计算是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供最近端服务。其应用程序在边缘侧发起，产生更快的网络服务响应，满足行业在实时业务、应用智能、安全与隐私保护等方面的基本需求。

需要说明的是，上述客户端可以采用以下任意一种方式来获取上述目标设备的硬件资源信息：获取上述目标设备的PCI(Peripheral Component Interconnect，外设部件互连标准)总线信息以及从PCI总线信息中获取硬件资源信息、通过调用第三方库(第三方提供的代码库)获取硬件资源信息、通过运行操作系统提供的指令来获取硬件资源信息。为了兼容性考虑，上述客户端一般通过调用第三方库来获取硬件资源信息。

需要指出的是，上述客户端在获取到硬件资源信息后，可以采用预设的序列化方式，对硬件资源信息进行序列化处理，然后将经序列化处理后的硬件资源信息上传至上述执行主体。其中，不同语言可以提供不同的序列化方式。以go语言(英文简称为golang，英文全称为The Go Programming Language)为例，它可以提供四种序列化数据的方式：Binary、Gob、JSON、Protobuf。其中，Binary和Protobuf性能较高，但Binary不支持数据大小不确定的数据类型。Protobuf需要单独存放数据结构到特定的文件。JSON支持多种数据类型，但效率较前两种低一些。因此，上述预设的序列化方式可以是技术人员在实际的工程中权衡利弊后所选取的较为合适的序列化方式。

此外，上述客户端还可以从所连接的服务器(例如图1所示的服务器)接收针对上述目标应用的新配置信息，而后基于该新配置信息重新启动上述目标应用。这样，可以在用户无感知的情况下实现目标应用的更新。

继续参见图3，图3是根据本实施例的用于推送信息的方法的应用场景的一个示意图。在图3的应用场景中，第一预设硬件资源可以为GPU。用户的客户端301适用于建筑施工安全检测场景，客户端301本地已预先部署有安全帽识别模型和身份检测模型。当用户想要更新客户端301本地的安全帽识别模型和身份检测模型时，用户可以通过客户端301向云服务器302发送模型获取请求，其中，模型获取请求可以包括模型类别名称，如安全帽识别模型、身份检测模型。云服务器302可以响应于接收上述模型获取请求，而对最近一次存储的来源于客户端301的硬件资源信息进行分析，确定该硬件资源信息所归属的目标设备是否包括GPU。而后，响应于确定目标设备包括GPU，云服务器302可以获取经训练后的、指定在目标设备中的GPU上运行的安全帽识别模型和身份检测模型，以及将获取到的安全帽识别模型和身份检测模型推送给客户端301，以便客户端301对本地已有的安全帽识别模型和身份检测模型进行更新，在指定的GPU上运行更新后的安全帽识别模型和身份检测模型对建筑工地的工人303进行安全帽识别、身份检测。这样可以提高安全帽识别模型和身份检测模型的本地推断效率，尽可能地保障建筑工地的工人的人身安全。

本申请的上述实施例提供的方法，通过在接收客户端发送的模型获取请求后，对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源，以便在确定目标设备包括第一预设硬件资源时，基于模型获取请求所包括的模型类别标识和上述硬件资源信息，获取经训练后的、归属于该模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，以及将目标模型推送给客户端。有效利用了目标设备的硬件资源信息，实现了向客户端推送有针对性的模型，可以使目标设备的硬件资源得到充分利用，有效地避免了资源竞争。

进一步参考图4，其示出了用于推送信息的方法的又一个实施例的流程400。该用于推送信息的方法的流程400，包括以下步骤：

步骤401，接收客户端发送的模型获取请求。

步骤402，对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源。

步骤403，响应于确定目标设备包括第一预设硬件资源，从预设的与模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型。

步骤404，对待推送模型进行分析，确定待推送模型是否已被分配给标识为标识信息中的标识的第一预设硬件资源。

步骤405，响应于确定待推送模型没有被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将目标设备中的第一预设硬件资源的数量作为第二数量，确定第一数量是否大于第二数量。

在本实施例中，针对步骤401-405的解释说明，可参看图2所示实施例中的相关说明，在此不再赘述。

步骤406，响应于确定第一数量大于第二数量，确定第一数量是否能被第二数量整除。

在本实施例中，用于推送信息的方法的执行主体(例如图1所示的服务器)可以将第一数量除以第二数量得到商和余数。若商为整数，余数为0，则上述执行主体可以确定第一数量能被第二数量整除，上述执行主体可以执行步骤407；否则，上述执行主体可以确定第一数量不能被第二数量整除，上述执行主体可以执行步骤408。

步骤407，响应于确定第一数量能被第二数量整除，将待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源。

在本实施例中，上述执行主体可以响应于确定第一数量能被第二数量整除，而将待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源。其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

作为示例，假设第一预设硬件资源为GPU，上述目标设备包括4块GPU,待推送模型包括M1、M2、…、M8。上述执行主体可以将待推送模型划分成4个组，即T1、T2、T3、T4。其中，T1可以包括M1、M2，T2可以包括M3、M4，T3可以包括M5、M6，T4可以包括M7、M8。上述执行主体可以将T1中的待推送模型分配给第一块GPU，将T2中的待推送模型分配给第二块GPU，将T3中的待推送模型分配给第三块GPU，以及将T4中的待推送模型分配给第四块GPU。

步骤408，响应于确定第一数量不能被第二数量整除，将第一数量减去第一数量除以第二数量所得的余数，得到差值，从待推送模型中提取出差值个待推送模型，将提取出的待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给目标设备中的不同的第一预设硬件资源。

在本实施例中，上述执行主体可以响应于确定第一数量不能被第二数量整除，而将第一数量减去上述余数得到差值。而后，上述执行主体可以从待推送模型中提取出上述差值个待推送模型。接着，上述执行主体可以将提取出的待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给上述目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给上述目标设备中的不同的第一预设硬件资源。其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

作为示例，上述执行主体可以将未被选取的待推送模型随机分配给上述目标设备中的不同的第一预设硬件资源。

再例如，上述执行主体可以先统计出未被选取的待推送模型的数量。而后上述执行主体可以按照第一预设硬件资源的标识由小到大的顺序，将未被选取的待推送模型分别分配给上述目标设备的前该数量个第一预设硬件资源中的不同的第一预设硬件资源。

步骤409，对于目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

在本实施例中，上述执行主体在执行完步骤408或步骤409后，上述执行主体可以基于分配给上述目标设备中的第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。其中，显存占用百分比可以用处于区间(0，1)内的数表示。

作为示例，对于上述目标设备中的任意一个第一预设硬件资源，若分配给该第一预设硬件资源4个待推送模型，那么可以为这4个待推送模型均匀分配显存占用百分比，即为这4个待推送模型中的每个待推送模型分配显存占用百分比0.25。

需要说明的是，上述执行主体可以利用预设的用于指定显存占用百分比的函数为待推送模型分配显存占用百分比。以TensorFlow为例，该函数例如可以包括tf.GPUOptions。作为示例，对于任意一个待推送模型，若上述执行主体确定为该待推送模型分配显存占用百分比0.25，那么上述执行主体可以在该待推送模型的指定文件(例如拓扑结构描述文件等)中写入tf.GPUOptions(per_process_gpu_memory_fraction＝0.25)。在本示例中，per_process_gpu_memory_fraction指定了该待推送模型使用显存的上限，即0.25。

步骤410，将目标模型推送给客户端。

在本实施例中，上述执行主体可以将目标模型推送给上述客户端，以使上述客户端在其本地运行。需要说明的是，上述执行主体可以保存目标模型，然后将目标模型的下载链接发送给上述客户端，上述客户端可以根据下载链接下载目标模型。当然，上述执行主体也可以直接将目标模型发送给上述客户端，例如将目标模型存储至上述客户端本地的指定位置。

从图4中可以看出，与图2对应的实施例相比，本实施例中的用于推送信息的方法的流程400突出了在待推送模型的数量大于目标设备中的第一预设硬件资源的数量时，为待推送模型分配对应的第一预设硬件资源的步骤，以及为待推送模型分配显存占用百分比的步骤。由此，本实施例描述的方案可以将不同的待推送模型分配给不同的第一预设硬件资源，而且还可以指定待推送模型占用显存的上限，从而可以更有效地防止模型运行期间出现资源竞争、推断效率降低等异常情况的发生。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于推送信息的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的用于推送信息的装置500包括：接收单元501被配置成接收客户端发送的模型获取请求，其中，模型获取请求可以包括模型类别标识；确定单元502被配置成对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源；推送单元503被配置成响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，将目标模型推送给客户端。

在本实施例中，用于推送信息的装置500中：接收单元501、确定单元502和推送单元503的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202和步骤203的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，硬件资源信息可以包括目标设备中的第一预设硬件资源的标识信息；以及推送单元503可以包括：获取子单元(图中未示出)，被配置成从预设的与模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型，其中，模型集合中的模型可以是经训练后的模型，模型集合中可以存在与第一预设硬件资源相关联的模型；确定子单元(图中未示出)，被配置成对待推送模型进行分析，确定待推送模型是否已被分配给标识为标识信息中的标识的第一预设硬件资源；生成子单元(图中未示出)，被配置成响应于确定待推送模型没有被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将目标设备中的第一预设硬件资源的数量作为第二数量，基于第一数量和第二数量，在目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，基于经分配第一预设硬件资源后的待推送模型生成目标模型。

在本实施例的一些可选的实现方式中，生成子单元可以进一步被配置成：若第一数量小于第二数量，则按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给目标设备中的前第一数量个第一预设硬件资源中的不同的第一预设硬件资源。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：若第一数量等于第二数量，则将待推送模型分别分配给目标设备中的不同的第一预设硬件资源。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：若第一数量大于第二数量，则确定第一数量是否能被第二数量整除；响应于确定第一数量能被第二数量整除，将待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：响应于确定第一数量不能被第二数量整除，将第一数量减去第一数量除以第二数量所得的余数，得到差值，从待推送模型中提取出差值个待推送模型，将提取出的待推送模型划分成第二数量个组，将划分出的同一组中的待推送模型分配给目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给目标设备中的不同的第一预设硬件资源，其中，不同组中的待推送模型可以被分配给不同的第一预设硬件资源。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：将经分配第一预设硬件资源后的待推送模型作为目标模型。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：对于目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

在本实施例的一些可选的实现方式中，生成子单元还可以进一步被配置成：响应于确定待推送模型已被分配给标识为标识信息中的标识的第一预设硬件资源，将待推送模型作为目标模型。

在本实施例的一些可选的实现方式中，模型集合中还可以存在与第二预设硬件资源相关联的模型；以及上述装置500还可以包括：第一推送单元(图中未示出)，被配置成响应于确定目标设备不包括第一预设硬件资源，从模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送给客户端。

在本实施例的一些可选的实现方式中，上述装置500还可以包括：展示单元(图中未示出)，被配置成响应于接收到客户端上传的硬件资源信息，向客户端所归属的用户展示该硬件资源信息，其中，客户端可以响应于检测到硬件资源信息上传指令而获取目标设备的硬件资源信息，以及上传获取到的硬件资源信息，客户端上可以预先安装有采用边缘计算的目标应用，硬件资源信息上传指令可以响应于目标应用被启动而生成。

本申请的上述实施例提供的装置，通过在接收客户端发送的模型获取请求后，对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源，以便在确定目标设备包括第一预设硬件资源时，基于模型获取请求所包括的模型类别标识和上述硬件资源信息，获取经训练后的、归属于该模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，以及将目标模型推送给客户端。有效利用了目标设备的硬件资源信息，实现了向客户端推送有针对性的模型，可以使目标设备的硬件资源得到充分利用，有效地避免了资源竞争。

下面参考图6，其示出了适于用来实现本申请实施例的电子设备(例如图1所示的服务器)的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的系统中限定的上述功能。

需要说明的是，本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括接收单元、确定单元和推送单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，接收单元还可以被描述为“接收客户端发送的模型获取请求的单元”。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备：接收客户端发送的模型获取请求，其中，模型获取请求可以包括模型类别标识；对预存的来源于客户端的硬件资源信息进行分析，确定硬件资源信息所归属的目标设备是否包括第一预设硬件资源；响应于确定目标设备包括第一预设硬件资源，基于模型类别标识和硬件资源信息，获取经训练后的、归属于模型类别标识所指示的模型类别的、适用于目标设备中的第一预设硬件资源的目标模型，将目标模型推送给客户端。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (22)

1.一种用于推送信息的方法，包括：

接收客户端发送的模型获取请求，其中，所述模型获取请求包括模型类别标识，所述模型类别是根据模型的不同应用场景而划分的类别；

对预存的来源于所述客户端的硬件资源信息进行分析，确定所述硬件资源信息所归属的目标设备是否包括第一预设硬件资源，其中，所述硬件资源信息包括所述目标设备中的第一预设硬件资源的标识信息；

响应于确定所述目标设备包括第一预设硬件资源，基于所述模型类别标识和所述硬件资源信息，获取经训练后的、归属于所述模型类别标识所指示的模型类别的、适用于所述目标设备中的第一预设硬件资源的目标模型，响应于确定所述目标设备包括第一预设硬件资源，将目标模型推送给所述客户端，包括：从预设的与所述模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型，其中，所述模型集合中的模型是经训练后的模型，所述模型集合中存在与第一预设硬件资源相关联的模型；对待推送模型进行分析，确定待推送模型是否已被分配给标识为所述标识信息中的标识的第一预设硬件资源；响应于确定待推送模型已被分配给标识为所述标识信息中的标识的第一预设硬件资源，将待推送模型作为目标模型。

2.根据权利要求1所述的方法，其中，

所述基于所述模型类别标识和所述硬件资源信息，获取经训练后的、归属于所述模型类别标识所指示的模型类别的、适用于所述目标设备中的第一预设硬件资源的目标模型，还包括：

响应于确定待推送模型没有被分配给标识为所述标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将所述目标设备中的第一预设硬件资源的数量作为第二数量，基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，基于经分配第一预设硬件资源后的待推送模型生成目标模型。

3.根据权利要求2所述的方法，其中，所述基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，包括：

若所述第一数量小于所述第二数量，则按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给所述目标设备中的前所述第一数量个第一预设硬件资源中的不同的第一预设硬件资源。

4.根据权利要求2所述的方法，其中，所述基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：

若所述第一数量等于所述第二数量，则将待推送模型分别分配给所述目标设备中的不同的第一预设硬件资源。

5.根据权利要求2所述的方法，其中，所述基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：

若所述第一数量大于所述第二数量，则确定所述第一数量是否能被所述第二数量整除；

响应于确定所述第一数量能被所述第二数量整除，将待推送模型划分成所述第二数量个组，将划分出的同一组中的待推送模型分配给所述目标设备中的同一个第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

6.根据权利要求5所述的方法，其中，所述基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，还包括：

响应于确定所述第一数量不能被所述第二数量整除，将所述第一数量减去所述第一数量除以所述第二数量所得的余数，得到第三数量，从待推送模型中提取出所述第三数量个待推送模型，将提取出的待推送模型划分成所述第二数量个组，将划分出的同一组中的待推送模型分配给所述目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给所述目标设备中的不同的第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

7.根据权利要求3或4所述的方法，其中，所述基于经分配第一预设硬件资源后的待推送模型生成目标模型，包括：

将经分配第一预设硬件资源后的待推送模型作为目标模型。

8.根据权利要求5或6所述的方法，其中，所述基于经分配第一预设硬件资源后的待推送模型生成目标模型，包括：

对于所述目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

9.根据权利要求2所述的方法，其中，所述模型集合中还存在与第二预设硬件资源相关联的模型；以及

所述方法还包括：

响应于确定所述目标设备不包括第一预设硬件资源，从所述模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送给所述客户端。

10.根据权利要求1所述的方法，其中，所述方法还包括：

响应于接收到所述客户端上传的硬件资源信息，向所述客户端所归属的用户展示该硬件资源信息，其中，所述客户端响应于检测到硬件资源信息上传指令而获取所述目标设备的硬件资源信息，以及上传获取到的硬件资源信息，所述客户端上预先安装有采用边缘计算的目标应用，所述硬件资源信息上传指令响应于所述目标应用被启动而生成。

11.一种用于推送信息的装置，包括：

接收单元，被配置成接收客户端发送的模型获取请求，其中，所述模型获取请求包括模型类别标识，所述模型类别是根据模型的不同应用场景而划分的类别；

确定单元，被配置成对预存的来源于所述客户端的硬件资源信息进行分析，确定所述硬件资源信息所归属的目标设备是否包括第一预设硬件资源，所述硬件资源信息包括所述目标设备中的第一预设硬件资源的标识信息；

推送单元，被配置成响应于确定所述目标设备包括第一预设硬件资源，基于所述模型类别标识和所述硬件资源信息，获取经训练后的、归属于所述模型类别标识所指示的模型类别的、适用于所述目标设备中的第一预设硬件资源的目标模型，将目标模型推送给所述客户端；

所述推送单元包括：获取子单元，被配置成从预设的与所述模型类别标识对应的模型集合中获取与第一预设硬件资源相关联的模型作为待推送模型，其中，所述模型集合中的模型是经训练后的模型，所述模型集合中存在与第一预设硬件资源相关联的模型；确定子单元，被配置成对待推送模型进行分析，确定待推送模型是否已被分配给标识为所述标识信息中的标识的第一预设硬件资源；生成子单元，被配置成响应于确定待推送模型已被分配给标识为所述标识信息中的标识的第一预设硬件资源，将待推送模型作为目标模型。

12.根据权利要求11所述的装置，其中，

所述生成子单元还进一步被配置成：响应于确定待推送模型没有被分配给标识为所述标识信息中的标识的第一预设硬件资源，将待推送模型的数量作为第一数量，将所述目标设备中的第一预设硬件资源的数量作为第二数量，基于所述第一数量和所述第二数量，在所述目标设备中的第一预设硬件资源中为待推送模型分配对应的第一预设硬件资源，基于经分配第一预设硬件资源后的待推送模型生成目标模型。

13.根据权利要求12所述的装置，其中，所述生成子单元进一步被配置成：

若所述第一数量小于所述第二数量，则按照第一预设硬件资源的标识由小到大的顺序，将待推送模型分别分配给所述目标设备中的前所述第一数量个第一预设硬件资源中的不同的第一预设硬件资源。

14.根据权利要求12所述的装置，其中，所述生成子单元还进一步被配置成：

若所述第一数量等于所述第二数量，则将待推送模型分别分配给所述目标设备中的不同的第一预设硬件资源。

15.根据权利要求12所述的装置，其中，所述生成子单元还进一步被配置成：

若所述第一数量大于所述第二数量，则确定所述第一数量是否能被所述第二数量整除；

响应于确定所述第一数量能被所述第二数量整除，将待推送模型划分成所述第二数量个组，将划分出的同一组中的待推送模型分配给所述目标设备中的同一个第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

16.根据权利要求15所述的装置，其中，所述生成子单元还进一步被配置成：

响应于确定所述第一数量不能被所述第二数量整除，将所述第一数量减去所述第一数量除以所述第二数量所得的余数，得到第三数量，从待推送模型中提取出所述第三数量个待推送模型，将提取出的待推送模型划分成所述第二数量个组，将划分出的同一组中的待推送模型分配给所述目标设备中的同一个第一预设硬件资源，以及将未被选取的待推送模型分别分配给所述目标设备中的不同的第一预设硬件资源，其中，不同组中的待推送模型被分配给不同的第一预设硬件资源。

17.根据权利要求13或14所述的装置，其中，所述生成子单元还进一步被配置成：

将经分配第一预设硬件资源后的待推送模型作为目标模型。

18.根据权利要求15或16所述的装置，其中，所述生成子单元还进一步被配置成：

对于所述目标设备中的第一预设硬件资源，基于分配给该第一预设硬件资源的待推送模型的数量，为该待推送模型分配显存占用百分比，将经分配显存占用百分比后的待推送模型作为目标模型。

19.根据权利要求12所述的装置，其中，所述模型集合中还存在与第二预设硬件资源相关联的模型；以及

所述装置还包括：

第一推送单元，被配置成响应于确定所述目标设备不包括第一预设硬件资源，从所述模型集合中获取与第二预设硬件资源相关联的模型，将该模型推送给所述客户端。

20.根据权利要求11所述的装置，其中，所述装置还包括：

展示单元，被配置成响应于接收到所述客户端上传的硬件资源信息，向所述客户端所归属的用户展示该硬件资源信息，其中，所述客户端响应于检测到硬件资源信息上传指令而获取所述目标设备的硬件资源信息，以及上传获取到的硬件资源信息，所述客户端上预先安装有采用边缘计算的目标应用，所述硬件资源信息上传指令响应于所述目标应用被启动而生成。

21.一种电子设备，包括：

一个或多个处理器；

存储装置，其上存储有一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-10中任一所述的方法。

22.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-0中任一所述的方法。

Images