CN113992687A - 智能业务集群调度方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种智能业务集群调度方法、装置、电子设备及存储介质。所述方法包括：按业务处理负载和/或业务处理需求从多路视频流中得到第一视频流分组；第一视频流分组包括至少两路视频流；将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过第一智能处理芯片对汇集的视频流进行智能处理；将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。采用本方案，根据各路视频流的业务属性信息提前将各路视频流分组，将分组内的视频流统一集中调度到对应的智能处理芯片，尽可能占用较少的芯片资源，同时根据智能处理芯片是否调度汇集视频流来实现智能处理芯片进行快速唤醒以及多余芯片预先休眠，保证智能处理芯片的高效节能。

Description

智能业务集群调度方法、装置、电子设备及存储介质

技术领域

本发明实施例涉及视频监控技术领域，尤其涉及一种智能业务集群调度方法、装置、电子设备及存储介质。

背景技术

智能视频分析技术正在被广泛地应用，例如采用支持芯片级集群的智能处理服务器进行智能分析，但随着应用场景规模扩大相应挑战也不断浮出水面。

由于智能计算比较耗能，支持芯片级集群的智能处理服务器需要充分考虑节能处理机制，从而大幅节省能耗。但是，当前的节能机制普遍采用先监测后休眠的处理机制，即CPU实时监测智能分析的需求，如果没有分析需求则降低智能处理芯片的处理速度或休眠，待有新业务触发再唤醒智能处理芯片。这样方式中芯片休眠和唤醒均比较被动，节能不够高效，且唤醒存在时延。

发明内容

本发明实施例中提供了一种智能业务集群调度方法、装置、电子设备及存储介质，以实现通过业务的内容和负载感知来保证智能处理设备的高效节能。

第一方面，本发明实施例中提供了一种智能业务集群调度方法，所述方法包括：

按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

第二方面，本发明实施例中还提供了一种智能业务集群调度装置，所述装置包括：

视频分配模块，用于按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

调度汇集模块，用于将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

节能控制模块，用于将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

第三方面，本发明实施例中还提供了一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例中所提供的智能业务集群调度方法。

第四方面，本发明实施例中还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任意实施例中所提供的智能业务集群调度方法。

本发明实施例中提供了一种智能业务集群调度方法，按照业务处理负载和/或业务处理需求从多路视频流中得到一个或多个第一视频流分组，每个第一视频流分组可包括至少两路视频流；将第一视频流分组的各路视频流进行统一集中调度汇集到第一智能处理芯片进行智能处理；同时，将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。采用本申请方案，可以根据各路视频流的业务属性信息提前将各路视频流进行分组，按照分组的不同将分组内的视频流统一集中调度到对应的智能处理芯片，这样就可以尽可能占用较少的芯片资源，充分利用芯片的智能分析资源，同时可以根据智能处理芯片是否调度汇集视频流来实现智能处理芯片进行快速唤醒以及多余芯片的预先休眠，保证智能处理芯片的高效节能。

上述发明内容仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1是本发明实施例中提供的一种智能业务集群调度方法的流程图；

图2是本发明实施例中提供的另一种智能业务集群调度方法的流程图；

图3是本发明实施例中提供的又一种智能业务集群调度方法的流程图；

图4是本发明实施例中提供的一种智能业务集群调度装置的结构框图；

图5是本发明实施例中提供的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

在更加详细地讨论示例性实施例之前，应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作（或步骤）描述成顺序的处理，但是其中的许多操作（或步骤）可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。

下面针对本发明实施例中提供的智能业务集群调度方法、装置、电子设备及存储介质，通过各实施例中方案以及对应的可选方案进行详细阐述。

图1是本发明实施例中提供的一种智能业务集群调度方法的流程图。本实施例可适用于对智能处理芯片进行节能调度处理的情况，尤其是对支持芯片级集群的智能处理服务器进行节能调度处理的情形。该方法可以由智能业务集群调度装置执行，该装置可以采用软件和/或硬件的方式实现，并可集成在任何具有网络通信功能的电子设备上。如图1所示，本发明实施例中提供的智能业务集群调度方法，可包括以下步骤：

S110、按业务属性信息从多路视频流中得到第一视频流分组；业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流。

芯片集群服务器可以支持大量智能处理芯片；典型的，一个服务器可以支持8块板卡热插拔，每个板卡支持16颗GPU或ASIC的智能处理芯片。当有海量视频流从网口进入服务器时，服务器的管理模块会将视频流分配给这些智能处理芯片进行智能分析，每颗智能处理芯片可以处理1路或多路视频流。

每个智能处理芯片可以处理1路或多路视频流，如果每一个智能处理芯片仅处理一路视频流，那么随着视频流路数的增多，在对视频流进行智能分析时就需要唤醒启动更多智能处理芯片。这样一来，每一个智能处理芯片可能存在大量的分析资源未被使用而处于空闲状态，造成分析资源的浪费，同时唤醒的智能处理芯片越多造成的能耗越多。

正因如此，可以确定各路视频流在不同时段的业务属性信息，业务属性信息包括业务处理负载与业务处理需求。按照各路视频流的业务属性差异，可以将业务处理需求相同或相近的视频流划分到同一个分组，或者在保证业务处理负载在一定范围的情况下将多个视频流划分到一个分组，这样就可以从多路视频流中得到一个或多个第一视频流分组。同时，为了不浪费每个智能处理芯片的分析资源，可以使得每个第一视频流分组包括至少两路视频流，以便后续可以将多路视频流一起汇集调度到一个智能处理芯片，尽可能充分发挥智能处理芯片的分析资源，避免由于长期处于空闲而浪费。

S120、将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过第一智能处理芯片对汇集的视频流进行智能处理。

在按照各路视频流的业务属性信息，对多路视频流中各路视频流进行分组组合，从中得到一个或多个第一视频流分组。每个第一视频流分组可以包括至少两路视频流。进而，可以将同一个视频流分组的各路视频流汇集调度到同一个智能处理芯片，保证同一个视频流分组的各路视频流可以统一集中在一个智能处理芯片中进行智能分析。

智能处理芯片的智能处理过程通常可以包括对视频中的行人、车辆、非机动车以及物品等目标进行某一业务类型的属性智能分析（例如，行人的年龄与穿戴，车辆的车牌与车型）和针对某一关注对象进行智能识别（通过人脸特征向量的相似度比对确认是否与某一个关注对象为同一个人，通过车辆特征向量相似度比对确认是否与某一个关注对象为同一辆车等）。

S130、将未调度汇集视频流的智能处理芯片配置为休眠模式。

对于芯片集群服务器中支持的大量智能处理芯片，有一些智能处理芯片需要调度汇集第一视频流分组的视频流，有一些智能处理芯片则未进行调度汇集视频进行智能分析处于空闲资源。如果一个智能处理芯片未进行智能分析，却处于唤醒状态，无疑会造成能量消耗，不利于节能控制，为此需要将未调度汇集视频流的智能处理芯片设置成休眠模式，避免资源空闲且无意义的能量消耗。

根据本发明实施例中提供的智能业务集群调度方案，可以根据各路视频流的业务属性信息提前将各路视频流进行分组，按照分组的不同将分组内的视频流统一集中调度到对应的智能处理芯片，这样就可以尽可能占用较少的芯片资源，充分利用芯片的智能分析资源，同时可以根据智能处理芯片是否调度汇集视频流来实现智能处理芯片进行快速唤醒以及多余芯片的预先休眠，保证智能处理芯片的高效节能。

图2是本发明实施例中提供的另一种智能业务集群调度方法的流程图。本实施例在上述实施例的基础上进行优化，本发明实施例可以与上述一个或者多个实施例中各个可选方案结合。如图2所示，本发明实施例中提供的智能业务集群调度方法，可包括以下步骤：

S210、预估在当前时段对各路视频流进行智能处理时产生的业务处理负载；所述业务处理负载用于表征智能处理所要产生的工作量。

在本实施例的一种可选实现方式中，预估在当前时段对各路视频流进行智能处理时产生的业务处理负载，可包括以下步骤：

通过查询预设的业务处理负载统计表，预估第一智能处理芯片在当前时段对各路视频流智能处理时产生的业务处理负载；

其中，预设的业务处理负载统计表通过对预先记录的每路视频流在不同历史时段进行智能处理时产生的业务处理负载持续统计确定。

通常一开始，各路视频流会被平均分配给不同智能处理芯片。但是，由于闹市区的人流车流复杂，而郊区的人流车流稀疏等因素，智能处理芯片在分析闹市区的视频流时会产生大量的分析结果，而在分析郊区的视频流时会产生较少的分析结果。显然，在闹市区的分析工作量远大于在郊区的分析工作量。同时，一天之内不同时段的分析工作量也大不相同，上下班高峰期的分析工作量大于平时非高峰期的分析工作量。

智能处理服务器针对每路视频流（基于视频流五元组，或基于摄像机IP地址，或基于摄像机ID等）的分析结果进行持续统计。经过一段时间的统计处理，通过对预先记录的每路视频流在不同历史时段进行智能分析时产生的业务处理负载持续统计，智能处理服务器对于每个视频流会有一个基于时间、空间二维度的分析工作量统计结果，得到业务处理负载统计表。业务处理负载统计表以分析结果的产出（例如行人、车辆的属性等）为依据，在时间上以一小时（可配置）为基本粒度，一共24小时；在空间上以一路视频流为基本粒度，形成一个用于表征业务处理负载随时间变化的二维网格。其中，每个网格对应记录一路视频流在一个时段进行智能分析时产生的平均分析工作量。

S220、依据各路视频流的业务处理负载，从多路视频流中得到归属于同一组的第一视频流分组，以使得第一视频流分组中包括的至少两路视频流的业务处理负载总和对第一智能处理芯片的处理性能占用保持在预设范围内。

在获得不同时段下各路视频流的业务处理负载后，可以按照各路视频流在每个时段对应的业务处理负载，在到达每个时段之前对多路视频流进行分组组合得到每个时段的视频流分组，这样就可按照各路视频流在不同时段的业务处理负载间隔预设时间对多路视频流中归属于同一个视频流分组的视频流进行更新一次。在每次更新后，可以控制更新后的第一视频流分组中包括的至少两路视频流的业务处理负载总和（即分析工作量总和），对即将要调度汇集的第一智能处理芯片的处理性能占用比例保持在一定的范围之内，保证第一智能处理芯片会留点性能余量便于应对分析工作量突发状况。

例如，智能处理服务器每隔预设时间（可动态配置时间，比如1小时）对多路视频流中归属于同一个视频流分组的视频流进行一次更新调度汇集，将接入的多路视频流按照视频流分组集中调度到尽可能少的智能处理芯片。可选地，在按照视频流分组调度汇集时，根据统计的在当前时段下各路视频流的分析工作量，使得每个智能处理芯片对一个第一视频流分组中包括的各路视频流的分析工作量总和大于下限阈值（例如智能处理芯片处理性能的70%），而低于上限阈值（例如智能处理芯片处理性能的90%），使得智能处理芯片留点性能余量便于应对分析工作量突发。当然，允许最后一个智能处理芯片的总分析工作量低于智能处理芯片的处理性能的下限阈值。

S230、在当前时段将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理。

在本实施例的一种可选实现方式中，在当前时段将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理之后，还可包括以下步骤：

如果在当前时段进行一次视频流分组调度后，出现第一视频流分组中部分视频流的分析工作量突增，导致下一时段的第一智能处理芯片的实际分析工作量超过智能处理芯片的上限阈值，则立刻从处于睡眠状态的智能处理芯片中选取部分休眠的智能处理芯片，并唤醒部分休眠的智能处理芯片，将分析工作量突增的第一视频流分组中部分视频流调度分配给新加入的智能处理芯片进行智能处理。

S240、将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

根据本发明实施例中提供的智能业务集群调度方案，可以根据各路视频流的业务处理负载判断各路视频流在智能处理芯片中产生的分析工作量，按照分组中各路视频流造成的分析工作量总和的控制范围，提前将各路视频流按照分析工作量进行分组，将多个视频流集中调度到尽量少的芯片，这样就可以尽可能占用较少的芯片资源，充分利用芯片的智能分析资源，同时可以根据智能处理芯片是否调度汇集视频流来实现智能处理芯片进行快速唤醒以及多余芯片的预先休眠，保证智能处理芯片的高效节能。

图3是本发明实施例中提供的又一种智能业务集群调度方法的流程图。本实施例在上述实施例的基础上进行优化，本发明实施例可以与上述一个或者多个实施例中各个可选方案结合。如图3所示，本发明实施例中提供的智能业务集群调度方法，可包括以下步骤：

S310、确定在当前时段对各路视频流进行智能处理时的业务处理需求。

不同的用户对视频内容分析的需求不尽相同，有些仅是关注人，例如考勤打卡；有些仅是关注车辆，例如停车场管理，此时业务处理需求反映对视频流进行一种或多种业务类型的智能分析需求。有时在某一种业务类型下，实时关注特定车牌或特定人员，此时业务处理需求还可以反映在对视频流进行一种或多种业务类型的智能分析后对关注对象的智能识别需求。

S320、依据各路视频流的业务处理需求，从多路视频流中选出存在相同或相似的业务处理需求的至少两路视频流划分到同一组得到第一视频流分组。

其中，业务处理需求用于指示针对视频流在至少一种业务类型下进行智能分析和/或针对视频流在至少一种业务类型下进行智能分析后对至少一个关注对象进行智能识别。

在获得不同时段下各路视频流的业务处理需求后，可以按照各路视频流在每个时段对应的业务处理需求，在到达每个时段之前对多路视频流进行分组组合得到每个时段的视频流分组，这样就可按照各路视频流在不同时段的业务处理需求间隔预设时间从多路视频流中选取存在相同或相似的业务分析需求的视频流归属到同一个视频流分组下，实现视频流分组的一次更新，得到至少一个第一视频流分组。

S330、在当前时段将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过第一智能处理芯片对汇集的视频流进行智能处理。

在本实施例的一种可选实现方式中，通过第一智能处理芯片对汇集的视频流进行智能处理，可包括以下步骤A1-A2：

步骤A1、在第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息；业务文件信息包括与业务类型适配的智能分析模型以及与关注对象适配的属性特征。

步骤A2、控制第一智能处理芯片使用加载的与第一视频流分组对应业务处理需求适配的业务文件信息对汇集的视频流进行智能处理；智能处理包括智能分析与智能识别。

在业务处理需求为针对视频流进行智能分析的业务类型相同时，可将需要相同业务类型的智能分析的视频流划分到一个视频流分组。智能处理服务器通过视频流分组集中将相同或相似的业务类型的智能分析的视频流调度分配到同一颗智能处理芯片进行处理，此时该智能处理芯片只需要加载载入同一个业务类型适配的智能分析模型，减少网络模型在智能处理芯片的负载，降低智能处理芯片的能耗。例如，3个视频流仅关心车辆，可以将3个视频流分配到同一颗智能处理芯片，智能处理芯片只需要加载载入车辆分析的网络模型即可，而无需加载行人分析的网络模型，从而减少智能处理芯片的运行消耗。

在业务处理需求为针对视频流在相同业务类型下对相同的关注对象进行智能识别时，此时可以将视频流中需要在同一个业务类型下对同一种关注对象进行智能识别的视频流划分到一个视频流分组。智能处理服务器通过视频流分组集中将需要将同一个业务类型下需要对同一种关注对象智能识别的视频流调度分配到同一颗智能处理芯片进行处理，此时该智能处理芯片只需要加载与同一关注对象适配的属性特征进行智能识别比对即可，而其他芯片就不必加载与同一关注对象适配的属性特征，节省每一个芯片的缓存空间，降低比对的能耗。

例如，在刑侦布控时，需要实时关注特定车牌或特定人员。因此，需要将特定车牌号或特定人脸特征向量加载在芯片缓存中，便于实时比对以及快速识别，实施预警。当需要关注的信息比较多时，芯片缓存会放不下，因此，一个合理的方式是将特定车牌或特定人员相关的视频流集中于某一个或某几个芯片，仅需这些智能处理芯片缓存加载该特定车牌或特定人员的属性或特征，而其他的智能处理芯片就不必加载这些特定车牌或特定人员，从而节省每一个智能处理芯片的缓存空间，降低比对的能耗。

在本实施例的一种可选方式中在第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息之后，还可包括步骤B1-B2：

步骤B1、若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象智能识别，则将与第二关注对象所适配的属性特征加载到第一智能处理芯片。

步骤B2、控制第一智能处理芯片使用加载的与第二关注对象适配的属性特征对该部分视频流进行智能分析与智能识别。

若第一视频流分组的部分视频流在第一智能处理芯片进行智能分析对应的业务类型与同时被划分到第二视频流分组并在第二智能处理芯片进行智能分析时对应的业务类型相同，但相同业务类型下分别对应第一关注对象与第二关注对象，则将与第二关注对象适配的属性特征加载到第一智能处理芯片。

虽然可以将关注对象A、B、C的特征向量或属性信息加载到了第一智能处理芯片，而将关注对象D、E、F的特征向量或属性信息加载到了第二智能处理芯片。但，管理模块发现第一视频流分组中某个视频流S的智能分析结果同时存在关注对象A和关注对象D。

管理模块先判断第一智能处理芯片和第二智能处理芯片的处理性能消耗是否超过阈值上限，若第一智能处理芯片未超过分析工作量阈值上限，则将与在第二智能处理芯片进行相同业务类型的智能分析后的第二关注对象所适配的属性特征加载到第一智能处理芯片，这样在第一智能处理芯片上可以同时进行关注对象A与关注对象B的智能识别，同时将视频流S也调度到第一智能处理芯片。当第一智能处理芯片发现视频流S出现关注对象A时，表示比对成功，则由自己负责发送预警消息预警中台；而第一智能处理芯片发现视频流S出现关注对象D，比对成功，则通知第二智能处理芯片负责发送预警消息给管理中台。

若第一智能处理芯片超过分析工作量阈值上限，则将关注对象A的属性信息或特征向量复制到第二智能处理芯片，将视频流S也调度到第二智能处理芯片。当第二智能处理芯片发现视频流S出现关注对象A时，表示比对成功，则通知第一智能处理芯片负责发送预警消息给管理中台；而第二智能处理芯片发现视频流S出现关注对象D，比对成功，则依旧由自己负责发送预警消息。

在本实施例的一种可选方式中，在第一智能处理芯片中加载与第一视频流分组对应第一业务处理需求适配的业务文件信息之后，还可包括步骤C1-C2：

步骤C1、若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象智能识别，则将第一智能处理芯片在同一业务类型的智能分析结果发送给第二智能处理芯片。

步骤C1、控制第二智能处理芯片使用接收的智能分析结果，通过加载与第二关注对象适配的属性特征对该部分视频流进行智能识别。

若第一视频流分组的部分视频流在第一智能处理芯片进行智能分析对应的业务类型与同时划分到第二视频流分组在第二智能处理芯片进行智能分析时对应的业务类型相同，但相同业务类型下的关注对象不同，则将第一智能处理芯片在相同业务类型进行智能分析的分析结果发送给第二智能处理芯片，实现相同业务类型下智能分析结果在不同智能处理芯片的共享复用。

不用调动视频流S，如果视频流S原先由第一智能处理芯片负责进行智能分析，而管理模块发现视频流S的分析结果中也存在第二智能处理芯片负责比对和预警的关注对象D，则管理模块通知第一智能处理芯片将智能分析结果实时发送给第二智能处理芯片，由第二智能处理芯片将智能分析结果与关注对象D的属性信息或特征向量进行比对，若发现与关注对象D比对成功的数据，则第二智能处理芯片负责向预警中台发送预警消息。

采用上述可选方案，即便两颗智能处理芯片需要比对的特定的关注对象不同，考虑到需要实时比对和预警，此时采用以下两种方案：对特定的关注对象的属性信息或特征向量进行虚拟合并，以及实现智能处理芯片之间的智能分析结果的流式串联使用，可以使得不同智能处理芯片在进行智能分析时不必重复分析相同的视频流，以及避免复杂的视频流调度。

S340、将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

在上述实施例的基础上，可选地，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之前，还可包括以下步骤：

若第一视频流分组中存在部分视频流的业务处理需求指示期望同时进行第一业务类型与第二业务类型的智能分析，则将该部分视频流进行复制并将复制的视频流划分到第二视频流分组，以将该部分视频流分别汇集到第一智能处理芯片与第二智能处理芯片分别进行第一业务类型与第二业务类型的智能分析。

可以指定摄像机仅分析某个特定业务类型，例如摄像机A、B、C仅分析人脸，摄像机D、E、F仅分析车辆。在确定业务类型进行智能分析时，将摄像机A、B、C的视频流分配到智能处理芯片甲，而将摄像机D、E、F的视频流分配到智能处理芯片乙，剩下的摄像机G、H、I则两者均需分析（既需要分析人脸又需要分析车辆），则智能处理芯片甲仅加载人脸分析的网络模型，而智能处理芯片乙仅加载车辆分析的网络模型。摄像机G、H、I的视频流进入网口后，智能处理服务器将其复制成两份视频流，分别调度分配到智能处理芯片甲和智能处理芯片乙中，由智能处理芯片甲和智能处理芯片乙分别分析视频流中的人脸业务和车辆业务，同时将智能分析的结果分别打上时间戳，便于保存结果的数据库根据时间戳合并相关结果。

在上述实施例的基础上，可选地，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之后，还可包括以下步骤D1-D2：

步骤D1、若在归属于第二视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则将该部分视频流调度汇集到第一智能处理芯片或唤醒启用的新的智能处理芯片。

步骤D2、若预设时长内未在第一视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则暂停向第一智能处理芯片调度汇集该部分视频流。

由于特定的关注对象（例如特定人员或特定车辆）经常出现在部分区域，所以只有部分区域的视频流中包含这些关注对象。可以实时对这部分区域视频流的关注对象的分析结果，将分析结果包括特定的关注对象（例如特定人员或特定车辆）的多个视频流调度到一个智能处理芯片，并将这些特定车牌或特定人员的特征向量和信息仅保留在这个智能处理芯片，而从其他智能处理芯片的缓存中删除这些特定车牌或特定人员的特征向量和信息。

可选地，每隔一段时间（例如1小时），查看比对归属于第二视频流分组视频流的历史分析结果，若发现归属于第二视频流分组视频流有第一视频流分组对应业务处理需求指示的关注对象的存在，则将该部分视频流也分配到第一智能处理芯片；如果第一智能处理芯片的分析工作量超标，则再启用新的智能处理芯片，将这些第一视频流分组对应业务处理需求指示的关注对象的特征向量和信息也加载到启用的新的智能处理芯片的缓存中，将部分视频流分配到启用的新的智能处理芯片。

可选地，每隔一段时间（例如1小时），查看第一视频流分组汇集的各路视频流的智能分析结果，如果第一视频流分组中存在部分视频流长时间（例如一周）未出现第一视频流分组对应业务处理需求指示的关注对象，则暂停向第一智能处理芯片调度汇集该部分视频流，将这些视频流向其他智能处理芯片调度。需要强调的是，所有智能处理芯片都在进行智能分析，加载特定的关注对象的信息或特征向量，仅仅增加了智能识别比对的工作量。

根据本发明实施例中提供的智能业务集群调度方案，可以根据业务相关性，将多个相关的视频流汇集到同一个芯片，从而降低特定的关注对象的信息和特征的加载和比对工作量；同时周期性的检测第二视频流分组内各路视频流的分析结果，动态调整汇集的视频流，这样就可以尽可能占用较少的芯片资源，充分利用芯片的智能分析资源，同时可以根据智能处理芯片是否调度汇集视频流来实现智能处理芯片进行快速唤醒以及多余芯片的预先休眠，保证智能处理芯片的高效节能。以及，根据分析内容的结果判断工作量，根据工作负载自学习的结果提前将多个视频流集中调度到尽量少的芯片进行分析，关闭其余处理芯片，降低能耗。同时，对于出现同时存在两个芯片所关注的特定的关注对象时，实施虚拟合并或流式串联。

图4是本发明实施例中提供的一种智能业务集群调度装置的结构框图。本实施例可适用于对智能处理芯片进行节能调度处理的情况，尤其是对支持芯片级集群的智能处理服务器进行节能调度处理的情形。该装置可以采用软件和/或硬件的方式实现，并可集成在任何具有网络通信功能的电子设备上。如图4所示，本发明实施例中提供的智能业务集群调度装置，可包括以下：视频分配模块410、调度汇集模块420以及节能控制模块430。其中：

视频分配模块410，用于按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

调度汇集模块420，用于将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

节能控制模块430，用于将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

在上述实施例的基础上，可选地，按业务属性信息从多路视频流中得到第一视频流分组，包括：

预估在当前时段对各路视频流进行智能处理时产生的业务处理负载；所述业务处理负载用于表征智能处理所要产生的工作量；

依据各路视频流的业务处理负载，从多路视频流中得到归属于同一组的第一视频流分组，以使得第一视频流分组中包括的至少两路视频流的业务处理负载总和对第一智能处理芯片的处理性能占用保持在预设范围内。

在上述实施例的基础上，可选地，预估在当前时段对各路视频流智能处理时产生的业务处理负载，包括：

通过查询预设的业务处理负载统计表，预估第一智能处理芯片在当前时段对各路视频流智能处理时产生的业务处理负载；

其中，预设的业务处理负载统计表通过对预先记录的每路视频流在不同历史时段进行智能处理时产生的业务处理负载持续统计确定。

在上述实施例的基础上，可选地，按业务属性信息从多路视频流中得到第一视频流分组，包括：

确定在当前时段对各路视频流进行智能处理时的业务处理需求；

依据各路视频流的业务处理需求，从多路视频流中选出存在相同或相似的业务处理需求的至少两路视频流划分到同一组得到第一视频流分组；

其中，所述业务处理需求用于指示针对视频流在至少一种业务类型下进行智能分析和/或针对视频流在至少一种业务类型下进行智能分析后对至少一个关注对象进行智能识别。

在上述实施例的基础上，可选地，通过第一智能处理芯片对汇集的视频流进行智能处理，包括：

在所述第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息；所述业务文件信息包括与业务类型适配的智能分析模型以及与关注对象适配的属性特征；

控制第一智能处理芯片使用加载的与第一视频流分组对应业务处理需求适配的业务文件信息对汇集的视频流进行智能处理；所述智能处理包括智能分析与智能识别。

在上述实施例的基础上，可选地，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之前，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示期望同时进行第一业务类型与第二业务类型的智能分析，则将该部分视频流进行复制并将复制的视频流划分到第二视频流分组，以将该部分视频流分别汇集到第一智能处理芯片与第二智能处理芯片分别进行第一业务类型与第二业务类型的智能分析。

在上述实施例的基础上，可选地，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之后，还包括：

若在归属于第二视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则将该部分视频流调度汇集到第一智能处理芯片或唤醒启用的新的智能处理芯片；

若预设时长内未在第一视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则暂停向第一智能处理芯片调度汇集该部分视频流。

在上述实施例的基础上，可选地，在第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息之后，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象进行智能识别，则将与第二关注对象所适配的属性特征加载到第一智能处理芯片；

控制第一智能处理芯片使用加载的与第二关注对象适配的属性特征对该部分视频流进行智能分析与智能识别。

在上述实施例的基础上，可选地，在第一智能处理芯片中加载与第一视频流分组对应第一业务处理需求适配的业务文件信息之后，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象进行智能识别，则将第一智能处理芯片在同一业务类型的智能分析结果发送给第二智能处理芯片；

控制第二智能处理芯片使用接收的智能分析结果，通过加载与第二关注对象适配的属性特征对该部分视频流进行智能识别。

本发明实施例中所提供的智能业务集群调度装置可执行上述本发明任意实施例中所提供的智能业务集群调度方法，具备执行该智能业务集群调度方法相应的功能和有益效果，未在上述实施例中详尽描述的技术细节，可参见本申请任意实施例中所提供的智能业务集群调度方法。

图5是本发明实施例中提供的一种电子设备的结构示意图。如图5所示结构，本发明实施例中提供的电子设备包括：一个或多个处理器510和存储装置520；该电子设备中的处理器510可以是一个或多个，图5中以一个处理器510为例；存储装置520用于存储一个或多个程序；所述一个或多个程序被所述一个或多个处理器510执行，使得所述一个或多个处理器510实现如本发明实施例中任一项所述的智能业务集群调度方法。

该电子设备还可以包括：输入装置530和输出装置540。

该电子设备中的处理器510、存储装置520、输入装置530和输出装置540可以通过总线或其他方式连接，图5中以通过总线连接为例。

该电子设备中的存储装置520作为一种计算机可读存储介质，可用于存储一个或多个程序，所述程序可以是软件程序、计算机可执行程序以及模块，如本发明实施例中所提供的智能业务集群调度方法对应的程序指令/模块。处理器510通过运行存储在存储装置520中的软件程序、指令以及模块，从而执行电子设备的各种功能应用以及数据处理，即实现上述方法实施例中智能业务集群调度方法。

存储装置520可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据电子设备的使用所创建的数据等。此外，存储装置520可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储装置520可进一步包括相对于处理器510远程设置的存储器，这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置530可用于接收输入的数字或字符信息，以及产生与电子设备的用户设置以及功能控制有关的键信号输入。输出装置540可包括显示屏等显示设备。

并且，当上述电子设备所包括一个或者多个程序被所述一个或者多个处理器510执行时，程序进行如下操作：

按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

当然，本领域技术人员可以理解，当上述电子设备所包括一个或者多个程序被所述一个或者多个处理器510执行时，程序还可以进行本发明任意实施例中所提供的智能业务集群调度方法中的相关操作。

本发明实施例中提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时用于执行智能业务集群调度方法，该方法包括：

按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

可选的，该程序被处理器执行时还可以用于执行本发明任意实施例中所提供的智能业务集群调度方法。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器（Random AccessMemory，RAM）、只读存储器（Read Only Memory，ROM）、可擦式可编程只读存储器（ErasableProgrammable Read Only Memory，EPROM）、闪存、光纤、便携式CD-ROM、光存储器件、磁存储器件、或者上述的任意合适的组合。计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于：电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、无线电频率（RadioFrequency，RF）等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、 “示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (11)

1.一种智能业务集群调度方法，其特征在于，所述方法包括：

按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

2.根据权利要求1所述的方法，其特征在于，按业务属性信息从多路视频流中得到第一视频流分组，包括：

预估在当前时段对各路视频流进行智能处理时产生的业务处理负载；所述业务处理负载用于表征智能处理所要产生的工作量；

依据各路视频流的业务处理负载，从多路视频流中得到归属于同一组的第一视频流分组，以使得第一视频流分组中包括的至少两路视频流的业务处理负载总和对第一智能处理芯片的处理性能占用保持在预设范围内。

3.根据权利要求1所述的方法，其特征在于，按业务属性信息从多路视频流中得到第一视频流分组，包括：

确定在当前时段对各路视频流进行智能处理时的业务处理需求；

依据各路视频流的业务处理需求，从多路视频流中选出存在相同或相似的业务处理需求的至少两路视频流划分到同一组得到第一视频流分组；

其中，所述业务处理需求用于指示针对视频流在至少一种业务类型下进行智能分析和/或针对视频流在至少一种业务类型下进行智能分析后对至少一个关注对象进行智能识别。

4.根据权利要求3所述的方法，其特征在于，通过第一智能处理芯片对汇集的视频流进行智能处理，包括：

在所述第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息；所述业务文件信息包括与业务类型适配的智能分析模型以及与关注对象适配的属性特征；

控制第一智能处理芯片使用加载的与第一视频流分组对应业务处理需求适配的业务文件信息对汇集的视频流进行智能处理；所述智能处理包括智能分析与智能识别。

5.根据权利要求3所述的方法，其特征在于，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之前，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示期望同时进行第一业务类型与第二业务类型的智能分析，则将该部分视频流进行复制并将复制的视频流划分到第二视频流分组，以将该部分视频流分别汇集到第一智能处理芯片与第二智能处理芯片分别进行第一业务类型与第二业务类型的智能分析。

6.根据权利要求3所述的方法，其特征在于，在将第一视频流分组的各路视频流调度汇集到第一智能处理芯片之后，还包括：

若在归属于第二视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则将该部分视频流调度汇集到第一智能处理芯片或唤醒启用的新的智能处理芯片；

若预设时长内未在第一视频流分组的部分视频流中检测到第一视频流分组对应业务处理需求指示的关注对象，则暂停向第一智能处理芯片调度汇集该部分视频流。

7.根据权利要求4所述的方法，其特征在于，在第一智能处理芯片中加载与第一视频流分组对应业务处理需求适配的业务文件信息之后，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象进行智能识别，则将与第二关注对象所适配的属性特征加载到第一智能处理芯片；

控制第一智能处理芯片使用加载的与第二关注对象适配的属性特征对该部分视频流进行智能分析与智能识别。

8.根据权利要求4所述的方法，其特征在于，在第一智能处理芯片中加载与第一视频流分组对应第一业务处理需求适配的业务文件信息之后，还包括：

若第一视频流分组中存在部分视频流的业务处理需求指示进行相同业务类型的智能分析且同时对第一关注对象与第二关注对象进行智能识别，则将第一智能处理芯片在同一业务类型的智能分析结果发送给第二智能处理芯片；

控制第二智能处理芯片使用接收的智能分析结果，通过加载与第二关注对象适配的属性特征对该部分视频流进行智能识别。

9.一种智能业务集群调度装置，其特征在于，所述装置包括：

视频分配模块，用于按业务属性信息从多路视频流中得到第一视频流分组；其中所述业务属性信息包括业务处理负载与业务处理需求；第一视频流分组包括至少两路视频流；

调度汇集模块，用于将第一视频流分组的各路视频流调度汇集到第一智能处理芯片，并通过所述第一智能处理芯片对汇集的视频流进行智能处理；

节能控制模块，用于将未调度汇集视频流的剩余智能处理芯片配置为休眠模式。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现权利要求1-8中任一所述的智能业务集群调度方法。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1-8中任一所述的智能业务集群调度方法。

Images