CN106685857A - 一种智能业务的分配方法以及后端设备 - Google Patents
一种智能业务的分配方法以及后端设备 Download PDFInfo
- Publication number
- CN106685857A CN106685857A CN201611139931.5A CN201611139931A CN106685857A CN 106685857 A CN106685857 A CN 106685857A CN 201611139931 A CN201611139931 A CN 201611139931A CN 106685857 A CN106685857 A CN 106685857A
- Authority
- CN
- China
- Prior art keywords
- utilization rate
- resource utilization
- interval
- rear end
- equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/70—Admission control; Resource allocation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/2866—Architectures; Arrangements
- H04L67/30—Profiles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Multimedia (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请公开了一种智能业务的分配方法,首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
Description
技术领域
本发明涉及通信技术领域,特别涉及一种智能业务的分配方法,同时本申请还特别涉及一种后端设备。
背景技术
目前视频监控逐步迈入高清化,智能化。智能监控已应用于众多领域,如智能交通,智慧园区、平安城市等。随着计算机图像识别的发展,人们对视频智能算法的需求日渐强烈。常见的智能算法,比如运动检测、禁区入侵、绊线告警、人数统计、车牌识别、行人识别、人脸检测和识别等技术,正逐渐的应用到各个场景,如园区出入口、关键区域、广场、地铁、人行道、城市及高速公路等。
视频智能算法的准确性依赖于监控视频图像的质量。面对实际环境,为了提高智能分析算法准确率,减低误判率,利于更广泛的实际应用,需要对视频做预处理分析,并增加更复杂的去除干扰算法。然而增加这些额外的分析算法,也必然耗费更多系统的计算资源,系统处理的视频路数性能也会大为减低,需要选择计算芯片的要求更高。
现有的智能业务处理方案主要有以下两种:
(1)后端设备方案:后端服务器通过对接入的监控视频,图片进行目标检测,跟踪,分析,识别,输出目标识别分析结果。
(2)前端设备方案:随着前端设备芯片性能的提升,前端设备也具备了部署简单算法的能力,具备了一定的智能分析能力。因而,目前也有采用前端设备来对智能业务进行处理方案。
发明人在实现本申请的过程中,发现现有技术中的智能业务处理方案至少存在以下的问题:
(1)对于后端设备方案:后端设备接收到的视频图像在压缩和传输过程中存在失真的情况,会影响智能分析的准确性。并且,后端设备方案无法充分的利用前端设备的计算资源(前端设备只是简单地将视频图像发送给后端设备)。
(2)对于前端设备方案:前端芯片的性能和资源和后端服务器相比,仍然相对较低,功能也不够丰富,难以满足精准分析的需求。并且,前端设备方案无法充分的利用后端设备强大的计算资源。
可见,如何结合使用前端设备和后端设备的资源,来对智能业务进行处理,进而充分利用前端设备和后端设备的资源,成为本领域技术人员亟待解决的技术问题。
发明内容
本申请提出一种智能业务的分配方法,用以解决如何结合使用前端设备和后端设备的资源,来对智能业务进行处理,进而充分利用前端设备和后端设备的资源。本申请的方法应用于包含前端设备以及后端设备的监控系统中,所述智能业务包含多个子业务,所述方法至少包括:
根据所述前端设备的资源配置信息获取所述智能业务的第一特征子业务,并将所述第一特征子业务分配给所述前端设备处理,所述第一特征子业务能被所述前端设备处理;
将所述智能业务的第二特征子业务分配给所述后端设备处理,所述第二特征子业务不能被所述前端设备处理;
判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间;
若判断结果为所述第一资源利用率处于所述第一区间,且所述第二资源利用率处于所述第二区间,则保持所述智能业务的分配方案不变。
优选地,所述判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间,具体包括:
分别监控所述前端设备以及所述后端设备的资源使用情况,并根据监控结果获取所述第一资源利用率以及所述第二资源利用率;
判断所述第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,所述第一阈值小于所述第二阈值;
若判断结果为所述第一资源利用率大于所述第一阈值,且小于所述第二阈值,则确认所述第一资源利用率处于所述第一区间,否则,确认所述第一资源利用率不处于所述第一区间;
判断所述第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,所述第三阈值小于所述第四阈值;
若判断结果为所述第二资源利用率大于所述第三阈值,且小于所述第四阈值,则确认所述第二资源利用率处于所述第二区间,否则,确认所述第二资源利用率不处于所述第二区间。
优选地,所述方法还包括:
若判断结果为所述第一资源利用率不处于所述第一区间,和/或所述第二资源利用率不处于所述第二区间,则调整所述智能业务的分配方案。
优选地,所述调整所述业务分配方案,具体包括:
若所述第一资源利用率不处于所述第一区间,则获取所述前端设备的第一剩余资源,并根据所述第一剩余资源调整分配给所述前端设备的业务量,以使所述第一资源利用率处于所述第一区间;
若所述第二资源利用率不处于所述第二区间,则获取所述后端设备的第二剩余资源,并根据所述第二剩余资源调整分配给所述后端设备的业务量,以使所述第二资源利用率处于所述第二区间。
优选地,所述方法还包括:
通过预设的评分模型对所述智能业务的分配方案进行评价,并储存所述分配方案的评价结果。
相应的,本申请提出了一种后端设备,应用于包含前端设备以及所述后端设备的监控系统中,智能业务包含多个子业务,所述后端设备至少包括:
第一分配模块,根据所述前端设备的资源配置信息获取所述智能业务的第一特征子业务,并将所述第一特征子业务分配给所述前端设备处理,所述第一特征子业务能被所述前端设备处理;
第二分配模块,将所述智能业务的第二特征子业务分配给所述后端设备处理,所述第二特征子业务不能被所述前端设备处理;
判断模块,判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间;
保持模块,在判断结果为所述第一资源利用率处于所述第一区间,且所述第二资源利用率处于所述第二区间时,保持所述智能业务的分配方案不变。
优选地,所述判断模块具体用于:
分别监控所述前端设备以及所述后端设备的资源使用情况,并根据监控结果获取所述第一资源利用率以及所述第二资源利用率;
判断所述第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,所述第一阈值小于所述第二阈值;
在判断结果为所述第一资源利用率大于所述第一阈值,且小于所述第二阈值时,确认所述第一资源利用率处于所述第一区间,否则,确认所述第一资源利用率不处于所述第一区间;
判断所述第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,所述第三阈值小于所述第四阈值;
在判断结果为所述第二资源利用率大于所述第三阈值,且小于所述第四阈值时,确认所述第二资源利用率处于所述第二区间,否则,确认所述第二资源利用率不处于所述第二区间。
优选地,所述后端设备还包括:
调整模块,在判断结果为所述第一资源利用率不处于所述第一区间,和/或所述第二资源利用率不处于所述第二区间时,调整所述智能业务的分配方案。
优选地,所述调整模块具体用于:
在所述第一资源利用率不处于所述第一区间时,获取所述前端设备的第一剩余资源,并根据所述第一剩余资源调整分配给所述前端设备的业务量,以使所述第一资源利用率处于所述第一区间;
在所述第二资源利用率不处于所述第二区间时,获取所述后端设备的第二剩余资源,并根据所述第二剩余资源调整分配给所述后端设备的业务量,以使所述第二资源利用率处于所述第二区间。
优选地,所述后端设备还包括:
评分模块,通过预设的评分模型对所述智能业务的分配方案进行评价,并储存所述分配方案的评价结果。
通过应用本申请的技术方案,首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
附图说明
为了更清楚地说明本申请的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通的技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提出的一种智能业务的分配方法的流程示意图;
图2为本申请具体实施例提出的一种智能业务的分配方法的流程示意图;
图3为本申请具体实施例提出的一种前端设备和后端设备的的系统结构图;
图4为本申请实施例提出的一种后端设备的结构示意图。
具体实施方式
如背景技术所述,现有的智能业务处理方案主要有后端设备方案和前端设备方案。对于后端设备方案,后端设备接收前端设备发送的视频图像,并对接收到的视频图像进行智能业务处理。后端没有有效的利用到前端设备剩余的计算资源,造成了前端设备资源的浪费。对于前端设备方案,前端设备对指定的场景进行监控,并且对自身的监控视频进行智能业务处理。前端设备没有有效的利用到后端设备强大的分析处理资源,因而造成了对后端设备资源的浪费。因而,急需提供一种能够同时利用前端设备以及后端设备的资源来对智能业务进行处理的方案。
因此,本申请提出了一种智能业务的分配方法,用以结合使用前端设备和后端设备的资源,来对智能业务进行处理,进而充分利用前端设备和后端设备的资源。首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
如图1所示为本申请提出的一种智能业务的分配方法的流程示意图,需要说明的是,本申请应用于包含前端设备以及后端设备的监控系统中。本申请中涉及到的前端设备包括如IPC(监控摄像机)等监控设备,此类设备有简单的处理芯片,具备一定的业务处理能力;本申请中涉及的后端设备是指部署在后端的服务器,此类设备具有强大的处理芯片,业务处理能力强。前端设备与后端设备处于同一监控系统中,二者之间能够进行传输数据。智能业务包含多个子业务,其中,包括能被前端设备处理的第一特征子业务,以及不能被前端设备处理的第二特征子业务。例如,在智能业务为智能目标跟踪识别业务时,其子业务包括:运动目标检测、目标跟踪、目标分类识别以及目标特征细化。限于前端设备目前芯片的发展,前端设备能够处理的子业务(第一特征子业务)为运动目标检测和目标跟踪;前端设备不能够处理的子业务(第二特征子业务)为目标分类识别以及目标特征细化。具体的,本申请包括以下的步骤:
S101,根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理。
其中,第一特征子业务能被前端设备处理。
本申请旨在将智能业务中的多个子业务分别向前端设备以及后端设备分配,从而使得在处理智能业务的过程中,能够充分的利用到前端设备以及后端设备的资源,进而提高监控系统整体的资源利用率。
在对智能业务进行分解之前,首先需要确定智能业务的分配方案。分配方案是根据前端设备以及后端设备的资源配置情况(处理能力)确定的。受限于处理芯片的处理能力,前端设备并不能够处理智能业务的全部子业务,因此,在本申请的实施例中首先根据前端设备的资源配置信息获取智能业务中能够被前端设备处理的第一特征子业务,并将获取到的第一特征子业务分配给前端设备处理。
前端设备的资源配置信息是指影响前端设备图像分析处理算法性能的相关因素,具体包括有ARM(Advanced RISC Machines)、FPGA(Field-Programmable Gate Array)、DSP(Digital Signal Processing),硬件智能算子,图像传感处理单元,ISP(InternetService Provider)处理单元的主频,数据吞吐带宽,内存吞吐带宽,网络带宽等单元处理能力及数据吞吐带宽等。
在获取了上述影响前端设备图像分析处理算法性能的相关因素之后,进一步评价前端设备的处理能力,然后再根据前端设备的处理能力确定智能业务中的第一特征子业务,最后再将第一特征子业务分配给前端设备处理。
需要说明的是,在本申请中,在对前后端设备的智能业务分配过程中,不是平均的将智能业务分配给前端设备和后端设备处理,而是首先将智能业务中所有的第一特征子业务分配给前端设备处理,以尽可能的让前端设备分担更加多的业务量,从而充分的利用前端设备的处理资源,进而降低后端设备的业务处理量,减少后端设备的数量,降低用户的部署成本。
S102,将智能业务的第二特征子业务分配给后端设备处理。
其中,第二特征子业务不能被前端设备处理。
在完成了对前端设备的业务分配之后,在本申请的实施例中,将智能业务中剩余的第二特征子业务分配给后端设备处理。
如上所述,在智能业务中,存在前端无法处理的第二特征子业务。此时,利用后端设备强大的处理能力来对前端设备无法处理的第二特征子业务进行处理,从而通过前端设备和后端设备的配合,完成了对智能业务的处理过程。
需要说明的是,在本申请中,在对后端设备的智能业务分配过程中,不是平均的将智能业务分配给后端设备和前端设备处理。后端设备只是对前端设备的处理进行补充,负责处理智能业务中前端设备无法处理的第二特征子业务。就整体而言,智能业务大部分是由前端设备进行处理,,从而充分的利用前端设备的处理资源,进而降低后端设备的业务处理量,减少后端设备的数量,降低用户的部署成本。
S103,判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间。
在将第一特征子业务分配给前端设备处理,第二特征子业务分配给后端设备处理之后,还需要对前端设备以及后端设备的资源使用情况进行监控,并根据监控的结果来对智能业务的分配方案进行调整。如果前端设备的资源利用率低,产生资源使用率不足告警,提示调整资源分配方案,提高资源利用率。如果前端设备或后端设备的负荷过高,产生负荷过高告警,提醒调整资源分配方案,释放资源。
因此,在本申请的实施例中,在完成了对前端设备以及后端设备的资源分配之后,判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间。
第一区间以及第二区间均可以通过经验值进行设定,本步骤的目的在于判断前端设备以及后端设备是否处于合理的资源使用状态。如果资源利用率过高,不利于设备的正常使用;如果资源利用率过低,则造成了设备资源的浪费。
在本申请的优选实施例中,上述步骤S102,可以具体的由以下的方案来实现,具体的,包括以下的步骤:
(1)分别监控前端设备以及后端设备的资源使用情况,并根据监控结果获取第一资源利用率以及第二资源利用率。
分别对前端设备以及后端设备的资源使用情况进行监控,并根据监控结果获取第一资源利用率以及第二资源利用率。
(2)判断前端设备的第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,其中,第一阈值小于第二阈值。
在获取了前端设备的第一资源利用率之后,判断判断第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值。其中,第一阈值为第一区间的左端点,第二阈值为第二区间的右端点。
(3)若判断结果为前端设备的第一资源利用率大于第一阈值,且小于第二阈值,则确认前端设备的第一资源利用率处于第一区间,否则,确认前端设备的第一资源利用率不处于第一区间。
(4)判断后端设备的第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,第三阈值小于第四阈值。
(5)若判断结果为后端设备的第二资源利用率大于第三阈值,且小于第四阈值,则确认后端设备的第二资源利用率处于第二区间,否则,确认后端设备的第二资源利用率不处于第二区间。
S104,如果判断结果为前端设备的第一资源利用率处于第一区间,且后端设备的第二资源利用率处于第二区间,则保持智能业务的分配方案不变。
在本申请的实施例中,如果判断得到前端设备的第一资源利用率处于第一区间,且后端设备的第二资源利用率处于第二区间,则说明无论是前端设备还是后端设备均处于一个合理的资源使用状态。因此,此时不需要对智能业务的分配方案进行更改。
在本申请的优选实施例中,如果判断结果为前端设备的第一资源利用率不处于第一区间,和/或后端设备的第二资源利用率不处于第二区间,则调整智能业务的分配方案。
如果判断得到前端设备的第一资源利用率不处于第一区间,和/或后端设备的第二资源利用率不处于第二区间,则说明在前端设备和后端设备至少有一个处于非合理的资源使用状态。因此,此时需要对智能业务的分配方案进行更改,以使得前端设备和后端设备均处于合理的资源使用状态。
在本申请的优选实施例中,上述提出的调整业务分配方案可以通过以下的方案来实现,具体的该方案包括以下的步骤:
(1)如果前端设备的第一资源利用率不处于第一区间,则获取前端设备的第一剩余资源,并根据第一剩余资源调整分配给前端设备的业务量,以使前端设备的第一资源利用率处于第一区间。
具体的,如果前端设备的第一资源利用率太高,前端设备的第一剩余资源较少,则减少分配给前端设备的业务,以降低前端设备的资源占用。
如果前端设备的第一资源利用率太低,前端设备的第一剩余资源较多,则增加分配给前端设备的业务,以增加前端设备的资源占用。
(2)如果后端设备的第二资源利用率不处于第二区间,则获取后端设备的第二剩余资源,并根据后端设备的第二剩余资源调整分配给所述后端设备的业务量,以使后端设备的第二资源利用率处于第二区间。
具体的,如果后端设备的第二资源利用率太高,后端设备的第二剩余资源较少,则减少分配给后端设备的业务,以降低后端设备的资源占用。
如果后端设备的第二资源利用率太低,后端设备的第二剩余资源较多,则增加分配给后端设备的业务,以增加后端设备的资源占用。
在本申请的优选实施例中,在完成了智能业务的分配过程之后,还需要通过预设的评分模型对智能业务的分配方案进行评价,并储存分配方案的评价结果。
通过评分模型对智能业务的分配方案进行评价,并储存分配方案的评价结果。在后续再次对智能业务进行分配时,可以参考各分配方案的评价结果,获取更为合理的分配方式。
由以上实施例的描述可知,通过应用本申请的技术方案,首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
为了进一步阐述本发明的技术思想,现结合具体的实施例,对本发明的技术方案进行说明。
如图2所示为本申请具体实施例提出的一种智能业务的分配方法的流程示意图,由图可知,包括以下的步骤:
S201,系统初始化,前端、后端设备启动。
S202,获取前端计算能力与资源信息。
首先构建前端芯片图像分析处理计算能力的评价模型。依照评价模型,影响图像分析处理算法性能主要相关因素包括ARM、FPGA、DSP,硬件智能算子,图像传感处理单元,ISP处理单元的主频,数据吞吐带宽,内存吞吐带宽,网络带宽等单元处理能力及数据吞吐带宽等。通过以上的数据对前端芯片的计算能力与资源信息进行评价。
S203,获取后端服务器计算能力与资源信息。
构建后端芯片的视频分析处理计算能力评价模型。依照评价模型,影响视频分析处理算法性能相关的因素包括CPU,GPU主频,处理核心数,数据吞吐带宽,内存吞吐带宽,网络带宽等单元处理能力及数据吞吐带宽等。通过以上的数据对后端芯片的计算能力与资源信息进行评价。
S204,设定前端设备以及后端设备的智能业务功能。
S205,依据系统选定的智能业务功能,把功能依据经验分解法则划分算法模块,并建立各算法模块性能需求评价模型。
举例而言,智能目标跟踪识别业务功能分解为运动目标检测,目标跟踪,目标分类识别,目标特征细化等算法模块。同时,分别统计各算法模块的资源需求,例如CPU消耗时间,内存占用容量,存储数据吞吐带宽,网络带宽等等,CPU,内存,存储都有不同的类型,分别获取测算数据。
S206,依据算法模块划分,确定资源分配方案。
方案的确定所要考虑的因素主要包括,数据先后处理的流程的规则,适合前端并发处理的规则,适合后端集群并行处理的规则。
具体的,依据算法模块的资源需求,系统各前端、后端设备的实际计算资源情况,分配方案的经验数据库,选择一种算法模块的在整系统的分配方案。
S207,依据选择的模块分配方案,算法模块在前、后端启动运行。
同时,实时监测计算芯片的CPU、内存等运行资源占用情况,计算综合评分数据。实际运行采样数据汇总并更新到决策经验数据库。
S208,判断设备(包括前端设备和后端设备)的资源利用率θ是否大于预设的阈值θ1。若判断结果为是,转到S209,否则转到S210。
θ1为资源利用率下限,如果计算的资源利用率θ<θ1,则说明资源利用不足。
S209,判断设备(包括前端设备和后端设备)的资源利用率θ是否大于预设的阈值θ2。若判断结果为是,转到S213,否则转到S210。
θ2为资源利用率下限,如果θ>θ2则说明处理单元的负荷过高,资源有计算瓶颈,系统有稳定性风险。
S210,获取前端、后端设备的剩余资源数据。
具体的,需要细化芯片监测数据的采样,包括CPU剩余核心数,内存带宽,内存空间,网络带宽,存储空间等数据。
S211,对资源占用情况反馈决策调整处理。
如果资源利用率低,产生资源使用率不足告警,提示调整资源分配方案,提高资源利用率。如果处理单元负荷过高,产生负荷过高告警,提醒调整资源分配方案,释放资源。依据算法模块的需求与硬件资源情况建立评估分配模型,调整最优算法适配方案。
S212,把当前智能分解的算法模块运行数据收集到模块分解经验数据库,作为后续智能功能模块划分决策参考数据。
S213,获取算法模块划分方案的运行状态监测数据。
S214,建立资源使用效果评分模型。
基于上述获取的运行状态监测数据,建立资源使用效果评分模型。并对本次前端设备和后端设备的资源使用情况进行评分。
S215,将算法模块的实际测评评分数据更新到算法模块划分数据库中。
同时本申请还提出了一种芯片处理单元的数据静态统计模型,以及根据时间、空间变化动态采样收集各维度数据信息。
如图3所示,为本申请前端设备和后端设备的系统结构图。基于此,本申请提出一种资源评价模型,由图3可知:
对于前端设备资源的评价内容包括:前端设备的ARM,DSP、FPGA、硬件算子的计算能力,监测芯片主频,数据带宽,算子耗时等。
前端的视频场景检测CMOS单元,ISP能力的评价包括亮度、快门,曝光时间,ISO等。
前端设备的内存评价包括:内存容量、内存主频,数据带宽,前端网络IO带宽等。
对于后端的服务器,其评价的内容包括:设备的CPU、GPU计算能力,监测芯片主频,数据带宽,算法耗时等
后端服务器的内存评价包括:内存容量、内存主频,数据传输带宽,网络IO等。
本申请公开前端设备的一种资源能力评价模型,涉及但不限于以下参变量:
Capabilityfront(x1,x2,…xn)=a0+a1x1+a2x2+…anxn
其中,参变量x为影响前端设备资源能力的参数,a为参变量x的权重(a0为预设的参数)。
具体的,可以包括以下的参变量:
x1——芯片主频,如ARM、DSP等芯片主频,
x2——芯片对应型号的计算力,包括核心数,整数运算单元,带宽,
x3——内存数据吞吐带宽,
x4——输入数据传输速度,
x5——输出数据的传输速度,
x6——系统网络带宽,传输速度,
x7——基础算子的耗时。
本申请公开后端设备的一种资源评价模型:涉及但不限于以下参变量:
Capabilityserver(x1,x2,…xn)=b0+b1x1+b2x2+…bnxn
其中,参变量x为影响后端设备资源能力的参数,b为参变量x的权重(b0为预设的参数)。
具体的,可以包括以下的参变量:
x1——芯片主频,如CPU等芯片主频,
x2——芯片CPU对应型号的计算力,包括核心数,整数、浮点运算单元,带宽,
x3——内存数据吞吐带宽
x4——芯片GPU对应型号的计算力,包括核心数,整数、浮点运算单元,带宽,
x5——显存主频,数据带宽,
x6——输入数据传输速度,
x7——输出数据的传输速度,
x8——网络带宽,传输速度,
x9——基础算子的耗时。
本申请公开一种关键算子,算法耗费评分模型:
Costalg(z1,z2,…zn)=c0+c1z1+c2z2+…cnzn
其中,参变量z为算法耗费评分的参数,c为参变量z的权重(c0为预设的参数)。
具体的,可以包括以下的参变量:
z1——芯片主频,如CPU,GPU等芯片主频,
z2——芯片CPU对应型号的计算力,包括整数、浮点运算单元,带宽,
z3——内存主频,数据带宽,
z4——芯片GPU对应型号的计算力,包括整数、浮点运算单元,带宽,
z5——显存主频,数据带宽,
z6——输入数据传输速度,
z7——输出数据的传输速度,
z8——网络带宽,传输速度,
z9——算法模块,基础算子的耗时。
由以上具体实施例的描述可知,通过应用本申请的技术方案,首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
为了达到以上的技术目的,如图4所示,本申请提出一种后端设备,应用于包含前端设备以及所述后端设备的监控系统中,智能业务包含多个子业务,所述后端设备至少包括:
第一分配模块401,根据所述前端设备的资源配置信息获取所述智能业务的第一特征子业务,并将所述第一特征子业务分配给所述前端设备处理,所述第一特征子业务能被所述前端设备处理;
第二分配模块402,将所述智能业务的第二特征子业务分配给所述后端设备处理,所述第二特征子业务不能被所述前端设备处理;
判断模块403,判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间;
保持模块404,在判断结果为所述第一资源利用率处于所述第一区间,且所述第二资源利用率处于所述第二区间时,保持所述智能业务的分配方案不变。
优选地,所述判断模块具体用于:
分别监控所述前端设备以及所述后端设备的资源使用情况,并根据监控结果获取所述第一资源利用率以及所述第二资源利用率;
判断所述第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,所述第一阈值小于所述第二阈值;
在判断结果为所述第一资源利用率大于所述第一阈值,且小于所述第二阈值时,确认所述第一资源利用率处于所述第一区间,否则,确认所述第一资源利用率不处于所述第一区间;
判断所述第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,所述第三阈值小于所述第四阈值;
在判断结果为所述第二资源利用率大于所述第三阈值,且小于所述第四阈值时,确认所述第二资源利用率处于所述第二区间,否则,确认所述第二资源利用率不处于所述第二区间。
优选地,所述后端设备还包括:
调整模块,在判断结果为所述第一资源利用率不处于所述第一区间,和/或所述第二资源利用率不处于所述第二区间时,调整所述智能业务的分配方案。
优选地,所述调整模块具体用于:
在所述第一资源利用率不处于所述第一区间时,获取所述前端设备的第一剩余资源,并根据所述第一剩余资源调整分配给所述前端设备的业务量,以使所述第一资源利用率处于所述第一区间;
在所述第二资源利用率不处于所述第二区间时,获取所述后端设备的第二剩余资源,并根据所述第二剩余资源调整分配给所述后端设备的业务量,以使所述第二资源利用率处于所述第二区间。
优选地,所述后端设备还包括:
评分模块,通过预设的评分模型对所述智能业务的分配方案进行评价,并储存所述分配方案的评价结果。
由以上具体设备的描述可知,通过应用本申请的技术方案,首先根据前端设备的资源配置信息获取智能业务的第一特征子业务,并将第一特征子业务分配给前端设备处理,其中,第一特征子业务能被前端设备处理;然后将智能业务的第二特征子业务分配给后端设备处理,其中第二特征子业务不能被前端设备处理;最后判断前端设备的第一资源利用率是否处于预设的第一区间,以及后端设备的第二资源利用率是否处于预设的第二区间;在判断结果为第一资源利用率处于第一区间,且第二资源利用率处于第二区间时,则保持智能业务的分配方案不变。从而在对智能业务的处理过程中,充分的利用了前端设备和后端设备的资源,提高了监控系统综合的利用率。
最后说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解;其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明权利要求所限定的范围。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可以通过硬件实现,也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解,本发明的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施场景所述的方法。
本领域技术人员可以理解附图只是一个优选实施场景的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域技术人员可以理解实施场景中的装置中的模块可以按照实施场景描述进行分布于实施场景的装置中,也可以进行相应变化位于不同于本实施场景的一个或多个装置中。上述实施场景的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
上述本发明序号仅仅为了描述,不代表实施场景的优劣。
以上公开的仅为本发明的几个具体实施场景,但是,本发明并非局限于此,任何本领域的技术人员能思之的变化都应落入本发明的保护范围。
Claims (10)
1.一种智能业务的分配方法,其特征在于,应用于包含前端设备以及后端设备的监控系统中,所述智能业务包含多个子业务,所述方法至少包括:
根据所述前端设备的资源配置信息获取所述智能业务的第一特征子业务,并将所述第一特征子业务分配给所述前端设备处理,所述第一特征子业务能被所述前端设备处理;
将所述智能业务的第二特征子业务分配给所述后端设备处理,所述第二特征子业务不能被所述前端设备处理;
判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间;
若判断结果为所述第一资源利用率处于所述第一区间,且所述第二资源利用率处于所述第二区间,则保持所述智能业务的分配方案不变。
2.如权利要求1所述的方法,其特征在于,所述判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间,具体包括:
分别监控所述前端设备以及所述后端设备的资源使用情况,并根据监控结果获取所述第一资源利用率以及所述第二资源利用率;
判断所述第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,所述第一阈值小于所述第二阈值;
若判断结果为所述第一资源利用率大于所述第一阈值,且小于所述第二阈值,则确认所述第一资源利用率处于所述第一区间,否则,确认所述第一资源利用率不处于所述第一区间;
判断所述第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,所述第三阈值小于所述第四阈值;
若判断结果为所述第二资源利用率大于所述第三阈值,且小于所述第四阈值,则确认所述第二资源利用率处于所述第二区间,否则,确认所述第二资源利用率不处于所述第二区间。
3.如权利要求1所述的方法,其特征在于,所述方法还包括:
若判断结果为所述第一资源利用率不处于所述第一区间,和/或所述第二资源利用率不处于所述第二区间,则调整所述智能业务的分配方案。
4.如权利要3所述的方法,其特征在于,所述调整所述业务分配方案,具体包括:
若所述第一资源利用率不处于所述第一区间,则获取所述前端设备的第一剩余资源,并根据所述第一剩余资源调整分配给所述前端设备的业务量,以使所述第一资源利用率处于所述第一区间;
若所述第二资源利用率不处于所述第二区间,则获取所述后端设备的第二剩余资源,并根据所述第二剩余资源调整分配给所述后端设备的业务量,以使所述第二资源利用率处于所述第二区间。
5.如权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
通过预设的评分模型对所述智能业务的分配方案进行评价,并储存所述分配方案的评价结果。
6.一种后端设备,其特征在于,应用于包含前端设备以及所述后端设备的监控系统中,智能业务包含多个子业务,所述后端设备至少包括:
第一分配模块,根据所述前端设备的资源配置信息获取所述智能业务的第一特征子业务,并将所述第一特征子业务分配给所述前端设备处理,所述第一特征子业务能被所述前端设备处理;
第二分配模块,将所述智能业务的第二特征子业务分配给所述后端设备处理,所述第二特征子业务不能被所述前端设备处理;
判断模块,判断所述前端设备的第一资源利用率是否处于预设的第一区间,以及所述后端设备的第二资源利用率是否处于预设的第二区间;
保持模块,在判断结果为所述第一资源利用率处于所述第一区间,且所述第二资源利用率处于所述第二区间时,保持所述智能业务的分配方案不变。
7.如权利要求6所述的后端设备,其特征在于,所述判断模块具体用于:
分别监控所述前端设备以及所述后端设备的资源使用情况,并根据监控结果获取所述第一资源利用率以及所述第二资源利用率;
判断所述第一资源利用率是否大于预设的第一阈值,且小于预设的第二阈值,所述第一阈值小于所述第二阈值;
在判断结果为所述第一资源利用率大于所述第一阈值,且小于所述第二阈值时,确认所述第一资源利用率处于所述第一区间,否则,确认所述第一资源利用率不处于所述第一区间;
判断所述第二资源利用率是否大于预设的第三阈值,且小于预设的第四阈值,所述第三阈值小于所述第四阈值;
在判断结果为所述第二资源利用率大于所述第三阈值,且小于所述第四阈值时,确认所述第二资源利用率处于所述第二区间,否则,确认所述第二资源利用率不处于所述第二区间。
8.如权利要求6所述的后端设备,其特征在于,所述后端设备还包括:
调整模块,在判断结果为所述第一资源利用率不处于所述第一区间,和/或所述第二资源利用率不处于所述第二区间时,调整所述智能业务的分配方案。
9.如权利要求8所述的后端设备,其特征在于,所述调整模块具体用于:
在所述第一资源利用率不处于所述第一区间时,获取所述前端设备的第一剩余资源,并根据所述第一剩余资源调整分配给所述前端设备的业务量,以使所述第一资源利用率处于所述第一区间;
在所述第二资源利用率不处于所述第二区间时,获取所述后端设备的第二剩余资源,并根据所述第二剩余资源调整分配给所述后端设备的业务量,以使所述第二资源利用率处于所述第二区间。
10.如权利要求6-9任一项所述的后端设备,其特征在于,所述后端设备还包括:
评分模块,通过预设的评分模型对所述智能业务的分配方案进行评价,并储存所述分配方案的评价结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611139931.5A CN106685857A (zh) | 2016-12-12 | 2016-12-12 | 一种智能业务的分配方法以及后端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611139931.5A CN106685857A (zh) | 2016-12-12 | 2016-12-12 | 一种智能业务的分配方法以及后端设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106685857A true CN106685857A (zh) | 2017-05-17 |
Family
ID=58868883
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611139931.5A Pending CN106685857A (zh) | 2016-12-12 | 2016-12-12 | 一种智能业务的分配方法以及后端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106685857A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109040686A (zh) * | 2018-08-22 | 2018-12-18 | 苏宁易购集团股份有限公司 | 一种物联网摄像系统中的软件部署方法及物联网摄像系统 |
CN109151385A (zh) * | 2018-08-22 | 2019-01-04 | 苏宁易购集团股份有限公司 | 一种多功能摄像系统及实现方法 |
CN111782362A (zh) * | 2020-06-29 | 2020-10-16 | 珠海豹趣科技有限公司 | 一种消息任务调度方法、装置及电子设备 |
WO2023193448A1 (zh) * | 2022-04-08 | 2023-10-12 | 苏州浪潮智能科技有限公司 | 一种存储系统管理方法、装置、设备及可读存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102724385A (zh) * | 2012-06-21 | 2012-10-10 | 浙江宇视科技有限公司 | 一种视频智能分析方法及装置 |
CN104333732A (zh) * | 2014-10-15 | 2015-02-04 | 广东中星电子有限公司 | 一种分布式视频分析方法和系统 |
CN105978960A (zh) * | 2016-05-06 | 2016-09-28 | 武汉烽火众智数字技术有限责任公司 | 一种基于海量视频结构化处理的云调度系统及方法 |
-
2016
- 2016-12-12 CN CN201611139931.5A patent/CN106685857A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102724385A (zh) * | 2012-06-21 | 2012-10-10 | 浙江宇视科技有限公司 | 一种视频智能分析方法及装置 |
CN104333732A (zh) * | 2014-10-15 | 2015-02-04 | 广东中星电子有限公司 | 一种分布式视频分析方法和系统 |
CN105978960A (zh) * | 2016-05-06 | 2016-09-28 | 武汉烽火众智数字技术有限责任公司 | 一种基于海量视频结构化处理的云调度系统及方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109040686A (zh) * | 2018-08-22 | 2018-12-18 | 苏宁易购集团股份有限公司 | 一种物联网摄像系统中的软件部署方法及物联网摄像系统 |
CN109151385A (zh) * | 2018-08-22 | 2019-01-04 | 苏宁易购集团股份有限公司 | 一种多功能摄像系统及实现方法 |
CN111782362A (zh) * | 2020-06-29 | 2020-10-16 | 珠海豹趣科技有限公司 | 一种消息任务调度方法、装置及电子设备 |
WO2023193448A1 (zh) * | 2022-04-08 | 2023-10-12 | 苏州浪潮智能科技有限公司 | 一种存储系统管理方法、装置、设备及可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106685857A (zh) | 一种智能业务的分配方法以及后端设备 | |
CN109495317B (zh) | 数据网流量预测方法及装置 | |
CN111130790B (zh) | 基于区块链节点网络的共识出块方法 | |
CN110839075A (zh) | 边缘计算环境下基于粒子群的服务迁移方法 | |
CN103023801B (zh) | 一种基于流量特征分析的网络中间节点缓存优化方法 | |
CN108777686B (zh) | 一种针对区块链粉尘交易的识别方法及系统 | |
CN110677300B (zh) | 基于移动边缘计算的电力安管视频智能分流装置及方法 | |
CN116385857B (zh) | 一种基于ai智能调度的算力分配方法 | |
CN108270999A (zh) | 一种目标检测方法、图像识别服务器及系统 | |
CN110334157B (zh) | 一种云计算管理系统 | |
CN108334831A (zh) | 一种监测图像处理方法、监测终端及系统 | |
CN112365366A (zh) | 一种基于智能化5g切片的微电网管理方法及系统 | |
CN106375295B (zh) | 数据存储监控方法 | |
CN116485475A (zh) | 基于边缘计算的物联网广告系统、方法及装置 | |
CN104426796A (zh) | 一种路由器的拥塞避免方法及装置 | |
CN111428653A (zh) | 行人拥挤状态判断方法、装置、服务器及存储介质 | |
CN114386500A (zh) | 传染病采样点选取方法、装置、设备及存储介质 | |
CN106682590A (zh) | 一种监控业务的处理方法以及服务器 | |
CN116489019B (zh) | 一种智能视觉信令通道管理方法、系统及介质 | |
CN108898172A (zh) | 一种消防网格更新方法、装置及设备 | |
CN106791648A (zh) | 一种监控视频分析方法及装置 | |
CN116805203A (zh) | 基于物联网的施工管理方法及系统 | |
CN104822148B (zh) | 一种频谱资源动态分配装置及其分配方法 | |
CN115665218A (zh) | 一种物联网设备远程控制方法、系统及相关设备 | |
CN115827232A (zh) | 一种为业务模型确定配置的方法、装置、系统及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170517 |