CN117170886A - 一种面向大连接视频分析的连续学习资源调度方法及装置 - Google Patents
一种面向大连接视频分析的连续学习资源调度方法及装置 Download PDFInfo
- Publication number
- CN117170886A CN117170886A CN202311456792.9A CN202311456792A CN117170886A CN 117170886 A CN117170886 A CN 117170886A CN 202311456792 A CN202311456792 A CN 202311456792A CN 117170886 A CN117170886 A CN 117170886A
- Authority
- CN
- China
- Prior art keywords
- task
- demand
- processing
- group
- loss function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000004458 analytical method Methods 0.000 title claims abstract description 32
- 238000012545 processing Methods 0.000 claims abstract description 98
- 230000006870 function Effects 0.000 claims description 53
- 230000005540 biological transmission Effects 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 5
- 230000008569 process Effects 0.000 description 20
- 238000012549 training Methods 0.000 description 9
- 230000000295 complement effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004806 packaging method and process Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000001934 delay Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 238000006424 Flood reaction Methods 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 235000003642 hunger Nutrition 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013140 knowledge distillation Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000037351 starvation Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种面向大连接视频分析的连续学习资源调度方法及装置，所述方法的步骤包括：获取视频流，将帧数据作为处理任务加入视频的任务队列中，将视频任务队列中的处理任务输入到预设的任务需求分析器中；所述任务需求分析器输出处理任务对应的任务类别，基于任务类别确定对应的资源需求标签组，将所述处理任务对应的需求标签组加入任务池中；基于所述任务池中的需求标签组建立任务组，基于每个任务组中的需求标签组计算每个任务组的最大需求长度；基于所述最大需求长度计算对应任务组的关联度，基于所述关联度确定发送任务组；基于所述发送任务组的最大需求长度匹配对应的服务器，并将所述发送任务组传输到该服务器中。
Description
技术领域
本发明涉及视频分析技术领域，尤其涉及一种面向大连接视频分析的连续学习资源调度方法及装置。
背景技术
视频分析（即视频内容分析）广泛应用于视频安全监控、移动AR/VR以及车联网场景，通过将摄像机或智能移动设备产生的实时视频流上传至云中进行处理，为用户提供智能视频服务。视频分析呈现显著的“大连接”特征，表现为：(1) 大规模—亿级规模人机物广泛互联；(2) 大流量—百万级并发视频流通过5G等网络高码率传输；(3) 大数据—十万亿亿字节（Zettabyte，ZB）级视频数据高效处理。上述特征使视频分析具有计算密集和延迟敏感的性能需求。
视频分析应用旨在从大规模视频帧中提取目标对象、实例和语义信息，已广泛应用于各种场景。为了方便其运行，开发人员通常在云计算平台上部署视频分析程序。然而，现有云网调度器无法理解所有视频流的性能需求，由此导致产生了较长的等待和处理延迟。
发明内容
鉴于此，本发明的实施例提供了一种面向大连接视频分析的连续学习资源调度方法，以消除或改善现有技术中存在的一个或更多个缺陷。
本发明的一个方面提供了一种面向大连接视频分析的连续学习资源调度方法，所述方法的步骤包括：
获取视频流，将所述视频流处理为帧数据，将所述帧数据作为处理任务加入视频的任务队列中，将任务队列中的所述处理任务输入到预设的任务需求分析器中；
所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别，基于所述任务类别确定对应的资源需求标签组，所述需求标签组中包括处理任务对于每项资源的需求标签，将所述处理任务对应的所述需求标签组加入任务池中；
基于所述任务池中的所述需求标签组建立任务组，基于每个任务组中的需求标签组计算每个任务组的最大需求长度；
基于所述最大需求长度计算对应任务组的关联度，基于所述关联度确定发送任务组；
基于所述发送任务组的最大需求长度匹配对应的服务器，并将所述发送任务组传输到该服务器中。
采用上述方案，本方案通过每个所述处理任务的资源需求标签组，计算每种组合中每种需求标签组的需求空隙，基于需求空隙得到任务需求之间的关联关系，将多个“互补”型任务打包构建为一个处理包，一方面，同时考虑到了多种资源，能够同时满足多个处理任务的需求，能够充分理解视频流的需求，另一方面，能够将多个处理任务打包处理，极大的提高了处理效率。
在本发明的一些实施方式中，将所述帧数据作为处理任务加入视频的任务队列中的步骤包括：
获取所述视频流的任务需求类型并解析所述帧数据中的帧数量；
从历史数据中获取该任务需求类型的所述视频流，并计算该任务需求类型的所述视频流每一帧所需消耗的各项资源；
基于该任务需求类型的所述视频流每一帧所需消耗的各项资源，计算所述视频流所需的各项资源；
将所述视频流所需的各项资源处理为资源向量，并作为处理任务加入到视频任务队列中。
在本发明的一些实施方式中，在所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤中，将所述视频任务队列中的处理任务的资源向量输入到预设的任务需求分析器，所述任务需求分析器输出该处理任务对应各个任务类别的概率值，基于所述概率值确定所述处理任务对应的任务类别。
在本发明的一些实施方式中，所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤还包括：
获取所述任务需求分析器本次输出的处理任务对应各个任务类别的概率值；
基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数；
获取所述任务需求分析器对于上一次输出的处理任务对应各个任务类别的概率值；
基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数；
基于第一损失函数和第二损失函数计算总损失函数，基于所述总损失函数更新所述任务需求分析器。
在本发明的一些实施方式中，在基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数的步骤中，根据如下公式计算第一损失函数：
其中，n表示任务类别数量，表示本次输出的第i个任务类别的概率值，/>表示当前的第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第一损失函数；
在基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数的步骤中，根据如下公式计算第二损失函数：
其中，表示上一次输出的第i个任务类别的概率值，/>表示上一次输出概率值时第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第二损失函数；
在基于第一损失函数和第二损失函数计算总损失函数的步骤中，根据如下公式计算总损失函数：
其中，表示总损失函数。
在本发明的一些实施方式中，在基于所述任务池中的所述需求标签组建立任务组的步骤中，获取预设的组合数量，基于所述组合数量将所述任务池中的所述需求标签组构建为多个包括所述组合数量个需求标签组的任务组。
在本发明的一些实施方式中，在基于每个任务组中的需求标签组计算每个任务组的最大需求长度的步骤中，基于如下公式计算每个任务组的最大需求长度：
其中，表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，δ表示需求标签组中资源项的总数，p表示预设的组合数量，max表示取最大值。
在本发明的一些实施方式中，在基于所述最大需求长度计算对应任务组的关联度的步骤中，基于如下公式计算任务组的关联度：
其中，表示关联度的值，/>表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，p表示预设的组合数量，δ表示需求标签组中资源项的总数。
在本发明的一些实施方式中，在基于所述关联度确定发送任务组的步骤中，选择最大的关联度对应的任务组作为发送任务组。
本发明的第二方面还提供一种面向大连接视频分析的连续学习资源调度装置，该装置包括计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有计算机指令，所述处理器用于执行所述存储器中存储的计算机指令，当所述计算机指令被处理器执行时该装置实现上述方法所实现的步骤。
本发明的第三方面还提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时以实现前述面向大连接视频分析的连续学习资源调度方法所实现的步骤。
本发明的附加优点、目的，以及特征将在下面的描述中将部分地加以阐述，且将对于本领域普通技术人员在研究下文后部分地变得明显，或者可以根据本发明的实践而获知。本发明的目的和其它优点可以通过在说明书以及附图中具体指出并获得。
本领域技术人员将会理解的是，能够用本发明实现的目的和优点不限于以上具体所述，并且根据以下详细说明将更清楚地理解本发明能够实现的上述和其他目的。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，并不构成对本发明的限定。
图1为本发明面向大连接视频分析的连续学习资源调度方法一种实施方式的示意图；
图2为本发明面向大连接视频分析的连续学习资源调度方法的架构示意图；
图3为任务需求分析器的处理架构示意图；
图4为构建任务组的原理示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白，下面结合实施方式和附图，对本发明做进一步详细说明。在此，本发明的示意性实施方式及其说明用于解释本发明，但并不作为对本发明的限定。
在此，还需要说明的是，为了避免因不必要的细节而模糊了本发明，在附图中仅仅示出了与根据本发明的方案密切相关的结构和/或处理步骤，而省略了与本发明关系不大的其他细节。
现有技术介绍：
（1）现有技术无法准确“理解”视频分析任务的实际性能需求。大连接视频分析任务对云网资源提出了多样化且严苛的要求。且不同任务在计算时延、存储空间和传输时延方面的需求差距极大。为了支持任务的正常运行，目前采用人工手动资源配置的方式，即用户在提交任务之前，必须明确指定所需资源的类型和数量。然而，该方式并不容易“配准”资源——分配资源过多会造成资源浪费和成本负担过重，而资源不足又会增加任务的等待和处理延迟。因此，目前的云网资源调度器并不能准确“理解”任务间的性能需求差异；
（2）现有技术仅采用单一或部分目标驱动的云网资源调度方法。目前调度器所采用的方法通常侧重于公平性保障、任务完成时间最小化或CPU/GPU资源利用率最大化等目标，并不能从全局角度满足各类任务的多样化需求；
（3）现有技术依赖于粗粒度的机器级别管理，缺乏对存储、传输和计算资源的细粒度编排。目前云平台将多个虚拟机隔离在单个服务器中，并将虚拟机作为资源分配的单元。例如，若将某些计算资源需求迫切的任务分配到某虚拟机中，往往会造成该虚拟机的存储和传输资源空闲而被浪费，因此导致多种资源类型的整体利用率较低。
本方案首先考虑了多种资源的需求能够满任务的多样化需求足，且通过需求空隙降低了资源的浪费或不足，能够准确满足任务间的性能需求差异，本方案另一方面通过最大需求长度匹配对应的服务器，且考虑了需求空隙保证了服务器的资源类型的整体利用率。
为解决以上问题，如图1所示，本发明提出一种面向大连接视频分析的连续学习资源调度方法，所述方法的步骤包括：
步骤S100，获取视频流，将所述视频流处理为帧数据，将所述帧数据作为处理任务加入视频的任务队列中，将任务队列中的所述处理任务输入到预设的任务需求分析器中；
在具体实施过程中，所述视频流为用户上传的视频流，用户在上传视频流的同时标记了上传视频流的任务需求类型，所述任务需求类型可以为目标检测类型或语义分割类型等。
在具体实施过程中，所述任务需求分析器为深度神经网络模型，所述任务需求分析器包括多个全连接层和多个分类器。
在具体实施过程中，所述任务需求分析器为利用训练数据集进行初始训练后的深度神经网络模型。
如图3所示，在本发明的一些实施方式中，所述任务需求分析器包括设置有多个全连接层的特征提取器和多个对应任务类别的分类器，所述特征提取器向各个分类器输出处理后的特征向量。
在具体实施过程中，所述分类器可以采用softmax分类器。
在具体实施过程中，所述帧数据为视频流的帧。
步骤S200，所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别，基于所述任务类别确定对应的资源需求标签组，所述需求标签组中包括处理任务对于每项资源的需求标签，将所述处理任务对应的所述需求标签组加入任务池中；
在具体实施过程中，每种所述任务类别均对应设置有资源需求标签组，所述需求标签可以为对于资源的需求程度，具体可以为高、中和低，高中低分别对应一个数值，具体的，对应高的数值＞对应中的数值＞对应低的数值。
在具体实施过程中，所述需求标签组中的资源类型可以为CPU资源、GPU资源、内存资源、磁盘资源和网络容量资源。
步骤S300，基于所述任务池中的所述需求标签组建立任务组，基于每个任务组中的需求标签组计算每个任务组的最大需求长度；
在具体实施过程中，所述任务池中包括多个处理任务对应的需求标签组。
在具体实施过程中，所述最大需求长度对应该任务组对于某一项需求最大资源的大小。
步骤S400，基于所述最大需求长度计算对应任务组的关联度，基于所述关联度确定发送任务组；
在具体实施过程中，所述需求空隙为满足某一项需求最大资源后，其他各项资源的空隙。
步骤S500，基于所述发送任务组的最大需求长度匹配对应的服务器，并将所述发送任务组传输到该服务器中。
具体的，在云网资源剩余状态不确定的情况下，派发任务组到合适的服务器中是一个最优传输问题。本方案考虑了服务器当前的资源剩余状态能够满足任务组的资源需求，多种类型资源的分配应相对均衡，以防止某些资源闲置，而另一些资源负担过重，且为避免资源浪费，能够选择一台各类型剩余资源最少的服务器。
在具体实施过程中，由于最大需求长度对应该任务组对于某一项需求最大资源的大小，则若服务器能够满足最大需求长度，则能满足该处理任务对于其他各项资源的需求，在保证任务的高效处理前提下，保证任务被正常处理。
如图2所示，图2中f(x)表示处理任务，在具体实施过程中，本方案包括任务需求分析器和任务编排器，步骤S200为任务需求分析器的处理步骤，步骤S200~S500的步骤为所述任务编排器，步骤S100为基于预设的程序的预处理步骤。
在具体实施过程中，基于连续学习的任务需求分析器旨在主动“理解”每个视频分析任务的存储、传输和计算资源需求，即表征各任务对资源的需求量和迫切程度；任务编排器将任务派发到能够满足其需求的服务器上快速执行。为此，该任务编排器综合考虑各任务的资源需求和集群服务器的可用资源状态，并将关联性强的任务打包到一起，使用最优传输算法将它们派发给合适的服务器中。
采用上述方案，本方案通过每个所述处理任务的资源需求标签组，计算每种组合中每种需求标签组的关联度，基于关联度得到任务需求之间的关联关系，将多个“互补”型任务打包构建为一个处理包，一方面，同时考虑到了多种资源，能够同时满足多个处理任务的需求，能够充分理解视频流的需求，另一方面，能够将多个处理任务打包处理，极大的提高了处理效率。
在本发明的一些实施方式中，将所述帧数据作为处理任务加入视频的任务队列中的步骤包括：
获取所述视频流的任务需求类型并解析所述帧数据中的帧数量；
从历史数据中获取该任务需求类型的所述视频流，并计算该任务需求类型的所述视频流每一帧所需消耗的各项资源；
基于该任务需求类型的所述视频流每一帧所需消耗的各项资源，计算所述视频流所需的各项资源；
将所述视频流所需的各项资源处理为资源向量，并作为处理任务加入到视频任务队列中。
在具体实施过程中，在从历史数据中获取该任务需求类型的所述视频流，并计算该任务需求类型的所述视频流每一帧所需消耗的各项资源的步骤中，基于历史数据中对于该任务需求类型的所述视频流每一帧所需消耗的各项资源和所述帧数据中的帧数量得到该视频流所需各项资源的大小，将该视频流所需各项资源的大小组合得到资源向量。
在本发明的一些实施方式中，在所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤中，将所述视频任务队列中的处理任务的资源向量输入到预设的任务需求分析器，所述任务需求分析器输出该处理任务对应各个任务类别的概率值，基于所述概率值确定所述处理任务对应的任务类别。
在具体实施过程中，在基于所述概率值确定所述处理任务对应的任务类别的步骤可以为将最大的概率值对应的任务类别作为所述处理任务对应的任务类别，也可以为通过为为没饿任务类别设置概率阈值的方式，将若概率值大于预设的概率阈值则将该概率阈值对应的任务类别作为所述处理任务对应的任务类别。
在本发明的一些实施方式中，所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤还包括：
获取所述任务需求分析器本次输出的处理任务对应各个任务类别的概率值；
基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数；
获取所述任务需求分析器对于上一次输出的处理任务对应各个任务类别的概率值；
基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数；
基于第一损失函数和第二损失函数计算总损失函数，基于所述总损失函数更新所述任务需求分析器。
如图3所示，在具体实施过程中，本方案一方面通过得到的概率值进行分类，另一方面将得到的概率值计算总损失函数，完成知识蒸馏的步骤。
采用上述方案，随着大连接视频分析任务涌入云网平台，云网资源调度器将见到越来越多需求类别的任务。而且，各类别任务通常随机混叠在一起，并无明显的规律性。本方案的任务需求分析器当遇到新的任务类别时，能够立即识别，并将提取到的需求标签组输出，且在每次输出结果后进行在线学习，方便后续相似任务的识别，且在训练过程中利用了处理后的数据，当遇到“已见过”的旧类别任务时，能够利用先验的需求特征知识对其分类。否则，易出现灾难性遗忘问题，即对旧类别任务分类的能力突然恶化。该现象是由于模型过度关注新类别任务知识，而忽略了已学习过的旧知识。
在本发明的一些实施方式中，在基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数的步骤中，根据如下公式计算第一损失函数：
其中，n表示任务类别数量，表示本次输出的第i个任务类别的概率值，/>表示当前的第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第一损失函数；
在基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数的步骤中，根据如下公式计算第二损失函数：
其中，表示上一次输出的第i个任务类别的概率值，/>表示上一次输出概率值时第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第二损失函数；
在基于第一损失函数和第二损失函数计算总损失函数的步骤中，根据如下公式计算总损失函数：
其中，表示总损失函数。
在具体实施过程中，本方案的训练还包括：
在每轮训练前，构建训练集，主要由存储的新旧任务样本组成。具体的，可以使用CPU、GPU、内存、磁盘和网络资源。
均衡每类样本数量来重建训练集，保证模型的平衡，完成模型微调；
选择任务样本存储在服务器中，以供下一轮训练。
在本发明的一些实施方式中，在基于所述任务池中的所述需求标签组建立任务组的步骤中，获取预设的组合数量，基于所述组合数量将所述任务池中的所述需求标签组构建为多个包括所述组合数量个需求标签组的任务组。
若所述任务池中包括5个需求标签组，所述组合数量为2，则每次将2个需求标签组组合为任务组，将最后一个单独发送。
在本发明的一些实施方式中，在基于每个任务组中的需求标签组计算每个任务组的最大需求长度的步骤中，基于如下公式计算每个任务组的最大需求长度：
其中，表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，δ表示需求标签组中资源项的总数，p表示预设的组合数量，max表示取最大值。
在本发明的一些实施方式中，在基于所述最大需求长度计算对应任务组的关联度的步骤中，基于如下公式计算任务组的关联度：
其中，表示关联度的值，/>表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，/>表示预设的组合数量，δ表示需求标签组中资源项的总数。
在具体实施过程中，表示任务组的需求空隙，需求空隙越大则关联度越低。
在具体实施过程中，若存在任务A和B，任务A对计算资源需求迫切，但对存储和网络传输资源需求较弱；任务B急需大量的存储和网络资源，但对计算资源需求较少，若让任务A和B顺序执行，则云网计算资源会先被大量使用，而存储和网络传输资源则处于相对空闲的状态。但是，一旦任务A执行结束，而任务B执行开始时，云网资源使用状态则被逆转。显然，这种顺序执行的模式不仅会导致不同资源类型在不同时段内的整体利用率降低，还会导致整体任务完成时延变长，本方案取任务打包的并行执行的方法，如图4所示：本方案将资源需求“互补”的任务打包在一起，并将它们视为服务器处理的实体；本方案基于任务的需求和云网资源的可用状态，制定全局派发策略，并将任务组分配给所剩资源能满足任务组资源需求的服务器中。通过该两阶段操作，本方案不仅促进了任务并行执行，缩短任务处理时延，还提高了云网资源利用率。
如图4所示，在具体实施过程中，若将任务A和任务B打包，则该任务组资源需求可以相互“互补”匹配；若将任务A和任务C打包，则会产生较大的需求空隙，如GPU、磁盘、网络传输资源分别产生了1倍、3倍和2倍单元空间的需求空隙。因此，为了实现较为理想的任务打包，被打包任务的资源需求应具备一定的关联度，即其任务需求是“互补”，保证资源的充分利用。
在本发明的一些实施方式中，在基于所述关联度确定发送任务组的步骤中，选择最大的关联度对应的任务组作为发送任务组。
在具体实施过程中，现有技术的视频分析旨在从视频帧中提取目标对象、实例和语义信息，并辅助智能体准确感知周围环境的变化。通常，开发人员将视频分析程序部署在云平台，并通过云网联合调度将用户产生的视频数据上传到云中进行处理。然而，在运营化5G云网中，视频分析任务产生了较长的等待和处理延迟，根本原因为5G云网资源调度器将存储、传输和计算资源分离调度，并且无法理解大连接视频分析任务的实际性能需求。在本发明中，本方案基本思想是通过连续学习细粒度分析每个任务的存储、传输和计算资源需求，并依据任务需求之间的关联关系，将多个“互补”型任务打包并派发到资源充足的服务器上执行，本方案提高了大连接视频任务的处理效率和云网平台的资源利用率。
本方案的有益效果包括：
针对视频分析任务处理效率低的问题，本方案将云网调度器被动的资源调度方式转变为主动的任务需求理解与编排方式，以促进5G任务的高效处理并提升云网资源的利用率，通过基于连续学习的任务需求分析算法来准确理解任务的资源需求，通过需求关联的任务编排算法来提高任务的执行效率。本方案该方法不仅能够考虑任务之间的异质性（即不同任务的资源需求存在差异），还能够克服服务器剩余资源可用状态不确定性所带来的资源调度效率低的弊端。
本发明实施例还提供一种面向大连接视频分析的连续学习资源调度装置，该装置包括计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有计算机指令，所述处理器用于执行所述存储器中存储的计算机指令，当所述计算机指令被处理器执行时该装置实现上述方法所实现的步骤。
本发明实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时以实现前述面向大连接视频分析的连续学习资源调度方法所实现的步骤。该计算机可读存储介质可以是有形存储介质，诸如随机存储器（RAM）、内存、只读存储器（ROM）、电可编程ROM、电可擦除可编程ROM、寄存器、软盘、硬盘、可移动存储盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质。
本领域普通技术人员应该可以明白，结合本文中所公开的实施方式描述的各示例性的组成部分、系统和方法，能够以硬件、软件或者二者的结合来实现。具体究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。当以硬件方式实现时，其可以例如是电子电路、专用集成电路（ASIC）、适当的固件、插件、功能卡等等。当以软件方式实现时，本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中，或者通过载波中携带的数据信号在传输介质或者通信链路上传送。
需要明确的是，本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见，这里省略了对已知方法的详细描述。在上述实施例中，描述和示出了若干具体的步骤作为示例。但是，本发明的方法过程并不限于所描述和示出的具体步骤，本领域的技术人员可以在领会本发明的精神后，做出各种改变、修改和添加，或者改变步骤之间的顺序。
本发明中，针对一个实施方式描述和/或例示的特征，可以在一个或更多个其它实施方式中以相同方式或以类似方式使用，和/或与其他实施方式的特征相结合或代替其他实施方式的特征。
以上所述仅为本发明的优选实施例，并不用于限制本发明，对于本领域的技术人员来说，本发明实施例可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种面向大连接视频分析的连续学习资源调度方法，其特征在于，所述方法的步骤包括：
获取视频流，将所述视频流处理为帧数据，将所述帧数据作为处理任务加入视频的任务队列中，将任务队列中的所述处理任务输入到预设的任务需求分析器中；
所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别，基于所述任务类别确定对应的资源需求标签组，所述需求标签组中包括处理任务对于每项资源的需求标签，将所述处理任务对应的所述需求标签组加入任务池中；
基于所述任务池中的所述需求标签组建立任务组，基于每个任务组中的需求标签组计算每个任务组的最大需求长度；
基于所述最大需求长度计算对应任务组的关联度，基于所述关联度确定发送任务组；
基于所述发送任务组的最大需求长度匹配对应的服务器，并将所述发送任务组传输到该服务器中。
2.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，将所述帧数据作为处理任务加入视频的任务队列中的步骤包括：
获取所述视频流的任务需求类型并解析所述帧数据中的帧数量；
从历史数据中获取该任务需求类型的所述视频流，并计算该任务需求类型的所述视频流每一帧所需消耗的各项资源；
基于该任务需求类型的所述视频流每一帧所需消耗的各项资源，计算所述视频流所需的各项资源；
将所述视频流所需的各项资源处理为资源向量，并作为处理任务加入到视频任务队列中。
3.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤中，将所述视频任务队列中的处理任务的资源向量输入到预设的任务需求分析器，所述任务需求分析器输出该处理任务对应各个任务类别的概率值，基于所述概率值确定所述处理任务对应的任务类别。
4.根据权利要求1~3任一项所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，所述任务需求分析器基于输入的处理任务，输出所述处理任务对应的任务类别的步骤还包括：
获取所述任务需求分析器本次输出的处理任务对应各个任务类别的概率值；
基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数；
获取所述任务需求分析器对于上一次输出的处理任务对应各个任务类别的概率值；
基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数；
基于第一损失函数和第二损失函数计算总损失函数，基于所述总损失函数更新所述任务需求分析器。
5.根据权利要求4所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在基于处理任务本次输出的对应各个任务类别的概率值计算第一损失函数的步骤中，根据如下公式计算第一损失函数：
其中，n表示任务类别数量，表示本次输出的第i个任务类别的概率值，/>表示当前的第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第一损失函数；
在基于处理任务上一次输出的对应各个任务类别的概率值计算第二损失函数的步骤中，根据如下公式计算第二损失函数：
其中，表示上一次输出的第i个任务类别的概率值，/>表示上一次输出概率值时第i个任务类别对应的分类器的参数构成的参数矩阵，/>表示第二损失函数；
在基于第一损失函数和第二损失函数计算总损失函数的步骤中，根据如下公式计算总损失函数：
其中，表示总损失函数。
6.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在基于所述任务池中的所述需求标签组建立任务组的步骤中，获取预设的组合数量，基于所述组合数量将所述任务池中的所述需求标签组构建为多个包括所述组合数量个需求标签组的任务组。
7.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在基于每个任务组中的需求标签组计算每个任务组的最大需求长度的步骤中，基于如下公式计算每个任务组的最大需求长度：
其中，表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，δ表示需求标签组中资源项的总数，p表示预设的组合数量，max表示取最大值。
8.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在基于所述最大需求长度计算对应任务组的关联度的步骤中，基于如下公式计算任务组的关联度：
其中，表示关联度的值，/>表示最大需求长度，/>表示任务组中处理任务j对应的需求标签组第r项资源的需求标签的值，p表示预设的组合数量，δ表示需求标签组中资源项的总数。
9.根据权利要求1所述的面向大连接视频分析的连续学习资源调度方法，其特征在于，在基于所述关联度确定发送任务组的步骤中，选择最大的关联度对应的任务组作为发送任务组。
10.一种面向大连接视频分析的连续学习资源调度装置，其特征在于，该装置包括计算机设备，所述计算机设备包括处理器和存储器，所述存储器中存储有计算机指令，所述处理器用于执行所述存储器中存储的计算机指令，当所述计算机指令被处理器执行时该装置实现如权利要求1~9任一项所述方法所实现的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311456792.9A CN117170886B (zh) | 2023-11-03 | 2023-11-03 | 一种面向大连接视频分析的连续学习资源调度方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311456792.9A CN117170886B (zh) | 2023-11-03 | 2023-11-03 | 一种面向大连接视频分析的连续学习资源调度方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117170886A true CN117170886A (zh) | 2023-12-05 |
| CN117170886B CN117170886B (zh) | 2024-02-02 |
Family
ID=88943604
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311456792.9A Active CN117170886B (zh) | 2023-11-03 | 2023-11-03 | 一种面向大连接视频分析的连续学习资源调度方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117170886B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108509276A (zh) * | 2018-03-30 | 2018-09-07 | 南京工业大学 | 一种边缘计算环境中的视频任务动态迁移方法 |
| US20210081787A1 (en) * | 2019-09-12 | 2021-03-18 | Beijing University Of Posts And Telecommunications | Method and apparatus for task scheduling based on deep reinforcement learning, and device |
| CN113515351A (zh) * | 2021-09-07 | 2021-10-19 | 华南理工大学 | 一种基于能耗与QoS协同优化的资源调度实现方法 |
| CN115150473A (zh) * | 2022-06-06 | 2022-10-04 | 杭州海康威视系统技术有限公司 | 一种资源调度方法、装置及存储介质 |
| CN116132623A (zh) * | 2021-11-15 | 2023-05-16 | 中国移动通信有限公司研究院 | 一种基于视频监控的智能分析方法、系统及设备 |
| CN116225643A (zh) * | 2022-12-26 | 2023-06-06 | 中国电信股份有限公司 | 基于共享资源的任务调度方法及装置、电子设备 |
-
2023
- 2023-11-03 CN CN202311456792.9A patent/CN117170886B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108509276A (zh) * | 2018-03-30 | 2018-09-07 | 南京工业大学 | 一种边缘计算环境中的视频任务动态迁移方法 |
| US20210081787A1 (en) * | 2019-09-12 | 2021-03-18 | Beijing University Of Posts And Telecommunications | Method and apparatus for task scheduling based on deep reinforcement learning, and device |
| CN113515351A (zh) * | 2021-09-07 | 2021-10-19 | 华南理工大学 | 一种基于能耗与QoS协同优化的资源调度实现方法 |
| CN116132623A (zh) * | 2021-11-15 | 2023-05-16 | 中国移动通信有限公司研究院 | 一种基于视频监控的智能分析方法、系统及设备 |
| CN115150473A (zh) * | 2022-06-06 | 2022-10-04 | 杭州海康威视系统技术有限公司 | 一种资源调度方法、装置及存储介质 |
| CN116225643A (zh) * | 2022-12-26 | 2023-06-06 | 中国电信股份有限公司 | 基于共享资源的任务调度方法及装置、电子设备 |
Non-Patent Citations (1)
| Title |
|---|
| 陈廷伟 等: "面向云计算的任务分类方法", 计算机应用, vol. 32, no. 10, pages 2719 - 2723 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117170886B (zh) | 2024-02-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11475237B2 (en) | Image analysis device and image analysis system | |
| EP3419253A1 (en) | Data processing method and relevant devices and systems | |
| CN110856018A (zh) | 一种基于云计算的监控系统中的快速转码方法及系统 | |
| CN108270805B (zh) | 用于数据处理的资源分配方法及装置 | |
| CN115543577B (zh) | 基于协变量的Kubernetes资源调度优化方法、存储介质及设备 | |
| CN111506434B (zh) | 一种任务处理方法、装置及计算机可读存储介质 | |
| CN104580194A (zh) | 面向视频应用的虚拟化资源管理方法及装置 | |
| CN112860402A (zh) | 一种深度学习推理服务的动态批处理任务调度方法及系统 | |
| CN114610475A (zh) | 一种智能资源编排模型的训练方法 | |
| CN114564313A (zh) | 负载调整方法、装置、电子设备及存储介质 | |
| CN113434303A (zh) | 批处理的遥感影像智能处理模型预测性能优化系统及方法 | |
| CN117170886B (zh) | 一种面向大连接视频分析的连续学习资源调度方法及装置 | |
| CN116089477B (zh) | 分布式训练方法及系统 | |
| CN107220114A (zh) | 基于资源统一调度的分布式资源调度方法 | |
| CN112669353B (zh) | 数据处理方法、装置、计算机设备和存储介质 | |
| CN114866430A (zh) | 边缘计算的算力预测方法、算力编排方法及系统 | |
| CN113128937A (zh) | 资源分配方法及装置、终端设备和计算机存储介质 | |
| CN111858019B (zh) | 任务调度方法、装置及计算机可读存储介质 | |
| Sharifi et al. | Modeling real-time application processor scheduling for fog computing | |
| CN106357676A (zh) | 一种云服务资源开销优化方法 | |
| CN116680086B (zh) | 一种基于离线渲染引擎的调度管理系统 | |
| WO2024082692A1 (zh) | 执行任务的方法和异构服务器 | |
| CN115145591B (zh) | 一种基于多中心的医疗etl任务调度方法、系统及装置 | |
| CN112905351B (zh) | 一种gpu和cpu负载调度方法、装置、设备和介质 | |
| CN107132992A (zh) | 一种海量数据的处理方法及其装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |