CN110675361A - 建立视频检测模型以及视频检测的方法、装置 - Google Patents
建立视频检测模型以及视频检测的方法、装置 Download PDFInfo
- Publication number
- CN110675361A CN110675361A CN201910758266.5A CN201910758266A CN110675361A CN 110675361 A CN110675361 A CN 110675361A CN 201910758266 A CN201910758266 A CN 201910758266A CN 110675361 A CN110675361 A CN 110675361A
- Authority
- CN
- China
- Prior art keywords
- video
- detection
- image frames
- detected
- output result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种建立视频检测模型的方法,包括:获取训练数据;将训练数据中视频作为神经网络的输入获取输出结果;根据输出结果确定视频全部图像帧的检测结果,在将检测结果与标注结果进行比对之后得到检测准确率和检测召回率;根据检测准确率、检测召回率以及实际检测图像帧的数目得到神经网络的奖励值,利用奖励值调整神经网络的参数得到视频检测模型。本发明还提供一种视频检测的方法,包括:获取待检测视频;将待检测视频作为视频检测模型的输入获取输出结果;确定输出结果是否包含待检测视频中全部图像帧的检测结果,若是,将输出结果作为待检测视频的检测结果,否则通过相邻帧插值获取未检测图像帧的检测结果后得到待检测视频的检测结果。
Description
【技术领域】
本发明涉及图像处理技术领域,尤其涉及一种建立视频检测模型以及视频检测的方法、装置、设备和计算机存储介质。
【背景技术】
现有技术在进行视频中物体的检测时,通常是将视频拆分为一帧一帧的图像之后,再依次对各帧图像中所包含的物体进行检测。若视频中的物体保持静止时,则在多帧图像中该物体的位置并不会发生变化,若仍采用逐帧检测的方式进行物体检测时,则会降低视频检测的速度。
【发明内容】
有鉴于此,本发明提供了一种建立视频检测模型以及视频检测的方法、装置、设备和计算机存储介质,用于在视频检测模型的训练过程中兼顾实际检测的图像帧的数目,避免训练得到的视频检测模型针对任何视频中每帧图像均进行检测的问题,使得在进行视频检测时,所建立的视频检测模型能够从视频中选取合适数目的图像帧进行检测,从而提升视频检测的检测速度。
本发明为解决技术问题所采用的技术方案为提供一种建立视频检测模型的方法,包括:获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果;将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果;根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率;根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
根据本发明一优选实施例,所述根据所述输出结果确定该视频中全部图像帧的检测结果包括:确定所述输出结果是否包含该视频中全部图像帧的检测结果;若是,则将该输出结果作为该视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到该视频中全部图像帧的检测结果。
根据本发明一优选实施例,所述确定所述输出结果是否包含该视频中全部图像帧的检测结果包括:获取所述视频中包含的图像帧的第一数量;获取所述输出结果中包含检测结果的图像帧的第二数量;确定所述第一数量和第二数量是否一致,若是,则确定所述输出结果包含该视频中全部图像帧的检测结果,否则确定所述输出结果未包含该视频中全部图像帧的检测结果。
根据本发明一优选实施例,所述方法还包括:所述神经网络的训练目标为使得所述神经网络的奖励值收敛。
本发明为解决技术问题所采用的技术方案为提供一种视频检测的方法,包括:获取待检测视频;将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果;确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果。
根据本发明一优选实施例,所述确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果包括:获取所述待检测视频中包含的图像帧的第三数量;获取所述输出结果中包含检测结果的图像帧的第四数量;确定所述第三数量和第四数量是否一致,若是,则确定所述输出结果包含所述待检测视频中全部图像帧的检测结果,否则确定所述输出结果未包含所述待检测视频中全部图像帧的检测结果。
本发明为解决技术问题所采用的技术方案为提供一种建立视频检测模型的装置,包括:第一获取单元,用于获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果;第一处理单元,用于将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果;比对单元,用于根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率;训练单元,用于根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
根据本发明一优选实施例,所述比对单元在根据所述输出结果确定该视频中全部图像帧的检测结果时,具体执行:确定所述输出结果是否包含该视频中全部图像帧的检测结果;若是,则将该输出结果作为该视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到该视频中全部图像帧的检测结果。
根据本发明一优选实施例,所述比对单元在确定所述输出结果是否包含该视频中全部图像帧的检测结果时,具体执行:获取所述视频中包含的图像帧的第一数量;获取所述输出结果中包含检测结果的图像帧的第二数量;确定所述第一数量和第二数量是否一致,若是,则确定所述输出结果包含该视频中全部图像帧的检测结果,否则确定所述输出结果未包含该视频中全部图像帧的检测结果。
根据本发明一优选实施例,所述训练单元还执行:用于使所述神经网络的训练目标为使得所述神经网络的奖励值收敛。
本发明为解决技术问题所采用的技术方案为提供一种视频检测的装置,包括:第二获取单元,用于获取待检测视频;第二处理单元,用于将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果;输出单元,用于确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果。
根据本发明一优选实施例,所述输出单元在确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果时,具体执行:获取所述待检测视频中包含的图像帧的第三数量;获取所述输出结果中包含检测结果的图像帧的第四数量;确定所述第三数量和第四数量是否一致,若是,则确定所述输出结果包含所述待检测视频中全部图像帧的检测结果,否则确定所述输出结果未包含所述待检测视频中全部图像帧的检测结果。
由以上技术方案可以看出,本发明通过在训练神经网络过程中所使用的奖励值中添加神经网络实际检测的图像帧的数目,使得神经网络通过多次训练后能够学习到如何从视频中选取合适数目的图像帧进行检测,避免了现有技术在训练检测模型时只考虑检测准确率而忽略所检测的图像帧的数目的问题,从而在本发明进行视频检测时,使用训练得到的视频检测模型能够针对不同的视频选取合适数目的图像帧进行检测,避免了现有技术中的检测模型对于任何视频均采用逐帧检测的方式所导致的检测速度较慢的问题,提升了视频检测的检测速度。
【附图说明】
图1为本发明一实施例提供的一种建立视频检测模型的方法流程图;
图2为本发明一实施例提供的一种视频检测的方法流程图;
图3为本发明一实施例提供的一种建立视频检测模型的装置结构图;
图4为本发明一实施例提供的一种视频检测的装置结构图;
图5为本发明一实施例提供的计算机系统/服务器的框图。
【具体实施方式】
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
图1为本发明一实施例提供的一种建立视频检测模型的方法流程图,如图1中所示,所述方法包括:
在101中,获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果。
在本步骤中,获取各视频以及各视频所包含图像帧的标注结果作为训练数据,所获取的训练数据用于训练得到视频检测模型。
具体地,本步骤获取的各视频所包含图像帧的标注结果为各图像帧中所包含物体的标注结果,物体的标注结果包括物体的类别信息以及位置信息。其中,物体的类别信息用于表示图像帧中所包含物体的所属类别;而物体的位置信息则用于表示物体在图像帧中的位置坐标,例如在图像帧中标注物体的矩形框中左上角以及右下角的点的坐标。
另外,本步骤所获取的训练数据中图像帧的标注结果可以为图像帧中特定物体的标注结果,例如仅对图像帧中的人物、植物、动物、车辆或建筑中的一种或几种进行标注,使得最终训练得到的视频检测模型仅能够针对视频中的特定物体来输出检测结果;也可以为图像帧中所包含全部物体的标注结果,例如对图像帧中的人物、植物、动物、车辆或建筑进行全部标注,使得最终训练得到的视频检测模型能够针对视频中的全部物体来输出检测结果。
在102中,将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果。
在本步骤中,将步骤101获取的训练数据中的视频作为神经网络的输入,从而获取神经网络针对该视频所输出的输出结果。其中,本步骤所获取的神经网络的输出结果为所输入的视频中全部图像帧或部分图像帧的检测结果。
也就是说,本申请在对神经网络进行训练的过程中,除了使得神经网络能够进行物体检测之外,还会使得神经网络能够从视频所包含的图像帧中选取合适的图像帧进行物体检测。因此,本步骤在向神经网络输入视频之后,神经网络会根据自身的分析来输出视频中全部图像帧的检测结果或是视频中部分图像帧的检测结果。
可以理解的是,本步骤中的神经网络可以为卷积神经网络、循环神经网络或深度神经网络,本申请对神经网络的类型不进行限定。
在103中,根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率。
在本步骤中,根据步骤102所获取的输出结果确定作为输入的视频所包含的全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到神经网络针对该输入视频的检测准确率和检测召回率。
其中,神经网络的检测召回率为神经网络根据所输入的视频,能够准确检测各图像帧中所包含物体的概率;而神经网络的检测准确率则为神经网络对所检测出的物体能够准确输出其在图像帧中位置的概率。
具体地,本步骤在根据输出结果确定视频中全部图像帧的检测结果时,可以采用以下方式:确定输出结果是否包含视频中全部图像帧的检测结果;若是,则将该输出结果作为视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到视频中全部图像帧的检测结果。
其中,本步骤可以通过视频中所包含图像帧的数量以及神经网络实际检测图像帧的数量,来确定神经网络的输出结果是否包含视频中全部图像帧的检测结果;也可以通过设置神经网络的参数,使其所输出的输出结果中包含有其是否对视频中的全部图像帧进行检测的结果。
在104中,根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
在本步骤中,根据神经网络实际检测该视频中图像帧的数目以及步骤103所得到的检测准确率和检测召回率,得到神经网络的奖励值,进而利用该奖励值来调整神经网络的参数,得到视频检测模型。
也就是说,本步骤中的奖励值除了包含神经网络的检测准确率和检测召回率之外,还包含有神经网络实际检测图像帧的数目,而神经网络实际检测图像帧的数目能够反映神经网络对视频进行检测的检测速度。因此,本步骤利用包含上述三个因素的奖励值来调整神经网络的参数,一方面能够提升神经网络的检测准确度,另一方面则能够使得神经网络学会选取合适的图像帧进行检测来提升检测速度。
而现有技术在对类似的视频检测模型进行训练时,通常只会考虑模型对于视频的检测准确度,其并未考虑到从全部图像帧中选取部分图像帧进行检测的方式来提升检测速度。
举例来说,若物体在一段视频中处于静止或处于较慢速度的移动时,则本申请中的视频检测模型便能够通过多跳几帧图像的方式来减少检测时间,而现有技术中的检测模型则依然会一帧一帧地进行检测,因此本申请中的视频检测模型能够提升检测速度。
具体地,本步骤在根据检测准确率、检测召回率以及神经网络实际检测视频中图像帧的数目得到神经网络的奖励值时,可以采用以下计算公式:
reward=a·acc+b·rec-c·frame_num
其中:reward为奖励值;a、b、c为超参数;acc为检测准确率;rec为检测召回率;frame_num为神经网络实际检测视频中图像帧的数目。
可以理解的是,本步骤中计算奖励值的超参数a、b、c可以根据实际应用场景进行设定,若神经网络重视准召,则将a、b设置较大;若神经网络重视速度,则将c设置较大。
可以理解的是,本步骤在对神经网络进行训练时,训练目标为使得神经网络的奖励值收敛。其中,使神经网络的奖励值收敛时可以包括:奖励值满足预设阈值,或者在预设次数内得到的奖励值之间的差值小于或等于预设阈值,等等。
本步骤在对神经网络训练完毕后,就得到了视频检测模型。利用该视频检测模型,能够针对不同的视频自行决策实际进行检测的图像帧,进而输出检测的图像帧中所包含物体的检测结果,从而避免现有的检测模型无论哪个视频均一帧一帧地进行检测的问题,从而提升视频检测的速度和效率。
图2为本发明一实施例提供的一种视频检测的方法流程图,如图2中所示,所述方法包括:
在201中,获取待检测视频。
在本步骤,获取待检测视频。可以理解的是,所获取的待检测视频可以为用户通过终端实时拍摄的视频,也可以为用户选取存储在终端本地的视频,还可以为用户通过终端从互联网中所选取的视频。
在202中,将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果。
在本步骤中,将步骤201中所获取的待检测视频输入到预先训练得到的视频检测模型中,从而得到该视频检测模型针对该待检测视频的输出结果。
可以理解的是,本步骤中所获取的输出结果中可能包含待检测视频中全部图像帧的检测结果,也可能只包含待检测视频中部分图像帧的检测结果。
举例来说,若待检测视频中物体保持静止或运动速度较慢,即表明待检测视频中存在物体位置相同或位置变化较小的图像帧的数目很多,本步骤中的视频检测模型仅对其中的一部分图像帧进行检测,则输出结果会仅包含部分图像帧的检测结果;若待检测视频中物体运动速度较快,即表明待检测视频中存在物体位置相同或位置变化较小的图像帧的数目较少,本步骤中的视频检测模型会对全部图像帧进行检测,则输出结果会包含全部图像帧的检测结果。
在203中,确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果。
在本步骤中,首先确定步骤202所获取的输出结果是否包含待检测视频中全部图像帧的检测结果,若是,则将该输出结果直接作为待检测视频的检测结果,否则,再通过相邻帧插值的方式获取视频检测模型未进行检测的图像帧的检测结果之后,得到待检测视频的检测结果。
可以理解的是,本步骤可以通过待检测视频中所包含图像帧的数量以及视频检测模型实际检测图像帧的数量,来确定输出结果是否包含视频中全部图像帧的检测结果;也可以直接根据视频检测模型输出的是否对视频中的全部图像帧进行检测的结果,来确定输出结果是否包含视频中全部图像帧的检测结果。
举例来说,若待检测视频为视频A,若视频A包含有150帧图像,当视频检测模型的输出结果中包含有150帧图像的检测结果,则直接将视频检测模型的输出结果作为视频A的检测结果;若视频检测模型的输出结果中仅包含有120帧图像的检测结果,则在通过相邻帧插值的方式获取到未检测的30帧图像的检测结果之后,便得到了视频A中150帧图像的检测结果。
由于现有技术中的检测模型能够对视频中的每帧图像进行检测,因此现有技术中检测模型的输出结果即为待检测视频中全部图像帧的检测结果。而为了能够提升检测速度,本发明所使用的视频检测模型会根据视频的不同来选取合适数目的图像帧进行检测,输出结果可能为全部图像帧的检测结果,也可能仅为部分图像帧的检测结果。因此,本发明通过上述步骤能够获取待检测视频中全部图像帧的检测结果,在提升检测速度的同时,确保不会遗漏待检测视频中图像帧的检测结果,从而保证检测结果的完整性。
图3为本发明一实施例提供的一种建立视频检测模型的装置结构图,如图3中所示,所述装置包括:第一获取单元31、第一处理单元32、比对单元33以及训练单元34。
第一获取单元31,用于获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果。
第一获取单元31获取各视频以及各视频所包含图像帧的标注结果作为训练数据,所获取的训练数据用于训练得到视频检测模型。
具体地,第一获取单元31获取的各视频所包含图像帧的标注结果为各图像帧中所包含物体的标注结果,物体的标注结果包括物体的类别信息以及位置信息。其中,物体的类别信息用于表示图像帧中所包含物体的所属类别;而物体的位置信息则用于表示物体在图像帧中的位置坐标,例如在图像帧中标注物体的矩形框中左上角以及右下角的点的坐标。
另外,第一获取单元31所获取的训练数据中图像帧的标注结果可以为图像帧中特定物体的标注结果,使得最终训练得到的视频检测模型仅能够针对视频中的特定物体来输出检测结果;也可以为图像帧中所包含全部物体的标注结果,使得最终训练得到的视频检测模型能够针对视频中的全部物体来输出检测结果。
第一处理单元32,用于将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果。
第一处理单元32将第一获取单元31获取的训练数据中的视频作为神经网络的输入,从而获取神经网络针对该视频所输出的输出结果。其中,第一处理单元32所获取的神经网络的输出结果为所输入的视频中全部图像帧或部分图像帧的检测结果。
也就是说,本申请在对神经网络进行训练的过程中,除了使得神经网络能够进行物体检测之外,还会使得神经网络能够从视频所包含的图像帧中选取合适的图像帧进行物体检测。因此,第一处理单元32在向神经网络输入视频之后,神经网络会根据自身的分析来输出视频中全部图像帧的检测结果或是视频中部分图像帧的检测结果。
可以理解的是,第一处理单元32所使用的神经网络可以为卷积神经网络、循环神经网络或深度神经网络,本申请对神经网络的类型不进行限定。
比对单元33,用于根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率。
比对单元33根据第一处理单元32所获取的输出结果确定作为输入的视频所包含的全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到神经网络针对该输入视频的检测准确率和检测召回率。
其中,神经网络的检测召回率为神经网络根据所输入的视频,能够准确检测各图像帧中所包含物体的概率;而神经网络的检测准确率则为神经网络对所检测出的物体能够准确输出其在图像帧中位置的概率。
具体地,比对单元33在根据输出结果确定视频中全部图像帧的检测结果时,可以采用以下方式:确定输出结果是否包含视频中全部图像帧的检测结果;若是,则将该输出结果作为视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到视频中全部图像帧的检测结果。
其中,比对单元33可以通过视频中所包含图像帧的数量以及神经网络实际检测图像帧的数量,来确定神经网络的输出结果是否包含视频中全部图像帧的检测结果;也可以通过设置神经网络的参数,使其所输出的输出结果中包含有其是否对视频中的全部图像帧进行检测的结果。
训练单元34,用于根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
训练单元34根据神经网络实际检测该视频中图像帧的数目以及比对单元33所得到的检测准确率和检测召回率,得到神经网络的奖励值,进而利用该奖励值来调整神经网络的参数,得到视频检测模型。
也就是说,训练单元34的奖励值除了包含神经网络的检测准确率和检测召回率之外,还包含有神经网络实际检测图像帧的数目,而神经网络实际检测图像帧的数目能够反映神经网络对视频进行检测的检测速度。因此,训练单元34利用包含上述三个因素的奖励值来调整神经网络的参数,一方面能够提升神经网络的检测准确度,另一方面则能够使得神经网络学会选取合适的图像帧进行检测来提升检测速度。
具体地,训练单元34在根据检测准确率、检测召回率以及神经网络实际检测视频中图像帧的数目得到神经网络的奖励值时,可以采用以下计算公式:
reward=a·acc+b·rec-c·frame_num
其中:reward为奖励值;a、b、c为超参数;acc为检测准确率;rec为检测召回率;frame_num为神经网络实际检测视频中图像帧的数目。
可以理解的是,训练单元34计算奖励值的超参数a、b、c可以根据实际应用场景进行设定,若神经网络重视准召,则将a、b设置较大;若神经网络重视速度,则将c设置较大。
可以理解的是,训练单元34在对神经网络进行训练时,训练目标为使得神经网络的奖励值收敛。其中,使神经网络的奖励值收敛时可以包括:奖励值满足预设阈值,或者在预设次数内得到的奖励值之间的差值小于或等于预设阈值,等等。
训练单元34在对神经网络训练完毕后,就得到了视频检测模型。利用该视频检测模型,能够针对不同的视频自行决策实际进行检测的图像帧,进而输出检测的图像帧中所包含物体的检测结果,从而避免现有的检测模型无论哪个视频均一帧一帧地进行检测的问题,从而提升视频检测的速度和效率。
图4为本发明一实施例提供的一种视频检测的装置结构图,如图4中所示,所述装置包括:第二获取单元41、第二处理单元42以及输出单元43。
第二获取单元41,用于获取待检测视频。
第二获取单元41获取待检测视频。可以理解的是,所获取的待检测视频可以为用户通过终端实时拍摄的视频,也可以为用户选取存储在终端本地的视频,还可以为用户通过终端从互联网中所选取的视频。
第二处理单元42,用于将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果。
第二处理单元42将第二获取单元41中所获取的待检测视频输入到预先训练得到的视频检测模型中,从而得到该视频检测模型针对该待检测视频的输出结果。
可以理解的是,第二处理单元42所获取的输出结果中可能包含待检测视频中全部图像帧的检测结果,也可能只包含待检测视频中部分图像帧的检测结果。
输出单元43,用于确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果。
输出单元43首先确定第二获取单元42所获取的输出结果是否包含待检测视频中全部图像帧的检测结果,若是,则将该输出结果直接作为待检测视频的检测结果,否则,再通过相邻帧插值的方式获取视频检测模型未进行检测的图像帧的检测结果之后,得到待检测视频的检测结果。
可以理解的是,输出单元43可以通过待检测视频中所包含图像帧的数量以及视频检测模型实际检测图像帧的数量,来确定输出结果是否包含视频中全部图像帧的检测结果;也可以直接根据视频检测模型输出的是否对视频中的全部图像帧进行检测的结果,来确定输出结果是否包含视频中全部图像帧的检测结果。
输出单元43通过上述步骤来确定待检测视频中全部图像帧的检测结果,在提升检测速度的同时,确保不会遗漏待检测视频中图像帧的检测结果,从而保证检测结果的完整性。
如图5所示,计算机系统/服务器012以通用计算设备的形式表现。计算机系统/服务器012的组件可以包括但不限于:一个或者多个处理器或者处理单元016,系统存储器028,连接不同系统组件(包括系统存储器028和处理单元016)的总线018。
总线018表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器012典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器012访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器028可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)030和/或高速缓存存储器032。计算机系统/服务器012可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统034可以用于读写不可移动的、非易失性磁介质(图5未显示,通常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线018相连。存储器028可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块042的程序/实用工具040,可以存储在例如存储器028中,这样的程序模块042包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块042通常执行本发明所描述的实施例中的功能和/或方法。
计算机系统/服务器012也可以与一个或多个外部设备014(例如键盘、指向设备、显示器024等)通信,在本发明中,计算机系统/服务器012与外部雷达设备进行通信,还可与一个或者多个使得用户能与该计算机系统/服务器012交互的设备通信,和/或与使得该计算机系统/服务器012能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口022进行。并且,计算机系统/服务器012还可以通过网络适配器020与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器020通过总线018与计算机系统/服务器012的其它模块通信。应当明白,尽管图中未示出,可以结合计算机系统/服务器012使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元016通过运行存储在系统存储器028中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的方法流程。
随着时间、技术的发展,介质含义越来越广泛,计算机程序的传播途径不再受限于有形介质,还可以直接从网络下载等。可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
利用本发明所提供的技术方案,通过在训练神经网络过程中所使用的奖励值中添加神经网络实际检测图像帧的数目,使得神经网络通过多次训练后能够学习到如何从视频中选取合适的图像帧进行检测,避免了在训练检测模型时只考虑检测准确率而忽略所检测的图像帧的数目的问题,从而在进行视频检测时,本发明使用训练得到的视频检测模型能够针对不同的视频选取合适数目的图像帧进行检测,避免了现有技术中的检测模型对于任何视频均采用逐帧检测的方式所导致的检测速度较慢的问题,提升视频检测的检测速度。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (14)
1.一种建立视频检测模型的方法,其特征在于,所述方法包括:
获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果;
将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果;
根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率;
根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
2.根据权利要求1中所述的方法,其特征在于,所述根据所述输出结果确定该视频中全部图像帧的检测结果包括:
确定所述输出结果是否包含该视频中全部图像帧的检测结果;
若是,则将该输出结果作为该视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到该视频中全部图像帧的检测结果。
3.根据权利要求2所述的方法,其特征在于,所述确定所述输出结果是否包含该视频中全部图像帧的检测结果包括:
获取所述视频中包含的图像帧的第一数量;
获取所述输出结果中包含检测结果的图像帧的第二数量;
确定所述第一数量和第二数量是否一致,若是,则确定所述输出结果包含该视频中全部图像帧的检测结果,否则确定所述输出结果未包含该视频中全部图像帧的检测结果。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述神经网络的训练目标为使得所述神经网络的奖励值收敛。
5.一种视频检测的方法,其特征在于,所述方法包括:
获取待检测视频;
将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果;
确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果;
所述视频检测模型是根据权利要求1~4中任一项权利要求预先构建的。
6.根据权利要求5所述的方法,其特征在于,所述确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果包括:
获取所述待检测视频中包含的图像帧的第三数量;
获取所述输出结果中包含检测结果的图像帧的第四数量;
确定所述第三数量和第四数量是否一致,若是,则确定所述输出结果包含所述待检测视频中全部图像帧的检测结果,否则确定所述输出结果未包含所述待检测视频中全部图像帧的检测结果。
7.一种建立视频检测模型的装置,其特征在于,所述装置包括:
第一获取单元,用于获取训练数据,所述训练数据中包含各视频以及各视频所包含图像帧的标注结果;
第一处理单元,用于将所述训练数据中的视频作为神经网络的输入,获取所述神经网络针对该视频的输出结果;
比对单元,用于根据所述输出结果确定该视频中全部图像帧的检测结果,在将各图像帧的检测结果与标注结果进行比对之后,得到所述神经网络的检测准确率和检测召回率;
训练单元,用于根据检测准确率、检测召回率以及所述神经网络实际检测该视频中图像帧的数目得到所述神经网络的奖励值,利用所述奖励值调整所述神经网络的参数,得到视频检测模型。
8.根据权利要求7中所述的装置,其特征在于,所述比对单元在根据所述输出结果确定该视频中全部图像帧的检测结果时,具体执行:
确定所述输出结果是否包含该视频中全部图像帧的检测结果;
若是,则将该输出结果作为该视频中全部图像帧的检测结果,否则,在通过相邻帧插值的方式获取未检测的图像帧的检测结果之后,得到该视频中全部图像帧的检测结果。
9.根据权利要求8所述的装置,其特征在于,所述比对单元在确定所述输出结果是否包含该视频中全部图像帧的检测结果时,具体执行:
获取所述视频中包含的图像帧的第一数量;
获取所述输出结果中包含检测结果的图像帧的第二数量;
确定所述第一数量和第二数量是否一致,若是,则确定所述输出结果包含该视频中全部图像帧的检测结果,否则确定所述输出结果未包含该视频中全部图像帧的检测结果。
10.根据权利要求7所述的方法,其特征在于,所述训练单元还执行:
用于使所述神经网络的训练目标为使得所述神经网络的奖励值收敛。
11.一种视频检测的装置,其特征在于,所述装置包括:
第二获取单元,用于获取待检测视频;
第二处理单元,用于将所述待检测视频作为视频检测模型的输入,获取所述视频检测模型的输出结果;
输出单元,用于确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果,若是,则将所述输出结果作为所述待检测视频的检测结果,否则,在通过相邻帧插值的方式获取所述视频检测模型未检测的图像帧的检测结果之后,得到所述待检测视频的检测结果;
所述视频检测模型是根据权利要求7~10中任一项权利要求预先构建的。
12.根据权利要求11所述的装置,其特征在于,所述输出单元在确定所述输出结果是否包含所述待检测视频中全部图像帧的检测结果时,具体执行:
获取所述待检测视频中包含的图像帧的第三数量;
获取所述输出结果中包含检测结果的图像帧的第四数量;
确定所述第三数量和第四数量是否一致,若是,则确定所述输出结果包含所述待检测视频中全部图像帧的检测结果,否则确定所述输出结果未包含所述待检测视频中全部图像帧的检测结果。
13.一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1~6中任一项所述的方法。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1~6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910758266.5A CN110675361B (zh) | 2019-08-16 | 2019-08-16 | 建立视频检测模型以及视频检测的方法、装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910758266.5A CN110675361B (zh) | 2019-08-16 | 2019-08-16 | 建立视频检测模型以及视频检测的方法、装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110675361A true CN110675361A (zh) | 2020-01-10 |
CN110675361B CN110675361B (zh) | 2022-03-25 |
Family
ID=69075354
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910758266.5A Active CN110675361B (zh) | 2019-08-16 | 2019-08-16 | 建立视频检测模型以及视频检测的方法、装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110675361B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111858756A (zh) * | 2020-06-30 | 2020-10-30 | 全链通有限公司 | 基于区块链的ai训练任务的处理方法、节点及介质 |
CN112288003A (zh) * | 2020-10-28 | 2021-01-29 | 北京奇艺世纪科技有限公司 | 一种神经网络训练、及目标检测方法和装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102855634A (zh) * | 2011-06-28 | 2013-01-02 | 中兴通讯股份有限公司 | 一种图像检测方法及装置 |
CN103297801A (zh) * | 2013-06-09 | 2013-09-11 | 浙江理工大学 | 一种针对视频会议的无参考视频质量评价方法 |
CN106850333A (zh) * | 2016-12-23 | 2017-06-13 | 中国科学院信息工程研究所 | 一种基于反馈聚类的网络设备识别方法及系统 |
CN107590460A (zh) * | 2017-09-12 | 2018-01-16 | 北京达佳互联信息技术有限公司 | 人脸分类方法、装置及智能终端 |
CN108153503A (zh) * | 2017-12-20 | 2018-06-12 | 广东欧珀移动通信有限公司 | 显示控制方法及相关产品 |
CN108647643A (zh) * | 2018-05-11 | 2018-10-12 | 浙江工业大学 | 一种基于深度学习的填料塔液泛状态在线辨识方法 |
CN109344959A (zh) * | 2018-08-27 | 2019-02-15 | 联想(北京)有限公司 | 神经网络训练方法、神经网络系统和计算机系统 |
CN109598332A (zh) * | 2018-11-14 | 2019-04-09 | 北京市商汤科技开发有限公司 | 神经网络生成方法及装置、电子设备和存储介质 |
CN109685144A (zh) * | 2018-12-26 | 2019-04-26 | 上海众源网络有限公司 | 一种对视频模型做评估的方法、装置及电子设备 |
-
2019
- 2019-08-16 CN CN201910758266.5A patent/CN110675361B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102855634A (zh) * | 2011-06-28 | 2013-01-02 | 中兴通讯股份有限公司 | 一种图像检测方法及装置 |
CN103297801A (zh) * | 2013-06-09 | 2013-09-11 | 浙江理工大学 | 一种针对视频会议的无参考视频质量评价方法 |
CN106850333A (zh) * | 2016-12-23 | 2017-06-13 | 中国科学院信息工程研究所 | 一种基于反馈聚类的网络设备识别方法及系统 |
CN107590460A (zh) * | 2017-09-12 | 2018-01-16 | 北京达佳互联信息技术有限公司 | 人脸分类方法、装置及智能终端 |
CN108153503A (zh) * | 2017-12-20 | 2018-06-12 | 广东欧珀移动通信有限公司 | 显示控制方法及相关产品 |
CN108647643A (zh) * | 2018-05-11 | 2018-10-12 | 浙江工业大学 | 一种基于深度学习的填料塔液泛状态在线辨识方法 |
CN109344959A (zh) * | 2018-08-27 | 2019-02-15 | 联想(北京)有限公司 | 神经网络训练方法、神经网络系统和计算机系统 |
CN109598332A (zh) * | 2018-11-14 | 2019-04-09 | 北京市商汤科技开发有限公司 | 神经网络生成方法及装置、电子设备和存储介质 |
CN109685144A (zh) * | 2018-12-26 | 2019-04-26 | 上海众源网络有限公司 | 一种对视频模型做评估的方法、装置及电子设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111858756A (zh) * | 2020-06-30 | 2020-10-30 | 全链通有限公司 | 基于区块链的ai训练任务的处理方法、节点及介质 |
CN112288003A (zh) * | 2020-10-28 | 2021-01-29 | 北京奇艺世纪科技有限公司 | 一种神经网络训练、及目标检测方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110675361B (zh) | 2022-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110363810B (zh) | 建立图像检测模型的方法、装置、设备和计算机存储介质 | |
CN109117831B (zh) | 物体检测网络的训练方法和装置 | |
US20180260621A1 (en) | Picture recognition method and apparatus, computer device and computer- readable medium | |
CN110378346B (zh) | 建立文字识别模型的方法、装置、设备和计算机存储介质 | |
CN109599095B (zh) | 一种语音数据的标注方法、装置、设备和计算机存储介质 | |
CN108090043B (zh) | 基于人工智能的纠错举报处理方法、装置及可读介质 | |
CN106951484B (zh) | 图片检索方法及装置、计算机设备及计算机可读介质 | |
CN109300179B (zh) | 动画制作方法、装置、终端和介质 | |
CN108427941B (zh) | 用于生成人脸检测模型的方法、人脸检测方法和装置 | |
US20180329402A1 (en) | Estimation of abnormal sensors | |
CN111291882A (zh) | 一种模型转换的方法、装置、设备和计算机存储介质 | |
CN110675361B (zh) | 建立视频检测模型以及视频检测的方法、装置 | |
CN110633033A (zh) | 任务显示的方法、设备和计算机存储介质 | |
CN110363193B (zh) | 车辆重识别方法、装置、设备和计算机存储介质 | |
CN109657127B (zh) | 一种答案获取方法、装置、服务器及存储介质 | |
CN111836093B (zh) | 视频播放方法、装置、设备和介质 | |
CN110850982A (zh) | 基于ar的人机交互学习方法、系统、设备及存储介质 | |
CN111124863A (zh) | 智能设备性能测试方法、装置及智能设备 | |
CN114299366A (zh) | 一种图像检测方法、装置、电子设备及存储介质 | |
CN109522451B (zh) | 重复视频检测方法和装置 | |
CN114461078B (zh) | 一种基于人工智能的人机交互方法 | |
CN111382643A (zh) | 一种手势检测方法、装置、设备及存储介质 | |
CN113256651B (zh) | 模型训练方法及装置、图像分割方法及装置 | |
CN113361519B (zh) | 目标处理方法、目标处理模型的训练方法及其装置 | |
CN115695777A (zh) | 检测视频卡顿的方法及装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |