CN111553302B - 关键帧选取方法、装置、设备及计算机可读存储介质 - Google Patents
关键帧选取方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111553302B CN111553302B CN202010383754.5A CN202010383754A CN111553302B CN 111553302 B CN111553302 B CN 111553302B CN 202010383754 A CN202010383754 A CN 202010383754A CN 111553302 B CN111553302 B CN 111553302B
- Authority
- CN
- China
- Prior art keywords
- target object
- index value
- contour
- quality
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种关键帧选取方法、装置、设备及计算机可读存储介质,所述对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。本发明为关键帧选取提供了一个稳定可行的方案,进而能够提高目标物识别的准确率。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种关键帧选取方法、装置、设备及计算机可读存储介质。
背景技术
随着计算机技术的发展,越来越多的技术(大数据、分布式、区块链Blockchain、人工智能等)应用在金融领域,传统金融业正在逐步向金融科技(Fintech)转变,但由于金融行业的安全性、实时性要求,也对技术提出了更高的要求。
目前,在很多领域中需要对图像中的目标物进行检测识别,例如,智能仓管系统中,需要拍摄货物的图像,识别图像中货物的数量和类别。要对图像中的目标物进行识别,需要图像拍摄角度合适,图像中目标物清晰可见,才能够得到好的识别结果。然而在实际应用场景中,由于很多因素导致难以拍摄到处于静止状态的目标物,只能在目标物经过摄像头时进行抓拍,但由于目标物的运动速度、环境光线变化、不明物遮挡等各种不确定因素,使得抓拍到的图像大部分存在不清晰、角度不合适等问题,而不适合用于识别目标物,因此,目前基于拍摄的多张图像,很难选出一个最合适的图像(关键帧)来用于进行目标物识别,从而导致对目标物的识别检测效果不佳。
发明内容
本发明的主要目的在于提供一种关键帧选取方法、装置、设备及计算机可读存储介质,旨在解决目前很难选出一个最合适的图像来用于进行目标物识别的问题。
为实现上述目的,本发明提供一种关键帧选取方法,所述关键帧选取方法包括以下步骤:
对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;
根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;
当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。
可选地,所述质量指标值包括轮廓面指标值,所述根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值的步骤包括:
根据所述轮廓关键信息确定所述目标物图像中由各个轮廓关键特征所构成的轮廓面区域;
计算所述轮廓面区域在预设轮廓面质量指标下的轮廓面指标值;
所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤包括:
当检测到所述轮廓面指标值大于目标指标值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标指标值是当前关键帧的轮廓面指标值或预设的指标值。
可选地,所述质量指标值还包括距离指标值,所述根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值的步骤包括:
基于所述轮廓关键信息信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值;
所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤包括:
当检测到所述距离指标值小于目标距离值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标距离值是当前关键帧的距离指标值或预设的距离值。
可选地,所述质量指标值,包括轮廓面指标值和距离指标值,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之前,还包括:
基于所述轮廓面指标值计算得到所述目标物图像的图像质量值;
确定与所述目标物图像对应的当前关键帧,并获取所述当前关键帧对应的关键帧质量值和关键帧距离指标值;
检测所述目标物图像的距离指标值与所述关键帧距离指标值的距离比例是否小于预设比例,以及检测所述图像质量值是否大于所述关键帧质量值;
若所述距离比例小于所述预设比例,且所述图像质量值大于所述关键帧质量值,则确定所述质量指标值满足所述预设质量条件。
可选地,所述基于所述轮廓面指标值计算得到所述目标物图像的图像质量值的步骤包括:
基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值;
从各所述区域质量值选出最大的区域质量值作为所述目标物图像的图像质量值。
可选地,所述基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值的步骤包括:
基于所述轮廓面指标值分别将各轮廓面区域对应的各指标值相乘,得到各所述轮廓面区域对应的区域质量值,其中,所述轮廓面区域对应的指标值至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。
可选地,所述确定与所述目标物图像对应的当前关键帧的步骤包括:
将所述轮廓关键信息分别同一在前图像对应的各在前轮廓关键信息输入预设追踪算法,得到所述轮廓关键信息与各所述在前轮廓关键信息之间对应的匹配度;
基于所述匹配度选出与所述轮廓关键信息匹配度最大的目标在前轮廓关键信息;
将所述目标在前轮廓关键信息对应的当前关键帧作为所述目标物图像对应的当前关键帧。
可选地,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之后,还包括:
根据所述质量指标值计算得到所述目标物图像的图像置信度;
获取各摄像设备对应关键帧的图像置信度;
从所述目标物图像的图像置信度和各所述摄像设备对应的图像置信度中选出最大的置信度,将所述最大的置信度对应的图像作为用于识别目标物的最终关键帧。
为实现上述目的,本发明还提供一种关键帧选取装置,所述关键帧选取装置包括:
识别模块,用于对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;
计算模块,用于根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;
确定模块,用于当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。
为实现上述目的,本发明还提供一种关键帧选取设备,所述关键帧选取设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的关键帧选取程序,所述关键帧选取程序被所述处理器执行时实现如上所述的关键帧选取方法的步骤。
此外,为实现上述目的,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有关键帧选取程序,所述关键帧选取程序被处理器执行时实现如上所述的关键帧选取方法的步骤。
本发明中,通过对目标物图像进行识别得到目标物图像中目标物的轮廓关键信息,再根据轮廓关键信息所限定的区域计算得到目标物图像的质量指标值,当检测质量指标值满足预设质量条件时,将目标物图像作为用于识别目标物的关键帧。本发明中,通过识别得到图像中目标物的轮廓关键信息,以图像中轮廓关键信息所限定的区域作为图像质量指标值计算的基础,使得计算得到的质量指标值能够体现目标物所在区域的图像质量;通过当检测到质量指标值满足预设质量条件时,将目标物图像作为关键帧,实现了以目标物所在区域的图像质量作为关键帧确定的依据,使得最终确定的关键帧更加利于对目标物的识别,为关键帧的选取提供了一个稳定可行的方案,进而能够提高目标物识别的准确率。
附图说明
图1为本发明实施例方案涉及的硬件运行环境的结构示意图;
图2为本发明关键帧选取方法第一实施例的流程示意图;
图3为本发明关键帧选取装置较佳实施例的功能示意图模块图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明实施例方案涉及的硬件运行环境的设备结构示意图。
需要说明的是,本发明实施例关键帧选取设备可以是智能手机、个人计算机和服务器等设备,在此不做具体限制。
如图1所示,该关键帧选取设备可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的设备结构并不构成对关键帧选取设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及关键帧选取程序。其中,操作系统是管理和控制设备硬件和软件资源的程序,支持关键帧选取程序以及其它软件或程序的运行。
在图1所示的设备中,用户接口1003主要用于与客户端进行数据通信;网络接口1004主要用于与服务器建立通信连接;而处理器1001可以用于调用存储器1005中存储的关键帧选取程序,并执行以下操作:
对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;
根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;
当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。
进一步地,所述质量指标值包括轮廓面指标值,所述根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值的步骤包括:
根据所述轮廓关键信息确定所述目标物图像中由各个轮廓关键特征所构成的轮廓面区域;
计算所述轮廓面区域在预设轮廓面质量指标下的轮廓面指标值;
所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤包括:
当检测到所述轮廓面指标值大于目标指标值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标指标值是当前关键帧的轮廓面指标值或预设的指标值。
进一步地,所述质量指标值还包括距离指标值,所述根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值的步骤包括:
基于所述轮廓关键信息信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值;
所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤包括:
当检测到所述距离指标值小于目标距离值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标距离值是当前关键帧的距离指标值或预设的距离值。
进一步地,所述质量指标值,包括轮廓面指标值和距离指标值,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之前,处理器1001还可以用于调用存储器1005中存储的关键帧选取程序,执行以下操作:
基于所述轮廓面指标值计算得到所述目标物图像的图像质量值;
确定与所述目标物图像对应的当前关键帧,并获取所述当前关键帧对应的关键帧质量值和关键帧距离指标值;
检测所述目标物图像的距离指标值与所述关键帧距离指标值的距离比例是否小于预设比例,以及检测所述图像质量值是否大于所述关键帧质量值;
若所述距离比例小于所述预设比例,且所述图像质量值大于所述关键帧质量值,则确定所述质量指标值满足所述预设质量条件。
进一步地,所述基于所述轮廓面指标值计算得到所述目标物图像的图像质量值的步骤包括:
基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值;
从各所述区域质量值选出最大的区域质量值作为所述目标物图像的图像质量值。
进一步地,所述基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值的步骤包括:
基于所述轮廓面指标值分别将各轮廓面区域对应的各指标值相乘,得到各所述轮廓面区域对应的区域质量值,其中,所述轮廓面区域对应的指标值至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。
进一步地,所述确定与所述目标物图像对应的当前关键帧的步骤包括:
将所述轮廓关键信息分别同一在前图像对应的各在前轮廓关键信息输入预设追踪算法,得到所述轮廓关键信息与各所述在前轮廓关键信息之间对应的匹配度;
基于所述匹配度选出与所述轮廓关键信息匹配度最大的目标在前轮廓关键信息;
将所述目标在前轮廓关键信息对应的当前关键帧作为所述目标物图像对应的当前关键帧。
进一步地,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之后,处理器1001还可以用于调用存储器1005中存储的关键帧选取程序,执行以下操作:
根据所述质量指标值计算得到所述目标物图像的图像置信度;
获取各摄像设备对应关键帧的图像置信度;
从所述目标物图像的图像置信度和各所述摄像设备对应的图像置信度中选出最大的置信度,将所述最大的置信度对应的图像作为用于识别目标物的最终关键帧。
基于上述的结构,提出关键帧选取方法的各个实施例。
参照图2,图2为本发明关键帧选取方法第一实施例的流程示意图。
本发明实施例提供了关键帧选取方法的实施例,需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。本发明关键帧选取方法各个实施例的执行主体可以是智能手机、个人计算机和服务器等设备,为便于描述,以下各实施例中省略执行主体进行阐述。在本实施例中,关键帧选取方法包括:
步骤S10,对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;
在本实施例中,可以获取目标物图像,然后判断是否将该目标物图像作为关键帧,关键帧即确定的适合用于识别目标物的图像。其中,结合具体的应用场景不同,目标物不同。例如,在智能仓储中需要对来往货物进行数量和品类的识别,在这种应用场景下目标物为货物,目标物图像可以是智能仓储场所设置的摄像设备所拍摄的货物图像。那么在其他的应用场景下,目标物还可以是车辆、人脸或植被等等。
在获取到目标物图像后,可以对该目标物图像进行识别,得到目标物图像中目标物的轮廓关键信息。其中,轮廓关键信息可以包括目标物的关键点、关键线等与轮廓相关的关键特征的信息,关键特征的信息可包括关键特征在图像中的位置、是否可见等信息。预先可以设置一个目标检测模型,通过该目标检测模型来识别目标物图像中目标物的轮廓关键信息。该目标检测模型可以是采用现有常用的目标检测模型,如Yolov3网络(一种目标检测网络),并在目标检测模型中增加轮廓关键信息检测分支,通过对目标检测模型的预先训练,得到能够识别出目标物图像中目标物的轮廓关键信息的目标检测模型。例如,可以大量采集拍摄有货物的图像,预先标记了各个图像中货物的轮廓关键信息,采用这些图像来对目标检测模型进行训练,通过标记信息来监督模型识别轮廓关键信息的准确性,从而获得能够识别出货物的轮廓关键信息的目标检测模型。
需要说明的是,目标物图像中可能包括多个目标物,可以通过轮廓关键信息中轮廓关键特征的位置,将距离较远的轮廓关键特征划分开,从而区别出多个目标物的轮廓关键信息。针对其中的一个目标物,按照后续的处理流程,采用该目标物的轮廓关键信息,来确定该目标物图像是否可以作为用于识别该目标物的关键帧。也就是说,对于一个目标物图像而言,该目标物图像中可能包括多个目标物,该目标物图像可能适合作为其中一部分目标物的关键帧,而不适合作为另一部分目标物的关键帧。
步骤S20,根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;
在获取得到目标物的轮廓关键信息后,可以根据轮廓关键信息计算目标物图像的质量指标值。其中,可以预先设置一些用于评价目标物图像是否适合作为关键帧的质量指标,质量指标可以有多个,例如,可包括清晰度、可见度等指标。基于轮廓关键信息来计算质量指标值,具体可以是基于轮廓关键信息所限定的区域来计算质量指标值,例如,当质量指标包括清晰度时,可以计算目标物图像中轮廓关键信息所限定的区域的清晰度。清晰度的计算方法可以采用现有的图像清晰度计算方法,在此不作详细赘述。确定轮廓关键信息所限定的区域的方式有多种,例如,可以是根据轮廓关键信息中各个轮廓关键特征的位置,将处于各个轮廓关键特征边缘的各个轮廓关键特征相连接,得到一个区域,将该区域作为轮廓关键信息所限定的区域。
在计算得到目标物图像的质量指标值后,可检测目标物图像的质量指标值是否满足预设质量条件。具体地,预设质量条件可以是预先设置的一个条件,根据具体需要不同,预设质量条件可以不同;例如,可以设置为目标物图像的质量指标值需要大于预设阈值;当需要在多张图像中选取一个图像作为关键帧时,预设质量条件还可以设置为该目标物图像的质量指标值是多张图像中最高的;当需要跟当前的关键帧作比较,确定是否用该目标物图像来更新当前关键帧时,预设质量条件还可以设置为该目标物图像的质量指标值需要大于当前关键帧的质量指标值。
步骤S30,当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。
当检测到质量指标值满足该预设质量条件时,可将目标物图像作为用于识别目标物的关键帧。在确定将该目标物图像作为用于识别目标物的关键帧后,根据具体的应用场景不同,对目标物的识别任务不同,可以采用不同的目标识别模型来对关键帧完成识别任务,目标识别模型可以采用现有常用的模型,例如,人脸识别场景下可采用人脸识别模型,货物种类识别场景下,可以采用货物种类识别模型,在此不进行详细赘述。
在本实施例中,通过对目标物图像进行识别得到目标物图像中目标物的轮廓关键信息,再根据轮廓关键信息所限定的区域计算得到目标物图像的质量指标值,当检测质量指标值满足预设质量条件时,将目标物图像作为用于识别目标物的关键帧。本实施例中,通过识别得到图像中目标物的轮廓关键信息,以图像中轮廓关键信息所限定的区域作为图像质量指标值计算的基础,使得计算得到的质量指标值能够体现目标物所在区域的图像质量;通过当检测到质量指标值满足预设质量条件时,将目标物图像作为关键帧,实现了以目标物所在区域的图像质量作为关键帧确定的依据,使得最终确定的关键帧更加利于对目标物的识别,为关键帧的选取提供了一个稳定可行的方案,进而能够提高目标物识别的准确率。
进一步地,基于上述第一实施例,提出本发明关键帧选取方法第二实施例,在本实施例中,所述步骤S10包括:
步骤S101,调用预设目标检测模型对目标物图像进行识别,得到所述目标物图像中目标物的关键点信息。
进一步地,在本实施例中,轮廓关键信息可包括目标物的关键点信息。可调用预设目标检测模型对目标物图像进行识别,得到目标物图像中目标物的关键点信息。其中,预设目标检测模型可以是预先设置并训练好的一个模型,该模型结构可以采用现有常用的目标检测模型,并在目标检测模型中增加关键点检测分支,即用于提取图像中目标物的关键点的分支。预先可以获取大量包含目标物的图像,对图像中目标物的关键点进行标记;关键点可以取该类型的目标物大都具备的关键点,例如,目标物是长方体形状的货物时,关键点可以是长方体货物的8个角点,需要说明的是,图像中货物的8个点其中最多只有7个点同时可见,因此,对图像中目标物关键点的标记可以包括关键点的位置和是否可见的标签;采用获取到图像和图像的标记信息,对目标检测模型进行训练,得到能够识别出目标物图像中目标物的关键点信息的目标检测模型。那么调用该目标检测模型识别到的关键点信息可包括图像中目标物的关键点的位置和是否可见等信息。
基于目标物图像中目标物的关键点信息,可以确定目标物在图像中的位置,即所在的区域。在一种可行的实施方式中,可以根据关键点信息中各个关键点的位置以及是否可见的信息,确定各个可见的关键点之间的距离和位置关系,基于距离和位置关系,将各个可见的关键点中处于边缘的关键点进行顺次连接,从而得到各个可见的关键点在图像中所限定的区域。基于该区域可以计算目标物图像的质量指标值,例如,质量指标包括清晰度,则可计算该区域的清晰度。检测计算得到的质量指标值满足预设质量条件时,将该目标物图像作为用于识别目标物的关键帧。
在本实施例中,通过对目标物图像进行识别,获取目标物图像中的关键点信息,能够准确地定位目标物在图像中的位置,根据关键点信息计算目标物图像的质量指标值,根据质量指标值确定目标物图像是否适合作为关键帧,使得最终确定的关键帧在目标物的可识别性上更强,从而提高了获取到的关键帧的准确率。
进一步地,所述质量指标值包括轮廓面指标值,所述步骤S20包括:
步骤S201,根据所述轮廓关键信息确定所述目标物图像中由各个轮廓关键特征所构成的轮廓面区域;
进一步地,可根据轮廓关键信息确定目标物图像中由各个轮廓关键特征所构成的轮廓面区域。具体地,可根据轮廓关键信息,确定各个轮廓关键特征之间的距离和位置关系,根据各个轮廓关键特征之间的距离和位置关系,确定由各个轮廓关键特征所构成的轮廓面区域。可预先根据目标物的特点,设置各个轮廓关键特征之间的距离和位置关系满足何种条件时,各个轮廓关键特征可以构成轮廓面,那么,可以判断获取到的各个轮廓关键特征之间的距离和位置关系是否满足该预先设置的条件,若满足,则确定各个轮廓关键特征构成轮廓面,并将各个轮廓关键特征在图像中所划分出的区域,作为轮廓面区域。
例如,当轮廓关键特征是关键点时,可根据关键点信息确定目标物图像中各个关键点所构成的轮廓面区域。具体地,可以根据关键点信息确定各个关键点是否可见,以及可见的关键点在图像中的位置;确定了可见的关键点在图像中的位置后,可以确定各个关键点之间的距离和位置关系,根据距离和位置关系,可以哪几个关键点之间能够构成目标物的轮廓面区域,以及将能够确定包含几个轮廓面区域。例如,当目标物是长方体形状的货物时,从目标物图像中识别出货物的7个角点是可见的,根据7个角点的位置,确定7个角点之间的距离和位置关系,根据7个点的距离和位置关系,可确定货物的三个轮廓面区域,即正视面、俯视面和一个侧视面。
步骤S202,计算所述轮廓面区域在预设轮廓面质量指标下的轮廓面指标值。
预先可以设置轮廓面质量指标,例如,预设轮廓面质量指标可至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。在确定了轮廓面区域后,可计算轮廓面区域在预设轮廓面质量指标下的轮廓面指标值。具体地,当轮廓区域有多个时,可以分别计算各个轮廓面区域的轮廓面指标值,也可以将各个轮廓面区域作为一整个区域,计算轮廓面指标值。例如,可以计算每个轮廓面区域的清晰度、可见度和面积等,将计算得到的结果作为轮廓面指标值。其中,清晰度、可见度和面积的计算方式可采用现有常见的计算方式,在此不进行详细赘述。
所述步骤S30包括:
步骤S301,当检测到所述轮廓面指标值大于目标指标值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标指标值是当前关键帧的轮廓面指标值或预设的指标值。
当质量指标值包括轮廓面指标值时,可以在计算得到轮廓面区域的轮廓面指标值后,检测轮廓面指标值是否大于目标指标值。当检测到轮廓面指标值大于该目标指标值时,确定质量指标值满足预设质量条件,否则,确定质量指标值不满足预设质量条件。也即,此时预设质量条件是轮廓面指标值需要大于目标指标值。其中,目标指标值可以是当前关键帧的轮廓面指标值或预设的指标值;当前关键帧可以是当前已经确定的一个关键帧,该关键帧可以是从已拍摄的多张图像中选取出来的;预设的指标值可以是根据对关键帧的具体质量要求而设置的。当预设轮廓面质量指标有多个时,对应的目标指标值也可以设置多个,例如,质量指标包括面积和清晰度时,对应的目标指标值可包括目标面积和目标清晰度值,那么比较时要分开检测;也即,检测轮廓面区域的面积是否大于该目标面积,以及检测轮廓面区域的清晰度是否大于该目标清晰度,当两者都大于时,才确定轮廓面区域的轮廓面指标值大于目标指标值,进而确定指令指标值满足预设质量条件。
当检测到轮廓面指标值大于目标指标值时,确定质量指标值满足预设质量条件,并将目标物图像作为用于识别目标物的关键帧。其中,若目标指标值是当前关键帧的轮廓面指标值,则当检测到目标物图像的轮廓面指标值大于目标指标值时,将目标物图像作为用于识别目标物的关键帧,也即采用该目标物图像来更新该当前关键帧。
在一可行实施方式中,若确定了目标物的多个轮廓面,计算得到了每个轮廓面的各个指标值,则可以根据预先设置的一个图像质量计算公式,将各个轮廓面的各个指标值代入该公式中,计算目标物图像的一个图像质量值;然后检测图像质量值是否大于一个预设的质量值,若大于,则将该目标物图像作为关键帧;或者检测图像质量值是否当前的关键帧的图像质量值,若大于,则将该目标物图像作为新的关键帧,更新原来的关键帧。其中,图像质量计算公式可以根据具体的应用场景不同,根据具体的需求不同进行设置,例如,可以设置为将每个轮廓面的各个指标值相乘得到每个轮廓面的质量值,然后将每个轮廓面的质量值相加,得到的结果作为目标物图像的图像质量值。
在本实施例中,通过根据目标物图像中目标物的轮廓关键信息确定各个轮廓关键特征所构成的轮廓面区域,将轮廓面区域在预设轮廓面质量指标下的轮廓面指标值,作为目标物图像的质量指标值,实现对图像细化到目标物的各个轮廓面,根据轮廓面的指标值来确定目标物图像是否适合作为关键帧,使得最终确定的关键帧更加合适、准确。
进一步地,所述质量指标值包括距离指标值,所述步骤S20包括:
步骤S203,基于所述轮廓关键信息信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
进一步地,在本实施例中,质量指标值还可以包括距离指标值。具体地,可以根据得到的目标物图像中目标物的轮廓关键信息,例如关键点信息,确定目标物图像中目标物在目标物图像中的实际位置。根据关键点信息确定目标物的实际位置的方式有多种。例如,可以是计算得到目标物图像中的一个距离各个可见关键点距离都相等的点,以该点所在位置作为目标物的实际位置;还可以是当目标物为长方体形状的货物时,以正视面的四个角点的中心点所在位置作为目标物的实际位置。
步骤S204,计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值。
计算得到目标物图像中目标物的实际位置后,计算实际位置与目标物图像中的预设的最优位置之间的距离。其中,可以通过预先架设好摄像设备,根据摄像设备拍摄的图像,确定目标物处于图像中哪个位置时,最利于目标物的识别,将该位置设置为最优位置,例如,根据摄像设备架设的角度,当目标物处于摄像设备所拍摄到的图像的最中间时,最利于目标物识别,则将该最中间的位置确定为最优位置。在计算得到图像中目标物的实际位置与最优位置之间的距离后,可将该距离作为目标物图像的距离指标值。可以理解的是,当距离指标值越小时,目标物图像越适合作为关键帧。
所述步骤S30包括:
步骤S302,当检测到所述距离指标值小于目标距离值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标距离值是当前关键帧的距离指标值或预设的距离值。
当质量指标值包括距离指标值时,可以在计算得到目标物图像的距离指标值后,检测距离指标值是否小于目标距离值。当检测到距离指标值小于该目标距离值时,确定质量指标值满足预设质量条件,否则,确定质量指标值不满足预设质量条件。也即,此时预设质量条件是目标物图像的距离指标值需要小于目标距离值。其中,目标距离值可以是当前关键帧的距离指标值或预设的距离值;预设的距离值可以是根据对关键帧的具体质量要求而设置的。
当检测到目标物图像的距离指标值大于目标距离值时,确定质量指标值满足预设质量条件,并将目标物图像作为用于识别目标物的关键帧。其中,若目标距离值是当前关键帧的距离指标值,则当检测到目标物图像的距离指标值大于目标指标值时,将目标物图像作为用于识别目标物的关键帧,也即采用该目标物图像来更新该当前关键帧。
进一步地,在一实施方式中,质量指标值可包括距离指标值和轮廓面指标值,此时可以根据距离指标值和轮廓面指标值来判断目标物图像是否合适作为关键帧。具体地,预设质量条件可以是当距离指标值小于一个阈值,且轮廓面指标值大于一个阈值时,确定质量指标值满足预设质量条件,其中,两个阈值可以根据具体需要进行设置。
进一步地,当质量指标值包括距离指标值和轮廓面指标值时,所述步骤S20之前,还包括:
步骤S40,基于所述轮廓面指标值计算得到所述目标物图像的图像质量值;
进一步地,在本实施例中,可以根据目标物图像的轮廓面指标值,计算得到目标物图像的图像质量值。具体地,若确定了目标物的多个轮廓面,计算得到了每个轮廓面的各个指标值,则可以根据预先设置的一个图像质量计算公式,将各个轮廓面的各个指标值代入该公式中,计算目标物图像的一个图像质量值。图像质量计算公式可以根据具体的应用场景不同,根据具体的需求不同进行设置,例如,可以设置为将每个轮廓面的各个指标值相乘得到每个轮廓面的质量值,然后将每个轮廓面的质量值相加,得到的结果作为目标物图像的图像质量值。
步骤S50,确定与所述目标物图像对应的当前关键帧,并获取所述当前关键帧对应的关键帧质量值和关键帧距离指标值;
可以确定与目标物图像对应的当前关键帧,并获取当前关键帧对应的关键帧质量值和关键帧距离指标值。其中,当前关键帧即在该目标物图像之前拍摄的,已暂时被确定为用于识别目标物的关键帧的图像,关键帧质量值即当前关键帧的图像质量值,关键帧距离指标值即当前关键帧的距离指标值。
步骤S60,检测所述目标物图像的距离指标值与所述关键帧距离指标值的距离比例是否小于预设比例,以及检测所述图像质量值是否大于所述关键帧质量值;
检测该目标物图像的距离指标值与关键帧距离指标值的距离比例,是否小于预设比例。也即该目标物图像的距离指标值与关键帧距离指标值的比例,并检测该比例是否小于预设比例。其中,预设比例可以是根据需要设置,例如,设置为1.2,也即需要目标物图像的距离指标值不能超过关键帧距离指标值的1.2倍。并检测目标物图像的图像质量值是否大于关键帧质量值。
步骤S70,若所述距离比例小于所述预设比例,且所述图像质量值大于所述关键帧质量值,则确定所述质量指标值满足所述预设质量条件。
若检测到距离比例小于预设比例,并且检测到图像质量值大于关键帧质量值,则确定质量指标值满足预设质量条件,进而可以将该目标物图像作为用于识别目标物的关键帧,以替换当前关键帧,完成关键帧的更新。更新后的关键帧比更新前的关键帧更适合用于识别目标物,进而能够提升关键帧选取的准确度,提升目标物识别的准确度。若检测到距离比例不小于预设比例,或者检测到图像质量值不大于关键帧质量值,则确定质量指标值不满足预设质量条件,仍然将保留当前关键帧。
也即,可以对要识别的目标物连续拍摄多各图像,按照拍摄的时间顺序,依次处理各个目标物图像;对于第一张目标物图像,可将该目标物图像作为关键帧,对于后续的目标物图像,若比当前关键帧的图像质量值更大,距离指标值又不超过当前关键帧的距离指标值的预设倍数,就可以将该目标物图像替换当前关键帧,否则保留当前关键帧。
在本实施例中,通过识别出目标物图像中目标物的轮廓关键信息,再根据轮廓关键信息计算目标物在图像中的实际位置,相比于现有的目标检测模型中的检测框,得到的目标物的实际位置更加准确。并通过计算目标物的实际位置与最优位置之间的距离,得到目标物图像的距离指标值,根据距离指标值和轮廓面指标值一起来检测目标物图像是否适合作为关键帧,从多个指标来判断,可以精确计算每个面的图像质量,通过合理设计评价方法,可以大幅提高获取的关键帧的质量和稳定性。并通过一帧一帧的处理、关键帧更新的方式,使得关键帧选取过程更加实时,只要有一帧目标物图像适合后续的目标物识别,就会被记录保存下来作为关键帧。相比基于单帧或多帧的目标物图像获取,性能更加稳定,鲁棒性更强。
进一步地,所述步骤S40包括:
步骤S401,基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值;
进一步地,目标物图像的图像质量值的计算方式可以是:根据轮廓面指标值中各个轮廓面区域对应的指标值,分别计算各个轮廓面区域对应的区域质量值。具体地,可基于所述轮廓面指标值分别将各轮廓面区域对应的各指标值相乘,得到各所述轮廓面区域对应的区域质量值,其中,所述轮廓面区域对应的指标值至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。也即,对每一个轮廓面区域,可以将该轮廓面区域的各个指标值进行相乘,得到该轮廓面区域的区域质量值。例如,轮廓面指标有清晰度、可见度、面积时,对每个轮廓面区域,将该轮廓面区域的这三个指标值相乘,得到该轮廓面区域的区域质量值。
步骤S402,从各所述区域质量值选出最大的区域质量值作为所述目标物图像的图像质量值。
得到各个轮廓面区域对应的区域质量值后,可从各个区域质量值中选出最大的区域质量值作为目标物图像的图像质量值。
进一步地,基于上述第一或第二实施例,提出本发明关键帧选取方法第三实施例,在本实施例中,所述步骤S50中确定与所述目标物图像对应的当前关键帧的包括:
步骤S501,将所述轮廓关键信息分别同一在前图像对应的各在前轮廓关键信息输入预设追踪算法,得到所述轮廓关键信息与各所述在前轮廓关键信息之间对应的匹配度;
进一步地,当目标物图像中有多个目标物时,对于其中一个目标物,为确定该目标物所对应的当前关键帧,可以获取该目标物图像的一张在前图像,该在前图像可以是在连续抓拍的图像中,在邻近该目标物图像之前拍摄的一张图像。可以理解的是,已对该在前图像进行了是否能够替代当前关键帧的判断。将目标物图像中该目标物的轮廓关键信息,分别同该在前图像中的各个在前轮廓关键信息输入预设追踪算法中,得到该轮廓关键信息与各个在前轮廓关键信息之间对应的匹配度。其中,预设追踪算法可以是预先设置的一个追踪算法,例如,sort算法(一种多目标追踪算法)。追踪算法的原理是基于轮廓关键信息中轮廓关键特征的位置,确定两个轮廓关键信息对应的目标物是否为同一个。
步骤S502,基于所述匹配度选出与所述轮廓关键信息匹配度最大的目标在前轮廓关键信息;
在得到该目标物的轮廓关键信息与各在前轮廓关键信息之间的匹配度后,从各个在前轮廓关键信息中选出与该目标物的轮廓关键信息的匹配度最高的在前轮廓关键信息,作为目标在前轮廓关键信息。需要说明的是,匹配度最高的在前轮廓关键信息所对应的目标物,最可能与该目标物是同一个目标物。
步骤S503,将所述目标在前轮廓关键信息对应的当前关键帧作为所述目标物图像对应的当前关键帧。
将目标在前轮廓关键信息对应的当前关键帧,作为目标物图像对应的当前关键帧。也即,在前已经计算得到了各个在前图像中目标物的对应关系,以及各个目标物的当前关键帧,对于最新拍摄的目标物图像,通过追踪算法确定该目标物图像中的某个目标物,与前面的哪一个目标物是对应的,即可确定该目标物对应的当前关键帧,也即确定了目标物图像的当前关键帧。
进一步地,所述步骤S30之后,还包括:
步骤S80,根据所述质量指标值计算得到所述目标物图像的图像置信度;
步骤S90,获取各摄像设备对应关键帧的图像置信度;
步骤A10,从所述目标物图像的图像置信度和各所述摄像设备对应的图像置信度中选出最大的置信度,将所述最大的置信度对应的图像作为用于识别目标物的最终关键帧。
进一步地,在本实施例中,在确定目标物图像作为关键帧后,还可以计算目标物图像的置信度,当有多个摄像设备时,可以对每个摄像设备拍摄的图像分别进行关键帧选取,得到每个设备分别对应的关键帧,然后对各个关键帧的置信度进行比较,将置信度最高的关键帧作为最终的关键帧,采用最终的关键帧作为用于识别目标物的图像。其中,置信度有多种可能的计算方式,例如,可以是将对目标物图像的每个轮廓面区域,将该轮廓面区域的各个指标值相乘得到各个轮廓面区域的区域质量值,然后将各个轮廓面区域的区域质量值相加,得到目标物图像的置信度。
此外,此外本发明实施例还提出一种关键帧选取装置,参照图3,所述关键帧选取装置包括:
识别模块10,用于对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息;
计算模块20,用于根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值;
确定模块30,用于当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧。
进一步地,所述轮廓关键信息包括目标物的关键点信息,所述识别模块10还用于调用预设目标检测模型对目标物图像进行识别,得到所述目标物图像中目标物的关键点信息。
进一步地,所述质量指标值包括轮廓面指标值,所述计算模块20包括:
第一确定单元,用于根据所述轮廓关键信息确定所述目标物图像中由各个轮廓关键特征所构成的轮廓面区域;
第一计算单元,用于计算所述轮廓面区域在预设轮廓面质量指标下的轮廓面指标值;
所述确定模块30还用于:当检测到所述轮廓面指标值大于目标指标值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标指标值是当前关键帧的轮廓面指标值或预设的指标值。
进一步地,所述质量指标值包括距离指标值,所述计算模块20包括:
第二确定单元,用于基于所述轮廓关键信息信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
第二计算单元,用于计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值;
所述确定模块30还用于:当检测到所述距离指标值小于目标距离值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标距离值是当前关键帧的距离指标值或预设的距离值。
进一步地,所述质量指标值,包括轮廓面指标值和距离指标值,所述计算模块20还用于基于所述轮廓面指标值计算得到所述目标物图像的图像质量值;
所述确定模块30还用于确定与所述目标物图像对应的当前关键帧,并获取所述当前关键帧对应的关键帧质量值和关键帧距离指标值;
所述关键帧选取装置还包括:
检测模块,用于检测所述目标物图像的距离指标值与所述关键帧距离指标值的距离比例是否小于预设比例,以及检测所述图像质量值是否大于所述关键帧质量值;
所述确定模块30还用于若所述距离比例小于所述预设比例,且所述图像质量值大于所述关键帧质量值,则确定所述质量指标值满足所述预设质量条件。
进一步地,所述计算模块20包括:
第二计算单元,用于基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值;
第一选择单元,用于从各所述区域质量值选出最大的区域质量值作为所述目标物图像的图像质量值。
进一步地,所述第二计算单元还用于:基于所述轮廓面指标值分别将各轮廓面区域对应的各指标值相乘,得到各所述轮廓面区域对应的区域质量值,其中,所述轮廓面区域对应的指标值至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。
进一步地,所述确定模块30包括:
输入单元,用于将所述轮廓关键信息分别同一在前图像对应的各在前轮廓关键信息输入预设追踪算法,得到所述轮廓关键信息与各所述在前轮廓关键信息之间对应的匹配度;
第二选择单元,用于基于所述匹配度选出与所述轮廓关键信息匹配度最大的目标在前轮廓关键信息;
第三确定单元,用于将所述目标在前轮廓关键信息对应的当前关键帧作为所述目标物图像对应的当前关键帧。
进一步地,所述计算模块20还用于:根据所述质量指标值计算得到所述目标物图像的图像置信度;
所述关键帧选取装置还包括:
获取模块,用于获取各摄像设备对应关键帧的图像置信度;
选取模块,用于从所述目标物图像的图像置信度和各所述摄像设备对应的图像置信度中选出最大的置信度,将所述最大的置信度对应的图像作为用于识别目标物的最终关键帧。
本发明关键帧选取装置的具体实施方式的拓展内容与上述关键帧选取方法各实施例基本相同,在此不做赘述。
此外,本发明实施例还提出一种计算机可读存储介质,所述存储介质上存储有关键帧选取程序,所述关键帧选取程序被处理器执行时实现如下所述的关键帧选取方法的步骤。
本发明关键帧选取设备和计算机可读存储介质的各实施例,均可参照本发明关键帧选取方法各个实施例,此处不再赘述。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种关键帧选取方法,其特征在于,所述关键帧选取方法包括以下步骤:
对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息,其中,所述轮廓关键信息包括目标物的各个轮廓关键特征在所述目标物图像中的位置和是否可见信息;
当所述目标物图像中包括多个目标物时,针对其中的一个目标物执行以下步骤:
根据一个目标物的所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值,其中,所述质量指标值包括轮廓面指标值,或所述质量指标值包括轮廓面指标值和距离指标值;
当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧;
根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的轮廓面指标值的步骤包括:
根据所述轮廓关键信息确定各个可见的轮廓关键特征之间的距离和位置关系,判断获取到的各个可见的轮廓关键特征之间的距离和位置关系是否满足预置条件,其中,所述预置条件是各个轮廓关键特征可以构成目标物的各个轮廓面时各个轮廓关键特征之间的距离和位置关系所需满足的条件;
根据判断结果确定构成轮廓面的轮廓关键特征和构成的轮廓面个数,将构成轮廓面的轮廓关键特征在所述目标物图像中所划分的区域作为轮廓面区域,其中,当确定构成的轮廓面个数为多个时,划分得到多个轮廓面区域;
分别计算所述多个轮廓面区域在预设轮廓面质量指标下的轮廓面指标值;
根据所述轮廓关键信息所限定的区域计算得到所述目标物图像的距离指标值的步骤包括:
基于所述轮廓关键信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值。
2.如权利要求1所述的关键帧选取方法,其特征在于,所述质量指标值包括轮廓面指标值,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤包括:
当检测到所述轮廓面指标值大于目标指标值时,确定所述质量指标值满足所述预设质量条件,并将所述目标物图像作为用于识别目标物的关键帧,其中,所述目标指标值是当前关键帧的轮廓面指标值或预设的指标值。
3.如权利要求1所述的关键帧选取方法,其特征在于,所述质量指标值包括轮廓面指标值和距离指标值,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之前,还包括:
基于所述轮廓面指标值计算得到所述目标物图像的图像质量值;
确定与所述目标物图像对应的当前关键帧,并获取所述当前关键帧对应的关键帧质量值和关键帧距离指标值,所述当前关键帧是在所述目标物图像之前拍摄的被确定为用于识别目标物的关键帧,所述关键帧质量值是所述当前关键帧的图像质量值,所述关键帧距离指标值是所述当前关键帧的距离指标值;
检测所述目标物图像的距离指标值与所述关键帧距离指标值的距离比例是否小于预设比例,以及检测所述图像质量值是否大于所述关键帧质量值;
若所述距离比例小于所述预设比例,且所述图像质量值大于所述关键帧质量值,则确定所述质量指标值满足所述预设质量条件。
4.如权利要求3所述的关键帧选取方法,其特征在于,所述基于所述轮廓面指标值计算得到所述目标物图像的图像质量值的步骤包括:
基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值;
从各所述区域质量值选出最大的区域质量值作为所述目标物图像的图像质量值。
5.如权利要求4所述的关键帧选取方法,其特征在于,所述基于所述轮廓面指标值中各轮廓面区域对应的指标值分别计算各所述轮廓面区域对应的区域质量值的步骤包括:
基于所述轮廓面指标值分别将各轮廓面区域对应的各指标值相乘,得到各所述轮廓面区域对应的区域质量值,其中,所述轮廓面区域对应的指标值至少包括轮廓面区域的面积、轮廓面区域的清晰度和轮廓面区域的可见度中的一项或多项。
6.如权利要求3所述的关键帧选取方法,其特征在于,所述确定与所述目标物图像对应的当前关键帧的步骤包括:
将所述轮廓关键信息分别同一在前图像对应的各在前轮廓关键信息输入预设追踪算法,得到所述轮廓关键信息与各所述在前轮廓关键信息之间对应的匹配度;
基于所述匹配度选出与所述轮廓关键信息匹配度最大的目标在前轮廓关键信息;
将所述目标在前轮廓关键信息对应的当前关键帧作为所述目标物图像对应的当前关键帧。
7.如权利要求1至6任一项所述的关键帧选取方法,其特征在于,所述当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧的步骤之后,还包括:
根据所述质量指标值计算得到所述目标物图像的图像置信度;
获取各摄像设备对应关键帧的图像置信度;
从所述目标物图像的图像置信度和各所述摄像设备对应的图像置信度中选出最大的置信度,将所述最大的置信度对应的图像作为用于识别目标物的最终关键帧。
8.一种关键帧选取装置,其特征在于,所述关键帧选取装置包括:
识别模块,用于对目标物图像进行识别得到所述目标物图像中目标物的轮廓关键信息,其中,所述轮廓关键信息包括目标物的各个轮廓关键特征在所述目标物图像中的位置和是否可见信息;
计算模块,用于当所述目标物图像中包括多个目标物时,针对其中的一个目标物执行操作:根据一个目标物的所述轮廓关键信息所限定的区域计算得到所述目标物图像的质量指标值,其中,所述质量指标值包括轮廓面指标值,或所述质量指标值包括轮廓面指标值和距离指标值;
确定模块,用于当检测到所述质量指标值满足预设质量条件时,将所述目标物图像作为用于识别目标物的关键帧;
所述计算模块包括:
第一确定单元,用于根据所述轮廓关键信息确定各个可见的轮廓关键特征之间的距离和位置关系,判断获取到的各个可见的轮廓关键特征之间的距离和位置关系是否满足各个预置条件,其中,所述预置条件是各个轮廓关键特征可以构成轮廓面时各个轮廓关键特征之间的距离和位置关系所需满足的条件;根据判断结果确定构成轮廓面的轮廓关键特征和构成的轮廓面个数,将构成轮廓面的轮廓关键特征在所述目标物图像中所划分的区域作为轮廓面区域,其中,当确定构成的轮廓面个数为多个时,划分得到多个轮廓面区域;
第一计算单元,用于分别计算所述多个轮廓面区域在预设轮廓面质量指标下的轮廓面指标值;
所述计算模块包括:
第二确定单元,用于基于所述轮廓关键信息确定所述目标物图像中目标物在所述目标物图像中的实际位置;
第二计算单元,用于计算所述实际位置与预设的最优位置之间的距离,将所述距离作为所述目标物图像的距离指标值。
9.一种关键帧选取设备,其特征在于,所述关键帧选取设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的关键帧选取程序,所述关键帧选取程序被所述处理器执行时实现如权利要求1至7中任一项所述的关键帧选取方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有关键帧选取程序,所述关键帧选取程序被处理器执行时实现如权利要求1至7中任一项所述的关键帧选取方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010383754.5A CN111553302B (zh) | 2020-05-08 | 2020-05-08 | 关键帧选取方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010383754.5A CN111553302B (zh) | 2020-05-08 | 2020-05-08 | 关键帧选取方法、装置、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111553302A CN111553302A (zh) | 2020-08-18 |
CN111553302B true CN111553302B (zh) | 2022-01-04 |
Family
ID=72008013
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010383754.5A Active CN111553302B (zh) | 2020-05-08 | 2020-05-08 | 关键帧选取方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111553302B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112333511A (zh) * | 2020-09-27 | 2021-02-05 | 深圳Tcl新技术有限公司 | 智能电视的控制方法、装置、设备及计算机可读存储介质 |
CN112329749B (zh) * | 2021-01-05 | 2021-04-27 | 新石器慧通(北京)科技有限公司 | 点云的标注方法及标注设备 |
CN117058139B (zh) * | 2023-10-11 | 2024-01-26 | 苏州凌影云诺医疗科技有限公司 | 一种下消化道病灶跟踪与关键病灶选取方法和系统 |
CN117975658A (zh) * | 2024-04-01 | 2024-05-03 | 江苏征途电气科技有限公司 | 基于人工智能的监控分析报警系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6389168B2 (en) * | 1998-10-13 | 2002-05-14 | Hewlett Packard Co | Object-based parsing and indexing of compressed video streams |
AU2001290493A1 (en) * | 2001-09-14 | 2003-04-07 | Vislog Technology Pte Ltd. | Apparatus and method for selecting key frames of clear faces through a sequence of images |
CN101582063A (zh) * | 2008-05-13 | 2009-11-18 | 华为技术有限公司 | 视频服务系统、视频服务装置及其关键帧的提取方法 |
CN103269436A (zh) * | 2013-05-20 | 2013-08-28 | 山东大学 | 一种2d-3d视频转换中的关键帧选择方法 |
CN110148217A (zh) * | 2019-05-24 | 2019-08-20 | 北京华捷艾米科技有限公司 | 一种实时三维重建方法、装置及设备 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050008198A1 (en) * | 2001-09-14 | 2005-01-13 | Guo Chun Biao | Apparatus and method for selecting key frames of clear faces through a sequence of images |
CN108388885B (zh) * | 2018-03-16 | 2021-06-08 | 南京邮电大学 | 面向大型直播场景的多人特写实时识别与自动截图方法 |
US10755104B2 (en) * | 2018-06-18 | 2020-08-25 | Hulu, LLC | Scene level video search |
CN109829374A (zh) * | 2018-12-27 | 2019-05-31 | 深圳豪客互联网有限公司 | 图像数据处理方法、装置、计算机设备和存储介质 |
-
2020
- 2020-05-08 CN CN202010383754.5A patent/CN111553302B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6389168B2 (en) * | 1998-10-13 | 2002-05-14 | Hewlett Packard Co | Object-based parsing and indexing of compressed video streams |
AU2001290493A1 (en) * | 2001-09-14 | 2003-04-07 | Vislog Technology Pte Ltd. | Apparatus and method for selecting key frames of clear faces through a sequence of images |
CN101582063A (zh) * | 2008-05-13 | 2009-11-18 | 华为技术有限公司 | 视频服务系统、视频服务装置及其关键帧的提取方法 |
CN103269436A (zh) * | 2013-05-20 | 2013-08-28 | 山东大学 | 一种2d-3d视频转换中的关键帧选择方法 |
CN110148217A (zh) * | 2019-05-24 | 2019-08-20 | 北京华捷艾米科技有限公司 | 一种实时三维重建方法、装置及设备 |
Non-Patent Citations (1)
Title |
---|
梅阳 ; 等.一种基于关键帧的人体行为识别方法.《光学技术 》.2017, * |
Also Published As
Publication number | Publication date |
---|---|
CN111553302A (zh) | 2020-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111553302B (zh) | 关键帧选取方法、装置、设备及计算机可读存储介质 | |
CN109146892B (zh) | 一种基于美学的图像裁剪方法及装置 | |
EP3806064B1 (en) | Method and apparatus for detecting parking space usage condition, electronic device, and storage medium | |
CN110163076B (zh) | 一种图像数据处理方法和相关装置 | |
CN107944450B (zh) | 一种车牌识别方法及装置 | |
WO2021051601A1 (zh) | 利用Mask R-CNN选择检测框的方法及系统、电子装置及存储介质 | |
CN108805900B (zh) | 一种跟踪目标的确定方法及装置 | |
CN109033955B (zh) | 一种人脸跟踪方法和系统 | |
CN111507324B (zh) | 卡片边框识别方法、装置、设备和计算机存储介质 | |
CN112381104A (zh) | 一种图像识别方法、装置、计算机设备及存储介质 | |
CN110633712A (zh) | 一种车身颜色识别方法、系统、装置及计算机可读介质 | |
CN111126209B (zh) | 车道线检测方法及相关设备 | |
CN113657370B (zh) | 一种文字识别方法及其相关设备 | |
CN115049954A (zh) | 目标识别方法、装置、电子设备和介质 | |
CN113192081B (zh) | 图像识别方法、装置、电子设备和计算机可读存储介质 | |
CN114494751A (zh) | 证照信息识别方法、装置、设备及介质 | |
CN110599532A (zh) | 图像的深度估计模型优化、深度估计处理方法及装置 | |
CN113902740A (zh) | 图像模糊程度评价模型的构建方法 | |
CN114255493A (zh) | 图像检测方法、人脸检测方法及装置、设备及存储介质 | |
CN111881846A (zh) | 图像处理方法和相关装置、设备、存储介质 | |
CN116363628A (zh) | 标志检测方法、装置、非易失性存储介质及计算机设备 | |
CN110569921A (zh) | 一种车标识别方法、系统、装置及计算机可读介质 | |
CN110660000A (zh) | 数据预测方法、装置、设备及计算机可读存储介质 | |
CN113569771B (zh) | 视频分析方法及装置、电子设备和存储介质 | |
CN115661131A (zh) | 一种图像识别方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |