CN112800923A - 人体图像质量检测方法及装置、电子设备、存储介质 - Google Patents
人体图像质量检测方法及装置、电子设备、存储介质 Download PDFInfo
- Publication number
- CN112800923A CN112800923A CN202110086973.1A CN202110086973A CN112800923A CN 112800923 A CN112800923 A CN 112800923A CN 202110086973 A CN202110086973 A CN 202110086973A CN 112800923 A CN112800923 A CN 112800923A
- Authority
- CN
- China
- Prior art keywords
- human body
- image
- body image
- quality
- key points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 74
- 238000013441 quality evaluation Methods 0.000 claims abstract description 60
- 238000011156 evaluation Methods 0.000 claims description 127
- 238000000034 method Methods 0.000 claims description 79
- 230000015654 memory Effects 0.000 claims description 20
- 210000003423 ankle Anatomy 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 8
- 238000012544 monitoring process Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 19
- 210000003128 head Anatomy 0.000 description 18
- 238000004458 analytical method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000002372 labelling Methods 0.000 description 9
- 238000001914 filtration Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000005259 measurement Methods 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 210000003127 knee Anatomy 0.000 description 5
- 210000000707 wrist Anatomy 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000036544 posture Effects 0.000 description 3
- 238000011144 upstream manufacturing Methods 0.000 description 3
- 206010000117 Abnormal behaviour Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 210000000746 body region Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011982 device technology Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 210000002414 leg Anatomy 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 210000000689 upper leg Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种人体图像质量检测方法,包括:提取待检测的人体图像中的人体关键点;根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。本申请实施例还同时提供了一种人体图像质量检测装置、电子设备及存储介质。
Description
技术领域
本申请涉及电子设备技术领域,涉及但不限定于人体图像质量检测方法及装置、电子设备、存储介质。
背景技术
对于人体图像的提取是一项重要的工作。提取到的人体图像可用于人体属性分析、行人重识别、违章识别等方面,因此如何提供较为有效的人体图像是一项比较重要的工作。
相关技术中的人体图像质量过滤方案,主要是通过一些质量分数模型来对人体图像给出评分;或者同时结合图像的清晰度分数,综合判断人体图像的质量好坏,最终给出一个质量分数。该方案依赖于深度学习模型对各种质量水平下的人体图像数据进行学习,在训练数据上存在标注较为主观、标注准则不统一、质量分数标注比较难的问题。
发明内容
本申请实施例提供一种人体图像质量检测方法及装置、电子设备、存储介质。
本申请实施例的技术方案是这样实现的:
第一方面,本申请实施例提供一种人体图像质量检测方法,所述方法包括:
提取待检测的人体图像中的人体关键点;
根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;
根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
在一些可能的实施例中,所述质量评价参数包括与所述人体结构信息相关的关键点评价指标,所述根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数,包括:获取特定场景下的人体关键点模板;其中,所述人体关键点模板至少包括对应的人体图像中人体关键点;根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标。
这样,针对人体图像所属的特定场景获取对应的人体关键点模板,再根据提取的人体图像中的人体关键点和人体关键点模板确定人体图像的关键点评价指标,可以使得人体关键点的度量指标更准确,综合人体图像中所有人体关键点能够更好地体现人体结构信息。
在一些可能的实施例中,所述获取特定场景下的人体关键点模板,包括:确定所述待检测的人体图像所属的场景信息;根据所述场景信息,从模板库中获取所述特定场景下的人体关键点模板。
这样,通过确定人体图像所属的场景信息从而从模板库中获取特定场景下的人体关键点模板,提高人体关键点的度量指标。
在一些可能的实施例中,所述方法还包括:根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点;生成与所述候选关键点匹配的人体关键点模板。
这样,基于场景信息筛选出人体图像中的候选关键点并获取与候选关键点匹配的人体关键点模板,提高了人体关键点的度量指标的同时减少了特定场景下对人体结构完整性贡献不大的人体关键点所产生的额外计算工作量。
在一些可能的实施例中,所述根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点,包括:在所述场景信息为城市监控场景,且所述人体图像为行人图像的情况下,将所述行人图像的人体关键点中从头部到脚踝范围内的关键点,作为所述候选关键点;或者在所述场景信息为交通抓拍场景,且所述人体图像为行驶车辆中的司机图像的情况下,将所述司机图像的人体关键点中从头部到胸部范围内的关键点,作为所述候选关键点。
这样,在城市监控场景且人体图像为行人图像的情况下,选取行人图像的从头部到脚踝范围内的关键点作为候选关键点;或者在交通抓拍场景且人体图像为司机图像的情况下,选取司机图像的从头部到胸部范围内的关键点作为候选关键点,能够按照实际的应用场景有效选取对业务需求有用的人体关键点以获取匹配的人体关键点模板,能够适应于人体有遮挡或隐藏部位等相对难以识别区域的人体图像的人体结构完整性判断。
在一些可能的实施例中,所述根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标,包括:将所述人体图像中的人体关键点与所述人体关键点模板进行匹配,得到每一所述人体关键点在所述人体关键点模板中对应的目标关键点;确定每一所述人体关键点和对应的所述目标关键点之间的加权欧氏距离;根据所述加权欧氏距离,确定所述人体图像的关键点评价指标。
这样,通过将人体图像中的人体关键点中每一人体关键点和获取的人体关键点模板进行匹配,进一步确定人体图像的关键点评价指标,从而利用该关键点评价指标反映人体图像的人体结构完整性,以便后续用于检测人体图像的质量。
在一些可能的实施例中,所述质量评价参数包括与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数,包括:将所述人体关键点两两相连后所包围的最大范围所对应的人体图像,确定为所述人体关键点的连通区域;确定所述人体关键点的连通区域中的像素梯度均值。
这样,通过确定人体关键点的连通区域中的像素梯度均值,可以方便过滤因图像模糊或亮度过暗导致图像质量不好的人体图像。另外,相比针对整张人体图像计算连通区域及对应的梯度算子,通过计算人体关键点的连通区域及对应的梯度算子,能够有效减少计算工作量的同时确保过滤后的人体图像能够应用于后续人体属性的分析等。
在一些可能的实施例中,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:在所述关键点评价指标低于特定评价阈值的情况下,确定所述人体图像为质量不满足要求的图像;或者在所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这样,通过比较计算出的关键点评价指标和预先设定的特定评价阈值,在关键点评价指标低于特定评价阈值即人体图像的质量不好时过滤,在关键点评价指标高于等于特定评价阈值即人体图像的质量好时作为人体图像,以进行后续处理,能够减少系统中的一些错误识别问题。
在一些可能的实施例中,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:在所述像素梯度均值低于特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像;在所述像素梯度均值高于等于所述特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这样,在人体图像的质量评价参数为人体关键点的连通区域的像素梯度均值时,通过对比像素梯度均值与特定梯度均值,可以判断出人体图像中人体对象的范围是否清晰可见,从而在像素梯度均值较低的情况下过滤掉比较模糊或者亮度过暗的人体图像。
在一些可能的实施例中,所述人体图像的质量评价参数包括与所述人体结构信息相关的关键点评价指标和与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:在所述关键点评价指标高于等于特定评价阈值且所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像;在所述关键点评价指标低于所述特定评价阈值,或者,所述像素梯度均值低于所述特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像。
这样,通过提取的人体关键点确定关键点评价指标和连通区域的像素梯度均值,并作为检测人体图像质量的质量评价参数。从而有效利用人体的结构信息来作为评价人体图像质量的基础,并结合图像的梯度算子能够有效过滤清晰度不好(或亮度过暗)或者人体结构不完整的图像,得到人体结构完整且清晰的目标人体图像,以便应用于后续人体属性分析、行人重识别、异常行为识别等。
在一些可能的实施例中,所述方法还包括:对待处理视频帧序列中的每一帧图像进行人体识别,得到至少一个所述待检测的人体图像。
这样,通过上游组件对待处理视频帧序列中的每一帧图像进行人体识别得到人体图像,从而后续针对人体图像进行质量过滤,使得图像处理的精准性相比基于海量整图数据的深度学习方法大大提高。
第二方面,本申请实施例提供一种人体图像质量检测装置,所述装置包括关键点提取模块、评价参数确定模块和质量检测模块,其中:
所述关键点提取模块,用于提取待检测的人体图像中的人体关键点;
所述评价参数确定模块,用于根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;
所述质量检测模块,用于根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
第三方面,本申请实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述人体图像质量检测方法中的步骤。
第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述人体图像质量检测方法中的步骤。
本申请实施例提供的技术方案带来的有益效果至少包括:
在本申请实施例中,首先,提取待检测的人体图像中的人体关键点;然后,根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;最后,根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测;如此,通过对提取的人体关键点进一步处理得到人体图像的质量评价参数,以对人体图像中的人体结构完整性或人体对象的清晰度进行评价,实现人体图像的质量检测和评估。本申请实施例有效利用人体图像中的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量,不需要对训练数据中的人体图像进行直接的质量分数标注,避免了标注准则不统一、标注比较难的问题。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图,其中:
图1A为本申请实施例提供的一种人体图像质量检测方法的流程示意图;
图1B为本申请实施例提供的一种人体关键点的分布示意图;
图2A为本申请实施例提供的一种人体图像质量检测方法的流程示意图;
图2B为本申请实施例提供的一种人体图像质量检测方法的流程示意图;
图3A为本申请实施例提供的一种人体图像质量检测方法的流程示意图;
图3B为本申请实施例提供的人体关键点的连通区域示意图;
图4为本申请实施例提供的一种人体图像质量检测方法的流程示意图;
图5为本申请实施例提供的人体图像质量检测方法的逻辑流程图;
图6为本申请实施例提供的一种人体图像质量检测装置的组成结构示意图;
图7为本申请实施例提供的一种电子设备的硬件实体示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。以下实施例用于说明本申请,但不用来限制本申请的范围。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
需要指出,本申请实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语(包括技术术语和科学术语),具有与本申请实施例所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
本申请实施例提供一种人体图像质量检测方法,应用于电子设备。所述电子设备包括但不限于手机、笔记本电脑、平板电脑和掌上上网设备、多媒体设备、流媒体设备、移动互联网设备、可穿戴设备或其他类型的电子设备。该方法所实现的功能可以通过电子设备中的处理器调用程序代码来实现,当然程序代码可以保存在电子设备的存储介质中,可见,该电子设备至少包括处理器和存储介质。处理器可以用于进行人体图像质量检测的过程的处理,存储器可以用于存储进行人体图像质量检测的过程中需要的数据以及产生的数据。
图1为本申请实施例提供的一种人体图像质量检测方法的流程示意图,如图1所示,所述方法至少包括以下步骤:
步骤S110,提取待检测的人体图像中的人体关键点;
这里,所述待检测的人体图像是包含人体对象的任意形式的图像,一般包含人体关键点信息。人体图像的获取方式可以通过上游组件对包含人体对象的图像帧序列或视频序列进行人体识别得到的,也可以是对获取的至少一帧待处理图像进行裁剪得到的,在实施过程中根据实际情况灵活决定。应注意,人体图像可以是单独的一帧图像,也可以是视频帧序列中的多帧图像,本申请对此不加以限定。
人体关键点是指人体的各个部位的关键位置点,人体关键点对于描述人体姿态、预测人体行为至关重要。如图1B所示,为人体各个部位常用的13个关键点,分别为:头部11、左肩12、右肩13、左肘14、右肘15、左手腕16、右手腕17、左髋18、右髋19、左膝20、右膝21、左踝22、右踝23,其中头部11关键点还可以再分为左眼、右眼、左耳、右耳、鼻子、脖子等关键点,至于实施中关键点数目可以根据实际部署需要进行调整。
提取人体图像中的人体关键点的方式可以通过人体关键点检测算法实现。人体关键点检测(Human Keypoints Detection)又称为人体姿态估计,是计算机视觉中一个相对基础的任务,是人体动作识别、行为分析、人机交互等的前置任务。一般情况下可以将人体关键点检测细分为单人/多人关键点检测、二维/三维(2D/3D)关键点检测,同时有算法在完成关键点检测之后还会进行关键点的跟踪,也被称为人体姿态跟踪。
提取待检测的人体图像中的人体关键点的过程可以是:将待检测的视频帧序列输入至已训练的关键点检测模型,得到人体图像中的人体关键点;其中,关键点检测模型是通过标注人体关键点的样本人体图像进行训练得到的,一般可选择高分辨率网络(High-Resolution Net,HRNet)、残差网络(ResNet)+特征图金字塔网络(Feature PyramidNetworks,FPN)等网络结构。这样,通过神经网络实现关键点的检测过程,有效提升了关键点检测的稳定性、效率和精度,继而提升图像处理的稳定性、效率和精度。同时,由于神经网络可以根据关键点检测的实际情况灵活调整结构和实现方式,因此,可以提升关键点检测的灵活性,继而提升后续图像的质量评估及处理方法实现的灵活性。
步骤S120,根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;
这里,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量。其中,人体结构信息为人体骨架的人体关键点和相邻人体关键点之间的距离等信息;人体关键点的连通区域表示由人体关键点两两相连所包围的最大范围内的连通区域。
当人体图像本身比较模糊,或者人体图像亮度过暗时,会导致人体图像本身的连通区域的像素梯度比较小,因此可以通过连通区域的梯度算子评价人体图像的质量。
需要说明的是,本申请实施例中并不是对整张人体图像求取连通区域并计算梯度算子,而是针对提取的人体图像中的人体关键点,计算人体关键点的连通区域。显然,由人体关键点连接成的人体区域中包括的像素点比整张人体图像所包含的像素点大大减少,因此,相比针对整张人体图像计算连通区域及对应的梯度算子,本申请实施例能够有效减少计算工作量的同时确保过滤后的人体图像能够应用于后续人体属性的分析等。
步骤S130,根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
这里,所述人体图像的质量评价参数可以包括与人体结构信息相关的关键点评价指标,还可以包括与人体关键点的连通区域的图像质量相关的像素梯度均值。因此,可以根据人体关键点评价指标和/或人体图像中人体关键点的连通区域的平均像素梯度对所述人体图像的质量进行检测。
一种可能的实施方式中,可以只通过人体关键点评价指标对人体图像的质量进行检测,以利用人体结构的完整性确定人体图像质量。如果人体图像中的人体结构不完整,则确定该人体图像质量不好。因此,通过人体关键点评价指标对人体图像的质量进行检测,可以过滤人体结构不完整的人体图像,为后续进一步的图像处理过程提供有效的人体图像。
一种可能的实施方式中,还可以只通过人体关键点的连通区域对人体图像的质量进行检测,以利用人体图像中人体关键点的连通区域的清晰程度确定人体图像质量。如果人体图像中人体对象边界模糊,说明图像模糊或亮度过暗,也就是确定该人体图像质量不好的。因此,通过人体对象的连通区域对人体图像的质量进行检测,可以过滤图像模糊或亮度过暗的人体图像,为后续进一步的图像处理过程提供有效的人体图像。
一种可能的实施方式中,还可以结合人体关键点评价指标和人体对象的连通区域一起对人体图像的质量进行检测,以得到人体结构完整以及清晰且亮度合适的人体图像:一种实现方式是先通过人体关键点评价指标筛选出人体结构完整的人体图像,再对人体结构完整的人体图像划分人体对象的连通区域,然后通过该连通区域过滤掉人体模糊或者亮度较暗的人体图像;一种实现方式是先通过人体对象的连通区域过滤掉人体模糊或者亮度较暗的人体图像,再对人体清晰且亮度合适的人体判断人体结构是否完整。在实施过程中采用哪一种实现形式可以根据本申请实施例提出的人体图像质量检测的实际应用场景所灵活决定。
在本申请实施例中,首先,提取待检测的人体图像中的人体关键点;然后,根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;最后,根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测;如此,通过对提取的人体关键点进一步处理得到人体图像的质量评价参数,以对人体图像中的人体结构完整性或人体对象的清晰度进行评价,实现人体图像的质量检测和评估。本申请实施例有效利用人体图像中的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量,不需要对训练数据中的人体图像进行直接的质量分数标注,避免了标注准则不统一、标注比较难的问题。
在一些可能的实施例中,所述质量评价参数包括与所述人体结构信息相关的关键点评价指标,图2A为本申请实施例提供的一种人体图像质量检测方法的流程示意图,如图2A所示,所述方法至少包括以下步骤:
步骤S210,提取待检测的人体图像中的人体关键点;
步骤S220,获取特定场景下的人体关键点模板;
这里,所述人体关键点模板至少包括对应的人体图像中人体关键点,还可以包括相关的时间属性、场景信息等。
一种可能的模板形式可以为标注有人体关键点的样本人体图像;另一种可能的模板形式可以为包含人体关节点的位置分布的人体结构图;还有一种可能的模板形式可以为一组存储的人体关键点的实际坐标位置和相关属性信息。在实施过程中,可以根据人体图像质量检测的应用场景确定实际采用的模板,因此本申请实施例对此不作限定。
步骤S230,根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标;
这里,所述关键点评价指标用于表征所述人体图像的人体结构的完整性。可以对步骤110中提取的人体关键点的准确度进行评价得到与人体结构信息相关的关键点评价指标。
关键点评价指标可以为关键点相似度(Object Keypoint Similarity,OKS),OKS的主体思想为关键点位置的加权欧氏距离。因此,需要预先标注所述人体图像中的人体关键点,然后对比提取的人体图像中的人体关键点的预测位置和标注的人体关键点,以评价人体关键点检测的准确度,进而结合人体图像中所有人体关键检测点,确定人体图像中人体对象的结构是否完整。
在一些可能的实施方式中,可以对获取的人体图像标注人体关键点,并结合提取的人体图像中的人体关键点例如通过神经网络预测的人体关键点,计算关键点相似度,以确定人体图像中人体对象的结构是否完整,进而获得人体图像的关键点评价指标。
在一些可能的实施方式中,可以针对特定场景下人体图像中标注的人体关键点的实际坐标位置,结合提取的人体图像中的人体关键点进行所述人体图像的关键点评价指标的确定。
在一些可能的实施方式中,还可以通过根据特定场景下人体图像中标注的人体关键点的实际坐标位置,生成人体关键点模板并存于模板库中。在实施中针对特定场景的人体图像质量检测,直接获取人体关键点模板,与提取的人体图像中的人体关键点进行匹配,以确定所述人体图像的关键点评价指标。
步骤S240,在所述关键点评价指标低于特定评价阈值的情况下,确定所述人体图像为质量不满足要求的图像;
这里,所述特定评价阈值为0到1之间的数值,一般取经验值如0.1。
在所述关键点评价指标低于0.1的情况下,说明提取的人体图像的人体关键点的置信度不高,也就是人体关键点的位置不准确。因此,关键点评价指标低于特定评价阈值,会导致人体图像中的人体结构不完整,该人体图像本身质量不好,可以过滤该人体图像,减少后续一些错误识别问题。
步骤S250,在所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这里,在所述关键点评价指标高于等于特定评价阈值如0.1的情况下,说明提取的人体图像的人体关键点的置信度较高,可以用于后续的分析处理。因此,关键点评价指标高于等于特定评价阈值的情况下保留该人体图像,并作为后续人体属性分析、行人重识别、违章判断等方面的目标人体图像。
在本申请实施例中,通过将人体图像中的人体关键点中每一人体关键点和获取的人体关键点模板进行匹配,进一步确定人体图像的关键点评价指标,从而利用该关键点评价指标反映人体图像的人体结构完整性。通过比较计算出的关键点评价指标和预先设定的特定评价阈值,在关键点评价指标低于特定评价阈值即人体图像的质量不好时过滤,在关键点评价指标高于等于特定评价阈值即人体图像的质量好时作为人体图像,以进行后续处理,能够减少系统中的一些错误识别问题。
在一些可能的实施例中,所述质量评价参数包括与所述人体结构信息相关的关键点评价指标,图2B为本申请实施例提供的一种人体图像质量检测方法的流程示意图,上述步骤S120“根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数”可以通过以下过程实现:
步骤S1201,获取特定场景下的人体关键点模板。
这里,在获取特定场景下的人体关键点模板之前,可以先确定所述待检测的人体图像所属的场景信息。然后根据场景信息获取人体关键点模板,可以有以下实现方式:
方式一,根据所述场景信息,从模板库中获取所述特定场景下的人体关键点模板。
适用于所有人体图像均为一个场景下提取的情况,在实施中直接获取该场景下的人体关键点模块。通过确定人体图像所属的场景信息从而从模板库中获取特定场景下的人体关键点模板,提高人体关键点的度量指标。
方式二,根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点;生成与所述候选关键点匹配的人体关键点模板。
适用于不同人体图像为多个场景下提取的情况,即一类场景对应一个人体关键点模板。针对不同场景下的业务需求,从提取的人体图像中的人体关键点中筛选候选关键点以生成匹配的人体关键点模板。能够按照实际的应用场景有效选取对业务需求有用的人体关键点以生成匹配的人体关键点模板,能够适应于人体有遮挡或隐藏部位等相对难以识别区域的人体图像的人体结构完整性判断。
在一些可能的实施方式中,在所述场景信息为城市监控场景,且所述人体图像为行人图像的情况下,将所述行人图像的人体关键点中从头部到脚踝范围内的关键点作为所述候选关键点。
城市监控场景下的人体图像一般为站立的行人,因此,需要分析人体从头部到脚踝范围内所有关键点,相应地人体关键点模板中也应包括这些关键点,以便计算人体关键点相似度作为关键点评价指标。
在一些可能的实施方式中,在所述场景信息为交通抓拍场景,且所述人体图像为行驶车辆中的司机图像的情况下,将所述司机图像的人体关键点中从头部到胸部范围内的关键点,作为所述候选关键点。
交通抓拍场景下的人体图像一般为抓拍的违章车辆中提取的司机图像,可以理解车辆中的司机是坐在驾驶座上的,且对司机是否发生违章行为的判断也是基于上半身图像的检测,例如是否在行驶中打电话、是否佩戴安全带等。因此,对于司机图像可以只获取从头部到胸部范围内的关键点,相应地人体关键点模板中也应包括这些范围内的关键点,以便计算人体关键点相似度作为关键点评价指标。
基于场景信息筛选出人体图像中的候选关键点并获取与候选关键点匹配的人体关键点模板,提高了人体关键点的度量指标的同时减少了特定场景下对人体结构完整性贡献不大的人体关键点所产生的额外计算工作量。
步骤S1202,将所述人体图像中的人体关键点与所述人体关键点模板进行匹配,得到每一所述人体关键点在所述人体关键点模板中对应的目标关键点;
这里,对提取的人体图像中的人体关键点一般为通过神经网络预测的人体关键点,可以通过人体关键点模板确定出每一人体关键点对应的目标关键点即实际位置上的人体关键点。
步骤S1203,确定每一所述人体关键点和对应的所述目标关键点之间的加权欧氏距离;
步骤S1204,根据所述加权欧氏距离,确定所述人体图像的关键点评价指标。
这里,确定所述人体关键点模板中每一所述目标关键点的第一坐标和所述人体图像中对应的每一所述人体关键点的第二坐标;根据所述第一坐标和所述第二坐标之间的加权欧氏距离,确定所述人体图像的关键点评价指标。
上述步骤S1202至步骤S1204提供了一种“根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标”的实现方式。本申请实施例通过计算提取的人体图像中的人体关键点和模板中的人体关键点之间的相似度,从而确定关键点评价指标,以表征人体图像中人体结构完整性。
在本申请实施例中,针对人体图像所属的特定场景获取对应的人体关键点模板,再根据提取的人体图像中的人体关键点和人体关键点模板确定人体图像的关键点评价指标,可以使得人体关键点的度量指标更准确,综合人体图像中所有人体关键点能够更好地体现人体结构信息。
在一些可能的实施例中,所述质量评价参数包括与所述人体关键点的连通区域的图像质量相关的像素梯度均值,图3A为本申请实施例提供的一种人体图像质量检测方法的流程示意图,如图3A所示,所述方法至少包括以下步骤:
步骤S310,提取待检测的人体图像中的人体关键点;
步骤S320,将所述人体图像中所述人体关键点两两相连后所包围的最大范围所对应的人体区域,确定为所述人体关键点的连通区域;
这里,如图3B所示,在所述人体图像上,基于人体各个部位常用的13个人体关键点,依次连接头部31、左肩32、左肘34、左手腕36、左髋38、左膝40、左踝42、右踝43、右膝21、右髋19、右手腕17、右肘15、右肩13和头部11所述所包围的虚线区域即为人体关键点的连通区域。
通常连通区域分析处理的对象是一张二值化后的图像。因此,可以首先对人体图像进行预处理,得到二值化后的人体图像,然后基于二值化的图像进一步确定人体对象的连通区域,从而可以进一步确定连通区域的梯度算子,以判断人体对象在人体图像中是否清晰可见。
可以理解的是,一个连通区域可以是一个像素集合,该像素集合中包括具有相同像素值的相邻像素。因此,基于此原理可以通过确定人体图像中人体对象对应区域的像素值和像素点的位置,以判断人体对象的连通区域。
通过连接人体图像中具有相同像素值且位置相邻的人体关键点,可以得到人体关键点的连通区域,以进一步判断人体图像中人体对象的边界是否清晰可见,从而可以方便过滤因图像模糊或亮度过暗导致图像质量不好的人体图像。
步骤S330,确定所述人体关键点的连通区域中的像素梯度均值;
这里,梯度简单来说就是相邻像素值之间的一阶或者二阶导数,体现相邻像素值的变化程度。像素梯度均值为人体关键点的连通区域中所有像素梯度的平均值,如果像素梯度均值小,则人体关键点的连通区域过于平滑,说明画面质量不好或亮度过暗。也就是说,所述像素梯度均值表征所述人体图像中人体对象所在区域的图像清晰程度。
对于人体关键点的连通区域内的所有像素,计算每个像素位置的梯度值,然后对于所有像素位置的梯度值取平均,得到连通区域中的像素梯度均值。
步骤S340,在所述像素梯度均值低于特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像;
这里,当人体图像本身比较模糊,或者人体图像的亮度过暗时,会导致该人体图像本身的像素梯度比较小。因此当人体关键点的连通区域所计算的像素梯度平均值比较小时(低于预先设定的特定梯度阈值如0.2),表明该人体图像本身质量不好,可以过滤掉。
步骤S350,在所述像素梯度均值高于等于所述特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这里,当人体关键点的连通区域所计算的像素梯度平均值比较大时(高于等于预先设定的特定梯度阈值),表明该人体图像本身质量较好,可以作为后续处理的目标人体图像。
在本申请实施例中,在人体图像的质量评价参数为人体关键点的连通区域的像素梯度均值时,通过对比像素梯度均值与特定梯度均值,可以判断出人体图像中人体对象的范围是否清晰可见,从而在像素梯度均值较低的情况下过滤掉比较模糊或者亮度过暗的人体图像。相比针对整张人体图像计算连通区域及对应的梯度算子,通过计算人体关键点的连通区域及对应的梯度算子,能够有效减少计算工作量的同时确保过滤后的人体图像能够应用于后续人体属性的分析等。
在一些可能的实施例中,所述人体图像的质量评价参数包括与所述人体结构信息相关的关键点评价指标和与所述人体关键点的连通区域的图像质量相关的像素梯度均值,图4为本申请实施例提供的一种人体图像质量检测方法的流程示意图,如图4所示,所述方法至少包括以下步骤:
步骤S410,对待处理视频帧序列中的每一帧图像进行人体识别,得到至少一个所述待检测的人体图像;
这里,通过上游组件对待处理视频帧序列中的每一帧图像进行人体识别得到人体图像,从而后续针对人体图像进行质量过滤,使得图像处理的精准性相比基于海量整图数据的深度学习方法大大提高。
步骤S420,提取待检测的人体图像中的人体关键点;
步骤S430,根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;
这里,所述人体图像的质量评价参数包括与所述人体结构信息相关的关键点评价指标和与所述人体关键点的连通区域的图像质量相关的像素梯度均值。其中确定关键点评价指标的实施过程可以参见上述图2A和图2B对应的实施例,确定像素梯度均值的实施过程可以参见上述图3对应的实施例。为避免赘述,本申请实施例在此不再描述。
步骤S440,在所述关键点评价指标高于等于特定评价阈值,且所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像;
一种可能的实现方式是,在所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体对象的连通区域中的像素梯度均值;在所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这样,基于从人体图像中检测到的人体关键点,当人体关键点的结构比较完整时(OKS值满足设定的特定评价阈值时),可以将人体关键点的连通区域划分出来进行梯度算子的计算。也就是说,该实现方式先利用与人体结构信息相关的关键点评价指标过滤人体图像,对过滤后的人体结构完整的人体图像再判断像素梯度均值,以进一步过滤不清晰的人体图像。
一种可能的实现方式是,在所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述关键点评价指标与特定评价阈值的对比结果;在所述对比结果表明所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
这样,基于从人体图像中检测到的人体关键点,当人体关键点的连通区域的像素梯度均值比较高时(满足设定的特定梯度阈值),再判断关键点评价指标和特定评价阈值的对比结构。也就是说,该实现方式先利用与人体关键点的图像质量相关的像素梯度均值过滤人体图像,对过滤后的图像清晰且亮度合适的人体图像再进行人体结构完整性的评价,以进一步过滤人体结构不完整的人体图像。
步骤S450,在所述关键点评价指标低于所述特定评价阈值,或者所述像素梯度均值低于所述特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像;
这样,通过关键点评价指标可以评价人体图像的结构完整性,通过像素梯度均值可以评价人体图像是否清晰可见,从而将人体结构不完整或者人体图像模糊较暗的人体图像判断为质量不满足要求的图像并过滤。
步骤S460,在所述目标人体图像为行驶车辆中的司机图像的情况下,对所述司机图像进行识别,以确定所述司机是否发生违章行为。
这里,所述违章行为至少包括打电话违章行为、未佩戴安全带违章行为和单手握方向盘中的一种。
步骤S470,在所述目标人体图像为行人图像的情况下,对所述行人图像进行行人重识别,以跟踪所述行人图像中行人的活动轨迹。
上述步骤S460和S470描述了在对人体图像的质量进行检测后得到质量满足要求的目标人体图像,可以进一步用于针对不同场景下的业务需求进行人体识别处理,使得后续的图像分析处理能够输出置信度更高的识别结果。
在本申请实施例中,通过提取的人体关键点确定关键点评价指标和连通区域的像素梯度均值,并作为检测人体图像质量的质量评价参数。从而有效利用人体的结构信息来作为评价人体图像质量的基础,并结合图像的梯度算子能够有效过滤清晰度不好(或亮度过暗)或者人体结构不完整的图像,得到人体结构完整且清晰的目标人体图像,以便应用于后续人体属性分析、行人重识别、异常行为识别等。
下面结合一个具体实施例对上述人体图像质量检测方法进行说明,然而值得注意的是,该具体实施例仅是为了更好地说明本申请,并不构成对本申请的不当限定。
智能安防或者智慧交通场景下,人体图像的提取是一项重要的工作。提取到的人体图像可用于人体属性分析、行人重识别、违章识别等方面,因此如何提供较为有效的人体图像是一项比较重要的工作。
人体图像质量检测是对于识别到的人体图像进行质量好坏的判别。当人体图像被判别为差时,表示人体图像不足以用于后续的处理环节。当人体图像的质量比较差时,用于后续的处理比较容易出现错误或者无效的结果。比如将一张比较模糊的人体图像输入到人体属性识别的模型中时,模型将无法识别该人体图像中的人体属性,只能给出置信度不是很高的一种结果。
现有的人体图像质量检测方案,主要是通过一些质量分数模型来对人体图像给出评分;或者同时结合图像的清晰度分数,综合判断人体图像的质量好坏,最终给出一个质量分数。现有的方案依赖于深度学习模型对各种质量水平下的人体图像数据进行学习,学习质量分数的评价模型在训练数据上面临了标注较为主观、标注准则不统一、质量分数标注比较难的问题。而且没有有效利用人体的结构信息来作为评价的标准。
图5为本申请实施例提供的人体图像质量检测方法的逻辑流程图,如图5所示,所述方法至少包括以下步骤:
步骤S510,对人体图像进行人体关键点检测,得到人体关键点。
人体关键点检测即对人体图像进行人体骨骼关键点的检测,依赖于预先训练好的关键点检测模型,一般可选择HRNet、ResNet+FPN等网络结构。
在人体质量过滤的方案中,人体关键点点位的定义可以按照实际的需求进行定义。比如在监控场景下的人体图像,一般可以定义完整人体的从头部到脚踝的关键点,而驾驶违章抓拍场景下对于车内的司机则可定义从头部到胸部的关键点即可。
步骤S520,根据人体关键点和人体关键点模板,评价人体关键点完整性。
依赖事先定义好的人体关键点模板,结合在人体图像上的人体关键点检测结果,可以计算出和人体结构完整性比较相关的评价指标即OKS指标。OKS的主体思想为关键点位置的加权欧氏距离。也就是说,基于关键点相似度指标,对于人体关键点的结构完整性进行评价,给出评价分数。
若评价分数低于设定的阈值时,则判断为质量不好的人体图像,不再进行后续步骤;否则继续后续步骤。例如,当评价分数低于事先定义的关键点相似度阈值如0.1时,则判断该人体图像为人体结构不完整的图像,可以将该人体图像过滤为质量不好的图像。从而利用人体结构信息作为评价标准,实现过滤人体结构不完整造成的质量不好的人体图像。
人体关键点模板根据实际需求进行确定,比如可以基于常用的关键点位置定义,例如图1A中标注的左、右手臂的三个点(手腕、手肘、肩膀),左、右腿的三个点(脚腕、膝盖、胯骨),髋、臀部点以及头部点(眼睛,下巴,头顶)等关键点位置,也可以结合特定场景的业务需求选取特定位置定义。
步骤S530,确定人体结构完整的图像中人体关键点的连通区域,并计算连通区域的梯度算子。
基于从人体图像中检测到的人体关键点,当人体关键点的结构比较完整时(即评价分数满足设定的关键点相似度阈值时),可以将人体关键点的连通区域划分出来进行梯度算子的计算。梯度算子能够体现图像像素的变化程度,用来检测人体图像中连通区域中的边是否存在,常见的如拉普拉斯梯度、索贝尔(sober)梯度等。
复平面上的一个区域G,如果在其中任做一条简单闭曲线,而闭曲线的内部总属于G,就称G为单连通区域。一个区域如果不是单连通区域,就称为多连通区域。本申请实施例所描述的人体关键点的连通区域通常为单连通区域,这个连通区域。例如取上半身的连通区域,那么对于图1B所示的人体关键点的分布示意图,只需要能够围成上半身的那些人体关键点来获取连通区域。
当人体图像本身比较模糊,或者人体图像亮度过暗时,会导致人体图像本身的像素梯度比较小,因此当人体关键点的连通区域所计算的像素梯度平均值比较小时(低于事先设定的阈值),表明人体图像本身质量不好。本申请实施例基于人体关键点连通区域范围的图像像素计算梯度算子,计算逐像素的均值,与质量过滤阈值进行比较。若梯度算子比较低则判断为质量不好的人体图像。
本申请实施例有效利用人体的结构信息来作为评价人体图像质量的基础,有效过滤人体结构不完整的图像,同时结合人体关键点的连通区域的梯度算子能够有效过滤图像不清晰的人体图像。相比采用质量分数模型而言,不需要对训练数据中的行人图像进行质量分数标注,避免了标注准则不统一、标注比较难的问题。
利用本申请提供的人体图像质量检测的方法可以在防监控场景下、智慧交通场景下进行人体图像质量过滤,减少系统中的一些错误识别问题。
基于前述的实施例,本申请实施例再提供一种人体图像质量检测装置,所述装置包括所包括的各模块、以及各模块所包括的各子模块及各单元,可以通过电子设备中的处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为中央处理器(Central Processing Unit,CPU)、微处理器(Micro Processing Unit,MPU)、数字信号处理器(Digital Signal Processor,DSP)或现场可编程门阵列(Field ProgrammableGate Array,FPGA)等。
图6为本申请实施例提供的一种人体图像质量检测装置的组成结构示意图,如图6所示,所述装置600包括关键点提取模块610、评价参数确定模块620和质量检测模块630,其中:
所述关键点提取模块610,用于提取待检测的人体图像中的人体关键点;
所述评价参数确定模块620,用于根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;
所述质量检测模块630,用于根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
在一些可能的实施例中,所述质量评价参数包括与所述人体结构信息相关的关键点评价指标,所述评价参数确定模块620包括模板获取子模块和指标确定子模块:所述模板获取子模块,用于获取特定场景下的人体关键点模板;其中,所述人体关键点模板至少包括对应的人体图像中人体关键点;所述指标确定子模块,用于根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标。
在一些可能的实施例中,所述模板获取子模块包括第一确定单元和第一获取单元:所述第一确定单元,用于确定所述待检测的人体图像所属的场景信息;所述获取单元,用于根据所述场景信息,从模板库中获取所述特定场景下的人体关键点模板。
在一些可能的实施例中,所述模板获取子模块还包括第二确定单元和第二获取单元:所述第二确定单元,用于根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点;所述第二获取单元,用于生成与所述候选关键点匹配的人体关键点模板。
在一些可能的实施例中,所述第二确定单元,还用于在所述场景信息为城市监控场景,且所述人体图像为行人图像的情况下,将所述行人图像的人体关键点中从头部到脚踝范围内的关键点,作为所述候选关键点;或者在所述场景信息为交通抓拍场景,且所述人体图像为行驶车辆中的司机图像的情况下,将所述司机图像的人体关键点中从头部到胸部范围内的关键点,作为所述候选关键点。
在一些可能的实施例中,所述指标确定子模块包括匹配单元、第三确定单元和第四确定单元:所述匹配单元,用于将所述人体图像中的人体关键点与所述人体关键点模板进行匹配,得到每一所述人体关键点在所述人体关键点模板中对应的目标关键点;所述第三确定单元,用于确定每一所述人体关键点和对应的所述目标关键点之间的加权欧氏距离;所述第四确定单元,用于根据所述加权欧氏距离,确定所述人体图像的关键点评价指标。
在一些可能的实施例中,所述质量评价参数包括与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述评价参数确定模块620包括连通区域确定子模块和梯度算子子模块,其中:所述连通区域确定子模块,用于将所述人体关键点两两相连后所包围的最大范围所对应的人体图像,确定为所述人体关键点的连通区域;所述梯度算子子模块,用于确定所述人体关键点的连通区域中的像素梯度均值。
在一些可能的实施例中,所述质量检测模块630包括第一确定子模块或者第二确定子模块,其中:所述第一确定子模块,用于在所述关键点评价指标低于特定评价阈值的情况下,确定所述人体图像为质量不满足要求的图像;所述第二确定子模块,用于在所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
在一些可能的实施例中,所述质量检测模块630包括第三确定子模块或第四确定子模块,其中:所述第三确定子模块,用于在所述像素梯度均值低于特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像;所述第四确定子模块,用于在所述像素梯度均值高于等于所述特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
在一些可能的实施例中,所述人体图像的质量评价参数包括与所述人体结构信息相关的关键点评价指标和与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述质量检测模块630包括第五确定子模块或第六确定子模块:其中,所述第五确定子模块,用于在所述关键点评价指标高于等于特定评价阈值且所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像;所述第六确定子模块,用于在所述关键点评价指标低于所述特定评价阈值,或者,所述像素梯度均值低于所述特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像。
在一些可能的实施例中,所述装置600还包括人体识别模块,用于对待处理视频帧序列中的每一帧图像进行人体识别,得到至少一个所述待检测的人体图像。
这里需要指出的是:以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述人体图像质量检测方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得电子设备(可以是具有摄像头的智能手机、平板电脑等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read OnlyMemory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
对应地,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中任一所述人体图像质量检测方法中的步骤。
对应地,本申请实施例中,还提供了一种芯片,所述芯片包括可编程逻辑电路和/或程序指令,当所述芯片运行时,用于实现上述实施例中任一所述人体图像质量检测方法中的步骤。
对应地,本申请实施例中,还提供了一种计算机程序产品,当该计算机程序产品被电子设备的处理器执行时,用于实现上述实施例中任一所述人体图像质量检测方法中的步骤。
基于同一技术构思,本申请实施例提供一种电子设备,用于实施上述方法实施例记载的人体图像质量检测方法。图7为本申请实施例提供的一种电子设备的硬件实体示意图,如图7所示,所述电子设备700包括存储器710和处理器720,所述存储器710存储有可在处理器720上运行的计算机程序,所述处理器720执行所述程序时实现本申请实施例任一所述人体图像质量检测方法中的步骤。
存储器710配置为存储由处理器720可执行的指令和应用,还可以缓存待处理器720以及电子设备中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(Random Access Memory,RAM)实现。
处理器720执行程序时实现上述任一项的人体图像质量检测方法的步骤。处理器720通常控制电子设备700的总体操作。
上述处理器可以为特定用途集成电路(Application Specific IntegratedCircuit,ASIC)、数字信号处理器(Digital Signal Processor,DSP)、数字信号处理装置(Digital Signal Processing Device,DSPD)、可编程逻辑装置(Programmable LogicDevice,PLD)、现场可编程门阵列(Field Programmable Gate Array,FPGA)、中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器中的至少一种。可以理解地,实现上述处理器功能的电子器件还可以为其它,本申请实施例不作具体限定。
上述计算机存储介质/存储器可以是只读存储器(Read Only Memory,ROM)、可编程只读存储器(Programmable Read-Only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,EPROM)、电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、磁性随机存取存储器(Ferromagnetic Random Access Memory,FRAM)、快闪存储器(Flash Memory)、磁表面存储器、光盘、或只读光盘(Compact Disc Read-Only Memory,CD-ROM)等存储器;也可以是包括上述存储器之一或任意组合的各种电子设备,如移动电话、计算机、平板设备、个人数字助理等。
这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请存储介质和设备实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本申请实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
或者,本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得设备自动测试线执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
本申请所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本申请所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本申请的实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (14)
1.一种人体图像质量检测方法,其特征在于,所述方法包括:
提取待检测的人体图像中的人体关键点;
根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;
根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
2.如权利要求1所述的方法,其特征在于,所述质量评价参数包括与所述人体结构信息相关的关键点评价指标,所述根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数,包括:
获取特定场景下的人体关键点模板;其中,所述人体关键点模板至少包括对应的人体图像中人体关键点;
根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标。
3.如权利要求2所述的方法,其特征在于,所述获取特定场景下的人体关键点模板,包括:
确定所述待检测的人体图像所属的场景信息;
根据所述场景信息,从模板库中获取所述特定场景下的人体关键点模板。
4.如权利要求3所述的方法,其特征在于,所述方法还包括:
根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点;
生成与所述候选关键点匹配的人体关键点模板。
5.如权利要求4所述的方法,其特征在于,所述根据所述场景信息,从所述人体图像中的人体关键点中确定候选关键点,包括:
在所述场景信息为城市监控场景,且所述人体图像为行人图像的情况下,将所述行人图像的人体关键点中从头部到脚踝范围内的关键点,作为所述候选关键点;或者
在所述场景信息为交通抓拍场景,且所述人体图像为行驶车辆中的司机图像的情况下,将所述司机图像的人体关键点中从头部到胸部范围内的关键点,作为所述候选关键点。
6.如权利要求2至5任一项所述的方法,其特征在于,所述根据所述人体图像中的人体关键点和所述人体关键点模板中对应人体关键点之间的相似度,确定所述人体图像的关键点评价指标,包括:
将所述人体图像中的人体关键点与所述人体关键点模板进行匹配,得到每一所述人体关键点在所述人体关键点模板中对应的目标关键点;
确定每一所述人体关键点和对应的所述目标关键点之间的加权欧氏距离;
根据所述加权欧氏距离,确定所述人体图像的关键点评价指标。
7.如权利要求2至6任一项所述的方法,其特征在于,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:
在所述关键点评价指标低于特定评价阈值的情况下,确定所述人体图像为质量不满足要求的图像;或者
在所述关键点评价指标高于等于所述特定评价阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
8.如权利要求1所述的方法,其特征在于,所述质量评价参数包括与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数,包括:
将所述人体关键点两两相连后所包围的最大范围所对应的人体图像,确定为所述人体关键点的连通区域;
确定所述人体关键点的连通区域中的像素梯度均值。
9.如权利要求8所述的方法,其特征在于,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:
在所述像素梯度均值低于特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像;
在所述像素梯度均值高于等于所述特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像。
10.如权利要求1至6任一项或8所述的方法,其特征在于,所述人体图像的质量评价参数包括与所述人体结构信息相关的关键点评价指标和与所述人体关键点的连通区域的图像质量相关的像素梯度均值,所述根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测,包括:
在所述关键点评价指标高于等于特定评价阈值且所述像素梯度均值高于等于特定梯度阈值的情况下,确定所述人体图像为质量满足要求的目标人体图像;或者
在所述关键点评价指标低于所述特定评价阈值,或者,所述像素梯度均值低于所述特定梯度阈值的情况下,确定所述人体图像为质量不满足要求的图像。
11.如权利要求1至10任一项所述的方法,其特征在于,所述方法还包括:
对待处理视频帧序列中的每一帧图像进行人体识别,得到至少一个所述待检测的人体图像。
12.一种人体图像质量检测装置,其特征在于,所述装置包括关键点提取模块、评价参数确定模块和质量检测模块,其中:
所述关键点提取模块,用于提取待检测的人体图像中的人体关键点;
所述评价参数确定模块,用于根据所述人体图像中的人体关键点,确定所述人体图像的质量评价参数;其中,所述质量评价参数用于表征所述人体图像的人体结构信息和/或所述人体图像中人体关键点的连通区域的图像质量;
所述质量检测模块,用于根据所述人体图像的质量评价参数,对所述人体图像的质量进行检测。
13.一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至11任一项所述方法中的步骤。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至11中任一项所述方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110086973.1A CN112800923A (zh) | 2021-01-22 | 2021-01-22 | 人体图像质量检测方法及装置、电子设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110086973.1A CN112800923A (zh) | 2021-01-22 | 2021-01-22 | 人体图像质量检测方法及装置、电子设备、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112800923A true CN112800923A (zh) | 2021-05-14 |
Family
ID=75811173
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110086973.1A Pending CN112800923A (zh) | 2021-01-22 | 2021-01-22 | 人体图像质量检测方法及装置、电子设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112800923A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113538368A (zh) * | 2021-07-14 | 2021-10-22 | Oppo广东移动通信有限公司 | 图像选择方法、图像选择装置、存储介质与电子设备 |
WO2023093151A1 (zh) * | 2021-11-25 | 2023-06-01 | 上海商汤智能科技有限公司 | 图像筛选方法及装置、电子设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200156254A1 (en) * | 2018-11-20 | 2020-05-21 | Beijing Jingdong Shangke Information Technology Co., Ltd. | System and method for fast object detection in robot picking |
CN111476097A (zh) * | 2020-03-06 | 2020-07-31 | 平安科技(深圳)有限公司 | 人体姿态评估方法、装置、计算机设备及存储介质 |
CN112163503A (zh) * | 2020-09-24 | 2021-01-01 | 高新兴科技集团股份有限公司 | 办案区人员无感轨迹生成方法、系统、存储介质及设备 |
-
2021
- 2021-01-22 CN CN202110086973.1A patent/CN112800923A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200156254A1 (en) * | 2018-11-20 | 2020-05-21 | Beijing Jingdong Shangke Information Technology Co., Ltd. | System and method for fast object detection in robot picking |
CN111476097A (zh) * | 2020-03-06 | 2020-07-31 | 平安科技(深圳)有限公司 | 人体姿态评估方法、装置、计算机设备及存储介质 |
CN112163503A (zh) * | 2020-09-24 | 2021-01-01 | 高新兴科技集团股份有限公司 | 办案区人员无感轨迹生成方法、系统、存储介质及设备 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113538368A (zh) * | 2021-07-14 | 2021-10-22 | Oppo广东移动通信有限公司 | 图像选择方法、图像选择装置、存储介质与电子设备 |
WO2023093151A1 (zh) * | 2021-11-25 | 2023-06-01 | 上海商汤智能科技有限公司 | 图像筛选方法及装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107784282B (zh) | 对象属性的识别方法、装置及系统 | |
CN110751022B (zh) | 基于图像识别的城市宠物活动轨迹监测方法及相关设备 | |
CN106354816B (zh) | 一种视频图像处理方法及装置 | |
CN109145766B (zh) | 模型训练方法、装置、识别方法、电子设备及存储介质 | |
US10318797B2 (en) | Image processing apparatus and image processing method | |
KR20200004841A (ko) | 셀피를 촬영하도록 사용자를 안내하기 위한 시스템 및 방법 | |
CN109670441A (zh) | 一种实现安全帽穿戴识别的方法、系统、终端以及计算机可读存储介质 | |
CN110070029B (zh) | 一种步态识别方法及装置 | |
JP2019109709A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110096938B (zh) | 一种视频中的动作行为的处理方法和装置 | |
CN110298297A (zh) | 火焰识别方法和装置 | |
CN110751069A (zh) | 一种人脸活体检测方法及装置 | |
CN111860430A (zh) | 打架行为的识别方法和装置、存储介质及电子装置 | |
CN113128368B (zh) | 一种人物交互关系的检测方法、装置及系统 | |
CN112800923A (zh) | 人体图像质量检测方法及装置、电子设备、存储介质 | |
CN107533547B (zh) | 产品索引编排方法及其系统 | |
CN110909565B (zh) | 图像识别和行人再识别方法及装置,电子和存储设备 | |
CN113780145A (zh) | 精子形态检测方法、装置、计算机设备和存储介质 | |
CN112560584A (zh) | 一种人脸检测方法及装置、存储介质、终端 | |
CN114359787A (zh) | 目标属性识别方法、装置、计算机设备及存储介质 | |
CN109035686B (zh) | 一种预防丢失的报警方法及装置 | |
CN115546680A (zh) | 移动目标检测方法、装置、存储介质及电子设备 | |
Wang et al. | Smoking behavior detection algorithm based on YOLOv8-MNC | |
CN115482569A (zh) | 目标客流统计方法、电子设备以及计算机可读存储介质 | |
CN107871019B (zh) | 人车关联搜索方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210514 |