CN115909508B - 一种单人体育运动场景下的图像关键点增强检测方法 - Google Patents
一种单人体育运动场景下的图像关键点增强检测方法 Download PDFInfo
- Publication number
- CN115909508B CN115909508B CN202310015187.1A CN202310015187A CN115909508B CN 115909508 B CN115909508 B CN 115909508B CN 202310015187 A CN202310015187 A CN 202310015187A CN 115909508 B CN115909508 B CN 115909508B
- Authority
- CN
- China
- Prior art keywords
- key point
- image
- key
- detection
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种单人体育运动场景下的图像关键点增强检测方法。针对预先用相机采集的单人体育运动场景的视频,采用关键点检测模型结合不同亮度和对比度进行匹配处理获得最优的亮度和对比度作为最优匹配参数;对实时获得的单人体育运动场景下的图像按照最优匹配参数进行处理,且基于历史关键点信息进行人物检测框的动态更新生成,实现关键点增强检测。本发明通过自适应视频源场景变化,人物检测框生成生成,自动修正计数大幅度提升关键点检测准确率和稳定性,兼容已有的关键点检测模型,具有检测速度快、自适应不同输入视频源场景变化、可在已有关键点检测方法基础上继续提升检测准确率和稳定性的优点。
Description
技术领域
本发明涉及视觉关键点检测算法领域的一种关键点检测方法,尤其是涉及了一种单人体育运动场景下的图像关键点增强检测方法。
背景技术
基于视觉的人体关键点检测技术,一般是利用摄像头获取人物运动实时视频画面,然后利用深度学习人体关键点检测算法逐帧识别画面中的人体关键点信息(例如鼻子,左右眼,左右耳,左右肩,左右肘,左右腕,左右臀,左右膝,左右脚踝等),体育运动判断,检测,计数方面的核心技术。在体育考试,体质检测,运动检测,体能评估,运动健身等领域,通过对关键点相对位置关系的判断,能够反应运动人员不同的运动状态,从而进一步利用算法进行动作匹配度判断,运动计数等功能。
人体关键点检测算法目前基本上是采用基于深度学习的方法,一般可以分为自顶向下(top-down)和自底向上(bottom-up)两种方式,自顶向下的关键点检测算法先利用人物检测算法,把人物从整个画面中检测框出来,然后针对框内的人物做人体关键点检测,这种方式识别准确率高,但因为要使用两个算法模型,识别速度较慢;自底向上的关键点检测算法直接对整个画面进行检测,省去了人物检测步骤,算法速度快但检测准确率相对较低。从模型规模方面考虑,大模型参数量较多,虽然检测准确率有一定提升,但对部署设备的算力要求也成倍增加,实际应用中设备成本太高,无法普及应用;小模型参数量较少,识别准确率相对较差,但检测速度快,对部署设备算力要求相对较少,实际部署应用范围更广。
因此,传统关键点检测技术一般从模型结构优化或者增加训练数据提升算法性能,效果提升不显著,有的虽然准确率提升比较大,但算法模型参数也增加,计算量大,无法在性能低的设备上部署应用或者虽然能适用但检测速度慢无法应用,或者成本较高。
现有技术缺少了一种在体育运动场景下,模型参数小,检测速度快,检测准确率高的关键点检测方法和方式。
发明内容
本发明的目的在于针对现有技术的不足,本发明提供了一种在单人体育运行场景下的关键点检测增强技术,在现有模型基数上采用多项技术进一步提升关键点检测性能,能使得关键点检测检测准确和速度提升,尤其是准确率相对较低的轻量级模型,在基本上不牺牲运行速度的情况下进一步提升检测准确率和稳定性,适用范围更广,实用性更强,主要应用在基于人体关键点的运动计数,动作匹配判断,体能检测,健身标准性判断等需要人体关键点信息的领域。
在基础关键点检测算法的基础上,本发明通过改变输入视频源对比度和亮度属性,找到在该场景下最适应的亮度和对比度使得关键点检测模型检测效果最好。
本发明的目的是通过以下技术方案来实现的:
(1)针对单人体育运动场景的视频,采用关键点检测模型结合不同亮度和对比度进行匹配处理获得最优的亮度和对比度作为最优匹配参数;
(2)对实时获得的单人体育运动场景下的图像按照最优匹配参数进行处理,且基于历史关键点信息进行人物检测框的动态更新生成,实现关键点增强检测。
所述步骤(1)具体为:
提取视频的随机一帧图像,并获取图像的亮度和对比度信息,以图像的亮度和对比度为基准在各自上下0.5-1.5倍范围按等距切分并组合设置多个亮度和对比度的不同阶梯组合,且在调整达到每个阶梯组合下的图像进行处理获得对应的评估参数R,选取评估参数R最大的亮度和对比度的阶梯组合作为最优匹配参数。
所述的评估参数R具体按照以下方式获得:
采用关键点检测模型对图像进行关键点检测获得关键点集,循环进行n次得到关键点数组S=[K1,K2,K3,...,Kn],Kn表示第n次检测获得的关键点集,每个关键点集K包含了m个关键点的坐标及其置信度;
然后计算关键点数组S中每个关键点集的m个关键点的置信度c的平均值,再求取关键点数组S中所有关键点集的平均值的平均作为评估参数R。
所述步骤(2)具体为:
在单人体育运动场景下,对实时获得的每一帧图像的亮度和对比度调整到最优匹配参数下,然后进行以下处理:
(2.1)对当前帧图像采用关键点检测模型进行关键点检测获得关键点集K,将关键点集K添加时间戳信息后存放入长度为L的缓存队列Q中,缓存队列Q用于缓存L帧图像的关键点集K的数据;
(2.2)当缓存队列Q中的数据长度小于L时候不进行以下步骤,直到缓存队列Q中的数据长度为L,Q=[Kt-L, ..., Kt-2, Kt-2, Kt-1, Kt],其中Kt表示第t帧图像的关键点集K,则进行以下步骤;
(2.3)在当前的缓存队列Q中,每相邻的两帧图像的关键点集K的关键点间计算移动距离,然后利用下面公式计算对应关键点的移动速度v进而判断筛选关键点:
V=((xt-xt-1)2+(yt-yt-1) 1/2)/ (Tt-Tt-1)
其中,xt、yt表示关键点集K的一关键点在第t帧图像中的横纵坐标,Tt表示第t帧图像的计时时间,Tt-Tt-1表示t帧和前一帧之间的时间差;
再根据关键点的移动速度v判断是否在预设的速度区间[vf, vb]内过滤掉不满足速度区间内的关键点,其中vf, vb分别表示速度区间的下限和上限:
若在预设的速度区间[vf, vb]内,则保留该关键点;
若不在预设的速度区间[vf, vb]内,则舍弃该关键点,并以该关键点作为异常关键点;
(2.4)根据保留的每个关键点的置信度C和预设的置信度阈值g进行比较,过滤掉小于置信度阈值g的关键点,且以小于置信度阈值g的关键点作为异常关键点;
(2.5)根据人体关键相对位置和比例关系确定人体结构合理性条件集合P,利用人体结构合理性条件集合P对步骤(2.4)处理后获得的缓存队列Q中每个关键点集K内的所有关键点关系进行合理性条件判断,去除缓存队列Q中不满足人体结构合理性条件集合P要求的所有关键点得到新队列Qf;
(2.6)再对新队列Qf中每个关键点集K内包含的关键点数量进行判断,如果关键点集K内包含的关键点数量小于总关键点数量的一半,则去除该关键点集K,否则不去除;最后得到最优关键点队列Qb,
(2.7)根据最优关键点队列Qf中所有关键点在图像上的二维分布,建立一个最小外接矩形框,最小外接矩形框包含最优关键点队列Qb中所有关键点集的所有关键点;
(2.8)根据上下左右方向分量的实时设置的检测速度V和检测平均周期T确定关键点在上下左右方向分量的扩展距离,再以扩展距离对最小外接矩形框分别进行上下左右方向上的扩展生成获得运动趋势分析之后的检测框Re,实现图像中单人体育运动的定位;
(2.9)在下一帧图像中截取检测框Re的区域,再采用关键点检测模型对检测框Re的区域进行关键点检测获得关键点集K,添加时间戳信息后存放入缓存队列Q中;
(2.10)再不断重复步骤(2.3)~(2.9)迭代处理进行单人体育运动场景下的图像关键点实时增强检测。
所述的缓存队列Q采用先入先出方式存储,每存放入一帧图像的关键点集K则原有所有帧图像的关键点集K均往后向末尾移动一位,当新存放入一帧图像的关键点集K后使得缓存队列Q超出长度L时则舍去位于缓存队列Q末尾的一帧图像的关键点集K以进行实时更新缓存队列Q。
所述步骤(2.8)中,包括按照以下方式实时更新:
提取图像在外接矩形框中的部分在原图像上裁剪得到原图像的子图,具体实施框出人物的子图,更集中到人物上,图像尺寸更小。然后把子图输入到关键点检测模型中得到人体关键点,再根据当前关键点和前一帧的关键点及两帧之间的时间差Tt-Tt-1计算每个关键点的检测速度V,然后将检测速度V在上下左右方向上进行分解再乘以时间差得到所有关键点在上下左右方向上的运动分量,取每个方向上运动分量中的最大值作为外接矩形框在该方向上的扩展距离,从而由外接矩形框扩展获得最小外接矩形框。
最后再在原图像上裁剪得到原图像的子图,不断循环进行,使得能识别更准确地框出人物的子图,更集中到人物上,图像尺寸更小,所以相对原图输入到关键点检测模型效果更好,速度更快。
所述步骤(2)中,还基于异常关键点进行图像区域屏蔽。
基于异常关键点进行图像区域屏蔽,具体为根据历史过滤获得的异常关键点,找到并建立频繁出现异常关键点的区域作为异常区域,在异常区域采用固定像素填充、模糊处理或者近邻相似非异常区域填充等方法屏蔽。
异常区域一般是干扰人物背景图像或这与人体结构相似的物体画面,容易引起正常运动中的人体关键点检测。
屏蔽区域形状不固定,以覆盖异常关键点出现区域为准。异常区域满足以下条件:异常关键点出现频率高,出现区域固定区域范围不能超过一定面积。
本发明包括人物检测框自动生成方法,不需额外的人物检测模型,即可提取人物画面,缩小关键点检测模型输入画面区域,大幅提升算法运行速度和准确率。本发明包括了基于关键点运动速率、人体结构合理性的运动趋势分析方法,用于自适应动态修正检测框范围。本发明包括了基于异常关键点分析的图像区域屏蔽方法,把容易引起关键点异常的图像区域使用固定像素替换,模糊处理等方法屏蔽,进一步提升检测准确性。
本发明能够大幅度提升基础关键检测模型的速度和准确率,有益效果具体如下:
1、提出了一种关键点检测模型和输入视频亮度、对比度匹配方法。发明一种关键点检测准确率评估参数和自适应寻找模型和输入视频源的亮度和对比度最佳匹配方法。能够根据不同使用场景的视频源找到最合适的亮度和对比度设置,使得关键点检测检测模型在该参数下准确率最高。
2、提出了一种基于历史关键点信息的人物检测框自动生成方法:根据关键点检测置信度,合理运动速率区间,人体关键点相对位置和结构的合理性过滤掉异常关键点。然后依照关键点的位置分布的外接最小矩形框确定基础检测框,再根据上下左右的运动趋势范围得到最终检测框,从而缩小检测区域提高检测速度和准确率。
3、提出了一种基于异常关键点分析的图像区域屏蔽方法,把容易引起关键点异常的图像区域使用固定像素替换,模糊处理等方法屏蔽,进一步提升检测准确性。
本发明的有益效果是:
本发明是提出了一种关键点检测模型和输入视频亮度、对比度匹配方法,自适应匹配不同视频检测场景,提升算法检测准确率。提出了一种基于历史关键点信息的人物检测框自动生成方法,不需额外的人物检测模型,即可提取运动人物画面区域,大幅提升算法运行速度和准确率。
本发明还提出了一种基于异常关键点分析的图像区域屏蔽方法,进一步提升检测准确率。
本发明适用于不同的关键点检测方法,是一种二次增强关键点检测技术,能够使检测准确率相对较低的但运行速度快的小模型进一步提升检测准确率和稳定性且基本不牺牲性能。扩展关键点检测应用范围,降低部署使用关键点检测技术的门槛。
综合来说,本发明是在基础关键点检测模型基础上,采用多项优化技术,提升关键点检测准确率,鲁棒性,稳定性,并且适用范围广,运行速度快,实用性强,可以兼容不同的关键点检测算法。
附图说明
图1为实施例的关键点数组S的数据结构示意图;
图2为实施例最优亮度和对比度匹配流程图;
图3为实施例关键点信息K放入长度为L的缓存队列Q的示意图;
图4为实施例计算对应关键点移动速度的示意图;
图5为实施例根据人体关键相对位置和比例关系确定人体结构合理性条件集合P的示意图;
图6为实施例根据关键点二维分布确定最小外接矩形框R的示意图;
图7为实施例中最小外接矩形框和检测框等的示意图;
图8为实施例人物检测框生成总的流程图;
图9为实施例图像区域屏蔽的示意图。
具体实施方式
下面结合附图和具体实施对本发明作进一步说明。
按照本发明完整方法实施的实施例及其实施过程如下:
(1)流程如图2所示,针对预先用相机采集的单人体育运动场景的视频,采用关键点检测模型结合不同亮度和对比度进行匹配处理获得最优的亮度和对比度作为最优匹配参数;
在开始检测阶段,提取视频的随机一帧图像,并获取图像的亮度和对比度信息,以图像的亮度和对比度为基准在各自上下0.5-1.5倍范围按等距切分并组合设置多个亮度和对比度的不同阶梯组合,调整图像达到每个阶梯组合的亮度和对比度,且在调整达到每个阶梯组合下的图像进行处理获得对应的评估参数R,选取评估参数R最大的亮度和对比度的阶梯组合作为最优匹配参数。
评估参数R具体按照以下方式获得:
采用关键点检测模型对图像进行关键点检测获得关键点集,循环进行n次得到关键点数组S=[K1,K2,K3,...,Kn],Kn表示第n次检测获得的关键点集,每个关键点集K包含了m个关键点的横纵坐标及其置信度,m个关键点分布在不同的人体的部位,例如鼻子、左眼、右眼等;
关键点数组S和关键点集K的数据结构如图1所示,其中x,y为关键点在图像上的像素位置,c为检测置信度概率为0-1的值,越大代表检测的确信度越高,反应对该关键点的检测越准确。
然后计算关键点数组S中每个关键点集的m个关键点的置信度c的平均值,再求取关键点数组S中所有关键点集的平均值的平均作为评估参数R,评估参数R越大表示该亮度和对比度下检测的准确性越高。
在最优匹配参数的亮度和对比度下,能使得关键点检测模型的准确率最高,然后利用最优匹配参数的亮度和对比度对后续的视频进行处理。
本发明的亮度和对比度是按照不同的组合等距切分,具体可表示如下:
(2)如图8所示,对实时获得的单人体育运动场景下的图像按照最优匹配参数进行处理,且基于历史关键点信息进行人物检测框的动态更新生成,实现关键点增强检测。
在单人体育运动场景下,对实时获得的每一帧图像的亮度和对比度调整到最优匹配参数下,然后进行以下处理:
(2.1)如图3所示,对当前帧图像采用关键点检测模型进行关键点检测获得关键点集K,将关键点集K添加时间戳信息后存放入长度为L的缓存队列Q中,缓存队列Q用于缓存L帧图像的关键点集K的数据,L相当于帧数;
缓存队列Q采用先入先出方式存储,每存放入一帧图像的关键点集K则原有所有帧图像的关键点集K均往后向末尾移动一位,当新存放入一帧图像的关键点集K后使得缓存队列Q超出长度L时则舍去位于缓存队列Q末尾的一帧图像的关键点集K以进行实时更新缓存队列Q。
(2.2)当缓存队列Q中的数据长度小于L时候不进行以下步骤,直到缓存队列Q中的数据长度为L,Q=[Kt-L, ..., Kt-2, Kt-2, Kt-1, Kt],其中Kt表示第t帧图像的关键点集K,则进行以下步骤;
(2.3)如图4所示,在当前的缓存队列Q中,每相邻的两帧图像的关键点集K的关键点间计算移动距离,然后利用下面公式计算对应关键点的移动速度v进而判断筛选关键点:
V=((xt-xt-1)2+(yt-yt-1) 1/2)/ (Tt-Tt-1)
其中,xt、yt表示关键点集K的某一关键点在第t帧图像中的横纵坐标,Tt表示第t帧图像的计时时间;
再根据关键点的移动速度v判断是否在预设的速度区间[vf, vb]内过滤掉不满足速度区间内的关键点,其中vf, vb分别表示速度区间的下限和上限:
若在预设的速度区间[vf, vb]内,则保留该关键点;
若不在预设的速度区间[vf, vb]内,则舍弃该关键点,并以该关键点作为异常关键点;
(2.4)根据保留的每个关键点的置信度C和预设的置信度阈值g进行比较,过滤掉小于置信度阈值g的关键点,且以小于置信度阈值g的关键点作为异常关键点;
(2.5)如图5所示,根据预设的人体关键相对位置和比例关系确定人体结构合理性条件集合P,利用人体结构合理性条件集合P对步骤(2.4)处理后获得的缓存队列Q中每个关键点集K内的所有关键点关系进行合理性条件判断,去除缓存队列Q中不满足人体结构合理性条件集合P要求的所有关键点得到新队列Qf;
新队列Qf中每个关键点集K的关键点均满足人体结构合理性条件集合P,且置信度都大于或等于置信度阈值g,移动速度均处在合理区间[vf, vb]内。
(2.6)再对新队列Qf中每个关键点集K内包含的关键点数量进行判断,如果关键点集K内包含的关键点数量小于总关键点数量的一半,则去除该关键点集K,否则不去除;最后得到最优关键点队列Qb,
具体实施中,还设置最优关键点队列Qb必须满足至少存在一个关键点集K包含所有的关键点的位置且最优关键点队列Qb的关键点集数量大于L/2,否则不进行接下来的步骤。
(2.7)如图6所示,根据最优关键点队列Qf中所有关键点在图像上的二维分布,建立一个最小外接矩形框,最小外接矩形框包含最优关键点队列Qb中所有关键点集的所有关键点,最小外接矩形框如图7中的虚线框所示;
(2.8)根据上下左右方向分量的实时设置的检测速度V和检测平均周期T确定关键点在上下左右方向分量的扩展距离,再以扩展距离对最小外接矩形框分别进行上下左右方向上的扩展生成获得运动趋势分析之后的检测框Re作为单人体育运动的定位框,检测框Re如图7中的虚线框之外的实线框所示,实现图像中单人体育运动的定位;
检测平均周期T为两帧图像之间的时间差值。
所述步骤(2.8)中,包括按照以下方式实时更新:
提取图像在外接矩形框中的部分在原图像上裁剪得到原图像的子图,具体实施框出人物的子图,更集中到人物上,图像尺寸更小。然后把子图输入到关键点检测模型中得到人体关键点,再根据当前关键点和前一帧的关键点及两帧之间的时间差Tt-Tt-1计算每个关键点的检测速度V,然后将检测速度V在上下左右方向上进行分解再乘以时间差得到所有关键点在上下左右方向上的运动分量,取每个方向上运动分量中的最大值作为外接矩形框在该方向上的扩展距离,从而由外接矩形框扩展获得最小外接矩形框。
最后再在原图像上裁剪得到原图像的子图,不断循环进行,使得能识别更准确地框出人物的子图,更集中到人物上,图像尺寸更小,所以相对原图输入到关键点检测模型效果更好,速度更快。
这样使得检测速度V随着最优关键点队列Qb对应的最小外接矩形框不断动态更新,也使得检测框随着每一帧图像实时获得关键点集K存入后的缓存队列Q进行不断动态更新,如图7所示。
(2.9)在下一帧图像中截取检测框Re所在的区域,再采用关键点检测模型对检测框Re的区域进行关键点检测获得关键点集K,添加时间戳信息后存放入缓存队列Q中;
(2.10)再不断重复步骤(2.3)~(2.9)迭代处理进行单人体育运动场景下的图像关键点实时增强检测。
这样在之前图像上截取新的检测框Re用于接下来的关键点检测,循环进行动态更新检测框Re,缩小关键点检测区域,能够提高关键点检测速度和准确率。
如图9所示,步骤(2)中,还基于异常关键点进行图像区域屏蔽,使得图像数据处理更快更准确,具体为根据历史过滤获得的异常关键点,找到并建立频繁出现异常关键点的区域作为异常区域,在异常区域采用固定像素填充、模糊处理或者近邻相似非异常区域填充等方法屏蔽。
通过异常关键点出现区域屏蔽,可以减少异常关键点出现概率,进一步提升算法准确率,在实际应用中效果显著。
找到并建立频繁出现异常关键点的区域作为异常区域,具体为:
从检测开始,记录每次检测过程中出现的异常关键点坐标,每间隔固定时间对所有异常关键点在画面中的密度分布情况进行统计,取密度大于一定阈值的区域作为异常区域。确定异常区域后用固定像素填充、模糊处理或者近邻相似非异常区域填充等方法屏蔽异常区域,同时把屏蔽区域内的关键点从记录中删除,不参与下一轮的异常区域判断,循环进行。
实施实例可以部署到手机设备上(android 和 ios 设备都可)处理器芯片CPU频率在2GHZ以上,带有GPU模块的性能更好。使用手机本身摄像头获取人物运动画面,使用movenet 关键点检测模型作为基础模型,使用本发明算法,实现跳绳,深蹲等运动技术功能,能显著提高关键点检测准确度,且检测速率损失非常小(检测速率由25FGS变成23FGS)。
也可以使用电脑或边缘计算设备部署本发明算法技术,外接RTSP源摄像头或USB摄像头获取人物运动画面进行关键点检测。
基础算法模型包括但不限于:OpenPose,HRnet,Movenet,AlphPose等。
具体实施中,方法适用于跳绳,深蹲,俯卧撑,平板支撑,开合跳,坐位体前屈,原地跑步,仰卧起坐等单人体育运动下的关键点增强检测需求。
由此实施可见,本发明是在基础的关键点检测模型上,通过自适应视频源场景变化,人物检测框生成生成,人物检测框自动修正计数大幅度提升关键点检测准确率和稳定性,可以兼容已有的关键点检测模型,在此基础上继续提升性能。具有检测速度快,自适应不同输入视频源场景变化,可以在已有关键点检测方法基础上继续提升检测准确率和稳定性的优点。
Claims (6)
1.一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:方法包括如下步骤:
(1)针对单人体育运动场景的视频,采用关键点检测模型结合不同亮度和对比度进行匹配处理获得最优的亮度和对比度作为最优匹配参数;
(2)对实时获得的单人体育运动场景下的图像按照最优匹配参数进行处理,且基于历史关键点信息进行人物检测框的动态更新生成;
所述步骤(1)具体为:提取视频的随机一帧图像,并获取图像的亮度和对比度信息,以图像的亮度和对比度为基准在各自上下0.5-1.5倍范围按等距切分并组合设置多个亮度和对比度的不同阶梯组合,且在调整达到每个阶梯组合下的图像进行处理获得对应的评估参数R,选取评估参数R最大的亮度和对比度的阶梯组合作为最优匹配参数;
所述步骤(2)具体为:
在单人体育运动场景下,对实时获得的每一帧图像的亮度和对比度调整到最优匹配参数下,然后进行以下处理:
(2.1)对当前帧图像采用关键点检测模型进行关键点检测获得关键点集K,将关键点集K添加时间戳信息后存放入长度为L的缓存队列Q中,缓存队列Q用于缓存L帧图像的关键点集K的数据;
(2.2)当缓存队列Q中的数据长度小于L时候不进行以下步骤,直到缓存队列Q中的数据长度为L,Q=[Kt-L, ..., Kt-2, Kt-2, Kt-1, Kt],其中Kt表示第t帧图像的关键点集K,则进行以下步骤;
(2.3)在当前的缓存队列Q中,每相邻的两帧图像的关键点集K的关键点间计算移动距离,然后利用下面公式计算对应关键点的移动速度v进而判断筛选关键点:
V=((xt-xt-1)2+(yt-yt-1)1/2)/ (Tt-Tt-1)
其中,xt、yt表示关键点集K的一关键点在第t帧图像中的横纵坐标,Tt表示第t帧图像的计时时间,Tt-Tt-1表示t帧和前一帧之间的时间差;
再根据关键点的移动速度v判断是否在预设的速度区间[vf, vb]内过滤掉不满足速度区间内的关键点,其中vf, vb分别表示速度区间的下限和上限:
若在预设的速度区间[vf, vb]内,则保留该关键点;
若不在预设的速度区间[vf, vb]内,则舍弃该关键点,并以该关键点作为异常关键点;
(2.4)根据保留的每个关键点的置信度C和预设的置信度阈值g进行比较,过滤掉小于置信度阈值g的关键点,且以小于置信度阈值g的关键点作为异常关键点;
(2.5)根据人体关键相对位置和比例关系确定人体结构合理性条件集合P,利用人体结构合理性条件集合P对步骤(2.4)处理后获得的缓存队列Q中每个关键点集K内的所有关键点关系进行合理性条件判断,去除缓存队列Q中不满足人体结构合理性条件集合P要求的所有关键点得到新队列Qf;
(2.6)再对新队列Qf中每个关键点集K内包含的关键点数量进行判断,如果关键点集K内包含的关键点数量小于总关键点数量的一半,则去除该关键点集K,否则不去除;最后得到最优关键点队列Qb,
(2.7)根据最优关键点队列Qf中所有关键点在图像上的二维分布,建立一个最小外接矩形框,最小外接矩形框包含最优关键点队列Qb中所有关键点集的所有关键点;
(2.8)根据上下左右方向分量的实时设置的检测速度V和检测平均周期T确定关键点在上下左右方向分量的扩展距离,再以扩展距离对最小外接矩形框分别进行上下左右方向上的扩展生成获得运动趋势分析之后的检测框Re,实现图像中单人体育运动的定位;
(2.9)在下一帧图像中截取检测框Re的区域,再采用关键点检测模型对检测框Re的区域进行关键点检测获得关键点集K,添加时间戳信息后存放入缓存队列Q中;
(2.10)再不断重复步骤(2.3)~(2.9)迭代处理进行单人体育运动场景下的图像关键点实时增强检测。
2.根据权利要求1所述的一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:所述的评估参数R具体按照以下方式获得:
采用关键点检测模型对图像进行关键点检测获得关键点集,循环进行n次得到关键点数组S=[K1,K2,K3,...,Kn],Kn表示第n次检测获得的关键点集,每个关键点集K包含了m个关键点的坐标及其置信度;
然后计算关键点数组S中每个关键点集的m个关键点的置信度c的平均值,再求取关键点数组S中所有关键点集的平均值的平均作为评估参数R。
3.根据权利要求1所述的一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:所述的缓存队列Q采用先入先出方式存储,每存放入一帧图像的关键点集K则原有所有帧图像的关键点集K均往后向末尾移动一位,当新存放入一帧图像的关键点集K后使得缓存队列Q超出长度L时则舍去位于缓存队列Q末尾的一帧图像的关键点集K以进行实时更新缓存队列Q。
4.根据权利要求1所述的一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:所述步骤(2.8)中,包括:
提取图像在外接矩形框中的部分在原图像上裁剪得到原图像的子图,然后把子图输入到关键点检测模型中得到人体关键点,再根据当前关键点和前一帧的关键点及两帧之间的时间差Tt-Tt-1计算每个关键点的检测速度V,然后将检测速度V在上下左右方向上进行分解再乘以时间差得到所有关键点在上下左右方向上的运动分量,取每个方向上运动分量中的最大值作为外接矩形框在方向上的扩展距离,从而由外接矩形框扩展获得最小外接矩形框。
5.根据权利要求1所述的一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:所述步骤(2)中,还基于异常关键点进行图像区域屏蔽。
6.根据权利要求5所述的一种单人体育运动场景下的图像关键点增强检测方法,其特征在于:基于异常关键点进行图像区域屏蔽,具体为根据历史过滤获得的异常关键点,找到并建立频繁出现异常关键点的区域作为异常区域,在异常区域采用固定像素填充、模糊处理或者近邻相似非异常区域填充等方法屏蔽。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310015187.1A CN115909508B (zh) | 2023-01-06 | 2023-01-06 | 一种单人体育运动场景下的图像关键点增强检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310015187.1A CN115909508B (zh) | 2023-01-06 | 2023-01-06 | 一种单人体育运动场景下的图像关键点增强检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115909508A CN115909508A (zh) | 2023-04-04 |
CN115909508B true CN115909508B (zh) | 2023-06-02 |
Family
ID=86484183
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310015187.1A Active CN115909508B (zh) | 2023-01-06 | 2023-01-06 | 一种单人体育运动场景下的图像关键点增强检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115909508B (zh) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107481260A (zh) * | 2017-06-22 | 2017-12-15 | 深圳市深网视界科技有限公司 | 一种区域人群滞留检测方法、装置和存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101169827B (zh) * | 2007-12-03 | 2010-06-02 | 北京中星微电子有限公司 | 一种对图像中的特征点进行跟踪的方法及装置 |
CN109905590B (zh) * | 2017-12-08 | 2021-04-27 | 腾讯科技(深圳)有限公司 | 一种视频图像处理方法及装置 |
CN111507138A (zh) * | 2019-01-31 | 2020-08-07 | 北京奇虎科技有限公司 | 图像识别方法、装置、计算机设备及存储介质 |
CN109977912B (zh) * | 2019-04-08 | 2021-04-16 | 北京环境特性研究所 | 视频人体关键点检测方法、装置、计算机设备和存储介质 |
CN110399844A (zh) * | 2019-07-29 | 2019-11-01 | 南京图玩智能科技有限公司 | 一种应用于跨平台的人脸关键点识别与追踪方法及系统 |
CN112307831B (zh) * | 2019-07-31 | 2023-04-14 | 广州弘度信息科技有限公司 | 一种基于人体关键点检测与跟踪的剧烈运动检测方法 |
US11475240B2 (en) * | 2021-03-19 | 2022-10-18 | Apple Inc. | Configurable keypoint descriptor generation |
-
2023
- 2023-01-06 CN CN202310015187.1A patent/CN115909508B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107481260A (zh) * | 2017-06-22 | 2017-12-15 | 深圳市深网视界科技有限公司 | 一种区域人群滞留检测方法、装置和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115909508A (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021208275A1 (zh) | 一种交通视频背景建模方法及系统 | |
CN111860494B (zh) | 图像目标检测的优化方法、装置、电子设备和存储介质 | |
CN109344702B (zh) | 基于深度图像和彩色图像的行人检测方法及装置 | |
CN105740945B (zh) | 一种基于视频分析的人群计数方法 | |
US11093737B2 (en) | Gesture recognition method and apparatus, electronic device, and computer-readable storage medium | |
EP1975879A2 (en) | Computer implemented method for tracking object in sequence of frames of video | |
CN106991686B (zh) | 一种基于超像素光流场的水平集轮廓跟踪方法 | |
CN102214309B (zh) | 一种基于头肩模型的特定人体识别方法 | |
CN109670430A (zh) | 一种基于深度学习的多分类器融合的人脸活体识别方法 | |
WO2019071976A1 (zh) | 基于区域增长和眼动模型的全景图像显著性检测方法 | |
KR101635896B1 (ko) | 깊이 정보 기반 사람 추적 장치 및 그 방법 | |
CN110460838B (zh) | 一种镜头切换的检测方法、装置及计算机设备 | |
CN110781962B (zh) | 基于轻量级卷积神经网络的目标检测方法 | |
CN103020580B (zh) | 快速人脸检测方法 | |
CN104966095B (zh) | 图像目标检测方法及装置 | |
CN108876820A (zh) | 一种基于均值漂移的遮挡条件下移动目标追踪方法 | |
CN112329784A (zh) | 一种基于时空感知及多峰响应的相关滤波跟踪方法 | |
CN110827262A (zh) | 一种基于连续有限帧红外图像的弱小目标检测方法 | |
CN108765463A (zh) | 一种结合区域提取与改进纹理特征的运动目标检测方法 | |
CN111242971B (zh) | 一种基于改进的双中心粒子群优化算法的目标跟踪方法 | |
CN107330918B (zh) | 一种基于在线多示例学习的足球视频球员跟踪方法 | |
Zhang et al. | Hand gesture detection and segmentation based on difference background image with complex background | |
CN105118073A (zh) | 基于Xtion摄像机的人体头部目标识别方法 | |
CN116386089B (zh) | 运动场景下人体姿态估计方法、装置、设备及存储介质 | |
CN113362390A (zh) | 一种基于椭圆检测的快速圆形目标定位视频处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |