CN115661919A - 一种重复动作周期统计方法、装置、健身设备及存储介质 - Google Patents

一种重复动作周期统计方法、装置、健身设备及存储介质 Download PDF

Info

Publication number
CN115661919A
CN115661919A CN202211172286.2A CN202211172286A CN115661919A CN 115661919 A CN115661919 A CN 115661919A CN 202211172286 A CN202211172286 A CN 202211172286A CN 115661919 A CN115661919 A CN 115661919A
Authority
CN
China
Prior art keywords
sequence
adjacent
substrings
matching
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211172286.2A
Other languages
English (en)
Other versions
CN115661919B (zh
Inventor
潘颢文
张勇
秦璇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhuhai Shixi Technology Co Ltd
Original Assignee
Zhuhai Shixi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Shixi Technology Co Ltd filed Critical Zhuhai Shixi Technology Co Ltd
Priority to CN202211172286.2A priority Critical patent/CN115661919B/zh
Publication of CN115661919A publication Critical patent/CN115661919A/zh
Application granted granted Critical
Publication of CN115661919B publication Critical patent/CN115661919B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本申请公开了一种重复动作周期统计方法、装置、健身设备及存储介质,用于对人体动作的周期进行识别和统计,提高计数的精准度。本申请方法包括:获取视频流中人体的骨骼点信息,并生成骨骼点序列;计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;对所述极值序列进行邻近差分计算,得到极值的差分序列;对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。

Description

一种重复动作周期统计方法、装置、健身设备及存储介质
技术领域
本申请涉及数据处理领域,尤其涉及一种重复动作周期统计方法、装置、健身设备及存储介质。
背景技术
随着人们生活水平的提高,人们对运动健身的需求越来越多,线下体育场馆及健身房锻炼及学习各种运动受到人们的广泛喜欢,同时也衍生了各种健身辅助设备,尤其是当线上运动变得越来越重要之后,健身辅助设备需求日益增长。
一些健身辅助设备,例如健身镜能够通过监测用户运动过程中的动作姿势来记录用户的运动信息,从而为用户提供科学的运动建议,现有的方案一般是基于视觉检测的采集方案,即通过相机来监测用户的身体动作变化从而辅助用户对动作姿势进行分析,现有技术中,对动作进行计数时一般通过单纯的骨骼关键点的角度变化来进行动作的循环计数,但是该方法适用于单一的动作循环计数,很难区分不同的动作或者系列性动作,并且对于新的动作可能需要重新设置参数,准确性不高,如果无法准确对动作进行识别和计数,会导致数据采集和分析的结果不准确。
发明内容
为了解决上述技术问题,本申请提供了一种重复动作周期统计方法、装置、健身设备及存储介质。
本申请第一方面提供了一种重复动作周期统计方法,所述方法包括:
获取视频流中人体的骨骼点信息,并生成骨骼点序列;
计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
对所述极值序列进行邻近差分计算,得到极值的差分序列;
对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
可选的,所述对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计包括:
在所述差分序列中连续提取目标长度的两个子串;
计算所述两个子串之间的相似度;
若所述相似度满足预设相似度要求,则将对应的子串加入周期统计中。
可选的,若所述相似度满足预设相似度要求,则在所述将对应的子串加入周期统计中之前,所述方法还包括:
对所述极值序列进行邻近均值计算,得到均值序列;
在所述均值序列中,对所述两个子串对应的均值进行邻近均值差分计算;
若所述两个子串的邻近均值差距超过目标差距值,确定所述相似度不满足预设相似度要求;
若所述两个子串的邻近均值差距不超过所述目标差距值,则将对应的子串加入周期统计中。
可选的,所述方法还包括:
若所述相似度不满足所述预设相似度要求,则递增所述目标长度,并重新进行邻近子串匹配。
可选的,所述计算所述两个子串之间的相似度包括:
分别对所述两个子串进行向量单位化,得到两个单位向量;
对所述两个单位向量进行内积运算,得到内积值;
若所述内积值达到预设内积值,则确定所述两个子串之间的相似度满足预设相似度要求;
若所述内积值未达到预设内积值,则确定所述两个子串之间的相似度不满足预设相似度要求。
可选的,在所述对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计之后,获得周期序列,所述方法还包括:
对所述周期序列中的周期进行再匹配,从而对所述周期序列进行全局优化。
可选的,所述对所述周期序列中的周期进行再匹配,从而对所述周期序列进行全局优化包括:
计算所述周期序列中子串的均值;
将所述子串设为循环子串,并不断向所述子串的左右两侧进行邻近子串的相似度匹配,直至匹配失败;
重新获取新的重复周期的起点和终点;
判断所述新的重复周期的起点和终点之间的序列数量;
若所述序列数量为所述周期长度的整数倍,则确定出新的周期序列。
可选的,在所述判断所述新的重复周期的起点和终点之间的序列数量之后,所述方法还包括:
若所述序列数量不为所述周期长度的整数倍,则降低所述相似度匹配的要求,并重新进行相似度匹配。
可选的,在所述重新进行相似度匹配之后,所述方法还包括:
若所述序列数量仍不为所述周期长度的整数倍,则判断当前周期序列起点以及终点外的邻近极值是否满足两个极大值相邻或者两个极小值相邻;
若满足,则判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数;
若大于,则在两个相邻的极值点之间确定一个极大值或者一个极小值,并重新进行相似度匹配。
可选的,在所述判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数之后,所述方法还包括:
若不大于,则在两个相邻的极值点之间剔除一个极值点。
可选的,所述在两个相邻的极值点之间剔除一个极值点包括:
若为两个相邻的极大值,则剔除较小的极值点;
若为两个相邻的极小值,则剔除较大的极值点。
可选的,在所述根据子串的匹配结果进行周期统计之后,所述方法还包括:
根据所述周期统计的结果生成周期模板序列;
检测用户的实时动作数据;
将所述实时动作数据与所述周期模板序列进行匹配,得到匹配评分;根据所述匹配评分对用户的动作进行计数。
本申请第二方面提供了一种重复动作周期统计装置,包括:
获取单元,用于获取视频流中人体的骨骼点信息,并生成骨骼点序列;
角度计算单元,用于计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
极值计算单元,用于计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
差分计算单元,用于对所述极值序列进行邻近差分计算,得到极值的差分序列;
邻近子串匹配单元,用于对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
本申请第三方面提供了一种重复动作周期统计装置,所述装置包括:
处理器、存储器、输入输出单元以及总线;
所述处理器与所述存储器、所述输入输出单元以及所述总线相连;
所述存储器保存有程序,所述处理器调用所述程序以执行第一方面以及第一方面中任一项可选的所述方法。
本申请第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质上保存有程序,所述程序在计算机上执行时执行第一方面以及第一方面中任一项可选的所述方法。
本申请第五方面提供了一种健身设备,所述健身设备包括处理器和深度摄像头,所述处理器在运行过程中执行如第一方面以及第一方面中任一项可选的所述方法。
从以上技术方案可以看出,本申请具有以下优点:
本申请提供的方法中,通过计算骨骼点的角度得到角度序列,再计算角度序列中的局部极大值和局部极小值得到极值序列,通过极值序列进行差分得到差分序列,对差分序列进行邻近子串匹配,并根据匹配结果来进行周期统计,该方法充分利用角度的极值来对各个运动的动作特征进行提取,并不断进行序列的邻近子串匹配,从而确定动作周期,即该方式不仅充分考量了骨骼点的角度变化,还考虑邻近子串的相似度,因此该方式不仅能够准确检测出各个运动动作,通过邻近子串匹配还能够区分不同的周期性动作,从而为动作的识别和计数提供良好的基础,能够有效提高数据采集和分析的准确性。
附图说明
为了更清楚地说明本申请中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请中提供的重复动作周期统计方法的一个实施例流程示意图;
图2为本申请中所计算的骨骼点的示意图;
图3为本申请中提供的重复动作周期统计方法中进行邻近子串匹配的一个实施例流程示意图;
图4为本申请中提供的重复动作周期统计方法中进行邻近子串匹配的另一个实施例流程示意图;
图5为本申请中提供的重复动作周期统计方法中进行全局周期优化一个实施例流程示意图;
图6为本申请中提供的重复动作周期统计方法中进行实时动作计数的一个实施例流程示意图;
图7为本申请中提供的重复动作周期统计装置的一个实施例结构示意图;
图8为本申请中提供的重复动作周期统计装置的另一个实施例结构示意图。
图9为本申请中提供的健身设备的一个实施例结构示意图。
具体实施方式
基于此,本申请提供了一种重复动作周期统计方法,用于对人体动作的周期进行识别和统计。
需要说明的是,本申请提供的方法,可以应用于检测相机、深度相机以及其它终端,还可以应用于服务器上,其它终端可以是智能手机或电脑、平板电脑、智能电视、智能手表、便携计算机终端也可以是台式计算机等具备运算以及数据分析能力的智能终端。还可以应用于一种健身设备上,比如健身镜上,参阅图9,该健身设备可以集成有程序,健身设备在执行该程序时执行本申请所述的方法。健身设备上可以安装有相机901,程序可以集成于相机上,也可以集成于健身设备上的存储模块中,可以实时向用户反馈健身的信息,还可以采集用户的健身动作,并进行分析,帮助用户科学健身。为方便阐述,本申请中以终端为执行主体进行举例说明。
下面先对本申请中可能涉及的相关名词进行解释:
序列:序列是被排成一列的对象(可以称为元素,对于角度序列,每个元素都表示一个角度);这样每个元素不是在其他元素之前,就是在其他元素之后。这里,元素之间的顺序非常重要。
极值:极值可以分为极大值和极小值,一般指局部区域里面的最大的或者局部里面最小的值。一般来说,最大值和最小值指全局里面最大的或者最小的,但极大值和极小值是其中一个区域里面最大的或者最小的。
差分:可以理解成减法计算的结果。
子串:一个很长的字串的其中一段,例如,对于15243897,524就是它的一个子串。
下面对实施例进行详细说明:请参阅图1,图1为本申请提供的重复动作周期统计方法一个实施例流程示意图,该方法包括:
101、获取视频流中人体的骨骼点信息,并生成骨骼点序列;
本申请提供的方法,需要先获得人体的骨骼点信息,获得骨骼点信息的方式有很多种,可以是直接输入的骨骼点信息,也可以是通过从标准的视频流中获得,例如输入标准动作视频流,对每一帧图片进行处理,获得骨骼点,一个动作是由多帧连续的图像组成的,获得骨骼点后,保存骨骼点序列在一个配置文件里面。
102、计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
在步骤101获得骨骼点信息之后,在使用时,读取配置文件所保存的骨骼点序列,在这里,还可以进行一个降采样,从而降低了一定的数据量,这样可以大幅降低计算量,并且对精度的影响不大。计算手肘的角度,手臂的角度,和脚在膝关节那边的角度,获得8个角度序列,骨骼点示意请参阅图2,图2中圈出的为对应的骨骼点。
103、计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
每一个角度序列中都包含有对应的各帧图像上的骨骼点的角度,那么按照一定的长度作为一个局部来提取该角度序列中各个角度的极值,这个长度可以根据实际情况来确定,所述的极值包括极大值和极小值,这样,对应每一个角度序列都可以计算得到一个极值序列。
104、对所述极值序列进行邻近差分计算,得到极值的差分序列;
对步骤103中获得的极值序列进行邻近差分计算,得到极值的差分序列,邻近差分计算表示采用序列中的一个元素与其左侧的元素进行差分计算,例如:一个序列是150,40,120,60,150,40,120,60,150,邻近差分计算就是每个数减去它左边的数,这里将该序列向右侧移动一位,就是得到[40,120,60,150,40,120,160,150],再进行差分,则有:[40,120,60,150,40,120,160,150]-[150,40,120,60,150,40,120,60]=[-110,80,-60,90,-110,80,-60,90],序列[-110,80,-60,90,-110,80,-60,90]则表示为极值的差分序列。计算差分序列是为了用于后续的邻近子串匹配,在实际中,动作一般是连续的,所以当表示为序列时,在数值上一般比较接近,因此通过差分序列能够很好的表示角度的变化情况,有利于判断动作的周期性。
105、对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
对步骤104中获得的差分序列进行邻近子串匹配,所述的邻近子串匹配即为将相邻的两个子串进行匹配,匹配的规则可以是计算两个子串之间的相似度,通过两个子串之间的相似度能够反应出两个动作之间的重合度。下面提供一种具体的邻近子串匹配的实施例,参阅图3,包括步骤:
1051、在所述差分序列中连续提取目标长度的两个子串;
1052、计算所述两个子串之间的相似度,若所述相似度满足预设相似度要求,则执行步骤1053;若所述相似度不满足所述预设相似度要求,则执行步骤1054;
1053、将对应的子串加入周期统计中。
1054、递增所述目标长度,并重新进行邻近子串匹配。
在所述差分序列中按照目标长度来提取两个邻近的子串,并计算两个子串之间的相似度,通过相似度来判断两个子串是否相互匹配从而进行周期统计,例如设置初始下标为i=0,初始子串长度为L=2,差分序列长度为ML,从当前下标开始,连续在极值的差分序列中获取两个长度为L的子串,当2*L+i>ML时匹配结束,获得一个周期序列。其中对两个邻近的子串进行相似度的判断可以是通过对两个子串进行向量化后获得的单位向量进行内积运算,从而通过内积判断相似度,计算相似度具体可以是:分别对所述两个子串进行向量单位化,得到两个单位向量;对所述两个单位向量进行内积运算,得到内积值;假设向量为(n1,n2,n3,…,ni),向量长度就是:
Figure BDA0003863708540000081
对向量每个分量除以向量长度,就得到单位向量,例如对于子串(1,2,3),它的向量长度是:
Figure BDA0003863708540000082
那么单位向量就是:
Figure BDA0003863708540000091
对于(1,2,3)和(2,3,4),它的单位向量分别是:
Figure BDA0003863708540000092
内积值就是:
Figure BDA0003863708540000093
若所述内积值达到预设内积值,则确定所述两个子串之间的相似度满足预设相似度要求;若所述内积值未达到预设内积值,则确定所述两个子串之间的相似度不满足预设相似度要求。对两个单位向量进行内积运算,如果内积超过0.99(具体数值可以根据实际需求来设置),就认为两个子串很相似(因为向量内积的特性,向量内积越接近1,说明两个向量越相似),然后进行下一步判断。
如果两个子串的相似度不满足要求,则增加子串的长度重新进行匹配,例如,认为向量不相似,子串长度+2,如果子串长度不大于6,则把子串长度置为2,下标右移一格(即+1)。
上述实施例中,通过对两个子串进行向量化,从而进行内积运算,通过内积的大小来判断两个子串之间的相似度,该方式的好处是能够充分考虑序列连线形状的相似度,从而进行周期统计,相比于简单的统计角度的变化的方法,具有更高的准确性,能够更好的区分两个不同的动作或者系列性动作。
上述步骤1051至步骤1053中提供的实施例中,通过内积运算来判断两个子串对应的单位向量之间的相似度,但是在实际中,当内积接近1的时候,很容易出现误判,因为忽视了序列空间上的位置差异,因此,本申请还提供了一个进一步的实施例,该实施例在进行内积运算之后,还需要通过对邻近子串的邻近均值进行判断,再确定两个子串之间的相似度是否符合预设的相似度要求。该实施例在进行邻近子串匹配时,参阅图4,包括如下步骤:
1151、在所述差分序列中连续提取目标长度的两个子串;
1152、计算所述两个子串之间的相似度;
1153、若所述相似度满足预设相似度要求,则对所述极值序列进行邻近均值计算,得到均值序列;
1154、在所述均值序列中,对所述两个子串对应的均值进行邻近均值差分计算;
若所述两个子串的邻近均值差距超过目标差距值,确定所述相似度不满足预设相似度要求,执行步骤1155;若所述两个子串的邻近均值差距不超过所述目标差距值,则执行步骤1156;
对极值序列进行邻近均值计算,邻近均值计算即计算一个元素与其左侧的前一个元素的均值,下面通过式子对极值序列和均值序列进行说明:
假设极值序列是:
ai,(i=0,1,2……),
那么极值差分序列就是:
(ai-ai-1),(i=1,2,3……)
极值均值序列是:
(ai+ai-1)/2,(i=1,2,3……)
通过对极值序列进行邻近均值计算,获得对应的均值序列。
1155、递增所述目标长度,并重新进行邻近子串匹配
1156、将对应的子串加入周期统计中。
当通过内积运算确定相似度满足预设要求,即内积的大小达到预设内积值,继续对子串的邻近均值进行判断,如果两个邻近子串的邻近均值的差距超过30%(具体数值可以根据实际需要设置),认为两个子串不相似,反之认为子串相似,下标右移L个单位,若当前两个子串未被记录,则把两个子串都加入新的一个周期统计中,否则只把后一个子串加入上一个周期统计。
上述实施例中,在进行内积运算之后还对两个邻近子串的均值进行判断,通过判断两个均值之间的差距来确定两个子串在空间位置上的相似度,在实际中,即使连线形状很像,但序列本身的位置(这里指纵坐标的位置,纵坐标代表角度)差异很大的情况下,这两个动作是很不一样的,因此通过上述实施例提供的方法能够区分出这种差异,从而进行周期统计,极大程度提高周期统计的准确性。
在实际中,通过上述实施例对周期的特征进行了邻近匹配,但如果对于同一个动作,在某个时间点的偏差如果比较大,或者图像传输过程出现了扰动,导致这个时间点骨骨骼点的偏差比较大,就会导致子串匹配不上,周期计数就会断掉,因此我们要对这些干扰进行处理,需要对前述实施例中进行周期统计后获得的周期序列进行一个全局优化,即通过全部统计出来的周期进行一个再匹配,降低局部噪声的干扰。下面对该实施例进行详细描述:
参阅图5,该实施例包括:
501、获取视频流中人体的骨骼点信息,并生成骨骼点序列;
502、计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
503、计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
504、对所述极值序列进行邻近差分计算,得到极值的差分序列;
505、对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计;
506、计算所述周期序列中子串的均值;
507、将所述子串设为循环子串,并不断向所述子串的左右两侧进行邻近子串的相似度匹配,直至匹配失败;
508、重新获取新的重复周期的起点和终点;
从初始下标i=0,输入步骤505中获取的周期序列和极值差分序列以及极值均值序列
若i<周期序列的个数,则获取第i个周期序列,计算该周期序列的子串的均值,把该子串设置为一个循环串,例如,假设子串是(n1,n2,n3,n4),那么该子串也可以表示为(n2,n3,n4,n1),或者(n3,n4,n1,n2),或者(n4,n1,n2,n3)),对该循环子串不断向左向右匹配,匹配所采用的方式与步骤505中所采用的匹配方式一致,获得新的重复周期起点和重复周期终点,当i=周期序列的个数时结束优化流程。
509、判断所述新的重复周期的起点和终点之间的序列数量;若所述序列数量为所述周期长度的整数倍,则执行步骤510;若所述序列数量不为所述周期长度的整数倍,则执行步骤511;
510、确定出新的周期序列。
对于新的重复周期的起点和重复周期的终点,里面的序列数量如果满足是周期长度的倍数,则计算出新的周期数,记录{[新的周期数,周期长度,新的周期起点]},并贴上确定的标签,删除被该周期序列覆盖的其他周期序列,记录该周期的极值点序列模板。
511、降低所述相似度匹配的要求,并重新进行相似度匹配。
如果序列数量不是周期长度的整数倍,则降低相似度要求,例如从0.99降低为0.98,然后再重新返回步骤507重新进行匹配,再重新匹配之后,若所述序列数量仍不为所述周期长度的整数倍,则判断当前周期序列起点以及终点外的邻近极值是否满足两个极大值相邻或者两个极小值相邻,若满足,则判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数;若大于,则在两个相邻的极值点之间确定一个极大值或者一个极小值,并重新进行相似度匹配,这是由于在实际中可能或发生漏检,而导致两个极值点之间有的波动较小并且较为邻近的极值没有被检出来,就会产生两个极大值相邻或者两个极小值相邻,因此一旦确定有这种情况,则在两个极大值之间确定一个极小值或者在两个极小值之间确定一个极大值,这样就可以重新找回一个极值,使得数量可能符合周期的整数倍。这种情况的前提是两个极值之间的距离大于平均距离的预设倍数,本实施例中将采用1.5倍进行说明,值得理解的是1.5倍并不是固定的,可以根据实际情况来设定。本申请认为只有当两个极值之间的距离与平均距离相比过长时,可能会出现两个极大值或者两个极小值相邻的情况,如果距离不大于平均距离的1.5倍,那么就剔除其中一个极大值或者其中一个极小值,例如如果是两个极大值相邻,那么剔除较小的极大值,如果是两个极小值相邻,则剔除较大的极小值。
本实施例提供的方法能够对生成的周期序列进行优化,优化流程能处理掉大部分误识别,通过该实施例提供的方法能够滤除大部分的误识别,例如能够使得因为动作的突变或者图像的干扰造成的误识别被滤除,从而提高周期统计的精确度。
在实际中,通过上述优化流程进行优化之后,虽然滤除了大部分的误识别,但有可能保留小部分不完整的周期,即有待定标签的周期。这部分周期不太完整,不满足起点到终点的长度是单个周期长度的倍数,起点和终点也不能再往外扩了,因此,还可以对周期进行裁剪,对左右两边的序列和模板进行匹配,获得一个相似度,删除相似度低的序列的最外点,最外点就是指最靠近起点或者终点的那个点,直到重复周期的起点到终点的距离满足周期长度的整数倍。然后计算并保存周期模板,把待定标签换成确定的标签。完成周期的统计。
上述实施例提供了进行周期统计的方法,通过邻近子串匹配、全局周期优化流程之后,获得周期序列,通过所统计出来的周期序列可以用于实际中的实时动作进行计数,下述提供一种用于实时动作检测和计数的实施例,参阅图6,该实施例包括:
601、获取视频流中人体的骨骼点信息,并生成骨骼点序列;
602、计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
603、计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
604、对所述极值序列进行邻近差分计算,得到极值的差分序列;
605、对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计;
本实施例中步骤601至步骤605与前述实施例中步骤101至步骤105类似,此处不再赘述。
606、根据所述周期统计的结果生成周期模板序列;
607、检测用户的实时动作数据;
608、将所述实时动作数据与所述周期模板序列进行匹配,得到匹配评分;根据所述匹配评分对用户的动作进行计数。
在通过周期统计之后,获得周期统计的结果,即获得周期序列,将该周期序列生成周期序列模板,在实际进行动作检测和计数时使用该周期序列模板作为标准参照模板,在实时检测动作时,同时播放标准视频,按标准视频的进度使用该周期序列模板来和实时动作的极值点序列进行匹配,在匹配时可以允许匹配的提前或者延迟最后根据实时动作的极值点序列与周期序列模板的相似度输出匹配评分,匹配评分的计算方式为:
匹配评分=Max((相似度–0.9)*10,0)
当匹配评分>0分时对动作计数。
通过该方式能够使用上述实施例中通过周期统计获得的周期序列来进行实时动作的计数,该方式能够利用周期序列中所记录的标准动作的极值点来和实时动作的极值点进行相似度的计算,通过二者的相似度比对来决定是否计数,能够提高计数的准确性,同时能够过滤一部分的动作噪声,减少误识别。
上述实施例对本申请中的重复动作周期统计方法进行了详细描述,下面将对本申请中所涉及的装置、健身设备及存储介质进行描述。
参阅图7、本申请提供了一种重复动作周期统计装置,该装置包括:
获取单元701,用于获取视频流中人体的骨骼点信息,并生成骨骼点序列;
角度计算单元702,用于计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
极值计算单元703,用于计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
差分计算单元704,用于对所述极值序列进行邻近差分计算,得到极值的差分序列;
邻近子串匹配单元705,用于对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
可选的,邻近子串匹配单元705具体用于:
在所述差分序列中连续提取目标长度的两个子串;
计算所述两个子串之间的相似度;
若所述相似度满足预设相似度要求,则将对应的子串加入周期统计中。
可选的,邻近子串匹配单元705具体用于:
对所述极值序列进行邻近均值计算,得到均值序列;
在所述均值序列中,对所述两个子串对应的均值进行邻近均值差分计算;
若所述两个子串的邻近均值差距超过目标差距值,确定所述相似度不满足预设相似度要求;
若所述两个子串的邻近均值差距不超过所述目标差距值,则将对应的子串加入周期统计中。
可选的,邻近子串匹配单元705具体用于:
若所述相似度不满足所述预设相似度要求,则递增所述目标长度,并重新进行邻近子串匹配。
可选的,邻近子串匹配单元705具体用于:
分别对所述两个子串进行向量单位化,得到两个单位向量;
对所述两个单位向量进行内积运算,得到内积值;
若所述内积值达到预设内积值,则确定所述两个子串之间的相似度满足预设相似度要求;
若所述内积值未达到预设内积值,则确定所述两个子串之间的相似度不满足预设相似度要求。
可选的,还包括全局优化单元706,用于:
对所述周期序列中的周期进行再匹配,从而对所述周期序列进行全局优化。
可选的,全局优化单元706,具体用于:
计算所述周期序列中子串的均值;
将所述子串设为循环子串,并不断向所述子串的左右两侧进行邻近子串的相似度匹配,直至匹配失败;
重新获取新的重复周期的起点和终点;
判断所述新的重复周期的起点和终点之间的序列数量;
若所述序列数量为所述周期长度的整数倍,则确定出新的周期序列。
可选的,全局优化单元706,具体用于:
若所述序列数量不为所述周期长度的整数倍,则降低所述相似度匹配的要求,并重新进行相似度匹配。
可选的,全局优化单元706具体用于:
若所述序列数量仍不为所述周期长度的整数倍,则判断当前周期序列起点以及终点外的邻近极值是否满足两个极大值相邻或者两个极小值相邻;
若满足,则判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数;
若大于,则在两个相邻的极值点之间确定一个极大值或者一个极小值,并重新进行相似度匹配。
可选的,全局优化单元706具体用于:
若不大于,则在两个相邻的极值点之间剔除一个极值点。
可选的,全局优化单元706具体用于:
若为两个相邻的极大值,则剔除较小的极值点;
若为两个相邻的极小值,则剔除较大的极值点。
可选的,还包括实时计数单元707,用于:
根据所述周期统计的结果生成周期模板序列;
检测用户的实时动作数据;
将所述实时动作数据与所述周期模板序列进行匹配,得到匹配评分;根据所述匹配评分对用户的动作进行计数。
本申请还提供了一种重复动作周期统计装置,包括:
处理器801、存储器802、输入输出单元803、总线804;
处理器801与存储器802、输入输出单元803以及总线804相连;
存储器802保存有程序,处理器801调用程序以执行如上任一重复动作周期统计方法。
本申请还涉及一种计算机可读存储介质,计算机可读存储介质上保存有程序,其特征在于,当程序在计算机上运行时,使得计算机执行如上任一重复动作周期统计方法。
参阅图9,本申请还涉及一种健身设备,健身设备上保存有程序,其特征在于,当程序在健身设备上运行时,使得健身设备执行如上任一重复动作周期统计方法。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-onlymemory)、随机存取存储器(RAM,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。

Claims (16)

1.一种重复动作周期统计方法,其特征在于,所述方法包括:
获取视频流中人体的骨骼点信息,并生成骨骼点序列;
计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
对所述极值序列进行邻近差分计算,得到极值的差分序列;
对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
2.根据权利要求1中所述的重复动作周期统计方法,其特征在于,所述对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计包括:
在所述差分序列中连续提取目标长度的两个子串;
计算所述两个子串之间的相似度;
若所述相似度满足预设相似度要求,则将对应的子串加入周期统计中。
3.根据权利要求2中所述的重复动作周期统计方法,其特征在于,若所述相似度满足预设相似度要求,则在所述将对应的子串加入周期统计中之前,所述方法还包括:
对所述极值序列进行邻近均值计算,得到均值序列;
在所述均值序列中,对所述两个子串对应的均值进行邻近均值差分计算;
若所述两个子串的邻近均值差距超过目标差距值,确定所述相似度不满足预设相似度要求;
若所述两个子串的邻近均值差距不超过所述目标差距值,则将对应的子串加入周期统计中。
4.根据权利要求2中所述的重复动作周期统计方法,其特征在于,所述方法还包括:
若所述相似度不满足所述预设相似度要求,则递增所述目标长度,并重新进行邻近子串匹配。
5.根据权利要求2中所述的重复动作周期统计方法,其特征在于,所述计算所述两个子串之间的相似度包括:
分别对所述两个子串进行向量单位化,得到两个单位向量;
对所述两个单位向量进行内积运算,得到内积值;
若所述内积值达到预设内积值,则确定所述两个子串之间的相似度满足预设相似度要求;
若所述内积值未达到预设内积值,则确定所述两个子串之间的相似度不满足预设相似度要求。
6.根据权利要求1中所述的重复动作周期统计方法,其特征在于,在所述对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计之后,获得周期序列,所述方法还包括:
对所述周期序列中的周期进行再匹配,从而对所述周期序列进行全局优化。
7.根据权利要求6中所述的重复动作周期统计方法,其特征在于,所述对所述周期序列中的周期进行再匹配,从而对所述周期序列进行全局优化包括:
计算所述周期序列中子串的均值;
将所述子串设为循环子串,并不断向所述子串的左右两侧进行邻近子串的相似度匹配,直至匹配失败;
重新获取新的重复周期的起点和终点;
判断所述新的重复周期的起点和终点之间的序列数量;
若所述序列数量为所述周期长度的整数倍,则确定出新的周期序列。
8.根据权利要求7中所述的重复动作周期统计方法,其特征在于,在所述判断所述新的重复周期的起点和终点之间的序列数量之后,所述方法还包括:
若所述序列数量不为所述周期长度的整数倍,则降低所述相似度匹配的要求,并重新进行相似度匹配。
9.根据权利要求8中所述的重复动作周期统计方法,其特征在于,在所述重新进行相似度匹配之后,所述方法还包括:
若所述序列数量仍不为所述周期长度的整数倍,则判断当前周期序列起点以及终点外的邻近极值是否满足两个极大值相邻或者两个极小值相邻;
若满足,则判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数;
若大于,则在两个相邻的极值点之间确定一个极大值或者一个极小值,并重新进行相似度匹配。
10.根据权利要求9中所述的重复动作周期统计方法,其特征在于,在所述判断两个相邻的极值点的距离是否大于极值点之间的平均距离的预设倍数之后,所述方法还包括:
若不大于,则在两个相邻的极值点之间剔除一个极值点。
11.根据权利要求10中所述的重复动作周期统计方法,其特征在于,所述在两个相邻的极值点之间剔除一个极值点包括:
若为两个相邻的极大值,则剔除较小的极值点;
若为两个相邻的极小值,则剔除较大的极值点。
12.根据权利要求1至10中任一项所述的重复动作周期统计方法,其特征在于,在所述根据子串的匹配结果进行周期统计之后,所述方法还包括:
根据所述周期统计的结果生成周期模板序列;
检测用户的实时动作数据;
将所述实时动作数据与所述周期模板序列进行匹配,得到匹配评分;根据所述匹配评分对用户的动作进行计数。
13.一种重复动作周期统计装置,其特征在于,包括:
获取单元,用于获取视频流中人体的骨骼点信息,并生成骨骼点序列;
角度计算单元,用于计算所述骨骼点序列中目标骨骼点的角度,得到角度序列;
极值计算单元,用于计算所述角度序列的局部极大值以及局部极小值,得到角度的极值序列;
差分计算单元,用于对所述极值序列进行邻近差分计算,得到极值的差分序列;
邻近子串匹配单元,用于对所述差分序列进行邻近子串匹配,并根据子串的匹配结果进行周期统计。
14.一种重复动作周期统计装置,其特征在于,所述装置包括:
处理器、存储器、输入输出单元以及总线;
所述处理器与所述存储器、所述输入输出单元以及所述总线相连;
所述存储器保存有程序,所述处理器调用所述程序以执行如权利要求1至12任一项所述方法。
15.一种计算机可读存储介质,所述计算机可读存储介质上保存有程序,所述程序在计算机上执行时执行如权利要求1至12中任一项所述方法。
16.一种健身设备,其特征在于,所述健身设备包括处理器和深度摄像头,所述处理器在运行过程中执行如权利要求1至12中任一项所述方法。
CN202211172286.2A 2022-09-26 2022-09-26 一种重复动作周期统计方法、装置、健身设备及存储介质 Active CN115661919B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211172286.2A CN115661919B (zh) 2022-09-26 2022-09-26 一种重复动作周期统计方法、装置、健身设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211172286.2A CN115661919B (zh) 2022-09-26 2022-09-26 一种重复动作周期统计方法、装置、健身设备及存储介质

Publications (2)

Publication Number Publication Date
CN115661919A true CN115661919A (zh) 2023-01-31
CN115661919B CN115661919B (zh) 2023-08-29

Family

ID=84986220

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211172286.2A Active CN115661919B (zh) 2022-09-26 2022-09-26 一种重复动作周期统计方法、装置、健身设备及存储介质

Country Status (1)

Country Link
CN (1) CN115661919B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107066683A (zh) * 2017-02-15 2017-08-18 苏州文海物联科技有限公司 一种基于能耗特征的数控机床可靠性模型建模方法及系统
CN108829883A (zh) * 2018-06-27 2018-11-16 上海众人网络安全技术有限公司 数据序列的周期提取方法、装置、设备及存储介质
US20210012570A1 (en) * 2019-07-12 2021-01-14 Beijing Dajia Internet Information Technology Co, Ltd. Method for building scene, electronic device and storage medium
CN112507940A (zh) * 2020-12-17 2021-03-16 华南理工大学 一种基于差分指导表示学习网络的骨骼动作识别方法
CN112966597A (zh) * 2021-03-04 2021-06-15 山东云缦智能科技有限公司 一种基于骨骼关键点的人体运动动作计数方法
CN113743319A (zh) * 2021-09-07 2021-12-03 三星电子(中国)研发中心 一种自监督型智能健身方案生成方法和装置
CN113850160A (zh) * 2021-09-08 2021-12-28 橙狮体育(北京)有限公司 重复动作的计数方法及装置
US20220203165A1 (en) * 2020-12-29 2022-06-30 NEX Team Inc. Video-based motion counting and analysis systems and methods for virtual fitness application
CN114743031A (zh) * 2022-04-25 2022-07-12 纪良骏 一种用户动作与标准动作的对比方法
CN114842546A (zh) * 2021-02-02 2022-08-02 中兴通讯股份有限公司 动作计数方法、装置、设备及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107066683A (zh) * 2017-02-15 2017-08-18 苏州文海物联科技有限公司 一种基于能耗特征的数控机床可靠性模型建模方法及系统
CN108829883A (zh) * 2018-06-27 2018-11-16 上海众人网络安全技术有限公司 数据序列的周期提取方法、装置、设备及存储介质
US20210012570A1 (en) * 2019-07-12 2021-01-14 Beijing Dajia Internet Information Technology Co, Ltd. Method for building scene, electronic device and storage medium
CN112507940A (zh) * 2020-12-17 2021-03-16 华南理工大学 一种基于差分指导表示学习网络的骨骼动作识别方法
US20220203165A1 (en) * 2020-12-29 2022-06-30 NEX Team Inc. Video-based motion counting and analysis systems and methods for virtual fitness application
CN114842546A (zh) * 2021-02-02 2022-08-02 中兴通讯股份有限公司 动作计数方法、装置、设备及存储介质
CN112966597A (zh) * 2021-03-04 2021-06-15 山东云缦智能科技有限公司 一种基于骨骼关键点的人体运动动作计数方法
CN113743319A (zh) * 2021-09-07 2021-12-03 三星电子(中国)研发中心 一种自监督型智能健身方案生成方法和装置
CN113850160A (zh) * 2021-09-08 2021-12-28 橙狮体育(北京)有限公司 重复动作的计数方法及装置
CN114743031A (zh) * 2022-04-25 2022-07-12 纪良骏 一种用户动作与标准动作的对比方法

Also Published As

Publication number Publication date
CN115661919B (zh) 2023-08-29

Similar Documents

Publication Publication Date Title
CN109522818B (zh) 一种表情识别的方法、装置、终端设备及存储介质
US8935195B2 (en) Method of identification and devices thereof
CN105184325B (zh) 一种移动智能终端
CN111327949B (zh) 一种视频的时序动作检测方法、装置、设备及存储介质
Kumar et al. Indian sign language recognition using graph matching on 3D motion captured signs
Ahmad et al. Inertial sensor data to image encoding for human action recognition
CN111259735B (zh) 基于多级预测特征增强卷积神经网络的单人姿态估计方法
CN111914643A (zh) 一种基于骨骼关键点检测的人体动作识别方法
CN113963304B (zh) 基于时序-空间图的跨模态视频时序动作定位方法及系统
CN109858454B (zh) 一种基于双模型自适应核相关滤波追踪方法
CN111199238A (zh) 一种基于双流卷积神经网络的行为识别方法及设备
Wang et al. Fast and accurate action detection in videos with motion-centric attention model
CN112329663B (zh) 一种基于人脸图像序列的微表情时刻检测方法及装置
CN111479109B (zh) 基于视听联合注意的视频质量评价方法、系统及终端
CN112949451A (zh) 通过模态感知特征学习的跨模态目标跟踪方法及系统
CN112767450A (zh) 一种基于多损失学习的相关滤波目标跟踪方法及系统
Enikeev et al. Recognition of sign language using leap motion controller data
JP6393495B2 (ja) 画像処理装置および物体認識方法
CN116452812A (zh) 一种伪装物体识别及语义分割方法
Xie et al. Technical report for valence-arousal estimation in abaw2 challenge
CN115661919B (zh) 一种重复动作周期统计方法、装置、健身设备及存储介质
Hussain et al. Human centric attention with deep multiscale feature fusion framework for activity recognition in Internet of Medical Things
Tsai et al. Temporal-variation skeleton point correction algorithm for improved accuracy of human action recognition
CN115349142A (zh) 图像处理装置、图像处理方法和计算机可读存储介质
Ghosh et al. AV-Gaze: A study on the effectiveness of audio guided visual attention estimation for non-profilic faces

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant