CN109815776A - 动作提示方法和装置、存储介质及电子装置 - Google Patents
动作提示方法和装置、存储介质及电子装置 Download PDFInfo
- Publication number
- CN109815776A CN109815776A CN201711180258.4A CN201711180258A CN109815776A CN 109815776 A CN109815776 A CN 109815776A CN 201711180258 A CN201711180258 A CN 201711180258A CN 109815776 A CN109815776 A CN 109815776A
- Authority
- CN
- China
- Prior art keywords
- bone
- model
- key point
- echomotism
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种动作提示方法和装置、存储介质及电子装置。其中,该方法包括:获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。本发明解决了相关技术无法提示导致模仿动作错误率较高的技术问题。
Description
技术领域
本发明涉及计算机领域,具体而言,涉及一种动作提示方法和装置、存储介质及电子装置。
背景技术
目前,很多用户会通过模仿智能显示设备中的视频所展示的舞蹈动作或运动动作,从而达到在室内进行学习或健身的目的,而无需再外出进行训练。然而,在用户模仿视频中所展示的动作时,往往无法保证模仿动作的标准程度,甚至模仿出错误动作也无法被及时发现并进行对应矫正。
也就是说,在通过视频引导用户执行动作的过程中,由于缺乏提示机制,从而导致无法对用户的模仿动作进行及时矫正,造成了模仿动作错误率较高的问题。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供一种动作提示方法和装置、存储介质及电子装置,以至少解决相关技术无法提示导致模仿动作错误率较高的技术问题。
根据本发明实施例的一个方面,提供了一种动作提示方法,包括:获取模仿对象在执行模仿动作时被采集到的图像,其中,上述模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在上述图像中上述模仿对象执行上述模仿动作时骨骼关键点所在的第一骨骼位置;在上述第一骨骼位置与上述目标对象执行上述目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
根据本发明实施例的另一方面,还提供了一种动作提示装置,包括:第一获取单元,用于获取模仿对象在执行模仿动作时被采集到的图像,其中,上述模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别单元,用于识别在上述图像中上述模仿对象执行上述模仿动作时骨骼关键点所在的第一骨骼位置;提示单元,在上述第一骨骼位置与上述目标对象执行上述目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
可选地,在本实施例中,上述动作提示装置还包括:比对单元,用于在在上述输出提示信息之前,比对上述第一骨骼位置与上述第二骨骼位置,以获取上述第一骨骼位置与上述第二骨骼位置之间的上述差异值;输出单元,用于在上述差异值大于上述第一预定阈值的情况下,输出上述提示信息,其中,上述提示信息用于提示上述模仿对象调整上述模仿动作。
可选地,在本实施例中,上述识别单元包括:提取模块,用于对采集到的上述图像进行局部特征的提取,其中,上述局部特征用于标识上述图像中局部区域的图像特征;比对模块,用于比对提取出的上述局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,上述骨骼特征集中包括与上述模拟对象的多个骨骼关键点分别对应的骨骼特征,上述骨骼特征用于标识上述骨骼关键点所在区域的图像特征;第一获取模块,用于获取与上述骨骼特征集中的目标骨骼特征相匹配的上述局部特征,确定在上述局部特征所对应的上述局部区域中,包含有上述目标骨骼特征所对应的目标骨骼关键点;第一确定模块,用于在上述局部区域中确定出上述模拟对象执行上述模拟动作时上述目标骨骼关键点所在的上述第一骨骼位置。
可选地,在本实施例中,上述动作提示装置还包括:第二获取模块,用于在上述获取待矫正的模拟对象在执行模拟动作时被采集到的图像之前,获取上述模拟对象初始动作的动作信息;第二确定模块,用于根据上述动作信息确定上述模拟对象的上述骨骼特征集。
可选地,在本实施例中,上述第二确定模块包括:获取子模块,用于根据上述动作信息获取上述模拟对象的整体轮廓位置;比对子模块,用于将上述模拟对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;缩放子模块,用于根据上述缩放比例对上述标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取上述模拟对象中骨骼关键点的搜索区域;第一确定子模块,用于在上述搜索区域中搜索上述骨骼关键点,并确定与上述骨骼关键点匹配的关键区域,其中,上述关键区域用于提取出图像特征,作为上述骨骼关键点的骨骼特征;组合子模块,用于将从多个上述关键区域分别提取出的与上述骨骼关键点对应的上述骨骼特征,组合得到上述骨骼特征集。
可选地,在本实施例中,上述比对单元包括:第三获取模块,用于获取上述模拟对象执行上述模拟动作时上述骨骼关键点变化到上述第一骨骼位置的第一变化值,以及上述目标对象执行上述目标动作时上述骨骼关键点变化到上述第二骨骼位置的第二变化值;计算模块,用于对上述第一变化值及上述第二变化值进行加权计算,得到上述差异值。
可选地,在本实施例中,上述第三获取模块包括:第二确定子模块,用于确定上述模拟对象执行上述模拟动作时上述骨骼关键点变化到上述第一骨骼位置的第一采样点,获取在上述第一采样点之前的上一个采样点,上述模拟对象的上述骨骼关键点所在的第三骨骼位置;根据上述第一骨骼位置与上述第三骨骼位置的位置变化,得到上述第一变化值;第三确定子模块,用于确定上述目标对象执行上述目标动作时上述骨骼关键点变化到上述第二骨骼位置的第二采样点,获取在上述第二采样点之前的上一个采样点,上述目标对象的上述骨骼关键点所在的第四骨骼位置;根据上述第二骨骼位置与上述第四骨骼位置的位置变化,得到上述第二变化值;其中,上述第一采样点在上述模拟动作的采样序列中的时序位置与上述第二采样点在上述目标动作的采样序列中的时序位置一致。
可选地,在本实施例中,上述动作提示装置还包括:第一设置模块,用于在获取上述模拟对象执行上述模拟动作时上述骨骼关键点变化到上述第一骨骼位置的第一变化值,以及上述目标对象执行上述目标动作时上述骨骼关键点变化到上述第二骨骼位置的第二变化值之前,在上述第一变化值大于第二预定阈值的情况下,设置一个采样点;或者,第二设置模块,用于在获取上述模拟对象执行上述模拟动作时上述骨骼关键点变化到上述第一骨骼位置的第一变化值,以及上述目标对象执行上述目标动作时上述骨骼关键点变化到上述第二骨骼位置的第二变化值之前,在采样间隔大于第三预定阈值的情况下,设置一个采样点。
可选地,在本实施例中,上述动作提示装置还包括:第二获取单元,用于在获取上述模拟对象执行上述模拟动作时上述骨骼关键点变化到上述第一骨骼位置的第一变化值,以及上述目标对象执行上述目标动作时上述骨骼关键点变化到上述第二骨骼位置的第二变化值之前,获取预定时间段内的上述差异值构成的差异值序列,上述预定时间段包括上述第一采样点;第三获取单元,用于获取上述差异值序列中上述第一采样点采样的上述差异值到最大差异值之间的中位差异值;确定单元,用于根据上述中位差异值所在的时序位置确定上述第一预定阈值。
可选地,在本实施例中,上述提示单元包括以下至少之一:显示模块,用于通过上述终端设备的显示屏显示上述提示信息;发送模块,用于向上述模拟对象所连接的设备发送携带上述提示信息的控制指令,其中,上述控制指令包括以下至少之一:响铃控制指令、震动控制指令。
根据本发明实施例的另一方面,还提供了一种存储介质,上述存储介质包括存储的程序,其中,上述程序运行时执行上述的动作提示方法。
根据本发明实施例的另一方面,还提供了一种电子装置,包括存储器、处理器及存储在上述存储器上并可在上述处理器上运行的计算机程序,其特征在于,上述处理器通过上述计算机程序执行上述的动作提示方法。
在本发明实施例中,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。以实现对模仿对象的模仿动作的调整提示,提高模仿对象执行模仿动作时的准确性,提高模仿对象执行模仿动作的准确性,进而解决了相关技术无法提示导致模仿动作错误率较高的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据本发明实施例的一种可选的动作提示方法的应用场景示意图;
图2是根据本发明实施例的一种可选的动作提示方法的流程示意图;
图3是根据本发明实施例的一种可选的动作提示方法的示意图;
图4是根据本发明实施例的另一种可选的动作提示方法的示意图;
图5是根据本发明实施例的一种可选的动作提示方法中骨骼关键点的示意图;
图6是根据本发明实施例的一种可选的动作提示方法中搜索区域的示意图;
图7是根据本发明实施例的一种可选的动作提示方法中子区域的示意图;
图8是根据本发明实施例的一种可选的动作提示装置的结构示意图;
图9是根据本发明实施例的一种可选的电子装置的示意图;
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本发明实施例中,提供了一种动作提示方法的实施例。作为一种可选的实施方式,该对象获取方法可以但不限于应用于如图1所示的应用环境中,终端10与网络12相连接,在终端10中包含有图像输入模块102,图像显示模块104以及处理模块106,其中图像输入模块102获取模仿对象在执行模仿动作时被采集到的图像,处理模块106识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置,然后处理模块106比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置,然后图像显示模块104在第一骨骼位置与第二骨骼位置之间的差异值大于第一预定阈值的情况下,向模仿对象发出提示信息,其中,提示信息用于提示调整模仿对象的模仿动作。其中,模仿动作可以显示在图像显示模块104中,也可以在其他显示装置中进行显示;另外,提示信息可以通过图像显示模块104发送给模仿对象,也可以通过其他装置发送给模仿对象,在此不做任何限定。
需要说明的是,在图1所示的应用场景中,图像输入模块102可以是与终端10互相独立的装置,与终端10连接,为终端10提供图像的捕获与输入。另外,处理模块106可以位于网络12处,相当于一个云处理器。而对于本实施例动作提示方法,图1所示的仅是一种基础的应用场景,以上仅是一种示例,在本实施例中不做任何限定。
还需要说明的是,在图1所示的场景中,骨骼关键点可以是图像输入模块102自行进行识别的,也可以是模仿对象通过穿戴其他辅助装置来辅助图像输入模块102进行识别的,以上仅是一种示例,在本实施例中不做任何限定。
在本实施例中,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。以实现对模仿对象的模仿动作的调整提示,提高模仿对象的模仿动作的准确性,提高模仿对象的模仿动作学习效率。
可选地,在本实施例中,上述终端可以包括但不限于以下至少之一:手机、平板电脑、笔记本电脑、台式PC机、数字电视及用于模仿动作应用的硬件设备。上述网络可以包括但不限于以下至少之一:广域网、城域网、局域网。上述只是一种示例,本实施例对此不做任何限定。
根据本发明实施例,提供了一种动作提示方法,如图2所示,该方法包括:
S202,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;
S204,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;
S206,在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
可选地,在本实施例中,上述动作提示方法可以但不限于应用于动作调整过程,也可以是其他需要体感动作进行互动的过程。其中,上述方法可以包括但不限于应用于模仿动作学习应用以及利用体感动作来进行控制操作的游戏应用等。
需要说明的是,上述的动作调整过程,实际上是针对模仿对象的模仿动作的一种矫正提示的过程,对模仿对象的模仿动作进行提示,以进行动作矫正等动作调整的目的。还需要说明的是,上述方法中的骨骼关键点是用于表示模仿对象动作的骨骼位置,进而展示模仿对象当前执行的模仿动作。该骨骼关键点的数量可以根据模仿对象的大小以及性别的不同来进行设置,在模仿对象为非人对象时,也可以采用不同数量的关键点用于展示模仿对象的动作,以上仅是一种示例,在此不做任何限定。在一种优选的方案中,用13个骨骼关键点来确定模仿对象在站立时的动作。例如图3所示,模仿对象为人体且正在执行站立动作,该模仿对象存在13个骨骼关键点,骨骼关键点的部位主要包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
需要说明的是,在本实施例中,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。以实现对模仿对象的模仿动作的调整提示,提高模仿对象的模仿动作的准确性,提高模仿对象的模仿动作学习效率。
可选地,在本实施例中,在输出提示信息之前,还包括但不限于:比对第一骨骼位置与第二骨骼位置,以获取第一骨骼位置与第二骨骼位置之间的差异值;在差异值大于第一预定阈值的情况下,输出提示信息,其中,提示信息用于提示模仿对象调整模仿动作。在具体的应用场景中,根据对象的骨骼位置来比对模仿对象与目标对象之间差异,而在差异值大于第一预定阈值的情况下,输出用于提示模仿对象调整模拟动作的提示信息。
可选地,在本实施例中,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置包括但不限于:对采集到的图像进行局部特征的提取,其中,局部特征用于标识图像中局部区域的图像特征;比对提取出的局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,骨骼特征集中包括与模仿对象的多个骨骼关键点分别对应的骨骼特征,骨骼特征用于标识骨骼关键点所在区域的图像特征;获取与骨骼特征集中的目标骨骼特征相匹配的局部特征,确定在局部特征所对应的局部区域中,包含有目标骨骼特征所对应的目标骨骼关键点;在局部区域中确定出模仿对象执行模仿动作时目标骨骼关键点所在的第一骨骼位置。
在具体的应用场景中,以如图4所示为例,在模仿对象为人物的情况下,将采集到的模仿对象的图像按照骨骼关键点划分为与骨骼关键点对应的多个局部区域的图像,然后将每个局部区域的图像按照预设比例划分为多个轮廓图像,并将多个轮廓图像分别与骨骼特征集中的骨骼特征进行比对,获取与骨骼特征匹配的轮廓图像,将与骨骼特征匹配的轮廓图像设置为模仿对象执行模仿动作时,骨骼关键点所在的第一骨骼位置。
需要说明的是,上述的骨骼特征集是根据医学角度获取模仿对象的整体轮廓的图像特征,然后获取模仿对象标准比例下与各个骨骼关键点对应的图像,该域骨骼关键点对应的图像为骨骼特征,获取各个骨骼关键点对应的图像,获取骨骼特征集。
还需要说明的是,对于不同的骨骼关键点,其在不同的角度下对应的图像也可能存在不相同,因此每个骨骼关键点在骨骼特征集中可能会存在多个对应的骨骼特征。
可选地,在本实施例中,在获取模仿对象在执行模仿动作时被采集到的图像之前,还包括但不限于:获取模仿对象初始动作的动作信息;根据动作信息确定模仿对象的骨骼特征集。
在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;
2)当模仿对象进入到场景中后,对模仿对象与原始幕布做查分并提取出模仿对象的整体轮廓位置;
3)利用边缘检测算法获取模仿对象的整体轮廓位置边线;
4)对整体轮廓位置边线进行多边形简化,以减少后续的计算难度和模仿对象的整体轮廓位置边界的粗糙程度;
5)进行模仿对象的信息采集,并要求模仿对象执行预设的姿势动作确定多个骨骼关键点,例如,当模仿对象为人物时,确定模仿对象的骨骼关键点为13个,包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
可选地,在本实施例中,根据动作信息确定模仿对象的骨骼特征集包括但限于:根据动作信息获取模仿对象的整体轮廓位置;将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;根据缩放比例对标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;在搜索区域中搜索骨骼关键点,并确定与骨骼关键点匹配的关键区域,其中,关键区域用于提取出图像特征,作为骨骼关键点的骨骼特征;将从多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
根据上述内容,在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;当模仿对象进入到场景中后,对模仿对象与原始幕布做查分并提取出模仿对象的整体轮廓位置;
2)将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例,其中标准对象的整体轮廓位置是根据标准对象获取到的。例如,当模仿对象为人物时,标准对象的整体轮廓位置则是根据医学角度标准对象(人体)获得的;
3)根据缩放比例对标准对象中骨骼关键点所在的标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;
4)按照一定比例将搜索区域拆分为多个子区域,并将多个子区域依次与骨骼关键点进行比对,确定搜索区域中与骨骼关键点匹配的区域图像,该区域图像为关键区域。
5)将多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
可选地,在本实施例中,比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置包括但不限于:获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值;对第一变化值及第二变化值进行加权计算,得到差异值。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,可以通过以下公式来获取差异值:
在上述公式中,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值其中,上述i为自然数。。
可选地,在本实施例中,获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值包括但不限于:确定模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一采样点,获取在第一采样点之前的上一个采样点,模仿对象的骨骼关键点所在的第三骨骼位置;根据第一骨骼位置与第三骨骼位置的位置变化,得到第一变化值;确定目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二采样点,获取在第二采样点之前的上一个采样点,目标对象的骨骼关键点所在的第四骨骼位置;根据第二骨骼位置与第四骨骼位置的位置变化,得到第二变化值;其中,第一采样点在模仿动作的采样序列中的时序位置与第二采样点在目标动作的采样序列中的时序位置一致。
仍以上述示例为例进行说明,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,具体可以通过以下方式获取上述第一变化值与第二变化值:
目标动作中,当前采样点的13个骨骼关键点与上一次的变化为:
模仿动作中,当前采样点的13个骨骼关键点与上一次的变化为:
其中,k表示当前采样点,k-1表示为前一采样点,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,其中,上述i为自然数。
可选地,在本实施例中,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括但不限于:在第一变化值大于第二预定阈值的情况下,设置一个采样点;或者在采样间隔大于第三预定阈值的情况下,设置一个采样点。
在具体的应用场景中,当模仿对象的模仿动作变化幅度较大时,则需要进行动作的采样,因此在第一变化值大于第二预定预支的情况,设置一个采样点。另外,当模仿对象的动作持续超过一定时间时,也需要对模仿对象当前的动作进行记录,因此在采样间隔大于第三预定阈值的情况下,设置一个采样点。而在实际的经验中,也可以设置每隔预定时间进行一次采样,具体可以根据实际经验进行设置,在此不做任何限定。
可选地,在本实施例中,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括但不限于:获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点;获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值;根据中位差异值所在的时序位置确定第一预定阈值。
在实际的应用场景中,当差异值大于第一预定阈值时,则对模仿对象进行调整提示,而对于不同的目标对象执行的目标动作而言,存在不同的难度,因此需要根据目标动作设置与之对应的第一预定阈值。
具体以上述示例为例进行说明,频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,
其中,T为第一预定阈值,t为一段时间内所有目标动作中第一采样点的差异值到最大差异值之间的中位差异值所在的序列位置,λ是根据实际检验设定的目标动作的学习难度系数,分别为目标动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,上述i为自然数。
可选地,在本实施例中,向模仿对象发出提示信息包括但不限于以下至少之一:
1)通过终端设备的显示屏显示提示信息;
在具体的应用场景中,当模仿对象的差异值大于第一预定阈值时,暂停视频文件,定格在当前视频画面,在终端的显示屏上将差异值大于第一预定阈值的局部区域进行突出显示,例如染色或者高亮等,以上仅是一种示例,在此不做任何限定。
需要说明的是,此时进行提示显示的终端可以是进行视频文件播放的终端,也可以是其他终端,例如便携式终端等。
2)向模仿对象所连接的设备发送携带提示信息的控制指令,其中,控制指令包括以下至少之一:响铃控制指令、震动控制指令。
在具体的应用场景中,当模仿对象的差异值大于第一预定阈值时,向差异值大于第一预定阈值的局部区域所对应的设备发送携带提示信息的控制指令,以提示模仿对象该处的模仿动作差异值过大,控制指令包括响铃指令和/或震动控制指令、以及发光指令等。以上仅是一种示例,在此不做任何限定。
需要说明的是,在本发明实施例的技术方案中,在骨骼关键点以及骨骼特征集的获取过程中,可以包括但不限于采用轮廓树比对算法、surf以及orb算法等等。
需要说明的是,在本发明实施例的技术方案中,在骨骼关键点以及骨骼特征集的获取过程中,可以包括但不限于采用轮廓树比对算法、surf以及orb算法等等。
作为一种可选的方案,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置包括:
S1,对采集到的图像进行局部特征的提取,其中,局部特征用于标识图像中局部区域的图像特征;
S2,比对提取出的局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,骨骼特征集中包括与模仿对象的多个骨骼关键点分别对应的骨骼特征,骨骼特征用于标识骨骼关键点所在区域的图像特征;
S3,获取与骨骼特征集中的目标骨骼特征相匹配的局部特征,确定在局部特征所对应的局部区域中,包含有目标骨骼特征所对应的目标骨骼关键点;
S4,在局部区域中确定出模仿对象执行模仿动作时目标骨骼关键点所在的第一骨骼位置。
在具体的应用场景中,将采集到的模仿对象的图像按照骨骼关键点划分为与骨骼关键点对应的多个局部区域的图像,然后将每个局部区域的图像按照预设比例划分为多个轮廓图像,并将多个轮廓图像分别与骨骼特征集中的骨骼特征进行比对,获取与骨骼特征匹配的轮廓图像,将与骨骼特征匹配的轮廓图像设置为模仿对象执行模仿动作时,骨骼关键点所在的第一骨骼位置。
需要说明的是,上述的骨骼特征集是根据医学角度获取模仿对象的整体轮廓的图像特征,然后获取模仿对象标准比例下与各个骨骼关键点对应的图像,该域骨骼关键点对应的图像为骨骼特征,获取各个骨骼关键点对应的图像,获取骨骼特征集。
通过本实施例,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置,以实现骨骼关键点的准确定位,提高模仿对象执行模仿动作时的准确性。
作为一种可选的方案,在获取模仿对象在执行模仿动作时被采集到的图像之前,还包括:
S1,获取模仿对象初始动作的动作信息;
S2,根据动作信息确定模仿对象的骨骼特征集。
在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为背景幕布;
2)当模仿对象进入到场景中后,对模仿对象与背景幕布做差分并提取出模仿对象的整体轮廓位置;
3)利用边缘检测算法获取模仿对象的整体轮廓位置边线;
4)对整体轮廓位置边线进行多边形简化,以减少后续的计算难度和模仿对象的整体轮廓位置边界的粗糙程度;
5)进行模仿对象的信息采集,并要求模仿对象执行预设的姿势动作确定多个骨骼关键点,例如,当模仿对象为人物时,确定模仿对象的骨骼关键点为13个,包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
通过本实施例,通过获取模仿对象初始动作的动作信息,根据动作信息确定模仿对象的骨骼特征集,以实现骨骼关键点的准确定位,提高模仿对象学习目标动作的准确度。
作为一种可选的方案,在本实施例中,根据动作信息确定模仿对象的骨骼特征集包括:
S1,根据动作信息获取模仿对象的整体轮廓位置;
S2,将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;
S3,根据缩放比例对标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;
S4,在搜索区域中搜索骨骼关键点,并确定与骨骼关键点匹配的关键区域,其中,关键区域用于提取出图像特征,作为骨骼关键点的骨骼特征;
S5,将从多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
根据上述内容,在具体的应用场景中,以模仿对象为人物为例进行说明,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;如图4所示,当模仿对象进入到场景中后,对模仿对象与原始幕布做差分,并提取出模仿对象的整体轮廓位置,例如具体可以包括以下步骤:
a)根据标准医学数据获取人物标准比例的整体轮廓位置;
b)分拆的矩形区域边线(矩形区域不包含膝关节和肘关节);
b)矩形区域在整体轮廓位置中的位置区域坐标为Rect(x,y,w,h)(Rect(x,y,w,h)为矩形坐标的表示方法,x和y分别代表矩形的横、纵坐标,w和h代表矩形的长宽);
d)骨骼关键点在矩形区域轮廓线中位置坐标为(px,py)。
2)将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例,其中标准对象的整体轮廓位置是根据标准对象获取到的。例如,当模仿对象为人物时,标准对象的整体轮廓位置则是根据医学角度标准对象(人体)获得的,例如,根据标准整体轮廓位置和模仿对象的整体轮廓位置确定缩放比例因子为(sx,sy)。
3)根据缩放比例对标准对象中骨骼关键点所在的标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域,例如,如图5所示对各区域轮廓线的分拆位置区域按照比例因子(sx,sy)得到搜索区域,对矩形区域Rect的大小适当放大1.2倍,得到骨骼关键点的搜索区域。
4)按照一定比例将搜索区域拆分为多个子区域,并将多个子区域依次与关键点进行比对,确定搜索区域中与骨骼关键点匹配的区域图像,该区域图像为关键区域,例如搜索骨骼关键点:假设下列的每个坐标数值都已经去除了缩放比例(sx,sy)的影响,对于每个矩形区域:具体可以包括以下步骤:
a)如图7所示,将矩形区域划分为多个子区域,具体包括:设标准区域大小为(w,h),则搜索区域大小为(1.2w,1.2h),将搜索区域扩展为16个子区域{Rect(0.05iw,0.05jh,w,h),i,j∈[0,3]},其中,i,j为自然数。
b)计算轮廓树:使用openCV的cvCreateContourTree对每个子区域计算轮廓树
c)匹配轮廓树:使用openCV的cvMatchContourTrees对每个轮廓树和该区域的标准轮廓树进行匹配
d)选择最佳匹配区域Rect(0.05iw,0.05jh,w,h),计算骨骼关键点的位置坐标为(0.05iw+px,0.05jh+py),将其转换为全局整体坐标,设矩形区域左下角在整体中坐标(rx,ry),则骨骼关键点在整体轮廓位置中的坐标为(rx+0.05iw+px,ry+0.05jh+py)。
5)将多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
需要说明的是,上述矩形区域中没有包含膝关节和肘关节的位置,需要使用周围两个关节的骨骼关键点的平均比例计算得出两个关节的骨骼关键点。
通过本实施例,根据动作信息确定模仿对象的骨骼特征集,以实现骨骼关键点的准确定位,进一步提高模仿对象学习目标动作的准确度。
作为一种可选的方案,比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置包括:
S1,获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值;
S2,对第一变化值及第二变化值进行加权计算,得到差异值。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,可以通过以下公式来获取差异值:
在上述公式中,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然数。
通过本实施例,通过比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置,提高模仿对象学习目标动作的准确性。
作为一种可选的方案,获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值包括:
S1,确定模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一采样点,获取在第一采样点之前的上一个采样点,模仿对象的骨骼关键点所在的第三骨骼位置;
S2,根据第一骨骼位置与第三骨骼位置的位置变化,得到第一变化值;
S3,确定目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二采样点,获取在第二采样点之前的上一个采样点,目标对象的骨骼关键点所在的第四骨骼位置;
S4,根据第二骨骼位置与第四骨骼位置的位置变化,得到第二变化值;
其中,第一采样点在模仿动作的采样序列中的时序位置与第二采样点在目标动作的采样序列中的时序位置一致。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,可以通过以下方式获取不同骨骼位置的采样值:
目标动作中,当前采样点的13个骨骼关键点与上一次的变化为:
k代表当前采样点,k-1带表前一采样点
模仿动作中,当前采样点的13个骨骼关键点与上一次的变化为:
其中,k表示当前采样点,k-1表示为前一采样点,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,上述i为自然数。
通过本实施例,获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值,能够准确的获取到模仿对象的变化,提高模仿对象学习目标动作的准确度。
作为一种可选的方案,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括:
S1,在第一变化值大于第二预定阈值的情况下,设置一个采样点;或者
S2,在采样间隔大于第三预定阈值的情况下,设置一个采样点。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,通过以下步骤确定合适对动作进行采样:
a)对于每个骨骼关键点,计算和之前对应骨骼关键点的距离。
b)由于在模仿动作中骨骼关键点点的移动速度不同,对每个骨骼关键点设置不同的移动距离阈值。
c)如果当前动作的任何一个骨骼关键点的移动距离超过其对应阈值,就视为变化程度达到阈值,设置一个采样点,保存当前动作;或者,采样点之间的采样间隔最大是2s,即使2s后动作变化没有超过阈值,也会进行一次采样,保存当前动作。
通过本实施例,能够实现对模仿对象进行灵活的动作采样,提高模仿对象模仿动作的准确度。
作为一种可选的方案,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括:
获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点;
获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值;
具体以上述示例为例进行说明,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,
其中,T为第一预定阈值,t为一段时间内所有目标动作中第一采样点的差异值到最大差异值之间的中位差异值所在的序列位置,λ是根据实际设定的目标动作的学习难度系数,分别为目标动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然数。
通过本实施例,通过获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点,获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值,以实现根据不同的视频文件中的难易度灵活的设置差异值对应的阈值,提高模仿对象学习目标动作的积极性。
根据中位差异值所在的时序位置确定第一预定阈值。
作为一种可选的方案,向模仿对象发出提示信息包括以下至少之一:
1)通过终端设备的显示屏显示提示信息;
在具体的应用场景中,以模仿对象为学习者为例进行说明,当学习者的差异值大于第一预定阈值时,暂停视频文件,定格在当前视频画面,在终端的显示屏上将差异值大于第一预定阈值的局部区域(在此称之为差异区域)进行突出显示。具体例如差异程度较大时,定格当前学习视频画面,将差异区域(差异骨骼关键点和周围骨骼关键点的连线加粗)进行染色,在连线上,假设两端差异值为d0,di,在线段上对差异值进行线性插值,按照差异程度的值,设置染色程度,染色程度随差异程度从小到大的颜色分别是绿色->蓝色->橙色->红色->深红色。
2)向模仿对象所连接的设备发送携带提示信息的控制指令,其中,提示信息包括以下至少之一:响铃控制指令、震动控制指令。
在具体的应用场景中,以模仿对象为学习者为例进行说明,当学习者的差异值大于第一预定阈值时,向差异值大于第一预定阈值的局部区域所对应的设备发送携带提示信息的控制指令,以提示模仿对象该处的模仿动作差异值过大,控制指令包括响铃指令和/或震动控制指令、以及发光指令等。例如差异值较小时,对学习者身上的可穿戴设备进行提示根据穿戴设备的不同有两种方案:
a.)学习者穿戴设备是全身只覆盖一处的设备,如手环,按照差异程度给予不同强弱和次数的震动
b)学习者穿戴设备覆盖全身时,对差异区域进行定点震动提示,按照差异程度设置震动的强弱程度
通过本实施例,当模仿对象的差异值大于第一预定阈值时,向模仿对象发出提示信息,以实现对模仿对象的学习过程进行错误调整,提高了模仿对象学习目标动作的准确性。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
根据本发明实施例的另一个方面,还提供了一种用于实施上述动作提示方法的动作提示装置,如图8所示,该装置包括:
1)第一获取单元802,用于获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;
2)识别单元804,用于识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;
3)提示单元806,用于在所述第一骨骼位置与所述目标对象执行所述目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
可选地,在本实施例中,上述动作提示方法可以但不限于应用于动作调整即矫正过程,也可以是其他需要体感动作进行互动的过程。其中,上述方法可以包括但不限于应用于模仿动作学习应用以及利用体感动作来进行控制操作的游戏应用等。
需要说明的是,上述的动作调整过程,实际上是针对模仿对象的模仿动作的一种矫正提示的过程,对模仿对象的模仿动作进行提示,以进行动作矫正等动作调整的目的。还需要说明的是,上述方法中的骨骼关键点是用于表示模仿对象动作的骨骼位置,进而展示模仿对象当前执行的模仿动作。该骨骼关键点的数量可以根据模仿对象的大小以及性别的不同来进行设置,在模仿对象为非人对象时,也可以采用不同数量的关键点用于展示模仿对象的动作,以上仅是一种示例,在此不做任何限定。在一种优选的方案中,用13个骨骼关键点来确定模仿对象在站立时的动作。例如图3所示,模仿对象为人且正在执行站立动作,该模仿对象存在13个骨骼关键点,骨骼关键点的部位主要包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
需要说明的是,在本实施例中,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。以实现对模仿对象的模仿动作的调整提示,提高模仿对象的模仿动作的准确性,提高模仿对象的模仿动作学习效率。
可选地,在本实施例中,所述动作提示装置还包括但不限于:比对单元,用于在提示单元806输出提示信息之前,比对第一骨骼位置与第二骨骼位置,以获取第一骨骼位置与第二骨骼位置之间的差异值;输出单元,用于在差异值大于第一预定阈值的情况下,输出提示信息,其中,提示信息用于提示模仿对象调整模仿动作。在具体的应用场景中,根据对象的骨骼位置来比对模仿对象与目标对象之间差异,而在差异值大于第一预定阈值的情况下,输出用于提示模仿对象调整模拟动作的提示信息。
可选地,在本实施例中,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置包括但不限于:对采集到的图像进行局部特征的提取,其中,局部特征用于标识图像中局部区域的图像特征;比对提取出的局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,骨骼特征集中包括与模仿对象的多个骨骼关键点分别对应的骨骼特征,骨骼特征用于标识骨骼关键点所在区域的图像特征;获取与骨骼特征集中的目标骨骼特征相匹配的局部特征,确定在局部特征所对应的局部区域中,包含有目标骨骼特征所对应的目标骨骼关键点;在局部区域中确定出模仿对象执行模仿动作时目标骨骼关键点所在的第一骨骼位置。
在具体的应用场景中,以如图4所示为例,在模仿对象为人物的情况下,将采集到的模仿对象的图像按照骨骼关键点划分为与骨骼关键点对应的多个局部区域的图像,然后将每个局部区域的图像按照预设比例划分为多个轮廓图像,并将多个轮廓图像分别与骨骼特征集中的骨骼特征进行比对,获取与骨骼特征匹配的轮廓图像,将与骨骼特征匹配的轮廓图像设置为模仿对象执行模仿动作时,骨骼关键点所在的第一骨骼位置。
需要说明的是,上述的骨骼特征集是根据医学角度获取模仿对象的整体轮廓的图像特征,然后获取模仿对象标准比例下与各个骨骼关键点对应的图像,该域骨骼关键点对应的图像为骨骼特征,获取各个骨骼关键点对应的图像,获取骨骼特征集。
还需要说明的是,对于不同的骨骼关键点,其在不同的角度下对应的图像也可能存在不相同,因此每个骨骼关键点在骨骼特征集中可能会存在多个对应的骨骼特征。
可选地,在本实施例中,在获取模仿对象在执行模仿动作时被采集到的图像之前,还包括但不限于:获取模仿对象初始动作的动作信息;根据动作信息确定模仿对象的骨骼特征集。
在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;
2)当模仿对象进入到场景中后,对模仿对象与原始幕布做查分并提取出模仿对象的整体轮廓位置;
3)利用边缘检测算法获取模仿对象的整体轮廓位置边线;
4)对整体轮廓位置边线进行多边形简化,以减少后续的计算难度和模仿对象的整体轮廓位置边界的粗糙程度;
5)进行模仿对象的信息采集,并要求模仿对象执行预设的姿势动作确定多个骨骼关键点,例如,当模仿对象为人物时,确定模仿对象的骨骼关键点为13个,包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
可选地,在本实施例中,根据动作信息确定模仿对象的骨骼特征集包括但限于:根据动作信息获取模仿对象的整体轮廓位置;将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;根据缩放比例对标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;在搜索区域中搜索骨骼关键点,并确定与骨骼关键点匹配的关键区域,其中,关键区域用于提取出图像特征,作为骨骼关键点的骨骼特征;将从多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
根据上述内容,在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;当模仿对象进入到场景中后,对模仿对象与原始幕布做查分并提取出模仿对象的整体轮廓位置;
2)将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例,其中标准对象的整体轮廓位置是根据标准对象获取到的。例如,当模仿对象为人物时,标准对象的整体轮廓位置则是根据医学角度标准对象(人体)获得的;
3)根据缩放比例对标准对象中骨骼关键点所在的标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;
4)按照一定比例将搜索区域拆分为多个子区域,并将多个子区域依次与骨骼关键点进行比对,确定搜索区域中与骨骼关键点匹配的区域图像,该区域图像为关键区域。
5)将多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
可选地,在本实施例中,比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置包括但不限于:获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值;对第一变化值及第二变化值进行加权计算,得到差异值。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,可以通过以下公式来获取差异值:
在上述公式中,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然数。
可选地,在本实施例中,获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值包括但不限于:确定模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一采样点,获取在第一采样点之前的上一个采样点,模仿对象的骨骼关键点所在的第三骨骼位置;根据第一骨骼位置与第三骨骼位置的位置变化,得到第一变化值;确定目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二采样点,获取在第二采样点之前的上一个采样点,目标对象的骨骼关键点所在的第四骨骼位置;根据第二骨骼位置与第四骨骼位置的位置变化,得到第二变化值;其中,第一采样点在模仿动作的采样序列中的时序位置与第二采样点在目标动作的采样序列中的时序位置一致。
仍以上述示例为例进行说明,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,具体可以通过以下方式获取上述第一变化值与第二变化值:
目标动作中,当前采样点的13个骨骼关键点与上一次的变化为:
模仿动作中,当前采样点的13个骨骼关键点与上一次的变化为:
其中,k表示当前采样点,k-1表示为前一采样点,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然数。
可选地,在本实施例中,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括但不限于:在第一变化值大于第二预定阈值的情况下,设置一个采样点;或者在采样间隔大于第三预定阈值的情况下,设置一个采样点。
在具体的应用场景中,当模仿对象的模仿动作变化幅度较大时,则需要进行动作的采样,因此在第一变化值大于第二预定预支的情况,设置一个采样点。另外,当模仿对象的动作持续超过一定时间时,也需要对模仿对象当前的动作进行记录,因此在采样间隔大于第三预定阈值的情况下,设置一个采样点。而在实际的经验中,也可以设置每隔预定时间进行一次采样,具体可以根据实际经验进行设置,在此不做任何限定。
可选地,在本实施例中,在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,还包括但不限于:获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点;获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值;根据中位差异值所在的时序位置确定第一预定阈值。
在实际的应用场景中,当差异值大于第一预定阈值时,则对模仿对象进行调整提示,而对于不同的目标对象执行的目标动作而言,存在不同的难度,因此需要根据目标动作设置与之对应的第一预定阈值。
具体以上述示例为例进行说明,频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,
其中,T为第一预定阈值,t为一段时间内所有目标动作中第一采样点的差异值到最大差异值之间的中位差异值所在的序列位置,λ是根据实际经验设定的目标动作的学习难度系数,分别为目标动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然数。
可选地,在本实施例中,向模仿对象发出提示信息包括但不限于以下至少之一:
1)通过终端设备的显示屏显示提示信息;
在具体的应用场景中,当模仿对象的差异值大于第一预定阈值时,暂停视频文件,定格在当前视频画面,在终端的显示屏上将差异值大于第一预定阈值的局部区域进行突出显示,例如染色或者高亮等,以上仅是一种示例,在此不做任何限定。
需要说明的是,此时进行提示显示的终端可以是进行视频文件播放的终端,也可以是其他终端,例如便携式终端等。
2)向模仿对象所连接的设备发送携带提示信息的控制指令,其中,控制指令包括以下至少之一:响铃控制指令、震动控制指令。
在具体的应用场景中,当模仿对象的差异值大于第一预定阈值时,向差异值大于第一预定阈值的局部区域所对应的设备发送携带提示信息的控制指令,以提示模仿对象该处的模仿动作差异值过大,控制指令包括响铃指令和/或震动控制指令、以及发光指令等。以上仅是一种示例,在此不做任何限定。
作为一种可选的方案,识别单元804包括:
1)提取模块,用于对采集到的图像进行局部特征的提取,其中,局部特征用于标识图像中局部区域的图像特征;
2)比对模块,用于比对提取出的局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,骨骼特征集中包括与模仿对象的多个骨骼关键点分别对应的骨骼特征,骨骼特征用于标识骨骼关键点所在区域的图像特征;
3)第一获取模块,用于获取与骨骼特征集中的目标骨骼特征相匹配的局部特征,确定在局部特征所对应的局部区域中,包含有目标骨骼特征所对应的目标骨骼关键点;
4)第一确定模块,用于在局部区域中确定出模仿对象执行模仿动作时目标骨骼关键点所在的第一骨骼位置。
在具体的应用场景中,将采集到的模仿对象的图像按照骨骼关键点划分为与骨骼关键点对应的多个局部区域的图像,然后将每个局部区域的图像按照预设比例划分为多个轮廓图像,并将多个轮廓图像分别与骨骼特征集中的骨骼特征进行比对,获取与骨骼特征匹配的轮廓图像,将与骨骼特征匹配的轮廓图像设置为模仿对象执行模仿动作时,骨骼关键点所在的第一骨骼位置。
需要说明的是,上述的骨骼特征集是根据医学角度获取模仿对象的整体轮廓的图像特征,然后获取模仿对象标准比例下与各个骨骼关键点对应的图像,该域骨骼关键点对应的图像为骨骼特征,获取各个骨骼关键点对应的图像,获取骨骼特征集。
通过本实施例,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置,以实现骨骼关键点的准确定位,提高模仿对象执行模仿动作时的准确性。
作为一种可选的方案,还包括:
1)第二获取模块,用于在获取模仿对象在执行模仿动作时被采集到的图像之前,获取模仿对象初始动作的动作信息;
2)第二确定模块,用于根据动作信息确定模仿对象的骨骼特征集。
在具体的应用场景中,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为背景幕布;
2)当模仿对象进入到场景中后,对模仿对象与背景幕布做差分并提取出模仿对象的整体轮廓位置;
3)利用边缘检测算法获取模仿对象的整体轮廓位置边线;
4)对整体轮廓位置边线进行多边形简化,以减少后续的计算难度和模仿对象的整体轮廓位置边界的粗糙程度;
5)进行模仿对象的信息采集,并要求模仿对象执行预设的姿势动作确定多个骨骼关键点,例如,当模仿对象为人物时,确定模仿对象的骨骼关键点为13个,包括:脚踝关节,膝关节,髋关节,手心,肘关节,肩关节,头部等。
通过本实施例,通过获取模仿对象初始动作的动作信息,根据动作信息确定模仿对象的骨骼特征集,以实现骨骼关键点的准确定位,提高模仿对象学习目标动作的准确度。
作为一种可选的方案,第二确定模块包括:
1)获取子模块,用于根据动作信息获取模仿对象的整体轮廓位置;
2)比对子模块,用于将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;
3)缩放子模块,用于根据缩放比例对标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域;
4)第一确定子模块,用于在搜索区域中搜索骨骼关键点,并确定与骨骼关键点匹配的关键区域,其中,关键区域用于提取出图像特征,作为骨骼关键点的骨骼特征;
5)组合子模块,用于将从多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
根据上述内容,在具体的应用场景中,以模仿对象为人物为例进行说明,获取模仿对象的骨骼特征集,具体可以包括以下步骤:
1)保持场景静止,进行取景并将对应的场景设置为幕布;如图4所示,当模仿对象进入到场景中后,对模仿对象与原始幕布做差分,并提取出模仿对象的整体轮廓位置,例如具体可以包括以下步骤:
a)根据标准医学数据获取人物标准比例的整体轮廓位置;
b)分拆的矩形区域边线(矩形区域不包含膝关节和肘关节);
b)矩形区域在整体轮廓位置中的位置区域坐标为Rect(x,y,w,h)(Rect(x,y,w,h)为矩形坐标的表示方法,x和y分别代表矩形的横、纵坐标,w和h代表矩形的长宽);
d)骨骼关键点在矩形区域轮廓线中位置坐标为(px,py)。
2)将模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例,其中标准对象的整体轮廓位置是根据标准对象获取到的。例如,当模仿对象为人物时,标准对象的整体轮廓位置则是根据医学角度标准对象(人体)获得的,例如,根据标准整体轮廓位置和模仿对象的整体轮廓位置确定缩放比例因子为(sx,sy)。
3)根据缩放比例对标准对象中骨骼关键点所在的标准区域进行缩放,得到用于获取模仿对象中骨骼关键点的搜索区域,例如,如图5所示对各区域轮廓线的分拆位置区域按照比例因子(sx,sy)得到搜索区域,对矩形区域Rect的大小适当放大1.2倍,得到骨骼关键点的搜索区域。
4)按照一定比例将搜索区域拆分为多个子区域,并将多个子区域依次与关键点进行比对,确定搜索区域中与骨骼关键点匹配的区域图像,该区域图像为关键区域,例如搜索骨骼关键点:假设下列的每个坐标数值都已经去除了缩放比例(sx,sy)的影响,对于每个矩形区域:具体可以包括以下步骤:
a)如图7所示,将矩形区域划分为多个子区域,具体包括:设标准区域大小为(w,h),则搜索区域大小为(1.2w,1.2h),将搜索区域扩展为16个子区域{Rect(0.05iw,0.05jh,w,h),i,j∈[0,3]},i,j为自然数。
b)计算轮廓树:使用openCV的cvCreateContourTree对每个子区域计算轮廓树
c)匹配轮廓树:使用openCV的cvMatchContourTrees对每个轮廓树和该区域的标准轮廓树进行匹配
d)选择最佳匹配区域Rect(0.05iw,0.05jh,w,h),计算骨骼关键点的位置坐标为(0.05iw+px,0.05jh+py),将其转换为全局整体坐标,设矩形区域左下角在整体中坐标(rx,ry),则骨骼关键点在整体轮廓位置中的坐标为(rx+0.05iw+px,ry+0.05jh+py)。
5)将多个关键区域分别提取出的与骨骼关键点对应的骨骼特征,组合得到骨骼特征集。
需要说明的是,上述矩形区域中没有包含膝关节和肘关节的位置,需要使用周围两个关节的骨骼关键点的平均比例计算得出两个关节的骨骼关键点。
通过本实施例,根据动作信息确定模仿对象的骨骼特征集,以实现骨骼关键点的准确定位,进一步提高模仿对象学习目标动作的准确度。
作为一种可选的方案,比对单元806包括:
1)第三获取模块,用于获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值;
2)计算模块,用于对第一变化值及第二变化值进行加权计算,得到差异值。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,可以通过以下公式来获取差异值:
在上述公式中,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然整数。
通过本实施例,通过比对模仿对象的第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置,提高模仿对象学习目标动作的准确性。
作为一种可选的方案,第三获取模块包括:
1)第二确定子模块,用于确定模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一采样点,获取在第一采样点之前的上一个采样点,模仿对象的骨骼关键点所在的第三骨骼位置;根据第一骨骼位置与第三骨骼位置的位置变化,得到第一变化值;
2)第三确定子模块,用于确定目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二采样点,获取在第二采样点之前的上一个采样点,目标对象的骨骼关键点所在的第四骨骼位置;根据第二骨骼位置与第四骨骼位置的位置变化,得到第二变化值;
其中,第一采样点在模仿动作的采样序列中的时序位置与第二采样点在目标动作的采样序列中的时序位置一致。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,可以通过以下方式获取不同骨骼位置的采样值:
目标动作中,当前采样点的13个骨骼关键点与上一次的变化为:
k代表当前采样点,k-1带表前一采样点
模仿动作中,当前采样点的13个骨骼关键点与上一次的变化为:
其中,k表示当前采样点,k-1表示为前一采样点,x,y分别为采样点的横坐标与纵坐标,k表示当前采样点,其中,分别为目标动作中当前采样点与上一次采样点的变化值,分别为模仿动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然整数。
作为一种可选的方案,还包括:
1)第一设置模块,用于在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,在第一变化值大于第二预定阈值的情况下,设置一个采样点;或者
2)第二设置模块,用于在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,在采样间隔大于第三预定阈值的情况下,设置一个采样点。
在具体的应用场景中,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,通过以下步骤确定合适对动作进行采样:
a)对于每个骨骼关键点,计算和之前对应骨骼关键点的距离。
b)由于在模仿动作中骨骼关键点点的移动速度不同,对每个骨骼关键点设置不同的移动距离阈值。
c)如果当前动作的任何一个骨骼关键点的移动距离超过其对应阈值,就视为变化程度达到阈值,设置一个采样点,保存当前动作;或者,采样点之间的采样间隔最大是2s,即使2s后动作变化没有超过阈值,也会进行一次采样,保存当前动作。
通过本实施例,能够实现对模仿对象进行灵活的动作采样,提高模仿对象模仿动作的准确度。
作为一种可选的方案,还包括:
1)第二获取单元,用于在获取模仿对象执行模仿动作时骨骼关键点变化到第一骨骼位置的第一变化值,以及目标对象执行目标动作时骨骼关键点变化到第二骨骼位置的第二变化值之前,获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点;
2)第三获取单元,用于获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值;
3)确定单元,用于根据中位差异值所在的时序位置确定第一预定阈值。
具体以上述示例为例进行说明,视频文件中目标对象所展示的为目标动作,模仿对象展示的为模仿动作,若设置模仿对象中存在13个骨骼关键点,每进行图像采集时分别获取对应13个骨骼关键点的采样点的动作,
其中,T为第一预定阈值,t为一段时间内所有目标动作中第一采样点的差异值到最大差异值之间的中位差异值所在的序列位置,λ是根据实际经验设定的目标动作的学习难度,分别为目标动作中当前采样点与上一次采样点的变化值,i是骨骼关键点的数量,i为自然整数。
通过本实施例,通过获取预定时间段内的差异值构成的差异值序列,预定时间段包括第一采样点,获取差异值序列中第一采样点采样的差异值到最大差异值之间的中位差异值,以实现根据不同的视频文件中的难易度灵活的设置差异值对应的阈值,提高模仿对象学习目标动作的积极性。
作为一种可选的方案,提示单元包括以下至少之一:
1)显示模块,用于通过终端设备的显示屏显示提示信息;
在具体的应用场景中,以模仿对象为学习者为例进行说明,当学习者的差异值大于第一预定阈值时,暂停视频文件,定格在当前视频画面,在终端的显示屏上将差异值大于第一预定阈值的局部区域(在此称之为差异区域)进行突出显示。具体例如差异程度较大时,定格当前学习视频画面,将差异区域(差异骨骼关键点和周围骨骼关键点的连线加粗)进行染色,在连线上,假设两端差异值为d0,di,在线段上对差异值进行线性插值,按照差异程度的值,设置染色程度,染色程度随差异程度从小到大的颜色分别是绿色->蓝色->橙色->红色->深红色。
2)发送模块,用于向模仿对象所连接的设备发送携带提示信息的控制指令,其中,控制信息包括以下至少之一:响铃控制指令、震动控制指令。
在具体的应用场景中,以模仿对象为学习者为例进行说明,当学习者的差异值大于第一预定阈值时,向差异值大于第一预定阈值的局部区域所对应的设备发送携带提示信息的控制指令,以提示模仿对象该处的模仿动作差异值过大,控制指令包括响铃指令和/或震动控制指令、以及发光指令等。例如差异值较小时,对学习者身上的可穿戴设备进行提示根据穿戴设备的不同有两种方案:
a.)学习者穿戴设备是全身只覆盖一处的设备,如手环,按照差异程度给予不同强弱和次数的震动
b)学习者穿戴设备覆盖全身时,对差异区域进行定点震动提示,按照差异程度设置震动的强弱程度
通过本实施例,当模仿对象的差异值大于第一预定阈值时,向模仿对象发出提示信息,以实现对模仿对象的学习过程进行错误调整,提高了模仿对象学习目标动作的准确性。
根据本发明实施例的又一个方面,还提供了一种用于实施上述数据显示方法的电子装置,如图9所示,该电子装置包括:一个或多个(图中仅示出一个)处理器902、存储器904、显示器906、用户接口908、传输装置910。其中,存储器904可用于存储软件程序以及模块,如本发明实施例中的动作提示方法和装置对应的程序指令/模块,处理器902通过运行存储在存储器904内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的动作提示方法。存储器904可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器904可进一步包括相对于处理器902远程设置的存储器,这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
上述的传输装置910用于经由一个网络接收或者发送数据。上述的网络具体实例可包括有线网络及无线网络。在一个实例中,传输装置910包括一个网络适配器(NetworkInterface Controller,NIC),其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中,传输装置910为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
其中,具体地,存储器904用于存储模仿对象的图像和第二骨骼位置、第一预定阈值以及应用程序。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例在此不再赘述。
本领域普通技术人员可以理解,图9所示的结构仅为示意,电子装置也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌声电脑以及移动互联网设备(MobileInternet Devices,MID)、PAD等终端设备。图9其并不对上述电子装置的结构造成限定。例如,电子装置还可包括比图9中所示更多或者更少的组件(如网络接口、显示装置等),或者具有与图9所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。
本发明实施例的又一方面,还提供了一种存储介质,可选地,在本实施例中,上述存储介质可以被设置为存储用于执行以下步骤的程序代码:
S1,获取模仿对象在执行模仿动作时被采集到的图像,其中,模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;
S2,识别在图像中模仿对象执行模仿动作时骨骼关键点所在的第一骨骼位置;
S3,在第一骨骼位置与目标对象执行目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例在此不再赘述。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的客户端,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (13)
1.一种动作提示方法,其特征在于,包括:
获取模仿对象在执行模仿动作时被采集到的图像,其中,所述模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;
识别在所述图像中所述模仿对象执行所述模仿动作时骨骼关键点所在的第一骨骼位置;
在所述第一骨骼位置与所述目标对象执行所述目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
2.根据权利要求1所述的方法,其特征在于,在所述输出提示信息之前,还包括:
比对所述第一骨骼位置与所述第二骨骼位置,以获取所述第一骨骼位置与所述第二骨骼位置之间的所述差异值;
在所述差异值大于所述第一预定阈值的情况下,输出所述提示信息,其中,所述提示信息用于提示所述模仿对象调整所述模仿动作。
3.根据权利要求2所述的方法,其特征在于,所述识别在所述图像中所述模仿对象执行所述模仿动作时骨骼关键点所在的第一骨骼位置包括:
对采集到的所述图像进行局部特征的提取,其中,所述局部特征用于标识所述图像中局部区域的图像特征;
比对提取出的所述局部特征与预先获取到的骨骼特征集中的骨骼特征,其中,所述骨骼特征集中包括与所述模仿对象的多个骨骼关键点分别对应的骨骼特征,所述骨骼特征用于标识所述骨骼关键点所在区域的图像特征;
获取与所述骨骼特征集中的目标骨骼特征相匹配的所述局部特征,确定在所述局部特征所对应的所述局部区域中,包含有所述目标骨骼特征所对应的目标骨骼关键点;
在所述局部区域中确定出所述模仿对象执行所述模仿动作时所述目标骨骼关键点所在的所述第一骨骼位置。
4.根据权利要求3所述的方法,其特征在于,在所述获取模仿对象在执行模仿动作时被采集到的图像之前,还包括:
获取所述模仿对象初始动作的动作信息;
根据所述动作信息确定所述模仿对象的所述骨骼特征集。
5.根据权利要求4所述的方法,其特征在于,所述根据所述动作信息确定所述模仿对象的所述骨骼特征集包括:
根据所述动作信息获取所述模仿对象的整体轮廓位置;
将所述模仿对象的整体轮廓位置与标准对象的整体轮廓位置进行比对,得到缩放比例;
根据所述缩放比例对所述标准对象中骨骼关键点所在标准区域进行缩放,得到用于获取所述模仿对象中骨骼关键点的搜索区域;
在所述搜索区域中搜索所述骨骼关键点,并确定与所述骨骼关键点匹配的关键区域,其中,所述关键区域用于提取出图像特征,作为所述骨骼关键点的骨骼特征;
将从多个所述关键区域分别提取出的与所述骨骼关键点对应的所述骨骼特征,组合得到所述骨骼特征集。
6.根据权利要求3所述的方法,其特征在于,所述比对所述模仿对象的所述第一骨骼位置与所述目标对象执行所述目标动作时骨骼关键点所在的第二骨骼位置包括:
获取所述模仿对象执行所述模仿动作时所述骨骼关键点变化到所述第一骨骼位置的第一变化值,以及所述目标对象执行所述目标动作时所述骨骼关键点变化到所述第二骨骼位置的第二变化值;
对所述第一变化值及所述第二变化值进行加权计算,得到所述差异值。
7.根据权利要求6所述的方法,其特征在于,所述获取所述模仿对象执行所述模仿动作时所述骨骼关键点变化到所述第一骨骼位置的第一变化值,以及所述目标对象执行所述目标动作时所述骨骼关键点变化到所述第二骨骼位置的第二变化值包括:
确定所述模仿对象执行所述模仿动作时所述骨骼关键点变化到所述第一骨骼位置的第一采样点,获取在所述第一采样点之前的上一个采样点,所述模仿对象的所述骨骼关键点所在的第三骨骼位置;
根据所述第一骨骼位置与所述第三骨骼位置的位置变化,得到所述第一变化值;
确定所述目标对象执行所述目标动作时所述骨骼关键点变化到所述第二骨骼位置的第二采样点,获取在所述第二采样点之前的上一个采样点,所述目标对象的所述骨骼关键点所在的第四骨骼位置;
根据所述第二骨骼位置与所述第四骨骼位置的位置变化,得到所述第二变化值;
其中,所述第一采样点在所述模仿动作的采样序列中的时序位置与所述第二采样点在所述目标动作的采样序列中的时序位置一致。
8.根据权利要求6所述的方法,其特征在于,在获取所述模仿对象执行所述模仿动作时所述骨骼关键点变化到所述第一骨骼位置的第一变化值,以及所述目标对象执行所述目标动作时所述骨骼关键点变化到所述第二骨骼位置的第二变化值之前,还包括:
在所述第一变化值大于第二预定阈值的情况下,设置一个采样点;
或者
在采样间隔大于第三预定阈值的情况下,设置一个采样点。
9.根据权利要求7所述的方法,其特征在于,在获取所述模仿对象执行所述模仿动作时所述骨骼关键点变化到所述第一骨骼位置的第一变化值,以及所述目标对象执行所述目标动作时所述骨骼关键点变化到所述第二骨骼位置的第二变化值之前,还包括:
获取预定时间段内的所述差异值构成的差异值序列,所述预定时间段包括所述第一采样点;
获取所述差异值序列中所述第一采样点采样的所述差异值到最大差异值之间的中位差异值;
根据所述中位差异值确定所述第一预定阈值。
10.根据权利要求2所述的方法,其特征在于,所述输出提示信息包括以下至少之一:
通过所述终端设备的显示屏显示所述提示信息;
向所述模仿对象所连接的设备发送携带所述提示信息的控制指令,其中,所述控制指令包括以下至少之一:响铃控制指令、震动控制指令。
11.一种动作提示装置,其特征在于,包括:
第一获取单元,用于获取模仿对象在执行模仿动作时被采集到的图像,其中,所述模仿动作用于模仿在终端设备当前播放的视频文件中目标对象所展示的目标动作;
识别单元,用于识别在所述图像中所述模仿对象执行所述模仿动作时骨骼关键点所在的第一骨骼位置;
提示单元,用于在所述第一骨骼位置与所述目标对象执行所述目标动作时骨骼关键点所在的第二骨骼位置之间的差异值大于第一预定阈值的情况下,输出提示信息。
12.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序运行时执行所述权利要求1至10任一项中所述的方法。
13.一种电子装置,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器通过所述计算机程序执行所述权利要求1至10任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711180258.4A CN109815776B (zh) | 2017-11-22 | 2017-11-22 | 动作提示方法和装置、存储介质及电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711180258.4A CN109815776B (zh) | 2017-11-22 | 2017-11-22 | 动作提示方法和装置、存储介质及电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109815776A true CN109815776A (zh) | 2019-05-28 |
CN109815776B CN109815776B (zh) | 2023-02-10 |
Family
ID=66600181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711180258.4A Active CN109815776B (zh) | 2017-11-22 | 2017-11-22 | 动作提示方法和装置、存储介质及电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109815776B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110298309A (zh) * | 2019-06-28 | 2019-10-01 | 腾讯科技(深圳)有限公司 | 基于图像的动作特征处理方法、装置、终端及存储介质 |
CN110781857A (zh) * | 2019-11-05 | 2020-02-11 | 北京沃东天骏信息技术有限公司 | 运动监控方法、装置、系统和存储介质 |
CN110996149A (zh) * | 2019-12-23 | 2020-04-10 | 联想(北京)有限公司 | 一种信息处理方法、装置和系统 |
CN111228655A (zh) * | 2020-01-14 | 2020-06-05 | 于金明 | 基于虚拟智能医疗平台的监控方法、装置及存储介质 |
CN111626253A (zh) * | 2020-06-02 | 2020-09-04 | 上海商汤智能科技有限公司 | 表情检测的方法、装置、电子设备及存储介质 |
CN111709362A (zh) * | 2020-06-16 | 2020-09-25 | 百度在线网络技术(北京)有限公司 | 用于确定重点学习内容的方法、装置、设备及存储介质 |
CN113505662A (zh) * | 2021-06-23 | 2021-10-15 | 广州大学 | 一种健身指导方法、装置及存储介质 |
CN113569753A (zh) * | 2021-07-29 | 2021-10-29 | 杭州逗酷软件科技有限公司 | 视频中的动作比对方法、装置、存储介质与电子设备 |
CN113925497A (zh) * | 2021-10-22 | 2022-01-14 | 吉林大学 | 一种基于双目视觉测量系统的汽车乘员乘坐姿态提取方法 |
CN114845145A (zh) * | 2021-01-30 | 2022-08-02 | 华为技术有限公司 | 动作提示图标序列生成方法、电子设备和可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120058824A1 (en) * | 2010-09-07 | 2012-03-08 | Microsoft Corporation | Scalable real-time motion recognition |
CN105847987A (zh) * | 2016-03-24 | 2016-08-10 | 乐视控股(北京)有限公司 | 通过电视和体感配件矫正人体动作及系统 |
CN105844100A (zh) * | 2016-03-24 | 2016-08-10 | 乐视控股(北京)有限公司 | 通过电视和体感配件进行康复训练及系统 |
JP2017042896A (ja) * | 2015-08-28 | 2017-03-02 | 株式会社電通 | データ変換装置、ロボット、プログラム及び情報処理方法 |
-
2017
- 2017-11-22 CN CN201711180258.4A patent/CN109815776B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120058824A1 (en) * | 2010-09-07 | 2012-03-08 | Microsoft Corporation | Scalable real-time motion recognition |
JP2017042896A (ja) * | 2015-08-28 | 2017-03-02 | 株式会社電通 | データ変換装置、ロボット、プログラム及び情報処理方法 |
CN105847987A (zh) * | 2016-03-24 | 2016-08-10 | 乐视控股(北京)有限公司 | 通过电视和体感配件矫正人体动作及系统 |
CN105844100A (zh) * | 2016-03-24 | 2016-08-10 | 乐视控股(北京)有限公司 | 通过电视和体感配件进行康复训练及系统 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110298309A (zh) * | 2019-06-28 | 2019-10-01 | 腾讯科技(深圳)有限公司 | 基于图像的动作特征处理方法、装置、终端及存储介质 |
CN110781857A (zh) * | 2019-11-05 | 2020-02-11 | 北京沃东天骏信息技术有限公司 | 运动监控方法、装置、系统和存储介质 |
CN110781857B (zh) * | 2019-11-05 | 2022-09-06 | 北京沃东天骏信息技术有限公司 | 运动监控方法、装置、系统和存储介质 |
CN110996149A (zh) * | 2019-12-23 | 2020-04-10 | 联想(北京)有限公司 | 一种信息处理方法、装置和系统 |
CN111228655A (zh) * | 2020-01-14 | 2020-06-05 | 于金明 | 基于虚拟智能医疗平台的监控方法、装置及存储介质 |
CN111626253A (zh) * | 2020-06-02 | 2020-09-04 | 上海商汤智能科技有限公司 | 表情检测的方法、装置、电子设备及存储介质 |
CN111709362A (zh) * | 2020-06-16 | 2020-09-25 | 百度在线网络技术(北京)有限公司 | 用于确定重点学习内容的方法、装置、设备及存储介质 |
CN111709362B (zh) * | 2020-06-16 | 2023-08-08 | 百度在线网络技术(北京)有限公司 | 用于确定重点学习内容的方法、装置、设备及存储介质 |
CN114845145A (zh) * | 2021-01-30 | 2022-08-02 | 华为技术有限公司 | 动作提示图标序列生成方法、电子设备和可读存储介质 |
CN114845145B (zh) * | 2021-01-30 | 2024-04-12 | 华为技术有限公司 | 动作提示图标序列生成方法、电子设备和可读存储介质 |
CN113505662A (zh) * | 2021-06-23 | 2021-10-15 | 广州大学 | 一种健身指导方法、装置及存储介质 |
CN113505662B (zh) * | 2021-06-23 | 2024-03-01 | 广州大学 | 一种健身指导方法、装置及存储介质 |
CN113569753A (zh) * | 2021-07-29 | 2021-10-29 | 杭州逗酷软件科技有限公司 | 视频中的动作比对方法、装置、存储介质与电子设备 |
CN113925497A (zh) * | 2021-10-22 | 2022-01-14 | 吉林大学 | 一种基于双目视觉测量系统的汽车乘员乘坐姿态提取方法 |
CN113925497B (zh) * | 2021-10-22 | 2023-09-15 | 吉林大学 | 一种基于双目视觉测量系统的汽车乘员乘坐姿态提取方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109815776B (zh) | 2023-02-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109815776A (zh) | 动作提示方法和装置、存储介质及电子装置 | |
US11790589B1 (en) | System and method for creating avatars or animated sequences using human body features extracted from a still image | |
CN109191588B (zh) | 运动教学方法、装置、存储介质及电子设备 | |
CN112184705B (zh) | 一种基于计算机视觉技术的人体穴位识别、定位及应用系统 | |
CN107798653B (zh) | 一种图像处理的方法和一种装置 | |
Sawant et al. | Real time sign language recognition using pca | |
CN111191599A (zh) | 姿态识别方法、装置、设备及存储介质 | |
CN108304819B (zh) | 姿态识别系统及方法、存储介质 | |
CN110688929B (zh) | 一种人体骨架关节点定位方法及装置 | |
CN108073910A (zh) | 用于生成人脸特征的方法和装置 | |
CN110544301A (zh) | 一种三维人体动作重建系统、方法和动作训练系统 | |
CN106485984A (zh) | 一种钢琴的智能教学方法和装置 | |
CN109117753B (zh) | 部位识别方法、装置、终端及存储介质 | |
CN109840478B (zh) | 一种动作评估方法、装置、移动终端和可读存储介质 | |
WO2017161734A1 (zh) | 通过电视和体感配件矫正人体动作及系统 | |
CN110263768A (zh) | 一种基于深度残差网络的人脸识别方法 | |
CN110544302A (zh) | 基于多目视觉的人体动作重建系统、方法和动作训练系统 | |
CN113255522B (zh) | 基于时间一致性的个性化运动姿态估计与分析方法及系统 | |
CN105373810B (zh) | 一种用于建立动作识别模型的方法及系统 | |
CN111027403A (zh) | 手势估计方法、装置、设备及计算机可读存储介质 | |
CN109949900B (zh) | 三维脉波的显示方法、装置、计算机设备及存储介质 | |
CN110298279A (zh) | 一种肢体康复训练辅助方法及系统、介质、设备 | |
JP2017037424A (ja) | 学習装置、認識装置、学習プログラム、及び認識プログラム | |
CN112288766A (zh) | 运动评估方法、装置、系统及存储介质 | |
CN108154176A (zh) | 一种针对单一深度图像的3d人体姿态估计算法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |