CN108304819B - 姿态识别系统及方法、存储介质 - Google Patents
姿态识别系统及方法、存储介质 Download PDFInfo
- Publication number
- CN108304819B CN108304819B CN201810144922.8A CN201810144922A CN108304819B CN 108304819 B CN108304819 B CN 108304819B CN 201810144922 A CN201810144922 A CN 201810144922A CN 108304819 B CN108304819 B CN 108304819B
- Authority
- CN
- China
- Prior art keywords
- upper limb
- key points
- user
- image
- limb joint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Probability & Statistics with Applications (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明实施例提供了一种姿态识别系统及方法、存储介质,所述方法包括:获得用户上肢图像;对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类。采用所述系统及方法、存储介质,可以提高用户上肢图像中姿态识别的准确性。
Description
技术领域
本发明实施例涉及信息技术领域,尤其涉及一种姿态识别系统及方法、存储介质。
背景技术
人体行为姿态的识别,是信息技术领域,如人机交互、人工智能等领域的一个重要研究方向。
例如,在教育领域,教育效果的好坏有很多的影响因素,在影响教育效果的诸多因素中,教师的风格也是非常重要的,因此,了解教师上课的动作、姿态,进而根据教学的效果识别并确定具备好效果的动作,并进行推广,有助于提高教学质量。
现有技术中,如要对教师的上课动作进行了解,需通过学生的反馈,不仅效率低,而且结果也不客观;如利用计算机技术进行分析,则需通过接触式传感器进行检测的方式,这样会对教师的正常上课习惯产生一定的影响,从而影响分析结果。
在其他行业,存在同样或类似的如何识别人体姿态的技术需求和问题。
因此,如何提高对姿态识别的准确性,成为亟需解决的技术问题。
发明内容
本发明实施例解决的技术问题是提供一种姿态识别系统和方法、存储介质,以提高对人体姿态识别的准确性。
为解决上述问题,本发明实施例提供一种姿态识别方法,包括:
获得用户上肢图像;
对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;
根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类。
可选地,所述根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类包括:确定与所述关联上肢关节骨骼关键点对应的分类特征参数,查找与所述分类特征参数对应的用户姿态类别。
可选地,用于预先获取所述分类特征参数的上肢关节骨骼关键点数据集通过自生成方式获得。
可选地,所述自生成方式包括:
根据用户姿态类别,调整已有所述上肢关节骨骼关键点之间的距离和角度,得到对应所述用户姿态类别的上肢关节骨骼关键点数据集。
可选地,对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,包括:
对所述用户上肢图像进行处理,得到上肢关节骨骼关键点;
将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
可选地,得到所述上肢关节骨骼关键点所需要的特征参数通过对上肢图像数据集的检测获得,所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,且n为整数;
对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;
运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;
依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;
加载所述存储文件n的特征参数。
可选地,所述对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,还包括:
对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图;
所述对所述用户上肢图像进行处理,得到所述上肢关节骨骼关键点包括:对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
可选地,所述尺寸调整处理包括放大尺寸调整处理和缩小尺寸调整处理;
对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像;
对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像;
对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,包括:
对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;
对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点;
对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点;
将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点包括:将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
为解决所述问题,本发明实施例还提供一种姿态识别系统,包括:
图像获取装置,适于获得用户上肢图像;
关联关键点获取装置,适于对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;
用户姿态种类确定装置,适于根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类。
可选地,所述用户姿态种类确定装置包括:
分类特征参数确定装置,适于确定与所述关联上肢关节骨骼关键点对应的分类特征参数;
类别查找装置,适于查找与所述分类特征参数对应的用户姿态类别。
可选地,用于预先获取所述分类特征参数的上肢关节骨骼关键点数据集通过自生成方式获得。
可选地,所述自生成方式包括:
根据所述用户姿态类别的种类,调整已有所述上肢关节骨骼关键点之间的距离和相对角度,得到对应所述种类的上肢关节骨骼关键点数据集。
可选地,所述关联关键点获取装置包括:
关键点获取装置,适于对所述用户上肢图像进行处理,得到上肢关节骨骼关键点;
关联装置,适于将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
可选地,还包括关键特征参数获取装置,适于通过对上肢图像数据集的检测,获得对所述用户上肢图像进行处理,得到所述上肢关节骨骼关键点所需要的特征参数;所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,且n为整数;
所述关键特征参数获取装置适于对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;
运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;
依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;
加载所述存储文件n的特征参数。
可选地,所述关联关键点获取装置还包括:
预处理装置,适于对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图;
所述关键点获取装置,适于对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
可选地,所述预处理装置包括:
放大尺寸调整处理装置,适于对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像;
缩小尺寸调整处理装置,适于对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像;
关联骨骼关键点获取装置,包括:
放大骨骼关键点获取装置,适于对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;
缩小骨骼关键点获取装置,适于对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点;
平均骨骼关键点获取装置,适于对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点;
关联装置,适于将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
为解决所述问题,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,其特征在于,当该指令被处理器执行时可以实现如上所述的姿态识别方法。
与现有技术相比,本发明实施例的技术方案具有以下优点:
采用本发明实施例所提供的姿态识别系统及方法、存储介质,可以在工作过程中(例如课堂教育等)不断获取用户上肢图像,并对获得的用户上肢图像进行处理,获取图像中的关联上肢关节骨骼关键点,然后根据用户姿态类别对关联上肢关节骨骼关键点进行分类,得到用户上肢图像中的用户姿态种类,为后续的统计、分析、推广和应用做好准备。可以看出,本发明所提供的姿态识别系统及方法、存储介质,通过对用户上肢图像的处理,进而获得用户的关联上肢关节骨骼关键点,然后根据用户姿态类别对其进行分类,即可得出用户上肢图像中的用户姿态种类,不仅不需要用户穿戴相应的传感器以获得用户姿态,而且对图像的要求也较低,同时,在处理过程中,只需要获取出关联上肢关节骨骼关键点,无需进行感兴趣区域的提取,降低了计算量,在确定用户姿态种类时,也提高了运算的速率,降低了对于处理设备的要求。
可选方案中,自生成方式具体包括:根据用户姿态类别的种类,调整已有所述上肢关节骨骼关键点之间的距离和角度,得到对应所述种类的关联上肢关节骨骼关键点数据集,这样,就可以根据用户姿态类别中的具体种类,自行调整上肢关节骨骼关键点之间的直线距离和相对角度,得到对应具体种类的多个数据,从而形成对应某一种类的上肢关节骨骼关键点数据集,并在根据多个种类分别调整后,形成对应多个种类的上肢关节骨骼关键点数据集,有效解决了上肢关节骨骼关键点数据集获取困难、上肢关节骨骼关键点之间相对位置局限和数量有限的问题,同时也保证了对于分类特征参数获取可靠性。
可选方案中,所述上肢关节骨骼关键点检测算法检测所述上肢关节骨骼关键点所需要的特征参数通过对上肢图像数据集的检测获得,且所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,且n为整数;对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;加载所述存储文件n的特征参数。这样,一方面可以一定程度地解决数据集太大,无法加载入内存的问题,另一方面,通过运行前一存储文件的方式将对前一上肢图像数据集检测,得到的检测所述上肢关节骨骼关键点所需要的特征参数进行加载,没有将特征参数丢失,从而可以保证特征参数精度不受损失,也就是在保证特征参数精度不受损失的基础上解决了数据集过大无法加载的问题。
附图说明
图1是本发明实施例一种姿态识别方法的流程图;
图2是本发明实施例一种姿态识别方法的骨骼关键点示意图;
图3是本发明实施例另一种姿态识别方法的部分流程图;
图4是本发明实施例另一种姿态识别方法的部分流程图;
图5是本发明实施例另一种姿态识别方法的部分流程图;
图6是本发明实施例一种姿态识别系统的结构示意图;
图7是本发明实施例另一种姿态识别系统的部分结构示意图;
图8是本发明实施例另一种姿态识别系统的部分结构示意图;
图9是本发明实施例另一种姿态识别系统的部分结构示意图。
具体实施方式
由背景技术可知,现有技术的姿态识别方法及系统,不能准确地识别人体姿态。例如教师的上课姿态,进而也难以分析教师姿态对教学质量的影响。
为了能够提高人体姿态识别的准确性,本发明提供了一种姿态识别系统和方法、存储介质,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1是本发明实施例中一种姿态识别方法的流程图。
如图1所示,本发明实施例的姿态识别方法可以包括以下步骤:
步骤S11:获得用户上肢图像。
获得用户上肢图像,可以为后续的关联上肢关节骨骼关键点的获取以及用户上肢图像中的用户姿态种类的获取提供初始材料。
具体获取用户上肢图像的装置可以是安装于用户端的设备(比如手机、电脑等)上的摄像头。
在一种具体应用场景中,比如上课时,此步骤随着课程的开启而开启,并实时获取用户上肢图像;而上课教师仅需要正常上课,不需要其穿戴相应的传感器,降低了对教师的干扰,提高了数据获取的准确度。
具体获得频率可以根据需要设定,比如1秒/次,具体可以选择2秒/次至0.5秒/次之间的频率,在该频率范围内采集,不仅能够满足获取用户姿态种类的需要,而且图像数量适中,降低在姿态识别系统的运算量,当然,其他采集频率或者可变的采集频率,只要能够保证分析需要,都是可以的。
在本发明实施例中,只要能够获得用户上肢图像即可满足识别要求,当然获得的图像也可以不仅仅包含上肢图像,还包含其他部位的图像,比如面部、腿部等都是可以的,包含身体其他部分的图像,可以对姿态的识别起到一定的辅助作用,同时如有需要,可以确定用户身体其他部位的姿态。
步骤S12:对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点。
在得到用户上肢图像后,对其进行处理,获取关联上肢关节骨骼关键点,即对多个上肢关节骨骼关键点建立相互之间的联系,不再是割裂的单个点,为后续的姿态种类确定做准备。
在一种具体实施例中,关联上肢关节骨骼关键点可以是按照确定顺序依次排列的上肢关节骨骼关键点向量;在另一具体实施例中,关联上肢关节骨骼关键点可以是基于躯干特征而关联起来的。
图2是本发明实施例一种姿态识别方法的骨骼关键点示意图。
如图中所示,在一种具体实施例中,上肢关节骨骼关键点包括右肩骨骼关键点0、右肘骨骼关键点3、右腕上肢关节骨骼关键点4、左肩骨骼关键点2、左肘骨骼关键点5和左腕骨骼关键点6。
在另一种具体实施例中,对图像(包含除用户上肢以外的其他部位)进行处理,除获得上肢关节骨骼关键点以外,还获得面部骨骼关键点,包括右耳骨骼关键点9、右眼骨骼关键点8、鼻子骨骼关键点7、左眼骨骼关键点10、左耳骨骼关键点15以及颈部骨骼关键点1中的至少一个骨骼关键点,用以辅助确定用户的朝向(正面面对用户上肢图像获取装置、侧面面对用户上肢图像获取装置或者背面面对用户上肢图像获取装置),从而提高对用户姿态判断的准确性。
步骤S13:根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类。
得到关联上肢关节骨骼关键点后,根据用户姿态类别对其进行分类,确定该图像中的用户姿态种类。当然,用户姿态类别中所涵盖的关联上肢关节骨骼关键点的格式与经过图像处理所得到的关联上肢关节骨骼关键点的格式一致,比如都是前述的按照相同顺序依次排列的上肢关节骨骼关键点向量。
具体用户姿态类别的种类可以有:举手、挥手、指向某一处、手摊开、手垂直下方等等,可以根据需要进行设置。
其中,根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类包括:确定与所述关联上肢关节骨骼关键点对应的分类特征参数,查找与所述分类特征参数对应的用户姿态类别。
在一种具体实施方式中,确定与所述关联上肢关节骨骼关键点对应的分类特征参数所使用的算法为卷积神经网络算法,查找与所述分类特征参数对应的用户姿态类别,所使用的算法为随机森林算法、SVM、XGBoost算法等任何一种能够实现目的的算法。
分类所使用的算法在建立完成后,需通过大量上肢关节骨骼关键点的数据来获取分类特征参数,该分类特征参数可以帮助确定何种状态可以定义为用户姿态类别中的一种具体种类。
在具体实现时,用于预先获取分类特征参数的上肢关节骨骼关键点数据集可以通过自生成方式获得。
也就是说,上肢关节骨骼关键点数据集是通过自生成的方式获得,但上肢关节骨骼关键点数据集是用于获取分类特征参数的,且分类特征参数是在具体识别姿态前预先获得的。
现阶段,并没有大量的上肢关节骨骼关键点的数据,考虑到人体在不同姿态时各关键点之间具有相对的位置关系,为了弥补上肢关节骨骼关键点数据不足的问题,可以在得到少量上肢关节骨骼关键点后,通过自行生成的方式获取更多的上肢关节骨骼关键点数据,以满足对获取分类特征参数的需要。也就是根据所述用户姿态类别,调整已有所述上肢关节骨骼关键点之间的距离和角度,得到对应所述用户姿态类别的关联上肢关节骨骼关键点数据集。
请结合参考图2,为了获得左手“举手”这一用户姿态类别的关联上肢关节骨骼关键点数据集,此时,使右上肢的骨骼关键点处于“非举手”的状态,即调整右肩骨骼关键点0、右肘骨骼关键点3和右腕上肢关节骨骼关键点4的位置,使其处于“非举手”状态;并调整左肩骨骼关键点2、左肘骨骼关键点5和左腕骨骼关键点6的位置关系,即调整相互之间的距离和角度关系,使左手处于不同的“举手”状态,构建起左手“举手”这一姿态的上肢关节骨骼关键点数据集,以满足对左手“举手”这一姿态类别识别所需要的分类特征参数的获取要求。
在调整不同上肢关节骨骼关键点时可以采用固定一个上肢关节骨骼关键点,调整另外的上肢关节骨骼关键点的方式,比如:可以固定左肩骨骼关键点2,调整左肘骨骼关键点5和左腕骨骼关键点6的位置和角度,获得一系列的上肢关节骨骼关键点。
根据所需要的用户姿态类别中的具体种类,通过自行调整上肢关节骨骼关键点的直线距离和相对角度,得到对应具体种类的多个数据,从而形成对应某一种类的上肢关节骨骼关键点数据集,进而形成对应多个种类的上肢关节骨骼关键点数据集,有效解决了上肢关节骨骼关键点数据集获取困难、上肢关节骨骼关键点之间相对位置局限和数量有限的问题,同时也保证了对于分类特征参数获取的可靠性。
具体实现了用户图片中的姿态识别后,可以对所识别的姿态种类进行统计分析,如应用于教育场景,则可以对应学生的反馈以及教学成果,确定效果较好的姿态进行推广,进而提高教学质量。
本发明所提供的姿态识别方法,通过对用户上肢图像的处理,进而获得用户的关联上肢关节骨骼关键点,然后根据用户姿态类别对其进行分类,即可得出用户上肢图像中的用户姿态种类,不仅不需要用户穿戴相应的传感器以获得用户姿态,而且对图像的要求也较低,同时,在处理过程中,只需要获取出关联上肢关节骨骼关键点,无需进行感兴趣区域的提取,降低了计算量,在确定用户姿态种类时,只需要对关联上肢关键点进行分类,也提高了运算的速率,降低了对于处理设备的要求。
关联上肢关节骨骼关键点的获取有多种实现方式,在此进行详细说明,其他步骤与前述方法类似,在此不再赘述。
请参考图3-5,图3是本发明实施例另一种姿态识别方法的部分流程图;图4是本发明实施例另一种姿态识别方法的部分流程图;图5是本发明实施例另一种姿态识别方法的部分流程图。
如图3所示,本发明所提供的姿态识别方法,对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点具体包括以下步骤:
步骤S221:对所述用户上肢图像进行处理,得到上肢关节骨骼关键点。
当获得用户上肢图像后,首先获得上肢关节骨骼关键点,在一种具体实施方式中包括检测所述用户上肢图像中的特征参数,根据所述特征参数得到上肢关节骨骼关键点。
具体地,可以利用上肢关节骨骼关键点检测算法进行获取,所述的上肢关节骨骼关键点检测算法为一种深度学习算法,也需要大量的上肢图像数据来获取确定用户上肢图像中的上肢关节骨骼关键点的特征参数,以在得到一张用户上肢图像时,能够提取出所需要的上肢关节骨骼关键点。
在一实施例中,检测所述上肢关节骨骼关键点所需要的特征参数通过对上肢图像数据集的检测获得,且所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,n为整数;对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;加载所述存储文件n的特征参数。
上肢图像数据集1、上肢图像数据集2……上肢图像数据集n中均包含有上肢图像,但其中的上肢图像有所不同,以满足特征参数获取的需要。
这样,一方面可以一定程度地解决数据集太大,无法加载入内存的问题,另一方面,通过运行前一存储文件的方式将对前一上肢图像数据集检测,得到的检测所述上肢关节骨骼关键点所需要的特征参数加载,没有将特征参数丢失,从而可以保证特征参数精度不受损失,也就是在保证特征参数精度不受损失的基础上解决了数据集过大无法加载的问题。
在得到上肢关节骨骼关键点后,再执行步骤S222:将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
具体地,可以将上肢关节骨骼关键点按照确定顺序依次排列,以实现关联,这种方法比较简单,且不需要其他的数据,运算量较小;还可以将上肢关节骨骼关键点对应到躯干特征,以实现关联,这就需要在图像处理时,同时获得躯干特征。
如图4所示,本发明所提供的姿态识别方中,对所述用户上肢图像进行处理,得到上肢关节骨骼关键点,还包括:
步骤S3211:对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图。
尺寸调整处理,就是对用户上肢图像的尺寸大小进行处理,具体可以包括放大尺寸调整(比如:1.5倍、2倍)、缩小尺寸调整(比如:0.5倍)和保持原有尺寸(1倍)三者中的至少一者,如果进行了多个尺寸调整处理,则需要对多个尺寸调整处理后的图像进行选择或者平均处理,得到后续处理所需要的图像;而去均值处理是指计算图像三通道的向量均值,并将其去除,得到去均值后的图像,去均值处理能使图像处理的精度更高、收敛更快、准确率也更高,改善后续上肢关节骨骼关键点检测的检测效果。
在进行图像预处理时,在一实施例中,可以同时进行尺寸调整处理和去均值处理;在其他实施例中,可以仅进行其中的一种处理。
步骤S3212:对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
具体地,根据所述预处理图进行检测,得到上肢关节骨骼关键点,为后续的关联上肢关节骨骼关键点的获取做好准备。
所述检测过程可以利用前述上肢骨骼关键点检测算法来实现。
经过图像预处理,提高了上肢关节骨骼关键点检测的准确性,也提高了最终获得的用户姿态的准确性。
在一种具体实施例中,如图5所示,尺寸调整处理包括放大尺寸调整处理和缩小尺寸调整处理,具体包括:
步骤S42111:对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像。
对图像进行放大尺寸调整,特别是对于用户在图像中占比很小的情况,通过放大尺寸调整处理,可以得到较大的用户上肢图像,从而提高检测上肢关节骨骼关键点的准确率。
步骤S42121:对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;
得到放大尺寸图像后,可以利用上肢骨骼点检测算法,从放大尺寸图像中检测得到放大上肢关节骨骼关键点,在一种具体实施例中,放大上肢关节骨骼关键点可以以放大上肢关节骨骼关键点热度图的方式呈现。
步骤S42112:对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像;
对图像进行缩小尺寸调整,尤其是对用户在图像中占比很大的情况,通过缩小尺寸调整处理,可以得到较小的用户上肢图像,提高检测上肢关节骨骼关键点的准确率。
步骤S42122:对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点。
得到缩小尺寸图像后,可以利用上肢骨骼点检测算法,从缩小尺寸图像中检测得到缩小上肢关节骨骼关键点,在一种具体实施例中,缩小上肢关节骨骼关键点可以以缩小上肢关节骨骼关键点热度图的方式呈现。
步骤S42123:对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点。
将放大上肢关节骨骼关键点和缩小上肢关节骨骼关键点进行叠加和取平均处理,进而得到平均上肢关节骨骼关键点。
在一种具体实施方式中,将放大上肢关节骨骼关键点热度图和缩小上肢关节骨骼关键点热度图进行叠加和取平均处理,得到平均上肢关节骨骼关键点热度图,进而得到平均上肢关节骨骼关键点。
步骤S422:将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
通过进行图像多尺寸预处理(放大、缩小)以及从多尺寸预处理后的图像中检测的得到放大上肢关节骨骼关键点和缩小上肢关节骨骼关键点,再进行叠加平均,得到平均上肢关节骨骼关键点,并将平均骨骼关键点关联,可以大大降低仅用一个尺寸的图像且仅进行一次上肢关节骨骼关键点的检测所带来的偏差,提高了检测的准确性,进而提高了图像中姿态识别的准确性。
请参考图6,图6是本发明实施例一种姿态识别系统的结构示意图。
为了能够提高教师姿态识别的准确性,除前述姿态识别方法,本发明还提供一种姿态识别系统,包括:图像获取装置11,适于获得用户上肢图像;关联关键点获取装置12,适于对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;用户姿态种类确定装置13,适于根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类。
获得用户上肢图像,为后续的关联上肢关节骨骼关键点的获取以及用户上肢图像中的用户姿态种类的获取提供初始材料,具体图像获取装置11可以是安装于用户端的设备(比如手机、电脑等)上的摄像头,图像获取装置11随着课程的开启而开启,并实时获取用户上肢图像;上课教师仅需要正常上课,不需要其穿戴相应的传感器,降低了对教师的干扰,提高了数据获取的准确定。
具体获得频率可以根据需要设定,比如1秒/次,具体可以选择2秒/次至0.5秒/次之间的频率,在该频率范围内采集,不仅能够满足获取用户姿态种类的需要,而且图像数量适中,降低在姿态识别系统的运算量,当然,其他采集频率或者可变的采集频率,只要能够保证分析需要,都是可以的。
在本发明实施例中,图像获取装置11只要能够获得用户上肢图像即可满足识别要求,当然如果获得的图像不仅仅包含上肢图像,还包含其他部位的图像,比如面部、腿部等都是可以的,包含身体其他部分的图像,可以对姿态的识别起到一定的辅助作用,同时如有需要,可以确定用户身体其他部位的姿态。
在得到用户上肢图像后,对其进行处理,关联关键点获取装置12获取关联上肢关节骨骼关键点,即对多个上肢关节骨骼关键点建立相互之间的联系,不再是割裂的单个点,为后续的姿态种类确定做准备。
在一种具体实施例中,关联上肢关节骨骼关键点可以是按照确定顺序依次排列的上肢关节骨骼关键点向量;在另一具体实施例中,关联上肢关节骨骼关键点可以是基于躯干特征而关联起来的。
具体地,请参考图2,上肢关节骨骼关键点包括右肩骨骼关键点0、右肘骨骼关键点3、右腕上肢关节骨骼关键点4、左肩骨骼关键点2、左肘骨骼关键点5和左腕骨骼关键点6。
同时,关联关键点获取装置12对图像(包含除用户上肢以外的其他部位)进行处理,除获得上肢关节骨骼关键点以外,还获得右耳骨骼关键点9、右眼骨骼关键点8、鼻子骨骼关键点7、左眼骨骼关键点10、左耳骨骼关键点15以及颈部骨骼关键点1中的至少一个骨骼关键点,用以辅助确定用户的朝向(正面面对用户上肢图像获取装置、侧面面对用户上肢图像获取装置或者背面面对用户上肢图像获取装置),从而提高对用户姿态判断的准确性。
得到关联上肢关节骨骼关键点后,用户姿态种类确定装置13根据用户姿态类别对其进行分类,确定该图像中的用户姿态种类,当然,用户姿态类别中所涵盖的关联上肢关节骨骼关键点的格式与经过图像处理所得到的关联上肢关节骨骼关键点的格式一致,比如都是前述的按照定顺序依次排列的上肢关节骨骼关键点向量。
具体用户姿态类别的种类可以有:举手、挥手、指向某一处、手摊开、手垂直下方等等,可以根据需要进行设置。
当然,用户姿态种类确定装置13可以包括分类特征参数确定装置,适于确定与所述关联上肢关节骨骼关键点对应的分类特征参数;类别查找装置,适于查找与所述分类特征参数对应的用户姿态类别,而用于预先获取所述分类特征参数的上肢关节骨骼关键点数据集通过自生成方式获得。
在一种具体实施方式中,分类特征参数确定装置所使用的算法为卷积神经网络算法,类别查找装置所使用的算法为随机森林算法、SVM、XGBoost算法等任何一种能够实现目标的算法。
分类所使用的算法在建立完成后,需通过大量上肢关节骨骼关键点的数据来获取分类特征参数,该分类特征参数可以帮助确定何种状态可以定义为用户姿态类别中的一种具体种类。而现阶段,并没有大量的上肢关节骨骼关键点的数据,考虑到人体在不同姿态时各关键点之间具有相对的位置关系,为了弥补上肢关节骨骼关键点数据不足的问题,可以在得到少量上肢关节骨骼关键点后,通过自行生成的方式获取更多的上肢关节骨骼关键点数据,以满足对获取分类特征参数的需要。也就是根据所述用户姿态类别,调整已有所述上肢关节骨骼关键点之间的距离和角度,得到对应所述用户姿态类别的关联上肢关节骨骼关键点数据集。
请结合参考图2,为了获得左手“举手”这一用户姿态类别的关联上肢关节骨骼关键点数据集,此时,使右上肢的骨骼关键点处于“非举手”的状态,即调整右肩骨骼关键点0、右肘骨骼关键点3和右腕上肢关节骨骼关键点4的位置,使其处于“非举手”状态;并调整左肩骨骼关键点2、左肘骨骼关键点5和左腕骨骼关键点6的位置关系,即调整相互之间的距离和角度关系,使左手处于不同的“举手”状态,构建起左手“举手”这一姿态的上肢关节骨骼关键点数据集,以满足对左手“举手”这一姿态类别的识别所需要的分类特征参数的获取要求。
在调整不同上肢关节骨骼关键点时可以采用固定一个上肢关节骨骼关键点,调整另外的上肢关节骨骼关键点的方式,比如:可以固定左肩骨骼关键点2,调整左肘骨骼关键点5和左腕骨骼关键点6的位置和角度,获得一系列的上肢关节骨骼关键点。
根据所需要的用户姿态类别中的具体种类,通过自行调整上肢关节骨骼关键点的直线距离和相对角度,得到对应具体种类的多个数据,从而形成对应某一种类的上肢关节骨骼关键点数据集,进而形成对应多个种类的上肢关节骨骼关键点数据集,有效解决了上肢关节骨骼关键点数据集获取困难、上肢关节骨骼关键点之间相对位置局限和数量有限的问题,同时也保证了对于分类特征参数获取可靠性
本发明所提供的姿态识别系统,通过对用户上肢图像的处理,进而获得用户的关联上肢关节骨骼关键点,然后根据用户姿态类别对其进行分类,即可得出用户上肢图像中的用户姿态种类,不仅不需要用户穿戴相应的传感器以获得用户姿态,而且对图像的要求也较低,同时,在处理过程中,只需要获取出关联上肢关节骨骼关键点,无需进行感兴趣区域的提取,降低了计算量,在确定用户姿态种类时,只需要对关联上肢关键点进行分类,也提高了运算的速率,降低了对于处理设备的要求。
请参考图7,图7是本发明实施例另一种姿态识别系统的部分结构示意图。
在一种实施例中,本发明所提供的姿态识别系统的关联关键点获取装置包括:关键点获取装置221,适于利用上肢关节骨骼关键点检测算法对所述用户上肢图像进行处理,得到上肢关节骨骼关键点;关联装置222,适于将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
当图像获取装置获得用户上肢图像后,关键点获取装置221首先获得上肢关节骨骼关键点,在一种具体实施方式中利用上肢关节骨骼关键点检测算法进行获取,所述的上肢关节骨骼关键点检测算法为一种深度学习算法,也需要大量的上肢图像数据来获取确定用户上肢图像中的上肢关节骨骼关键点的特征参数,以在得到一张用户上肢图像时,能够提取出所需要的上肢关节骨骼关键点。
在一实施例中,
还包括关键特征参数获取装置,适于通过对上肢图像数据集的检测,获得对所述用户上肢图像进行处理,得到所述上肢关节骨骼关键点所需要的特征参数;,所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,n为整数;对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;运行所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;依此类推,运行所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;加载所述存储文件n的特征参数。
上肢图像数据集1、上肢图像数据集2……上肢图像数据集n中均包含有上肢图像,但其中的上肢图像有所不同,以满足特征参数获取的需要。
这样,一方面可以一定程度地解决数据集太大,无法加载入内存的问题,另一方面,通过运行前一存储文件的方式将对前一上肢图像数据集检测,得到的检测所述上肢关节骨骼关键点所需要的特征参数加载,没有将特征参数丢失,从而可以保证特征参数精度不受损失,也就是在保证特征参数精度不受损失的基础上解决了数据集过大无法加载的问题。
得到上肢关节骨骼关键点后,关联装置222将上肢关节骨骼关键点关联起来,得到关联上肢关节骨骼关键点。
具体地,可以为将上肢关节骨骼关键点按照确定顺序依次排列,这种方法比较简单,且不需要其他的数据,运算量较小;还可以为将上肢关节骨骼关键点对应到躯干特征,这就需要在图像处理时,同时获得躯干特征。
请参考图8,图8是本发明实施例另一种姿态识别系统的部分结构示意图。
在另一种实施例中,本发明所提供的姿态识别系统的关联关键点获取装置还包括:预处理装置3211,适于对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图;关键点获取装置3212,适于利用上肢骨骼点检测算法对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
尺寸调整处理,就是对用户上肢图像的尺寸大小进行处理,具体可以包括放大尺寸调整(比如:1.5倍、2倍)、缩小尺寸调整(比如:0.5倍)和保持原有尺寸(1倍)三者中的至少一者,如果进行了多个尺寸调整处理,则需要对多个尺寸调整处理后的图像进行选择或者平均处理,得到后续处理所需要的图像;而去均值处理是指计算图像三通道的向量均值,并将其去除,得到去均值后的图像,去均值处理能使图像处理的精度更高、收敛更快、准确率也更高,改善后续上肢关节骨骼关键点检测的检测效果。
在进行图像预处理时,在一实施例中,可以同时进行尺寸调整处理和去均值处理;在其他实施例中,可以仅进行其中的一种处理。
将预处理图输入至关键点获取装置3212,利用上肢骨骼点检测算法进行检测,得到上肢关节骨骼关键点,为后续的关联上肢关节骨骼关键点的获取做好准备。
经过图像预处理,提高了上肢关节骨骼关键点检测的准确性,也提高了最终获得的用户姿态的准确性。
如图9所示,图9是本发明实施例另一种姿态识别系统的部分结构示意图.
在另一种实施例中,本发明所提供的姿态识别系统的预处理装置包括:放大尺寸调整处理装置42111,适于对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像;缩小尺寸调整处理装置42112,适于对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像。
关联骨骼关键点获取装置包括:放大骨骼关键点获取装置42121,适于利用上肢骨骼点检测算法对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;缩小骨骼关键点获取装置42122,适于利用上肢骨骼点检测算法对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点;平均骨骼关键点获取装置42123,适于对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点。
在一种具体实施例中,放大上肢关节骨骼关键点可以以放大上肢关节骨骼关键点热度图的方式呈现,缩小上肢关节骨骼关键点可以以缩小上肢关节骨骼关键点热度图的方式呈现,平均骨骼关键点获取装置42123将放大上肢关节骨骼关键点热度图和缩小上肢关节骨骼关键点热度图进行叠加和取平均处理,得到平均上肢关节骨骼关键点热度图,进而得到平均上肢关节骨骼关键点
关联装置422,适于将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
放大尺寸调整处理装置42111对图像进行放大尺寸调整,特别是对于用户在图像中占比很小的情况,通过放大尺寸调整处理,可以得到较大的用户上肢图像,提高检测上肢关节骨骼关键点的准确率。
缩小尺寸调整处理装置42112对图像进行缩小尺寸调整,尤其是对用户在图像中占比很大的情况,通过缩小尺寸调整处理,可以得到较小的用户上肢图像,提高检测上肢关节骨骼关键点的准确率。
放大骨骼关键点获取装置42121得到放大尺寸图像后,利用上肢骨骼点检测算法,从放大尺寸图像中检测得到放大上肢关节骨骼关键点。
缩小骨骼关键点获取装置42122得到缩小尺寸图像后,利用上肢骨骼点检测算法,从缩小尺寸图像中检测得到缩小上肢关节骨骼关键点。
平均骨骼关键点获取装置42123将放大上肢关节骨骼关键点和缩小上肢关节骨骼关键点进行叠加和取平均处理,进而得到平均上肢关节骨骼关键点。
然后,利用关联装置422将平均上肢关节骨骼关键点关联起来,得到关联上肢关节骨骼关键点,最终再通过用户姿态种类确定装置得到用户姿态的种类。
通过进行图像多尺寸预处理(放大、缩小)以及从多尺寸预处理后的图像中检测的得到放大上肢关节骨骼关键点和缩小上肢关节骨骼关键点,再进行叠加平均,得到平均上肢关节骨骼关键点,并将平均骨骼关键点关联,可以大大降低仅用一个尺寸的图像且仅进行一次上肢关节骨骼关键点的检测所带来的偏差,提高了检测的准确性,进而提高了图像中姿态识别的准确性。
本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,当该指令被处理器执行时可以实现如前述的姿态识别方法。保证了通过对用户上肢图像的处理,获得用户的关联上肢关节骨骼关键点,然后根据用户姿态类别对其进行分类,得出用户上肢图像中的用户姿态种类,不需要用户穿戴相应的传感器以获得用户姿态,对图像的要求也较低,同时,在处理过程中,只需要获取出关联上肢关节骨骼关键点,无需进行感兴趣区域的提取,降低了计算量,在确定用户姿态种类时,也提高了运算的速率,降低了对于处理设备的要求。
上述本发明的实施方式是本发明的元件和特征的组合。除非另外提及,否则所述元件或特征可被视为选择性的。各个元件或特征可在不与其它元件或特征组合的情况下实践。另外,本发明的实施方式可通过组合部分元件和/或特征来构造。本发明的实施方式中所描述的操作顺序可重新排列。任一实施方式的一些构造可被包括在另一实施方式中,并且可用另一实施方式的对应构造代替。对于本领域技术人员而言明显的是,所附权利要求中彼此没有明确引用关系的权利要求可组合成本发明的实施方式,或者可在提交本申请之后的修改中作为新的权利要求包括。
本发明的实施方式可通过例如硬件、固件、软件或其组合的各种手段来实现。在硬件配置方式中,根据本发明示例性实施方式的方法可通过一个或更多个专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理器件(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器等来实现。
在固件或软件配置方式中,本发明的实施方式可以模块、过程、功能等形式实现。软件代码可存储在存储器单元中并由处理器执行。存储器单元位于处理器的内部或外部,并可经由各种己知手段向处理器发送数据以及从处理器接收数据。
对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其他实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是符合与本文所公开的原理和新颖特点相一致的最宽的范围。
虽然本发明实施例披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。
Claims (13)
1.一种姿态识别方法,其特征在于,包括:
获得用户上肢图像;
对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;
根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类;
其中,对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,包括:
对所述用户上肢图像进行处理,得到上肢关节骨骼关键点;
将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点;
得到所述上肢关节骨骼关键点所需要的特征参数通过对上肢图像数据集的检测获得,所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,且n为整数;
对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;
运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;
依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;
加载所述存储文件n的特征参数。
2.如权利要求1所述的姿态识别方法,其特征在于,所述根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类包括:确定与所述关联上肢关节骨骼关键点对应的分类特征参数,查找与所述分类特征参数对应的用户姿态类别。
3.如权利要求2所述的姿态识别方法,其特征在于,用于预先获取所述分类特征参数的上肢关节骨骼关键点数据集通过自生成方式获得。
4.如权利要求3所述的姿态识别方法,其特征在于,所述自生成方式包括:
根据用户姿态类别,调整已有所述上肢关节骨骼关键点之间的距离和角度,得到对应所述用户姿态类别的上肢关节骨骼关键点数据集。
5.如权利要求1-4任一项所述的姿态识别方法,其特征在于,所述对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,还包括:
对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图;
所述对所述用户上肢图像进行处理,得到所述上肢关节骨骼关键点包括:对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
6.如权利要求5所述的姿态识别方法,其特征在于,所述尺寸调整处理包括放大尺寸调整处理和缩小尺寸调整处理;
对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像;
对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像;
对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,包括:
对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;
对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点;
对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点;
将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点包括:将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
7.一种姿态识别系统,其特征在于,包括:
图像获取装置,适于获得用户上肢图像;
关联关键点获取装置,适于对所述用户上肢图像进行处理,获得关联上肢关节骨骼关键点;
用户姿态种类确定装置,适于根据用户姿态类别对所述关联上肢关节骨骼关键点进行分类,得到所述用户上肢图像中的用户姿态种类,其中,所述关联关键点获取装置,适于对所述用户上肢图像进行处理,得到关联上肢关节骨骼关键点,包括:
对所述用户上肢图像进行处理,得到上肢关节骨骼关键点;
将所述上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点;
得到所述上肢关节骨骼关键点所需要的特征参数通过对上肢图像数据集的检测获得,所述上肢图像数据集包括上肢图像数据集1、上肢图像数据集2……上肢图像数据集n,n≥2,且n为整数;
对所述上肢图像数据集1进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件1;
运行并加载所述存储文件1,对所述上肢图像数据集2进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件2;
依此类推,运行并加载所述存储文件n-1,对所述上肢图像数据集n进行检测,得到存储检测所述上肢关节骨骼关键点所需要的特征参数的存储文件n;
加载所述存储文件n的特征参数。
8.如权利要求7所述的姿态识别系统,其特征在于,所述用户姿态种类确定装置包括:
分类特征参数确定装置,适于确定与所述关联上肢关节骨骼关键点对应的分类特征参数;
类别查找装置,适于查找与所述分类特征参数对应的用户姿态类别。
9.如权利要求8所述的姿态识别系统,其特征在于,用于预先获取所述分类特征参数的上肢关节骨骼关键点数据集通过自生成方式获得。
10.如权利要求9所述的姿态识别系统,其特征在于,所述自生成方式包括:
根据所述用户姿态类别的种类,调整已有所述上肢关节骨骼关键点之间的距离和相对角度,得到对应所述种类的上肢关节骨骼关键点数据集。
11.如权利要求7-10任一项所述的姿态识别系统,其特征在于,所述关联关键点获取装置还包括:
预处理装置,适于对所述用户上肢图像进行尺寸调整处理和去均值处理二者中的至少一者图像预处理,得到预处理图;
所述关键点获取装置,适于对所述预处理图进行处理,得到所述上肢关节骨骼关键点。
12.如权利要求11所述的姿态识别系统,其特征在于,所述预处理装置包括:
放大尺寸调整处理装置,适于对所述用户上肢图像进行放大尺寸调整处理得到放大尺寸图像;
缩小尺寸调整处理装置,适于对所述用户上肢图像进行缩小尺寸调整处理得到缩小尺寸图像;
关联骨骼关键点获取装置,包括:
放大骨骼关键点获取装置,适于对所述放大尺寸图像进行处理,得到放大上肢关节骨骼关键点;
缩小骨骼关键点获取装置,适于对所述缩小尺寸图像进行处理,得到缩小上肢关节骨骼关键点;
平均骨骼关键点获取装置,适于对所述放大上肢关节骨骼关键点和所述缩小上肢关节骨骼关键点进行叠加平均处理,得到平均上肢关节骨骼关键点;
关联装置,适于将所述平均上肢关节骨骼关键点关联起来,得到所述关联上肢关节骨骼关键点。
13.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,其特征在于,当该指令被处理器执行时可以实现如上权利要求1-6任一项所述的姿态识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810144922.8A CN108304819B (zh) | 2018-02-12 | 2018-02-12 | 姿态识别系统及方法、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810144922.8A CN108304819B (zh) | 2018-02-12 | 2018-02-12 | 姿态识别系统及方法、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108304819A CN108304819A (zh) | 2018-07-20 |
CN108304819B true CN108304819B (zh) | 2021-02-02 |
Family
ID=62865239
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810144922.8A Active CN108304819B (zh) | 2018-02-12 | 2018-02-12 | 姿态识别系统及方法、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108304819B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110765814B (zh) * | 2018-07-26 | 2023-07-14 | 杭州海康威视数字技术股份有限公司 | 一种黑板书写行为识别方法、装置及摄像机 |
CN110858277A (zh) * | 2018-08-22 | 2020-03-03 | 阿里巴巴集团控股有限公司 | 一种获得姿态分类模型的方法以及装置 |
CN111104816B (zh) * | 2018-10-25 | 2023-11-03 | 杭州海康威视数字技术股份有限公司 | 一种目标物的姿态识别方法、装置及摄像机 |
CN111382624B (zh) * | 2018-12-28 | 2023-08-11 | 杭州海康威视数字技术股份有限公司 | 动作识别方法、装置、设备及可读存储介质 |
CN110399822A (zh) * | 2019-07-17 | 2019-11-01 | 思百达物联网科技(北京)有限公司 | 基于深度学习的举手动作识别方法、装置及存储介质 |
CN110555798B (zh) * | 2019-08-26 | 2023-10-17 | 北京字节跳动网络技术有限公司 | 图像变形方法、装置、电子设备及计算机可读存储介质 |
CN111160367B (zh) * | 2019-12-23 | 2024-03-01 | 上海联影智能医疗科技有限公司 | 图像分类方法、装置、计算机设备和可读存储介质 |
CN111680562A (zh) * | 2020-05-09 | 2020-09-18 | 北京中广上洋科技股份有限公司 | 一种基于骨骼关键点的人体姿态识别方法、装置、存储介质及终端 |
CN112674759B (zh) * | 2020-12-21 | 2022-04-01 | 西南交通大学 | 一种婴儿站立状态识别方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105069423A (zh) * | 2015-07-29 | 2015-11-18 | 北京格灵深瞳信息技术有限公司 | 一种人体姿态检测方法及装置 |
CN105069413A (zh) * | 2015-07-27 | 2015-11-18 | 电子科技大学 | 一种基于深度卷积神经网络的人体姿势识别方法 |
CN106056053A (zh) * | 2016-05-23 | 2016-10-26 | 西安电子科技大学 | 基于骨骼特征点提取的人体姿势识别方法 |
CN107038430A (zh) * | 2017-05-05 | 2017-08-11 | 成都通甲优博科技有限责任公司 | 一种构造人体姿态数据样本的方法及其装置 |
CN107301370A (zh) * | 2017-05-08 | 2017-10-27 | 上海大学 | 一种基于Kinect三维骨架模型的肢体动作识别方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2674913B1 (en) * | 2012-06-14 | 2014-07-23 | Softkinetic Software | Three-dimensional object modelling fitting & tracking. |
TWI488071B (zh) * | 2013-08-30 | 2015-06-11 | Nat Univ Tsing Hua | 非接觸式三度空間人體資料擷取系統及方法 |
-
2018
- 2018-02-12 CN CN201810144922.8A patent/CN108304819B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105069413A (zh) * | 2015-07-27 | 2015-11-18 | 电子科技大学 | 一种基于深度卷积神经网络的人体姿势识别方法 |
CN105069423A (zh) * | 2015-07-29 | 2015-11-18 | 北京格灵深瞳信息技术有限公司 | 一种人体姿态检测方法及装置 |
CN106056053A (zh) * | 2016-05-23 | 2016-10-26 | 西安电子科技大学 | 基于骨骼特征点提取的人体姿势识别方法 |
CN107038430A (zh) * | 2017-05-05 | 2017-08-11 | 成都通甲优博科技有限责任公司 | 一种构造人体姿态数据样本的方法及其装置 |
CN107301370A (zh) * | 2017-05-08 | 2017-10-27 | 上海大学 | 一种基于Kinect三维骨架模型的肢体动作识别方法 |
Non-Patent Citations (2)
Title |
---|
Human posture recognition based on skeleton data;Kan Chen et al.;《2015 IEEE International Conference on Progress in Informatics and Computing (PIC)》;20151220;618-622 * |
基于随机森林的人脸关键点精确定位方法;王丽婷 等;《清华大学学报(自然科学版)》;20090415;第49卷(第4期);543-546 * |
Also Published As
Publication number | Publication date |
---|---|
CN108304819A (zh) | 2018-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108304819B (zh) | 姿态识别系统及方法、存储介质 | |
Islam et al. | Real time hand gesture recognition using different algorithms based on American sign language | |
Ahmed et al. | Vision based hand gesture recognition using dynamic time warping for Indian sign language | |
WO2019128508A1 (zh) | 图像处理方法、装置、存储介质及电子设备 | |
Shreve et al. | Macro-and micro-expression spotting in long videos using spatio-temporal strain | |
WO2018028546A1 (zh) | 一种关键点的定位方法及终端、计算机存储介质 | |
CN112241731B (zh) | 一种姿态确定方法、装置、设备及存储介质 | |
CN110688929B (zh) | 一种人体骨架关节点定位方法及装置 | |
US8638987B2 (en) | Image-based hand detection apparatus and method | |
Oprisescu et al. | Automatic static hand gesture recognition using tof cameras | |
CN106295566A (zh) | 人脸表情识别方法及装置 | |
KR102005150B1 (ko) | 머신 러닝을 이용한 얼굴 표정 인식 시스템 및 방법 | |
Manigandan et al. | Wireless vision based mobile robot control using hand gesture recognition through perceptual color space | |
CN109960962B (zh) | 图像识别方法、装置、电子设备以及可读存储介质 | |
JP2012155391A (ja) | 姿勢状態推定装置および姿勢状態推定方法 | |
CN104914989B (zh) | 姿势辨识装置以及姿势辨识装置的控制方法 | |
CN112633196A (zh) | 人体姿态检测方法、装置和计算机设备 | |
CN106326860A (zh) | 基于视觉的手势识别方法 | |
CN104281839A (zh) | 一种人体姿势识别方法和装置 | |
CN110796101A (zh) | 一种嵌入式平台的人脸识别方法及系统 | |
WO2014180108A1 (en) | Systems and methods for matching face shapes | |
CN111027481A (zh) | 基于人体关键点检测的行为分析方法及装置 | |
CN105068646A (zh) | 终端的控制方法和系统 | |
CN109325408A (zh) | 一种手势判断方法及存储介质 | |
CN112101208A (zh) | 高龄老人特征串联融合手势识别方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20190124 Address after: Room 1702-03, Blue Sky and Sheng Building, 32 Zhongguancun Street, Haidian District, Beijing Applicant after: BEIJING CENTURY TAL EDUCATION TECHNOLOGY CO., LTD. Address before: Room A-2667, 2nd floor, No. 3 Courtyard, 30 Shixing Street, Shijingshan District, Beijing, 100041 Applicant before: Beijing easy thinking learning technology Co., Ltd. Applicant before: BEIJING XINTANG SICHUANG EDUCATIONAL TECHNOLOGY CO., LTD. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |