CN109410276B - 关键点位置确定方法、装置及电子设备 - Google Patents
关键点位置确定方法、装置及电子设备 Download PDFInfo
- Publication number
- CN109410276B CN109410276B CN201811295915.4A CN201811295915A CN109410276B CN 109410276 B CN109410276 B CN 109410276B CN 201811295915 A CN201811295915 A CN 201811295915A CN 109410276 B CN109410276 B CN 109410276B
- Authority
- CN
- China
- Prior art keywords
- human hand
- image
- shape
- skeleton
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Abstract
本公开是关于关键点位置确定方法、装置及电子设备。其中方法包括:基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。本公开可以利用人手手骨自身所存在的几何约束条件,结合从待分析图像中提取到的人手的参数,较为准确地推算出被遮挡的关键点的位置。
Description
技术领域
本公开涉及人手姿态估计技术领域,尤其涉及关键点位置确定方法、装置及电子设备。
背景技术
相关技术中,可以利用人手多个关键点的所处的三维空间位置对人手所处的姿态进行估计。针对每个关键点,可以基于人手色彩图像(如RGB图像),计算该人手色彩图像中各个像素点为该关键点的概率,得到该关键点在二维图像上的概率分布,并基于该概率分布,利用预先经过训练的神经网络,计算得到该关键点的三维空间位置。
但是,在人手色彩图像中,关键点可能处于被遮挡的状态,在这种情况下,关键点在人手色彩图像中所处的位置可能呈现的是障碍物的图像,可能导致在计算概率分布时,计算得到的该位置为关键点所处的位置的概率较低,与实际情况存在较大偏差。进而造成无法计算该关键点的三维空间位置,或者计算得到的三维空间位置准确性较低,影响到人手的姿态估计。
发明内容
为克服相关技术中存在的问题,本公开提供一种关键点位置确定方法、装置及电子设备。
根据本公开实施例的第一方面,提供一种关键点位置确定方法,包括:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。
结合第一方面,在第一种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第一方面的第一种可能的实现方式,在第二种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型,包括:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
结合第一方面,在第三种可能的实现方式中,所述基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,包括:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
结合第一方面的第三种可能的实现方式,在第四种可能的实现方式中,所述参数提取网络为移动端神经网络MobileNet。
根据本公开实施例的第二方面,提供一种关键点位置确定装置,包括:
人手分析单元,被配置为执行基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;
位置确定单元,被配置为执行基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。
结合第二方面,在第一种可能的实现方式中,所述人手分析单元,具体被配置为执行基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第二方面的第一种可能的实现方式,在第二种可能实现方式中,所述人手分析单元,具体被配置为执行将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
结合第二方面,在第三种可能的实现方式中,所述位置确定单元,具体被配置为执行将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
结合第二方面的第三种可能的实现方式,在第四种可能的实现方式中,所述参数提取网络为移动端神经网络MobileNet。
根据本公开实施例的第三方面,提供了一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。
结合第三方面,在第一种可能的实现方式中,所述处理器,具体被配置为:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第三方面的第一种可能的实现方式,在第二种可能的实现方式中,所述处理器具体被配置为:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
结合第三方面,在三种可能的实现方式中,所述处理具体被配置为:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
结合第三方面的第三种可能的实现方式,在第四种可能的实现方式中,所述参数提取网络为移动端神经网络MobileNet。
根据本公开实施例的第四方面,提供了一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种关键点位置确定方法,所述方法包括:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。
结合第四方面,在第一种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第四方面的第一种可能的实现方式,在第二种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第四方面,在第三种可能的实现方式中,所述基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,包括:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
结合第四方面的第三种可能的实现方式中,在第四种可能的实现方式中,所述参数提取网络为移动端神经网络MobileNet。
根据本公开实施例的第五方面,提供一种计算机程序产品,当所述计算机程序产品由用户终端的处理器执行时,使得用户终端能够执行一种关键点位置确定方法,所述方法包括:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置。
结合第五方面,在第一种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
结合第五方面的第一种可能的实现方式,在第二种可能的实现方式中,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型,包括:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
结合第五方面,在第三种可能的实现方式中,所述基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,包括:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
结合第五方面的第三种可能的实现方式,在第四种可能的实现方式中,所述参数提取网络为移动端神经网络MobileNet。
本公开的实施例提供的技术方案可以包括以下有益效果:利用人手手骨自身所存在的几何约束条件,结合从待分析图像中提取到的人手的参数,可以较为准确地推算出被遮挡的关键点的位置。应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种关键点位置确定方法的流程图。
图2a是根据一示例性实施例示出的一种人手手骨骨骼结构图;
图2b是根据一示例性实施例示出的一种关键点分布图;
图3是根据一示例性实施例示出的另一种关键点位置确定方法的流程图;
图4是根据一示例性实施例示出的一种关键点位置确定装置的结构图;
图5是根据一示例性实施例示出的一种用于关键点位置确定的电子设备的框图;
图6是根据一示例性实施例示出的另一种用于关键点位置确定的电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种关键点位置确定方法的流程图,如图1所示,关键点位置确定方法用于终端中,包括以下步骤。
在步骤S11中,基于包含人手的影像的待分析图像,确定人手的形状和人手中多个骨骼节点的位姿。
其中,待分析图像可以是拍摄人手得到的色彩图像(如RGB图像),该待分析图像中的人手的影像可以部分被遮挡,也可以没有被遮挡,对于没有被遮挡的情况由于不存在本公开实施例所需要解决的技术问题,因此不在此讨论。每个骨骼节点均为人手中预设的一个点,示例性的,可以预先将人手中食指的掌指关节设置为骨骼节点。骨骼节点可以根据实际需求或者用户经验进行设置,例如为了更准确地确定关键点的位置,可以预先设置数量相对较多的骨骼节点,又例如为了降低确定关键点的位置所占用的计算资源,可以预先设置数量相对较少的骨骼节点,一个骨骼节点的位姿包括该骨骼节点所处的位置以及角度。虽然不同的人的人手的形状整体上相近,但是存在一些因人而异的变量,例如人手的长短、宽窄、胖瘦等,确定得到的人手的形状可以用于表示这些因人而异的变量。
进一步的,可以是利用预设的图像识别算法对待分析图像进行处理,得到人手的形状和多个骨骼节点的位姿。也可以是利用预先经过训练的神经网络,实现待分析图像到人手的形状以及骨骼节点的位姿之间的端对端映射,示例性的,在一种示例性实施例中,可以是将包含人手的影像的待分析图像,输入预设的参数提取网络,得到人手的形状和人手中多个骨骼节点的位姿。其中,参数提取网络预先经过多个标注有真值的样本图像的训练,每个样本图像中包括有人手的影像,并且标注的真值为该人手的形状以及多个骨骼节点的位姿,训练方式可以是将样本图像输入至参数提取网络,并计算参数提取网络的输出与标注的真值之间的损失函数,基于损失函数利用随机梯度下降法调整参数提取网络的网络参数。
参数提取网络可以是大型的卷积神经网络,如U-net、HourGlass,也可以是轻量型的卷积神经网络MobileNet,MobileNet相比于U-net或者HourGlass,网络的结构复杂度更低,所占用的计算资源也相对较少,更容易在移动终端上运行。而U-net或HourGlass由于网络的结构复杂度相对较高,因此占用的计算资源相对较多,难以或者无法在移动终端上运行。
在步骤S12中,基于形状和位姿,按照预设的人手骨骼的几何约束关系,确定人手的关键点的位置。
人手中存在手骨,手骨包括多块骨头,可以如图2a所示,这些骨头能够在手部肌肉的带动下运动,但是由于这些骨头之间可能存在相互连接的关系,因此骨头的运动受到了限制,例如假设中指的近节指骨(即图中201)的长度为3cm,由于中指的近节指骨与中指的中节指骨(即图中203)相关节(以下称相关节处为第一关节),并且与掌骨头(即图中202)相互关节(以下称相关节处为第二关节),如果将中指的近节指骨视为刚体,则可以预先设置几何约束条件:第一关节与第二关节之间的距离为3cm。又例如,中指的中节指骨可以相对于第一关节向手心方向和/或手背方向弯曲,而对于正常人无法或者难以相对于第一关节向食指方向或者无名指方向弯曲(以下称这两个方向为侧向),因此可以预先设置几何约束条件:中指的近节指骨和中节指骨的侧向角相同。
在人手姿态估计中所使用的关键点为手骨的关节处,例如常用的人手姿态估计算法中,使用手骨的21个关节处作为21个关键点,具体的分布可以参见图2b所示,其中1-21分别表示这21个关键点所处的位置,因此关键点的位置并非是任意分布的,而是受到人手骨骼的几何约束条件影响的。示例性的,假设在S11中确定得到第一关节在三维空间坐标系(假设该三维空间坐标系的单位为cm,手心方向为x轴的正方向)中的坐标为(0,0,0),中指的近节指骨长度为3cm,并且相对第二关节向手心方向弯曲90°,第一关节为关键点,则可以确定得到该关键点的坐标为(3,0,0),并且由于该关键点的位置是基于人手的形状(近节指骨长3cm)以及第二关节和近节指骨的位姿确定得到的,因此即使在待分析图像中第一关节被遮挡,也能够确定出第一关节的位置。
选用该实施例,可以利用人手骨骼固有的几何约束条件,结合待分析图像中提取到的人手的形状以及多个骨骼节点的位姿,对关键点的位置进行推算,并不直接从待分析图像中识别并定位关键点,因此即使关键点被遮挡住,仍然能够确定出关键点的位置。
参见图3,图3所示为本公开实施例提供的另一种关键点位置确定方法的流程示意图,包括以下步骤:
在步骤S31中,基于包含人手的影像的待分析图像,确定人手的形状和人手中多个骨骼节点的位姿。
该步骤与S11相同,可以参见前述关于S11的描述,在此不再赘述。
在步骤S32中,将得到的形状和位姿作为模型参数输入至预设的骨骼动画框架中,得到人手的三维骨骼模型。
其中,骨骼动画框架可以为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。不同人的人手的三维骨骼模型之间可能存在一定的差异,但是同样作为人类,不同人的人手的三维骨骼模型之间也存在一定的共性,如手骨中各块骨头之间的连接关系、能够进行的运动方式,因此不同人的人手的三维骨骼模型中可能存在一些相同的几何约束关系,在本实施例中,可以从多个样本人手三维骨骼模型中提取这些几何约束条件。
进一步的,样本人手三维骨骼模型可以根据实际需求进行选取,例如,为了扩展该实施例的适用人群,可以选用不同种族、不同年龄段、不同性别的人手的三维骨骼模型作为样本人手三维骨骼模型。又例如,已经确定该实施例的面向群体为亚洲青年、中年群体,则可以选用亚裔并且年龄段位于12-40岁的男性以及女性的人手的三维骨骼模型作为样本人手三维骨骼模型。
虽然不同的人的人手的三维骨骼模型之间存在一定的共性,也存在一些因人而异,或者随时间变化的变量,例如一部分人的中指近节指骨可能长3cm,另外一部分人的中指近节指骨可能长3.5cm。又例如在某一时刻人手处于紧握状态,中指近节指骨相对第二关节向掌心弯曲,在另一个时刻人手处于平摊状态,中指近节指骨可能没有相对第二关节向掌心弯曲。因此在构建人手的三维骨骼模型时,需要输入人手的形状以及多个骨骼节点的位姿作为模型参数。
在步骤S33中,从三维骨骼模型中读取人手的关键点的三维空间坐标,作为关键点的位置。
在构建完成人手的三维骨骼模型后,可以视为已知人手的手骨上任意点的位置,因此可以从三维骨骼模型中读取人手的关键点的三维空间坐标。选用该实施例,关键点是从人手的三维骨骼模型中读取得到的,因此关键点之间符合从多个样本人手的三维骨骼模型中提取到的几何约束关系,因此可以认为关键点的分布符合人手中各个关节处的真实分布情况,进而可以认为此时得到的关键点的位置更加准确。
图4是根据一示例性实施例示出的一种关键点位置确定装置框图。参照图4,该装置包括人手分析单元401,位置确定单元402。
该人手分析单元401被配置为执行基于包含人手的影像的待分析图像,确定人手的形状和人手中多个骨骼节点的位姿;
该位置确定单元402被配置为执行基于形状和位姿,按照预设的人手骨骼的几何约束条件,确定人手的关键点的位置。.
在一种示例性实施例中,该人手分析单元401,可以具体被配置为执行基于形状和位姿,按照预设的人手骨骼的几何约束关系,构建人手的三维骨骼模型;
从三维骨骼模型中读取人手的关键点的三维空间坐标,作为关键点的位置。
在一种示例性实施例中,该人手分析单元401,可以具体被配置为执行将形状和位姿作为模型参数输入至预设的骨骼动画框架中,得到人手的三维骨骼模型,骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
在一种示例性实施例中,该位置确定单元402,可以具体被配置为执行将包含人手的影像的待分析图像,输入预设的参数提取网络,得到人手的形状和人手中多个骨骼节点的位姿,参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
在一种示例性实施例中,参数提取网络为移动端神经网络MobileNet。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图5是根据一示例性实施例示出的一种用于关键点位置确定的电子设备500的框图。例如,装置500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置500可以包括以下一个或多个组件:处理组件52,存储器504,电力组件506,多媒体组件508,音频组件510,输入/输出(I/O)的接口512,传感器组件514,以及通信组件516。
处理组件502通常控制装置500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件502可以包括一个或多个处理器520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件502可以包括一个或多个模块,便于处理组件502和其他组件之间的交互。例如,处理组件502可以包括多媒体模块,以方便多媒体组件508和处理组件502之间的交互。
存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件506为装置500的各种组件提供电力。电源组件506可以包括电源管理系统,一个或多个电源,及其他与为装置500生成、管理和分配电力相关联的组件。
多媒体组件508包括在装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如,音频组件510包括一个麦克风(MIC),当装置500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中,音频组件510还包括一个扬声器,用于输出音频信号。
I/O接口512为处理组件502和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或多个传感器,用于为装置500提供各个方面的状态评估。例如,传感器组件514可以检测到设备500的打开/关闭状态,组件的相对定位,例如组件为装置500的显示器和小键盘,传感器组件514还可以检测装置500或装置500一个组件的位置改变,用户与装置500接触的存在或不存在,装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件516还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由装置500的处理器520执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品,该计算机程序产品可以存储于计算机可读存储介质中,例如存储器504,该计算机程序产品可由500的处理器520执行以完成上述方法。
图6是根据一示例性实施例示出的一种用于关键点位置确定的装置600的框图。例如,装置600可以被提供为一服务器。参照图6,装置600包括处理组件622,其进一步包括一个或多个处理器,以及由存储器632所代表的存储器资源,用于存储可由处理组件622的执行的指令,例如应用程序。存储器632中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件622被配置为执行指令,以执行上述方法。
装置600还可以包括一个电源组件626被配置为执行装置600的电源管理,一个有线或无线网络接口650被配置为将装置600连接到网络,和一个输入输出(I/O)接口658。装置600可以操作基于存储在存储器632的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的公开后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (16)
1.一种关键点位置确定方法,其特征在于,包括:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,其中,所述待分析图像中的人手的影像部分被遮挡;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置;
所述基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,包括:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
2.根据权利要求1所述的方法,其特征在于,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
3.根据权利要求2所述的方法,其特征在于,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型,包括:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
4.根据权利要求1所述的方法,其特征在于,所述参数提取网络为移动端神经网络MobileNet。
5.一种关键点位置确定装置,其特征在于,包括:
人手分析单元,被配置为执行基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,其中,所述待分析图像中的人手的影像部分被遮挡;
位置确定单元,被配置为执行基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置;
所述位置确定单元,具体被配置为执行将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
6.根据权利要求5所述的装置,其特征在于,所述人手分析单元,具体被配置为执行基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
7.根据权利要求6所述的装置,其特征在于,所述人手分析单元,具体被配置为执行将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
8.根据权利要求5所述的装置,其特征在于,所述参数提取网络为移动端神经网络MobileNet。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,其中,所述待分析图像中的人手的影像部分被遮挡;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置;
所述处理器具体被配置为:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
10.根据权利要求9所述的电子设备,其特征在于,所述处理器,具体被配置为:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
11.根据权利要求10所述的电子设备,其特征在于,所述处理器具体被配置为:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
12.根据权利要求9所述的电子设备,其特征在于,所述参数提取网络为移动端神经网络MobileNet。
13.一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种关键点位置确定方法,所述方法包括:
基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,其中,所述待分析图像中的人手的影像部分被遮挡;
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束条件,确定所述人手的关键点的位置;
所述基于包含人手的影像的待分析图像,确定所述人手的形状和所述人手中多个骨骼节点的位姿,包括:
将包含人手的影像的待分析图像,输入预设的参数提取网络,得到所述人手的形状和所述人手中多个骨骼节点的位姿,所述参数提取网络预先经过标注有人手的形状和各个骨骼节点的位姿的样本图像的训练。
14.根据权利要求13所述的非临时性计算机可读存储介质,其特征在于,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,确定所述人手的关键点的位置,包括:
基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型;
从所述三维骨骼模型中读取所述人手的关键点的三维空间坐标,作为所述关键点的位置。
15.根据权利要求14所述的非临时性计算机可读存储介质,其特征在于,所述基于所述形状和所述位姿,按照预设的人手骨骼的几何约束关系,构建所述人手的三维骨骼模型,包括:
将所述形状和所述位姿作为模型参数输入至预设的骨骼动画框架中,得到所述人手的三维骨骼模型,所述骨骼动画框架为从多个样本人手三维骨骼模型中提取几何约束条件得到的参数化的框架。
16.根据权利要求13所述的非临时性计算机可读存储介质,其特征在于,所述参数提取网络为移动端神经网络MobileNet。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811295915.4A CN109410276B (zh) | 2018-11-01 | 2018-11-01 | 关键点位置确定方法、装置及电子设备 |
PCT/CN2019/104231 WO2020088092A1 (zh) | 2018-11-01 | 2019-09-03 | 关键点位置确定方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811295915.4A CN109410276B (zh) | 2018-11-01 | 2018-11-01 | 关键点位置确定方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109410276A CN109410276A (zh) | 2019-03-01 |
CN109410276B true CN109410276B (zh) | 2020-10-27 |
Family
ID=65471142
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811295915.4A Active CN109410276B (zh) | 2018-11-01 | 2018-11-01 | 关键点位置确定方法、装置及电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN109410276B (zh) |
WO (1) | WO2020088092A1 (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109410276B (zh) * | 2018-11-01 | 2020-10-27 | 北京达佳互联信息技术有限公司 | 关键点位置确定方法、装置及电子设备 |
GB2598452B (en) * | 2020-06-22 | 2024-01-10 | Snap Inc | 3D object model reconstruction from 2D images |
GB202009515D0 (en) | 2020-06-22 | 2020-08-05 | Ariel Ai Ltd | 3D object model reconstruction from 2D images |
CN112257582A (zh) * | 2020-10-21 | 2021-01-22 | 北京字跳网络技术有限公司 | 脚部姿态确定方法、装置、设备和计算机可读介质 |
CN113052189B (zh) * | 2021-03-30 | 2022-04-29 | 电子科技大学 | 一种基于改进的MobileNetV3特征提取网络 |
CN114332939B (zh) * | 2021-12-30 | 2024-02-06 | 浙江核新同花顺网络信息股份有限公司 | 一种位姿序列生成方法和系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104376309A (zh) * | 2014-11-27 | 2015-02-25 | 韩慧健 | 一种基于手势识别的手势运动基元模型结构化方法 |
CN104680582A (zh) * | 2015-03-24 | 2015-06-03 | 中国人民解放军国防科学技术大学 | 一种面向对象定制的三维人体模型创建方法 |
CN107767419A (zh) * | 2017-11-07 | 2018-03-06 | 广州深域信息科技有限公司 | 一种人体骨骼关键点检测方法及装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8872899B2 (en) * | 2004-07-30 | 2014-10-28 | Extreme Reality Ltd. | Method circuit and system for human to machine interfacing by hand gestures |
US7961910B2 (en) * | 2009-10-07 | 2011-06-14 | Microsoft Corporation | Systems and methods for tracking a model |
AU2011203028B1 (en) * | 2011-06-22 | 2012-03-08 | Microsoft Technology Licensing, Llc | Fully automatic dynamic articulated model calibration |
US10318008B2 (en) * | 2015-12-15 | 2019-06-11 | Purdue Research Foundation | Method and system for hand pose detection |
CN106886741A (zh) * | 2015-12-16 | 2017-06-23 | 芋头科技(杭州)有限公司 | 一种基手指识别的手势识别方法 |
CN108399367B (zh) * | 2018-01-31 | 2020-06-23 | 深圳市阿西莫夫科技有限公司 | 手部动作识别方法、装置、计算机设备及可读存储介质 |
CN109410276B (zh) * | 2018-11-01 | 2020-10-27 | 北京达佳互联信息技术有限公司 | 关键点位置确定方法、装置及电子设备 |
-
2018
- 2018-11-01 CN CN201811295915.4A patent/CN109410276B/zh active Active
-
2019
- 2019-09-03 WO PCT/CN2019/104231 patent/WO2020088092A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104376309A (zh) * | 2014-11-27 | 2015-02-25 | 韩慧健 | 一种基于手势识别的手势运动基元模型结构化方法 |
CN104680582A (zh) * | 2015-03-24 | 2015-06-03 | 中国人民解放军国防科学技术大学 | 一种面向对象定制的三维人体模型创建方法 |
CN107767419A (zh) * | 2017-11-07 | 2018-03-06 | 广州深域信息科技有限公司 | 一种人体骨骼关键点检测方法及装置 |
Non-Patent Citations (3)
Title |
---|
Leap Motion关键点模型手姿态估计方法;胡弘 等;《计算机辅助设计与图形学学报》;20150731;第1211-1216页 * |
基于神经网络方法的手形识别研究;刘波;《中国学位论文全文数据库》;20120531;第1-64页 * |
基于视觉手势识别的研究—综述;任海兵 等;《电子学报》;20000229;第118-121页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109410276A (zh) | 2019-03-01 |
WO2020088092A1 (zh) | 2020-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109410276B (zh) | 关键点位置确定方法、装置及电子设备 | |
US11163373B2 (en) | Method and electronic device of gesture recognition | |
US11636653B2 (en) | Method and apparatus for synthesizing virtual and real objects | |
CN110991327A (zh) | 交互方法及装置、电子设备和存储介质 | |
KR20210111833A (ko) | 타겟의 위치들을 취득하기 위한 방법 및 장치와, 컴퓨터 디바이스 및 저장 매체 | |
CN107133354B (zh) | 图像描述信息的获取方法及装置 | |
CN110705365A (zh) | 一种人体关键点检测方法、装置、电子设备及存储介质 | |
CN112115894B (zh) | 手部关键点检测模型的训练方法、装置及电子设备 | |
EP3312702B1 (en) | Method and device for identifying gesture | |
CN107944367B (zh) | 人脸关键点检测方法及装置 | |
CN110288716B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN111047526A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
EP3905662A1 (en) | Image processing method and apparatus, electronic device and storage medium | |
CN111666917A (zh) | 姿态检测及视频处理方法、装置、电子设备和存储介质 | |
CN112614214B (zh) | 动作捕捉方法、装置、电子设备及存储介质 | |
CN111178298A (zh) | 人体关键点检测方法、装置、电子设备及存储介质 | |
CN109325479B (zh) | 步伐检测方法及装置 | |
CN106774849B (zh) | 虚拟现实设备控制方法及装置 | |
CN112188091B (zh) | 人脸信息识别方法、装置、电子设备及存储介质 | |
CN111724361B (zh) | 实时显示病灶的方法及装置、电子设备和存储介质 | |
CN110929616B (zh) | 一种人手识别方法、装置、电子设备和存储介质 | |
CN114581525A (zh) | 姿态确定方法及装置、电子设备和存储介质 | |
CN113642551A (zh) | 指甲关键点检测方法、装置、电子设备及存储介质 | |
CN114821799A (zh) | 基于时空图卷积网络的动作识别方法、装置和设备 | |
CN106126104B (zh) | 键盘模拟方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |