CN106709951A - 一种基于深度图的手指关节定位方法 - Google Patents

一种基于深度图的手指关节定位方法 Download PDF

Info

Publication number
CN106709951A
CN106709951A CN201710001287.3A CN201710001287A CN106709951A CN 106709951 A CN106709951 A CN 106709951A CN 201710001287 A CN201710001287 A CN 201710001287A CN 106709951 A CN106709951 A CN 106709951A
Authority
CN
China
Prior art keywords
joint
node
finger
recessive
coordinate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710001287.3A
Other languages
English (en)
Other versions
CN106709951B (zh
Inventor
许勇
滕菲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201710001287.3A priority Critical patent/CN106709951B/zh
Publication of CN106709951A publication Critical patent/CN106709951A/zh
Application granted granted Critical
Publication of CN106709951B publication Critical patent/CN106709951B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • G06V40/11Hand-related biometrics; Hand pose recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本发明公开了一种基于深度图的手指关节定位方法,包括:对深度图进行预处理去除背景;计算手的中心坐标作为隐性回归树的输入,遍历隐性回归树;对每棵隐性回归树,根据特征节点从深度图中提取特征,判别进入节点的左分支或右分支,直至到回归节点或叶子节点;对回归节点,依节点信息更新当前隐关节的左右子关节坐标:对同一隐关节,通过回归节点投票得到当前隐关节的左右子关节坐标,更新隐性回归森林中左右子关节坐标,继续并行向下遍历节点的左右分支;对于叶子节点,得到叶子节点代表手指关节的坐标,再由隐性回归森林中同一手指关节的坐标进行投票,得到每个手指关节的最终坐标。本发明具有定位速度快、准确率高、受遮挡影响小等优点。

Description

一种基于深度图的手指关节定位方法
技术领域
本发明涉及计算机视觉相关技术领域,具体涉及一种基于深度图的手指关节定位方法。
背景技术
随着现代信息技术的快速发展,电子设备已由传统的手持式设备逐渐向便捷的可穿戴设备发展,人机交互方式也由传统的接触式交互转向自然的非接触式交互。作为非接触式交互的主流技术,基于计算机视觉的手势交互利用图像信息和人手固有的生理特征来解读手势进行人机交互,其中,手指关节定位主要是指利用图像信息和手的几何结构信息来定位手指关节的分布。由于手指关节灵活度高,手指间自遮挡,手的位置随视角变化大,仅使用二维RGB彩图不足以捕获完整的手势信息和手指位置信息,而在现有深度信息采集技术日趋成熟的情况下,我们结合手的几何结构信息,利用深度图提供的三维信息,提出了一种基于深度图的手指关节定位方法。
发明内容
本发明的目的是针对上述现有技术的不足,提供了一种基于深度图的手指关节定位方法,该方法具有定位速度快、准确率高、受遮挡影响小等优点。
本发明的目的可以通过如下技术方案实现:
一种基于深度图的手指关节定位方法,所述方法包括以下步骤:
步骤1、对输入的深度图进行预处理,去除噪声,平滑图像边缘;
步骤2、利用手检测方法,去除背景,得到只包含手的深度图;
步骤3、计算整个手的几何中心坐标,同时输入到包含深度特征和手几何结构的隐性回归森林中,从根节点开始按阶段遍历每棵隐性回归树;
步骤4、对于每棵隐性回归树,遍历特征节点,根据特征节点信息从深度图中提取特征,判定进入特征节点的左分支或右分支,反复遍历特征节点,直至到达该阶段的回归节点或叶子节点;
步骤5、对于每棵隐性回归树,遍历回归节点,根据回归节点信息得到当前隐关节的左右子关节坐标;
步骤6、对于隐性回归森林,聚合所有隐性回归树当前阶段包含同一隐关节的回归节点,投票得到当前隐关节的左右子关节新坐标,并更新所有隐性回归树中左右子关节的坐标,继续并行向下遍历节点的左右分支;
步骤7、对于叶子节点,根据叶子节点信息推断出该叶子节点包含的手指关节坐标,再通过所有隐性回归树中包含相同手指关节的叶子节点分别进行投票,得到全部手指关节的最终坐标。
优选的,所述步骤3至步骤7的具体过程为:
1)将手的初始几何中心坐标p0输入隐性回归树T;
2)根据第一阶段的特征节点F1,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达第一阶段的回归节点R1;
3)根据第一阶段的回归节点R1,更新隐关节1,2的坐标H1,H2,继续遍历第二阶段的特征节点F2;
4)根据第二阶段的特征节点F2,从深度图中提取特征,判定进入节点的左分支或右分支,直至到达叶子节点1或第二阶段的回归节点R2;
5)根据叶子节点1,输出手掌关节的坐标S1
6)根据第二阶段的回归节点R2,更新隐关节3,4,5的坐标H3,H4,H5,继续遍历第三阶段的特征节点F3;
7)根据第三阶段的特征节点F3,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点2或第三阶段的回归节点R3;
8)根据叶子节点2,输出拇指关节1的坐标S2
9)根据第三阶段的回归节点R3,更新隐关节6,7,8,9,10的坐标H6,H7,H8,H9,H10,继续遍历第四阶段的特征节点F4;
10)根据第四阶段的特征节点F4,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点3,4,5,6,7,8或第四阶段的回归节点R4;
11)根据叶子节点3,4,5,6,7,8,分别输出拇指关节2,拇指关节3,食指关节1,中指关节1,无名指关节1,小指关节1的坐标S3,S4,S5,S6,S7,S8
12)根据第四阶段的回归节点R4,更新隐关节11,12,13,14的坐标H11,H12,H13,H14,继续遍历第五阶段的特征节点F5;
13)根据第五阶段的特征节点F5,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点9,10,11,12,13,14,15,16;
14)根据叶子节点9,10,11,12,13,14,15,16,分别输出食指关节2,食指关节3,中指关节2,中指关节3,无名指关节2,无名指关节2,小指关节2,小指关节3的坐标S9,S10,S11,S12,S13,S14,S15,S16
15)最后,根据所有隐性回归树的手指关节坐标推断出手指关节的最终位置。
优选的,所述所有隐性回归树都分为五个阶段:第一个阶段包含多层特征节点F和单层回归节点R,第二到第四个阶段包含多层特征节点F和单层回归节点R或叶子节点L,最后阶段只包含特征节点F和叶子节点L,其中,特征节点包含深度特征信息,回归节点包含当前隐关节的左右子关节坐标信息,叶子节点包含该叶子节点代表的手指关节信息。
优选的,所述步骤3)、步骤6)、步骤9)以及步骤12)中更新隐关节坐标的方法,具体包括:
a.对于每棵隐性回归树,当前隐关节坐标由当前回归节点内包含的关节信息进行更新,得到由单棵树更新的隐关节坐标;
b.对于隐性回归森林,根据每棵隐性回归树输出的隐关节坐标,更新同一个隐关节坐标的投票方式如下:
其中,1≤i≤14,hit表示第t棵隐性回归树的第i个隐关节坐标,n表示隐性回归树的个数。
优选的,所述步骤15)中推断手指关节最终位置的方法,具体包括:
根据每棵隐性回归树,得到由单棵树更新的手指关节坐标,然后对于同一个手指坐标,根据所有隐性回归树的手指关节坐标进行投票,投票方式如下:
其中,1≤j≤16,sjt表示第t棵隐性回归树的第j个手指关节坐标,n表示隐性回归树的个数。
优选的,所述隐性回归树中的回归节点与隐关节和手指关节间的关系由包含手结构的二叉树定义,具体如下:
手总共包含16个手指关节,标记为手掌0,拇指1,拇指2,拇指3,食指1,食指2,食指3,中指1,中指2,中指3,无名指1,无名指2,无名指3,小指1,小指2,小指3;
其中,包含手几何结构的二叉树定义为:树的根节点包含所有关节,子节点包含的关节为父节点关节的二分子集,二叉树的左右节点包含的关节子集互斥,即二叉树的根节点表示为整个手关节集合;叶间节点为隐关节,即手关节子集;叶子节点为手指关节,每个叶子对应一个关节。
优选的,所述步骤a中由当前回归节点内包含的关节信息更新当前隐关节坐标,具体包括:
直接输出当前回归节点包含的左子关节坐标hl和右子关节坐标hr,或者,在隐关节坐标hi的基础上,加上回归节点中的左偏移量Δrl和右偏移量Δrr,得到左子关节坐标hl和右子关节坐标hr
本发明与现有技术相比,具有如下优点和有益效果:
1、本发明方法先对输入的深度图进行预处理,去除噪声,并对图像进行了相应的平滑处理,去除了深度摄像头采集到的深度图可能包含的孤立点噪声,再利用手检测的方法去除背景,取出只包含手部分的深度图输入到隐性回归森林中;遍历隐性回归树的特征提取深度特征后,通过回归节点更新关节坐标;期间,根据回归节点所包含的隐关节,投票更新其左右子关节的坐标,减少了由特征节点特征提取误差所引起坐标错误聚集;最后再由所有隐性回归树的叶子节点投票得到所有手指关节的坐标,该方法针对不同姿态和角度的手形态的定位具有很强的鲁棒性,使得定位准确度高。
2、本发明方法采用了隐性回归森林,通过多棵回归树投票来输出最终结果,进一步降低了由单棵回归树引起的过拟合,此外,本发明采用的隐性回归森林还在传统回归森林叶子节点投票的基础上,增加了叶间节点的投票,通过在隐性回归树遍历过程中,纠正坐标传播引起的错误,保证每次获取坐标的正确性,比传统的回归森林相比有更高的准确度和抗干扰性。
3、本发明方法在传统的回归树基础上,通过二叉树的方式加入了手的几何结构信息,有助于更好更快地定位手指关节的位置,在手结构的先验知识下,即使手指间发生了自遮挡,也可以根据已知的结构推断出被遮挡的手指关节的位置,使结果更具有可靠性。
附图说明
图1为本发明实施例的基于深度图的手指关节定位方法流程图。
图2为本发明实施例的手指关节示意图。
图3为本发明实施例的手关节二叉树示意图。
图4为本发明实施例的隐性回归树总体示意图。
具体实施方式
下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限于此。
实施例:
本实施例提供了一种基于深度图的手指关节定位方法,该方法的流程图如图1所示,包括以下步骤:
S101、对输入的深度图进行预处理,去除噪声,平滑图像边缘,得到边缘光滑的深度图,具体包括:
1.1)通过OpenCV(Open Source Computer Vision Library,开源计算机视觉库)内的函数,获取两幅待验证人脸图像中的人脸区域,OpenCV是一个基于BSD许可(开源)发行的跨平台计算机视觉库,由一系列C函数和少量C++类构成,实现了图像处理和计算机视觉方面的很多通用算法,本实施例采用OpenCV对图像进行中值滤波来去除噪声,这只是其中一种去噪方法,实际上还有很多方法可以去除噪声;
1.2)对去噪后的深度图进行腐蚀再膨胀,去掉目标外的孤立点,得到边缘相对平滑的图像;
S102、利用手检测方法,去除背景,得到只包含手的深度图,具体包括:
2.1)对预处理后的图像进行边缘检测,统计边缘最长的点坐标对应的深度,得到边缘深度值集合;
2.2)取边缘深度集合中的最大值为深度阈值threshold,遍历图像的每个像素,保留小于等于该阈值的深度值,将大于该阈值的深度值设置为图像的最大深度maxDepth,得到只包含手部分的深度图,数学表现形式为:对于图像中每个像素x,y,
S103、在去除背景的深度图的基础上,统计手部分的所有坐标,将坐标求和取平均,得到手的几何中心坐标,同时输入到包含深度特征和手几何结构的隐性回归森林中,从根节点开始按阶段遍历每棵隐性回归树;
S104、对于每棵隐性回归树,遍历特征节点,根据特征节点信息从深度图中提取特征,判定进入特征节点的左分支或右分支,其中的深度特征可以为图像中隐关节坐标附近任意两点的深度差,或者是任意两小块区域的深度平均值的差,反复遍历特征节点,直至到达该阶段的回归节点或叶子节点;
S105、对于每棵隐性回归树,遍历回归节点,根据回归节点信息得到当前隐关节的左右子关节坐标;
S106、对于隐性回归森林,聚合所有隐性回归树当前阶段包含同一隐关节的回归节点,投票得到当前隐关节的左右子关节新坐标,并更新所有隐性回归树中左右子关节的坐标,继续并行向下遍历节点的左右分支;
S107、对于叶子节点,根据叶子节点信息推断出该叶子节点包含的手指关节坐标,再通过所有隐性回归树中包含相同手指关节的叶子节点分别进行投票,得到全部手指关节的最终坐标。
其中,所述步骤S103至步骤S107的具体过程为:
1)将手的初始几何中心坐标p0输入隐性回归树T;
2)根据第一阶段的特征节点F1,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达第一阶段的回归节点R1;
3)根据第一阶段的回归节点R1,更新隐关节1,2的坐标H1,H2,继续遍历第二阶段的特征节点F2;
4)根据第二阶段的特征节点F2,从深度图中提取特征,判定进入节点的左分支或右分支,直至到达叶子节点1或第二阶段的回归节点R2;
5)根据叶子节点1,输出手掌关节的坐标S1
6)根据第二阶段的回归节点R2,更新隐关节3,4,5的坐标H3,H4,H5,继续遍历第三阶段的特征节点F3;
7)根据第三阶段的特征节点F3,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点2或第三阶段的回归节点R3;
8)根据叶子节点2,输出拇指关节1的坐标S2
9)根据第三阶段的回归节点R3,更新隐关节6,7,8,9,10的坐标H6,H7,H8,H9,H10,继续遍历第四阶段的特征节点F4;
10)根据第四阶段的特征节点F4,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点3,4,5,6,7,8或第四阶段的回归节点R4;
11)根据叶子节点3,4,5,6,7,8,分别输出拇指关节2,拇指关节3,食指关节1,中指关节1,无名指关节1,小指关节1的坐标S3,S4,S5,S6,S7,S8
12)根据第四阶段的回归节点R4,更新隐关节11,12,13,14的坐标H11,H12,H13,H14,继续遍历第五阶段的特征节点F5;
13)根据第五阶段的特征节点F5,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点9,10,11,12,13,14,15,16;
14)根据叶子节点9,10,11,12,13,14,15,16,分别输出食指关节2,食指关节3,中指关节2,中指关节3,无名指关节2,无名指关节2,小指关节2,小指关节3的坐标S9,S10,S11,S12,S13,S14,S15,S16
15)最后,根据所有隐性回归树的手指关节坐标推断出手指关节的最终位置。
其中,所述所有隐性回归树都分为五个阶段,如图4的隐性回归树总体示意图所示:第一个阶段包含多层特征节点F和单层回归节点R,第二到第四个阶段包含多层特征节点F和单层回归节点R或叶子节点L,最后阶段只包含特征节点F和叶子节点L,其中,特征节点包含深度特征信息,回归节点包含当前隐关节的左右子关节坐标信息,叶子节点包含该叶子节点代表的手指关节信息。
其中,如图2手指关节示意图所示,手总共包含16个手指关节,标记为手掌0,拇指1,拇指2,拇指3,食指1,食指2,食指3,中指1,中指2,中指3,无名指1,无名指2,无名指3,小指1,小指2,小指3;
所述隐性回归树中回归节点与隐关节和手指关节间的关系由包含手结构的二叉树定义,如图3所示,具体如下:包含手几何结构的二叉树定义为:树的根节点包含所有关节,子节点包含的关节为父节点关节的二分子集,二叉树的左右节点包含的关节子集互斥,即二叉树的根节点表示为整个手关节集合;叶间节点为隐关节,即手关节子集;叶子节点为手指关节,每个叶子对应一个关节,对于一棵隐性回归树T,有若干个特征节点F,若干个回归节点R(以回归节点中存储偏移量为例),若干个叶子节点L:其中回归节点中包含当前隐关节到左右子关节的偏移量,总共有14个隐关节h1,h2,h3,h4,…h14,叶子节点中包含上一隐关节到当前手指关节的偏移量,总共有16个手指关节s1,s2,s3,s4,…s16,手的初始坐标为p0(手的几何中心),则p0的左右隐关节坐标h1,h2为:
h1=p0+Δrl
h2=p0+Δrr
隐关节坐标hi左右子节点坐标为:
hl=hi+Δrl
hr=hi+Δrr
其中,1≤i≤14,Δrl、Δrr为该回归节点包含的当前隐关节的左右子关节的偏移量。
其中,所述步骤3)、步骤6)、步骤9)以及步骤12)中更新隐关节坐标的方法,具体包括:
a.对于每棵隐性回归树,当前隐关节坐标由当前回归节点内包含的关节信息进行更新,得到由单棵树更新的隐关节坐标,包括:直接输出当前回归节点包含的左子关节坐标hl和右子关节坐标hr,或者,在隐关节坐标hi的基础上,加上回归节点中的左偏移量Δrl和右偏移量Δrr,得到左子关节坐标hl和右子关节坐标hr
b.对于隐性回归森林,根据每棵隐性回归树输出的隐关节坐标,更新同一个隐关节坐标的投票方式如下:
其中,1≤i≤14,hit表示第t棵隐性回归树的第i个隐关节坐标,Hi表示更新得到的隐关节新坐标,n表示隐性回归树的个数。
其中,所述步骤15)中推断手指关节最终位置的方法,具体包括:
根据每棵隐性回归树,回归节点中包含当前隐关节到左右子关节的偏移量,总共有14个隐关节h1,h2,h3,h4,…h14,叶子节点中包含上一隐关节到当前手指关节的偏移量,总共有16个手指关节s1,s2,s3,s4,…s16,手指关节坐标Sj为:
sj=hpa(sj)+Δl
其中,1≤j≤16,hpa(sj)为sj的父亲隐关节坐标,Δl为叶子节点中存储的偏移量;
得到由单棵树更新的手指关节坐标,然后对于同一个手指坐标,根据所有隐性回归树的手指关节坐标进行投票,投票方式如下:
其中,1≤j≤16,sjt表示第t棵隐性回归树的第j个手指关节坐标,Sj为投票得到的手指关节坐标,n表示隐性回归树的个数。
以上所述,仅为本发明专利较佳的实施例,但本发明专利的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明专利所公开的范围内,根据本发明专利的技术方案及其发明专利构思加以等同替换或改变,都属于本发明专利的保护范围。

Claims (7)

1.一种基于深度图的手指关节定位方法,其特征在于,所述方法包括以下步骤:
步骤1、对输入的深度图进行预处理,去除噪声,平滑图像边缘;
步骤2、利用手检测方法,去除背景,得到只包含手的深度图;
步骤3、计算整个手的几何中心坐标,同时输入到包含深度特征和手几何结构的隐性回归森林中,从根节点开始按阶段遍历每棵隐性回归树;
步骤4、对于每棵隐性回归树,遍历特征节点,根据特征节点信息从深度图中提取特征,判定进入特征节点的左分支或右分支,反复遍历特征节点,直至到达该阶段的回归节点或叶子节点;
步骤5、对于每棵隐性回归树,遍历回归节点,根据回归节点信息得到当前隐关节的左右子关节坐标;
步骤6、对于隐性回归森林,聚合所有隐性回归树当前阶段包含同一隐关节的回归节点,投票得到当前隐关节的左右子关节新坐标,并更新所有隐性回归树中左右子关节的坐标,继续并行向下遍历节点的左右分支;
步骤7、对于叶子节点,根据叶子节点信息推断出该叶子节点包含的手指关节坐标,再通过所有隐性回归树中包含相同手指关节的叶子节点分别进行投票,得到全部手指关节的最终坐标。
2.根据权利要求1所述的一种基于深度图的手指关节定位方法,其特征在于,所述步骤3至步骤7的具体过程为:
1)将手的初始几何中心坐标p0输入隐性回归树T;
2)根据第一阶段的特征节点F1,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达第一阶段的回归节点R1;
3)根据第一阶段的回归节点R1,更新隐关节1,2的坐标H1,H2,继续遍历第二阶段的特征节点F2;
4)根据第二阶段的特征节点F2,从深度图中提取特征,判定进入节点的左分支或右分支,直至到达叶子节点1或第二阶段的回归节点R2;
5)根据叶子节点1,输出手掌关节的坐标S1
6)根据第二阶段的回归节点R2,更新隐关节3,4,5的坐标H3,H4,H5,继续遍历第三阶段的特征节点F3;
7)根据第三阶段的特征节点F3,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点2或第三阶段的回归节点R3;
8)根据叶子节点2,输出拇指关节1的坐标S2
9)根据第三阶段的回归节点R3,更新隐关节6,7,8,9,10的坐标H6,H7,H8,H9,H10,继续遍历第四阶段的特征节点F4;
10)根据第四阶段的特征节点F4,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点3,4,5,6,7,8或第四阶段的回归节点R4;
11)根据叶子节点3,4,5,6,7,8,分别输出拇指关节2,拇指关节3,食指关节1,中指关节1,无名指关节1,小指关节1的坐标S3,S4,S5,S6,S7,S8
12)根据第四阶段的回归节点R4,更新隐关节11,12,13,14的坐标H11,H12,H13,H14,继续遍历第五阶段的特征节点F5;
13)根据第五阶段的特征节点F5,从深度图中提取特征,判定进入特征节点的左分支或右分支,直至到达叶子节点9,10,11,12,13,14,15,16;
14)根据叶子节点9,10,11,12,13,14,15,16,分别输出食指关节2,食指关节3,中指关节2,中指关节3,无名指关节2,无名指关节2,小指关节2,小指关节3的坐标S9,S10,S11,S12,S13,S14,S15,S16
15)最后,根据所有隐性回归树的手指关节坐标推断出手指关节的最终位置。
3.根据权利要求1所述的一种基于深度图的手指关节定位方法,其特征在于:所述所有隐性回归树都分为五个阶段:第一个阶段包含多层特征节点F和单层回归节点R,第二到第四个阶段包含多层特征节点F和单层回归节点R或叶子节点L,最后阶段只包含特征节点F和叶子节点L,其中,特征节点包含深度特征信息,回归节点包含当前隐关节的左右子关节坐标信息,叶子节点包含该叶子节点代表的手指关节信息。
4.根据权利要求2所述的一种基于深度图的手指关节定位方法,其特征在于,所述步骤3)、步骤6)、步骤9)以及步骤12)中更新隐关节坐标的方法,具体包括:
a.对于每棵隐性回归树,当前隐关节坐标由当前回归节点内包含的关节信息进行更新,得到由单棵树更新的隐关节坐标;
b.对于隐性回归森林,根据每棵隐性回归树输出的隐关节坐标,更新同一个隐关节坐标的投票方式如下:
H i = Σ t = 1 n h i t n
其中,1≤i≤14,hit表示第t棵隐性回归树的第i个隐关节坐标,n表示隐性回归树的个数。
5.根据权利要求2所述的一种基于深度图的手指关节定位方法,其特征在于,所述步骤15)中推断手指关节最终位置的方法,具体包括:
根据每棵隐性回归树,得到由单棵树更新的手指关节坐标,然后对于同一个手指坐标,根据所有隐性回归树的手指关节坐标进行投票,投票方式如下:
S j = Σ t = 1 n s j t n
其中,1≤j≤16,sjt表示第t棵隐性回归树的第j个手指关节坐标,n表示隐性回归树的个数。
6.根据权利要求1或2所述的一种基于深度图的手指关节定位方法,其特征在于,所述隐性回归树的回归节点中隐关节和手指关节间的关系由包含手结构的二叉树定义,具体如下:
手总共包含16个手指关节,标记为手掌0,拇指1,拇指2,拇指3,食指1,食指2,食指3,中指1,中指2,中指3,无名指1,无名指2,无名指3,小指1,小指2,小指3;
其中,包含手几何结构的二叉树定义为:树的根节点包含所有关节,子节点包含的关节为父节点关节的二分子集,二叉树的左右节点包含的关节子集互斥,即二叉树的根节点表示为整个手关节集合;叶间节点为隐关节,即手关节子集;叶子节点为手指关节,每个叶子对应一个关节。
7.根据权利要求4所述的一种基于深度图的手指关节定位方法,其特征在于,所述步骤a中由当前回归节点内包含的关节信息更新当前隐关节坐标,具体包括:
直接输出当前回归节点包含的左子关节坐标hl和右子关节坐标hr,或者,在隐关节坐标hi的基础上,加上回归节点中的左偏移量Δrl和右偏移量Δrr,得到左子关节坐标hl和右子关节坐标hr
CN201710001287.3A 2017-01-03 2017-01-03 一种基于深度图的手指关节定位方法 Active CN106709951B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710001287.3A CN106709951B (zh) 2017-01-03 2017-01-03 一种基于深度图的手指关节定位方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710001287.3A CN106709951B (zh) 2017-01-03 2017-01-03 一种基于深度图的手指关节定位方法

Publications (2)

Publication Number Publication Date
CN106709951A true CN106709951A (zh) 2017-05-24
CN106709951B CN106709951B (zh) 2019-10-18

Family

ID=58906607

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710001287.3A Active CN106709951B (zh) 2017-01-03 2017-01-03 一种基于深度图的手指关节定位方法

Country Status (1)

Country Link
CN (1) CN106709951B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110516638A (zh) * 2019-08-30 2019-11-29 大连海事大学 一种基于轨迹和随机森林的手语识别方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103984928A (zh) * 2014-05-20 2014-08-13 桂林电子科技大学 基于景深图像的手指手势识别方法
WO2015139750A1 (en) * 2014-03-20 2015-09-24 Telecom Italia S.P.A. System and method for motion capture
CN105389539A (zh) * 2015-10-15 2016-03-09 电子科技大学 一种基于深度数据的三维手势姿态估计方法及系统
CN105787439A (zh) * 2016-02-04 2016-07-20 广州新节奏智能科技有限公司 一种基于卷积神经网络的深度图像人体关节定位方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015139750A1 (en) * 2014-03-20 2015-09-24 Telecom Italia S.P.A. System and method for motion capture
CN103984928A (zh) * 2014-05-20 2014-08-13 桂林电子科技大学 基于景深图像的手指手势识别方法
CN105389539A (zh) * 2015-10-15 2016-03-09 电子科技大学 一种基于深度数据的三维手势姿态估计方法及系统
CN105787439A (zh) * 2016-02-04 2016-07-20 广州新节奏智能科技有限公司 一种基于卷积神经网络的深度图像人体关节定位方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
DANHANG TANG ET AL;: "《Latent Regression Forest: Structured Estimation of 3D Articulated Hand Posture》", 《2014 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 *
夏倩 等;: "《基于kinect的自动视频抠像算法》", 《计算机工程与设计》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110516638A (zh) * 2019-08-30 2019-11-29 大连海事大学 一种基于轨迹和随机森林的手语识别方法
CN110516638B (zh) * 2019-08-30 2022-09-27 大连海事大学 一种基于轨迹和随机森林的手语识别方法

Also Published As

Publication number Publication date
CN106709951B (zh) 2019-10-18

Similar Documents

Publication Publication Date Title
CN103971102B (zh) 基于手指轮廓和决策树的静态手势识别方法
US10679146B2 (en) Touch classification
CN103226387B (zh) 基于Kinect的视频人手指尖定位方法
CN107103613B (zh) 一种三维手势姿态估计方法
Ma et al. Kinect Sensor‐Based Long‐Distance Hand Gesture Recognition and Fingertip Detection with Depth Information
CN106650687A (zh) 一种基于深度信息和骨骼信息的姿势矫正方法
US20160125243A1 (en) Human body part detection system and human body part detection method
CN109753891A (zh) 基于人体关键点检测的足球运动员姿势校准方法及系统
Bhuyan et al. Fingertip detection for hand pose recognition
CN107424161B (zh) 一种由粗至精的室内场景图像布局估计方法
CN104517100B (zh) 手势预判方法和系统
CN109598234A (zh) 关键点检测方法和装置
CN108052884A (zh) 一种基于改进残差神经网络的手势识别方法
CN103226388A (zh) 一种基于Kinect的手写方法
CN103793683B (zh) 手势辨识方法与电子装置
CN106971130A (zh) 一种以人脸为参照的手势识别方法
CN116226691A (zh) 用于手势姿态感知的智能戒指数据处理方法
CN109685145A (zh) 一种基于深度学习和图像处理的小物件检测方法
CN108304819A (zh) 姿态识别系统及方法、存储介质
CN106886741A (zh) 一种基手指识别的手势识别方法
JP2016014954A (ja) 手指形状の検出方法、そのプログラム、そのプログラムの記憶媒体、及び、手指の形状を検出するシステム。
CN106874913A (zh) 一种菜品检测方法
CN103186241B (zh) 一种交互桌面触点左右手识别方法
CN106970701A (zh) 一种手势变化识别方法
CN106709951B (zh) 一种基于深度图的手指关节定位方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant