CN106778141B - 基于手势识别的解锁方法、装置及移动终端 - Google Patents

基于手势识别的解锁方法、装置及移动终端 Download PDF

Info

Publication number
CN106778141B
CN106778141B CN201710026469.6A CN201710026469A CN106778141B CN 106778141 B CN106778141 B CN 106778141B CN 201710026469 A CN201710026469 A CN 201710026469A CN 106778141 B CN106778141 B CN 106778141B
Authority
CN
China
Prior art keywords
frame
gesture
gestures
point coordinate
frame images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710026469.6A
Other languages
English (en)
Other versions
CN106778141A (zh
Inventor
刘倩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yuanxin Information Technology Group Co ltd
Original Assignee
Yuanxin Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yuanxin Technology filed Critical Yuanxin Technology
Priority to CN201710026469.6A priority Critical patent/CN106778141B/zh
Publication of CN106778141A publication Critical patent/CN106778141A/zh
Application granted granted Critical
Publication of CN106778141B publication Critical patent/CN106778141B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Abstract

本公开涉及一种基于手势识别的解锁方法、装置及移动终端。一种基于手势识别的解锁方法,包括:步骤一,对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N‑1;步骤二,分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票;步骤三,对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标;步骤四,重复上述步骤一至三直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列;步骤五,将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。本公开可以实现基于非接触式手势识别的解锁,提高系统的安全性和用户操作的便捷性。

Description

基于手势识别的解锁方法、装置及移动终端
技术领域
本公开涉及电数字数据处理技术领域,具体而言,涉及一种基于手势识别的解锁方法、装置及移动终端。
背景技术
随着手机功能的强大化和手机连接互联网的功能日益先进,手机支付日益兴起,使得手机这一私密物品被外界入侵的可能性越来越大,甚至会丢失掉手机里的重要信息,手机安全问题吸引了越来越多的关注。
目前,比较普遍的手机的加密方式主要有密码解锁、图形解锁、指纹解锁等。
密码解锁是最古老且被延续至今的解锁方式。通过设置一串独特而只有用户自己明白含义的密码来保证手机的安全。不能否认长密码组合带来的安全性是较佳的,然而安全性得到保证的同时却完全丧失了用户操作的便捷性,且用户需要记住大量繁琐的密码是一种沉重的负担。
作为与密码解锁同时代诞生的解锁方式,图形解锁也已经成为大众化的解锁方式,通过画个图案就可以替代输入一长串密码,其在一定程度上兼顾了安全性与操作便捷性两方面。
Touch ID的指纹解锁进一步升级了手机解锁方式,按压式指纹解锁摆脱了图形解锁方式中的滑动式解锁带来的不便,在便捷性和安全性两方面都带来了极大的提升。然而指纹解锁带来的另一个问题也值得深思,同样是安全性。尽管可以将Touch ID录入的指纹通过硬件加密保存在处理器的特定部位,然而即使是硬件加密依旧有被破解的可能性。指纹不同于普通密码,密码被破解了,修改一个即可。指纹却是伴随每个用户一生不可更改的标志,倘若指纹丢失其后果不堪设想,但是从手机上却很容易采集到用户的指纹。
因此,现有技术中的技术方案还存在有待改进之处。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种基于手势识别的解锁方法、装置及移动终端,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
本公开的其他特性和优点将通过下面的详细描述变得清晰,或者部分地通过本公开的实践而习得。
根据本公开的一个方面,提供一种基于手势识别的解锁方法,包括:
步骤一,对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N-1;
步骤二,分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票;
步骤三,对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标;
步骤四,重复上述步骤一至三直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列;
步骤五,将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
在本公开的一种示例性实施例中,还包括:
获取第一帧手势图像的第一目标框的第一中心点坐标,并记录所述第一目标框中的特征点相对于所述第一中心点坐标的距离向量序列。
在本公开的一种示例性实施例中,还包括:
获取所述N帧手势图像,采用预设算子检测提取所述N帧手势图像中的特征点并采用预设描述子表述所述特征点。
在本公开的一种示例性实施例中,所述预设算子包括FAST算子,所述预设描述子包括BRIEF描述子,获取长度为n位的BRIEF描述子表述所述特征点。
在本公开的一种示例性实施例中,所述获取N帧手势图像包括:
捕获M×N帧手势图像;
从所述M×N帧手势图像中每间隔M-1帧选择一帧,从而获取所述N帧手势图像。
在本公开的一种示例性实施例中,还包括:获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
在本公开的一种示例性实施例中,还包括:根据所述预设目标图片在所述N帧手势图像中分别定位出目标框。
在本公开的一种示例性实施例中,所述步骤二包括:
剔除第i+1目标框中的部分匹配特征点;
分别根据剔除后剩余的第i+1目标框中的另一部分匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票。
根据本公开的一个方面,提供一种基于手势识别的解锁装置,包括:
特征点匹配模块,用于对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N-1;
中心投票模块,用于分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框
的第i+1中心点坐标进行投票;
中心点坐标获取模块,用于对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标;
手势序列获取模块,用于重复调用所述特征点匹配模块、所述中心投票模块和所述中心点坐标获取模块直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列;
解锁模块,用于将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
在本公开的一种示例性实施例中,还包括:
初始化模块,用于获取第一帧手势图像的第一目标框的第一中心点坐标,并记录所述第一目标框中的特征点相对于所述第一中心点坐标的距离向量序列。
在本公开的一种示例性实施例中,还包括:预设密码获取模块,用于获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
根据本公开的一个方面,提供一种移动终端,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器被配置为所述处理器被配置为执行上述所述的基于手势识别的解锁方法。
本公开实施方式所提供的基于手势识别的解锁方法、装置及移动终端中,通过前后两帧的匹配特征点中心投票的方式获取各帧手势图像的中心点坐标,从而能够得到精确的手势序列,判断当前手势序列是否与预设手势密码序列是否匹配来确定此次解锁是否成功,从而可以实现非接触式手势解锁,不需要按压触摸屏或者在触摸屏上滑动即可实现快捷的解锁,提高了系统的安全性,同时也解放了用户的双手,使得用户操作起来更便捷。因此,相比于现有技术,在示例性实施例中的解锁方案可以实现更佳的用户体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本公开示例性实施例中一种基于手势识别的解锁方法的流程示意图。
图2为本公开示例性实施例中另一种基于手势识别的解锁方法的流程示意图。
图3A-3G为本公开示例性实施例中又一种基于手势识别的解锁方法的示意图。
图4为本公开示例性实施例中一种基于手势识别的解锁装置的方框示意图。
图5为本公开示例性实施例中一种移动终端的方框示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
基于机器视觉的手势识别是通过计算机对传感器(例如camera)采集的原始图像或图像序列数据进行处理和分析,让机器学习和理解其中的动作和行为的含义。一般在运动检测、特征提取的基础之上,通过分析获得手的运动模式,建立视频内容和动作类型描述之间的映射关系,以使计算机能够“看”视频或“理解”视频。
手势识别、非接触式识别是下一代人机交互形式的方向,其不同于传统的触摸屏(手指滑动+点按)交互方式指令动作单一机械、安全性低、手势交互的指令复杂以及用户的使用成本较高。对安全等级要求非常高的系统而言,可以接受在军工等特定场景中使用更安全的基于手势识别的交互方法。
鉴于此,本公开结合先进的手势识别技术,提出了一种新的用于移动终端的安全的加解密方式。
在本公开示例性实施例中首先提供了一种基于手势识别的解锁方法,可以应用于一移动终端。在示例性实施例中,所述移动终端例如可以为手机、平板电脑以及PDA等,本公开对此不作限定。所述移动终端操作系统可以为Android操作系统,也可以为iOS、Windows等其他操作系统,本示例性实施例中对此不做特殊限定。参考图1中所示,在示例性实施例中,所述基于手势识别的解锁方法10可以包括以下步骤:
步骤S100.判断i是否大于等于1且小于等于N-1即是否满足1≤i≤N-1,其中i为正整数,N为大于等于2的正整数;当满足1≤i≤N-1时,执行步骤S110;当不满足1≤i≤N-1时,例如i等于N时,跳转到步骤S150。
在示例性实施例中,基于手势识别的解锁方法10还可以包括以下步骤:获取第一帧手势图像的第一目标框的第一中心点坐标(x0,y0),并记录所述第一目标框中的特征点相对于第一中心点坐标(x0,y0)的距离向量序列。
在示例性实施例中,基于手势识别的解锁方法10还可以包括以下步骤:获取所述N帧手势图像,采用预设算子检测提取所述N帧手势图像中的特征点并采用预设描述子表述所述特征点。
本发明实施例中,可以通过安装在移动终端上的摄像头拍摄获取所述N帧手势图像。其中所述N帧手势图像中包含跟踪目标(例如,用户的手或者手指)的动态变化。但本公开不限定于此,具体获取N帧手势图像的方法可以采用任意的可实现手段。
在示例性实施例中,基于手势识别的解锁方法10还可以包括对所述N帧手势图像预处理的步骤,将获取的N帧手势图像进行灰度化,并将其尺寸缩小至同样尺寸大小(例如128×128像素)。本公开其他实施例中还可以包括对所述N帧手势图像的其他预处理步骤,这部分可参考现有技术中的图像预处理技术,在此不再赘述。
在示例性实施例中,所述预设算子包括FAST算子,所述预设描述子包括BRIEF描述子,获取长度为n位的BRIEF描述子表述所述特征点。
为了得到手势轨迹,本公开实施例中采用基于特征点匹配的跟踪算法来得到手势的运动轨迹。该方法通过提取图像中的特征元素,在连续帧图像上对这些特征进行匹配从而实现目标跟踪。图像特征是图像中呈现的特有属性。本公开采用ORB(Oriented BRIEF)特征匹配的方法,ORB特征的实现过程如下:
利用FAST算子对当前帧手势图像进行特征点检测,得到当前帧的所有FAST特征点;对当前帧的FAST特征点生成BRIEF描述子,得到长度为n的二进制串;进入下一帧手势图像,以下一帧手势图像作为当前帧对其重复前述两个步骤的过程,得到该帧手势图像的FAST特征点及其BRIEF描述子。
特征提取就是在每帧图像中把用于跟踪的特征提取出来的过程,一个优秀的特征有以下特点:与跟踪目标的特性相符,具有一定程度上的直观意义;可区分不同的图像内容,有良好的分类能力;可简单计算,满足快速识别的需求;满足仿射不变性。
本发明实施例中,可以采用实时性非常高的FAST算子来进行跟踪目标的特征提取。从某一帧中选取一个像素点P,假设它的亮度值(或者灰度值)为Ip。设定一个阈值t。考虑以像素点P为中心的一个预设半径(例如,半径等于3像素)的离散化的Bresenham圆,这个圆的边界上有16个像素点,如果在这16个像素点上有预定个数(例如,9个)连续的像素点,该9个连续的像素点的像素值要么比Ip+t大,要么比Ip+t小,那么像素点P就可以认为是一个特征点。本发明实施例中采用预设半径为3,共有16个周边像素点比较,为了提高比较的效率,可以只使用16个像素点中的一部分的像素点来比较,例如FAST-9。采用此种方法可以加快FAST特征点检测的速度。
采用FAST算子检测提取图像的特征点的方式并不局限于上述实施例例举的方式,例如,还可以以像素点P为圆心,预设半径的圆周周围每隔90度角提取4个像素点,获取提取的4个像素点灰度值与像素点P灰度值之差;如四个差值中至少三个差值大于设定阈值t,则认为像素点P为一个特征点,否则,认为像素点P不为一个特征点。
本发明实施例中,通过FAST算子检测出了特征点,接着可以采用BRIEF作为特征描述方法将特征点表述为一个bit串(二进制串)便于计算机识别。可以在特征点周围选择一个图像块(例如,该图像块的大小可以为31×31),根据以这个图像块的中心q为原点的高斯分布选取n个点对(例如n=128或者256等,本公开对此不作限定),然后对于每一个点对(p,q),比较这两个点的亮度值(或者灰度值)I(p)和I(q)。如果I(p)>I(q),则这个点对生成了bit串中一个为1的值;如果I(p)<I(q),则对应在bit串中一个为-1的值;其他情况下生成一个为0的值。所有n个点对,都进行比较之后,就生成了一个n长的bit串。
基于FAST特征点以及BRIEF描述子匹配的算法运算效率非常高,在嵌入式设备如手机、平板电脑等有限的内存空间存储以及计算资源的产品中拥有很好的应用前景。
需要说明的是,本发明其他实施例中还可以采用其他的算法进行特征点提取及描述,例如SIFT算法、Harris角点检测算法和SUSAN算法等,本公开对此不作限定。但是这些算法的计算量都很大,不利于一些实时跟踪的应用或者在低功耗产品上的应用。与SIFT算法相比,ORB算法不仅具有旋转不变性和抗噪声能力,同时运算速度比SIFT算法提高了两个数量级。
在示例性实施例中,所述获取N帧手势图像包括:捕获M×N帧手势图像;从所述M×N帧手势图像中每间隔M-1帧选择一帧,从而获取所述N帧手势图像。
例如,可以设定M=2,即假设移动终端(例如手机)的摄像头捕获了2N帧手势图像,为了提高效率,每间隔一帧选择一帧加入至所述N帧手势图像,从而根据该N帧手势图像得到手势序列的轨迹集合。
在示例性实施例中,基于手势识别的解锁方法10还可以包括以下步骤:获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
本发明实施例中,可以通过移动终端的摄像头首先拍摄获取用户设置的预设手势图像,并对该预设手势图像进行处理,得到预设手势密码序列以及该预设手势密码序列对应的跟踪目标的预设目标图片,例如,假设用户通过右手的中指进行预设手势密码的设置,则该预设目标图片为一在预设手势图像中框选的包括该用户的右手的中指的图片。
在示例性实施例中,基于手势识别的解锁方法10还可以包括以下步骤:根据所述预设目标图片在所述N帧手势图像中分别定位出目标框。
本发明实施例中,可以通过上述的N帧手势图像中每一帧的特征点分别去匹配所述预设目标图片,找到相似度最高的区域框选作为该帧的目标框。
在示例性实施例中,所述预设目标图片和所述N帧手势图像的目标框中包括跟踪目标的图像信息。
在示例性实施例中,还可以以一预设物体(例如戒指)佩戴于用户的手指上,将该预设物体作为跟踪目标替代不规则易形变的手,从而可以简化识别目标难度。
步骤S110.对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点。
在示例性实施例中,对第i帧手势图像和第i+1帧手势图像进行特征点的匹配可以通过以下方式:计算第i帧手势图像和第i+1帧手势图像的给定两个长度为n位的BRIEF描述子之间的汉明距离,取汉明距离最小的第i帧手势图像和第i+1帧手势图像的FAST特征点作为匹配成功的特征点。汉明距离的计算方法可参考现有技术。
计算特征点的相对位置,可以以目标框的中心来进行计算,对于不形变的物体而言,不管物体怎么移动旋转,其上面的特征点相对中心的距离在缩放比例下是确定的,因此可以由此来排除不是的特征点。直接计算当前帧的目标框中的特征点,并与上一帧的目标框中的特征点进行匹配,得到相匹配的特征点。
特征匹配的过程就是在当前帧中找到与跟踪目标相似度最大的候选目标区域。本发明实施例中可以不将整个手势图像作为一个整体来匹配跟踪,而是跟踪在目标运动中目标框中的特征点,从而可以极大的减小计算复杂度,提高匹配效率。
步骤S120.分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票。
在示例性实施例中,步骤S120可以进一步包括以下步骤:剔除第i+1目标框中的部分匹配特征点;分别根据剔除后剩余的第i+1目标框中的另一部分匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票。
具体的,对相邻的两帧图像误匹配的ORB特征点进行剔除,剔除方法可以为:求相邻两帧图像中所有匹配特征点两两之间的距离,取得其距离的最小值记为min_dist,将特征点距离大于B乘以min_dist的特征点进行剔除,B取值范围可以为6-10;在本实施例中可以取10,但本公开不限定于此。
步骤S130.对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标。
本发明实施例中,可以对投票获取的第i+1中心点坐标进行求算法平均,从而获取第i+1目标框的第i+1中心点坐标,但本公开对具体的数学处理方式不作限定。
步骤S140.i的值递增1,然后继续跳回到步骤S100判断递增1后的i是否满足1≤i≤N-1;当i满足1≤i≤N-1时,重复执行上述步骤S110至步骤S130获取下一帧(此时将下一帧作为当前帧)的中心点坐标。
步骤S150.获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列。
本发明实施例中,根据所述N个中心点坐标获取手势轨迹序列包括:对所述N个中心点坐标进行轨迹拟合和平滑处理,获取所述手势轨迹序列。具体的轨迹拟合和轨迹平滑方式可以参考现有技术,本公开对此不作展开论述。
步骤S160.将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
本发明实施例中,可以设置所述预设阈值为0.8,但本公开对此不做限定。将通过上述步骤得到的手势轨迹序列与预设手势密码序列做比对,匹配度大于0.8则解锁;否则解锁失败,显示密码错误。
综上所述,本示例实施方式所提供的基于手势识别的解锁方法,通过前后两帧的匹配特征点中心投票的方式获取各帧手势图像的中心点坐标,从而能够得到精确的手势序列,判断当前手势序列是否与预设手势密码序列是否匹配来确定此次解锁是否成功,从而可以实现非接触式手势解锁,不需要按压触摸屏或者在触摸屏上滑动即可实现快捷的解锁,提高了系统的安全性,同时也解放了用户的双手,使得用户操作起来更便捷。因此,相比于现有技术,在示例性实施例中的解锁方案可以实现更佳的用户体验。
下面通过图2和图3A-3G的实施例对上述方法进行进一步的详细说明。
图2为本公开示例性实施例中另一种基于手势识别的解锁方法的流程示意图。
如图2所示,在示例性实施例中,所述基于手势识别的解锁方法20可以包括以下步骤:
步骤S200.打开相机预览框。
可以首先打开手机的相机预览框,设置预设密码手势,在相机预览框中画出预设手势密码,录入获取一预设手势密码序列,例如图3A中的类似“8”的手势轨迹。然后,当进入手势解锁过程时,打开手机,进入解锁界面,显示相机预览框。
步骤S202.录入手势,获取N帧手势图像。
步骤S204.检测N帧手势图像中的特征点。
步骤S206.匹配前后两帧手势图像中目标框内的特征点。
上述步骤S202-206的具体实现过程可以参考图1所述的实施例,在此不再赘述。
步骤S208.根据匹配的特征点获取各帧手势图像的目标框的中心点坐标。
参考图3B所示,假设为该N帧手势图像中的第一帧手势图像100,建立以第一帧手势图像100的中心为坐标原点O,水平方向为X轴,垂直方向为Y轴的坐标系,通过框选获取第一帧手势图像100中的第一目标框110,第一目标框110中假设包括6个特征点(具体的特征点个数根据应用场景的不同而不同,本公开对此不作限定),该第一目标框110的第一中心点坐标在该第一帧手势图像100的坐标系中的坐标位置假设为(x0,y0),上述6个特征点相对于该第一中心点坐标(x0,y0)的距离向量假设分别为d11、d12、d13、d14、d15以及d16,如图中的箭头所示,各个距离向量包括各特征点相对于第一中心点坐标的相对距离和方向信息。
参考图3C所示,假设为该N帧手势图像中的第二帧手势图像200,建立以第一帧手势图像200的中心为坐标原点O,水平方向为X轴,垂直方向为Y轴的坐标系,通过框选获取第二帧手势图像200中的第二目标框210,通过匹配第一帧手势图像100的第一目标框100中的特征点和第二帧手势图像200的第二目标框210中的特征点,获取到六个匹配的特征点,通过ORB特征点跟踪算法剔除第6个特征点,还剩余5个剔除后的特征点d11、d12、d13、d14、d15,将该剔除后的5个特征点d11、d12、d13、d14、d15分别在第二目标框210中投票第二中心点,假设获得了5个投票后的第二中心点坐标假设分别为(x11,y11)、(x12,y12)、(x13,y13)、(x14,y14)以及(x15,y15),将该投票获得的5个第二中心点的坐标进行求平均,即可获得预估的第二目标框210的第二中心点坐标(x1,y1):
参考图3D所示,在该第二目标框210中,记录各特征点相对于该第二中心点坐标(x1,y1)的距离向量d21、d22、d23、d24、d25。接着将第三帧手势图像的第三目标框中的特征点与第二帧手势图像的第二目标框中的特征点进行匹配,并剔除部分匹配后的特征点,根据剔除后的另一部分特征点的距离向量投票第三帧手势图像的第三目标框的第三中心点,将该投票获得的多个第三中心点的坐标进行求平均,即可获得预估的第三目标框的第三中心点坐标(x2,y2),以此类推可以获得N帧手势图像的目标框的全部中心点坐标集合:
L={[x0,y0],...[xi,yi],...[xN-1,yN-1]}
步骤S210.构建手势轨迹序列。
本发明实施例中,根据上述计算获得的N个中心点坐标按顺序连接可以获得如图3E所示的手势轨迹;通过轨迹拟合后可以进一步获得如图3F所示的手势轨迹;对图3F所示的手势轨迹做平滑处理,剔除偏离轨迹线过远的点,即可获得如图3G所示的手势轨迹。
步骤S212.判断该手势轨迹序列是否与预设手势密码序列相匹配;当两者匹配时,进入步骤S214;当两者不匹配时,跳转到步骤S218。
本发明实施例中,将图3G所示的手势轨迹与图3A所示的预设手势轨迹进行匹配。
步骤S214.发送相应手势响应指令。
本发明实施例中,采用的是微手势,即手势中的特征点及其运动轨迹组成一套简化后的手势,此手势轨迹序列对应更高级别的执行行为,识别该手势轨迹序列向绑定的view发送响应消息,从而能更好的应用在移动终端,使得交互变得更加简约自然。
步骤S216.执行解锁行为。
步骤S218.发送无效操作识别失败指令。
步骤S220.判断是否重新识别;如果重新识别,则跳回到步骤S202;反之,进入步骤S222。
步骤S222.结束。
本示例实施方式所提供的基于手势识别的解锁方法,区别于传统的触摸屏手势解锁方式,通过图像处理和模式识别的算法实现非接触式解锁,解放了双手,提高了移动终端操作的便捷性和用户交互的舒适度。另一方面,本公开采用ORB特征和中心投票的目标跟踪方法非常高效,这是传统系统基于繁杂的学习和训练的手势识别库的匹配方法所难以企及的。同时,本发明的误操作率低,带给用户前所未有的优质体验。
本发明实施例中的其他内容可以参考上述实施例,在此不再赘述。
图4为本公开示例性实施例中一种基于手势识别的解锁装置40的方框示意图。
如图4所示,该基于手势识别的解锁装置40可以包括:特征点匹配模块400、中心投票模块410、中心点坐标获取模块420、手势序列获取模块430以及解锁模块440。其中,该基于手势识别的解锁装置40可以应用于一移动终端。
其中特征点匹配模块400可以用于对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N-1。
其中中心投票模块410可以用于分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票。
其中中心点坐标获取模块420可以用于对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标。
其中手势序列获取模块430可以用于重复调用所述特征点匹配模块、所述中心投票模块和所述中心点坐标获取模块直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列。
其中解锁模块440可以用于将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
继续参考图4,在示例性实施例中,基于手势识别的解锁装置40可以进一步包括:初始化模块450,其可以用于获取第一帧手势图像的第一目标框的第一中心点坐标,并记录所述第一目标框中的特征点相对于所述第一中心点坐标的距离向量序列。
继续参考图4,在示例性实施例中,基于手势识别的解锁装置40可以进一步包括:预设密码获取模块460,其可以用于获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
上述基于手势识别的解锁装置中各模块/单元的具体细节已经在对应的基于手势识别的解锁方法中进行了详细的描述,因此此处不再赘述。
进一步的,本实施方式还提供了一种移动终端,包括处理器;以及存储器,用于存储所述处理器的可执行指令。
其中,所述处理器被配置为可执行上述任意实施例所述的基于手势识别的解锁方法。
图5为本公开示例性实施例中一种移动终端800的框图。例如,移动终端800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,移动终端800可以包括以下一个或多个组件:处理组件802,存储器804,电力组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制移动终端800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在移动终端800的操作。这些数据的示例包括用于在移动终端800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电力组件806为移动终端800的各种组件提供电力。电力组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在移动终端800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当移动终端800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当移动终端800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为移动终端800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为移动终端800的显示器和小键盘,传感器组件814还可以检测移动终端800或移动终端800一个组件的位置改变,用户与移动终端800接触的存在或不存在,移动终端800方位或加速/减速和移动终端800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于移动终端800和其他设备之间有线或无线方式的通信。移动终端800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,移动终端800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器,上述指令可由电子设备的处理器执行以完成在示例性实施例中的上述技术方案。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
应当注意,尽管在上文详细描述中提及了用于动作执行的装置/设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。

Claims (12)

1.一种基于手势识别的解锁方法,其特征在于,包括:
步骤一,对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N-1;
步骤二,分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票;
步骤三,对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标;
步骤四,重复上述步骤一至三直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列;
步骤五,将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
2.根据权利要求1所述的解锁方法,其特征在于,在所述步骤一之前,所述方法还包括:
获取第一帧手势图像的第一目标框的第一中心点坐标,并记录所述第一目标框中的特征点相对于所述第一中心点坐标的距离向量序列。
3.根据权利要求1所述的解锁方法,其特征在于,在所述步骤一之前,所述方法还包括:
获取所述N帧手势图像,采用预设算子检测提取所述N帧手势图像中的特征点并采用预设描述子表述所述特征点。
4.根据权利要求3所述的解锁方法,其特征在于,所述预设算子包括FAST算子,所述预设描述子包括BRIEF描述子,获取长度为n位的BRIEF描述子表述所述特征点。
5.根据权利要求3所述的解锁方法,其特征在于,所述获取N帧手势图像包括:
捕获M×N帧手势图像;
从所述M×N帧手势图像中每间隔M-1帧选择一帧,从而获取所述N帧手势图像。
6.根据权利要求1所述的解锁方法,其特征在于,在所述步骤一之前,所述方法还包括:获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
7.根据权利要求6所述的解锁方法,其特征在于,还包括:根据所述预设目标图片在所述N帧手势图像中分别定位出目标框。
8.根据权利要求1所述的解锁方法,其特征在于,所述步骤二包括:
剔除第i+1目标框中的部分匹配特征点;
分别根据剔除后剩余的第i+1目标框中的另一部分匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票。
9.一种基于手势识别的解锁装置,其特征在于,包括:
特征点匹配模块,用于对第i帧手势图像和第i+1帧手势图像进行特征点的匹配,获取第i+1帧手势图像的第i+1目标框中的匹配特征点,其中1≤i≤N-1;
中心投票模块,用于分别根据第i+1目标框中的匹配特征点的距离向量对第i+1目标框的第i+1中心点坐标进行投票;
中心点坐标获取模块,用于对投票获取的第i+1中心点坐标进行预设处理,获取第i+1目标框的第i+1中心点坐标;
手势序列获取模块,用于重复调用所述特征点匹配模块、所述中心投票模块和所述中心点坐标获取模块直至获取N帧手势图像的N个中心点坐标,并根据所述N个中心点坐标获取手势轨迹序列;
解锁模块,用于将所述手势轨迹序列与一预设手势密码序列进行匹配,当匹配度大于预设阈值时,判定解锁成功。
10.根据权利要求9所述的解锁装置,其特征在于,还包括:
初始化模块,用于获取第一帧手势图像的第一目标框的第一中心点坐标,并记录所述第一目标框中的特征点相对于所述第一中心点坐标的距离向量序列。
11.根据权利要求9所述的解锁装置,其特征在于,还包括:预设密码获取模块,用于获取预设手势密码信息,其中所述预设手势密码信息包括预设手势密码序列以及相应的预设目标图片。
12.一种移动终端,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器被配置为执行上述权利要求1-8中任意一项所述的基于手势识别的解锁方法。
CN201710026469.6A 2017-01-13 2017-01-13 基于手势识别的解锁方法、装置及移动终端 Active CN106778141B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710026469.6A CN106778141B (zh) 2017-01-13 2017-01-13 基于手势识别的解锁方法、装置及移动终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710026469.6A CN106778141B (zh) 2017-01-13 2017-01-13 基于手势识别的解锁方法、装置及移动终端

Publications (2)

Publication Number Publication Date
CN106778141A CN106778141A (zh) 2017-05-31
CN106778141B true CN106778141B (zh) 2019-09-20

Family

ID=58946546

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710026469.6A Active CN106778141B (zh) 2017-01-13 2017-01-13 基于手势识别的解锁方法、装置及移动终端

Country Status (1)

Country Link
CN (1) CN106778141B (zh)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107261498A (zh) * 2017-06-08 2017-10-20 深圳市乃斯网络科技有限公司 终端基于手势的游戏控制方法及系统
CN107358072B (zh) * 2017-07-17 2019-12-27 兰州交通大学 基于i码和cff码的矢量地图数字指纹版权保护方法
CN108875579B (zh) * 2018-05-15 2022-08-05 厦门大学 一种基于形态学的近景手势识别方法
CN108647698B (zh) * 2018-05-21 2021-11-30 西安电子科技大学 特征提取与描述方法
CN110532835A (zh) * 2018-05-24 2019-12-03 柯刚铠 解锁方法及电子装置
CN109885444B (zh) * 2019-01-16 2022-03-15 深圳壹账通智能科技有限公司 基于手势识别的测试方法、装置、存储介质及终端设备
CN110457877B (zh) * 2019-07-31 2021-09-14 中国工商银行股份有限公司 用户认证方法和装置、电子设备、计算机可读存储介质
CN110956124A (zh) * 2019-11-27 2020-04-03 云南电网有限责任公司电力科学研究院 一种基于手势的显示设备控制方法和显示设备
CN111462174B (zh) * 2020-03-06 2023-10-31 北京百度网讯科技有限公司 多目标跟踪方法、装置以及电子设备
CN111639573B (zh) * 2020-05-22 2023-07-07 广州宇中网络科技有限公司 基于orb算法的手势识别方法、存储介质及电子设备
CN112926518A (zh) * 2021-03-29 2021-06-08 上海交通大学 基于视频的复杂场景下手势密码轨迹还原系统
CN113377193A (zh) * 2021-05-25 2021-09-10 广州紫为云科技有限公司 一种基于可靠手势识别的自动售货机交互方法及系统
CN114327047A (zh) * 2021-12-01 2022-04-12 北京小米移动软件有限公司 设备控制方法、设备控制装置及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102693025A (zh) * 2011-03-21 2012-09-26 中国科学院软件研究所 一种多点触摸交互系统的触摸手识别方法
CN103208002A (zh) * 2013-04-10 2013-07-17 桂林电子科技大学 基于手轮廓特征的手势识别控制方法和系统
CN105468200A (zh) * 2015-12-22 2016-04-06 周奇 一种指纹触控的方法、装置及指纹设备
CN105550565A (zh) * 2015-10-30 2016-05-04 东莞酷派软件技术有限公司 一种解锁方法以及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102693025A (zh) * 2011-03-21 2012-09-26 中国科学院软件研究所 一种多点触摸交互系统的触摸手识别方法
CN103208002A (zh) * 2013-04-10 2013-07-17 桂林电子科技大学 基于手轮廓特征的手势识别控制方法和系统
CN105550565A (zh) * 2015-10-30 2016-05-04 东莞酷派软件技术有限公司 一种解锁方法以及装置
CN105468200A (zh) * 2015-12-22 2016-04-06 周奇 一种指纹触控的方法、装置及指纹设备

Also Published As

Publication number Publication date
CN106778141A (zh) 2017-05-31

Similar Documents

Publication Publication Date Title
CN106778141B (zh) 基于手势识别的解锁方法、装置及移动终端
US11330012B2 (en) System, method, and device of authenticating a user based on selfie image or selfie video
US10437970B2 (en) User authentication and data encryption
CN107066983B (zh) 一种身份验证方法及装置
US10395018B2 (en) System, method, and device of detecting identity of a user and authenticating a user
Jain et al. Exploring orientation and accelerometer sensor data for personal authentication in smartphones using touchscreen gestures
US9547760B2 (en) Method and system for authenticating user of a mobile device via hybrid biometics information
Corcoran Biometrics and consumer electronics: A brave new world or the road to dystopia?[Soapbox]
Neal et al. Surveying biometric authentication for mobile device security
CN104850827B (zh) 指纹识别方法及装置
CN106355141B (zh) 可携式电子装置及其操作方法
US9202027B2 (en) Private/public gesture security system and method of operation thereof
CN109032675A (zh) 终端设备的屏幕解锁方法、装置及终端设备
US9021270B1 (en) Combining wake-up and unlock into a single gesture
Koong et al. A user authentication scheme using physiological and behavioral biometrics for multitouch devices
Amin et al. Biometric and traditional mobile authentication techniques: Overviews and open issues
US20200218793A1 (en) Passive identification of a kiosk user
WO2020253495A1 (zh) 一种屏幕锁定的控制方法、装置、手持终端以及存储介质
WO2018103416A1 (zh) 用于人脸图像的检测方法和装置
WO2022048352A1 (zh) 基于面部表情的解锁方法、装置、计算机设备和存储介质
Temper et al. Touch to authenticate—Continuous biometric authentication on mobile devices
CN107247936A (zh) 图像识别方法及装置
US20200275271A1 (en) Authentication of a user based on analyzing touch interactions with a device
US11762966B2 (en) Methods and devices for operational access grants using facial features and facial gestures
Aleluya et al. Faceture ID: face and hand gesture multi-factor authentication using deep learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20210205

Address after: 101300 room 153, 1 / F, building 17, 16 Caixiang East Road, Nancai Town, Shunyi District, Beijing

Patentee after: Yuanxin Information Technology Group Co.,Ltd.

Address before: 100176 room 2222, building D, building 33, 99 Kechuang 14th Street, Beijing Economic and Technological Development Zone, Beijing

Patentee before: BEIJING YUANXIN SCIENCE & TECHNOLOGY Co.,Ltd.

TR01 Transfer of patent right
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20170531

Assignee: Beijing Yuanxin Junsheng Technology Co.,Ltd.

Assignor: Yuanxin Information Technology Group Co.,Ltd.

Contract record no.: X2021110000018

Denomination of invention: Unlocking method, device and mobile terminal based on gesture recognition

Granted publication date: 20190920

License type: Common License

Record date: 20210531

EE01 Entry into force of recordation of patent licensing contract