CN111596757A - 一种基于指尖交互的手势控制方法和装置 - Google Patents

一种基于指尖交互的手势控制方法和装置 Download PDF

Info

Publication number
CN111596757A
CN111596757A CN202010254566.2A CN202010254566A CN111596757A CN 111596757 A CN111596757 A CN 111596757A CN 202010254566 A CN202010254566 A CN 202010254566A CN 111596757 A CN111596757 A CN 111596757A
Authority
CN
China
Prior art keywords
fingertip
gesture
position information
interaction
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010254566.2A
Other languages
English (en)
Inventor
林宗宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to CN202010254566.2A priority Critical patent/CN111596757A/zh
Publication of CN111596757A publication Critical patent/CN111596757A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请涉及人机交互技术领域,提出一种基于指尖交互的手势控制方法、装置、终端设备和存储介质。本申请通过检测用户各个指尖的交互手势以及各个指尖在手势检测空间中的位置信息,然后根据检测到的指尖交互手势和指尖的位置,确定对应的操作指令,以完成对终端设备执行的操作。基于不同的指尖交互方式和指尖移动方式,能够构建并关联多种不同的操作指令,因此用户只需在手势控制空间中做出各种指尖交互手势,并结合指尖的移动,就能够同时输入不同的操作指令,以实现对终端设备的复杂操作。

Description

一种基于指尖交互的手势控制方法和装置
技术领域
本申请涉及人机交互技术领域,尤其涉及一种基于指尖交互的手势控制方法、装置、终端设备和存储介质。
背景技术
随着电子设备智能化的发展,用户与手机、电脑、电视等电子设备之间的交互和控制方式不断更新,目前已经推出手势控制的方式。手势控制,指用户无需借助任何输入工具,只需在电子设备的检测区域内做出各种手势,就可以实现对电子设备的各类操作,比如打开某个应用,拖动某个图标等。
现有的手势控制方式,通常是预设各个手势和各个操作动作之间的一一对应关系,即每个手势对应一种类型的操作动作。然而,这种手势交互方式每次只能输入一种操作指令,故通常只能实现比较简单的操作,面对复杂的操作则无能为力。
发明内容
有鉴于此,本申请实施例提供了一种基于指尖交互的手势控制方法、装置、终端设备和存储介质,能够同时输入不同的操作指令,以实现对终端设备进行复杂的操作。
本申请实施例的第一方面提供了一种基于指尖交互的手势控制方法,包括:
检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
本申请实施例通过检测用户各个指尖的交互手势以及各个指尖在手势检测空间中的位置信息,然后根据检测到的指尖交互手势和指尖的位置,确定对应的操作指令,以完成对终端设备执行的操作。基于不同的指尖交互方式和指尖移动方式,能够构建并关联多种不同的操作指令,因此用户只需在手势控制空间中做出各种指尖交互手势,并结合指尖的移动,就能够同时输入不同的操作指令,以实现对终端设备的复杂操作。
进一步的,所述根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作可以包括:
识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;
查找预设的与所述指尖交互手势组合关联的操作动作;
根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作。
基于不同的指尖交互手势组合,能够构建并关联多种不同的操作指令,因此用户只需在手势控制空间中做出各种不同的指尖交互手势,就能实现对终端设备的复杂操作。
进一步的,所述检测所述各个指尖在手势检测空间中的位置信息可以包括:
检测触发手势控制时所述各个指尖在所述手势检测空间中的初始位置信息、所述各个指尖在所述手势检测空间中的移动轨迹以及当前所述各个指尖在所述手势检测空间中的目标位置信息;
所述根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作可以包括:
结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作。
各个指尖的位置信息包括初始位置信息、移动轨迹和当前的目标位置信息,结合这些位置信息和识别手势得到的操作动作,可以确定对终端设备执行的目标操作。比如,识别手势得到的操作动作为移动光标,检测到的指尖的初始位置信息处于空间的左下角,各个指尖朝空间的右上角移动,当前的目标位置信息处于空间的右上角,则可以确定对终端设备执行的目标操作为,控制光标从终端显示界面的左下角移动至右上角。
更进一步的,所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作可以包括:
根据所述初始位置信息、所述移动轨迹和所述目标位置信息计算得到所述各个指尖移动的速度和方向;
结合所述各个指尖移动的速度和方向,以及所述操作动作,确定对终端设备执行的目标操作。
还可以进一步考虑指尖移动的速度和方向,对于同一个指尖交互手势,不同的指尖移动速度和方向,可以分别对应不同的操作。比如对某个终端设备,指尖交互手势A可以被预设为返回桌面和进入多任务界面两种操作的对应手势,用户做出手势A并快速往上滑动是返回桌面的操作,用户做出手势A并缓慢往上滑动则是进入多任务界面的操作。
进一步的,在确定对终端设备执行的目标操作之前,还可以包括:
获取所述终端设备当前的操作场景信息;
所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作可以包括:
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,触发对所述终端设备执行的一个以上的预设事件;
和/或
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,控制所述终端设备的显示界面中一个以上的目标对象进行移动;
和/或
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,调整所述终端设备的显示界面的视角。
触发的预设事件,可以包括但不限于电脑光标的点击操作,光标的辅助点击操作,打开电子设备音量调节开关,打开某个应用软件等。移动的目标对象,可以是终端设备显示界面的光标,也可以是终端设备已打开的某个游戏软件中的人物对象等。对于显示界面的视角调整,可以包括但不限于绘图工具的模型视角调整,游戏人物的视角调整等。
进一步的,在查找预设的与所述指尖交互手势组合关联的操作动作之后,还可以包括:
若所述操作动作为所述终端设备的显示界面中对于光标的点击操作,则统计所述相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间;
根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作。
更进一步的,所述根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作可以包括:
若所述持续时间处于预设的第一时长内,则确定所述点击操作为单击操作;
若所述间隔时间处于预设的第二时长内,则确定所述点击操作为双击操作;
若所述持续时间超过预设的第三时长,则确定所述点击操作为长按操作。
通过统计相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间,来进一步区分点击操作的类型,从而可以实现更丰富、更实用的手势控制操作。
本申请实施例的第二方面提供了一种基于指尖交互的手势控制装置,包括:
手势检测模块,用于检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
操作确定模块,用于根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
本申请实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如本申请实施例的第一方面提供的基于指尖交互的手势控制方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如本申请实施例的第一方面提供的基于指尖交互的手势控制方法的步骤。
本申请实施例的第五方面提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行本申请实施例的第一方面所述的基于指尖交互的手势控制方法的步骤。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
附图说明
下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种基于指尖交互的手势控制方法的第一个实施例的流程图;
图2是本申请实施例提供的一种基于指尖交互的手势控制方法的第二个实施例的流程图;
图3是本申请实施例提供的一种基于指尖交互的手势控制方法的第三个实施例的流程图;
图4是本申请实施例提供的基于指尖交互的手势控制方法所应用的终端系统包含的功能模块的示意图;
图5是本申请实施例提供的基于指尖交互的手势控制方法所采用的一种指尖交互手势的示意图;
图6是采用本申请实施例提供的基于指尖交互的手势控制方法对电脑光标进行移动的示意图;
图7是采用本申请实施例提供的基于指尖交互的手势控制方法对电脑光标进行点击操作的示意图;
图8是采用本申请实施例提供的基于指尖交互的手势控制方法对电脑光标进行拖拽操作的示意图;
图9是采用本申请实施例提供的基于指尖交互的手势控制方法对电脑光标进行辅助点击操作的示意图;
图10是采用本申请实施例提供的基于指尖交互的手势控制方法对手机光标进行移动的示意图;
图11是采用本申请实施例提供的基于指尖交互的手势控制方法对手机光标进行点击操作的示意图;
图12是采用本申请实施例提供的基于指尖交互的手势控制方法对手机光标进行双击操作的示意图;
图13是采用本申请实施例提供的基于指尖交互的手势控制方法对手机图片进行拖动查看的示意图;
图14是采用本申请实施例提供的基于指尖交互的手势控制方法对手机光标进行辅助点击操作的示意图;
图15是本申请实施例提供的基于指尖交互的手势控制方法应用于射击游戏操作的示意图;
图16是本申请实施例提供的一种基于指尖交互的手势控制装置的一个实施例的结构图;
图17是本申请实施例提供的一种终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
本申请实施例提供了一种基于指尖交互的手势控制方法、装置、终端设备和存储介质,应当理解,本申请各个方法实施例的执行主体为待执行手势操控的各种类型的终端设备或者服务器,具体可以包括手机、平板电脑、可穿戴设备、笔记本电脑、车载设备、增强现实(AR)设备,虚拟现实(VR)设备、个人数字助理(Personal Digital Assistant,PDA)、数字电视等电子设备。
请参阅图1,示出了本申请实施例中一种基于指尖交互的手势控制方法,包括:
101、检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
在执行本申请实施例的手势控制方法时,用户可以站在待操控的终端设备(比如某个手机、电脑或者数字电视)的手势检测空间中,利用单手或者双手的指尖进行交互做出各种手势,比如拇指指尖和食指指尖接触,食指指尖和中指指尖接触,食指指尖、中指指尖和无名指指尖接触等方式做出的手势,这里的指尖可以定义为手指末端的整个可活动关节的部位。
接着,该终端设备可以检测到该用户的指尖交互手势以及各个指尖的位置信息。应当理解,该终端设备可以包括手势检测模块、数据处理模块、存储模块和显示模块等功能模块。其中,该手势检测模块可以检测该手势检测空间中用户做出的指尖交互手势以及各个指尖的空间位置信息,具体可以采用摄像头、红外传感器、超声波传感器和电磁感应器件等各种类型的信号捕捉器件,本申请不对采用的器件进行限定,应当理解为任何能够检测用户的指尖交互手势以及各个指尖的位置信息的器件,均可用于实现该手势检测模块;该数据处理模块可以对检测到的手势以及指尖位置等数据进行处理,转化为对应的操作动作;该存储模块可以存储预先设置的各种不同类型的指尖交互手势,以及这些指尖交互手势分别对应的操作动作;该显示模块可以用于显示相应的操作结果。
102、根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
在检测到由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息之后,即可根据该目标手势和该位置信息,确定对该终端设备执行的目标操作。具体的,可以预先构建并存储各个不同指尖交互手势、不同指尖的位置信息分别对应的操作,终端系统将查找该目标手势以及该位置信息所对应的操作,确定为当前该终端设备要执行的操作。另外,通过检测各个指尖在手势检测空间中的位置信息,可以得到指尖的移动轨迹,指尖移动与指尖交互的距离和方向等其它信息,这些其它信息同样可以用于确定对终端设备执行的目标操作。这种指尖交互手势仅用单手或双手就能实现各种复杂的操作,不容易错误识别,且可以同时进行多种操作,实现较为复杂的操作指令。
本申请实施例通过检测用户各个指尖的交互手势以及各个指尖在手势控制空间中的位置信息,然后根据检测到的指尖交互手势和指尖的位置,确定对应的操作指令,以完成对终端设备执行的操作。基于不同的指尖交互方式和指尖移动方式,能够构建并关联多种不同的操作指令,因此用户只需在手势控制空间中做出各种指尖交互手势,并结合指尖的移动,就能够同时输入不同的操作指令,以实现对终端设备的复杂操作。
请参阅图2,示出了本申请实施例中另一种基于指尖交互的手势控制方法,包括:
201、检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
步骤201的具体说明,可以参照步骤101。
另外,在本申请实施例中,所述检测所述各个指尖在手势检测空间中的位置信息可以包括:
检测触发手势控制时所述各个指尖在所述手势检测空间中的初始位置信息、所述各个指尖在所述手势检测空间中的移动轨迹以及当前所述各个指尖在所述手势检测空间中的目标位置信息。
用户做出的指尖交互手势,可能是一个移动的手势,因此检测到的指尖位置信息,可能是出现变化的一系列位置信息。在此,需要检测触发手势控制时各个指尖在手势检测空间中的初始位置信息,可用空间坐标(x1,y1,z1)表示;在指尖移动的过程中,各个指尖的移动轨迹,这部分移动轨迹可通过检测每个指尖在移动过程中各个时刻所处的轨迹点获得;各个指尖当前在手势检测空间中的目标位置信息,可用空间坐标(x2,y2,z2)表示。另外,需要说明的是,本申请不对检测位置信息的指尖数量进行限定,比如可以检测用户的所有手指指尖的位置信息,可以检测用户的其中一个或多个手指指尖的位置信息,也可以只检测用户的相互接触的手指指尖的位置信息。
一般来说,在确定指尖交互手势当前所处的点坐标时,使用检测到的任意一个指尖的位置坐标即可,这是由于在手势移动的过程中,各个手指指尖一般都是共同移动的。但也存在特殊情况,比如4个手指排成一列,以某个手指为轴进行旋转的手势移动方式,在这种方式下,作为旋转轴的手指的指尖的位置坐标不变,而距离旋转轴的手指越远的手指,其指尖位置坐标变化的幅度越大。针对该特殊情况,可以计算各个手指指尖的位置坐标的平均值,作为指尖交互手势当前所处的点坐标。
202、识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;
在本申请实施例中,手指指尖交互的方式是:空间中,各个手指指尖相互接触的手势。通过识别该目标手势中相互接触的二个以上的指尖,可以得到对应的指尖交互手势组合。这里所说的指尖接触,可以是手指末端的整个可活动关节部分的接触。采用手指指尖接触的手势,与用户的手所处的空间位置无关,与手的朝向无关,也即无论用户是在空间的哪个位置做出指尖交互手势,或者手以什么样的朝向做出指尖交互手势,只要指尖接触的方式是一致(比如都为食指指尖和中指指尖接触)的,那么执行的都是一样的操作指令。
应当理解,可以预设多种不同的指尖交互手势组合,每种组合可以分别对应一种预设的不同操作动作。比如:
两指的指尖交互手势组合可以包括:拇指和食指接触,拇指和中指接触,拇指和无名指接触,拇指和小指接触,食指和中指接触,食指和无名指接触,食指和小指接触,中指和无名指接触,中指和小指接触,无名指和小指接触。
三指的指尖交互手势组合可以包括:拇指、食指和中指接触,拇指、食指和无名指接触,拇指、食指和小指接触,拇指、中指和无名指接触,拇指、中指和小指接触,拇指、无名指和小指接触,食指、中指和无名指接触,食指、中指和小指接触,食指、无名指和小指接触,中指、无名指和小指接触。
四指的指尖交互手势组合可以包括:拇指、食指、中指和无名指接触,拇指、食指、中指和小指接触,拇指、食指、无名指和小指接触,拇指、中指、无名指和小指接触,食指、中指、无名指和小指接触。
五指的指尖交互手势组合可以包括:拇指、食指、中指、无名指和小指接触。
应当理解的是,以上所述的三指的指尖交互手势组合,四指的指尖交互手势组合,五指的指尖交互手势组合并不特指每个手指的指尖都必须与另外的所有指尖接触的类型。比如,在三指的指尖交互手势组合中,拇指、食指和中指接触这个组合既包括拇指、食指和中指三者相互接触的类型,也包括拇指和食指接触,食指和中指接触,但拇指没有和中指接触的类型。四指的指尖交互手势组合,五指的指尖交互手势组合与此同理。
203、查找预设的与所述指尖交互手势组合关联的操作动作;
在识别得到该目标手势的指尖交互手势组合之后,查找预设的与该指尖交互手势组合关联的操作动作。比如,若该目标手势为食指指尖和中指指尖接触的指尖交互手势组合,关联的可以是移动光标的操作动作;若该目标手势为拇指指尖和无名指指尖接触的指尖交互手势组合,关联的可以是点击的操作动作。
204、根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作。
最后,根据查找到的与该目标手势的指尖交互手势组合
关联的操作动作,以及各个指尖的位置信息,确定对终端设备执行的目标操作。比如,启动一个或多个功能事件,控制一个或多个目标对象进行移动,或者调整显示界面的视角等操作。
进一步的,步骤204可以包括:
结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作。
各个指尖的位置信息包括初始位置信息、移动轨迹和当前的目标位置信息,结合这些位置信息和识别手势得到的操作动作,可以确定对终端设备执行的目标操作。比如,识别手势得到的操作动作为移动光标,检测到的指尖的初始位置信息处于空间的左下角,各个指尖朝空间的右上角移动,当前的目标位置信息处于空间的右上角,则可以确定对终端设备执行的目标操作为,控制光标从终端显示界面的左下角移动至右上角。应当注意的是,光标是实时随着手势的移动而移动的,这是一种位置相互对应的连续移动的过程。
另外,用户在做手势的时候,难免会出现轻微的手部抖动现象,这种抖动现象不应视作手势的移动。为了解决由于手部抖动而误触发手势移动操作的问题,可以设置一些去抖动的措施,比如当检测到指尖交互手势时,等待一定时长(比如0.5秒),待手部抖动停止后才开始检测手势是否移动;又或者当检测到手势移动的幅度较小,且移动方向来回迅速变化时,将当前的手势移动判定为抖动现象,不视作触发手势移动指令。
更进一步的,所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作可以包括:
(1)根据所述初始位置信息、所述移动轨迹和所述目标位置信息计算得到所述各个指尖移动的速度和方向;
(2)结合所述各个指尖移动的速度和方向,以及所述操作动作,确定对终端设备执行的目标操作。
还可以进一步考虑指尖移动的速度和方向,对于同一个指尖交互手势,不同的指尖移动速度和方向,可以分别对应不同的操作。比如对某个终端设备,指尖交互手势A可以被预设为返回桌面和进入多任务界面两种操作的对应手势,用户做出手势A并快速往上滑动是返回桌面的操作,用户做出手势A并缓慢往上滑动则是进入多任务界面的操作。
进一步的,在确定对终端设备执行的目标操作之前,还可以包括:获取所述终端设备当前的操作场景信息。所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作可以包括以下三部分操作中的一个或多个:
(1)结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,触发对所述终端设备执行的一个以上的预设事件。
触发的预设事件,可以包括但不限于电脑光标的点击操作,光标的辅助点击操作,打开电子设备音量调节开关,打开某个应用软件等。相同的手势,在不同的操作场景下可以对应触发不同的预设事件,比如终端设备处于桌面状态,手势A用于打开某个应用软件;而若终端设备处于某个应用软件的使用状态,手势A可以用于点击该应用软件的某个功能项,等等。
(2)结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,控制所述终端设备的显示界面中一个以上的目标对象进行移动。
移动的目标对象,可以是终端设备显示界面的光标,也可以是终端设备已打开的某个游戏软件中的人物对象等,在此不做限定。针对不同的操作场景,具备不同的可移动对象,同一个手势可以分别移动不同的对象。另外,针对该光标的展示样式和出现的位置,本申请不做限定。比如预设的光标样式可以是任意形状,颜色,透明度的光标;光标可以常驻在终端显示界面上,可以在终端显示界面的任意位置出现。当用户解除光标移动的指尖交互手势或指尖停止移动时,则光标停止移动。
在数据处理上,指尖空间移动的轨迹数据会通过数据处理模块转化为终端设备显示界面上光标的移动轨迹。指尖移动的空间轨迹与光标移动的空间轨迹按照预设的移动算法进行对应转换,依据终端设备实际需要可以采用不同的算法。比如,操作手机时为1:1的比例(即指尖在空间中移动1cm,则光标在终端显示界面中也移动1cm)控制,操作电视时为1:5(即指尖在空间中移动1cm,则光标在终端显示界面中移动5cm)的比例控制。
为了更准确地表述指尖移动幅度和光标移动幅度之间的对应关系,还可以引入鼠标DPI的概念。鼠标DPI是指鼠标的定位精度,单位是dpi或者cpi,指鼠标每移动一英寸指针在屏幕上移动的点数,比如对于400cpi的鼠标,该鼠标每向左移动一英寸时,会向计算机发出400次的左移信号,控制指针左移400个像素点的距离。采用指尖交互手势代替鼠标后,同样可以设置一个类似于鼠标DPI的定位精度数值,来确定指尖每移动单位距离对应的光标移动的距离,比如设为500,表示指尖每移动1cm,则光标在终端显示界面上移动500个像素点的距离。另外,针对不同的终端设备,基于显示界面的大小存在差别,指尖交互手势的定位精度数值可以设置为不同的数值。
具体的,光标等目标对象的移动方向可以和指尖移动的方向一致,比如当指尖向上移动时,光标也向上移动;当指尖向左移动时,光标也向左移动;当指尖向前移动时,光标也向前移动,以此类推。需要说明的是,这种对应关系并不是固定的,而是取决于终端显示界面与用户的位置关系,比如显示界面在用户的正前方,则指尖在XZ轴对应面投影的移动轨迹对应于光标的移动轨迹,此时指尖进行前后移动时,XZ轴对应面投影位置不会变动,光标也不会移动。如果显示界面是在用户的下方,比如将手机平放在桌面,此时指尖在XY轴对应面投影的移动轨迹对应于手机光标的移动轨迹,此时指尖进行上下移动时。XY轴对应面指尖的投影位置不会变动,光标也不会移动。
另外,当控制的目标对象可在二维平面移动时,该目标对象的移动轨迹与指尖在空间某一面投影的移动轨迹相关。当控制的目标对象可在三维空间移动时,该目标对象的移动轨迹跟随指尖在三维空间的移动轨迹一一对应。比如,指尖在手势检测空间中沿某个特定方向移动,可以控制目标对象在自身所处的三维空间中沿与该特定方向对应的方向移动。也即,在三维空间中,可以采用手势拖拽移动某个物品的空间位置。需要注意的是,所述的三维空间包括在二维屏幕上显示的三维空间内容,以及全息投影,虚拟现实的三维空间,AR,VR等。
(3)结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,调整所述终端设备的显示界面的视角。
对于显示界面的视角调整,可以包括但不限于绘图工具的模型视角调整,游戏人物的视角调整等。比如,用户想要从各个方向的不同视角察看绘图软件中的某个立方体模型,则可以使用指尖交互手势控制该立方体模型沿各个方向转动,以便于察看该立方体模型各个部位的细节。
本申请实施例通过检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息,识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合,然后查找预设的与所述指尖交互手势组合关联的操作动作,最后根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作。基于不同的指尖交互手势组合,能够构建并关联多种不同的操作指令,因此用户只需在手势控制空间中做出各种不同的指尖交互手势,就能实现对终端设备的复杂操作。
请参阅图3,示出了本申请实施例中另一种基于指尖交互的手势控制方法,包括:
301、检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
302、识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;
303、查找预设的与所述指尖交互手势组合关联的操作动作;
步骤301-303与步骤201-203相同,具体可参照步骤201-203的相关说明。
304、若所述操作动作为所述终端设备的显示界面中对于光标的点击操作,则统计所述相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间;
若根据目标手势识别到的操作动作为终端设备的显示界面中对于光标的点击操作,则统计该相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间。这里的点击操作,可以包括普通的点击操作(比如单击鼠标的左键)以及辅助点击操作(比如单击鼠标的右键,手机对触控屏的重力按压等操作)。
305、根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作;
然后,根据统计到的指尖单次接触的持续时间以及两次接触之间的间隔时间,可以进一步区分该点击操作为单击操作、双击操作或者长按操作,不同类型的点击操作可以对终端设备执行不同的功能操作。
进一步的,所述根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作可以包括:
(1)若所述持续时间处于预设的第一时长内,则确定所述点击操作为单击操作;
(2)若所述间隔时间处于预设的第二时长内,则确定所述点击操作为双击操作;
(3)若所述持续时间超过预设的第三时长,则确定所述点击操作为长按操作。
比如,当检测到指尖单次接触的持续时间在0.5秒以内,则可以确定对应的点击操作为光标等对象的单击操作;当检测到指尖单次接触的持续时间超过0.5秒,则可以确定对应的点击操作为光标等对象的长按操作;当检测到指尖两次接触之间的间隔时间在0.5秒以内,可以确定对应的点击操作为光标等对象的双击操作。具体的时长阈值可以根据需求任意设定,本申请对此不做限制。
306、根据所述点击操作和所述位置信息,确定对终端设备执行的目标操作。
最后,根据识别的点击操作和各个指尖的位置信息,确定对终端设备执行的目标操作,比如若识别的点击操作为单击操作,则选取终端设备显示界面中某个应用软件的图标;若识别的点击操作为双击操作,则打开终端设备显示界面中的某个应用软件;若识别的点击操作为长按操作,则展示终端设备显示界面中的某个应用软件的属性菜单,等等。
近一步地,光标的移动操作,点击操作和辅助点击操作可以互相结合,形成组合操作。比如,在点击操作的同时执行移动操作,可以形成拖拽图标的操作,等等。
本申请实施例通过检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;识别该目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;查找预设的与该指尖交互手势组合关联的操作动作;若识别的操作动作为终端设备的显示界面中对于光标的点击操作,则统计该相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间,根据该持续时间和该间隔时间,确定该点击操作为单击操作、双击操作或者长按操作,最后根据该点击操作和该位置信息,确定对终端设备执行的目标操作。与本申请前面两个实施例相比,本申请实施例会通过统计相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间,来进一步区分点击操作的类型,从而可以实现更丰富、更实用的手势控制操作。
应理解,上述各个实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
图4为本申请提出的手势控制方法所应用的终端系统包含的各个功能模块的示意图。在图4中,待操控的终端设备包含4个功能模块,分别是手势检测模块、数据处理模块、存储模块和显示模块。其中,手势检测模块用于检测空间中用户做出的指尖交互手势以及各个指尖的空间位置信息;数据处理模块用于对检测到的手势以及指尖位置等数据进行处理,转化为对应的操作动作;存储模块用于存储预先设置的各种不同类型的指尖交互手势,以及这些指尖交互手势分别对应的操作动作;显示模块用于显示相应的操作结果。
本申请提出的是一种基于指尖交互的手势控制方法,具体可以是识别相互接触的二个以上的指尖形成的手势组合。采用手指指尖接触的手势,与用户的手所处的空间位置无关,与手的朝向无关,也即无论用户是在空间的哪个位置做出指尖交互手势,或者手以什么样的朝向做出指尖交互手势,只要指尖接触的方式是一致(比如都为食指指尖和中指指尖接触)的,那么执行的都是一样的操作指令。
图5示出了多种不一样的手势,在传统的手势控制方法中,这些手势可能被判定为不同的手势。而对于本申请,由于这些手势都是食指指尖和中指指尖接触,因此它们是等价的,属于同一种手势,用于输入同一种操作指令。这是本申请的独特之处,即便其它手指(拇指、无名指和小指)被遮挡,也不会影响到该手势的识别。
为便于理解,下面以几个实际应用场景来说明本申请提出的各个基于指尖交互的手势控制方法。
图6至图9是本申请提出的基于指尖交互的手势控制方法应用于控制电脑光标的场景示意图。采用该手势控制方法,能够解决用户由于不方便(比如用手在吃零食)接触鼠标或触控板等输入设备,导致的无法控制电脑光标的问题。
在该应用场景中,对光标进行移动的指尖交互手势预设为食指指尖与中指指尖接触,作用相当于用鼠标移动光标。在采用指尖交互手势移动光标时,随着用户指尖的移动,终端设备显示界面的光标按照预设算法进行移动。比如,若预设算法为指尖与光标按照1:3的比例进行移动,且指尖在手势检测空间中移动1cm,则光标在电脑显示界面中对应移动3cm。
场景中预设的光标点击操作的指尖交互手势为拇指指尖与无名指指尖接触,相当于点击鼠标左键。预设的辅助点击操作的指尖交互手势为拇指指尖与小指指尖接触,相当于点击鼠标右键。另外,对于光标的点击操作,还进一步区分为单击操作、双击操作或者长按操作。比如,可以预设指尖接触松开时间在0.5秒内为光标单击操作,指尖先后两次接触的间隔在0.5秒内为双击操作,指尖接触时间超过0.5秒为长按操作。对于光标的辅助点击操作,可以预设指尖接触松开时间在0.5秒内为光标单击辅助操作,指尖先后两次接触的间隔在0.5秒内为双击辅助操作,指尖接触时间超过0.5秒为长按辅助操作。至此,即可使用手势基本实现鼠标的操作功能。
图6是采用指尖交互手势对电脑光标进行移动的示意图,其中图6(a)为电脑显示界面中光标的原始位置,图6(b)为电脑显示界面中光标移动后的位置,图6(c)为控制移动光标的指尖交互手势,即食指指尖与中指指尖接触的手势。应当理解,图6(c)仅示出右手的指尖交互手势,用户使用左手做出该指尖交互手势也可以实现相同的效果。
在操作之前,应确保该电脑或其他与该电脑建立控制关系的电子设备已打开指尖交互手势控制功能,并预设了各种指尖交互手势。该电脑利用摄像头或其他检测设备检测到用于光标移动的指尖交互手势时,可改变显示界面中光标的属性(比如颜色、大小、形状和透明度等),以提示当前进入手势控制模式。
在操作时,用户在该电脑的手势检测空间中做出如图6(c)所示的指尖交互手势,并保持该食指指尖与中指指尖接触的手势,向空间的左上方移动。在这个过程中,电脑显示界面中的光标会从图6(a)所示的中间位置移动至图6(b)所示的左上角位置,用户指尖的移动和光标的移动是同步的,效果和采用鼠标移动光标一致。
图7是采用指尖交互手势对电脑光标进行点击操作的示意图,其中图7(a)为电脑显示界面中光标未点击的状态示意图,可见图标“我的电脑”未被选取;图7(b)为电脑显示界面中光标已点击的状态示意图,可见图标“我的电脑”已被选取;图7(c)为控制光标点击的指尖交互手势,即拇指指尖与无名指指尖接触的手势,作用与点击鼠标左键一致;图7(d)是图7(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该电脑的手势检测空间中做出如图7(c)所示的指尖交互手势,拇指指尖和无名指指尖在设定时间内(比如0.5秒)接触并松开,则相当于单击鼠标左键,效果为选中图7(b)中的图标。进一步的,若用户拇指指尖和无名指指尖在设定时间内(比如0.5秒)先后接触并松开两次,则相当于双击鼠标左键,可用于打开图标对应的应用程序。若用户拇指指尖和无名指指尖接触且不松开的时间超过设定时间(比如0.5秒),则相当于长按鼠标左键。
图8是采用指尖交互手势对电脑光标进行拖拽操作的示意图,其中,图8(a)为电脑显示界面中图标未被拖拽的状态示意图,图标处于显示界面左上角;图8(b)为电脑显示界面中图标被拖拽后的状态示意图,图标处于显示界面中部上方;图8(c)为控制光标点击的指尖交互手势,即拇指指尖与无名指指尖接触的手势,作用与点击鼠标左键一致;图8(d)是图8(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该电脑的手势检测空间中做出如图8(c)所示的指尖交互手势,拇指指尖和无名指指尖接触后不要松开,与此同时手势向空间右侧移动,即可拖拽电脑显示界面中的图标移动,效果与使用鼠标长按左键并拖动一致。
图9是采用指尖交互手势对电脑光标进行辅助点击操作的示意图,其中,图9(a)为电脑显示界面中图标未被辅助点击时的状态示意图;图9(b)为电脑显示界面中图标被辅助点击后的状态示意图;图9(c)为控制光标辅助点击操作的指尖交互手势,即拇指指尖与小指指尖接触的手势,作用与点击鼠标右键一致;图9(d)是图9(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该电脑的手势检测空间中做出如图9(c)所示的指尖交互手势,拇指指尖和小指指尖在设定时间内(比如0.5秒)接触并松开,则相当于单击鼠标右键,效果为打开图9(b)中图标的辅助菜单。
图10至图14是本申请提出的基于指尖交互的手势控制方法应用于控制手机光标的场景示意图。按照现有的交互控制方案,在某些情景下,用户是不便使用触控屏操控手机的,比如戴手套的情况,又或者用户躺在床上看手机,手机通过支架架在床头,距离用户的手较远的情况。本申请提出采用指尖交互的手势控制方法,能够有效解决这些情景下的操作不便问题。
在该应用场景中,对光标进行移动的指尖交互手势预设为食指指尖与中指指尖接触,作用相当于在触控屏上移动手机光标。在采用指尖交互手势移动光标时,随着用户指尖的移动,手机显示界面的光标按照预设算法进行移动。比如,若预设算法为指尖与光标按照1:1的比例进行移动,且指尖在手势检测空间中移动1cm,则光标在手机显示界面中对应移动1cm。
场景中预设的光标点击操作的指尖交互手势为拇指指尖与无名指指尖接触,相当于手指点击触控屏。预设的光标辅助点击操作的指尖交互手势为拇指指尖与小指指尖接触,相当于手指用力按压触控屏。另外,对于光标的点击操作,还可以进一步区分为单击操作、双击操作或者长按操作。比如,可以预设指尖接触松开时间在0.5秒内为光标单击操作,指尖先后两次接触的间隔在0.5秒内为双击操作,指尖接触时间超过0.5秒为长按操作。对于光标的辅助点击操作,可以预设指尖接触松开时间在0.5秒内为光标单击辅助操作,指尖先后两次接触的间隔在0.5秒内为双击辅助操作,指尖接触时间超过0.5秒为长按辅助操作。至此,即可使用手势基本实现触控屏的操作功能。
图10是采用指尖交互手势对手机光标进行移动的示意图,其中图10(a)为手机显示界面中光标的原始位置,图10(b)为手机显示界面中光标移动后的位置,图10(c)为控制移动光标的指尖交互手势,即食指指尖与中指指尖接触的手势。应当理解,图10(c)仅示出右手的指尖交互手势,用户使用左手做出该指尖交互手势也可以实现相同的效果。
在操作之前,应确保该手机已打开指尖交互手势控制功能,并预设了各种指尖交互手势。该手机利用摄像头或其他检测设备检测到用于光标移动的指尖交互手势时,可改变显示界面中光标的属性(比如颜色、大小、形状和透明度等),以提示当前进入手势控制模式。
在操作时,用户在该手机的手势检测空间中做出如图10(c)所示的指尖交互手势,并保持该食指指尖与中指指尖接触的手势,向空间的正上方移动。在这个过程中,手机显示界面中的光标会从图10(a)所示的中间位置向正上方移动,最终到达“微信”图标所处的位置,如图10(b)所示。用户指尖的移动和光标的移动是同步的,效果和采用触控屏移动光标一致。
图11是采用指尖交互手势对手机光标进行点击操作的示意图,其中图11(a)为手机显示界面中光标未点击的状态示意图,光标处于“微信”图标的位置;图11(b)为手机显示界面中光标已点击的状态示意图,“微信”应用软件已打开;图11(c)为控制光标点击的指尖交互手势,即拇指指尖与无名指指尖接触的手势,作用与手指点击触控屏一致;图11(d)是图11(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该手机的手势检测空间中做出如图11(c)所示的指尖交互手势,拇指指尖和无名指指尖在设定时间内(比如0.5秒)接触并松开,则相当于手指点击触控屏,效果为打开图11(a)中光标所在的图标对应的应用软件。
当想要放大照片进行查看时,传统方式是用手指在触控屏上双击,进行照片放大。在本申请实施例中,可采用指尖交互手势对手机光标进行双击操作实现。
图12是采用指尖交互手势对手机光标进行双击操作的示意图。其中图12(a)为手机显示界面中未执行双击操作前的照片;图12(b)为手机显示界面中执行双击操作后的照片,可见该照片被放大显示;图12(c)为控制光标点击的指尖交互手势,即拇指指尖与无名指指尖接触的手势,作用与手指点击触控屏一致;图12(d)是图12(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该手机的手势检测空间中做出如图12(c)所示的指尖交互手势,拇指指尖和无名指指尖在设定时间内(比如0.5秒)先后接触并松开两次,则相当于手指双击触控屏,效果为放大图12(a)中的照片。
在放大照片后,若想要移动查看照片的各个部位,可以结合对光标进行移动的指尖交互手势和光标点击操作的指尖交互手势实现。图13是采用指尖交互手势对手机图片进行拖动查看的示意图,其中图13(a)为手机显示界面中放大后的照片移动前的示意图;图13(b)为手机显示界面中放大后的照片向下移动后的示意图,可以看到照片上方的内容;图13(c)为控制光标点击并移动的指尖交互手势,即食指指尖与中指指尖接触,且拇指指尖与无名指指尖接触的手势,作用与手指点击并拖动触控屏一致;图13(d)是图13(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该手机的手势检测空间中做出如图13(c)所示的指尖交互手势,食指指尖与中指指尖接触,且拇指指尖和无名指指尖接触不松开,然后手势向下方移动,效果相当于用手指点击并向下拖动触控屏,即向下拖动图13(a)的显示界面,最终获得图13(b)的显示界面。
某些手机上的触摸除了轻点之外,还有压感点击。即用力点击屏幕,触发一些快捷选项,这个点击操作称为辅助点击操作。图14是采用指尖交互手势对手机光标进行辅助点击操作的示意图。其中图14(a)为手机显示界面中对光标进行辅助点击操作前的示意图;图14(b)为手机显示界面中对光标进行辅助点击操作后的示意图,可见打开了“微信”图标的快捷选项;图14(c)为控制光标执行辅助点击操作的指尖交互手势,即拇指指尖与小指指尖接触的手势,作用与手指用力按压触控屏一致;图14(d)是图14(c)所示手势的另一个视角,便于展示该指尖交互手势中各个手指指尖的位置和状态。
在操作时,用户在该手机的手势检测空间中做出如图14(c)所示的指尖交互手势,拇指指尖与小指指尖在设定时间内(比如0.5秒)接触并松开,则相当于手指用力按压触控屏,效果为打开图14(a)中光标所在的图标的快捷选项,如图14(b)所示。
本申请提出的基于指尖交互的手势控制方法还可以应用于比较复杂的游戏操作场景。比如,对于某款射击游戏来说,具有的操作要素有控制人物的前后移动,移动的速度,跳跃,更换枪支,控制人物视角(准心位置),开枪射击,换弹等。使用电脑玩游戏时,一般需要键盘和鼠标搭配使用进行控制,或者使用游戏手柄进行控制。
为了满足复杂的游戏操作场景的需求,本申请提出的基于指尖交互的手势控制方法,可以将手势的控制区分为左手和右手,其中左手控制人物前后移动,人物移动的速度,跳跃以及更换枪支等操作。右手控制人物视角(准心位置),视角移动的速度,开枪射击,填充子弹等操作。
在预设指尖交互手势时,对于左手:预设人物前后移动的指尖交互手势为左手食指指尖与中指指尖接触;预设人物跳跃的指尖交互手势为左手姆指指尖与无名指指尖接触;预设人物更换枪支的指尖交互手势为左手拇指指尖与小指指尖接触。对于右手:预设人物视角控制(准心位置)的指尖交互手势为右手食指指尖与中指指尖接触;预设人物开枪射击的指尖交互手势为右手姆指指尖与无名指指尖接触;预设人物填充子弹的指尖交互手势为右手拇指指尖与小指指尖接触。
图15是本申请提出的基于指尖交互的手势控制方法应用于射击游戏操作的示意图。
其中,图15(a)为采用手势控制人物移动的示意图,当检测到用于控制人物前后移动的指尖交互手势时,记录当前指尖在XY面的坐标为第一交互位置点,当左手的食指指尖与中指指尖接触并在XY面(水平面)上移动时,记录该第一交互位置点在XY面的实时投影位置为第二交互位置点。第二交互位置点相对第一交互位置点的方向即为人物移动的方向,人物移动的速度可以通过第一交互位置点和第二交互位置点之间的距离控制。另外,当左手食指指尖与中指指尖接触控制人物向前移动时遇到了障碍物,无法继续前进时,可以用左手的拇指指尖与无名指指尖接触,从而控制人物向前跳跃,翻越障碍物。需要注意的是,此时左手食指指尖与中指指尖不能松开,否则将会在原地跳起来,不能向前跳跃。
图15(b)为采用手势控制人物视角(准心位置)移动的示意图,当检测到控制人物视角(准心位置)移动的指尖交互手势时,记录当前指尖在XZ面的坐标为第三交互位置点,当右手食指与中指指尖在XZ面(正面)上移动时,记录该第三交互位置点在XZ面的实时投影位置为第四交互位置点。第四交互位置点相对第三交互位置点的方向即为视角移动的方向,视角移动的速度可以通过第三交互位置点和第四交互位置点之间的距离控制。若在人物移动的过程中发现右方有敌人,需要击杀敌人,此时可以令右手食指指尖与中指指尖接触并向右移动,将准星对准敌人后,右手拇指指尖和无名指指尖接触,进行开枪射击。另外,若需要补充弹药,可以做出右手拇指指尖和小指指尖接触的手势;若人物使用的枪支已经没有弹药,可以做出左手拇指指尖与小指指尖接触的手势,操控人物更换一把有弹药的枪支或者刀具对敌人进行攻击。
图15(c)是用左手进行指尖交互手势控制的示意图,图15(d)是用右手进行指尖交互手势控制的示意图。
以上3个应用场景是本申请提出的基于指尖交互的手势控制方法进行复杂操作的展示。相比于传统的手势控制方法,采用该基于指尖交互的手势控制方法具备能够同时进行多种操作,并且移动幅度小,精准度高等优点。
上面主要描述了一种基于指尖交互的手势控制方法,下面将对一种基于指尖交互的手势控制装置进行描述。
请参阅图16,本申请实施例中一种基于指尖交互的手势控制装置的一个实施例包括:
手势检测模块401,用于检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
操作确定模块402,用于根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
进一步的,所述操作确定模块可以包括:
指尖识别单元,用于识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;
操作动作查找单元,用于查找预设的与所述指尖交互手势组合关联的操作动作;
操作识别单元,用于根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作。
更进一步的,所述手势检测模块可以包括:
指尖位置检测单元,用于检测触发手势控制时所述各个指尖在所述手势检测空间中的初始位置信息、所述各个指尖在所述手势检测空间中的移动轨迹以及当前所述各个指尖在所述手势检测空间中的目标位置信息;
所述操作识别单元具体可以用于:结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作。
更进一步的,所述操作识别单元可以包括:
指尖移动参数计算子单元,用于根据所述初始位置信息、所述移动轨迹和所述目标位置信息计算得到所述各个指尖移动的速度和方向;
操作识别子单元,用于结合所述各个指尖移动的速度和方向,以及所述操作动作,确定对终端设备执行的目标操作。
进一步的,所述手势控制装置还可以包括:
场景信息获取模块,用于获取所述终端设备当前的操作场景信息;
所述操作识别单元可以包括:
预设事件触发子单元,用于结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,触发对所述终端设备执行的一个以上的预设事件;
对象移动子单元,用于结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,控制所述终端设备的显示界面中一个以上的目标对象进行移动;
视角调整子单元,用于结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,调整所述终端设备的显示界面的视角。
进一步的,所述操作确定模块还可以包括:
操作时间统计单元,用于若所述操作动作为所述终端设备的显示界面中对于光标的点击操作,则统计所述相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间;
点击操作识别单元,用于根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作。
更进一步的,所述点击操作识别单元可以包括:
第一识别子单元,用于若所述持续时间处于预设的第一时长内,则确定所述点击操作为单击操作;
第二识别子单元,用于若所述间隔时间处于预设的第二时长内,则确定所述点击操作为双击操作;
第三识别子单元,用于若所述持续时间超过预设的第三时长,则确定所述点击操作为长按操作。
本申请实施例还提供一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如图1至图3表示的任意一种基于指尖交互的手势控制方法的步骤。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如图1至图3表示的任意一种基于指尖交互的手势控制方法的步骤。
本申请实施例还提供一种计算机程序产品,当该计算机程序产品在终端设备上运行时,使得终端设备执行实现如图1至图3表示的任意一种基于指尖交互的手势控制方法的步骤。
图17是本申请一实施例提供的终端设备的示意图。如图17所示,该实施例的终端设备5包括:处理器50、存储器51以及存储在所述存储器51中并可在所述处理器50上运行的计算机程序52。所述处理器50执行所述计算机程序52时实现上述各个基于指尖交互的手势控制方法的实施例中的步骤,例如图1所示的步骤101至102。或者,所述处理器50执行所述计算机程序52时实现上述各装置实施例中各模块/单元的功能,例如图16所示模块401至402的功能。
所述计算机程序52可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器51中,并由所述处理器50执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序52在所述终端设备5中的执行过程。
所称处理器50可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器51可以是所述终端设备5的内部存储单元,例如终端设备5的硬盘或内存。所述存储器51也可以是所述终端设备5的外部存储设备,例如所述终端设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器51还可以既包括所述终端设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。

Claims (10)

1.一种基于指尖交互的手势控制方法,其特征在于,包括:
检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
2.如权利要求1所述的手势控制方法,其特征在于,所述根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作包括:
识别所述目标手势中相互接触的二个以上的指尖,得到指尖交互手势组合;
查找预设的与所述指尖交互手势组合关联的操作动作;
根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作。
3.如权利要求2所述的手势控制方法,其特征在于,所述检测所述各个指尖在手势检测空间中的位置信息包括:
检测触发手势控制时所述各个指尖在所述手势检测空间中的初始位置信息、所述各个指尖在所述手势检测空间中的移动轨迹以及当前所述各个指尖在所述手势检测空间中的目标位置信息;
所述根据所述操作动作和所述位置信息,确定对终端设备执行的目标操作包括:
结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作。
4.如权利要求3所述的手势控制方法,其特征在于,所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作包括:
根据所述初始位置信息、所述移动轨迹和所述目标位置信息计算得到所述各个指尖移动的速度和方向;
结合所述各个指尖移动的速度和方向,以及所述操作动作,确定对终端设备执行的目标操作。
5.如权利要求3所述的手势控制方法,其特征在于,在确定对终端设备执行的目标操作之前,还包括:
获取所述终端设备当前的操作场景信息;
所述结合所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,确定对终端设备执行的目标操作包括:
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,触发对所述终端设备执行的一个以上的预设事件;
和/或
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,控制所述终端设备的显示界面中一个以上的目标对象进行移动;
和/或
结合所述操作场景信息、所述初始位置信息、所述移动轨迹、所述目标位置信息和所述操作动作,调整所述终端设备的显示界面的视角。
6.如权利要求2至5中任一项所述的手势控制方法,其特征在于,在查找预设的与所述指尖交互手势组合关联的操作动作之后,还包括:
若所述操作动作为所述终端设备的显示界面中对于光标的点击操作,则统计所述相互接触的二个以上的指尖单次接触的持续时间以及两次接触之间的间隔时间;
根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作。
7.如权利要求6所述的手势控制方法,其特征在于,所述根据所述持续时间和所述间隔时间,确定所述点击操作为单击操作、双击操作或者长按操作包括:
若所述持续时间处于预设的第一时长内,则确定所述点击操作为单击操作;
若所述间隔时间处于预设的第二时长内,则确定所述点击操作为双击操作;
若所述持续时间超过预设的第三时长,则确定所述点击操作为长按操作。
8.一种基于指尖交互的手势控制装置,其特征在于,包括:
手势检测模块,用于检测由用户的各个指尖交互形成的目标手势以及所述各个指尖在手势检测空间中的位置信息;
操作确定模块,用于根据所述目标手势和所述位置信息,确定对终端设备执行的目标操作。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的基于指尖交互的手势控制方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的基于指尖交互的手势控制方法的步骤。
CN202010254566.2A 2020-04-02 2020-04-02 一种基于指尖交互的手势控制方法和装置 Pending CN111596757A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010254566.2A CN111596757A (zh) 2020-04-02 2020-04-02 一种基于指尖交互的手势控制方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010254566.2A CN111596757A (zh) 2020-04-02 2020-04-02 一种基于指尖交互的手势控制方法和装置

Publications (1)

Publication Number Publication Date
CN111596757A true CN111596757A (zh) 2020-08-28

Family

ID=72185539

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010254566.2A Pending CN111596757A (zh) 2020-04-02 2020-04-02 一种基于指尖交互的手势控制方法和装置

Country Status (1)

Country Link
CN (1) CN111596757A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112181219A (zh) * 2020-08-31 2021-01-05 华为技术有限公司 一种图标显示方法及其装置
CN112445340A (zh) * 2020-11-13 2021-03-05 杭州易现先进科技有限公司 Ar桌面互动方法、装置、电子设备及计算机存储介质
CN113191184A (zh) * 2021-03-02 2021-07-30 深兰科技(上海)有限公司 实时视频处理方法、装置、电子设备及存储介质
CN113359995A (zh) * 2021-07-02 2021-09-07 北京百度网讯科技有限公司 人机交互方法、装置、设备以及存储介质
CN114764327A (zh) * 2022-05-09 2022-07-19 北京未来时空科技有限公司 一种三维可交互媒体的制作方法、装置及存储介质
WO2022267760A1 (zh) * 2021-06-22 2022-12-29 腾讯科技(深圳)有限公司 按键功能执行方法、装置、设备及存储介质
CN116627260A (zh) * 2023-07-24 2023-08-22 成都赛力斯科技有限公司 一种隔空操作方法、装置、计算机设备和存储介质
WO2024140268A1 (zh) * 2022-12-30 2024-07-04 北京津发科技股份有限公司 手指交互轨迹获取方法、系统及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101807114A (zh) * 2010-04-02 2010-08-18 浙江大学 一种基于三维手势的自然交互方法
CN104331154A (zh) * 2014-08-21 2015-02-04 周谆 实现非接触式鼠标控制的人机交互方法和系统
CN107567609A (zh) * 2014-12-19 2018-01-09 罗伯特·博世有限公司 用于运行输入设备的方法、输入设备、机动车
CN108052202A (zh) * 2017-12-11 2018-05-18 深圳市星野信息技术有限公司 一种3d交互方法、装置、计算机设备及存储介质
KR20180062937A (ko) * 2016-12-01 2018-06-11 한국전자통신연구원 손끝 제스처 인식 및 거짓 패턴 식별에 기반한 개인 인증을 위한 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101807114A (zh) * 2010-04-02 2010-08-18 浙江大学 一种基于三维手势的自然交互方法
CN104331154A (zh) * 2014-08-21 2015-02-04 周谆 实现非接触式鼠标控制的人机交互方法和系统
CN107567609A (zh) * 2014-12-19 2018-01-09 罗伯特·博世有限公司 用于运行输入设备的方法、输入设备、机动车
KR20180062937A (ko) * 2016-12-01 2018-06-11 한국전자통신연구원 손끝 제스처 인식 및 거짓 패턴 식별에 기반한 개인 인증을 위한 방법 및 장치
CN108052202A (zh) * 2017-12-11 2018-05-18 深圳市星野信息技术有限公司 一种3d交互方法、装置、计算机设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
杨文珍;张昊;吴新丽;邵明朝;金中正;: "面向移动终端人机交互的指尖点击力" *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112181219A (zh) * 2020-08-31 2021-01-05 华为技术有限公司 一种图标显示方法及其装置
CN112181219B (zh) * 2020-08-31 2022-09-23 华为技术有限公司 一种图标显示方法及其装置
CN112445340A (zh) * 2020-11-13 2021-03-05 杭州易现先进科技有限公司 Ar桌面互动方法、装置、电子设备及计算机存储介质
CN113191184A (zh) * 2021-03-02 2021-07-30 深兰科技(上海)有限公司 实时视频处理方法、装置、电子设备及存储介质
WO2022267760A1 (zh) * 2021-06-22 2022-12-29 腾讯科技(深圳)有限公司 按键功能执行方法、装置、设备及存储介质
CN113359995A (zh) * 2021-07-02 2021-09-07 北京百度网讯科技有限公司 人机交互方法、装置、设备以及存储介质
CN114764327A (zh) * 2022-05-09 2022-07-19 北京未来时空科技有限公司 一种三维可交互媒体的制作方法、装置及存储介质
WO2024140268A1 (zh) * 2022-12-30 2024-07-04 北京津发科技股份有限公司 手指交互轨迹获取方法、系统及存储介质
CN116627260A (zh) * 2023-07-24 2023-08-22 成都赛力斯科技有限公司 一种隔空操作方法、装置、计算机设备和存储介质

Similar Documents

Publication Publication Date Title
CN111596757A (zh) 一种基于指尖交互的手势控制方法和装置
US11048333B2 (en) System and method for close-range movement tracking
TWI690842B (zh) 基於手勢辨認的互動顯示方法和裝置
US9360965B2 (en) Combined touch input and offset non-touch gesture
US9910498B2 (en) System and method for close-range movement tracking
CN115443445A (zh) 用于可穿戴系统的手部手势输入
CN103502923B (zh) 用户与设备的基于触摸和非触摸的交互作用
WO2016109409A1 (en) Virtual lasers for interacting with augmented reality environments
EP2558924B1 (en) Apparatus, method and computer program for user input using a camera
JP2006209563A (ja) インターフェース装置
Matulic et al. Phonetroller: Visual representations of fingers for precise touch input with mobile phones in vr
WO2022267760A1 (zh) 按键功能执行方法、装置、设备及存储介质
Wilson et al. Flowmouse: A computer vision-based pointing and gesture input device
CN103455262A (zh) 一种基于移动计算平台的笔式交互方法及系统
WO2024012268A1 (zh) 虚拟操作方法、装置、电子设备及可读存储介质
Fujinawa et al. Occlusion-aware hand posture based interaction on tabletop projector
CN111007942A (zh) 一种可穿戴设备及其输入方法
Karam et al. Finger click detection using a depth camera
CN114995635A (zh) 一种基于混合现实桌面手势交互方法
Dias et al. In your hand computing: tangible interfaces for mixed reality
Chen et al. MoCamMouse: Mobile camera-based mouse-like interaction
CN103793053B (zh) 一种便携式终端的手势投影方法及装置
CN113885695A (zh) 基于人工现实的手势交互方法、系统
Chen et al. Unobtrusive touch‐free interaction on mobile devices in dirty working environments
JP7213396B1 (ja) 電子機器及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination