CN114115536A - 一种交互方法、装置、电子设备和存储介质 - Google Patents
一种交互方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114115536A CN114115536A CN202111388472.5A CN202111388472A CN114115536A CN 114115536 A CN114115536 A CN 114115536A CN 202111388472 A CN202111388472 A CN 202111388472A CN 114115536 A CN114115536 A CN 114115536A
- Authority
- CN
- China
- Prior art keywords
- posture
- target object
- preset
- preset posture
- mouse
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开实施例公开了一种交互方法、装置、电子设备和存储介质,该方法包括:对目标对象的姿态进行持续检测;基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。本公开提供的交互方法,实现了通过目标对象的姿态对空鼠的模拟,摆脱了对空鼠载体设备的依赖。
Description
技术领域
本公开涉及信息技术领域,尤其涉及一种交互方法、装置、电子设备和存储介质。
背景技术
空鼠指空中鼠标,是一种通过在空中旋转、移动来控制光标在显示桌面等显示屏移动的设备,它摆脱了普通鼠标对物理桌面的依赖,空鼠可以悬空操作,用户只需动动手腕就可以实现对光标的移动控制。
空鼠通常利用便携式输入设备(例如遥控器、智能手机等)作为载体设备,利用载体设备内置的加速度计、陀螺仪、磁力计等惯性传感器将载体设备在三维空间中的姿态变化映射至电脑/电视等电子设备上对应的光标位置变化,实现对电脑/电视等电子设备的体感鼠标控制。通过对载体设备内置加速度计、陀螺仪以及磁力计三者的数据进行融合,可以得到较精确且稳定的载体设备空间姿态。
因此,目前的空鼠方案基本都依赖载体设备,即用户需要手持带传感器的载体设备实现与目标设备(例如电脑、电视等)之间的交互。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开实施例提供了一种交互方法、装置、电子设备和存储介质,实现了对空鼠的模拟,摆脱了对空鼠载体设备的依赖。
第一方面,本公开实施例提供了一种交互方法,该方法包括:
对目标对象的姿态进行持续检测;
基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
第二方面,本公开实施例还提供了一种交互装置,该装置包括:
检测模块,用于对目标对象的姿态进行持续检测;
确定模块,用于基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
第三方面,本公开实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上所述的交互方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上所述的交互方法。
本公开实施例提供的技术方案与现有技术相比至少具有如下优点:
本公开实施例提供的交互方法,通过对目标对象的姿态进行持续检测;基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作的技术手段,实现了对空鼠的模拟,摆脱了对空鼠载体设备的依赖。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例中的一种交互方法的流程图;
图2为本公开实施例中的一组手势的示意图;
图3为本公开实施例中的一种交互方法的流程图;
图4为本公开实施例中的一种交互装置的结构示意图;
图5为本公开实施例中的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行以及并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
空鼠指空中鼠标,是一种通过在空中旋转、移动来控制光标在显示桌面等显示屏移动的设备,它摆脱了普通鼠标对物理桌面的依赖,空鼠可以悬空操作,用户只需动动手腕就可以实现对光标的移动控制。
空鼠通常利用便携式输入设备(例如遥控器、智能手机等)作为载体设备,利用载体设备内置的加速度计、陀螺仪、磁力计等惯性传感器将载体设备在三维空间中的姿态变化映射至电脑/电视等电子设备上对应的光标位置变化,实现对电脑/电视等电子设备的体感鼠标控制。通过对载体设备内置加速度计、陀螺仪以及磁力计三者的数据进行融合,可以得到较精确且稳定的载体设备空间姿态。因此,目前的空鼠方案基本都依赖载体设备,即用户需要手持带传感器的载体设备实现与目标设备(例如电脑、电视等)之间的交互。针对该问题,本公开实施例提供一种交互方法,通过该方法实现了对空鼠的模拟,且摆脱了对载体设备的依赖。
图1为本公开实施例中的一种交互方法的流程图。该方法可以由交互装置执行,该装置可以采用软件和/或硬件的方式实现,该装置可配置于电子设备中,例如终端,具体包括但不限于智能手机、掌上电脑、平板电脑、便携式可穿戴设备、智能家居设备(例如台灯)等。
如图1所示,该方法具体可以包括如下步骤:
步骤110、对目标对象的姿态进行持续检测。
具体的,对目标对象的姿态进行持续检测,包括:按照预设频率周期性地获取针对目标对象的图像,基于获取的图像识别目标对象的姿态,实现对目标对象的姿态进行检测的目的。其中,目标对象可以是用户身体的某部位。典型的,目标对象包括用户的手部。
获取针对目标对象的图像,可以通过目标设备自带的摄像头获取,或者通过与目标设备通信连接的拍摄装置获取。目标设备例如是智能电视、投影仪等带有较大显示器的电子设备。具体的是通过目标对象的姿态实现对空鼠的模拟,达到对目标设备上的光标进行控制的目的。
基于获取的图像识别目标对象的姿态,包括:通过图像识别技术根据所述图像确定所述目标对象的姿态。
以目标对象是用户的手部为例,目标对象的姿态可以指手部动作或者说是手势,例如掌手势、在掌的基础上大拇指与食指弯曲组成的OK手势;在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势;在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势或者握拳手势等。示例性的,可以参考如图2所示的一组手势的示意图,其中包括掌手势210、在掌的基础上大拇指与食指弯曲组成的OK手势220、在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势230、在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势240和握拳手势250。其中,握拳手势又可以包括两种,一种是大拇指被其余手指握住的手势,一种是大拇指没有被其余手指握住的手势,即大拇指露在拳的外面,可以随意活动的手势。
步骤120、基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
通过基于目标对象的姿态变化确定空鼠交互指令,可以通过一套连贯的姿态实现对空鼠的模拟,实现对空鼠光标的控制。
为了提高交互方法的稳定性,在基于目标对象的姿态变化确定空鼠交互指令之前,还包括:在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。即在空鼠功能被激活的状态下,才执行基于目标对象的姿态变化确定空鼠交互指令的操作。
在一种实施方式中,为了提高交互的便捷性,第一预设姿态可以是用户做出的掌手势。以目标设备是智能电视为例,在与智能电视进行交互时,用户可以对着智能电视的摄像头做出手掌的手势,例如用户的手掌面向智能电视的摄像头,当智能电视识别到用户的掌手势时,激活空鼠功能。进一步的,为了进一步提高交互的稳定性,所述在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能,包括:
若所述目标对象的姿态为所述第一预设姿态的图像帧数占图像总帧数的比例达到预设比例,和/或,若所述目标对象的姿态为所述第一预设姿态的连续图像帧数达到第一预设数量,激活空鼠功能。即用户的第一预设姿态需要保持一定时长,才会激活空鼠功能,而不是在识别到第一预设姿态时立即激活空鼠功能,达到提高交互稳定性的目的。
具体的,针对目标对象的图像是随着时间的推移持续、实时地获取,并同步进行图像识别,以识别每帧图像中目标对象的姿态,在识别到目标对象的姿态是第一预设姿态的图像帧时,从该图像帧开始计数,在该图像帧后面的连续几个或十几个或几十个图像帧中目标对象的姿态均为第一预设姿态,则可激活空鼠功能。
本公开实施例提供的交互方法,通过对目标对象的姿态进行持续检测;基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作的技术手段,实现了对空鼠的模拟,摆脱了对空鼠载体设备的依赖。
图3为一种实施方式中的交互方法的流程示意图。在上述实施例的基础上,本实施例针对上述步骤120“基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作”给出可选实施方式。如图3所示,该交互方法包括如下步骤:
步骤310、在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。
步骤320、对目标对象的姿态进行持续检测,在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。
具体的,所述在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令,包括:
当检测到目标对象的姿态从所述第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态变化为第二预设姿态时,确定空鼠交互指令为左键点击指令。在该场景中,发生变化之前的历史姿态可以是第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态,发生变化之后的新姿态为第二预设姿态。例如检测到目标对象的姿态从第一预设姿态变化为第二预设姿态的场景中,发生变化之前的历史姿态是第一预设姿态,发生变化之后的新姿态为第二预设姿态。再例如检测到目标对象的姿态从第三预设姿态变化为第二预设姿态的场景中,发生变化之前的历史姿态是第三预设姿态,发生变化之后的新姿态为第二预设姿态等,以此类推。具体的,例如第一预设姿态为手掌手势,第二预设姿态为在掌的基础上大拇指与食指弯曲组成的OK手势(如图2中的标号220所示的手势),则用户只需在掌的基础上轻轻弯曲一下食指即可实现的左键点击操作,给用户带来的交互体验就是在“掌”的基础上轻轻弯曲一下食指,就可以做一次“点击”,非常便捷。第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势(如图2中的标号230所示的手势),第四预设姿态为在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势(如图2中的标号240所示的手势);第五预设姿态为握拳的姿态(如图2中的标号250所示的手势),即无论从哪个预设姿态变化为第二预设姿态对于用户来说都非常便捷,可为用户提供一套非常便捷的空鼠交互方案。
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、第四预设姿态或者第五预设姿态变化为第三预设姿态时,确定空鼠交互指令为右键点击指令。在该场景中,发生变化之前的历史姿态可以是第一预设姿态、第二预设姿态、第四预设姿态或者第五预设姿态,发生变化之后的新姿态为第三预设姿态。例如检测到目标对象的姿态从第一预设姿态变化为第三预设姿态的场景中,发生变化之前的历史姿态是第一预设姿态,发生变化之后的新姿态为第三预设姿态。再例如检测到目标对象的姿态从第二预设姿态变化为第三预设姿态的场景中,发生变化之前的历史姿态是第二预设姿态,发生变化之后的新姿态为第三预设姿态等,以此类推。具体的,例如第一预设姿态为手掌手势,第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势(如图2中的标号230),则用户只需在掌的基础上弯曲拇指、无名指和小指,就可以做一次“右键点击”操作,非常便捷。无论从哪个预设姿态变化为第三预设姿态对于用户来说都非常便捷,可为用户提供一套非常便捷的空鼠交互方案。
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者第五预设姿态变化为第四预设姿态时,确定空鼠交互指令为返回指令。在该场景中,发生变化之前的历史姿态可以是第一预设姿态、第二预设姿态、第三预设姿态或者第五预设姿态,发生变化之后的新姿态为第四预设姿态。例如检测到目标对象的姿态从第一预设姿态变化为第四预设姿态的场景中,发生变化之前的历史姿态是第一预设姿态,发生变化之后的新姿态为第四预设姿态。再例如检测到目标对象的姿态从第二预设姿态变化为第四预设姿态的场景中,发生变化之前的历史姿态是第二预设姿态,发生变化之后的新姿态为第四预设姿态等,以此类推。具体的,例如第一预设姿态为手掌手势,第四预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势(如图2中的标号240),则用户只需在掌的基础上弯曲中指、无名指和小指,就可以做一次“返回”,非常便捷。无论从哪个预设姿态变化为第四预设姿态对于用户来说都非常便捷,可为用户提供一套非常便捷的空鼠交互方案。
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者所述第四预设姿态变化为第五预设姿态时,确定空鼠交互指令为拖拽指令,通过执行所述拖拽指令控制拖拽对象移动,所述拖拽对象为所述空鼠光标关联的目标。在该场景中,发生变化之前的历史姿态可以是第一预设姿态、第二预设姿态、第三预设姿态或者第四预设姿态,发生变化之后的新姿态为第五预设姿态。例如检测到目标对象的姿态从第一预设姿态变化为第五预设姿态的场景中,发生变化之前的历史姿态是第一预设姿态,发生变化之后的新姿态为第五预设姿态。再例如检测到目标对象的姿态从第二预设姿态变化为第五预设姿态的场景中,发生变化之前的历史姿态是第二预设姿态,发生变化之后的新姿态为第五预设姿态等,以此类推。
可以理解的是,针对一些连续的交互操作,例如拖拽、移动等交互操作,不仅需要参考单帧图像中目标对象的姿态,还需要参考连续的多帧图像中目标对象姿态的变化,此时需要借助模式识别技术确定空鼠交互指令。
概括性的,所述通过执行所述拖拽指令控制拖拽对象移动,包括:
控制所述拖拽对象跟随所述目标对象的移动而移动,所述目标对象在移动过程中保持所述第五预设姿态,且将所述目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。将目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态的目的是为了预防在目标对象移动的过程中,由于摄像头检测到的目标对象的角度发生改变或者检测到未识别的姿态时导致没有识别到第五预设姿态而影响对拖拽对象的移动进行控制,出现拖拽不稳定的问题。在目标对象的移动过程中对目标对象的预设点位进行跟踪识别的目的是为了保证对拖拽对象进行准确的移动和拖拽,即按照目标对象的移动对拖拽对象进行移动控制,即使在目标对象移动的过程中由于摄像头检测到的目标对象的角度发生改变或者检测到未识别的姿态时导致没有识别到第五预设姿态,依然可以对目标对象的空间位置进行实时跟踪,进而根据目标对象在空间中的移动控制拖拽对象在正确的方向移动正确的距离,实现提高拖拽稳定性和精度的目的。
需要说明的是,除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态包括第五预设姿态以及未被系统识别到的姿态。例如系统通过神经网络模型对目标对象的姿态进行识别,在识别之前,神经网络模型分别对第一预设姿态、所述第二预设姿态、所述第三预设姿态、第四预设姿态以及所述第五预设姿态进行过预先学习,则神经网络模型可以对第一预设姿态、所述第二预设姿态、所述第三预设姿态、第四预设姿态以及所述第五预设姿态进行识别,神经网络模型无法识别出除第一预设姿态、所述第二预设姿态、所述第三预设姿态、第四预设姿态以及所述第五预设姿态之外的其它姿态,则该其它姿态即为未被系统识别到的姿态。
以目标对象是用户的手部为例,目标对象的预设点位可以是手的中心点(即中指与手掌的连接处)、手轮廓的中心点、手腕上的某点或者手的其它位置的点。
或者,所述通过执行所述拖拽指令控制拖拽对象移动,包括:
根据所述目标对象处于握拳的姿态时大拇指的朝向确定拖拽对象的移动方向,以控制所述拖拽对象沿着所述移动方向移动。可以理解的是,“握拳”又可以包括两种,一种是大拇指被其余手指握住的手势,一种是大拇指没有被其余手指握住的手势,即大拇指露在拳的外面,可以随意活动的手势。该种场景下,用户需要使用第二种,即大拇指露在拳的外面,可以随意活动,以指定拖拽对象的移动方向。
同样的,所述通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,包括:
在执行所述空鼠光标移动指令时,将所述目标对象的除第二预设姿态、第三预设姿态、第四预设姿态以及第五预设姿态之外的姿态标定为所述第一预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。将目标对象的除所述第二预设姿态、所述第三预设姿态、所述第四预设姿态以及所述第五预设姿态之外的姿态标定为所述第一预设姿态的目的是为了预防在目标对象移动的过程中,由于摄像头检测到的目标对象的角度发生改变或者检测到未识别的姿态时导致没有识别到第一预设姿态而影响对空鼠光标的移动进行控制,出现对空鼠光标控制不稳定的问题。
其中,针对目标对象的图像是随着时间的推移持续、实时地获取,并同步进行图像识别,以识别每帧图像中目标对象的姿态。在识别到目标对象的姿态是第一预设姿态的第一个图像帧时,从该第一个图像帧开始,对后续的图像帧进行识别时,不仅需要识别目标对象的姿态,还需要识别目标对象在三维空间中的位置变化,以基于目标对象在三维空间中的位置变化确定空鼠光标在目标显示界面的移动方向和移动距离,从而实现通过目标对象对空鼠的模拟。可选的,基于图像确定目标对象的空间位置变化信息,将所述空间位置变化信息映射至在目标显示界面的位置变化信息,根据在所述目标显示界面的位置变化信息控制空鼠光标在所述目标显示界面移动,实现对空鼠光标的移动控制。在检测到目标对象的姿态不是所述第一预设姿态的连续图像帧数达到第二预设数量时,停止执行所述移动指令,以使所述光标在所述目标显示界面停止移动。通过设置在检测到所述目标对象的姿态不是所述第一预设姿态的连续图像帧数达到第二预设数量时,停止执行所述移动指令,而不是在目标对象的姿态不是第一预设姿态时立即停止执行移动指令,可达到提升交互稳定性的目的。
本实施例的技术方案中,在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。即基于目标对象连贯的姿态实现对空鼠的模拟,不仅提供了一套可使用户操作非常便捷的交互手势,摆脱了对空鼠载体设备的依赖,还保证了交互的稳定性和准确性。
可以理解的是,根据单帧图像中所述目标对象的姿态,和/或连续的多帧图像中所述目标对象的姿态均可确定空鼠交互指令。即目标对象的每种姿态可以对应一空鼠交互指令,如此当目标对象呈现某种具体姿态时,则触发相对应的空鼠交互指令,实现对空鼠的模拟,且不需要载体设备,只需目标对象呈现某种姿态即可。
可选的,可预先制定目标对象的姿态与空鼠交互指令之间的映射关系,例如目标对象的姿态为第一预设姿态时,关联的空鼠交互指令为第一指令,目标对象的姿态为第二预设姿态时,关联的空鼠交互指令为第二指令等以此类推。在识别出目标对象的姿态时,可从所述映射关系中进行查找以确定关联的空鼠交互指令。
执行所述空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。具体的,例如目标对象是用户的手部,当用户的手部呈现OK手势时,执行空鼠左键的点击操作,即左击一次;当用户的手部呈现“耶”的手势时,即类似兔子耳朵的手势时,执行空鼠右键的点击操作,即右击一次等。
示例性的,目标对象为用户的手部,第一预设姿态为手部呈掌的姿态(如图2中的手势210),第二预设姿态为手部呈OK手势的姿态(如图2中的手势220),第三预设姿态为手部呈“耶”手势的姿态(如图2中的手势230),第四预设姿态为手部呈“手枪”手势的姿态(如图2中的手势240),第五预设姿态为握拳的姿态(图2中未示出)。对应的,与第一预设姿态关联的空鼠交互指令为移动指令,与第二预设姿态关联的空鼠交互指令为空鼠左键点击指令,与第三预设姿态关联的空鼠交互指令为空鼠右键点击指令,与第四预设姿态关联的空鼠交互指令为“返回”指令,与第五预设姿态关联的空鼠交互指令为“拖拽”指令。如此,用户仅需在“掌”姿态的基础上,轻轻弯曲一下食指和大拇指就可以模拟一次空鼠的左键点击操作;在“掌”姿态的基础上,弯曲大拇指、无名指和小手指就可以模拟一次空鼠的右键点击操作;在“掌”姿态的基础上,弯曲中指、无名指和小手指就可以模拟一次空鼠的返回操作,非常便捷。
可以理解的是,还可以将上述各种姿态进行组合,使组合姿态对应一具体的空鼠交互指令。
在模拟空鼠的左键点击操作时,需要借助模式识别技术,以实现对目标对象的姿态进行连续识别,在识别到目标对象的姿态为第二预设姿态时,立即对该第二预设姿态进行响应,即立即执行左键点击操作。
同样的,在模拟空鼠的右键点击操作时,需要借助模式识别技术,以实现对目标对象的姿态进行连续识别,在识别到目标对象的姿态为第四预设姿态时,立即对该第三预设姿态进行响应,即立即执行右键点击操作。
同样的,在模拟空鼠的返回操作时,需要借助模式识别技术,以实现对目标对象的姿态进行连续识别,在识别到目标对象的姿态为第四预设姿态时,立即对该第四预设姿态进行响应,即立即执行返回操作。
在通过第五预设姿态模拟空鼠的拖拽操作时,在识别到目标对象的姿态为第五预设姿态的第一个图像帧时,基于该第一图像帧确定目标对象的三维空间位置,将与该三维空间位置对应的目标元素根据后续目标对象在三维空间中的运动轨迹进行拖拽。该目标元素如果是目标显示界面中的可拖拽对象,则拖拽该目标元素移动,该目标元素如果不是目标显示界面中的可拖拽对象,则拖拽目标显示界面整体移动,即执行拖拽指令使目标元素根据目标对象的运动轨迹在目标显示界面移动或者使目标显示界面根据目标对象的运动轨迹进行移动。
本公开实施例提供的交互方法,摆脱了对空鼠载体设备的依赖,实现了一种与实体无接触的交互方案。
图4为本公开实施例中的一种交互装置的结构示意图。如图4所示,该交互装置具体包括:检测模块410和确定模块420。
其中,检测模块410,用于对目标对象的姿态进行持续检测;确定模块420,用于基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
可选的,还包括:激活模块,用于在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。
可选的,确定模块包括:第一确定单元,用于当检测到所述目标对象的姿态为所述第一预设姿态时,确定所述空鼠交互指令为空鼠光标移动指令,通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,所述目标对象在移动的过程中保持所述第一预设姿态。
可选的,确定模块包括:第二确定单元,用于在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。
可选的,所述第二确定单元包括:第一确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态变化为第二预设姿态时,确定空鼠交互指令为左键点击指令;第二确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、第四预设姿态或者第五预设姿态变化为第三预设姿态时,确定空鼠交互指令为右键点击指令;第三确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者第五预设姿态变化为第四预设姿态时,确定空鼠交互指令为返回指令;第四确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者所述第四预设姿态变化为第五预设姿态时,确定空鼠交互指令为拖拽指令,通过执行所述拖拽指令控制拖拽对象移动,所述拖拽对象为所述空鼠光标关联的目标。
可选的,所述目标对象为用户的手部;所述第一预设姿态为手部的掌手势;所述第二预设姿态为在掌的基础上大拇指与食指弯曲组成的OK手势;所述第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势;所述第四预设姿态为在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势;所述第五预设姿态为握拳的姿态。
可选的,所述第四确定子单元具体用于:控制所述拖拽对象跟随所述目标对象的移动而移动,所述目标对象在移动过程中保持所述第五预设姿态,且将所述目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别;或者,根据所述目标对象处于握拳的姿态时大拇指的朝向确定拖拽对象的移动方向,以控制所述拖拽对象沿着所述移动方向移动。
可选的,所述第一确定单元还用于:在执行所述空鼠光标移动指令时,将所述目标对象的除第二预设姿态、第三预设姿态、第四预设姿态以及第五预设姿态之外的姿态标定为所述第一预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。
可选的,所述激活模块具体用于:若所述目标对象的姿态为所述第一预设姿态的图像帧数占图像总帧数的比例达到预设比例,和/或,若所述目标对象的姿态为所述第一预设姿态的连续图像帧数达到第一预设数量,激活空鼠功能。
本公开实施例提供的交互装置,目标对象的每种姿态对应一具体的空鼠交互指令,通过识别目标对象的姿态触发对应的空鼠交互指令,实现的对空鼠的模拟,摆脱了对空鼠载体设备的依赖,提供了一种与实体无接触的交互方法。
本公开实施例提供的交互装置,可执行本公开方法实施例所提供的交互方法中的步骤,具备执行步骤和有益效果此处不再赘述。
图5为本公开实施例中的一种电子设备的结构示意图。下面具体参考图5,其示出了适于用来实现本公开实施例中的电子设备500的结构示意图。本公开实施例中的电子设备500可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)、可穿戴电子设备等等的移动终端以及诸如数字TV、台式计算机、智能家居设备等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理以实现如本公开所述的实施例的方法。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码,从而实现如上所述的方法。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:
对目标对象的姿态进行持续检测;基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
可选的,当上述一个或者多个程序被该电子设备执行时,该电子设备还可以执行上述实施例所述的其他步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,本公开提供了一种交互方法,该方法包括:对目标对象的姿态进行持续检测;基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,基于目标对象的姿态变化确定空鼠交互指令之前,还包括:在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作,包括:当检测到所述目标对象的姿态为所述第一预设姿态时,确定所述空鼠交互指令为空鼠光标移动指令,通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,所述目标对象在移动的过程中保持所述第一预设姿态。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述基于目标对象的姿态变化确定空鼠交互指令,包括:在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令,包括:当检测到目标对象的姿态从所述第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态变化为第二预设姿态时,确定空鼠交互指令为左键点击指令;当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、第四预设姿态或者第五预设姿态变化为第三预设姿态时,确定空鼠交互指令为右键点击指令;当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者第五预设姿态变化为第四预设姿态时,确定空鼠交互指令为返回指令;当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者所述第四预设姿态变化为第五预设姿态时,确定空鼠交互指令为拖拽指令,通过执行所述拖拽指令控制拖拽对象移动,所述拖拽对象为所述空鼠光标关联的目标。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述目标对象为用户的手部;所述第一预设姿态为手部的掌手势;所述第二预设姿态为在掌的基础上大拇指与食指弯曲组成的OK手势;所述第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势;所述第四预设姿态为在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势;所述第五预设姿态为握拳的姿态。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述通过执行所述拖拽指令控制拖拽对象移动,包括:控制所述拖拽对象跟随所述目标对象的移动而移动,所述目标对象在移动过程中保持所述第五预设姿态,且将所述目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别;或者,根据所述目标对象处于握拳的姿态时大拇指的朝向确定拖拽对象的移动方向,以控制所述拖拽对象沿着所述移动方向移动。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,包括:在执行所述空鼠光标移动指令时,将所述目标对象的除第二预设姿态、第三预设姿态、第四预设姿态以及第五预设姿态之外的姿态标定为所述第一预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。
根据本公开的一个或多个实施例,在本公开提供的交互方法中,可选的,所述在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能,包括:若所述目标对象的姿态为所述第一预设姿态的图像帧数占图像总帧数的比例达到预设比例,和/或,若所述目标对象的姿态为所述第一预设姿态的连续图像帧数达到第一预设数量,激活空鼠功能。
根据本公开的一个或多个实施例,本公开提供了一种交互装置,该装置包括:检测模块,用于对目标对象的姿态进行持续检测;确定模块,用于基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,还包括:激活模块,用于在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,确定模块包括:第一确定单元,用于当检测到所述目标对象的姿态为所述第一预设姿态时,确定所述空鼠交互指令为空鼠光标移动指令,通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,所述目标对象在移动的过程中保持所述第一预设姿态。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,确定模块包括:第二确定单元,用于在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,所述第二确定单元包括:第一确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态变化为第二预设姿态时,确定空鼠交互指令为左键点击指令;第二确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、第四预设姿态或者第五预设姿态变化为第三预设姿态时,确定空鼠交互指令为右键点击指令;第三确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者第五预设姿态变化为第四预设姿态时,确定空鼠交互指令为返回指令;第四确定子单元,用于当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者所述第四预设姿态变化为第五预设姿态时,确定空鼠交互指令为拖拽指令,通过执行所述拖拽指令控制拖拽对象移动,所述拖拽对象为所述空鼠光标关联的目标。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,所述目标对象为用户的手部;所述第一预设姿态为手部的掌手势;所述第二预设姿态为在掌的基础上大拇指与食指弯曲组成的OK手势;所述第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势;所述第四预设姿态为在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势;所述第五预设姿态为握拳的姿态。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,所述第四确定子单元具体用于:控制所述拖拽对象跟随所述目标对象的移动而移动,所述目标对象在移动过程中保持所述第五预设姿态,且将所述目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别;或者,根据所述目标对象处于握拳的姿态时大拇指的朝向确定拖拽对象的移动方向,以控制所述拖拽对象沿着所述移动方向移动。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,所述第一确定单元还用于:在执行所述空鼠光标移动指令时,将所述目标对象的除第二预设姿态、第三预设姿态、第四预设姿态以及第五预设姿态之外的姿态标定为所述第一预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。
根据本公开的一个或多个实施例,在本公开提供的交互装置中,可选的,所述激活模块具体用于:若所述目标对象的姿态为所述第一预设姿态的图像帧数占图像总帧数的比例达到预设比例,和/或,若所述目标对象的姿态为所述第一预设姿态的连续图像帧数达到第一预设数量,激活空鼠功能。
根据本公开的一个或多个实施例,本公开提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本公开提供的任一所述的交互方法。
根据本公开的一个或多个实施例,本公开提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本公开提供的任一所述的交互方法。
本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括计算机程序或指令,该计算机程序或指令被处理器执行时实现如上所述的交互方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (12)
1.一种交互方法,其特征在于,所述方法包括:
对目标对象的姿态进行持续检测;
基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
2.根据权利要求1所述的方法,其特征在于,基于目标对象的姿态变化确定空鼠交互指令之前,还包括:
在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能。
3.根据权利要求2所述的方法,其特征在于,基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作,包括:
当检测到所述目标对象的姿态为所述第一预设姿态时,确定所述空鼠交互指令为空鼠光标移动指令,通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,所述目标对象在移动的过程中保持所述第一预设姿态。
4.根据权利要求2所述的方法,其特征在于,所述基于目标对象的姿态变化确定空鼠交互指令,包括:
在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令。
5.根据权利要求4所述的方法,其特征在于,所述在检测到目标对象的姿态发生变化时,确定发生变化之前的历史姿态和发生变化之后的新姿态所组成的姿态组合,以基于预先确定的空鼠交互指令与姿态组合之间的映射关系,确定与所述历史姿态和所述新姿态所组成的组合对应的空鼠交互指令,包括:
当检测到目标对象的姿态从所述第一预设姿态、第三预设姿态、第四预设姿态或者第五预设姿态变化为第二预设姿态时,确定空鼠交互指令为左键点击指令;
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、第四预设姿态或者第五预设姿态变化为第三预设姿态时,确定空鼠交互指令为右键点击指令;
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者第五预设姿态变化为第四预设姿态时,确定空鼠交互指令为返回指令;
当检测到目标对象的姿态从所述第一预设姿态、所述第二预设姿态、所述第三预设姿态或者所述第四预设姿态变化为第五预设姿态时,确定空鼠交互指令为拖拽指令,通过执行所述拖拽指令控制拖拽对象移动,所述拖拽对象为所述空鼠光标关联的目标。
6.根据权利要求5所述的方法,其特征在于,所述目标对象为用户的手部;
所述第一预设姿态为手部的掌手势;
所述第二预设姿态为在掌的基础上大拇指与食指弯曲组成的OK手势;
所述第三预设姿态为在掌的基础上大拇指、无名指和小手指分别弯曲组成的耶手势;
所述第四预设姿态为在掌的基础上小拇指、无名指和中指分别弯曲组成的手枪手势;
所述第五预设姿态为握拳的姿态。
7.根据权利要求6所述的方法,其特征在于,所述通过执行所述拖拽指令控制拖拽对象移动,包括:
控制所述拖拽对象跟随所述目标对象的移动而移动,所述目标对象在移动过程中保持所述第五预设姿态,且将所述目标对象的除所述第一预设姿态、所述第二预设姿态、所述第三预设姿态以及所述第四预设姿态之外的姿态标定为所述第五预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别;
或者,根据所述目标对象处于握拳的姿态时大拇指的朝向确定拖拽对象的移动方向,以控制所述拖拽对象沿着所述移动方向移动。
8.根据权利要求3所述的方法,其特征在于,所述通过执行所述空鼠光标移动指令控制所述空鼠光标跟随所述目标对象的移动在显示界面移动,包括:
在执行所述空鼠光标移动指令时,将所述目标对象的除第二预设姿态、第三预设姿态、第四预设姿态以及第五预设姿态之外的姿态标定为所述第一预设姿态,并在所述目标对象的移动过程中对所述目标对象的预设点位进行跟踪识别。
9.根据权利要求2所述的方法,其特征在于,所述在检测到目标对象的姿态为第一预设姿态时,激活空鼠功能,包括:
若所述目标对象的姿态为所述第一预设姿态的图像帧数占图像总帧数的比例达到预设比例,和/或,若所述目标对象的姿态为所述第一预设姿态的连续图像帧数达到第一预设数量,激活空鼠功能。
10.一种交互装置,其特征在于,包括:
检测模块,用于对目标对象的姿态进行持续检测;
确定模块,用于基于目标对象的姿态变化确定空鼠交互指令,以通过目标对象的姿态模拟空鼠的交互操作。
11.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111388472.5A CN114115536A (zh) | 2021-11-22 | 2021-11-22 | 一种交互方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111388472.5A CN114115536A (zh) | 2021-11-22 | 2021-11-22 | 一种交互方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114115536A true CN114115536A (zh) | 2022-03-01 |
Family
ID=80439593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111388472.5A Pending CN114115536A (zh) | 2021-11-22 | 2021-11-22 | 一种交互方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114115536A (zh) |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102982557A (zh) * | 2012-11-06 | 2013-03-20 | 桂林电子科技大学 | 基于深度相机的空间手势姿态指令处理方法 |
CN103229127A (zh) * | 2012-05-21 | 2013-07-31 | 华为技术有限公司 | 一种非接触式手势控制方法及装置 |
CN107885316A (zh) * | 2016-09-29 | 2018-04-06 | 阿里巴巴集团控股有限公司 | 一种基于手势的交互方法及装置 |
CN108446073A (zh) * | 2018-03-12 | 2018-08-24 | 阿里巴巴集团控股有限公司 | 一种利用手势模拟鼠标操作的方法、装置及终端 |
CN108762497A (zh) * | 2018-05-18 | 2018-11-06 | 深圳壹账通智能科技有限公司 | 体感交互方法、装置、设备及可读存储介质 |
CN110991327A (zh) * | 2019-11-29 | 2020-04-10 | 深圳市商汤科技有限公司 | 交互方法及装置、电子设备和存储介质 |
CN112306220A (zh) * | 2019-07-31 | 2021-02-02 | 北京字节跳动网络技术有限公司 | 基于肢体识别的控制方法、装置、电子设备及存储介质 |
CN112753006A (zh) * | 2019-04-12 | 2021-05-04 | 谷歌有限责任公司 | 电磁跟踪的三维空中鼠标 |
CN112860169A (zh) * | 2021-02-18 | 2021-05-28 | Oppo广东移动通信有限公司 | 交互方法及装置、计算机可读介质和电子设备 |
CN113407045A (zh) * | 2021-06-28 | 2021-09-17 | 北京字节跳动网络技术有限公司 | 一种光标控制方法、装置、电子设备和存储介质 |
-
2021
- 2021-11-22 CN CN202111388472.5A patent/CN114115536A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103229127A (zh) * | 2012-05-21 | 2013-07-31 | 华为技术有限公司 | 一种非接触式手势控制方法及装置 |
CN102982557A (zh) * | 2012-11-06 | 2013-03-20 | 桂林电子科技大学 | 基于深度相机的空间手势姿态指令处理方法 |
CN107885316A (zh) * | 2016-09-29 | 2018-04-06 | 阿里巴巴集团控股有限公司 | 一种基于手势的交互方法及装置 |
CN108446073A (zh) * | 2018-03-12 | 2018-08-24 | 阿里巴巴集团控股有限公司 | 一种利用手势模拟鼠标操作的方法、装置及终端 |
CN108762497A (zh) * | 2018-05-18 | 2018-11-06 | 深圳壹账通智能科技有限公司 | 体感交互方法、装置、设备及可读存储介质 |
CN112753006A (zh) * | 2019-04-12 | 2021-05-04 | 谷歌有限责任公司 | 电磁跟踪的三维空中鼠标 |
US20210349541A1 (en) * | 2019-04-12 | 2021-11-11 | Google Llc | Electromagnetically tracked three-dimensional air mouse |
CN112306220A (zh) * | 2019-07-31 | 2021-02-02 | 北京字节跳动网络技术有限公司 | 基于肢体识别的控制方法、装置、电子设备及存储介质 |
CN110991327A (zh) * | 2019-11-29 | 2020-04-10 | 深圳市商汤科技有限公司 | 交互方法及装置、电子设备和存储介质 |
CN112860169A (zh) * | 2021-02-18 | 2021-05-28 | Oppo广东移动通信有限公司 | 交互方法及装置、计算机可读介质和电子设备 |
CN113407045A (zh) * | 2021-06-28 | 2021-09-17 | 北京字节跳动网络技术有限公司 | 一种光标控制方法、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113289327A (zh) | 移动终端的显示控制方法及装置、存储介质及电子设备 | |
WO2021244650A1 (zh) | 控制方法、装置、终端及存储介质 | |
US20210158031A1 (en) | Gesture Recognition Method, and Electronic Device and Storage Medium | |
CN111382701B (zh) | 动作捕捉方法、装置、电子设备及计算机可读存储介质 | |
CN108874141B (zh) | 一种体感浏览方法和装置 | |
CN116112744A (zh) | 视频处理方法、装置、电子设备及存储介质 | |
CN113703704B (zh) | 界面显示方法、头戴式显示设备和计算机可读介质 | |
CN114115536A (zh) | 一种交互方法、装置、电子设备和存储介质 | |
CN115880719A (zh) | 手势深度信息生成方法、装置、设备和计算机可读介质 | |
CN110263743B (zh) | 用于识别图像的方法和装置 | |
CN111698545A (zh) | 遥控器和识别操作动作的方法、装置、终端及存储介质 | |
US20240153211A1 (en) | Methods, apparatuses, terminals and storage media for display control based on extended reality | |
US20230418072A1 (en) | Positioning method, apparatus, electronic device, head-mounted display device, and storage medium | |
US20240103625A1 (en) | Interaction method and apparatus, electronic device, storage medium, and computer program product | |
CN117991967A (zh) | 虚拟键盘交互方法、装置、设备、存储介质和程序产品 | |
CN112306223B (zh) | 一种信息交互方法、装置、设备及介质 | |
CN118034483A (zh) | 手势姿态识别方法、装置、设备、存储介质和程序产品 | |
US20240028130A1 (en) | Object movement control method, apparatus, and device | |
CN117170490A (zh) | 交互方法、装置、设备、存储介质和程序产品 | |
CN117170491A (zh) | 在虚拟现实场景中确定虚拟光标方法、装置、设备和介质 | |
CN115731570A (zh) | 图像识别方法、装置和电子设备 | |
CN117170489A (zh) | 交互方法、装置、设备、存储介质和程序产品 | |
CN115619918A (zh) | 图像渲染方法、装置、设备及存储介质 | |
CN117631810A (zh) | 基于虚拟现实空间的操作处理方法、装置、设备及介质 | |
CN117170487A (zh) | 交互方法、装置、设备、存储介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |