CN109725724B - 有屏设备的手势控制方法和装置 - Google Patents
有屏设备的手势控制方法和装置 Download PDFInfo
- Publication number
- CN109725724B CN109725724B CN201811640930.8A CN201811640930A CN109725724B CN 109725724 B CN109725724 B CN 109725724B CN 201811640930 A CN201811640930 A CN 201811640930A CN 109725724 B CN109725724 B CN 109725724B
- Authority
- CN
- China
- Prior art keywords
- screen
- gesture operation
- control
- gesture
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Abstract
本申请实施例公开了有屏设备的手势控制方法和装置。该方法的一具体实施方式包括:将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置;生成用于指示操控位置的操作位置标识信息。该实施方式实现了在非接触式手势交互过程中基于位置标识信息来指示操控位置,以供用户根据操控位置进行手部位置调整或执行操控,能够提升操控效率。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及人机交互领域,尤其涉及有屏设备的手势控制方法和装置。
背景技术
非接触式人机交互是一种方便、操控灵活性较强的人机交互方式。在非接触式人机交互中,由于用户与电子设备之间的相对位置受限较小,更符合用户的便捷操控需求,被应用在智慧生活、智能办公等各个领域。
有屏设备的人机交互方式包括通过附加的无线发射装置(例如遥控器)的交互和语音交互。基于附加装置的交互方式中按键(包括虚拟按键)较多,依赖于有屏设备界面的设计,操作步长较长,且操作时需要将注意力从有屏设备转移到遥控器,操作效率有待提升。语音交互可以解析出用户意图并直接提供用户希望获取的内容。但语音交互在一些场景中不适用,例如环境声音嘈杂或有屏设备播放的多媒体声音较大的场景。
发明内容
本申请实施例提出了有屏设备的手势控制方法和装置。
第一方面,本申请实施例提供了一种有屏设备的手势控制方法,包括:将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置;生成用于指示操控位置的操作位置标识信息。
在一些实施例中,上述方法还包括:在有屏设备的显示界面上呈现操作位置标识信息。
在一些实施例中,上述方法还包括:响应于确定操控位置呈现的对象为可操作对象,生成用于提示操控位置的呈现对象为可操作对象的第一提示信息。
在一些实施例中,上述方法还包括:响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行预设控制操作的操作指令。
在一些实施例中,上述方法还包括:响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对操控位置的可操作对象进行预设控制操作的第二提示信息。
在一些实施例中,上述将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置,包括:响应于检测到用户发起非接触式手势操作,将发起非接触式手势操作的用户手部的初始位置映射至有屏设备的显示界面上得到初始投影位置,根据初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定非接触式手势操作对应的手部位置在有屏设备的显示屏上的投影位置,作为手势操作的操控位置。
第二方面,本申请实施例提供了一种有屏设备的手势控制装置,包括:映射单元,被配置为将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置;第一生成单元,被配置为生成用于指示操控位置的操作位置标识信息。
在一些实施例中,上述装置还包括:呈现单元,被配置为在有屏设备的显示界面上呈现操作位置标识信息。
在一些实施例中,上述装置还包括:第二生成单元,被配置为响应于确定操控位置呈现的对象为可操作对象,生成用于提示操控位置的呈现对象为可操作对象的第一提示信息。
在一些实施例中,上述装置还包括:第三生成单元,被配置为响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行预设控制操作的操作指令。
在一些实施例中,上述装置还包括:第四生成单元,被配置为响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对操控位置的可操作对象进行预设控制操作的第二提示信息。
在一些实施例中,上述映射单元进一步被配置为按照如下方式将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置:响应于检测到用户发起非接触式手势操作,将发起非接触式手势操作的用户手部的初始位置映射至有屏设备的显示界面上得到初始投影位置,根据初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定非接触式手势操作对应的手部位置在有屏设备的显示屏上的投影位置,作为手势操作的操控位置。
第三方面,本申请实施例提供了一种电子设备,包括:一个或多个处理器;显示装置;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面提供的有屏设备的手势控制方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现第一方面提供的有屏设备的手势控制方法。
本申请上述实施例的有屏设备的手势控制方法和装置,通过将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置,生成用于指示操控位置的操作位置标识信息,实现了在非接触式手势交互过程中基于位置标识信息来指示操控位置,以供用户根据操控位置进行手部位置调整或执行操控,提升了操控效率。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请实施例可以应用于其中的示例性系统架构图;
图2是根据本申请的有屏设备的手势控制方法的一个实施例的流程图;
图3A和图3B是图2所示有屏设备的手势控制方法的一个应用场景的示意图;
图4是根据本申请的有屏设备的手势控制方法的又一个实施例的流程图;
图5A和图5B是图4所示有屏设备的手势控制方法的一个应用场景的示意图;
图6是本申请的有屏设备的手势控制装置的一个实施例的结构示意图;
图7是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的有屏设备的手势控制方法或有屏设备的手势控制装置的示例性系统架构。
如图1所示,系统架构100可以包括有屏设备110以及服务器120。有屏设备110可以通过网络与服务器120进行交互,以接收或发送消息等。有屏设备110可以是具有显示屏的电子设备,例如智能电视、智能显示屏、带屏智能音箱等。有屏设备上可以安装有各种人机交互应用,例如浏览器应用、搜索应用、多媒体资源播放应用,等等。
用户130可以使用有屏设备110与服务器120交互,以获取服务器120提供的服务。用户130可以采用多种方式控制有屏设备110向服务器120发起服务请求,例如非接触的手势交互方式、语音交互方式、辅助设备(例如遥控器)交互方式等。
有屏设备110上可以设置有人体动作感知设备111,例如基于可见光或红外光的图像采集设备、基于激光、声波等信息的测距设备或用于三维建模的设备。人体动作感知设备111可以采集人体动作信息,将人体动作信息传输至有屏设备110的处理器或与有屏设备110连接的服务器120进行处理。
服务器120可以是为有屏设备110显示的内容提供内容服务器的服务器,也可以是为有屏设备110提供功能服务的服务器。服务器120可以接收有屏设备110发送的请求,对请求进行解析,根据解析结果生成响应信息,并将生成的响应信息返回给有屏设备110。有屏设备110可以输出响应信息。
需要说明的是,本申请实施例所提供的有屏设备的手势控制方法可以由有屏设备110执行,相应地,有屏设备的手势控制装置可以设置于有屏设备110中。在这些场景中,上述系统架构可以不包含服务器120。
在一些场景中,本申请实施例提供的有屏设备的手势控制方法可以由与有屏设备110通信连接的服务器120执行,相应地,有屏设备的手势控制装置可以设置于与有屏设备110连接的服务器120中。
应该理解,图1中的有屏设备、服务器、用户的数目仅仅是示意性的。根据实现需要,可以具有任意数目的有屏设备、服务器、用户。
继续参考图2,其示出了根据本申请的有屏设备的手势控制方法的一个实施例的流程200。该有屏设备的手势控制方法,包括以下步骤:
步骤201,将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置。
非接触式手势操控是一种灵活、方便的非接触式人机交互方式,并且可以应用于嘈杂环境等语音控制不适用的场景中。相较于传统的有屏设备的接触式操控方式,非接触式手势操控是隔空操控,不受有屏设备界面的限制,对有屏设备的操控也无需将手指精准地移动到某个图标上,能够扩大手部操控的自由度和灵活性。
在本实施例中,上述有屏设备的手势控制方法的执行主体(例如图1所示的有屏设备)可以检测非接触式手势操作对应的手部位置。上述执行主体可以通过有屏设备的非接触式手势操控的有效操控区域内的图像数据、激光点云数据、声波数据等来检测手部位置。其中,有效操控区域可以是有屏设备的图像采集装置、激光数据采集装置、声波数据采集装置等的有效感测区域,例如是有屏设备正前方的一个区域。
以图像数据为例,可以基于肤色、手部结构、人体结构等物理特征,采用边缘检测等方法从采集到的图像数据中提取出手部区域。在图像中提取出手部区域后,可以将手部区域在图像中的位置映射至有屏设备的显示界面上。具体地,可以根据图像采集设备的坐标系、图像坐标系、三维空间坐标系、有屏设备显示屏坐标系四者之间的投影关系,将手部区域在图像中的位置投影至显示屏上,得到的投影位置为手势操作的操控位置。
在一些实施例中,可以按照如下方式将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置:响应于检测到用户发起非接触式手势操作,将发起非接触式手势操作的用户手部的初始位置映射至有屏设备的显示界面上得到初始投影位置,根据初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定非接触式手势操作对应的手部位置在有屏设备的显示屏上的投影位置,作为手势操作的操控位置。
具体来说,可以在检测到用户发起非接触式手势操作时,例如在检测到用户的抬手动作时,将用户发起非接触式手势操作时的手部位置作为手部初始位置,将用户的手部初始位置映射至有屏设备的显示界面上。具体可以随机地选择有屏设备的显示界面上的一个点或一个区域,或者可以获取预先指定的有屏设备的显示界面上的一个初始点或初始区域作为手势操作对应的手部初始位置的映射位置。
然后,可以基于采集到的图像序列、激光点云、声波等数据跟踪用户手部位置的变化。例如对于采集到的图像序列,可以采用基于肤色的SIFT(Scale-invariant featuretransform,尺度不变特征变换)特征提取算法,结合HOG(Histogram of OrientedGradient,方向梯度直方图),采用Mean Shift(均值偏移)对视频中的图像帧进行手部位置检测和跟踪,得出手部位置变化轨迹。在此过程中,可以随之确定出手部位置在有屏设备的显示界面上的映射位置的变化轨迹,例如根据手部运动方向、运动速度、运动距离相应计算得出手部位置在有屏设备的显示界面上的映射位置的移动轨迹,进而得到用户手部停止移动时在有屏设备的显示界面上的映射位置,作为上述非接触式手势操作的操控位置。
通过上述检测用户发起非接触式手势操作时的手部的初始位置,并根据用户在完成手势操作过程中的手部位置变化轨迹确定出手势操作在有屏设备显示界面上的操控位置的方式,不需要标定图像采集设备的坐标系、图像坐标系、空间坐标系以及有屏设备显示屏坐标系之间的相对投影关系即可定位出用户手势操作的操控位置,简化了确定用户的手势操作的操控位置的方法、能够提升确定用户的手势操作的操控位置的效率。
步骤202,生成用于指示手势操作的操控位置的操作位置标识信息。
在确定非接触式手势操作在有屏设备显示界面上的操控位置之后,可以生成用于指示该操控位置的操作位置标识信息。该操作位置标识信息可以是预先设定的、且与操控位置关联的用于标识操控位置在显示界面中的相对位置的信息。该位置标识信息可以例如为光标、手形图标、圆点、框、圈等符号标识,也可以是包含文字、符号等的文本标识,还可以是叠加在操控位置的可操控图标或图形按键上的浮层图像标识等。
在本实施例中,可以获取上述手势操作的操控位置的位置坐标,并从预存的位置标识信息库中提取出该位置坐标对应的位置标识信息。或者,可以从预存的位置标识信息库中选择一个位置标识信息并将选择出的位置标识信息与该位置坐标关联,以生成上述用于指示非接触式手势操作的操控位置的操作位置标识信息。
本申请上述实施例的有屏设备的手势控制方法,通过确定非接触式手势操作对应的手部位置映射至有屏设备的显示界面上得到的操控位置,并生成用于指示该操控位置的操作位置标识信息,可以在非接触式手势交互过程中基于位置标识信息来指示操控位置,以供用户根据操控位置进行手部位置调整或执行操控,能够提升操控效率。
在本实施例的一些可选的实现方式中,上述有屏设备的手势控制方法的流程200还可以包括:在有屏设备的显示界面上呈现操作位置标识信息。
可以将生成的操作位置标识信息呈现在有屏设备的显示界面上。具体地,可以将该操作位置标识信息在上述操控位置处呈现。即可以根据上述操控位置的坐标呈现操作位置标识信息。
这样,可以通过呈现的操作位置标识信息向用户提供操作位置反馈,实现了对操控位置的视觉提示,以便用户根据操控位置调整手部位置或对操控位置处的呈现对象执行控制操作。
请参考图3A和图3B,其示出了图2所示有屏设备的手势控制方法的一个应用场景示意图。如图3A所示,用户抬起手,上述执行主体可以识别手部的初始位置,将其映射至有屏设备的显示界面上,以圆点的方式呈现手势的初始操控位置。用户在看到手势的初始操控位置之后,若确定该初始操控位置不是用户预期的操控位置,可以移动手部。如图3A和3B所示,当手部从图3A所示的位置移动至图3B所示的位置时,呈现在显示界面上的圆点跟随手部的位置移动。
继续参考图4,其示出了根据本申请的有屏设备的手势控制方法的又一个实施例的流程图。如图4所示,本实施例的有屏设备的手势控制方法,可以包括以下步骤:
步骤401,将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置。
步骤402,生成用于指示手势操作的操控位置的操作位置标识信息。
本实施例的步骤401和步骤402分别与前述实施例的步骤201、步骤202一致,步骤401和步骤402的具体实现方式可以分别参考前述实施例中步骤201和步骤202的描述,此处不再赘述。
可选地,在步骤402之后,上述有屏设备的手势控制方法的流程400还可以包括在有屏设备的显示界面上呈现操作位置标识信息的步骤(图4未示出),具体可以将该操作位置标识信息在上述操控位置处呈现,以通过呈现的操作位置标识信息向用户提供操作位置反馈,实现了对操控位置的视觉提示,以便用户根据操控位置调整手部位置或对操控位置处的呈现对象执行控制操作。
步骤403,响应于确定用于指示手势操作的操控位置呈现的对象为可操作对象,生成用于提示用于指示手势操作的操控位置的呈现对象为可操作对象的第一提示信息。
在本实施例中,确定用户的手势操作的操控位置之后,可以判断操控位置处呈现的对象是否为可操作对象。可操作对象是可被执行点击、拖拽等操作后链接至其他对象或移动至其他位置的对象。可操作对象可例如是应用程序图标、功能图标、文本块中链接至其他页面的文本、等等。
有屏设备中的呈现对象可以是有屏设备提供的内容对象,可以包括应用程序图标、功能图标、呈现的文本、图片、视频、音频等内容对象。也可以是不包含实质内容的预设空白对象,例如预设的空白区域。可以预先为各呈现对象配置是否为可操作对象的属性信息。在当前呈现的界面中,各呈现对象的位置坐标可以预先设定或获取。在确定用户的手势操作的操控位置之后,可以根据操控位置的坐标查找到该坐标处的呈现对象,并获取该呈现对象的属性信息,从而确定操控位置的呈现对象是否为可操作对象。
在本实施例的一些应用场景中,可以针对有屏设备的空白区域进行手势控制,例如隔空点击屏幕左上角空白区域的手势操作可以指示返回上级页面。这些空白区域可以作为属性信息包括其位置信息和可操作属性的空白对象。
若操控位置的呈现对象是可操作对象,可以生成上述第一提示信息,以提示用户可对当前操控位置的呈现对象执行操作控制。第一提示信息可以是静态或动态的提示信息,可以是文本、图片、视频、音频等形式的提示信息。
可选地,上述第一提示信息还可以是当前操控位置的呈现对象的呈现方式更改信息。其中,呈现方式可以包括以下任意一项或多项:呈现位置、动态呈现效果、色彩、尺寸,等等。呈现方式更改信息可以是用于指示更改呈现对象当前的呈现方式属性的信息。例如当前呈现对象是一个彩色图标,呈现方式更改信息可以是将该图标的颜色更改为灰色的信息,或者对该图标进行高亮显示的信息。
本实施例的有屏设备的手势控制方法流程400通过在操控位置的呈现对象是可操作对象时生成第一提示信息对用户进行提示,可以使用户快速获知操控位置的可操作属性,从而帮助用户快速地完成手势操控。进一步地,通过更改呈现方式的方法来进行提示,可以更直观地对用户进行提示,进一步提升操控效率。
请参考图5A,其示出了图4所示实施例的一个应用场景的示意图。如图5A所示,当用户的手部位置在有屏设备的显示界面上的投影位置(如图5A所示的圆点位置)处是可操作区域,且该位置处呈现的对象是可操作对象时,可以生成虚线框图对用户进行提示。
在本实施例的一些可选的实现方式中,上述有屏设备的手势控制方法的流程400还可以包括:
步骤404,响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行预设控制操作的操作指令。
在这里,可以检测对用户的手势操作进行检测和识别。具体可以检测手部关键点的位置,并采用基于概率模型或神经网络的分类器对手势形状进行分类,得到手势识别结果。还可以将手部关键点的位置与各预设手势操作的特征模板进行匹配,根据匹配结果确定手势识别结果。
可以判断识别出的用户的手势操作是否与对操控位置的可操作对象进行预设控制操作的预设手势操作一致,若是,则可以生成指示执行该预设控制操作的指令。即在识别出用户的手势操作的意图是对有屏设备上当前操控位置处呈现的对象进行预设操作控制时,可以生成对当前操控位置处呈现的对象执行预设操控制的指令,之后可以执行该指令。
在实际场景中,若确定非接触式手势操作对应的手部位置在有屏设备显示界面上的投影位置处的呈现对象为可操作对象,并且检测到非接触式手势操作时对该位置处的呈现对象执行预设操作的手势,则可以对用户的手势操作进行响应,即生成对有屏设备的该位置处的呈现对象执行相应操作的指令。例如,若预先设定隔空触摸屏幕左上角区域的手势操作用于指示执行在浏览或播放过程中返回上级页面的命令,则在检测到用户当前的手势操作的操控位置在屏幕的左上角区域,且手势类型是隔空触摸的手势,则可以生成返回上级页面的操作指令。有屏设备可以根据该指令执行返回上级页面的操作。
在进一步的可选实现方式中,上述有屏设备的手势控制方法的流程400还可以包括:
步骤405,响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对操控位置的可操作对象进行预设控制操作的第二提示信息。
在根据步骤404的方法检测到用户发起的手势操作是对上述操控位置的可操作对象进行预设控制操作的预设手势操作时,可以生成上述第二提示信息以提示用户即将执行对响应的控制操作。第二提示信息也可以是文本、图片、视频、音频等形式的动态或静态提示信息。在这里,第二提示信息可以与上述第一提示信息不相同,以区分对可操作对象和执行控制操作的提示方式。这样,可以以提示信息的方式提示用户即将对操控位置的对象执行操作,避免误操作。
继续参考图5B,其示出了图4所示实施例的一个应用场景的示意图。如图5B所示,在图5A的基础上,用户在手部位置在有屏设备的显示界面上的投影位置为左上角的可操作区域内,且执行的手势是隔空点击(或向下按)的手势保持几秒钟的操作,这时,可以将虚线框图填充为实线图,作为提示用户即将执行该隔空点击屏幕左上角的手势操作所指示的返回上级页面的操作的第二提示信息,同时执行返回上级页面的操作。
进一步参考图6,作为对上述各图所示方法的实现,本申请提供了一种有屏设备的手势控制装置的一个实施例,该装置实施例与图2和图4所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的有屏设备的手势控制装置600包括映射单元601和第一生成单元602。其中,映射单元601被配置为将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置;第一生成单元602被配置为生成用于指示操控位置的操作位置标识信息。
在一些实施例中,上述装置600还可以包括:呈现单元,被配置为在有屏设备的显示界面上呈现操作位置标识信息。
在一些实施例中,上述装置600还可以包括:第二生成单元,被配置为响应于确定操控位置呈现的对象为可操作对象,生成用于提示操控位置的呈现对象为可操作对象的第一提示信息。
在一些实施例中,上述装置600还可以包括:第三生成单元,被配置为响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行预设控制操作的操作指令。
在一些实施例中,上述装置600还可以包括:第四生成单元,被配置为响应于检测到手势操作是对操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对操控位置的可操作对象进行预设控制操作的第二提示信息。
在一些实施例中,上述映射单元601可以进一步被配置为按照如下方式将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置:响应于检测到用户发起非接触式手势操作,将发起非接触式手势操作的用户手部的初始位置映射至有屏设备的显示界面上得到初始投影位置,根据初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定非接触式手势操作对应的手部位置在有屏设备的显示屏上的投影位置,作为手势操作的操控位置。
应当理解,装置600中记载的诸单元与参考图2和图4描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作和特征同样适用于装置600及其中包含的单元,在此不再赘述。
本申请上述实施例的有屏设备的手势控制装置700,通过将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置,生成用于指示操控位置的操作位置标识信息,实现了在非接触式手势交互过程中基于位置标识信息来指示操控位置,以供用户根据操控位置进行手部位置调整或执行操控,提升了操控效率。
本申请实施例还提供了一种电子设备,包括:一个或多个处理器;显示装置;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述实施例的有屏设备的手势控制方法。
下面参考图7,其示出了适于用来实现本申请实施例的电子设备的计算机系统700的结构示意图。图7示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图7所示,计算机系统700包括中央处理单元(CPU)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有系统700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
以下部件连接至I/O接口705:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括映射单元和第一生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置;生成用于指示操控位置的操作位置标识信息。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (8)
1.一种有屏设备的手势控制方法,包括:
将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置,包括:响应于检测到用户发起非接触式手势操作,将所述有屏设备的显示界面上的一个点或一个区域作为手势操作对应的用户手部的初始位置,并将所述用户手部的初始位置映射至所述有屏设备的显示界面上得到初始投影位置,根据所述初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定所述非接触式手势操作对应的手部位置在所述有屏设备的显示屏上的投影位置,作为所述手势操作的操控位置;
生成用于指示所述操控位置的操作位置标识信息;
在所述有屏设备的显示界面上呈现所述操作位置标识信息,以向用户提供操作位置反馈,以便用户根据所述操控位置调整手部位置或对操控位置处的呈现对象执行控制操作,所述呈现对象包括预设空白对象;所述控制操作包括返回上级页面;
响应于确定所述操控位置呈现的对象为可操作对象,生成用于提示所述操控位置的呈现对象为可操作对象的第一提示信息。
2.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到所述手势操作是对所述操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行所述预设控制操作的操作指令。
3.根据权利要求2所述的方法,其中,所述方法还包括:
响应于检测到所述手势操作是对所述操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对所述操控位置的可操作对象进行预设控制操作的第二提示信息。
4.一种有屏设备的手势控制装置,包括:
映射单元,被配置为将非接触式手势操作对应的手部位置映射至有屏设备的显示界面上,得到手势操作的操控位置,进一步被配置为:响应于检测到用户发起非接触式手势操作,将所述有屏设备的显示界面上的一个点或一个区域作为手势操作对应的用户手部的初始位置,并将所述用户手部的初始位置映射至所述有屏设备的显示界面上得到初始投影位置,根据所述初始投影位置以及检测到的发起非接触式手势操作的用户手部的移动轨迹,确定所述非接触式手势操作对应的手部位置在所述有屏设备的显示屏上的投影位置,作为所述手势操作的操控位置;
第一生成单元,被配置为生成用于指示所述操控位置的操作位置标识信息;
呈现单元,被配置为在所述有屏设备的显示界面上呈现所述操作位置标识信息,以向用户提供操作位置反馈,以便用户根据所述操控位置调整手部位置或对操控位置处的呈现对象执行控制操作,所述呈现对象包括预设空白对象;所述控制操作包括返回上级页面;
第二生成单元,被配置为响应于确定所述操控位置呈现的对象为可操作对象,生成用于提示所述操控位置的呈现对象为可操作对象的第一提示信息。
5.根据权利要求4所述的装置,其中,所述装置还包括:
第三生成单元,被配置为响应于检测到所述手势操作是对所述操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于指示执行所述预设控制操作的操作指令。
6.根据权利要求5所述的装置,其中,所述装置还包括:
第四生成单元,被配置为响应于检测到所述手势操作是对所述操控位置的可操作对象进行预设控制操作的预设手势操作,生成用于提示对所述操控位置的可操作对象进行预设控制操作的第二提示信息。
7.一种电子设备,包括:
一个或多个处理器;
显示装置;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-3中任一所述的方法。
8.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-3中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811640930.8A CN109725724B (zh) | 2018-12-29 | 2018-12-29 | 有屏设备的手势控制方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811640930.8A CN109725724B (zh) | 2018-12-29 | 2018-12-29 | 有屏设备的手势控制方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109725724A CN109725724A (zh) | 2019-05-07 |
CN109725724B true CN109725724B (zh) | 2022-03-04 |
Family
ID=66298553
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811640930.8A Active CN109725724B (zh) | 2018-12-29 | 2018-12-29 | 有屏设备的手势控制方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109725724B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110287891B (zh) * | 2019-06-26 | 2021-11-09 | 北京字节跳动网络技术有限公司 | 基于人体关键点的手势控制方法、装置及电子设备 |
CN110414393A (zh) * | 2019-07-15 | 2019-11-05 | 福州瑞芯微电子股份有限公司 | 一种基于深度学习的自然交互方法及终端 |
CN112394811B (zh) * | 2019-08-19 | 2023-12-08 | 华为技术有限公司 | 一种隔空手势的交互方法及电子设备 |
CN112527110A (zh) * | 2020-12-04 | 2021-03-19 | 北京百度网讯科技有限公司 | 非接触式交互方法、装置、电子设备和介质 |
CN112835484B (zh) * | 2021-02-02 | 2022-11-08 | 北京地平线机器人技术研发有限公司 | 基于操作体的动态显示方法、装置、存储介质及电子设备 |
CN113325987A (zh) * | 2021-06-15 | 2021-08-31 | 深圳地平线机器人科技有限公司 | 引导操作体进行隔空操作的方法和装置 |
CN114489341A (zh) * | 2022-01-28 | 2022-05-13 | 北京地平线机器人技术研发有限公司 | 手势的确定方法和装置、电子设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103294197B (zh) * | 2013-05-22 | 2017-06-16 | 深圳Tcl新技术有限公司 | 基于手势操作实现终端遥控的方法、终端 |
CN108459702A (zh) * | 2017-02-22 | 2018-08-28 | 天津锋时互动科技有限公司深圳分公司 | 基于手势识别与视觉反馈的人机交互方法与系统 |
CN108536273A (zh) * | 2017-03-01 | 2018-09-14 | 天津锋时互动科技有限公司深圳分公司 | 基于手势的人机菜单交互方法与系统 |
-
2018
- 2018-12-29 CN CN201811640930.8A patent/CN109725724B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103294197B (zh) * | 2013-05-22 | 2017-06-16 | 深圳Tcl新技术有限公司 | 基于手势操作实现终端遥控的方法、终端 |
CN108459702A (zh) * | 2017-02-22 | 2018-08-28 | 天津锋时互动科技有限公司深圳分公司 | 基于手势识别与视觉反馈的人机交互方法与系统 |
CN108536273A (zh) * | 2017-03-01 | 2018-09-14 | 天津锋时互动科技有限公司深圳分公司 | 基于手势的人机菜单交互方法与系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109725724A (zh) | 2019-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109725724B (zh) | 有屏设备的手势控制方法和装置 | |
US20210264668A1 (en) | Rendering 3d captions within real-world environments | |
RU2702270C2 (ru) | Обнаружение выбора рукописного фрагмента | |
US11663784B2 (en) | Content creation in augmented reality environment | |
TWI524210B (zh) | 基於自然姿勢之使用者介面方法及系統 | |
US20180246635A1 (en) | Generating user interfaces combining foreground and background of an image with user interface elements | |
US20140019905A1 (en) | Method and apparatus for controlling application by handwriting image recognition | |
CN108874136B (zh) | 动态图像生成方法、装置、终端和存储介质 | |
CN111475059A (zh) | 基于近距离传感器和图像传感器的手势检测 | |
JP7181375B2 (ja) | 目標対象の動作認識方法、装置及び電子機器 | |
KR20180051782A (ko) | 사용자 인증과 관련된 사용자 인터페이스 표시 방법 및 이를 구현한 전자 장치 | |
CN107977155B (zh) | 一种手写识别方法、装置、设备和存储介质 | |
US20140232748A1 (en) | Device, method and computer readable recording medium for operating the same | |
US20140267011A1 (en) | Mobile device event control with digital images | |
JP7140773B2 (ja) | リアルタイム協働用のライブインク存在 | |
CN109725723A (zh) | 手势控制方法和装置 | |
CN111481923B (zh) | 摇杆显示方法及装置、计算机存储介质、电子设备 | |
US10970476B2 (en) | Augmenting digital ink strokes | |
CN109753154B (zh) | 有屏设备的手势控制方法和装置 | |
JP2023510443A (ja) | ラベリング方法及び装置、電子機器並びに記憶媒体 | |
CN108874141B (zh) | 一种体感浏览方法和装置 | |
CN103547982A (zh) | 利用空间和时间特征识别触摸传感器数据中的接触和接触属性 | |
CN109725722B (zh) | 有屏设备的手势控制方法和装置 | |
CN114489341A (zh) | 手势的确定方法和装置、电子设备和存储介质 | |
KR20140078083A (ko) | 증강 현실이 구현된 만화책 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20210507 Address after: 100085 Baidu Building, 10 Shangdi Tenth Street, Haidian District, Beijing Applicant after: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. Applicant after: Shanghai Xiaodu Technology Co.,Ltd. Address before: 100085 Baidu Building, 10 Shangdi Tenth Street, Haidian District, Beijing Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |