CN115328312A - 显示设备的控制方法、装置、设备、存储介质和程序产品 - Google Patents
显示设备的控制方法、装置、设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN115328312A CN115328312A CN202210975460.0A CN202210975460A CN115328312A CN 115328312 A CN115328312 A CN 115328312A CN 202210975460 A CN202210975460 A CN 202210975460A CN 115328312 A CN115328312 A CN 115328312A
- Authority
- CN
- China
- Prior art keywords
- target user
- gesture
- preset
- control
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 123
- 238000003860 storage Methods 0.000 title claims abstract description 27
- 238000001514 detection method Methods 0.000 claims abstract description 32
- 230000004044 response Effects 0.000 claims description 100
- 238000004590 computer program Methods 0.000 claims description 17
- 238000006073 displacement reaction Methods 0.000 claims description 10
- 238000013507 mapping Methods 0.000 claims description 8
- 230000000875 corresponding effect Effects 0.000 description 87
- 238000010586 diagram Methods 0.000 description 36
- 230000001276 controlling effect Effects 0.000 description 25
- 210000003811 finger Anatomy 0.000 description 24
- 238000012545 processing Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 210000000245 forearm Anatomy 0.000 description 7
- 230000003993 interaction Effects 0.000 description 6
- 230000037237 body shape Effects 0.000 description 5
- 238000010295 mobile communication Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 210000004247 hand Anatomy 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 3
- 210000003813 thumb Anatomy 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 210000005224 forefinger Anatomy 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 208000035473 Communicable disease Diseases 0.000 description 1
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 244000060701 Kaempferia pandurata Species 0.000 description 1
- 235000016390 Uvaria chamae Nutrition 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 210000001145 finger joint Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
- Details Of Television Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开涉及一种显示设备的控制方法、装置、设备、存储介质和程序产品。所述方法包括:获取显示设备的显示屏的对面的视频流;根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种显示设备的控制方法、显示设备的控制装置、电子设备、存储介质和程序产品。
背景技术
人们通常使用鼠标、键盘和触摸屏来对计算机设备进行控制。
随着电视、显示器等设备的尺寸越来越大,人与设备之间的交互距离也逐渐增大,从而能够容纳更多的操作者(例如玩家)。由于交互距离的增大,导致无法再通过固定设备(例如普通鼠标、键盘等)完成交互,因此开始出现以空鼠和游戏手柄为代表的手持无线设备。然而,这些手持无线设备难以随身携带,也不便于多人交接控制权。
随着科技的进步,人们不再满足于单一地在桌面计算机上对设备进行控制。在越来越多的场景下,人们迫切希望更自然地与机器进行互动。
发明内容
本公开提供了一种显示设备的控制技术方案。
根据本公开的一方面,提供了一种显示设备的控制方法,包括:
获取显示设备的显示屏的对面的视频流;
根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;
响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
通过获取显示设备的显示屏的对面的视频流,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,并响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,由此无需确定目标用户与显示设备之间的距离,从而无需采用深度摄像头,并且无需确定用户实际的体型信息(例如实际的身高、实际的手臂长度、实际的肩宽等),从而能够在降低计算量的前提下,准确地确定适用于目标用户的操作幅度信息,进而能够提高对显示设备进行手势控制的速度和准确度,并能够使距离显示设备不同距离和/或不同体型的用户获得舒适的手势操作体验。
在一种可能的实现方式中,所述操作幅度信息包括:
光标控制操作的操作区域的尺寸信息,其中,所述操作区域的尺寸小于或等于所述显示设备的显示区域的尺寸。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息,由此能够降低因目标用户距离显示设备较远和/或目标用户的体型较小,导致目标用户的手部的活动范围无法覆盖显示设备的显示屏的所有区域,从而导致目标用户无法对显示设备的整个显示屏进行手势控制、只能对显示设备的显示屏的部分区域进行手势控制的概率,还能够降低因目标用户距离显示设备较近和/或目标用户的体型较大,导致目标用户的手部的较小幅度的移动导致光标在显示设备的显示区域中的较大幅度移动的概率,从而使目标用户能够更准确、轻松地对显示设备进行光标控制。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的双肩关键点;
所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息,由此能够更准确地确定出适用于目标用户的光标控制操作的操作区域的尺寸。
在一种可能的实现方式中,所述方法还包括:
根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在该实现方式中,通过根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,由此在目标用户相对于所述显示设备处于不同的方位时,均能够准确、轻松地通过手势对所述显示设备实现光标控制。
在一种可能的实现方式中,所述根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,包括:
根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,其中,所述类型信息用于表示所述目标用户用于手势控制的手部为左手或右手;
根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,并根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,由此能够在目标用户采用右手执行手势控制时,使操作区域处于右手便于达到的位置,并在用户采用左手执行手势控制时,使操作区域处于左手便于达到的位置,从而能够方便目标用户通过手势进行更准确、轻松的光标控制。
在一种可能的实现方式中,所述方法还包括:
控制所述显示设备显示所述操作区域。
在该实现方式中,通过控制所述显示设备显示所述操作区域,由此有助于目标用户更准确地进行光标控制,从而有助于提高目标用户对所述显示设备进行光标控制的效率。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的光标移动手势;
所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同。
在该实现方式中,通过响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同,由此能够响应于目标用户的手势为预设的光标移动手势,根据目标用户的手部(例如手掌)的移动方向,控制所述显示设备的显示区域中的光标向相同的方向移动,从而能够实现对用户而言简单易记的光标控制。
在一种可能的实现方式中,所述操作幅度信息包括:
焦点移动操作的触发距离。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的焦点移动操作的触发距离,由此能够降低因目标用户距离显示设备较远和/或目标用户的体型较小,导致目标用户的手部的活动范围无法覆盖显示设备的显示屏的所有区域,从而导致目标用户无法控制焦点在整个显示屏内移动、智能在显示屏的部分区域移动的概率,还能够降低因目标用户距离显示设备较近和/或目标用户的体型较大,导致目标用户的手部的较小幅度的移动导致焦点的较多次移动的概率,从而使目标用户能够更准确、轻松地对显示设备进行焦点控制。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的上边缘的关键点和下边缘的关键点;
所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离,由此能够更准确地确定出适用于目标用户的焦点移动操作的触发距离。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的第一焦点移动手势;
所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点。
在该实现方式中,通过响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点,由此能够实现准确的焦点移动控制。
在一种可能的实现方式中,所述方法还包括:
响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口;其中,所述第一窗口为所述当前位置对应的窗口,且所述第一窗口为焦点的当前位置对应的窗口;所述至少一个第二窗口中的任一第二窗口的几何中心与所述第一窗口的几何中心之间的距离为所述触发距离。
在该实现方式中,通过响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口,由此能够方便目标用户进行精准的焦点控制。
在一种可能的实现方式中,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:
响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户。
在该实现方式中,通过响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便任意用户通过预设的登录手势快速启动手势控制状态;通过响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便任意用户通过预设的登录手势启动手势控制状态,且通过第一预设时长进行登录控制,能够降低误启动手势控制状态的概率。
在一种可能的实现方式中,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:
响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户。
在该实现方式中,通过响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别,并响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便注册用户通过预设的登录手势快速启动手势控制状态;通过响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别,并响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便注册用户通过预设的登录手势启动手势控制状态,且通过第一预设时长进行登录控制,能够降低误启动手势控制状态的概率。
在一种可能的实现方式中,所述方法还包括:
响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制;
或者,
响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制;
或者,
响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。
在该实现方式中,通过响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制,或者,响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制,或者,响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制,由此能够减少目标用户的不经意的手势所带来的对所述显示设备的误控制,并且能够方便手势控制权限在不同用户之间的交接。
根据本公开的一方面,提供了一种显示设备的控制装置,包括:
获取模块,用于获取显示设备的显示屏的对面的视频流;
第一确定模块,用于根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;
第一控制模块,用于响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
在一种可能的实现方式中,所述操作幅度信息包括:
光标控制操作的操作区域的尺寸信息,其中,所述操作区域的尺寸小于或等于所述显示设备的显示区域的尺寸。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的双肩关键点;
所述第一确定模块用于:根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息。
在一种可能的实现方式中,所述装置还包括:
第二确定模块,用于根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在一种可能的实现方式中,所述第二确定模块用于:
根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,其中,所述类型信息用于表示所述目标用户用于手势控制的手部为左手或右手;
根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在一种可能的实现方式中,所述装置还包括:
第二控制模块,用于控制所述显示设备显示所述操作区域。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的光标移动手势;
所述第一控制模块用于:响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同。
在一种可能的实现方式中,所述操作幅度信息包括:
焦点移动操作的触发距离。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的上边缘的关键点和下边缘的关键点;
所述第一确定模块用于:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的第一焦点移动手势;
所述第一控制模块用于:响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点。
在一种可能的实现方式中,所述装置还包括:
第三控制模块,用于响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口;其中,所述第一窗口为所述当前位置对应的窗口,且所述第一窗口为焦点的当前位置对应的窗口;所述至少一个第二窗口中的任一第二窗口的几何中心与所述第一窗口的几何中心之间的距离为所述触发距离。
在一种可能的实现方式中,所述装置还包括第三确定模块,所述第三确定模块用于:
响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户。
在一种可能的实现方式中,所述装置还包括第四确定模块,所述第四确定模块用于:
响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户。
在一种可能的实现方式中,所述装置还包括第五确定模块,所述第五确定模块用于:
响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制;
或者,
响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制;
或者,
响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。
根据本公开的一方面,提供了一种电子设备,包括:一个或多个处理器;用于存储可执行指令的存储器;其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行上述方法。
根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。
根据本公开的一方面,提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行上述方法。
在本公开实施例中,通过获取显示设备的显示屏的对面的视频流,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,并响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,由此无需确定目标用户与显示设备之间的距离,从而无需采用深度摄像头,并且无需确定用户实际的体型信息(例如实际的身高、实际的手臂长度、实际的肩宽等),从而能够在降低计算量的前提下,准确地确定适用于目标用户的操作幅度信息,进而能够提高对显示设备进行手势控制的速度和准确度,并能够使距离显示设备不同距离和/或不同体型的用户获得舒适的手势操作体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出本公开实施例提供的显示设备的控制方法的流程图。
图2示出本公开实施例提供的显示设备的控制方法中的预设的登录手势的示意图。
图3示出本公开实施例提供的显示设备的控制方法中显示设备显示光标的示意图。
图4示出本公开实施例提供的显示设备的控制方法中,根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息的示意图。
图5示出本公开实施例提供的显示设备的控制方法中预设的光标移动手势的示意图。
图6示出本公开实施例提供的显示设备的控制方法中预设的点击手势的示意图。
图7示出本公开实施例提供的显示设备的控制方法中预设的画布控制手势的示意图。
图8示出本公开实施例提供的显示设备的控制方法中的预设的第一焦点移动手势的示意图。
图9示出本公开实施例提供的显示设备的控制方法中的第一窗口和第二窗口的一示意图。
图10示出本公开实施例提供的显示设备的控制方法中的第一窗口和第二窗口的另一示意图。
图11示出本公开实施例提供的显示设备的控制方法中,目标用户的手部的移动路径的示意图。
图12示出本公开实施例提供的显示设备的控制方法的应用场景的示意图。
图13示出本公开实施例提供的显示设备的控制装置的框图。
图14示出本公开实施例提供的一种电子设备800的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例提供了一种显示设备的控制方法、显示设备的控制装置、电子设备、存储介质和程序产品,通过获取显示设备的显示屏的对面的视频流,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,并响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,由此无需确定目标用户与显示设备之间的距离,从而无需采用深度摄像头,并且无需确定用户实际的体型信息(例如实际的身高、实际的手臂长度、实际的肩宽等),从而能够在降低计算量的前提下,准确地确定适用于目标用户的操作幅度信息,进而能够提高对显示设备进行手势控制的速度和准确度,并能够使距离显示设备不同距离和/或不同体型的用户获得舒适的手势操作体验。
在本公开实施例中,显示设备可以为具有显示屏的任意电子设备。在一种可能的实现方式中,显示设备可以为大屏设备,例如可以为电视机、个人计算机(PersonalComputer,PC)、笔记本电脑、投影屏等。
本公开实施例提供的显示设备的控制方法的执行主体可以为所述显示设备本身,也可以为与所述显示设备连接的其他电子设备。例如,在所述显示设备为电视机的情况下,所述显示设备的控制方法的执行主体可以为所述电视机本身,也可以为与所述电视机连接的机顶盒;又如,在所述显示设备为个人计算机的情况下,所述显示设备的控制方法的执行主体可以为所述个人计算机本身;等等。
下面结合附图对本公开实施例提供的显示设备的控制方法进行详细的说明。
图1示出本公开实施例提供的显示设备的控制方法的流程图。在一些可能的实现方式中,所述显示设备的控制方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。如图1所示,所述显示设备的控制方法包括步骤S11至步骤S13。
在步骤S11中,获取显示设备的显示屏的对面的视频流。
在步骤S12中,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息。
在步骤S13中,响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
在一种可能的实现方式中,在所述显示设备的控制方法的执行主体为所述显示设备本身的情况下,可以通过所述显示设备的摄像头采集所述显示设备的显示屏的对面的视频流,或者,可以通过与所述显示设备连接的摄像头采集所述显示设备的显示屏的对面的视频流。
在另一种可能的实现方式中,在所述显示设备的控制方法的执行主体为与所述显示设备连接的其他电子设备的情况下,可以通过所述显示设备的摄像头采集所述显示设备的显示屏的对面的视频流,或者,可以通过所述电子设备(即所述显示设备的控制方法的执行主体)的摄像头采集所述显示设备的显示屏的对面的视频流。
在本公开实施例中,在用户使用所述显示设备的情况下,通过采集所述显示设备的显示屏的对面的视频流,通常能够获取用户的影像信息。
在一种可能的实现方式中,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户;或者,响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户。
作为该实现方式的一个示例,预设的登录手势可以为手部五指张开、掌心朝向所述显示设备且小臂朝上(或五指指尖朝上)。图2示出本公开实施例提供的显示设备的控制方法中的预设的登录手势的示意图。在图2所示的示例中,预设的登录手势为手部五指张开、掌心朝向所述显示设备且五指指尖朝上。
作为该实现方式的另一个示例,预设的登录手势可以为手部五指张开且掌心朝向所述显示设备。
作为该实现方式的另一个示例,预设的登录手势可以为手部五指张开且小臂朝上(或五指指尖朝上)。
作为该实现方式的另一个示例,预设的登录手势可以为食指伸出等。
需要说明的是,尽管以以上示例介绍了预设的登录手势如上,但本领域技术人员能够理解,本公开应不限于此。本领域技术人员可以根据实际应用场景需求灵活设置预设的登录手势,在此不做限定。
在该实现方式中,第一预设时长可以为0.3秒、0.2秒或者0.4秒等,在此不做限定。
在该实现方式中,预设的登录手势可以用于用户启动手势控制状态。在该实现方式中,在确定目标用户之后,目标用户可以对所述显示设备执行光标控制、焦点控制等手势控制,在此不做限定。
在该实现方式中,通过响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便任意用户通过预设的登录手势快速启动手势控制状态;通过响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便任意用户通过预设的登录手势启动手势控制状态,且通过第一预设时长进行登录控制,能够降低误启动手势控制状态的概率。
在另一种可能的实现方式中,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户;或者,响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户。
作为该实现方式的一个示例,预设的登录手势可以为手部五指张开、掌心朝向所述显示设备且小臂朝上(或五指指尖朝上)。
作为该实现方式的另一个示例,预设的登录手势可以为手部五指张开且掌心朝向所述显示设备。
作为该实现方式的另一个示例,预设的登录手势可以为手部五指张开且小臂朝上(或五指指尖朝上)。
作为该实现方式的另一个示例,预设的登录手势可以为食指伸出等。
需要说明的是,尽管以以上示例介绍了预设的登录手势如上,但本领域技术人员能够理解,本公开应不限于此。本领域技术人员可以根据实际应用场景需求灵活设置预设的登录手势,在此不做限定。
在该实现方式中,第一预设时长可以为0.3秒、0.2秒或者0.4秒等,在此不做限定。
在该实现方式中,预设的登录手势可以用于注册用户启动手势控制状态。在该实现方式中,在确定目标用户之后,目标用户可以对所述显示设备执行光标控制、焦点控制等手势控制,在此不做限定。
在该实现方式中,通过响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别,并响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便注册用户通过预设的登录手势快速启动手势控制状态;通过响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别,并响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户,由此能够方便注册用户通过预设的登录手势启动手势控制状态,且通过第一预设时长进行登录控制,能够降低误启动手势控制状态的概率。
在一种可能的实现方式中,所述方法还包括:响应于用户登录手势控制状态(即,响应于确定出目标用户),控制所述显示设备显示光标。图3示出本公开实施例提供的显示设备的控制方法中显示设备显示光标的示意图。在图3所示的示例中,响应于用户张开左手手掌或右手手掌0.5秒,确定用户登录手势控制状态,并控制显示设备显示光标。
在一种可能的实现方式中,所述方法还包括:响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制;或者,响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制;或者,响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。
作为该实现方式的一个示例,可以响应于检测不到目标用户的手部的持续时长达到第二预设时长,确定目标用户结束本次手势控制。即,可以响应于目标用户的手部从所述视频流中消失的持续时长达到第二预设时长,确定目标用户结束本次手势控制。例如,第二预设时长可以为0.5秒或者1秒等,在此不做限定。在该示例中,在确定目标用户之后,可以响应于在第二预设时长内检测到目标用户的手部,保持目标用户对应的登录状态,即,维持目标用户对应的手势控制状态。
作为该实现方式的另一个示例,可以响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制。例如,预设的状态可以为放下状态。例如,可以响应于检测到目标用户的小臂向下,确定目标用户结束本次手势控制。在该示例中,在确定目标用户之后,可以响应于未检测到目标用户的手臂处于预设的状态,保持目标用户对应的登录状态,即,维持目标用户对应的手势控制状态。
作为该实现方式的另一个示例,可以响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。在该示例中,预设的登出手势可以用于目标用户退出手势控制状态。在该示例中,在确定目标用户之后,可以响应于未检测到预设的登出手势,保持目标用户对应的登录状态,即,维持目标用户对应的手势控制状态。
在该实现方式中,在目标用户结束本次手势控制之后,任意用户或者任意注册用户可以启动手势控制状态。
在该实现方式中,通过响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制,或者,响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制,或者,响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制,由此能够减少目标用户的不经意的手势所带来的对所述显示设备的误控制,并且能够方便手势控制权限在不同用户之间的交接。
在本公开实施例中,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定目标用户对应的操作幅度信息。
在一种可能的实现方式中,可以根据所述视频流中、检测到预设的登录手势的第一个视频帧图像中,目标用户的至少两个指定关键点的图像坐标之间的距离,确定目标用户对应的操作幅度信息。
在另一种可能的实现方式中,可以响应于确定出目标用户,根据所述视频流中最新采集的视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定目标用户对应的操作幅度信息。
当然,在一些可能的实现方式中,也可以结合所述视频流的至少两个视频帧图像确定目标用户的至少两个指定关键点的图像坐标之间的距离,以提高所确定的距离的准确性,从而提高所确定的目标用户对应的操作幅度信息的准确性。
在本公开实施例中,目标用户的至少两个指定关键点可以包括肩部关键点(例如左肩关键点、右肩关键点等)、手掌关键点(例如手掌的上边缘的关键点、手掌的下边缘的关键点、手掌的左边缘的关键点、手掌的右边缘的关键点等)、手臂关键点(例如手腕关键点、手肘关键点等)、手指关键点(例如指尖关键点、手指关节关键点、手指根部关键点等)等中的至少一种,在此不做限定。
在本公开实施例中,目标用户对应的操作幅度信息,可以为用于表示目标用户对应的操作幅度的信息。目标用户对应的操作幅度,与所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离正相关。即,所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离越大,则目标用户对应的操作幅度越大;所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离越小,则目标用户对应的操作幅度越小。
在本公开实施例中,在根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定目标用户对应的操作幅度信息时,无需确定目标用户与显示设备之间的距离,从而无需采用深度摄像头。另外,本公开实施例在根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定目标用户对应的操作幅度信息时,无需确定目标用户实际的体型信息(例如目标用户的实际身高、目标用户的实际手臂长度、目标用户的实际肩宽、目标用户的实际手指长度等),而是根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,以及预设的距离与操作幅度之间的映射关系,直接确定目标用户对应的操作幅度信息。
在一种可能的实现方式中,所述操作幅度信息包括:光标控制操作的操作区域的尺寸信息,其中,所述操作区域的尺寸小于或等于所述显示设备的显示区域的尺寸。
在该实现方式中,对所述显示设备的控制可以包括光标控制。其中,光标控制可以用于模拟鼠标光标的移动和点击,或者,可以用于模拟触摸屏或触控板的触控操作。
在该实现方式中,光标控制操作的操作区域,可以用于限定目标用户的手部的移动范围。目标用户的手部在操作区域内的位移,将转化为光标在所述显示设备的显示区域中的位移。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息,由此能够降低因目标用户距离显示设备较远和/或目标用户的体型较小,导致目标用户的手部的活动范围无法覆盖显示设备的显示屏的所有区域,从而导致目标用户无法对显示设备的整个显示屏进行手势控制、只能对显示设备的显示屏的部分区域进行手势控制的概率,还能够降低因目标用户距离显示设备较近和/或目标用户的体型较大,导致目标用户的手部的较小幅度的移动导致光标在显示设备的显示区域中的较大幅度移动的概率,从而使目标用户能够更准确、轻松地对显示设备进行光标控制。
作为该实现方式的一个示例,所述目标用户的至少两个指定关键点包括:所述目标用户的双肩关键点;所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息。在该示例中,目标用户的双肩关键点包括目标用户的左肩关键点和右肩关键点。
在一个例子中,可以将目标用户的双肩关键点的图像坐标之间的距离的第一预设倍数,确定为目标用户对应的光标控制操作的操作区域的宽度,并可以根据预设的宽高比,确定目标用户对应的光标控制操作的操作区域的高度。例如,第一预设倍数可以为1.5倍。
其中,预设的宽高比可以根据所述显示设备的显示区域的分辨率确定。例如,若所述显示设备的显示区域的分辨率为1920×1080,则可以将预设的宽高比确定为16:9。
图4示出本公开实施例提供的显示设备的控制方法中,根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息的示意图。在图4所示的示例中,操作区域21的宽度为目标用户的双肩关键点的图像坐标之间的距离的1.5倍,且操作区域21的宽度与高度的比例为16:9。
在另一个例子中,可以将目标用户的双肩关键点的图像坐标之间的距离的第二预设倍数,确定为目标用户对应的光标控制操作的操作区域的高度,并可以根据预设的宽高比,确定目标用户对应的光标控制操作的操作区域的宽度。
在该示例中,通过根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息,由此能够更准确地确定出适用于目标用户的光标控制操作的操作区域的尺寸。
作为该实现方式的一个示例,所述方法还包括:根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在一个例子中,可以将所述视频流中、检测到预设的登录手势的第一个视频帧图像中,目标用户的手部的图像坐标,确定为初始图像坐标。
在另一个例子中,可以响应于确定出目标用户,将所述视频流中最新采集的视频帧图像中目标用户的手部的图像坐标,确定为初始图像坐标。
在该示例中,目标用户的手部的初始图像坐标,可以为目标用户的手部的指定位置的初始图像坐标。例如,可以为目标用户的手掌的几何中心的初始图像坐标;又如,可以为目标用户的手掌的上边缘的关键点的初始图像坐标;等等。
在该示例中,通过根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,由此在目标用户相对于所述显示设备处于不同的方位时,均能够准确、轻松地通过手势对所述显示设备实现光标控制。
在一个示例中,所述根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,包括:根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,其中,所述类型信息用于表示所述目标用户用于手势控制的手部为左手或右手;根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在该示例中,可以根据所述视频流的至少一个视频帧图像,对目标用户用于手势控制的手部的类型进行识别,确定目标用户用于手势控制的手部的类型信息。其中,手部的类型信息可以为左手或右手。
通过根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,并根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,由此能够在目标用户采用右手执行手势控制时,使操作区域处于右手便于达到的位置,并在用户采用左手执行手势控制时,使操作区域处于左手便于达到的位置,从而能够方便目标用户通过手势进行更准确、轻松的光标控制。
在另一个示例中,可以仅根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,而不考虑所述目标用户用于手势控制的手部的类型信息。
作为该实现方式的一个示例,所述方法还包括:控制所述显示设备显示所述操作区域。在该示例中,通过控制所述显示设备显示所述操作区域,由此有助于目标用户更准确地进行光标控制,从而有助于提高目标用户对所述显示设备进行光标控制的效率。
作为该实现方式的另一个示例,所述显示设备可以不显示所述操作区域。
作为该实现方式的一个示例,所述预设的控制手势包括:预设的光标移动手势;所述方法还包括:响应于检测到所述预设的光标移动手势,控制所述显示设备显示光标。其中,光标的初始位置可以为所述显示设备的显示区域的几何中心等位置,在此不做限定。
在一个例子中,预设的光标移动手势可以为手部五指张开、掌心朝向所述显示设备、小臂朝上(或五指指尖朝上)且手掌移动。
在另一个例子中,预设的光标移动手势可以为手部五指张开、掌心朝向所述显示设备且手掌移动。
在另一个例子中,预设的光标移动手势可以为手部五指张开、小臂朝上(或五指指尖朝上)且手掌移动。
需要说明的是,尽管以以上示例介绍了预设的光标移动手势如上,但本领域技术人员能够理解,本公开应不限于此。本领域技术人员可以根据实际应用场景需求灵活设置预设的光标移动手势,在此不做限定。
作为该实现方式的一个示例,所述预设的控制手势包括:预设的光标移动手势;所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同。在该示例中,通过响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同,由此能够响应于目标用户的手势为预设的光标移动手势,根据目标用户的手部(例如手掌)的移动方向,控制所述显示设备的显示区域中的光标向相同的方向移动,从而能够实现对用户而言简单易记的光标控制。
图5示出本公开实施例提供的显示设备的控制方法中预设的光标移动手势的示意图。在图5所示的示例中,目标用户可通过移动手掌,控制显示设备的显示区域中的光标向相同的方向移动。
作为该实现方式的一个示例,所述方法还包括:响应于检测到预设的点击手势,根据光标的当前位置,控制所述显示设备执行点击操作。在一个例子中,预设的点击手势可以为握拳动作。图6示出本公开实施例提供的显示设备的控制方法中预设的点击手势的示意图。在图6所示的示例中,目标用户可以通过握拳实现点击操作。在点击完成后,目标用户可以松开拳头还原至五指张开的手势,从而能够继续移动光标。其中,预设的点击手势可以用于触发类似于鼠标左键的点击操作和/或触摸屏的点击操作。
作为该实现方式的一个示例,所述方法还包括:响应于检测到预设的拖拽手势,将显示区域中的目标对象拖拽至指定位置。在一个例子中,预设的拖拽手势可以为保持握拳并移动。在该示例中,预设的拖拽手势可以用于触发类似于鼠标的左键按住拖拽和/或触摸屏的按住图标移动的功能。
作为该实现方式的一个示例,所述方法还包括:响应于检测到预设的画布控制手势,对显示区域中的画布进行控制。在一个例子中,预设的画布控制手势可以包括预设的平移画布手势。例如,预设的平移画布手势可以为双手握拳并移动。在另一个例子中,预设的画布控制手势可以包括预设的画布放大手势。例如,预设的画布放大手势可以为双手握拳后展开。在另一个例子中,预设的画布控制手势可以包括预设的画布缩小手势。例如,预设的画布缩小手势可以为双手展开后握拳。图7示出本公开实施例提供的显示设备的控制方法中预设的画布控制手势的示意图。在图7所示的示例中,目标用户可以通过双手握拳后展开控制画布放大,并可以通过双手展开后握拳控制画布缩小。
在一种可能的实现方式中,所述操作幅度信息包括:焦点移动操作的触发距离。
在该实现方式中,对所述显示设备的控制可以包括焦点控制。在焦点控制状态中,可以在所述显示设备的显示屏中显示多个卡片,其中有且仅有一个处于选中状态。其中,选中状态可以通过高亮卡片和/或放大卡片等方式来表示。在该实现方式中,焦点控制可以用于模拟遥控器的方向键和选中按钮的操作,实现用户移动和点击焦点卡片的功能。焦点控制可以是独立的工作模式,也可以是光标控制的补充。
在该实现方式中,焦点移动操作的触发距离可以表示触发单次焦点移动的距离。不同方向的触发距离可以相同,也可以不同。例如,焦点向上移动操作的触发距离、焦点向下移动操作的触发距离、焦点向左移动操作的触发距离和焦点向右移动操作的触发距离均可以相同;又如,焦点向上移动操作的触发距离与焦点向下移动操作的触发距离可以相同,焦点向左移动操作的触发距离与焦点向右移动操作的触发距离可以相同,且焦点向上移动操作的触发距离与焦点向左移动操作的触发距离可以不同。
在该实现方式中,通过根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的焦点移动操作的触发距离,由此能够降低因目标用户距离显示设备较远和/或目标用户的体型较小,导致目标用户的手部的活动范围无法覆盖显示设备的显示屏的所有区域,从而导致目标用户无法控制焦点在整个显示屏内移动、智能在显示屏的部分区域移动的概率,还能够降低因目标用户距离显示设备较近和/或目标用户的体型较大,导致目标用户的手部的较小幅度的移动导致焦点的较多次移动的概率,从而使目标用户能够更准确、轻松地对显示设备进行焦点控制。
作为该实现方式的一个示例,所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的上边缘的关键点和下边缘的关键点;所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
在该示例中,目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,即为目标用户的手掌的高度。即,在该示例中,可以根据目标用户的手掌的高度,确定目标用户对应的焦点移动操作的触发距离。
在一个例子中,可以将目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离的第三预设倍数,确定为目标用户对应的焦点移动操作的触发距离。例如,第三预设倍数可以为0.25倍。
在该示例中,通过根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离,由此能够更准确地确定出适用于目标用户的焦点移动操作的触发距离。
作为该实现方式的另一个示例,所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的左边缘的关键点和右边缘的关键点;所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的左边缘的关键点与右边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
作为该实现方式的一个示例,所述预设的控制手势包括:预设的第一焦点移动手势;所述方法还包括:响应于检测到所述第一焦点移动手势,控制所述显示设备将预设位置的卡片选中为焦点。例如,预设位置可以为左上角,即,可以:响应于检测到所述第一焦点移动手势,控制所述显示设备将左上角的第一个卡片选中为焦点。
在一个例子中,预设的第一焦点移动手势可以为仅拇指与食指捏合的OK手势。图8示出本公开实施例提供的显示设备的控制方法中的预设的第一焦点移动手势的示意图。
作为该实现方式的一个示例,所述预设的控制手势包括:预设的第一焦点移动手势;所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点。
在该示例中,第一焦点移动手势可以转化为方向键(上/下/左/右)移动焦点的操作,并可以根据目标用户的手部的位移以及所述触发距离,确定焦点的移动方向和次数。例如,触发距离为D,若目标用户的手部向左移动,且向左移动的距离大于或等于2D且小于3D,则可以控制焦点向左移动两次;又如,若目标用户的手部向右移动,且向右移动的距离大于或等于D且小于2D,则可以控制焦点向右移动一次。
在该示例中,焦点移动的速度可以与目标用户的手部移动的速度正相关。
在该示例中,通过响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点,由此能够实现准确的焦点移动控制。
在一个示例中,所述方法还包括:响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口;其中,所述第一窗口为所述当前位置对应的窗口,且所述第一窗口为焦点的当前位置对应的窗口;所述至少一个第二窗口中的任一第二窗口的几何中心与所述第一窗口的几何中心之间的距离为所述触发距离。
图9示出本公开实施例提供的显示设备的控制方法中的第一窗口和第二窗口的一示意图。在图9所示的示例中,可以响应于检测到预设的第一焦点移动手势,根据目标用户的手部的当前位置,显示第一窗口,以及与第一窗口相邻的4个第二窗口,该4个第二窗口分别为第一窗口正上方的窗口、第一窗口正下方的窗口、第一窗口正左方的窗口和第一窗口正右方的窗口。
图10示出本公开实施例提供的显示设备的控制方法中的第一窗口和第二窗口的另一示意图。在图10所示的示例中,可以响应于检测到预设的第一焦点移动手势,根据目标用户的手部的当前位置,显示第一窗口,以及与第一窗口相邻的8个第二窗口,该8个第二窗口分别为第一窗口左上方的窗口、第一窗口正上方的窗口、第一窗口右上方的窗口、第一窗口正右方的窗口、第一窗口右下方的窗口、第一窗口正下方的窗口、第一窗口左下方的窗口和第一窗口正左方的窗口。
当然,根据目标用户的手部的当前位置的不同,以及所述显示设备的显示区域内的卡片的排列情况的不同,所显示的第二窗口的数量可能发生变化,且所显示的第二窗口相对于第一窗口的位置也可能发生变化。
在该示例中,当目标用户的手部从第一窗口移动至任一第二窗口,焦点也将移动至该第二窗口对应的位置。并且,在目标用户的手部从第一窗口移动至任一第二窗口后,将该第二窗口作为第一窗口,并重新确定第二窗口。
图11示出本公开实施例提供的显示设备的控制方法中,目标用户的手部的移动路径的示意图。如图11所示,在目标用户的手部移动的过程中,可能会产生倾斜。在这种情况下,可以以距离最大的移动方向作为焦点移动的方向。
在该示例中,通过响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口,由此能够方便目标用户进行精准的焦点控制。
作为该实现方式的一个示例,目标用户在完成一次焦点移动操作后,可以张开手掌去新的位置,然后可以继续通过预设的第一焦点移动手势控制新的焦点移动。类似于触摸屏滑动屏幕到一个新的页面,松手后回到屏幕中间,继续新的滑动。
作为该实现方式的一个示例,所述方法还包括:响应于检测到预设的第二焦点移动手势,根据所述目标用户执行所述第二焦点移动手势的持续时长,控制所述显示设备的显示区域中的焦点移动。在该示例中,在焦点处于所述显示设备的显示区域的边缘的情况下,可以通过预设的第二焦点移动手势,控制焦点移动。例如,预设的第二焦点移动手势可以为手部向相应边缘的方向移动并停止。例如,在焦点处于显示区域的右边缘的情况下,目标用户可以通过手部向右方移动后停止不动,来控制焦点继续向右移动。其中,焦点移动的次数可以根据目标用户的手部停止不动的时长确定。例如,目标用户的手部停止不动的时长每持续0.5秒,则控制焦点移动一次。例如,若目标用户的手部停止不动2秒,则可以控制焦点向右移动4次。
作为该实现方式的一个示例,所述方法还包括:响应于检测到预设的焦点选择手势,选择焦点当前所处的卡片。例如,预设的焦点选择手势可以为张开捏合的拇指和食指后再次捏合。又如,预设的焦点选择手势可以为张开五指后再次捏合拇指和食指。
本公开实施例提供的显示设备的控制方法可以应用于计算机视觉、人机交互、手势识别等应用场景中,在此不做限定。
下面通过一个具体的应用场景说明本公开实施例提供的显示设备的控制方法。图12示出本公开实施例提供的显示设备的控制方法的应用场景的示意图。在图12所示的示例中,用户可以通过登录登出、光标控制、焦点控制这三个手势组合,对显示设备进行控制,其中,光标控制和焦点控制可以切换使用或单独使用。
在该应用场景中,无需采用遥控设备(例如遥控器、空中鼠标、游戏手柄等),从而能够方便不同的用户交接对显示设备的控制权。与使用遥控器的控制方案相比,该应用场景无需用户重复按遥控器的按键,从而能够解决用户重复按遥控器导致容易产生疲劳的问题。另外,该应用场景能够解决遥控器的工作模式单一的问题。与使用空中鼠标、游戏手柄的控制方案相比,该应用场景能够解决光标移动的控制感较差的问题,且能够解决光标模式点击较困难的问题。
另外,该应用场景中的显示设备无需采用触摸屏,从而能够降低显示设备的成本,并且在显示设备为非个人设备(例如设置于公共场合供人们免费使用的设备,或者商家设置的供人们付费使用的设备等)的情况下,能够减少用户接触显示设备,从而能够降低传染病传播的风险,并能够解决触摸屏带来的容易变脏、容易有静电、距离太近容易导致用户不舒适、大屏幕无法实现长距离的按住拖拽操作等问题。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
此外,本公开还提供了显示设备的控制装置、电子设备、计算机可读存储介质、计算机程序产品,上述均可用来实现本公开提供的任一种显示设备的控制方法,相应技术方案和技术效果可参见方法部分的相应记载,不再赘述。
图13示出本公开实施例提供的显示设备的控制装置的框图。如图13所示,所述显示设备的控制装置包括:
获取模块31,用于获取显示设备的显示屏的对面的视频流;
第一确定模块32,用于根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;
第一控制模块33,用于响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
在一种可能的实现方式中,所述操作幅度信息包括:
光标控制操作的操作区域的尺寸信息,其中,所述操作区域的尺寸小于或等于所述显示设备的显示区域的尺寸。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的双肩关键点;
所述第一确定模块32用于:根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息。
在一种可能的实现方式中,所述装置还包括:
第二确定模块,用于根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在一种可能的实现方式中,所述第二确定模块用于:
根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,其中,所述类型信息用于表示所述目标用户用于手势控制的手部为左手或右手;
根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
在一种可能的实现方式中,所述装置还包括:
第二控制模块,用于控制所述显示设备显示所述操作区域。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的光标移动手势;
所述第一控制模块33用于:响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同。
在一种可能的实现方式中,所述操作幅度信息包括:
焦点移动操作的触发距离。
在一种可能的实现方式中,
所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的上边缘的关键点和下边缘的关键点;
所述第一确定模块32用于:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
在一种可能的实现方式中,
所述预设的控制手势包括:预设的第一焦点移动手势;
所述第一控制模块33用于:响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点。
在一种可能的实现方式中,所述装置还包括:
第三控制模块,用于响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口;其中,所述第一窗口为所述当前位置对应的窗口,且所述第一窗口为焦点的当前位置对应的窗口;所述至少一个第二窗口中的任一第二窗口的几何中心与所述第一窗口的几何中心之间的距离为所述触发距离。
在一种可能的实现方式中,所述装置还包括第三确定模块,所述第三确定模块用于:
响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户。
在一种可能的实现方式中,所述装置还包括第四确定模块,所述第四确定模块用于:
响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户。
在一种可能的实现方式中,所述装置还包括第五确定模块,所述第五确定模块用于:
响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制;
或者,
响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制;
或者,
响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。
在本公开实施例中,通过获取显示设备的显示屏的对面的视频流,根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,并响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,由此无需确定目标用户与显示设备之间的距离,从而无需采用深度摄像头,并且无需确定用户实际的体型信息(例如实际的身高、实际的手臂长度、实际的肩宽等),从而能够在降低计算量的前提下,准确地确定适用于目标用户的操作幅度信息,进而能够提高对显示设备进行手势控制的速度和准确度,并能够使距离显示设备不同距离和/或不同体型的用户获得舒适的手势操作体验。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现和技术效果可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
本公开实施例还提供一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。其中,所述计算机可读存储介质可以是非易失性计算机可读存储介质,或者可以是易失性计算机可读存储介质。
本公开实施例还提出一种计算机程序,包括计算机可读代码,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行上述方法。
本公开实施例还提供了一种计算机程序产品,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行上述方法。
本公开实施例还提供一种电子设备,包括:一个或多个处理器;用于存储可执行指令的存储器;其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
图14示出本公开实施例提供的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图14,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如互补金属氧化物半导体(CMOS)或电荷耦合装置(CCD)图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如无线网络(Wi-Fi)、第二代移动通信技术(2G)、第三代移动通信技术(3G)、第四代移动通信技术(4G)、通用移动通信技术的长期演进(LTE)、第五代移动通信技术(5G)或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software Development Kit,SDK)等等。
上文对各个实施例的描述倾向于强调各个实施例之间的不同之处,其相同或相似之处可以互相参考,为了简洁,本文不再赘述。
若本公开实施例的技术方案涉及个人信息,应用本公开实施例的技术方案的产品在处理个人信息前,已明确告知个人信息处理规则,并取得个人自主同意。若本公开实施例的技术方案涉及敏感个人信息,应用本公开实施例的技术方案的产品在处理敏感个人信息前,已取得个人单独同意,并且同时满足“明示同意”的要求。例如,在摄像头等个人信息采集装置处,设置明确显著的标识告知已进入个人信息采集范围,将会对个人信息进行采集,若个人自愿进入采集范围即视为同意对其个人信息进行采集;或者在个人信息处理的装置上,利用明显的标识/信息告知个人信息处理规则的情况下,通过弹窗信息或请个人自行上传其个人信息等方式获得个人授权;其中,个人信息处理规则可包括个人信息处理者、个人信息处理目的、处理方式以及处理的个人信息种类等信息。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (18)
1.一种显示设备的控制方法,其特征在于,包括:
获取显示设备的显示屏的对面的视频流;
根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;
响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
2.根据权利要求1所述的方法,其特征在于,所述操作幅度信息包括:
光标控制操作的操作区域的尺寸信息,其中,所述操作区域的尺寸小于或等于所述显示设备的显示区域的尺寸。
3.根据权利要求2所述的方法,其特征在于,
所述目标用户的至少两个指定关键点包括:所述目标用户的双肩关键点;
所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的双肩关键点的图像坐标之间的距离,确定所述目标用户对应的光标控制操作的操作区域的尺寸信息。
4.根据权利要求2或3所述的方法,其特征在于,所述方法还包括:
根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
5.根据权利要求4所述的方法,其特征在于,所述根据所述视频流中、所述目标用户的手部的初始图像坐标,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息,包括:
根据所述视频流的至少一个视频帧图像,确定所述目标用户用于手势控制的手部的类型信息,其中,所述类型信息用于表示所述目标用户用于手势控制的手部为左手或右手;
根据所述视频流中、所述目标用户的手部的初始图像坐标,以及所述类型信息,确定所述目标用户对应的光标控制操作的操作区域在所述显示区域中的位置信息。
6.根据权利要求2至5中任意一项所述的方法,其特征在于,所述方法还包括:
控制所述显示设备显示所述操作区域。
7.根据权利要求2至6中任意一项所述的方法,其特征在于,
所述预设的控制手势包括:预设的光标移动手势;
所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述预设的光标移动手势,根据所述预设的光标移动手势在所述操作区域内的位置信息,以及所述操作区域与所述显示区域之间的映射关系,移动所述显示区域中的光标,其中,所述光标的移动方向与所述目标用户的手部的移动方向相同。
8.根据权利要求1至7中任意一项所述的方法,其特征在于,所述操作幅度信息包括:
焦点移动操作的触发距离。
9.根据权利要求8所述的方法,其特征在于,
所述目标用户的至少两个指定关键点包括:所述目标用户的手掌的上边缘的关键点和下边缘的关键点;
所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息,包括:根据所述视频流的至少一个视频帧图像中、所述目标用户的手掌的上边缘的关键点与下边缘的关键点之间的距离,确定所述目标用户对应的焦点移动操作的触发距离。
10.根据权利要求8或9所的方法,其特征在于,
所述预设的控制手势包括:预设的第一焦点移动手势;
所述响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备,包括:响应于检测到所述第一焦点移动手势,根据所述目标用户执行所述第一焦点移动手势时手部的位移,以及所述触发距离,移动所述显示设备的显示区域中的焦点。
11.根据权利要求10所述的方法,其特征在于,所述方法还包括:
响应于检测到所述第一焦点移动手势,根据所述目标用户的手部的当前位置,控制所述显示设备显示第一窗口以及与所述第一窗口相邻的至少一个第二窗口;其中,所述第一窗口为所述当前位置对应的窗口,且所述第一窗口为焦点的当前位置对应的窗口;所述至少一个第二窗口中的任一第二窗口的几何中心与所述第一窗口的几何中心之间的距离为所述触发距离。
12.根据权利要求1至11中任意一项所述的方法,其特征在于,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:
响应于检测到预设的登录手势,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,将执行所述预设的登录手势的用户确定为所述目标用户。
13.根据权利要求1至12中任意一项所述的方法,其特征在于,在所述根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息之前,所述方法还包括:
响应于检测到预设的登录手势,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户;
或者,
响应于检测到预设的登录手势的持续时长达到第一预设时长,对执行所述预设的登录手势的用户进行人脸识别;响应于人脸识别结果指示执行所述预设的登录手势的用户属于注册用户,将执行所述预设的登录手势的用户确定为所述目标用户。
14.根据权利要求1至13中任意一项所述的方法,其特征在于,所述方法还包括:
响应于检测不到所述目标用户的手部的持续时长达到第二预设时长,确定所述目标用户结束本次手势控制;
或者,
响应于检测到所述目标用户的手臂处于预设的状态,确定所述目标用户结束本次手势控制;
或者,
响应于检测到预设的登出手势,确定所述目标用户结束本次手势控制。
15.一种显示设备的控制装置,其特征在于,包括:
获取模块,用于获取显示设备的显示屏的对面的视频流;
第一确定模块,用于根据所述视频流的至少一个视频帧图像中、目标用户的至少两个指定关键点的图像坐标之间的距离,确定所述目标用户对应的操作幅度信息;
第一控制模块,用于响应于检测到预设的控制手势,根据所述预设的控制手势和所述操作幅度信息,控制所述显示设备。
16.一种电子设备,其特征在于,包括:
一个或多个处理器;
用于存储可执行指令的存储器;
其中,所述一个或多个处理器被配置为调用所述存储器存储的可执行指令,以执行权利要求1至14中任意一项所述的方法。
17.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至14中任意一项所述的方法。
18.一种计算机程序产品,其特征在于,包括计算机可读代码,或者承载有计算机可读代码的非易失性计算机可读存储介质,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行权利要求1至14中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210975460.0A CN115328312A (zh) | 2022-08-15 | 2022-08-15 | 显示设备的控制方法、装置、设备、存储介质和程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210975460.0A CN115328312A (zh) | 2022-08-15 | 2022-08-15 | 显示设备的控制方法、装置、设备、存储介质和程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115328312A true CN115328312A (zh) | 2022-11-11 |
Family
ID=83923694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210975460.0A Pending CN115328312A (zh) | 2022-08-15 | 2022-08-15 | 显示设备的控制方法、装置、设备、存储介质和程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115328312A (zh) |
-
2022
- 2022-08-15 CN CN202210975460.0A patent/CN115328312A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10282586B2 (en) | Method and apparatus for realizing touch button and fingerprint identification, and terminal device using same | |
EP3179358A1 (en) | Method and apparatus for inputting contents based on virtual keyboard, and touch device | |
EP3208704B1 (en) | Application control method and device | |
WO2018039941A1 (zh) | Vr控制的方法、装置及电子设备 | |
CN105487805B (zh) | 对象操作方法及装置 | |
CN106484284B (zh) | 切换单手模式的方法和装置 | |
EP3299946B1 (en) | Method and device for switching environment picture | |
EP2911051A1 (en) | Input method and device | |
CN112328090B (zh) | 手势识别方法及装置、电子设备和存储介质 | |
RU2609033C1 (ru) | Способ ввода и система ввода | |
CN104090721A (zh) | 终端控制方法和装置 | |
EP3232314A1 (en) | Method and device for processing an operation | |
EP3232301B1 (en) | Mobile terminal and virtual key processing method | |
CN110782532B (zh) | 图像生成方法、生成装置、电子设备及存储介质 | |
EP3828682A1 (en) | Method, apparatus for adding shortcut plug-in, and intelligent device | |
CN112817443A (zh) | 基于手势的显示界面控制方法、装置、设备及存储介质 | |
CN112905136A (zh) | 投屏控制方法、装置以及存储介质 | |
JP2013114647A (ja) | ジェスチャー入力システム | |
US20160062581A1 (en) | Method and device for displaying file | |
CN110989884A (zh) | 图像定位的操作显示方法及装置、电子设备和存储介质 | |
CN115328312A (zh) | 显示设备的控制方法、装置、设备、存储介质和程序产品 | |
CN113286085B (zh) | 显示控制方法、装置和电子设备 | |
CN114063876A (zh) | 虚拟键盘设置方法、装置及存储介质 | |
CN114266305A (zh) | 对象识别方法及装置、电子设备和存储介质 | |
CN114296587A (zh) | 光标控制方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |