CN108616712B - 一种基于摄像头的界面操作方法、装置、设备及存储介质 - Google Patents

一种基于摄像头的界面操作方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN108616712B
CN108616712B CN201810347827.8A CN201810347827A CN108616712B CN 108616712 B CN108616712 B CN 108616712B CN 201810347827 A CN201810347827 A CN 201810347827A CN 108616712 B CN108616712 B CN 108616712B
Authority
CN
China
Prior art keywords
camera
action information
operation instruction
target user
mapping relation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810347827.8A
Other languages
English (en)
Other versions
CN108616712A (zh
Inventor
何利民
张志城
周小燕
曾冉冉
曾凤频
何光洪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Sct Optronics Co ltd
Original Assignee
Shenzhen Sct Optronics Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Sct Optronics Co ltd filed Critical Shenzhen Sct Optronics Co ltd
Priority to CN201810347827.8A priority Critical patent/CN108616712B/zh
Publication of CN108616712A publication Critical patent/CN108616712A/zh
Application granted granted Critical
Publication of CN108616712B publication Critical patent/CN108616712B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Abstract

本发明公开了一种基于摄像头的界面操作方法、装置、设备及存储介质,该方法包括:基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系。本发明实施例的技术方案,实现了通过摄像头获取目标用户的肢体动作信息,就能够使终端中的光标达到与鼠标相同功能的技术效果。

Description

一种基于摄像头的界面操作方法、装置、设备及存储介质
技术领域
本发明实施例涉及摄像头技术领域,尤其涉及一种基于摄像头的界面操作方法、装置、设备及存储介质。
背景技术
随着科技的日益发达,电脑已成为人们生活中的必需品,通过电脑可以实现办公、打游戏、购物等效果。然而,在使用的过程中用户需要握着鼠标来控制显示屏上的光标移动,当用户长时间握着鼠标使用时,用户容易产生疲劳等身体不适。
当然,为了满足用户的需求,市场上出现了空中鼠标,该鼠标的全部构建都被安装在一个类似“手套”的织物上,其中食指、中指以及靠近拇指部位设置有确认点,通过用户佩戴该“手套”来控制电脑显示屏上光标的移动,虽然采用该空中鼠标不需要用户一直握着鼠标进行移动,但是空中鼠标在使用的过程中易受环境干扰,当在强光下使用该鼠标时,难以控制显示屏上光标的移动。
发明内容
本发明提供一种基于摄像头的界面操作方法、装置、设备及存储介质,以实现通过摄像头获取目标用户的肢体动作信息,并能够发出与肢体动作信息相对应的操作指令,从而使终端中的光标能够实现与鼠标相同的功能以及作用的技术效果。
第一方面,本发明实施例提供了一种基于摄像头的界面操作方法,该方法包括:
基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;
根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;
根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;
其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系。
第二方面,本发明实施例还提供了一种基于摄像头的界面操作装置,包括:
获取模块,用于基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;
处理模块,用于根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;
执行模块,用于根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;
其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系。
第三方面,本发明实施例还提供了一种设备,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例任一所述的基于摄像头的界面操作方法。
第四方面,本发明实施例提供了一种计算机可执行存储介质,其上存储有计算机程序,该程序被处理器执行时实现本发明实施例任一所述的基于摄像头的界面操作方法。
本发明实施例通过基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令;根据此操作指令从而控制终端界面中的光标执行与操作指令对应的操作,解决了现有技术中摄像头仅作为采集图像信息的装置的作用以及当用户要控制终端界面上光标的移动时,用户需要手握着鼠标来操作,然而,长时间进行该操作易造成用户疲劳,从而使用户体验不佳的技术问题,实现了通过摄像头获取目标用户的肢体动作信息,并能够发出与肢体动作信息相对应的操作指令,从而使终端中的光标能够实现与鼠标相同的功能以及作用的技术效果。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1为本发明实施例一所提供的一种基于摄像头的界面操作方法流程示意图;
图2为本发明实施例二所提供的一种基于摄像头进行视频的操作流程图;
图3为本发明实施例二所提供的一种基于摄像头的界面操作方法流程示意图;
图4为本发明实施例三所提供的一种基于摄像头的界面操作方法流程示意图;
图5为本发明实施例四所提供的一种基于摄像头的界面操作装置结构示意图;
图6为本发明实施例五所提供的一种设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一所提供的一种基于摄像头的界面操作方法流程示意图,该方法可以由基于摄像头的界面操作装置来执行,该装置可以通过软件和/或硬件的形式实现。
如图1所述,本发明实施例的方法包括:
S110、基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
其中,至少一个摄像头,可选的,一个摄像头、两个摄像头或者多个摄像头。在基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息之前,还包括:根据预先设置的所述至少一个摄像头的安放位置信息确定与所述至少一个摄像头相对应的预设捕捉区域,并将所述至少一个摄像头的摄像区域调整到所述预设捕捉区域;其中,所述安放位置信息包括桌面或终端,所述安放位置信息为桌面时的预设捕捉区域小于所述安放位置信息为终端时的预设捕捉区域。
需要说明的是,预设捕捉区域与至少一个摄像头的安放位置存在必然联系,当至少一个摄像头被安放在桌面上时,用户根据摄像头的安放位置将摄像头的工作模式设置为桌面模式,此时设置在摄像头中的处理器对信息进行处理将摄像头的摄像区域缩小到当前的桌面区域,可选的,该区域的大小为30cm×30cm,即摄像头可识别该区域内的手势动作信息。还需要说明的是,摄像头放置在桌面的不同位置时,可摄取的捕捉区域不同,但是可捕捉区域的大小不发生变化,将摄像头设置在桌面上的好处在于摄像头能够有效的获取目标用户在预设捕捉区域的手势动作信息。
当至少一个摄像头被安放在终端上时,可选的,至少一个摄像头集成在终端上或者至少一个摄像头固定设置在可卡接的夹子上等,优选的,将至少一个摄像头通过夹子卡接在终端上,目标用户根据摄像头的放置位置,将摄像头的工作模式设置为空间模式,那么捕捉区域为终端所对应的整个摄取区域。
通过上述技术方案可知当摄像头安置在桌面上时,预设捕捉区域为摄像头所能获取的30cm×30cm的区域;当摄像头设置在终端上时,预设的捕捉区域为摄像头所能获取到的最大捕捉区域,解决了现有技术中目标用户需要始终握着桌面上放置的平面鼠标或者空中鼠标来控制界面中光标移动,易引起疲劳的技术问题。还需要说明的是,摄像头的安放位置信息为桌面时的预设捕捉区域小于安放位置为终端时的预设捕捉区域。
肢体动作信息,可选的,手指的敲击、手掌的移动等等,至少一个摄像头能够获取目标用户在预设捕捉区域内的手掌移动、手指敲击等肢体动作信息。
S120、根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令,其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系。
需要说明的是,目标用户在通过所述至少一个摄像头控制终端界面光标移动之前,系统中已存储了肢体动作信息与所述肢体动作信息相对应的操作指令,即默认操作指令,可选的,当肢体动作信息为中指敲击桌面时,对应的操作指令为执行鼠标右击的操作。在目标用户使用之前,可以根据需求以及习惯重新建立肢体动作信息与与其相应的操作指令映射表,并将建立的与目标用户相对应的映射表保存于在至少一个摄像头的处理器中,处理器对至少一个摄像头获取的图像动作信息进行处理,并根据目标用户预先建立的映射关系表,发出与肢体动作信息相对应的操作指令。
其中,当至少一个摄像头安放的位置信息为桌面时,用户将摄像头的工作模式设置为桌面模式,此时摄取的捕捉区域较小,可选的,所摄取的区域为30cm×30cm的平面,即摄像头获取该区域内的肢体动作信息,可选的,手势动作信息。示例性的,在目标用户通过肢体动作信息控制终端界面上光标的移动之前,先建立肢体动作信息与操作指令对应的映射关系表,可选的,映射关系表为:当目标用户为食指敲击桌面时,对应的操作指令与鼠标左击相同;当目标用户为中指敲击桌面时,对应的操作指令与鼠标右击相同;当获取的肢体动作信息为手掌的移动时,则执行与鼠标移动相对应的操作等
若设置在桌面上的摄像头采集到目标用户的食指抬起离开了桌面又敲击桌面,摄像头中的处理器对采集的图像信息进行分析处理,根据预先的映射关系表,发出与鼠标左击相对应的操作指令,并将所述操作指令转换为终端操作系统能够识别的数据包发送至操作系统;相应的,若摄像头采集到目标用户中指抬起离开了桌面然后又敲击了桌面,处理器对该图像信息进行处理,根据预先建立的映射关系表,确认目标用户发出了与鼠标右击相对应的操作;若摄像头采集到目标用户的食指抬起离开了桌面又连续两次敲击了桌面,处理器对采集的图像信息进行处理,根据预先建立的映射关系表,处理器发出鼠标左双击的操作指令,可选的,打开某一个应用程序或文档;若摄取到的图像信息为手掌的移动,根据预先建立的映射关系表,确定为鼠标移动的操作指令,其中,每次移动的距离以及每次移动的方位目标用户在使用之前可以对其进行设置。
需要说明的,映射关系表中的肢体动作信息与操作指令有多种对应关系,不局限于本发明实施例中所列举,其它的肢体动作信息与肢体动作信息相对应的操作指令用户可以根据需求进行设定,在此不再赘述。
进一步的,摄像头的安放位置信息为终端时,若获取到的所述肢体动作信息为左手举起,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标左击;若获取到的所述肢体动作信息为右手举起,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标右击;若获取到的所述肢体动作信息为双手握拳举起且均有预设数量的手指伸出,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为:根据伸出手指之间的相对距离,对终端界面显示的当前页面进行放大或者缩小。
其中,当摄像头的安放位置为终端时,预设的摄取区域相应的有所变大,能够获取目标用户的整个图像信息,可选的,面部信息、左手举起信息、右手举起信息以及外观信息等。然而,当有多个用户在摄取区域内时,为了尽快获取目标用户的肢体动作信息以及根据肢体动作信息发出相对应的操作指令,在目标用户在使用之前先进行身份验证,可选的,面部识别验证,肢体动作信息验证等。验证成功后处理器内存储目标用户的面部图像信息、衣服颜色信息以及其它标志性信息等,在身份验证成功之后,建立与目标用户相对应的映射关系表。
即,映射关系表中的部分映射关系,可选的,左手举起且握拳,对应的操作指令与鼠标左击相对应;右手举起且握拳,对应的操作指令与鼠标右击相对应;当双手握拳且均有预设数量的手指伸出时,可选的,均有一个手指伸出或者两根手指伸出,根据手指之间的相对距离,实现对终端界面显示的当前页面进行放大或者缩小。
示例性的,在目标用户通过摄像头摄取的肢体动作信息控制终端界面光标操作之前,目标用户先进行身份验证,可选的,目标用户完成终端界面上弹出的指定动作或者同时握拳举起双手,停留预设时间后系统自动将该用户设定为使用者,即目标用户,相应的处理器内也会存储目标用户的面部图像信息以及外观信息。对目标用户进行身份验证以及存储其信息的好处在于:当有多个用户在预设的捕捉区域时,处理器能够对摄像头采集的多个图像信息进行过滤,从而得到目标用户的肢体动作信息。
可选的,若摄取的图像信息为目标用户的左手举起且发生移动,则判定未发生按键操作,应发出与鼠标移动相对应的操作;当摄取目标用户的左手举起且握拳,根据预先建立的映射关系表,发出与鼠标左击相对应的操作指令,若目标用户保持该手势状态,则进行移动的动作,将当前选择的文件或者程序移动到另一个位置;当获取到的图像信息是右手举起且握拳,处理器对其信息进行处理,并发出与鼠标右击相对应的操作指令,若目标用户举起右手且握拳,而此时终端界面上的光标在桌面的某个空白区域内时,能够弹出右击菜单栏;当摄像头摄取的图像信息为目标用户双手握拳,且均有一根手指伸出时,根据两根手指之间的距离变化,对终端界面显示的当前页面进行方法或者缩小的操作。
需要说明的是,映射关系表中的肢体动作信息与操作指令有多种对应关系,不局限于本发明实施例中所列举,其它的肢体动作信息与肢体动作信息相对应的操作指令用户可以根据需求进行设定,在此不再赘述。
S130、根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作。
其中,至少一个摄像头与终端电连接,当摄像头摄取捕捉区域内的目标用户肢体动作信息后,根据预先建立的肢体动作信息与相应的操作指令,发出与目标用户肢体动作信息相对应的操作指令,并将操作指令上传至终端中的操作系统,从而控制终端界面中的光标执行与操作指令相对应操作,即根据操作指令能够使光标执行与鼠标左击、右击或者鼠标移动的操作。示例性的,目标用户需要打开一个word文档,当至少一个摄像头摄取到的为目标用户右手食指连续敲击桌面两次的图像信息后,处理器对摄取的图像信息进行分析处理,并根据预先建立映射表,发出与食指敲击两次桌面相对应的操作指令,即打开光标当前所指向的文档。
本发明实施例通过基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令;根据此操作指令从而控制终端界面中的光标执行与操作指令对应的操作,解决了现有技术中摄像头仅作为采集图像信息的装置的作用以及当用户要控制终端界面上光标的移动时,用户需要手握着鼠标来操作,然而,长时间进行该操作易造成用户疲劳,从而使用户体验不佳的技术问题,实现了通过摄像头获取目标用户的肢体动作信息,并能够发出与肢体动作信息相对应的操作指令,从而使终端中的光标能够实现与鼠标相同的功能以及作用的技术效果。
实施例二
在上述实施例的基础上,当所述至少一个摄像头为双摄像头或多摄像头时,还可以用于获取目标用户在预设捕捉区域的面部图像信息,从而通过至少一个摄像头进行视频,用户可以根据需求选择进行视频会议时,双摄像头或多摄像头的工作模式。以双摄像头为例,图2为本发明实施例二所提供的一种基于摄像头进行视频的操作流程图;若目标用户需要通过双摄像头进行视频时,如图2所示,所述方法包括:
S210、点击视频通话图标。
当用户点击视频通话图标进行视频时,系统会对用户进行提示,可选的,弹出摄像头工作模式对话框,即采用摄像头的哪种工作模式进行视频,可选的,使用单摄像头进行视频、使用双摄像头进行视频。
S220、摄像头工作模式选择,若是单摄像头工作模式,则执行S230;若是双摄像头工作模式,则执行S240。
此时,目标用户根据实际需求进行选择摄像头的工作模式,当选择单摄像头工作模式时,则与现有技术中摄像头用于采集图像信息以及进行视频的作用与功能相同,执行S230;若是选择双摄像头的工作模式时,则两个摄像头能够多角度的采集用户的图像信息,并对其图像信息进行整合处理,从而得到三维图像信息,使其更具有立体性。
S230、进行视频会议。
若目标用户选择使用单摄像头进行视频会议模式时,摄像头与终端相连接不再对获取的图像数据信息进行处理,直接进行视频。
S240、视频合成。
若是采用双摄像头进行视频会议时,摄像头内的处理器会对摄取的图像信息进行整合处理,上传至终端后通过软件对其信息进行优化,可选的,将摄取的图像信息输入到相应的模块上,模块对获取的图像信息进行比对整合,最终形成一个具有三维视觉效果的视频图像,显示在与其进行视频会议对端的终端上,执行S250进行视频会议。需要说明的是,若是想呈现出三维显示效果,进行视频会议的对端终端应具有三维显示效果的显示器,若是没有三维显示器则只在对端的终端上形成高清视频图像,即进行视频会议。
S250、进行视频会议。
此时的视频会议是基于双摄像头的基础上进行的,若进行会议的对端用户显示器可以显示三维图像信息,则可显示出三维图像信息,若进行会议的对端显示器不具备呈现三维图像信息的效果,则只显示二维图像。
作为另一优选实施例,当目标用户选择的摄像头工作模式为:基于双摄像头中的第一摄像头采集视频会议参与人员的图像信息;基于双摄像头中的第二摄像头获取目标用户在预设捕捉区域内的肢体动作信息,其具体的操作方法可参见图3,如图3所述,本发明实施例的方法包括:
S310、基于所述至少一个摄像头中的第一摄像头采集视频会议参与人员的图像信息,并将采集到的所述图像信息显示到终端界面上。
需要说明的是,至少一个摄像头为双摄像头,当用户进行视频会议时,其中第一摄像头用于采集参会人员的图像信息,并将采集到的图像信息进行处理,并将采集到的图像信息显示在终端界面上,其中终端界面主要是指:与目标用户进行视频会议的对端终端上。还需要说明的是,此时虽然是双摄像头的工作模式,但是只有一个摄像头用于获取视频参会人员的图像信息,因此此时的图像信息处理方式与采用单摄像头进行视频会议相同,最终将采集的图像信息发送至进行视频会议对端的终端显示器上。
S320、基于所述至少一个摄像头中的第二摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
其中,至少一个摄像头中的第二摄像头用于摄取预设捕捉区域内的肢体动作信息,设置在摄像头中的处理器对获取的图像信息进行处理,从而发出与肢体动作信息相对应的操作指令。需要说明的是,每一个摄像头采集的图像信息或者肢体动作信息都有相应的数据通道,因此在传输在过程中不会出现丢包现象。此时的具体操作步骤与其具体实施方式可参考是实施例一所提出的的技术方案。
S330、根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令。
S340、根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作。
本发明实施例的技术方案中至少一个摄像头为双摄像头,在进行视频会议时,第一摄像头用于采集视频会议参与人员的图像信息,并将采集到的图像信息显示到终端界面上,第二摄像头用于获取目标用户在预设捕捉区域内的肢体动作信息,从而使光标执行与所述肢体动作信息相对应的操作,解决了现有技术中当进行视频会议时摄像头只能够获取参会人员图像信息,若要移动终端中的光标时,用户需到鼠标所在的位置,通过鼠标来控制终端中光标移动,操作繁琐复杂,适用性低的技术问题,实现了在进行视频会议时,摄像头只需要获取用户的肢体信息就可以控制终端中光标移动的技术效果。
实施例三
图4为本发明实施例三所提供的一种基于摄像头的界面操作方法流程示意图,在上述实施例的基础上,所述方法还包括:
S410、基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
S420、根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令。
S430、根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作。
S440、当确定所述目标用户离开所述预设捕捉区域且有新用户进入所述预设捕捉区域并且身份验证成功时,将所述新用户作为目标用户,并删除与所述目标用户相对应的映射关系表,建立与所述新用户相对应的映射关系表,并返回步骤S410。
若目标用户离开了预设捕捉区域,且在离开的时间没有新用户进行身份验证,在处理器内会存储目标用户的肢体动作信息与操作指令对应的映射表。当目标用户再次进入预设的捕捉区域内发出相应的肢体动作信息时,处理器会对获取的图像信息进行分析处理,可选的,面部图像信息或者衣着信息,进一步确定发出肢体动作信息的用户是否为目标用户,进而判断是否执行与肢体动作信息相对应的操作指令。当为目标用户则发出与肢体动作信息相对应的操作指令,从而使光标执行与操作指令对应的操作;若不是目标用户,则对用户进行提示,可选的,是否进行身份认证。
若目标用户离开了预设捕捉区域,且在离开的时间内有新用户进行了身份验证,并且验证成功时,则处理器擦除与目标用户相对应的映射关系表,并建立与新目标用户肢体动作信息相对应的操作指令映射表,再继续执行操作S410。
本发明实施例通过基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令;根据此操作指令从而控制终端界面中的光标执行与操作指令对应的操作,解决了现有技术中摄像头仅作为采集图像信息的装置的作用以及当用户要控制终端界面上光标的移动时,需要用户手握着鼠标来操作,然而,长时间的使用易造成用户疲劳,从而使用户体验不佳的技术问题,实现了通过摄像头获取目标用户的肢体动作信息,并能够发出与肢体动作信息相对应的操作指令,从而使终端中的光标能够实现与鼠标相同的功能以及作用的技术效果。
实施例四
图5为本发明实施例四所提供的一种基于摄像头的界面操作装置结构示意图,该装置包括:获取模块510、处理模块520以及执行模块530。获取模块510,用于基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;处理模块520,用于根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;执行模块530,用于根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系。
在上述技术方案的基础上,所述装置还包括摄取模块,用于在基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息之前,根据预先设置的所述至少一个摄像头的安放位置信息确定与所述至少一个摄像头相对应的预设捕捉区域,并将所述至少一个摄像头的摄像区域调整到所述预设捕捉区域;其中,所述安放位置信息包括桌面或终端,所述安放位置信息为桌面时的预设捕捉区域小于所述安放位置信息为终端时的预设捕捉区域。
在上述各技术方案的是基础上,所述处理模块,还用于当所述的安放位置信息为桌面时,若获取到的所述肢体动作信息为食指敲击桌面,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标左击;若获取到的所述肢体动作信息为中指敲击桌面,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标右击;若获取到的所述肢体动作信息为手掌的移动,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标移动。
在上述各技术方案的基础上,所述处理模块,还用于当所述的安放位置信息为终端时,若获取到的所述肢体动作信息为左手举起,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标左击;若获取到的所述肢体动作信息为右手举起,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标右击;若获取到的所述肢体动作信息为双手握拳举起且均有预设数量的手指伸出,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为:根据伸出手指之间的相对距离,对终端界面显示的当前页面进行放大或者缩小。
在上述各技术方案的基础上,所述装置还包括建立映射模块,用于当确定所述目标用户离开所述预设捕捉区域且有新用户进入所述预设捕捉区域并且身份验证成功时,将所述新用户作为目标用户,并删除与所述目标用户相对应的映射关系表,建立与所述新用户相对应的映射关系表。
在上述各技术方案的基础上,所述至少一个摄像头为双摄像头,所述获取模块,还用于基于所述至少一个摄像头中的第一摄像头采集视频会议参与人员的图像信息,并将采集到的所述图像信息显示到终端界面上;基于所述至少一个摄像头中的第二摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
本发明实施例通过基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令;根据此操作指令从而控制终端界面中的光标执行与操作指令对应的操作,解决了现有技术中摄像头仅作为采集图像信息的装置的作用以及当用户要控制终端界面上光标的移动时,需要用户手握着鼠标来操作,然而,长时间的使用易造成用户疲劳,从而使用户体验不佳的技术问题,实现了通过摄像头获取目标用户的肢体动作信息,并能够发出与肢体动作信息相对应的操作指令,从而使终端中的光标能够实现与鼠标相同的功能以及作用的技术效果。
本发明实施例所提供的一种基于摄像头的界面操作装置可执行本发明任意实施例所提供的一种结余摄像头的界面操作方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述系统所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明实施例的保护范围。
实施例五
图6为本发明实施例五提供的一种设备的结构示意图。图6示出了适于用来实现本发明实施例实施方式的示例性设备60的框图。图6显示的设备60仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,设备60以通用计算设备的形式表现。设备60的组件可以包括但不限于:一个或者多个处理器或者处理单元601,系统存储器602,连接不同系统组件(包括系统存储器602和处理单元601)的总线603。
总线603表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
设备60典型地包括多种计算机系统可读介质。这些介质可以是任何能够被设备60访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器602可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)604和/或高速缓存存储器605。设备60可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统606可以用于读写不可移动的、非易失性磁介质(图6未显示,通常称为“硬盘驱动器”)。尽管图6中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线603相连。存储器602可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块607的程序/实用工具608,可以存储在例如存储器602中,这样的程序模块607包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块607通常执行本发明所描述的实施例中的功能和/或方法。
设备60也可以与一个或多个外部设备609(例如键盘、指向设备、显示器610等)通信,还可与一个或者多个使得用户能与该设备60交互的设备通信,和/或与使得该设备60能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口611进行。并且,设备60还可以通过网络适配器612与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器612通过总线603与设备60的其它模块通信。应当明白,尽管图6中未示出,可以结合设备60使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元601通过运行存储在系统存储器602中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的一种基于摄像头的界面操作方法。
实施例六
本发明实施例六还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种基于摄像头的界面操作方法。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。

Claims (6)

1.一种基于摄像头的界面操作方法,其特征在于,包括:
基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;
根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;
根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;
其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系;映射关系表中的肢体动作信息与操作指令有多种对应关系,用户根据需要预先设置肢体动作信息和肢体动作信息相对应的操作指令之间的映射关系表;
在基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息之前,还包括:
根据预先设置的所述至少一个摄像头的安放位置信息确定与所述至少一个摄像头相对应的预设捕捉区域,并将所述至少一个摄像头的摄像区域调整到所述预设捕捉区域;
其中,所述安放位置信息包括桌面或终端,所述安放位置信息为桌面时的预设捕捉区域小于所述安放位置信息为终端时的预设捕捉区域;
当确定所述目标用户离开所述预设捕捉区域且有新用户进入所述预设捕捉区域并且身份验证成功时,将所述新用户作为目标用户,并删除与所述目标用户相对应的映射关系表,建立与所述新用户相对应的映射关系表;
所述至少一个摄像头为双摄像头,所述基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息,包括:
基于所述至少一个摄像头中的第一摄像头采集视频会议参与人员的图像信息,并将采集到的所述图像信息显示到终端界面上;
基于所述至少一个摄像头中的第二摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
2.根据权利要求1所述的方法,其特征在于,所述根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令,包括:
当所述的安放位置信息为桌面时,若获取到的所述肢体动作信息为食指敲击桌面,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标左击;
若获取到的所述肢体动作信息为中指敲击桌面,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标右击;
若获取到的所述肢体动作信息为手掌的移动,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标移动。
3.根据权利要求1所述的方法,其特征在于,所述根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令,包括:
当所述的安放位置信息为终端时,若获取到的所述肢体动作信息为左手举起且握拳,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标左击;
若获取到的所述肢体动作信息为右手举起且握拳,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为鼠标右击;
若获取到的所述肢体动作信息为双手握拳举起且均有预设数量的手指伸出,则根据预先建立的映射关系表确定与所述肢体动作信息相对应的操作指令为:根据伸出手指之间的相对距离,对终端界面显示的当前页面进行放大或者缩小。
4.一种基于摄像头的界面操作装置,其特征在于,包括:
获取模块,用于基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息;
处理模块,用于根据预先建立的所述目标用户的映射关系表确定与所述肢体动作信息相对应的操作指令;
执行模块,用于根据所述操作指令控制终端界面中的光标执行与所述操作指令对应的操作;
其中,所述映射关系表用于记录并存储至少一项肢体动作信息与操作指令之间的映射关系;映射关系表中的肢体动作信息与操作指令有多种对应关系,用户根据需要预先设置肢体动作信息和肢体动作信息相对应的操作指令之间的映射关系表;
在获取模块,用于基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息之前,还用于:
根据预先设置的所述至少一个摄像头的安放位置信息确定与所述至少一个摄像头相对应的预设捕捉区域,并将所述至少一个摄像头的摄像区域调整到所述预设捕捉区域;
其中,所述安放位置信息包括桌面或终端,所述安放位置信息为桌面时的预设捕捉区域小于所述安放位置信息为终端时的预设捕捉区域;删除模块,用于当确定所述目标用户离开所述预设捕捉区域且有新用户进入所述预设捕捉区域并且身份验证成功时,将所述新用户作为目标用户,并删除与所述目标用户相对应的映射关系表,并调用预先设定的与所述新用户相对应的映射关系表;
所述至少一个摄像头为双摄像头,所述基于至少一个摄像头获取目标用户在预设捕捉区域内的肢体动作信息,包括:
基于所述至少一个摄像头中的第一摄像头采集视频会议参与人员的图像信息,并将采集到的所述图像信息显示到终端界面上;
基于所述至少一个摄像头中的第二摄像头获取目标用户在预设捕捉区域内的肢体动作信息。
5.一种设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-3中任一所述的基于摄像头的界面操作方法。
6.一种计算机可执行存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-3中任一所述的基于摄像头的界面操作方法。
CN201810347827.8A 2018-04-18 2018-04-18 一种基于摄像头的界面操作方法、装置、设备及存储介质 Active CN108616712B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810347827.8A CN108616712B (zh) 2018-04-18 2018-04-18 一种基于摄像头的界面操作方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810347827.8A CN108616712B (zh) 2018-04-18 2018-04-18 一种基于摄像头的界面操作方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN108616712A CN108616712A (zh) 2018-10-02
CN108616712B true CN108616712B (zh) 2020-11-10

Family

ID=63660345

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810347827.8A Active CN108616712B (zh) 2018-04-18 2018-04-18 一种基于摄像头的界面操作方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN108616712B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111414073A (zh) * 2019-01-07 2020-07-14 珠海金山办公软件有限公司 一种人机交互方法、装置、电子设备及可读存储介质
CN112306220A (zh) * 2019-07-31 2021-02-02 北京字节跳动网络技术有限公司 基于肢体识别的控制方法、装置、电子设备及存储介质
CN110604579A (zh) * 2019-09-11 2019-12-24 腾讯科技(深圳)有限公司 一种数据采集方法、装置、终端及存储介质
CN112118414B (zh) * 2020-09-15 2023-02-10 深圳市健成云视科技有限公司 视频会话方法、电子设备以及计算机存储介质
CN112560572A (zh) * 2020-10-24 2021-03-26 北京博睿维讯科技有限公司 一种摄像和大屏交互处理方法、装置及系统
CN112631485A (zh) * 2020-12-15 2021-04-09 深圳市明源云科技有限公司 一种显示界面的缩放方法和缩放装置
CN113590003A (zh) * 2021-01-30 2021-11-02 华为技术有限公司 一种用户确定方法、电子设备和计算机可读存储介质
CN113325950B (zh) * 2021-05-27 2023-08-25 百度在线网络技术(北京)有限公司 功能控制方法、装置、设备以及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101135945A (zh) * 2007-09-20 2008-03-05 苏勇 头控鼠标
CN101510121A (zh) * 2009-03-12 2009-08-19 重庆大学 一种基于手势识别的界面漫游操作方法与装置
CN101776953A (zh) * 2009-12-29 2010-07-14 胡世曦 一种光学定位方法和与键盘融合的手指鼠标
US7834847B2 (en) * 2005-12-01 2010-11-16 Navisense Method and system for activating a touchless control
CN102184016A (zh) * 2011-05-13 2011-09-14 大连民族学院 基于视频序列识别的无接触式鼠标控制方法
CN102854983A (zh) * 2012-09-10 2013-01-02 中国电子科技集团公司第二十八研究所 一种基于手势识别的人机交互方法
CN102981742A (zh) * 2012-11-28 2013-03-20 无锡市爱福瑞科技发展有限公司 基于计算机视觉的手势交互系统
CN103257713A (zh) * 2013-05-31 2013-08-21 华南理工大学 一种手势控制方法
CN103488294A (zh) * 2013-09-12 2014-01-01 华南理工大学 一种基于用户交互习惯的非接触手势控制映射调整方法
CN106569596A (zh) * 2016-10-20 2017-04-19 努比亚技术有限公司 一种手势控制方法和设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8514251B2 (en) * 2008-06-23 2013-08-20 Qualcomm Incorporated Enhanced character input using recognized gestures

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7834847B2 (en) * 2005-12-01 2010-11-16 Navisense Method and system for activating a touchless control
CN101135945A (zh) * 2007-09-20 2008-03-05 苏勇 头控鼠标
CN101510121A (zh) * 2009-03-12 2009-08-19 重庆大学 一种基于手势识别的界面漫游操作方法与装置
CN101776953A (zh) * 2009-12-29 2010-07-14 胡世曦 一种光学定位方法和与键盘融合的手指鼠标
CN102184016A (zh) * 2011-05-13 2011-09-14 大连民族学院 基于视频序列识别的无接触式鼠标控制方法
CN102854983A (zh) * 2012-09-10 2013-01-02 中国电子科技集团公司第二十八研究所 一种基于手势识别的人机交互方法
CN102981742A (zh) * 2012-11-28 2013-03-20 无锡市爱福瑞科技发展有限公司 基于计算机视觉的手势交互系统
CN103257713A (zh) * 2013-05-31 2013-08-21 华南理工大学 一种手势控制方法
CN103488294A (zh) * 2013-09-12 2014-01-01 华南理工大学 一种基于用户交互习惯的非接触手势控制映射调整方法
CN106569596A (zh) * 2016-10-20 2017-04-19 努比亚技术有限公司 一种手势控制方法和设备

Also Published As

Publication number Publication date
CN108616712A (zh) 2018-10-02

Similar Documents

Publication Publication Date Title
CN108616712B (zh) 一种基于摄像头的界面操作方法、装置、设备及存储介质
CN107643828B (zh) 车辆、控制车辆的方法
JP5784141B2 (ja) 重畳筆記による手書き入力方法
WO2019033957A1 (zh) 交互位置确定方法、系统、存储介质和智能终端
CN108958615A (zh) 一种显示控制方法、终端及计算机可读存储介质
US20090153366A1 (en) User interface apparatus and method using head gesture
US20090102604A1 (en) Method and system for controlling computer applications
CN104092932A (zh) 一种声控拍摄方法及装置
US10635180B2 (en) Remote control of a desktop application via a mobile device
CN103440033B (zh) 一种基于徒手和单目摄像头实现人机交互的方法和装置
US20240077948A1 (en) Gesture-based display interface control method and apparatus, device and storage medium
CN106843669A (zh) 应用界面操作方法和装置
WO2019109900A1 (zh) 视频编辑方法、装置及智能移动终端
CN112068698A (zh) 一种交互方法、装置及电子设备、计算机存储介质
CN107688385A (zh) 一种控制方法及装置
CN110493125A (zh) 即时通信方法、设备及计算机可读存储介质
CN112911147A (zh) 显示控制方法、显示控制装置及电子设备
US20180260031A1 (en) Method for controlling distribution of multiple sub-screens and device using the same
KR101488662B1 (ko) Nui 장치를 통하여 사용자와 상호작용하는 인터페이스 제공방법 및 제공장치
CN111596760A (zh) 操作控制方法、装置、电子设备及可读存储介质
CN112328074A (zh) 一种智能服务终端
CN110162372B (zh) 虚拟按键创建方法及相关设备
CN104899206A (zh) 一种进行设备操作的方法和系统
CN117234405A (zh) 信息输入方法以及装置、电子设备及存储介质
Yeh et al. Virtual piano design via single-view video based on multifinger actions recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant