CN106020478B - 一种智能终端操控方法、装置和智能终端 - Google Patents

一种智能终端操控方法、装置和智能终端 Download PDF

Info

Publication number
CN106020478B
CN106020478B CN201610339884.2A CN201610339884A CN106020478B CN 106020478 B CN106020478 B CN 106020478B CN 201610339884 A CN201610339884 A CN 201610339884A CN 106020478 B CN106020478 B CN 106020478B
Authority
CN
China
Prior art keywords
user
gesture
dimensional image
intelligent terminal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610339884.2A
Other languages
English (en)
Other versions
CN106020478A (zh
Inventor
仲维
周立辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vidaa Netherlands International Holdings BV
Original Assignee
Qingdao Hisense Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qingdao Hisense Electronics Co Ltd filed Critical Qingdao Hisense Electronics Co Ltd
Priority to CN201610339884.2A priority Critical patent/CN106020478B/zh
Publication of CN106020478A publication Critical patent/CN106020478A/zh
Application granted granted Critical
Publication of CN106020478B publication Critical patent/CN106020478B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供一种智能终端操控方法、装置和智能终端,用以解决用户通过手势对智能终端进行操控时精度低的技术缺陷,包括若确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的图像合成至少一张三维立体图像;根据每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;根据至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及三维立体图像中用户的手势,确定与所述每张三维立体图像中用户的操作目标点及三维立体图像中用户的手势对应的目标操控策略;根据目标操控策略,对智能终端进行操控。本发明实施例用于智能终端操控中。

Description

一种智能终端操控方法、装置和智能终端
技术领域
本发明涉及电子技术领域,尤其涉及一种智能终端操控方法、装置和智能终端。
背景技术
随着智能化电视发展趋势,对智能电视的操控方面,传统的通过控制设备(例如,鼠标、键盘以及遥控器等)有线或者无线方式控制智能电视的方式以及不能满足现代用户的需求。手势识别,即在智能化电视中增加存储有用户的手势图像的手势识别功能,使用户可以通过手部动作(例如,挥手)来控制智能化电视等终端设备,例如,切换智能化电视频道、调节音量等,手势识别作为一种最为直观的操控方式,使人们可以更为便捷的实现了对智能化电视的灵活操控,大幅度提高了用户体验。因此,目前国内外厂商推出的智能电视中,大多集成了手势识别功能。然而,目前的智能电视手势识别功能,大多采用单一摄像头的方式进行用户的手势图像采集,并通过大量的图像分析及处理算法,识别用户的操控手势。该手势识别技术的精度相对较低,实时性差,识别的手势类型有限,严重影响了用户的操控体验。近年来,基于双目摄像头的手势识别技术也被一些厂商提出并加以运用。然而,目前的技术基本还是基于单摄像头识别手势轮廓,然后利用手势轮廓进行简单的三维匹配,获取手势质点的深度信息。该深度信息为单一距离数值,用于计算操控用户的左右双手间距离差。该做法无法充分利用深度信息,无法掌握用户操作手势的细微变化,无法弥补目前手势识别的精度低,类型少等技术缺陷。
现有技术中,一方面,手势识别功能大多采用单一摄像头的方式进行用户的手势图像采集,并通过大量的图像分析及处理算法,识别用户的操控手势。例如,青岛歌尔声学科技有限公司申请的公开号为CN103167340A的申请文件公开了“智能电视手势识别系统及其识别方法”,该申请文件首先通过摄像头采集用户的连续视频,并将所拍摄的连续视频传送到主控MCU(Microcontroller Unit,微控制单元),同时,通过PIR传感器采集用户发出的远红外信号,并将所采集的远红外信号传送到主控MCU。主控MCU通过分析摄像头传送的连续视频中每帧图片的差异来判定用户的手势动作。同时,主控MCU分析PIR传感器传送的远红外信号来判定用户的手势运动轨迹,以修正用户的手势位置动作判定,从而对用户的手势运动轨迹进行精确的判定。最后,主控MCU根据对用户的手势动作分析判定结果来操作控制视频显示终端。
但是,PIR传感器通过晶体材料在红外线的辐射下产生电荷,辐射情况的变化导致电荷的变化,集成了高灵敏度FET元件的传感器可以感知这些变化。由于人体恒定温度一般在37度,会发出特定波长的红外线,PIR传感器探测人体发射的红外线而进行工作。但是,PIR传感器非常容易受到各种热源,光源的干扰。同时,由于红外线穿透力差,人体的红外辐射容易被遮挡,不易被PIR传感器接收。当环境温度和人体温度接近时,探测的灵敏度明显下降,会造成短时失灵。另外,由于PIR传感器对温度变化比较敏感,应远离空调,冰箱等安装,并且不得间隔家具,盆景等隔离物,否则会引起误报率。上述PIR传感器的应用局限极大限制了智能电视在家居环境中的摆放及使用,给用户造成了极大的不便,严重影响了用户体验。同时,由于该PIR传感器的信号只是用来进一步修正基于高清摄像头的手势识别结果,仍然无法解决手势识别精度低的问题,且识别的手势类型有限,严重影响了用户的操控体验。
发明内容
本发明的实施例提供一种智能终端操控方法、装置和智能终端,用以至少解决现有技术中用户通过手势对智能终端进行操控时精度低的技术缺陷。
为达到上述目的,本发明的实施例采用如下技术方案:
第一方面,本发明实施例提供了一种智能终端操控方法,包括:
若确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势和用户姿态;
获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;
根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略;其中,所述预设数据库中包括至少一个用户的手势,与每个所述用户的手势对应的至少一个操作目标点以及与每个所述操作目标点对应的操控策略;
根据所述目标操控策略,对所述智能终端进行操控。
第二方面,本发明实施例提供了一种智能终端操控装置,包括:
判断单元,用于判断智能终端的显示界面是否显示出目标操作界面;
合成单元,用于在所述判断单元确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势操作和用户姿态;
获取单元,用于获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
第一确定单元,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;
第二确定单元,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述每张三维立体图像中用户的手势,确定与所述每张三维立体图像中用户的操作目标点对应的目标操控策略;
操控单元,用于根据所述每张三维立体图像中用户的操作目标点对应的目标操控策略,对所述智能终端进行操控。
第三方面,本发明实施例提供一种智能终端,所述智能终端包括处理器、存储器、系统总线和通信接口、平行设置在所述智能终端上的第一摄像头和第二摄像头,运行在所述智能终端处理器上的智能终端操控装置以及与所述处理器相连的显示屏;
其中,所述第一摄像头和第二摄像头处于同一水平线上;
所述第一摄像头和第二摄像头,用于在预设时间拍摄至少一张包含用户行为的图像;
所述存储器用于存储计算机执行指令,所述处理器与所述存储器通过所述系统总线连接,当所述智能终端运行时,所述处理器执行所述存储器存储的所述计算机执行指令,以使所述智能终端执行如第一方面至第一方面的第六种可能的实现方式中任意一项所述的智能终端操控方法。
本发明实施例提供一种智能终端操控方法、装置和智能终端,在确定智能终端的显示界面显示出目标操作界面后,通过将第一摄像头和第二摄像头同一时刻分别拍摄的至少一张包含手势操作的图像合成三维立体图像,并基于所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态确定每张三维立体图像中用户的操作目标点,这样基于三维立体图像可以提高智能终端操控的精度,同时基于每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略,对智能终端进行操控,由于每个用户的手势对应多个操作目标点,每个操作目标点均具有对应的操控策略,使得对于同一个手势,当操作目标点不相同时,可以对应于不同的操控策略,这样可以确保对智能终端操控的实时性。本发明实施例仅基于第一摄像头和第二摄像头,即可高精度的识别用户的手势操作,从而操控智能电视,提高用户体验。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a为本发明实施例提供的一种智能终端的硬件结构示意图;
图1b为本发明实施例提供的一种智能终端操控方法的流程示意图一;
图2为本发明实施例一种智能终端操控方法的流程示意图二;
图3a为第一图像中任意一个像素点为中心像素点建立预设窗口的示意图;
图3b为第一图像中任意一个像素点为中心像素点建立预设窗口与第三图像进行匹配的示意图;
图3c为第一图像中任意一个像素点为中心像素点建立预设窗口与第三图像匹配结果示意图;
图4为本发明实施例一种智能终端操控方法的流程示意图三;
图5a为本发明实施例的手势姿态提取示意图;
图5b为本发明实施例的确定关键点的示意图;
图5c为本发明实施例确定目标操作点的示意图;
图6a为本发明实施例的手势操作轮廓提取示意图;
图6b为在第一图像中获取与第二图像提取的手势操作轮廓对应的手势操作;
图6c为本发明实施例的手势跟踪结果示意图;
图7为本发明实施例提供的一种智能终端操控装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供的一种智能终端操控方法可以由智能终端的处理器来执行,参见图1a,图1a示出了一种智能终端的硬件示意图。该智能终端包括一个或多个处理器40(图中仅示出一个)、存储器41、通信接口43、通信总线42以及显示屏44以及拍摄装置(图中未示出),该拍摄装置包括两个摄像头,分别为第一摄像头和第二摄像头。所述第一摄像头和第二摄像头平行设置在所述智能终端。本领域普通技术人员可以理解,图1a所示的结构仅为示意,其并不对智能终端4的结构造成限定。例如,智能终端4还可包括比图1a中所示更多或者更少的组件,或者具有与图1a所示不同的配置。
其中,所述第一摄像头和第二摄像头处于同一水平线上;
所述第一摄像头和第二摄像头,用于在预设时间拍摄至少一张包含用户行为的图像;
通信总线42用于智能终端4中各组成部件之间的通信。通信接口43用于插接外部设备,例如鼠标及键盘等,以接收用户输入的信息。
显示屏44用于显示智能终端识别出的目标手势操作以及目标手势操作对应的操作界面以及操作界面中显示出的音量调节菜单。
存储器41可用于存储软件程序以及模块,数据库,如本发明实施例中的标准姿态库、人脸特征库以及根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;在预设时间内,根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点确定用户目标操作轨迹;根据所述每张三维立体图像中的用户的操作目标点以及用户的手势确定与之对应的操控策略对应的程序指令/模块。存储器41可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器41可进一步包括相对于处理器40远程设置的存储器,这些远程存储器可以通过网络连接至智能终端4。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器40通过运行存储在存储器41内的软件程序以及模块,从而执行各种功能应用以及数据处理,例如,处理器40通过调用存储器41中的对智能终端进行操控的应用程序,以实现快速而准确的对智能终端进行操控。
该智能终端可以为平板电脑、笔记本电脑、UMPC(Ultra-mobile PersonalComputer,超级移动个人计算机)、上网本、PDA(Personal Digital Assistant,个人数字助理)以及智能电视等终端设备。
本发明实施例提供一种智能终端操控方法,如图1b所示,包括:
S101、若确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势和用户姿态;
S102、获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
S103、根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;
S104、根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略;其中,所述预设数据库中包括至少一个用户的手势,与每个所述用户的手势对应的至少一个操作目标点以及与每个所述操作目标点对应的操控策略;
S105、根据所述目标操控策略,对所述智能终端进行操控。
本发明实施例提供一种智能终端操控方法,在确定智能终端的显示界面显示出目标操作界面后,通过将第一摄像头和第二摄像头同一时刻分别拍摄的至少一张包含手势操作的图像合成三维立体图像,并基于所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态确定每张三维立体图像中用户的操作目标点,这样基于三维立体图像可以提高智能终端操控的精度,同时基于每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略,对智能终端进行操控,由于每个用户的手势对应多个操作目标点,每个操作目标点均具有对应的操控策略,使得对于同一个手势,当操作目标点不相同时,可以对应于不同的操控策略,这样可以确保对智能终端操控的实时性。本发明实施例仅基于第一摄像头和第二摄像头,即可高精度的识别用户的手势操作,从而操控智能电视,提高用户体验。
本发明实施例的一种智能终端操控方法的执行主体为终端的处理器,该智能终端可以为电视、电脑等,本发明实施例对此不作限定,该第一摄像头和第二摄像头用于获取手势操作的图像,该第一摄像头和第二摄像头可以是在终端上设置的摄像头。
本发明实施例中,该第一摄像头和第二摄像头感应用户是否在终端前进行手势操作,当第一摄像头和第二摄像头感应到用户进行手势操作时,获取预设时间内用户进行手势操作至少一张图像,另外,也可通过用户手动输入手势操作控制终端的开始信息,如用户按下在终端遥控器中设置启动手势识别技术的启动按键,再获取到所述启动按键触发的启动指令后,处理器控制所述第一摄像头和第二摄像头获取用户进行手势操作的至少一张图像。
其中,预设时间是指用户完成一个手势操作大概所需要的时间,可以是整个手势动作全部完成的时间,也可以是手势动作的主要部分的完成时间等,预设时间可以提前设定,如可将所述预设时间设置为200ms-500ms;具体可通过设置在所述处理器中的定时器以实现。在200ms-500ms的时间段内,将获取到的含手势操作的图像按获取的先后顺序缓存在终端的存储器中,在需要识别的时候,通过处理器从存储器中获取,由于第一摄像头和第二摄像头在1s内可以拍摄10~60个图像帧,优选的,是25~30个图像帧,由于第一摄像头和第二摄像头拍摄的手势操作是一个动态过程,故每一帧图像帧是有差异的,故在选择合成三维立体图像时,通过选取第一摄像头和第二摄像头在同一时刻拍摄的一帧图像,这样可以避免形成的三维立体图像与实际用户手势之间的差异,提高了识别精确性。
其中,根据摄像头的拍摄性能,在预设时间内总共包含P个拍摄时刻,每个拍摄时刻第一摄像头和第二摄像头都拍摄有照片,可以选取P个拍摄时刻所述第一摄像头和第二摄像头分别同时拍摄的包含手势操作的图像合成P张三维立体图像,也可以选取N个拍摄时刻拍摄的合成N张三维立体图像,其中P>N;
图像即为摄像头拍摄的一张图片,图像帧则为固定时间内连续拍摄的一系列图片,图像帧序列由一系列图像组成。
当然,在选择合成三维立体图像时,可以选择第一摄像头连续拍摄的几张图像以及第二摄像头连续拍摄的几张图像中每一张图像均合成三维立体图像(其中,第二摄像头拍摄的每张图像的时间均与第一摄像头中在同一时刻拍摄的照片对应)。
其中,对于将第一摄像头和第二摄像头在同一时刻分别拍摄的至少一张包含手势操作的图像合成三维立体图像的方式,本发明实施例对此不进行限定,由于对于第一摄像头和第二摄像头在预设时间内拍摄的每张图像合成三维立体图像的方式和原理均相同,本发明实施例仅以第一图像和第二图像为例进行说明,其中,第一图像和第二图像分别为在预设时间内由第一摄像头和第一摄像头在同一时刻分别拍摄的图像中的至少一张,并不具有任何指示性含义。
其中,本发明实施例对所述用户行为不进行限定,用于可以根据自己的习惯进行设置。
其中,本发明实施例中预设数据库中包括至少一个用户的手势,与每个所述用户的手势对应的至少一个操作目标点以及与每个所述操作目标点对应的操控策略可以为智能终端出厂时厂商存储在智能终端标准姿态特征库中的操作轨迹,也可以是用户自己根据自己的习惯在预设数据库中利用第一摄像头或者第二摄像头基于特定场景下的用户行为添加的图片。
其中,本发明实施例对所述预设手势和操作目标点的坐标以及操控策略不进行限定,示例性的,如表1所示:
当一张三维立体图像中的用户的手势为v手势时,若该用户的操作目标点为(x1,y1),则智能终端采用的操控策略为增加终端的亮度;当另一张三维立体图像中用户操作目标点为(x1,y1),但此时,该用户的手势为握拳,则智能终端采用的操控策略为音量增加,这样可以当用户在同一个操作目标点做不同的用户手势时,对智能终端进行操控。
其中,对于将第一摄像头和第二摄像头在同一时刻分别拍摄的至少一张包含用户行为的图像合成三维立体图像的方式,本发明实施例对此不进行限定,由于对于第一摄像头和第二摄像头在预设时间内拍摄的每张图像合成三维立体图像的方式和原理均相同,本发明实施例仅以第一图像和第二图像为例进行说明,其中,第一图像和第二图像分别为在预设时间内由第一摄像头和第一摄像头在同一时刻分别拍摄的图像中的至少一张,并不具有任何指示性含义。
示例性的,如图2所示,步骤S101可以通过以下方式实现:
S1011、获取所述第一图像中的每个像素点;
其中,对于获取第一图像的每个像素点的具体方式,本发明实施例在此不再赘述,可以通过现有技术来实现,例如,粒子滤波。
获取到第一图像的每个像素点以后,可以以所述第一图像和第二图像设置坐标系,则第一图像和第二图像上的每个像素点均可以用坐标的形式表示,当然还可以存在其他方式用以唯一标记第一图像和第二图像上相应的像素点,本发明实施例在此不再赘述。
需要说明的是,在获取三维立体图像的时候,还可以先提取所述第一图像的用户行为轮廓,在提取到用户行为轮廓以后,获取所述第一图像的用户行为轮廓中的每个像素点,基于每个所述用户行为轮廓中的每个像素点执行步骤S1012,这样可以进一步提高识别精度,避免在三维立体图像中引入背景或者干扰。
S1012、以所述第一图像的每个像素点为中心像素点建立预设窗口;其中,所述预设窗口包含按照预设距离,以所述中心像素点为中心的M个像素点;
为了清楚的介绍像素点与预设窗口之间的关系,如图3a所示,图3a为本发明实施例提供的一种以第一图像中任意一个像素点为中心像素点建立预设窗口的示意图,其预设窗口可以通过以所述中心像素点为中心,在所述中心像素点四周(上、下、左、由)各延长L个长度单位所包含的区域,即所述预设距离为2L,则上述Q个像素点即为以所述中心像素点四周各延长L个长度单位所包含的区域内的所有像素点;本发明实施例对所述L的具体大小不进行限定,可以根据实际需要达到的精度进行设定。
S1013、获取所述预设窗口的像素值;
由于预设窗口内包含Q个像素点,故所述预设窗口的像素值为Q个像素点像素值的总和,对于计算每个像素值的具体方式本发明实施例在此不再赘述,例如,若所述预设窗口为以任意一个像素点为中心像素点向左向右各一个像素点,则该预设窗口内包含5个像素点,该预设窗口的像素值为5个像素点像素值的总和。
S1014、根据所述预设窗口的像素值,从所述第二图像中提取与所述预设窗口的像素值差异值最小的区域为目标区域。
由于对于第一图像中每个像素点,以该像素点为中心像素点建立预设窗口,并根据预设窗口的像素值从所述第二图像中查到的目标区域的方式和原理均相同,故本发明实施例仅以第一像素点为中心像素点为例进行说明,该第一像素点为第二图像中的任意一个像素点,并不具有指示性含义。
示例性的,如图4所示,步骤S1014可以通过以下方式实现:
S10141、确定所述第一像素点在所述第一图像中的坐标,并以所述第一像素点为中心像素点建立预设窗口。
如图3a所示,该图3a中黑色实心方框为以第一像素点为中心像素点,在黑色实心方框外的边框(即图3a中指示的预设窗口)为以该第一像素点为中心像素点建立的预设窗口,其中,该预设窗口的大小可以根据实际需要达到的精度进行设定,本发明实施例在此不再赘述。
S10142、在保持所述第一像素点纵坐标不变的情况下,从所述第二图像中选取每个候选区域,所述候选区域的窗口距离与所述第一预设窗口大小相同,且所述候选区域为以所述第二图像中任意一个像素点为中心像素点建立的,所述候选区域内的每个像素点的纵坐标与所述第一像素点的纵坐标相同;
其中,所述候选区域的窗口距离是指候选区域内任意一个中心像素点,按照预设距离2L,以所述中心像素点为中心,在所述中心像素点四周(上、下、左、由)各延长L个长度单位所包含的区域。
S10143、计算每个所述候选区域的像素值,所述像素值是指候选区域内所有像素点的灰度值之和;
S10144、将所述候选区域的像素值与所述预设窗口的像素值的差异值最小的候选区域确定为目标区域。
其中,当获取到第一像素点的坐标时,可以将所述第一像素点从第二图像指向第一图像的方向,保持纵坐标不变的情况下,将第一像素点遍历所述第二图像中与所述第一像素点纵坐标相同,但横坐标不同的任何一个像素点,即将第一像素点保持纵坐标不变,将第一像素点从横轴沿第二图像指向第一图像的方向移动,并可以通过SAD(Sum ofAbsolute Difference)或SSD(Sum of Squared Difference)算法matching方式从第二图像中提取与所述预设窗口的像素值差异值最小的区域为目标区域。
示例性的,如图3b所示,图3b中示例出将第一像素点保持纵坐标不变时,从横轴沿第二图像指向第一图像的方向,将第一像素点移动时,第一像素点的像素值与第二图像中在与第一像素点纵坐标相同的每个像素点为中心像素点构成的预设窗口的像素值之间的差异值,由图3c可知,在d点所述第二图像中的预设窗口的像素值与第一像素点的像素值之间的差异值最小,故d点对应的预设窗口则为本发明实施例中的目标区域。
当然,为了减少计算量,在获取到第一像素点的坐标以后,可以从所述二图像中与所述第一像素点纵坐标相同,大于等于横坐标的候选区域中选取目标区域。
当然,本发明实施例也可以基于第二图像,在第一图像中选取与第二图像中任意一个像素点构建的预设窗口的像素值差异最小的区域为目标区域,此时,应按照第一图像指向第二图像的方向,保持纵坐标不变的情况下,将第二图像中的每个像素点构成的预设窗口遍历所述第一图像的候选区域,以获取目标区域。
S1015、确定每个所述目标区域的中心像素点;
S1016、将每个所述第一图像的中心像素点与所述目标区域的中心像素点进行匹配,获取与所述第一图像对应的三维立体图像。
优选的,为了提高识别精度,需要提取出所述第一图像中的用户行为轮廓,在此用户行为轮廓的基础上,获取每一个像素点的像素信息,并从三维立体图像中获取与之对应的像素点距离信息,由于用户的用户行为应处于同一平面,因而拥有相近的像素点距离信息,故在识别之前,可以对三维立体图像中用户行为对应的像素点距离进行均值操作,以便用户行为轮廓内的用户行为与背景等干扰信息进行分离,从而高精度的提取出用户的用户行为。
需要说明的是,本发明实施例中每张三维立体图像的大小均和与合成所述三维立体图像的二维图像的大小相同,所述第一图像中的每个像素点对应的最小差异值则为在三维立体图像各像素值。
其中,本发明实施例对所述步骤S102中确定智能终端的显示界面显示出目标操作界面的方式不进行限定,可以是用户通过遥控设备将智能终端得显示界面调整至目标操作界面,例如,当用户需要对智能终端的音量进行调整时,用户通过遥控器将智能终端的音量操作界面打开,当用户需要对智能终端的节目进行调整时,用户通过遥控器将智能终端的界面菜单界面打开等等。当然为了提高用户与智能终端之间的交互,本发明实施例还包括处理器将第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像,然后通过该至少一张三维立体图像识别出用户的手势操作,并在智能终端的显示屏上显示出于该手势操作对应的目标操作界面。
其中,本发明实施例对所述从每张三维立体图像中获取用户手势基点和用户姿态的方式不进行限定,可以通过现有技术中采用的识别技术进行识别,只要能获取到本发明实施例中的需要的手势基点和用户姿态即可。
示例性的,步骤S102可以通过以下方式实现:
S1021、获取所述至少一张三维立体图像中每张三维立体图像中的手势轮廓中M个像素点对应的三维坐标信息以及用户身体轮廓中Y个像素点的对应的三维坐标信息;
其中,M和Y均为大于1的正整数,本发明实施例对M和Y的具体值不进行限定,只要获取该M和Y的个像素点之后使得智能终端可以识别出该用户的手势轮廓和用户身体轮廓即可。
S1022、根据每张三维立体图像中包含的手势轮廓的M个像素点对应的三维坐标信息,将预设数据库中与所述手势轮廓对应的标准手势确定为用户的手势;
其中,所述预设数据库中包括至少一个手势轮廓以及与每个手势轮廓对应的三维坐标信息;
可以通过M个像素点对应的三维坐标信息与预设数据库中每个手势轮廓对应的三维坐标信息进行匹配,将该M个像素点对应的三维坐标信息与预设数据库中的至少一个手势轮廓对应的三维坐标信息之间的差异最小的手势轮廓确定为用户的手势。
S1023、根据每张三维立体图像中包含的用户姿态的Y个像素点的对应的三维坐标信息,将预设姿态特征库中与所述用户姿态对应的标准姿态确定为所述用户姿态。
具体判断过程类似于步骤S1022,本发明实施例在此不再赘述。
本发明实施例对步骤S103的具体实现方式不进行限定,仅是示例性的,步骤S103具体可以通过以下步骤实现:
S1031A、根据所述至少一张三维立体图像中每张三维立体图像包含的用户的手势和用户姿态,确定所述用户的手势基点以及用户姿态包括的至少一个关键点;
其中,本发明实施例中的关键点指代头部,眼部(左眼或者右眼),肘部,肩部。
其中,不同的手势对应不同的手势基点,本发明实施例对此不进行限定,可以根据需要进行设置。例如,当用户手势为握拳时,手势基点指代拳头的重心,当手势为如图5a所示的手势时,即只伸出食指时,手势基点在指尖。
S1032A、根据所述用户的手势基点以及用户姿态包括的至少一个关键点以及智能终端的显示屏所在的平面的三维空间内的平面方程,确定每张三维立体图像用户操作目标点。
需要说明的是,用户在操作智能终端时,首先人眼和手指的连线会与智能终端显示屏的平面有交点,这个交点作为判断的起始点,即基准交点,由于不同的用户姿态,对应用户不同的期望操作位置,比如当用户手指指向智能终端显示屏时,手肘和手指的连线与智能终端显示屏所在的平面方程相交的基准交点,更接近用户期待的位置,但是为了提高用户基准交点的精确坐标,仅通过手肘和手指的连线确定基准交点可能会存在误差,因此,还要结合人眼的相对位置因素,结合具体的用户姿态来确定每个关键点的计算权重。因此为了提高本发明实施例中用户操控的精度,本发明实施例中从用户姿态中至少确定两个关键点。
其中,每个关键点对应一个权重,本发明实施例对所述每个关键点对应的权重值不进行限定,具体可以根据用户姿态进行确定。
仅是示例性的,由于根据用户姿态中的每个关键点确定基准交点和参考交点的方式和原理均相同,本发明实施例仅以第一关键点和第二关键点为例进行说明。
一方面,步骤S1032A具体可以通过以下方式实现:
S1032A1、获取每张三维立体图像中用户的手势基点与第一关键点之间的连线和所述平面方程的基准交点,以及用户的手势基点与第二关键点之间的连线和所述平面方程的参考交点;
S1032A2、根据每个所述关键点对应的权重、所述基准交点的坐标以及所述参考交点的坐标,对所述基准交点的坐标进行调整;
S1032A3、将调整后的所述基准交点的坐标确定为用户操作目标点。
如图5a所示,图5a显示出了从一张三维立体图像中获取用户手势和姿态,图5b为通过上述方法确定的手势基点以及两个关键点。在图5b中仅以头部和肘部为关键点。图5c展示出了以图5b确定的手势基点以及两个关键点确定的用户操作目标点。
进一步可选的,本发明实施例还可以根据预设时间内的每张三维立体图像对应的用户的操作目标点确定用户目标操作轨迹,本发明实施例对用户目标操作轨迹具体不进行限定,可以根据用户在预设时间内的至少一张三维立体图像中每张三维立体图像中用户的操作目标点确定用户目标操作轨迹,该用户目标操作轨迹可以通过将每张三维立体图像中的用户操作目标点的坐标连起来构成用户目标操作轨迹。
该用户目标操作轨迹可以为拖拽、按下、抬起、抓取、指向、移动(向左移动,向右移动、向上移动、向下移动)、释放、旋转、多点操控等等,当然在标准姿态特征库中上述拖拽、按下、抬起、抓取、指向、移动、释放、旋转、多点操控均对应一个相应的预设操控策略。
本发明实施例对所述预设操控策略不进行限定,示例性的,本发明实施例仅以目标操作界面为调节音量为例进行说明,并不具有任何指示含义,当用户目标操作轨迹为向左移动时,该预设操作策略为实现智能终端的音量增加,当所述用户目标操作轨迹为向右移动时,该预设操作策略为实现智能终端的音量减少。
需要说明的时,在预设时间内,根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点确定用户目标操作轨迹时,可以基于所述预设时间起始到终止时间内,每个时刻合成的三维立体图像,也可以在预设时间起始到终止时间内按照预设间隔选取一些三维立体图像,本发明实施例对此不进行限定。
当然,本发明实施例中的预设操控策略还可以为输入法,即当目标操作界面为书写板时,处理器根据在预设时间内,根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点确定用户目标操作轨迹,并根据用户目标操作轨迹从标准姿态特征库中选择与用户目标操作轨迹匹配或者相近的汉字,本发明实施例对处理器如何识别用户操作轨迹为汉字的方式不进行限定,可以参考现有技术中的方法。
进一步可选的,步骤S105可以通过以下方式实现:
S1051、将所述与所述用户目标操作轨迹对应的预设操控策略生成第一控制消息,所述第一控制消息用于指示根据预设操控策略对所述智能终端进行操控;
其中,本发明实施例对所述预设操控策略不进行限定,智能终端中所有可以通过用户操控的方式都可以作为本发明实施例中的预设操控策略存储在标识姿态特征库中,例如,对音量的操控策略、对智能终端节目的操控策略,对智能终端颜色的操控策略等等。
本发明实施例对所述第一控制消息的具体形式不进行限定,该第一控制消息中包含与所述用户目标操作轨迹对应的预设操控策略。
S1052、将所述第一控制消息向与所述预设操控策略对应的控制设备发送,以使得所述控制设备根据所述第一控制消息对所述智能终端进行操控。
其中,与所述预设操控策略对应的控制设备本发明实施例不进行限定,当所述操控策略为调节音量时,该控制设备可以为音量调节装置,当所述操控策略为调节节目时,该控制设备可以为节目调节装置。
当然,当确定用户目标操作轨迹之后,处理器还可以根据所述用户目标操作轨迹从标准姿态特征库中选取与所述用户目标操作轨迹对应的预设操控策略,并将该预设操控策略生成第一控制消息,并将该第一控制消息发送给智能终端的相应的控制设备,该第一控制消息用于指示所述控制设备实现对所述智能终端的控制,示例性的,当所述用户目标操作轨迹为抬起时,该用户目标操作轨迹抬起对应的预设操控策略为音量减,则该第一控制消息用于指示智能终端的音量控制设备,将所述智能终端的音量进行递减。
其中,本发明实施例对确定所述智能终端的操作界面是否显示出目标操作界面的方式不进行限定,例如,当用户通过智能终端的遥控器打开智能终端的目标操作界面时,当智能终端的处理器接收到该用户输入的打开智能终端目标操作界面的指令时,将该目标操作界面显示在该智能终端的显示界面时,即确定所述智能终端的操作界面显示出目标操作界面,也可以是用户通过智能终端的手势识别功能打开智能终端的目标操作界面,当智能终端的处理器获取到用户手势识别的目标手势操作后,将该目标手势操作对应的目标操作界面显示在终端的显示界面时,即确定所述智能终端的操作界面显示出目标操作界面,当然也可以是其他方式打开智能终端的目标操作界面。
为了提高用户对智能终端操控的便利性,本发明实施例以户通过智能终端的手势识别打开智能终端的目标操作界面为例进行说明。
仅是示例性的,本发明实施例在步骤S101之前,还包括:
S106、在第一预设时间内,将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含第一用户行为的图像合成至少一张三维立体图像;所述第一用户行为至少包含用户手势操作;
S107、根据第一图像、与所述第一图像对应的三维立体图像以及标准手势特征库中的手势变化信息以及像素点距离信息,从所述标准手势特征库中确定目标手势操作;其中,所述第一图像为T个拍摄时刻所述第一摄像头拍摄的任意一张图像;
S108、根据所述目标手势操作与用户手势操作库中手势操作与操作界面之间的对应关系,确定目标操作界面;
S109、将所述目标操作界面显示在所述智能终端的显示界面。
其中,步骤S106具体可以通过以下方式实现:
S1061、提取所述第一图像中的用户手势操作轮廓及所述用户手势操作轮廓中每个像素的像素点信息;
S1062、根据所述用户手势操作轮廓中每个像素的像素点信息,在与所述第一图像对应的三维立体图像上,获取与所述用户手势操作轮廓中每个像素的像素点信息对应的像素点距离信息;
S1063、在预设时间内,将T个拍摄时刻所述第一摄像头和所述第二摄像头分别同时拍摄的包含用户手势操作的图像合成的至少一张三维立体图像的手势变化信息和像素点距离信息与标准手势特征库中的手势变化信息以及像素点距离信息进行匹配,选取目标手势动作。
进一步的,所述提取第一图像中的手势操作轮廓,包括:
S10611、采用肤色分割算法对第一图像进行肤色分割;
S10612、对进行肤色分割后的第一图像进行边缘检测;
其中,对于边缘检测的方式有多种,本发明实施例在此不再赘述示例性的,可以通过边缘检测算法来实现,本发明实施例在此不再赘述。
S10613、提取经过边缘检测后的第一图像的手势操作轮廓,获得所述第一图像中的手势操作轮廓。
对于手势操作轮廓的方式有多种,本发明实施例在此不再赘述,示例性的,该方法可以通过采用八邻域搜索法来实现。
可选的,S1063可以通过以下方式实现:
S10631A、在预设时间内,逐帧分析所述第一摄像头N个拍摄时刻中相邻时刻拍摄的图像的手势变化信息、与所述N个拍摄时刻所述第一摄像头和所述第二摄像头分别同时拍摄的包含手势操作的图像合成的N个三维立体图像的手势变化信息及像素点距离信息;
S10632A、将所述N个拍摄时刻中相邻时刻合成的三维立体图像的手势变化信息及像素点距离信息与标准手势特征库中手势变化信息以及用户手势的像素点距离信息进行比较;
S10633A、从所述标准手势特征库中选取与所述相邻的三维立体图像的手势变化信息及像素点距离信息差异最小的为目标手势动作。
如图6a所示,经过步骤S1061提取后的某一时刻第一摄像头拍摄的包含手势操作图像的手势操作轮廓,在进行手势操作轮廓提取后从该二维图像对应的三维立体图像上提取相应的手势操作如图6b所示,并根据预设时间内的手势变化信息以及像素点距离信息通过跟踪算法获取到目标手势,如图6c所示。
例如,该标准手势特征库中可以包含如下手势:如表2所示
预设手势 对应的操作指令 手势变化信息 像素点距离信息
握拳 关机 X1 Y1
巴掌 音量增 X2 Y2
v手势 音量减 X3 Y3
向侧曲腕 节目增加 X4 Y4
向下曲腕 节目减小 X5 Y5
大拇指 菜单 X6 Y6
当然,表2所示的每种手势对应的操作指令可以由用户通过终端的处理器进行修改。
具体在识别用户的手势操作时,可根据获取到的多个相邻的三维立体图像之间的手势变化信息以及像素点距离信息通过跟踪算法,例如,联合概率数据关联滤波器(JPDAF)、多假设跟踪(MHT)算法、动态多位分配算法等与标准手势特征库中的手势变化信息以及像素点距离信息进行匹配,以识别当前的用户手势操作,并执行与所述手势操作对应的预设手势相应的操作指令。当手势操作与标准手势特征库中一致时,则可产生相应的控制信号。例如,系统识别出用户的用户手势操作为握拳,该预设握拳手势在标准手势特征库中对应的指令为关机,则系统识别后,根据所述手势操作执行关机键。
进一步可选的,所述智能终端还包括人脸特征库,所述人脸特征库包括至少一张图片以及与所述每张图片对应的至少一张用户操作轨迹,所述图片中包含人脸信息;
另一方面,所述步骤S1063,包括:
S10631B、根据所述每张三维立体图像包含的人体轮廓信息从所述人脸特征库中获取目标图片;所述目标图片为所述人脸特征库中包含的每个图片所包含的人脸信息与每张三维立体图像包含的人体轮廓信息匹配的图片;
S10632B、根据所述目标图片从所述标准手势特征库中获取与所述目标图片对应的至少一张用户手势以及每张所述用户手势对应的手势变化信息以及像素点距离信息;
S10633B、将所述至少一张三维立体图像中相邻时刻合成的三维立体图像的手势变化信息及像素点距离信息与所述标准手势特征库中第一手势操作对应的手势变化信息以及像素点距离信息进行比较;
S10634B、从所述标准手势特征库中选取与所述相邻的三维立体图像的手势变化信息及像素点距离信息差异最小的为目标手势动作。
如图7所示,本发明实施例提供一种智能终端操控装置,包括:
判断单元701,用于判断智能终端的显示界面是否显示出目标操作界面
合成单元702,用于在所述判断单元确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势操作和用户姿态;
获取单元703,用于获取预设时间内所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
第一确定单元704,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,确定每张三维立体图像中用户的操作目标点;
第二确定单元705,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述每张三维立体图像中用户的手势,确定与所述每张三维立体图像中用户的操作目标点对应的目标操控策略;
操控单元706,用于根据所述每张三维立体图像中用户的操作目标点对应的目标操控策略,对所述智能终端进行操控.
本发明实施例提供一种智能终端操控装置,在确定智能终端的显示界面显示出目标操作界面后,通过将第一摄像头和第二摄像头同一时刻分别拍摄的至少一张包含手势操作的图像合成三维立体图像,并基于所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态确定每张三维立体图像中用户的操作目标点,这样基于三维立体图像可以提高智能终端操控的精度,同时基于每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略,对智能终端进行操控,由于每个用户的手势对应多个操作目标点,每个操作目标点均具有对应的操控策略,使得对于同一个手势,当操作目标点不相同时,可以对应于不同的操控策略,这样可以确保对智能终端操控的实时性。本发明实施例仅基于第一摄像头和第二摄像头,即可高精度的识别用户的手势操作,从而操控智能电视,提高用户体验。
可选的,所述获取单元703,包括:
获取模块,用于获取所述至少一张三维立体图像中每张三维立体图像中的手势轮廓以及用户身体轮廓中M个像素点的对应的三维坐标信息;其中,M大于等于1;
第一确定模块,用于根据每张三维立体图像中包含的手势轮廓,将预设数据库中与所述手势轮廓对应的标准手势确定为用户的手势;
第二确定模块,用于根据每张三维立体图像中包含的用户姿态,将预设姿态特征库中与所述用户姿态对应的标准姿态确定为所述用户姿态。
可选的,所述第一确定单元704,包括:
第一确定模块,用于根据所述至少一张三维立体图像中每张三维立体图像包含的用户的手势和用户姿态,确定所述用户的手势基点以及用户姿态中的至少一个关键点;
第二确定模块,用于根据所述用户的手势基点以及用户姿态中的至少一个关键点以及智能终端的显示屏所在的平面的三维空间内的平面方程,确定每张三维立体图像用户操作目标点。
可选的,所述第二确定模块,包括:
获取子模块,用于获取每张三维立体图像中用户的手势基点与第一关键点之间的连线和所述平面方程的基准交点,以及用户的手势基点与第二关键点之间的连线和所述平面方程的参考交点;
第一确定子模块,用于根据每个所述关键点对应的权重、所述基准交点的坐标以及所述参考交点的坐标,对所述基准交点坐标进行调整;
第二确定子模块,用于将调整后的所述基准交点的坐标确定为用户操作目标点。
可选的,所述装置还包括:所述合成单元,还用于在第一预设时间内,将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含第一用户行为的图像合成至少一张三维立体图像;所述第一用户行为至少包含用户手势操作;
第三确定单元,用于根据第一图像、与所述第一图像对应的三维立体图像以及标准手势特征库中的手势变化信息以及像素点距离信息,从所述标准手势特征库中确定目标手势操作;其中,所述第一图像为T个拍摄时刻所述第一摄像头拍摄的任意一张图像;
第四确定单元,用于根据所述目标手势操作与用户手势操作库中手势操作与操作界面之间的对应关系,确定目标操作界面;
显示单元,用于将所述目标操作界面显示在所述智能终端的显示界面。
所述第三确定单元,包括:
提取模块,用于提取所述第一图像中的用户手势操作轮廓及所述用户手势操作轮廓中每个像素的像素点信息;
第二获取模块,用于根据所述用户手势操作轮廓中每个像素的像素点信息,在与所述第一图像对应的三维立体图像上,获取与所述用户手势操作轮廓中每个像素的像素点信息对应的像素点距离信息;
选取模块,用于在预设时间内,将N个拍摄时刻所述第一摄像头和所述第二摄像头分别同时拍摄的包含用户手势操作的图像合成的至少一张三维立体图像的手势变化信息和像素点距离信息与标准手势特征库中的手势变化信息以及像素点距离信息进行匹配,选取目标手势动作。
可选的,所述智能终端还包括人脸特征库,所述人脸特征库包括至少一张图片以及与所述每张图片对应的至少一张用户手势操作,所述图片中包含人脸信息;
所述第三确定单元,包括:
第三获取模块,用于根据所述每张三维立体图像包含的人体轮廓信息从所述人脸特征库中获取目标图片;所述目标图片为所述人脸特征库中包含的每个图片所包含的人脸信息与每张三维立体图像包含的人体轮廓信息匹配的图片;
第四获取模块,用于根据所述目标图片从所述标准手势特征库中获取与所述目标图片对应的至少一张用户手势以及每张所述用户手势对应的手势变化信息以及像素点距离信息;
比较模块,用于将所述至少一张三维立体图像中相邻时刻合成的三维立体图像的手势变化信息及像素点距离信息与所述标准手势特征库中第一手势操作对应的手势变化信息以及像素点距离信息进行比较;
确定模块,用于从所述标准手势特征库中选取与所述相邻的三维立体图像的手势变化信息及像素点距离信息差异最小的为目标手势动作。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理包括,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (8)

1.一种智能终端操控方法,其特征在于,包括:
若确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势和用户姿态;
获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态包括的至少两个关键点之间的连线分别与智能终端的显示屏所在的平面的三维空间内的平面方程之间的交点,确定每张三维立体图像中用户的操作目标点;
根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述三维立体图像中用户的手势,从预设数据库中确定与所述每张三维立体图像中用户的操作目标点及所述三维立体图像中用户的手势对应的目标操控策略;其中,所述预设数据库中包括至少一个用户的手势,与每个所述用户的手势对应的至少一个操作目标点以及与每个所述操作目标点对应的操控策略;
根据所述目标操控策略,对所述智能终端进行操控;
所述获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态,包括:
获取所述至少一张三维立体图像中每张三维立体图像中的手势轮廓中M个像素点对应的三维坐标信息以及用户身体轮廓中Y个像素点的对应的三维坐标信息;
根据每张所述三维立体图像中包含的手势轮廓的M个像素点对应的三维坐标信息,将预设数据库中与所述手势轮廓对应的标准手势确定为用户的手势;
根据每张所述三维立体图像中包含的用户姿态的Y个像素点的对应的三维坐标信息,将预设姿态特征库中与所述用户姿态对应的标准姿态确定为所述用户姿态;
所述根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态包括的至少两个关键点之间的连线分别与智能终端的显示屏所在的平面的三维空间内的平面方程之间的交点,确定每张三维立体图像中用户的操作目标点,包括:
根据所述至少一张三维立体图像中每张三维立体图像包含的用户的手势和用户姿态,确定所述用户的手势基点以及所述用户姿态包括的至少两个关键点;
根据所述用户的手势基点以及用户姿态包括的至少两个关键点以及智能终端的显示屏所在的平面的三维空间内的平面方程,确定每张三维立体图像的用户操作目标点;
所述用户姿态包括第一关键点和第二关键点,所述根据所述用户的手势基点以及所述第一关键点和第二关键点以及智能终端的显示屏所在的平面的三维空间内的平面方程,确定每张三维立体图像的用户操作目标点,包括:
获取每张三维立体图像中用户的手势基点与第一关键点之间的连线和所述平面方程的基准交点,以及用户的手势基点与第二关键点之间的连线和所述平面方程的参考交点;
根据每个所述关键点对应的权重、所述基准交点的坐标以及所述参考交点的坐标,调整所述基准交点的坐标;
将调整后的所述基准交点的坐标确定为用户操作目标点。
2.根据权利要求1所述的方法,其特征在于,所述若确定智能终端的显示界面显示出目标操作界面之前,所述方法还包括:
在第一预设时间内,将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含第一用户行为的图像合成至少一张三维立体图像;所述第一用户行为至少包含用户手势操作;
根据第一图像、与所述第一图像对应的三维立体图像以及标准手势特征库中的手势变化信息以及像素点距离信息,从所述标准手势特征库中确定目标手势操作;其中,所述第一图像为T个拍摄时刻所述第一摄像头拍摄的任意一张图像;
根据所述目标手势操作与用户手势操作库中手势操作与操作界面之间的对应关系,确定目标操作界面;
将所述目标操作界面显示在所述智能终端的显示界面。
3.根据权利要求2所述的方法,其特征在于,所述根据第一图像、与所述第一图像对应的三维立体图像以及标准手势特征库中的手势变化信息以及像素点距离信息,从所述标准手势特征库中确定目标手势操作,包括:
提取所述第一图像中的用户手势操作轮廓及所述用户手势操作轮廓中每个像素的像素点信息;
根据所述用户手势操作轮廓中每个像素的像素点信息,在与所述第一图像对应的三维立体图像上,获取与所述用户手势操作轮廓中每个像素的像素点信息对应的像素点距离信息;
在预设时间内,将T个拍摄时刻所述第一摄像头和所述第二摄像头分别同时拍摄的包含用户手势操作的图像合成的至少一张三维立体图像的手势变化信息和像素点距离信息与标准手势特征库中的手势变化信息以及像素点距离信息进行匹配,选取目标手势动作。
4.根据权利要求3所述的方法,其特征在于,所述智能终端还包括人脸特征库,所述人脸特征库包括至少一张图片以及与所述至少一张图片中每张图片对应的至少一张用户手势操作,所述图片中包含人脸信息;
所述从所述标准手势特征库中确定目标手势操作,包括:
根据所述至少一张三维立体图像中的每张三维立体图像包含的人体轮廓信息从所述人脸特征库中获取目标图片;所述目标图片为所述人脸特征库中包含的每个图片所包含的人脸信息与每张三维立体图像包含的人体轮廓信息匹配的图片;
根据所述目标图片从所述标准手势特征库中获取与所述目标图片对应的至少一张用户手势以及每张所述用户手势对应的手势变化信息以及像素点距离信息;
将所述至少一张三维立体图像中相邻时刻合成的三维立体图像的手势变化信息及像素点距离信息与所述标准手势特征库中第一手势操作对应的手势变化信息以及像素点距离信息进行比较;
从所述标准手势特征库中选取与相邻的三维立体图像的手势变化信息及像素点距离信息差异最小的为目标手势动作。
5.一种智能终端操控装置,其特征在于,包括:
判断单元,用于判断智能终端的显示界面是否显示出目标操作界面;
合成单元,用于在所述判断单元确定智能终端的显示界面显示出目标操作界面,则将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含用户行为的图像合成至少一张三维立体图像;所述用户行为至少包含用户手势操作和用户姿态;
获取单元,用于获取所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态;
第一确定单元,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的手势和用户姿态包括的至少两个关键点之间的连线分别与智能终端的显示屏所在的平面的三维空间内的平面方程之间的交点,确定每张三维立体图像中用户的操作目标点;
第二确定单元,用于根据所述至少一张三维立体图像中每张三维立体图像中用户的操作目标点以及所述每张三维立体图像中用户的手势,确定与所述每张三维立体图像中用户的操作目标点对应的目标操控策略;
操控单元,用于根据所述每张三维立体图像中用户的操作目标点对应的目标操控策略,对所述智能终端进行操控;
所述第一确定单元,包括:
第一确定模块,用于根据所述至少一张三维立体图像中每张三维立体图像包含的用户的手势和用户姿态,确定所述用户的手势基点以及用户姿态中的至少两个关键点;
第二确定模块,用于根据所述用户的手势基点以及用户姿态中的至少两个关键点以及智能终端的显示屏所在的平面的三维空间内的平面方程,确定每张三维立体图像用户操作目标点;
所述第二确定模块,包括:
获取子模块,用于获取每张三维立体图像中用户的手势基点与第一关键点之间的连线和所述平面方程的基准交点,以及用户的手势基点与第二关键点之间的连线和所述平面方程的参考交点;
第一确定子模块,用于根据每个所述关键点对应的权重、所述基准交点的坐标以及所述参考交点的坐标,调整所述基准交点的坐标;
第二确定子模块,用于将调整后的所述基准交点的坐标确定为用户操作目标点。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
所述合成单元,还用于在第一预设时间内,将预设时间内的N个拍摄时刻中每个拍摄时刻,第一摄像头和第二摄像头分别同时拍摄的包含第一用户行为的图像合成至少一张三维立体图像;所述第一用户行为至少包含用户手势操作;
第三确定单元,用于根据第一图像、与所述第一图像对应的三维立体图像以及标准手势特征库中的手势变化信息以及像素点距离信息,从所述标准手势特征库中确定目标手势操作;其中,所述第一图像为T个拍摄时刻所述第一摄像头拍摄的任意一张图像;
第四确定单元,用于根据所述目标手势操作与用户手势操作库中手势操作与操作界面之间的对应关系,确定目标操作界面;
显示单元,用于将所述目标操作界面显示在所述智能终端的显示界面。
7.根据权利要求6所述的装置,其特征在于,所述智能终端还包括人脸特征库,所述人脸特征库包括至少一张图片以及与所述至少一张图片中每张图片对应的至少一张用户手势操作,所述图片中包含人脸信息;
所述第三确定单元,包括:
第三获取模块,用于根据所述至少一张三维立体图像每张三维立体图像包含的人体轮廓信息从所述人脸特征库中获取目标图片;所述目标图片为所述人脸特征库中包含的每个图片所包含的人脸信息与每张三维立体图像包含的人体轮廓信息匹配的图片;
第四获取模块,用于根据所述目标图片从所述标准手势特征库中获取与所述目标图片对应的至少一张用户手势以及每张所述用户手势对应的手势变化信息以及像素点距离信息;
比较模块,用于将所述至少一张三维立体图像中相邻时刻合成的三维立体图像的手势变化信息及像素点距离信息与所述标准手势特征库中第一手势操作对应的手势变化信息以及像素点距离信息进行比较;
确定模块,用于从所述标准手势特征库中选取与相邻的三维立体图像的手势变化信息及像素点距离信息差异最小的为目标手势动作。
8.一种智能终端,其特征在于,所述智能终端包括处理器、存储器、系统总线和通信接口、平行设置在所述智能终端上的第一摄像头和第二摄像头,运行在所述智能终端处理器上的智能终端操控装置以及与所述处理器相连的显示屏;
其中,所述第一摄像头和第二摄像头处于同一水平线上;
所述第一摄像头和第二摄像头,用于在预设时间拍摄至少一张包含用户行为的图像;
所述存储器用于存储计算机执行指令,所述处理器与所述存储器通过所述系统总线连接,当所述智能终端运行时,所述处理器执行所述存储器存储的所述计算机执行指令,以使所述智能终端执行如权利要求1-4任意一项所述的智能终端操控方法。
CN201610339884.2A 2016-05-20 2016-05-20 一种智能终端操控方法、装置和智能终端 Active CN106020478B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610339884.2A CN106020478B (zh) 2016-05-20 2016-05-20 一种智能终端操控方法、装置和智能终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610339884.2A CN106020478B (zh) 2016-05-20 2016-05-20 一种智能终端操控方法、装置和智能终端

Publications (2)

Publication Number Publication Date
CN106020478A CN106020478A (zh) 2016-10-12
CN106020478B true CN106020478B (zh) 2019-09-13

Family

ID=57095642

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610339884.2A Active CN106020478B (zh) 2016-05-20 2016-05-20 一种智能终端操控方法、装置和智能终端

Country Status (1)

Country Link
CN (1) CN106020478B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106686497B (zh) * 2016-12-27 2020-04-24 广东小天才科技有限公司 一种可穿戴设备的音量调整方法及可穿戴设备
CN106940590A (zh) * 2017-02-08 2017-07-11 华为技术有限公司 一种终端设备状态切换方法及装置
CN107862852B (zh) * 2017-10-09 2020-07-24 厦门盈趣科技股份有限公司 基于位置匹配的适配多种设备的智能遥控装置及控制方法
CN108537410B (zh) * 2018-03-16 2022-03-22 厦门攸信信息技术有限公司 一种提高产线工人操作效率的方法和系统
CN109240494B (zh) * 2018-08-23 2023-09-12 京东方科技集团股份有限公司 电子显示板的控制方法、计算机可读存储介质和控制系统
CN109725722B (zh) * 2018-12-29 2022-03-18 百度在线网络技术(北京)有限公司 有屏设备的手势控制方法和装置
CN110244853A (zh) * 2019-06-21 2019-09-17 四川众信互联科技有限公司 手势控制方法、装置、智能显示终端及存储介质
CN110472476A (zh) * 2019-06-24 2019-11-19 平安科技(深圳)有限公司 姿态匹配度获取方法、装置、计算机及存储介质
CN111176438A (zh) * 2019-11-19 2020-05-19 广东小天才科技有限公司 基于三维手势动作识别的智能音箱控制方法及智能音箱
CN111625297A (zh) * 2020-05-28 2020-09-04 Oppo广东移动通信有限公司 一种应用程序的显示方法、终端和计算机可读存储介质
CN111857345A (zh) * 2020-07-23 2020-10-30 上海纯米电子科技有限公司 基于手势进行控制的方法及装置
CN112068699A (zh) * 2020-08-31 2020-12-11 北京市商汤科技开发有限公司 一种交互方法、装置、电子设备和存储介质
CN112351325B (zh) * 2020-11-06 2023-07-25 惠州视维新技术有限公司 基于手势的显示终端控制方法、终端和可读存储介质
CN113038216A (zh) * 2021-03-10 2021-06-25 深圳创维-Rgb电子有限公司 指令获得方法、电视机、服务器以及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5756464A (en) * 1996-05-23 1998-05-26 Xoma Corporation Therapeutic uses of BPI protein products in humans with hemmorhage due to trauma
CN1904806A (zh) * 2006-07-28 2007-01-31 上海大学 手、眼关系引导的非接触式位置输入系统和方法
CN101344816A (zh) * 2008-08-15 2009-01-14 华南理工大学 基于视线跟踪和手势识别的人机交互方法及装置
CN103180893A (zh) * 2011-08-23 2013-06-26 索尼公司 用于提供三维用户界面的方法和系统
WO2013098827A1 (en) * 2011-12-27 2013-07-04 Hewlett-Packard Development Company, L.P. User interface device
CN103927016A (zh) * 2014-04-24 2014-07-16 西北工业大学 一种基于双目视觉的实时三维双手手势识别方法及其系统
CN105425964A (zh) * 2015-11-30 2016-03-23 青岛海信电器股份有限公司 一种手势识别方法和系统
CN105430501A (zh) * 2015-12-03 2016-03-23 青岛海信电器股份有限公司 一种音量调节方法和系统

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5756464A (en) * 1996-05-23 1998-05-26 Xoma Corporation Therapeutic uses of BPI protein products in humans with hemmorhage due to trauma
CN1904806A (zh) * 2006-07-28 2007-01-31 上海大学 手、眼关系引导的非接触式位置输入系统和方法
CN101344816A (zh) * 2008-08-15 2009-01-14 华南理工大学 基于视线跟踪和手势识别的人机交互方法及装置
CN103180893A (zh) * 2011-08-23 2013-06-26 索尼公司 用于提供三维用户界面的方法和系统
WO2013098827A1 (en) * 2011-12-27 2013-07-04 Hewlett-Packard Development Company, L.P. User interface device
CN103927016A (zh) * 2014-04-24 2014-07-16 西北工业大学 一种基于双目视觉的实时三维双手手势识别方法及其系统
CN105425964A (zh) * 2015-11-30 2016-03-23 青岛海信电器股份有限公司 一种手势识别方法和系统
CN105430501A (zh) * 2015-12-03 2016-03-23 青岛海信电器股份有限公司 一种音量调节方法和系统

Also Published As

Publication number Publication date
CN106020478A (zh) 2016-10-12

Similar Documents

Publication Publication Date Title
CN106020478B (zh) 一种智能终端操控方法、装置和智能终端
CN105425964B (zh) 一种手势识别方法和系统
US10394334B2 (en) Gesture-based control system
CN107660039B (zh) 一种识别动态手势的灯具控制系统
CN103098076B (zh) 电视机控制用手势识别系统
CN105763917B (zh) 一种终端开机的控制方法和系统
JP2941207B2 (ja) ジェスチャ認識システム
US8897490B2 (en) Vision-based user interface and related method
KR101364571B1 (ko) 영상 기반의 손 검출 장치 및 그 방법
US20150338651A1 (en) Multimodal interation with near-to-eye display
JP2019532543A (ja) 制御システムならびに制御処理方法および装置
CN108712603B (zh) 一种图像处理方法及移动终端
CN105430501B (zh) 一种音量调节方法和系统
US20140071042A1 (en) Computer vision based control of a device using machine learning
CN105160323B (zh) 一种手势识别方法
CN102915111A (zh) 一种腕上手势操控系统和方法
CN104106078B (zh) 光学字符辨识(ocr)高速缓冲存储器更新
WO2018000519A1 (zh) 一种基于投影的用户交互图标的交互控制方法及系统
CN104914989B (zh) 姿势辨识装置以及姿势辨识装置的控制方法
CN111382648A (zh) 人脸动态表情的检测方法、装置、设备及存储介质
CN105988566B (zh) 一种信息处理方法及电子设备
CN111527468A (zh) 一种隔空交互方法、装置和设备
CN109542233A (zh) 一种基于动态手势和人脸识别的灯具控制系统
CN103995595A (zh) 一种基于手势的游戏体感控制方法
CN107392098A (zh) 一种基于人体骨架信息的动作完成度识别方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 266100 Zhuzhou Road, Laoshan District, Shandong, No. 151, No.

Patentee after: Hisense Video Technology Co.,Ltd.

Address before: 266100 Zhuzhou Road, Laoshan District, Shandong, No. 151, No.

Patentee before: QINGDAO HISENSE ELECTRONICS Co.,Ltd.

CP01 Change in the name or title of a patent holder
TR01 Transfer of patent right

Effective date of registration: 20221020

Address after: 83 Intekte Street, Devon, Netherlands

Patentee after: VIDAA (Netherlands) International Holdings Ltd.

Address before: 266100 No. 151, Zhuzhou Road, Laoshan District, Shandong, Qingdao

Patentee before: Hisense Video Technology Co.,Ltd.

TR01 Transfer of patent right