CN103135883A - 控制窗口的方法及系统 - Google Patents

控制窗口的方法及系统 Download PDF

Info

Publication number
CN103135883A
CN103135883A CN201210024483XA CN201210024483A CN103135883A CN 103135883 A CN103135883 A CN 103135883A CN 201210024483X A CN201210024483X A CN 201210024483XA CN 201210024483 A CN201210024483 A CN 201210024483A CN 103135883 A CN103135883 A CN 103135883A
Authority
CN
China
Prior art keywords
attitude
steering order
instruction
window
mapping relations
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201210024483XA
Other languages
English (en)
Other versions
CN103135883B (zh
Inventor
周雷
贺欢
师丹玮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Taishan Sports Technology Co.,Ltd.
Original Assignee
SHENZHEN TOL TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN TOL TECHNOLOGY Co Ltd filed Critical SHENZHEN TOL TECHNOLOGY Co Ltd
Priority to CN201210024483.XA priority Critical patent/CN103135883B/zh
Publication of CN103135883A publication Critical patent/CN103135883A/zh
Application granted granted Critical
Publication of CN103135883B publication Critical patent/CN103135883B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明涉及一种控制窗口的方法及系统。该方法包括以下步骤:通过包含标记区域的交互设备产生姿态;采集包含所述标记区域的图像;识别标记区域的姿态;生成所述姿态对应的控制指令;根据所述控制指令控制窗口。上述控制窗口的方法及系统,根据采集到的包含标记区域的图像识别出标记区域所产生的姿态,并生成姿态对应的控制指令,根据该控制指令控制窗口。由于可根据标记区域的姿态即可得到相应的控制指令,因此只要标记区域产生姿态就能生成控制指令,就可根据生成的控制指令控制窗口,而不需要通过操作鼠标或触控触摸屏等设备,也能实现控制窗口,方便用户操作。

Description

控制窗口的方法及系统
【技术领域】
本发明涉及网络技术领域,特别涉及一种控制窗口的方法及系统。
【背景技术】
随着互联网技术的发展,人们往往需要对窗口实现控制操作,如创建新的窗口、关闭打开的窗口和浏览窗口等。传统的控制窗口主要是通过鼠标或触摸屏等设备控制光标移动实现的。例如鼠标,获取用户滚动鼠标的滚轮的操作,若滚轮逆时针滚动,则使窗口中的滚动条向上移动,若滚轮顺时针滚动,则使窗口中的滚动条向下移动。同样的,对于触摸屏,需获取用户手指在触摸屏幕上的滑动,才可使窗口中内容上下移动。
因此,传统的控制窗口的方式,需要用户通过操作鼠标或触控触摸屏等方式实现控制,当没有鼠标或触摸屏出现故障时,用户将无法对窗口实现控制,且依赖鼠标等设备,降低了用户的体验,不方便用户操作。
【发明内容】
基于此,有必要提供一种不需鼠标或触控设备也能实现操作的控制窗口的方法。
一种控制窗口的方法,包括以下步骤:通过包含标记区域的交互设备产生姿态;采集包含所述标记区域的图像;识别标记区域的姿态;生成所述姿态对应的控制指令;根据所述控制指令控制窗口。
此外,还有必要提供一种不需鼠标或触控设备也能实现操作的控制窗口的系统。
一种控制窗口的系统,包括:交互设备,用于通过标记区域产生姿态;姿态识别器,所述姿态识别器包括:图像采集模块,用于采集包含标记区域的图像;姿态识别模块,用于识别标记区域的姿态;指令生成模块,用于生成所述姿态对应的控制指令;指令执行模块,用于根据所述控制指令控制窗口。
上述控制窗口的方法及系统,根据采集到的包含标记区域的图像识别出标记区域所产生的姿态,并生成姿态对应的控制指令,根据该控制指令控制窗口。由于可根据标记区域的姿态即可得到相应的控制指令,因此只要标记区域产生姿态就能生成控制指令,就可根据生成的控制指令控制窗口,而不需要通过操作鼠标或触控触摸屏等设备,也能实现控制窗口,方便用户操作。
【附图说明】
图1为本发明中控制窗口的方法的流程示意图;
图2为一个实施例中步骤S30的流程示意图;
图3为一个实施例中交互设备的结构示意图;
图4为一个实施例中构建坐标系的示意图;
图5为另一个实施例中的交互设备的结构示意图;
图6为另一个实施例中的交互设备的结构示意图;
图7为另一个实施例中步骤S30的流程示意图;
图8为另一个实施例中构建坐标系的示意图;
图9为一个实施例中步骤S40的流程示意图;
图10为一个实施例中步骤S404的流程示意图;
图11为另一个实施例中步骤S404的流程示意图;
图12为另一个实施例中步骤S404的流程示意图;
图13为另一个实施例中步骤S404的流程示意图;
图14为另一个实施例中步骤S40的流程示意图;
图15为一个实施例中步骤S420的流程示意图;
图16为另一个实施例中步骤S420的流程示意图;
图17为另一个实施例中步骤S420的流程示意图;
图18为另一个实施例中步骤S420的流程示意图;
图19为本发明中控制窗口的系统的结构示意图;
图20为一个实施例中姿态识别模块的结构示意图;
图21为另一个实施例中姿态识别模块的结构示意图;
图22为一个实施例中指令生成模块的结构示意图;
图23为一个实施例中第一指令查找模块的结构示意图;
图24为另一个实施例中第一指令查找模块的结构示意图;
图25为另一个实施例中第一指令查找模块的结构示意图;
图26为另一个实施例中指令生成模块的结构示意图;
图27为一个实施例中第二指令查找模块的结构示意图;
图28为另一个实施例中第二指令查找模块的结构示意图;
图29为另一个实施例中第二指令查找模块的结构示意图。
【具体实施方式】
下面结合具体的实施例及附图对技术方案进行详细的描述。
在一个实施例中,如图1所示,一种控制窗口的方法,包括以下步骤:
步骤S10,通过包含标记区域的交互设备产生姿态。
本实施例中,标记区域是采集的图像中的一个区域,该区域可由交互设备形成。
具体的,在一个实施例中,交互设备可以是手持装置,可将手持装置的一部分或全部设定为指定的颜色或形状,采集手持装置的图像,图像中的手持装置中的该指定颜色或形状的部分形成标记区域。另外,交互设备还可以是带标记的手持装置,即在手持装置上附带指定颜色或形状的标记(如反光材料),采集手持装置的图像,图像中的手持装置上所附带的指定颜色或形状的标记形成标记区域。
在另一个实施例中,交互设备还可以是人体部位(例如人脸、手掌、手臂等),采集人体部位的图像,图像中的人体部位形成标记区域。另外,交互设备还可以是带标记的人体部位,即在人体部位上附带指定颜色或形状的标记(如反光材料),采集人体部位的图像时,图像中的该指定颜色或形状的标记形成标记区域。
步骤S20,采集包含标记区域的图像。
步骤S30,识别标记区域的姿态。
具体的,对采集到的图像进行处理,提取图像中的标记区域,然后根据标记区域中的像素在构建的图像坐标系中的像素坐标产生标记区域的姿态。所谓姿态,是指标记区域在图像中所形成的姿势状态。进一步的,在二维图像中,姿态为二维图像中的标记区域与预设位置之间的角度,即姿态角;在三维图像中,姿态为二维图像中的标记区域与预设位置之间的多个姿态角所组成的矢量,即姿态向量。本发明中说的“标记区域产生的姿态”,“标记区域的姿态”、“姿态”都是指所述姿态,也就是不同实施例的姿态角与姿态向量。
步骤S40,生成姿态对应的控制指令。
本实施例中,预先设定标记区域的姿态与控制指令之间的映射关系,并将该映射关系存储在数据库中。在识别出标记区域的姿态后,可根据识别出的姿态从数据库中查找与姿态对应的控制指令。
步骤S50,根据控制指令控制窗口。
本实施例中,根据姿态生成不同的控制指令,控制窗口。
具体的,控制窗口的控制指令可包括光标以相应的速度移动、扩大为原来窗口的20%、缩小为原来窗口的30%打开窗口等。窗口可为Word、Excel、记事本窗口、网页窗口等。进一步的,窗口为网页窗口时,所述控制窗口的控制指令还包括刷新网页窗口、网页窗口翻页等。
上述控制窗口的方法,只要采集包含标记区域的图像,并识别标记区域的姿态,生成相应的控制指令,就能控制窗口,不需要通过操作鼠标或触摸屏等设备,可通过人体的部位等也能实现对窗口的控制,且操作方便。
如图2所示,在一个实施例中,所采集到的包含标记区域的图像为二维图像,上述步骤S30的具体过程包括:
步骤S302,提取图像中与预设颜色模型匹配的像素,对获取的像素进行连通域检测,提取检测得到的连通域中的标记区域。
具体的,可通过摄像机采集包含标记区域的图像,得到的图像为二维可见光图像。优选的,还可在摄像机的镜头前加入红外滤光片,用于滤去除红外波段的其他波段光线,则采集的图像为二维红外图像。由于可见光图像中,场景中的物体会对标记区域的识别形成干扰,而红外图像因滤除掉了可见光信息,干扰较少,因此二维红外图像更有利于提取标记区域。
本实施例中,预先建立颜色模型。例如标记区域的色彩为红色,则预先建立红色模型,该模型中像素的RGB值分量可在200到255之间,G、B分量可接近于零;获取采集的图像中满足该红色模型的RGB值的像素即为红色像素。另外,当采集的图像中由人体部位形成标记区域时,则可获取采集的图像中与预设肤色模型匹配的像素。对获取的像素进行连通域检测,得到多个连通域,连通域是若个连续的像素组成的集合。
本实施例中,由于标记区域的大小和形状应大致是固定不变的,在对获取的像素进行连通域检测时,可计算得到获取的像素中的所有连通域的周长和/或面积。具体的,连通域的周长可为连通域边界像素的个数,连通域的面积可为连通域中的全部像素的个数。进一步的,可将获取的连通域的周长和/或面积与预设标记区域的周长和/或面积进行对比,获取满足预设标记区域的周长和/或面积的连通域即为标记区域。优选的,还可将周长的平方与面积的比值作为判断准则,连通域的该比值满足预设标记区域的该比值,则该连通域为标记区域。
步骤S304,获取标记区域中的像素坐标,根据该像素坐标产生标记区域姿态。
具体的,在一个实施例中,如图3所示,交互设备包括手持部分和附着于手持部分的标记,其中,标记可为长条形状的反光材料,优选的,可以为椭圆或矩形形状。在其他实施例中,交互设备还可为人体部位,如脸、手掌、手臂等,则采集到的图像中的标记区域即为人体部位的区域。
本实施例中,标记区域为一个连续区域,则根据像素坐标产生标记区域的姿态的过程为:计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态,该标记区域的姿态为一个姿态角。
具体的,如图4所示,构建二维图像坐标系,对于该坐标系上的两个点A(u1,v1)和B(u2,v2),其形成的姿态角则为斜率的反正切,即arctan((v2-v1)/(u2-u1))。具体的,本实施例中,计算提取的标记区域中的像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,该特征向量的方向即为标记区域长轴所在直线的方向。如图4所示,标记区域长轴所在直线方向为A、B两点所在直线的方向,设特征向量为[dir_u,dir_v]T,其中,dir_u描述标记区域长轴的方向在u轴上的投影,其绝对值正比于从A指向B的向量在u坐标轴方向上的投影(即u2-u1);dir_v描述标记区域长轴的方向在v轴上的投影,其绝对值正比于从A指向B的向量在v坐标轴方向上的投影(即v2-v1)。若dir_u或dir_v小于0,则修正为[-dir_u,-dir_v]T,则标记区域的姿态角为:arctan(dir_v/dir_u)。
在另一个实施例中,标记区域包括第一连续区域和第二连续区域,则根据所述像素坐标产生标记区域的姿态的具体过程为:根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标产生标记区域的姿态。具体的,在一个实施例中,交互设备包括手持部分和附着在手持部分的两个标记。如图5所示,标记为两个,分别附着在手持部分前端,标记的形状可以为椭圆形或矩形。优选的,标记可以为位于手持部位前端的两个圆点。如图6所示,可将标记设置在手持部分的两端。在其他实施例中,还可将标记设置在人体部位上,例如设置在人脸、手掌或手臂上。应当说明的是,所设置的两个标记可以大小、形状、颜色等特征上不一致。
本实施例中,提取的标记区域包括两个连续区域,分别为第一连续区域和第二连续区域。进一步的,根据像素坐标计算这两个连续区域的重心。具体的,计算连续区域中的全部像素坐标的平均值,所得到的像素坐标即为连续区域的重心。如图4所示,计算得到的两个连续区域的重心分别为A(u1,v1)和B(u2,v2),则标记区域的姿态角为斜率的反正切,即arctan((v2-v1)/(u2-u1))。
在另一个实施例中,所采集的图像可以为三维图像。具体的,可利用传统的立体视觉系统(由两台空间位置已知的摄像机及相关数据处理设备组成)、结构光系统(右一台摄像机、一台光源以及相关数据处理设备组成)或TOF(timeof flight,飞行时间)深度相机采集三维图像(即三维深度图像)。
本实施例中,如图7所示,步骤S30的具体过程包括:
步骤S310,对图像进行分割,提取该图像中的连通域,计算连通域的属性值,将连通域的属性值与预设的标记区域属性值进行对比,该标记区域为符合该预设的标记区域属性值的连通域。
具体的,当三维深度图像中两个相邻的像素深度相差小于预先设定的阈值时,例如5厘米,则认为两个像素连通,对整个图像进行连通域检测,可得到包含标记连通域的一系列连通域。
本实施例中,连通域的属性值包括连通域的尺寸和形状。具体的,计算连通域的尺寸/形状,与交互设备上的标记的尺寸/形状进行对比,得到符合标记的尺寸/形状的连通域即为标记区域的连通域(标记区域)。以矩形标记为例,即交互设备上的标记在采集的图像中为矩形,预先设定好标记的长度和宽度,计算连通域对应的物理区域的长度和宽度,该长度和宽度与标记的长度和宽度越接近,则连通域与标记区域越相似。
进一步的,计算连通域对应的物理区域的长度和宽度的过程如下:计算连通域像素的三维坐标的协方差矩阵,采用如下公式计算连通域对应的物理区域的长度和宽度:
Figure BDA0000133957410000071
其中,k为预先设定的系数,例如设为4,当λ为协方差矩阵最大特征值时,则l为连通域的长度,当λ为协方差矩阵第二大的特征值时,则l为连通域的宽度。
进一步的,还可预先设定矩形标记的长宽比,例如长宽比为2,则连通域对应的物理区域的长宽比越接近于预设设定的矩形标记的长宽比,则连通域与标记区域越相似,具体的,采用如下公式计算连通域对应的物理区域的长宽比:
Figure BDA0000133957410000072
其中,r为连通域的长宽比,λ0为协方差矩阵的最大特征值,λ1为协方差矩阵的第二大特征值。
步骤S320,获取标记区域中的像素坐标,根据该像素坐标产生标记区域的姿态。
具体的,本实施例中,标记区域的姿态为姿态向量。如图8所示,构建三维图像坐标系,该坐标系为右手坐标系。在该坐标系中,设空间向量OP,P在平面XOY的投影为p,则用极坐标表示向量OP的姿态向量为[α,θ]T,α为角XOp,即X轴到Op角,取值范围为0到360度,θ为角pOP,即OP与XOY平面的夹角,取值范围为-90度到90度。设该坐标系中的空间射线上的两点为A(x1,y1,z1)和B(x2,y2,z2),则这两点的姿态向量[α,θ]T可用如下公式唯一确定:
cos ( α ) = x 2 - x 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2
(1)
sin ( α ) = y 2 - y 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2
θ = arctan ( z 2 - z 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2 ) - - - ( 2 )
本实施例中,提取标记区域后,计算得到标记区域中的像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,并将该特征向量转换为姿态向量。具体的,设得到的姿态向量为[dirx,diry,dirz]T,其中,dirx表示两点在x轴方向上的距离,diry表示两点在y轴方向上的距离,dirz表示两点在z轴方向上的距离。可认为该姿态向量描述的射线上有两个点,即(0,0,0)和(dirx,diry,dirz),即射线从原点触发,指向(dirx,diry,dirz),则姿态角需满足上述公式(1)和(2),令上述公式(1)和(2)中的x1=0,y1=0,z1=0,x2=dirx,y2=diry,z2=dirz,即可得到姿态向量[α,θ]T
在一个实施例中,标记区域为一个连续区域,则根据像素坐标产生标记区域的姿态的过程为:计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态。如上所述,该标记区域的姿态为一个姿态向量。
在另一个实施例中,标记区域包括第一连续区域和第二连续区域,则根据所述像素坐标产生标记区域的姿态的具体过程为:根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标计算标记区域的姿态。如图8所示,本实施例中,标记区域中的像素坐标为三维坐标,具体的,可根据计算得到的两个连续区域的重心的像素坐标产生标记区域的姿态,该姿态为一个姿态向量。
在一个实施例中,在识别标记区域的姿态的步骤之前还可包括:判断采集的图像为二维图像还是三维图像的步骤。具体的,若采集的图像为二维图像,则执行上述步骤S302至步骤S304,若采集的图像为三维图像,则执行上述步骤S310至S320。
如图9所示,在一个实施例中,上述步骤S40的具体过程包括:
步骤S402,获取当前帧图像中的该标记区域的姿态。
如上所述,步骤S402中获取的姿态可以是当前帧的二维图像中的标记区域的姿态(即姿态角),也可以是当前帧的三维深图像中的标记区域的姿态(即姿态向量)。本实施例中,预先设定了姿态与控制指令之间的映射关系。该姿态也可称为绝对姿态。
步骤S404,根据预设的姿态与控制指令之间的映射关系生成与该姿态对应的控制指令。
例如,控制指令为鼠标左键指令和右键指令。以二维图像为例,姿态角的取值范围为-180度到180度。可预先设定当前帧图像中的姿态角在(a,b)的范围内,则触发左键指令,当前帧图像中的姿态角在(c,d)的范围内,则触发右键指令。其中,a、b、c、d都为预先设定的角度,满足a<b,c<d,且集合[a,b]和集合[c,d]的交集为空。
另外,在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取控制指令,也可以使用两个姿态角来获取控制指令。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置若两个姿态角均在预先设定的指令触发范围内时,才触发控制指令。
在一个实施例中,如图10所示,步骤S404包括:
步骤S414,根据预设的姿态与控制指令类型之间的映射关系获取姿态对应的控制指令类型,控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令。
具体的,可预先设定当姿态角在(a,b)范围内时,对应关闭窗口类指令,当姿态角在(c,d)范围内时,对应打开窗口类指令,当姿态角在(e,f)范围内时,对应保存窗口类指令,其中,a、b、c、d、e、f都为预先设定的角度,满足a<b,c<d,e<f,且集合[a,b]、集合[c,d]和集合[e,f]中两两交集均为空。关闭窗口类指令指的是关闭word等文档、网页窗口之类的指令,打开窗口类指令指的是打开word等文档、网页之类的指令,保存窗口类指的是保存文档窗口、网页之类的指令。
步骤S424,根据姿态对应的控制指令类型生成对应的控制指令。
具体的,如控制指令类型为关闭窗口类指令,姿态对应关闭网页窗口的指令,则生成关闭网页窗口的指令。
在一个实施例中,如图11所示,步骤S404包括:
步骤S434,根据预设的姿态与光标移动方向之间的映射关系获取姿态对应的光标移动方向。
具体的,可预先设定当姿态角在(g,h)范围内时,对应光标上移指令,当姿态角在(i,j)范围内时,对应光标下移指令,其中,g、h、i、j都为预先设定的角度,满足g<h,i<j,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]中两两交集均为空。此外,还可预先设定姿态角在某角度范围内对应光标左移指令和光标右移指令。
步骤S444,根据预设的姿态与光标移动速度之间的映射关系获取姿态对应的光标移动速度。
具体的,可预先设定光标移动速度与姿态角之间的映射关系。以二维图像为例,设姿态角的取值范围为20度至40度,光标移动速度与姿态角之间的映射关系为y=2x,其中,y为光标移动速度,x为姿态角。例如,当姿态角x为20度时,滚动条移动速度y为40厘米/每秒。
步骤S454,根据光标移动方向及移动速度生成相应的控制指令。
具体的,光标移动方向为向上移动,移动速度为40厘米每秒,则控制窗口的光标向上以40厘米/每秒速度移动。
在一个实施例中,如图12所示,步骤S404包括:
步骤S464,根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,控制指令类型包括扩大窗口类指令和缩小窗口类指令。
具体的,可预先设定当姿态角在(k,l)范围内时,对应扩大窗口类指令,当姿态角在(m,n)范围内时,对应缩小窗口类指令,其中,k、l、m、n都为预先设定的角度,满足k<l,m<n,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]中两两交集均为空。
步骤S474,根据预设的姿态与窗口缩放倍率之间的映射关系获取姿态对应的窗口缩放倍率。
具体的,可预先设定窗口缩放倍率与姿态角的映射关系。以二维图像为例,设姿态角的取值范围为-30度到30度,在一个实施例中,可预先设定窗口缩放倍率与姿态角的映射关系为:y=|x|/30*100%,其中,y为窗口缩放倍率,x为姿态角。例如,当姿态角为-3度时,图片缩放倍率为10%,当姿态角为6度时,窗口缩放倍率为20%。另外,在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取缩放倍率,也可以使用两个姿态角来获取缩放倍率。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置缩放倍率为两个姿态角的二元函数。
步骤S484,根据控制指令类型及窗口缩放倍率生成相应的控制指令。
具体的,姿态角范围对应扩大窗口类或缩小窗口类指令,具体的姿态角的值对应窗口缩放倍率。控制指令类型与窗口缩放倍率构成控制指令。例如,控制指令类型为扩大窗口类指令,缩放倍率为10%,则生成“扩大10%”的指令,等等。
在一个实施例中,窗口为网页窗口时,如图13所示,步骤S404包括:
步骤S4041,根据预设的姿态与控制指令类型之间的映射关系获取控制指令类型,控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令。
具体的,可预先设定当姿态角在(p,q)范围内时,对应刷新网页窗口类指令,当姿态角在(s,t)范围内时,对应网页窗口翻页类指令,其中,p、q、s、t都为预先设定的角度,满足p<q,s<t,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]、集合[p,q]、集合[s,t]中两两交集均为空。
步骤S4043,根据控制指令类型生成相应的控制指令。
具体的,如控制指令类型为刷新网页窗口类,则生成刷新网页窗口的指令。
如图14所示,在另一个实施例中,采集的包含标记区域的图像为图像序列,上述步骤S40的具体过程包括:
步骤S410,获取当前帧图像中的该标记区域的姿态与上一帧图像中的该标记区域的姿态之间的相对姿态。
本实施例中,可实时采集由多个包含标记区域的图像组成的图像序列。如上所述,步骤S410中获取的姿态可以是当前帧图像和上一帧图像中的标记区域的姿态角,也可以是当前帧图像和上一帧图像中的标记区域的姿态向量。当前帧图像中的姿态与上一帧图像中的姿态之间的相对姿态为两者的差值。
步骤S420,根据预设的相对姿态与控制指令之间的映射关系生成与该相对姿态对应的控制指令。
例如,以二维图像为例,相对姿态为相对姿态角,可预先设定当前帧图像的姿态角比上一帧的姿态角增加大于30度,即相对姿态角大于30度时,则触发鼠标的滚轮逆时针滚动的指令,当前帧图像的姿态角比上一帧的姿态角减少大于40度时,即相对姿态角小于-40度时,则触发鼠标的滚轮顺时针滚动的指令。三维图像的原理与其类似,在此则不再赘述。
在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取控制指令,也可以使用两个姿态角来获取控制指令。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置若两个姿态角变化均满足预设条件时,例如第一个姿态角变化大于预先设定的第一阈值,第二个姿态角变化大于预先设定的第二阈值,则触发控制指令。
在一个实施例中,如图15所示,步骤S420包括:
步骤S421,根据预设的相对姿态与控制指令类型之间的映射关系获取相对姿态对应的控制指令类型,控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令。
具体的,可预先设定当相对姿态角在(a,b)范围内时,对应关闭窗口类指令,当相对姿态角在(c,d)范围内时,对应打开窗口类指令,当相对姿态角在(e,f)范围内时,对应保存窗口类指令,其中,a、b、c、d、e、f都为预先设定的角度,满足a<b,c<d,e<f,且集合[a,b]、集合[c,d]和集合[e,f]中两两交集均为空。关闭窗口类指令指的是关闭word等文档、网页窗口之类的指令,打开窗口类指令指的是打开word等文档、网页之类的指令,保存窗口类指的是保存文档窗口、网页之类的指令。
步骤S422,根据相对姿态对应的控制指令类型生成对应的控制指令。
具体的,如控制指令类型为关闭窗口类指令,则生成关闭窗口类指令的指令。
在一个实施例中,如图16所示,步骤S420包括:
步骤S423,根据预设的相对姿态与光标移动方向之间的映射关系获取姿态对应的光标移动方向。
具体的,可预先设定当相对姿态角在(g,h)范围内时,对应光标上移指令,当相对姿态角在(i,j)范围内时,对应光标下移指令,其中,g、h、i、j都为预先设定的角度,满足g<h,i<j,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]中两两交集均为空。此外,还可预先设定姿态角在某角度范围内对应光标左移指令和光标右移指令。
步骤S425,根据预设的相对姿态与光标移动速度之间的映射关系获取对应的移动速度。
具体的,可预先设定光标移动速度与相对姿态角之间的映射关系。以二维图像为例,设相对姿态角的取值范围为20度至40度,光标移动速度与相对姿态角之间的映射关系为y=2x,其中,y为光标移动速度,x为相对姿态角。例如,当相对姿态角x为20度时,光标移动速度y为40微米/每秒。
步骤S427,根据光标移动方向及移动速度生成相应的控制光标移动的指令。
具体的,光标移动方向为向上移动,移动速度为40厘米/每秒,则控制窗口的光标向上以40厘米/每秒速度移动。
在一个实施例中,如图17所示,步骤S420包括:
步骤S426,根据预设的相对姿态与控制指令之间的映射关系获取相对姿态对应的控制指令类型,控制指令类型包括扩大窗口类指令和缩小窗口类指令。
具体的,可预先设定当相对姿态角在(k,l)范围内时,对应扩大窗口类指令,当相对姿态角在(m,n)范围内时,对应缩小窗口类指令,其中,k、l、m、n都为预先设定的角度,满足k<l,m<n,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]中两两交集均为空。
步骤S428,根据预设的相对姿态与窗口缩放倍率之间的映射关系获取相对姿态对应的窗口缩放倍率。
具体的,可预先设定窗口缩放倍率与相对姿态角的映射关系。以二维图像为例,设相对姿态角的取值范围为-30度到30度,在一个实施例中,可预先设定窗口缩放倍率与相对姿态角的映射关系为:y=|x|/30*100%,其中,y为窗口缩放倍率,x为相对姿态角。例如,当相对姿态角为-3度时,图片缩放倍率为10%,当相对姿态角为6度时,窗口缩放倍率为20%。另外,在三维图像中,所识别出的姿态包含两个相对姿态角,可以使用其中的一个相对姿态角来获取缩放倍率,也可以使用两个相对姿态角来获取缩放倍率。使用其中一个相对姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个相对姿态角时,可设置缩放倍率为两个相对姿态角的二元函数。
步骤S429,根据控制指令类型及窗口缩放倍率生成相应的控制指令。
具体的,相对姿态角范围对应扩大窗口类或缩小窗口类指令,具体的相对姿态角的值对应窗口缩放倍率。控制指令类型与窗口缩放倍率构成控制指令。例如,控制指令类型为扩大窗口类指令,缩放倍率为10%,则生成“扩大10%”的指令,等等。
在一个实施例中,窗口为网页窗口时,如图18所示,步骤S420包括:
步骤S4201,根据预设的相对姿态与控制指令类型之间的映射关系获取控制指令类型,控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令。
具体的,可预先设定当相对姿态角在(p,q)范围内时,对应刷新网页窗口类指令,当相对姿态角在(s,t)范围内时,对应网页窗口翻页类指令,其中,p、q、s、t都为预先设定的角度,满足p<q,s<t,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]、集合[p,q]、集合[s,t]中两两交集均为空。
步骤S4203,根据控制指令类型生成相应的控制指令。
具体的,如控制指令类型为刷新网页窗口类,则生成刷新网页窗口的指令。
在一个实施例中,如图19所示,一种控制窗口的系统,包括交互设备和姿态识别器。姿态识别器包括图像采集模块10、姿态识别模块20、指令生成模块30和指令执行模块40,其中:
交互设备用于通过标记区域产生姿态。
本实施例中,标记区域是采集的图像中的一个区域,该区域可由交互设备形成。具体的,在一个实施例中,交互设备可以是手持装置,可将手持装置的一部分或全部设定为指定的颜色或形状,采集手持装置的图像,图像中的手持装置中的该指定颜色或形状的部分形成标记区域。另外,交互设备还可以是带标记的手持装置,即在手持装置上附带指定颜色或形状的标记(如反光材料),采集手持装置的图像,图像中的手持装置上所附带的指定颜色或形状的标记形成标记区域。
在另一个实施例中,交互设备还可以是人体部位(例如人脸、手掌、手臂等),采集人体部位的图像,图像中的人体部位形成标记区域。另外,交互设备还可以是带标记的人体部位,即在人体部位上附带指定颜色或形状的标记(如反光材料),采集人体部位的图像时,图像中的该指定颜色或形状的标记形成标记区域。
图像采集模块10用于采集包含标记区域的图像。
具体的,图像采集模块10可通过摄像机采集包含标记区域的二维可见光图像或三维图像。
姿态识别模块20用于识别标记区域的姿态。
具体的,对采集到的图像进行处理,提取图像中的标记区域,然后根据标记区域中的像素在构建的图像坐标系中的像素坐标获取标记区域的姿态。所谓姿态,是指标记区域在图像中所形成的姿势状态。进一步的,在二维图像中,姿态为二维图像中的标记区域与预设位置之间的角度,即姿态角;在三维图像中,姿态为二维图像中的标记区域与预设位置之间的多个姿态角所组成的矢量,即姿态向量。本发明中说的“标记区域产生的姿态”,“标记区域的姿态”都是指所述姿态,也就是不同实施例的姿态角与姿态向量。
指令生成模块30用于生成姿态对应的控制指令。
本实施例中,预先设定标记区域的姿态与控制指令之间的映射关系,并将该映射关系存储在数据库(图中未示出)中。在识别出标记区域的姿态后,指令生成模块30可用于根据姿态识别模块20识别出的姿态从数据库中查找与姿态对应的控制指令。具体的,如人体的头部逆时针移动,对应的控制指令为将网页向上移动,人体的头部顺时针移动,对应的控制指令为将网页向下移动。
指令执行模块40用于根据该控制指令控制窗口。
本实施例中,根据姿态生成不同的控制指令,控制窗口。具体的,控制窗口的控制指令可包括光标以相应的速度移动、扩大为原来窗口的20%、缩小为原来窗口的30%、等。窗口可为Word、Excel、记事本窗口、网页窗口等。进一步的,窗口为网页窗口时,控制窗口的控制指令还包括刷新网页窗口、网页窗口翻页等。
因指令生成模块30可生成与识别出的姿态相对应的控制指令,只要交互设备产生姿态,指令生成模块30生成对应的控制指令,指令执行模块40执行该控制指令,就能控制窗口,不需要通过操作鼠标或触摸屏等设备,可通过人体的部位等也能实现对窗口的控制,且操作方便。
如图20所示,在一个实施例中,图像采集模块10采集到的图像为二维图像,姿态识别模块20包括第一图像处理模块202和第一姿态产生模块204,其中:
第一图像处理模块202用于提取图像中与预设颜色模型匹配的像素,对获取的像素进行连通域检测,提取检测得到的连通域中的标记区域。
具体的,图像采集模块10可为摄像机,其采集得到的图像可为二维可见光图像。优选的,还可在摄像机的镜头前加入红外滤光片,用于滤去除红外波段的其他波段光线,则图像采集模块10采集的图像为二维红外图像。由于可见光图像中,场景中的物体会对标记区域的识别形成干扰,而红外图像因滤除掉了可见光信息,干扰较少,因此二维红外图像更有利于提取标记区域。
具体的,第一图像处理模块202用于预先建立颜色模型。例如标记区域的色彩为红色,则预先建立红色模型,该模型中像素的RGB值分量可在200到255之间,G、B分量可接近于零;第一图像处理模块202则用于获取帧图像中满足该红色模型的RGB值的像素即为红色像素。另外,当采集的图像中由人体部位形成标记区域时,第一图像处理模块202则用于获取图像中与预设肤色模型匹配的像素。第一图像处理模块202还用于对获取的像素进行连通域检测,得到多个连通域,连通域是若个连续的像素组成的集合。
本实施例中,由于标记区域的大小和形状应大致是固定不变的,第一图像处理模块202在对获取的像素进行连通域检测时,可计算得到获取的像素中的所有连通域的周长和/或面积。具体的,连通域的周长可为连通域边界像素的个数,连通域的面积可为连通域中的全部像素的个数。进一步的,第一图像处理模块202可用于将获取的连通域的周长和/或面积与预设标记区域的周长和/或面积进行对比,获取满足预设标记区域的周长和/或面积的连通域即为标记区域。优选的,第一图像处理模块202还可用于将周长的平方与面积的比值作为判断准则,连通域的该比值满足预设标记区域的该比值,则该连通域为标记区域。
第一姿态产生模块204用于获取标记区域中的像素坐标,根据该像素坐标产生标记区域的姿态。
本实施例中,标记区域产生的姿态为姿态角。在一个实施例中,标记区域为一个连续区域,则第一姿态产生模块204用于计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态,该标记区域的姿态为一个姿态角。
在另一个实施例中,标记区域包括第一连续区域和第二连续区域,则第一姿态产生模块204用于根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标计算标记区域的姿态。具体的,计算连续区域中的全部像素坐标的平均值,所得到的像素坐标即为连续区域的重心。
在另一个实施例中,图像采集模块10采集到的图像为三维图像。具体的,图像采集模块10可采用传统的立体视觉系统(由两台控制位置已知的摄像机及相关软件组成)、结构光系统(右一台摄像机、一台光源以及相关软件组成)或TOF(time of flight,飞行时间)深度相机实现采集三维图像(即三维深度图像)。
本实施例中,如图21所示,姿态识别模块20包括第二图像处理模块210和第二姿态产生模块220,其中:
第二图像处理模块210用于对所述图像进行分割,提取图像中的连通域,并计算连通域的属性值,将连通域的属性值与预设的标记区域属性值进行对比,所述标记区域为符合所述预设的标记区域属性值的连通域。
具体的,第二图像处理模块210用于当三维图像中两个相邻的像素深度相差小于预先设定的阈值时,例如5厘米,则认为两个像素连通,对整个图像进行连通域检测,可得到包含标记连通域的一系列连通域。
本实施例中,连通域的属性值包括连通域的尺寸和形状。具体的,第二图像处理模块210用于计算连通域的尺寸/形状,与交互设备上的标记的尺寸/形状进行对比,得到符合标记的尺寸/形状的连通域即为标记区域的连通域(标记区域)。以矩形标记为例,即交互设备上的标记在采集的图像中为矩形,预先设定好标记的长度和宽度,第二图像处理模块210则用于计算连通域对应的物理区域的长度和宽度,该长度和宽度与标记的长度和宽度越接近,则连通域与标记区域越相似。
进一步的,第二图像处理模块210用于计算连通域对应的物理区域的长度和宽度的过程如下:计算连通域像素的三维坐标的协方差矩阵,采用如下公式计算连通域对应的物理区域的长度和宽度:
Figure BDA0000133957410000181
其中,k为预先设定的系数,例如设为4,当λ为协方差矩阵最大特征值时,则l为连通域的长度,当λ为协方差矩阵第二大的特征值时,则l为连通域的宽度。
进一步的,第二图像处理模块210还可用于预先设定矩形标记的长宽比,例如长宽比为2,则连通域对应的物理区域的长宽比越接近于预设设定的矩形标记的长宽比,则连通域与标记区域越相似,具体的,属性匹配模块234用于采用如下公式计算连通域对应的物理区域的长宽比:
Figure BDA0000133957410000182
其中,r为连通域的长宽比,λ0为协方差矩阵的最大特征值,λ1为协方差矩阵的第二大特征值。
第二姿态产生模块220用于获取标记区域中的像素坐标,根据所述像素坐标产生标记区域的姿态。
本实施例中,标记区域的姿态为姿态向量。在一个实施例中,标记区域为一个连续区域,则第二姿态产生模块220用于计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态。如上所述,该标记区域的姿态为一个姿态向量。
在另一个实施例中,标记区域包括第一连续区域和第二连续区域,则第二姿态产生模块220用于根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标产生标记区域的姿态。本实施例中,标记区域中的像素坐标为三维坐标,具体的,可根据计算得到的两个连续区域的重心的像素坐标产生标记区域的姿态,该姿态为一个姿态向量。
在一个实施例中,姿态识别模块20还包括判断模块(图中未示出),用于判断采集的图像为二维图像还是三维图像。具体的,本实施例中,当判断模块判断到采集的图像为二维图像时,则通知第一图像处理模块202提取二维图像中的标记区域,进而通过第一姿态产生模块204产生该标记区域的姿态。当判断模块判断到采集的图像为二维图像时,则通知第二图像处理模块210提取三维图像中的标记区域,进而通过第二姿态产生模块220产生该标记区域的姿态。可以理解的,本实施例中,姿态识别模块20同时包括判断模块(图中未示出)、第一图像处理模块202、第一姿态产生模块204、第二图像处理模块210和第二姿态产生模块220。本实施例,既可通过二维图像识别标记区域的姿态,又可通过二维图像识别标记区域的姿态。
如图22所示,在一个实施例中,指令生成模块30包括第一姿态获取模块302和第一指令查找模块304,其中:
第一姿态获取模块302用于从姿态识别模块20中获取当前帧图像中的所述标记区域的姿态。
具体的,该姿态可以是当前帧的二维图像中的标记区域的姿态角,也可以是当前帧的三维深度图像中的标记区域的姿态向量。本实施例中,预先设定了姿态与控制指令之间的映射关系。该姿态也可称为绝对姿态。
第一指令查找模块304用于根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令。
本实施例中,所采集的包含标记区域的图像可以是图像序列。第一姿态获取模块302还用于从姿态识别模块20中获取当前帧图像中的标记区域的姿态与上一帧图像中的标记区域的姿态之间的相对姿态。第一指令查找模块304还用于根据预设的相对姿态与控制指令之间的映射关系生成与相对姿态对应的控制指令。
在一个实施例中,如图23所示,第一指令查找模块304包括第一控制指令类型获取模块314和第一指令生成单元324。其中:
第一控制指令类型获取模块314,用于根据预设的姿态与控制指令之间的映射关系获取姿态对应的控制指令类型,控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令。
具体的,可预先设定当姿态角在(a,b)范围内时,对应关闭窗口类指令,当姿态角在(c,d)范围内时,对应打开窗口类指令,当姿态角在(e,f)范围内时,对应保存窗口类指令,其中,a、b、c、d、e、f都为预先设定的角度,满足a<b,c<d,e<f,且集合[a,b]、集合[c,d]和集合[e,f]中两两交集均为空。关闭窗口类指令指的是关闭word等文档、网页窗口之类的指令,打开窗口类指令指的是打开word等文档、网页之类的指令,保存窗口类指的是保存文档窗口、网页之类的指令。
第一指令生成模块324,用于根据姿态对应的控制指令类型生成对应的控制指令。
具体的,如控制指令类型为关闭窗口类指令,则生成关闭窗口的指令。
在一个实施例中,如图24所示,第一指令查找模块304包括第一控制指令类型获取单元314、第一移动速度获取单元334和第一指令生成单元324。其中:
第一控制指令类型获取单元314,用于根据预设的姿态与控制指令之间的映射关系获取姿态对应的光标移动方向。
具体的,可预先设定当姿态角在(g,h)范围内时,对应光标上移指令,当姿态角在(i,j)范围内时,对应光标下移指令,其中,g、h、i、j都为预先设定的角度,满足g<h,i<j,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]中两两交集均为空。此外,还可预先设定姿态角在某角度范围内对应光标左移指令和光标右移指令。
第一移动速度获取单元334,用于根据预设的姿态与光标移动速度之间的映射关系获取对应的光标移动速度。
具体的,可预先设定光标移动速度与姿态角之间的映射关系。以二维图像为例,设姿态角的取值范围为20度至40度,光标移动速度与姿态角之间的映射关系为y=2x,其中,y为光标移动速度,x为相对姿态角。例如,当姿态角x为20度时,光标移动速度y为40厘米/每秒。
第一指令生成单元324,用于根据光标移动方向及移动速度生成相应的控制指令。
具体的,光标移动方向为向上移动,移动速度为40厘米/每秒,则控制窗口的光标向上以40厘米/每秒速度移动。
在一个实施例中,如图25所示,第一指令查找模块304包括第一控制指令类型获取单元314、第一窗口缩放倍率获取单元344和第一指令生成单元324。其中:
第一控制指令类型获取单元314,用于根据预设的姿态与控制指令之间的映射关系获取姿态对应的控制指令类型,控制指令类型包括扩大窗口类指令和缩小窗口类指令。
具体的,可预先设定当姿态角在(k,l)范围内时,对应扩大窗口类指令,当姿态角在(m,n)范围内时,对应缩小窗口类指令,其中,k、l、m、n都为预先设定的角度,满足k<l,m<n,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]中两两交集均为空。
第一窗口缩放倍率获取单元344,用于根据预设的姿态与窗口缩放倍率之间的映射关系获取相对姿态对应的窗口缩放倍率。
具体的,可预先设定窗口缩放倍率与姿态角的映射关系。以二维图像为例,设姿态角的取值范围为-30度到30度,在一个实施例中,可预先设定窗口缩放倍率与姿态角的映射关系为:y=|x|/30*100%,其中,y为窗口缩放倍率,x为姿态角。例如,当相对姿态角为-3度时,图片缩放倍率为10%,当姿态角为6度时,窗口缩放倍率为20%。另外,在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取缩放倍率,也可以使用两个姿态角来获取缩放倍率。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置缩放倍率为两个相对姿态角的二元函数。
第一指令生成单元324,用于根据控制指令类型及窗口缩放倍率生成相应的控制指令。
具体的,姿态角范围对应扩大窗口类或缩小窗口类指令,具体的姿态角的值对应窗口缩放倍率。控制指令类型与窗口缩放倍率构成控制指令。例如,控制指令类型为扩大窗口类指令,缩放倍率为10%,则生成“扩大10%”的指令,等等。
在一个实施例中,窗口为网页窗口时,第一控制指令类型获取单元314还用于根据预设的姿态与控制指令之间的映射关系获取控制指令类型,控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令。
具体的,可预先设定当姿态角在(p,q)范围内时,对应刷新网页窗口类指令,当姿态角在(s,t)范围内时,对应网页窗口翻页类指令,其中,p、q、s、t都为预先设定的角度,满足p<q,s<t,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]、集合[p,q]、集合[s,t]中两两交集均为空。
第一指令生成单元324还用于根据控制指令类型生成相应的控制指令。
具体的,如控制指令类型为刷新网页窗口类指令,则生成刷新网页窗口的指令。
在另一个实施例中,所采集的包含标记区域的图像可以是图像序列。如图26所示,指令生成模块30包括第二姿态获取模块310和第二指令查找模块320,其中:
第二姿态获取模块310用于从姿态识别模块20中获取当前帧图像中的标记区域的姿态与上一帧图像中的标记区域的姿态之间的相对姿态。
第二指令查找模块320用于根据预设的相对姿态与控制指令之间的映射关系生成与相对姿态对应的控制指令。
在一个实施例中,如图27所示,第二指令查找模块320包括第二控制指令类型获取模块321和第二指令生成单元323。其中:
第二控制指令类型获取模块321,用于根据预设的相对姿态与控制指令之间的映射关系获取相对姿态对应的控制指令类型,控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令。
具体的,可预先设定当相对姿态角在(a,b)范围内时,对应关闭窗口类指令,当相对姿态角在(c,d)范围内时,对应打开窗口类指令,当相对姿态角在(e,f)范围内时,对应保存窗口类指令,其中,a、b、c、d、e、f都为预先设定的角度,满足a<b,c<d,e<f,且集合[a,b]、集合[c,d]和集合[e,f]中两两交集均为空。
第二指令生成模块323,用于根据相对姿态对应的控制指令类型生成对应的控制指令。
具体的,如控制指令类型为关闭窗口类指令,则生成关闭窗口类指令的指令。
在一个实施例中,如图28所示,第二指令查找模块320包括第二控制指令类型获取单元321、第二移动速度获取单元325和第二指令生成单元323。其中:
第二控制指令类型获取单元321,用于根据预设的相对姿态与控制指令之间的映射关系获取到光标移动方向的控制指令。
具体的,可预先设定当相对姿态角在(g,h)范围内时,对应光标上移指令,当相对姿态角在(i,j)范围内时,对应光标下移指令,其中,g、h、i、j都为预先设定的角度,满足g<h,i<j,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]中两两交集均为空。
第二移动速度获取单元325,用于根据预设的相对姿态与光标移动速度之间的映射关系获取对应的移动速度。
具体的,可预先设定光标移动速度与相对姿态角之间的映射关系。以二维图像为例,设相对姿态角的取值范围为20度至40度,光标移动速度与相对姿态角之间的映射关系为y=2x,其中,y为光标移动速度,x为相对姿态角。例如,当相对姿态角x为20度时,光标移动速度y为40厘米/每秒。
第二指令生成单元323,用于根据光标移动方向及移动速度生成相应的控制光标移动的指令。
具体的,光标移动方向为向上移动,移动速度为40厘米/每秒,则控制窗口的光标向上以40厘米/每秒速度移动。
在一个实施例中,如图29所示,第二指令查找模块320包括第二控制指令类型获取单元321、第二窗口缩放倍率获取单元327和第二指令生成单元323。其中:
第二控制指令类型获取单元321,用于根据预设的相对姿态与控制指令之间的映射关系获取相对姿态对应的控制指令类型,控制指令类型包括扩大窗口类指令和缩小窗口类指令。
具体的,可预先设定当相对姿态角在(k,l)范围内时,对应扩大窗口类指令,当相对姿态角在(m,n)范围内时,对应缩小窗口类指令,其中,k、l、m、n都为预先设定的角度,满足k<l,m<n,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]中两两交集均为空。
第二窗口缩放倍率获取单元327,用于根据预设的相对姿态与窗口缩放倍率之间的映射关系获取相对姿态对应的窗口缩放倍率。
具体的,可预先设定窗口缩放倍率与相对姿态角的映射关系。以二维图像为例,设相对姿态角的取值范围为-30度到30度,在一个实施例中,可预先设定窗口缩放倍率与相对姿态角的映射关系为:y=|x|/30*100%,其中,y为窗口缩放倍率,x为相对姿态角。例如,当相对姿态角为-3度时,图片缩放倍率为10%,当相对姿态角为6度时,窗口缩放倍率为20%。另外,在三维图像中,所识别出的姿态包含两个相对姿态角,可以使用其中的一个相对姿态角来获取缩放倍率,也可以使用两个相对姿态角来获取缩放倍率。使用其中一个相对姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个相对姿态角时,可设置缩放倍率为两个相对姿态角的二元函数。
第二指令生成单元323,用于根据控制指令类型及窗口缩放倍率生成相应的控制指令。
具体的,姿态角范围对应扩大窗口类或缩小窗口类指令,具体的姿态角的值对应窗口缩放倍率。控制指令类型与窗口缩放倍率构成控制指令。例如,控制指令类型为扩大窗口类指令,缩放倍率为10%,则生成“扩大10%”的指令,等等。
在一个实施例中,窗口为网页窗口时,第二控制指令类型获取单元321还用于根据预设的相对姿态与控制指令之间的映射关系获取控制指令类型,控制指令类型包括刷新网页窗口和网页窗口翻页。
具体的,可预先设定当相对姿态角在(p,q)范围内时,对应刷新网页窗口的指令,当相对姿态角在(s,t)范围内时,对应网页窗口翻页的指令,其中,p、q、s、t都为预先设定的角度,满足p<q,s<t,且集合[a,b]、集合[c,d]、集合[e,f]、集合[g,h]、集合[i,j]、集合[k,l]、集合[m,n]、集合[p,q]、集合[s,t]中两两交集均为空。
第二指令生成单元323还用于根据控制指令类型生成相应的控制指令。
具体的,如控制指令类型为刷新网页窗口,则生成刷新网页窗口的指令。
上述控制窗口的方法和系统,通过识别标记区域的姿态,根据预设的姿态与控制指令之间的映射关系生成与标记区域的姿态对应的控制指令,从而可实现根据标记区域的不同姿态来生成不同的控制指令,根据生成的不同的控制指令控制窗口,而不需要通过操作鼠标或触控触摸屏等设备,可通过人体部位等交互设备实现对窗口的控制,操作方便。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (14)

1.一种控制窗口的方法,包括以下步骤:
通过包含标记区域的交互设备产生姿态;
采集包含所述标记区域的图像;
识别标记区域的姿态;
生成所述姿态对应的控制指令;
根据所述控制指令控制窗口。
2.根据权利要求1中所述的控制窗口的方法,其特征在于,所述生成所述姿态对应的控制指令的步骤包括:
获取当前帧图像中的所述标记区域的姿态;
根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令。
3.根据权利要求2所述的控制窗口的方法,其特征在于,所述根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令的步骤包括:
根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令;
根据所述姿态对应的控制指令类型生成相应的控制指令;
或者所述根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令的步骤包括:
根据预设的姿态与光标移动方向之间的映射关系获取所述姿态对应的光标移动方向;
根据所述预设的姿态与光标移动速度之间的映射关系获取所述姿态对应的光标移动速度;
根据所述光标移动方向及移动速度生成相应的控制指令;
或者所述根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令的步骤包括:
根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述控制指令类型包括扩大窗口类指令和缩小窗口类指令;
根据预设的姿态与窗口缩放倍率之间的映射关系获取所述姿态对应的窗口缩放倍率;
根据所述控制指令类型及窗口缩放倍率生成相应的控制指令。
4.根据权利要求2所述的控制窗口的方法,其特征在于,所述窗口为网页窗口时,所述根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令的步骤包括:
根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令;
根据所述控制指令类型生成相应的控制指令。
5.根据权利要求1所述的控制窗口的方法,其特征在于,所述采集的包含标记区域的图像为图像序列;
所述生成所述姿态对应的控制指令的步骤包括:
获取当前帧图像中的所述标记区域的姿态与前预设帧图像中的所述标记区域的姿态之间的相对姿态;
根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令。
6.根据权利要求5所述的控制窗口的方法,其特征在于,所述根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令的步骤包括:
根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令;
根据所述相对姿态对应的指令类型生成对应的控制指令;
或者所述根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令的步骤包括:
根据预设的相对姿态与光标移动方向之间的映射关系获取相对姿态对应的光标移动方向;
根据所述预设的相对姿态与光标移动速度之间的映射关系获取所述相对姿态对应的光标移动速度;
根据所述光标移动方向及移动速度生成相应的控制指令;
或者根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令的步骤包括:
根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括扩大窗口类指令和缩小窗口类指令;
根据预设的相对姿态与窗口缩放倍率之间的映射关系获取所述相对姿态对应的窗口缩放倍率;
根据所述控制指令类型及窗口缩放倍率生成相应的控制指令。
7.根据权利要求5所述的控制窗口的方法,其特征在于,所述窗口为网页窗口时,所述根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令的步骤包括:
根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令;
根据所述控制指令类型生成相应的控制指令。
8.一种控制窗口的系统,其特征在于,包括:
交互设备,用于通过标记区域产生姿态;
姿态识别器,所述姿态识别器包括:
图像采集模块,用于采集包含标记区域的图像;
姿态识别模块,用于识别标记区域的姿态;
指令生成模块,用于生成所述姿态对应的控制指令;
指令执行模块,用于根据所述控制指令控制窗口。
9.根据权利要求8所述的控制窗口的系统,其特征在于,所述指令生成模块包括:
第一姿态获取模块,用于获取当前帧图像中的所述标记区域的姿态;
第一指令查找模块,用于根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令。
10.根据权利要求9所述的控制窗口的系统,其特征在于,所述第一指令查找模块包括:
第一指令类型获取单元,用于根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令;
第一指令生成单元,用于根据所述姿态对应的控制指令类型生成相应的控制指令;
或者所述第一指令查找模块包括:
第一指令类型获取单元,用于根据预设的姿态与光标移动方向之间的映射关系获取所述姿态对应的光标移动方向;
第一移动速度获取单元,用于根据所述预设的姿态与光标移动速度之间的映射关系获取所述姿态对应的光标移动速度;
第一指令生成单元,用于根据所述光标移动方向及移动速度生成相应的控制指令;
或者所述第一指令查找模块包括:
第一指令类型获取单元,用于根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述控制指令类型包括扩大窗口类指令和缩小窗口类指令;
第一窗口缩放倍率获取单元,用于根据预设的姿态与窗口缩放倍率之间的映射关系获取所述姿态对应的窗口缩放倍率;
第一指令生成单元,用于根据所述控制指令类型及窗口缩放倍率生成相应的控制指令。
11.根据权利要求9所述的控制窗口的系统,其特征在于,所述窗口为网页窗口时,所述第一指令查找模块包括:
第一指令类型获取单元,用于根据预设的姿态与控制指令类型之间的映射关系获取所述姿态对应的控制指令类型,所述控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令;
第一指令生成单元,用于根据所述控制指令类型生成相应的控制指令。
12.根据权利要求8所述的控制窗口的系统,其特征在于,所述采集的包含标记区域的图像为图像序列;
所述指令生成模块包括:
第二姿态获取模块,用于获取当前帧图像中的所述标记区域的姿态与前预设帧图像中的所述标记区域的姿态之间的相对姿态;
第二指令查找模块,用于根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令。
13.根据权利要求12所述的控制窗口的系统,其特征在于,所述第二指令查找模块包括:
第二指令类型获取单元,用于根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括关闭窗口类指令、打开窗口类指令、保存窗口类指令;
第二指令生成单元,用于根据所述相对姿态对应的控制指令类型生成对应的控制指令;
或者所述第二查找模块包括:
第二指令类型获取单元,用于根据预设的相对姿态与光标移动方向之间的映射关系获取所述相对姿态对应的光标移动方向;
第二移动速度获取单元,用于根据所述预设的相对姿态与光标移动速度之间的映射关系获取所述姿态对应的光标移动速度;
第二指令生成单元,用于根据所述光标移动方向及移动速度生成相应的控制指令;
或者所述第二查找模块包括:
第二指令类型获取单元,用于根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括扩大窗口类指令和缩小窗口类指令;
第二窗口缩放倍率获取单元,用于根据预设的相对姿态与窗口缩放倍率之间的映射关系获取所述相对姿态对应的窗口缩放倍率;
第二指令生成单元,用于根据所述控制指令类型及窗口缩放倍率生成相应的控制指令。
14.根据权利要求12所述的控制窗口的系统,其特征在于,所述窗口为网页窗口时,所述第二指令查找模块包括:
第二指令类型获取单元,用于根据预设的相对姿态与控制指令类型之间的映射关系获取所述相对姿态对应的控制指令类型,所述控制指令类型包括刷新网页窗口类指令和网页窗口翻页类指令;
第二指令生成单元,用于根据所述控制指令类型生成相应的控制指令。
CN201210024483.XA 2011-12-02 2012-02-03 控制窗口的方法及系统 Active CN103135883B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210024483.XA CN103135883B (zh) 2011-12-02 2012-02-03 控制窗口的方法及系统

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN201110396235 2011-12-02
CN201110396235.3 2011-12-02
CN2011103962353 2011-12-02
CN201210024483.XA CN103135883B (zh) 2011-12-02 2012-02-03 控制窗口的方法及系统

Publications (2)

Publication Number Publication Date
CN103135883A true CN103135883A (zh) 2013-06-05
CN103135883B CN103135883B (zh) 2016-07-06

Family

ID=48488552

Family Applications (12)

Application Number Title Priority Date Filing Date
CN201110451741.8A Active CN103135755B (zh) 2011-12-02 2011-12-29 交互系统及方法
CN201110451724.4A Active CN103135754B (zh) 2011-12-02 2011-12-29 采用交互设备实现交互的方法
CN201110453879.1A Active CN103135756B (zh) 2011-12-02 2011-12-29 生成控制指令的方法和系统
CN201210011346.2A Active CN103135882B (zh) 2011-12-02 2012-01-13 控制窗口图片显示的方法和系统
CN201210011308.7A Active CN103135881B (zh) 2011-12-02 2012-01-13 显示控制方法及系统
CN201210023419XA Pending CN103139508A (zh) 2011-12-02 2012-02-02 控制电视画面显示的方法和系统
CN201210024483.XA Active CN103135883B (zh) 2011-12-02 2012-02-03 控制窗口的方法及系统
CN201210024389.4A Active CN103127717B (zh) 2011-12-02 2012-02-03 控制操作游戏的方法及系统
CN201210025300.6A Active CN103135453B (zh) 2011-12-02 2012-02-06 家用电器控制方法及系统
CN201210031595.8A Active CN103136986B (zh) 2011-12-02 2012-02-13 手语识别方法及系统
CN201210032932.5A Active CN103135758B (zh) 2011-12-02 2012-02-14 实现快捷功能的方法及系统
CN201210032934.4A Active CN103135759B (zh) 2011-12-02 2012-02-14 多媒体播放控制方法和系统

Family Applications Before (6)

Application Number Title Priority Date Filing Date
CN201110451741.8A Active CN103135755B (zh) 2011-12-02 2011-12-29 交互系统及方法
CN201110451724.4A Active CN103135754B (zh) 2011-12-02 2011-12-29 采用交互设备实现交互的方法
CN201110453879.1A Active CN103135756B (zh) 2011-12-02 2011-12-29 生成控制指令的方法和系统
CN201210011346.2A Active CN103135882B (zh) 2011-12-02 2012-01-13 控制窗口图片显示的方法和系统
CN201210011308.7A Active CN103135881B (zh) 2011-12-02 2012-01-13 显示控制方法及系统
CN201210023419XA Pending CN103139508A (zh) 2011-12-02 2012-02-02 控制电视画面显示的方法和系统

Family Applications After (5)

Application Number Title Priority Date Filing Date
CN201210024389.4A Active CN103127717B (zh) 2011-12-02 2012-02-03 控制操作游戏的方法及系统
CN201210025300.6A Active CN103135453B (zh) 2011-12-02 2012-02-06 家用电器控制方法及系统
CN201210031595.8A Active CN103136986B (zh) 2011-12-02 2012-02-13 手语识别方法及系统
CN201210032932.5A Active CN103135758B (zh) 2011-12-02 2012-02-14 实现快捷功能的方法及系统
CN201210032934.4A Active CN103135759B (zh) 2011-12-02 2012-02-14 多媒体播放控制方法和系统

Country Status (1)

Country Link
CN (12) CN103135755B (zh)

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104349197B (zh) * 2013-08-09 2019-07-26 联想(北京)有限公司 一种数据处理方法及装置
JP5411385B1 (ja) * 2013-08-12 2014-02-12 株式会社 ディー・エヌ・エー ゲームを提供するサーバ及び方法
CN104801042A (zh) * 2014-01-23 2015-07-29 鈊象电子股份有限公司 根据玩家挥手范围切换游戏画面的方法
CN103810922B (zh) * 2014-01-29 2016-03-23 上海天昊信息技术有限公司 手语翻译系统
CN103902045A (zh) * 2014-04-09 2014-07-02 深圳市中兴移动通信有限公司 通过非接触式姿势操作壁纸的方法及装置
CN105094785A (zh) * 2014-05-20 2015-11-25 腾讯科技(深圳)有限公司 一种配色文件生成方法及装置
CN104391573B (zh) * 2014-11-10 2017-05-03 北京华如科技股份有限公司 一种基于单姿态传感器识别投掷动作的方法及装置
CN104460988B (zh) * 2014-11-11 2017-12-22 陈琦 一种智能手机虚拟现实设备的输入控制方法
KR101608172B1 (ko) 2014-12-22 2016-03-31 주식회사 넥슨코리아 객체를 제어하는 방법 및 장치
CN106139590B (zh) * 2015-04-15 2019-12-03 乐线韩国股份有限公司 控制对象的方法和装置
US10543427B2 (en) * 2015-04-29 2020-01-28 Microsoft Technology Licensing, Llc Game controller function remapping via external accessory
CN105204354A (zh) 2015-09-09 2015-12-30 北京百度网讯科技有限公司 智能家居设备的控制方法及装置
WO2017057107A1 (ja) * 2015-09-28 2017-04-06 日本電気株式会社 入力装置、入力方法、及びプログラム
CN105892638A (zh) * 2015-12-01 2016-08-24 乐视致新电子科技(天津)有限公司 一种虚拟现实交互方法、装置和系统
CN106896732B (zh) * 2015-12-18 2020-02-04 美的集团股份有限公司 家用电器的展示方法和装置
CN105592367A (zh) * 2015-12-23 2016-05-18 青岛海信电器股份有限公司 一种图像显示参数调节方法和系统
JP6370820B2 (ja) * 2016-02-05 2018-08-08 株式会社バンダイナムコエンターテインメント 画像生成システム、ゲーム装置及びプログラム。
CN105760106B (zh) * 2016-03-08 2019-01-15 网易(杭州)网络有限公司 一种智能家居设备交互方法和装置
CN105930050B (zh) * 2016-04-13 2018-01-26 腾讯科技(深圳)有限公司 行为确定方法及装置
CN106682593A (zh) * 2016-12-12 2017-05-17 山东师范大学 一种基于手势识别的手语会议方法及系统
WO2018120657A1 (zh) * 2016-12-27 2018-07-05 华为技术有限公司 一种共享虚拟现实数据的方法和设备
CN108668042B (zh) * 2017-03-30 2021-01-15 富士施乐实业发展(中国)有限公司 一种复合机系统
CN109558000B (zh) * 2017-09-26 2021-01-22 京东方科技集团股份有限公司 一种人机交互方法及电子设备
CN107831996B (zh) * 2017-10-11 2021-02-19 Oppo广东移动通信有限公司 人脸识别启动方法及相关产品
CN107861682A (zh) * 2017-11-03 2018-03-30 网易(杭州)网络有限公司 虚拟对象的移动控制方法和装置
CN108228251B (zh) * 2017-11-23 2021-08-27 腾讯科技(上海)有限公司 游戏应用中控制目标对象的方法和装置
CN108036479A (zh) * 2017-12-01 2018-05-15 广东美的制冷设备有限公司 空调器的控制方法、系统、视觉控制器和存储介质
CN110007748B (zh) * 2018-01-05 2021-02-19 Oppo广东移动通信有限公司 终端的控制方法、处理装置、存储介质及终端
WO2019153971A1 (zh) * 2018-02-06 2019-08-15 广东虚拟现实科技有限公司 视觉交互装置及标记物
CN108765299B (zh) * 2018-04-26 2022-08-16 广州视源电子科技股份有限公司 立体图形标记系统及方法
CN108693781A (zh) * 2018-07-31 2018-10-23 湖南机电职业技术学院 智能家居控制系统
JP7262976B2 (ja) * 2018-11-02 2023-04-24 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
TWI681755B (zh) * 2018-12-24 2020-01-11 山衛科技股份有限公司 脊椎側彎量測系統與方法
CN109711349B (zh) * 2018-12-28 2022-06-28 百度在线网络技术(北京)有限公司 用于生成控制指令的方法和装置
CN109816650B (zh) * 2019-01-24 2022-11-25 强联智创(北京)科技有限公司 一种基于二维dsa图像的目标区域识别方法及其系统
CN111665727A (zh) * 2019-03-06 2020-09-15 北京京东尚科信息技术有限公司 用于控制家居设备的方法、装置和家居设备控制系统
CN111803930A (zh) * 2020-07-20 2020-10-23 网易(杭州)网络有限公司 多平台交互方法、装置以及电子设备
CN115623254A (zh) * 2021-07-15 2023-01-17 北京字跳网络技术有限公司 视频效果的添加方法、装置、设备及存储介质
CN113326849B (zh) * 2021-07-20 2022-01-11 广东魅视科技股份有限公司 一种可视化数据采集方法及系统
CN113499585A (zh) * 2021-08-09 2021-10-15 网易(杭州)网络有限公司 游戏中交互方法、装置、电子设备和存储介质
CN113822187A (zh) * 2021-09-10 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 手语翻译、客服、通信方法、设备和可读介质
CN113822186A (zh) * 2021-09-10 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 手语翻译、客服、通信方法、设备和可读介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1860429A (zh) * 2003-09-30 2006-11-08 皇家飞利浦电子股份有限公司 定义内容窗口在显示器上的位置、尺寸和/或内容的姿势
JP2009211563A (ja) * 2008-03-05 2009-09-17 Tokyo Metropolitan Univ 画像認識装置、画像認識方法、画像認識プログラム、ジェスチャ動作認識システム、ジェスチャ動作認識方法、及びジェスチャ動作認識プログラム
CN101551700A (zh) * 2008-03-31 2009-10-07 联想(北京)有限公司 电子游戏输入装置、电子游戏设备及电子游戏输入方法
CN102047203A (zh) * 2008-04-02 2011-05-04 奥布隆工业有限公司 使用在扩展的景深内提取的三维信息进行的基于姿态的控制
CN102179048A (zh) * 2011-02-28 2011-09-14 武汉市高德电气有限公司 基于动作分解和行为分析实现实景游戏的方法

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5594469A (en) * 1995-02-21 1997-01-14 Mitsubishi Electric Information Technology Center America Inc. Hand gesture machine control system
JPH0918708A (ja) * 1995-06-30 1997-01-17 Omron Corp 画像処理方法およびその方法を用いた画像入力装置,制御装置,画像出力装置,ならびに画像処理システム
KR19990011180A (ko) * 1997-07-22 1999-02-18 구자홍 화상인식을 이용한 메뉴 선택 방법
US9292111B2 (en) * 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US10279254B2 (en) * 2005-10-26 2019-05-07 Sony Interactive Entertainment Inc. Controller having visually trackable object for interfacing with a gaming system
WO2005104010A2 (en) * 2004-04-15 2005-11-03 Gesture Tek, Inc. Tracking bimanual movements
JP2006068315A (ja) * 2004-09-02 2006-03-16 Sega Corp ポーズ検出プログラム、ビデオゲーム装置、ポーズ検出方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体
CN100345085C (zh) * 2004-12-30 2007-10-24 中国科学院自动化研究所 基于玩家姿势和语音的电子游戏场景和角色控制方法
EP1967942A1 (en) * 2005-10-26 2008-09-10 Sony Computer Entertainment America, Inc. System and method for interfacing and computer program
KR100783552B1 (ko) * 2006-10-11 2007-12-07 삼성전자주식회사 휴대 단말기의 입력 제어 방법 및 장치
US8726194B2 (en) * 2007-07-27 2014-05-13 Qualcomm Incorporated Item selection using enhanced control
CN101388138B (zh) * 2007-09-12 2011-06-29 原相科技股份有限公司 互动图像系统、互动装置及其运作方法
CN101398896B (zh) * 2007-09-28 2012-10-17 三星电子株式会社 用于成像设备的提取有强识别力的颜色特征的设备和方法
JP4938617B2 (ja) * 2007-10-18 2012-05-23 幸輝郎 村井 オブジェクト操作装置、及び、デジタル画像フレームデータからマーカを特定する方法
CN101483005A (zh) * 2008-01-07 2009-07-15 致伸科技股份有限公司 多媒体文件播放遥控装置
KR100978929B1 (ko) * 2008-06-24 2010-08-30 한국전자통신연구원 기준 제스처 데이터 등록방법, 이동단말의 구동방법 및이를 수행하는 이동단말
CN101504728B (zh) * 2008-10-10 2013-01-23 深圳泰山在线科技有限公司 一种电子设备的遥控系统及其遥控方法
CN101729808B (zh) * 2008-10-14 2012-03-28 Tcl集团股份有限公司 一种电视遥控方法及用该方法遥控操作电视机的系统
CN101465116B (zh) * 2009-01-07 2013-12-11 北京中星微电子有限公司 一种显示设备控制方法及一种显示设备
CN101504586A (zh) * 2009-03-25 2009-08-12 中国科学院软件研究所 一种基于笔尾手势的指令方法
CN101527092A (zh) * 2009-04-08 2009-09-09 西安理工大学 特定会话场景下的计算机辅助手语交流方法
CN101539994B (zh) * 2009-04-16 2012-07-04 西安交通大学 一种手语语音互译系统及手语语音互译方法
CN101763515B (zh) * 2009-09-23 2012-03-21 中国科学院自动化研究所 一种基于计算机视觉的实时手势交互方法
CN101673094A (zh) * 2009-09-23 2010-03-17 曾昭兴 一种家电控制装置和控制方法
US20110151974A1 (en) * 2009-12-18 2011-06-23 Microsoft Corporation Gesture style recognition and reward
CN101799717A (zh) * 2010-03-05 2010-08-11 天津大学 基于手部行为捕捉的人机交互方法
CN101833653A (zh) * 2010-04-02 2010-09-15 上海交通大学 低分辨率视频中的人物识别方法
US20110289455A1 (en) * 2010-05-18 2011-11-24 Microsoft Corporation Gestures And Gesture Recognition For Manipulating A User-Interface
CN201750431U (zh) * 2010-07-02 2011-02-16 厦门万安智能股份有限公司 智能家居集控装置
CN102226880A (zh) * 2011-06-03 2011-10-26 北京新岸线网络技术有限公司 一种基于虚拟现实的体感操作方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1860429A (zh) * 2003-09-30 2006-11-08 皇家飞利浦电子股份有限公司 定义内容窗口在显示器上的位置、尺寸和/或内容的姿势
JP2009211563A (ja) * 2008-03-05 2009-09-17 Tokyo Metropolitan Univ 画像認識装置、画像認識方法、画像認識プログラム、ジェスチャ動作認識システム、ジェスチャ動作認識方法、及びジェスチャ動作認識プログラム
CN101551700A (zh) * 2008-03-31 2009-10-07 联想(北京)有限公司 电子游戏输入装置、电子游戏设备及电子游戏输入方法
CN102047203A (zh) * 2008-04-02 2011-05-04 奥布隆工业有限公司 使用在扩展的景深内提取的三维信息进行的基于姿态的控制
CN102179048A (zh) * 2011-02-28 2011-09-14 武汉市高德电气有限公司 基于动作分解和行为分析实现实景游戏的方法

Also Published As

Publication number Publication date
CN103135882A (zh) 2013-06-05
CN103135882B (zh) 2016-08-03
CN103135758B (zh) 2016-09-21
CN103127717B (zh) 2016-02-10
CN103127717A (zh) 2013-06-05
CN103135453A (zh) 2013-06-05
CN103135754A (zh) 2013-06-05
CN103135759B (zh) 2016-03-09
CN103136986B (zh) 2015-10-28
CN103135881B (zh) 2016-12-14
CN103135758A (zh) 2013-06-05
CN103135755A (zh) 2013-06-05
CN103135881A (zh) 2013-06-05
CN103139508A (zh) 2013-06-05
CN103135453B (zh) 2015-05-13
CN103136986A (zh) 2013-06-05
CN103135756B (zh) 2016-05-11
CN103135754B (zh) 2016-05-11
CN103135759A (zh) 2013-06-05
CN103135756A (zh) 2013-06-05
CN103135755B (zh) 2016-04-06
CN103135883B (zh) 2016-07-06

Similar Documents

Publication Publication Date Title
CN103135883B (zh) 控制窗口的方法及系统
CN102184021B (zh) 一种基于手写输入和指尖鼠标的电视人机交互方法
CN102799318B (zh) 一种基于双目立体视觉的人机交互方法及系统
CN102231093B (zh) 一种屏幕定位控制方法及装置
CN104808788B (zh) 一种非接触式手势操控用户界面的方法
CN108509026B (zh) 基于增强交互方式的远程维修支持系统及方法
CN107357427A (zh) 一种用于虚拟现实设备的手势识别控制方法
CN103150020A (zh) 一种三维指控操作方法及系统
Hongyong et al. Finger tracking and gesture recognition with kinect
CN103995595A (zh) 一种基于手势的游戏体感控制方法
TW201317843A (zh) 虛擬滑鼠驅動裝置及虛擬滑鼠模擬方法
CN106774938A (zh) 基于体感设备的人机交互集成装置
CN105138131B (zh) 一种通用的手势命令发射和操作方法
Yang et al. 3D character recognition using binocular camera for medical assist
CN203070205U (zh) 一种基于手势识别的输入设备
KR20110125524A (ko) 멀티모달 상호작용을 이용한 로봇의 물체 학습 시스템 및 방법
CN104375631A (zh) 一种基于移动终端的非接触式交互方法
CN103995586B (zh) 基于虚拟触摸屏的非穿戴指势人机交互方法
CN102289328A (zh) 一种基于手持摄像头的人机交互方法及装置
CN104866112A (zh) 一种基于移动终端的非接触式交互方法
CN106203236A (zh) 一种基于视觉的手势识别方法和系统
CN106599812A (zh) 一种用于智能家居系统的3d动态手势识别方法
CN104898845A (zh) 一种基于移动终端的非接触式交互方法
CN104915014A (zh) 一种基于移动终端的非接触式交互方法
CN202018629U (zh) 一种交互式电子白板系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 518000 Shenzhen, Nanshan District Province, science and technology, South Road, the building of the big square, building 02, room 4,

Patentee after: SHENZHEN TAISHAN SPORTS TECHNOLOGY CORP., LTD.

Address before: 518000 Shenzhen, Nanshan District Province, science and technology, South Road, the building of the big square, building 02, room 4,

Patentee before: Shenzhen Tol Technology Co., Ltd.

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 518000 room 02, 4th floor, Fangda building, Keji South 12th Road, Nanshan District, Shenzhen City, Guangdong Province

Patentee after: Shenzhen Taishan Sports Technology Co.,Ltd.

Address before: 518000 room 02, 4th floor, Fangda building, Keji South 12th Road, Nanshan District, Shenzhen City, Guangdong Province

Patentee before: SHENZHEN TAISHAN SPORTS TECHNOLOGY Corp.,Ltd.