CN103135754A - 交互设备及采用交互设备实现交互的方法 - Google Patents

交互设备及采用交互设备实现交互的方法 Download PDF

Info

Publication number
CN103135754A
CN103135754A CN2011104517244A CN201110451724A CN103135754A CN 103135754 A CN103135754 A CN 103135754A CN 2011104517244 A CN2011104517244 A CN 2011104517244A CN 201110451724 A CN201110451724 A CN 201110451724A CN 103135754 A CN103135754 A CN 103135754A
Authority
CN
China
Prior art keywords
attitude
marked region
image
interactive device
steering order
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011104517244A
Other languages
English (en)
Other versions
CN103135754B (zh
Inventor
贺欢
赵文闯
师丹玮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Taishan Sports Technology Co.,Ltd.
Original Assignee
SHENZHEN TOL TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN TOL TECHNOLOGY Co Ltd filed Critical SHENZHEN TOL TECHNOLOGY Co Ltd
Priority to CN201110451724.4A priority Critical patent/CN103135754B/zh
Publication of CN103135754A publication Critical patent/CN103135754A/zh
Application granted granted Critical
Publication of CN103135754B publication Critical patent/CN103135754B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明提供了一种交互设备及采用交互设备实现交互的方法,所述交互设备包括主体部和标记部,所述标记部为设置在所述主体部上的指定颜色和/或形状的区域。所述方法包括:通过交互设备产生姿态;采集交互设备的图像,所述图像包含标记区域;识别所述标记区域的姿态,生成所述姿态对应的控制指令;通过终端设备响应所述控制指令。采用本发明,能使用户操作起来更加方便简单。

Description

交互设备及采用交互设备实现交互的方法
【技术领域】
本发明涉及人机交互领域,尤其涉及一种交互设备及采用交互设备实现交互的方法。
【背景技术】
人机交互系统通常由交互设备和被控装置组成,通过交互设备生成控制指令,通过有线或无线的方式将控制指令发送到被控装置,由被控装置响应控制指令。传统的交互设备通常是通过设置在交互设备上的传感器采集信号,然后由交互设备将信号发送到信号处理单元进行处理,生成控制指令从而实现交互,这样,交互设备上需设有供电装置。此外,传统的交互设备上通常都具有按键,用户通过按不同的按键来选择生成不同的控制指令,并确定是否将交互设备的传感器采集到的信号发送出去,例如用户通过鼠标与计算机实现交互,需要按下左键、右键等才能产生相应的控制指令,对计算机进行控制。因此,传统的采用交互设备实现交互的方法,用户必须借助于有源(电源)和设有按键的交互设备,使得用户操作起来不够方便简单。
【发明内容】
基于此,有必要提供一种能使用户操作起来更方便简单的交互设备。
一种交互设备,包括主体部和标记部,所述标记部为设置在所述主体部上的指定颜色和/或形状的区域。
在优选的实施例中,所述标记部为设置在所述主体部上的指定颜色和/或形状的反光材料。
在优选的实施例中,所述标记部为两个,分别设置于所述主体部的前端或两侧。
在优选的实施例中,所述主体部为手持部位或人体部位。
此外,还有必要提供一种采用交互设备实现交互的方法,能使得用户操作起来更方便简单。
一种采用交互设备实现交互的方法,包括以下步骤:通过交互设备产生姿态;采集交互设备的图像,所述图像包含标记区域;识别所述标记区域的姿态,生成所述姿态对应的控制指令;通过终端设备响应所述控制指令。
在优选的实施例中,所述图像为二维图像和/或三维图像。
在优选的实施例中,所述识别所述标记区域的姿态的步骤包括:
判断所述图像是二维图像还是三维图像;
若所述图像为二维图像,则获取所述图像中与预设颜色模型匹配的像素,对所述获取的像素进行连通域检测,提取检测得到的连通域中的所述标记区域,获取所述标记区域中的像素坐标,根据所述像素坐标产生所述标记区域的姿态;
若所述图像为三维图像,则对所述图像进行分割,提取所述图像中的连通域,计算所述连通域的属性值,将所述连通域的属性值与预设的标记区域属性值进行对比,所述标记区域为符合所述预设的标记区域属性值的连通域,以及获取所述标记区域中的像素坐标,根据所述像素坐标产生所述标记区域的姿态。
在优选的实施例中,所述标记区域包括第一连续区域和第二连续区域;所述根据像素坐标产生所述标记区域的姿态的步骤包括:
根据所述像素坐标计算第一连续区域的重心和第二连续区域的重心,根据所述第一连续区域的重心的像素坐标和所述第二连续区域的重心的像素坐标产生所述标记区域的姿态。
在优选的实施例中,所述二维图像为二维红外图像。
在优选的实施例中,所述生成姿态对应的控制指令的步骤包括:
获取当前帧图像中的所述标记区域的姿态;
根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令。
在优选的实施例中,所述图像为图像序列;所述生成姿态对应的控制指令的步骤还包括:
获取当前帧图像中的所述标记区域的姿态与上一帧图像中的所述标记区域的姿态之间的相对姿态;
根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令。
上述交互设备及采用交互设备实现交互的方法,在交互设备的主体部上设置指定颜色和/或形状的区域,则采集交互设备的图像中包含了标记区域(即指定颜色和/或形状的区域在图像中所产生的区域),使用交互设备产生姿态时,标记区域在图像中也具有一定的姿态,识别出该姿态并生成对应的控制指令,然后通过终端设备响应该控制指令进行不同的操作,从而完成交互。因此,用户仅需要操控设有指定颜色和/或形状的区域的交互设备,使交互设备产生一定姿态,就能实现人机交互,因此用户操作起来更加方便简单。
【附图说明】
图1为一个实施例中交互设备的结构示意图;
图2为另一个实施例中交互设备的结构示意图;
图3为另一个实施例中交互设备的结构示意图;
图4为一个实施例中采用交互设备实现交互的方法的流程示意图;
图5为一个实施例中识别标记区域的姿态的流程示意图;
图6为一个实施例中构建的二维坐标系的示意图;
图7为一个实施例中构建的三维坐标系的示意图;
图8为一个实施例中生成姿态对应的控制指令的流程示意图;
图9为另一个实施例中生成姿态对应的控制指令的流程示意图。
【具体实施方式】
如图1所示,在一个实施例中,交互设备包括主体部10和标记部20,其中,标记部20为设置在主体部10上的指定颜色和/或形状的区域。例如,标记部20为红色的矩形状的区域。具体的,在一个实施例中,标记部20可为设置在主体部10上的指定颜色和/或形状的反光材料。应当说明的是,标记部20可以优选设置在主体部10的前端,也可以设置在主体部10的两侧。
在另一个实施例中,如图2所示,标记部20为两个,包括第一标记部201和第二标记部202,可分别设置在主体部10的前端。如图3所述,第一标记部201和第二标记部202还可分别设置在主体部10的两端。进一步的,第一标记部201和第二标记部202可以是任意特定形状,例如椭圆形或矩形,其大小、形状、颜色等特征上可相同,也可不同。
进一步的,主体部10可以为手持部位,即交互设备为手持装置,这样,用户可以手持交互设备进行操控,使交互设备产生一定的姿态。另外,主体部10也可以是人体部位(如人脸、手掌或手臂等),例如,在手掌上设置标记部20,用户使用起来则更方便。
由于交互设备上设有指定颜色和/或形状的区域,采集交互设备的图像,则能得到图像中的指定颜色和/或形状的区域(即标记区域)。当用户使用交互设备产生姿态时,图像中的标记区域也具有一定的姿态,通过将该姿态转换为控制指令则能实现人机交互。因此,用户仅需要操控设有指定颜色和/或形状的区域的交互设备,使交互设备产生一定姿态,就能实现人机交互,因此用户操作起来更加方便简单。
如图4所示,在一个实施例中,采用交互设备实现交互的方法包括:
步骤S10,通过交互设备产生姿态。
具体的,用户可手持交互设备或通过自身的人体部位进行动作(如转动),从而使交互设备产生一定的姿态。
步骤S20,采集交互设备的图像,所述图像包含标记区域。
标记区域是采集的图像中的一个区域,该区域可由交互设备上的指定颜色和/或形状的区域形成。进一步的,可采用摄像头或其他图像采集装置采集交互设备的图像。所采集的交互设备的图像可以是二维图像,也可以是三维图像。
步骤S30,识别标记区域的姿态,生成姿态对应的控制指令。
具体的,对采集到的图像进行处理,提取图像中的标记区域,然后根据标记区域中的像素在构建的图像坐标系中的像素坐标产生标记区域的姿态。
所谓姿态,是指标记区域在图像中所形成的姿势状态。进一步的,在二维图像中,姿态为二维图像中的标记区域与预设位置之间的角度,即姿态角;在三维图像中,姿态为二维图像中的标记区域与预设位置之间的多个姿态角所组成的矢量,即姿态向量。本发明中说的“标记区域产生的姿态”,“标记区域的姿态”、“姿态”都是指所述姿态,也就是不同实施例的姿态角与姿态向量。
本实施例中,预先设定标记区域的姿态与控制指令之间的映射关系,并将该映射关系存储在数据库中。在识别出标记区域的姿态后,可根据识别出的姿态从数据库中查找与姿态对应的控制指令。进一步的,还可将查找到的控制指令发送到终端设备(即被控装置)。
步骤S40,通过终端设备响应控制指令。
其中,终端设备可以是计算机、电视、移动通信设备、便携式手持装置或其他装置。控制指令可以是传统的交互设备中的特殊指令,如鼠标中的左键或右键点击指令;也可以是应用程序的特殊指令,如多媒体的开始播放或暂停播放指令。
由于可生成与识别出的姿态相对应的控制指令,只要交互设备产生姿态就能生成控制指令,而交互设备本身是不需要设置按键和供电装置的,即在交互设备上无需设置按键和供电装置也能实现人机交互。
在一个实施例中,如图5所示,步骤S30中识别标记区域的姿态具体包括:
步骤S301,判断采集的图像是二维图像还是三维图像,若是二维图像,则进入步骤S302,否则进入步骤S304。
步骤S302,获取图像中的与预设颜色模块匹配的像素,对获取的像素进行连通域检测,提取检测得到的连通域中的标记区域。
具体的,可通过摄像机采集包含标记区域的图像,得到的图像为二维可见光图像。优选的,还可在摄像机的镜头前加入红外滤光片,用于滤去除红外波段的其他波段光线,则采集的图像为二维红外图像。由于可见光图像中,场景中的物体会对标记区域的识别形成干扰,而红外图像因滤除掉了可见光信息,干扰较少,因此二维红外图像更有利于提取标记区域。对获取的像素进行连通域检测,得到多个连通域,连通域是若干个连续的像素组成的集合。
本实施例中,预先建立颜色模型。例如标记区域的色彩为红色,则预先建立红色模型,该模型中像素的RGB值分量可在200到255之间,G、B分量可接近于零;获取采集的图像中满足该红色模型的RGB值的像素即为红色像素。
由于标记区域的大小和形状应大致是固定不变的,在对获取的像素进行连通域检测时,可计算得到获取的像素中的所有连通域的周长和/或面积。具体的,连通域的周长可为连通域边界像素的个数,连通域的面积可为连通域中的全部像素的个数。进一步的,可将获取的连通域的周长和/或面积与预设标记区域的周长和/或面积进行对比,获取满足预设标记区域的周长和/或面积的连通域即为标记区域。优选的,还可将周长的平方与面积的比值作为判断准则,连通域的该比值满足预设标记区域的该比值,则该连通域为标记区域。
步骤S303,获取标记区域中的像素坐标,根据像素坐标产生标记区域的姿态。
在一个实施例中,如图1所示,标记部20设有一个,则采集到的图像中的标记区域为一个连续区域,则根据像素坐标产生标记区域的姿态的过程为:计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态,该标记区域的姿态为一个姿态角。
具体的,如图6所示,构建二维图像坐标系,对于该坐标系上的两个点A(u1,v1)和B(u2,v2),其形成的姿态角则为斜率的反正切,即arctan((v2-v1)/(u2-u1))。具体的,本实施例中,计算提取的标记区域中的像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,该特征向量的方向即为标记区域长轴所在直线的方向。如图6所示,标记区域长轴所在直线方向为A、B两点所在直线的方向,设特征向量为[dir_u,dir_v]T,其中,dir_u描述标记区域长轴的方向在u轴上的投影,其绝对值正比于从A指向B的向量在u坐标轴方向上的投影(即u2-u1);dir_v描述标记区域长轴的方向在v轴上的投影,其绝对值正比于从A指向B的向量在v坐标轴方向上的投影(即v2-v1)。若dir_u或dir_v小于0,则修正为[-dir_u,-dir_v]T,则标记区域的姿态角为:arctan(dir_v/dir_u)。
在另一个实施例中,如图2和图3所示,标记部设有两个,分别为标记部201和标记部202,则采集到的图像中的标记区域为两个,包括第一连续区域和第二连续区域,则根据所述像素坐标产生标记区域的姿态的具体过程为:根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标产生标记区域的姿态。具体的,计算连续区域中的全部像素坐标的平均值,所得到的像素坐标即为连续区域的重心。如图6所示,计算得到的两个连续区域的重心分别为A(u1,v1)和B(u2,v2),则标记区域的姿态角为斜率的反正切,即arctan((v2-v1)/(u2-u1))。
步骤S304,对图像进行分割,提取图像中的连通域,计算连通域的属性值,将连通域的属性值与预设的标记区域属性值进行对比,标记区域则为符合预设的标记区域属性值的连通域。
具体的,当三维深度图像中两个相邻的像素深度相差小于预先设定的阈值时,例如5厘米,则认为两个像素连通,对整个图像进行连通域检测,可得到包含标记区域的一系列连通域。
本实施例中,连通域的属性值包括连通域的尺寸和形状。具体的,计算连通域的尺寸/形状,与预设的标记区域的尺寸/形状进行对比,得到符合预设的标记区域的尺寸/形状的连通域即为标记区域。以矩形标记为例,即交互设备上的反光材料在采集的图像中为矩形,预先设定好标记的长度和宽度,计算连通域对应的物理区域的长度和宽度,该长度和宽度与标记的长度和宽度越接近,则连通域与标记区域越相似。
进一步的,计算连通域对应的物理区域的长度和宽度的过程如下:计算连通域像素的三维坐标的协方差矩阵,采用如下公式计算连通域对应的物理区域的长度和宽度:
Figure BDA0000126828360000071
其中,k为预先设定的系数,例如设为4,当λ为协方差矩阵最大特征值时,则l为连通域的长度,当λ为协方差矩阵第二大的特征值时,则l为连通域的宽度。
进一步的,还可预先设定矩形标记的长宽比,例如长宽比为2,则连通域对应的物理区域的长宽比越接近于预设设定的矩形标记的长宽比,则连通域与标记区域越相似,具体的,采用如下公式计算连通域对应的物理区域的长宽比:
Figure BDA0000126828360000072
其中,r为连通域的长宽比,λ0为协方差矩阵的最大特征值,λ1为协方差矩阵的第二大特征值。
步骤S305,获取标记区域中的像素坐标,根据像素坐标产生标记区域的姿态。
具体的,本实施例中,标记区域的姿态为姿态向量。如图7所示,构建三维图像坐标系,该坐标系为右手坐标系。在该坐标系中,设空间向量OP,P在平面XOY的投影为p,则用极坐标表示向量OP的姿态向量为[α,θ]T,α为角XOp,即X轴到Op角,取值范围为0到360度,θ为角pOP,即OP与XOY平面的夹角,取值范围为-90度到90度。设该坐标系中的空间射线上的两点为A(x1,y1,z1)和B(x2,y2,z2),则这两点的姿态向量[α,θ]T可用如下公式唯一确定:
cos ( α ) = x 2 - x 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2
sin ( α ) = y 2 - y 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2 - - - ( 1 )
θ = arctan ( z 2 - z 1 ( x 2 - x 1 ) 2 + ( y 2 - y 1 ) 2 ) - - - ( 2 )
本实施例中,提取标记区域后,计算得到标记区域中的像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,并将该特征向量转换为姿态向量。具体的,设得到的姿态向量为[dirx,diry,dirz]T,其中,dirx表示两点在x轴方向上的距离,diry表示两点在y轴方向上的距离,dirz表示两点在z轴方向上的距离。可认为该姿态向量描述的射线上有两个点,即(0,0,0)和(dirx,diry,dirz),即射线从原点触发,指向(dirx,diry,dirz),则姿态角需满足上述公式(1)和(2),令上述公式(1)和(2)中的x1=0,y1=0,z1=0,x2=dirx,y2=diry,z2=dirz,即可得到姿态向量[α,θ]T
在一个实施例中,如图1所示,标记部20设有一个,则采集到的图像中的标记区域为一个连续区域,则根据像素坐标产生标记区域的姿态的过程为:计算得到像素坐标的协方差矩阵,获取协方差矩阵最大特征值对应的特征向量,根据特征向量产生标记区域的姿态。如上所述,该标记区域的姿态为一个姿态向量。
在另一个实施例中,如图2和图3所示,标记部设有两个,分别为标记部201和标记部202,则采集到的图像中的标记区域为两个,包括第一连续区域和第二连续区域,则根据所述像素坐标产生标记区域的姿态的具体过程为:根据像素坐标计算第一连续区域的重心和第二连续区域的重心,根据第一连续区域的重心的像素坐标和第二连续区域的重心的像素坐标计算标记区域的姿态。如图7所示,本实施例中,标记区域中的像素坐标为三维坐标,具体的,可根据计算得到的两个连续区域的重心的像素坐标产生标记区域的姿态,该姿态为一个姿态向量。
应当说明的是,在其他实施例中,也可设定只采集交互设备的二维图像或三维图像,即设定交互方法只处理二维图像或者只处理三维图像,则上述步骤S302可不执行,而直接对二维图像或三维图像进行处理。具体的,若设定只处理二维图像,可采用普通摄像机采集二维图像。识别二维图像中的标记区域的姿态的过程如上所述,在此则不再赘述。若设定只处理三维图像,可利用传统的立体视觉系统(由两台空间位置已知的摄像机及相关数据处理设备组成)、结构光系统(右一台摄像机、一台光源以及相关数据处理设备组成)或TOF(timeof flight,飞行时间)深度相机采集三维图像(即三维深度图像)。识别三维图像中的标记区域的姿态如上所述,在此也不再赘述。
此外,无论采集到的是二维图像还是三维图像,在标记区域为一个连续区域的实施例中,交互设备可以是不包含指定颜色和/或形状的区域的人体部位,即完全将人体部位作为交互设备,所采集到的图像中的标记区域即人体部位所形成的区域。该实施例中,则可获取采集的图像中与预设肤色模型匹配的像素,得到人体部位所形成的标记区域,然后进入识别标记区域的姿态的步骤。
如图8所示,在一个实施例中,上述步骤S30中生成姿态对应的控制指令的过程包括:
步骤S310,获取当前帧图像中的标记区域的姿态。
如上所述,步骤S310中获取的姿态可以是当前帧的二维图像中的标记区域的姿态(即姿态角),也可以是当前帧的三维深图像中的标记区域的姿态(即姿态向量)。本实施例中,预先设定了姿态与控制指令之间的映射关系。该姿态也可称为绝对姿态。
步骤S320,根据预设的姿态与控制指令之间的映射关系生成与姿态对应的控制指令。
例如,控制指令为鼠标左键指令和右键指令。以二维图像为例,姿态角的取值范围为-180度到180度。可预先设定当前帧图像中的姿态角在(a,b)的范围内,则触发左键指令,当前帧图像中的姿态角在(c,d)的范围内,则触发右键指令。其中,a、b、c、d都为预先设定的角度,满足a<b,c<d,且集合[a,b]和集合[c,d]的交集为空。。
另外,在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取控制指令,也可以使用两个姿态角来获取控制指令。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置若两个姿态角均在预先设定的指令触发范围内时,才触发控制指令。
在本实施例或另一个实施例中,采集到的图像为图像序列。如图9所示,上述步骤S30中生成姿态对应的控制指令的过程包括:
步骤S311,获取当前帧图像中的标记区域的姿态与上一帧图像中的标记区域的姿态之间的相对姿态。
本实施例中,可实时采集由多个包含标记区域的图像组成的图像序列。如上所述,步骤S311中获取的姿态可以是当前帧图像和上一帧图像中的标记区域的姿态角,也可以是当前帧图像和上一帧图像中的标记区域的姿态向量。当前帧图像中的姿态与上一帧图像中的姿态之间的相对姿态为两者的差值。
步骤S321,根据预设的相对姿态与控制指令之间的映射关系生成与相对姿态对应的控制指令。
例如,以二维图像为例,相对姿态为相对姿态角,可预先设定当前帧图像的姿态角比上一帧的姿态角增加大于30度,即相对姿态角大于30度时,则触发鼠标的左键指令,当前帧图像的姿态角比上一帧的姿态角减少大于40度时,即相对姿态角小于-40度时,则触发鼠标的右键指令。三维图像的原理与其类似,在此则不再赘述。
在三维图像中,所识别出的姿态包含两个姿态角,可以使用其中的一个姿态角来获取控制指令,也可以使用两个姿态角来获取控制指令。使用其中一个姿态角的方法原理与二维图像类似,在此则不再赘述。使用两个姿态角时,可设置若两个姿态角变化均满足预设条件时,例如第一个姿态角变化大于预先设定的第一阈值,第二个姿态角变化大于预先设定的第二阈值,则触发控制指令。
上述采用交互设备实现交互的方法,优选的,可在终端设备的位置设置图像采集装置以及用于识别标记区域的姿态并生成姿态对应的控制指令的图像处理装置,用户在操控交互设备时,可位于图像采集装置的前方,以便图像采集装置能采集到清晰的包含标记区域的图像。图像处理装置可与终端设备有线连接,生成的控制指令传输到终端设备,从而可实现对终端设备进行操作。此外,也可以设置通信模块,用于将图像处理装置生成的控制指令通过有线或无线网络发送到远程的终端设备,从而实现远程的人机交互。
上述交互设备及采用交互设备实现交互的方法,在交互设备上设置指定颜色和/或形状的区域,通过识别标记区域的姿态,转换为对应的控制指令,从而实现人机交互。本发明除了可以采用手持的交互设备,还可以将人体部位作为交互设备,灵活性高。本发明不需要在交互设备上设置按键和供电装置,实现了交互设备的完全无源。
此外,本发明将传统的交互设备进行了简单化,能够降低成本,由于本发明中的交互设备可以是无源的手持装置或人体部位,减少了电池的重量,因此易于使用;用户可以通过对手持装置或人体部位进行简单的操控就能实现各种人机交互,因此提高了用户操作的便利性,大大满足了用户的体验需求。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (12)

1.一种交互设备,其特征在于,包括主体部和标记部,所述标记部为设置在所述主体部上的指定颜色和/或形状的区域。
2.根据权利要求1所述的交互设备,其特征在于,所述标记部为设置在所述主体部上的指定颜色和/或形状的反光材料。
3.根据权利要求2所述的交互设备,其特征在于,所述标记部为两个,分别设置于所述主体部的前端或两侧。
4.根据权利要求1至3任意一项所述的交互设备,其特征在于,所述主体部为手持部位或人体部位。
5.一种采用交互设备实现交互的方法,包括以下步骤:
通过交互设备产生姿态;
采集交互设备的图像,所述图像包含标记区域;
识别所述标记区域的姿态,生成所述姿态对应的控制指令;
通过终端设备响应所述控制指令。
6.根据权利要求5所述的采用交互设备实现交互的方法,其特征在于,所述图像为二维图像和/或三维图像。
7.根据权利要求6所述的采用交互设备实现交互的方法,其特征在于,所述识别所述标记区域的姿态的步骤包括:
判断所述图像是二维图像还是三维图像;
若所述图像为二维图像,则获取所述图像中与预设颜色模型匹配的像素,对所述获取的像素进行连通域检测,提取检测得到的连通域中的所述标记区域,获取所述标记区域中的像素坐标,根据所述像素坐标产生所述标记区域的姿态;
若所述图像为三维图像,则对所述图像进行分割,提取所述图像中的连通域,计算所述连通域的属性值,将所述连通域的属性值与预设的标记区域属性值进行对比,所述标记区域为符合所述预设的标记区域属性值的连通域,以及获取所述标记区域中的像素坐标,根据所述像素坐标产生所述标记区域的姿态。
8.根据权利要求7所述的采用交互设备实现交互的方法,其特征在于,所述标记区域包括第一连续区域和第二连续区域;所述根据像素坐标产生所述标记区域的姿态的步骤包括:
根据所述像素坐标计算第一连续区域的重心和第二连续区域的重心,根据所述第一连续区域的重心的像素坐标和所述第二连续区域的重心的像素坐标产生所述标记区域的姿态。
9.根据权利要求6或7所述的采用交互设备实现交互的方法,其特征在于,所述二维图像为二维红外图像。
10.根据权利要求5至8任意一项所述的采用交互设备实现交互的方法,其特征在于,所述生成姿态对应的控制指令的步骤包括:
获取当前帧图像中的所述标记区域的姿态;
根据预设的姿态与控制指令之间的映射关系生成与所述姿态对应的控制指令。
11.根据权利要求10所述的采用交互设备实现交互的方法,其特征在于,所述图像为图像序列;所述生成姿态对应的控制指令的步骤还包括:
获取当前帧图像中的所述标记区域的姿态与上一帧图像中的所述标记区域的姿态之间的相对姿态;
根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令。
12.根据权利要求5至8中任意一项所述的采用交互设备实现交互的方法,其特征在于,所述图像为图像序列;所述生成姿态对应的控制指令的步骤包括:
获取当前帧图像中的所述标记区域的姿态与上一帧图像中的所述标记区域的姿态之间的相对姿态;
根据预设的相对姿态与控制指令之间的映射关系生成与所述相对姿态对应的控制指令。
CN201110451724.4A 2011-12-02 2011-12-29 采用交互设备实现交互的方法 Active CN103135754B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110451724.4A CN103135754B (zh) 2011-12-02 2011-12-29 采用交互设备实现交互的方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN2011103962353 2011-12-02
CN201110396235.3 2011-12-02
CN201110396235 2011-12-02
CN201110451724.4A CN103135754B (zh) 2011-12-02 2011-12-29 采用交互设备实现交互的方法

Publications (2)

Publication Number Publication Date
CN103135754A true CN103135754A (zh) 2013-06-05
CN103135754B CN103135754B (zh) 2016-05-11

Family

ID=48488552

Family Applications (12)

Application Number Title Priority Date Filing Date
CN201110451724.4A Active CN103135754B (zh) 2011-12-02 2011-12-29 采用交互设备实现交互的方法
CN201110453879.1A Active CN103135756B (zh) 2011-12-02 2011-12-29 生成控制指令的方法和系统
CN201110451741.8A Active CN103135755B (zh) 2011-12-02 2011-12-29 交互系统及方法
CN201210011308.7A Active CN103135881B (zh) 2011-12-02 2012-01-13 显示控制方法及系统
CN201210011346.2A Active CN103135882B (zh) 2011-12-02 2012-01-13 控制窗口图片显示的方法和系统
CN201210023419XA Pending CN103139508A (zh) 2011-12-02 2012-02-02 控制电视画面显示的方法和系统
CN201210024389.4A Active CN103127717B (zh) 2011-12-02 2012-02-03 控制操作游戏的方法及系统
CN201210024483.XA Active CN103135883B (zh) 2011-12-02 2012-02-03 控制窗口的方法及系统
CN201210025300.6A Active CN103135453B (zh) 2011-12-02 2012-02-06 家用电器控制方法及系统
CN201210031595.8A Active CN103136986B (zh) 2011-12-02 2012-02-13 手语识别方法及系统
CN201210032932.5A Active CN103135758B (zh) 2011-12-02 2012-02-14 实现快捷功能的方法及系统
CN201210032934.4A Active CN103135759B (zh) 2011-12-02 2012-02-14 多媒体播放控制方法和系统

Family Applications After (11)

Application Number Title Priority Date Filing Date
CN201110453879.1A Active CN103135756B (zh) 2011-12-02 2011-12-29 生成控制指令的方法和系统
CN201110451741.8A Active CN103135755B (zh) 2011-12-02 2011-12-29 交互系统及方法
CN201210011308.7A Active CN103135881B (zh) 2011-12-02 2012-01-13 显示控制方法及系统
CN201210011346.2A Active CN103135882B (zh) 2011-12-02 2012-01-13 控制窗口图片显示的方法和系统
CN201210023419XA Pending CN103139508A (zh) 2011-12-02 2012-02-02 控制电视画面显示的方法和系统
CN201210024389.4A Active CN103127717B (zh) 2011-12-02 2012-02-03 控制操作游戏的方法及系统
CN201210024483.XA Active CN103135883B (zh) 2011-12-02 2012-02-03 控制窗口的方法及系统
CN201210025300.6A Active CN103135453B (zh) 2011-12-02 2012-02-06 家用电器控制方法及系统
CN201210031595.8A Active CN103136986B (zh) 2011-12-02 2012-02-13 手语识别方法及系统
CN201210032932.5A Active CN103135758B (zh) 2011-12-02 2012-02-14 实现快捷功能的方法及系统
CN201210032934.4A Active CN103135759B (zh) 2011-12-02 2012-02-14 多媒体播放控制方法和系统

Country Status (1)

Country Link
CN (12) CN103135754B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104460988A (zh) * 2014-11-11 2015-03-25 陈琦 一种智能手机虚拟现实设备的输入控制方法
CN104801042A (zh) * 2014-01-23 2015-07-29 鈊象电子股份有限公司 根据玩家挥手范围切换游戏画面的方法
CN105760106A (zh) * 2016-03-08 2016-07-13 网易(杭州)网络有限公司 一种智能家居设备交互方法和装置
CN105892638A (zh) * 2015-12-01 2016-08-24 乐视致新电子科技(天津)有限公司 一种虚拟现实交互方法、装置和系统
WO2019153971A1 (zh) * 2018-02-06 2019-08-15 广东虚拟现实科技有限公司 视觉交互装置及标记物

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104349197B (zh) * 2013-08-09 2019-07-26 联想(北京)有限公司 一种数据处理方法及装置
JP5411385B1 (ja) * 2013-08-12 2014-02-12 株式会社 ディー・エヌ・エー ゲームを提供するサーバ及び方法
CN103810922B (zh) * 2014-01-29 2016-03-23 上海天昊信息技术有限公司 手语翻译系统
CN103902045A (zh) * 2014-04-09 2014-07-02 深圳市中兴移动通信有限公司 通过非接触式姿势操作壁纸的方法及装置
CN105094785A (zh) * 2014-05-20 2015-11-25 腾讯科技(深圳)有限公司 一种配色文件生成方法及装置
CN104391573B (zh) * 2014-11-10 2017-05-03 北京华如科技股份有限公司 一种基于单姿态传感器识别投掷动作的方法及装置
KR101608172B1 (ko) 2014-12-22 2016-03-31 주식회사 넥슨코리아 객체를 제어하는 방법 및 장치
CN106139590B (zh) * 2015-04-15 2019-12-03 乐线韩国股份有限公司 控制对象的方法和装置
US10543427B2 (en) * 2015-04-29 2020-01-28 Microsoft Technology Licensing, Llc Game controller function remapping via external accessory
CN105204354A (zh) * 2015-09-09 2015-12-30 北京百度网讯科技有限公司 智能家居设备的控制方法及装置
WO2017057107A1 (ja) * 2015-09-28 2017-04-06 日本電気株式会社 入力装置、入力方法、及びプログラム
CN106896732B (zh) * 2015-12-18 2020-02-04 美的集团股份有限公司 家用电器的展示方法和装置
CN105592367A (zh) * 2015-12-23 2016-05-18 青岛海信电器股份有限公司 一种图像显示参数调节方法和系统
JP6370820B2 (ja) * 2016-02-05 2018-08-08 株式会社バンダイナムコエンターテインメント 画像生成システム、ゲーム装置及びプログラム。
CN105930050B (zh) * 2016-04-13 2018-01-26 腾讯科技(深圳)有限公司 行为确定方法及装置
CN106682593A (zh) * 2016-12-12 2017-05-17 山东师范大学 一种基于手势识别的手语会议方法及系统
WO2018120657A1 (zh) * 2016-12-27 2018-07-05 华为技术有限公司 一种共享虚拟现实数据的方法和设备
CN108668042B (zh) * 2017-03-30 2021-01-15 富士施乐实业发展(中国)有限公司 一种复合机系统
CN109558000B (zh) 2017-09-26 2021-01-22 京东方科技集团股份有限公司 一种人机交互方法及电子设备
CN107831996B (zh) * 2017-10-11 2021-02-19 Oppo广东移动通信有限公司 人脸识别启动方法及相关产品
CN107861682A (zh) * 2017-11-03 2018-03-30 网易(杭州)网络有限公司 虚拟对象的移动控制方法和装置
CN108228251B (zh) * 2017-11-23 2021-08-27 腾讯科技(上海)有限公司 游戏应用中控制目标对象的方法和装置
CN108036479A (zh) * 2017-12-01 2018-05-15 广东美的制冷设备有限公司 空调器的控制方法、系统、视觉控制器和存储介质
CN110007748B (zh) * 2018-01-05 2021-02-19 Oppo广东移动通信有限公司 终端的控制方法、处理装置、存储介质及终端
CN108765299B (zh) * 2018-04-26 2022-08-16 广州视源电子科技股份有限公司 立体图形标记系统及方法
CN108693781A (zh) * 2018-07-31 2018-10-23 湖南机电职业技术学院 智能家居控制系统
JP7262976B2 (ja) * 2018-11-02 2023-04-24 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
TWI681755B (zh) * 2018-12-24 2020-01-11 山衛科技股份有限公司 脊椎側彎量測系統與方法
CN109711349B (zh) * 2018-12-28 2022-06-28 百度在线网络技术(北京)有限公司 用于生成控制指令的方法和装置
CN109816650B (zh) * 2019-01-24 2022-11-25 强联智创(北京)科技有限公司 一种基于二维dsa图像的目标区域识别方法及其系统
CN111665727A (zh) * 2019-03-06 2020-09-15 北京京东尚科信息技术有限公司 用于控制家居设备的方法、装置和家居设备控制系统
CN111803930A (zh) * 2020-07-20 2020-10-23 网易(杭州)网络有限公司 多平台交互方法、装置以及电子设备
CN115623254A (zh) * 2021-07-15 2023-01-17 北京字跳网络技术有限公司 视频效果的添加方法、装置、设备及存储介质
CN113326849B (zh) * 2021-07-20 2022-01-11 广东魅视科技股份有限公司 一种可视化数据采集方法及系统
CN113499585A (zh) * 2021-08-09 2021-10-15 网易(杭州)网络有限公司 游戏中交互方法、装置、电子设备和存储介质
CN113822186A (zh) * 2021-09-10 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 手语翻译、客服、通信方法、设备和可读介质
CN113822187A (zh) * 2021-09-10 2021-12-21 阿里巴巴达摩院(杭州)科技有限公司 手语翻译、客服、通信方法、设备和可读介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070124694A1 (en) * 2003-09-30 2007-05-31 Koninklijke Philips Electronics N.V. Gesture to define location, size, and/or content of content window on a display
CN101465116A (zh) * 2009-01-07 2009-06-24 北京中星微电子有限公司 一种显示设备控制方法及一种显示设备
CN101504728A (zh) * 2008-10-10 2009-08-12 深圳先进技术研究院 一种电子设备的遥控系统及其遥控方法
CN101504586A (zh) * 2009-03-25 2009-08-12 中国科学院软件研究所 一种基于笔尾手势的指令方法
CN101763515A (zh) * 2009-09-23 2010-06-30 中国科学院自动化研究所 一种基于计算机视觉的实时手势交互方法
CN102047203A (zh) * 2008-04-02 2011-05-04 奥布隆工业有限公司 使用在扩展的景深内提取的三维信息进行的基于姿态的控制
US20110111798A1 (en) * 2008-06-24 2011-05-12 Electronics And Telecommunications Research Institute Registration method of reference gesture data, driving method of mobile terminal, and mobile terminal thereof
CN102226880A (zh) * 2011-06-03 2011-10-26 北京新岸线网络技术有限公司 一种基于虚拟现实的体感操作方法及系统
CN102265240A (zh) * 2008-10-27 2011-11-30 索尼电脑娱乐公司 确定球体联结控制器的位置和运动

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5594469A (en) * 1995-02-21 1997-01-14 Mitsubishi Electric Information Technology Center America Inc. Hand gesture machine control system
JPH0918708A (ja) * 1995-06-30 1997-01-17 Omron Corp 画像処理方法およびその方法を用いた画像入力装置,制御装置,画像出力装置,ならびに画像処理システム
KR19990011180A (ko) * 1997-07-22 1999-02-18 구자홍 화상인식을 이용한 메뉴 선택 방법
US9292111B2 (en) * 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US8062126B2 (en) * 2004-01-16 2011-11-22 Sony Computer Entertainment Inc. System and method for interfacing with a computer program
US7379563B2 (en) * 2004-04-15 2008-05-27 Gesturetek, Inc. Tracking bimanual movements
JP2006068315A (ja) * 2004-09-02 2006-03-16 Sega Corp ポーズ検出プログラム、ビデオゲーム装置、ポーズ検出方法、および、プログラムを記録したコンピュータ読み取り可能な記録媒体
CN100345085C (zh) * 2004-12-30 2007-10-24 中国科学院自动化研究所 基于玩家姿势和语音的电子游戏场景和角色控制方法
KR100783552B1 (ko) * 2006-10-11 2007-12-07 삼성전자주식회사 휴대 단말기의 입력 제어 방법 및 장치
US8726194B2 (en) * 2007-07-27 2014-05-13 Qualcomm Incorporated Item selection using enhanced control
CN101388138B (zh) * 2007-09-12 2011-06-29 原相科技股份有限公司 互动图像系统、互动装置及其运作方法
CN101398896B (zh) * 2007-09-28 2012-10-17 三星电子株式会社 用于成像设备的提取有强识别力的颜色特征的设备和方法
JP4938617B2 (ja) * 2007-10-18 2012-05-23 幸輝郎 村井 オブジェクト操作装置、及び、デジタル画像フレームデータからマーカを特定する方法
CN101483005A (zh) * 2008-01-07 2009-07-15 致伸科技股份有限公司 多媒体文件播放遥控装置
JP5174492B2 (ja) * 2008-03-05 2013-04-03 公立大学法人首都大学東京 画像認識装置、画像認識方法、画像認識プログラム、ジェスチャ動作認識システム、ジェスチャ動作認識方法、及びジェスチャ動作認識プログラム
CN101551700B (zh) * 2008-03-31 2012-03-28 联想(北京)有限公司 电子游戏输入装置、电子游戏设备及电子游戏输入方法
CN101729808B (zh) * 2008-10-14 2012-03-28 Tcl集团股份有限公司 一种电视遥控方法及用该方法遥控操作电视机的系统
CN101527092A (zh) * 2009-04-08 2009-09-09 西安理工大学 特定会话场景下的计算机辅助手语交流方法
CN101539994B (zh) * 2009-04-16 2012-07-04 西安交通大学 一种手语语音互译系统及手语语音互译方法
CN101673094A (zh) * 2009-09-23 2010-03-17 曾昭兴 一种家电控制装置和控制方法
US20110151974A1 (en) * 2009-12-18 2011-06-23 Microsoft Corporation Gesture style recognition and reward
CN101799717A (zh) * 2010-03-05 2010-08-11 天津大学 基于手部行为捕捉的人机交互方法
CN101833653A (zh) * 2010-04-02 2010-09-15 上海交通大学 低分辨率视频中的人物识别方法
US20110289455A1 (en) * 2010-05-18 2011-11-24 Microsoft Corporation Gestures And Gesture Recognition For Manipulating A User-Interface
CN201750431U (zh) * 2010-07-02 2011-02-16 厦门万安智能股份有限公司 智能家居集控装置
CN102179048A (zh) * 2011-02-28 2011-09-14 武汉市高德电气有限公司 基于动作分解和行为分析实现实景游戏的方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070124694A1 (en) * 2003-09-30 2007-05-31 Koninklijke Philips Electronics N.V. Gesture to define location, size, and/or content of content window on a display
CN102047203A (zh) * 2008-04-02 2011-05-04 奥布隆工业有限公司 使用在扩展的景深内提取的三维信息进行的基于姿态的控制
US20110111798A1 (en) * 2008-06-24 2011-05-12 Electronics And Telecommunications Research Institute Registration method of reference gesture data, driving method of mobile terminal, and mobile terminal thereof
CN101504728A (zh) * 2008-10-10 2009-08-12 深圳先进技术研究院 一种电子设备的遥控系统及其遥控方法
CN102265240A (zh) * 2008-10-27 2011-11-30 索尼电脑娱乐公司 确定球体联结控制器的位置和运动
CN101465116A (zh) * 2009-01-07 2009-06-24 北京中星微电子有限公司 一种显示设备控制方法及一种显示设备
CN101504586A (zh) * 2009-03-25 2009-08-12 中国科学院软件研究所 一种基于笔尾手势的指令方法
CN101763515A (zh) * 2009-09-23 2010-06-30 中国科学院自动化研究所 一种基于计算机视觉的实时手势交互方法
CN102226880A (zh) * 2011-06-03 2011-10-26 北京新岸线网络技术有限公司 一种基于虚拟现实的体感操作方法及系统

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104801042A (zh) * 2014-01-23 2015-07-29 鈊象电子股份有限公司 根据玩家挥手范围切换游戏画面的方法
CN104460988A (zh) * 2014-11-11 2015-03-25 陈琦 一种智能手机虚拟现实设备的输入控制方法
CN104460988B (zh) * 2014-11-11 2017-12-22 陈琦 一种智能手机虚拟现实设备的输入控制方法
CN105892638A (zh) * 2015-12-01 2016-08-24 乐视致新电子科技(天津)有限公司 一种虚拟现实交互方法、装置和系统
CN105760106A (zh) * 2016-03-08 2016-07-13 网易(杭州)网络有限公司 一种智能家居设备交互方法和装置
CN105760106B (zh) * 2016-03-08 2019-01-15 网易(杭州)网络有限公司 一种智能家居设备交互方法和装置
WO2019153971A1 (zh) * 2018-02-06 2019-08-15 广东虚拟现实科技有限公司 视觉交互装置及标记物

Also Published As

Publication number Publication date
CN103135453B (zh) 2015-05-13
CN103135882B (zh) 2016-08-03
CN103135756B (zh) 2016-05-11
CN103135758B (zh) 2016-09-21
CN103135881B (zh) 2016-12-14
CN103135883B (zh) 2016-07-06
CN103135453A (zh) 2013-06-05
CN103135882A (zh) 2013-06-05
CN103135758A (zh) 2013-06-05
CN103135755A (zh) 2013-06-05
CN103127717A (zh) 2013-06-05
CN103127717B (zh) 2016-02-10
CN103136986B (zh) 2015-10-28
CN103139508A (zh) 2013-06-05
CN103135759A (zh) 2013-06-05
CN103135755B (zh) 2016-04-06
CN103135881A (zh) 2013-06-05
CN103135759B (zh) 2016-03-09
CN103136986A (zh) 2013-06-05
CN103135754B (zh) 2016-05-11
CN103135756A (zh) 2013-06-05
CN103135883A (zh) 2013-06-05

Similar Documents

Publication Publication Date Title
CN103135754B (zh) 采用交互设备实现交互的方法
CN103336575B (zh) 一种人机交互的智能眼镜系统及交互方法
CN103399637B (zh) 基于kinect人体骨骼跟踪控制的智能机器人人机交互方法
CN103809880B (zh) 人机交互系统及方法
CN102184021A (zh) 一种基于手写输入和指尖鼠标的电视人机交互方法
CN103472916A (zh) 一种基于人体手势识别的人机交互方法
Caputo et al. 3D hand gesture recognition based on sensor fusion of commodity hardware
CN104656893A (zh) 一种信息物理空间的远程交互式操控系统及方法
CN103995595A (zh) 一种基于手势的游戏体感控制方法
CN104460951A (zh) 一种人机交互方法
CN102306053A (zh) 一种基于虚拟触摸屏的人机交互方法、装置及电子设备
CN102750046B (zh) 基于双结构光红外识别的快速三维显示交互装置及方法
CN107577334A (zh) 一种移动终端的体感操作方法及装置
CN103914186A (zh) 图像定位识别系统
CN109584361A (zh) 一种装备电缆虚拟预装和轨迹测量方法及系统
CN203070205U (zh) 一种基于手势识别的输入设备
CN103227962B (zh) 识别与图像传感器所成线的距离的方法
CN102289328A (zh) 一种基于手持摄像头的人机交互方法及装置
CN103995586A (zh) 基于虚拟触摸屏的非穿戴指势人机交互方法
CN206741449U (zh) 一种新型激光屏幕控制设备
CN103365408A (zh) 虚拟屏的反馈方法及系统
CN106203236A (zh) 一种基于视觉的手势识别方法和系统
CN205158136U (zh) 手势控制的智能小车
CN202795230U (zh) 一种双摄像头3d空间输入系统
CN202795307U (zh) 一种双摄像头3d空间输入系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
CB02 Change of applicant information

Address after: 518000 Shenzhen, Nanshan District Province, science and technology, South Road, the building of the big square, building 02, room 4,

Applicant after: SHENZHEN TAISHAN SPORTS TECHNOLOGY CORP., LTD.

Address before: 518000 Shenzhen, Nanshan District Province, science and technology, South Road, the building of the big square, building 02, room 4,

Applicant before: Shenzhen Tol Technology Co., Ltd.

COR Change of bibliographic data
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 518000 room 02, 4th floor, Fangda building, Keji South 12th Road, Nanshan District, Shenzhen City, Guangdong Province

Patentee after: Shenzhen Taishan Sports Technology Co.,Ltd.

Address before: 518000 room 02, 4th floor, Fangda building, Keji South 12th Road, Nanshan District, Shenzhen City, Guangdong Province

Patentee before: SHENZHEN TAISHAN SPORTS TECHNOLOGY Corp.,Ltd.

CP01 Change in the name or title of a patent holder