CN102722249A - 操控方法、操控装置及电子装置 - Google Patents

操控方法、操控装置及电子装置 Download PDF

Info

Publication number
CN102722249A
CN102722249A CN2012101815299A CN201210181529A CN102722249A CN 102722249 A CN102722249 A CN 102722249A CN 2012101815299 A CN2012101815299 A CN 2012101815299A CN 201210181529 A CN201210181529 A CN 201210181529A CN 102722249 A CN102722249 A CN 102722249A
Authority
CN
China
Prior art keywords
staff
hand
controlling
dummy object
track data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012101815299A
Other languages
English (en)
Other versions
CN102722249B (zh
Inventor
杨健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANGHAI DINGWEI SOFTWARE TECHNOLOGY Co Ltd
Original Assignee
SHANGHAI DINGWEI SOFTWARE TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHANGHAI DINGWEI SOFTWARE TECHNOLOGY Co Ltd filed Critical SHANGHAI DINGWEI SOFTWARE TECHNOLOGY Co Ltd
Priority to CN201210181529.9A priority Critical patent/CN102722249B/zh
Publication of CN102722249A publication Critical patent/CN102722249A/zh
Application granted granted Critical
Publication of CN102722249B publication Critical patent/CN102722249B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明提供一种操控方法,通过人手对虚拟三维环境内的虚拟物体进行操控,包括:采集单元对人手进行识别,并按照采集频率,采集人手的图像信息,所述采集单元包括双摄像头,所述图像包括所述图像的深度信息;分析所述人手的图像信息,并获得与人手的运动轨迹对应的轨迹数据;建立位于虚拟三维环境内的虚拟物体;利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,对所述虚拟物体进行操控。本发明还提供操控装置和电子装置。通过人手对电子装置内的虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度。

Description

操控方法、操控装置及电子装置
技术领域
本发明涉及视觉人机交互领域,尤其涉及一种操控方法、操控装置及电子装置。
背景技术
 双目立体图像为图像建模技术的一种,它的目的在于利用立体图像获取环境的深度信息,并根据所述深度信息恢复物体的几何模型:包括从图像中恢复物体的外观、光照条件以及运动轨迹等多种属性。因此还可以在已知少量几何信息甚至没有几何信息的情况下,仅给予若干原始图像绘制出在新视点下物体的成像。而立体图像的主要优点是利用两个或多个摄像头的图像恢复出环境的深度信息,其中包括从摄像头获得的图像中提取深度图,并通过算法获得高精度平滑的深度信息。所述算法包括:SAD法、图像切割法、置信算法、动态规划等。立体图像的研究具有重要的应用价值,其应用包括移动机器人的自主导航系统,航空及遥感测量,工业自动化系统等。但上述立体图像的研究仅用于立体显示领域,并未对获得的立体图像信息和电子装置中的应用操作,如手机中的应用操作进行结合。
发明内容
    本发明解决的问题是提供一种操控方法、操控装置及电子装置,通过人手对虚拟环境内的虚拟物体进行操控,将双目立体图像处理和电子装置内的应用操作进行结合,提高用户的体验度。
    为解决上述问题,本发明提供一种操控方法,包括:提供采集单元对人手进行识别,并按照采集频率,采集人手的空间信息,包括采集人手图像的深度信息,根据所述深度信息获取人手的空间信息,所述采集单元包括双摄像头;    分析所述人手的空间信息,并获得与人手的运动轨迹对应的轨迹数据;建立位于虚拟三维环境内的虚拟物体;利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
    可选的,所述双摄像头之间的相对距离固定,两个摄像头的中心距离范围为3cm~7cm;所述采集频率范围为每秒10帧到每秒30帧。
    可选的,所述对虚拟物体进行操控为实时操控或延时操控。
    可选的,所述获得轨迹数据还包括建立人手模型,获得所述与人手模型和人手对应的轨迹数据。
    可选的,所述建立人手模型包括:首先采用骨骼模型识别,对采集单元获得的图像中人手的五个手指的中部关节和手腕部进行识别,找到上述的对应位置,并进行标识,作为标点;通过计算上述标点位移的轨迹数据,同时获得五个手指的平均屈伸度及手掌的仰俯角和倾斜角的轨迹数据。
    可选的,还包括建立位于所述虚拟三维环境内的操控手,并建立操控手与人手之间的运动映射关系;通过所述操控手的运动状态对虚拟物体进行操控。
    可选的,所述人手到操控手的运动映射的方法包括以下之一或组合:指尖映射、关节角映射、关键点映射和基于被操作的虚拟物体的映射。
    可选的,所述操控手包括操控手掌及与操控手掌关联的操控手指。
    可选的,所述操控手采用父子对象的拓扑结构,在所述操控手中,手掌为五个手指的父对象,没有子对象;子对象作为一个对象成员加入父对象,成为父对象的一部分,对父对象进行的各种操作同时对所述子对象有效。
    可选的,所述操控包括对所述虚拟物体的抓移、移动、释放:当操控手与虚拟物体之间满足抓取条件时,调用所述操控手中增加的子对象的操作函数,即当满足抓取条件时,所述虚拟物体成为所述操控手的一个子对象,所述虚拟物体的坐标系与操控手的坐标系相对位置关系固化,虚拟物体被“抓取”,且随着操控手一起被“移动”;当抓取条件不满足时,操控手将该子对象删除,虚拟物体与操控手的坐标系固化关系解除,虚拟物体被“释放”。
    可选的,所述操控手与虚拟三维环境的交互规则包括碰撞检测方法和操控手抓取规则。
    可选的,所述采集单元采集人手的空间信息包括:通过采集单元中的双摄像头获得两幅人手图像;通过分别在两幅人手图像中寻找对应的匹配像素点,获得空间点坐标;按照上述方法,通过计算每个像素点对应的空间点坐标,确认整个图像的深度信息,以获得人手的空间信息;其中,查找匹配像素点的算法主要分为基于特征的和基于面积的匹配点搜寻两种算法。
    本发明还提供一种利用所述操控方法的操控装置,包括:
    采集单元,包括双摄像头,所述双摄像头设置有采集频率,用于在环境中识别并采集人手的图像信息,所述图像包括所述图像的深度信息,根据深度信息获取人手的空间信息;
    分析单元,对所述空间信息进行分析,获得与人手的运动轨迹对应的轨迹数据;
    虚拟单元,建立虚拟三维环境,所述虚拟三维环境中包括虚拟物体;
    操控单元,利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
    可选的,所述分析单元内还包括人手建模单元,根据所述图像信息,建立与人手对应的人手模型,与人手对应的轨迹数据同时与人手模型相对应。
    可选的,所述操控单元还包括操控手建模单元,用以在所述虚拟单元内建立操控手,并通过所述操控手对所述虚拟物体进行操控。 
    本发明提供一种电子装置,包括所述操控装置。
    可选的,所述电子装置为移动电话、计算机、游戏机或电视。
    与现有技术相比,本发明具有以下优点:
    通过双摄像头,获得图像的深度信息,以获得人手的空间信息,以获得轨迹数据,并利用所述轨迹数据对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度;
    进一步地,通过骨骼模型识别,建立与人手对应的人手模型,以获得同时与人手和人手模型对应的轨迹数据,并利用所述轨迹数据对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度;
    进一步地,还包括建立位于所述虚拟三维环境内的操控手,并建立操控手与人手之间的运动映射关系;通过所述操控手的运动状态对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度。
附图说明
图1为本发明一个实施例的操控方法的方法流程示意图。
图2为本发明一个实施例的操控方法的像素匹配示意图。
图3为本发明一个实施例的操控方法的操控手结构示意图。
图4为本发明一个实施例的操控方法的操控手对虚拟物体的抓取示意图。
图5为本发明一个实施例的操控装置的结构示意图。
具体实施方式
现有技术中,立体图像仅用于立体图像的显示,并未对获得的立体图像信息和电子装置中的应用操作,如手机中的应用操作进行结合。
为解决上述问题,本发明提供一种操控方法,通过人手对电子装置内的虚拟物体进行操控,如图1所示,包括:
执行步骤S1,提供采集单元对人手进行识别,并按照采集频率,采集人手的空间信息,包括采集人手图像的深度信息,根据所述深度信息获取人手的空间信息,所述采集单元包括双摄像头;
执行步骤S2,分析所述人手的空间信息,并获得与人手的运动轨迹对应的轨迹数据;
执行步骤S3,建立位于虚拟三维环境内的虚拟物体;
执行步骤S4,利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
本发明通过双摄像头,获得图像的深度信息,即获得人手的立体信息,以获得轨迹数据,并利用所述轨迹数据对虚拟物体进行操控,将人手空间信息和电子装置内的应用操作进行结合,提高用户的体验度。
为了使本领域的技术人员可以更好的理解本发明,下面结合附图详细说明本发明的具体实施方式。
首先,执行步骤S1,提供采集单元对人手进行识别,并按照采集频率,采集人手的图像信息。所述采集单元为双摄像头,所述双摄像头之间的相对距离固定,两个摄像头的中心距离范围为3cm~7cm。所述采集频率范围为每秒10帧到每秒30帧。
包括首先需要对环境中识别出人手信息,若包含有所述人手信息,则按照采集频率,采集人手的图像信息;若无,则不进行操作。
其中所述图像包括所述图像的深度信息,所述双摄像头获得人手所处位置的深度信息包括:通过双摄像头获得两幅图像信息;通过分别在两幅图像中寻找对应的匹配像素点,获得空间点坐标;按照上述方法,通过计算每个像素点对应的空间点坐标,确认整个图像的深度信息;其中,查找匹配像素点的算法主要分为基于特征的和基于面积的匹配点搜寻两种算法。
具体地,所述图像采集包括:
步骤S11,通过双摄像头定标确定双摄像头相对于三维空间的方位和投影参数,利用双摄像头对人手进行采集图像采集;
步骤S12,将步骤S11采集的两幅同一帧的图像作为输入,利用立体图像的像素点匹配计算环境深度图。
其中,如图2所示为本发明一个实施例的像素点匹配的方法示意图。
C1和C2分别为两个摄像头的中心,对应的,c1c2为两个摄像头的中心连线的投影连线,P为空间中的三维点,I1和I2为双摄像头分别获取的左图和右图。上述图形位于XYZ轴的空间坐标系中,P1和P2为P在I1和I2上的投影点。
已知空间一个点P在两幅图像的投影点分别为P1和P2,假如能够为左图上的每一个像素点P1查找到其在右图上的对应点P2,则从两幅图像的投影中心C1和C2出发,分别经过该两点将在空间中交于一点。理想情况下当P1和P2精确匹配时,所得到的空间点就是P1。按照上述方法,通过计算每个像素点对应的三维坐标,从而确认整个环境的深度信息。其中,查找匹配像素点的算法主要分为基于特征的和基于面积的匹配点搜寻两种算法。通过上述算法,从双摄像头同时拍摄的两张图像中提取深度信息。
接着,执行步骤S2,分析由采集系统获得的人手的图像信息,并分析获得与人手的运动轨迹对应的轨迹数据。
其中,所述获得轨迹数据还包括建立人手模型,获得所述与人手模型和人手对应的轨迹数据。所述建立人手模型包括:首先采用骨骼模型识别,对采集单元获得的图像中人手的五个手指的中部关节和手腕部进行识别,找到上述的对应位置,并进行标识,作为标点;通过计算上述标点位移的轨迹数据,同时获得五个手指的平均屈伸度及手掌的仰俯角和倾斜角的轨迹数据。
执行步骤S3和S4,建立位于虚拟三维环境内的虚拟物体;并利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
其中,通过模拟现实的三维世界,并将其表现出来形成虚拟三维环境,为现有的较成熟的技术,不多加赘述。
进一步地,还包括建立位于所述虚拟三维环境内的操控手,并建立操控手与人手之间的运动映射关系;通过所述操控手的运动状态对虚拟物体进行操控。
具体地,建立要在虚拟三维环境中操控手的各种动作,就必须先在电子装置中用某种方法把手表示出来。对人手特征的描述成为手模型。分析人手的解剖结构和运动特点是建立操控手的基础。如将操控手模型进行如下简化:整个操控手由一个手掌、一个拇指及其它四个相邻的手指组成,拇指包括远近两个指段,其他四个手指则包括远、中、近三个指段,各部分均为刚体。
上述人手的不同部分可视为不同的对象,并可将其属性和对应操作进行封装。对象的属性包括:所述对象的几何模型、比例大小、转角、位移、颜色、纹理、光照等特征,以及该对象所包含的子对象。对象的操作包括对特征属性的读取,更改、以及对子对象的查询、增加、删减等。
其中,人手各部分间存在运动继承关系。为了方便准确地表示这种运动继承关系,操控手的拓扑结构可采用“父子对象”的嵌套结构,如图3所示,在该操控手模型中,手掌palm为五个手指拇指Thumb、食指Index、中指Middle、无名指Ring、小指Little 的父对象,没有子对象。子对象作为一个对象成员加入父对象,成为父对象的一部分,对父对象进行的各种操作同时对所述子对象有效。各个子对象同时又有自己的相对独立的操作方法,这些操作只影响其本身。所以父对象的操作会同时作用于子对象,而子对象的操作则不会影响父对象。如在图3中,Thumb-1表示拇指第一指段,即近指段,它是palm的子对象,同时又是远指段Thumb-2的父对象。Palm的各种操作对palm、Thumb-1、Thumb-2同时有效,Thumb-1的操作则对Thumb-1、Thumb-2有效,而Thumb-2的操作只对它本身有效,不会影响其他对象。
其中,前述的人手模型的建立也可参照所述操控手的建立。
建立所述操控手后,还包括建立操控手与人手之间的运动映射关系;并通过所述操控手的运动状态对虚拟物体进行操控。其中,运动映射的本质是通过跟踪人手的运动来控制操控手的运动,目的是让操控手实现类似人手的复杂和多样的操作。所述人手到操控手的运动映射的方法包括以下之一或组合:指尖映射、关节角映射、关键点映射和基于被操作的虚拟物体的映射。在本实施例中,从人手指到操控手指的运动映射采用关节角映射:各指段的关节角转动值取数据手套上相应转动关节的传感值;从人手掌到操控手掌的运动映射采用关键点映射;将这一坐标系与操控手掌固化。
假设由所述操控手所需的n个运动参数组成的向量为R=(r1、r2、r3、r4…、rn),而由相应的人手的轨迹数据的读数组成的向量为T=(t1、t2、t3、t4…、tn),则R和T之间必然存在强耦合的映射关系,即f:TR。显然,从人手到操控手的运动映射就是要找出对应的映射关系f。实际上,由于不同操作者的手部尺寸不可能完全一样,人手与操控手模型亦不可能完全匹配。所以,相应的映射标定过程必不可少。
以手指关节转动角为例,若人手指关节可转动的角度范围为(VTmax、VTmin),定义操控手指关节可转动的角度范围为(VRmax、VRmin)。若人手指关节转动值为Vin,则此时操控手指关节转动的角度值Vout应满足如下映射关系: 
    f:Vout=(VRmax-VRmin)*(Vin-/Vtmin)/(VTmax-VTmin)
所述操控包括对所述虚拟三维环境中的虚拟物体的抓移、移动、释放:当操控手与虚拟物体之间满足抓取条件时,调用所述操控手中增加的子对象的操作函数,即当满足抓取条件时,所述虚拟物体成为所述操控手的一个子对象,所述虚拟物体的坐标系与操控手的坐标系相对位置关系固化,虚拟物体被“抓取”,且随着操控手一起被“移动”;当抓取条件不满足时,操控手将该子对象删除,虚拟物体与操控手的坐标系固化关系解除,虚拟物体被“释放”。
得到人手的轨迹数据和位置信息后,计算确定人手的运动状态,并提取操控手所需运动参数,然后将这些参数传递给操控手,操控手根据这些参数进行运动。作为一个实施例,整个虚拟工作环境是在Open Inventor平台上集成的,它包括操控手、虚拟物体及虚拟工作背景。操控手是人在虚拟工作环境中改造世界的工具,通过它对虚拟物体进行操作。虚拟工作背景可以是事先构造的虚拟环境,也可以是操作系统中用增强现实方法引入的现实环境。在虚拟工作环境中加入碰撞检测算法和抓取规则后,操控手就可以对所述虚拟物体进行抓取、移动、旋转、释放等虚拟操作。在整个操作过程中,会生成图像,用户可直接在现实世界里进行动作操作,并对应转换成对虚拟三维环境的控制。所述对虚拟物体进行操控为实时操控或延时操控。
将人手的轨迹数据的运动信息对应到操控手的运动后,再完成操控手与虚拟三维环境的交互,则需要建立操控手与虚拟三维环境的交互规则。所述交互规则包括碰撞检测方法和操控手抓取规则。即必须能够检测虚拟物体与操控手之间的相互接触和碰撞,否则就会出现物体之间相互穿透和彼此重叠等不真实的现象。
具体地,所述碰撞检测规则大致分为两类:空间分解法和层次包围盒法。
其中,所述层次包围盒法的核心思想是用体积略大而几何特征简单的包围盒近似描述复杂的几何对象。从而只需对包围盒的重叠进行进一步的相交测试。对虚拟环境中的每一个几何模型节点创建一个包围盒。所述包围盒可以固定的形状或者动态变化的形状。
进一步地,若要实现动态的包围盒,如要实现实时动态的碰撞检测,就需要实时给出各个动态几何节点的包围盒位置和姿态。即对应地,在操控手的手掌和各手指关节处加上一个包围盒,和虚拟三维环境中被抓取物体进行碰撞检测,那么操控手的各个包围盒是动态的,而被抓取物体的包围盒是静态的。
进一步地,还需要控制环境数据的对象,避免与环境中的其他对象发生碰撞。碰撞管理器可以对一个环境,也可以对一个对象或者一个位置检测。可以采用对象的实际图元(比如点线面等)进行碰撞检测。
为提高检测的实用性,也可以采用对象的包装盒。当对象间的包围盒发生碰撞,或对象内部的几何图元发生碰撞时,碰撞检测管理器通过内部的碰撞反馈函数,自动跟踪对象的运动轨迹。如当以一个运动物体与一面墙发生碰撞时,对象将沿着墙相反的方向运动。
其中,操控手抓取规则包括操控手对虚拟物体的稳定抓取的判断目前主要有两大类,一种是根据物理学中力和力矩的平衡原理,对被抓的虚拟物体进行受力分析,当该物体所受到的合力与合力矩均为零时,该物体被抓取,上述方法需要建立虚拟力模型。
另一种方法就是通过分析人手抓取物体时的特点,如抓取姿态,与物体的接触情况等,将所述操控手的姿态及与虚拟物体间的接触情况与之进行比较来判断虚拟物体是否被稳定抓持,即制定操控手抓取规则的方法。当操控手和虚拟物体之间的关系满足了抓取规则,则认为操控手抓取了物体;此时将物体的基坐标系附着在操控手模型上,从而使手的移动带动虚拟物体的移动;当到达目的地后,松开手指,此时操控手和虚拟物体之间的关系不再满足抓取规则,从而解除附着关系,物体被释放。
作为一个实施例,抓取规则主要有如下:
1)必须有三个或三个以上的手指(或指尖或手掌)与物体接触,其中至少有三个接触点不在同一条直线上;
2)任意两个接触面(平面或曲面)的法矢之间的夹角至少有一个大于某个预定一的临界角度值。(在此设定该角度值为90度)
在同时满足以上两个条件时,则认为此虚拟物体被抓取。如图4所示,有三个手指(大拇指指尖、食指指尖和中指)与长方体接触,而且三个接触点不在同一直线上;三个接触面的法矢N1、N2、N3两两之间组成三个夹角,其中,至少具有一个角是大于90度,因此被认定该物体被抓取。其中,点G为物体的重心;N1和N2为单位法矢;N3为准单位法矢。
本发明还提供一种利用所述操控方法的操控装置,包括:
采集单元100,包括双摄像头,所述双摄像头设置有采集频率,用于在环境中识别并采集人手的图像信息,所述图像包括所述图像的深度信息,根据深度信息获取人手的空间信息;
分析单元200,对所述空间信息进行分析,获得与人手的运动轨迹对应的轨迹数据;
虚拟单元300,建立虚拟三维环境,所述虚拟三维环境中包括虚拟物体;
操控单元400,利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
进一步地,所述分析单元内还包括人手建模单元,根据所述图像信息,建立与人手对应的人手模型,与人手对应的轨迹数据同时与人手模型相对应。
进一步地,所述操控单元还包括操控手建模单元,用以在所述虚拟单元内建立操控手,并通过所述操控手对所述虚拟物体进行操控。
本发明提供一种电子装置,包括上述操控装置。其中,所述电子装置为移动电话、计算机、游戏机或电视。
与现有技术相比,本发明具有以下优点:
通过双摄像头,获得图像的深度信息,即获得人手的空间信息,以获得轨迹数据,并利用所述轨迹数据对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度;
进一步地,通过骨骼模型识别,建立与人手对应的人手模型,以获得同时与人手和人手模型对应的轨迹数据,并利用所述轨迹数据对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度;
进一步地,还包括建立位于所述虚拟三维环境内的操控手,并建立操控手与人手之间的运动映射关系;通过所述操控手的运动状态对虚拟物体进行操控,将立体图像和电子装置内的应用操作进行结合,提高用户的体验度。
本发明虽然已以较佳实施例公开如上,但其并不是用来限定本发明,任何本领域技术人员在不脱离本发明的精神和范围内,都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改,因此,凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化及修饰,均属于本发明技术方案的保护范围。

Claims (17)

1.一种操控方法,其特征在于包括:
提供采集单元对人手进行识别,并按照采集频率,采集人手的空间信息,包括采集人手图像的深度信息,根据所述深度信息获取人手的空间信息,所述采集单元包括双摄像头;
分析所述人手的空间信息,并获得与人手的运动轨迹对应的轨迹数据;
建立位于虚拟三维环境内的虚拟物体;
利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
2. 根据权利要求1所述的操控方法,其特征在于:所述双摄像头之间的相对距离固定,两个摄像头的中心距离范围为3cm~7cm;所述采集频率范围为每秒10帧到每秒30帧。
3.根据权利要求1所述的操控方法,其特征在于:所述对虚拟物体进行操控为实时操控或延时操控。
4.根据权利要求1所述的操控方法,其特征在于:所述获得轨迹数据还包括建立人手模型,获得所述与人手模型和人手对应的轨迹数据。
5.根据权利要求4所述的操控方法,其特征在于:所述建立人手模型包括:首先采用骨骼模型识别,对采集单元获得的图像中人手的五个手指的中部关节和手腕部进行识别,找到上述的对应位置,并进行标识,作为标点;通过计算上述标点位移的轨迹数据,同时获得五个手指的平均屈伸度及手掌的仰俯角和倾斜角的轨迹数据。
6.根据权利要求1所述的操控方法,其特征在于:还包括建立位于所述虚拟三维环境内的操控手,并建立操控手与人手之间的运动映射关系;通过所述操控手的运动状态对虚拟物体进行操控。
7.根据权利要求6所述的操控方法,其特征在于:所述人手到操控手的运动映射的方法包括以下之一或组合:指尖映射、关节角映射、关键点映射和基于被操作的虚拟物体的映射。
8.根据权利要求6所述的操控方法,其特征在于:所述操控手包括操控手掌及与操控手掌关联的操控手指。
9.根据权利要求6所述的操控方法,其特征在于:所述操控手采用父子对象的拓扑结构,在所述操控手中,手掌为五个手指的父对象,没有子对象;子对象作为一个对象成员加入父对象,成为父对象的一部分,对父对象进行的各种操作同时对所述子对象有效。
10.根据权利要求9所述的操控方法,其特征在于:所述操控包括对所述虚拟物体的抓移、移动、释放:当操控手与虚拟物体之间满足抓取条件时,调用所述操控手中增加的子对象的操作函数,即当满足抓取条件时,所述虚拟物体成为所述操控手的一个子对象,所述虚拟物体的坐标系与操控手的坐标系相对位置关系固化,虚拟物体被“抓取”,且随着操控手一起被“移动”;当抓取条件不满足时,操控手将该子对象删除,虚拟物体与操控手的坐标系固化关系解除,虚拟物体被“释放”。
11.如权利要求6所述的操控方法,其特征在于,所述操控手与虚拟三维环境的交互规则包括碰撞检测方法和操控手抓取规则。
12.如权利要求1所述的操控方法,其特征在于,所述采集单元采集人手的空间信息包括:通过采集单元中的双摄像头获得两幅人手图像;通过分别在两幅人手图像中寻找对应的匹配像素点,获得空间点坐标;按照上述方法,通过计算每个像素点对应的空间点坐标,确认整个图像的深度信息,以获得人手的空间信息;其中,查找匹配像素点的算法主要分为基于特征的和基于面积的匹配点搜寻两种算法。
13.一种利用如权利要求1至12中任一项所述的操控方法的操控装置,其特征在于,包括:
采集单元,包括双摄像头,所述双摄像头设置有采集频率,用于在环境中识别并采集人手的图像信息,所述图像包括所述图像的深度信息,根据深度信息获取人手的空间信息;
分析单元,对所述空间信息进行分析,获得与人手的运动轨迹对应的轨迹数据;
虚拟单元,建立虚拟三维环境,所述虚拟三维环境中包括虚拟物体;
操控单元,利用所述轨迹数据,建立人手与虚拟物体之间的操控关系,以对所述虚拟物体进行操控。
14.如权利要求13所述的操控装置,其特征在于,所述分析单元内还包括人手建模单元,根据所述图像信息,建立与人手对应的人手模型,与人手对应的轨迹数据同时与人手模型相对应。
15.如权利要求13所述的操控装置,其特征在于,所述操控单元还包括操控手建模单元,用以在所述虚拟单元内建立操控手,并通过所述操控手对所述虚拟物体进行操控。
16.一种电子装置,其特征在于,包括权利要求13所述的操控装置。
17.如权利要求16所述的电子装置,其特征在于,所述电子装置为移动电话、计算机、游戏机或电视。
CN201210181529.9A 2012-06-05 2012-06-05 操控方法、操控装置及电子装置 Expired - Fee Related CN102722249B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210181529.9A CN102722249B (zh) 2012-06-05 2012-06-05 操控方法、操控装置及电子装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210181529.9A CN102722249B (zh) 2012-06-05 2012-06-05 操控方法、操控装置及电子装置

Publications (2)

Publication Number Publication Date
CN102722249A true CN102722249A (zh) 2012-10-10
CN102722249B CN102722249B (zh) 2016-03-30

Family

ID=46948044

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210181529.9A Expired - Fee Related CN102722249B (zh) 2012-06-05 2012-06-05 操控方法、操控装置及电子装置

Country Status (1)

Country Link
CN (1) CN102722249B (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102981623A (zh) * 2012-11-30 2013-03-20 深圳先进技术研究院 触发输入指令的方法及系统
CN103488292A (zh) * 2013-09-10 2014-01-01 青岛海信电器股份有限公司 一种立体应用图标的控制方法及装置
CN103777748A (zh) * 2012-10-26 2014-05-07 华为技术有限公司 一种体感输入方法及装置
CN105224084A (zh) * 2015-09-30 2016-01-06 深圳多新哆技术有限责任公司 确定虚拟物件在虚拟空间中位置的方法及装置
CN105261041A (zh) * 2015-10-19 2016-01-20 联想(北京)有限公司 一种信息处理方法及电子设备
CN105589553A (zh) * 2014-09-23 2016-05-18 上海影创信息科技有限公司 一种智能设备的手势控制方法和系统
WO2016107230A1 (zh) * 2014-12-30 2016-07-07 青岛歌尔声学科技有限公司 一种3d场景中重现物体的系统和方法
WO2016107231A1 (zh) * 2014-12-30 2016-07-07 青岛歌尔声学科技有限公司 一种3d场景中输入手势的系统和方法
CN106056663A (zh) * 2016-05-19 2016-10-26 京东方科技集团股份有限公司 增强现实场景中的渲染方法、处理模块和增强现实眼镜
CN106127552A (zh) * 2016-06-23 2016-11-16 北京理工大学 一种虚拟场景显示方法、装置及系统
CN106774849A (zh) * 2016-11-24 2017-05-31 北京小米移动软件有限公司 虚拟现实设备控制方法及装置
WO2017133166A1 (zh) * 2016-02-03 2017-08-10 上海源胜文化传播有限公司 一种三维人体模型的旋转系统及方法
CN107680164A (zh) * 2016-08-01 2018-02-09 中兴通讯股份有限公司 一种虚拟对象大小调整方法和装置
CN107678652A (zh) * 2017-09-30 2018-02-09 网易(杭州)网络有限公司 对目标物体的操作控制方法和装置
CN107850953A (zh) * 2014-11-05 2018-03-27 威尔乌集团 用于在虚拟现实环境中引导用户的感官反馈系统和方法
CN108027647A (zh) * 2015-06-11 2018-05-11 杜瓦娱乐有限公司 用于与虚拟对象交互的方法和设备
CN108305321A (zh) * 2018-02-11 2018-07-20 谢符宝 一种基于双目彩色成像系统的立体人手3d骨架模型实时重建方法和装置
CN108519817A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 基于增强现实的交互方法、装置、存储介质及电子设备
CN108536288A (zh) * 2018-03-27 2018-09-14 网易(杭州)网络有限公司 虚拟现实中交互操作的处理方法和装置
CN108664126A (zh) * 2018-05-16 2018-10-16 上海大学 一种虚拟现实环境下可变形手抓取交互方法
CN108983978A (zh) * 2018-07-20 2018-12-11 北京理工大学 虚拟手控制方法及装置
CN109656432A (zh) * 2017-10-10 2019-04-19 腾讯科技(深圳)有限公司 虚拟现实环境下的控制方法、装置、设备和存储介质
CN109766005A (zh) * 2018-12-29 2019-05-17 北京诺亦腾科技有限公司 一种vr场景中拿放物体的方法及装置
CN110458857A (zh) * 2019-08-12 2019-11-15 厦门美图之家科技有限公司 中心对称图元检测方法、装置、电子设备及可读存储介质
US10482670B2 (en) 2014-12-30 2019-11-19 Qingdao Goertek Technology Co., Ltd. Method for reproducing object in 3D scene and virtual reality head-mounted device
CN111568197A (zh) * 2020-02-28 2020-08-25 佛山市云米电器科技有限公司 智能检测方法、系统及存储介质
CN112346564A (zh) * 2020-10-26 2021-02-09 江南大学 一种手抓取释放虚拟物体方法
CN112381925A (zh) * 2020-11-13 2021-02-19 广州引力波科技创新发展有限公司 一种基于激光编码的全身跟踪定位方法及系统
TWI756208B (zh) * 2016-04-08 2022-03-01 南韓商三星顯示器有限公司 使用者認證裝置和其輸入感測模組及使用者認證方法
CN115661373A (zh) * 2022-12-26 2023-01-31 天津沄讯网络科技有限公司 基于边缘算法的旋转设备故障监控和预警系统及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101930282A (zh) * 2009-06-27 2010-12-29 英华达(上海)电子有限公司 移动终端、基于移动终端的输入方法
CN102156859A (zh) * 2011-04-21 2011-08-17 刘津甦 手部姿态与空间位置的感知方法
CN102354345A (zh) * 2011-10-21 2012-02-15 北京理工大学 一种具有体感交互方式的医学影像浏览设备
CN102426480A (zh) * 2011-11-03 2012-04-25 康佳集团股份有限公司 一种人机交互系统及其实时手势跟踪处理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101930282A (zh) * 2009-06-27 2010-12-29 英华达(上海)电子有限公司 移动终端、基于移动终端的输入方法
CN102156859A (zh) * 2011-04-21 2011-08-17 刘津甦 手部姿态与空间位置的感知方法
CN102354345A (zh) * 2011-10-21 2012-02-15 北京理工大学 一种具有体感交互方式的医学影像浏览设备
CN102426480A (zh) * 2011-11-03 2012-04-25 康佳集团股份有限公司 一种人机交互系统及其实时手势跟踪处理方法

Cited By (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103777748A (zh) * 2012-10-26 2014-05-07 华为技术有限公司 一种体感输入方法及装置
CN102981623A (zh) * 2012-11-30 2013-03-20 深圳先进技术研究院 触发输入指令的方法及系统
CN103488292A (zh) * 2013-09-10 2014-01-01 青岛海信电器股份有限公司 一种立体应用图标的控制方法及装置
CN103488292B (zh) * 2013-09-10 2016-10-26 青岛海信电器股份有限公司 一种立体应用图标的控制方法及装置
CN105589553A (zh) * 2014-09-23 2016-05-18 上海影创信息科技有限公司 一种智能设备的手势控制方法和系统
CN107850953A (zh) * 2014-11-05 2018-03-27 威尔乌集团 用于在虚拟现实环境中引导用户的感官反馈系统和方法
US11334145B2 (en) 2014-11-05 2022-05-17 Valve Corporation Sensory feedback systems and methods for guiding users in virtual reality environments
US9842434B2 (en) 2014-12-30 2017-12-12 Qingdao Goertek Technology Co., Ltd. System and method for reproducing objects in 3D scene
US10482670B2 (en) 2014-12-30 2019-11-19 Qingdao Goertek Technology Co., Ltd. Method for reproducing object in 3D scene and virtual reality head-mounted device
WO2016107230A1 (zh) * 2014-12-30 2016-07-07 青岛歌尔声学科技有限公司 一种3d场景中重现物体的系统和方法
WO2016107231A1 (zh) * 2014-12-30 2016-07-07 青岛歌尔声学科技有限公司 一种3d场景中输入手势的系统和方法
US10466798B2 (en) 2014-12-30 2019-11-05 Qingdao Goertek Technology Co., Ltd. System and method for inputting gestures in 3D scene
CN108027647A (zh) * 2015-06-11 2018-05-11 杜瓦娱乐有限公司 用于与虚拟对象交互的方法和设备
CN108027647B (zh) * 2015-06-11 2021-08-10 杜瓦娱乐有限公司 用于与虚拟对象交互的方法和设备
CN105224084A (zh) * 2015-09-30 2016-01-06 深圳多新哆技术有限责任公司 确定虚拟物件在虚拟空间中位置的方法及装置
US10957065B2 (en) 2015-09-30 2021-03-23 Shenzhen Dlodlo Technologies Co., Ltd. Method and device for determining position of virtual object in virtual space
CN105224084B (zh) * 2015-09-30 2018-04-24 深圳多新哆技术有限责任公司 确定虚拟物件在虚拟空间中位置的方法及装置
CN105261041A (zh) * 2015-10-19 2016-01-20 联想(北京)有限公司 一种信息处理方法及电子设备
WO2017133166A1 (zh) * 2016-02-03 2017-08-10 上海源胜文化传播有限公司 一种三维人体模型的旋转系统及方法
TWI756208B (zh) * 2016-04-08 2022-03-01 南韓商三星顯示器有限公司 使用者認證裝置和其輸入感測模組及使用者認證方法
CN106056663A (zh) * 2016-05-19 2016-10-26 京东方科技集团股份有限公司 增强现实场景中的渲染方法、处理模块和增强现实眼镜
US10573075B2 (en) 2016-05-19 2020-02-25 Boe Technology Group Co., Ltd. Rendering method in AR scene, processor and AR glasses
CN106056663B (zh) * 2016-05-19 2019-05-24 京东方科技集团股份有限公司 增强现实场景中的渲染方法、处理模块和增强现实眼镜
CN106127552A (zh) * 2016-06-23 2016-11-16 北京理工大学 一种虚拟场景显示方法、装置及系统
CN106127552B (zh) * 2016-06-23 2019-12-13 北京理工大学 一种虚拟场景显示方法、装置及系统
CN107680164B (zh) * 2016-08-01 2023-01-10 中兴通讯股份有限公司 一种虚拟对象大小调整方法和装置
CN107680164A (zh) * 2016-08-01 2018-02-09 中兴通讯股份有限公司 一种虚拟对象大小调整方法和装置
CN106774849B (zh) * 2016-11-24 2020-03-17 北京小米移动软件有限公司 虚拟现实设备控制方法及装置
CN106774849A (zh) * 2016-11-24 2017-05-31 北京小米移动软件有限公司 虚拟现实设备控制方法及装置
CN107678652B (zh) * 2017-09-30 2020-03-13 网易(杭州)网络有限公司 对目标物体的操作控制方法和装置
CN107678652A (zh) * 2017-09-30 2018-02-09 网易(杭州)网络有限公司 对目标物体的操作控制方法和装置
CN109656432A (zh) * 2017-10-10 2019-04-19 腾讯科技(深圳)有限公司 虚拟现实环境下的控制方法、装置、设备和存储介质
CN108305321A (zh) * 2018-02-11 2018-07-20 谢符宝 一种基于双目彩色成像系统的立体人手3d骨架模型实时重建方法和装置
CN108305321B (zh) * 2018-02-11 2022-09-30 牧星天佑(北京)科技文化发展有限公司 一种基于双目彩色成像系统的立体人手3d骨架模型实时重建方法和装置
CN108519817A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 基于增强现实的交互方法、装置、存储介质及电子设备
CN108536288A (zh) * 2018-03-27 2018-09-14 网易(杭州)网络有限公司 虚拟现实中交互操作的处理方法和装置
CN108664126A (zh) * 2018-05-16 2018-10-16 上海大学 一种虚拟现实环境下可变形手抓取交互方法
CN108664126B (zh) * 2018-05-16 2021-06-04 上海大学 一种虚拟现实环境下可变形手抓取交互方法
CN108983978A (zh) * 2018-07-20 2018-12-11 北京理工大学 虚拟手控制方法及装置
CN109766005A (zh) * 2018-12-29 2019-05-17 北京诺亦腾科技有限公司 一种vr场景中拿放物体的方法及装置
CN110458857A (zh) * 2019-08-12 2019-11-15 厦门美图之家科技有限公司 中心对称图元检测方法、装置、电子设备及可读存储介质
CN111568197A (zh) * 2020-02-28 2020-08-25 佛山市云米电器科技有限公司 智能检测方法、系统及存储介质
CN112346564A (zh) * 2020-10-26 2021-02-09 江南大学 一种手抓取释放虚拟物体方法
CN112381925A (zh) * 2020-11-13 2021-02-19 广州引力波科技创新发展有限公司 一种基于激光编码的全身跟踪定位方法及系统
CN115661373A (zh) * 2022-12-26 2023-01-31 天津沄讯网络科技有限公司 基于边缘算法的旋转设备故障监控和预警系统及方法

Also Published As

Publication number Publication date
CN102722249B (zh) 2016-03-30

Similar Documents

Publication Publication Date Title
CN102722249B (zh) 操控方法、操控装置及电子装置
CN110073313B (zh) 使用母设备和至少一个伴随设备与环境交互
Sanna et al. A Kinect-based natural interface for quadrotor control
Piekarski et al. Tinmith-metro: New outdoor techniques for creating city models with an augmented reality wearable computer
Pyo et al. Service robot system with an informationally structured environment
CN107206592A (zh) 专用机器人运动规划硬件及其制造和使用方法
CN107428004A (zh) 对象数据的自动收集和标记
KR101705924B1 (ko) 공간 운영 시스템을 위한 공간, 다중-모드 제어 장치
CN107357427A (zh) 一种用于虚拟现实设备的手势识别控制方法
Frank et al. Toward mobile mixed-reality interaction with multi-robot systems
CN103135758A (zh) 实现快捷功能的方法及系统
KR20140130675A (ko) 화상 처리 디바이스, 및 컴퓨터 프로그램 제품
Wang et al. Three-dimensional reconstruction based on visual SLAM of mobile robot in search and rescue disaster scenarios
CN106030610A (zh) 移动设备的实时3d姿势识别和跟踪系统
Kang et al. A study on the control method of 3-dimensional space application using kinect system
CN105892633A (zh) 手势识别方法及虚拟现实显示输出设备
CN107122045A (zh) 一种基于混合现实技术的虚拟人机示教系统及方法
Aleotti et al. Perception and grasping of object parts from active robot exploration
JP6950192B2 (ja) 情報処理装置、情報処理システム及びプログラム
Rosales et al. GPAtlasRRT: A local tactile exploration planner for recovering the shape of novel objects
CN104952104A (zh) 一种三维人体姿态估计方法和装置
CN104952105B (zh) 一种三维人体姿态估计方法和装置
Gradmann et al. Augmented reality robot operation interface with google tango
KR20140013172A (ko) 이동 로봇의 지도 형성 방법 및 위치 인식 방법
Tikanmäki et al. The remote operation and environment reconstruction of outdoor mobile robots using virtual reality

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C53 Correction of patent of invention or patent application
CB02 Change of applicant information

Address after: 200120 Shanghai city Pudong New Area North Nanquan Road, Room 201, building 1408 room

Applicant after: Shanghai Ding Electronic Technology (Group) Co., Ltd.

Address before: 200120 Shanghai city Pudong New Area North Nanquan Road, Room 201, building 1408 room

Applicant before: Shanghai Dingwei Software Technology Co., Ltd.

COR Change of bibliographic data

Free format text: CORRECT: APPLICANT; FROM: SHANGHAI DINGWEI SOFTWARE TECHNOLOGY CO., LTD. TO: SHANGHAI DINGWEI ELECTRONICS TECHNOLOGY (GROUP) CO., LTD.

C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20160330

Termination date: 20180605

CF01 Termination of patent right due to non-payment of annual fee