CN101002238A - 用于控制设备的方法 - Google Patents

用于控制设备的方法 Download PDF

Info

Publication number
CN101002238A
CN101002238A CNA2005800272448A CN200580027244A CN101002238A CN 101002238 A CN101002238 A CN 101002238A CN A2005800272448 A CNA2005800272448 A CN A2005800272448A CN 200580027244 A CN200580027244 A CN 200580027244A CN 101002238 A CN101002238 A CN 101002238A
Authority
CN
China
Prior art keywords
equipment
control
image
indicating equipment
indicating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CNA2005800272448A
Other languages
English (en)
Inventor
E·蒂伦
J·B·A·M·霍斯坦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN101002238A publication Critical patent/CN101002238A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0325Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C23/00Non-electrical signal transmission systems, e.g. optical systems
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/70Device selection
    • G08C2201/71Directional beams

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Details Of Television Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Image Processing (AREA)

Abstract

本发明描述了一种用于控制设备(D1,D2,D3)的方法,此方法包括将包含照相机(2)的指示设备(1)瞄准与要控制的设备(D1,D2,D3)相关联的对象来完成对选项的选择,和生成由指示设备(1)瞄准的目标区域(A)的图像(3)的过程步骤。目标区域图像(3)被解释来确定所选的选项,并且生成一个相应的控制信号(17)来控制要控制的设备(D1,D2,D3)。从而,在此过程之前或之中检测与要控制的设备(D1,D2,D3)相关的设备描述信息(ID1,ID2,ID3),并且所述过程步骤按照设备描述信息(ID1,ID2,ID3)来执行。本发明还描述了适合应用此方法和指示设备(1)的系统(15),以及用于这样的系统(15)的设备控制接口(8,8′)。

Description

用于控制设备的方法
技术领域
本发明涉及用于控制设备的方法,和指示设备及用于与要控制的设备交互的设备控制接口。
背景技术
指示器(诸如激光指示器或者结合激光源以使光点出现在被指示器所瞄准目标上的“指挥棒”)的使用在最近几年变得广泛。这类指示器基本上是无源设备,因为它们仅能用于指向对象,典型地用于给观众指出在屏幕或者投影仪上的信息条目。但是,它们的用途受到这种情况限制,并且它们不能用于例如直接控制设备。
为了控制设备,诸如任何消费电子设备,例如电视机、DVD播放器,调谐器等等,通常使用遥控器。但是,在普通的家庭中,需要多个遥控器,通常是每一个消费电子设备均有一个控制设备。即使对于熟知他所拥有的消费电子设备的人,记住每一个遥控设备上的每一个按键的实际功能是一个挑战。而且,一些消费电子设备的屏幕显示的菜单驱动导航是不直观的,尤其对那些不具有对该设备可用选项有深入了解的用户来说更是如此。结果就是用户必须不断地检查屏幕上显示的菜单来查找他所要找的选项,并且在遥控器上向下看来搜索合适的按键。经常按键被给予的是不直观的名字或缩写。另外,遥控器上的按键在首先按下模式按键之后,还可以执行另一个功能。
为了消除由多个遥控器带来的混淆,开发出了一个“通用遥控器”的新产品种类。但是,即使通用遥控器也不能期望来完成在当今市场上每一个消费电子设备所提供的所有功能,尤其是因为新技术和特性在不断地被开放出来。而且,现代的消费电子设备所提供的广泛功能使得必须有大量的按键来调用这些功能,需要不方便的大的遥控器来容纳所有这些按键。甚至这些所谓的通用遥控器被限制用于某些设备类型,典型地是消费电子设备,并且不能用于控制其他类型的设备。另外,遥控被限制在要控制的设备的某个范围内使用。如果用户带着遥控器超出设备的范围,他将不再能够控制那些设备的功能,并且遥控器对他来说也没有用处。
发明内容
因此,本发明的一个目的是提供一个更加方便和更加灵活的控制任何电子的或者电气的可控设备的方法,而不论发现设备的环境,并且不需要用户对该设备熟知。
为了这个目的,本发明提供了一种控制设备的方法,此方法包含以下过程步骤:将含有照相机的指示设备瞄准与要控制的设备相关的对象来进行选项选择,生成由指示设备瞄准的目标区域的图像,解释目标区域图像来确定被选择的选项,并且生成相应的用于控制要控制的设备的控制信号。与要控制的设备相关的设备描述信息因此在这个过程之前或者其中被检测到,并且所述过程步骤依照设备描述信息来执行。
“设备描述信息”可以仅仅汇报设备的存在。在另外一个实施例中,还可以用来通知指示设备该设备能够完成的任何功能。设备描述信息可以甚至包含执行这些功能的一组指令,所述指令已经以该设备能够理解的形式进行编码。
而且,设备描述信息可以多种可能的方式影响该方法的步骤被执行的程度。例如,指示设备可以基本上保持惰性,直到它被从附近的设备和对象发来的设备描述信息激活。可以想象,设备描述信息也可以某种方式控制照相机的功能,使得一种类型设备的描述信息致使指示设备的照相机获得高清晰度的图像,而其它类型的设备通过其设备描述信息通知,低清晰度的图像就足够。设备的设备描述信息还可以描述此设备可用的选项类型,并且还提供此设备可用指令的汇总。设备描述信息还可以用于,在任何阶段,解释在操作中已经生成的图像或者控制信号步骤。
依照本发明的方法为指示设备扩展了全新的应用。这样的指示设备是特别通用的控制工具,因为用户只需指向设备或者对象以便基于生成的图像而生成控制信号。特别地,通过接收要控制的设备广播的设备描述信息,用户能够容易地定位(在任何环境中)任何设备,并且使用此指示设备与设备进行交互,而不需要首先自己熟悉附近可用的设备。指示设备的这个功能,加上上述的它自身方便的指示形式,一起使得本发明成为日常生活中无数的情况下功能强大和实用的工具。
用于控制设备的系统包含具有照相机的指示设备,用来生成在指示设备所指方向上的目标区域的图像,使得该图像包含设备自身或者与要控制的设备相关联的对象。系统还包含用于检测由要控制的设备广播的设备描述信息的接收单元,用于分析图像的图像分析单元,用于依照图像分析结果为要控制的设备生成控制信号的控制信号生成单元,和用于将控制信号传送到要控制的设备的应用接口。该系统以图像生成和/或图像分析和/或图像传输和/或控制信号生成依照要控制的设备的设备描述信息来执行的方式设计。
用于控制设备的优选指示设备包含(除了用于生成在指示设备所指方向的目标区域的图像的照相机)用于检测来自要控制的设备的设备描述信息的接收单元。
为了应用使用此指示设备的方法,使用了设备控制接口,此接口与要控制的设备进行交互。这样的设备控制接口至少包含用于分析图像的图像分析单元,用于为要控制的设备生成控制信号的控制信号生成单元,和用于将控制信号传送到要控制的设备的应用接口。如在随后将进行解释的那样,此设备控制接口能够结合在指示设备中,或者可以实现为通过合适的通信接口与指示设备相耦合的外部单元。它也可以结合在要控制的设备之中。
诸如图像分析、生成控制信号等功能,或者执行这些功能的单元和模块能够根据需要和意图分布在上述系统的组成模块中,也就是,指示设备、设备控制接口和要控制的设备。
从属权利要求和随后的描述详细地揭示了本发明的优势实施例和特点。
用户可能将指示设备指向的对象可以是一个设备,例如消费电子设备、家用设备或者在任意环境中的任意种类的电子的或者电气的可控设备,例如自动贩卖机、自动售票机等等。同样,所述对象可以是以某种方式与这样的电子的或者电气的可控设备相关联的任何类型的物体或项目,例如,对象可以是美术馆中的展览品,其中实际要控制的设备可以是位于中央并且距离展览品本身有一定距离的讲解或辅导系统。使用指示设备的便利在于允许用户直接指示所感兴趣的对象,而不必关注与此对象相关联的设备的实际所在之处。为了简单起见,在下文中,要控制的设备还可以在合适的地方简单称为对象。
一个对象可以通过设备描述信息向附近的任何指示设备广播它的存在,设备描述信息可以由与对象相关联的标识模块间歇地或者在规律间隔广播,作为标识标签。在本发明特别的优选实施例中,标识标签以无线电频率被广播。标识模块不需要必须结合在对象或要控制的设备中,并且实际上可以位于距离实际对象或设备有一定距离的地方,因为,对对象的存在或者可用性的广播与对象的实际位置是相互独立的。在这种情况下,将标识模块放在方便的位置就可以了。在某些情况下,例如,如果设备位于中央,并且与其相关联的多个对象分布在较宽的区域内,那么具有多个这样的标识模块广播设备的存在可能特别方便。而且,多个对象中的每一个能够与单独的标识模块相关联。
除了从标识模块被广播出去并且由指示设备进行接受的设备描述信息之外,指示设备还可以广播其自身的用户标识信息,用于由与对象相关联的设备进行检测。这样的用户识别信息可以是“固化(hardwired)”到指示设备中并且标识该特定指示设备的某种编码(类似序列号)。在只允许某一组指示设备与特定设备交互的情况下,可能需要这样的用户标识符,例如,只分发给特定建筑中的雇员的指示设备。
可选地或者附加地,用户标识信息可以是设备的实际用户的某种标识,诸如口令、个人识别码(PIN)或者某种生物统计数据,例如拇指纹或者虹膜描述信息。此类标识在只有某些人才被允许操作或者访问设备的情况下十分有用。一个例子可以是电视机,在某些时间电视机对孩子来说是“超出范围”的;或者研究试验室中的保安系统,仅仅对某些人是可以访问的。用户标识信息可以被固化在指示设备中或者可以由用户以某种方式输入,例如通过合适的输入方式,诸如键盘。为指示设备指定用户标识信息的另外一个方法是通过借助合适的接口对其进行编程,类似已知的对遥控进行编程的方法。
相似地,用于指示设备的用户标识信息可以由以某种方式结合在指示设备之中或之上的标识模块,将其作为标识标签来进行广播。用于指示设备的标识标签也可以优选地以无线电频率进行广播。根据要控制的设备的类型和通过指示设备控制它时所需的安全级别,设备描述信息和/或用户标识信息可以以加密的形式广播。
而且,标识标签可以仅仅在被请求时才进行广播,也就是如果要控制的设备检测到从用户的指示设备广播的用户标识信息,该用户想扫描环境来知道在其附近是否有任何可控设备,则该设备通过广播设备描述信息来进行响应。同样,指示设备也可以仅仅在检测到从其附近设备广播的设备描述信息后,才发送用户标识信息。
为了辅助设备决定是否允许一个指示设备对其进行控制,设备可以将用户标识信息和授权信息(诸如允许的用户标识符的列表)进行对比。如果在授权列表中找到用户标识信息,设备可以断定发出该用户标识信息的指示设备具有对该设备控制的权限。用户标识符列表可以被存储在设备的本地存储器中,或者从外部源(例如PC,记忆棒,因特网等)获得。授权信息同样可以是禁止的用户标识符的列表,即明确禁止与该设备交互的指示设备的用户标识符。授权信息可以与用户标识符的形式相同,例如是口令、序列号、代码片段、生物统计数据等。授权或禁止的用户或者设备的列表可以有规律的更新,或者按需进行更新。
由于指示设备的用户可以在非熟悉的环境(其中用户不需对可用设备熟知)中使用指示设备,可由这种指示设备控制的临近的设备优选通过某种类型的反馈指示器报告或显示给用户。
对象可以起反馈指示器的作用,其在要控制的设备检测到由其附近存在的指示设备广播的用户标识信息时被激活。可选地或者附加地,指示设备可以起反馈指示器的作用,其在指示设备检测到设备描述信息时被激活。
这样的反馈指示器可以,例如,是闪烁的LED,或者可以是从扩音器发出的声音。可视化提供反馈的另一种方法可以是以指示设备上的小指南针的形式,其中箭头转向以便给用户示出对象所位于的方向。同样,反馈可以以触觉的方式回馈给用户,例如,通过使指示设备在用户手中震动来实现。可以使用组合的指示器,例如,指示设备的震动指示在附近存在对象,并且接近对象的闪烁LED来吸引用户向正确的方向注意。
用于生成对象图像的照相机优选被结合在指示设备中,但是同样可以被安装在指示设备上,并且,优选以生成用户瞄准的指示设备前方区域的图像的方式来定向。照相机可以以基本方式构造,或者它可以具有诸如变焦能力或者某些类型滤镜的强大功能。
因此,“目标区域”是在指示设备前方的区域,可以通过照相机捕捉为图像。目标区域的图像(或者目标区域图像)可以仅仅覆盖所指向的目标的小的子集,或者可以包含整个对象,或者还可以包含对象的周围区域。目标区域图像与整个对象相比的大小,可能依赖于对象的大小、指示设备和对象之间的距离,和照相机本身的性能。用户可以位于使指示设备与对象有一定距离的位置,例如用户站在房间的另一端。同样,用户可以手持指示设备与对象相当地接近,以便获得更加详细的图像。
指示设备可以起控制输入的作用,以允许用户指定某个或某些动作。这样的控制输入可以是按钮,用户可以按下该按钮指示要执行一个动作。对控制输入的操作可以编码到合适的信号中,并且与来自照相机的图像一起传输到设备控制接口,在此,在为设备生成控制信号时利用图像对该控制输入信号进行解释。例如,用户可以将指示设备指向对象的代表特定功能的特定部分,诸如,菜单条目的列表中的一个条目,并且同时按下控制输入来指示该条目是被选中的。
为了辅助用户准确地瞄准指示设备,可以在指示设备中或之上安装汇聚光束的光源,并且对准以使产生的光点出现在照相机可以捕捉的目标区域的近于中心的位置。汇聚光束的光源可以是激光光源,诸如当前被用于在多种激光指示器中的那些光源。因此在下文中,假设汇聚光束的光源是激光光源,但是不以任何方式限制本发明的范围。
为了容易地确定用户用指示设备瞄准的对象,设备控制接口的图像分析单元优选通过应用通常的图像处理技术或计算机视觉算法来把目标区域的图像与多个预定义模板相比较。单个预定义模板可能足以比较,或者可能必须把图像数据与一个以上模板相比较。
预定义的模板可以被存储在设备控制接口的内部存储器中,或者同样可以从外部源访问。优选地是,设备控制接口包括具有合适接口的访问单元,用于从例如内部或外部储存器、记忆棒、内部网或因特网获得用于所述对象的预定义模板。依照这种方式,可以由依照本发明的指示设备可以控制的电器的制造商为所述设备的用户制造这些电器可用的模板。模板可以是任何类型对象的图形表示。如果对象是例如在电视屏幕上所显示的菜单的选项,那么模板可以示出该电视的多个菜单选项的位置,这样通过分析当用户把指示设备瞄准到电视时目标区域的图像数据,图像分析单元可以确定所述用户正瞄准哪个选项。
优选地是,可以把用于与要控制的设备相交互的设备控制接口结合到指示设备中。在这种情况下,设备控制接口从照相机直接获得图像。图像分析和控制信号的产生可以在指示设备中进行,并且可以依照适当形式把控制信号从指示设备直接传输到要控制的设备。
另一方面,由于这些单元的能力可能受指示设备的物理尺寸的限制,所述指示设备优选被实现为能在手中舒服地握住,这种图像分析单元可能只足够用于基本的图像分析,而需要较大单元的更高级图像处理可能连同控制信号的产生一起在外部设备控制接口中进行。
在本发明的特别优选实施例中,指示设备包括设备控制接口以及用于向外部设备控制接口传输图像和可选的设备描述信息的传输器。为了从指示设备接收信息,该外部设备控制接口起接收单元的作用,用于接收图像和(可选地)设备描述信息。
作为选择,指示设备可以一起免除图像分析和控制信号产生功能,允许这些任务由外部设备控制接口执行,由此允许以更小、更紧密的形式来实现指示设备。
如上所述的外部设备控制接口可以是独立设备或者可以被并入到已经现有的家庭娱乐设备、个人计算机中,或者可以被实现为专用设备控制接口。可以实现家庭或办公室、公共场所、博物馆等环境中的设备控制接口,使得图像处理和控制信号的产生集中地进行,同时分布在该环境中的多个接收单元可以从任意数目的位置接收图像数据。同样地,也分布在该环境中的多个应用接口可以向位于任何房间中的设备或电器传输控制信号。从而,用户可以把指示设备瞄准到一个房间中的对象以便控制位于不同房间中的设备。
清楚地是,设备控制接口不局限于与单个指示设备一起使用。可以使用任意数目的指示设备来与设备控制接口交互。例如,在家庭环境中,家庭的每一个成员可以具有一个个人指示设备,每一个设备均广播自己的用户标识信息。在公共环境中,例如办公楼或者医院,雇员可以被配备有个人指示设备,对该特定环境广播特定用户标识信息。在博物馆或者美术馆中,每一个参观者可以被发给一个指示设备,该设备可以用用户特定信息编程,例如用户偏爱的讲解信息语言。同样,参观者可以简单地带着他自己的指示设备并使用它。
为了指示设备和设备控制接口的使用最大化,设备控制接口可以被训练来识别对象并且将其与要控制的特定设备相关联。为此,设备控制接口可以具有诸如键盘或者小键盘的接口,使得能够指定关于模板图像或控制设备参数的信息。
目标区域的图像可以包含仅仅与整个图像的显著点相关的图像数据,例如,增强的轮廓、拐角、边缘等,或者可以是一个具有图片质量的精细图像。为了处理图像数据以便确定用户使用指示设备所瞄准的对象,应用计算机视觉技术来寻找用户所指向的对象中的点(也就是)目标点是有利的。
由于目标区域图像可能包含除了用户使用指示设备所指向的实际对象之外的其他条目或者对象,所以优选通过识别图像中包含或围绕目标区域中的特定目标点的对象来确定所选择的对象。在本发明的一个实施例中,目标区域图像中的固定点,优选是通过延伸在指示设备到对象的纵轴方向上的虚拟线所获得的目标区域图像的中心,可以被用作为目标点。
使用计算机视觉算法来处理对象的目标区域图像的方法可以包含检测在目标图像中区分点,决定在对象模板中的对应点,并且开发将目标图像中的点映射为模板中对应点的变换。目标区域图像的区分点可以是对象的区分点或者可以同样是目标附近区域中的点。然后可以使用此变换来确定指示设备相对于对象的位置和方位,使得指示设备的轴与所述对象的交叉点可以位于模板中。此交叉在模板中的位置对应于对象上的目标点并且可以用来容易地确定已经被用户作为目标的对象。依照这种方式,可以将目标区域图像与预定义的模板的比较限制为只识别并比较诸如区别拐角点之类的显著点。在本发明中使用的术语“比较”将理解为广泛意义,即通过只比较足够的特征以便迅速地识别用户所瞄准的对象。
确定用户所选择的对象的另一可能方式是直接比较所接收的在目标点周围的目标区域图像和预定义的模板,以便使用诸如模式匹配之类的算法定位该对象中瞄准的点。
在本发明进一步的实施例中,所述固定在目标区域中的确定位置并且作为目标区域图像的一部分传输到控制单元中的接收器的激光点的位置,可以被用作目标点来定位用户所选择的对象。当激光束撞击由用户所瞄准的对象时出现的激光点可以与目标区域图像的中心一致,但是同样可以偏离所述目标区域图像的中心。
从而本发明总体上提供了一种容易且灵活的方式来与任何环境中的任何类型的电气的或电子的可控设备。为了便于使用,指示设备可以采用拉长形式的指挥棒或笔的形状,所述指示设备可以被用户舒服地握着并且可以容易地随身携带。从而用户可以把指示设备指向对象,而这时所述对象与指示设备仍有一定距离。同样地,指示设备可以采用手枪形式的形状。此外,可以将附加光源安装在指示设备之中或之上,用来照亮指示设备所瞄准的区域,使得用户可以容易地定位对象,即便周围是黑暗的也是如此。
上述指示设备和设备控制接口组合以便给出强大的控制系统,以便实际上在任何种类的环境中使用。例如,可以设想该系统可以在具有可以通过指示设备交互的设备的任何环境中找到用处,例如举几个例子,在办公室、博物馆、医院或者宾馆环境,在这些地方,用户能够使用指示设备以方便的和直观的方式来控制不熟悉的设备,而不需要首先熟识此设备的功能。依照本发明的方法能够被用于任意的电子或者电气可控设备。另外,要控制的设备和与此设备相关联的任何对象能够包含任意数目的模块、元件或者单元,并且可以任意方式分布。
结合附图,从以下详细说明中本发明的其他目标和特征将变得显而易见。但是,应该理解,这些图被设计仅为说明的目的,并且不作为对本发明限制的定义。
附图说明
图1是依照本发明一个实施例的一个指示设备和多个要控制的设备的示意图;
图2是依照本发明的一个实施例的包含指示设备和用于控制设备的设备控制接口的系统的示意图;
图3是依照本发明的一个实施例的指示设备的示意图;
图4是依照本发明的一个实施例的用于控制设备的系统的示意图;
图5是依照本发明的一个实施例的对象、与其相关联的模板和由指示设备生成的目标区域图像的示意图。
在整个附图中,相似的标号表示相似的对象。描述的指示设备是由用户手持和操作的,用户不显示在图中。
具体实施方式
图1显示依照本发明的实施例的多个设备D1,D2,D3和指示设备1。设备D1,D2,D3的每一个通过在规律间隔或者间歇地,从标识模块11、12、13发送设备描述信息ID1,ID2,ID3(例如无线电频率标识标签)来广播自身的存在。标识标签ID1,ID2,ID3由指示设备1中的接收器20来检测。
指示设备1反过来也能够从标识模块10,以无线电频率标识标签的形式广播用户标识信息IU
在图中,指示设备D1是安装有通过标识标签ID1来广播其存在的标识模块11的电视。另一个设备D2,例如是个人计算机D2,安装有用于广播设备描述信息ID2的标识模块12,和用于检测从指示设备1广播出的用户标识信息IU的接收器22。此设备D2能够将接收到的用户标识信息IU与从例如外部源29获得的授权信息AU进行对比。授权信息AU可以是设备D2的授权的和/或禁止的用户的列表。基于此授权信息AU和IU,设备D2能够确定是否允许与指示设备1的用户进行交互。
第三个设备D3利用由标识模块13发送的标识标签ID3广播其存在,并且也通过安装在设备上的LED19提供反馈信息。此LED19能够在标识模块13发送标识标签ID3时闪烁或闪光,或者在设备D3的接收器23检测到从指示设备1广播出的用户标识信息IU时闪烁或闪光。
在图2中,用于控制设备D1(这里是在图1中的电视)的系统15,包含指示设备1、设备控制接口8以及设备D1,设备D1可能是由设备控制接口8可控的多个设备中的一个。
指示设备1包含照相机2,照相机2用于生成在指向方向P上指示设备1的前方区域的图像3。在本实施例中指示设备1就有可伸长的特性,使得指向方向P沿着指示设备的纵轴方向。照相机2位置朝向指示设备1的前方,以便生成用户(在图中未显示)将指示设备1瞄准的前方区域的图像。
指示设备1的接收器10检测设备描述信息ID1,例如由设备D1的标识模块11广播的标识标签。检测到设备描述信息ID1导致反馈指示器(在此例子中是在指示设备1上的LED25)闪烁或闪光,以便向用户(在图中未显示)表示,在附近存在能够由此指示设备1控制的设备。
用户此时能够继续使用指示设备1来选择一些选项或者指定一些要执行的一些功能。为此,用户将指示设备1指向设备D1,并且通过按下指示设备1上的按钮24来表明他的选择。指示设备1前方的目标区域的图像3,设备描述信息ID1和来自该按钮的任何控制输入信息被通过发送单元4传输到外部设备控制接口8,在此它们被接收器5接收。图像3在图像分析单元6中进行处理。图像分析单元6使用已知的图像处理技术来从多个模板中识别最匹配图像3的模板,从而,识别所指向的对象或者设备D3。控制信号发生单元7使用图像分析结果、设备描述信息ID1和任意控制输入信息来生成用于设备的控制信号17。应用接口14在将控制信号17以合适格式27发送给设备D1之前完成任何必需的转换。
从指示设备1传送到设备控制接口8的信息可以被以无线方式进行传输,例如蓝牙,802.11b或者移动电话标准。如果用户携带属于他自身的指示设备,该指示设备可以通过电缆方式连接到设备控制接口。从设备控制接口8发往设备D1的信号可以通过电缆接口或者也可以合适的无线方式进行发送。
指示设备1可以继续发送图像3给设备控制接口8,或者如果在给定长度的时间内没有运动,可以自动地中止传输。为此,指示设备1可以包含运动传感器,在图中未显示。因为指示设备1最可能由电池来供电,在图中也未显示,因而仅仅在需要时传输图像3给设备控制接口是有利的,例如当用户实际操作控制输入24时(例如以按钮的方式),以便延长电池的工作时间。图像数据3的传输可以某种方式在用户一操作控制输入24的时候就启动,并且可以在此后自动停止。
图3示出了指示设备1的可选实施例,以在其自身本地设备控制接口8′中的自身图像分析单元6′和控制信号生成单元7′为特色。此指示设备1能够分析图像数据3、设备描述信息ID1,ID2,ID3和控制输入信息26,来在本地生成用于合适的设备D1,D2,D3的控制信号17。
在此图中,指示设备1被指向对象D1,在此例中为电视D1的屏幕。来自激光光源18的汇聚的光束L和激光点PL出现在目标区域A中,此区域可能包括电视屏幕的一部分或者全部。在瞄准屏幕上需要的部分以便选择所显示的多个菜单项中的一个之后,用户能够按下控制输入按钮24来指示他的选择。不需要整个对象D1显示在目标区域A中,因为对象D1的一部分足够来进行标识。目标区域图像3被在图像分析单元6′中进行分析来识别用户所选的选项,并且图像分析的结果由控制信号生成器7′来使用,连同由电视D1广播的设备描述信息ID1,给出用于电视D1合适的控制信号17。
控制信号17在被通过应用接口14′传输到电视D1之前,经过任意必须的转换变为电视D1可以理解的格式。为了使用方便,应用接口14′以无线的方式与电视D1进行通信,电视D1装备了用于接收来自指示设备1的信号的合适的接收器21。图像分析单元6′,控制信号生成器7′和应用接口14′是本地设备控制接口8′的一部分,本地设备控制接口8′结合在指示设备1中。
如图3所示,能够本地完成图像处理,意味着指示设备1不需要与如图2中所示的分离的设备控制接口8进行通信。因为图像分析的质量可能受指示设备1的物理尺寸的限制,指示设备1更可能被实现为小的、实用的形式,对于图像分析的准确性不是特别重要或者在指示设备不能够与外部设备控制接口8进行通信的情况下这种“独立”实施例是足够的。
此实施例当然可以作为图2所示的实施例的一个拓展,这样指示设备1除了本地设备控制接口8′还利用图2中的通信接口4,5,使得它除了自己的独立功能之外,能够联合外部设备控制接口,诸如家用对话系统,进行操作。本实施例也以指示设备1能够将由照相机2生成的图像存储在本地存储器28中为特色。通过合适的接口,在图中未显示,指示设备1能够将从外部源(诸如记忆棒,因特网,外部设备控制接口等)获得的模板加载到本地存储器28中。
用于广播标识标签的标识模块不需要与受控设备或者与设备相关联的对象物理相连接。图4显示了一个实现例子,其中标识模块是与用户使用指示设备1所指向的对象相隔离的。在博物馆或者美术馆的环境中,例如,由于空间、展览品的主题和艺术家的名字的原因,关于展览品的信息通常受限于仅仅用一种语言进行描述。因为美术馆的参观者可能希望对展示的画进行更多的了解,在此例子中美术馆为每一个参观者提供了用户可以用来指向感兴趣条目的指示设备1,和用来收听关于展览的辅导和讲解信息的头戴受话器30。
标识模块13被结合在设备D3中或者连接到该设备上,设备D3位于画16中,该画是与设备D3相关联的对象。如果该对象的设计允许的话,这样的标识模块13也可以结合在该对象中。标识模块13以有规律的间隔广播标识标签ID3。接收器23接收由经过的参观者所持的任意指示设备所发出的任意用户标识信息IU。反馈指示器19,在此例中为LED,闪烁以向参观者表示他可以了解画16更多的信息。
参观者此时能够将指示设备1指向画16。指示设备1中的照相机2生成画16的图像3。这些图像3与设备描述信息ID3一同被送往设备控制接口8,其可以是分布在博物馆或美术馆中的多个设备控制接口中的一个,或者可以是单个设备控制接口。
头戴受话器30由设备控制接口8(可以处于不同的房间中)驱动,在图中用虚线表示。
图像3在设备控制接口8的图像分析单元6中进行分析,以便识别图像16自身或者参观者指向的画16的特定区域。设备描述信息ID3能够被用于确定参观者在博物馆或者美术馆中的所在之处,使得关于此画16的描述信息27可以被以无线的方式传输给接近参观者所站立位置的设备D3,并且以音频信号37的形式转发到头戴受话器30。这样的场景可能对于在任何时候都具有多个展览和大量参观者的博物馆非常适合。
参观者可利用安装在指示设备1上的光源18,来直接将光束对准画16的特定区域。结果的可见光点(当光束冲击对象16时产生的),将被记录为所生成图像3的一部分,并且能够被用于图像分析过程来识别用户使用指示设备1所指向的点。以此方式,参观者能够指出他所想了解更多的画16中的特定部分。他可以通过瞄准指示设备1并且按下按钮(在图中未显示)来指示画中的特定部分。此控制输入信息与图像3和设备描述信息ID3一同进行处理,可以使得用户能够通过头戴受话器30听到详细的信息。
用户将不是总是将指示设备1指向正前方的对象,更可能的是指示设备1将指向或多或少倾斜角度的对象,因为,通常指向指示设备1比改变自己的位置更方便。这点在图5中进行展示,其显示了由指示设备1所生成的目标区域图像3的示意表示,指示设备是从一定距离以某个角度指向对象16的,使得目标区域A中的对象16(在这个例子中是博物馆或美术馆中的画)的尺寸和透视被变形地显示在目标区域图像3中。
不管指示设备1关于对象16的角度,目标区域图像3通常以目标点PT为中点。光点PL(当从光源18发出的光束L冲击对象16时出现在对象16上)也出现在目标区域图像3中,并且,可能与目标点PT有一定距离,或者可能正巧与目标点PT重合。设备控制接口的图像处理单元将目标区域图像3与预置模板T进行比较来确定用户指向的对象16。
为此,在目标区域图像3中定位沿指示设备1的纵轴与对象16的交叉点PT。然后,能够定位模板T中与交叉点PT相对应的点。
使用边缘和边角检测方法的计算机视觉算法被应用于来定位目标区域图像6中的点[(xa’,ya’),(xb’,yb’),(xc’,yc’)],所述点对应于对象16的模板T中的点[(xa,ya),(xb,yb),(xc,yc)]。
每个点可以被表示为向量,例如点(xa,ya)可以被表示为
Figure A20058002724400181
作为下一步骤,开发变换函数Tλ以便把目标区域图像3映射到模板T:
f ( λ ) = Σ 1 | T λ ( v → i ) - v → i ′ | 2
其中向量vi代表模板T中的坐标对(xi,yi),并且向量vi′代表在目标区域图像3中的对应的坐标对(xi,yi)。参数集合λ包含获得此函数最有效的解的图像的转动和变换的参数,可以被应用来确定指示设备1相对于对象16的位置和方向。计算机视觉算法利用指示设备1内的照相机2被固定并且在指示姿势的方向上“查看”的事实。下一步骤是计算指示设备1的纵轴在指示方向P上与对象16的交叉点PT。此点可以被拿来作为目标区域图像3的中心。一旦已经计算出交叉点的坐标,那么在模板T中定位此点是很简单的事情。
尽管已经采用优选实施例及其变化公开了本发明,然而应当理解在不脱离本发明范围的情况下可以对其进行许多附加的修改和变化。指示设备可以充当在具有电气的或电子的可控设备的家庭或任何其它环境中的通用用户接口设备。简言之,无论在哪里用户可以通过指示来表达意图可能是有益的。其较小的形状因素及其便利且直观的指示模态可以把这种简单的指示设备提升为强大的通用遥控器。作为笔形状的候选方案,指示设备例如还可以是具有内置照相机的个人数字助理(PDA)或具有内置照相机的移动电话。
为了清楚起见,还应当理解贯穿本申请,“一个”或“一种”的使用不排除多个的存在,而“包括”也不排除其它步骤或元件的存在。“单元”可以包括多个块或设备,除非显式地被描述为单个实体。

Claims (13)

1.用于控制设备(D1,D2,D3)的方法,此方法包含如下过程步骤:
-将包含照相机(2)的指示设备(1)指向与要控制的设备(D1,D2,D3)相关联的对象来选择选项;
-生成由指示设备(1)指向的目标区域(A)的图像(3);
-解释目标区域图像(3)来确定所选中的选项,并且生成用于控制要控制的设备(D1,D2,D3)的相应控制信号(4),从而在此过程之前或之中检测与要控制的设备(D1,D2,D3)相关联的设备描述信息(ID1,ID2,ID3),并且所述过程步骤依照设备描述信息(ID1,ID2,ID3)来执行。
2.依照权利要求1的方法,其中,用户标识信息IU被从指示设备(1)发送到要控制的设备(D1,D2,D3)。
3.依照权利要求1或者2的方法,其中,要控制的设备(D1,D2,D3)的设备描述信息(ID1,ID2,ID3)由与该要控制的设备(D1,D2,D3)相关联的标识模块(11,12,13)作为标识标签(ID1,ID2,ID3)进行广播。
4.依照之前任一权利要求的方法,其中,指示设备(1)的用户标识信息被指示设备(1)的标识模块(10)作为标识标签(IU)进行广播。
5.依照之前任一权利要求的方法,其中,用于指示设备(1)的授权信息(AU)被要控制的设备(D1,D2,D3)获得。
6.依照之前任一权利要求的方法,其中,指示设备(1)与要控制的设备(D1,D2,D3)的接近被反馈指示器(19)指示给指示设备(1)的用户。
7.用于控制设备(D1,D2,D3)的系统(15),包含
-指示设备(1),具有用于生成指示设备(1)所指向方向(P)上的目标区域(A)的图像(3)的照相机(2);
-用于检测由要控制的设备(D1,D2,D3)广播的设备描述信息(ID1,ID2,ID3)的接收单元(20);
-用于分析图像(3)的图像分析单元(6,6′);
-用于依照图像分析结果生成针对要控制的设备(D1,D2,D3)的
-用于将控制信号(17)传送给要控制的设备(D1,D2,D3)的应用接口(14,14′),从而系统以按照要控制的设备(D1,D2,D3)的设备描述信息(ID1,ID2,ID3)来执行图像生成和/或图像分析和/或控制信号生成和/或信号发送的方式组成。
8.依照权利要求7的系统(15),包含用于表明要控制的设备(D1,D2,D3)邻近指示设备(1)的反馈指示器(19)。
9.用于依照权利要求7或者8的系统的指示设备(1),包含用于生成在指示设备(1)所指向方向(P)上的目标区域(A)的图像(3)的照相机(2),和用于检测由要控制的设备(D1,D2,D3)广播的设备描述信息(ID1,ID2,ID3)的接收单元(20)。
10.依照权利要求9的指示设备(1),包含与要控制的设备(D1,D2,D3)进行交互的设备控制接口(8′),该设备控制接口(8′)包含
-用于分析图像(3)的图像分析单元(6′);
-用于依照图像分析结果生成针对要控制的设备(D1,D2,D3)的控制信号(17)的控制信号生成单元(7′);
-用于将控制信号(17)发送给要控制的设备(D1,D2,D3)的应用接口(14′)。
11.依照权利要求9或者10的指示设备,包含用于传输图像(3)和,可选地,要控制的设备(D1,D2,D3)的设备描述信息(ID1,ID2,ID3)给外部设备控制接口(8)的通信接口(4),外部设备控制接口基于该图像和/或设备描述信息(ID1,ID2,ID3)生成要控制的设备(D1,D2,D3)的控制信号(17)。
12.用于依照权利要求7或者8的系统的、用于与要控制的设备(D1,D2,D3)进行交互的设备控制接口(8),包含
-用于接收来自指示设备(1)的图像(3)和,可选地,要控制的设备(D1,D2,D3)的设备描述信息(ID1,ID2,ID3)的接收单元(5);
-用于分析图像(3)的图像分析单元(6);
-用于依照图像分析结果和,可选地,要控制的设备(D1,D2,D3)的设备描述信息(ID1,ID2,ID3)生成针对要控制的设备(D1,D2,D3)的控制信号(17)的控制信号生成单元(7);
-用于将控制信号(17)发送给要控制的设备(D1,D2,D3)的应用接口(14)。
13.包含依照权利要求12的设备控制接口(8)的电子地或者电气地可控设备(D1,D2,D3)。
CNA2005800272448A 2004-08-12 2005-08-05 用于控制设备的方法 Pending CN101002238A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP04103900 2004-08-12
EP04103900.9 2004-08-12

Publications (1)

Publication Number Publication Date
CN101002238A true CN101002238A (zh) 2007-07-18

Family

ID=35079218

Family Applications (1)

Application Number Title Priority Date Filing Date
CNA2005800272448A Pending CN101002238A (zh) 2004-08-12 2005-08-05 用于控制设备的方法

Country Status (6)

Country Link
US (1) US20090295595A1 (zh)
EP (1) EP1779350A1 (zh)
JP (1) JP2008511877A (zh)
KR (1) KR20070051271A (zh)
CN (1) CN101002238A (zh)
WO (1) WO2006018776A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011150894A3 (zh) * 2011-06-28 2012-05-10 华为终端有限公司 控制用户设备的方法和装置
CN104330996A (zh) * 2014-11-24 2015-02-04 小米科技有限责任公司 遥控方法及装置
CN108369771A (zh) * 2015-11-24 2018-08-03 黑拉有限责任两合公司 用于汽车应用的远程控制

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7864159B2 (en) 2005-01-12 2011-01-04 Thinkoptics, Inc. Handheld vision based absolute pointing system
US9465450B2 (en) * 2005-06-30 2016-10-11 Koninklijke Philips N.V. Method of controlling a system
US8913003B2 (en) 2006-07-17 2014-12-16 Thinkoptics, Inc. Free-space multi-dimensional absolute pointer using a projection marker system
US9176598B2 (en) 2007-05-08 2015-11-03 Thinkoptics, Inc. Free-space multi-dimensional absolute pointer with improved performance
US8218054B2 (en) * 2009-03-17 2012-07-10 Empire Technology Development Llc Image display system, image display apparatus, image providing apparatus and method thereof
CN102422306B (zh) 2009-04-08 2015-09-09 高通股份有限公司 增强型手持式屏幕感测指针

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5583933A (en) * 1994-08-05 1996-12-10 Mark; Andrew R. Method and apparatus for the secure communication of data
KR0164089B1 (ko) * 1995-12-20 1998-12-01 양승택 무선원격제어 장치 및 방법
US7586398B2 (en) * 1998-07-23 2009-09-08 Universal Electronics, Inc. System and method for setting up a universal remote control
US6804357B1 (en) * 2000-04-28 2004-10-12 Nokia Corporation Method and system for providing secure subscriber content data
DE10110979A1 (de) * 2001-03-07 2002-09-26 Siemens Ag Anordnung zur Verknüpfung von optisch erkannten Mustern mit Informationen
US20030087601A1 (en) * 2001-11-05 2003-05-08 Aladdin Knowledge Systems Ltd. Method and system for functionally connecting a personal device to a host computer
US7224903B2 (en) * 2001-12-28 2007-05-29 Koninklijke Philips Electronics N. V. Universal remote control unit with automatic appliance identification and programming
JP4016137B2 (ja) * 2002-03-04 2007-12-05 ソニー株式会社 データファイル処理装置及びデータファイル処理装置の制御方法
CN1653461A (zh) * 2002-05-09 2005-08-10 凯斯特无线有限公司 能够通过个人装置进行电子交易的方法和系统
JP2004080382A (ja) * 2002-08-19 2004-03-11 Sony Corp 電子機器制御装置および電子機器制御方法
US20040091236A1 (en) * 2002-11-07 2004-05-13 International Business Machines Corp. User specific cable/personal video recorder preferences
US7064663B2 (en) * 2003-04-30 2006-06-20 Basix Holdings, Llc Radio frequency object locator system
AU2003238661A1 (en) * 2003-06-29 2005-01-21 Nds Limited Interactive inter-channel game

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011150894A3 (zh) * 2011-06-28 2012-05-10 华为终端有限公司 控制用户设备的方法和装置
JP2013543155A (ja) * 2011-06-28 2013-11-28 ファーウェイ デバイス カンパニー リミテッド ユーザ機器制御方法及び装置
CN104330996A (zh) * 2014-11-24 2015-02-04 小米科技有限责任公司 遥控方法及装置
CN108369771A (zh) * 2015-11-24 2018-08-03 黑拉有限责任两合公司 用于汽车应用的远程控制

Also Published As

Publication number Publication date
US20090295595A1 (en) 2009-12-03
KR20070051271A (ko) 2007-05-17
EP1779350A1 (en) 2007-05-02
WO2006018776A1 (en) 2006-02-23
JP2008511877A (ja) 2008-04-17

Similar Documents

Publication Publication Date Title
CN101002238A (zh) 用于控制设备的方法
JP4491495B2 (ja) ポインティングデバイスに基づくユーザインターフェイスシステム
JP6202861B2 (ja) デバイスを制御するサーバ、モバイル装置及びそのアクセス方法
US9824578B2 (en) Home automation control using context sensitive menus
JP5886205B2 (ja) 通信機器
US20090285443A1 (en) Remote Control Based on Image Recognition
US8560012B2 (en) Communication device
EP3018574A1 (en) System and method for multi-display
JP2009134718A5 (zh)
CN103403791A (zh) 交互式显示系统中的视觉配对
CN104137480A (zh) 对网络装置的基于传感器的配置和控制
USRE45980E1 (en) Communication device
CN101111874A (zh) 用于控制设备的方法
US20160065828A1 (en) Method for controlling electronic device using ip camera having function of wireless remote controller
KR20070051283A (ko) 제어될 디바이스에 연관된 객체를 찾아내는 방법 및 상기디바이스를 제어하는 방법
KR20160147555A (ko) 이동 단말기 및 그 제어 방법
KR100946673B1 (ko) 디지털기기의 원격 제어 방법 및 시스템
KR100901482B1 (ko) 가상 메뉴 맵을 이용한 원격 제어 시스템 및 방법
US20230394951A1 (en) Mobile terminal and display device for searching for location of remote control device by using bluetooth pairing
KR102106908B1 (ko) 이동 단말기, 및 그 동작방법
KR20230031562A (ko) 가전 장치를 어플리케이션에 등록하는 휴대 단말 및 방법과, 이를 위한 시스템 및 프로그램
KR102578680B1 (ko) 조명 장치를 원격제어할 수 있는 이동 단말기
KR20160067706A (ko) 사물 인식 리모콘 장치 및 이를 이용한 원격 제어 방법
JP2005123780A (ja) 機器制御システム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Open date: 20070718