CN102667689A - 交互式显示器 - Google Patents

交互式显示器 Download PDF

Info

Publication number
CN102667689A
CN102667689A CN2010800418489A CN201080041848A CN102667689A CN 102667689 A CN102667689 A CN 102667689A CN 2010800418489 A CN2010800418489 A CN 2010800418489A CN 201080041848 A CN201080041848 A CN 201080041848A CN 102667689 A CN102667689 A CN 102667689A
Authority
CN
China
Prior art keywords
image
illumination
interactive display
catching
mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2010800418489A
Other languages
English (en)
Other versions
CN102667689B (zh
Inventor
汤米·伊尔莫宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MULTITOUCH Oy
Original Assignee
MULTITOUCH Oy
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MULTITOUCH Oy filed Critical MULTITOUCH Oy
Publication of CN102667689A publication Critical patent/CN102667689A/zh
Application granted granted Critical
Publication of CN102667689B publication Critical patent/CN102667689B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Input (AREA)

Abstract

一种交互式显示装置(100)通过触摸表面(101)在图像层(102)上提供给用户(113)可视图像。该显示装置(100)具有发射红外线光线的照明单元(107),并且通过该触摸表面捕捉在该触摸表面附近的物体的红外线图像组。该显示装置(100)从该红外线图像探测指示物体(112)关于该图像层(102)所位于的接触区域并且在该红外线图像中投射一相应的阴影。该照明单元(107)交替该红外线照明以使每个红外线图像组具有用不同红外线照明获取的图像。结果是阴影的变化由该交互式显示装置(100)使用以探测该指示物体(112)是否接触该触摸表面(101)。

Description

交互式显示器
技术领域
本发明大体上涉及交互式显示器。
背景技术
现有交互式显示器包含在一表面上形成图像的一投影仪或一液晶显示面板、位于该表面后面的一摄像头以及用于探测用户输入的计算机视觉电路。
美国专利申请US2001/0012001 A1揭露了一种这样的显示系统。这一系统包含了一半透明屏幕和一红外线LED(发光二极管)面板、一CCD(电荷耦合装置)摄像头以及一设于该半透明屏幕背面的投影仪。该摄像头对红外线波长起作用,从而当物体相对接近于屏幕或当它们接触屏幕时,探测反射自在该半透明屏幕另一边的物体的红外线。该投影仪在该屏幕上投射可视图像光线。投影仪投射的图像的红外线成份可以被滤出。因此该投射的图像不会扰乱该摄像头。
计算机学会(ACM)出版的由伊扎迪等人所著的“薄视觉:通过薄外形显示器集成的光学多点触摸传感”揭露了另一种类型的交互式显示器。
在这一公开中,使用了放置于LCD(液晶显示器)显示器的背光之后的单独的红外线发射器/探测器对来探测在该LCD显示器上或附近的物体,该LCD显示器因此作为交互式显示器运作。LCD显示器的使用可以克服许多基于投影仪的交互式屏幕的问题。无论如何,如果要在较大的面积上探测输入,该揭露的技术需要许多红外线发射器/探测器对安装在系统上,因此这样的交互式显示器的生产费力并且可能包含高成本。
缺少周围的红外线光线时,该显示器可以通过红外线照明手段来照亮在它的表面上或附近的物体,但是抵制过度的周围的红外线照明很困难。由于阳光或其它强烈的红外线发射照明器的存在,例如卤素灯,使得用红外线摄像头探测在该显示器的表面上的物体复杂化。也就是说,在这种情况下该系统产生的红外线发射可能不够强烈到使附近的物体作为高亮部分出现。例如,一种已知的用于探测触摸显示器表面的手指的技术是探测手指的图像何时变得起皱。扩散屏幕附加在显示表面上,以便触摸中的手指阻碍红外光线被在手指下的该扩散屏幕散播,并且遵循接触的形状形成相对清晰的阴影。然而,在强烈的、相干的光线下,例如阳光,任何物体在即使隔开一定距离的摄像头上投下清晰的阴影。因此,仅仅从阴影的清晰度来探测接触是不可能的。而且,在强烈的周围的红外光线下,摄像头信号可能与测量的光线齐平,使得通常不可能或至少非常困难来区分任何有意义的画面。
美国专利申请20080062123A1揭露了一种交互式视频显示系统。根据摘要,该系统使用闪光灯来允许人和投射的视频图像之间容易的且没有阻碍的交互作用。一摄像头可以同步至该闪光灯,并且该闪光灯可以在红外线光谱范围内。处理系统探测在该摄像头视野内的人的图像并且控制显示,从而投射的视频图像基于人和投射的视频图像之间的交互作用改变。该系统可以在人周围的表面上投射视频图像并且可以基于该人的动作移动在该表面上的投射的视频图像。投射的视频图像可以包括对人的动作作出反应的计算机生成的字符和/或虚拟物体。
美国专利US6339748B1在它的摘要中揭露了提供一种坐标输入系统的目的,在例如背投显示设备的用于图像显示的透射式屏幕上赋予了坐标输入功能,其允许使用较光笔尺寸小和重量轻的光线反射指示器,并改进了使用容易性。该发明的坐标输入系统具有红外线源3,其投射红外线至用于图像显示的透射式屏幕2的背表面上,CCD摄像头4覆盖作为感知范围的透射式屏幕的背表面,并且图像信息处理电路5自该CCD摄像头的输出图像信息生成位于该透射式屏幕2前面的光线反射指示器1的坐标信息。
本发明的目的在于避免与先前技术相联系的问题和/或提供一种对现有技术的替代。
发明内容
根据本发明的一第一方面,提供了一种交互式显示装置,包括:
图像层,配置为根据电子信号向用户提供可感知的可视图像;
触摸表面,其覆盖该图像层或由该图像层形成;
图像捕捉单元,其配置为在特定的不可见频率范围内在给定的图像组捕捉速度来获取连续组所捕捉的图像以表现在该图像层附近的物体;
处理器,配置为从该所捕捉的图像探测指示物体接触该触摸表面的接触区域,并从而相应在所捕捉的图像中引起一组标记;
照明单元,配置为以闪烁照明在小于或等于该图像组捕捉速度的闪光灯速度在该不可见频率范围内照明该接触区域;
该处理器进一步配置为通过识别匹配的来自图像组的所捕捉图像的标记的组来探测该接触区域,基于:
-匹配的连续的所捕捉图像的标记的组的标记的亮度差别;以及
-关于闪烁照明的信息。
该图像层可以配置为穿过具有该不可见频率范围的光线。
该标记中每一个可以呈现为阴影或高亮部分。
该图像捕捉单元可以配置为通过该图像层获得该所捕捉的图像。作为选择,该图像捕捉单元可以形成在该图像层上或形成于该图像层前面,以使该图像层所产生的图像通过该图像捕捉单元对用户可见。
该图像组捕捉速度可以等于该闪光灯速度。
该图像组可以包括两个或更多图像。该图像组的该两个或更多图像可以用等于两邻近图像组的接连获取图像之间间隔的间隔来获取。作为选择,该两个或更多图像可以在突发中获得,以使图像组的图像之间的间隔充分短于获取该组图像所经历的时间段除以图像的数目。该两个或更多图像可以通过使用两个或更多摄像头在该突发中获得。作为选择,该两个或更多图像可以通过高速摄像头获得。
好处是,通过在突发中获得图像,能够减少由以下任一所导致的该组的连续图像之间的变化:指示物体的移动与图像层有关;周围照明的变化;以及在该显示装置内电磁干扰的变化。
该图像组捕捉速度可以为每秒20至60图像组之间。该图像组捕捉速度可以为,例如,每秒30或60图像组。
该关于该闪烁照明的信息可以包括了解在该连续的所捕捉图像中每个的捕捉期间的该照明的量。这一信息可以包括了解涉及期间该识别单元获得该所捕捉图像的时段的该闪烁照明的强度和定时。
该照明单元可以配置为照明该指示物体以使来自该组图像的一第一所捕捉的图像由该照明单元使用一第一功率照明。来自该组图像的一第二所捕捉的图像可以由该照明单元使用大体上不同于该第一功率的一第二功率照明,以使该第二所捕捉的图像由该照明单元与该第一所捕捉的图像不同的照明。来自该组图像的一第三所捕捉的图像可以由该照明单元使用小于该第一和第二功率其中之一并且大于其中另一个的一第三功率照明。该第一功率可以符合于该照明单元的标称功率。该第二功率可以大体上为零。该第三功率可以大体上为该第一功率和第二功率的平均。
根据本发明的一第二方面,提供了一种用于交互式显示装置的方法,包括:
根据电子信号通过图像层向用户提供可感知的可视图像,其中,触摸表面覆盖该图像层或由该图像层形成;
通过图像捕捉单元,在特定的不可见频率范围内在给定的图像组捕捉速度获取连续组所捕捉的图像以表现在该图像层附近的物体;
从该所捕捉的图像探测指示物体接触该触摸表面的接触区域,并从而相应在该所捕捉的图像中引起一组标记;
以闪烁照明在至多该图像组捕捉速度的闪光灯速度在该不可见频率范围内照明该接触区域;
通过识别匹配的来自图像组的所捕捉图像的标记的组来探测该接触区域,基于:
-匹配的连续的所捕捉图像的标记的组的标记的亮度差别;以及
-关于闪烁照明的信息。
根据本发明的一第三方面,提供了一种计算机程序,配置为当由计算机执行时引起根据本发明该第二方面的一种方法。
根据本发明的一第四方面,提供了一种计算机可读存储器媒介,体现有一种计算机程序,当由计算机执行时引发计算机实施根据本发明的该第一方面的一种方法。
仅关于本发明的确定方面的本发明的各种实施例已经举例说明。可以理解,相应实施例也可以应用至其它方面及实施例以产生进一步的非限制举例。
附图说明
下面将通过实施例结合相应的附图来说明本发明,其中;
图1绘示根据本发明一实施例的系统的方框图;
图2绘示根据本发明一实施例在图1中所示的控制单元的结构的简化的方框图;
图3绘示根据本发明的一实施例的示意流程图,用于举例说明在晴朗的白天或强烈且相对相干的周围红外线光线下,从由红外线图像捕捉单元从指示物体后面捕捉的红外线(IR)图像确定指示物体的过程中的一第一阶段;
图4绘示根据本发明一实施例的示意图,描述了当红外线照明开启时,在显示器上的指示物体和在所捕捉图像中取决于该指示物体是否触摸该显示器作为结果的标记;以及
图5绘示根据本发明一实施例的示意图,描述了当红外线照明关闭时,在显示器上的指示物体和在所捕捉图像中取决于该指示物体是否触摸该显示器作为结果的标记。
具体实施方式
在下面的描述中,同样的数字表示同样的元件。
在下面的本发明的各种实施例的例子中,LCD屏幕作为图像层的例子使用。该LCD屏幕可以包括形成可视图像的薄层以及可选择的还包括其它元件,例如背景照明,红外线(IR)照明,穿过该屏幕的入射红外线强度探测,和/或一或更多用于输出声音的扬声器。可以理解,本发明同样也可以用任意其它类型的图像层或者用于更简单表达的屏幕来实施。通常,图像层是用于为用户产生可视图像的任意手段,例如电子显示器,显示投射图像的屏幕或者携带印刷、染色图像或织物图像的物质。无论如何,对于通过该图像层用于探测指示物体的红外线光线,该图像层应当是充分透明或半透明的,在下面将更加详细的加以说明。
图1绘示根据本发明一实施例的系统100的方框图。图1还绘示用户113以便于特定顺序的描述不同元件。该系统100适合于用作交互式用户界面装置,例如,在餐厅中用作内置的动态菜单,在售票处用作显示屏幕,或者一般需要交互式显示和光学指示识别的无论何处。
该系统100包括作为最外面的元件或者作为朝向用户113的触摸表面101,例如钢化玻璃板,还有作为显示屏幕的LCD薄层102以及在该屏幕后面的扩散层103。优选的,为了将在这一说明书中更加详细说明的机器观察性能理由,该触摸表面、该屏幕102及该扩散层103都紧密堆叠在一起,以使从该触摸表面到该扩散层的距离尽可能少。
该扩散层103的目的在于传播来自背景光源(下文中所描述)的光线,以使屏幕上显示的图像从许多方向呈现均匀。这一传播可以用扩散膜或全息背投膜来完成。通过在该屏幕102后面放置扩散层103,与在该屏幕102之前放置扩散层103或省略扩散层103相比,可以获得显著优势。也就是,该扩散层103减少了从该屏幕102的典型光滑背面的反光,反光可能干扰指示物体的识别。当被用户113观看时,设置该扩散层103于屏幕102之后同样有利,否则因为它在屏幕102和观察者之间提供了额外的反射表面,由此而损害了图像质量或特别是对比度。
为了支持上述光学元件,提供了外壳104。该外壳104包括连接至侧壁106的背壁105。侧壁从一端连接至背壁105并且从它们的对立端连接至触摸表面101、屏幕102和扩散层103。背景光源108可以位于外壳104内作为屏幕102的背景照明。该背景光源108可以包括,例如,其中之一或更多:LED灯,光导管,荧光灯,和冷光灯。
在一供选择的实施例中,省略了扩散层103。这可以特别是当通过在其自身内在LCD薄层102上提供了均匀的照明场的冷光灯来提供均匀照明的背景光线的情况下。
侧壁106可以自内侧涂有一些反射材料以传送最大量的光线至屏幕并且最终至系统的用户。依靠反射侧壁可以避免或至少减少可能带给屏幕102后面的摄像头所捕捉的红外线图像中的背景光线的阴影。该反射侧壁也可以有助于传送背景光线至屏幕,在某种程度上在没有允许用户通过屏幕观看系统内的细节的情况下光线能够传播至用户并且在同时提高了系统的视角。除该反射侧壁(或反射外壳)外,该扩散层103可以有助于获得这一效果。更具体的,该侧壁可以为例如镜壁,在这种情况下,在图像层上可以获得图像的特别良好的一致性。
在外壳中,具有在这一特定外壳内的图像捕捉单元107,一红外线摄像头配置为通过扩散层103、屏幕102及触摸表面101观看靠近或在触摸表面101放置的任意物体。图1中进一步有作为有点区域绘示的用于红外线摄像头的红外线光线接收空间107′。该摄像头配置为探测可见光线波长之外的信号。例如,在该摄像头的镜头之前可能有滤光器来提供这一效果。例如,该摄像头可以基于CCD(电荷耦合装置)或CMOS(互补金属—氧化物—半导体)技术。而且,该图像捕捉单元107可以包括多于一个摄像头,例如,为了更好的分辨率,为了屏幕和摄像头之间更小的距离,或为了覆盖更大的LCD屏幕102。
背景光源108和扩散层103之间的距离一般可以取决于摄像头设置所需的空间。对于更加紧凑尺寸的系统,该距离可以减少,例如,通过向前移动该摄像头和/或旋转该摄像头(以指向远离屏幕)以及在该摄像头之前使用镜子或棱镜以捕捉屏幕上的活动。
作为选择,图像捕捉单元107可以由具有许多遍布于平面上的传感器的平面传感结构构成,以识别通过屏幕102的各像素或像素块的入射光线的强度。这样的结构也可以兼作屏幕102后面的可见光线和/或红外线照明,以便背景照明LCD屏幕和/或在弱周围红外线照明下照明LCD屏幕之前的物体。假设平面传感结构作为图像步骤单元107运作,没有了如图1所绘示的红外线光线接收空间107′,代替为在屏幕和图像捕捉单元之间仅有小的类似空间。进一步,该图像捕捉单元可以直接结合至图像平面,例如,该屏幕。
该摄像头107和红外线LED110从该系统的外面可以不被看见,如果忽略了它们的阴影,例如,由于来自背景光线的高度扩散的照明以及因为该系统的反射内侧提供了均匀的进一步的显示表面的照明。进一步,该扩散层103可以防止用户看见任何来自该系统内的细节。
与代表性的使用于平面的照明和传感元件中的多个发射器/探测器对相比,摄像头作为红外线图像捕捉单元代表性的提供了更经济的解决方案。首先,由一个摄像头所覆盖的区域代表性的需要相对高数量的发射器/探测器对,并因此招致了相对高数量的组件和导线。其次,当使用摄像头的时候,该系统的生产可以更简单。另一方面,经由在平面图像捕捉单元中使用发射器/探测器对,系统的尺寸可以减少,并且不需要根据屏幕102以所需的角度准确定位和对准摄像头。
该系统100可以进一步包括红外线反射抑制物109,配置为减少来自背壁以及另外来自任何在摄像头107之前的元件的红外线反射。该红外线反射抑制物109可以包括,举例来说,例如经烟灰覆盖的铝板的黑色板放置于背景光源108周围或在背景光源108后面。作为选择,该红外线反射抑制物109可以额外或作为选择的包括在背景光源108和红外线光线接收空间107′之间的选择性的屏幕。
额外的,该系统100可以包括不可见光源110,例如用于促进基于红外线波长的输入探测的红外线光源。该不可见光源可以包括例如放置于图像捕捉单元的视角外的红外线LED。如果使用摄像头作为图像捕捉单元,该不可见光源110可以位于该摄像头的视野区域所形成的圆锥体外。另一方面,如果使用在LCD屏幕后面或与LCD屏幕结合的平面图像捕捉单元,该LCD屏幕自身可以配置为提供穿过它的视野区域的红外线照明或者红外线照明可以配置为这样产生以使它照明在LCD屏幕的物体而不用首先穿越LCD屏幕。
该系统100可以进一步包括用于提供可听信号至用户113的音频扬声器114。该系统可以配置为,例如,提供轻敲音以指示在触摸表面101上的确定的轻敲,用于增强可操作系统的用户体验并教导用户当指示物体112的识别为光学执行时无需朝触摸表面应用大力。
图2绘示控制单元111的结构的简化的方框图。该控制单元111可以基于,例如,具有适合软件的通用计算机和/或特别适应的计算装置。虽然该控制单元111能够通过基于纯硬件的装置来实施,但是典型的通过利用软件来产生更经济和快捷。
图2中,控制单元111绘示为包括存储器201,其包括工作存储器202、配置为存储软件204的非易失存储器203、描述由系统100和/或在屏幕上不同区域的指示应当如何对待所提供的内容的描述信息205、以及所需要的设置206,例如系统100的手动或自动校准。该软件204可以包括以下项目其中任何一个或多个:操作系统,设备驱动,显示描述应用,超文本标记语言剖析器,图像处理软件,以及用于可以连接至该系统的不同外部设备的驱动,例如打印机、进一步显示器、进一步交互式系统100、音频系统和外部红外线照明设备(未图示)。
该控制单元111进一步包括处理器207,配置为通过执行由工作存储器202中的软件所包含的计算机可执行程序代码来根据软件204控制控制单元111的运行。作为选择,该控制单元可以配置为就地执行非易失存储器中的软件,在此情况下工作存储器可以不是必需的。该控制单元进一步包括输入/输出单元(I/O)208,用于与系统100的其它元件交换信号并且可选择的还与外部设备交换信号。该I/O208可以包括,例如,通用串行总线端口、局域网端口、ISA总线、PCI快速端口、红外线端口、蓝牙元件、及并行端口其中任何一个或多个。作为选择,为了配置为能够与外部设备通讯,该系统100可以设有可转移存储器接收单元209,例如cd-rom或dvd-rom驱动器、存储卡读卡器或记忆棒读卡器,使得能够替换非易失存储器的一部分,例如,用于更新显示在LCD屏幕102上的信息。
为了控制该系统的不同组件的运行并且获得所捕捉的图像,该控制单元或者特别是它的输入/输出单元208与系统100的其它组件之间具有连接,但是为了使附图清晰并未在图中绘示。该控制单元通常具有接收来自摄像头107的信号、探测是否及何处指示于该触摸表面101以及典型的还有以标准方式输出测定的任务,例如仿效计算机绘图板、鼠标或其它已知的指示装置。
通常,该控制单元运行可以包括下面的行为:
-控制屏幕显示期望的图像给用户113
-控制红外线灯110根据要求产生红外线光线,用于显示指示物体112,例如用户113的手指当其接近屏幕时
-获得与来自图像捕捉单元107的所接收的红外线光线相一致的信号
-从该收到的信号探测在触摸表面101的该指示物体
-基于探测到的输入执行预定义的行为,例如,改变在屏幕102上显示的图像或者跟随与探测到该指示物体的所在区域相联系的超链接
-探测周围的红外线光线量相应的控制红外线灯110
可以理解,虽然该控制单元可以由一个分立单元构成,但是该控制单元111作为选择可以与任意其它元件结合或者包括两个或更多的每个用于上述行为其中之一或更多的分立元件。
图3绘示根据本发明的一实施例的示意流程图,用于举例说明从由红外线图像捕捉单元107捕捉的红外线图像确定指示物体的过程。在该过程中,由控制单元111搜索作为在触摸表面101的作为典型指示物体112的举例的用户的指尖。可以理解,用户可以将她的手或至少多于一个手指靠在触摸表面101上,以便可以作为依赖于执行如所指示的产生和探测变化清晰度的许多不同的高亮部分或阴影。
该过程开始301,此时当摄像头运行并且另外典型的屏幕102向用户113显示一些静止或移动画面而且控制单元从摄像头或者如果图像捕捉单元107具有模拟输出就从模拟—数字转换器(可能由该控制单元所包括)接收数字化红外线图像。该数字红外线图像典型的包括一组像素以使对应于触摸表面101的区域分成x列和y行的矩阵。该矩阵中,每个单元代表一个具有典型为8位深度的值的像素,也就是具有256个不同数值表示对那个单元由图像捕捉单元所探测的红外线亮度。
接下来,在步骤302中,识别红外线图像中的候选标记。这些标记可以基于给定阈值的亮度不同、亮度达到给定绝对阈值、标记的亮度梯度符合给定的标准或条件,标记的尺寸符合给定的标准或条件、和/或标记的形状符合给定的标准或条件来确定。
步骤303中,然后从随后的帧检查找到的该些候选标记是否表明指示物体在触摸表面上的可能的移动。可以理解,在正常使用中,相较于显示器上不同的可选择区域的尺寸,用户的手可以大量移动。因此,例如两个手指的标记和手掌的标记在两个紧接的帧之间已经移动是正常的。
在一个实施例中,通过测试不同的偏离量并计算相应的价值函数来检查在紧接的帧中的标记的匹配。例如,让我们假设有五个相互之间具有典型距离的候选标记(当手作为指示物体使用时)。在下一帧中,再次找到五个候选标记,但是不在完全相同的位置。然后测试移动第一帧的所有候选标记以使第一帧的第一候选标记C(1,1)定位至第二帧的第一候选标记C(1,2)上。在这种情况下,第一候选标记在两帧之间具有完美的对应,但是第一帧的其它四个候选标记C(n,1);n=2……5中每一个与第二帧相比在它们的位置上具有一些不同。从每个不同获得绝对值并且求该些绝对值的和以形成价值因素。类似的,对于剩余四个测试计算价值因素,也就是,第一帧的第一候选标记定位在下一帧的第二候选标记上、第三候选标记上、第四候选标记上以及第五候选标记上。然后最低的价值因素表明匹配的标记,也就是,下一帧的标记与第一帧的标记相一致。
该相配的实施例仅是一个简单的举例。当然,最佳的匹配的偏移量可以是这样的,候选标记中没有一个十分符合下一帧的位置。可以使用任何在先的已知方法来识别匹配的标记。
在本发明的一个实施例中,使用不可见光源110的不可见照明是以闪烁方式执行或使用闪光灯,以使在每个第n个红外线图像捕捉时间期间不可见光源110开启,而在其它红外线图像的红外线图像捕捉时间期间该不可见照明关闭或处于降低的强度。因此,紧接的帧中的标记可以具有不同的呈现。例如,可以是在该红外线图像的一些部分,在此表示为帧j的任意帧具有两个标记,由于从指示物体的反射超过周围的照明,两个标记都作为高亮部分呈现。在随后的帧j+1中,该不可见光源110关闭并且该些标记呈现为阴影。在一个实施例中,帧j+1用具有中间功率的不可见光源110来照明,其碰巧导致从指示物体的反射具有大体上与周围红外线光线匹配的强度。因此,没有标记呈现在帧j+1中。然而,帧j和j+2(伴随红外线灯110关闭)然后呈现。这样表面上丢失的标记可以基于帧j和j+2中的可见标记插入。
同样可能的是,与共同移动的指示物体相一致的不同的标记(例如与不同手指相一致)可以呈现不同,归因于不可见光的间接来源以及扩散层103折射光线的受限的能力。例如,周围的不可见光线强度可能远强于由不可见光源110所产生的光线,但是在摄像头图像内急剧的完全下降至最高强度的百分之一部分。
这种情况下,当从到这样的非常明亮的周围光线的来源的直线更远的移动离开时,明亮的周围不可见光线(例如来自太阳的光线)变得远弱于由不可见光源110所产生的光线。匹配过程可以配置为解决不均匀的周围光线强度。
步骤304中,检查候选标记是否及其中哪一个很可能符合于接触的指示物体。计算是基于连续的帧的匹配标记的亮度的不同以及基于关于闪烁的信息,也就是,该不可见光源110何时及何种强度在运行。
可以理解,该不可见光源110的闪烁可以使能自动适应于不同的周围光线条件。已经提到,周围的光线可能导致在该不可见光线频率范围内的不均匀的照明。那么在接触时可能很容易发生当该不可见光源110开启或关闭时指示物体不能与帧的背景区分开,但是闪烁使得可能在至少一半的帧中探测指示物体的标记。
闪烁还有利于使能够探测可能与触摸表面接触放置并且用于配置摄像头系统和/或向该系统提供信息的所谓的标志片。该标志可以包括,例如,条形码。
闪烁还自动适应于完全不同的周围光线条件。例如,该系统100可以放置于可以突然打开或关闭的强卤素灯之下。在非常强且聚焦的光线中,该指示物体投射非常清晰和深的阴影。当指示物体达到与触摸表面接触并且反射来自该不可见光源110的光线至摄像头时,该不可见光源110可以然后产生清楚可区分的在这样的阴影的中心的亮度增加。
同样可以理解,两个连续的帧不是像素到像素的比较,而是识别和比较候选标记。换句话说,本发明的一实施例中的邻接的连续帧的比较不一定是比较该些帧的相同区域。因此,当指示物体沿触摸表面移动时,该比较可能产生远比直接帧到帧比较清晰的结果。
图4绘示根据本发明一实施例的示意图,描述了当红外线照明开启时,在显示器上的指示物体和在所捕捉图像中取决于该指示物体是否触摸该显示器作为结果的标记。图5绘示根据本发明一实施例的示意图,描述了当红外线照明关闭时,在显示器上的指示物体和在所捕捉图像中取决于该指示物体是否触摸该显示器作为结果的标记。
通过图4和图5这两个附图及作比较来举例说明。对于两个不同场景的图,也就是,该指示物体接触触摸表面101以及指示物体进一步远离(例如离开10厘米)触摸表面。可以理解,该系统100的运行大大取决于周围的照明。这种情况下,假设具有相对强且不扩散的光源,例如导致强阴影的单独的卤素灯。让我们考虑图4。当不可见照明(例如红外线光线)开启时,接触的指尖402(或其它指示物体)反射光线进入图像捕捉单元107(图1中绘示)并且减少该手指在不可见频率范围内相对环境光线所导致的阴影。在指尖处,所捕捉图像n中的扫描线401经历了从水平l0到水平l1轻微的降低。另一方面,当指尖402未接触触摸表面101时,该手指反射很无关紧要的量的光线至图像捕捉单元107并且该扫描线上的亮度下降至水平l2。现在,该图像捕捉单元107看见了清晰的阴影。值得注意的是,即使强烈的周围光线可能阻止或干扰识别指示物体的接触,反射率的改变可以使能从强度l1和l2的不同清楚的探测接触。
与图4相比,图5说明了没有使用不可见光线照明所捕捉的帧n+1。在此,无论手指是否触摸了触摸表面101,指尖导致了沿扫描线401的相似的亮度下降。因此,很难确定手指是否实际上触摸了屏幕或是静止的,例如,10厘米或更加远离触摸表面101。
同样可以理解,如果图像在一组变化的照明强度中被捕捉,接触区域将呈现相应变化的亮度。因此,一组图像中的一些图像可能用变化深度的凹陷来标记接触,而该组图像中其它一些图像可能用隆起来标记接触,并且有时反射光线可能补偿该指示物体的阴影使得呈现凹陷或隆起都没有。同样可以理解,如果周围光线不能被控制,成像频率范围内的周围光线的水平和不可见照明的强度决定接触是否导致以及导致多大的凹陷或隆起。如前述所解释,在该不可见照明中使用变化的强度将会确保在每组图像中至少有一个接触为可识别的图像,不管在成像频率范围内的周围光线强度的强度如何。
在本发明的一个实施例中,不可见照明的强度基于测定的成像频率范围内的周围光线强度来控制。周围光线强度的测量可以使用图像的背景像素中的亮度来执行。该环境光线测量可以特别从没有不可见照明所取得的图像来执行。该不可见照明可以调整至一水平,使得该指示物体应当清晰可确定并考虑到指示物体的正常性能、用于探测接触区域的图像捕捉单元算法的性能、和/或需要减少能源消耗。
可以理解,在这一文件中,单词包括(comprise)、包含(include)和含有(contain)都用作开放式表示不具有故意的排他性。而且,术语光线(light)在这里可与发光(radiation)互换。虽然有时使用红外线光线,但是这一术语仅用来方便解释术语光线不打算暗示适合由人眼来感知。
前述说明书已经通过本发明的特定实现和实施例的非限定举例的方式,对发明人目前所计划的最佳模式提供了用于执行本发明的完整的和有益的说明书。无论如何,熟知本领域的技术人员可以理解,本发明并不限制于上述实施例的细节,其可以以使用等同的装置不偏离本发明的特征而以其它实施方式来执行。
而且,上述揭露的本发明的实施例的一些特征可以无需相应使用其它特征而加以利用。同样的,前述说明书应当认为仅是对本发明原理的解释说明,而不是对其限制。因此,本发明的范围仅由附加的专利权利要求来限制。

Claims (15)

1.一种交互式显示装置(100),包括:
图像层(102),配置为根据电子信号向用户提供可感知的可视图像;
触摸表面(101),其覆盖该图像层(102)或由该图像层(102)形成;
图像捕捉单元(107),其配置为在特定的不可见频率范围内和在给定的图像组捕捉速度来获取连续组所捕捉的图像以表现在该图像层(102)附近的物体;
处理器(111;207),配置为从该所捕捉的图像探测指示物体(112)接触该触摸表面(102)的接触区域,并从而相应在所捕捉的图像中引起一组标记;
其特征在于,该交互式显示装置(100)进一步包括:
照明单元(110),配置为以闪烁照明在小于或等于该图像组捕捉速度的闪光灯速度在该不可见频率范围内照明该接触区域;
该处理器(111;207)进一步配置为通过识别匹配的来自图像组的所捕捉图像的标记的组来探测该接触区域,基于:
-匹配的连续的所捕捉图像的标记的组的标记的亮度差别;以及
-关于闪烁照明的信息。
2.如权利要求1所述的交互式显示装置(100),其特征在于该图像层(102)配置为穿过具有该不可见频率范围的光线。
3.如权利要求1或2所述的交互式显示装置(100),其特征在于该标记中每一个呈现为阴影或高亮部分。
4.如前述权利要求中任一项所述的交互式显示装置(100),其特征在于该图像捕捉单元(107)配置为通过该图像层获得该所捕捉的图像。
5.如权利要求1至3中任一项所述的交互式显示装置(100),其特征在于该图像捕捉单元形成在该图像层上或形成于该图像层前面,以使该图像层所产生的图像通过该图像捕捉单元对用户可见。
6.如前述权利要求中任一项所述的交互式显示装置(100),其特征在于该图像组捕捉速度等于该闪光灯速度。
7.如前述权利要求中任一项所述的交互式显示装置(100),其特征在于该图像组包括两个或更多图像。
8.如权利要求7所述的交互式显示装置(100),其特征在于图像捕捉单元(107)配置为在突发中获得该图像组的该两个或更多图像。
9.如前述权利要求中任一项所述的交互式显示装置(100),其特征在于该关于该闪烁照明的信息包括了解在该连续的所捕捉图像中每个的捕捉期间的该照明的量。
10.如前述权利要求中任一项所述的交互式显示装置(100),其特征在于该照明单元(107)配置为照明该指示物体以使:
来自该组图像的一第一所捕捉的图像由该照明单元(107)使用一第一功率照明;
来自该组图像的一第二所捕捉的图像由该照明单元使用大体上不同于该第一功率的一第二功率照明;
来自该组图像的一第三所捕捉的图像由该照明单元使用小于该第一和第二功率其中之一并且大于其中另一个的一第三功率照明。
11.一种用于交互式显示装置(100)的方法,包括:
根据电子信号在图像层(102)上向用户(113)提供可感知的可视图像,其中,触摸表面(101)覆盖该图像层或由该图像层形成;
在给定的图像组捕捉速度和在特定的不可见频率范围内获取连续组所捕捉的图像以表现在该图像层(301)附近的物体(112);
从该所捕捉的图像探测指示物体(112)接触该触摸表面(101)的接触区域,并从而相应在该所捕捉的图像(302)中引起一组标记;其特征在于:
以闪烁照明在小于或等于该图像组捕捉速度的闪光灯速度在该不可见频率范围内照明该接触区域;
通过识别匹配的来自图像组的所捕捉图像的标记的组来探测(303)该接触区域,基于:
-匹配的连续的所捕捉图像的标记的组的标记的亮度差别;以及
-关于闪烁照明的信息。
12.如权利要求11所述的方法,其特征在于该图像组包括两个或更多图像并且该方法进一步包括在突发中获得该图像组的该两个或更多图像。
13.如权利要求11或12所述的方法,其特征在于通过该图像层获得该所捕捉的图像。
14.如权利要求11至13中任一项所述的方法,其特征在于该图像组捕捉速度等于该闪光灯速度。
15.如权利要求11-14中任一项所述的方法,其特征在于该关于该闪烁照明的信息包括了解在该连续的所捕捉图像中每个的捕捉期间的该照明的量。
CN201080041848.9A 2010-02-09 2010-02-09 交互式显示器 Active CN102667689B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/FI2010/050082 WO2011098654A1 (en) 2010-02-09 2010-02-09 Interactive display

Publications (2)

Publication Number Publication Date
CN102667689A true CN102667689A (zh) 2012-09-12
CN102667689B CN102667689B (zh) 2015-06-03

Family

ID=44367318

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080041848.9A Active CN102667689B (zh) 2010-02-09 2010-02-09 交互式显示器

Country Status (5)

Country Link
US (1) US8654103B2 (zh)
EP (1) EP2502132A4 (zh)
CN (1) CN102667689B (zh)
IN (1) IN2012DN03135A (zh)
WO (1) WO2011098654A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5598232B2 (ja) * 2010-10-04 2014-10-01 ソニー株式会社 情報処理装置、情報処理システムおよび情報処理方法
US9448651B2 (en) * 2012-01-09 2016-09-20 Google Inc. Intelligent touchscreen keyboard with finger differentiation
TW201337649A (zh) * 2012-03-02 2013-09-16 Pixart Imaging Inc 光學式輸入裝置及其輸入偵測方法
US20140098063A1 (en) * 2012-10-10 2014-04-10 Research In Motion Limited Electronic device with proximity sensing
US20140172557A1 (en) * 2012-12-19 2014-06-19 FootTrafficeker LLC Interactive display system
US9778796B2 (en) 2013-07-15 2017-10-03 Samsung Electronics Co., Ltd. Apparatus and method for sensing object, and method of identifying calibration pattern in object sensing apparatus
US10901548B2 (en) * 2015-04-07 2021-01-26 Omnivision Technologies, Inc. Touch screen rear projection display

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20010012001A1 (en) * 1997-07-07 2001-08-09 Junichi Rekimoto Information input apparatus
WO2005057921A2 (en) * 2003-12-09 2005-06-23 Reactrix Systems, Inc. Self-contained interactive video display system
US20080071101A1 (en) * 2004-12-24 2008-03-20 Kao Corporation Preparation process of diglyceride-rich fat or oil
CN101253464A (zh) * 2005-08-31 2008-08-27 微软公司 用于交互式显示器的表面的输入方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4041144C2 (de) * 1990-12-21 1998-04-23 Daimler Benz Ag Berührungsempfindliche elektronische Anzeige
JP3794180B2 (ja) 1997-11-11 2006-07-05 セイコーエプソン株式会社 座標入力システム及び座標入力装置
US8300042B2 (en) 2001-06-05 2012-10-30 Microsoft Corporation Interactive video display system using strobed light
US7232986B2 (en) 2004-02-17 2007-06-19 Smart Technologies Inc. Apparatus for detecting a pointer within a region of interest
JP4567028B2 (ja) * 2006-09-26 2010-10-20 エルジー ディスプレイ カンパニー リミテッド マルチタッチ感知機能を有する液晶表示装置とその駆動方法
FI20085794A0 (fi) 2008-08-26 2008-08-26 Multitouch Oy Vuorovaikutteinen näyttölaite

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20010012001A1 (en) * 1997-07-07 2001-08-09 Junichi Rekimoto Information input apparatus
WO2005057921A2 (en) * 2003-12-09 2005-06-23 Reactrix Systems, Inc. Self-contained interactive video display system
US20080071101A1 (en) * 2004-12-24 2008-03-20 Kao Corporation Preparation process of diglyceride-rich fat or oil
CN101253464A (zh) * 2005-08-31 2008-08-27 微软公司 用于交互式显示器的表面的输入方法

Also Published As

Publication number Publication date
CN102667689B (zh) 2015-06-03
EP2502132A4 (en) 2014-01-22
IN2012DN03135A (zh) 2015-09-18
WO2011098654A1 (en) 2011-08-18
US8654103B2 (en) 2014-02-18
EP2502132A1 (en) 2012-09-26
US20120206416A1 (en) 2012-08-16

Similar Documents

Publication Publication Date Title
CN101836180B (zh) 检测视觉系统中的环境光级别
CN101971128B (zh) 屏幕与指针对象之间交互用的交互装置
CN102667689A (zh) 交互式显示器
KR100588042B1 (ko) 인터액티브 프레젠테이션 시스템
RU2456659C2 (ru) Устройство снятия изображения, устройство отображения и снятия изображения и электронное устройство
JPH113170A (ja) 光デジタイザ
US20080062149A1 (en) Optical coordinate input device comprising few elements
CN101644976A (zh) 表面多点触摸装置及其定位方法
CN103365491A (zh) 位置检测装置
EP2335141B1 (en) Interactive display device with infrared capture unit
JP2006031275A (ja) 座標入力装置およびその制御方法
CN103299259A (zh) 检测装置、输入装置、投影机以及电子设备
CN101464745B (zh) 一种背投光源式触摸识别装置及其触摸识别方法
CN201489503U (zh) 表面多点触摸装置
JP5783045B2 (ja) 入力装置および入力システム
CN103348306B (zh) 交互式显示设备以及交互式显示设备中的方法
CN101587404A (zh) 基于摄像头的后定位装置和方法及其应用
CN201498007U (zh) 混合式指掌纹采集仪
US20120169915A1 (en) Image Capturing Apparatus and Electronic Apparatus
CN209170491U (zh) 图像设备及图像处理模组
CN109151283A (zh) 电子设备及图像处理模组
CN109151119A (zh) 具有全面屏的移动装置
CN102132239B (zh) 交互式显示屏
CN209046680U (zh) 具有全面屏的移动装置
CN209692812U (zh) 具有全面屏的移动装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant