CN104040468A - 通过由光学传感器感测位置图案的目标的位置确定 - Google Patents

通过由光学传感器感测位置图案的目标的位置确定 Download PDF

Info

Publication number
CN104040468A
CN104040468A CN201280066462.2A CN201280066462A CN104040468A CN 104040468 A CN104040468 A CN 104040468A CN 201280066462 A CN201280066462 A CN 201280066462A CN 104040468 A CN104040468 A CN 104040468A
Authority
CN
China
Prior art keywords
image
pattern
modulation
expressed
bit patterns
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201280066462.2A
Other languages
English (en)
Other versions
CN104040468B (zh
Inventor
斯特凡·克雷格洛
托比亚斯·布利姆
约尔格·皮克尔
克里斯蒂安·法伊
里纳特·策
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Original Assignee
Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV filed Critical Fraunhofer Gesellschaft zur Forderung der Angewandten Forschung eV
Publication of CN104040468A publication Critical patent/CN104040468A/zh
Application granted granted Critical
Publication of CN104040468B publication Critical patent/CN104040468B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0317Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
    • G06F3/0321Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface by optically sensing the absolute position with respect to a regularly patterned surface forming a passive digitiser, e.g. pen optically detecting position indicative tags printed on a paper sheet
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Position Input By Displaying (AREA)

Abstract

一种用于确定目标(5)相对于将被表示的图像(3)的表示的位置的装置(10)包括用于生成被细分为多个图案部分的位置图案(13)的位置图案生成器(12),其中,每个图案部分具有包括多个位图案的独特的位图案,并且其中,位图案以广义的方式被格雷编码。装置(10)还包括:组合单元(14),用于将所述位置图案(13)与至少一个将被表示的图像(3)组合并提供相应的组合图像;以及光学传感器(15),用于从组合图像中光学地感测图像部,其中,图像部与目标(5)的位置关联。此外,装置(10)包括:滤波器(16),用于从图像部中提取对应于来自位置图案(13)的图案部分的至少一个位图案并提供至少一个相应的提取的图案部分;以及确定器件,用于基于至少一个提取的位图案来确定目标(5)的位置。还公开了一种用于确定目标(5)的位置的方法。

Description

通过由光学传感器感测位置图案的目标的位置确定
技术领域
本发明涉及用于确定(物理)目标的位置的装置和图像处理装置以及可能用于此的光学传感器装置。此外,本发明涉及用于确定目标的位置的方法。特别地,本发明涉及确定目标在、处于或关于屏幕或显示区域的位置。
背景技术
确定物理目标的位置可被应用于用户接口的背景下以例如通过运行在计算机上的软件实现物理目标的实际物理位置的跟踪和/或可视化。具有例如所谓的有形(tangible)用户接口(TUI)。对于有形用户接口(TUI)的应用的领域的分区(subarea),物理目标将被放置在平躺的计算机屏幕上,其位置和可能的方位可由计算机自动地确定。由此,物理目标可链接到屏幕上的表示,从而使这些目标的移动能够引起在计算机中的立即反应。创建物理目标属于屏幕上的表示的印象,表示成为直接“有形的”。本文所公开的技术教导描述了有效地允许这种位置识别的技术。
检测目标的位置的一种方法是通过安装在屏幕上面或下面的相机(例如与透明投影屏幕连接)来感测目标,这例如应用于产品MicrosoftSurfaceTM中。在这种技术的改进中,作为Microsoft Surface2而销售,代替相机的光敏感传感器的矩阵被直接集成到屏幕。因此,在这些方法中,附加的外部相机和/或特定的屏幕硬件是必需的。另一种已知的方法(参见,例如,2000年的具有公开号WO01/15059A2的国际专利申请)在没有特定屏幕的情况下来管理。在这种方法中,图像信号被显示在屏幕上,通过该信号,在屏幕上的位置在通过所应用的目标来识别和估计时可被检测。所应用的目标具有光学传感器和至计算机的无线信道,以便能够识别位置并将其发送到计算机。
通常情况下,期望能够确保叠加的信息图案的不可见性或至少低感知性。在所提到的国际专利申请WO01/15059A2中,描述了信息信号如何能够叠加在背景图像上以从而检测物理目标的位置的不同的选项。在这些修改中的一个中,所叠加的信息依赖于相对于屏幕的位置,即,其识别允许有关位置的直接结论的不同的图案被叠加在屏幕的不同区域。这些图案可在区域或时间上形成。特别地,旨在图案为所有图像区域同时激活。这将导致叠加的图案对用户是不可见的期望。为了解决该问题,WO01/15059A2仅仅建议使用能够辐射在非可见光范围内的光学信号的特定屏幕硬件。未描述利用传统屏幕的解决方案。本发明描述了在适当地选择图案、传感器HW和信号处理时如何可以将位于人类感知的阈值之下但仍可被目标识别的图案插入正常的屏幕。这是“水印嵌入”的原理。
具有公开号US2007/0001950A1的所公开的美国专利申请描述了用于在介质上呈现用于由输入装置感测的数据的方法和系统。该方法将符号设计(诸如嵌入的交互代码(EIC))到显示屏幕(诸如液晶显示器(LCD))上的图像中。具有多个像素的网格限定了在LCD上的EIC图案的尺寸。网格的一个区域用于插入位置数据和/或元数据信息.
发明内容
本发明的目的是提供能够与常规屏幕硬件或投影硬件协作的用于确定目标的位置的装置和方法,并且其中由装置或方法所使用的图案可能不会或仅轻微地被人类观看者感知到。
本发明的目的通过根据权利要求1或25所述的装置、根据权利要求12所述的图像处理装置、根据权利要求12所述的图案感测装置、根据权利要求19所述的方法以及根据权利要求24所述的计算机程序来解决。
根据实施方式,本发明提供了一种用于确定目标相对于将被表示的图像的表示的位置的装置。该装置包括用于至少一个将被表示的图像的输入端、位置图案生成器、组合单元、光学传感器、滤波器和确定器件。位置图案生成器被配置为生成被细分为多个图案部分的位置图案,其中,每个图案部分包括多个位图案(bit pattern)的明确位图案,并且其中位图案以广义的方式被格雷编码(Gray-coded)。组合单元被配置为将位置图案与至少一个将被表示的图像组合并提供相应的组合图像。光学传感器被配置为光学地感测组合图像的图像部(image section),其中,图像部与目标的位置相关。滤波器被配置为从图像部分中提取位置图案的至少一个图案部分并提供至少一个相应的提取的图案部分。确定器件被配置为基于至少一个提取的图案部分确定目标的位置。
因此,几个实施方式基于以下事实:由于格雷编码或广义格雷编码,对于不同的图案部分,位图案利用每个位图案相对较少数量的位管理,以获得相当精细的位置分辨率。由于低位数量,因此可以将位与将被表示的图像组合,从而使将被表示的图像被轻微地修改而使其对于人类观看者不会被感知到或至少不明显。为此目的,利用被传输的用于各个区域或图案部分的信息是预先已知的事实。当信息由位图案传输时,可以在没有任何功能限制的情况下来分配尽可能类似于相邻区域或图案部分的位图案。作为信息,图像区域传输X和Y坐标(特别是其自身的X和Y坐标)。两个相邻区域的特征在于这些坐标中的其中一个增加或减少一个的事实。如果格雷编码用于将数字(number,编号)分配到位图案,则相邻的位图案将总是仅相差单个位。然后,两个区域之间的串扰将具有彼此分开的所有位的符号被建设性地叠加(放大)并且仅单个位“混合”的效果。由此,进行共同位的安全识别并且“混合位”甚至显示了传感器在两个区域之间,而无需扩展符号的编码。
广义格雷编码是指其中从一个图案部分到相邻的图案部分仅一个元素改变的格雷编码,然而其中一个元素可包括一个位(即正常的格雷编码)或一个以上的位。根据定义,广义格雷编码是具有反射(reflective)属性和单位(unit)距离属性两者的编码,其中,单位距离属性可以是一个位或几个位。
因此,相邻的图案部分或区域的位图案几乎不会彼此干扰(仅在一个位中),但与此相反,会在大部分位中建设性地放大彼此。因此,例如,实施将被表示的图像与位置图案的组合的调制序列可明显地比其它位置确定原则中的短。在相邻单元的串扰期间,可以大部分建设性的方式使用组合的信号能量(例如,以调制的形式)。此外,在相邻的图案部分(或区域)中,不必使用彼此正交且具有相应的必需长度的序列。如果传感器部分地感测两个(或更多个)相邻的图案部分,则信号能量将保持所感测的子区域的总和。
当使用用于将被表示的图像与位置图案组合的调制时,可在不通过反过来的扩展增加序列长度的情况下降低调制深度。以此方式,变得切实可行的是,以不可见的方式将水印形式的调制不断地插入所有(或至少某些相关的)的图像区域中并仍然实现快速位置识别。
根据替代实施方式,用于确定目标在将被表示的图像的表示内的位置的装置包括:用于将被表示的图像的输入端;调制图像生成器,用于生成至少一个调制图像,其中,至少一个调制图像被细分为多个字段并且某个字段的调制图像值表示该字段在调制图像内的位置信息;图像调制器,用于利用调制图像调制将被表示的图像,其中,将被表示的图像与利用至少一个调制图像来调制的图像之间的差异在人类感知的阈值之下;输出端,用于利用至少一个调制图像来调制的图像以显示在显示装置上;光学传感器,用于感测通过利用调制图像来调制的图像的图像部分所发射的光学信号,并用于生成相应的感测信号;以及估计单元,用于基于由图像部发射的光学信号确定图像部位置信息,其中,估计单元被配置为从由图像部分发射的光学信号中提取至少部分位于图像部内的至少一个字段的位置信息。
附图说明
下面将参照附图更详细地讨论本发明的实施方式。附图示出了:
图1是根据本文所公开的技术教导的至少一个实施方式的用于确定目标的位置的装置的示意性框图;
图2是根据本文所公开的技术教导的至少一个其它实施方式的用于确定目标的位置的装置的示意性框图;
图3是位置图案或调制图像的示意性表示;
图4是图3的位置图案或调制图像的示意性表示,其中具有用于确定目标的位置的装置的传感器的视角范围的两个实例;
图5是时间(temporal)位图案的示意图;
图6是空间(spatial)位图案的示意图;
图7是时间空间位图案的示意图;
图8是基于时间波形的像素值的时间调制的示意图;
图9是用于示出曼彻斯特编码的时间波形的示意图;
图10是根据至少一个其它实施方式的用于确定目标的位置的装置的示意性框图;
图11是根据至少一个其它实施方式的用于确定目标的位置的装置的示意性框图;
图12是根据本文所公开的技术教导的至少一个实施方式的图案感测装置的示意性框图;
图13是根据本文所公开的技术教导的至少一个实施方式的用于确定目标的位置的方法的示意性流程图;以及
图14A和图14B是根据本文所公开的技术教导的至少一个实施方式的用于确定目标的位置的方法的示意性流程图。
具体实施方式
在下面基于附图更详细地讨论本发明的实施方式之前,应指出,相同的、功能相同的或等效的元件和结构在不同的图中具有相同或相似的参考标号,从而在不同实施方式中具有相同或相似的参考标号的元件和结构的描述可相互交换或可应用于彼此。
图1示出了根据本文所公开的技术教导的至少一个实施方式的用于确定目标的位置的装置的示意性框图。装置10在输入端11处接收要呈现的图像3(即相应的图像数据)。将被表示的图像3通过显示装置4来表示,其中,显示装置4可以是例如屏幕、具有相应投影区域的数字投影仪或用于以光学形式表示信息的另一装置。通过将目标安置到或放置到例如显示装置4的水平方向的显示区域上并将其定向到由显示装置4表示的图像的特定图像部,可移动目标5可占用相对于显示器4的位置。然而,通常,目标5没有必要与显示装置4直接接触,仅仅应该对于目标5的当前位置对应什么图像部是明确的,以利于目标的明确或正确的位置确定。此外,显示装置4的显示区域不一定是水平定向的,而是也可以是倾斜的或垂直的。在这些情况下,当目标被附接时,切实可行的是通过适当措施可被悬挂或放置到显示表面。可替代地,目标也可由用户拿着或引导。在图1中,可移动目标5被示例性地示为棋盘游戏的棋子,但是然而可采取多种其它形状。与目标5的位置相关联的图像部在图1中由在显示装置4的显示区域内的虚线圆圈表示。
通常,可移动的目标5耦接到光学传感器15,从而可移动的目标被特别地引导至所提到的图像部6。以此方式,光学传感器15被配置为以光学的方式感测图像部6。在此,图像部6对应于目标5的位置。为了该目的,光学传感器15可被集成到目标5中或安装在目标上。光学传感器15是用于确定目标5的位置的装置10的一部分。由光学传感器15感测的图像部分被发送到滤波器16。滤波器16被配置为从图像部中过滤出包括图像部的位置信息的一个位图案或几个位图案。在将被表示的图像3通过显示装置4表示之前,一个位图案或几个位图案由已经与将被表示的图像3组合的信息来表示。当滤波器16具有足够可靠性地识别用于在图像部内的位置确定的位图案时,滤波器将位图案或相应的图案部分发送到装置10的确定器件17。确定器件17被配置为基于至少一个提取的图案部分或相应的位图案来确定目标5的位置。
为了将被表示的图像3与用于位置确定的信息组合,用于确定目标5的位置的装置10包括位置图案生成器12和组合单元14。位置图案生成器12提供位置图案13。位置图案13被划分为多个图案部分。每个图案部分包括允许标识相应的图案部分的多个位图案的明确位图案。位图案被格雷编码或广义格雷编码。位置图案通常是二维图案并且图案部分通常形成二维阵列。根据格雷编码,位图案与两个相邻的图案部分仅一个位不同。在图案部分的二维阵列中,为每个坐标使用单个的格雷编码是有用的,其被存储在相应的位图案的两个单独的部分中。即使利用这种由坐标分开的格雷编码,也仍满足从一个图案部分到相邻的图案部分仅一个位改变(其中彼此对角排布的图案部分通常不被认为是相邻的图案部分)的条件。在广义格雷编码中,从一个图案部分到下一个图案部分,一个位或几个位可能改变。在广义格雷编码中,从正常格雷编码中已知的条件被广义化从而使从一个图案部分到相邻的图案部分仅一个元素(例如,具有几个位的位图案的子集(subset,子组))改变。
将被表示的图像3和位置图案13通过组合单元14来组合,从而提供相应的组合图像结果以在显示装置4上显示。
光学传感器15可例如经由柔性电缆或无线链路(无线电链路、红外链路、超声波链路等)连接到滤波器16。以此方式,光学传感器15相对于装置10的其余部分是可移动的。可替代地,柔性电缆或无线链路也可设置在滤波器16与确定器件17之间,或者也可在确定器件17的提供位置信息的输出端处。
图2示出了根据本文所公开的技术教导的至少一个其它可能的实施方式的用于确定目标的位置的装置的示意性框图。装置20包括用于被表示3的图像的输入端11、调制图像生成器22、图像调制器24、光学传感器15和估计单元27。将被表示的图像3在装置20内从输入端11传递到图像调制器24的输入端。图像调制器24的另一个输入端连接到调制图像生成器22的输出端。调制图像生成器22生成被划分为多个字段的至少一个调制图像。在此,特定字段的调制图像值表示字段在调制图像内的位置信息。调制图像具有与图1所示的实施方式的位置图案类似的目的并且甚至可对应于位置图案。类似地,多个字段具有与图1的实施方式的多个图案部分类似的目的。此外,关于功能和/或目的,特定字段的调制图像值也可与结合图1的描述所提及的特定图案部分的明确位图案相比较。
图像调制器24被配置为利用调制图像调制将被表示的图像3。将被表示的图像3可被视为载波信号并且调制图像作为有用的信息,其中术语“有用的信息”针对位置确定的目的。通过调制,将被表示的图像3被稍微改变,由显示装置4显示的调制图像的观看者不会感知到明显的或杂散的(spurious,寄生的)效果。因此,将被表示的图像3与调制的图像之间的差异低于(平均的)人类感知的阈值。以此方式,调制图像对于人类观看者是几乎不可见的,尽管它仍显示在可见波长范围内。期望显示装置4是实施为在可见波长范围内的图像再现的标准显示装置并且不包括通过其能够在不可见波长范围内(例如在红外范围内或紫外线范围内)再现定义的输入信号的任何器件。由于由显示装置4指定的可用波长范围的这种限制,同样引起了在可见波长范围中能够表示用于位置确定所需的调制图像的期望或需要。
光学传感器15感测由通过调制图像所调制的图像的图像部所发射的光学信号并生成相应的感测信号。感测光学信号的图像部与目标的位置相关联。如在图1的背景中所描述的,为此目的,光学传感器15可机械地耦接到目标,例如光学传感器15集成在目标中或安装到目标上。光学传感器15本身表示目标也是可以的。通过估计单元27,可确定图像部位置信息。为此目的,估计单元从由图像部发射的光学信号中从至少部分地位于图像部中的至少一个字段中提取位置信息。为此目的,估计单元可包括解调器,解调器被配置为解调感测信号并为至少一个字段(其至少部分地位于图像部内)确定可能包括在感测信号中的调制信号。字段或位于图像部内的字段的位置信息由解调器所确定的调制信号而产生。
为了从光学信号中提取位置信息,可利用调制是利用定义的参数来执行的事实。所定义的调制参数可对于图像调制器24和估计单元27两者是已知的。调制可例如利用预定义的时间频率或空间频率来执行。由于调制是改变将被表示的图像只要所产生的差异仍低于人类感知的阈值,因此限制由调制所使用的振幅范围也可用作支持差异的参数。在调制的振幅以下可意味着由调制引起的例如整个将被表示的图像3或其颜色通道的亮度变化或强度变化。换言之,利用调制图像来调制将被表示的图像可包括振幅范围并且估计单元可包括振幅敏感滤波器。振幅敏感滤波器可被配置为识别并可能地提取振幅在有限的振幅范围内所具有的调制图像值的时间变化和/或局部变化。然而,噪声影响或将被表示的图像3的变化也可引起调制图像值的相应的时间变化和/或局部变化,然而,其中这些由于其随机性通常不形成有效的位置信息,并且以此方式可在信号处理的进一步进程中被拒绝。当使用感测例如相邻像素组(通常对其应用相同的调制图像值(例外:传感器15在调制图像的两个字段之间的边界上))中的一个像素的若干个传感器或具有若干个像素的一个传感器时,为了实现由传感器15观察的区域中的调制图像值的相对可靠的确定(尽管在将被表示的图像中的噪声影响和差异),存在由各个传感器/传感器像素所感测的调制图像值的交叉检查和/或匹配的选项。
调制在从实际值(例如,亮度(颜色通道)强度等)开始的像素处改变将被表示的图像3,然而,其中一般不知道该实际值,因为提前不知道光学传感器15感测的哪个图像部6,并且因为将被表示的图像3也可动态地改变,特别是当它是TV图像、视频图像、动画或计算机游戏或计算机辅助游戏的图形版本时。然而,在将被表示的图像3在感测的图像部3内是至少周期性地、充分恒定的假设下,图像调制器24可例如以固定的间隔中断调制,并因此将被表示的图像发送到显示装置4。声明仅被表示的图像3在随后或先前的时间间隔中显示或已经显示的信息通过特定的之前的或后续的位图案来发送到估计单元27。估计单元27因此可使用相应的检测信号作为参考值,并以此方式估计单元27可更可靠地和/或有效地确定位置信息。
在图2所示的实施方式中,包括在调制图像中的位置信息也可相对于相邻的字段被格雷编码。估计单元可被配置为通过估计(被格雷编码的)位置信息的位的相对明确的位值以限定图像部位于其中的空间区域来估计所提取的不能被明确地分配给字段的位置信息。此外,(被格雷编码的)位置信息的位的相对不重要的或不确定的位值可指示图像部与调制图像的至少两个字段重叠。通过示例地假设位是二进制位并且可假设由“0”或“1”表示的两个位值,也可为位置信息的一个或几个位产生介于0与1之间的位值,特别是当调制图像的两个或多个字段至少部分地包括在图像部中(调制图像的至少两个字段的重叠或同时存在)时。至少在本文所公开的技术教导的某些实施方式中,感测光学信号的过程可被视为为其中感测由图像部传输的光学信号的特性、强度、颜色组合以及其它的类似过程。相对明确的位值与相对不确定的位值之间的区别可例如借助两个阈值来执行,其中,第一阈值例如是0.1并且第二阈值例如是0.9。对于介于[0;0.1]之间的位值,可假设它相对明确的位值,即“0”。而且,对于介于0.9与1之间的位值,可假设它是相对明确的位值“1”。然而,如果位值处于间隔[0.1;0.9](除了间隔界限之外),则不能做出关于位值的明确声明,从而相应的位值被归类为相对不重要的或不确定的。如上面所提到的,所规定的阈值0.1和0.9将被视为实例并且其它阈值也是可以的,例如用于下侧(bottom)阈值的0.15或0.2或0.25以及用于上侧(top)阈值的0.75或0.8或0.85。相对不重要的或不确定的位值可特别由于不仅调制图像的一个字段包括在由图像传感器感测的图像部中而且图像部还以不同的(区域)比例包括两个或多个字段的事实而引起。介于下侧阈值与上侧阈值之间的位值指示图像部位于调制图案的两个或多个字段之间的边界上。在某种程度上,至少在某些实施方式中,检测信号可被认为是“模糊逻辑(fuzzylogic)”信号,其由估计单元27来估计以确定包括在图像部中的调制图像的字段的概率或比例。在这个意义上,用于确定目标在将被表示的图像的显示内的位置的装置可包括模糊逻辑,模糊逻辑被配置为估计由光学传感器15提供的检测信号并声明调制图案的哪些字段或调制图案的哪些字段包括在图像部中到近似什么比例。
期望在位置确定装置或位置确定方法中允许在任意屏幕位置的几个目标的快速识别、可扩展的(scalable)位置分辨率以及通道间干扰的建设性处理。在用于确定位置的装置的可能实施方式中,通常耦接到目标的光学传感器仅有几个光(light)传感器,每个光传感器感测屏幕的例如1或2nm2面积的小区域作为一点(或者仅作为亮度值或作为颜色红、绿和蓝的三种亮度或作为由图像部发射的光学信号的另一特性)。通过后续图像的时间调制,时间图案在每个小屏幕区域中被传输。这些图案包括时间同步信息、相应区域的X坐标和Y坐标。
通常,无法避免的是,目标或光学传感器可处于两个(或更多个)区域之间的边界上,使得这些区域的图案在传感器上重叠。相邻图像区域的图案之间发生串扰,这导致图案的干扰(通道间干扰,ICI),这可使得难以或不能识别图案(特别是在未应用本文所公开的技术教导的位置确定技术中)。消息传输的常见过程将是使用用于相邻通道中的图案的调制的正交序列,这甚至在符号之间的干扰期间也可被识别。缺点是传输所需的时间必须延长,即,信息可较不频繁地被传输。
本文所公开的技术教导描述了提供几个优点的替代选项。对于此,使用了为各个区域传输的信息是预先知道的事实。当信息通过位图案传输时,在没有任何功能限制的情况下,可以将尽可能相似的位图案分配给相邻区域。图像区域传输作为信息的X和Y坐标,两个邻近区域的特征在于例如这些坐标中的其中一个增加或减小1。如果格雷编码被用于将数字分配给位图案,则相邻的位图案总是仅相差单个位(或者对于广义格雷编码,相差几个位)。然后,两个区域之间的串扰具有以下效果:所有位的符号建设性地叠加(放大)在一个位上并且仅单个位“混合”。这导致了在不扩展符号的编码的情况下的共同位的安全识别并且“混合位”甚至显示传感器在两个区域之间。尽管当使用正交序列时,在任何情况下(例如当两个通道混合了一半的能量时),信号变弱,但在此,对于共同位,不会发生信号的衰减。
该方法甚至在几个相邻区域重叠时(例如,当传感器感测其中几个区域同时位于其中的图像区域时)也有效。在这种情况下,尽可能多的位对应于区域混合的大小,所有其它位建设性地放大,这是由于对于所有符号都是相同的。以此方式,可以将屏幕划分为非常小的区域并利用一个并相同的屏幕调制或多或少地精确地确定目标的局部位置,这取决于由目标的传感器检测的屏幕区域的大小。因此,位置分辨率可被容易地扩展。
如果通过行和列中的(x,y)坐标来进行编号,则相邻区域的y值在x方向上具有相同的值,并且x值在y方向上具有相同的值。当相应的两个区域在传感器处重叠时,这将起到进一步建设性串扰的作用。在不限制本方法的优点的情况下,三个分量同步、X和Y坐标可被划分到并行传输的三个通道,例如蓝色、红色和绿色颜色信息。对于这种情况,RGB传感器用于目标中。
作为一个实例,图3示出了可能的位置图案或可能的调制图像。位置图案或调制图像可延伸到底部和右侧。字母B、R和G代表蓝色、红色和绿色的颜色通道。同步信号通过蓝色通道发射。同步信号在蓝色通道内可以例如是可由估计器件或确定器件识别的周期性调制图案。位置图案的相应图案部分或调制图像的字段的X坐标通过红色通道传输。图案部分或字段的Y坐标通过绿色通道传输。
屏幕被划分为例如1*1mm2的小区域的矩阵。区域在x和y方向上被编号,区域由值对(x,y)明确地识别。每个区域都具有传输区域的坐标(x,y)的调制。
数字X和Y被格雷编码,从而使相邻图像区域的值正好相差1位。X和Y现在以连续的方式传输,其中,传输在所有区域中都同步,即对于所有区域,x或y坐标的“第一”位被同时发送。为了使接收器与发射器同步,发生单独的同步图案。3部分同步、x和y的传输可按顺序进行,然而,它也可被放置到红色、绿色和蓝色的三个颜色通道上。在后一种情况下,同步、X坐标和Y坐标的传输同时发生,如在下面的图中示意性示出地。
图4示出了当子区域在传感器上重叠时的效果的两个实例。两个实例的传感器的视野范围(即感测的图像部)在此被表示为圆圈标记的“传感器1”或“传感器2”。
在传感器1的情况下,传感器正好位于四个区域之间。四个区域的比例以相同的程度混合,即X或Y坐标的位从一个区域改变到相邻的区域将假设中间值,其它位都是明确的,如下表所示。
四个区域中的每以个占有光学传感器15的视野范围的区域的四分之一。
在“传感器2”的情况下,传感器正好位于一个区域上方的中心。该完全感测的区域提供了最大的贡献,其它四个领域仅例如是10%(甚至被忽略的更小区域)。这可如下在表中呈现。
在X和Y方向上,三个区域都受影响,即,两个位结(bit junction)。中央区域的位状态被表示的最多,相邻区域的位按其比例贡献。以此方式,结果变得不太清晰,但具有足够好的信号质量,仍然可暗示哪个区域位于中心。在这里,格雷编码允许两个相邻区域之间的柔和的交叉衰落(crossfading)。
因此,由于相邻区域的调制不干扰,但是相反,彼此建设性地放大,因此可省略彼此正交的相邻区域中的调制序列。因此,调制序列显著较短。总之,所得到的信号被放大,这是由于不仅其序列正交的子区域提供了信号能量,而且所有可见的子区域都提供了信号能量。以此方式,以精细分辨率(小区域)的调制深度到目前为止可降低为使得其保持低于人类感知的阈值。
由于调制是背景图像的叠加并且在检测过程中背景的绝对电平(level)不是已知的,所以调制的“0”或“1”之间的变化以足够高的频率发生是有用的,这是由于否则0与1没有区别。为了这个目的,例如,可使用曼彻斯特编码,其通过序列(1,0)或(0,1)取代格雷编码的每个位。通过这种差分编码,解码器可在两个后续图像之间形成差异以识别调整从0到1或从1到0的转变。绝对亮度电平通常是微不足道的。可替代地,也可每n个位使用这种类型的曼彻斯特编码或可以合适的间隔结合导频单元(pilot cell)。
综上所述,本发明至少在以下几点中不同于现有技术:
-在串扰过程中可以建设性的方式主要利用相邻单元的调制的信号能量,而无需使用邻近区域中的正交序列。如果传感器部分地感测两个(或多个)相邻区域,则信号能量保持所感测子区域的总和。
-当通过传感器感测的区域包括几个调制区域时,该系统仍然可运行。系统可在区域内扩展,即,其可在相同数量的图像区域的较大和较小屏幕上工作。
-调制深度可降低,而无需通过反过来的扩展来增加序列长度。以此方式,以不可见方式以水印的形式将调制不断地插入所有图像区域中并仍允许快速的位置识别变得切实可行。
图5示出了可被用于将被表示的图像3的时间调制的位置图案13或调制图像。位置图案13被划分为几个图案部分,其中每个图案部分包括像素或多个像素。作为一个实例,图案部分的部以放大的方式表示。由于属于该部的所有像素属于相同的图案部分,因此它们都遵循相同的时间位图案。图5所示的时间位图案示例地包括八个位。作为比较,在图5中示出了属于位置图案13内的邻近于右侧的图案部分的其它位图案。由于这是相邻的图案部分,所以位图案根据格雷编码仅相差一个位(在此是第三位)。
图6示出了可在图案部分内出现的空间位图案。空间位图案可以是例如3×3矩阵或4×4矩阵(一般是m×n矩阵),并且可能在相应的图案部分内重复。在这种情况下,光学传感器15还包括像素矩阵(其包括至少与空间位图案一样多的像素)。
图7示出了其中像素阵列的各个像素根据特定时间图案而改变的时间空间位图案。
对于图5的时间位图案、图6的空间位图案和图7的时间空间位图案,以下情况额外地适用:位置信息也可被划分到将被表示的图像的彩色显示器的不同颜色通道。
图8示出了利用位置图案或调制图像来调制将被表示的图像3的原理。图8中的上侧时间表示意地表示将被表示的图像3的像素随着时间变化的亮度曲线。为了简单起见,假设该像素的亮度值在特定的时间间隔内保持一致,例如由于将被表示的图像3在该时间间隔期间是静止图像。一般而言,将被表示的图像不一定是静止图像。相反,也可使用其中亮度值通常不断变化的动态图像(诸如TV图像或视频编码的图像)。此外,应指出,亮度值被认为仅是将被表示的图像的图像特征的一个实例,并且也可使用其它图像特征。
在中间,图8示出了与将被表示的图像的上述像素对应的图案部分的位图案,即图案部分与将被表示的图像的所提到的像素位于其中的区域相关联。位图案是在位图案开始和位图案结束之间扩展的二进制时间图案。
利用位置图案或调制图像调制将被表示的图像导致了图8的下侧时间表中示意示出的亮度曲线。图案部分的位图案引起像素的亮度值的变化,其中,亮度变化的振幅对应于例如最低有效位(LSB)。例如,像素的亮度信息或像素的颜色通道的强度信息可包括256个不同亮度或强度级的分辨率。当调制的振幅对应于最低有效位LSB时,将被表示的图像的调制振幅与位分辨率或将被表示的图像的的颜色通道之间的比例为近似0.4%。这种相对于将被表示的图像的整个位分辨率的小调制通常不会被人类观看者感知到。甚至调制振幅与位分辨率之间的比例的10%的值仍然可低于人类感知的阈值,特别是当调制在时间和/或空间上分布的时候,从而使得不能或很难被人类观看者感知到。调制振幅与亮度或强度分辨率(所谓的“调制深度”)之间的比例的其他可能的值是5%、3%、2%和1%。
组合单元14或图像调制器24可被配置为保持将被表示的图像3临时为恒定的,即“冻结”将被表示的图像3以以这种方式产生静止图像并通过确定器件17或估计单元27提高位置图案的识别。
图9示意性地呈现了时间位图案到被曼彻斯特编码的位图案的转换。可例如通过将时钟信号与位图案进行异或运算来获得被曼彻斯特编码的位图案。换言之,位图案以二进制的方式调制时钟信号的相位位置。曼彻斯特编码的另一个可能的解释是曼彻斯特编码的位图案的边沿相对于时钟信号携带信息。根据IEEE802.3的编码定义,在图9中使用的,下降沿意味着逻辑0并且上升沿意味着逻辑1。因此,在这种情况下,每个位具有至少一个可从其得出时钟信号的边沿。曼彻斯特编码是自同步的并独立于DC电压电平。如上面已经提到的,独立于将被表示的图像或其像素的当前绝对亮度值,可识别调制从0到1或从1到0的转变。
图10示出了根据本文所公开的技术教导的其它实施方式的用于确定目标的位置的装置的示意性框图。用于确定位置的装置包括第一分离单元14,第一分离单元14又包括光学传感器15、滤波器16和发射器36。分离单元14相对于包括确定器件和接收器38的其它可能的分离单元是独立的。发射器36被配置为发射用于确定目标的位置所必需的目标位置数据或中间数据。因此,中间数据是在从光学传感器到确定器件17的信息传输中出现的数据。特别地,分离单元40可耦接到目标5或集成到目标中。以此方式,目标与分离单元40可相对于将被表示的图像的通过显示装置4的表示一起移动。接收器38和确定单元17相对于显示装置和/或连接到其的计算机系统(图像数据源(例如,DVD播放器、录像机、TV接收机等))可以是相对固定的。可例如基于无线电信号、红外信号、超声波信号或其它可能的传输技术将目标位置数据或中间数据从发射器36传输到接收器38。
图11示出了其结构与根据图10中所示的实施方式的装置类似的用于确定目标的位置的装置的示意框图。在图11中所示的实施方式中,第一分离单元14还包括确定器件17,从而位置数据可在分离单元40内被检测。因此,发射器36将位置数据发送到接收器38,接收器38将位置数据提供至例如计算机系统、另一系统或图形用户接口以进行进一步处理。
图12示出了根据本发明的技术教导的另一实施方式的显示装置4和图案感测装置30的示意性框图。图案感测装置30包括光学传感器15、滤波器16、格雷解码器32和接口34。类似于结合用于确定目标的位置的装置所描述的,光学传感器15被配置为光学地感测组合图像(其包括将被表示的图像和位置图案的组合)的图像部6。图像部或描述图像部的数据从光学传感器15发送到滤波器16。滤波器16被配置为从图像部6或相应的图像部分信息中提取位置图案的至少一个被格雷编码的图案部分。格雷解码器32被配置为解码被格雷编码的图案部分并提供解码信息。由于提取至少一个格雷编码的图案部分可受益于结合解码被格雷编码的图案部分而检测的信息或在格雷解码器32的输出端处的解码信息,因此滤波器16和格雷解码器32也可协作或集成到单个单元中。解码信息从格雷解码器32传递到接口32,接口32提供解码信息或从其得出的信息以在图案感测装置30外部进行进一步处理。类似于已经在图10和图11中示出并描述的第一分离单元40,可示例地使用图案感测装置30。因此,图案感测装置30可耦接到目标5或集成到其中,以便允许目标5的位置感测。接口34可以是无线电发射器、红外发射器、超声波发射器、电缆连接或用于将信息发送到外部接收器的不同的适当接口。
可选择组合图像中的位置图案部分使得其处于人类感知的阈值之下。此外,位置图案部分可表现与振幅、颜色信息、空间频率和/或时间频率相关的定义特性。滤波器16可被配置为从组合图像中提取对应于位置图案部分的定义特性的图像部分。特别地,组合图像中的位置图案部分可以是将被表示的图像的轻微调制(诸如,例如,时间调制、空间调制或时间空间调制),从而位置图案部分示例地对于亮度值或强度值仅具有有限的振幅。
当组合图像基于将被表示的图像与位置图案的调制时,滤波器16可包括用于解调组合图像的解调器。
位置图案可包括至少一条时间同步信息并且图案感测器件可包括用于基于同步信息同步图案感测器件30的同步器件。
图13示出了根据本文所公开的技术教导的至少一个实施方式的用于确定目标的位置的方法的示意性流程图。在步骤52中,生成位置图案,其被细分为多个图案部分,每个图案部分都包括多个位图案的明确位图案。位图案被格雷编码。位置图案可动态地生成或生成为使得所存储的位置图案从存储器中读出并被提供以进行进一步处理。在此的位图案的格雷编码意味着属于相邻图案部分的两个位图案至多相差一定数量的位。根据经典的格雷编码,相邻图案部分的位图案仅相差一个位。根据格雷编码的广义定义,从一个图案部分到相邻的图案部分,位图案的几个位可能改变,然而,其中,通常不会超过上限。特别地,从一个图案部分到相邻的图案部分,可提供总是相同数量的位(示例地总是两个位或三个位)改变。以此方式,相邻图案部分的位图案彼此类似。由于格雷编码,在位图案的编码中没有例如会出现在传统的二进制编码中当从二的一个幂到二的下一更高幂转变时的急剧变化。
在方法的步骤54中,位置图案与至少一个将被表示的图像组合并提供相应的组合图像。被表示的至少一个图像可以是来自将被表示的图像的序列中的单个图像,从而位置图案可与不同的将被表示的图像在不同的时间点组合。即使通过改变将被表示的图像使得稍后识别位置图案变得更加困难,但是也可通过合适的措施相对可靠地识别位置图案。特别地,将在该背景下讨论位置图案的曼彻斯特编码或定期地插入参考图像,其不与位置图案组合并且因此允许例如通过形成差异得出位置图案的结论。在用于确定目标的位置的方法的步骤56中感测组合图像的图像部。在此的图像部与目标的位置相关。这意味着目标的特定位置是与特定的图像部相关联。特别地,目标可以被放置在将被表示的图像的表示上或其内,并因此可隐藏或占用图像部。该隐藏的图像部或由目标所占用的图像部随后可对应于所感测的图像部。此外,隐藏的图像部或由目标所占用的图像部的仅一部分被感测并被进一步用于确定位置的方法中也是可以的。在某些实施方式中,可不仅提供仅一个被检测的图像部,而且还可提供与目标的不同区域(示例地,第一边缘区域和第二边缘区域)相关联的两个图像部或几个图像部。以此方式,可以不仅确定目标的位置,而且还可确定目标相对于将被表示的图像的表示的方位(位置),这是由于具有目标的两个或多个位置数据,并且可在两个或多个特定于目标的点与两条或多条检测的位置信息之间做出联系(connection,连接)。
在用于确定位置的方法的步骤58中,从图像部中提取位置图案的至少一个图案部分。此外,提供相应提取的图案部以进行进一步处理。提取图案部分可通过用于识别图案的方法来进行。在此有帮助的是,由于位图案的格雷编码,位图案可相对较短并且两个或多个图案部的相邻的关系也反映在类似的相应位图案中。由于图像部可不仅感测单个图案部分,而且也可感测两个或多个图案部分,因此对于感测两个或多个图案部分也是可以的。如将在下面描述的,目标的中间位置(如果适用的话)可从所述信息中检测。
目标的位置在步骤60中基于提取的至少一个图案部分来确定。由于位置图案被细分为多个图案部分并且位置图案与至少一个将被表示的图像组合,因此可在提取的至少一个图案部分与将被表示的图像内的点或区域之间做出联系。目标的位置可匹配将被表示的图像的这个点或区域或者以通常之前已知的某种方式与所述的点或区域关联。
在步骤54中将至少一个将被表示的图像与位置图案组合可包括利用位置图案调制将被表示的图像。此外,生成位置图案可包括位置图案的曼彻斯特编码。
用于确定目标的位置的方法可额外地包括将确定位置所需的目标位置数据或中间数据从发射器发送到接收器。
图14a和图14b示出了用于确定目标的位置的方法的另一潜在实施方式的示意性流程图。方法包括从图13已知的步骤52至58,所以在此参考结合图13进行的描述。其中基于被提取的至少一个图案部分来确定目标的位置的步骤60将在步骤62至66中更详细地描述。
在步骤62中,基于提取的图案部分和单独的位图案部分的信号强度确定位概率(probability)图案。位概率图案呈现相对可靠的位图案部分和相对不确定的位图案部分。特别地,所检测的位值的可靠性或置信度(confidence)也可脱离预假设的位值来确定。位值和位概率值也可示例地以介于两个常规位值之间的中间值的形式来表示。示例地,两个常规位值可以是逻辑“0”和逻辑“1”,并且在从0到1的间隔的中间值可指示位将更可能是逻辑值“0”还是逻辑值“1”。例如,利用中间值0.5,不能做出关于相应的位是位值“0”还是“1”的明确声明。为了能够表示中间值,位值可以比实际位图案更高的分辨率表示为模拟信号或数字信号(即离散化的更多步骤)。
在步骤64中,通过利用图案部分的格雷编码检测相对可靠的位图案部分,使潜在的图像部位置限于图像部中的图案部分的一个图案部分或几个图案部分。相对可靠的位图案部分可通常被解释为使得它们指示属于存在于图像部中的图案部分的不同位图案的匹配位图案部分。由于格雷编码,图像部的近似位置可已经被检测,其中精度依赖于至多有多少图案部分可存在于由光学传感器感测的图像部中。
除了刚刚描述的潜在图像部位置的相对粗糙限制,相对于两个或多个图案部分的图像部的中间位置的测量随后可通过相对不确定的位图案部分来确定,如在用于确定目标的位置的方法的步骤66中所示。示例地,可使用包含在图像部中的图案部分的光学信号重叠和相应的重叠光学信号由光学传感器15感测的事实以用于该目的。特别地,利用亮度和/或强度值,而且还利用光学信号的不同特性,图像部内的图案部分的区域部分有助于确定由相应图案部分发射的光学信号进入由光学传感器15提供的感测信号的程度。感测信号示例地表示由在较大或较小程度上包含在图像部中的不同图案部分发射的各个光学信号的加权和。这里的加权因子是包含在图像部中的相应图案部分子区域与图像部的整个区域的比例。
根据本文所公开的技术教导的至少一个实施方式的图像处理装置包括:用于将被表示的图像的输入端;调制图像生成器22,用于生成至少一个调制图像,调制图像被细分为多个字段并且某个字段的调制图像值表示字段在调制图像内的位置信息;图像调制器,用于利用调制图像调制将被表示的图像,将被表示的图像与利用调制图像来调制的图像之间的差异在人类感知的阈值之下;以及输出端,用于利用调制图像来调制的图像以显示在显示装置上,显示装置可连接到输出端,从而使位置信息可通过估计所显示的并利用调制图像调制的图像来重建。
最后,将引用图像处理装置和可能存在但不是必要的用于确定目标的位置的装置的某些技术特征。图像处理装置和用于确定位置的装置可特别包括一个或几个以下特征。
将被表示的图像与利用调制图像调制的图像之间的差异可在人类可见的波长范围内。
因此,图像调制器可被配置为相加地重叠将被表示的图像与调制图像。
在图像处理装置中,将被表示的图像可包括位分辨率并且调制可对位分辨率的较低值部分产生影响。特别地,调制可(仅)对将被表示的图像的图像点的最低值(least-valued)位产生影响。
此外,将被表示的图像可包括至少第一颜色通道和第二颜色通道,调制图像生成器22被配置为在调制图像中通过第一颜色通道的调制表示位置信息的第一空间坐标并通过第二颜色通道的调制表示位置信息的第二空间坐标。
因此,位置信息可相对于调制图像的相互邻近的字段被格雷编码。
因此,调制图像生成器22可被配置为生成调制图像的序列,由序列的某个调制图像的某个字段的调制图像值表示的位置信息是某个字段的组合位置信息的一部分,从而组合位置信息可从调制图像的序列的离散位置信息来重建。
因此,调制图像的序列可包括至少时间同步信号。
此外,图像调制器可包括曼彻斯特编码器,曼彻斯特编码器被配置为从调制图像生成第一曼彻斯特编码调制图像和第二曼彻斯特编码调制图像,其中,图像调制器被配置为利用第一曼彻斯特编码调制图像和第二曼彻斯特编码调制图像连续地调制将被表示的图像,并生成两个相应的调制图像以显示在显示装置上。
图像调制器可表现相对于将被表示的图像的小于或等于将被表示的图像的位分辨率的10%的调制深度。
根据一个实施方式的光学传感器装置可包括:光学传感器,用于感测电磁辐射以生成相应的感测信号;解调器,被配置为解调感测信号并确定可被包括在感测信号中的调制信号,解调器包括振幅敏感滤波器,该滤波器被配置为提取包括在有限振幅区域内的振幅的感测信号值的时间变化和空间变化中的至少一个以进行进一步处理。
虽然已经结合装置描述了某些方面,但是应理解,这些方面也表示相应方法的描述,从而装置的模块或设备也可被理解为相应的方法步骤或方法步骤的特征。类似地,已经结合方法步骤或作为方法步骤描述的方面也表示相应装置的相应模块或细节或特征的描述。某些或所有的方法步骤可通过硬件装置(或使用硬件装置)(诸如,例如微处理器、可编程计算机或电子电路)来执行。在某些实施方式中,某些或几个最重要的方法步骤可通过这种装置来执行。
根据特定实施要求,本发明的实施方式可以硬件或软件实施。实施可使用数字存储介质来执行,诸如例如软盘、DVD、蓝光光盘、CD、ROM、PROM、EPROM、EEPROM或闪存、硬盘驱动器或电子可读控制信号存储在其上的其它磁性或光学存储器,这些存储器能够与可编程计算机系统协作,从而将执行相应的方法。这意味着数字存储介质可以是计算机可读的。
因此,根据本发明的某些实施方式包括数据载体(包括电子可读控制信号),其能够与可编程计算机系统协作,从而将执行本文所描述的方法的其中一个。
一般地,本发明的实施方式可被实施为包括程序代码的计算机程序产品,程序代码可操作为在计算机程序产品在计算机上运行时执行方法的其中一个。
程序代码可示例地存储在机器可读载体上。
不同实施方式包括用于进行本文所描述的方法的其中一个的计算机程序,计算机程序存储在机器可读载体上。
换言之,本发明方法的实施方式因此是计算机程序,计算机程序包括当计算机程序在计算机上运行时用于执行本文所描述的方法的其中一个的程序代码。
本发明的方法的其它实施方式因此是数据载体(或数字存储介质或计算机可读介质),用于执行本文所描述的方法的其中一个的计算机程序记录在该数据载体上。
本发明方法的另一实施方式因此是表示用于执行本文所描述的方法的其中一个的计算机程序的数据流或信号序列。数据流或信号序列可示例地被配置为经由数据通信连接(例如经由因特网)来传输。
另一实施方式包括处理器件,其示例地是被配置或适配为执行本文所描述的方法的其中一个的计算机或可编程逻辑装置。
另一实施方式包括计算机,用于执行本文所描述的方法的其中一个的计算机程序安装在该计算机上。
根据本发明的另一实施方式包括被实施为将用于执行本文所描述的方法中的至少一个的计算机程序发送到接收器的装置或系统。发送可示例地以电子或光学地进行。接收器可示例地是计算机、移动装置、存储装置或类似装置。装置或系统可示例地包括用于将计算机程序发送到接收器的文件服务器。
在某些实施方式中,可编程逻辑装置(示例地是现场可编程门阵列或FPGA)可用于执行本文所描述的方法的某些或全部功能。在某些实施方式中,现场可编程门阵列可与微处理器协作以执行本文所描述的方法的至少一个。一般地,在某些实施方式中,在任何硬件装置的一部分上执行方法。这些可以是普遍使用的硬件,比如计算机处理器(CPU),或特定于方法的硬件,示例地是ASIC。
之前描述的实施方式仅表示本发明的原理的例证。应理解,本文所描述的布置和细节的修改和变化对本领域技术人员将是显而易见的。因此,本发明旨在由所附权利要求书的范围而不是由具有使用实施方式的描述和讨论所呈现的具体细节来限制。

Claims (33)

1.一种用于确定目标(5)相对于将被表示的图像(3)的表示的位置的装置(10),包括:
输入端(11),用于至少一个将被表示的图像(3);
位置图案生成器(12),用于生成被细分为多个图案部分的位置图案(13),每个所述图案部分包括多个位图案的明确的位图案,所述位图案以广义的方式被格雷编码;
组合单元(14),用于组合所述位置图案(13)与所述至少一个将被表示的图像(3)并提供相应的组合图像;
光学传感器(15),用于光学地感测所述组合图像的图像部,所述图像部与所述目标(5)的所述的位置相关;
滤波器(16),用于从所述图像部中提取对应于所述位置图案(13)的图案部分的至少一个位图案并提供至少一个相应的提取的图案部分;
确定器件(17),用于基于所述至少一个提取的位图案确定所述目标(5)的所述位置。
2.根据权利要求1所述的装置(10),其中,所述位图案是时间位图案、空间位图案或者时间位图案和空间位图案的组合。
3.根据权利要求1或2所述的装置(10),其中,至少所述光学传感器(15)是第一分离单元(40)的一部分,并且其中所述第一分离单元(40)包括发射器(36),所述发射器(36)用于将确定所述目标(5)的所述位置所需的目标位置数据或中间数据发送到接收器(38)。
4.根据权利要求1至3中任一项所述的装置(10),其中,所述组合单元(14)被配置为利用所述位置图案(13)调制所述将被表示的图像(3)。
5.根据权利要求1至4中任一项所述的装置(10),其中,所述组合图像中的位置图案部分在人类感知的阈值之下并且具有与振幅、颜色信息、空间频率和时间频率中的至少一个相关的定义特性,并且其中,所述滤波器(16)被配置为从所述组合图像中提取对应于所述位置图案部分的所述定义特性的图像部分,以便由此估计所述至少一个提取的图案部分。
6.根据权利要求1至5中任一项所述的装置(10),其中,所述将被表示的图像(3)包括至少第一颜色通道和第二颜色通道,并且其中,所述位置图案生成器被配置为在所述位置图案(13)中通过所述第一颜色通道的调制表示与各个所述图案部分相关联的位置信息的第一空间坐标并通过所述第二颜色通道的调制表示所述位置信息的第二空间坐标。
7.根据权利要求1至6中任一项所述的装置(10),其中,在所述组合图像内的所述位置图案(13)在人类可见的波长范围内。
8.根据权利要求1至7中任一项所述的装置(10),其中,所提取的图案部分与至少部分地落在所述图像部内的图案部分的加权和对应,并且其中,所述确定器件(17)被配置为基于所述图案部分的所述加权和形成位概率图案,其中,所述位概率图案指示相对可靠的位图案部分和相对不确定的位图案部分,其中,所述相对可靠的位图案部分将图像部位置限于所述图像部内的图案部分中的一个图案部分或几个图案部分,并且所述相对不确定的位图案部分表示所述图像部相对于两个或几个图案部分的中间位置。
9.根据权利要求1至8中任一项所述的装置(10),其中,所述位置图案生成器(12)包括曼彻斯特编码器并且所述位置图案(13)被曼彻斯特编码。
10.根据权利要求1至9中任一项所述的装置(10),其中,所述位置图案生成器(12)被配置为将同步信息插入所述位置图案(13)中。
11.根据权利要求1至10中任一项所述的装置(10),其中,所述位置图案(13)是位置图案序列的一部分,并且其中,所述将被表示的图像(3)是图像序列的一部分,其中,各个所述图案部分的位图案分布在所述位置图案序列上。
12.一种用于渲染将被表示的图像(3)以确定目标(5)相对于所述将被表示的图像(3)的表示的位置的图像处理装置,所述图像处理装置包括:
输入端(11),用于将被表示的图像(3);
位置图案生成器(12),用于生成被细分为多个图案部分的位置图案(13),每个所述图案部分包括多个位图案的明确位图案,并且所述位图案以广义的方式被格雷编码;以及
组合单元(14),用于组合所述位置图案(13)与至少一个所述将被表示的图像(3)并提供相应的组合图像。
13.根据权利要求12所述的图像处理装置,其中,所述位置图案(13)是位置图案序列的一部分,并且其中,所述将被表示的图像是图像序列的一部分,各个所述图案部分的位图案分布在所述位置图案序列上。
14.一种图案感测装置(30),包括:
光学传感器(15),用于光学地感测包括将被表示的图像(3)和位置图案(13)的组合的组合图像的图像部;
滤波器(16),用于从所述图像部中提取所述位置图案(13)的以广义方式被格雷编码的至少一个图案部分;
广义格雷解码器(32),用于解码以广义方式被格雷编码的所述图案部分并提供解码信息;以及
接口(34),用于提供所述解码信息或从所述解码信息衍生的信息以用于随后确定所述图像部相对于所述将被表示的图像(3)的表示的所述位置。
15.根据权利要求14所述的图案感测装置(30),其中,在所述组合图像中的位置图案部分在人类感知的阈值之下并且具有与振幅、颜色信息、空间频率和时间频率中的至少一个相关的定义特性,并且其中,所述滤波器(16)被配置为从所述组合图像中提取与所述位置图案部分的所述定义特性对应的图像部分。
16.根据权利要求14或15所述的图案感测装置(30),其中,用于提供所述解码信息的所述接口(34)包括发射器,所述发射器用于将确定所述目标(5)的位置所需的目标位置数据或中间数据发送到接收器。
17.根据权利要求14至16中任一项所述的图案感测装置(30),其中,所述组合图像基于所述将被表示的图像与所述位置图案(13)的调制,并且其中,所述滤波器(16)包括用于解调所述组合图像的解调器。
18.根据权利要求14至17中任一项所述的图案感测装置(30),其中,所述位置图案(13)包括至少一条时间同步信息,并且其中,所述图案感测器件(30)包括用于基于所述同步信息同步所述图案感测装置(30)的同步器件。
19.一种用于确定目标(5)相对于将被表示的图像(3)的表示的位置的方法,包括:
生成被细分为多个图案部分的位置图案(13),每个所述图案部分包括多个位图案的明确位图案,所述位图案以广义的方式被格雷编码;
组合所述位置图案(13)与至少一个所述将被表示的图像并提供相应的组合图像;
感测所述组合图像的图像部,所述图像部与所述目标(5)的位置相关联;
从所述图像部中提取所述位置图案(13)的至少一个图案部分并提供至少一个相应的提取的图案部;以及
基于所述至少一个提取的图案部分确定所述目标(5)的所述位置。
20.根据权利要求19所述的方法,其中,组合所述位置图案(13)与所述至少一个将被表示的图像包括利用所述位置图案调制所述将被表示的图像。
21.根据权利要求19或20所述的方法,
其中,当感测所述图像部分时,至少部分在所述图像部内的两个或更多个图案部分可重叠;
其中,确定所述目标(5)的所述位置包括:
基于所提取的图案部分和各个位图案部分的信号强度确定位概率图案,所述位概率图案指示至少相对可靠的位图案部分和相对不确定的位图案部分;
利用所述图案部分的所述广义格雷编码通过所述相对可靠的位图案部分将潜在的图像部位置限于所述图像部内的所述图案部分中的一个图案部分或几个图案部分;
通过所述相对不确定的位图案部分确定所述图像部相对于两个或更多个图案部分的中间位置的测量。
22.根据权利要求19至21中任一项所述的方法,进一步包括所述位置图案(13)的曼彻斯特编码。
23.根据权利要求19至22中任一项所述的方法,进一步包括将确定所述目标(5)的所述位置所需的目标位置数据或中间数据从发射器发送到接收器。
24.一种包括程序代码的计算机程序,当所述计算机程序在计算机上运行时,所述程序代码用于执行根据权利要求19至23中任一项所述的方法。
25.一种用于确定目标(5)在将被表示的图像(3)的表示内的位置的装置(20),包括:
输入端(11),用于所述将被表示的图像;
调制图像生成器(22),用于生成至少一个调制图像,所述至少一个调制图像被细分为多个字段并且某个字段的调制图像值表示所述字段在所述调制图像内的位置信息;
图像调制器(24),用于利用所述调制图像调制所述将被表示的图像(3),所述将被表示的图像与利用所述至少一个调制图像调制的图像之间的差异在人类感知的阈值之下;
输出端,用于利用所述至少一个调制图像调制的图像以显示在显示装置(4)上;
光学传感器(15),用于感测从利用所述调制图像调制的图像的图像部发射的光学信号,并用于生成相应的感测信号;以及
估计单元(27),通过将所述估计单元被配置为从由所述图像部发射的所述光学信号中提取至少部分地位于所述图像部内的至少一个字段的一条位置信息,所述估计单元用于使用由所述图像部发射的光学信号确定图像部位置信息。
26.根据权利要求25所述的装置(20),其中,实施利用所述调制图像调制所述将被表示的图像(3),从而使得由于低调制深度,所述调制保持在人类感知的阈值之下。
27.根据权利要求25或26所述的装置(20),其中,所述估计单元(27)包括解调器,所述解调器被配置为解调所述感测信号并为至少部分位于所述图像部内的所述至少一个字段确定潜在地包括在所述感测信号中的调制信号,所述字段的所述位置信息由所述调制信号产生。
28.根据权利要求25至27中任一项所述的装置(20),其中,利用所述调制图像调制所述将被表示的图像(3)具有有限的振幅范围,并且所述估计单元包括振幅敏感滤波器,所述振幅敏感滤波器被配置为提取具有在有限振幅范围内的振幅的所述调制图像值的时间变化和空间变化中的至少一个。
29.根据权利要求25至28中任一项所述的装置(20),其中,所述位置信息相对于彼此相邻的字段以广义的方式被格雷编码。
30.根据权利要求25至29中任一项所述的装置(20),其中,所述估计单元(27)被配置为:通过估计所述位置信息的位的相对明确的位值以限制所述图像部位于其内的空间区域,并通过估计指示所述图像部与所述调制图像的至少两个字段重叠的所述位置信息的位的相对不重要或不确定的位值,来估计不能明确地与字段相关联的所提取的位置信息。
31.根据权利要求25至30中任一项所述的装置(20),其中,所述将被表示的图像与利用所述调制图像调制的图像之间的差异在人类可见的波长范围内。
32.根据权利要求25至31中任一项所述的装置(20),其中,所述至少一个调制图像包括至少时间同步信号。
33.根据权利要求25至32中任一项所述的装置(20),其中,所述图像调制器(24)包括曼彻斯特编码器,所述曼彻斯特编码器被配置为从所述调制图像生成第一曼彻斯特编码调制图像和第二曼彻斯特编码调制图像,所述图像调制器(24)被配置为利用所述第一曼彻斯特编码调制图像和所述第二曼彻斯特编码调制图像连续地调制所述将被表示的图像(3)并生成两个相应的调制图像(4)以显示在所述显示装置(4)上。
CN201280066462.2A 2011-11-14 2012-11-13 确定目标在被表示的图像的表示内的位置的装置及方法 Active CN104040468B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102011086318.4 2011-11-14
DE102011086318A DE102011086318A1 (de) 2011-11-14 2011-11-14 Positionsbestimmung eines Objekts mittels Erfassung eines Positionsmusters durch optischen Sensor
PCT/EP2012/072513 WO2013072316A2 (de) 2011-11-14 2012-11-13 Positionsbestimmung eines objekts mittels erfassung eines positionsmusters durch optischen sensor

Publications (2)

Publication Number Publication Date
CN104040468A true CN104040468A (zh) 2014-09-10
CN104040468B CN104040468B (zh) 2016-12-21

Family

ID=47278772

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280066462.2A Active CN104040468B (zh) 2011-11-14 2012-11-13 确定目标在被表示的图像的表示内的位置的装置及方法

Country Status (9)

Country Link
US (1) US9659232B2 (zh)
EP (1) EP2780780B1 (zh)
JP (1) JP2015506006A (zh)
CN (1) CN104040468B (zh)
BR (1) BR112014012404A2 (zh)
DE (1) DE102011086318A1 (zh)
IN (1) IN2014KN01020A (zh)
RU (1) RU2597500C2 (zh)
WO (1) WO2013072316A2 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI660303B (zh) * 2017-08-01 2019-05-21 英華達股份有限公司 一種輸入方法及裝置
CN114424020A (zh) * 2019-10-28 2022-04-29 电装波动株式会社 三维测量装置

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102120864B1 (ko) * 2013-11-06 2020-06-10 삼성전자주식회사 영상 처리 방법 및 장치
US20170026720A1 (en) * 2015-05-28 2017-01-26 Hashplay Inc. Systems and method for providing multimedia content in a network
US9952821B2 (en) * 2015-09-01 2018-04-24 Electronics And Telecommunications Research Institute Screen position sensing method in multi display system, content configuring method, watermark image generating method for sensing screen position server, and display terminal
CN108027258B (zh) * 2015-09-15 2020-11-27 佩佩尔+富克斯有限公司 用于可靠地确定对象的位置的装备和方法
US10078877B2 (en) * 2015-11-23 2018-09-18 The King Abdulaziz City For Science And Technology (Kacst) Method and system for efficiently embedding a watermark in a digital image for mobile applications
KR102376402B1 (ko) * 2017-07-27 2022-03-17 후아웨이 테크놀러지 컴퍼니 리미티드 다초점 디스플레이 디바이스 및 방법
CN117940882A (zh) * 2021-09-17 2024-04-26 谷歌有限责任公司 对显示器的位置进行编码和识别

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1875337A (zh) * 2003-11-07 2006-12-06 三菱电机株式会社 确定显示面上的位置的方法和交互式显示系统
US20080211183A1 (en) * 2005-05-11 2008-09-04 Koninklijke Philips Electronics, N.V. Computer Controlled Pawn
CN101882012A (zh) * 2010-06-12 2010-11-10 北京理工大学 基于投影跟踪的笔式交互系统

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5625353A (en) * 1992-12-29 1997-04-29 Kabushiki Kaisha Sankyo Seiki Seisakusho Device for transmitting signals from position detector and method of such signal transmission
JPH07212584A (ja) * 1994-01-20 1995-08-11 Omron Corp 画像処理装置並びにそれを用いた複写機
JPH09251152A (ja) * 1996-03-18 1997-09-22 Toshiba Corp 表示装置一体型ペン位置検出装置
WO2001015059A2 (en) 1999-08-24 2001-03-01 Gamalong Ltd. System and method for detecting the location of a physical object placed on a screen
JP3523618B2 (ja) * 2001-08-02 2004-04-26 シャープ株式会社 座標入力システムおよび座標入力システムに用いる座標パターン形成用紙
US6917360B2 (en) * 2002-06-21 2005-07-12 Schlumberger Technology Corporation System and method for adaptively labeling multi-dimensional images
JP2005327259A (ja) * 2004-04-12 2005-11-24 Campus Create Co Ltd 指示位置検出装置
JP2006031859A (ja) * 2004-07-16 2006-02-02 Toshiba Corp サーボ情報回復機能を有する磁気ディスクドライブ及び同ドライブにおけるサーボ情報回復方法
US20060242562A1 (en) * 2005-04-22 2006-10-26 Microsoft Corporation Embedded method for embedded interaction code array
RU2324236C2 (ru) * 2005-06-14 2008-05-10 ЭлДжи ЭЛЕКТРОНИКС ИНК. Способ сопоставления изображения, сфотографированного камерой, с данными карты в портативном терминале и способ наведения по маршруту перемещения
US7619607B2 (en) * 2005-06-30 2009-11-17 Microsoft Corporation Embedding a pattern design onto a liquid crystal display
JP2009245349A (ja) * 2008-03-31 2009-10-22 Namco Bandai Games Inc 位置検出システム、プログラム、情報記憶媒体及び画像生成装置
US8102282B2 (en) * 2009-03-10 2012-01-24 Pixart Imaging Inc. Encoding and decoding method for microdot matrix

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1875337A (zh) * 2003-11-07 2006-12-06 三菱电机株式会社 确定显示面上的位置的方法和交互式显示系统
US20080211183A1 (en) * 2005-05-11 2008-09-04 Koninklijke Philips Electronics, N.V. Computer Controlled Pawn
CN101882012A (zh) * 2010-06-12 2010-11-10 北京理工大学 基于投影跟踪的笔式交互系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI660303B (zh) * 2017-08-01 2019-05-21 英華達股份有限公司 一種輸入方法及裝置
CN114424020A (zh) * 2019-10-28 2022-04-29 电装波动株式会社 三维测量装置

Also Published As

Publication number Publication date
BR112014012404A2 (pt) 2017-06-13
US20140348379A1 (en) 2014-11-27
RU2014124191A (ru) 2015-12-27
EP2780780A2 (de) 2014-09-24
US9659232B2 (en) 2017-05-23
DE102011086318A1 (de) 2013-05-16
WO2013072316A3 (de) 2013-07-18
WO2013072316A2 (de) 2013-05-23
JP2015506006A (ja) 2015-02-26
CN104040468B (zh) 2016-12-21
RU2597500C2 (ru) 2016-09-10
EP2780780B1 (de) 2024-06-19
EP2780780C0 (de) 2024-06-19
IN2014KN01020A (zh) 2015-10-09

Similar Documents

Publication Publication Date Title
CN104040468A (zh) 通过由光学传感器感测位置图案的目标的位置确定
US10362301B2 (en) Designing content for multi-view display
JP6800858B2 (ja) 光学的に符号化された情報を提供するためのシステムと方法
US9460560B2 (en) Narrowcasting from public displays, and related methods
KR20190020846A (ko) 컴퓨팅 디바이스들 간의 정보를 송신하기 위한 비가시적인 광학 라벨
US8117006B2 (en) Method for measuring position of portable terminal and indoor illuminating apparatus for the same
Yuan et al. Computer vision methods for visual MIMO optical system
CN101213507A (zh) 对于信息显示器的控制装置,相应的系统、方法和程序产品
EP3335155B1 (en) Electronic device and operating method of the same
US10304214B2 (en) Electronic device and operating method of the same
JP5868050B2 (ja) 表示装置及びその制御方法
JP2014116706A (ja) 二次元カラーコード表示装置、表示方法、読み取り装置、及び読み取り方法
US20090323125A1 (en) Image generating apparatus
CN110187811B (zh) 一种基于光电鼠标与屏幕通信的人机交互方法
JP2006523324A (ja) マスク化された画像を見ること
CN106663213A (zh) 编码光的检测
CN101689077A (zh) 显示设备
Celozzi et al. Enabling Human–Machine Interaction in Projected Virtual Environments Through Camera Tracking of Imperceptible Markers
JP2014235676A (ja) 二次元カラーコード表示装置、及びその表示方法、二次元カラーコード読み取り装置、及びその読み取り方法
CN109784454A (zh) 一种基于二维码的信息隐藏方法、装置及电子设备
US20220147727A1 (en) Communication system and method thereof
Yuan Computational photography methods for visual mimo
KR20190043217A (ko) 전자 장치 및 그의 제어방법
CN105578164A (zh) 一种控制方法及电子设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: Munich, Germany

Applicant after: Fraunhofer Application and Research Promotion Association

Address before: Munich, Germany

Applicant before: Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V.

COR Change of bibliographic data
C14 Grant of patent or utility model
GR01 Patent grant