CN106063155B - 编码光信号的通信的设备和方法 - Google Patents

编码光信号的通信的设备和方法 Download PDF

Info

Publication number
CN106063155B
CN106063155B CN201580008565.7A CN201580008565A CN106063155B CN 106063155 B CN106063155 B CN 106063155B CN 201580008565 A CN201580008565 A CN 201580008565A CN 106063155 B CN106063155 B CN 106063155B
Authority
CN
China
Prior art keywords
frame
message
signal
row
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201580008565.7A
Other languages
English (en)
Other versions
CN106063155A (zh
Inventor
C.P.M.J.巴格根
R.里伊特曼
P.H.J.M.范沃尔图伊森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Signify Holding BV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of CN106063155A publication Critical patent/CN106063155A/zh
Application granted granted Critical
Publication of CN106063155B publication Critical patent/CN106063155B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/60Receivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optical Communication System (AREA)
  • Studio Devices (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

一种设备,包括:输入,用于从卷帘式快门照相机接收信号,其中该照相机通过按顺序曝光每一帧的行来捕获帧,该信号包括编码光信号;以及信号处理模块,其被安排成从一数量的所述行之中的每一行获得编码光信号的各自采样,所述数量是与利用照相机在每一帧中所曝光的相比实质上更少的行的数量。编码光信号包括具有长于这个数量的行的持续时间的消息,并且该消息利用定时被重复多次,以致利用该照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同的部分。信号处理模块被配置成对来自多个不同帧的该消息的不同部分执行时间对准,并且从这些时间校准的部分中重组该消息。

Description

编码光信号的通信的设备和方法
技术领域
本公开涉及嵌入在利用光源发出的光中的编码光信号的通信。
背景技术
编码光指的是籍此将数据调制到利用光源、例如利用基于LED的照明设备所发出的可见照明(illumination)中的技术。因而,除了提供照明之外(为此目的,光源可能已出现在环境中),光源也充当能够向编码光的合适接收机发射数据的发射机。典型地在对于人类视觉而言是不可感知的足够高的频率上执行调制,即,因此用户只感知到整体照明而非该数据被调制到那个照明中的效果。以这种方式,可以据称该数据被嵌入来自光源的光中。
编码光能够在许多应用中进行使用。例如,一种应用是从照明设备提供信息至远程控制单元用于控制那个照明设备,例如,提供使之与远程单元能够控制的其他的这样的照明设备区分开来的识别符,或者提供有关该照明设备的状态信息(例如报告错误、警告、温度、操作时间等等)。在一个这样的示例中,远程控制单元可以包括移动用户终端诸如具有内置照相机的智能电话或平板电脑。通过该终端运行合适的应用,用户能够将照相机指向照明设备并从而检测在来自那个照明设备的光中编码的识别符。在给出该终端正在注视的照明设备的识别符的情况下,该终端随后可以通过(例如经由RF)发回返回信号来控制那个照明设备。
US20120281879A披露用于定位光贡献的2D检测的系统。在这个现有技术文献中,光贡献包括具有重复序列的N个符号的嵌入代码。检测系统包括照相机和处理单元。照相机被配置成经由快门的特定打开/关闭模式来采集场景的一系列图像。每个图像包括多个像素,每个像素表示光源在场景内不同的物理位置上的光输出的强度。处理单元被配置成通过例如将对应于所选择的物理位置的所采集系列中的像素序列与第一序列的N个符号相关来处理所采集的图像系列,以确定是否第一光源的光贡献出现在场景内所选择的物理位置上。
在另一应用中,编码光可以用于给用户提供信息,例如,提供照明设备的识别符以便在调试中使用,或者,使之能够供应位置相关的信息。例如,在室内和/或室外环境中(例如,在办公综合大楼的房间与走廊和/或校园的路径中)的每个照明设备可以被安排成发出与在那个环境中识别它的各自识别符一起嵌入的光。如果用户具有配备有照相机以及用于检测编码光的相关联应用的移动终端,则该终端能够检测照亮其当前位置的照明设备的识别符。这个随后能够用于通过在将识别符映射至照明设备的位置的位置数据库中查找当前位置来帮助用户导航该环境。可供选择地或附加地,这个可以用于查找与用户的当前位置相关联的信息,诸如有关在博物馆的特殊房间中的展品的信息。例如,可以经由因特网或终端接入的本地网络或从用户终端上的本地数据库中执行查找。可供选择地,该信息能够被直接编码在来自一个或多个照明设备的光中。一般来说,编码光的适用性并不受限制。
借助于诸如振幅键控或频移键控之类的技术,将数据调制到光中,籍此调制的属性(例如,频率的振幅)用于表示信道符号。调制典型地牵涉编码方案来将数据比特(有时称为用户比特)映射到这样的信道符号上。示例是常规的Manchester(曼彻斯特)代码,其是二进制代码,籍此以低-高脉冲的形式将值0的用户比特映射到信道符号上以及以高-低脉冲的形式将值1的用户比特映射到信道符号上。另一示例是描述在国际专利申请公开号WO2012/052935中的最近开发的Ternary(三进制)Manchester代码。
Ternary Manchester代码现在形成现有技术的一部分并因而对于本领域的技术人员而言是公知的,但是为了完整起见而在本文再次进行概述。在发射机上,将要发射的每一个数据比特以各自单位脉冲的形式被映射至信道符号。根据这个方案,采用如图5所示的正与负的“帽子(hat)”函数的形式,具有两种可能的单位。在图5的左手侧上显示被映射至值1的数据比特的脉冲,并在图5的右手侧上显示被映射至值0的数据比特的脉冲。数据比特是将要发射的实际信息的比特,其有时被称为“用户数据”(即使未由用户显式创建)。数据比特周期在图5中被标记为TD,其中在用户比特周期之间的边界利用垂直的虚线来显示。
每一个单位脉冲包括小于数据比特周期的时间长度TC的基本信道周期的序列。每一个基本信道周期传递编码信号能够采用的正好一个基本水平(一个三进制Manchester符号),并且单独地不足以传递数据而不被调制在复合信道符号中。因此,长度TD的每一个脉冲是能够使用所讨论的编码方案来传递的最小或最基本单位的信息内容。
在三进制Manchester代码中,每一个单位帽子函数包括时间长度TC的三个基本信道周期的序列,其中每个基本信道周期是数据比特周期长度TD的一半(TD=2TC)。各自数据比特的三个基本周期是连续的,其中三个基本周期之中中间的基本周期位于各自数据比特周期的中心,以致相邻的第一与第三基本信道周期各自地跨骑(straddle)在该数据比特周期的起始边界与末尾边界的任一侧上的半个基本信道周期TC
对于值1的数据比特来说,这个数据比特被映射至图5的左侧所示的正的帽子函数。正的帽子函数包括:以各自数据比特周期的起始(较早)边界为中心的高度-1/2的第一基本信道周期,其后跟随着以各自数据比特周期为中心的高度+1的第二(中间)基本信道周期,其后跟随着以各自数据比特周期的末尾(较晚)边界为中心的高度-1/2的第三基本信道符号。“高度(height)”在这个阶段可以采用任何合适的术语诸如无量纲数字值来表示(最终利用调制的信号属性例如振幅或频率来表示)。
对于值0的数据比特来说,这个数据比特被映射至图5的右侧所示的负的帽子函数。负的帽子函数包括:以各自数据比特周期的起始(较早)边界为中心的高度+1/2的第一基本信道周期,其后跟随着以各自数据比特周期为中心的高度-1的第二(中间)基本信道周期,其后跟随着以各自数据比特周期的末尾(较晚)边界为中心的高度+1/2的第三基本信道周期。
为了创建将要发射的编码比特流,相邻的用户比特的帽子函数被彼此添加、被偏移其各自比特周期的时间。因为这些帽子函数跨越数据比特周期之间的边界而重叠,所以这些函数添加在相邻的数据比特之间的重叠区域中。即,这些帽子函数沿着边界进行接合(join),以致一个数据比特周期的较早边界An与在前的相邻数据比特周期的较晚比特边界An+1进行接合,其中信号的高度在其中两个相邻脉冲重叠的地方进行合计。在图6中显示在时域中由此产生的信道符号序列的示例。
如果两个相邻的数据比特具有值1,则这意味着:高度-1/2的两个重叠基本信道周期添加至-1的高度。如果两个相邻的数据比特具有值0,则高度+1/2的两个重叠基本信道周期添加至高度+1。如果两个相邻的数据比特具有不同的值,则高度+1/2与-1/2的两个重叠基本信道周期添加至0。因而,在编码流中,每一个用户比特周期(每一个单位脉冲)在值1的用户比特被夹在值1的两个相邻的用户比特之间时采取矩形波的或正脉冲的形式、在值0的用户比特被夹在值0的两个相邻的用户比特之间时采取矩形波的或负脉冲的形式、或在相邻的用户比特之中的至少一个用户比特是不同的时采取具有直边的一种或四种可能配置的不均匀脉冲的形式。
在等效变体中,数据比特值0与1至正与负的帽子函数的映射可以被反转。
由此产生的信号(例如,图6的信号)随后被转换为利用发射光源所输出的信号的调制属性的变化(例如,无论是依据振幅还是依据频率来表示)。例如,基本信道符号-1可以利用低的光输出水平来表示,基本信道符号+1可以利用高的输出光级来表示,并且基本信道符号0可以利用高与低之间的中间光级来表示。
三进制Manchester代码能够是有利的,这是因为它在数据比特改变值时提供比常规的Manchester代码更平滑的过渡,并导致在其中诸如电源的嗡嗡声(mains hum)之类的干扰可能发生的低频周围被更多抑制的频域中的谱。然而,本公开的适用性并不限于三进制Manchester,并且在其他的实施例中可以使用合适编码方案的其他示例,例如常规的(二进制)Manchester代码或其他的常规的二进制或三进制行代码。
在其中来自光源的光将使用卷帘式快门照相机、诸如时常在移动电话设备中找到的便宜照相机来捕获的应用中对于使用编码光越来越感兴趣。卷帘式快门照相机以一次一行的方式逐行(典型地,以18k行/秒的最低速率)扫描图像的行。由于这些行按时间顺序地进行记录并且光中的代码也可以按时间顺序地变化,所以牵涉附加的处理。典型地,行上的采样被“集成”或“浓缩”到每行单个值中。每一行因而捕获该信号在不同的时刻上的采样,从而使得编码光信号能够被重建。
发明内容
根据在本文公开的一个方面,可以提供一种设备,其包括:用于控制光源以便将编码光信号嵌入从光源发出的可见光中的输出;以及被配置成生成编码光信号的控制器。将利用通过按顺序曝光每一帧的多个行来捕获帧的卷帘式快门照相机来接收光,该照相机具有曝光时间,其中每一行被曝光该曝光时间。控制器被配置成根据某格式来生成编码光信号,籍此编码光信号包括至少一个消息并且利用定时将该消息重复多次,以致当从与利用照相机在每一帧中所曝光的相比实质上更少数量的所述行中获得编码光信号的采样并且该消息长于所述数量的行时,利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分。
在实施例中,该消息可以被重复,以致将在所述多个帧上看到整个消息。
该消息可以具有长于一个帧的持续时间。
该消息可以包括一个或多个包括不同数据内容的分组,其中该消息的分组之中的每一个分组可以被分组间(inter-packet)空闲周期紧随其后,以及其中该消息的重复可以利用与分组间空闲周期不同的消息间空闲周期来分隔开。
分组间空闲周期可以大于或等于曝光时间或曝光时间的最大预期值。
消息间空闲周期可以被选择来获得所述定时,籍此利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分。
曝光时间可以小于或等于(1/30)秒、小于或等于(1/60)秒、或者小于或等于(1/120)秒。
至少一个消息可以由每消息至少三个分组来形成。
这些分组之中的每个分组可以具有小于或等于17比特长、小于或等于12比特长、或者小于或等于9比特长的长度。
分组长度可以是9比特,其由字节的内容与同步比特构成。
控制器可以被配置成根据三进制Manchester调制编码方案来对编码光信号进行编码,籍此该信号的数据比特通过被映射至三进制Manchester符号来表示。
消息间空闲周期可以具有至少4个所述符号的持续时间。
这些分组之中的每个分组可以是19个所述符号长,分组间空闲周期可以具有33个所述符号的持续时间,并且消息间空闲周期可以具有5个所述符号的持续时间。
控制器可以被配置成利用所述符号的符号率对编码光信号进行编码,其中所述符号的符号率是1kHz(千赫)、2kHz或4kHz。
控制器可以被配置成经由反向信道从照相机接收曝光时间的指示并且基于曝光时间来适配消息的格式。
控制器可以被配置成通过选择一个或多个参数来执行所述适配,以致利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分,并且一个或多个参数可以包括:分组间空闲周期,消息间空闲周期,每消息的分组数量,和/或符号率。
控制器可以被配置成通过在所述参数的多个不同的预定组合之间进行选择来适配格式。
行的所述数量可以小于或等于每一帧的行的14%。
根据在本文公开的进一步方面,可以提供一种系统,其包括具有上面特性之中的任何特性的设备、光源和照相机;照相机相对于光源进行定位,以致从与利用照相机在每一帧中所曝光的相比实质上更少数量的行中获得所述采样,并且该消息长于所述数量的行。
根据在本文公开的进一步方面,可以提供一种方法,其包括:控制光源以便将编码光信号嵌入在从光源发出的可见光中,编码光信号包括至少一个消息;在通过按顺序曝光每一帧的多个行来捕获帧的卷帘式快门照相机上接收光,该照相机具有曝光时间,其中每一行被曝光该曝光时间;以及从与利用照相机在每一帧中所曝光的相比实质上更少数量的所述行中获得编码光信号的采样,该消息长于所述数量的行;其中根据某格式来生成编码光信号,籍此利用定时将该消息重复多次,以致利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分。
根据在本文公开的进一步方面,可以提供一种计算机程序产品,其包括代码,该代码被收录(embody)在计算机可读存储介质上并被配置,以便在被运行时执行以下操作:控制光源以便将编码光信号嵌入在从光源发出的可见光中,从而利用通过按顺序曝光每一帧的多个行来捕获帧的卷帘式快门照相机进行接收,该照相机具有曝光时间,其中每一行被曝光该曝光时间;以及根据某格式来生成编码光信号,籍此编码光信号包括至少一个消息并且利用定时将该消息重复多次,以致当从与利用照相机在每一帧中所曝光的相比实质上更少数量的行中获得编码光信号的采样并且该消息长于所述数量的行时,利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分。
根据在本文公开的进一步方面,可以提供一种编码光信号,其被嵌入在从光源发出的可见光中,以便利用通过按顺序曝光每一帧的多个行来捕获帧的卷帘式快门照相机进行接收,该照相机具有曝光时间,其中每一行被曝光该曝光时间;其中根据某格式来格式化该编码光信号,籍此该编码光信号包括至少一个消息,并且利用定时将该消息重复多次,以致当从与利用照相机在每一帧中所曝光的相比实质上更少数量的行中获得编码光信号的采样并且该消息长于所述数量的行时,利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分。
在实施例中,该方法、计算机程序和/或信号可以进一步根据上面相对于设备所讨论的特性之中的任何特性来配置。
根据在本文公开的另一方面,可以提供一种设备,其包括:用于从卷帘式快门照相机接收信号的输入,其中卷帘式快门照相机通过按顺序曝光每一帧的多个行在给定帧速率上捕获给定持续时间的帧,该信号包括编码光信号;信号处理模块,其被连接至所述输入并被安排成经由所述输入从一数量的所述行之中的每一行获得编码光信号的各自采样,所述数量的行在持续时间上被曝光,并且所述数量是与利用照相机在每一帧中所曝光的多个行相比实质上更少的所述行的数量;编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且该消息的多次重复利用定时来接收,以致利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分;以及信号处理模块被配置成时间对准来自多个不同帧的该消息的不同部分并且从时间对准的部分中重组该消息。
在实施例中,在所述多个帧上可以看到整个消息。
在实施例中,该消息可以具有长于一个帧的持续时间。
在实施例中,信号处理模块可以被配置成基于帧持续时间和消息持续时间来执行所述时间对准。
在实施例中,信号处理模块可以被配置成通过以下来执行所述时间对准:确定定时参考周期,其是所述消息的长度的整数倍;以及将在每一个相继帧中接收的该消息的部分相对于其前一帧偏移帧长度,但是越过所述定时参考周期的末尾而环绕到所述定时参考周期的起始。
在实施例中,每一帧包括活动行和不活动行,所述多个行是活动行,并且信号处理模块可以被配置成从包括所述数量的行的每一帧的多个活动行之中的每一个活动行中获得各自采样,从而产生具有所述帧持续时间的帧信号;以及通过将每一帧信号扩展至具有定时参考周期的持续时间来执行偏移。
可以通过将零添加至帧信号来执行所述扩展。
信号处理模块可以被配置成丢弃一个或多个跳过帧。
信号处理模块可以被配置成:生成消息的多个重组版本,其中每一个版本以所述消息部分的不同的各自子集为基础;以及基于该消息的所述版本之间的相关性,在所述设备的时钟和所述编码光信号的计时之间执行同步。
可以通过组合各自行的像素值来取得所述采样之中的每一个。
行的所述数量可以小于或等于每一帧的行的14%。
所述部分之中的每一个部分可以小于或等于该消息的3%。
从中获得所述采样的多个行可以排除包括被过度曝光的一个或多个像素的行。
根据在本文公开的进一步方面,可以提供一种接收机,其包括具有上面特性之中的任何特性的设备以及照相机。
根据在本文公开的进一步方面,可以提供一种系统,其包括接收机和光源;照相机相对于光源进行定位,以致从与利用照相机在每一帧中所曝光的相比实质上更少数量的行中获得所述采样,并且该消息长于所述数量的行。
根据在本文公开的另一方面,可以提供一种方法,其包括:从卷帘式快门照相机接收信号,其中卷帘式快门照相机通过按顺序曝光每一帧的多个行来捕获帧,该信号包括编码光信号;以及从一数量的所述行之中的每一行获得编码光信号的各自采样,所述数量的行在持续时间上被曝光,并且所述数量是与利用照相机在每一帧中所曝光的多个行相比实质上更少的所述行的数量;其中编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且利用定时将该消息重复多次,以致利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分;以及其中该方法进一步包括:时间对准来自多个不同帧的该消息的不同部分,并且从这些时间对准的部分中重组该消息。
根据在本文公开的另一方面,可以提供一种计算机程序产品,其被收录在计算机可读介质上并被配置,以便在被运行时执行以下操作:从卷帘式快门照相机接收信号,其中卷帘式快门照相机通过按顺序曝光每一帧的多个行来捕获帧,该信号包括编码光信号;以及从一数量的所述行之中的每一行中获得编码光信号的各自采样,所述数量的行在持续时间上被曝光,并且所述数量是与利用照相机在每一帧中所曝光的多个行相比实质上更少的所述行的数量;其中编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且利用定时将该消息重复多次,以致利用照相机在所述帧之中的多个不同帧之中的每一帧中看到该消息的不同部分;以及其中该代码进一步被配置,以便在被运行时时间对准来自多个不同帧的该消息的不同部分并且从这些时间对准的部分中重组该消息。
在实施例中,可以根据上面相对于设备所讨论的特性之中的任何特性来进一步配置该方法和/或计算机程序。
根据在本文公开的还一方面,可以提供一种Wiener(维纳)滤波器,用于均衡第一滤波器对于经历第一滤波器并且遭受到噪声和/或干扰的输入信号的影响,其中:第一滤波器依赖于至少一个未知量;以及基于在所述至少一个未知量上被平均的第一滤波器的平均表示而非被假定为已知的第一滤波器的表示来配置Wiener滤波器。
在实施例中,所述平均表示可以包括第一滤波器的共轭的平均。
所述平均表示可以包括与其共轭相乘的第一滤波器的平均。
所述平均表示可以包括第一滤波器的共轭的平均以及与其共轭相乘的第一滤波器的平均。
Wiener滤波器可以操作在频域中。
Wiener滤波器可以根据下式进行配置:
其中G是频域中的Wiener滤波器,H是频域中的第一滤波器,S是输入信号的谱密度,N0是噪声和/或干扰的谱密度,θ是未知量,且E是相对于θ的平均。
平均可以假定未知量在有限极限(limit)之间的均匀分布。
第一滤波器可以具有标称值,并且相对于未知量的所述平均可以使用第一滤波器围绕其标称值的Taylor(泰勒)级数展开和未知量的多个一阶矩(first pluralitymoment)来计算。
第一滤波器可以依赖于多个未知量,并且Wiener滤波器可以基于在所述未知量之中的每一个上进行平均的第一滤波器的平均表示来配置。
第一滤波器可以包括时域中的逻辑框函数(box function)和频域中的正弦函数,逻辑框函数在时域中具有宽度,并且所述未知量可以包括逻辑框函数的宽度。
输入信号可以包括利用卷帘式快门采集处理所捕获的编码光信号,籍此帧的每一行依次被曝光一曝光时间,并且所述滤波器可以是卷帘式快门采集处理的结果,其中该曝光时间是所述未知量。
每一行的曝光可以产生逻辑框函数,并且其宽度可以是曝光时间。
第一滤波器可以包括具有中心频率和频带宽度的带通滤波器,并且所述至少一个未知量可以包括带通滤波器的中心频率和/或频带宽度。
根据在本文公开的进一步方面,可以提供一种接收机,其包括具有上面特性之中的任何特性的Wiener滤波器以及可以被安排成通过所述卷帘式快门采集处理来捕获所述输入信号的照相机。
根据在本文公开的进一步方面,可以提供一种确定Wiener滤波器以便均衡第一滤波器对于经历第一滤波器并且遭受到噪声和/或干扰的输入信号的影响的方法,该方法包括:识别第一滤波器所依赖于的至少一个未知量;以及在包括第一滤波器的表示的Wiener滤波器的公式(化)中,代替其中假定第一滤波器是已知的表示,利用在所述至少一个未知量上被平均的第一滤波器的平均表示来替代该表示。
根据在本文公开的进一步方面,可以提供一种计算机程序产品,其被收录在计算机可读介质上并被配置以便在被运行时实现Wiener滤波器,用于均衡第一滤波器对于经历第一滤波器并且遭受到噪声和/或干扰的输入信号的影响,其中:第一滤波器依赖于至少一个未知量;以及基于在所述至少一个未知量上被平均的第一滤波器的平均表示而非被假定为已知的第一滤波器的表示来配置Wiener滤波器。
在实施例中,可以根据上面相对于Wiener滤波器所讨论的特性之中的任何特性来进一步配置该方法和/或计算机程序。
在进一步实施例中,可以组合上面陈述的发射端设备、接收端设备和/或Wiener滤波器的特性之中的任何特性;同样可以组合上面陈述的或者在本文在别处公开的任何设备、发射机、接收机、系统、信号、方法和/或计算机程序的任何特性。
注意:这个概述部分并不打算限制本公开的范畴。本公开的范畴仅利用权利要求书来限制。
附图说明
为了辅助理解本公开内容以及显示如何可以将实施例付诸实施,通过示例来参考附图,其中:
图1是编码光通信系统的示意性框图,
图2是利用卷帘式快门照相机所捕获的帧的示意性表示,
图3显示所捕获的帧的示例,
图4显示从所捕获的帧中获得的可用采样的示例,
图5示意性地图解Ternary(三进制)Manchester编码方案,
图6示意性地图解使用Ternary Manchester编码的示例信号,
图7示意性地图解消息格式,
图8是消息重组所需的许多帧的图表,
图9显示循环重复消息的三次重复,
图10显示由三个分组构成的消息,
图11显示在时域中发射和接收的信号,
图12显示在频域中发射的信号和ISI,
图13显示通过采样多个帧之中的每一帧而获得的信号,
图14显示从采样帧中获得的信号的扩展版本,
图15显示来自多个帧的信号的时间对准版本,
图16显示从多个帧中重建的信号,
图17显示重建的消息,
图18显示消息的非滚动(non-rolling)对准,
图19显示消息的“切换(switch)”对准,
图20是均衡滤波器H的Wiener滤波器的示意性框图,
图21是由于卷帘式快门而导致的ISI滤波器的示意性框图,
图22是表示加性噪声的示意性框图,以及
图23是均衡滤波器H的健壮Wiener滤波器的示意性框图。
具体实施方式
以下涉及编码光应用并提供用于发射编码光的格式、用于接收编码光的解码器和在解码器中使用的一种特别有利的构件块(其也能够被使用在除了编码光之外的其他应用中)。
格式和解码技术旨在提供用于编码光的实用的解决方案、定义能够与现有的卷帘式快门照相机以及专用的所谓的感兴趣区域(region-of-interest)(ROI)照相机等等合作的格式。本公开提供编码和解码的方法、编码器和解码器、信号格式以及用于编码和解码的软件,其在实施例中允许这样的便宜的卷帘式快门照相机接收编码光和解码其中包含的消息。
便宜的卷帘式快门照相机有效地扫描其图像,因此随着这些行推进(progress),时间也推进。这暗示:顶部行的时间戳远远早于底部行的时间戳。现在想象:编码光出现在图像中,编码光典型地将只在图像的小区间中是可见的。
实际上对光进行成像的行是包含编码光的行。每一行被“浓缩”成单个值,并且那个单个值与信息的比特或符号相对应;那是在该行被扫描的时刻所发射的比特或符号。现在,为了卷帘式快门照相机解码消息,能够确保:每帧的行的数量是足够高的(于是光是足够大的)并且基于单个帧来解码图像。然而,如不久将更详细讨论的,那并不总是可能的。
图1给出用于发射和接收编码光的系统的示意图。该系统包括发射机2和接收机4。例如,发射机2可以采取(例如,安装在房间的天花板或墙、独立的灯或户外灯杆上的)照明设备的形式;并且接收机4可以采取移动用户终端诸如智能电话、平板电脑或膝上型计算机的形式。发射机2包括光源10和连接至光源10的驱动器8。发射机2也包括采取控制器6和至驱动器8的输出的形式的设备,用于控制将经由驱动器8来驱动的光源10。例如,控制器6可以采取存储在发射机2的存储器上并被安排用于在发射机的处理器上运行的软件的形式,或者可供选择地,也不排除控制器6的一些或全部能够采用硬件或可配置或可重新配置的硬件电路来实现。接收机4包括照相机12以及采取信号处理模块14和来自照相机12的输入的形式的设备。信号处理模块14可以例如采取存储在接收机4的存储器上并被安排用于在接收机4的处理器上运行的软件的形式,或者可供选择地,并不排除信号处理模块14的一些或全部能够采用专用的硬件电路或可配置或可重新配置的硬件电路来实现。控制器6和信号处理模块14被配置成根据在本文公开的实施例(分别地)执行发射端与接收端操作。
参考图2和3,照相机12被安排成捕获一系列的帧16,其中如果照相机被指向光源10,则这些帧将包含来自光源10的光的图像。照相机12是卷帘式快门照相机,这意味着它不是(如在全局快门照相机中)一次全部捕获每一帧16,而是逐行在行18的序列中捕获每一帧。即,每一帧16被分成多个行18(行的总数被标记为20),这些行典型地是水平行,每一行跨越帧16并且是一个或多个像素厚度(例如,在水平行的情况中,跨越帧16的宽度并且是一个或多个像素高度)。捕获处理开始于曝光一个行18,随后曝光下一行(典型地,相邻行),之后曝光下一行,等等。例如,捕获处理可以从顶到底来滚动帧16,即,开始于曝光顶部行,然后从顶部行开始滚动下一行,之后向下滚动下一行,等等。可供选择地,它能够从底到顶(或者甚至在垂直行中从一边到另一边)滚动。注意:每一行的曝光在时间上可以是独占的(exclusive)或者可供选择地可以在时间上重叠(但是任一方式开始于不同的时间)。照相机12具有一定的曝光时间Texp,并且每一行对于这个相同的曝光时间的实例被依次曝光。也注意:在数字照相机的情况中,“曝光”并不意味着机械快门的意义,而是该行的像素正在捕获或采样光的时间。
为了捕获采样用于检测编码光的目的,每一个给定行18中的一些或所有的个别像素采样被组合到那个行的各自组合采样19中(例如,只有对编码光信号有用地作出贡献的“活动”像素,稍后将参考图3和4进行讨论)。例如,组合可以通过积分或平均像素值或者利用任何其他的组合技术来执行。可供选择地,特定像素能够被视为每一行的代表。
在现有文献中,假定:源10覆盖所有或者几乎所有的每一帧。然而,这往往并不是这样的。此外,所发出的光不一定与捕获处理同步,而这能够导致进一步的问题。
因为充当编码光发射机的光源10事实上可能仅覆盖每一帧16的行18的小部分,所以在将卷帘式快门照相机用于编码光检测中的特殊问题因此出现。实际上,只有图2中的行24包含记录编码光源的强度变化的像素并因而导致包含有用信息的采样。也参见图3。所有的剩余“每帧的行”22及其导出的采样并不包含与感兴趣的源10相关的编码光信息。如果源10是小的,则在每一帧16中仅可以获得编码光源10的短的时态视图,并因此现有技术只虑及非常短的消息。然而,可能所希望的是具有也发射较长消息的可能性。也注意:例如,由于所选择的帧格式(仅留下有助于所捕获的图像的活动行21),可能具有被“隐藏”或不活动的一些行26。
除了上面的之外,可供选择地或附加地,可能具有一个或多个其他问题。在实施例中,问题可能包括:首先,卷帘式快门可能导致编码光源的短的时态中断视图;第二,在“自动曝光控制”与编码光之间可能具有利益冲突;第三,目前的驱动器技术只允许可能引起闪烁的低频信号传输(signaling);和/或第四,由于卷帘式快门处理而产生的滤波效果可能导致符号间干扰(ISI)。
因此,现有技术可能是不够灵活的和/或容易出错或受到干扰。以下实施例旨在在卷帘式快门照相机中组合来自多个视频帧的信息,以致能够捕获和解码长于其在单个视频帧中的足迹的消息。在实施例中,此牵涉:
(i)信号格式的使用,籍此利用发射机来循环重复消息;以及
(ii)在接收机上,利用消息的重复时间(Tm)的知识和帧持续时间(Tframe)的知识,以便从在每一帧中获得的部分快照中重建完整消息。为此目的,本公开提供方法来收集和重组从多个帧中收集的数据。
消息被循环重复,并且在接收机上,该消息随着时间的推进而被有效地重组(例如,这个对于特定消息而言实际上花费1或2秒,例如,因此30-60帧)。为了能够实现这个,以下描述用于在光中编码信息的特殊数据格式。
信号的解码的部分又使用在本文被称为“重组”的方法来描述。为了便于解码,以使得便宜的卷帘式快门照相机能够相当快速地检测完整消息的方式来调整(tweak)消息持续时间和/或照相机的Texp。
一旦消息被重组,则它将被均衡。“正常的”方案是取得该消息以及有效地使用限幅器(slicer)来确定信号的精确定时并随后对其进行均衡。然而,根据以下的实施例,这能够使用是相当有效的健壮Wiener滤波器实现方式、以智能方式来实现(优选地,以致能够在标准的质量一般(run-of-the-mill)移动电话上实现整个解码算法)。
健壮Wiener滤波器考虑信道的不确定性并且以这种方式能够减少符号间干扰(ISI)。在以下实施例中,这个滤波器用于以下的重组,但是注意:它也可以用于其他的系统中(而不仅仅限于均衡卷帘式快门的影响,甚至也不仅仅限于编码光应用)。
消息格式
以下描述虑及多个视频帧的信息的可靠组合的消息格式,以致能够捕获和解码长于“足迹”的消息乃至具有许多帧的持续时间的消息。此外,消息格式虑及异步(如同Wiener)均衡来消除(undo)在接收机上由于照相机而引起的ISI。进一步,消息的频率内容能够是这样的,以致甚至对于具有例如18Hz(赫兹)的重复频率(非常敏感的闪烁频率)的消息长度而言,没有可见的闪烁或频闪效应。
在图7中显示这样的消息格式的示例。为了确保甚至在给出小足迹的情况下也能够捕获消息,根据格式来发射编码光信号,籍此同一消息28被连续重复多次,并且这个的定时相对于照相机的曝光时间或者预期照相机的可能的曝光时间的范围进行配置,以致该消息在多个帧上“滚动”。即,以致利用照相机在多个不同帧之中的每一帧中以这样的方式看到该消息的不同部分,其中在看到该消息的不同部分时,该方式允许完整的消息随着时间的推进而被建立。这里的问题因此是其中相对于曝光时间Texp或预期的曝光时间来挑选消息长度(持续时间)Tm的方式,以致在重建中卷帘式快门照相机对于该消息在每一帧中的另一个部分进行成像(其中该消息的各部分不一定是连续的,并且事实上,对于卷帘式快门照相机来说,这些部分往往不是连续的)。消息定时可以被适配,以响应经由合适的反向信道诸如接收机4与发射机2之间的RF信道所反馈的特殊照相机的曝光Texp的实际知识(“协商格式”),或者可供选择地,定时可以采用预定形式来格式化,以预期该格式被设计成适应(accommodate)的某范围的照相机的可能的曝光时间值Texp(“通用格式”)。
在实施例中,除了消息的实际数据内容(净荷)30的长度(持续时间)之外,也可以通过在同一消息的重复实例之间包括消息间空闲周期(IMIP)34来选择消息长度Tm。这样,即使消息内容独自将导致每一帧或多或少看到该消息的相同部分,消息间空闲周期也能够用于打破这种行为并且反而达到上面讨论的“滚动”条件。在实施例中,消息间空闲周期可以在给出Texp的反馈的情况下被适配(“协商格式”)或者可以被预定来适应某范围的Texp的可能值(“通用格式”)。
如所提及的,滚动条件被链接至卷帘式快门照相机的曝光时间(即,行曝光时间)。没有一种针对此的单个解决方案,而这更是避免不满足该条件的Tm与Texp的组合的问题(如不久更详细讨论的)。在寻求通用格式的情况中,发明人已发现:只要Texp<=33毫秒或(1/30)秒(近似地),就能够保证足够的解决方案是可利用的。
另一问题是符号间干扰(ISI),其是每一行的曝光的滤波效应的结果(有效地,在每一行被曝光时在时域中应用逻辑框滤波器)。为了缓解这个问题,在实施例中,消息格式被安排,以致消息的每一个实例包括多个个别分组29(例如,至少三个)并且在每一个分组之间包括分组间空闲周期(IPIP)32。在实施例中,分组间空闲周期跟随在每一个分组之后,其中消息间空闲周期(IMIP)34被标记(tag)在最后分组后面的末尾上(甚至可能只有一个分组,其中IPIP 32以及潜在地IMIP 34跟随其后)。
符号间干扰则是分组长度和分组间空闲周期的函数。在行中具有的数据符号越多,则符号间干扰(ISI)就越多。因此,所希望的是保持分组长度为小的,其中在其之间具有良好大小的间隙(gap)。在数据的脉冲串之间的空闲间隙(无数据,例如,全零)有助于减轻符号间干扰,保持分组长度为短的也是如此。再次,这些属性可以响应于经由诸如接收机4与发射机2之间的RF信道之类的合适的反向信道反馈的特殊照相机的曝光时间Texp的实际知识来适配(“协商格式”),或者可供选择地,定时可以采用预定的形式进行格式化,以预期该格式被设计成适应的某范围的照相机的可能的曝光时间值Texp(“通用格式”)。在实施例中,发明人已发现:利用至少Texp的分组间空闲周期分隔开的不长于9比特的分组长度在减轻ISI方面提供良好的性能。出于巧合,9比特也有利地虑及一个字节的数据加上同步比特。然而,在其他实施例中,高达12比特或甚至高达17比特的分组长度可以被容忍。
与实现“滚动”一样,另一潜在问题是同步。接收机具有用于与接收的信号同步的消息格式的模板,例如,它知道在IPIP+IMIP的间隙之后期待同步比特、随后是字节的数据、然后是IPIP、之后是另一同步比特和字节的数据等等。通过将这个模板与所接收的编码光信号进行比较,接收机能够与该信号同步。在实施例中,为了辅助同步,发明人已发现:消息间空闲周期优选地应该是相关调制代码的至少4个符号,例如,4个三进制Manchester符号。
在给出上面考虑的情况下,示例性的消息格式包括:
(i)信号格式的使用,其中由发射机将消息循环重复(许多次),因而允许来自连续视频帧的足迹的(时态)重新组合,每一个足迹包含部分接收的消息,以便获得完整的接收消息,消息大小可以被挑选,以致通过循环重复,最终能够恢复整个消息;
(ii)具有相对短(例如9比特)的分组的消息,其中这些分组利用分组间空闲周期分隔开,以允许均衡器在存在由于不可控的照相机曝光时间设置而引起的严重ISI的情况下重建原始发射的波形;以及
(iii)使用Ternary Manchester(TM)(三进制曼彻斯特)的形式作为无DC(DC-free)调制代码,从而导致低频分量的额外抑制,因而在低符号频率上消除闪烁。
变化也是可能的。例如,虽然优选的调制代码是三进制Manchester(其可以利用词首大写字母TM来缩写),但是可供选择地能够使用其他代码(优选地,无DC或低DC内容,其中没有可见闪烁),例如常规Manchester或非归零(NRZ)。以下也进一步描述针对格式参数(例如IMIP)的各种特殊有利的挑选。在进一步的实施例中,IPIP可以被调谐至最大的曝光时间。当曝光时间>IPIP时,TM符号长度也可以被调谐至曝光时间。在还进一步的实施例中,引导解扰(guided descrambling)可以用于中等长度消息,和/或未加扰的短分组用于短消息。
返回到图2,现在讨论一些进一步的细节。如所提及的,现有文献假定:将要解码的源几乎或整个覆盖每一帧。假定:将要解码的单个消息的持续时间是这样的,以致它能够在单个帧中在源的足迹中被捕获。认识到:因为数据分组与帧的拍摄之间的同步性,所以“隐藏行”26能够形成问题。建议:可以将消息重复,以致至少一次重复满足在单个帧内被完全捕获的条件。然而,用于编码光的现有数据格式仍能够遭受到许多问题。
正如已经讨论的,因为充当编码光发射机的光源可能仅覆盖每一帧的行的小部分,所以在将卷帘式快门照相机用于编码光检测中的特殊问题出现(再次参见图2)。实际上,只有覆盖该源的行包含记录编码光源的强度变化的像素。所有的剩余行和像素并不包含与感兴趣的源相关的编码光信息。如果源是小的,则在每一帧中只获得编码光源的短的时态中断的视图,并因此现有技术仅虑及非常短的消息。
另一问题是:当前的智能电话诸如iPhone和iPad没有虑及利用“应用”进行的曝光时间Texp和ISO的控制。现有的自动内置控制算法时常导致长的曝光时间,而长的曝光时间在照相机检测之后导致在利用光源顺序发射的数字符号之间严重的符号间干扰(ISI)。
进一步,如果所发射的数字信号的带宽(符号率)是非常有限的(比如说,在1和8kHz之间的符号率),当前的LED驱动器技术只虑及便宜、高效节能的解决方案。对于这样的低频来说,闪烁和频闪效应可能变得严重,除非在信号格式中采取特殊的预防措施来抑制低频。只具有无DC代码并不总是足够的。
本公开描述虑及多个视频帧的信息的可靠组合的信号格式,以致能够捕获和解码长于“足迹”的消息以及甚至具有许多帧的持续时间的消息。此外,消息格式虑及异步(如同Wiener)均衡来消除由于接收机上的照相机而引起的ISI。最后,消息的频率内容能够是这样的,以致甚至对于具有例如18Hz的重复频率(非常敏感的闪烁频率)的消息长度,也没有可见的闪烁或频闪效应。
在图9中描绘在发射机上典型的编码光信号的快照,接下来对其进行描述。假定:光源能够在0与1之间改变其(瞬间)发出的光照强度。在图9中,平均光照强度(DC)被设置成0.8,并且编码光信号的振幅等于0.1。编码光信号被叠加在平均(DC)光级之上。
在这个示例中具有161毫秒的持续时间的消息由3个分组构成,其中每一个分组包括9个TM编码比特。由发射机循环重复消息(在图9中显示3次重复)。TM符号率等于1kHz(每秒1000个TM符号)。
消息的每一个分组在这个示例中被33个TM符号(~33毫秒)的分组间空闲周期尾随。在每一个消息的末尾,具有5个TM符号的(额外)消息间空闲周期,导致在当前消息的第三分组与下一个消息的第一分组之间33+5=38个空闲符号的总的空闲周期。图9描绘消息的3次重复,其中每一个消息由3个分组构成。
图10描绘图9的单个消息,其中DC已被移除并且已使得信号的振幅等于1。每一个分组的活动部分由9个TM编码比特构成,从而导致2*9+1=19个TM符号。注意:每一个分组的第一和最后TM符号具有±0.5的振幅,这与TM编码规则相一致。如图9和图10中所描述的消息格式能够使用具有任何给定Texp以致Texp≤1/30的照相机来解码。一般来说,例如,所有的参数诸如TM符号率、空闲周期、调制代码可以被选择来便于检测。
循环重复消息的原因在于:在卷帘式快门照相机电影的每一帧上,所发射的消息之中只有小部分可能是可恢复的。那个部分的大小取决于光源在照相机的图像中的大小(足迹)以及消息的持续时间的大小。例如,如果光源的大小是这样的以致利用该光源只覆盖帧的14%的行,并且如果消息的持续时间为5个帧的量级(假定30帧/秒的记录速度),则只有大约3%的消息潜在地是从单个电影帧中可恢复的。
如果相对于电影的帧速率来仔细挑选消息持续时间,则电影的连续帧揭示重复消息的不同部分,以致最终整个消息被恢复。
图8描绘:获得完整消息所需的帧的数量对于29.97fps的帧速率而言如何取决于消息持续时间以及图像中足迹的大小。
以下考虑图8所示的关系。对于持续时间Tf的每一帧,获得消息的持续时间Tfootprint的视图。N个连续帧的N个足迹的选集(collection)必须覆盖至少1个完整消息。这些足迹必须在这些消息上“滚动”。足迹具有等于帧速率(=29.97Hz)的重复频率,消息具有1/Tm的重复频率,并且这些频率必须是“充分”不同的。
也可能希望最小化N,因为大的N导致大的等待时间(latency)。并且,对于“小的”足迹,可能希望小的N,例如N=30~1秒。
发射机频率偏差导致Tm变化。一些偏差可能导致“慢滚动”或甚至没有滚动。对于围绕标称值的一定范围的消息持续时间而言,N必须保持为合理的。
现在考虑:如果出现以下情况,利用足迹来覆盖消息会发生什么:
- 相对足迹α=Tfootprint/Tf=0.4
- 0<α≤1,(例如,在实践中,由于隐藏行而导致0<α≤0.88)。
如果Tm大约为Tf,则消息几乎不滚动(每一帧实际上看到该消息的相同部分)。但是,如果Tm大约是Tf的1.5倍,则该消息“切换”,以致每隔一帧看到该消息的交替部分,但是一些部分被一再错过。
事实证明:如果α<1,在消息持续时间Tm是帧持续时间Tf的倍数时获得“无滚动”足迹。如果α<0.5,在Tm是Tf的半整数倍(0.5,1.5,2.5,……)时获得“切换”足迹。
一般而言,如果1/(n+1)<α≤1/n,其中n是整数,则在以下情况下遇到“无滚动”足迹:
事实证明:如果上面比率“接近”“无滚动”比率之一,则滚动可能已经是不足的。事实也证明:如果上面比率“接近”“无滚动”比率之一,则滚动可能已经是不足的。
结果是如在图8中所看到的复杂关系。
调制代码
因为可能导致闪烁的低频分量的额外抑制,所以用于低比特率的优选调制代码是三进制Manchester(TM)(代码)。低比特率因为以下两个原因而可能是强制性的:(i)LED光源的驱动器的有限的可负担得起的复杂性以及最低要求的效率;和/或(ii)为了获得针对非常长的曝光时间而能够恢复的信号传输速度。
如果比较NRZ、Manchester和三进制Manchester,注意到:NRZ(实际上:没有调制代码)具有非常高的DC内容。从磁记录中广为人知的并且也被推荐用于IEEE可见光通信(VLC)标准的Manchester调制代码是所谓的无DC代码,即,在频率零上的谱内容等于0。TernaryManchester调制代码是所谓的无DC2调制代码,这暗示:围绕DC的谱密度与如同Manchester的无DC代码相比而保持为小得多。在用于低频的谱中,Tm与Manchester相比因此是有利的。对于闪烁而言,高达100Hz的频率是重要的。
由于信号格式利用采用空闲符号来点缀(intersperse)的相对短的分组,所以能够通过让每一个分组是无DC2的来保证消息是无DC2的。这通过使用TM脉冲响应{-0.5,1,-0.5}调制用户比特来完成。注意:9个用户比特的分组导致19个TM符号的TM编码分组。
对于较大的比特率来说,倘若谱密度没有导致可见闪烁,则也能够设想其他的调制代码、甚至可能多级无DC调制代码(例如,四进制Manchester)。
将要使用的调制代码能够采用在驱动器的实际实现方式中虑及某一自由度、例如虑及具有振幅调制(AM)实现方式的驱动器或具有脉宽调制(PWM)实现方式的驱动器的方式来定义。这暗示:与传统的调制格式形成对比,对于编码光而言,没有确切定义将要发射的波形的实际形状。
为编码光定义调制代码的优选方式将是定义规则以及在最优采样点上应用于调制器输出波形的全T(full-T)移动平均滤波器的输出的可接受值。
分组长度
转到分组长度的问题,分组长度优选地被挑选,以致最坏情况下的数据图案在最坏情况下的曝光时间下仍是可恢复的。
在图11中显示示例。考虑与由全1构成的9个比特的TM编码分组相对应的发射波形36(fsymbol=1kHz)。如果利用具有Texp=1/125[s]的照相机检测到这个波形,通过视频帧序列的恰当处理,在照相机的输出上能够获得1维接收波形38。注意:通过将发射信号与矩形逻辑框函数卷积,其对应于Texp的FIR滤波器动作(在Texp秒上的移动平均),为发射信号的失真版本的接收信号能够被看作将利用照相机所生成的。
Texp的移动平均滤波导致在分组的TM符号之间的符号间干扰(ISI)。注意:接收信号的振幅相对于传入的发射信号的减小。也注意:在分组的后一半中,接收信号的振幅已被减至零。最后注意:因为利用Texp的因果FIR类型滤波,所以接收信号扩展而越过发射信号Texp=8ms(毫秒)。在接收机中信号处理的任务是从接收信号中重建发射信号。
图12显示在频域中的相同情形。曲线40表示由全1构成的单个9比特TM编码分组的谱表示(傅里叶变换)的绝对值。曲线42表示“Texp移动平均滤波器”的传递函数的绝对值。在频域中的接收信号是两个谱表示的点积。注意:ISI滤波器的零对于接收信号而言是特别有害的,这是因为在那些频率上(以及在零的邻域中的频率上)的信号被从发射信号中有效地移除。
如果希望发射信号从接收信号中是可恢复的,则要求:在针对Texp的所有合理挑选而利用ISI滤波器将发射信号滤波之后,至少足够的信号能量保留。为了实现这个目标,发射信号的谱表示必须被充分地“伸展”在许多频率上(针对分组的比特内容的所有可能的挑选)。事实证明:如果分组长度为9比特的量级,就是这种情况。
另一方面,如果使得分组(由全1构成)长于9比特(比如说,17比特),那么这样的长分组的谱表示仍将集中在500Hz周围,但是其谱宽度将大约是原始分组的1/2。事实证明:在那种情况下,太多的信号能量被ISI滤波器所破坏。
发明人已发现:倘若分组间空闲周期(IPIP)至少是Texp,对于从比如说9到12比特的分组长度而言,如果使用其中fsymbol=1kHz的TM调制,则能够足够精确地对于所有的Texp≤(1/30)秒来恢复发射信号。注意:如果IPIP=(1/30)秒,固定的发射信号格式对于所有的Texp≤(1/30)秒都起作用。这可以用于提供通用信号格式。
如果分组长度在12与17比特长之间,则事实证明:眼图案的最小眼睛高度仅利用少量“有害的”具有能够被“Texp移动平均滤波器”以不可恢复的方式所毁坏的差的谱表示的比特图案来确定。如果那些有害的比特图案只是少量的,则能够利用所谓的“引导加扰(guided scrambling)”来避免那些比特图案发生。然而,事实证明:需要16个不同的加扰图案的量级来应用有用的引导加扰。由于加扰图案的索引也必须被编码在每一个分组中,所以有用比特的数量将再次被减至每分组8或9个比特。因此,对于非常短的重复消息来说,未加扰的短分组可以被认为是最有用的。对于较长的消息来说,引导加扰可能是非常有用的。
从多个分组中构造的消息
为了将有用数量的信息从光源发射到照相机接收机,构造由p个分组的级联构成的消息,其中每个分组具有它自己的比特内容。在每两个分组之间,至少具有分组间空闲周期(IPIP)来防止在不同分组之间的ISI串扰。在消息的末尾,具有额外的消息间空闲周期(IMIP)。由p个分组构成的消息被循环重复。
在优选实施例中,p=3,因此有效地每消息发射3字节的信息(24比特)。
分组间空闲周期
分组间空闲周期(IPIP)的用途是将由于照相机的曝光时间(Texp)而诱发的ISI限制到单个分组。在优选实施例中,IPIP的持续时间应等于最大预期的曝光时间Texp_max。这可以提供通用IPIP格式,这是因为在Texp≤IPIP=Texp_max的情况下其允许针对任何Texp来恢复消息。
发明人也已发现:对于仔细挑选的TM符号率而言,如果Texp>IPIP,则消息是可恢复的,其中仔细挑选的TM符号率则取决于照相机所使用的实际Texp。针对这种情况利用增强的信号传输速度的格式将属于“协商信号格式”,这是因为发射光源和照相机接收机应该就发射参数诸如TM符号率、每消息的分组的数量、IPIP和/或IMIP的挑选而达成协议,以确保能够接收实际的编码光传输。这些参数的挑选取决于例如Texp、帧速率、行速率以及光源的足迹的可用的照相机设置。
注意:虽然本文中的实施例依据跟随在每个分组之后的IPIP以及被标记在最后IPIP的末尾的额外IMIP来描述,但是在可供选择的描述或实现方式中,IPIP可以仅被包括在同一消息的相邻分组之间,其中跟随在最后消息的末尾之后的总的空闲周期是IMIP。
消息间空闲周期
消息间空闲周期(IMIP)是被附在尾随消息的最后分组的最后IPIP之后的空闲周期。IMIP可以利用TM符号来测量。
IMIP服务于两个目标:
(i)确保:总的消息持续时间是这样的,以致其在给出帧速率的情况下满足好的“滚动属性”,即,以致连续帧的足迹尽可能快地揭示完整消息;和/或
(ii)IMIP的第二用途是在分组的图案与消息的循环重复内的空闲周期中提供非对称性。这种属性能够在接收机的循环同步中使用。
格式的同步元素
为了同步目的,消息格式的两个元素是有意义的。
(i)每个9比特分组之中的第一比特作为同步比特的使用。在优选实施例中,消息的第一分组的第一比特应该是一,而所有剩余分组的第一比特应该是零。
(ii)消息间空闲周期(IMIP)的使用。非零IMIP的存在打破(break)重复消息中的正则时态分组结构,这是因为在消息的最后分组之后总的空闲时间长于其他分组之间的空闲时间。
在优选实施例中,IMIP应该具有至少4个符号的持续时间。
示例参数
在给出所有的上面考虑的情况下,一些示例参数挑选是:
- fsymbol≥1 kHz (闪烁和频闪)
- 设想的分组持续时间:
- 对于fsymbol~1kHz,大约52毫秒(≥49毫秒)
- 对于fsymbol~2kHz,大约26毫秒(≥24.5毫秒)
- 对于fsymbol~4kHz,大约13毫秒(≥12.25毫秒),
- 消息持续时间Tm是分组持续时间的整数倍,和/或
- 感兴趣消息持续时间:大约26、52、104毫秒。
例如:
- 曝光时间小于或等于(1/30)秒,符号率是1kHz,并且分组是包括分组间空闲周期的52毫秒;
- 曝光时间小于或等于(1/60)秒,符号率是2kHz,并且分组是包括分组间空闲周期的26毫秒;或者
- 曝光时间小于或等于(1/120)秒,符号率是4kHz,并且分组是包括任何分组间空闲周期的13毫秒。
其他的示例参数挑选:
- 具有158毫秒的持续时间@1kHz符号率的3分组格式(带有CRC),其中158毫秒对应于具有33个符号的IPIP和2个符号的IMIP的3字节消息;或者
- 70个符号~35毫秒的分组长度@2kHz,其中35毫秒对应于具有3个符号的IPIP和4个符号的IMIP的3字节消息(例如,能够使用这个格式,其中T_exp被控制成小于(1/500)秒)。
在协商格式情况中,控制器可以被安排成在包括一种或多种这些组合和/或其他组合之中的任何组合的参数的多种组合的列表之间进行选择。在通用格式中,预先挑选一种特殊组合来满足尽可能多的照相机(或更确切地说,曝光时间)。
循环冗余校验(CRC)
在优选实施例中,消息由若干分组构成,其中每个分组包含1字节的信息。在使用CRC的情况下,建议:每一个消息的最后字节为8比特CRC。因为利用解码循环重复的信号格式的接收机所递送的重复解码结果,所以能够潜在地获得发射消息的许多实现,其允许接收消息的可靠性通过比较同一消息的连续解码变体的解码结果而得到增强。
在优选实施例中,CRC利用预加载和奇偶校验倒置来表征。预加载能够是应用特定的,因而允许接收机区分来自在同一环境中使用的不同应用的消息。注意:在使用的不同预加载的数量和CRC的有效检错能力之间具有折衷。
多个消息
发明人已发现:能够发射不同消息mi的级联,其中每一个消息mi被重复N次,其中N是足够的次数,以致在给出发射光源的足迹的情况下照相机接收机能够可靠地重建完整消息mi。在同一消息mi的N次重复之后,光源通过仅级联正好在mi之后的消息mi+1的比如说N次重复就能够发射具有相同信号参数的完全不同的消息mi+1。事实证明:接收机能够通过观察CRC来辨别相干重建的消息。
消息重组
以下描述利用照相机重组或“缝合”视频帧用于编码光信号恢复的处理。接收机接收如上所述格式化的信号并将消息的各部分重组成完整消息,其随后被提供用于进一步处理。
在实施例中,重组处理包括以下:
(i)对于多个帧之中的每一帧,如上所述建立每图像行的采样(再次参见图2中从行18中取得的采样19)。
(ii)将给定帧的所有(活动)采样收集到时间序列中(每一个定位于各自时间上,其中在各自时间上来自那个行的采样位于该帧内)。这个序列形成每一帧的“边际信号”或“帧信号”。
(iii)接下来,利用零来扩展这些信号,由此产生“扩展的边际信号”或“扩展的帧信号”,其中每一个扩展信号的持续时间是消息持续时间的n倍(n是整数)并且其中该持续时间长于帧持续时间。
(iv)接下来,这些活动采样被时间对准,即在利用扩展信号所定义的时间帧或标度内将每行的采样向右移位Tframe。这循环地来完成,即以环绕而越过扩展的帧信号长度的末尾的环绕形式来完成。这样一来,这些采样在扩展框架内的移位位置使得其便于重组。
(v)接下来,这些采样被瓦解(collapsed)(即,被重组)。在实施例中,通过进一步移位一个测量能够找到不同的重建。
一旦被重建,例如使用Wiener滤波器,信号能够被滤波以消除符号间干扰(ISI)。
在实施例中,ISI滤波器对于处理重组数据中的间隙而言是足够健壮的(这种健壮性至少部分是调制代码、消息格式和Wiener滤波器的结果)。该处理也可以允许跳过帧的优雅处理。
在进一步实施例中,作为附加特性,该处理也可以允许接收机基于重建信号的相关性来校正相对于Tm或Tframe的定时的时钟偏差。
不久将更详细讨论消息重组处理的示例,但是首先参考图1-4来阐述接收机前端的一些示例细节。
在实施例中,在本文公开的基于照相机的数字编码光接收机与使用无线电或IR通信的数字信号的众所周知的接收机的类别是非常不同的。编码光接收机的通用结构以及用于在编码光接收机内执行子任务的详细算法二者是相当不同的。
基于照相机的编码光接收机的输入由采用已知格式拍摄的电影构成。例如,众所周知的视频格式是480p,逐行扫描格式具有以每秒29.97帧(fps)获取的帧,其中每一帧由480行构成,并且每一行包含640个像素。编码光接收机由应用于这个电影以获得调制光源的数字内容的数字信号处理构成。
由接收机执行的信号处理可以包括2D信号处理和1D信号处理。2D信号处理可以包括:
(i)选择恰当的颜色(R、G或B)或颜色的线性组合,以提取编码光信号;
(ii)使用斑点(blob)方案的图像分段,有效地识别包含编码光源的图像中的区域;
(iii)识别每一个斑点内的空间滤波器“活动像素(active pixel)”;
(iv)使用边际的有效运动补偿(对每一个源而言,独立地);和/或
(iv)通过组合每行的活动像素来计算信号“边际”(计算源自图2中的每一行18的采样19)。
1D信号处理可以包括:
(i)使用帧内的相关性来估计发射时钟(对于足迹>>消息的持续时间,最佳地起作用);
(ii)假定使用上述的信号格式,其中由发射机循环重复消息,并且利用消息的重复时间(Tm)的知识和每秒的帧的数量(Tframe)的知识来从每一帧中获得的部分快照中重建完整消息(这是不久将更详细描述的重组处理);
(iii)使用相继重建信号之间的相关性来估计发射时钟;
(iv)在消息的单个周期上使用健壮Wiener滤波器来减轻由于Texp而引起的ISI;
(v)如果重组程序在重建中留下洞(hole),则应用健壮Wiener插值;
(vi)通过使用同步模板进行处理,找到全局循环同步;
(vii)通过作出有关利用全局循环同步所给出的最优采样点的决定来解码比特;和/或
(viii)针对连续重建消息来检查CRC。如果n个连续重建之中的m个具有CRC=OK,则接受该消息。
对于特殊消息格式和给定足迹来说,可以采用例如30个连续帧来重组完整消息。如果具有2秒的记录(比如说,60个帧),那么接收机能够生成同一消息的31个不同的实现。在实施例中,通过比较这些不同的解码结果,帮助接收机时钟与接收信号的同步是可能的。
有关恰当颜色的选择,事实证明:对于恢复编码光信号而言,恰当颜色的区间能够是有意义的。例如,颜色绿色(G)在照相机中利用最高像素密度来表征,因而给出编码光信号的最高空间(并因而,时间)分辨率。如果编码光正使用高符号频率(宽的带宽),那么这可能是重要的。另一方面,事实证明:如果光源具有高的强度并且如果Texp是相当长的,则颜色蓝色(B)是有利的,这是因为这个颜色倾向于导致像素的较少限幅。
参考图2-4,对于图像分段来说,本公开的实施例使用“斑点(blob)”方案来辨别图像中能够与有可能早发射编码光信息的灯相关联的区域。典型地,斑点是图像中具有高强度的区域(例如,参见图3)。算法能够辨别并区分图像中不同的斑点。例如,使用斑点的边缘虑及有效跟踪斑点并限制与视频序列的不同帧中的每一个斑点相关联的2D信号处理。
为了找到斑点内的贡献像素,只有被调制的即由于被调制的光源而具有足够强度变化的那些像素才对该信号有效地作出贡献。其他的源像素仅仅有效地产生“噪声”或其他不需要的副作用。典型地,也出于进一步的考虑而移除被限幅的像素(例如,参见图4)。也移除具有不足强度的像素。由此产生的属于光源的“贡献像素”的集合能够被表示成二进制空间2D滤波器。
以下描述操作于每一帧中作为“边际”获得的采样上的算法(图19中的采样19,即,“行组合”采样)。
图3描绘指示感兴趣的源的接收机生成的二进制画面。图4以二进制显示每一帧中选择源的贡献像素。注意:在源的中心部分中的像素并未作出贡献,这是因为那些像素被过度曝光,即,被限幅。
图13显示电影中拍摄的100个连续帧之中的每一帧的“边际信号”(由来自图2的采样19组成),每一个采样通过其对应行的活动像素的恰当操作而获得。即,每一个“边际信号”是从一个给定帧16中获得的信号,其中从那个帧的每一个活动行18获取的采样19在时间上被定位在帧持续时间内对其进行采样的各自时间上。注意:在图2中,与单个帧的连续采样相对应的时间轴从顶至底,而在图13中,单个帧中的连续采样的时间轴从左至右(其中页面横向排列)。在图13中,100个连续视频帧(每一帧生成单个一维信号)彼此上下堆叠在一起,其中连续帧从顶到底。
也注意:虽然Tframe大约等于1/30-33毫秒,但是单个帧的边际信号由于隐藏行26而具有仅仅大约26.5毫秒的持续时间。在图13的底部显示指示源自在每一帧中覆盖光源的行的采样的栏(bar)46,即,只有每一行的这个部分包含源自该源的采样。对于这个示例来说,事实证明:该源相对于帧的足迹FSF~0.14,即,每帧只有大约14%的行实际上包含该源的像素。
在图14中,显示如何使用已知的持续时间Tm和Tframe来生成“扩展的边际信号”或“扩展的帧信号”,其中每一个是从各自帧中采样的信号的扩展版本。这如下来完成:
(i)为每一帧定义拉伸(stretch),即围绕图13的活动采样(例如,在其之后扩展)的时间区域,以便获得m*Tm的拉伸持续时间,其中m是常规挑选的整数。注意:总是能够在活动采样之外添加或移除零。
(ii)计算num_periods=ceiling(Tframe /(m*Tm) ),其中“ceiling(上限)”意味着向上舍入至最接近的整数。
(iii)将每一个拉伸循环重复num_periods次,以便为具有至少Tframe的总的持续时间的每一帧获得“扩展的边际信号”。注意:扩展的边际信号总是具有大于Tframe并且是Tm的整数倍的持续时间。
在该示例中,Tm=158毫秒;Tframe=33.36,于是m=1和num_periods=1,并且每一帧利用零来扩展以获得158毫秒的拉伸(=消息的1周期)。注意:在每一帧(拉伸)中实际有用的观察资料(observation)仅是利用图14中的栏48所指示的完整消息的大约0.03的小部分。可以说:该源相对于消息的足迹FSM~0.03。
注意:在实施例中,并不一定使用两个单独的整数m和num_periods。关键是确定为消息长度(持续时间)Tm的整数倍并且长于帧长度(持续时间)Tframe的时间周期。这个周期定义在其之内能够对准从不同帧获得的信号的参考时间标度或参考帧,如现在所讨论的。
使用Tframe和现在定义的如上所述所确定的参考框架或标度来执行源自不同帧的观察资料的时间对准。每一行的“扩展的边际信号”相对于其前一帧的扩展的边际信号而向右(在正的时间方向上)移位Tframe。然而,由于使得扩展的边际信号是消息持续时间Tm的倍数,并且因为发射消息被循环重复,所以能够利用循环(环绕)移位来替代每一个扩展的边际信号的移位,因而获得图15中的结果。
即,如所提及的,上面讨论的“扩展”提供定时参考周期,其定义在其之内将定位从每一帧获得的信号的标度或框架。这个参考周期具有的长度是消息持续时间Tm的整数倍。此外,它定义的标度或框架环绕。即,如果越过定时参考周期的末尾,则该标度或框架绕回到参考周期的起始。因此,如果将来自给定帧的信号相对于其前一帧而向右移位Tframe引起那个帧的信号的一部分移位“离开参考标度或帧的末尾”或者“离开参考标度或帧的右手侧”(越过定时参考周期,即越过已为这个用途所定义的Tm的整数倍),则那个信号的该部分通过重新出现在参考标度或帧的起始而继续(从相对于定时参考周期的时间零开始)。
注意:在实施例中,并不一定需要通过添加零来“扩展”来自每一帧的信号(“边际信号”)。这只是实现创建是消息持续时间Tm的整数倍的环绕参考帧的想法的一种方式。实现或考虑此的等效方式将是:这个定时参考周期(其是Tm的整数倍)定义在其上面将放置来自每一帧的信号并在其上面将这些信号以环绕方式移位Tframe的其各自倍数的“帆布(canvas)”。
也注意:在所有的循环移位的扩展的边际信号中,接收机保持跟踪源自编码光源的活动采样的位置。
如果具有如图15中的结果,接收机现在能够为消息的每一个时间采样在垂直方向上查找在那个位置上具有有效的贡献采样的帧。
从大约为0.03的FSM中,能够期待:至少采用(0.03)-1~33个帧来恢复完整消息。典型地,由于重叠,在实施例中,接收机可能需要大约两倍的帧来完成恢复。
从图16中,能够看出:解码器在该示例中需要70个连续的帧来重建完整消息(~2秒的电影)。因为每70个连续帧给出重建,所以100个帧的视频给出31个不同的重建(尽管它们是相关的)。
图17显示第一重建消息的重建48的结果(以及健壮Wiener滤波器50的输出)。在该图的顶部的粗体栏52的长度指示在这个示例中从单个帧获得完整消息之中的哪一小部分(~3%,~5毫秒)。
在进一步的实施例中,上述的程序也能够应付所谓的“跳过帧”。假设是:通过观察利用照相机所给出的帧记录时间来检测可能跳过的帧。如果帧被跳过,那么对应的边际信号将在图16和17中没有获得有效的支持。因此,重组算法将自动地丢弃对应的帧。
在更进一步的实施例中,通过观察在不同的重建信号(图17中的31个信号)之间的相关性,能够校正发射机与接收机之间的时钟偏差。如果所有的时钟位于完美同步中(假定完美知晓Tm和Tframe),那么这些不同的重建信号将垂直地被完美对准(以不同的噪声效应为模)。时钟偏差将作为最佳相关性的非零移位而显现。以这种方式,接收机能够适应于发射机时钟。事实证明:即使接收信号被由于照相机的曝光时间而引起的ISI严重破坏,这种方法也起作用。
现在讨论为了得到完整重组所需要的最低数量的帧。
再次考虑:如果出现以下情况,利用足迹来覆盖消息会发生什么:
- 相对足迹α=Tfootprint/Tf=0.4
- 0<a≤1,(在实践中,例如,由于隐藏行,所以0<a≤0.88)。
如果Tm大约为Tframe,那么消息的对准看起来如同图18。
如果Tm大约为Tframe的1.5倍,那么消息的对准看起来如同图19。
事实证明:如果α<1,那么在消息持续时间Tm是帧持续时间Tf的倍数的情况下获得“非滚动”足迹。如果α<0.5,那么在Tm是Tf的半整数倍(0.5, 1.5, 2.5,...)的情况下获得“切换”足迹。
如以前结合图8所讨论的,一般来说,如果1/(n+1) <α≤1/n,其中n为整数,那么在以下情况下具有非滚动消息持续时间Tm:
注意:小m的奇异性要宽于较大m的奇异性。
对于非滚动消息持续时间Tm=T0来说,定义m0作为非滚动T0的阶次(order),其中最小m使得m0•T0=k0•Tframe。GCD(m0,k0)=1。
数字m0和k0确定足迹和消息在T0的邻域中的重复图案:大约k0个非滚动足迹进入m0个消息。
考虑在非滚动消息持续时间T0的邻域中具有持续时间Tm~T0的消息:在1轮m0个消息之后,具有部分覆盖该消息的k0个不相交的等距足迹。
非覆盖部分是:T0-k0•α•Tframe,其被分成k0个大小Tg的相等部分,其中:
Tg=(T0-k0•Tframe•α)/ k0 = (T0-m0•T0•α)/k0=T0(l-m0•α)/ k0
图18显示具有连续足迹的消息的时间对准,其中α=0.4;接近于m0=1,k0=1。在此,消息没有显著滚动,并且每一帧看起来几乎是消息的相同部分(仅仅非常缓慢地滚动)。
图19显示在另一种情况下具有连续足迹的消息的时间对准,其中α=0.4;接近于m0=2,k0=3。在此,看到“切换”。
在1轮m0个消息之后,具有k0个间隙,其中每个间隙具有持续时间Tg,这些间隙必须利用这些足迹在下一轮中的递增移位来覆盖。
考虑从一轮到下一轮的足迹的移位ΔT:
- ΔΤ=m0• |Tm–T0 | [ms]
- 需要~1+Tg/ΔΤ轮来覆盖完整消息
- 1+Tg/ΔΤ轮对应于Nf=(1+Tg/ΔΤ)•k0个帧
注意在T0的邻域中针对Tm的Nf的双曲线行为。也注意m0和T0对于奇异性的“宽度”的影响。
健壮Wiener滤波
以下描述解码器的另一部分,其在实施例中允许上面的实现方式具有明显更好的性能并允许设备与更广范围的照相机一起使用。
介绍例如能够用于均衡被具有未知参数的滤波器H(f)并被加性噪声破坏的信号的健壮Wiener滤波器。在假定滤波器参数的概率分布是已知的情况下,健壮Wiener是在MSE意义上产生最优结果的常数滤波器。
Wiener滤波器理论本身在数字信号处理中是众所周知的,并且自从第二次世界大战以来已被广泛地使用。例如,Wiener滤波器能够用于在存在噪声的情况下估计(线性)失真信号。Wiener滤波器(均衡器)随后给出最佳(均方误差MSE)结果。
在经典(频域)Wiener滤波例如去卷积中,具有如图20所示的两种独立的、固定的、零均值随机处理X和N0
在典型应用中,X表示输入至滤波器H的输入信号(图20中的数字54),并且N0表示在滤波器H的输出上添加的加性噪声。Wiener滤波器G(数字56)被安排成均衡滤波器H,即在存在噪声N的情况下消除滤波器H对于输入信号X的影响(至最佳近似)。
典型应用是利用卷帘式快门照相机的编码光的检测。在这种情况下,等效的数字信号处理问题对应于已利用时间逻辑框函数滤波的数字信号的恢复。参见图21。换言之,输入信号X表示利用卷帘式快门照相机所捕获的编码光信号,并且滤波器H表示卷帘式快门采集处理的滤波效应。这个滤波器H利用每一行的曝光来创建。它相当于时域中具有宽度Texp的逻辑框函数(即,矩形函数),即,行被曝光一时间Texp,在该时间中它捕获信号(滤波器H在时域中的传递函数统一是“on(接通)”),并且在那之前和之后它不捕获任何信号(H在时域中的传递函数为零)。时域中的逻辑框函数对应于频域中的正弦函数。这个滤波器的效果能够是产生符号间干扰。因此,在下面,利用Texp创建的滤波器可以依据其不需要的效果而被称为“ISI滤波器”。
(图21和22也显示如何可以将噪声N0视为以下之总和:(i)在滤波器H的输入上穿过滤波器H的噪声项n1;以及(ii)在滤波器H的输出上的噪声项n2)。
任务是找到仅使用Y来提供X的最小均方误差估计的线性滤波器G。为此,基于将被均衡(即,被消除)的滤波器H的假定知识以及N0来预先配置Wiener滤波器G。分析地进行配置,以致(理论上给出H的知识以及X与N的谱)将Wiener滤波器G应用于Y(其中Y是输入信号X加上噪声N)将导致输出信号X^,其相对于原始输入信号X来最小化均方误差(MSE)。
经典的Wiener滤波器公式(在频域中)是:
其中S(f)是输入信号X的谱密度,并且N(f)是噪声项N0的谱密度。
如能够看出的,Wiener滤波器的公式包括将被均衡的滤波器的表示,在这种情况下,采用H* 和|H|2(=HH*)的形式。传统上,在典型的Wiener滤波器中,假定将被均衡的滤波器H(f)以及噪声谱密度N(f)是确切已知的。在针对利用卷帘式快门采集处理所创建的ISI滤波器进行均衡的情况下,这暗示确切知晓Texp。也假定:分别地,处理X和N的谱密度S(f)和N0(f)是已知的。
然而,Wiener滤波器事实上对于H(f)的估计中的误差是非常敏感的。在过去已开发一些技术来应付未知失真,诸如
- 迭代(耗时)方案,其中尝试改变目标响应,直至得到最佳结果;或者
- 最小-最大方案,其中尝试识别最坏情况H(f)并为此优化Wiener滤波器。
因此在将经典的Wiener滤波器用于均衡中的问题是:如果滤波器的增益必须是大的并且不是非常精确地知道将被均衡的滤波器,应用这个理论。
例如,对于信号的带宽为1kHz的量级,其中Texp在1/30秒的范围中,ISI滤波器能够引入如同图11和12所示的严重的符号间干扰(ISI)。
为了在接收机侧上消除这个ISI,提供对于H(f)的定义的不准确性是不敏感的“强大”均衡器滤波器将是所希望的。
根据本公开,这能够通过计算固定的“平均Wiener滤波器”即在ISI滤波器H(f)的未知变化的情况下是健壮的如同Wiener的滤波器来实现。在给出H(f)的相关参数的统计分布的情况下,这种“健壮Wiener滤波器”在MSE方面能够产生更优的输出。
在针对编码光的应用中,这个理论允许重建编码光信号,其中照相机的Texp只是近似已知的,而这往往是这种情况。
发明人已发现最优的健壮Wiener滤波器的特别有效的推导。在下面,在频域中(于是依据H(f),如前所介绍的)来描述该问题。注意:在针对编码光的应用中,健壮Wiener滤波器可以实时在基于照相机(智能电话)的解码算法中被构造为Texp,并因此H(f)在灯的实际读出期间被定义或被改变。
健壮Wiener滤波基于以下注释(法):H(f)并非是确切已知的,但是事实上可以依赖于至少一个未知量θ,即H的参数,其值不是已知的并且事实上在任何给定的情况下可以在例如两个极限-Δ与+Δ(或者更一般地,Δ1与Δ2)之间的某范围的值之内被找到。换言之,假定:滤波器H(f;θ)取决于随机参数θ而与X和N无关。
对于宽度θ的逻辑框函数即频域中的正弦函数来说,可以编写:
并且,在利用框(函数)创建的ISI滤波器的情况中,θ是Texp。
健壮Wiener滤波器56’随后通过采用上面给出的经典Wiener滤波器表示来创建,以及其中将被均衡的滤波器的表示出现,利用在未知参数θ的潜在值上进行平均(例如,在-Δ与+Δ之间或者更一般地在Δ1与Δ2之间的平均)的对应平均表示来替代。换言之,在基于H(f)的项出现的地方,这个利用相对于θ进行平均的等效平均项来替代。
从上面的经典公式开始,这给出:
其中E是相对于θ的平均(值)。也参见图23。
现在进一步详细解释这个的推导。所希望的是找到提供线性最小均方误差估计的固定的线性滤波器G:
以致
是最小的。
如果通过也采用相对于θ的总体(ensemble)平均来扩展经典推导,则获得:
因为X、N和θ是无关的并且E[X]=E[N]=0
通过求微分e至G并将结果设置为0来找到最佳G(f):
从中获得:
以类似的方式,能够合并匹配滤波器(MF)的目标响应:
为了应用这个,保留的计算。下面给出一些示例。
第一方案是使用H的泰勒级数展开以及θ的矩。在编码光卷帘式快门应用中,θ=Texp
泰勒级数展开给出:
在卷帘式快门应用中:
则:
这种方案对于低频率来说更好地起作用,这是因为H''(f,θ)随着频率增加而放大(blow up)。
第二方案是在假定θ的已知分布的情况下使用更确切的计算。示例:θ被均匀分布在θ^-Δ与θ^+Δ之间,以及
。则:
虽然在实施例中已依据针对经典Wiener滤波器频域公式的某种修改而描述了上面内容,但是可以具有其他的Wiener滤波器公式(例如,Wiener滤波器的时域或近似,或者针对特殊H求解的公式),并且在这样的公式中也可以应用利用平均H或H的函数来替代假定为已知的H或其函数的原理。
也注意:在本文公开的健壮Wiener滤波器能够用于均衡除了逻辑框(矩形)滤波器之外的其他滤波器和/或用于除了接收解码光之外的其他应用中。另一示例是具有可能不是确切已知的中心频率f0的带通滤波器。在这种情况下,将被均衡的滤波器是频率f和中心频率f0的函数,即H(f;f0),并且从相对于f0进行平均的H(f;f0)的平均表示中确定健壮Wiener滤波器:
进一步,健壮Wiener滤波器的想法也能够被扩展至更高维度θ,即可以允许一个以上的参数是不确定的。在这种情况下,将被均衡的滤波器H的表示(例如,H*和HH*)在每一个未知量上进行平均。例如,这些参数可以是带通滤波器的中心频率和/或频带宽度。
进一步,可供选择地或附加地,噪声项N0能够表示干扰信号的谱密度。用于噪声和/或干扰的通用术语是“扰动”。
将意识到:上面的实施例仅通过示例进行描述了。通过研究附图、公开内容和所附的权利要求书,本领域技术人员在实践所请求保护的发明中能够明白和实现针对所公开的实施例的其他变化。在权利要求书中,词“包括”并不排除其他的元素或步骤,并且不定冠词“一”或“一个”并不排除多个。单个处理器或其他单元可以实现在权利要求书中叙述的若干项的功能。在互不相同的从属权利要求中叙述某些措施的纯粹事实并不指示不能有利使用这些措施的组合。计算机程序可以被存储和/或被分布在合适的介质诸如与其他硬件的一部分一起供应或者作为其他硬件的一部分供应的光存储介质或固态介质上,而且也可以采用其他的形式诸如经由因特网或其他的有线或无线电信系统来分布。权利要求书中的任何参考符号不应被解释为限制该范畴。

Claims (16)

1.一种编码光信号的通信的设备,包括:
输入,用于从卷帘式快门照相机(12)接收信号,其中所述照相机通过按顺序曝光每一帧(16)的多个(21)行(18)在给定帧速率上捕获给定持续时间的帧,所述信号包括编码光信号;
信号处理模块(14),其被连接至所述输入并被安排成:经由所述输入从一数量(24)的所述行(18)之中的每一行获得所述编码光信号的各自采样(19),将给定帧的所有采样收集到形成每一帧的边际信号或帧信号的时间序列中,并且扩展所述信号,由此产生扩展的边际信号或扩展的帧信号,其中所述数量(24)的行在持续时间上被曝光,并且所述数量(24)是与利用所述照相机在每一帧中所曝光的所述多个(21)行相比而言实质上更少的所述行的数量;
所述编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且所述消息的多次重复利用定时来接收,以致利用所述照相机在所述帧之中的多个不同帧之中的每一帧中看到所述消息的不同部分;以及
所述信号处理模块被配置成时间对准来自所述多个不同帧的所述消息的不同部分并且从时间对准的部分中重组所述消息,
其中所述信号处理模块被配置成基于帧持续时间和消息持续时间来执行所述时间对准。
2.根据权利要求1所述的设备,其中在所述多个帧上看到整个消息。
3.根据权利要求1所述的设备,其中所述消息具有长于一个帧的持续时间。
4.根据权利要求1所述的设备,其中所述信号处理模块(14)被配置成通过以下来执行所述时间对准:
确定定时参考周期,其为所述消息的长度的整数倍;以及
将在每一个相继帧中接收的所述消息的部分相对于其前一帧而偏移所述帧长度,但是越过所述定时参考周期的末尾而环绕到所述定时参考周期的起始。
5.根据权利要求4所述的设备,其中每一帧包括活动行和不活动行,以及所述多个行是活动行,并且所述信号处理模块(14)被配置成从包括所述数量的行的每一帧的多个活动行(21)之中的每一行获得各自采样(19),从而产生具有所述帧持续时间的帧信号;以及通过将每一个帧信号扩展至具有所述定时参考周期的持续时间来执行偏移。
6.根据权利要求5所述的设备,其中通过添加零来执行所述扩展。
7.根据权利要求1-6之中任一项权利要求所述的设备,其中所述信号处理模块(14)被配置成丢弃一个或多个跳过帧。
8.根据权利要求1-6之中任一项权利要求所述的设备,其中所述信号处理模块(14)被配置成:基于所述消息部分的不同的各自子集来生成所述消息的多个重组版本,并且基于所述消息的所述版本之间的相关性在所述设备的时钟与所述编码光信号的计时之间执行同步。
9.根据权利要求1-6之中任一项权利要求所述的设备,其中通过组合各自行的像素值来取得所述采样之中的每一个采样。
10.根据权利要求1-6之中任一项权利要求所述的设备,其中行的所述数量小于或等于每一帧的行的14%。
11.根据权利要求1-6之中任一项权利要求所述的设备,其中所述部分之中的每一个部分小于或等于所述消息的3%。
12.根据权利要求1-6之中任一项权利要求所述的设备,其中从中获得所述采样的所述数量的行排除包括被过度曝光的一个或多个像素的行。
13.一种接收机(4),其包括任一前述权利要求的设备以及照相机(12)。
14.一种系统,其包括权利要求13的接收机(4)以及光源(10);所述照相机(12)相对于所述光源被定位,以致从与利用所述照相机(12)在每一帧中所曝光的相比而言实质上更少数量的行中获得所述采样,并且所述消息长于所述数量的行。
15.一种编码光信号的通信的方法,包括:
从卷帘式快门照相机(12)接收信号,其中所述照相机通过按顺序曝光每一帧的多个(21)行(18)来捕获帧,所述信号包括编码光信号;和
从一数量(24)的所述行(18)之中的每一行获得所述编码光信号的各自采样(19),将给定帧的所有采样收集到形成每一帧的边际信号或帧信号的时间序列中,并且扩展所述信号,由此产生扩展的边际信号或扩展的帧信号,其中所述数量(24)的行在持续时间上被曝光,并且所述数量(24)是与利用所述照相机(12)在每一帧中所曝光的所述多个(21)行相比而言实质上更少的所述行的数量;
其中所述编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且利用定时多次重复所述消息,以致利用所述照相机在所述帧之中的多个不同帧之中的每一帧中看到所述消息的不同部分;以及
其中所述方法进一步包括:时间对准来自所述多个不同帧的所述消息的不同部分,并且从时间对准的部分中重组所述消息,
其中基于帧持续时间和消息持续时间来执行所述时间对准。
16.一种计算机可读介质,其中计算机程序产品被收录在所述计算机可读介质上并被配置,以便在被运行时执行以下操作:
从卷帘式快门照相机(12)接收信号,其中所述照相机通过按顺序曝光每一帧的多个行(18)来捕获帧,所述信号包括编码光信号;和
从一数量(24)的所述行(18)之中的每一行获得所述编码光信号的各自采样(19),将给定帧的所有采样收集到形成每一帧的边际信号或帧信号的时间序列中,并且扩展所述信号,由此产生扩展的边际信号或扩展的帧信号,其中所述数量(24)的行在持续时间上被曝光,并且所述数量(24)是与利用所述照相机(12)在每一帧中所曝光的所述多个(21)行相比而言实质上更少的所述行的数量;
其中所述编码光信号包括具有的持续时间长于在其上面所述数量的行被曝光的持续时间的消息,并且利用定时多次重复所述消息,以致利用所述照相机在所述帧之中的多个不同帧之中的每一帧中看到所述消息的不同部分;以及
其中代码进一步被配置,以便在被运行时时间对准来自所述多个不同帧的所述消息的不同部分并且从时间对准的部分中重组所述消息,
其中基于帧持续时间和消息持续时间来执行所述时间对准。
CN201580008565.7A 2014-02-14 2015-02-06 编码光信号的通信的设备和方法 Active CN106063155B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP14155285 2014-02-14
EP14155269 2014-02-14
EP14155269.5 2014-02-14
EP14155285.1 2014-02-14
PCT/EP2015/052461 WO2015121155A1 (en) 2014-02-14 2015-02-06 Coded light

Publications (2)

Publication Number Publication Date
CN106063155A CN106063155A (zh) 2016-10-26
CN106063155B true CN106063155B (zh) 2019-10-25

Family

ID=52446358

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201580008534.1A Expired - Fee Related CN106063154B (zh) 2014-02-14 2015-01-27 Wiener滤波器及接收机
CN201580008565.7A Active CN106063155B (zh) 2014-02-14 2015-02-06 编码光信号的通信的设备和方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201580008534.1A Expired - Fee Related CN106063154B (zh) 2014-02-14 2015-01-27 Wiener滤波器及接收机

Country Status (7)

Country Link
US (2) US10298326B2 (zh)
EP (2) EP3105867B1 (zh)
JP (2) JP6198965B2 (zh)
CN (2) CN106063154B (zh)
ES (1) ES2650071T3 (zh)
RU (1) RU2682427C2 (zh)
WO (2) WO2015121055A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10009099B2 (en) * 2014-03-29 2018-06-26 Intel Corporation Techniques for communication with body-carried devices
US10762388B2 (en) 2015-04-22 2020-09-01 Signify Holding B.V. Lighting plan generator
US20170139582A1 (en) * 2015-11-13 2017-05-18 General Electric Company Method and system for controlling an illumination device and related lighting system
JP6747120B2 (ja) * 2016-07-11 2020-08-26 東芝ライテック株式会社 受信装置及びそのプログラムと、可視光通信システム
TWI620420B (zh) * 2016-12-02 2018-04-01 財團法人資訊工業策進會 可見光通訊系統及方法
EP3560113A1 (en) 2016-12-22 2019-10-30 Signify Holding B.V. Detecting coded light
CN110168964A (zh) * 2017-01-16 2019-08-23 昕诺飞控股有限公司 检测编码光
WO2019048457A1 (en) 2017-09-11 2019-03-14 Signify Holding B.V. CODED LIGHT DETECTION USING ROLLING SHUTTER CAMERAS
EP3747186B1 (en) 2018-01-29 2021-06-16 Signify Holding B.V. A device for image based services
CN111684866A (zh) 2018-02-16 2020-09-18 昕诺飞控股有限公司 用于编码光的发射和接收的设备和方法
JP6969506B2 (ja) * 2018-06-20 2021-11-24 日本電信電話株式会社 光周波数多重型コヒーレントotdr、試験方法、信号処理装置、及びプログラム
CN110121021A (zh) * 2019-06-28 2019-08-13 四川极智朗润科技有限公司 一种适用于卷帘快门相机的光学快门系统及其成像方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102726123A (zh) * 2010-01-15 2012-10-10 皇家飞利浦电子股份有限公司 用于对局部化光贡献进行2d检测的方法和系统
CN103379287A (zh) * 2012-04-13 2013-10-30 株式会社东芝 受光装置、受光方法以及传输系统
CN103430626A (zh) * 2011-03-22 2013-12-04 皇家飞利浦有限公司 光检测系统和方法

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4612575A (en) * 1984-07-24 1986-09-16 E-Systems, Inc. T.V. video image correction
FR2714564B1 (fr) 1993-12-28 1996-02-09 Etat Francais Labo Cl Ponts Ch Procédé de commande d'une source lumineuse, moyens pour la mise en Óoeuvre de ce procédé et dispositif équipé des dits moyens.
IL110771A (en) * 1994-08-25 1998-02-08 Holon Holon Hanni A priori and adaptive filtering for detection of signals corrupted by noise
US7158668B2 (en) * 2003-08-01 2007-01-02 Microsoft Corporation Image processing using linear light values and other image processing improvements
JP2006270808A (ja) 2005-03-25 2006-10-05 Nec Corp 移動体通信ネットワークシステム、携帯通信端末、認証装置及びこれらの駆動方法、駆動プログラム
US7533819B2 (en) 2007-01-31 2009-05-19 Symbol Technologies, Inc. Dual camera assembly for an imaging-based bar code reader
US8275349B2 (en) 2007-11-29 2012-09-25 Rivada Networks, Llc Method and system for providing tiered priority access to communication network resources
US7978222B2 (en) * 2008-03-01 2011-07-12 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Systems and methods for image stabilization
JP5531483B2 (ja) 2008-08-29 2014-06-25 ソニー株式会社 撮像装置および映像記録再生システム
EP2237557A1 (en) * 2009-04-03 2010-10-06 Panasonic Corporation Coding for filter coefficients
GB0912585D0 (en) * 2009-07-20 2009-08-26 Cambridge Silicon Radio Ltd Interference cancellation
US8374201B2 (en) 2009-09-16 2013-02-12 Samsung Electronics Co., Ltd. Preamble design for supporting multiple topologies with visible light communication
JP5424835B2 (ja) * 2009-11-30 2014-02-26 キヤノン株式会社 画像処理装置、画像処理方法
CN102696280B (zh) 2010-01-15 2016-07-06 皇家飞利浦电子股份有限公司 使用常规相机传感器针对可见光通信的数据检测
US9356696B2 (en) 2010-10-20 2016-05-31 Koninklijke Philips N.V. Modulation for coded light transmission
EP2748950B1 (en) 2011-10-14 2018-11-28 Philips Lighting Holding B.V. Coded light detector
JP2013152112A (ja) 2012-01-24 2013-08-08 Mitsubishi Electric Corp 時間差方位探知装置
JP5936902B2 (ja) * 2012-04-13 2016-06-22 株式会社東芝 伝送システム、送信装置および受信装置
CN107104731B (zh) 2012-05-24 2019-09-03 松下电器(美国)知识产权公司 信息通信方法、信息通信装置及记录介质
US8861976B2 (en) * 2012-06-29 2014-10-14 Intel Corporation Transmit and receive MIMO protocols for light array communications
JP6059012B2 (ja) * 2012-12-28 2017-01-11 日立マクセル株式会社 光通信装置、光通信方法および肌撮像システム
JP6111870B2 (ja) 2013-05-31 2017-04-12 セイコーエプソン株式会社 超音波測定装置、超音波画像装置及び超音波画像の処理方法
US9698908B2 (en) * 2015-09-30 2017-07-04 Osram Sylvania Inc. Sub-sampling raster lines in rolling shutter mode for light-based communication

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102726123A (zh) * 2010-01-15 2012-10-10 皇家飞利浦电子股份有限公司 用于对局部化光贡献进行2d检测的方法和系统
CN103430626A (zh) * 2011-03-22 2013-12-04 皇家飞利浦有限公司 光检测系统和方法
CN103379287A (zh) * 2012-04-13 2013-10-30 株式会社东芝 受光装置、受光方法以及传输系统

Also Published As

Publication number Publication date
US10313009B2 (en) 2019-06-04
EP3105867A1 (en) 2016-12-21
RU2016136683A3 (zh) 2018-09-13
EP3105868B1 (en) 2017-09-13
JP2017512400A (ja) 2017-05-18
JP6198966B2 (ja) 2017-09-20
JP6198965B2 (ja) 2017-09-20
EP3105868A1 (en) 2016-12-21
CN106063154B (zh) 2019-10-25
US10298326B2 (en) 2019-05-21
JP2017512401A (ja) 2017-05-18
WO2015121155A1 (en) 2015-08-20
US20160359559A1 (en) 2016-12-08
RU2016136683A (ru) 2018-03-19
RU2682427C2 (ru) 2019-03-19
EP3105867B1 (en) 2017-10-11
CN106063155A (zh) 2016-10-26
CN106063154A (zh) 2016-10-26
US20160359561A1 (en) 2016-12-08
WO2015121055A1 (en) 2015-08-20
ES2650071T3 (es) 2018-01-16

Similar Documents

Publication Publication Date Title
CN106063155B (zh) 编码光信号的通信的设备和方法
CN106068678B (zh) 编码光
EP3107225B1 (en) Clock recovery for a coded light receiver
JP5936902B2 (ja) 伝送システム、送信装置および受信装置
CN105393474B (zh) 编码光分量的调制
JP5363219B2 (ja) 映像システム、映像システムに用いられる映像表示装置及び映像視聴用眼鏡
RU2557802C2 (ru) Детектирование данных для передачи данных в видимом свете, используя датчик обычной камеры
JP2015509336A (ja) 共有秘密構成及び光データ転送
CN106605262A (zh) 编码光符号编码
JP2017511034A (ja) 符号化光の休止期間を用いたシグナリング
Izz et al. Uber-in-light: Unobtrusive visible light communication leveraging complementary color channel
CN113196742A (zh) 使用不同的发送数据序列速率和接收帧速率的图像传感器通信的方法、系统和计算机可读介质
KR101524278B1 (ko) 기준광원을 이용한 카메라 통신 시스템 및 통신 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: Eindhoven

Patentee after: Signify Holdings Ltd.

Address before: Eindhoven

Patentee before: Philips Lighting Holdings

CP01 Change in the name or title of a patent holder