CN112040154A - 用于减少成像光源中的闪烁伪影的系统和方法 - Google Patents
用于减少成像光源中的闪烁伪影的系统和方法 Download PDFInfo
- Publication number
- CN112040154A CN112040154A CN202010497276.0A CN202010497276A CN112040154A CN 112040154 A CN112040154 A CN 112040154A CN 202010497276 A CN202010497276 A CN 202010497276A CN 112040154 A CN112040154 A CN 112040154A
- Authority
- CN
- China
- Prior art keywords
- camera
- light source
- scene
- vehicle
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
- H04N25/633—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/617—Upgrading or updating of programs or applications for camera control
Abstract
本公开提供了“用于减少成像光源中的闪烁伪影的系统和方法”。公开了用于减少成像光源中的闪烁伪影的系统、方法和计算机可读介质。示例性方法可包括:接收与由摄像机捕获的场景相对应的图像;使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;使用基于事件的摄像机来确定表示所述光源的闪烁的数据,所述闪烁具有频率;基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
Description
技术领域
本公开涉及用于减少图像中的伪影的系统和方法,并且更具体来说,涉及用于减少成像光源中的闪烁伪影的方法和系统。
背景技术
如今的车辆包括各种车载传感器,诸如声纳、无线电探测和测距(RADAR)以及摄像机,所述车载传感器正普遍成为商用驾驶员辅助系统的部分。此类传感器系统可按照由基础的电子架构和环境限制的不同的时间间隔和持续时间来感测环境。通过助力转向、助力制动和标准化反馈,车辆可越来越多地与它们所行驶的环境进行交互。
这些车辆的一个部件可包括感知系统,所述感知系统允许车辆通过计算分析和解译其周围环境。感知系统可使用各种感测方式,诸如RADAR和光探测和测距(LIDAR)。所述感知系统可使用摄像机来感测车辆环境中的光源(例如,交通灯、车辆头灯和闪光灯等)。然而,这些光源可具有伪影,诸如闪烁(例如,光源的亮度随时间的变化)。一般来说,从光源发射的光的强度可随时间有意或无意地改变。在意图是让人感知到闪烁的情况下,可应用有意的光变化来发出告警和信令(例如,交通灯信令)。然而,光源的光输出还可由于光源自身而具有无意的光水平调制。这些时间光调制的量值、形状、周期性、偏移和频率可取决于许多因素,诸如光源类型、电源频率、驱动器或镇流器技术以及所应用的光调节技术的类型(例如,脉冲宽度调制,PWM)。这些无意的光水平调制可能会干扰车辆的感知系统。具体来说,闪烁效果可能会致使感知系统不正确地确定特定光源处于给定状态(例如,关闭状态),而实际上所述光源处于不同的状态(例如,开启状态)。
由于传感器和照明元件的时间性质,传感器可能不会一直正确地将光源检测为是活动的。传感器还可检测一些帧中的光源而不检测其他帧下的光源。这些错误可导致车辆或相关装置关于车辆环境中的光源(例如,交通灯)的当前状态作出不正确的结论。
因此,需要减少成像光源中的闪烁伪影的系统和方法。
发明内容
公开了用于减少成像光源中的闪烁伪影的系统、方法和计算机可读介质。示例性方法可包括:接收与由摄像机捕获的场景相对应的图像;使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;使用基于事件的摄像机来确定表示所述光源的闪烁的数据,所述闪烁具有频率;基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
附图说明
图1示出了根据本公开的示例性实施例的包括展现闪烁伪影的示例性光源的车辆导航的示例性环境背景的图示。
图2示出了根据本公开的示例性实施例的与光源和摄像机曝光时间相关联的时序图。
图3A示出了根据本公开的示例性实施例的与光源、基于事件的摄像机和摄像机曝光时间相关联的额外的时序图。
图3B示出了作为图3A的时序图的补充的另一时序图,所述另一时序图包括根据本公开的示例性实施例的用于在减少的闪烁伪影下将光源成像的摄像机曝光时间的经修改的时序图。
图4示出了描述根据本公开的示例性实施例的减少成像光源中的闪烁伪影的方法的示例性过程流。
图5示出了描述根据本公开的示例性实施例的减少成像光源中的闪烁伪影的方法的另一示例性过程流。
图6是根据本公开的一个或多个实施例的示例性自主车辆(AV)的示意性说明,所述自主车辆可使用本文公开的操作来减少成像光源中的闪烁伪影以更好地在所述AV的环境中进行感知和导航。
图7是根据本公开的一个或多个实施例的可用于减少成像光源中的闪烁伪影的一个或多个服务器的示例性服务器架构的示意性说明。
具体实施方式
概述
在自主车辆的情况下,由于室外状况的多样性,计算机视觉任务可具挑战性,所述室外状况可能会影响交通灯、车辆灯可见性,或影响自主车辆操作或相关支持系统的感知的任何其他光源的可见性。举例来说,可校准具有固定增益、曝光和光圈的摄像机以识别交通灯色彩水平、照度水平和/或几何形状,以在环境照明状况下确定所述灯的状态。然而,如所述,所述光源可具有伪影,诸如称为闪烁的时间光调制,这可能会干扰车辆感知系统。具体来说,闪烁效果可能会致使感知系统不正确地确定特定光源处于给定状态(例如,关闭状态),而实际上所述光源处于不同的状态(例如,开启状态)。可替代地,摄像机可能会检测一些图像帧中的处于给定状态(例如,关闭状态)的光源,并且检测其他帧中的处于不同状态(例如,开启状态)的所述光源。
这些光源闪烁伪影可导致包括高级驾驶员辅助系统(ADAS)和AV感知系统的车辆感知系统中的相机系统的检测错误。在一些情况下,光源的闪烁可致使某些基于计算机视觉的算法展现围绕光源的不同边界框。在一些情况下,光源闪烁可源自脉冲宽度调制(PWM)控制机制。PWM可涉及通过将由电信号输送的平均电力有效地切碎为分立的部分来减小所述平均电力的方法。在PWM中,可通过以给定频率开启和关闭在供应器与负载之间的开关来控制馈送给所述负载的电压的平均值。此机制可产生光源被关闭的周期以及光源被开启的其他周期。PWM可用于在多种应用中控制光源,诸如用于交通灯、招牌、广告牌、照亮的路标、车辆照明等中。使用PWM来切换去往光源的电力的频率可高到让人眼感觉不到。也就是说,对于人眼来说,光源可显得具有恒定的照度。然而,摄像机可具有可能不会与光源的开启周期始终同步的曝光时间,从而导致不正确的光源状态确定。此外,摄像机可收集在不同曝光下的场景的多个图像以创建具有较高动态范围的图像。在此过程中,光源在一些图像中可为活动的,而在其他图像中是不活动的,因此影响了图像中的强度水平的计算。在使用互补金属氧化物半导体(CMOS)摄像机的情况下,此过程可能会更复杂。具体来说,在CMOS摄像机的情况下,摄像机传感器的特定行可能会曝光,使得光源的部分可能被成像为开启,而所述光源的另一部分在摄像机的曝光的那个部分期间可为关闭。另外,不同的光源(例如,同一车辆上或同一交通信号灯上的不同光源)可由不同的PWM控制器驱动,并且在PWM控制器之间的时序也可能未同步。一个以上光源频率的此不同步也可导致不正确的光源状态确定。
本公开一般针对于用于使用基于事件的摄像机的输出来检测光源闪烁并且从常规摄像机滤除光源闪烁的效应的系统和方法。在一些情况下,基于事件的摄像机的输出可包括表示被成像的光源的开启状态和关闭状态的时间序列,并且所公开的系统可根据时间序列数据来预测光源的未来的电源状态。所公开的系统随后可修改常规摄像机的曝光时间的持续时间或周期性,以使常规摄像机的成像与光源的所预测的电源状态同步。在一些示例中,所述光源可包括发光二极管(LED),并且所述摄像机可包括可从给定地点的环境检测光输出的任何合适的传感器。合适的传感器的非限制性示例可包括基于互补金属氧化物半导体(CMOS)的摄像机和/或基于电荷耦合装置(CCD)的摄像机。传感器的其他示例可包括将光源成像的具有不同自旋速度和/或偏移的机械光探测和测距(LIDAR)、飞行时间(TOF)摄像机、快闪LIDAR等。在其他方面,所公开的系统能够在摄像机与光源之间的相对更远的工作距离(例如,超过约20米的距离)处检测光源闪烁并且滤除光源闪烁的效应。
更具体来说,在一些示例中,所公开的系统可通过使用常规摄像机来执行对象检测或跟踪以检测车辆环境中的光源。此类光源可包括(但不限于)头灯、交通信号灯、公共汽车招牌等等。此外,所公开的系统可使用并入有光源(例如,交通灯)的路标的地图信息(例如,高清晰度(HD)地图信息)来辅助摄像机定位光源进行成像。在一些示例中,车辆可能在移动;因此,事件摄像机的像素在对象在场景中移动时可变得更亮和更暗,并且此强度变化可由于闪烁效应而进一步改变。因此,所公开的系统可执行车辆状态与其他传感器的融合,以从表示由车辆的摄像机像素在车辆移动时生成的数据的整体时间序列变化的数据中检测和/或提取闪烁信息。
所公开的系统可通过使用特征辨识和/或基于时间序列的技术从与基于事件的摄像机的图像相关联的数据提取闪烁的特征频率来检测光源闪烁。在一些示例中,所公开的系统可使用来自基于事件的摄像机的数据以及地图信息来跟踪反映光源的强度跨基于事件的摄像机或常规摄像机的像素的变化的时间序列数据。在其他方面,所公开的系统可检视来自基于事件的摄像机的当前图像数据和历史图像数据以在光源的关闭状态与光源的闪烁之间进行区分。此外,所公开的系统可使用历史数据来预测光源的未来的开启状态,并且将常规摄像机的曝光时间延迟预定持续时间。对常规摄像机的曝光时间的此延迟可允许由摄像机捕获的图像与所预测的光源开启状态在时间上对准。可替代地或另外,所公开的系统可通过多次成像来将高动态范围重新排序;可将图像的子区域成像以节省时间;可改变滚动快门的触发和/或读出机构,等等。在一些方面,所公开的系统可通过使用基于事件的摄像机来检测给定光源的潜在闪烁。在一些情况下,所述基于事件的摄像机可包括相对大的视场(例如,具有鱼眼镜头的摄像机或360度摄像机)以及一个或多个常规摄像机(例如,CMOS摄像机和/或CCD摄像机)。可替代地或另外,所公开的系统可在车辆周围使用一个基于事件的摄像机和多个高分辨率摄像机。
本文描述了本公开的实施例。然而,将理解,所公开的实施例仅仅是示例并且其他实施例可采取各种形式和替代形式。图不一定按比例;一些特征可能被夸大或缩减到最小以示出特定部件的细节。因此,本文公开的特定结构和功能细节将不被理解为具限制性,而是仅仅理解为用于教导本领域技术人员不同地采用本发明的代表性基础。本领域技术人员将理解,参考图中的任一者而说明和描述的各种特征可与在一个或多个其他图中说明的特征进行组合以产生未明确说明或描述的实施例。所说明的特征的组合提供典型应用的代表性实施例。然而,特定应用或实现方式可能需要对与本公开的教导一致的所述特征的各种组合和修改。
如所述,光源闪烁伪影可导致车辆ADAS和AV感知系统中的相机系统的检测错误。在一些情况下,可使用基于事件的摄像机来减少在检测光源的状态的过程中的由于闪烁伪影而引起的错误。与常规摄像机相比,此类基于事件的摄像机可具有相对高的时间响应速率和相对高的动态范围。此外,可例如在摄像机的印刷电路板(PCB)处使用边缘处理技术将基于事件的摄像机的输出输入到发动机控制单元(ECU)或域控制器。在一些示例中,基于事件的摄像机可要求使用较大的像素大小,约15微米至约18.5微米,这可将此类基于事件的摄像机的分辨率从约320乘240像素限制为约640乘480像素(等效于约0.3百万像素(MP))。用于ADAS应用的摄像机分辨率可为约8MP,并且用于AV应用的摄像机分辨率可为约16MP。因此,如在以下示例中所描述,约0.3MP的分辨率对于某些汽车应用来说可太低。
在一个示例中,基于事件的摄像机可具有480像素垂直分辨率和45.6度垂直分辨率。此配置可导致约0.095度/像素(或等效地,约10.5像素/度)的角分辨率。作为在汽车应用中常见的进行成像的光源闪烁目标的交通灯的垂直距离可为约1米。计算出用于对象检测和跟踪的像素以及识别出光源(例如,使用图像处理算法)可识别距离阈值,所述距离阈值表示在摄像机与光源之间的确保闪烁检测的充足分辨率的最大距离。举例来说,示例性计算可假设交通灯中的每个LED约3个像素以及LED之间的1个像素,以获得用于所述交通灯的总共11个像素数。在30英里/小时到50英里/小时的车辆速度下,可能存在截断停止距离,其中当前分辨率下的基于事件的摄像机可能不能够识别交通灯上的单独的灯,这取决于给定车辆的停止距离和制动速率的典型假设。因此,具有特定分辨率的基于事件的摄像机在一些情景中可能不足以克服光源闪烁。另外,使用更广视野的镜头或对像素数的更严格的要求可能会进一步降低所述距离阈值,从而导致增加的摄像机分辨率要求,这可能会抬高复杂性和成本并且对于特定ADAS应用和/或AV应用来说是不可行的。
如上文描述,常规系统可能不足以解译光源闪烁。此外,虽然基于事件的摄像机可为ADAS应用和/或AV应用提供若干优势,包括光源闪烁,但基于事件的摄像机可具有较低的分辨率,其可能不足以在若干ADAS应用和/或AV应用中要求的范围下正确地识别闪烁的光源(例如,为了确定给定的交通信号灯是活动还是不活动的)。包括(例如)滚动快门CMOS传感器的特定摄像机可提供用于检测诸如LED等光源的足够的分辨率。然而,其他因素可导致其中可能会错过或混淆灯开启状态的较大窗口(例如,摄像机可能不能在摄像机的闪光与摄像机的开启状态之间进行区分),所述因素诸如为(1)与空白和帧对帧的时间间断相关联的时间延迟和(2)滚动快门的复杂性。此外,基于CMOS的摄像机的曝光时间以及LED PWM的操作频率可能不一致或标准化。此外,摄像机的曝光时间可能会基于环境光环境而变。举例来说,摄像机可在明亮的白天期间具有短曝光并且在黄昏或夜间具有长曝光。
在其他示例中,多曝光高动态范围成像(HDRI)和滚动快门技术可能会产生额外的伪影,这可能会增加闪烁效应。滚动快门可涉及一种图像捕获方法,其中不是通过取得整个场景在单个时刻的快照而是通过垂直地或水平地快速扫描所述场景来捕获静态图片(在照相机中)或视频的每个帧(在摄像机中)。因此,不是在同一时刻记录所述场景的图像的所有部分。在回放期间,可同时显示所述场景的整个图像,好像所述整个图像表示单个时刻一样。这产生快速移动的对象的失真或灯的快速闪光。HDRI可涉及高动态范围(HDR)技术,在成像和摄影中使用所述技术以比标准的数字成像或摄影技术可能具有的光度动态范围重现更大的光度动态范围。HDR图像可表示比使用更传统的方法所实现的明度水平范围更大的明度水平范围,诸如含有明亮的直射阳光到极度阴影的许多现实世界场景。可通过捕获同一主题的若干不同的曝光并且随后将所述曝光进行组合来实现HDRI。由HDRI和滚动快门成像引起的额外的复杂性可表示汽车感知方面的额外的困难。常规系统可使用高速摄像机,即,能够以小于约1/1,000秒的曝光或超过约每秒250帧的帧速率捕获移动图像的装置。然而,高速摄像机可具有许多缺点,包括成本、数据消耗速率、电力需求、主动冷却等,这可妨碍其用作诸如汽车应用的许多应用的可行解决方案。
本公开的实施例描述了用于提供在常规(例如,基于CMOS)的摄像机传感器与基于事件的摄像机传感器之间的时间传感器融合以辅助检测光源闪烁的系统和方法。在一些示例中,实施例可使得能够在摄像机与光源之间的相对更长的工作距离(例如,高于诸如约20米的预定阈值的距离)下检测光源闪烁。在一些情况下,所公开的系统可预测光源开启状态的时序以促进在光源的开启状态期间的摄像机曝光。在其中未捕获到光源的开启状态的其他情况下,所公开的系统可使用传感器融合以及基于事件的摄像机来确定光源的实际状态。因此,所公开的系统可生成信息,所述信息可提供对环境的改进的感知和理解,从而导致ADAS应用和AV应用的增加的效率。
如本文使用,“基于事件的摄像机”可涉及输出像素水平亮度变化而不是标准强度帧的摄像机。基于事件的摄像机可在若干方面不同于常规摄像机。具体来说,如果常规摄像机在相对高的速度下操作,那么图像可能会有可导致眼睛跟踪算法失效的运动模糊。此外,常规摄像机的帧速率可为有限的,并且因此可提供可实现的与眼睛跟踪算法和/或系统相关联的延迟量的上限。另外,常规摄像机的帧速率越高,需要处理的数据可越多。这可能会增加常规摄像机的功耗,即使图像在时间上是冗余的也如此。另一方面,事件驱动的摄像机可包括独立的异步的感测元件(例如,像素)。所述感测元件可实时地对本地照度变化作出反应。此类照度变化可源自摄像机运动、对象运动或环境中的照明的变化。
基于事件的摄像机可具有记录事件流的输出。所述事件可对应于其中基于事件的摄像机的感测元件的光电流改变预定量和可配置的量的情形。此外,感测元件的光电流可与照射感测元件的辐射的亮度的变化成比例。
事件驱动的摄像机可提供优于常规摄像机的优势。具体来说,事件摄像机可提供比常规摄像机降低的时延和更高的时间分辨率。事件驱动的摄像机可减小与输入变化相关联的延迟量,其可为数微秒。事件驱动的摄像机与常规摄像机相比可提供更高的动态范围。这可因为事件摄像机的每个感测元件可被独立地驱动,并且可在其自身给定的设置点下操作。事件驱动的摄像机可包括高场景内动态范围。在一些示例中,所公开的系统可基于对可能的光源(例如,处于关闭状态的诸如交通灯等光源)的检测(例如,经由基于CMOS的摄像机)来调整此设置点或数据优先级。
事件驱动的摄像机可要求相对低的带宽使用,这至少是因为事件驱动的摄像机报告感测元件级的照度变化。因此,如果感测元件的值未改变(例如,如果在给定场景与事件驱动的摄像机之间不存在相对运动或不存在环境照度变化),那么可不需要额外的带宽。与常规摄像机相比,这可降低事件驱动的摄像机的后端电子器件的复杂性。与常规摄像机相比,事件驱动的摄像机可要求相对低的电力。因为感测元件读出所需的事件驱动的摄像机的模拟-数字转换器(ADC)由于不如常规摄像机那么频繁地操作而可消耗相对更少的电力,所以事件驱动的摄像机可要求更少的电力。
如本文使用,“电荷耦合装置(CCD)”摄像机或传感器可涉及包括传感器阵列的摄像机,所述传感器阵列具有如何读取和处理电荷的特定机制。具体来说,CCD相机的传感器阵列可被配置成使得所述传感器阵列在不损害图像质量的情况下跨越所述传感器阵列传输积累电荷。CCD传感器阵列可包括若干行感测元件,所述若干行感测元件被读取到输出寄存器中并且继而被馈送到相应的放大器和ADC中。当读取CCD传感器阵列的每个行时,其可被转移出对应的读出寄存器,并且可将CCD传感器阵列的另一行读取到所述寄存器中。此外,依次的行在读出过程中依次跟进,从而产生可存储或操纵的数字数据。
所述摄像机可包括CMOS摄像机,所述CMOS摄像机包括可由CMOS晶片制造的传感器阵列。所公开的系统可基于任何数目个参数而使用CMOS摄像机或CCD摄像机。在一些示例中,与CCD传感器阵列相比,CMOS传感器阵列可提供更小的功耗,并且可允许传感器阵列的后端上的更复杂的电路。基于CMOS的传感器阵列的给定感测元件可包括驱动和读取CMOS传感器阵列上的入射辐射的三个或更多个晶体管。具体来说,所述晶体管可允许对每个感测元件的晶体管上的数据进行本地处理,并且每个感测元件可为可与其他感测元件独立地访问的。基于CMOS的晶体管可包括与CCD传感器阵列相比之下的更高的噪声,这是因为晶体管占用了CMOS晶体管的区域的一部分。基于CMOS的传感器阵列可包括额外的放大器,诸如用于阵列的每个列的列放大器。
说明性示例
图1示出了根据本公开的示例性实施例的用于使用动态可配置的交互模式进行车辆通信的环境背景的图示。图1表示包括车辆102的环境背景100。在一些示例中,车辆102可包括自主车辆(AV)。在一些示例中,车辆102可包括摄像机104。摄像机104可还包括基于事件的摄像机和/或任何合适的光敏传感器,包括(但不限于)基于CMOS的摄像机和基于CCD的摄像机。所公开的系统可使用摄像机104来捕获场景112。场景112可包括路边招牌、基础设施部件、骑自行车的人、行人以及可以能够输出照度的其他车辆。如本文使用,“基础设施部件”可包括包含路标和标记、电气系统(街道照明和交通灯)等的道路和高速公路网络。
在一些示例中,场景112可包括各种交通信号灯,诸如第一交通信号灯114和第二交通信号灯116。所公开的系统可实施任何合适的基于人工智能(AI)的算法(例如,机器视觉算法、姿势检测算法、神经网络等等)以识别各种交通信号灯,并且在同一场景中的不同交通信号灯之间进行区分(例如,在第一交通信号灯114与第二交通信号灯116之间进行区分)。在一些情况下,所述交通信号灯可包括多个光源(例如,发光二极管(LED),诸如红色LED、黄色LED和绿色LED)。除了在交通信号灯自身之间进行区分之外,所公开的系统可在给定交通信号灯内的不同光源之间进行区分。
虽然此示例性环境背景100主要涉及交通信号灯,但将理解,所公开的系统和方法可在不同环境中用于多种其他运输情景中。举例来说,所公开的系统可检测与车辆相关联的各种光源(例如,闪光灯、转向灯、日间行车灯、圣诞装饰灯、烛台灯等)并且执行本文描述的操作以减少此类光源的图像中的闪烁伪影。
所公开的系统可使用常规摄像机(例如,车辆102的摄像机104)来执行对象检测。所述对象检测可用于检测常规摄像机的视场112中的潜在光源。此类潜在光源可包括(但不限于)汽车头灯、交通信号灯、公共汽车招牌等等。所公开的系统还可使用对象跟踪算法来跟踪车辆和其他非静止对象。在其他实施例中,所公开的系统可使用对象跟踪算法来跟踪相对于其中安装和装配有摄像机(例如,基于事件的摄像机和/或常规摄像机)的车辆处于相对运动的对象。
在一些示例中,所公开的系统可从外部装置(例如,外部服务器和/或基于云的服务器(未示出))访问和使用高清晰度(HD)地图信息,所述外部装置可为可经由天线110访问的。在一些示例中,天线110可与诸如卫星130等卫星和/或诸如小区发射塔132等小区发射塔进行通信以获得此类信息。所述HD地图信息可包括指示各种路标的位置的道路标识信息。所述道路标识信息可并入有诸如交通灯等光源,摄像机可观察到所述光源并且经由本文描述的技术分析所述光源。在其他示例中,所公开的系统可实施任何合适的定位方法以通过使用HD地图来精确地定位所述光源,如在下文进一步描述。
如所述,所公开的系统可使用作为车辆102的摄像机104的部分的基于事件的摄像机来执行光源LED闪烁检测。具体来说,基于事件的摄像机可执行对检测到的图像中的特征频率的特征辨识和/或基于时间序列的识别。在一些示例中,所公开的系统可使用此类特征辨识和/或基于时间序列的识别来检测PWM光源。此外,由于在车辆102的摄像机104的运动期间的光源闪烁检测的时间序列性质,所公开的系统可执行定位技术以在空间中定位车辆102并且跟踪车辆102周围的对象。举例来说,即将来临的交通灯的脉动的LED闪烁可由于车辆的运动而显得在由摄像机生成的图像上平移,而现实世界中的交通灯保持静止。在另一示例中,所公开的系统可实施跟踪算法以跟踪另一车辆的光源(例如,尾灯或闪光灯),因为由于主车辆和目标车辆可能会相对于彼此行驶,所以可能需要跟踪闪烁。
在一个示例中,所公开的系统可实施跟踪算法以通过跟踪用于控制所述光源的PWM的频率来跟踪闪烁光源。在此示例中,由基于事件的摄像机生成的对应的数据流可高于光源的相对像素运动。在另一示例中,所述光源可包括与车辆的开启状态和关闭状态相对应的两个频率或两个量值,并且所述频率可具有不同的量值。举例来说,所述光源可包括车辆的主动LED转向灯,其中PWM频率相对高。所述相同光源可还包括可比PWM频率慢的转向灯的开-关频率。在此情况下,所公开的系统可从由基于事件的摄像机生成的数据滤除较慢的PWM频率;以及仅考虑更快的频率以便确定光源的开启状态并且减少与其相关联的闪烁伪影。可替代地或另外,所公开的系统可转变为日间行车灯和/或在事件摄像机的灰度图像与基于CMOS的摄像机的彩色图像之间应用滤色器融合。
在一些情况下,所公开的系统可实施跟踪算法来跟踪车辆102,以平移地匹配不同图像中的与源自同一光源的开启事件和关闭事件相对应的不同像素。可使用基于事件的摄像机和/或常规摄像机来执行此跟踪。举例来说,车辆102可驶过诸如交通灯等固定光源。可基于车辆102的运动以及车辆102周围的物理空间的确定来获得由摄像机104拍摄的不同图像中的车辆102的路径。在一些示例中,所公开的系统可使由基于事件的摄像机和常规摄像机生成的数据与基于HD地图的信息融合,以随时间跟踪和记录光源的强度变化与跨越像素的运动的时间序列。在一些示例中,可将基于事件的摄像机用于姿势估计、视觉里程计以及同时定位与地图创建(SLAM)。通过使用此类技术,所公开的系统可使用车辆102在环境中的运动来对可模仿光源闪烁的外观的场景运动进行过滤。举例来说,所公开的系统可对离群值强度进行过滤以证实光源闪烁。因为光源闪烁可为常见的并且具有相对好限定的特性,所以所公开的系统可更容易地使用基于数字信号处理(DSP)的过滤技术来执行此类过滤。
在一些示例中,所公开的系统可使用来自常规摄像机和基于事件的摄像机像素地图的数据来确定关于光源的状态的额外信息。举例来说,所述两个摄像机的视场可使得基于事件的摄像机与基于CMOS的摄像机相比具有较低的分辨率。在此情况下,光源闪烁的单个像素可对应于在基于CMOS的摄像机中激发的多个像素(例如,10乘10元件的像素阵列)。在其他情况下,光源闪烁可与失真、不同的车辆位置、在基于CMOS的摄像机与基于事件的摄像机之间的视场差异等混合。因此,映射可比在不具有此类混合失真的情形中更复杂;然而,所公开的系统可仍然使用不同摄像机类型之间的传感器融合来执行所述映射。在捕获基于CMOS的摄像机的视场中的给定子区域(例如,10乘10像素区域)之后,所公开的系统可将位置细分为潜在的单独的光源,诸如公共汽车招牌的部分、单独的车辆照明等。
在一些情况下,光源可能靠近基于事件的摄像机,并且可使用基于事件的摄像机来确定对象的状态。此确定可基于光源的复杂性(例如,组成所述光源的更小的光源的数目和形状)以及距基于事件的摄像机的距离。在一些示例中,所公开的系统可使用传感器融合(例如,使用立体摄像机、LIDAR、RADAR、HD地图数据等)来测量到对象的距离。在其他方面,所公开的系统可基于使用摄像机自身进行的对象检测和/或辨识来确定对象的距离。对象的复杂性可取决于对象的类型。举例来说,交通灯可具有三个光源,所述三个光源具有已知的几何形状并且可为可见的。相比之下,公共汽车上的LED阵列可含有具有不同的PWM频率和偏移的多个小LED。因此,公共汽车指示牌的临界距离可比交通灯更近。
车辆102可包括任何合适的车辆,诸如摩托车、汽车、卡车、休闲车等,并且可配备有使所述车辆能够在诸如局域网(LAN)等网络上进行通信的合适的硬件和软件。如所述,车辆102可包括在下文结合图6示出和描述的AV。
在另一实施例中,车辆102可包括可辅助车辆基于地图(例如,HD地图)来定位诸如交通信号灯等光源的多个传感器。所述传感器可包括RADAR、LIDAR、摄像机、磁力计、超声、气压计等(将在下文描述)。在一个实施例中,车辆102的传感器和其他装置可通过一个或多个网络连接进行通信。合适的网络连接的示例包括控制器区域网络(CAN)、媒体导向系统传递(MOST)、本地互连网络(LIN)、蜂窝网络、Wi-Fi网络和其他适当的连接,例如符合已知的标准和规范(例如,一个或多个电气和电子工程师协会(IEEE)标准等)的连接。
在一些示例中,除了基于卫星的位置确定装置之外,车辆102可包括各种位置确定装置。这些装置可用于识别诸如交通灯等光源的位置、在地图(例如,HD地图)上跟踪车辆、跟踪接近所述车辆的其他车辆上的其他光源、向其他车辆提供给定车辆的位置的更新以及总体上支持本文描述的操作。举例来说,车辆102可包括诸如磁力计等磁性定位装置,所述磁性定位装置可提供室内位置确定能力。磁性定位可基于建筑物内部的铁,所述铁产生地球磁场的局部变化。车辆102中的装置内的未经优化的罗盘芯片可感测和记录这些磁变化以映射室内位置。在一个实施例中,可使用磁性定位装置来确定车辆102的高程。可替代地或另外,可使用气压计装置来确定车辆102的高程。在另一实施例中,气压计和压力高度计可为车辆的一部分,并且可测量由于车辆102的海拔的变化而引起的压力变化。
在一个实施例中,车辆102可使用一个或多个惯性测量装置(未示出)来确定相应车辆的位置,以便跟踪所述车辆和/或相对于地图(例如,HD地图)来确定车辆环境中的各个光源的位置。车辆102可有时使用航迹推算和其他方法以便使用由车辆102携带的惯性测量单元参考地图或其他额外的传感器来定位车辆,以限制使用惯性导航遇到的固有传感器漂移。在一个实施例中,可在车辆的惯性测量单元中使用一个或多个基于微机电系统(MEMS)的惯性传感器;然而,所述MEMS传感器可能会受到内部噪声影响,这可导致随时间的立方增长的位置误差。在一个实施例中,为了减少此类装置中的误差增长,可通过在与车辆102中的各种装置相关联的软件模块上实施软件算法来使用基于卡尔曼过滤的方法。
在一个实施例中,惯性测量可涵盖车辆102的运动的一个或多个微分,并且因此,可通过在所述软件模块中执行积分函数来确定所述位置,并且因此可要求积分常数以提供结果。此外,可将车辆102的位置估计确定为二维或三维概率分布的最大值,可在考虑到所涉及的所有传感器和装置的噪声模型的情况下在任何时间步长下重新计算所述最大值。基于车辆的运动,所述惯性测量装置可能够通过一种或多种人工智能算法(例如,一种或多种机器学习算法(例如,卷积神经网络))来估计车辆的位置。所公开的系统可使用上文提及的装置中的任一者与位置确定信号的组合来确定车辆的位置、确定其他车辆的位置,和/或确定车辆环境中的各个光源的位置。
在一些示例中,所公开的系统可结合特定基础设施部件来使用室内定位系统(IPS)以增加的精度确定光源的位置。此外,例如在卫星导航信号不充分的位置可使用IPS来确定车辆在地图(例如,HD地图)上的位置。具体来说,IPS可涉及一种使用灯、无线电波、磁场、声学信号或由移动装置(例如,用户装置或车辆装置)收集的其他传感信息在诸如泊车结构等建筑内定位对象(例如,车辆102)的系统。IPS可使用不同的技术,包括到附近锚节点(具有已知固定位置的节点,例如Wi-Fi和/或Li-Fi接入点或蓝牙信标、磁性定位,和/或航迹推算)的距离测量。此类IPS可主动地定位移动装置和标签或者提供装置感测到的环境位置或环境背景。在一个实施例中,IPS系统可确定至少三个独立的测量结果以明确地找到特定车辆102或光源的位置。
在一些示例中,车辆天线(例如,天线110)可包括任何合适的通信天线。合适的通信天线的一些非限制性示例包括Wi-Fi天线、电气和电子工程师协会(IEEE)802.11标准族兼容的天线、定向天线、非定向天线、偶极天线、折叠偶极天线、贴片天线、多输入多输出(MIMO)天线等。通信天线可通信地耦合到无线电部件以向车辆传输信号(例如,通信信号)和/或从所述车辆接收信号。举例来说,所公开的系统可基于光源的状态的确定而向其他车辆传输信号以告知其他车辆采取至少一个动作(例如,制动、加速、转弯等)。在各个方面,所传输和/或接收的信号可基于光源的检测到的状态的结果,所公开的操作的实现方式可更准确地确定所述结果。
在一些示例中,车辆102可具有车载单元(未示出),所述车载单元可包括可在不具有主机计算机的应用中彼此通信的微控制器和装置。所述车载单元可使用基于消息的协议来执行内部通信。此外,所述车载单元可致使收发器向基础设施部件以及其他车辆的车载单元发送消息(例如,车辆至万物(V2X)消息)以及从基础设施部件接收消息。
此外,车辆102的各种装置和/或基础设施部件(例如,智能交通信号灯、路边单元、IPS系统等)可包括用于在与由所述车辆装置中的任一者彼此进行通信和/或与基础设施部件通信所利用的通信协议相对应的带宽和/或信道中传输和/或接收射频(RF)信号的任何合适的无线电和/或收发器。无线电部件可包括用于根据预先确立的传输协议来调制和/或解调通信信号的硬件和/或软件。所述无线电部件可进一步具有经由被电气和电子工程师协会(IEEE)802.11标准进行标准化的一种或多种Wi-Fi和/或Wi-Fi直接协议进行通信的硬件和/或软件指令。在特定示例性实施例中,与通信天线协作的所述无线电部件可被配置成经由2.4GHz信道(例如,802.11b、802.11小802.11n)、5GHz信道(例如,802.11n、802.11ac)或60GHZ信道(例如,802.11ad)进行通信。在一些实施例中,可将非Wi-Fi协议用于装置之间的通信,例如蓝牙、专用短程通信(DSRC)、超高频率(UHF)(例如,IEEE 802.11af、IEEE802.22)、空白频带频率(例如,空白空间)或其他分组化无线电通信。无线电部件可包括适合于经由所述通信协议进行通信的任何已知的接收器和基带。所述无线电部件可还包括低噪声放大器(LNA)、额外的信号放大器、模拟-数字(A/D)转换器、一个或多个缓冲器,和数字基带。
通常,当示例性车辆102建立与另一车辆(未示出)的通信和/或建立与基础设施部件装置的通信时,车辆102可通过发送数据帧(例如,可包括各种字段的数据帧,所述字段诸如为帧控制字段、持续时间字段、地址字段、数据字段以及校验和字段)在下行链路方向上进行通信。所述数据帧的前面可为一个或多个前导码,所述前导码可为一个或多个标头的部分。这些前导码可用于允许用户装置检测来自车辆装置的新的传入的数据帧。前导码可为在网络通信中使用以使两个或更多个装置之间(例如,在车辆102装置与基础设施部件装置之间和/或在单独车辆的装置之间)的传输时序同步的信号。如所述,可使用数据帧在车辆之间传输信息,使得给定车辆可由于检测到光源的开启或关闭状态而执行至少一个动作。此类动作的非限制性示例包括制动、转向、加速、转弯避险等等。
在另一方面,环境背景100可包括一个或多个卫星130以及一个或多个蜂窝塔132。可使用所述卫星130和/或所述蜂窝塔132从诸如具有HD地图的数据库等各种数据库获得信息。在其他方面,所公开的系统可传输与光源相关联的信息(例如,光源的相应位置、光源的相应状态等)。如所述,车辆102可具有收发器,所述收发器可继而可包括可从一个或多个卫星130接收位置信号(例如,GNSS信号)的一个或多个位置接收器(例如,全球导航卫星系统(GNSS)接收器)。在另一实施例中,接收器可指可从卫星(例如,卫星130)接收信息并且计算车辆的地理位置的装置。
在一些示例中,车辆(例如,车辆102)可被配置成使用网络、无线地或有线地进行通信。如所述,可在车辆之间执行通信,例如,以基于光源的状态来告知给定车辆采取动作。所述网络可包括(但不限于)不同类型的合适的通信网络的组合中的任一者,所述通信网络例如为广播网络、公共网络(例如,互联网)、专用网络、无线网络、蜂窝网络或任何其他合适的专用网络和/或公共网络。此外,所述通信网络中的任一者可具有与其相关联的任何合适的通信范围,并且可包括(例如)全局网络(例如,互联网)、大都市区网络(MAN)、广域网(WAN)、局域网(LAN)或个人区域网(PAN)。另外,所述通信网络中的任一者可包括可在其上载运网络业务的任何类型的媒体,包括(但不限于)同轴电缆、双芯绞合线、光纤、混合纤维同轴(HFC)媒体、微波地面收发器、射频通信媒体、空白空间通信媒体、超高频率通信媒体、卫星通信媒体,或其任何组合。
在一些示例中,所公开的系统可分析与车辆的环境相关联的地图信息、给定环境中的先前的车辆位置、光源位置、关于运输网络的基础设施更新(例如,由于施工或其他活动而断电的光源)等。所述数据库可由任何合适的系统控制,包括在下文结合图7进一步论述的数据库管理系统(DBMS)。DBMS可使用多种数据库模型(例如,关系模型、对象模型等)中的任一者并且可支持多种查询语言中的任一者以从数据库获得信息。在一些示例中,所述数据库可包括基于云的数据库或基于车辆的数据库。
图2示出了根据本公开的示例性实施例的与光源和摄像机曝光时间相关联的时序图。图示200包括具有处于开启状态的LED的交通信号灯的第一图像202,以及仍然处于开启状态的交通信号灯的第二图像204,但所述交通信号灯由于闪烁显得将要关闭。可基于帧速率在帧206中捕获所述图像,并且可由诸如基于CMOS的摄像机或基于CCD的摄像机等摄像机拍摄所述图像。第一图像202可对应于第一帧N 208,并且第二图像204可对应于第二帧N+1210。
图示200还示出了LED电力脉冲的时序图212。时序图212示出了其中电路可向LED提供电力的间隔,以及其中电路不向LED提供电力的其他间隔。这可由于以下事实:所述电路可为在给定频率下操作的交流(AC)电源。具体来说,间隔214表示其中电路向LED提供电力的情形,而间隔215表示其中电路不主动地向LED提供电力的情形。如在下文进一步论述,间隔218和220表示分别与曝光间隔228和曝光间隔232重叠和不重叠的间隔。
图示200还示出了与摄像机相关联的曝光时间的时序图224。如所示,时序图224包括空白间隔,诸如空白间隔226和空白间隔230。所述空白间隔可表示其中摄像机不捕获图像且因此可能会错过诸如交通灯的LED等脉动光源的开启状态的间隔。另外,时序图224包括曝光间隔,诸如曝光间隔228和曝光间隔232。所述曝光间隔表示其中摄像机拍摄光源的图像的间隔。因此,为了让摄像机捕获光源的开启状态,在与给光源的电力相关联的间隔(诸如间隔218或间隔220)与曝光间隔(诸如曝光间隔228和/或曝光间隔232)之间必须存在充足的重叠。在图示200中示出的示例中,在间隔218与曝光间隔228之间存在充足的重叠。因此,摄像机可在时序图的此循环中正确地捕获光源的开启状态。然而,图示200说明在间隔220与曝光间隔232之间不存在足够的重叠。因此,摄像机在时序图的此循环期间可能捕获不到光源的开启状态,并且感知系统可能会不正确地认为光源是关闭的,即使所述光源实际上仅仅是在闪烁也如此。
图3A说明根据本公开的示例性实施例的与光源、基于事件的摄像机和摄像机曝光时间相关联的额外的时序图。图示300表示与上文示出和描述的图2的图示200类似的图示,其中具有一些值得注意的差异。具体来说,图示300还包括基于事件的摄像机的时间序列的时序图302。时序图302包括诸如正触发304等正触发和诸如负触发306等负触发。具体来说,所述正触发致使基于事件的摄像机开启并且可通过检测到与光源相关联的关闭到开启事件而触发。类似地,所述负触发可致使基于事件的摄像机关闭并且可通过检测到与光源相关联的开启到关闭事件而触发。
如图示300中所示,时序图302是周期性的,并且可具有可遵循时序图212的周期性的相关联的频率。如所述,这是因为光源可具有周期性行为,并且基于事件的摄像机被配置成基于光源的明度的变化而开启和关闭。图示300还示出可在与开启状态218对准的正触发312期间开启基于事件的摄像机,并且可在与光源的关闭状态对准的负触发314之后关闭基于事件的摄像机。类似地,图示300示出可在与开启状态220对准的正触发320期间开启基于事件的摄像机,并且可在与光源的关闭状态对准的负触发322之后关闭基于事件的摄像机。
在涉及正触发312和负触发314的情况下,摄像机可经历由曝光间隔228描绘的曝光事件,所述曝光间隔可与在正触发312与负触发314之间的持续时间对准并且还与光源的开启状态218对准。因此,摄像机可捕获光源的开启状态。然而,在涉及正触发320和负触发322的情况下,摄像机可经历由曝光间隔232描绘的曝光事件,所述曝光间隔可与在正触发320与负触发322之间的持续时间对准并且还可不与光源的开启状态220对准。因此,摄像机可能捕获不到光源的开启状态,即使所述光源是通电的也如此。这可致使所述系统认为光源关闭,即使所述光源实际上是开启并且仅经历闪烁事件也如此。
图3B提供了作为图3A的时序图的补充的另一时序图,所述另一时序图包括根据本公开的示例性实施例的用于减少图像中的闪烁伪影的摄像机曝光时间的经修改的时序图。图示301表示与上文示出和描述的图2的图示200类似的图示。另外,图示301还包括LED电力脉冲的时序图329。时序图329示出了其中电路可向LED提供电力的间隔,以及其中电路不向LED提供电力的其他间隔。举例来说,间隔330表示其中电路向LED提供电力的情形,而间隔331表示其中电路不主动地向LED提供电力的情形。时序图340表示捕获包括交通信号灯202和204的场景的图像的摄像机的标称曝光时间。在此方面,时序图340表示未经修改的时序图,所述未经修改的时序图包括诸如空白间隔340等空白间隔和诸如曝光间隔342等曝光间隔。所示出的这些间隔和其他间隔(例如,空白间隔343和曝光间隔344)可与或可不与时序图329的开启状态(例如,开启状态330、开启状态332和/或开启状态334)充分重叠。此外,图示300示出了与事件摄像机相关联的时序图350。
图示301还示出可在与开启状态330对准的正触发351期间开启基于事件的摄像机,并且可在与光源的到关闭状态的转变对准的负触发352之后关闭基于事件的摄像机。与以上图3A的时序图302不同地,时序图350还指示时序图350的正触发和负触发可能不一定以周期性方式重复。而是,事件摄像机的过去的历史可允许预测未来的光源开启状态。例如,各种基于AI的算法可与由时序图340表示的标称曝光时间和由时序图329表示的光源的开启状态和关闭状态联合地监测与事件摄像机的时序图350相关联的历史数据。通过此历史信息,基于AI的算法可预测未来的光源开启状态,而不是依赖于基于在光源的开启状态和关闭状态之间的转变的外部触发。因此,所公开的系统可向时序图添加诸如延迟362等延迟,以生成基于事件的摄像机的曝光时间的经修改的时序图360。具体来说,时序图360示出了空白间隔361以及紧随其后的延迟362,所述延迟具有由基于AI的算法的输出配置的预定持续时间。
在延迟362之后,时序图360包括曝光间隔363以及紧随其后的额外的空白间隔364和另一曝光间隔365。在一些示例中,可在诸如空白间隔361等空白间隔与诸如曝光间隔363等曝光间隔之间仅有限次数地插入诸如延迟362等延迟。在其他示例中,可连续地插入延迟,并且进而调整基于事件的摄像机的时序图360中的曝光时间之间的频率。在各种示例中,除了由基于AI的算法确定的任何其他合适的参数之外,可至少部分地由时序图329、340和/或350确定延迟的持续时间、相对于空白间隔和/或曝光间隔的延迟的位置以及延迟的发生频率。
图4示出了描述根据本公开的示例性实施例的减少成像光源中的闪烁伪影的方法的示例性过程流。在框402处,所公开的系统可开始在下文详述的操作。在框404处,所公开的系统可使用基于事件的摄像机来捕获事件或摄像机事件流。如所述,基于事件的摄像机可为诸如AV等车辆的部分。在一些示例中,基于事件的摄像机可具有预定分辨率、预定帧速率和其他参数。
在框406处,所公开的系统可使用常规摄像机(例如,基于CMOS的摄像机和/或基于CCD的摄像机)来捕获车辆的场景的图像。在一些示例中,常规摄像机可具有预定分辨率、预定动态范围、预定带宽等。常规摄像机可被配置成捕获与车辆在其中导航的环境相对应的场景。在一些示例中,可将常规摄像机安装在可改变摄像机的视场的可旋转和/或可平移的底座上,例如可将常规摄像机安装到机械转动的激光定位器上。以此方式,可操纵常规摄像机以捕获环境中的诸如光源等各种对象的图像。
在框408处,所公开的系统可检测潜在光源。具体来说,基于事件的摄像机和/或常规摄像机可使用任何合适的基于计算机视觉的算法来检测光源的可能的存在。举例来说,所述算法可被配置成搜寻对应于与交通信号灯和/或基于车辆的转向灯相关联的形状的特定形状。
在框410处,所公开的系统可检测活动光源。具体来说,所公开的系统可被配置成检测满足特定光频率的光源。举例来说,可校准基于事件的摄像机和/或常规摄像机,使得它们检测与交通灯的红色停止信号和活动模式相关联的特定频率的红光。
在框412处,所公开的系统可检测光源闪烁。具体来说,基于事件的摄像机和/或常规摄像机可被配置成在给定频率下检测光源的亮度变化量值。例如,摄像机与合适的基于AI的算法可被配置成搜寻所捕获的图像的与活动光源相对应的部分中的共同的闪烁频率。
在框414处,所公开的系统可基于与基于事件的摄像机的传感器融合来检测常规摄像机捕获的图像中的光源状态。如所述,所公开的系统可基于由基于事件的摄像机捕获的历史数据来预测光源的未来的开启或关闭事件。
在框416处,所公开的系统可基于以上操作的结果向感知算法告知光源的开启或关闭状态。具体来说,所公开的系统可被配置成基于光源的开启状态和关闭状态的频率和/或特性来更新任何合适的基于AI的算法的权重。
在框418处,所公开的系统可确定是否捕获到光源开启状态。如果是,那么所公开的系统的操作可前进到框422,其中结束操作。
在框420处,所公开的系统可确定是否将在之后的N秒内捕获到光源处于开启状态,其中N表示正数。如果是,那么所公开的系统的操作可前进到框422,其中结束操作。如果否,那么在框424处,所公开的系统可确定计算延迟并且将所述延迟添加到摄像机的曝光时间。添加到摄像机的曝光时间的延迟的量可至少部分地基于由AI算法与由基于事件的摄像机生成的数据联合确定的光源的所预测的未来的开启状态。
此外,在框426处,所公开的系统可在所述延迟之后捕获场景的图像。具体来说,此所捕获的图像可具有在常规摄像机的曝光时间与光源的闪烁频率之间的适当的时序对准。因此,所述图像可表示光源的实际状态的忠实的重现。所公开的系统的操作随后可前进到框422,其中结束操作。
图5示出了描述根据本公开的示例性实施例的减少成像光源中的闪烁伪影的方法的另一示例性过程流。在框502处,所述方法可包括使用摄像机捕获与场景相对应的图像并且使用至少一种基于AI的算法来识别所述场景中的光源。在一些示例中,所述摄像机可包括基于CMOS的摄像机或基于CCD的摄像机。在一些示例中,所述基于AI的算法包括对象跟踪算法,所述对象跟踪算法跟踪所述场景中的光源的位置,并且所述方法可还包括改变基于事件的摄像机的焦点以跟踪所述光源的所述位置。
在框504处,所述方法可包括使用基于事件的摄像机来确定表示所述光源的闪烁的数据并且识别所述闪烁的频率。在一些示例中,所公开的系统还可确定与摄像机的运动相关联的信息,并且可基于所述信息来滤除所确定的数据中的额外数据。在其他示例中,所公开的系统可识别与光源的开启状态和关闭状态相关联的至少两个频率并且可选择具有更大值的频率。在一些示例中,所公开的系统可使用HD地图来获得光源的位置。在其他方面,所公开的系统可识别来自所述场景中的多个光源的光的最大光强度,每个光源具有相应的强度。
在框506处,所述方法可包括根据所述数据来确定在光源的开启状态与摄像机的曝光时间之间的重叠持续时间低于阈值。具体来说,所公开的系统可获得在光源的开启状态与摄像机的曝光时间之间的重叠程度的数值表示作为百分比。在一些示例中,如果百分比低于约50%,那么所公开的系统可确定重叠程度不足并且因此低于所述阈值。在其他方面,所公开的系统可缩放显示器的光源强度。举例来说,所公开的系统可配置摄像机视角(例如,后视、侧视或环视摄像机),以捕获其中一些帧相对更亮的闪烁以及其中光源关闭的其他帧。所公开的系统可使用由如本文多方面描述的事件摄像机生成的图像,以显示与人类看到所述场景相当的视图。
在框508处,所述方法可包括将摄像机的曝光时间延迟某一延迟时间,或者通过执行任何其他合适的动作以使重叠持续时间增加到高于所述阈值。具体来说,所公开的系统可将摄像机的曝光时间延迟所述延迟时间以使重叠持续时间增加到高于以及约为50%的重叠时间。在一些示例中,所公开的系统可基于重叠持续时间或延迟时间来修改(例如,增加或减小)曝光时间的持续时间或由摄像机进行图像捕获的频率中的至少一者。在一些示例中,所公开的系统可生成致使车辆在距离光源的预定近似距离内制动的指令。
如所述,本文描述的装置和系统(以及它们的各种部件)的实施例可采用AI来促进使本文描述的一个或多个特征自动化,例如,在执行对由车辆的摄像机捕获的场景的对象辨识方面,或者在基于历史数据来预测光源的未来的开启状态方面。所述部件可采用各种基于AI的方案来实行本文所公开的各种实施例和/或示例。为了提供或辅助本文描述的众多确定(例如,确定、断定、推断、计算、预言、预测、估计、导出、预报、检测、计算),本文描述的部件可检查被授予访问的数据的整体或子集,并且可根据经由事件和/或数据捕获的一组观察来提供关于系统、环境等的状态的推理或确定。举例来说,可采用确定来识别特定上下文或动作,或可产生状态的概率分布。所述确定可为概率性的,即基于数据和事件的考虑来计算所关注状态的概率分布。确定还可指代用于从一组事件和/或数据组成较高级事件的技术。
此类确定可导致从一组观察到的事件和/或所存储的事件数据构建新的事件或动作,无论所述事件是否在时间接近性方面紧密相关,并且无论所述事件和数据是否来自一个或若干个事件和数据源(例如,不同的传感器输入)。本文公开的部件可结合所要求保护的主题结合执行自动和/或所确定的动作而采用各种分类(显式训练(例如,经由训练数据)以及隐式训练(例如,经由观察行为、偏好、历史信息、接收外来信息等))方案和/或系统(例如,支持向量机、神经网络、专家系统、贝叶斯网络、模糊逻辑、数据融合引擎等)。因此,可使用分类方案和/或系统来自动学习和执行若干功能、动作和/或确定。
分类器可将输入属性向量z=(z1,z2,z3,z4,...,zn)映射到输入属于某个类别的置信度,如按照f(z)=置信度(类别)。此类分类可采用基于概率和/或统计的分析(例如,考虑到分析工具和成本)以确定将要自动执行动作。支持向量机(SVM)可为可采用的分类器的示例。SVM通过发现可能的输入的空间中的超表面而操作,其中所述超表面试图使触发准则与非触发事件分离。直观上,这使得针对接近训练数据但不等同于训练数据的测试数据的分类是正确的。其他定向和非定向的模型分类方法包括(例如)朴素贝叶斯、贝叶斯网络、决策树、神经网络、模糊逻辑模型,且/或可采用提供不同的独立模式的概率分类模型。本文使用的分类还包括用于形成优先级模型的统计回归。
图6是根据本公开的一个或多个实施例的示例性自主车辆的示意性说明。如所述,车辆(例如,上文结合图1示出和描述的车辆102)可包括AV。参看图6,示例性车辆600可包括动力装置602(诸如,内燃机和/或电动马达),所述动力装置向从动轮604提供扭矩,所述从动轮向前或向后推进车辆。
可通过车辆控制器606自主地控制自主车辆操作,包括推进、转向、制动、导航等。举例来说,车辆控制器606可被配置成从一个或多个传感器(例如,传感器系统634等)和其他车辆部件接收反馈以确定道路状况、车辆定位等。车辆控制器606还可从诸如速度监测器和偏航传感器等各种传感器以及轮胎、制动器、马达和其他车辆部件摄入数据。车辆控制器606可使用所述反馈以及路线/路线的地图数据来确定将要由自主车辆采取的动作,所述动作可包括与发动机、转向、制动等相关的操作。可使用任何合适的机械构件来实施对各种车辆系统的控制,所述机械构件例如为伺服马达、机械臂(例如,用于控制方向盘操作、加速踏板、制动踏板等)等。控制器606可被配置成通过与用户的用户装置通信来与用户交互。
车辆控制器606可包括耦合到至少一个存储器的一个或多个计算机处理器。车辆600可包括具有盘610和卡钳612的制动系统608。车辆600可包括转向系统614。转向系统614可包括方向盘616、将方向盘与转向齿条620(或转向箱)互连的转向轴杆618。前轮和/或后轮604可经由桥622连接到转向齿条620。转向传感器624可设置成接近转向轴杆618以测量转向角度。车辆600还包括可设置在轮子604处或变速器中的转速传感器626。转速传感器626被配置成将指示车辆的速度的信号输出到控制器606。偏航传感器628与控制器606通信并且被配置成输出指示车辆600的偏航的信号。
车辆600包括车厢,所述车厢具有与控制器606进行电子通信的显示器630。显示器630可为触摸屏,所述触摸屏向车辆的乘客显示信息和/或充当输入端。本领域技术人员将了解,许多不同的显示器和输入装置是可用的,并且本公开不限于任何特定显示器。音频系统632可设置在车厢内并且可包括一个或多个扬声器,以便向搭载物品的用户提供信息。音频系统632还可包括用于接收语音输入或检测驻留处的声音(例如,动物声音)的麦克风。车辆可包括被配置成经由一个或多个网络来发送和/或接收无线通信的通信系统636。通信系统636可被配置成与汽车里或汽车外的装置(诸如用户的装置、运载车辆等)进行通信。
车辆600还可包括用于感测车辆外部的区域的传感器系统。所述传感器系统可包括多种不同类型的传感器和装置,例如相机、超声波传感器、RADAR、LIDAR和/或它们的组合。所述传感器系统可与控制器606进行电子通信以便控制各种部件的功能。控制器可经由串行总线或经由专用的电气管线进行通信。所述控制器一般包括任何数目个微处理器、ASIC、IC、存储器(例如,FLASH、ROM、RAM、EPROM和/或EEPROM)和软件代码以彼此协作来执行一系列操作。所述控制器还包括预定数据或“查找表”,所述查找表是基于计算和测试数据并且存储在存储器内。所述控制器可使用公共总线协议(例如,CAN和LIN)经由一个或多个有线或无线车辆连接来与其他车辆系统和控制器通信。如本文使用,对“控制器”的提及是指一个或多个控制器和/或计算机处理器。控制器606可从传感器系统634接收信号并且可包括存储器,所述存储器含有用于处理来自传感器系统的数据的机器可读指令。控制器606可被编程为将指令输出到至少显示器630、音频系统632、转向系统614、制动系统608和/或动力装置602以自主地操作车辆600。
图7是根据本公开的一个或多个实施例的一个或多个服务器700的示例性服务器架构的示意性说明。在图7的示例中说明的服务器700可对应于由车辆(例如,如上文结合图1示出和描述的车辆102中的任一者)在与所述车辆相关联的网络上使用的服务器。在实施例中,服务器700可包括可用于存储和传输信息(例如,包括诸如交通信号灯等光源的位置的HD地图信息、交通信息等)的基于云的服务器。个别部件中的一些或全部在各种实施例中可为任选的和/或不同的。在一些实施例中,在图7中描述的服务器中的至少一者可定位在自主车辆处。
服务器700可与AV 740以及一个或多个用户装置750通信。AV 740可与一个或多个用户装置750通信。此外,服务器700、AV 740和/或用户装置750可被配置成经由一个或多个网络742进行通信。AV 740可另外经由诸如蓝牙或NFC等连接协议在一个或多个网络742上与用户装置750进行无线通信。此类网络742可包括(但不限于)任何一种或多种不同类型的通信网络,例如有线电视网络、公共网络(例如,互联网)、专用网络(例如,帧中继网络)、无线网络、蜂窝网络、电话网络(例如,公共交换电话网络),或任何其他合适的专用网络或公共分组交换网络或电路交换网络。此外,此类网络可具有与其相关联的任何合适的通信范围。另外,此类网络可包括通信链路和相关联的连网装置(例如,链路层交换机、路由器等),以便在任何合适类型的媒体上传输网络业务,所述媒体包括(但不限于)同轴电缆、双芯绞合线(例如,双绞铜线)、光纤、HFC媒体、微波媒体、射频通信媒体、卫星通信媒体,或它们的任何组合。
在说明性配置中,服务器700可包括一个或多个处理器702、一个或多个存储器装置704(在本文还称为存储器704)、一个或多个输入/输出(I/O)接口706、一个或多个网络接口708、一个或多个传感器或传感器接口710、一个或多个收发器712、一个或多个任选的显示部件714、一个或多个任选的扬声器/摄像机/麦克风716以及数据存储装置720。服务器700可还包括在功能上耦合服务器700的各种部件的一条或多条总线718。服务器700可还包括一根或多根天线730,所述一根或多根天线可包括(不限于)用于向蜂窝网络基础设施传输信号/从蜂窝网络基础设施接收信号的蜂窝天线、用于从GNSS卫星接收GNSS信号的GNSS天线、用于传输或接收蓝牙信号的蓝牙天线、用于传输或接收NFC信号的NFC天线等。将在下文更详细地描述这些各种部件。
总线718可包括系统总线、存储器总线、地址总线或消息总线中的至少一者,并且可准许在服务器700的各种部件之间交换信息(例如,数据(包括计算机可执行代码)、信令等)。总线718可包括(不限于)存储器总线或存储器控制器、外围总线、加速图形端口等。总线718可与任何合适的总线架构相关联。
服务器700的存储器704可包括:易失性存储器(在被供应电力时维持其状态的存储器),诸如RAM;和/或非易失性存储器(在不被供应电力时维持其状态的存储器),诸如只读存储器(ROM)、快闪存储器、铁电RAM(FRAM)等。如本文使用的术语持久数据存储装置可包括非易失性存储器。在特定示例性实施例中,易失性存储器可实现比非易失性存储器更快的读取/写入访问。然而,在特定其他示例性实施例中,特定类型的非易失性存储器(例如,FRAM)可实现比特定类型的易失性存储器更快的读取/写入访问。
数据存储装置720可包括可移除存储装置和/或不可移除存储装置,包括(但不限于)磁性存储装置、光盘存储装置,和/或磁带存储装置。数据存储装置720可提供计算机可执行指令和其他数据的非易失性存储。
数据存储装置720可存储计算机可执行代码、指令等,所述计算机可执行代码、指令等可为可加载于存储器704中并且可由处理器702执行以致使处理器702执行或发起各种操作。数据存储装置720可另外存储数据,可将所述数据拷贝到存储器704以供处理器702在执行计算机可执行指令期间使用。更具体来说,数据存储装置720可存储一个或多个操作系统(O/S)722;一个或多个数据库管理系统(DBMS)724;以及一个或多个程序模块、应用、引擎、计算机可执行代码、脚本等。这些部件中的一些或全部可为子部件。被描绘为存储在数据存储装置720中的部件中的任一者可包括软件、固件和/或硬件的任何组合。所述软件和/或固件可包括可加载到存储器704中以供处理器702中的一者或多者执行的计算机可执行代码、指令等。被描绘为存储在数据存储装置720中的部件中的任一者可支持参考早先在本公开中提及的对应部件所描述的功能性。
处理器702可被配置成访问存储器704并且执行加载于所述存储器中的计算机可执行指令。举例来说,处理器702可被配置成执行服务器700的各种程序模块、应用、引擎等的计算机可执行指令,以致使或促进执行根据本公开的一个或多个实施例的各种操作。处理器702可包括能够接受数据作为输入、根据所存储的计算机可执行指令来处理所述输入数据并且产生输出数据的任何合适的处理单元。处理器702可包括任何类型的合适的处理单元。
现在参看被描绘为存储在数据存储装置720中的其他说明性部件,可将O/S 722从数据存储装置720加载到存储器704中,并且所述O/S 722可提供在服务器700上执行的其他应用软件与服务器700的硬件资源之间的接口。
可将DBMS 724加载到存储器704中,并且所述DBMS 724可支持用于访问、检索、存储和/或操纵存储在存储器704中的数据和/或存储在数据存储装置720中的数据的功能性。DBMS 724可使用多种数据库模型(例如,关系模型、对象模型等)中的任一者并且可支持多种查询语言中的任一者。
现在参看服务器700的其他说明性部件,输入/输出(I/O)接口706可促进服务器700从一个或多个I/O装置接收输入信息以及将信息从服务器700输出到一个或多个I/O装置。所述I/O装置可包括多种部件中的任一者,例如具有触摸表面或触摸屏的显示器或显示屏幕;用于产生声音的音频输出装置,例如扬声器;音频捕获装置,例如麦克风;图像和/或视频捕获装置,例如摄像机;触觉单元;等等。I/O接口706还可包括到天线730中的一者或多者的连接,以经由无线局域网(WLAN)(例如,Wi-Fi)、无线电、蓝牙、ZigBee和/或无线网络无线电连接到一个或多个网络,所述无线网络无线电诸如为能够与例如长期演进(LTE)网络、WiMAX网络、3G网络、ZigBee网络等无线通信网络通信的无线电。
服务器700可还包括一个或多个网络接口708,服务器700可经由所述一个或多个网络接口与多种其他系统、平台、网络、装置等通信。网络接口708可实现(例如)经由一个或多个网络与一个或多个无线路由器、一个或多个主机服务器、一个或多个网络服务器等的通信。
传感器/传感器接口710可包括任何合适类型的感测装置或者可能够与任何合适类型的感测装置介接,所述感测装置例如为惯性传感器、力传感器、热传感器、光电管等。
显示部件714可包括一个或多个显示层,例如LED层或LCD层、触摸屏层、保护层,和/或其他层。扬声器/摄像机/麦克风716的任选的摄像机可为被配置成捕获环境光或图像的任何装置。扬声器/摄像机/麦克风716的任选的麦克风可为被配置成接收模拟声音输入或语音数据的任何装置。扬声器/摄像机/麦克风716的麦克风可包括用于捕获声音的麦克风。
应了解,在图7中被描绘为存储在数据存储装置720中的程序模块、应用、计算机可执行指令、代码等仅仅是说明性而非详尽的,并且被描述为由任何特定模块支持的处理可可替代地跨多个模块而分布或者由不同的模块执行。
应进一步了解,在不脱离本公开的范围的情况下,除了所描述或描绘的那些之外,服务器700可包括替代性和/或额外的硬件、软件或固件部件。
用户装置750可包括一个或多个计算机处理器752、一个或多个存储器装置754以及一个或多个应用,例如车辆应用756。其他实施例可包括不同的部件。
处理器752可被配置成访问存储器754并且执行加载于所述存储器中的计算机可执行指令。举例来说,处理器752可被配置成执行装置的各种程序模块、应用、引擎等的计算机可执行指令,以致使或促进执行根据本公开的一个或多个实施例的各种操作。处理器752可包括能够接受数据作为输入、根据所存储的计算机可执行指令来处理所述输入数据并且产生输出数据的任何合适的处理单元。处理器752可包括任何类型的合适的处理单元。
存储器754可包括易失性存储器(在被供应有电力时维持其状态的存储器)。如本文使用的术语持久数据存储装置可包括非易失性存储器。在特定示例性实施例中,易失性存储器可实现比非易失性存储器更快的读取/写入访问。然而,在特定其他示例性实施例中,特定类型的非易失性存储器(例如,FRAM)可实现比特定类型的易失性存储器更快的读取/写入访问。
现在参看由用户装置750支持的功能性,AV应用756可为可由处理器752执行的移动应用,所述移动应用可用于呈现选项和/或接收与所公开的实施例相关的信息的用户输入。另外,用户装置750可经由网络742和/或可为无线或有线连接的直接连接来与AV 740通信。用户装置750可包括摄像机、扫描仪、生物读取器等,以捕获用户的生物识别数据;对生物识别数据执行特定处理步骤,诸如从所捕获的生物识别数据提取特征;以及随后将那些提取的特征传送到一个或多个远程服务器,诸如基于云的服务器中的一者或多者。
应了解,在图7中被描绘为存储在数据存储装置720中的程序模块、应用、计算机可执行指令、代码等仅仅是说明性而非详尽的,并且被描述为由任何特定模块支持的处理可以可替代地跨多个模块而分布或者由不同的模块执行。
应进一步了解,在不脱离本公开的范围的情况下,除了所描述或描绘的那些之外,服务器700可包括替代性和/或额外的硬件、软件或固件部件。
示例实施例
示例1可包括一种方法,所述方法包括:接收与由摄像机捕获的场景相对应的图像;使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;从基于事件的摄像机接收表示所述光源的闪烁的数据;基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
示例2可包括示例1和/或本文的一些其他示例的方法,其还包括:基于所述重叠持续时间或所述延迟时间中的至少一者来修改所述曝光时间的持续时间或由所述摄像机进行图像捕获的频率中的至少一者。
示例3可包括示例1和/或本文的一些其他示例的方法,其还包括:通过确定与所述光源的所述开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定所述闪烁的频率。
示例4可包括示例1和/或本文的一些其他示例的方法,其中所述基于AI的算法包括对象跟踪算法,所述对象跟踪算法跟踪所述场景中的光源的位置,并且所述方法还包括改变所述基于事件的摄像机的焦点以跟踪所述光源的所述位置。
示例5可包括示例1和/或本文的一些其他示例的方法,其还包括:确定与所述摄像机的运动相关联的信息;以及基于所述信息来滤除所述所确定的数据中的额外数据。
示例6可包括示例1和/或本文的一些其他示例的方法,其中确定所述场景中的所述光源还包括:确定包括所述光源的位置的高清晰度(HD)地图信息。
示例7可包括示例1和/或本文的一些其他示例的方法,其中确定所述场景中的所述光源还包括:确定来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
示例8可包括示例1和/或本文的一些其他示例的方法,其还包括生成致使车辆在距离所述光源的一定距离内停止的指令。
示例9可包括示例1的方法和/或本文的一些其他示例,其中所述摄像机包括互补金属氧化物半导体(CMOS)摄像机或电荷耦合装置(CCD)摄像机。
示例10可包括一种装置,所述装置包括:至少一个存储器装置,所述至少一个存储器装置存储计算机可执行指令;以及至少一个处理器,所述至少一个处理器被配置成访问所述至少一个存储器装置,其中所述至少一个处理器被配置成执行所述计算机可执行指令以进行以下操作:接收与由摄像机捕获的场景相对应的图像;使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;从基于事件的摄像机接收表示所述光源的闪烁的数据;基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
示例11可包括示例10和/或本文的一些其他示例的装置,其还包括进行以下操作的指令:基于所述重叠持续时间或所述延迟时间中的至少一者来修改所述曝光时间的持续时间或由所述摄像机进行图像捕获的频率中的至少一者。
示例12可包括示例10和/或本文的一些其他示例的装置,其还包括进行以下操作的指令:通过识别与所述光源的所述开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定所述闪烁的频率。
示例13可包括示例10和/或本文的一些其他示例的装置,其中所述确定所述场景中的所述光源的指令还包括:确定包括所述光源的位置的HD地图信息。
示例14可包括示例10和/或本文的一些其他示例的装置,其中所述识别所述场景中的所述光源的指令还包括进行以下操作的指令:识别来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
示例15可包括一种非暂时性计算机可读介质,所述非暂时性计算机可读介质存储计算机可执行指令,所述计算机可执行指令在由处理器执行时致使所述处理器执行包括以下各项的操作:接收与由摄像机捕获的场景相对应的图像;使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;从基于事件的摄像机接收表示所述光源的闪烁的数据;基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
示例16可包括示例15和/或本文的一些其他示例的非暂时性计算机可读介质,其还包括进行以下操作的指令:基于所述重叠持续时间或所述延迟时间中的至少一者来修改所述曝光时间的持续时间或由所述摄像机进行图像捕获的频率中的至少一者。
示例17可包括示例15和/或本文的一些其他示例的非暂时性计算机可读介质,其还包括进行以下操作的指令:通过确定与所述光源的所述开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定所述闪烁的频率。
示例18可包括示例15和/或本文的一些其他示例的非暂时性计算机可读介质,其中所述识别所述场景中的所述光源的指令还包括:确定包括所述光源的位置的HD地图信息。
示例19可包括示例15和/或本文的一些其他示例的非暂时性计算机可读介质,其中所述确定所述场景中的所述光源的指令还包括进行以下操作的指令:确定来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
示例20可包括示例15和/或本文的一些其他示例的非暂时性计算机可读介质,其还包括生成致使车辆在距离所述光源的一定近似距离内停止的指令。
虽然已经描述了本公开的特定实施例,但本领域技术人员将认识到,众多其他修改和替代性实施例处于本公开的范围内。举例来说,可通过任何其他装置或部件执行关于特定装置或部件所描述的功能性和/或处理能力中的任一者。此外,虽然已经根据本公开的实施例描述了各种说明性实现方式和架构,但本领域技术人员将了解,对本文描述的说明性实现方式和架构的众多其他修改也处于本公开的范围内。
框图和流程图的框支持用于执行指定功能的构件的组合、用于执行指定功能的元件或步骤的组合以及用于执行指定功能的程序指令构件。还将理解,可通过执行指定功能元件或步骤或者专用硬件和计算机指令的组合的专用的基于硬件的计算机系统来实施框图和流程图的每个框以及框图和流程图中的框的组合。
可通过多种编程语言中的任一者来编码软件部件。说明性编程语言可为低级编程语言,例如与特定硬件架构和/或操作系统平台相关联的汇编语言。包括汇编语言指令的软件部件可能要求通过汇编器转换为可执行机器代码,之后通过硬件架构和/或平台执行。
可将软件部件存储为文件或其他数据存储结构。可将类似类型或在功能上相关的软件部件一起存储(例如)在特定目录、文件夹或库中。软件部件可为静态的(例如,预先确立或固定)或动态的(例如,在执行时创建或修改)。
软件部件可通过广泛多种机制中的任一者调用其他软件部件或被其他软件部件调用。被调用的软件部件或调用的软件部件可包括其他自定义开发的应用软件、操作系统功能性(例如,装置驱动程序、数据存储(例如,文件管理)例程、其他共同的例程和服务等),或第三方软件部件(例如,中间件、加密或其他安全软件、数据库管理软件、文件传递或其他网络通信软件、数学或统计软件、图像处理软件和格式转换软件)。
与特定解决方案或系统相关联的软件部件可驻留在单个平台上并且在所述单个平台上执行,或者可分布在多个平台上。所述多个平台可与一个以上硬件供应商、基础芯片技术或操作系统相关联。此外,可起初通过一种或多种编程语言编写与特定解决方案或系统相关联的软件部件,但所述软件部件可调用通过另一编程语言编写的软件部件。
可将计算机可执行程序指令加载到专用计算机或其他特定机器、处理器或其他可编程数据处理设备上以产生特定机器,使得在计算机、处理器或其他可编程数据处理设备上执行指令致使执行在流程图中指定的一个或多个功能或操作。还可将这些计算机程序指令存储在计算机可读存储介质(CRSM)中,在执行所述计算机程序指令之后可引导计算机或其他可编程数据处理设备按照特定的方式起作用,使得存储在计算机可读存储介质中的指令产生一种制品,所述制品包括实施在流程图中指定的一个或多个功能或操作的指令构件。还可将计算机程序指令加载到计算机或其他可编程数据处理设备上,以致使在所述计算机或其他可编程设备上执行一系列操作元件或步骤以产生计算机实施的过程。
尽管已经用结构特征和/或方法动作特有的语言描述了实施例,但应理解,本公开不一定受限于所描述的特定特征或动作。而是,将所述特定特征和动作公开为实施所述实施例的说明形式。除非另有明确规定或在使用时在上下文内以其他方式理解,否则例如尤其是“可”、“可以”、“可能”或“可能会”等条件语言一般意在表达某些实施例可包括某些特征、元件和/或步骤,而其他实施例不包括某些特征、元件和/或步骤。因此,此类条件语言一般无意暗示一个或多个实施例无论如何需要特征、元件和/或步骤,或者一个或多个实施例一定包括用于在具有或不具有用户输入或提示的情况下决定是否在任何特定实施例中包括或将执行这些特征、元件和/或步骤的逻辑。
根据一个实施例,本发明的特征还在于进行以下操作的指令:基于重叠持续时间或延迟时间来修改曝光时间的持续时间或由摄像机进行图像捕获的频率中的至少一者。
根据一个实施例,本发明的特征还在于进行以下操作的指令:通过确定与光源的开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定闪烁的频率。
根据一个实施例,所述识别所述场景中的所述光源的指令还包括:确定包括所述光源的位置的HD地图信息。
根据一个实施例,所述确定所述场景中的所述光源的指令还包括进行以下操作的指令:确定来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
根据一个实施例,本发明的特征还在于生成致使车辆在距离所述光源的一定近似距离内停止的指令。
Claims (15)
1.一种方法,所述方法包括:
接收与由摄像机捕获的场景相对应的图像;
使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;
从基于事件的摄像机接收表示所述光源的闪烁的数据;
基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及
将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
2.如权利要求1所述的方法,所述方法还包括:基于所述重叠持续时间或所述延迟时间中的至少一者来修改所述曝光时间的持续时间或由所述摄像机进行图像捕获的频率中的至少一者。
3.如权利要求1所述的方法,所述方法还包括:通过确定与所述光源的所述开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定所述闪烁的频率。
4.如权利要求1所述的方法,其中所述基于AI的算法包括对象跟踪算法,所述对象跟踪算法跟踪所述场景中的所述光源的位置,并且所述方法还包括改变所述基于事件的摄像机的焦点以跟踪所述光源的所述位置。
5.如权利要求1所述的方法,所述方法还包括:
确定与所述摄像机的运动相关联的信息;以及
基于所述信息来滤除所接收的数据中的额外数据。
6.如权利要求1所述的方法,其中确定所述场景中的所述光源还包括:
确定包括所述光源的位置的高清晰度(HD)地图信息。
7.如权利要求1所述的方法,其中确定所述场景中的所述光源还包括:确定来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
8.如权利要求1所述的方法,所述方法还包括生成致使车辆在距离所述光源的一定距离内停止的指令。
9.如权利要求1所述的方法,其中所述摄像机包括互补金属氧化物半导体(CMOS)摄像机或电荷耦合装置(CCD)摄像机。
10.一种装置,所述装置包括:
至少一个存储器装置,所述至少一个存储器装置存储计算机可执行指令;以及
至少一个处理器,所述至少一个处理器被配置成访问所述至少一个存储器装置,其中所述至少一个处理器被配置成执行所述计算机可执行指令以进行以下操作:
接收与由摄像机捕获的场景相对应的图像;
使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;
从基于事件的摄像机接收表示所述光源的闪烁的数据;
基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及
将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
11.如权利要求10所述的装置,所述装置还包括进行以下操作的指令:基于所述重叠持续时间或所述延迟时间中的至少一者来修改所述曝光时间的持续时间或由所述摄像机进行图像捕获的频率中的至少一者。
12.如权利要求10所述的装置,所述装置还包括进行以下操作的指令:通过识别与所述光源的所述开启状态和关闭状态相关联的至少两个频率并且选择具有更大值的所述频率来确定所述闪烁的频率。
13.如权利要求10所述的装置,其中所述确定所述场景中的所述光源的指令还包括:
确定包括所述光源的位置的HD地图信息。
14.如权利要求10所述的装置,其中所述识别所述场景中的所述光源的指令还包括进行以下操作的指令:识别来自所述场景中的多个光源的光的最大强度,每个光源具有相应的强度。
15.一种存储计算机可执行指令的非暂时性计算机可读介质,所述计算机可执行指令在由处理器执行时致使所述处理器执行包括以下各项的操作:
接收与由摄像机捕获的场景相对应的图像;
使用至少一种基于人工智能(AI)的算法来确定所述场景中的光源;
从基于事件的摄像机接收表示所述光源的闪烁的数据;
基于所述数据来确定在所述光源的开启状态与所述摄像机的曝光时间之间的重叠持续时间低于阈值;以及
将所述摄像机的所述曝光时间延迟某一延迟时间以增加所述重叠持续时间。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/431,510 US10944912B2 (en) | 2019-06-04 | 2019-06-04 | Systems and methods for reducing flicker artifacts in imaged light sources |
US16/431,510 | 2019-06-04 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112040154A true CN112040154A (zh) | 2020-12-04 |
Family
ID=73459746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010497276.0A Pending CN112040154A (zh) | 2019-06-04 | 2020-06-03 | 用于减少成像光源中的闪烁伪影的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10944912B2 (zh) |
CN (1) | CN112040154A (zh) |
DE (1) | DE102020114916A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112616016A (zh) * | 2020-12-10 | 2021-04-06 | 南昌欧菲光电技术有限公司 | 事件相机获取影像的方法、装置、电子设备及存储介质 |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113615161A (zh) * | 2019-03-27 | 2021-11-05 | 索尼集团公司 | 对象检测装置、对象检测系统以及对象检测方法 |
US11488320B2 (en) * | 2019-07-31 | 2022-11-01 | Samsung Electronics Co., Ltd. | Pose estimation method, pose estimation apparatus, and training method for pose estimation |
US11120538B2 (en) * | 2019-12-27 | 2021-09-14 | Zoox, Inc. | Sensor degradation detection and remediation |
US11635802B2 (en) * | 2020-01-13 | 2023-04-25 | Sony Interactive Entertainment Inc. | Combined light intensity based CMOS and event detection sensor for high speed predictive tracking and latency compensation in virtual and augmented reality HMD systems |
US11195033B2 (en) * | 2020-02-27 | 2021-12-07 | Gm Cruise Holdings Llc | Multi-modal, multi-technique vehicle signal detection |
WO2022012748A1 (en) * | 2020-07-15 | 2022-01-20 | Veoneer Sweden Ab | Vision system for a motor vehicle |
US11063667B1 (en) * | 2020-07-30 | 2021-07-13 | Raytheon BBN Technologies, Corp. | Systems, devices, and methods for optical communication |
US11681005B2 (en) * | 2020-07-31 | 2023-06-20 | Rivian Ip Holdings, Llc | Vehicle location systems |
US11803237B2 (en) * | 2020-11-14 | 2023-10-31 | Facense Ltd. | Controlling an eye tracking camera according to eye movement velocity |
US11620836B2 (en) | 2020-12-04 | 2023-04-04 | Argo AI, LLC | Light emitting diode flicker mitigation |
CN113839733A (zh) * | 2021-09-28 | 2021-12-24 | 北京航空航天大学 | 一种用于光通信的时钟同步装置与方法 |
WO2023113103A1 (en) * | 2021-12-16 | 2023-06-22 | Samsung Electronics Co., Ltd. | Method and apparatus for removing flicker in a video |
EP4352947A1 (en) | 2021-12-16 | 2024-04-17 | Samsung Electronics Co., Ltd. | Method and apparatus for removing flicker in a video |
WO2023175890A1 (ja) * | 2022-03-18 | 2023-09-21 | 株式会社ソニー・インタラクティブエンタテインメント | センサシステムおよびセンシング方法 |
EP4344242A1 (en) * | 2022-09-21 | 2024-03-27 | IniVation AG | Flicker mitigation using an event-based camera |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4259998B2 (ja) * | 2003-12-19 | 2009-04-30 | 三洋電機株式会社 | フリッカ検出装置及び撮像装置 |
JP4948090B2 (ja) * | 2006-08-25 | 2012-06-06 | キヤノン株式会社 | 撮像装置及び駆動制御方法 |
US9176006B2 (en) * | 2008-01-15 | 2015-11-03 | Mobileye Vision Technologies Ltd. | Detection and classification of light sources using a diffraction grating |
WO2012093519A1 (ja) * | 2011-01-06 | 2012-07-12 | 富士フイルム株式会社 | 撮像装置及びその発光量制御方法 |
CN103197774A (zh) * | 2012-01-09 | 2013-07-10 | 西安智意能电子科技有限公司 | 一种为发射光源的运动轨迹映射其应用轨迹的方法与系统 |
JP6296697B2 (ja) * | 2013-05-10 | 2018-03-20 | キヤノン株式会社 | 撮像装置、制御方法、プログラム及び記憶媒体 |
JP5883833B2 (ja) | 2013-08-05 | 2016-03-15 | 富士重工業株式会社 | 車外環境認識装置 |
US20160252905A1 (en) | 2014-08-28 | 2016-09-01 | Google Inc. | Real-time active emergency vehicle detection |
US10356337B2 (en) | 2014-10-07 | 2019-07-16 | Magna Electronics Inc. | Vehicle vision system with gray level transition sensitive pixels |
JP6460829B2 (ja) * | 2015-02-20 | 2019-01-30 | キヤノン株式会社 | 撮像装置、電子機器及び光量変化特性の算出方法 |
CN107431769B (zh) * | 2015-03-02 | 2018-07-10 | 富士胶片株式会社 | 摄像装置、闪烁检测方法及闪烁检测程序 |
JP6525715B2 (ja) * | 2015-05-08 | 2019-06-05 | キヤノン株式会社 | 撮像装置、光量変化の検出方法及びプログラム |
CN107709096B (zh) * | 2015-06-22 | 2021-08-24 | 金泰克斯公司 | 用于处理流式传输视频图像以校正经调幅光的闪变的系统和方法 |
JP6300118B2 (ja) * | 2015-09-24 | 2018-03-28 | カシオ計算機株式会社 | 撮像装置、フリッカ検出方法及びプログラム |
CN107113058B (zh) * | 2015-11-06 | 2020-12-18 | 松下电器(美国)知识产权公司 | 可见光信号的生成方法、信号生成装置以及介质 |
KR20180081674A (ko) * | 2015-11-12 | 2018-07-17 | 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 | 표시 방법, 프로그램 및 표시 장치 |
US10339387B2 (en) * | 2016-03-03 | 2019-07-02 | Brigham Young University | Automated multiple target detection and tracking system |
JP2017204699A (ja) * | 2016-05-10 | 2017-11-16 | ソニー株式会社 | 撮像装置、および撮像方法 |
US10301041B2 (en) * | 2016-06-09 | 2019-05-28 | California Institute Of Technology | Systems and methods for tracking moving objects |
CN110114988B (zh) * | 2016-11-10 | 2021-09-07 | 松下电器(美国)知识产权公司 | 发送方法、发送装置及记录介质 |
US10185881B2 (en) | 2016-11-23 | 2019-01-22 | Ford Global Technologies, Llc | Traffic-light detection and classification using computer vision and deep learning |
US10453208B2 (en) | 2017-05-19 | 2019-10-22 | Waymo Llc | Camera systems using filters and exposure times to detect flickering illuminated objects |
JP6884064B2 (ja) * | 2017-07-26 | 2021-06-09 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
WO2019173547A1 (en) * | 2018-03-07 | 2019-09-12 | Robert Bosch Gmbh | Odometry system and method for tracking traffic lights |
US20200022239A1 (en) * | 2018-07-12 | 2020-01-16 | Apple Inc. | Electronic Device With Ambient Light Flicker Sensor |
US11064132B2 (en) * | 2019-04-29 | 2021-07-13 | Samsung Electronics Co., Ltd. | Image capture with anti-flicker synchronization |
-
2019
- 2019-06-04 US US16/431,510 patent/US10944912B2/en active Active
-
2020
- 2020-06-03 CN CN202010497276.0A patent/CN112040154A/zh active Pending
- 2020-06-04 DE DE102020114916.6A patent/DE102020114916A1/de active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112616016A (zh) * | 2020-12-10 | 2021-04-06 | 南昌欧菲光电技术有限公司 | 事件相机获取影像的方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US20200389582A1 (en) | 2020-12-10 |
DE102020114916A1 (de) | 2020-12-10 |
US10944912B2 (en) | 2021-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10944912B2 (en) | Systems and methods for reducing flicker artifacts in imaged light sources | |
US10805548B2 (en) | Signal processing apparatus, imaging apparatus, and signal processing method | |
CN111201787B (zh) | 成像装置、图像处理装置和图像处理方法 | |
US11698642B2 (en) | Information processing apparatus, mobile object, control system, and information processing method | |
EP3474534B1 (en) | Image processing apparatus, imaging apparatus, and image processing system | |
EP3805045B1 (en) | Information processing device, information processing method | |
CN109167929A (zh) | 车载相机参数的调节方法、装置与电子设备 | |
US20220335728A1 (en) | Electronic device, method, and computer readable storage medium for detection of vehicle appearance | |
JP7172603B2 (ja) | 信号処理装置、信号処理方法、およびプログラム | |
US20230045772A9 (en) | Information processing apparatus, information processing method, and program | |
JP7030703B2 (ja) | 信号処理装置、撮影装置、及び、信号処理方法 | |
WO2022038981A1 (ja) | 情報処理装置及び情報処理方法、撮像装置、移動体装置、並びにコンピュータプログラム | |
US11417023B2 (en) | Image processing device, image processing method, and program | |
JP7173056B2 (ja) | 認識装置と認識方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |