CN117677989A - 用于停车位检测的方法和系统 - Google Patents

用于停车位检测的方法和系统 Download PDF

Info

Publication number
CN117677989A
CN117677989A CN202180100072.1A CN202180100072A CN117677989A CN 117677989 A CN117677989 A CN 117677989A CN 202180100072 A CN202180100072 A CN 202180100072A CN 117677989 A CN117677989 A CN 117677989A
Authority
CN
China
Prior art keywords
dvs
eye view
bird
output image
view images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180100072.1A
Other languages
English (en)
Inventor
周任高
徐敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harman International Industries Inc
Original Assignee
Harman International Industries Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harman International Industries Inc filed Critical Harman International Industries Inc
Publication of CN117677989A publication Critical patent/CN117677989A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

公开了一种用于停车位检测的方法和系统。所述方法包括:生成多个DVS帧,所述DVS帧中的每一个是通过整合从安装在车辆上的DVS接收到的DVS像素而生成的;将所述DVS帧中的至少一些变换为鸟瞰图图像,以形成多个鸟瞰图图像;根据拍摄所述鸟瞰图图像时所述车辆的相对位置和/或方位,将所述多个鸟瞰图图像对齐,以形成多个对齐的鸟瞰图图像;将所述多个对齐的鸟瞰图图像组合到一个输出图像中。所述系统包括:安装在车辆上的DVS,其被配置成捕获DVS像素;以及处理器,其被配置成从所述DVS接收所述DVS像素且执行所述方法。

Description

用于停车位检测的方法和系统
技术领域
本公开大体上涉及一种用于停车位检测的方法和系统,并且具体地,涉及使用DVS(动态视觉传感器)在昏暗光线条件下进行停车位检测的方法和系统。
背景技术
目前,车辆的APA(自动停车辅助)系统通常采用传统摄像头和超声波雷达的组合来检测停车位。在白天或光线充足时,传统摄像头和超声波雷达可以正常工作,以获得令人满意或可接受的停车位检测结果。然而,在昏暗光线条件下,传统摄像头提供的图像可能较差,这些图像可能不清晰和/或包含过多的噪声。尽管超声波雷达不受光线条件的影响,但仅靠其测距不足以准确地进行可靠的停车位检测。因此,传统摄像头和超声波雷达的组合在昏暗光线条件下可能无法正常工作。
存在称为DVS的新型尖端传感器。DVS仅捕获光线强度变化,然后创建异步DVS像素(像素事件)。与常规摄像头相比,DVS具有的优点是:低延迟、无运动模糊、高动态范围和低功率消耗。虽然DVS由于其高动态范围而可以产生具有相对低噪声的DVS像素,但是它可能无法直接产生足以在昏暗光线条件下生成用于停车位检测的可接受帧的足够DVS像素。
因此,需要在昏暗光线条件下进行可靠的停车位检测。
发明内容
根据本公开的一个方面,提供了一种用于停车位检测的方法,所述方法包括:生成多个DVS帧,所述DVS帧中的每一个是通过整合从安装在车辆上的DVS接收到的DVS像素而生成的;将所述DVS帧中的至少一些变换为鸟瞰图图像,以形成多个鸟瞰图图像;根据拍摄所述鸟瞰图图像时所述车辆的相对位置和/或方位,将所述多个鸟瞰图图像对齐,以形成多个对齐的鸟瞰图图像;将所述多个对齐的鸟瞰图图像组合到一个输出图像中。
根据本公开的另一方面,提供了一种停车位检测系统,包括:安装在车辆上的DVS,其被配置成捕获DVS像素;处理器,其被配置成执行上述方法。
根据本公开的另一方面,提供了一种包括上述停车位检测系统的车辆。
根据本公开的另一方面,提供了一种存储计算机程序的计算机可读存储介质,所述计算机程序可以由处理器执行以执行上述方法。
在查阅以下附图和详细描述后,本公开的其他系统、方法、特征和优点对本领域的技术人员来说将是显而易见的或将变得显而易见。希望所有此类额外的系统、方法、特征和优点包括于本说明书内、位于本公开的范围内并且受到所附权利要求保护。
附图说明
参考附图和描述,可更好地理解本公开。图式中的组件不一定按比例,而是强调说明本公开的原理。此外,在附图中,相同的附图标记贯穿不同的视图指代对应的部分。
图1是示出根据本公开的一个或多个实施方案的具有停车位检测系统的车辆的示意图,所述车辆正经过停车位,寻找可用停车位;
图2示出由图1的DVS捕获或拍摄的示例性DVS帧;
图3示出将DVS帧变换为鸟瞰图图像的示意图;
图4示出示意图,其左侧示出当车辆经过停车位时在四个示例性时间t1、t2、t3、t4车辆的图片,而右侧示出由车辆110在时间t1、t2、t3、t4拍摄的DVS帧变换而成的四个鸟瞰图图像;
图5是示出可如何将两个鸟瞰图图像组合到一个输出图像中的示意图;
图6是示出可如何将鸟瞰图图像组合到一个输出图像中的示意图;
图7示出根据本公开的一个或多个实施方案的方法的流程图;
图8示出根据本公开的一个或多个实施方案的组合对齐的鸟瞰图图像的示例性过程;
图9示出根据本公开的一个或多个实施方案的将一个鸟瞰图图像组合到输出图像中的示例性过程。
具体实施方式
以下,将参考附图更详细地描述本公开的优选实施方案。
如本文使用,单数形式“一(a)”、“一(an)”和“所述(the)”意欲也包括复数形式,除非上下文明确另外指示。如本文使用,术语“包括(comprises)”、“包括(comprising)”、“包括(includes)”和/或“包括(including)”指明存在所述特征、整数、步骤、操作、元件和/或组件,但并不排除存在或者增添一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的群组。如本文使用,术语“和/或”以及符号“/”意指包括一个或多个相关联列出项目的任何和所有组合。另外,虽然本文中可以使用术语“第一”、“第二”等来描述各种元件、组件、步骤或计算,但是这些元件、组件、步骤或计算不应受这些术语限制,而是这些术语仅用于区分一个元件、组件、步骤或计算与另一个元件、组件、步骤或计算。例如,第一组件可以被称为第二组件,类似地,第一计算可以被称为第二计算;类似地,第一步骤可以被称为第二步骤;所有这些都不脱离本公开的范围。
如本文使用,术语“DVS像素”、“像素事件”、“事件”可以互换使用,并且可以指代由DVS捕获的光强度变化。DVS像素或像素事件或事件可由像素或事件数据表示,像素或事件数据通常采用形式[x,y,t,p],其中x和y代表x坐标和y坐标,t代表此事件的时间戳,并且p代表意味着光线强度是变得更亮还是更暗的事件的极性。术语DVS的“帧”或“DVS帧”是指DVS在一个时间跨度内拍摄的所有像素被集成到的图像或帧。术语DVS帧或鸟瞰图图像的“捕获时间”是指捕获或拍摄DVS像素的时间,例如DVS帧的时间跨度的中间时间,无论DVS像素实际上整合到DVS帧中时的时间如何。术语“昏暗光线条件”是指光线或环境光不足以使传统摄像头和超声波雷达的组合正确检测到停车位的条件,例如露天停车位和夜间有或没有月光时没有路灯的情况。
为了阐明在未决权利要求中的使用并在此向公众提供通知,除非由申请人作出相反的明确声明,否则代替此前或此后的任何其他隐含定义,短语“<A>、<B>、......、和<N>中的至少一个”或“<A>、<B>、......、<N>或它们的组合中的至少一个”被本申请人最广义地定义为意指选自包括A、B、……、和N的组的一个或多个元素,也就是说,包括任何一个元素单独或与其他元素(其还可组合地包括未列出的额外元素)中的一者或多者的组合的元素A、B、……、或N中的一者或多者的任何组合。
DVS仅捕获光线强度变化,然后创建异步DVS像素(像素事件)。与创建包括连续像素的完整图像或帧的传统摄像头不同,DVS仅创建异步DVS像素,这些像素在空间和时间上可能是离散的和不连续的,因此需要整合DVS在时间跨度内捕获的DVS像素(像素事件)以产生图像或帧。与常规摄像头相比,DVS具有的优点是:低延迟、无运动模糊、高动态范围和低功率消耗。
由于其高动态范围,DVS将产生具有相对低噪声的DVS像素,因此即使在昏暗光线条件下,也可以通过在一个时间跨度内组合DVS像素来产生更可靠的DVS帧或图像。然而,直接使用DVS来替代传统摄像头并不适用,因为DVS可能无法捕获足够的光强度变化,从而在昏暗光线条件下为可识别或可检测的帧或图像创建足够的DVS像素。
本公开提供了一种使用安装在车辆上的DVS在昏暗光线条件下进行停车位检测的方法和系统。在所述方法和系统中,将多个DVS帧变换为鸟瞰图图像。然后,根据在捕获鸟瞰图图像时车辆的相对位置和/或方位,将鸟瞰图图像平移和/或旋转以彼此对齐。然后将对齐的鸟瞰图图像组合到一个输出图像中。
通常,在拍摄DVS帧的同时,车辆正在移动,并且DVS拍摄的多个DVS帧至少部分地彼此重叠,并且每个DVS帧可能仅包含整个停车位的小区域或一小部分的图像。
申请人发现,由于昏暗光线条件,每个DVS帧可能不包含足够的DVS像素,因此对于停车位检测或识别来说可能不够清晰。此外,申请人还发现,由于DVS的高动态范围,尽管在低昏暗光线条件下,每个DVS帧仍包含相对较低水平的噪声。因此,由于多个DVS帧(对齐的鸟瞰图图像)中的DVS像素已组合到输出图像中,虽然每个DVS帧可能不包含足够的DVS像素,但是本公开的输出图像可以包含足够的DVS像素并且因此对于停车位检测或识别来说可能足够清晰。另外,尽管组合的输出图像的噪声水平可能由于多个DVS帧(对齐的鸟瞰图图像)的组合操作而成倍增加,但是由于每个DVS帧的低噪声水平,组合的输出图像的噪声水平仍可在可接受的范围内。
另外,通过使用本公开的方法,输出图像可以包含整个停车位的图像以进行停车位检测。
图1是示出根据本公开的一个或多个实施方案的具有停车位检测系统的车辆110的示意图。停车位检测系统包括安装在车辆上的DVS112。如图所示,存在沿着道路边缘130定位的多个连续的停车位120,并且车辆110在箭头A所示的方向上沿着停车位120移动,寻找可用的停车位。每个停车位由停车位线122限定。
图2示出图1的DVS112在昏暗光线条件下捕获或拍摄的示例性DVS帧。如本文使用,术语“由DVS捕获的DVS帧”或“由DVS拍摄的DVS帧”是指通过在时间跨度内整合由DVS捕获的DVS像素而产生的DVS帧。本公开的发明人发现,在昏暗光线条件下,DVS通常无法产生停车位线的完整描绘。例如,如图2所示,在DVS帧中,停车位线222中被圆圈232包围的部分可能比其他部分,例如被圆圈234、236、238包围的可能相对模糊的部分更清晰。通常,更靠近DVS的停车位线222可能相对清晰,而距离DVS较远的停车位线可能相对模糊。这是因为来自停车位线的漫反射被很好地漫散,并且更靠近DVS的停车位线的反射更容易被DVS捕获。也就是说,由于昏暗光线条件,DVS可能无法捕获足以用于停车位检测的DVS帧的足够光强度变化。
为了使用DVS帧进行停车位检测,首先将多个DVS帧变换为鸟瞰图图像,然后将鸟瞰图图像平移、旋转并组合到组合的输出图像。
图3示出将DVS帧变换为鸟瞰图图像的示意图。左图是由车辆110捕获的DVS帧,而右图340是从DVS帧变换的鸟瞰图图像。为了清楚起见,右图340中的停车位线用线来表示,其中实线表示相对清晰的停车位线,点线表示相对模糊的停车位线,且虚线表示不如实线所示的停车位线清晰但比点线所示的停车位线清晰的停车位线。如图所示,在DVS帧或鸟瞰图图像中仅示出了整个停车位的一部分。变换过程通过本领域已知的算法来执行,例如单应性变换,其使用内在因素,例如DVS的焦距和光学中心;以及外在因素,例如从传感器坐标到DVS的世界坐标的旋转和平移,以根据DVS帧产生鸟瞰图图像。为了清楚起见,省略了算法的详细描述。在本公开的一个或多个实施方案中,可以在变换之前对DVS帧应用例如中值滤波器的噪声滤波器,以减少白噪声。
图4示出示意图,其左侧示出当车辆110经过停车位120时在四个示例性时间t1、t2、t3、t4所述车辆的图片,而右侧示出由车辆110在时间t1、t2、t3、t4拍摄的DVS帧变换而成的四个鸟瞰图图像,即图像442、图像444、图像446和图像448。如图所示,车辆110在时间t1处于(R1,T1),在时间t2处于(R2,T2),在时间t3处于(R3,T3),以及在时间t4处于(R4,T4),其中R1、R2、R3和R4代表车辆110在时间t1、t2、t3、t4处的相应旋转位置,而T1、T2、T3、T4代表车辆110在时间t1、t2、t3、t4处的相应平移位置。在图4所示的示例中,车辆110线性移动而没有任何旋转,因此R1=R2=R3=R4。然而,本公开不限于此,并且车辆可以以平移运动和旋转运动的任何合适的组合来移动。虽然图4仅示出了车辆110在四个示例性时间t1、t2、t3、t4的四个图片以及四个对应的鸟瞰图图像,但是可以理解的是,这些图片仅仅是示例性的,并且在停车位检测的过程中,车辆110可以拍摄任何合适数量的DVS帧,并且可以通过变换DVS帧来产生对应数量的鸟瞰图图像。
图5是示出可如何将两个鸟瞰图图像442、444组合到一个输出图像中的示意图。如图4所示,与鸟瞰图图像442对应的DVS帧是在车辆110处于(R1,T1)时的时间t1拍摄的,而与鸟瞰图图像444对应的DVS帧是在车辆110处于(R2,T2)时的时间t2拍摄的。由于(R1,T1)不等于(R2,T2),鸟瞰图图像444中的停车位线需要平移和/或旋转,使得它们可以与鸟瞰图像442中的其对应停车位线对齐。如图5所示,鸟瞰图图像444中的停车位线需要在箭头D1所示的方向上平移,使得它们可以与鸟瞰图像442中的其对应停车位线对齐。然后,可以通过将鸟瞰图图像444中的每个DVS像素组合到鸟瞰图图像442中来组合两个对齐的图像。或者替代地,可通过将鸟瞰图图像444中的所有DVS像素和鸟瞰图图像442中的所有DVS像素组合到输出图像中来组合两个对齐的图像。如图所示,由于鸟瞰图图像442和鸟瞰图图像444在组合在一起之前已经对齐,因此鸟瞰图图像442和鸟瞰图图像444中相对清晰的区域可以组合,使得组合的输出图像中相对清晰的区域(以实线示出)与鸟瞰图图像442和鸟瞰图图像444中的相对清晰的区域相比被放大。如将理解,在图像444如箭头D1所示平移之后,图像442中的区域B1将与图像444中的区域B2对齐并重叠。本发明的发明人发现,虽然在人眼看来DVS帧中的DVS像素看似连续,但实际上,即使是在DVS帧中相对清晰的区域,DVS像素实际上也是不连续的,例如图2所示。因此,鸟瞰图图像中的DVS像素也是不连续的。另外,本公开的发明人还发现,对于对齐的鸟瞰图图像,例如对齐的图像442和图像444,对齐的图像442中的任何不连续的DVS像素都很有可能具有与对齐的图像444中的任何DVS像素不同的坐标位置。因此,通过将对齐的鸟瞰图图像组合在一起,无论是在与图像442和图像444的相对清晰区域相对应的区域还是在与图像442和图像444的相对模糊区域相对应的区域,组合后的输出图像在整个图像中都可以更加清晰。另外,只要将足够数量的对齐的鸟瞰图图像组合在一起,就可以从对齐的鸟瞰图图像中相对模糊的区域获得组合后的输出图像中相对清晰的结果。
在本公开的一个或多个实施方案中,DVS帧或鸟瞰图图像可以被可视化为灰度级,并且DVS帧或鸟瞰图图像中的每个像素可以具有多个可能的灰度级。通常,灰度级的每个像素可以有256个可能的灰度级,即从灰度级0到灰度级255,其中灰度级0为白色而灰度级255为黑色,并且灰度级1至254为白色与黑色之间的灰度级。然而,本公开不限于此,并且本公开的DVS帧或鸟瞰图图像可以是具有任何合适灰度级的灰度。在本公开的一个或多个实施方案中,背景颜色是灰度级0与灰度级255之间的中间灰度级。在本公开的一个或多个实施方案中,背景颜色可以是灰度级128。在本公开的一个或多个实施方案中,当DVS像素的[x,y,t,p]中的p表示光强度变得越来越暗时,DVS帧中的对应DVS像素的灰度级可以设置为灰度级255,并且当DVS像素的[x,y,t,p]中的p表示光强度变得越来越亮时,DVS帧中的对应DVS像素的灰度级可以设置为灰色级0。在此类实施方案中,DVS帧或鸟瞰图图像中的任何像素可以处于三种可能的灰度级之一,即灰度级0、灰度级128和灰度级255。在本公开的一些其他实施方案中,这三种可能的灰度级可以是除灰度级0、灰度级128和灰度级255以外的灰度级,只要这三种可能的灰度级易于相互区分即可。
图6是示出可如何将鸟瞰图图像组合到一个输出图像中的示意图。尽管图6中仅示出了四个鸟瞰图图像442、444、446、448,但是可以理解,可以存在任何合适数量的鸟瞰图图像。将鸟瞰图图像组合到一个输出图像中的过程可以类似于图5所示的过程。具体地,平移和/或旋转除了鸟瞰图图像442之外的每个鸟瞰图图像,使得其与鸟瞰图图像442对齐,然后将每个平移和/或旋转的鸟瞰图图像组合到鸟瞰图图像442中。如组合后的输出图像650所示,几乎整个停车位以实线示出,这意味着几乎整个停车位是相对清晰的。也就是说,组合后的输出图像650包含整个停车位的相对清晰的图像,因此可以用于停车位检测。
在本公开中,DVS拍摄的多个DVS帧至少部分地彼此重叠。在本公开的一个或多个实施方案中,任意两个连续的DVS帧或鸟瞰图图像的大部分可以彼此重叠,例如两个连续的DVS帧或鸟瞰图图像的至少95%、至少90%、至少85%、至少80%、至少75%或至少70%的区域可以彼此重叠。
如上所述,DVS帧或鸟瞰图图像中的DVS像素实际上可能是不连续的,即使在相对清晰的区域中也是如此。因此,在组合后的输出图像中,来自不同DVS帧或鸟瞰图图像的重叠区域的DVS像素可以彼此互补,导致重叠区域中的DVS像素更密集,从而得到更清晰或更可识别的输出图像。这适用于对齐的鸟瞰图图像的相对清晰区域和相对模糊区域两者。发明人发现,即使对于DVS帧或对齐的鸟瞰图图像的相对清晰的区域,由于昏暗光线条件,DVS像素密度也不高。因此,当两个相对清晰的区域组合在一起时,来自一个相对清晰的区域的DVS像素仍然很有可能与来自另一相对清晰的区域的DVS像素互补。对于两个相对模糊的区域组合在一起,来自一个相对模糊的区域的DVS像素更有可能与来自另一相对模糊的区域的DVS像素互补。因此,对于相对清晰的区域和相对模糊的区域两者而言,组合后的输出图像都将更加清晰。更重要的是,对于相对模糊的区域,只要将足够数量的重叠的相对模糊的区域组合在一起,组合后的输出图像就可以足够清晰。另一方面,如上所述,DVS具有高动态范围的技术优势,这导致即使在昏暗光线条件下,DVS帧或鸟瞰图图像的噪声水平也较低。因此,即使将多个鸟瞰图图像组合在一起,组合后的输出图像仍然具有相对较低的噪声水平。
在本公开的一个或多个实施方案中,DVS110以大约100Hz的频率操作。也就是说,可以以大约100Hz的频率生成DVS110的DVS帧。本公开不限于此,并且本公开的DVS可以以任何合适的频率操作。
在图6所示的实施方案中,对齐的鸟瞰图图像442、444、446、448中的每一个作为整体组合到输出图像中。然而,本公开不限于此。在本公开的一个或多个实施方案中,对于一些对齐的鸟瞰图图像,仅将对齐的鸟瞰图图像的一部分,例如图像中相对模糊的区域组合到输出图像中。例如,在图6所示的示例中,每个对齐的鸟瞰图图像的上部部分可能相对模糊。可能有利的是,仅将一些对齐的鸟瞰图图像的上部部分组合到输出图像中,以获得整体清晰的输出图像。
如本文使用,术语“时间间隔”是指可被变换为鸟瞰图图像并组合到输出图像中的两个连续DVS帧之间的时间间隔或时间段。在本公开的一个或多个实施方案中,每个DVS帧可以被变换为鸟瞰图图像,然后组合到输出图像中。也就是说,可被变换为鸟瞰图图像并组合到输出图像中的两个连续DVS帧之间可以不存在时间间隔。在本公开的一些实施方案中,仅一些DVS帧可以被变换为鸟瞰图图像,然后组合到输出图像中。在本公开的一些实施方案中,可被变换为鸟瞰图图像并组合到输出图像中的两个连续DVS帧之间可存在时间间隔,并且可以基于输出图像中组合区中的DVS像素的数量或密度来调整所述时间间隔。在本公开的一些实施方案中,当组合区中的DVS像素的数量、密度或最大密度超过第一阈值时,可以增加时间间隔,并且当组合区中的DVS像素的数量、密度或最大密度小于第二阈值时,可以减小时间间隔,第二阈值小于第一阈值。在本公开的一个或多个实施方案中,第一阈值可以是大约70%或80%,并且第二阈值可以是大约30%或40%。利用调整的时间间隔,整个组合后的输出图像可以适当地进行组合,并且对于停车位检测来说可能足够清晰,同时仍然具有相对较低的噪声水平。
如本文使用,术语“组合区”是指输出图像中已完成组合操作的区。例如,当将鸟瞰图图像446组合到输出图像中650时,虚线662、664之间的区652(对应于鸟瞰图图像446的边界)可以是当前图像(鸟瞰图图像446)所组合到的“组合区”。虚线664右侧的区654可以是“组合区”,而虚线662左侧的区可以是“待组合区”。
图7示出根据本公开的一个或多个实施方案的方法的流程图。过程从S01开始,然后进入S02。在S02,生成一个或多个DVS帧,每个DVS帧是通过整合由DVS在时间跨度内捕获的DVS像素而生成的。然后过程进入S03,将DVS帧变换为鸟瞰图图像。然后过程进入S04,将鸟瞰图图像彼此对齐。如果当前鸟瞰图图像为第一图像,则可以省略对齐步骤。然后过程进入S05,将对齐的鸟瞰图图像组合到一个输出图像中。然后过程进入S06,判定是否从输出图像中检测到可用停车位。如果检测到可用停车位,则过程结束并且可以进入另一过程,例如APA(自动停车辅助)过程。如果没有检测到可用停车位,则过程返回到步骤S02,生成另外的一个或多个DVS帧,每个DVS帧是通过整合由DVS在时间跨度内捕获的DVS像素而生成的。
在本公开的一个或多个实施方案中,本公开的方法还包括以下步骤:基于输出图像中的组合区,例如输出图像的组合区中DVS像素的最大密度,调整可被变换为鸟瞰图图像和/或组合到输出图像中的连续DVS帧之间的时间间隔。在本公开的一些实施方案中,当组合区中的DVS像素的DVS像素的最大密度超过第一阈值时,可以增加时间间隔,并且当组合区中的DVS像素的最大密度小于第二阈值时,可以减小时间间隔,第二阈值小于第一阈值。
图8示出根据本公开的一个或多个实施方案的图7的步骤S05的示例性过程。过程开始于S51,然后进行到S52,在S52,如果输出图像尚不存在,则通过将输出图像中的所有像素设置为背景颜色(灰度级)来初始化输出图像。或者替代地,如果输出图像已经存在,则可以根据需要扩展输出图像,以使其能够容纳要组合的新的鸟瞰图图像。然后过程进入S53,将一个鸟瞰图图像组合到输出图像中。然后过程进入S54,判定所有鸟瞰图图像是否已被组合到输出图像中。如果判定所有多个连续帧已被组合到输出图像中,则过程进入S55。否则,过程返回至S53,将下一个鸟瞰图图像组合到输出图像中。
尽管图8示出了图7的步骤S05的示例性过程,但是本公开不限于此。例如,在一些其他实施方案中,可以将鸟瞰图图像中的一个,例如第一鸟瞰图图像设置为输出图像,并且可以将其他鸟瞰图图像中的每个鸟瞰图图像组合到所述输出图像中。在本发明的一个或多个实施方案中,步骤S05仅将一个对齐的鸟瞰图图像组合到输出图像中,因此可以省略图8中的步骤S54。
图9示出根据本公开的一个或多个实施方案的图8的步骤S53的示例性过程。过程从S531开始,然后进入S532,在S532,将来自当前鸟瞰图图像的一个DVS像素组合到输出图像中。然后过程进入S533,判定当前鸟瞰图图像中的所有DVS像素是否都已组合到输出图像中。如果判定当前鸟瞰图图像中的所有DVS像素都已组合到输出图像中,则过程结束。否则,过程返回至S532,将当前鸟瞰图图像中的下一个DVS像素组合到输出图像中。
尽管图9示出了图8的步骤S53的示例性过程,但是本公开不限于此。在本公开的一个或多个实施方案中,将一个鸟瞰图图像组合到输出图像中包括将至少一个对齐的鸟瞰图图像的一部分组合到输出图像中。
根据本公开的一些实施方案,本公开可以如下实现。
项目1:一种用于停车位检测的方法,其包括:
生成多个DVS帧,所述DVS帧中的每一个是通过整合从安装在车辆上的DVS接收到的DVS像素而生成的;
将所述DVS帧中的至少一些变换为鸟瞰图图像,以形成多个鸟瞰图图像;
根据拍摄所述鸟瞰图图像时所述车辆的相对位置和/或方位,将所述多个鸟瞰图图像对齐,以形成多个对齐的鸟瞰图图像;
将所述多个对齐的鸟瞰图图像组合到一个输出图像中。
项目2:如项目1所述的方法,还包括检测所述输出图像是否包含可用停车位。
项目3:如项目1至2中任一项所述的方法,其中所述DVS帧中的至少一些包含停车位的至少一部分的图像。
项目4:如项目1至3中任一项所述的方法,其中所述输出图像包含整个停车位的图像。
项目5:如项目1至4中任一项所述的方法,其中对齐所述鸟瞰图图像包括平移和/或旋转所述鸟瞰图图像。
项目6:如项目1至5中任一项所述的方法,其中将所述对齐的鸟瞰图图像组合到一个输出图像中包括将所述对齐的鸟瞰图图像中的每一个逐一地组合到所述输出图像中。
项目7:如项目1至6中任一项所述的方法,其中将对齐的鸟瞰图图像组合到所述输出图像中包括将所述对齐的鸟瞰图图像中的所述DVS像素中的每一个组合到所述输出图像中。
项目8:如项目1至7中任一项所述的方法,还包括将所述输出图像中的每个像素初始化为背景色。
项目9:如项目1至8中任一项所述的方法,其中将DVS像素组合到所述输出图像中包括将所述DVS像素的灰度级复制到所述输出图像中的对应像素。
项目10:如项目1至9中任一项所述的方法,还包括基于所述输出图像的至少一部分中的DVS像素的数量或密度来调整待组合的所述对齐的鸟瞰图图像之间的时间间隔。
项目11:如项目1至10中任一项所述的方法,其中基于所述输出图像中的组合区中的DVS像素的数量或密度来调整所述时间间隔。
项目12:如项目1至11中任一项所述的方法,其中将所述多个对齐的鸟瞰图图像组合到一个输出图像中包括将至少一个对齐的鸟瞰图图像的一部分组合到所述输出图像中。
项目13:如项目1至12中任一项所述的方法,其中所述多个鸟瞰图图像至少部分地彼此重叠。
项目14:一种停车位检测系统,其包括:
安装在车辆上的DVS,其被配置成捕获DVS像素;
处理器,其被配置成执行如项目1至13中任一项所述的方法。
项目15:一种车辆,其包括如项目14所述的停车位检测系统。
项目16:一种存储计算机程序的计算机可读存储介质,所述计算机程序可由处理器执行以执行如项目1至13中任一项所述的方法。
本公开的各方面可采用以下形式:完全硬件实施方案、完全软件实施方案(包括固件、常驻软件、微代码等)或组合了软件方面与硬件方面的实施方案,所述各实施方案在本文中一般都可称为“电路”、“模块”或“系统”。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括其上具有用于使处理器执行本公开的各方面的计算机可读程序指令的一个(或多个)计算机可读存储介质。
计算机可读存储介质可以是可以保持并存储由指令执行装置使用的指令的有形装置。计算机可读存储介质可以是,例如,但不限于,电子存储装置、磁存储装置、光存储装置、电磁存储装置、半导体存储装置或前述的任何合适的组合。计算机可读存储介质的更具体示例的非穷举列表包括以下内容:便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、静态随机存取存储器(SRAM)、便携式光盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码装置(例如穿孔卡或凹槽中的其上记录有指令的凸起结构)以及前述内容的任何适当组合。如本文所使用,计算机可读存储介质不被解释为是瞬态信号本身,例如无线电波或其他自由传播的电磁波、通过波导或其他传输介质传播的电磁波(例如,通过光纤电缆的光脉冲),或者通过导线传输的电信号。
这些计算机可读程序指令可以被提供给通用计算机、专用计算机或其他可编程数据处理设备的处理器以产生机器,使得经由计算机或其他可编程数据处理设备的处理器执行的指令创建用于实现流程图和/或一个或多个框图框中指定的功能/动作的手段。这些计算机可读程序指令也可以存储在计算机可读存储介质中,所述计算机可读存储介质可以指导计算机、可编程数据处理设备和/或其他装置以特定方式起作用,使得其中存储有指令的计算机可读存储介质包括制品,所述制品包括实现流程图和/或一个或多个框图框中指定的功能/动作的各方面的指令。
附图中的流程图和框图示出根据本公开的各种实施方案的系统、方法和计算机程序产品的可能实现方式的体系结构、功能性和操作。在这方面,流程图或框图中的每个框可以表示指令的模块、段或部分,所述指令的模块、段或部分包括用于实现指定逻辑功能的一个或多个可执行指令。在一些替代实现方式中,框中标注的功能可以以不同于图中标注的顺序发生。例如,实际上取决于所涉及的功能,可以基本上同时执行连续示出的两个框,或者有时可以以相反的顺序执行所述框。还应注意到,框图和/或流程图图示的每个框,以及框图和/或流程图图示中的框的组合可由执行指定功能或动作或执行专用硬件和计算机指令的组合的基于专用硬件的系统来实现。
已经以一般术语描述了系统和方法,以帮助理解本公开的细节。在一些情况下,未具体示出或详细描述众所周知的结构、材料和/或操作以避免模糊本公开的各方面。在其他情况下,给出了具体细节以便提供对本公开的透彻理解。相关领域的技术人员将认识到,本公开可以以其他具体形式来实施,例如以适应特定的系统或设备或情况或材料或组件,而不背离其精神或基本特征。因此,本文的公开和描述旨在是说明性的,而不是限制本公开的范围。因此,除根据所附权利要求及其等同物之外,本公开不受限制。

Claims (16)

1.一种用于停车位检测的方法,其包括:
生成多个DVS帧,所述DVS帧中的每一个是通过整合从安装在车辆上的DVS接收到的DVS像素而生成的;
将所述DVS帧中的至少一些变换为鸟瞰图图像,以形成多个鸟瞰图图像;
根据拍摄所述鸟瞰图图像时所述车辆的相对位置和/或方位,将所述多个鸟瞰图图像对齐,以形成多个对齐的鸟瞰图图像;
将所述多个对齐的鸟瞰图图像组合到一个输出图像中。
2.如权利要求1所述的方法,还包括检测所述输出图像是否包含可用停车位。
3.如权利要求1所述的方法,其中所述DVS帧中的至少一些包含停车位的至少一部分的图像。
4.如权利要求3所述的方法,其中所述输出图像包含整个停车位的图像。
5.如权利要求1所述的方法,其中对齐所述鸟瞰图图像包括平移和/或旋转所述鸟瞰图图像。
6.如权利要求1所述的方法,其中将所述对齐的鸟瞰图图像组合到一个输出图像中包括将所述对齐的鸟瞰图图像中的每一个逐一地组合到所述输出图像中。
7.如权利要求6所述的方法,其中将对齐的鸟瞰图图像组合到所述输出图像中包括将所述对齐的鸟瞰图图像中的所述DVS像素中的每一个组合到所述输出图像中。
8.如权利要求7所述的方法,还包括将所述输出图像中的每个像素初始化为背景色。
9.如权利要求7所述的方法,其中将DVS像素组合到所述输出图像中包括将所述DVS像素的灰度级复制到所述输出图像中的对应像素。
10.如前述权利要求中任一项所述的方法,还包括基于所述输出图像的至少一部分中的DVS像素的数量或密度来调整待组合的所述对齐的鸟瞰图图像之间的时间间隔。
11.如权利要求10所述的方法,其中基于所述输出图像中的组合区中的DVS像素的数量或密度来调整所述时间间隔。
12.如前述权利要求中任一项所述的方法,其中将所述多个对齐的鸟瞰图图像组合到一个输出图像中包括将至少一个对齐的鸟瞰图图像的一部分组合到所述输出图像中。
13.如前述权利要求中任一项所述的方法,其中所述多个鸟瞰图图像至少部分地彼此重叠。
14.一种停车位检测系统,其包括:
安装在车辆上的DVS,其被配置成捕获DVS像素;
处理器,其被配置成执行如前述权利要求中任一项所述的方法。
15.一种车辆,其包括如权利要求14所述的停车位检测系统。
16.一种存储计算机程序的计算机可读存储介质,所述计算机程序可由处理器执行以执行如权利要求1至13中任一项所述的方法。
CN202180100072.1A 2021-07-01 2021-07-01 用于停车位检测的方法和系统 Pending CN117677989A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2021/104032 WO2023272685A1 (en) 2021-07-01 2021-07-01 Method and system for parking slot detection

Publications (1)

Publication Number Publication Date
CN117677989A true CN117677989A (zh) 2024-03-08

Family

ID=84692196

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180100072.1A Pending CN117677989A (zh) 2021-07-01 2021-07-01 用于停车位检测的方法和系统

Country Status (5)

Country Link
US (1) US20240320989A1 (zh)
EP (1) EP4364085A1 (zh)
KR (1) KR20240027600A (zh)
CN (1) CN117677989A (zh)
WO (1) WO2023272685A1 (zh)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201100279A (en) * 2009-06-23 2011-01-01 Automotive Res & Testing Ct Composite-image-type parking auxiliary system
US10356337B2 (en) * 2014-10-07 2019-07-16 Magna Electronics Inc. Vehicle vision system with gray level transition sensitive pixels
CN109697860A (zh) * 2017-10-20 2019-04-30 上海欧菲智能车联科技有限公司 车位检测和跟踪系统及方法及车辆
EP3624001B1 (en) * 2018-09-13 2024-05-01 Volvo Car Corporation Methods and systems for parking line marker detection and pairing and parking spot detection and classification
CN110971792B (zh) * 2018-09-29 2021-08-13 华为技术有限公司 一种动态视觉传感器

Also Published As

Publication number Publication date
WO2023272685A1 (en) 2023-01-05
US20240320989A1 (en) 2024-09-26
EP4364085A1 (en) 2024-05-08
KR20240027600A (ko) 2024-03-04

Similar Documents

Publication Publication Date Title
CA2680646C (en) Moving object noise elimination processing device and moving object noise elimination processing program
JP4258539B2 (ja) 複数画角カメラ
US20110080494A1 (en) Imaging apparatus detecting foreign object adhering to lens
US11682107B2 (en) Depth of field adjustment in images based on time of flight depth maps
US8873881B2 (en) Dust detection system and digital camera
US8823863B2 (en) Image capturing apparatus and control method therefor
KR102229152B1 (ko) 이미지 촬영 장치
CN112272267A (zh) 拍摄控制方法、拍摄控制装置及电子设备
JP2009009072A (ja) カメラの動的フォーカスゾーン
JP2004289786A (ja) 撮像装置
US10565712B2 (en) Image processing apparatus and method for controlling the same
KR101615381B1 (ko) 이미지 획득 방법 및 디지털 카메라 시스템
US20200177814A1 (en) Image capturing apparatus and method of controlling image capturing apparatus
CN117677989A (zh) 用于停车位检测的方法和系统
JP2008042227A (ja) 撮像装置
US9854150B2 (en) Auto-focus control in a camera to prevent oscillation
JP2013214938A (ja) 撮影装置及び撮影装置の画像処理方法
JP5230362B2 (ja) 広ダイナミックレンジ撮像装置
KR101946946B1 (ko) 이미지 처리 장치 및 이의 이미지 처리 방법
JP2011135379A (ja) 撮像装置、撮像方法及びプログラム
JP2004072415A (ja) 侵入物検出装置
JP3263570B2 (ja) 自動合焦装置
US11978214B2 (en) Method and apparatus for detecting edges in active stereo images
US20240121511A1 (en) Lens positioning for secondary camera in multi-camera system
KR101531195B1 (ko) 카메라 영상의 블루밍 제거장치 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination