CN113834636A - 用于自动驾驶车辆的脏单目摄像机检测方法 - Google Patents

用于自动驾驶车辆的脏单目摄像机检测方法 Download PDF

Info

Publication number
CN113834636A
CN113834636A CN202011432793.6A CN202011432793A CN113834636A CN 113834636 A CN113834636 A CN 113834636A CN 202011432793 A CN202011432793 A CN 202011432793A CN 113834636 A CN113834636 A CN 113834636A
Authority
CN
China
Prior art keywords
camera
dirty
cameras
image
sample image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011432793.6A
Other languages
English (en)
Other versions
CN113834636B (zh
Inventor
朱帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN113834636A publication Critical patent/CN113834636A/zh
Application granted granted Critical
Publication of CN113834636B publication Critical patent/CN113834636B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/01—Arrangements or apparatus for facilitating the optical investigation
    • G01N21/15—Preventing contamination of the components of the optical system or obstruction of the light path
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00—Testing of optical apparatus; Testing structures by optical methods not otherwise provided for
    • G01M11/02—Testing optical properties
    • G01M11/0242—Testing optical properties by measuring geometrical properties or aberrations
    • G01M11/0257—Testing optical properties by measuring geometrical properties or aberrations by analyzing the image formed by the object to be tested
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60S—SERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00—Cleaning of vehicles
    • B60S1/02—Cleaning windscreens, windows or optical devices
    • B60S1/56—Cleaning windscreens, windows or optical devices specially adapted for cleaning other parts or devices than front windows or windscreens
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00—Testing of optical apparatus; Testing structures by optical methods not otherwise provided for
    • G01M11/02—Testing optical properties
    • G01M11/0242—Testing optical properties by measuring geometrical properties or aberrations
    • G01M11/0278—Detecting defects of the object to be tested, e.g. scratches or dust
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/60—Memory management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/01—Arrangements or apparatus for facilitating the optical investigation
    • G01N21/15—Preventing contamination of the components of the optical system or obstruction of the light path
    • G01N2021/155—Monitoring cleanness of window, lens, or other parts
    • G01N2021/157—Monitoring by optical means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30168—Image quality inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Geometry (AREA)
  • Biomedical Technology (AREA)
  • Mechanical Engineering (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)

Abstract

公开了一种用于在包括n个摄像机的单目摄像机中识别脏的摄像机的系统和方法。针对一个或多个周期中的每个周期，n个摄像机中的每个摄像机的脏计数器变量设置为0。针对n个摄像机中的每个摄像机，从摄像机采集图像，并且确定该图像的例如亮度和/或对比度的图像度量。如果图像度量比单目摄像机中的任何其它n‑1个摄像机的图像度量大10％或小10％，那么该摄像机就被确定为脏的，然后采取矫正动作，诸如向车辆的乘员发送警报或启动清洁操作。如果对于已经清洗的摄像机脏状态在阈值时间段之内(即，近期)持续，则向车辆的操作员发送警报。

Description

用于自动驾驶车辆的脏单目摄像机检测方法
技术领域
本公开的实施方式总体设计操作自动驾驶车辆(ADV)。更具体地，本公开的实施方式涉及检测自动驾驶车辆中的脏摄像机传感器。
背景技术
以自动驾驶模式运行(例如，无人驾驶)的车辆可将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时，车辆可使用车载传感器导航到各个位置，从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
运动规划和控制是自动驾驶中的关键操作。运动规划非常依赖于在围绕自动驾驶模式车辆的环境中可靠检测障碍物。在自动驾驶模式中，障碍物的精确检测依赖于车辆采用的传感器的可靠性和精确度。这种传感器会受到包括灰尘、污垢、排气管废气、烟雾、雨水、泥土、雪和其它可以减少传感器可靠性的污染物的影响。例如，从摄像机传感器获得的图像可以由于道路情况变得模糊或不清楚，从而减少从这种传感器获得的图像的精确度。在强光情况下，脏摄像机可以由于摄像机的镜头上的污垢折射的光而产生亮度过高的图像。在昏暗或黑暗的光线中，因为微弱的光线可能在摄像机传感器处被遮挡，所以脏摄像机可以产生亮度过低的图像。
现有的立体摄像机检测方法基于被设计成看到非常相似的图像的摄像机。对于立体摄像机，可以对比来自每个摄像机的图像，以确定出立体摄像机中每个摄像机的图像之间是否在亮度和/或对比度上存在显著差异。在具有例如四个摄像机的单目摄像机中，每个摄像机具有不同的焦距，不能直接对比四个摄像机的图像以确定出单目摄像机中的特定摄像机是否是脏的，这至少是因为单目摄像机中的每个摄像机与单目摄像机中的其它摄像机具有不同的焦距。
发明内容
本公开的实施方式提供了一种在n个摄像机C1…Cn中检测脏的摄像机的计算机实施的方法、非暂时性机器可读介质、数据处理系统以及计算机程序产品。
一种在n个摄像机C1…Cn中检测脏的摄像机的计算机实施方法，方法，包括：针对一个或多个周期中的每个周期：从摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；确定摄像机Ci的样本图像的图像度量Mi；响应于摄像机Ci的样本图像的图像度量Mi与摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，递增摄像机Ci的脏计数器；以及响应于n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定摄像机是脏的并采取矫正动作。
一种其中存储有指令的非暂时性机器可读介质，在由处理器执行指令时使得处理器执行在n个摄像机C1…Cn中检测脏的摄像机的操作，该操作包括：针对一个或多个周期中的每个周期：从摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；确定摄像机Ci的样本图像的图像度量Mi；响应于摄像机Ci的样本图像的图像度量Mi与摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，递增摄像机Ci的脏计数器；以及响应于n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定摄像机是脏的并采取矫正动作。
一种数据处理系统，包括：处理器；以及存储器，存储器联接至处理器以存储指令，指令在由处理器执行时使得处理器执行在多个n个摄像机C1…Cn中检测脏的摄像机的操作，该操作包括：针对一个或多个周期中的每个周期：从摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；确定摄像机Ci的样本图像的图像度量Mi；响应于摄像机Ci的样本图像的图像度量Mi与摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，递增摄像机Ci的脏计数器；以及响应于n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定摄像机是脏的并采取矫正动作。
一种计算机程序产品，包括计算机程序，在由处理器执行计算机程序时实现在n个摄像机C1…Cn中检测脏的摄像机的操作，所述操作包括：在由处理器执行指令时使得处理器执行在n个摄像机C1…Cn中检测脏的摄像机的操作，该操作包括：针对一个或多个周期中的每个周期：从摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；确定摄像机Ci的样本图像的图像度量Mi；响应于摄像机Ci的样本图像的图像度量Mi与摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，递增摄像机Ci的脏计数器；以及响应于n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定摄像机是脏的并采取矫正动作。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出，附图中的相同参考标记指示相似元件。
图1是示出根据一个实施方式的网络化系统的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3A和图3B是示出根据一个实施方式的自动驾驶车辆使用的自动驾驶系统的示例的框图。
图4是示出根据一个实施方式的自动驾驶系统的架构的框图。
图5A示出根据一个实施方式的自动驾驶车辆中的多摄像机单目传感器系统中的单个摄像机(例如摄像机501)的示例配置，该多摄像机单目传感器系统中的每个摄像机具有不同焦距。
图5B示出在多车道道路上的自动驾驶车辆(ADV)。
图6A和图6B示出根据一个实施方式的用于确定出在多摄像机单目传感器系统中具有不同焦距的一个或多个摄像机是否需要清洁的示例性方法。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面，附图将示出所述各种实施方式。下列描述和附图是本公开的说明，而不应当解释为对本公开进行限制。描述了许多特定细节以提供对本公开的各种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的或常规的细节，以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指同一实施方式。
根据一些实施方式，用于在包括n个摄像机的单目摄像机中识别脏摄像机的方法包括：对于一个或多个周期中的每个周期，将n个摄像机中的每个摄像机的dirty_count变量设置为0。在实施方式中，存在四个(4)摄像机。在实施方式中，对于每个摄像机Ci∈C1…Cn-1，焦距F满足关系F(Ci)>F(Ci+1)，其中i＝1…n-1。对于n个摄像机中的每个摄像机，从摄像机采集图像，并且确定图像的例如亮度或对比度的图像度量。如果图像度量比其它n-1个摄像机中的任何一个摄像机的图像度量大某一百分比或小某一百分比(例如大10％或小10％)，那么就确定该摄像机是脏的，并且采取矫正动作，诸如向车辆的乘员发送警报或者启动清洗操作。如果对于已经清洗的摄像机仍然处于脏状态，并且脏状态持续超过阈值时间段(即，持续超过1到3分钟)，则向车辆的操作员发送警报。换言之，特定摄像机和任何其它摄像机之间的光学属性(例如，亮度、对比度)的差异大于预定差异阈值，该特定摄像机可以被认为是脏的。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1，网络配置100包括可通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆ADV 101。尽管示出一个ADV，但多个ADV可通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络，例如，有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集，诸如，网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或位置服务器等。
ADV是指可配置成处于自动驾驶模式下的车辆，在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种ADV可包括传感器系统，所述传感器系统具有配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。ADV 101可在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中，ADV 101包括，但不限于，自动驾驶系统(ADS)110、车辆控制系统111、无线通信系统112、用户接口系统113、以及传感器系统115。ADV 101还可包括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可由车辆控制系统111和/或ADS 110使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可经由互连件、总线、网络或其组合通信地联接到彼此。例如，部件110至115可经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议，但也用于许多其它环境。
现在参考图2，在一个实施方式中，传感器系统115包括但不限于一个或多个摄像机211、全球定位系统(GPS)单元212、惯性测量单元(IMU)213、雷达单元214以及光探测和测距(LIDAR)单元215。GPS单元212可包括收发器，所述收发器可操作以提供关于ADV的位置的信息。IMU单元213可基于惯性加速度来感测ADV的位置和定向变化。雷达单元214可表示利用无线电信号来感测ADV的本地环境内的对象的系统。在一些实施方式中，除感测对象之外，雷达单元214可另外感测对象的速度和/或前进方向。LIDAR单元215可使用激光来感测ADV所处环境中的对象。除其它系统部件之外，LIDAR单元215还可包括一个或多个激光源、激光扫描器以及一个或多个检测器。
摄像机211可包括用来采集ADV周围环境的图像的一个或多个装置。摄像机211可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的，例如，通过将摄像机安装在旋转和/或倾斜平台上。摄像机211可以是包括n个摄像机的单目摄像机，所述n个摄像机具有相同或相似的方向与不同的焦距，以使得来自具有第一焦距的第一摄像机的第一图像基本上包含在来自具有第二焦距的第二摄像机的第二图像内，其中第二焦距比第一焦距长。组成单目摄像机的多个摄像机C1…Cn各自具有焦距F，以使得F(C1)＞F(C2)...＞F(Cn-1)＞F(Cn)。
摄像机C1…Cn可以分别具有诸如20Hz、50Hz等的帧采集率。在诸如10Hz的周期性周期率下，可以存储由每个摄像机采集的最新图像，从而对于该周期创建对应于摄像机C1…Cn的、图像的样本图像集合I1…In。对于在同一图像集合中的每个图像，可以计算诸如亮度或对比度的图像度量M，从而生成对应于摄像机C1…Cn的度量集合M1…Mn。当正确地维护(例如，周期性地清洁)摄像机C1…Cn时，图像的样本集合将具有性质M1＞M2＞…Mn-1＞Mn或M1＜M2＜…Mn-1＜Mn。关系符号“>”和“<”不是绝对的。在前述关系中，如果Mi不小于Mi+1的90％，则认为Mi>Mi+1为真。类似地，如果Mi不大于Mi+1的110％，则认为Mi<Mi+1为真。这为减少误报提供了显著的缓冲。上述性质可以用于确定组成单目摄像机的一个或多个摄像机是否是脏的。
传感器系统115还可包括其它传感器，诸如声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如，麦克风)。音频传感器可配置成从ADV周围的环境中采集声音。转向传感器可配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下，油门传感器和制动传感器可集成为集成式油门/制动传感器。
在一个实施方式中，车辆控制系统111包括但不限于转向单元201、油门单元202(也称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意，如图2所示的部件可以以硬件、软件或其组合实施。
返回参考图1，无线通信系统112允许ADV 101与诸如装置、传感器、其它车辆等外部系统之间的通信。例如，无线通信系统112可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通信，诸如，通过网络102与服务器103至104通信。无线通信系统112可使用任何蜂窝通信网络或无线局域网(WLAN)，例如，使用WiFi，以与另一部件或系统通信。无线通信系统112可例如使用红外链路、蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口系统113可以是在车辆101内实施的外围装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
ADV 101的功能中的一些或全部可由ADS 110控制或管理，尤其当在自动驾驶模式下操作时。ADS 110包括必要的硬件(例如，处理器、存储器、存储装置)和软件(例如，操作系统、规划和路线安排程序)，以从传感器系统115、控制系统111、无线通信系统112和/或用户接口系统113接收信息，处理所接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划和控制信息来驾驶车辆101。可替代地，ADS 110可与车辆控制系统111集成在一起。
例如，作为乘客的用户可例如经由用户接口来指定行程的起始位置和目的地。ADS110获得行程相关数据。例如，ADS 110可从MPOI服务器中获得位置和路线数据，所述MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI。可替代地，此类位置和MPOI信息可本地高速缓存在ADS 110的永久性存储装置中。
当ADV 101沿着路线移动时，ADS 110也可从交通信息系统或服务器(TIS)获得实时交通信息。应注意，服务器103至104可由第三方实体进行操作。可替代地，服务器103至104的功能可与ADS 110集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器系统115检测或感测的实时本地环境数据(例如，障碍物、对象、附近车辆)，ADS 110可规划最佳路线并且根据所规划的路线例如经由控制系统111来驾驶车辆101，以安全且高效到达指定目的地。
图3A和图3B是示出根据一个实施方式的ADV使用的自动驾驶系统的示例的框图。系统300可实施为图1的ADV 101的一部分，包括但不限于ADS 110、控制系统111和传感器系统115。参考图3A和图3B，ADS 110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306、路线安排模块307、以及摄像机监控模块308。
模块301至308中的一些或全部可以以软件、硬件或其组合实施。例如，这些模块可安装在永久性存储装置352中、加载到存储器351中，并且由一个或多个处理器(未示出)执行。应注意，这些模块中的一些或全部可通信地联接到图2的车辆控制系统111的一些或全部模块或者与它们集成在一起。模块301至308中的一些可一起集成为集成模块。例如，摄像机监控模块308可作为感知模块302的一部分实现。
定位模块301确定ADV 300的当前位置(例如，利用GPS单元212)以及管理与用户的行程或路线相关的任何数据。定位模块301(又称作为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可例如经由用户接口登录并且指定行程的起始位置和目的地。定位模块301与ADV 300的诸如地图与路线数据311的其它部件通信，以获得行程相关数据。例如，定位模块301可从位置服务器和地图与POI(MPOI)服务器获得位置和路线数据。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI，从而可作为地图与路线数据311的一部分高速缓存。当ADV 300沿着路线移动时，定位模块301也可从交通信息系统或服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和由定位模块301获得的定位信息，感知模块302确定对周围环境的感知。感知信息可表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可包括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如，停止标志、让行标志)等。车道配置包括描述一个或多个车道的信息，诸如，例如车道的形状(例如，直线或弯曲)、车道的宽度、道路中的车道数量、单向或双向车道、合并或分开车道、出口车道等。
感知模块302可包括计算机视觉系统或计算机视觉系统的功能，以处理并分析由一个或多个摄像机采集的图像，从而识别ADV环境中的对象和/或特征。所述对象可包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉系统可使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中，计算机视觉系统可绘制环境地图，跟踪对象，以及估算对象的速度等。感知模块302也可基于由诸如雷达和/或LIDAR的其它传感器提供的其它传感器数据来检测对象。
感知模块302可以包含摄像机监控模块308，摄像机监控模块308确定例如摄像机211的摄像机是否变脏，从而可能需要清洗摄像机。在实施方式中，摄像机监控模块308可以是单独的模块。如上所述，参考图2，摄像机211可以是包括n个摄像机的单目摄像机，多个n个摄像机具有相同的方向与不同的焦距，使得来自具有第一焦距的第一摄像机的第一图像基本上包含在来自具有第二焦距的第二摄像机的第二图像内，其中第二焦距比第一焦距长。组成单目摄像机的多个摄像机C1…Cn各自具有焦距F，从而使得F(C1)＞F(C2)...＞F(Cn-1)＞F(Cn)。
摄像机C1…Cn可以分别具有诸如20Hz、50Hz等的帧采集率。在诸如10Hz的周期性周期率下，可存储每个摄像机采集的最新图像，从而对于该周期创建对应于摄像机C1…Cn的、图像的样本图像集合I1…In。对于在同一图像集合中的每个图像，可以计算诸如亮度或对比度的图像度量M，从而生成对应于样本图像集合摄像机C1…Cn的样本图像度量集合M1…Mn。当正确地维护(例如，根据需要周期性地清洁)摄像机C1…Cn时，图像的样本集合I1…In将具有性质M1＞M2＞…Mn-1＞Mn或者M1＜M2＜…Mn-1＜Mn。关系符号“>”和“<”不是绝对的。在前述关系中，如果Mi不小于Mi+1的90％，则认为Mi>Mi+1为真。类似地，如果Mi不大于Mi+1的110％，则认为Mi<Mi+1为真。这为减少误报提供了显著的缓冲。如果组成单目摄像机的一个或多个摄像机不满足上述性质，那么组成单目摄像机的一个或多个摄像机是脏的。以下参考图6A和图6B描述用于确定组成单目摄像机的一个或多个摄像机是否是脏的方法。
针对每个对象，预测模块303预测对象在这种情况下将如何表现。预测是基于感知数据执行的，该感知数据在考虑一组地图/路线信息311和交通规则312的时间点感知驾驶环境。例如，如果对象为相反方向上的车辆且当前驾驶环境包括十字路口，则预测模块303将预测车辆是否可能会笔直向前移动或转弯。如果感知数据表明十字路口没有交通灯，则预测模块303可能会预测车辆在进入十字路口之前可能需要完全停车。如果感知数据表明车辆目前处于左转唯一车道或右转唯一车道，则预测模块303可能预测车辆将更可能分别左转或右转。
针对每个对象，决策模块304作出关于如何处置对象的决定。例如，针对特定对象(例如，交叉路线中的另一车辆)以及描述对象的元数据(例如，速度、方向、转弯角度)，决策模块304决定如何与所述对象相遇(例如，超车、让行、停止、超过)。决策模块304可根据诸如交通规则或驾驶规则312的规则集来作出此类决定，所述规则集可存储在永久性存储装置352中。
路线安排模块307配置成提供从起始点到目的地点的一个或多个路线或路径。对于从起始位置到目的地位置的给定行程，例如从用户接收的给定行程，路线安排模块307获得路线与地图信息311，并确定从起始位置至到达目的地位置的所有可能路线或路径。路线安排模块307可生成地形图形式的参考线，它确定了从起始位置至到达目的地位置的每个路线。参考线是指不受其它诸如其它车辆、障碍物或交通状况的任何干扰的理想路线或路径。即，如果道路上没有其它车辆、行人或障碍物，则ADV应精确地或紧密地跟随参考线。然后，将地形图提供至决策模块304和/或规划模块305。决策模块304和/或规划模块305检查所有可能的路线，以根据由其它模块提供的其它数据选择和更改最佳路线中的一个，其中，其它数据诸如为来自定位模块301的交通状况、由感知模块302感知到的驾驶环境以及由预测模块303预测的交通状况。根据时间点下的特定驾驶环境，用于控制ADV的实际路径或路线可能接近于或不同于由路线安排模块307提供的参考线。
基于针对所感知到的对象中的每个的决定，规划模块305使用由路线安排模块307提供的参考线作为基础，为ADV规划路径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。换言之，针对给定的对象，决策模块304决定对该对象做什么，而规划模块305确定如何去做。例如，针对给定的对象，决策模块304可决定超过所述对象，而规划模块305可确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成，包括描述车辆300在下一移动周期(例如，下一路线/路径段)中将如何移动的信息。例如，规划和控制数据可指示车辆300以30英里每小时(mph)的速度移动10米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制系统111来控制并驾驶ADV。所述规划和控制数据包括足够的信息，以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如，油门、制动、转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，规划阶段在多个规划周期(也称作为驾驶周期)中执行，例如，在每个时间间隔为100毫秒(ms)的周期中执行。对于规划周期或驾驶周期中的每一个，将基于规划和控制数据发出一个或多个控制命令。即，对于每100ms，规划模块305规划下一个路线段或路径段，例如，包括目标位置和ADV到达目标位置所需要的时间。可替代地，规划模块305还可规定具体的速度、方向和/或转向角等。在一个实施方式中，规划模块305为下一个预定时段(诸如，5秒)规划路线段或路径段。对于每个规划周期，规划模块305基于在前一周期中规划的目标位置规划用于当前周期(例如，下一个5秒)的目标位置。控制模块306然后基于当前周期的规划和控制数据生成一个或多个控制命令(例如，油门、制动、转向控制命令)。
应注意，决策模块304和规划模块305可集成为集成模块。决策模块304/规划模块305可包括导航系统或导航系统的功能，以确定ADV的驾驶路径。例如，导航系统可确定用于影响ADV沿着以下路径移动的一系列速度和前进方向：所述路径在使ADV沿着通往最终目的地的基于车行道的路径前进的同时，基本上避免感知到的障碍物。目的地可根据经由用户接口系统113进行的用户输入来设定。导航系统可在ADV正在运行的同时动态地更新驾驶路径。导航系统可将来自GPS系统和一个或多个地图的数据合并，以为ADV确定驾驶路径。
图4是示出根据一个实施方式的用于自动驾驶的系统架构的框图。系统架构400可表示如图3A和图3B中所示的自动驾驶系统的系统架构。参照图4，系统架构400包括但不限于应用层401、规划与控制(PNC)层402、感知层403、驱动器层404、固件层405和硬件层406。应用层401可包括与自动驾驶车辆的用户或乘客交互的用户接口或配置应用，诸如例如与用户接口系统113相关联的功能。PNC层402可至少包括规划模块305和控制模块306的功能。感知层403可至少包括感知模块302的功能。在一个实施方式中，存在包括预测模块303和/或决策模块304的功能的附加层。可替代地，这些功能可包括在PNC层402和/或感知层403中。系统架构400还包括驱动器层404、固件层405和硬件层406。固件层405可至少表示传感器系统115的功能，该功能可通过现场可编程门阵列(FPGA)的形式实现。硬件层406可表示自动驾驶车辆的诸如控制系统111的硬件。层401至层403可经由装置驱动器层404与固件层405和硬件层406通信。
图5A示出根据一个实施方式的自动驾驶车辆中使用的多摄像机单目传感器系统中的单个摄像机(例如摄像机501)的示例配置，该多摄像机单目传感器系统中的每个摄像机具有不同焦距。
摄像机501可以具有例如凹透镜551的透镜，其被定为成使得来自远离摄像机501和透镜551的光线向摄像机501呈现准直的图像553。光学系统的焦距f 552是光学系统聚合或发散光的强度的量度。具有较短焦距的系统使光线更剧烈地弯曲，导致在较近的距离处有较宽的视野，而较长的焦距使光线较小地弯曲并导致在较远的距离处有较窄的视野。ADV的摄像机211可以包括具有多个(例如4个)摄像机的单目摄像机，每个摄像机具有不同的焦距。每个摄像机也可以具有与其它摄像机不同的图像采集率。在实施方式中，组成单目摄像机的所有摄像机具有相同的采集率，例如20Hz或50Hz。在图5B中示出并在下方描述了焦距与视野的关系。考虑焦距的视野可以基于透镜551的曲率的差异而改变。因此，摄像机(例如501)相对于透镜551的位置在制造或服务的时候可以是可调整的，以针对单目摄像机的摄像机设置特定的视野。
图5B示出在多车道道路上的自动驾驶车辆(ADV)101。ADV 101正行驶在左侧以车道指示器515为界并且右侧以车道边界520为界的车道上。车道边界520可以是路缘、多车道道路的路肩、油漆条纹或其它车道边界。多车道道路的另一车道左侧以车道边界510为界，并且右侧以车道指示器515为界。像车道边界520一样，车道边界510可以是路缘、多车道道路的路肩、油漆条纹或其它车道边界。
ADV101包括单目摄像机，单目摄像机包括例如C1至C4的多个摄像机。每个摄像机具有采集率、焦距和所产生的视野。在图5B的示例中，摄像机C1具有视野501和焦距F(C1)，摄像机C2具有视野502和焦距F(C2)，摄像机C3具有视野503和焦距F(C3)，并且摄像机C4具有视野504和焦距F(C4)。焦距F(C1)>F(C2)>F(C3)>F(C4)。图像的样本集合I1…I4通过从每个摄像机采集最新的图像生成。如下面参考图6A和图6B所描述的，图像的样本集合可以用于确定组成单目摄像机的任何摄像机是否需要清洁。
图6A和图6B分别示出用于确定组成单目传感器系统的一个或多个摄像机是否是脏的示例性方法600和示例性方法650。
参照图6A，在操作601中，单目摄像机包括n个摄像机C1…Cn。每个摄像机的dirty_count变量设置为0。对于一个或多个周期中的每个周期，执行用于确定一个或多个摄像机是否脏(操作602至604)的操作。在实施方式中，周期以100ms(10Hz)发生。
在操作602中，对于每个周期，从组成单目摄像机的每个摄像机C1…Cn选择样本图像。在实施方式中，每个摄像机的所选择的图像是在该周期期间采集的最新图像。所选择的样本图像不需要具有完全相同的时间戳。所选择的图像包括样本图像集合I1…In，对应于从其中选择样本图像的摄像机C1…Cn。
在操作603中，针对摄像机C1…Cn的样本图像集合I1…In中的每个图像确定图像度量M。样本图像集合中的每个图像的图像度量包括样本图像度量集合M1…Mn。
在操作604中，对于1…n中的任意i，响应于摄像机Ci的样本图像Ii的图像度量Mi比单目摄像机中的任何其它摄像机的样本图像的图像度量大超过10％或小超过10％，递增摄像机Ci的dirty_count。操作604循环回到操作602，循环的周期与过程中可以包括的周期一样多。在实施方式中，每个方法迭代的周期数是1个周期或5个周期。在周期数的最后，方法600在操作605处继续。
在操作605中，响应于n个摄像机中的任何一个的dirty_count大于预定阈值，确定该摄像机是脏的并采取矫正动作。在实施方式中，预定阈值与周期数相同，从而使得任何在所有周期中被标记为脏的摄像机被视为是脏的。
参考图6B，在操作651中，单目摄像机包括多个n个(例如，4个)摄像机C1…Cn。对于i＝1…n-1，每个摄像机的焦距F满足F(Ci)>F(Ci+1)。每个摄像机的dirty_count变量设置为0。对于一个或多个周期中的每个周期，执行用于确定一个或多个摄像机是否脏(操作652至654)的操作。在实施方式中，周期以100ms(10Hz)发生。
在操作652中，对于每个周期，从组成单目摄像机的每个摄像机C1…Cn选择样本图像。在实施方式中，每个摄像机的所选择的图像是在该周期期间采集的最新图像。所选择的样本图像不需要具有完全相同的时间戳。所选择的图像包括样本图像集合I1…In，对应于从其中选择样本图像的摄像机C1…Cn。
在操作653中，对于摄像机C1…Cn的样本图像集合I1…In中的每个图像确定图像度量M。样本图像集合中的每个图像的图像度量包括样本图像度量集合M1…Mn。图像度量可以是图像的亮度或对比度。
在操作654中，对于1…n中的任意i，响应于摄像机Ci的样本图像Ii的图像度量Mi比单目摄像机中的任何其它摄像机的样本图像的图像度量大超过10％或小超过10％，递增摄像机Ci的dirty_count。操作654循环回到操作652，循环的周期与过程中可以包括的周期一样多。在实施方式中，每个方法迭代的周期数是1个周期或5个周期。在周期数的最后，方法650在操作655处继续。
在操作655中，响应于n个摄像机中的任何一个的dirty_count大于预定阈值，确定该摄像机是脏的并采取矫正动作。在实施方式中，预定阈值与周期数相同，从而使得任何在所有周期中被标记为脏的摄像机被视为是脏的。矫正动作可以包括向ADV的乘员发出警报或启动摄像机透镜清洁程序。方法650结束。
应注意，如上文示出和描述的部件中的一些或全部可在软件、硬件或其组合中实施。例如，此类部件可实施为安装并存储在永久性存储装置中的软件，所述软件可通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。可替代地，此类部件可实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码，所述可执行代码可经由来自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和类似的术语均旨在与适当的物理量关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或类似电子计算装置的动作和处理，所述计算机系统或电子计算装置操控计算机系统的寄存器和存储器内的表示为物理(电子)量的数据，并将所述数据变换成计算机系统存储器或寄存器或者其它此类信息存储装置、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机构。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可由处理逻辑来执行，所述处理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些可按不同的顺序执行。此外，一些操作可并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到，可使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本公开的实施方式进行了描述。将显而易见的是，在不脱离所附权利要求书中阐述的本公开的更宽泛精神和范围的情况下，可对本发明作出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本说明书和附图。

Claims (21)

1.一种在n个摄像机C1…Cn中检测脏的摄像机的计算机实施方法，所述方法包括：
针对一个或多个周期中的每个周期：
从所述摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；
确定所述摄像机Ci的样本图像的图像度量Mi；
响应于所述摄像机Ci的所述样本图像的所述图像度量Mi与所述摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，使所述摄像机Ci的脏计数器递增；以及
响应于所述n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定所述摄像机是脏的并采取矫正动作。
2.根据权利要求1所述的方法，其中，所述图像度量是亮度。
3.根据权利要求1所述的方法，其中，所述图像度量是对比度。
4.根据权利要求1所述的方法，其中，所述矫正动作是针对任何被确定为脏的摄像机触发清洁操作。
5.根据权利要求1所述的方法，其中，所述一个或多个周期的频率是10Hz。
6.根据权利要求1所述的方法，其中，所述摄像机的数量n至少是4。
7.根据权利要求1所述的方法，其中，对于每个摄像机Ci∈C1…Cn，焦距F(Ci)>F(Ci+1)，其中i＝1…n-1。
8.根据权利要求1所述的方法，其中，所述预定差异阈值是10％。
9.一种其中存储有指令的非暂时性机器可读介质，在由处理器执行所述指令时，使得所述处理器执行在n个摄像机C1…Cn中检测脏的摄像机的操作，所述操作包括：
针对一个或多个周期中的每个周期：
从所述摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；
确定所述摄像机Ci的样本图像的图像度量Mi；
响应于所述摄像机Ci的所述样本图像的所述图像度量Mi与所述摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，使所述摄像机Ci的脏计数器递增；以及
响应于所述n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定所述摄像机是脏的并采取矫正动作。
10.根据权利要求9所述的机器可读介质，其中，所述图像度量是亮度。
11.根据权利要求9所述的机器可读介质，其中，所述图像度量是对比度。
12.根据权利要求9所述的机器可读介质，其中，所述矫正动作是针对任何被确定为脏的摄像机触发清洁操作。
13.根据权利要求9所述的机器可读介质，其中，所述一个或多个周期的频率是10Hz。
14.根据权利要求9所述的机器可读介质，其中，所述摄像机的数量n至少是4。
15.根据权利要求9所述的机器可读介质，其中，针对每个摄像机Ci∈C1…Cn，焦距F(Ci)>F(Ci+1)，其中i＝1…n-1。
16.根据权利要求9所述的机器可读介质，其中，所述预定差异阈值是10％。
17.一种数据处理系统，包括：
处理器；以及
存储器，所述存储器联接至所述处理器以存储指令，所述指令在由所述处理器执行时使得所述处理器执行在多个n个摄像机C1…Cn中检测脏的摄像机的操作，所述操作包括：
针对一个或多个周期中的每个周期：
从所述摄像机C1…Cn中的每个摄像机Ci选择样本图像，其中Ci∈C1…Cn；
确定所述摄像机Ci的样本图像的图像度量Mi；
响应于所述摄像机Ci的所述样本图像的所述图像度量Mi与所述摄像机C1…Cn中的任意其它摄像机的样本图像之间的差异大于预定差异阈值，使所述摄像机Ci的脏计数器递增；以及
响应于所述n个摄像机中的任意一个摄像机的脏计数器大于预定阈值，确定所述摄像机是脏的并采取矫正动作。
18.根据权利要求17所述的系统，其中，所述图像度量是亮度。
19.根据权利要求17所述的系统，其中，所述图像度量是对比度。
20.根据权利要求17所述的系统，其中，所述矫正动作是针对任何被确定为脏的摄像机触发清洁操作。
21.一种计算机程序产品，包括计算机程序，所述计算机程序在由处理器执行时实现根据权利要求1-8中任一项所述的方法。
CN202011432793.6A 2020-06-24 2020-12-09 用于自动驾驶车辆的脏单目摄像机检测方法 Active CN113834636B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/910,491 US11588957B2 (en) 2020-06-24 2020-06-24 Dirty monocular camera detection methods for autonomous driving vehicle
US16/910,491 2020-06-24

Publications (2)

Publication Number Publication Date
CN113834636A true CN113834636A (zh) 2021-12-24
CN113834636B CN113834636B (zh) 2023-12-22

Family

ID=78962499

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011432793.6A Active CN113834636B (zh) 2020-06-24 2020-12-09 用于自动驾驶车辆的脏单目摄像机检测方法

Country Status (2)

Country Link
US (1) US11588957B2 (zh)
CN (1) CN113834636B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008060874A (ja) * 2006-08-31 2008-03-13 Hitachi Ltd 車載カメラ及び車載カメラ用付着物検出装置
CN103529639A (zh) * 2012-07-03 2014-01-22 歌乐牌株式会社 镜头附着物检测装置、镜头附着物检测方法以及车辆系统
US20150203076A1 (en) * 2012-07-27 2015-07-23 Clarion Co., Ltd. Lens cleaning apparatus
CN105122794A (zh) * 2013-04-02 2015-12-02 谷歌公司 相机遮挡检测
US20160234405A1 (en) * 2012-03-27 2016-08-11 Magna Electronics Inc. Vehicle vision system with lens pollution detection
US20160379067A1 (en) * 2013-02-20 2016-12-29 Magna Electronics Inc. Vehicle vision system with dirt detection
CN106575366A (zh) * 2014-07-04 2017-04-19 光实验室股份有限公司 关于检测和/或指示脏镜头状况的方法和装置
CN111147761A (zh) * 2019-12-28 2020-05-12 中国第一汽车股份有限公司 一种车用摄像设备清洗方法、系统、车辆及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008060874A (ja) * 2006-08-31 2008-03-13 Hitachi Ltd 車載カメラ及び車載カメラ用付着物検出装置
US20160234405A1 (en) * 2012-03-27 2016-08-11 Magna Electronics Inc. Vehicle vision system with lens pollution detection
CN103529639A (zh) * 2012-07-03 2014-01-22 歌乐牌株式会社 镜头附着物检测装置、镜头附着物检测方法以及车辆系统
US20150203076A1 (en) * 2012-07-27 2015-07-23 Clarion Co., Ltd. Lens cleaning apparatus
US20160379067A1 (en) * 2013-02-20 2016-12-29 Magna Electronics Inc. Vehicle vision system with dirt detection
CN105122794A (zh) * 2013-04-02 2015-12-02 谷歌公司 相机遮挡检测
CN106575366A (zh) * 2014-07-04 2017-04-19 光实验室股份有限公司 关于检测和/或指示脏镜头状况的方法和装置
CN111147761A (zh) * 2019-12-28 2020-05-12 中国第一汽车股份有限公司 一种车用摄像设备清洗方法、系统、车辆及存储介质

Also Published As

Publication number Publication date
US11588957B2 (en) 2023-02-21
CN113834636B (zh) 2023-12-22
US20210409578A1 (en) 2021-12-30

Similar Documents

Publication Publication Date Title
CN112498365B (zh) 基于置信度水平和距离、响应于障碍物的自动驾驶车辆的延迟决策
US20210027629A1 (en) Blind area processing for autonomous driving vehicles
CN111775933B (zh) 用于基于车辆周围障碍物的移动轨迹自主驾驶车辆的方法
US10915766B2 (en) Method for detecting closest in-path object (CIPO) for autonomous driving
CN112572451A (zh) 用于自主驾驶车辆执行的方法和装置
US11560159B2 (en) Group and combine obstacles for autonomous driving vehicles
US11880201B2 (en) Fastest lane determination algorithm under traffic jam
US11662730B2 (en) Hierarchical path decision system for planning a path for an autonomous driving vehicle
JP7389267B2 (ja) 点群の特徴に基づく障害物濾過システム
CN112526960A (zh) 自动驾驶监控系统
CN113748059A (zh) 离线和在线解决方案相结合的停车轨迹生成方法
US11661085B2 (en) Locked pedestrian detection and prediction for autonomous vehicles
US11904890B2 (en) Lane change system for lanes with different speed limits
CN112829745A (zh) 基于imu反馈的hd地图速度限制调整系统
CN112829770A (zh) 基于车道边界和车辆速度的绕行决策
US10984653B1 (en) Vehicle, fleet management and traffic light interaction architecture design via V2X
CN112598914B (zh) 基于历史的预计到达时间
CN113834636B (zh) 用于自动驾驶车辆的脏单目摄像机检测方法
CN113658443A (zh) 用于确定即将到来的交通灯的状态的方法、装置和系统
CN113815525B (zh) 用于车辆强制制动的l3级自动应急灯系统
CN113753070B (zh) 自动车辆的锁定行人检测与预测
US20240218911A1 (en) Brake pad wear detection and warning for autonomous driving vehicles
US11662219B2 (en) Routing based lane guidance system under traffic cone situation
US20230202516A1 (en) Planning under prediction with confidence region for an autonomous driving vehicle
US20210155237A1 (en) Method for optimizing three-point turn of autonomous driving vehicles

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant