CN110347145B - 用于自动驾驶车辆的感知辅助 - Google Patents
用于自动驾驶车辆的感知辅助 Download PDFInfo
- Publication number
- CN110347145B CN110347145B CN201910053846.4A CN201910053846A CN110347145B CN 110347145 B CN110347145 B CN 110347145B CN 201910053846 A CN201910053846 A CN 201910053846A CN 110347145 B CN110347145 B CN 110347145B
- Authority
- CN
- China
- Prior art keywords
- autonomous vehicle
- obstacle
- interest
- blind spot
- identifying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000008447 perception Effects 0.000 title description 44
- 238000000034 method Methods 0.000 claims abstract description 42
- 230000004044 response Effects 0.000 claims abstract description 10
- 238000012545 processing Methods 0.000 claims description 43
- 230000015654 memory Effects 0.000 claims description 18
- 238000004891 communication Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 15
- 230000001133 acceleration Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 230000002085 persistent effect Effects 0.000 description 5
- 238000007405 data analysis Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000009472 formulation Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009429 electrical wiring Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 229910000078 germane Inorganic materials 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000037361 pathway Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
- G05D1/0223—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/003—Transmission of data between radar, sonar or lidar systems and remote stations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
- G05D1/0214—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
- G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0257—Control of position or course in two dimensions specially adapted to land vehicles using a radar
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/027—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising intertial navigation means, e.g. azimuth detector
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
- G05D1/0278—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/04—Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9315—Monitoring blind spots
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9316—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles combined with communication equipment with other vehicles or with base stations
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9318—Controlling the steering
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/93185—Controlling the brakes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9319—Controlling the accelerator
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9322—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles using additional data, e.g. driver condition, road state or weather data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9323—Alternative operation using light waves
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
Abstract
本申请提供了一种用于操作自动驾驶车辆(ADV)的方法、系统及非暂时性机器可读介质。在一个实施方式中,ADV的系统使用安装在ADV上的多个传感器来感知ADV周围的驾驶环境。系统基于所感知的ADV周围的驾驶环境识别盲点。系统响应于识别到盲点,从设置在盲点的预定距离内的图像拍摄装置接收具有盲点的图像。在一些实施方式中,系统从通信地联接到图像拍摄装置的远程服务器接收具有盲点的图像。系统基于图像识别在ADV的盲点处的感兴趣的障碍物。系统基于盲点处的感兴趣的障碍物生成轨迹,以控制ADV避开感兴趣的障碍物。
Description
技术领域
本公开的实施方式总体上涉及操作自动驾驶车辆。更具体地,本公开的实施方式涉及用于自动驾驶车辆(ADV)的感知辅助。
背景技术
以自动驾驶模式运行(例如,无人驾驶)的车辆可以将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时,车辆可以使用车载传感器导航到各个位置,从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
如果仅依赖于自动驾驶车辆的传感器系统,则自动驾驶车辆可具有非常有限的感知。例如,自动驾驶车辆可检测到其有限距离内的周围环境。此外,基于当前传感器技术,自动驾驶车辆可错过对异常道路状况的检测,例如,对临时道路施工区域的检测。
沿着交通路口进行检测时,情况可能变得更糟,因为ADV需要监视来自不同方向的交通。由于ADV在某些角度和距离上具有有限的感知,所以各种障碍物(例如,位于ADV旁边的车辆)可阻挡ADV的关键感知。
发明内容
本申请提供了一种用于操作自动驾驶车辆的方法、系统及非暂时性机器可读介质。
本申请的一方面提供了一种用于操作自动驾驶车辆的计算机实施的方法,所述方法包括:使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;响应于识别到所述盲点,从设置在所述盲点的预定距离内的图像拍摄装置接收涵盖所述盲点的图像;基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
根据本申请的实施方式,基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点包括:确定所述自动驾驶车辆的视场;基于所感知的驾驶环境确定一个或多个障碍物;以及将所述盲点识别为所述视场的、被所述一个或多个障碍物阻挡的一个或多个视角。
根据本申请的实施方式,所述图像拍摄装置包括安装在道路交叉口处的一个或多个相机。
根据本申请的实施方式,所述一个或多个相机在一个或多个交通流方向上安装在所述道路交叉口处,以监控在所述一个或多个交通流方向上进入的车辆。
根据本申请的实施方式,所述感兴趣的障碍物包括以下中的至少一项:车辆、障碍物和行人。
根据本申请的实施方式,控制所述自动驾驶车辆避开所述感兴趣的障碍物包括:在恢复所述自动驾驶车辆的正常操作之前,将所述自动驾驶车辆减速到停止以进行等待,直到所述感兴趣的障碍物不再处于所述自动驾驶车辆的路径中。
根据本申请的实施方式,如果存在所述感兴趣的障碍物,则:从所述图像拍摄装置接收涵盖所述盲点的后续图像;使用所述后续图像跟踪所述感兴趣的障碍物以确定所述感兴趣的障碍物是否处于所述自动驾驶车辆的路线中;以及如果确定所述感兴趣的障碍物处于所述自动驾驶车辆的路线中,基于所感知的驾驶环境和涵盖所述盲点的所述后续图像生成第二轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
根据本申请的实施方式,如果预测在预定时间段内所跟踪的感兴趣的障碍物与所述自动驾驶车辆的轨迹重叠,则所述感兴趣的障碍物处于所述自动驾驶车辆的路线中。
本申请的另一方面提供了一种存储有指令的非暂时性机器可读介质,所述指令在由一个或多个处理器执行时使所述一个或多个处理器执行操作,所述操作包括:使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;响应于识别到所述盲点,从设置在所述盲点的预定距离内的图像拍摄装置接收涵盖所述盲点的图像;基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
本申请的再一方面提供了一种数据处理系统,包括:一个或多个处理器;以及存储器,联接到所述一个或多个处理器以存储指令,所述指令在由所述一个或多个处理器执行时使所述一个或多个处理器执行操作,所述操作包括:使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;响应于识别到所述盲点,从设置在所述盲点的预定距离内的图像拍摄装置接收涵盖所述盲点的图像;基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出,附图中的相同的附图标记指代相似的元件。
图1是示出根据一个实施方式的网络化系统的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3A至图3B是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。
图4是示出根据一个实施方式的感知辅助模块的示例的框图。
图5A至图5B是示出根据一些实施方式的当ADV接收用于感知辅助的图像时的场景的示例的框图。
图6是示出根据一个实施方式的由ADV执行的方法的流程图。
图7是示出根据一个实施方式的由ADV执行的方法的流程图。
图8是示出根据一个实施方式的数据处理系统的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面,并且附图将示出各种实施方式。以下描述和附图是对本公开的说明,并且不应被解释为限制本公开。描述了许多特定细节以提供对本公开各种实施方式的全面理解。然而,在某些情况下,并未描述众所周知的或常规的细节以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可以包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指相同的实施方式。
根据一些实施方式,用于自动驾驶车辆(ADV)的感知辅助在检测实时交通状况中辅助或增强ADV的感知系统。
根据一个方面,ADV系统使用安装在ADV上的多个传感器感知ADV周围的驾驶环境。系统基于所感知的ADV周围的驾驶环境识别盲点。系统响应于识别到盲点,从设置在盲点的预定距离内的图像拍摄装置接收具有盲点的图像。在一些实施方式中,系统从通信地联接到图像拍摄装置的远程服务器接收具有盲点的图像。系统基于图像识别在ADV盲点处的感兴趣的障碍物。此后,系统基于盲点处的感兴趣的障碍物生成轨迹,以控制ADV避开感兴趣的障碍物。
根据另一方面,如果存在感兴趣的障碍物,则系统从图像拍摄装置接收具有盲点的后续图像。系统使用后续图像跟踪感兴趣的障碍物,以确定感兴趣的障碍物是否处于ADV的路线中。如果确定感兴趣的障碍物处于ADV的路线中,则系统基于感知的驾驶环境和具有盲点的后续图像生成第二轨迹,以控制ADV避开感兴趣的障碍物。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1,网络配置100包括可以通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆101。尽管示出一个自动驾驶车辆,但多个自动驾驶车辆可以通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络,例如,有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集,诸如,网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或者位置服务器等。
自动驾驶车辆是指可以被配置成处于自动驾驶模式下的车辆,在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可以包括传感器系统,所述传感器系统具有被配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可以在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中,自动驾驶车辆101包括,但不限于,感知与规划系统110、车辆控制系统111、无线通信系统112、用户接口系统113和传感器系统115。自动驾驶车辆101还可以包括普通车辆中包括的某些常用部件,诸如:发动机、车轮、方向盘、变速器等,所述部件可以由车辆控制系统111和/或感知与规划系统110使用多种通信信号和/或命令进行控制,该多种通信信号和/或命令例如,加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可以经由互连件、总线、网络或其组合通信地联接到彼此。例如,部件110至115可以经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是被设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议,但也用于许多其它环境。
现在参考图2,在一个实施方式中,传感器系统115包括但不限于一个或多个相机211、全球定位系统(GPS)单元212、惯性测量单元(IMU)213、雷达单元214以及光探测和测距(LIDAR)单元215。GPS系统212可以包括收发器,所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元213可以基于惯性加速度来感测自动驾驶车辆的位置和方位变化。雷达单元214可以表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的系统。在一些实施方式中,除感测对象之外,雷达单元214可以另外感测对象的速度和/或前进方向。LIDAR单元215可以使用激光来感测自动驾驶车辆所处环境中的对象。除其它系统部件之外,LIDAR单元215还可以包括一个或多个激光源、激光扫描器以及一个或多个检测器。相机211可以包括用来采集自动驾驶车辆周围环境的图像的一个或多个装置。相机211可以是静物相机和/或视频相机。相机可以是可机械地移动的,例如,通过将相机安装在旋转和/或倾斜平台上。
传感器系统115还可以包括其它传感器,诸如:声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如,麦克风)。音频传感器可以被配置成从自动驾驶车辆周围的环境中采集声音。转向传感器可以被配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下,油门传感器和制动传感器可以集成为集成式油门/制动传感器。
在一个实施方式中,车辆控制系统111包括但不限于转向单元201、油门单元202(也被称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度,电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意,如图2所示的部件可以以硬件、软件或其组合实施。
回到图1,无线通信系统112允许自动驾驶车辆101与诸如装置、传感器、其它车辆等外部系统之间的通信。例如,无线通信系统112可以与一个或多个装置直接无线通信,或者经由通信网络进行无线通信,诸如,通过网络102与服务器103至104通信。无线通信系统112可以使用任何蜂窝通信网络或无线局域网(WLAN),例如,使用WiFi,以与另一部件或系统通信。无线通信系统112可以例如使用红外链路、蓝牙等与装置(例如,乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口系统113可以是在车辆101内实施的外围装置的部分,包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可以由感知与规划系统110控制或管理,尤其当在自动驾驶模式下操作时。感知与规划系统110包括必要的硬件(例如,处理器、存储器、存储设备)和软件(例如,操作系统、规划和路线安排程序),以从传感器系统115、控制系统111、无线通信系统112和/或用户接口系统113接收信息,处理所接收的信息,规划从起始点到目的地点的路线或路径,随后基于规划和控制信息来驾驶车辆101。替代地,感知与规划系统110可以与车辆控制系统111集成在一起。
例如,作为乘客的用户可以例如经由用户接口来指定行程的起始位置和目的地。感知与规划系统110获得行程相关数据。例如,感知与规划系统110可以从MPOI服务器中获得位置和路线信息,所述MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务,并且MPOI服务器提供地图服务和某些位置的POI。替代地,此类位置和MPOI信息可以本地高速缓存在感知与规划系统110的永久性存储装置中。
当自动驾驶车辆101沿着路线移动时,感知与规划系统110也可以从交通信息系统或服务器(TIS)获得实时交通信息。应注意,服务器103至104可以由第三方实体进行操作。替代地,服务器103至104的功能可以与感知与规划系统110集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器系统115检测或感测的实时本地环境数据(例如,障碍物、对象、附近车辆),感知与规划系统110可以规划最佳路线并且根据所规划的路线例如经由控制系统111来驾驶车辆101,以安全且高效到达指定目的地。
服务器103可以是为各种客户端执行数据分析服务的数据分析系统。在一个实施方式中,数据分析系统103包括数据收集器121和机器学习引擎122。数据收集器121从多种车辆(自动驾驶车辆或由人类驾驶员驾驶的常规车辆)收集驾驶统计数据123。驾驶统计数据123包括表示所发出的驾驶命令(例如,油门命令、制动命令和转向命令)以及在不同的时间点处由车辆的传感器捕获的车辆的响应(例如,速度、加速度、减速度、方向)的信息。驾驶统计数据123还可包括描述不同的时间点处的驾驶环境的信息,例如,路线(包括起点位置和目的地位置)、MPOI、天气状况和道路状况(诸如,高速公路上的缓行交通、交通堵塞、车祸、道路施工、临时绕行、未知障碍物等)。
基于驾驶统计数据123,机器学习引擎122针对各种目的生成或训练规则集、算法和/或预测模型124,包括组织和/或处理模型,以基于拍摄图像的源或位置(例如,图像拍摄装置的安装位置)来组织和处理拍摄图像。模型124还可针对提前多久将拍摄图像开始发送到ADV预测建模。例如,模型124可确定最好将拍摄图像发送到ADV以帮助ADV在低速道路上感知道路交叉口前方10米处的环境,而在高速道路上感知道路交叉口前方50米处的环境。预测模型可取决于ADV的车辆模型。例如,不同的车辆模型可在不同的距离长度内停止。在另一实施方式中,每个ADV可通过首先确定它是否与多个图像拍摄装置相距预定距离内(可将图像拍摄装置的位置预加载到ADV)来确定何时发起图像请求。如果确定ADV在图像拍摄装置的预定距离内,则请求来自特定拍摄装置的图像。感知辅助服务125可经由应用程序编程接口(API)无线地与ADV通信,以便ADV从一个或多个拍摄装置(例如,街道相机)请求和接收拍摄图像。在另一实施方式中,ADV可经由网络与一个或多个拍摄装置直接通信。
图3A和图3B是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。系统300可实施为图1的自动驾驶车辆101的一部分,包括但不限于感知与规划系统110、控制系统111和传感器系统115。参考图3A至图3B,感知与规划系统110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306、路线制定模块307、感知辅助模块308和图像处理引擎309。
模块301至309中的一些或全部可以以软件、硬件或其组合实施。例如,这些模块可安装在永久性存储装置352中、加载到存储器351中,并且由一个或多个处理器(未示出)执行。应注意,这些模块中的一些或全部可通信地联接到图2的车辆控制系统111的一些或全部模块或者与它们集成在一起。模块301至309中的一些可一起集成为集成模块。
定位模块301确定自动驾驶车辆300的当前位置(例如,利用GPS单元212)并管理与用户的行程或路线相关的任何数据。定位模块301(也被称为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可以例如经由用户接口登录并且指定行程的开始位置和目的地。定位模块301与自动驾驶车辆300的诸如地图和路线信息311的其它组件通信,以获得行程相关数据。例如,定位模块301可从位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务,以及MPOI服务器提供地图服务和某些位置的POI,这些可作为地图和路线信息311的一部分高速缓存。当自动驾驶车辆300沿着路线移动时,定位模块301也可从交通信息系统或服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和由定位模块301获得的定位信息,感知模块302确定对周围环境的感知。感知信息可以表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可以包括例如采用对象形式的车道配置(例如,直线车道或弯曲车道)、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如,停止标志、让行标志)等。
感知模块302可以包括计算机视觉系统或计算机视觉系统的功能,以处理并分析由一个或多个相机采集的图像,从而识别自动驾驶车辆环境中的对象和/或特征。所述对象可以包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉系统可以使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中,计算机视觉系统可以绘制环境地图,跟踪对象,以及估算对象的速度等。感知模块302也可以基于由诸如雷达和/或LIDAR的其它传感器提供的其它传感器数据来检测对象。
针对每个对象,预测模块303预测该对象在此情形下的行为。根据地图/路线信息311和交通规则312的集合,基于在该时间点感知驾驶环境的感知数据来执行预测。例如,如果对象是处于相反方向的车辆并且当前驾驶环境包括十字路口,则预测模块303将预测车辆是将可能直线向前移动还是进行转弯。如果感知数据表明十字路口没有交通灯,则预测模块303可预测车辆在进入十字路口之前可能需要完全停止。如果感知数据表明车辆当前处于左转专用车道或右转专用车道,则预测模块303可分别预测车辆将更可能向左转弯或向右转弯。
针对每个对象,决策模块304作出关于如何处置对象的决定。例如,针对特定对象(例如,交叉路线中的另一车辆)以及描述对象的元数据(例如,速度、方向、转弯角度),决策模块304决定如何与所述对象相遇(例如,超车、让行、停止、超过)。决策模块304可根据诸如交通规则或驾驶规则312的规则集来作出此类决定,所述规则集可存储在永久性存储装置352中。
路线制定模块307配置成提供从起点到目的点的一个或多个路线或路径。对于从开始位置到目的地位置的给定行程(例如,从用户接收的),路线制定模块307获得路线和地图信息311,并且确定从开始位置至到达目的地位置的所有可能的路线或路径。路线制定模块307可以以地形图的形式针对其确定的从开始位置至到达目的地位置的每个路线生成参考线。参考线指的是理想的路线或路径,而不受诸如其它车辆、障碍物或交通状况的其它事物的任何干扰。即,如果道路上不存在其它车辆、行人或障碍物,则ADV应该精确地或紧密地遵循参考线。然后,地形图被提供至决策模块304和/或规划模块305。根据由其它模块提供的其它数据(诸如,来自定位模块301的交通状况、由感知模块302感知的驾驶环境和由预测模块303预测的交通状况),决策模块304和/或规划模块305检查所有可能的路线以选择和修改一个最优路线。用于控制ADV的实际路径或路线可与由路线制定模块307提供的参考线接近或不同,这取决于该时间点的特定驾驶环境。
基于针对所感知到的对象中的每个的决定,规划模块305使用由路线制定模块307提供的参考线作为基础来为自动驾驶车辆规划路径或路线以及驾驶参数(例如,距离、速度和/或转弯角度)。即,针对给定的对象,决策模块304决定对该对象做什么,而规划模块305确定如何去做。例如,针对给定的对象,决策模块304可以决定超过所述对象,而规划模块305可以确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成,包括描述车辆300在下一移动循环(例如,下一路线/路径段)中将如何移动的信息。例如,规划和控制数据可以指示车辆300以30英里每小时(mph)的速度移动10米,随后以25mph的速度变到右侧车道。
基于规划和控制数据,控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制系统111来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息,以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如,油门、制动和转弯命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中,在多个规划周期(也被称为命令周期)(诸如,例如,在每100毫秒(ms)的时间间隔中)中执行规划阶段。针对每个规划周期或命令周期,将基于规划数据和控制数据发出一个或多个控制命令。即,对于每个100ms,规划模块305规划下一路线段或路径段,例如,包括目标位置和ADV到达目标位置所需的时间。替代地,规划模块305还可指定具体速度、方向和/或转向角等。在一个实施方式中,规划模块305为下一预定时间段(诸如5秒)规划路线段或路径段。对于每个规划周期,规划模块305基于先前周期中规划的目标位置来规划当前周期(例如,接下来的5秒)的目标位置。然后,控制模块306基于当前周期的规划数据和控制数据生成一个或多个控制命令(例如,油门命令、制动命令、转向控制命令)。
应注意,决策模块304和规划模块305可以集成为集成模块。决策模块304/规划模块305可以包括导航系统或导航系统的功能,以确定自动驾驶车辆的驾驶路径。例如,导航系统可以确定用于实现自动驾驶车辆沿着以下路径移动的一系列速度和前进方向:所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时,基本上避开感知到的障碍物。目的地可以根据经由用户接口系统113进行的用户输入来设定。导航系统可以在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航系统可以将来自GPS系统和一个或多个地图的数据合并,以确定用于自动驾驶车辆的驾驶路径。
决策模块304/规划模块305还可以包括防撞系统或防撞系统的功能,以识别、评估并且避开或以其它方式越过自动驾驶车辆的环境中的潜在障碍物。例如,防撞系统可以通过以下方式实现自动驾驶车辆的导航中的变化:操作控制系统111中的一个或多个子系统来采取变向操纵、转弯操纵、制动操纵等。防撞系统可以基于周围的交通模式、道路状况等自动确定可行的障碍物回避操纵。防撞系统可以被配置成使得当其它传感器系统检测到位于自动驾驶车辆将变向进入的相邻区域中的车辆、建筑障碍物等时不采取变向操纵。防撞系统可以自动选择既可使用又使得自动驾驶车辆乘员的安全性最大化的操纵。防撞系统可以选择预测使得自动驾驶车辆的乘客舱中出现最小量的加速度的避让操纵。
根据一个实施方式,感知辅助模块308提供界面以从一个或多个拍摄装置(例如,街道相机321)请求和接收道路和/或道路交叉口的实时图像。在一些实施方式中,一个或多个拍摄装置可以是街道和/或交通相机。然后,可由图像处理引擎309处理所接收的实时图像(例如,拍摄图像313),以识别感兴趣的对象和/或特征。图像处理引擎309可针对车道配置(例如,直线或曲线车道)、交通灯信号、车辆、行人、建筑物、人行横道或其它交通相关标志(例如,停止标志、让行标志)等处理拍摄图像,例如,以对象和/或特征的形式,以增强由ADV的感知模块302所感知或将被感知的内容。图像处理引擎309可包括计算机视觉系统或计算机视觉系统的功能来处理和分析拍摄图像313,使用对象识别算法、视频跟踪和例如边缘检测算法的其它计算机视觉技术来识别例如移动对象的感兴趣的对象和/或特征。图像处理引擎309和/或感知辅助模块308可与感知模块302集成为单个模块,或者可以是单独的模块。
图4是示出根据一个实施方式的感知辅助模块的示例的框图。参考图4,感知辅助模块308可请求和接收拍摄图像来增强由感知模块302所看到的环境,例如,将拍摄图像添加至由感知模块302所看到的内容。感知辅助模块308可包括图像接收器401、盲点识别器模块403、障碍物识别器模块405和障碍物跟踪模块407。图像接收器401可接收拍摄图像和/或视频输入,例如连续的视频图像流。盲点识别器模块403可识别ADV的一个或多个盲点。障碍物识别器模块405可基于拍摄图像和/或由图像处理引擎309识别的对象来识别感兴趣的障碍物。障碍物跟踪模块407可跟踪和/或追踪感兴趣的障碍物,从而预测它们在将来的某些时间的预定时间段内的位置。在一个实施方式中,感知辅助模块308联接到无线通信接口411以与感知辅助服务125通信,以向诸如街道相机321的拍摄装置请求图像,并从该拍摄装置接收图像。在另一实施方式中,无线通信接口411可通过网络直接与拍摄装置通信。在另一实施方式中,无线通信接口411可与访问街道相机321的第三方提供商(例如,交通控制器555)通信。在另一个实施方式中,无线通信接口411可通过感知辅助服务125和/或交通控制器555与街道相机321通信。
图5A至图5B是示出根据一些实施方式的当ADV接收用于感知辅助的图像时的场景的示例的框图。参考图5A至图5B,在该场景中,ADV 101正在接近道路交叉口。道路交叉口包括一个或多个街道相机321。街道相机321可以是用于ADV感知的交通相机或专用相机。在一个实施方式中,街道相机321包括立体相机,其设置为感知深度信息以更好地识别周围的对象和/或特征。在另一个实施方式中,街道相机321包括单目相机设置。在一个实施方式中,街道相机321安装成指向每个交通方向(例如,用于四向交通路口的四个相机安装点)。在另一个实施方式中,具有环绕360度视野的相机设置安装在道路交叉口处。
在一个实施方式中,当ADV 101接近道路段和/或道路交叉口时,感知辅助模块308可向街道相机321请求道路段和/或道路交叉口的拍摄图像以进行感知辅助。然后,所接收的拍摄图像可增强ADV 101的感知模块302没有看到的内容。
在另一实施方式中,仅当ADV 101确定其具有一个或多个盲点时,ADV 101向街道相机321请求感知辅助。例如,参考图5A至图5B,ADV被侧面车辆(例如,障碍物501)阻挡。盲点识别器模块403可识别障碍物501造成盲点503。盲点识别器模块403可通过以下方式识别障碍物:确定ADV的视场(例如,基于ADV上的工作传感器的视野),确定由ADV感知到存在一个或多个障碍物(例如,障碍物501),以及将盲点(例如,盲点503)识别为视场的被一个或多个障碍物(例如,障碍物501)阻挡的一个或多个视角。由于障碍物501阻挡ADV 101收集盲点503的信息,所以感知辅助模块308可向街道相机321请求与四周环境有关的拍摄图像(例如,覆盖盲点503的图像)以填充盲点503的任何缺失信息。
在一个实施方式中,感知辅助模块308预加载有诸如相机标识符ID的街道相机信息,因此感知辅助模块308可使用相机ID(例如,不同道路交叉口安装点的相机ID)请求拍摄图像。在另一实施方式中,感知辅助模块308可通过感知辅助服务125和/或交通控制器555请求感知辅助(如图5B所示)。在一个实施方式中,感知辅助模块308可提供ADV 101的当前地理位置以及对感知辅助服务125和/或用于感知辅助服务125的交通控制器555的请求,以确定与ADV 101的地理位置有关的任何相机ID。一旦确定了相机ID,感知辅助服务125和/或交通控制器555可随后将由街道相机321拍摄的实时图像或视频图像发送到ADV 101的感知辅助模块308。
一旦ADV 101接收到拍摄的图像或视频图像,图像处理引擎309处理拍摄图像以识别图像中的对象和/或特征。在一个实施方式中,图像中的对象和/或特征利用通过感知模块302看到或未看到的内容来增强。在另一实施方式中,利用来自感知模块302的对象来增强与盲点(例如,盲点503)对应的图像中的所识别的对象和/或特征。利用盲点中的对象,障碍物识别器模块405可识别任何对象和/或特征是否属于ADV感兴趣的障碍物的类别。ADV感兴趣的障碍物可定义为可能与ADV的当前规划轨迹的路径交叉的任何移动或不移动的对象。感兴趣的障碍物可以是行人、车辆、自行车、摩托车和任何移动物体。如果对象正在接近ADV的规划轨迹的路径507,或者ADV的规划轨迹正在接近对象,则对象将与路径交叉。例如,参考图5A至图5B,进入交通的行人511和车辆513将出现在第一拍摄图像中。在第一拍摄图像后续的第二拍摄图像(所接收的图像可以是视频流中的多个图像)可将行人511和车辆513识别为朝向并且最终将穿过ADV 101的当前路径507的移动对象。然后,障碍物识别器模块405将行人511和车辆513识别为感兴趣的障碍物。
一旦识别出感兴趣的障碍物,障碍物跟踪模块407可跟踪这些障碍物。例如,障碍物跟踪模块407将从图像拍摄装置接收具有盲点的后续图像或视频。障碍物跟踪模块407使用后续图像继续跟踪或监视这些感兴趣的障碍物,以确定每个感兴趣的障碍物是否在ADV的路线中,例如,与ADV的当前规划轨迹(地点和时间)一致。如果确定行人511和车辆513处于ADV 101的路线中,则障碍物跟踪模块407可通知决策模块304和规划模块305,使得决策模块304和规划模块305基于感知的驾驶环境和具有盲点的后续图像来规划第二轨迹,以控制ADV避开行人511和车辆513。在另一个实施方式中,如果确定行人511和车辆513处于ADV101的路线中,则障碍物跟踪模块407可在恢复ADV的正常操作之前简单地使ADV减速到停止等待,直到被跟踪的障碍物不再处于ADV的路线中(例如,直到行人511穿过人行道,并且车辆513已经通过或在道路交叉口处已经减速到停止)。
在另一实施方式中,由感知辅助模块308接收的拍摄图像可被转发到感知模块302,以供感知模块302处理对象和/或特征(例如,行人511和车辆513)的拍摄图像。然后,感知模块302可触发预测模块303以预测行人511和车辆513是否将出现在ADV的路线中。基于此,决策模块304和规划模块305可基于这些信息和具有盲点信息的任何后续图像来规划第二轨迹,以控制ADV避开行人511和车辆513。
图6是示出根据一个实施方式的由ADV执行的方法的流程图。过程600可以由处理逻辑执行,处理逻辑可包括软件、硬件或其组合。例如,过程600可由图3A的感知辅助模块308执行。参考图6,在框601处,处理逻辑使用安装在ADV上的多个传感器来感知ADV周围的驾驶环境。在框602处,处理逻辑基于所感知的ADV周围的驾驶环境识别盲点。在框603处,响应于识别到盲点,处理逻辑从设置在盲点的预定距离内的图像拍摄装置接收具有盲点的图像。在框604处,处理逻辑基于图像识别ADV的盲点处的感兴趣的障碍物。在框605处,处理逻辑基于盲点处的感兴趣的障碍物生成轨迹,以控制ADV避开感兴趣的障碍物。
在一个实施方式中,基于所感知的ADV周围的驾驶环境识别盲点包括:确定ADV的视场,基于感知的驾驶环境确定一个或多个障碍物,以及将盲点识别为视场的被一个或多个障碍物阻挡的一个或多个视角。在一个实施方式中,图像拍摄装置包括安装在道路交叉口处的一个或多个相机。在另一实施方式中,一个或多个相机在一个或多个交通流方向上安装在道路交叉口处,以监视在那些方向进入上的车辆。
在一个实施方式中,感兴趣的障碍物包括以下中的至少一项:车辆、障碍物和行人。在一个实施方式中,控制ADV以避开感兴趣的障碍物包括:在恢复ADV的正常操作之前,将ADV减速到停止以进行等待,直到障碍物不再处于ADV的路线中。
图7是示出根据一个实施方式的由ADV执行的方法的流程图。过程700可以由处理逻辑执行,处理逻辑可包括软件、硬件或其组合。例如,过程700可由图3A的感知辅助模块308执行。参考图7,在框701处,处理逻辑确定是否存在感兴趣的障碍物。如果是,则在框702处,处理逻辑从图像拍摄装置接收具有盲点的后续图像。在框703处,处理逻辑使用后续图像跟踪感兴趣的障碍物,以确定感兴趣的障碍物是否处于ADV的路线中。在框704处,如果确定感兴趣的障碍物处于ADV的路线中(例如,与ADV的当前规划轨迹相交),则处理逻辑基于感知驾驶环境和具有盲点的后续图像生成第二轨迹,以控制ADV避开感兴趣的障碍物。
应注意,如上文示出和描述的部件中的一些或全部可以在软件、硬件或其组合中实施。例如,此类部件可以实施为安装并存储在永久性存储装置中的软件,所述软件可以通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。替代地,此类部件可以实施为编程或嵌入到专用硬件(诸如,集成电路(例如,专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码,所述可执行代码可以经由来自应用的相应驱动程序和/或操作系统来访问。此外,此类部件可以实施为处理器或处理器内核中的特定硬件逻辑,作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
图8是示出可以与本公开的一个实施方式一起使用的数据处理系统的示例的框图。例如,系统1500可以表示以上所述的执行上述过程或方法中的任一个的任何数据处理系统,例如,图1的感知与规划系统110、感知辅助服务125、或者服务器103至104中的任一个。系统1500可以包括许多不同的部件。这些部件可以实施为集成电路(IC)、集成电路的部分、分立电子装置或适用于电路板(诸如,计算机系统的主板或插入卡)的其它模块或者实施为以其它方式并入计算机系统的机架内的部件。
还应注意,系统1500旨在示出计算机系统的许多部件的高阶视图。然而,应当理解的是,某些实施例中可以具有附加的部件,此外,其它实施例中可以具有所示部件的不同布置。系统1500可以表示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒体播放器、个人数字助理(PDA)、智能手表、个人通信器、游戏装置、网络路由器或集线器、无线接入点(AP)或中继器、机顶盒或其组合。此外,虽然仅示出了单个机器或系统,但是术语“机器”或“系统”还应当被理解为包括单独地或共同地执行一个(或多个)指令集以执行本文所讨论的任何一种或多种方法的机器或系统的任何集合。
在一个实施方式中,系统1500包括通过总线或互连件1510连接的处理器1501、存储器1503以及装置1505至1508。处理器1501可以表示其中包括单个处理器内核或多个处理器内核的单个处理器或多个处理器。处理器1501可以表示一个或多个通用处理器,诸如,微处理器、中央处理单元(CPU)等。更具体地,处理器1501可以是复杂指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、或实施其它指令集的处理器、或实施指令集组合的处理器。处理器1501还可以是一个或多个专用处理器,诸如,专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指令的任何其它类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口,诸如超低电压处理器)可以充当用于与所述系统的各种部件通信的主处理单元和中央集线器。这种处理器可以实施为片上系统(SoC)。处理器1501被配置成执行用于执行本文所讨论的操作和步骤的指令。系统1500还可以包括与可选的图形子系统1504通信的图形接口,图形子系统1504可以包括显示控制器、图形处理器和/或显示装置。
处理器1501可以与存储器1503通信,存储器1503在一个实施方式中可以经由多个存储器装置实施以提供给定量的系统存储。存储器1503可以包括一个或多个易失性存储(或存储器)装置,诸如,随机存取存储器(RAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、静态RAM(SRAM)或者其它类型的存储装置。存储器1503可以存储包括由处理器1501或任何其它装置执行的指令序列的信息。例如,各种操作系统、装置驱动程序、固件(例如,输入输出基本系统或BIOS)和/或应用的可执行代码和/或数据可以加载到存储器1503中并由处理器1501执行。操作系统可以是任何类型的操作系统,例如,机器人操作系统(ROS)、来自公司的操作系统、来自苹果公司的Mac来自公司的LINUX、UNIX,或者其它实时或嵌入式操作系统。
系统1500还可以包括IO装置,诸如装置1505至1508,包括网络接口装置1505、可选的输入装置1506,以及其它可选的IO装置1507。网络接口装置1505可以包括无线收发器和/或网络接口卡(NIC)。所述无线收发器可以是WiFi收发器、红外收发器、蓝牙收发器、WiMax收发器、无线蜂窝电话收发器、卫星收发器(例如,全球定位系统(GPS)收发器)或其它射频(RF)收发器或者它们的组合。NIC可以是以太网卡。
输入装置1506可以包括鼠标、触摸板、触敏屏幕(其可以与显示装置1504集成在一起)、指针装置(诸如,手写笔)和/或键盘(例如,物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如,输入装置1506可以包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例如可以使用多种触敏技术(包括但不限于电容、电阻、红外和表面声波技术)中的任一种,以及其它接近传感器阵列或用于确定与触摸屏接触的一个或多个点的其它元件来检测其接触和移动或间断。
IO装置1507可以包括音频装置。音频装置可以包括扬声器和/或麦克风,以促进支持语音的功能,诸如语音识别、语音复制、数字记录和/或电话功能。其它IO装置1507还可以包括通用串行总线(USB)端口、并行端口、串行端口、打印机、网络接口、总线桥(例如,PCI-PCI桥)、传感器(例如,诸如加速度计运动传感器、陀螺仪、磁强计、光传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可以包括成像处理子系统(例如,相机),所述成像处理子系统可以包括用于促进相机功能(诸如,记录照片和视频片段)的光学传感器,诸如电荷耦合装置(CCD)或互补金属氧化物半导体(CMOS)光学传感器。某些传感器可以经由传感器集线器(未示出)联接到互连件1510,而诸如键盘或热传感器的其它装置可以根据系统1500的具体配置或设计由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作系统等信息的永久性存储,大容量存储设备(未示出)也可以联接到处理器1501。在各种实施方式中,为了实现更薄且更轻的系统设计并且改进系统响应性,这种大容量存储设备可以经由固态装置(SSD)来实施。然而,在其它实施方式中,大容量存储设备可以主要使用硬盘驱动器(HDD)来实施,其中较小量的SSD存储设备充当SSD高速缓存以在断电事件期间实现上下文状态以及其它此类信息的非易失性存储,从而使得在系统活动重新启动时能够实现快速通电。另外,闪存装置可以例如经由串行外围接口(SPI)联接到处理器1501。这种闪存装置可以提供系统软件的非易失性存储,所述系统软件包括所述系统的BIOS以及其它固件。
存储装置1508可以包括计算机可访问的存储介质1509(也被称为机器可读存储介质或计算机可读介质),其上存储有体现本文所述的任何一种或多种方法或功能的一个或多个指令集或软件(例如,模块、单元和/或逻辑1528)。处理模块/单元/逻辑1528可以表示上述部件中的任一个,例如图3A的感知辅助模块308和图像处理引擎309。处理模块/单元/逻辑1528还可以在其由数据处理系统1500、存储器1503和处理器1501执行期间完全地或至少部分地驻留在存储器1503内和/或处理器1501内,数据处理系统1500、存储器1503和处理器1501也构成机器可访问的存储介质。处理模块/单元/逻辑1528还可以通过网络经由网络接口装置1505进行传输或接收。
计算机可读存储介质1509也可以用来永久性地存储以上描述的一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被示为单个介质,但是术语“计算机可读存储介质”应当被认为包括存储所述一个或多个指令集的单个介质或多个介质(例如,集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介质”还应当被认为包括能够存储或编码指令集的任何介质,所述指令集用于由机器执行并且使得所述机器执行本公开的任何一种或多种方法。因此,术语“计算机可读存储介质”应当被认为包括但不限于固态存储器以及光学介质和磁性介质,或者任何其它非暂时性机器可读介质。
本文所述的处理模块/单元/逻辑1528、部件以及其它特征可以实施为分立硬件部件或集成在硬件部件(诸如,ASICS、FPGA、DSP或类似装置)的功能中。此外,处理模块/单元/逻辑1528可以实施为硬件装置内的固件或功能电路。此外,处理模块/单元/逻辑1528可以以硬件装置和软件部件的任何组合来实施。
应注意,虽然系统1500被示出为具有数据处理系统的各种部件,但是并不旨在表示使部件互连的任何特定架构或方式;因为此类细节和本公开的实施方式没有密切关系。还应当认识到,具有更少部件或可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/或其它数据处理系统也可以与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式,以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中,算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而,应当牢记,所有这些和类似的术语均旨在与适当的物理量关联,并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出,否则应当了解,在整个说明书中,利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或类似电子计算装置的动作和处理,所述计算机系统或电子计算装置操控计算机系统的寄存器和存储器内的表示为物理(电子)量的数据,并将所述数据变换成计算机系统存储器或寄存器或者其它此类信息存储设备、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序被存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如,计算机)可读的形式存储信息的任何机构。例如,机器可读(例如,计算机可读)介质包括机器(例如,计算机)可读存储介质(例如,只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可以由处理逻辑来执行,所述处理逻辑包括硬件(例如,电路、专用逻辑等)、软件(例如,体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的,但是应当了解,所述操作中的一些可以按不同的顺序执行。此外,一些操作可以并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到,可以使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中,已经参考本公开的具体示例性实施方式对本公开的实施方式进行了描述。将显而易见的是,在不脱离所附权利要求书中阐述的本公开的更宽泛精神和范围的情况下,可以对本公开作出各种修改。因此,应当在说明性意义而不是限制性意义上来理解本说明书和附图。
Claims (17)
1.一种用于操作自动驾驶车辆的计算机实施的方法,所述方法包括:
使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;
基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;
响应于识别到所述盲点,基于所述自动驾驶车辆的当前地理位置识别位于所述盲点的预定距离内的图像拍摄装置,并从所识别的图像拍摄装置接收涵盖所述盲点的图像;
基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及
基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物,
其中,基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点包括:
识别所述自动驾驶车辆的视场;
基于所感知的驾驶环境识别一个或多个行驶的其它车辆;以及
将所述盲点识别为所述视场的、被所述一个或多个行驶的其它车辆阻挡的一个或多个视角。
2.根据权利要求1所述的计算机实施的方法,其中,所述图像拍摄装置包括安装在道路交叉口处的一个或多个相机。
3.根据权利要求2所述的计算机实施的方法,其中,所述一个或多个相机在一个或多个交通流方向上安装在所述道路交叉口处,以监控在所述一个或多个交通流方向上进入的车辆。
4.根据权利要求1所述的计算机实施的方法,其中,所述感兴趣的障碍物包括以下中的至少一项:车辆、障碍物和行人。
5.根据权利要求1所述的计算机实施的方法,其中,控制所述自动驾驶车辆避开所述感兴趣的障碍物包括:在恢复所述自动驾驶车辆的正常操作之前,将所述自动驾驶车辆减速到停止以进行等待,直到所述感兴趣的障碍物不再处于所述自动驾驶车辆的路径中。
6.根据权利要求1所述的计算机实施的方法,还包括:
如果存在所述感兴趣的障碍物,则:
从所述图像拍摄装置接收涵盖所述盲点的后续图像;
使用所述后续图像跟踪所述感兴趣的障碍物以确定所述感兴趣的障碍物是否处于所述自动驾驶车辆的路线中;以及
如果确定所述感兴趣的障碍物处于所述自动驾驶车辆的路线中,基于所感知的驾驶环境和涵盖所述盲点的所述后续图像生成第二轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
7.根据权利要求1所述的计算机实施的方法,其中,如果预测在预定时间段内所跟踪的感兴趣的障碍物与所述自动驾驶车辆的轨迹重叠,则所述感兴趣的障碍物处于所述自动驾驶车辆的路线中。
8.一种存储有指令的非暂时性机器可读介质,所述指令在由一个或多个处理器执行时使所述一个或多个处理器执行操作,所述操作包括:
使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;
基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;
响应于识别到所述盲点,基于所述自动驾驶车辆的当前地理位置识别位于所述盲点的预定距离内的图像拍摄装置,并从所识别的图像拍摄装置接收涵盖所述盲点的图像;
基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及
基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物,
其中,基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点包括:
识别所述自动驾驶车辆的视场;
基于所感知的驾驶环境识别一个或多个行驶的其它车辆;以及
将所述盲点识别为所述视场的、被所述一个或多个行驶的其它车辆阻挡的一个或多个视角。
9.根据权利要求8所述的非暂时性机器可读介质,其中,所述图像拍摄装置包括安装在道路交叉口处的一个或多个相机。
10.根据权利要求9所述的非暂时性机器可读介质,其中,所述一个或多个相机在一个或多个交通流方向上安装在所述道路交叉口处,以监控在所述一个或多个交通流方向上进入的车辆。
11.根据权利要求8所述的非暂时性机器可读介质,其中,所述感兴趣的障碍物包括以下中的至少一项:车辆、障碍物和行人。
12.根据权利要求8所述的非暂时性机器可读介质,其中,控制所述自动驾驶车辆避开所述感兴趣的障碍物包括:在恢复所述自动驾驶车辆的正常操作之前,将所述自动驾驶车辆减速到停止以进行等待,直到所述感兴趣的障碍物不再处于所述自动驾驶车辆的路径中。
13.根据权利要求8所述的非暂时性机器可读介质,还包括:
如果存在所述感兴趣的障碍物,则:
从所述图像拍摄装置接收涵盖所述盲点的后续图像;
使用所述后续图像跟踪所述感兴趣的障碍物以确定所述感兴趣的障碍物是否处于所述自动驾驶车辆的路线中;以及
如果确定所述感兴趣的障碍物处于所述自动驾驶车辆的路线中,基于所感知的驾驶环境和涵盖所述盲点的所述后续图像生成第二轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
14.根据权利要求8所述的非暂时性机器可读介质,其中,如果预测在预定时间段内所跟踪的感兴趣的障碍物与所述自动驾驶车辆的规划轨迹重叠,则所述感兴趣的障碍物处于所述自动驾驶车辆的路线中。
15.一种数据处理系统,包括:
一个或多个处理器;以及
存储器,联接到所述一个或多个处理器以存储指令,所述指令在由所述一个或多个处理器执行时使所述一个或多个处理器执行操作,所述操作包括:
使用安装在所述自动驾驶车辆上的多个传感器感知所述自动驾驶车辆周围的驾驶环境;
基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点;
响应于识别到所述盲点,基于所述自动驾驶车辆的当前地理位置识别位于所述盲点的预定距离内的图像拍摄装置,并从所识别的图像拍摄装置接收涵盖所述盲点的图像;
基于所述图像识别在所述自动驾驶车辆的所述盲点处的感兴趣的障碍物;以及
基于所述盲点处的所述感兴趣的障碍物生成轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物,
其中,基于所感知的所述自动驾驶车辆周围的驾驶环境识别盲点包括:
识别所述自动驾驶车辆的视场;
基于所感知的驾驶环境识别一个或多个行驶的其它车辆;以及
将所述盲点识别为所述视场的、被所述一个或多个行驶的其它车辆阻挡的一个或多个视角。
16.根据权利要求15所述的数据处理系统,其中,所述图像拍摄装置包括安装在道路交叉口处的一个或多个相机。
17.根据权利要求15所述的数据处理系统,还包括:
如果存在所述感兴趣的障碍物,则:
从所述图像拍摄装置接收涵盖所述盲点的后续图像;
使用所述后续图像跟踪所述感兴趣的障碍物以确定所述感兴趣的障碍物是否处于所述自动驾驶车辆的路线中;以及
如果确定所述感兴趣的障碍物处于所述自动驾驶车辆的路线中,基于所感知的驾驶环境和涵盖所述盲点的所述后续图像生成第二轨迹,以控制所述自动驾驶车辆避开所述感兴趣的障碍物。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/944,775 | 2018-04-03 | ||
US15/944,775 US10943485B2 (en) | 2018-04-03 | 2018-04-03 | Perception assistant for autonomous driving vehicles (ADVs) |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110347145A CN110347145A (zh) | 2019-10-18 |
CN110347145B true CN110347145B (zh) | 2022-07-22 |
Family
ID=68055402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910053846.4A Active CN110347145B (zh) | 2018-04-03 | 2019-01-21 | 用于自动驾驶车辆的感知辅助 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10943485B2 (zh) |
JP (1) | JP6892464B2 (zh) |
CN (1) | CN110347145B (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10816979B2 (en) * | 2018-08-24 | 2020-10-27 | Baidu Usa Llc | Image data acquisition logic of an autonomous driving vehicle for capturing image data using cameras |
US11231501B2 (en) * | 2019-09-26 | 2022-01-25 | Baidu Usa Llc | Front and side three-LIDAR design for autonomous driving vehicles |
US11945434B2 (en) * | 2019-11-08 | 2024-04-02 | Baidu Usa Llc | Delay decision making for autonomous driving vehicles in response to obstacles based on confidence level and distance |
US11584377B2 (en) * | 2019-11-21 | 2023-02-21 | Gm Cruise Holdings Llc | Lidar based detection of road surface features |
CN112829762A (zh) * | 2019-11-25 | 2021-05-25 | 华为技术有限公司 | 一种车辆行驶速度生成方法以及相关设备 |
US10906559B1 (en) * | 2020-01-06 | 2021-02-02 | Mando Corporation | Apparatus for assisting driving of a vehicle and method thereof |
US11360488B2 (en) * | 2020-01-07 | 2022-06-14 | International Business Machines Corporation | Dynamic relative position reassignment of vehicle in autonomous vehicles ecosystem |
CN111242986B (zh) * | 2020-01-07 | 2023-11-24 | 阿波罗智能技术(北京)有限公司 | 跨相机的障碍物跟踪方法、装置、设备、系统及介质 |
JP7478552B2 (ja) * | 2020-03-02 | 2024-05-07 | 本田技研工業株式会社 | 車両通信システム、プログラム、及び監視対象物検知方法 |
DE102020107108A1 (de) * | 2020-03-16 | 2021-09-16 | Kopernikus Automotive GmbH | Verfahren und System zum autonomen Fahren eines Fahrzeugs |
CN111489564A (zh) * | 2020-04-23 | 2020-08-04 | 新石器慧通(北京)科技有限公司 | 无人驾驶交通工具的驾驶方法、装置及系统 |
CN111582173A (zh) * | 2020-05-08 | 2020-08-25 | 东软睿驰汽车技术(沈阳)有限公司 | 一种自动驾驶的方法及系统 |
EP4182765A4 (en) * | 2020-07-14 | 2024-08-07 | Argo Ai Llc | METHOD AND SYSTEM FOR ENHANCING THE AWARENESS OF AN AUTONOMOUS VEHICLE USING INTELLIGENT NODES |
US11403943B2 (en) * | 2020-07-14 | 2022-08-02 | Argo AI, LLC | Method and system for vehicle navigation using information from smart node |
US11473917B2 (en) * | 2020-07-14 | 2022-10-18 | Argo AI, LLC | System for augmenting autonomous vehicle perception using smart nodes |
US20220019225A1 (en) * | 2020-07-14 | 2022-01-20 | Argo AI, LLC | Smart node for autonomous vehicle perception augmentation |
CN112158197B (zh) * | 2020-08-21 | 2021-08-27 | 恒大新能源汽车投资控股集团有限公司 | 一种车辆盲区障碍物规避方法、装置及系统 |
US11726471B2 (en) * | 2020-08-27 | 2023-08-15 | Waymo Llc | Methods and systems for gradually adjusting vehicle sensor perspective using remote assistance |
CN112652176B (zh) * | 2020-12-09 | 2022-05-10 | 东风汽车集团有限公司 | 基于相邻车辆运动状态的预警方法、系统及车辆 |
US11462021B2 (en) * | 2021-01-13 | 2022-10-04 | GM Global Technology Operations LLC | Obstacle detection and notification for motorcycles |
JP7484758B2 (ja) | 2021-02-09 | 2024-05-16 | トヨタ自動車株式会社 | ロボット制御システム |
CN114348023B (zh) * | 2022-01-25 | 2024-08-20 | 北京三快在线科技有限公司 | 一种基于盲区的无人驾驶设备控制方法及装置 |
CN117136395A (zh) * | 2022-03-25 | 2023-11-28 | 京东方科技集团股份有限公司 | 数据共享方法、车载设备、云服务器、系统、设备和介质 |
CN115384552B (zh) * | 2022-09-29 | 2024-09-06 | 阿波罗智能技术(北京)有限公司 | 自动驾驶车辆的控制方法、装置和自动驾驶车辆 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106004876A (zh) * | 2015-03-31 | 2016-10-12 | 丰田自动车工程及制造北美公司 | 用于自动驾驶系统的基于间隙的速度控制 |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001315603A (ja) * | 2000-05-09 | 2001-11-13 | Matsushita Electric Ind Co Ltd | 運転支援装置 |
JP4604683B2 (ja) | 2004-11-25 | 2011-01-05 | 日産自動車株式会社 | 危険状況警報装置 |
US8050863B2 (en) * | 2006-03-16 | 2011-11-01 | Gray & Company, Inc. | Navigation and control system for autonomous vehicles |
JP5053776B2 (ja) * | 2007-09-14 | 2012-10-17 | 株式会社デンソー | 車両用視界支援システム、車載装置、及び、情報配信装置 |
JP5208203B2 (ja) * | 2008-03-27 | 2013-06-12 | パナソニック株式会社 | 死角表示装置 |
JP5045812B2 (ja) * | 2008-06-24 | 2012-10-10 | トヨタ自動車株式会社 | 死角表示装置及び運転支援装置 |
US9586525B2 (en) * | 2011-11-28 | 2017-03-07 | Robert Bosch Gmbh | Camera-assisted blind spot detection |
WO2015002885A1 (en) * | 2013-07-01 | 2015-01-08 | Rwd Consulting, Inc. | Vehicle visibility improvement system |
JP6065296B2 (ja) * | 2014-05-20 | 2017-01-25 | パナソニックIpマネジメント株式会社 | 画像表示システム、および画像表示システムに用いられるディスプレイ |
JP6349987B2 (ja) * | 2014-06-09 | 2018-07-04 | 日本精機株式会社 | 死角補助装置 |
US9409644B2 (en) * | 2014-07-16 | 2016-08-09 | Ford Global Technologies, Llc | Automotive drone deployment system |
JP6424611B2 (ja) * | 2014-07-24 | 2018-11-21 | 日本精機株式会社 | 死角補助装置 |
JP6222137B2 (ja) * | 2015-03-02 | 2017-11-01 | トヨタ自動車株式会社 | 車両制御装置 |
SE539097C2 (en) * | 2015-08-20 | 2017-04-11 | Scania Cv Ab | Method, control unit and system for avoiding collision with vulnerable road users |
KR101619838B1 (ko) * | 2015-12-09 | 2016-05-13 | 공간정보기술 주식회사 | 다수 스테레오 카메라를 이용한 피사체 공간이동 추적 시스템 |
US20170287338A1 (en) * | 2016-04-05 | 2017-10-05 | Ford Global Technologies, Llc | Systems and methods for improving field of view at intersections |
US10377375B2 (en) * | 2016-09-29 | 2019-08-13 | The Charles Stark Draper Laboratory, Inc. | Autonomous vehicle: modular architecture |
US20180087907A1 (en) * | 2016-09-29 | 2018-03-29 | The Charles Stark Draper Laboratory, Inc. | Autonomous vehicle: vehicle localization |
US10209718B2 (en) * | 2017-03-14 | 2019-02-19 | Starsky Robotics, Inc. | Vehicle sensor system and method of use |
US20180372875A1 (en) * | 2017-06-27 | 2018-12-27 | Uber Technologies, Inc. | Sensor configuration for an autonomous semi-truck |
CN112731911A (zh) * | 2017-09-27 | 2021-04-30 | 北京图森智途科技有限公司 | 一种路侧设备、车载设备以及自动驾驶感知方法及系统 |
US20190100145A1 (en) * | 2017-10-02 | 2019-04-04 | Hua-Chuang Automobile Information Technical Center Co., Ltd. | Three-dimensional image driving assistance device |
US11052913B2 (en) * | 2017-10-23 | 2021-07-06 | Uatc, Llc | Cargo trailer sensor assembly |
US10705193B2 (en) * | 2017-12-07 | 2020-07-07 | Ouster, Inc. | Monitoring of vehicles using light ranging systems |
US10902165B2 (en) * | 2018-01-09 | 2021-01-26 | The Charles Stark Draper Laboratory, Inc. | Deployable development platform for autonomous vehicle (DDPAV) |
US10761534B2 (en) * | 2018-01-30 | 2020-09-01 | Uatc, Llc | Fused sensor view for self-driving truck |
US10882521B2 (en) * | 2018-02-21 | 2021-01-05 | Blackberry Limited | Method and system for use of sensors in parked vehicles for traffic safety |
US10884119B2 (en) * | 2018-06-08 | 2021-01-05 | Ford Global Technologies, Llc | Object tracking in blind-spot |
US10688985B2 (en) * | 2018-06-15 | 2020-06-23 | Pony Ai Inc. | Systems and methods for implementing a preemptive control for an autonomous vehicle to improve ride quality |
US10845806B2 (en) * | 2018-07-31 | 2020-11-24 | GM Global Technology Operations LLC | Autonomous vehicle control using prior radar space map |
IT201800009792A1 (it) * | 2018-10-25 | 2020-04-25 | Ambarella Inc | Obstacle detection in vehicle using wide angle camera and radar sensor fusion |
US20200167573A1 (en) * | 2018-11-27 | 2020-05-28 | GM Global Technology Operations LLC | Method and apparatus for object detection in camera blind zones |
US10996680B2 (en) * | 2018-12-31 | 2021-05-04 | Siemens Industry Software Inc. | Environmental perception in autonomous driving using captured audio |
WO2020150079A1 (en) * | 2019-01-16 | 2020-07-23 | Gentex Corporation | Blind spot reduction system |
-
2018
- 2018-04-03 US US15/944,775 patent/US10943485B2/en active Active
-
2019
- 2019-01-21 CN CN201910053846.4A patent/CN110347145B/zh active Active
- 2019-02-18 JP JP2019026741A patent/JP6892464B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106004876A (zh) * | 2015-03-31 | 2016-10-12 | 丰田自动车工程及制造北美公司 | 用于自动驾驶系统的基于间隙的速度控制 |
Also Published As
Publication number | Publication date |
---|---|
JP6892464B2 (ja) | 2021-06-23 |
US10943485B2 (en) | 2021-03-09 |
US20190304310A1 (en) | 2019-10-03 |
CN110347145A (zh) | 2019-10-18 |
JP2019182402A (ja) | 2019-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110347145B (zh) | 用于自动驾驶车辆的感知辅助 | |
CN110239562B (zh) | 自动驾驶车辆的基于周围车辆行为的实时感知调整与驾驶调适 | |
CN110667598B (zh) | 用于处理自动驾驶车辆中的传感器故障的方法 | |
CN111076732B (zh) | 基于车辆行驶的轨迹标记和生成高清地图的标记方案 | |
US11269352B2 (en) | System for building a vehicle-to-cloud real-time traffic map for autonomous driving vehicles (ADVS) | |
CN111247495B (zh) | 用于自动驾驶车辆的低速场景的行人交互系统 | |
CN110389583B (zh) | 生成自动驾驶车辆的轨迹的方法 | |
CN111061261B (zh) | 使用标准导航地图与基于车辆的先前轨迹确定的车道配置的自动驾驶方法 | |
US11367354B2 (en) | Traffic prediction based on map images for autonomous driving | |
CN110597243B (zh) | 自动驾驶车辆的基于v2x通信的车辆车道系统 | |
CN111328411B (zh) | 用于自动驾驶车辆的行人概率预测系统 | |
CN108733046B (zh) | 用于自动驾驶车辆的轨迹重新规划的系统和方法 | |
CN110349416B (zh) | 用于自动驾驶车辆(adv)的基于密度的交通灯控制系统 | |
CN109491378B (zh) | 自动驾驶车辆的基于道路分段的路线引导系统 | |
CN111712417B (zh) | 用于自动驾驶车辆的、基于隧道的规划系统 | |
CN110621541B (zh) | 用于生成轨迹以操作自动驾驶车辆的方法和系统 | |
CN111857118B (zh) | 对停车轨迹分段以控制自动驾驶车辆停车 | |
CN111044057A (zh) | 用于自动驾驶车辆的基于先前驾驶轨迹的实时地图生成方案 | |
CN110727276A (zh) | 用于自动驾驶车辆的多模态运动规划框架 | |
CN111857119A (zh) | 用于停放自动驾驶车辆的停车管理架构 | |
CN111615476A (zh) | 用于自动驾驶车辆的基于螺旋曲线的竖直停车规划系统 | |
CN111103876A (zh) | 自动驾驶车辆的基于雷达通信的扩展感知 | |
CN111328313A (zh) | 用于自动驾驶车辆的控制占主导的三点转弯规划 | |
CN111615477A (zh) | 自动驾驶车辆中的非避开规划系统的障碍物过滤的方法 | |
CN111328385A (zh) | 用于自动驾驶车辆的基于螺旋路径的三点转弯规划 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |