KR102551208B1 - 차량의 교통 신호등 검출 시스템 - Google Patents

차량의 교통 신호등 검출 시스템 Download PDF

Info

Publication number
KR102551208B1
KR102551208B1 KR1020200171473A KR20200171473A KR102551208B1 KR 102551208 B1 KR102551208 B1 KR 102551208B1 KR 1020200171473 A KR1020200171473 A KR 1020200171473A KR 20200171473 A KR20200171473 A KR 20200171473A KR 102551208 B1 KR102551208 B1 KR 102551208B1
Authority
KR
South Korea
Prior art keywords
vehicle
traffic
processors
digital video
traffic light
Prior art date
Application number
KR1020200171473A
Other languages
English (en)
Other versions
KR20210108867A (ko
Inventor
마리아 앙뚜아네뜨 메이여부르크
폴 슈미트
필립 로벨
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20210108867A publication Critical patent/KR20210108867A/ko
Priority to KR1020230084162A priority Critical patent/KR20230104836A/ko
Application granted granted Critical
Publication of KR102551208B1 publication Critical patent/KR102551208B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/18—Propelling the vehicle
    • B60W30/18009—Propelling the vehicle related to particular drive situations
    • B60W30/18154—Approaching an intersection
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/3453—Special cost functions, i.e. other than distance or default speed limit of road segments
    • G01C21/3492—Special cost functions, i.e. other than distance or default speed limit of road segments employing speed data or traffic data, e.g. real-time or historical
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3691—Retrieval, searching and output of information related to real-time traffic, weather, or environmental conditions
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42—Determining position
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42—Determining position
    • G01S19/48—Determining position by combining or switching between position solutions derived from the satellite radio beacon positioning system and position solutions derived from a further system
    • G01S19/485—Determining position by combining or switching between position solutions derived from the satellite radio beacon positioning system and position solutions derived from a further system whereby the further system is an optical system or imaging system
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/16—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using electromagnetic waves other than radio waves
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/292—Multi-camera tracking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/56—Extraction of image or video features relating to colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/01—Detecting movement of traffic to be counted or controlled
    • G08G1/0104—Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108—Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0116—Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/095—Traffic lights
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/09—Arrangements for giving variable traffic instructions
    • G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0968—Systems involving transmission of navigation instructions to the vehicle
    • G08G1/096805—Systems involving transmission of navigation instructions to the vehicle where the transmitted instructions are used to compute a route
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • H04L67/025—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP] for remote control or remote monitoring of applications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/2866—Architectures; Arrangements
    • H04L67/30—Profiles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/52—Network services specially adapted for the location of the user terminal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02—Services making use of location information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/38—Services specially adapted for particular environments, situations or purposes for collecting sensor information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80—Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B60W2420/408—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/60—Traffic rules, e.g. speed limits or right of way
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00—Input parameters relating to data
    • B60W2556/45—External transmission of data to or from the vehicle
    • B60W2556/50—External transmission of data to or from the vehicle for navigation systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/13—Receivers
    • G01S19/14—Receivers specially adapted for specific applications
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Abstract

차량을 동작시키기 위한 방법은 제1 카메라에 의해 캡처되는 제1 디지털 비디오 스트림 및 제2 카메라에 의해 캡처되는 제2 디지털 비디오 스트림에 기초하여 제1 시공간적 위치에 위치되는 교통 신호등을 검출하는 단계를 포함한다. 센서로부터 수신되는 제1 위치 데이터를 제1 위치 데이터를 필터링함으로써 획득되는 제2 위치 데이터와 대조하여 검증함으로써 차량이 제2 시공간적 위치에 위치된다고 결정된다. 제2 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 교통 신호등이 제1 시공간적 위치에서 예상된다고 결정된다. 교통 신호등이 제1 시공간적 위치에서 예상된다고 결정한 것에 응답하여, 2개의 디지털 비디오 스트림에 기초하여 교통 신호등의 교통 신호가 검출된다. 교통 신호에 따라 궤적이 결정된다. 제어 회로는 궤적에 따라 차량을 동작시킨다.

Description

차량의 교통 신호등 검출 시스템{TRAFFIC LIGHT DETECTION SYSTEM FOR VEHICLE}
관련 출원의 상호 참조
본 출원은, 참조에 의해 그 전체가 본 명세서에 포함되는, 2020년 2월 26일자로 출원된 미국 가출원 제62/981,597호의 이익을 주장한다.
발명의 분야
이 설명은 일반적으로 차량의 동작 및 특히 차량의 교통 신호등 검출(traffic light detection) 시스템에 관한 것이다.
초기 위치로부터 최종 목적지까지 차량을 동작시키는 것은 종종 사용자 또는 차량의 의사 결정 시스템에 초기 위치로부터 최종 목적지까지의 도로망을 통한 루트를 선택할 것을 요구한다. 루트는 최대 운전 시간을 초과하지 않는 것과 같은 목표를 충족시키는 것을 수반할 수 있다. 복잡한 루트는 많은 결정을 요구할 수 있어, 전통적인 탐욕적 자율 주행 운전 알고리즘을 비실용적으로 만들 수 있다.
차량을 동작시키기 위한 방법은 차량의 하나 이상의 프로세서를 사용하여 제1 시공간적 위치에 위치되는 교통 신호등을 검출하는 단계를 포함한다. 검출은 차량의 제1 카메라에 의해 캡처되는 제1 디지털 비디오 스트림 및 차량의 제2 카메라에 의해 캡처되는 제2 디지털 비디오 스트림에 기초한다. 프로세서는 또한 차량이 제2 시공간적 위치에 위치되어 있다고 결정한다. 제2 시공간적 위치를 결정하기 위해, 프로세서는 차량의 다수의 센서를 사용하여 생성된 제1 위치 데이터를 제2 위치 데이터와 대조하여 검증한다. 제2 위치 데이터는 필터(예를 들면, 베이지안 필터, 칼만 필터 등)를 사용하여 제1 위치 데이터를 필터링함으로써 획득된다. 프로세서는 교통 신호등이 제2 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 제1 시공간적 위치에서 예상된다고 결정한다. 교통 신호등이 제1 시공간적 위치에서 예상된다고 결정하는 것에 응답하여, 프로세서는 제1 디지털 비디오 스트림 및 제2 디지털 비디오 스트림에 기초하여 교통 신호등의 교통 신호를 검출한다. 프로세서는 교통 신호에 따라 차량의 궤적을 결정한다. 차량의 제어 회로는 결정된 궤적에 따라 차량을 동작시킨다.
다른 양태에서, 차량의 하나 이상의 프로세서는 차량의 LiDAR, 차량의 RADAR로부터 센서 데이터를 수신하고, 차량의 글로벌 내비게이션 위성 시스템(global navigation satellite system; GNSS) 수신기로부터의 위치 데이터를 수신한다. 위치 데이터를 필터링함으로써 차량의 시공간적 위치를 결정하기 위해 프로세서에 의해 제1 필터(예를 들면, 베이지안 필터, 칼만 필터 등)가 실행된다. 시공간적 위치는 하나 이상의 주행 차선과 연관된다. 프로세서는 LiDAR, RADAR, 및 GNSS 수신기의 모듈식 리던던시(modular redundancy)에 기초한 위치 데이터와 대조하여 차량의 시공간적 위치를 검증한다. 프로세서는 차량의 조향 휠 센서 및 휠 센서로부터 주행 거리 측정 데이터를 수신한다. 주행 거리 측정 데이터를 필터링함으로써 차량이 특정 주행 차선에서 동작하고 있음을 결정하기 위해 프로세서에 의해 제2 필터가 실행된다. 프로세서는 차량의 카메라에 의해 캡처되는 디지털 비디오 스트림에 기초하여 특정 주행 차선에 대응하는 교통 신호등을 식별한다. 차량의 제어 회로는 교통 신호등의 교통 신호에 따라 차량을 동작시킨다.
다른 양태에서, 차량의 하나 이상의 프로세서는 차량의 카메라에 의해 캡처되는 디지털 비디오 스트림에 기초하여 교통 신호등의 교통 신호가 녹색 신호등으로부터 황색 신호등으로 전환되었다는 것을 검출한다. 프로세서는 차량의 전용 단거리 통신(dedicated short range communications; DSRC) 센서에 의해 수신되는 DSRC 메시지에 기초하여 교통 신호가 황색 신호등으로 전환되었다는 것을 검증한다. DSRC 메시지는 교통 신호등의 DSRC 송신기에 의해 송신된다. 프로세서는 디지털 비디오 스트림에 기초하여 특정 양의 시간 후에 교통 신호가 적색 신호등으로 전환될 것이라고 결정한다. 프로세서는 디지털 비디오 스트림에 기초하여 차량이 교통 신호등의 정지선으로부터 특정 거리에 위치되어 있다고 결정한다. 프로세서는 차량이 편의 프로파일(comfort profile)에 따라 특정 양의 시간 내에 정지선에서 정지할 수 있다고 결정한다. 이 결정은 특정 양의 시간 및 정지선으로부터의 특정 거리에 기초한다. 차량의 제어 회로는 편의 프로파일에 따라 특정 양의 시간 내에 차량을 정지선에서 정지시킨다.
다른 양태에서, 차량의 제어 회로는 차량의 궤적에 따라 특정 주행 차선에서 차량을 동작시킨다. 궤적은 교차로에서 좌회전하도록 차량에 지시한다. 차량의 하나 이상의 프로세서는 차량이 교차로에 접근하고 있다는 것을 검출한다. 프로세서는 차량의 하나 이상의 센서로부터 수신되는 센서 데이터에 기초하여 차량의 시공간적 위치를 결정한다. 프로세서는 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 교차로에서부터 차량까지의 거리를 결정한다. 프로세서는 센서 데이터에 기초하여 차량이 교차로에서 특정 주행 차선으로부터 좌회전할 수 있다고 결정한다. 센서 데이터는 특정 차선의 차선 마킹의 디지털 비디오 스트림을 포함한다. 프로세서는 교차로에 위치되는 교통 신호등의 교통 신호가 녹색 좌회전 화살표 또는 녹색 신호등 중 어느 하나인 것을 검출한다. 교통 신호가 녹색 좌회전 화살표인 것을 검출하는 것에 응답하여, 제어 회로는, 차량이 궤적에 따라 교차로에서 좌회전하도록, 차량을 동작시킨다.
그 중에서도, 본원에서 개시된 실시예의 이점 및 장점은, 운용 비용을 줄이고 충돌을 방지하면서, 교통 신호등 및 교통 신호를 처리하기 위해 자율 주행 차량에 의해 상이하고 복잡한 모션 세그먼트(motion segment)를 생성하고 평가하는 것을 포함한다. 개시된 실시예는 해당 차량은 물론 보행자 및 다른 차량에 대한 운행 안전성을 증가시킨다. 교통 신호등의 위치를 자동으로 예측하고 교통 신호의 전환을 식별함으로써, 차량은 승객 편의, 및 승객과 보행자의 안전을 향상시킬 수 있다. 더욱이, 차량의 마손 감소, 주행 시간 감소, 주행 거리 감소, 및 도로망에 있는 다른 차량에 대한 안전성 향상이 또한 달성된다.
이들 및 다른 양태, 특징, 및 구현예는 기능을 수행하기 위한 방법, 장치, 시스템, 컴포넌트, 프로그램 제품, 수단 또는 단계로서, 및 다른 방식으로 표현될 수 있다.
이들 및 다른 양태, 특징, 및 구현은, 청구항을 포함하여, 이하의 설명으로부터 명백해질 것이다.
도 1은 하나 이상의 실시예에 따른, 자율 주행 능력을 갖는 자율 주행 차량(autonomous vehicle; AV)의 일 예를 예시하는 블록 다이어그램이다.
도 2는 하나 이상의 실시예에 따른, 예시적인 "클라우드" 컴퓨팅 환경을 예시하는 블록 다이어그램이다.
도 3은 하나 이상의 실시예에 따른, 컴퓨터 시스템을 예시하는 블록 다이어그램이다.
도 4는 하나 이상의 실시예에 따른, AV에 대한 예시적인 아키텍처를 예시하는 블록 다이어그램이다.
도 5는 하나 이상의 실시예에 따른, 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 일 예를 예시하는 블록 다이어그램이다.
도 6은 하나 이상의 실시예에 따른, LiDAR 시스템의 일 예를 예시하는 블록 다이어그램이다.
도 7은 하나 이상의 실시예에 따른, 동작 중인 LiDAR 시스템을 예시하는 블록 다이어그램이다.
도 8은 하나 이상의 실시예에 따른, LiDAR 시스템의 동작을 추가적으로 상세히 예시하는 블록 다이어그램이다.
도 9는 하나 이상의 실시예에 따른, 계획 모듈의 입력과 출력 사이의 관계를 예시하는 블록 다이어그램이다.
도 10은 하나 이상의 실시예에 따른, 경로 계획에서 사용되는 방향 그래프(directed graph)를 예시한다.
도 11은 하나 이상의 실시예에 따른, 제어 모듈의 입력 및 출력의 블록 다이어그램을 예시하는 블록 다이어그램이다.
도 12는 하나 이상의 실시예에 따른, 제어기의 입력, 출력, 및 컴포넌트를 예시하는 블록 다이어그램이다.
도 13a는 하나 이상의 실시예에 따른, 차량의 교통 신호등 검출(TLD) 시스템을 예시하는 블록 다이어그램이다.
도 13b는 하나 이상의 실시예에 따른, 인지 모듈을 예시하는 블록 다이어그램이다.
도 13c는 하나 이상의 실시예에 따른, 매핑 모듈을 예시하는 블록 다이어그램이다.
도 13d는 하나 이상의 실시예에 따른, 로컬화 모듈을 예시하는 블록 다이어그램이다.
도 14는 하나 이상의 실시예에 따른, 예시적인 TLD 시나리오를 예시한다.
도 15는 하나 이상의 실시예에 따른, 차량의 TLD 시스템의 동작 프로세스를 예시하는 흐름 다이어그램이다.
도 16은 하나 이상의 실시예에 따른, 차량의 TLD 시스템의 동작 프로세스를 예시하는 흐름 다이어그램이다.
도 17은 하나 이상의 실시예에 따른, 차량의 TLD 시스템의 동작 프로세스를 예시하는 흐름 다이어그램이다.
도 18은 하나 이상의 실시예에 따른, 차량의 TLD 시스템의 동작 프로세스를 예시하는 흐름 다이어그램이다.
이하의 기술에서는, 설명 목적으로, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항이 기재된다. 그렇지만, 본 발명이 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.
도면에서, 설명을 용이하게 하기 위해, 디바이스, 모듈, 명령 블록 및 데이터 요소를 나타내는 것과 같은, 개략적 요소의 특정 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정한 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시한다는 것을 의미하지는 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시한다는 것을 의미하지는 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시한다는 것을 의미하지는 않는다.
게다가, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부존재는 연결, 관계 또는 연관이 존재할 수 없음을 암시한다는 것을 의미하지는 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되지 않는다. 추가적으로, 예시를 용이하게 하기 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 표현하기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령어의 통신을 표현하는 경우에, 본 기술 분야의 통상의 기술자라면, 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 표현한다는 것을 이해할 것이다.
그 예가 첨부 도면에 예시되어 있는, 실시예가 이제 상세히 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.
서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 각각 사용될 수 있는 여러 특징이 이하에서 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 임의의 것을 해결할 수 없거나 또는 위에서 논의된 문제들 중 단지 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부는 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:
1. 일반적 개관
2. 시스템 개관
3. 자율 주행 차량 아키텍처
4. 자율 주행 차량 입력
5. 자율 주행 차량 계획
6. 자율 주행 차량 제어
7. 교통 신호등 검출 시스템의 아키텍처
8. 교통 신호등 검출 시스템의 동작 프로세스
시스템 개관
도 1은 하나 이상의 실시예에 따른, 자율 주행 능력을 갖는 자율 주행 차량(100)의 일 예를 예시하는 블록 다이어그램이다.
본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량을 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작될 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.
본원에서 사용되는 바와 같이, 자율 주행 차량(AV)은 자율 주행 능력을 갖는 차량이다.
본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 일 예이다.
본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 동작시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭-오프(drop-off) 위치이다.
본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싼 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그 대 디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.
본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.
본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 고속도로 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물 내의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로 공식적으로 규정되지 않은 물리적 영역일 수 있다.
본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 한 부분이고, 차선 마킹들 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹들 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹을 갖는 도로는 차선 마킹 사이에 둘 이상의 차량을 수용할 수 있어서, 하나의 차량이 차선 마킹을 횡단하지 않고 다른 차량을 추월할 수 있으며, 따라서 차선 마킹 사이의 공간보다 협소한 차선을 갖거나 차선 마킹 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징, 예를 들어, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무에 기초하여 규정될 수 있다.
“하나 이상"은 기능이 하나의 요소에 의해 수행되는 것, 기능이 하나 초과의 요소에 의해, 예를 들면, 분산 방식으로, 수행되는 것, 여러 기능이 하나의 요소에 의해 수행되는 것, 여러 기능이 여러 요소에 의해 수행되는 것, 또는 이들의 임의의 조합을 포함한다.
제1, 제2 등과 같은 용어가, 일부 경우에, 다양한 요소를 기술하기 위해 본원에서 사용되지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 또한 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.
본원에 기술된 다양한 실시예의 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항의 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 표시하지 않는 한, 복수형을 포함하는 것으로 의도되어 있다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 열거된 연관 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. 게다가, "포함한다" 및/또는 "포함하는"이라는 용어는 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명기하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그의 그룹의 존재 또는 추가를 배제하지 않는다는 것도 이해될 것이다.
본원에서 사용되는 바와 같이, 용어 "~ 경우"는 선택적으로 문맥에 따라 "~할 때", 또는 "~시에" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정된다면" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는 선택적으로 문맥에 따라, "결정할 시에" 또는 "결정에 응답하여" 또는 "[언급된 조건 또는 이벤트]의 검출 시에" 또는 "[언급된 조건 또는 이벤트]의 검출에 응답하여"를 의미하는 것으로 해석된다.
본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는, 하드웨어, 소프트웨어, 저장된 데이터, 및 실시간으로 생성된 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 3과 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(300)과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.
일반적으로, 본 문서는 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량, 예컨대, 제각기 소위 레벨 5 차량, 레벨 4 차량 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 기술한다(차량의 자율성 레벨의 분류에 대한 추가 세부 사항에 대해서는, 참조에 의해 그 전체가 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본원에서 개시된 기술은 부분적 자율 주행 차량 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 자율 주행 차량으로부터 인간-운전 차량에 이르는, 임의의 레벨에 있는 차량에 혜택을 줄 수 있다.
도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 운전자, 및 다른 장애물)을 피하고 도로 법규(예를 들면, 동작 규칙 또는 운전 선호사항)를 준수하면서, 환경(190)을 통과하여 궤적(198)을 따라 AV(100)를 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드-도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.
일 실시예에서, AV 시스템(120)은, AV의 위치, 선형 속도 및 선형 가속도, 각속도 및 각가속도, 및 헤딩(heading)(예를 들면, AV(100)의 선단의 배향)과 같은, AV(100)의 상태 또는 조건의 속성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GNSS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.
일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지 또는 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, TOF(time-of-flight) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강우 센서.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령어 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 AV(100)를 향한 선형 헤딩(linear heading)과 각도 헤딩(angular heading)의 측정된 또는 추론된 속성을 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, 자율 주행 차량과의 통신 및 자율 주행 차량들 사이의 통신을 위한 하나 이상의 통신 표준을 준수한다.
일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 도 2에 기술된 바와 같은 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스(140)는 센서(121)로부터 수집된 데이터 또는 AV(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)에 송신한다. 일 실시예에서, 통신 인터페이스(140)는 원격 조작(teleoperation)에 관련되는 정보를 AV(100)에 송신한다. 일부 실시예에서, AV(100)는 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 시각(time of day)에 궤적(198)을 따라 이전에 주행한 적이 있는 차량의 운전 속성(예를 들면, 속력 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신될 수 있다.
AV(100) 상에 위치된 컴퓨팅 디바이스(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 운전 능력을 실행할 수 있게 한다.
일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 그로부터 입력을 수신하기 위해 컴퓨팅 디바이스(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 컨트롤러(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.
예시적인 클라우드 컴퓨팅 환경
도 2는 하나 이상의 실시예에 따른, 예시적인 "클라우드" 컴퓨팅 환경을 예시하는 블록 다이어그램이다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스(예를 들면, 네트워크, 네트워크 대역폭, 서버, 프로세싱, 메모리, 스토리지, 애플리케이션, 가상 머신, 및 서비스)의 공유 풀에 대한 편리한 온-디맨드 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템에서는, 하나 이상의 대규모 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스를 전달하는 데 사용되는 머신을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 데이터 센터(204a, 204b, 및 204c)는 클라우드 컴퓨팅 서비스를 클라우드(202)에 연결된 컴퓨터 시스템(206a, 206b, 206c, 206d, 206e, 및 206f)에 제공한다.
클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정한 부분을 구성하는 서버의 물리적 배열체를 지칭한다. 예를 들어, 서버는 클라우드 데이터 센터 내에 룸, 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 일부 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버는, 전력 요건, 에너지 요건, 열적 요건, 가열 요건, 및/또는 다른 요건을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요건에 기초하여 그룹으로 배열된다. 일 실시예에서, 서버 노드는 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 다수의 랙을 통해 분산된 다수의 컴퓨팅 시스템을 갖는다.
클라우드(202)는 클라우드 데이터 센터(204a, 204b, 및 204c)를 상호연결시키고 클라우드 컴퓨팅 서비스에 대한 컴퓨팅 시스템(206a 내지 206f)의 액세스를 용이하게 하는 것을 돕는 네트워크 및 네트워킹 리소스(예를 들어, 네트워킹 장비, 노드, 라우터, 스위치, 및 네트워킹 케이블)와 함께 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결을 사용하여 배포된 유선 또는 무선 링크를 사용하여 결합된 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 거쳐 교환되는 데이터는, IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은, 임의의 개수의 네트워크 계층 프로토콜을 사용하여 송신된다. 게다가, 네트워크가 다수의 서브 네트워크의 조합을 나타내는 실시예에서는, 기저 서브 네트워크(underlying sub-network) 각각에서 상이한 네트워크 계층 프로토콜이 사용된다. 일부 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.
컴퓨팅 시스템(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자는 네트워크 링크 및 네트워크 어댑터를 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다양한 컴퓨팅 디바이스, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, 자율 주행 차량(자동차, 드론, 셔틀, 기차, 버스 등을 포함함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다른 시스템 내에 또는 그 일부로서 구현된다.
컴퓨터 시스템
도 3은 하나 이상의 실시예에 따른, 컴퓨터 시스템(300)을 예시하는 블록 다이어그램이다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 펌웨어, 메모리, 다른 스토리지 또는 조합 내의 프로그램 명령어에 따라 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수-목적 컴퓨팅 디바이스는 또한 커스텀 고정-배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수-목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정-배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.
일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(302)와 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 프로세서(304)에 의해 실행될 명령어 및 정보를 저장하기 위해 버스(302)에 결합된, RAM(random access memory) 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(306)를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령어의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령어는, 프로세서(304)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(300)을 명령어에서 특정된 동작을 수행하도록 커스터마이징된 특수-목적 머신으로 만든다.
일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)를 위한 정적 정보 및 명령어를 저장하기 위해 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 추가로 포함한다. 자기 디스크, 광학 디스크, 솔리드-스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 정보 및 명령어를 저장하기 위해 버스(302)에 결합된다.
일 실시예에서, 컴퓨터 시스템(300)은 버스(302)를 통해, 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(312)에 결합된다. 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(314)는 정보 및 커맨드 선택을 프로세서(304)에 통신하기 위해 버스(302)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(304)에 통신하고 디스플레이(312) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(316)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 특정할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x-축) 및 제2 축(예를 들면, y-축)에서의 2 자유도를 갖는다.
일 실시예에 따르면, 본원에서의 기술은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령어의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령어는, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령어의 시퀀스의 실행은 프로세서(304)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서는, 소프트웨어 명령어 대신에 또는 소프트웨어 명령어와 조합하여 고정-배선 회로가 사용된다.
"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신으로 하여금 특정 방식으로 동작하게 하는 데이터 및/또는 명령어를 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드-스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드-스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.
저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 포함하는 와이어를 포함하여, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 광파 또는 음향파의 형태를 취할 수 있다.
일 실시예에서, 실행을 위해 하나 이상의 명령어의 하나 이상의 시퀀스를 프로세서(304)에 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령어는 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드-스테이트 드라이브에 보유된다. 원격 컴퓨터는 동적 메모리에 명령어를 로딩하고 모뎀을 사용하여 전화선을 통해 명령어를 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선 상으로 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 배치한다. 버스(302)는 데이터를 메인 메모리(306)로 반송하고, 프로세서(304)는 메인 메모리로부터 명령어를 검색 및 실행한다. 메인 메모리(306)에 의해 수신된 명령어는 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.
컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결된 네트워크 링크(320)에 대한 2-웨이 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.
네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)로의 연결 또는 ISP(Internet Service Provider)(326)에 의해 운영되는 클라우드 데이터 센터 또는 장비로의 연결을 제공한다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(322) 및 인터넷(328) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(300)으로 그리고 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.
컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해, 프로그램 코드를 포함하여, 메시지를 전송하고 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고 그리고/또는 추후의 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.
자율 주행 차량 아키텍처
도 4는 하나 이상의 실시예에 따른, 자율 주행 차량(예를 들면, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 예시하는 블록 다이어그램이다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(planning module)(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(localization module)(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈(402, 404, 406, 408, 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈(402, 404, 406, 408, 및 410) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능한 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다.
사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달하기 위해(예를 들면, 도착하기 위해) AV(100)에 의해 주행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.
인지 모듈(402)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(416)를 포함하는 장면 묘사는 계획 모듈(404)에 제공된다.
계획 모듈(404)은 또한 로컬화 모듈(408)로부터 AV 위치(418)를 나타내는 데이터를 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 글로벌 내비게이션 위성 시스템(GNSS) 유닛으로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 속성의 고-정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 및 자전거 운전자 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다.
제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)를 향해 궤적(414)을 주행하게 할 방식으로 AV의 제어 기능(420a 내지 420c)(예를 들면, 조향, 스로틀링, 제동, 점화)을 동작시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 왼쪽으로 회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로 제어 기능(420a 내지 420c)을 동작시킬 것이다.
자율 주행 차량 입력
도 5는 하나 이상의 실시예에 따른, 인지 모듈(402)(도 4)에 의해 사용되는 입력(502a 내지 502d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(504a 내지 504d)(예를 들면, 센서 데이터)의 일 예를 예시하는 블록 다이어그램이다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.
다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템(502b)은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.
다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지할 수 있게 하는, 예를 들어, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV에 상대적인 것이다. 사용 중에, 카메라 시스템은 멀리 있는, 예를 들어, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성될 수 있다. 따라서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 가질 수 있다.
다른 입력(502d)은 교통 신호등 검출(TLD) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상일 수 있다.
일부 실시예에서, 출력(504a 내지 504d)은 센서 융합 기술을 사용하여 조합된다. 따라서, 개별 출력(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템에 제공되거나(예를 들면, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 조합된 출력이 동일한 유형(동일한 조합 기술을 사용하는 것 또는 동일한 출력을 조합하는 것 또는 둘 모두)의 단일 조합 출력 또는 다중 조합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 조합 기술을 사용하는 것 또는 상이한 각자의 출력을 조합하는 것 또는 둘 모두)의 단일 조합 출력 또는 다중 조합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 조합 출력에 적용되기 전에 출력을 조합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력에 적용된 후에 출력을 조합하는 것을 특징으로 한다.
도 6은 하나 이상의 실시예에 따른, LiDAR 시스템(602)(예를 들면, 도 5에 도시된 입력(502a))의 일 예를 예시하는 블록 다이어그램이다. LiDAR 시스템(602)은 광 방출기(606)(예를 들면, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들면, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체를 관통하지 않는다). LiDAR 시스템(602)은 또한 반사된 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(614)를 나타내는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계(616)를 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계(616)를 결정하는 데 사용된다.
도 7은 하나 이상의 실시예에 따른, 동작 중인 LiDAR 시스템(602)을 예시하는 블록 다이어그램이다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템은 이미지(702)를 데이터 포인트(704)와 비교한다. 특히, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.
도 8은 하나 이상의 실시예에 따른, LiDAR 시스템(602)의 동작을 추가적으로 상세히 예시하는 블록 다이어그램이다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 다시 LiDAR 시스템(602)으로 반사할 것이다. AV(100)가 지면(802) 위를 주행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 내지 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트(810a 내지 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.
경로 계획
도 9는 하나 이상의 실시예에 따른, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력과 출력 사이의 관계를 예시하는 블록 다이어그램(900)이다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들면, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들면, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 정의된다. 예를 들어, 세그먼트는 거리, 도로, 공도, 사유 도로, 또는 자동차 주행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 주행되는 거리이다. 일부 예에서, 예를 들어, AV(100)가 4륜 구동(4WD) 또는 상시 4륜구동(AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프-로드 주행 가능 차량인 경우, 루트(902)는 비포장 경로 또는 탁트인 들판과 같은 "오프-로드" 세그먼트를 포함한다.
루트(902)에 추가하여, 계획 모듈은 차선-레벨 루트 계획 데이터(908)도 출력한다. 차선-레벨 루트 계획 데이터(908)는 특정한 시간에서의 세그먼트의 조건에 기초하여 루트(902)의 세그먼트를 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 공도를 포함하는 경우, 차선-레벨 루트 계획 데이터(908)는, 예를 들어, 출구가 다가오고 있는지, 차선 중 하나 이상이 다른 차량을 갖는지, 또는 수 분 이하 동안에 걸쳐 변화되는 다른 인자에 기초하여, AV(100)가 다중 차선 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예에서, 차선-레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자 또는 예상치 않은 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 더 느린 주행 속력, 예를 들면, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.
일 실시예에서, 계획 모듈(404)에의 입력은 (예를 들면, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들면, 도 4에 도시된 AV 위치(418)), (예를 들면, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들면, 도 4에 도시된 인지 모듈(402)에 의해 인지되는 분류된 대상체(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는 계획에 사용되는 규칙을 포함한다. 규칙은 형식 언어를 사용하여, 예를 들어, 불리언 로직을 사용하여 특정된다. AV(100)가 조우하는 임의의 주어진 상황에서, 규칙들 중 적어도 일부는 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들면, 주위 환경에 관한 정보에 기초하여 충족되는 조건을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙은 우선순위를 가질 수 있다. 예를 들어, "도로가 공도인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 낮은 우선순위를 가질 수 있다.
도 10은 하나 이상의 실시예에 따른, 예를 들어, 계획 모듈(404)(도 4)에 의해 경로 계획에 사용되는 방향 그래프(1000)를 예시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계에서는, 시작 포인트(1002)와 종료 포인트(1004)를 분리하는 거리는 상대적으로 클 수 있거나(예를 들면, 2개의 상이한 대도시 지역에 있음) 또는 상대적으로 작을 수 있다(예를 들면, 도시 블록과 맞닿아 있는 2개의 교차로 또는 다중 차선 도로의 2개의 차선).
일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치를 나타내는 노드(1006a 내지 1006d)를 갖는다. 일부 예에서, 예를 들면, 시작 포인트(1002) 및 종료 포인트(1004)가 상이한 대도시 지역을 나타낼 때, 노드(1006a 내지 1006d)는 도로의 세그먼트를 나타낸다. 일부 예에서, 예를 들면, 시작 포인트(1002) 및 종료 포인트(1004)가 동일한 도로 상의 상이한 위치를 나타낼 때, 노드(1006a 내지 1006d)는 해당 도로 상의 상이한 위치를 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 레벨의 입도(granularity)로 정보를 포함한다. 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 더 큰 스케일을 갖는 다른 방향 그래프의 하위그래프이다. 예를 들어, 시작 포인트(1002) 및 종료 포인트(1004)가 멀리 떨어져 있는(예를 들면, 수 마일(many miles) 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시야 내의 물리적 위치를 나타내는 그래프의 부분에 대한 일부 높은 입도 정보도 포함한다.
노드(1006a 내지 1006d)는 노드와 오버랩될 수 없는 대상체(1008a 및 1008b)와 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체(1008a 및 1008b)는 자동차에 의해 횡단될 수 없는 영역, 예를 들면, 거리 또는 도로가 없는 구역을 나타낸다. 입도가 높을 때, 대상체(1008a 및 1008b)는 AV(100)의 시야 내의 물리적 대상체, 예를 들면, 다른 자동차, 보행자, 또는 AV(100)와 물리적 공간을 공유할 수 없는 다른 엔티티를 나타낸다. 일 실시예에서, 대상체(1008a 내지 708b)의 일부 또는 전부는 정적 대상체(예를 들면, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체(예를 들면, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.
노드(1006a 내지 1006d)는 에지(1010a 내지 1010c)에 의해 연결된다. 2개의 노드(1006a 및 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들면, 다른 노드(1006b)에 도착하기 전에 중간 노드로 주행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 주행하는 것이 가능하다. (노드 사이에서 주행하는 AV(100)를 언급할 때, AV(100)가 각자의 노드에 의해 표현되는 2개의 물리적 위치 사이에서 주행한다는 것을 의미한다.) 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 주행한다는 의미에서 종종 양방향성이다. 일 실시예에서, 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로 주행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 주행할 수 없다는 의미에서 단방향성이다. 에지(1010a 내지 1010c)는, 예를 들어, 일방통행로, 거리, 도로, 또는 간선도로의 개별 차선, 또는 법적 또는 물리적 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부를 나타낼 때, 단방향성이다.
일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드 및 에지로 이루어진 경로(1012)를 식별한다.
에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스를 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2배인 물리적 거리를 나타내는 경우, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2배일 수 있다. 시간에 영향을 미치는 다른 인자는 예상된 교통상황, 교차로의 개수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비이다. 2개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들면, 도로 조건, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 많은 연료를 필요로 할 수 있다.
계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들면, 에지의 개별 비용이 함께 가산될 때 가장 적은 전체 비용을 갖는 경로를 선택한다.
자율 주행 차량 제어
도 11은 하나 이상의 실시예에 따른, (예를 들면, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력 및 출력을 예시하는 블록 다이어그램(1100)이다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들면, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들면, 메모리 랜덤-액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(1308), 및 저장 디바이스(210)를 포함하는 제어기(1102), 및 메모리 내에 저장된 명령어에 따라 동작하는데, 상기 명령어는 명령어가 (예를 들면, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작을 수행한다.
일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들어, 속력 및 헤딩을 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해, 예를 들면, 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여함으로써, AV(100)의 스로틀(예를 들면, 가속 제어)에 관여하는 정도를 나타낸다. 일부 예에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들면, 감속 제어)에 관여하는 데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들면, AV의 조향 컨트롤(예를 들면, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)가 원하는 출력(1104)을 달성하도록 위치설정되어야 하는 각도를 나타낸다.
일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 임의의 측정된 출력(1114)은, 예를 들어, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 헤딩을 포함), 측정된 가속도(1120), 및 AV(100)의 센서에 의해 측정 가능한 다른 출력을 포함한다.
일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들면, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 이후, 예측 피드백 모듈(1122)은 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서가 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 방지하도록 적절한 시간에 스로틀에 관여할 준비를 하기 위해 제어기(1102)에 의해 사용될 수 있다.
도 12는 하나 이상의 실시예에 따른, 제어기(1102)의 입력, 출력, 및 컴포넌트를 예시하는 블록 다이어그램(1200)이다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 동작에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들면, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 명령한다.
제어기(1102)는 또한 조향 제어기(1210)의 동작에 영향을 미치는 측방향 추적 제어기(1208)를 갖는다. 예를 들어, 측방향 추적 제어기(1208)는, 예를 들면, 제어기(1102)에 의해 수신되고 측방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향각 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1210)에 명령한다.
제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 동작을 시작할 때 헤딩을 선택하기 위해 그리고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력(1214)으로부터의 정보, 예를 들어, 데이터베이스, 컴퓨터 네트워크 등으로부터 수신된 정보를 수신한다.
교통 신호등 검출 시스템의 아키텍처
도 13은 하나 이상의 실시예에 따른, AV(100)의 교통 신호등 검출(TLD) 시스템(1300)을 예시하는 블록 다이어그램이다. AV(100)는 도 1을 참조하여 더 상세히 예시되고 기술되어 있다. 예시적인 TLD 시스템은 도 5에서 소개되고 기술되어 있다. 본원에서 개시된 실시예에서, "교통 신호등"이라는 용어는 원형 또는 정사각형 라이트를 포함하는 프레임 및 지지 하드웨어를 포함하여, 검출되는 하드웨어를 지칭한다. "교통 신호"라는 용어는 교통 신호등의 상태, 즉 교통 신호등이 적색 신호등, 깜박이는 황색 신호등, 녹색 회전 화살표 등인지를 지칭한다. 따라서 교통 신호등의 교통 신호는 교통을 안내(direct)하는 데 사용된다.
도 13에 예시된 예시적인 TLD 시스템(1300)은 인지 모듈(1304), 매핑 모듈(1340), 및 로컬화 모듈(1360)을 포함한다. 인지 모듈(1304)은 도 4를 참조하여 예시되고 기술된 인지 모듈(402)과 상이하다. 인지 모듈(1304)은 카메라 및 다른 센서를 포함하고, 무엇보다도, 교통 신호(1310)의 상태를 검출하는 데 사용된다. 인지 모듈(1304)은 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 인지 모듈(1304)은, 도 13b를 참조하여 더 상세히 예시되고 기술된 바와 같이, 교통 신호등(1404)의 교통 신호(1310)를 생성한다. 교통 신호등(1404)은 도 14를 참조하여 더 상세히 예시되고 기술되어 있다.
로컬화 모듈(1360)은 도 4를 참조하여 예시되고 기술된 로컬화 모듈(408)과 상이하다. 로컬화 모듈(1360)은, 무엇보다도, AV(100)의 위치 및 교통 신호등(1404)의 위치를 결정하는 데 사용된다. 로컬화 모듈(1360)은 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 매핑 모듈(1340)은, 무엇보다도, 교통 신호등(1404)의 위치를 예측하기 위해 환경(190)의 맵을 저장하고 그에 대한 검색 및 계산을 수행한다. 매핑 모듈(1340)은 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다.
TLD 시스템(1300)은 계획 모듈(404)로부터 궤적(198)을 수신한다. 궤적(198)은 도 1을 참조하여 더 상세히 예시되고 기술되어 있다. 계획 모듈(404)은 도 4를 참조하여 더 상세히 예시되고 기술되어 있다. AV(100)는 도 1을 참조하여 더 상세히 예시되고 기술된 환경(190) 내에서 동작하고 있다. 환경(190)은 AV(100), 하나 이상의 차량(193), 한 명 이상의 보행자(192), 교차로, 및 교통 신호등을 포함한다. 하나 이상의 차량(193) 및 한 명 이상의 보행자(192)는 도 1을 참조하여 더 상세히 예시되고 기술되어 있다.
도 13b는 하나 이상의 실시예에 따른, 인지 모듈(1304)을 예시하는 블록 다이어그램이다. 도 13c는 하나 이상의 실시예에 따른, 매핑 모듈(1340)을 예시하는 블록 다이어그램이다. 도 13d는 하나 이상의 실시예에 따른, 로컬화 모듈(1360)을 예시하는 블록 다이어그램이다. 일부 실시예에서, 도 13a, 도 13b, 도 13c에 예시된 컴포넌트는 도 13a, 도 13b, 도 13c에 예시된 바와 같이 연결된다. 다른 실시예에서, 도 13a, 도 13b, 도 13c에 도시된 연결들 중 일부가 생략되거나 또는 컴포넌트들 간의 추가 연결이 존재한다.
인지 모듈(1304)은 AV(100)의 카메라(1306a)에 의해 캡처되는 디지털 비디오 스트림(1308a)에 기초하여 제1 시공간적 위치에 위치된 교통 신호등을 검출한다. 예를 들어, 위치(1408)에 위치된 교통 신호등(1404)이 검출된다. 교통 신호등(1404) 및 위치(1408)는 도 14를 참조하여 더 상세히 예시되고 기술되어 있다. 카메라(1306a)는 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라일 수 있다. 디지털 비디오 스트림(1308a)은 인코딩된 디지털 데이터 형태의 움직이는 시각적 이미지의 전자적 표현이다. 회로(1324a)는 교통 신호등(1404)을 식별해주는 데이터(1326a)를 생성하기 위해 디지털 비디오 스트림(1308a)에 대해 이미지 프로세싱 및 인식 기능을 수행한다. 회로(1324a)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1324a)는 소프트웨어를 실행하는 범용 CPU를 포함한다.
제2 디지털 비디오 스트림(1308b)은 모듈식 리던던시를 위해 AV(100)의 제2 카메라(1306b)에 의해 캡처된다. 일부 실시예에서, 카메라(1306a)는 AV(100) 상의 제1 위치에, 예를 들어, 루프에 위치된다. 카메라(1306b)는 디지털 비디오 스트림(1308a)과 디지털 비디오 스트림(1308b)의 리던던시에 기초하여 교통 신호등(1404)의 검출에서의 정확도를 증가시키기 위해 AV(100) 상의 제2 위치에, 예를 들어, AV(100)의 측면에 또는 전방 범퍼 위에 위치된다.
디지털 비디오 스트림(1308a)과 디지털 비디오 스트림(1308b)이 회로(1324a, 1324b, 1320)에 의해 비교되어 차이를 결정하고 위치(1408)에 위치된 교통 신호등(1404)을 더 정확하게 검출할 수 있다. 회로(1324b, 1320)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1324b, 1320)는 소프트웨어를 실행하는 범용 CPU를 포함한다. 회로(1320)는 때때로 "교통 신호등 상태 검출" 모듈 또는 "교통 신호등 상태 비교" 모듈이라고 지칭된다. 회로(1322)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 AV(100)에 상대적인 교통 신호등(1404)의 위치(1408)를 결정하기 위해 AV(100)의 위치 데이터(로컬화 모듈(1360)에 의해 생성됨)를 사용한다. 회로(1322)는 때때로 "위치/관계 인식" 회로라고 지칭된다. 위치 데이터는 교통 신호등(1404)의 결정된 위치(1408)를 포함한다. 일부 실시예에서, 회로(1322)는 매핑 모듈(1340)에 의해 저장된 환경(190)의 시맨틱 맵(1342)에 기초하여 교통 신호등(1404)이 위치(1408)에서 예상된다고 결정한다. 회로(1348a, 1322)는 시맨틱 맵(1342)을 참조하기 위해 AV(100)의 결정된 시공간적 위치(1412)를 사용한다. 시공간적 위치(1412)는 도 14에 예시되어 있다. 따라서 회로(1322)는 교통 신호등 검출을 용이하게 하기 위해 AV(100)와 관련하여 교통 신호등(1404)을 로컬화한다. 회로(1322, 1348a)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1322, 1348a)는 소프트웨어를 실행하는 범용 CPU를 포함한다.
교통 신호등(1404)이 위치(1408)에서 예상된다고 결정하는 것에 응답하여, 회로(1320)는 디지털 비디오 스트림(1308a) 및 디지털 비디오 스트림(1308b)에 기초하여 교통 신호등(1404)의 교통 신호(1310)를 검출한다. 교통 신호(1310)를 검출하기 위해, 회로(1324a)는 디지털 비디오 스트림(1308a)의 적어도 하나의 이미지 프레임을 세그먼트화한다. 회로(1324a)는 교통 신호(1310)에 대응하는 적어도 하나의 이미지 프레임의 구역을 검출하기 위해 에지 검출을 사용한다. 예를 들어, 교통 신호등(1404)의 직사각형 프레임은 3개 이상의 원형 또는 정사각형 라이트를 포함한다. 회로(1324a)는 프레임 내의 직사각형 구역을 세그먼트화하여 라이트를 격리시킨다. 유사하게, 회로(1324b)는 교통 신호등(1404)의 프레임 내의 직사각형 구역을 세그먼트화하여 교통 신호(1310)를 검출하기 위해 디지털 비디오 스트림(1308b)을 프로세싱한다. 회로(1320, 1324b)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1320, 1324b)는 소프트웨어를 실행하는 범용 CPU를 포함한다.
인지 모듈(1300)은 N-모듈식 리던던시를 사용하여 교통 신호(1310)를 검출한다. 일부 실시예에서, N은 3이다. 다른 실시예에서, N은, 카메라의 개수에 따라, 4, 5, 6 등일 수 있다. 예를 들어, 교통 신호(1310)를 검출하기 위해, 회로(1324a, 1320)는 카메라(1306a)로부터의 디지털 비디오 스트림(1308a)에 기초하여 교통 신호(1310)가 제1 색상(예를 들어, 녹색)이라는 것을 검출한다. 회로(1324b, 1320)는 카메라(1306b)로부터의 디지털 비디오 스트림(1308b)에 기초하여 교통 신호(1310)가 제2 색상(예를 들어, 적색)이라는 것을 검출한다. 회로(1324c, 1320)는 AV(100)의 DSRC 센서(1316)에 의해 수신되는 DSRC 메시지(1318)에 기초하여 교통 신호(1310)가 제3 색상(예를 들어, 적색)이라는 것을 검출한다. 제3 색상(적색)이 제2 색상과 동일하다는 것을 검출하는 것에 응답하여, 회로(1320)는 교통 신호(1310)를 제2 색상(적색)과 연관시킨다.
카메라(1306a)가 작동하지 않거나, 디지털 비디오 스트림(1308a)에 레이턴시가 있거나, 또는 디지털 비디오 스트림(1308a)과 디지털 비디오 스트림(1308b) 간의 미스매치와 같은, 다른 이유로 교통 신호 검출이 실패할 때, 회로(1320)는 교통 신호등(1404)의 교통 신호(1310)를 검출하는 데 실패했음을 검출한다. 실패를 검출하는 것에 응답하여, 회로(1320)는 교통 신호(1310)를 적색 신호등과 연관시킨다. 따라서, 안전을 위해, 인지 모듈(1300)은, 회로(1320)가 교통 신호(1310)를 검출할 수 없을 때마다, 최악의 기본 시나리오로서 교통 신호등 상태를 적색 신호등으로 설정한다.
일 실시예에서, 회로(1320)는 데이터(1326a, 1326b)에 기초하여 교통 신호(1310)를 검출하기 위해 (예를 들어, 다수의 신경 네트워크를 사용하여) 머신 러닝을 수행한다. 예를 들어, 회로(1320)는 녹색 신호등을 검출하기 위한 제1 신경 네트워크 및 적색 신호등을 검출하기 위한 제2 신경 네트워크를 포함할 수 있다. 일부 실시예에서, 회로(1324a)는 디지털 비디오 스트림(1308a)으로부터 제1 특징 벡터를 추출한다. 제1 특징 벡터는 디지털 비디오 스트림(1308a)의 이미지 프레임의 콤팩트한 비-리던던트(non-redundant) 표현인 하나 이상의 특징, 예를 들어, 픽셀 강도 값 및 픽셀 좌표를 포함한다. 회로(1324b)는 디지털 비디오 스트림(1308b)으로부터 제2 특징 벡터를 추출한다. 교통 신호(1310)의 색상 또는 형상, 예를 들어, 적색 "우회전 금지" 화살표를 검출하기 위해 머신 러닝이 이어서 사용될 수 있다.
하나 초과의 신경 네트워크, 예를 들어, 적색 검출을 위한 하나의 신경 네트워크 및 녹색 검출을 위한 하나의 신경 네트워크가 트레이닝될 수 있다. 회로(1320)는 회로(1320) 내의 프로세서에 의해 실행되는 머신 러닝 모델을 포함한다. 머신 러닝 모델은 특징 벡터에 기초하여 교통 신호(1310)를 예측하는 데 사용된다. 예를 들어, 머신 러닝 모델은 대상체의 디지털 비디오 스트림으로부터 추출되는 특징에 기초하여 대상체의 색상을 인식하도록 이전에 트레이닝되었다. 머신 러닝 모델을 트레이닝시키는 것은 교통 신호등의 디지털 비디오 스트림으로부터 추출되는 특징 벡터에 기초하여 교통 신호등의 교통 신호를 인식하도록 머신 러닝 모델 내에서의 가중치 및 내부 연결을 구성하는 것을 포함한다. 일부 실시예에서, 머신 러닝 모델은 적색 신호등을 인식하도록 트레이닝된 제1 인공 신경 네트워크 및 녹색 신호등을 인식하도록 트레이닝된 제2 인공 신경 네트워크(예를 들면, 컨볼루션 신경 네트워크)를 포함한다. 제1 인공 신경 네트워크는 제2 인공 신경 네트워크와 독립적이다. 다른 실시예에서, 회로(1320) 및 머신 러닝 모델은 딥 러닝, 신경 네트워크, 선형 서포트 벡터 머신(선형 SVM), 다른 알고리즘(예를 들면, AdaBoost)에 대한 부스팅, 로지스틱 회귀, 나이브 베이즈(naive Bayes), 메모리 기반 학습, 랜덤 포레스트(random forest), 배깅 트리(bagged tree), 의사 결정 트리, 부스트 트리(boosted tree) 또는 부스트 스텀프(boosted stump)와 같은 여러가지 머신 러닝 기술을 사용한다.
일부 실시예에서, 회로(1320)는 AV(100)의 DSRC(dedicated short range communication) 센서(1316) 또는 다른 통신 기술에 의해 수신되는 DSRC 메시지(1318)에 기초하여 검출된 교통 신호(1310)를 검증한다. DSRC는, 스마트 교통 신호등, 스마트 교통 제어 허브 등과 같은, 차량과 인프라스트럭처 사이의 보안 고속 무선 통신을 위한 프로토콜이다. DRSC 메시지(1318)는 교통 신호등(1404)으로부터 수신된다. 회로(1320)는 검출된 교통 신호(1310)를 검증하기 위해 데이터(1326a, 1326b)를 DSRC 데이터(1326c)와 비교한다. 일부 실시예에서, 회로(1322)는 교통 신호등(1404)으로부터 AV(100)의 DSRC 센서(1316)에 의해 수신되는 DSRC 메시지(1318)에 기초하여 교통 신호등(1404)이 결정된 위치(1408)에 실제로 위치되어 있는 것을 검증한다. 예를 들어, DSRC 회로(1324c)는 교통 신호등(1404)이 위치(1408)에 위치되어 있는 것을 검증하기 위해 회로(1322)에 의해 사용되는 DSRC 데이터(1326c)를 생성한다. DSRC 데이터(1326c)는 교통 신호등(1404)의 위치 및 상태(교통 신호)를 나타낸다.
교통 신호(1310), 교통 신호등(1404)에 대한 위치 데이터(1312), 및 AV(100)에 대한 위치 데이터(예를 들면, 위치 데이터(1366a))의 검증은 데이터 품질을 개선시키기 위해, 즉 데이터가 정확하고 유용하다는 것을 보장하기 위해 수행된다. 일부 실시예에서, 검증은 데이터의 정확성, 유의미성(meaningfulness), 및 보안에 대해 검사하는 검증 루틴, 검증 규칙, 및 검증 제약을 사용한다. 다른 실시예에서, 검증은 통계 모델의 출력이 TLD 시스템(1300)에 의해 생성되거나 수신되는 현실 세계 데이터와 관련하여 용인 가능한지 여부를 검사한다. 일부 실시예에서, AV(100)의 DSRC 센서(1316)는 교통 신호(1310)가 특정 시간 T1에서 변경될 것임을 나타내는 DSRC 메시지(1318)를 교통 신호등(1404)으로부터 수신한다. 예를 들어, DSRC 메시지(1318)는 교통 신호(1310)의 색상 및 교통 신호(1310)가 현재 시간 T3으로부터 지정된 양의 시간 T2 후에 변경될 것임을 알리며, 여기서 T1 = T2 + T3이다.
로컬화 모듈(1360)은 센서 데이터에 기초하여 AV(100)가 시공간적 위치(1412)에 위치되어 있다고 결정한다. 시공간적 위치(1412)를 결정하기 위해, 하나 이상의 RADAR(1374)는 RADAR 데이터(1396a)를 생성한다. RADAR 로컬화 유닛(1378)은 RADAR 데이터(1396a)에 기초하여 AV(100)에 대한 위치 데이터(1366a)를 생성한다. 일부 실시예에서, 하나 이상의 LiDAR(1376)은 LiDAR 데이터(1396b)를 생성한다. LiDAR 로컬화 유닛(1380)은 LiDAR 데이터(1396b)에 기초하여 AV(100)에 대한 위치 데이터(1366b)를 생성한다. 일부 실시예에서, 하나 이상의 GNSS 수신기(1370)는 GNSS 데이터(1396c)를 생성한다. GNSS 로컬화 회로(1392)는 추가로 GNSS 데이터(1396c)에 기초하여 AV(100)에 대한 위치 데이터(1394)를 생성한다. 회로(1392)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1392)는 소프트웨어를 실행하는 범용 CPU를 포함한다.
로컬화 회로(1362)는 RADAR(1374)를 사용하여 생성된 위치 데이터(1366a), LiDAR(1376)를 사용하여 생성된 위치 데이터(1366b), 및/또는 GNSS 수신기(1370)를 사용하여 생성된 위치 데이터(1394)를 로컬화 회로(1364)에 의해 생성된 위치 데이터(1368)와 대조하여 검증한다. 일부 실시예에서, 로컬화 회로(1362)는 더 정확한 로컬화를 위해 제1 필터(예를 들면, 베이지안 필터, 칼만 필터 등)를 포함한다. 로컬화 회로(1364)는 위치 데이터(1366)를 필터링하여 위치 데이터(1368)를 생성하기 위해 제2 필터(예를 들면, 베이지안 필터, 칼만 필터, 확장 칼만 필터(extended Kalman filter), 무향 칼만 필터(unscented Kalman filter), 파티클 필터(particle filter) 등)를 포함한다. 제2 필터는 로컬화 정확도를 개선시키는 반면, 로컬화 회로(1362)에 의해 수행되는 검증은 다른 로컬화 모드와 비교하여 필터링에서의 에러 마진(error margin)을 감소시킨다. 예를 들어, 로컬화 회로(1362)가 위치 데이터(1366a, 1366b, 1394) 또는 위치 데이터(1368) 중 어느 하나와 대조하여 시공간적 위치(1404)(로컬화 회로(1362) 또는 로컬화 회로(1364) 중 어느 하나에 의해 결정됨)를 검증하는 데 실패했음을 검출하는 경우, 제어 회로(406)는 편의 프로파일에 따라 AV(100)를 정지시킬 수 있다. 로컬화 회로(1362)는 추가로 GNSS 로컬화 회로(1392)에 의해 생성된 GNSS 위치 데이터(1394)와 대조하여 위치 데이터(1366a, 1366b, 1368)를 검증한다. 회로(1362, 1364)는 도 3을 참조하여 예시되고 기술된 컴포넌트를 사용하여 구현된다. 일부 실시예에서, 회로(1362, 1364)는 소프트웨어를 실행하는 범용 CPU를 포함한다.
회로(1362, 1348a)는 시맨틱 맵(1342)에 기초하여 AV(100)가 실제로 시공간적 위치(1412)에 위치되어 있는 것을 검증한다. 회로(1348a, 1362)는 교통 신호등(1404)의 위치(1408)를 사용하여 시맨틱 맵(1342)을 참조한다. 따라서 로컬화 모듈(1360)은 교통 신호등(1404)의 위치(1408)를 주석이 달린 맵(시맨틱 맵(1342))과 비교하여 AV(100)를 로컬화한다. 일부 실시예에서, 회로(1348b, 1362)는 교통 신호등(1404)의 위치(1408)를 사용하여 RADAR 기반 맵(1344)을 참조하여 AV(100)를 로컬화한다. 일부 실시예에서, 회로(1348c, 1362)는 교통 신호등(1404)의 위치(1408)를 사용하여 LIDAR 기반 맵(1346)을 참조하여 AV(100)를 로컬화하고, 훨씬 더 큰 리던던시 및 오류 허용(fault tolerance)을 제공하며, 따라서 로컬화 정확도를 증가시킨다.
제1 필터(예를 들면, 베이지안 필터, 칼만 필터 등)는 위치 데이터(1366a, 1366b, 1394)를 필터링함으로써 AV(100)의 시공간적 위치(1412)를 결정하기 위해 로컬화 회로(1362)의 프로세서에 의해 실행된다. 시공간적 위치(1412)는 하나 이상의 차선, 예를 들어, 도 14에 예시된 차선(1428, 1432)과 연관된다. 로컬화 회로(1362)는 추가로 LiDAR(1374), RADAR(1376), 및 GNSS 수신기(1370)의 모듈식 리던던시에 기초한 위치 데이터(1366a, 1366b, 1394)와 대조하여 AV(100)의 시공간적 위치(1412)를 검증한다. 예를 들어, 삼중 모듈식 리던던시(triple-modular redundancy)가 사용된다. 로컬화 오류(localization fault)를 검출할 때, 로컬화 회로(1362)는 계획 모듈(404)에 통지하고, 계획 모듈(404)은 편의 프로파일에 따라 안전 정지 기동을 개시한다.
AV(100)의 조향 휠 센서(1384)는, 조향 휠 각도 및 각속도와 같은, 데이터를 생성한다. AV(100)의 다수의 휠 센서는, 휠의 각도 및 속력과 같은, 데이터를 생성한다. 휠 속력 센서에 대한 추가 세부 사항은 도 1을 참조하여 제시되어 있다. 주행 거리 측정 유닛(1386)은 AV(100)의 조향 휠 센서(1384) 및 휠 센서(1382)로부터의 데이터에 기초하여 주행 거리 측정 데이터(1388)를 생성한다. 일부 실시예에서, 관성 측정 유닛(IMU)(1372)은, 가속도 및 각도 변화율(피치(pitch), 요(yaw), 롤(roll)로 변환될 수 있음)을 측정하는 것 또는 차량 후진 검출(또는 후방 롤링(rolling backwards))과 같은, 데이터를 생성한다. 일 실시예에서, IMU(1372)로부터의 데이터는 검증 회로(1390)에 의해 데이터(1396c)와 대조하여 검증된다.
제2 필터(예를 들면, 베이지안 필터, 칼만 필터 등)는 주행 거리 측정 데이터(1388) 및 IMU(1372)로부터의 데이터를 필터링함으로써 AV(100)가 하나 이상의 차선(1428, 1432) 중 특정 차선(1428)에서 동작하고 있음을 결정하기 위해 로컬화 회로(1364) 내의 하나 이상의 프로세서에 의해 실행된다. AV(100)를 특정 차선(1428)에 로컬화하기 위해, 차선(1428)이 또한 시맨틱 맵(1342)을 사용하여 교통 신호등(1404)과 연관될 수 있다. 예를 들어, AV(100)가 특정 차선(1428)에서 동작하고 있다고 결정하기 위해, 로컬화 회로(1364)는 시맨틱 맵(1342)을 참조한다. 시맨틱 맵(1342)은 하나 이상의 차선(1428, 1432)을 포함하는 운전 가능 구역을 표현한다. 로컬화 회로(1364)는 제2 필터에 의해 필터링된 주행 거리 측정 데이터(1388)를 사용하여 시맨틱 맵(1342)을 참조한다. 일부 실시예에서, 로컬화 회로(1362, 1364)는 AV(100)의 궤적(198)과 대조하여 특정 차선(1428)을 검증한다. 차량이 특정 차선(1428)에서 동작하고 있다고 결정하기 전에 계획 모듈(404)에 의해 궤적(198)이 결정된다. 따라서, 로컬화 회로(1362, 1364)는 AV(100)가 실제로 계획 모듈(404)에 의해 의도된 차선에서 동작하고 있다는 것을 확인할 수 있다.
회로(1320)는 AV(100)의 카메라(1306a)에 의해 캡처되는 디지털 비디오 스트림(1308a)에 기초하여 특정 차선(1428)에 대응하는 교통 신호등(1404)을 식별한다. 일부 실시예에서, 회로(1320)는 카메라(1306a, 1306b) 및 DSRC 센서(1316)의 모듈식 리던던시를 사용하여 교통 신호등 검출을 검증한다. AV(100)는 제어 회로(406)를 사용하여 교통 신호등(1404)의 교통 신호(1310)에 따라 동작한다.
일부 실시예에서, 로컬화 모듈(1360)은 위치 데이터(1394) 및 GNSS 데이터(1396c)에 기초하여 AV(100)가 도시 지역에 위치되어 있다고 결정한다. AV(100)의 시공간적 위치(1412)를 검증하기 전에, 회로(1362)는 가중된 위치 데이터를 생성한다. 가중된 위치 데이터는 하나 이상의 GNSS 수신기(1370)로부터 수신되는 GNSS 데이터(1396c)보다 하나 이상의 LiDAR(1376)로부터 수신되는 LiDAR 데이터(1366b) 및 하나 이상의 RADAR(1374)로부터 수신되는 RADAR 데이터(1366a)를 더 높게 가중함으로써 생성된다. 시공간적 위치(1412)는 가중된 위치 데이터와 대조하여 검증된다. 로컬화로부터 AV(100)가 더 밀집된 도시 구역에서 동작하고 있음이 밝혀질 때, GNSS 데이터는 더 정확한 로컬화에 충분한 입도로 되어 있지 않을 수 있다. 따라서, LiDAR 데이터(1366b) 및 RADAR 데이터(1366a)에 대해 더 큰 가중치가 사용된다. 다른 한편으로, 로컬화 모듈(1360)은 위치 데이터(1394) 및 GNSS 데이터(1396c)에 기초하여 AV(100)가 시골 지역에 위치되어 있다고 결정할 수 있다. 로컬화로부터 AV(100)가 광활한 시골 지역에서 동작하고 있음이 밝혀질 때, LiDAR 및 RADAR 데이터는 내용이 거의 없을 수 있다. 회로(1362)는 하나 이상의 LiDAR(1376)로부터 수신되는 LiDAR 데이터(1366b) 및 하나 이상의 RADAR(1374)로부터 수신되는 RADAR 데이터(1366a)보다 하나 이상의 GNSS 수신기(1370)로부터 수신되는 GNSS 데이터(1396c)를 더 높게 가중함으로써 가중된 위치 데이터를 생성한다.
계획 모듈(404)은 검출된 교통 신호(1310), 교통 신호등(1404)의 위치 데이터(1312), 및 AV(100)의 시공간적 위치(1412)를 사용하여 교통 신호(1310)에 따라 AV(100)의 궤적(198)을 결정한다. 계획 모듈(404)은 도 4를 참조하여 더 상세히 예시되고 기술되어 있다. 교통 신호(1310)를 검출하기 전에, 회로(1320)는 교통 신호(1310)가 AV(100)의 궤적(198)을 결정하기 위한 적색 신호등이라고 예측한다. 즉, TLD 시스템(1300)은 교통 신호등(1404)의 상태가 알 수 없거나 아직 검출되지 않았을 때마다 교통 신호등(1404)의 상태를 적색 신호등이라고 가정한다.
AV(100)의 제어 회로(406)는 결정된 궤적(198)에 따라 AV(100)를 동작시킨다. 제어 회로(406)는 도 4를 참조하여 더 상세히 예시되고 기술되어 있다. 제어 회로(406)는 도 3을 참조하여 더 상세히 예시되고 기술된 컴포넌트를 사용하여 구축된다. 일부 실시예에서, 교통 신호등(1404)을 검출하는 것에 응답하여, AV(100)는 제어 회로(406) 또는 인지 모듈(1304)을 사용하여, AV(100)가 교통 신호등(1404)을 향해 이동하는 동안, 카메라(1306a, 1306b)를 교통 신호등(1404) 쪽으로 향하도록 카메라(1306a, 1306b) 중 적어도 하나의 배향을 조정한다. AV(100)가 이동함에 따라, 더 나은 이미지 캡처를 위해 AV(100)가 교통 신호등(1404)에 접근함에 따라 카메라(1306a, 1306b)는 교통 신호등(1404)을 향해 상방으로 또는 측방으로 지향된다(angle).
일부 실시예에서, AV(100)의 제어 회로(406)는 편의 프로파일에 따라 AV(100)를 동작시킨다. 편의 프로파일은 AV(100)의 데이터 저장 유닛(142) 또는 메모리(144)에 저장될 수 있다. 데이터 저장 유닛(142) 및 메모리(144)는 도 1을 참조하여 더 상세히 예시되고 설명되어 있다. 편의 프로파일은 AV(100) 내의 승객의 편의에 영향을 미칠 수 있는 다수의 데이터 필드를 포함하며, 각각의 데이터 필드는, 최대 동작 속력, 최대 가속도 변동 진폭, 최대 종방향 가속도, 최대 측방향 가속도, 최대 조향각 변화, 최대 회전율(rate of turn), 또는 AV(100)의 저크 크기에 대한 최대 제한과 같은, 하나 이상의 동작 파라미터를 기술한다. 동작 파라미터는 AV(100)가 동작되고 있을 때 승객에게 편안한 승차를 제공한다. 계획 모듈(404)은 편의 프로파일을 사용하여 AV(100)에 대한 궤적(198)을 계획한다.
도 14는 예시적인 교통 신호등 검출 시나리오를 예시한다. 도 14에서, AV(100)는 시공간적 위치(1412)에 위치되고 교차로(1416)에 접근하고 있다. AV(100)는 도 1을 참조하여 더 상세히 예시되고 기술되어 있다. AV(100)는, 회로(1320)를 사용하여, 교차로(1416)에 있는 교통 신호등(1404)의 교통 신호(1310)가 녹색 신호등이라는 것을 검출한다. 회로(1320) 및 교통 신호(1310)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. AV(100)는 카메라(1306a, 1306b)를 사용하여 위치(1408)에서의 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 운전자, 및 다른 장애물)의 부재를 검출한다. 카메라(1306a, 1306b), 자연 장애물(191), 차량(193), 및 보행자(192)는 도 1 및 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 계획 모듈(404)은 결정된 궤적(198)에 따라 AV(100)를 동작시키기 위해 메시지를 제어 회로(406)에 송신한다. 계획 모듈(404), 제어 회로(406), 및 궤적(198)은 도 1 및 도 4를 참조하여 더 상세히 예시되고 기술되어 있다.
일부 실시예에서, AV(100)는, 카메라(1306a, 1306b)를 사용하여, 디지털 비디오 스트림(1308a, 1308b)에 기초하여 보행자(192)가 (교통 신호등(1404)이 위치되어 있는) 위치(1408)에서 걷고 있음을 검출한다. 디지털 비디오 스트림(1308a, 1308b)은 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 비록 교통 신호(1310)가 녹색 신호등이지만, 계획 모듈(404)은, 제어 회로(406)가 AV(100)와 보행자(192)의 충돌을 방지하기 위해 AV(100)의 속력을 감소시키도록, AV(100)의 궤적(198)을 조정한다. 따라서, 교통 신호(1310)가 녹색 신호등이지만 (교차로(1416)의) 횡단 보도에 보행자가 있는 경우, AV(100)는 충돌을 방지하기 위해 서행하거나 정지할 것이다.
환경(190)에서 동작하고 있을 때, 인지 모듈(1304)은 다수의 교통 신호등(1404, 1420, 1436)을 검출할 수 있다. 환경(190) 및 인지 모듈(1304)은 도 1 및 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 다수의 교통 신호등(1404, 1420, 1436)은, 도 13을 참조하여 더 상세히 예시되고 기술된 바와 같은, 디지털 비디오 스트림(1308a, 1308b) 중 하나 또는 둘 모두에 기초하여 검출된다. 다수의 교통 신호등(1404, 1420, 1436)은 AV(100)가 동작하고 있는 차선(1428) 및 AV(100)의 시공간적 위치(1412)에 기초하여 AV(100)의 동작을 제어하고 있는 교통 신호등(1404)을 포함한다. 인지 모듈(1304)은 다수의 교통 신호등(1404, 1420, 1436) 중에서 제어 교통 신호등(1404)을 식별한다. 예를 들어, AV(100)가, 도 14에 예시된 바와 같이, 다중 차선 도로에서 동작하고 있을 때, 인지 모듈(1304)은 각각의 검출된 교통 신호등을 차선에 매핑한다. 따라서 AV(100)는, 도 13을 참조하여 더 상세히 예시되고 기술된, 로컬화 모듈(1360)에 의해 결정되는 시공간적 위치(1412)에 기초하여 AV(100)가 동작하고 있는 차선(1428)을 제어하는 교통 신호등(1404)의 교통 신호(1310)를 따른다.
일부 실시예에서, AV(100)의 DSRC 센서(1316)는 교통 신호(1310)가 특정 시간 T1에서 변경될 것임을 나타내는 DSRC 메시지(1318)를 수신한다. DSRC 센서(1316) 및 DSRC 메시지(1318)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 계획 모듈(404)은 메시지에 따라 궤적(198)을 생성한다. 예를 들어, AV(100)는 통행 신호(transit signal) 우선순위 변경이 곧 이루어질 것인지를 결정하기 위해 교통 신호등(1404)으로부터 DSRC 메시지를 수신할 수 있다. 일부 실시예에서, AV(100)는 교통 신호등(1404)이 정전으로 인해 작동하지 않는다고 결정한다. 예를 들어, 카메라(1306a, 1306b)는 해당 지역에 있는 여러 교통 신호등(1404, 1420)이 적색 또는 황색을 깜박이고 있음을 검출할 수 있다. 대안적으로, DSRC 센서(1316)는 교통 신호등(1404)이 작동하지 않는다는 것을 나타내는 DSRC 메시지(1318)를 수신할 수 있다. 제어 회로(406)는 AV(100)를 정지시킨다. 따라서, AV(100)가 교통 신호등(1404) 또는 여러 교통 신호등이 (예를 들어, 정전으로 인해) 작동하지 않는다는 것을 검출하는 경우, AV(100)는 교차로(1416) 이전에서 정지하고 이어서 다른 회전하거나 접근하는 차량(1424), 자전거, 또는 보행자(192)가 정지했거나 없을 때에만 진행할 것이다.
일부 실시예에서, TLD 시스템(1300)은 제어 회로(406)로부터 제어 데이터를 수신한다. TLD 시스템(1300)은 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 제어 데이터는 AV(100)의 속력 또는 AV(100)의 조향각을 포함한다. 로컬화 모듈(1360)은 계획 모듈(404)로부터의 궤적(198) 및 제어 데이터를 사용하여 차선(1428)을 교차로(1416)에 관련시킨다. 회로(1322)는 추가로 교통 신호등(1404)을 AV(100)가 동작하고 있는 환경(190)의 교차로(1416)와 연관시킨다. 회로(1322)는 제어 데이터에 적어도 기초하여 연관을 수행한다.
회로(1348a)는 AV(100)가 동작하고 있을 때 AV(100)의 시공간적 위치(1412)에 기초하여 시맨틱 맵(1342)을 참조한다. 회로(1348a) 및 시맨틱 맵(1342)은 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 시맨틱 맵(1342)에 기초하여, 회로(1348a, 1322)는 AV(100)가 교통 신호등(1420)을 조우할 특정 시간 T1을 예측한다. 회로(1322)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 예를 들어, 회로(1322)는 AV(100)가 교통 신호등(1420)을 조우할 때까지의 시간의 양 T2를 결정하기 위해 위치 데이터(1368)를 시맨틱 맵(1342)에 대응시킨다. 일부 실시예에서, 회로(1342)는 시맨틱 맵(1342) 대신에 또는 이에 추가하여 RADAR 기반 맵(1344) 및/또는 LiDAR 기반 맵(1346)을 사용한다. RADAR 기반 맵(1344) 및 LiDAR 기반 맵(1346)은 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 제어 회로(406)는, 카메라(1306a)가 특정 시간 T1에서 교통 신호등(1420) 쪽으로 향해 있도록, 특정 시간 T1 이전에 카메라(1306a)의 배향을 조정한다. 따라서, AV(100)가 교통 신호등을 예상하는 시간 T1에서, 카메라(1306a)는 교통 신호등의 비디오를 캡처하기에 적합한 각도로 배향되어 있다.
일부 실시예에서, AV(100)는 도 14에 예시된 위치(1444)에서 동작하고 있다. 인지 모듈(1304)은 도 13을 참조하여 더 상세히 기술된 바와 같은 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호등(1448)을 검출한다. 교통 신호등(1448)은 교차로(1416)에 위치된다. AV(100)는 교차로(1440)에 접근하고 있거나 교차로(1440)에 위치되어 있다. AV(100)가 교차로(예를 들면, 교차로(1440))에 있거나 그 근처에 있고 카메라(1306a, 1306b)가 교통 신호등(예를 들면, 교통 신호등(1448))의 존재를 감지할 때, 교통 신호등(1448)이 실제로는 다른 인근 교차로(예를 들면, 교차로(1416))에 위치되거나 다른 차선을 제어하고 있는지를 결정하기 위해 AV(100)의 공간적 위치가 사용된다. AV(100)가 실제로 위치되는 교차로(1440)는 교통 신호등을 갖지 않을 수 있다. 회로(1320)는 교통 신호등(1448)이 교차로(1440)와 상이한 교차로(1416)에 위치되어 있다고 결정한다. 회로(1320)는 위치 데이터(1312), 주행 거리 측정 데이터(1388), 및 디지털 비디오 스트림(1308a, 1308b)에 기초하여 결정을 수행한다. 주행 거리 측정 데이터(1388)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다.
일부 실시예에서, 2개의 차선은 서로 인접하고 동일한 주행 방향을 갖지만 상이한 도로에 속한다. 회로(1320)는 (차선(1428)과 상이한 특정 차선을 제어하는) 특정 교통 신호등의 존재를 감지한다. 회로(1320)는 또한 특정 교통 신호등이 차선(1428)과 상이한 특정 차선에 대응한다고 결정한다. 회로(1320)는 위치 데이터(1312), 주행 거리 측정 데이터(1388), 및 디지털 비디오 스트림(1308a, 1308b)에 기초하여 결정을 수행한다.
일부 실시예에서, 회로(1320)는 AV(100)의 카메라(1306a, 1306b)에 의해 캡처되는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호등(1404)의 교통 신호(1310)가 녹색 신호등으로부터 황색 신호등으로 전환된 것을 검출한다. 교통 신호(1310)가 녹색 신호등으로부터 황색 신호등으로 전환된 것을 검출하기 전에, 회로(1320)는 교통 신호(1310)를 (최악의 경우의 안전 메커니즘인) 적색 신호등과 연관시킨다. 교통 신호(1310)의 전환은 교차로(1416)의 정지선(1452)을 기준으로 한 AV(100)의 로컬화를 트리거하는 데 사용된다. 예를 들어, 회로(1320)가 명확한 교통 신호등 상태(예를 들면, "적색")를 검출하는 경우, AV(100)로부터 정지선(1452)까지의 거리 D1은 AV(100)의 거동(예를 들어, 정지선(1452)까지 편의 프로파일에 따른 감속, 급정차(hard stop) 등)을 결정하기 위해 계획 모듈(404)에 의해 사용된다.
교통 신호(1310)가 황색 신호등으로 전환되는 예를 계속하면, 회로(1320)는, AV(100)의 DSRC 센서(1316)에 의해 수신되는 DSRC 메시지(1318)에 기초하여, 교통 신호(1310)가 황색 신호등이라는 것을 검증한다. DSRC 메시지(1318)는 교통 신호등(1404)의 DSRC 송신기에 의해 송신되고, 회로(1324c)에 의해 프로세싱될 수 있다. 예를 들어, 회로(1320)는 다른 방식으로 높은 신뢰 수준으로 결정될 때까지 교통 신호(1310)를 적색 신호등과 연관시킨다. 게다가, 디지털 비디오 스트림(1308a, 1308b)이 모호하거나 진단 실패가 발생하는 경우, TLD 시스템(1300)은 계속하여 교통 신호(1310)를 적색 신호등과 연관시킨다.
회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호(1310)가 특정 양의 시간 T2 후에 적색 신호등으로 전환될 것이라고 결정한다. 회로(1320)는 교통 신호(1310)가 황색 신호등으로 전환된 후의 경과 시간 T4를 결정한다. 경과 시간 T4에 기초하여, 회로(1320)는 특정 양의 시간 T2를 결정한다. 예를 들어, 회로는 교통 신호(1310)가 녹색 신호등으로부터 황색 신호등으로 변경된 때로부터 진행된 경과 시간 T4를 사용하여 정지할지 여부를 결정한다. DSRC 메시지(1318)에 기초하여, 회로(1320)는 교통 신호등(1404)의 위치(1408)를 결정한다. TLD 시스템(1300)은 시맨틱 맵(1342)과 대조하여 특정 양의 시간 T2를 검증한다. TLD 시스템(1300)은 교통 신호등(1404)의 위치(1408)에 의해 시맨틱 맵(1342)을 참조한다. 예를 들어, 시맨틱 맵(1342)으로부터의 시맨틱 데이터는 교통 신호(1310)가 변경되는 데 얼마나 걸리는지를 검증할 수 있다.
회로(1320)는 디지털 비디오 스트림(1308a, 1308b) 및 AV(100)의 위치(1412)에 기초하여 AV(100)가 교통 신호등(1404)의 정지선(1452)으로부터 특정 거리 D1에 위치되어 있다고 결정한다. 계획 모듈(404)은 AV(100)가 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지할 수 있다고 결정한다. 계획 모듈(404)은 특정 양의 시간 T2 및 정지선으로부터의 특정 거리 D1에 기초하여 결정을 내린다. 일 실시예에서, 계획 모듈(404)은 AV(100)를 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지시키기 위해 AV(100)에 적용될 감속량을 결정한다. 일부 시나리오에서, AV(100) 앞에 다른 차량(193)이 있을 수 있다. 계획 모듈(404)은 AV(100)와 AV(100) 앞의 다른 차량(193) 사이의 거리 D2를 결정한다. 계획 모듈(404)은 AV(100)와 다른 차량(193) 사이의 거리 D2에 기초하여 AV(100)를 정지시키기 위해 AV(100)에 적용될 감속량을 결정한다. 일부 실시예에서, 계획 모듈(404)은 거리 D1 및 시간 T2, 앞 차량(193)으로부터의 거리 D2, 또는 편의 프로파일에 기초하여 적용할 감속량을 결정한다. AV(100)의 제어 회로(406)는 AV(100)를 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지시킨다.
특정 양의 시간 T2 및 정지선(1452)으로부터의 특정 거리에 기초하여, 계획 모듈(404)은 (예를 들면, T2가 너무 작은 경우) AV(100)가 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지할 수 없다고 결정할 수 있다. 정지선(1452)으로부터의 특정 거리는 편의 프로파일을 사용하여 분석된다. 계획 모듈(404)은, 제어 회로(406)에 의해, AV(100)를 특정 양의 시간 T2 내에 교차로(1416)를 통과하게 동작시키기 위해 궤적(198)을 조정한다. 예를 들어, 교통 신호(1310)가 황색 신호등이고 정지선(1452)으로부터의 특정 거리가 너무 작아 편안하게 정지할 수 없는 경우, AV(100)는 황색 신호등 내내 계속 이동할 것이다.
일부 실시예에서, 계획 모듈(404)은 AV(100)가 편의 프로파일에 따라 특정 양의 시간 T2 내에 차선(1428)에서 정지할 수 없다고 결정한다. 예를 들어, 차선(1428)에서 AV(100) 앞에 다른 차량(193)이 있을 수 있으며, 따라서 급제동(hard braking)이 요구된다. AV(100)를 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지시키기 위해, 계획 모듈(404)은 AV(100)에 대한 궤적(198)을 차선(1428)으로부터 다른 차선, 예를 들어, 차선(1432)으로 결정한다. AV(100)는 이와 같이 차선을 변경할 수 있으며, 따라서 차선(1428)에서 AV(100) 앞에 다른 차량(193)이 있지만 다른 차선(1432)에서 정지선(1452)까지 충분한 거리가 있는 경우 AV(100)가 급제동할 필요가 없게 된다.
AV(100)가 교차로(1440)에 접근하고 있을 때, 회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교차로(1440)에 위치된 교통 신호등(1420)을 검출한다. 회로(1320)는 교통 신호등(1420)의 교통 신호(1456)를 적색 신호등(안전을 위한 초기의 최악의 시나리오)과 연관시킨다. 회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호(1456)가 녹색 신호등인 것을 검출한다. 교통 신호(1456)가 녹색 신호등인 것을 검출하는 것에 응답하여, 계획 모듈(404) 및 제어 회로(406)는 교차로(1440)를 통과하게 AV(100)를 동작시킨다. 예를 들어, AV(100)가 단일 교통 신호등에 의해 통제되는 4 방향(four-way) 단일 차선 교차로에 접근하는 시나리오를 고려한다. 교통 신호등의 교통 신호는 녹색 신호등이며 AV(100)가 접근할 때 녹색 신호등인 채로 있다. (교통 신호를 검출하기 전에, AV(100)는 교통 신호가 적색 신호등이라고 가정한다.) 일단 AV(100)가 녹색 신호등을 검출하면, AV(100)는 교차로를 통과하여 진행한다.
회로(1320)는 디지털 비디오 스트림(1308a)의 제1 이미지 프레임에 기초하여 교통 신호(1456)가 황색 신호등인 것을 검출할 수 있다. 회로(1320)는 디지털 비디오 스트림(1308a)의 제2 이미지 프레임에 기초하여 교통 신호(1456)가 적색 신호등이었다는 것을 검출할 수 있으며, 여기서 제2 이미지 프레임은 제1 이미지 프레임보다 시간상 더 일찍 캡처되었다. 회로(1320)는 교통 신호(1456)가 녹색 신호등으로 변경될 것이라고 예측한다. 따라서, 교통 신호(1456)의 이전 상태(적색 또는 녹색)에 기초하여, 황색 신호를 검출하는 것은 통과(Go) 또는 정지(Stop) 중 어느 하나를 의미할 수 있다.
AV(100)가 차선(1460)에서 동작하고 있으며 교차로(1416)에 접근하고 있는 시나리오를 고려한다. TLD 시스템(1300)은 궤적(198)이 교통 신호등(1448)에서 우회전하도록 AV(100)에 지시하고 있다고 결정한다. 교통 신호등(1448)은 교차로(1416)에 위치된다. 회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교차로(1416)에서의 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 운전자, 및 다른 장애물)의 부재를 검출한다. 교차로(1416)에서의 대상체의 부재를 검출하는 것에 응답하여, 계획 모듈(404) 및 제어 회로(406)는 궤적(198)에 따라 AV(100)를 동작시킨다. AV(100)가 교통 신호등(1448)의 교통 신호가 적색 신호등인 것을 검출하고 계획 모듈(404)로부터 교차로(1416)에서 우회전하라는 지시를 수신하는 경우, AV(100)는 정지하고 보행자(192)에게 양보한 후에만 적색 신호등에서 우회전할 것이다. 회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교차로(1416)에서 교통 표지판을 검출할 수 있다. 교통 표지판은 차량이 적색 신호등에서 우회전해서는 안된다는 것(적색 신호시 회전 금지(No Turn On Red))을 나타낸다. 제어 회로(406)는 교통 신호등(1448)의 교통 신호가 녹색 신호등 또는 녹색 오른쪽 화살표 중 하나일 때까지 AV(100)를 교차로(1416)에서 정지시킨다. TLD(1300)가 적색 신호등을 검출하고 계획 모듈(404)로부터 우회전하라는 지시를 수신하는 경우, TLD(1300)는 적색 신호시 회전 금지에 대해 게시된 표지판이 있는지 스캔할 것이다. AV(100)는 이러한 표지판이 없는 경우에만 적색 신호등에서 우회전한다.
AV(100)가 차선(1428)에서 동작하고 있으며 교차로(1416)에 접근하고 있는 시나리오를 고려한다. 제어 회로(406)는 AV(100)의 궤적(198)에 따라 차선(1428)에서 AV(100)를 동작시킨다. 궤적(198)은 교차로(1416)에서 좌회전하도록 AV(100)에 지시한다. 로컬화 모듈(1360)은 AV(100)가 교차로(1416)에 접근하고 있는 것을 검출한다. 예를 들어, 교통 신호(1310)의 가능한 교통 신호 구성은 깜박이는 적색 신호등, 깜박이는 황색 신호등, 녹색 신호등 및 적색 좌회전 화살표 등이다.
AV(100)가 교차로(1416)에 접근하고 있는 것을 검출하기 위해, 로컬화 모듈(1362)은 AV(100)의 하나 이상의 센서로부터 수신되는 센서 데이터에 기초하여 AV(100)의 시공간적 위치(1412)를 결정한다. 일부 실시예에서, 로컬화 회로(1364)는 로컬화 정확도를 개선시키기 위해 GNSS 데이터(1396c), RADAR 데이터(1396a), 및/또는 LIDAR 데이터(1396b)에 대해 칼만 필터링을 수행한다. 제2 필터는 필터링된 센서 데이터를 생성하기 위해 로컬화 회로(1364)에 의해 실행되며, 여기서 센서 데이터는 GNSS 데이터(1396c), RADAR 데이터(1396a), 및/또는 LIDAR 데이터(1396b)를 포함한다. 일부 실시예에서, 로컬화 모듈(1362)은 시공간적 위치를 제공하기 위해 필터링된 센서 데이터를 센서 데이터와 대조하여 검증한다. 센서 데이터는 또한 회로(1322)에 의해 디지털 비디오 스트림(1308a, 1308b)과 대조하여 검증될 수 있다.
로컬화 회로(1362)는 시공간적 위치(1412)에 의해 참조되는 시맨틱 맵(1342)을 사용하여 교차로(1416)에서부터 AV(100)의 거리 D2를 결정한다. 예를 들어, 시맨틱 맵(1342)은 다음과 같은 관계 인식을 용이하게 하기 위해 TLD 시스템(1300)에 포함된다: (1) AV(100)를 차선(예를 들면, 차선(1428))에 관련시키는 것; (2) 계획 모듈(404)로부터의 궤적(198)을 사용하여 차선(1428)을 교차로(예를 들면, 교차로(1416))에 관련시키는 것; (3) 차선(1428) 및 교차로(1416)를 교통 신호등(예를 들면, 교통 신호등(1404))에 관련시키는 것; 및 (4) AV(100)를 정지선(예를 들면, 정지선(1452))에 관련시키는 것.
계획 모듈(404)은 카메라(1306a, 1306b) 및 본 명세서에서 기술된 다른 센서로부터의 센서 데이터에 기초하여 AV(100)가 교차로(1416)에서 차선(1428)으로부터 좌회전할 수 있다고 결정한다. 예를 들어, 센서 데이터는 차선(1428)의 차선 마킹(1464)의 디지털 비디오 스트림을 포함한다. TLD 시스템(1300)은 교차로(1416)에 위치된 교통 신호등(1404)의 교통 신호(1310)가 녹색 좌회전 화살표 또는 녹색 신호등 중 어느 하나인 것을 검출한다. TLD 시스템(1300)은 "페일 세이프(fail safe)"로 구현된다. 여러가지 교통 신호 구성을 지원하기 위해, TLD 시스템(1300)은 교통 신호 시퀀스를 추적한다. 예를 들어, 교통 신호(1310)는, 차량이 교차로(1416)를 통과하여 직진할 수 있지만 좌회전할 수 없음을 의미하는, 적색 회전 화살표를 갖는 녹색 신호등일 수 있다. TLD 시스템(1300)이 교통 신호(1310)가 녹색 좌회전 화살표인 것을 검출하는 것에 응답하여, 계획 모듈(404) 및 제어 회로(406)는, AV(100)가 궤적(198)에 따라 교차로(1416)에서 좌회전하도록, AV(100)를 동작시킨다.
다른 시나리오에서, 교통 신호가 녹색 신호등인 것을 검출하는 것에 응답하여, 인지 모듈(402)은 하나 이상의 센서(예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 또는 초음파 센서)를 사용하여 교차로(1416)를 스캔한다. 인지 모듈(402)은 도 4를 참조하여 더 상세히 예시되고 기술되어 있다. AV(100)가 동작하고 있는 제2 방향과 반대인 제1 방향으로 교차로(1416)에 접근하는 다른 차량(예를 들어, 차량(1424))을 검출하기 위해 스캐닝이 수행된다. 예를 들어, TLD 시스템(1300)은 녹색 좌회전 신호를 검출하지만 반대 방향으로 주행하는 차량(1424)에게 양보한다. 제1 방향으로 교차로(1416)에 접근하는 다른 차량(193)의 부재를 검출하는 것에 응답하여, 계획 모듈(404) 및 제어 회로(406)는, AV(100)가 궤적(198)에 따라 교차로(1416)에서 좌회전하도록, AV(100)를 동작시킨다.
교통 신호(1310)가 녹색 신호등인 것을 검출하는 것에 응답하여, 인지 모듈(402)은 다른 차량(1424)이 AV(100)가 동작하고 있는 제2 방향과 반대인 제1 방향으로 교차로(1416)에 접근하고 있는 것을 검출할 수 있다. 인지 모듈(402) 및 계획 모듈(404)은 다른 차량(1424)이 교차로(1416)에 도달하기 전에 AV(100)가 편의 프로파일에 따라 좌회전할 수 있다고 결정한다. 예를 들어, AV(100)는 반대 방향으로 접근하는 다른 차량(1424)의 속력 및 다른 차량(1424)과 교차로(1416) 사이의 거리 D3를 결정한다. 계획 모듈(404)은 편의 프로파일을 사용하여 좌회전할지 여부를 결정한다.
AV(100)가 교차로(1416)에서 차선(1428)으로부터 좌회전하고 있는 시나리오를 고려한다. AV(100)가 좌회전하고 있는 동안, 회로(1320)는 교통 신호(1310)가 녹색 좌회전 화살표로부터 적색 신호등으로 전환된 것을 검출한다. 교통 신호(1310)가 녹색 좌회전 화살표로부터 적색 신호등으로 전환된 것을 검출하는 것에 응답하여, 로컬화 모듈(1360)은 제어 회로(406)로부터 수신되는 제어 데이터에 기초하여 교차로(1416)에 상대적인 AV(100)의 새로운 시공간적 위치(1468)를 결정한다. 제어 데이터는 조향 휠의 각도 및 AV(100)의 속력을 포함한다. 조향 휠의 각도는, 도 1 및 도 11을 참조하여 더 상세히 예시되고 기술되는, 조향 컨트롤(102) 및/또는 조향 입력(1108)으로부터 결정된다. 일부 실시예에서, 주행 거리 측정 데이터(1388)가 또한 사용된다. 계획 모듈(404)은 새로운 시공간적 위치(1468)에 기초하여 AV(100)에 대한 새로운 궤적을 생성한다. 예를 들어, 교통 신호(1310)가 적색 신호등으로 바뀌는 녹색 좌회전 화살표인 경우, 하나 이상의 GNSS 수신기(1370), IMU(1372), (휠 각도 및 속력을 측정하는) 하나 이상의 휠 센서(1382), 조향 휠 센서(1384), 또는 주행 거리 측정 유닛(1386)으로부터의 데이터는 AV(100)의 다음 거동을 결정하기 위해 AV(100)가 얼마나 멀리 회전했는지를 결정하는 데 사용된다.
일부 실시예에서, 교통 신호등(1404)은 동시에 활성인 하나 초과의 교통 신호, 예를 들어, 적색 좌회전 화살표 및 녹색 신호등을 가질 수 있다. 회로(1320)는 센서 데이터(예를 들면, 디지털 비디오 스트림(1308a, 1308b))에 기초하여 교통 신호등(1404)의 구성을 결정한다. 구성은 (교통 신호등(1404)의 다수의 라이트 또는 다수의 전구로부터의) 다수의 교통 신호를 포함한다. 각각의 라이트 또는 전구는 전형적으로 하나의 교통 신호(예를 들면, 적색 신호등 또는 녹색 좌회전 화살표)이다. 교통 신호등(1404)의 구성은 차선 마킹(1464)에 기초하여 각각의 라이트 또는 전구가 어느 차선과 연관되는지를 제어한다. 일부 실시예에서, 회로(1320)는 먼저 차선 마킹(1464)을 검출하고, 하나 이상의 교통 신호를 검출하며, 이어서 각각의 교통 신호를 차선과 연관시킨다.
회로(1320)는 다수의 교통 신호 중 하나 이상의 교통 신호를 AV(100)가 동작하고 있는 차선(1428)과 연관시킨다. 회로(1320)는 차선(1428)의 차선 마킹(1464)의 디지털 비디오 스트림에 기초하여 하나 이상의 교통 신호를 연관시킨다. 차선 마킹(1464)의 디지털 비디오 스트림은 카메라(1306a, 1306b), 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), 및/또는 LiDAR(123)에 의해 생성될 수 있다. 하나 이상의 교통 신호는 교통 신호(1310)를 포함한다.
AV(100)가 교차로(1440)에서 정지되는 시나리오를 고려한다. 회로(1320)는 센서 데이터에 기초하여 교차로(1440)에서의 교통 신호(1456)가 깜박이는 황색 신호등인 것을 검출한다. 센서 데이터는 디지털 비디오 스트림(1308a, 1308b)을 포함한다. 계획 모듈(404)은 교차로(1440)에 접근하는 다른 차량(1472)의 속력에 기초하여 교차로(1440)를 통과하여 동작하기 전에 일시정지할 시간의 양을 결정한다. 차량(1472)은 AV(100)가 동작하고 있는 제2 방향에 수직인 제3 방향으로 교차로(1440)에 접근하고 있다. AV(100)의 계획 모듈은 차량(1472)과 교차로(1440) 사이의 거리 D4 및 측방에서 교차로(1440)에 접근하는 차량(1472)의 속력에 기초하여 진행하기 전에 교차로(1440)에서 일시정지할 시간의 양을 결정한다.
AV(100)가 교차로(1440)에서 정지되는 시나리오를 고려한다. 교통 신호(1456)는 적색 신호등이다. 회로(1320)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호(1456)가 적색 신호등으로부터 녹색 신호등으로 전환된 것을 검출한다. 인지 모듈(402)은 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), 및/또는 LiDAR(123)에 의해 생성된 센서 데이터에 기초하여 다른 차량(193)이 교차로(1440) 내에 정지되어 있는 것을 검출한다. 다른 차량(193)이 교차로(1440) 내에 정지되어 있는 것을 검출하는 것에 응답하여, 제어 회로(406)는 AV(100)를 교차로(1440)에서 일시정지시킨다.
일 실시예에서, 계획 모듈(404)은 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호(1456)가 적색 신호등으로 전환되기 전에 AV(100)가 교차로(1440)를 건너갈 수 없을 것이라고 결정한다. AV(100)가 교차로(1440)를 건너갈 수 없을 것이라고 결정하는 것에 응답하여, 제어 회로(406)는 AV(100)를 교차로(1440)에서 일시정지시킨다. 예를 들어, AV(100)는 교통 신호(1456)가 녹색 신호등으로 전환되고 있는 적색 신호등인 것을 검출한다. AV(100)는, (교통 체증의 존재 하에서 교차로(1440)를 막히게 하는 것을 피하기 위해) 교통 신호(1456)가 또다시 적색 신호등으로 바뀌기 전에 교차로(1440)를 완전히 건너가기에 충분한 공간이 있지 않는 한, 교통 신호(1456)가 녹색 신호등일 때에도 교차로(1440)에 진입하지 않을 것이다.
도 15는 AV(100)의 동작 프로세스를 예시하는 흐름 다이어그램이다. AV(100)는 도 1을 참조하여 더 상세히 예시되고 기술되어 있다. 일 실시예에서, 도 15의 프로세스는, 도 13을 참조하여 더 상세히 예시되고 기술된, TLD 시스템(1300)에 의해 수행된다. 다른 엔티티, 예를 들어, AV(100)의 하나 이상의 컴포넌트는 다른 실시예에서 프로세스의 단계들 중 일부 또는 전부를 수행한다. 마찬가지로, 실시예는 상이한 및/또는 추가 단계를 포함할 수 있거나, 또는 단계들을 상이한 순서로 수행할 수 있다.
AV(100)는 위치(1408)에 위치된 교통 신호등(1404)을 검출한다(1504). 교통 신호등(1404) 및 위치(1408)는 도 14를 참조하여 더 상세히 예시되고 기술되어 있다. 교통 신호등(1404)은 AV(100)의 카메라(1306a)에 의해 캡처되는 디지털 비디오 스트림(1308a) 및 AV(100)의 카메라(1306b)에 의해 캡처되는 디지털 비디오 스트림(1308b)에 기초하여 검출된다. 디지털 비디오 스트림(1308a, 1308b) 및 카메라(1306a, 1306b)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다.
AV(100)는 AV(100)가 시공간적 위치(1412)에 위치되어 있다고 결정한다(1508). 시공간적 위치(1412)는 도 14를 참조하여 더 상세히 예시되고 기술되어 있다. 시공간적 위치(1412)를 결정하기 위해, AV(100)는 RADAR(1374)를 사용하여 생성된 위치 데이터(1366a), LiDAR(1376)를 사용하여 생성된 위치 데이터(1366b), 및/또는 GNSS 수신기(1370)를 사용하여 생성된 위치 데이터(1394)를 로컬화 회로(1364)에 의해 생성된 위치 데이터(1368)와 대조하여 검증한다. RADAR(1374), LiDAR(1376), GNSS 수신기(1370), 및 로컬화 회로(1364)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 예를 들어, 위치 데이터(1366a, 1366b, 1394)는 로컬화 회로(1364)에서 제2 필터를 사용하여 제1 위치 데이터를 필터링함으로써 생성되거나 획득된다.
AV(100)는 시공간적 위치(1412)에 의해 참조되는 시맨틱 맵(1342)에 기초하여 교통 신호등(1404)이 위치(1408)에서 예상된다고 결정한다(1512). 시맨틱 맵(1342)은 매핑 모듈(1340)에 의해 저장된다. 회로(1348a, 1322)는 시맨틱 맵(1342)을 참조하기 위해 AV(100)의 결정된 시공간적 위치(1412)를 사용한다. 시맨틱 맵(1342), 매핑 모듈(1340), 및 회로(1348a, 1322)는 도 13에 예시되고 기술되어 있다.
교통 신호등(1404)이 실제로 위치(1408)에서 예상된다고 결정하는 것에 응답하여, AV(100)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호등(1404)의 교통 신호(1310)를 검출한다(1516). 교통 신호(1310)를 검출하기 위해, 회로(1324a)는 디지털 비디오 스트림(1308a)의 적어도 하나의 이미지 프레임을 세그먼트화한다. 회로(1324a)는 도 13에 예시되고 기술되어 있다. 회로(1324a)는 교통 신호(1310)에 대응하는 적어도 하나의 이미지 프레임의 구역을 검출하기 위해 에지 검출을 사용한다. 예를 들어, 교통 신호등(1404)의 직사각형 프레임은 3개 이상의 원형 또는 정사각형 라이트를 포함한다. 회로(1324a)는 프레임 내의 직사각형 구역을 세그먼트화하여 라이트를 격리시킨다. 유사하게, 회로(1324b)는 교통 신호등(1404)의 프레임 내의 직사각형 구역을 세그먼트화하여 교통 신호(1310)를 검출하기 위해 디지털 비디오 스트림(1308b)을 프로세싱한다.
AV(100)는 교통 신호(1310)에 따라 AV(100)의 궤적(198)을 결정한다(1520). 교통 신호(1310)를 검출하기 전에, 회로(1320)는 교통 신호(1310)가 AV(100)의 궤적(198)을 결정하기 위한 적색 신호등이라고 예측한다. 즉, AV(100)는 교통 신호등(1404)의 상태가 알 수 없거나 아직 검출되지 않았을 때마다 교통 신호등(1404)의 상태를 적색 신호등이라고 가정한다.
제어 회로(406)는 결정된 궤적(198)에 따라 AV(100)를 동작시킨다(1524). 일부 실시예에서, 교통 신호등(1404)을 검출하는 것에 응답하여, AV(100)는 제어 회로(406) 또는 인지 모듈(1304)을 사용하여, AV(100)가 교통 신호등(1404)을 향해 이동하는 동안, 카메라(1306a, 1306b)를 교통 신호등(1404) 쪽으로 향하도록 카메라(1306a, 1306b) 중 적어도 하나의 배향을 조정한다. AV(100)가 이동함에 따라, 더 나은 이미지 캡처를 위해 AV(100)가 교통 신호등(1404)에 접근함에 따라 카메라(1306a, 1306b)는 교통 신호등(1404)을 향해 상방으로 또는 측방으로 지향된다.
도 16는 AV(100)의 동작 프로세스를 예시하는 흐름 다이어그램이다. 일 실시예에서, 도 16의 프로세스는 TLD 시스템(1300)에 의해 수행된다. 다른 엔티티, 예를 들어, AV(100)의 하나 이상의 컴포넌트는 다른 실시예에서 프로세스의 단계들 중 일부 또는 전부를 수행한다. 마찬가지로, 실시예는 상이한 및/또는 추가 단계를 포함할 수 있거나, 또는 단계들을 상이한 순서로 수행할 수 있다.
AV(100)는 RADAR(1374)를 사용하여 생성된 위치 데이터(1366a), LiDAR(1376)를 사용하여 생성된 위치 데이터(1366b), 및/또는 AV(100)의 GNSS 수신기(1370)를 사용하여 생성된 위치 데이터(1394)를 수신한다(1604). RADAR(1374), LiDAR(1376), GNSS 수신기(1370), 및 로컬화 회로(1364)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다. 로컬화 회로(1362)는 RADAR(1374)를 사용하여 생성된 위치 데이터(1366a), LiDAR(1376)를 사용하여 생성된 위치 데이터(1366b), 및/또는 GNSS 수신기(1370)를 사용하여 생성된 위치 데이터(1394)를 로컬화 회로(1364)에 의해 생성된 위치 데이터(1368)와 대조하여 검증한다.
AV(100)는 AV(100)의 시공간적 위치(1412)를 결정하기 위해 로컬화 회로(1362)에 의해 실행되는 제1 필터(예를 들면, 베이지안 필터, 칼만 필터 등)를 사용하여 위치 데이터(1366a, 1366b, 1394)를 필터링한다(1608). 시공간적 위치(1412)는 하나 이상의 차선, 예를 들어, 도 14에 예시된 차선(1428, 1432)과 연관된다.
AV(100)는 LiDAR(1374), RADAR(1376), 및 GNSS 수신기(1370)의 모듈식 리던던시에 기초한 위치 데이터(1366a, 1366b, 1394)와 대조하여 AV(100)의 시공간적 위치(1412)를 검증한다(1612). 예를 들어, 삼중 모듈식 리던던시가 사용된다. 로컬화 오류를 검출할 때, 로컬화 회로(1362)는 계획 모듈(404)에 통지하고, 계획 모듈(404)은 편의 프로파일에 따라 안전 정지 기동을 개시한다.
AV(100)는 AV(100)의 조향 휠 센서(1384) 및 다수의 휠 센서(1382)로부터 주행 거리 측정 데이터(1388)를 수신한다(1616). 조향 휠 센서(1384)는, 조향 휠 각도 및 각속도와 같은, 데이터를 생성한다. 다수의 휠 센서(1382)는, 휠의 각도 및 속력과 같은, 데이터를 생성한다. 휠 속력 센서에 대한 추가 세부 사항은 도 1을 참조하여 제시되어 있다. 주행 거리 측정 유닛(1386)은 조향 휠 센서(1384) 및 휠 센서(1382)로부터의 데이터에 기초하여 주행 거리 측정 데이터(1388)를 생성한다. 일부 실시예에서, IMU(1372)는, 관성, 피치, 요, 롤을 측정하는 것, 또는 차량 후진 검출(또는 후방 롤링)과 같은, 데이터를 생성한다. IMU(1372)로부터의 데이터는 검증 회로(1390)에 의해 데이터(1396c)와 대조하여 검증된다.
AV(100)는 로컬화 회로(1364)에 의해 실행되는 제2 필터(예를 들면, 베이지안 필터, 칼만 필터 등)를 사용하여 주행 거리 측정 데이터(1388)를 필터링한다(1620). 필터링은 AV(100)가 하나 이상의 차선(1428, 1432) 중 차선(1428)에서 동작하고 있다고 결정하기 위해 수행된다. AV(100)를 특정 차선(1428)에 로컬화하기 위해, 차선(1428)이 또한 시맨틱 맵(1342)을 사용하여 교통 신호등(1404)과 연관될 수 있다. 예를 들어, AV(100)가 특정 차선(1428)에서 동작하고 있다고 결정하기 위해, 로컬화 회로(1364)는 시맨틱 맵(1342)을 참조한다. 시맨틱 맵(1342)은 하나 이상의 차선(1428, 1432)을 포함하는 운전 가능 구역을 표현한다. 로컬화 회로(1364)는 제2 필터에 의해 필터링된 주행 거리 측정 데이터(1388)를 사용하여 시맨틱 맵(1342)을 참조한다.
AV(100)는 AV(100)의 카메라(1306a, 1306b)에 의해 캡처되는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 차선(1428)과 연관된 교통 신호등(1404)을 식별한다(1624). 일부 실시예에서, 회로(1320)는 카메라(1306a, 1306b) 및 DSRC 센서(1316)의 모듈식 리던던시를 사용하여 교통 신호등 검출을 검증한다.
AV(100)의 제어 회로(406)는 교통 신호등(1404)의 교통 신호(1310)에 따라 AV(100)를 동작시킨다. 인지 모듈(1300)은 N-모듈식 리던던시를 사용하여 교통 신호(1310)를 검출한다. 일부 실시예에서, N은 3이다. 다른 실시예에서, N은, 카메라의 개수에 따라, 4, 5, 6 등일 수 있다. 예를 들어, 교통 신호(1310)를 검출하기 위해, 회로(1324a, 1320)는 카메라(1306a)로부터의 디지털 비디오 스트림(1308a)에 기초하여 교통 신호(1310)가 제1 색상(예를 들어, 녹색)이라는 것을 검출한다. 회로(1324b, 1320)는 카메라(1306b)로부터의 디지털 비디오 스트림(1308b)에 기초하여 교통 신호(1310)가 제2 색상(예를 들어, 적색)이라는 것을 검출한다. 회로(1324c, 1320)는 AV(100)의 DSRC 센서(1316)에 의해 수신되는 DSRC 메시지(1318)에 기초하여 교통 신호(1310)가 제3 색상(예를 들어, 적색)이라는 것을 검출한다. 제3 색상(적색)이 제2 색상과 동일하다는 것을 검출하는 것에 응답하여, 회로(1320)는 교통 신호(1310)를 제2 색상(적색)과 연관시킨다.
도 17은 하나 이상의 실시예에 따른, AV(100)의 동작 프로세스를 예시하는 흐름 다이어그램이다. 일 실시예에서, 도 17의 프로세스는 TLD 시스템(1300)에 의해 수행된다. 다른 엔티티, 예를 들어, AV(100)의 하나 이상의 컴포넌트는 다른 실시예에서 프로세스의 단계들 중 일부 또는 전부를 수행한다. 마찬가지로, 실시예는 상이한 및/또는 추가 단계를 포함할 수 있거나, 또는 단계들을 상이한 순서로 수행할 수 있다.
AV(100)는 AV(100)의 카메라(1306a, 1306b)에 의해 캡처되는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호등의 교통 신호(1310)가 녹색 신호등으로부터 황색 신호등으로 전환된 것을 검출한다(1704). 교통 신호(1310)가 녹색 신호등으로부터 황색 신호등으로 전환된 것을 검출하기 전에, 회로(1320)는 교통 신호(1310)를 (최악의 경우의 안전 메커니즘인) 적색 신호등과 연관시킨다.
AV(100)는, AV(100)의 DSRC 센서(1316)에 의해 수신되는 DSRC 메시지(1318)에 기초하여, 교통 신호(1310)가 황색 신호등인 것을 검증한다(1708). DSRC 메시지(1318)는 교통 신호등(1404)의 DSRC 송신기에 의해 송신되고, 회로(1324c)에 의해 프로세싱될 수 있다. 예를 들어, 회로(1320)는 다른 방식으로 높은 신뢰 수준으로 결정될 때까지 교통 신호(1310)를 적색 신호등과 연관시킨다. 게다가, 디지털 비디오 스트림(1308a, 1308b)이 모호하거나 진단 실패가 발생하는 경우, TLD 시스템(1300)은 계속하여 교통 신호(1310)를 적색 신호등과 연관시킨다.
현재 시간은 T1로 표기된다. AV(100)는 디지털 비디오 스트림(1308a, 1308b)에 기초하여 교통 신호(1310)가 특정 양의 시간 T2 후에 적색 신호등으로 전환될 것이라고 결정한다(1712). 회로(1320)는 교통 신호(1310)가 황색 신호등으로 전환된 후의 경과 시간 T4를 결정한다. 경과 시간 T4에 기초하여, 회로(1320)는 특정 양의 시간 T2를 결정한다.
AV(100)는 디지털 비디오 스트림(1308a, 1308b) 및 AV(100)의 위치(1412)에 기초하여 AV(100)가 교통 신호등(1404)의 정지선(1452)으로부터 특정 거리 D1에 위치되어 있다고 결정한다(1716). DSRC 메시지(1318)에 기초하여, 회로(1320)는 교통 신호등(1404)의 위치(1408)를 결정한다. TLD 시스템(1300)은 시맨틱 맵(1342)과 대조하여 특정 양의 시간 T2를 검증한다. TLD 시스템(1300)은 교통 신호등(1404)의 위치(1408)에 의해 시맨틱 맵(1342)을 참조한다. 예를 들어, 시맨틱 맵(1342)으로부터의 시맨틱 데이터는 교통 신호(1310)가 변경되는 데 얼마나 걸리는지를 검증할 수 있다.
AV(100)는 AV(100)가 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지할 수 있다고 결정한다. 계획 모듈(404)은 특정 양의 시간 T2 및 정지선으로부터의 특정 거리 D1에 기초하여 결정을 내린다. 계획 모듈(404)은 AV(100)를 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지시키기 위해 AV(100)에 적용될 감속량을 결정한다.
AV(100)의 제어 회로(406)는 AV(100)를 편의 프로파일에 따라 특정 양의 시간 T2 내에 정지선(1452)에서 정지시킨다. 일부 시나리오에서, AV(100) 앞에 다른 차량(193)이 있을 수 있다. 계획 모듈(404)은 AV(100)와 AV(100) 앞의 다른 차량(193) 사이의 거리 D2를 결정한다. 계획 모듈(404)은 AV(100)와 다른 차량(193) 사이의 거리 D2에 기초하여 AV(100)를 정지시키기 위해 AV(100)에 적용될 감속량을 결정한다.
도 18은 하나 이상의 실시예에 따른, AV(100)의 동작 프로세스를 예시하는 흐름 다이어그램이다. 다른 엔티티, 예를 들어, TLD 시스템(1300)의 하나 이상의 컴포넌트는 다른 실시예에서 프로세스의 단계들 중 하나 이상의 단계를 수행한다. 마찬가지로, 실시예는 상이한 및/또는 추가 단계를 포함할 수 있거나, 또는 단계들을 상이한 순서로 수행할 수 있다.
AV(100)는 AV(100)의 궤적(198)에 따라 특정 차선(1428)에서 AV(100)를 동작시킨다(1804). 궤적(198)은 교차로(1416)에서 좌회전하도록 AV(100)에 지시한다. AV(100), 차선(1428), 및 교차로(1416)은 도 14에 예시되어 있다. 로컬화 모듈(1360)은 AV(100)가 교차로(1416)에 접근하고 있는 것을 검출한다. 예를 들어, 교통 신호등(1404)의 교통 신호(1310)의 가능한 교통 신호 구성은 깜박이는 적색 신호등, 깜박이는 황색 신호등, 녹색 신호등 및 적색 좌회전 화살표 등이다.
AV(100)는 AV(100)가 교차로(1416)에 접근하고 있는 것을 검출한다(1808). 검출을 수행하기 위해, AV(100)는 AV(100)의 하나 이상의 센서로부터 수신되는 센서 데이터에 기초하여 AV(100)의 시공간적 위치(1412)를 결정한다. 예를 들어, 센서 데이터는 GNSS 데이터(1396c), RADAR 데이터(1396a), 및/또는 LIDAR 데이터(1396b)를 포함한다. 일부 실시예에서, 로컬화 모듈(1362)은 시공간적 위치(1412)를 제공하기 위해 필터링된 센서 데이터를 센서 데이터와 대조하여 검증한다. 센서 데이터는 또한 회로(1322)에 의해 디지털 비디오 스트림(1308a, 1308b)과 대조하여 검증될 수 있다. RADAR(1374), LiDAR(1376), GNSS 수신기(1370), 및 로컬화 회로(1364)는 도 13을 참조하여 더 상세히 예시되고 기술되어 있다.
AV(100)는 시공간적 위치(1412)에 의해 참조되는 시맨틱 맵(1342)을 사용하여 교차로(1416)에서부터 AV(100)의 거리 D2를 결정한다(1812). 예를 들어, 시맨틱 맵(1342)은 다음과 같은 관계 인식을 용이하게 하기 위해 TLD 시스템(1300)에 포함된다: (1) AV(100)를 차선(예를 들면, 차선(1428))에 관련시키는 것; (2) 계획 모듈(404)로부터의 궤적(198)을 사용하여 차선(1428)을 교차로(예를 들면, 교차로(1416))에 관련시키는 것; (3) 차선(1428) 및 교차로(1416)를 교통 신호등(예를 들면, 교통 신호등(1404))에 관련시키는 것; 및 (4) AV(100)를 정지선(예를 들면, 정지선(1452))에 관련시키는 것.
AV(100)는 카메라(1306a, 1306b) 및 본 명세서에서 기술된 다른 센서로부터의 센서 데이터에 기초하여 AV(100)가 교차로(1416)에서 차선(1428)으로부터 좌회전할 수 있다고 결정한다(1816). 예를 들어, 센서 데이터는 차선(1428)의 차선 마킹(1464)의 디지털 비디오 스트림을 포함한다. TLD 시스템(1300)은 교차로(1416)에 위치된 교통 신호등(1404)의 교통 신호(1310)가 녹색 좌회전 화살표 또는 녹색 신호등 중 어느 하나인 것을 검출한다. TLD 시스템(1300)은 "페일 세이프"로 구현된다.
AV(100)는 교차로(1416)에 위치된 교통 신호등(1404)의 교통 신호(1310)가 녹색 좌회전 화살표 또는 녹색 신호등 중 어느 하나라고 결정한다(1820). 교통 신호(1310)가 녹색 신호등인 것을 검출하는 것에 응답하여, 인지 모듈(402)은 다른 차량(1424)이 AV(100)가 동작하고 있는 제2 방향과 반대인 제1 방향으로 교차로(1416)에 접근하고 있는 것을 검출할 수 있다. 인지 모듈(402) 및 계획 모듈(404)은 다른 차량(1424)이 교차로(1416)에 도달하기 전에 AV(100)가 편의 프로파일에 따라 좌회전할 수 있다고 결정한다.
교통 신호(1310)가 녹색 좌회전 화살표라고 결정하는 것에 응답하여, 제어 회로(406)는, AV(100)가 궤적(198)에 따라 교차로(1416)에서 좌회전하도록, AV(100)를 동작시킨다.
추가 실시예
일 실시예에서, 본 명세서에서 개시된 방법 및 구현은 철도 건널목에 위치된 교통 신호, 응급 차량에 의해 방출되는 라이트 신호, 도개교 건널목에 있는 조명 신호, 깜박이는 황색 신호등이 있는 도로 위험요소 또는 상황 표지판, 및 라이트를 깜박이는 스쿨 버스를 검출하고 분석하는 데 사용된다.
일 실시예에서, 본 명세서에서 개시된 방법 및 구현은 급회전, 가파른 오르막(steep upgrade), 또는 도로 조건을 나타내는 라이트 신호를 검출하고 분석하는 데 사용된다. 예를 들어, 그러한 신호는 주의를 위해 깜박이는 황색일 수 있다.
일 실시예에서, 맵 데이터는 철도 건널목 또는 도개교 건널목이 깜박이는 적색인지를 결정하는 데 사용된다.
일 실시예에서, LiDAR 데이터는 스쿨 버스, 응급 차량, 또는 경찰차를 그의 깜박이는 라이트의 검출과 조합하여 검출하는 데 사용된다.
전술한 설명에서, 본 발명의 실시예는 구현마다 달라질 수 있는 다수의 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 관점보다는 예시적인 관점에서 보아야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위가 되도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 그에 부가하여, 전술한 설명 및 이하의 청구항에서 용어 "추가로 포함하는"이 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (20)

  1. 방법으로서,
    차량의 하나 이상의 프로세서에 의해, 상기 차량의 제1 카메라에 의해 캡처되는 제1 디지털 비디오 스트림 및 상기 차량의 제2 카메라에 의해 캡처되는 제2 디지털 비디오 스트림에 기초하여 제1 시공간적 위치에 위치되는 교통 신호등을 검출하는 단계;
    상기 하나 이상의 프로세서에 의해, 상기 차량이 제2 시공간적 위치에 위치되어 있다고 결정하는 단계 - 상기 결정하는 단계는, 상기 하나 이상의 프로세서에 의해, 상기 차량의 복수의 센서로부터 수신되는 제1 위치 데이터를, 필터에 의해, 상기 제1 위치 데이터를 필터링하는 것에 의해 획득되는 제2 위치 데이터와 대조하여 검증하는 단계를 포함함 -;
    상기 하나 이상의 프로세서에 의해, 상기 제2 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정하는 단계;
    상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정한 것에 응답하여, 상기 하나 이상의 프로세서에 의해, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림에 기초하여 상기 교통 신호등의 교통 신호를 검출하는 단계;
    상기 하나 이상의 프로세서에 의해, 상기 교통 신호에 따라 상기 차량의 궤적을 결정하는 단계; 및
    상기 하나 이상의 프로세서에 의해, 상기 결정된 궤적에 따라 상기 차량이 동작하게 하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서, 상기 제1 카메라는 상기 차량 상의 제1 위치에 위치되고, 상기 제2 카메라는 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림의 리던던시에 기초하여 상기 교통 신호등의 검출에서의 정확도를 증가시키기 위해 상기 차량 상의 제2 위치에 위치되는 것인, 방법.
  3. 제1항 또는 제2항에 있어서, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호등으로부터 상기 차량의 DSRC(dedicated short range communication) 센서에 의해 수신되는 DSRC 메시지에 기초하여 상기 교통 신호를 검증하는 단계
    를 더 포함하는, 방법.
  4. 제1항 또는 제2항에 있어서, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호등으로부터 상기 차량의 DSRC 센서에 의해 수신되는 DSRC 메시지에 기초하여 상기 교통 신호등이 상기 제1 시공간적 위치에 위치되어 있는 것을 검증하는 단계
    를 더 포함하는, 방법.
  5. 제1항 또는 제2항에 있어서, 상기 하나 이상의 프로세서에 의해, 상기 제1 시공간적 위치에 의해 참조되는 상기 시맨틱 맵에 기초하여 상기 차량이 상기 제2 시공간적 위치에 위치되어 있는 것을 검증하는 단계
    를 더 포함하는, 방법.
  6. 제1항 또는 제2항에 있어서,
    상기 교통 신호를 검출하는 단계 이전에, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호가 상기 차량의 궤적을 결정하기 위한 적색 신호등인 것을 예측하는 단계
    를 더 포함하는, 방법.
  7. 제1항 또는 제2항에 있어서,
    상기 하나 이상의 프로세서에 의해, 상기 교통 신호등의 상기 교통 신호를 검출하는 데 실패했음을 검출하는 단계; 및
    상기 실패의 검출에 응답하여, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호를 적색 신호등과 연관시키는 단계
    를 더 포함하는, 방법.
  8. 제1항 또는 제2항에 있어서, 상기 교통 신호를 검출하는 단계는, 상기 하나 이상의 프로세서에 의해, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림의 적어도 하나의 이미지 프레임을 세그먼트화하여 상기 교통 신호에 대응하는 상기 적어도 하나의 이미지 프레임의 구역을 검출하는 단계를 포함하는 것인, 방법.
  9. 제1항 또는 제2항에 있어서, 상기 차량의 DSRC 센서에 의해, 상기 교통 신호가 특정 시간에 변경될 것임을 나타내는 DSRC 메시지를 상기 교통 신호등으로부터 수신하는 단계
    를 더 포함하는, 방법.
  10. 제1항 또는 제2항에 있어서,
    상기 교통 신호등을 검출한 것에 응답하여, 상기 하나 이상의 프로세서에 의해, 상기 차량이 이동하고 있는 동안 상기 제1 카메라 또는 상기 제2 카메라 중 적어도 하나를 상기 교통 신호등 쪽으로 향하도록 상기 제1 카메라 또는 상기 제2 카메라 중 적어도 하나의 배향을 조정하는 단계
    를 더 포함하는, 방법.
  11. 제1항 또는 제2항에 있어서, 상기 차량의 상기 복수의 센서는 하나 이상의 글로벌 내비게이션 위성 시스템(GNSS) 수신기, 하나 이상의 RADAR 센서, 및 하나 이상의 LiDAR를 포함하는 것인, 방법.
  12. 제1항 또는 제2항에 있어서, 상기 교통 신호를 검출하는 단계는:
    상기 하나 이상의 프로세서에 의해, 상기 제1 디지털 비디오 스트림에 기초하여 상기 교통 신호가 제1 색상이라고 결정하는 단계;
    상기 하나 이상의 프로세서에 의해, 상기 제2 디지털 비디오 스트림에 기초하여 상기 교통 신호가 제2 색상이라고 결정하는 단계;
    상기 하나 이상의 프로세서에 의해, 상기 차량의 DSRC 센서에 의해 수신되는 DSRC 메시지에 기초하여 상기 교통 신호가 제3 색상이라고 결정하는 단계 - 상기 제3 색상은 상기 제2 색상과 동일함 -; 및
    상기 교통 신호가 상기 제3 색상이라고 결정한 것에 응답하여, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호를 상기 제2 색상과 연관시키는 단계
    를 포함하는 것인, 방법.
  13. 제1항 또는 제2항에 있어서, 상기 교통 신호를 검출하는 단계는:
    상기 하나 이상의 프로세서에 의해, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림으로부터 특징 벡터를 추출하는 단계; 및
    상기 하나 이상의 프로세서에 의해 실행되는 머신 러닝 모델에 의해, 상기 특징 벡터에 기초하여 상기 교통 신호를 결정하는 단계 - 상기 머신 러닝 모델은 대상체의 디지털 비디오 스트림으로부터 추출되는 특징에 기초하여 상기 대상체의 색상을 인식하도록 트레이닝됨 -
    를 포함하는 것인, 방법.
  14. 제13항에 있어서, 상기 하나 이상의 프로세서에 의해, 상기 교통 신호등의 디지털 비디오 스트림으로부터 추출되는 특징 벡터에 기초하여 교통 신호등의 교통 신호를 인식하도록 상기 머신 러닝 모델을 트레이닝시키는 단계
    를 더 포함하는, 방법.
  15. 제13항에 있어서, 상기 머신 러닝 모델은:
    적색 신호등을 인식하도록 트레이닝된 제1 인공 신경 네트워크; 및
    녹색 신호등을 인식하도록 트레이닝된 제2 인공 신경 네트워크
    를 포함하며, 상기 제1 인공 신경 네트워크는 상기 제2 인공 신경 네트워크와 독립적인 것인, 방법.
  16. 제1항 또는 제2항에 있어서,
    상기 하나 이상의 프로세서에 의해, 상기 교통 신호가 녹색 신호등이라고 결정하는 단계;
    상기 하나 이상의 프로세서에 의해, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림에 기초하여 보행자가 상기 제1 시공간적 위치에서 걷고 있다고 결정하는 단계; 및
    상기 하나 이상의 프로세서에 의해, 상기 차량과 상기 보행자의 충돌을 방지하기 위해 상기 차량의 속력이 감소하게 하는 단계
    를 더 포함하는, 방법.
  17. 제1항 또는 제2항에 있어서,
    상기 하나 이상의 프로세서에 의해, 상기 교통 신호등이 정전으로 인해 작동하지 않는다고 결정하는 단계; 및
    상기 하나 이상의 프로세서에 의해, 상기 차량이 정지하게 하는 단계
    를 더 포함하는, 방법.
  18. 제1항 또는 제2항에 있어서,
    상기 하나 이상의 프로세서에 의해, 상기 제1 시공간적 위치에서의 대상체의 부재를 결정하는 단계; 및
    상기 하나 이상의 프로세서에 의해, 상기 결정된 궤적에 따라 상기 차량이 동작하게 하는 메시지를 송신하는 단계
    를 더 포함하는, 방법.
  19. 차량으로서,
    하나 이상의 컴퓨터 프로세서; 및
    명령어를 저장하는 하나 이상의 비-일시적 저장 매체
    를 포함하며, 상기 명령어는, 상기 하나 이상의 컴퓨터 프로세서에 의해 실행될 때, 상기 하나 이상의 컴퓨터 프로세서로 하여금:
    상기 차량의 제1 카메라에 의해 캡처되는 제1 디지털 비디오 스트림 및 상기 차량의 제2 카메라에 의해 캡처되는 제2 디지털 비디오 스트림에 기초하여 제1 시공간적 위치에 위치되는 교통 신호등을 검출하게 하고;
    상기 차량이 제2 시공간적 위치에 위치되어 있다고 결정하게 하며 - 상기 결정하는 것은, 상기 하나 이상의 프로세서에 의해, 상기 차량의 복수의 센서로부터 수신되는 제1 위치 데이터를, 필터에 의해, 상기 제1 위치 데이터를 필터링하는 것에 의해 획득되는 제2 위치 데이터와 대조하여 검증하는 것을 포함함 -;
    상기 제2 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정하게 하고;
    상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정한 것에 응답하여, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림에 기초하여 상기 교통 신호등의 교통 신호를 검출하게 하며;
    상기 교통 신호에 따라 상기 차량의 궤적을 결정하게 하고;
    상기 결정된 궤적에 따라 상기 차량이 동작하게 하는 것인, 차량.
  20. 명령어를 저장하는 하나 이상의 비-일시적 저장 매체로서, 상기 명령어는, 하나 이상의 컴퓨팅 디바이스에 의해 실행될 때, 상기 하나 이상의 컴퓨팅 디바이스로 하여금:
    차량의 제1 카메라에 의해 캡처되는 제1 디지털 비디오 스트림 및 상기 차량의 제2 카메라에 의해 캡처되는 제2 디지털 비디오 스트림에 기초하여 제1 시공간적 위치에 위치되는 교통 신호등을 검출하게 하고;
    상기 차량이 제2 시공간적 위치에 위치되어 있다고 결정하게 하며 - 상기 결정하는 것은, 상기 차량의 복수의 센서로부터 수신되는 제1 위치 데이터를, 필터에 의해, 상기 제1 위치 데이터를 필터링하는 것에 의해 획득되는 제2 위치 데이터와 대조하여 검증하는 것을 포함함 -;
    상기 제2 시공간적 위치에 의해 참조되는 시맨틱 맵에 기초하여 상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정하게 하고;
    상기 교통 신호등이 상기 제1 시공간적 위치에서 예상된다고 결정한 것에 답하여, 상기 제1 디지털 비디오 스트림 및 상기 제2 디지털 비디오 스트림에 기초하여 상기 교통 신호등의 교통 신호를 검출하게 하며;
    상기 교통 신호에 따라 상기 차량의 궤적을 결정하게 하고;
    상기 결정된 궤적에 따라 상기 차량이 동작하게 하는 것인, 하나 이상의 비-일시적 저장 매체.
KR1020200171473A 2020-02-26 2020-12-09 차량의 교통 신호등 검출 시스템 KR102551208B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020230084162A KR20230104836A (ko) 2020-02-26 2023-06-29 차량의 교통 신호등 검출 시스템

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US202062981597P 2020-02-26 2020-02-26
US62/981,597 2020-02-26

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020230084162A Division KR20230104836A (ko) 2020-02-26 2023-06-29 차량의 교통 신호등 검출 시스템

Publications (2)

Publication Number Publication Date
KR20210108867A KR20210108867A (ko) 2021-09-03
KR102551208B1 true KR102551208B1 (ko) 2023-07-03

Family

ID=74046405

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200171473A KR102551208B1 (ko) 2020-02-26 2020-12-09 차량의 교통 신호등 검출 시스템
KR1020230084162A KR20230104836A (ko) 2020-02-26 2023-06-29 차량의 교통 신호등 검출 시스템

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020230084162A KR20230104836A (ko) 2020-02-26 2023-06-29 차량의 교통 신호등 검출 시스템

Country Status (5)

Country Link
US (1) US11854212B2 (ko)
KR (2) KR102551208B1 (ko)
CN (1) CN113313936A (ko)
DE (1) DE102021101758A1 (ko)
GB (2) GB2614360B (ko)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019106844A1 (de) * 2019-03-18 2020-09-24 Daimler Ag Detektion von Fehlfunktionen der Schaltzustandserkennung von Lichtsignalanlagen
DE102019119084A1 (de) * 2019-07-15 2021-01-21 Valeo Schalter Und Sensoren Gmbh Bestimmen eines Signalstatus einer Lichtsignalanlage
KR20220033081A (ko) * 2020-09-08 2022-03-16 현대자동차주식회사 자율 주행 제어 장치 및 방법
EP3968305A1 (en) * 2020-09-15 2022-03-16 Volkswagen Aktiengesellschaft Method, computer program and apparatus for controlling operation of a vehicle equipped with an automated driving function
US11704385B2 (en) * 2020-09-25 2023-07-18 Toyota Research Institute, Inc. Traffic light detection auto-labeling and federated learning based on vehicle-to-infrastructure communications
US11681780B2 (en) * 2020-09-30 2023-06-20 Nissan North America, Inc. Annotation and mapping for vehicle operation in low-confidence object detection conditions
US11841439B2 (en) 2020-11-02 2023-12-12 Waymo Llc Point cloud segmentation using a coherent lidar for autonomous vehicle applications
US20220135074A1 (en) * 2020-11-02 2022-05-05 Waymo Llc Classification of objects based on motion patterns for autonomous vehicle applications
US11656629B1 (en) 2020-12-08 2023-05-23 Waymo Llc Detection of particulate matter in autonomous vehicle applications
CN112349101B (zh) * 2021-01-08 2021-04-27 深圳裹动智驾科技有限公司 高精地图生成方法、以及识别交通灯的方法及系统
KR20220110977A (ko) * 2021-02-01 2022-08-09 현대모비스 주식회사 긴급차량 양보 시스템 및 그 제어 방법
KR102652486B1 (ko) * 2021-09-24 2024-03-29 (주)오토노머스에이투지 라이다를 이용한 신호등 정보 예측 방법 및 이를 이용한 서버
DE102021128785A1 (de) * 2021-11-05 2023-05-11 Bayerische Motoren Werke Aktiengesellschaft Vorrichtung und Verfahren zur Ermittlung der Entfernung eines Lichtsignalgebers
CN113780247B (zh) * 2021-11-09 2022-03-01 禾多科技（北京）有限公司 红绿灯检测方法、装置、电子设备和计算机可读介质
WO2023168262A2 (en) * 2022-03-01 2023-09-07 Mobileye Vision Technologies Ltd. Machine learning-based traffic light relevancy mapping
US20240038065A1 (en) * 2022-07-28 2024-02-01 Motional Ad Llc Managing traffic light detections

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180112997A1 (en) * 2017-12-21 2018-04-26 GM Global Technology Operations LLC Traffic light state assessment
JP2018173723A (ja) * 2017-03-31 2018-11-08 株式会社Ｓｕｂａｒｕ 車両の走行制御システム
US20190180115A1 (en) * 2017-12-11 2019-06-13 GM Global Technology Operations LLC Artificial neural network for lane feature classification and localization

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170206427A1 (en) 2015-01-21 2017-07-20 Sportstech LLC Efficient, High-Resolution System and Method to Detect Traffic Lights
US8559673B2 (en) * 2010-01-22 2013-10-15 Google Inc. Traffic signal mapping and detection
US9145140B2 (en) 2012-03-26 2015-09-29 Google Inc. Robust method for detecting traffic signals and their associated states
US9881220B2 (en) 2013-10-25 2018-01-30 Magna Electronics Inc. Vehicle vision system utilizing communication system
FR3024256B1 (fr) 2014-07-23 2016-10-28 Valeo Schalter & Sensoren Gmbh Detection de feux tricolores a partir d'images
US9707960B2 (en) 2014-07-31 2017-07-18 Waymo Llc Traffic signal response for autonomous vehicles
US10507807B2 (en) 2015-04-28 2019-12-17 Mobileye Vision Technologies Ltd. Systems and methods for causing a vehicle response based on traffic light detection
US10181264B2 (en) * 2016-04-18 2019-01-15 Ford Global Technologies, Llc Systems and methods for intersection assistance using dedicated short range communications
US10139832B2 (en) 2017-01-26 2018-11-27 Intel Corporation Computer-assisted or autonomous driving with region-of-interest determination for traffic light analysis
DE102017004118A1 (de) 2017-04-27 2018-10-31 Daimler Ag Verfahren zum Betrieb eines Fahrerassistenzsystems
AT16628U1 (de) * 2017-05-23 2020-03-15 Ars Electronica Linz Gmbh & Co Kg System zum Steuern von unbemannten Luftfahrzeugen in einem Schwarm, um ein bewegtes Objekt mit mehreren Kameras zu filmen
CN109492507B (zh) 2017-09-12 2022-09-23 阿波罗智能技术(北京)有限公司 红绿灯状态的识别方法及装置、计算机设备及可读介质
KR102390882B1 (ko) 2017-11-27 2022-04-26 현대모비스 주식회사 무선통신을 이용한 신호등 변화 알림 장치 및 방법
JP6923458B2 (ja) * 2018-01-22 2021-08-18 日立Astemo株式会社 電子制御装置
US11334753B2 (en) 2018-04-30 2022-05-17 Uatc, Llc Traffic signal state classification for autonomous vehicles
US20200005632A1 (en) 2018-06-07 2020-01-02 Intelligent Commute Llc Traffic light adaptive learning and mapping method and system for improving vehicle energy efficiency and driving comfort
JP7119720B2 (ja) 2018-07-30 2022-08-17 株式会社デンソー 運転支援装置
CN109035832A (zh) 2018-09-12 2018-12-18 清华大学苏州汽车研究院（吴江） 基于v2x通信的信号灯路口智能通行系统
CN109460715A (zh) 2018-10-18 2019-03-12 大唐网络有限公司 一种基于机器学习的交通灯自动识别实现方法
US11645511B2 (en) * 2019-04-24 2023-05-09 Toyota Research Institute, Inc. Systems and methods for simulating instantaneous attentive human responses to road hazards for improved early warning systems and fleet data harvesting
US11170238B2 (en) * 2019-06-26 2021-11-09 Woven Planet North America, Inc. Approaches for determining traffic light state
CN110543814B (zh) 2019-07-22 2022-05-10 华为技术有限公司 一种交通灯的识别方法及装置
US10816993B1 (en) * 2019-11-23 2020-10-27 Ha Q Tran Smart vehicle

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018173723A (ja) * 2017-03-31 2018-11-08 株式会社Ｓｕｂａｒｕ 車両の走行制御システム
US20190180115A1 (en) * 2017-12-11 2019-06-13 GM Global Technology Operations LLC Artificial neural network for lane feature classification and localization
US20180112997A1 (en) * 2017-12-21 2018-04-26 GM Global Technology Operations LLC Traffic light state assessment

Also Published As

Publication number Publication date
GB202210975D0 (en) 2022-09-07
KR20210108867A (ko) 2021-09-03
GB2614360A (en) 2023-07-05
US20210261152A1 (en) 2021-08-26
GB2592461B (en) 2022-10-12
CN113313936A (zh) 2021-08-27
US11854212B2 (en) 2023-12-26
DE102021101758A1 (de) 2021-08-26
GB2592461A (en) 2021-09-01
KR20230104836A (ko) 2023-07-11
GB2614360B (en) 2024-02-28
GB202017795D0 (en) 2020-12-23

Similar Documents

Publication Publication Date Title
KR102551208B1 (ko) 차량의 교통 신호등 검출 시스템
US11320826B2 (en) Operation of a vehicle using motion planning with machine learning
KR102543501B1 (ko) 센서 고장에 대한 자율 주행 차량 대응방안을 구현하기 위한 시스템 및 방법
KR102593948B1 (ko) 주석 달기를 위한 데이터 샘플의 자동 선택
KR102532546B1 (ko) 미리 계산되거나 동적으로 생성된 궤적 뱅크로부터의 궤적 예측
KR102616561B1 (ko) 복수의 모션 제약을 사용하는 차량의 동작
WO2020146445A1 (en) Classifying perceived objects based on activity
KR102542970B1 (ko) 데이터 기반 규칙 북
US11577754B2 (en) Autonomous vehicle operation using linear temporal logic
KR102505717B1 (ko) 교통 신호등 추정
KR102555318B1 (ko) 조건부 움직임 예측
KR102639008B1 (ko) 도로 특징부에 대한 폐색 표현을 구현하기 위한 시스템 및 방법
KR102549258B1 (ko) 이미지 시맨틱스 네트워크로부터의 단안 3d 대상체 검출
KR20230035440A (ko) 교통 신호등 추정
KR20220144296A (ko) 인지된 위험에 기초하여 자율 주행 차량을 운행하기 위한 기술

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant