KR20210112276A - 센서 데이터 필터링을 위한 병합-분할 기술 - Google Patents

센서 데이터 필터링을 위한 병합-분할 기술 Download PDF

Info

Publication number
KR20210112276A
KR20210112276A KR1020210115668A KR20210115668A KR20210112276A KR 20210112276 A KR20210112276 A KR 20210112276A KR 1020210115668 A KR1020210115668 A KR 1020210115668A KR 20210115668 A KR20210115668 A KR 20210115668A KR 20210112276 A KR20210112276 A KR 20210112276A
Authority
KR
South Korea
Prior art keywords
track
group
factor
previous
track state
Prior art date
Application number
KR1020210115668A
Other languages
English (en)
Inventor
링지 첸
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20210112276A publication Critical patent/KR20210112276A/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/12—Target-seeking control
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/66—Radar-tracking systems; Analogous systems
    • G01S13/72—Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar
    • G01S13/723—Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar by using numerical data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/66—Radar-tracking systems; Analogous systems
    • G01S13/72—Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
    • G01S15/88—Sonar systems specially adapted for specific applications
    • G01S15/93—Sonar systems specially adapted for specific applications for anti-collision purposes
    • G01S15/931—Sonar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0019—Control system elements or transfer functions
    • B60W2050/0022—Gains, weighting coefficients or weighting functions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0043—Signal treatments, identification of variables or parameters, parameter estimation or state estimation
    • B60W2050/0052—Filtering, filters
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408—Radar; Laser, e.g. lidar
    • B60W2420/52—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/54—Audio sensitive means, e.g. ultrasound
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/66—Radar-tracking systems; Analogous systems
    • G01S13/72—Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar
    • G01S13/723—Radar-tracking systems; Analogous systems for two-dimensional tracking, e.g. combination of angle and range tracking, track-while-scan radar by using numerical data
    • G01S13/726—Multiple target tracking
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9323—Alternative operation using light waves
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88—Radar or analogous systems specially adapted for specific applications
    • G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G01S2013/9324—Alternative operation using ultrasonic waves
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optics & Photonics (AREA)
  • Traffic Control Systems (AREA)

Abstract

대상체를 추적하기 위한 기술은: 수신된 복귀 신호에 기초하여 검출된 측정치 집합을 결정하는 단계; 그룹 측정치 집합 및 그룹 트랙 집합을 포함하는 그룹을 결정하는 단계; 제1 이전 트랙 상태 가설 집합과 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써, 제1 기존 트랙 집합과 제2 기존 트랙 집합을 포함하는 병합된 기존 트랙 집합과 연관되는 병합된 트랙 상태 가설 집합을 포함하는 병합된 인자를 생성하는 단계; 제1 새로운 인자와 제2 새로운 인자를 결정하는 단계; 그룹 측정치의 제1 부분집합에 기초하여 제1 새로운 인자에 대한 제1 새로운 트랙 상태 가설 집합을 계산하는 단계; 및 그룹 측정치의 제2 부분집합에 기초하여 제2 새로운 인자에 대한 제2 새로운 트랙 상태 가설 집합을 계산하는 단계를 포함한다.

Description

센서 데이터 필터링을 위한 병합-분할 기술{MERGE-SPLIT TECHNIQUES FOR SENSOR DATA FILTERING}
이 설명은 대상체를 추적하기 위해 센서 데이터를 필터링하기 위한 시스템, 특히 트랙 상태 가설을 병합 및 분할함으로써 자율 주행 차량을 둘러싼 환경에서 하나 이상의 대상체를 추적하는 것에 관한 것이다.
자율 주행 차량은 사람 및/또는 화물(예를 들어, 소포, 물건, 또는 다른 물품)을 한 장소로부터 다른 장소로 운송하는 데 사용될 수 있다. 예를 들어, 자율 주행 차량은 사람의 위치로 운행하고, 사람이 자율 주행 차량을 탑승하기를 기다리며, 지정된 목적지(예를 들어, 사람에 의해 선택된 위치)로 운행할 수 있다. 환경에서 운행하기 위해, 이 자율 주행 차량은 주변에 있는 대상체를 검출하기 위한 다양한 타입의 센서를 장비하고 있다.
본 명세서에서 기술된 주제는 자율 주행 차량을 둘러싼 환경에서 대상체를 검출하기 위한 컴퓨터 시스템 및 기술에 관한 것이다. 일반적으로, 컴퓨터 시스템은 차량의 하나 이상의 센서로부터 입력을 수신하고, 수신된 입력에 기초하여 차량을 둘러싼 환경에서 하나 이상의 대상체를 검출하며, 대상체의 검출에 기초하여 트랙 정보를 형성 및 업데이트하도록 구성된다.
목표물이 움직일 수 있고 개수가 변할 수 있기 때문에 추적은 어려운 문제이다. 또한, 센서로부터의 측정치는 노이즈와 불확실한 출처를 갖는다. 단일 목표물 필터링 문제는 재귀적 형태(recursive form)의 베이지안 해법(Bayesian solution)을 갖는다. 다중 목표물 사례로 일반화하기 위해, 확률 유한 집합(Random Finite Set) 프레임워크가 사용될 수 있다.
센서 데이터를 필터링하고 대상체를 추적하기 위한 하나의 접근법은 기존의 트랙 상태 가설 집합(트랙 상태 가설 집합은 본 명세서에서 "인자(factor)"라고 지칭됨)을 병합하고, 이어서 새로 수집된 센서 데이터로 트랙 상태 가설을 업데이트하기 전에(예를 들어, 새로운 트랙 상태 가설을 계산하기 전에), 병합된 집합(예를 들어, 병합된 인자)을 2개 이상의 새로운 가설 집합(예를 들어, 새로운 인자)으로 분할하는 것을 포함한다. 병합된 인자를 분할하는 것은 가설을 업데이트할 목적으로 일부 트랙이 다른 트랙과 독립적으로 취급될 수 있게 하며, 이는, 특히 많은 수의 트랙에 대해, 새로운 가설을 계산하는 계산 부담을 크게 줄일 수 있다.
특히, 센서에 의해 수신되는 신호에 기초하여 대상체를 추적하기 위한 기술이 설명된다. 일부 실시예에서, 발신 신호가 환경 내로 송신되고, 복귀 신호가 수신되며, 여기서 복귀 신호는 환경 내의 대상체로부터의 발신 신호의 반사를 포함한다. 검출된 측정치 집합은 수신된 복귀 신호에 기초하여 결정되며, 여기서 검출된 측정치는 환경 내의 대상체의 각자의 검출에 대응한다. 그룹이 결정되고, 여기서 그룹은 검출된 측정치 집합으로부터의 그룹 측정치 집합, 및 그룹 측정치 집합과 연관된 그룹 트랙 집합을 포함한다. 그룹 트랙 집합은: 제1 이전 인자와 연관된 제1 트랙, 및 제2 이전 인자와 연관된 제2 트랙을 포함한다. 제1 이전 인자는 제1 이전 트랙 상태 가설 집합을 포함하고, 제1 이전 트랙 상태 가설 집합은 제1 트랙을 포함하는 제1 기존 트랙 집합과 연관된다. 제2 이전 인자는 제2 이전 트랙 상태 가설 집합을 포함하고, 제2 이전 트랙 상태 가설 집합은 제2 트랙을 포함하는 제2 기존 트랙 집합과 연관된다. 병합된 인자는 제1 이전 트랙 상태 가설 집합과 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써 생성된다. 병합된 인자는 제1 기존 트랙 집합 및 제2 기존 트랙 집합을 포함하는 병합된 기존 트랙 집합과 연관된 병합된 트랙 상태 가설 집합을 포함한다. 병합된 인자가 분할 조건을 충족시킨다는 결정에 따라, 제1 새로운 인자 및 제2 새로운 인자가 결정된다. 제1 새로운 인자는 그룹 측정치의 제1 부분집합 및 병합된 기존 트랙 집합의 제1 부분집합과 연관된다. 제2 새로운 인자는 그룹 측정치의 제2 부분집합 및 병합된 기존 트랙 집합의 제2 부분집합과 연관된다. 그룹 측정치의 제1 부분집합과 그룹 측정치의 제2 부분집합은 상호 배타적이다. 병합된 기존 트랙 집합의 제1 부분집합과 기존 트랙 집합의 제2 부분집합은 상호 배타적이다. 그룹 측정치의 제1 부분집합에 기초하여 제1 새로운 인자에 대해 제1 새로운 트랙 상태 가설 집합이 계산되고, 그룹 측정치의 제2 부분집합에 기초하여 제2 새로운 인자에 대해 제2 새로운 트랙 상태 가설 집합이 계산된다.
이들 및 다른 양태, 특징, 및 구현은 기능을 수행하기 위한 방법, 장치, 시스템, 컴포넌트, 프로그램 제품, 수단 또는 단계로서, 그리고 다른 방식으로 표현될 수 있다.
이들 및 다른 양태, 특징, 및 구현은, 청구항을 포함하여, 이하의 설명으로부터 명백해질 것이다.
도 1은 자율 주행 능력을 갖는 자율 주행 차량(autonomous vehicle)의 일 예를 도시한다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다.
도 3은 컴퓨터 시스템을 예시한다.
도 4는 자율 주행 차량에 대한 예시적인 아키텍처를 도시한다.
도 5는 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 일 예를 도시한다.
도 6은 LiDAR 시스템의 일 예를 도시한다.
도 7은 동작 중인 LiDAR 시스템을 도시한다.
도 8은 LiDAR 시스템의 동작을 추가적으로 상세하게 도시한다.
도 9는 계획 모듈의 입력과 출력 사이의 관계의 블록 다이어그램을 도시한다.
도 10은 경로 계획에서 사용되는 방향 그래프를 도시한다.
도 11은 제어 모듈의 입력 및 출력의 블록 다이어그램을 도시한다.
도 12는 제어기의 입력, 출력, 및 컴포넌트의 블록 다이어그램을 도시한다.
도 13a 및 도 13b는 일부 실시예에 따른, 추적기에 대한 예시적인 가설을 도시한다.
도 14a 내지 도 14c는 일부 실시예에 따른, 예시적인 확률 분포를 도시한다.
도 15a 및 도 15b는 일부 실시예에 따른, 예시적인 가설 트리를 도시한다.
도 15c는 일부 실시예에 따른, 인자의 개수 및 가설의 총 개수의 그래프를 도시한다.
도 16은 일부 실시예에 따른, 예시적인 분할 프로세스를 도시한다.
도 17은 일부 실시예에 따른, 환경 내의 대상체를 검출하고 대상체를 추적하기 위한 예시적인 프로세스의 플로차트이다.
설명을 위한 이하의 기술에서는, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부사항이 제시된다. 그렇지만, 본 발명이 이러한 특정 세부사항 없이 실시될 수 있다는 것이 명백할 것이다. 다른 예에서, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.
도면에서, 기술을 용이하게 하기 위해, 디바이스, 모듈, 명령 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 일반적 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정한 순서 또는 시퀀스, 또는 프로세스의 분리가 요구된다는 것을 암시하는 것을 의미하지는 않는다는 점을 이해할 것이다. 또한, 도면에 개략적 요소를 포함시키는 것이, 그러한 요소가 모든 실시예에서 요구된다는 것을 암시하는 것을 의미하지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않거나 또는 다른 요소와 조합되지 않을 수 있다는 점을 암시하는 것을 의미하지 않는다.
또한, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재는 연결, 관계 또는 연관이 존재할 수 없다는 점을 암시하는 것을 의미하지 않는다. 환언하면, 요소 사이의 일부 연결, 관계, 또는 연관은 본 개시내용을 모호하게 하지 않기 위해 도면에 도시되지 않는다. 또한, 예시를 용이하게 하기 위해, 요소 사이의 다수의 연결, 관계 또는 연관을 표현하기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령의 통신을 표현하는 경우, 본 기술 분야의 일반적 기술자라면, 그러한 요소가, 통신에 영향을 주기 위해 필요할 수 있는 하나 또는 다수의 신호 경로(예를 들어, 버스)를 표현한다는 것을 이해할 것이다.
그 예가 첨부 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부사항이 제시된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부사항 없이 실시될 수 있다는 것이 본 기술 분야의 일반적 기술자에게 명백할 것이다. 다른 예에서, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세하게 기술되지 않았다.
서로 독립적으로 또는 다른 특징의 임의의 조합과 함께 각각 사용될 수 있는 여러 특징이 이하에 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제 중 임의의 것을 해결할 수 없거나 또는 위에서 논의된 문제 중 단지 하나만을 해결할 수 있다. 위에서 논의된 문제 중 일부는 본원에 기술된 특징 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 표제가 제공되어 있더라도, 특정 표제와 관련되지만 해당 표제를 갖는 섹션에서 발견되지 않은 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다.
1. 일반적 개관
2. 하드웨어 개관
3. 자율 주행 차량 아키텍처
4. 자율 주행 차량 입력
5. 자율 주행 차량 계획
6. 자율 주행 차량 제어
7. 필라를 사용한 대상체 검출을 위한 컴퓨팅 시스템
8. 예시적인 포인트 클라우드 및 필라
9. 대상체를 검출하고 대상체의 검출에 기초하여 차량을 동작시키기 위한 예시적인 프로세스
일반적 개관
복잡한 환경(예를 들어, 도시 환경)에서의 자율 주행 차량 운전은 큰 기술적 도전을 제기한다. 자율 주행 차량이 이러한 환경을 운행하기 위해, 차량은 LiDAR 또는 RADAR와 같은 센서를 사용하여 실시간으로 차량, 보행자, 및 자전거와 같은 다양한 타입의 대상체를 검출한다. 언급된 바와 같이, 센서 데이터를 필터링하고 대상체를 추적하기 위한 하나의 접근법은 기존 트랙 상태 가설 집합을 병합하여 병합된 인자(예를 들어, 병합된 가설 집합)를 생성하고, 이어서, 트랙 상태 가설을 업데이트하기 전에(예를 들어, 새로운 트랙 상태 가설을 계산하기 전에), 병합된 인자를 2개 이상의 새로운 인자로 분할하는 것을 포함한다. 병합된 인자를 분할하는 것은 가설을 업데이트할 목적으로 일부 트랙이 다른 트랙과 독립적으로 취급될 수 있게 하며, 이는, 특히 많은 수의 트랙에 대해, 새로운 가설을 계산하는 계산 부담을 크게 줄일 수 있다.
예를 들어, 발신 신호가 환경 내로 송신되고, 복귀 신호가 수신되며, 여기서 복귀 신호는 환경 내의 대상체로부터의 발신 신호의 반사를 포함한다. 검출된 측정치 집합은 수신된 복귀 신호에 기초하여 결정되며, 여기서 검출된 측정치는 환경 내의 대상체의 각자의 검출에 대응한다. 그룹이 결정되고, 여기서 그룹은 검출된 측정치 집합으로부터의 그룹 측정치 집합, 및 그룹 측정치 집합과 연관된 그룹 트랙 집합을 포함한다. 그룹 트랙 집합은: 제1 이전 인자와 연관된 제1 트랙, 및 제2 이전 인자와 연관된 제2 트랙을 포함한다. 제1 이전 인자는 제1 이전 트랙 상태 가설 집합을 포함하고, 제1 이전 트랙 상태 가설 집합은 제1 트랙을 포함하는 제1 기존 트랙 집합과 연관된다. 제2 이전 인자는 제2 이전 트랙 상태 가설 집합을 포함하고, 제2 이전 트랙 상태 가설 집합은 제2 트랙을 포함하는 제2 기존 트랙 집합과 연관된다. 병합된 인자는 제1 이전 트랙 상태 가설 집합과 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써 생성된다. 병합된 인자는 제1 기존 트랙 집합 및 제2 기존 트랙 집합을 포함하는 병합된 기존 트랙 집합과 연관된 병합된 트랙 상태 가설 집합을 포함한다. 병합된 인자가 분할 조건을 충족시킨다는 결정에 따라, 제1 새로운 인자 및 제2 새로운 인자가 결정된다. 제1 새로운 인자는 그룹 측정치의 제1 부분집합 및 병합된 기존 트랙 집합의 제1 부분집합과 연관된다. 제2 새로운 인자는 그룹 측정치의 제2 부분집합 및 병합된 기존 트랙 집합의 제2 부분집합과 연관된다. 그룹 측정치의 제1 부분집합과 그룹 측정치의 제2 부분집합은 상호 배타적이다. 병합된 기존 트랙 집합의 제1 부분집합과 기존 트랙 집합의 제2 부분집합은 상호 배타적이다. 그룹 측정치의 제1 부분집합에 기초하여 제1 새로운 인자에 대해 제1 새로운 트랙 상태 가설 집합이 계산되고, 그룹 측정치의 제2 부분집합에 기초하여 제2 새로운 인자에 대해 제2 새로운 트랙 상태 가설 집합이 계산된다.
하드웨어 개관
도 1은 자율 주행 능력을 갖는 자율 주행 차량(100)의 일 예를 도시한다.
본원에서 사용되는 바와 같이, 용어 "자율 주행 능력"은, 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량을 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작될 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.
본원에서 사용되는 바와 같이, 자율 주행 차량(AV)은 자율 주행 능력을 갖는 차량이다.
본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 일 예이다.
본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들어, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들어, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 또는 드롭-오프(drop-off) 위치이다.
본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트 중 일부는 감지 컴포넌트(예를 들어, 이미지 센서, 생체측정 센서), 송신 및/또는 수신 컴포넌트(예를 들어, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그 대 디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.
본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 라벨링된 대상체를 포함하는 데이터 구조(예를 들어, 리스트) 또는 데이터 스트림이다.
본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들어, 도시 거리, 주간 고속도로 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들어, 주택 또는 사무실 건물 내의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들어, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 진행에 대해 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.
본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 한 부분이고, 차선 마킹 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹 사이의 공간의 단지 일부(예를 들어, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹을 갖는 도로는 차선 마킹 사이에 둘 이상의 차량을 수용할 수 있어서, 하나의 차량이 차선 마킹을 횡단하지 않고 다른 차량을 추월할 수 있고, 따라서 차선 마킹 사이의 공간보다 좁은 차선을 갖거나 차선 마킹 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징, 예를 들어, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무에 기초하여 규정될 수 있다.
"하나 이상"은 하나의 요소에 의해 수행되는 기능, 하나 초과의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.
또한, 용어, 제1, 제2 등이 일부 예에서 다양한 요소를 기술하기 위해 본원에 사용되었지만, 이들 요소는 이들 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이들 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않고, 제1 접촉은 제2 접촉이라 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.
본원에 기술된 다양한 실시예의 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하려는 것은 아니다. 기술된 다양한 실시예 및 첨부된 청구항의 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명시적으로 표시하지 않는 이상, 복수형도 포함하도록 의도된다. 또한, 본원에서 사용되는 바와 같은 용어 "및/또는"은 열거된 연관 항목들 중 하나 이상의 항목의 임의의 그리고 모든 가능한 조합을 지칭하고 포함한다는 것이 이해될 것이다. 또한, 용어 "포함한다" 및/또는 "포함하는"은, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명기하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그의 그룹의 존재 또는 추가를 배제하지 않는다는 것도 이해될 것이다.
본원에서 사용되는 바와 같이, 용어 "~ 경우"는 선택적으로 문맥에 따라 "~할 때", 또는 "~시에" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정된다면" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는 선택적으로 문맥에 따라, "결정할 시에" 또는 "결정에 응답하여" 또는 "[언급된 조건 또는 이벤트]의 검출 시에" 또는 "[언급된 조건 또는 이벤트]의 검출에 응답하여"를 의미하는 것으로 해석된다.
본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는, 하드웨어, 소프트웨어, 저장된 데이터, 및 실시간으로 생성된 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 3과 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(300)과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.
일반적으로, 본원은 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량, 예컨대, 제각기 소위 레벨 5 차량, 레벨 4 차량 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 개시한다(차량의 자율성 레벨의 분류에 대한 세부사항은 본원에 그 전체가 참조로 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본원에서 개시된 기술은 부분적 자율 주행 차량 및 운전자 보조 차량, 예컨대, 소위 레벨 2 차량 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들어, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본원에서 개시된 기술은, 완전한 자율 주행 차량으로부터 사람-운전 차량에 이르는, 임의의 레벨에 있는 차량에 혜택을 줄 수 있다.
도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들어, 자연 장애물(191), 차량(193), 보행자(192), 자전거 운전자, 및 다른 장애물)을 회피하고 도로 법규(예를 들어, 동작 규칙 또는 운전 선호도)를 준수하면서, 환경(190)을 통해 궤적(198)을 따라 AV(100)를 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터의 동작 커맨드를 수신하고 이에 따라 작동하도록 설비된 디바이스(101)를 포함한다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스(101)의 예는 조향 제어(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 앞유리 와이퍼, 사이드-도어락, 윈도 제어, 및 방향 지시등을 포함한다.
일 실시예에서, AV 시스템(120)은 AV의 위치, 선형 속도 및 선형 가속도, 각속도 및 각가속도, 및 방향(예를 들어, AV(100)의 선단의 배향)과 같은 AV(100)의 상태 또는 조건의 특성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선형 가속도 및 각속도(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립 비(wheel slip ratio)를 측정 또는 추산하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 및 조향각(steering angle) 및 각속도 센서이다.
일 실시예에서, 센서(121)는 또한 AV의 환경의 특성을 감지 또는 측정하기 위한 센서를 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼식 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, TOF(time-of-flight) 심도 센서, 속력 센서, 온도 센서, 습도 센서, 및 강우 센서.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 이력, 실시간, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 정체 업데이트 또는 날씨 상태를 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건, 예컨대, 위치, 선형 속도 및 각속도, 선형 가속도 및 각가속도, 및 AV(100)를 향한 선형 및 각도 방향의 측정된 또는 추론된 특성을 통신하기 위한 통신 디바이스(140)를 포함한다. 이 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학적 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들어, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서 하나 이상의 다른 타입의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, 자율 주행 차량과의 통신 및 자율 주행 차량들 간의 통신을 위한 하나 이상의 통신 표준에 따른다.
일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, WiFi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 도 2에 기술된 바와 같이 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스(140)는 센서(121)로부터 수집된 데이터 또는 AV(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)에 송신한다. 일 실시예에서, 통신 인터페이스(140)는 원격 조작에 관련되는 정보를 AV(100)에 송신한다. 일부 실시예에서, AV(100)는 다른 원격(예를 들어, "클라우드") 서버(136)와 통신한다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 (예를 들어, 도로 및 거리 위치와 같은 데이터를 저장하는) 디지털 데이터를 저장 및 송신한다. 이러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 하루 중 유사한 시간에서 궤적(198)을 따라 이전에 진행한 차량의 운전 특성(예를 들어, 속력 및 가속도 프로파일)에 관한 이력 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신될 수 있다.
AV(100) 상에 위치된 컴퓨팅 디바이스(146)는 실시간 센서 데이터 및 이전 정보 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 능력을 실행할 수 있게 한다.
일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들어, 탑승자 또는 원격 사용자)에게 정보 및 경보를 제공하고 사용자로부터 입력을 수신하기 위해 컴퓨팅 디바이스(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 제어기(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스(예를 들어, 네트워크, 네트워크 대역폭, 서버, 프로세싱, 메모리, 스토리지, 애플리케이션, 가상 머신, 및 서비스)의 공유 풀에 대한 간편한 주문형 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템에서는, 하나 이상의 대형 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스를 전달하는 데 사용되는 머신을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 데이터 센터(204a, 204b, 및 204c)는 클라우드 컴퓨팅 서비스를 클라우드(202)에 연결된 컴퓨터 시스템(206a, 206b, 206c, 206d, 206e, 및 206f)에 제공한다.
클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정한 부분을 구성하는 서버의 물리적 배열체를 지칭한다. 예를 들어, 서버는 클라우드 데이터 센터 내에 룸, 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 일부 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버는, 전력 요건, 에너지 요건, 열적 요건, 가열 요건, 및/또는 다른 요건을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요건에 기초하여 그룹으로 배열된다. 일 실시예에서, 서버 노드는 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 다수의 랙을 통해 분산된 다수의 컴퓨팅 시스템을 갖는다.
클라우드(202)는 클라우드 데이터 센터(204a, 204b, 및 204c)를 상호연결시키고 클라우드 컴퓨팅 서비스에 대한 컴퓨팅 시스템(206a 내지 206f)의 액세스를 용이하게 하는 것을 보조하는 네트워크 및 네트워킹 리소스(예를 들어, 네트워킹 장비, 노드, 라우터, 스위치 및 네트워킹 케이블)와 함께 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결을 사용하여 배치된 유선 또는 무선 링크를 사용하여 결합된 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 거쳐 교환되는 데이터는 IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은 임의의 개수의 네트워크 계층 프로토콜을 사용하여 송신된다. 또한, 네트워크가 다수의 서브 네트워크의 조합을 나타내는 실시예에서, 상이한 네트워크 계층 프로토콜은 기저 서브 네트워크(underlying sub-networks) 각각에서 사용된다. 일부 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.
컴퓨팅 시스템(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자는 네트워크 링크 및 네트워크 어댑터를 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다양한 컴퓨팅 디바이스, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, 자율 주행 차량(자동차, 드론, 셔틀, 기차, 버스 등을 포함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다른 시스템 내에 또는 그 일부로서 구현된다.
도 3은 컴퓨터 시스템(300)을 예시한다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 펌웨어, 메모리, 다른 스토리지 또는 조합 내의 프로그램 명령에 따라 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 또한, 그러한 특수-목적 컴퓨팅 디바이스는 커스텀 고정-배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수-목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정-배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 포터블 컴퓨터 시스템, 휴대용 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.
일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(302)에 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 버스(302)에 결합된, 프로세서(304)에 의해 실행될 명령 및 정보를 저장하기 위한, RAM(random access memory) 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(306)를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령은, 프로세서(304)에 액세스 가능한 비-일시적 저장 매체에 저장될 때, 컴퓨터 시스템(300)을 명령에서 특정된 동작을 수행하도록 커스터마이징된 특수-목적 머신으로 렌더링한다.
일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)를 위한 정적 정보 및 명령을 저장하기 위해 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 추가로 포함한다. 자기 디스크, 광학 디스크, 솔리드-스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 정보 및 명령을 저장하기 위해 버스(302)에 결합된다.
일 실시예에서, 컴퓨터 시스템(300)은 버스(302)를 통해, 정보를 컴퓨터 사용자에게 디스플레이하기 위한, CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은, 디스플레이(312)에 결합된다. 문자 숫자식 및 다른 키를 포함하는 입력 디바이스(314)는 정보 및 커맨드 선택을 프로세서(304)에 통신하기 위해 버스(302)에 결합된다. 다른 타입의 사용자 입력 디바이스는, 디스플레이(312) 상에서 커서 움직임을 제어하고 프로세서(304)에 방향 정보 및 커맨드 선택을 통신하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 제어기(316)이다. 이 입력 디바이스는 전형적으로, 디바이스가 평면에서 위치를 특정할 수 있게 하는 2개의 축, 즉 제1 축(예를 들어, x-축) 및 제2 축(예를 들어, y-축)에서의 2 자유도를 갖는다.
일 실시예에 따르면, 본원에서의 기술은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령은, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령의 시퀀스의 실행은 프로세서(304)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적 실시예에서는, 소프트웨어 명령 대신에 또는 소프트웨어 명령과 조합하여 고정-배선 회로가 사용된다.
용어 "저장 매체"는 본원에서 사용되는 바와 같이 머신으로 하여금 특정 방식으로 동작하게 하는 데이터 및/또는 명령을 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드-스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드-스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀의 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.
저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체 간에 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 포함하는 와이어를 포함하여, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 또한, 송신 매체는 라디오-파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 광파 또는 음향파의 형태를 취할 수 있다.
일 실시예에서, 실행을 위해 하나 이상의 명령의 하나 이상의 시퀀스를 프로세서(304)에 반송하는 데 다양한 형태의 매체가 수반된다. 예를 들어, 명령은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드-스테이트 드라이브에 보유된다. 원격 컴퓨터는 동적 메모리에 명령을 로딩하고 모뎀을 사용하여 전화선을 통해 명령을 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선 상으로 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 배치한다. 버스(302)는 메인 메모리(306)로 데이터를 반송하고, 프로세서(304)는 메인 메모리로부터 명령을 검색 및 실행한다. 메인 메모리(306)에 의해 수신된 명령은 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.
컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결된 네트워크 링크(320)에 대한 2-웨이 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 타입의 전화선에 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 타입의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.
네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)로의 연결 또는 ISP(Internet Service Provider)(326)에 의해 동작되는 클라우드 데이터 센터 또는 장비로의 연결을 제공할 수 있다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(322) 및 인터넷(328) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 다양한 네트워크를 통한 신호 및 컴퓨터 시스템(300)으로 그리고 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.
컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해, 메시지를 전송하고, 프로그램 코드를 포함하는, 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱을 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고 및/또는, 추후의 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.
자율 주행 차량 아키텍처
도 4는 자율 주행 차량(예를 들어, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 도시한다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(planning module)(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(localization module)(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈(402, 404, 406, 408 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈(402, 404, 406, 408, 및 410) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들어, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능한 코드) 및 컴퓨터 하드웨어(예를 들어, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 타입의 집적 회로, 다른 타입의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다.
사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달하기 위해(예를 들어, 도착하기 위해) AV(100)에 의해 진행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.
인지 모듈(402)은, 예를 들어, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들어, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 타입으로 그룹화되고), 분류된 대상체(416)를 포함하는 장면 묘사는 계획 모듈(404)에 제공된다.
또한, 계획 모듈(404)은 로컬화 모듈(408)로부터 AV 위치(418)를 나타내는 데이터를 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들어, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 GNSS(Global Operation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 특성의 고-정밀 맵, 도로망 연결 특성을 기술하는 맵, 도로 물리적 특성(예를 들어, 교통 속력, 교통량, 차량 및 자전거 운전자 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 타입 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예를 들어, 횡단보도, 교통 표지판 또는 다양한 타입의 다른 진행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다.
제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)로 궤적(414)을 진행하게 할 방식으로 AV의 제어 기능(420a 내지 420c)(예를 들어, 조향, 스로틀링, 제동, 점화)을 동작시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 좌측으로 회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 통과하는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로 제어 기능(420a 내지 420c)을 동작시킬 것이다.
자율 주행 차량 입력
도 5는 인지 모듈(402)(도 4)에 의해 사용되는 입력(502a 내지 502d)(예를 들어, 도 1에 도시된 센서(121)) 및 출력(504a 내지 504d)(예를 들어, 센서 데이터)의 일 예를 도시한다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들어, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들어, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.
다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템(502b)은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.
다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들어, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들어, RAW, JPEG, PNG 등과 같은 이미지 데이터 형식의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 심도를 인지할 수 있게 하는, 예를 들어, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 카메라 시스템에 의해 인지되는 대상체가 본원에서 "인근"으로 기술되지만, 이것은 AV에 상대적인 것이다. 사용 중에, 카메라 시스템은 멀리 있는, 예를 들어, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성될 수 있다. 따라서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하기 위해 최적화되는 센서 및 렌즈와 같은 특징부를 가질 수 있다.
다른 입력(502d)은 TLD(traffic light detection) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들어, RAW, JPEG, PNG 등과 같은 이미지 데이터 형식의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시계를 갖는 카메라(예를 들어, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상일 수 있다.
일 실시예에서, 출력(504a 내지 504d)은 센서 융합 기술을 사용하여 조합된다. 따라서, 개별 출력(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템에 제공되거나(예를 들어, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 조합된 출력이 동일한 타입(동일한 조합 기술을 사용하는 것 또는 동일한 출력을 조합하는 것 또는 둘 모두)의 단일 조합 출력 또는 다중 조합 출력의 형태 또는 상이한 타입(예를 들어, 상이한 각자의 조합 기술을 사용하는 것 또는 상이한 각자의 출력을 조합하는 것 또는 둘 모두)의 단일 조합 출력 또는 다중 조합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 조합 출력에 적용되기 전에 출력을 조합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력에 적용된 후에 출력을 조합하는 것을 특징으로 한다.
도 6은 LiDAR 시스템(602)(예를 들어, 도 5에 도시된 입력(502a))의 일 예를 도시한다. LiDAR 시스템(602)은 광 이미터(606)(예를 들어, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며, 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들어, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들어, 고체 형태의 물리적 대상체를 관통하지 않는다). 또한, LiDAR 시스템(602)은 반사된 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시계(614)를 나타내는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계(616)를 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계(616)를 결정하는 데 사용된다.
도 7은 동작 중인 LiDAR 시스템(602)을 도시한다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템은 이미지(702)를 데이터 포인트(704)와 비교한다. 특히, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.
도 8은 LiDAR 시스템(602)의 동작을 추가적으로 상세하게 도시한다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 다시 LiDAR 시스템(602)으로 반사할 것이다. AV(100)가 지면(802) 위에서 진행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 내지 804f)은 예상되는 일관된 방식과 불일치하는 방식으로 포인트(810a 내지 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.
경로 계획
도 9는 (예를 들어, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력과 출력 사이의 관계의 블록 다이어그램(900)을 도시한다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들어, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들어, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 규정된다. 예를 들어, 세그먼트는 거리, 도로, 공도, 사유 도로, 또는 자동차 진행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 진행되는 거리이다. 일부 예에서, 예를 들어, AV(100)가 4륜 구동(4WD) 또는 상시 4륜구동(AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프-로드 주행 가능 차량인 경우, 루트(902)는 비포장 경로 또는 탁트인 들판과 같은 "오프-로드" 세그먼트를 포함한다.
루트(902)에 부가하여, 계획 모듈은 차선-레벨 루트 계획 데이터(908)도 출력한다. 차선-레벨 루트 계획 데이터(908)는 특정한 시간에서의 세그먼트의 조건에 기초하여 루트(902)의 세그먼트를 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 공도를 포함하는 경우, 차선-레벨 루트 계획 데이터(908)는, 예를 들어, 출구가 다가오고 있는지, 차선 중 하나 이상이 다른 차량을 갖는지, 또는 수 분 또는 그 미만 동안에 걸쳐 변화되는 다른 인자에 기초하여, AV(100)가 다중 차선 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예에서, 차선-레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자 또는 예상치 않은 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 더 느린 진행 속력, 예를 들어, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.
일 실시예에서, 계획 모듈(404)로의 입력은 (예를 들어, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들어, 도 4에 도시된 AV 위치(418)), (예를 들어, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들어, 도 4에 도시된 인지 모듈(402)에 의해 인지되는 분류된 대상체(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는 계획에 사용되는 규칙을 포함한다. 규칙은 형식 언어를 사용하여, 예를 들어, 불리언 로직을 사용하여 특정된다. AV(100)와 조우하는 임의의 주어진 상황에서, 규칙 중 적어도 일부는 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들어, 주위 환경에 관한 정보에 기초하여 충족되는 조건을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙은 우선순위를 가질 수 있다. 예를 들어, "도로가 공도인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 더 낮은 우선순위를 가질 수 있다.
도 10은, 예를 들어, 계획 모듈(404)(도 4)에 의해 경로 계획에 사용되는 방향 그래프(1000)를 도시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계에서는, 시작 포인트(1002)와 종료 포인트(1004)를 분리시키는 거리는 상대적으로 클 수 있거나(예를 들어, 2개의 상이한 대도시 지역 내) 또는 상대적으로 작을 수 있다(예를 들어, 도시 블록과 맞닿아 있는 2개의 교차로 또는 다중 차선 도로의 2개의 차선).
일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치를 나타내는 노드(1006a 내지 1006d)를 갖는다. 일부 예에서, 예를 들어, 시작 포인트(1002) 및 종료 포인트(1004)가 상이한 대도시 지역을 나타낼 때, 노드(1006a 내지 1006d)는 도로의 세그먼트를 나타낸다. 일부 예에서, 예를 들어, 시작 포인트(1002) 및 종료 포인트(1004)가 동일한 도로 상의 상이한 위치를 나타낼 때, 노드(1006a 내지 1006d)는 해당 도로 상의 상이한 위치를 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 레벨의 입도(granularity)로 정보를 포함한다. 또한, 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 더 큰 스케일을 갖는 다른 방향 그래프의 하위그래프이다. 예를 들어, 시작 포인트(1002) 및 종료 포인트(1004)가 멀리 떨어져 있는(예를 들어, 수 마일(many miles) 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시계 내의 물리적 위치를 나타내는 그래프의 부분에 대한 일부 높은 입도 정보도 포함한다.
노드(1006a 내지 1006d)는 노드와 중첩할 수 없는 대상체(1008a 내지 1008b)와 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체(1008a 내지 1008b)는 자동차에 의해 횡단될 수 없는 구역, 예를 들어, 거리 또는 도로가 없는 영역을 나타낸다. 입도가 높을 때, 대상체(1008a 내지 1008b)는 AV(100)의 시계 내의 물리적 대상체, 예를 들어, 다른 자동차, 보행자, 또는 AV(100)가 물리적 공간을 공유할 수 없는 다른 엔티티를 나타낸다. 일 실시예에서, 대상체(1008a 내지 1008b)의 일부 또는 전부는 정적 대상체(예를 들어, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체(예를 들어, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.
노드(1006a 내지 1006d)는 에지(1010a 내지 1010c)에 의해 연결된다. 2개의 노드(1006a 내지 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들어, 다른 노드(1006b)에 도착하기 전에 중간 노드로 진행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 진행하는 것이 가능하다. (AV(100)가 노드 사이에서 진행한다고 언급할 때, AV(100)가 각자의 노드에 의해 표현되는 2개의 물리적 위치 사이에서 진행한다는 것을 의미한다.) 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 진행한다는 의미에서 종종 양방향성이다. 일 실시예에서, 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로 진행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 진행할 수 없다는 의미에서 단방향성이다. 에지(1010a 내지 1010c)는, 예를 들어, 일방통행로, 거리, 도로, 또는 공도의 개별 차선, 또는 법적 또는 물리적 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부를 나타낼 때 단방향성이다.
일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드 및 에지로 이루어진 경로(1012)를 식별한다.
에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스를 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2배인 물리적 거리를 나타내면, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2배일 수 있다. 시간에 영향을 미치는 다른 인자는 예상된 교통상황, 교차로의 개수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비(fuel economy)이다. 2개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들어, 도로 조건, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 더 많은 연료를 요구할 수 있다.
계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들어, 에지의 개별 비용이 함께 가산될 때 최소 전체 비용을 갖는 경로를 선택한다.
자율 주행 차량 제어
도 11은 (예를 들어, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력 및 출력의 블록 다이어그램(1100)을 도시한다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들어, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들어, 메모리 랜덤-액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(1308), 및 저장 디바이스(210)를 포함하는 제어기(1102), 및 메모리 내에 저장된 명령에 따라 동작하는데, 상기 명령은 명령이 (예를 들어, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작을 수행한다.
일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들어, 속력 및 방향을 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들어, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여함으로써, AV(100)의 스로틀(예를 들어, 가속도 제어)에 관여하는 정도를 나타낸다. 일부 예에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들어, 감속 제어)에 관여하는데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들어, AV의 조향 제어(예를 들어, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)가 원하는 출력(1104)을 달성하도록 위치설정되어야 하는 각도를 나타낸다.
일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 임의의 측정된 출력(1114)은, 예를 들어, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 방향을 포함), 측정된 가속도(1120), 및 AV(100)의 센서에 의해 측정 가능한 다른 출력을 포함한다.
일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들어, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 이후, 예측 피드백 모듈(1122)은 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서가 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 피하기 위해 적절한 시간에 스로틀에 관여할 준비를 하도록 제어기(1102)에 의해 사용될 수 있다.
도 12는 제어기(1102)의 입력, 출력, 및 컴포넌트의 블록 다이어그램(1200)을 도시한다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 동작에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들어, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 명령한다.
또한, 제어기(1102)는 조향 제어기(1210)의 동작에 영향을 미치는 측방향 추적 제어기(1208)를 갖는다. 예를 들어, 측방향 추적 제어기(1208)는, 예를 들어, 제어기(1102)에 의해 수신되고 측방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향 각도 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1204)에 명령한다.
제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 동작을 시작할 때 방향을 선택하고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력(1214)으로부터의 정보, 예를 들어, 데이터베이스, 컴퓨터 네트워크 등으로부터 수신된 정보를 수신한다.
대상체 추적
위에서 언급된 바와 같이, 목표물이 움직일 수 있고 개수가 변할 수 있기 때문에 추적은 어려운 문제이다. 또한, 센서로부터의 측정치는 노이즈와 불확실한 출처를 갖는다. 단일 목표물 필터링 문제는 재귀적 형태의 베이지안 해법을 갖는다. 다중 목표물 사례로 일반화하기 위해, 확률 유한 집합(RFS) 프레임워크가 사용될 수 있다.
단일 목표물 추적
클러터(clutter)인 누락된 검출 및 측정의 가능성으로 인해, 단일 목표물 추적조차도 다중 목표물 추적의 프레임워크에서 고려되어야 한다. 그렇지만, 목표물이 고유한 측정치로 항상 관찰된다고 가정하면, 필터링 문제는 다음과 같이 해결될 수 있다.
x 가 목표물 운동학적 상태를 나타낸다고 하자. 움직임 모델(motion model)은 다음 방정식:
xk+1 = f (xk) + vk
에 의해 규정될 수 있거나 또는 등가적으로, f의 재활용된 사용으로, 전이 밀도(transition density):
f (xk+1|xk)
에 의해 규정될 수 있다. 측정 모델은 다음 방정식:
zk = g(xk) + wk
에 의해 규정될 수 있거나 또는 등가적으로 우도 밀도(likelihood density):
g(zk|xk)
에 의해 규정될 수 있다. 필터링의 하나의 목적은 모든 이용 가능한 측정치가 주어진 경우 사후 확률 목표 밀도(posterior target density) pk|k(xk|Z1:k)를 획득하는 것이다. 이것은 2개의 단계: 예측 단계
Figure pat00001
및 업데이트 단계
Figure pat00002
에서 재귀적으로 풀어질 수 있으며, 여기서 분모는 정규화 상수 p(z1:k)이다.
상기 방정식은 임의의 주어진 포인트 xk에서의 사후 확률의 값을 제공한다. 분포를 실제로 사용하기 위해, 사후 확률의 유한 매개변수화(finite parameterization)가 사용될 수 있다. 움직임 모델과 측정 모델 둘 다가 선형이고 가우시안이며, 초기 밀도가 가우시안일 때, 예측 밀도와 사후 확률 밀도는 가우시안이고, 여기서 평균(mean)
Figure pat00003
와 공분산(covariance) Pk의 진화(evolution)만이 유지될 필요가 있다. 비선형 비-가우시안 사례의 경우, 해법은 가우시안 또는 파티클(particle)의 혼합(mixture)으로 근사화될 수 있다.
다중 목표물 추적
하나의 해결책은 모든 측정치에 포함된 정보가 데이터가 수집될 때 재귀적으로 계산될 수 있는 사후 확률 밀도에 요약되어 있다고 가정하는 것이다. "전역적 상태" Xk를 모든 목표물을 나타내도록 정의하고 "전역적 측정치" Zk를 모든 측정치를 나타내도록 정의하면, 필터링 해법은 이하의 형태로 기술될 수 있다:
Figure pat00004
목표물과 측정치는 내재적 순서(intrinsic ordering)를 갖지 않기 때문에, Xk와 Zk는 제각기 개별 목표물 상태 벡터 집합 및 개별 측정치 집합의 형태를 취하며, 이 집합은 유한하다. 그러한 집합의 값을 취하는 확률 변수, 및 그의 확률 분포를 특성화하기 위해 수학적 프레임워크가 제공될 수 있다. B. N. Vo, S. Singh, and A. Doucet, “Sequential Monte Carlo methods for multitarget filtering with random finite sets,” IEEE Transactions on Aerospace and Electronic Systems, 41(4):1224-1245 (October 2005)의 부분을 사용하여, E를 단일 목표물 상태의 공간이라고 하고, F를 E의 유한 부분집합(finite subset)의 모음(따라서 F는 집합들의 집합임)이라고 하자. (Ω, σ(Ω), P )를 확률 공간이라고 하자. 그러면, 확률 유한 집합
Figure pat00005
는 Ω 내의 샘플을 F(E) 내의 집합에 매핑하고, 부분집합
Figure pat00006
에 대한 그의 확률 분포
Figure pat00007
는 다음과 같이 정의된다:
Figure pat00008
랜덤 스칼라(random scalar)의 경우, 이 부분집합은 구간 (-∞, x]의 형태를 취한다. 그렇지만, 일부 상황에서, 이 형태는 단일 목표물 움직임 모델로부터 다중 목표물 움직임 모델 및 측정 모델을 구성하는 데 사용하기에 편리하지 않다. RFS의 확률 분포를 정의하는 대안의 형태는 임의의 닫힌 부분집합(수량자 “finite”의 부재를 나타냄)
Figure pat00009
에 대해 정의된 신뢰 질량 함수(belief mass function)
Figure pat00010
에 의해 주어진다:
Figure pat00011
이것으로부터, 다중 목표물 사후 확률이 재귀를 통해 획득될 수 있도록, 다중 목표물 움직임 전이 밀도와 측정치 우도가 집합 도함수(set derivative) 및 집합 적분(set integral)과 함께 FISST(Finite Set Statistics)(Ronald Mahler, “Random Set Theory for Target Tracking and Identification,” Handbook of Multisensor Data Fusion: Theory and Practice, David L. Hall and James Llinas, editors, CRC Press, 2nd edition (2008) 참조)를 사용하여 정의된다:
Figure pat00012
상기 다중 목표물 필터는 다중 목표물 추적 문제를 해결하며, 따라서 이 맥락에서, "필터"와 "추적기"는 동의어이다. 때때로 "필터"는 "단일 목표물 필터"를 의미하는 데 사용되고, "추적기"는 "다중 목표물 필터"를 의미하는 데 사용된다.
일반적인 다중 목표물 사후 확률 분포(posterior distribution)는 매우 복잡하고 종종 계산적으로 다루기 어렵다(computationally intractable). 따라서 근사화가 이루어진다. 아래는 두 가지 가능한 접근법이다.
제1 접근법은 (확률 가설 밀도(Probability Hypothesis Density; PHD)라고 불리는) 분포의 1차 모멘트(first moment)(Ronald P. S. Mahler, “Multitarget Bayes filtering via first-order multitarget moments,” Aerospace and Electronic Systems, IEEE Transactions on, 39(4):1152-1178 (October 2003) 참조)만을 유지하고 전파하는 것이다. 단일 목표물 상태의 공간에서 임의의 주어진 "영역"에 걸친 PHD "표면"의 적분이 그 영역 내의 목표물의 예상 개수를 제공하도록, 평균(mean)은 상이한 카디널리티의 집합을 추가함으로써 직접적으로 정의되는 것이 아니라 계수 측도(counting measure)를 통해 정의된다. 또한 목표물의 총 개수의 더 엄격한 추정을 추가하는 CPHD(Cardinalized PHD) 필터가 또한 있다(R. Mahler, “PHD filters of higher order in target number,” Aerospace and Electronic Systems, IEEE Transactions on, 43(4):1523-1543 (October 2007) 참조).
제2 접근법은, 가우시안이 "선형 가우시안"시스템에 대해 닫혀 있는 것과 동일한 방식으로, 예측 및 업데이트 하에서 닫혀 있는 분포의 서브클래스에 대해 작동하는 것이다. GLMB(Generalized Labeled Multi-Bernoulli)는 하나의 그러한 클래스이고(Ba N. Vo, Ba-Tuong Vo, and Hung Hoang, “An Efficient Implementation of the Generalized Labeled Multi-Bernoulli Filter,” IEEE Transactions on Signal Processing, 65(8):1975-1987 (April 2017) 참조), 아래에서 더 상세히 기술된다.
목표는 목표물 타입, 움직임 등을 포함할 수 있는 연속 운동학적 상태(continuous kinematic state)와 이산 상태(discrete state)를 결합하여(jointly) 추정하는 것이다. 첫째, 효율성을 제공하기 위해 독립성을 이용하는 구현과 함께, 이것을 달성하기 위한 일반식(general formula)이 설명된다. 구현은 이산 상태의 컴포넌트의 상이한 선택을 가능하게 할 수 있는 일반 라이브러리(generic library)를 포함하고; 특정의 속성을 추가하는 것이 큰 변경을 요구하지 않는다.
그 이후에, 연속 상태와 이산 상태에 걸친 결합 분포를 갖는 트랙 포인트(track point)가 정의되며, 트랙 포인트는 트랙이라고 지칭된다. 각각의 트랙 포인트는 또한 라벨 또는 트랙 ID를 갖는다. 그러한 트랙들의 집합은 가설을 형성하는데, 이 가설은 주어진 시간에 측정치가 트랙과 어떻게 연관되는지를 암시적으로 포함한다. 하나의 부모 가설은 자식 가설 집합을 생기게 하며, 따라서 가설은 연관 이력(association history)을 암시적으로 포함한다 GLMB의 클래스는 합이 1인 가중치를 갖는 가설 집합이다.
실제 계산의 경우, 종종 많은 수의 가설이 있다. 아래에서 기술되는 병합 및 분할 알고리즘은 GLMB 필터를 실행 가능하게 한다.
운동학적 상태 및 이산 상태를 이용한 추적
선형 가우시안 시스템의 경우, 운동학적 상태의 필터링 밀도는 가우시안이며, 칼만 필터링(Kalman Filtering)에 의해 획득된다. 이 상태가 (움직임에 대한) 이산 값 모드 및 (신원, 의도 등에 대한) 속성을 이용하여 확장(augment)될 때, 이산 부분을 조건으로 하는 필터링 밀도는 일반적으로 멀티모달(multimodal)이다. 복잡도를 처리하기 위해, 상호작용 다중 모델(Interacting Multiple Model)과 같은 근사화 기법이 종종 사용된다. 비선형 비-가우시안 시스템에 대한 일반 해 및 IMM 근사치가 획득되는 방법은 아래에서 논의된다. 이 문헌은 선형 가우시안 시스템에 대한 IMM에 관한 논문(예를 들어, X. Rong Li and V. P. Jilkov, “Survey of maneuvering target tracking,” Part V, Multiple-model methods, IEEE Transactions on Aerospace and Electronic Systems, 41(4):1255- 1321 (October 2005); 및 H. A. P. Blom and Y. Bar-Shalom, “The interacting multiple model algorithm for systems with Markovian switching coefficients,” Automatic Control, IEEE Transactions on, 33(8):780-783 (August 1988)) 및 근사화에 대한 구체적인 알고리즘을 제공하지 않고 비선형 시스템에 대한 정확한 해(exact solution)를 명시하는 논문(예를 들어, Yuthika Punchihewa, Ba-Ngu Vo, and Ba-Tuong Vo, “A Generalized Labeled Multi- Bernoulli filter for maneuvering targets,” 2016 19th International Conference on Information Fusion (FUSION), pages 980-986, IEEE (July 2016))을 포함한다.
운동학 단독
예측 밀도는
Figure pat00013
에 의해 주어지고, 적분 내부의 P는 확률 밀도이며, 트랙의 생성과 소멸은 고려되지 않는다. 움직임 모델
Figure pat00014
이 주어지면, 사전 확률 밀도(prior density)를 예측 밀도에 매핑하는 예측 연산자(predictor operator) Pred를 정의한다:
Figure pat00015
시간 첨자를 생략한, 업데이트된 밀도는
Figure pat00016
에 의해 주어지고, 여기서
Figure pat00017
는 센서 우도(sensor likelihood)이다. (예측) 밀도를 사후 확률 밀도에 매핑하는 업데이트 연산자 Updt를 정의하면, 이 연산자는 또한 η로 표시되는 측정치 우도 P(z)를 생성한다:
Figure pat00018
이하는 이 항등식(identity)을 사용한다:
Figure pat00019
운동학 및 모드/속성
이제, 확장 상태 (x, i)를 고려하며, 여기서 i는 이산적이고, 일반성을 잃지 않으면서, 자연수 집합 내의 값을 취한다. 구현에서, i는 튜플, 예를 들어, (m1, m2)의 형태를 취할 수 있고, 여기서, 예를 들어, m1은 움직임 모드의 인덱스이고, m2는 대상체(예를 들어, 차량) 컬러의 인덱스이다. 조건부 분해(conditional decomposition)
Figure pat00020
를 사용하고, 주변 확률에 의해 가중되는 운동학적 분포의 어레이(또는 이산 심벌로부터 그러한 분포로의 맵)로서 확장 상태에 걸친 분포를 고려한다. 이하에서, 결합 분포가 먼저 도출되고, 이어서 주변 분포(marginal distribution)와 조건부 분포(conditional distribution)는 다음 관계식을 통해 획득된다.
Figure pat00021
반-마르코프 전이
이하에서, 측정치는 임의적인 타임스탬프를 담고 있으며, 따라서 2개의 순간 사이의 경과 시간
Figure pat00022
이 불균일할 수 있다. 운동학적 예측 및 업데이트는 이것을 고려할 수 있다. 모드 전이의 경우, 반-마르코프 모델이 채택된다. (장기) 전이 확률 행렬 [πij]를 갖는 주어진 모드의 경우,
Figure pat00023
이고 전이하지 않을 확률이 1에 대한 보수(complement to unity)이도록, 컴포넌트 i가 전이율(transition rate) λi를 갖는 것으로 가정한다. 간략함을 위해, 이하는 단기 전이 확률이 위에서와 같이 δt 및 매개변수 λi에 따라 계산되었고 이를 또다시 πij로서 표기한다고 가정한다. πk|k가 이전에 FISST 사후 확률 밀도를 표기하는 데 사용되었으며 여기서의 숫자 πij와 혼동되어서는 안된다는 점에 유의한다.
예측
점프 마르코프(jump Markov) 설정 이후에,
Figure pat00024
인 행 i로부터 열 j로의 전이 확률을 갖는 전이 행렬을 정의한다. 먼저, 이산 상태(모드라고도 불림)가 새로운 값으로 전이된다. 이어서, 새로운 모드 하에서 움직임이 발생한다. 따라서, 예측 밀도는
Figure pat00025
에 의해 주어지고, 여기서 Predi는 제i 모드에서 움직임 모델에 의해 정의되는 예측 연산자를 표기한다. 따라서 주변 분포는
Figure pat00026
이고 조건부 분포는
Figure pat00027
업데이트
예측 밀도가 다음과 같이 매개변수화된다고 하자.
Figure pat00028
사후 확률은
Figure pat00029
에 의해 주어지고, 여기서 두 번째 단계에서 수학식 1에 의해 기술된 항등식이 사용되고, ηii는 제i 모드를 조건으로 하는 우도
Figure pat00030
를 사용한 제i 모드의 업데이트
Figure pat00031
로부터의 측정치 확률 밀도이며,
Figure pat00032
이다.
따라서 주변 사후 확률(posterior marginal)과 조건부 사후 확률(posterior conditional)은 다음과 같이 주어진다.
Figure pat00033
Figure pat00034
z가 모드 i를 조건으로 하는 x 에 독립적인 경우, 예를 들어, z가 i의 직접적인 측정치일 때, 우도는 엔트리들을 갖는 혼동 행렬에 요약될 수 있다.
Figure pat00035
그러한 경우에,
Figure pat00036
이고, 수학식 5에서의 사후 확률 운동학적 밀도(posterior kinematic density)는 예측된 밀도, 즉
Figure pat00037
로부터 변경되지 않았다.
예측 밀도에서의 각각의 컴포넌트
Figure pat00038
는 그 자체가 예측 결과인 서브컴포넌트
Figure pat00039
의 합이고, 그의 업데이트는 수학식 3에 의해 설명된 것과 동일한 구조를 갖는다.
Figure pat00040
단
Figure pat00041
이라고 하고,
여기서 삼중 첨자는 사전 확률에서의 제j 컴포넌트가 제i 움직임 모델에 의해 예측되고, 후속하여 제i 우도 모델에 의해 업데이트된다는 것을 의미한다. 그러면,
Figure pat00042
이다.
수학식 4 및 수학식 5에 대입하면, 시간 k에서,
Figure pat00043
Figure pat00044
정확한 해
이산 상태에 대한 N개의 모드가 있다고 가정한다. 모드의 시작 분포가 가우시안인 경우, 수학식 7은, 하나의 예측-업데이트 사이클 후에, 각각의 모드가 가우시안의 혼합임을 제공한다. 따라서 이들 2개의 연산에 따라 단일 가우시안이 닫혀 있지 않으며, 재귀를 계속하기 위해서는 혼합을 단일 가우시안 근사치로 치환해야 한다.
이론적으로, 모드에 대한 가우스 혼합 분포는 닫혀 있고, 파티클 분포도 그렇다. 시작 모드가 M개의 가우시안의 합인 경우, 한 사이클 후에는, 모드가 MN개의 가우시안의 합일 것이고, 그 후에는 MN2개의 가우시안의 합일 것이다. 마찬가지로, 시작 모드가 M개의 파티클을 갖는 파티클 분포인 경우, 한 사이클 후에는, 모드가 MN개의 파티클을 가질 것이고, 그 후에는 MN2개의 파티클을 가질 것이다.
단일 가우시안
모드에 대해 단일 가우시안으로 재귀를 유지하기 위해, 가우시안의 합은 모멘트 매칭된 가우시안(moment matched Gaussian)에 의해 근사화된다.
H. A. P. Blom and Y. Bar-Shalom, “The interacting multiple model algorithm for systems with Markovian switching coefficients,” Automatic Control, IEEE Transactions on, 33(8):780-783 (August 1988)에 따르면, 근사화가 예측 단계 이후에, 즉 수학식 2 이후에 행해질 때, 이는 IMM 알고리즘이고; 근사화가 예측 단계 이후에, 즉 수학식 7 이후에 행해질 때, 이는 GPB2(Generalized Pseudo Bayes) 알고리즘이다.
가우시안의 혼합
주어진 개수의 컴포넌트를 갖는 가우시안의 혼합으로 재귀를 유지하기 위해, 작은 가우시안 혼합을 이용하여 큰 가우시안 혼합을 근사화하는 알고리즘이 사용된다. 일부 실시예에서, 가중치들이 서로 근접할 수 있고 그들의 합이, 유지되어야 하는, 더 큰 가우시안 컴포넌트를 산출할 것이기 때문에, 합집합으로부터 더 작은 가중치를 단순히 폐기하는 것으로는 불충분하다. 주어진 개수의 파티클을 갖는 파티클 분포로 재귀를 유지하기 위해, 작은 파티클 집합을 이용하여 큰 파티클 집합을 근사화하는 알고리즘이 사용된다.
구현
상기 개시내용은 현재 이산 상태 벡터의 값을 나타내기 위해 일반 인덱스 i를 사용하였다. 일부 실시예에서, 튜플 (i, j, k)이 사용되고, 여기서, 예를 들어, i는 움직임 모드(예를 들어, 직진 또는 회전)를 나타내고, j는 (예를 들어, MRR3 레이더에서의) 거리 변화율(range-rate) 측정에서의 폴디드 세그먼트(folded segment)를 나타내며, k는 예시를 위해 컬러를 나타낸다. 일부 실시예에서, 움직임 예측이 움직임 모드에는 의존하지만 컬러와는 독립적이다. 그러한 독립성을 이용하는 것은 몇몇 도전과제를 야기한다.
첫째, RFS 레이더 추적기는 모델 및 센서의 선택에 기초하여 추적기의 인스턴스화를 구성하는 데 사용될 수 있는 일반 라이브러리로서 작성될 수 있다. 포인트 목표물(point target)에 대한 운동학적 상태는 (2D 또는 3D에서) 위치 및 속도로 구성되는 것으로 하드 코딩될 수 있다. 이산 상태는 하드 코딩되지 않을 수 있으며, 따라서 이산 상태는 임의의 선택된 개수의 컴포넌트를 가질 수 있고, 튜플에 의해 인덱싱된다.
둘째, 다음 순간에서의 목표물 상태를 예측하기 위해 2개의 움직임 예측자가 추가된다고 가정하며, 하나는 직진하는 목표물을 추적하는 데 적합한 "작은 q"에 대응하고, 다른 하나는 회전하는 목표물을 추적하는 데 적합한 "큰 q"에 대응한다. 이산 상태가 몇 개의 다른 컴포넌트를 가지는지 및 그들의 상대 순서와 무관하게 예측자를 작성하는 것이 바람직하다. 환언하면, 나중에 컴포넌트가 추가되고 튜플 표현이 (i, j, k)로부터 (i, j, k, s)로 변경되는 경우, 2개의 예측자에 대해 작성된 코드(예를 들어, 프로그램)를 수정하는 것은 바람직하지 않다.
셋째, 조건부 독립성은 베이지안 네트워크(Bayesian Network)와 같은 그래픽 모델에서 적용될 수 있지만, 이산 상태(예를 들어, IMM, 분류, 및 속성)에 관한 추적 문헌은 모든 인덱스에 걸쳐 합계하는 일반식을 넘어서지 않는다.
마지막으로, 라이브러리의 사용자는 어느 튜플 요소가 어느 속성을 나타내는지, 및 다양한 모델의 독립성 특성을 알 수 있다. 사용자가 이러한 지식을 인코딩하고 계산을 효율적인 방식으로 수행할 수 있는 쉬운 방법을 라이브러리가 제공하는 것이 바람직하다.
일부 실시예에서, 다수의 대상체를 추적하기 위해 아래에서 설명되는 접근법에 따라 (예를 들어, 컴퓨터 프로그램을 사용하여) 센서 데이터가 필터링된다.
일부 실시예에서, 먼저, 알고리즘 정확성을 보장하기 위해 모든 인덱스에 걸친 합산이 유지된다. 둘째, 계산 저장은 캐싱을 통해 달성된다. 예를 들어, 움직임 예측이 (움직임 모드에 대한) 제1 컴포넌트에만 의존하는 경우, (0, 0, 0)을 조건으로 하든 또는 (0, 1, 2)를 조건으로 하든 간에 합산에서 동일한 예측자가 사용된다. 따라서, 또다시 계산되는 대신에, 캐싱된 결과가 재사용될 수 있다. 셋째, 용어 "동일한 대상체"는, 동일한 값을 갖는 2개의 대상체만이 아니라, 메모리 내의 동일한 대상체를 의미한다. 이것은 검색(look up) 기능과 사전의 조합에 의해 달성될 수 있다. 이전 단락에서의 예를 사용하면, 검색 기능은, 입력으로서 (0, 1, 2)를 제공받을 때, 사전에 직접적으로 저장된 항목에 대응하는, (0, 0, 0)을 반환할 것이다.
예측자와 업데이터
각각의 "고유한" 튜플은 이산 상태 벡터에 의해 취해지는 값에 대응하며, 이는 차례로 어떤 예측자 객체(predictor object)를 인스턴스화할지를 결정한다. 일부 실시예에서, 업데이터는 베이지안 업데이트를 수행하고, 따라서 측정치 타입 및 이산 상태 값 둘 모두에 의해 지정되어야 한다. 일부 실시예에서, 캐시는 필터링의 각각의 사이클의 시작에서 측정치 프레임으로 클리어된다. 동일한 시간에 대한 동일한 운동학적 분포를 예측하기 위해 (상이한 모드 튜플에 대해) 동일한 예측자가 호출될 때, 캐싱된 값이 검색되어 반환된다.
GLMB 필터링에서의 가설 병합 및 분할
다중 목표물 추적을 위한 이하의 기술은 L-RFS(Labeled Random Finite Set) 필터링의 프레임워크를 채택하고, 보다 구체적으로는, Ba N. Vo, Ba-Tuong Vo, and Hung Hoang, “An Efficient Implementation of the Generalized Labeled Multi-Bernoulli Filter,” IEEE Transactions on Signal Processing, 65(8):1975-1987 (April 2017)에 기술된, dGLMB(δ-Generalized Labeled Multi Bernoulli) 필터를 사용한다. 일부 실시예에서, dGLMB 필터의 구현은 최상위 순위(top ranked) 가설을 열거한다. 예를 들어, 계산 버짓은 (예를 들어, 컴퓨터 리소스에 기초하여) 메모리에 유지하기 위한 가설의 총 개수 면에서 설정될 수 있다. 각각의 집합 내의 목표물이 다른 집합 내의 목표물과 통계적으로 독립적이도록, 관심의 상태 공간이 부분집합으로 분해될 수 있는 상황을 고려한다. 예를 들어, 차량 전방의 목표물에 대해 하나의 추적기가 실행될 수 있고, 차량 후방의 목표물에 대해 다른 추적기가 실행될 수 있으며, 제각기, m개의 가설 및 n개의 가설을 갖는다. 전체 장면에 대해 단지 하나의 추적기가 실행되는 경우, 가설의 총 개수는, 도 13a 및 도 13b에 예시된 바와 같이, mn일 것이다.
아래에서 설명되는 알고리즘은, 가설이 분할 및 병합되는지 여부와 가설이 어떻게 분할 및 병합되는지를 포함하여, 전체 공간이 어떻게 분해되어야 하는지를 동적으로 결정한다. 일부 상황에서, 아래의 접근법은, 예를 들어, LMB(Labeled Multi Bernoulli)에 기초한 Stephan Reuter, Ba-Tuong Vo, Ba-Ngu Vo, and Klaus Dietmayer, “The Labeled Multi- Bernoulli Filter,” IEEE Trans. Signal Processing, 62(12):3246-3260 (2014)에서 제안된 접근법과 비교하여 개선된 정확도를 제공하고, dGLMB에 대해 직접적으로 동작하는 M. Beard, B. Tuong Vo, and B. N. Vo, “A Solution for Large-scale Multi-object Tracking,” ArXiv e-prints (April 2018)에 간략히 기술된 알고리즘보다 알고리즘적으로 더 구체적(concrete)이다(그리고 잠재적으로 더 정확하다).
일부 실시예에서, 전체 RFS 분포는, 각각이 별개의 라벨 집합(예를 들어, 트랙 집합 또는 트랙 ID 집합) 및 서로 충분히 떨어져 있는 공간 범위(spatial extent)(예를 들어, 공간 범위는 거리 임계치, 조건, 또는 기준을 충족시킴)를 갖는, 주변 분포들의 곱으로서 표현된다. 각각의 주변 분포는 가설 집합에 의해 표현된다. 용어 "인자"는 주변 분포, 라벨 부분집합(예를 들어, 트랙 부분집합 또는 트랙 ID 부분집합), 공간 범위, 및 가설 부분집합을 나타내는 데 사용된다.
하나의 인자와 연관된 측정치 또는 트랙이 또한 다른 파티션에서의 측정치 또는 트랙과 연관될 때 2개의 인자는 서로 "상호작용"한다. 인자가 동일한 측정치 프레임으로 게이팅(gating)하는 것을 통해 "상호작용"할 때, 구성 가설 조합(combinations of constituent hypotheses)의 열거에 대응하는, 주변 분포들의 곱을 형성함으로써 인자가 병합된다. 가능할 때마다(예를 들어, 지정된 조건이 충족될 때), 병합된 인자는 2개의 더 작은 인자로 분할되고, 더 작은 인자들 중 하나는 측정치로 게이팅되고 다른 하나는 그렇지 않다. 마지막으로, 게이팅된 인자는 그에 따라 업데이트된다.
LMB 접근법
도 13a에서 보이는 바와 같이, (트랙 라벨로 표현된) 트랙이 여러 가설에 있을 수 있다. 각각의 가설에 있는 트랙이 가우시안 분포를 가진다고 가정하면, Stephan Reuter, Ba-Tuong Vo, Ba-Ngu Vo, and Klaus Dietmayer, “The Labeled Multi- Bernoulli Filter” (IEEE Trans. Signal Processing, 62(12):3246-3260, 2014)에서의 LMB 접근법은 동일한 라벨을 갖는 트랙들을, 가우시안 혼합인 분포를 갖는, 하나의 트랙으로 축소(collapse)시킨다. 이상적으로, 혼합은 적어도 대략적으로 단봉형(unimodal)이며, 이는 트랙들이 그룹으로 클러스터링될 수 있게 한다. GLMB 분포는 LMB에 의해 근사화된다. GLMB는 가설을 명시적으로 열거하는 반면, LMB는 존재 확률을 갖는 개별 트랙에 의해 매개변수화되며, 필요할 때에만, 최상의 k개의 가설에 대해 k-최단 경로 알고리즘을 실행함으로써, 가설이 명시적으로 생성된다.
Stephan Reuter, Ba-Tuong Vo, Ba-Ngu Vo, and Klaus Dietmayer, “The Labeled Multi- Bernoulli Filter” (IEEE Trans. Signal Processing, 62(12):3246-3260, 2014)에서의 도 4는 분할 및 병합을 갖는 알고리즘을 보여준다. 일부 실시예에서, 이 접근법은 2개의 인자가 있어야 한다는 것을 식별할 수 있는 것을 포함한다. GLMB로부터 LMB로의 변환과 LMB로부터 GLMB로의 변환은 불필요하게 정확도를 "낭비"한다.
(모호한) GLMB 접근법
M. Beard, B. Tuong Vo, and B. N. Vo, “A Solution for Large-scale Multi-object Tracking” (ArXiv e-prints, April 2018)에서의 접근법은 LMB를 매개체로서 사용하지 않으며, GLMB에 대해 직접적으로 동작한다. 그렇지만, 이 접근법은 계산 부담을 줄이기 위해 가설의 개수를 줄이는 방법을 기술하고 있지 않다. 이 알고리즘은 또한 주변-완전 변환(marginal to full conversion)에서 얼마간 정확도를 상실한다.
예시적인 병합 및 분할 알고리즘
일반 (결합) 분포에 대한 표를 보여주는, 도 14a에 도시된 바와 같이, 2개의 이산 확률 변수 A와 B에 대한 확률 분포 P(A,B)를 고려한다. 도 14b는 도 14a의 분포의 주변 분포(marginal)를 보여준다. 도 14c는 독립성을 가정함으로써 주변 분포를 사용한 결합 분포의 근사치를 보여준다.
주변 분포 P(A)와 주변 분포 P(B)는, 도 14b에 도시된 바와 같은, 열과 행에 대해 제각기 합산함으로써 획득될 수 있다. A와 B가 독립적이라는 표시가 있으면(또는 유의미한 오차를 유입시키지 않고 독립적으로 취급될 수 있으면), 재구성
Figure pat00045
에 의해 정확한 분포를 근사화하기 위한 시도가 이루어지며, 이 결과, 최대 근사화 오차
Figure pat00046
가 얻어진다.
도 14a 내지 도 14c에서의 예에 대해, emax = 0.025이다. 오차가 수용 임계치 미만인 경우, 근사치가 수용되고 얼마간의 계산 절감이 달성된다. A와 B에 취해지는 값 집합의 카디널리티가, 제각기, nA와 nB라고 가정하면, nAnB개의 엔트리를 유지하는 대신에, nA + nB개의 엔트리만이 보유된다,
추적의 맥락에서, A는 차량 전방의 목표물의 "전역적 상태"를 나타내고, B는 차량 후방의 목표물의 전역적 상태를 나타낸다. 전형적으로 A와 B는 독립적이다. 이하는 (무한 차원 운동학적 분포를 포함하는) 값을 “ai”와 “bj”로서 이산화하는 방법, 주변 분포와 결합 분포를 획득하는 방법, 측정치를 A 및 B와 짝을 이루도록 클러스터링하는 방법, 및, 병합 및 분할을 유도할 수 있는, 측정치 업데이트를 수행하는 방법을 기술한다.
인자 및 가설
X를 운영되는 전체 공간이라고 하고, 이 공간에 대한 분포를 dGLMB 패밀리(dGLMB family), 즉 가중치를 갖는 가설 집합이라고 하자. X가 XA와 XB의 데카르트 곱(Cartesian product)으로 분해되는 경우, 그리고 독립성이 유지되는 경우, 원래 분포는 2개의 분포 - 각각은 가중치를 갖는 가설 집합이며 인자라고 지칭됨 - 의 곱으로 인수분해될 수 있다. 새로운 측정치는 인자들을 커플링시킬 수 있으며, 이 경우에 측정치 업데이트를 수행하기 위해 곱 공간(product space)에서의 분포가 구성되며, 결과적인 오차가 허용 오차 내에 있으면 인수분해가 또다시 수행된다. 따라서, 일단 (클러스터링을 위한) 게이팅 및 근사화의 매개변수가 설정되면, 암시적으로 정의된 서브공간에 기초하여 (변하는 개수의) 인자가 자동으로 결정되며, 이들 인자는 또한 측정치의 도착으로 자동으로 병합 및 분할된다.
일부 실시예에서, 주변화된 분포(marginalized distribution)는 적은 수의 가설을 가지며, 열에 걸쳐 여러 숫자를 합산하여 하나의 숫자를 얻는 것과 유사하다.
공통으로 가설을 갖는 항을 결합시키기 위해, 운동학적 분포가 이산화된다. 이렇게 하기 위해, 먼저 트랙과 연관된 측정치 집합을 갖는 트랙의 운동학적 분포를 식별한다. 일반적으로 측정치는 시간이 지남에 따라 상태 추정에 대한 그의 영향이 줄어들도록 되어 있다. 고정된 "이력 창" 길이 N을 선택하고, 상태 추정에 포함된 이 창 내의 측정치를 측정치 ID의 튜플에 의해 표기하며, 0은 누락된 검출을 나타낸다. 도 15a 및 도 15b는 병합(가중치가 프리픽스 “-1”을 가짐)과 분할(측정치를 갖는 경우 및 측정치를 갖지 않는 경우에 대해 제각기 가중치가 프리픽스 “-2” 및 프리픽스 “-3”을 가짐)을 갖는 예시적인 가설 트리를 도시한다. 도 15a 및 도 15b는 특정의 런(run)에 대한 가설의 진화의 예를 보여주며, 여기서 타원은 가설을 나타내고, 점 왼쪽의 숫자는 트랙 ID를 나타내며, 점 오른쪽의 숫자는 연관된 측정치 ID를 나타낸다. 창 길이 N = 4가 선택되면, 리프 레이어(leaf layer)에서 굵은 윤곽(outlining)을 갖는 다이아몬드 내의 트랙 3에 대한 운동학적 상태 분포는 튜플(70, 80, 90, 94)로 식별된다.
이제 가설은 2-튜플 (i, Si)로 표현될 수 있고, 여기서
Figure pat00047
은 트랙 ID이고,
Figure pat00048
는 측정치 ID의 부분집합이다.
도 15c는 본 명세서에서 설명된 병합/분할 기술의 다른 양태를 도시한다. 도 15c는 (수평축 상에 프레임 인덱스에 의해 표현되는) 측정치 프레임을 수집하는 동안 (좌측 수직축 상의 스케일에 대해 실선에 의해) 인자의 개수를 나타내고 (우측 수직축 상의 스케일에 대해 파선에 의해) 가설의 총 개수를 나타내는 그래프이다. 예시된 실시예에서, 인수의 개수와 가설의 총 개수는 일반적으로 동일한 경향을 따른다(예를 들어, 인자의 개수가 증가 및 감소함에 따라 가설의 총 개수가 일반적으로 증가 및 감소한다). 특히, 대부분의 프레임에 대해, 인자의 개수는 5 내지 15이고 가설의 총 개수는 40 내지 120이다(예를 들어, 시간이 지남에 따라 인자의 개수와 가설의 개수가 단순히 계속 증가하지는 않는다).
주변화(marginalization)
가설이 그와 같이 표현된 경우, 두 가지 타입의 주변화: 예전 이력(remote history)에 대한 주변화 및 라벨(예를 들어, 트랙) 부분집합에 대한 주변화가 수행될 수 있다. 예전 이력에 대한 주변화에서, 도 15a 및 도 15b에서의 가설 트리에서 다이아몬드로서 도시된 리프 노드인 각각의 “현재 가설”에 대해, 트리의 루트까지의 가설의 가계도(pedigree)가 추적되고 튜플로서 표현된다. 루트가 반드시 도면에서의 "헤드"인 것은 아니며; 헤드는 쉬운 그리기를 위해 트리의 "가장 최근의" 부분의 개념상 루트에 불과하다. 가계도가 L의 길이로 절단되면, 2개의 가설은 동일한 L-튜플을 갖는 2개의 가계도를 가질 수 있다. 이 경우에, 이전의 이력은 무시되고, 2개의 가설은 동일한 것으로 간주되며, 하나의 가설만이 유지되면서 그의 가중치에 다른 가설(예를 들어, 삭제될 가설)의 가중치를 가산한다. 이것은 사실상 예전 이력에 대한 주변화이다.
Claudio Fantacci and Francesco Papi, “Scalable Multisensor Multitarget Tracking Using the Marginalized delta-GLMB Density,” IEEE Signal Processing Letters, 23(6):863-867 (June 2016)은 사실상 길이 L = 1의 가계도를 고려하며, 예를 들어, 리프 노드만이 비교된다. 더욱이, 이 간행물에서의 기술은 주변화된 가설로부터의 구별되는 운동학적 분포를 유지하지 않고 오히려 이들의 가중합을 유지한다는 의미에서 더 적은 입도를 갖는다. 각각의 개별 운동학적 분포가 가우시안인 경우, 그러한 주변화 이후에, 가우시안의 혼합이 유지된다. 따라서, 동일한 트랙 ID를 갖지만 상이한 가설에 있는 트랙이 위치 및 속도 면에서 서로 상당히 상이할 때, 가설을 관리하는 것은 혼합의 컴포넌트를 관리하는 것으로 바뀐다.
위에서 기술된 바와 같이, 가설은 2-튜플에 의해 이산화되고 인덱싱될 수 있다. 라벨 집합
Figure pat00049
이
Figure pat00050
로 파티셔닝되는 경우, 가설의 2-튜플은
Figure pat00051
과
Figure pat00052
로 파티셔닝될 수 있다. 후속적으로, 하나의 집합은 유지되고 다른 집합은 대응하는 가중치를 가산함으로써 주변화된다.
도 13a에 예시된 바와 같이, 2개의 라벨 집합으로 표현된 목표물이 서로 멀리 떨어져 있을 때, 총 분포가 주변 확률(marginal) 또는 인자의 곱에 의해 잘 근사화될 수 있을 가능성이 있으며, 여기서 곱 연산은 각각의 주변 가설로부터의 가설의 조합을 열거함으로써 수행된다. 상위 K개의 가중된 전역적 가설만을 유지하기 위해, K-최단 경로 알고리즘이 사용될 수 있다(예를 들어, “K shortest path routing,” www.wikipedia.org (September 26, 2018) 참조). 원래 분포와 재구성된 분포 사이의 가중치 차이의 벡터 노름(vector norm)이 근사화가 얼마나 양호한지의 지표로서 사용될 수 있다.
게이팅 및 클러스터링
일부 실시예에서, 측정치가 트랙 ID 또는 다른 측정치와 연관될 수 있는지 여부를 결정하는 (거친) 게이팅 함수가 정의된다. 측정치의 타임 스탬프가 상이할 수 있기 때문에, 게이팅 매개변수는 최대 속력과 같은 것을 고려해야 한다. 일부 실시예에서, 불확실성이 고려되지만, 반드시 역행렬(matrix inversion)을 통하는 것은 아니다. 하나 초과의 가설에 동일한 트랙 ID가 존재할 수 있다. 일부 실시예에서, 임의의 가설 내의 ID를 갖는 트랙이 게이팅되는 경우 "게이팅"은 참(true)으로 정의된다.
일부 실시예에서, 측정치의 행과 (가상 트랙으로 생각되는) 트랙 + 측정치의 열 사이에 불리언 게이팅 행렬이 정의된다. (동일한 목표물/측정치로 게이팅하는 것과 관련하여) 상이한 클러스터 사이에 "간섭"이 없도록 목표물 및 측정치의 클러스터를 획득하기 위한 알고리즘이 J. Dezert and Y. Bar-Shalom, “Joint probabilistic data association for autonomous navigation” (IEEE Transactions on Aerospace and Electronic Systems, 29(4):1275-1286, October 1993)에서 제시된다. 알고리즘은 동일한 트랙으로 게이팅되는 행을 그룹으로 (논리적 "or"에 의해) 병합한다.
병합 및 분할
기존 트랙과 함께 측정치의 게이팅 및 클러스터링을 수행한 후에, 측정치-트랙 그룹이 획득된다. 용어 "그룹"은, 데이터 프레임을 지칭하기 위해 RADAR 기술의 맥락에서 때때로 사용되는, 용어 "클러스터"와의 혼동을 피하기 위해 사용된다. 그룹은 이하의 세 가지 카테고리 중 하나에 속할 수 있다: (1) 그룹이 트랙만을 갖고 게이팅된 측정치를 갖지 않는 경우, 그룹은 무시된다; (2) 그룹이 측정치(예를 들어, 그 자신들 간에 게이팅되는 측정치) 집합을 갖지만 게이팅된 트랙을 갖지 않는 경우, 새로운 인자가 생성되고 이 측정치 집합과 연관된다; (3) 그룹이 측정치 및 게이팅된 트랙 둘 모두를 갖는 경우, 트랙(또는 트랙 ID)이 상이한 인자에 존재할 수 있기 때문에, 업데이트가 어떻게 행해져야 하는지를 결정하기 위해 추가 파티셔닝이 수행된다.
일부 실시예에서, 클러스터링이 (예를 들어, 위에서 기술된 동일한 알고리즘을 사용하여) 재차 수행되며, 측정치 그룹은 측정치의 역할을 하고, 인자는 트랙의 역할을 한다. 측정치 그룹에 포함된 임의의 트랙이 인자 내에 포함된 임의의 가설에 존재하면, 측정치 그룹은 트랙으로 게이팅된다. 상기 절차의 출력에서의 클러스터는 "슈퍼 그룹"이라고 지칭된다. 슈퍼 그룹이 인자를 포함하지만 게이팅된 측정 그룹을 포함하지 않는 경우, 슈퍼 그룹은 무시된다. 그렇지 않으면, 병합 및 분할이 수행되어야 하는지 여부에 대한 결정이 이루어진다.
슈퍼 그룹이 측정치 그룹을 포함하지만 게이팅된 인자를 포함하지 않으면, 새로운 인자가 생성되고 측정치와 연관된다. 슈퍼 그룹이 인자와 게이팅된 측정치 둘 모두를 포함하면, 병합은 다음과 같이 결정된다: (a) 단지 하나의 인자가 있으면, 병합이 수행되지 않고; (b) 하나 초과의 인자가 있으면, 인자를 병합한다.
인자 집합이 주어지면, 인자의 가설의 "상위 K개의" 가중된 교차 곱이 열거되고, 컴포넌트 트랙들을 연결(concatenate)하는 것 및 컴포넌트 가중치들을 곱하는 것에 의해 각각의 곱에 대한 하나의 새로운 가설을 생성한다. 이것은 K-최단 경로 알고리즘을 사용하여 행해질 수 있다. "상위 K개"로의 절단으로 인해, 가중치가 재정규화된다. 다음에, 이러한 가설에 관여된 모든 트랙 ID 및 모든 게이팅된 트랙 ID가 수집된다. 차집합(set difference)이 비어 있지 않으면, 분할을 수행할지 여부에 대한 결정이 이루어진다.
분할 프로세스는 도 16에 예시되어 있으며, 여기서 하나 이상의 측정치(예를 들어, 측정치 1, 측정치 2, 측정치 3)는 2개의 이전에 독립적인 인자(예를 들어, 인자 1와 인자 2)를 커플링시키지만, 병합된 인자(예를 들어, 인자 1') 내의 트랙 중 일부로만 게이팅된다. 도 16에 예시된 실시예에서, 측정치 1, 측정치 2, 및 측정치 3은 트랙 1 및 트랙 3으로 게이팅되지만, 트랙 2 또는 트랙 4로 게이팅되지 않는다. 일부 실시예에서, 근사화 오차가 충분히 작은 경우(예를 들어, 근사화 오차가 오차 조건을 충족시키거나 임계 값보다 작은 경우), 병합된 인자는 2개의 새로운 인자(예를 들어, 인자 1" 및 인자 2")로 분할된다.
각각의 가설(예를 들어, 가설 1)의 트랙은 게이팅된 트랙 ID(예를 들어, 트랙 1 및 트랙 3)의 튜플과 게이팅되지 않은 트랙 ID(예를 들어, 트랙 2 및 트랙 4)의 튜플로 분할된다. 이어서 모든 고유한 게이팅된 트랙은 "행 변수(row variable)"를 결정하고, 모든 고유한 게이팅되지 않은 트랙은 "열 변수(column variable)"를 결정한다. 각각의 가설이 그의 가중치를 엔트리에 기부하는 결합 확률 테이블이 구성되지만, 이산화에서의 유한한 이력 길이로 인해, 엔트리는 다수의 기부 가설(contributing hypotheses)을 가질 수 있으며, 따라서 그의 가중치들의 합이 입력된다.
일부 실시예에서, 이 테이블에 대해 이어서 주변화가 수행된다. 결과적인 오차가 수용가능한 경우, 독립성이 유지되는 것으로 가정되고 분할이 행해진다. 예를 들어, 인자 1'이 인자 1”과 인자 2”로 분할된다. 각각의 행/열 값은 가중치를 갖는 가설을 생성하고, 이러한 가설은 새로운 인자를 생성한다.
일단 새로운 인자가 결정되면, 인자는 그의 연관된 측정치로 업데이트된다. 병합이 없고 분할이 없는 경우, 인자는 원래 인자이다. 병합이 있지만 분할이 없는 경우, 새로운 인자는 하나의 병합된 인자이고, 소스 인자는 삭제된다. 분할이 있는 경우, 적어도 2개의 새로운 인자가 있으며, 소스 인자는 삭제된다.
각각의 인자는 위에서 기술된 바와 같이 업데이트된다. 일부 실시예에서, 각각의 인자에 대해, 새로운 트랙을 이 인자와 연관된 측정치로 게이팅되는 트랙으로 제한하기 위해 게이팅이 수행된다.
대상체를 검출하고 센서 데이터를 필터링하기 위한 예시적인 프로세스
도 17은 환경에서 대상체를 검출하고 검출된 대상체로부터의 데이터를 필터링하여 대상체를 추적하기 위한 예시적인 프로세스(1700)의 플로차트이다. 편의상, 프로세스(1700)는 하나 이상의 위치에 위치된 하나 이상의 컴퓨터의 시스템에 의해 수행되는 것으로 기술될 것이다. 예를 들어, 본 명세서에 따라 적절히 프로그래밍된, 도 1의 AV 시스템(120)(또는 그의 부분)은 프로세스(1700)를 수행할 수 있다.
블록(1702)에서, 본 시스템(예를 들어, AV 시스템(120))은 발신 신호(예를 들어, RADAR 데이터 또는 광(604a 내지 604c))를 환경(예를 들어, 환경(190)) 내로 송신한다. 일부 실시예에서, 발신 신호는 RADAR, LiDAR, 또는 초음파 신호이다.
블록(1704)에서, 본 시스템은 환경 내의 대상체(예를 들어, 자연 장애물(191), 차량(193), 보행자(192), 자전거 운전자, 및 다른 대상체)로부터의 발신 신호의 반사를 포함하는 복귀 신호를 수신한다.
블록(1706)에서, 본 시스템은 수신된 복귀 신호에 기초하여 검출된 측정치 집합을 결정하고, 여기서 검출된 측정치는 환경 내의 대상체의 각자의 검출에 대응한다.
블록(1708)에서, 본 시스템은 그룹을 결정하며, 여기서 그룹은 검출된 측정치 집합으로부터의 그룹 측정치 집합(예를 들어, 게이팅 기준을 충족시키는 모든 측정치의 부분집합) 및 그룹 측정치 집합과 연관된 그룹 트랙 집합을 포함한다. 일부 실시예에서, 그룹은 직접적으로 또는 간접적으로 연관된 트랙과 측정치의 집합이다(예를 들어, 측정치 m1과 트랙 trk3은 측정치 m1 및 m2가 trk1로 게이팅되고 m2가 또한 trk3으로 게이팅되는 경우, m1이 trk3으로 게이팅되지 않더라도, 동일한 그룹에 속한다. 그룹 트랙 집합은 제1 이전 인자와 연관된 제1 트랙 및 제2 이전 인자와 연관된 제2 트랙을 포함한다(예를 들어, 그룹은 상이한 인자로부터의 트랙을 포함한다). 제1 이전 인자는 제1 트랙을 포함한, 제1 기존 트랙 집합과 연관된 제1 이전 트랙 상태 가설 집합을 포함한다. 일부 실시예에서, 제1 이전 인자의 가설에 포함된 트랙 집합은 그룹에 포함된 트랙과 상이하다. 제2 이전 인자는 제2 트랙을 포함한, 제2 기존 트랙 집합과 연관된 제2 이전 트랙 상태 가설 집합을 포함한다. 일부 실시예에서, 제2 이전 인자의 가설에 포함된 트랙 집합은 그룹에 포함된 트랙과 상이하다. 일부 실시예에서, 제1 이전 인자와 연관된 트랙과 제2 이전 인자와 연관된 트랙은 상호 배타적이다. 일부 실시예에서, 제1 이전 인자와 제2 이전 인자의 트랙 상태 가설은 상호 배타적이다.
일부 실시예에서, 그룹 측정치 집합 및 그룹 트랙 집합을 포함하는 그룹을 결정하는 것은 그룹 측정치 집합 내의 측정치가 그룹 트랙 집합 내의 적어도 하나의 트랙의 상태(예를 들어, 위치 및/또는 속도의 추정치)에 기초하여 게이팅 기준을 충족시킨다고 결정하는 것을 포함한다. 일부 실시예에서, 측정치가 트랙 ID 또는 다른 측정치와 연관될 수 있는지 여부를 결정하는 게이팅 함수(예를 들어, 거친 게이팅 함수)가 정의된다. 일부 실시예에서, 측정치 타임 스탬프가 상이할 수 있기 때문에, 게이팅 매개변수는, 최대 속력과 같은, 다른 매개변수를 고려한다. 일부 실시예에서, 불확실성이 고려되지만, 반드시 역행렬을 통하는 것은 아니다. 하나 초과의 가설에 동일한 트랙이 존재할 수 있다. 일부 실시예에서, 그룹이 트랙만을 갖고 게이팅된 측정치를 갖지 않는 경우, 그룹은 무시된다. 일부 실시예에서, 그룹이 측정치(예를 들어, 그 자신들 간에 게이팅되는 측정치) 집합을 갖지만 게이팅된 트랙을 갖지 않는 경우, 새로운 인자가 생성되고 측정치 집합과 연관된다. 일부 실시예에서, 그룹이 측정치 및 게이팅된 트랙 둘 모두를 갖는 경우, 트랙이 상이한 인자에 존재할 수 있기 때문에, 업데이트가 어떻게 행해져야 하는지를 결정하기 위해 추가 파티셔닝이 수행된다.
일부 실시예에서, 그룹은 대응하는 트랙 상태 가설을 갖는 인자 집합을 포함하고, 여기서 인자 집합은 제1 이전 인자와 제2 이전 인자를 포함한다. 일부 그러한 실시예에서, 그룹을 결정하는 단계는: 제1 이전 인자의 제1 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 단계; 및 제2 이전 인자의 제2 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 단계를 포함한다. 예를 들어, 일부 실시예에서, 측정치-트랙 그룹에 포함된 임의의 트랙이 인자 내의 임의의 가설에 존재하면, 측정치-트랙 그룹은 인자로 게이팅된다. 일부 실시예에서, 그룹이 인자를 포함하지만 게이팅된 측정치 그룹을 포함하지 않으면, 그룹은 무시되고; 그렇지 않으면, 본 시스템은 다음과 같이 병합 및 분할이 수행되어야 하는지 여부를 고려한다. 그룹이 측정치 그룹을 포함하지만 게이팅된 인자를 포함하지 않으면, 새로운 인자가 생성되고 측정치와 연관된다. 그룹이 측정치 그룹과 인자를 포함하는 경우: (a) 단지 하나의 인자가 있으면, 병합이 수행되지 않고; (b) 하나 초과의 인자가 있으면, 인자가 병합된다.
일부 실시예에서, 본 시스템은 예전 이력에 대한 주변화를 수행한다. 예를 들어, 일부 실시예에서, 본 시스템은 제2 트랙 상태 가설의 가중치와 제3 트랙 상태 가설의 가중치를 결합함으로써 제1 이전 트랙 상태 가설 집합의 제1 트랙 상태 가설의 가중치를 결정한다. 일부 실시예에서, 본 시스템은 제2 트랙 상태 가설의 이력과 제3 트랙 상태 가설의 이력이 현재 측정치 프레임에 바로 선행하는 미리 결정된 개수의 측정치 프레임에 걸쳐 각각의 측정치 프레임에서 동일하다는 결정에 따라 제2 트랙 상태 가설의 가중치와 제3 트랙 상태 가설의 가중치를 결합함으로써 제1 트랙 상태 가설의 가중치를 결정한다. 일부 실시예에서, 각각의 가설에 대해, 가설의 가계도가 가설 트리에서의 루트까지 추적될 수 있다(예를 들어, 도 15a 및 도 15b). 일부 실시예에서, 가계도가 L의 길이로 절단되면, 2개의 가설은 길이 L의 동일한 가계도를 갖는 가계도를 가질 수 있다. 이 경우에, 본 시스템은 이전의 이력을 무시하고 이 2개의 가설을 동일한 것으로 간주하며, 단지 하나의 가설을 유지한다(다른 가설을 삭제함). 삭제될 가설의 가중치는 유지되는 가설의 가중치에 가산된다.
블록(1710)에서, 본 시스템은, 제1 기존 트랙 집합과 제2 기존 트랙 집합을 포함한, 병합된 기존 트랙 집합과 연관되는 병합된 트랙 상태 가설 집합을 포함하는 병합된 인자를 생성한다(예를 들어, 병합된 기존 트랙 집합은 제1 기존 트랙 집합과 제2 기존 트랙 집합으로 구성된다). 일부 실시예에서, 본 시스템은 제1 이전 트랙 상태 가설 집합과 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써 병합된 인자를 생성한다.
일부 실시예에서, 병합된 트랙 상태 가설 집합은, 예를 들어, 계산 부담을 줄이기 위해, 트리밍 기준에 기초하여 트리밍된다. 예를 들어, 제1 이전 트랙 상태 가설 집합과 제2 이전 트랙 상태 가설 집합의 교차 곱은 상위 K개의 가설만을 유지하도록 트리밍된다.
일부 실시예에서, 병합된 트랙 상태 가설 집합을 생성하는 단계는 K-최단 경로 알고리즘을 사용하여 더 큰 트랙 상태 가설 집합으로부터 병합된 트랙 상태 가설 집합을 선택하는 단계를 포함한다. 예를 들어, 인자 집합이 주어지면, 본 시스템은 인자에 포함된 가설의 "상위 K개의" 가중된 교차 곱을 열거하고, 컴포넌트 트랙들을 연결하는 것 및 컴포넌트 가중치들을 곱하는 것에 의해 각각의 곱에 대한 하나의 새로운 가설을 생성한다. 일부 실시예에서, 나머지 가설의 가중치는 재정규화된다. 일부 실시예에서, 절단 이후에, 본 시스템은 나머지 가설들에 관여된 모든 트랙 ID 및 모든 게이팅된 트랙 ID를 수집하고, 차집합(set difference)이 비어 있지 않으면, 본 시스템은 분할을 수행할지 여부를 결정한다.
블록(1712)에서, 본 시스템은 제1 새로운 인자와 제2 새로운 인자를 결정한다(예를 들어, 병합된 인자는 2개 이상의 새로운 인자로 분할된다). 일부 실시예에서, 본 시스템은 병합된 인자가 분할 조건을 충족시킨다는 결정에 따라 제1 새로운 인자와 제2 새로운 인자를 결정한다. 일부 실시예에서, 분할 조건은 그룹 측정치 집합(예를 들어, 게이팅 기준을 충족시키는 측정치 집합), 제1 기존 트랙 집합(예를 들어, 제1 이전 인자와 연관된 트랙), 및 제2 기존 트랙 집합(예를 들어, 제2 이전 인자와 연관된 트랙)에 기초한다.
일부 실시예에서, 제1 새로운 인자는 그룹 측정치의 제1 부분집합 및 병합된 기존 트랙 집합의 제1 부분집합과 연관된다. 일부 실시예에서, 병합된 기존 트랙 집합의 제1 부분집합은 제1 이전 인자로부터의 제1 기존 트랙 집합으로부터의 적어도 하나의 트랙 및 제2 이전 인자로부터의 제2 기존 트랙 집합으로부터의 적어도 하나의 트랙을 포함한다. 일부 실시예에서, 제1 새로운 인자는 제1 이전 인자로부터의 제1 이전 트랙 상태 가설 집합으로부터의 적어도 하나의 가설 및 제2 이전 인자로부터의 제2 이전 트랙 상태 가설 집합으로부터의 적어도 하나의 가설을 포함하는 제3 이전 트랙 상태 가설 집합을 포함한다.
일부 실시예에서, 제2 새로운 인자는 그룹 측정치의 제2 부분집합 및 병합된 기존 트랙 집합의 제2 부분집합과 연관된다. 일부 실시예에서, 병합된 기존 트랙 집합의 제2 부분집합은 제1 이전 인자로부터의 제1 기존 트랙 집합으로부터의 적어도 하나의 트랙 및 제2 이전 인자로부터의 제2 기존 트랙 집합으로부터의 적어도 하나의 트랙을 포함한다. 일부 실시예에서, 제2 새로운 인자는 제1 이전 인자로부터의 제1 이전 트랙 상태 가설 집합으로부터의 적어도 하나의 가설 및 제2 이전 인자로부터의 제2 이전 트랙 상태 가설 집합으로부터의 적어도 하나의 가설을 포함하는 제4 이전 트랙 상태 가설 집합을 포함한다.
일부 실시예에서, 그룹 측정치의 제1 부분집합과 그룹 측정치의 제2 부분집합은 상호 배타적이다. 일부 실시예에서, 병합된 기존 트랙 집합의 제1 부분집합과 기존 트랙 집합의 제2 부분집합은 상호 배타적이다.
일부 실시예에서, 제1 새로운 인자와 제2 새로운 인자를 결정하는 단계는 병합된 트랙 상태 가설 집합(예를 들어, 결합 확률)의 가중치와 제1 이전 트랙 상태 가설 집합의 가중치와 제2 이전 트랙 상태 가설 집합의 가중치의 대응하는 곱(예를 들어, 주변 가설의 곱) 사이의 차이가 미리 결정된 임계치 이하라는 결정에 따라 수행된다. 예를 들어, 목표물이 서로 상대적으로 멀리 떨어져 있을 때, 목표물과 연관된 트랙의 총 분포는 주변 확률의 곱에 의해 근사화될 수 있으며, 여기서 곱 연산은 각각의 주변 가설로부터의 가설의 조합을 열거함으로써 수행된다. 원래 분포와 재구성된 분포 사이의 가중치 차이의 벡터 노름이 근사화의 품질의 지표로서 사용될 수 있다.
일부 실시예에서, 본 시스템이 제1 새로운 인자 및 제2 새로운 인자를 결정한 후에, 본 시스템은, 예를 들어, 이들이 통계적으로 독립적인 것처럼, 각각의 새로운 인자 내의 가설을 개별적으로 업데이트한다. 블록(1714)에서, 본 시스템은 그룹 측정치의 제1 부분집합에 기초하여 제1 새로운 인자에 대한 제1 새로운 트랙 상태 가설 집합을 계산한다(예를 들어, 본 시스템은 제1 새로운 인자와 연관된 새로운 측정치에 기초하여 이전 가설을 업데이트하고; 가설에 대한 새로운 가중치 및/또는 추정된 트랙 상태를 계산한다). 블록(1716)에서, 본 시스템은 그룹 측정치의 제2 부분집합에 기초하여 제2 새로운 인자에 대한 제2 새로운 트랙 상태 가설 집합을 계산한다(예를 들어, 제2 새로운 인자와 연관된 새로운 측정치에 기초하여 이전 가설을 업데이트하고; 가설에 대한 새로운 가중치 및/또는 추정된 트랙 상태를 계산한다).
일부 실시예에서, 제1 새로운 트랙 상태 가설 집합을 계산하는 단계 및 제2 새로운 트랙 상태 가설 집합을 계산하는 단계는 dGLMB(δ-Generalized Labeled Multi-Bernoulli) 필터를 사용하여 수행된다. 일부 실시예에서, dGLMB(δ-Generalized Labeled Multi-Bernoulli) 필터는 최상위 순위 가설을 열거하고, 계산 버짓은 메모리에 유지하기 위한 가설의 총 개수 면에서 설정된다.
상기 설명에서, 본 발명의 실시예는 구현예마다 변화될 수 있는 다수의 특정 세부사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 관점보다는 예시적인 관점에서 보아야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위가 되도록 의도한 것은, 본 출원에서 특정 형태로 나오는 청구항 세트의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대해 본원에서 명시적으로 개시된 모든 정의는 청구항에서 사용되는 바와 같은 그러한 용어의 의미를 지배한다. 그에 부가하여, 상기 설명 또는 이하의 청구항에서 용어 "추가로 포함하는"이 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (17)

  1. 센서에 의해 수신되는 신호에 기초하여 대상체를 추적하기 위한 방법으로서,
    발신 신호를 환경 내로 송신하는 단계;
    복귀 신호를 수신하는 단계 - 상기 복귀 신호는 상기 환경 내의 대상체로부터 상기 발신 신호의 반사를 포함함 -;
    상기 수신된 복귀 신호에 기초하여 검출된 측정치 집합을 결정하는 단계 - 상기 검출된 측정치는 상기 환경 내의 대상체의 각자의 검출에 대응함 -;
    상기 검출된 측정치 집합으로부터의 그룹 측정치 집합, 및 상기 그룹 측정치 집합과 연관된 그룹 트랙 집합을 포함하는 그룹을 결정하는 단계 - 상기 그룹 트랙 집합은:
    제1 이전 인자와 연관된 제1 트랙 - 상기 제1 이전 인자는 제1 이전 트랙 상태 가설 집합을 포함하고, 상기 제1 이전 트랙 상태 가설 집합은 상기 제1 트랙을 포함하는 제1 기존 트랙 집합과 연관됨 -; 및
    제2 이전 인자와 연관된 제2 트랙 - 상기 제2 이전 인자는 제2 이전 트랙 상태 가설 집합을 포함하고, 상기 제2 이전 트랙 상태 가설 집합은 상기 제2 트랙을 포함하는 제2 기존 트랙 집합과 연관됨 -
    을 포함함 -;
    상기 제1 이전 트랙 상태 가설 집합과 상기 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써, 상기 제1 기존 트랙 집합과 상기 제2 기존 트랙 집합을 포함하는 병합된 기존 트랙 집합과 연관되는 병합된 트랙 상태 가설 집합을 포함하는 병합된 인자를 생성하는 단계;
    상기 병합된 인자가 분할 조건을 충족시킨다는 결정에 따라, 제1 새로운 인자와 제2 새로운 인자를 결정하는 단계 -
    상기 제1 새로운 인자는 상기 그룹 측정치의 제1 부분집합 및 상기 병합된 기존 트랙 집합의 제1 부분집합과 연관되고;
    상기 제2 새로운 인자는 상기 그룹 측정치의 제2 부분집합 및 상기 병합된 기존 트랙 집합의 제2 부분집합과 연관되며;
    상기 그룹 측정치의 상기 제1 부분집합과 상기 그룹 측정치의 상기 제2 부분집합은 상호 배타적이고;
    상기 병합된 기존 트랙 집합의 상기 제1 부분집합과 상기 기존 트랙 집합의 상기 제2 부분집합은 상호 배타적임 -;
    상기 그룹 측정치의 상기 제1 부분집합에 기초하여 상기 제1 새로운 인자에 대한 제1 새로운 트랙 상태 가설 집합을 계산하는 단계; 및
    상기 그룹 측정치의 상기 제2 부분집합에 기초하여 상기 제2 새로운 인자에 대한 제2 새로운 트랙 상태 가설 집합을 계산하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서,
    상기 그룹 측정치 집합 및 상기 그룹 트랙 집합을 포함하는 상기 그룹을 결정하는 단계는 상기 그룹 측정치 집합 내의 측정치가 상기 그룹 트랙 집합 내의 적어도 하나의 트랙의 상태에 기초하여 게이팅 기준을 충족시킨다고 결정하는 단계를 포함하는 것인, 방법.
  3. 제1항 또는 제2항에 있어서,
    상기 그룹은 대응하는 트랙 상태 가설을 갖는 인자 집합을 포함하고, 상기 인자 집합은 상기 제1 이전 인자와 상기 제2 이전 인자를 포함하며, 상기 그룹을 결정하는 단계는:
    상기 제1 이전 인자의 상기 제1 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 상기 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 단계; 및
    상기 제2 이전 인자의 상기 제2 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 상기 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 단계
    를 포함하는 것인, 방법.
  4. 제1항 또는 제2항에 있어서,
    제2 트랙 상태 가설의 이력과 제3 트랙 상태 가설의 이력이 현재 측정치 프레임에 바로 선행하는 미리 결정된 개수의 측정치 프레임에 걸쳐 각각의 측정치 프레임에서 동일하다는 결정에 따라 상기 제2 트랙 상태 가설의 가중치와 상기 제3 트랙 상태 가설의 가중치를 결합함으로써 상기 제1 이전 트랙 상태 가설 집합의 제1 트랙 상태 가설의 가중치를 결정하는 단계
    를 더 포함하는, 방법.
  5. 제1항 또는 제2항에 있어서,
    상기 병합된 트랙 상태 가설 집합을 생성하는 단계는 K-최단 경로 알고리즘을 사용하여 더 큰 트랙 상태 가설 집합으로부터 상기 병합된 트랙 상태 가설 집합을 선택하는 단계를 포함하는 것인, 방법.
  6. 제1항 또는 제2항에 있어서,
    상기 제1 새로운 인자와 상기 제2 새로운 인자를 결정하는 단계는, 상기 제1 이전 트랙 상태 가설 집합의 가중치와 상기 제2 이전 트랙 상태 가설 집합의 가중치의 대응하는 곱과 상기 병합된 트랙 상태 가설 집합의 가중치와의 사이의 차이가 미리 결정된 임계치 이하라는 결정에 따라 수행되는 것인, 방법.
  7. 제1항 또는 제2항에 있어서,
    상기 제1 새로운 트랙 상태 가설 집합을 계산하는 단계 및 상기 제2 새로운 트랙 상태 가설 집합을 계산하는 단계는 dGLMB(δ-Generalized Labeled Multi-Bernoulli) 필터를 사용하여 수행되는 것인, 방법.
  8. 제1항 또는 제2항에 있어서,
    상기 발신 신호는 RADAR, LiDAR, 또는 초음파 신호인 것인, 방법.
  9. 시스템으로서,
    하나 이상의 컴퓨터 프로세서; 및
    상기 하나 이상의 컴퓨터 프로세서에 의해 실행될 때, 동작들의 수행을 야기하는 명령어가 저장된 하나 이상의 비-일시적 저장 매체
    를 포함하며, 상기 동작들은:
    발신 신호를 환경 내로 송신하는 동작;
    복귀 신호를 수신하는 동작 - 상기 복귀 신호는 상기 환경 내의 대상체로부터 상기 발신 신호의 반사를 포함함 -;
    상기 수신된 복귀 신호에 기초하여 검출된 측정치 집합을 결정하는 동작 - 상기 검출된 측정치는 상기 환경 내의 대상체의 각자의 검출에 대응함 -;
    상기 검출된 측정치 집합으로부터의 그룹 측정치 집합, 및 상기 그룹 측정치 집합과 연관된 그룹 트랙 집합을 포함하는 그룹을 결정하는 동작 - 상기 그룹 트랙 집합은:
    제1 이전 인자와 연관된 제1 트랙 - 상기 제1 이전 인자는 제1 이전 트랙 상태 가설 집합을 포함하고, 상기 제1 이전 트랙 상태 가설 집합은 상기 제1 트랙을 포함하는 제1 기존 트랙 집합과 연관됨 -; 및
    제2 이전 인자와 연관된 제2 트랙 - 상기 제2 이전 인자는 제2 이전 트랙 상태 가설 집합을 포함하고, 상기 제2 이전 트랙 상태 가설 집합은 상기 제2 트랙을 포함하는 제2 기존 트랙 집합과 연관됨 -
    을 포함함 -;
    상기 제1 이전 트랙 상태 가설 집합과 상기 제2 이전 트랙 상태 가설 집합의 교차 곱을 계산함으로써, 상기 제1 기존 트랙 집합과 상기 제2 기존 트랙 집합을 포함하는 병합된 기존 트랙 집합과 연관되는 병합된 트랙 상태 가설 집합을 포함하는 병합된 인자를 생성하는 동작;
    상기 병합된 인자가 분할 조건을 충족시킨다는 결정에 따라, 제1 새로운 인자와 제2 새로운 인자를 결정하는 동작 -
    상기 제1 새로운 인자는 상기 그룹 측정치의 제1 부분집합 및 상기 병합된 기존 트랙 집합의 제1 부분집합과 연관되고;
    상기 제2 새로운 인자는 상기 그룹 측정치의 제2 부분집합 및 상기 병합된 기존 트랙 집합의 제2 부분집합과 연관되며;
    상기 그룹 측정치의 상기 제1 부분집합과 상기 그룹 측정치의 상기 제2 부분집합은 상호 배타적이고;
    상기 병합된 기존 트랙 집합의 상기 제1 부분집합과 상기 기존 트랙 집합의 상기 제2 부분집합은 상호 배타적임 -;
    상기 그룹 측정치의 상기 제1 부분집합에 기초하여 상기 제1 새로운 인자에 대한 제1 새로운 트랙 상태 가설 집합을 계산하는 동작; 및
    상기 그룹 측정치의 상기 제2 부분집합에 기초하여 상기 제2 새로운 인자에 대한 제2 새로운 트랙 상태 가설 집합을 계산하는 동작
    을 포함하는 것인, 시스템.
  10. 제9항에 있어서,
    상기 그룹 측정치 집합 및 상기 그룹 트랙 집합을 포함하는 상기 그룹을 결정하는 동작은 상기 그룹 측정치 집합 내의 측정치가 상기 그룹 트랙 집합 내의 적어도 하나의 트랙의 상태에 기초하여 게이팅 기준을 충족시킨다고 결정하는 동작을 포함하는 것인, 시스템.
  11. 제9항 또는 제10항에 있어서,
    상기 그룹은 대응하는 트랙 상태 가설을 갖는 인자 집합을 포함하고, 상기 인자 집합은 상기 제1 이전 인자와 상기 제2 이전 인자를 포함하며, 상기 그룹을 결정하는 동작은:
    상기 제1 이전 인자의 상기 제1 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 상기 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 동작; 및
    상기 제2 이전 인자의 상기 제2 이전 트랙 상태 가설 집합 내의 적어도 하나의 트랙 상태 가설이 상기 그룹 트랙 집합 내의 적어도 하나의 트랙을 포함한다고 결정하는 동작
    을 포함하는 것인, 시스템.
  12. 제9항 또는 제10항에 있어서,
    제2 트랙 상태 가설의 이력과 제3 트랙 상태 가설의 이력이 현재 측정치 프레임에 바로 선행하는 미리 결정된 개수의 측정치 프레임에 걸쳐 각각의 측정치 프레임에서 동일하다는 결정에 따라 상기 제2 트랙 상태 가설의 가중치와 상기 제3 트랙 상태 가설의 가중치를 결합함으로써 상기 제1 이전 트랙 상태 가설 집합의 제1 트랙 상태 가설의 가중치를 결정하는 동작
    을 더 포함하는, 시스템.
  13. 제9항 또는 제10항에 있어서,
    상기 병합된 트랙 상태 가설 집합을 생성하는 동작은 K-최단 경로 알고리즘을 사용하여 더 큰 트랙 상태 가설 집합으로부터 상기 병합된 트랙 상태 가설 집합을 선택하는 동작을 포함하는 것인, 시스템.
  14. 제9항 또는 제10항에 있어서,
    상기 제1 새로운 인자와 상기 제2 새로운 인자를 결정하는 동작은, 상기 제1 이전 트랙 상태 가설 집합의 가중치와 상기 제2 이전 트랙 상태 가설 집합의 가중치의 대응하는 곱과 상기 병합된 트랙 상태 가설 집합의 가중치와의 사이의 차이가 미리 결정된 임계치 이하라는 결정에 따라 수행되는 것인, 시스템.
  15. 제9항 또는 제10항에 있어서,
    상기 제1 새로운 트랙 상태 가설 집합을 계산하는 단계 및 상기 제2 새로운 트랙 상태 가설 집합을 계산하는 단계는 dGLMB(δ-Generalized Labeled Multi-Bernoulli) 필터를 사용하여 수행되는 것인, 시스템.
  16. 제9항 또는 제10항에 있어서,
    상기 발신 신호는 RADAR, LiDAR, 또는 초음파 신호인 것인, 시스템.
  17. 하나 이상의 컴퓨팅 디바이스에 의해 실행될 때, 제1항 또는 제2항의 방법의 수행을 야기하는 명령어가 저장된 하나 이상의 비-일시적 저장 매체.
KR1020210115668A 2019-08-02 2021-08-31 센서 데이터 필터링을 위한 병합-분할 기술 KR20210112276A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962882336P 2019-08-02 2019-08-02
US62/882,336 2019-08-02
KR1020200096936A KR102298644B1 (ko) 2019-08-02 2020-08-03 센서 데이터 필터링을 위한 병합-분할 기술

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020200096936A Division KR102298644B1 (ko) 2019-08-02 2020-08-03 센서 데이터 필터링을 위한 병합-분할 기술

Publications (1)

Publication Number Publication Date
KR20210112276A true KR20210112276A (ko) 2021-09-14

Family

ID=72425114

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200096936A KR102298644B1 (ko) 2019-08-02 2020-08-03 센서 데이터 필터링을 위한 병합-분할 기술
KR1020210115668A KR20210112276A (ko) 2019-08-02 2021-08-31 센서 데이터 필터링을 위한 병합-분할 기술

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020200096936A KR102298644B1 (ko) 2019-08-02 2020-08-03 센서 데이터 필터링을 위한 병합-분할 기술

Country Status (5)

Country Link
US (2) US11555910B2 (ko)
KR (2) KR102298644B1 (ko)
CN (1) CN112394724A (ko)
DE (1) DE102020120128A1 (ko)
GB (1) GB2590103B (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220173889A1 (en) * 2020-11-30 2022-06-02 Motional Ad Llc Secure Safety-Critical System Log
CN113295174B (zh) * 2021-07-27 2021-10-08 腾讯科技（深圳）有限公司 一种车道级定位的方法、相关装置、设备以及存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5414643A (en) * 1993-06-14 1995-05-09 Hughes Aircraft Company Method and apparatus for continuous time representation of multiple hypothesis tracking data
JP3638854B2 (ja) * 2000-05-30 2005-04-13 三菱電機株式会社 目標追尾装置
JP3650326B2 (ja) * 2000-11-02 2005-05-18 三菱電機株式会社 追尾処理装置及び追尾処理方法
WO2004107266A1 (en) * 2003-05-29 2004-12-09 Honda Motor Co., Ltd. Visual tracking using depth data
JP2009508450A (ja) 2005-09-13 2009-02-26 ヴェリフィコン コーポレーション 物体のトラッキングおよび活動分析のためのシステムおよび方法
US20100013935A1 (en) * 2006-06-14 2010-01-21 Honeywell International Inc. Multiple target tracking system incorporating merge, split and reacquisition hypotheses
US20080130949A1 (en) 2006-11-30 2008-06-05 Ivanov Yuri A Surveillance System and Method for Tracking and Identifying Objects in Environments
JP5816098B2 (ja) * 2009-02-02 2015-11-18 アイサイト モバイル テクノロジーズ リミテッド ビデオストリームの中のオブジェクト認識および追跡システムおよび方法
WO2011021588A1 (ja) * 2009-08-20 2011-02-24 日本電気株式会社 移動体軌跡識別システム
US8515881B2 (en) 2011-03-11 2013-08-20 Raytheon Company Multiple hypothesis tracking
US8970429B2 (en) * 2012-06-14 2015-03-03 Raytheon Company Systems and methods for tracking targets by a through-the-wall radar using multiple hypothesis tracking
AU2013205548A1 (en) 2013-04-30 2014-11-13 Canon Kabushiki Kaisha Method, system and apparatus for tracking objects of a scene
EP2799902A1 (en) * 2013-04-30 2014-11-05 Baselabs GmbH Method and apparatus for the tracking of multiple objects
CN103940430B (zh) * 2014-03-14 2016-09-07 杭州电子科技大学 一种状态受限移动多传感器配置及多目标跟踪方法
US11073608B2 (en) * 2018-10-11 2021-07-27 Raytheon Company Resolving radar angle ambiguities using a multiple hypothesis tracker
CN109508000B (zh) * 2018-12-16 2021-09-03 西南电子技术研究所（中国电子科技集团公司第十研究所） 异构多传感器多目标跟踪方法
DE102020206660A1 (de) * 2019-05-30 2020-12-03 Robert Bosch Gesellschaft mit beschränkter Haftung Redundante umgebungswahrnehmungsverfolgung für automatisierte fahrsysteme

Also Published As

Publication number Publication date
GB202011932D0 (en) 2020-09-16
GB2590103B (en) 2023-08-30
US20210033720A1 (en) 2021-02-04
KR20210016309A (ko) 2021-02-15
GB2590103A (en) 2021-06-23
US11555910B2 (en) 2023-01-17
KR102298644B1 (ko) 2021-09-07
CN112394724A (zh) 2021-02-23
DE102020120128A1 (de) 2021-02-04
US20230333237A1 (en) 2023-10-19

Similar Documents

Publication Publication Date Title
KR102537412B1 (ko) Radar를 사용한 확장 대상체 추적
CN113012187B (zh) 用于运载工具的方法和前景提取系统以及存储介质
KR20210112293A (ko) 주석 달기를 위한 데이터 샘플의 자동 선택
KR102594120B1 (ko) 자율 주행 차량에 대한 제어 아키텍처
KR20210108867A (ko) 차량의 교통 신호등 검출 시스템
KR102617604B1 (ko) 동적 점유 격자를 사용하는 차량 동작
KR102569135B1 (ko) 선형 시간 논리를 사용한 자율 주행 차량 동작
US20230333237A1 (en) Merge-split techniques for sensor data filtering
US11967106B2 (en) Object tracking supporting autonomous vehicle navigation
KR102549258B1 (ko) 이미지 시맨틱스 네트워크로부터의 단안 3d 대상체 검출
US11675366B2 (en) Long-term object tracking supporting autonomous vehicle navigation
KR20210095803A (ko) 센서 복귀에서의 거리 변화율 모호성의 해결
KR20230004212A (ko) 대상체 검출을 위한 교차 모달리티 능동 학습
KR20220124616A (ko) 근접 규칙을 사용한 자율 주행 차량의 제어
KR20220110068A (ko) 기동 생성을 사용한 차량 작동
US11946749B2 (en) Driving data guided spatial planning
KR102419526B1 (ko) 자율 주행 차량에 대한 필드 이론 기반 인지
KR20220144296A (ko) 인지된 위험에 기초하여 자율 주행 차량을 운행하기 위한 기술
KR20220141206A (ko) 자율 주행 차량을 위한 적응형 포인트 클라우드 생성
KR20220118292A (ko) 가변 시간 기간을 사용한 자율 주행 차량의 제어

Legal Events

Date Code Title Description
A107 Divisional application of patent