KR20230119069A

KR20230119069A - 자율 주행 차량 운행을 지원하는 장기 대상체 추적

Info

Publication number: KR20230119069A
Application number: KR1020230080933A
Authority: KR
Inventors: 하메드 키아니 가루가히; 카글라얀 디클
Original assignee: 모셔널 에이디 엘엘씨
Priority date: 2019-12-27
Filing date: 2023-06-23
Publication date: 2023-08-16
Also published as: KR20210084313A; GB2593264B; US20210200238A1; US11675366B2; GB2593264A; CN113048995A; GB202020548D0; KR102549266B1; GB202305739D0; DE102020134835A1

Abstract

본 개시는 일반적으로 자율 주행 차량에 근접한 대상체를 추적하기 위한 시스템 및 방법에 관한 것이다. 상세하게는, 가시선을 일시적으로 상실한 대상체를 재식별할 수 있는 대상체 추적 시스템이 기술된다. 대상체의 재식별은 대상체가 취할 가능성이 있는 모션을 예측하기 위해 이전의 대상체 검출이 더 효과적으로 사용될 수 있게 한다.

Description

자율 주행 차량 운행을 지원하는 장기 대상체 추적{LONG-TERM OBJECT TRACKING SUPPORTING AUTONOMOUS VEHICLE NAVIGATION}

관련 출원의 상호 참조

이 출원은 2019년 12월 27일자로 출원되고 발명의 명칭이 “LONG-TERM OBJECT TRACKING SUPPORTING AUTONOMOUS VEHICLE NAVIGATION”인 미국 가특허 출원 제62/954,264호의 이익을 주장하며, 이 미국 가특허 출원의 전체 내용은 이로써 참조에 의해 포함된다.

발명의 분야

이 설명은 자율 주행 차량(autonomous vehicle)의 운행을 지원하는 대상체 추적 시스템에 관한 것이다.

자율 주행 차량은 사람 및/또는 화물(예를 들면, 포장물, 물건, 또는 다른 물품)을 한 장소로부터 다른 장소로 운송하는 데 사용될 수 있다. 예를 들어, 자율 주행 차량은 사람의 위치로 운행하고, 사람이 자율 주행 차량을 탑승하기를 기다리며, 지정된 목적지(예를 들어, 사람에 의해 선택된 위치)로 운행할 수 있다. 환경에서 운행하기 위해, 이 자율 주행 차량은 주변에 있는 대상체를 검출하기 위한 다양한 유형의 센서를 장비하고 있다.

자율 주행 차량에 근접한 대상체를 검출하기 위해 센서를 사용하는 것이 알려져 있지만, 대상체의 미래 행동을 검출하고, 지속적으로 추적하며 예견하는 차량의 능력의 개선이 바람직하다. 본 명세서에서 기술된 주제는 자율 주행 차량을 둘러싼 환경에서 대상체를 검출하기 위한 컴퓨터 시스템 및 기술에 관한 것이다. 일반적으로, 컴퓨터 시스템은 차량의 하나 이상의 센서로부터 입력을 수신하고, 수신된 입력에 기초하여 차량을 둘러싼 환경에서 하나 이상의 대상체를 검출하며, 대상체의 검출에 기초하여 차량을 동작시키도록 구성된다.

예를 들어, 이 시스템은, 하나 이상의 센서 검출로부터 일시적으로 은폐(conceale)되거나 엄폐(obscure)된 대상체에 의해 취해진 이전에 검출된 활동이 해당 대상체의 거동을 더 정확하게 예측하는 데 사용될 수 있도록, 해당 대상체를 재식별하도록 구성될 수 있다. 예시적인 방법은: 자율 주행 차량의 센서를 사용하여 센서 데이터를 캡처하는 단계; 프로세싱 회로를 사용하여, 센서 데이터로부터 대상체를 검출하는 단계 - 대상체를 검출하는 단계는 검출 데이터를 생성하는 단계를 포함함 -; 프로세싱 회로를 사용하여, 검출 데이터를 제1 추적 데이터와 연관시키는 단계; 프로세싱 회로를 사용하여, 스테일 트랙 기준(stale-track criteria)을 충족시키는 제2 추적 데이터를 획득하는 단계; 프로세싱 회로를 사용하여, 제1 추적 데이터를 제2 추적 데이터와 비교하는 단계; 및 제1 추적 데이터와 제2 추적 데이터의 비교가 매칭 기준을 충족시킨다는 결정에 따라: 프로세싱 회로를 사용하여, 제2 추적 데이터를 제1 추적 데이터와 연관시키는 단계; 및 제어 회로를 사용하여, 제2 추적 데이터에 적어도 부분적으로 기초하여 자율 주행 차량을 운행시키는 단계를 포함한다.

이들 및 다른 양태, 특징, 및 구현은 기능을 수행하기 위한 방법, 장치, 시스템, 컴포넌트, 프로그램 제품, 수단 또는 단계로서, 및 다른 방식으로 표현될 수 있다.

이들 및 다른 양태, 특징, 및 구현은 청구항을 포함하여, 이하의 설명으로부터 명백해질 것이다.

도 1은 자율 주행 능력(autonomous capability)을 갖는 자율 주행 차량의 일 예를 도시한다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다.
도 3은 컴퓨터 시스템을 예시한다.
도 4는 자율 주행 차량에 대한 예시적인 아키텍처를 도시한다.
도 5는 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 일 예를 도시한다.
도 6은 LiDAR 시스템의 일 예를 도시한다.
도 7은 동작 중인 LiDAR 시스템을 도시한다.
도 8은 LiDAR 시스템의 동작을 부가적으로 상세하게 도시한다.
도 9는 계획 모듈의 입력과 출력 사이의 관계의 블록 다이어그램을 도시한다.
도 10은 경로 계획에서 사용되는 방향 그래프(directed graph)를 도시한다.
도 11은 제어 모듈의 입력 및 출력의 블록 다이어그램을 도시한다.
도 12는 제어기의 입력, 출력, 및 컴포넌트의 블록 다이어그램을 도시한다.
도 13은 시각적 대상체 추적 시스템의 블록 다이어그램을 도시한다.
도 14a 내지 도 14c는 일부 실시예에 따른 센서 트랙 및 지상 평면 트랙의 프로세싱을 예시하는 블록 다이어그램을 도시한다.
도 15는 도 14b의 블록을 참조하여 일반적으로 기술된 프로세스의 플로차트를 도시한다.
도 16a 및 도 16b는 자율 주행 차량이 교통 교차로에 접근할 때 자율 주행 차량에 탑재되어 있는 대상체 검출 시스템에 의해 캡처된 이미지의 예시적인 표현을 도시한다.
도 17a 내지 도 17c는 자율 주행 차량 및 그의 대상체 검출 센서와 함께 도 16a 및 도 16b에 묘사된 교차로의 평면도를 묘사한다.
도 18은 도 14a의 블록을 참조하여 일반적으로 기술된 프로세스의 플로차트를 도시한다.

설명을 위한 이하의 기술에서는, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정한 세부 사항이 제시된다. 그렇지만, 본 발명이 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.

도면에서, 설명을 용이하게 하기 위해, 디바이스, 모듈, 명령 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정한 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정한 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시한다는 것을 의미하지는 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시한다는 것을 의미하지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시한다는 것을 의미하지 않는다.

또한, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 보여주기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재가 연결, 관계 또는 연관이 존재할 수 없다는 것을 암시하는 것을 의미하지 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되지 않는다. 추가적으로, 예시를 용이하게 하기 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면, 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.

그 예가 첨부된 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.

서로 독립적으로 또는 다른 특징의 임의의 조합과 함께 각각 사용될 수 있는 여러 특징이 이하에 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 임의의 것을 해결할 수 없거나 또는 위에서 논의된 문제들 중 단지 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부는 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:

1. 일반적 개관

2. 하드웨어 개관

3. 자율 주행 차량 아키텍처

4. 자율 주행 차량 입력

5. 자율 주행 차량 계획

6. 자율 주행 차량 제어

7. 필라(Pillar)를 사용한 대상체 검출을 위한 컴퓨팅 시스템

8. 예시적인 포인트 클라우드 및 필라

9. 대상체를 검출하고 대상체의 검출에 기초하여 차량을 동작시키기 위한 예시적인 프로세스

일반적 개관

복잡한 환경(예를 들어, 도시 환경)에서의 자율 주행 차량 운전은 큰 기술적 도전 과제를 제기한다. 자율 주행 차량이 이러한 환경을 운행하기 위해, 차량은 광학 센서, LiDAR 및/또는 RADAR와 같은 센서를 사용하여 실시간으로 차량, 보행자, 및 자전거와 같은 다양한 유형의 대상체를 검출한다. 대상체 검출을 수행하는 하나의 접근법은 이미지 분석을 이용하여 자율 주행 차량에 근접한 대상체를 추적한다.

일부 실시예에서, 본원에 설명된 시스템 및 기술은 자율 주행 차량에 장착되거나 그에 근접해 있는 하나 이상의 센서에 의해 캡처된 대상체의 위치에 기초하여 자율 주행 차량 주위의 대상체의 위치를 결정할 수 있는 온보드 센서 기반 추적 시스템을 구현한다. 이미지의 캡처 시의 센서의 위치는 자율 주행 차량의 위성 기반 내비게이션 수신기에 의해 제공되는 위치 정보를 통해 알려질 수 있다. 하나 이상의 센서가 광학 센서이고 캡처 시에 센서의 위치가 알려져 있을 때, 이미지 내에서의 대상체의 위치는 이미지가 캡처되었을 때 대상체가 위치된 방위선(line of bearing)을 제공한다. 추가 이미지에서의 대상체의 이전 및/또는 후속 검출은 대상체가 방위선을 따라 어디에 위치되는지에 대한 추가적인 세분화를 가능하게 한다. 이러한 방식으로, 대상체에 대한 위치 정보는 자율 주행 차량이 대상체 주위에서 차량을 운행시킬 때 참조할 수 있는 액티브 트랙(active track)에 포함될 수 있다. LiDAR 및 RADAR와 같은 다른 유형의 센서가 광학/이미저리(imagery) 유형 센서를 대신하여 또는 그에 추가적으로 사용될 수 있다.

하나 이상의 유형의 센서 데이터에 기초하여 대상체의 위치를 식별하는 것 외에도, 대상체의 위치가 또한 이전에 캡처된 추적 데이터를 참조하는 것에 의해 세분화될 수 있다. 이전에 수집된 추적 데이터를 분석하는 것에 의해, 대상체의 예측된 위치가 결정될 수 있다. 예측된 위치는 다수의 방식으로 도움이 될 수 있다. 첫째, 예측된 위치는 어느 새로운 대상체 검출이 어느 액티브 트랙과 링크되어야 하는지를 식별하는 데 도움이 될 수 있다. 예를 들어, 자율 주행 차량에 비해 높은 속력(rate of speed)으로 주행하는 차량은 차량의 마지막으로 검출된 위치로부터 먼 거리에 위치될 수 있다. 빠르게 이동하는 대상체의 위치를 그의 이전에 관측된 주행 속도(rate of travel)에 기초하여 예측하는 것에 의해, 새로운 추적 데이터와 이전 추적 데이터를 매칭시키기 위해 새로운 트랙이 대상체의 예측된 위치와 매칭될 수 있다. 둘째, 자율 주행 차량의 예상치 못한 진동 및/또는 대상체 검출 센서의 일시적인 불안정성으로 인해 야기되는 추적 데이터의 주기적인 부정확성은 이전에 수집된 추적 데이터와 상당히 다른 이미지 데이터를 생성할 수 있다. 일부 실시예에서, 검출된 위치와 예측된 위치가 결합되어 두 위치의 가중 평균을 생성할 수 있다. 이것은 센서 검출 동안의 문제로부터 결과되는 일시적인 오류의 심각성을 감소시키는 데 도움이 될 수 있다. 일부 실시예에서, 센서 검출과 연관된 메타데이터는, 예를 들면, 센서에서의 안정화 문제를 나타내도록 설계된 자이로스코프 또는 다른 모션 검출 디바이스로부터의 입력을 포함할 수 있다. 셋째, 예측된 위치는 또한 새로운 추적 데이터를 이전의 또는 스테일 트랙과 연관된 추적 데이터와 상관시키는 데 도움을 주기 위해 사용될 수 있다. 이러한 방식으로, 대상체의 거동을 더 정확하게 예측하기 위해 대상체와 연관된 과거 데이터가 재식별될 수 있다.

위에서 기술된 이점 외에도, 이 시스템은 자동차 및 트럭과 같은 움직이는 대상체(moving object)는 물론 소화전, 가로등 기둥, 건물 등과 같은 움직이지 않는 대상체(stationary object)를 포함한 다수의 상이한 유형의 대상체에 적용될 수 있다는 이점이 있다. 기술된 실시예는 지상 기반 대상체로 반드시 제한되는 것은 아니며 지상 위를 또는 해상에서 주행할 수 있는 능력을 가진 차량에도 적용될 수 있다. 기술된 시스템이 프로세스를 병렬로 실행하는 것을 더 쉽도록 만들어주는 상태 비저장(stateless) 데이터 흐름 파이프라인을 갖도록 구성될 수 있다는 점에도 유의해야 한다. 이러한 이유는 추적 데이터와 연관된 모든 상태 정보가 적어도 부분적으로 그와 연관된 대상체 트랙에 남아 있기 때문이다.

하드웨어 개관

도 1은 자율 주행 능력을 갖는 자율 주행 차량(100)의 일 예를 도시한다.

본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량을 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작할 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.

본원에서 사용되는 바와 같이, 자율 주행 차량(AV)은 자율 주행 능력을 갖는 차량이다.

본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 일 예이다.

본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.

본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그 대 디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.

본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들어, 리스트) 또는 데이터 스트림이다.

본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들어, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들어, 주택 또는 사무실 건물 내의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.

본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 한 부분이고, 차선 마킹들 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹들 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹을 갖는 도로는 차선 마킹들 사이에 둘 이상의 차량을 수용할 수 있어서, 하나의 차량이 차선 마킹을 횡단하지 않으면서 다른 차량을 추월할 수 있고, 따라서 차선 마킹들 사이의 공간보다 좁은 차선을 갖거나 차선 마킹들 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징, 예를 들어, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무에 기초하여 규정될 수 있다.

"하나 이상"은 하나의 요소에 의해 수행되는 기능, 하나 초과의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.

또한, 제1, 제2 등의 용어가, 일부 예에서, 다양한 요소를 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 달리 명시되지 않는 한, 동일한 접촉은 아니다.

본원에 기술된 다양한 실시예의 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항의 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 표시하지 않는 한, 복수형을 포함하는 것으로 의도되어 있다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 열거된 연관 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. 게다가, "포함한다" 및/또는 "포함하는"이라는 용어가, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명기하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 이해될 것이다.

본원에서 사용되는 바와 같이, "~ 경우"라는 용어는 선택적으로 문맥에 따라 "~할 때", 또는 "~시에" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정된다면" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는 선택적으로 문맥에 따라, "결정할 시에" 또는 "결정에 응답하여" 또는 "[언급된 조건 또는 이벤트]의 검출 시에" 또는 "[언급된 조건 또는 이벤트]의 검출에 응답하여"를 의미하는 것으로 해석된다.

본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는 하드웨어, 소프트웨어, 저장 데이터 및 실시간으로 생성된 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 2와 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(200)과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.

일반적으로, 본원은 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량, 예를 들어, 각각 소위 레벨 5 차량, 레벨 4 차량 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 개시한다(차량의 자율성의 레벨 분류에 대한 세부 사항은 참조에 의해 그 전체가 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본원에서 개시된 기술은 부분적 자율 주행 차량 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 자율 주행 차량으로부터 인간 운전 차량에 이르는, 임의의 레벨에 있는 차량에 혜택을 줄 수 있다.

도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 타는 사람, 및 다른 장애물)을 피하고 도로 법규(예를 들면, 동작 규칙 또는 운전 선호사항)를 준수하면서, AV(100)를 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.

일 실시예에서, AV 시스템(120)은 AV의 위치, 선속도와 각속도 및 선가속도와 각가속도, 및 헤딩(heading)(예를 들면, AV(100)의 선단의 배향)와 같은 AV(100)의 상태 또는 조건의 속성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.

일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지 또는 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, TOF(time-of-flight) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강우 센서.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.

일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 AV(100)를 향한 선형 헤딩(linear heading)과 각도 헤딩(angular heading)의 측정된 또는 추론된 속성을 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, 자율 주행 차량과의 통신 및 자율 주행 차량들 사이의 통신을 위한 하나 이상의 통신 표준을 준수한다.

일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, WiFi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 도 2에 기술된 바와 같은 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스(140)는 센서(121)로부터 수집된 데이터 또는 AV(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)에 송신한다. 일 실시예에서, 통신 인터페이스(140)는 원격 조작(teleoperation)에 관련되는 정보를 AV(100)에 송신한다. 일부 실시예에서, AV(100)는 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 시각(time of day)에 궤적(198)을 따라 이전에 주행한 적이 있는 차량의 운전 속성(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신될 수 있다.

AV(100) 상에 위치된 컴퓨팅 디바이스(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 운전 능력을 실행할 수 있게 한다.

일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 그로부터 입력을 수신하기 위해 컴퓨팅 디바이스(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 컨트롤러(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.

도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스(예를 들면, 네트워크, 네트워크 대역폭, 서버, 프로세싱, 메모리, 스토리지, 애플리케이션, 가상 머신, 및 서비스)의 공유 풀에 대한 편리한 온-디맨드 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템에서는, 하나 이상의 대규모 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스를 전달하는 데 사용되는 머신을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 데이터 센터(204a, 204b, 및 204c)는 클라우드 컴퓨팅 서비스를 클라우드(202)에 연결된 컴퓨터 시스템(206a, 206b, 206c, 206d, 206e, 및 206f)에 제공한다.

클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정 부분을 구성하는 서버의 물리적 배열체를 지칭한다. 예를 들어, 서버는 클라우드 데이터 센터 내에 룸, 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역(zone)을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 일부 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버는, 전력 요건, 에너지 요건, 열적 요건, 가열 요건, 및/또는 다른 요건을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요건에 기초하여 그룹으로 배열된다. 일 실시예에서, 서버 노드는 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 다수의 랙을 통해 분산된 다수의 컴퓨팅 시스템을 갖는다.

클라우드(202)는 클라우드 데이터 센터(204a, 204b, 및 204c)를 상호연결시키고 클라우드 컴퓨팅 서비스에 대한 컴퓨팅 시스템(206a 내지 206f)의 액세스를 용이하게 하는 것을 돕는 네트워크 및 네트워킹 리소스(예를 들어, 네트워킹 장비, 노드, 라우터, 스위치, 및 네트워킹 케이블)와 함께 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결을 사용하여 배포된 유선 또는 무선 링크를 사용하여 결합된 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 거쳐 교환되는 데이터는, IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은, 임의의 개수의 네트워크 계층 프로토콜을 사용하여 송신된다. 게다가, 네트워크가 다수의 서브 네트워크의 조합을 나타내는 실시예에서는, 기저 서브 네트워크(underlying sub-network) 각각에서 상이한 네트워크 계층 프로토콜이 사용된다. 일부 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.

컴퓨팅 시스템(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자는 네트워크 링크 및 네트워크 어댑터를 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다양한 컴퓨팅 디바이스, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, 자율 주행 차량(자동차, 드론, 셔틀, 기차, 버스 등을 포함함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다른 시스템 내에 또는 그 일부로서 구현된다.

도 3은 컴퓨터 시스템(300)을 예시한다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 펌웨어, 메모리, 다른 스토리지 또는 조합 내의 프로그램 명령에 따라 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스는 또한 커스텀 고정 배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수 목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.

일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(302)와 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 프로세서(304)에 의해 실행될 명령 및 정보를 저장하기 위해 버스(302)에 결합된, RAM(random access memory) 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(306)를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령은, 프로세서(304)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(300)을 명령에 지정된 동작을 수행하도록 커스터마이징된 특수 목적 머신으로 만든다.

일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)를 위한 정적 정보 및 명령을 저장하기 위해 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 추가로 포함한다. 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 정보 및 명령을 저장하기 위해 버스(302)에 결합된다.

일 실시예에서, 컴퓨터 시스템(300)은 버스(302)를 통해, 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(312)에 결합된다. 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(314)는 정보 및 커맨드 선택을 프로세서(304)에 통신하기 위해 버스(302)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(304)에 통신하고 디스플레이(312) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(316)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 지정할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x-축) 및 제2 축(예를 들면, y-축)에서의 2 자유도를 갖는다.

일 실시예에 따르면, 본원에서의 기술은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령은, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령의 시퀀스의 실행은 프로세서(304)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서는, 소프트웨어 명령 대신에 또는 소프트웨어 명령과 조합하여 고정 배선 회로가 사용된다.

"저장 매체"라는 용어는, 본 명세서에서 사용되는 바와 같이, 머신이 특정 방식으로 동작하게 하는 데이터 및/또는 명령을 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.

저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 포함하는 와이어를 포함하여, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 광파 또는 음향파의 형태를 취할 수 있다.

일 실시예에서, 실행을 위해 하나 이상의 명령의 하나 이상의 시퀀스를 프로세서(304)에 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 동적 메모리에 명령을 로딩하고 모뎀을 사용하여 전화선을 통해 명령을 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선 상으로 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 배치한다. 버스(302)는 데이터를 메인 메모리(306)로 반송하고, 프로세서(304)는 메인 메모리로부터 명령을 검색 및 실행한다. 메인 메모리(306)에 의해 수신된 명령은 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.

컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결된 네트워크 링크(320)에 대한 2-웨이 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.

네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)로의 연결 또는 ISP(Internet Service Provider)(326)에 의해 운영되는 클라우드 데이터 센터 또는 장비로의 연결을 제공한다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(322) 및 인터넷(328) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(300)으로 및 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.

컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해, 프로그램 코드를 포함하여, 메시지를 전송하고 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고 그리고/또는 추후의 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.

자율 주행 차량 아키텍처

도 4는 자율 주행 차량(예를 들면, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 도시한다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(planning module)(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(localization module)(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈(402, 404, 406, 408, 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈(402, 404, 406, 408, 및 410) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다.

사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달하기 위해(예를 들면, 도착하기 위해) AV(100)에 의해 주행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.

인지 모듈(402)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(416)를 포함하는 장면 묘사는 계획 모듈(404)에 제공된다.

계획 모듈(404)은 또한 로컬화 모듈(408)로부터 AV 위치(418)를 나타내는 데이터를 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 GNSS(Global Navigation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 속성의 고-정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 교통 차선과 자전거 타는 사람 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다.

제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)를 향해 궤적(414)을 주행하게 할 방식으로 AV의 제어 기능(420a 내지 420c)(예를 들면, 조향, 스로틀링, 제동, 점화)을 동작시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 왼쪽으로 회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능(420a 내지 420c)을 동작시킬 것이다.

자율 주행 차량 입력

도 5는 인지 모듈(402)(도 4)에 의해 사용되는 입력(502a 내지 502d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(504a 내지 504d)(예를 들면, 센서 데이터)의 일 예를 도시한다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.

다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템(502b)은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.

다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지할 수 있게 하는, 예를 들어, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV에 상대적인 것이다. 사용 중에, 카메라 시스템은 멀리 있는, 예를 들어, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성될 수 있다. 따라서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 가질 수 있다.

다른 입력(502d)은 TLD(traffic light detection) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상일 수 있다.

일부 실시예에서, 출력(504a 내지 504d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템에 제공되거나(예를 들면, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 결합된 출력이 동일한 유형(동일한 결합 기술을 사용하는 것 또는 동일한 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 결합 기술을 사용하는 것 또는 상이한 각자의 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력에 적용된 후에 출력을 결합하는 것을 특징으로 한다.

도 6은 LiDAR 시스템(602)(예를 들면, 도 5에 도시된 입력(502a))의 일 예를 도시한다. LiDAR 시스템(602)은 광 방출기(606)(예를 들면, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들면, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체를 관통하지 않는다). LiDAR 시스템(602)은 또한 반사된 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(614)를 표현하는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계(616)를 표현하는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계(616)를 결정하는 데 사용된다.

도 7은 동작 중인 LiDAR 시스템(602)을 도시한다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템은 이미지(702)를 데이터 포인트(704)와 비교한다. 특히, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.

도 8은 LiDAR 시스템(602)의 동작을 추가적으로 상세하게 도시한다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 다시 LiDAR 시스템(602)으로 반사할 것이다. AV(100)가 지면(802) 위를 주행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 내지 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트(810a 내지 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.

경로 계획

도 9는 (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력과 출력 사이의 관계의 블록 다이어그램(900)을 도시한다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들면, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들면, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 정의된다. 예를 들어, 세그먼트는 거리, 도로, 간선도로, 사유 도로, 또는 자동차 주행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 주행되는 거리이다. 일부 예에서, 예를 들어, AV(100)가 4륜 구동(4WD) 또는 상시 4륜구동(AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프-로드 주행 가능 차량인 경우, 루트(902)는 비포장 경로 또는 탁트인 들판과 같은 "오프-로드" 세그먼트를 포함한다.

루트(902)에 추가하여, 계획 모듈은 차선 레벨 루트 계획 데이터(908)도 출력한다. 차선 레벨 루트 계획 데이터(908)는 특정한 시간에서의 세그먼트의 조건에 기초하여 루트(902)의 세그먼트를 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 간선도로를 포함하는 경우, 차선 레벨 루트 계획 데이터(908)는, 예를 들어, 출구가 다가오고 있는지, 차선 중 하나 이상이 다른 차량을 갖는지, 또는 수 분 이하 동안에 걸쳐 변화되는 다른 인자에 기초하여, AV(100)가 다중 차선 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예에서, 차선 레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자 또는 예상치 않은 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 더 느린 주행 속력, 예를 들면, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.

일 실시예에서, 계획 모듈(404)에의 입력은 (예를 들면, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들면, 도 4에 도시된 AV 위치(418)), (예를 들면, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들면, 도 4에 도시된 인지 모듈(402)에 의해 인지되는 분류된 대상체(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는 계획에 사용되는 규칙을 포함한다. 규칙은 형식 언어를 사용하여, 예를 들어, 불리언 로직을 사용하여 규정된다. AV(100)가 조우하는 임의의 주어진 상황에서, 규칙들 중 적어도 일부는 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들면, 주위 환경에 관한 정보에 기초하여 충족되는 조건을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙은 우선순위를 가질 수 있다. 예를 들어, "도로가 프리웨이인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 낮은 우선순위를 가질 수 있다.

도 10은, 예를 들어, 계획 모듈(404)(도 4)에 의해 경로 계획에 사용되는 방향 그래프(1000)를 도시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계에서는, 시작 포인트(1002)와 종료 포인트(1004)를 분리시키는 거리는 상대적으로 클 수 있거나(예를 들면, 2개의 상이한 대도시 지역 내) 또는 상대적으로 작을 수 있다(예를 들면, 도시 블록과 맞닿아 있는 2개의 교차로 또는 다중 차선 도로의 2개의 차선).

일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치를 나타내는 노드(1006a 내지 1006d)를 갖는다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 상이한 대도시 지역을 나타낼 때, 노드(1006a 내지 1006d)는 도로의 세그먼트를 나타낸다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 동일한 도로 상의 상이한 위치를 나타낼 때, 노드(1006a 내지 1006d)는 해당 도로 상의 상이한 위치를 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 레벨의 입도(granularity)로 정보를 포함한다. 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 더 큰 스케일을 갖는 다른 방향 그래프의 하위그래프이다. 예를 들어, 시작 포인트(1002)와 종료 포인트(1004)가 멀리 떨어져 있는(예를 들면, 수 마일(many miles) 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시야 내의 물리적 위치를 나타내는 그래프의 부분에 대한 일부 높은 입도 정보도 포함한다.

노드(1006a 내지 1006d)는 노드와 오버랩될 수 없는 대상체(1008a 및 1008b)와 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체(1008a 및 1008b)는 자동차에 의해 횡단될 수 없는 영역, 예를 들면, 거리 또는 도로가 없는 구역을 나타낸다. 입도가 높을 때, 대상체(1008a 및 1008b)는 AV(100)의 시야 내의 물리적 대상체, 예를 들면, 다른 자동차, 보행자, 또는 AV(100)와 물리적 공간을 공유할 수 없는 다른 엔티티를 나타낸다. 일 실시예에서, 대상체(1008a 내지 1008b)의 일부 또는 전부는 정적 대상체(예를 들면, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체(예를 들면, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.

노드(1006a 내지 1006d)는 에지(1010a 내지 1010c)에 의해 연결된다. 2개의 노드(1006a 및 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들면, 다른 노드(1006b)에 도착하기 전에 중간 노드로 주행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 주행하는 것이 가능하다. (노드들 사이에서 주행하는 AV(100)를 언급할 때, AV(100)가 각자의 노드에 의해 표현되는 2개의 물리적 위치 사이에서 주행한다는 것을 의미한다.) 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 주행한다는 의미에서 종종 양방향성이다. 일 실시예에서, 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로 주행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 주행할 수 없다는 의미에서 단방향성이다. 에지(1010a 내지 1010c)는, 예를 들어, 일방통행로, 거리, 도로, 또는 간선도로의 개별 차선, 또는 법적 또는 물리적 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부를 나타낼 때, 단방향성이다.

일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드 및 에지로 이루어진 경로(1012)를 식별한다.

에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스를 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2배인 물리적 거리를 나타내는 경우, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2배일 수 있다. 시간에 영향을 미치는 다른 인자는 예상된 교통상황, 교차로의 개수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비이다. 2개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들면, 도로 조건, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 많은 연료를 필요로 할 수 있다.

계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들면, 에지의 개별 비용이 함께 가산될 때 가장 적은 전체 비용을 갖는 경로를 선택한다.

자율 주행 차량 제어

도 11은 (예를 들면, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력 및 출력의 블록 다이어그램(1100)을 도시한다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들면, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들면, 메모리 랜덤 액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(308), 및 저장 디바이스(210)를 포함하는 제어기(1102), 및 메모리 내에 저장된 명령에 따라 동작하는데, 상기 명령은 명령이 (예를 들면, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작을 수행한다.

일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들어, 속력 및 헤딩을 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해, 예를 들면, 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여함으로써, AV(100)의 스로틀(예를 들면, 가속 제어)에 관여하는 정도를 나타낸다. 일부 예에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들면, 감속 제어)에 관여하는 데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들면, AV의 조향 컨트롤(예를 들면, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)이 원하는 출력(1104)을 달성하도록 위치설정되어야 하는 각도를 나타낸다.

일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 임의의 측정된 출력(1114)은, 예를 들어, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 헤딩을 포함), 측정된 가속도(1120), 및 AV(100)의 센서에 의해 측정 가능한 다른 출력을 포함한다.

일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들면, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 이후, 예측 피드백 모듈(1122)은 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서가 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 방지하도록 적절한 시간에 스로틀에 관여할 준비를 하기 위해 제어기(1102)에 의해 사용될 수 있다.

도 12는 제어기(1102)의 입력, 출력, 및 컴포넌트의 블록 다이어그램(1200)을 도시한다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 동작에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들면, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 명령한다.

제어기(1102)는 또한 조향 제어기(1210)의 동작에 영향을 미치는 측방향 추적 제어기(1208)를 갖는다. 예를 들어, 측방향 추적 제어기(1208)는, 예를 들면, 제어기(1102)에 의해 수신되고 측방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향각 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1210)에 명령한다.

제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 동작을 시작할 때 헤딩을 선택하기 위해 그리고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력(1214)으로부터의 정보, 예를 들어, 데이터베이스, 컴퓨터 네트워크 등으로부터 수신된 정보를 수신한다.

대상체 추적 아키텍처

도 13은, 예를 들어, AV 시스템(120)에 구현되는 대상체 추적 시스템(1300)을 기술하는 블록 다이어그램을 도시한다. 대상체 검출기(1302)는 자율 주행 차량(예를 들면, AV(100))을 둘러싼 영역의 하나 이상의 이미지 또는 자율 주행 차량을 둘러싼 영역을 커버하는 RADAR 또는 LIDAR 데이터와 같은 비-이미징 데이터를 포함할 수 있는 센서 데이터를 캡처하고 이에 대한 분석을 수행하는 데 사용된다. 센서 데이터는, 고속 카메라, 비디오 카메라(예를 들면, 카메라(122)), LIDAR 시스템 또는 RADAR 시스템과 같은, 대상체 검출기(1302)의 캡처 디바이스에 의해 캡처될 수 있다. 캡처 디바이스는 일반적으로 자율 주행 차량에 근접한 대상체를 추적하는 데 필요한 캡처 디바이스의 개수를 최소화하기 위해 넓은 시야를 커버하도록 구성될 것이다. 일부 실시예에서, 캡처 디바이스는 자율 주행 차량에 근접한 대상체를 추적하기에 적합한 고정 초점 거리 및 피사계 심도(depth of field)를 가진 광시야 이미징 디바이스의 형태를 취할 수 있다. 대상체 검출기(1302)는 검출된 대상체를 식별 및 분류하기 위해 센서 데이터를 분석하는 하나 이상의 프로세서(146)를 포함하는 프로세싱 회로를 가질 수 있다(도 1 및 도 3에 제각기 부수하는 본문에서 프로세서(146 및 304)에 대한 설명 참조). 시각적 추적기는 캡처 디바이스에 의해 캡처된 하나 이상의 이미지 내에 포함된 임의의 대상체에 대한 분석을 수행하도록 구성될 수 있는 반면, 비-이미징 센서는 검출된 움직임 및/또는 형상과 같은 센서 기반 메트릭에 기초하여 분석을 수행하도록 구성될 수 있다. 일부 실시예에서, 프로세서(146)는, 예를 들면, 메인 메모리(306) 또는 다른 저장 매체(예를 들면, 저장 디바이스(310))에 저장된 분류 루틴을 실행하도록 구성될 수 있다. 분류 루틴은 식별 및/또는 분류 프로세스를 수행하도록 동작하는 상관 필터 추적기, 딥 추적기(deep tracker) 및/또는 칼만 필터일 수 있다. 분류 루틴은, 가로등 기둥, 소화전 또는 건물과 같은, 움직이지 않는 대상체와, 자동차, 트럭, 모터사이클 또는 보행자와 같은, 이동 대상체(mobile object)를 구별하도록 구성될 수 있다. 움직이지 않는 것으로 분류되고 자율 주행 차량의 계획된 이동 경로로부터 상당히 벗어나 위치하는 대상체(예를 들면, 계획된 이동 경로로부터 임계 거리를 넘어서 있는 대상체)는 안전하게 무시될 수 있는 반면 계획된 이동 경로 내에 또는 그에 근접해 있는 움직이지 않은 대상체는 추적될 수 있다. 움직이고 있는 것으로 결정된 대상체 및, 움직이고 있는지 또는 움직이지 않는지에 관계없이, 이동 대상체로서 분류된 대상체는 대상체가 계획된 이동 경로로부터 임계 거리 내에 있을 때 추가적인 분석 및 추적을 위해 검출 데이터로서 추적기(1304)에 전달될 수 있다. 검출 데이터는 다수의 이미저리 프레임으로부터 도출될 때 많은 형태를 취할 수 있고 대상체 위치, 속력, 배향, 각속도, 접근 속도(closing velocity) 등과 같은 메트릭을 포함할 수 있다. 상이한 유형의 검출 데이터는 임의의 특정 대상체에 대한 임계 거리에 영향을 미칠 수 있다. 예를 들어, 임계 거리는 대상체의 주행 방향 및 속력에 의존할 수 있으며, 대상체의 주행 방향 및 속력이 변함에 따라 시간이 지남에 따라 변할 수 있다.

추적기(1304)는 검출 데이터로부터 센서 트랙을 생성하도록 구성된다. 추적기(1304)는 검출된 대상체가 센서의 시야를 횡단할 가능성이 있는 속도(rate)를 정확하게 예측하는 센서 트랙을 생성하기 위해 다수의 검출을 필요로 할 수 있다. 예를 들어, 광학 시스템은 이미지 프레임 내에서의 대상체 위치와 관련한 이미지 평면 트랙의 형태를 취하는 센서 트랙을 생성할 수 있는 반면, 비-이미징 센서는 AV(100)의 배향에 대해 측정될 수 있는 센서 또는 기준 프레임에 대한 방위각 및 고도 면에서 트랙을 생성할 수 있다. 일부 실시예에서, 각각의 이미지 캡쳐 시의 자율 주행 차량의 위치 데이터와 함께 검출 데이터는 광의적으로 추적 데이터라고 지칭될 수 있다. 추적기(1304)에 의해 생성된 센서 트랙은 그에 부수하는 추적 데이터와 함께 추적 및 융합 엔진(1306)에 전달된다.

추적 및 융합 엔진(1306)은 센서 트랙을 지상 평면 트랙으로 변환하도록 구성된 하나 이상의 프로세싱 회로를 포함한다. 센서 트랙을 지상 평면 트랙으로 변환하는 것이 유용한 중간 단계일 수 있지만, 일부 실시예에서, 지상 평면 트랙의 생성이 그 대신에, 검출 데이터와 맵 데이터가 결합되어 지상 평면 트랙을 형성하는 단일 단계에서, 수행될 수 있음이 이해되어야 한다. 지상 평면 트랙은 센서에 관련된 위치가 아니라 지표면과 관련한 검출된 대상체의 위치를 나타낸다. 센서 트랙을 지상 평면 트랙으로 변환하기 위해, 센서 시야 내에서의 센서 트랙의 위치와 각각의 이미지 캡처 시의 자율 주행 차량의 위치는 자율 주행 차량과 대응하는 검출된 대상체 사이의 방위선을 제공하는 데 사용될 수 있다. 자율 주행 차량을 분리시키는 정확한 거리를 결정하는 것은 높은 정밀도 레벨로 이미저리 기반 데이터로부터 결정하기 어려울 수 있다. 일부 실시예에서, 거리 정보는 검출된 대상체를 둘러싸는 이미지 프레임에서의 이미지 큐를 이전에 캡처된 이미저리와 연관된 알려진 위치와 상관시키는 것에 기초할 수 있다. 예를 들어, 자율 주행 차량으로부터 측방향으로 오프셋되고 차선 마커들 사이에 위치된 자동차의 외관을 갖는 대상체의 위치가 이미저리에서 보이는 차선 마커에 의해 정의된 차선과 방위선의 교차점을 결정하는 것에 의해 타당한 레벨의 확실성으로 결정될 수 있다. 더 높은 레벨의 측방 오프셋 및 더 가까운 거리는 이러한 유형의 결정을 더 정확하게 만드는데, 그 이유는 차선과 이미지로부터 도출된 방위선 사이의 각도가 더 크기 때문이다. 이미지 프레임 내의 교통 신호 및 다른 분간 가능한 대상체와 같은 시각적으로 구별되는 특징부에 대한 추적된 대상체의 근접성이 또한 특정 대상체와 자율 주행 차량 사이의 거리를 결정하는 데 도움이 될 수 있다. 일부 실시예에서, 거리 정보는 RADAR, LiDAR 또는 적외선 센서와 같은 별도의 거리 센서(range sensor)에 의해 결정될 수 있다. 거리 측정 센서(ranging sensor)의 특정 구성에서, 거리 측정 센서는 대상체가 시각적으로 검출되는 위치에 대응하는 해당 영역으로만 지향될 수 있다.

방위 및 결정된 거리 정보를 사용하여 센서 트랙을 지상 평면 트랙으로 변환한 후에, 추적 및 융합 시스템(1306)은 맵 데이터와 관련한 대상체 위치에 기초하여 대상체의 유력한 거동을 더 정확하게 결정하기 위해, 예를 들면, 맵 데이터에 기초하여 지상 평면 트랙에 추가 예측 정보를 추가할 수 있다. 맵 데이터는 차량이 특정 교차로에서 어느 방향으로 회전할 수 있는지와 같은 정보를 포함할 수 있으며, 이에 의해 특정 차선에 위치된 차량에 의해 취해질 유력한 주행 방향의 개수를 제한할 수 있다. 거동 예측은 많은 형태를 취할 수 있으며 아래에서 더 상세히 논의될 많은 상이한 인자에 의존할 수 있다. 추적 및 융합 시스템(1306)은 자율 주행 내비게이션 시스템(1308)이 (예를 들면, 검출된 대상체를 피하도록) 자율 주행 차량에 대한 경로를 결정하는 것을 돕기 위해 지상 평면 트랙 및 예측 정보를 자율 주행 내비게이션 시스템(1308)에 전달할 수 있다. 일부 실시예에서, 자율 주행 내비게이션 시스템(1308)은 자율 주행 차량의 운행을 유도하는 것을 책임지고 있는 제어 회로를 포함한다.

일부 실시예에서, 추적기(1304)와 추적 및 융합 시스템(1306)의 기능이 결합될 수 있어 단일 유형의 트랙의 생성을 가능하게 하여 중간 트랙 유형의 생성이 스킵될 수 있게 한다.

도 14a는 추적기(1304)가 검출 데이터를 센서 트랙으로 변환하는 방법에 대한 더 상세한 설명을 예시하는 블록 다이어그램(1400)을 도시한다. 상세하게는, 검출 데이터가 대상체 검출기(1302)로부터 트랙 생성기(1402)로 송신된다. 검출 데이터는 자율 주행 차량과 대상체 사이의 거리, 거리의 변화율, 자율 주행 차량에 대한 대상체의 각도 배향 및 대상체의 속도를 포함한 많은 형태를 취할 수 있다. 트랙 생성기(1402)는 검출 데이터를 센서 트랙으로 변환한다. 센서 트랙은 대상체 검출기(1302)에 의해 식별된 각각의 대상체의 적어도 검출된 위치를 포함할 수 있다. 검출 데이터가 하나 초과의 이미저리 프레임으로부터 생성되는 경우에, 속도 또는 프레임 교차 레이트(frame crossing rate)와 같은 추가 메트릭이 다수의 이미저리 프레임으로부터 명백한 이미지 프레임을 가로지르는 대상체의 임의의 모션으로부터 결정될 수 있다. 일부 실시예에서, 한 번에 5 내지 10개의 이미지 프레임이 분석될 수 있다. 예를 들어, 초당 60개의 이미지를 수집하는 광학 센서로부터 한 번에 5 내지 10개의 이미지를 분석하는 것에 의해, 수집된 모든 이미지를 고려하는 시스템의 경우 초당 무려 6 내지 12개의 트랙 분석이 수행될 수 있다. 프로세싱 부담을 덜어주기 위해 그리고 자율 주행 차량의 계획된 주행 루트를 방해할 것으로 추정되는 인근 대상체가 거의 내지 전혀 없는 상황에서, 예를 들면, 초당 5 내지 10개의 이미지의 더 느린 레이트가 또한 가능하다. 일부 실시예에서, 임박한 충돌을 결과할 수 있는 방식으로 위치한 임의의 인지된 대상체의 존재에 기초하여 샘플링 속도가 달라질 수 있다. 센서 캡처가 또한 상이한 센서 유형에 걸쳐 크게 달라질 수 있음에 유의해야 한다. 예를 들어, 본 기술 분야의 통상의 기술을 가진 자에 의해 이해되는 바와 같이, 비-이미징 센서에 대한 검출 이벤트가 단일 광자 또는 반사 전파(radio wave)의 형태를 취할 수 있기 때문에, 비-이미징 센서는 이미저리 센서보다 훨씬 더 높은 속도로 센서 판독치를 가질 수 있다.

트랙 생성기(1402)는 이어서, 특정 시간에서의 센서에 대한 검출된 대상체의 검출된 위치를 최소한 포함하는, 센서 트랙을 생성하고 각각의 센서 트랙과 연관된 각각의 데이터에 동일한 트랙 ID를 할당한다. 생성된 센서 트랙은 이어서 상관 엔진(1408)에 송신된다. 추적기(1304)는 또한 트랙 데이터 스토리지(1404)로부터 액티브 트랙 데이터를 수신한다. 트랙 데이터 스토리지(1404)가 추적 및 융합 시스템(1306)의 서브컴포넌트로서 도시되어 있지만, 일부 실시예에서, 트랙 데이터 스토리지(1404)는 추적 및 융합 시스템(1306)과 별개일 수 있다. 트랙 데이터 스토리지(1404)는 센서 트랙 및 지상 평면 트랙 둘 모두를 포함할 수 있다. 일부 실시예에서, 트랙 데이터는 센서 위치를 기준으로 한 대상체 위치 정보 및 지상 평면 위치를 기준으로 한 대상체 위치 정보 둘 모두를 포함할 수 있는 트랙 파일 또는 객체로 구성될 수 있다. 트랙 데이터 스토리지(1404)에 의해 추적기(1304)에 송신된 액티브 트랙 데이터는 예측 엔진(1406)에 의해 프로세싱될 수 있다. 예측 엔진(1406)은 액티브 트랙 데이터에 포함된 각각의 대상체의 유력한 위치를 결정하도록 구성될 수 있다. 액티브 트랙 데이터가 지상 트랙 데이터를 포함할 수 있기 때문에, 예측 엔진(1406)은 또한 맵 데이터로부터 도출된 액티브 트랙 데이터에 저장된 임의의 예측 정보가 액티브 트랙 데이터에 포함된 가장 새로운 추적 데이터보다 늦은 특정 시점에서의 대상체의 가능한 움직임을 한정하는 것으로부터 이득을 볼 수 있다.

예측 엔진(1406)은 대상체의 예측된 위치를 적어도 포함하는 센서 트랙을 출력한다. 매칭 엔진(1408)은 액티브 트랙 데이터로부터 도출된 대상체의 예측된 위치를 트랙 생성기(1402)에 의해 생성된 이미지 트랙으로부터의 대상체의 검출된 위치와 비교한다. 일부 실시예에서, 주행 방향 및 속력, 대상체 형상, 대상체 색상 등과 같은 추가 메트릭이 비교에 포함될 수 있다. 비교는 매칭 엔진(1408)이 검출된 위치들 중 어느 것이 트랙 데이터 스토리지(1404)에 의해 제공되는 액티브 트랙 데이터로부터 생성된 예측된 위치와 상관되는지를 식별하는 데 도움을 준다. 일부 실시예에서, 액티브 트랙의 예측된 위치와 상관되지 않는 임의의 센서 트랙은 어떠한 과거 추적 데이터도 갖지 않는 새로운 트랙으로서 추적 및 융합 시스템(1306)에 전달될 것이다. 예측된 위치와 상관되는 검출된 위치를 갖는 해당 이미지 트랙 파일은 액티브 트랙으로부터의 데이터와 결합될 수 있다. 데이터의 결합은 결합된 추적 데이터 전부에 동일한 트랙 ID를 할당하는 것을 포함할 수 있다. 일부 실시예에서, 대상체의 예측된 위치와 검출된 위치는 이 위치들을 함께 평균화하는 것에 의해 결합될 수 있다. 예측된 위치와 검출된 위치가 함께 평균화되는 방식은 액티브 트랙과 연관된 추적 데이터에 대한 신뢰 수준은 물론 대상체 검출 데이터의 품질에 대한 신뢰 수준과 같은 다양한 인자에 기초하여 상이할 수 있다.

도 14b는 트랙 데이터 스토리지(1404)가 스테일 트랙 데이터를 매칭 엔진(1408)에 제공하도록 구성된 것을 제외하고는 도 14a에 기술된 것과 동일한 방식으로 작동하는 동일한 컴포넌트를 포함하는 블록 다이어그램(1410)을 도시한다. 스테일 트랙은 너무 오래된 것으로 아직 삭제되지는 않은 그리고/또는 특정 임계 값을 충족시키지 못하는 신뢰 수준을 갖는 트랙이다. 스테일 트랙은, 새로운 추적 데이터와 상관되고 액티브 트랙 분류 기준을 충족시키거나 또는 삭제될 때까지, 트랙 데이터 스토리지 내의 메모리에 남아 있다. 액티브 트랙 기준과 스테일 트랙 기준은 일반적으로 추적 데이터 노후 정도(age), 자율 주행 차량에 대한 대상체 위치 및 추적 데이터 신뢰도와 같은 인자에 기초하여 서로 구별된다. 예를 들어, 트랙의 추적 데이터가 임계 시간 기간 내에 업데이트되고 그리고/또는 트랙과 연관된 대상체의 위치 및/또는 주행 방향에 기초하여 임계 추적 데이터 신뢰 수준을 할당받을 때 트랙은 액티브 트랙으로 간주될 수 있다. 스테일 트랙 기준은 또한 대상체의 검출 없이 캡처된 이미지 프레임의 개수에 적어도 부분적으로 기초할 수 있다. 일부 실시예에서, 추적 데이터 신뢰 수준은 또한 추적 데이터를 구성하는 데이터의 시간적 일관성에 기초할 수 있다. 데이터의 시간적 일관성은 제2 추적 데이터를 형성하는 데 사용되는 센서 데이터가 예상된 경향을 얼마나 가깝게 따라가는지의 척도이다.

일부 실시예에서, 스테일 트랙에 대한 예측된 위치가 계산되지 않는다는 점을 감안할 때, 스테일 트랙 데이터에 대한 매칭 기준은 주로 대상체의 크기 및 형상에 기초할 수 있다. 센서를 기준으로 한 대상체의 배향이 또한 고려사항일 수 있다. 예를 들어, 검출된 배향 및/또는 위치 변화가 크기/형상 변화를 야기한 것으로 간주되는 경우 동일한 색상을 갖지만 상이한 크기 및/또는 형상을 갖는 검출된 대상체는 여전히 매칭될 수 있다. 이 경우에, 크기 및/또는 형상 데이터가 무시될 수 있거나 또는 이러한 인자가 적어도 매칭 기준에서 더 적게(less heavily) 가중될 수 있다. 스테일 트랙 데이터에 대한 매칭 기준은 또한 새로 생성된 센서 트랙들 중 하나와 매칭하는 액티브 트랙을 찾으려고 시도한 후에만 적용될 수 있다. 일부 실시예에서, 스테일 트랙 데이터에 포함된 가장 최근의 검출 또는 검출들과 연관된 위치 데이터는 또한 스테일 트랙 데이터가 새로 생성된 센서 트랙과 동일한 대상체와 연관될 가능성을 결정하는 데 인자로서 사용될 수 있다. 예를 들어, 대상체가 새로 검출된 위치에 도달하기 위해 불가능한 속도로 가속 또는 감속해야만 하는 경우, 이전에 검출된 대상체와의 상관이 매칭 기준에 미치지 못한 것으로 간주될 수 있다. 스테일 트랙 데이터를 새로 생성된 센서 트랙과 결합시킬 때, 매칭 엔진(1408)은 일반적으로 스테일 트랙 데이터와 연관된 임의의 예측된 위치 정보와 검출된 위치를 평균화하려고 시도하는 대신에 검출된 위치를 사용할 것이다. 이전 추적 데이터와 새로운 추적 데이터의 액티브 트랙 결합에서 기술된 바와 같이, 모든 추적 데이터에 동일한 트랙 ID를 할당하는 것에 의해 이전 데이터와 새로운 데이터가 결합될 수 있다. 일부 실시예에서, 예측 엔진(1406)이 특히 높은 신뢰 수준을 갖는 스테일 트랙 데이터에 대한 예측된 위치 데이터를 생성할 수 있게 하기 위해 예측 엔진(1406)이 매칭 엔진(1408)보다 앞서 스테일 트랙 데이터를 수신하도록 구성될 수 있음에 유의해야 한다. 예를 들어, 자동차의 라이트를 켜는 것으로 검출된 주차된 자동차에 대한 이전의 위치 데이터는 스테일 트랙의 노후 정도가 일반적으로 예측에 부적격인 경우에도 여전히 높은 신뢰 수준을 가질 수 있으며, 이에 의해 스테일 트랙 데이터가 주차된 차량의 위치를 곧 움직일 가능성이 있는 것으로 간주되도록 세분화하는 데 도움을 주기 위해 사용될 수 있게 할 수 있다.

도 14c는 추적 및 융합 시스템(1306)에 의한 센서 트랙의 프로세싱을 위한 상이한 특정 구현에 관한 추가 세부 사항을 예시하는 블록 다이어그램을 도시한다. 상세하게는, 도 14c는 추적 및 융합 시스템(1306)이 전술한 도 14a 및 도 14b에서 기술된 바와 같은 추적기(1304) 대신에 새로 수집된 추적 데이터를 과거 추적 데이터와 결합시키는 방법을 예시한다. 1422에서, 추적 및 융합 시스템(1306)은 도 13에 부수하는 본문에서 이전에 기술된 바와 같이 새로운 센서 트랙을 지상 평면 트랙으로 변환하도록 구성된다. 1424 및 1426에서, 새로운 지상 평면 트랙이, 제각기, 이전의 액티브 트랙 및 이전의 스테일 트랙과 비교된다. 스테일 트랙은 너무 오래되었거나 신뢰할 수 없는 것으로 아직 삭제되지는 않았지만 액티브 트랙 분류 기준을 충족시키지도 못하는 트랙이다. 액티브 트랙 기준과 스테일 트랙 기준은 일반적으로 추적 데이터 노후 정도, 자율 주행 차량에 대한 대상체 위치 및 추적 데이터 신뢰도와 같은 인자에 기초하여 서로 구별된다. 예를 들어, 추적 데이터가 임계 시간 기간 내에 업데이트되고 그리고/또는 트랙과 연관된 대상체의 위치 및/또는 주행 방향에 기초하여 임계 추적 데이터 신뢰 수준을 할당받을 때 트랙은 액티브 트랙으로 간주될 수 있다. 스테일 트랙 기준은 또한 대상체의 검출 없이 캡처된 이미지 프레임의 개수에 적어도 부분적으로 기초할 수 있다. 일부 실시예에서, 추적 데이터 신뢰 수준은 또한 추적 데이터를 구성하는 데이터의 시간적 일관성에 기초할 수 있다.

상세하게는, 1424에서, 새로 변환된 지상 평면 트랙이 액티브 트랙과 비교된다. 이전의 액티브 트랙과 매칭 기준을 충족시키는 새로운 지상 평면 트랙은 1428에서 매칭하는 액티브 트랙과 융합되어 하나의 업데이트된 액티브 트랙을 형성한다. 일부 실시예에서, 이전의 액티브 트랙으로부터의 추적 데이터는 새로운 추적 데이터의 트랙 ID를 이전의 액티브 트랙의 트랙 ID로 변경하는 것에 의해 새로운 트랙으로부터의 추적 데이터와 융합된다. 이러한 방식으로, 자율 주행 내비게이션 시스템(1308)이 현재 데이터와 과거 데이터 둘 모두를 사용하여 대상체의 미래 움직임을 더 쉽게 예측할 수 있도록, 새로운 지상 평면 트랙과 연관된 센서 데이터가 이전의 추적 데이터와 결합될 수 있다. 일부 실시예에서, 이전의 액티브 트랙과 연관된 추적 데이터의 트랙 ID가 새로운 추적 데이터와 연관된 트랙 ID를 갖도록 변경될 수 있다. 새로운 추적 데이터와 이전 추적 데이터 사이의 매칭 기준은 자율 주행 차량의 동작 조건에 기초하여 달라질 수 있지만 새로운 지상 평면 트랙이 액티브 트랙과 연관된 과거 추적 데이터에 기초한 대상체의 예상된 또는 추정된 위치에 근접한 것에 일반적으로 기초한다.

추적 및 융합 시스템(1306)은, 1426에서, 남아 있는 매칭되지 않은 지상 평면 트랙이 스테일 상태를 갖는 이전의 트랙과 비교되는 프로세스를 선택적으로 포함할 수 있다. 이것은 다른 대상체, 태양 눈부심, 그림자 지는 것(shadowing)/구름으로 인한 조명 변동 등에 의해 일시적으로 엄폐되었을 수 있는 일부 대상체가 재식별될 수 있게 한다. 1430에서, 이전의 스테일 트랙들 중 하나와 매칭 기준을 충족시키는 매칭되지 않은 지상 평면 트랙은 스테일 트랙으로부터의 데이터와 융합되어, 자율 주행 내비게이션 시스템(1308)으로 전달되는 단일의 업데이트된 액티브 트랙을 생성한다. 이러한 방식으로, 자율 주행 내비게이션 시스템(1308)이 현재 데이터와 과거 데이터 둘 모두를 사용하여 대상체의 미래 움직임을 더 잘 예측할 수 있도록, 새로운 센서 데이터가 이전의 추적 데이터와 결합될 수 있다. 매칭 기준은 자율 주행 차량의 동작 조건에 기초하여 달라질 수 있지만 새로운 지상 평면 트랙이 과거 지상 평면 트랙에 기초한 대상체의 예상된 위치 근처에 위치되는 것에 일반적으로 기초한다. 스테일 트랙이 전형적으로 적어도 짧은 시간 기간 동안 업데이트 없이 넘어가 신뢰할 수 있는 예측을 더 어렵게 만들기 때문에, 매칭하는 스테일 트랙이 신뢰성 있게 작동하는 데 더 문제가 될 수 있다는 점에 유의해야 한다. 결과적으로, 현재 트랙과 이전의 스테일 트랙의 융합을 위한 매칭 기준은 미스매칭을 피하기 위해 액티브 트랙에 대한 매칭 기준보다 보수적으로 구성될 수 있다. 이러한 방식으로, 대상체들 중 하나 이상이 짧은 시간 기간 동안 검출되지 않는 상황에서 자율 주행 내비게이션 시스템(1308)이 현재 데이터와 과거 데이터 둘 모두를 사용하여 대상체의 미래 거동을 더 쉽게 예측할 수 있도록, 새로운 센서 데이터가 이전의 추적 데이터와 신뢰성 있게 결합될 수 있다.

이전의 액티브 트랙 또는 또는 이전의 스테일 트랙 중 어느 것과도 매칭하지 않는 새로운 지상 평면 트랙이 있을 때, 1432에서, 매칭되지 않은 지상 평면 트랙은 자율 주행 차량을 운행시키는 것을 돕기 위해 거동을 예측하는 데 사용하기 위한 어떠한 과거 추적 데이터도 없이 자율 주행 내비게이션 시스템(1308)으로 전달될 수 있다.

도 15는 도 14b의 블록(1408)에 개괄적으로 기술된, 스테일 트랙 기준을 충족시키는 트랙과 새로 검출된 대상체를 연관시키는 방법을 예시하는 플로차트를 도시한다. 1502에서, 액티브 트랙과 아직 연관되지 않은 제1 추적 데이터를 포함하는 새로운 센서 트랙이 저장 매체(예를 들면, 메인 메모리(306) 또는 저장 디바이스(310))에 저장된 명령을 실행하는 프로세싱 회로에 의해 스테일 트랙 기준을 충족시키는 트랙에 포함된 제2 추적 데이터와 비교된다. 블록(1408)에서 수행되는 액티브 트랙 매칭 프로세스와 스테일 트랙 매칭 프로세스가 또한 동시에 수행될 수 있으며, 이 경우에 액티브 트랙과 궁극적으로 연관되는 새로운 센서 트랙조차도 최종 상관이 이루어지기 전에 스테일 트랙 기준을 충족시키는 트랙과 비교될 것임에 유의해야 한다. 1504에서, 제1 추적 데이터와 제2 추적 데이터의 비교는 제1 추적 데이터와 제2 추적 데이터가 매칭 기준을 충족시키기에 충분한 유사한 특징을 공유하는지 여부를 결정하기 위해 프로세싱 회로에 의해 사용될 수 있다. 일부 실시예에서, 매칭 기준은 새로운 센서 트랙과 연관된 추적 데이터와 스테일 트랙과 연관된 추적 데이터의 차이가 스테일 트랙과 연관된 가장 최근 데이터의 수집 시간과 새로운 센서 트랙을 생성하는 데 사용된 추적 데이터의 수집 시간 사이에 경과된 시간 기간과 일치하는지 여부를 결정하는 데 사용될 수 있다.

1506에서, 매칭하는 트랙들로부터의 추적 데이터가 함께 병합되어 제1 추적 데이터와 제2 추적 데이터 둘 모두로부터의 정보를 포함하는 업데이트된 액티브 센서 트랙을 생성할 수 있다. 일부 실시예에서, 대상체의 정확도를 개선시키기 위해, 스테일 트랙의 추적 데이터로부터 생성된 대상체의 예측된 위치가 새로운 센서 트랙으로부터의 대상체의 검출된 위치와 결합될 수 있다. 이러한 유형의 결합은 전형적으로 스테일 트랙이 최근에 방금 스테일 상태로 되었을 때 및/또는 대상체 검출 시스템이 다수의 대상체를 추적하는 것으로 인해, 다른 추적된 대상체에 의한 대상체의 엄폐가 발생할 것으로 예상되었고 검출된 위치와 예측된 위치 간의 변동이 예상된 허용오차 내에 있는 경우 수행될 것이다. 추적 데이터를 액티브 센서 트랙에 병합시킨 후에, 센서 트랙은 검출 및 추적 시스템(1306)으로 전달되고 검출 및 추적 시스템(1306)에서 액티브 센서 트랙이 지상 평면 트랙으로 변환되고 이어서 자율 주행 내비게이션 시스템(1308)에 제공되며, 이는 제어 회로가 자율 주행 차량을 운행시키기기 위해 지상 평면 트랙에 포함된 추적 데이터를 사용할 수 있게 한다. 일부 실시예에서, 지상 평면 트랙으로부터의 추적 데이터는 자율 주행 차량이 업데이트된 액티브 트랙과 연관된 대상체를 피하는 데 도움을 주기 위해 사용될 수 있다. 도 15와 관련하여 기술된 방법이 또한 약간의 수정으로 도 14c로부터의 블록(1430)에 적용될 수 있다는 것이 이해되어야 한다.

도 16a 및 도 16b는 자율 주행 차량이 교통 교차로에 접근할 때 자율 주행 차량에 탑재되어 있는 대상체 검출 시스템에 의해 캡처된 이미지를 도시한다. 상세하게는, 도 16a는 차량(1602)이 대상체 검출 시스템에 의해 어떻게 추적되고 있는지를 보여준다. 직사각형 표식(1604)은 차량(1602)의 활동을 모니터링하는 데 사용되는 액티브 트랙을 나타낸다. 대상체 검출 시스템은 또한 직사각형 표식(1608)으로 나타내어진 차량(1606)을 추적하고 있다. 이 장면에 수많은 다른 차량이 나타내어져 있지만, 명확성을 위해 차량(1602 및 1606)만의 움직임이 논의된다. 차량(1602 및 1604) 둘 모두와 연관된 액티브 트랙은 이 시점에서 잘 확립될 수 있으며 적어도 수초 분량의 추적 데이터를 포함할 수 있다.

도 16b는 차량(1606)이 차량(1602) 뒤에서 지나간 후에 어떻게 재등장하는지를 보여준다. 차량이 이러한 방식으로 엄폐될 때, 차량과 연관된 트랙이 특정 상황에서 액티브 트랙으로부터 스테일 트랙으로 전환될 수 있다. 이 특정 예에서, 차량(1608)이 교차로에의 진입부(entry)에서 엄폐되었기 때문에, 그의 궤적의 불확실성으로 인해 연관된 트랙이 스테일 상태(stale)로서 마킹될 정도로 그의 움직임의 외삽(extrapolation)이 불확실해졌다. 예를 들어, 차량(1606)이 엄폐되어 있는 동안 차량(1606)이 교차로를 통과하여 지나갔을 수 있거나, 교차로에서 정지된 채로 있었을 수 있거나 또는 교차로에서 우회전을 하기 시작했을 수 있다. 차량 엄폐가 시스템이 대상체를 추적하지 못하는 하나의 이유이지만, 다른 인자가 또한 대상체 검출 시스템이 특정 대상체를 추적할 수 없는 것을 결과할 수 있다. 예를 들어, 태양 눈부심이 또한 차량(1606)의 지속적인 추적을 방해할 수 있다. 추적 손실(tracking loss)의 다른 이유는 추적 시스템이 렌즈 왜곡에 의해 변형되는 대상체를 동일한 대상체로 계속하여 간주하지 못하게 하는 광학 센서의 렌즈에 고유한 왜곡으로 인한 대상체의 변형을 포함한다.

차량(1606)이 차량(1602) 뒤에서 나와 재등장할 때, 그의 위치가 그의 가능한 주행 루트들(움직이지 않은 채로 있음) 중 하나와 일치하고 그의 색상 및 형상이 이전에 캡처된 이미지에서 보이는 색상 및 형상과 일치한다는 사실은 대상체 검출 시스템이 도 16b에 예시된 이미지로부터 외삽된 차량(1606)의 위치 정보를 차량(1606)이 차량(1602)에 의해 엄폐되기 전에 차량(1606)에 대해 수집된 추적 데이터와 연관시킬 수 있게 한다. 도 16a 및 도 16b에 도시되어 있는 묘사된 이미지로부터, 특정 경우에 차량(1606) 후방의 변하는 배경 형상이 차량(1606)의 특정 식별을 더 어렵게 만들 수 있다는 것이 이해되어야 한다. 묘사된 예에서, 차량(1602)이 진행하여 교통 교차로를 통과함에 따라, 건물(1610)의 상이한 부분이 차량(1606) 후방에 위치되어 차량(1606) 후방의 배경을 변경시킬 것이다. 특정 차량 특징이 자동차의 특징으로 오인된 경우, 이러한 변경은 이전 추적 데이터를 차량(1606)과 재연관시키는 대상체 식별 시스템의 능력에 잠재적으로 영향을 미칠 수 있다.

일부 실시예에서, 대상체 검출 시스템 또는 자율 주행 차량의 독립적인 교통 신호등 검출 시스템에 의해 캡처된 교통 신호등의 활동이 또한 차량(1606)의 움직임을 추정할 때 고려될 수 있다. 예를 들어, 일단 차량(1606)에 대해 이전의 추적 데이터가 재식별되면, 교차로에서의 그의 움직이지 않는 위치는 적색 신호에서 우회전이 허가되는 교차로에서 차량(1606)이 우회전을 하려고 의도할 가능성을 훨씬 더 적게 할 수 있다. 이러한 방식으로, 대상체 검출 시스템은 차량(1606)이 진행하여 교차로를 통과하거나 교차로를 가로질러 좌회전할 수 있을 지점에서 교통 신호등이 상태를 변경할 때까지 차량(1606)이 교차로에서 계속하여 움직이지 않은 채로 있을 것으로 예견할 수 있다.

도 17a 내지 도 17c는 자율 주행 차량(1702) 및 광학 센서(1704)와 함께 도 16a 및 도 16b에 도시된 교차로의 평면도를 묘사한다. 특히, 도 17a 및 도 17c는 각자의 도 16a 및 도 16b에 묘사된 이미지에 대응한다. 이전에 기술된 바와 같이, 도 16a 및 도 16b에 예시된 이미지에서의 차량(1602 및 1606)의 위치는, 도 17a 및 도 17b에 묘사된 바와 같은, 지상 평면 트랙으로 변환될 수 있다. 이미저리 데이터를 위치 기반 추적 데이터로 변환하는 것은 자율 주행 차량이 대상체의 위치를 맵 데이터와 상관시키는 것에 의해 자율 주행 차량이 추적하고 있는 다른 대상체를 더 정확하게 예측하고 피할 수 있게 한다. 추적 데이터와 맵 데이터의 융합은, 맵이 속력 제한, 차선의 개수 및 위치, 교통 신호의 위치 및 동작, 주차 공간의 위치 등과 같은 정보를 포함하기 때문에, 방향, 속력 및 유력한 거동에 관한 훨씬 더 많은 확실성을 가능하게 한다. 예를 들어, 주차 공간인 것으로 알려진 위치에서 검출된 차량 대상체는 그의 위치를 유지하고 있는 것으로 추정될 수 있으며 그의 위치로부터 이동할 가능성이 없다.

도 17b는 도 16a 및 도 16b에 예시된 이미지들 사이의 차량의 중간 위치를 도시한다. 상세하게는, 도 17b는 차량(1602)이 자율 주행 차량(1702)보다 더 앞에서 나아가고 있을 때 차량(1602)이 어떻게 차량(1606)을 엄폐할 수 있는지를 보여준다. 이러한 유형의 대상체 엄폐(object obscuration)는 대상체 폐색(object occlusion)이라고 지칭될 수 있다. 이전에 논의된 바와 같이, 차량(1606)으로의 막힘이 없는 가시선(clear line of sight)이 없는 경우, 대상체 검출 시스템은 이 지점에서 차량(1606)이 정지된 동안 어떤 액션을 취하는지에 대해서만 추측할 수 있다. 도 17c에서, 차량(1602)이 차량(1606)의 가시선 시야(line of sight view)를 더 이상 엄폐하지 않아 대상체 검출 시스템이 차량(1606)을 재포착(reacquire)할 수 있게 한다.

도 18은 도 14a의 블록(1408)에서 수행되고 이전에 기술된 프로세스의 추가 세부 사항을 예시하는 플로차트를 도시한다. 상세하게는, 매칭하는 센서 트랙과 액티브 트랙을 연관시키는 것은, 1802에서, 매칭하는 액티브 트랙으로부터의 추적 데이터를 사용하여 시간 T₀에서의 대상체의 제1 위치를 예측하는 것을 포함한다. 액티브 트랙과 연관된 추적 데이터가 다수의 프레임에 걸쳐 수집된 위치 데이터를 포함할 수 있기 때문에, 단일 위치의 측정에서의 부정확성 가능성으로 인해 이 예측된 위치가 검출된 위치보다 정확할 수 있다. 1804에서, 시간 T₀에서 캡처된 센서 데이터로부터 추출된 대상체의 제2 위치가 최근에 변환된 센서 트랙을 구성하는 추적 데이터로부터 획득될 수 있다. 1806에서, 대상체의 제2 위치를 시간 T₀에서의 대상체의 위치로서 등록하는 대신에, 시간 T₀에서의 대상체의 위치를 제2 위치와 제1 위치의 가중 평균으로서 등록한다. 이러한 평균의 가중은 과거 데이터의 일관성, 시간 T₀에서 캡처된 센서 데이터의 품질 및 예측된 위치 또는 검출된 위치가 시간 T₀에서의 대상체의 실제 위치보다 정확할 가능성이 있는 것으로 간주되는지 여부에 영향을 미치는 다른 인자를 포함한 다수의 인자에 기초하여 달라질 수 있다. 도 18에 기술된 검출 및 추적 시스템이, 대안적인 실시예에서, 새로운 추적 데이터가 지상 평면 트랙에 대한 추적 데이터를 업데이트하기 전에 예측된 위치를 고려하지 않고 검출된 위치만을 포함할 수 있다는 점에서 효과적임에 유의해야 한다.

전술한 설명에서, 본 발명의 실시예는 구현마다 달라질 수 있는 다수의 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 관점보다는 예시적인 관점에서 보아야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "추가로 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims

방법으로서,
자율 주행 차량의 센서를 사용하여 제1 시간에서 센서 데이터를 캡처하는 단계;
프로세싱 회로를 사용하여, 상기 센서 데이터로부터 제1 대상체를 검출하는 단계 - 상기 제1 대상체를 검출하는 단계는 검출 데이터를 생성하는 단계를 포함함 - ;
상기 프로세싱 회로를 사용하여, 상기 검출 데이터에 기초하여 상기 제1 대상체와 연관된 제1 추적 데이터를 생성하는 단계;
상기 프로세싱 회로를 사용하여, 스테일 트랙 기준(stale-track criteria)을 충족시키는 제2 추적 데이터를 획득하는 단계 - 상기 제2 추적 데이터는 제2 시간에 캡처된 제2 데이터를 사용하여 검출된 제2 대상체에 대응하고, 상기 제2 시간은 상기 제1 시간보다 이전임 - ;
상기 제2 추적 데이터에 기초하여 상기 제1 시간에서의 상기 제2 대상체의 예측 위치를 결정하는 단계;
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 단계 - 상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 단계는, 상기 제1 시간에서의 상기 제2 대상체의 예측 위치가 상기 제1 시간에서의 상기 제1 대상체의 위치에 대응한다고 결정하는 단계를 포함함 - ; 및
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정함에 따라:
상기 프로세싱 회로를 사용하여, 상기 제2 추적 데이터를 상기 제1 추적 데이터와 연관시키는 단계; 및
제어 회로를 사용하여, 상기 제2 추적 데이터에 적어도 부분적으로 기초하여 상기 자율 주행 차량을 운행시키는 단계
를 포함하는, 방법.
제1항에 있어서, 상기 검출 데이터는 검출된 거리(detected range), 거리 변화율(range rate), 각위치, 또는 속도 중 적어도 하나를 포함하는 것인, 방법.
제1항에 있어서, 상기 제1 추적 데이터는 제1 트랙 ID를 할당받는 것인, 방법.
제3항에 있어서, 상기 프로세싱 회로를 사용하여, 상기 제2 추적 데이터를 상기 제1 추적 데이터와 연관시키는 단계는, 상기 제2 추적 데이터에 상기 제1 트랙 ID를 할당하는 단계를 포함하는 것인, 방법.
제1항 내지 제4항 중 어느 한 항에 있어서, 상기 제1 추적 데이터 및 상기 제2 추적 데이터에 적어도 부분적으로 기초하여 상기 제1 대상체의 미래 위치를 예측하는 단계를 더 포함하는, 방법.
제5항에 있어서,
추가 센서 데이터를 캡처하는 단계;
상기 추가 센서 데이터로부터 새로운 추적 데이터를 생성하는 단계; 및
상기 새로운 추적 데이터가 상기 제1 대상체의 상기 예측된 미래 위치에 대응하는 상기 제1 대상체의 위치를 포함한다는 결정에 따라, 상기 제1 추적 데이터에 할당된 트랙 ID를 상기 새로운 추적 데이터에 할당하는 단계
를 더 포함하는, 방법.
제1항에 있어서, 상기 스테일 트랙 기준은 추적 데이터 노후 정도(age)에 적어도 부분적으로 기초하는 것인, 방법.
제7항에 있어서, 상기 제2 추적 데이터의 추적 데이터 신뢰도는 상기 제2 추적 데이터를 구성하는 상기 데이터의 시간적 일관성에 적어도 부분적으로 기초하는, 방법.
제1항에 있어서, 상기 제1 추적 데이터는 상기 제1 대상체의 속도, 상기 제1 대상체의 형상, 상기 제1 대상체의 크기, 상기 제1 대상체의 색상, 또는 상기 제1 대상체의 배향 중 적어도 하나를 더 포함하는, 방법.
제1항에 있어서, 상기 제2 추적 데이터는 대상체 폐색, 조명 변동, 또는 변형 중 적어도 하나의 발생으로 인해 상기 스테일 트랙 기준을 충족시키는 것인, 방법.
제7항 내지 제10항 중 어느 한 항에 있어서, 상기 센서 데이터는 이미저리(imagery)를 포함하고, 상기 검출 데이터를 생성하는 단계는 상기 제1 대상체를 포함하는 상기 이미저리의 부분으로부터 시각적 특징을 추출하는 단계를 포함하는 것인, 방법.
제1항에 있어서, 상기 센서는 고정 초점 이미징 센서인 것인, 방법.
제1항에 있어서, 상기 센서는 LiDAR 센서 및 RADAR 센서 중 하나인 것인, 방법.
제1항에 있어서, 상기 추적 데이터는 상관 필터 추적기, 딥 추적기(deep tracker), 또는 칼만 필터 추적기 중 적어도 하나에 의해 생성되는 것인, 방법.
제1항에 있어서, 상기 스테일 트랙 기준은 상기 추적 데이터와 연관된 가장 최근의 데이터가 제1 임계 시간 기간보다 오래되었을 때 충족되는 것인, 방법.
제15항에 있어서,
상기 추적 데이터와 연관된 가장 최근의 데이터가 상기 제1 임계 시간 기간보다 큰 제2 임계 시간 기간보다 오래되었다는 결정에 따라, 스테일 상태(stale)인 것으로 분류된 추적 데이터를 삭제하는 단계
를 더 포함하는, 방법.
제12항 내지 제16항 중 어느 한 항에 있어서, 상기 제1 추적 데이터에 포함된 대상체 형상, 크기, 또는 위치 중 적어도 하나가 상기 제2 추적 데이터에 포함된 형상, 크기, 또는 위치와 매칭할 때, 상기 매칭 기준이 충족되는 것인, 방법.
제17항에 있어서,
상기 제1 추적 데이터와 상기 제2 추적 데이터의 차이가 상기 센서에 대한 상기 제1 대상체의 배향 변화로 인한 것이라는 결정에 따라, 상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 단계는, 상기 센서에 대한 상기 제1 대상체의 배향 변화로 인한 상기 제1 추적 데이터와 상기 제2 추적 데이터의 상기 차이를 무시하는 것인, 방법.
컴퓨팅 디바이스로 하여금 단계들을 수행하게 하는 상기 컴퓨팅 디바이스의 하나 이상의 회로에 의해 실행되도록 구성된 명령을 저장하는 컴퓨터 판독 가능 저장 매체로서, 상기 단계들은:
자율 주행 차량의 센서를 사용하여 제1 시간에 센서 데이터를 캡처하는 단계;
프로세싱 회로를 사용하여, 상기 센서 데이터로부터 제1 대상체를 검출하는 단계 - 상기 제1 대상체를 검출하는 단계는 검출 데이터를 생성하는 단계를 포함함 - ;
상기 프로세싱 회로를 사용하여, 상기 검출 데이터에 기초하여 상기 제1 대상체와 연관된 제1 추적 데이터를 생성하는 단계;
상기 프로세싱 회로를 사용하여, 스테일 트랙 기준을 충족시키는 제2 추적 데이터를 획득하는 단계 - 상기 제2 추적 데이터는 제2 시간에 캡처된 제2 데이터를 사용하여 검출된 제2 대상체에 대응하고, 상기 제2 시간은 상기 제1 시간보다 이전임 - ;
상기 제2 추적 데이터에 기초하여 상기 제1 시간에서의 상기 제2 대상체의 예측 위치를 결정하는 단계;
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 단계 - 상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 단계는, 상기 제1 시간에서의 상기 제2 대상체의 예측 위치가 상기 제1 시간에서의 상기 제1 대상체의 위치에 대응한다고 결정하는 단계를 포함함 - ; 및
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정함에 따라:
상기 프로세싱 회로를 사용하여, 상기 제2 추적 데이터를 상기 제1 추적 데이터와 연관시키는 단계; 및
제어 회로를 사용하여, 상기 제2 추적 데이터에 적어도 부분적으로 기초하여 상기 자율 주행 차량을 운행시키는 단계를 포함하는, 컴퓨터 판독 가능 저장 매체.
자율 주행 차량으로서,
센서;
프로세싱 회로;
제어 회로; 및
상기 자율 주행 차량의 상기 회로들에 의해 실행되도록 구성된 하나 이상의 프로그램을 저장하는 메모리
를 포함하고, 상기 하나 이상의 프로그램은:
상기 센서를 사용하여 제1 시간에 센서 데이터를 캡처하기 위한 명령;
상기 프로세싱 회로를 사용하여, 상기 센서 데이터로부터 제1 대상체를 검출하기 위한 명령 - 상기 제1 대상체를 검출하는 것은 검출 데이터를 생성하는 것을 포함함 - ;
상기 프로세싱 회로를 사용하여, 상기 검출 데이터에 기초하여 상기 제1 대상체와 연관된 제1 추적 데이터를 생성하기 위한 명령;
상기 프로세싱 회로를 사용하여, 스테일 트랙 기준을 충족시키는 제2 추적 데이터를 획득하기 위한 명령 - 상기 제2 추적 데이터는 제2 시간에 캡처된 제2 데이터를 사용하여 검출된 제2 대상체에 대응하고, 상기 제2 시간은 상기 제1 시간보다 이전임 - ;
상기 제2 추적 데이터에 기초하여 상기 제1 시간에서의 상기 제2 대상체의 예측 위치를 결정하기 위한 명령;
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하기 위한 명령 - 상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정하는 것은, 상기 제1 시간에서의 상기 제2 대상체의 예측 위치가 상기 제1 시간에서의 상기 제1 대상체의 위치에 대응한다고 결정하는 것을 포함함 - ; 및
상기 제1 추적 데이터와 상기 제2 추적 데이터가 매칭 기준을 충족시킨다고 결정함에 따라:
상기 프로세싱 회로를 사용하여, 상기 제2 추적 데이터를 상기 제1 추적 데이터와 연관시키기 위한 명령; 및
상기 제어 회로를 사용하여, 상기 제2 추적 데이터에 적어도 부분적으로 기초하여 상기 자율 주행 차량을 운행시키기 위한 명령
을 포함하는 것인, 자율 주행 차량.
하나 이상의 컴퓨팅 디바이스에 의해 실행될 때, 제1항 내지 제4항, 제7항 내지 제10항, 및 제12항 내지 제16항 중 어느 한 항에 열거된 방법을 수행하게 하는 명령을 저장하는 하나 이상의 저장 매체.
디바이스로서,
프로세싱 회로; 및
상기 프로세싱 회로에 의해 실행되도록 구성된 하나 이상의 프로그램을 저장하는 메모리
를 포함하며, 상기 하나 이상의 프로그램은 제1항 내지 제4항, 제7항 내지 제10항, 및 제12항 내지 제16항 중 어느 한 항에 열거된 방법을 수행하기 위한 명령을 포함하는 것인, 디바이스.
제1항 내지 제4항, 제7항 내지 제10항, 및 제12항 내지 제16항 중 어느 한 항에 열거된 방법을 수행하기 위한 수단을 포함하는 디바이스.