KR20230017904A

KR20230017904A - LiDAR 스캔 평탄화

Info

Publication number: KR20230017904A
Application number: KR1020230009535A
Authority: KR
Inventors: 이무 왕; 에이제이 차란
Original assignee: 모셔널 에이디 엘엘씨
Priority date: 2020-11-02
Filing date: 2023-01-25
Publication date: 2023-02-06
Also published as: DE102021128155A1; CN114442065A; KR102493354B1; GB2600785A; KR20220059388A; US11740360B2; GB202102002D0; US20220137219A1

Abstract

무엇보다도, LiDAR(light detection and ranging) 스캔 라인에서, 제1 LiDAR 데이터 포인트 및 제1 LiDAR 데이터 포인트의 부근에 있는 복수의 LiDAR 데이터 포인트를 식별하기 위한 기술이 설명된다. 본 기술은, 제1 LiDAR 데이터 포인트와 복수의 LiDAR 복귀 포인트 중 적어도 하나의 LiDAR 데이터 포인트의 비교에 기초하여, 제1 LiDAR 데이터 포인트의 계수를 식별하는 것 - 계수는 이미지 평탄도와 관련됨 - 을 더 포함할 수 있다. 본 기술은, 계수와 문턱값의 비교에 기초하여, 제1 LiDAR 데이터 포인트를 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하는 것, 및 이어서, 업데이트된 LiDAR 스캔 라인에 기초하여, 자율 주행 차량의 위치를 식별하는 것을 더 포함할 수 있다.

Description

LiDAR 스캔 평탄화{LIGHT DETECTION AND RANGING (LiDAR) SCAN SMOOTHING}

본 설명은 LiDAR(light detection and ranging) 스캔 평탄화(scan smoothing)에 관한 것이다.

전형적으로, 자율 주행 차량(autonomous vehicle)과 같은 차량은 차량이 지리적으로 어디에 있는지를 식별하기 위해 로컬화 절차를 사용할 수 있다. 구체적으로, 차량은, 예를 들어, LiDAR 스캔을 수행함으로써 깊이 이미지를 획득할 수 있다. LiDAR 스캔은 이어서 차량이 위치되는 위치를 식별하기 위해 알려진 지리적 위치에 관련된 데이터와 비교될 수 있다.

도 1은 자율 주행 능력(autonomous capability)을 갖는 자율 주행 차량의 예를 도시한다.
도 2는 컴퓨터 시스템을 도시한다.
도 3은 자율 주행 차량에 대한 예시적인 아키텍처를 도시한다.
도 4는 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 예를 도시한다.
도 5는 LiDAR 시스템의 예를 도시한다.
도 6은 동작 중인 LiDAR 시스템을 도시한다.
도 7은 LiDAR 시스템의 동작을 추가적으로 상세히 도시한다.
도 8은 일 실시예에 따른, 다수의 스캔 라인을 갖는 예시적인 LiDAR 스캔을 묘사한다.
도 9는 일 실시예에 따른, LiDAR 스캔의 데이터 포인트에 관련된 평탄도 계수(smoothness coefficient)를 계산하는 알고리즘의 그래픽 예를 묘사한다.
도 10은 일 실시예에 따른, LiDAR 스캔의 데이터 포인트에 관련된 평탄도 계수를 계산하는 알고리즘의 대안적인 그래픽 예를 묘사한다.
도 11은 일 실시예에 따른, LiDAR 스캔 라인을 업데이트하는 예시적인 기술을 묘사한다.
도 12는 일 실시예에 따른, LiDAR 스캔 라인을 업데이트하는 대안적인 예시적 기술을 묘사한다.

설명을 위한 이하의 기술에서는, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항이 기재된다. 그렇지만, 본 발명이 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.

도면에서, 설명을 용이하게 하기 위해, 디바이스, 모듈, 명령 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정한 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시한다는 것을 의미하지는 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시한다는 것을 의미하지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시한다는 것을 의미하지 않는다.

또한, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 보여주기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재가 연결, 관계 또는 연관이 존재할 수 없다는 것을 암시하는 것을 의미하지 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되어 있지 않다. 추가적으로, 예시를 용이하게 하기 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령어들의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면, 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.

그 예가 첨부된 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.

서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 각각 사용될 수 있는 여러 특징이 이하에 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 임의의 것을 해결할 수 없거나 또는 위에서 논의된 문제들 중 단지 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부가 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:

1. 일반적 개관

2. 시스템 개관

3. 자율 주행 차량 아키텍처

4. 자율 주행 차량 입력

5. 스캔 라인 개관

6. 평탄도 계수 예

7. 평탄도 계수의 사용

일반적 개관

LiDAR 스캔을 평탄화시키기 위해, LiDAR 스캔 라인에서의 데이터 포인트("복귀" 또는 "포인트"라고도 지칭될 수 있음)가 식별되고, 스캔 라인에서의 이웃하는 데이터 포인트에 기초하여 해당 데이터 포인트에 대한 평탄도 계수가 계산된다. 평탄도 계수에 기초하여, 데이터 포인트가 LiDAR 스캔 라인으로부터 폐기되거나(예를 들면, 평탄도 계수가 문턱값과 동일하거나 문턱값을 초과하는 경우), 또는 데이터 포인트가 LiDAR 스캔 라인에 남아 있다(예를 들면, 평탄도 계수가 문턱값과 동일하거나 문턱값 미만인 경우).

본원에서의 실시예는, 특히 차량에 의해 수행되는 로컬화 프로세스의 일부로서 구현될 때, 다수의 이점을 제공한다. 구체적으로는, 일부 실시예에서, 데이터 포인트와 연관된 상대적으로 높은 평탄도 계수의 존재를 결정하는 것은 해당 데이터 포인트와 연관된 사람, 자전거, 군엽(foliage) 등과 같은 환경에서의 일시적인 요소의 존재를 나타낼 수 있다. 이러한 일시적인 요소는 자주 변경될 가능성이 있으며(예를 들면, 사람은 걸어가 버릴 수 있고, 자전거는 달려가 버릴 수 있으며, 군엽은 변경될 수 있는 등), 그 결과, 차량이 이러한 요소의 존재에 기초하여 로컬화 프로세스를 정확하게 수행하는 것이 어려울 수 있다. 이러한 요소와 연관된 데이터 포인트의 검출 및 제거를 통해, 건물, 벽 등과 같은 덜 일시적인 구조물이 더 정확하게 식별될 수 있다. 이러한 덜 일시적인 구조물의 사용은 차량에 대한 로컬화 프로세스의 정확도 및 반복성을 향상시키며, 이에 의해 차량의 전반적인 효율성을 개선시킬 수 있다. 추가적으로 또는 대안적으로, 일시적인 요소와 연관된(예를 들면, 이에 대응하는) 차량에 의해 획득된 LiDAR 스캔에 포함된 적어도 하나의 LiDAR 데이터 포인트를 무시(예를 들면, 제거)하는 것에 의해, 차량에 의해 획득된 LiDAR 스캔에 포함된 적어도 하나의 LiDAR 데이터 포인트와 특정 지역과 연관된 이전에 생성된 LiDAR 스캔에 포함된 적어도 하나의 LiDAR 데이터 포인트 간의 비교가 감소될 수 있다.

시스템 개관

도 1은 자율 주행 능력을 갖는 자율 주행 차량(100)의 예를 도시한다.

본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량을 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작할 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.

본원에서 사용되는 바와 같이, 자율 주행 차량(AV)은 자율 주행 능력을 갖는 차량이다.

본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 예이다.

본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.

본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그-디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.

본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.

본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물 내의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.

본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 일 부분이다. 차선은 때때로 차선 마킹(lane marking)에 기초하여 식별된다. 예를 들어, 차선은 차선 마킹 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹을 갖는 도로는 차선 마킹들 사이에 둘 이상의 차량을 수용할 수 있음으로써, 하나의 차량이 차선 마킹을 횡단하지 않으면서 다른 차량을 추월할 수 있고, 따라서 차선 마킹들 사이의 공간보다 더 좁은 차선을 갖거나 차선 마킹들 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징부, 예를 들면, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무 또는, 예를 들면, 미개발 지역에서의 피할 자연 장애물에 기초하여 규정될 수 있다. 차선은 또한 차선 마킹 또는 물리적 특징부와 무관하게 해석될 수 있다. 예를 들어, 차선은 차선 경계로서 해석될 특징부가 달리 없는 영역에서 장애물이 없는 임의의 경로에 기초하여 해석될 수 있다. 예시적인 시나리오에서, AV는 들판 또는 공터의 장애물 없는 부분을 통해 차선을 해석할 수 있다. 다른 예시적인 시나리오에서, AV는 차선 마킹을 갖지 않는 넓은(예를 들면, 2개 이상의 차선을 위해 충분히 넓은) 도로를 통해 차선을 해석할 수 있다. 이 시나리오에서, AV는 차선에 관한 정보를 다른 AV에 통신할 수 있음으로써, 다른 AV가 동일한 차선 정보를 사용하여 그 자신들 간에 경로 계획을 조정할 수 있다.

"OTA(over-the-air) 클라이언트"라는 용어는 임의의 AV, 또는 AV에 내장되거나, AV에 결합되거나, 또는 AV와 통신하는 임의의 전자 디바이스(예를 들면, 컴퓨터, 컨트롤러, IoT 디바이스, 전자 제어 유닛(ECU))를 포함한다.

"OTA(over-the-air) 업데이트"라는 용어는, 셀룰러 모바일 통신(예를 들면, 2G, 3G, 4G, 5G), 라디오 무선 영역 네트워크(예를 들면, WiFi) 및/또는 위성 인터넷을 포함하지만 이에 제한되지 않는, 독점적인 및/또는 표준화된 무선 통신 기술을 사용하여 OTA 클라이언트에 전달되는 소프트웨어, 펌웨어, 데이터 또는 구성 설정, 또는 이들의 임의의 조합에 대한 임의의 업데이트, 변경, 삭제, 또는 추가를 의미한다.

"에지 노드"라는 용어는 AV와 통신하기 위한 포털을 제공하고 OTA 업데이트를 스케줄링하여 OTA 클라이언트에 전달하기 위해 다른 에지 노드 및 클라우드 기반 컴퓨팅 플랫폼과 통신할 수 있는 네트워크에 결합된 하나 이상의 에지 디바이스를 의미한다.

"에지 디바이스"라는 용어는 에지 노드를 구현하고 기업 또는 서비스 제공자(예를 들면, VERIZON, AT&T) 코어 네트워크에 물리적 무선 액세스 포인트(AP)를 제공하는 디바이스를 의미한다. 에지 디바이스의 예는 컴퓨터, 제어기, 송신기, 라우터, 라우팅 스위치, IAD(integrated access device), 멀티플렉서, MAN(metropolitan area network) 및 WAN(wide area network) 액세스 디바이스를 포함하지만, 이에 제한되지 않는다.

"하나 이상"은 하나의 요소에 의해 수행되는 기능, 둘 이상의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.

또한, 제1, 제2 등의 용어가, 일부 예에서, 다양한 요소를 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.

본원에 기술된 다양한 실시예의 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항의 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 표시하지 않는 한, 복수형을 포함하는 것으로 의도되어 있다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. 게다가, "포함한다" 및/또는 "포함하는"이라는 용어가, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명기하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 이해될 것이다.

본원에서 사용되는 바와 같이, "~ 경우"라는 용어는 선택적으로 문맥에 따라 "~할 때", 또는 "~시에" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는 선택적으로 문맥에 따라, "결정할 시에" 또는 "결정에 응답하여" 또는 "[언급된 조건 또는 이벤트]의 검출 시에" 또는 "[언급된 조건 또는 이벤트]의 검출에 응답하여"를 의미하는 것으로 해석된다.

본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는 하드웨어, 소프트웨어, 저장 데이터 및 실시간으로 생성된 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 클라우드 컴퓨팅 환경 상에 구현된다.

일반적으로, 본원은 완전한 자율 주행 차량, 고도의 자율 주행 차량, 및 조건부 자율 주행 차량, 예를 들어, 각각 소위 레벨 5 차량, 레벨 4 차량 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 개시한다(차량의 자율성의 레벨 분류에 대한 세부 사항은 본원에 그 전체가 참조로 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본원에서 개시된 기술은 부분적 자율 주행 차량 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 자율 주행 차량으로부터 인간 운전 차량에 이르는, 임의의 레벨에 있는 차량에 혜택을 줄 수 있다.

자율 주행 차량은 사람 운전자를 필요로 하는 차량보다 장점이 있다. 한 가지 장점은 안전성이다. 예를 들어, 2016년에, 미국은 9100억 달러의 사회적 비용으로 추정되는 600만 건의 자동차 사고, 240만 건의 부상, 4만 명의 사망자, 및 1300만 건의 차량 충돌을 경험했다. 1억 마일 주행당 미국 교통 사망자수는, 부분적으로 차량에 배치된 추가적인 안전 대책으로 인해, 1965년과 2015년 사이에 약 6명으로부터 약 1명으로 줄었다. 예를 들어, 충돌이 발생할 것이라는 추가적인 0.5초의 경고는 전후 충돌의 60%를 완화시키는 것으로 여겨진다. 그렇지만, 수동적 안전 특징부(예를 들면, 안전 벨트, 에어백)는 이 수치를 개선시키는 데 한계에 도달했을 것이다. 따라서 차량의 자동 제어와 같은, 능동적 안전 대책이 이러한 통계치를 개선시키는 데 유망한 다음 단계이다. 인간 운전자가 충돌의 95%에서 중요한 충돌전 사건에 책임있는 것으로 여겨지기 때문에, 자동 운전 시스템은, 예를 들어, 중요한 상황을 인간보다 잘 신뢰성 있게 인식하고 피하는 것에 의해; 더 나은 의사 결정을 하고, 교통 법규를 준수하며, 미래의 사건을 인간보다 더 잘 예측하는 것에 의해; 및 차량을 인간보다 더 잘 신뢰성 있게 제어하는 것에 의해 더 나은 안전성 결과를 달성할 수 있다.

도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 타는 사람, 및 다른 장애물)을 피하고 도로 법규(예를 들면, 동작 규칙 또는 운전 선호사항)를 준수하면서, 차량(100)을 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 차량이 액션(예를 들면, 운전 기동)을 수행하게 하는 실행 가능 명령어들(또는 명령어 세트)을 의미하기 위해 "동작 커맨드"라는 용어를 사용한다. 동작 커맨드는, 제한 없이, 차량이 전진을 시작하고, 전진을 중지하며, 후진을 시작하고, 후진을 중지하며, 가속하고, 감속하며, 좌회전을 수행하고, 우회전을 수행하기 위한 명령어를 포함할 수 있다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 2를 참조하여 아래에서 기술되는 프로세서(204)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.

일 실시예에서, AV 시스템(120)은 AV의 위치, 선속도와 각속도 및 선가속도와 각가속도, 및 헤딩(heading)(예를 들면, 차량(100)의 선단의 배향)과 같은 차량(100)의 상태 또는 조건의 속성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.

일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지 또는 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, TOF(time-of-flight) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강우 센서.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령어들 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 2와 관련하여 아래에서 기술되는 ROM(208) 또는 저장 디바이스(210)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(206)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)에 송신된다.

일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건의 측정된 또는 추론된 속성, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 선형 헤딩(linear heading)과 각도 헤딩(angular heading)을 차량(100)에 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, 자율 주행 차량과의 통신 및 자율 주행 차량들 사이의 통신을 위한 하나 이상의 통신 표준을 준수한다.

일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 클라우드 컴퓨팅 환경에 내장된다. 통신 디바이스(140)는 센서(121)로부터 수집된 데이터 또는 차량(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)에 송신한다. 일 실시예에서, 통신 디바이스(140)는 원격 운영(teleoperation)에 관련되는 정보를 차량(100)에 송신한다. 일부 실시예에서, 차량(100)은 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 차량(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)에 송신된다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 시각(time of day)에 궤적(198)을 따라 이전에 주행한 적이 있는 차량의 운전 속성(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 차량(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 차량(100)에 송신될 수 있다.

차량(100) 상에 위치된 컴퓨팅 프로세서(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 능력을 실행할 수 있게 한다.

일 실시예에서, AV 시스템(120)은 차량(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 사용자로부터 입력을 수신하기 위해 컴퓨터 프로세서(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 2를 참조하여 아래에서 논의되는 디스플레이(212), 입력 디바이스(214), 및 커서 컨트롤러(216)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.

일 실시예에서, AV 시스템(120)은, 예를 들어, 승객에 의해 지정되거나 승객과 연관된 프로파일에 저장된, 승객의 프라이버시 레벨을 수신하고 시행한다. 승객의 프라이버시 레벨은 승객과 연관된 특정 정보(예를 들면, 승객 편의 데이터, 생체 측정 데이터 등)가 사용되도록, 승객 프로파일에 저장되도록, 그리고/또는 클라우드 서버(136)에 저장되어 승객 프로파일과 연관되도록 할 수 있는 방법을 결정한다. 일 실시예에서, 프라이버시 레벨은 일단 라이드(ride)가 완료되면 삭제되는 승객과 연관된 특정 정보를 지정한다. 일 실시예에서, 프라이버시 레벨은 승객과 연관된 특정 정보를 지정하고 정보에 액세스하도록 인가된 하나 이상의 엔티티를 식별해준다. 정보에 액세스하도록 인가되어 있는 지정된 엔티티의 예는 다른 AV, 서드파티 AV 시스템, 또는 정보에 잠재적으로 액세스할 수 있는 임의의 엔티티를 포함할 수 있다.

승객의 프라이버시 레벨은 하나 이상의 입도(granularity) 레벨로 지정될 수 있다. 일 실시예에서, 프라이버시 레벨은 저장 또는 공유될 특정 정보를 식별해준다. 일 실시예에서, 승객이 자신의 개인 정보가 저장 또는 공유되지 않게 지정할 수 있도록 승객과 연관된 모든 정보에 프라이버시 레벨이 적용된다. 특정 정보에 액세스하도록 허용된 엔티티의 지정은 다양한 입도 레벨로 지정될 수 있다. 특정 정보에 액세스하도록 허용되는 다양한 엔티티 세트는, 예를 들어, 다른 AV, 클라우드 서버(136), 특정 서드파티 AV 시스템 등을 포함할 수 있다.

일 실시예에서, AV 시스템(120) 또는 클라우드 서버(136)는 승객과 연관된 특정 정보가 AV(100) 또는 다른 엔티티에 의해 액세스될 수 있는지를 결정한다. 예를 들어, 특정 시공간적 위치에 관련된 승객 입력에 액세스하려고 시도하는 서드파티 AV 시스템은 승객과 연관된 정보에 액세스하기 위해, 예를 들어, AV 시스템(120) 또는 클라우드 서버(136)로부터 인가를 획득해야 한다. 예를 들어, AV 시스템(120)은 시공간적 위치에 관련된 승객 입력이 서드파티 AV 시스템, AV(100), 또는 다른 AV에 제공될 수 있는지 여부를 결정하기 위해 승객의 지정된 프라이버시 레벨을 사용한다. 이것은 승객의 프라이버시 레벨이 어느 다른 엔티티가 승객의 액션에 관한 데이터 또는 승객과 연관된 다른 데이터를 수신하도록 허용되는지를 지정할 수 있게 한다.

도 2는 컴퓨터 시스템(200)을 도시한다. 일 구현예에서, 컴퓨터 시스템(200)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 펌웨어, 메모리, 다른 스토리지 또는 그 조합 내의 프로그램 명령어들에 따라 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스는 또한 커스텀 고정 배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수 목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.

일 실시예에서, 컴퓨터 시스템(200)은 정보를 통신하기 위한 버스(202) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(202)와 결합된 프로세서(204)를 포함한다. 프로세서(204)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(200)은 프로세서(204)에 의해 실행될 명령어들 및 정보를 저장하기 위해 버스(202)에 결합된, RAM(random access memory) 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(206)를 또한 포함한다. 일 구현예에서, 메인 메모리(206)는 프로세서(204)에 의해 실행될 명령어들의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령어들은, 프로세서(204)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(200)을 명령어들에 지정된 동작을 수행하도록 커스터마이징된 특수 목적 머신으로 만든다.

일 실시예에서, 컴퓨터 시스템(200)은, 프로세서(204)를 위한 정적 정보 및 명령어들을 저장하기 위해 버스(202)에 결합된 ROM(read only memory)(208) 또는 다른 정적 저장 디바이스를 더 포함한다. 정보 및 명령어들을 저장하기 위한, 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(210)가 제공되고 버스(202)에 결합된다.

일 실시예에서, 컴퓨터 시스템(200)은 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(212)에 버스(202)를 통해 결합된다. 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(214)는 정보 및 커맨드 선택을 프로세서(204)에 통신하기 위해 버스(202)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(204)에 통신하고 디스플레이(212) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(216)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 지정할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x-축) 및 제2 축(예를 들면, y-축)에서의 2 자유도를 갖는다.

일 실시예에 따르면, 본원에서의 기술은 프로세서(204)가 메인 메모리(206)에 포함된 하나 이상의 명령어의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(200)에 의해 수행된다. 그러한 명령어들은, 저장 디바이스(210)와 같은, 다른 저장 매체로부터 메인 메모리(206) 내로 판독된다. 메인 메모리(206)에 포함된 명령어들의 시퀀스의 실행은 프로세서(204)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서, 소프트웨어 명령어들 대신에 또는 소프트웨어 명령어들과 조합하여 고정 배선 회로가 사용된다.

"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신이 특정 방식으로 동작하게 하는 데이터 및/또는 명령어들을 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(210)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(206)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.

저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(202)를 포함하는 와이어를 포함하여, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 음향파 또는 광파의 형태를 취할 수 있다.

일 실시예에서, 실행을 위해 하나 이상의 명령어의 하나 이상의 시퀀스를 프로세서(204)에 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령어들은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 자신의 동적 메모리에 명령어들을 로딩하고 모뎀을 사용하여 전화선을 통해 명령어들을 전송한다. 컴퓨터 시스템(200)에 로컬인 모뎀은 전화선을 통해 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(202)에 배치한다. 버스(202)는 데이터를 메인 메모리(206)로 반송하고, 프로세서(204)는 메인 메모리로부터 명령어들을 검색 및 실행한다. 메인 메모리(206)에 의해 수신된 명령어들은 프로세서(204)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(210)에 저장될 수 있다.

컴퓨터 시스템(200)은 버스(202)에 결합된 통신 인터페이스(218)를 또한 포함한다. 통신 인터페이스(218)는 로컬 네트워크(222)에 연결된 네트워크 링크(220)에 대한 양방향 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(218)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(218)는 호환 가능한 LAN(local area network)에 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(218)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.

네트워크 링크(220)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(220)는 로컬 네트워크(222)를 통해 호스트 컴퓨터(224)로의 연결 또는 ISP(Internet Service Provider)(226)에 의해 운영되는 클라우드 데이터 센터 또는 장비로의 연결을 제공한다. ISP(226)는 차례로 지금은 "인터넷(228)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(222) 및 인터넷(228) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(200)으로 및 컴퓨터 시스템(200)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(218)를 통한 네트워크 링크(220) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(220)는 클라우드 또는 클라우드의 일부를 포함한다.

컴퓨터 시스템(200)은 네트워크(들), 네트워크 링크(220), 및 통신 인터페이스(218)를 통해, 프로그램 코드를 포함한, 메시지를 전송하고 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(200)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(204)에 의해 실행되고 그리고/또는 추후의 실행을 위해 저장 디바이스(210) 또는 다른 비휘발성 스토리지에 저장된다.

자율 주행 차량 아키텍처

도 3은 자율 주행 차량(예를 들면, 도 1에 도시된 차량(100))에 대한 예시적인 아키텍처(300)를 도시한다. 아키텍처(300)는 인지 모듈(302)(때때로 인지 회로라고 지칭됨), 계획 모듈(304)(때때로 계획 회로라고 지칭됨), 제어 모듈(306)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(308)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(310)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 차량(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈(302, 304, 306, 308, 및 310)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈(302, 304, 306, 308, 및 310) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다. 모듈(302, 304, 306, 308, 및 310)의 각각의 모듈은 때때로 프로세싱 회로(예를 들면, 컴퓨터 하드웨어, 컴퓨터 소프트웨어, 또는 이 둘의 조합)라고 지칭된다. 모듈(302, 304, 306, 308, 및 310) 중 임의의 것 또는 모든 것의 조합은 또한 프로세싱 회로의 예이다.

사용 중에, 계획 모듈(304)은 목적지(312)를 나타내는 데이터를 수신하고 목적지(312)에 도달하기 위해(예를 들면, 도착하기 위해) 차량(100)에 의해 주행될 수 있는 궤적(314)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(304)이 궤적(314)을 나타내는 데이터를 결정하기 위해, 계획 모듈(304)은 인지 모듈(302), 로컬화 모듈(308), 및 데이터베이스 모듈(310)로부터 데이터를 수신한다.

인지 모듈(302)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(316)를 포함하는 장면 묘사는 계획 모듈(304)에 제공된다.

계획 모듈(304)은 또한 로컬화 모듈(308)로부터 AV 위치(318)를 나타내는 데이터를 수신한다. 로컬화 모듈(308)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(310)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(308)은 GNSS(Global Navigation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(308)에 의해 사용되는 데이터는 도로 기하학적 속성의 고정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 교통 차선과 자전거 타는 사람 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다. 일 실시예에서, 고정밀 맵은 자동 또는 수동 주석 달기를 통해 저정밀 맵에 데이터를 추가함으로써 구성된다.

제어 모듈(306)은 궤적(314)을 나타내는 데이터 및 AV 위치(318)를 나타내는 데이터를 수신하고, 차량(100)으로 하여금 목적지(312)를 향해 궤적(314)을 주행하게 할 방식으로 AV의 제어 기능(320a 내지 320c)(예를 들면, 조향, 스로틀링, 제동, 점화)을 동작시킨다. 예를 들어, 궤적(314)이 좌회전을 포함하는 경우, 제어 모듈(306)은, 조향 기능의 조향각이 차량(100)으로 하여금 좌회전하게 하고 스로틀링 및 제동이 차량(100)으로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능(320a 내지 320c)을 동작시킬 것이다.

자율 주행 차량 입력

도 4는 인지 모듈(302)(도 3)에 의해 사용되는 입력(402a 내지 402d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(404a 내지 404d)(예를 들면, 센서 데이터)의 예를 도시한다. 하나의 입력(402a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 가시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(404a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.

다른 입력(402b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 가시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템은 출력(404b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.

다른 입력(402c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(404c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지할 수 있게 하는, 예를 들어, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV에 상대적인 것이다. 일부 실시예에서, 카메라 시스템은 멀리 있는, 예를 들면, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성된다. 따라서, 일부 실시예에서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 갖는다.

다른 입력(402d)은 TLD(traffic light detection) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(404d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, 차량(100)이 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상이다.

일부 실시예에서, 출력(404a 내지 404d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력(404a 내지 404d) 중 어느 하나가 차량(100)의 다른 시스템에 제공되거나(예를 들면, 도 3에 도시된 바와 같은 계획 모듈(304)에 제공되거나), 또는 결합된 출력이 동일한 유형(동일한 결합 기술을 사용하는 것 또는 동일한 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 결합 기술을 사용하는 것 또는 상이한 각자의 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력에 적용된 후에 출력을 결합하는 것을 특징으로 한다.

도 5는 LiDAR 시스템(502)(예를 들면, 도 4에 도시된 입력(402a))의 예를 도시한다. LiDAR 시스템(502)은 광 방출기(506)(예를 들면, 레이저 송신기)로부터 광(504a 내지 504c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(504b)의 일부는 물리적 대상체(508)(예를 들면, 차량)와 조우하고, LiDAR 시스템(502)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체를 관통하지 않는다). LiDAR 시스템(502)은 또한 반사된 광을 검출하는 하나 이상의 광 검출기(510)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(514)를 나타내는 이미지(512)를 생성한다. 이미지(512)는 물리적 대상체(508)의 경계(516)를 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(512)는 AV 인근의 하나 이상의 물리적 대상체의 경계(516)를 결정하는 데 사용된다.

도 6은 동작 중인 LiDAR 시스템(502)을 도시한다. 이 도면에 도시된 시나리오에서, 차량(100)은 이미지(602) 형태의 카메라 시스템 출력(404c) 및 LiDAR 데이터 포인트(604) 형태의 LiDAR 시스템 출력(404a) 둘 모두를 수신한다. 사용 중에, 차량(100)의 데이터 프로세싱 시스템은 이미지(602)를 데이터 포인트(604)와 비교한다. 특히, 이미지(602)에서 식별된 물리적 대상체(606)가 데이터 포인트(604) 중에서도 식별된다. 이러한 방식으로, 차량(100)은 데이터 포인트(604)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.

도 7은 LiDAR 시스템(502)의 동작을 추가적으로 상세하게 도시한다. 위에서 기술된 바와 같이, 차량(100)은 LiDAR 시스템(502)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 7에 도시된 바와 같이, 지면(702)과 같은 평평한 대상체는 LiDAR 시스템(502)으로부터 방출되는 광(704a 내지 704d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(502)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(702)은 광을 동일한 일관된 간격으로 다시 LiDAR 시스템(502)으로 반사할 것이다. 차량(100)이 지면(702) 위를 주행함에 따라, LiDAR 시스템(502)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(706)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(708)가 도로를 방해하는 경우, LiDAR 시스템(502)에 의해 방출되는 광(704e 및 704f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트(710a 및 710b)로부터 반사될 것이다. 이 정보로부터, 차량(100)은 대상체(708)가 존재한다고 결정할 수 있다.

스캔 라인 개관

이전에 언급된 바와 같이, 예를 들어, 도 6 및 도 7과 관련하여, LiDAR는 자율 주행 차량과 같은 차량에 의해 상기 차량의 주변에 관련된 데이터를 수집하기 위해 사용된다. 일 실시예에서, LiDAR 스캔은 다수의 스캔 라인(예를 들면, 20개의 스캔 라인, 40개의 스캔 라인 등)을 포함한다. 각각의 라인은 LiDAR 시스템(예를 들면, 도 4의 LiDAR 시스템(402a))이 위치되는 환경의 평면 표현에 대응한다.

도 8은 다양한 실시예에 따른, 다수의 스캔 라인(805a, 805b, 805c, 805d)(집합적으로, 스캔 라인(805))을 갖는 예시적인 LiDAR 스캔(800)을 묘사한다. 이전에 언급된 바와 같이, LiDAR 스캔(800)에 단지 4개의 스캔 라인(805)이 묘사되어 있지만, 다른 실시예에서 LiDAR 스캔(800)은 더 많거나 더 적은 스캔 라인을 포함할 수 있다. 예를 들어, LiDAR 스캔(800)은 일 실시예에서 20개 내지 40개의 스캔 라인을 포함할 수 있는 반면, 다른 실시예에서 LiDAR 스캔(800)은 LiDAR 시스템의 프로세싱 능력, 스캔이 수행되고 있는 속도, 스캔의 허용 가능한 품질 또는 어떤 다른 인자와 같은 인자에 따라 더 많거나 더 적은 스캔 라인을 포함할 수 있다. 추가적으로, 스캔 라인(805)이 일반적으로 횡방향인 것으로 묘사되어 있지만, 다른 실시예에서 스캔 라인(805)은 수직이도록 또는 횡방향과 수직 사이의 어떤 각도로 있도록 회전된다. 추가적으로, 스캔 라인(805)은 (도 8의 배향과 관련하여) 수직 거리만큼 분리되는 것으로 묘사되지만, 실제 구현에서 스캔 라인들(805) 사이의 거리는 묘사된 것보다 더 크거나 더 작을 수 있다. 일반적으로, 도 8은, 실제 구현의 제한적인 예로서 간주되기보다는, 본원에서의 개념을 설명하고 논의하기 위한 상위 레벨 예로서 해석되어야 한다.

스캔 라인(805)의 각자의 스캔 라인은, 예를 들어, 데이터 포인트(604)와 유사한 복수의 LiDAR 데이터 포인트(810)를 포함한다. 예를 들어, 도 8에 묘사된 실시예에서, 각각의 스캔 라인(805)은 16개의 LiDAR 데이터 포인트(810)를 포함하는 것으로 도시되어 있다. 그렇지만, 다른 실시예가 묘사된 것보다 더 많거나 더 적은 LiDAR 데이터 포인트를 포함할 것임이 이해될 것이다.

LiDAR 데이터 포인트(810)의 각자의 LiDAR 데이터 포인트는 LiDAR 시스템에 제공되는 데이터와 관련된다. 구체적으로는, 각자의 LiDAR 데이터 포인트(810)는 TOF 데이터를 LiDAR 시스템에 제공한다. TOF 데이터는 광학 신호가 LiDAR 시스템의 방출기를 떠난 시간과 반사된 광학 신호가 LiDAR 시스템의 수신기에 의해 수신된 시간 사이의 길이와 관련된다. LiDAR 스캔(800)의 스캔 라인(805)의 각자의 LiDAR 데이터 포인트(810)에 대한 이 TOF 데이터를 사용함으로써, LiDAR 시스템은 (예를 들어, 도 4 및 도 5와 관련하여 위에서 설명된 바와 같이) LiDAR 시스템 주위의 대상체의 3 차원(3D) 이미지를 구성하거나 그의 구성을 용이하게 할 수 있다.

평탄도 계수 예

이전에 언급된 바와 같이, LiDAR 스캔(예를 들면, LiDAR 스캔(800))의 결과물은 로컬화 프로세스를 위해 자율 주행 차량에 의해 사용된다. 즉, 일 실시예에서, LiDAR 스캔(800)의 결과물이 지리적 위치의 미리 식별된 정보와 비교된다. 이 비교에 기초하여, 자율 주행 차량은 자율 주행 차량이 현재 어디에 위치되는지를 식별할 수 있다.

그렇지만, 일부 상황에서 일관되지 않거나 일시적인 대상체 또는 구조물에 의해 로컬화 절차가 복잡하게 된다. 예를 들어, 관목 또는 나무와 같은 특정 초목의 형상은 계절의 변화, 가지치기 등에 따라 변한다. 사람, 자전거 등과 같은 다른 일시적인 대상체도 마찬가지로 LiDAR 스캔 내에 일관성없는 결과물을 생성함으로써 그러한 대상체가 움직이거나 형상을 변경하는 경우 한 시간에서의 위치의 스캔이 다른 시간에서의 동일한 위치의 스캔과 상이하게 된다.

이와 달리, 더 일관되거나 영구적인(예를 들면, 비-일시적인) 구조물은 로컬화 절차 동안 더 일관된 결과물을 제공할 것이다. 그러한 대상체는 건물, 도로 장벽, 벽 등과 같은 인공 구조물을 포함한다. 이러한 대상체가 인공적이기 때문에, 이러한 대상체는, 나뭇잎 또는 가지가 LiDAR 스캔 내에 상당한 변동을 생성할 수 있는 나무와 같은 대상체의 프로파일에 비해, 상대적으로 평평하거나 평탄한 프로파일을 갖는 경우가 많다. 따라서, LiDAR 스캔의 결과물의 일관성을 증가시키기 위해, 본원에서의 실시예는 초목과 같은 일시적인 구조물, 사람 또는 자전거의 존재 등에 속하는 것으로 식별되는 데이터 포인트를 LiDAR 스캔으로부터 제거한다.

데이터 포인트가 LiDAR 스캔으로부터 제거될 수 있는 하나의 방식은 데이터 포인트를 그 주위의 다른 데이터 포인트와의 맥락에서 분석하는 것이다. 구체적으로, 일 실시예에서, 데이터 포인트가 분석되고 평탄도 계수 c가 계산된다. 이어서 평탄도 계수 c가 문턱값과 비교된다. 평탄도 계수 c가 문턱값보다 큰 경우(또는 선택적으로, 크거나 같은 경우), LiDAR 시스템(또는 이에 결합된 프로세서)은 데이터 포인트가 상대적으로 높은 정도의 변동성을 갖는 영역에 속하고 따라서 데이터 포인트가 일시적인 대상체와 연관되어 있다고 식별한다. 일부 실시예에서, LiDAR 시스템은 그러면 데이터 포인트가 스캔 라인으로부터 제거되어야 한다고 결정할 수 있다. 평탄도 계수 c가 문턱값보다 작은 경우(또는 선택적으로, 작거나 같은 경우), LiDAR 시스템(또는 이에 결합된 프로세서)은 데이터 포인트가 상대적으로 낮은 정도의 변동성을 갖는 영역에 속하고 따라서 스캔 라인에 남아 있어야 한다(또는 출력된 "평탄화된" 스캔 라인에 포함되어야 한다)고 식별한다.

수학식 1은 포인트

에 대한 평탄도 계수 c를 계산하는 예시적인 방정식을 나타낸다.

구체적으로는, X^L은 LiDAR 스캔(800)과 같은 LiDAR 스캔에서의 데이터 포인트를 지칭한다. k는 주어진 스캔 라인의 식별자이다. 수학식 1에서, 문제의 데이터 포인트

는 다수의(S개의) 데이터 포인트와 비교된다. i와 j는 스캔 라인 내의 특정 위치를 지칭할 수 있다. 구체적으로, 데이터 포인트

에 관련된 데이터는 S 내의 다른 데이터 포인트 각각에 관련된 데이터와 비교된다. 이 비교에 기초하여, 평탄도 계수 c가 계산된다. 구체적으로, 문제의 데이터 포인트

과 S 내의 각각의 다른 포인트 사이의 벡터가 계산되거나 식별된다. 이어서 평탄도 계수 c를 생성하기 위해 벡터들이 함께 합산된다.

일 실시예에서, 계수 c를 생성하기 위해 문제의 데이터 포인트와 다른 데이터 포인트 각각 사이의 벡터 각각이 계산된다는 점에 유의해야 할 것이다. 그렇지만, 다른 실시예에서, 벡터들 중 하나 이상이 미리 계산되었을 수 있고 재계산되는 것보다는 식별될 수 있도록 저장된다. 예를 들어, 일 실시예에서, 해당 데이터 포인트와 현재 문제가 되는 데이터 포인트

사이의 벡터에 기초하여 S 내의 데이터 포인트 중 하나에 대한 계수 c가 계산될 것이다. 그와 같이, 벡터의 재계산이 필요하지 않을 수 있으며, 그 대신에, 벡터가 이전에 계산된 것으로 식별될 수 있다.

도 9는 일 실시예에 따른, LiDAR 스캔의 데이터 포인트에 관련된 평탄도 계수를 계산하는 알고리즘의 그래픽 예를 묘사한다. 도 10은 일 실시예에 따른, LiDAR 스캔의 데이터 포인트에 관련된 평탄도 계수를 계산하는 알고리즘의 대안적인 그래픽 예를 묘사한다.

구체적으로, 도 9 및 도 10에서, X-축(X) 및 Y-축(Y)이 묘사되어 있다. 일반적으로, LiDAR 시스템이 X 축과 Y 축의 교차점에 위치된다고 가정될 수 있다. 도 8의 LiDAR 데이터 포인트(810)와 유사한 다수의 LiDAR 데이터 포인트가 도 9 및 도 10에 묘사되어 있다.

구체적으로, 도 9는 LiDAR 데이터 포인트(905a, 905b, 905c, 905d 및 905e)(집합적으로, LiDAR 데이터 포인트(905))를 묘사한다. 도 10은 LiDAR 데이터 포인트(1005a, 1005b, 1005c, 1005d 및 1005e)(집합적으로, LiDAR 데이터 포인트(1005))를 묘사한다. 도 9 및 도 10의 묘사에서, LiDAR 데이터 포인트(905 및 1005)는 각각의 데이터 포인트에 관련된 TOF 데이터에 기초하며, 도 9 및 도 10은 LiDAR 시스템이 어디에 위치될 수 있는지와 관련하여 TOF 데이터의 톱-다운 뷰를 나타낸다.

특히 도 9를 참조하면, LiDAR 데이터 포인트(905c)는 현재 분석 중인 데이터 포인트이며, 수학식 1의

에 대응한다. 이 예에서, S는 5와 동일하다.

수학식 1에 따르면, 데이터 포인트(905c)와 다른 데이터 포인트(905a, 905b, 905d 및 905e) 각각 사이의 벡터(910a, 910b, 910d 및 910e)(집합적으로, 벡터(910))가 계산된다. 이어서 벡터(910)가 함께 합산된다. 벡터(910)의 합이 대략 0이라는 것이 도 9에서 알게 될 것이다. 구체적으로, 특정 벡터(예를 들면, 벡터(910a)와 벡터(910e))와 연관된 값은 서로를 상쇄시킬 수 있다. 마찬가지로, 벡터(910b)와 벡터(910d)는 서로를 상쇄시킬 수 있다. 그와 같이, 계수 c는 대략 0이고, 이는 데이터 포인트(905c)가 "평탄하고" 따라서 스캔 라인에 남아 있어야 하거나 또는 업데이트된 스캔 라인에 포함되어야 한다는 것을 나타낸다. 데이터 포인트(905c)가 "평탄하다"는 이러한 표시가 도 9에서의 데이터 포인트 그룹(905)의 시각적 묘사에 대응한다는 것에 유의해야 할 것이다.

이와 달리, 도 10은 LiDAR 데이터 포인트(1005c)가 데이터 포인트(905c)의 계수 c보다 더 높은 계수 c를 갖는 것으로 간주되는 LiDAR 데이터 포인트(1005)의 그룹 S를 묘사한다. 도 9와 유사하게, 데이터 포인트(1005c)와 도 10의 다른 데이터 포인트 사이의 다수의 벡터(1010a, 1010b, 1010d 및 1010e)(집합적으로, 벡터(1010))가 계산된다. 이어서 수학식 1과 관련하여 위에서 논의된 바와 같이 계수 c를 계산하기 위해 벡터(1010)가 합산된다.

벡터(1010) 각각의 수평 성분(예를 들면, X-축을 따른 성분)은 도 9와 관련하여 위에서 설명된 것과 유사한 방식으로 서로를 상쇄시킨다. 구체적으로, 벡터(1010a)의 수평 성분은 벡터(1010e)의 수평 성분을 상쇄시킨다. 유사하게, 벡터(1010b)의 수평 성분은 벡터(1010d)의 수평 성분을 상쇄시킨다.

그렇지만, 벡터(1010) 각각은 상쇄되지 않은 수직 성분(예를 들면, Y-축을 따르는 성분)을 추가로 갖는다. 그와 같이, 벡터(1010)의 전체 합은 0보다 크고, 0이 아닌 c를 결과한다.

평탄도 계수 c가 계산되는 방법에 대한 이러한 설명은 일 실시예의 단순화된 예로 간주될 수 있으며, 다른 실시예는 다를 수 있다. 예를 들어, 특정 수학식 1은 일 예로서 의도되고, 다른 변형은 c와 같은 평탄도 계수를 계산하는 데 사용되는 상이한 방정식에 기초할 수 있다. 하나의 예시적인 변형으로서, 데이터 포인트의 그룹 S는, 수학식 1 또는 도 9 또는 도 10과 관련하여 설명된 단일 스캔 라인보다는, 다수의 스캔 라인으로부터의 데이터 포인트를 포함할 수 있다.

평탄도 계수의 사용

도 11은 다양한 실시예에 따른, LiDAR 스캔 라인을 업데이트하는 예시적인 기술을 묘사한다. 일반적으로, 본 기술은 위에서 설명된 바와 같이 평탄도 계수 c의 사용과 관련된다. 본 기술은 LiDAR 시스템(402a)(도 4)과 같은 LiDAR 시스템, 프로세서(204)(도 2)와 같은 프로세서, 제어 모듈(306)(도 3)과 같은 제어 모듈, 로컬화 모듈(308)(도 3)과 같은 로컬화 모듈, 이들의 어떤 조합, 자율 주행 차량의 적어도 하나의 추가 요소에 의해 수행될 수 있다.

처음에, 1105에서 LiDAR 스캔에서의 스캔 라인이 식별된다. 스캔 라인은, 예를 들어, LiDAR 스캔 라인(805) 중 하나와 유사하다. 본 기술은, 1110에서, 스캔 라인에 기초하여 LiDAR 데이터 포인트를 식별하는 단계를 더 포함한다. LiDAR 데이터 포인트는, 예를 들어, LiDAR 데이터 포인트(905 또는 1005)와 유사하고 스캔 라인(들)(805)에서의 LiDAR 데이터 포인트(810)에 기초한다.

본 기술은, 1115에서, 타깃 LiDAR 데이터 포인트 및 이웃하는 LiDAR 데이터 포인트를 식별하는 단계를 더 포함한다. 타깃 LiDAR 데이터 포인트는, 예를 들어,

에 대응하는 LiDAR 데이터 포인트(905c 또는 1005c)이다. 이웃하는 LiDAR 데이터 포인트는, 예를 들어, S 내의 다른 데이터 포인트에 대응하는 LiDAR 데이터 포인트(905a/905b/905d/905e/1005a/1005b/1005d/1005e)이다.

본 기술은, 1120에서, 타깃 LiDAR 데이터 포인트에 대한 평탄도 계수를 계산하는 단계를 더 포함한다. 평탄도 계수, 예를 들어, 위에서 기술된 바와 같이 수학식 1에 따라 계산되는 계수 c. 다른 실시예에서, 평탄도 계수는 추가적으로 또는 대안적으로 상이한 방정식에 따라 또는 적어도 하나의 다른 변수에 따라 계산되는 상이한 계수이다.

본 기술은, 1125에서, 평탄도 계수(예를 들면, c)를 문턱값과 비교하는 단계를 더 포함한다. 일 실시예에서, 위에서 언급된 비교는 평탄도 계수가 문턱값보다 큰지(또는 크거나 같은지) 여부의 식별에 기초하여 수행된다. 다른 실시예에서, 비교는 평탄도 계수가 문턱값보다 작은지(또는 작거나 같은지) 여부의 식별에 기초한다. 다른 실시예에서, 비교는 상이한 유형의 비교이다.

일 실시예에서, 문턱값은 미리 식별된 문턱값이다. 즉, 문턱값은 이전 테스트 또는 어떤 다른 인자에 기초하여 미리 식별된다. 다른 실시예에서, 문턱값은 적어도 부분적으로 동적이다. 예를 들어, 문턱값은 주어진 LiDAR 스캔에서의 다른 데이터 포인트, 스캔 라인에서의 다른 데이터 포인트, 이전에 계산된 계수 등에 대한 분석에 기초한다.

1125에서 계수가 문턱값보다 작은(또는 일 실시예에서, 작거나 같은) 것으로 식별되는 경우, 특정 LiDAR 데이터 포인트(예를 들면,

)는 폐기된다. 본원에서 사용되는 바와 같이, 데이터 포인트를 폐기하는 것은 로컬화를 위해 사용되는 스캔 라인 또는 LiDAR 스캔으로부터 특정 LiDAR 데이터 포인트를 제거하는 것을 지칭한다. 이와 달리, 계수가 문턱값보다 큰(또는 그보다 크거나 같은) 것으로 식별되는 경우, LiDAR 데이터 포인트는 로컬화 모듈(예를 들면, 로컬화 모듈(408))에 의해 프로세싱되는 스캔 라인에 포함된다. 그러한 스캔 라인은 "업데이트된"스캔 라인이라고 지칭된다. 일 실시예에서, 업데이트된 스캔 라인은 폐기된 데이터 포인트가 제거된 기존 스캔 라인이다. 다른 실시예에서, 업데이트된 스캔 라인은 포함된 데이터 포인트에 기초하여 생성되는 새로운 스캔 라인이다.

더 구체적으로는, 일 실시예에서, 계수가 문턱값보다 작은(또는 작거나 같은) 경우, LiDAR 데이터 포인트가 스캔 라인으로부터 폐기될 수 있는 반면, 다른 실시예에서, LiDAR 데이터 포인트가, 예를 들어, 배치 동작(batch operation)에서 스캔 라인으로부터 제거하도록 마킹될 수 있다. 다른 실시예에서, 계수가 문턱값보다 큰(또는 크거나 같은) 경우, LiDAR 데이터 포인트가 스캔 라인으로부터 제거되지 않을 수 있고, 그 대신에, 스캔 라인에 남아 있을 수 있다. 다른 실시예에서, 허용 가능한 평탄도 계수(예를 들면, 문턱값보다 크거나 또는 크거나 같은 계수)를 갖는 것으로 마킹된 LiDAR 데이터 포인트에 기초한 LiDAR 데이터 포인트는 스캔 라인의 새로운 반복에 포함될 수 있다.

도 12는 일 실시예에 따른, LiDAR 스캔 라인을 업데이트하는 대안적인 예시적 기술을 묘사한다. 일반적으로 도 12는 도 11에 보완적인 것으로 간주되며 유사한 요소를 포함한다. 도 11과 유사하게, 본 기술은 LiDAR 시스템(402a)(도 4)과 같은 LiDAR 시스템, 프로세서(204)(도 2)와 같은 프로세서, 제어 모듈(306)(도 3)과 같은 제어 모듈, 로컬화 모듈(308)(도 3)과 같은 로컬화 모듈, 이들의 어떤 조합, 자율 주행 차량의 적어도 하나의 추가 요소에 의해 수행될 수 있다.

본 기술은, 1205에서, LiDAR 스캔 라인에서 제1 LiDAR 데이터 포인트를 식별하는 단계를 포함한다. LiDAR 스캔 라인은, 예를 들어, LiDAR 스캔 라인(805) 중 하나와 유사하다. LiDAR 데이터 포인트는, 예를 들어, LiDAR 데이터 포인트(810, 905 또는 1005)와 유사하다. 더 구체적으로는, 제1 LiDAR 데이터 포인트는 LiDAR 데이터 포인트(905c 또는 1005c) 중 하나와 유사하다.

본 기술은, 1210에서, LiDAR 스캔 라인(1210)에서 제1 LiDAR 데이터 포인트의 부근에 있는 복수의 LiDAR 데이터 포인트를 식별하는 단계를 더 포함한다. 복수의 LiDAR 데이터 포인트는, 예를 들어, S 내의 다른 데이터 포인트이며 데이터 포인트(905a/905b/905d/905e/1005a/1005b/1005d/1005e)를 포함한다. 이전에 언급된 바와 같이, 일 실시예에서 복수의 LiDAR 데이터 포인트 모두는 제1 LiDAR 데이터 포인트와 동일한 스캔 라인에 있는 반면, 다른 실시예에서 복수의 LiDAR 데이터 포인트 중 적어도 하나는 제1 LiDAR 데이터 포인트와 상이한 스캔 라인에 있다.

본 기술은, 1215에서, 제1 LiDAR 데이터 포인트와 복수의 LiDAR 데이터 포인트의 비교에 기초하여, 제1 LiDAR 데이터 포인트의 계수를 식별하는 단계를 더 포함하며, 여기서 계수는 이미지 평탄도(image smoothness)와 관련된다. 비교는, 예를 들어, 수학식 1과 관련하여 위에서 설명된 비교이고, 계수는 c이다. 그렇지만, 이전에 언급된 바와 같이, 다른 실시예에서 비교는 상이한 방정식 또는 적어도 하나의 추가적인 또는 대안적인 인자에 기초한 어떤 다른 유형의 비교이다.

본 기술은, 1220에서, 계수와 문턱값의 비교에 기초하여, LiDAR 복귀 포인트를 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하는 단계를 더 포함한다. 문턱값은, 예를 들어, 요소(1125)와 관련하여 위에서 설명된 문턱값이다. 구체적으로, 문턱값은 위에서 설명된 바와 같이 미리 결정된 문턱값 또는 동적 문턱값이다. 추가적으로, 언급된 바와 같이, 문턱값의 비교는 계수가 문턱값보다 큰지(또는 크거나 같은지) 또는 문턱값보다 작은지(또는 작거나 같은지)를 식별하는 것이다.

계수가 문턱값보다 큰(또는 크거나 같은) 것으로 식별되는 경우, 제1 데이터 포인트가 업데이트된 스캔 라인으로부터 폐기된다. 이와 달리, 계수가 문턱값보다 작은(또는 작거나 같은) 것으로 식별되는 경우, 제1 데이터 포인트가 업데이트된 스캔 라인에 포함된다. 이전에 언급된 바와 같이, 일 실시예에서, 업데이트된 스캔 라인에 포함시키는 것은 데이터 포인트를 기존 스캔 라인으로부터 제거하지 않는 것을 포함한다. 다른 실시예에서, 업데이트된 스캔 라인에 포함시키는 것은 데이터 포인트를 생성되는 새로운 스캔 라인에 포함시키는 것에 기초한다.

본 기술은 이어서, 1225에서, 업데이트된 LiDAR 스캔 라인에 기초하여, AV의 위치를 식별하는 단계를 포함한다. 구체적으로는, 로컬화 모듈(308)과 관련하여 위에서 기술된 바와 같이, 로컬화 모듈(308)은 위치를 계산하기 위해 센서(121)로부터의 데이터(예를 들면, 업데이트된 스캔 라인) 및 데이터베이스 모듈(310)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 위에서 기술된 바와 같이, 나무, 사람 등과 같은 일시적인 요소에 관련된 데이터 포인트를 제거함으로써, 로컬화 모듈(308)은 건물, 도로 등과 같은 비-일시적인 요소에 기초하여 AV의 위치를 식별할 것이다. 그 결과, 로컬화 모듈(308)의 일관성이 향상될 것이며, 이에 의해 AV의 전반적인 운행 효율성을 향상시킬 것이다.

도 11 및 도 12와 관련하여 설명된 기술이 상위 레벨의 예시적인 기술로서 의도되고, 다른 실시예가 이러한 예로부터의 변형을 포함할 것임이 이해될 것이다. 예를 들어, 다양한 실시예는 예시적인 기술에서 묘사된 것보다 더 많거나 더 적은 요소를 갖거나, 또는 묘사된 것과 상이한 배열 또는 순서로 요소를 갖는다. 다른 실시예에서, 다른 변형이 존재할 것이다.

전술한 설명에서, 본 발명의 실시예는 구현마다 달라질 수 있는 다수의 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 관점보다는 예시적인 관점에서 보아야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "더 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims

명령어들을 포함하는 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체에 있어서, 상기 명령어들은, 차량의 하나 이상의 프로세서에 의한 상기 명령어들의 실행 시에, 상기 차량으로 하여금:
LiDAR(light detection and ranging) 스캔 라인에서, 제1 LiDAR 데이터 포인트를 식별하게 하고;
상기 LiDAR 스캔 라인에서 상기 제1 LiDAR 데이터 포인트의 부근에 있는 복수의 LiDAR 데이터 포인트를 식별하게 하며;
상기 제1 LiDAR 데이터 포인트와 상기 복수의 LiDAR 데이터 포인트 중 적어도 하나의 LiDAR 데이터 포인트의 비교에 기초하여, 상기 제1 LiDAR 데이터 포인트의 계수를 식별하게 하고 - 상기 계수는 이미지 평탄도와 관련됨 -;
상기 계수와 문턱값의 비교에 기초하여, 상기 제1 LiDAR 데이터 포인트를 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하게 하며;
상기 업데이트된 LiDAR 스캔 라인에 기초하여, 상기 차량의 위치를 식별하게 하고,
상기 명령어들은 상기 차량으로 하여금
상기 계수가 상기 문턱값 미만인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 포함시키게 하고,
상기 계수가 상기 문턱값 초과인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 추가하지 않게 하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제1항에 있어서, 상기 명령어들은, 상기 계수가 상기 문턱값인 경우, 상기 차량으로 하여금 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 포함시키게 하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제1항에 있어서, 상기 명령어들은, 상기 계수가 상기 문턱값인 경우, 상기 차량으로 하여금 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 추가하지 않게 하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제1항에 있어서, 상기 문턱값은 일시적인 요소의 존재와 연관된 미리 결정된 문턱값인 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제1항에 있어서, 상기 계수의 식별은 상기 제1 LiDAR 데이터 포인트와 상기 복수의 LiDAR 데이터 포인트 중 각각의 LiDAR 데이터 포인트 사이의 벡터의 비교에 기초하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제5항에 있어서, 상기 명령어들은 또한, 상기 차량으로 하여금:
상기 제1 LiDAR 데이터 포인트와 상기 복수의 LiDAR 데이터 포인트 중 제2 LiDAR 데이터 포인트 사이에 벡터를 생성하게 하고;
상기 제1 LiDAR 데이터 포인트와 상기 복수의 LiDAR 데이터 포인트 중 제3 LiDAR 데이터 포인트 사이의 이전에 생성되고 저장된 벡터를 식별하게 하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
제6항에 있어서, 상기 제2 LiDAR 데이터 포인트 또는 상기 제3 LiDAR 데이터 포인트 중 적어도 하나는 상기 LiDAR 스캔 라인에서 상기 제1 LiDAR 데이터 포인트에 인접하는 것인, 하나 이상의 비-일시적 컴퓨터 판독 가능 저장 매체.
방법에 있어서,
적어도 하나의 프로세서에 의해, LiDAR(light detection and ranging) 스캔 라인에서의 제1 LiDAR 데이터 포인트, 상기 LiDAR 스캔 라인에서 상기 제1 LiDAR 데이터 포인트에 인접해 있는 제2 LiDAR 데이터 포인트, 및 상기 LiDAR 스캔 라인에서 상기 제1 LiDAR 데이터 포인트에 인접해 있는 제3 LiDAR 데이터 포인트를 식별하는 단계;
상기 적어도 하나의 프로세서에 의해, 상기 제1 LiDAR 데이터 포인트와 상기 제2 및 제3 LiDAR 데이터 포인트의 비교에 기초하여 상기 제1 LiDAR 데이터 포인트의 계수를 식별하는 단계 - 상기 계수는 이미지 평탄도와 관련됨 -;
상기 적어도 하나의 프로세서에 의해, 상기 계수와 문턱값의 비교에 기초하여 상기 제1 LiDAR 데이터 포인트를 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하는 단계; 및
상기 업데이트된 LiDAR 스캔 라인에 기초하여, 차량의 위치를 식별하는 단계
를 포함하고,
상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하는 단계는
상기 계수가 상기 문턱값 미만인 경우 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 포함시키는 단계; 및
상기 계수가 상기 문턱값 초과인 경우 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인으로부터 폐기하는 단계를 포함하는, 방법.
제8항에 있어서, 상기 적어도 하나의 프로세서에 의해, 상기 계수가 상기 문턱값인 경우 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 포함시키는 단계
를 더 포함하는, 방법.
제8항에 있어서, 상기 적어도 하나의 프로세서에 의해, 상기 계수가 상기 문턱값인 경우 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인으로부터 폐기하는 단계
를 더 포함하는, 방법.
제8항에 있어서, 상기 문턱값은 일시적인 요소의 존재와 연관된 미리 결정된 문턱값인 것인, 방법.
제8항에 있어서, 상기 계수를 식별하는 단계는:
상기 적어도 하나의 프로세서에 의해, 제1 비교 값을 식별하기 위해 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 벡터를 비교하는 단계;
상기 적어도 하나의 프로세서에 의해, 제2 비교 값을 식별하기 위해 상기 제1 LiDAR 데이터 포인트와 상기 제3 LiDAR 데이터 포인트 사이의 벡터를 비교하는 단계; 및
상기 적어도 하나의 프로세서에 의해, 상기 제1 비교 값 및 상기 제2 비교 값에 기초하여 상기 계수를 계산하는 단계를 포함하는 것인, 방법.
제12항에 있어서, 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 상기 벡터를 비교하는 단계는, 상기 적어도 하나의 프로세서에 의해, 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 상기 벡터를 계산하는 단계를 포함하는 것인, 방법.
제12항에 있어서, 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 상기 벡터를 비교하는 단계는, 상기 적어도 하나의 프로세서에 의해, 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 미리 식별된 벡터를 식별하는 단계를 포함하는 것인, 방법.
차량에 있어서,
복수의 LiDAR(light detection and ranging) 데이터 포인트를 포함하는 하나 이상의 LiDAR 스캔 라인을 생성하기 위한 LiDAR 시스템; 및
상기 LiDAR 시스템과 결합된 적어도 하나의 프로세서
를 포함하고, 상기 적어도 하나의 프로세서는:
상기 복수의 LiDAR 데이터 포인트에서, 제1 LiDAR 데이터 포인트, 상기 스캔 라인에서 상기 제1 LiDAR 데이터 포인트에 인접해 있는 제2 LiDAR 데이터 포인트, 및 상기 스캔 라인에서 상기 제1 LiDAR 데이터 포인트에 인접해 있는 제3 LiDAR 데이터 포인트를 식별하고;
상기 제1 LiDAR 데이터 포인트와 상기 제2 및 제3 LiDAR 데이터 포인트의 비교에 기초하여, 상기 제1 LiDAR 데이터 포인트의 계수를 식별하며 - 상기 계수는 이미지 평탄도와 관련됨 -;
상기 계수와 문턱값의 비교에 기초하여, 상기 제1 LiDAR 데이터 포인트를 업데이트된 LiDAR 스캔 라인에 포함시킬지 여부를 식별하고,
상기 적어도 하나의 프로세서는,
상기 계수가 상기 문턱값 미만인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 추가하고,
상기 계수가 상기 문턱값 초과인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인으로부터 폐기하는 것인, 차량.
제15항에 있어서, 상기 적어도 하나의 프로세서는, 상기 계수가 상기 문턱값인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인에 추가하는 것인, 차량.
제15항에 있어서, 상기 적어도 하나의 프로세서는, 상기 계수가 상기 문턱값인 경우, 상기 제1 LiDAR 데이터 포인트를 상기 업데이트된 LiDAR 스캔 라인으로부터 폐기하는 것인, 차량.
제15항에 있어서, 상기 계수를 식별하는 것은:
상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 벡터의 비교에 기초하여 제1 비교 값을 식별하는 것;
상기 제1 LiDAR 데이터 포인트와 상기 제3 LiDAR 데이터 포인트 사이의 벡터의 비교에 기초하여 제2 비교 값을 식별하는 것; 및
상기 제1 비교 값 및 상기 제2 비교 값에 기초하여 상기 계수를 계산하는 것을 포함하는 것인, 차량.
제18항에 있어서, 상기 적어도 하나의 프로세서는 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 상기 벡터를 계산하는 것인, 차량.
제18항에 있어서, 상기 적어도 하나의 프로세서는 상기 제1 LiDAR 데이터 포인트와 상기 제2 LiDAR 데이터 포인트 사이의 미리 계산된 벡터를 식별하는 것인, 차량.