KR102580085B1 - 자율 주행 차량의 성능을 평가하기 위한 테스트 시나리오의 선택 - Google Patents

Abstract

예시적인 방법에서, 컴퓨터 시스템은 자율 주행 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신한다. 또한, 컴퓨터 시스템은, 시나리오들 각각에 대해: (i) 해당 시나리오에서 차량의 관측된 성능을 나타내는 제1 메트릭 - 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및 (ii) 해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정한다. 컴퓨터 시스템은 제1 메트릭 및 제2 메트릭에 기초하여 시나리오들의 서브세트를 선택하고, 시나리오들의 서브세트를 나타내는 제2 데이터를 출력한다.

Description

자율 주행 차량의 성능을 평가하기 위한 테스트 시나리오의 선택{SELECTING TESTING SCENARIOS FOR EVALUATING THE PERFORMANCE OF AUTONOMOUS VEHICLES}

이 설명은 자율 주행 차량(autonomous vehicle)의 성능을 평가하기 위한 테스트 시나리오를 선택하기 위한 컴퓨터 시스템에 관한 것이다.

자율 주행 차량(AV)은 전형적으로 다양한 조건 하에서 AV의 거동을 평가하기 위해 다수의 시나리오에서 테스트된다. 테스트의 결과에 기초하여, AV는 그의 거동을 개선시키기 위해 수정 및/또는 재구성될 수 있다.

일 예로서, 개발 프로세스 동안, AV의 자율 주행 운행 능력은, AV가 횡단해야 하는 도로, 장애물, 다른 차량, 보행자 및 교통 흐름의 상이한 조합을 각각 나타내는, 다수의 시나리오에서 테스트될 수 있다. 테스트의 결과에 기초하여, 개발자는, AV의 자율 주행 운행 능력이 개선되도록, AV를 수정 및/또는 재구성할 수 있다.

도 1은 자율 주행 능력(autonomous capability)을 갖는 AV의 예를 도시한다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 도시한다.
도 3은 컴퓨터 시스템을 도시한다.
도 4는 AV에 대한 예시적인 아키텍처를 도시한다.
도 5는 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 예를 도시한다.
도 6은 LiDAR 시스템의 예를 도시한다.
도 7은 동작 중인 LiDAR 시스템을 도시한다.
도 8은 LiDAR 시스템의 동작을 추가적으로 상세하게 도시한다.
도 9는 계획 모듈의 입력과 출력 사이의 관계의 블록 다이어그램을 도시한다.
도 10은 경로 계획에서 사용되는 방향 그래프(directed graph)를 도시한다.
도 11은 제어 모듈의 입력 및 출력의 블록 다이어그램을 도시한다.
도 12는 제어기의 입력, 출력, 및 컴포넌트의 블록 다이어그램을 도시한다.
도 13은 AV를 반복적으로 프로토타이핑하고 프로토타이핑된 AV의 성능을 검증하기 위한 예시적인 시스템을 도시한다.
도 14a 및 도 14b는 AV의 성능을 테스트하기 위한 시나리오의 단순화된 예를 도시한다.
도 15는 AV의 성능을 테스트하기 위한 시나리오 세트를 선택하기 위한 예시적인 프로세스를 도시한다.
도 16은 테스트되는 시나리오들의 개수와 AV의 성능에 관해 획득되는 총 정보량 간의 단순화된 관계를 도시한다.
도 17은 베이지안 계층 모델의 표현을 도시한다.
도 18은 확률 변수(random variable) X의 예시적인 확률 분포를 도시한다.
도 19는 AV의 성능을 평가하기 위한 2개의 예시적인 타운의 맵을 도시한다.
도 20은 예시적인 컴퓨터화된 시뮬레이션의 모든 시나리오에서 충돌의 확률 분포를 도시한다.
도 21은 예시적인 컴퓨터화된 시뮬레이션에 따른 6개의 예시적인 타운에 대한 루트를 따른 충돌의 분포를 도시한다.
도 22a는 피팅된 베이지안 계층 모델의 관측 불가능 파라미터의 예시적인 사후 분포(posterior distribution)를 도시한다.
도 22b는 베이지안 계층 모델의 예시적인 예측 사후 피팅(predictive posterior fit)을 도시한다.
도 23은 본원에서 기술된 예시적인 시나리오 선택 알고리즘, 라틴 하이퍼큐브 샘플링(Latin Hypercube Sampling) 구현 및 여러 랜덤 선택들에 대한 정보 획득량(information gain)의 비교를 도시한다.
도 24는 하나 이상의 AV의 동작을 모니터링 및 제어하기 위한 예시적인 프로세스의 흐름 다이어그램을 도시한다.

이하의 기술에서는, 설명 목적으로, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항이 기재되어 있다. 그렇지만, 본 발명이 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시되어 있다.

도면에서, 설명의 용이성을 위해, 디바이스, 모듈, 명령어 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정 배열 또는 순서가 도시되어 있다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시하는 것으로 의미되지 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시하는 것으로 의미되지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시하는 것으로 의미되지 않는다.

게다가, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재는 연결, 관계 또는 연관이 존재할 수 없음을 암시하는 것으로 의미되지 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되어 있지 않다. 추가적으로, 예시의 용이성을 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령어들의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.

그 예가 첨부 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.

각각이 서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 사용될 수 있는 여러 특징이 이하에서 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 어떤 것도 해결할 수 없거나 또는 위에서 논의된 문제들 중 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부가 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:

1. 일반적 개관

2. 시스템 개관

3. AV 아키텍처

4. AV 입력

5. AV 계획

6. AV 제어

7. AV 성능 평가 시스템

8. 정보 획득량에 기초하여 시나리오를 선택하기 위한 예시적인 기술

일반적 개관

자율 주행 차량(AV)은 전형적으로 다양한 조건 하에서 AV의 거동을 평가하기 위해 다수의 시나리오에서 테스트된다. 예를 들어, 각각의 시나리오는 AV가 횡단해야 하는 도로, 장애물, 다른 차량, 보행자, 교통 흐름 및 환경 조건의 특정 조합을 명시할 수 있다. AV가 시나리오들 중 하나 이상에서 바람직하지 않게 거동하는 경우(예를 들면, AV가 충돌에 관여되거나, 도로 규칙을 위반하는 경우 등), AV가 미래에 해당 거동을 나타낼 가능성이 더 적도록, AV의 거동이 수정될 수 있다.

일부 경우에, 특정 리소스 버짓(resource budget)이 주어지면, AV의 성능에 관해 획득되는 정보량을 최대화하도록 시나리오 세트가 선택될 수 있다. 예를 들어, AV의 성능은 특정 확률 분포를 갖는 확률 변수로서 표현될 수 있다. 게다가, 해당 확률 변수의 엔트로피가 감소되도록, 하나 이상의 시나리오를 사용하여 테스트가 수행될 수 있다. 테스트를 수행하는 데 사용될 때, 특정 정도만큼 확률 변수의 엔트로피를 감소시키는 시나리오가 비교적 더 작은 정도만큼 엔트로피를 감소시키는 시나리오보다 선택에 우선순위를 부여받을 수 있다. 게다가, AV의 자율 주행 내비게이션 시스템의 개발 및 검증 동안 AV의 성능을 평가하기 위해, 선택된 시나리오 세트가 표준 테스트 배터리(standard battery of tests)에 포함될 수 있다.

이러한 기술의 장점들 중 일부는 AV의 성능이 테스트될 수 있는 효율성과 속도를 개선시키는 것을 포함한다.

예를 들어, 전통적인 접근법에서, AV는, 각각의 테스트 시나리오로부터 획득되는 정보량을 고려하지 않고, 브루트 포스(brute force) 방식으로 많은 개수의 시나리오에서 테스트될 수 있다. 일부 시나리오는 AV의 성능을 평가할 때 증거 가치(probative value)를 거의 제공하지 않을 수 있고/있거나 다른 시나리오의 관점에서 중복적일 수 있으므로, 이러한 시나리오를 테스트하는 데 리소스가 낭비될 수 있다. 게다가, 테스트되는 각각의 연속적인 시나리오가 AV의 성능을 평가하는 데 수확 체감(diminishing returns)을 제공할 수 있으므로, AV의 성능에 관한 비교적 적은 유용한 정보를 획득하는 데 상당한 리소스가 전용될 수 있다.

대조적으로, 본원에서 설명된 기술은 AV의 성능이 더 빠르고 효율적으로 테스트될 수 있게 한다. 예를 들어, 시나리오 세트 내의 시나리오들 각각이 AV의 성능을 평가하는 데 유용한 정보를 제공하도록, 제한된 시나리오 세트가 테스트를 위해 선택될 수 있다. 게다가, 세트가 수확 체감의 효과를 완화시키도록 선택될 수 있다. 따라서, AV의 성능이 (예를 들면, 브루트 포스 접근법에서 이용될 수 있는 테스트 시나리오들의 개수와 비교하여) 더 적은 개수의 테스트 시나리오를 사용하여 결정될 수 있다.

일부 구현예에서, 이러한 기술은 (예를 들면, 개발자가 AV에 의한 바람직하지 않은 거동을 더 빠르게 식별할 수 있게 함으로써 그 거동이 교정될 수 있도록 하는 것에 의해) AV 자율 주행 내비게이션 시스템의 개발 및 검증을 가속화할 수 있다. 게다가, 이러한 기술은 AV가 특정 안전 목표 또는 요구사항(예를 들면, 원하는 안전 레벨)을 충족시키는지 여부를 결정하는 데 사용될 수 있다.

시스템 개관

도 1은 자율 주행 능력을 갖는 AV(100)의 예를 도시한다.

본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 AV, 고도의 AV, 및 조건부 AV를 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작될 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.

본원에서 사용되는 바와 같이, AV는 자율 주행 능력을 갖는 차량이다.

본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 예이다.

본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.

본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그-디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.

본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.

본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물에서의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.

본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 부분이다. 차선은 때때로 차선 마킹에 기초하여 식별된다. 예를 들어, 차선은 차선 마킹들 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹들 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹들을 갖는 도로는, 하나의 차량이 차선 마킹을 횡단하지 않으면서 다른 차량을 추월할 수 있도록, 마킹들 사이에 둘 이상의 차량을 수용할 수 있으며, 따라서 차선 마킹들 사이의 공간보다 좁은 차선을 갖거나 차선 마킹들 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징부, 예를 들면, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무 또는, 예를 들면, 미개발 지역에서의 피할 자연 장애물에 기초하여 규정될 수 있다. 차선은 또한 차선 마킹 또는 물리적 특징부와 무관하게 해석될 수 있다. 예를 들어, 차선은 차선 경계로서 해석될 특징부가 달리 없는 영역에서 장애물이 없는 임의의 경로에 기초하여 해석될 수 있다. 예시적인 시나리오에서, AV는 들판 또는 공터의 장애물 없는 부분을 통해 차선을 해석할 수 있다. 다른 예시적인 시나리오에서, AV는 차선 마킹을 갖지 않는 넓은(예를 들면, 2개 이상의 차선을 위해 충분히 넓은) 도로를 통해 차선을 해석할 수 있다. 이 시나리오에서, AV는 차선에 관한 정보를 다른 AV에 통신할 수 있음으로써, 다른 AV가 동일한 차선 정보를 사용하여 그 자신들 간에 경로 계획을 조정할 수 있다.

본 명세서에서 사용되는 바와 같이, "호모토피(homotopy)"는 AV가 특정 루트를 횡단하는 동안 준수할 수 있는 AV의 궤적에 대한 제약 세트의 서브세트를 의미한다.

본원에서 사용되는 바와 같이, "실현 가능(feasible)"은 AV가 목적지로 주행하는 동안 호모토피 내의 제약을 준수할 수 있는지 여부를 의미한다.

"하나 이상"은 하나의 요소에 의해 수행되는 기능, 둘 이상의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.

또한, 제1, 제2 등의 용어가, 일부 예에서, 다양한 요소를 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.

본원에 기술된 다양한 실시예에 대한 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항에 대한 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 나타내지 않는 한, 복수형을 포함하는 것으로 의도된다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 일부 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. "포함한다" 및/또는 "포함하는"이라는 용어가, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명시하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 추가로 이해될 것이다.

본원에서 사용되는 바와 같이, "~ 경우"라는 용어는, 선택적으로, 문맥에 따라 "~할 때", 또는 "~시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "~을 검출하는 것에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는, 선택적으로, 문맥에 따라, "~라고 결정할 시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시에" 또는 "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여"를 의미하는 것으로 해석된다.

본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는 하드웨어, 소프트웨어, 저장된 데이터 및 실시간으로 생성되는 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 3과 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(300)과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.

일반적으로, 본 문서는 완전한 AV, 고도의 AV, 및 조건부 AV, 예컨대, 제각기 소위 레벨 5, 레벨 4 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 설명한다(차량의 자율성의 레벨 분류에 대한 추가 세부 사항에 대해서는, 참조에 의해 그 전체가 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본 문서에서 설명되는 기술은 부분적 AV 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 AV로부터 인간 운전 차량에 이르는, 임의의 레벨의 차량에 혜택을 줄 수 있다.

AV는 인간 운전자를 필요로 하는 차량에 비해 장점이 있다. 한 가지 장점은 안전성이다. 예를 들어, 2016년에, 미국은, 9100억 달러 초과의 사회적 비용으로 추정되는, 600만 건의 자동차 사고, 240만 건의 부상, 4만 명의 사망자수, 및 1300만 건의 차량 충돌을 경험하였다. 1억 마일 주행당 미국 교통 사망자수는, 부분적으로 차량에 설치된 추가적인 안전 대책으로 인해, 1965년과 2015년 사이에 약 6명으로부터 약 1명으로 감소되었다. 예를 들어, 충돌이 발생할 것이라는 추가적인 0.5초의 경고는 전후 충돌의 60%를 완화시키는 것으로 여겨진다. 그렇지만, 수동적 안전 특징부(예를 들면, 안전 벨트, 에어백)는 이 수치를 개선시키는 데 한계에 도달했을 것이다. 따라서, 차량의 자동 제어와 같은, 능동적 안전 대책이 이러한 통계를 개선시키는 데 유력한 다음 단계이다. 인간 운전자가 충돌의 95%에서 중요한 충돌전 이벤트에 책임있는 것으로 여겨지기 때문에, 자동 운전 시스템은, 예를 들면, 중요한 상황을 인간보다 잘 신뢰성 있게 인식하고 피하는 것에 의해; 더 나은 의사 결정을 하고, 교통 법규를 준수하며, 미래의 이벤트를 인간보다 더 잘 예측하는 것에 의해; 및 차량을 인간보다 더 잘 신뢰성 있게 제어하는 것에 의해 더 나은 안전성 결과를 달성할 수 있다.

도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 타는 사람, 및 다른 장애물)를 피하고 도로 법규(예를 들면, 동작 규칙 또는 운전 선호사항)를 준수하면서, AV(100)를 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 차량으로 하여금 액션(예를 들면, 운전 기동)을 수행하게 하는 실행 가능 명령어(또는 명령어들 세트)를 의미하기 위해 "동작 커맨드"라는 용어를 사용한다. 동작 커맨드는, 제한 없이, 차량이 전진을 시작하고, 전진을 중지하며, 후진을 시작하고, 후진을 중지하며, 가속하고, 감속하며, 좌회전을 수행하고, 우회전을 수행하기 위한 명령어들을 포함할 수 있다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.

일 실시예에서, AV 시스템(120)은 AV의 위치, 선속도와 각속도 및 선가속도와 각가속도, 및 헤딩(heading)(예를 들면, AV(100)의 선단의 배향)와 같은 AV(100)의 상태 또는 조건의 속성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.

일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지하거나 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, 비행 시간(time-of-flight, TOF) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강수 센서.

일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령어들 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신된다.

일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 AV(100)를 향한 선형 헤딩(linear heading)과 각도 헤딩(angular heading)의 측정되거나 추론된 속성을 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, AV와의 통신 및 AV들 간의 통신을 위한 하나 이상의 통신 표준에 따른다.

일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 도 2에 기술된 바와 같은 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스(140)는 센서(121)로부터 수집된 데이터 또는 AV(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)로 송신한다. 일 실시예에서, 통신 인터페이스(140)는 원격 운용(teleoperation)에 관련되는 정보를 AV(100)로 송신한다. 일부 실시예에서, AV(100)는 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신된다.

일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 하루 중 시간(time of day)에 궤적(198)을 따라 이전에 주행한 차량의 운전 속성(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신될 수 있다.

AV(100) 상에 위치된 컴퓨팅 디바이스(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 운전 능력을 실행할 수 있게 한다.

일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 그로부터 입력을 수신하기 위해 컴퓨팅 디바이스(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 컨트롤러(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.

일 실시예에서, AV 시스템(120)은, 예를 들면, 승객에 의해 명시되거나 승객과 연관된 프로파일에 저장된, 승객의 프라이버시 레벨을 수신하고 시행한다. 승객의 프라이버시 레벨은 승객과 연관된 특정 정보(예를 들면, 승객 편의 데이터, 생체 측정 데이터 등)가 사용되도록, 승객 프로파일에 저장되도록, 그리고/또는 클라우드 서버(136)에 저장되어 승객 프로파일과 연관되도록 할 수 있는 방법을 결정한다. 일 실시예에서, 프라이버시 레벨은 일단 라이드(ride)가 완료되면 삭제되는 승객과 연관된 특정 정보를 명시한다. 일 실시예에서, 프라이버시 레벨은 승객과 연관된 특정 정보를 명시하고 정보에 액세스하도록 인가된 하나 이상의 엔티티를 식별해 준다. 정보에 액세스하도록 인가되어 있는 명시된 엔티티의 예는 다른 AV, 서드파티 AV 시스템, 또는 정보에 잠재적으로 액세스할 수 있는 임의의 엔티티를 포함할 수 있다.

승객의 프라이버시 레벨은 하나 이상의 입도(granularity) 레벨로 명시될 수 있다. 일 실시예에서, 프라이버시 레벨은 저장 또는 공유될 특정 정보를 식별해 준다. 일 실시예에서, 승객이 자신의 개인 정보가 저장 또는 공유되지 않게 명시할 수 있도록 승객과 연관된 모든 정보에 프라이버시 레벨이 적용된다. 특정 정보에 액세스하도록 허용된 엔티티의 명시는 다양한 입도 레벨로 명시될 수 있다. 특정 정보에 액세스하도록 허용되는 다양한 엔티티 세트는, 예를 들어, 다른 AV, 클라우드 서버(136), 특정 서드파티 AV 시스템 등을 포함할 수 있다.

일 실시예에서, AV 시스템(120) 또는 클라우드 서버(136)는 승객과 연관된 특정 정보가 AV(100) 또는 다른 엔티티에 의해 액세스될 수 있는지를 결정한다. 예를 들어, 특정 시공간적 위치에 관련된 승객 입력에 액세스하려고 시도하는 서드파티 AV 시스템은 승객과 연관된 정보에 액세스하기 위해, 예를 들면, AV 시스템(120) 또는 클라우드 서버(136)로부터 인가를 획득해야 한다. 예를 들어, AV 시스템(120)은 시공간적 위치에 관련된 승객 입력이 서드파티 AV 시스템, AV(100), 또는 다른 AV에 제공될 수 있는지 여부를 결정하기 위해 승객의 명시된 프라이버시 레벨을 사용한다. 이것은 승객의 프라이버시 레벨이 어느 다른 엔티티가 승객의 액션에 관한 데이터 또는 승객과 연관된 다른 데이터를 수신하도록 허용되는지를 명시할 수 있게 한다.

도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스(예를 들면, 네트워크, 네트워크 대역폭, 서버, 프로세싱, 메모리, 스토리지, 애플리케이션, 가상 머신, 및 서비스)의 공유 풀에 대한 편리한 온-디맨드 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템에서는, 하나 이상의 대규모 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스를 전달하는 데 사용되는 머신을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 데이터 센터(204a, 204b, 및 204c)는 클라우드 컴퓨팅 서비스를 클라우드(202)에 연결된 컴퓨터 시스템(206a, 206b, 206c, 206d, 206e, 및 206f)에 제공한다.

클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정 부분을 구성하는 서버들의 물리적 배열체를 지칭한다. 예를 들어, 서버는 클라우드 데이터 센터에서 룸(room), 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역(zone)을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 일부 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버는, 전력 요구사항, 에너지 요구사항, 열적 요구사항, 발열 요구사항, 및/또는 다른 요구사항을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요구사항에 기초하여 그룹으로 배열된다. 일 실시예에서, 서버 노드는 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 다수의 랙에 걸쳐 분산된 다수의 컴퓨팅 시스템을 갖는다.

클라우드(202)는 클라우드 데이터 센터(204a, 204b, 및 204c)를 상호연결시키고 클라우드 컴퓨팅 서비스에 대한 컴퓨팅 시스템(206a 내지 206f)의 액세스를 용이하게 하는 것을 돕는 네트워크 및 네트워킹 리소스(예를 들어, 네트워킹 장비, 노드, 라우터, 스위치, 및 네트워킹 케이블)와 함께 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결을 사용하여 배포된 유선 또는 무선 링크를 사용하여 결합된 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 통해 교환되는 데이터는, IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은, 임의의 개수의 네트워크 계층 프로토콜을 사용하여 전송된다. 게다가, 네트워크가 다수의 서브 네트워크의 조합을 나타내는 실시예에서는, 기저 서브 네트워크(underlying sub-network) 각각에서 상이한 네트워크 계층 프로토콜이 사용된다. 일부 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.

컴퓨팅 시스템(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자는 네트워크 링크 및 네트워크 어댑터를 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다양한 컴퓨팅 디바이스, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, AV(자동차, 드론, 셔틀, 기차, 버스 등을 포함함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다른 시스템 내에 또는 그 일부로서 구현된다.

도 3은 컴퓨터 시스템(300)을 예시한다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정 배선(hard-wired)되거나, 또는 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 또는 펌웨어, 메모리, 다른 스토리지 또는 그 조합 내의 프로그램 명령어들에 따라 이 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스는 또한 커스텀 고정 배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 이 기술을 실현할 수 있다. 다양한 실시예에서, 특수 목적 컴퓨팅 디바이스는 이 기술을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.

일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(302)와 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 프로세서(304)에 의해 실행될 명령어들 및 정보를 저장하기 위한, 버스(302)에 결합된 메인 메모리(306), 예컨대, RAM(random access memory) 또는 다른 동적 저장 디바이스를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령어들의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령어들은, 프로세서(304)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(300)을 명령어들에 명시된 동작을 수행하도록 커스터마이징된 특수 목적 머신으로 만든다.

일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)를 위한 정적 정보 및 명령어들을 저장하기 위한, 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 더 포함한다. 정보 및 명령어들을 저장하기 위한, 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 버스(302)에 결합된다.

일 실시예에서, 컴퓨터 시스템(300)은 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(312)에 버스(302)를 통해 결합된다. 정보 및 커맨드 선택을 프로세서(304)에 통신하기 위한 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(314)가 버스(302)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(304)에 통신하고 디스플레이(312) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(316)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 명시할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x 축) 및 제2 축(예를 들면, y 축)에서의 2 자유도를 갖는다.

일 실시예에 따르면, 본원에서의 기술은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령어들의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령어들은, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령어들 시퀀스의 실행은 프로세서(304)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서, 소프트웨어 명령어들 대신에 또는 소프트웨어 명령어들과 조합하여 고정 배선 회로가 사용된다.

"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신으로 하여금 특정 방식으로 동작하게 하는 데이터 및/또는 명령어들을 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.

저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 구성하는 와이어를 포함한, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 음향파 또는 광파의 형태를 취할 수 있다.

일 실시예에서, 실행을 위해 하나 이상의 명령어들의 하나 이상의 시퀀스를 프로세서(304)로 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령어들은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 자신의 동적 메모리에 명령어들을 로딩하고 모뎀을 사용하여 전화선을 통해 명령어들을 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선을 통해 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 둔다. 버스(302)는 데이터를 메인 메모리(306)로 반송하고, 프로세서(304)는 메인 메모리로부터 명령어들을 검색 및 실행한다. 메인 메모리(306)에 의해 수신된 명령어들은 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.

컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결된 네트워크 링크(320)에 대한 양방향 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 대한 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 대한 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.

네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)에 대한 연결 또는 ISP(Internet Service Provider)(326)에 의해 운영되는 클라우드 데이터 센터 또는 장비에 대한 연결을 제공한다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(322) 및 인터넷(328) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(300)으로 및 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.

컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해, 프로그램 코드를 포함하여, 메시지를 전송하고 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고/되거나 추후의 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.

AV 아키텍처

도 4는 AV(예를 들면, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 도시한다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈들(402, 404, 406, 408, 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈들(402, 404, 406, 408, 및 410) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이들 중 일부 또는 전부의 조합)의 조합이다. 모듈들(402, 404, 406, 408, 및 410) 각각은 때때로 프로세싱 회로(예를 들면, 컴퓨터 하드웨어, 컴퓨터 소프트웨어, 또는 이 둘의 조합)라고 지칭된다. 모듈들(402, 404, 406, 408, 및 410) 중 일부 또는 전부의 조합은 또한 프로세싱 회로의 예이다.

사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달하기 위해(예를 들면, 도착하기 위해) AV(100)에 의해 주행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.

인지 모듈(402)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(416)를 포함하는 장면 묘사는 계획 모듈(404)에 제공된다.

계획 모듈(404)은 또한 로컬화 모듈(408)로부터 AV 위치(418)를 나타내는 데이터를 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 GNSS(Global Navigation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 속성의 고정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 교통 차선들과 자전거 타는 사람 교통 차선들의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다. 일 실시예에서, 고정밀 맵은 자동 또는 수동 주석 달기를 통해 저정밀 맵에 데이터를 추가하는 것에 의해 구성된다.

제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)를 향해 궤적(414)을 주행하게 할 방식으로 AV의 제어 기능(420a 내지 420c)(예를 들면, 조향, 스로틀링, 제동, 점화 시스템)을 동작시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 왼쪽으로 회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능(420a 내지 420c)을 동작시킬 것이다.

AV 입력

도 5는 인지 모듈(402)(도 4)에 의해 사용되는 입력(502a 내지 502d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(504a 내지 504d)(예를 들면, 센서 데이터)의 예를 도시한다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 가시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.

다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 가시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.

다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지할 수 있게 하는, 예를 들면, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV를 기준으로 한 것이다. 일부 실시예에서, 카메라 시스템은 멀리 있는, 예를 들면, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성된다. 따라서, 일부 실시예에서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 갖는다.

다른 입력(502d)은 교통 신호등 검출(traffic light detection, TLD) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상이다.

일부 실시예에서, 출력(504a 내지 504d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템에 제공되거나(예를 들면, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 결합된 출력이 동일한 유형(동일한 결합 기술을 사용하는 것 또는 동일한 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 결합 기술을 사용하는 것 또는 상이한 각자의 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력들을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력들에 적용된 후에 출력들을 결합하는 것을 특징으로 한다.

도 6은 LiDAR 시스템(602)(예를 들면, 도 5에 도시된 입력(502a))의 예를 도시한다. LiDAR 시스템(602)은 광 방출기(606)(예를 들면, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들면, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체를 관통하지 않는다). LiDAR 시스템(602)은 또한 반사된 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(614)를 나타내는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계(616)를 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계(616)를 결정하는 데 사용된다.

도 7은 동작 중인 LiDAR 시스템(602)을 도시한다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템은 이미지(702)를 데이터 포인트(704)와 비교한다. 특히, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.

도 8은 LiDAR 시스템(602)의 동작을 추가적으로 상세하게 도시한다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 LiDAR 시스템(602)으로 다시 반사할 것이다. AV(100)가 지면(802) 위를 주행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 및 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트(810a 및 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.

경로 계획

도 9는 (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력과 출력 사이의 관계의 블록 다이어그램(900)을 도시한다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들면, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들면, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 정의된다. 예를 들어, 세그먼트는 거리, 도로, 간선도로, 사유 도로, 또는 자동차 주행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 주행되는 거리이다. 일부 예에서, 예를 들어, AV(100)가 4륜 구동(4WD) 또는 상시 4륜구동(AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프-로드 주행 가능 차량인 경우, 루트(902)는 비포장 경로 또는 탁트인 들판과 같은 "오프-로드" 세그먼트를 포함한다.

루트(902)에 추가하여, 계획 모듈은 차선 레벨 루트 계획 데이터(908)도 출력한다. 차선 레벨 루트 계획 데이터(908)는 특정 시간에서의 세그먼트의 조건에 기초하여 루트(902)의 세그먼트를 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 간선도로를 포함하는 경우, 차선 레벨 루트 계획 데이터(908)는, 예를 들어, 출구가 다가오고 있는지, 차선들 중 하나 이상이 다른 차량을 갖는지, 또는 수 분 이하 동안에 걸쳐 변화되는 다른 인자에 기초하여, AV(100)가 다중 차선 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예에서, 차선 레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자 또는 예상치 못한 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 더 느린 주행 속력, 예를 들면, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.

일 실시예에서, 계획 모듈(404)에 대한 입력은 (예를 들면, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들면, 도 4에 도시된 AV 위치(418)), (예를 들면, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들면, 도 4에 도시된 인지 모듈(402)에 의해 인지되는 바와 같은 분류된 대상체(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는, "규칙집(rulebook)"이라고도 지칭되는, 계획에 사용되는 규칙을 포함한다. 규칙은 형식 언어를 사용하여, 예를 들어, 불리언 논리 또는 선형 시간 논리(linear temporal logic, LTL)를 사용하여 규정된다. AV(100)가 조우하는 임의의 주어진 상황에서, 규칙들 중 적어도 일부가 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들면, 주위 환경에 관한 정보에 기초하여 충족되는 조건을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙은 우선순위를 가질 수 있다. 예를 들어, "도로가 프리웨이인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 낮은 우선순위를 가질 수 있다.

도 10은, 예를 들면, 계획 모듈(404)(도 4)에 의해 경로 계획에서 사용되는 방향 그래프(1000)를 도시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계에서는, 시작 포인트(1002)와 종료 포인트(1004)를 분리시키는 거리는 상대적으로 클 수 있거나(예를 들면, 2개의 상이한 대도시 지역에 있음) 또는 상대적으로 작을 수 있다(예를 들면, 도시 블록과 맞닿아 있는 2개의 교차로 또는 다중 차선 도로의 2개의 차선).

일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치를 나타내는 노드(1006a 내지 1006d)를 갖는다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 상이한 대도시 지역을 나타낼 때, 노드(1006a 내지 1006d)는 도로의 세그먼트를 나타낸다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 동일한 도로 상의 상이한 위치를 나타낼 때, 노드(1006a 내지 1006d)는 해당 도로 상의 상이한 위치를 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 입도 레벨로 정보를 포함한다. 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 더 큰 스케일을 갖는 다른 방향 그래프의 서브그래프(subgraph)이다. 예를 들어, 시작 포인트(1002)와 종료 포인트(1004)가 멀리 떨어져 있는(예를 들면, 수 마일 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시야 내의 물리적 위치를 나타내는 그래프의 부분에 대한 일부 높은 입도 정보도 포함한다.

노드(1006a 내지 1006d)는 노드와 중첩될 수 없는 대상체(1008a 및 1008b)와 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체(1008a 및 1008b)는 자동차에 의해 횡단될 수 없는 영역, 예를 들면, 거리 또는 도로가 없는 구역을 나타낸다. 입도가 높을 때, 대상체(1008a 및 1008b)는 AV(100)의 시야 내의 물리적 대상체, 예를 들면, 다른 자동차, 보행자, 또는 AV(100)와 물리적 공간을 공유할 수 없는 다른 엔티티를 나타낸다. 일 실시예에서, 대상체들(1008a 및 1008b) 중 일부 또는 전부는 정적 대상체(예를 들면, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체(예를 들면, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.

노드(1006a 내지 1006d)는 에지(1010a 내지 1010c)에 의해 연결된다. 2개의 노드(1006a 및 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들면, 다른 노드(1006b)에 도착하기 전에 중간 노드로 주행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 주행하는 것이 가능하다. (즉, AV(100)는 각자의 노드에 의해 표현되는 2개의 물리적 위치 사이를 주행한다). 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 주행한다는 의미에서 종종 양방향성이다. 일 실시예에서, 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로 주행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 주행할 수 없다는 의미에서 단방향성이다. 에지(1010a 내지 1010c)는, 예를 들어, 일방통행로, 거리, 도로, 또는 간선도로의 개별 차선, 또는 법적 또는 맵 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부를 나타낼 때, 단방향성이다.

일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드 및 에지로 구성된 경로(1012)를 식별한다.

에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스를 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2배인 물리적 거리를 나타내는 경우, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2배일 수 있다. 시간에 영향을 미치는 다른 인자는 예상된 교통, 교차로들의 개수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비이다. 2개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들면, 도로 조건, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 더 많은 연료를 필요로 할 수 있다.

계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들면, 에지의 개별 비용이 함께 가산될 때 가장 적은 총 비용을 갖는 경로를 선택한다.

AV 제어

도 11은 (예를 들면, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력 및 출력의 블록 다이어그램(1100)을 도시한다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들면, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들면, 메모리 랜덤 액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(308), 및 저장 디바이스(310)를 포함하는 제어기(1102), 및 메모리 내에 저장된 명령어들에 따라 동작하는데, 상기 명령어들은 명령어들이 (예를 들면, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작을 수행한다.

일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들면, 속력 및 헤딩을 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해, 예를 들면, 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여함으로써, AV(100)의 스로틀(예를 들면, 가속 제어)에 관여하는 정도를 나타낸다. 일부 예에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들면, 감속 제어)에 관여하는 데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들면, AV의 조향 컨트롤(예를 들면, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)이 원하는 출력(1104)을 달성하도록 위치설정되어야 하는 각도를 나타낸다.

일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 임의의 측정된 출력(1114)은, 예를 들어, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 헤딩을 포함함), 측정된 가속도(1120), 및 AV(100)의 센서에 의해 측정 가능한 다른 출력을 포함한다.

일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들면, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 이어서, 예측 피드백 모듈(1122)은 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서가 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 방지하도록 적절한 시간에 스로틀에 관여할 준비를 하기 위해 제어기(1102)에 의해 사용될 수 있다.

도 12는 제어기(1102)의 입력, 출력, 및 컴포넌트의 블록 다이어그램(1200)을 도시한다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 동작에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들면, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 명령한다.

제어기(1102)는 또한 조향 제어기(1210)의 동작에 영향을 미치는 횡방향 추적 제어기(1208)를 갖는다. 예를 들어, 횡방향 추적 제어기(1208)는, 예를 들면, 제어기(1102)에 의해 수신되고 횡방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향각 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1210)에 명령한다.

제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 동작을 시작할 때 헤딩을 선택하기 위해 그리고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력(1214)으로부터의 정보, 예를 들어, 데이터베이스, 컴퓨터 네트워크 등으로부터 수신된 정보를 수신한다.

자율 주행 차량 성능 평가 시스템

컴퓨터화된 성능 평가 시스템이 자율 주행 동작을 수행할 때 AV의 거동을 평가하도록 구성될 수 있다. 예를 들어, AV(예를 들면, 도 1 내지 도 12를 참조하여 기술된 바와 같은, AV(100))는, 한 위치로부터 다른 위치로의 경로를 자율적으로 결정하고 해당 경로를 횡단하는 것과 같은, 자율 주행 운행 동작을 수행하도록 구성될 수 있다. 게다가, 성능 평가 시스템은 이러한 동작을 수행할 때 AV의 안전성, 효율성 및 유효성을 테스트하기 위해 시나리오 세트를 선택할 수 있다. 일부 구현예에서, 성능 평가 시스템은 컴퓨터화된 가상 환경에서 AV의 거동을 테스트하기 위해 하나 이상의 시뮬레이션된 시나리오를 사용하여 테스트들 중 적어도 일부를 수행할 수 있다. 일부 구현예에서, 테스트들 중 적어도 일부는 물리적 환경에서의 AV의 실제 거동을 테스트하기 위해 하나 이상의 현실 세계 시나리오를 사용하여 수행될 수 있다.

게다가, AV의 성능을 개선시키기 위해 테스트에 기초하여 AV가 수정 및/또는 재구성될 수 있다. 예를 들어, AV가 자율 주행 동작을 수행할 때 더 안전하고 효율적이며 및/또는 효과적으로 작동하도록, AV의 하나 이상의 컴포넌트, 해당 컴포넌트의 구성 및/또는 AV의 규칙집이 테스트에 기초하여 수정될 수 있다. 일 예로서, 테스트에서 AV가 특정 조건 하에서 안전하지 않거나 달리 바람직하지 않은 방식으로 거동하는 것으로 밝혀지면, AV가 미래에 해당 조건에서 해당 방식으로 거동할 가능성을 감소시키기 위해 AV가 수정 및/또는 재구성될 수 있다.

일부 구현예에서, 성능 평가 시스템은 AV를 개발하기 위한 반복적인 프로토타이핑 및 검증 프로세스의 일부로서 사용될 수 있다. 예를 들어, AV에 의한 안전하지 않거나 달리 바람직하지 않은 거동을 점증적으로 식별 및 정정하기 위해 AV의 구성이 대안적으로 연속적으로 여러 번 검증 및 수정될 수 있다.

도 13은 AV를 반복적으로 프로토타이핑하고 프로토타이핑된 AV의 성능을 검증하기 위한 예시적인 시스템(1300)을 도시한다. 시스템(1300)은 AV 프로토타이핑 시스템(1302) 및 AV 성능 평가 시스템(1304)을 포함한다.

AV 프로토타이핑 시스템(1302)은, 적어도 부분적으로, 하나 이상의 컴퓨터 시스템(예를 들면, 도 1 내지 도 3에 도시된 바와 같은, 클라우드 서버(136), 컴퓨팅 환경(200) 및/또는 컴퓨터 시스템(300))을 사용하여 구현될 수 있다. AV 프로토타이핑 시스템(1302)의 예시적인 동작 동안, AV 프로토타이핑 시스템(1302)은 AV에 대한 구성을 결정한다. 예를 들어, AV 프로토타이핑 시스템(1302)은 AV에 대한 하나 이상의 규칙집(1306), 하드웨어 구성(1308) 및/또는 소프트웨어 구성(1310)을 결정할 수 있다.

(예를 들면, 도 4 및 도 9를 참조하여) 위에서 기술된 바와 같이, 규칙집(1306)은 AV에 대한 경로를 계획하기 위해 계획 모듈(예를 들면, 계획 모듈(404))에 의해 사용되는 하나 이상의 규칙을 포함한다. 예를 들어, AV가 조우하는 특정 상황이 주어지면, 규칙집의 규칙들 중 일부가 해당 상황에 적용될 수 있다. AV는 적용 가능한 규칙에 따라 하나 이상의 액션을 자율적으로 수행할 수 있다. 예를 들어, (예를 들면, 도 11을 참조하여) 위에서 기술된 바와 같이, AV는 규칙에 따라 특정 방식으로 조향하고, 스로틀을 적용하며/하거나 브레이크를 밟을 수 있다.

예를 들어, 규칙집은 적어도 하나의 교통 규칙을 포함할 수 있다. 예를 들어, 교통 규칙은 AV가 교통 신호를 준수하고, 교통 흐름에 따라 운전하며, 일부 또는 모든 조건 하에서 법정 속력을 유지하도록 명시할 수 있다.

다른 예로서, 규칙집은 적어도 하나의 안전 규칙을 포함할 수 있다. 예를 들어, 안전 규칙은 AV가 다른 대상체와의 충돌을 피하고, 다른 차량 및 보행자와의 안전 거리를 유지하며, 충돌 또는 달리 안전하지 않은 상황을 피하기 위해 회피 기동을 수행하도록 명시할 수 있다.

다른 예로서, 규칙집은 적어도 하나의 승객 편의 규칙을 포함할 수 있다. 예를 들어, 승객 편의 규칙은 AV가 매끄럽게 가속 및 감속하고 매끄럽게 방향 전환하도록 명시할 수 있다.

다른 예로서, 규칙집은 적어도 하나의 차량 성능 규칙을 포함할 수 있다. 예를 들어, 차량 성능 규칙은 AV가 차량의 특정 속력, 제동, 가속 및 방향전환 제한으로 유지되도록 명시할 수 있다.

일부 구현예에서, 규칙집(1306)은 또한 AV의 성능을 평가하는 데 사용될 수 있다. 예를 들어, 규칙집(1306)은 AV의 특정의 원하는 거동(예를 들면, 하나 이상의 교통 규칙, 안전 규칙, 승객 편의 규칙, 승객 편의 규칙 및/또는 AV의 원하는 거동을 명시하는 임의의 다른 규칙의 조합)을 정의할 수 있다. 규칙집(1306) 내의 규칙의 위반은 위반 메트릭(예를 들면, AV가 바람직하지 않은 동작을 수행한 빈도 및/또는 해당 위반의 심각도를 나타내는 수치 점수)의 증가를 결과할 수 있다. 규칙집의 다양한 규칙들이 위에서 기술되어 있지만, 이들은 예시적인 예에 불과하다. 실제로, 규칙집은, 위에서 기술된 이러한 규칙 대신에 또는 그에 추가로, 특정 상황 하에서 AV에 대한 특정 거동을 명시하는 하나 이상의 추가 규칙을 포함할 수 있다.

AV의 하드웨어 구성(1308)은 본원에서 기술된 AV의 물리적 컴포넌트들의 임의의 배열을 포함할 수 있다. 예를 들어, 특정 하드웨어 구성(1308)은 AV가 (예를 들면, 도 1 내지 도 12를 참조하여) 본원에서 기술된 상이한 유형의 물리적 컴포넌트들 각각을 특정 개수 포함한다는 것을 명시하고, AV 상의 해당 물리적 컴포넌트들 각각에 대한 특정 위치 및/또는 배향을 명시하며, 컴포넌트들 각각 및 그의 구성 부분(constituent part)의 특정 물리적 배열을 명시하고, 해당 물리적 컴포넌트와 부분 간의 특정 상호연결(예를 들면, 전기 및/또는 통신 상호연결)을 명시할 수 있다. 다른 예로서, 특정 하드웨어 구성(1308)은 또한 AV가 특정 물리적 특성(예를 들면, 질량, 치수, 형상, 무게 중심 등)을 갖는다는 것을 명시할 수 있다. 다른 예로서, 특정 하드웨어 구성(1308)은 또한 AV가 특정 성능 특성(예를 들면, 최고 속력, 가속 능력, 제동 능력, 방향전환 능력 등)을 갖는다는 것을 명시할 수 있다.

AV의 소프트웨어 구성(1310)은 본원에서 기술된 소프트웨어 컴포넌트들의 임의의 배열을 포함할 수 있다. 예를 들어, 특정 소프트웨어 구성(1310)은 AV가, 각각이 (예를 들면, 도 1 내지 도 12를 참조하여) 위에서 기술된 특정 소프트웨어 기반 동작 세트를 수행하도록 구성된, 소프트웨어 모듈들의 특정 배열을 포함한다고 명시할 수 있다. 다른 예로서, 특정 소프트웨어 구성(1310)은 또한 AV의 소프트웨어 컴포넌트가 하나 이상의 물리적 컴포넌트 및/또는 다른 소프트웨어 컴포넌트로부터 특정 유형의 데이터를 검색하고, 해당 데이터를 특정 방식으로 프로세싱하며, 프로세싱된 데이터를 다른 물리적 및/또는 소프트웨어 컴포넌트로 송신한다는 것을 명시할 수 있다.

일부 구현예에서, AV 프로토타이핑 시스템(1302)은 AV에 대한 구성을 자동으로(예를 들면, 사용자로부터의 입력 없이) 결정할 수 있다. 예를 들어, AV 프로토타이핑 시스템(1302)은 하나 이상의 머신 러닝 및/또는 비지도 학습 프로세스를 사용하여 AV에 대한 일단의 규칙집(1306), 하드웨어 구성(1308) 및 소프트웨어 구성(1310)을 결정할 수 있다.

일부 구현예에서, AV 프로토타이핑 시스템(1302)은 하나 이상의 사용자(예를 들면, 하나 이상의 인간 설계자)로부터의 입력에 적어도 부분적으로 기초하여 AV에 대한 구성을 결정할 수 있다. 예를 들어, 사용자는 AV에 대한 하나 이상의 규칙집(1306), 하드웨어 구성(1308) 및/또는 소프트웨어 구성(1310)을 명시할 수 있다. AV 프로토타이핑 시스템(1302)은 사용자가 명시한 것(specification)에 기초하여 AV에 대한 구성을 결정할 수 있다.

AV의 특정 구성을 결정할 때, AV 프로토타이핑 시스템(1302)은 테스트를 위해 그 구성을 AV 성능 평가 시스템(1304)에 제공한다. 위에서 기술된 바와 같이, AV 성능 평가 시스템(1304)은 다양한 조건 하에서 AV의 해당 구성의 거동을 평가하기 위해 다수의 시나리오(1312)에서 (AV 프로토타이핑 시스템(1302)에 의해 명시된 구성을 가지는) AV를 테스트할 수 있다.

일부 구현예에서, 시나리오들(1302) 각각은 AV가 횡단하는 도로, 장애물, 다른 차량, 보행자 및 교통 흐름의 특정 조합을 명시할 수 있다. 예를 들어, 도 14a 및 도 14b는 AV의 성능을 테스트하기 위한 시나리오(1312)의 단순화된 예를 도시한다. 도 14a에 도시된 바와 같이, 시나리오(1312)는 AV가 횡단할 수 있는 상호 연결된 도로들(1402)의 네트워크를 포함하고, 각각의 도로는 특정 교통 흐름(예를 들면, 도로의 차선들 각각에서의 특정 교통 방향)을 갖는다. 또한, 도 14b에 도시된 바와 같이, 시나리오(1312)는 해당 도로(1402)를 따라 주행하는 여러 다른 차량(1404)을 포함한다. 예를 들어, 차량(1404)은 도로(1402) 상의 특정 위치에 위치할 수 있고, 해당 도로(1402)를 따라 특정 속력 및 방향으로 주행하고 있을 수 있다. 또한, 도 14b에 도시된 바와 같이, 시나리오(1312)는 AV에 대한 명시된 목적(1406)을 포함한다. 목적은, 예를 들어, AV가 시나리오(1302)에서 수행해야 하는 특정 작업 또는 작업 시리즈(series of tasks)일 수 있다. 예를 들어, 도 14b에 도시된 예에서, 목적(1406)은 도로(1402a)로부터 교차 도로(1402b)로의 우회전일 수 있다.

위에서 기술된 바와 같이, 일부 구현예에서, 시나리오들(1302) 중 적어도 일부는 시뮬레이션된 시나리오일 수 있다. 예를 들어, 시나리오들(1302) 중 적어도 일부는, AV가 횡단할 하나 이상의 가상 도로, 장애물, 다른 차량, 보행자, 교통 흐름 및 환경 조건을 포함하여, AV를 테스트하기 위한 컴퓨터화된 가상 환경을 명시할 수 있다. 또한, 시나리오들(1302) 중 적어도 일부는 AV가 가상 환경 내에서 수행할 목적을 명시할 수 있다. 또한, AV 프로토타이핑 시스템(1302)에 의해 명시된 구성이 주어지면, 가상 환경에서의 AV의 거동을 예측하기 위해 컴퓨터화된 시뮬레이션이 사용될 수 있다. 일부 구현예에서, 컴퓨터화된 시뮬레이션은 적어도 부분적으로 AV 성능 평가 시스템(1304)에 의해 수행될 수 있다.

위에서 기술된 바와 같이, 일부 구현예에서, 시나리오들(1302) 중 적어도 일부는 현실 세계 시나리오일 수 있다. 예를 들어, 시나리오들(1302) 중 적어도 일부는 AV를 테스트하기 위한 물리적 환경을 명시할 수 있다. AV는 해당 환경에 물리적으로 배포되고 해당 환경 내에서 자율 주행 동작을 수행하도록 지시받을 수 있다. 일부 구현예에서, 테스트의 결과가 AV 성능 평가 시스템(1304)에 제공될 수 있다. 예를 들어, 테스트의 결과가 사용자(예를 들면, 인간 관측자)에 의해 수동으로 입력되고/되거나 해당 테스트를 관측한 컴퓨터 시스템에 의해 자동으로 입력될 수 있다.

AV 성능 평가 시스템(1304)은 테스트에 기초하여 AV에 대한 하나 이상의 성능 메트릭을 출력한다.

일부 구현예에서, 성능 평가 시스템(1304)은 AV가 시나리오들 각각에서 법적, 안전 및/또는 편의 제약을 위반한 횟수 및 해당 위반들 각각의 심각도를 나타내는 메트릭을 출력할 수 있다.

일 예로서, 메트릭은 AV가 도로에서 다른 대상체 또는 보행자와 접촉한 횟수를 나타낼 수 있다. 또한, 메트릭은 심각도에 따라 접촉을 분류할 수 있다. 예를 들어, 보행자와 접촉하는 것은 연석과 접촉하는 것보다 더 심각한 것으로 간주될 수 있다.

다른 예로서, 메트릭은 AV가, 도로의 속력 제한을 초과하는 것, 교통 신호에 반하는 액션을 하는 것, 또는 도로의 교통 흐름을 거슬러 주행하는 것과 같은, 특정 교통 규칙 또는 규정을 위반한 횟수를 나타낼 수 있다. 메트릭은 또한 심각도에 따라 접촉 위반을 분류할 수 있다. 예를 들어, 속력 제한을 더 작은 정도만큼 초과하는 것은 속력 제한을 더 큰 정도만큼 초과하는 것보다 덜 심각한 것으로 간주될 수 있다.

다른 예로서, 메트릭은 AV가 특정 편의 한계를 넘어 AV를 가속하는 것, 제동하는 것 및/또는 그의 방향을 변경하는 것과 같이, 승객에게 불편을 야기하는 방식으로 AV가 거동한 횟수를 나타낼 수 있다. 메트릭은 또한 심각도에 따라 불편을 분류할 수 있다. 예를 들어, 가속 한계를 더 작은 정도만큼 초과하는 것은 가속 한계를 더 큰 정도만큼 초과하는 것보다 덜 심각한 것으로 간주될 수 있다.

다른 예로서, 메트릭은 AV가 이전에 계획된 루트로부터 이탈한 횟수 및 해당 이탈의 정도(extent)(예를 들면, 루트에 대한 추가된 거리 및/또는 추가된 주행 시간으로 표현됨)를 나타낼 수 있다.

다른 예로서, 메트릭은 AV가 AV의 성능 한계를 초과했고/했거나 초과할 위험에 처했던 횟수를 나타낼 수 있다. 예를 들어, 메트릭은 AV가 AV의 안전 또는 설계 범위(envelope)를 초과하고/하거나 그럴 위험에 처한 방식으로 가속, 제동 및/또는 방향 전환한 횟수를 나타낼 수 있다. 메트릭은 또한 이러한 이탈의 심각도를 나타낼 수 있다. 예를 들어, 메트릭은 AV가 AV의 가속, 제동 및 방향 전환 능력을 초과한 정도 및/또는 AV가 해당 능력을 얼마나 가깝게 초과하고 있었는지를 나타낼 수 있다.

다른 예로서, AV 성능 평가 시스템(1304)은 AV가 시나리오들 각각을 완료하는 데 필요로 한 시간량을 나타내는 메트릭을 출력할 수 있다. 다른 예로서, AV 성능 평가 시스템(1304)은 시나리오들 각각 동안 AV의 평균 속력을 나타내는 메트릭을 출력할 수 있다. 다른 예로서, AV 성능 평가 시스템(1304)은 AV가 시나리오들 각각 동안 소비한 리소스(예를 들면, 연료 및/또는 전력)의 양을 나타내는 메트릭을 출력할 수 있다.

AV 성능 평가 시스템(1304)은 하나 이상의 성능 메트릭을 AV 프로토타이핑 시스템(1302)에 제공한다. 하나 이상의 성능 메트릭에 기초하여, AV 프로토타이핑 시스템(1302)은 AV의 성능을 개선시키기 위해 AV를 수정 및/또는 재구성할 수 있다. 예를 들어, AV가 자율 주행 동작을 더 안전하게, 더 효율적으로 및/또는 더 효과적으로 수행하도록, AV 프로토타이핑 시스템(1302)은 AV의 규칙집(1306), 하드웨어 구성(1308) 및/또는 소프트웨어 구성(1310)을 수정할 수 있다.

AV에 대한 수정된 구성이 (예를 들면, 위에서 기술된 바와 같이) AV 성능 평가 시스템(1304)을 사용하여 평가될 수 있다. 이 프로세스는 AV의 연속적인 증분적 수정 및/또는 재구성을 통해 AV의 성능을 반복적으로 개선시키기 위해 연속적으로 여러 번 수행될 수 있다.

일부 경우에, AV 성능 평가 시스템(1304)은, 특정 리소스 버짓이 주어지면, AV의 성능에 관해 획득되는 정보량을 최대화하도록 시나리오(1312) 세트를 선택할 수 있다. 예를 들어, AV의 성능은 특정 확률 분포를 갖는 확률 변수로서 표현될 수 있다. AV의 성능을 평가하는 데 사용될 때, 특정 정도만큼 확률 변수의 엔트로피를 감소시키는 특정 시나리오(1312)가 비교적 더 작은 정도만큼 엔트로피를 감소시키는 다른 시나리오(1312)보다 선택에 우선순위를 부여받을 수 있다. 게다가, AV의 자율 주행 내비게이션 시스템의 개발 및 검증 동안 AV의 성능을 평가하기 위해, 선택된 시나리오(1312) 세트가 표준 테스트 배터리에 포함될 수 있다.

도 15는 AV의 성능을 테스트하기 위한 시나리오 세트를 선택하기 위한 예시적인 프로세스(1500)를 도시한다. 프로세스(1500)는, 예를 들어, AV의 성능을 테스트하기 위해 후보 시나리오 풀 중에서 시나리오(1312) 세트를 선택하기 위해 AV 성능 평가 시스템(1304)에 의해 수행될 수 있다.

프로세스(1500)에 따르면, 후보 시나리오 풀이 식별된다. 또한, 해당 시나리오들 각각은 시나리오 공간에서의 하나 이상의 벡터에 매핑된다(블록(1502)). 예를 들어, 후보 시나리오들의 특징들 각각은 시나리오 공간의 상이한 차원에 대응할 수 있다. 특정 후보 시나리오에서의 해당 특징의 존재 여부는 시나리오 공간에서의 벡터를 사용하여 표현될 수 있다.

예를 들어, 후보 시나리오들 중 적어도 일부는 AV 전방에 횡단보도가 존재하는 것을 포함할 수 있다. 이 특징을 갖는 후보 시나리오들은 각각이 시나리오 공간의 제1 차원에 특정 값(예를 들면, "1"의 값)을 포함하는 벡터들에 의해 표현될 수 있다. 이 특징을 갖지 않는 후보 시나리오들은 각각이 시나리오 공간의 제1 차원에 다른 값(예를 들면, "0"의 값)을 포함하는 벡터들에 의해 표현될 수 있다.

다른 예로서, 후보 시나리오들 중 적어도 일부는 AV와 동일한 차선에서 주행하는 다른 차량이 존재하는 것을 포함할 수 있다. 이 특징을 갖는 후보 시나리오들은 각각이 시나리오 공간의 제2 차원에 특정 값(예를 들면, "1"의 값)을 포함하는 벡터들에 의해 표현될 수 있다. 이 특징을 갖지 않는 후보 시나리오들은 각각이 시나리오 공간의 제2 차원에 다른 값(예를 들면, "0"의 값)을 포함하는 벡터들에 의해 표현될 수 있다.

다른 예로서, 후보 시나리오들 중 적어도 일부는 AV와 다른 차선에서 주행하는 다른 차량이 존재하는 것을 포함할 수 있다. 이 특징을 갖는 후보 시나리오들은 각각이 시나리오 공간의 제3 차원에 특정 값(예를 들면, "1"의 값)을 포함하는 벡터들에 의해 표현될 수 있다. 이 특징을 갖지 않는 후보 시나리오들은 각각이 시나리오 공간의 제3 차원에 다른 값(예를 들면, "0"의 값)을 포함하는 벡터들에 의해 표현될 수 있다.

다른 예로서, 후보 시나리오들 중 적어도 일부는 AV와 동일한 방향으로 주행하는 차량을 포함할 수 있다. 이 특징을 갖는 후보 시나리오들은 각각이 시나리오 공간의 제4 차원에 특정 값(예를 들면, "1"의 값)을 포함하는 벡터들에 의해 표현될 수 있다. 이 특징을 갖지 않는 후보 시나리오들은 각각이 시나리오 공간의 제4 차원에 다른 값(예를 들면, "0"의 값)을 포함하는 벡터들에 의해 표현될 수 있다.

다른 예로서, 후보 시나리오들 중 적어도 일부는 AV와 반대 방향으로 주행하는 차량을 포함할 수 있다. 이 특징을 갖는 후보 시나리오들은 각각이 시나리오 공간의 제5 차원에 특정 값(예를 들면, "1"의 값)을 포함하는 벡터들에 의해 표현될 수 있다. 이 특징을 갖지 않는 후보 시나리오들은 각각이 시나리오 공간의 제5 차원에 다른 값(예를 들면, "0"의 값)을 포함하는 벡터들에 의해 표현될 수 있다.

예시적인 특징들 및 차원들이 위에서 기술되어 있지만, 이들은 예시적인 예에 불과하다. 실제로, 벡터 공간은 후보 시나리오들의 임의의 개수의 상이한 특징들을 표현하는 임의의 개수의 차원들을 포함할 수 있다.

또한, 시나리오 공간에서 AV의 성능이 결정된다(블록(1506)). 예를 들어, 성능 평가 시스템(1304)을 사용하여, 후보 시나리오들 중 일부 또는 전부에서 AV의 성능이 테스트될 수 있다. 테스트의 결과는 (예를 들면, 위에서 기술된 바와 같이) 하나 이상의 성능 메트릭을 사용하여 표현될 수 있다.

또한, 테스트된 시나리오들 각각에 대해 AV의 성능에 관해 획득되는 정보량이 결정된다(블록(1506)). 일부 구현예에서, AV의 성능은 특정 확률 분포를 갖는 확률 변수로서 표현될 수 있다. 획득되는 정보량은 해당 변수에서의 특정 정도의 엔트로피 감소를 지칭하고/하거나 그와 상관될 수 있다.

또한, 테스트된 시나리오들 각각에 의해 획득되는 정보량에 기초하여 후보 시나리오들 중에서 시나리오 세트가 선택된다(블록(1508)). 일 예로서, 특정 정도만큼 확률 변수의 엔트로피를 감소시키는 특정 후보 시나리오가 비교적 더 작은 정도만큼 엔트로피를 감소시키는 다른 후보 시나리오보다 선택에 우선순위를 부여받을 수 있다. AV의 자율 주행 내비게이션 시스템의 개발 및 검증 동안 AV의 성능을 평가하기 위해, 선택된 시나리오 세트가 표준 테스트 배터리에 포함될 수 있다.

이 프로세스는 AV의 성능을 테스트할 때 수확 체감의 효과를 완화시키는 데 유익할 수 있다. 예를 들어, 도 16은, 곡선(1602)으로 표현된, 테스트되는 시나리오들의 개수(수평 축)와 AV의 성능에 관해 획득되는 총 정보량(수직 축) 간의 단순화된 관계를 도시한다. 테스트된 시나리오들의 개수가 (예를 들면, 좌에서 우로) 증가함에 따라, AV의 성능에 관한 총 정보도 (예를 들면, 아래에서 위로) 증가한다. 그렇지만, 획득되는 한계 정보량이 각각의 추가 테스트마다 감소하며, 이는 좌에서 우로 점증적으로 감소하는 곡선(1602)의 기울기에 의해 표현된다. 획득되는 한계 정보량이 충분히 낮을(예를 들면, 특정 임계 양 미만일) 때, 테스트가 중단될 수 있다. 따라서, 각각의 추가 테스트를 수행하는 것의 이점이 해당 테스트를 수행하는 것과 연관된 리소스 비용과 균형을 이룰 수 있다.

일부 구현예에서, 이 프로세스는 AV의 성능이 더 빠르고 효율적으로 테스트될 수 있게 한다. 예를 들어, 시나리오 세트 내의 시나리오들 각각이 AV의 성능을 평가하는 데 유용한 정보를 제공하도록, 제한된 시나리오 세트가 테스트를 위해 선택될 수 있다. 게다가, 위에서 기술된 바와 같이, 세트가 수확 체감의 효과를 완화시키도록 선택될 수 있다. 따라서, AV의 성능이 (예를 들면, 브루트 포스 접근법에서 이용될 수 있는 테스트 시나리오들의 개수와 비교하여) 더 적은 개수의 테스트 시나리오를 사용하여 결정될 수 있다.

일부 구현예에서, 테스트를 언제 중단해야 하는지를 결정하는 데 사용되는 임계 값은 경험적으로 선택될 수 있다. 예를 들어, 임계 값은 사용자가 AV의 성능에 관한 정보를 획득하고자 하는 요망과 해당 정보를 획득하기 위한 리소스의 소비의 균형을 이룰 수 있게 하는 튜닝 가능한 값일 수 있다. 예를 들어, AV의 성능에 관한 더 많은 양의 정보를 획득하는 것이 바람직한 경우, 수행되는 각각의 추가 테스트를 위해 더 많은 양의 리소스가 소비되더라도, (예를 들면, 임계 값에 도달할 때까지 더 많은 개수의 시나리오를 사용하여 더 많은 개수의 테스트가 수행되도록) 임계 값이 상대적으로 더 낮은 값으로 설정될 수 있다. 다른 예로서, 더 보수적인 방식으로 리소스를 소비하는 것이 바람직한 경우, (예를 들면, 임계 값에 도달할 때까지 더 적은 수의 시나리오를 사용하여 더 적은 수의 테스트가 수행되도록) 임계 값이 상대적으로 더 높은 값으로 설정될 수 있다.

일부 구현예에서, 테스트를 위해 선택되는 시나리오들의 개수는 버짓 메트릭에 따라 제약될 수 있다. 예를 들어, 각각의 후보 시나리오는 해당 후보 시나리오를 사용하여 테스트를 수행하기 위한 연관된 리소스 비용을 가질 수 있다. 선택된 시나리오에 대한 리소스 비용이 특정 버짓을 초과하지 않도록 후보 시나리오가 선택될 수 있다. 일 예로서, 후보 시나리오들 각각이 한 단위의 리소스 비용이고 총 버짓이 10 단위 이하인 경우, 테스트를 위해 최대 10개의 후보 시나리오가 선택될 수 있다. 이것은, 예를 들어, AV의 성능을 테스트하는 데 소비될 리소스를 제한할 때 유용할 수 있다. 일부 구현예에서, 버짓이 경험적으로 선택될 수 있다.

일부 구현예에서, 후보 시나리오들은 후보 시나리오들 간의 유사점 및/또는 차이점에 기초하여 다수의 상이한 그룹으로 그룹화될 수 있다. 또한, 해당 그룹에 기초하여 테스트할 후보 시나리오가 선택될 수 있다.

위에서 기술된 바와 같이, 각각의 후보 시나리오는 시나리오 공간에서 각자의 벡터에 의해 표현될 수 있다. 벡터들 간의 유사점 및/또는 차이점에 기초하여, 후보 시나리오는 하나 이상의 그룹으로 클러스터링될 수 있다. 일반적으로, 공통 그룹 내의 후보 시나리오는 서로 더 유사할 수 있는 반면, 상이한 그룹 내의 후보 시나리오는 서로 덜 유사할 수 있다. 선택된 시나리오를 사용하여 테스트를 수행하는 것에 의해 획득될 정보량을 최대화하는(또는 달리 향상시키는) 방식으로 그룹으로부터 후보 시나리오가 선택될 수 있다. 일부 구현예에서, 탐욕 알고리즘(예를 들면, 선택 프로세스의 여러 스테이지들 각각에서 로컬 최적 선택(locally optimal choice)을 하는 문제 해결 휴리스틱)에 따라 그룹으로부터 후보 시나리오가 선택될 수 있다.

일부 구현예에서, 후보 시나리오가 계층적 구조에 따라 그룹화될 수 있다. 예를 들어, 계층적 구조의 각각의 레벨은 계층적 구조의 노드들 간의 상대적 유사도를 나타낼 수 있다. 계층적 구조의 더 상위 레벨에(예를 들면, 계층구조의 "루트(root)"에 더 가깝게) 위치되는 공통 노드를 공유하는 노드들은 이 노드들이 서로 더 적은 정도의 유사성을 가지고 있음을 나타낼 수 있다. 대조적으로, 계층적 구조의 더 하위 레벨에 위치되는 공통 노드를 공유하는 노드들은 이 노드들이 서로 더 큰 정도의 유사성을 가지고 있음을 나타낼 수 있다. 선택된 시나리오를 사용하여 테스트를 수행하는 것에 의해 획득될 정보량을 최대화하는(또는 달리 향상시키는) 방식으로 계층적 구조로부터 후보 시나리오가 선택될 수 있다. 일부 구현예에서, 탐욕 알고리즘에 따라 계층적 구조로부터 후보 시나리오가 선택될 수 있다. 일부 구현예에서, 계층적 구조는 베이지안 계층 모델일 수 있다. 일부 구현예에서, 후보 시나리오는, 베이지안 네트워크, 인수 그래프(factor graph), 은닉 마르코프 모델(Hidden Markov Model, HMM) 또는 임의의 다른 구조와 같은, 다른 그래픽 표현에 따라 그룹화될 수 있다.

정보 획득량에 기초하여 시나리오를 선택하기 위한 예시적인 기술

위에서 기술된 바와 같이, AV 성능 평가 시스템(1304)은 시나리오들 각각을 테스트하는 것에 의해 획득될 정보량에 기초하여 AV의 거동을 테스트하기 위한 시나리오를 선택할 수 있다. 정보 획득량에 기초하여 시나리오를 선택하기 위한 예시적인 기술이 아래에 설명된다.

일반적으로, 계층적 통계 모델이 AV 성능을 표현하는 데 사용될 수 있다. 또한, 운영 설계 도메인(Operational Design Domain, ODD)에 걸쳐 이 성능을 평가하기 위해 시나리오 세트가 선택될 수 있다. 계층적 구조는 ODD마다 정보를 재사용하는 것을 지원할 수 있으며, 이벤트 빈도가 직접 사용되지 않기 때문에, 이벤트 빈도에 대한 성능 추정의 민감도를 완화시킬 수 있다. 또한, 특정 시나리오에 대한 테스트의 값을 평가하기 위해 기준이 사용될 수 있으며, 본원에서 기술된 예시적인 샘플링 기술은 이 기준과 관련하여 근접 최적성(near-optimality)을 제공할 수 있다.

일반적으로, 선택 프로세스는, 도 17에 요약된 바와 같은, 2개의 단계를 포함할 수 있다. 첫째, AV 성능이 베이지안 계층 모델로서 모델링된다. 예상된 AV 거동에 대한 형식적 규칙(formal rule)과 첨부된 위반 메트릭의 등장은 임의의 시나리오에서 AV 성능의 정량적 평가를 용이하게 한다. 운영 영역과 같은, ODD를 구성하는 인자는 계층구조에서의 레벨로서 사용될 수 있다. 일부 구현예에서, 영역은 특정 타운, 도시, 카운티, 주, 국가 또는 그의 일부 부분일 수 있다. 이 표현은 ODD 인자를 분석 단위로서 활용하고, 각각의 분석 단위는 단지 몇 개의 관측치만을 갖는다. 실제로, 모든 인자들이 고정되어 있는 ODD, 예를 들어, 높은 비 밀도(rain density) 및 낮은 통신 신뢰성을 갖는 특정 도로 곡률의 경우 청색 정지 표지판(blue stop sign)에 대응하는 시나리오를 관측하기가 어려워진다. 고정된 인자들의 양에 따라 적격인 관측치들(qualifying observations)의 개수가 감소한다. 일부 구현예에서, 계층구조의 각각의 레벨이 사실상 초평면(hyperplane)을 구성할 수 있기 때문에, 프로세스의 이 부분은 평면이라고 불릴 수 있다.

둘째, 이러한 베이지안 계층 모델을 통해 AV 성능에 대한 추론이 수행될 수 있다. 이것은 각각의 새로운 시나리오에 의해 제공되는 시스템에 관한 정보 획득량의 계산을 가능하게 하며, 이 정보 획득량은 새로운 시나리오 및 시나리오 세트의 관련성을 평가하기 위한 메트릭으로서 사용될 수 있다. 베이지안 계층 모델은 상이한 시나리오 공간 초평면에서의 AV 성능 간에 조건부 독립성 속성을 제공하여, 정보 획득량이 서브모듈러(submodular)이도록 한다. 이것은 정보 획득량이 수확 체감 속성을 가지고 있음을 의미한다. 예를 들어, 더 많은 시나리오가 추가됨에 따라, 정보의 증가는 미미하다. 따라서, 거의 최대 레벨의 정보 획득량(샘플)을 제공하는 시나리오 세트를 제공하기 위해 서브모듈러 최적화(submodular optimization)를 위한 탐욕 알고리즘이 활용될 수 있다. 통계적 신뢰 수준이 주어지면 정보 획득량이 더 이상 증가하지 않을 때 선택이 중단되도록, (예를 들면, 시나리오 세트에 대한 추가 시나리오의 선택을 중단하기 위한) 중지 기준이 정의될 수 있다.

이 프로세스의 유효성을 입증하기 위해, 2020 CARLA 챌린지(CARLA 팀)로부터의 루트들에 대해 AV를 시뮬레이션하는 것에 의해 실험이 수행되었다. 이 실험의 결과는 시나리오 공간의 약 7%만을 테스트한 후에 90% 신뢰도로 정체되는(plateauing) 정보 획득량을 보여주는 반면, 다른 기술(라틴 하이퍼큐브 샘플링)은 동일한 양의 정보를 획득하기 위해 33% 더 많은 시나리오를 탐색한다.

아래에서 기술되는 바와 같이, 거동 규칙의 정량적 평가에 의존하는 베이지안 계층 모델을 사용하여 AV 성능이 제시될 수 있다.

또한, 정보 획득량이 새로운 시나리오 또는 시나리오 세트의 관련성을 정량화하기 위한 메트릭으로서 사용될 수 있다.

또한, (예를 들면, 근접 최적성 보장을 제공하기 위해) 서브모듈러 최적화를 위한 탐욕 알고리즘이 선택 알고리즘의 일부로서 사용될 수 있다.

또한, 시나리오 세트의 크기를 억제하기 위해 중지 기준이 사용될 수 있다. 특히, 주어진 통계적 신뢰도로, 정보 획득량이 정체될 때 시나리오 세트에 대한 추가 시나리오의 선택이 중단될 수 있다.

예시적인 프로세스

A. 평면

가 샘플링할 시나리오 공간이라고 하자. 시나리오 >는 테스트 중인 시스템의 외부의 환경에서 무엇이 일어나고 있는지에 관한 정보를 포함한다. 가 의 요소로서 특성화될 수 있다고 가정될 수 있고, 여기서 n은 환경에 있는 특징부들의 개수이다. 이러한 특징부는 시나리오 온톨로지 또는 ODD 정의에 대한 업계 제안에 기초할 수 있다. 더 정확한 검색을 위해, 이러한 좌표가 또한 특정 논리적 시나리오의 파라미터에 대응할 수 있다. 고려되는 시나리오는 시뮬레이션에서 또는 실생활 환경에서 생성될 수 있다. 클라우드 밀도, 공사 현장의 존재 또는 동적 에이전트들의 개수와 같은 시나리오를 기술하기 위한 n개의 특징 및 각각의 특징에 대한 k개의 잠재적 값 을 가정한다. 각각이 6개의 값을 가질 수 있는 50개의 특징에 대해, 이는 약 10¹⁰개의 시나리오를 나타낸다. 시뮬레이션이 트랙 테스트의 비용의 일부로 AV를 테스트하는 것을 가능하게 하지만, 그러한 많은 개수의 시나리오를 생성하는 것은 그럼에도 불구하고 상당한 계산 능력을 필요로 할 수 있다.

또한, 임의의 주어진 시나리오에 대해 AV 성능이 평가될 수 있다. 규칙집 프레임워크는 명시적인 거동 명세에 따라 시나리오에서의 AV 성능을 평가하기 위해, 위반 메트릭과 연관된, 규칙을 제공한다. 실제로, AV 성능은, 교통 법규, 예의 바른 운전 태도(driving manners) 또는 승차감과 같은, 많은 상이한 개념에 의해 영향을 받을 수 있다. 그리고 이 예시적인 실험이 충돌 횟수를 사용하지만, 이 기술은 임의의 성능 메트릭의 사용과 호환된다. 일단 특정 규칙이 형식적 논리문(formal logic statement)으로 변환되면, 임의의 시나리오에서의 임의의 궤적이 평가되고 위반 점수를 부여받을 수 있다.

시나리오 공간에서의 AV의 성능은 으로 정의될 수 있으며, 여기서 는 확률 변수이다. 목표는 의 분포에 관한 가장 많은 정보를 제공할 시나리오를 샘플링하는 것이다. 따라서, 의 분포를 바탕으로 어떤 구조가 구축될 필요가 있을 수 있다. 실제로, 성능이 완전히 혼돈 상태인 경우, 2개의 상이한 시나리오에서의 규칙 위반 간에 어떤 관계도 없고, 하나의 시나리오로부터의 학습 사항 중 어느 것도 다른 시나리오로 일반화 가능하지 않을 것이며, 모든 단일 시나리오가 테스트될 필요가 있을 수 있다.

이 예에서, 베이지안 계층 모델이 관측 가능한 AV 성능에 피팅될 수 있다고 가정한다. 도 18은 베이지안 계층 모델(1800)의 표현을 도시한다. 연하게 음영 처리된 노드(1802a 내지 1802d)는 관측되지 않은 변수를 나타내고, 진하게 음영 처리된 노드(1804a 내지 1804e)는 관심 확률 변수를 나타낸다.

파라미터들이 확률 분포로부터 샘플링되기 때문에, 소문자 문자는 확률 변수와 파라미터 및 하이퍼파라미터에 대한 그의 실현 둘 모두를 지정하는 데 사용된다. 시나리오 공간의 초평면은, 운영 타운과 같은, 하나의 특징이 고정되어 있는 시나리오 세트로서 정의된다. 따라서 이 가정이 다음과 같은 방식으로 재수식화(reformulate)될 수 있고: 시나리오 공간의 p개의 초평면에 대해, 다음과 같도록 b₁,...,b_p와 σ가 존재한다고 가정될 수 있으며,

여기서 σ는 하이퍼 사전 분포(hyperprior) P(σ)를 갖는 하이퍼파라미터이고, b₁,...,b_p는 하이퍼파라미터 σ에 의해 좌우되는 분포를 가진 모집단으로부터 생성되며, 는, 를 그의 사전 분포로서 갖는, AV 성능의 우도이다. 모델 피팅 프로세스의 일부로서 적절한 사전 분포(prior) 및 하이퍼 사전 분포가 선택될 수 있다.

그러한 모델의 해석은 다음과 같다: AV 성능이 초평면 p에서 파라미터 b_p의 분포를 따르는 것으로 가정된다. 이 분포는, 아래에서 실험 및 결과 섹션에 나오는 바와 같은, 데이터 관측으로부터 또는 전문가 지식으로부터 추론될 수 있다. 이 타운 p에서 일어나는 시나리오에서 테스트할 때, 샘플 x_i가 이 분포로부터 효과적으로 획득된다. 상이한 타운 k에서, AV 성능의 분포의 형상은 동일할 것이지만, b_k, b_p 자체가 P(σ)로부터 샘플링되기 때문에, 파라미터 b_k가 상이할 가능성이 있을 것이다. 예를 들어, 시나리오에 대한 AV의 차량 이격거리 위반 횟수는 로그 정규 분포를 따를 수 있지만, 평균은 더 큰 도로와 더 적은 수의 차량이 있는 타운에서보다 교통량이 더 많은 고밀도 타운에서 더 높을 수 있다.

이 예시적인 기술에 의해 결정되는 시나리오 세트의 품질은 AV 성능에 대한 베이지안 계층 모델의 피팅의 품질에 의존한다. 파라미터와 하이퍼파라미터의 열악한 피팅은 정보 획득량의 열악한 추정으로 이어질 것이며, 따라서 알고리즘이 잘못된 값에 대해 최적화된다. 그렇지만, 사후 예측 검사(posterior predictive check)와 같은, 베이지안 계층 모델의 피팅 품질을 보장하기 위한 기술이 있다.

B. 샘플

이 섹션은 샘플링을 위해 이 AV 성능 표현을 활용하는 방법에 중점을 둔다.

이하의 엔트로피 정의는 내부 성능 파라미터(intrinsic performance parameter) σ에 대한 불확도를 나타내는 데 사용될 수 있다:

가 관측되는 시나리오 세트인 경우, 에서 성능을 관측하는 것으로부터 얻은 σ에 관한 정보 획득량은 다음과 같이 정의된다:

이 시나리오 공간에 크기 의 개의 시나리오 세트가 있으며, 여기서 이다. 목표는 시뮬레이션 엔진에서 또는 제한된 경로 테스트(closed course testing)에서 시나리오를 생성하기 전에 이러한 옵션을 검토하고 정보 획득량을 극대화하는 세트를 선택하는 것이다. 따라서 최적화 문제는 다음과 같이 정의되며:

여기서 C는 시나리오 버짓이고, f는 전체 ODD에 걸친 전체 AV 평가에 대한 이거나, 특정 타운과 같은, ODD의 초평면에서의 AV 성능의 평가에 대한 일 수 있다. C는 중지 기준의 대응물이다. 조건부 엔트로피 는 주어진 신뢰 구간을 갖는 특정 값까지만 근사화될 수 있다. 근사화된 정보 획득량이 통계적으로 유의미한 방식으로 증가하는 것을 중지할 때 최적화가 중지될 수 있으며, 이것이 C를 결정한다.

이 최적화 문제는, 모든 시나리오가 동일한 비용을 가지는 단순한 설정에서도, NP-hard이다. 그럼에도 불구하고, 잠재 목적 함수(potential objective function) 모두는 모노톤 서브모듈러(monotone submodular)이다. 함수 는 모든 와 에 대해

인 경우에만 서브모듈러이다. 이는 이미 큰 세트에 시나리오를 추가하는 것이 더 작은 테스트 세트에 시나리오를 추가하는 것보다 낮은 정보 획득량을 제공할 것임을 의미한다. 이것은 세트에 점점 더 많은 시나리오를 추가하는 것이, 포지티브 수확(positive returns)임에도 불구하고, 수확 체감을 가져올 것이라는 직관을 반영한다. 예를 들어, 도 16에 도시된 바와 같이, 함수가 정의되는 세트에 점점 더 많은 개별 요소(예를 들면, 시나리오)가 추가된 후에, 함수는 점점 더 적은 양만큼 증가한다.

이 속성이 여기에 나타나는 이유는 하이퍼파라미터 σ가 주어지면 상이한 시나리오에서의 AV 성능이 조건부 독립(conditionally independent)이기 때문이다. 일반적으로, 다른 종속 확률 변수를 노출시키는 것으로부터 획득되는 확률 변수에 관한 정보 획득량은 서브모듈러가 아니다. 그렇지만, 고정 AV 스택(fixed AV stack)에서는, 해당 초평면이 주어진 경우 하나의 시나리오에서의 AV 성능을 다른 시나리오에서의 AV 성능과 독립적으로 만드는 시나리오 공간에서의 초평면이 존재할 수 있다. 수행된 실험(아래에 상술됨)에서, 시나리오 당 충돌 횟수는 주어진 타운에서 고정된 평균을 갖는, 푸아송 분포를 따른다. 서브모듈성(submodularity) 속성이 참(true)이기 위해 AV 성능에 대한 추가 가정이 필요하지 않다.

f가 서브모듈러이기 때문에, 수학식 4에 근접 최적성을 제공하기 위해 탐욕 알고리즘이 사용될 수 있다. 비어 있는 시나리오 세트로 시작하여, 이러한 휴리스틱은 각각의 반복에서 가장 높은 정보 획득량을 갖는 다음 시나리오를 선택한다.

이러한 선택 문제가 NP-hard이기 때문에, 다항 시간(polynomial time) 내에 해를 구할 알고리즘이 없다. 그렇지만, 탐욕 알고리즘은 최적 값으로부터 내의 해를 구할 수 있다. 구체적으로, C개의 시나리오에 대한 최대 정보 획득량이 1인 경우, 적어도 0.63 정보 획득량을 산출하는 크기 C의 시나리오 세트가 획득될 수 있다.

실험 및 결과

컴퓨터화된 AV 시뮬레이션(CARLA)으로부터 획득되는 자율 주행 차량 로그로 이 프로세스의 용도를 입증하기 위한 실험이 수행되었다.

A. 데이터 생성

이 실험에서 ,CARLA에서 이용 가능한, 자율 주행 차량의 모델이 또한 시뮬레이션에서 배경 교통량(background traffic)을 시뮬레이션하는 데 사용된다. 차량은, 총 132개의 시나리오에 대해, 교통 참가자의 수를 변경하면서, 6개의 상이한 타운에서의 경로를 추종하려고 시도한다. 이러한 3개의 특징은, 표 1에 나와 있는, 시나리오의 좌표이다.

시나리오 ID	교통 참가자의 수	타운	경로 ID
1	10	타운 02	1
2	10	타운 02	2
...
132	150	타운 06	49

표 1. 시나리오 정의

도 19는 고려되는 타운들 중 2개에 대한 맵(1900a 및 1900b)을 도시한다. 도 19에 도시된 바와 같이, 타운 03(맵(1900a)에 의해 표현됨)은 실질적으로 더 많은 교차로와 회전 교차로(roundabout)를 갖는 반면, 타운 06(맵(1900b)에 의해 표현됨)은 길게 쭉 뻗은 직선 도로를 갖는다.

각각의 시나리오에서 AV가 연루된 충돌 횟수가 기록되었고, 이것이 성능 메트릭 로서 선택되었다.

다수의 이벤트가 고정된 간격으로 독립적으로 발생할 확률을 표현하는 데 푸아송 분포가 종종 사용된다. 도 20은 모든 시나리오에서 의 확률 분포(2000)를 도시하며, 이는 푸아송 가정과 잘 부합한다. 특히, 사용된 AV 구현은, 통상적으로 배경 교통량에만 사용되고 맵 및 루트 정보만을 소비하므로, 인지 모듈을 갖지 않기 때문에 시나리오 당 상당한 횟수의 충돌과 조우한다. 따라서 이는 장면에서의 동적 대상체에 대해 반응하지 않는다. 그렇지만, 이 기술을 적용하는 데 AV 구현에 관한 정보는 필요하지 않다.

B. 베이지안 계층 모델

데이터 분석 이후에, 타운이 시나리오 당 충돌 횟수에 가장 큰 영향을 미치는 시나리오 좌표인 것으로 결정되었다. 예를 들어, 도 21은 CARLA에서 6개의 상이한 타운에 대한 루트를 따른 충돌(2100a 내지 2100f)의 분포를 도시한다. 이러한 그룹화는 이미 이용 가능한 소량의 데이터에서 추론되거나, 또는 전문가 지식에 기초하여 결정될 수 있다.

따라서, 시나리오 공간이 타운별로 슬라이싱되었으며, 이하의 베이지안 계층 모델을 피팅하였다:

파라미터 b_p 및 하이퍼파라미터 σ에 대해 반정규 분포(half-normal distribution)가 약정보적 사전 분포(weakly informative prior)로서 선택된다. 이 피팅을 수행하기 위해 PyMC3(PyMC3 개발 팀)이 사용되었다. 피팅된 베이지안 계층 모델의 결과는 (예를 들면, 관측 불가능 파라미터의 사후 분포를 보여주는) 도 22a에 도시되어 있다. 결과적인 시나리오 당 평균 충돌 횟수는, 일부 타운에 대해 1개 미만과 다른 타운에 대해 2.5개 초과 사이에서, 크게 달라진다. 도 22b는 베이지안 계층 모델의 예측 사후 피팅을 도시한다. 도 22b에 도시된 바와 같이, 예측 사후 검사는 X의 그래프 기반 재생성 샘플의 평균 값이, {0,1}을 제외하고는, 관측된 값과 잘 부합한다는 것을 보여준다. 이는 피팅이 확률 변수의 더 큰 값에 대해 더 양호하지만, 0과 1에 대해 관측된 영역 내에서 여전히 값을 생성하고 있음을 의미한다.

C. 시나리오 선택

AV 성능에 대한 정보 획득량이 ODD에 걸쳐 최적화된다. 그렇지만, 특정 타운에 대한 정보 획득량을 최대화하는 시나리오 세트를 선택하기 위해 동일한 기술이 적용될 수 있다.

베이지안 계층 모델은, 임의의 새로운 시나리오의 조건부 엔트로피와 정보 획득량을 계산하기 위해 나중에 사용되는, 의 계산을 가능하게 한다. 시나리오가 그래프에 배치될 수 있는 한, 그 시나리오가 제공하는 추가된 정보가 추론될 수 있다.

알고리즘 1은 수학식 8을 풀기 위한 예시적인 단계들을 상술한다. 조건부 엔트로피 는 0.1의 절대 오차에 대해 90% 신뢰 구간까지 계산된다. 각각의 단계에서, 각각의 시나리오를 하나씩 탐욕적으로 살펴보는 것, 이 시나리오에서의 성능을 이전에 선택된 시나리오와 비교하여 나타내는 것으로부터 획득되는 정보를 계산하는 것, 및 이 단계에 대한 가장 높은 정보 획득량을 가지는 것을 취하는 것에 의해 시나리오가 세트 에 추가된다. 이 절차는 (90% 신뢰도 내에서) 정보 획득량이 더 이상 증가하지 않을 때까지 반복된다. 이것이 이 알고리즘이 임의로 승부를 결정짓는다고 말해지는 이유이다.

알고리즘 1 - 탐욕 알고리즘:

입력: 모든 가능한 시나리오의 리스트, 추론 모델

출력: 거의 최적인 유한한 시나리오 선택

라틴 하이퍼큐브 샘플링 구현의 여러 번의 실행 및 여러 번의 랜덤 선택에 따른 알고리즘 1의 결과가 비교되었다. 결과는 알고리즘 1, 라틴 하이퍼큐브 샘플링 및 랜덤 간의 정보 획득량 및 중지 기준의 비교를 보여주는 도 23에 제시되어 있다. 수직선은 알고리즘 1 및 LHS에 대한 중지 기준을 보여준다. 도 23에 도시된 바와 같이, 모든 선택들이, 처음 몇 개의 시나리오를 제외하고는, 정보 획득량의 서브모듈성 속성을 확인해 주는, 수확 체감 속성을 보여준다. 이는 이러한 획득량을 계산할 때의 근사화 때문일 가능성이 있으며, 이 근사화는 0에 가까운 값에 대해 처음에 더 큰 영향을 미친다. 추가적으로, 몇 개의 관측치만을 사용하는 것은 모델의 퇴화된 버전에 이르게 할 수 있으며, 이는 처음 몇 개의 관측치에 대한 서브모듈성의 결여를 설명할 수 있다.

시나리오 세트의 관련성을 평가하기 위한 메트릭의 선택에 대한 검증과 관련하여, LHS와 같은 잘 확립된 방법이 실제로 랜덤 선택보다 더 나은 성능을 나타낸다는 사실을 정보 획득량이 포착한다는 관측이 이루어졌다. 이 메트릭은, ODD 또는 분석된 활동에 관계없이, 임의의 시나리오 선택 방법의 비교를 가능하게 한다. 이는 또한 평가 캠페인에서의 진행감(sense of progress)을 전달하고, 직관적이며 투명하다 - 많은 양의 정보가 더 이상 수신되지 않을 때, 평가가 중지될 수 있다 -.

도 23에서의 주요 결과는 다음과 같다: 모든 샘플링 방법이 동일한 정보 획득량 레벨에서 정체된 경우, 제안된 알고리즘은, LHS가 단지 9개의 시나리오 또는, 12개의 시나리오를 필요로 하는지 여부에 관계없이, 시나리오 공간의 약 7%, 또는 시나리오 공간의 대략 추가 2%로 이 수량을 획득하고, 랜덤 방법은 공간의 적어도 2%를 더 탐색할 필요가 있다. 이 실험이 소규모로 수행되었지만, 대규모 AV 검증 프로세스에서 이러한 차이는 수백만 시나리오의 획득량을 나타낼 수 있다. 선택된 세트는 4개의 상이한 타운에서 이루어지는 시나리오를 포함하지만, 그 전부를 포함하지는 않는다. 타운 02 또는 타운 03에서의 시나리오는 타운 01, 타운 04, 타운 05 및 타운 06에서의 시나리오만큼 많은 정보를 가져올 것으로 예측되지 않는다. AV가 선택된 시나리오를 통해 실제로 테스트될 때, AV가 대체로 0 또는 1회 충돌을 조우하지만 또한 하나의 시나리오에서는 7번의 충돌에 연루되고 다른 시나리오에서는 11번의 충돌에 연루된다. 알고리즘이 드문 이벤트를 찾지는 않지만, 분포의 꼬리 부분에 있는 이러한 시나리오는 테스트 중인 시스템에 관한 많은 정보를 제공한다.

실험 요약

요약하면, AV 성능 평가를 위한 시나리오 선택 문제는 그래프에서 서브모듈러 최적화 문제로 재구성될 수 있다. 그렇게 함에 있어서, 정량적 AV 거동 정의의 진보를 활용하여 AV 성능을 표현하는 데 통계 모델이 사용될 수 있다. 또한, 계층적 베이지안 모델은 오픈 소스 AV 구현에 의해 생성되는 데이터 세트에 피팅될 수 있어, 이 기술이 임의의 AV 구현에 적용될 수 있음을 시사한다.

일단 베이지안 계층 모델이 검증되면, 서브모듈성 속성이 생기고, 이 속성을 활용하기 위해 시나리오 세트가 구축될 수 있다. ODD 또는 검토된 활동에 관계없이 시나리오 선택 방법들을 비교하는 데 정보 획득량이 사용될 수 있다.

예시적인 프로세스

도 24는 AV의 성능을 평가하기 위한 테스트 시나리오를 선택하기 위한 예시적인 프로세스(2400)를 도시한다. 프로세스(2400)는, 적어도 부분적으로, (예를 들면, 도 13 내지 도 23을 참조하여 기술된 바와 같이) AV 성능 평가 시스템(1304)을 사용하여 수행될 수 있다.

프로세스(2400)에 따르면, 컴퓨터 시스템은 자율 주행 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오를 나타내는 제1 데이터를 수신한다(블록(2402)). 일 예로서, 시나리오들 각각은 도로 조건, 장애물, 다른 차량, 보행자, 교통 흐름 또는 환경 조건의 상이한 각자의 조합일 수 있다. 일부 구현예에서, 자율 주행 동작은 제1 위치로부터 제2 위치로 차량을 자율적으로 운행시키는 것을 포함할 수 있다.

컴퓨터 시스템은, 시나리오들 각각에 대해, (i) 해당 시나리오에서 차량의 관측된 성능을 나타내는 제1 메트릭 - 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 - , 및 (ii) 해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정한다(블록(2404)).

일부 구현예에서, 제1 메트릭은, AV에 의한 충돌 횟수, AV에 의한 교통 규칙 위반 횟수, AV에 의한 루트 이탈의 횟수 및/또는 정도, AV에 의한 루트 방해의 횟수 및/또는 정도, 및/또는 AV에 의한 루트 횡단 시간과 같은, 각각의 시나리오에서의 AV의 성능에 관한 정보를 나타낼 수 있다.

일부 구현예에서, 규칙은 적어도 하나의 교통 규칙을 포함할 수 있다. 예시적인 교통 규칙은 표지판 또는 신호를 준수하는 규칙, 교통량에 따라 운전하는 규칙, 및 법정 속력을 유지하는 규칙을 포함한다.

일부 구현예에서, 규칙은 적어도 하나의 안전 규칙을 포함할 수 있다. 예시적인 안전 규칙은 다른 대상체와 충돌하지 않는 규칙, 다른 차량 또는 보행자와의 안전 거리를 유지하는 규칙, 및 필요할 때 회피 기동을 수행하는(예를 들면, 다른 차량 또는 보행자를 피하는) 규칙을 포함한다.

일부 구현예에서, 규칙은 적어도 하나의 승객 편의 규칙을 포함할 수 있다. 예시적인 승객 편의 규칙은 매끄럽게 가속 또는 감속하는 규칙, 및 매끄럽게 방향 전환하는 규칙을 포함한다.

일부 구현예에서, 규칙은 적어도 하나의 차량 성능 규칙을 포함할 수 있다. 예시적인 차량 성능 규칙은 차량의 특정 속력, 제동 및 가속 제한을 초과하지 않는 규칙을 포함한다.

일부 구현예에서, 시나리오들 각각에 대해, 해당 시나리오와 연관된 정보 획득량의 정도는 차량의 성능의 추정에 대한 엔트로피의 감소에 대응할 수 있다.

컴퓨터 시스템은 제1 메트릭 및 제2 메트릭에 기초하여 시나리오들의 서브세트를 선택한다(블록(2406)). 일부 구현예에서, 시나리오들의 서브세트는 AV 테스트 또는 검증에 사용될 수 있다.

일부 구현예에서, 시나리오들의 서브세트는 시나리오들의 복수의 후보 서브세트를 식별하는 것, 및 후보 서브세트들 각각에 대해, 해당 후보 서브세트와 연관된 정보 획득량의 정도를 나타내는 각자의 제3 메트릭을 결정하는 것에 의해 선택될 수 있다. 또한, 후보 서브세트들 중에서, 제3 메트릭들 중 가장 높은 것을 갖는 후보 서브세트가 시나리오들의 서브세트로서 선택될 수 있다.

일부 구현예에서, 시나리오들의 서브세트는 버짓 메트릭에 따라 시나리오들의 서브세트 내의 시나리오들의 개수를 제약하는 것에 의해 선택될 수 있다. 예를 들어, 버짓 메트릭은 테스트될 수 있는 최대 시나리오 개수를 명시할 수 있다.

컴퓨터 시스템은 시나리오들의 서브세트를 나타내는 제2 데이터를 출력한다(블록(2408)).

일부 구현예에서, 프로세스(2400)에 따르면, 컴퓨터 시스템은 시나리오들의 서브세트의 시나리오들 각각에서 적어도 하나의 추가 차량의 관측된 성능을 결정할 수 있다.

일부 구현예에서, 프로세스(2400)에 따르면, 컴퓨터 시스템은 복수의 시나리오를 다수의 클러스터로 클러스터링할 수 있다. 또한, 시나리오들의 서브세트는 클러스터에 기초하여 선택된다. 일부 구현예에서, 클러스터는 주성분 분석에 기초할 수 있다.

일부 구현예에서, 프로세스(2400)에 따르면, 컴퓨터 시스템은 클러스터에 기초하여 시나리오들의 배열을 결정할 수 있다. 또한, 시나리오들의 서브세트는 배열에 기초하여 선택될 수 있다. 일부 구현예에서, 배열은 베이지안 계층 모델일 수 있다. 일부 구현예에서, 배열은 베이지안 계층 모델, 베이지안 네트워크, 인수 그래프 및/또는 은닉 마르코프 모델일 수 있다.

일부 구현예에서, 시나리오들의 서브세트는 탐욕 알고리즘에 따라 배열로부터 선택될 수 있다.

전술한 설명에서, 여러 실시예는 구현마다 달라질 수 있는 수많은 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 의미보다는 예시적인 의미로 간주되어야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "더 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (13)

1. 방법에 있어서,
   컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
   해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
   해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
   를 포함하는, 방법.
2. 제1항에 있어서,
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트 내의 시나리오들 각각에서 적어도 하나의 추가 차량의 관측된 성능을 결정하는 단계
   를 더 포함하는, 방법.
3. 제1항에 있어서,
   상기 컴퓨터 시스템에 의해, 상기 복수의 시나리오들을 복수의 클러스터들로 클러스터링하는 단계
   를 더 포함하고,
   상기 시나리오들의 서브세트는 상기 클러스터들에 기초하여 선택되는 것인, 방법.
4. 제3항에 있어서,
   상기 컴퓨터 시스템에 의해, 상기 클러스터들에 기초하여 상기 복수의 시나리오들의 배열을 결정하는 단계
   를 더 포함하고,
   상기 시나리오들의 서브세트는 상기 배열에 기초하여 선택되는 것인, 방법.
5. 제4항에 있어서, 상기 배열은 베이지안 계층 모델(Bayesian hierarchical model), 베이지안 네트워크, 인수 그래프 또는 은닉 마르코프 모델(Hidden Markov Model) 중 적어도 하나인 것인, 방법.
6. 방법에 있어서,
   컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
   해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
   해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
   를 포함하고,
   상기 방법은, 상기 컴퓨터 시스템에 의해, 상기 복수의 시나리오들을 복수의 클러스터들로 클러스터링하는 단계를 더 포함하고, 상기 시나리오들의 서브세트는 상기 클러스터들에 기초하여 선택되고,
   상기 방법은, 상기 컴퓨터 시스템에 의해, 상기 클러스터들에 기초하여 상기 복수의 시나리오들의 배열을 결정하는 단계를 더 포함하고, 상기 시나리오들의 서브세트는 상기 배열에 기초하여 선택되며,
   상기 시나리오들의 서브세트는 탐욕(greedy) 알고리즘에 따라 상기 배열로부터 선택되는 것인, 방법.
7. 방법에 있어서,
   컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
   해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
   해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
   를 포함하고,
   상기 시나리오들 각각에 대해, 해당 시나리오와 연관된 정보 획득량의 정도는 상기 차량의 성능의 추정에 대한 엔트로피의 감소에 대응하는 것인, 방법.
8. 방법에 있어서,
   컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
   해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
   해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
   를 포함하고,
   상기 시나리오들의 서브세트를 선택하는 단계는:
   상기 시나리오들의 복수의 후보 서브세트들을 식별하는 단계,
   상기 후보 서브세트들 각각에 대해, 해당 후보 서브세트와 연관된 정보 획득량의 정도를 나타내는 각자의 제3 메트릭을 결정하는 단계, 및
   상기 후보 서브세트들 중에서, 상기 제3 메트릭들 중 가장 높은 메트릭을 갖는 상기 후보 서브세트를 상기 시나리오들의 서브세트로서 선택하는 단계를 포함하는 것인, 방법.
9. 방법에 있어서,
   컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
   해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
   해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
   상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
   상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
   를 포함하고,
   상기 시나리오들의 서브세트를 선택하는 단계는:
   버짓 메트릭에 따라 상기 시나리오들의 서브세트 내의 시나리오들의 개수를 제약하는 단계를 포함하는 것인, 방법.
10. 방법에 있어서,
    컴퓨터 시스템에 의해, 자율 주행(autonomous) 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 단계;
    상기 컴퓨터 시스템에 의해, 상기 시나리오들 각각에 대해:
    해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
    해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 단계;
    상기 컴퓨터 시스템에 의해, 상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 단계; 및
    상기 컴퓨터 시스템에 의해, 상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 단계
    를 포함하고,
    상기 적어도 하나의 규칙은:
    적어도 하나의 교통 규칙,
    적어도 하나의 안전 규칙,
    적어도 하나의 승객 편의 규칙, 및
    적어도 하나의 차량 성능 규칙
    중 적어도 하나를 포함하는 것인, 방법.
11. 제1항에 있어서, 상기 자율 주행 동작은 제1 위치로부터 제2 위치로 상기 차량을 자율적으로 운행(navigating)시키는 것을 포함하는 것인, 방법.
12. 시스템에 있어서,
    적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금 동작들을 수행하게 하는 명령어들을 저장하는 적어도 하나의 비-일시적 컴퓨터 판독 가능 매체
    를 포함하며, 상기 동작들은:
    자율 주행 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 동작;
    상기 시나리오들 각각에 대해:
    해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
    해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 동작;
    상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 동작; 및
    상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 동작을 포함하는, 시스템.
13. 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금 동작들을 수행하게 하는 명령어들을 저장하는 적어도 하나의 비-일시적 컴퓨터 판독 가능 매체에 있어서, 상기 동작들은:
    자율 주행 동작을 수행할 때 차량의 성능을 추정하기 위한 복수의 시나리오들을 나타내는 제1 데이터를 수신하는 동작;
    상기 시나리오들 각각에 대해:
    해당 시나리오에서 상기 차량의 관측된 성능을 나타내는 제1 메트릭 - 상기 제1 메트릭은 적어도 하나의 규칙에 기초하여 결정됨 -, 및
    해당 시나리오와 연관된 정보 획득량의 정도를 나타내는 제2 메트릭을 결정하는 동작;
    상기 제1 메트릭 및 상기 제2 메트릭에 기초하여 상기 시나리오들의 서브세트를 선택하는 동작; 및
    상기 시나리오들의 서브세트를 나타내는 제2 데이터를 출력하는 동작을 포함하는 것인, 적어도 하나의 비-일시적 컴퓨터 판독 가능 매체.

Images