KR102588976B1 - 증강 현실 지원 자율 주행 차량 커맨드 센터 - Google Patents

증강 현실 지원 자율 주행 차량 커맨드 센터 Download PDF

Info

Publication number
KR102588976B1
KR102588976B1 KR1020210025788A KR20210025788A KR102588976B1 KR 102588976 B1 KR102588976 B1 KR 102588976B1 KR 1020210025788 A KR1020210025788 A KR 1020210025788A KR 20210025788 A KR20210025788 A KR 20210025788A KR 102588976 B1 KR102588976 B1 KR 102588976B1
Authority
KR
South Korea
Prior art keywords
user
autonomous vehicles
data
augmented reality
indication
Prior art date
Application number
KR1020210025788A
Other languages
English (en)
Other versions
KR20220062221A (ko
Inventor
타일러 헨드릭슨
샤우랴 아가왈
아이만 알라라오
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20220062221A publication Critical patent/KR20220062221A/ko
Application granted granted Critical
Publication of KR102588976B1 publication Critical patent/KR102588976B1/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/54—Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22—Display screens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0038—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with simple or augmented images from one or more cameras located onboard the vehicle, e.g. tele-operation
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0219—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory ensuring the processing of the whole working surface
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/028—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal
    • G05D1/0282—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal generated in a local control room
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0287—Control of position or course in two dimensions specially adapted to land vehicles involving a plurality of land vehicles, e.g. fleet or convoy travelling
    • G05D1/0289—Control of position or course in two dimensions specially adapted to land vehicles involving a plurality of land vehicles, e.g. fleet or convoy travelling with means for avoiding collisions between vehicles
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40—Business processes related to the transportation industry
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • B60K2370/175—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062—Adapting control system settings
    • B60W2050/0063—Manual parameter input, manual setting means, manual initialising or calibrating means
    • B60W2050/0064—Manual parameter input, manual setting means, manual initialising or calibrating means using a remote, e.g. cordless, transmitter or receiver unit, e.g. remote keypad or mobile phone
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2530/00—Input parameters relating to vehicle conditions or values, not covered by groups B60W2510/00 or B60W2520/00
    • B60W2530/13—Mileage
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/225—Direction of gaze
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Human Computer Interaction (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Educational Administration (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Traffic Control Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

무엇보다도, 자율 주행 차량(AV)을 모니터링 및 제어하기 위한 기술이 설명된다. 일 예로서, 적어도 하나의 프로세서는 제1 AV가 증강 현실 디스플레이 디바이스를 착용한 사용자의 시야에 있다고 결정하고, 제1 AV의 동작에 관한 제1 데이터를 결정하며, 제1 데이터의 적어도 일 부분이 증강 현실 디스플레이 디바이스를 사용하여 사용자에게 제시되게 한다. 예를 들어, 그래픽 사용자 인터페이스가 증강 현실 디스플레이 디바이스를 사용하여 사용자의 시야에 제시되고, 제1 데이터의 적어도 그 부분이 사용자의 시야에서 제1 AV에 공간적으로 근접하게 배열된 것처럼 보이도록, 제1 데이터의 적어도 그 부분이 그래픽 사용자 인터페이스 상에 포함된다.

Description

증강 현실 지원 자율 주행 차량 커맨드 센터{AUGMENTED REALITY ENABLED AUTONOMOUS VEHICLE COMMAND CENTER}
이 설명은 자율 주행 차량(autonomous vehicle)의 동작을 원격으로 모니터링 및 제어하기 위한 컴퓨터 시스템에 관한 것이다.
자율 주행 차량(AV)은 사람 및/또는 화물(예를 들면, 포장물, 물건, 또는 다른 물품)을 한 장소로부터 다른 장소로 운송하는 데 사용될 수 있다. 예로서, AV는 사람의 위치로 운행하고, 사람이 AV에 탑승하기를 기다리며, 지정된 목적지(예를 들면, 사람에 의해 선택된 위치)로 운행할 수 있다. 다른 예로서, AV는 화물의 위치로 운행하고, 화물이 AV에 적재되기를 기다리며, 지정된 목적지(예를 들면, 화물의 배달 위치)로 운행할 수 있다.
일부 구현예에서, AV의 동작이 원격으로 모니터링 및/또는 제어될 수 있다. 예를 들어, 커맨드 센터는 AV로부터 멀리 떨어져 있는 하나 이상의 컴퓨터 시스템을 사용하여 구현될 수 있다. 커맨드 센터는 AV로부터 정보(예를 들면, AV의 동작을 기술하는 데이터)를 수신할 수 있고, 정보(예를 들면, 특정 작업을 수행하도록 AV에 지시하는 커맨드)를 AV로 송신할 수 있다.
도 1은 자율 주행 능력(autonomous capability)을 갖는 AV의 예를 도시한다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 도시한다.
도 3은 컴퓨터 시스템을 도시한다.
도 4는 AV에 대한 예시적인 아키텍처를 도시한다.
도 5는 인지 모듈에 의해 사용될 수 있는 입력 및 출력의 예를 도시한다.
도 6은 LiDAR 시스템의 예를 도시한다.
도 7은 동작 중인 LiDAR 시스템을 도시한다.
도 8은 LiDAR 시스템의 동작을 추가적으로 상세하게 도시한다.
도 9는 계획 모듈의 입력과 출력 사이의 관계의 블록 다이어그램을 도시한다.
도 10은 경로 계획에서 사용되는 방향 그래프(directed graph)를 도시한다.
도 11은 제어 모듈의 입력 및 출력의 블록 다이어그램을 도시한다.
도 12는 제어기의 입력, 출력, 및 컴포넌트의 블록 다이어그램을 도시한다.
도 13은 여러 AV의 동작을 모니터링 및 제어하기 위한 증강 현실 시스템을 포함하는 예시적인 시스템을 도시한다.
도 14a는 예시적인 증강 현실 시스템을 도시한다.
도 14b는 증강 현실 시스템을 위한 예시적인 헤드셋을 도시한다.
도 14c는 증강 현실 시스템에 의해 제시될 수 있는 예시적인 그래픽 사용자 인터페이스(GUI)를 도시한다.
도 15a 내지 도 15c는 증강 현실 시스템에 의해 제시될 수 있는 추가의 예시적인 GUI를 도시한다.
도 16은 증강 현실 시스템에 의해 제시될 수 있는 다른 예시적인 GUI를 도시한다.
도 17a 및 도 17b는 증강 현실 시스템의 예시적인 사용 사례를 도시한다.
도 18a 및 도 18b는 증강 현실 시스템의 다른 예시적인 사용 사례를 도시한다.
도 19a 내지 도 18c는 증강 현실 시스템의 다른 예시적인 사용 사례를 도시한다.
도 20은 하나 이상의 AV의 동작을 모니터링 및 제어하기 위한 예시적인 프로세스의 흐름 다이어그램을 도시한다.
설명을 위한 이하의 기술에서는, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항이 기재된다. 그렇지만, 본 발명이 이러한 특정 세부 사항 없이 실시될 수 있음이 명백할 것이다. 다른 경우에, 공지된 구조 및 디바이스는 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시된다.
도면에서, 설명을 용이하게 하기 위해, 디바이스, 모듈, 명령 블록 및 데이터 요소를 나타내는 것과 같은 개략적 요소의 특정 배열 또는 순서가 도시된다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면에서의 개략적 요소의 특정 순서 또는 배열이 프로세싱의 특정한 순서 또는 시퀀스, 또는 프로세스의 분리가 요구됨을 암시한다는 것을 의미하지는 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적 요소를 포함시키는 것은, 그러한 요소가 모든 실시예에서 요구됨을 암시한다는 것을 의미하지 않거나, 또는 그러한 요소에 의해 표현된 특징이 일부 실시예에서 포함되지 않을 수 있거나 다른 요소와 조합되지 않을 수 있음을 암시한다는 것을 의미하지 않는다.
또한, 도면에서, 2개 이상의 다른 개략적 요소 사이의 연결, 관계 또는 연관을 보여주기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소가 사용되는 경우에, 임의의 그러한 연결 요소의 부재가 연결, 관계 또는 연관이 존재할 수 없다는 것을 암시하는 것을 의미하지 않는다. 환언하면, 요소들 사이의 일부 연결, 관계 또는 연관은 본 개시를 모호하게 하지 않기 위해 도면에 도시되어 있지 않다. 추가적으로, 예시를 용이하게 하기 위해, 요소들 사이의 다수의 연결, 관계 또는 연관을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호, 데이터 또는 명령의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면, 그러한 요소가, 통신을 수행하기 위해 필요할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.
그 예가 첨부된 도면에 예시된 실시예가 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항이 기재된다. 그렇지만, 다양한 기술된 실시예가 이러한 특정 세부 사항 없이 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예의 양태를 불필요하게 모호하게 하지 않기 위해 공지된 방법, 절차, 컴포넌트, 회로, 및 네트워크는 상세히 기술되지 않았다.
서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 각각 사용될 수 있는 여러 특징이 이하에 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 임의의 것을 해결할 수 없거나 또는 위에서 논의된 문제들 중 단지 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부가 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제가 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예는 이하의 개요에 따라 본원에 기술된다:
1. 일반적 개관
2. 시스템 개관
3. AV 아키텍처
4. AV 입력
5. AV 계획
6. AV 제어
7. 증강 현실 지원 AV 커맨드 센터
일반적 개관
하나 이상의 컴퓨터 시스템은 하나 이상의 AV(예를 들면, AV 플릿(fleet))의 동작을 제어할 수 있다. 예를 들어, 컴퓨터 시스템은 AV를 하나 이상의 위치 또는 지역으로 전개(deploy)하고, AV 각각에 운송 작업을 할당하며, AV 각각에 운행 명령을 제공하고, AV 각각에 유지 관리 작업을 할당하며, 그리고/또는 AV 각각에 다른 작업을 할당할 수 있다.
게다가, 하나 이상의 컴퓨터 시스템이 AV의 동작을 모니터링하는 데 사용될 수 있다. 예를 들어, 사용자가 AV의 동작에 관해 계속 통보받을 수 있도록, 컴퓨터 시스템은 AV 각각으로부터 정보를 수집하고, 수집된 정보를 프로세싱하며, 정보를 하나 이상의 사용자에게 제시한다.
일부 구현예에서, 사용자는 증강 현실 시스템을 사용하여 AV 플릿을 모니터링 및 제어할 수 있다. 일 예로서, 사용자는 AV 플릿 사이를 걸어다니는 동안 증강 현실 디스플레이 디바이스(예를 들면, 헤드셋)를 착용하고 있다. 사용자가 특정 AV에 접근함에 따라, 디스플레이 디바이스는 (예를 들면, 특정 AV에 관련된 정보가 해당 AV 근처에 호버링(hovering)하는 것처럼 보이도록) 사용자의 시야에 AV에 관한 정보를 오버레이하는 그래픽 사용자 인터페이스(GUI)를 제시한다. 예를 들어, 디스플레이 디바이스는 AV의 전개 상태(deployment status)에 관한 정보, AV와 관련된 유지 관리 또는 수리 문제, AV에 관한 스케줄링 정보 또는 AV에 관한 조직 정보(organizational information)를 제시할 수 있다. 게다가, 사용자는 (예를 들면, 특정 커맨드에 매핑되는 제스처를 수행하는 것에 의해) AV에 대해 특정 작업을 수행하기 위해 그래픽 사용자 인터페이스와 상호작용할 수 있다.
이러한 기술의 장점 중 일부는 사용자가 AV 플릿과 상호작용할 수 있는 속도, 정확도 및 효율성을 개선시키는 것을 포함한다. 예를 들어, 증강 현실 시스템은, 사용자가 선택을 수동으로 입력하는 것을 요구하지 않고, (예를 들면, 특정 AV에 접근하여 그를 주시하는 것에 의해) 특정 AV에 관한 정보를 직관적으로 검색할 수 있게 한다. 게다가, 사용자는 핸드헬드 디바이스로 반복적으로 시선을 돌리지 않으면서 AV에 대해 작업을 수행할 수 있다.
일 예로서, 증강 현실을 이용하지 않는 시스템과 상호작용할 때, 사용자는 하나 이상의 AV와 핸드헬드 디바이스 사이에서 반복적으로 시선을 이동시킬 수 있다. 예를 들어, 핸드헬드 디바이스에서 특정 AV를 선택하기 위해, 사용자는 핸드헬드 디바이스의 사용자 인터페이스 상에 제시되는 AV들의 리스트를 검토할 수 있다. 게다가, 사용자는 AV의 식별 특성(예를 들면, AV 상의 식별자, AV의 외관, AV의 위치 등)을 결정하기 위해 AV로 시선을 이동시킬 수 있고 필터링 기준을 수동으로 입력하기 위해(예를 들면, AV의 특성에 따라 리스트를 필터링하기 위해) 다시 핸드헬드 디바이스의 사용자 인터페이스로 시선을 이동시킬 수 있다. 게다가, 사용자는 핸드헬드 디바이스를 사용하여 필터링된 리스트에서 특정 AV를 수동으로 선택할 수 있다.
게다가, 선택된 AV에 관한 특정 유형의 정보를 검색하기 위해, 사용자는 모바일 디바이스의 사용자 인터페이스 상에 제시된 하나 이상의 옵션(예를 들면, 각각은 제시될 수 있는 상이한 유형의 정보에 대응함)을 검토하고, 대응하는 데이터를 검색하기 위해 옵션들 중 하나를 수동으로 선택할 수 있다. 사용자는 (예를 들면, 가능한 오류 또는 불일치를 식별하기 위해) AV와 사용자 인터페이스 사이에서 시선을 이동시키는 것에 의해 검색된 정보가 선택된 AV에 대응하는지를 확인할 수 있다.
게다가, 선택된 AV에 특정 작업을 수행하도록 명령하기 위해, 사용자는 모바일 디바이스의 사용자 인터페이스 상에 제시된 하나 이상의 옵션(예를 들면, 각각은 AV에 의해 수행될 수 있는 상이한 유형의 작업에 대응함)을 검토하고, 대응하는 작업을 수행하도록 AV에 명령하기 위해 옵션들 중 하나를 수동으로 선택할 수 있다. 사용자는 (예를 들면, 가능한 오류 또는 불일치를 식별하기 위해) AV와 사용자 인터페이스 사이에서 시선을 이동시키는 것에 의해 AV가 선택된 작업을 수행하고 있는지를 확인할 수 있다.
이와 달리, 본원에서 설명된 증강 현실 시스템들 중 하나 이상과 상호작용할 때, 사용자는 AV를 주시하는 것, AV에 접근하는 것 및/또는 AV가 사용자에 접근하도록 허용하는 것, 및 (예를 들면, AV 상에 시선을 유지하는 것에 의해, 및/또는 AV에 대해 신체 제스처를 수행하는 것에 의해) 시선을 유지하면서 AV를 선택하는 것에 의해 특정 AV를 선택할 수 있다. 게다가, AV에 관한 정보는, 사용자가 정보를 검토하는 동안 시선을 돌릴 필요가 없도록, 정보가 AV 상에 또는 그 주위에 떠 있는 것처럼 보이게 제시될 수 있다. 게다가, 사용자는 AV로부터 시선을 돌리지 않으면서 (예를 들면, 제스처를 수행하는 것에 의해) 선택된 AV에 특정 작업을 수행하도록 명령할 수 있다. 따라서, 사용자는 더 효율적이고 직관적인 방식 및 오류 또는 실수를 초래할 가능성이 더 적은 방식으로 AV의 동작을 모니터링 및 제어할 수 있다.
시스템 개관
도 1은 자율 주행 능력을 갖는 AV(100)의 예를 도시한다.
본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전한 AV, 고도의 AV, 및 조건부 AV를 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 동작될 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.
본원에서 사용되는 바와 같이, AV는 자율 주행 능력을 갖는 차량이다.
본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 예이다.
본원에서 사용되는 바와 같이, "궤적"은 AV를 제1 시공간적 위치로부터 제2 시공간적 위치로 운행시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로의 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치는 현실 세계 위치에 대응한다. 예를 들어, 시공간적 위치는 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.
본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트(예를 들면, 이미지 센서, 생체 측정 센서), 송신 및/또는 수신 컴포넌트(예를 들면, 레이저 또는 라디오 주파수 파 송신기 및 수신기), 아날로그-디지털 변환기와 같은 전자 컴포넌트, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트를 포함할 수 있다.
본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 레이블링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.
본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단(traverse)될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물 내의 사유 도로, 주차장 섹션, 공터 섹션, 시골 지역의 비포장 경로 등)에 대응할 수 있다. 일부 차량(예를 들면, 4륜 구동 픽업 트럭, 스포츠 유틸리티 차량 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.
본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 일 부분이다. 차선은 때때로 차선 마킹(lane marking)에 기초하여 식별된다. 예를 들어, 차선은 차선 마킹 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹을 갖는 도로는 차선 마킹들 사이에 둘 이상의 차량을 수용할 수 있음으로써, 하나의 차량이 차선 마킹을 횡단하지 않으면서 다른 차량을 추월할 수 있고, 따라서 차선 마킹들 사이의 공간보다 더 좁은 차선을 갖거나 차선 마킹들 사이에 2개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징부, 예를 들면, 시골 지역에서의 주요 도로를 따라 있는 바위 및 나무 또는, 예를 들면, 미개발 지역에서의 피할 자연 장애물에 기초하여 규정될 수 있다. 차선은 또한 차선 마킹 또는 물리적 특징부와 무관하게 해석될 수 있다. 예를 들어, 차선은 차선 경계로서 해석될 특징부가 달리 없는 영역에서 장애물이 없는 임의의 경로에 기초하여 해석될 수 있다. 예시적인 시나리오에서, AV는 들판 또는 공터의 장애물 없는 부분을 통해 차선을 해석할 수 있다. 다른 예시적인 시나리오에서, AV는 차선 마킹을 갖지 않는 넓은(예를 들면, 2개 이상의 차선을 위해 충분히 넓은) 도로를 통해 차선을 해석할 수 있다. 이 시나리오에서, AV는 차선에 관한 정보를 다른 AV에 통신할 수 있음으로써, 다른 AV가 동일한 차선 정보를 사용하여 그 자신들 간에 경로 계획을 조정할 수 있다.
본 명세서에서 사용되는 바와 같이, "호모토피(homotopy)"는 AV가 특정 루트를 횡단하는 동안 준수할 수 있는 AV의 궤적에 대한 제약 세트의 서브세트를 의미한다.
본원에서 사용되는 바와 같이, "실현 가능(feasible)"은 AV가 목적지로 주행하는 동안 호모토피 내의 제약을 준수할 수 있는지 여부를 의미한다.
"하나 이상"은 하나의 요소에 의해 수행되는 기능, 둘 이상의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능, 여러 요소에 의해 수행되는 여러 기능, 또는 이들의 임의의 조합을 포함한다.
또한, 제1, 제2 등의 용어가, 일부 예에서, 다양한 요소를 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소가 이러한 용어에 의해 제한되지 않아야 한다는 것이 이해될 것이다. 이러한 용어는 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 기술된 다양한 실시예의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉 둘 모두가 접촉이지만, 동일한 접촉은 아니다.
본원에 기술된 다양한 실시예의 설명에서 사용된 용어는 단지 특정한 실시예를 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 기술된 다양한 실시예 및 첨부된 청구항의 설명에서 사용되는 바와 같이, 단수형은, 문맥이 달리 명확히 표시하지 않는 한, 복수형을 포함하는 것으로 의도되어 있다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합을 지칭하고 포함한다는 것이 또한 이해될 것이다. 게다가, "포함한다" 및/또는 "포함하는"이라는 용어가, 본 설명에서 사용될 때, 언급된 특징, 정수, 단계, 동작, 요소, 및/또는 컴포넌트의 존재를 명기하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그의 그룹의 존재 또는 추가를 배제하지 않는다는 것이 이해될 것이다.
본원에서 사용되는 바와 같이, "~ 경우"라는 용어는 선택적으로 문맥에 따라 "~할 때", 또는 "~시에" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는 선택적으로 문맥에 따라, "결정할 시에" 또는 "결정에 응답하여" 또는 "[언급된 조건 또는 이벤트]의 검출 시에" 또는 "[언급된 조건 또는 이벤트]의 검출에 응답하여"를 의미하는 것으로 해석된다.
본원에서 사용되는 바와 같이, AV 시스템은 AV의 동작을 지원하는 하드웨어, 소프트웨어, 저장 데이터 및 실시간으로 생성된 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 3과 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(300)과 유사한 클라우드 컴퓨팅 환경 상에 구현된다.
일반적으로, 본원은 완전한 AV, 고도의 AV, 및 조건부 AV, 예컨대, 제각기 소위 레벨 5, 레벨 4 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술을 개시한다(차량의 자율성의 레벨 분류에 대한 세부 사항은 참조에 의해 그 전체가 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 또한, 본원에서 개시된 기술은 부분적 AV 및 운전자 보조 차량, 예컨대, 소위 레벨 2 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템들 중 하나 이상은 센서 입력의 프로세싱에 기초하여 특정의 동작 조건 하에서 특정의 차량 동작(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술은, 완전한 AV로부터 인간 운전 차량에 이르는, 임의의 레벨에 있는 차량에 혜택을 줄 수 있다.
AV는 사람 운전자를 필요로 하는 차량보다 장점이 있다. 한 가지 장점은 안전성이다. 예를 들어, 2016년에, 미국은 9100억 달러의 사회적 비용으로 추정되는 600만 건의 자동차 사고, 240만 건의 부상, 4만 명의 사망자, 및 1300만 건의 차량 충돌을 경험했다. 1억 마일 주행당 미국 교통 사망자수는, 부분적으로 차량에 배치된 추가적인 안전 대책으로 인해, 1965년과 2015년 사이에 약 6명으로부터 약 1명으로 줄었다. 예를 들어, 충돌이 발생할 것이라는 추가적인 0.5초의 경고는 전후 충돌의 60%를 완화시키는 것으로 여겨진다. 그렇지만, 수동적 안전 특징부(예를 들면, 안전 벨트, 에어백)는 이 수치를 개선시키는 데 한계에 도달했을 것이다. 따라서 차량의 자동 제어와 같은, 능동적 안전 대책이 이러한 통계치를 개선시키는 데 유망한 다음 단계이다. 인간 운전자가 충돌의 95%에서 중요한 충돌전 사건에 책임있는 것으로 여겨지기 때문에, 자동 운전 시스템은, 예를 들어, 중요한 상황을 인간보다 잘 신뢰성 있게 인식하고 피하는 것에 의해; 더 나은 의사 결정을 하고, 교통 법규를 준수하며, 미래의 사건을 인간보다 더 잘 예측하는 것에 의해; 및 차량을 인간보다 더 잘 신뢰성 있게 제어하는 것에 의해 더 나은 안전성 결과를 달성할 수 있다.
도 1을 참조하면, AV 시스템(120)은, 대상체(예를 들면, 자연 장애물(191), 차량(193), 보행자(192), 자전거 타는 사람, 및 다른 장애물)을 피하고 도로 법규(예를 들면, 동작 규칙 또는 운전 선호사항)를 준수하면서, AV(100)를 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 동작시킨다.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)로부터 동작 커맨드를 수신하고 이에 따라 동작하도록 설비된 디바이스(101)를 포함한다. 차량이 액션(예를 들면, 운전 기동)을 수행하게 하는 실행 가능 명령(또는 명령 세트)을 의미하기 위해 "동작 커맨드"라는 용어를 사용한다. 동작 커맨드는, 제한 없이, 차량이 전진을 시작하고, 전진을 중지하며, 후진을 시작하고, 후진을 중지하며, 가속하고, 감속하며, 좌회전을 수행하고, 우회전을 수행하기 위한 명령을 포함할 수 있다. 일 실시예에서, 컴퓨팅 프로세서(146)는 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스(101)의 예는 조향 컨트롤(102), 브레이크(103), 기어, 가속기 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 락, 윈도 컨트롤, 및 방향 지시등을 포함한다.
일 실시예에서, AV 시스템(120)은 AV의 위치, 선속도와 각속도 및 선가속도와 각가속도, 및 헤딩(heading)(예를 들면, AV(100)의 선단의 배향)와 같은 AV(100)의 상태 또는 조건의 속성을 측정 또는 추론하기 위한 센서(121)를 포함한다. 센서(121)의 예는 GPS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 IMU(inertial measurement unit), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 속력 센서, 휠 브레이크 압력 또는 제동 토크 센서, 엔진 토크 또는 휠 토크 센서, 그리고 조향각 및 각도 변화율 센서이다.
일 실시예에서, 센서(121)는 AV의 환경의 속성을 감지 또는 측정하기 위한 센서를 또한 포함한다. 예를 들어, 가시광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라(122), LiDAR(123), RADAR, 초음파 센서, TOF(time-of-flight) 깊이 센서, 속력 센서, 온도 센서, 습도 센서, 및 강우 센서.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서(146)와 연관된 머신 명령 또는 센서(121)에 의해 수집된 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵, 운전 성능, 교통 혼잡 업데이트 또는 기상 조건을 포함한다. 일 실시예에서, 환경(190)에 관한 데이터는 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, AV 시스템(120)은 다른 차량의 상태 및 조건, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 AV(100)를 향한 선형 헤딩(linear heading)과 각도 헤딩(angular heading)의 측정된 또는 추론된 속성을 통신하기 위한 통신 디바이스(140)를 포함한다. 이러한 디바이스는 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스 및 포인트-투-포인트(point-to-point) 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스를 포함한다. 일 실시예에서, 통신 디바이스(140)는 (라디오 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및 일부 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, AV와의 통신 및 AV들 간의 통신을 위한 하나 이상의 통신 표준에 따른다.
일 실시예에서, 통신 디바이스(140)는 통신 인터페이스를 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리, 적외선, 또는 라디오 인터페이스. 통신 인터페이스는 원격에 위치된 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치된 데이터베이스(134)는 도 2에 기술된 바와 같은 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스(140)는 센서(121)로부터 수집된 데이터 또는 AV(100)의 동작에 관련된 다른 데이터를 원격에 위치된 데이터베이스(134)에 송신한다. 일 실시예에서, 통신 인터페이스(140)는 원격 운영(teleoperation)에 관련되는 정보를 AV(100)에 송신한다. 일부 실시예에서, AV(100)는 다른 원격(예를 들면, "클라우드") 서버(136)와 통신한다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치와 같은 데이터를 저장함). 그러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신된다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 유사한 시각(time of day)에 궤적(198)을 따라 이전에 주행한 적이 있는 차량의 운전 속성(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 원격에 위치된 데이터베이스(134)로부터 통신 채널을 통해 AV(100)에 송신될 수 있다.
AV(100) 상에 위치된 컴퓨팅 디바이스(146)는 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초한 제어 액션을 알고리즘적으로 생성하여, AV 시스템(120)이 자율 주행 운전 능력을 실행할 수 있게 한다.
일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고를 제공하고 그로부터 입력을 수신하기 위해 컴퓨팅 디바이스(146)에 결합된 컴퓨터 주변기기(132)를 포함한다. 일 실시예에서, 주변기기(132)는 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 컨트롤러(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.
일 실시예에서, AV 시스템(120)은, 예를 들어, 승객에 의해 지정되거나 승객과 연관된 프로파일에 저장된, 승객의 프라이버시 레벨을 수신하고 시행한다. 승객의 프라이버시 레벨은 승객과 연관된 특정 정보(예를 들면, 승객 편의 데이터, 생체 측정 데이터 등)가 사용되도록, 승객 프로파일에 저장되도록, 그리고/또는 클라우드 서버(136)에 저장되어 승객 프로파일과 연관되도록 할 수 있는 방법을 결정한다. 일 실시예에서, 프라이버시 레벨은 일단 라이드(ride)가 완료되면 삭제되는 승객과 연관된 특정 정보를 지정한다. 일 실시예에서, 프라이버시 레벨은 승객과 연관된 특정 정보를 지정하고 정보에 액세스하도록 인가된 하나 이상의 엔티티를 식별해준다. 정보에 액세스하도록 인가되어 있는 지정된 엔티티의 예는 다른 AV, 서드파티 AV 시스템, 또는 정보에 잠재적으로 액세스할 수 있는 임의의 엔티티를 포함할 수 있다.
승객의 프라이버시 레벨은 하나 이상의 입도(granularity) 레벨로 지정될 수 있다. 일 실시예에서, 프라이버시 레벨은 저장 또는 공유될 특정 정보를 식별해준다. 일 실시예에서, 승객이 자신의 개인 정보가 저장 또는 공유되지 않게 지정할 수 있도록 승객과 연관된 모든 정보에 프라이버시 레벨이 적용된다. 특정 정보에 액세스하도록 허용된 엔티티의 지정은 다양한 입도 레벨로 지정될 수 있다. 특정 정보에 액세스하도록 허용되는 다양한 엔티티 세트는, 예를 들어, 다른 AV, 클라우드 서버(136), 특정 서드파티 AV 시스템 등을 포함할 수 있다.
일 실시예에서, AV 시스템(120) 또는 클라우드 서버(136)는 승객과 연관된 특정 정보가 AV(100) 또는 다른 엔티티에 의해 액세스될 수 있는지를 결정한다. 예를 들어, 특정 시공간적 위치에 관련된 승객 입력에 액세스하려고 시도하는 서드파티 AV 시스템은 승객과 연관된 정보에 액세스하기 위해, 예를 들어, AV 시스템(120) 또는 클라우드 서버(136)로부터 인가를 획득해야 한다. 예를 들어, AV 시스템(120)은 시공간적 위치에 관련된 승객 입력이 서드파티 AV 시스템, AV(100), 또는 다른 AV에 제공될 수 있는지 여부를 결정하기 위해 승객의 지정된 프라이버시 레벨을 사용한다. 이것은 승객의 프라이버시 레벨이 어느 다른 엔티티가 승객의 액션에 관한 데이터 또는 승객과 연관된 다른 데이터를 수신하도록 허용되는지를 지정할 수 있게 한다.
도 2는 예시적인 "클라우드" 컴퓨팅 환경을 예시한다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스(예를 들면, 네트워크, 네트워크 대역폭, 서버, 프로세싱, 메모리, 스토리지, 애플리케이션, 가상 머신, 및 서비스)의 공유 풀에 대한 편리한 온-디맨드 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템에서는, 하나 이상의 대규모 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스를 전달하는 데 사용되는 머신을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 데이터 센터(204a, 204b, 및 204c)는 클라우드 컴퓨팅 서비스를 클라우드(202)에 연결된 컴퓨터 시스템(206a, 206b, 206c, 206d, 206e, 및 206f)에 제공한다.
클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정 부분을 구성하는 서버의 물리적 배열체를 지칭한다. 예를 들어, 서버는 클라우드 데이터 센터 내에 룸, 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역(zone)을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 일부 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버는, 전력 요건, 에너지 요건, 열적 요건, 가열 요건, 및/또는 다른 요건을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요건에 기초하여 그룹으로 배열된다. 일 실시예에서, 서버 노드는 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 다수의 랙을 통해 분산된 다수의 컴퓨팅 시스템을 갖는다.
클라우드(202)는 클라우드 데이터 센터(204a, 204b, 및 204c)를 상호연결시키고 클라우드 컴퓨팅 서비스에 대한 컴퓨팅 시스템(206a 내지 206f)의 액세스를 용이하게 하는 것을 돕는 네트워크 및 네트워킹 리소스(예를 들어, 네트워킹 장비, 노드, 라우터, 스위치, 및 네트워킹 케이블)와 함께 클라우드 데이터 센터(204a, 204b, 및 204c)를 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결을 사용하여 배포된 유선 또는 무선 링크를 사용하여 결합된 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 거쳐 교환되는 데이터는, IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은, 임의의 개수의 네트워크 계층 프로토콜을 사용하여 송신된다. 게다가, 네트워크가 다수의 서브 네트워크의 조합을 나타내는 실시예에서는, 기저 서브 네트워크(underlying sub-network) 각각에서 상이한 네트워크 계층 프로토콜이 사용된다. 일부 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.
컴퓨팅 시스템(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자는 네트워크 링크 및 네트워크 어댑터를 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다양한 컴퓨팅 디바이스, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, AV(자동차, 드론, 셔틀, 기차, 버스 등을 포함함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템(206a 내지 206f)은 다른 시스템 내에 또는 그 일부로서 구현된다.
도 3은 컴퓨터 시스템(300)을 예시한다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술을 수행하도록 고정-배선(hard-wired)되거나, 기술을 수행하도록 지속적으로 프로그래밍되는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스를 포함하거나, 펌웨어, 메모리, 다른 스토리지 또는 그 조합 내의 프로그램 명령에 따라 기술을 수행하도록 프로그래밍되는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스는 또한 커스텀 고정 배선 로직, ASIC, 또는 FPGA를 커스텀 프로그래밍과 조합하여 기술을 실현할 수 있다. 다양한 실시예에서, 특수 목적 컴퓨팅 디바이스는 기술을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템, 휴대용 컴퓨터 시스템, 핸드헬드 디바이스, 네트워크 디바이스, 또는 임의의 다른 디바이스이다.
일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위해 버스(302)와 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 프로세서(304)에 의해 실행될 명령 및 정보를 저장하기 위해 버스(302)에 결합된, RAM(random access memory) 또는 다른 동적 저장 디바이스와 같은, 메인 메모리(306)를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령의 실행 동안 임시 변수 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령은, 프로세서(304)에 의해 액세스 가능한 비-일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(300)을 명령에 지정된 동작을 수행하도록 커스터마이징된 특수 목적 머신으로 만든다.
일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)를 위한 정적 정보 및 명령을 저장하기 위해 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 추가로 포함한다. 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 정보 및 명령을 저장하기 위해 버스(302)에 결합된다.
일 실시예에서, 컴퓨터 시스템(300)은 버스(302)를 통해, 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(312)에 결합된다. 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(314)는 정보 및 커맨드 선택을 프로세서(304)에 통신하기 위해 버스(302)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택을 프로세서(304)에 통신하고 디스플레이(312) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키와 같은, 커서 컨트롤러(316)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치를 지정할 수 있게 하는 2개의 축, 즉 제1 축(예를 들면, x-축) 및 제2 축(예를 들면, y-축)에서의 2 자유도를 갖는다.
일 실시예에 따르면, 본원에서의 기술은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령의 하나 이상의 시퀀스를 실행하는 것에 응답하여 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령은, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령의 시퀀스의 실행은 프로세서(304)로 하여금 본원에서 기술된 프로세스 단계를 수행하게 한다. 대안적인 실시예에서, 소프트웨어 명령 대신에 또는 소프트웨어 명령과 조합하여 고정 배선 회로가 사용된다.
"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신이 특정 방식으로 동작하게 하는 데이터 및/또는 명령을 저장하는 임의의 비-일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 저장 매체의 일반적인 형태는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.
저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 포함하는 와이어를 포함하여, 동축 케이블, 구리 와이어 및 광섬유를 포함한다. 송신 매체는 또한, 라디오 파 및 적외선 데이터 통신 동안 생성되는 것과 같은, 음향파 또는 광파의 형태를 취할 수 있다.
일 실시예에서, 실행을 위해 하나 이상의 명령의 하나 이상의 시퀀스를 프로세서(304)에 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 자신의 동적 메모리에 명령을 로딩하고 모뎀을 사용하여 전화선을 통해 명령을 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선 상으로 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 배치한다. 버스(302)는 데이터를 메인 메모리(306)로 반송하고, 프로세서(304)는 메인 메모리로부터 명령을 검색 및 실행한다. 메인 메모리(306)에 의해 수신된 명령은 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.
컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결된 네트워크 링크(320)에 대한 양방향 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 데이터 통신 연결을 제공하기 위한 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예에서는, 무선 링크도 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.
네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)로의 연결 또는 ISP(Internet Service Provider)(326)에 의해 운영되는 클라우드 데이터 센터 또는 장비로의 연결을 제공한다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통상적으로 지칭되는 월드-와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스를 제공한다. 로컬 네트워크(322) 및 인터넷(328) 둘 모두는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(300)으로 및 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는, 다양한 네트워크를 통한 신호 및 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호는 송신 매체의 예시적인 형태이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.
컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해, 프로그램 코드를 포함하여, 메시지를 전송하고 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고 그리고/또는 추후의 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.
AV 아키텍처
도 4는 AV(예를 들면, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 도시한다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(planning module)(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(localization module)(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 동작에서 소정의 역할을 한다. 다함께, 모듈(402, 404, 406, 408, 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일부 실시예에서, 모듈(402, 404, 406, 408, 및 410) 중 임의의 모듈은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체 상에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것 중 임의의 것 또는 모든 것의 조합)의 조합이다. 모듈(402, 404, 406, 408, 및 410)의 각각의 모듈은 때때로 프로세싱 회로(예를 들면, 컴퓨터 하드웨어, 컴퓨터 소프트웨어, 또는 이 둘의 조합)라고 지칭된다. 모듈(402, 404, 406, 408, 및 410) 중 임의의 것 또는 모든 것의 조합은 또한 프로세싱 회로의 예이다.
사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달하기 위해(예를 들면, 도착하기 위해) AV(100)에 의해 주행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.
인지 모듈(402)은, 예를 들면, 도 1에도 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체를 식별한다. 대상체는 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형으로 그룹화되고), 분류된 대상체(416)를 포함하는 장면 묘사는 계획 모듈(404)에 제공된다.
계획 모듈(404)은 또한 로컬화 모듈(408)로부터 AV 위치(418)를 나타내는 데이터를 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 GNSS(Global Navigation Satellite System) 센서로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 속성의 고정밀 맵, 도로망 연결 속성을 기술하는 맵, 도로 물리적 속성(예컨대, 교통 속력, 교통량, 차량 교통 차선과 자전거 타는 사람 교통 차선의 개수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 그 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호(travel signal)의 공간적 위치를 기술하는 맵을 포함한다. 일 실시예에서, 고정밀 맵은 자동 또는 수동 주석 달기를 통해 저정밀 맵에 데이터를 추가함으로써 구성된다.
제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)를 향해 궤적(414)을 주행하게 할 방식으로 AV의 제어 기능(420a 내지 420c)(예를 들면, 조향, 스로틀링, 제동, 점화 시스템)을 동작시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 왼쪽으로 회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자 또는 차량을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능(420a 내지 420c)을 동작시킬 것이다.
AV 입력
도 5는 인지 모듈(402)(도 4)에 의해 사용되는 입력(502a 내지 502d)(예를 들면, 도 1에 도시된 센서(121)) 및 출력(504a 내지 504d)(예를 들면, 센서 데이터)의 예를 도시한다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 가시선에 있는 물리적 대상체에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광의 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트(포인트 클라우드라고도 알려져 있음)의 집합체이다.
다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체에 관한 데이터를 획득하기 위해 라디오 파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 가시선 내에 있지 않은 대상체에 관한 데이터를 획득할 수 있다. RADAR 시스템은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 라디오 주파수 전자기 신호이다.
다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. 일부 예에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지할 수 있게 하는, 예를 들어, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라를 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체가 여기서 "인근"으로 기술되지만, 이것은 AV를 기준으로 한 것이다. 일부 실시예에서, 카메라 시스템은 멀리 있는, 예를 들면, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체를 "보도록" 구성된다. 따라서, 일부 실시예에서, 카메라 시스템은 멀리 떨어져 있는 대상체를 인지하도록 최적화되어 있는 센서 및 렌즈와 같은 특징부를 갖는다.
다른 입력(502d)은 TLD(traffic light detection) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등, 거리 표지판, 및 다른 물리적 대상체에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 포맷의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체에 의해 제공되는 모든 관련 운행 정보에 액세스한다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상이다.
일부 실시예에서, 출력(504a 내지 504d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템에 제공되거나(예를 들면, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 결합된 출력이 동일한 유형(동일한 결합 기술을 사용하는 것 또는 동일한 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 또는 상이한 유형(예를 들면, 상이한 각자의 결합 기술을 사용하는 것 또는 상이한 각자의 출력을 결합하는 것 또는 둘 모두)의 단일 결합 출력 또는 다중 결합 출력의 형태 중 어느 하나로 다른 시스템에 제공될 수 있다. 일부 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력에 적용된 후에 출력을 결합하는 것을 특징으로 한다.
도 6은 LiDAR 시스템(602)(예를 들면, 도 5에 도시된 입력(502a))의 예를 도시한다. LiDAR 시스템(602)은 광 방출기(606)(예를 들면, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들면, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체를 관통하지 않는다). LiDAR 시스템(602)은 또한 반사된 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(614)를 나타내는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계(616)를 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계(616)를 결정하는 데 사용된다.
도 7은 동작 중인 LiDAR 시스템(602)을 도시한다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템은 이미지(702)를 데이터 포인트(704)와 비교한다. 특히, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계를 인지한다.
도 8은 LiDAR 시스템(602)의 동작을 추가적으로 상세하게 도시한다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트의 특성에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 다시 LiDAR 시스템(602)으로 반사할 것이다. AV(100)가 지면(802) 위를 주행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 및 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트(810a 및 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.
경로 계획
도 9는 (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력과 출력 사이의 관계의 블록 다이어그램(900)을 도시한다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들면, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들면, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 정의된다. 예를 들어, 세그먼트는 거리, 도로, 간선도로, 사유 도로, 또는 자동차 주행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 주행되는 거리이다. 일부 예에서, 예를 들어, AV(100)가 4륜 구동(4WD) 또는 상시 4륜구동(AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프-로드 주행 가능 차량인 경우, 루트(902)는 비포장 경로 또는 탁트인 들판과 같은 "오프-로드" 세그먼트를 포함한다.
루트(902)에 추가하여, 계획 모듈은 차선 레벨 루트 계획 데이터(908)도 출력한다. 차선 레벨 루트 계획 데이터(908)는 특정한 시간에서의 세그먼트의 조건에 기초하여 루트(902)의 세그먼트를 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 간선도로를 포함하는 경우, 차선 레벨 루트 계획 데이터(908)는, 예를 들어, 출구가 다가오고 있는지, 차선들 중 하나 이상이 다른 차량을 갖는지, 또는 수 분 이하 동안에 걸쳐 변화되는 다른 인자에 기초하여, AV(100)가 다중 차선 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예에서, 차선 레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자 또는 예상치 못한 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 더 느린 주행 속력, 예를 들면, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.
일 실시예에서, 계획 모듈(404)에의 입력은 (예를 들면, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들면, 도 4에 도시된 AV 위치(418)), (예를 들면, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들면, 도 4에 도시된 인지 모듈(402)에 의해 인지되는 분류된 대상체(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는, "규칙집(rulebook)"이라고도 지칭되는, 계획에 사용되는 규칙을 포함한다. 규칙은 형식 언어를 사용하여, 예를 들어, 불리언 논리 또는 선형 시간 논리(linear temporal logic, LTL)를 사용하여 규정된다. AV(100)가 조우하는 임의의 주어진 상황에서, 규칙들 중 적어도 일부는 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들면, 주위 환경에 관한 정보에 기초하여 충족되는 조건을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙은 우선순위를 가질 수 있다. 예를 들어, "도로가 프리웨이인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 더 낮은 우선순위를 가질 수 있다.
도 10은, 예를 들어, 계획 모듈(404)(도 4)에 의해 경로 계획에 사용되는 방향 그래프(1000)를 도시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계에서는, 시작 포인트(1002)와 종료 포인트(1004)를 분리하는 거리는 상대적으로 클 수 있거나(예를 들면, 2개의 상이한 대도시 지역에 있음) 또는 상대적으로 작을 수 있다(예를 들면, 도시 블록과 맞닿아 있는 2개의 교차로 또는 다중 차선 도로의 2개의 차선).
일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치를 나타내는 노드(1006a 내지 1006d)를 갖는다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 상이한 대도시 지역을 나타낼 때, 노드(1006a 내지 1006d)는 도로의 세그먼트를 나타낸다. 일부 예에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 동일한 도로 상의 상이한 위치를 나타낼 때, 노드(1006a 내지 1006d)는 해당 도로 상의 상이한 위치를 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 입도 레벨로 정보를 포함한다. 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 더 큰 스케일을 갖는 다른 방향 그래프의 서브그래프(subgraph)이다. 예를 들어, 시작 포인트(1002)와 종료 포인트(1004)가 멀리 떨어져 있는(예를 들면, 수 마일(many miles) 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시야 내의 물리적 위치를 나타내는 그래프의 부분에 대한 일부 높은 입도 정보도 포함한다.
노드(1006a 내지 1006d)는 노드와 오버랩될 수 없는 대상체(1008a 및 1008b)와 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체(1008a 및 1008b)는 자동차에 의해 횡단될 수 없는 영역, 예를 들면, 거리 또는 도로가 없는 구역을 나타낸다. 입도가 높을 때, 대상체(1008a 및 1008b)는 AV(100)의 시야 내의 물리적 대상체, 예를 들면, 다른 자동차, 보행자, 또는 AV(100)와 물리적 공간을 공유할 수 없는 다른 엔티티를 나타낸다. 일 실시예에서, 대상체(1008a 및 1008b)의 일부 또는 전부는 정적 대상체(예를 들면, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체(예를 들면, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.
노드(1006a 내지 1006d)는 에지(1010a 내지 1010c)에 의해 연결된다. 2개의 노드(1006a 및 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들면, 다른 노드(1006b)에 도착하기 전에 중간 노드로 주행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 주행하는 것이 가능하다. (즉, AV(100)는 각자의 노드에 의해 표현되는 2개의 물리적 위치 사이를 주행한다). 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 주행한다는 의미에서 종종 양방향성이다. 일 실시예에서, 에지(1010a 내지 1010c)는, AV(100)가 제1 노드로부터 제2 노드로 주행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 주행할 수 없다는 의미에서 단방향성이다. 에지(1010a 내지 1010c)는, 예를 들어, 일방통행로, 거리, 도로, 또는 간선도로의 개별 차선, 또는 법적 또는 맵 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부를 나타낼 때, 단방향성이다.
일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드 및 에지로 이루어진 경로(1012)를 식별한다.
에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스를 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2배인 물리적 거리를 나타내는 경우, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2배일 수 있다. 시간에 영향을 미치는 다른 인자는 예상된 교통상황, 교차로의 개수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비이다. 2개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들면, 도로 조건, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 더 많은 연료를 필요로 할 수 있다.
계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들면, 에지의 개별 비용이 함께 가산될 때 가장 적은 전체 비용을 갖는 경로를 선택한다.
AV 제어
도 11은 (예를 들면, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력 및 출력의 블록 다이어그램(1100)을 도시한다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들면, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들면, 메모리 랜덤 액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(308), 및 저장 디바이스(310)를 포함하는 제어기(1102), 및 메모리 내에 저장된 명령에 따라 동작하는데, 상기 명령은 명령이 (예를 들면, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작을 수행한다.
일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들어, 속력 및 헤딩을 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해, 예를 들면, 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여함으로써, AV(100)의 스로틀(예를 들면, 가속 제어)에 관여하는 정도를 나타낸다. 일부 예에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들면, 감속 제어)에 관여하는 데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들면, AV의 조향 컨트롤(예를 들면, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)이 원하는 출력(1104)을 달성하도록 위치설정되어야 하는 각도를 나타낸다.
일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 임의의 측정된 출력(1114)은, 예를 들어, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 헤딩을 포함함), 측정된 가속도(1120), 및 AV(100)의 센서에 의해 측정 가능한 다른 출력을 포함한다.
일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들면, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 이후, 예측 피드백 모듈(1122)은 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서가 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 방지하도록 적절한 시간에 스로틀에 관여할 준비를 하기 위해 제어기(1102)에 의해 사용될 수 있다.
도 12는 제어기(1102)의 입력, 출력, 및 컴포넌트의 블록 다이어그램(1200)을 도시한다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 동작에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들면, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 명령한다.
제어기(1102)는 또한 조향 제어기(1210)의 동작에 영향을 미치는 측방향 추적 제어기(1208)를 갖는다. 예를 들어, 측방향 추적 제어기(1208)는, 예를 들면, 제어기(1102)에 의해 수신되고 측방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향각 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1210)에 명령한다.
제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 동작을 시작할 때 헤딩을 선택하기 위해 그리고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력(1214)으로부터의 정보, 예를 들어, 데이터베이스, 컴퓨터 네트워크 등으로부터 수신된 정보를 수신한다.
증강 현실 지원 자율 주행 차량 커맨드 센터
하나 이상의 컴퓨터 시스템(예를 들면, 도 1 내지 도 3에 도시된 바와 같은, 클라우드 서버(136), 컴퓨팅 환경(200), 및/또는 컴퓨터 시스템(300))은 하나 이상의 AV의 동작을 제어할 수 있다. 예를 들어, 하나 이상의 컴퓨터 시스템은 AV를 하나 이상의 위치 또는 지역으로 전개하고, AV 각각에 운송 작업을 할당하며(예를 들면, 승객을 픽업 및 운송하는 것, 화물을 픽업 및 운송하는 것 등), AV 각각에 운행 명령을 제공하고(예를 들면, 2개의 위치 사이의 루트 또는 경로를 제공하는 것, AV에 근접한 대상체를 횡단하라는 명령을 제공하는 것 등), AV 각각에 유지 관리 작업을 할당하며(예를 들면, 충전 스테이션에서 배터리를 충전하는 것, 서비스 스테이션에서 수리를 받는 것 등), 그리고/또는 AV 각각에 다른 작업을 할당할 수 있다.
게다가, 하나 이상의 컴퓨터 시스템이 AV의 동작을 모니터링하는 데 사용될 수 있다. 예를 들어, 하나 이상의 컴퓨터 시스템은, 사용자가 AV의 동작에 관해 계속 통보받을 수 있도록, AV 각각으로부터 정보(예를 들면, 본원에 기술된 바와 같은, 차량의 속력, 헤딩, 가속도, 위치, 연료 또는 배터리 레벨, 센서 측정치, 상태 또는 차량의 동작의 다른 양상에 관한 데이터와 같은 차량 원격 측정 데이터)를 수집하고, 수집된 정보를 프로세싱하며, 정보를 하나 이상의 사용자에게 (예를 들면, 대화형 그래픽 사용자 인터페이스의 형태로) 제시할 수 있다.
일부 구현예에서, 사용자는 하나 이상의 컴퓨터 시스템에 의해, 적어도 부분적으로, 구현된 증강 현실 시스템을 사용하여 AV 플릿을 모니터링 및 제어할 수 있다. 일 예로서, 사용자는 AV 플릿 사이를 걸어다니는 동안 증강 현실 디스플레이 디바이스(예를 들면, 헤드셋)를 착용할 수 있다. 사용자가 특정 AV에 접근함에 따라, 디스플레이 디바이스는 (예를 들면, 특정 AV에 관련된 정보가 해당 AV 근처에 호버링하는 것처럼 보이도록) 사용자의 시야에 AV에 관한 정보를 오버레이하는 그래픽 사용자 인터페이스(GUI)를 제시한다. 예를 들어, 디스플레이 디바이스는 AV의 전개 상태에 관한 정보, AV와 관련된 유지 관리 또는 수리 문제, AV에 관한 스케줄링 정보 또는 AV에 관한 조직 정보를 제시할 수 있다. 게다가, 사용자는 (예를 들면, 특정 커맨드에 매핑되는 제스처를 수행하는 것에 의해) AV에 대해 특정 작업을 수행하기 위해 그래픽 사용자 인터페이스와 상호작용할 수 있다.
일부 구현예에서, 증강 현실 시스템의 사용은 사용자가 AV 플릿과 상호작용할 수 있는 속도, 정확도 및 효율성을 개선시킬 수 있다. 예를 들어, 증강 현실 시스템은, 사용자가 선택을 수동으로 입력하는 것을 요구하지 않고, (예를 들면, 특정 AV에 접근하여 그를 주시하는 것에 의해) 특정 AV에 관한 정보를 직관적으로 검색할 수 있게 한다. 게다가, 사용자는 핸드헬드 디바이스로 반복적으로 시선을 돌리지 않으면서 AV에 대해 작업을 수행할 수 있다.
도 13은 여러 AV(1304a 내지 1304n)의 동작을 모니터링 및 제어하기 위한 증강 현실 시스템(1302)을 포함하는 예시적인 시스템(1300)을 도시한다. 증강 현실 시스템(1302)은 네트워크(1306)에 의해 AV(1304a 내지 1304n)에 통신 가능하게 결합된다.
일부 구현예에서, 증강 현실 시스템(1302)은, 적어도 부분적으로, 하나 이상의 컴퓨터 시스템(예를 들면, 도 1 내지 도 3에 도시된 바와 같은, 하나 이상의 클라우드 서버(136), 하나 이상의 컴퓨팅 환경(200), 및/또는 하나 이상의 컴퓨터 시스템(300))을 사용하여 구현될 수 있다. 게다가, 일부 구현예에서, AV들(1304a 내지 1304n) 중 하나 이상은 (예를 들면, 도 1에 도시된 바와 같은) AV(100)와 유사할 수 있다. 게다가, 네트워크(1306)는, 적어도 부분적으로, 하나 이상의 로컬 네트워크(예를 들면, 도 3에 도시된 로컬 네트워크(332)) 및/또는 인터넷(예를 들면, 도 3에 도시된 인터넷(328))을 사용하여 구현될 수 있다.
시스템(1300)의 예시적인 사용 동안, 증강 현실 시스템(1302)은 (예를 들면, 네트워크(1306)를 통해) AV(1304a 내지 1304n)에 관한 정보를 수신하고, 정보의 적어도 일부를 사용자(1308)에게 제시한다. 예를 들어, 정보는 AV(1304a 내지 1304n)에 관한 차량 원격 측정 데이터, AV(1304a 내지 1304n)의 전개 상태에 관한 데이터, AV(1304a 내지 1304n)에 관련된 유지 관리 또는 수리 문제에 관한 데이터, AV(1304a 내지 1304n)에 관한 스케줄링 정보, AV(1304a 내지 1304n)에 관한 조직 정보 및/또는 본원에서 설명된 임의의 다른 정보를 포함할 수 있다.
이 정보의 적어도 일부는 증강 현실 GUI를 사용하여 시각적으로 사용자(1308)에게 제시될 수 있다. 예를 들어, 정보가 사용자(1308)의 물리적 환경에 존재하는 것처럼 보이도록, 사용자의 시야에 컴퓨터 생성 정보를 제시하는 증강 현실 디스플레이 디바이스(예를 들면, 사용자가 착용한 헤드셋)를 사용하여 사용자(1308)에게 GUI가 제공될 수 있다. 예를 들어, 정보가 물리적 환경에서 공간적으로 하나 이상의 물리적 대상체와 나란히 위치하는 것처럼 보이도록 정보가 제시될 수 있다. 일 예로서, 특정 AV(1304a 내지 1304n)에 관련된 정보가 AV(1304a 내지 1304n)에 공간적으로 근접하게 배열된 것처럼(예를 들면, 해당 AV 근처에 호버링하거나 떠 있는 것처럼) 보이도록, 증강 현실 디스플레이 디바이스는 사용자(1308)의 시야에 하나 이상의 그래픽 사용자 인터페이스 요소를 오버레이할 수 있다.
게다가, 증강 현실 시스템(1302)은 정보를 (예를 들면, 네트워크(1306)를 통해) AV(1304a 내지 1304n)에 송신한다. 예를 들어, 정보는, 특정 작업을 수행하라는 커맨드와 같은, AV들(1304a 내지 1304n) 중 하나 이상에 대한 사용자(1308)로부터의 커맨드를 포함할 수 있다. 예시적인 작업은 하나 이상의 위치 또는 지역으로 전개하는 것, 승객을 픽업 및 운송하는 것, 화물을 픽업 및 운송하는 것, 2개의 위치 사이의 특정 루트 또는 경로를 횡단하는 것, AV에 근접한 대상체를 횡단하는 것, 유지 관리 활동(예를 들면, 충전 스테이션에서 AV의 배터리를 충전하는 것, 서비스 스테이션에서 수리를 받는 것 등)을 수행하는 것, 및/또는 본원에서 설명된 임의의 다른 작업을 포함한다.
커맨드의 적어도 일부는 하나 이상의 입력 디바이스를 사용하여 및/또는 하나 이상의 신체 제스처를 수행하는 것에 의해 사용자(1308)에 의해 증강 현실 시스템(1302)에 통신될 수 있다. 예를 들어, 사용자(1308)는 키보드, 마우스, 트랙패드, 터치 감응형 디스플레이 디바이스(예를 들면, 터치 스크린), 조이스틱, 게임패드, 버튼, 레버, 및/또는 다른 입력 디바이스를 통해 하나 이상의 커맨드를 입력할 수 있다. 다른 예로서, 사용자(1308)는 신체 제스처를 수행하기 위해 신체의 하나 이상의 부분(예를 들면, 손가락, 손, 팔, 발, 다리, 머리 등)을 움직일 수 있다. 증강 현실 시스템(1302)은 (예를 들면, 하나 이상의 센서를 사용하여) 제스처를 검출하고, 제스처와 연관된 하나 이상의 커맨드를 결정하며, 제스처가 지향되는 AV 또는 AV들(1304a 내지 1304n)을 결정하고, 커맨드를 실행을 위해 적절한 AV(1304a 내지 1304n)로 송신할 수 있다.
일부 구현예에서, 증강 현실 시스템(1302)은 제스처가 지향되었던 방향 또는 배향을 결정하고 해당 방향 또는 배향에 대응하는 AV들 중 하나 이상을 식별하는 것에 의해 제스처가 지향되는 AV 또는 AV들(1304a 내지 1304n)을 식별할 수 있다. 예를 들어, 제스처가 사용자(1308)에 의한 포인팅 모션(pointing motion)인 경우, 증강 현실 시스템(1302)은 사용자가 포인팅하고 있는 방향에 있는 AV들(1304a 내지 1304n) 중 하나 이상을 결정할 수 있다. 다른 예로서, 제스처가 사용자(1308)에 의한 핀치 모션(pinching motion)인 경우, 증강 현실 시스템(1302)은 사용자가 핀치하고 있는 방향에 있는 AV들(1304a 내지 1034n) 중 하나 이상을 결정할 수 있다. 다른 예로서, 제스처가 사용자(1308)에 의한 웨이빙 모션(waving motion)인 경우, 증강 현실 시스템(1302)은 사용자가 웨이빙하고 있는 방향에 있는 AV들(1304a 내지 1034n) 중 하나 이상을 결정할 수 있다.
일부 구현예에서, 증강 현실 시스템(1302)은 사용자가 주시하고 있는 방향 및/또는 사용자가 제스처를 수행하고 있는 동안의 사용자(예를 들면, 사용자의 머리)의 배향을 결정하는 것 및 해당 방향 또는 배향에 대응하는 AV들 중 하나 이상을 식별하는 것에 의해 제스처가 지향되는 AV 또는 AV들(1304a 내지 1304n)을 식별할 수 있다. 일부 구현예에서, 증강 현실 시스템(1302)은 (예를 들면, 사용자의 머리에 고정된 하나 이상의 센서를 사용하여) 사용자의 환경에 대한 사용자의 머리의 배향을 검출하는 것 및/또는 (예를 들면, 사용자의 눈을 향해 지향된 하나 이상의 추적 센서를 사용하여) 사용자의 눈을 추적하는 것에 의해 이러한 결정을 할 수 있다.
예시적인 증강 현실 시스템(1302)이 도 14a에 더 상세히 도시된다. 증강 현실 시스템(1302a)은 하나 이상의 컴퓨터 시스템(1402), 하나 이상의 증강 현실 디스플레이 디바이스(1404), 하나 이상의 센서(1406) 및 하나 이상의 입력 디바이스(1408)를 포함한다.
하나 이상의 컴퓨터 시스템(1402)은 (예를 들면, AV(1304a 내지 1304n), 사용자(1308) 및/또는 본원에서 설명된 다른 시스템으로부터) 정보를 수신하고, 정보를 프로세싱하며, 정보를 (예를 들면, AV(1304a 내지 1304n), 사용자(1308) 및/또는 본원에서 설명된 다른 시스템으로) 송신한다. 일부 구현예에서, 컴퓨터 시스템(1402)은, 적어도 부분적으로, (예를 들면, 도 1 내지 도 3에 도시된 바와 같은) 하나 이상의 클라우드 서버(136), 하나 이상의 컴퓨팅 환경(200), 및/또는 하나 이상의 컴퓨터 시스템(300)을 사용하여 구현될 수 있다.
증강 현실 디스플레이 디바이스(1404) 각각은 하나 이상의 컴퓨터 시스템(1402)으로부터 정보를 수신하고, GUI(1410)를 사용하여 정보의 적어도 일부를 제시한다. 위에서 기술된 바와 같이, 일부 구현예에서, 증강 현실 디스플레이 디바이스(1404)는 GUI(1410)의 제시를 용이하게 하기 위해 헤드셋을 포함할 수 있다. 예를 들어, 도 14b에 도시된 바와 같이, 증강 현실 디스플레이 디바이스(1404)는 2개의 접안경(eyepiece)(1422a 및 1422b)을 갖는 헤드셋(1420)을 포함할 수 있다. 헤드셋(1420)이 사용자(1308)에 의해 착용될 때, 접안경(1422a 및 1422b)은 사용자(1308)의 눈(예를 들면, 제각기, 사용자의 왼쪽 눈(1424a) 및 오른쪽 눈(1424b)) 위에 위치되고 (예를 들면, 사용자의 눈(1424a 및 1424b)에 광을 투사하는 것에 의해) 시각적 정보를 사용자에게 제공한다. 일부 실시예에서, 접안경(1422a, 1422b)은 디스플레이 상의 2개의 영역(예를 들면, 디스플레이 상의 2개의 중첩하는 영역, 디스플레이의 2개의 구별되는 영역 등)을 포함할 수 있다.
이 예에서, 접안경(1422a)은 사용자의 물리적 환경(1428)으로부터 광을 수용하고 수용된 광의 적어도 일부를 디스플레이(1430a)에 제공하는 하나 이상의 렌즈(1426a)를 포함한다. 디스플레이(1430a)는 물리적 환경(1428)으로부터 수용된 광을 광원(1432a)에 의해 생성된 광과 결합하고 결합된 광을 하나 이상의 렌즈(1434a)에 제공한다. 하나 이상의 렌즈(1434a)는 (예를 들면, 사용자가 광원(1432a) 및 물리적 환경(1428) 둘 모두로부터 수용된 광을 동시에 지각할 수 있도록) 광을 사용자의 눈(1424a)으로 지향시켜 포커싱한다.
게다가, 접안경(1422a)과 광원(1432a)은 GUI(1410)의 하나 이상의 요소가 사용자의 시야에 오버레이되도록(예를 들면, GUI(1410)의 요소가 물리적 환경에서 공간적으로 물리적 환경(1428) 내의 하나 이상의 물리적 대상체(1436)와 나란히 위치하는 것처럼 보이도록) 구성될 수 있다. 예를 들어, 광원(1432a)은 GUI(1410)를 표현하는 광의 공간적으로 변화하는 패턴을 생성하도록 구성될 수 있다. 게다가, 접안경(1422a)은, GUI(1410)가 사용자에 대해 특정 공간 위치에 위치하는 것처럼 보이도록, 광원(1432a)에 의해 생성된 광을 물리적 환경(1428)으로부터 수용된 광과 결합하도록 구성될 수 있다. 사용자가 GUI(1410) 및 물리적 환경(1428) 둘 모두를 동시에 볼 수 있도록, 이 결합된 광이 사용자의 눈(1424a)에 제공될 수 있다.
게다가, 헤드셋(1420)은 사용자에 대한 특정 지각 깊이(perceived depth)에 따라 정보를 제시하기 위해 다수의 접안경을 포함할 수 있다. 예를 들어, 접안경(1422b)은 사용자의 눈(1424b)에 광을 제공하기 위해 접안경(1422a)과 유사한 방식으로 작동할 수 있다. 예를 들어, 접안경(1422b)은 물리적 환경(1428)으로부터 광을 수용하고 수용된 광의 적어도 일부를 디스플레이(1430b)에 제공하는 하나 이상의 렌즈(1426b)를 포함할 수 있다. 디스플레이(1430b)는 물리적 환경(1428)으로부터 수용된 광을 광원(1432b)에 의해 생성된 광과 결합하고 결합된 광을 하나 이상의 렌즈(1434b)에 제공한다. 하나 이상의 렌즈(1434b)는 (예를 들면, 사용자가 광원(1432b) 및 물리적 환경(1428) 둘 모두로부터 수용된 광을 동시에 지각할 수 있도록) 광을 사용자의 눈(1424b)으로 지향시켜 포커싱한다.
게다가, GUI(1410)가 사용자에 대한 특정 깊이에 따라 제시되도록, 광원(1432a)에 의해 생성된 광과 광원(1432b)에 의해 생성된 광이 서로 상이할 수 있다. 예를 들어, 광원(1432a)은 제1 시점(예를 들면, 왼쪽 눈(1424a))에서 볼 때의 GUI(1410)를 표현하는 광의 제1 공간 패턴을 생성할 수 있고, 광원(1432b)은 제2 시점(예를 들면, 오른쪽 눈(1424b))에서 볼 때의 GUI(1410)를 표현하는 광의 제2 공간 패턴을 생성할 수 있다. 사용자가 접안경(1422a 및 1422b)으로부터의 광을 동시에 볼 때, 사용자의 눈(1424a 및 1424b) 각각에 의해 수용되는 광은 3차원에서의 GUI(1410)의 상이한 각자의 시점에 대응한다. 따라서, GUI(1410)는 사용자 및 물리적 환경(1428)에 대해 특정 깊이를 갖는 것처럼 보인다.
일부 구현예에서, 접안경(1422a 및 1422b)은 디스플레이 상의 2개의 영역(예를 들면, 디스플레이 상의 2개의 중첩하는 영역, 디스플레이의 2개의 구별되는 영역 등)을 포함할 수 있다. 게다가, 헤드셋(1420)은 디스플레이의 각각의 영역이 사용자의 눈(1424a 및 1424b) 중 상이한 눈에 제시되도록 구성될 수 있다. 예를 들어, 접안경(1422a 및 1422b)은 모바일 디바이스(예를 들면, 스마트 폰)의 디스플레이 상의 2개의 영역을 포함할 수 있다. 예를 들어, 헤드셋(1420)은, 사용자가 헤드셋을 착용할 때, 디스플레이의 제1 영역이 사용자의 눈(1424a)에는 보이고 사용자의 눈(1424b)에는 보이지 않으며, 디스플레이의 제2 영역이 사용자의 눈(1424b)에는 보이고 사용자의 눈(1424a)에는 보이지 않도록 구성될 수 있다. 게다가, 일부 구현예에서, 접안경(1422a 및 1422b)은 렌즈(1434a, 1434b, 1426a 또는 1426b) 중 하나 이상을 포함하지 않는다.
도 14c는 증강 현실 시스템(1302)에 의해 제시된 예시적인 GUI(1410)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 시야(1412)에서 사용자의 물리적 환경(1428)(예를 들면, AV(1304a)를 포함함)과 GUI(1410)를 동시에 지각한다. 게다가, GUI(1410)는, 그래픽 요소(1410)가 AV(1304a)에 근접하여 호버링하거나 떠 있도록, 사용자의 물리적 환경(1428) 내에 위치하는 것처럼 보이는 여러 그래픽 요소(1414)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 포함한다. 그래픽 요소(1414)는 (예를 들면, 본원에 기술된 바와 같은) AV(1304a)에 관한 정보를 포함(예를 들면, 표현)할 수 있다.
사용자가 머리를 움직일 때, 증강 현실 시스템(1302)은 사용자의 움직임을 고려하기 위해 GUI(1410)를 조정할 수 있다. 예를 들어, 다시 도 14a를 참조하면, 증강 현실 시스템(1302)은 물리적 환경(1428)에 대한 사용자의 머리 및/또는 사용자 신체의 다른 부분의 위치, 배향 및/또는 움직임을 검출하는 하나 이상의 센서(1406)를 포함할 수 있다. 센서(1406)는, 예를 들어, 하나 이상의 가속도계, 자이로스코프, 깊이 센서, RADAR 센서, LIDAR 센서, 비디오 카메라, 정적 카메라(static camera), 광 검출기, 위치 센서(예를 들면, GPS 또는 GNSS 센서) 또는 다른 센서를 포함할 수 있다. 센서(1406)는 사용자의 머리, 사용자의 신체의 하나 이상의 다른 부분, 사용자의 물리적 환경(1428) 내의 하나 이상의 대상체, 또는 이들의 조합의 위치, 배향 및/또는 움직임을 결정하도록 구성될 수 있다.
사용자가 머리를 움직일 때, 증강 현실 시스템(1302)은 그래픽 요소(1414)가 사용자의 시야(1412)에서 대상체와 함께 움직이는 것처럼 보이도록 GUI(1410)를 조정할 수 있다. 예를 들어, 도 14c를 참조하면, 사용자가 머리를 왼쪽으로 돌리는 경우, 사용자는 AV(1304a)가 시야(1412)에서 오른쪽으로 이동한 것을 지각한다. 그에 대응하여, 증강 현실 시스템(1302)은 그래픽 요소(1414)가 또한 사용자의 시야(1412)에서 오른쪽으로 이동하는 것처럼 보이도록(예를 들면, 그래픽 요소(1414)가 계속하여 AV(1304a) 옆에 호버링하거나 떠 있는 것처럼 보이도록) GUI(1410)를 조정할 수 있다. 다른 예로서, 사용자가 전방으로 이동하는 경우, 사용자는 AV(1304a)가 사용자의 시야(1412)에서 사용자에 더 가까이 이동한 것을 지각한다. 그에 대응하여, 증강 현실 시스템(1302)은 그래픽 요소(1414)가 또한 사용자의 시야(1412)에서 사용자에 가까워지게 이동하는 것처럼 보이도록(예를 들면, 그래픽 요소(1414)가 계속하여 AV(1304a) 옆에 호버링하거나 떠 있는 것처럼 보이도록) GUI(1410)를 조정할 수 있다.
게다가, 사용자는 AV(1304a)에 대해 하나 이상의 커맨드를 발행하기 위해 증강 현실 시스템(1302)과 상호작용할 수 있다. 예를 들어, 다시 도 14a를 참조하면, 증강 현실 시스템(1302)은 사용자(1308)로부터 입력을 수신하기 위한 하나 이상의 입력 디바이스(1408)를 포함할 수 있다. 입력 디바이스(1408)의 예는 키보드, 마우스, 트랙패드, 터치 감응형 디스플레이 디바이스(예를 들면, 터치 스크린), 조이스틱, 게임패드, 버튼, 레버 및 다른 입력 디바이스를 포함한다. 입력 디바이스(1408)에 의해 수신된 입력은 해석을 위해 하나 이상의 컴퓨터 시스템(1402)에 제공될 수 있다. 예를 들어, 하나 이상의 컴퓨터 시스템(1402)은 입력과 연관된(예를 들면, 입력에 대응하는) 하나 이상의 커맨드를 식별할 수 있고, 커맨드를 실행을 위해 AV(1304a)로 송신할 수 있다.
다른 예로서, 사용자(1308)는 신체 제스처를 수행하기 위해 신체의 하나 이상의 부분(예를 들면, 손가락, 손, 팔, 발, 다리, 머리 등)을 움직일 수 있다. 증강 현실 시스템(1302)은 (예를 들면, 센서들(1406) 중 하나 이상을 사용하여) 제스처를 검출하고, 제스처와 연관된 하나 이상의 커맨드를 결정하며, 커맨드를 실행을 위해 AV(1304a)로 송신할 수 있다.
사용자(1308)는 AV(1304a 내지 1304n)의 임의의 양상의 동작을 모니터링 및 제어하기 위해 증강 현실 시스템(1302)을 사용할 수 있다. 예를 들어, 사용자(1308)는 AV(1304a 내지 1304n)의 유지 관리 또는 수리, 특정 위치 또는 지역으로의 AV(1304a 내지 1304n)의 전개, 및/또는 AV(1304a 내지 1304n)의 조직을 모니터링 및 제어하기 위해 증강 현실 시스템(1302)을 사용할 수 있다.
일 예로서, 사용자(1308)는 AV(1304a 내지 1304n)의 유지 관리 또는 수리를 모니터링 및 제어하기 위해 증강 현실 시스템(1302)을 사용할 수 있다. 예를 들어, 도 15a는 증강 현실 시스템(1302)에 의해 제시된 예시적인 GUI(1500)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 시야(1412)에서 그의 물리적 환경(1428)(예를 들면, AV(1304a)를 포함함)과 GUI(1500)를 동시에 지각한다. 게다가, GUI(1500)는, 그래픽 요소(1502)가 AV(1304a)에 근접하여 호버링하거나 떠 있도록, 사용자의 물리적 환경(1428) 내에 위치하는 것처럼 보이는 여러 그래픽 요소(1502)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 포함한다.
일 예로서, 도 15a에 도시된 바와 같이, 그래픽 요소(1502a)는 AV(1304a)의 하나 이상의 프로세서(예를 들면, 하나 이상의 프로세서(146))에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502a)는, 프로세서 각각에 대해, 프로세서의 온도, 프로세서의 사용률 또는 이용률 백분율, 프로세서의 주파수 또는 클록 속도를 디스플레이할 수 있다. 일부 구현예에서, 그래픽 요소(1502a)가 AV(1304a)의 프로세서의 물리적 위치에 또는 그에 근접하게 위치한 것처럼 보이도록 그래픽 요소(1502a)가 디스플레이될 수 있다. 일부 구현예에서, 그래픽 요소가 (예를 들면, 지시자 라인(indicator line)을 사용하여) AV(1304a)의 프로세서의 물리적 위치를 나타내도록 그래픽 요소(1502a)가 디스플레이될 수 있다.
다른 예로서, 도 15a에 도시된 바와 같이, 그래픽 요소(1502b)는 AV(1304a)의 운영 체제에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502a)는 운영 체제의 유형(예를 들면, Linux®, Unix®, Microsoft® Windows®, Apple® macOS® 등) 및 운영 체제의 버전 번호 또는 개정 번호(revision number)를 디스플레이할 수 있다. 다른 예로서, 그래픽 요소(1502b)는 AV(1304a)의 운영 체제 및/또는 프로세서와 연관된 컴퓨터 아키텍처(예를 들면, x86, ARM 등)를 디스플레이할 수 있다.
다른 예로서, 도 15a에 도시된 바와 같이, 그래픽 요소(1502c 및 1502d)는 AV(1304a)의 하나 이상의 데이터 저장 유닛(예를 들면, 데이터 저장 유닛들(142) 중 하나 이상)에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502c 및 1502d)는, 데이터 저장 유닛 각각에 대해, 데이터 저장 유닛의 총 저장 공간, 사용 가능한 데이터 저장 유닛의 미사용 저장 공간의 양, 및 현재 사용 중인 데이터 저장 유닛의 저장 공간의 양을 디스플레이할 수 있다. 일부 구현예에서, 그래픽 요소(1502c 및 1502d)가 AV(1304a)의 데이터 저장 유닛(142)의 물리적 위치에 또는 그에 근접하여(예를 들면, 그로부터 특정 거리 내에) 위치한 것처럼 보이도록 그래픽 요소(1502c 및 1502d)가 디스플레이될 수 있다. 일부 구현예에서, 그래픽 요소(1502c 및 1502d)가 (예를 들면, 지시자 라인을 사용하여) AV(1304a)의 데이터 저장 유닛의 물리적 위치를 나타내도록 그래픽 요소(1502c 및 1502d)가 디스플레이될 수 있다.
다른 예로서, 도 15b에 도시된 바와 같이, 그래픽 요소(1502e)는 (예를 들면, 네트워크(322, 328 및/또는 1306)와 통신하기 위해 통신 인터페이스(318)를 사용하는) AV(1304a)로 및/또는 AV(1304a)로부터의 데이터 송신에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502e)는 (예를 들면, "live" 라벨을 디스플레이하는 것에 의해) AV(1304a)가 현재 네트워크에 연결되어 있는지 여부를 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 AV(1304a)로 및/또는 AV(1304a)로부터 송신된 데이터의 양을 (예를 들면, 바이트 및/또는 패킷 단위로) 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 AV(1304a)로 및/또는 AV(1304a)로부터 데이터를 송신하는 동안 경험된 오류의 개수를 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 AV(1304a)로 및/또는 AV(1304a)로부터 데이터를 송신하는 동안 "드롭된" 패킷(예를 들면, 예컨대, 데이터 송신에서의 오류 또는 네트워크 혼잡으로 인해, 의도된 목적지에 도달하지 못한 패킷)의 개수를 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 AV(1304a)와 네트워크 사이의 네트워크 링크(예를 들면, 네트워크 링크(320))의 대역폭 또는 데이터 처리량을 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 네트워크 링크를 사용하여 데이터를 송신하는 데 사용될 수 있는 MTU(maximum transmission unit)를 디스플레이할 수 있다. 게다가, 그래픽 요소(1502e)는 네트워크 링크가 (예를 들면, 네트워크 링크의 각각의 종단(end)에 있는 당사자가 서로 동시에 통신할 수 있도록) 이중(duplex) 통신을 위해 구성되어 있는지 또는 (예를 들면, 당사자가 서로 통신할 수 있지만 동시에 통신할 수는 없도록) 반이중(half-duplex) 통신을 위해 구성되어 있는지의 표시를 디스플레이할 수 있다. 일부 구현예에서, 그래픽 요소(1502e)가 AV(1304a)의 통신 인터페이스의 물리적 위치에 또는 그에 근접하게 위치한 것처럼 보이도록 그래픽 요소(1502e)가 디스플레이될 수 있다. 일부 구현예에서, 그래픽 요소(1502e)가 (예를 들면, 지시자 라인을 사용하여) AV(1304a)의 통신 인터페이스의 물리적 위치를 나타내도록 그래픽 요소(1502e)가 디스플레이될 수 있다.
다른 예로서, 도 15b에 도시된 바와 같이, 그래픽 요소(1502f)는 AV(1304a)의 타이어에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502f)는 (예를 들면, TPMS(tire-pressure monitoring system)를 사용하여 획득되는 바와 같은) AV(1304a)의 타이어 각각의 공기압을 디스플레이할 수 있다. 일부 구현예에서, 그래픽 요소(1502f)가 AV(1304a)의 타이어의 물리적 위치에 또는 그에 근접하게 위치한 것처럼 보이도록 그래픽 요소(1502f)가 디스플레이될 수 있다. 일부 구현예에서, 그래픽 요소(1502f)가 (예를 들면, 지시자 라인을 사용하여) AV(1304a)의 타이어의 물리적 위치를 나타내도록 그래픽 요소(1502f)가 디스플레이될 수 있다.
다른 예로서, 도 15b에 도시된 바와 같이, 그래픽 요소(1502g)는 AV(1304a)의 배터리 시스템 및/또는 연료 시스템에 관한 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1502g)는 AV(1304a)의 배터리 시스템의 총 용량 및 (예를 들면, 총 용량의 백분율로서) 배터리 시스템의 잔여 배터리 레벨을 디스플레이할 수 있다. 다른 예로서, 그래픽 요소(1502g)는 AV(1304a)의 연료 시스템의 총 용량 및 (예를 들면, 총 용량의 백분율로서) 연료 시스템의 잔여 연료 레벨을 디스플레이할 수 있다. 일부 구현예에서, 그래픽 요소(1502g)가 AV(1304a)의 배터리 시스템 및/또는 연료 시스템의 물리적 위치에 또는 그에 근접하게 위치한 것처럼 보이도록 그래픽 요소(1502g)가 디스플레이될 수 있다. 일부 구현예에서, 그래픽 요소(1502g)가 (예를 들면, 지시자 라인을 사용하여) AV(1304a)의 배터리 시스템 및/또는 연료 시스템의 물리적 위치를 나타내도록 그래픽 요소(1502g)가 디스플레이될 수 있다.
일부 구현예에서, GUI는 다수의 AV에 관한 정보를 동시에 디스플레이할 수 있다. 게다가, 정보가 해당 AV에 공간적으로 근접하게 배열된 것처럼 보이도록 AV 각각에 관한 정보가 GUI에 위치할 수 있다. 이것이 유용할 수 있는데, 그 이유는, 예를 들어, GUI를 통해 사용자가 어느 정보가 어느 AV에 대응하는지를 직관적인 방식으로 결정할 수 있기 때문이다.
예를 들어, 도 15b에 도시된 예에서, 2개의 AV(1304a 및 1304b)가 사용자(1308)의 시야(1412)에 위치한다. 증강 현실 시스템(1302)은 AV(1304a 및 1304b) 각각에 관한 정보가 사용자에게 동시에 제시되도록 GUI(1500)를 생성할 수 있다. 예를 들어, 그래픽 요소(1502a)는 AV(1304b)의 프로세서에 관한 정보를 제시할 수 있고, 그래픽 요소(1502e 내지 1502g)는 AV(1304a)로 및/또는 AV(1304a)로부터의 데이터 송신, AV(1304a)의 타이어, 및 AV(1304a)의 배터리 시스템 및/또는 연료 시스템에 관한 정보를 제시할 수 있다. 게다가, 그래픽 요소(1502a 및 1502e 내지 1502g)가 각자의 AV(1304a 또는 1304b)에 공간적으로 근접하게 배열된 것처럼 보이도록(예를 들면, 사용자가 어느 그래픽 요소가 어느 AV에 대응하는지를 쉽게 확인할 수 있도록) 그래픽 요소(1502a 및 1502e 내지 1502g) 각각이 GUI(1500)에 위치할 수 있다.
다른 예로서, 도 15c에 도시된 바와 같이, 5개의 AV(1304a 내지 1304e)가 사용자(1308)의 시야(1412)에 위치한다. 증강 현실 시스템(1302)은 AV(1304a 내지 1304e) 각각에 관한 정보가 사용자에게 동시에 제시되도록 GUI(1500)를 생성할 수 있다. 예를 들어, 그래픽 요소(1502h)는 AV들(1304a 내지 1304e) 중 하나 이상의 AV의 배터리 시스템 및/또는 연료 시스템에 관한 정보를 제시할 수 있다.
일부 구현예에서, GUI는 AV 하나하나에 관한 정보를 사용자의 시야에 디스플레이할 수 있다. 일부 구현예에서, GUI는 AV의 제1 서브세트에 관한 정보만을 사용자의 시야에 디스플레이할 수 있다. 일부 구현예에서, AV의 서브세트는 AV와 사용자 사이의 거리에 기초하여 선택될 수 있다(예를 들면, GUI는 사용자로부터 특정 임계 거리 내의 AV에 관한 정보를 디스플레이할 수 있고, 임계 거리를 넘어선 AV에 관한 정보를 디스플레이하지 않을 수 있다). 일부 구현예에서, AV의 서브세트는 사용자로부터의 입력(예를 들면, 사용자에게 정보가 제시되어야 하는 하나 이상의 AV를 지정하는 입력)에 기초하여 선택될 수 있다. 일부 구현예에서, AV의 서브세트는 사용자에 가장 가까운 N개의 AV를 식별하는 것에 의해 선택될 수 있다. N은, 예를 들어, 사용자 또는 다른 사용자(예를 들면, 관리 사용자 또는 개발자)에 의해 지정될 수 있다.
일부 구현예에서, GUI는 AV들(1304a 내지 1304n) 중 하나 이상에 관한 통지를 디스플레이할 수 있다. 통지는, 예를 들어, 특정 작업이 AV에 의해 수행되었거나 수행될 예정이라는 표시, AV의 조건(예를 들면, "작동 상태(health)") 또는 상태의 표시, AV와 연관된 오류 또는 오작동의 표시, 사용자에 의해 AV 및/또는 본원에서 설명된 임의의 다른 시스템에 제공된 커맨드 또는 요청의 표시, 및/또는 본원에서 설명된 임의의 정보의 표시를 포함할 수 있다.
일부 구현예에서, 통지들 중 적어도 일부는 사용자의 시야에 나타나도록 디스플레이될 수 있다. 예를 들어, 도 16은 증강 현실 시스템(1302)에 의해 제시된 예시적인 GUI(1600)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 시야(1412)에서 그의 물리적 환경(1428)과 GUI(1600)를 동시에 지각한다. 게다가, GUI(1600)는, 그래픽 요소(1602)가 사용자의 전방에 호버링하거나 떠 있도록, 사용자의 물리적 환경(1428) 내에 위치하는 것처럼 보이는 여러 그래픽 요소(1602)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 포함한다. 그래픽 요소(1602)는, 예를 들어, 특정 사용자가 AV에 라이드를 요청했다는 표시, 특정 AV가 승객을 태웠다는 표시, 및/또는 특정 AV가 승객을 내려주었다는 표시를 포함할 수 있다. 추가 예로서, 그래픽 요소(1602)는 특정 AV의 특정 컴포넌트가 오류 또는 오작동을 경험하고 있다는 표시, 및/또는 AV 및/또는 그의 컴포넌트들 중 하나 이상의 상태의 표시를 포함할 수 있다.
일부 구현예에서, 그래픽 요소(1602)의 서브세트만이 시야(1412)에 제시되도록, 사용자(1308)가 그래픽 요소(1602)를 필터링할 수 있다. 일 예로서, GUI(1600)는 다수의 상이한 카테고리의 정보에 관한 그래픽 요소(1602) 세트를 포함할 수 있다. 사용자(1308)는 그 카테고리들 중 하나 이상을 (예를 들면, 그 카테고리들에 관한 정보가 시야(1412)에 제시되도록) 선택할 수 있고, 하나 이상의 다른 카테고리를 (예를 들면, 그 카테고리들에 관한 정보가 시야(1412)에 제시되지 않도록) 선택하지 않을 수 있다.
일부 구현예에서, 사용자(1308)는 입력 디바이스(예를 들면, 입력 디바이스(1408))를 통해 GUI를 탐색할 수 있다. 일부 구현예에서, 사용자(1308)는 하나 이상의 제스처(예를 들면, 센서(1406)에 의해 검출되는 제스처)를 수행하는 것에 의해 GUI를 탐색할 수 있다. 일 예로서, 사용자는 GUI 상의 요소들의 리스트를 스크롤하기 위해 손을 위쪽으로 또는 아래쪽으로 움직일 수 있다. 다른 예로서, 사용자는 시야로부터 GUI의 특정 요소를 제거하기 위해 손을 왼쪽 또는 오른쪽으로 스와이프할 수 있다. 다른 예로서, 사용자는 GUI의 특정 요소를 선택하거나 활성화시키기 위해 손을 뻗어 해당 요소를 터치하는 흉내를 낼 수 있다.
증강 현실 시스템(1302)은 하나 이상의 AV(1304a 내지 1304n)에 대해 다양한 사용 사례에서 사용될 수 있다.
일 예로서, 증강 현실 시스템(1302)은 AV(1304a 내지 1304n) 중 하나 이상의 AV의 전개를 용이하게 하는데 사용될 수 있다. 이것은, 예를 들어, AV가 (예를 들면, AV가 보관 또는 유지 관리를 위해 보관소(depot)에 보유되는) 유휴 상태로부터 (예를 들면, AV가 위치로 횡단하고, 승객 또는 화물을 태우거나 실으며, 승객 또는 화물을 운송하는 등의) 작동 또는 활성 상태로 전환할 준비를 하게 하는 것에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 포함할 수 있다. 이것은, 예를 들어, AV를 기동시키거나 활성화시키는 것, AV의 하나 이상의 컴포넌트(예를 들면, 하나 이상의 센서)를 교정하는 것, 및 그 컴포넌트의 교정을 검증하는 것에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 또한 포함할 수 있다. 일부 구현예에서, 증강 현실 시스템(1302)은 특정 컴포넌트가 활성화, 교정 및/또는 검증되었는지를 (예를 들면, 활성화, 교정 및/또는 검증된 경우 컴포넌트와 나란히 "체크(check)" 지시자를 디스플레이하거나, 또는 그렇지 않은 경우 컴포넌트와 나란히 "X표(cross)" 지시자를 디스플레이하는 것에 의해) 표시할 수 있다.
다른 예로서, 증강 현실 시스템(1302)은 AV들(1304a 내지 1304n) 중 하나 이상의 AV의 유지 관리 및 수리를 용이하게 하는 데 사용될 수 있다. 이것은, 예를 들어, AV의 하나 이상의 컴포넌트의 오류 또는 오작동, 및 오류 또는 오작동을 정정하기 위한 단계 또는 절차에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 포함할 수 있다. 이것은, 예를 들어, (예를 들면, AV가 오류 또는 오작동을 경험하기 전에) 일상적 또는 예방적 유지 관리에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 또한 포함할 수 있다. 이것은, 예를 들어, AV의 재주유(refueling) 또는 재충전(recharging)에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 또한 포함할 수 있다.
다른 예로서, 증강 현실 시스템(1302)은 AV들(1304a 내지 1304n) 중 하나 이상의 AV의 조직 및 관리를 용이하게 하는 데 사용될 수 있다. 이것은, 예를 들어, AV를 상이한 논리 그룹 또는 논리 서브그룹(예를 들면, 플릿 또는 서브-플릿)으로 분할하는 것, 전개 및/또는 보관을 위한 AV의 스케줄링, 특정 작업을 수행하기 위한 AV의 스케줄링, 특정 위치 또는 지역에의 AV의 할당, 및 상이한 위치 또는 지역 간의 AV의 재분배에 관해 정보를 사용자에게 디스플레이하는 것 및/또는 커맨드를 사용자로부터 수신하는 것을 포함할 수 있다.
도 17a 및 도 17b는 보관소로부터의 AV의 전개를 용이하게 하기 위한 증강 현실 시스템(1302)의 예시적인 사용 사례를 도시한다.
도 17a는 증강 현실 시스템(1302)에 의해 제시되는 예시적인 GUI(1700)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 시야(1412)에서 그의 물리적 환경(1428)(예를 들면, 여러 AV(1304a 내지 1304n)를 포함함)과 GUI(1700)를 동시에 지각한다.
사용자(1308)가 AV들(1304a 내지 1304n) 중 하나 이상에 접근함에 따라, 증강 현실 시스템(1302)은 사용자(1308)에 근접해 있는(예를 들면, 사용자로부터 특정 임계 거리 내에 있는) AV(1304a 내지 1304n)에 관한 정보를 보여주도록 GUI(1700)를 업데이트한다. 예를 들어, 도 17b에 도시된 바와 같이, 증강 현실 시스템(1302)은 AV(1304a 내지 1304n)에 대한 각자의 그래픽 요소(1702a 내지 1702n)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 포함하도록 GUI(1700)를 업데이트할 수 있다. 그래픽 요소(1702a 내지 1702n) 각각은 AV(1304a 내지 1304n)의 각자의 AV를 전개하는 것에 관련된 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1702a 내지 1702n) 각각은 특정 AV가 네트워크(예를 들면, 네트워크들(322, 328 또는 1306) 중 하나 이상)에 통신 가능하게 결합되는지 여부의 표시, (예를 들면, 총 용량의 백분율로서의) AV의 배터리 시스템의 잔여 배터리 레벨의 표시, AV가 전개전 검사(pre-deployment inspection)를 통과했는지 여부의 표시(예를 들면, 체크 마크는 AV가 검사를 통과했음을 나타낼 수 있고, "X”는 AV가 검사를 통과하지 못했음을 나타낼 수 있음) 등을 디스플레이할 수 있다. 게다가, 그래픽 요소(1702a 내지 1702n)가 그 각자의 AV에 공간적으로 근접하게 배열된 것처럼(예를 들면, 해당 AV 근처에 호버링하거나 떠 있는 것처럼) 보이도록 그래픽 요소(1702a 내지 1702n) 각각이 GUI(1700)에 위치할 수 있다.
게다가, 사용자(1308)는 AV(1304a 내지 1304n)에 대해 하나 이상의 커맨드를 발행하기 위해 증강 현실 시스템(1302)과 상호작용할 수 있다. 예를 들어, 위에서 논의된 바와 같이, 증강 현실 시스템(1302)은 사용자(1308)로부터 입력을 수신하기 위한 하나 이상의 입력 디바이스(1408)를 포함할 수 있다. 입력 디바이스(1408)에 의해 수신된 입력은 해석을 위해 하나 이상의 컴퓨터 시스템(1402)에 제공될 수 있다. 예를 들어, 하나 이상의 컴퓨터 시스템(1402)은 입력과 연관된 하나 이상의 커맨드를 식별할 수 있고, 커맨드를 실행을 위해 AV들(1304a 내지 1304n) 중 하나 이상으로 송신할 수 있다. 다른 예로서, 사용자(1308)는 신체 제스처를 수행하기 위해 신체의 하나 이상의 부분을 움직일 수 있다. 증강 현실 시스템(1302)은 (예를 들면, 센서들(1406) 중 하나 이상을 사용하여) 제스처를 검출하고, 제스처와 연관된 하나 이상의 커맨드를 결정하며, 커맨드를 실행을 위해 AV들(1304a 내지 1304n) 중 하나 이상으로 송신할 수 있다.
도 18a 및 도 18b는 AV(1304a) 상의 센서의 교정을 용이하게 하기 위한 증강 현실 시스템(1302)의 다른 예시적인 사용 사례를 도시한다.
도 18a는 증강 현실 시스템(1302)에 의해 제시되는 예시적인 GUI(1800)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 AV(1304a)에 앉아 있고, 시야(1412)에서 그의 물리적 환경(1428)과 GUI(1800)를 동시에 지각한다.
일부 구현예에서, 사용자(1308)는 AV(1304a)에게 그의 센서들 중 하나 이상의 센서를 교정하도록 수동으로 지시할 수 있다. 일부 구현예에서, AV(1304a)는 그의 센서들 중 하나 이상의 센서의 교정을 자동으로 개시할 수 있다. 교정 프로세스 동안, 증강 현실 시스템(1302)은 AV(1304a)의 센서에 관한 정보를 보여주도록 GUI(1800)를 업데이트한다. 예를 들어, 도 18a에 도시된 바와 같이, 증강 현실 시스템(1302)은 교정되고 있는 센서에 대한 그래픽 요소(1802a 내지 1802n)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 포함하도록 GUI(1800)를 업데이트할 수 있다.
그래픽 요소(1802a 내지 1802n) 각각은 특정 센서(또는 센서 그룹)에 관련된 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1802a 내지 1802n) 각각은 센서가 교정 프로세스를 완료했는지 여부의 표시(예를 들면, 체크 마크는 센서가 교정 프로세스를 완료했음을 나타낼 수 있고, "X"는 센서가 교정 프로세스를 아직 완료하지 않았음을 나타낼 수 있음)를 디스플레이할 수 있다. 다른 예로서, 특정 센서가 배터리로 구동되는(battery powered) 경우, 대응하는 그래픽 요소(1802a 내지 1802n)는 (예를 들면, 총 용량의 백분율로서) 배터리의 잔여 배터리 레벨의 표시를 포함할 수 있다.
게다가, 증강 현실 시스템은 AV(1304a)에 대해 할당된 스테이징 위치(staging location)를 표시하도록 GUI(1800)를 업데이트할 수 있다. 예를 들어, 도 18a에 도시된 바와 같이, 증강 현실 시스템은 스테이징 위치(예를 들면, AV(1304a)가 현장으로의 전개에 대비하여 위치할 수 있는 위치)를 나타내는 그래픽 요소(1804)를 포함하도록 GUI(1800)를 업데이트할 수 있다. 일부 구현예에서, 그래픽 요소(1804a)가 (예를 들면, 지면에 그려진 경계선을 모방하여) 지면 상의 특정 영역의 윤곽을 나타내는 것처럼 보이도록 그래픽 요소(1804a)가 위치할 수 있다. 헤드셋(1420)을 듣는 동안, 사용자(1308)는 AV(1304a)를 표시된 위치로 수동으로 안내하고 차량에서 내릴 수 있다. 일부 구현예에서, AV(1304a)는 자신을 표시된 위치로 자동으로 안내할 수 있고, AV(1304a)에서 내려도 안전하다는 것을 (예를 들면, 헤드셋(1420) 사용하여) 사용자(1308)에게 알릴 수 있다.
일부 실시예에서, 증강 현실 시스템(1302)은 사용자가 AV의 내부에 있는지 외부에 있는지에 따라 GUI를 업데이트할 수 있다. 예를 들어, 증강 현실 시스템(1302)은 사용자(1308)가 AV(1304a)의 내부에 있을 때를 (예를 들면, 센서(1406)를 사용하여) 검출할 수 있고, 이에 응답하여, GUI(1800)의 제1 뷰(예를 들면, 도 18a에 도시된 GUI(1800))를 디스플레이할 수 있다. 다른 예로서, 증강 현실 시스템(1302)은 사용자(1308)가 AV(1304a)에서 내렸을 때를 (예를 들면, 센서(1406)를 사용하여) 검출할 수 있고, 이에 응답하여, GUI(1800)의 제2 뷰(예를 들면, 도 18b에 도시된 GUI(1800))를 디스플레이할 수 있다.
도 18b에 도시된 바와 같이, 사용자가 AV(1304a)에서 내렸을 때, 증강 현실 시스템(1302)은 GUI(1800)가 AV(1304a)에 관한 정보를 표현하는 그래픽 요소(1806)(예를 들면, 아이콘, 심벌, 이미지, 텍스트 및/또는 색상의 패턴)를 보여주도록 GUI(1800)를 업데이트할 수 있다. 그래픽 요소(1806)는 AV(1304a)의 전개에 관련된 정보를 디스플레이할 수 있다. 예를 들어, 그래픽 요소(1806)는 AV(1304a)가 네트워크(예를 들면, 네트워크들(322, 328 또는 1306) 중 하나 이상)에 통신 가능하게 결합되는지 여부의 표시, (예를 들면, 총 용량의 백분율로서의) AV(1304a)의 배터리 시스템의 잔여 배터리 레벨의 표시, AV(1304a)가 전개전 검사를 통과했는지 여부의 표시(예를 들면, 체크 마크는 AV가 검사를 통과했음을 나타낼 수 있고, "X”는 AV가 검사를 통과하지 못했음을 나타낼 수 있음) 등을 디스플레이할 수 있다. 게다가, 그래픽 요소(1806)가 AV(1304a)에 공간적으로 근접하게 배열된 것처럼(예를 들면, AV(1304a) 근처에 호버링하거나 떠 있는 것처럼) 보이도록 그래픽 요소(1806)가 GUI(1800)에 위치할 수 있다.
게다가, 사용자(1308)는 AV(1304a)에 대해 하나 이상의 커맨드를 발행하기 위해 증강 현실 시스템(1302)과 상호작용할 수 있다. 예를 들어, 위에서 논의된 바와 같이, 증강 현실 시스템(1302)은 사용자(1308)로부터 입력을 수신하기 위한 하나 이상의 입력 디바이스(1408)를 포함할 수 있다. 입력 디바이스(1408)에 의해 수신된 입력은 해석을 위해 하나 이상의 컴퓨터 시스템(1402)에 제공될 수 있다. 예를 들어, 하나 이상의 컴퓨터 시스템(1402)은 입력과 연관된 하나 이상의 커맨드를 식별할 수 있고, 커맨드를 실행을 위해 AV(1304a)로 송신할 수 있다. 다른 예로서, 사용자(1308)는 신체 제스처를 수행하기 위해 신체의 하나 이상의 부분을 움직일 수 있다. 증강 현실 시스템(1302)은 (예를 들면, 센서들(1406) 중 하나 이상을 사용하여) 제스처를 검출하고, 제스처와 연관된 하나 이상의 커맨드를 결정하며, 커맨드를 실행을 위해 AV(1304a)로 송신할 수 있다. 예시적인 커맨드는 자율 주행 차량을 유휴 상태로부터 활성 상태로 전환하는 커맨드, 실행을 위한 작업을 자율 주행 차량에 할당하는 커맨드, 운행을 위한 지리적 영역을 자율 주행 차량에 할당하는 커맨드, 자율 주행 차량을 재주유하거나 재충전하는 커맨드, 자율 주행 차량의 컴포넌트를 교정하는 커맨드, 자율 주행 차량에 대한 유지 관리 프로세스를 수행하는 커맨드, 및/또는 자율 주행 차량을 복수의 논리 그룹 중 한 논리 그룹에 할당하는 커맨드를 포함할 수 있다. 일부 구현예에서, 커맨드는 본원에서 설명된 동작들 중 임의의 것을 수행하기 위한 명령을 포함할 수 있다.
도 19a 내지 도 19c는 보관소로부터의 AV의 전개를 용이하게 하기 위한 증강 현실 시스템(1302)의 다른 예시적인 사용 사례를 도시한다.
도 19a는 증강 현실 시스템(1302)에 의해 제시되는 예시적인 GUI(1900)를 도시한다. 이 예에서, 증강 현실 시스템(1302)의 헤드셋(1420)을 착용한 사용자(1308)는 시야(1412)에서 그의 물리적 환경(1428)과 GUI(1900)를 동시에 지각한다.
위에서 기술된 바와 같이, 증강 현실 시스템(1302)은 AV들(1304a 내지 1304n) 중 하나 이상에 관한 통지를 디스플레이하도록 GUI(1900)를 업데이트할 수 있다. 예를 들어, 도 19a에 도시된 바와 같이, 증강 현실 시스템(1302)은 AV(1304a)의 특정 센서가 오류 또는 오작동을 경험하고 있음을 나타내는 그래픽 요소(1902a) 및 AV(1304a)의 특정 프로세서가 비정상적으로 높은 사용률을 경험하고 있음을 나타내는 그래픽 요소(1902b)를 포함하도록 GUI(1900)를 업데이트할 수 있다. 그래픽 요소(1920a 및 1902b)는 또한 AV(1304a)의 아이덴티티(예를 들면, 식별자, 일련 번호 또는 AV(1304a)의 이름)를 나타낼 수 있다. 게다가, 그래픽 요소(1920a 및 1902b)는 또한 통지가 생성된 시간, 통지를 다른 사람에게 전달하는 옵션(예를 들면, 문자 메시지, 채팅 메시지, 이메일 등을 통해) 및 통지를 묵살하는 옵션을 표시할 수 있다.
그 정보에 기초하여, 사용자(1308)는 통지에서 식별된 AV(1304a)를 찾아 그에 접근할 수 있다. 사용자(1308)가 AV(1304a)에 접근함에 따라, 증강 현실 시스템(1302)은 AV(1304a)에 관한 정보를 디스플레이하도록 GUI(1900)를 업데이트할 수 있다. 예를 들어, 도 19b에 도시된 바와 같이, 증강 현실 시스템(1302)은 오류 또는 오작동을 경험하는 AV(1304a)의 컴포넌트 각각에 관한 추가 정보를 제시하는 그래픽 요소(1904)를 포함하도록 GUI(1900)를 업데이트할 수 있다. 예를 들어, GUI(1900)는 AV(1304a)의 하나 이상의 프로세서에 관한 정보(예를 들면, 프로세서의 온도, 프로세서의 사용률 또는 이용률 백분율, 프로세서의 주파수 또는 클록 속도 등)를 디스플레이하는 그래픽 요소(1904a)를 포함하도록 업데이트될 수 있다. 다른 예로서, GUI(1900)는 특정 센서가 오류 또는 오작동을 경험하고 있음을 나타내는 그래픽 요소(1904b)를 포함하도록 업데이트될 수 있다. 일부 구현예에서, 오작동을 경험하고 있는 AV(1304a)의 컴포넌트는, 사용자(1308)가 컴포넌트를 쉽게 식별할 수 있도록, (예를 들면, 상이한 색상, 상이한 밝기, 상이한 크기 및/또는 독특한 아이콘을 사용하여) 시각적으로 강조되거나 하이라이트될 수 있다.
게다가, 사용자(1308)는 AV(1304a)에 대해 하나 이상의 커맨드를 발행하기 위해 증강 현실 시스템(1302)과 상호작용할 수 있다. 예를 들어, 도 19c에 도시된 바와 같이, 사용자(1308)는 (예를 들면, 입력 디바이스(1408)를 사용하여 및/또는 컴포넌트를 향해 손을 뻗는 것 또는 컴포넌트를 포인팅하는 것과 같은, 신체 제스처를 수행하여) AV(1304a)의 컴포넌트들 중 하나를 선택할 수 있다. 이에 응답하여, 증강 현실 시스템(1302)은 선택된 컴포넌트에 대해 수행될 수 있는 옵션들의 리스트(1906)를 디스플레이하도록 GUI(1900)를 업데이트할 수 있다. 일 예로서, 컴포넌트가 LIDAR 센서인 경우, 옵션들의 리스트(1906)는 센서를 청소하는 것, 센서를 교체하는 것(또는 교체 센서를 주문하는 것) 및 센서를 리셋하는 것을 포함할 수 있다. 사용자는 (예를 들면, 입력 디바이스(1408)를 사용하여 및/또는, 옵션을 향해 손을 뻗는 것 또는 옵션을 포인팅하는 것과 같은 신체 제스처를 수행하여) 옵션들 중 하나를 선택할 수 있다. 이에 응답하여, 증강 현실 시스템(1302)은 (예를 들면, 선택된 옵션이 AV(1304a)에 의해 수행될 수 있는 경우) AV(1304a)에게 선택된 옵션을 수행하도록 지시할 수 있고, 그리고/또는 (예를 들면, 선택된 옵션이 다른 시스템에 의해 및/또는 다른 사용자에 의해 수행되는 경우) 선택된 옵션을 수행하라는 요청을 다른 시스템 또는 사용자에게 송신할 수 있다.
오류 또는 오작동이 해결되는 경우, 증강 현실 시스템(1302)은 그에 따라 GUI(1900)를 업데이트할 수 있다.
예시적인 사용 사례가 본원에 기술되어 있지만, 예시적인 예에 불과하다. 실제로, 증강 현실 시스템(1302)은 하나 이상의 AV의 동작에 관한 임의의 정보를 디스플레이하고/하거나 사용자가 임의의 방식으로 하나 이상의 AV와 상호작용할 수 있게 하는 데 사용될 수 있다.
예시적인 프로세스
도 20은 하나 이상의 AV의 동작을 모니터링 및 제어하기 위한 예시적인 프로세스(2000)를 도시한다. 프로세스(2000)는, 적어도 부분적으로, (예를 들면, 도 13 내지 도 19와 관련하여 설명된 기술에 따라) 도 1 내지 도 12에 도시된 시스템들 중 하나 이상을 사용하여 수행될 수 있다. 일 예로서, 프로세스(2000)는, 적어도 부분적으로, (예를 들면, 도 13, 도 14a 및 도 14b에 도시된 바와 같은) 증강 현실 시스템(1302) 또는 (예를 들면, 도 1에 도시된 바와 같은) 프로세서들(304) 중 하나 이상을 사용하여 수행될 수 있다.
프로세스(2000)에 따르면, 적어도 하나의 프로세서는 제1 자율 주행 차량이 증강 현실 디스플레이 디바이스를 착용한 사용자의 시야에 있다고 결정한다(블록(2002)). 일 예로서, 적어도 하나의 프로세서는 (예를 들면, 도 13에 도시된 바와 같은) AV들(1304a 내지 1304n) 중 하나가 (예를 들면, 도 14a 및 도 14b에 도시된 바와 같은) 증강 현실 디스플레이 디바이스(1404)를 착용한 사용자의 시야에 있다고 결정할 수 있다.
적어도 하나의 프로세서는 제1 자율 주행 차량의 동작에 관한 제1 데이터를 결정한다(블록(2004)). 제1 데이터는 본원에서 설명된 정보 중 적어도 일부를 포함할 수 있다.
예를 들어, 일부 구현예에서, 제1 데이터는 제1 자율 주행 차량의 전개 상태에 관한 정보를 포함할 수 있다. 이 정보는, 예를 들어, 제1 자율 주행 차량이 유휴 상태 또는 활성 상태에 있다는 표시, 실행을 위해 제1 자율 주행 차량에 할당된 작업의 표시, 운행을 위해 제1 자율 주행 차량에 할당된 지리적 영역의 표시, 횡단을 위해 제1 자율 주행 차량에 할당된 루트의 표시, 제1 자율 주행 차량에 의해 이전에 횡단된 하나 이상의 루트의 표시, 제1 자율 주행 차량의 하나 이상의 이전 위치의 표시, 제1 자율 주행 차량의 조건 또는 상태의 표시, 또는 제1 자율 주행 차량에 관한 경보 또는 통지의 표시를 포함할 수 있다.
다른 예로서, 일부 구현예에서, 제1 데이터는 제1 자율 주행 차량의 유지 관리 또는 수리 상태에 관한 정보를 포함할 수 있다. 이 정보는, 예를 들어, 자율 주행 차량의 컴포넌트의 오작동의 표시, 자율 주행 차량의 연료 레벨의 표시, 자율 주행 차량의 배터리 레벨의 표시, 자율 주행 차량의 컴포넌트의 교정의 표시, 자율 주행 차량에 대한 손상의 표시, 자율 주행 차량의 청소 상태의 표시, 제1 자율 주행 차량에 대해 수행될 유지 관리의 표시, 제1 자율 주행 차량의 주행 거리 또는 연비의 표시, 오작동에 대해 검사될 제1 자율 주행 차량의 컴포넌트의 표시, 또는 제1 자율 주행 차량의 유지 관리 또는 수리 이력의 표시를 포함할 수 있다.
예를 들어, 일부 구현예에서, 제1 데이터는 제1 자율 주행 차량의 조직 상태에 관한 정보를 포함할 수 있다. 이 정보는, 예를 들어, 제1 자율 주행 차량이 복수의 논리 그룹 중 제1 논리 그룹에 할당되어 있다는 표시 및/또는 제1 운영자(operator)가 제1 자율 주행 차량에 할당되었다는 표시를 포함할 수 있다.
적어도 하나의 프로세서는 제1 데이터의 적어도 일 부분이 증강 현실 디스플레이 디바이스를 사용하여 사용자에게 제시되게 한다(블록(2006)). 제1 데이터의 적어도 그 부분이 사용자에게 제시되게 하는 것은 그래픽 사용자 인터페이스가 증강 현실 디스플레이 디바이스를 사용하여 사용자의 시야에 제시되게 하는 것, 및 제1 데이터의 적어도 그 부분이 사용자의 시야에서 제1 자율 주행 차량에 공간적으로 근접하게 배열된 것처럼 보이도록, 제1 데이터의 적어도 그 부분이 그래픽 사용자 인터페이스 상에 포함되게 하는 것을 포함한다.
일부 구현예에서, 제1 데이터의 적어도 그 부분이 사용자에게 제시되게 하는 것은 사용자의 시야가 변경되었다고 결정하고, 이에 응답하여, 제1 데이터의 적어도 제1 부분이 사용자의 변경된 시야에서 제1 자율 주행 차량에 공간적으로 근접하게 배열된 것처럼 보이도록 그래픽 사용자 인터페이스를 수정하는 것을 포함할 수 있다. 일부 구현예에서, 적어도 하나의 프로세서는 사용자의 시야가 변경되었는지 여부를 연속적으로 결정하고, 만약 그렇다면, 이에 응답하여 그래픽 사용자 인터페이스를 수정한다.
일부 구현예에서, 다수의 자율 주행 차량에 관한 정보가 동시에 제시될 수 있다. 예를 들어, 적어도 하나의 프로세서는 복수의 제2 자율 주행 차량이 동시에 사용자의 시야에 있다고 결정하고, 제2 자율 주행 차량 각각의 동작에 관한 제2 데이터를 결정하며, 제2 데이터의 적어도 일 부분이 증강 현실 디스플레이 디바이스를 사용하여 사용자에게 제시되게 할 수 있다. 제2 데이터의 적어도 그 부분이 사용자에게 제시되게 하는 것은 그래픽 사용자 인터페이스가 증강 현실 디스플레이 디바이스를 사용하여 사용자의 시야에 제시되게 하는 것, 및 제1 데이터의 적어도 제2 부분이 사용자의 시야에서 제2 자율 주행 차량 각각에 공간적으로 근접하게 배열된 것처럼 보이도록, 제2 데이터의 적어도 그 부분이 그래픽 사용자 인터페이스 상에 포함되게 하는 것을 포함할 수 있다.
일부 구현예에서, 적어도 하나의 프로세서는 사용자가 그래픽 사용자 인터페이스에 대해 신체 제스처를 수행했다고 결정할 수 있다. 게다가, 적어도 하나의 프로세서는 신체 제스처가 커맨드와 연관되어 있다고 결정하고, 제1 자율 주행 차량에 대해 커맨드가 실행되게 할 수 있다. 일부 구현예에서, 신체 제스처는 사용자의 팔 또는 사용자의 손 중 적어도 하나의 움직임을 포함할 수 있다.
전술한 설명에서, 여러 실시예는 구현마다 달라질 수 있는 수많은 특정 세부 사항을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면은 제한적인 관점보다는 예시적인 관점에서 보아야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항에 포함된 용어에 대한 본원에서 명시적으로 기재된 임의의 정의는 청구항에서 사용되는 그러한 용어의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항에서 "추가로 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브-단계/서브-엔티티일 수 있다.

Claims (14)

  1. 방법으로서,
    적어도 하나의 프로세서에 의해, 복수의 자율 주행 차량들이 (i) 증강 현실 디스플레이 디바이스를 착용한 사용자의 시야에 동시에 있고 (ii) 보관이나 유지관리 중 적어도 하나를 위해 보관소(depot)에서 유휴 상태에 있다고 결정하는 단계;
    상기 적어도 하나의 프로세서에 의해, 상기 복수의 자율 주행 차량들 각각의 동작에 관한 제1 데이터를 결정하는 단계 - 상기 제1 데이터는,
    상기 복수의 자율 주행 차량들 각각의 유지관리 또는 수리 상태, 및
    상기 복수의 자율 주행 차량들 각각의 전개 상태(deployment status) - 상기 복수의 자율 주행 차량들 각각의 전개 상태는, 해당 자율 주행 차량에 의해 이전에 횡단된 하나 이상의 루트의 표시를 포함하며, 상기 하나 이상의 루트의 표시는,
    해당 자율 주행 차량에 의한 각 승객에 대한 픽업(pick up) 위치를 나타내는 시작 시공간적 위치, 및
    해당 자율 주행 차량에 의한 상기 각 승객에 대한 드롭 오프(drop off) 위치를 나타내는 최종 시공간적 위치
    를 포함함 - ; 및
    상기 복수의 자율 주행 차량들이 상기 사용자의 시야에 동시에 있고 유휴 상태에 있다고 결정할 시, 상기 적어도 하나의 프로세서에 의해, 상기 제1 데이터의 적어도 일 부분이 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자에게 제시되게 하는 단계;
    를 포함하며, 상기 제1 데이터의 적어도 상기 부분이 상기 사용자에게 제시되게 하는 단계는:
    그래픽 사용자 인터페이스가 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자의 시야에 제시되게 하는 단계, 및
    상기 제1 데이터의 적어도 상기 부분이 상기 사용자의 시야에서 상기 복수의 자율 주행 차량들 각각에 공간적으로 근접하게 배열된 것처럼 보이도록, 상기 하나 이상의 루트의 표시를 포함한 상기 제1 데이터의 적어도 상기 부분이 상기 그래픽 사용자 인터페이스 상에 포함되게 하는 단계를 포함하는 것인, 방법.
  2. 제1항에 있어서, 상기 제1 데이터의 적어도 상기 부분이 상기 사용자에게 제시되게 하는 단계는:
    상기 사용자의 상기 시야가 변경되었다고 결정하는 단계, 및
    상기 사용자의 상기 시야가 변경되었다고 결정하는 것에 응답하여, 상기 제1 데이터의 적어도 제1 부분이 상기 사용자의 상기 변경된 시야에서 상기 복수의 자율 주행 차량들 각각에 공간적으로 근접하게 배열된 것처럼 보이도록 상기 그래픽 사용자 인터페이스를 수정하는 단계를 포함하는 것인, 방법.
  3. 제2항에 있어서, 상기 사용자의 상기 시야가 변경되었다고 결정하는 단계와 상기 그래픽 사용자 인터페이스를 수정하는 단계는 연속적으로 수행되는 것인, 방법.
  4. 제1항에 있어서,
    상기 적어도 하나의 프로세서에 의해, 복수의 추가적인 자율 주행 차량들이 동시에 상기 사용자의 상기 시야에 있다고 결정하는 단계;
    상기 적어도 하나의 프로세서에 의해, 상기 복수의 추가적인 자율 주행 차량들 각각의 동작에 관한 제2 데이터를 결정하는 단계; 및
    상기 적어도 하나의 프로세서에 의해, 상기 제2 데이터의 적어도 일 부분이 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자에게 제시되게 하는 단계;
    를 추가로 포함하며, 상기 제2 데이터의 적어도 상기 부분이 상기 사용자에게 제시되게 하는 단계는:
    상기 그래픽 사용자 인터페이스가 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자의 상기 시야에 제시되게 하는 단계, 및
    상기 제2 데이터의 적어도 상기 부분이 상기 사용자의 상기 시야에서 상기 복수의 추가적인 자율 주행 차량들 각각에 공간적으로 근접하게 배열된 것처럼 보이도록, 상기 제2 데이터의 적어도 상기 부분이 상기 그래픽 사용자 인터페이스 상에 포함되게 하는 단계를 포함하는 것인, 방법.
  5. 삭제
  6. 제1항에 있어서, 상기 복수의 자율 주행 차량들 각각의 상기 전개 상태에 관한 정보는:
    상기 복수의 자율 주행 차량들 중 적어도 하나에 할당된 실행할 작업의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나에 할당된 운행할 지리적 영역의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나에 할당된 횡단(traversal)할 루트의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 하나 이상의 이전 위치의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 조건 또는 상태의 표시, 또는
    상기 복수의 자율 주행 차량들 중 적어도 하나에 관한 경고 또는 통지의 표시
    중 적어도 하나를 포함하는 것인, 방법.
  7. 삭제
  8. 제1항에 있어서, 상기 복수의 자율 주행 차량들 각각의 상기 유지관리 또는 수리 상태는:
    상기 복수의 자율 주행 차량들 중 적어도 하나의 컴포넌트의 오작동의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 연료 레벨의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 배터리 레벨의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 컴포넌트의 교정의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나에 대한 손상의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 청소 상태의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나에 대해 수행될 유지관리의 표시,
    상기 복수의 자율 주행 차량들 중 적어도 하나의 주행 거리 또는 연비의 표시,
    오작동에 대해 검사될 상기 복수의 자율 주행 차량들 중 적어도 하나의 컴포넌트의 표시, 또는
    상기 복수의 자율 주행 차량들 중 적어도 하나의 유지관리 또는 수리 이력의 표시
    중 적어도 하나를 포함하는 것인, 방법.
  9. 제1항에 있어서, 상기 제1 데이터는:
    상기 복수의 자율 주행 차량들 각각의 조직 상태(organizational status)에 관한 정보를 포함하는 것인, 방법.
  10. 제9항에 있어서, 상기 복수의 자율 주행 차량들 각각의 상기 조직 상태에 관한 정보는:
    상기 복수의 자율 주행 차량들 중 적어도 하나가 복수의 논리 그룹들 중 제1 논리 그룹에 할당된다는 표시, 또는
    제1 운영자가 상기 복수의 자율 주행 차량들 중 적어도 하나에 할당되었다는 표시를 포함하는 것인, 방법.
  11. 제1항에 있어서,
    상기 적어도 하나의 프로세서에 의해, 사용자가 상기 그래픽 사용자 인터페이스에 대해 신체 제스처를 수행했다고 결정하는 단계,
    상기 적어도 하나의 프로세서에 의해, 상기 신체 제스처가 커맨드와 연관되어 있다고 결정하는 단계, 및
    상기 적어도 하나의 프로세서에 의해, 상기 커맨드가 상기 자율 주행 차량에 대해 실행되게 하는 단계
    를 추가로 포함하는, 방법.
  12. 제11항에 있어서, 상기 신체 제스처는 상기 사용자의 팔 또는 상기 사용자의 손 중 적어도 하나의 움직임을 포함하는 것인, 방법.
  13. 삭제
  14. 시스템으로서,
    증강 현실 디스플레이 디바이스;
    적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서에 의해 실행될 때, 상기 적어도 하나의 프로세서로 하여금 동작들을 수행하게 하는 명령을 저장하는 적어도 하나의 비-일시적 컴퓨터 판독 가능 매체;
    를 포함하며, 상기 동작들은:
    상기 적어도 하나의 프로세서에 의해, 복수의 자율 주행 차량들이 (i) 상기 증강 현실 디스플레이 디바이스를 착용한 사용자의 시야에 동시에 있고 (ii) 보관이나 유지관리 중 적어도 하나를 위해 보관소에서 유휴 상태에 있다고 결정하는 동작;
    상기 적어도 하나의 프로세서에 의해, 상기 복수의 자율 주행 차량들 각각의 동작에 관한 제1 데이터를 결정하는 동작 - 상기 제1 데이터는,
    상기 복수의 자율 주행 차량들 각각의 유지관리 또는 수리 상태, 및
    상기 복수의 자율 주행 차량들 각각의 전개 상태 - 상기 복수의 자율 주행 차량들 각각의 전개 상태에 관한 정보는, 해당 자율 주행 차량에 의해 이전에 횡단된 하나 이상의 루트의 표시를 포함하며, 상기 하나 이상의 루트의 표시는,
    해당 자율 주행 차량에 의한 각 승객에 대한 픽업 위치를 나타내는 시작 시공간적 위치, 및
    해당 자율 주행 차량에 의한 상기 각 승객에 대한 드롭 오프 위치를 나타내는 최종 시공간적 위치
    를 포함함 - ; 및
    상기 복수의 자율 주행 차량들이 상기 사용자의 시야에 동시에 있고 유휴 상태에 있다고 결정할 시, 상기 적어도 하나의 프로세서에 의해, 상기 제1 데이터의 적어도 일 부분이 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자에게 제시되게 하는 동작
    을 포함하며, 상기 제1 데이터의 적어도 상기 부분이 상기 사용자에게 제시되게 하는 동작은:
    그래픽 사용자 인터페이스가 상기 증강 현실 디스플레이 디바이스를 사용하여 상기 사용자의 시야에 제시되게 하는 동작, 및
    상기 제1 데이터의 적어도 상기 부분이 상기 사용자의 시야에서 상기 복수의 자율 주행 차량들 각각에 공간적으로 근접하게 배열된 것처럼 보이도록, 상기 하나 이상의 루트의 표시를 포함한 상기 제1 데이터의 적어도 상기 부분이 상기 그래픽 사용자 인터페이스 상에 포함되게 하는 동작을 포함하는, 시스템.
KR1020210025788A 2020-11-06 2021-02-25 증강 현실 지원 자율 주행 차량 커맨드 센터 KR102588976B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/092,188 2020-11-06
US17/092,188 US11775148B2 (en) 2020-11-06 2020-11-06 Augmented reality enabled autonomous vehicle command center

Publications (2)

Publication Number Publication Date
KR20220062221A KR20220062221A (ko) 2022-05-16
KR102588976B1 true KR102588976B1 (ko) 2023-10-13

Family

ID=75339261

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210025788A KR102588976B1 (ko) 2020-11-06 2021-02-25 증강 현실 지원 자율 주행 차량 커맨드 센터

Country Status (5)

Country Link
US (1) US11775148B2 (ko)
KR (1) KR102588976B1 (ko)
CN (1) CN114527740A (ko)
DE (1) DE102021128156A1 (ko)
GB (2) GB2601014B (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113457132B (zh) * 2021-06-23 2024-03-01 北京达佳互联信息技术有限公司 对象投放方法、装置、电子设备及存储介质
US20230256995A1 (en) * 2022-02-16 2023-08-17 Chan Duk Park Metaverse autonomous driving system and cluster driving

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130238167A1 (en) * 2012-03-07 2013-09-12 Local Motion, Inc. Apparatus and methods for renting and controlling occupancy of a vehicle
US20160026253A1 (en) * 2014-03-11 2016-01-28 Magic Leap, Inc. Methods and systems for creating virtual and augmented reality
US10410182B1 (en) * 2019-04-17 2019-09-10 Capital One Services, Llc Visualizing vehicle condition using extended reality

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102448681B (zh) * 2009-12-28 2014-09-10 松下电器产业株式会社 动作空间提示装置、动作空间提示方法以及程序
US20120206334A1 (en) * 2010-02-28 2012-08-16 Osterhout Group, Inc. Ar glasses with event and user action capture device control of external applications
DE102010017857B4 (de) * 2010-04-22 2019-08-08 Sick Ag 3D-Sicherheitsvorrichtung und Verfahren zur Absicherung und Bedienung mindestens einer Maschine
US8989960B2 (en) * 2013-03-14 2015-03-24 Volkswagen Ag Interactive engine
KR102011457B1 (ko) * 2013-04-17 2019-08-19 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
US20140354684A1 (en) * 2013-05-28 2014-12-04 Honda Motor Co., Ltd. Symbology system and augmented reality heads up display (hud) for communicating safety information
US9412275B2 (en) * 2013-06-01 2016-08-09 Apple Inc. Architecture for distributing transit data
WO2016179248A1 (en) * 2015-05-05 2016-11-10 Ptc Inc. Augmented reality system
WO2018208815A1 (en) * 2017-05-08 2018-11-15 Chase Arnold Mobile device for autonomous vehicle enhancement system
US20190206258A1 (en) 2018-01-04 2019-07-04 nuTonomy Inc. Augmented reality vehicle interfacing
US10861242B2 (en) * 2018-05-22 2020-12-08 Magic Leap, Inc. Transmodal input fusion for a wearable system
EP3605488A1 (en) 2018-08-02 2020-02-05 Aptiv Technologies Limited Management of multiple autonomous vehicles
DE102020111250A1 (de) 2019-04-25 2020-10-29 Aptiv Technologies Limited Grafische benutzerschnittstelle zur anzeige des verhaltens autonomer fahrzeuge
US11472291B2 (en) * 2019-04-25 2022-10-18 Motional Ad Llc Graphical user interface for display of autonomous vehicle behaviors
KR20190103079A (ko) 2019-08-14 2019-09-04 엘지전자 주식회사 증강현실을 이용한 차량 외부 영상 정보 출력 방법 및 이를 위한 장치
US11900815B2 (en) * 2019-09-30 2024-02-13 Gm Cruise Holdings Llc Augmented reality wayfinding in rideshare applications

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130238167A1 (en) * 2012-03-07 2013-09-12 Local Motion, Inc. Apparatus and methods for renting and controlling occupancy of a vehicle
US20160026253A1 (en) * 2014-03-11 2016-01-28 Magic Leap, Inc. Methods and systems for creating virtual and augmented reality
US10410182B1 (en) * 2019-04-17 2019-09-10 Capital One Services, Llc Visualizing vehicle condition using extended reality

Also Published As

Publication number Publication date
US11775148B2 (en) 2023-10-03
GB2616960B (en) 2024-04-24
US20220147203A1 (en) 2022-05-12
CN114527740A (zh) 2022-05-24
GB202102563D0 (en) 2021-04-07
DE102021128156A1 (de) 2022-05-12
GB2616960A (en) 2023-09-27
KR20220062221A (ko) 2022-05-16
GB2601014B (en) 2023-03-22
GB2601014A (en) 2022-05-18

Similar Documents

Publication Publication Date Title
US11181905B2 (en) Teleoperation of autonomous vehicles
KR102652687B1 (ko) 센서 고장에 대한 자율 주행 차량 대응방안을 구현하기 위한 시스템 및 방법
KR102663570B1 (ko) 차량의 궤적을 계획 및 업데이트하기 위한 시스템 및 방법
KR102532546B1 (ko) 미리 계산되거나 동적으로 생성된 궤적 뱅크로부터의 궤적 예측
EP4152116B1 (en) Teleoperation of autonomous vehicles
KR102584831B1 (ko) 자율주행 차량으로의 다방향 정지 교차로 내비게이팅
US11814075B2 (en) Conditional motion predictions
KR102639008B1 (ko) 도로 특징부에 대한 폐색 표현을 구현하기 위한 시스템 및 방법
KR102580097B1 (ko) 교정 정보를 사용한 av 경로 계획
KR102588976B1 (ko) 증강 현실 지원 자율 주행 차량 커맨드 센터
KR20220088622A (ko) 차량 상태에 대한 예측 분석
KR20230156768A (ko) 브레이크 중재

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant