KR20220054534A - 거동 규칙 검사를 사용한 차량 작동 - Google Patents

거동 규칙 검사를 사용한 차량 작동 Download PDF

Info

Publication number
KR20220054534A
KR20220054534A KR1020210140948A KR20210140948A KR20220054534A KR 20220054534 A KR20220054534 A KR 20220054534A KR 1020210140948 A KR1020210140948 A KR 1020210140948A KR 20210140948 A KR20210140948 A KR 20210140948A KR 20220054534 A KR20220054534 A KR 20220054534A
Authority
KR
South Korea
Prior art keywords
vehicle
trajectory
sensor data
processor
rule
Prior art date
Application number
KR1020210140948A
Other languages
English (en)
Other versions
KR102626145B1 (ko
Inventor
라드바우드 두인터 테벤스
카린 벨타
순시엔 창
아미타이 빈-눈
앤 콜린
누신 메흐디푸르
웨이 시아오
Original Assignee
모셔널 에이디 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 모셔널 에이디 엘엘씨 filed Critical 모셔널 에이디 엘엘씨
Publication of KR20220054534A publication Critical patent/KR20220054534A/ko
Application granted granted Critical
Publication of KR102626145B1 publication Critical patent/KR102626145B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0234—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
    • G05D1/0236—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons in combination with a laser
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/09—Taking automatic action to avoid collision, e.g. braking and steering
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10—Path keeping
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18—Propelling the vehicle
    • B60W30/18009—Propelling the vehicle related to particular drive situations
    • B60W30/18163—Lane change; Overtaking manoeuvres
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • B60W60/0018—Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions
    • B60W60/00188—Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions related to detected security violation of control systems, e.g. hacking of moving vehicle
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0223—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0242—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using non-visible light signals, e.g. IR or UV signals
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0255—Control of position or course in two dimensions specially adapted to land vehicles using acoustic signals, e.g. ultra-sonic singals
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0257—Control of position or course in two dimensions specially adapted to land vehicles using a radar
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0259—Control of position or course in two dimensions specially adapted to land vehicles using magnetic or electromagnetic means
    • G05D1/0263—Control of position or course in two dimensions specially adapted to land vehicles using magnetic or electromagnetic means using magnetic strips
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/028—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using a RF signal
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/0285—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using signals transmitted via a public communication network, e.g. GSM network
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0004—In digital systems, e.g. discrete-time systems involving sampling
    • B60W2050/0005—Processor details or data handling, e.g. memory registers or chip architecture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062—Adapting control system settings
    • B60W2050/0075—Automatic parameter input, automatic initialising or calibrating means
    • B60W2050/009—Priority selection
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408—Radar; Laser, e.g. lidar
    • B60W2420/42—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/54—Audio sensitive means, e.g. ultrasound
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/60—Doppler effect
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2422/00—Indexing codes relating to the special location or mounting of sensors
    • B60W2422/70—Indexing codes relating to the special location or mounting of sensors on the wheel or the tire
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/06—Direction of travel
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/10—Longitudinal speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/10—Longitudinal speed
    • B60W2520/105—Longitudinal acceleration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/12—Lateral speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/12—Lateral speed
    • B60W2520/125—Lateral acceleration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/14—Yaw
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/30—Wheel torque
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/10—Accelerator pedal position
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/12—Brake pedal position
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/18—Steering angle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/40—Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404—Characteristics
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B60W2554/801—Lateral distance
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B60W2554/80—Spatial relation or speed relative to objects
    • B60W2554/802—Longitudinal distance
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00—Input parameters relating to data
    • B60W2556/45—External transmission of data to or from the vehicle
    • B60W2556/50—External transmission of data to or from the vehicle of positioning data, e.g. GPS [Global Positioning System] data

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Electromagnetism (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Optics & Photonics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Train Traffic Observation, Control, And Security (AREA)
  • Electric Propulsion And Braking For Vehicles (AREA)

Abstract

거동 규칙 검사를 사용한 차량 작동을 위한 방법들은 차량의 제1 센서들로부터 제1 센서 데이터를 수신하고 차량의 제2 센서들로부터 제2 센서 데이터를 수신하는 단계를 포함한다. 제1 센서 데이터는 제1 궤적에 따른 차량의 작동을 나타낸다. 제2 센서 데이터는 적어도 하나의 대상체를 나타낸다. 제1 센서 데이터 및 제2 센서 데이터에 기초하여 제1 궤적이 작동의 제1 거동 규칙을 위반한다고 결정된다. 제1 거동 규칙은 제1 우선순위를 갖는다. 제어 장벽 함수들을 사용하여 다수의 대안 궤적들이 생성된다. 제1 우선순위보다 낮은 제2 우선순위를 갖는 제2 거동 규칙을 위반하는 제2 궤적이 식별된다. 제2 궤적을 식별하는 것에 응답하여, 제2 궤적에 기초하여 차량을 작동시키라는 메시지가 차량의 제어 회로로 송신된다.

Description

거동 규칙 검사를 사용한 차량 작동{VEHICLE OPERATION USING BEHAVIORAL RULE CHECKS}
이 출원은 2020년 10월 23일자로 출원된 미국 가출원 제63/105,006호 및 2021년 6월 30일자로 출원된 미국 가출원 제63/216,953호에 대한 우선권을 주장하며, 이들 각각의 전체 내용은 참고로 본원에 포함된다.
이 설명은 일반적으로 차량들의 작동에 관한 것이며, 구체적으로는 거동 규칙 검사를 사용하는 차량 작동에 관한 것이다.
초기 위치로부터 최종 목적지까지 차량을 작동시키는 것은 종종 사용자 또는 차량의 의사 결정 시스템에 초기 위치로부터 최종 목적지까지의 도로 네트워크를 통한 루트를 선택하도록 요구한다. 루트는, 최대 운전 시간을 초과하지 않는 것과 같은, 목적들을 충족시키는 것을 수반할 수 있다. 더욱이, 차량들은 교통 법규 및 운전 거동에 대한 문화적 기대치에 의해 부과되는 복잡한 명세들을 충족시킬 필요가 있을 수 있다. 따라서, 자율 주행 차량(autonomous vehicle)의 작동은 많은 결정들을 필요로 할 수 있어, 전통적인 자율 주행 운전 알고리즘들을 비실용적으로 만들 수 있다.
거동 규칙 검사를 사용하는 차량 작동을 위한 방법들, 시스템들 및 장치들이 개시된다. 일 실시예에서, 적어도 하나의 프로세서는 차량의 제1 센서 세트로부터 제1 센서 데이터를 수신하고 차량의 제2 센서 세트로부터 제2 센서 데이터를 수신한다. 제1 센서 데이터는 제1 궤적에 따른 차량의 작동을 나타낸다. 제2 센서 데이터는 적어도 하나의 대상체를 나타낸다. 적어도 하나의 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 제1 궤적이 차량의 계층적 작동 규칙 세트의 제1 거동 규칙을 위반한다고 결정한다. 제1 거동 규칙은 제1 우선순위를 갖는다. 적어도 하나의 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 차량에 대한 다수의 대안 궤적들을 생성한다. 적어도 하나의 프로세서는 다수의 대안 궤적들로부터 제2 궤적을 식별한다. 제2 궤적은 계층적 규칙 세트의 제2 거동 규칙을 위반한다. 제2 거동 규칙은 제1 우선순위보다 낮은 제2 우선순위를 갖는다. 제2 궤적을 식별하는 것에 응답하여, 적어도 하나의 프로세서는 제2 궤적에 기초하여 차량을 작동시키라는 메시지를 차량의 제어 회로로 송신한다.
일 실시예에서, 프레임워크는 일반 오프라인 프레임워크이다. 일반 오프라인 프레임워크에서, 궤적들의 통과/실패(pass/fail) 평가는 사후에 실행된다. 규칙 우선순위 구조의 보다 적은 위반에 이르게 하는 궤적을 생성하는 제어기가 발견되는 경우 주어진 궤적이 거부된다.
일 실시예에서, 프레임워크는 일반 온라인 프레임워크이다. 일반 온라인 프레임워크에서, 차량은 차량의 계층적 작동 규칙 세트를 변경하는 제한된 감지 범위를 갖는다. 제어는 이동 구간(receding horizon)(모델 예측 제어(model predictive control)) 접근법을 사용하여 생성된다.
일 실시예에서, 적어도 하나의 프로세서는 차량의 계획 회로 내에 위치한다. 적어도 하나의 프로세서는 차량의 작동 동안 제1 센서 데이터 및 제2 센서 데이터를 수신한다.
일 실시예에서, 적어도 하나의 프로세서는 제2 궤적에 기초하여 차량의 계획 회로의 동작을 조정한다. 적어도 하나의 프로세서는 차량 외부의 컴퓨터 디바이스 상에 위치한다. 적어도 하나의 프로세서는 차량의 작동 이후에 제1 센서 데이터 및 제2 센서 데이터를 수신한다.
일 실시예에서, 제1 센서 세트는 가속도계, 조향 휠 각도 센서, 휠 센서, 또는 브레이크 센서 중 적어도 하나를 포함한다. 제1 센서 데이터는 차량의 속력, 차량의 가속도, 차량의 진로(heading), 차량의 각속도, 또는 차량의 토크 중 적어도 하나를 포함한다.
일 실시예에서, 제2 센서 세트는 LiDAR, RADAR, 카메라, 마이크로폰, 적외선 센서, SONAR(sound navigation and ranging) 센서 등 중 적어도 하나를 포함한다.
일 실시예에서, 제2 센서 데이터는 적어도 하나의 대상체의 이미지, 적어도 하나의 대상체의 속력, 적어도 하나의 대상체의 가속도, 적어도 하나의 대상체와 차량 사이의 횡방향 거리 또는 다른 운동학적 데이터(kinematic data) 중 적어도 하나이다.
일 실시예에서, 적어도 하나의 프로세서는 최소 위반 계획, 모델 예측 제어, 또는 머신 러닝 중 적어도 하나를 사용하여 다수의 대안 궤적들로부터 제2 궤적을 선택하며, 이 선택은 계층적인 복수의 규칙들(hierarchical plurality of rules)에 기초한다.
일 실시예에서, 계층적 규칙 세트의 각각의 거동 규칙은 계층적 규칙 세트의 각각의 다른 거동 규칙에 대해 각자의 우선순위를 갖는다. 각자의 우선순위는 각각의 다른 거동 규칙에 대해 각각의 거동 규칙을 위반할 위험 레벨을 나타낸다.
일 실시예에서, 제1 거동 규칙을 위반하는 것은 차량과 적어도 하나의 대상체 사이의 횡방향 거리가 임계 횡방향 거리 아래로 감소하도록 차량을 작동시키는 것을 포함한다.
일 실시예에서, 제1 거동 규칙을 위반하는 것은 차량이 제한 속력을 초과하도록 차량을 작동시키는 것을 포함한다.
일 실시예에서, 제1 거동 규칙을 위반하는 것은 차량이 목적지에 도달하기 전에 정지하도록 차량을 작동시키는 것을 포함한다.
일 실시예에서, 제1 거동 규칙을 위반하는 것은 차량이 적어도 하나의 대상체와 충돌하도록 차량을 작동시키는 것을 포함한다.
일 실시예에서, 적어도 하나의 프로세서는 제2 센서 데이터에 기초하여 적어도 하나의 대상체의 경로를 결정한다. 제1 궤적이 제1 거동 규칙을 위반한다고 결정하는 것은 적어도 하나의 대상체의 경로에 더 기초한다.
이들 및 다른 양태들, 특징들, 및 구현들은 기능을 수행하기 위한 방법들, 장치들, 시스템들, 컴포넌트들, 프로그램 제품들, 수단들 또는 단계들로서, 그리고 다른 방식들로 표현될 수 있다.
이들 및 다른 양태들, 특징들, 및 구현들은, 청구항들을 포함하여, 이하의 설명으로부터 명백해질 것이다.
도 1은 하나 이상의 실시예에 따른, 자율 주행 능력(autonomous capability)을 갖는 자율 주행 차량(AV)의 예를 예시하는 블록 다이어그램이다.
도 2는 하나 이상의 실시예에 따른, 예시적인 "클라우드" 컴퓨팅 환경을 예시하는 블록 다이어그램이다.
도 3은 하나 이상의 실시예에 따른, 컴퓨터 시스템을 예시하는 블록 다이어그램이다.
도 4는 하나 이상의 실시예에 따른, AV에 대한 예시적인 아키텍처를 예시하는 블록 다이어그램이다.
도 5는 하나 이상의 실시예에 따른, 인지 모듈에 의해 사용될 수 있는 입력들 및 출력들의 예를 예시하는 블록 다이어그램이다.
도 6은 하나 이상의 실시예에 따른, LiDAR 시스템의 예를 예시하는 블록 다이어그램이다.
도 7은 하나 이상의 실시예에 따른, 작동 중인 LiDAR 시스템을 예시하는 블록 다이어그램이다.
도 8은 하나 이상의 실시예에 따른, LiDAR 시스템의 작동을 추가적으로 상세히 예시하는 블록 다이어그램이다.
도 9는 하나 이상의 실시예에 따른, 계획 모듈의 입력들과 출력들 사이의 관계들을 예시하는 블록 다이어그램이다.
도 10은 하나 이상의 실시예에 따른, 경로 계획에서 사용되는 방향 그래프(directed graph)를 예시한다.
도 11은 하나 이상의 실시예에 따른, 제어 모듈의 입력들과 출력들을 예시하는 블록 다이어그램이다.
도 12는 하나 이상의 실시예에 따른, 제어기의 입력들, 출력들, 및 컴포넌트들을 예시하는 블록 다이어그램이다.
도 13a는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 시나리오를 예시한다.
도 13b는 하나 이상의 실시예에 따른, 예시적인 계층적 규칙 세트를 예시한다.
도 14는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다.
도 15는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다.
도 16은 하나 이상의 실시예에 따른, 차량에 대한 거동 규칙 검사를 수행하는 예를 예시한다.
도 17은 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다.
도 18은 하나 이상의 실시예에 따른, 차량에 대한 거동 규칙 검사를 수행하는 것의 예시적인 출력을 예시한다.
도 19는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다.
도 20은 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동을 위한 예시적인 계층적 규칙 세트를 예시한다.
이하의 설명에서는, 설명 목적으로, 본 발명에 대한 완전한 이해를 제공하기 위해 다수의 특정 세부 사항들이 기재된다. 그렇지만, 본 발명이 이러한 특정 세부 사항들이 없더라도 실시될 수 있음이 명백할 것이다. 다른 경우에, 잘 알려진 구조들 및 디바이스들은 본 발명을 불필요하게 모호하게 하는 것을 피하기 위하여 블록 다이어그램 형태로 도시되어 있다.
도면들에, 설명의 용이성을 위해, 디바이스들, 모듈들, 명령어 블록들 및 데이터 요소들을 나타내는 것들과 같은, 개략적인 요소들의 특정 배열들 또는 순서들이 도시되어 있다. 그렇지만, 본 기술 분야의 통상의 기술자라면, 도면들에서의 개략적인 요소들의 특정 순서 또는 배열이 프로세싱의 특정 순서 또는 시퀀스, 또는 프로세스들의 분리가 요구됨을 암시하는 것으로 의미되지 않는다는 점을 이해할 것이다. 게다가, 도면에 개략적인 요소를 포함시키는 것은, 그러한 요소가 모든 실시예들에서 필요하다는 것을 암시하는 것으로 의미되지 않거나, 또는 그러한 요소에 의해 표현되는 특징들이 일 실시예에서 포함되지 않을 수 있거나 다른 요소들과 조합되지 않을 수 있음을 암시하는 것으로 의미되지 않는다.
게다가, 도면들에서, 2 개 이상의 다른 개략적인 요소 사이의 연결, 관계 또는 연관을 예시하기 위해 실선 또는 파선 또는 화살표와 같은 연결 요소들이 사용되는 경우에, 임의의 그러한 연결 요소들의 부재는 연결, 관계 또는 연관이 존재하지 않을 수 있음을 암시하는 것으로 의미되지 않는다. 환언하면, 요소들 사이의 일부 연결들, 관계들 또는 연관들은 본 개시를 모호하게 하지 않기 위해 도면들에 도시되어 있지 않다. 추가적으로, 예시의 용이성을 위해, 요소들 사이의 다수의 연결들, 관계들 또는 연관들을 나타내기 위해 단일의 연결 요소가 사용된다. 예를 들어, 연결 요소가 신호들, 데이터 또는 명령어들의 통신을 나타내는 경우에, 본 기술 분야의 통상의 기술자라면 그러한 요소가, 통신을 수행하기 위해 필요로 할 수 있는, 하나 또는 다수의 신호 경로(예를 들면, 버스)를 나타낸다는 것을 이해할 것이다.
그 예가 첨부 도면들에 예시되어 있는 실시예들이 이제 상세하게 언급될 것이다. 이하의 상세한 설명에서, 다양한 기술된 실시예들에 대한 완전한 이해를 제공하기 위해 많은 특정 세부 사항들이 기재된다. 그렇지만, 다양한 기술된 실시예들이 이러한 특정 세부 사항들이 없더라도 실시될 수 있다는 것이 본 기술 분야의 통상의 기술자에게 명백할 것이다. 다른 경우에, 실시예들의 양태들을 불필요하게 모호하게 하지 않기 위해 잘 알려진 방법들, 절차들, 컴포넌트들, 회로들, 및 네트워크들은 상세히 기술되지 않았다.
각각이 서로 독립적으로 또는 다른 특징들의 임의의 조합과 함께 사용될 수 있는 여러 특징들이 이하에서 기술된다. 그렇지만, 임의의 개별 특징은 위에서 논의된 문제들 중 어떤 것도 해결할 수 없거나 또는 위에서 논의된 문제들 중 하나만을 해결할 수 있다. 위에서 논의된 문제들 중 일부가 본원에 기술된 특징들 중 임의의 것에 의해 완전히 해결되지는 않을 수 있다. 비록 여러 표제들이 제공되어 있더라도, 특정 표제에 관련되지만 해당 표제를 갖는 섹션에서 발견되지는 않는 정보가 본 설명의 다른 곳에서 발견될 수도 있다. 실시예들은 이하의 개요에 따라 본원에 기술되어 있다:
1. 일반적 개관
2. 시스템 개관
3. 자율 주행 차량 아키텍처
4. 자율 주행 차량 입력들
5. 자율 주행 차량 계획
6. 자율 주행 차량 제어
7. 거동 규칙 검사를 사용한 자율 주행 차량 작동
일반적 개관
이 문서는 거동 규칙 검사를 사용한 차량 작동을 위한 방법들, 시스템들 및 장치들을 제시한다. 도로 안전은 2020년에 전 세계적으로 100만 명이 넘는 도로 교통 사망자수를 갖는 주요 공중 보건 문제이며, 현재 미국에서 손실 수명 연수(years of life lost)별 일곱 번째 주요 사망 원인이다. 본원에 개시된 실시예들은 머신 운전자의 성능을 평가하고, 위험 요인들을 평가하며, AV 시스템 또는, 모션 계획 모듈과 같은, 서브시스템의 궤적 생성 능력을 평가하기 위해 규칙 기반 검사를 구현한다. 여기에 개시된 거동 기반 운전 평가의 구현들은 더 적은 수의 위반들을 결과했을 수 있는 대안 경로가 특정 규칙들을 위반한 자율 주행 차량에 이용 가능했는지 여부를 결정하는 것에 기초한다. 규칙들은 안전 고려 사항들, 교통 법규들, 또는 통상적으로 용인되는 모범 사례들로부터 도출된다. 운전 규칙 공식화는, 자동화된 시스템에 의한, 실제 운전이 바람직한 운전 거동들과 어떻게 매칭하는지를 정량적으로 평가하는 데 사용된다.
본원에 기술된 실시예들의 장점들 및 이점들은 전통적인 방법들에 비해 자동화된 차량 시스템들에 대한 운전 성능의 개선된 평가를 포함한다. 실시예들을 사용하여, 특정 자율 주행 운전 거동들이 보다 효율적으로 평가될 수 있다. 제어 장벽 함수들을 사용하여 구현되는 규칙 기반 제어 접근법은 궤적 검사기로서 실시간 평가를 위해 자율 주행 차량 상에서 실행하기 위해서뿐만 아니라 자동화된 "사후" 최적 제어 평가를 위해 사용될 수 있다. 구현들이 계산 복잡도를 감소시켰기 때문에, 개시된 실시예들은 또한 규칙 기반 플래너 또는 제어기로서 자율 주행 차량 상에서 실시간으로 구현될 수 있다.
본 명세서에 개시된 실시예들의 추가의 장점들 및 이점들은 불합리한 기대치들이 자율 주행 차량에 대해 시행되지 않도록 대안 궤적들을 고려하는 것을 포함한다. 규칙서들이 시나리오 및 기술에 무관하기 않기 때문에, 규칙서는 수많은 시나리오들, 상이한 자율 주행 차량 스택 빌드들, 상이한 센서 구성들 및 상이한 플래너 알고리즘들에 사용될 수 있다. 개시된 실시예들은 자율 주행 차량 구현을 보다 확장 가능하게 만들고 테스트 평가기에 의한 재량적 판단(judgment call)을 제거한다. 더욱이, 실시예들은 특정 AV 거동들을 점점 더 요구하고 있는 다양한 규제 및 표준 프로세스들을 알리고 훌륭한 AV 운전 거동들을 정의하는 것에 대한 산업 협력을 조성할 수 있다.
시스템 개관
도 1은 하나 이상의 실시예에 따른, 자율 주행 능력을 갖는 자율 주행 차량(100)의 예를 예시하는 블록 다이어그램이다.
본원에서 사용되는 바와 같이, "자율 주행 능력"이라는 용어는, 완전 자율 주행 차량, 고도 자율 주행 차량, 및 조건부 자율 주행 차량을 제한 없이 포함하는, 실시간 인간 개입 없이 차량이 부분적으로 또는 완전하게 작동할 수 있게 하는 기능, 특징, 또는 설비를 지칭한다.
본원에서 사용되는 바와 같이, 자율 주행 차량(AV)은 자율 주행 능력을 갖는 차량이다.
본원에서 사용되는 바와 같이, "차량"은 상품 또는 사람의 운송 수단을 포함한다. 예를 들어, 자동차, 버스, 기차, 비행기, 드론, 트럭, 보트, 선박, 잠수함, 비행선 등. 무인 자동차는 차량의 예이다.
본원에서 사용되는 바와 같이, "궤적"은 제1 시공간적 위치로부터 제2 시공간적 위치로 AV를 작동시키는 경로 또는 루트를 지칭한다. 일 실시예에서, 제1 시공간적 위치는 초기 또는 시작 위치라고 지칭되고 제2 시공간적 위치는 목적지, 최종 위치, 목표, 목표 위치, 또는 목표 장소라고 지칭된다. 일부 예들에서, 궤적은 하나 이상의 세그먼트(예를 들면, 도로 섹션)로 구성되고, 각각의 세그먼트는 하나 이상의 블록(예를 들면, 차선 또는 교차로의 부분)으로 구성된다. 일 실시예에서, 시공간적 위치들은 현실 세계 위치들에 대응한다. 예를 들어, 시공간적 위치들은 사람을 태우거나 내려주고 또는 상품을 싣거나 내리는 픽업(pick up) 위치 또는 드롭 오프(drop-off) 위치이다.
본원에서 사용되는 바와 같이, "센서(들)"는 센서를 둘러싸는 환경에 관한 정보를 검출하는 하나 이상의 하드웨어 컴포넌트를 포함한다. 하드웨어 컴포넌트들 중 일부는 감지 컴포넌트들(예를 들면, 이미지 센서들, 생체 측정 센서들), 송신 및/또는 수신 컴포넌트들(예를 들면, 레이저 또는 무선 주파수 파 송신기들 및 수신기들), 아날로그 대 디지털 변환기들과 같은 전자 컴포넌트들, 데이터 저장 디바이스(예컨대, RAM 및/또는 비휘발성 스토리지), 소프트웨어 또는 펌웨어 컴포넌트들, 및 ASIC(application-specific integrated circuit), 마이크로프로세서 및/또는 마이크로컨트롤러와 같은 데이터 프로세싱 컴포넌트들을 포함할 수 있다.
본원에서 사용되는 바와 같이, "장면 묘사(scene description)"는 AV 차량 상의 하나 이상의 센서에 의해 검출되거나 AV 외부의 소스에 의해 제공되는 하나 이상의 분류된 또는 라벨링된 대상체를 포함하는 데이터 구조(예를 들면, 리스트) 또는 데이터 스트림이다.
본원에서 사용되는 바와 같이, "도로"는 차량에 의해 횡단될 수 있는 물리적 영역이고, 명명된 주요 도로(예를 들면, 도시 거리, 주간 프리웨이(interstate freeway) 등)에 대응할 수 있거나, 또는 명명되지 않은 주요 도로(예를 들면, 주택 또는 사무실 건물에서의 사유 도로(driveway), 주차장의 섹션, 공터의 섹션, 시골 지역에의 비포장 경로 등)에 대응할 수 있다. 일부 차량들(예를 들면, 4륜 구동 픽업 트럭들, 스포츠 유틸리티 차량들 등)은 차량 주행에 특히 적합하지 않은 다양한 물리적 영역들을 횡단할 수 있기 때문에, "도로"는 임의의 지자체 또는 다른 정부 또는 행정처에 의해 주요 도로로서 공식적으로 규정되지 않은 물리적 영역일 수 있다.
본원에서 사용되는 바와 같이, "차선"은 차량에 의해 횡단될 수 있는 도로의 한 부분이고, 차선 마킹들 사이의 공간의 대부분 또는 전부에 대응할 수 있거나, 또는 차선 마킹들 사이의 공간의 단지 일부(예를 들면, 50% 미만)에 대응할 수 있다. 예를 들어, 멀리 이격된 차선 마킹들을 갖는 도로는 차선 마킹들 사이에 둘 이상의 차량을 수용할 수 있어서, 하나의 차량이 차선 마킹들을 횡단하지 않으면서 다른 차량을 추월할 수 있고, 따라서 차선 마킹들 사이의 공간보다 더 좁은 차선을 갖거나 차선 마킹들 사이에 2 개의 차선을 갖는 것으로 해석될 수 있다. 차선은 차선 마킹들의 부재 시에도 해석될 수 있다. 예를 들어, 차선은 환경의 물리적 특징들, 예를 들면, 시골 지역에서의 주요 도로를 따라 있는 바위들 및 나무들에 기초하여 규정될 수 있다.
"하나 이상"은 하나의 요소에 의해 수행되는 기능, 둘 이상의 요소에 의해, 예를 들어, 분산 방식으로, 수행되는 기능, 하나의 요소에 의해 수행되는 여러 기능들, 여러 요소들에 의해 수행되는 여러 기능들, 또는 이들의 임의의 조합을 포함한다.
제1, 제2 등의 용어들이, 일부 경우에, 다양한 요소들을 기술하기 위해 본원에서 사용되고 있지만, 이러한 요소들이 이러한 용어들에 의해 제한되지 않아야 한다는 것이 또한 이해될 것이다. 이러한 용어들은 하나의 요소를 다른 요소와 구별하는 데만 사용된다. 예를 들어, 다양한 기술된 실시예들의 범위를 벗어나지 않으면서, 제1 접촉은 제2 접촉이라고 지칭될 수 있고, 유사하게 제2 접촉은 제1 접촉이라고 지칭될 수 있다. 제1 접촉과 제2 접촉은 둘 모두 접촉이지만, 동일한 접촉은 아니다.
본원에 기술된 다양한 실시예들에 대한 설명에서 사용되는 전문용어는 단지 특정한 실시예들을 기술하기 위한 것이며, 제한하는 것으로 의도되지 않는다. 다양한 기술된 실시예들에 대한 설명 및 첨부된 청구항들에서 사용되는 바와 같이, 단수 형태들(“a,” “an” 및 “the”)은, 문맥이 달리 명확히 나타내지 않는 한, 복수 형태들도 포함하는 것으로 의도된다. "및/또는"이라는 용어가, 본원에서 사용되는 바와 같이, 연관된 열거된 항목들 중 하나 이상의 항목의 임의의 및 모든 가능한 조합들을 지칭하고 포괄한다는 것이 또한 이해될 것이다. 게다가, "포함한다" 및/또는 "포함하는"이라는 용어들은, 본 설명에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 요소들, 및/또는 컴포넌트들의 존재를 명시하지만, 하나 이상의 다른 특징, 정수, 단계, 동작, 요소, 컴포넌트, 및/또는 그 그룹의 존재 또는 추가를 배제하지 않는다는 것이 이해될 것이다.
본원에서 사용되는 바와 같이, "~ 경우"라는 용어는, 선택적으로, 문맥에 따라 "~할 때", 또는 "~시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "~을 검출하는 것에 응답하여"를 의미하는 것으로 해석된다. 마찬가지로, 문구 "~라고 결정되는 경우" 또는 "[언급된 조건 또는 이벤트]가 검출되는 경우"는, 선택적으로, 문맥에 따라, "~라고 결정할 시에" 또는 "~라고 결정하는 것에 응답하여" 또는 "[언급된 조건 또는 이벤트]를 검출할 시에" 또는 "[언급된 조건 또는 이벤트]를 검출하는 것에 응답하여"를 의미하는 것으로 해석된다.
본원에서 사용되는 바와 같이, AV 시스템은 AV의 작동을 지원하는 하드웨어, 소프트웨어, 저장된 데이터 및 실시간으로 생성되는 데이터의 어레이와 함께 AV를 지칭한다. 일 실시예에서, AV 시스템은 AV 내에 포함된다. 일 실시예에서, AV 시스템은 여러 위치들에 걸쳐 확산되어 있다. 예를 들어, AV 시스템의 소프트웨어 중 일부는 도 3과 관련하여 아래에서 기술되는 클라우드 컴퓨팅 환경(300)과 유사한 클라우드 컴퓨팅 환경에 구현된다.
일반적으로, 본원은 완전 자율 주행 차량, 고도 자율 주행 차량, 및 조건부 자율 주행 차량, 예컨대, 제각기, 소위 레벨 5 차량, 레벨 4 차량 및 레벨 3 차량을 포함하는 하나 이상의 자율 주행 능력을 갖는 임의의 차량에 적용 가능한 기술들을 개시한다(차량의 자율성의 레벨 분류에 대한 세부 사항은 그 전체가 참고로 포함된, SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의(Taxonomy and Definitions for Terms Related to On-128-172020-02-28 Road Motor Vehicle Automated Driving Systems) 참조). 본 문서에서 설명된 기술들은 또한 부분적 자율 주행 차량 및 운전자 보조 차량, 예컨대, 소위 레벨 2 차량 및 레벨 1 차량에도 적용 가능하다(SAE 국제 표준 J3016: 온로드 자동차 자동 운전 시스템에 관한 용어의 분류 및 정의 참조). 일 실시예에서, 레벨 1, 레벨 2, 레벨 3, 레벨 4 및 레벨 5 차량 시스템들 중 하나 이상은 센서 입력들의 프로세싱에 기초하여 특정 작동 조건들 하에서 특정 차량 작동들(예를 들면, 조향, 제동, 및 맵 사용)을 자동화할 수 있다. 본 문서에서 설명된 기술들은, 완전 자율 주행 차량으로부터 인간 운전 차량에 이르는, 임의의 레벨들에 있는 차량들에 혜택을 줄 수 있다.
도 1을 참조하면, AV 시스템(120)은, 대상체들(예를 들면, 자연 장애물들(191), 차량들(193), 보행자들(192), 자전거 타는 사람들, 및 다른 장애물들)을 피하고 도로 규칙들(예를 들면, 운영 규칙들 또는 운전 선호사항들)을 준수하면서, AV(100)를 궤적(198)을 따라 환경(190)을 통과하여 목적지(199)(때때로 최종 위치라고 지칭됨)로 작동시킨다.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서들(146)로부터 작동 커맨드들을 수신하고 이에 따라 작동하도록 설비된 디바이스들(101)을 포함한다. 일 실시예에서, 컴퓨팅 프로세서들(146)은 도 3을 참조하여 아래에서 기술되는 프로세서(304)와 유사하다. 디바이스들(101)의 예들은 조향 컨트롤(102), 브레이크(103), 기어, 액셀러레이터 페달 또는 다른 가속 제어 메커니즘, 윈드실드 와이퍼, 사이드 도어 록, 윈도 컨트롤, 및 방향 지시등을 포함한다.
일 실시예에서, AV 시스템(120)은, AV의 위치, 선속도 및 선가속도, 각속도 및 각가속도, 및 진로(예를 들면, AV(100)의 선단의 배향)과 같은, AV(100)의 상태 또는 조건의 속성들을 측정 또는 추론하기 위한 센서들(121)을 포함한다. 센서들(121)의 예들은 GNSS, 차량 선가속도 및 각도 변화율(angular rate) 둘 모두를 측정하는 관성 측정 유닛들(IMU), 휠 슬립률(wheel slip ratio)을 측정 또는 추정하기 위한 휠 센서들, 휠 브레이크 압력 또는 제동 토크 센서들, 엔진 토크 또는 휠 토크 센서들, 그리고 조향각 및 각도 변화율 센서들이다.
일 실시예에서, 센서들(121)은 AV의 환경의 속성들을 감지 또는 측정하기 위한 센서들을 또한 포함한다. 예를 들어, 가시 광, 적외선 또는 열(또는 둘 모두) 스펙트럼의 단안 또는 스테레오 비디오 카메라들(122), LiDAR(123), RADAR, 초음파 센서들, 비행 시간(time-of-flight, TOF) 깊이 센서들, 속력 센서들, 온도 센서들, 습도 센서들, 및 강수 센서들.
일 실시예에서, AV 시스템(120)은 컴퓨터 프로세서들(146)과 연관된 머신 명령어들 또는 센서들(121)에 의해 수집되는 데이터를 저장하기 위한 데이터 저장 유닛(142) 및 메모리(144)를 포함한다. 일 실시예에서, 데이터 저장 유닛(142)은 도 3과 관련하여 아래에서 기술되는 ROM(308) 또는 저장 디바이스(310)와 유사하다. 일 실시예에서, 메모리(144)는 아래에서 기술되는 메인 메모리(306)와 유사하다. 일 실시예에서, 데이터 저장 유닛(142) 및 메모리(144)는 환경(190)에 관한 과거 정보, 실시간 정보, 및/또는 예측 정보를 저장한다. 일 실시예에서, 저장된 정보는 맵들, 운전 수행, 교통 혼잡 업데이트들 또는 기상 조건들을 포함한다. 일 실시예에서, 환경(190)에 관련된 데이터는 원격에 위치하는 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신된다.
일 실시예에서, AV 시스템(120)은 다른 차량의 상태들 및 조건들, 예컨대, 위치, 선속도와 각속도, 선가속도와 각가속도, 및 AV(100)를 향한 선형 진로(linear heading)와 각도 진로(angular heading)의 측정된 또는 추론된 속성들을 통신하기 위한 통신 디바이스들(140)을 포함한다. 이러한 디바이스들은 V2V(Vehicle-to-Vehicle) 및 V2I(Vehicle-to-Infrastructure) 통신 디바이스들 및 포인트 투 포인트(point-to-point) 네트워크 또는 애드혹(ad hoc) 네트워크 또는 둘 모두를 통한 무선 통신을 위한 디바이스들을 포함한다. 일 실시예에서, 통신 디바이스들(140)은 (무선 및 광학 통신을 포함하는) 전자기 스펙트럼 또는 다른 매체(예를 들면, 공기 및 음향 매체)를 통해 통신한다. V2V(Vehicle-to-Vehicle), V2I(Vehicle-to-Infrastructure) 통신(및, 일 실시예에서, 하나 이상의 다른 유형의 통신)의 조합이 때때로 V2X(Vehicle-to-Everything) 통신이라고 지칭된다. V2X 통신은 전형적으로, 자율 주행 차량들과의 통신 및 자율 주행 차량들 사이의 통신을 위한 하나 이상의 통신 표준을 준수한다.
일 실시예에서, 통신 디바이스들(140)은 통신 인터페이스들을 포함한다. 예를 들어, 유선, 무선, WiMAX, Wi-Fi, 블루투스, 위성, 셀룰러, 광학, 근거리(near field), 적외선, 또는 무선(radio) 인터페이스들. 통신 인터페이스들은 원격에 위치하는 데이터베이스(134)로부터 AV 시스템(120)으로 데이터를 송신한다. 일 실시예에서, 원격에 위치하는 데이터베이스(134)는 도 2에 기술된 바와 같은 클라우드 컴퓨팅 환경(200)에 내장된다. 통신 인터페이스들(140)은 센서들(121)로부터 수집되는 데이터 또는 AV(100)의 작동에 관련된 다른 데이터를 원격에 위치하는 데이터베이스(134)로 송신한다. 일 실시예에서, 통신 인터페이스들(140)은 원격 작동(teleoperation)에 관련되는 정보를 AV(100)로 송신한다. 일 실시예에서, AV(100)는 다른 원격(예를 들면, "클라우드") 서버들(136)과 통신한다.
일 실시예에서, 원격에 위치된 데이터베이스(134)는 또한 디지털 데이터를 저장 및 송신한다(예를 들면, 도로 및 거리 위치들과 같은 데이터를 저장함). 그러한 데이터는 AV(100) 상의 메모리(144)에 저장되거나, 원격에 위치하는 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신된다.
일 실시예에서, 원격에 위치하는 데이터베이스(134)는 유사한 하루 중 시간(time of day)에 궤적(198)을 따라 이전에 주행했던 차량들의 운전 속성들(예를 들면, 속력 프로파일 및 가속도 프로파일)에 관한 과거 정보를 저장 및 송신한다. 일 구현예에서, 그러한 데이터는 AV(100) 상의 메모리(144)에 저장될 수 있거나, 또는 원격에 위치하는 데이터베이스(134)로부터 통신 채널을 통해 AV(100)로 송신될 수 있다.
AV(100) 상에 위치하는 컴퓨팅 디바이스들(146)은 실시간 센서 데이터 및 사전 정보(prior information) 둘 모두에 기초하여 제어 액션들을 알고리즘적으로 생성하여, AV 시스템(120)이 그의 자율 주행 운전 능력을 실행할 수 있게 한다.
일 실시예에서, AV 시스템(120)은 AV(100)의 사용자(예를 들면, 탑승자 또는 원격 사용자)에게 정보 및 경고들을 제공하고 그로부터 입력을 수신하기 위한, 컴퓨팅 디바이스들(146)에 결합된 컴퓨터 주변기기들(132)을 포함한다. 일 실시예에서, 주변기기들(132)은 도 3을 참조하여 아래에서 논의되는 디스플레이(312), 입력 디바이스(314), 및 커서 컨트롤러(316)와 유사하다. 결합은 무선 또는 유선이다. 인터페이스 디바이스들 중 임의의 둘 이상이 단일 디바이스에 통합될 수 있다.
예시적인 클라우드 컴퓨팅 환경
도 2는 하나 이상의 실시예에 따른, 예시적인 "클라우드" 컴퓨팅 환경을 예시하는 블록 다이어그램이다. 클라우드 컴퓨팅은 구성 가능한 컴퓨팅 리소스들(예를 들면, 네트워크들, 네트워크 대역폭, 서버들, 프로세싱, 메모리, 스토리지, 애플리케이션들, 가상 머신들, 및 서비스들)의 공유 풀에 대한 편리한 온 디맨드 네트워크 액세스를 가능하게 하기 위한 서비스 전달(service delivery)의 일 모델이다. 전형적인 클라우드 컴퓨팅 시스템들에서는, 하나 이상의 대규모 클라우드 데이터 센터가 클라우드에 의해 제공되는 서비스들을 전달하는 데 사용되는 머신들을 수용한다. 이제 도 2를 참조하면, 클라우드 컴퓨팅 환경(200)은 클라우드(202)를 통해 상호연결되는 클라우드 데이터 센터들(204a, 204b 및 204c)을 포함한다. 데이터 센터들(204a, 204b 및 204c)은 클라우드 컴퓨팅 서비스들을 클라우드(202)에 연결된 컴퓨터 시스템들(206a, 206b, 206c, 206d, 206e 및 206f)에 제공한다.
클라우드 컴퓨팅 환경(200)은 하나 이상의 클라우드 데이터 센터를 포함한다. 일반적으로, 클라우드 데이터 센터, 예를 들어, 도 2에 도시된 클라우드 데이터 센터(204a)는 클라우드, 예를 들어, 도 2에 도시된 클라우드(202) 또는 클라우드의 특정 부분을 구성하는 서버들의 물리적 배열을 지칭한다. 예를 들어, 서버들은 클라우드 데이터 센터 내에 룸, 그룹, 로우(row), 및 랙(rack)으로 물리적으로 배열된다. 클라우드 데이터 센터는 하나 이상의 서버 룸을 포함하는 하나 이상의 구역(zone)을 갖는다. 각각의 룸은 하나 이상의 서버 로우를 가지며, 각각의 로우는 하나 이상의 랙을 포함한다. 각각의 랙은 하나 이상의 개별 서버 노드를 포함한다. 어떤 구현예에서, 구역, 룸, 랙, 및/또는 로우 내의 서버들은, 전력 요구사항, 에너지 요구사항, 열적 요구사항, 가열 요구사항, 및/또는 다른 요구사항들을 포함하는, 데이터 센터 설비의 물리적 인프라스트럭처 요구사항들에 기초하여 그룹들로 배열된다. 일 실시예에서, 서버 노드들은 도 3에서 기술된 컴퓨터 시스템과 유사하다. 데이터 센터(204a)는 많은 랙들을 통해 분산된 많은 컴퓨팅 시스템들을 갖는다.
클라우드(202)는 클라우드 데이터 센터들(204a, 204b, 및 204c)을 상호연결시키고 클라우드 컴퓨팅 서비스들에 대한 컴퓨팅 시스템들(206a 내지 206f)의 액세스를 용이하게 하는 것을 돕는 네트워크 및 네트워킹 리소스들(예를 들어, 네트워킹 장비, 노드들, 라우터들, 스위치들, 및 네트워킹 케이블들)과 함께 클라우드 데이터 센터들(204a, 204b 및 204c)을 포함한다. 일 실시예에서, 네트워크는 지상 또는 위성 연결들을 사용하여 배포된 유선 또는 무선 링크들을 사용하여 결합되는 하나 이상의 로컬 네트워크, 광역 네트워크, 또는 인터네트워크의 임의의 조합을 나타낸다. 네트워크를 통해 교환되는 데이터는, IP(Internet Protocol), MPLS(Multiprotocol Label Switching), ATM(Asynchronous Transfer Mode), 및 프레임 릴레이 등과 같은, 임의의 수의 네트워크 계층 프로토콜들을 사용하여 전송된다. 게다가, 네트워크가 다수의 서브 네트워크들의 조합을 나타내는 실시예들에서, 기저 서브 네트워크들(underlying sub-networks) 각각에서 상이한 네트워크 계층 프로토콜들이 사용된다. 일 실시예에서, 네트워크는, 공중 인터넷과 같은, 하나 이상의 상호연결된 인터네트워크를 나타낸다.
컴퓨팅 시스템들(206a 내지 206f) 또는 클라우드 컴퓨팅 서비스 소비자들은 네트워크 링크들 및 네트워크 어댑터들을 통해 클라우드(202)에 연결된다. 일 실시예에서, 컴퓨팅 시스템들(206a 내지 206f)은 다양한 컴퓨팅 디바이스들, 예를 들어, 서버, 데스크톱, 랩톱, 태블릿, 스마트폰, IoT(Internet of Things) 디바이스, 자율 주행 차량(자동차, 드론, 셔틀, 기차, 버스 등을 포함함) 및 소비자 전자기기로서 구현된다. 일 실시예에서, 컴퓨팅 시스템들(206a 내지 206f)은 다른 시스템들 내에 또는 그 일부로서 구현된다.
컴퓨터 시스템
도 3은 하나 이상의 실시예에 따른, 컴퓨터 시스템(300)을 예시하는 블록 다이어그램이다. 일 구현예에서, 컴퓨터 시스템(300)은 특수 목적 컴퓨팅 디바이스이다. 특수 목적 컴퓨팅 디바이스는 기술들을 수행하도록 고정 배선(hard-wired)되거나, 또는 기술들을 수행하도록 영속적으로 프로그래밍되어 있는 하나 이상의 ASIC(application-specific integrated circuit) 또는 FPGA(field programmable gate array)와 같은 디지털 전자 디바이스들을 포함하거나, 또는 펌웨어, 메모리, 다른 스토리지 또는 그 조합 내의 프로그램 명령어들에 따라 기술들을 수행하도록 프로그래밍되어 있는 하나 이상의 범용 하드웨어 프로세서를 포함할 수 있다. 그러한 특수 목적 컴퓨팅 디바이스들은 또한 커스텀 고정 배선 로직, ASIC들, 또는 FPGA들을 커스텀 프로그래밍과 조합하여 기술들을 달성할 수 있다. 다양한 실시예들에서, 특수 목적 컴퓨팅 디바이스들은 기술들을 구현하기 위한 고정 배선 및/또는 프로그램 로직을 포함하는 데스크톱 컴퓨터 시스템들, 휴대용 컴퓨터 시스템들, 핸드헬드 디바이스들, 네트워크 디바이스들, 또는 임의의 다른 디바이스이다.
일 실시예에서, 컴퓨터 시스템(300)은 정보를 통신하기 위한 버스(302) 또는 다른 통신 메커니즘, 및 정보를 프로세싱하기 위한, 버스(302)와 결합된 하드웨어 프로세서(304)를 포함한다. 하드웨어 프로세서(304)는, 예를 들어, 범용 마이크로프로세서이다. 컴퓨터 시스템(300)은 프로세서(304)에 의해 실행될 명령어들 및 정보를 저장하기 위한, 버스(302)에 결합된 메인 메모리(306), 예컨대, RAM(random access memory) 또는 다른 동적 저장 디바이스를 또한 포함한다. 일 구현예에서, 메인 메모리(306)는 프로세서(304)에 의해 실행될 명령어들의 실행 동안 임시 변수들 또는 다른 중간 정보를 저장하는 데 사용된다. 그러한 명령어들은, 프로세서(304)에 의해 액세스 가능한 비일시적 저장 매체에 저장되어 있을 때, 컴퓨터 시스템(300)을 명령어들에 명시된 동작들을 수행하도록 커스터마이징되는 특수 목적 머신으로 만든다.
일 실시예에서, 컴퓨터 시스템(300)은, 프로세서(304)에 대한 명령어들 및 정적 정보를 저장하기 위한, 버스(302)에 결합된 ROM(read only memory)(308) 또는 다른 정적 저장 디바이스를 더 포함한다. 정보 및 명령어들을 저장하기 위한, 자기 디스크, 광학 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리와 같은, 저장 디바이스(310)가 제공되고 버스(302)에 결합된다.
일 실시예에서, 컴퓨터 시스템(300)은 정보를 컴퓨터 사용자에게 디스플레이하기 위한 CRT(cathode ray tube), LCD(liquid crystal display), 플라스마 디스플레이, LED(light emitting diode) 디스플레이, 또는 OLED(organic light emitting diode) 디스플레이와 같은 디스플레이(312)에 버스(302)를 통해 결합된다. 정보 및 커맨드 선택들을 프로세서(304)로 통신하기 위한 문자 숫자식 키 및 다른 키를 포함하는 입력 디바이스(314)가 버스(302)에 결합된다. 다른 유형의 사용자 입력 디바이스는 방향 정보 및 커맨드 선택들을 프로세서(304)에 통신하고 디스플레이(312) 상에서의 커서 움직임을 제어하기 위한, 마우스, 트랙볼, 터치식 디스플레이, 또는 커서 방향 키들과 같은, 커서 컨트롤러(316)이다. 이러한 입력 디바이스는 전형적으로, 디바이스가 평면에서의 위치들을 명시할 수 있게 하는 2 개의 축, 즉 제1 축(예를 들면, x 축) 및 제2 축(예를 들면, y 축)에서의 2 자유도를 갖는다.
일 실시예에 따르면, 본원에서의 기술들은 프로세서(304)가 메인 메모리(306)에 포함된 하나 이상의 명령어의 하나 이상의 시퀀스를 실행하는 것에 대한 응답으로 컴퓨터 시스템(300)에 의해 수행된다. 그러한 명령어들은, 저장 디바이스(310)와 같은, 다른 저장 매체로부터 메인 메모리(306) 내로 판독된다. 메인 메모리(306)에 포함된 명령어 시퀀스들의 실행은 프로세서(304)로 하여금 본원에 기술된 프로세스 단계들을 수행하게 한다. 대안적인 실시예들에서, 소프트웨어 명령어들 대신에 또는 소프트웨어 명령어들과 조합하여 고정 배선 회로가 사용된다.
"저장 매체"라는 용어는, 본원에서 사용되는 바와 같이, 머신으로 하여금 특정 방식으로 작동하게 하는 명령어들 및/또는 데이터를 저장하는 임의의 비일시적 매체를 지칭한다. 그러한 저장 매체는 비휘발성 매체 및/또는 휘발성 매체를 포함한다. 비휘발성 매체는, 예를 들어, 광학 디스크, 자기 디스크, 솔리드 스테이트 드라이브, 또는 3차원 크로스 포인트 메모리, 예컨대, 저장 디바이스(310)를 포함한다. 휘발성 매체는 동적 메모리, 예컨대, 메인 메모리(306)를 포함한다. 통상적인 형태의 저장 매체는, 예를 들어, 플로피 디스크, 플렉서블 디스크, 하드 디스크, 솔리드 스테이트 드라이브, 자기 테이프, 또는 임의의 다른 자기 데이터 저장 매체, CD-ROM, 임의의 다른 광학 데이터 저장 매체, 홀 패턴들을 갖는 임의의 물리적 매체, RAM, PROM, 및 EPROM, FLASH-EPROM, NV-RAM, 또는 임의의 다른 메모리 칩, 또는 카트리지를 포함한다.
저장 매체는 송신 매체와 별개이지만 송신 매체와 함께 사용될 수 있다. 송신 매체는 저장 매체들 사이에서 정보를 전달하는 데 참여한다. 예를 들어, 송신 매체는 버스(302)를 포함하는 와이어들을 포함하여, 동축 케이블, 구리선 및 광섬유를 포함한다. 송신 매체는 또한, 전파(radio-wave) 및 적외선 데이터 통신 동안 생성되는 것과 같은, 광파 또는 음향파의 형태를 취할 수 있다.
일 실시예에서, 실행을 위해 하나 이상의 명령어의 하나 이상의 시퀀스를 프로세서(304)로 반송하는 데 다양한 형태의 매체가 관여된다. 예를 들어, 명령어들은 초기에 원격 컴퓨터의 자기 디스크 또는 솔리드 스테이트 드라이브에 보유된다. 원격 컴퓨터는 자신의 동적 메모리에 명령어들을 로딩하고 모뎀을 사용하여 전화선을 통해 명령어들을 전송한다. 컴퓨터 시스템(300)에 로컬인 모뎀은 전화선을 통해 데이터를 수신하고 적외선 송신기를 사용하여 데이터를 적외선 신호로 변환한다. 적외선 검출기는 적외선 신호로 반송되는 데이터를 수신하고 적절한 회로는 데이터를 버스(302)에 배치한다. 버스(302)는 데이터를 메인 메모리(306)로 반송하고, 프로세서(304)는 메인 메모리로부터 명령어들을 검색하여 실행한다. 메인 메모리(306)에 의해 수신되는 명령어들은 프로세서(304)에 의해 실행되기 전이나 실행된 후에 선택적으로 저장 디바이스(310)에 저장될 수 있다.
컴퓨터 시스템(300)은 버스(302)에 결합된 통신 인터페이스(318)를 또한 포함한다. 통신 인터페이스(318)는 로컬 네트워크(322)에 연결되는 네트워크 링크(320)에 대한 양방향 데이터 통신(two-way data communication) 결합을 제공한다. 예를 들어, 통신 인터페이스(318)는 ISDN(integrated service digital network) 카드, 케이블 모뎀, 위성 모뎀, 또는 대응하는 유형의 전화선에 대한 데이터 통신 연결을 제공하는 모뎀이다. 다른 예로서, 통신 인터페이스(318)는 호환 가능한 LAN(local area network)에 대한 데이터 통신 연결을 제공하기 위한 LAN 카드이다. 일부 구현예들에서, 무선 링크들이 또한 구현된다. 임의의 그러한 구현예에서, 통신 인터페이스(318)는 다양한 유형의 정보를 나타내는 디지털 데이터 스트림을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 전송 및 수신한다.
네트워크 링크(320)는 전형적으로 하나 이상의 네트워크를 통한 다른 데이터 디바이스들로의 데이터 통신을 제공한다. 예를 들어, 네트워크 링크(320)는 로컬 네트워크(322)를 통해 호스트 컴퓨터(324)에 대한 연결 또는 ISP(Internet Service Provider)(326)에 의해 운영되는 클라우드 데이터 센터 또는 장비에 대한 연결을 제공한다. ISP(326)는 차례로 지금은 "인터넷(328)"이라고 통상적으로 지칭되는 월드 와이드 패킷 데이터 통신 네트워크(world-wide packet data communication network)를 통해 데이터 통신 서비스들을 제공한다. 로컬 네트워크(322) 및 인터넷(328)는 둘 모두 디지털 데이터 스트림들을 반송하는 전기 신호, 전자기 신호, 또는 광학 신호를 사용한다. 컴퓨터 시스템(300)으로 그리고 컴퓨터 시스템(300)으로부터 디지털 데이터를 반송하는, 다양한 네트워크들을 통한 신호들 및 통신 인터페이스(318)를 통한 네트워크 링크(320) 상의 신호들은 송신 매체의 예시적인 형태들이다. 일 실시예에서, 네트워크(320)는 위에서 기술된 클라우드(202) 또는 클라우드(202)의 일부를 포함한다.
컴퓨터 시스템(300)은 네트워크(들), 네트워크 링크(320), 및 통신 인터페이스(318)를 통해 메시지들을 전송하고, 프로그램 코드를 포함한, 데이터를 수신한다. 일 실시예에서, 컴퓨터 시스템(300)은 프로세싱하기 위한 코드를 수신한다. 수신된 코드는 수신될 때 프로세서(304)에 의해 실행되고/되거나 추후 실행을 위해 저장 디바이스(310) 또는 다른 비휘발성 스토리지에 저장된다.
자율 주행 차량 아키텍처
도 4는 하나 이상의 실시예에 따른, 자율 주행 차량(예를 들면, 도 1에 도시된 AV(100))에 대한 예시적인 아키텍처(400)를 예시하는 블록 다이어그램이다. 아키텍처(400)는 인지 모듈(402)(때때로 인지 회로라고 지칭됨), 계획 모듈(404)(때때로 계획 회로라고 지칭됨), 제어 모듈(406)(때때로 제어 회로라고 지칭됨), 로컬화 모듈(408)(때때로 로컬화 회로라고 지칭됨), 및 데이터베이스 모듈(410)(때때로 데이터베이스 회로라고 지칭됨)을 포함한다. 각각의 모듈은 AV(100)의 작동에서 소정의 역할을 한다. 다함께, 모듈들(402, 404, 406, 408 및 410)은 도 1에 도시된 AV 시스템(120)의 일부일 수 있다. 일 실시예에서, 모듈들(402, 404, 406, 408, 및 410) 중 임의의 것은 컴퓨터 소프트웨어(예를 들면, 컴퓨터 판독 가능 매체에 저장된 실행 가능 코드) 및 컴퓨터 하드웨어(예를 들면, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, ASIC(application-specific integrated circuit), 하드웨어 메모리 디바이스, 다른 유형의 집적 회로, 다른 유형의 컴퓨터 하드웨어, 또는 이러한 것들 중 임의의 것 또는 전부의 조합)의 조합이다.
사용 중에, 계획 모듈(404)은 목적지(412)를 나타내는 데이터를 수신하고 목적지(412)에 도달(예를 들면, 도착)하기 위해 AV(100)에 의해 주행될 수 있는 궤적(414)(때때로 루트라고 지칭됨)을 나타내는 데이터를 결정한다. 계획 모듈(404)이 궤적(414)을 나타내는 데이터를 결정하기 위해, 계획 모듈(404)은 인지 모듈(402), 로컬화 모듈(408), 및 데이터베이스 모듈(410)로부터 데이터를 수신한다.
인지 모듈(402)은, 예를 들면, 도 1에 또한 도시된 바와 같이, 하나 이상의 센서(121)를 사용하여 인근의 물리적 대상체들을 식별한다. 대상체들은 분류되고(예를 들면, 보행자, 자전거, 자동차, 교통 표지판 등과 같은 유형들로 그룹화되고), 분류된 대상체들(416)을 포함하는 장면 묘사가 계획 모듈(404)에 제공된다.
계획 모듈(404)은 또한 AV 위치(418)를 나타내는 데이터를 로컬화 모듈(408)로부터 수신한다. 로컬화 모듈(408)은 위치를 계산하기 위해 센서들(121)로부터의 데이터 및 데이터베이스 모듈(410)로부터의 데이터(예를 들면, 지리적 데이터)를 사용하여 AV 위치를 결정한다. 예를 들어, 로컬화 모듈(408)은 GNSS(global navigation satellite system) 유닛으로부터의 데이터 및 지리적 데이터를 사용하여 AV의 경도 및 위도를 계산한다. 일 실시예에서, 로컬화 모듈(408)에 의해 사용되는 데이터는 도로 기하학적 속성들의 고정밀 맵, 도로망 연결 속성들을 기술하는 맵, 도로 물리적 속성들(예컨대, 교통 속력, 교통량, 차량 교통 차선과 자전거 타는 사람 교통 차선의 수, 차선 폭, 차선 교통 방향, 또는 차선 마커 유형 및 위치, 또는 이들의 조합)을 기술하는 맵, 및 도로 특징부, 예컨대, 횡단보도, 교통 표지판 또는 다양한 유형의 다른 주행 신호들의 공간적 위치들을 기술하는 맵을 포함한다.
제어 모듈(406)은 궤적(414)을 나타내는 데이터 및 AV 위치(418)를 나타내는 데이터를 수신하고, AV(100)로 하여금 목적지(412)로 궤적(414)을 주행하게 할 방식으로 AV의 제어 기능들(420a 내지 420c)(예를 들면, 조향, 스로틀링, 제동, 점화)을 작동시킨다. 예를 들어, 궤적(414)이 좌회전을 포함하는 경우, 제어 모듈(406)은, 조향 기능의 조향각이 AV(100)로 하여금 좌회전하게 하고 스로틀링 및 제동이 AV(100)로 하여금 이러한 회전이 이루어지기 전에 지나가는 보행자들 또는 차량들을 위해 일시정지 및 대기하게 하는 방식으로, 제어 기능들(420a 내지 420c)을 작동시킬 것이다.
자율 주행 차량 입력
도 5는 하나 이상의 실시예에 따른, 인지 모듈(402)(도 4)에 의해 사용되는 입력들(502a 내지 502d)(예를 들면, 도 1에 도시된 센서들(121)) 및 출력들(504a 내지 504d)(예를 들면, 센서 데이터)의 예를 예시하는 블록 다이어그램이다. 하나의 입력(502a)은 LiDAR(Light Detection and Ranging) 시스템(예를 들면, 도 1에 도시된 LiDAR(123))이다. LiDAR는 그의 가시선에 있는 물리적 대상체들에 관한 데이터를 획득하기 위해 광(예를 들면, 적외선 광과 같은 광 버스트)을 사용하는 기술이다. LiDAR 시스템은 출력(504a)으로서 LiDAR 데이터를 생성한다. 예를 들어, LiDAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 3D 또는 2D 포인트들(포인트 클라우드들이라도 알려져 있음)의 집합체이다.
다른 입력(502b)은 RADAR 시스템이다. RADAR는 인근의 물리적 대상체들에 관한 데이터를 획득하기 위해 전파를 사용하는 기술이다. RADAR는 LiDAR 시스템의 가시선 내에 있지 않은 대상체들에 관한 데이터를 획득할 수 있다. RADAR 시스템(502b)은 출력(504b)으로서 RADAR 데이터를 생성한다. 예를 들어, RADAR 데이터는 환경(190)의 표현을 구성하는 데 사용되는 하나 이상의 무선 주파수 전자기 신호이다.
다른 입력(502c)은 카메라 시스템이다. 카메라 시스템은 인근의 물리적 대상체들에 관한 정보를 획득하기 위해 하나 이상의 카메라(예를 들면, CCD(charge-coupled device)와 같은 광 센서를 사용하는 디지털 카메라들)를 사용한다. 카메라 시스템은 출력(504c)으로서 카메라 데이터를 생성한다. 카메라 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 형식의 데이터)의 형태를 취한다. 일부 예들에서, 카메라 시스템은, 카메라 시스템이 깊이를 인지하는 것을 가능하게 하는, 예를 들면, 입체시(stereopsis)(스테레오 비전)를 위한, 다수의 독립적인 카메라들을 갖는다. 비록 카메라 시스템에 의해 인지되는 대상체들이 여기서 "인근"으로 기술되지만, 이것은 AV를 기준으로 한 것이다. 사용 중에, 카메라 시스템은 멀리 있는, 예를 들어, AV 전방으로 최대 1 킬로미터 이상에 있는 대상체들을 "보도록" 구성될 수 있다. 그에 따라, 카메라 시스템은 멀리 떨어져 있는 대상체들을 인지하도록 최적화되어 있는 센서들 및 렌즈들과 같은 특징부들을 가질 수 있다.
다른 입력(502d)은 TLD(traffic light detection) 시스템이다. TLD 시스템은 하나 이상의 카메라를 사용하여, 시각적 운행 정보를 제공하는 교통 신호등들, 거리 표지판들, 및 다른 물리적 대상체들에 관한 정보를 획득한다. TLD 시스템은 출력(504d)으로서 TLD 데이터를 생성한다. TLD 데이터는 종종 이미지 데이터(예를 들면, RAW, JPEG, PNG 등과 같은 이미지 데이터 형식의 데이터)의 형태를 취한다. TLD 시스템은, 시각적 운행 정보를 제공하는 가능한 한 많은 물리적 대상체들에 관한 정보를 획득하기 위해 TLD 시스템이 넓은 시야를 갖는 카메라(예를 들면, 광각 렌즈 또는 어안 렌즈를 사용함)를 사용하여, AV(100)가 이러한 대상체들에 의해 제공되는 모든 관련 운행 정보에 액세스할 수 있다는 점에서, 카메라를 포함하는 시스템과 상이하다. 예를 들어, TLD 시스템의 시야각은 약 120도 이상일 수 있다.
일 실시예에서, 출력들(504a 내지 504d)은 센서 융합 기술을 사용하여 결합된다. 따라서, 개별 출력들(504a 내지 504d) 중 어느 하나가 AV(100)의 다른 시스템들에 제공되거나(예를 들면, 도 4에 도시된 바와 같은 계획 모듈(404)에 제공되거나), 또는 결합된 출력이 동일한 유형의 단일 결합 출력 또는 다수의 결합 출력들의 형태(동일한 결합 기술을 사용하는 것 또는 동일한 출력들을 결합시키는 것 또는 둘 모두) 또는 상이한 유형의 단일 결합 출력 또는 다수의 결합 출력들의 형태(예를 들면, 상이한 각자의 결합 기술들을 사용하는 것 또는 상이한 각자의 출력들을 결합시키는 것 또는 둘 모두) 중 어느 하나로 다른 시스템들에 제공될 수 있다. 일 실시예에서, 조기 융합(early fusion) 기술이 사용된다. 조기 융합 기술은 하나 이상의 데이터 프로세싱 단계가 결합된 출력에 적용되기 전에 출력들을 결합하는 것을 특징으로 한다. 일부 실시예에서, 늦은 융합(late fusion) 기술이 사용된다. 늦은 융합 기술은 하나 이상의 데이터 프로세싱 단계가 개별 출력들에 적용된 후에 출력들을 결합하는 것을 특징으로 한다.
도 6은 하나 이상의 실시예에 따른, LiDAR 시스템(602)(예를 들면, 도 5에 도시된 입력(502a))의 예를 예시하는 블록 다이어그램이다. LiDAR 시스템(602)은 광 방출기(606)(예를 들면, 레이저 송신기)로부터 광(604a 내지 604c)을 방출한다. LiDAR 시스템에 의해 방출되는 광은 전형적으로 가시 스펙트럼에 있지 않으며; 예를 들어, 적외선 광이 종종 사용된다. 방출되는 광(604b)의 일부는 물리적 대상체(608)(예를 들면, 차량)와 조우하고, LiDAR 시스템(602)으로 다시 반사된다. (LiDAR 시스템으로부터 방출되는 광은 전형적으로 물리적 대상체, 예를 들면, 고체 형태의 물리적 대상체들을 투과하지 않는다). LiDAR 시스템(602)은 또한 반사 광을 검출하는 하나 이상의 광 검출기(610)를 갖는다. 일 실시예에서, LiDAR 시스템과 연관된 하나 이상의 데이터 프로세싱 시스템은 LiDAR 시스템의 시야(614)를 나타내는 이미지(612)를 생성한다. 이미지(612)는 물리적 대상체(608)의 경계들(616)을 나타내는 정보를 포함한다. 이러한 방식으로, 이미지(612)는 AV 인근의 하나 이상의 물리적 대상체의 경계들(616)을 결정하는 데 사용된다.
도 7은 하나 이상의 실시예에 따른, 작동 중인 LiDAR 시스템(602)을 예시하는 블록 다이어그램이다. 이 도면에 도시된 시나리오에서, AV(100)는 이미지(702) 형태의 카메라 시스템 출력(504c) 및 LiDAR 데이터 포인트들(704) 형태의 LiDAR 시스템 출력(504a) 둘 모두를 수신한다. 사용 중에, AV(100)의 데이터 프로세싱 시스템들은 이미지(702)를 데이터 포인트들(704)과 비교한다. 상세하게는, 이미지(702)에서 식별된 물리적 대상체(706)가 데이터 포인트들(704) 중에서도 식별된다. 이러한 방식으로, AV(100)는 데이터 포인트들(704)의 윤곽 및 밀도에 기초하여 물리적 대상체의 경계들을 인지한다.
도 8은 하나 이상의 실시예에 따른, LiDAR 시스템(602)의 작동을 추가적으로 상세히 예시하는 블록 다이어그램이다. 위에서 기술된 바와 같이, AV(100)는 LiDAR 시스템(602)에 의해 검출되는 데이터 포인트들의 특성들에 기초하여 물리적 대상체의 경계를 검출한다. 도 8에 도시된 바와 같이, 지면(802)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 지면(802)은 광을 동일한 일관된 간격으로 LiDAR 시스템(602)으로 다시 반사할 것이다. AV(100)가 지면(802) 위를 주행함에 따라, LiDAR 시스템(602)은 도로를 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트(806)에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체(808)가 도로를 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 및 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트들(810a 및 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체(808)가 존재한다고 결정할 수 있다.
경로 계획
도 9는 하나 이상의 실시예에 따른, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)의 입력들과 출력들 사이의 관계들을 예시하는 블록 다이어그램(900)이다. 일반적으로, 계획 모듈(404)의 출력은 시작 포인트(904)(예를 들면, 소스 위치 또는 초기 위치)로부터 종료 포인트(906)(예를 들면, 목적지 또는 최종 위치)까지의 루트(902)이다. 루트(902)는 전형적으로 하나 이상의 세그먼트에 의해 정의된다. 예를 들어, 세그먼트는 거리, 도로, 간선도로, 사유 도로, 또는 자동차 주행에 적절한 다른 물리적 영역의 적어도 일 부분에 걸쳐 주행되는 거리이다. 일부 예들에서, 예를 들면, AV(100)가 4륜 구동(four-wheel-drive, 4WD) 또는 상시 4륜구동(all-wheel-drive, AWD) 자동차, SUV, 픽업 트럭 등과 같은 오프로드 주행 가능 차량(off-road capable vehicle)인 경우, 루트(902)는 비포장 경로들 또는 탁트인 들판들과 같은 "오프로드" 세그먼트들을 포함한다.
루트(902) 외에도, 계획 모듈은 또한 차선 레벨 루트 계획 데이터(908)를 출력한다. 차선 레벨 루트 계획 데이터(908)는 특정 시간에서의 세그먼트의 조건들에 기초하여 루트(902)의 세그먼트들을 횡단하는 데 사용된다. 예를 들어, 루트(902)가 다중 차선 간선도로를 포함하는 경우, 차선 레벨 루트 계획 데이터(908)는, 예를 들면, 출구가 다가오고 있는지 여부, 차선들 중 하나 이상이 다른 차량들을 갖는지 여부, 또는 수 분 이하 동안에 걸쳐 변화되는 다른 요인들에 기초하여, AV(100)가 다수의 차선들 중 한 차선을 선택하는 데 사용할 수 있는 궤적 계획 데이터(910)를 포함한다. 유사하게, 일부 구현예들에서, 차선 레벨 루트 계획 데이터(908)는 루트(902)의 세그먼트에 특정적인 속력 제약(912)을 포함한다. 예를 들어, 세그먼트가 보행자들 또는 예상치 못한 교통상황(traffic)을 포함하는 경우, 속력 제약(912)은 AV(100)를 예상된 속력보다 느린 주행 속력, 예를 들면, 세그먼트에 대한 속력 제한 데이터에 기초한 속력으로 제한할 수 있다.
일 실시예에서, 계획 모듈(404)에 대한 입력들은 (예를 들면, 도 4에 도시된 데이터베이스 모듈(410)로부터의) 데이터베이스 데이터(914), 현재 위치 데이터(916)(예를 들면, 도 4에 도시된 AV 위치(418)), (예를 들면, 도 4에 도시된 목적지(412)에 대한) 목적지 데이터(918), 및 대상체 데이터(920)(예를 들면, 도 4에 도시된 바와 같은 인지 모듈(402)에 의해 인지되는 바와 같은 분류된 대상체들(416))를 포함한다. 일 실시예에서, 데이터베이스 데이터(914)는 계획에 사용되는 규칙들을 포함한다. 규칙들은 형식 언어(formal language)를 사용하여, 예를 들면, 불리언 논리(Boolean logic)를 사용하여 명시된다. AV(100)가 조우하는 임의의 주어진 상황에서, 규칙들 중 적어도 일부가 해당 상황에 적용될 것이다. 규칙이 AV(100)에 이용 가능한 정보, 예를 들면, 주위 환경에 관한 정보에 기초하여 충족되는 조건들을 갖는 경우, 규칙이 주어진 상황에 적용된다. 규칙들은 우선순위를 가질 수 있다. 예를 들어, "도로가 프리웨이인 경우, 최좌측 차선으로 이동하라"로 되어 있는 규칙은, 출구가 1마일 내로 다가오고 있는 경우, 최우측 차선으로 이동하라"는 것보다 낮은 우선순위를 가질 수 있다.
도 10은 하나 이상의 실시예에 따른, 예를 들어, 계획 모듈(404)(도 4)에 의해 경로 계획에 사용되는 방향 그래프(1000)를 예시한다. 일반적으로, 도 10에 도시된 것과 같은 방향 그래프(1000)는 임의의 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로를 결정하는 데 사용된다. 현실 세계 관점에서, 시작 포인트(1002)와 종료 포인트(1004)를 분리시키는 거리는 상대적으로 클 수 있거나(예를 들면, 2개의 상이한 대도시 지역에 있음) 또는 상대적으로 작을 수 있다(예를 들면, 도시 블록과 맞닿아 있는 2 개의 교차로 또는 다중 차선 도로의 2 개의 차선).
일 실시예에서, 방향 그래프(1000)는 AV(100)에 의해 점유될 수 있는 시작 포인트(1002)와 종료 포인트(1004) 사이의 상이한 위치들을 나타내는 노드들(1006a 내지 1006d)을 갖는다. 일부 예들에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 상이한 대도시 지역들을 나타낼 때, 노드들(1006a 내지 1006d)은 도로 세그먼트들을 나타낸다. 일부 예들에서, 예를 들면, 시작 포인트(1002)와 종료 포인트(1004)가 동일한 도로 상의 상이한 위치들을 나타낼 때, 노드들(1006a 내지 1006d)은 해당 도로 상의 상이한 위치들을 나타낸다. 이러한 방식으로, 방향 그래프(1000)는 다양한 입도 레벨들로 정보를 포함한다. 일 실시예에서, 높은 입도를 갖는 방향 그래프는 또한 보다 큰 스케일을 갖는 다른 방향 그래프의 서브그래프(subgraph)이다. 예를 들어, 시작 포인트(1002)와 종료 포인트(1004)가 멀리 떨어져 있는(예를 들면, 수 마일 떨어져 있는) 방향 그래프는 그의 정보 대부분이 낮은 입도이고 저장된 데이터에 기초하지만, AV(100)의 시야 내의 물리적 위치들을 나타내는 그래프의 부분에 대한 일부 높은 입도 정보를 또한 포함한다.
노드들(1006a 내지 1006d)은 노드와 중첩할 수 없는 대상체들(1008a 및 1008b)과 별개이다. 일 실시예에서, 입도가 낮을 때, 대상체들(1008a 및 1008b)은 자동차에 의해 횡단될 수 없는 지역들, 예를 들면, 거리들 또는 도로들이 없는 영역들을 나타낸다. 입도가 높을 때, 대상체들(1008a 및 1008b)은 AV(100)의 시야 내의 물리적 대상체들, 예를 들면, 다른 자동차들, 보행자들, 또는 AV(100)와 물리적 공간을 공유할 수 없는 다른 엔티티들을 나타낸다. 일 실시예에서, 대상체들(1008a 및 1008b)의 일부 또는 전부는 정적 대상체들(예를 들면, 가로등 또는 전신주와 같은 위치를 변경하지 않는 대상체) 또는 동적 대상체들(예를 들면, 보행자 또는 다른 자동차와 같은 위치를 변경할 수 있는 대상체)이다.
노드들(1006a 내지 1006d)은 에지들(1010a 내지 1010c)에 의해 연결된다. 2 개의 노드(1006a 및 1006b)가 에지(1010a)에 의해 연결되는 경우, AV(100)가, 예를 들면, 다른 노드(1006b)에 도착하기 전에 중간 노드로 주행할 필요 없이, 하나의 노드(1006a)와 다른 노드(1006b) 사이에서 주행하는 것이 가능하다. (노드들 사이에서 주행하는 AV(100)를 언급할 때, AV(100)가 각자의 노드들에 의해 표현되는 2 개의 물리적 위치 사이에서 주행한다는 것을 의미한다.) 에지들(1010a 내지 1010c)은, AV(100)가 제1 노드로부터 제2 노드로, 또는 제2 노드로부터 제1 노드로 주행한다는 의미에서, 종종 양방향성이다. 일 실시예에서, 에지들(1010a 내지 1010c)은, AV(100)가 제1 노드로부터 제2 노드로 주행할 수 있지만, AV(100)가 제2 노드로부터 제1 노드로 주행할 수 없다는 의미에서, 단방향성이다. 에지들(1010a 내지 1010c)은, 예를 들어, 일방통행로, 거리, 도로, 또는 간선도로의 개별 차선, 또는 법적 또는 물리적 제약으로 인해 일 방향으로만 횡단될 수 있는 다른 특징부들을 나타낼 때, 단방향성이다.
일 실시예에서, 계획 모듈(404)은 방향 그래프(1000)를 사용하여 시작 포인트(1002)와 종료 포인트(1004) 사이의 노드들 및 에지들로 구성된 경로(1012)를 식별한다.
에지(1010a 내지 1010c)는 연관된 비용(1014a 및 1014b)을 갖는다. 비용(1014a 및 1014b)은 AV(100)가 해당 에지를 선택하는 경우 소비될 리소스들을 나타내는 값이다. 전형적인 리소스는 시간이다. 예를 들어, 하나의 에지(1010a)가 다른 에지(1010b)의 물리적 거리의 2 배인 물리적 거리를 나타내는 경우, 제1 에지(1010a)의 연관된 비용(1014a)은 제2 에지(1010b)의 연관된 비용(1014b)의 2 배일 수 있다. 시간에 영향을 미치는 다른 요인들은 예상된 교통상황, 교차로들의 수, 속력 제한 등을 포함한다. 다른 전형적인 리소스는 연비이다. 2 개의 에지(1010a 및 1010b)는 동일한 물리적 거리를 나타낼 수 있지만, 예를 들면, 도로 조건들, 예상된 날씨 등으로 인해, 하나의 에지(1010a)는 다른 에지(1010b)보다 많은 연료를 필요로 할 수 있다.
계획 모듈(404)이 시작 포인트(1002)와 종료 포인트(1004) 사이의 경로(1012)를 식별할 때, 계획 모듈(404)은 전형적으로, 비용에 최적화된 경로, 예를 들면, 에지들의 개별 비용들이 함께 가산될 때 가장 적은 전체 비용을 갖는 경로를 선택한다.
자율 주행 차량 제어
도 11은 하나 이상의 실시예에 따른, (예를 들면, 도 4에 도시된 바와 같은) 제어 모듈(406)의 입력들 및 출력들을 예시하는 블록 다이어그램(1100)이다. 제어 모듈은, 예를 들어, 프로세서(304)와 유사한 하나 이상의 프로세서(예를 들면, 마이크로프로세서 또는 마이크로컨트롤러 또는 둘 모두와 같은 하나 이상의 컴퓨터 프로세서), 메인 메모리(306)와 유사한 단기 및/또는 장기 데이터 스토리지(예를 들면, 메모리 랜덤 액세스 메모리 또는 플래시 메모리 또는 둘 모두), ROM(1308), 및 저장 디바이스(210)를 포함하는 제어기(1102), 및 메모리에 저장된 명령어들에 따라 작동하는데, 상기 명령어들은 명령어들이 (예를 들면, 하나 이상의 프로세서에 의해) 실행될 때 제어기(1102)의 동작들을 수행한다.
일 실시예에서, 제어기(1102)는 원하는 출력(1104)을 나타내는 데이터를 수신한다. 원하는 출력(1104)은 전형적으로 속도, 예를 들면, 속력 및 진로를 포함한다. 원하는 출력(1104)은, 예를 들어, (예를 들면, 도 4에 도시된 바와 같은) 계획 모듈(404)로부터 수신되는 데이터에 기초할 수 있다. 원하는 출력(1104)에 따라, 제어기(1102)는 스로틀 입력(1106) 및 조향 입력(1108)으로서 사용 가능한 데이터를 생성한다. 스로틀 입력(1106)은 원하는 출력(1104)을 달성하기 위해, 예를 들면, 조향 페달에 관여하거나 또는 다른 스로틀 제어에 관여하는 것에 의해, AV(100)의 스로틀(예를 들면, 가속 제어)에 관여하는 정도를 나타낸다. 일부 예들에서, 스로틀 입력(1106)은 AV(100)의 브레이크(예를 들면, 감속 제어)에 관여하는 데 사용 가능한 데이터를 또한 포함한다. 조향 입력(1108)은 조향각, 예를 들면, AV의 조향 컨트롤(예를 들면, 조향 휠, 조향각 액추에이터, 또는 조향각을 제어하기 위한 다른 기능성)이 원하는 출력(1104)을 달성하도록 위치결정되어야 하는 각도를 나타낸다.
일 실시예에서, 제어기(1102)는 스로틀 및 조향에 제공되는 입력들을 조정하는 데 사용되는 피드백을 수신한다. 예를 들어, AV(100)가 언덕과 같은 방해물(1110)과 조우하면, AV(100)의 측정된 속력(1112)은 원하는 출력 속력 아래로 낮아진다. 일 실시예에서, 예를 들면, 측정된 속력과 원하는 출력 사이의 차분(1113)에 기초하여, 필요한 조정이 수행되도록 임의의 측정된 출력(1114)이 제어기(1102)에 제공된다. 측정된 출력(1114)은 측정된 위치(1116), 측정된 속도(1118)(속력 및 진로를 포함함), 측정된 가속도(1120), 및 AV(100)의 센서들에 의해 측정 가능한 다른 출력들을 포함한다.
일 실시예에서, 방해물(1110)에 관한 정보는, 예를 들면, 카메라 또는 LiDAR 센서와 같은 센서에 의해 미리 검출되고, 예측 피드백 모듈(1122)에 제공된다. 예측 피드백 모듈(1122)은 이어서 정보를 제어기(1102)에 제공하며, 제어기(1102)는 이 정보를 사용하여 그에 따라 조정할 수 있다. 예를 들어, AV(100)의 센서들이 언덕을 검출한("본") 경우, 이 정보는 상당한 감속을 방지하도록 적절한 시간에 스로틀에 관여할 준비를 하기 위해 제어기(1102)에 의해 사용될 수 있다.
도 12는 하나 이상의 실시예에 따른, 제어기(1102)의 입력들, 출력들, 및 컴포넌트들을 예시하는 블록 다이어그램(1200)이다. 제어기(1102)는 스로틀/브레이크 제어기(1204)의 작동에 영향을 미치는 속력 프로파일러(1202)를 갖는다. 예를 들어, 속력 프로파일러(1202)는, 예를 들면, 제어기(1102)에 의해 수신되고 속력 프로파일러(1202)에 의해 프로세싱되는 피드백에 따라 스로틀/브레이크(1206)를 사용하여 가속에 관여하거나 감속에 관여하도록 스로틀/브레이크 제어기(1204)에 지시한다.
제어기(1102)는 또한 조향 제어기(1210)의 작동에 영향을 미치는 횡방향 추적 제어기(1208)를 갖는다. 예를 들어, 횡방향 추적 제어기(1208)는, 예를 들면, 제어기(1102)에 의해 수신되고 횡방향 추적 제어기(1208)에 의해 프로세싱되는 피드백에 따라 조향각 액추에이터(1212)의 위치를 조정하도록 조향 제어기(1204)에 지시한다.
제어기(1102)는 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)를 제어하는 방법을 결정하는 데 사용되는 여러 입력들을 수신한다. 계획 모듈(404)은, 예를 들어, AV(100)가 작동을 시작할 때 진로를 선택하기 위해 그리고 AV(100)가 교차로에 도달할 때 어느 도로 세그먼트를 횡단할지를 결정하기 위해, 제어기(1102)에 의해 사용되는 정보를 제공한다. 로컬화 모듈(408)은, 예를 들어, 스로틀/브레이크(1206) 및 조향각 액추에이터(1212)가 제어되고 있는 방식에 기초하여 예상되는 위치에 AV(100)가 있는지를 제어기(1102)가 결정할 수 있도록, AV(100)의 현재 위치를 기술하는 정보를 제어기(1102)에 제공한다. 일 실시예에서, 제어기(1102)는 다른 입력들(1214)로부터의 정보, 예를 들면, 데이터베이스들, 컴퓨터 네트워크들 등으로부터 수신되는 정보를 수신한다.
거동 규칙 검사를 사용하는 차량 작동
도 13a는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 AV(100) 작동에 대한 예시적인 시나리오를 예시한다. AV(100)는 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. AV(100)는 도 1을 참조하여 보다 상세히 예시되고 기술된 환경(190)에서 작동한다. 도 13a에 예시된 예시적인 시나리오에서, AV(100)는 일방 통행 차선인 차선(1316)에서 작동하고 있다. 환경(190)은 차선(1316)에 인접해 있고 차선(1316)에 대해 반대 교통 방향으로 있는 다른 차선(1320)을 포함한다. 다른 차량(193)은 차선(1320)에서 작동하고 있다. 차량(193)은 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 차선(1316)과 차선(1320)을 분리시키는 이중 라인(1312)이 있다. 그렇지만, 차선(1316)과 차선(1320)을 분리시키는 물리적 도로 분리대 또는 중앙 분리대가 없다. 환경(190)에서의 교통 규칙들은 충돌을 방지하기 위해 차량이 이중 라인(1312)을 넘거나 시속 45마일의 속력 제한을 초과하는 것을 금지한다.
AV(100)의 경로에서 AV(100) 전방에 차선(1316)에서의 사고로 인해 바리케이드(1308)가 있다. 차량(1304)은 차선(1316)에서 고장났거나 충돌을 겪었고 그로 인해 바리케이드(1308)가 있다. AV(100)는 목적지(199)를 향해 차선(1316)에서(또한 차선(1320)에서) 작동하고 있다. 목적지(199)는 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 바리케이드(1308) 및 차량(1304)은, 도 4를 참조하여 보다 상세히 예시되고 기술된, 분류된 대상체들(416)의 예들이다. AV(100)는, 예를 들면, 도 1에 또한 도시된 바와 같은, 하나 이상의 센서(121)를 사용하여 물리적 대상체들(1308, 1304)을 식별하기 위해 자신의 인지 모듈(402)을 사용한다. 인지 모듈(402)은 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다. 대상체들(1304, 1308)은 분류되고(예를 들면, 자동차, 바리케이드, 교통 콘들 등과 같은 유형들로 그룹화됨), 분류된 대상체들(1304, 1308)을 포함하는 시나리오 설명이 계획 모듈(또는 "계획 회로")(404)에 제공된다. 계획 회로(404)는 도 1를 참조하여 보다 상세히 예시되고 기술되어 있다.
AV(100)는 차선(1316)이 대상체들(1304, 1308)에 의해 차단되어 있다고 결정한다. 도 8을 참조하여 보다 상세히 예시되고 기술된 바와 같이, AV(100)는 센서들(121)에 의해 검출되는 데이터 포인트들(제1 센서 데이터)의 특성들에 기초하여 대상체들(1304, 1308)의 경계들을 검출한다. 도 8에 도시된 바와 같이, 차선(1316)과 같은 평평한 대상체는 LiDAR 시스템(602)으로부터 방출되는 광(804a 내지 804d)을 일관된 방식으로 반사할 것이다. LiDAR 시스템(602)은 도 6을 참조하여 보다 상세히 예시되고 기술되어 있다. 달리 말하면, LiDAR 시스템(602)이 일관된 간격을 사용하여 광을 방출하기 때문에, 차선(1316)은 광을 동일한 일관된 간격으로 LiDAR 시스템(602)으로 다시 반사할 것이다. AV(100)가 차선(1316) 위를 주행함에 따라, LiDAR 시스템(602)은 차선(1316)을 방해하는 것이 아무 것도 없는 경우 다음 유효 지면 포인트에 의해 반사되는 광을 계속 검출할 것이다. 그렇지만, 대상체들(1304, 1308)이 차선(1316)을 방해하는 경우, LiDAR 시스템(602)에 의해 방출되는 광(804e 및 804f)은 예상되는 일관된 방식과 부합하지 않는 방식으로 포인트들(810a 및 810b)로부터 반사될 것이다. 이 정보로부터, AV(100)는 대상체들(1304, 1308)이 존재한다고 결정할 수 있다.
목적지(199)에 도달하기 위해, AV(100)의 계획 회로(404)는 궤적(198)을 생성한다. 궤적(198)은 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 궤적(198)에 따라 AV(100)를 작동시키는 것은, AV(100)가 목적지(199)에 도달할 수 있도록, AV(100)로 하여금 대상체들(1304, 1308)을 빙 돌아서 기동하기 위해 교통 규칙을 위반하여 이중 라인(1312)을 넘게 한다. 궤적(198)은 AV(100)로 하여금 이중 라인(1312)을 넘어 차량(193)의 경로에 있는 차선(1320)에 진입하게 한다. AV(100)는 계층적 작동 규칙 세트를 사용하여 AV(100)의 운전 성능에 대한 피드백을 제공한다. 계층적 규칙 세트는 때때로 저장된 거동 모델 또는 규칙서라고 지칭된다. 일부 실시예들에서, 피드백은 통과-실패 방식으로 제공된다. 본 명세서에 개시된 실시예들은, AV(100)가 단지 보다 낮은 우선순위의 거동 규칙을 위반했을 대안 궤적을 생성했을 수 있더라도, AV(100)(예를 들면, 계획 회로(404))가 보다 높은 우선순위의 거동 규칙을 위반하는 궤적(198)을 생성할 때를 검출하도록 설계된다. 그러한 검출의 발생은 모션 계획 프로세스의 실패를 나타낸다. 예시적인 계층적 규칙 세트(1352)는 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다.
궤적(198)을 생성하기 위해 적어도 하나의 프로세서가 사용된다. 제1 실시예에서, 적어도 하나의 프로세서는 AV(100)의 계획 회로(404) 내에 위치한다. 예를 들어, 적어도 하나의 프로세서는, 도 1을 참조하여 보다 상세히 예시되고 기술된, 프로세서(146)이다. 따라서, 적어도 하나의 프로세서(AV(100) 상의 프로세서(146))는 AV(100)의 작동 동안 제1 센서 데이터 및 제2 센서 데이터를 수신한다. 제1 실시예에서, 규칙 기반 제어 접근법은 궤적 검사기로서 또는 규칙 기반 플래너/제어기로서 실시간 평가를 위해 AV(100) 상에서 실행된다. 예를 들어, 온라인 프레임워크에서, AV는 AV의 작동 동안(예를 들면, AV가 이중 라인을 넘을 때) AV(100)의 운전 성능에 대한 피드백을 반복적으로 제공하기 위해 계층적 작동 규칙 세트를 사용한다. 상세하게는, 온라인 프레임워크는 관련 교통 참가자들 또는 특징부들(예를 들면, 주차된 자동차들, 보행자들, 도로 분리대들)의 로컬 감지에 따라 규칙들을 활성화 및 비활성화시킨다.
제2 실시예에서, 적어도 하나의 프로세서는 AV(100) 외부의 컴퓨터 디바이스 상에 위치한다. 예를 들어, 컴퓨터 디바이스는, 도 1을 참조하여 보다 상세히 예시되고 기술된, 서버(136)이다. 제2 실시예에서, (서버(136)의) 적어도 하나의 프로세서는 AV(100)의 작동 이후에 제1 센서 데이터 및 제2 센서 데이터를 수신한다. 규칙서들이 시나리오에 무관하고 기술에 무관하기 때문에, 사후에 계획 회로(404)를 수정 및 개선시키기 위해 상이한 시나리오들 및 스택 빌드들에 대해 동일한 규칙서가 사용될 수 있다. 예들에서, 오프라인 프레임워크는 테스트 시나리오들에서 AV 궤적들의 투명하고 재현 가능한 규칙 기반 통과/실패 평가를 개발하도록 구성된다. 예를 들어, 오프라인 프레임워크에서, 규칙 우선순위 구조의 보다 적은 위반에 이르게 하는 궤적이 발견되는 경우 계획 회로(404)에 의해 출력되는 주어진 궤적은 거부된다. 계획 회로는 거부된 궤적 및 거부된 궤적과 연관된 데이터에, 적어도 부분적으로, 기초하여 수정 및 개선된다.
궤적(198)은 AV(100)의 제1 센서 세트(예를 들면, 센서들(121))로부터의 제1 센서 데이터 및 AV(100)의 제2 센서 세트(예를 들면, 센서들(122))로부터의 제2 센서 데이터에 기초하여 생성된다. 실시예들에서, 제1 센서 데이터는 AV(100)의 작동을 나타내고 제2 센서 데이터는 환경(190)에 위치하는 대상체들(1304, 1308)을 나타낸다. 도 1의 예에서, 제1 센서 세트(121)는 가속도계, 조향 휠 각도 센서, 휠 센서, 또는 브레이크 센서 중 적어도 하나를 포함한다. 제1 센서 데이터는 AV(100)의 속력, AV(100)의 가속도, AV(100)의 진로, AV(100)의 각속도 또는 AV(100)의 토크 중 적어도 하나를 포함한다. 일 실시예에서, 제2 센서 세트는 LiDAR, RADAR, 카메라, 또는 마이크로폰, 적외선 센서, SONAR(sound navigation and ranging) 센서 등 중 적어도 하나를 포함한다. 도 1의 예에서, 제2 센서 데이터는 대상체(예를 들면, 차량(193))의 이미지, 차량(193)의 속력, 차량(193)의 가속도, 또는 차량(193)과 AV(100) 사이의 횡방향 거리 중 적어도 하나를 포함한다. 설명의 편의를 위해 제1 센서 세트 및 제2 센서 세트의 특정 센서들이 기술되어 있다. 그렇지만, 본 기술들은 AV와 연관된 정보, 대상체들과 연관된 정보, 환경과 연관된 정보, 또는 이들의 임의의 조합들을 특성화하는 센서들을 사용하여 구현될 수 있다. 일반적으로, 제1 센서 세트는 동역학적 데이터(dynamic data)를 포착하는 동역학 센서들이다. 예를 들어, 동역학적 데이터는 원심력, 중력, 속도 등을 포함한다. 일반적으로, 제2 센서 세트는 운동학적 데이터를 포착하는 운동학 센서들이다. 예들에서, 운동학적 데이터는 AV에 상대적인 대상체의 모션을 기술한다. 예를 들어, 운동학적 데이터는 적어도 하나의 대상체의 이미지, 적어도 하나의 대상체의 속력, 적어도 하나의 대상체의 가속도, 적어도 하나의 대상체와 차량 사이의 횡방향 거리, 적어도 하나의 대상체와 차량 사이의 종방향 거리, 대상체의 저크(jerk) 등 중 적어도 하나를 포함한다. 예들에서, 제1 센서 세트 또는 제2 센서 세트에 의해 포착되는 데이터는 시간 도함수이거나, 함수의 값의 변화율로서 표현된다.
일 실시예에서, 프로세서(146)는 AV(100)의 제1 센서 세트(121)로부터의 제1 센서 데이터 및 AV(100)의 제2 센서 세트(122)로부터의 제2 센서 데이터를 연속적으로 또는 주기적으로 수신한다. 따라서 제1 센서 데이터 및 제2 센서 데이터는 AV(100)가 작동하고 있는 특정 시나리오(도 13a)를 나타낸다. 일 예에서, 특정 시나리오는 온라인 프레임워크에서 활성화되는 규칙들을 결정하는 데 사용된다. 일 실시예에서, 프로세서(146)는 궤적(198)이 AV(100)의 계층적 작동 규칙 세트의 제1 거동 규칙을 위반한다고 결정한다. 프로세서(146)는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 궤적(198)이 제1 거동 규칙을 위반한다(차선(1320)에 교통 - 차량(193) - 이 있을 때 이중 라인(1312)을 넘는다)고 결정한다. 예를 들어, 제1 거동 규칙은 AV(100)가 충돌을 방지하기 위해 교통의 존재 시에 이중 라인(1312)을 넘지 않아야 한다는 것을 나타낸다. (대안적으로 사용 중인 궤적(198)이 어떠한 거동 규칙들도 위반하지 않는 경우, 계획 회로(404) 및 AV 시스템(120)은 거동 검증 프로세스를 통과한다.)
환경(190)에 위치하는 하나 이상의 대상체(예를 들면, 대상체들(1304, 1308) 및 차량(193))에 대해 AV(100)의 계층적 작동 규칙 세트의 위반이 결정된다. 예를 들어, 궤적(198)을 잠재적으로 실패한 것으로 플래깅하기 위한 기준들이 정의된다. 간단한 기준은 단일 거동 규칙의 위반이며, 다른 공식화들이 또한 가능하다. 예를 들어, AV(100)의 계획 회로(404)에 의해 생성되는 궤적(198)(예를 들면, 잠재적 궤적, 실제 궤적, 또는 다른 궤적)이 주어지면, 본원에 기술된 실시예들은 위반된 규칙들의 우선순위의 관점에서 궤적(198)에 대한 피드백을 제공한다. 예들에서, 온라인 프레임워크는 AV가 환경(190)을 통해 진행함에 따라 궤적을 반복적으로 업데이트한다. 이 예에서, 주어진 궤적은 보다 큰 궤적의 일 부분 또는 서브세트이다.
일 실시예에서, 프로세서는 제2 센서 데이터에 기초하여 움직이는 대상체(예를 들면, 차량(193))의 경로를 결정한다. 예를 들어, 차량(193)이 움직임에 따라, 프로세서는 시간 경과에 따라 차량(193)의 위치 벡터의 끝부분의 연속적인 위치들에 의해 형성되는 기하학적 경로를 결정한다. 프로세서는 시간에 따른 차량(193)의 위치의 전개(evolution), 즉 차량(193)의 경로를 나타내기 위해 시간의 함수, 예를 들어, x(t), y(t) 및 z(t)로서 표현되는 위치 벡터의 x, y 및 z 좌표들을 표시할 수 있다. 프로세서는 차량(193)의 경로에 기초하여 제1 궤적(198)이 제1 거동 규칙을 위반한다고 결정한다. 예를 들어, 궤적(198) 상의 포인트들이 경로 상의 포인트들로부터 임계 거리 미만 떨어져 있는 경우, 제1 거동 규칙이 위반될 수 있다.
제1 거동 규칙, 즉 궤적(198)이 위반한 규칙은 제1 우선순위를 갖는다. 일 실시예에서, 계층적 규칙 세트의 각각의 거동 규칙은 계층적 규칙 세트의 각각의 다른 거동 규칙에 대해 각자의 우선순위를 갖는다. 각자의 우선순위는 각각의 다른 거동 규칙에 대해 각각의 거동 규칙을 위반할 위험 레벨을 나타낸다. 적어도 하나의 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 AV(100)에 대한 다수의 대안 궤적들을 생성한다. 예를 들어, 다수의 대안 궤적들은 AV(100)의 위치, AV(100)의 속력, 차량(193)의 위치 또는 차량(193)의 속력에 기초할 수 있다. 각각의 대안 궤적은 AV(100)가 궤적(198)을 생성하는 대신에 할 수 있었던 선택들을 나타낸다. 다수의 대안 궤적들은 (위에서 기술된 제1 실시예에서와 같이) AV(100)의 작동 동안 프로세서(146)에 의해 실시간으로 생성되거나 (위에서 기술된 제2 실시예에서와 같이) 서버(136) 상에서 사후에 생성된다.
일 실시예에서, 다수의 대안 궤적들은 제어 장벽 함수들(CBF들)을 사용하여 생성된다. 장벽 함수는 포인트가 최적화 문제의 실행 가능 영역(feasible region)의 경계에 접근함에 따라 포인트에 대한 값이 무한대로 증가하는 연속 함수이다. 그러한 함수들은 목적 함수에서 처리하기 보다 쉬운 벌점 항(penalizing term)으로 부등식 제약조건들을 대체하는 데 사용할 수 있다. CBF는 현재 시스템 상태(예를 들면, AV(100)의 위치, AV(100)의 속력, AV(100)의 가속도, 또는 대상체들(1304, 1308)로부터의 AV(100)의 거리와 연관된 데이터)를 입력으로서 취하고 시스템의 안전 상태에 대응하는 실수를 출력한다. 시스템이 안전하지 않은 동작점에 접근함에 따라, CBF 값은 무한대로 증가한다. CBF는 제어 리아푸노프 함수(control Lyapunov function, CLF)와 합성되어 안정성, 성능 및 안전성에 대한 공동 보증을 제공할 수 있다. 리아푸노프 함수 V(x)는 상미분 방정식의 평형의 안정성을 결정하는 데 사용될 수 있는 스칼라 함수를 지칭한다. CLF는 제어 입력들을 갖는 시스템(예를 들면, AV 시스템(120) 또는 계획 회로(404))에 대한 리아푸노프 함수 V(x)를 지칭한다. 일반 리아푸노프 함수(regular Lyapunov function)는 동역학 시스템이 안정적인지 여부, 즉, 어떤 도메인 D에서 상태 x ≠ 0에서 시작하는 시스템이 D에 남아 있을 것인지 또는 점근적 안정성을 위해 결국 x = 0으로 돌아갈 것인지를 테스트하는 데 사용될 수 있다. CLF는 시스템이 피드백 안정화 가능(feedback stabilizable)한지 여부, 즉, 시스템이 제어 u를 적용하는 것에 의해 제로 상태로 될 수 있도록, 상태 x에 대해 제어 u(x, t)가 존재하는지 여부를 테스트하는 데 사용된다. 예를 들어, 오프라인 프레임워크는 CLF들을 사용하여 구현되는 추가적인 제약조건들을 통해 궤적 추적을 달성한다. 온라인 프레임워크에서, 추적 오류를 비용에 포함시키는 것에 의해 그리고 이동 구간(MPC)에 걸쳐 최적화를 수행하는 것에 의해 기준 궤적이 추적된다.
적어도 하나의 프로세서는 다수의 대안 궤적들로부터 제2 궤적을 식별한다. 예를 들어, 제2 궤적에 따라, AV(100)는 차선(1316)에서 정지하고 이어서 차량(193)이 지나간 후에 이중 라인(1312)을 넘어간다. 따라서 제2 궤적은 계층적 규칙 세트의 제2 거동 규칙만을 위반한다(차선(1320)에 교통이 없을 때 이중 라인(1312)을 넘어간다). 제2 거동 규칙은 제1 우선순위보다 낮은 제2 우선순위를 갖는다. 충돌 - 차선(1320)에 교통이 있을 때 이중 라인(1312)을 넘어가는 것 - 을 방지하는 것은 차선(1320)에 교통이 없을 때 이중 라인(1312)을 단순히 넘는 것보다 높은 우선순위를 갖는다. 대안적으로, 제2 궤적이 보다 높은 우선순위의 규칙을 위반하는 경우, 보다 작은 정도의 규칙 위반을 갖는 어떠한 대안 궤적도 발견될 수 없기 때문에 계획 회로(404) 및 AV 시스템(120)은 거동 검증을 통과한다.
위에서 기술된 제1 실시예에서, 제2 궤적을 식별하는 것에 응답하여, 적어도 하나의 프로세서(146)는 제2 궤적에 기초하여 AV(100)를 작동시키라는 메시지를 AV(100)의 제어 회로(406)로 송신한다. 제어 회로(406)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, 적어도 하나의 프로세서(146)가 계획 회로(404)에 속하는 경우, AV(100)는 제2 궤적에 기초하여 실시간으로 작동된다. 적어도 하나의 프로세서가 오프라인 서버(136) 상에 있는 경우, 위에서 기술된 제2 실시예에서와 같이, 제2 궤적이 계획 회로(404)를 재프로그래밍하는 데 사용된다. 일 실시예에서, 궤적 검증으로부터의 피드백의 결과는 "통과(PASS)", 예를 들면, 궤적(198)이 만족스러움이거나, 또는 대안 궤적이 이용 가능하지 않음 또는 "실패(FAIL)", 예를 들면, AV 궤적(198)이 규칙서 거동 명세들을 준수하지 않으며 어떠한 거동 규칙도 위반하지 않거나 궤적(198)보다 낮은 우선순위의 거동 규칙을 위반하는 대안 궤적이 이용 가능함이다. 그러한 대안 궤적이 식별되는 경우 궤적(198)은 "실패"로 간주된다.
본원에 개시된 실시예들은 "미미하게 만족스러운" 궤적들, 예를 들면, AV(100)가 정지하거나 그의 목표(199)에 도달하지 않는 궤적들이 규칙 위반들로 목표에 도달하는 궤적에 대한 대안적인 해결책으로 간주되는 것을 방지하도록 설계되어 있다. "목표에 도달하는" 규칙이 규칙서에 명시적으로 내장되어 있다. 프로세서(146)는 AV(100)와 대상체들(1304, 1308) 및 차량(193)의 충돌을 피하기 위해 궤적(198)에 기초하여 AV(100)를 작동시킨다. 예를 들어, 도 4를 참조하여 보다 상세히 예시되고 기술된, 제어 모듈(406)은 AV(100)를 작동시킨다.
도 13b는 하나 이상의 실시예에 따른, 예시적인 계층적 규칙 세트(1352)를 예시한다. AV(100)의 작동의 저장된 거동 규칙들은 다수의 거동 규칙들을 포함한다. AV(100)는 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 각각의 거동 규칙(예를 들면, 규칙(1356))은 각각의 다른 규칙(예를 들면, 규칙(1360))에 대해 우선순위를 갖는다. 우선순위는 저장된 거동 규칙들(1352)의 위반의 위험 레벨을 나타낸다. 따라서 규칙서(1352)는 교통 법규 또는 문화적 기대치는 물론 이들의 상대 우선순위들에 의해 시행되는 운전 요구사항들을 명시하는 형식 프레임워크(formal framework)이다. 규칙서(1352)는 규칙 우선순위들의 계층구조를 포착하는 위반 점수들을 갖는 미리 정렬된 규칙 세트이다. 따라서, 규칙서(1352)는 충돌하는 시나리오들에서의 AV 거동 명세 및 평가를 가능하게 한다. 보행자(192)가 AV(100)가 운전하고 있는 차선으로 걸어 들어오는 경우를 고려한다. 보행자(192)는 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 합리적인 AV 거동은 보행자(192) 및 다른 차량들(193)과의 충돌을 피하는 것(높은 우선순위)이지만, 속력을 최소 속력 제한 미만으로 감소시키는 것에 의해 또는 차선으로부터 벗어나는 것에 의해 보다 낮은 우선순위의 규칙들을 위반하는 대가를 치른다.
일 실시예에서, 거동 규칙을 위반하는 것은 AV(100)가 차량(193)과 충돌하도록 AV(100)를 작동시키는 것을 포함한다. 차량(193)은 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, AV(100)와 차량(193) 사이의 충돌의 위험은 규칙(1356)만이 위반되는 경우보다 규칙(1360)이 위반되는 경우 더 크다. 따라서, 규칙(1360)은 규칙(1356)보다 높은 우선순위를 갖는다. 유사하게, 규칙(1372)은 규칙들(1368, 1364)보다 높은 우선순위를 갖는다.
일 실시예에서, 거동 규칙을 위반하는 것은 AV(100)가 속력 제한(예를 들면, 45 mph)을 초과하도록 AV(100)를 작동시키는 것을 포함한다. 예를 들어, 규칙(1356)은 AV(100)가 자신이 주행하고 있는 차선의 속력 제한을 위반해서는 안 된다는 것을 나타낸다. 예를 들어, 도 13a에서, 차선(1316)에 대한 속력 제한은 시속 45 마일이다. 그렇지만, 규칙(1356)은 보다 낮은 우선순위의 규칙이며; 따라서, AV(100)는 (예를 들면, 차량(193)과의) 충돌을 방지하기 위해 규칙(1356)을 위반하고 규칙(1372)에 따라 행동할 수 있다. 일 실시예에서, 거동 규칙을 위반하는 것은 AV(100)가 목적지(199)에 도달하기 전에 정지하도록 AV(100)를 작동시키는 것을 포함한다. 목적지(199)는 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, 규칙(1360)은 AV(100)가 그 자신의 차선을 유지해야 한다는 것을 나타낸다. 예를 들어, 도 13a에서 AV(100)는 차선(1316)에서 주행하고 있다. 그렇지만, 규칙(1360)의 우선순위는 규칙(1372)의 우선순위보다 낮다. 따라서, 도 13a를 참조하여 보다 상세히 예시되고 기술된 바와 같이, AV(100)는 대상체들(1304, 1308)과 충돌하는 것을 피하기 위해 그리고 2 개의 보다 높은 우선순위의 규칙(1368(목적지(199)에 도달하는 것) 및 1372(충돌을 피하는 것))을 준수하기 위해 규칙(1360)만을 위반한다.
일 실시예에서, AV(100)의 작동의 저장된 거동 규칙들(1352)의 위반은 AV(100)와 대상체들(1304, 1308) 사이의 횡방향 이격거리가 임계 횡방향 거리 아래로 감소하도록 AV(100)를 작동시키는 것을 포함한다. 예를 들어, 규칙(1364)은 AV(100)가 임의의 다른 대상체(예를 들면, 대상체들(1304, 1308))로부터 임계 횡방향 거리(예를 들면, 자동차 길이의 절반 또는 1 미터)를 유지해야 한다는 것을 나타낸다. 그렇지만, 규칙(1364)의 우선순위는 규칙(1368)(목적지(199)에 도달하는 것)의 우선순위보다 낮다. 따라서, 도 13a를 참조하여 보다 상세히 예시되고 기술된 바와 같이, AV(100)는 보다 높은 우선순위의 규칙들(1368(목적지(199)에 도달하는 것) 및 1372(충돌을 피하는 것))을 준수하기 위해 규칙(1364)을 위반할 수 있다.
일 실시예에서, AV 안전성을 평가하기 위해 대리 안전 메트릭들이 사용된다. 대리 안전 메트릭들은 도로 안전을 보다 신속하게 평가하고 이 개념을 전체적인 이론적 프레임워크(holistic theoretical framework)에 통합시키는 데 사용된다. 작동 규칙(예를 들면, 규칙(1356))의 우선순위는 위반의 빈도에 기초하여 조정될 수 있다. 예를 들어, 인간 운전자 데이터로부터의 경험적 증거는 도 13b의 저장된 거동 규칙들(1352)을 도로 안전에 적용하는 것을 지원하는 데 사용될 수 있다.
도 14는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 AV(100) 작동에 대한 예시적인 흐름 다이어그램을 예시한다. (도 13a를 참조하여 기술된) 제1 실시예에서, 도 14의 프로세스는, 도 1을 참조하여 보다 자세히 기술된, AV(100)의 프로세서(146)에 의해 수행된다. 즉, 적어도 하나의 프로세서(146)는 AV(100)의 계획 회로(404) 내에 위치한다. 적어도 하나의 프로세서(146)는 AV(100)의 작동 동안 제1 센서 데이터 및 제2 센서 데이터(AV 거동)를 수신한다. 따라서, 본원에 기술된 규칙 기반 제어 접근법(AV 거동을 선택함)은 궤적 검사기로서 또는 규칙 기반 계획 회로(404) 또는 제어기로서 실시간 평가를 위해 AV(100) 상에서 실행된다. 마찬가지로, 실시예들은 상이한 및/또는 추가적인 단계들을 포함할 수 있거나, 또는 단계들을 상이한 순서들로 수행할 수 있다. 계획 회로(404)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다.
(도 13a를 참조하여 기술된) 제2 실시예에서, (서버(136) 상의) 적어도 하나의 프로세서는 (도 13a를 참조하여 기술된) 제2 궤적에 기초하여 AV(100)의 계획 회로(404)의 동작을 조정한다. 제2 실시예에서, 적어도 하나의 프로세서는 AV(100) 외부의 컴퓨터 디바이스(서버(136)) 상에 위치한다. 서버(136)는 AV(100)의 작동 이후에 제1 센서 데이터(AV 거동) 및 제2 센서 데이터를 수신한다. 예를 들어, 도 14에 예시된 바와 같이, 계획 회로(404)의 모션 계획 프로세스는 거동 규칙들의 위반들의 빈도에 기초하여 조정된다. 예를 들어, (도 13b를 참조하여 보다 상세히 예시되고 기술된) 검증된 규칙서(1352)는 자동화된 차량 시스템들(120)을 설계 및 구현하는 데 적용된다. 일반적으로 시스템 모델들을 갖는 머신 운전자들의 경우에, 운전 성능은 규칙서들을 사용하여 AV 운전 성능을 평가(AV 거동을 평가)할 수 있다.
일 실시예에서, AV(100)의 모션 계획 프로세스의 위험 레벨은 저장된 거동 규칙들(1352)(AV 거동을 설명함)의 하나 이상의 위반의 빈도에 기초하여 결정된다. 규칙들(1352)은 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, 계획된 궤적들에 대한 AV 시스템(120)의 설계 및 계획 회로(404)의 성능의 효과는 도 14에 도시된 바와 같이 모델링된다. AV 시스템(120)은 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 계획 회로(404)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다. 계획된 궤적들은 AV 시스템(120)의 설계 및 서브시스템(계획 회로(404)) 성능의 함수로서 전체적인 운전 성능을 측정하기 위해 점수가 매겨진다. (서브)시스템 요구사항들은 거동 명세(규칙들(1352))로부터 도출되고, 성능을 최적화하며, 리소스들을 우선순위화한다.
일 실시예에서, 적어도 하나의 프로세서는 최소 위반 계획, 모델 예측 제어(MPC), 또는 머신 러닝 중 적어도 하나를 사용하여 다수의 대안 궤적들로부터 제2 궤적을 선택한다. 최소 위반 계획은, 계층적 규칙 세트(1352)로부터 생기는 제약조건들과 같은, 논리로부터 비롯되는 개별 제약조건들과 함께 다수의 연속적인 목적들(예를 들면, 최단 경로를 찾는 것)을 사용하는 것을 가능하게 하는 AV(100)에 대한 경로 계획 방법을 지칭한다. MPC는 제약조건 세트(계층적 규칙 세트(1352))를 충족시키면서 프로세스(궤적 생성 및 선택)를 제어하는 데 사용되는 방법을 지칭한다. 일 실시예에서, MPC는 선형적 경험 모델인 AV 시스템(120)의 동적 모델을 사용한다. AV 시스템(120)은 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 머신 러닝은 경험을 통해 자동으로 개선되는 모델을 사용하여 대안 궤적을 생성하는 것을 지칭한다. AV 시스템(120) 또는 서버(136)는 예측 또는 결정을 하도록 명시적으로 프로그래밍되지 않고 그렇게 하기 위해, "트레이닝 데이터"라고 하는, 샘플 데이터에 기초하여 수학적 모델을 구축한다. 예를 들어, 제2 궤적을 선택하는 것을 트레이닝 데이터는 계층적 규칙 세트(1352) 및 특정 규칙들을 위반하는 것의 알려진 결과들이다. 따라서, 도 14에 예시된 바와 같이, 도 13a를 참조하여 기술된 제2 실시예에서, 후보 궤적들은 AV(100)가 어떻게 거동했는지 및 시나리오에 관한 정보 덕분으로 사후에 다수의 접근법들로부터 선택된다.
예를 들어, 온라인 프레임워크는, 기준 궤적 추적 오류가 비용에 포함되는, 이동 구간(모델 예측 제어, MPC) 최적화를 구현한다. 온라인 프레임워크에서, 주어진 시간에서의 활성 규칙들(예를 들면, 검출된 인스턴스들 또는 특정 시나리오에 대응하는 규칙들)은 온라인 사례에서의 최적화 문제에 제약조건들을 추가한다. 규칙들은 (보행자와의 이격거리, 주차된 자동차와의 이격거리와 같은) 인스턴스 종속적인 규칙들 및 (속력 제한 및 편안함과 같은) 인스턴스 독립적인 규칙들로 분류된다. 인스턴스 독립적인 규칙들은 항상 고려되어야 한다. 그렇지만, 인스턴스 종속적인 규칙들은 대응하는 인스턴스들이 AV의 로컬 감지 범위 내에 있을 때에만 고려되어야 한다. 로컬 감지 범위는 일반적으로, AV 상에 위치하거나 AV와 연관된 센서들에 의해 포착되는 데이터와 같은, AV에 이용 가능한 센서 데이터의 범위를 지칭한다.
실시예들에서, 초기화 시에 또는 시간 t=0에서, 인스턴스 종속적인 규칙들은 계층적 규칙 세트에서 비활성화된다. 인스턴스들이 발생함에 따라, 대응하는 인스턴스 종속적인 규칙들이 활성화된다. 현재 시간 t에서의 각각의 인스턴스에 대해, 비활성화된 규칙들(예를 들면, 현재 인스턴스들에 적용 가능하지 않은 규칙들)은 계층적 규칙 세트로부터 제거된다. 따라서 온라인 접근법에서는, 인스턴스들이 발생함에 따라 계층적 규칙 세트가 반복적으로 수정된다. 예들에서, 수정은 미리 결정된 시간 기간에 따라 주기적으로 발생한다. 예들에서, 대응하는 인스턴스가 발생하는 한, 활성화된 규칙들이 활성화된다.
또다시 도 13b를 참조하면, 계층적 규칙 세트(1352)가 제공된다. 도 13a와 관련하여 기술된 바와 같이 AV의 주행 차선을 차단하는 바리케이드 및 대상체들(예를 들면, 1304, 1308, 도 13a)을 갖는 예를 고려한다. 이 예에서, 인스턴스는 주행 차선에 있는 바리케이드이다. 도 13a의 예에 예시된 바와 같이, AV의 로컬 감지 범위 내에 어떠한 보행자들도 없다. 이 예에서는, 보행자들과 연관된 규칙들(예를 들면, 검출된 인스턴스 없음)이 비활성화된다. AV가 바리케이드를 빙 돌아서 운행함에 따라 보행자들의 인스턴스가 검출되는 것과 연관된 규칙들이 계층적 규칙 세트로부터 삭제된다.
도 15는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다. (도 13a를 참조하여 기술된) 제1 실시예에서, 도 15의 프로세스는, 도 1을 참조하여 보다 자세히 기술된, AV(100)의 프로세서(146)에 의해 수행된다. (도 13a를 참조하여 기술된) 제2 실시예에서, (서버(136) 상의) 적어도 하나의 프로세서가 도 15의 프로세스를 수행한다. 마찬가지로, 실시예들은 상이한 및/또는 추가적인 단계들을 포함할 수 있거나, 또는 단계들을 상이한 순서들로 수행할 수 있다.
단계(1504)에서, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 제1 궤적(예를 들면, 궤적(198))이 AV(100)의 계층적 작동 규칙 세트(1352)의 임의의 거동 규칙을 위반하는지 여부를 결정한다. 궤적(198)은 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 계층적 규칙 세트(1352)는 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 단계(1508)에서, 프로세서가 어떤 규칙들도 위반되지 않는다는 것을 발견하는 경우, 프로세스는 단계(1512)로 이동하고 계획 회로(404) 및 AV 거동은 검증 검사를 통과한다. 계획 회로(404)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다.
단계(1508)에서, 프로세서가 규칙이 위반된다는 것을 발견하는 경우, 프로세스는 단계(1516)로 이동한다. 위반된 규칙은 제1 우선순위를 갖는 제1 거동 규칙으로서 표시된다. 단계(1516)에서, 프로세서는 대안의 보다 덜 위반하는 궤적이 존재하는지 여부를 결정한다. 예를 들어, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 AV(100)에 대한 다수의 대안 궤적들을 생성한다. 도 13a를 참조하여 보다 상세히 기술된 바와 같이 다수의 대안 궤적들이 CBF들을 사용하여 생성될 수 있다. 프로세서는, 제2 거동 규칙이 제1 우선순위보다 낮은 제2 우선순위를 갖도록, 계층적 규칙 세트(1352)의 제2 거동 규칙만을 위반하는 제2 궤적이 존재하는지 여부를 식별한다.
제1 우선순위보다 낮은 우선순위를 갖는 제2 거동 규칙만을 위반하는 다른 궤적이 존재하지 않는 경우, 프로세스는 단계(1520)로 이동한다. 계획 회로(404) 및 AV 거동은 검증 검사를 통과한다. 단계(1516)에서, 프로세서가 대안의 보다 덜 위반하는 궤적이 존재한다고 결정하는 경우, 계획 회로(404) 및 AV 거동은 검증 검사에 실패한다. 선택적으로, 프로세서는 단계(1528)로 이동하여 최적화를 중지할지(단계(1532)로 더 이동하여 종료할지) 또는 단계(1536)로 이동할지를 결정할 수 있다. 단계(1536)에서, 프로세서는 가장 덜 위반하는 궤적, 예를 들면, 어떤 규칙도 위반하지 않거나 임의의 위반된 규칙의 가장 낮은 우선순위를 갖는 규칙을 위반하는 대안 궤적을 식별하기 위해 다수의 대안적 궤적들의 각각의 대안 궤적을 조사한다. 가장 덜 위반하는 궤적이 (도 13a를 참조하여 기술된 제1 실시예에서) AV(100)를 작동시키거나 (도 13a를 참조하여 기술된 제2 실시예에서) 계획 회로(404)를 조정하는 데 사용될 수 있다.
도 16은 하나 이상의 실시예에 따른, AV(100)에 대한 거동 규칙 검사를 수행하는 예를 예시한다. AV(100)는 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 도 16에서, 그래픽 사용자 인터페이스는 서버(136) 상에 디스플레이되며, 여기서 다수의 대안 궤적들이 생성된다. 제1 센서 데이터 및 제2 센서 데이터에 기초하여 가장 덜 위반하는 궤적을 식별하기 위해 상이한 궤적들이 조사된다. 도 16에 도시된 바와 같이 AV(100)에 대한 거동 규칙 검사를 수행할 때 그래픽 사용자 인터페이스 상에 생성되는 데이터는, 도 13a를 참조하여 기술된, 제2 실시예에서 계획 회로(404)에 의한 궤적 생성을 조정 및 개선시키는 데 사용된다. 계획 회로(404)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다.
도 16은 AV들이 교통 법규 및 합리적인 운전 거동에 대한 문화적 기대치로부터 설계된 복잡한 명세들(예를 들면, 규칙서(1352))을 충족시키기 위한 제어 전략들의 구현을 디스플레이한다. 이러한 명세들은 규칙서(1352)라고 하는 사전 순서 구조(pre-order structure)를 구성하는 것에 의해 규칙들(도 13b 참조) 및 우선순위들로서 명시된다. 개시된 실시예들은 규칙서(1352) 내의 규칙들의 충족이 그들의 우선순위들에 기초하여 반복적으로 완화되는 재귀적 프레임워크를 제시한다. 일 실시예에서, 원하는 상태들로의 수렴은 CLF들을 사용하여 달성되고 안전은 CBF들을 통해 시행된다. CLF들은 시스템들을 원하는 상태들로 안정화시키는 데 사용될 수 있다. CBF들은 세트 순방향 불변성(set forward-invariance)을 시행하고 안전 요구사항들의 충족을 개선시키는 데 사용될 수 있다. 프레임워크는 궤적들의 사후 통과/실패 평가에 사용될 수 있다 - 프로세스가 규칙서(1352)의 보다 적은 위반에 이르게 하는 대안 궤적을 생성하는 제어기를 발견하는 경우 주어진 궤적(198)이 거부된다 -.
도 17은 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다. (도 13a를 참조하여 기술된) 제1 실시예에서, 도 17의 프로세스는, 도 1을 참조하여 보다 자세히 기술된, AV(100)의 프로세서(146)에 의해 수행된다. (도 13a를 참조하여 기술된) 제2 실시예에서, (서버(136) 상의) 적어도 하나의 프로세서가 도 17의 프로세스를 수행한다. 마찬가지로, 실시예들은 상이한 및/또는 추가적인 단계들을 포함할 수 있거나, 또는 단계들을 상이한 순서들로 수행할 수 있다.
단계(1704)에서, 프로세서는 AV(100)에 대한 궤적(예를 들면, 궤적(198))이 용인 가능한지 여부를 결정한다. 궤적(198) 및 AV(100)는 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, 단계(1704)에서, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 궤적(198)이 AV(100)의 계층적 작동 규칙 세트(1352)의 임의의 거동 규칙을 위반하는지 여부를 결정한다. 계층적 규칙 세트(1352)는 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 단계(1704)에서, 프로세서가 어떤 규칙들도 위반되지 않는다는 것을 발견하는 경우, 프로세스는 단계(1708)로 이동하고 계획 회로(404) 및 AV 거동은 검증 검사를 통과한다. 계획 회로(404)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다.
단계(1704)에서, 프로세서가 규칙이 위반된다는 것을 발견하는 경우, 프로세스는 단계(1712)로 이동한다. 위반된 규칙은 제1 우선순위를 갖는 제1 거동 규칙으로서 표시된다. 프로세스는 단계(1716)로 이동한다. 단계(1716)에서, 프로세서는 대안의 보다 덜 위반하는 궤적이 존재하는지 여부를 결정한다. 예를 들어, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 AV(100)에 대한 다수의 대안 궤적들을 생성한다. 도 13a를 참조하여 보다 상세히 기술된 바와 같이 다수의 대안 궤적들이 제어 장벽 함수들을 사용하여 생성될 수 있다. 프로세서는, 제2 거동 규칙이 제1 우선순위보다 낮은 제2 우선순위를 갖도록, 계층적 규칙 세트(1352)의 제2 거동 규칙만을 위반하는 제2 궤적이 존재하는지 여부를 식별한다.
제1 우선순위보다 낮은 우선순위를 갖는 제2 거동 규칙만을 위반하는 다른 궤적이 존재하지 않는 경우, 프로세스는 단계(1720)로 이동한다. 계획 회로(404) 및 AV 거동은 검증 검사를 통과한다. 단계(1716)에서, 프로세서가 대안의 보다 덜 위반하는 궤적이 존재한다고 결정하는 경우, 계획 회로(404) 및 AV 거동은 검증 검사에 실패한다.
도 18은 하나 이상의 실시예에 따른, 차량에 대한 거동 규칙 검사를 수행하는 것의 예시적인 출력을 예시한다. (도 13a를 참조하여 기술된) 제1 실시예에서, 도 18의 예시적인 출력은, 도 1을 참조하여 보다 자세히 기술된, AV(100)의 프로세서(146)에 의해 사용된다. (도 13a를 참조하여 기술된) 제2 실시예에서, (서버(136) 상의) 적어도 하나의 프로세서가 도 18의 출력을 사용한다. 예시적인 출력은 검증 중인 후보 궤적(예를 들면, 궤적(198))이 규칙 R10(도로 상의 다른 활성 차량들과의 최소 횡방향 이격거리)을 위반한다는 것을 나타낸다. 예를 들어, 궤적(198)은 AV(100)로 하여금 최소 임계 거리보다 활성 차량(예를 들면, 차량(193))에 더 가까이에서 작동하게 한다. 차량(193)은 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예시적인 출력은 제2(대안) 궤적이 규칙 R10을 준수한다는 것을 나타낸다.
예시적인 출력은 후보 궤적(198)이 규칙 R8(도로 상의 다른 비활성 차량들과의 최소 횡방향 이격거리)을 위반한다는 것을 나타낸다. 예를 들어, 궤적(198)은 AV(100)로 하여금 최소 임계 거리보다 비활성 차량(예를 들면, 차량(1304))에 더 가까이에서 작동하게 한다. 차량(1304)은 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예시적인 출력은 대안 궤적이 규칙 R8을 준수한다는 것을 나타낸다. 규칙 R10은 규칙 R8보다 높은 우선순위를 가지며, 이는 AV(100)가 규칙 R10을 충족시키기 위해 규칙 R8을 위반해야 할지라도 규칙 R10을 충족시키기 위해 노력해야 한다는 것을 의미한다.
예시적인 출력은 후보 궤적(198)이 규칙 R4b(도로 상의 최소 속력 제한)를 준수한다는 것을 나타낸다. 예를 들어, 궤적(198)은 AV(100)로 하여금 최소 속력 제한보다 느리게 운전하게 한다. 예시적인 출력은 대안 궤적이 규칙 R4b를 위반한다는 것을 나타낸다. 규칙들 R8, R10은 규칙 R4b보다 높은 우선순위를 가지며, 이는 AV(100)가 규칙들 R8, R10을 충족시키기 위해 규칙 R4b를 위반해야 할지라도 규칙들 R8, R10을 충족시키기 위해 노력해야 한다는 것을 의미한다. 그렇지만, 궤적(198)은 AV(100)로 하여금 규칙들 R8, R10을 위반하면서 규칙 R4b를 준수하게 한다. 대안 궤적은 AV(100)로 하여금 규칙들 R8, R10을 준수하면서 규칙 R4b를 위반하게 한다. 따라서, 궤적(198)에 대한 궤적 검사는 실패하고 대안 궤적이 사용된다.
도 19는 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 차량 작동에 대한 예시적인 흐름 다이어그램을 예시한다. (도 13a를 참조하여 기술된) 제1 실시예에서, 도 19의 프로세스는, 도 1을 참조하여 보다 자세히 기술된, AV(100)의 프로세서(146)에 의해 수행된다. (도 13a를 참조하여 기술된) 제2 실시예에서, (서버(136) 상의) 적어도 하나의 프로세서가 도 19의 프로세스를 수행한다. 마찬가지로, 실시예들은 상이한 및/또는 추가적인 단계들을 포함할 수 있거나, 또는 단계들을 상이한 순서들로 수행할 수 있다.
단계(1904)에서, 프로세서는 AV(100)의 제1 센서 세트(120)로부터 제1 센서 데이터를 수신하고 AV(100)의 제2 센서 세트(121)로부터 제2 센서 데이터를 수신한다. 센서들(120, 121)은 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다. 제1 센서 데이터는 제1 궤적(198)에 따른 AV(100)의 작동을 나타낸다. 궤적(198)은 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 제2 센서 데이터는 적어도 하나의 대상체(1304, 1308)를 나타낸다. 대상체들(1304, 1308)은 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다.
단계(1908)에서, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 제1 궤적(198)이 AV(100)의 계층적 작동 규칙 세트(1352)의 제1 거동 규칙(예를 들면, 규칙(1360))을 위반한다고 결정한다. 규칙(1360) 및 계층적 규칙 세트(1352)는 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 제1 거동 규칙(1350)은 제1 우선순위를 갖는다.
단계(1912)에서, 프로세서는 제1 센서 데이터 및 제2 센서 데이터에 기초하여 AV(100)에 대한 다수의 대안 궤적들을 생성한다. 다수의 대안 궤적들은 CBF들을 사용하여 생성된다. 프로세서는 보다 적은 위반을 갖는 제2 궤적이 존재하는지를 결정하기 위해 충족시킬 필요가 있는 규칙들을 반복적으로 완화시킨다. 프로세서는 CLF들과 CBF들을 사용하며, 이들은 함께, 실행 가능한 보다 낮은 위반의 궤적이 존재하는 경우, 알고리즘이 해당 궤적으로 수렴하도록 보장한다. 반복적으로 완화되는 규칙들은, 그래프 기반 탐색, 결합된 MPC, 또는 머신 러닝 기반 계획 방법을 포함한, 다른 궤적 생성 방법들과 함께 사용될 수 있다.
단계(1916)에서, 프로세서는 다수의 대안 궤적들로부터 제2 궤적을 식별한다. 제2 궤적은 계층적 규칙 세트(1352)의 제2 거동 규칙(예를 들면, 규칙(1356))을 위반한다. 규칙(1356)은 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 제2 거동 규칙은 제1 우선순위보다 낮은 제2 우선순위를 갖는다. 제약조건들은 연속 미분 가능하여, 최적화 문제를 2차 문제(quadratic problem)로 만들어야 한다. 연속 미분 가능 함수는 그의 정의역 내의 각각의 포인트에서 도함수가 존재하는 함수를 지칭한다. 환언하면, 연속 미분 가능 함수의 그래프는 그의 정의역 내의 각각의 내부 포인트에서 수직이 아닌 접선을 갖는다. 규칙들은 보다 복잡한 규칙들보다 평가하기가 더 빠른 보수적이고 미분 가능한 함수들로 미분 가능하지 않도록 근사된다. 최적화 문제가 2차이기 때문에, 계산 복잡도가 감소된다. 예를 들어, Newton-Krylov 솔버, Anderson 솔버 또는 Broyden 솔버와 같은 비선형 솔버는 AV 시스템(120)을 비선형 시스템으로서 모델링하는 것에 의해 최적화 문제를 푸는 데 사용될 수 있다. 따라서, 이 방법은 엄격한 자동차 안전 요구사항들을 충족시키면서 AV(100)의 내장된 소프트웨어 상에서 구현하기가 보다 쉽다.
단계(1920)에서, 제2 궤적을 식별하는 것에 응답하여, 프로세서는 제2 궤적에 기초하여 AV(100)를 작동시키라는 메시지를 AV(100)의 제어 회로(406)로 송신한다. 제어 회로(406)는 도 4를 참조하여 보다 상세히 예시되고 기술되어 있다. 본원에 개시된 실시예들은 사후에 테스트 사례들에서 AV 거동을 통과 또는 실패하는 확장 가능하고 객관적인 방식을 제공하는 것에 의해 온 카(on-car) 계획 및 제어를 넘어 확장된다. 사후 평가는 보다 "합리적인" 선택들이 AV(100)에 이용 가능하지 않았다는 것을 객관적으로 실증하는 것에 의해 AV(100)가 현실 세계에서 내린 운전 선택들을 정당화시키는 데 도움이 될 수 있다.
도 20은 하나 이상의 실시예에 따른, 거동 규칙 검사를 사용하는 AV(100) 작동을 위한 예시적인 계층적 규칙 세트를 예시한다. AV(100)는 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 거동 규칙은, AV(100)가 교통 법규, 윤리 및 지역 문화를 준수하도록, AV(100)에 대한 원하는 거동, 예를 들면, "차선을 유지", "보행자들(192)로부터 이격거리를 유지", "최대 속력 제한을 준수", "기한 내에 목표(199)에 도달"을 명시한다. 보행자(192)는 도 1을 참조하여 보다 상세히 예시되고 기술되어 있다.
규칙들은 차량 궤적들에 걸쳐 해석된다. 궤적(198)과 규칙이 주어지면, 위반 점수는 궤적(198)에 의한 규칙의 위반 정도를 포착한다. 궤적(198)은 도 1 및 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다. 예를 들어, AV(100)가 궤적(198)을 따라 1 m의 거리만큼 이중 라인(1312)을 넘어 차선(1320)에 도달하는 경우, "차선을 유지" 규칙에 대한 해당 궤적(198)의 위반 점수는 1 m이다. 이중 라인(1312) 및 차선(1320)은 도 13a를 참조하여 보다 상세히 예시되고 기술되어 있다.
규칙서(1352)는 규칙들에 대한 우선순위를 정의하고, AV 궤적들의 순위를 매기는 데 사용될 수 있는 사전 순서를 부과한다. 규칙서(1352)는 도 13b를 참조하여 보다 상세히 예시되고 기술되어 있다. 규칙서(1352)는 튜플 <R, ≤>이고, 여기서 R은 유한한 규칙 세트를 나타내며 ≤은 R에 대한 사전 순서를 나타낸다. 규칙서(1352)는 또한 방향 그래프에 의해 표현될 수 있으며, 여기서 각각의 노드는 규칙이고 2 개의 규칙 사이의 에지는 제1 규칙이 제2 규칙보다 높은 우선순위를 갖는다는 것을 의미한다. 형식적으로, 그래프에서의 r1 → r2는 r1 ≤ r2(r2 ∈ R이 r1 ∈ R보다 높은 우선순위를 갖는다)를 의미한다. 사전 순서를 사용하면, 2 개의 규칙이 세 가지 관계, 즉 비교 가능(하나가 다른 것보다 높은 우선순위를 가짐), 비교 불가능, 또는 동등(각각이 동일한 우선순위를 가짐) 중 하나에 있을 수 있다.
도 20에 도시된 규칙서는 6 개의 규칙을 포함한다. 이 예에서, 규칙들 r1 및 r2는 비교 불가능하고, 둘 모두가 규칙들 r3 및 r4보다 높은 우선순위를 갖는다. 규칙들 r3 및 r4는 동등(r3 ≤ r4이고 r4 ≤ r3임)하지만, 규칙 r5와 비교 불가능하다. 규칙 r6은 모든 규칙들 중에서 가장 낮은 우선순위를 갖는다.
전술한 설명에서, 본 발명의 실시예들은 구현마다 달라질 수 있는 다수의 특정 세부 사항들을 참조하여 기술되었다. 따라서, 상세한 설명 및 도면들은 제한적인 의미보다는 예시적인 의미로 간주되어야 한다. 본 발명의 범위의 유일한 독점적인 지표, 및 출원인이 본 발명의 범위이도록 의도한 것은, 본 출원에서 특정 형태로 나오는 일련의 청구항의 문언적 등가 범위이며, 그러한 청구항이 나오는 특정 형태는 임의의 후속 보정을 포함한다. 그러한 청구항들에 포함된 용어들에 대한 본원에서 명시적으로 기재된 임의의 정의들은 청구항들에서 사용되는 그러한 용어들의 의미를 결정한다. 추가적으로, 전술한 설명 및 이하의 청구항들에서 "더 포함하는"이라는 용어가 사용될 때, 이 문구에 뒤따르는 것은 추가적인 단계 또는 엔티티, 또는 이전에 언급된 단계 또는 엔티티의 서브단계/서브엔티티일 수 있다.

Claims (17)

  1. 방법으로서,
    적어도 하나의 프로세서에 의해, 차량의 제1 센서 세트로부터 제1 센서 데이터를 수신하고 상기 차량의 제2 센서 세트로부터 제2 센서 데이터를 수신하는 단계 - 상기 제1 센서 데이터는 제1 궤적에 따른 상기 차량의 작동을 나타내고, 상기 제2 센서 데이터는 적어도 하나의 대상체를 나타냄 -;
    상기 적어도 하나의 프로세서에 의해, 상기 제1 센서 데이터 및 상기 제2 센서 데이터에 기초하여 상기 제1 궤적이 상기 차량의 계층적인 복수의 작동 규칙들 중 제1 거동 규칙을 위반한다고 결정하는 단계 - 상기 제1 거동 규칙은 제1 우선순위를 가짐 -;
    상기 적어도 하나의 프로세서에 의해, 상기 제1 센서 데이터 및 상기 제2 센서 데이터에 기초하여 상기 차량에 대한 복수의 대안 궤적들을 생성하는 단계 - 상기 복수의 대안 궤적들은 제어 장벽 함수들을 사용하여 생성됨 -;
    상기 적어도 하나의 프로세서에 의해, 상기 복수의 대안 궤적들로부터 제2 궤적을 식별하는 단계 - 상기 제2 궤적은 상기 계층적인 복수의 규칙들 중 제2 거동 규칙을 위반하며, 상기 제2 거동 규칙은 상기 제1 우선순위보다 낮은 제2 우선순위를 가짐 -; 및
    상기 제2 궤적을 식별하는 것에 응답하여, 상기 적어도 하나의 프로세서에 의해, 상기 제2 궤적에 기초하여 상기 차량을 작동시키라는 메시지를 상기 차량의 제어 회로로 송신하는 단계
    를 포함하는, 방법.
  2. 제1항에 있어서,
    상기 적어도 하나의 프로세서는 상기 차량의 계획 회로 내에 위치하고, 상기 적어도 하나의 프로세서는 상기 차량의 작동 동안 상기 제1 센서 데이터 및 상기 제2 센서 데이터를 수신하는 것인, 방법.
  3. 제1항에 있어서,
    상기 적어도 하나의 프로세서에 의해, 상기 제2 궤적에 기초하여 상기 차량의 계획 회로의 동작을 조정하는 단계
    를 더 포함하며, 상기 적어도 하나의 프로세서는 상기 차량 외부의 컴퓨터 디바이스 상에 위치하고, 상기 적어도 하나의 프로세서는 상기 차량의 작동 이후에 상기 제1 센서 데이터 및 상기 제2 센서 데이터를 수신하는 것인, 방법.
  4. 제1항에 있어서,
    상기 제1 센서 세트는 가속도계, 조향 휠 각도 센서, 휠 센서, 또는 브레이크 센서 중 적어도 하나를 포함하는 것인, 방법.
  5. 제1항에 있어서,
    상기 제1 센서 데이터는 상기 차량의 속력, 상기 차량의 가속도, 상기 차량의 진로, 상기 차량의 각속도, 또는 상기 차량의 토크 중 적어도 하나를 포함하는 것인, 방법.
  6. 제1항에 있어서,
    상기 제2 센서 세트는 LiDAR, RADAR, 카메라, 마이크로폰, 적외선 센서, 또는 SONAR(sound navigation and ranging) 센서 중 적어도 하나를 포함하는 것인, 방법.
  7. 제1항에 있어서,
    상기 제2 센서 데이터는 상기 적어도 하나의 대상체의 이미지, 상기 적어도 하나의 대상체의 속력, 상기 적어도 하나의 대상체의 가속도, 상기 적어도 하나의 대상체와 상기 차량 사이의 횡방향 거리 또는 다른 운동학적 데이터 중 적어도 하나를 포함하는 것인, 방법.
  8. 제1항에 있어서,
    상기 적어도 하나의 프로세서에 의해, 최소 위반 계획, 모델 예측 제어, 또는 머신 러닝 중 적어도 하나를 사용하여 상기 복수의 대안 궤적들로부터 상기 제2 궤적을 선택하는 단계
    를 더 포함하며,
    상기 선택하는 단계는 상기 계층적인 복수의 규칙들에 기초한 것인, 방법.
  9. 제1항에 있어서,
    상기 계층적인 복수의 규칙들의 각각의 거동 규칙은 상기 계층적인 복수의 규칙들의 각각의 다른 거동 규칙에 대한 각자의 우선순위를 가지며, 상기 각자의 우선순위는 상기 각각의 다른 거동 규칙에 대한 상기 각각의 거동 규칙을 위반할 위험 레벨을 나타내는 것인, 방법.
  10. 제1항에 있어서,
    상기 제1 거동 규칙을 위반하는 것은 상기 차량과 상기 적어도 하나의 대상체 사이의 횡방향 거리가 임계 횡방향 거리 아래로 감소하도록 상기 차량을 작동시키는 것을 포함하는 것인, 방법.
  11. 제1항에 있어서,
    상기 제1 거동 규칙을 위반하는 것은 상기 차량이 제한 속력을 초과하도록 상기 차량을 작동시키는 것을 포함하는 것인, 방법.
  12. 제1항에 있어서,
    상기 제1 거동 규칙을 위반하는 것은 상기 차량이 목적지에 도달하기 전에 정지하도록 상기 차량을 작동시키는 것을 포함하는 것인, 방법.
  13. 제1항에 있어서,
    상기 제1 거동 규칙을 위반하는 것은 상기 차량이 상기 적어도 하나의 대상체와 충돌하도록 상기 차량을 작동시키는 것을 포함하는 것인, 방법.
  14. 제1항에 있어서,
    상기 적어도 하나의 프로세서에 의해, 상기 제2 센서 데이터에 기초하여 상기 적어도 하나의 대상체의 경로를 결정하는 단계
    를 더 포함하며,
    상기 제1 궤적이 상기 제1 거동 규칙을 위반한다고 결정하는 단계는 또한 상기 적어도 하나의 대상체의 경로에 기초하는 것인, 방법.
  15. 자율 주행 차량으로서,
    하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 의해 실행될 때, 제1항 내지 제14항 중 어느 한 항에 기재된 방법을 수행하게 하는 명령어들을 저장하는 하나 이상의 비일시적 저장 매체
    를 포함하는, 자율 주행 차량.
  16. 하나 이상의 컴퓨팅 디바이스에 의해 실행될 때, 제1항 내지 제14항 중 어느 한 항에 기재된 방법을 수행하게 하는 명령어들을 저장하는 하나 이상의 비일시적 저장 매체.
  17. 방법으로서, 하나 이상의 컴퓨팅 디바이스에 의해 실행될 때, 제1항 내지 제14항 중 어느 한 항에 기재된 방법을 수행하게 하는 명령어들을 수반하는 머신 실행 동작을 수행하는 단계
    를 포함하며,
    상기 머신 실행 동작은 상기 명령어들을 전송하는 것, 상기 명령어들을 수신하는 것, 상기 명령어들을 저장하는 것, 또는 상기 명령어들을 실행하는 것 중 적어도 하나인 것인, 방법.
KR1020210140948A 2020-10-23 2021-10-21 거동 규칙 검사를 사용한 차량 작동 KR102626145B1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US202063105006P 2020-10-23 2020-10-23
US63/105,006 2020-10-23
US202163216953P 2021-06-30 2021-06-30
US63/216,953 2021-06-30
US17/497,245 US20220126876A1 (en) 2020-10-23 2021-10-08 Vehicle operation using behavioral rule checks
US17/497,245 2021-10-08

Publications (2)

Publication Number Publication Date
KR20220054534A true KR20220054534A (ko) 2022-05-03
KR102626145B1 KR102626145B1 (ko) 2024-01-17

Family

ID=78806067

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210140948A KR102626145B1 (ko) 2020-10-23 2021-10-21 거동 규칙 검사를 사용한 차량 작동

Country Status (5)

Country Link
US (1) US20220126876A1 (ko)
KR (1) KR102626145B1 (ko)
CN (1) CN114510020A (ko)
DE (1) DE102021211781A1 (ko)
GB (2) GB2615193B (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11945440B2 (en) 2019-08-23 2024-04-02 Motional Ad Llc Data driven rule books
US11938929B2 (en) * 2021-12-15 2024-03-26 Ford Global Technologies, Llc Obstacle avoidance for vehicle with trailer
US20240042993A1 (en) * 2022-08-04 2024-02-08 Motional Ad Llc Trajectory generation utilizing diverse trajectories
US12037012B2 (en) * 2022-10-14 2024-07-16 Motional Ad Llc Ensemble-based vehicle motion planner
US11919514B1 (en) * 2023-02-06 2024-03-05 Plusai, Inc. Safety filter with preview data to improve the safety of steer commands

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009101733A (ja) * 2007-10-19 2009-05-14 Toyota Motor Corp 車両走行制御装置
JP2019006280A (ja) * 2017-06-26 2019-01-17 本田技研工業株式会社 車両制御システム、車両制御方法、および車両制御プログラム
JP2019528499A (ja) * 2017-07-13 2019-10-10 ベイジン ディディ インフィニティ テクノロジー アンド ディベロップメント カンパニー リミティッド 軌跡決定のためのシステム及び方法
KR20190129020A (ko) * 2019-10-29 2019-11-19 엘지전자 주식회사 사고 예방을 위한 차량 제어 방법 및 장치
US20200192391A1 (en) * 2018-12-18 2020-06-18 Aptiv Technologies Limited Operation of a vehicle using motion planning with machine learning

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012021282A1 (de) * 2012-10-29 2014-04-30 Audi Ag Verfahren zur Koordination des Betriebs von vollautomatisiert fahrenden Kraftfahrzeugen
US9645577B1 (en) * 2016-03-23 2017-05-09 nuTonomy Inc. Facilitating vehicle driving and self-driving
US10254121B2 (en) * 2017-01-23 2019-04-09 Uber Technologies, Inc. Dynamic routing for self-driving vehicles
US11392120B2 (en) * 2017-09-08 2022-07-19 Motional Ad Llc Planning autonomous motion
DE102018215949A1 (de) * 2018-09-19 2020-03-19 Robert Bosch Gmbh Verfahren zur Trajektorienplanung eines beweglichen Objektes
CN112996703A (zh) * 2018-12-18 2021-06-18 动态Ad有限责任公司 使用多个运动约束的运载工具的操作

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009101733A (ja) * 2007-10-19 2009-05-14 Toyota Motor Corp 車両走行制御装置
JP2019006280A (ja) * 2017-06-26 2019-01-17 本田技研工業株式会社 車両制御システム、車両制御方法、および車両制御プログラム
JP2019528499A (ja) * 2017-07-13 2019-10-10 ベイジン ディディ インフィニティ テクノロジー アンド ディベロップメント カンパニー リミティッド 軌跡決定のためのシステム及び方法
US20200192391A1 (en) * 2018-12-18 2020-06-18 Aptiv Technologies Limited Operation of a vehicle using motion planning with machine learning
KR20190129020A (ko) * 2019-10-29 2019-11-19 엘지전자 주식회사 사고 예방을 위한 차량 제어 방법 및 장치

Also Published As

Publication number Publication date
GB2602194B (en) 2023-02-08
KR102626145B1 (ko) 2024-01-17
US20220126876A1 (en) 2022-04-28
GB2615193B (en) 2024-02-21
GB202219098D0 (en) 2023-02-01
GB2602194A (en) 2022-06-22
GB202115226D0 (en) 2021-12-08
CN114510020A (zh) 2022-05-17
DE102021211781A1 (de) 2022-04-28
GB2615193A (en) 2023-08-02

Similar Documents

Publication Publication Date Title
US11320826B2 (en) Operation of a vehicle using motion planning with machine learning
KR102505300B1 (ko) 복수의 모션 제약을 사용하는 차량의 동작
KR102626145B1 (ko) 거동 규칙 검사를 사용한 차량 작동
US11568688B2 (en) Simulation of autonomous vehicle to improve safety and reliability of autonomous vehicle
KR20230085127A (ko) 데이터 기반 규칙 북
KR102518680B1 (ko) 속력 프로파일 추정
US11577754B2 (en) Autonomous vehicle operation using linear temporal logic
KR102657847B1 (ko) 거동 규칙 모델을 사용하는 차량 운행
CN114812589A (zh) 用于运载工具的方法、自主运载工具和存储介质
CN115328110A (zh) 用于自主运载工具的系统和方法以及存储介质
KR20220124616A (ko) 근접 규칙을 사용한 자율 주행 차량의 제어
KR20220136006A (ko) 자율 주행 차량의 성능을 평가하기 위한 테스트 시나리오의 선택
CN114815799A (zh) 运载工具、用于运载工具的方法和存储介质
CN116466697A (zh) 用于运载工具的方法、系统以及存储介质
CN115220439A (zh) 用于运载工具的系统和方法以及存储介质
KR102719202B1 (ko) 기동 생성을 사용한 차량 작동

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant