KR20210091394A - 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법 - Google Patents

탑승자 시선에 기초한 자율주행 제어장치 및 제어방법 Download PDF

Info

Publication number
KR20210091394A
KR20210091394A KR1020200004238A KR20200004238A KR20210091394A KR 20210091394 A KR20210091394 A KR 20210091394A KR 1020200004238 A KR1020200004238 A KR 1020200004238A KR 20200004238 A KR20200004238 A KR 20200004238A KR 20210091394 A KR20210091394 A KR 20210091394A
Authority
KR
South Korea
Prior art keywords
vehicle
interest
gaze
autonomous driving
occupant
Prior art date
Application number
KR1020200004238A
Other languages
English (en)
Inventor
송기봉
정준영
정상경
이철희
김현규
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020200004238A priority Critical patent/KR20210091394A/ko
Publication of KR20210091394A publication Critical patent/KR20210091394A/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0013—Planning or execution of driving tasks specially adapted for occupant comfort
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22—Display screens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80—Arrangements for controlling instruments
    • B60K35/81—Arrangements for controlling instruments for controlling displays
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
    • B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10—Path keeping
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18—Propelling the vehicle
    • B60W30/18009—Propelling the vehicle related to particular drive situations
    • B60W30/181—Preparing for stopping
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09—Driving style or behaviour
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/105—Speed
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0881—Seat occupation; Driver or passenger presence
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/089—Driver voice
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00—Input parameters relating to overall vehicle dynamics
    • B60W2520/04—Vehicle stop
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/225—Direction of gaze
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/60—Traffic rules, e.g. speed limits or right of way
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2720/00—Output or target parameters relating to overall vehicle dynamics
    • B60W2720/10—Longitudinal speed

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Combustion & Propulsion (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

본 발명의 실시 예에 따른 탑승자 시선에 기초한 자율주행 제어방법은 탑승자의 시선을 모니터링하여 시선 방향을 확인하는 단계, 시선 방향을 포함하는 행동패턴에 기초하여 차량 외부의 대상들 중에서 탑승자가 관심을 갖는 관심객체를 결정하는 단계, 및 관심객체의 위치에 기초하여 차량의 자율주행을 제어하는 단계를 포함한다.
본 발명의 자율 주행 차량, 사용자 단말기 및 서버 중 하나 이상은 인공 지능(Artificail Intelligenfce) 모듈, 드론(Unmanned Aerial Vehicle, UAV), 로봇, 증강 현실(Augmented Reality, AR) 장치, 가상 현실(virtual reality, VR) 장치, 5G 서비스와 관련된 장치 등과 연계될 수 있다.

Description

탑승자 시선에 기초한 자율주행 제어장치 및 제어방법{Autonomous Driving Control Device and Control Method based on the Passenger's Eye Tracking}
본 발명은 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법에 관한 것이다.
자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.
근래에는 운전자의 조작이 일부 또는 전부 배제된 상태에서 스스로 운행이 가능한 자율주행자동차(Autonomous Vehicle)의 연구가 활발히 이루어지고 있다.
자율주행 레벨이 높아질수록 탑승자의 행동은 더 자유로워지며, 이에 따라 자유로운 탑승자의 행동에 기초하여 탑승자의 다양한 요구를 충족시키기 위한 방안들이 제안되고 있다.
본 발명은 전술한 문제점을 해결하는 것을 목적으로 한다.
또한, 본 발명은 탑승자가 차량 외부의 대상들에 대해서 관심을 갖는 것에 기초하여, 차량의 자율주행을 제어하기 위한 것이다.
또한, 본 발명은 탑승자가 관심을 갖는 관심객체를 보다 오랫동안 응시할 수 있거나, 해당 관심객체에 대한 정보를 확인할 수 있도록 자율주행을 제어하기 위한 것이다.
본 발명의 실시 예에 따른 탑승자 시선에 기초한 자율주행 제어방법은 탑승자의 시선을 모니터링하여 시선 방향을 확인하는 단계, 시선 방향을 포함하는 행동패턴에 기초하여 차량 외부의 대상들 중에서 탑승자가 관심을 갖는 관심객체를 결정하는 단계, 및 관심객체의 위치에 기초하여 차량의 자율주행을 제어하는 단계를 포함한다.
상기 탑승자의 시선을 모니터링하는 단계는 상기 탑승자의 동공 위치를 모니터링하는 단계, 상기 동공 위치에 기초하여 가상의 평면에서의 응시영역을 결정하는 단계 및 상기 동공 위치와 상기 응시영역을 잇는 시선 방향을 결정하는 단계를 포함할 수 있다.
상기 관심객체를 결정하는 단계는 상기 시선방향으로부터 임계 범위 이내에 위치한 하나 이상의 객체들을 검출하는 단계 및 상기 객체들 중에서 미리 설정된 일정시간 동안 확인되는 객체를 관심객체로 결정하는 단계를 포함할 수 있다.
상기 탑승자의 시선을 모니터링하는 단계는 다수의 탑승자들 각각의 시선 방향을 결정하는 단계를 포함하고, 상기 관심객체를 결정하는 단계는 상기 다수의 탑승자들 시선 방향에 노출되는 객체들 중에서 가장 많은 시선 방향에 노출되는 객체를 관심객체로 결정하는 단계를 더 포함할 수 있다.
상기 관심객체를 결정하는 단계는 상기 탑승자의 음성신호를 인공지능 학습하는 단계를 더 포함할 수 있다.
상기 관심객체의 위치에 기초하여, 차량의 자율주행을 제어하는 단계는 상기 관심객체가 상기 차량과 임계거리 이상인 것에 기초하여, 현재 주행차로 보다 상기 관심객체로부터 멀리 위치한 주행차로를 선택하는 단계를 포함할 수 있다.
상기 관심객체의 위치에 기초하여, 차량의 자율주행을 제어하는 단계는 상기 관심객체가 상기 차량과 임계거리 미만인 것에 기초하여 현재 주행차로 보다 상기 관심객체와 가까이 위치한 주행차로를 선택하는 단계를 포함할 수 있다.
상기 관심객체의 위치에 기초하여 차량의 자율주행을 제어하는 단계는 목적지까지의 경로들 중에서 상기 관심객체와 임계거리 이내의 우회 경로들을 확인하는 단계, 상기 우회 경로들을 주행할 때의 주행시간을 예측하는 단계, 및 예측된 상기 우회 경로들의 주행시간에 기초하여 어느 하나의 우회 경로를 선택하고 선택된 우회 경로로 주행하는 단계를 포함할 수 있다.
상기 우회 경로를 선택하는 단계는 주행시간이 가장 긴 우회 경로를 선택할 수 있다.
상기 차량의 자율주행을 제어하는 단계는 상기 관심객체와의 임계거리 이내에 위치한 정차가능지역에 정차하는 단계를 더 포함할 수 있다.
상기 차량의 자율주행을 제어하는 단계는 상기 차량의 주행경로 상의 신호등을 검색하는 단계, 상기 차량이 상기 신호등에 의해서 정지할 필요성이 예측되는 것에 기초하여 상기 차량의 속도를 낮추는 단계를 더 포함할 수 있다.
상기 차량의 자율주행을 제어하는 단계는 상기 차량의 후방 차량들을 검색하는 단계, 상기 후방 차량들 중에서 가장 먼 거리에 위치한 후방 차량이 주행하는 차선으로 차선을 변경하는 단계 및 상기 차량의 속도를 낮추는 단계를 더 포함할 수 있다.
상기 차량의 자율주행을 제어하는 단계는 상기 차량의 주행에 따라 상기 관심객체의 위치가 이동하는 방향으로 상기 탑승자의 좌석을 회전시키는 단계를 더 포함할 수 있다.
상기 차량의 자율주행을 제어하는 단계는 상기 관심객체의 영상 및 정보를 획득하는 단계, 및 상기 관심객체의 영상 및 정보를 상기 탑승자에게 표시하는 단계를 더 포함할 수 있다.
본 발명의 실시 예에 따른 탑승자의 시선에 기초한 자율주행 제어장치는 차량 내 탑승자의 얼굴 영상을 획득하는 실내 카메라, 상기 차량 외부의 대상들에 대한 영상을 획득하는 실외 카메라 및 프로세서를 포함한다. 프로세서는 상기 얼굴 영상에서 시선 방향을 검출하고, 상기 차량 외부의 대상들 중에서 상기 시선 방향의 일정 범위 내에 위치한 객체들을 관심객체로 결정하며, 상기 관심객체에 기초하여 상기 자율주행을 제어한다.
상기 프로세서는 다수의 탑승자들 각각의 시선 방향을 결정하고, 상기 다수의 탑승자들 시선 방향에 노출되는 객체들 중에서 가장 많은 시선 방향에 노출되는 객체를 관심객체로 결정할 수 있다.
상기 프로세서는 상기 관심객체가 상기 차량과 임계거리 이상인 것에 기초하여, 현재 주행차로 보다 상기 관심객체로부터 멀리 위치한 주행차로를 선택할 수 있다.
상기 프로세서는 상기 관심객체가 상기 차량과 임계거리 미만인 것에 기초하여, 현재 주행차로 보다 상기 관심객체와 가까이 위치한 주행차로를 선택할 수 있다.
상기 프로세서는 상기 관심객체와 임계거리 이내에 위치한 우회 경로들 중에서 어느 하나를 선택하여 주행할 수 있다.
상기 프로세서는 상기 관심객체의 영상 및 정보를 디스플레이에 표시하도록 제어할 수 있다.
본 발명에 의하면, 탑승자의 시선에 기초하여 차량의 속도 또는 주행경로를 실시간으로 재설정하기 때문에, 탑승자는 관심객체를 보다 오랫동안 응시할 수 있다.
도 1은 본 명세서에서 제안하는 방법들이 적용될 수 있는 무선 통신 시스템의 블록 구성도를 예시한다.
도 2는 무선 통신 시스템에서 신호 송/수신 방법의 일례를 나타낸다.
도 3은 5G 통신 시스템에서 자율 주행 차량과 5G 네트워크의 기본 동작의 일 예를 나타낸다.
도 4는 5G 통신을 이용한 차량 대 차량 간의 기본 동작의 일 예를 나타낸다.
도 5는 본 발명의 실시예에 따른 차량을 도시한 도면이다.
도 6은 본 발명의 실시예에 따른 차량의 제어 블럭도이다.
도 7은 본 발명의 실시예에 따른 자율 주행 장치의 제어 블럭도이다.
도 8은 본 발명의 실시예에 따른 자율 주행 차량의 신호 흐름도이다.
도 9는 본 발명의 실시 예에 따른 자율주행 시스템의 구성을 나타내는 도면이다.
도 10은 본 발명의 실시 예에 따른 자율주행 제어장법을 나타내는 도면이다.
도 11은 탑승자의 시선 방향을 모니터링 하는 방법을 설명하는 순서도이다.
도 12는 탑승자의 얼굴 영상을 획득하는 실시 예를 설명하는 도면이다.
도 13은 가상의 평면에서 응시영역을 검출하는 절차를 설명하는 도면이다.
도 14는 시선 방향을 획득하는 방법을 설명하는 도면이다.
도 15는 관심객체를 결정하는 방법을 설명하는 순서도이다.
도 16은 관심객체를 결정하는 방법을 설명하는 도면이다.
도 17은 관심객체의 위치에 따른 차선 선택 방법을 설명하는 순서도이다
도 18 및 도 19는 관심객체의 거리에 따른 자율주행 제어방법을 설명하는 도면들이다.
도 20은 관심객체의 위치 및 우회경로의 주행시간에 따라 주행경로를 재설정하는 방법을 설명하는 순서도이다
도 21은 차량의 현재 위치로부터 목적지까지의 최단 경로 및 우회 경로를 나타내는 도면이다.
도 22 내지 도 24는 주변환경을 고려하여 자율주행을 제어하는 방법을 설명하는 도면이다.
도 25 및 도 26은 관심객체에 기초하여 차량 부속장치를 제어하는 방법을 설명하는 도면이다.
도 27은 다수의 사용자들이 시선 방향에 기초하여 관심객체를 설정하는 방법을 설명하는 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
A. UE 및 5G 네트워크 블록도 예시
도 1은 본 명세서에서 제안하는 방법들이 적용될 수 있는 무선 통신 시스템의 블록 구성도를 예시한다.
도 1을 참조하면, 자율 주행 모듈을 포함하는 장치(자율 주행 장치)를 제1 통신 장치로 정의(도 1의 910)하고, 프로세서(911)가 자율 주행 상세 동작을 수행할 수 있다.
자율 주행 장치와 통신하는 다른 차량을 포함하는 5G 네트워크를 제2 통신 장치로 정의(도 1의 920)하고, 프로세서(921)가 자율 주행 상세 동작을 수행할 수 있다.
5G 네트워크가 제 1 통신 장치로, 자율 주행 장치가 제 2 통신 장치로 표현될 수도 있다.
예를 들어, 상기 제 1 통신 장치 또는 상기 제 2 통신 장치는 기지국, 네트워크 노드, 전송 단말, 수신 단말, 무선 장치, 무선 통신 장치, 자율 주행 장치 등일 수 있다.
예를 들어, 단말 또는 UE(User Equipment)는 차량(vehicle), 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털 방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등을 포함할 수 있다. 예를 들어, HMD는 머리에 착용하는 형태의 디스플레이 장치일 수 있다. 예를 들어, HMD는 VR, AR 또는 MR을 구현하기 위해 사용될 수 있다. 도 1을 참고하면, 제 1 통신 장치(910)와 제 2 통신 장치(920)은 프로세서(processor, 911,921), 메모리(memory, 914,924), 하나 이상의 Tx/Rx RF 모듈(radio frequency module, 915,925), Tx 프로세서(912,922), Rx 프로세서(913,923), 안테나(916,926)를 포함한다. Tx/Rx 모듈은 트랜시버라고도 한다. 각각의 Tx/Rx 모듈(915)는 각각의 안테나(926)을 통해 신호를 전송한다. 프로세서는 앞서 살핀 기능, 과정 및/또는 방법을 구현한다. 프로세서 (921)는 프로그램 코드 및 데이터를 저장하는 메모리 (924)와 관련될 수 있다. 메모리는 컴퓨터 판독 가능 매체로서 지칭될 수 있다. 보다 구체적으로, DL(제 1 통신 장치에서 제 2 통신 장치로의 통신)에서, 전송(TX) 프로세서(912)는 L1 계층(즉, 물리 계층)에 대한 다양한 신호 처리 기능을 구현한다. 수신(RX) 프로세서는 L1(즉, 물리 계층)의 다양한 신호 프로세싱 기능을 구현한다.
UL(제 2 통신 장치에서 제 1 통신 장치로의 통신)은 제 2 통신 장치(920)에서 수신기 기능과 관련하여 기술된 것과 유사한 방식으로 제 1 통신 장치(910)에서 처리된다. 각각의 Tx/Rx 모듈(925)는 각각의 안테나(926)을 통해 신호를 수신한다. 각각의 Tx/Rx 모듈은 RF 반송파 및 정보를 RX 프로세서(923)에 제공한다. 프로세서 (921)는 프로그램 코드 및 데이터를 저장하는 메모리 (924)와 관련될 수 있다. 메모리는 컴퓨터 판독 가능 매체로서 지칭될 수 있다.
B. 무선 통신 시스템에서 신호 송/수신 방법
도 2는 무선 통신 시스템에서 신호 송/수신 방법의 일례를 나타낸 도이다.
도 2를 참고하면, UE는 전원이 켜지거나 새로이 셀에 진입한 경우 BS와 동기를 맞추는 등의 초기 셀 탐색(initial cell search) 작업을 수행한다(S201). 이를 위해, UE는 BS로부터 1차 동기 채널(primary synchronization channel, P-SCH) 및 2차 동기 채널(secondary synchronization channel, S-SCH)을 수신하여 BS와 동기를 맞추고, 셀 ID 등의 정보를 획득할 수 있다. LTE 시스템과 NR 시스템에서 P-SCH와 S-SCH는 각각 1차 동기 신호(primary synchronization signal, PSS)와 2차 동기 신호(secondary synchronization signal, SSS)로 불린다. 초기 셀 탐색 후, UE는 BS로부터 물리 브로드캐스트 채널(physical broadcast channel, PBCH)를 수신하여 셀 내 브로드캐스트 정보를 획득할 수 있다. 한편, UE는 초기 셀 탐색 단계에서 하향링크 참조 신호(downlink reference Signal, DL RS)를 수신하여 하향링크 채널 상태를 확인할 수 있다. 초기 셀 탐색을 마친 UE는 물리 하향링크 제어 채널(physical downlink control channel, PDCCH) 및 상기 PDCCH에 실린 정보에 따라 물리 하향링크 공유 채널(physical downlink shared Channel, PDSCH)을 수신함으로써 좀더 구체적인 시스템 정보를 획득할 수 있다(S202).
한편, BS에 최초로 접속하거나 신호 전송을 위한 무선 자원이 없는 경우 UE는 BS에 대해 임의 접속 과정(random access procedure, RACH)을 수행할 수 있다(단계 S203 내지 단계 S206). 이를 위해, UE는 물리 임의 접속 채널(physical random access Channel, PRACH)을 통해 특정 시퀀스를 프리앰블로서 전송하고(S203 및 S205), PDCCH 및 대응하는 PDSCH를 통해 프리앰블에 대한 임의 접속 응답(random access response, RAR) 메시지를 수신할 수 있다(S204 및 S206). 경쟁 기반 RACH의 경우, 추가적으로 충돌 해결 과정(contention resolution procedure)를 수행할 수 있다.
상술한 바와 같은 과정을 수행한 UE는 이후 일반적인 상향링크/하향링크 신호 전송 과정으로서 PDCCH/PDSCH 수신(S207) 및 물리 상향링크 공유 채널(physical uplink shared Channel, PUSCH)/물리 상향링크 제어 채널(physical uplink control channel, PUCCH) 전송(S208)을 수행할 수 있다. 특히 UE는 PDCCH를 통하여 하향링크 제어 정보(downlink control information, DCI)를 수신한다. UE는 해당 탐색 공간 설정(configuration)들에 따라 서빙 셀 상의 하나 이상의 제어 요소 세트(control element set, CORESET)들에 설정된 모니터링 기회(occasion)들에서 PDCCH 후보(candidate)들의 세트를 모니터링한다. UE가 모니터할 PDCCH 후보들의 세트는 탐색 공간 세트들의 면에서 정의되며, 탐색 공간 세트는 공통 탐색 공간 세트 또는 UE-특정 탐색 공간 세트일 수 있다. CORESET은 1~3개 OFDM 심볼들의 시간 지속기간을 갖는 (물리) 자원 블록들의 세트로 구성된다. 네트워크는 UE가 복수의 CORESET들을 갖도록 설정할 수 있다. UE는 하나 이상의 탐색 공간 세트들 내 PDCCH 후보들을 모니터링한다. 여기서 모니터링이라 함은 탐색 공간 내 PDCCH 후보(들)에 대한 디코딩 시도하는 것을 의미한다. UE가 탐색 공간 내 PDCCH 후보들 중 하나에 대한 디코딩에 성공하면, 상기 UE는 해당 PDCCH 후보에서 PDCCH를 검출했다고 판단하고, 상기 검출된 PDCCH 내 DCI를 기반으로 PDSCH 수신 혹은 PUSCH 전송을 수행한다. PDCCH는 PDSCH 상의 DL 전송들 및 PUSCH 상의 UL 전송들을 스케줄링하는 데 사용될 수 있다. 여기서 PDCCH 상의 DCI는 하향링크 공유 채널과 관련된, 변조(modulation) 및 코딩 포맷과 자원 할당(resource allocation) 정보를 적어도 포함하는 하향링크 배정(assignment)(즉, downlink grant; DL grant), 또는 상향링크 공유 채널과 관련된, 변조 및 코딩 포맷과 자원 할당 정보를 포함하는 상향링크 그랜트(uplink grant; UL grant)를 포함한다.
도 2를 참고하여, 5G 통신 시스템에서의 초기 접속(Initial Access, IA) 절차에 대해 추가적으로 살펴본다.
UE는 SSB에 기반하여 셀 탐색(search), 시스템 정보 획득, 초기 접속을 위한 빔 정렬, DL 측정 등을 수행할 수 있다. SSB는 SS/PBCH(Synchronization Signal/Physical Broadcast channel) 블록과 혼용된다.
SSB는 PSS, SSS와 PBCH로 구성된다. SSB는 4개의 연속된 OFDM 심볼들에 구성되며, OFDM 심볼별로 PSS, PBCH, SSS/PBCH 또는 PBCH가 전송된다. PSS와 SSS는 각각 1개의 OFDM 심볼과 127개의 부반송파들로 구성되고, PBCH는 3개의 OFDM 심볼과 576개의 부반송파들로 구성된다.
셀 탐색은 UE가 셀의 시간/주파수 동기를 획득하고, 상기 셀의 셀 ID(Identifier)(예, Physical layer Cell ID, PCI)를 검출하는 과정을 의미한다. PSS는 셀 ID 그룹 내에서 셀 ID를 검출하는데 사용되고, SSS는 셀 ID 그룹을 검출하는데 사용된다. PBCH는 SSB (시간) 인덱스 검출 및 하프-프레임 검출에 사용된다.
336개의 셀 ID 그룹이 존재하고, 셀 ID 그룹 별로 3개의 셀 ID가 존재한다. 총 1008개의 셀 ID가 존재한다. 셀의 셀 ID가 속한 셀 ID 그룹에 관한 정보는 상기 셀의 SSS를 통해 제공/획득되며, 상기 셀 ID 내 336개 셀들 중 상기 셀 ID에 관한 정보는 PSS를 통해 제공/획득된다
SSB는 SSB 주기(periodicity)에 맞춰 주기적으로 전송된다. 초기 셀 탐색 시에 UE가 가정하는 SSB 기본 주기는 20ms로 정의된다. 셀 접속 후, SSB 주기는 네트워크(예, BS)에 의해 {5ms, 10ms, 20ms, 40ms, 80ms, 160ms} 중 하나로 설정될 수 있다.
다음으로, 시스템 정보 (system information; SI) 획득에 대해 살펴본다.
SI는 마스터 정보 블록(master information block, MIB)와 복수의 시스템 정보 블록(system information block, SIB)들로 나눠진다. MIB 외의 SI는 RMSI(Remaining Minimum System Information)으로 지칭될 수 있다. MIB는 SIB1(SystemInformationBlock1)을 나르는 PDSCH를 스케줄링하는 PDCCH의 모니터링을 위한 정보/파라미터를 포함하며 SSB의 PBCH를 통해 BS에 의해 전송된다. SIB1은 나머지 SIB들(이하, SIBx, x는 2 이상의 정수)의 가용성(availability) 및 스케줄링(예, 전송 주기, SI-윈도우 크기)과 관련된 정보를 포함한다. SIBx는 SI 메시지에 포함되며 PDSCH를 통해 전송된다. 각각의 SI 메시지는 주기적으로 발생하는 시간 윈도우(즉, SI-윈도우) 내에서 전송된다.
도 2를 참고하여, 5G 통신 시스템에서의 임의 접속(Random Access, RA) 과정에 대해 추가적으로 살펴본다.
임의 접속 과정은 다양한 용도로 사용된다. 예를 들어, 임의 접속 과정은 네트워크 초기 접속, 핸드오버, UE-트리거드(triggered) UL 데이터 전송에 사용될 수 있다. UE는 임의 접속 과정을 통해 UL 동기와 UL 전송 자원을 획득할 수 있다. 임의 접속 과정은 경쟁 기반(contention-based) 임의 접속 과정과 경쟁 프리(contention free) 임의 접속 과정으로 구분된다. 경쟁 기반의 임의 접속 과정에 대한 구체적인 절차는 아래와 같다.
UE가 UL에서 임의 접속 과정의 Msg1로서 임의 접속 프리앰블을 PRACH를 통해 전송할 수 있다. 서로 다른 두 길이를 가지는 임의 접속 프리앰블 시퀀스들이 지원된다. 긴 시퀀스 길이 839는 1.25 및 5 kHz의 부반송파 간격(subcarrier spacing)에 대해 적용되며, 짧은 시퀀스 길이 139는 15, 30, 60 및 120 kHz의 부반송파 간격에 대해 적용된다.
BS가 UE로부터 임의 접속 프리앰블을 수신하면, BS는 임의 접속 응답(random access response, RAR) 메시지(Msg2)를 상기 UE에게 전송한다. RAR을 나르는 PDSCH를 스케줄링하는 PDCCH는 임의 접속(random access, RA) 무선 네트워크 임시 식별자(radio network temporary identifier, RNTI)(RA-RNTI)로 CRC 마스킹되어 전송된다. RA-RNTI로 마스킹된 PDCCH를 검출한 UE는 상기 PDCCH가 나르는 DCI가 스케줄링하는 PDSCH로부터 RAR을 수신할 수 있다. UE는 자신이 전송한 프리앰블, 즉, Msg1에 대한 임의 접속 응답 정보가 상기 RAR 내에 있는지 확인한다. 자신이 전송한 Msg1에 대한 임의 접속 정보가 존재하는지 여부는 상기 UE가 전송한 프리앰블에 대한 임의 접속 프리앰블 ID가 존재하는지 여부에 의해 판단될 수 있다. Msg1에 대한 응답이 없으면, UE는 전력 램핑(power ramping)을 수행하면서 RACH 프리앰블을 소정의 횟수 이내에서 재전송할 수 있다. UE는 가장 최근의 경로 손실 및 전력 램핑 카운터를 기반으로 프리앰블의 재전송에 대한 PRACH 전송 전력을 계산한다.
상기 UE는 임의 접속 응답 정보를 기반으로 상향링크 공유 채널 상에서 UL 전송을 임의 접속 과정의 Msg3로서 전송할 수 있다. Msg3은 RRC 연결 요청 및 UE 식별자를 포함할 수 있다. Msg3에 대한 응답으로서, 네트워크는 Msg4를 전송할 수 있으며, 이는 DL 상에서의 경쟁 해결 메시지로 취급될 수 있다. Msg4를 수신함으로써, UE는 RRC 연결된 상태에 진입할 수 있다.
C. 5G 통신 시스템의 빔 관리(Beam Management, BM) 절차
BM 과정은 (1) SSB 또는 CSI-RS를 이용하는 DL BM 과정과, (2) SRS(sounding reference signal)을 이용하는 UL BM 과정으로 구분될 수 있다. 또한, 각 BM 과정은 Tx 빔을 결정하기 위한 Tx 빔 스위핑과 Rx 빔을 결정하기 위한 Rx 빔 스위핑을 포함할 수 있다.
SSB를 이용한 DL BM 과정에 대해 살펴본다.
SSB를 이용한 빔 보고(beam report)에 대한 설정은 RRC_CONNECTED에서 채널 상태 정보(channel state information, CSI)/빔 설정 시에 수행된다.
- UE는 BM을 위해 사용되는 SSB 자원들에 대한 CSI-SSB-ResourceSetList를 포함하는 CSI-ResourceConfig IE를 BS로부터 수신한다. RRC 파라미터 csi-SSB-ResourceSetList는 하나의 자원 세트에서 빔 관리 및 보고을 위해 사용되는 SSB 자원들의 리스트를 나타낸다. 여기서, SSB 자원 세트는 {SSBx1, SSBx2, SSBx3, SSBx4, ??}으로 설정될 수 있다. SSB 인덱스는 0부터 63까지 정의될 수 있다.
- UE는 상기 CSI-SSB-ResourceSetList에 기초하여 SSB 자원들 상의 신호들을 상기 BS로부터 수신한다.
- SSBRI 및 참조 신호 수신 전력(reference signal received power, RSRP)에 대한 보고와 관련된 CSI-RS reportConfig가 설정된 경우, 상기 UE는 최선(best) SSBRI 및 이에 대응하는 RSRP를 BS에게 보고한다. 예를 들어, 상기 CSI-RS reportConfig IE의 reportQuantity가 'ssb-Index-RSRP'로 설정된 경우, UE는 BS으로 최선 SSBRI 및 이에 대응하는 RSRP를 보고한다.
UE는 SSB와 동일한 OFDM 심볼(들)에 CSI-RS 자원이 설정되고, 'QCL-TypeD'가 적용 가능한 경우, 상기 UE는 CSI-RS와 SSB가 'QCL-TypeD' 관점에서 유사 동일 위치된(quasi co-located, QCL) 것으로 가정할 수 있다. 여기서, QCL-TypeD는 공간(spatial) Rx 파라미터 관점에서 안테나 포트들 간에 QCL되어 있음을 의미할 수 있다. UE가 QCL-TypeD 관계에 있는 복수의 DL 안테나 포트들의 신호들을 수신 시에는 동일한 수신 빔을 적용해도 무방하다.
다음으로, CSI-RS를 이용한 DL BM 과정에 대해 살펴본다.
CSI-RS를 이용한 UE의 Rx 빔 결정(또는 정제(refinement)) 과정과 BS의 Tx 빔 스위핑 과정에 대해 차례대로 살펴본다. UE의 Rx 빔 결정 과정은 반복 파라미터가 'ON'으로 설정되며, BS의 Tx 빔 스위핑 과정은 반복 파라미터가 'OFF'로 설정된다.
먼저, UE의 Rx 빔 결정 과정에 대해 살펴본다.
- UE는 'repetition'에 관한 RRC 파라미터를 포함하는 NZP CSI-RS resource set IE를 RRC 시그널링을 통해 BS로부터 수신한다. 여기서, 상기 RRC 파라미터 'repetition'이 'ON'으로 세팅되어 있다.
- UE는 상기 RRC 파라미터 'repetition'이 'ON'으로 설정된 CSI-RS 자원 세트 내의 자원(들) 상에서의 신호들을 BS의 동일 Tx 빔(또는 DL 공간 도메인 전송 필터)을 통해 서로 다른 OFDM 심볼에서 반복 수신한다.
- UE는 자신의 Rx 빔을 결정한다.
- UE는 CSI 보고를 생략한다. 즉, UE는 상가 RRC 파라미터 'repetition'이 'ON'으로 설정된 경우, CSI 보고를 생략할 수 있다.
다음으로, BS의 Tx 빔 결정 과정에 대해 살펴본다.
- UE는 'repetition'에 관한 RRC 파라미터를 포함하는 NZP CSI-RS resource set IE를 RRC 시그널링을 통해 BS로부터 수신한다. 여기서, 상기 RRC 파라미터 'repetition'이 'OFF'로 세팅되어 있으며, BS의 Tx 빔 스위핑 과정과 관련된다.
- UE는 상기 RRC 파라미터 'repetition'이 'OFF'로 설정된 CSI-RS 자원 세트 내의 자원들 상에서의 신호들을 BS의 서로 다른 Tx 빔(DL 공간 도메인 전송 필터)을 통해 수신한다.
- UE는 최상의(best) 빔을 선택(또는 결정)한다.
- UE는 선택된 빔에 대한 ID(예, CRI) 및 관련 품질 정보(예, RSRP)를 BS으로 보고한다. 즉, UE는 CSI-RS가 BM을 위해 전송되는 경우 CRI와 이에 대한 RSRP를 BS으로 보고한다.
다음으로, SRS를 이용한 UL BM 과정에 대해 살펴본다.
- UE는 'beam management'로 설정된 (RRC 파라미터) 용도 파라미터를 포함하는 RRC 시그널링(예, SRS-Config IE)를 BS로부터 수신한다. SRS-Config IE는 SRS 전송 설정을 위해 사용된다. SRS-Config IE는 SRS-Resources의 리스트와 SRS-ResourceSet들의 리스트를 포함한다. 각 SRS 자원 세트는 SRS-resource들의 세트를 의미한다.
- UE는 상기 SRS-Config IE에 포함된 SRS-SpatialRelation Info에 기초하여 전송할 SRS 자원에 대한 Tx 빔포밍을 결정한다. 여기서, SRS-SpatialRelation Info는 SRS 자원별로 설정되고, SRS 자원별로 SSB, CSI-RS 또는 SRS에서 사용되는 빔포밍과 동일한 빔포밍을 적용할지를 나타낸다.
- 만약 SRS 자원에 SRS-SpatialRelationInfo가 설정되면 SSB, CSI-RS 또는 SRS에서 사용되는 빔포밍과 동일한 빔포밍을 적용하여 전송한다. 하지만, SRS 자원에 SRS-SpatialRelationInfo가 설정되지 않으면, 상기 UE는 임의로 Tx 빔포밍을 결정하여 결정된 Tx 빔포밍을 통해 SRS를 전송한다.
다음으로, 빔 실패 복구(beam failure recovery, BFR) 과정에 대해 살펴본다.
빔포밍된 시스템에서, RLF(Radio Link Failure)는 UE의 회전(rotation), 이동(movement) 또는 빔포밍 블로키지(blockage)로 인해 자주 발생할 수 있다. 따라서, 잦은 RLF가 발생하는 것을 방지하기 위해 BFR이 NR에서 지원된다. BFR은 무선 링크 실패 복구 과정과 유사하고, UE가 새로운 후보 빔(들)을 아는 경우에 지원될 수 있다. 빔 실패 검출을 위해, BS는 UE에게 빔 실패 검출 참조 신호들을 설정하고, 상기 UE는 상기 UE의 물리 계층으로부터의 빔 실패 지시(indication)들의 횟수가 BS의 RRC 시그널링에 의해 설정된 기간(period) 내에 RRC 시그널링에 의해 설정된 임계치(threshold)에 이르면(reach), 빔 실패를 선언(declare)한다. 빔 실패가 검출된 후, 상기 UE는 PCell 상의 임의 접속 과정을 개시(initiate)함으로써 빔 실패 복구를 트리거하고; 적절한(suitable) 빔을 선택하여 빔 실패 복구를 수행한다(BS가 어떤(certain) 빔들에 대해 전용 임의 접속 자원들을 제공한 경우, 이들이 상기 UE에 의해 우선화된다). 상기 임의 접속 절차의 완료(completion) 시, 빔 실패 복구가 완료된 것으로 간주된다.
D. URLLC (Ultra-Reliable and Low Latency Communication)
NR에서 정의하는 URLLC 전송은 (1) 상대적으로 낮은 트래픽 크기, (2) 상대적으로 낮은 도착 레이트(low arrival rate), (3) 극도의 낮은 레이턴시 요구사항(requirement)(예, 0.5, 1ms), (4) 상대적으로 짧은 전송 지속기간(duration)(예, 2 OFDM symbols), (5) 긴급한 서비스/메시지 등에 대한 전송을 의미할 수 있다. UL의 경우, 보다 엄격(stringent)한 레이턴시 요구 사항(latency requirement)을 만족시키기 위해 특정 타입의 트래픽(예컨대, URLLC)에 대한 전송이 앞서서 스케줄링된 다른 전송(예컨대, eMBB)과 다중화(multiplexing)되어야 할 필요가 있다. 이와 관련하여 한 가지 방안으로, 앞서 스케줄링 받은 UE에게 특정 자원에 대해서 프리엠션(preemption)될 것이라는 정보를 주고, 해당 자원을 URLLC UE가 UL 전송에 사용하도록 한다.
NR의 경우, eMBB와 URLLC 사이의 동적 자원 공유(sharing)이 지원된다. eMBB와 URLLC 서비스들은 비-중첩(non-overlapping) 시간/주파수 자원들 상에서 스케줄될 수 있으며, URLLC 전송은 진행 중인(ongoing) eMBB 트래픽에 대해 스케줄된 자원들에서 발생할 수 있다. eMBB UE는 해당 UE의 PDSCH 전송이 부분적으로 펑처링(puncturing)되었는지 여부를 알 수 없을 수 있고, 손상된 코딩된 비트(corrupted coded bit)들로 인해 UE는 PDSCH를 디코딩하지 못할 수 있다. 이 점을 고려하여, NR에서는 프리엠션 지시(preemption indication)을 제공한다. 상기 프리엠션 지시(preemption indication)는 중단된 전송 지시(interrupted transmission indication)으로 지칭될 수도 있다.
프리엠션 지시와 관련하여, UE는 BS로부터의 RRC 시그널링을 통해 DownlinkPreemption IE를 수신한다. UE가 DownlinkPreemption IE를 제공받으면, DCI 포맷 2_1을 운반(convey)하는 PDCCH의 모니터링을 위해 상기 UE는 DownlinkPreemption IE 내 파라미터 int-RNTI에 의해 제공된 INT-RNTI를 가지고 설정된다. 상기 UE는 추가적으로 servingCellID에 의해 제공되는 서빙 셀 인덱스들의 세트를 포함하는 INT-ConfigurationPerServing Cell에 의해 서빙 셀들의 세트와 positionInDCI에 의해 DCI 포맷 2_1 내 필드들을 위한 위치들의 해당 세트를 가지고 설정되고, dci-PayloadSize에 의해 DCI 포맷 2_1을 위한 정보 페이로드 크기를 가지고 설졍되며, timeFrequencySect에 의한 시간-주파수 자원들의 지시 입도(granularity)를 가지고 설정된다.
상기 UE는 상기 DownlinkPreemption IE에 기초하여 DCI 포맷 2_1을 상기 BS로부터 수신한다.
UE가 서빙 셀들의 설정된 세트 내 서빙 셀에 대한 DCI 포맷 2_1을 검출하면, 상기 UE는 상기 DCI 포맷 2_1이 속한 모니터링 기간의 바로 앞(last) 모니터링 기간의 PRB들의 세트 및 심볼들의 세트 중 상기 DCI 포맷 2_1에 의해 지시되는 PRB들 및 심볼들 내에는 상기 UE로의 아무런 전송도 없다고 가정할 수 있다. 예를 들어, UE는 프리엠션에 의해 지시된 시간-주파수 자원 내 신호는 자신에게 스케줄링된 DL 전송이 아니라고 보고 나머지 자원 영역에서 수신된 신호들을 기반으로 데이터를 디코딩한다.
E. mMTC (massive MTC)
mMTC(massive Machine Type Communication)은 많은 수의 UE와 동시에 통신하는 초연결 서비스를 지원하기 위한 5G의 시나리오 중 하나이다. 이 환경에서, UE는 굉장히 낮은 전송 속도와 이동성을 가지고 간헐적으로 통신하게 된다. 따라서, mMTC는 UE를 얼마나 낮은 비용으로 오랫동안 구동할 수 있는지를 주요 목표로 하고 있다. mMTC 기술과 관련하여 3GPP에서는 MTC와 NB(NarrowBand)-IoT를 다루고 있다.
mMTC 기술은 PDCCH, PUCCH, PDSCH(physical downlink shared channel), PUSCH 등의 반복 전송, 주파수 호핑(hopping), 리튜닝(retuning), 가드 구간(guard period) 등의 특징을 가진다.
즉, 특정 정보를 포함하는 PUSCH(또는 PUCCH(특히, long PUCCH) 또는 PRACH) 및 특정 정보에 대한 응답을 포함하는 PDSCH(또는 PDCCH)가 반복 전송된다. 반복 전송은 주파수 호핑(frequency hopping)을 통해 수행되며, 반복 전송을 위해, 제 1 주파수 자원에서 제 2 주파수 자원으로 가드 구간(guard period)에서 (RF) 리튜닝(retuning)이 수행되고, 특정 정보 및 특정 정보에 대한 응답은 협대역(narrowband)(ex. 6 RB (resource block) or 1 RB)를 통해 송/수신될 수 있다.
F. 5G 통신을 이용한 자율 주행 차량 간 기본 동작
도 3은 5G 통신 시스템에서 자율 주행 차량과 5G 네트워크의 기본 동작의 일 예를 나타낸다.
자율 주행 차량(Autonomous Vehicle)은 특정 정보 전송을 5G 네트워크로 전송한다(S1). 상기 특정 정보는 자율 주행 관련 정보를 포함할 수 있다. 그리고, 상기 5G 네트워크는 차량의 원격 제어 여부를 결정할 수 있다(S2). 여기서, 상기 5G 네트워크는 자율 주행 관련 원격 제어를 수행하는 서버 또는 모듈을 포함할 수 있다. 그리고, 상기 5G 네트워크는 원격 제어와 관련된 정보(또는 신호)를 상기 자율 주행 차량으로 전송할 수 있다(S3).
G. 5G 통신 시스템에서 자율 주행 차량과 5G 네트워크 간의 응용 동작
이하, 도 1 및 도 2와 앞서 살핀 무선 통신 기술(BM 절차, URLLC, Mmtc 등)을 참고하여 5G 통신을 이용한 자율 주행 차량의 동작에 대해 보다 구체적으로 살펴본다.
먼저, 후술할 본 발명에서 제안하는 방법과 5G 통신의 eMBB 기술이 적용되는 응용 동작의 기본 절차에 대해 설명한다.
도 3의 S1 단계 및 S3 단계와 같이, 자율 주행 차량이 5G 네트워크와 신호, 정보 등을 송/수신하기 위해, 자율 주행 차량은 도 3의 S1 단계 이전에 5G 네트워크와 초기 접속(initial access) 절차 및 임의 접속(random access) 절차를 수행한다.
보다 구체적으로, 자율 주행 차량은 DL 동기 및 시스템 정보를 획득하기 위해 SSB에 기초하여 5G 네트워크와 초기 접속 절차를 수행한다. 상기 초기 접속 절차 과정에서 빔 관리(beam management, BM) 과정, 빔 실패 복구(beam failure recovery) 과정이 추가될 수 있으며, 자율 주행 차량이 5G 네트워크로부터 신호를 수신하는 과정에서 QCL(quasi-co location) 관계가 추가될 수 있다.
또한, 자율 주행 차량은 UL 동기 획득 및/또는 UL 전송을 위해 5G 네트워크와 임의 접속 절차를 수행한다.그리고, 상기 5G 네트워크는 상기 자율 주행 차량으로 특정 정보의 전송을 스케쥴링하기 위한 UL grant를 전송할 수 있다. 따라서, 상기 자율 주행 차량은 상기 UL grant에 기초하여 상기 5G 네트워크로 특정 정보를 전송한다. 그리고, 상기 5G 네트워크는 상기 자율 주행 차량으로 상기 특정 정보에 대한 5G 프로세싱 결과의 전송을 스케쥴링하기 위한 DL grant를 전송한다. 따라서, 상기 5G 네트워크는 상기 DL grant에 기초하여 상기 자율 주행 차량으로 원격 제어와 관련된 정보(또는 신호)를 전송할 수 있다.
다음으로, 후술할 본 발명에서 제안하는 방법과 5G 통신의 URLLC 기술이 적용되는 응용 동작의 기본 절차에 대해 설명한다.
앞서 설명한 바와 같이, 자율 주행 차량은 5G 네트워크와 초기 접속 절차 및/또는 임의 접속 절차를 수행한 후, 자율 주행 차량은 5G 네트워크로부터 DownlinkPreemption IE를 수신할 수 있다. 그리고, 자율 주행 차량은 DownlinkPreemption IE에 기초하여 프리엠션 지시(pre-emption indication)을 포함하는 DCI 포맷 2_1을 5G 네트워크로부터 수신한다. 그리고, 자율 주행 차량은 프리엠션 지시(pre-emption indication)에 의해 지시된 자원(PRB 및/또는 OFDM 심볼)에서 eMBB data의 수신을 수행(또는 기대 또는 가정)하지 않는다. 이후, 자율 주행 차량은 특정 정보를 전송할 필요가 있는 경우 5G 네트워크로부터 UL grant를 수신할 수 있다.
다음으로, 후술할 본 발명에서 제안하는 방법과 5G 통신의 mMTC 기술이 적용되는 응용 동작의 기본 절차에 대해 설명한다.
도 3의 단계들 중 mMTC 기술의 적용으로 달라지는 부분 위주로 설명하기로 한다.
도 3의 S1 단계에서, 자율 주행 차량은 특정 정보를 5G 네트워크로 전송하기 위해 5G 네트워크로부터 UL grant를 수신한다. 여기서, 상기 UL grant는 상기 특정 정보의 전송에 대한 반복 횟수에 대한 정보를 포함하고, 상기 특정 정보는 상기 반복 횟수에 대한 정보에 기초하여 반복하여 전송될 수 있다. 즉, 상기 자율 주행 차량은 상기 UL grant에 기초하여 특정 정보를 5G 네트워크로 전송한다. 그리고, 특정 정보의 반복 전송은 주파수 호핑을 통해 수행되고, 첫 번째 특정 정보의 전송은 제 1 주파수 자원에서, 두 번째 특정 정보의 전송은 제 2 주파수 자원에서 전송될 수 있다. 상기 특정 정보는 6RB(Resource Block) 또는 1RB(Resource Block)의 협대역(narrowband)을 통해 전송될 수 있다.
H. 5G 통신을 이용한 차량 대 차량 간의 자율 주행 동작
도 4는 5G 통신을 이용한 차량 대 차량 간의 기본 동작의 일 예를 예시한다.
제1 차량은 특정 정보를 제2 차량으로 전송한다(S61). 제2 차량은 특정 정보에 대한 응답을 제1 차량으로 전송한다(S62).
한편, 5G 네트워크가 상기 특정 정보, 상기 특정 정보에 대한 응답의 자원 할당에 직접적(사이드 링크 통신 전송 모드 3) 또는 간접적으로(사이드링크 통신 전송 모드 4) 관여하는지에 따라 차량 대 차량 간 응용 동작의 구성이 달라질 수 있다.
다음으로, 5G 통신을 이용한 차량 대 차량 간의 응용 동작에 대해 살펴본다.
먼저, 5G 네트워크가 차량 대 차량 간의 신호 전송/수신의 자원 할당에 직접적으로 관여하는 방법을 설명한다.
5G 네트워크는, 모드 3 전송(PSCCH 및/또는 PSSCH 전송)의 스케줄링을 위해 DCI 포맷 5A를 제1 차량에 전송할 수 있다. 여기서, PSCCH(physical sidelink control channel)는 특정 정보 전송의 스케줄링을 위한 5G 물리 채널이고, PSSCH(physical sidelink shared channel)는 특정 정보를 전송하는 5G 물리 채널이다. 그리고, 제1 차량은 특정 정보 전송의 스케줄링을 위한 SCI 포맷 1을 PSCCH 상에서 제2 차량으로 전송한다. 그리고, 제1 차량이 특정 정보를 PSSCH 상에서 제2 차량으로 전송한다.
다음으로, 5G 네트워크가 신호 전송/수신의 자원 할당에 간접적으로 관여하는 방법에 대해 살펴본다.
제1 차량은 모드 4 전송을 위한 자원을 제1 윈도우에서 센싱한다. 그리고, 제1 차량은, 상기 센싱 결과에 기초하여 제2 윈도우에서 모드 4 전송을 위한 자원을 선택한다. 여기서, 제1 윈도우는 센싱 윈도우(sensing window)를 의미하고, 제2 윈도우는 선택 윈도우(selection window)를 의미한다. 제1 차량은 상기 선택된 자원을 기초로 특정 정보 전송의 스케줄링을 위한 SCI 포맷 1을 PSCCH 상에서 제2 차량으로 전송한다. 그리고, 제1 차량은 특정 정보를 PSSCH 상에서 제2 차량으로 전송한다.
앞서 살핀 5G 통신 기술은 후술할 본 발명에서 제안하는 방법들과 결합되어 적용될 수 있으며, 또는 본 발명에서 제안하는 방법들의 기술적 특징을 구체화하거나 명확하게 하는데 보충될 수 있다.
주행
(1) 차량 외관
도 5는 본 발명의 실시예에 따른 차량을 도시한 도면이다.
도 5를 참조하면, 본 발명의 실시예에 따른 차량(10)은, 도로나 선로 위를 주행하는 수송 수단으로 정의된다. 차량(10)은, 자동차, 기차, 오토바이를 포함하는 개념이다. 차량(10)은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다. 차량(10)은 개인이 소유한 차량일 수 있다. 차량(10)은, 공유형 차량일 수 있다. 차량(10)은 자율 주행 차량일 수 있다.
(2) 차량의 구성 요소
도 6은 본 발명의 실시예에 따른 차량의 제어 블럭도이다.
도 6을 참조하면, 차량(10)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(210), 통신 장치(220), 운전 조작 장치(230), 메인 ECU(240), 구동 제어 장치(250), 자율 주행 장치(260), 센싱부(270) 및 위치 데이터 생성 장치(280)를 포함할 수 있다. 오브젝트 검출 장치(210), 통신 장치(220), 운전 조작 장치(230), 메인 ECU(240), 구동 제어 장치(250), 자율 주행 장치(260), 센싱부(270) 및 위치 데이터 생성 장치(280)는 각각이 전기적 신호를 생성하고, 상호간에 전기적 신호를 교환하는 전자 장치로 구현될 수 있다.
1) 사용자 인터페이스 장치
사용자 인터페이스 장치(200)는, 차량(10)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(10)에서 생성된 정보를 제공할 수 있다. 차량(10)은, 사용자 인터페이스 장치(200)를 통해, UI(User Interface) 또는 UX(User Experience)를 구현할 수 있다. 사용자 인터페이스 장치(200)는, 입력 장치, 출력 장치 및 사용자 모니터링 장치를 포함할 수 있다.
2) 오브젝트 검출 장치
오브젝트 검출 장치(210)는, 차량(10) 외부의 오브젝트에 대한 정보를 생성할 수 있다. 오브젝트에 대한 정보는, 오브젝트의 존재 유무에 대한 정보, 오브젝트의 위치 정보, 차량(10)과 오브젝트와의 거리 정보 및 차량(10)과 오브젝트와의 상대 속도 정보 중 적어도 어느 하나를 포함할 수 있다. 오브젝트 검출 장치(210)는, 차량(10) 외부의 오브젝트를 검출할 수 있다. 오브젝트 검출 장치(210)는, 차량(10) 외부의 오브젝트를 검출할 수 있는 적어도 하나의 센서를 포함할 수 있다. 오브젝트 검출 장치(210)는, 카메라, 레이다, 라이다, 초음파 센서 및 적외선 센서 중 적어도 하나를 포함할 수 있다. 오브젝트 검출 장치(210)는, 센서에서 생성되는 센싱 신호에 기초하여 생성된 오브젝트에 대한 데이터를 차량에 포함된 적어도 하나의 전자 장치에 제공할 수 있다.
2.1) 카메라
카메라는 영상을 이용하여 차량(10) 외부의 오브젝트에 대한 정보를 생성할 수 있다. 카메라는 적어도 하나의 렌즈, 적어도 하나의 이미지 센서 및 이미지 센서와 전기적으로 연결되어 수신되는 신호를 처리하고, 처리되는 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다.
카메라는, 모노 카메라, 스테레오 카메라, AVM(Around View Monitoring) 카메라 중 적어도 어느 하나일 수 있다. 카메라는, 다양한 영상 처리 알고리즘을 이용하여, 오브젝트의 위치 정보, 오브젝트와의 거리 정보 또는 오브젝트와의 상대 속도 정보를 획득할 수 있다. 예를 들면, 카메라는, 획득된 영상에서, 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다. 예를 들면, 카메라는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다. 예를 들면, 카메라는, 스테레오 카메라에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
카메라는, 차량 외부를 촬영하기 위해 차량에서 FOV(field of view) 확보가 가능한 위치에 장착될 수 있다. 카메라는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 카메라는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다. 카메라는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 카메라는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다. 카메라는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
2.2) 레이다
레이다는 전파를 이용하여 차량(10) 외부의 오브젝트에 대한 정보를 생성할 수 있다. 레이다는, 전자파 송신부, 전자파 수신부 및 전자파 송신부 및 전자파 수신부와 전기적으로 연결되어, 수신되는 신호를 처리하고, 처리되는 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다. 레이다는 전파 발사 원리상 펄스 레이다(Pulse Radar) 방식 또는 연속파 레이다(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이다는 연속파 레이다 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다. 레이다는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다. 레이다는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
2.3) 라이다
라이다는, 레이저 광을 이용하여, 차량(10) 외부의 오브젝트에 대한 정보를 생성할 수 있다. 라이다는, 광 송신부, 광 수신부 및 광 송신부 및 광 수신부와 전기적으로 연결되어, 수신되는 신호를 처리하고, 처리된 신호에 기초하여 오브젝트에 대한 데이터를 생성하는 적어도 하나의 프로세서를 포함할 수 있다. 라이다는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다. 라이다는, 구동식 또는 비구동식으로 구현될 수 있다. 구동식으로 구현되는 경우, 라이다는, 모터에 의해 회전되며, 차량(10) 주변의 오브젝트를 검출할 수 있다. 비구동식으로 구현되는 경우, 라이다는, 광 스티어링에 의해, 차량을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다를 포함할 수 있다. 라이다는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다. 라이다는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
3) 통신 장치
통신 장치(220)는, 차량(10) 외부에 위치하는 디바이스와 신호를 교환할 수 있다. 통신 장치(220)는, 인프라(예를 들면, 서버, 방송국), 타 차량, 단말기 중 적어도 어느 하나와 신호를 교환할 수 있다. 통신 장치(220)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
예를 들어, 통신 장치는 C-V2X(Cellular V2X) 기술을 기반으로 외부 디바이스와 신호를 교환할 수 있다. 예를 들어, C-V2X 기술은 LTE 기반의 사이드링크 통신 및/또는 NR 기반의 사이드링크 통신을 포함할 수 있다. C-V2X와 관련된 내용은 후술한다.
예를 들어, 통신 장치는 IEEE 802.11p PHY/MAC 계층 기술과 IEEE 1609 Network/Transport 계층 기술 기반의 DSRC(Dedicated Short Range Communications) 기술 또는 WAVE(Wireless Access in Vehicular Environment) 표준을 기반으로 외부 디바이스와 신호를 교환할 수 있다. DSRC (또는 WAVE 표준) 기술은 차량 탑재 장치 간 혹은 노변 장치와 차량 탑재 장치 간의 단거리 전용 통신을 통해 ITS(Intelligent Transport System) 서비스를 제공하기 위해 마련된 통신 규격이다. DSRC 기술은 5.9GHz 대역의 주파수를 사용할 수 있고, 3Mbps~27Mbps의 데이터 전송 속도를 가지는 통신 방식일 수 있다. IEEE 802.11p 기술은 IEEE 1609 기술과 결합되어 DSRC 기술 (혹은 WAVE 표준)을 지원할 수 있다.
본 발명의 통신 장치는 C-V2X 기술 또는 DSRC 기술 중 어느 하나만을 이용하여 외부 디바이스와 신호를 교환할 수 있다. 또는, 본 발명의 통신 장치는 C-V2X 기술 및 DSRC 기술을 하이브리드하여 외부 디바이스와 신호를 교환할 수 있다.
4) 운전 조작 장치
운전 조작 장치(230)는, 운전을 위한 사용자 입력을 수신하는 장치이다. 메뉴얼 모드인 경우, 차량(10)은, 운전 조작 장치(230)에 의해 제공되는 신호에 기초하여 운행될 수 있다. 운전 조작 장치(230)는, 조향 입력 장치(예를 들면, 스티어링 휠), 가속 입력 장치(예를 들면, 가속 페달) 및 브레이크 입력 장치(예를 들면, 브레이크 페달)를 포함할 수 있다.
5) 메인 ECU
메인 ECU(240)는, 차량(10) 내에 구비되는 적어도 하나의 전자 장치의 전반적인 동작을 제어할 수 있다.
6) 구동 제어 장치
구동 제어 장치(250)는, 차량(10)내 각종 차량 구동 장치를 전기적으로 제어하는 장치이다. 구동 제어 장치(250)는, 파워 트레인 구동 제어 장치, 샤시 구동 제어 장치, 도어/윈도우 구동 제어 장치, 안전 장치 구동 제어 장치, 램프 구동 제어 장치 및 공조 구동 제어 장치를 포함할 수 있다. 파워 트레인 구동 제어 장치는, 동력원 구동 제어 장치 및 변속기 구동 제어 장치를 포함할 수 있다. 샤시 구동 제어 장치는, 조향 구동 제어 장치, 브레이크 구동 제어 장치 및 서스펜션 구동 제어 장치를 포함할 수 있다. 한편, 안전 장치 구동 제어 장치는, 안전 벨트 제어를 위한 안전 벨트 구동 제어 장치를 포함할 수 있다.
구동 제어 장치(250)는, 적어도 하나의 전자적 제어 장치(예를 들면, 제어 ECU(Electronic Control Unit))를 포함한다.
구종 제어 장치(250)는, 자율 주행 장치(260)에서 수신되는 신호에 기초하여, 차량 구동 장치를 제어할 수 있다. 예를 들면, 제어 장치(250)는, 자율 주행 장치(260)에서 수신되는 신호에 기초하여, 파워 트레인, 조향 장치 및 브레이크 장치를 제어할 수 있다.
7) 자율 주행 장치
자율 주행 장치(260)는, 획득된 데이터에 기초하여, 자율 주행을 위한 패스를 생성할 수 있다. 자율 주행 장치(260)는, 생성된 경로를 따라 주행하기 위한 드라이빙 플랜을 생성 할 수 있다. 자율 주행 장치(260)는, 드라이빙 플랜에 따른 차량의 움직임을 제어하기 위한 신호를 생성할 수 있다. 자율 주행 장치(260)는, 생성된 신호를 구동 제어 장치(250)에 제공할 수 있다.
자율 주행 장치(260)는, 적어도 하나의 ADAS(Advanced Driver Assistance System) 기능을 구현할 수 있다. ADAS는, 적응형 크루즈 컨트롤 시스템(ACC: Adaptive Cruise Control), 자동 비상 제동 시스템(AEB: Autonomous Emergency Braking), 전방 충돌 알림 시스템(FCW: Foward Collision Warning), 차선 유지 보조 시스템(LKA: Lane Keeping Assist), 차선 변경 보조 시스템(LCA: Lane Change Assist), 타겟 추종 보조 시스템(TFA: Target Following Assist), 사각 지대 감시 시스템(BSD: Blind Spot Detection), 적응형 하이빔 제어 시스템(HBA: High Beam Assist), 자동 주차 시스템(APS: Auto Parking System), 보행자 충돌 알림 시스템(PD collision warning system), 교통 신호 검출 시스템(TSR: Traffic Sign Recognition), 교통 신호 보조 시스템(TSA: Trafffic Sign Assist), 나이트 비전 시스템(NV: Night Vision), 운전자 상태 모니터링 시스템(DSM: Driver Status Monitoring) 및 교통 정체 지원 시스템(TJA: Traffic Jam Assist) 중 적어도 어느 하나를 구현할 수 있다.
자율 주행 장치(260)는, 자율 주행 모드에서 수동 주행 모드로의 전환 동작 또는 수동 주행 모드에서 자율 주행 모드로의 전환 동작을 수행할 수 있다. 예를 들면, 자율 주행 장치(260)는, 사용자 인터페이스 장치(200)로부터 수신되는 신호에 기초하여, 차량(10)의 모드를 자율 주행 모드에서 수동 주행 모드로 전환하거나 수동 주행 모드에서 자율 주행 모드로 전환할 수 있다.
8) 센싱부
센싱부(270)는, 차량의 상태를 센싱할 수 있다. 센싱부(270)는, IMU(inertial measurement unit) 센서, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 스티어링 센서, 온도 센서, 습도 센서, 초음파 센서, 조도 센서, 페달 포지션 센서 중 적어도 어느 하나를 포함할 수 있다. 한편, IMU(inertial measurement unit) 센서는, 가속도 센서, 자이로 센서, 자기 센서 중 하나 이상을 포함할 수 있다.
센싱부(270)는, 적어도 하나의 센서에서 생성되는 신호에 기초하여, 차량의 상태 데이터를 생성할 수 있다. 차량 상태 데이터는, 차량 내부에 구비된 각종 센서에서 감지된 데이터를 기초로 생성된 정보일 수 있다. 센싱부(270)는, 차량 자세 데이터, 차량 모션 데이터, 차량 요(yaw) 데이터, 차량 롤(roll) 데이터, 차량 피치(pitch) 데이터, 차량 충돌 데이터, 차량 방향 데이터, 차량 각도 데이터, 차량 속도 데이터, 차량 가속도 데이터, 차량 기울기 데이터, 차량 전진/후진 데이터, 차량의 중량 데이터, 배터리 데이터, 연료 데이터, 타이어 공기압 데이터, 차량 내부 온도 데이터, 차량 내부 습도 데이터, 스티어링 휠 회전 각도 데이터, 차량 외부 조도 데이터, 가속 페달에 가해지는 압력 데이터, 브레이크 페달에 가해지는 압력 데이터 등을 생성할 수 있다.
9) 위치 데이터 생성 장치
위치 데이터 생성 장치(280)는, 차량(10)의 위치 데이터를 생성할 수 있다. 위치 데이터 생성 장치(280)는, GPS(Global Positioning System) 및 DGPS(Differential Global Positioning System) 중 적어도 어느 하나를 포함할 수 있다. 위치 데이터 생성 장치(280)는, GPS 및 DGPS 중 적어도 어느 하나에서 생성되는 신호에 기초하여 차량(10)의 위치 데이터를 생성할 수 있다. 실시예에 따라, 위치 데이터 생성 장치(280)는, 센싱부(270)의 IMU(Inertial Measurement Unit) 및 오브젝트 검출 장치(210)의 카메라 중 적어도 어느 하나에 기초하여 위치 데이터를 보정할 수 있다. 위치 데이터 생성 장치(280)는, GNSS(Global Navigation Satellite System)로 명명될 수 있다.
차량(10)은, 내부 통신 시스템(50)을 포함할 수 있다. 차량(10)에 포함되는 복수의 전자 장치는 내부 통신 시스템(50)을 매개로 신호를 교환할 수 있다. 신호에는 데이터가 포함될 수 있다. 내부 통신 시스템(50)은, 적어도 하나의 통신 프로토콜(예를 들면, CAN, LIN, FlexRay, MOST, 이더넷)을 이용할 수 있다.
(3) 자율 주행 장치의 구성 요소
도 7은 본 발명의 실시예에 따른 자율 주행 장치의 제어 블럭도이다.
도 7을 참조하면, 자율 주행 장치(260)는, 메모리(140), 프로세서(170), 인터페이스부(180) 및 전원 공급부(190)를 포함할 수 있다.
메모리(140)는, 프로세서(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 프로세서(170)에서 처리된 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 중 적어도 어느 하나로 구성될 수 있다. 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등, 자율 주행 장치(260) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다. 메모리(140)는, 프로세서(170)와 일체형으로 구현될 수 있다. 실시예에 따라, 메모리(140)는, 프로세서(170)의 하위 구성으로 분류될 수 있다.
인터페이스부(180)는, 차량(10) 내에 구비되는 적어도 하나의 전자 장치와 유선 또는 무선으로 신호를 교환할 수 있다. 인터페이스부(280)는, 오브젝트 검출 장치(210), 통신 장치(220), 운전 조작 장치(230), 메인 ECU(240), 구동 제어 장치(250), 센싱부(270) 및 위치 데이터 생성 장치(280) 중 적어도 어느 하나와 유선 또는 무선으로 신호를 교환할 수 있다. 인터페이스부(280)는, 통신 모듈, 단자, 핀, 케이블, 포트, 회로, 소자 및 장치 중 적어도 어느 하나로 구성될 수 있다.
전원 공급부(190)는, 자율 주행 장치(260)에 전원을 공급할 수 있다. 전원 공급부(190)는, 차량(10)에 포함된 파워 소스(예를 들면, 배터리)로부터 전원을 공급받아, 자율 주행 장치(260)의 각 유닛에 전원을 공급할 수 있다. 전원 공급부(190)는, 메인 ECU(240)로부터 제공되는 제어 신호에 따라 동작될 수 있다. 전원 공급부(190)는, SMPS(switched-mode power supply)를 포함할 수 있다.
프로세서(170)는, 메모리(140), 인터페이스부(280), 전원 공급부(190)와 전기적으로 연결되어 신호를 교환할 수 있다. 프로세서(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
프로세서(170)는, 전원 공급부(190)로부터 제공되는 전원에 의해 구동될 수 있다. 프로세서(170)는, 전원 공급부(190)에 의해 전원이 공급되는 상태에서 데이터를 수신하고, 데이터를 처리하고, 신호를 생성하고, 신호를 제공할 수 있다.
프로세서(170)는, 인터페이스부(180)를 통해, 차량(10) 내 다른 전자 장치로부터 정보를 수신할 수 있다. 프로세서(170)는, 인터페이스부(180)를 통해, 차량(10) 내 다른 전자 장치로 제어 신호를 제공할 수 있다.
자율 주행 장치(260)는, 적어도 하나의 인쇄 회로 기판(printed circuit board, PCB)을 포함할 수 있다. 메모리(140), 인터페이스부(180), 전원 공급부(190) 및 프로세서(170)는, 인쇄 회로 기판에 전기적으로 연결될 수 있다.
(4) 자율 주행 장치의 동작
도 8은 본 발명의 실시예에 따른 자율 주행 차량의 신호 흐름도이다.
1) 수신 동작
도 8을 참조하면, 프로세서(170)는, 수신 동작을 수행할 수 있다. 프로세서(170)는, 인터페이스부(180)를 통해, 오브젝트 검출 장치(210), 통신 장치(220), 센싱부(270) 및 위치 데이터 생성 장치(280) 중 적어도 어느 하나로부터, 데이터를 수신할 수 있다. 프로세서(170)는, 오브젝트 검출 장치(210)로부터, 오브젝트 데이터를 수신할 수 있다. 프로세서(170)는, 통신 장치(220)로부터, HD 맵 데이터를 수신할 수 있다. 프로세서(170)는, 센싱부(270)로부터, 차량 상태 데이터를 수신할 수 있다. 프로세서(170)는, 위치 데이터 생성 장치(280)로부터 위치 데이터를 수신할 수 있다.
2) 처리/판단 동작
프로세서(170)는, 처리/판단 동작을 수행할 수 있다. 프로세서(170)는, 주행 상황 정보에 기초하여, 처리/판단 동작을 수행할 수 있다. 프로세서(170)는, 오브젝트 데이터, HD 맵 데이터, 차량 상태 데이터 및 위치 데이터 중 적어도 어느 하나에 기초하여, 처리/판단 동작을 수행할 수 있다.
2.1) 드라이빙 플랜 데이터 생성 동작
프로세서(170)는, 드라이빙 플랜 데이터(driving plan data)를 생성할 수 있다. 예를 들면, 프로세서(1700는, 일렉트로닉 호라이즌 데이터(Electronic Horizon Data)를 생성할 수 있다. 일렉트로닉 호라이즌 데이터는, 차량(10)이 위치한 지점에서부터 호라이즌(horizon)까지 범위 내에서의 드라이빙 플랜 데이터로 이해될 수 있다. 호라이즌은, 기 설정된 주행 경로를 기준으로, 차량(10)이 위치한 지점에서 기설정된 거리 앞의 지점으로 이해될 수 있다. 호라이즌은, 기 설정된 주행 경로를 따라 차량(10)이 위치한 지점에서부터 차량(10)이 소정 시간 이후에 도달할 수 있는 지점을 의미할 수 있다.
일렉트로닉 호라이즌 데이터는, 호라이즌 맵 데이터 및 호라이즌 패스 데이터를 포함할 수 있다.
2.1.1) 호라이즌 맵 데이터
호라이즌 맵 데이터는, 토폴로지 데이터(topology data), 도로 데이터, HD 맵 데이터 및 다이나믹 데이터(dynamic data) 중 적어도 어느 하나를 포함할 수 있다. 실시예에 따라, 호라이즌 맵 데이터는, 복수의 레이어를 포함할 수 있다. 예를 들면, 호라이즌 맵 데이터는, 토폴로지 데이터에 매칭되는 1 레이어, 도로 데이터에 매칭되는 제2 레이어, HD 맵 데이터에 매칭되는 제3 레이어 및 다이나믹 데이터에 매칭되는 제4 레이어를 포함할 수 있다. 호라이즌 맵 데이터는, 스태이틱 오브젝트(static object) 데이터를 더 포함할 수 있다.
토폴로지 데이터는, 도로 중심을 연결해 만든 지도로 설명될 수 있다. 토폴로지 데이터는, 차량의 위치를 대략적으로 표시하기에 알맞으며, 주로 운전자를 위한 내비게이션에서 사용하는 데이터의 형태일 수 있다. 토폴로지 데이터는, 차로에 대한 정보가 제외된 도로 정보에 대한 데이터로 이해될 수 있다. 토폴로지 데이터는, 통신 장치(220)를 통해, 외부 서버에서 수신된 데이터에 기초하여 생성될 수 있다. 토폴로지 데이터는, 차량(10)에 구비된 적어도 하나의 메모리에 저장된 데이터에 기초할 수 있다.
도로 데이터는, 도로의 경사 데이터, 도로의 곡률 데이터, 도로의 제한 속도 데이터 중 적어도 어느 하나를 포함할 수 있다. 도로 데이터는, 추월 금지 구간 데이터를 더 포함할 수 있다. 도로 데이터는, 통신 장치(220)를 통해, 외부 서버에서 수신된 데이터에 기초할 수 있다. 도로 데이터는, 오브젝트 검출 장치(210)에서 생성된 데이터에 기초할 수 있다.
HD 맵 데이터는, 도로의 상세한 차선 단위의 토폴로지 정보, 각 차선의 연결 정보, 차량의 로컬라이제이션(localization)을 위한 특징 정보(예를 들면, 교통 표지판, Lane Marking/속성, Road furniture 등)를 포함할 수 있다. HD 맵 데이터는, 통신 장치(220)를 통해, 외부 서버에서 수신된 데이터에 기초할 수 있다.
다이나믹 데이터는, 도로상에서 발생될 수 있는 다양한 동적 정보를 포함할 수 있다. 예를 들면, 다이나믹 데이터는, 공사 정보, 가변 속도 차로 정보, 노면 상태 정보, 트래픽 정보, 무빙 오브젝트 정보 등을 포함할 수 있다. 다이나믹 데이터는, 통신 장치(220)를 통해, 외부 서버에서 수신된 데이터에 기초할 수 있다. 다이나믹 데이터는, 오브젝트 검출 장치(210)에서 생성된 데이터에 기초할 수 있다.
프로세서(170)는, 차량(10)이 위치한 지점에서부터 호라이즌까지 범위 내에서의 맵 데이터를 제공할 수 있다.
2.1.2) 호라이즌 패스 데이터
호라이즌 패스 데이터는, 차량(10)이 위치한 지점에서부터 호라이즌까지의 범위 내에서 차량(10)이 취할 수 있는 궤도로 설명될 수 있다. 호라이즌 패스 데이터는, 디시전 포인트(decision point)(예를 들면, 갈림길, 분기점, 교차로 등)에서 어느 하나의 도로를 선택할 상대 확률을 나타내는 데이터를 포함할 수 있다. 상대 확률은, 최종 목적지까지 도착하는데 걸리는 시간에 기초하여 계산될 수 있다. 예를 들면, 디시전 포인트에서, 제1 도로를 선택하는 경우 제2 도로를 선택하는 경우보다 최종 목적지에 도착하는데 걸리는 시간이 더 작은 경우, 제1 도로를 선택할 확률은 제2 도로를 선택할 확률보다 더 높게 계산될 수 있다.
호라이즌 패스 데이터는, 메인 패스와 서브 패스를 포함할 수 있다. 메인 패스는, 선택될 상대적 확률이 높은 도로들을 연결한 궤도로 이해될 수 있다. 서브 패스는, 메인 패스 상의 적어도 하나의 디시전 포인트에서 분기될 수 있다. 서브 패스는, 메인 패스 상의 적어도 하나의 디시전 포인트에서 선택될 상대적 확률이 낮은 적어도 어느 하나의 도로를 연결한 궤도로 이해될 수 있다.
3) 제어 신호 생성 동작
프로세서(170)는, 제어 신호 생성 동작을 수행할 수 있다. 프로세서(170)는, 일렉트로닉 호라이즌 데이터에 기초하여, 제어 신호를 생성할 수 있다. 예를 들면, 프로세서(170)는, 일렉트로닉 호라이즌 데이터에 기초하여, 파워트레인 제어 신호, 브라이크 장치 제어 신호 및 스티어링 장치 제어 신호 중 적어도 어느 하나를 생성할 수 있다.
프로세서(170)는, 인터페이스부(180)를 통해, 생성된 제어 신호를 구동 제어 장치(250)에 전송할 수 있다. 구동 제어 장치(250)는, 파워 트레인(251), 브레이크 장치(252) 및 스티어링 장치(253) 중 적어도 어느 하나에 제어 신호를 전송할 수 있다.
앞서 살핀 5G 통신 기술은 후술할 본 발명에서 제안하는 방법들과 결합되어 적용될 수 있으며, 또는 본 발명에서 제안하는 방법들의 기술적 특징을 구체화하거나 명확하게 하는데 보충될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예들을 상세히 설명한다.
도 9는 본 발명의 실시 예에 따른 탑승자 시선에 따른 자율주행 제어 시스템을 나타내는 도면이다.
도 9를 참조하면, 본 발명의 실시 예에 따른 탑승자 시선에 따른 자율주행 제어 시스템은 오브젝트 검출장치(210), 차량 구동장치(250) 및 프로세서(170)를 포함한다.
오브젝트 검출장치(210)는 차량(10)의 내부 및 외부의 2D 또는 3D 이미지를 획득하는 실내 카메라(211) 및 실외 카메라(212)를 포함할 수 있다. 실내 카메라(211)는 탑승자의 얼굴 영상을 획득하고, 실외 카메라(212)는 차량 외부의 영상을 획득할 수 있다.
차량 구동장치(250)는 타겟 차량(10)의 주행 및 제동을 제어하는 것으로, 도 8에 도시된 파워 트레인(251), 브레이크 장치(252) 및 스티어링 장치(253) 등을 포함할 수 있다.
프로세서(170)는 실내 카메라(211)가 획득한 얼굴 영상에서 시선 방향을 판단하고, 시선 방향의 일정 범위 내의 객체들 중에서 관심객체를 결정한다. 프로세서(170)는 관심객체의 위치에 기초하여, 차량(10)의 자율주행을 제어한다. 자율주행을 제어하는 방법은 탑승자가 관심객체를 보다 오랫동안 응시할 수 있도록 차량(10)의 차선을 변경하거나 및 주행경로를 재설정하기 위해서 차량 구동장치(250)를 제어하는 단계를 포함할 수 있다. 또한, 자율주행을 제어하는 방법은 차량(10)의 속도를 제어하거나, 관심객체를 차량(10) 내부의 디스플레이에 표시할 수 있다.
이하, 본 발명의 실시 예에 따른 탑승자 시선에 기초하여 자율주행을 제어하는 것을 설명하는 다음과 같다.
도 10은 본 발명의 실시 예에 따른 탑승자 시선에 따른 자율주행 제어방법을 나타내는 도면이다.
도 10을 참조하면, 본 발명의 실시 예에 따른 탑승자 시선에 따른 자율주행 제어방법은
제1 단계(S1010)에서, 탑승자의 시선 방향 및 행동패턴을 모니터링한다.
탑승자의 시선 방향은 탑승자가 육안으로 바라보는 가상의 직선을 의미한다. 행동패턴은 탑승자들로부터 획득된 음성신호에 기초하여 획득된다.
제2 단계(S1020)에서, 탑승자의 시선 방향 및 행동패턴에 기초하여, 관심객체를 설정한다.
예를 들어, 프로세서(170)는 탑승자가 임계시간 이상으로 응시하는 객체를 관심객체로 검출할 수 있다.
예를 들어, 프로세서(170)는 탑승자들 간의 대화 및 탑승자의 음성통화 및 탑승자의 음성어를 학습한 것에 기초하여 관심객체를 검출할 수 있다. 즉, 프로세서(170)는 탑승자들의 음성신호에서 대명사, 지시어, 감탄사 등의 관심 음성신호를 추출하고, 관심 음성신호와 위치정보 및 지도정보 등을 학습하여 관심객체를 검출할 수 있다.
제3 단계(S1030)에서, 프로세서(170)는 관심객체와 자차의 위치에 기초하여, 주행경로를 재설정한다.
주행경로를 재설정하는 방법은 주행차선을 변경하는 단계를 포함할 수 있다.
또한, 주행경로를 재설정하는 방법은 관심객체가 탑승자에게 보다 오랫동안 시야에 노출될 수 있도록 주행경로를 설정하는 단계를 포함할 수 있다.
이하, 각 절차의 구체적인 방법 및 실시 예를 살펴보면 다음과 같다.
도 11은 탑승자의 시선 방향을 모니터링 하는 방법을 설명하는 순서도이다.
도 11을 참조하면, 탑승자의 시선 방향을 모니터링하는 방법은 제1 단계(S1110)에서, 도 12에서와 같이, 실내 카메라(211)를 이용하여 탑승자의 얼굴 영상을 획득한다.
실내 카메라(211)는 탑승자(U)를 포함하는 실내 영상을 획득하고, 프로세서(170)는 실내 카메라(211)가 실내 영상에서 얼굴 영상을 검출한다. 프로세서(170)는 실내 영상에서 객체를 추출하고, 추출된 객체에서 탑승자(U)의 얼굴 영상을 판별한다.
제2 단계(S1120)에서, 프로세서(170)는 얼굴 영상에서 홍채를 추출한다.
프로세서(170)는 얼굴 영상에서 특징점을 추출하고, 특징점을 학습하여 홍채를 판별할 수 있다.
제3 단계(S1130)에서, 프로세서(170)는 가상의 평면에서 응시영역을 검출한다.
가상의 평면은 실내 카메라(211)의 위치를 포함하는 평면일 수 있고, 예를 들어 가상의 평면은 탑승자가 바라보는 방향에 위치한 차량 윈도우(CW)가 배치되는 평면에 해당할 수 있다.
도 13은 가상의 평면에서 응시영역을 검출하는 절차를 설명하는 도면이다. 프로세서(170)는 도 13에 도시된 바와 같이, 가상의 평면(PL)에서 응시영역(P1,P2)의 위치를 결정할 수 있다.
제4 단계(S1140)에서, 프로세서(170)는 응시영역과 동공을 잇는 직선을 시선 방향으로 결정한다.
도 14는 시선 방향을 획득하는 방법을 설명하는 도면들이다. 즉, 프로세서(170)는 도 14에서와 같이, 동공으로부터 응시영역(P1,P2)을 지나는 직선을 시선 방향(ED)으로 결정할 수 있다.
도 15는 관심객체를 결정하는 방법을 설명하는 순서도이다.
도 15를 참조하면, 관심객체를 결정하기 위한 제1 단계(S1510)에서, 실외 카메라(212)는 차량의 외부 영상을 획득한다.
제2 단계(S1520)에서, 탑승자의 시선 범위 내의 객체를 검출한다. 탑승자의 시선 범위는 탑승자의 시선 방향으로부터 일정 범위 이내의 영역을 의미한다. 프로세서(170)는 차량의 외부 영상에서 객체를 검출한다. 그리고, 프로세서(170)는 검출된 객체들 중에서 시선 범위 내의 객체를 검출한다.
제3 단계(S1530)에서, 일정 시간 동안 탑승자의 시선 범위 내에 검출된 객체를 관심객체로 결정한다.
도 16은 관심객체를 결정하는 방법을 설명하는 도면이다.
도 16의 (a)는 제1 타이밍에서, 탑승자의 시선 범위 내의 객체를 검출하는 방법을 설명하고 있다. 탑승자의 시선 범위는 탑승자의 시선 방향(ED)과 일정 범위 이내를 지칭한다. 따라서, 프로세서(170)는 제1 타이밍에서, 제1 및 제2 객체들(OB1,OB2)이 탑승자의 시선 범위 내에 속한 것으로 판단할 수 있다.
도 16의 (b)는 제2 타이밍에서, 탑승자의 시선 범위 내의 객체를 검출하는 방법을 설명하고 있다. 프로세서(170)는 제2 타이밍에서, 제1 및 제3 객체들(OB1,OB3)이 탑승자의 시선 범위 내에 속한 것으로 판단할 수 있다.
도 16의 (a) 및 (b)는 차량이 이동하는 과정에서 탑승자의 시선 방향(ED)이 달라지는 것을 도시하고 있다.
프로세서(170)는 일정 시간 동안 탑승자의 시선 범위 내에 속하는 객체가 검출될 경우, 탑승자가 해당 객체를 관심있게 응시하는 것으로 판단할 수 있다.
도 17은 관심객체의 위치에 따른 차선 선택 방법을 설명하는 순서도이다.
도 17을 참조하여 관심객체의 위치에 따라 차량이 차선을 선택하는 방법을 설명하면 다음과 같다.
제1 단계(S1710)에서, 프로세서(170)는 관심객체의 위치를 판단한다. 프로세서(170)는 관심객체의 위치를 판단하기 위해서, 검출된 관심객체의 위치, 맵 데이터를 인공지능 학습한다. 프로세서(170)는 관심객체의 위치를 판단하기 위해서 차량의 위치정보 및 일정 시간 동안 차량의 위치정보 변화를 확인할 수 있다. 또한, 프로세서(170)는 맵 데이터를 바탕으로 관심객체의 위치에 해당하는 지형, 건축물 등의 정보를 참고할 수 있다.
제2 단계(S1720)에서, 프로세서(170)는 관심객체와 차량과의 간격이 제1임계거리 이상인지를 판단한다. 제1 임계거리는 관심객체가 차로 주변에 위치한 것인지 여부를 판단하기 위한 기준으로 설정될 수 있다.
제3 단계(S1730)에서, 프로세서(170)는 관심객체와 차량 간의 임계거리 이상인 것에 기초하여, 관심객체로부터 멀리 위치한 차선을 주행차선으로 선택한다. 예를 들어, 도 18에서와 같이, 프로세서(170)는 관심객체(OB1)가 제1 임계거리 이상에 위치할 경우, 관심객체(OB1)와 멀리 위치한 제1 차선 또는 제2 차선으로 차선을 변경하도록 구동장치들을 제어할 수 있다.
제4 단계(S1740)에서, 프로세서(170)는 관심객체(OB1)와 차량 간의 제1 임계거리 미만인 것에 기초하여, 관심객체로부터 가까이 위치한 차선을 주행차선으로 선택한다. 예를 들어, 도 19에서와 같이, 프로세서(170)는 관심객체(OB11)가 근거리에 위치할 경우, 관심객체(OB1)로 접근하기 위해서 제4 차선으로 차선을 변경하도록 구동장치들을 제어할 수 있다.
도 18 및 도 19에 도시된 실시 예에서, 관심객체가 차로에서 비교적 먼 거리에 위치할 경우, 프로세서(170)는 탑승자가 관심객체를 보다 오랫동안 응시할 수 있도록 차량을 제어한다. 또는, 관심객체가 차로에 가까이 위치할 경우, 프로세서(170)는 탑승자가 관심객체를 보다 자세히 관찰할 수 있도록 차량을 제어한다. 예를 들어, 탑승자가 차량의 동승자를 탑승시키기에 수월하도록 프로세서(170)는 차량을 제어할 수 있다.
도 20은 관심객체의 위치 및 우회경로의 주행시간에 따라 주행경로를 재설정하는 방법을 설명하는 순서도이다.
도 20을 참조하면, 주행경로를 재설정하는 단계에서 관심객체의 위치를 판단하는 단계는 도 17의 제1 단계(S1710)와 동일한 절차일 수 있다.
주행경로를 재설정하기 위한 제1 단계(S2010)에서 차량의 목적지를 확인한다.
제2 단계(S2110)에서, 프로세서(170)는 우회 경로들을 검색한다.
도 21은 차량의 현재 위치로부터 목적지까지의 최단 경로 및 우회 경로를 나타내는 도면이다.
도 21을 참조하면, 제1 경로(PASS1)는 현재 위치에서 목적지까지 도달하는 시간이 가장 짧은 최단 주행 로이고, 제2 경로(PASS2) 및 제3 경로(PASS3)는 최단 경로(PASS1) 보다 소요시간이 더 긴 우회 경로에 해당한다.
관심객체(OB1) 검출하기 이전에, 차량은 최단 경로(PASS1) 상을 주행한다. 프로세서(170)는 관심객체(OB1)를 발견한 것에 기초하여, 제2 및 제3 경로들(PASS2, PASS3)과 같은 우회 경로를 검색할 수 있다. 우회 경로들은 관심객체(OB1)로부터 제2 임계거리 이내의 경로들 중에서 선택되며, 제2 임계거리는 관심객체(OB1)를 탑승자(U)의 육안에 노출시킬 수 있는 거리에 해당한다.
제3 단계(S2130)에서, 프로세서(170)는 우회 경로들의 주행시간을 예측한다.
제4 단계(S2140)에서, 프로세서(170)는 우회 경로들의 주행시간에 기초하여, 주행경로를 재설정한다. 프로세서(170)는 우회 경로들 중에서 어느 하나를 선택하고, 선택된 우회 경로로 주행할 수 있다.
프로세서(170)는 주행시간이 가장 긴 경로를 우회 경로로 선택할 수 있다. 만약 목적지까지의 도달하여야 하는 시간 또는 총 주행시간이 설정된 경우, 프로세서(170)는 목적지까지의 여유시간을 확인하고, 여유시간내에서 가장 긴 주행시간을 갖는 경로를 우회 경로로 선택할 수 있다.
본 발명의 실시 예는 도로 상의 주변환경에 기초하여, 관심객체의 노출시간이 길어지도록 자율주행을 제어할 수 있다.
도 22 내지 도 24는 주변환경을 고려하여 자율주행을 제어하는 방법을 설명하는 도면이다. 도 22 내지 도 24는 전술한 실시 예들에서, 관심객체의 위치를 확인한 것에 기초한 프로세서의 제어동작일 수 있다.
도 22를 참조하면, 프로세서(170)는 관심객체(OB1)를 탑승자에게 노출시킬 수 있는 정차가능구역이 있는지를 검색한다. 그리고, 프로세서(170)는 해당 정차가능구역에 잠시 정차할 수 있다. 프로세서(170)는 목적지까지의 여유시간을 확인하고, 여유시간 이내에서 정차할 수 있다.
도 23을 참조하면, 프로세서(170)는 주행 경로 상의 신호등(TL)을 검색할 수 있다. 프로세서(170)는 차량(10)이 전방의 신호등(TL)에 도달하기까지의 시간 및 신호등(TL)에 도달할 때의 신호를 검색한다. 신호등(TL)에 도달하는 시점에 신호등(TL)이 정지신호인 것에 기초하여, 프로세서(170)는 차량(10)의 속도를 낮춘다. 이에 따라, 탑승자는 관심객체(OB1)를 보다 오래 응시할 수 있다.
도 24를 참조하면, 프로세서(170)는 자차(10)의 후방차량을 검색할 수 있다. 자차(10)는 본 발명을 실시하는 차량을 지칭한다. 프로세서(170)는 후방차량과의 간격이 제3 임계거리 이상인 것에 기초하여, 자차(10)의 속도를 낮출 수 있다. 이에 따라, 탑승자는 관심객체(OB1)를 보다 오래 응시할 수 있다. 자차(10)의 속도를 낮추는 과정에서, 프로세서(170)는 후방 차량이 없는 차선으로 차선이동을 하도록 자차(10)를 제어할 수도 있다.
도 25 및 도 26은 관심객체에 기초하여 차량 부속장치를 제어하는 방법을 설명하는 도면이다.
도 25를 참조하면, 프로세서(170)는 차량의 주행에 따라 관심객체(OB1)의 상대적 위치가 변하는 것에 기초하여, 관심객체(OB1)의 위치 방향으로 차량 내의 좌석(CS)을 회전시킨다.
도 26을 참조하면, 프로세서(170)는 관심객체(OB1)를 확인한 것에 기초하여, 실외 카메라(212)를 이용하여 관심객체(OB1)를 촬영하고, 관심객체(OB1)를 촬영한 영상을 차량의 실내에 위치한 디스플레이(DIS)에 표시할 수 있다. 또는, 프로세서(170)는 해당 관심객체(OB1)에 대한 정보를 외부의 서버 또는 차량 내부의 메모리 등에서 검색하고, 검색된 정보를 디스플레이(DIS)에 표시할 수도 있다.
도 27은 다수의 사용자들이 시선 방향에 기초하여 관심객체를 설정하는 방법을 설명하는 도면이다.
도 27을 참조하면, 하나의 차량 내부에는 복수의 탑승자들(U11~U18)이 탑승할 수 있고, 각각의 탑승자들(U11~U18)은 서로 다른 곳을 응시할 수 있다.
하나 이상의 실내 카메라(211)는 각각의 탑승자들(U11~U18)의 시선 방향들을 확인하고, 시선 방향들의 일정 범위 내에 있는 객체들을 검출한다. 그리고, 프로세서(170)는 탑승자들(U11~U18)의 시선 방향에서 검출된 빈도수가 가장 높은 객체를 관심객체로 결정한다.
예를 들어, 동일한 차량(C1) 내의 탑승자들 중에서 제1 내지 제3 탑승자들(U11~U13)의 시선 방향은 제1 객체(OB1)를 응시하고, 제4 탑승자(U14)는 제2 객체(OB2)를 응시하며, 제5 및 제6 탑승자들(U15, U16)은 제3 객체(OB3)를 응시할 때, 제1 객체(OB1)가 시선 방향에서 노출되는 빈도수가 가장 높다. 즉, 프로세서(170)는 제1 객체(OB1)를 관심객체로 검출할 수 있다.
도 27과 같은 실시 예는 다수의 탑승객이 승차한 차량, 예를 들어 시티 투어 버스(city tour bus)에 적용될 수 있다. 본 발명의 실시 예를 적용한 시티 투어 버스는 최종 경로를 고정시키지 않은 상태에서 주행하면서, 탑승객들의 관심객체를 중심으로 실시간으로 주행 경로를 설정할 수 있다.
전술한 본 발명의 실시 예에 따른 객체 모니터링부 및 3D 모델링부는 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
본 명세서에 기재된 구성들은 모든 면에서 제한적으로 해석되어서는 아니되고 예시 적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 탑승자의 시선을 모니터링하여, 시선 방향을 확인하는 단계;
    상기 시선 방향을 포함하는 행동패턴에 기초하여, 차량 외부의 대상들 중에서 탑승자가 관심을 갖는 관심객체를 결정하는 단계; 및
    상기 관심객체의 위치에 기초하여, 상기 차량의 자율주행을 제어하는 단계;를 포함하는 탑승자 시선에 기초한 자율주행 제어방법.
  2. 제 1 항에 있어서,
    상기 탑승자의 시선을 모니터링하는 단계는
    상기 탑승자의 동공 위치를 모니터링하는 단계;
    상기 동공 위치에 기초하여, 가상의 평면에서의 응시영역을 결정하는 단계; 및
    상기 동공 위치와 상기 응시영역을 잇는 시선 방향을 결정하는 단계;를 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  3. 제 2 항에 있어서,
    상기 관심객체를 결정하는 단계는
    상기 시선방향으로부터 임계 범위 이내에 위치한 하나 이상의 객체들을 검출하는 단계; 및
    상기 객체들 중에서 미리 설정된 일정시간 동안 확인되는 객체를 관심객체로 결정하는 단계;를 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  4. 제 3 항에 있어서,
    상기 탑승자의 시선을 모니터링하는 단계는 다수의 탑승자들 각각의 시선 방향을 결정하는 단계를 포함하고,
    상기 관심객체를 결정하는 단계는,
    상기 다수의 탑승자들 시선 방향에 노출되는 객체들 중에서, 가장 많은 시선 방향에 노출되는 객체를 관심객체로 결정하는 단계;를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  5. 제 1 항에 있어서,
    상기 관심객체를 결정하는 단계는
    상기 탑승자의 음성신호를 인공지능 학습하는 단계를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  6. 제 1 항에 있어서,
    상기 관심객체의 위치에 기초하여, 차량의 자율주행을 제어하는 단계는
    상기 관심객체가 상기 차량과 임계거리 이상인 것에 기초하여, 현재 주행차로 보다 상기 관심객체로부터 멀리 위치한 주행차로를 선택하는 단계를 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  7. 제 1 항에 있어서,
    상기 관심객체의 위치에 기초하여, 차량의 자율주행을 제어하는 단계는
    상기 관심객체가 상기 차량과 임계거리 미만인 것에 기초하여, 현재 주행차로 보다 상기 관심객체와 가까이 위치한 주행차로를 선택하는 단계를 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  8. 제 1 항에 있어서,
    상기 관심객체의 위치에 기초하여, 차량의 자율주행을 제어하는 단계는
    목적지까지의 경로들 중에서, 상기 관심객체와 임계거리 이내의 우회 경로들을 확인하는 단계;
    상기 우회 경로들을 주행할 때의 주행시간을 예측하는 단계; 및
    예측된 상기 우회 경로들의 주행시간에 기초하여, 어느 하나의 우회 경로를 선택하고 선택된 우회 경로로 주행하는 단계;를 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  9. 제 8 항에 있어서,
    상기 우회 경로를 선택하는 단계는
    주행시간이 가장 긴 우회 경로를 선택하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  10. 제 1 항에 있어서,
    상기 차량의 자율주행을 제어하는 단계는
    상기 관심객체와의 임계거리 이내에 위치한 정차가능지역에 정차하는 단계를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  11. 제 1 항에 있어서,
    상기 차량의 자율주행을 제어하는 단계는
    상기 차량의 주행경로 상의 신호등을 검색하는 단계;
    상기 차량이 상기 신호등에 의해서 정지할 필요성이 예측되는 것에 기초하여, 상기 차량의 속도를 낮추는 단계를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  12. 제 1 항에 있어서,
    상기 차량의 자율주행을 제어하는 단계는
    상기 차량의 후방 차량들을 검색하는 단계;
    상기 후방 차량들 중에서 가장 먼 거리에 위치한 후방 차량이 주행하는 차선으로 차선을 변경하는 단계; 및
    상기 차량의 속도를 낮추는 단계;를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  13. 제 1 항에 있어서,
    상기 차량의 자율주행을 제어하는 단계는
    상기 차량의 주행에 따라 상기 관심객체의 위치가 이동하는 방향으로 상기 탑승자의 좌석을 회전시키는 단계를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  14. 제 1 항에 있어서,
    상기 차량의 자율주행을 제어하는 단계는
    상기 관심객체의 영상 및 정보를 획득하는 단계; 및
    상기 관심객체의 영상 및 정보를 상기 탑승자에게 표시하는 단계;를 더 포함하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어방법.
  15. 차량 내 탑승자의 얼굴 영상을 획득하는 실내 카메라;
    상기 차량 외부의 대상들에 대한 영상을 획득하는 실외 카메라; 및
    상기 얼굴 영상에서 시선 방향을 검출하고, 상기 차량 외부의 대상들 중에서 상기 시선 방향의 일정 범위 내에 위치한 객체들을 관심객체로 결정하며, 상기 관심객체에 기초하여 상기 자율주행을 제어하는 프로세서;를 포함하는 탑승자 시선에 기초한 자율주행 제어장치.
  16. 제 15 항에 있어서,
    상기 프로세서는
    다수의 탑승자들 각각의 시선 방향을 결정하고, 상기 다수의 탑승자들 시선 방향에 노출되는 객체들 중에서 가장 많은 시선 방향에 노출되는 객체를 관심객체로 결정하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어장치.
  17. 제 15 항에 있어서,
    상기 프로세서는
    상기 관심객체가 상기 차량과 임계거리 이상인 것에 기초하여, 현재 주행차로 보다 상기 관심객체로부터 멀리 위치한 주행차로를 선택하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어장치.
  18. 제 15 항에 있어서,
    상기 프로세서는
    상기 관심객체가 상기 차량과 임계거리 미만인 것에 기초하여, 현재 주행차로 보다 상기 관심객체와 가까이 위치한 주행차로를 선택하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어장치.
  19. 제 15 항에 있어서,
    상기 프로세서는
    상기 관심객체와 임계거리 이내에 위치한 우회 경로들 중에서 어느 하나를 선택하여 주행하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어장치.
  20. 제 15 항에 있어서,
    상기 프로세서는
    상기 관심객체의 영상 및 정보를 디스플레이에 표시하도록 제어하는 것을 특징으로 하는 탑승자 시선에 기초한 자율주행 제어장치.
KR1020200004238A 2020-01-13 2020-01-13 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법 KR20210091394A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200004238A KR20210091394A (ko) 2020-01-13 2020-01-13 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200004238A KR20210091394A (ko) 2020-01-13 2020-01-13 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법

Publications (1)

Publication Number Publication Date
KR20210091394A true KR20210091394A (ko) 2021-07-22

Family

ID=77158004

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200004238A KR20210091394A (ko) 2020-01-13 2020-01-13 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법

Country Status (1)

Country Link
KR (1) KR20210091394A (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210276575A1 (en) * 2020-03-04 2021-09-09 Ford Global Technologies, Llc Vehicle component identification system
US20210284175A1 (en) * 2020-03-11 2021-09-16 GM Global Technology Operations LLC Non-Intrusive In-Vehicle Data Acquisition System By Sensing Actions Of Vehicle Occupants
WO2024072009A1 (ko) * 2022-09-28 2024-04-04 삼성전자 주식회사 이미지 내의 객체를 식별하는 증강 현실 장치 및 방법
CN118306322A (zh) * 2024-06-11 2024-07-09 比亚迪股份有限公司 车辆及其显示方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210276575A1 (en) * 2020-03-04 2021-09-09 Ford Global Technologies, Llc Vehicle component identification system
US20210284175A1 (en) * 2020-03-11 2021-09-16 GM Global Technology Operations LLC Non-Intrusive In-Vehicle Data Acquisition System By Sensing Actions Of Vehicle Occupants
WO2024072009A1 (ko) * 2022-09-28 2024-04-04 삼성전자 주식회사 이미지 내의 객체를 식별하는 증강 현실 장치 및 방법
CN118306322A (zh) * 2024-06-11 2024-07-09 比亚迪股份有限公司 车辆及其显示方法

Similar Documents

Publication Publication Date Title
KR102262232B1 (ko) 자율주행시스템에서 군집주행의 제어방법
KR102226067B1 (ko) 자율주행시스템에서 가상 신호등 서비스 제공방법 및 이를 위한 장치
KR102243244B1 (ko) 자율주행시스템에서 긴급단계에 따른 제어방법 및 이를 위한 장치
KR102135259B1 (ko) 자율주행시스템에서 응급차량을 위한 주차차량을 이동시키는 방법 및 이를 위한 장치
KR20190098094A (ko) 자율주행시스템에서 차량이 수신한 메시지의 유효성을 판단하는 방법 및 이를 위한 장치
US20200028736A1 (en) Method and apparatus for determining an error of a vehicle in autonomous driving system
US20200094827A1 (en) Apparatus for controlling autonomous vehicle and control method thereof
KR102237421B1 (ko) 자율 주행 시스템에서 데이터 기반의 어플레이케이션 갱신방법 및 이를 위한 장치
US20210331712A1 (en) Method and apparatus for responding to hacking on autonomous vehicle
KR20190100107A (ko) 자율 주행 시스템에서 차량의 무선 통신을 위한 방법 및 장치
KR20210106688A (ko) 지능적인 빔 추적 방법 및 이를 위한 자율 주행 차량
KR20210016926A (ko) 자율주행시스템에서 군집 주행 차량 제어 방법 및 장치
KR20190107277A (ko) 자율 주행 시스템에서 차량을 제어하는 방법 및 장치
US20210150236A1 (en) Remote control method of the vehicle and a mixed reality device and a vehicle
KR20190098092A (ko) 자율주행 시스템에서 해킹 차량 관리 방법 및 그 장치
KR20190100104A (ko) 자율주행시스템에서 차량에 구비된 v2x 통신 장치의 bsm 메시지 전송 방법
US10833737B2 (en) Method and apparatus for controlling multi-antenna of vehicle in autonomous driving system
KR20210091394A (ko) 탑승자 시선에 기초한 자율주행 제어장치 및 제어방법
KR20210070701A (ko) 3차원 이미지 생성 방법 및 시스템
KR20210047394A (ko) 자율주행 제어방법
KR20190106844A (ko) 입력 신호 우선 순위에 따른 자율 주행 제어 방법 및 이를 이용한 자율 주행 시스템
KR20190106928A (ko) 카메라와 그 제어 방법 및 카메라를 포함한 자율 주행 시스템
KR20210088881A (ko) 전기차량의 배터리 공유 시스템 및 이에 기반한 사용자 보상방법
KR20230022424A (ko) 지능적인 빔 예측 방법
KR20210098572A (ko) 역광에 기초한 자율주행 제어 방법 및 시스템