KR20180072519A - 각막 반사 검출을 이용한 운전자 상태 모니터링 - Google Patents

각막 반사 검출을 이용한 운전자 상태 모니터링 Download PDF

Info

Publication number
KR20180072519A
KR20180072519A KR1020170117744A KR20170117744A KR20180072519A KR 20180072519 A KR20180072519 A KR 20180072519A KR 1020170117744 A KR1020170117744 A KR 1020170117744A KR 20170117744 A KR20170117744 A KR 20170117744A KR 20180072519 A KR20180072519 A KR 20180072519A
Authority
KR
South Korea
Prior art keywords
driver
vehicle
control unit
eye
risk score
Prior art date
Application number
KR1020170117744A
Other languages
English (en)
Other versions
KR102335325B1 (ko
Inventor
나세리안 모하마드
아디비 사산
Original Assignee
현대자동차주식회사
기아자동차주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사, 기아자동차주식회사 filed Critical 현대자동차주식회사
Publication of KR20180072519A publication Critical patent/KR20180072519A/ko
Application granted granted Critical
Publication of KR102335325B1 publication Critical patent/KR102335325B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/163Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation
    • A61B5/4809Sleep detection, i.e. determining whether a subject is asleep or not
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • B60K28/066Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver actuating a signalling device
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/14Adaptive cruise control
    • B60W30/143Speed control
    • B60W30/146Speed limiting
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/105Speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W50/16Tactile feedback to the driver, e.g. vibration or force feedback to the driver on the steering wheel or the accelerator pedal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818Inactivity or incapacity of driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/10Longitudinal speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/22Psychological state; Stress level or workload
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/26Incapacity
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2720/00Output or target parameters relating to overall vehicle dynamics
    • B60W2720/10Longitudinal speed

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Psychiatry (AREA)
  • Ophthalmology & Optometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Developmental Disabilities (AREA)
  • Child & Adolescent Psychology (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Anesthesiology (AREA)
  • Signal Processing (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Traffic Control Systems (AREA)
  • Pure & Applied Mathematics (AREA)

Abstract

방법은, 차량에 설치된 광 센서를 이용하여 상기 차량의 운전자의 눈(eye)에서 반사되는 광 정보를 감지하는 단계; 상기 감지된 광 정보에 기반하여 복수의 눈 파라미터를, 상기 차량에 구비된 제어 유닛에 의해, 측정하는 단계; 상기 복수의 눈 파라미터에 따라, 상기 운전자의 운전 상태를 알려주는 위험 스코어(endangerment score)를 계산하는 단계; 상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를, 상기 제어 유닛에 의해, 판단하는 단계; 및 상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를, 상기 제어 유닛에 의해, 실행하는 단계를 포함한다.

Description

각막 반사 검출을 이용한 운전자 상태 모니터링{DRIVER STATE MONITORING USING CORNEAL REFLECTION DETECTION}
본 개시는 일반적으로 차량의 운전자의 상태를 모니터링하는 것에 관한 것이고, 보다 상세하게는 각막 반사 검출을 이용한 운전자 상태 모니터링에 관한 것이다.
주변의 교통 상황과 도로 전방에 집중하는 운전자의 능력에 영향을 미치는 주의 분산(distractions)에 기인하여 많은 차량 사고들이 발생된다. 예를 들어, 목적지를 찾고 있거나, 휴대폰을 보거나, 또는 승객과 이야기하고 있는 동안에 운전자의 초점이 분산될 수 있다. 더욱이, 운전자가 다른 생각에 잠겨(daydreaming) 있다면 운전자의 눈은 도로로부터 벗어날 수 있거나, 또는 운전자가 졸게 된다면 운전자의 눈은 완전히 감길 수 있다.
운전자 주의 분산을 방지하기 위한 시도로서, 일부 차량들은 운전자의 눈을 모니터링하는 장치를 채택한다. 그러나, 언제 운전자의 주의 분산의 수준이 문제가 되는지를 정확히 측정(gauge)하는 것은 어려울 수 있다. 예를 들어, 매우 밀집된 지역에서, 밤에, 고속으로, 꼬불꼬불한 도로 상에서 운전하는 등과 같은 경우에, 요구되는 집중력의 수준은 상승할 수 있다. 예를 들어, 운전자의 고유한 행동 이력을 알지 못한 상태에서, 차량 내의 운전자의 동작 분석은 더욱 복잡할 수 있다.
본 개시는 차량에 설치된 광 센서를 이용하여 운전자의 눈 동작(eye activity)을 추적하기 위한 기법들을 제공한다. 상기 추적된 눈 동작이 상기 운전자가 전방의 도로에 적절하게 집중하고 있지 않다는 것을 알려주면, 안전한 운전 습관을 만들어내도록 상기 운전자를 훈련시키고 바로잡는 시정 조치(corrective action)가 취해질 수 있다. 상기 운전자가 적정한 정도의 집중도를 나타내고 있는지 여부를 판단하기 위해 복수의 눈 파라미터들이 측정될 수 있다. 예를 들어, 운전자의 각막이 상기 전방의 도로 또는 다가오는 교통 상황의 방향과 정렬되지 않거나, (운전자가 다른 생각에 잠겨 있는 것을 알려주는) 각막이 너무 정적이거나, 또는 (상기 운전자의 주의가 분산되고 있는 것을 알려주는) 너무 급하게 움직이거나, 또는 상기 운전자의 눈꺼풀이 긴 시간 주기 동안 닫혀있기 때문에 상기 각막이 평소보다 덜 검출된다면, 적정한 운전 집중도가 결여된 것으로 판단될 수 있다. 또한, 위에서 설명된 파라미터들 또는 다른 파라미터들을 설명하는 위험 스코어(endangerment score)가 계산될 수 있고, 상기 계산된 위험 스코어는 상기 운전자의 주의 분산의 정도가 불안전한 수준에 도달하였는지 여부를 판단하기 위해 위험 임계와 비교될 수 있다.
본 개시의 실시예에 따르면, 방법은 차량에 설치된 광 센서를 이용하여 상기 차량의 운전자의 눈(eye)에서 반사되는 광 정보를 감지하는 단계; 상기 감지된 광 정보에 기반하여 복수의 눈 파라미터를 측정하는 단계; 상기 복수의 눈 파라미터에 따라, 상기 운전자의 운전 상태를 알려주는 위험 스코어(endangerment score)를 계산하는 단계; 상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하는 단계; 및 상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를 실행하는 단계를 포함한다.
상기 광 센서는 상기 차량의 후방 뷰 미러에 설치될 수 있다. 상기 광 센서에 광원이 결합될 수 있다.
상기 복수의 눈 파라미터들의 측정은, 예를 들어 상기 감지된 광 정보에 기반하여 상기 차량의 앞에 있는 도로와 상기 운전자의 시야(gaze)의 정렬을 알려주는 시야 정렬을 측정하는 단계를 포함할 수 있다. 상기 시야 정렬의 측정은, 상기 차량의 전방의 상기 도로에서 상기 운전자의 상기 시선이 미리 정의된 허용 가능한 양을 초과하여 벗어나는지 여부를 판단하는 단계를 포함할 수 있다.
상기 복수의 눈 파라미터들의 측정은, 예를 들어 상기 감지된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 각막의 정적(stillness)을 알려주는 각막 정적을, 상기 제어 유닛에 의해, 측정하는 단계를 포함할 수 있다. 상기 각막 정적의 측정은 상기 시간 주기 동안에 상기 운전자의 상기 각막의 움직임의 횟수를 판단하는 단계를 포함할 수 있다.
상기 복수의 눈 파라미터들의 측정은, 예를 들어 상기 감지된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 눈꺼풀의 닫힘양(closure amount)을 알려주는 눈꺼풀 닫힘을, 상기 제어 유닛에 의해, 측정하는 단계를 더 포함 할 수 있다. 상기 눈꺼풀 닫힘의 측정은 상기 시간 주기 동안에 상기 운전자의 상기 눈꺼풀이 닫히는 시간의 최대량을 판단하는 단계를 포함 할 수 있다.
상기 복수의 눈 파라미터들의 측정은, 예를 들어 상기 차량의 현재 속력을 판단하는 단계; 및 상기 차량의 상기 판단된 현재 속력에 더 기반하여 상기 복수의 눈 파라미터들을 측정하는 단계를 더 포함할 수 있다.
상기 위험 스코어의 계산은, 상기 감지된 광 정보에 기반하여 상기 차량의 전방의 도로와 상기 운전자의 시선의 정렬을 알려주는 시선 정렬을 측정하는 단계; 상기 감지된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 각막의 정적을 알려주는 각막 정적을 측정하는 단계; 상기 감지된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 눈꺼풀의 닫힘양을 알려주는 눈꺼풀 닫힘을 측정하는 단계; 및 상기 측정된 시선 정렬, 각막 정적, 및 눈꺼풀 닫힘을 이용하여 상기 위험 스코어를 계산하는 단계를 포함할 수 있다.
또한, 상기 방법은 원하는 감도에 따라 상기 위험 임계를 제어하는 단계를 더 포함할 수 있다. 이러한 절차에 따라, 상기 방법은 운전 방향, 운전 속력, 하루 중 시간, 운전 기간, 주행 기점, 주행 목적지, 상기 차량의 승객들의 수, 상기 차량의 노이즈 량, 및 이동 장치 사용으로 이루어진 그룹에서 선택된 하나 이상의 인자들에 따라 실시간으로 상기 위험 임계를 조정하는 단계를 더 포함할 수 있다. 상기 방법은 이전에 설정된 위험 임계를, 상기 제어 유닛에 의해, 판단하는 단계; 및 상기 이전에 설정된 위험 임계에 기반하여 상기 위험 임계를 설정하는 단계를 더 포함할 수 있다.
상기 방법은 상기 감지된 광 정보에서 노이즈를 제거하기 위하여 상기 감지된 광 정보에 필터를 적용하는 단계를 더 포함할 수 있다.
상기 시정 조치의 상기 실행은, 예를 들어 시각적, 청각적, 또는 유형적 경고 표시기를 상기 운전자에게 제공하는 단계를 포함할 수 있다.
상기 시정 조치의 실행은, 예를 들어 상기 차량의 속력을 감소시키는 단계를 더 포함할 수 있다.
상기 시정 조치의 실행은, 예를 들어 상기 차량의 상기 속력을 감소시킨 이후에 상기 계산된 위험 스코어가 상기 위험 임계를 계속하여 초과하는지 여부를 판단하는 단계; 및 상기 계산된 위험 스코어가 상기 위험 임계를 계속하여 초과하는 경우, 상기 차량의 상기 속력을 더 감소키는 단계를 더 포함할 수 있다.
또한, 본 개시의 실시예에 따르면, 시스템은 차량의 운전자의 눈(eye)에서 반사되는 광 정보를 감지하도록 구성된 상기 차량에 설치된 광 센서; 및 상기 차량에 설치되고, 상기 감지된 광 정보에 기반하여 복수의 눈 파라미터들을 측정하고; 상기 복수의 눈 파라미터들에 따라 상기 운전자의 운전 상태를 알려주는 위험 스코어(endangerment score)를 계산하고; 상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하고; 그리고 상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를 실행하도록 구성되는 제어 유닛을 포함한다.
또한, 본 개시의 실시예에 따르면, 차량에 설치된 제어 유닛에 의해 실행 가능한 프로그램 명령들을 포함하는 일시적이지 않은 컴퓨터 판독가능 매체에 있어서, 실행되는 경우에 상기 프로그램 명령들은 상기 제어 유닛으로 하여금, 상기 차량에 설치된 광 센서에 의해 감지된 상기 차량의 운전자의 눈(eye)에서 반사되는 광 정보에 기반하여 복수의 눈 파라미터들을 측정하고; 상기 복수의 눈 파라미터들에 따라 상기 운전자의 운전 상태를 알려주는 위험 스코어를 계산하고; 상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하고; 그리고 상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를 실행하도록 한다.
본 개시의 실시예들에 따르면, 도로 전방 또는 주변의 교통 상황에 대한 운전자의 집중력 결여에 기인하여 발생하는 충돌 확률을 감소시킬 수 있다.
또한, 본 개시의 실시예들에 따르면, 안전한 운전 습관들을 교정하고 훈련시킬 수 있다.
본 명세서의 실시예들은 유사한 부호들이 동일하거나 기능적으로 유사한 구성요소들을 표시하는 첨부한 도면들과 연대하여 하기 설명을 참조함으로써 더 잘 이해될 수 있을 것이다.
도 1a 및 도 1b는 눈 동작을 추적하기 위한 예시적인 광 센서 시스템을 나타낸다.
도 2는 운전자의 눈 움직임의 예시적인 도시를 나타낸다.
도 3a 및 도 3b는 각막 반사 검출을 이용하여 운전자 상태를 모니터링하기 위한 예시적인 단순화된 절차를 나타낸다.
도 4는 운전자가 불안전한 방식으로 운전하고 있다는 판단에 응답하여 시정 조치를 실행하기 위한 예시적인 단순화된 절차를 나타낸다.
위에서 참조된 도면들은 반드시 축척에 맞추어 도시된 것은 아니고, 본 개시의 기본 원리를 예시하는 다양한 선호되는 특징들의 다소 단순화된 표현을 제시하는 것으로 이해되어야 한다. 예를 들어, 특정 치수, 방향, 위치, 및 형상을 포함하는 본 개시의 특정 설계 특징들은 특정하게 의도된 애플리케이션 및 사용 환경에 의해 부분적으로 결정될 것이다.
이하, 첨부한 도면을 참조하여 본 발명의 실시예들이 상세하게 설명될 것이다. 당해 기술분야에서 통상의 지식을 가진 자가 이해하는 바와 같이, 설명된 실시예들은 본 개시의 사상 또는 범위를 벗어남이 없이, 다양한 상이한 방식으로 수정될 수 있다. 또한, 명세서 전반에 걸쳐, 유사한 도면 부호들은 유사한 구성요소들을 지칭한다.
본 명세서에서 사용된 용어는 오직 특정 실시예들을 설명하기 위한 목적뿐이고, 본 개시를 한정하는 것으로 의도되는 것은 아니다. 본 명세서에서 사용되는 바와 같이, 단수 형태는, 문맥상 명시적으로 달리 표시하지 않는 한, 복수 형태들을 또한 포함하는 것으로 의도된다. 본 명세서에서 사용되는 "포함한다 (comprises)" 및/또는 "포함하는 (comprising)"이라는 용어는 명시된 특징들, 정수들, 단계들, 작동들, 구성요소들 및/또는 컴포넌트들의 존재를 나타내지만, 하나 이상의 다른 특징들, 정수들, 단계들, 작동들, 구성요소들, 컴포넌트들, 및/또는 이들의 그룹들의 존재 또는 부가를 배제하지는 않음을 또한 이해하여야 할 것이다. 본 명세서에 사용되는 바와 같이, "및/또는" 이라는 용어는 연관되어 나열된 항목들 중 임의의 하나 또는 모든 조합들을 포함한다.
본 명세서에서 사용되는 "차량(vehicle)," "차량의(vehicular)," "자동차(car)," 또는 다른 유사한 용어는 일반적으로 스포츠 유틸리티 차량(sports utility vehilces: SUVs)을 포함하는 승용차들, 버스, 트럭, 다양한 상용 차량, 다양한 보트 및 배를 포함하는 선박, 항공기 등을 포함하고, 하이브리드 자동차, 전기 자동차, 하이브리드 전기 자동차, 수소 동력 차량 및 다른 대체 연료(예를 들어, 석유 이외의 자원들로부터 얻어지는 연료) 차량을 포함하는 것으로 이해된다. 본 명세서에서 언급되는 바와 같이, 하이브리드 자동차는 둘 이상의 동력원들, 일례로 가솔린 동력 및 전기 동력을 모두 갖는 차량이다.
또한, 아래의 방법들 또는 이들의 양상들 중 하나 이상은 적어도 하나의 제어 유닛에 의해 실행될 수 있다. "제어 유닛"이라는 용어는 메모리 및 프로세서를 포함하는 하드웨어 장치를 지칭할 수 있다. 메모리는 프로그램 명령들을 저장하도록 구성되고, 프로세서는 아래에서 더욱 자세히 설명되는 하나 이상의 프로세스들을 수행하기 위한 프로그램 명령들을 실행하도록 특별히 프로그래밍 된다. 더욱이, 아래의 방법들은 당해 기술분야에서 통상의 지식을 가진 자에 의해 이해되는 바와 같이, 하나 이상의 다른 컴포넌트들과 함께 제어 유닛을 포함하는 장치에 의해 실행될 수 있음이 이해된다.
또한, 본 개시의 제어 유닛은 프로세서, 컨트롤러 등에 의해 실행되는 실행 가능한 프로그램 명령들을 포함하는 비일시적 컴퓨터 판독가능 매체로서 구체화될 수 있다. 컴퓨터 판독가능 매체의 예들은 ROM, RAM, 컴팩트 디스크(CD) ROM들, 자기 테이프, 플로피 디스크, 플래시 드라이브, 스마트 카드, 및 광학 데이터 기억 장치를 포함하지만, 이에 한정되는 것은 아니다. 컴퓨터 판독가능 기록 매체는 컴퓨터 네트워크 전반에 걸쳐 분산되어 프로그램 명령들이 예를 들어, 텔레매틱스 서버 또는 컨트롤러 영역 네트워크(CAN)에 의하여 분산 형태로 저장되거나 또는 실행될 수 있다.
이제 본 개시의 실시예를 참조하면, 개시된 기법들은 운전자의 눈 동작(eye activity)을 추적하기 위하여 차량에 설치된 광 센서를 활용한다. 광 센서에 의해 획득된 정보를 이용하여, 운전자가 적정량의 집중도를 나타내고 있는지 여부를 판단하기 위해 복수의 눈 파라미터들이 측정된다. 측정된 눈 파라미터들은, 일례로 (한정되지 않고) 차량의 전방의 도로와 운전자의 시선의 정렬을 알려주는 시선 정렬, 시간 주기 동안에 운전자의 각막의 정적(stillness)을 알려주는 각막 정적, 시간 주기 동안에 운전자의 눈꺼풀의 닫힘량을 알려주는 눈꺼풀 닫힘 등을 포함할 수 있다. 측정된 파라미터들을 설명하는 위험 스코어가 운전자의 조심성을 동반하는 위험의 수준을 정량화하기 위해 계산될 수 있다. 계산된 위험 스코어는 운전자의 주의 분산의 수준이 불안전한 수준에 도달하였는지 여부를 판단하기 위해 위험 임계와 비교될 수 있다. 또한, 위험 스코어가 (원하는 감도에 따라 제어되는) 위험 임계를 초과하여 운전자가 전방의 도로에 적정하게 집중하고 있지 않음을 알려주면, 안전한 운행 습관을 만들어내도록 운전자를 훈련시키고 바로잡는 시정 조치(corrective action)가 취해질 수 있다.
도 1a 및 도 1b는 눈 동작을 추적하기 위한 예시적인 광 센서 시스템을 나타낸다. 도 1a에 도시된 바와 같이, 광 센서(100)가 차량에 설치될 수 있다. 광 센서(100)는 임의 적절한 방식으로 차량의 실내에 구현될 수 있다. 예를 들어, 광 센서(100)는 차량의 후방 뷰 미러(110)(예를 들어, 도 1a 참조), 윈드쉴드, 또는 계기판 위 등에 설치될 수 있다. 광 센서(100)는 후방 뷰 미러(110), 윈드쉴드, 계기판 등의 외부에 설치되거나 또는 내부에 통합될 수 있다.
광 센서(100)는 (본 명세서에서 "광 정보"로 지칭되는) 광을 획득/검출하고 광을 전자 신호들로 변환하는 데에 적합한 비디오 카메라, 적외선 카메라, 또는 당해 기술분야에서 통상의 지식을 가진 자에 의해 이해되는 바와 같은, 다른 특수 설계된 광 센서와 같은 임의의 센서일 수 있다. 이러한 관점에서, 당해 기술분야에서 널리 알려진 각막 반사 기법들은 광 센서(100)가 설치된 차량의 운전자의 눈 동작을 검출하는데 채택될 수 있다. 특히, 광 센서(100)는 도 1b에 도시된 바와 같이, 운전자의 각막으로부터 반사되는 광(즉, "광 정보")를 검출할 수 있다. 운전자의 각막에서 반사되는 광은, 예를 들어 광 센서(100)에 결합된 광원(도시되지 않음), 차량 내부에 배치되는 광원, 차량의 외부 환경, 및 이와 유사한 것으로부터 발산(emit)될 수 있다.
위에서 설명한 바와 같이, 광 반사 기법들을 이용하여, 광 센서(100)는 운전자의 각막에서 반사되는 광을 검출하고, 처리를 위하여 제어 유닛(도시되지 않음)으로 이러한 정보를 끊임없이 전송할 수 있으므로, 각막의 위치와 운동이 실시간으로 계속적으로 추적되는 것을 가능하게 한다. 예를 들어, 도 2는 광 센서(100)에 의해 추적된 차량 전방의 도로/환경에 대한 운전자의 눈 움직임의 예시적인 도시를 나타낸다. 예를 들어, 차량과 관련된 움직임에 기인하여 과도한 노이즈가 존재하는 경우에, 당해 기술분야에서 통상의 지식의 가진 자에 의해 이해되는 바와 같이, 이러한 노이즈를 제거하기 위해 검출된 광 정보에 칼만 필터, 저대역 필터, 또는 이와 유사한 것과 같은 하나 이상의 필터, 또는 다른 신호 조정들이 적용될 수 있다.
다양한 눈 파라미터들을 측정하기 위해 광 센서(100)에 의해 검출된 광 정보가 제어 유닛에 의해 활용될 수 있다. 예를 들어, 운전자의 시선이 도로 전방 및/또는 다가오는 교통 상황(traffic)과 비정렬(misalign)되는지 여부를 검출하기 위해, 차량의 전방의 도로와 운전자의 시선의 정렬을 알려주는 시선 정렬이 측정될 수 있다. 특히, 검출된 광 정보를 이용하여 차량의 전방의 도로에서 운전자의 시선이 미리 정의된 허용 가능한 량(예를 들어, 5 내지 30도)을 넘어서 벗어나는지 여부가 판단될 수 있다. 다른 예로서, 운전자가 다른 생각에 잠겨 있는 것을 알려주는 운전자의 눈이 너무 정적인지 여부 또는 운전자가 주의 분산되었음을 알려주는 운전자의 눈이 너무 빠르게 움직이는지 여부를 검출하기 위해 미리 정의된 시간 주기 동안에 운전자의 각막의 정적을 알려주는 각막 정적이 측정될 수 있다. 이를 위해, 검출된 광 정보를 이용하여 미리 정의된 시간 주기 동안에 운전자의 각막의 움직임의 횟수가 판단될 수 있다. 또 다른 예로서, 미리 정의된 시간 주기 동안에 운전자의 눈꺼풀의 닫힘량을 알려주는 눈꺼풀 닫힘이 운전자가 졸리는지 여부를 검출하기 위해 측정될 수 있다. 이를 위해, 미리 정의된 시간 주기 동안에 운전자의 눈꺼풀이 닫힌 최대 시간은 검출된 광 정보를 이용하여 판단될 수 있다(예를 들어, 각막이 일시적으로 검출되지 않는 경우, 눈꺼풀이 일부 또는 완전히 닫혔다고 유추될 수 있다). 임의의 개수 및/또는 유형의 눈 파라미터들이 광 센서(100)에 의해 검출된 광 정보에 기반하여 측정될 수 있고, 이에 따라 위에 설명된 파라미터들은 단지 예시의 목적으로 제공된다고 이해되어야 할 것이다.
일단 운전자의 눈(들)의 동작을 알려주는 복수의 눈 파라미터들이 측정되었다면, 운전자가 주의 분산되어 도로 전방 및/또는 주변의 교통 상황에 적절한 주의를 기울이는데 실패하였는지 여부를 확인하기 위해 측정된 파라미터들이 활용될 수 있다. 이를 위해, 운전자의 운전 상태 - 즉, 주의 결여에 기인하는 운전자의 위험의 정도 - 를 정량화하는 위험 스코어가 측정된 파라미터들에 기반하여 계산될 수 있다. 일부 경우들에서, 위험 스코어의 계산은 차량의 현재 속력뿐만 아니라 측정된 눈 파라미터들에 의존할 수 있다.
위에 나열된 세 개의 눈 파라미터들이 광 센서(100)에 의해 검출된 광 정보에 따라 측정되는 예시적인 경우에, 위험 스코어(
Figure pat00001
)가 아래의 수학식 1에 따라 계산될 수 있다.
Figure pat00002
수학식 1에 표시된 바와 같이, 위험 스코어(
Figure pat00003
)의 계산은 세 개의 눈 파라미터들(또는 인덱스들), 즉 시선 정렬(
Figure pat00004
), 각막 정적(
Figure pat00005
), 및 눈꺼풀 닫힘(
Figure pat00006
)에 기초할 수 있다. 예시의 목적만을 위해 제공된 하나의 한정되지 않는 예시적인 구현에서, 각각의 인덱스는 각각의 파라미터와 연관된 위험의 수준을 반영하는 0과 3 사이의 "스코어"를 받을 수 있고, 여기서 낮은 스코어는 낮은 정도의 주의 분산과 이에 따른 위험을 알려주고, 반면에 높은 스코어는 높은 정도의 주의 분산과 이에 따른 위험을 알려준다. 아래에 제공된 예시적인 계산들을 통해 이러한 예시적인 구현이 참조될 수 있다.
위에서 주목한 바와 같이, 위험 스코어(
Figure pat00007
)의 계산은 차량의 현재 속도에 더 종속적일 수 있다. 달리 말하면, 측정된 눈 파라미터들은 차량의 속력에 대하여 해석될 수 있다. 예를 들어, 운전자의 눈이 추적되고 위험 스코어(
Figure pat00008
)가 계산되는 동안의 시간 주기(T)는 차량의 속력에 직접적으로 종속될 수 있고, 여기서, 시간 주기(T)는 (시간 당 마일(mph) 단위로) 180/속력과 같다. 즉, 매 180 / 속력 (mph) 초마다 위험 스코어(
Figure pat00009
)가 수학식 1에 따라 계산될 수 있다. 예를 들어, 30 mph로 주행하는 차량에 대해, T = 6초이다. 60 mph로 주행하는 차량에 대해, T = 3초이다. 따라서, 차량의 속력이 증가함에 따라, 눈 추적 주기(T)는 감소된다.
수학식 1을 다시 참조하면, 위험 스코어(
Figure pat00010
)의 계산에 관련된 첫 번째 인덱스는 도로 전방 또는 다가오는 교통 상황으로부터의 미리 정의된 허용 가능한 양의 편차(각도(-))로 정규화되는 운전자의 시선 각도의 변화(variations)의 합의 비율인 시선 정렬 인덱스(
Figure pat00011
)이다. 예를 들어, 미리 정의된 량의 편차는 10도일 수 있다(이러한 양은 단지 예시적이고 시스템의 원하는 감도에 따라 변할 수 있다). 따라서, 도로 전방 또는 다가오는 교통 상황에 대한 운전자의 시선 각도의 편차가 결코 10도보다 크지 않으면, 상기 인덱스는 작을 것이다(예를 들어, 1 이하). 그러나, 도로 전방으로부터의 운전자의 시선 각도의 편차가 미리 정의된 허용 가능한 양을 초과하기 시작함에 따라 시선 정렬 인덱스(
Figure pat00012
)는 증가한다(예를 들어, 2 또는 3). 예를 들어, 정렬 인덱스(
Figure pat00013
)가 아래의 수학식 2에 따라 계산될 수 있다.
Figure pat00014
=
Figure pat00015
위험 스코어(
Figure pat00016
)의 계산에 관련된 두 번째 인덱스는, 예를 들어 다른 생각에 잠겨 있는 상태를 측정하는 각막 정적 인덱스(
Figure pat00017
)이다. 각막 정적 인덱스(
Figure pat00018
)는 단위 시간 당 눈동자/각막 움직임의 횟수와 차량 속력의 함수이다. 예를 들어, 각막 안정 인덱스(
Figure pat00019
)는 아래의 수학식 3에 따라 계산될 수 있다.
Figure pat00020
=
Figure pat00021
수학식 3에 따라, 단지 1 또는 0의 각막 움직임이 주어진 시간 주기 동안 검출된 경우(예를 들어, 깊은 다른 생각에 잠겨 있는 상태)에서, 이러한 인덱스의 값은 높을 것이다(예를 들어, 3). 2 또는 3의 각막 움직임이 주어진 시간 주기 동안 검출된다면, 이러한 인덱스의 값은 감소될 것이다(예를 들어, 2). 한편, 4 이상의 각막 움직임이 주어진 시간 주기 동안 검출된다면, 이러한 인덱스의 값은 보다 더 감소한다(예를 들어, 1 이하). 특히, 주어진 시간 주기 동안 높은 횟수의 눈 움직임을 나타내는 매우 낮은 각막 정적 인덱스(
Figure pat00022
)는 운전자의 주의가 분산됨을 알려줄 수 있다. 이것은 검출된 눈 운동의 횟수가 안전하지 않은 것으로 간주되는 미리 정의된 횟수를 초과하는 경우, 예를 들어 각막 안정 인덱스(
Figure pat00023
)에 높은(즉, 양호하지 않은(poor)) 스코어를 할당함으로써 해결될 수 있다.
위험 스코어(
Figure pat00024
)의 계산에 관련된 세 번째 인덱스는 운전자의 수면/졸림을 추적하는 눈꺼풀 닫힘 인덱스(
Figure pat00025
)이고, 눈꺼풀 닫힘 인덱스(
Figure pat00026
)는 차량 속력의 함수이다. 예를 들어, 눈꺼풀 닫힘 인덱스(
Figure pat00027
)는 아래의 수학식 4에 따라서 계산될 수 있다.
Figure pat00028
=
Figure pat00029
예로서, 차량이 30 mph의 속력에서 주행하고 있는 경우에, 트래킹 주기(T)는 6초(180 / 30 mph = 6 초)이다. 수학식 4에 따라서, 운전자가 충분히 주의하고 있고, 6초 주기 동안 운전자의 눈꺼풀이 최대 0.5초(15 / 30 mph = 0.5 초) 동안 닫힌다면, 인덱스는 작을 것이다(예를 들어, 1 이하). 6초 주기 동안 운전자의 눈꺼풀이 최대 0.5 초(15 / 30 mph = 0.5 초) 내지 1 초(30 / 30 mph = 1.0 초) 동안 닫힌다면, 인덱스는 증가할 것이다 (예를 들어, 2). 6초 주기 동안 운전자의 눈꺼풀이 최대 1초(30 / 30 mph = 1.0 초) 이상 동안 닫힌다면, 인덱스는 높을 것이다(예를 들어, 3).
한편, 차량이 60 mph의 속력으로 주행하고 있다면, 트래킹 주기(T)는 3초(180 / 60 mph = 3초)로 감소된다. 따라서, 차량의 속력이 증가함에 따라 주기(T)는 감소된다. 이와 유사하게, 차량 속력이 증가함에 따라 눈꺼풀 닫힘 기준들이 변경된다. 예를 들어, 60 mph로 주행하는 차량에 대해, 3초 주기 동안에 운전자의 눈꺼풀이 최대 0.25 초(15 / 60 mph = 0.25 초)동안만 닫힌다면, 눈꺼풀 닫힘 인덱스(
Figure pat00030
)는 작을 것이다(예를 들어 1 이하).
위에 설명된 위험 스코어 계산들은 전적으로 예시의 목적으로 제공되고, 본 개시의 범위가 이에 한정되는 것이 아니라고 이해되어야 한다. 즉, 위에 설명된 위험 스코어 계산들은 단지 복수의 측정된 눈 파라미터들에 따라 운전자의 운전 상태를 알려주는 위험 스코어를 구성하기 위한 하나의 가능한 방법을 나타낸다.
일단 운전자의 운전 상태를 알려주는 위험 스코어가 계산되면, 운전자가 안전하지 않는 방식(예를 들어, 주의가 분산되거나, 졸거나, 다른 생각에 잠겨 있는 등)으로 차량을 운행하고 있는지 여부를 판단하기 위해 상기 스코어는 위험 임계와 비교될 수 있다. 보다 상세히, 계산된 위험 스코어가 위험 임계를 초과하는 경우에 운전자가 안전하지 않은 방식으로 차량을 운행하고 있다고 판단될 수 있다. 운전자가 안전하지 않는 방식으로 차량을 운행하고 있다는 판단에 응답하여, 아래에서 좀더 구체적으로 설명되는 바와 같은 시정 조치가 실행될 수 있다.
가능한 위험 스코어의 범위를 반영하여 위험 임계가 설정될 수 있다. 하나의 한정되지 않는 예시로서, 위험 임계가 0.2 * 최대 가능한 위험 스코어와 같도록 설정될 수 있다. 더욱이, 원하는 감도의 수준에 따라 위험 임계가 제어될 수 있다. 예를 들어, 위험 임계를 낮춤으로써, 운전자가 불안전하게 운전하고 있다는 것을 발견할 확률을 높여 위험 검출 감도를 증가시킨다. 반대로, 위험 임계를 높임으로써, 운전자가 불안전하게 운전하고 있다는 것을 발견할 확률을 낮춰 위험 검출 감도를 감소시킨다.
환경 또는 전후 사정 상태들에 따라 위험 임계가 실시간으로 변경될 수 있다. 예를 들어, 차량이 60 mph로 커브 도로 상에서 운행하고 있는 경우와 비교하여 차량이 20 mph로 직선으로 운행하고 있는 경우에 임계는 서로 다를 수 있다. 운전 방향, 운전 속력, 하루 중 시간, 운전 기간, 주행 기점, 주행 목적지, 차량의 승객들의 수, 차량의 노이즈 량, 및 이동 장치 사용 등과 같은 다른 요소들이 위험 임계에 영향을 미칠 수 있다. 또한, 이전에 설정된 위험 임계의 이력이 위험 임계를 설정하기 위해 호출되고 활용될 수 있다. 일 예시로서, 위험 임계는 가장 최근의 이전에 설정된 위험 임계와 같도록 초기화될 수 있다.
계산된 위험 스코어가 위험 임계를 초과하면, 시정 조치가 실행될 수 있다. 예를 들어, 경고 표시기가 사용자에게 제공될 수 있다. 경고 표시기는 하루 중 시간, 차량의 노이즈 수준에 따라 시각적 또는 청각적일 수 있다. 경고 표시기는 자극(nudge) 또는 "스틱 쉐이커(stick shaker)"와 같이, 유형적, 즉, 물리적 핑(physical ping)일 수 있다.
또한, 위험 스코어가 위험 임계를 초과한다는 판단에 응답하여 차량의 속력이 자동으로 감소될 수 있다. 일부 경우들에서, 운전자가 불안전하게 운전하고 있다는 것을 알려주는 경고 표시기를 수신하고, 계산된 위험 스코어에 따라 불안전하게 운전하는 것을 계속하여 상기 경고 표시기를 무시하는 운전자에 대해 차량 속력의 감소가 적용(predicate)될 수 있다. 더욱이, 불안전하게 운전하는 것을 계속하여 속력의 감소 및 경고 표시기에 의해 제공되는 경고들을 운전자가 계속하여 무시하면, 차량 속력은 더욱 감소될 수 있다. 달리 말하면, 차량의 속력이 최초로 감소된 이후에 계산된 위험 스코어가 위험 임계를 계속하여 초과하면, 차량의 속력은 두 번째로 감소될 수 있다. 안전한 운전 습관들을 연습하도록 운전자를 교정하고 나아가 훈련시키도록 이러한 시정 조치들이 동작할 수 있다.
도 3a 및 도 3b는 각막 반사 검출을 이용하여 운전자 상태를 모니터링하기 위한 예시적인 단순화된 절차를 나타낸다. 절차(300)는 단계(310)에서 시작하고, 단계(315)로 계속될 수 있고, 본 명세서에서 더 자세히 설명되는 바와 같이, 차량에 설치된 광 센서를 이용하여 차량의 운전자의 눈에서 반사되는 광 정보가 검출되고, 검출된 광 정보에 기반하여 복수의 눈 파라미터들이 측정되고, 측정된 파라미터들에 따라 위험 스코어가 계산되고, 그리고 계산된 위험 스코어가 위험 임계를 초과한다는 판단에 응답하여 시정 조치가 실행된다.
단계(315)에서, 시스템 초기 시에, 입력 데이터가 수집될 수 있다. 예를 들어, 도 1a 및 도 1b에 도시된 바와 같이, 운전자의 각막에서 반사되는 광이 차량에 설치된 광 센서(100)에 의해 검출될 수 있다. 검출된 광 정보는 전기 신호들로 변환되고 처리를 위해 제어 유닛으로 전송될 수 있다. 또한, 차량의 속력이 판단될 수 있고 위험 스코어의 계산을 위한 부가적인 입력으로서 이용될 수 있다.
단계(320)에서, 검출된 광 정보를 이용하여 복수의 눈 파라미터들이 측정될 수 있다. 예를 들어, 단계(325)에서 도시된 바와 같이, 운전자의 시선이 도로 전방 및/또는 다가오는 교통 상황과 각도상에서 비 정렬되는지 여부를 검출하기 위해, 차량의 전방의 도로와 운전자의 시선의 정렬을 알려주는 시선 정렬(
Figure pat00031
)이 측정될 수 있다. 특히, 검출된 광 정보를 이용하여 차량의 전방의 도로에서 운전자의 시선이 미리 정의된 허용 가능한 양(예를 들어, 5 내지 30도)을 넘어 벗어나지 여부가 판단될 수 있다. 다른 예로서, 운전자가 다른 생각에 잠겨 있는 것을 알려주는 운전자의 눈이 너무 정적인지 여부 또는 운전자가 주의 분산됨을 알려주는 운전자의 눈이 너무 빠르게 움직이는지 여부를 검출하기 위해 미리 정의된 시간 주기 동안에 운전자의 각막의 정적을 알려주는 각막 정적이 측정될 수 있다. 이를 위해, 검출된 광 정보를 이용하여 미리 정의된 시간 주기 동안에 운전자의 각막의 움직임의 횟수가 판단될 수 있다. 또 다른 예로서, 미리 정의된 시간 주기 동안에 운전자의 눈꺼풀의 닫힘양을 알려주는 눈꺼풀 닫힘(
Figure pat00032
)이 운전자가 졸리는지 여부를 검출하기 위해 측정될 수 있다. 이를 위해, 미리 정의된 시간 주기 동안에 운전자의 눈꺼풀이 닫힌 최대 시간은 검출된 광 정보를 이용하여 판단될 수 있다(예를 들어, 각막이 일시적으로 검출되지 않는 경우, 눈꺼풀이 일부 또는 완전히 닫혔다고 유추될 수 있다). 임의의 개수 및/또는 임의의 유형의 눈 파라미터들이 광 센서(100)에 의해 검출된 광 정보에 기반하여 측정될 수 있으므로, 위에 설명된 파라미터들은 단지 예시의 목적으로 제공된다고 이해되어야 한다.
단계(330)에서, 측정된 눈 파라미터들에 기반하여 위험 스코어가 계산될 수 있다. 예를 들어, 단계 335에 도시된 바와 같이, 아래의 수학식 1에 따라 위험 스코어(
Figure pat00033
)가 계산될 수 있다.
Figure pat00034
위험 스코어(
Figure pat00035
)의 계산은 단계(325)에서 측정된 세 개의 눈 파라미터들(또는 "인덱스들"), 즉 시선 정렬(
Figure pat00036
), 각막 정적(
Figure pat00037
), 및 눈꺼풀 닫힘(
Figure pat00038
)에 종속적일 수 있다. 단지 예시의 목적을 위해 제공된 하나의 한정되지 않는 예시적인 구현에서, 각각의 인덱스는 "스코어"를 받을 수 있고, 위험 스코어(
Figure pat00039
)는 각각의 스코어의 곱과 같다. 예를 들어, 낮은 스코어는 낮은 정도의 주의 분산과 이에 따른 위험을 알려줄 수 있고, 반면에 높은 스코어는 높은 정도의 주의 분산과 이에 따른 위험을 알려줄 수 있다.
단계(340)에서, 부가 입력 데이터는 위험 임계를 계산하는 목적으로 수집될 수 있다(단계 345). 위에서 설명된 바와 같이, 가능한 위험 스코어의 범위를 반영하여 위험 임계가 설정될 수 있다. 하나의 한정되지 않는 예시로서, 위험 임계가 0.2 * 최대 가능한 위험 스코어와 같도록 설정될 수 있다. 더욱이, 원하는 감도의 수준에 따라 위험 임계가 제어될 수 있다. 단계(340)에서 검출된 환경 또는 전후 사정 상태들에 따라 위험 임계가 또한 실시간으로 변경될 수 있다. 예를 들어, 운전 방향, 운전 속력, 하루 중 시간, 운전 기간, 주행 기점, 주행 목적지, 차량의 승객들의 수, 차량의 노이즈 량, 및 이동 장치 사용 등과 같은 요소들 (입력 데이터)에 따라 임계가 변경될 수 있다.
단계(350)에서, 계산된 위험 스코어(
Figure pat00040
)가 위험 임계와 비교될 수 있다. 위험 스코어(
Figure pat00041
)가 위험 임계를 초과하면, (예를 들어, 주의 결여에 기인하여) 운전자가 불안전하게 운전하고 있다고 판단될 수 있고, 안전한 운전 습관들을 채택하도록 운전자를 교정하고 나아가 훈련시키기 위해 시정 조치가 실행될 수 있다(단계355). 위험 스코어(
Figure pat00042
)가 위험 임계를 초과하지 않는다면, 절차(300)는 이전의 단계로 복귀되어 위험 스코어 및/또는 위험 임계를 재계산할 수 있다.
절차(300)는 예시적으로 단계(355)에서 종료된다. 부수적인 절차들과 파라미터들뿐만 아니라, 절차(300)의 단계들이 수행될 수 있는 기법들이 본 명세서에서 상세하게 설명된다.
도 3a 및 도 3b에서 도시된 단계들은 단지 설명을 위한 예시들이고, 특정 다른 단계들이 원하는 바대로 포함되거나 또는 배제될 수 있다. 또한, 단계들의 특정 순서가 도시되는 반면에, 이러한 순서는 단지 예시적이고, 단계들의 임의의 적절한 배치가 본 명세서의 실시예들의 범위에서 벗어나지 않는 범위 내에서 활용될 수 있다. 또한, 설명된 단계들은 본 청구항들의 범위에 따라 임의의 적절한 방식으로 수정될 수 있다.
도 4는 운전자가 불안전한 방식으로 운전하고 있다는 판단에 응답하여 시정 조치를 실행하기 위한 예시적인 단순화된 절차를 나타낸다. 절차(400)는 단계(410)에서 시작할 수 있고, 단계(415)로 계속될 수 있으며, 본 명세서에서 더 자세히 설명되는 바와 같이, 운전자로부터 얻어진 응답 및 특히 운전자가 경고 신호들에 주의를 기울이는지 여부에 종속하여 일련의 시정 조치들이 수행될 수 있다
단계(410)에서, 계산된 위험 스코어(
Figure pat00043
)가 위험 임계와 비교될 수 있다. 위험 스코어(
Figure pat00044
)가 위험 임계를 초과하면, (예를 들어, 주의 결여에 기인하여) 운전자가 불안전하게 운전하고 있다고 판단될 수 있고, 안전한 운전 습관들을 채택하도록 운전자를 교정하고 나아가 훈련시키기 위해 초기 시정 조치가 실행될 수 있다(단계415).
단계(415)에서, 계산된 위험 스코어가 위험 임계를 초과한다는 판단에 응답하여 초기 시정 조치가 실행될 수 있다. 예를 들어, 운전자에게 제공되는 초기 시정 조치는 경고 표시기를 포함할 수 있다. 경고 표시기는 하루 중 시간, 차량의 노이즈 수준 등에 따라 시각적 또는 청각적일 수 있다. 경고 표시기는 자극(nudge) 또는 "스틱 쉐이커(stick shaker)"와 같이 유형적, 즉 물리적 핑(physical ping)일 수 있다.
단계(415)에서 운전자에게 경고 표시기를 제공한 이후에, 운전자가 자신의 운전 상태를 변경하였는지 여부(예를 들어, 운전자가 주의가 덜 분산되거나, 더 주의를 기울이거나, 더 집중하고 있는 지 여부 등)를 검증하기 위해, 계산된 위험 스코어(
Figure pat00045
)가 위험 임계(단계 420)와 다시 비교될 수 있다. 계산된 위험 스코어가 더 이상 위험 임계를 초과하지 않는다면, 이는 운전자가 자신의 운전 습관을 변경하여 단계(410)에서 제공되는 경고 표시기에 적절하게 응답하였다는 것을 의미하고, 절차(400)는 단계(410)로 복귀될 수 있다. 반면에, 단계(420)에서 계산된 위험 스코어가 여전히 위험 임계를 초과하면, 이는 단계(415)에서 제공된 경고 표시기를 운전자가 무시하였음을 의미하고, 차량의 속력이 자동으로 감소될 수 있다(단계 425). 일 예로서, 차량 속력은 5%, 10% 등과 같이 제1 량만큼 감소될 수 있다. 차량 속력의 자동 감소를 통해 운전자에게 자신의 운전 습관이 불안전하다는 것을 알려주어야 한다.
단계(425)에서 제1 량만큼 차량의 속력을 감소시킨 이후에, 운전자가 자신의 운전 습관을 변경하였는지 여부(예를 들어, 운전자가 주의가 덜 분산되거나, 더 주의를 기울이거나, 더 집중하고 있는 지 여부 등)를 검증하기 위해, 계산된 위험 스코어(
Figure pat00046
)가 위험 임계와 다시 한번 비교될 수 있다(단계 430). 계산된 위험 스코어가 더 이상 위험 임계를 초과하지 않는다면, 이는 운전자가 자신의 운전 습관을 변경하여 단계(425)에서 수행되는 차량 속력의 감소에 적절하게 응답하였다는 것을 의미하고, 절차(400)는 단계(410)로 복귀될 수 있다.
반면에, 단계(430)에서 계산된 위험 스코어가 여전히 위험 임계를 초과하면, 이는 단계(425)에서 수행된 시정 조치를 운전자가 무시하였음을 의미하고, 차량의 속력이 두 번째로 자동으로 감소될 수 있다(단계 435). 일 예로서, 차량 속력은 15%, 20% 등과 같이 제2 량만큼 감소될 수 있고, 이는 단계(425)의 제1 량보다 더 크다. 후속되는 차량 속력의 자동 감소를 통해 운전자에게 자신의 습관이 불안전하다는 것을 더 알려주어야 한다. 위에서 설명된 바와 같이, 안전한 운전 습관들을 교정하고 나아가 훈련하도록 이러한 시정 조치들이 동작할 수 있다.
절차(400)는 예시적으로 단계(435)에서 종료된다. 부수적인 절차들과 파라미터들뿐만 아니라, 절차(400)의 단계들이 수행될 수 있는 기법들이 본 명세서에서 상세하게 설명된다.
도 4에서 도시된 단계들은 단지 설명을 위한 예시들이고, 특정 다른 단계들이 원하는 바대로 포함되거나 또는 배제될 수 있다. 또한, 단계들의 특정 순서가 도시되는 반면에, 이러한 순서는 단지 예시적이고, 단계들의 임의의 적절한 배치가 본 명세서의 실시예들의 범위에서 벗어남이 없이 활용될 수 있다. 또한, 설명된 단계들은 본 청구항들의 범위에 따라 임의의 적절한 방식으로 수정될 수 있다.
따라서, 운전 습관들을 다루고 도로 전방 또는 주변의 교통 상황에 대한 운전자의 집중력 결여에 기인하여 발생하는 충돌 확률을 감소시키는 기법들이 본 명세서에서 설명된다. 본 명세서에서 설명된 시스템은 주어진 운전자의 정상 운전 패턴에 시스템 그 자체를 동적으로 적응(adapt)시킨다. 위험 스코어 및/또는 위험 임계를 계산하는 경우에 문화적, 사회적, 및 지형적 종속성이 또한 효과를 발휘할 수 있다. 이러한 효과는 차량 사고의 감소와 주행 안전의 상승이다. 또한, 운전자는 그들 각각의 운전 상태들에 더 큰 주의를 기울이도록 훈련될 수 있으며, 그렇지 않으면 차량 속력의 자동 감소와 같은 시정 조치들이 실행될 것이다.
각막 반사 검출을 이용하여 운전자 상태 모니터링을 제공하는 예시적인 실시예들이 도시되고 설명되었지만, 본 개시의 실시예들의 사상과 범위 내에서 다양한 다른 적응들과 수정들이 이루어질 수 있다. 예를 들어, 각막 반사 기법들이 눈 추적의 목적으로 본 명세서에서 주로 언급되었지만, 청구된 실시예들은 또한 다른 눈 추적 기법들에 적용 가능하다. 따라서, 본 개시의 실시예들은 본 청구항들의 범위에 따라 적절한 방식으로 수정될 수 있다.
위의 설명은 본 개시의 실시예들에 초점을 맞추고 있다. 그러나, 실시예들의 이점들의 일부 또는 전부를 달성하면서, 다른 변형들과 수정들이 설명된 실시예들에 이루어질 수 있다는 것은 분명할 것이다. 따라서, 이러한 설명은 단지 예시의 목적으로 이루어진 것이고 본 개시의 실시예들의 범위를 한정하는 것은 아니다. 따라서, 본 개시의 실시예들의 진정한 사상과 범위 내에서 실현되는 것으로서 이러한 변형들과 수정들을 커버하는 것이 첨부된 청구항들의 목적이다.

Claims (20)

  1. 방법에 있어서,
    차량에 설치된 광 센서를 이용하여 상기 차량의 운전자의 눈(eye)에서 반사되는 광 정보를 검출하는 단계;
    상기 검출된 광 정보에 기반하여, 상기 차량에 구비된 제어 유닛에 의해, 복수의 눈 파라미터들을 측정하는 단계;
    상기 복수의 눈 파라미터들에 따라 상기 운전자의 운전 상태를 알려주는 위험 스코어(endangerment score)를 계산하는 단계;
    상기 제어 유닛에 의해 상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하는 단계; 및
    상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여, 상기 제어 유닛에 의해 시정 조치(corrective action)가 수행되는 단계;
    를 포함하는 방법.
  2. 제1 항에 있어서,
    상기 광 센서는 상기 차량의 후방 뷰 미러에 설치되는 방법.
  3. 제2 항에 있어서,
    광원은 상기 광 센서에 결합되는 방법.
  4. 제1 항에 있어서,
    상기 복수의 눈 파라미터들의 측정은, 상기 제어 유닛에 의해, 상기 검출된 광 정보에 기반하여 상기 차량의 앞에 있는 도로와 상기 운전자의 시야(gaze)의 정렬을 알려주는 시야 정렬을 측정하는 단계를 포함하는 방법.
  5. 제4 항에 있어서,
    상기 시야 정렬의 측정은, 제어 유닛에 의하여, 상기 차량의 전방의 상기 도로로부터 상기 운전자의 상기 시선이 미리 정의된 허용 가능한 양을 초과하여 벗어나는지 여부를 판단하는 단계를 포함하는 방법.
  6. 제1 항에 있어서,
    상기 복수의 눈 파라미터들의 측정은, 상기 제어 유닛에 의해, 상기 검출된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 각막의 정적(stillness)을 알려주는 각막 정적을 측정하는 단계를 포함하는 방법.
  7. 제6 항에 있어서,
    상기 각막 정적의 측정은, 상기 제어 유닛에 의해, 상기 시간 주기 동안에 상기 운전자의 상기 각막의 움직임의 횟수를 판단하는 단계를 포함하는 방법.
  8. 제1 항에 있어서,
    상기 복수의 눈 파라미터들의 측정은, 상기 제어 유닛에 의해, 상기 검출된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 눈꺼풀의 닫힘양(closure amount)을 알려주는 눈꺼풀 닫힘을 측정하는 단계를 포함하는 방법.
  9. 제8 항에 있어서,
    상기 눈꺼풀 닫힘의 측정은, 상기 제어 유닛에 의해, 상기 시간 주기 동안에 상기 운전자의 상기 눈꺼풀이 닫힌 시간의 최대량을 판단하는 단계를 포함하는 방법.
  10. 제1 항에 있어서,
    상기 위험 스코어의 계산은,
    상기 검출된 광 정보에 기반하여 상기 차량의 전방의 도로와 상기 운전자의 시선의 정렬을 알려주는 시선 정렬을, 상기 제어 유닛에 의해, 측정하는 단계;
    상기 검출된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 각막의 정적을 알려주는 각막 정적을, 상기 제어 유닛에 의해, 측정하는 단계;
    상기 검출된 광 정보에 기반하여 시간 주기 동안에 상기 운전자의 눈꺼풀의 닫힘양을 알려주는 눈꺼풀 닫힘을, 상기 제어 유닛에 의해, 측정하는 단계; 및
    상기 측정된 시선 정렬, 각막 정적, 및 눈꺼풀 닫힘을 이용하여 상기 위험 스코어를, 상기 제어 유닛에 의해, 계산하는 단계;
    를 포함하는 방법.
  11. 제1 항에 있어서,
    원하는 감도에 따라 상기 위계 임계를, 상기 제어 유닛에 의해, 제어하는 단계를 더 포함하는 방법.
  12. 제1 항에 있어서,
    운전 방향, 운전 속력, 하루 중 시간, 운전 기간, 주행 기점, 주행 목적지, 상기 차량의 승객들의 수, 상기 차량의 노이즈 량, 및 이동 장치 사용으로 이루어진 그룹에서 선택된 하나 이상의 인자들에 따라 실시간으로 상기 위험 임계를, 상기 제어 유닛에 의해, 조정하는 단계를 더 포함하는 방법.
  13. 제1 항에 있어서,
    이전에 설정된 위험 임계를, 상기 제어 유닛에 의해, 판단하는 단계; 및
    상기 이전에 설정된 위험 임계에 기반하여 상기 위험 임계를, 상기 제어 유닛에 의해, 설정하는 단계;
    를 더 포함하는 방법.
  14. 제1 항에 있어서,
    상기 검출된 광 정보에서 노이즈를 제거하기 위하여 상기 검출된 광 정보에 필터를, 상기 제어 유닛에 의해, 적용하는 단계를 더 포함하는 방법.
  15. 제1 항에 있어서,
    상기 복수의 눈 파라미터들의 측정은,
    상기 차량의 현재 속력을, 상기 제어 유닛에 의해, 판단하는 단계; 및
    상기 판단된 차량의 현재 속력에 더 기반하여 상기 복수의 눈 파라미터들을, 상기 제어 유닛에 의해, 측정하는 단계;
    를 포함하는 방법.
  16. 제1 항에 있어서,
    상기 시정 조치의 실행은 시각적, 청각적, 또는 유형적 경고 표시기를 상기 운전자에게 제공하는 단계를 포함하는 방법.
  17. 제1 항에 있어서,
    상기 시정 조치의 실행은 상기 차량의 속력을, 상기 제어 유닛에 의해, 감소시키는 단계를 포함하는 방법.
  18. 제16 항에 있어서,
    상기 시정 조치의 실행은,
    상기 차량의 상기 속력을 감소시킨 이후에 상기 계산된 위험 스코어가 상기 위험 임계를 계속하여 초과하는지 여부를, 상기 제어 유닛에 의해, 판단하는 단계; 및
    상기 계산된 위험 스코어가 상기 위험 임계를 계속하여 초과하는 경우, 상기 차량의 상기 속력을, 상기 제어 유닛에 의해, 더 감소키는 단계;
    를 포함하는 방법.
  19. 시스템에 있어서,
    차량의 운전자의 눈(eye)에서 반사되는 광 정보를 검출하도록 구성된 상기 차량에 설치된 광 센서; 및
    상기 차량에 설치되는 제어 유닛;
    을 포함하고, 상기 제어 유닛은:
    상기 검출된 광 정보에 기반하여 복수의 눈 파라미터들을 측정하고;
    상기 복수의 눈 파라미터들에 따라, 상기 운전자의 운전 상태를 알려주는 위험 스코어(endangerment score)를 계산하고;
    상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하고; 그리고
    상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를 실행하도록 구성된 시스템.
  20. 차량에 설치된 제어 유닛에 의해 실행 가능한 프로그램 명령들을 포함하는 일시적이지 않은 컴퓨터 판독가능 매체에 있어서, 실행되는 경우에 상기 프로그램 명령들은 상기 제어 유닛으로 하여금,
    상기 차량에 설치된 광 센서에 의해 검출된 상기 차량의 운전자의 눈(eye)에서 반사되는 광 정보에 기반하여 복수의 눈 파라미터들을 측정하고;
    상기 복수의 눈 파라미터들에 따라 상기 운전자의 운전 상태를 알려주는 위험 스코어를 계산하고;
    상기 계산된 위험 스코어가 위험 임계를 초과하는지 여부를 판단하고; 그리고
    상기 계산된 위험 스코어가 상기 위험 임계를 초과한다는 판단에 응답하여 시정 조치(corrective action)를 실행하도록 하는 일시적이지 않은 컴퓨터 판독가능 매체.
KR1020170117744A 2016-12-21 2017-09-14 각막 반사 검출을 이용한 운전자 상태 모니터링 KR102335325B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/386,232 2016-12-21
US15/386,232 US10346697B2 (en) 2016-12-21 2016-12-21 Driver state monitoring using corneal reflection detection

Publications (2)

Publication Number Publication Date
KR20180072519A true KR20180072519A (ko) 2018-06-29
KR102335325B1 KR102335325B1 (ko) 2021-12-06

Family

ID=62251087

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170117744A KR102335325B1 (ko) 2016-12-21 2017-09-14 각막 반사 검출을 이용한 운전자 상태 모니터링

Country Status (4)

Country Link
US (1) US10346697B2 (ko)
KR (1) KR102335325B1 (ko)
CN (1) CN108216251B (ko)
DE (1) DE102017211005A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210065648A (ko) * 2019-11-27 2021-06-04 주식회사텔러스 주행 위험도 및 운전자 상태 분석에 기초한 차량 긴급 구난 장치

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7043795B2 (ja) * 2017-11-06 2022-03-30 日本電気株式会社 運転支援装置、運転状況情報取得システム、運転支援方法及びプログラム
KR102506871B1 (ko) * 2018-02-19 2023-03-08 현대자동차주식회사 자율 주행 제어 장치 및 그의 전방차량 출발 알림 방법
DE102018214935B4 (de) * 2018-09-03 2023-11-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren, Vorrichtung, Computerprogramm und Computerprogrammprodukt zum Ermitteln einer Aufmerksamkeit eines Fahrers eines Fahrzeuges
DE102018215969A1 (de) * 2018-09-19 2020-03-19 Robert Bosch Gmbh Verfahren zum Klassifizieren einer fahraufgabenfremden Aktivität eines Fahrers hinsichtlich einer Unterbrechbarkeit der fahraufgabenfremden Aktivität bei einer Übernahmeaufforderung der Fahraufgabe und Verfahren zur Wiederfreigabe einer fahraufgabenfremden Aktivität nach einer Unterbrechung der fahraufgabenfremden Aktivität aufgrund einer Übernahmeaufforderung der Fahraufgabe
KR102612925B1 (ko) * 2018-10-18 2023-12-13 주식회사 에이치엘클레무브 차량 긴급 제어 장치
US11355241B2 (en) * 2018-11-27 2022-06-07 International Business Machines Corporation Intelligent health recommendation service
US10552695B1 (en) * 2018-12-19 2020-02-04 GM Global Technology Operations LLC Driver monitoring system and method of operating the same
CN110239533B (zh) * 2019-05-08 2021-04-06 腾讯科技(深圳)有限公司 确定车辆的驾驶风险的方法、设备、装置和可读存储介质
KR102692323B1 (ko) * 2019-05-10 2024-08-08 현대자동차주식회사 차량 및 이의 생명 보호 조치 방법
CN112758098B (zh) * 2019-11-01 2022-07-22 广州汽车集团股份有限公司 基于驾驶员状态等级的车辆驾驶权限接管控制方法及装置
US20210369161A1 (en) * 2020-06-02 2021-12-02 Antonio Visconti System and method for detection and continuous monitoring of neurological condition of a user
CN113753035A (zh) * 2020-06-02 2021-12-07 奥迪股份公司 驾驶辅助系统、包括其的车辆、驾驶辅助方法和介质
US12087092B2 (en) * 2021-06-04 2024-09-10 Rockwell Collins, Inc. Pilot safety system with context-sensitive scan pattern monitoring and alerting
DE102021125945A1 (de) * 2021-10-06 2023-04-06 Bayerische Motoren Werke Aktiengesellschaft Fahrzeugführungssystem und Verfahren zur Steuerung einer Nothalteassistenzfunktion eines Kraftfahrzeugs
DE102022116137A1 (de) 2022-06-29 2024-01-04 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Bestimmen einer Abweichung zweier Augenachsen eines Nutzers eines Kraftfahrzeugs, Computerprogramm, Datenverarbeitungsvorrichtung und Kraftfahrzeug
DE102022118054A1 (de) 2022-07-19 2024-01-25 Bayerische Motoren Werke Aktiengesellschaft Verfahren und vorrichtung zum betreiben eines kraftfahrzeugs
CN115366907B (zh) * 2022-08-12 2024-10-22 重庆长安汽车股份有限公司 驾驶员的状态异常提醒方法、装置、车辆及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5786765A (en) * 1996-04-12 1998-07-28 Mitsubishi Jidosha Kogyo Kabushiki Kaisha Apparatus for estimating the drowsiness level of a vehicle driver
US6097295A (en) * 1998-01-28 2000-08-01 Daimlerchrysler Ag Apparatus for determining the alertness of a driver
US6304187B1 (en) * 1998-01-15 2001-10-16 Holding B.E.V. S.A. Method and device for detecting drowsiness and preventing a driver of a motor vehicle from falling asleep
US20060287779A1 (en) * 2005-05-16 2006-12-21 Smith Matthew R Method of mitigating driver distraction
US20090237257A1 (en) * 2008-03-18 2009-09-24 Hyundai Motor Company Doze-off warning apparatus for vehicle

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL81928A (en) * 1987-03-18 1992-08-18 A T Systems Applic Of Advanced Apparatus for monitoring the eyes of an operator
US5016282A (en) * 1988-07-14 1991-05-14 Atr Communication Systems Research Laboratories Eye tracking image pickup apparatus for separating noise from feature portions
JP3316725B2 (ja) * 1995-07-06 2002-08-19 三菱電機株式会社 顔画像撮像装置
KR980001162A (ko) 1996-06-05 1998-03-30 김영귀 운전자의 졸음방지장치
US6154559A (en) 1998-10-01 2000-11-28 Mitsubishi Electric Information Technology Center America, Inc. (Ita) System for classifying an individual's gaze direction
US7202792B2 (en) * 2002-11-11 2007-04-10 Delphi Technologies, Inc. Drowsiness detection system and method
US6989754B2 (en) * 2003-06-02 2006-01-24 Delphi Technologies, Inc. Target awareness determination system and method
US7423540B2 (en) * 2005-12-23 2008-09-09 Delphi Technologies, Inc. Method of detecting vehicle-operator state
US7751960B2 (en) * 2006-04-13 2010-07-06 Gm Global Technology Operations, Inc. Driver workload-based vehicle stability enhancement control
BRPI0712837B8 (pt) 2006-06-11 2021-06-22 Volvo Tech Corporation método para determinação e análise de uma localização de interesse visual
US7839292B2 (en) * 2007-04-11 2010-11-23 Nec Laboratories America, Inc. Real-time driving danger level prediction
JP4492652B2 (ja) 2007-07-26 2010-06-30 トヨタ自動車株式会社 眠気状態判断装置
US20140276090A1 (en) * 2011-03-14 2014-09-18 American Vehcular Sciences Llc Driver health and fatigue monitoring system and method using optics
US8725311B1 (en) * 2011-03-14 2014-05-13 American Vehicular Sciences, LLC Driver health and fatigue monitoring system and method
KR101604232B1 (ko) * 2011-09-05 2016-03-17 토야마켄 졸음검출방법과 장치
US9823742B2 (en) 2012-05-18 2017-11-21 Microsoft Technology Licensing, Llc Interaction and management of devices using gaze detection
US9122933B2 (en) * 2013-03-13 2015-09-01 Mighty Carma, Inc. After market driving assistance system
US9298994B2 (en) * 2014-01-09 2016-03-29 Harman International Industries, Inc. Detecting visual inattention based on eye convergence
US20160052524A1 (en) * 2014-08-25 2016-02-25 Hyundai Motor Company System and method for alerting drowsy driving
DE102014220759B4 (de) * 2014-10-14 2019-06-19 Audi Ag Überwachung eines Aufmerksamkeitsgrads eines Fahrers eines Fahrzeugs
US9747812B2 (en) * 2014-10-22 2017-08-29 Honda Motor Co., Ltd. Saliency based awareness modeling
CN107004364B (zh) * 2014-12-26 2020-04-10 横滨橡胶株式会社 防撞系统以及防撞方法
US10137902B2 (en) * 2015-02-12 2018-11-27 Harman International Industries, Incorporated Adaptive interactive voice system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5786765A (en) * 1996-04-12 1998-07-28 Mitsubishi Jidosha Kogyo Kabushiki Kaisha Apparatus for estimating the drowsiness level of a vehicle driver
US6304187B1 (en) * 1998-01-15 2001-10-16 Holding B.E.V. S.A. Method and device for detecting drowsiness and preventing a driver of a motor vehicle from falling asleep
US6097295A (en) * 1998-01-28 2000-08-01 Daimlerchrysler Ag Apparatus for determining the alertness of a driver
US20060287779A1 (en) * 2005-05-16 2006-12-21 Smith Matthew R Method of mitigating driver distraction
US20090237257A1 (en) * 2008-03-18 2009-09-24 Hyundai Motor Company Doze-off warning apparatus for vehicle

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210065648A (ko) * 2019-11-27 2021-06-04 주식회사텔러스 주행 위험도 및 운전자 상태 분석에 기초한 차량 긴급 구난 장치

Also Published As

Publication number Publication date
US20180173975A1 (en) 2018-06-21
CN108216251A (zh) 2018-06-29
CN108216251B (zh) 2022-05-17
DE102017211005A1 (de) 2018-06-21
US10346697B2 (en) 2019-07-09
KR102335325B1 (ko) 2021-12-06

Similar Documents

Publication Publication Date Title
KR102335325B1 (ko) 각막 반사 검출을 이용한 운전자 상태 모니터링
US9694680B2 (en) System and method for determining drowsy state of driver
KR102051142B1 (ko) 차량용 운전자 위험 지수 관리 시스템 및 그 방법
JP6369487B2 (ja) 表示装置
JP6486640B2 (ja) 運転特性診断装置、運転特性診断システム、運転特性診断方法、情報出力装置、情報出力方法
JP4492652B2 (ja) 眠気状態判断装置
JP6627811B2 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
JPH08178712A (ja) 漫然運転検出装置
US20180229654A1 (en) Sensing application use while driving
JP2016081087A (ja) 運転特性診断装置、運転特性診断システム、運転特性診断方法、情報出力装置、情報出力方法
US20240000354A1 (en) Driving characteristic determination device, driving characteristic determination method, and recording medium
JP2017124735A (ja) 運転支援装置
JP2015207163A (ja) 状態推定装置、および状態推定プログラム
JP2018149941A (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
JP6631569B2 (ja) 運転状態判定装置、運転状態判定方法及び運転状態判定のためのプログラム
WO2018168049A1 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
JP2010253033A (ja) 意識低下度判定装置および警報装置
WO2018168099A1 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
CN115667044A (zh) 用于确定反应能力的方法
JP4760113B2 (ja) 運転者状態推定装置
WO2018168050A1 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム
JP2019086983A (ja) 運転支援装置、運転状況情報取得システム、運転支援方法及びプログラム
CN113696897B (zh) 驾驶员分神预警方法和驾驶员分神预警系统
JP2018094294A (ja) 状態推定システム
WO2018168048A1 (ja) 集中度判定装置、集中度判定方法及び集中度判定のためのプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant