KR20170007001A - Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium - Google Patents

Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium Download PDF

Info

Publication number
KR20170007001A
KR20170007001A KR1020150098552A KR20150098552A KR20170007001A KR 20170007001 A KR20170007001 A KR 20170007001A KR 1020150098552 A KR1020150098552 A KR 1020150098552A KR 20150098552 A KR20150098552 A KR 20150098552A KR 20170007001 A KR20170007001 A KR 20170007001A
Authority
KR
South Korea
Prior art keywords
terminal
vehicle
state
watching
driving
Prior art date
Application number
KR1020150098552A
Other languages
Korean (ko)
Other versions
KR102228385B1 (en
Inventor
김남준
Original Assignee
현대자동차주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사 filed Critical 현대자동차주식회사
Priority to KR1020150098552A priority Critical patent/KR102228385B1/en
Publication of KR20170007001A publication Critical patent/KR20170007001A/en
Application granted granted Critical
Publication of KR102228385B1 publication Critical patent/KR102228385B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W50/16Tactile feedback to the driver, e.g. vibration or force feedback to the driver on the steering wheel or the accelerator pedal
    • G06K9/00604
    • B60K2350/357
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0063Manual parameter input, manual setting means, manual initialising or calibrating means
    • B60W2050/0064Manual parameter input, manual setting means, manual initialising or calibrating means using a remote, e.g. cordless, transmitter or receiver unit, e.g. remote keypad or mobile phone

Abstract

The present invention relates to a method, an apparatus, and a recording medium for controlling safe driving based on pupil recognition by using a terminal. The safe driving method based on pupil recognition according to an embodiment of the present invention comprises: a step of determining, by a terminal, whether a vehicle is being driven; a step of measuring, by the terminal, a terminal gaze state of a user when it is determined that the vehicle is being driven; a step of determining whether satisfying a terminal use condition on the basis of the measurement result of the terminal gaze state; and a step of transmitting, by the terminal, a warning signal to the vehicle when satisfying the terminal use condition. According to the safe driving method based on pupil recognition according to the present invention, it is possible to induce a driver to concentrate on driving, finally, safe driving is performed, and it is possible to prevent a traffic accident.

Description

단말의 눈동자 인식 기능을 이용한 안전 운전 제어 방법, 장치 및 기록매체{Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium}Technical Field [0001] The present invention relates to a safety driving control method, an apparatus, and a recording medium using a pupil recognition function of a terminal,

본 발명은 단말을 이용하여, 운전자의 시선 이탈을 방지하기 하기 위한 경고 및 안전 운전에 필요한 기능을 자동으로 활성화하는, 단말의 눈동자 인식 기능을 이용한 안전 운전 제어 방법, 장치 및 기록매체에 관한 것이다.The present invention relates to a safe driving control method, an apparatus, and a recording medium using a terminal, and more particularly, to a safety driving control method using a terminal's pupil recognition function, which automatically activates a warning function and a function necessary for safe driving.

보다 상세하게, 단말의 눈동자 인식(Eye Tracker, Eye Detecting, Eye-recognition) 기술을 이용하여 운전자가 실제 단말을 사용하는지 판단하여 경고를 제공하고, 더 나아가 안전 운전에 필요한 기능을 자동 활성화하는 안전 운전 제어 방법, 장치 및 기록매체에 관한 것이다.More particularly, the present invention relates to a method and apparatus for detecting a driver's use of an actual terminal by using Eye-Tracking (Eye-Detection) technology, A control method, an apparatus, and a recording medium.

최근, 주행 중 차량에서 운전자가 스마트폰 등 휴대용 기기(Portable device)를 사용하면서 발생하는 교통 사고가 해마다 증가하고 있다. 운전자가 해당 기기를 주행 중 사용하려고 하다 보니 차량의 전방을 향해야 하는 시선이 이탈하여 기기로 향하게 되고 그 빈도가 증가함에 따라 전방 상황에 대한 대응이 늦어지는 것이 그 원인이다.Recently, traffic accidents that occur when a driver uses a portable device such as a smart phone are increasing each year. As the driver tries to use the device while driving, the gaze toward the front of the vehicle is diverted to the device, and as the frequency increases, the response to the forward situation is delayed.

이에 대해, 차량 내 눈동자 인식(Eye Tracker, Eye Detecting, Eye-recognition) 장치 또는 웨어러블 기기(Wearable device)를 활용하여 전방 시선 이탈에 대한 경고를 제공하는 기술이 고려되고 있다.On the contrary, a technology for providing a warning about a front-eye deviation by utilizing an eye-tracking (Eye-Detection) device or a wearable device in a vehicle is being considered.

상세하게, 차량 내 카메라 또는 웨어러블 기기 내 카메라를 이용한 눈동자 인식(Eye Tracker, Eye Detecting, Eye-recognition)을 진행하고, 눈동자 인식 결과로 인지된 시선방향을 주행방향과 비교하여 시선방향이 주행방향과 불일치하고 그 빈도가 높은 경우, 경고 소리 또는 경고 진동 등을 통해 주의 분산에 대한 경고를 운전자에게 제공하여 운전자가 주행에 집중하도록 유도하는 기술이다.In detail, eye tracking (Eye Detecting, Eye-recognition) using a camera in a vehicle or a wearable device is carried out, and the visual direction recognized as the pupil recognition result is compared with the traveling direction, If the inconsistency and frequency are high, it is a technique to induce the driver to concentrate on the driving by providing warning to the driver about dispersion of the warning through warning sound or warning vibration.

다시 말해서 주행방향과 비교하여 주행에 필요한 시선이 분산된다고 판단될 경우 안전 운전을 위한 경고를 제공하고 있다.In other words, when it is determined that the line of sight required for driving is dispersed in comparison with the driving direction, a warning for safe driving is provided.

그러나 이 경우 스마트폰 등 휴대용 기기를 운전대(Steering Wheel)에 올리는 등, 주행 방향에서 기기를 사용하는 경우는 시선 이탈로 인지하기 어려운 점이 있으며, 시선방향과 주행방향을 비교함에 있어, 방향 불일치 범위 설정에 모호한 점이 있고, 또한 사용자에게 단순한 경고 소리 또는 경고 진동 등 수동적인 방법만을 제공하는 한계가 있다.However, in this case, when a device is used in the driving direction, for example, a portable device such as a smart phone is placed on a steering wheel, it is difficult to recognize that the device is out of sight. In comparing the gaze direction and the traveling direction, There is a limitation in providing only a passive method such as a simple warning sound or a warning vibration to the user.

이 문제를 해결하기 위해서 단말에 자체 장착된 눈동자 인식(Eye Tracker, Eye Detecting, Eye-recognition) 기술을 활용하여 운전자가 주행 중에 실제 단말을 사용하는지 판단할 필요가 있고, 실제 운전자가 주행 중에 단말을 사용하는 것으로 판단될 경우, 경고음 또는 경고 진동 발생의 수동적인 방어 방법뿐만 아니라 차량의 안전 주행에 필요한 기능을 활성화하는 능동적인 방어 방법을 제공할 필요가 있다.In order to solve this problem, it is necessary to judge whether the driver uses the actual terminal while driving by utilizing the Eye Tracker (Eye Detection) It is necessary to provide an active defense method for activating functions necessary for safety driving of the vehicle as well as a passive defense method of warning sound or warning vibration occurrence when judged to be used.

본 발명은 상술한 종래 기술의 문제점을 해결하기 위해 고안된 것으로, 본 발명의 목적은 단말 등에 자체 장착된 눈동자 인식(Eye Tracker, Eye Detecting, Eye-recognition) 기능을 활용하여 운전자가 실제 기기를 사용하는지를 판단하여 경고를 제공하고 더 나아가 이 경우 시선 이탈로 간주하여 안전운전에 필요한 기능(전방 감지 등)을 자동 활성화 하는, 단말의 눈동자 인식 기능을 이용한 안전 운전 제어 방법을 제공하는 것이다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems of the conventional art, and it is an object of the present invention to provide an apparatus and method for an eye- And provides a warning and further a safety driving control method using a pupil recognition function of the terminal which automatically recognizes a function required for safe driving (such as forward detection) by considering the deviation as an out-of-sight in this case.

본 발명의 또 다른 목적은 상기 단말의 눈동자 인식 기능을 이용한 안전 운전 제어 방법을 지원하는 어플리케이션이 기록된 컴퓨터로 실행 가능한 기록 매체를 제공하는 것이다.It is still another object of the present invention to provide a computer-executable recording medium on which an application for supporting a safe driving control method using the pupil recognition function of the terminal is recorded.

본 발명의 다른 목적은 눈동자 인식을 기반한 안전 운전 제어 장치로서 차량 및 단말을 제공하는 것이다.Another object of the present invention is to provide a vehicle and a terminal as a safe operation control device based on pupil recognition.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are not restrictive of the invention, unless further departing from the spirit and scope of the invention as defined by the appended claims. It will be possible.

본 단말의 눈동자 인식 기능을 이용한 안전 운전 제어 방법, 장치 및 기록매체를 제공한다.A safe driving control method, apparatus and recording medium using the pupil recognition function of the terminal are provided.

상기와 같은 기술적 과제를 해결하기 위하여, 본 발명의 일 실시예에 따른 눈동자 인식 기반 안전 운행 방법은, 단말이, 차량 주행 상태 여부를 판단하는 단계; 차량의 주행 상태임이 판단된 경우, 상기 단말이, 사용자의 단말 주시 상태를 측정하는 단계; 단말의 주시 상태를 측정한 결과를 바탕으로, 단말 사용 조건을 만족하는지 여부를 판단하는 단계; 및 상기 단말 사용 조건을 만족하는 경우, 단말이 상기 차량으로 경고 신호를 전송하는 단계;를 포함할 수 있다.According to an aspect of the present invention, there is provided a method for operating a pupil recognition based safety operation, the method comprising: determining whether the terminal is in a driving state; Measuring a state of watching the user's terminal when the terminal is determined to be in a running state of the vehicle; Determining whether the terminal use condition is satisfied based on a result of measuring a state of watching of the terminal; And transmitting a warning signal to the vehicle when the terminal satisfies the terminal use condition.

실시예에 따라, 상기 차량 주행 상태 여부는 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용하여 판단할 수 있다.According to the embodiment, the vehicle running state may be determined using at least one of the running speed, the running direction information, the gear state information, and the navigation availability.

실시예에 따라, 상기 단말 주시 상태는 사용자의 단말 응시 시간 및 응시 빈도일 수 있다.According to an embodiment, the terminal watching state may be a terminal viewing time and a viewing frequency of a user.

실시예에 따라, 상기 단말이 사용자의 단말 주시 상태를 측정하는 단계는 단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화하는 단계를 포함할 수 있다.According to an exemplary embodiment, the step of the terminal measuring the user's terminal watching state may include the step of activating the terminal's eye sensing module.

실시예에 따라, 상기 단말 주시 상태 측정 결과를 바탕으로 단말 사용 사용 조건을 만족하는지 여부는 상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단할 수 있다.According to an exemplary embodiment, whether the terminal use condition is satisfied based on the terminal watching state measurement result may be determined based on whether the terminal watching state exceeds the threshold time or the threshold frequency.

실시예에 따라, 상기 경고 신호를 수신한 차량이 수동적 또는 능동적 방어하는 단계;를 더 포함할 수 있다.According to an embodiment, the vehicle receiving the warning signal may be passively or actively defending the vehicle.

실시예에 따라, 상기 수동적 방어는 경고음 또는 경고 진동을 발생할 수 있다.According to an embodiment, the passive defense may generate a beep or warning vibration.

실시예에 따라, 상기 능동적 방어는 안전 주행 모드로 자동 전환시킬 수 있다.According to an embodiment, the active defense can be automatically switched to the safe running mode.

실시예에 따라, 상기 경고음 또는 경고 진동은 응시 시간 또는 응시 빈도가 임계 시간 또는 임계 빈도를 초과하는 정도에 상응하여 소리의 크기와 진동의 세기가 커질 수 있다.According to an embodiment, the beep or warning vibration may have a magnitude of the sound and a magnitude of the vibration corresponding to the degree to which the gaze time or gaze frequency exceeds the threshold time or the critical frequency.

실시예에 따라, 상기 경고음 또는 경고 진동은 차량 운전대 또는 차량의자에서 활성화 될 수 있다.According to an embodiment, the beep or warning vibration may be activated in the vehicle steering wheel or in the vehicle chair.

실시예에 따라, 상기 안전 주행 모드는 ADAS(Advanced Driver Assistance System) 모드일 수 있고, 상기 ADAS는 ACC(Adaptive Cruise Control) 모듈 또는 HDA(Highway Driving Assist) 모듈을 활성화 시킬 수 있다.According to an embodiment, the safe driving mode may be an ADAS (Advanced Driver Assistance System) mode, and the ADAS may activate an Adaptive Cruise Control (ACC) module or an HDA (Highway Driving Assist) module.

실시예에 따라, 상기 단말은 스마트폰, 태블릿피씨(Tablet PC), PDA 및 기타 이동 통신 단말 중 어느 하나일 수 있다.According to an embodiment, the terminal may be any one of a smart phone, a tablet PC, a PDA, and other mobile communication terminals.

실시예에 따라, 상기 단말과 차량간 통신을 유선 또는 무선에 의해 연결하는 단계를 더 포함하며, 무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 중에서 어느 하나를 이용할 수 있으며, 유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 중에서 어느 하나를 이용할 수 있다.According to an embodiment of the present invention, there is further provided a method of wireless communication between a terminal and a vehicle, the method comprising the steps of: wired or wirelessly connecting communication between the terminal and the vehicle, It is possible to use either USB or Mobile High-Definition Link (MHL).

또한 본 발명의 일 실시예에 따른 단말은 차량과 통신을 연결하기 위한 단말 인터페이스부; 상기 단말 인터페이스에 의해 차량과 연결된 후, 상기 차량과 신호를 송수신하는 단말 통신부; 상기 단말 통신부를 통해 상기 차량으로부터 수신한 정보를 이용해 차량 주행 상태 여부를 판단하는 주행 상태 판단부; 상기 주행 상태 판단부에 의해 차량이 주행 상태로 판단된 경우, 사용자의 단말 주시 상태를 측정하는 주시 상태 측정부; 및 상기 단말 주시 상태를 측정 결과를 바탕으로, 사용자의 단말 사용 조건을 만족하는지 여부를 판단하는 사용 여부 판단부; 를 포함하며, 상기 단말 통신부는 상기 단말 사용 조건을 만족한 경우, 차량으로 경고 신호를 전송할 수 있다.Also, the terminal according to an embodiment of the present invention may include a terminal interface unit for connecting communication with a vehicle; A terminal communication unit for transmitting and receiving signals with the vehicle after being connected to the vehicle by the terminal interface; A driving state determination unit for determining whether the vehicle is in a running state using information received from the vehicle through the terminal communication unit; A watching state measuring unit for measuring a state of watching the user's terminal when the driving state determining unit determines that the vehicle is in a running state; And a use determination unit for determining, based on the measurement result of the terminal watching state, whether the terminal usage condition of the user is satisfied or not; And the terminal communication unit may transmit a warning signal to the vehicle when the terminal use condition is satisfied.

실시예에 따라, 상기 단말 통신부가 경고 신호를 차량으로 송신함과 동시에 단말에서 경고음 또는 경고 진동을 발생시키는 단말 방어 제어 모듈을 더 포함할 수 있다.According to an embodiment, the terminal communication unit may further include a terminal defense control module that generates a warning sound or an alert vibration at the terminal while transmitting the warning signal to the vehicle.

실시예에 따라, 상기 주행 상태 판단부는 상기 차량으로부터 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용를 이용하여 판단할 수 있다.According to the embodiment, the driving state determination unit may determine at least one of the traveling speed, the traveling direction information, the gear state information, and the navigation use from the vehicle using the utilization.

실시예에 따라, 상기 단말 주시 상태는 사용자의 단말 응시 시작 시점, 응시 종료 시점, 응시 시간 및 응시 빈도일 수 있다.According to an embodiment, the terminal watching state may be a terminal start time of a user, an ending time of a terminal, a time of a terminal, and a frequency of a terminal.

실시예에 따라, 상기 주시 상태 측정부는 단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화할 수 있다.According to an embodiment, the watching state measuring unit may activate the eye recognition module (EYE DETECTION MODULE) of the terminal.

실시예에 따라, 상기 사용 여부 판단부는 상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단할 수 있다.According to the embodiment, the use determination unit may determine based on whether the terminal watching state exceeds the threshold time or the threshold frequency.

실시예에 따라, 상기 단말은 스마트폰, 태블릿피씨(Tablet PC), PDA 및 기타 이동 통신 단말 중 어느 하나일 수 있다.According to an embodiment, the terminal may be any one of a smart phone, a tablet PC, a PDA, and other mobile communication terminals.

실시예에 따라, 상기 단말 인터페이스부는 유선 또는 무선에 의해 연결될 수 있으며, 무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 중에서 어느 하나를 이용할 수 있으며, 유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 중에서 어느 하나를 이용할 수 있다.According to an embodiment, the terminal interface unit may be connected by wire or wireless, and may be any of WIFI (Wireless Fidelity) or BlueTooth when connected by wireless communication. In case of being connected by wire communication, Or a Mobile High-Definition Link (MHL).

실시예에 따라, 상기 경고음 또는 경고 진동은 응시 시간이 임계 시간을 초과하거나 응시 빈도가 임계 빈도를 초과하는 정도에 상응하여 소리의 크기와 진동의 세기가 커질 수 있다.According to an embodiment, the beep or warning vibration may have a magnitude of a sound and an intensity of a vibration corresponding to a degree that a gaze time exceeds a threshold time or a gaze frequency exceeds a threshold frequency.

또한 본 발명의 일 실시예에 따른 차량은, 단말과 통신을 연결하기 위한 차량 인터페이스부; 상기 차량 인터페이스에 의해 단말과 연결된 후, 상기 단말과 신호를 송수신하는 차량 통신부; 상기 차량 통신부를 통해 상기 단말로부터 차량의 주행 상태 정보와 단말의 주시 상태 정보를 수신하여, 이를 바탕으로 사용자의 단말 사용 조건을 만족하는지 판단하는 사용 여부 판단부; 상기 단말 사용 조건을 만족하는 경우, 수동적 또는 능동적 방어하는 차량 방어 제어 모듈; 를 포함할 수 있다.According to another aspect of the present invention, there is provided a vehicle including: a vehicle interface unit for connecting a communication with a terminal; A vehicle communication unit for transmitting and receiving signals to and from the terminal after being connected to the terminal by the vehicle interface; A use determination unit for receiving the driving state information of the vehicle and the watching state information of the terminal from the terminal through the vehicle communication unit and determining whether the condition of use of the terminal is satisfied based on the received information; A vehicle defense control module for passively or actively defending if the terminal use condition is satisfied; . ≪ / RTI >

실시예에 따라, 상기 주행 상태 정보를 측정함에 있어 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용하여 측정할 수 있다.According to the embodiment, the traveling state information may be measured using at least one of traveling speed, traveling direction information, gear state information, and navigation use.

실시예에 따라, 상기 단말의 주시 상태 정보를 측정함에 있어 사용자의 단말 응시 시작 시점, 응시 종료 시점, 응시 시간 및 응시 빈도를 측정할 수 있다.According to the embodiment, in measuring the watch state information of the terminal, the user can measure the start time of the terminal, the end time of the terminal, the time of the terminal, and the frequency of the terminal.

실시예에 따라, 상기 단말이 사용자의 단말 주시 상태 정보를 측정함에 있어, 단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화할 수 있다.According to an embodiment of the present invention, the terminal may activate the eye recognition module (EYE DETECTION MODULE) in measuring the user terminal's state of watching information.

실시예에 따라, 상기 단말이 주시 조건 측정 결과를 바탕으로 단말 사용 조건을 만족하는지 여부를 판단함에 있어, 상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단할 수 있다.According to an exemplary embodiment of the present invention, when determining whether the terminal satisfies the terminal use condition based on the result of the measurement of the condition of the watch, the terminal may determine whether the terminal watch state exceeds the threshold time or the threshold frequency.

실시예에 따라, 상기 수동적 방어는 경고음 또는 경고 진동을 발생할 수 있다.According to an embodiment, the passive defense may generate a beep or warning vibration.

실시예에 따라, 상기 능동적 방어는 안전 주행 모드로 자동 전환시킬 수 있다.According to an embodiment, the active defense can be automatically switched to the safe running mode.

실시예에 따라, 상기 경고음 또는 경고 진동은 응시 시간이 임계 시간을 초과하거나 응시 빈도가 임계 빈도를 초과하는 정도에 상응하여 소리의 크기와 진동의 세기가 커질 수 있다.According to an embodiment, the beep or warning vibration may have a magnitude of a sound and an intensity of a vibration corresponding to a degree that a gaze time exceeds a threshold time or a gaze frequency exceeds a threshold frequency.

실시예에 따라, 상기 경고음 또는 경고 진동은 차량 운전대 또는 차량의자에서 활성화 될 수 있다.According to an embodiment, the beep or warning vibration may be activated in the vehicle steering wheel or in the vehicle chair.

실시예에 따라, 상기 안전 주행 모드는 ADAS(Advanced Driver Assistance System)모드일 수 있고, 상기 ADAS는 ACC(Adaptive Cruise Control) 모듈 또는 HDA(Highway Driving Assist) 모듈을 활성화 시킬 수 있다.According to an embodiment, the safe driving mode may be an ADAS (Advanced Driver Assistance System) mode, and the ADAS may activate an Adaptive Cruise Control (ACC) module or an HDA (Highway Driving Assist) module.

실시예에 따라, 상기 단말은 스마트폰, 태블릿피씨(Tablet PC), PDA 및 기타 이동 통신 단말 중 어느 하나일 수 있다.According to an embodiment, the terminal may be any one of a smart phone, a tablet PC, a PDA, and other mobile communication terminals.

실시예에 따라, 상기 차량 인터페이스부는 유선 또는 무선에 의해 연결될 수 있으며, 무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 중에서 어느 하나를 이용할 수 있으며, 유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 중에서 어느 하나를 이용할 수 있다.According to the embodiment, the vehicle interface unit may be connected by wire or wireless, and may be either Wireless Fidelity (WIFI) or BlueTooth when connected by wireless communication. When connected by wire communication, Or a Mobile High-Definition Link (MHL).

또한 본 발명의 일 실시예는 상기 안전 운전 제어 방법을 실행시키기 위한 애플리케이션을 기록한 컴퓨터로 읽을 수 있는 기록매체일 수 있다.Further, an embodiment of the present invention may be a computer-readable recording medium on which an application for executing the safe driving control method is recorded.

본 발명에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 방법, 장치 및 기록매체에 대한 효과를 설명하면 다음과 같다.The safety operation control method, apparatus, and recording medium based on pupil recognition using the terminal according to the present invention will now be described.

첫째, 본 발명은 단말의 눈동자 인식(Eye detection) 센서를 이용하여 추가적인 차량 내 센서 장착이 불필요하므로, 비용 측면에서 부담이 없다는 효과가 있다.First, the present invention eliminates the need for mounting an additional in-vehicle sensor by using an eye detection sensor of a terminal, and therefore, there is no overhead in terms of cost.

둘째, 주행방향과 동일선상에서 단말을 응시할 경우, 기존 방법으로는 단말의 사용 여부를 인지하기 어려웠으나, 실제 단말의 사용 여부를 판단함으로써 상기 한계를 극복할 수 있는 효과가 있다.Second, it is difficult to recognize whether the terminal is used in the existing method when the terminal is stared on the same direction as the driving direction, but it is possible to overcome the limit by judging whether the terminal is actually used or not.

셋째, 운전자에게 경고 주는 것을 뛰어넘어 차량 내 안전장치를 자동으로 활성화하여 적극적인 안전 운전을 지원하는 효과가 있다.Third, it has the effect of supporting active safety driving by automatically activating the safety device in the vehicle beyond the warning given to the driver.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtained by the present invention are not limited to the above-mentioned effects, and other effects not mentioned can be clearly understood by those skilled in the art from the following description will be.

이하에 첨부되는 도면들은 본 발명에 관한 이해를 돕기 위한 것으로, 상세한 설명과 함께 본 발명에 대한 실시예들을 제공한다. 다만, 본 발명의 기술적 특징이 특정 도면에 한정되는 것은 아니며, 각 도면에서 개시하는 특징들은 서로 조합되어 새로운 실시예로 구성될 수 있다.
도 1은 눈동자 인식을 기반한 안전 운전 제어 시스템에 대한 구성도이다.
도 2는 본 발명의 일 실시예에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 방법을 설명하기 위한 순서도이다.
도 3은 도 2을 더욱 상세하게 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 장치의 구성도이다.
도 5는 본 발명의 다른 실시예에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 장치의 구성도이다.
BRIEF DESCRIPTION OF THE DRAWINGS The accompanying drawings, which are included to provide a further understanding of the invention and are incorporated in and constitute a part of this specification, illustrate embodiments of the invention and, together with the description, serve to explain the principles of the invention. It is to be understood, however, that the technical features of the present invention are not limited to the specific drawings, and the features disclosed in the drawings may be combined with each other to constitute a new embodiment.
1 is a block diagram of a safety operation control system based on pupil recognition.
2 is a flowchart for explaining a safe driving control method based on pupil recognition using a terminal according to an embodiment of the present invention.
FIG. 3 is a flowchart for explaining FIG. 2 in more detail.
4 is a block diagram of a safe driving control apparatus based on pupil recognition using a terminal according to an embodiment of the present invention.
5 is a configuration diagram of a safe driving control device based on pupil recognition using a terminal according to another embodiment of the present invention.

이하, 본 발명의 실시예들이 적용되는 장치 및 다양한 방법들에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, an apparatus and various methods to which embodiments of the present invention are applied will be described in detail with reference to the drawings. The suffix "module" and " part "for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role.

그리고 본 발명을 설명함에 있어서 관련된 공지기술에 대하여 이 분야의 기술자에게 자명한 사항으로서 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다.In the following description, well-known functions or constructions are not described in detail since they would obscure the invention in unnecessary detail.

도 1은 눈동자 인식을 기반한 안전 운전 제어 시스템에 대한 구성도이다.1 is a block diagram of a safety operation control system based on pupil recognition.

단말(100)의 눈동자 인식 기능을 이용한 안전 운전 제어 방법은 단말(100) 자체에 장착된 눈동자 인식 기능을 활용한다.The safe driving control method using the pupil recognition function of the terminal 100 utilizes the pupil recognition function installed in the terminal 100 itself.

일 예로, 눈동자 인식 기능을 구현하기 위해서는 영상처리 프로세스를 이용하는데, 카메라로부터 전달된 얼굴 영상을 디지털 영상으로 받았을 때, 통상의 마이크로프로세서, 디지털 신호 프로세서 또는 컴퓨터 등을 사용하여 2차원 디지털 영상 내에서 얼굴과 눈 위치를 검출하고, 이를 수치 데이터로 나타낸다. 이어서 2차원 디지털 영상 또는 이 영상에 대해 저해상도로 샘플링된(sampled) 화소들로부터 에지 신호를 검출하고, 그 에지 영상에서 얼굴내에 발생되는 에지 신호를 T형태로 구성된 탐색 영역에서 소정의 기하학적 관계를 적용하여 조사함으로써 얼굴 위치를 검출하고, 이후에 적당한 처리를 통해 수평 방향의 에지 신호의 극성을 사용하여 눈 위치를 검출하는 것이다.For example, in order to realize the pupil recognition function, an image processing process is used. When a facial image transmitted from a camera is received as a digital image, a normal microprocessor, a digital signal processor, The face and eye positions are detected and represented by numerical data. Then, an edge signal is detected from a two-dimensional digital image or pixels sampled at a low resolution with respect to the edge image, and edge signals generated in the edge of the edge image are applied to a predetermined geometric relationship And then detects the eye position using the polarity of the edge signal in the horizontal direction through an appropriate process.

이와 같이, T형 탐색 영역을 이용하여 에지 영상에서 얼굴 위치를 검출하는데, 이 T형 탐색 영역은 T자 형태로 구성된 탐색 영역으로서 검출하고자 하는 얼굴 위치에 정확히 위치시켰을 때, 두 눈, 두 눈 사이, 콧등, 인증 및 입술을 포함한 영역에 매치된다. 이러한 조건들을 만족하는 T형 탐색 영역내에 에지 신호의 총량이 최대가 되는 영역을 얼굴 위치로 검출한다.In this way, the face position is detected in the edge image using the T-type search region. When the T-type search region is located at the position of the face to be detected as a T-shaped search region, , The nose, the authentication, and the lip. A region where the total amount of edge signals becomes maximum in the T-shaped search region satisfying these conditions is detected as a face position.

한편, 눈은 검출된 얼굴 위치를 토대로 눈 위치를 검출하는데, 검출된 얼굴 위치에 T형 탐색 영역을 위치시키고, T형 탐색 영역내에 수평 방향의 에지 신호의 극성을 이용하여 눈 위치를 검출한다. T형 탐색 영역내에서 극성이 양인 에지 신호들이 수평선의 형태로 밀집되어 있는 영역을 검출할 수 있는데, 이때의 영역은 위 눈꺼풀 선 영역을 의미한다. 간단히 위 눈꺼풀 선 영역을 눈 위치로 검출할 수 있다. 그리고, 상기한 바와 같이 눈이 검출되면 눈에 포함되는 눈동자의 추적이 이루어진다. 통상, 과거 영상과 현재 영상간의 비교를 통해 그 차이를 확인함으로써 움직임 방향을 추정하게 된다. 이에 사용되는 영상 처리 알고리즘에서 움직임 추정 방법으로 블록정합 알고리즘(BMA: Block Matching Algorithm)을 주로 이용한다.On the other hand, the eye detects the eye position based on the detected face position, positions the T-shaped search region at the detected face position, and detects the eye position using the polarity of the edge signal in the horizontal direction in the T-shaped search region. In the T-shaped search region, edge signals having a positive polarity are detected in the form of a horizontal line, which indicates the upper eyelid line region. The upper eyelid line region can be simply detected as the eye position. When the eye is detected as described above, the pupils included in the eye are tracked. Usually, the direction of motion is estimated by checking the difference between the past image and the current image. In the image processing algorithm used, the block matching algorithm (BMA: Block Matching Algorithm) is mainly used as a motion estimation method.

다른 예로 단말로부터 발광되는 적외선 신호를 사용자가 두 눈으로 감지하고, 단말의 카메라 렌즈를 통해 두 눈으로부터 반사되는 빛의 이미지를 검출하여, 빛의 이미지에 대응하는 전기신호에 따라 눈 관련 정보를 이용하여 눈동자 인식 기능을 구현할 수 있다.As another example, the user senses an infrared signal emitted from a terminal with two eyes, detects an image of light reflected from two eyes through a camera lens of the terminal, and uses eye-related information according to an electric signal corresponding to the image of light Thereby realizing the pupil recognition function.

또 다른 일 예로, 사용자의 얼굴 영상을 취득하고, 얼굴 영상으로부터 사용자의 눈꼬리 위치를 추출하여 얼굴의 움직임을 계산하여 눈동자 인식 기능을 구현할 수 있다.As another example, the pupil recognition function can be implemented by acquiring the face image of the user, extracting the user's eye tail position from the face image, and calculating the motion of the face.

단말(100)의 영상 처리 기술을 이용하여 눈동자 인식하는 기술은 이외에도 다양하며, 눈동자 인식 기능을 이용하는 본 발명은 이에 한정되지 않는다.Other techniques for recognizing the pupil by using the image processing technique of the terminal 100 are also various, and the present invention using the pupil recognition function is not limited thereto.

본 발명은 차량(200)에 추가적으로 카메라 기타 장비를 설치하지 않고, 단말(100)의 눈동자 인식 기능을 이용한다.The present invention uses the pupil recognition function of the terminal 100 without installing a camera or other equipment in addition to the vehicle 200. [

눈동자 인식 기능으로부터 얻은 정보는 운전자의 시선 이탈이 생기는지 여부를 판단하기 위함이고, 운전자가 단말(100)을 사용한다고 판단될 경우, 시선 이탈로 간주하고, 차량(200)에 경고 신호를 전달함으로써, 안전 운전을 제어할 수 있다.The information obtained from the pupil recognition function is used to determine whether or not the driver's gaze deviates. When it is determined that the driver uses the terminal 100, it is regarded that the gaze is deviated and the warning signal is transmitted to the vehicle 200, Safe operation can be controlled.

단말(100)로부터 경고 신호를 받은 차량(200)은 수동적 방어로서 운전자에게 경보를 하거나, 또는 능동적 방어로서 자동으로 안전 주행 모드를 수행함으로써 안전 운전을 유도할 수 있다.The vehicle 200 receiving the warning signal from the terminal 100 can induce the safe driving by giving an alarm to the driver as a passive defense or automatically performing a safe driving mode as an active defense.

도 2는 본 발명의 일 실시예에 따른 단말(100)을 이용하여 눈동자 인식을 기반한 안전 운전 제어 방법을 설명하기 위한 순서도이다.FIG. 2 is a flowchart for explaining a safe driving control method based on pupil recognition using the terminal 100 according to an embodiment of the present invention.

운전자가 차량(200)에 탑승하고, 운전자의 휴대용 기기 즉, 단말(100)은 차량(200)과 무선 또는 유선으로 통신을 연결할 수 있다[S101].The driver can ride the vehicle 200 and the portable device of the driver, that is, the terminal 100, can establish a wireless or wired communication with the vehicle 200 (S101).

무선 또는 유선으로 연결된 단말(100)은 차량(200)이 주행 중인지 여부를 판단하여, 주행 중이라고 판단되면 눈동자 인식 모듈을 활성화시켜 운전자의 눈동자 즉 시선이 단말(100)에 향하는 경우, 운전자의 시선을 감지한다[S102].The terminal 100 connected wirelessly or wiredly determines whether the vehicle 200 is running. If it is determined that the vehicle 200 is running, if the eyes of the driver, that is, the eyes of the driver, are directed to the terminal 100 by activating the pupil recognition module, (S102).

운전자가 단말(100)을 사용하는지 여부에 대한 판단에 있어, 응시 시간이 임계 시간보다 길거나 응시 빈도가 임계 빈도를 넘어가는 경우, 단말(100) 또는 차량(200)은 운전자가 단말(100)을 사용하고 있다는 판단을 하게 된다[S103].The terminal 100 or the vehicle 200 determines whether or not the driver has used the terminal 100 in a case where the gaze time is longer than the threshold time or the gaze frequency exceeds the threshold frequency (S103).

주행 중에 운전자가 단말(100)을 사용하고 있다는 판단을 하면, 차량(200)은 수동적 방어 기작으로, 경고음 및/또는 경고 진동을 발생시켜 운전자에게 안전 운전을 위한 경고를 하게 된다[S105].When it is determined that the driver is using the terminal 100 during driving, the vehicle 200 generates a warning sound and / or warning vibration by a passive defense mechanism to warn the driver of safe driving (S105).

차량(200)은 수동적 방어 기작과 함께 능동적 방어 기작을 수행하는데, 구체적으로 안전 주행 모드가 수행되는데 안전 주행 모드는 ADAS(Advanced Driver Assistance System) 모드일 수 있다.The vehicle 200 performs an active defense mechanism together with a passive defense mechanism, specifically, a safe driving mode, and the safe driving mode may be an ADAS (Advanced Driver Assistance System) mode.

ADAS(Advanced Driver Assistance System)는 첨단 운전자 보조 시스템으로 운전자의 운전에 도움을 주는 시스템이다.ADAS (Advanced Driver Assistance System) is a state-of-the-art driver assistance system that helps drivers to operate.

ADAS는 차량 전방에 장착된 레이다를 사용하여 앞 차와의 간격을 적절하게 자동 유지하는ACC(Adaptive Cruise Control) 모듈, 고속도로에서 부분 자율 주행이 가능한 고속도로 주행지원 시스템인HDA(Highway Driving Assist) 모듈, 긴급제동을 위한Emergency Braking 모듈, 보행자 추돌방지를 위한Pedestrian Detection 모듈, 충돌 예방을 위한Collision Avoidance 모듈, 교통 표지판 인지를 위한Traffic Sign Recognition 모듈, 측후면 접근차량 경고를 위한Cross Traffic Alert 모듈, 사각지대에 위치한 자동차에 대한 정보를 제공하는Blind Spot Detection 모듈, 후면 충돌 예방을 위한Rear Collision Warning 모듈, 전후방 외의 모든 시야에서 사각지대를 위한Surround View 모듈, 방향지시등을 켜지 않고 차선을 변경하는 경우를 감지하여 운전자에게 알려주는Lane Departure Warning 모듈, 주차를 보조하는Park Assist 모듈 등을 포함할 수 있다. 다만 ADAS는 상기 모듈들에 한하지 않는다.ADAS is equipped with an ACC (Adaptive Cruise Control) module that uses a radar mounted on the front of the vehicle to automatically maintain proper spacing between the front cars, a Highway Driving Assist (HDA) module, which is a highway driving support system, Emergency Braking Module for Emergency Braking, Pedestrian Detection Module for Preventing Pedestrian Collision, Collision Avoidance Module for Collision Prevention, Traffic Sign Recognition Module for Traffic Signage Recognition, Cross Traffic Alert Module for Side Rear Access Vehicle Warning, The Blind Spot Detection module provides information about the car being located, the Rear Collision Warning module to prevent rear collision, the Surround View module for blind spots in all fields except front and rear, A Lane Departure Warning module to alert the driver, and a Park Assist module to assist the driver. It can hamhal. However, ADAS is not limited to these modules.

도 3은 도 2를 더욱 상세하게 설명하기 위한 순서도이다.FIG. 3 is a flowchart for explaining FIG. 2 in more detail.

운전자가 차량(200)에 탑승하면, 운전자의 단말(100)은 유선 또는 무선으로 차량(200)과 통신을 연결하게 된다[S201].When the driver boarded the vehicle 200, the terminal 100 of the driver connects the vehicle 200 with the wired or wireless communication (S201).

무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 통신 방식을 이용할 수 있으나, 본 발명의 범위는 이에 한정되지 않는다.When connected by wireless communication, a wireless fidelity (WIFI) or a Bluetooth communication method may be used, but the scope of the present invention is not limited thereto.

또한 유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 통신 방식을 이용할 수 있으나, 본 발명의 범위는 이에 한정되지 않는다.In addition, when connected by wire communication, USB or MHL (Mobile High-Definition Link) communication method can be used, but the scope of the present invention is not limited thereto.

단말(100)은 차량(200)으로부터 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부에 대한 정보를 수신하여, 이들 정보 중 적어도 하나를 이용함으로써, 차량(200)이 주행 상태인지 여부를 판단하는 단계를 거친다[S202]. 차량(200)이 주행하는 상태가 아닌 경우에는 안전 운전을 위한 제어 방법을 수행할 필요성이 없기 때문이다.The terminal 100 receives information on the traveling speed, the traveling direction information, the gear status information, and the navigation availability from the vehicle 200 and uses at least one of the information to determine whether or not the vehicle 200 is in the traveling state (S202). This is because there is no need to perform a control method for safe operation when the vehicle 200 is not traveling.

예를 들어, 차량(200)이 자동 변속 기어인 경우, 주행 상태 인지 여부를 판단함에 있어, 기어 상태가 P단에 있는 경우가 아니라면 주행상태로 판단할 수 있고, 또는 주행 속도가 0km/h가 아니라면 주행상태로 판단할 수 있다.For example, when the vehicle 200 is an automatic transmission gear, it may be determined that the vehicle is in the running state, unless the gear state is at the P-end, or if the running speed is 0 km / h If not, it can be judged as driving.

예를 들어, 차량(200)의 주행 속도가 0km/h 보다 클 때 단말은 차량이 주행 상태로 판단할 것이다. 다만 주행 속도 정보만으로 차량(200)의 주행여부를 판단하는 것 보다는 내비게이션 이용 여부에 대한 정보 즉, 주행 방향 정보, 내비게이션 이용여부에 대한 정보까지 고려해야 차량(200)의 주행여부를 더 정확하게 판단할 수 있다. 또 다른 예를 들어, 운전자가 내비게이션을 이용하여 주행 경로를 설정하고, 40km/h 의 속도로 운행하다가 정지 신호를 인지하고 정지하여 주행 속도가 0km/h 이더라도 단말(100)은 내비게이션 이용여부에 대한 정보를 통해 주행 중임을 판단할 수 있다.이후, 차량(200)으로부터 수신한 정보를 이용하여 차량(200)이 주행 중임을 판단한 경우 단말(100)은 사용자가 단말(100)을 응시하는지 감지한다. 이 때 단말(100)의 눈동자 감지를 위해 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화하고, 단말(100)의 눈동자 인식 모듈을 이용하여 운전자가 단말(100)을 응시하는 시간 또는 응시하는 빈도를 측정한다[S203].For example, when the traveling speed of the vehicle 200 is greater than 0 km / h, the terminal will determine that the vehicle is in a running state. It is necessary to consider information on whether or not navigation is used, that is, information on driving direction information and whether or not to use the navigation, rather than determining whether the vehicle 200 is running only by the traveling speed information, have. For example, when the driver sets the traveling route using the navigation system, recognizes the stop signal while the vehicle travels at a speed of 40 km / h, stops the vehicle, and the traveling speed is 0 km / h, The terminal 100 determines whether the user is looking through the terminal 100. If the terminal 200 determines that the vehicle 200 is running using the information received from the vehicle 200, . At this time, the eye recognition module (EYE DETECTION MODULE) is activated to detect the pupil of the terminal 100, and the time or the frequency with which the driver gazes at the terminal 100 using the pupil recognition module of the terminal 100 is measured (S203).

응시 시간은 상기 단말(100)이 사용자의 눈동자 인식 시작 시점부터 눈동자 인식 종료 시점까지의 시간이며, 응시 빈도는 미리 설정된 시간 동안 상기 단말(100)이 사용자 눈동자 인식한 횟수이다.The examination time is a time from the start of recognition of the user's pupil to the end of recognition of the pupil, and the frequency of the recognition is the number of times the terminal 100 recognizes the user's pupil for a preset time.

단말(100)은 측정한 응시 시간이 미리 설정된 임계 시간을 초과하는지 또는 응시 빈도가 미리 설정된 임계 빈도를 초과하는지 여부를 판단한다[S204].The terminal 100 determines whether the measured time of the test exceeds the preset threshold time or whether the frequency of the test exceeds the predetermined threshold frequency (S204).

임계 시간 및 임계 빈도는 차량(200)으로부터 전송 받은 차량(200)의 주행 속도 정보를 이용하여 주행 속도 정보에 따라 달리 설정될 수 있는데, 차량(200)의 주행 속도가 빠른 경우에는 주행 속도가 느린 경우보다 임계 시간이 짧게 설정될 수 있다.The critical time and critical frequency can be set differently according to the traveling speed information using the traveling speed information of the vehicle 200 received from the vehicle 200. When the traveling speed of the vehicle 200 is high, The threshold time can be set to be shorter than the case.

또한 주행 속도가 빨라짐에 따라 임계 시간이 짧게 설정함으로써 운전자에게 보다 신속하게 긴급 상황에 대한 대응할 시간을 확보할 수 있다. 임계 빈도 역시 마찬가지로 주행 속도 정보에 따라 달리 설정될 수 있다.In addition, as the running speed increases, the threshold time is set shorter so that the driver can be assured of a faster time to respond to the emergency situation. The threshold frequency can likewise be set differently according to the traveling speed information.

응시 시간이 미리 설정된 임계 시간을 초과하거나 또는 응시 빈도가 임계 빈도를 초과하는 경우[S204의 YES 경로], 경고 신호를 차량(200)에 전송하고[S205], 초과하지 않는 경우[S204의 NO 경로], 다시 운전자가 단말(100)을 응시하는지 여부에 대한 감시를 시작한다.If the gazing time exceeds the preset threshold time or the gazing frequency exceeds the threshold frequency [YES path of S204], the warning signal is transmitted to the vehicle 200 [S205], and if not exceeding [NO path of S204 ], And starts monitoring again whether or not the driver stare at the terminal 100.

경고 신호를 수신한 차량(200)은 수동적 방어로서 운전자에게 경보를 하거나 능동적 방어로서 자동으로 안전 주행 모드를 수행함으로써, 운전자에게 위급 상황에 대해서 대응할 시간을 확보함으로써 교통 사고를 예방하기 위한 기능을 수행한다[S206].The vehicle 200 receiving the warning signal performs a function for preventing a traffic accident by securing a time for the driver to respond to an emergency situation by performing an alarm to the driver as a passive defense or performing a safety driving mode automatically as an active defense [S206].

예컨데, 수동적 방어로서 경보는 운전자의 오감에 의한 자극을 이용할 수 있다. 오감 중에서도 시각, 청각 또는 촉각 중 적어도 어느 하나에 대한 자극을 이용할 수 있고, 운전자에게 경보로서 적절한 방안으로 경고음 또는 경고 진동을 생각할 수 있다.For example, as a passive defense, an alarm can be stimulated by the driver's five senses. Among the five senses, stimulation of at least one of visual, auditory, and tactile sensations can be used, and a warning sound or warning vibration can be considered as an appropriate warning to the driver.

경고음과 경고 진동은 단말(100) 또는 차량(200)에서 활성화될 수 있고, 특히 차량 운전대 또는 차량의자에서 경고 진동을 발생시킴으로써, 운전자에게 주의 분산에 대한 경보를 줄 수 있다.The warning sound and the warning sound can be activated in the terminal 100 or the vehicle 200 and can alert the driver of the dispersion of the attention, in particular, by generating the warning vibration in the vehicle steering wheel or the vehicle chair.

도 4는 본 발명의 일 실시예에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 장치의 구성도이다.4 is a block diagram of a safe driving control apparatus based on pupil recognition using a terminal according to an embodiment of the present invention.

도 4를 참조하면, 눈동자 인식을 기반한 안전 운전 제어 방법을 수행하기 위한 단말(100a)은 단말 인터페이스부(110), 단말 통신부(120), 주행 상태 판단부(130), 주시 상태 측정부(140), 눈동자 인식 모듈(150), 사용 여부 판단부(160), 단말 방어 제어 모듈(170), 단말 제어부(180)을 포함할 수 있다.4, a terminal 100a for performing a safe operation control method based on pupil recognition includes a terminal interface unit 110, a terminal communication unit 120, a driving state determination unit 130, a viewing state measurement unit 140 A pupil recognition module 150, a use determination unit 160, a terminal defense control module 170, and a terminal control unit 180.

이와 유선 또는 무선으로 연결되는 차량(200a)는 차량 인터페이스부(210), 차량 통신부(220), 차량 방어 제어 모듈(230), 차량 제어부(240)을 포함할 수 있다.The vehicle 200a connected with the wired or wireless communication may include a vehicle interface unit 210, a vehicle communication unit 220, a vehicle defense control module 230, and a vehicle control unit 240. [

도 4에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성 요소들을 갖는 홈 게이트웨이 기기가 구현될 수도 있다.The components shown in FIG. 4 are not essential, and a home gateway device having more or fewer components may be implemented.

이하, 상기 구성 요소들에 대해 상세히 살펴보기로 한다.Hereinafter, the components will be described in detail.

단말 인터페이스부(110)는 운전자가 차량(200a)에 탑승한 후, 유선 통신으로 차량(200a)과 연결하기 위한 입출력 단자, 또는 무선 통신으로 차량(200a)와 연결하기 위한 무선 어댑터(adapter)를 포함할 수 있고, Bluetooth 연결을 위한 송수신부를 포함할 수 있다.The terminal interface unit 110 includes an input / output terminal for connecting to the vehicle 200a by wire communication or a wireless adapter for connecting to the vehicle 200a by wireless communication after the driver boarded the vehicle 200a And may include a transceiver for a Bluetooth connection.

단말 인터페이스부(110)는 유선 또는 무선에 의해 연결될 수 있으며, 무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 통신 방식을 이용할 수 있으나, 본 발명의 범위는 이에 한정되지 않는다.The terminal interface unit 110 can be connected by wire or wireless, and when connected by wireless communication, a WIFI (Wireless Fidelity) or BlueTooth communication scheme can be used, but the scope of the present invention is not limited thereto.

또한 유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 통신 방식을 이용할 수 있으나, 본 발명의 범위는 이에 한정되지 않는다.In addition, when connected by wire communication, USB or MHL (Mobile High-Definition Link) communication method can be used, but the scope of the present invention is not limited thereto.

단말 통신부(120)는 단말 인터페이스부(110)에 의해 차량(200a)과 통신이 연결된 후, 안전 운전 제어에 있어서 필요한 신호를 주고 받을 수 있다.The terminal communication unit 120 can send and receive signals required for the safe operation control after the terminal interface unit 110 is connected to the vehicle 200a.

단말 통신부(120)는 차량(200a)로부터 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부에 관한 정보를 수신할 수 있고, 주행 상태 판단부(130)는 단말 통신부(120)가 수신한 정보를 이용하여 차량(200a)이 주행 중인지 여부를 판단한다. 운전자가 차량(200a)을 주행하지 않고 단순히 탑승하고 있는 경우에는 안전 운전 제어를 수행할 필요가 없기 때문이다. The driving state determination unit 130 may determine that the vehicle is traveling or not by using the navigation state determined by the driving state determination unit 130 based on the traveling speed, the traveling direction information, the gear state information, It is determined whether or not the vehicle 200a is running by using the information. This is because it is not necessary to perform the safe operation control when the driver simply rides without driving the vehicle 200a.

주시 상태 측정부(140)는 눈동자 인식 모듈(150)을 활성화시켜, 운전자가 단말(100a)을 주시하는지 여부를 측정한다. 눈동자 인식 모듈(150)이 수행하는 눈동자 인식 기능은 도 1을 참고하여 설명된 바와 동일하다.The state monitoring unit 140 activates the pupil recognition module 150 to measure whether or not the driver is watching the terminal 100a. The pupil recognition function performed by the pupil recognition module 150 is the same as described with reference to Fig.

눈동자 인식 모듈(150)로부터 운전자가 단말(100a)를 주시하는 시작 시간, 주시 종료 시간 및 주시 횟수에 관한 정보는 주시 상태 측정부(140)에 의해 측정된다.Information on the start time, the watching end time, and the viewing frequency for the driver to watch the terminal 100a from the pupil recognition module 150 is measured by the watching state measuring unit 140. [

눈동자 인식 모듈(150)은 도 1에서 설명된 단말(100a)의 눈동자 인식 기능을 수행할 수 있다.사용 여부 판단부(160)는 단말 주시 상태 측정 결과를 바탕으로 단말 사용 사용 조건을 만족하는지 여부를 판단하는데, 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단한다.The pupil recognition module 150 may perform the pupil recognition function of the terminal 100a illustrated in Figure 1. The use determination unit 160 determines whether the terminal use condition is satisfied based on the terminal watching state measurement result Based on whether the terminal watch state exceeds the threshold time or the threshold frequency.

응시 시간은 상기 단말(100a)이 사용자의 눈동자 인식 시작 시점부터 눈동자 인식 종료 시점까지의 시간이며, 응시 빈도는 미리 설정된 시간 동안(예, 30초) 상기 단말(100a)이 사용자 눈동자를 인식한 횟수이다. 임계 시간과 임계 빈도는 미리 설정될 수 있다.The reference time is a time from the start of the user's eye recognition to the end of eye recognition, and the frequency of the reference is the number of times the terminal 100a recognizes the user's eyes (e.g., 30 seconds) to be. The threshold time and the threshold frequency can be set in advance.

사용 여부 판단부(160)는 운전자가 단말(100a)을 사용하고 있다고 판단할 경우, 단말 통신부(120)는 차량(200a)로 경고 신호를 전송하여, 차량(200a)으로 하여금 수동적 또는 능동적 방어를 수행하게 하고, 운전자가 단말(100a)을 사용하지 않고 있다고 판단될 경우, 다시 주시 상태 판단부(140)는 운전자의 단말 주시 여부를 측정한다.When the use determining unit 160 determines that the driver is using the terminal 100a, the terminal communication unit 120 transmits a warning signal to the vehicle 200a to allow the vehicle 200a to perform passive or active defense If it is determined that the driver does not use the terminal 100a, the watch state determination unit 140 measures whether or not the driver is watching the terminal.

단말 방어 제어 모듈(170)은 차량(200a)으로 경고 신호를 전송될 때, 단말(100a) 자체의 경고음 또는 경고 진동을 발생시킬 수 있다. 경고음 또는 경고 진동은 응시 시간이 임계 시간보다 길어지는 정도 또는 응시 빈도가 임계 빈도를 초과하는 크기에 상응하여 소리에 크기와 진동의 세기가 커질 수 있다.The terminal defense control module 170 may generate a warning sound or alert vibration of the terminal 100a itself when the warning signal is transmitted to the vehicle 200a. The audible or warning vibration may correspond to a magnitude in which the gaze time is longer than the threshold time or the gaze frequency exceeds the threshold frequency, so that the magnitude of the magnitude and vibration may be greater in the sound.

단말 제어부(180)는 통상적으로 단말(100a)의 전반적인 동작을 제어한다. 단말(100a)의 각 모듈간의 신호를 전달함으로써 기능을 활성화시킨다. 예를 들어, 단말 인터페이스부(110)에 의해 차량(200a)과 연결되면 이를 단말 통신부(120)에게 신호를 전달하여, 차량(200a)로부터 주행 상태 여부 판단에 필요한 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부에 대한 정보를 수신할 수 있도록 한다. 또한 주행 상태 판단부(130)의 판단 결과에 따라 주시 상태 측정부(140)의 활성화 여부를 결정하며, 눈동자 인식 모듈(150)의 동작 여부 역시 단말 제어부가 제어할 수 있다.The terminal control unit 180 typically controls the overall operation of the terminal 100a. And activates the function by transmitting a signal between each module of the terminal 100a. For example, when the terminal 200 is connected to the vehicle 200a by the terminal interface unit 110, the signal is transmitted to the terminal communication unit 120 so that the traveling speed, the traveling direction information, Status information, and whether navigation is available. Also, the driving state determination unit 130 determines whether to activate the viewing state measurement unit 140 according to the determination result of the driving state determination unit 130, and the terminal control unit can also control whether the pupil recognition module 150 operates.

차량 인터페이스부(210)는 운전자가 차량(200a)에 탑승한 후, 유선 또는 무선 통신으로 단말(100a)와 연결하기 위한 단자, 포트, 어댑터(adapter)를 포함할 수 있다.The vehicle interface unit 210 may include a terminal, a port, and an adapter for connecting the terminal 100a with a wired or wireless communication after the driver boarded the vehicle 200a.

차량 통신부(220)는 차량 인터페이스부(210)에 의해 단말(100a)과 통신이 연결된 후, 안전 운전 제어에 있어서 필요한 신호를 주고 받을 수 있다.The vehicle communication unit 220 can send and receive signals necessary for the safe operation control after the communication with the terminal 100a is established by the vehicle interface unit 210. [

차량 방어 제어 모듈(230)은 단말(100a)로부터 경고 신호를 수신하면, 수동적 또는 능동적 방어를 수행한다. 수동적 방어는 경고음 또는 경고 진동을 발생하게 하여, 운전자에게 경보 하기 위함이다. 경고음 또는 경고 진동은 응시 시간 또는 응시 빈도가 임계 시간 또는 임계 빈도를 초과하는 정도에 상응하여 소리의 크기와 진동의 세기가 커질 수 있다. 경고음 또는 경고 진동은 차량 운전대 또는 차량의자에서 활성화 될 수 있다.The vehicle defense control module 230 performs a passive or active defense when receiving the warning signal from the terminal 100a. Passive defense is to alert the driver by causing a beep or warning vibration. The beep or warning vibration may have a magnitude of the magnitude of the sound and a magnitude of the vibration corresponding to the degree to which the gaze time or gaze frequency exceeds the threshold time or critical frequency. Beep or warning vibration can be activated in the vehicle steering wheel or in the vehicle chair.

능동적 방어는 안전 주행 모드로 자동 전환을 수행하는 것으로, 안전 주행 모드는 ADAS(Advanced Driver Assistance System) 모드일 수 있고, 상기 ADAS는 ACC(Adaptive Cruise Control) 모듈 또는 HDA(Highway Driving Assist) 모듈을 활성화 시킬 수 있다.The active defense may be an automatic driver changeover to a safe driving mode, the safe driving mode may be an ADAS (Advanced Driver Assistance System) mode, the ADAS may activate an Adaptive Cruise Control (ACC) module or a Highway Driving Assist .

ADAS(Advanced Driver Assistance System)는 첨단 운전자 보조 시스템으로 운전자의 운전에 도움을 주는 시스템이다.ADAS (Advanced Driver Assistance System) is a state-of-the-art driver assistance system that helps drivers to operate.

ADAS는 차량 전방에 장착된 레이다를 사용하여 앞 차와의 간격을 적절하게 자동 유지하는ACC(Adaptive Cruise Control) 모듈, 고속도로에서 부분 자율 주행이 가능한 고속도로 주행지원 시스템인HDA(Highway Driving Assist) 모듈, 긴급제동을 위한Emergency Braking 모듈, 보행자 추돌방지를 위한Pedestrian Detection 모듈, 충돌 예방을 위한Collision Avoidance 모듈, 교통 표지판 인지를 위한Traffic Sign Recognition 모듈, 측후면 접근차량 경고를 위한Cross Traffic Alert 모듈, 사각지대에 위치한 자동차에 대한 정보를 제공하는Blind Spot Detection 모듈, 후면 충돌 예방을 위한Rear Collision Warning 모듈, 전후방 외의 모든 시야에서 사각지대를 위한Surround View 모듈, 방향지시등을 켜지 않고 차선을 변경하는 경우를 감지하여 운전자에게 알려주는Lane Departure Warning 모듈, 주차를 보조하는Park Assist 모듈 등을 포함할 수 있다. 다만 ADAS는 상기 모듈들에 한하지 않는다.ADAS is equipped with an ACC (Adaptive Cruise Control) module that uses a radar mounted on the front of the vehicle to automatically maintain proper spacing between the front cars, a Highway Driving Assist (HDA) module, which is a highway driving support system, Emergency Braking Module for Emergency Braking, Pedestrian Detection Module for Preventing Pedestrian Collision, Collision Avoidance Module for Collision Prevention, Traffic Sign Recognition Module for Traffic Signage Recognition, Cross Traffic Alert Module for Side Rear Access Vehicle Warning, The Blind Spot Detection module provides information about the car being located, the Rear Collision Warning module to prevent rear collision, the Surround View module for blind spots in all fields except front and rear, A Lane Departure Warning module to alert the driver, and a Park Assist module to assist the driver. It can hamhal. However, ADAS is not limited to these modules.

차량 제어부(240)는 통상적으로 차량(200a)의 전반적인 동작을 제어한다. 일반적으로 차량(200a)의 헤드 유닛(Head Unit)이 차량 제어부(240)일 수 있으며, 외부의 제어 신호를 처리하는 기능을 수행한다.The vehicle control unit 240 typically controls the overall operation of the vehicle 200a. In general, a head unit of the vehicle 200a may be a vehicle control unit 240 and performs a function of processing an external control signal.

도 5는 본 발명의 다른 실시예에 따른 단말을 이용하여 눈동자 인식을 기반한 안전 운전 제어 장치의 구성도이다.5 is a configuration diagram of a safe driving control device based on pupil recognition using a terminal according to another embodiment of the present invention.

도 5를 참조하면, 도 5에 도시된 안전 운전 제어 장치는 도 4의 실시예와 몇몇 특징을 제외하고는 실질적으로 동일한 구성 및 기능을 가진다. 구별되는 특징은 도 4의 실시예에서는 단말(100a)이 사용자의 단말 사용 여부에 대한 판단을 하지만, 도 5의 실시예에서는 차량(200b)이 사용자의 단말 사용 여부에 대한 판단을 한다는 점이다.Referring to FIG. 5, the safe operation control apparatus shown in FIG. 5 has substantially the same configuration and functions except for the feature of FIG. 4 and some features. In the embodiment of FIG. 4, the terminal 100a determines whether the user uses the terminal. However, in the embodiment of FIG. 5, the vehicle 200b determines whether the user uses the terminal.

이하, 상기 도 4의 실시예와의 구별되는 특징에 대해 상세히 살펴보기로 한다.Hereinafter, the distinguishing features from the embodiment of FIG. 4 will be described in detail.

도 4에서는, 단말(100a)의 주시 상태 측정부(140)에서 측정한 정보를 이용해 단말(100a)의 사용 여부 판단부(160)에서 사용자가 단말을 사용하고 있는지 판단하지만, 도 5에서, 주시 상태 측정부(140)가 단말 응시 시작 시점, 단말 응시 종료 시점 및 단말 응시 빈도에 대한 측정 정보를 차량(200b)로 전달하고, 차량(200b)내부의 사용 여부 판단부(250)에서 상기의 정보들 중 적어도 하나를 이용하여 운전자가 단말(100b)을 사용하는지 여부를 판단한다.4, the use determination unit 160 of the terminal 100a determines whether the user is using the terminal by using the information measured by the state monitoring unit 140 of the terminal 100a. In FIG. 5, The state measuring unit 140 transmits the measurement information on the terminal starting time, the terminal ending time, and the terminal stationing frequency to the vehicle 200b, and the use determination unit 250 in the vehicle 200b determines whether the information And determines whether the driver uses the terminal 100b by using at least one of them.

이후, 사용 여부 판단부(250)가 운전자가 주행 중 단말(100b)를 사용하고 있다는 판단을 한 경우, 차량(200b)에서 수동적 또는 능동적 방어를 수행하는 과정은 도 4와 차이가 없다.Thereafter, when the use determination unit 250 determines that the driver is using the terminal 100b while driving, the process of performing passive or active defense in the vehicle 200b is not different from that of FIG.

도 5에서 처럼 차량(200b)내부에 사용 여부 판단부(250)를 두는 것은, 스마트폰의 경우 과도한 연산을 수행함으로써 통화를 위한 데이터 연산에 무리가 가지 않을 수 있게 한다는 점, 베터리 용량이 적은 휴대용 단말의 전력 소모량을 줄일 수 있다는 점에서 그 효과가 있다.The use determination unit 250 in the vehicle 200b as shown in FIG. 5 is advantageous in that, in the case of a smart phone, it is possible to perform data operations for a call by performing an excessive calculation, The power consumption of the terminal can be reduced.

100 : 단말
200 : 차량
100a, 100b : 단말
200a, 200b : 차량
110 : 단말 인터페이스부
120 : 단말 통신부
130 : 주행 상태 판단부
140 : 주시 상태 측정부
150 : 눈동자 인식 모듈
160 : 사용 여부 판단부
170 : 단말 방어 제어 모듈
180 : 단말 제어부
210 : 차량 인터페이스부
220 : 차량 통신부
230 : 차량 방어 제어 모듈
240 : 차량 제어부
250 : 사용 여부 판단부
100: terminal
200: vehicle
100a, 100b:
200a, 200b: vehicle
110: terminal interface unit
120:
130:
140:
150: pupil recognition module
160:
170: Terminal defense control module
180:
210: vehicle interface unit
220: vehicle communication section
230: vehicle defensive control module
240:
250: use judgment unit

Claims (27)

단말이, 차량 주행 상태 여부를 판단하는 단계;
차량의 주행 상태임이 판단된 경우, 상기 단말이, 사용자의 단말 주시 상태를 측정하는 단계;
단말의 주시 상태를 측정한 결과를 바탕으로, 단말 사용 조건을 만족하는지 여부를 판단하는 단계; 및
상기 단말 사용 조건을 만족하는 경우, 단말이 상기 차량으로 경고 신호를 전송하는 단계;
를 포함하는 눈동자 인식 기반 안전 운행 방법.
Determining whether the terminal is in a vehicle traveling state;
Measuring a state of watching the user's terminal when the terminal is determined to be in a running state of the vehicle;
Determining whether the terminal use condition is satisfied based on a result of measuring a state of watching of the terminal; And
Transmitting a warning signal to the vehicle when the terminal satisfies the use condition;
Based on the pupil recognition method.
제1항에 있어서,
상기 차량 주행 상태 여부는
주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용하여 판단하는 눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
Whether or not the vehicle is in the running state
Based on at least one of driving speed, driving direction information, gear state information, and navigation use.
제1항에 있어서,
상기 단말 주시 상태는
사용자의 단말 응시 시간 및 응시 빈도인 눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
The terminal watching state
A safe driving method based on pupil recognition, which is a user 's terminal time and frequency of gazing.
제1항에 있어서,
상기 단말이 사용자의 단말 주시 상태를 측정하는 단계는
단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화하는 단계를 포함하는 눈동자 기반 안전 운행 방법.
The method according to claim 1,
The step of the terminal measuring the state of the user's terminal
And activating the EYE DETECTING MODULE of the terminal.
제1항에 있어서,
상기 단말 주시 상태 측정 결과를 바탕으로 단말 사용 조건을 만족하는지 여부는
상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단하는
눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
Whether or not the terminal use condition is satisfied based on the terminal watching state measurement result
Based on whether the terminal watching state exceeds the threshold time or the threshold frequency
Safe driving based on pupil recognition.
제1항에 있어서,
상기 경고 신호를 수신한 차량이 수동적 또는 능동적 방어하는 단계;
를 더 포함하는 눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
Passively or actively defending a vehicle receiving the warning signal;
The method comprising the steps of:
제6항에 있어서,
상기 수동적 방어는 경고음 또는 경고 진동을 발생하는 눈동자 인식 기반 안전 운행 방법.
The method according to claim 6,
Wherein said passive defense generates a beep or warning vibration.
제6항에 있어서,
상기 능동적 방어는 안전 주행 모드로 자동 전환시키는 눈동자 인식 기반 안전 운행 방법.
The method according to claim 6,
Wherein the active defense is automatically switched to a safe driving mode.
제7항에 있어서,
상기 경고음 또는 경고 진동은 응시 시간이 임계 시간을 초과하거나 응시 빈도가 임계 빈도를 초과하는 정도에 상응하여 소리의 크기와 진동의 세기가 커지는 눈동자 인식 기반 안전 운행 방법.
8. The method of claim 7,
Wherein the warning or warning vibration is based on a pupil recognition method in which the magnitude of the sound and the magnitude of the vibration are increased corresponding to the degree of the gaze time exceeding the threshold time or the gaze frequency exceeding the threshold frequency.
제7항에 있어서,
상기 경고음 또는 경고 진동은 차량 운전대 또는 차량의자에서 활성화 되는 눈동자 인식 기반 안전 운행 방법.
8. The method of claim 7,
Wherein the beep or warning vibration is activated in a vehicle steering wheel or a vehicle chair.
제8항에 있어서,
상기 안전 주행 모드는 ADAS(Advanced Driver Assistance System) 모드일 수 있고, 상기 ADAS는 ACC(Adaptive Cruise Control) 모듈 또는 HDA(Highway Driving Assist) 모듈을 활성화 시키는 눈동자 인식 기반 안전 운행 방법.
9. The method of claim 8,
The safe driving mode may be an ADAS (Advanced Driver Assistance System) mode, and the ADAS may be an ACC (Adaptive Cruise Control) module or an HDA (Highway Driving Assist) module.
제1항에 있어서,
상기 단말은 스마트폰, 태블릿피씨(Tablet PC), PDA 및 기타 이동 통신 단말 중 어느 하나인 눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
Wherein the terminal is any one of a smart phone, a tablet PC, a PDA, and other mobile communication terminals.
제1항에 있어서,
상기 단말과 차량간 통신을 유선 또는 무선에 의해 연결하는 단계를 더 포함하며,
무선 통신에 의해 연결되는 경우, WIFI(Wireless Fidelity) 또는 BlueTooth 중에서 어느 하나를 이용할 수 있으며,
유선 통신에 의해 연결되는 경우, USB 또는 MHL(Mobile High-Definition Link) 중에서 어느 하나를 이용하는 눈동자 인식 기반 안전 운행 방법.
The method according to claim 1,
Further comprising the step of connecting the communication between the terminal and the vehicle by wire or wireless,
When connected by wireless communication, either Wireless Fidelity (WIFI) or BlueTooth may be used,
A method of safe driving based on pupil recognition using any one of USB or MHL (Mobile High-Definition Link) when connected by wire communication.
차량과 통신을 연결하기 위한 단말 인터페이스부;
상기 단말 인터페이스에 의해 차량과 연결된 후, 상기 차량과 신호를 송수신하는 단말 통신부;
상기 단말 통신부를 통해 상기 차량으로부터 수신한 정보를 이용해 차량 주행 상태 여부를 판단하는 주행 상태 판단부;
상기 주행 상태 판단부에 의해 차량이 주행 상태로 판단된 경우, 사용자의 단말 주시 상태를 측정하는 주시 상태 측정부; 및
상기 단말 주시 상태를 측정 결과를 바탕으로, 사용자의 단말 사용 조건을 만족하는지 여부를 판단하는 사용 여부 판단부;
를 포함하며,
상기 단말 통신부는 상기 단말 사용 조건을 만족한 경우, 차량으로 경고 신호를 전송하는
단말.
A terminal interface unit for connecting communication with a vehicle;
A terminal communication unit for transmitting and receiving signals with the vehicle after being connected to the vehicle by the terminal interface;
A driving state determination unit for determining whether the vehicle is in a running state using information received from the vehicle through the terminal communication unit;
A watching state measuring unit for measuring a state of watching the user's terminal when the driving state determining unit determines that the vehicle is in a running state; And
A use determination unit for determining whether the user's terminal usage condition is satisfied based on the measurement result of the terminal watching state;
/ RTI >
When the terminal use condition is satisfied, the terminal communication unit transmits an alert signal to the vehicle
Terminal.
제14항에 있어서,
상기 단말 통신부가 경고 신호를 차량으로 송신함과 동시에 단말에서 경고음 또는 경고 진동을 발생시키는 단말 방어 제어 모듈을 더 포함하는 단말.
15. The method of claim 14,
Wherein the terminal communication unit transmits a warning signal to the vehicle and generates a warning sound or an alert vibration at the terminal.
제14항에 있어서,
상기 주행 상태 판단부는 상기 차량으로부터 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용하여 판단하는 단말.
15. The method of claim 14,
Wherein the driving state determination unit determines the driving state based on at least one of the traveling speed, the traveling direction information, the gear state information, and navigation use from the vehicle.
제14항에 있어서,
상기 단말 주시 상태는
사용자의 단말 응시 시간 및 응시 빈도인 단말.
15. The method of claim 14,
The terminal watching state
The terminal is the terminal's viewing time and frequency.
제14항에 있어서,
상기 주시 상태 측정부는 단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화하는 단말.
15. The method of claim 14,
The eye state measuring unit activates an eye detection module of the terminal.
제14항에 있어서,
상기 사용 여부 판단부는 상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단하는 단말.
15. The method of claim 14,
Wherein the use determination unit determines based on whether the terminal watching state exceeds a threshold time or a threshold frequency.
단말과 통신을 연결하기 위한 차량 인터페이스부;
상기 차량 인터페이스에 의해 단말과 연결된 후, 상기 단말과 신호를 송수신하는 차량 통신부;
상기 차량 통신부를 통해 상기 단말로부터 차량의 주행 상태 정보와 단말의 주시 상태 정보를 수신하여, 이를 바탕으로 사용자의 단말 사용 조건을 만족하는지 판단하는 사용 여부 판단부;
상기 단말 사용 조건을 만족하는 경우, 수동적 또는 능동적 방어하는 차량 방어 제어 모듈;
를 포함하는 차량.
A vehicle interface unit for connecting a communication with a terminal;
A vehicle communication unit for transmitting and receiving signals to and from the terminal after being connected to the terminal by the vehicle interface;
A use determination unit for receiving the driving state information of the vehicle and the watching state information of the terminal from the terminal through the vehicle communication unit and determining whether the condition of use of the terminal is satisfied based on the received information;
A vehicle defense control module for passively or actively defending if the terminal use condition is satisfied;
≪ / RTI >
제20항에 있어서,
상기 주행 상태 정보를 측정함에 있어 주행 속도, 주행 방향 정보, 기어 상태 정보 및 내비게이션 이용여부 중 적어도 하나를 이용하여 측정하는 차량.
21. The method of claim 20,
Wherein the driving state information is measured using at least one of traveling speed, traveling direction information, gear state information, and navigation availability.
제21항에 있어서,
상기 단말의 주시 상태 정보를 측정함에 있어 사용자의 단말 응시 시작 시점, 응시 종료 시점, 응시 시간 및 응시 빈도를 측정하는 차량.
22. The method of claim 21,
Wherein the measuring device measures the starting state of the terminal, the ending time of the terminal, the time of the terminal, and the frequency of the terminal in measuring the state of the terminal.
제21항에 있어서,
상기 단말이 사용자의 단말 주시 상태 정보를 측정함에 있어, 단말의 눈동자 인식 모듈(EYE DETECTING MODULE)를 활성화하는 차량.
22. The method of claim 21,
Wherein the terminal activates the eye recognition module (EYE DETECTION MODULE) of the user's terminal in measuring the user's terminal watching state information.
제21항에 있어서,
상기 단말이 주시 조건 측정 결과를 바탕으로 단말 사용 조건을 만족하는지 여부를 판단함에 있어,
상기 단말 주시 상태가 임계 시간 또는 임계 빈도를 초과 하는지 여부를 기준으로 판단하는 차량.
22. The method of claim 21,
In determining whether the terminal satisfies the terminal use condition based on the result of the watching condition measurement,
Based on whether the terminal watching state exceeds a threshold time or a threshold frequency.
제21항에 있어서,
상기 수동적 방어는 경고음 또는 경고 진동을 발생하는 차량.
22. The method of claim 21,
Wherein the passive defense generates a warning sound or an alert vibration.
제21항에 있어서,
상기 능동적 방어는 안전 주행 모드로 자동 전환시키는 차량.
22. The method of claim 21,
Wherein the active defense automatically switches to the safe running mode.
제1항 내지 제13항 중 어느 한 항에 기재된 방법을 실행시키기 위한 애플리케이션을 기록한 컴퓨터로 읽을 수 있는 기록매체.A computer-readable recording medium storing an application for executing the method according to any one of claims 1 to 13.
KR1020150098552A 2015-07-10 2015-07-10 Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium KR102228385B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150098552A KR102228385B1 (en) 2015-07-10 2015-07-10 Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150098552A KR102228385B1 (en) 2015-07-10 2015-07-10 Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium

Publications (2)

Publication Number Publication Date
KR20170007001A true KR20170007001A (en) 2017-01-18
KR102228385B1 KR102228385B1 (en) 2021-03-16

Family

ID=57991926

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150098552A KR102228385B1 (en) 2015-07-10 2015-07-10 Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium

Country Status (1)

Country Link
KR (1) KR102228385B1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101967232B1 (en) * 2017-11-24 2019-04-09 오한선 System for preventing use of mobile device during driving state of automobiles
KR20190067302A (en) 2017-12-07 2019-06-17 전혜연 Driver state monitoring system
KR102016356B1 (en) 2018-03-20 2019-10-21 주식회사 만도 Safe driving system and method using communication between smart phone and vehicle
CN110857096A (en) * 2018-08-10 2020-03-03 现代自动车株式会社 Vehicle and method for controlling the same
WO2020166736A1 (en) * 2019-02-13 2020-08-20 엘지전자 주식회사 Mobile device and method for controlling same

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050108216A (en) * 2004-05-12 2005-11-16 삼성전자주식회사 Method for preventing of sleepiness driving in wireless terminal with camera
JP2007045169A (en) * 2005-08-05 2007-02-22 Aisin Aw Co Ltd Information processor for vehicle
KR20120136721A (en) * 2011-06-09 2012-12-20 현대자동차주식회사 Apparatus and method for alarming use of mobile phone on driving
KR20130054830A (en) * 2011-11-17 2013-05-27 현대자동차주식회사 Method and system for alarming dangerous situation at road with driver state monitoring and traffic report
KR20150006938A (en) * 2013-07-09 2015-01-20 주식회사 엘지유플러스 Mobile And System For to Check Driving And to Compensate Using In the Vehicle Device, And Service Method Using The Same

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050108216A (en) * 2004-05-12 2005-11-16 삼성전자주식회사 Method for preventing of sleepiness driving in wireless terminal with camera
JP2007045169A (en) * 2005-08-05 2007-02-22 Aisin Aw Co Ltd Information processor for vehicle
KR20120136721A (en) * 2011-06-09 2012-12-20 현대자동차주식회사 Apparatus and method for alarming use of mobile phone on driving
KR20130054830A (en) * 2011-11-17 2013-05-27 현대자동차주식회사 Method and system for alarming dangerous situation at road with driver state monitoring and traffic report
KR20150006938A (en) * 2013-07-09 2015-01-20 주식회사 엘지유플러스 Mobile And System For to Check Driving And to Compensate Using In the Vehicle Device, And Service Method Using The Same

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101967232B1 (en) * 2017-11-24 2019-04-09 오한선 System for preventing use of mobile device during driving state of automobiles
KR20190067302A (en) 2017-12-07 2019-06-17 전혜연 Driver state monitoring system
KR102016356B1 (en) 2018-03-20 2019-10-21 주식회사 만도 Safe driving system and method using communication between smart phone and vehicle
CN110857096A (en) * 2018-08-10 2020-03-03 现代自动车株式会社 Vehicle and method for controlling the same
CN110857096B (en) * 2018-08-10 2024-04-05 现代自动车株式会社 Vehicle and method for controlling the same
WO2020166736A1 (en) * 2019-02-13 2020-08-20 엘지전자 주식회사 Mobile device and method for controlling same

Also Published As

Publication number Publication date
KR102228385B1 (en) 2021-03-16

Similar Documents

Publication Publication Date Title
CN112965502B (en) Visual tracking confirmation method, device, equipment and storage medium
US10399575B2 (en) Cognitive load driving assistant
JP6310565B2 (en) Driving assistance device
US10891495B2 (en) Information processing apparatus, information processing method, and program
US20180253977A1 (en) Vehicle operation assistance
US20210155269A1 (en) Information processing device, mobile device, information processing system, method, and program
KR20170007001A (en) Safety driving control method using the eye-recognition function of the terminal, apparatus and a recording medium
JP6269360B2 (en) Driving support system and driving support method
WO2018150676A1 (en) Driving switching assist device, and driving switching assist method
KR101611057B1 (en) Vehicle collision avoidance apparatus and method
WO2018150677A1 (en) Driving switching assist device, and driving switching assist method
JP2016066231A (en) Collision prevention device, collision prevention method, collision prevention program, and recording medium
US10632910B2 (en) Driving support device, driving situation information acquiring system, driving support method, and program
US10878700B2 (en) Surrounding area monitoring apparatus and surrounding area monitoring method
US20190143893A1 (en) Alert control apparatus, alert control method, and recording medium
WO2019143919A1 (en) Occupant awareness monitoring for autonomous vehicles
JP2015219721A (en) Operation support system and object recognition device
JP5261045B2 (en) Vehicle driving support device
CN111169483A (en) Driving assisting method, electronic equipment and device with storage function
JP2019144971A (en) Control system and control method for moving body
KR20180067145A (en) System for preventing vehicle collision
KR101967232B1 (en) System for preventing use of mobile device during driving state of automobiles
JP2020170345A (en) Vehicle driving advice providing system
US11763679B2 (en) Notification system and notification method
KR102016356B1 (en) Safe driving system and method using communication between smart phone and vehicle

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant