KR101993189B1 - 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법 - Google Patents

영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법 Download PDF

Info

Publication number
KR101993189B1
KR101993189B1 KR1020180016399A KR20180016399A KR101993189B1 KR 101993189 B1 KR101993189 B1 KR 101993189B1 KR 1020180016399 A KR1020180016399 A KR 1020180016399A KR 20180016399 A KR20180016399 A KR 20180016399A KR 101993189 B1 KR101993189 B1 KR 101993189B1
Authority
KR
South Korea
Prior art keywords
unit
eye
control unit
driver
drowsy
Prior art date
Application number
KR1020180016399A
Other languages
English (en)
Inventor
허명선
이가은
김경석
Original Assignee
충북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 충북대학교 산학협력단 filed Critical 충북대학교 산학협력단
Priority to KR1020180016399A priority Critical patent/KR101993189B1/ko
Application granted granted Critical
Publication of KR101993189B1 publication Critical patent/KR101993189B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • B60K28/06Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
    • G06K9/00845
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명의 졸음 운전 방지 장치는 운전자의 얼굴을 촬영하기 위한 카메라부, 상기 카메라부에 의해 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하기 위한 영상처리부, 상기 영상처리부에서 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단하는 제어부, 상기 제어부의 제어에 따라 경보음을 출력하기 위한 경보부, 상기 제어부의 제어에 따라 빛을 발광하기 위한 발광부 및 사용자의 터치에 따른 입력신호를 상기 제어부에 전달하고, 상기 제어부의 제어에 따라 화면을 출력하기 위한 터치스크린부를 포함하며, 상기 제어부는 졸음 상태로 판단하면 상기 경보부를 통해 경보음이 출력되도록 하고, 상기 발광부를 통해 빛이 발광되도록 한다. 본 발명에 의하면, 운전자의 눈을 인식하여 졸음 여부를 판단하고, 졸음 운전으로 판단되면 경보음 등을 출력함으로써, 졸음 운전을 방지하고 사고를 예방할 수 있는 효과가 있다.

Description

영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법 {Apparatus for preventing driver from driving while drowsy using image processing, and method thereof}
본 발명은 졸음 운전 방지 기술에 관한 것으로서, 더욱 상세하게는 운전자의 얼굴을 촬영하여 눈을 검출하는 방식으로 졸음 운전을 방지하는 기술에 관한 것이다.
최근 졸음운전에 의한 사건 사고가 많이 일어나고 있는 것을 알 수 있다. 고속도로 교통사고 5건중 1건 정도로 빈번하게 일어나고 있고 사망사고로 이어질 확률이 높기 때문에 주의해야 한다.
운전자가 자신도 모르게 1초에서 10초 정도 짧게 지속되는 수 상태를 의학적으로 '마이크로 수면' 이라고 한다. 매우 짧은 순간이지만 뇌에 대부분이 잠들어 인지 기능이 떨어진다. 잠에 빠졌으면서도 잠들었다는 사실조차 몰라 짧은 순간에 큰 사고로 이어질 위험이 크다. 교통안전공단 조사결과 운전자 10명중 4명이 마이크로 수면을 경험한 사실이 있는 것으로 나타났다. 이런 '마이크로 수면'에 관해 졸음운전 예방책이 필요하다.
운전중 졸음 운전에 의한 사고는 항시 발생되는 문제여서 이러한 졸음 운전 만 제대로 예방할 수 있다면 교통사고를 상당히 줄일 수 있다. 하지만 이를 위해서는 다양한 감지 시스템 및 방법이 동원되어야 하게 된다.
특히, 21세기에는 자동차의 운행속도 증가, 운행거리 및 운행시간의 증가, 운행 차량의 증가 등으로 인해 자동차 사고가 증가하고 있는 실정이다. 이런 자동차 사고는 사회적 비용을 증가시킬 뿐만 아니라 운전자 개인에게 매우 심각한 영향을 미친다. 특히 우리나라의 경우 자동차로 인한 인명의 피해가 전쟁시 발생되는 인명의 손실보다 더 큰 것으로 집계되어 매우 심각한 사회적 문제가 된지 오래이다. 이에 따라 자동차로 인한 교통사고를 방지하기 위한 연구가 매우 활발하게 진행되고 있다.
대한민국 등록특허 10-1590817
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 운전자의 눈 인식 영상 처리를 통해 졸음 운전을 방지할 수 있는 졸음 운전 방지 장치 및 그 구동 방법을 제공하는데 그 목적이 있다.
본 발명의 목적은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
이와 같은 목적을 달성하기 위한 본 발명의 졸음 운전 방지 장치는 운전자의 얼굴을 촬영하기 위한 카메라부, 상기 카메라부에 의해 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하기 위한 영상처리부, 상기 영상처리부에서 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단하는 제어부, 상기 제어부의 제어에 따라 경보음을 출력하기 위한 경보부, 상기 제어부의 제어에 따라 빛을 발광하기 위한 발광부 및 사용자의 터치에 따른 입력신호를 상기 제어부에 전달하고, 상기 제어부의 제어에 따라 화면을 출력하기 위한 터치스크린부를 포함하며, 상기 제어부는 졸음 상태로 판단하면 상기 경보부를 통해 경보음이 출력되도록 하고, 상기 발광부를 통해 빛이 발광되도록 한다.
상기 발광부는 녹색 LED, 황색 LED, 적색 LED로 구성되고, 상기 제어부는 눈을 인식하지 못하는 시간이 미리 정해진 제1 기준 시간 이상 지속되면 졸음 점검 상태로 판단하고, 눈을 인식하지 못하는 시간이 상기 제1 기준 시간을 초과하여 미리 정해진 제2 기준 시간 이상 지속되면 졸음 위험 상태로 판단할 수 있다. 이때, 상기 제어부는 정상 상태인 경우 상기 녹색 LED를 발광시키고, 졸음 점검 상태인 경우 상기 황색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시킬 수 있다.
상기 제어부는 졸음 점검 상태인 경우, 상기 황색 LED를 점멸시키고 상기 경보부에서 제1 주기 간격으로 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 상기 제1 주기 간격보다 짧은 제2 주기 간격으로 경보음을 출력시킬 수 있다.
상기 영상처리부는 하르 유사 특징(Haar like feature)을 이용하여 운전자의 눈 영역을 검출할 수 있다.
상기 영상처리부는 촬영된 영상에서 최대 크기 사각형과 최소 크기 사각형이 설정되고, 상기 최대 크기 사각형과 최소 크기 사각형 사이의 영역을 인식 범위로 설정하고, 상기 인식 범위 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출할 수 있다.
본 발명의 졸음 운전 방지 장치에서의 구동 방법에 있어서, 운전자의 얼굴을 촬영하는 단계, 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하는 영상 처리 단계, 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단하는 졸음 상태 판단 단계 및 졸음 상태로 판단하면 경보부를 통해 경보음이 출력되도록 하고, 발광부를 통해 빛이 발광되도록 하는 출력 단계를 포함한다.
상기 발광부는 녹색 LED, 황색 LED, 적색 LED로 구성되고, 상기 졸음 상태 판단 단계에서 눈을 인식하지 못하는 시간이 미리 정해진 제1 기준 시간 이상 지속되면 졸음 점검 상태로 판단하고, 눈을 인식하지 못하는 시간이 상기 제1 기준 시간을 초과하여 미리 정해진 제2 기준 시간 이상 지속되면 졸음 위험 상태로 판단하고, 상기 출력 단계에서 정상 상태인 경우 상기 녹색 LED를 발광시키고, 졸음 점검 상태인 경우 상기 황색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시킬 수 있다.
상기 출력 단계에서 졸음 점검 상태인 경우, 상기 황색 LED를 점멸시키고 상기 경보부에서 제1 주기 간격으로 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 상기 제1 주기 간격보다 짧은 제2 주기 간격으로 경보음을 출력시킬 수 있다.
상기 영상 처리 단계에서 하르 유사 특징(Haar like feature)을 이용하여 운전자의 눈 영역을 검출할 수 있다.
상기 영상 처리 단계에서 촬영된 영상에서 최대 크기 사각형과 최소 크기 사각형이 설정되고, 상기 최대 크기 사각형과 최소 크기 사각형 사이의 영역을 인식 범위로 설정하고, 상기 인식 범위 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출할 수 있다.
본 발명에 의하면, 운전자의 눈을 인식하여 졸음 여부를 판단하고, 졸음 운전으로 판단되면 경보음 등을 출력함으로써, 졸음 운전을 방지하고 사고를 예방할 수 있는 효과가 있다.
도 1은 본 발명의 일 실시예에 따른 졸음 운전 방지 장치의 구성을 보여주는 블록도이다.
도 2는 본 발명의 일 실시예에 따른 졸음 운전 방지 장치에서의 구동 방법을 보여주는 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 졸음 운전 방지 장치의 화면예이다.
도 4는 본 발명의 일 실시예에 따른 인식 범위를 도시한 것이다.
도 5는 본 발명의 일 실시예에 따른 인식 범위를 적용하여 눈을 인식하는 것을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 OpenCV 눈 인식 소스코드이다.
도 7은 본 발명의 일 실시예에 따른 데이터 상태를 예시한 도표이다.
도 8 내지 도 10은 본 발명의 일 실시예에 따른 아두이노(Arduino) 소스코드이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 갖고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 갖는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 본 발명의 일 실시예에 따른 졸음 운전 방지 장치의 구성을 보여주는 블록도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 졸음 운전 방지 장치는 카메라부(110), 영상처리부(120), 제어부(130), 경보부(140), 발광부(150), 터치스크린부(160)를 포함한다.
카메라부(110)는 운전자의 얼굴을 촬영하는 역할을 한다.
영상처리부(120)는 카메라부(110)에 의해 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하는 역할을 한다.
제어부(130)는 영상처리부(120)에서 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단한다.
경보부(140)는 제어부(130)의 제어에 따라 경보음을 출력하는 역할을 한다.
발광부(150)는 제어부의 제어에 따라 빛을 발광하는 역할을 한다.
터치스크린부(160)는 사용자의 터치에 따른 입력신호를 제어부(130)에 전달하고, 제어부(130)의 제어에 따라 화면을 출력하는 역할을 한다.
본 발명에서 제어부(130)는 졸음 상태로 판단하면 경보부(140)를 통해 경보음이 출력되도록 하고, 발광부(150)를 통해 빛이 발광되도록 한다.
본 발명의 일 실시예에서 발광부(150)는 녹색 LED, 황색 LED, 적색 LED로 구성될 수 있다.
이때, 제어부(130)는 눈을 인식하지 못하는 시간이 미리 정해진 제1 기준 시간 이상 지속되면 졸음 점검 상태로 판단하고, 눈을 인식하지 못하는 시간이 제1 기준 시간을 초과하여 미리 정해진 제2 기준 시간 이상 지속되면 졸음 위험 상태로 판단할 수 있다. 예를 들어, 제어부(130)는 3초 이상 눈을 인식하지 못하면 졸음 점검 상태로 판단하고, 5초 이상 눈을 인식하지 못하면 졸음 위험 상태로 판단할 수 있다.
그리고, 제어부(130)는 정상 상태인 경우 녹색 LED를 발광시키고, 졸음 점검 상태인 경우 황색 LED를 점멸시키고 경보부(140)에서 경보음을 출력시키고, 졸음 위험 상태인 경우 적색 LED를 점멸시키고 경보부(140)에서 경보음을 출력시킬 수 있다.
보다 상세하게는, 제어부(130)는 졸음 점검 상태인 경우, 황색 LED를 점멸시키고 경보부(140)에서 제1 주기 간격으로 경보음을 출력시키고, 졸음 위험 상태인 경우 적색 LED를 점멸시키고 경보부(140)에서 제1 주기 간격보다 짧은 제2 주기 간격으로 경보음을 출력시킬 수 있다.
영상처리부(120)는 하르 유사 특징(Haar like feature)을 이용하여 운전자의 눈 영역을 검출할 수 있다.
영상처리부(120)는 촬영된 영상에서 최대 크기 사각형과 최소 크기 사각형이 설정되고, 최대 크기 사각형과 최소 크기 사각형 사이의 영역을 인식 범위로 설정하고, 인식 범위 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출할 수 있다.
도 2는 본 발명의 일 실시예에 따른 졸음 운전 방지 장치에서의 구동 방법을 보여주는 흐름도이다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 졸음 운전 방지 장치에서의 구동 방법에 있어서, 먼저 운전자의 얼굴을 촬영한다(S210).
그리고, 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하는 영상 처리 단계를 수행한다(S220).
그리고, 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단하는 졸음 상태 판단 단계(S230)를 수행한다.
그리고, 졸음 상태로 판단하면 경보부(140)를 통해 경보음이 출력되도록 하고, 발광부(150)를 통해 빛이 발광되도록 하는 출력 단계(S240)를 수행한다.
졸음 상태 판단 단계(S230)에서 눈을 인식하지 못하는 시간이 미리 정해진 제1 기준 시간 이상 지속되면 졸음 점검 상태로 판단하고, 눈을 인식하지 못하는 시간이 제1 기준 시간을 초과하여 미리 정해진 제2 기준 시간 이상 지속되면 졸음 위험 상태로 판단할 수 있다.
그리고, 출력 단계(S240)에서 정상 상태인 경우 녹색 LED를 발광시키고, 졸음 점검 상태인 경우 황색 LED를 점멸시키고 경보부(140)에서 경보음을 출력시키고, 졸음 위험 상태인 경우 적색 LED를 점멸시키고 경보부(140)에서 경보음을 출력시킬 수 있다.
보다 상세하게는, 출력 단계(S240)에서 졸음 점검 상태인 경우, 황색 LED를 점멸시키고 경보부(140)에서 제1 주기 간격으로 경보음을 출력시키고, 졸음 위험 상태인 경우 적색 LED를 점멸시키고 경보부(140)에서 제1 주기 간격보다 짧은 제2 주기 간격으로 경보음을 출력시킬 수 있다.
본 발명의 일 실시예에서 영상 처리 단계(S220)에서 하르 유사 특징(Haar like feature)을 이용하여 운전자의 눈 영역을 검출할 수 있다.
이때, 영상 처리 단계(S220)에서 촬영된 영상에서 최대 크기 사각형과 최소 크기 사각형이 설정되고, 최대 크기 사각형과 최소 크기 사각형 사이의 영역을 인식 범위로 설정하고, 인식 범위 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출할 수 있다.
도 3은 본 발명의 일 실시예에 따른 졸음 운전 방지 장치의 화면예이다.
도 3은 본 발명의 졸음 운전 방지 장치에서 터치스크린부(160)에 표출되는 화면예로서, 사용자가 화면 상의 시작 버튼(310)을 터치하면, 졸음 운전 방지 장치가 구동되고, 정지 버튼(320)을 터치하면, 졸음 운전 방지 장치의 구동이 정지된다.
예를 들어, 본 발명의 졸음 운전 방지 장치의 터치스크린부(160)는 차량에 장착된 네비게이션 장치의 디스플레이부에 적용되어 구현될 수 있다.
한편, 영상처리를 통해 동그라미 등의 형태를 인식하여 눈 영역을 검출하는데, 이 때 콧구멍, 입 등 둥근 모양의 물체를 눈 모양으로 오측할 수 있다. 예를 들어, 캠은 영상 출력물이기 때문에 오측하는 경우가 발생하기 때문이며, 이를 방지하고자, 본 발명에서는 눈을 인식하는 인식 범위를 설정한다. 이는 카메라 프레임에 따른 눈 사이즈의 최대 크기와 최소 크기를 설정하여 눈 이외의 물체 감지를 줄이기 위함이다.
도 4는 본 발명의 일 실시예에 따른 인식 범위를 도시한 것이다.
도 4를 참조하면, 영상처리부(120)는 촬영된 영상에서 최대 크기 사각형(410)과 최소 크기 사각형(420)을 설정한다. 그리고, 최대 크기 사각형(410)과 최소 크기 사각형(420) 사이의 영역을 인식 범위(430)로 설정한다. 그리고, 인식 범위(430) 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출할 수 있다.
도 5는 본 발명의 일 실시예에 따른 인식 범위를 적용하여 눈을 인식하는 것을 설명하기 위한 도면이다.
도 5 (a)에서 최대 크기 사각형(410)과 최소 크기 사각형(420) 사이의 인식 범위에 존재하는 눈 형태를 인식하여 운전자의 눈 영역으로 검출하는 것을 확인할 수 있다.
반면, 도 5 (b)와 (c)에서 코와 입에 대해서는, 최대 크기 사각형(410)과 최소 크기 사각형(420) 사이의 인식 범위에 눈 형태가 존재하지 않으므로 눈 영역 검출에 실패하는 것을 확인할 수 있다.
본 발명에서는 OpenCV를 이용한 객체인식 기술을 사용하였다. OpenCV는 Open Source Computer Vision, 즉 오픈 소스 컴퓨터 비전 라이브러리이다. 본 발명에서는 운전자의 눈 인식을 위하여 프로그래밍 언어로 C++을 사용하고 OpenCV 라이브러리를 이용하여 영상을 처리한다. 도 6은 본 발명의 일 실시예에 따른 OpenCV 눈 인식 소스코드이다.
또한, 본 발명에서는 하르 유사 특징을 사용하는데, 하르 유사 특징(Haar Like feature)을 통해 사람의 얼굴에 특별한 패턴이 있음을 알 수 있다. 예를 들어, 두 눈은 명암이 어둡고, 코는 명암이 밝고, 이러한 명암등의 특징을 이용해 패턴을 구할 수 있다. 보다 구체적으로는, 사람의 얼굴 위에 흑백의 사각형을 겹쳐 놓은 다음 밝은 영역에 속한 픽셀값들의 평균에서 어두운 영역에 속한 픽셀값들의 평균의 차이를 구한다. 그리고, 그 차이가 문턱값(Threshold)을 넘으면 사람 얼굴에 대한 하르 유사 특징(Haar Like feature)이 있는 것으로 판단한다.
본 발명에서 제어부(130)는 아누이노(Arduino)로 구현될 수 있다.
본 발명의 일 실시예에서, 아두이노는 시리얼 통신을 위해 디지털 PIN, 부저, 녹색 LED, 황색 LED, 적색 LED 순으로 2,3,11,12번에 연결하였다. 그리고, 프로세싱(Processing)에서 데이터를 받으면 각 상태에 맞는 부저와 LED를 작동시킨다.
도 7은 본 발명의 일 실시예에 따른 데이터 상태를 예시한 도표이다.
도 7을 참조하면, DATA a가 들어오면 정상상태로 녹색 LED와 부저는 울리지 않고, DATA b가 들어오면 졸음 점검 상태로 황색 LED 와 부저는 1초 간격으로 울리게 된다. 그리고, DATA c가 들어오면 졸음 위험 상태로 적색 LED와 부저는 0.2초 간격으로 울리게 된다.
도 8 내지 도 10은 본 발명의 일 실시예에 따른 아두이노(Arduino) 소스코드이다.
도 8은 아두이노 LED 기능에 대한 소스코드로서, LED_Function에 데이터 값이 들어오면 LED를 켜주는 함수인데 여기서 LED_G, LED_Y, LED_R는 Arduino와 부저, LED를 연결해준 Digital Pin에 이름을 부여해준 것이다. 각 state에 0,1,2가 들어오면 LED를 digitalWrite를 통해 HIGH로 켜주고 LOW로 꺼준다.
도 9는 아두이노 부저의 소스코드로서, 졸음 점검 상태, 졸음 위험 상태일 때 동작하는 부저 소스코드이다. 부저는 tone과 noTone 함수만 존재하고 tone 함수에는 부저의 음향크기만 설정할 수 있다. 이에 삐이이-의 효과가 아닌 삐-삐-삐- 의 효과를 내기 위하여 boolen 함수를 이용하여 부저상태를 나눌 수 있다.
도 10은 아두이노 상태에 따른 작동 소스코드이다.
도 10은 프로세싱(Processing)에서 받은 데이터에 따라 부저와 LED를 동작시키는 소스코드이다. 데이터 a가 들어오면 buzzer_value값이 0이고 부저는 울리지 않는다. 위에서 설명한 바와 같이, LED_Function에 state 0을 넣어줌으로써 녹색 RED가 켜지게 된다.
그리고, 데이터 b나 c가 들어오면 buzzer_value 값이 1 또는 2가 되는데 이때 buzzer_value는 0이 아니면 동작하게 되어있으므로, 둘 다 부저를 움직이는 상태값이 된다. LED_Function에 각 1과 2가 들어가면서 황색과 적색 LED가 켜지게 되고 Time 값은 부저가 울리는 간격 값으로 졸음 점검 상태일 때, 1000ms 간격으로 부저가 울리게 됨을 의미한다.
이상 본 발명을 몇 가지 바람직한 실시예를 사용하여 설명하였으나, 이들 실시예는 예시적인 것이며 한정적인 것이 아니다. 본 발명이 속하는 기술분야에서 통상의 지식을 지닌 자라면 본 발명의 사상과 첨부된 특허청구범위에 제시된 권리범위에서 벗어나지 않으면서 다양한 변화와 수정을 가할 수 있음을 이해할 것이다.
110 카메라부 120 영상처리부
130 제어부 140 경보부
150 발광부 160 터치스크린부

Claims (10)

  1. 운전자의 얼굴을 촬영하기 위한 카메라부;
    상기 카메라부에 의해 촬영된 영상을 처리하여 운전자의 눈 영역을 인식하기 위한 영상처리부;
    상기 영상처리부에서 눈을 인식하면 정상 상태로 판단하고, 눈을 인식하지 못하는 시간이 미리 정해진 기준 시간 이상이면 졸음 상태로 판단하는 제어부;
    상기 제어부의 제어에 따라 경보음을 출력하기 위한 경보부;
    상기 제어부의 제어에 따라 빛을 발광하기 위한 발광부; 및
    사용자의 터치에 따른 입력신호를 상기 제어부에 전달하고, 상기 제어부의 제어에 따라 화면을 출력하기 위한 터치스크린부를 포함하며,
    상기 제어부는 졸음 상태로 판단하면 상기 경보부를 통해 경보음이 출력되도록 하고, 상기 발광부를 통해 빛이 발광되도록 하고,
    상기 발광부는 녹색 LED, 황색 LED, 적색 LED로 구성되고,
    상기 제어부는 눈을 인식하지 못하는 시간이 미리 정해진 제1 기준 시간 이상 지속되면 졸음 점검 상태로 판단하고, 눈을 인식하지 못하는 시간이 상기 제1 기준 시간을 초과하여 미리 정해진 제2 기준 시간 이상 지속되면 졸음 위험 상태로 판단하며,
    상기 제어부는 정상 상태인 경우 상기 녹색 LED를 발광시키고, 졸음 점검 상태인 경우 상기 황색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 경보음을 출력시키며,
    상기 제어부는 졸음 점검 상태인 경우, 상기 황색 LED를 점멸시키고 상기 경보부에서 제1 주기 간격으로 경보음을 출력시키고, 졸음 위험 상태인 경우 상기 적색 LED를 점멸시키고 상기 경보부에서 상기 제1 주기 간격보다 짧은 제2 주기 간격으로 경보음을 출력시키고,
    상기 영상처리부는 하르 유사 특징(Haar like feature)을 이용하여 운전자의 눈 영역을 검출하며,
    상기 영상처리부는 촬영된 영상에서 최대 크기 사각형과 최소 크기 사각형이 설정되고, 상기 최대 크기 사각형과 최소 크기 사각형 사이의 영역을 인식 범위로 설정하고, 상기 인식 범위 내에 있는 눈 형태를 인식하는 방식으로 운전자의 눈 영역을 검출하는 것을 특징으로 하는 졸음 운전 방지 장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
  6. 삭제
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
KR1020180016399A 2018-02-09 2018-02-09 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법 KR101993189B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180016399A KR101993189B1 (ko) 2018-02-09 2018-02-09 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180016399A KR101993189B1 (ko) 2018-02-09 2018-02-09 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법

Publications (1)

Publication Number Publication Date
KR101993189B1 true KR101993189B1 (ko) 2019-06-26

Family

ID=67105134

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180016399A KR101993189B1 (ko) 2018-02-09 2018-02-09 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법

Country Status (1)

Country Link
KR (1) KR101993189B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102520188B1 (ko) * 2021-10-29 2023-04-10 전남대학교 산학협력단 인공 지능을 이용하여 운전자의 상태를 판단하는 차량 장치 및 그 제어 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150005130A (ko) * 2013-07-04 2015-01-14 가톨릭대학교 산학협력단 졸음 운전 방지 시스템 및 그 방법
KR20150131634A (ko) * 2014-05-15 2015-11-25 엘지전자 주식회사 이동 단말기 및 차량 제어 장치
KR101590817B1 (ko) 2014-10-07 2016-02-02 공주대학교 산학협력단 얼굴영상정보를 이용한 졸음방지시스템 및 이의 구동방법
KR20160115119A (ko) * 2015-03-26 2016-10-06 조선대학교산학협력단 영상 기반의 운전자 졸음 인식 시스템 및 그 인식 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150005130A (ko) * 2013-07-04 2015-01-14 가톨릭대학교 산학협력단 졸음 운전 방지 시스템 및 그 방법
KR20150131634A (ko) * 2014-05-15 2015-11-25 엘지전자 주식회사 이동 단말기 및 차량 제어 장치
KR101590817B1 (ko) 2014-10-07 2016-02-02 공주대학교 산학협력단 얼굴영상정보를 이용한 졸음방지시스템 및 이의 구동방법
KR20160115119A (ko) * 2015-03-26 2016-10-06 조선대학교산학협력단 영상 기반의 운전자 졸음 인식 시스템 및 그 인식 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102520188B1 (ko) * 2021-10-29 2023-04-10 전남대학교 산학협력단 인공 지능을 이용하여 운전자의 상태를 판단하는 차량 장치 및 그 제어 방법
WO2023075161A1 (ko) * 2021-10-29 2023-05-04 전남대학교 산학협력단 인공 지능을 이용하여 운전자의 상태를 판단하는 차량 장치 및 그 제어 방법

Similar Documents

Publication Publication Date Title
KR101386823B1 (ko) 동작, 안면, 눈, 입모양 인지를 통한 2단계 졸음운전 방지 장치
US9888875B2 (en) Driver monitoring apparatus
EP2541493A1 (en) Pupil detection device and pupil detection method
US10604160B2 (en) Driver condition detection system
CN110580436B (zh) 驾驶员监视装置
JP2016103249A (ja) 運転支援装置および運転支援方法
CN110555366A (zh) 驾驶员监视装置
KR101821496B1 (ko) 안전운전 보조 시스템 동작방법
KR101546893B1 (ko) 졸음 운전 방지 시스템
JP2005108033A (ja) 運転者状況判定装置および運転者状況判定方法
US20220309808A1 (en) Driver monitoring device, driver monitoring method, and driver monitoring-use computer program
KR101993189B1 (ko) 영상 처리를 이용한 졸음 운전 방지 장치 및 그 구동 방법
KR100766592B1 (ko) 홍채 반사 영상 기반 졸음 감지 장치 및 방법
KR101461911B1 (ko) 안전벨트 체결 상태 가이드 장치 및 방법
CN108564001A (zh) 红外线人脸识别系统及识别方法
US11741727B2 (en) Driver monitoring system for judging distracted driving
US11807264B2 (en) Driving assistance apparatus, driving assistance method, and medium
JP4888382B2 (ja) 異常検出装置および方法、並びに、プログラム
KR20210041913A (ko) 운전자 졸음 방지 장치 방법
KR20190044818A (ko) 운전자 모니터링 장치 및 방법
KR101360412B1 (ko) 머리 움직임 정보를 이용하는 산만/졸음 운전 감시 시스템
KR102072910B1 (ko) 졸음 인식 장치를 이용한 졸음 인식 방법
JP6852407B2 (ja) ドライバ状態検出装置
CN113879321A (zh) 驾驶员监视装置及驾驶员监视方法
KR20060022935A (ko) 눈 영상 기반의 졸음 감지방법 및 장치

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant