KR20160103675A - 디지털 디바이스 및 그의 운전자 모니터링 방법 - Google Patents

디지털 디바이스 및 그의 운전자 모니터링 방법 Download PDF

Info

Publication number
KR20160103675A
KR20160103675A KR1020150026305A KR20150026305A KR20160103675A KR 20160103675 A KR20160103675 A KR 20160103675A KR 1020150026305 A KR1020150026305 A KR 1020150026305A KR 20150026305 A KR20150026305 A KR 20150026305A KR 20160103675 A KR20160103675 A KR 20160103675A
Authority
KR
South Korea
Prior art keywords
unit
brightness
driver
image
camera
Prior art date
Application number
KR1020150026305A
Other languages
English (en)
Other versions
KR102381140B1 (ko
Inventor
김관형
권영만
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020150026305A priority Critical patent/KR102381140B1/ko
Priority to US14/704,553 priority patent/US10015411B2/en
Priority to EP15001393.6A priority patent/EP3062262B1/en
Priority to CN201510357927.5A priority patent/CN105916262B/zh
Publication of KR20160103675A publication Critical patent/KR20160103675A/ko
Application granted granted Critical
Publication of KR102381140B1 publication Critical patent/KR102381140B1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K28/00—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
    • B60K28/02—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/12—Details of acquisition arrangements; Constructional details thereof
    • G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141—Control of illumination
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/71—Circuitry for evaluating the brightness variation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • H04N5/225—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0881—Seat occupation; Driver or passenger presence
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02—Alarms for ensuring the safety of persons
    • G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • G—PHYSICS
    • G08—SIGNALLING
    • G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B29/00—Checking or monitoring of signalling or alarm systems; Prevention or correction of operating errors, e.g. preventing unauthorised operation
    • G08B29/18—Prevention or correction of operating errors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephone Function (AREA)

Abstract

운전자의 상태를 감지할 수 있는 디지털 디바이스 및 그의 운전자 모니터링 방법에 관한 것으로, 제 1, 제 2 카메라부로부터 영상을 획득하는 단계와, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인하는 단계와, 확인 결과, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부를 오프(off)시켜 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 제 2 조명부를 온(on)시켜 제 1 카메라부로부터 제 2 비교 영상을 획득하는 단계와, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계와, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프하는 단계를 포함하여 이루어질 수 있다.

Description

디지털 디바이스 및 그의 운전자 모니터링 방법{DIGITAL DEVICE AND METHOD FOR MONITERING DRIVER THEREOF}
본 발명은 운전자의 상태를 감지할 수 있는 디지털 디바이스 및 그의 운전자 모니터링 방법에 관한 것이다.
최근 차량 내에 카메라를 장착하여, 운전자의 상태를 모니터링하는 기술에 대한 니즈(need)가 증가하고 있다.
운전자를 모니터링하는 기술은, 운전자의 양측에 각각 카메라와 적외선 조명을 배치하고, 양측 카메라의 시차를 이용하여 다양한 운전자 정보 등을 알아내는 기술이다.
여기서, 조명은, 일반적으로 적외선 조명을 사용하는데, 그 이유는, 운전자가 조명의 존재를 인지하지 못하도록 하기 위함이다.
하지만, 적외선 조명을 사용하는 경우, 운전자가 적외선 조명에 근접할 때, 운전자의 눈과 적외선 조명과의 거리가 너무 가까우면, 운전자의 눈이 손상을 입을 수 있는 문제가 있었다.
따라서, 이를 방지하기 위하여, 거리 센서 등의 추가 부품을 이용하여, 일정 거리 내로 운전자가 접근할 경우, 적외선 조명을 오프하는 방식을 사용하기도 하였으나, 전체적인 재료비가 상승하는 또 다른 문제가 있었다.
또한, 이 기술은, 적외선 조명에 운전자 이외에 다른 물체가 근접할 경우에도, 운전자가 근접하는 것으로 인지하여, 적외선 조명을 오프하므로, 운전자 인식에 대한 오류율이 높은 문제도 있었다.
이러한 오류율 문제를 해결하기 위해서는, 추가적인 보조 수단들이 더 필요하므로, 재료비 상승의 또 다른 요인이 되고 있다.
따라서, 향후, 추가 부품 없이도, 적외선 조명에 대한 운전자의 안정성 확보 및 운전자 인식 성능이 향상될 수 있는 디지털 디바이스의 개발이 필요할 것이다.
본 발명은 전술한 필요성을 충족하기 위해 제안되는 것으로서, 제 1, 제 2 조명부와 제 1, 제 2 카메라부를 이용하여, 획득한 영상을 1차 분석하고, 조명을 온/오프시켜 획득한 비교 영상을 2차 분석함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있는 디지털 디바이스 및 그의 운전자 모니터링 방법을 제공하는 것을 그 목적으로 한다.
상기 목적을 달성하기 위해 본 발명에 따른 디지털 디바이스의 운전자 모니터링 방법은, 제 1, 제 2 카메라부로부터 영상을 획득하는 단계와, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인하는 단계와, 확인 결과, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부를 오프(off)시켜 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 제 2 조명부를 온(on)시켜 제 1 카메라부로부터 제 2 비교 영상을 획득하는 단계와, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계와, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프하는 단계를 포함하여 이루어질 수 있다.
그리고, 본 발명에 따른 디지털 디바이스는, 제 1 광을 발생하는 제 1 조명부와, 제 2 광을 발생하는 제 2 조명부와, 제 1 영상을 획득하는 제 1 카메라부와, 제 2 영상을 획득하는 제 2 카메라부와, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 1차적으로 확인하고, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부를 오프(off)시켜 제 1 카메라부로부터 획득한 제 1 비교 영상의 밝기와, 제 2 조명부를 온(on)시켜 제 1 카메라부로부터 획득한 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 2차적으로 확인하여, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프하도록, 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 제어하는 제어부를 포함하여 이루어질 수 있다.
본 발명에 따른 디지털 디바이스 및 그의 운전자 모니터링 방법의 효과에 대해 설명하면 다음과 같다.
본 발명의 실시 예들 중 적어도 하나에 의하면, 제 1, 제 2 조명부와 제 1, 제 2 카메라부를 이용하여, 획득한 영상을 1차 분석하고, 조명을 온/오프시켜 획득한 비교 영상을 2차 분석함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있는 효과가 있다.
그리고, 본 발명은, 추가적인 부품이 필요하지 않으므로, 재료비 상승을 억제할 수 있는 효과가 있다.
발명의 적용 가능성의 추가적인 범위는 이하의 상세한 설명으로부터 명백해질 것이다. 그러나 본 발명의 사상 및 범위 내에서 다양한 변경 및 수정은 당업자에게 명확하게 이해될 수 있으므로, 상세한 설명 및 본 발명의 바람직한 실시 예와 같은 특정 실시 예는 단지 예시로 주어진 것으로 이해되어야 한다.
도 1은 본 발명의 일 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도
도 2는 본 발명의 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도
도 3은 본 발명에 따른 디지털 디바이스의 운전자 모니터링 장치를 보여주는 구성 블럭도
도 4 및 도 5는 조명부와 카메라부의 배치 관계를 설명하기 위한 도면
도 6 내지 도 10은 본 발명에 따른 디지털 디바이스의 운전자 모니터링 과정을 설명하기 위한 도면
도 11은 운전자 모니터링 장치의 에러에 대한 경고 알림을 보여주는 도면
도 12는 본 발명 제 1 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
도 13은 본 발명 제 2 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
도 14는 본 발명 제 3 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
도 15는 본 발명 제 4 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
도 16은 본 발명 제 5 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
도 17은 본 발명 제 6 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도
이하에서는 도면을 참조하여 본 발명에 따른 디지털 디바이스 및 그의 운전자 모니터링 방법의 다양한 실시예(들)을 상세하게 설명한다.
본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈", "부" 등은 단지 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 필요에 따라 양자는 혼용될 수도 있다. 또한, "제1-", "제2-" 등과 같이 서수로 기술한 경우에도 그것이 순서를 의미하기보다는 해당 용어의 설명 편의를 위한 것일 뿐, 그러한 용어나 서수에 한정되는 것은 아니다.
또한, 본 명세서에서 사용되는 용어도, 본 발명의 기술 사상에 따른 기능을 고려하여 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 다만, 특정한 경우는 출원인이 임의로 선정한 용어도 있으나, 이에 대해서는 관련 설명 부분에서 그 의미를 기술할 것이다. 따라서, 해당 용어를 단지 그 명칭이 아니라 그가 가진 실질적인 의미와 본 명세서 전반에 걸쳐 기술된 내용을 토대로 해석되어야 함을 밝혀 둔다.
한편, 본 명세서 또는/및 도면에 기술된 내용은, 본 발명에 따른 바람직한 일 실시 예로서 그에 한정되지 않으며, 그 권리범위는 특허청구범위를 통해 결정되어야 한다.
이하, 본 명세서에서 기술되는 디지털 디바이스(digital device)라 함은, 예를 들어, 데이터(data), 컨텐트(content), 서비스(service), 애플리케이션(application) 등을 송신, 수신, 처리 및 출력 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함한다. 상기 디지털 디바이스는, 유/무선 네트워크(wire/wireless network)를 통하여 다른 디지털 디바이스, 외부 서버(external server) 등과 페어링 또는 연결(pairing or connecting)(이하 '페어링') 가능하며, 그를 통해 소정 데이터를 송/수신할 수 있다. 이때, 필요에 따라, 상기 데이터는 그 송/수신 전에 적절히 변환(converting)될 수 있다. 상기 디지털 디바이스에는 예를 들어, 네트워크 TV(Network TV), HBBTV(Hybrid Broadcast Broadband TV), 스마트 TV(Smart TV), IPTV(Internet Protocol TV), PC(Personal Computer) 등과 같은 고정형 디바이스(standing device)와, PDA(Personal Digital Assistant), 스마트 폰(Smart Phone), 태블릿 PC(Tablet PC), 노트북(Notebook) 등과 같은 모바일 디바이스(mobile device or handheld device)가 모두 포함될 수 있다. 본 명세서에서는 본 발명의 이해를 돕고 출원인의 설명의 편의상 후술하는 도 1에서는 차량 내에 장착이 가능한 디지털 TV(Digital TV)를 포함하는 디지털 디바이스를 그리고, 도 2에서는 차량 내에 장착이 가능한 모바일 디바이스를 디지털 디바이스의 일 실시 예로 도시하고 설명한다. 또한, 본 명세서에서 기술되는 디지털 디바이스는, 패널(panel)만을 가진 구성일 수도 있고, 셋톱박스(STB: Set-Top Box) 등과 같은 구성, 디바이스, 시스템 등과 하나의 세트(SET) 구성일 수도 있다.
한편, 본 명세서에서 기술되는 유/무선 네트워크라 함은, 디지털 디바이스들 또는 디지털 디바이스와 외부 서버 사이에서 페어링 또는/및 데이터 송수신을 위해 다양한 통신 규격 내지 프로토콜을 지원하는 통신 네트워크를 통칭한다. 이러한 유/무선 네트워크는, 규격에 의해 현재 또는 향후 지원될 통신 네트워크를 모두 포함하며, 그를 위한 하나 또는 그 이상의 통신 프로토콜들을 모두 지원 가능하다. 이러한 유/무선 네트워크에는 예컨대, USB(Universal Serial Bus), CVBS(Composite Video Banking Sync), 컴포넌트(Component), S-비디오(아날로그), DVI(Digital Visual Interface), HDMI(High Definition Multimedia Interface), RGB, D-SUB와 같은 유선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜과, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA: infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE/LTE-A(Long Term Evolution/LTE-Advanced), Wi-Fi 다이렉트(direct)와 같은 무선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜에 의하여 형성될 수 있다.
그 밖에, 본 명세서에서 단지 디지털 디바이스로 명명하는 경우, 그 의미는 문맥에 따라 고정형 디바이스 또는 모바일 디바이스를 의미할 수도 있고 특별히 언급하지 않는다면 양자를 모두 포함하는 의미로 사용될 수 있다.
한편, 디지털 디바이스는 예컨대, 방송 수신 기능, 컴퓨터 기능 내지 지원, 적어도 하나의 외부 입력 등을 지원하는 지능형 디바이스로서, 상술한 유/무선 네트워크를 통해 이메일(e-mail), 웹 브라우징(web browsing), 뱅킹(banking), 게임(game), 애플리케이션(application) 등을 지원할 수 있다. 더불어, 상기 디지털 디바이스는, 수기 방식의 입력 디바이스, 터치-스크린(touch-screen), 공간 리모콘 등 적어도 하나의 입력 또는 제어 수단(이하 '입력 수단')을 지원하기 위한 인터페이스(interface)를 구비할 수 있다.
그 밖에, 디지털 디바이스는, 표준화된 범용 OS(Operating System)를 이용할 수 있으나 특히, 본 명세에서 기술되는 디지털 디바이스는, Web OS를 이용하는 것을 일 실시 예로 한다. 따라서, 디지털 디바이스는 범용의 OS 커널(OS kernel) 또는 리눅스 커널(Linux kernel) 상에 다양한 서비스나 애플리케이션을 추가(adding), 삭제(deleting), 수정(amending), 업데이트(updating) 등을 처리가 가능하며, 그를 통해 더욱 사용자 친화적인(user-friendly) 환경을 구성하여 제공할 수 있다.
한편, 상술한 디지털 디바이스는 외부 입력을 수신하여 처리할 수 있는데 이때, 상기 외부 입력은, 외부 입력 디바이스 즉, 상술한 디지털 디바이스와 유/무선 네트워크를 통해 연결되어 데이터를 송/수신하여 처리 가능한 모든 입력 수단 내지 디지털 디바이스를 포함한다. 예를 들어, 상기 외부 입력으로 HDMI(High-Definition Multimedia Interface), 플레이스테이션(playstation)이나 엑스-박스(X-Box) 등과 같은 게임 디바이스(game device), 스마트 폰, 태블릿 PC, 포켓 포토(pocket photo) 등과 같은 프린터기(printing device), 스마트 TV, 블루-레이(Blu-ray device) 디바이스 등과 같은 디지털 디바이스들을 모두 포함한다.
그 밖에, 본 명세서에서 기술되는 서버라 함은, 상술한 디지털 디바이스 즉, 클라이언트(client)로 데이터를 공급 또는 그로부터 데이터를 수신하는 디지털 디바이스 혹은 시스템을 의미하며, 프로세서(processor)로 불리기도 한다. 상기 서버로 예컨대, 웹 페이지(web page), 웹 컨텐트 또는 웹 서비스(web content or web service)를 제공하는 포털 서버(portal server), 광고 데이터(advertising data)를 제공하는 광고 서버(advertising server), 컨텐트를 제공하는 컨텐트 서버(content server), SNS(Social Network Service)를 제공하는 SNS 서버, 제조업체(manufacturer)에서 제공하는 서비스 서버(service server), VoD(Video on Demand)나 스트리밍(streaminng) 서비스 제공을 위한 MVPD(Multichannel Video Programming Distributor), 유료 서비스(pay service) 등을 제공하는 서비스 서버 등이 포함될 수 있다.
또한, 이하 본 명세서에서 설명의 편의를 위하여 애플리케이션으로만 기술한 경우에도 그 문맥 등을 기초하여 그 의미는 애플리케이션뿐만 아니라 서비스까지 포함하는 의미일 수 있다.
이하 첨부된 도면을 참조하면 본 발명을 더욱 상세하게 설명하면, 다음과 같다.
도 1은 본 발명의 일 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.
디지털 디바이스(200)는, 네트워크 인터페이스부(network interface)(201), TCP/IP 매니저(TCP/IP manager)(202), 서비스 전달 매니저(service delivery manager)(203), SI 디코더(204), 역다중화부(demux or demultiplexer)(205), 오디오 디코더(audio decoder)(206), 비디오 디코더(video decoder)(207), 디스플레이부(display A/V and OSD module)(208), 서비스 제어 매니저(service control manager)(209), 서비스 디스커버리 매니저(service discovery manager)(210), SI&메타데이터 데이터베이스(SI&metadata DB)(211), 메타데이터 매니저(metadata manager)(212), 서비스 매니저(213), UI 매니저(214) 등을 포함하여 구성된다.
네트워크 인터페이스부(201)는, 액세스하는 네트워크 망을 통하여 IP 패킷(들)(Internet Protocol (IP) packet(s)) 또는 IP 데이터그램(들)(IP datagram(s))(이하 IP 패킷(들)이라 한다)을 송/수신한다. 일 예로, 네트워크 인터페이스부(201)는 네트워크 망을 통해 도 1의 서비스 제공자(20)로부터 서비스, 애플리케이션, 컨텐트 등을 수신할 수 있다.
TCP/IP 매니저(202)는, 디지털 디바이스(200)로 수신되는 IP 패킷들과 디지털 디바이스(200)가 전송하는 IP 패킷들에 대하여 즉, 소스(source)와 목적지(destination) 사이의 패킷 전달(packet delivery)에 관여한다. 상기 TCP/IP 매니저(202)는 수신된 패킷(들)을 적절한 프로토콜에 대응하도록 분류하고, 서비스 전달 매니저(205), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등으로 상기 분류된 패킷(들)을 출력한다.
서비스 전달 매니저(203)는, 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 서비스 전달 매니저(203)는 실시간 스트리밍(real-time streaming) 데이터를 제어하는 경우에는 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱(parsing)하여 역다중화부(205)로 전송하거나 서비스 매니저(213)의 제어에 따라 SI&메타데이터 데이터베이스(211)에 저장한다. 그리고, 서비스 전달 매니저(203)는 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버 측에 피드백(feedback)한다.
역다중화부(205)는, 수신된 패킷을 오디오, 비디오, SI(System Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206/207), SI 디코더(204)에 전송한다.
SI 디코더(204)는, 역다중화된 SI 데이터 즉, PSI(Program Specific Information), PSIP(Program and System Information Protocol), DVB-SI(Digital Video Broadcasting-Service Information), DTMB/CMMB(Digital Television Terrestrial Multimedia Broadcasting/Coding Mobile Multimedia Broadcasting) 등의 서비스 정보를 디코딩한다. 또한, SI 디코더(204)는, 디코딩된 서비스 정보들을 SI&메타데이터 데이터베이스(211)에 저장할 수 있다. 저장된 서비스 정보는 예를 들어, 사용자의 요청 등에 의해 해당 구성에 의해 독출되어 이용될 수 있다.
오디오/비디오 디코더(206/207)는, 역다중화된 각 오디오 데이터와 비디오 데이터를 디코딩한다. 이렇게 디코딩된 오디오 데이터 및 비디오 데이터는 디스플레이부(208)를 통하여 사용자에게 제공된다.
애플리케이션 매니저는 예를 들어, UI 매니저(214)와 서비스 매니저(213)를 포함하며 디지털 디바이스(200)의 제어부 기능을 수행할 수 있다. 다시 말해, 애플리케이션 매니저는, 디지털 디바이스(200)의 전반적인 상태를 관리하고 사용자 인터페이스(UI: user interface)를 제공하며, 다른 매니저를 관리할 수 있다.
UI 매니저(214)는, 사용자를 위한 GUI(Graphic User Interface)/UI를 OSD(On Screen Display) 등을 이용하여 제공하며, 사용자로부터 키 입력을 받아 상기 입력에 따른 디바이스 동작을 수행한다. 예를 들어, UI 매니저(214)는 사용자로부터 채널 선택에 관한 키 입력을 받으면 상기 키 입력 신호를 서비스 매니저(213)에 전송한다.
서비스 매니저(213)는, 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다.
또한, 서비스 매니저(213)는, 채널 맵(channel map)을 생성하고 UI 매니저(214)로부터 수신한 키 입력에 따라 상기 생성된 채널 맵을 이용하여 채널을 선택 등을 제어한다. 상기 서비스 매니저(213)는 SI 디코더(204)로부터 서비스 정보를 전송받아 선택된 채널의 오디오/비디오 PID(Packet Identifier)를 역다중화부(205)에 설정한다. 이렇게 설정되는 PID는 상술한 역다중화 과정에 이용될 수 있다. 따라서, 역다중화부(205)는 상기 PID를 이용하여 오디오 데이터, 비디오 데이터 및 SI 데이터를 필터링(PID or section filtering) 한다.
서비스 디스커버리 매니저(210)는, 서비스를 제공하는 서비스 제공자를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널 선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.
서비스 제어 매니저(209)는, 서비스의 선택과 제어를 담당한다. 예를 들어, 서비스 제어 매니저(209)는 사용자가 기존의 방송 방식과 같은 생방송(live broadcasting) 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 상기 RTSP 프로토콜은 실시간 스트리밍에 대해 트릭 모드(trick mode)를 제공할 수 있다. 또한, 서비스 제어 매니저(209)는 IMS(IP Multimedia Subsystem), SIP(Session Initiation Protocol)를 이용하여 IMS 게이트웨이(250)를 통하는 세션을 초기화하고 관리할 수 있다. 상기 프로토콜들은 일 실시 예이며, 구현 예에 따라 다른 프로토콜을 사용할 수도 있다.
메타데이터 매니저(212)는, 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI&메타데이터 데이터베이스(211)에 저장한다.
SI&메타데이터 데이터베이스(211)는, SI 디코더(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 제공자를 선택하는데 필요한 정보를 저장한다. 또한, SI&메타데이터 데이터베이스(211)는 시스템에 대한 세트-업 데이터 등을 저장할 수 있다.
SI&메타데이터 데이터베이스(211)는, 비휘발성 메모리(Non-Volatile RAM: NVRAM) 또는 플래시 메모리(flash memory) 등을 사용하여 구현될 수도 있다.
한편, IMS 게이트웨이(250)는, IMS 기반의 IPTV 서비스에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이이다.
도 2는 본 발명의 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.
전술한 도 1이 고정 디바이스를 디지털 디바이스의 일 실시 예로 하여 설명하였다면, 도 2는 모바일 디바이스를 디지털 디바이스의 다른 실시 예로 한다.
도 2를 참조하면, 모바일 디바이스(300)는, 무선 통신부(310), A/V(Audio/Video) 입력부(320), 사용자 입력부(330), 센싱부(340), 출력부(350), 메모리(360), 인터페이스부(370), 제어부(380) 및 전원 공급부(390) 등을 포함할 수 있다.
이하 각 구성요소에 대해 상세히 설명하면, 다음과 같다.
무선 통신부(310)는, 모바일 디바이스(300)와 무선 통신 시스템 사이 또는 모바일 디바이스와, 모바일 디바이스가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 또는 그 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(310)는 방송 수신 모듈(311), 이동통신 모듈(312), 무선 인터넷 모듈(313), 근거리 통신 모듈(314) 및 위치정보 모듈(315) 등을 포함할 수 있다.
방송 수신 모듈(311)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 여기서, 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(312)에 의해 수신될 수 있다.
방송 관련 정보는 다양한 형태 예를 들어, EPG(Electronic Program Guide) 또는 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
방송수신 모듈(311)은 예를 들어, ATSC, DVB-T(Digital Video Broadcasting-Terrestrial), DVB-S(Satellite), MediaFLO(Media Forward Link Only), DVB-H(Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 방송수신 모듈(311)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송수신 모듈(311)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는, 메모리(360)에 저장될 수 있다.
이동통신 모듈(312)은, 이동 통신망 상에서 기지국, 외부 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 무선 신호는, 음성 신호, 화상 통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선인터넷 모듈(313)은, 무선 인터넷 접속을 위한 모듈을 포함하여, 모바일 디바이스(300)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리통신 모듈(314)은, 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee, RS-232, RS-485 등이 이용될 수 있다.
위치정보 모듈(315)은, 모바일 디바이스(300)의 위치 정보 획득을 위한 모듈로서, GPS(Global Position System) 모듈을 예로 할 수 있다.
A/V 입력부(320)는, 오디오 또는/및 비디오 신호 입력을 위한 것으로, 이에는 카메라(321)와 마이크(322) 등이 포함될 수 있다. 카메라(321)는, 화상통화 모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(351)에 표시될 수 있다.
카메라(321)에서 처리된 화상 프레임은, 메모리(360)에 저장되거나 무선 통신부(310)를 통하여 외부로 전송될 수 있다. 카메라(321)는, 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(322)는, 통화 모드 또는 녹음 모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는, 통화 모드인 경우 이동통신 모듈(312)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(322)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(330)는, 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(330)는, 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch) 등으로 구성될 수 있다.
센싱부(340)는, 모바일 디바이스(300)의 개폐 상태, 모바일 디바이스(300)의 위치, 사용자 접촉 유무, 모바일 디바이스의 방위, 모바일 디바이스의 가속/감속 등과 같이 모바일 디바이스(300)의 현재 상태를 감지하여 모바일 디바이스(300)의 동작 제어를 위한 센싱 신호를 발생시킨다. 예를 들어, 모바일 디바이스(300)가 이동되거나 기울어진 경우 모바일 디바이스의 위치 내지 기울기 등을 센싱할 수 있다. 또한, 전원 공급부(390)의 전원 공급 여부, 인터페이스부(370)의 외부 디바이스 결합 여부 등도 센싱할 수도 있다. 한편, 센싱부(240)는, NFC(Near Field Communication) 등을 포함한 근접 센서(341)를 포함할 수 있다.
출력부(350)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(351), 음향 출력 모듈(352), 알람부(353), 및 햅틱 모듈(354) 등이 포함될 수 있다.
디스플레이부(351)는, 모바일 디바이스(300)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 모바일 디바이스가 통화 모드인 경우 통화와 관련된 UI 또는 GUI를 표시한다. 모바일 디바이스(300)가 화상 통화 모드 또는 촬영 모드인 경우에는, 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(351)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(351)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(351)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.
모바일 디바이스(300)의 구현 형태에 따라 디스플레이부(351)가 2개 이상 존재할 수 있다. 예를 들어, 모바일 디바이스(300)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(351)와 터치 동작을 감지하는 센서(이하 '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(351)는 출력 디바이스 이외에 입력 디바이스로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(351)의 특정 부위에 가해진 압력 또는 디스플레이부(351)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(380)로 전송한다. 이로써, 제어부(380)는 디스플레이부(351)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
터치스크린에 의해 감싸지는 모바일 디바이스의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(341)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.
상기 근접 센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향출력모듈(352)은, 호신호 수신, 통화 모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(310)로부터 수신되거나 메모리(360)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(352)은 모바일 디바이스(300)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(352)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.
알람부(353)는, 모바일 디바이스(300)의 이벤트 발생을 알리기 위한 신호를 출력한다. 모바일 디바이스에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(353)는, 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(351)나 음성 출력 모듈(352)을 통해서도 출력될 수 있어서, 그들(351,352)은 알람부(353)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(354)은, 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(354)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(354)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. 햅틱 모듈(354)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(354)은, 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(354)은, 모바일 디바이스(300)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(360)는, 제어부(380)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰 북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(360)는 상기 터치스크린 상의 터치 입력 시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(360)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 모바일 디바이스(300)는 인터넷(internet) 상에서 상기 메모리(360)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(370)는, 모바일 디바이스(300)에 연결되는 모든 외부 디바이스와의 통로 역할을 한다. 인터페이스부(370)는 외부 디바이스로부터 데이터를 전송 받거나, 전원을 공급받아 모바일 디바이스(300) 내부의 각 구성 요소에 전달하거나, 모바일 디바이스(300) 내부의 데이터가 외부 디바이스로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 디바이스를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부(370)에 포함될 수 있다.
식별 모듈은 모바일 디바이스(300)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 디바이스(이하 '식별 디바이스')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 디바이스는 포트를 통하여 단말기(200)와 연결될 수 있다.
인터페이스부(370)는, 모바일 디바이스(300)가 외부 크래들(cradle)과 연결될 때, 상기 크래들로부터의 전원이 상기 모바일 디바이스(300)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 모바일 디바이스로 전달되는 통로가 될 수 있다. 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은, 모바일 디바이스가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(380)는, 통상적으로 모바일 디바이스(300)의 전반적인 동작을 제어한다. 제어부(380)는 예를 들어, 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(380)는, 멀티미디어 재생을 위한 멀티미디어 모듈(381)을 구비할 수도 있다. 멀티미디어 모듈(381)은, 제어부(380) 내에 구현될 수도 있고, 제어부(380)와 별도로 구현될 수도 있다. 제어부(380)는, 터치-스크린상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식(pattern recognition) 처리를 행할 수 있다.
전원 공급부(390)는, 제어부(380)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays, 프로세서, 제어기, 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들이 제어부(380) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드(software code)가 구현될 수 있다. 여기서, 소프트웨어 코드는, 메모리(360)에 저장되고, 제어부(380)에 의해 실행될 수 있다.
도 3은 본 발명에 따른 디지털 디바이스의 운전자 모니터링 장치를 보여주는 구성 블럭도이다.
도 3에 도시된 바와 같이, 디지털 디바이스의 운전자 모니터링 장치는, 제 1, 제 2 조명부(1100, 1200), 제 1, 제 2 카메라부(1300, 1400), 그리고 제어부(1500)를 포함할 수 있다.
그리고, 디지털 디바이스의 운전자 모니터링 장치는, 추가적으로, 저장부(1600) 및 경고 표시부(1700)를 더 포함할 수 있다.
여기서, 제 1 조명부(1100)는, 제 1 광을 발생하고, 제 2 조명부(1200)는, 제 2 광을 발생할 수 있는데, 제 1 조명부(1100)로부터 발생되는 제 1 광과 제 2 조명부(1200)로부터 발생되는 제 2 광은, 적외선 파장대의 광일 수 있다.
또한, 제 1 조명부(1100)로부터 발생되는 제 1 광의 세기와 제 2 조명부(1200)로부터 발생되는 제 2 광의 세기는, 서로 동일할 수 있다.
이 경우, 운전자 눈의 위치를 기준으로 제 1 조명부(1100)와 제 2 조명부(1200)는, 서로 대칭으로 배치될 수 있다.
그리고, 제 1 조명부(1100)와 운전자 눈 사이의 거리와, 제 2 조명부(1200)와 운전자 눈 사이의 거리는, 서로 동일할 수 있다.
경우에 따라, 제 1 조명부(1100)로부터 발생되는 제 1 광의 세기와 제 2 조명부(1200)로부터 발생되는 제 2 광의 세기는, 서로 다를 수도 있다.
이때, 운전자 눈의 위치를 기준으로 제 1 조명부(1100)와 제 2 조명부(1200)는, 서로 대칭으로 배치되지만, 제 1 조명부(1100)와 운전자 눈 사이의 거리와 제 2 조명부(1200)와 운전자 눈 사이의 거리는, 서로 다를 수 있다.
일 예로, 제 1 조명부(1100)와 운전자 눈 사이의 거리가, 제 2 조명부(1200)와 운전자 눈 사이의 거리보다 더 멀면, 제 1 조명부(1100)로부터 발생되는 제 1 광의 세기가, 제 2 조명부(1200)로부터 발생되는 제 2 광의 세기보다 더 클 수 있다.
다음, 제 1 카메라부(1300)는, 제 1 영상을 획득하고, 제 2 카메라부(1400)는, 제 2 영상을 획득할 수 있다.
여기서, 제 1 카메라부(1300)는, 제 1 조명부(1100)에 인접하여 배치되고, 제 2 카메라부(1400)는, 제 2 조명부(1200)에 인접하여 배치될 수 있다.
이 경우, 운전자 눈의 위치를 기준으로 제 1 카메라부(1300)와 제 2 카메라부(1400)는, 서로 대칭으로 배치될 수 있다.
그리고, 제 1 카메라부(1300)와 운전자 눈 사이의 거리와, 제 2 카메라부(1400)와 운전자 눈 사이의 거리는, 서로 동일할 수 있다.
이어, 제 1 카메라부(1300)와 제 1 조명부(1100)는, 한 쌍을 이루어 배치될 수 있는데, 서로 다른 모듈로 각각 제작될 수도 있고, 하나의 모듈로 제작될 수도 있다.
또한, 제 2 카메라부(1400)와 제 2 조명부(1200)는, 다른 한 쌍을 이루어 배치되며, 서로 다른 모듈로 각각 제작될 수도 있고, 하나의 모듈로 제작될 수도 있다.
일 예로, 제 1 조명부(1100)와 제 1 카메라부(1300)는, 제 1 모듈로 구성되고, 제 2 조명부(1200)와 제 2 카메라부(1400)는, 제 2 모듈로 구성될 수 있다.
경우에 따라, 제 1 조명부(1100)는, 제 1 모듈로 구성되고, 제 1 카메라부(1300)는, 제 2 모듈로 구성되며, 제 2 조명부(1200)는, 제 3 모듈로 구성되고, 제 2 카메라부(1400)는, 제 4 모듈로 구성될 수도 있다.
한편, 제어부(1500)는, 제 1 카메라부(1300)로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부(1400)로부터 획득한 영상으로부터 운전자가 감지되는지를 1차적으로 확인할 수 있다.
그리고, 제어부(1500)는, 제 1 카메라부(1300)로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부(1400)로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부(1200)를 오프(off)시켜 제 1 카메라부(1300)로부터 획득한 제 1 비교 영상의 밝기와, 제 2 조명부(1200)를 온(on)시켜 제 1 카메라부(1300)로부터 획득한 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 2차적으로 확인할 수 있다.
다음, 제어부(1500)는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부(1200)를 오프하도록, 제 1, 제 2 조명부(1100, 1200) 및 제 1, 제 2 카메라부(1300, 1400)를 제어할 수 있다.
또한, 제어부(1500)는, 제 2 조명부(1200)를 오프(off)시켜 제 1 카메라부(1300)로부터 제 1 비교 영상을 획득하고, 제 2 조명부(1200)를 온(on)시켜 제 1 카메라부(1300)로부터 제 2 비교 영상을 획득할 때, 제 2 조명부(1200)의 오프 시점과 제 2 조명부(1200)의 온 시점이, 일정 시간 간격을 가지도록 제어할 수 있다.
여기서, 제 2 조명부(1200)의 오프 시점과 제 2 조명부(1200)의 온 시점이, 일정 시간 간격을 가지는 이유는, 제 1 카메라부(1300)가 제 1 비교 영상을 획득할 수 있는 시간을 갖도록 하기 위함이다.
그리고, 제어부(1500)는, 제 2 조명부(1200)를 오프한 다음에, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되었는지를 확인하고, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부(1100, 1200)를 모두 온 시키도록 제어할 수 있다.
여기서, 제어부(1500)는, 제 1, 제 2 조명부(1100, 1200)를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부(1100, 1200)를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
또한, 제어부(1500)는, 제 2 조명부(1200)를 오프한 다음에, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되었는지를 확인하고, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되지 않았다면, 제 1, 제 2 카메라부(1300, 1400)로부터 영상을 획득한다.
그리고, 제어부(1500)는, 제 1, 제 2 카메라부(1300, 1400)로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한 다음, 제 1, 제 2 카메라부(1300, 1400)로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부(1200)를 온시키도록 제어할 수 있다.
여기서, 제어부(1500)는, 제 1, 제 2 카메라부(1300, 1400)로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 제 2 조명부(1200)를 오프시키도록 제어할 수 있다.
이어, 제어부(1500)는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되었는지를 확인하고, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부(1100, 1200)를 모두 온 시키도록 제어할 수 있다.
그리고, 제어부(1500)는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 카메라부(1300, 1400)로부터 영상을 획득하고, 제 1, 제 2 카메라부(1300, 1400)로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인하며, 제 1, 제 2 카메라부(1300, 1400)로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부(1200)를 온시키도록 제어할 수 있다.
한편. 저장부(1600)는, 영상 밝기에 대한 기준값과, 기준 차값을, 미리 설정하여 저장할 수 있다.
경우에 따라, 운전자는, 저장부(1600)에 미리 저장된 영상 밝기에 대한 기준값과, 기준 차값을 변경할 수도 있다.
여기서, 디지털 디바이스의 제어부(1500)는, 운전자가, 영상 밝기에 대한 기준값과 기준 차값을 변경할 경우, 디스플레이부(1720)를 통해, 변경 설정창을 추가로 제공할 수도 있다.
이때, 영상 밝기에 대한 기준값은, 운전자의 차량 내부 환경에 따라, 결정될 수 있다.
일 예로, 해가 지거나 날씨가 흐린 경우, 운전자의 차량 내부 환경이 어두워지면, 영상 밝기에 대한 기준값을 상대적으로 낮추어 영상 밝기를 감지하고, 해가 뜨거나 날씨가 맑은 경우, 운전자의 차량 내부 환경이 밝아지면, 영상 밝기에 대한 기준값을 상대적으로 높여 영상 밝기를 감지할 수 있다.
또한, 경고 표시부(1700)는, 제 1, 제 2 조명부(1100, 1200)가 모두 오프되어, 이상 오류가 발견될 경우, 제어부(1500)의 제어신호에 따라, 운전자에게 경고 표시를 할 수 있다.
여기서, 경고 표시부(1700)는, 디스플레이부(1720)와 경고 알림 조명부(1740)를 포함할 수 있다.
일 예로, 경고 표시부(1700)는, 경고 메시지를 생성하여 디스플레이부(1720)에 표시하는 제 1 방법과, 경고 알림 조명부(1740)의 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 경고 표시를 수행할 수 있다.
이와 같이, 본 발명의 디지털 디바이스는, 차량 내에 장착되어 운전자의 상태를 모니터링할 수도 있지만, 일반 디지털 기기 등에 장착되어 사용자의 상태를 모니터링할 수도 있다.
이처럼, 본 발명은, 제 1, 제 2 조명부(1100, 1200)와 제 1, 제 2 카메라부(1300, 1400)를 이용하여, 획득한 영상을 1차 분석하고, 조명을 온/오프시켜 획득한 비교 영상을 2차 분석함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
그리고, 본 발명은, 추가적인 부품이 필요하지 않으므로, 재료비 상승을 억제할 수 있다.
도 4 및 도 5는 조명부와 카메라부의 배치 관계를 설명하기 위한 도면이다.
도 4에 도시된 바와 같이, 디지털 디바이스의 운전자 모니터링 장치는, 제 1, 제 2 조명부(2100, 3100)와 제 1, 제 2 카메라부(2200, 3200)를 포함할 수 있다.
여기서, 제 1 카메라부(2200)와 제 1 조명부(2100)는, 한 쌍을 이루어 제 1 모듈(2000)로 배치되고, 제 2 카메라부(3200)와 제 2 조명부(3100)는, 다른 한 쌍을 이루어 제 2 모듈(3000)로 배치될 수 있다.
즉, 제 1 모듈(2000)은, 제 1 기판(2300) 위에 제 1 카메라부(2200)와 제 1 조명부(2100)가 배치되는 구조이고, 제 2 모듈(3000)은, 제 2 기판(3300) 위에 제 2 카메라부(3200)와 제 2 조명부(3100)가 배치되는 구조이다.
이때, 운전자 모니터링 장치가 차량 내에 배치될 경우, 제 1, 제 2 모듈(2000, 3000)은, 차량의 핸들(12)을 잡고 운전하는 운전자(10)를 중심으로 운전자(10)의 전방에서 대칭으로 배치될 수 있다.
일 예로, 운전자(10) 눈의 위치를 기준으로 제 1 모듈(2000)과 제 2 모듈(3000)은, 서로 대칭으로 배치될 수 있다.
그리고, 제 1 모듈(2000)과 운전자(10) 눈 사이의 거리 d1와, 제 2 모듈(3000)과 운전자(10) 눈 사이의 거리 d2는, 서로 동일할 수 있다.
경우에 따라, 제 1 모듈(2000)의 제 1 조명부(1100)로부터 발생되는 제 1 광의 세기와 제 2 모듈(3000)의 제 2 조명부(1200)로부터 발생되는 제 2 광의 세기는, 서로 다를 수도 있다.
이때, 운전자(10) 눈의 위치를 기준으로 제 1 모듈(2000)과 제 2 모듈(3000)은, 서로 대칭으로 배치되지만, 제 1 조명부(1100)와 운전자(10) 눈 사이의 거리와 제 2 조명부(1200)와 운전자(10) 눈 사이의 거리는, 서로 다를 수 있다.
일 예로, 제 1 조명부(1100)와 운전자(10) 눈 사이의 거리가, 제 2 조명부(1200)와 운전자(10) 눈 사이의 거리보다 더 멀면, 제 1 조명부(1100)로부터 발생되는 제 1 광의 세기가, 제 2 조명부(1200)로부터 발생되는 제 2 광의 세기보다 더 클 수 있다.
다음, 도 5에 도시된 바와 같이, 제 1 조명부(4100)는, 제 1 모듈(4010)로 구성되고, 제 1 카메라부(4300)는, 제 2 모듈(4020)로 구성되며, 제 2 조명부(5200)는, 제 3 모듈(5010)로 구성되고, 제 2 카메라부(5300)는, 제 4 모듈(5020)로 구성될 수도 있다.
일 예로, 제 1 모듈(4010)은, 제 1 기판(4200) 위에 제 1 조명부(4100)가 배치되는 구조이고, 제 2 모듈(4020)은, 제 2 기판(4400) 위에 제 1 카메라부(4300)가 배치되는 구조이며, 제 3 모듈(5010)은, 제 3 기판(5200) 위에 제 2 조명부(5100)가 배치되는 구조이고, 제 4 모듈(5020)은, 제 4 기판(5400) 위에 제 2 카메라부(5300)가 배치되는 구조이다.
여기서, 제 1 조명부(4100)를 포함하는 제 1 모듈(4010)은, 제 1 카메라부(4300)를 포함하는 제 2 모듈(4020)에 인접하여 배치되고, 제 2 조명부(5200)를 포함하는 제 3 모듈(5010)은, 제 2 카메라부(5300)를 포함하는 제 4 모듈(5020)에 인접하여 배치될 수 있다.
이때, 운전자 모니터링 장치가 차량 내에 배치될 경우, 제 1, 제 2, 제 3, 제 4 모듈(4010, 4020, 5010, 5020)은, 차량의 핸들(12)을 잡고 운전하는 운전자(10)를 중심으로 운전자(10)의 전방에서 대칭으로 배치될 수 있다.
일 예로, 운전자(10) 눈의 위치를 기준으로 제 1 모듈(4010)과 제 3 모듈(5010)은, 서로 대칭으로 배치되고, 제 2 모듈(4020)과 제 4 모듈(5020)은, 서로 대칭으로 배치될 수 있다.
그리고, 제 1 모듈(4010)과 운전자(10) 눈 사이의 거리 d21와, 제 3 모듈(5010)과 운전자(10) 눈 사이의 거리 d22는, 서로 동일할 수 있고, 제 2 모듈(4020)과 운전자(10) 눈 사이의 거리 d11와, 제 4 모듈(5020)과 운전자(10) 눈 사이의 거리 d12는, 서로 동일할 수 있다.
경우에 따라, 제 1 모듈(4010)의 제 1 조명부(4100)로부터 발생되는 제 1 광의 세기와 제 3 모듈(5010)의 제 2 조명부(5100)로부터 발생되는 제 2 광의 세기는, 서로 다를 수도 있다.
이때, 운전자(10) 눈의 위치를 기준으로 제 1 모듈(4010)과 제 3 모듈(5010)은, 서로 대칭으로 배치되지만, 제 1 조명부(4100)와 운전자(10) 눈 사이의 거리와 제 2 조명부(5100)와 운전자(10) 눈 사이의 거리는, 서로 다를 수 있다.
일 예로, 제 1 조명부(4100)와 운전자(10) 눈 사이의 거리가, 제 2 조명부(5100)와 운전자(10) 눈 사이의 거리보다 더 멀면, 제 1 조명부(4100)로부터 발생되는 제 1 광의 세기가, 제 2 조명부(5100)로부터 발생되는 제 2 광의 세기보다 더 클 수 있다.
도 6 내지 도 10은 본 발명에 따른 디지털 디바이스의 운전자 모니터링 과정을 설명하기 위한 도면이다.
도 6 내지 도 10에 도시된 바와 같이, 본 발명에 따른 디지털 디바이스는, 제 1, 제 2 조명부(6010, 6020)와 제 1, 제 2 카메라부(7010, 7020)를 포함할 수 있다.
여기서, 제 1 카메라부(7010)와 제 1 조명부(6010)는, 한 쌍을 이루어 제 1 모듈로 배치되고, 제 2 카메라부(7020)와 제 2 조명부(6020)는, 다른 한 쌍을 이루어 제 2 모듈로 배치될 수 있다.
그리고, 제 1 카메라부(7010)와 제 1 조명부(6010)를 포함하는 제 1 모듈과, 제 2 카메라부(7020)와 제 2 조명부(6020)를 포함하는 제 2 모듈은, 차량의 핸들(8030)을 잡고 운전하는 운전자(8010)를 중심으로 운전자(8010)의 전방에서 대칭으로 배치될 수 있다.
이와 같이, 구성되는 운전자 모니터링 장치는, 도 6과 같이, 운전자에 의해, 또는 차량에 의해, 운전자 모니터링 요청 신호를 수신하면, 제 1, 제 2 조명부(6010, 6020) 및 제 1, 제 2 카메라부(7010, 7020)를 온(on) 시켜, 제 1, 제 2 카메라부(7010, 7020)로부터 운전자(8010)의 영상을 획득한다.
그리고, 운전자 모니터링 장치는, 제 1 카메라부(7010)로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부(7020)로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.
도 7과 같이, 운전자(8010)가 운전자 시트(8020)로부터 제 2 카메라부(7020)와 제 2 조명부(6020)를 포함하는 제 2 모듈로 이동할 경우, 운전자(8010)는, 제 2 조명부(6020)로부터 발생되는 적외선 광(6120)에 의해, 눈이 손상될 수 있다.
따라서, 운전자 모니터링 장치는, 제 2 카메라부(7020)와 제 2 조명부(6020)를 포함하는 제 2 모듈에 인접하는 물체가 실제 운전자인지를 확인하는 과정이 필요하다.
운전자 모니터링 장치는, 제 1 카메라부(7010)로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부(7020)로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.
만일, 운전자(8010)가 제 2 모듈로 이동한 경우, 운전자(8010)가 제 2 조명부(6020)를 가리게 되므로, 제 1 카메라부(7010)로부터 획득한 영상의 밝기는, 기준값보다 작을 것이다.
또한, 운전자(8010)가 제 2 모듈로 이동한 경우, 제 2 카메라부(7020)의 촬영 범위로부터 운전자(8010)가 벗어나므로, 제 2 카메라부(7020)로부터 획득한 영상에는, 운전자가 감지되지 않을 것이다.
따라서, 운전자 모니터링 장치는, 제 1 카메라부(7010)로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부(7020)로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부(6020)를 오프(off)시켜 제 1 카메라부(7010)로부터 제 1 비교 영상을 획득하고, 제 2 조명부(6020)를 온(on)시켜 제 1 카메라부(7010)로부터 제 2 비교 영상을 획득한다.
도 8과 같이, 운전자(8010)는, 운전자 시트(8020)로부터 이동하지 않고, 다른 소정의 물체가 제 2 카메라부(7020)와 제 2 조명부(6020)를 포함하는 제 2 모듈로 이동할 경우, 운전자 모니터링 장치는, 운전자(8010)가 제 2 모듈에 접근한 것으로 오류를 일으켜, 제 2 조명부(6020)를 오프할 것이다.
이 경우, 운전자(8010)는, 정상적으로, 운전하고 있음에도 불구하고, 운전자 모니터링 장치는, 제 2 조명부(6020)를 오프하여, 운전자(8010) 상태를 계속적으로 모니터링할 수 없게 된다.
따라서, 이러한 오류 과정을 제거하기 위하여, 운전자 모니터링 장치는, 제 2 조명부(6020)를 오프(off)시켜 제 1 카메라부(7010)로부터 제 1 비교 영상을 획득하고, 제 2 조명부(6020)를 온(on)시켜 제 1 카메라부(7010)로부터 제 2 비교 영상을 획득한다.
그리고, 운전자 모니터링 장치는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하고, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프함으로써, 운전자의 눈을 보호할 수 있다.
만일, 운전자가 제 2 모듈에 근접하였다면, 제 2 조명부(6020)를 오프(off)시켜 제 1 카메라부(7010)로부터 획득한 제 1 비교 영상의 밝기와, 제 2 조명부(6020)를 온(on)시켜 제 1 카메라부(7010)로부터 획득한 제 2 비교 영상의 밝기는, 큰 차이가 없을 것이다.
여기서, 제 1 비교 영상의 밝기는, 제 1 조명부(6010)에 의해서만 결정되고, 제 2 비교 영상의 밝기도, 제 1 조명부(6010)에 의해서만 결정되기 때문에, 운전자가 제 2 모듈에 근접하였다면, 제 1 비교 영상의 밝기와, 제 2 비교 영상의 밝기는, 큰 차이가 없을 것이다.
하지만, 운전자가 아닌 소정의 물체가 제 2 모듈에 근접하였다면, 제 2 조명부(6020)를 오프시켜 제 1 카메라부(7010)로부터 획득한 제 1 비교 영상의 밝기와, 제 2 조명부(6020)를 온시켜 제 1 카메라부(7010)로부터 획득한 제 2 비교 영상의 밝기는, 큰 차이가 있을 것이다.
여기서, 제 1 비교 영상의 밝기는, 제 1 조명부(6010)에 의해서만 결정되고, 제 2 비교 영상의 밝기는, 제 1, 제 2 조명부(6010, 6020)에 의해 결정되기 때문에, 운전자가 아닌 소정의 물체가 제 2 모듈에 근접하였다면, 제 1 비교 영상의 밝기와, 제 2 비교 영상의 밝기는, 큰 차이가 있을 것이다.
또한, 도 9와 같이, 운전자(8010)가 운전자 시트(8020)로부터 제 1 카메라부(7010)와 제 1 조명부(6010)를 포함하는 제 1 모듈로 이동할 경우, 운전자(8010)는, 제 1 조명부(6010)로부터 발생되는 적외선 광(6110)에 의해, 눈이 손상될 수 있다.
따라서, 운전자 모니터링 장치는, 제 1 카메라부(7010)와 제 1 조명부(6010)를 포함하는 제 2 모듈에 인접하는 물체가 실제 운전자인지를 확인하는 과정이 필요하다.
운전자 모니터링 장치는, 제 2 카메라부(7020)로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 1 카메라부(7010)로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.
만일, 운전자(8010)가 제 1 모듈로 이동한 경우, 운전자(8010)가 제 1 조명부(6010)를 가리게 되므로, 제 2 카메라부(7020)로부터 획득한 영상의 밝기는, 기준값보다 작을 것이다.
또한, 운전자(8010)가 제 1 모듈로 이동한 경우, 제 1 카메라부(7010)의 촬영 범위로부터 운전자(8010)가 벗어나므로, 제 1 카메라부(7010)로부터 획득한 영상에는, 운전자가 감지되지 않을 것이다.
따라서, 운전자 모니터링 장치는, 제 2 카메라부(7020)로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 1 카메라부(7010)로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 1 조명부(6010)를 오프(off)시켜 제 2 카메라부(7020)로부터 제 3 비교 영상을 획득하고, 제 1 조명부(6010)를 온(on)시켜 제 2 카메라부(7020)로부터 제 4 비교 영상을 획득한다.
도 10과 같이, 운전자(8010)는, 운전자 시트(8020)로부터 이동하지 않고, 다른 소정의 물체가 제 1 카메라부(7010)와 제 1 조명부(6010)를 포함하는 제 1 모듈로 이동할 경우, 운전자 모니터링 장치는, 운전자(8010)가 제 1 모듈에 접근한 것으로 오류를 일으켜, 제 1 조명부(6010)를 오프할 것이다.
이 경우, 운전자(8010)는, 정상적으로, 운전하고 있음에도 불구하고, 운전자 모니터링 장치는, 제 1 조명부(6010)를 오프하여, 운전자(8010) 상태를 계속적으로 모니터링할 수 없게 된다.
따라서, 이러한 오류 과정을 제거하기 위하여, 운전자 모니터링 장치는, 제 1 조명부(6010)를 오프(off)시켜 제 2 카메라부(7020)로부터 제 3 비교 영상을 획득하고, 제 1 조명부(6010)를 온(on)시켜 제 2 카메라부(7020)로부터 제 4 비교 영상을 획득한다.
그리고, 운전자 모니터링 장치는, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하고, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 1 조명부를 오프함으로써, 운전자의 눈을 보호할 수 있다.
만일, 운전자가 제 1 모듈에 근접하였다면, 제 1 조명부(6010)를 오프(off)시켜 제 2 카메라부(7020)로부터 획득한 제 3 비교 영상의 밝기와, 제 1 조명부(6010)를 온(on)시켜 제 2 카메라부(7020)로부터 획득한 제 4 비교 영상의 밝기는, 큰 차이가 없을 것이다.
여기서, 제 3 비교 영상의 밝기는, 제 2 조명부(6020)에 의해서만 결정되고, 제 4 비교 영상의 밝기도, 제 2 조명부(6020)에 의해서만 결정되기 때문에, 운전자가 제 1 모듈에 근접하였다면, 제 3 비교 영상의 밝기와, 제 4 비교 영상의 밝기는, 큰 차이가 없을 것이다.
하지만, 운전자가 아닌 소정의 물체가 제 1 모듈에 근접하였다면, 제 1 조명부(6010)를 오프시켜 제 2 카메라부(7020)로부터 획득한 제 3 비교 영상의 밝기와, 제 1 조명부(6010)를 온시켜 제 2 카메라부(7020)로부터 획득한 제 4 비교 영상의 밝기는, 큰 차이가 있을 것이다.
여기서, 제 3 비교 영상의 밝기는, 제 2 조명부(6020)에 의해서만 결정되고, 제 4 비교 영상의 밝기는, 제 1, 제 2 조명부(6010, 6020)에 의해 결정되기 때문에, 운전자가 아닌 소정의 물체가 제 1 모듈에 근접하였다면, 제 3 비교 영상의 밝기와, 제 4 비교 영상의 밝기는, 큰 차이가 있을 것이다.
이와 같이, 본 발명은, 제 1, 제 2 조명부와 제 1, 제 2 카메라부를 이용하여, 획득한 영상을 1차 분석하고, 조명을 온/오프시켜 획득한 비교 영상을 2차 분석함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
도 11은 운전자 모니터링 장치의 에러에 대한 경고 알림을 보여주는 도면이다.
도 11에 도시된 바와 같이, 본 발명에 따른 운전자 모니터링 장치는, 제 1, 제 2 카메라부로부터 영상을 획득하고, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.
그리고, 운전자 모니터링 장치는, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부를 오프(off)시켜 상기 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 제 2 조명부를 온(on)시켜 상기 제 1 카메라부로부터 제 2 비교 영상을 획득한다.
다음, 운전자 모니터링 장치는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하고, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프한다.
이어, 운전자 모니터링 장치는, 제 1, 제 2 조명부가 모두 오프되었는지를 확인하고, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자(9010)에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킬 수 있다.
여기서, 운전자 모니터링 장치는, 경고 메시지(9120)를 생성하여 디스플레이부(9100)에 표시하는 제 1 방법과, 경고 알림용 조명(9200)을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 경고 표시를 수행할 수 있다.
이때, 운전자 모니터링 장치는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자(9010)에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이처럼, 본 발명은, 제 1, 제 2 조명부가 모두 오프되어, 이상 오류가 발견될 경우, 운전자에게 경고 표시를 함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
또한, 본 발명은, 차량 내에 장착되어 운전자의 상태를 모니터링할 수도 있지만, 일반 디지털 기기 등에 장착되어 사용자의 상태를 모니터링할 수도 있다.
도 12는 본 발명 제 1 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 12에 도시된 바와 같이, 디지털 디바이스의 제어부는, 제 1, 제 2 카메라부로부터 영상을 획득한다.(S11)
여기서, 제어부는, 제 1, 제 2 카메라부로부터 영상을 획득하기 이전에, 외부로부터 운전자 모니터링 요청 신호를 수신하면, 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
경우에 따라, 제어부는, 디지털 디바이스가 차량 내에 장착될 경우, 차량의 시동과 함께 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
또한, 제어부는, 디지털 디바이스가 일반 디지털 기기 내에 장착될 경우, 디지털 기기의 구동과 함께 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
다음, 제어부는, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.(S13)
여기서, 영상 밝기에 대한 기준값은, 미리 설정되어 저장부에 저장될 수 있다.
또한, 영상 밝기에 대한 기준값은, 운전자의 차량 내부 환경에 따라, 결정될 수 있다.
일 예로, 해가 지거나 날씨가 흐린 경우, 운전자의 차량 내부 환경이 어두워지면, 영상 밝기에 대한 기준값을 상대적으로 낮추어 영상 밝기를 감지할 수 있고, 해가 뜨거나 날씨가 맑은 경우, 운전자의 차량 내부 환경이 밝아지면, 영상 밝기에 대한 기준값을 상대적으로 높여 영상 밝기를 감지할 수 있다.
따라서, 디지털 디바이스의 모니터링 장치가 설치되는 장소의 외부 환경에 따라, 영상 밝기에 대한 기준값은, 다양한 값으로 설정될 수 있다.
경우에 따라, 운전자 또는 사용자는, 저장부에 미리 저장된 영상 밝기에 대한 기준값을 변경할 수도 있다.
여기서, 디지털 디바이스의 제어부는, 운전자 또는 사용자가, 영상 밝기에 대한 기준값을 변경할 경우, 디스플레이부를 통해, 변경 설정창을 추가로 제공할 수도 있다.
이어, 제어부는, 확인 결과, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 2 조명부를 오프(off)시켜 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 제 2 조명부를 온(on)시켜 상기 제 1 카메라부로부터 제 2 비교 영상을 획득할 수 있다.(S15)
여기서, 제 2 조명부의 오프 시점과 제 2 조명부의 온 시점은, 일정 시간 간격을 가질 수 있다.
이때, 일정 시간 간격은, 제 1 카메라부로부터 제 1 비교 영상을 획득하는 시간일 수 있다.
즉, 제어부는, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 1차적으로 운전자가 제 2 조명부에 가까이 접근했을 거라고 판단한다.
하지만, 제어부는, 확인 결과, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S11 단계를 계속적으로 수행할 수 있다.
다음, 제어부는, 제 1 카메라부로부터 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S17)
여기서, 기준 차값은, 미리 설정되어 저장부에 저장될 수 있다.
또한, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기에 대한 기준 차값은, 운전자의 차량 내부 환경에 따라, 결정될 수 있다.
일 예로, 해가 지거나 날씨가 흐린 경우, 운전자의 차량 내부 환경이 어두워지면, 비교 영상 밝기에 대한 기준 차값을 상대적으로 낮추어 영상 밝기를 감지할 수 있고, 해가 뜨거나 날씨가 맑은 경우, 운전자의 차량 내부 환경이 밝아지면, 비교 영상 밝기에 대한 기준 차값을 상대적으로 높여 영상 밝기를 감지할 수 있다.
따라서, 디지털 디바이스의 모니터링 장치가 설치되는 장소의 외부 환경에 따라, 비교 영상 밝기에 대한 기준 차값은, 다양한 값으로 설정될 수 있다.
경우에 따라, 운전자 또는 사용자는, 저장부에 미리 저장된 비교 영상 밝기에 대한 기준 차값을 변경할 수도 있다.
여기서, 디지털 디바이스의 제어부는, 운전자 또는 사용자가, 비교 영상 밝기에 대한 기준 차값을 변경할 경우, 디스플레이부를 통해, 변경 설정창을 추가로 제공할 수도 있다.
다음, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프할 수 있다.(S19)
즉, 제어부는, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 2 조명부에 가까이 접근했다고 판단하고, 제 2 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S11 단계를 계속적으로 수행할 수 있다.
즉, 제어부는, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차이가 크게 발생한다면, 운전자가 제 2 조명부에 가까이 접근한 것이 아니라고 판단하고, 제 2 조명부를 오프하지 않는다.
그리고, 경우에 따라, 제어부는, 제 2 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S21)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S11 단계를 계속적으로 수행할 수 있다.(S23)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S11 단계를 계속적으로 수행할 수 있다.
이와 같이, 본 발명은, 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 운전자가 제 2 조명부에 가까이 접근했을 거라고 1차적으로 판단한다.
그리고, 본 발명은, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 2 조명부에 가까이 접근했다고 2차적으로 판단함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
또한, 본 발명은, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정하여, 운전자 모니터링 장치의 에러율을 크게 줄일 수 있고, 신뢰성이 향상될 수 있다.
도 13은 본 발명 제 2 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 13에 도시된 바와 같이, 본 발명 제 2 실시예의 S41, S43, S45 단계는, 본 발명 제 1 실시예의 S11, S13, S15 단계와 동일하므로, 상세한 설명은 생략한다.
디지털 디바이스의 제어부는, 제 1 카메라부로부터 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S47)
다음, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프할 수 있다.(S49)
즉, 제어부는, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 2 조명부에 가까이 접근했다고 판단하고, 제 2 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S51)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S41 단계를 계속적으로 수행할 수 있다.(S53)
즉, 제어부는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
한편, 제어부는, 제 2 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S51)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S41 단계를 계속적으로 수행할 수 있다.(S53)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득할 수 있다.(S55)
그리고, 제어부는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S57)
다음, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부를 온 시키고, 제 1, 제 2 카메라부로부터 영상을 획득하는 S41 단계를 계속적으로 수행할 수 있다.(S59)
하지만, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 제 2 조명부를 오프 시키는 S49 단계 및 그 이하 과정을 반복 수행할 수 있다.
이와 같이, 본 발명 제 2 실시예는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
또한, 본 발명 제 2 실시예는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부를 온 시키고, 모두 운전자가 감지되지 않는다면, 제 2 조명부를 오프 시킴으로써, 운전자 모니터링 장치의 오류율을 줄일 수 있다.
도 14는 본 발명 제 3 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 14에 도시된 바와 같이, 본 발명 제 3 실시예의 S71, S73, S75 단계는, 본 발명 제 1 실시예의 S11, S13, S15 단계와 동일하므로, 상세한 설명은 생략한다.
디지털 디바이스의 제어부는, 제 1 카메라부로부터 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S77)
다음, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 2 조명부를 오프할 수 있다.(S79)
즉, 제어부는, 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 2 조명부에 가까이 접근했다고 판단하고, 제 2 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 카메라부로부터 영상을 획득하고(S85), 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S87)
한편, 제어부는, 제 2 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S81)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S71 단계를 계속적으로 수행할 수 있다.(S83)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득할 수 있다.(S85)
그리고, 제어부는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S87)
다음, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부를 온 시키고, 제 1, 제 2 카메라부로부터 영상을 획득하는 S71 단계를 계속적으로 수행할 수 있다.(S89)
하지만, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 제 2 조명부를 오프 시키는 S79 단계 및 그 이하 과정을 반복 수행할 수 있다.
이와 같이, 본 발명 제 3 실시예는, 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상일 경우, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 2 조명부를 온 시키고, 모두 운전자가 감지되지 않는다면, 제 2 조명부를 오프 시킴으로써, 운전자 모니터링 장치의 오류율을 줄일 수 있다.
그리고, 본 발명 제 3 실시예는, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
도 15는 본 발명 제 4 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 15에 도시된 바와 같이, 디지털 디바이스의 제어부는, 제 1, 제 2 카메라부로부터 영상을 획득한다.(S111)
여기서, 제어부는, 제 1, 제 2 카메라부로부터 영상을 획득하기 이전에, 외부로부터 운전자 모니터링 요청 신호를 수신하면, 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
경우에 따라, 제어부는, 디지털 디바이스가 차량 내에 장착될 경우, 차량의 시동과 함께 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
또한, 제어부는, 디지털 디바이스가 일반 디지털 기기 내에 장착될 경우, 디지털 기기의 구동과 함께 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 온(on) 시킬 수 있다.
다음, 제어부는, 제 2 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 1 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인한다.(S113)
여기서, 영상 밝기에 대한 기준값은, 미리 설정되어 저장부에 저장될 수 있다.
또한, 영상 밝기에 대한 기준값은, 운전자의 차량 내부 환경에 따라, 결정될 수 있다.
일 예로, 해가 지거나 날씨가 흐린 경우, 운전자의 차량 내부 환경이 어두워지면, 영상 밝기에 대한 기준값을 상대적으로 낮추어 영상 밝기를 감지할 수 있고, 해가 뜨거나 날씨가 맑은 경우, 운전자의 차량 내부 환경이 밝아지면, 영상 밝기에 대한 기준값을 상대적으로 높여 영상 밝기를 감지할 수 있다.
따라서, 디지털 디바이스의 모니터링 장치가 설치되는 장소의 외부 환경에 따라, 영상 밝기에 대한 기준값은, 다양한 값으로 설정될 수 있다.
경우에 따라, 운전자 또는 사용자는, 저장부에 미리 저장된 영상 밝기에 대한 기준값을 변경할 수도 있다.
여기서, 디지털 디바이스의 제어부는, 운전자 또는 사용자가, 영상 밝기에 대한 기준값을 변경할 경우, 디스플레이부를 통해, 변경 설정창을 추가로 제공할 수도 있다.
이어, 제어부는, 확인 결과, 제 2 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 1 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 제 1 조명부를 오프(off)시켜 제 2 카메라부로부터 제 3 비교 영상을 획득하고, 제 1 조명부를 온(on)시켜 상기 제 2 카메라부로부터 제 4 비교 영상을 획득할 수 있다.(S115)
여기서, 제 1 조명부의 오프 시점과 제 1 조명부의 온 시점은, 일정 시간 간격을 가질 수 있다.
이때, 일정 시간 간격은, 제 2 카메라부로부터 제 3 비교 영상을 획득하는 시간일 수 있다.
즉, 제어부는, 제 2 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 1 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 1차적으로 운전자가 제 1 조명부에 가까이 접근했을 거라고 판단한다.
하지만, 제어부는, 확인 결과, 제 2 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 제 1 카메라부로부터 획득한 영상으로부터 운전자가 감지되면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S111 단계를 계속적으로 수행할 수 있다.
다음, 제어부는, 제 2 카메라부로부터 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S117)
여기서, 기준 차값은, 미리 설정되어 저장부에 저장될 수 있다.
또한, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기에 대한 기준 차값은, 운전자의 차량 내부 환경에 따라, 결정될 수 있다.
일 예로, 해가 지거나 날씨가 흐린 경우, 운전자의 차량 내부 환경이 어두워지면, 비교 영상 밝기에 대한 기준 차값을 상대적으로 낮추어 영상 밝기를 감지할 수 있고, 해가 뜨거나 날씨가 맑은 경우, 운전자의 차량 내부 환경이 밝아지면, 비교 영상 밝기에 대한 기준 차값을 상대적으로 높여 영상 밝기를 감지할 수 있다.
따라서, 디지털 디바이스의 모니터링 장치가 설치되는 장소의 외부 환경에 따라, 비교 영상 밝기에 대한 기준 차값은, 다양한 값으로 설정될 수 있다.
경우에 따라, 운전자 또는 사용자는, 저장부에 미리 저장된 비교 영상 밝기에 대한 기준 차값을 변경할 수도 있다.
여기서, 디지털 디바이스의 제어부는, 운전자 또는 사용자가, 비교 영상 밝기에 대한 기준 차값을 변경할 경우, 디스플레이부를 통해, 변경 설정창을 추가로 제공할 수도 있다.
다음, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 1 조명부를 오프할 수 있다.(S119)
즉, 제어부는, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 1 조명부에 가까이 접근했다고 판단하고, 제 1 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S111 단계를 계속적으로 수행할 수 있다.
즉, 제어부는, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차이가 크게 발생한다면, 운전자가 제 1 조명부에 가까이 접근한 것이 아니라고 판단하고, 제 1 조명부를 오프하지 않는다.
그리고, 경우에 따라, 제어부는, 제 1 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S121)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S111 단계를 계속적으로 수행할 수 있다.(S123)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득하는 S111 단계를 계속적으로 수행할 수 있다.
이와 같이, 본 발명은, 제 2 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 제 1 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 운전자가 제 1 조명부에 가까이 접근했을 거라고 1차적으로 판단한다.
그리고, 본 발명은, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 1 조명부에 가까이 접근했다고 2차적으로 판단함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
또한, 본 발명은, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정하여, 운전자 모니터링 장치의 에러율을 크게 줄일 수 있고, 신뢰성이 향상될 수 있다.
도 16은 본 발명 제 5 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 16에 도시된 바와 같이, 본 발명 제 5 실시예의 S141, S143, S145 단계는, 본 발명 제 4 실시예의 S111, S113, S115 단계와 동일하므로, 상세한 설명은 생략한다.
디지털 디바이스의 제어부는, 제 2 카메라부로부터 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S147)
다음, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 1 조명부를 오프할 수 있다.(S149)
즉, 제어부는, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 1 조명부에 가까이 접근했다고 판단하고, 제 1 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S151)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S141 단계를 계속적으로 수행할 수 있다.(S153)
즉, 제어부는, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
한편, 제어부는, 제 1 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S151)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S41 단계를 계속적으로 수행할 수 있다.(S153)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득할 수 있다.(S155)
그리고, 제어부는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S157)
다음, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 1 조명부를 온 시키고, 제 1, 제 2 카메라부로부터 영상을 획득하는 S141 단계를 계속적으로 수행할 수 있다.(S159)
하지만, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 제 1 조명부를 오프 시키는 S149 단계 및 그 이하 과정을 반복 수행할 수 있다.
이와 같이, 본 발명 제 5 실시예는, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
또한, 본 발명 제 5 실시예는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 1 조명부를 온 시키고, 모두 운전자가 감지되지 않는다면, 제 2 조명부를 오프 시킴으로써, 운전자 모니터링 장치의 오류율을 줄일 수 있다.
도 17는 본 발명 제 6 실시예에 따른 디지털 디바이스의 운전자 모니터링 방법을 설명하기 위한 흐름도이다.
도 17에 도시된 바와 같이, 본 발명 제 6 실시예의 S171, S173, S175 단계는, 본 발명 제 4 실시예의 S111, S113, S115 단계와 동일하므로, 상세한 설명은 생략한다.
디지털 디바이스의 제어부는, 제 2 카메라부로부터 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인한다.(S177)
다음, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 제 1 조명부를 오프할 수 있다.(S179)
즉, 제어부는, 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차이가 거의 발생하지 않는다면, 운전자가 제 1 조명부에 가까이 접근했다고 판단하고, 제 1 조명부를 오프할 수 있다.
하지만, 제어부는, 확인 결과, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 제 1, 제 2 카메라부로부터 영상을 획득하고(S185), 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S187)
한편, 제어부는, 제 1 조명부를 오프한 다음, 제 1, 제 2 조명부가 모두 오프되었는지를 확인한다.(S181)
이어, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킨 다음, 제 1, 제 2 카메라부로부터 영상을 획득하는 S171 단계를 계속적으로 수행할 수 있다.(S183)
즉, 제어부는, 제 1, 제 2 조명부가 모두 오프되었다면, 운전자 모니터링 장치에 에러가 있다고 판단하여, 운전자에게 경고 표시를 하고, 제 1, 제 2 조명부를 모두 온 시킴으로써, 운전자 모니터링 장치를 재설정할 수 있다.
여기서, 제어부는, 운전자에게 경고 표시를 할 때, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행할 수 있다.
또한, 제어부는, 제 1, 제 2 조명부를 모두 온 시킬 때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행할 수 있다.
이때, 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에, 제 1, 제 2 조명부를 온 시키는 이유는, 운전자의 모니터링 알고리즘을 처음부터 다시 시작하기 위한 리셋 시간을 주기 위함이다.
하지만, 제어부는, 확인 결과, 제 1, 제 2 조명부가 모두 오프되지 않았다면, 제 1, 제 2 카메라부로부터 영상을 획득할 수 있다.(S185)
그리고, 제어부는, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인한다.(S187)
다음, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 1 조명부를 온 시키고, 제 1, 제 2 카메라부로부터 영상을 획득하는 S171 단계를 계속적으로 수행할 수 있다.(S189)
하지만, 제어부는, 확인 결과, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 제 1 조명부를 오프 시키는 S179 단계 및 그 이하 과정을 반복 수행할 수 있다.
이와 같이, 본 발명 제 6 실시예는, 획득한 제 3 비교 영상의 밝기와 제 4 비교 영상의 밝기의 차값이 기준 차값 이상일 경우, 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 제 1 조명부를 온 시키고, 모두 운전자가 감지되지 않는다면, 제 1 조명부를 오프 시킴으로써, 운전자 모니터링 장치의 오류율을 줄일 수 있다.
그리고, 본 발명 제 6 실시예는, 제 1, 제 2 조명부가 모두 오프되었는지를 확인함으로써, 운전자 모니터링 장치의 에러 유무를 확인할 수 있다.
이와 같이, 본 발명은, 제 1, 제 2 조명부와 제 1, 제 2 카메라부를 이용하여, 획득한 영상을 1차 분석하고, 조명을 온/오프시켜 획득한 비교 영상을 2차 분석함으로써, 오류율을 크게 줄이고, 운전자의 안정성 확보 및 운전자 인식 성능을 향상시킬 수 있다.
그리고, 본 발명은, 추가적인 부품이 필요하지 않으므로, 재료비 상승을 억제할 수 있다.
이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해돼서는 안 될 것이다.
1100: 제 1 조명부
1200: 제 2 조명부
1300: 제 1 카메라부
1400: 제 2 카메라부
1500: 제어부
1600: 저장부
1700: 경고 표시부

Claims (20)

  1. 제 1, 제 2 조명부와 제 1, 제 2 카메라부를 포함하는 디지털 디바이스의 운전자 모니터링 방법에 있어서,
    상기 제 1, 제 2 카메라부로부터 영상을 획득하는 단계;
    상기 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 상기 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인하는 단계;
    상기 확인 결과, 상기 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 상기 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 상기 제 2 조명부를 오프(off)시켜 상기 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 상기 제 2 조명부를 온(on)시켜 상기 제 1 카메라부로부터 제 2 비교 영상을 획득하는 단계;
    상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계; 그리고,
    상기 확인 결과, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 상기 제 2 조명부를 오프하는 단계를 포함하여 이루어지는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  2. 제 1 항에 있어서, 상기 제 1, 제 2 카메라부로부터 영상을 획득하는 단계 이전에,
    운전자 모니터링 요청 신호를 수신하는 단계; 그리고,
    상기 제 1, 제 2 조명부 및 상기 제 1, 제 2 카메라부를 온(on) 시키는 단계를 더 포함하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  3. 제 1 항에 있어서, 상기 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 상기 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 확인하는 단계에서,
    상기 영상 밝기에 대한 기준값은, 미리 설정되어 저장되는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  4. 제 3 항에 있어서, 상기 영상 밝기에 대한 기준값은, 상기 운전자의 차량 내부 환경에 따라, 결정되는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  5. 제 1 항에 있어서, 상기 제 2 조명부를 오프(off)시켜 상기 제 1 카메라부로부터 제 1 비교 영상을 획득하고, 상기 제 2 조명부를 온(on)시켜 상기 제 1 카메라부로부터 제 2 비교 영상을 획득하는 단계에서,
    상기 제 2 조명부의 오프 시점과 상기 제 2 조명부의 온 시점은, 일정 시간 간격을 가지는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  6. 제 5 항에 있어서, 상기 일정 시간 간격은, 상기 제 1 카메라부로부터 제 1 비교 영상을 획득하는 시간인 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  7. 제 1 항에 있어서, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계에서,
    상기 기준 차값은, 미리 설정되어 저장되는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  8. 제 1 항에 있어서, 상기 제 2 조명부를 오프하는 단계 이후에,
    상기 제 1, 제 2 조명부가 모두 오프되었는지를 확인하는 단계;
    상기 확인 결과, 상기 제 1, 제 2 조명부가 모두 오프되었다면, 상기 운전자에게 경고 표시를 하고, 상기 제 1, 제 2 조명부를 모두 온 시키는 단계를 더 포함하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  9. 제 8 항에 있어서, 상기 운전자에게 경고 표시를 하고, 상기 제 1, 제 2 조명부를 모두 온 시키는 단계에서,
    상기 경고 표시는, 경고 메시지를 생성하여 디스플레이부에 표시하는 제 1 방법과, 경고 알림용 조명을 연속적으로 일정 시간 온/오프시키는 제 2 방법 중, 적어도 어느 한 방법으로 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  10. 제 8 항에 있어서, 상기 운전자에게 경고 표시를 하고, 상기 제 1, 제 2 조명부를 모두 온 시키는 단계에서,
    상기 제 1, 제 2 조명부를 모두 온 시킬 때, 상기 운전자에게 경고 표시를 한 시점으로부터 일정 시간이 지난 후에 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  11. 제 8 항에 있어서, 상기 제 1, 제 2 조명부가 모두 오프되었는지를 확인하는 단계에서,
    상기 확인 결과, 상기 제 1, 제 2 조명부가 모두 오프되지 않았다면, 상기 제 1, 제 2 카메라부로부터 영상을 획득하는 단계와,
    상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인하는 단계와,
    상기 확인 결과, 상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 상기 제 2 조명부를 온시키는 단계를 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  12. 제 11 항에 있어서, 상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인하는 단계에서,
    상기 확인 결과, 상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되지 않는다면, 상기 제 2 조명부를 오프시키는 단계 및 그 이하 과정을 반복 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  13. 제 1 항에 있어서, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계에서,
    상기 확인 결과, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 상기 제 1, 제 2 조명부가 모두 오프되었는지를 확인하는 단계와,
    상기 확인 결과, 상기 제 1, 제 2 조명부가 모두 오프되었다면, 상기 운전자에게 경고 표시를 하고, 상기 제 1, 제 2 조명부를 모두 온 시키는 단계를 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  14. 제 1 항에 있어서, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 확인하는 단계에서,
    상기 확인 결과, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이라면, 상기 제 1, 제 2 카메라부로부터 영상을 획득하는 단계와,
    상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되는지를 확인하는 단계와,
    상기 확인 결과, 상기 제 1, 제 2 카메라부로부터 획득한 영상들 내에서, 모두 운전자가 감지되면, 상기 제 2 조명부를 온시키는 단계를 수행하는 것을 특징으로 하는 디지털 디바이스의 운전자 모니터링 방법.
  15. 제 1 광을 발생하는 제 1 조명부;
    제 2 광을 발생하는 제 2 조명부;
    제 1 영상을 획득하는 제 1 카메라부;
    제 2 영상을 획득하는 제 2 카메라부; 그리고,
    상기 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이거나 또는 상기 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되는지를 1차적으로 확인하고, 상기 제 1 카메라부로부터 획득한 영상의 밝기가 기준값 이상이 아니거나 또는 상기 제 2 카메라부로부터 획득한 영상으로부터 운전자가 감지되지 않는다면, 상기 제 2 조명부를 오프(off)시켜 상기 제 1 카메라부로부터 획득한 제 1 비교 영상의 밝기와, 상기 제 2 조명부를 온(on)시켜 상기 제 1 카메라부로부터 획득한 제 2 비교 영상의 밝기의 차값이 기준 차값 이상인지를 2차적으로 확인하여, 상기 획득한 제 1 비교 영상의 밝기와 제 2 비교 영상의 밝기의 차값이 기준 차값 이상이 아니라면, 상기 제 2 조명부를 오프하도록, 상기 제 1, 제 2 조명부 및 제 1, 제 2 카메라부를 제어하는 제어부를 포함하여 이루어지는 것을 특징으로 하는 디지털 디바이스.
  16. 제 15 항에 있어서, 상기 제 1 카메라부는, 상기 제 1 조명부에 인접하여 배치되고,
    상기 제 2 카메라부는, 상기 제 2 조명부에 인접하여 배치되는 것을 특징으로 하는 디지털 디바이스.
  17. 제 15 항에 있어서, 상기 제 1 조명부와 제 1 카메라부는, 제 1 모듈로 구성되고,
    상기 제 2 조명부와 제 2 카메라부는, 제 2 모듈로 구성되는 것을 특징으로 하는 디지털 디바이스.
  18. 제 15 항에 있어서, 상기 제 1 조명부로부터 발생되는 제 1 광과 상기 제 2 조명부로부터 발생되는 제 2 광은, 적외선 파장대의 광인 것을 특징으로 하는 디지털 디바이스.
  19. 제 15 항에 있어서, 상기 제 1 조명부로부터 발생되는 제 1 광의 세기와 상기 제 2 조명부로부터 발생되는 제 2 광의 세기는, 서로 동일한 것을 특징으로 하는 운전자 모니터링 장치.
  20. 제 15 항에 있어서, 상기 영상 밝기에 대한 기준값과, 상기 기준 차값을, 미리 설정하여 저장하는 저장부를 더 포함하는 것을 특징으로 하는 디지털 디바이스.
KR1020150026305A 2015-02-25 2015-02-25 디지털 디바이스 및 그의 운전자 모니터링 방법 KR102381140B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020150026305A KR102381140B1 (ko) 2015-02-25 2015-02-25 디지털 디바이스 및 그의 운전자 모니터링 방법
US14/704,553 US10015411B2 (en) 2015-02-25 2015-05-05 Digital device and driver monitoring method thereof
EP15001393.6A EP3062262B1 (en) 2015-02-25 2015-05-08 Digital device and driver monitoring method thereof
CN201510357927.5A CN105916262B (zh) 2015-02-25 2015-06-25 数字装置及其驾驶员监控方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150026305A KR102381140B1 (ko) 2015-02-25 2015-02-25 디지털 디바이스 및 그의 운전자 모니터링 방법

Publications (2)

Publication Number Publication Date
KR20160103675A true KR20160103675A (ko) 2016-09-02
KR102381140B1 KR102381140B1 (ko) 2022-03-31

Family

ID=53189554

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150026305A KR102381140B1 (ko) 2015-02-25 2015-02-25 디지털 디바이스 및 그의 운전자 모니터링 방법

Country Status (4)

Country Link
US (1) US10015411B2 (ko)
EP (1) EP3062262B1 (ko)
KR (1) KR102381140B1 (ko)
CN (1) CN105916262B (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108688671A (zh) * 2017-03-30 2018-10-23 罗伯特·博世有限公司 用于观测在车辆中的驾驶员以确定驾驶员在车辆中的至少一个位置的方法和驾驶员观测设备
WO2020189806A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 차량 제어 장치
WO2023043045A1 (ko) * 2021-09-17 2023-03-23 삼성전자주식회사 전기 변색 소자를 포함하는 전자 장치 및 그 제어 방법

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9862315B2 (en) * 2015-08-12 2018-01-09 Lytx, Inc. Driver coaching from vehicle to vehicle and vehicle to infrastructure communications
JP2018045373A (ja) * 2016-09-13 2018-03-22 富士通株式会社 情報処理プログラム、情報処理端末及び情報処理方法
JP2018128974A (ja) * 2017-02-10 2018-08-16 トヨタ自動車株式会社 ドライバ状態監視装置
US10726574B2 (en) 2017-04-11 2020-07-28 Dolby Laboratories Licensing Corporation Passive multi-wearable-devices tracking
EP3632295A4 (en) 2017-05-25 2021-03-10 Nec Corporation INFORMATION PROCESSING DEVICE, ORDERING PROCESS, AND PROGRAM
JP2019046273A (ja) * 2017-09-05 2019-03-22 オムロン株式会社 運転者状態把握装置、運転者状態把握システム、及び運転者状態把握方法
CN107567140B (zh) * 2017-09-14 2019-04-19 上海紫声信息科技有限公司 电动汽车夜间驾驶安全辅助系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0981756A (ja) * 1995-09-14 1997-03-28 Mitsubishi Electric Corp 顔画像処理装置
JP2000280780A (ja) * 1999-03-31 2000-10-10 Toshiba Corp ドライバ状態検知システム
US6443603B1 (en) * 1999-10-20 2002-09-03 Dr. Ing. H.C.F. Porsche Ag Process and apparatus for the control of the light distribution of a headlight arrangement of a vehicle
US20030209893A1 (en) * 1992-05-05 2003-11-13 Breed David S. Occupant sensing system
US20040056975A1 (en) * 1998-10-08 2004-03-25 Daisuke Hata Autofocus apparatus
WO2013176265A1 (ja) * 2012-05-25 2013-11-28 国立大学法人静岡大学 瞳孔検出方法、角膜反射検出方法、顔姿勢検出方法及び瞳孔追尾方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01158579A (ja) 1987-09-09 1989-06-21 Aisin Seiki Co Ltd 像認識装置
US5689241A (en) 1995-04-24 1997-11-18 Clarke, Sr.; James Russell Sleep detection and driver alert apparatus
JP3316725B2 (ja) 1995-07-06 2002-08-19 三菱電機株式会社 顔画像撮像装置
DE19722227A1 (de) * 1997-05-28 1998-12-03 Mannesmann Vdo Ag Verfahren zum Erzeugen eines Warnsignals zum Einschalten der Lichtanlage eines Fahrzeugs und Vorrichtung zur Verwendung bei dem Verfahren
DE19921488A1 (de) 1999-05-08 2000-11-16 Bosch Gmbh Robert Verfahren und Vorrichtung zur Überwachung des Innenraums und des Umfeldes eines Fahrzeugs
US7777778B2 (en) 2004-10-27 2010-08-17 Delphi Technologies, Inc. Illumination and imaging system and method
US8970372B2 (en) * 2006-09-29 2015-03-03 Hubbell Incorporated Occupancy sensor with dimmer feature and night light and method of lighting control using the same
JP2011068440A (ja) 2009-09-24 2011-04-07 Toshiba Elevator Co Ltd エレベータ監視装置、エレベータ監視方法及びエレベータ遠隔監視システム
KR100990305B1 (ko) 2010-05-13 2010-10-26 정성호 영상촬상소자를 직접 연결한 바이너리 ｃｄｍａ 영상 송수신 시스템
JP5997871B2 (ja) 2010-12-10 2016-09-28 ティーケー ホールディングス インク．Ｔｋ Ｈｏｌｄｉｎｇｓ Ｉｎｃ． 車両運転者監視システム
JP5212927B2 (ja) 2011-01-25 2013-06-19 株式会社デンソー 顔撮影システム
CN103594003B (zh) 2013-11-13 2015-11-25 安徽三联交通应用技术股份有限公司 一种用于驾驶人的远程监控与异常预警的方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030209893A1 (en) * 1992-05-05 2003-11-13 Breed David S. Occupant sensing system
JPH0981756A (ja) * 1995-09-14 1997-03-28 Mitsubishi Electric Corp 顔画像処理装置
US20040056975A1 (en) * 1998-10-08 2004-03-25 Daisuke Hata Autofocus apparatus
JP2000280780A (ja) * 1999-03-31 2000-10-10 Toshiba Corp ドライバ状態検知システム
US6443603B1 (en) * 1999-10-20 2002-09-03 Dr. Ing. H.C.F. Porsche Ag Process and apparatus for the control of the light distribution of a headlight arrangement of a vehicle
WO2013176265A1 (ja) * 2012-05-25 2013-11-28 国立大学法人静岡大学 瞳孔検出方法、角膜反射検出方法、顔姿勢検出方法及び瞳孔追尾方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108688671A (zh) * 2017-03-30 2018-10-23 罗伯特·博世有限公司 用于观测在车辆中的驾驶员以确定驾驶员在车辆中的至少一个位置的方法和驾驶员观测设备
WO2020189806A1 (ko) * 2019-03-15 2020-09-24 엘지전자 주식회사 차량 제어 장치
WO2023043045A1 (ko) * 2021-09-17 2023-03-23 삼성전자주식회사 전기 변색 소자를 포함하는 전자 장치 및 그 제어 방법

Also Published As

Publication number Publication date
US10015411B2 (en) 2018-07-03
EP3062262A1 (en) 2016-08-31
CN105916262A (zh) 2016-08-31
CN105916262B (zh) 2019-01-04
US20160248957A1 (en) 2016-08-25
KR102381140B1 (ko) 2022-03-31
EP3062262B1 (en) 2020-07-01

Similar Documents

Publication Publication Date Title
KR102381140B1 (ko) 디지털 디바이스 및 그의 운전자 모니터링 방법
US11385861B2 (en) Smart controlling device and method of controlling therefor
KR102271433B1 (ko) 자가진단시스템 및 디스플레이 디바이스의 자가진단 방법
KR102245366B1 (ko) 디지털 디바이스 및 그 제어 방법
US20230089981A1 (en) Digital device and method of processing data in said digital device
KR102273751B1 (ko) 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법
US10324595B2 (en) Digital device configured to connect with plurality of operation devices and method of displaying second user interface associated with second operation device in response to dragging of first user interface associated with first operation device in the same
US10706083B2 (en) Digital device and method of processing data therein
KR102381142B1 (ko) 이동 단말기 및 그 제어 방법
KR20170031444A (ko) 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법
KR102508148B1 (ko) 디지털 디바이스 및 그를 이용한 컬러 제어 시스템 및 방법
US20190079876A1 (en) Digital device and method for controlling the same
KR101674961B1 (ko) 디지털 디바이스 및 그의 컬러 영상 획득 방법
KR20150054656A (ko) 디지털 디바이스 및 그의 3차원 영상 처리 방법
KR102426404B1 (ko) 터치스크린을 포함한 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법
KR102483709B1 (ko) 디지털 디바이스, 이동 단말기 및 그 제어 방법
KR102431976B1 (ko) 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법
KR101688149B1 (ko) 영상 전송 장치, 시스템 및 방법
KR20150035153A (ko) 디지털 기기 및 그의 다중 채널 서비스 데이터 처리 방법
KR20160072518A (ko) 카메라를 이용한 색상 변형 방지 디스플레이 디바이스 및 그 방법

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant