KR100853234B1 - Security system and method for automobile using multimedia data - Google Patents

Security system and method for automobile using multimedia data Download PDF

Info

Publication number
KR100853234B1
KR100853234B1 KR1020060069965A KR20060069965A KR100853234B1 KR 100853234 B1 KR100853234 B1 KR 100853234B1 KR 1020060069965 A KR1020060069965 A KR 1020060069965A KR 20060069965 A KR20060069965 A KR 20060069965A KR 100853234 B1 KR100853234 B1 KR 100853234B1
Authority
KR
South Korea
Prior art keywords
unit
data
authentication
input
vehicle
Prior art date
Application number
KR1020060069965A
Other languages
Korean (ko)
Other versions
KR20080010026A (en
Inventor
장재경
표성환
Original Assignee
(주)영신전자
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)영신전자 filed Critical (주)영신전자
Priority to KR1020060069965A priority Critical patent/KR100853234B1/en
Publication of KR20080010026A publication Critical patent/KR20080010026A/en
Application granted granted Critical
Publication of KR100853234B1 publication Critical patent/KR100853234B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/20Means to switch the anti-theft system on or off
    • B60R25/25Means to switch the anti-theft system on or off using biometry
    • B60R25/257Voice recognition
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/10Fittings or systems for preventing or indicating unauthorised use or theft of vehicles actuating a signalling device
    • B60R2025/1013Alarm systems characterised by the type of warning signal, e.g. visual, audible
    • B60R2025/1016Remote signals alerting owner or authorities, e.g. radio signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Lock And Its Accessories (AREA)
  • Alarm Systems (AREA)

Abstract

본 발명은 멀티미디어 데이터를 이용한 차량 보안 시스템 및 방법에 관한 것으로서, 특히 영상 데이터 및 오디오 데이터를 이용하여 사용자 인증을 하여 보안이 가능한 멀티미디어 데이터를 이용한 차량 보안 시스템 및 방법에 관한 것이다. 본 발명의 일 측면에 따르면, 멀티미디어 데이터를 이용한 차량 보안 시스템은 영상 입력부를 통하여 입력된 영상 데이터를 이용하여 얼굴 인식을 통한 사용자 인증을 하는 얼굴 인증부, 오디오 입력부를 통하여 입력된 오디오 데이터를 이용하여 음성 인식을 통한 사용자 인증을 하는 음성 인증부, 사용자 인증을 위한 프로그램 및 데이터를 저장하는 기억 저장부, 상기 얼굴 인증부 및 상기 음성 인증부의 사용자 인증을 제어하고 인증 결과신호를 출력하는 인증 컨트롤 유닛, 상기 인증 컨트롤 유닛으로부터 인증 결과 신호를 수신하고 상응하는 동작을 수행하기 위해 제어신호를 출력하는 메인 컨트롤 유닛 및 상기 메인 컨트롤 유닛로부터 데이터를 송수신하는 리모트 컨트롤러를 포함하되, 상기 메인 컨트롤 유닛으로부터 출력되는 제어 신호에 의해 차량의 시동이 걸리거나 차량 도어가 개폐될 수 있다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a vehicle security system and method using multimedia data, and more particularly, to a vehicle security system and method using multimedia data that can be secured by user authentication using video data and audio data. According to an aspect of the present invention, a vehicle security system using multimedia data includes a face authentication unit that performs user authentication through face recognition using image data input through an image input unit, a face authentication unit that uses audio data input through an audio input unit, An authentication control unit for controlling a user authentication of the face authentication unit and the voice authentication unit and outputting an authentication result signal, a voice authentication unit for performing user authentication through voice recognition, a storage unit for storing a program for user authentication and data, A main control unit for receiving an authentication result signal from the authentication control unit and outputting a control signal for performing a corresponding operation, and a remote controller for transmitting and receiving data from the main control unit, By signal The vehicle may start up or the vehicle door may be opened or closed.

사용자 인증 User Authentication

Description

멀티미디어 데이터를 이용한 차량 보안 시스템 및 방법{SECURITY SYSTEM AND METHOD FOR AUTOMOBILE USING MULTIMEDIA DATA} TECHNICAL FIELD [0001] The present invention relates to a vehicle security system and method using multimedia data,

도 1은 본 발명의 바람직한 일 실시예에 따른 차량 보안 시스템의 구성을 간략하게 도시한 구성도.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a block diagram schematically showing a configuration of a vehicle security system according to a preferred embodiment of the present invention; FIG.

도 2는 본 발명의 바람직한 일 실시예에 따른 사용자 인증을 위한 시스템의 배치 일 예를 보인 도면.2 is a diagram illustrating an example of the arrangement of a system for user authentication according to a preferred embodiment of the present invention.

도 3은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부의 기능을 설명하기 위한 도면.3 is a diagram for explaining a function of a system control unit according to a preferred embodiment of the present invention.

도 4는 본 발명의 바람직한 일 실시예에 따른 인증부의 기능을 설명하기 위한 도면. 4 is a view for explaining a function of an authentication unit according to a preferred embodiment of the present invention;

도 5는 본 발명에 바람직한 일 실시예에 따른 리모트 컨트롤러의 구성을 설명하기 위한 도면.5 is a diagram for explaining a configuration of a remote controller according to an embodiment of the present invention.

도 6은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부에서 차량 도어 개폐를 제어하는 방법을 설명하기 위한 도면.6 is a view for explaining a method of controlling opening and closing of a vehicle door in a system control unit according to a preferred embodiment of the present invention.

도 7은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부에서 사용자 인증을 설명하기 위한 도면.FIG. 7 is a diagram for explaining user authentication in a system control unit according to a preferred embodiment of the present invention; FIG.

도 8은 본 발명의 바람직한 일 실시예에 따른 인증부에서 차량 보안 방법을 설명하기 위한 도면. 8 is a view for explaining a vehicle security method in an authentication unit according to a preferred embodiment of the present invention.

〈도면의 주요 부분에 대한 부호의 설명〉Description of the Related Art

100: 시스템 컨트롤부 130: 메인 컨트롤 유닛100: System control section 130: Main control unit

170: 통신부 200: 인증부170: communication unit 200: authentication unit

230: 얼굴 인식 시스템부 260: 음성 인식 시스템부230: face recognition system module 260: voice recognition system module

280: USB OTG 시스템부 270: 기억 저장부 280: USB OTG system unit 270: storage unit

275: 방향 조절 제어부 300: 리모트 컨트롤러275: direction control unit 300: remote controller

본 발명은 멀티미디어 데이터를 이용한 차량 보안 시스템 및 방법에 관한 것으로서, 특히 영상 데이터 및 오디오 데이터를 이용하여 사용자 인증을 하여 보안이 가능한 멀티미디어 데이터를 이용한 차량 보안 시스템 및 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a vehicle security system and method using multimedia data, and more particularly, to a vehicle security system and method using multimedia data that can be secured by user authentication using video data and audio data.

사회가 발달하고, 차량 수가 급격하게 늘어남에 따라 관련 절도사고 및 운행 사고가 빈번하게 발생하고 있다. 기존의 차량 보안 형태는 차량 키를 이용한 도어 록 보안 및 경보시스템으로 일반적으로 널리 이용되고 있다. 이러한 도어 록 형태의 보안 시스템은 열쇠가 쉽게 변조되기 쉬워 절도의 위험이 많을 뿐 아니라, 도어 의 개폐와 관련된 단순 보안 기능을 독립적으로 수행하였다. As society develops and the number of vehicles increases dramatically, related theft and accidents occur frequently. Conventional vehicle security types are widely used as door lock security and alarm systems using vehicle keys. Such a door lock type security system is not only easy to modulate the key, but also has a high risk of theft, and also performs a simple security function related to opening and closing the door independently.

또한, 단순 보안 기능을 수행하는 도어 록 형태의 시스템은 차량 관련사건 사고 발생시 상황을 보존하는 메모리 기능 등이 없어, 차량 사고의 경위 및 원인을 객관적으로 파악하지 못하는 등 종합적으로 차량의 보안 및 경보 시스템의 요건을 결여하고 있었다. 과학이 매우 빠르게 발전하고 일반 사람들 또한 더욱 편리함을 추구함에 따라 차량 관리에 있어서 사고 상황을 파악 통제할 수 있는 보안 및 경보시스템이 필요하게 되었다. In addition, the door lock type system that performs the simple security function does not have a memory function to preserve the situation in the event of a vehicle related accident, etc., and can not grasp the cause and cause of the vehicle accident objectively, . As science has developed very rapidly and the general people have also pursued greater convenience, there has been a need for security and alarm systems that can identify and control accident situations in vehicle management.

생체인식 기술 중 사람의 얼굴 및 목소리는 사람마다 상이하고 고유하며 평생동안 변하지 않으므로 보안성이나 사용자 편리성이 좋아 이를 이용하여 보안 유지나 관리가 필요한 모든 곳에서 다른 부가적으로 보안을 강화하는 역할을 할 수 있다. 또한, 메모리 장치를 이용하여 차량의 주변 상황의 영상 및 오디오 데이터를 저장하는 경우에는 사고사건 발생시 사후에 사고 사건에 대한 객관적인 증거 자료로 사용될 수 있다.The face and voice of people in biometrics technology are different and unique and they do not change during their lifetime, so they have security and user convenience. . In addition, when the video and audio data of the surroundings of the vehicle are stored using the memory device, it can be used as objective evidence of an accident event at the time of an accident event.

본 발명의 목적은 접촉이 따른 불편이 없고 위생적인 생체인식 기술인 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 동시에 수행함으로써 멀티미디어 정보를 이용한 사용자의 확인이 가능하여 보안을 더욱 강화시킨 멀티미디어 차량 보안 시스템 및 그 방법을 제공하는 것이다. An object of the present invention is to provide a multimedia vehicle security system capable of verifying a user using multimedia information by simultaneously performing user authentication through facial recognition or voice recognition without inconvenience of contact and hygienic biometric technology, Method.

본 발명의 다른 목적은 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 위 한 생체인식을 수행하는 인증부를 별도로 구비하여 사용자 인증을 더욱 빨리 수행할 수 있어 사용자 인증 결과에 대한 대처 속도가 향상된 멀티미디어 차량 원격제어 보안 장치 및 시스템을 제공하는 것이다. It is another object of the present invention to provide an authentication unit for performing biometric authentication for user authentication through face recognition or voice recognition, so that user authentication can be performed more quickly, so that a multimedia vehicle remote control Security device and system.

본 발명의 또 다른 목적은 사용자가 리모트 컨트롤러를 이용하여 차량 내부 및 주변의 영상 데이터 및 오디오 데이터를 수신하여 차량의 상태를 확인하고 원격 제어할 수 있는 멀티미디어 차량 원격제어 보안 장치 및 시스템을 제공하는 것이다. It is still another object of the present invention to provide a multimedia vehicle remote control security device and system capable of receiving a video data and audio data in and around the vehicle using a remote controller, .

본 발명의 또 다른 목적은 차량의 내부 및 주변의 영상 데이터 및 오디오 데이터를 기억 저장부를 통하여 실시간 저장할 수 있고, USB(Universal Serial Bus) OTG(On The Go) 시스템을 이용하여 저장된 데이터의 이동이 가능하고, 프로그램 업그레이드 및 비디오/오디오 파일을 입력하여 영상 출력부 또는 오디오 출력부를 통해 출력이 가능한 멀티미디어 차량 보안 시스템 및 방법을 제공하는 것이다.It is still another object of the present invention to provide an image processing apparatus and method capable of real-time storing image data and audio data in and around a vehicle through a storage unit, and capable of moving stored data using a USB (Universal Serial Bus) OTG And to provide a multimedia vehicle security system and method capable of performing program upgrading and inputting a video / audio file and outputting the input via a video output unit or an audio output unit.

본 발명의 일 측면에 따르면, 멀티미디어 데이터를 이용한 차량 보안 시스템은 영상 입력부를 통하여 입력된 영상 데이터를 이용하여 얼굴 인식을 통한 사용자 인증을 하는 얼굴 인증부, 오디오 입력부를 통하여 입력된 오디오 데이터를 이용하여 음성 인식을 통한 사용자 인증을 하는 음성 인증부, 사용자 인증을 위한 프로그램 및 데이터를 저장하는 기억 저장부, 상기 얼굴 인증부 및 상기 음성 인증부의 사용자 인증을 제어하고 인증 결과신호를 출력하는 인증 컨트롤 유닛, 상기 인증 컨트롤 유닛으로부터 인증 결과 신호를 수신하고 상응하는 동작을 수행하기 위해 제어신호를 출력하는 메인 컨트롤 유닛 및 상기 메인 컨트롤 유닛로부터 데이터를 송수신하는 리모트 컨트롤러를 포함하되, 상기 메인 컨트롤 유닛으로부터 출력되는 제어 신호에 의해 차량의 시동이 걸리거나 차량 도어가 개폐될 수 있다.According to an aspect of the present invention, a vehicle security system using multimedia data includes a face authentication unit that performs user authentication through face recognition using image data input through an image input unit, a face authentication unit that uses audio data input through an audio input unit, An authentication control unit for controlling a user authentication of the face authentication unit and the voice authentication unit and outputting an authentication result signal, a voice authentication unit for performing user authentication through voice recognition, a storage unit for storing a program for user authentication and data, A main control unit for receiving an authentication result signal from the authentication control unit and outputting a control signal for performing a corresponding operation, and a remote controller for transmitting and receiving data from the main control unit, To signal Take a vehicle start or a vehicle door can be opened and closed.

상기 얼굴 인증부는 상기 영상 데이터가 입력되는 영상 입력부, 상기 입력된 영상 데이터를 미리 설정된 형식의 변환 영상 데이터로 변환하는 영상 처리부 및The face authentication unit may include an image input unit into which the image data is input, an image processing unit that converts the input image data into converted image data of a predetermined format,

상기 변환 영상 데이터를 상기 기억 저장부에 저장된 얼굴 영상 데이터와 비교하여 사용자 인증을 수행하는 얼굴 인식 시스템부를 포함할 수 있다.And a face recognition system unit for performing user authentication by comparing the converted image data with facial image data stored in the storage unit.

상기 영상 입력부는 하나 이상의 카메라 모듈에 의해 자동차 주변의 영상 데이터를 입력하고 상기 기억 저장부에 상기 입력된 영상 데이터를 저장할 수 있다.The image input unit may input image data around the vehicle by one or more camera modules and store the input image data in the storage unit.

상기 영상 입력부는 상기 카메라 모듈의 촬영 방향을 조절하는 방향 조절 제어부를 더 포함할 수 있다. The image input unit may further include a direction adjustment controller for adjusting a photographing direction of the camera module.

상기 음성 인증부는 상기 오디오 데이터가 입력되는 오디오 입력부, 상기 입력된 오디오 데이터의 미리 설정된 방식의 변환 오디오 데이터로 변환하는 오디오 처리부 및 상기 변환 오디오 데이터를 상기 기억 저장부에 저장된 음성 데이터와 비교하여 사용자 인증을 수행하는 음성 인식 시스템부를 포함할 수 있다.The audio authentication unit may include an audio input unit to which the audio data is input, an audio processing unit to convert the input audio data into converted audio data of a predetermined format, and a control unit that compares the converted audio data with the audio data stored in the storage unit, And a voice recognition system unit for performing voice recognition.

상기 기억 저장부와 데이터를 교환하는 USB-OTG(On-The-Go)기능을 가진 USB OTG 시스템부를 더 포함할 수 있다.And a USB OTG system unit having a USB-OTG (On-The-Go) function for exchanging data with the storage unit.

상기 데이터의 교환은 상기 기억 저장부에 저장된 영상 데이터 및 오디오 데이터의 출력, 비디오 파일 및 오디오 파일의 입력, 사용자 인증 및 시스템을 구동 하기 위한 프로그램의 업그레이드를 포함할 수 있다.The exchange of data may include output of video data and audio data stored in the storage unit, input of a video file and an audio file, user authentication, and an upgrade of a program for driving the system.

상기 리모트 컨트롤러는 상기 메인 컨트롤 유닛과 데이터를 송수신하기 위한 리모트 통신부, 사용자로부터 명령을 입력받는 리모트 스위치 입력부, 상기 리모트 통신부를 통하여 수신된 차량 상태 데이터를 출력하는 리모트 출력부 및 상기 리모트 스위치 입력부로 입력된 사용자 명령에 의해 상기 리모트 통신부 및 상기 리모트 출력부를 제어하는 리모트 컨트롤 유닛을 포함할 수 있다.The remote controller includes a remote communication unit for transmitting and receiving data to and from the main control unit, a remote switch input unit for receiving a command from a user, a remote output unit for outputting vehicle status data received through the remote communication unit, And a remote control unit for controlling the remote communication unit and the remote output unit by a user command.

상기 리모트 스위치 입력부는 상기 영상 입력부의 촬영 방향을 제어하는 원격 제어 명령을 입력하는 수단을 포함할 수 있다.The remote switch input unit may include means for inputting a remote control command for controlling the shooting direction of the image input unit.

상기 리모트 출력부는 상기 영상 데이터 및 상기 오디오 데이터가 수신되어 출력될 수 있다.The remote output unit may receive and output the image data and the audio data.

본 발명의 다른 측면에 따르면, 멀티미디어 데이터를 이용한 차량 보안 방법에 있어서, (a) 영상 입력부를 통하여 입력된 영상 데이터를 미리 지정된 형식의 변환 영상 데이터로 변환하는 단계, (b) 상기 변환 영상 데이터와 기억저장부에 저장된 영상 데이터를 비교하여 얼굴 인식을 통한 사용자 인증 단계, (c) 메인 컨트롤 유닛으로부터 상기 사용자 인증 결과에 상응하는 동작을 수행하기 위한 제어신호가 출력되는 단계 및 (d) 상기 사용자 인증 결과 승인된 사용자인 경우, 상기 제어 신호에 의해 차량의 시동이 걸리거나 차량의 도어가 개폐되는 단계를 포함하되, 상기 입력된 영상 데이터는 리모트 컨트롤러로 전달될 수 있다.According to another aspect of the present invention, there is provided a vehicle security method using multimedia data, the method comprising the steps of: (a) converting image data input through an image input unit into converted image data of a predetermined format; (b) (C) outputting a control signal for performing an operation corresponding to the user authentication result from the main control unit by comparing the image data stored in the storage unit with the image data stored in the storage unit, and (d) And if the result is an authorized user, starting the vehicle by the control signal or opening and closing the door of the vehicle, the input image data may be transmitted to the remote controller.

상기 (b) 단계 이후에 오디오 입력부를 통하여 입력된 오디오 데이터를 미리 지정된 형식의 변환 오디오 데이터로 변환하고, 상기 변환 오디오 데이터와 기억저 장부에 저장된 오디오 데이터를 비교하여 음성 인식을 통한 사용자 인증 단계를 더 포함할 수 있다.The step of converting the audio data input through the audio input unit into the converted audio data of a predetermined format after the step (b), comparing the converted audio data with the audio data stored in the storage storage unit, .

상기 영상 입력부는 영상 입력을 위한 촬영 방향을 조절하는 방향 조절 제어부를 포함할 수 있다.The image input unit may include a direction adjustment control unit for adjusting a shooting direction for inputting an image.

상기 기억 저장부와 데이터를 교환하는 USB-OTG(On-The-Go)기능을 가진 USB OTG 시스템부를 포함할 수 있다.And a USB OTG system unit having a USB-OTG (On-The-Go) function for exchanging data with the storage unit.

본 발명의 또 다른 측면에 따르면, 멀티미디어 데이터를 이용한 차량 보안 방법은 (a) 영상 입력부를 통해 차량 주변의 영상 데이터가 입력되는 단계, (b) 상기 입력된 영상 데이터가 기억 저장부에 저장되는 단계, (c) 메인 컨트롤 유닛에서 센서 입력부로부터 센서 신호를 수신하고 사고 상황인지 판단하는 단계 및 (d) 사고 상황이라고 판단된 경우, 메인 컨트롤 유닛로부터 출력된 제어 신호에 의해 리모트 컨트롤러로 상기 사고 상황 시에 기억저장부에 저장된 영상 데이터를 추출하여 송신하는 단계를 포함할 수 있다.According to another aspect of the present invention, a vehicle security method using multimedia data includes the steps of (a) inputting image data around a vehicle through an image input unit, (b) storing the input image data in a storage unit (c) receiving a sensor signal from the sensor input unit in the main control unit and judging whether or not an accident situation exists; and (d) if it is judged that an accident has occurred, the control signal outputted from the main control unit And extracting and transmitting the image data stored in the storage unit.

상기 (b)단계는 오디오 입력부를 통해 차량 주변의 오디오 데이터가 입력되고 상기 입력된 오디오 데이터가 기억저장부에 저장하는 단계를 더 포함할 수 있다.The step (b) may further include inputting audio data around the vehicle through the audio input unit and storing the input audio data in the storage unit.

상기 (b)단계의 기억 저장부는 메모리 용량이 부족한 경우, 종래 데이터 중 오래된 데이터 순으로 순차적으로 소거하여 갱신하는 데이터 소거 저장 방식에 의해 새로운 데이터를 시간순으로 계속하여 저장할 수 있다.If the memory capacity is insufficient, the storage unit of the step (b) may continue to store new data in chronological order by a data erasure storage method in which erroneous data are sequentially erased and updated in the order of old data.

상기 (d) 단계 이후에 상기 기억 저장부에 저장된 데이터를 USB OTG 기능이 있는 USB 포트를 이용하여 메모리 스틱으로 출력하는 단계를 더 포함할 수 있다.And outputting the data stored in the storage unit to the memory stick using the USB port having the USB OTG function after the step (d).

이하의 내용은 단지 본 발명의 원리를 본 발명의 바람직한 일 실시예에 따른 멀티미디어 차량 원격제어 보안 장치 및 시스템에 대하여 예시하고 이에 대해 설명하기로 한다. 따라서, 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만, 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 방법 및 이를 사용하는 장치 등을 발명할 수 있는 것이다. 또한 본 명세서에 열거된 모든 조건부 용어 및 실시예들은 원칙적으로 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백하게 의도되고, 이와 같이 특별히 열거된 실시예들 및 상태들에 제한적이지 않은 것으로 이해되어야 한다. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS The following will illustrate and explain only the principles of the present invention with respect to a multimedia vehicle remote control security device and system according to a preferred embodiment of the present invention. Accordingly, those skilled in the art will be able to devise various ways of practicing the principles of the invention, including the concept and scope of the invention, and apparatuses and the like, which are not explicitly described or illustrated herein. It is also to be understood that all of the conditional terms and embodiments listed herein are in principle intended only for the purpose of enabling the inventive concept to be understood and are not to be construed as being limited to such specifically recited embodiments and conditions .

또한, 본 발명의 원리, 관점 및 실시예들 뿐만 아니라 특정 실시예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다. It is also to be understood that the detailed description, as well as the principles, aspects and embodiments of the invention, as well as specific embodiments thereof, are intended to cover structural and functional equivalents thereof. It is also to be understood that such equivalents include all elements contemplated to perform the same function irrespective of the currently known equivalents as well as the equivalents to be developed in the future, i.e., the structure.

따라서, 예를 들어, 본 명세서의 블록도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. Thus, for example, it should be understood that the block diagrams herein illustrate conceptual aspects of exemplary circuits embodying the principles of the invention.

프로세서 또는 이와 유사한 개념으로 표시된 기능 블록을 포함하는 도면에 도시된 다양한 소자의 기능을 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로 세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다. The functionality of the various elements shown in the figures, including functional blocks shown in the figures of the processor or similar concepts, may be provided by use of dedicated hardware as well as hardware capable of executing software in connection with appropriate software. When provided by a processor, the functions may be provided by a single dedicated processor, a single shared processor, or a plurality of individual processors, some of which may be shared.

상술된 목적, 특징 및 장점들은 첨부된 도면과 관련된 다음의 상세한 설명을 통하여 보다 분명해 질 것이다. 우선 각 도면의 구성요소들에 참조 번호를 부가함에 있어서, 동일한 구성요소들에 한해서는 비록 다른 도면상에 표시되더라도 가능한 동일한 번호를 가지도록 하고 있음을 유의하여야 한다. BRIEF DESCRIPTION OF THE DRAWINGS The above objects, features and advantages will become more apparent from the following detailed description taken in conjunction with the accompanying drawings. It should be noted that, in adding reference numerals to the constituent elements of each drawing, only the same constituent elements have the same number as possible even if they are displayed on different drawings.

또한, 본 발명을 설명함에 있어서, 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지에 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략하기로 한다. 이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예를 상세히 설명한다. In the following description of the present invention, a detailed description of known related arts will be omitted when it is determined that the gist of the present invention may unnecessarily obscure the present invention. Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

이하 본 발명의 바람직한 실시 예를 첨부 도면에 의하여 상세하게 기술한다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings.

도 1은 본 발명의 바람직한 일 실시예에 따른 차량 보안 시스템의 구성을 간략하게 도시한 구성도이다.FIG. 1 is a configuration diagram briefly showing a configuration of a vehicle security system according to a preferred embodiment of the present invention.

도 1을 참조하면, 본 발명에 따른 일 실시예에 따른 멀티미디어 차량 원격제어 보안 시스템의 구성은 시스템 컨트롤부(100), 인증부(200) 및 리모트 컨트롤러(300)를 포함하여 이루어진다. Referring to FIG. 1, the configuration of a multimedia vehicle remote control security system according to an exemplary embodiment of the present invention includes a system control unit 100, an authentication unit 200, and a remote controller 300.

시스템 컨트롤부(100)는 차량 내부 및 외부에 설치된 센서들로부터 충격,온도 및 움직임 등 차량 내외부 환경을 감지하여 사용자 인증을 위하여 인증부(200) 에 제어 신호를 출력한다. 또한 시스템 컨트롤부(100)는 리모트 컨트롤러(300)와 데이터 송수신을 통해 차량의 상태를 표현하는 데이터를 리모트 컨트롤러(300)에 전달하고, 리모트 컨트롤러(300)의 제어 신호에 의해 차량의 보안 시스템을 원격 제어한다.  The system control unit 100 senses the environment inside and outside the vehicle, such as an impact, a temperature, and a motion, from sensors installed inside or outside the vehicle, and outputs a control signal to the authentication unit 200 for user authentication. The system control unit 100 transmits data expressing the state of the vehicle to the remote controller 300 through data transmission and reception with the remote controller 300 and transmits the data representing the state of the vehicle to the remote controller 300. In response to the control signal of the remote controller 300, Remote control.

인증부(200)는 시스템 컨트롤부(100)의 제어 신호에 의해 차량을 사용하고자 하는 인증 요구자의 얼굴 영상 데이터 또는 오디오 데이터를 입력받고, 이를 처리하여 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 실시한다. 또한, 인증부(200)는 차량 내부 또는 외부를 촬영한 영상 데이터 및 오디오 데이터를 계속적으로 입력받고 이를 메모리 장치에 저장할 수 있고, USB OTG시스템을 이용하여 데이터를 입출력할 수 있다. The authentication unit 200 receives facial image data or audio data of an authentication requester who wishes to use the vehicle according to a control signal of the system control unit 100 and processes the received facial image data or audio data to perform user authentication through facial recognition or voice recognition . In addition, the authentication unit 200 can continuously input image data and audio data photographed inside or outside the vehicle, and can store it in the memory device, and can input and output data using the USB OTG system.

리모트 컨트롤러(300)는 시스템 컨트롤부(100)로부터 차량의 상태를 표현하는 데이터를 수신 받고, 이에 상응하는 원격 제어 신호를 시스템 컨트롤부(200)에 출력한다. 또한, 리모트 컨트롤러(300)는 인증부(200)로부터 영상 데이터 및 오디오 데이터를 전달받아 출력장치를 통하여 출력하여 인증 요구자를 확인할 수 있다. 또한, 리모트 컨트롤러(300)는 영상 데이터가 입력되는 카메라 모듈의 촬영 방향을 원격 조절할 수 있어 사용자가 원하는 영상 데이터의 입력이 가능하다. The remote controller 300 receives data representing the state of the vehicle from the system control unit 100 and outputs a remote control signal corresponding to the data to the system control unit 200. In addition, the remote controller 300 receives the video data and the audio data from the authentication unit 200 and outputs the video data and the audio data through the output device to confirm the authentication requester. In addition, the remote controller 300 can remotely control the photographing direction of the camera module to which the image data is input, so that the user can input desired image data.

상기 각 구성요소에 대해서는 후술할 도 3 내지 도 5를 통하여 더욱 자세하게 설명하기로 한다.Each of the above components will be described in more detail with reference to FIGS. 3 to 5, which will be described later.

도 2는 본 발명의 바람직한 일 실시예에 따른 사용자 인증을 위한 시스템의 배치 일 예를 보인 도면이다. 2 is a diagram illustrating an example of the arrangement of a system for user authentication according to a preferred embodiment of the present invention.

도 2에 도시된 바와 같이, 영상 데이터를 입력하기 위한 영상 입력부(210) 및 오디오 신호 입력을 위한 오디오 입력부(240)가 차량 내부에 위치한다. As shown in FIG. 2, an image input unit 210 for inputting image data and an audio input unit 240 for inputting an audio signal are located inside the vehicle.

영상 입력부(210)로 사용자 인증시 운전석에 위치한 인증 요구자의 상체의 촬영 및 차량 내부 및 외부의 영상 데이터를 입력할 수 있도록 다수의 카메라 모듈이 차량 주변에 위치할 수 있다. 영상 입력부(210)는 움직임 센서에 의해 자동적으로 촬영 방향이 조절되거나 리모트 컨트롤러에 의해 카메라 촬영 방향이 조절되기 위한 수평 모터 및 수직 모터가 설치될 수 있다. A plurality of camera modules may be positioned around the vehicle so that the image input unit 210 can photograph the upper body of the authentication requestor located in the driver's seat and input image data inside and outside the vehicle. The image input unit 210 may include a horizontal motor and a vertical motor for automatically adjusting a photographing direction by a motion sensor or adjusting a camera photographing direction by a remote controller.

오디오 입력부(240)는 음성 인식을 통한 사용자 인증시 인증 요구자의 음성을 입력할 수 있도록 운전석과 일정 거리(예를 들면, 0.5m) 내에 위치할 수 있다. The audio input unit 240 may be located within a predetermined distance (for example, 0.5 m) from the driver's seat so as to input the voice of the authentication requester in user authentication through voice recognition.

인증부(200)는 영상 입력부(210) 또는 오디오 입력부(240)로부터 입력된 원시 영상 데이터 또는 원시 오디오 데이터를 변환 영상 데이터 및 변환 오디오 데이터로 변환하여 사용자 인증을 실시한다. The authentication unit 200 converts the raw video data or raw audio data input from the video input unit 210 or the audio input unit 240 into converted video data and converted audio data to perform user authentication.

오디오 출력부(245)는 음성 출력을 위해 차량 내부에 위치할 수 있다.The audio output unit 245 may be located inside the vehicle for audio output.

도 3은 도 3은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부의 기능을 설명하기 위한 도면이다. 3 is a view for explaining a function of a system control unit according to a preferred embodiment of the present invention.

도 3에 도시된 바와 같이, 시스템 컨트롤부(100)은 도어 제어부(110), 센서 입력부(120), 메인 컨트롤 유닛(130), 시동 온/오프 제어부(140), 도어 잠김 제어부(150), 경보음 작동 제어부(160) 및 통신부(170)를 포함할 수 있다. 3, the system control unit 100 includes a door control unit 110, a sensor input unit 120, a main control unit 130, a start on / off control unit 140, a door lock control unit 150, An alarm sound operation control unit 160 and a communication unit 170. [

도어 제어부(110)는 통상의 도어 잠금 메커니즘에 의한 기구적 잠금 장치를 통하여 도어의 개페를 제어한다. 도어 제어부(110)는 통상적인 차량 키 대신 위조나 복제가 불가능한 IC(Integrated Circuit) 칩 내장 카드 , 비밀번호를 입력하는 키패드를 가진 전자식 도어 키 또는 얼굴 인식을 이용하여 도어의 개폐를 제어할 수 있다. 도어 제어부(110)는 예를 들면, 운전자 또는 동승자의 얼굴 인식을 이용하여 차량의 도어를 개폐하는 경우, 운전자 또는 동승자의 얼굴을 시스템 컨트롤러부(100)의 메모리에 저장하고 운전자 또는 동승자가 차량의 일정 거리 내에 접근하면, 영상입력부(210)를 이용하여 자동으로 운전자 또는 동승자의 얼굴을 인증하여 차량의 도어를 개방하고 운전자 및 동승자가 차에서 내려 다시 얼굴 인증을 시도하면 차량 도어를 닫는다. 또한 도어 제어부(110)는 차량 뒷방향의 영상 입력부(210)를 구비하여 트렁크의 개폐 또한 앞 서 설명한 바와 같은 방법에 의해 개폐할 수 있다. The door control unit 110 controls the opening of the door through a mechanical locking device using a normal door locking mechanism. The door control unit 110 can control the opening and closing of the door by using an integrated circuit (IC) chip built-in card that can not be falsified or duplicated instead of a conventional vehicle key, an electronic door key having a keypad for inputting a password, or face recognition. The door control unit 110 stores the face of the driver or the passenger in the memory of the system controller unit 100 when the door of the vehicle is opened or closed by using the face recognition of the driver or the passenger, When approaching within a certain distance, the face of the driver or the passenger is automatically authenticated using the image input unit 210 to open the door of the vehicle, and the vehicle door is closed when the driver and the passenger try to face the face again. Also, the door control unit 110 includes a video input unit 210 in the rear direction of the vehicle, so that the trunk can be opened and closed by the method described above.

센서 입력부(120)는 차량의 충격, 온도를 감지하고 차량 주변의 움직임을 감지하여 차량 상태 데이터를 입력한다. 센서 입력부(120)는 이를 위해서 충격 감지 센서, 온도 감지 센서 및 움직임 감지 센서를 포함할 수 있다. 또한, 상기 센서들 외에 차량의 상태를 측정하거나 감시하는 기능을 가진 다양한 센서가 포함될 수 있음은 자명하다. 센서 입력부(120)는 차량의 상태를 감지하여 이상 징후가 포착되거나 차량 주변에 이상한 움직임이 감지된 경우, 이에 상응하는 대처를 할 수 있도록 정보를 제공한다. 센서 입력부(120)를 구성하는 각 센서들은 차량 상태를 감지하는 데 있어 일정 임계값을 설정하여 이상 징후를 감지 할 수 있으며, 상기 임계값은 설계자 또는 사용자에 의해 설정될 수 있음은 자명하다. 예를 들면, 차량이 주차 중에 충돌된 경우 센서 입력부(120)의 충격 감지 센서를 통하여 충격 정보가 입력되고, 메인 컨트롤 유닛(130)은 충격 정보를 리모트 컨트롤러(300)으로 전송하여 차주에게 사고 상황을 알려줄 수 있다. 또한, 차량 절도범이 운전석 주변에 서성거리는 경우, 센서 입력부(120)는 움직임 감지 센서를 통하여 일정 시간 이상 움직임이 감지 정보를 입력하고, 이에 대해 메인 컨트롤 유닛(130)은 인증 컨트롤 유닛(200)을 통하여 차량 외부를 감시하는 카메라 모듈의 방향을 조절하여 절도범의 모습을 촬영하여 영상 데이터를 저장할 수 있으며, 이 영상 데이터를 통신부(170)를 통하여 리모트 컨트롤러(300)으로 전송할 수 있어 사용자가 상황을 인식하고 대처를 할 수 있다. The sensor input unit 120 senses the impact and temperature of the vehicle, detects the movement of the vehicle, and inputs the vehicle state data. The sensor input unit 120 may include an impact sensor, a temperature sensor, and a motion sensor. In addition, it is apparent that various sensors having a function of measuring or monitoring the state of the vehicle other than the sensors may be included. The sensor input unit 120 senses the state of the vehicle and provides information so that an abnormal symptom is caught or a strange motion is detected around the vehicle so that a corresponding action can be taken. It is obvious that each sensor constituting the sensor input unit 120 can detect an abnormal symptom by setting a certain threshold value in detecting the vehicle state, and the threshold value can be set by a designer or a user. For example, when the vehicle collides during parking, impact information is input through the impact detection sensor of the sensor input unit 120, and the main control unit 130 transmits the impact information to the remote controller 300, . In addition, when the car thief is standing around the driver's seat, the sensor input unit 120 inputs motion detection information for a predetermined time or longer through the motion detection sensor, and the main control unit 130 controls the authentication control unit 200 The direction of the camera module for monitoring the outside of the vehicle can be adjusted to capture the image of the thief and store the image data. The image data can be transmitted to the remote controller 300 through the communication unit 170, And can cope with it.

메인 컨트롤 유닛(130)은 시스템 컨트롤부(100)의 모든 구성요소를 제어하고, 얼굴 인식 음성 인식을 통한 사용자 인증을 위하여 인증부(200)에 제어 신호를 출력한다. 메인 컨트롤 유닛(130)은 리모트 컨트롤러(300)로부터 무선으로 원격 제어 신호를 수신하고, 이에 상응하는 작동이 이루어지도록 시스템 컨트롤부(100)의 각 구성요소를 제어할 수 있다. 메인 컨트롤 유닛(130)은 예를 들면, 얼굴 인식 또는 음성 인식을 통한 사용자 인증이 필요한 경우, 인증부(200, 또는 인증 컨트롤 유닛(290))를 제어하여 사용자 인증을 실시할 수 있다. 또한 메인 컨트롤 유닛(130)은 센서 입력부(120)를 통하여 입력된 차량 상태를 표현하는 정보가 설정된 임계값 이상인 경우 즉, 예를 들면, 차량 사고가 발생한 경우, 인증 컨트롤 유닛(290)을 통하여 차량사고 관련 영상 데이터 및 오디오 데이터를 출력하여 사고에 대한 객관적인 판단 및 증거자료를 확보할 수 있다.  The main control unit 130 controls all components of the system control unit 100 and outputs a control signal to the authentication unit 200 for user authentication through face recognition speech recognition. The main control unit 130 can wirelessly receive remote control signals from the remote controller 300 and control the respective components of the system control unit 100 so that the corresponding operations are performed. The main control unit 130 can perform user authentication by controlling the authentication unit 200 or the authentication control unit 290, for example, when user authentication through face recognition or voice recognition is required. When the information representing the vehicle state input through the sensor input unit 120 is equal to or greater than a preset threshold value, that is, for example, when a vehicle accident occurs, the main control unit 130 transmits, via the authentication control unit 290, Accident-related image data and audio data can be outputted to obtain objective judgment and evidence data on the accident.

시동 온/오프 제어부(140)는 리모트 컨트롤러(300)으로부터 원격 시동 제어 신호를 수신하거나 인증부(200)에서 얼굴 인식 또는 음성 인식을 통한 사용자 인증 결과에 따라 차량의 시동의 온/오프 상태를 제어한다. 시동 온/오프 제어부(140)는 차량이 운행되지 않을 때, 리모트 컨트롤러(300)으로부터 원격 시동 제어 신호를 수신된 경우를 제외하고는, 인증부(200)에서 얼굴 인식 또는 음성 인식을 통하여 사용자 인증을 받기 전까지 시동을 오프 상태로 유지한다. 그러나, 사용자 인증 결과 인증된 사용자로 판단된 경우 시동 온/오프 제어부(140)는 비로소 시동 상태를 오프 상태에서 온 상태로 변경할 수 있다.The startup ON / OFF control unit 140 receives a remote start control signal from the remote controller 300 or controls the on / off state of the start of the vehicle according to a user authentication result through face recognition or voice recognition in the authentication unit 200 do. The startup ON / OFF control unit 140 may be configured to perform a user authentication (e.g., face recognition or voice recognition) in the authentication unit 200, except when a remote start control signal is received from the remote controller 300 when the vehicle is not in operation Quot; off " until < / RTI > However, when it is determined that the user is authenticated as a result of the user authentication, the startup ON / OFF control unit 140 can change the startup state from the OFF state to the ON state.

도어 잠김 제어부(150)는 리모트 컨트롤러(300)로부터 원격 도어 잠김 또는 해제의 제어 신호를 수신하거나 도어 제어부(110)에 도어 잠김 또는 해제 신호가 입력된 경우 차량 도어의 잠김 및 해제를 제어한다. The door lock control unit 150 receives a control signal for locking or unlocking the remote door from the remote controller 300 or controls the locking and unlocking of the door when the door locking or unlocking signal is input to the door control unit 110. [

경보음 작동 제어부(160)는 센서 입력부(120) 또는 인증부(300)로부터 경보음 작동 및 해제에 대한 신호를 수신한 메인 컨트롤 유닛(130)으로부터 제어에 의해 경보음 작동 및 해제를 제어한다. The alarm sound operation control unit 160 controls the operation and release of the alarm sound by the control from the main control unit 130 which receives the signal for activating and deactivating the alarm sound from the sensor input unit 120 or the authentication unit 300. [

통신부(170)는 안테나를 구비하고 있어 무선을 매개로 리모트 컨트롤러(300)에 데이터 및 제어 신호를 송수신한다. 통신부(170)는 차량의 내부 또는 외부의 영상 데이터, 오디오 데이터 및 센서 입력부(120)에 입력되는 차량 상태를 표현하는 데이터를 메인 컨트롤 유닛(130)의 제어 신호에 의해 안테나를 통해 소정의 무선 주파수 대역으로 전송한다. 또한, 통신부(170)는 리모트 컨트롤러(300)로부터 원격 시동, 원격 도어 잠김 및 해제 또는 경보음 작동 및 해제에 관한 제어 신호를 안테나를 통해 수신하면 이를 메인 컨트롤 유닛(130)에 전달하여 상응하는 작동이 이루어질 수 있다. The communication unit 170 includes an antenna and transmits / receives data and control signals to / from the remote controller 300 via radio waves. The communication unit 170 transmits data representing the video data, the audio data, and the vehicle state input to the sensor input unit 120 to the inside or the outside of the vehicle through a predetermined radio frequency Band. The communication unit 170 receives a control signal from the remote controller 300 via the antenna for remote start, remote door locking and unlocking, or activation / deactivation of the alarm sound, and transmits the control signal to the main control unit 130, Can be achieved.

도 4는 본 발명의 바람직한 일 실시예에 따른 인증부의 기능을 설명하기 위한 도면이다. 4 is a view for explaining a function of the authentication unit according to a preferred embodiment of the present invention.

도 4를 참조하면, 인증부(200)는 사용자의 얼굴 인증을 위해 원시 영상 데이터가 입출력되는 영상 입력부(210) 및 영상 출력부(215), 입력된 원시 영상 데이터를 영상 인증부에서 인증 가능한 변환 영상 데이터로 변환하는 영상 처리부(220), 저장된 사용자의 얼굴 영상 데이터와 변환 영상 데이터를 비교하여 얼굴 인식을 통한 사용자를 인증하는 얼굴 인식 시스템부(230), 사용자의 음성 인증을 위해 원시 오디오 데이터가 입력되는 오디오 입력부(240), 사용자 인증 과정 동안 인증과정을 안내하는 음성이 출력되는 오디오 출력부(245), 입력된 오디오 데이터를 오디오 인증부에서 인증 가능한 변환 오디오 데이터로 변환하는 오디오 처리부(250), 저장된 사용자의 음성 오디오 데이터와 변환 오디오 데이터를 비교하여 사용자의 음성을 인증하는 음성 인식 시스템부(260), 사용자의 인증을 위한 프로그램 및 데이터와 차량 보안을 위해 영상 입력부(210) 및 오디오 입력부(240)를 통하여 입력되는 영상 데이터 및 오디오 데이터를 저장하는 기억 저장부(270), 영상 데이터 입력을 위한 영상 입력부(210)의 촬영 방향을 조절하는 방향 조절 제어부(275) 및 기억 저장부(270)에 저장된 영상 데이터 및 오디오 데이터를 추출하고 프로그램의 업그레이 드를 위하여 데이터 통신을 위한 USB OTG 시스템부(280) 및 메인 컨트롤 유닛(130)의 제어 신호에 의해 인증부(200)의 각 구성요소를 제어하는 인증 컨트롤 유닛(290)을 포함할 수 있다. 4, the authentication unit 200 includes an image input unit 210 and an image output unit 215 for inputting and outputting raw image data for user's face authentication, A facial recognition system unit 230 for comparing the facial image data of the stored user with the converted image data to authenticate the user through facial recognition, An audio output unit 245 for outputting audio to guide the authentication process during the user authentication process, an audio processing unit 250 for converting the input audio data into converted audio data that can be authenticated by the audio authentication unit, , A voice recognition system for authenticating a user's voice by comparing the voice audio data of the stored user with the converted audio data A storage unit 270 for storing video data and audio data input through the video input unit 210 and the audio input unit 240 for vehicle security and programs and data for user authentication, A USB OTG system unit for data communication for extracting image data and audio data stored in a direction adjustment control unit 275 and a storage storage unit 270 for adjusting a shooting direction of an image input unit 210 for a program, And an authentication control unit 290 for controlling each component of the authentication unit 200 by a control signal from the control unit 280 and the main control unit 130. [

영상 입력부(210)는 카메라가 장착된 카메라 모듈을 이용하여 피사체를 촬영하여 촬영된 영상 데이터를 입력한다. 영상 입력부(210)는 통상적으로 CCD(Charge Coupled Device) 또는 CMOS(Complementary Metal-Oxide Semiconductor) 카메라 모듈이 사용될 수 있다. 영상 입력부(210)는 사용되는 카메라 모듈이 차량 내부 또는 외부에 다수 개가 구비되어 차량 주변 상황을 촬영한 영상 데이터가 입력될 수 있다. 또한, 영상 입력부(210)는 운전자의 얼굴을 촬영하기 위한 카메라 모듈을 차량 내부 전방 소정의 위치에 구비될 수 있으며, 피사체의 높낮이 및 움직임에 따라 촬영 방향을 조절할 수 있도록 방향 조절 수단이 구비될 수 있다. 이때, 방향 조절 수단은 카메라 모듈을 상하로 이동시키는 수직 구동모터 및 그 구동회로를 포함할 수 있고, 카메라 모듈을 좌우로 이동시키는 수평 구동모터 및 그 구동회로를 포함할 수 있다. 또한, 영상 입력부(210)는 사용되는 카메라 모듈에 움직임 추적 센서가 구비되어 사람 등 물체 감지와 동시에 피사체의 움직임을 추적하며 피사체를 촬영할 수 있다. The image input unit 210 photographs a subject using a camera module equipped with the camera and inputs captured image data. The image input unit 210 may be a CCD (Charge Coupled Device) or a CMOS (Complementary Metal-Oxide Semiconductor) camera module. The image input unit 210 may include a plurality of camera modules in or outside the vehicle to input image data of the surroundings of the vehicle. The image input unit 210 may include a camera module for capturing a face of a driver at a predetermined position in front of the vehicle and may include direction adjusting means for adjusting the photographing direction according to the height and the movement of the subject have. In this case, the direction adjusting means may include a vertical driving motor for moving the camera module up and down, and a driving circuit for driving the camera module. The horizontal driving motor and the driving circuit may include a horizontal driving motor for moving the camera module to the left and right. In addition, the image input unit 210 may include a motion tracking sensor in a camera module used to photograph a subject while tracking an object such as a human being.

영상 출력부(215)는 영상 입력부(210)를 통하여 영상 데이터가 입력된 경우, 입력된 영상 데이터를 출력한다. 사용자는 차량을 주행하는 중에는 다수의 카메라 모듈을 통하여 입력되는 영상 데이터가 영상 출력부(215)를 통해 출력되는 것을 보고 차량의 주변 상태를 판단할 수 있다 또한, 사용자 인증을 하는 경우 영상 출력 부(215)는 얼굴 인식을 통한 사용자 인증이 정확하게 이루어지기 위해 사용자 얼굴의 위치나 방향을 유도하기 위해 안내음성과 함께 영상출력부(215)를 통하여 인증 요구자가 촬영된 영상을 확인할 수 있다. The video output unit 215 outputs the input video data when the video data is input through the video input unit 210. [ The user can determine the surrounding state of the vehicle by seeing that the image data input through the plurality of camera modules is output through the image output unit 215 while the vehicle is traveling. 215 can confirm the image captured by the authentication requester through the image output unit 215 together with the guidance voice to guide the position and direction of the user's face in order to accurately authenticate the user through the face recognition.

영상 처리부(220)는 영상 입력부(210)을 통하여 입력된 영상 데이터를 얼굴 인식이 가능한 변환 영상 데이터로 변환한다. 영상 처리부(220)는 입력된 영상 데이터를 인증 요구자의 얼굴 영역을 선택하여 분리하고, 얼굴 각 부분에 대한 특징을 포함하는 변환 영상 데이터로 변환할 수 있다. 또한, 영상 처리부(220)는 이미지 처리 프로세서 또는 영상 코덱 등을 포함하여 표시되는 영상의 화질을 향상시키거나 데이터 처리속도 및 저장 용량을 늘리기 위해 데이터를 압축하거나 재생하기 위해 압축을 해제할 수 있다. The image processing unit 220 converts the image data input through the image input unit 210 into converted image data capable of face recognition. The image processing unit 220 can select the face region of the authentication requester, separate the input image data, and convert the face region into the converted image data including the feature of each face portion. In addition, the image processing unit 220 may include an image processing processor, an image codec, or the like to decompress the compressed image data in order to improve the image quality of the displayed image or increase the data processing speed and storage capacity.

얼굴 인식 시스템부(230)는 얼굴 인식을 통한 사용자 인증을 위하여 영상 처리부(220)에서 얼굴 인식이 가능한 변환 영상 데이터와 기억 저장부(270)에 저장되어 있는 사용자의 얼굴 인식 영상 데이터와 비교 판단 후, 판단 신호를 인증 컨트롤 유닛(290)으로 출력한다. 얼굴 인식 시스템부(230)는 인증 요구자가 사용자가 아니라고 판단하는 경우, 인증 거부 음성 메시지를 오디오 출력부(245)를 통하여 출력하고 경보음 작동을 위한 신호를 메인 컨트롤 유닛(130)에 전송할 수 있다. 또한 기억 저장부(270)에 인증 요구자의 얼굴 영상 데이터를 저장하고 이를 리모트 컨트롤러(300)로 전송할 수 있다. The face recognition system unit 230 compares the converted image data capable of face recognition in the image processing unit 220 and the face recognition image data of the user stored in the storage unit 270 for user authentication through face recognition, , And outputs a determination signal to the authentication control unit 290. When it is determined that the authentication requestor is not the user, the face recognition system unit 230 may output the authentication reject voice message through the audio output unit 245 and transmit a signal for activating the alarm sound to the main control unit 130 . Also, the facial image data of the authentication requester can be stored in the storage unit 270 and transmitted to the remote controller 300.

오디오 입력부(240)는 마이크를 이용하여 오디오 데이터를 입력한다. 오디오 입력부(240)는 입력 수단으로 통상적인 마이크가 사용될 수 있으며, 이와 유사한 기능을 갖는 장치도 포함될 수 있다. 오디오 입력부(240)는 차량 내부 또는 외부에 구비될 수 있어 운전석에 인증될 개인의 음성뿐 아니라 차량의 주변의 오디오 데이터도 입력될 수 있다. The audio input unit 240 inputs audio data using a microphone. The audio input unit 240 may use a conventional microphone as an input means, and a device having a similar function may also be included. The audio input unit 240 may be provided inside or outside the vehicle so that not only the voice of the individual to be authenticated in the driver's seat but also the audio data of the surroundings of the vehicle can be input.

오디오 출력부(245)는 사용자 인증에 대한 제어 신호를 받은 경우, 기억 저장부(270)에 저장된 사용자 인증을 위한 안내 음성을 추출하여 출력한다. When receiving a control signal for user authentication, the audio output unit 245 extracts and outputs a guidance voice for user authentication stored in the storage storage unit 270. [

오디오 처리부(250)는 오디오 입력부(240)를 통하여 입력된 인증 요구자의 오디오 데이터를 음성 인식이 가능한 변환 오디오 데이터로 변환한다. 오디오 처리부(250)는 입력된 오디오 데이터에서 인증 요구자의 음성을 분석하여 주파수 특징을 포함하는 오디오 데이터로 변환할 수 있다. 오디오 처리부(220)는 오디오 코덱 등을 포함하여 데이터 처리효율을 늘리기 위해 데이터를 압축하거나 재생을 위해 압축을 해제할 수 있다. The audio processing unit 250 converts the audio data of the authentication requestor input through the audio input unit 240 into converted audio data capable of voice recognition. The audio processing unit 250 may analyze the audio of the authentication requestor in the input audio data and convert the audio data into audio data including a frequency characteristic. The audio processing unit 220 may include an audio codec or the like to decompress the data to increase data processing efficiency or to decompress the data for playback.

음성 인식 시스템부(260)는 음성 인식을 통한 사용자 인증을 위하여 오디오 처리부(250)에서 음성 인식이 가능한 변환 오디오 데이터와 기억 저장부(270)에 저장되어 있는 사용자의 음성 오디오 데이터와 비교 판단 후, 판단 신호를 인증 컨트롤 유닛(290)으로 출력한다. 음성 인식 시스템부(260)는 인증 요구자의 음성이 저장된 사용자의 음성과 비교 후 다르다고 판단된 경우, 인증 거부 음성 메시지를 오디오 출력부(245)를 통하여 출력하고, 경보음 작동 신호를 메인 컨트롤 유닛(130)에 전송할 수 있다. The voice recognition system unit 260 compares the converted audio data that can be recognized by the audio processor 250 and the user's voice audio data stored in the storage unit 270 for user authentication through voice recognition, And outputs a determination signal to the authentication control unit 290. [ When it is determined that the voice of the authentication requester is different from the voice of the user who stored the voice of the authentication requester, the voice recognition system unit 260 outputs an authentication reject voice message through the audio output unit 245 and outputs an alarm sound activation signal to the main control unit 130).

기억 저장부(270)는 사용자 인증을 위한 프로그램 및 데이터를 저장한다. 또한, 차량 보안을 위해 영상 입력부(210) 및 오디오 입력부(240)을 통하여 입력되는 차량 내부 및 외부의 영상 데이터 및 오디오 데이터를 계속하여 저장할 수 있다. 기억 저장부(270)는 데이터의 갱신이 가능하며, 전원의 공급이 중지되어도 저장된 모든 데이터를 유지할 수 있는 비휘발성 메모리가 사용될 수 있다. 인증을 위한 사용자 얼굴 영상 데이터 및 오디오 데이터는 사전에 사용자가 입력 프로그램을 이용하여 영상 입력부(210) 및 오디오 입력부(240)을 통하여 자신의 얼굴 영상 데이터 및 음성 데이터를 저장해둘 수 있다. 기억 저장부(270)는 저장 용량에 따라 사용자 인증 정보 및 차량 상태를 표현하는 영상 데이터 및 오디오 데이터를 저장하는 것이 한계가 있을 수 있지만, 종래 데이터 중 오래된 데이터 순으로 순차적으로 소거하여 계속 갱신하게 하는 데이터 소거 저장 알고리즘 프로그램을 운용하여 새로운 데이터를 시간순으로 계속하여 저장할 수 있어 기억 저장부(270)의 저장용량 확장 없이도 입력되는 영상 데이터 및 오디오 데이터를 저장할 수 있다. 기억 저장부(270)는 저장된 사용자 인증 정보 및 차량 상태를 표현하는 영상 데이터 및 오디오 데이터를 실시간으로 저장되어 갑작스럽게 사건이나 사고 발생시에 블랙 박스의 역할을 할 수 있다. The storage unit 270 stores programs and data for user authentication. In order to secure the vehicle, video data and audio data of the inside and outside of the vehicle inputted through the video input unit 210 and the audio input unit 240 can be continuously stored. The memory storage unit 270 may be a nonvolatile memory capable of updating data and capable of retaining all stored data even if power supply is interrupted. The face image data and the audio data for authentication may be stored in advance by the user through the image input unit 210 and the audio input unit 240 using the input program. The storage storage unit 270 may store video data and audio data expressing the user authentication information and the vehicle status according to the storage capacity. However, the storage unit 270 sequentially deletes the old data in the order of old data, The data erasure storage algorithm program can be operated so that new data can be continuously stored in chronological order and the input image data and audio data can be stored without the storage capacity expansion of the storage storage unit 270. [ The storage unit 270 may store the stored user authentication information and the image data representing the vehicle state and the audio data in real time, and may act as a black box when an accident or accident occurs.

방향 조절 제어부(275)는 인증 컨트롤 유닛(290)의 제어 신호에 의해 영상 입력부(210)의 카메라 모듈의 촬영 방향을 조절한다. 센서 입력부(120)를 통하여 차량의 상태에 이상징후가 감지된 경우이거나 인증 요구자가 사용자 인증을 요구하는 경우, 방향 조절 제어부(275)는 차량의 상태 및 인증 요구자를 촬영할 수 있도록 영상 입력부(210)로 사용되는 카메라 모듈의 촬영 방향을 조절할 수 있다. 또한 리모트 컨트롤러(300)로부터 카메라 모듈의 방향 조절을 위한 제어 신호를 수신한 경우에도 이에 상응하도록 카메라 모듈의 촬영 방향을 조절할 수 있다. The direction adjustment control unit 275 adjusts the photographing direction of the camera module of the image input unit 210 according to the control signal of the authentication control unit 290. [ When an abnormality is detected in the state of the vehicle through the sensor input unit 120 or when the authentication requestor requests user authentication, the direction adjustment control unit 275 controls the image input unit 210 to photograph the state of the vehicle and the authentication requestor, It is possible to adjust the shooting direction of the camera module used as the camera module. Also, when a control signal for adjusting the direction of the camera module is received from the remote controller 300, the photographing direction of the camera module can be adjusted correspondingly.

USB-OTG 시스템부(280)는 기억 저장부(270)에 저장된 데이터를 다른 저장장치에 옮기거나 시스템 구동을 위한 프로그램을 업그레이드를 시키기 위한 데이터 통신을 위해 사용된다. USB-OTG 시스템부(280)는 USB 포트를 마스터 또는 슬레이브로 동시에 사용할 수 있어 호스트 없이도 직접 주변기기와 데이터 교환이 가능하다. USB-OTG 시스템부(280)를 통하여 기억 저장부(270)에 저장되어 있는 데이터를 메모리 스틱 등의 착탈식 저장장치를 이용하여 USB-OTG 시스템부(280)에 통하여 외부 저장장치로 옮겨 저장하거나 출력할 수 있다. 또한, 기억 저장부(270)에 저장된 프로그램 등을 업그레이드할 필요가 있는 경우, 기억 저장부(270)를 교환하는 등의 불편함 없이 USB-OTG 시스템부(280)를 통하여 기억 저장부(270)에 저장되는 시스템 구동과 관련된 프로그램을 신속하고 편하게 업그레이드할 수 있다. 또한 기억 저장부(270)는 상술한 바와 같이 사건이나 사고 발생시 블랙박스의 기능을 할 수 있기 때문에 USB-OTG 시스템부(280)를 통하여 기억 저장부(270)에 저장된 사건이나 사고의 정황을 담은 영상 데이터 또는 오디오 데이터를 신속하게 이동시켜 데이터를 출력할 수 있는 기기(예를 들면, 컴퓨터, PDA(Personal Digital Assistant), 디지털 멀티미디어 플레이어 등)에서 출력함으로써 사건 사고 해결에 더욱 도움이 될 수 있다. 또한, USB-OTG 시스템부(280)를 이용하여 메모리 스틱에 저장되어 있는 오디오 파일 및 비디오 파일을 차량 내부에 설치되어 있는 오디오/비디오 기기와 연결하여 재생할 수 있다.   The USB-OTG system unit 280 is used for data communication for transferring data stored in the storage storage unit 270 to another storage device or upgrading a program for operating the system. The USB-OTG system unit 280 can simultaneously use a USB port as a master or a slave, so that data can be directly exchanged with a peripheral device without a host. OTG system unit 280 to the external storage device via the USB-OTG system unit 280 using a removable storage device such as a memory stick, and stores or outputs the data can do. If it is necessary to upgrade the program stored in the storage unit 270, the storage unit 270 can be accessed via the USB-OTG system unit 280 without inconvenience of exchanging the storage unit 270, Can be upgraded quickly and easily. Also, since the memory storage unit 270 can function as a black box when an event or an accident occurs, the memory storage unit 270 stores information on the state of the event or accident stored in the memory storage unit 270 through the USB- (E.g., a computer, a PDA (Personal Digital Assistant), a digital multimedia player, or the like) capable of quickly moving image data or audio data and outputting the data. Also, by using the USB-OTG system unit 280, the audio file and the video file stored in the memory stick can be connected to and reproduced from the audio / video equipment installed in the vehicle.

인증 컨트롤 유닛(290)은 메인 컨트롤 유닛(130)으로부터 제어 신호를 받아 인증부(200)의 각 구성요소를 제어한다. 예를 들면, 인증 컨트롤 유닛(290)은 메인 컨트롤 유닛(130)으로부터 사용자 인증 요청의 제어 신호를 받으면, 인증 요구자의 얼굴을 촬영하기 위해 방향 조절 제어부(275)를 통하여 카메라 모듈의 촬영 방향을 조절할 수 있고, 영상 입력부(210)를 통하여 입력된 인증 요구자의 얼굴 영상 데이터를 처리하여 기억 저장부(270)에 저장된 사용자의 얼굴 영상 데이터와 비교하여 얼굴 인식을 통한 사용자 인증을 실시할 수 있다. 얼굴 인식을 통하여 사용자 인증을 행한 결과, 인증된 사용자인 경우, 오디오 입력부(240)을 통하여 입력된 음성을 인식하여 다시 한번 사용자 인증을 하게 되고 음성 인증을 통하여 다시 한번 사용자임을 확인받은 경우에서야 인증이 완료되었다는 신호를 메인 컨트롤 유닛(130)으로 보낼 수 있다. 인증 컨트롤 유닛(290)은 얼굴 인식을 통한 사용자 인증 및 음성 인식을 통한 사용자 인증을 연속적으로 행하게 되므로 보안 성능을 강화된다. 또한, 인증부(200)를 별도로 두어 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 시행하여 그 인증속도가 빠르고 인증시 접촉이 없어 위생적이므로 사용자의 편리성을 증대된다. The authentication control unit 290 receives control signals from the main control unit 130 and controls the respective components of the authentication unit 200. For example, when receiving the control signal of the user authentication request from the main control unit 130, the authentication control unit 290 adjusts the photographing direction of the camera module through the direction adjustment control unit 275 to photograph the face of the authentication requestor The face image data of the authentication requestor inputted through the image input unit 210 may be processed and compared with the face image data of the user stored in the storage storage unit 270 to perform user authentication through face recognition. As a result of user authentication through facial recognition, if the user is an authenticated user, the user recognizes the voice inputted through the audio input unit 240 and once again confirms the user through voice authentication. It can send a signal to the main control unit 130 that it has been completed. The authentication control unit 290 continuously performs user authentication through face recognition and voice recognition, thereby enhancing security performance. In addition, since the authentication unit 200 is separately provided, the user authentication is performed through facial recognition or voice recognition, and the convenience of the user is increased because the authentication speed is fast and there is no contact at the time of authentication because it is sanitary.

도 5는 본 발명에 바람직한 일 실시예에 따른 리모트 컨트롤러의 구성을 설명하기 위한 도면이다. 5 is a diagram for explaining a configuration of a remote controller according to an embodiment of the present invention.

도 5를 참조하면, 리모트 컨트롤러(300)는 스위치 입력부(310), 리모트 통신부(320), 리모트 컨트롤 유닛(330), 리모트 출력부(340)를 포함할 수 있다.Referring to FIG. 5, the remote controller 300 may include a switch input unit 310, a remote communication unit 320, a remote control unit 330, and a remote output unit 340.

스위치 입력부(310)는 차량을 원격 제어하기 위해 사용자의 명령이 입력된 다. 스위치 입력부(310)는 사용자가 차량 시동 온/오프, 도어 잠김 및 해제, 경보음 발생 및 해제뿐 아니라 카메라 모듈의 촬영 방향의 조절 등을 제어하기 위한 사용자의 명령이 입력될 수 있다. The switch input unit 310 receives a user's command to remotely control the vehicle. The switch input unit 310 may input a user's command for controlling the user to turn on / off the vehicle, lock and unlock the door, generate and release the alarm sound, and adjust the shooting direction of the camera module.

리모트 통신부(320)는 안테나가 구비되어 있어 무선을 매개로 리모트 컨트롤러(300)가 원격 제어를 하기 위한 제어 신호 및 데이터가 송수신 된다. 리모트 통신부(320)는 통신부(170)로부터 차량 내부 또는 외부의 영상 데이터, 오디오 데이터 및 차량 상태를 표현하는 데이터를 수신할 수 있으며, 차량 시동, 도어 잠김 및 해제, 경보음 발생 및 해제뿐 아니라 영상 입력부(210)로 사용되는 카메라 모듈의 촬영 방향의 조절 등을 위한 제어 신호 등이 송신될 수 있다. The remote communication unit 320 is provided with an antenna so that control signals and data for remote control by the remote controller 300 are transmitted and received via radio waves. The remote communication unit 320 can receive data expressing video data, audio data, and vehicle status inside or outside the vehicle from the communication unit 170, and can start and stop the vehicle, lock and unlock the door, A control signal for adjusting the photographing direction of the camera module used as the input unit 210, and the like can be transmitted.

리모트 컨트롤 유닛(330)은 리모트 컨트롤러(300)의 각 구성요소를 제어한다. 리모트 컨트롤 유닛(330)은 스위치 입력부(310)을 통하여 원격 제어를 위한 사용자 명령이 입력된 경우, 리모트 컨트롤 유닛(330)은 상응하는 제어 신호를 리모트 통신부(320)를 통해 송신한다. 또한, 리모트 컨트롤 유닛(330)은 통신부(170)로부터 전달받은 데이터를 리모트 출력부(340)를 통해 출력한다.The remote control unit 330 controls each component of the remote controller 300. When a user command for remote control is inputted through the switch input unit 310, the remote control unit 330 transmits a corresponding control signal through the remote communication unit 320. [ Further, the remote control unit 330 outputs the data received from the communication unit 170 through the remote output unit 340.

리모트 출력부(340)는 리모트 통신부(320)를 통하여 수신된 차량 상태를 표현하는 데이터 및 차량 내부 또는 외부의 영상 데이터 및 오디오 데이터를 출력한다. 또한, 리모트 출력부(340)는 리모트 컨트롤러(300)에 작동을 위한 배터리 잔여 용량 표시 및 시계 표시 등을 할 수 있다. 리모트 출력부(340)는 리모트 통신부(320)를 통하여 수신된 차량의 상태를 표현하는 데이터 예를 들면, 차주 호출 표시, 트렁크 열림 표시, 후드 열림 표시, 도어 열림 표시, 차량 내부 온도 표시, 차 량 전압 표시, 충격 감지 표시, 경보음 울림 표시 등을 출력될 수 있으며, 사용자 인증시 촬영된 영상 데이터 및 음성 데이터가 출력될 수 있다. 리모트 출력부(340)는 출력될 데이터를 임시로 저장하기 위한 저장 장치가 더 포함될 수 있다. The remote output unit 340 outputs data expressing the vehicle condition received via the remote communication unit 320 and video data and audio data in or outside the vehicle. In addition, the remote output unit 340 can display the remaining capacity of the battery and the clock display for the operation of the remote controller 300. The remote output unit 340 includes data representing the state of the vehicle received through the remote communication unit 320, for example, a bill display, a trunk open indication, a hood open indication, a door open indication, A voltage display, an impact detection display, an alarm sounding display, and the like, and image data and audio data photographed at the time of user authentication can be output. The remote output unit 340 may further include a storage device for temporarily storing data to be output.

도 6은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부에서 차량 도어 개폐를 제어하는 방법을 설명하기 위한 도면이다. 6 is a view for explaining a method of controlling opening and closing of a vehicle door in a system control unit according to a preferred embodiment of the present invention.

도 6을 참조하면, 메인 컨트롤 유닛(130)은 차량 주변에 운전자 또는 사용자가 접근하면(S610), 영상 입력부(210)를 통하여 입력된 얼굴 영상 데이터에 대해 인증 컨트롤 유닛(290)에 인증 요청을 한다. 인증 컨트롤 유닛(290)은 얼굴 인식을 통한 사용자 인증을 실시하고(S620), 인증 결과 승인된 사용자인지 여부를 판단한다(S630). 만약 인증 결과 승인된 사용자인 경우, 메인 컨트롤 유닛(130)은 도어 제어부(110)를 통하여 차량의 도어를 개폐한다(S640). 사용자는 인증 결과 승인된 사용자가 아닌 경우에는 3회 연속으로 얼굴 인식을 다시 할 수 있다. 메인 컨트롤 유닛(130)은 사용자가 3회를 초과하여 사용자 인증에 실패한 경우, 경보음 작동 제어부(160)를 제어하여 경보음이 발생된다(S650). 6, the main control unit 130 requests authentication to the authentication control unit 290 for facial image data input through the image input unit 210 when a driver or a user approaches the vehicle (S610) do. The authentication control unit 290 performs user authentication through face recognition (S620), and determines whether the user is an authorized user (S630). If the authentication result is approved, the main control unit 130 opens and closes the door of the vehicle through the door control unit 110 (S640). If the user is not an authorized user, the user can repeat the face recognition three times in a row. When the user fails to authenticate the user more than three times, the main control unit 130 controls the alarm sound operation controller 160 to generate an alarm sound (S650).

또한 메인 컨트롤 유닛(130)은 차량 뒷방향의 영상 입력부(210)를 이용하여 트렁크의 개폐 또한 앞 서 설명한 바와 같은 방법에 의해 개폐할 수 있다. Also, the main control unit 130 can be opened and closed by the method described above by using the image input unit 210 in the vehicle back direction to open and close the trunk.

도 7은 본 발명의 바람직한 일 실시예에 따른 시스템 컨트롤부에서 사용자 인증을 설명하기 위한 도면이다.7 is a diagram for explaining user authentication in a system control unit according to a preferred embodiment of the present invention.

도 7을 참조하면, 메인 컨트롤 유닛(130)은 인증 컨트롤 유닛(290)에 인증 요청을 한 후, 인증 컨트롤 유닛(290)의 제어로 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 실시하고 그 결과를 수신하고(S701), 인증된 사용자인지 여부를 판단(S703)하여 인증 결과 인증된 사용자인 경우 인증 확인 음성 메세지가 오디오 출력부(245)를 통하여 출력되고(S705), 메인 컨트롤 유닛(130)의 제어로 시동 오프 상태가 온 상태로 전환된다(S707). 한편, 인증된 사용자가 아닌 경우라고 판단되면, 인증 거부 메세지가 오디오 출력부(245)를 통하여 출력되고(S709), 인증 요구자의 영상 데이터 및 오디오 데이터가 통신부(170)를 통하여 리모트 컨트롤러(300)로 전송된다(S711). 또한 경보음 작동 제어부(160)에 의해 경보음이 울리게 된다(S713).7, after the main control unit 130 requests the authentication control unit 290 for authentication, the main control unit 130 performs user authentication through facial recognition or voice recognition under the control of the authentication control unit 290, (S703). If the authenticated user is the authenticated user, the authentication confirmation voice message is output through the audio output unit 245 (S705) The start-off state is switched to the on-state by the control (S707). If it is determined that the user is not the authenticated user, the authentication rejection message is output through the audio output unit 245 (S709), and the video data and audio data of the authentication requester are transmitted to the remote controller 300 through the communication unit 170. [ (S711). In addition, the alarm sound operation control unit 160 sounds an alarm sound (S713).

도 8은 본 발명의 바람직한 일 실시예에 따른 인증부에서 차량 보안 방법을 설명하기 위한 도면이다. 8 is a diagram for explaining a vehicle security method in an authentication unit according to a preferred embodiment of the present invention.

도 8을 참조하면, 인증 컨트롤 유닛(290)은 메인 컨트롤 유닛(130)으로부터 인증 요청을 위한 제어 신호를 받게 되면(S801), 방향 조절 제어부(275)에 의해 카메라 모듈의 촬영 방향은 인증 요구자를 촬영할 수 있도록 조절된다(S805). 영상 입력부(210)를 통하여 인증 요구자를 촬영한 원시 영상 데이터가 입력되면, 영상 처리부(220)에서 얼굴 인식이 가능한 변환 영상 데이터로 변환되고, 얼굴 인식 시스템부(230)에서 저장된 사용자의 얼굴 영상 데이터와 변환된 인증 요구자의 영상 데이터를 비교하여 인증된 사용자인지 판단하게 된다(S815). 판단 결과 인증된 사 용자가 아닌 경우에는 메인 컨트롤 유닛(130)으로 비인증 메세지를 전송하게 된다(S831). 판단 결과 인증된 사용자인 경우에는 음성 인증을 안내하는 음성이 오디오 출력부(245)를 통해 출력되고 인증 요구자의 음성 오디오 데이터가 오디오 입력부(240)을 통해 입력된다(S821). 입력된 오디오 데이터를 음성 인식이 가능하도록 주파수 분석을 하여 저장된 사용자의 음성의 주파수 특성과 비교하여 인증 사용자인지 판단하게 된다(S827). 음성 인식을 통하여 최종적으로 인증 요구자가 인증된 사용자라고 판단되면, 인증 메시지를 출력하게 되고(S829), 인증 요구자가 인증된 사용자가 아니라면, 비인증 메시지를 출력하게 된다(S831).8, when the authentication control unit 290 receives a control signal for requesting authentication from the main control unit 130 (S801), the orientation of the camera module is controlled by the direction adjustment control unit 275, (S805). When the original image data of the authentication requestor is input through the image input unit 210, the image processing unit 220 converts the raw image data into converted image data capable of face recognition, and the face image data of the user stored in the face recognition system unit 230 Is compared with the image data of the converted authentication requestor to determine whether the user is an authenticated user (S815). If it is determined that the user is not the authorized user, the unauthenticated message is transmitted to the main control unit 130 (S831). As a result of the determination, if the user is an authenticated user, a voice for guiding voice authentication is output through the audio output unit 245, and voice audio data of the authentication requester is input through the audio input unit 240 (S821). The input audio data is frequency analyzed to enable speech recognition, and is compared with the frequency characteristics of the stored user's voice to determine whether the user is an authorized user (S827). If it is determined through the speech recognition that the authentication requestor is the authenticated user, the authentication message is output (S829). If the authentication requestor is not the authenticated user, the nonauthentication message is output (S831).

한편, 메인 컨트롤 유닛(130)으로부터 인증 요청 신호가 받지 않은 경우에는 사용자 인증에 사용되는 영상 입력부(210)의 촬영 방향이 차량의 외부를 촬영할 수 있도록 방향 조절 제어부(275)에 의해 방향이 조절될 수 있다(S803). 메인 컨트롤 유닛(130)은 센서 입력부(120)를 통하여 차량 사고(예를 들면 충돌 등)가 발생했다는 감지 신호를 입력받은 경우(S807), 방향 조절 제어부(275)를 통하여 차량 소정의 위치에 설치되어 있는 다수 개의 영상 입력부(210)를 통하여 차량의 주변 방향을 촬영되어 기억 저장부(270)에 영상 데이터를 저장할 수 있다. 또한, 오디오 입력부(240)는 차량 주변의 오디오 데이터가 입력되고 입력된 오디오 데이터는 기억 저장부(270)에 저장될 수 있다(S813). 또한, 메인 컨트롤 유닛(130)은 사고 발생 메시지 및 사고 상황의 영상 데이터 및 오디오 데이터를 리모트 컨트롤러(300)로 전송할 수 있다(S816). 충돌 상황과 관련하여 기억 저장부(270)에 저장된 데이터는 USB OTG 시스템부(280)을 통하여 메모리 스틱이 있다면(S819), 이를 메모리 스틱에 저장할 수 있다(S825). 메모리 스틱에 저장된 출돌 상황 관련 영상 데이터 및 오디오 데이터는 사고 상태를 객관적으로 판단할 수 있는 데이터로 활용될 수 있다. On the other hand, when the authentication request signal is not received from the main control unit 130, the direction of the image input unit 210 used for user authentication is adjusted by the direction adjustment control unit 275 so that the user can take an image of the outside of the vehicle (S803). When the main control unit 130 receives a detection signal indicating that a vehicle accident (e.g., collision) has occurred through the sensor input unit 120 in step S807, The direction of the vehicle can be photographed through the plurality of image input units 210, and the image data can be stored in the storage storage unit 270. In addition, the audio input unit 240 may receive audio data around the vehicle, and the input audio data may be stored in the storage unit 270 (S813). In addition, the main control unit 130 may transmit the image data and the audio data of the accident occurrence message and the accident situation to the remote controller 300 (S816). If there is a memory stick through the USB OTG system unit 280 (S819), the data stored in the memory storage unit 270 with respect to the collision situation can be stored in the memory stick (S825). The image data and audio data related to the stray situation stored in the memory stick can be utilized as data for objectively determining the accident state.

한편, 메인 컨트롤 유닛(130)으로부터 어떤 신호도 없는 경우, 인증부(100)는 영상 입력부(210) 및 오디오 입력부(240)를 통하여 입력된 데이터를 기억 저장부(270)에 계속적으로 저장하고(S811), 기억 저장부(270)에 저장된 데이터는 필요에 의해 USB OTG 시스템부(280)을 통하여(S817) 차량 외부의 저장 장치로 데이터를 이동시켜 차량 외부의 저장 장치에 저장시킬 수 있다(S823).On the other hand, when there is no signal from the main control unit 130, the authentication unit 100 continuously stores the data input through the video input unit 210 and the audio input unit 240 in the storage storage unit 270 S811), the data stored in the storage storage unit 270 can be moved to a storage device external to the vehicle via the USB OTG system unit 280 (S817) if necessary, and stored in a storage device outside the vehicle (S823 ).

이상에서 설명한 본 발명은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 있어서 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변경이 가능하므로 전술한 실시예에 한정되는 것은 아니다.While the present invention has been described in connection with certain exemplary embodiments, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. .

전술한 바와 같이 본 발명에 따른 멀티미디어 인증을 통한 차량 보안 시스템 및 방법은 접촉이 따른 불편이 없고 위생적인 생체인식 기술인 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 동시에 수행함으로써 멀티미디어 정보를 이용한 사용자의 확인이 가능하여 완벽하게 보안을 강화시킨 효과가 있다. As described above, the vehicle security system and method using the multimedia authentication according to the present invention does not inconvenience the contact, and simultaneously performs the user authentication through face recognition or voice recognition, which is a hygienic biometric technology, It is possible to enhance security completely.

또한 본 발명에 멀티미디어 인증을 통한 차량 보안 시스템 및 방법은 얼굴 인식 또는 음성 인식을 통한 사용자 인증을 위한 생체인식을 수행하는 인증부를 별도로 구비하여 사용자 인증을 더욱 빨리 수행할 수 있어 사용자 인증 결과에 대한 대처 속도가 향상된 효과가 있다. In addition, the vehicle security system and method using multimedia authentication according to the present invention may further include an authentication unit for performing biometric authentication for user authentication through face recognition or voice recognition, so that user authentication can be performed more quickly, The speed is improved.

또한 본 발명에 멀티미디어 인증을 통한 차량 보안 시스템 및 방법은 사용자가 차량이 주차 중에도 리모트 컨트롤러를 이용하여 차량 내부 및 주변의 영상 데이터 및 오디오 데이터를 수신하여 차량의 상태를 확인하고 원격 제어할 수 있어 더욱 편리한 효과가 있다. In addition, the vehicle security system and method using multimedia authentication according to the present invention allow the user to check the state of the vehicle and remotely control the vehicle by receiving image data and audio data in and around the vehicle using the remote controller even when the vehicle is parked There is a convenient effect.

또한 본 발명에 멀티미디어 인증을 통한 차량 보안 시스템 및 방법은 차량의 내부 및 주변의 영상 데이터 및 오디오 데이터를 기억 저장부를 통하여 실시간 저장할 수 있고, USB(Universal Serial Bus) OTG(On The Go) 시스템을 이용하여 저장된 데이터의 이동이 가능하고, 프로그램 업그레이드 및 비디오/오디오 파일을 입력 및 출력부를 통한 출력이 가능하여 더욱 다양한 기능을 가진다. In addition, the vehicle security system and method using multimedia authentication according to the present invention can store video data and audio data in and around the vehicle in real time through a storage unit, and can use a USB (Universal Serial Bus) OTG So that the stored data can be moved and the program can be upgraded and the video / audio file can be outputted through the input and output unit.

Claims (18)

멀티미디어 데이터를 이용한 차량 보안 시스템에 있어서,A vehicle security system using multimedia data, 영상 입력부를 통하여 입력된 영상 데이터를 이용하여 얼굴 인식을 통한 사용자 인증을 하는 얼굴 인증부;A face authentication unit for performing user authentication through face recognition using image data input through an image input unit; 오디오 입력부를 통하여 입력된 오디오 데이터를 이용하여 음성 인식을 통한 사용자 인증을 하는 음성 인증부;A voice authentication unit for performing user authentication through voice recognition using audio data input through an audio input unit; 사용자 인증을 위한 프로그램 및 데이터를 저장하는 기억 저장부;A storage unit for storing programs and data for user authentication; 상기 얼굴 인증부 및 상기 음성 인증부의 사용자 인증을 제어하고 인증 결과신호를 출력하는 인증 컨트롤 유닛;An authentication control unit for controlling user authentication of the face authentication unit and the voice authentication unit and outputting an authentication result signal; 상기 인증 컨트롤 유닛으로부터 인증 결과 신호를 수신하고 상응하는 동작을 수행하기 위해 제어신호를 출력하는 메인 컨트롤 유닛; 및A main control unit for receiving an authentication result signal from the authentication control unit and outputting a control signal to perform a corresponding operation; And 상기 메인 컨트롤 유닛로부터 데이터를 송수신하는 리모트 컨트롤러를 포함하되,And a remote controller for transmitting and receiving data from the main control unit, 상기 리모트 컨트롤러는 상기 메인 컨트롤 유닛으로부터 상기 영상 데이터 및 상기 오디오 데이터가 수신되어 출력되는 리모트 출력부를 포함하고,Wherein the remote controller includes a remote output unit receiving and outputting the video data and the audio data from the main control unit, 상기 메인 컨트롤 유닛으로부터 출력되는 제어 신호에 의해 차량의 시동이 걸리거나 차량 도어가 개폐되는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Wherein the vehicle is started by a control signal outputted from the main control unit or the vehicle door is opened or closed. 제1항에 있어서,The method according to claim 1, 상기 얼굴 인증부는 The face authentication unit 상기 영상 데이터가 입력되는 영상 입력부;A video input unit into which the video data is input; 상기 입력된 영상 데이터를 미리 설정된 형식의 변환 영상 데이터로 변환하는 영상 처리부 및An image processor for converting the input image data into converted image data of a predetermined format, 상기 변환 영상 데이터를 상기 기억 저장부에 저장된 얼굴 영상 데이터와 비교하여 사용자 인증을 수행하는 얼굴 인식 시스템부를 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.And a face recognition system unit for performing user authentication by comparing the converted image data with facial image data stored in the storage unit. 제2항에 있어서, 3. The method of claim 2, 상기 영상 입력부는 하나 이상의 카메라 모듈에 의해 자동차 주변의 영상 데이터를 입력하고 상기 기억 저장부에 상기 입력된 영상 데이터를 저장하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Wherein the image input unit inputs image data around a car by one or more camera modules and stores the input image data in the storage unit. 제3항에 있어서,The method of claim 3, 상기 영상 입력부는 상기 카메라 모듈의 촬영 방향을 조절하는 방향 조절 제어부를 더 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Wherein the image input unit further comprises a direction adjustment control unit for adjusting a shooting direction of the camera module. 제1항에 있어서,The method according to claim 1, 상기 음성 인증부는 The voice authentication unit 상기 오디오 데이터가 입력되는 오디오 입력부;An audio input unit into which the audio data is input; 상기 입력된 오디오 데이터의 미리 설정된 방식의 변환 오디오 데이터로 변환하는 오디오 처리부 및An audio processor for converting the input audio data into converted audio data of a predetermined format, 상기 변환 오디오 데이터를 상기 기억 저장부에 저장된 음성 데이터와 비교하여 사용자 인증을 수행하는 음성 인식 시스템부를 포함하는 멀티미디어 데이터를 이용한 차량 보안 시스템.And a voice recognition system unit for performing user authentication by comparing the converted audio data with voice data stored in the storage unit. 제1항에 있어서,The method according to claim 1, 상기 기억 저장부와 데이터를 교환하는 USB-OTG(On-The-Go)기능을 가진 USB OTG 시스템부를 더 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Further comprising a USB OTG system unit having a USB-OTG function for exchanging data with the storage unit. 삭제delete 제1항에 있어서,The method according to claim 1, 상기 리모트 컨트롤러는The remote controller 상기 메인 컨트롤 유닛과 데이터를 송수신하기 위한 리모트 통신부;A remote communication unit for transmitting and receiving data to and from the main control unit; 사용자로부터 명령을 입력받는 리모트 스위치 입력부;A remote switch input unit for receiving a command from a user; 상기 리모트 스위치 입력부로 입력된 사용자 명령에 의해 상기 리모트 통신부 및 상기 리모트 출력부를 제어하는 리모트 컨트롤 유닛을 더 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Further comprising a remote control unit for controlling the remote communication unit and the remote output unit according to a user command input to the remote switch input unit. 제8항에 있어서,9. The method of claim 8, 상기 리모트 스위치 입력부는 상기 영상 입력부의 촬영 방향을 제어하는 원격 제어 명령을 입력하는 수단을 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 시스템.Wherein the remote switch input unit includes means for inputting a remote control command for controlling a photographing direction of the image input unit. 삭제delete 삭제delete 삭제delete 삭제delete 삭제delete 멀티미디어 데이터를 이용한 차량 보안 방법에 있어서,A vehicle security method using multimedia data, (a) 영상 입력부를 통해 차량 주변의 영상 데이터가 입력되는 단계;(a) inputting image data around a vehicle through an image input unit; (b) 상기 입력된 영상 데이터가 기억 저장부에 저장되는 단계;(b) storing the input image data in a storage unit; (c) 메인 컨트롤 유닛에서 센서 입력부로부터 센서 신호를 수신하고 사고 상황인지 판단하는 단계; 및(c) receiving a sensor signal from a sensor input unit in the main control unit and determining whether an accident situation exists; And (d) 사고 상황이라고 판단된 경우, 메인 컨트롤 유닛로부터 출력된 제어 신호에 의해 리모트 컨트롤러로 상기 사고 상황 시에 기억저장부에 저장된 영상 데이터를 추출하여 송신하는 단계;(d) extracting and transmitting image data stored in the storage unit at the time of the accident situation to the remote controller by the control signal output from the main control unit when it is determined that the accident situation is present; 를 포함하는 멀티미디어 데이터를 이용한 차량 보안 방법.And transmitting the multimedia data. 제 15항에 있어서,16. The method of claim 15, 상기 (b)단계는The step (b) 오디오 입력부를 통해 차량 주변의 오디오 데이터가 입력되고 상기 입력된 오디오 데이터가 기억저장부에 저장하는 단계를 더 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 방법.Further comprising the step of inputting audio data around the vehicle through the audio input unit and storing the input audio data in the storage unit. 제 15항에 있어서,16. The method of claim 15, 상기 (b)단계의 기억 저장부는 메모리 용량이 부족한 경우, 종래 데이터 중 오래된 데이터 순으로 순차적으로 소거하여 갱신하는 데이터 소거 저장 방식에 의해 새로운 데이터를 시간순으로 계속하여 저장하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 방법.Wherein the storage unit of the step (b) continues to store new data in chronological order by a data erasure storage method in which, when the memory capacity is insufficient, the old data is sequentially erased and updated in the old data order. How to secure your vehicle. 제 15항에 있어서,16. The method of claim 15, 상기 (d) 단계 이후에 After the step (d) 상기 기억 저장부에 저장된 데이터를 USB OTG 기능이 있는 USB 포트를 이용하여 메모리 스틱으로 출력하는 단계를 더 포함하는 것을 특징으로 하는 멀티미디어 데이터를 이용한 차량 보안 방법. And outputting the data stored in the storage unit to a memory stick using a USB port having a USB OTG function.
KR1020060069965A 2006-07-25 2006-07-25 Security system and method for automobile using multimedia data KR100853234B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020060069965A KR100853234B1 (en) 2006-07-25 2006-07-25 Security system and method for automobile using multimedia data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020060069965A KR100853234B1 (en) 2006-07-25 2006-07-25 Security system and method for automobile using multimedia data

Publications (2)

Publication Number Publication Date
KR20080010026A KR20080010026A (en) 2008-01-30
KR100853234B1 true KR100853234B1 (en) 2008-08-20

Family

ID=39222228

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060069965A KR100853234B1 (en) 2006-07-25 2006-07-25 Security system and method for automobile using multimedia data

Country Status (1)

Country Link
KR (1) KR100853234B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015187587A1 (en) * 2014-06-03 2015-12-10 Harman International Industries, Incorporated Hands free device with directional interface

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104809782A (en) * 2015-04-24 2015-07-29 成都腾悦科技有限公司 Access control system based on voice recognition and face recognition
KR101983247B1 (en) * 2016-08-31 2019-05-28 셀로코주식회사 Car Parking Recognition Apparatus for Internet of Things using Image Complex Sensor
KR102594292B1 (en) * 2018-05-29 2023-10-26 김동민 Face and voice recognition based authentication system
KR102602768B1 (en) * 2018-09-04 2023-11-15 현대모비스 주식회사 Apparatus and method for controlling functions of a vehicle using speech recognition
CN113815562A (en) * 2021-09-24 2021-12-21 上汽通用五菱汽车股份有限公司 Vehicle unlocking method and device based on panoramic camera and storage medium
WO2024013771A1 (en) * 2022-07-14 2024-01-18 Tvs Motor Company Limited System and method for vehicle security

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5704008A (en) 1993-12-13 1997-12-30 Lojack Corporation Method of and apparatus for motor vehicle security assurance employing voice recognition control of vehicle operation
KR19980031435A (en) * 1996-10-31 1998-07-25 배순훈 Automobile door opening device using image recognition and its control method
KR19980047364U (en) * 1996-12-28 1998-09-25 양재신 Vehicle anti-theft device using speaker recognition technique
KR19990058192A (en) * 1997-12-30 1999-07-15 윤종용 Driver discrimination device
JP2003034235A (en) 2001-07-24 2003-02-04 Aisin Seiki Co Ltd Vehicle theft prevention device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5704008A (en) 1993-12-13 1997-12-30 Lojack Corporation Method of and apparatus for motor vehicle security assurance employing voice recognition control of vehicle operation
KR19980031435A (en) * 1996-10-31 1998-07-25 배순훈 Automobile door opening device using image recognition and its control method
KR19980047364U (en) * 1996-12-28 1998-09-25 양재신 Vehicle anti-theft device using speaker recognition technique
KR19990058192A (en) * 1997-12-30 1999-07-15 윤종용 Driver discrimination device
JP2003034235A (en) 2001-07-24 2003-02-04 Aisin Seiki Co Ltd Vehicle theft prevention device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015187587A1 (en) * 2014-06-03 2015-12-10 Harman International Industries, Incorporated Hands free device with directional interface
JP2017526024A (en) * 2014-06-03 2017-09-07 ハーマン インターナショナル インダストリーズ インコーポレイテッド Hands-free device with directional interface
US10318016B2 (en) 2014-06-03 2019-06-11 Harman International Industries, Incorporated Hands free device with directional interface

Also Published As

Publication number Publication date
KR20080010026A (en) 2008-01-30

Similar Documents

Publication Publication Date Title
KR100853234B1 (en) Security system and method for automobile using multimedia data
CN110126783B (en) Vehicle control method and device
KR100887688B1 (en) Door control device by the hand shape
JP5131546B2 (en) Door control device and method, and program
US20090128329A1 (en) Operation control apparatus of movable electronic device
JP6515833B2 (en) Vehicle door lock control device
CN103935324A (en) Method And Device For Vehicle Access Control
EP3023943B1 (en) Controller, control method, and computer-readable recording medium
CN102145683A (en) Video recording instrument of vehicle
CN113492799B (en) Vehicle control device, vehicle control method, and storage medium
JP2012121386A (en) On-board system
KR101512394B1 (en) Hands free liftgate opening system and method using the rear view camera of a vehicle
JP2013036251A (en) Vehicle opening/closing body operation device and system with on-vehicle camera and portable information terminal, and control method thereof
JP2011172195A (en) Onboard machine, portable device, and control program
CN113815562A (en) Vehicle unlocking method and device based on panoramic camera and storage medium
WO2022028246A1 (en) Vehicle start control method and vehicle-mounted authentication device
CN113494229B (en) Vehicle control device, vehicle control method, and recording medium
CN109685937A (en) Accident record method, system and vehicle
US20190311609A1 (en) Locking mechanisms for enabling or disabling the operations of trainable transceivers
AU2021101396A4 (en) A vehicle anti-theft system and a method thereof
CN211375677U (en) Garage door control device
JP6791331B2 (en) Recording control device, recording control method, and program
KR20170073109A (en) Doorlock System Using Mobile Communication Terminal
JP2005146725A (en) Door control device
JP5268721B2 (en) Portable device, operation method, and program

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
N231 Notification of change of applicant
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20110714

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20140730

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20150729

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20160811

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20180813

Year of fee payment: 11