KR20200128285A - Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same - Google Patents
Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same Download PDFInfo
- Publication number
- KR20200128285A KR20200128285A KR1020190051806A KR20190051806A KR20200128285A KR 20200128285 A KR20200128285 A KR 20200128285A KR 1020190051806 A KR1020190051806 A KR 1020190051806A KR 20190051806 A KR20190051806 A KR 20190051806A KR 20200128285 A KR20200128285 A KR 20200128285A
- Authority
- KR
- South Korea
- Prior art keywords
- actor
- face
- pressed
- recognized
- vehicle
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000001815 facial effect Effects 0.000 title claims description 63
- 238000004458 analytical method Methods 0.000 claims abstract description 16
- 230000003213 activating effect Effects 0.000 claims abstract description 5
- 238000010191 image analysis Methods 0.000 claims description 11
- 238000013135 deep learning Methods 0.000 claims description 8
- 230000004075 alteration Effects 0.000 claims description 6
- 238000005286 illumination Methods 0.000 claims description 6
- 239000007858 starting material Substances 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 description 7
- 239000003795 chemical substances by application Substances 0.000 description 6
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000013475 authorization Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000945 filler Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R25/00—Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
- B60R25/01—Fittings or systems for preventing or indicating unauthorised use or theft of vehicles operating on vehicle systems or fittings, e.g. on doors, seats or windscreens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/02—Rear-view mirror arrangements
- B60R1/04—Rear-view mirror arrangements mounted inside vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/12—Mirror assemblies combined with other articles, e.g. clocks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R25/00—Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
- B60R25/20—Means to switch the anti-theft system on or off
- B60R25/25—Means to switch the anti-theft system on or off using biometry
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R25/00—Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
- B60R25/30—Detection related to theft or to other events relevant to anti-theft systems
- B60R25/305—Detection related to theft or to other events relevant to anti-theft systems using a camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R25/00—Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
- B60R25/30—Detection related to theft or to other events relevant to anti-theft systems
- B60R25/34—Detection related to theft or to other events relevant to anti-theft systems of conditions of vehicle components, e.g. of windows, door locks or gear selectors
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/12—Mirror assemblies combined with other articles, e.g. clocks
- B60R2001/1253—Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
- B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
- B60R2011/0005—Dashboard
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
- B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
- B60R2011/0019—Side or rear panels
- B60R2011/0022—Pillars
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
- B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
- B60R2011/0028—Ceiling, e.g. roof rails
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
- B60R2011/0001—Arrangements for holding or mounting articles, not otherwise provided for characterised by position
- B60R2011/0003—Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
- B60R2011/0033—Rear-view mirrors
Abstract
Description
본 발명은 차량 개문시동 방법 및 장치에 관한 것으로, 상세하게는 스마트키와 같은 차량 열쇠가 없어도 등록 사용자의 안면부를 인식하여 차량 개문 및 시동이 가능하도록 하는 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for starting a vehicle door opening, and more particularly, to a method and apparatus for enabling a vehicle door opening and starting by recognizing a face of a registered user without a vehicle key such as a smart key.
각종 센서(sensor) 및 자동차 전장 기술의 발전으로 자동차의 안전도 향상과 운전자의 편의를 도모하기 위한 다양한 첨단 기술이 자동차에 적용되고 있다. 특히 카메라 및 얼굴 인식 등을 이용한 자동차 졸음 운전 방지 및 차선 이탈 방지 기술이 많은 관심을 받고 있다.Various advanced technologies are being applied to automobiles to improve the safety of automobiles and to promote driver's convenience with the development of various sensors and automotive electronic technology. In particular, technologies for preventing drowsy driving and lane departure using cameras and face recognition are receiving much attention.
특히 단순 안면 인식 및 생체 인식을 넘어 인식된 안면부 및 생체 신호(정보 포함)에 기초하여 차량 운행 등에 관한 권한 부여를 위한 인증이 가능하도록 하는 기술도 많은 주목을 받고 있다.In particular, a technology that enables authentication for authorization for driving a vehicle based on the recognized facial part and biometric signals (including information) beyond simple facial recognition and biometric recognition is also attracting much attention.
관련하여 스마트 키 보급이 확대되는 상황에서 실수 등으로 스마트 키를 가지고 오지 않거나 배터리 방전 등으로 스마트 키를 사용할 수 없는 경우에도 차량 소유자(법적 운행권자 포함)가 자신의 차량을 이용할 수 있도록 하여 운전자 편의를 높일 필요가 있다. 이때 차량 소유자가 아닌 타인이 임의로 차문을 열고 시동을 걸어 차량을 이용하는 것을 방지할 필요가 있다.In relation to the situation where the spread of smart keys is expanding, driver convenience by allowing vehicle owners (including legal drivers) to use their own vehicles even if they do not bring the smart keys due to mistakes or use the smart keys due to battery discharge. Need to increase. At this time, it is necessary to prevent someone other than the vehicle owner from using the vehicle by opening the vehicle door and starting the vehicle.
상기와 같은 필요를 충족하기 위한 본 발명의 목적은, 차량 내외부에 설치된 카메라와 안면부 위변조 여부 판단 및 인증 기술을 이용해서 일시적으로 스마트키를 이용할 수 없는 차량 소유주로 하여금 차량 개문 및 차량 시동을 가능하게 하는 방법 및 장치를 제공하는 데 있다.An object of the present invention for meeting the above needs is to enable vehicle owners who temporarily cannot use a smart key to open a vehicle and start a vehicle by using a camera installed inside and outside the vehicle, and determining whether the face has been forged or not, and authentication technology. To provide a method and apparatus.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른 안면부 인식 기반 개문 및 시동 방법은 차문 개폐 버튼에 대한 눌림이 인식되면 적어도 하나의 외부 카메라를 가동하는 단계, 상기 외부 카메라를 통해 획득한 외부 영상정보에 대한 분석에 기초하여 상기 차문 개폐 버튼을 누른 행위자에 대한 개문용 안면부 인증을 수행하는 단계, 상기 개문용 안면부 인증을 통해 상기 차문 개폐 버튼을 누른 행위자의 안면부가 등록 사용자 안면부로서 인증되면 차문을 여는 단계, 시동 버튼에 대한 눌림이 인식되면 적어도 하나의 내부 카메라를 가동하는 단계, 상기 내부 카메라를 통해 획득한 내부 영상정보에 대한 분석에 기초하여 상기 시동 버튼을 누른 행위자에 대한 시동용 안면부 인증을 수행하는 단계 및 상기 시동용 안면부 인증을 통해 상기 시동 버튼을 누른 행위자의 안면부가 등록 사용자 안면부로서 인증되면 차량 시동을 수행하는 단계를 포함한다.The opening and starting method based on facial recognition according to an embodiment of the present invention for achieving the above object includes the steps of activating at least one external camera when a push on a button for opening and closing a vehicle door is recognized, and an external image acquired through the external camera. Performing a facial part authentication for the person who pressed the car door open/close button based on the analysis of the information, and if the facial part of the person who pressed the car door open/close button through the authentication of the car door open/close button is authenticated as a registered user facial part, the car door The opening step, the step of starting at least one internal camera when the press of the start button is recognized, and authentication of the start-up face part for the actor who pressed the start button based on the analysis of the internal image information acquired through the internal camera And performing vehicle start when the face of the actor who pressed the start button is authenticated as the registered user face through the authentication of the starting face part.
또한, 상기 개문용 안면부 인증을 수행하는 단계는 상기 외부 영상정보에 대한 분석에 기초하여 상기 차문 개폐 버튼을 누른 행위자의 안면부가 인식되는지 여부를 판단하는 단계, 상기 차문 개폐 버튼을 누른 행위자의 안면부가 인식되면 상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부에 대한 위변조 여부를 판단하는 단계, 상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부가 위변조 되지 않은 것으로 판단되면, 상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부가 정상 사용자에 대한 안면부와 동일함을 인증하는 개문용 안면부 인증을 수행하는 단계를 포함한다.In addition, the step of performing the authentication of the face part for the door opening may include determining whether the face part of the person who pressed the car door open/close button is recognized based on the analysis of the external image information, and the face part of the person who pressed the door open button When it is recognized, determining whether the face of the actor who pressed the recognized door open button is forged or altered, and if it is determined that the face of the actor who pressed the recognized door opening button has not been forged, the actor who pressed the recognized door opening button And performing authentication of the facial part for opening the door to certify that the facial part of the is the same as the facial part for the normal user.
또한, 상기 외부 영상정보에 대한 분석은 외부 조도 환경을 고려해서 상기 차문 개폐 버튼을 누른 행위자에 대한 안면부가 인식되는지 여부를 분석한다.In addition, in the analysis of the external image information, it is analyzed whether the face part of the person who pressed the door open/close button is recognized in consideration of the external illumination environment.
또한, 상기 차문 개폐 버튼을 누른 행위자에 대한 안면부는 딥러닝 CNN 기반 3D 입력 영상 얼굴 인증 기법에 의해 인식된다.In addition, the face part of the actor who pressed the car door open/close button is recognized by a deep learning CNN-based 3D input image face authentication technique.
또한, 상기 시동용 안면부 인증을 수행하는 단계는 상기 내부 영상정보에 대한 분석에 기초하여 상기 시동 버튼을 누른 행위자의 안면부가 인식되는지 여부를 판단하는 단계, 상기 시동 버튼을 누른 행위자의 안면부가 인식되면 상기 인식된 시동 버튼을 누른 행위자의 안면부에 대한 위변조 여부를 판단하는 단계 및 상기 인식된 시동 버튼을 누른 행위자의 안면부가 위변조 되지 않은 것으로 판단되면, 상기 인식된 시동 버튼을 누른 행위자의 안면부가 정상 사용자에 대한 안면부와 동일함을 인증하는 시동용 안면부 인증을 수행하는 단계를 포함한다.In addition, the performing of the start-up facial part authentication includes determining whether the face part of the actor who pressed the start button is recognized based on the analysis of the internal image information, and when the face part of the actor who pressed the start button is recognized The step of determining whether the face of the actor who pressed the recognized start button is forged or altered, and if it is determined that the face of the actor who pressed the recognized start button has not been forged, the face of the actor who pressed the recognized start button is normal And performing authentication of the face part for starting to certify that it is the same as the face part for the.
또한, 상기 내부 영상정보에 대한 분석은 내부 조도 환경을 고려해서 상기 시동 버튼을 누른 행위자에 대한 안면부가 인식되는지 여부를 분석한다.In addition, in the analysis of the internal image information, it is analyzed whether the facial part of the person who pressed the start button is recognized in consideration of the internal illumination environment.
또한, 상기 시동 버튼을 누른 행위자에 대한 안면부는 딥러닝 CNN 기반 2D 입력 영상 얼굴 인증 기법에 의해 인식된다.In addition, the face part of the actor who pressed the start button is recognized by a deep learning CNN-based 2D input image face authentication technique.
또한, 상기 외부 카메라는 TOF 방식 3D 영상 카메라이고, 상기 내부 카메라는 IR 방식 2D 카메라이다.In addition, the external camera is a TOF type 3D image camera, and the internal camera is an IR type 2D camera.
또한, 상기 외부 카메라는 B 필러에 설치된다.In addition, the external camera is installed on the B pillar.
또한, 상기 내부 카메라는 차량 핸들 부위 계기판, 운전석 대쉬보드, 후시경(rear-view mirror), 운전석 상단 천정 부근 중 적어도 하나에 설치된다.In addition, the internal camera is installed in at least one of an instrument panel in a vehicle steering wheel, a dashboard in a driver's seat, a rear-view mirror, and near a ceiling above the driver's seat.
본 발명의 일 실시예에 따른 안면부 인식 기반 개문시동 시스템은 차문 개폐 버튼을 누르는 행위자를 포함하는 외부 영상정보를 획득하는 적어도 하나의 외부 카메라 모듈, 시동 버튼을 누르는 행위자를 포함하는 내부 영상정보를 획득하는 적어도 하나의 내부 카메라 모듈, 상기 외부 영상정보 및 내부 영상정보 중 적어도 하나에 대한 영상분석에 기초하여 상기 차문 개폐 버튼을 누르는 행위자 및 시동 버튼을 누르는 행위자 중 적어도 하나에 대한 안면부 인식을 수행하는 영상분석 모듈, 상기 인식된 안면부에 대한 위변조 여부 판단 및 인증을 수행하는 위변조판단인증모듈 및 상기 외부 카메라 모듈, 내부 카메라 모듈, 영상분석 모듈, 및 상기 위변조판단 인증모듈을 제어하는 ECU를 포함한다.In the face recognition-based opening start system according to an embodiment of the present invention, at least one external camera module that acquires external image information including an actor who presses a vehicle door open/close button, and internal image information including an actor who presses the start button At least one internal camera module that performs facial recognition of at least one of an actor pressing the door open/close button and an actor pressing the start button based on image analysis of at least one of the external image information and the internal image information And an analysis module, a forgery determination authentication module that determines and authenticates whether or not the recognized face is forged or altered, and an ECU that controls the external camera module, an internal camera module, an image analysis module, and the forgery determination authentication module.
또한, 상기 ECU는 상기 위변조판단 인증모듈의 인증 결과에 기초하여 차문 개폐 및 시동을 제어하는 MCU에게 상기 차문 개폐 및 시동 중 적어도 하나를 요청한다.In addition, the ECU requests at least one of the vehicle door opening and closing and starting from the MCU that controls the opening and closing of the vehicle door based on the authentication result of the forgery and alteration determination authentication module.
또한, 상기 MCU는 상기 ECU로부터 개문을 요청받으면 차문 개폐부를 통해 차문을 열고, 시동 개시를 요청 받으면 시동부를 통해 차량 시동을 개시한다.In addition, the MCU opens the vehicle door through the vehicle door opening and closing unit when a request for opening the door is received from the ECU, and starts the vehicle through the starting unit upon receiving a request to start starting.
또한, 상기 외부 카메라 모듈은 B필러에 설치되는 TOF 방식 3D 영상 카메라이다.In addition, the external camera module is a TOF type 3D image camera installed on the B-pillar.
또한, 상기 내부 카메라 모듈은 차량 핸들 부위 계기판, 운전석 대쉬보드, 후시경(rear-view mirror), 운전석 상단 천정 부근 중 적어도 하나에 설치되는 IR 방식 2D 카메라이다.In addition, the internal camera module is an IR type 2D camera installed in at least one of an instrument panel in a vehicle steering wheel, a dashboard in a driver's seat, a rear-view mirror, and near a ceiling above the driver's seat.
본 발명에 의하면, 차량 내외부에 설치된 카메라와 안면부 위변조 여부를 판단 및 인증 기술을 이용해서 차량 소유주가 일시적으로 스마트 키가 이용 불가능한 상황에서도 차량 소유자를 정확하게 인지해서 차량의 개문 및 시동을 가능하게 한다.According to the present invention, the vehicle owner can accurately recognize the vehicle owner even when the smart key is temporarily unavailable by using a camera installed inside and outside the vehicle and a detection and authentication technology to determine whether or not the face is forged or altered to enable the vehicle to be opened and started.
도 1는 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템을 설명하는 개념도.
도 2는 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문 및 시동 방법을 설명하는 순서도.
도 3은 본 발명의 일 실시예에 따른 개문용 안면부 인증수행 방법을 설명하는 순서도.
도 4는 본 발명의 일 실시예에 따른 시동용 안면부 인증수행 방법을 설명하는 순서도.1 is a conceptual diagram illustrating a vehicle door opening system based on facial recognition according to an embodiment of the present invention.
2 is a flowchart illustrating a method of opening and starting a vehicle based on facial recognition according to an embodiment of the present invention.
3 is a flow chart illustrating a method of performing authentication of a facial part for an open door according to an embodiment of the present invention.
4 is a flowchart illustrating a method of performing authentication of a face part for starting according to an embodiment of the present invention.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 몇몇 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 권리범위는 실시예들로부터 관념되는 본 발명의 기술적 사상에 속하는 모든 변경, 변형, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.In the present invention, various modifications may be made and various embodiments may be provided, and some embodiments will be illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to a specific embodiment, and the scope of the present invention should be understood as including all changes, modifications, equivalents or substitutes belonging to the technical idea of the present invention conceived from the embodiments. do.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.Terms such as first and second may be used to describe various components, but the components should not be limited by the terms. These terms are used only for the purpose of distinguishing one component from another component. For example, without departing from the scope of the present invention, a first element may be referred to as a second element, and similarly, a second element may be referred to as a first element. The term and/or includes a combination of a plurality of related listed items or any of a plurality of related listed items.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에만, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When a component is referred to as being "connected" or "connected" to another component, it is understood that it may be directly connected or connected to the other component, but other components may exist in the middle. Should be. It should be understood that there is no other component in the middle only when it is stated that a component is "directly connected" or "directly connected" to another component.
본 출원에서 사용한 용어는 단지 제시되는 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in the present application are only used to describe the examples presented, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In the present application, terms such as "comprise" or "have" are intended to designate the presence of features, numbers, steps, actions, components, parts, or combinations thereof described in the specification, but one or more other features. It is to be understood that the presence or addition of elements or numbers, steps, actions, components, parts, or combinations thereof, does not preclude in advance.
기술적이거나 과학적인 용어를 포함해서 본 명세서에서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있으며, 이상적이거나 과도하게 축소된 형식적인 의미로 해석되지 않아야 할 것이며, 본 명세서에서 어떤 용어의 의미를 정의할 경우 해 용어는 그 정의된 대로 해석되어야 한다.All terms used in this specification, including technical or scientific terms, have the same meaning as commonly understood by a person of ordinary skill in the art to which the present invention belongs, and are ideal or excessively reduced formal It should not be interpreted as a meaning, and when defining the meaning of a term in this specification, the term should be interpreted as defined.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 전체적인 이해를 용이하게 하기 위하여 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.Hereinafter, preferred embodiments of the present invention will be described in more detail with reference to the accompanying drawings. In describing the present invention, in order to facilitate an overall understanding, the same reference numerals are used for the same elements in the drawings, and duplicate descriptions for the same elements are omitted.
도 1는 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템을 설명하는 개념도이다.1 is a conceptual diagram illustrating a vehicle door opening system based on facial recognition according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문 시동 시스템(100)은 차량 내외부에 설치된 카메라를 통해 획득된 영상에서 개문(door opening) 및 시동을 시도하는 행위자의 안면부를 인식해서, 해당 안면부가 위변조되지 않고 정상 사용자에 대한 안면부로 인증된 경우 차문 개폐와 시동을 제어하는 MCU(160)에게 개문 및 시동을 요청한다(정상 사용자는 해당 차량의 소유자 또는 법적 운행권한을 가진 자를 의미함).Referring to FIG. 1, a vehicle
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 차문 개폐 버튼을 누르는 행위자를 포함하는 외부 영상정보를 획득하는 적어도 하나의 외부카메라 모듈(120)을 포함한다. 본 발명의 일 실시예에 따른 외부카메라 모듈(120)은 3D TOF(time-of-flight) 카메라로 구현될 수 있다.The vehicle
차량의 외부 환경은 다양한 실내외 환경일 수 있으므로 이러한 다양한 환경(밝거나 흐린 주간, 야간, 눈비가 오는 환경 등)에서 차량 개문을 시도하는 행위자를 인식해야 하므로 정확한 행위자 인식을 위해 2D카메라 보다는 피사체에 대한 3D 깊이 정보까지도 고속으로 획득할 수 있는 3D TOF 카메라를 이용할 수 있다(그러나 반드시 이에 한정되는 것은 아니라 어떠한 종류의 3D카메라 및 근접센세와 연동될 수도 있는 2D카메라가 적용될 수 있다). 또한 광각 기능을 갖춘 보조 카메라와 함께 같이 구동되어 인식 성능을 향상시킬 수 있다.Since the exterior environment of the vehicle can be various indoor and outdoor environments, it is necessary to recognize the actor attempting to open the vehicle in such various environments (bright or cloudy daytime, nighttime, snowy and rainy environments, etc.). A 3D TOF camera capable of acquiring even 3D depth information at high speed can be used (but is not limited thereto, and a 2D camera that can be linked with any kind of 3D camera and proximity sensor can be applied). It can also be driven together with an auxiliary camera with a wide-angle function to improve recognition performance.
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)의 외부카메라 모듈(120)은 차량의 운전석 방향 B필러 부분에 설치될 수 있다(반드시 이에 한정되는 것은 아니고 차량 설계에 따라 다른 필러나 다른 방향(조수석)에도 같이 설치될 수 있다).The
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 시동 버튼을 누르는 행위자를 포함하는 내부 영상정보를 획득하는 적어도 하나의 내부카메라 모듈(130)을 포함한다. 내부 카메라 모듈(130)은 시동 버튼을 누르는 행위자를 인식하기 용이한 위치에 설치될 수 있다(일례로, 차량 핸들 부위 계기판, 운전석 대쉬보드, 후시경(rear-view mirror), 운전석 상단 천정 부근 등에 설치 가능하며 인식의 정확성을 위해 복수의 카메라가 설치될 수 있음).The vehicle door opening
내부카메라 모듈은 IR 기반 2D카메라로 구현될 수 있으나 반드시 이에 한정되는 것은 아니고 3D카메라나 일반 2D카메라로도 구현될 수 있고, 다양한 방식의 카메라가 이용되어 복합적으로 구현될 수 있다.The internal camera module may be implemented as an IR-based 2D camera, but is not limited thereto, and may be implemented as a 3D camera or a general 2D camera, and may be implemented in combination by using various cameras.
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 외부 영상정보에 대한 영상분석에 기초하여 상기 차문 개폐 버튼을 누르는 행위자에 대한 안변부 인식을 수행하고 내부 영상정보에 대한 영상분석에 기초하여 시동 버튼을 누르는 행위자에 대한 안면부 인식을 수행하는 영상분석 모듈(140)을 포함한다.The vehicle
영상분석 모듈(140)은 외부카메라가 획득해서 전달하는 외부 영상정보(외부 촬영 영상, 촬영 시간, 및 촬영 위치 등에 대한 정보를 포함할 수 있음)와 내부카메라가 획득해서 전달하는 내부 영상정보(내부 촬영 영상 및 촬영 시간, 촬영 위치 등에 대한 정보를 포함할 수 있음)에 대해 분석을 해서 개문 버튼을 누른 행위자(특히 행위자의 안면부) 및/또는 시동 버튼을 누른 행위자(특히 행위자의 안면부)가 해당 영상에 포함되어 있는지(즉, 행위자의 안면부가 인식가능한지 여부)를 분석한다.The
이때, 영상분석 모듈(140)은 해당 영상정보에서의 조도 환경 등과 같이 영상정보에서의 안면부 확인에 영향을 주는 요인도 같이 고려하여 개문버튼 누름 행위자 및 시동버튼 누름 행위자의 안면부가 인식가능한지 확인한다.At this time, the
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 상기 인식된 안면부에 대한 위변조 여부 판단 및 인증을 수행하는 위변조판단 인증모듈(150)을 포함한다.The vehicle
위변조판단 인증모듈(150)은 영상분석 모듈(140)에서 개문 버튼을 누른 행위자 및 시동 버튼 누른 행위자의 안면부가 인식된 경우, 해당 인식된 안면부가 위변조된 지 여부에 대해 판단한다.The forgery and alteration
즉, 해당 차량의 정상 사용자가 아닌 타인이 정상 사용자의 얼굴이 포함된 사진이나 동영상, 또는 가면이나 마크스 등을 이용해서 해당 차량에 대한 개문 및 시동을 시도할 수도 있으므로, 본 발명의 일 실시예에 따른 위변조판단 인증모듈(150)은 내부카메라 및 외부카메라로부터 획득되어 인식된 영상정보 내 행위자의 안면부가 위와 같은 방법으로 위변조된 것인지에 대해 판단한다.That is, because someone other than the normal user of the vehicle may attempt to open and start the vehicle using a photo or video including a normal user's face, a mask or marks, etc., according to an embodiment of the present invention The forgery and alteration
또한, 본 발명의 일 실시예에 따른 위변조판단 인증모듈(150)은 행위자의 안면부가 위변조되지 않은 것으로 판단하면, 영상정보 내 행위자의 안면부에 대해 정상 사용자의 안면부에 해당하는지 여부에 대해 인증을 한다. 즉, 외부 영상정보 내의 개문 버튼을 누른 행위자의 인식된 안면부에 대해 딥러닝 CNN 기반 3D 입력 영상 얼굴 인증 기법 등을 적용해서 정상 사용자인지 여부를 판단하고(정상 사용자의 얼굴과 동일한 얼굴인 지 판단), 정상 사용자의 안면부라 판단하면 개문 버튼을 누른 행위자가 정상 사용자임을 인증한다.In addition, if the forgery
또한, 내부 영상정보 내의 시동 버튼을 누른 행위자의 인식된 안면부에 대해 딥러닝 CNN 기반 입력 영상 얼굴 인증 기법 등을 적용해서 정상 사용자인지 여부를 판단하고(정상 사용자의 얼굴과 동일한 얼굴인 지 판단), 정상 사용자의 안면부라 판단하면 시동 버튼을 누른 행위자가 정상 사용자임을 인증한다. In addition, by applying a deep learning CNN-based input image face authentication technique to the recognized facial part of the actor who pressed the start button in the internal image information, it is determined whether the user is a normal user (determining whether the face is the same as the normal user's face), If it is determined that it is the face of a normal user, it is authenticated that the actor who pressed the start button is a normal user.
한편, 본 발명의 일 실시예에 따른 위변조판단 인증모듈(150)은 개문 버튼 누른 행위자에 대한 위변조판단 인증모듈과 시동 버튼 누른 행위자에 대한 위변조판단 인증모듈로서 분리되어 구현될 수도 있다.On the other hand, the forgery
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 외부 카메라 모듈(120), 내부 카메라 모듈(130), 영상분석 모듈(140), 및 위변조판단인증모듈(150)을 제어하는 ECU(electronic control unit)(110)를 포함한다.The facial recognition-based vehicle
일례로 후술할 차문 개폐부(170)에서 차문 개폐 버튼의 눌림을 인식하면, 이에 대한 정보가 MCU(160)를 통해 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)의 ECU(110)에게 전달되고, 이때 ECU(110)는 외부카메라 모듈(120)로 하여금 동작을 개시하여 외부 영상정보를 획득하도록 할 수 있다.For example, when the door opening/
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)의 ECU(110)는 개문 버튼을 누른 행위자가 정상 사용자임이 인증되면 MCU(160)에게 차문을 열도록 요청할 수 있다. 이 경우 MCU(160)는 차문 개폐부(170)로 하여금 차량 개문을 하도록 한다(이때 열리는 문은 운전석 문을 여는 것을 기본으로 할 수 있고, 필요에 따라 보조석 및 뒤좌석의 문을 열도록 구현될 수도 있다).The
또한, 후술할 시동부(180)에서 시동 버튼의 눌림을 인식하면, 이에 대한 정보가 MCU(160)를 통해 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문 시동 시스템(100)의 ECU(110)에게 전달되고, 이때 ECU(110)는 내부카메라 모듈(130)로 하여금 동작을 개시하여 내부 영상정보를 획득하도록 할 수 있다.In addition, when the
본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)의 ECU(110)는 시동 버튼을 누른 행위자가 정상 사용자임이 인증되면 MCU(160)에게 차량 시동을 걸도록(개시하도록) 요청할 수 있다. 이 경우 MCU(160)는 시동부(180)로 하여금 차량 시동을 개시(트리거링, 촉발, 유발 등 포함)하도록 한다.The
한편, 차문 버튼의 눌림을 인식하는 장치와 시동 버튼의 눌림을 인식하는 장치는 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100) 외부에 구현될 수도 있고, 차문 개폐부(170) 및 시동부(180)도 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100) 내부에 구현될 수도 있다. On the other hand, the device for recognizing the push of the car door button and the device for recognizing the push of the start button may be implemented outside the vehicle door opening
또한, 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)은 지문 인식, 홍채 인식 등과 같은 다양한 생체 인식 기술과 같이 구현되어 정상 사용자 인증의 정확성을 더욱 높일 수 있다.In addition, the face recognition-based vehicle
다음으로 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템(100)을 이용한 차량 개문 및 시동 방법에 대해 설명한다.Next, a method of opening and starting a vehicle using the vehicle
도 2는 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문 시동 방법을 설명하는 순서도이다.2 is a flowchart illustrating a method of starting a vehicle door opening based on facial recognition according to an embodiment of the present invention.
도 2의 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문 및 시동 방법은 도1의 본 발명의 일 실시예에 따른 안면부 인식기반 차량 개문시동 시스템을 이용한 차량 개문 및 시동 방법에 대한 것이다. 먼저 차량 주변에 스마트 키(smart key)와 같은 차량 키(key)가 인식되지 않은 가운데 어떤 힘에 의해 차문개폐 버튼의 눌려짐이 인식된다(S210). A method of opening and starting a vehicle based on face recognition according to an embodiment of the present invention of FIG. 2 relates to a method of opening and starting a vehicle using a vehicle opening and starting system based on facial recognition according to the embodiment of the present invention of FIG. 1. First, while a vehicle key such as a smart key is not recognized around the vehicle, it is recognized that the vehicle door opening/closing button is pressed by a certain force (S210).
일반적으로 차문개폐 버튼은 차량 외부 손잡이 각 부분에 설치될 수 있으나 본 발명의 실시예들에 따른 안면부 인식기반 차량 개문시동 방법에서 인식되는 차문개폐 버튼은 운전석 쪽 차문개폐 버튼을 기준으로 설명된다(이는 설명의 편의를 위한 것으로, 본 발명은 이에 의해 제한되지 않고, 차량 설계 시의 필요에 따라 다른 위치의 차문 개폐에도 적용될 수 있다)In general, the door opening and closing button may be installed on each part of the handle outside the vehicle, but the vehicle door opening and closing button recognized in the vehicle opening start method based on facial recognition according to embodiments of the present invention is described based on the vehicle door opening and closing button on the driver's seat side (this is For convenience of explanation, the present invention is not limited thereto, and may be applied to opening and closing of a vehicle door at another location according to the need in vehicle design)
이와 같이 차문개폐 버튼의 눌림이 인식되면 외부카메라가 가동이 되면서(S220) 차량 외부에 대한 영상정보(외부 영상정보)를 생성한다. 전술한 바와 같이 외부 영상정보는 차량 외부 촬영 영상 및 해당 영상이 촬영된 시간과 위치 등에 대한 정보를 포함할 수 있다. 외부 촬영 영상은 차문개폐 버튼을 누른 행위자(이하에서는 개문 행위자라 칭함)에 대한 영상(특히 개문 행위자의 안면부에 대한 영상)이 포함될 수 있다.In this way, when the push of the door opening/closing button is recognized, the external camera is activated (S220) to generate image information (external image information) on the exterior of the vehicle. As described above, the external image information may include an image photographed outside the vehicle and information about a time and location at which the image was photographed. The externally photographed image may include an image (especially an image of the face of the door opener) of an actor who pressed the door opening and closing button (hereinafter referred to as an open door actor).
외부 영상정보가 생성되면 이에 기초하여 개문용 안면부 인증이 수행된다(S230). 즉, 개문용 안면부 인증에 의해 개문 행위자가 정상 사용자로서 인증이 되는지 판단(S240)해서 개문 행위자가 정상 사용자로서 인증이 되면(S240의 예) 차문이 열린다(S250).When the external image information is generated, authentication of the face part for opening the door is performed based on this (S230). That is, when the open door actor is authenticated as a normal user by determining whether the open door actor is authenticated as a normal user (S240), the car door is opened (S250).
이때 열리는 차문은 눌려진 차문개폐 버튼이 달린 차문만이 열릴 수도 있고, 다른 방향의 차문도 같이 열리게 구현될 수 있다. 만약 개문 행위자가 정상 사용자로서 인증이 되지 않으면(S240의 아니오) 차문은 열리지 않고 다시 차문개폐 버튼의 눌림이 인식될 때까지 대기한다.At this time, the opened car door may be implemented so that only a car door with a pushed car door open/close button may be opened, or a car door in a different direction may also be opened. If the door opening agent is not authenticated as a normal user (No in S240), the vehicle door is not opened and waits until the vehicle door opening/closing button is pressed again.
한편, 본 발명의 일 실시예에 따른 개문용 안면부 인증의 구체적인 수행 방법은 도 3에 도시된 순서도 상의 수행 절차를 따른다. 즉, 차문개폐 버튼의 눌림의 인식(S210)에 의한 외부카메라 가동에 의해 개문용 안면부 인증의 수행이 시작되면(S310) 외부카메라가 생성한 외부 영상정보에서 개문 행위자의 안면부가 인식되는지 여부를 판단한다(S320). On the other hand, a specific method of performing the authentication of the facial part for opening the door according to an embodiment of the present invention follows the procedure shown in the flowchart shown in FIG. 3. That is, when the execution of the facial part authentication for opening is started by the operation of the external camera by the recognition of the push of the car door opening/closing button (S210) (S310), it is determined whether the facial part of the door opening agent is recognized from the external image information generated by the external camera. Do (S320).
또한, 본 발명의 일 실시예에 따른 개문용 안면부 인증에서는 개문 행위자의 안면부를 인식할 때 해당 외부 영상정보에서의 조도 환경 등과 같이 외부 영상정보의 안면부 확인에 영향을 주는 요인도 같이 고려하여 개문 행위자의 안면부가 인식가능한지 확인할 수 있다.In addition, in the authentication of the facial part for an open door according to an embodiment of the present invention, when recognizing the face part of the open door agent, factors that affect the identification of the facial part of the external image information, such as the illumination environment in the corresponding external image information, are also considered. You can check if the facial part of the is recognizable.
이때 개문 행위자의 안면부가 인식되면(S320의 예) 인식된 개문 행위자의 안면부가 위조나 변조된 상황인지에 대해 판단한다(S330). 반면에 개문 행위자의 안면부가 인식되지 않으면(S320의 아니오) 다시 차문 개폐 버튼의 눌림이 인식될 때까지 대기한다. 인식된 개문 행위자의 안면부가 위조나 변조된 상황이 아니라 판단되면(S330의 아니오) 해당 외부 영상정보 상의 개문 행위자의 안면부에 대해 안면부 인증을 수행한다(S340).At this time, if the face part of the open door agent is recognized (example of S320), it is determined whether the face part of the recognized door open agent is forged or altered (S330). On the other hand, if the face of the door opening actor is not recognized (No in S320), it waits until the vehicle door opening/closing button is pressed again. If it is determined that the face of the recognized open door actor is not forged or altered (No in S330), the facial part authentication is performed on the face part of the open door actor in the corresponding external image information (S340).
즉, 전술한 바와 같이 외부 영상정보 내의 개문 행위자의 인식된 안면부에 대해 딥러닝 CNN 기반 3D 입력 영상 얼굴 인증 기법 등을 적용해서 정상 사용자인지 여부를 판단하고(정상 사용자와 동일한 얼굴인지 판단), 정상 사용자의 안면부라 판단하면 개문 행위자가 정상 사용자임을 인증한다. 반면에 인식된 개문 행위자의 안면부가 위조나 변조된 상황이라 판단되면(S330의 예) 다시 차문 개폐 버튼의 눌림이 인식될 때까지 대기한다.In other words, as described above, a deep learning CNN-based 3D input image face authentication technique is applied to the recognized facial part of an actor in external image information to determine whether the user is a normal user (determining whether the face is the same as a normal user), and If it is determined that it is the user's face, it is authenticated that the open door actor is a normal user. On the other hand, if it is determined that the face of the recognized door opener is forged or altered (YES in S330), it waits until it is recognized that the door opening/closing button is pressed again.
위와 같은 절차를 통해 차문이 열리면 개문 행위자가 차량의 운전석에 앉은 후 시동 버튼을 눌러 차량 시동을 개시하고자 할 수 있다(전술한 바와 같이 이 경우 해당 차량의 시동을 위한 스마트 키가 방전이나 미소지 등을 이유로 이용 불가능한 상태임). 이와 같이 시동 버튼의 눌려짐이 인식되면(S260), 차량 내부에 설치된 내부카메라가 가동(S270)되면서 차량 내부에 대한 영상정보(내부 영상정보)를 생성한다.When the car door is opened through the above procedure, the door opener may attempt to start the vehicle by pressing the ignition button after sitting in the driver's seat of the vehicle (as described above, in this case, the smart key for starting the vehicle is discharged or smiled, etc.) It is unavailable for reasons). When it is recognized that the start button is pressed (S260), the internal camera installed inside the vehicle is activated (S270) to generate image information (internal image information) about the vehicle interior.
전술한 바와 같이 내부 영상정보는 차량 내부 촬영 영상 및 해당 영상이 촬영된 시간과 위치 등에 대한 정보를 포함할 수 있다. 내부 촬영 영상은 시동 버튼을 누른 행위자(이하에서는 시동 행위자라 칭함)에 대한 영상(특히 시동 행위자의 안면부에 대한 영상)이 포함될 수 있다.As described above, the internal image information may include an image captured inside the vehicle and information about a time and location at which the image was captured. The internally photographed image may include an image (in particular, an image of the face part of the ignition actor) of an actor who pressed the ignition button (hereinafter referred to as ignition actor).
내부 영상정보가 생성되면 이에 기초하여 시동용 안면부 인증이 수행된다(S280). 즉, 시동용 안면부 인증에 의해 시동 행위자가 정상 사용자로서 인증이 되는지 판단(S290)해서 시동 행위자가 정상 사용자로서 인증이 되면(S290의 예) 차량의 시동이 개시된다(S295). 만약 시동 행위자가 정상 사용자로서 인증이 되지 않으면(S290의 아니오) 시동은 개시되지 않고 다시 시동 버튼의 눌림이 인식될 때까지 대기한다.When the internal image information is generated, authentication of the face part for start-up is performed based on this (S280). That is, when the starting actor is authenticated as a normal user by determining whether the starting actor is authenticated as a normal user by authentication of the starting face part (S290), and the starting actor is authenticated as a normal user (YES in S290), the vehicle is started (S295). If the start-up actor is not authenticated as a normal user (No in S290), start-up is not started and waits until the start-up button is pressed again.
한편, 본 발명의 일 실시예에 따른 시동용 안면부 인증의 구체적인 수행 방법은 도 4에 도시된 순서도 상의 수행 절차를 따른다. 즉, 시동 버튼에 대한 눌림이 인식(S260)되고, 이에 따라 내부카메라가 가동되어 시동용 안면부 인증 수행이 시작되면(S410) 내부카메라가 생성한 내부 영상정보에서 시동 행위자의 안면부가 인식되는지 여부를 판단한다(S420).On the other hand, a specific method of performing authentication of the face part for start-up according to an embodiment of the present invention follows the procedure shown in the flowchart shown in FIG. 4. That is, when the start button is recognized (S260), and the internal camera is activated to start the authentication of the starting face (S410), it is determined whether the face of the starting actor is recognized from the internal image information generated by the internal camera. It is determined (S420).
또한, 본 발명의 일 실시예에 따른 시동용 안면부 인증에서는 시동 행위자의 안면부를 인식할 때 해당 내부 영상정보에서의 조도 환경 등과 같이 내부 영상정보의 안면부 확인에 영향을 주는 요인도 같이 고려하여 시동 행위자의 안면부가 인식가능한지 확인할 수 있다.In addition, in the face part authentication for start-up according to an embodiment of the present invention, when the face part of the start-up agent is recognized, factors that affect the face part confirmation of the internal image information, such as the illumination environment in the corresponding internal image information, are also taken into account. You can check if the facial part of the is recognizable.
이때 시동 행위자의 안면부가 인식되면(S420의 예), 인식된 시동 행위자의 안면부가 위조나 변조된 상황인지에 대해 판단한다(S430). 반면에 시동 행위자의 안면부가 인식되지 않으면(S420의 아니오) 다시 시동 버튼의 눌림이 인식될 때까지 대기한다. 인식된 시동 행위자의 안면부가 위조나 변조된 상황이 아니라 판단되면(S430의 아니오) 해당 내부 영상정보 상의 시동 행위자의 안면부에 대해 안면부 인증을 수행한다(S440). At this time, if the face of the starting actor is recognized (YES in S420), it is determined whether the face of the recognized starting actor is forged or altered (S430). On the other hand, if the face of the ignition actor is not recognized (No in S420), it waits until the ignition of the ignition button is recognized again. If it is determined that the recognized face of the starting actor is not forged or altered (No in S430), the face portion of the face of the starting actor in the corresponding internal image information is authenticated (S440).
즉, 전술한 바와 같이 내부 영상정보 내의 시동 행위자의 인식된 안면부에 대해 딥러닝 CNN 기반 입력 영상 얼굴 인증 기법 등을 적용해서 정상 사용자인지 여부를 판단하고(정상 사용자와 동일한 얼굴인지 판단), 정상 사용자의 안면부라 판단하면 시동 행위자가 정상 사용자임을 인증한다. 반면에 인식된 개문 행위자의 안면부가 위조나 변조된 상황이라 판단되면(S430의 예) 다시 시동 버튼의 눌림이 인식될 때까지 대기한다.That is, as described above, a deep learning CNN-based input image face authentication technique is applied to the recognized facial part of the starting actor in the internal image information to determine whether the user is a normal user (determining whether the face is the same as the normal user), and the normal user If it is determined that it is the face part of, it is authenticated that the starting actor is a normal user. On the other hand, if it is determined that the face of the recognized door-to-door actor is forged or altered (example in S430), it waits until the start button is pressed again.
한편, 전술한 각 구성은 각각이 별도의 장치로 설명되었으나, 이는 설명의 편의와 이해의 증진을 위한 예시적 설명에 불과한 것으로서, 본 발명의 기술적 사상의 범주 내에서 다양한 형태로 구현될 수 있음은 물론이다. 예컨대, 위변조판단 인증모듈(150)은 하나의 장치로 통합되어 구현될 수도 있고 또는 둘이나 그 이상의 장치로 분할하여 구현될 수 있다.Meanwhile, each of the above-described configurations has been described as a separate device, but this is only an exemplary description for convenience of description and enhancement of understanding, and may be implemented in various forms within the scope of the technical idea of the present invention. Of course. For example, the forgery and alteration
본 발명에 따른 방법들은 다양한 컴퓨터 수단을 통해 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 본 발명을 위해 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수 있다.The methods according to the present invention may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like alone or in combination. The program instructions recorded on the computer-readable medium may be specially designed and configured for the present invention, or may be known and usable to those skilled in computer software.
컴퓨터 판독 가능 매체의 예에는 롬(rom), 램(ram), 플래시 메모리(flash memory) 등과 같이 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러(compiler)에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터(interpreter) 등을 사용해서 컴퓨터에 의해 실행될 수 있는 고급 언어 코드를 포함한다. 상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 적어도 하나의 소프트웨어 모듈로 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of computer-readable media include hardware devices specially configured to store and execute program instructions, such as rom, ram, flash memory, and the like. Examples of program instructions include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The above-described hardware device may be configured to operate as at least one software module to perform the operation of the present invention, and vice versa.
이상, 본 발명의 바람직한 실시예를 통해 본 발명의 구성에 대하여 상세히 설명하였다. 그러나 전술한 실시예는 예시에 불과한 것으로서, 본 발명의 권리범위를 제한하지 아니한다. 본 발명의 기술분야에 통상의 지식을 가진 자라면 본 명세서의 교시와 시사로부터 본 발명의 기술적 사상의 범주내의 다양한 변형과 변경이 가능할 것이다. 따라서, 본 발명의 보호범위는 이하의 특허청구범위의 기재에 의하여 정하여짐이 마땅하다.In the above, the configuration of the present invention has been described in detail through a preferred embodiment of the present invention. However, the above-described embodiments are for illustrative purposes only, and do not limit the scope of the present invention. Those of ordinary skill in the art of the present invention will be able to make various modifications and changes within the scope of the technical idea of the present invention from the teachings and suggestions of the present specification. Accordingly, the scope of protection of the present invention should be determined by the description of the following claims.
Claims (15)
상기 외부 카메라를 통해 획득한 외부 영상정보에 대한 분석에 기초하여 상기 차문 개폐 버튼을 누른 행위자에 대한 개문용 안면부 인증을 수행하는 단계;
상기 개문용 안면부 인증을 통해 상기 차문 개폐 버튼을 누른 행위자의 안면부가 등록 사용자 안면부로서 인증되면 차문을 여는 단계;
시동 버튼에 대한 눌림이 인식되면 적어도 하나의 내부 카메라를 가동하는 단계;
상기 내부 카메라를 통해 획득한 내부 영상정보에 대한 분석에 기초하여 상기 시동 버튼을 누른 행위자에 대한 시동용 안면부 인증을 수행하는 단계; 및
상기 시동용 안면부 인증을 통해 상기 시동 버튼을 누른 행위자의 안면부가 등록 사용자 안면부로서 인증되면 차량 시동을 수행하는 단계를 포함하는 안면인식 기반 차량 개문시동 방법;Activating at least one external camera when it is recognized that the vehicle door opening and closing button is pressed;
Performing a face part authentication for opening a door for an actor who pressed the car door open/close button based on analysis of the external image information acquired through the external camera;
Opening the car door when the face part of the actor who pressed the car door opening/closing button through the face part authentication for the door is authenticated as the registered user face part;
Activating at least one internal camera when it is recognized that the start button is pressed;
Performing a start-up facial part authentication for an actor who pressed the start button based on analysis of the internal image information acquired through the internal camera; And
A face recognition-based vehicle door opening start method comprising the step of starting a vehicle when the face portion of the actor who pressed the start button is authenticated as the registered user face portion through the face portion authentication for start-up;
상기 개문용 안면부 인증을 수행하는 단계는,
상기 외부 영상정보에 대한 분석에 기초하여 상기 차문 개폐 버튼을 누른 행위자의 안면부가 인식되는지 여부를 판단하는 단계;
상기 차문 개폐 버튼을 누른 행위자의 안면부가 인식되면 상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부에 대한 위변조 여부를 판단하는 단계; 및
상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부가 위변조 되지 않은 것으로 판단되면, 상기 인식된 차문 개폐 버튼을 누른 행위자의 안면부가 정상 사용자에 대한 안면부와 동일함을 인증하는 개문용 안면부 인증을 수행하는 단계를 포함하는 안면인식 기반 차량 개문시동 방법;The method of claim 1,
The step of performing the facial authentication for the opening of the door,
Determining whether a face part of an actor who pressed the door opening/closing button is recognized based on the analysis of the external image information;
Determining whether or not the face of the actor who pressed the door opening/closing button is recognized, whether or not the face of the actor who pressed the recognized vehicle door opening/closing button is forged or altered; And
If it is determined that the face part of the actor who pressed the recognized car door open/close button has not been forged, performing a face part authentication for opening door to certify that the face part of the actor who pressed the recognized car door open button is identical to the face part for a normal user Facial recognition-based vehicle opening start method comprising a;
상기 외부 영상정보에 대한 분석은 외부 조도 환경을 고려해서 상기 차문 개폐 버튼을 누른 행위자에 대한 안면부가 인식되는지 여부를 분석하는, 안면인식 기반 차량 개문시동 방법.The method of claim 2,
In the analysis of the external image information, a vehicle door opening start method based on facial recognition is performed to analyze whether a face part of an actor who pressed the door opening button is recognized in consideration of an external illumination environment.
상기 차문 개폐 버튼을 누른 행위자에 대한 안면부는 딥러닝 CNN 기반 3D 입력 영상 얼굴 인증 기법에 의해 인식되는, 안면인식 기반 차량 개문시동 방법.The method of claim 3,
A face recognition method based on facial recognition, in which the face portion of the actor pressing the door opening button is recognized by a deep learning CNN-based 3D input image face authentication technique.
상기 시동용 안면부 인증을 수행하는 단계는,
상기 내부 영상정보에 대한 분석에 기초하여 상기 시동 버튼을 누른 행위자의 안면부가 인식되는지 여부를 판단하는 단계;
상기 시동 버튼을 누른 행위자의 안면부가 인식되면 상기 인식된 시동 버튼을 누른 행위자의 안면부에 대한 위변조 여부를 판단하는 단계; 및
상기 인식된 시동 버튼을 누른 행위자의 안면부가 위변조 되지 않은 것으로 판단되면, 상기 인식된 시동 버튼을 누른 행위자의 안면부가 정상 사용자에 대한 안면부와 동일함을 인증하는 시동용 안면부 인증을 수행하는 단계를 포함하는 안면인식 기반 차량 개문시동 방법;The method of claim 1,
The step of performing the start-up facial part authentication,
Determining whether the face of the actor who pressed the start button is recognized based on the analysis of the internal image information;
Determining whether the facial part of the actor who pressed the recognized start button is forged or altered when the face of the actor who pressed the start button is recognized; And
If it is determined that the face part of the actor who pressed the recognized start button has not been forged, performing a face part authentication for start-up certifying that the face part of the actor who pressed the recognized start button is the same as the face part for a normal user. Face recognition-based vehicle opening start method;
상기 내부 영상정보에 대한 분석은 내부 조도 환경을 고려해서 상기 시동 버튼을 누른 행위자에 대한 안면부가 인식되는지 여부를 분석하는, 안면인식 기반 차량 개문시동 방법.The method of claim 5,
In the analysis of the internal image information, the facial recognition-based vehicle opening start method analyzes whether or not the face part of the person who pressed the start button is recognized in consideration of the internal illumination environment.
상기 시동 버튼을 누른 행위자에 대한 안면부는 딥러닝 CNN 기반 2D 입력 영상 얼굴 인증 기법에 의해 인식되는, 안면인식 기반 차량 개문시동 방법.The method of claim 6,
A facial recognition method based on facial recognition, in which the face of the actor pressing the start button is recognized by a deep learning CNN-based 2D input image face authentication technique.
상기 외부 카메라는 TOF 방식 3D 영상 카메라이고, 상기 내부 카메라는 IR 방식 2D 카메라인, 안면인식 기반 차량 개문시동 방법.The method of claim 1,
The external camera is a TOF type 3D image camera, and the inner camera is an IR type 2D camera, facial recognition-based vehicle opening start method.
상기 외부 카메라는 B 필러에 설치되는, 안면인식 기반 차량 개문시동 방법.The method of claim 1,
The external camera is installed on the B pillar, facial recognition-based vehicle door opening method.
상기 내부 카메라는 차량 핸들 부위 계기판, 운전석 대쉬보드, 후시경(rear-view mirror), 운전석 상단 천정 부근 중 적어도 하나에 설치되는, 안면인식 기반 차량 개문시동 방법.The method of claim 1,
The internal camera is installed in at least one of a vehicle steering wheel dashboard, a driver's dashboard, a rear-view mirror, and an upper ceiling of a driver's seat.
시동 버튼을 누르는 행위자를 포함하는 내부 영상정보를 획득하는 적어도 하나의 내부 카메라 모듈;
상기 외부 영상정보 및 내부 영상정보 중 적어도 하나에 대한 영상분석에 기초하여 상기 차문 개폐 버튼을 누르는 행위자 및 시동 버튼을 누르는 행위자 중 적어도 하나에 대한 안면부 인식을 수행하는 영상분석 모듈;
상기 인식된 안면부에 대한 위변조 여부 판단 및 인증을 수행하는 위변조판단인증모듈; 및
상기 외부 카메라 모듈, 내부 카메라 모듈, 영상분석 모듈, 및 상기 위변조판단 인증모듈을 제어하는 ECU를 포함하는 안면인식 기반 개문시동 시스템.At least one external camera module for acquiring external image information including an actor pressing a vehicle door opening/closing button;
At least one internal camera module for acquiring internal image information including an actor pressing the start button;
An image analysis module for performing facial recognition on at least one of an actor pressing the door open/close button and an actor pressing a start button based on image analysis of at least one of the external image information and the internal image information;
A forgery determination authentication module that determines and authenticates whether or not the recognized facial part is forged or altered; And
Facial recognition-based door opening system comprising an ECU that controls the external camera module, the internal camera module, the image analysis module, and the forgery and alteration determination authentication module.
상기 ECU는 상기 위변조판단 인증모듈의 인증 결과에 기초하여 차문 개폐 및 시동을 제어하는 MCU에게 상기 차문 개폐 및 시동 중 적어도 하나를 요청하는, 안면인식 기반 개문시동 시스템.The method of claim 11,
The ECU requests at least one of the vehicle door opening and closing and starting from the MCU that controls the opening and closing of the vehicle door based on the authentication result of the forgery and alteration determination authentication module.
상기 MCU는 상기 ECU로부터 개문을 요청받으면 차문 개폐부를 통해 차문을 열고, 시동 개시를 요청 받으면 시동부를 통해 차량 시동을 개시하는, 안면인식 기반 개문시동 시스템.The method of claim 12,
The MCU opens the car door through a car door opening and closing part when a door opening is requested from the ECU, and starts starting the vehicle through a starter when a start-up is requested.
상기 외부 카메라 모듈은 B필러에 설치되는 TOF 방식 3D 영상 카메라인, 안면인식 기반 개문시동 시스템.The method of claim 11,
The external camera module is a TOF type 3D video camera installed on the B-pillar, facial recognition-based opening start system.
상기 내부 카메라 모듈은 차량 핸들 부위 계기판, 운전석 대쉬보드, 후시경(rear-view mirror), 운전석 상단 천정 부근 중 적어도 하나에 설치되는 IR 방식 2D 카메라인, 안면인식 기반 개문시동 시스템.The method of claim 11,
The internal camera module is an IR type 2D camera installed in at least one of a vehicle steering wheel dashboard, a driver's dashboard, a rear-view mirror, and an upper ceiling of a driver's seat.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190051806A KR20200128285A (en) | 2019-05-02 | 2019-05-02 | Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190051806A KR20200128285A (en) | 2019-05-02 | 2019-05-02 | Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20200128285A true KR20200128285A (en) | 2020-11-12 |
Family
ID=73398648
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190051806A KR20200128285A (en) | 2019-05-02 | 2019-05-02 | Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20200128285A (en) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113160463A (en) * | 2021-05-26 | 2021-07-23 | 北京旗偲智能科技有限公司 | Method and device for starting user identification device of vehicle and automobile control cloud |
CN114312666A (en) * | 2021-11-22 | 2022-04-12 | 江铃汽车股份有限公司 | Vehicle control method and device based on face recognition, storage medium and equipment |
WO2022075635A1 (en) | 2020-10-05 | 2022-04-14 | 주식회사 엘지에너지솔루션 | Battery rack, energy storage apparatus, and power generation system |
KR102411864B1 (en) | 2021-08-31 | 2022-06-22 | (주)에이아이매틱스 | System and method for managing driving information of shared vehicle to guarantee driver's anonymity |
KR20220161842A (en) | 2021-05-31 | 2022-12-07 | 삼성에스디에스 주식회사 | Apparatus and method for determining forgery and alteration of multimedia outputs |
WO2023106750A1 (en) * | 2021-12-07 | 2023-06-15 | 삼성전자 주식회사 | Electronic device and method for authenticating driver of vehicle by using same |
-
2019
- 2019-05-02 KR KR1020190051806A patent/KR20200128285A/en not_active Application Discontinuation
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022075635A1 (en) | 2020-10-05 | 2022-04-14 | 주식회사 엘지에너지솔루션 | Battery rack, energy storage apparatus, and power generation system |
CN113160463A (en) * | 2021-05-26 | 2021-07-23 | 北京旗偲智能科技有限公司 | Method and device for starting user identification device of vehicle and automobile control cloud |
KR20220161842A (en) | 2021-05-31 | 2022-12-07 | 삼성에스디에스 주식회사 | Apparatus and method for determining forgery and alteration of multimedia outputs |
KR102411864B1 (en) | 2021-08-31 | 2022-06-22 | (주)에이아이매틱스 | System and method for managing driving information of shared vehicle to guarantee driver's anonymity |
WO2023033325A1 (en) | 2021-08-31 | 2023-03-09 | (주)에이아이매틱스 | Shared vehicle driving information management system and method guaranteeing driver's anonymity |
CN114312666A (en) * | 2021-11-22 | 2022-04-12 | 江铃汽车股份有限公司 | Vehicle control method and device based on face recognition, storage medium and equipment |
WO2023106750A1 (en) * | 2021-12-07 | 2023-06-15 | 삼성전자 주식회사 | Electronic device and method for authenticating driver of vehicle by using same |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20200128285A (en) | Method for opening vehicle door and strating vehicle based on facial recognition and apparatus for the same | |
EP1705085A1 (en) | Apparatus for authenticating vehicle driver | |
CN106960486B (en) | System and method for functional feature activation through gesture recognition and voice commands | |
CN103935324B (en) | Method and apparatus for vehicle access control control | |
CN105539367B (en) | A kind of control method of the identity of automobile control system for identifying based on fingerprint recognition | |
KR101586228B1 (en) | Method and apparatus for controlling vehicle using motion recognition with face recognition | |
EP1700761B1 (en) | Apparatus for authenticating vehicle driver | |
US20160300410A1 (en) | Door Access System for a Vehicle | |
JP7166780B2 (en) | VEHICLE CONTROL DEVICE, VEHICLE CONTROL METHOD AND PROGRAM | |
CN108357462B (en) | Vehicle unlocking method and vehicle | |
US20120148117A1 (en) | System and method for facial identification | |
US20160012654A1 (en) | Hands Free Access System for a Vehicle Closure | |
WO2014141700A1 (en) | Facial image recognition device for vehicle | |
US20210309182A1 (en) | Vehicular security system with biometric authorization feature | |
US20200074060A1 (en) | User authentication device and method for triggering user-specific target operation | |
US20140294241A1 (en) | Vehicle having gesture detection system and method | |
KR102265624B1 (en) | Start-up security system for vehicles using facial recognition | |
CN110154978A (en) | Convenient for the method and apparatus of Vehicle locking | |
KR101512394B1 (en) | Hands free liftgate opening system and method using the rear view camera of a vehicle | |
US20210229633A1 (en) | Biometric user authenticating keys for vehicles and methods of use | |
KR20040029211A (en) | An antitheft device and the control method of automobile | |
CN103425962A (en) | Face authentication apparatus and method for vehicle | |
US10872252B2 (en) | Exterior camera services for vehicle-sharing fleet | |
JP2004330979A (en) | Drive controller of vehicle | |
EP3643569A1 (en) | Method for accessing and starting a vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal |