KR101897072B1 - Method and apparatus for verifying facial liveness in mobile terminal - Google Patents

Method and apparatus for verifying facial liveness in mobile terminal Download PDF

Info

Publication number
KR101897072B1
KR101897072B1 KR1020180030354A KR20180030354A KR101897072B1 KR 101897072 B1 KR101897072 B1 KR 101897072B1 KR 1020180030354 A KR1020180030354 A KR 1020180030354A KR 20180030354 A KR20180030354 A KR 20180030354A KR 101897072 B1 KR101897072 B1 KR 101897072B1
Authority
KR
South Korea
Prior art keywords
real
face image
time
triangle
face
Prior art date
Application number
KR1020180030354A
Other languages
Korean (ko)
Inventor
최지웅
이명성
Original Assignee
한국인식산업(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국인식산업(주) filed Critical 한국인식산업(주)
Priority to KR1020180030354A priority Critical patent/KR101897072B1/en
Application granted granted Critical
Publication of KR101897072B1 publication Critical patent/KR101897072B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G06K9/00248
    • G06K9/00261
    • G06K9/00335
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Abstract

According to the present invention, a facial liveness verification method comprises the steps of: acquiring M reference face images at different angles in advance through a camera; forming reference triangles from the acquired first reference face image and the acquired M^th reference face image; acquiring a first real-time face image and an N^th real-time face image, which are successive at different angles, through the camera in real time; forming real-time triangles from the acquired first real-time face image and the acquired N^th real-time face image; extracting a reference triangle most similar to the real-time triangle among the generated reference triangles by comparing the similarity of the reference triangles generated for each of the M reference face images to a real time triangle generated for each real time face image obtained through the camera in real time; determining a face posture of a reference face image corresponding to the most similar reference triangle as a face posture of a real-time image obtained in real time; and determining whether a real-time face image is a forged face image or a living person′s face image based on a change in the face posture of the determined real-time image. According to the present invention, it is possible to accurately determine whether a face image is forged in a terminal.

Description

얼굴 라이브니스 검증 방법 및 검증 장치{METHOD AND APPARATUS FOR VERIFYING FACIAL LIVENESS IN MOBILE TERMINAL}[0001] METHOD AND APPARATUS FOR VERIFYING FACIAL LIVENESS IN MOBILE TERMINAL [0002]

본 발명은 모바일 단말기에서 얼굴 라이브니스(liveness)를 검증하는 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for verifying facial liveness in a mobile terminal.

최근 스마트폰 및 PC와 같은 다양한 형식의 컨텐츠를 표시 및 재생할 수 있는 전자기기의 사용이 증가하면서, 각 전자기기의 보안성을 향상시킬 수 있도록 다양한 형태의 사용자 인증 방법이 제안되고 있다.2. Description of the Related Art Various types of user authentication methods have been proposed to improve the security of each electronic device with the increasing use of electronic devices capable of displaying and reproducing various types of contents such as smart phones and PCs.

상기 사용자 인증 방법으로는 터치 스크린을 가질 경우 화면에 디스플레이되는 슬라이드 패턴을 인식하는 방법, 숫자입력을 통한 PIN 방식 및 문자를 조합하는 패스워드 입력 방법 등이 있으며, 최근에는 카메라를 이용한 페이스(face, 안면) 인식 기술을 이용한 인증 방법이 사용되고 있다.The user authentication method includes a method of recognizing a slide pattern displayed on a screen when a user has a touch screen, a PIN method of inputting numbers, and a password input method of combining characters. In recent years, ) Authentication method is used.

그 중에서 페이스 인식 기술은 비밀번호를 입력하는 대신에 얼굴 인식을 통해 전자기기(e.g., 컴퓨터, 노트북, 이동 단말기 및 기타)에 로그인(log-in)하는 기술로, 카메라를 통해 촬영된 사용자의 얼굴과 기 저장된 얼굴을 비교하여 전자기기 접근의 위한 사용자 인증 즉, 로그인을 허용하고 있다.Among them, face recognition technology is a technique of log-in to an electronic device (eg, a computer, a notebook, a mobile terminal and others) through facial recognition instead of inputting a password. Stored faces are compared with each other to permit user authentication for accessing the electronic device, that is, login.

그러나, 기존의 페이스 인식 기술은 주로 전자기기의 로그인에 초점이 맞추어져 있을 뿐, 사용자의 위변조 얼굴 이미지를 통해 인증된 가짜 사용자를 검증하여 전자기기의 사용을 제한하거나 정보 접근을 제어하는 기술에 대해서는 관심을 두고 있지 않다. 이에, 이러한 문제점을 해결할 수 있는 위변조 얼굴 이미지를 검증할 수 있는 기술에 대한 개발이 절실한 실정이다.However, the conventional face recognition technology mainly focuses on the login of the electronic device. In order to restrict the use of the electronic device or to control the information access by verifying the authenticated fake user through the forgery of the face image of the user, I am not interested. Therefore, there is an urgent need to develop a technique for verifying a forgery face image that can solve such a problem.

본 발명은 위에서 언급한 문제점을 해결하기 위하여 안출된 것으로, 실시간으로 획득된 이미지들에 포함된 얼굴 랜드마크들의 끝점을 연결하여 생성된 삼각형을 이용하여, 획득된 이미지의 위변조 여부를 판단하는 얼굴 라이브니스 검증 방법 및 검증 장치를 제공하고자 하는 것입니다.SUMMARY OF THE INVENTION The present invention is conceived to solve the above-mentioned problems, and it is an object of the present invention to provide a facial live recording system for determining whether a captured image is forged or not by using a triangle generated by connecting end points of face landmarks included in real- And to provide a verification method and verification device.

본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있으며, 본 발명의 실시예에 의해 보다 분명하게 알게 될 것이다. 또한, 본 발명의 목적 및 장점들은 특허 청구 범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다. Other objects and advantages of the present invention will become apparent from the following description, and it will be understood by those skilled in the art that the present invention is not limited thereto. It will also be readily apparent that the objects and advantages of the invention may be realized and attained by means of the instrumentalities and combinations particularly pointed out in the appended claims.

발명의 일실시예에 따른 얼굴 라이브니스 검증 장치에서의 얼굴 라이브니스 검증 방법은 서로 다른 각도에서 M개의 기준 얼굴 이미지를 카메라를 통해 미리 획득하는 단계와, 상기 획득된 제 1 기준 얼굴 이미지 및 상기 획득된 제 M 기준 얼굴 이미지로부터 기준 삼각형들을 형성하는 단계와, 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계와, 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 실시간 삼각형들을 형성하는 단계와, 상기 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간으로 카메라를 통해 획득되는 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출하는 단계와, 상기 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단하는 단계; 및 상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 단계를 포함할 수 있다.According to an aspect of the present invention, there is provided a method for verifying facial liveness in a facial-liveness verification apparatus, comprising: acquiring M reference face images from a different angle in advance through a camera; The method comprising the steps of: forming reference triangles from an M-th reference face image obtained at different angles; acquiring real-time first real-time face images and N-th real- And generating real-time triangles from the obtained N-th real-time facial images, and generating real-time triangles based on the reference triangles generated for each of the M reference-face images and the real-time triangles generated for each real- By comparing the real triangles of the generated reference triangles with Determining a face posture of a reference face image corresponding to the most similar reference triangle as a face posture of a real-time image obtained in real time; And determining whether the real-time face image is a forged face image or a living person's face image based on the determined change in the face posture of the real-time image.

서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계는 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계를 포함하고, 상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 단계는 상기 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 자세 기준 판단 단계를 포함할 수 있다.The step of acquiring the first real-time face image and the Nth real-time face image successively from different angles through the camera in real time may include a step of instructing the face moving direction through the speaker, And realizing the first real-time face image and the N-th real-time face image through the camera in succession as the user moves the face at different angles according to the image display for moving the face The step of determining whether the face image is a forgery-altered face image or a live person's face image based on a change in the face posture of the image includes: determining whether a change in the face posture of the determined real- To the direction of movement of the image displayed in And determining whether the real time face image is a forged face image or a living person's face image based on whether or not the face image changes in accordance with the image display for moving the face.

상기 획득된 제 1 기준 얼굴 이미지 및 상기 획득된 제 M 기준 얼굴 이미지로부터 기준 삼각형들을 형성하는 단계는, 상기 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출하는 단계 및, 상기 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성하는 단계를 포함할 수 있다.Wherein the step of forming reference triangles from the obtained first reference face image and the obtained M reference face image comprises the steps of: extracting a face landmark for each of the obtained M reference face images; And forming a plurality of triangles by connecting the end points of the extracted face landmarks to the reference triangles to generate the reference triangles.

얼굴 라이브니스 검증 방법은 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 단계와, 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단하고, 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단하는 비율 변화 기준 판단 단계; 및 상기 자세 기준 판단 단계 및 상기 비율 변화 기준 판단 단계에서 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단하는 단계를 더 포함할 수 있다. The face liveness verification method includes a ratio of a first width between a width of a first triangle and a width of a second triangle contained in a first real time face image and a width of a third triangle included in the Nth real time face image, Calculating a second width ratio between the widths of the first real face image and the Nth real face when the difference between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, Judging the image as a forged face image, and when the difference value between the first and second width ratios is larger than the reference width ratio difference value, the first real-time face image and the N-th real- A ratio change criterion determining step of determining a ratio change criterion; And determining that the real-time face image is a living face image of a living person only if the real-time face image is determined to be a living face image of a living person in both of the posture criterion determination step and the rate change criterion determination step have.

실시간 삼각형을 형성하는 단계는 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출하는 단계; 및 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성하여 단계;를 포함할 수 있다.The step of forming a real-time triangle comprises: extracting a face landmark from the obtained first real-time face image and the obtained N real-time face image; And forming triangles by connecting the obtained first real-time face image and end points of a face landmark extracted from the obtained N-th real-time face image.

얼굴 라이브니스 검증 방법은 상기 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산하는 단계와, 상기 제 1 실시간 얼굴 이미지에 포함된 상기 제 1 삼각형 및 상기 제 2 삼각형에 대응되는 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출하는 단계와, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이를 계산하는 단계 및 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 단계;를 더 포함할 수 있다.Wherein the face realness verification method comprises: calculating a width of a first triangle and an area of a second triangle included in the first real-time face image; calculating a width of the first triangle and the second triangle included in the first real- Extracting a third triangle and a fourth triangle included in the Nth real-time face image corresponding to the first real face image, calculating a width of the third triangle included in the Nth real- Calculating a ratio of a first width between the step and the width of the first triangle and the width of the second triangle and a second width ratio between the width of the third triangle and the width of the fourth triangle.

제 1 삼각형 및 제 2 삼각형은 1개의 변을 공유하는 삼각형들일 수 있다.The first triangle and the second triangle may be triangles sharing one side.

본 발명의 또 다른 일 실시예에 따른 얼굴 라이브니스 검증 장치는 서로 다른 각도에서 제 1 기준 얼굴 이미지 및 제 M 기준 얼굴 이미지 및, 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득하는 카메라와, 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 M 실시간 얼굴 이미지로부터 기준 삼각형들을 형성하고, 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 실시간 삼각형들을 형성하는 삼각형 생성부와, 상기 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출하는 삼각형 추출부와, 상기 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단하는 자세 판단부; 및 상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 라이브니스 판단부;를 포함할 수 있다.The face liveness verifying apparatus according to another embodiment of the present invention includes a first reference face image and an M reference face image at different angles, and a first real-time face image and an N-th real- Wherein the first real-time face image is obtained from the obtained first real-time face image and the obtained M real-time face image, A triangle generating unit for generating real triangles and comparing the similarities of the real triangles generated for each of the M reference face images and the reference triangles generated for each real face image to generate a reference triangle A triangle extracting unit for extracting the most similar reference Posture determination unit for determining the posture of the face based on the face image corresponding to the rectangular faces to the position of the real-time image obtained in real time; And a liveness determination unit for determining whether a real-time face image is a forged face image or a live person's face image based on a change in the face posture of the determined real-time image.

카메라는 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록 하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득하고, 라이브니스 판단부는 상기 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 자세 기준으로 판단할 수 있다.The camera can continuously display the first real time image in accordance with the user's face moving at different angles according to the instruction voice for the face movement direction through the speaker or the image display for moving the face according to the moving direction of the image displayed on the display unit, And the liveness determination unit obtains the face image and the Nth real time face image in real time, and the liveness determination unit determines that the change in the face posture of the determined real time image is in the direction of the face movement direction through the speaker, It is possible to judge whether the real-time face image is a forged face image or whether it is a living person's face image based on the posture criterion based on whether or not the real-time face image is changed in accordance with the image display for moving the face.

얼굴 라이브니스 검증 장치는 상기 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출하는 랜드마크 추출부;를 더 포함하고, 삼각형 생성부는 상기 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성할 수 있다.The face loudness verifying apparatus further includes a landmark extracting unit for extracting a face landmark for each of the M reference face images, and the triangle generating unit extracts a face landmark extracted for each of the M reference face images landmarks of the reference triangles may be connected to form a plurality of triangles to generate reference triangles.

얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 연산부;를 더 포함하고, 라이브니스 판단부는 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단하고, 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단하는 비율 변화 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단할 수 있다.Wherein the face liveness verifying apparatus includes a first width ratio between the width of the first triangle and the width of the second triangle included in the first real time face image and a width of the third triangle included in the N real time face image, Wherein the liveness determining unit determines that the first real time ratio and the second real time ratio are smaller than the reference width ratio difference value when the difference between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, The face image and the N-th real time face image are judged as a forged face image, and when the difference value between the first width ratio and the second width ratio is larger than the reference width ratio difference value, The N-th real-time face image is judged as the face image of a living person, It is possible to judge whether the image is unknown or whether it is a face image of a living person.

라이브니스 판단부는 상기 자세 기준으로 판단한 결과 및 비율 변화 기준으로 판단한 결과에서 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단할 수 있다.The liveness judgment unit can judge that the real-time face image is a living face image of a living person only if the real-time face image is judged to be a living face image of a living person, .

얼굴 라이브니스 검증 장치는 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출하는 랜드마크 추출부;를 더 포함하고, 삼각형 생성부는 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성할 수 있다.Wherein the face presence verifying apparatus further comprises a landmark extracting unit for extracting a face landmark from the obtained first real time face image and the obtained Nth real time face image, 1 real-time face image and the end points of a face landmark extracted from the obtained N-th real-time face image to form triangles.

얼굴 라이브니스 검증 장치는 상기 제 1 실시간 얼굴 이미지에 포함된 상기 제 1 삼각형 및 상기 제 2 삼각형에 대응되는 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출하는 삼각형 추출부;를 더 포함하고, 연산부는 상기 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산하고, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이를 계산하고, 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산할 수 있다.The face liveness verifying apparatus includes a triangle extracting unit for extracting a third triangle and a fourth triangle included in the first real-time face image and the first real-time face image corresponding to the first real- Wherein the calculation unit calculates the width of the first triangle and the width of the second triangle included in the first real-time face image, and calculates the width of the third triangle included in the N-th real- The width of the triangle is calculated and the ratio of the first width between the width of the first triangle and the width of the second triangle and the width of the third triangle and the second width ratio between the width of the fourth triangle can be calculated.

제 1 삼각형 및 제 2 삼각형은 1개의 변을 공유하는 삼각형들일 수 있다.The first triangle and the second triangle may be triangles sharing one side.

개시된 발명에 따르면, 실시간으로 획득된 이미지들에 포함된 얼굴 랜드마크들의 끝점을 연결하여 생성된 삼각형을 이용하여, 획득된 이미지의 위변조 여부를 판단함으로써, 단말기에서 얼굴 이미지의 위변조 여부를 정확하게 판단할 수 있다.According to the disclosed invention, whether the obtained image is forged or not is determined using a triangle generated by connecting end points of face landmarks included in images obtained in real time, thereby accurately determining whether the terminal image is forged or falsified .

도 1은 얼굴 라이브니스 검증 장치를 설명하기 위한 도면이다.
도 2 내지 도 5는 얼굴 라이브니스 검증 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 얼굴 자세 기준으로 라이브니스를 판단하는 얼굴 라이브니스 검증 방법을 설명하기 위한 흐름도이다.
도 7은 본 발명의 일 실시예에 따른 비율 변화 기준으로 라이브니스를 판단하는 얼굴 라이브니스 검증 방법을 설명하기 위한 흐름도이다.
1 is a diagram for explaining a face presence verification apparatus.
FIGS. 2 to 5 are diagrams for explaining a face liveness verification method.
FIG. 6 is a flowchart illustrating a method for verifying facenessness of a face based on a face posture standard according to an exemplary embodiment of the present invention. Referring to FIG.
FIG. 7 is a flowchart illustrating a method for verifying facenessness in which a livenessness is determined based on a ratio change criterion according to an embodiment of the present invention.

이하, 첨부된 도면을 참조하여 발명을 실시하기 위한 구체적인 내용에 대하여 상세하게 설명한다. Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

도 1은 얼굴 라이브니스 검증 장치를 설명하기 위한 도면이다.1 is a diagram for explaining a face presence verification apparatus.

도 1을 참조하면, 얼굴 라이브니스 검증 장치(100)는 카메라(110), 랜드마크 추출부(120), 삼각형 생성부(130), 삼각형 추출부(140), 연산부(150), 라이브니스 판단부(160) 및, 자세 판단부(170)를 포함한다.Referring to FIG. 1, the face presence verification apparatus 100 includes a camera 110, a landmark extraction unit 120, a triangle generation unit 130, a triangle extraction unit 140, an operation unit 150, And a posture judging unit 170. The posture judging unit 170 judges whether or not the posture is acceptable.

카메라(110)는 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득할 수 있다. 예를 들면, 얼굴 이미지는 정면 얼굴 이미지, 좌측면 얼굴 이미지, 우측면 얼굴 이미지, 상측면 얼굴 이미지, 하측면 얼굴이미지 등과 같이 서로 다른 각도에서 얻어진 이미지 일 수 있다.The camera 110 can acquire real-time first real-time face images and Nth real-time face images that are continuous at different angles. For example, the face image may be an image obtained at different angles such as a front face image, a left side face image, a right side face image, an upper side face image, a lower side face image, and the like.

카메라(110)는 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록 하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득할 수 있다. 예를 들면, 지시 음성은 "얼굴을 왼쪽으로 회전시키세요", "얼굴을 위쪽으로 올려주세요" 등과 같이 사용자의 얼굴 움직임에 대한 방향을 지시할 수 있는 음성일 수 있다. 또한, 예를 들면, 이미지 표시는 디스플레이부에 표시되는 이미지('도넛, 가면 등')이고, 디스플레이부에 이미지가 왼쪽으로 이동하도록 표시하여 사용자가 얼굴을 왼쪽으로 이동 시키도록 유도할 수 있다.The camera 110 may display an instruction voice for a face movement direction through a speaker or an image display for moving a face in accordance with the moving direction of the image displayed on the display unit, The first real time face image and the Nth real time face image can be obtained in real time. For example, the instruction voice may be a voice that can direct the direction of the user's facial movement such as "rotate the face to the left "," raise the face to the upper side ". Also, for example, the image display may be an image displayed on the display unit ('donut, mask, etc.') and may be displayed on the display unit to move the image to the left so that the user can move the face to the left.

카메라(110)는 서로 다른 각도에서 M개의 기준 얼굴 이미지를 획득할 수 있다. 기준 얼굴 이미지는 실시간 얼굴 이미지를 획득하기 이전에 얻어진 이미지로, 특정 기준을 설정하기 위해 미리 얻어진 이미지를 의미한다.The camera 110 may obtain M reference face images at different angles. The reference face image is an image obtained before obtaining the real time face image, which means an image obtained in advance to set a specific reference.

랜드마크 추출부(120)는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출할 수 있다. The landmark extracting unit 120 may extract a face landmark from the obtained first real-time face image and the obtained N-th real-time face image.

랜드마크 추출부(120)는 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출할 수 있다.The landmark extracting unit 120 may extract a landmark for each of the M reference face images.

삼각형 생성부(130)는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 삼각형들을 형성할 수 있다.The triangle generator 130 may form triangles from the obtained first real-time face image and the obtained N real-time face image.

예를 들면, 삼각형 생성부(130)는 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성할 수 있다.For example, the triangle generator 130 may form triangles by connecting the obtained first real-time face image and the end points of a face landmark extracted from the obtained N real-time face image.

또 다른 예를 들면, 삼각형 생성부(130)는 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성할 수 있다.As another example, the triangle generator 130 may generate a plurality of triangles by connecting the end points of the face landmarks extracted for each of the M reference face images to generate a reference triangle.

삼각형 추출부(140)는 삼각형 생성부(130)에 의해 형성됨 삼각형들 중 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형 및 제 2 삼각형를 추출하고, 제 1 삼각형 및 제 2 삼각형에 대응되는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출할 수 있다.The triangle extracting unit 140 extracts the first triangle and the second triangle included in the first real-time face image among the triangles formed by the triangle generating unit 130, and outputs the N-th real time The third triangle included in the face image, and the fourth triangle.

여기서, 제 1 삼각형 및 제 2 삼각형은 1개의 변을 공유하는 삼각형들일 수 있다. 이는, 1개의 변을 공유하는 2개의 삼각형에 대해, 첫번째 2D 이미지에서의 2개의 삼각형의 넓이 비율 및 두번째 2D 이미지('연속적으로 또는 서로 다른 각도에서 획득된 이미지)에서의 2개의 삼각형의 넓이 비율의 변화가 거의 없는 경우, 첫번째 2D 이미지 및 두번째 2D 이미지는 모두 2D 이미지로 판단할 수 있기 때문이다. Here, the first triangle and the second triangle may be triangles sharing one side. This means that for two triangles sharing one side, the ratio of the width of the two triangles in the first 2D image and the ratio of the widths of the two triangles in the second 2D image (the image obtained continuously or at different angles) The first 2D image and the second 2D image can both be judged as 2D images.

삼각형 추출부(140)는 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간 얼굴 이미지별로 생성된 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출할 수 있다.The triangle extracting unit 140 compares the similarities of the reference triangles generated for each of the M reference face images and the triangles generated for each real-time face image, and extracts the reference triangle most similar to the real-time triangle among the generated reference triangles .

연산부(150)는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산할 수 있다.The arithmetic unit 150 calculates a ratio of a first width ratio between the width of the first triangle and the width of the second triangle included in the first real time face image and a width of the third triangle included in the N real time face image, The second area ratio between the widths of the first area and the second area can be calculated.

예를 들면, 연산부(150)는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산할 수 있다.For example, the operation unit 150 may calculate the width of the first triangle and the width of the second triangle included in the first real-time face image.

연산부(150)는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이를 계산할 수 있다.The operation unit 150 may calculate the width of the third triangle included in the Nth real time face image and the width of the fourth triangle.

연산부(150)는 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산할 수 있다.The operation unit 150 can calculate the ratio of the first width between the width of the first triangle and the width of the second triangle, and the second width ratio between the width of the third triangle and the width of the fourth triangle.

라이브니스 판단부(160)는 자세 판단부(170)에서 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단할 수 있다. 예를 들면, 라이브니스 판단부(160)는 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 자세 기준으로 판단할 수 있다. 구체적으로, 라이브니스 판단부(160)는 얼굴 자세를 기준으로 사용자의 얼굴이 음성('얼굴을 왼쪽으로 회전하세요')과 일치하는 방향으로 이동하였는지를 판단하고, 일치되는 경우 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지라고 판단할 수 있다.The liveness judging unit 160 can judge whether the real time face image is a forged face image or a live face image based on the change of the face posture of the real time image judged by the posture judging unit 170. [ For example, the liveness determination unit 160 determines whether the change in the face posture of the determined real-time image is an instruction voice for the face movement direction through the speaker or an image for moving the face in accordance with the movement direction of the image displayed on the display unit It is possible to determine whether the real time face image is a forged face image or whether it is a living person's face image based on the posture reference. Specifically, the liveness judging unit 160 judges whether the face of the user has moved in the direction coinciding with the voice ('rotate the face to the left') on the basis of the face posture, It is possible to judge that the face image of the user.

라이브니스 판단부(160)는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단할 수 있다. 넓이 비율의 차이값이 크다는 것은 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지가 2D 이미지가 아니라('3D 이미지')는 것을 의미한다. 따라서, 라이브니스 판단부(160)는 사용자가 2D 이미지를 회전/이동 시키면서 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 카메라를 통해 입력한 것이 아니고, 살아있는 사람이 움직이면서 얼굴 이미지를 카메라를 통해 입력한 것으로 판단할 수 있다.The liveness judging unit 160 judges the first real time face image and the Nth real time face image as a living person's face image when the difference value between the first width ratio and the second width ratio is larger than the reference width ratio difference value . The large difference in width ratio means that the first real-time face image and the Nth real-time face image are not 2D images ('3D images'). Accordingly, the liveness judging unit 160 does not input the first real-time face image and the Nth real-time face image through the camera while the user rotates / moves the 2D image, and inputs the face image through the camera as the live person moves As shown in FIG.

반면에, 라이브니스 판단부(160)는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단할 수 있다. 넓이 비율의 차이값이 작다는 것은 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지가 2D 이미지라는 것을 의미한다. 따라서, 라이브니스 판단부(160)는 사용자가 2D 이미지를 회전/이동 시키면서 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 카메라를 통해 입력한 것으로 판단하여, 현재 획득된 실시간 얼굴 이미지는 위변조된 얼굴 이미지로 판단할 수 있다.On the other hand, if the difference value between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, the liveness judging unit 160 sets the first real time face image and the Nth real time face image as a forged It can be judged. The small difference value of the width ratio means that the first real time face image and the Nth real time face image are 2D images. Accordingly, the liveness judging unit 160 judges that the user inputs the first real-time face image and the Nth real-time face image through the camera while rotating / moving the 2D image, and the currently obtained real- You can judge by image.

라이브니스 판단부(160)는 자세 기준으로 판단한 결과 및 상기 비율 변화 기준으로 판단한 결과에서 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단할 수 있다. 이와 같이, 2 단계를 통해 라이브니스를 판단함으로써, 본 발명에 따른 라이브니스 판단부(160)는 더욱 정확하게 라이브니스를 판단할 수 있다.Only when the real-time face image is judged as a face image of a living person, the liveness judgment unit 160 judges whether the real-time face image is a living face image of a living person It can be judged. Thus, by judging the liveness through the two steps, the liveness determiner 160 according to the present invention can more accurately determine the liveness.

자세 판단부(170)는 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단할 수 있다.The posture determination unit 170 can determine the face posture of the reference face image corresponding to the most similar reference triangle as the face posture of the real-time image obtained in real time.

도 2 내지 도 5는 얼굴 라이브니스 검증 방법을 설명하기 위한 도면이다.FIGS. 2 to 5 are diagrams for explaining a face liveness verification method.

도 2 내지 도 5를 참조하면, 얼굴 라이브니스 검증 방법에 있어서, 얼굴 라이브니스 검증 장치는 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득할 수 있다. 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지라고 표현하였으나, 실시간으로 획득되는 실시간 얼굴 이미지의 개수는 다양하게 설정할 수 있다.2 to 5, in the face presence verification method, the face liveness verification apparatus can acquire the first real-time face image and the Nth real-time face image successive from different angles in real time through the camera . The first real-time face image, and the N-th real-time face image, the number of real-time face images obtained in real-time can be variously set.

도 2를 참조하면, 얼굴 라이브니스 검증 장치는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출할 수 있다. Referring to FIG. 2, the face presence verification apparatus can extract a face landmark from the obtained first real-time face image and the obtained N-th real-time face image.

도 3을 참조하면, 얼굴 라이브니스 검증 장치는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 삼각형들을 형성할 수 있다. 예를 들면, 얼굴 라이브니스 검증 장치는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성할 수 있다.Referring to FIG. 3, the face-life verifying apparatus may form triangles from the obtained first real-time face image and the obtained N-th real-time face image. For example, the face-life verifying apparatus may form triangles by connecting the obtained first real-time face image and the end points of the face landmark extracted from the obtained N-th real-time face image.

도 4를 참조하면, 얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형(400)의 넓이 및 제 2 삼각형(410)의 넓이를 계산할 수 있다. 제 1 삼각형(400) 및 제 2 삼각형(410)은 1개의 변을 공유하는 삼각형들이다.Referring to FIG. 4, the face liveness verifier can calculate the width of the first triangle 400 included in the first real-time face image and the width of the second triangle 410. The first triangle 400 and the second triangle 410 are triangles that share one side.

얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형(400) 및 제 2 삼각형(410)에 대응되는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형(420) 및 제 4 삼각형(430)을 추출할 수 있다. 예를 들면, 제 3 삼각형(420)은 제 1 삼각형(400)에 대응되는 삼각형이고, 제 4 삼각형(430)은 제 2 삼각형(410)에 대응되는 삼각형으로, 양 삼각형을 비교함으로써 얼굴의 변화를 인식할 수 있다.The facial verity verification apparatus includes a first triangle 400 included in the first real-time facial image, and a third triangle 420 and a fourth triangle 420 included in the N-th real-time facial image corresponding to the second triangle 410 Can be extracted. For example, the third triangle 420 is a triangle corresponding to the first triangle 400, the fourth triangle 430 is a triangle corresponding to the second triangle 410, Can be recognized.

얼굴 라이브니스 검증 장치는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형(420)의 넓이 및 제 4 삼각형(430)의 넓이를 계산할 수 있다.The face presence verifying apparatus can calculate the width of the third triangle 420 and the width of the fourth triangle 430 included in the Nth real time face image.

얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산할 수 있다.Wherein the face liveness verifying apparatus includes a first width ratio between the width of the first triangle and the width of the second triangle included in the first real time face image and a width of the third triangle included in the N real time face image, The second width ratio between the widths of the triangle can be calculated.

얼굴 라이브니스 검증 장치는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단할 수 있다.The face liveness verifying apparatus can determine the first real time face image and the Nth real time face image as a forged face image when the difference value between the first width ratio and the second width ratio is smaller than the reference width ratio difference value .

얼굴 라이브니스 검증 장치는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단할 수 있다.The face liveness verifying apparatus can determine the first real time face image and the Nth real time face image as a living person's face image when the difference value between the first width ratio and the second width ratio is larger than the reference width ratio difference value .

얼굴 라이브니스 검증 장치는 서로 다른 각도에서 M개의 기준 얼굴 이미지를 카메라를 통해 미리 획득할 수 있다.The face liveness verifying apparatus can acquire M reference face images from the different angles in advance through the camera.

얼굴 라이브니스 검증 장치는 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출할 수 있다.The face presence verifying apparatus can extract a face landmark for each of the M reference face images obtained.

도 5를 참조하면, 얼굴 라이브니스 검증 장치는 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성할 수 있다. 예를 들면, M개의 기준 얼굴 이미지는 왼쪽시선 얼굴 이미지, 정면시선 얼굴 이미지, 오른쪽시선 얼굴 이미지, 위쪽시선 얼굴이미지 등을 포함할 수 있다. Referring to FIG. 5, the face liveness verification apparatus may generate a plurality of triangles by connecting the end points of the face landmarks extracted for each of the M reference face images to generate a reference triangle. For example, the M reference face images may include a left gaze face image, a front gaze face image, a right gaze face image, an upper gaze face image, and the like.

얼굴 라이브니스 검증 장치는 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간으로 카메라를 통해 획득되는 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출할 수 있다.The face liveness verifying apparatus compares the similarity of the reference triangles generated for each of the M reference face images and the real-time triangles generated for each real-time face image obtained through the camera in real time, The reference triangle can be extracted.

얼굴 라이브니스 검증 장치는 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단하고, 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단할 수 있다.The facial verity verification device judges the face posture of the reference face image corresponding to the most similar reference triangle as the face posture of the real-time image obtained in real time, and determines whether the real- It is possible to judge whether the face image is a face image of a living person or a face image of a living person.

도 6은 본 발명의 일 실시예에 따른 얼굴 자세 기준으로 라이브니스를 판단하는 얼굴 라이브니스 검증 방법을 설명하기 위한 흐름도이다.FIG. 6 is a flowchart illustrating a method for verifying facenessness of a face based on a face posture standard according to an exemplary embodiment of the present invention. Referring to FIG.

도 1 및 도 6을 참조하면, 얼굴 라이브니스 검증 장치는 서로 다른 각도에서 M개의 기준 얼굴 이미지를 카메라를 통해 미리 획득한다(500). 얼굴 라이브니스 검증 장치는 획득된 제 1 기준 얼굴 이미지 및 상기 획득된 제 M 기준 얼굴 이미지로부터 기준 삼각형들을 형성한다(510).Referring to FIGS. 1 and 6, the face presence verifying apparatus acquires M reference face images from cameras at different angles in advance (500). The face liveness verifying apparatus forms reference triangles from the obtained first reference face image and the obtained M th reference face image (510).

얼굴 라이브니스 검증 장치는 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간으로 카메라를 통해 획득되는 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출한다(520).The face liveness verifying apparatus compares the similarity of the reference triangles generated for each of the M reference face images and the real-time triangles generated for each real-time face image obtained through the camera in real time, A reference triangle is extracted (520).

얼굴 라이브니스 검증 장치는 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단한다(530).The facial verity verification apparatus judges the face posture of the reference face image corresponding to the most similar reference triangle as the face posture of the real-time image obtained in real time (530).

얼굴 라이브니스 검증 장치는 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단할 수 있다(540).The facial verity verification apparatus can determine whether the real-time face image is a forged face image or a living person's face image based on a change in the face posture of the judged real-time image (540).

예를 들면, 얼굴 라이브니스 검증 장치는 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득할 수 있다.For example, the face presence verifying apparatus may be configured to display an instruction voice for a face movement direction through a speaker or an image display for moving a face in accordance with a moving direction of an image displayed on the display unit, The first real-time face image and the N-th real-time face image can be continuously acquired through the camera in real time according to the movement.

그 다음, 얼굴 라이브니스 검증 장치는 상기 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단('자세 기준으로 판단')할 수 있다.Then, the face presence verifying apparatus determines whether the change of the face posture of the determined real-time image is an instruction voice for the face movement direction through the speaker or an image display for moving the face according to the moving direction of the image displayed on the display unit It is possible to judge whether the real-time face image is a forged face image or a living person's face image based on whether or not the face image is coincidentally changed.

이와 같이, 얼굴 라이브니스 검증 장치는 삼각형의 유사도를 기준으로 실시간 얼굴 이미지의 자세를 판단하고, 판단된 자세를 기준으로 살아있는 사람의 얼굴 이미지인지 여부를 판단하는 것으로, 기존의 방식보다 삼각형의 유사도를 기준으로 판단하므로 더욱 정밀하게 얼굴 이미지의 자세를 판단할 수 있을 뿐만 아니라 이를 기준으로 라이브니스를 판단함으로써 라이브니스 판단을 더욱 정확하게 할 수 있는 효과가 있다.As described above, the face liveness verifying apparatus determines the posture of the real-time face image based on the similarity degree of the triangle and determines whether or not the face image of the living person is based on the determined posture. It is possible to more accurately determine the posture of the face image and to judge the loudness based on the posture of the face image, thereby making it possible to more accurately determine the loudness.

도 7은 본 발명의 일 실시예에 따른 비율 변화 기준으로 라이브니스를 판단하는 얼굴 라이브니스 검증 방법을 설명하기 위한 흐름도이다.FIG. 7 is a flowchart illustrating a method for verifying facenessness in which a livenessness is determined based on a ratio change criterion according to an embodiment of the present invention.

도 1 및 도 7을 참조하면, 얼굴 라이브니스 검증 장치는 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득한다(600).Referring to FIGS. 1 and 7, the facial-liveness verification apparatus acquires a first real-time face image and a Nth real-time face image successively from different angles through a camera in real time (600).

얼굴 라이브니스 검증 장치는 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득한다(610).The face liveness verifying apparatus acquires 610 the first real-time face image and the Nth real-time face image successively from different angles in real time through the camera.

얼굴 라이브니스 검증 장치는 획득된 제 1 실시간 얼굴 이미지 및 획득된 제 N 실시간 얼굴 이미지로부터 실시간 삼각형들을 형성한다(620).The face presence verification apparatus forms real-time triangles from the acquired first real-time face image and the obtained N-th real-time face image (620).

얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산한다(630).The facial verity verification apparatus calculates 630 the width of the first triangle and the width of the second triangle included in the first real-time face image.

얼굴 라이브니스 검증 장치는 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형 및 제 2 삼각형에 대응되는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출한다(640).The facial verity verification apparatus extracts a first triangle included in the first real-time face image and a third triangle and a fourth triangle included in the N-th real-time face image corresponding to the second triangle (640).

얼굴 라이브니스 검증 장치는 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 제 4 삼각형의 넓이를 계산한다(650).The facial-liveness verification apparatus calculates 650 the width of the third triangle and the width of the fourth triangle included in the Nth real-time face image.

얼굴 라이브니스 검증 장치는 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산한다(660).The facial-liveness verification apparatus calculates 660 the ratio of the first width between the width of the first triangle and the width of the second triangle, and the second width ratio between the width of the third triangle and the width of the fourth triangle.

얼굴 라이브니스 검증 장치는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은지 여부를 판단한다(670).The face presence verifying apparatus determines whether the difference value between the first and second width ratios is smaller than the reference width ratio difference value (670).

얼굴 라이브니스 검증 장치는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단한다(680).If the difference between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, the face liveness verifying apparatus determines the first real-time face image and the Nth real-time face image as the forged face image (680) .

얼굴 라이브니스 검증 장치는 제 1 넓이 비율 및 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단한다.The facial verity verification apparatus judges that the first real time face image and the Nth real time face image are a living person's face image when the difference value between the first width ratio and the second width ratio is larger than the reference width ratio difference value .

얼굴 라이브니스 검증 장치는 도 6에 기재된 자세 기준으로 판단한 결과 및 도 7에 기재된 비율 변화 기준으로 판단된 결과 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단할 수 있다.The face liveness verifying apparatus may be configured such that only when the result of the determination based on the posture reference described in Fig. 6 and the result of judging based on the ratio change criterion shown in Fig. 7 are all the face images of the living person, It can be judged by the face image of a person.

설명된 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.The embodiments described may be constructed by selectively combining all or a part of each embodiment so that various modifications can be made.

또한, 실시예는 그 설명을 위한 것이며, 그 제한을 위한 것이 아님을 주의하여야 한다. 또한, 본 발명의 기술분야의 통상의 전문가라면 본 발명의 기술사상의 범위에서 다양한 실시예가 가능함을 이해할 수 있을 것이다.It should also be noted that the embodiments are for explanation purposes only, and not for the purpose of limitation. In addition, it will be understood by those of ordinary skill in the art that various embodiments are possible within the scope of the technical idea of the present invention.

100 : 얼굴 라이브니스 검증 장치
110 : 카메라
120 : 랜드마크 추출부
130 : 삼각형 생성부
140 : 삼각형 추출부
150 : 연산부
160 : 라이브니스 판단부
170 : 자세 판단부
100: Facial loudness verifying device
110: camera
120: landmark extracting unit
130: triangle generator
140: triangle extraction unit
150:
160:
170:

Claims (15)

얼굴 라이브니스 검증 장치에서의 얼굴 라이브니스 검증 방법에 있어서,
서로 다른 각도에서 M개의 기준 얼굴 이미지를 카메라를 통해 미리 획득하는 단계;
상기 획득된 제 1 기준 얼굴 이미지 및 상기 획득된 제 M 기준 얼굴 이미지로부터 기준 삼각형들을 형성하는 단계;
서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계;
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 실시간 삼각형들을 형성하는 단계;
상기 M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간으로 카메라를 통해 획득되는 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출하는 단계;
상기 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단하는 단계; 및
상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 단계를 포함하는, 얼굴 라이브니스 검증 방법.
A method for verifying facial liveness in a facial verity verification apparatus,
Acquiring M reference face images from cameras at different angles in advance;
Forming reference triangles from the obtained first reference face image and the obtained M reference face image;
Acquiring a first real-time face image and an N-th real-time face image successively from different angles through a camera in real time;
Forming real-time triangles from the obtained first real-time face image and the obtained N-real-time face image;
The reference triangles generated for each of the M reference face images and the real time triangles generated for each real time face image obtained through the camera in real time are compared to extract the reference triangle most similar to the real time triangle among the generated reference triangles step;
Determining a face posture of the reference face image corresponding to the most similar reference triangle as a face posture of a real-time image obtained in real time; And
And determining whether a real-time face image is a forged face image or a living person's face image based on the determined change in the face posture of the real-time image.
제 1 항에 있어서,
상기 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계는
스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 카메라를 통해 획득하는 단계를 포함하고,
상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 단계는,
상기 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 자세 기준 판단 단계를 포함하는, 얼굴 라이브니스 검증 방법.
The method according to claim 1,
Wherein acquiring the first real-time face image and the Nth real-time face image successively from the different angles through the camera in real time
According to the instruction voice for the face movement direction through the speaker or the image display for moving the face in accordance with the moving direction of the image displayed on the display unit, the user continuously moves the first real time face image And acquiring the N-th real time face image through the camera in real time,
The step of determining whether a forged face image or a living face image of a living person is based on a change in the face posture of the determined real-
Wherein the change of the face posture of the determined real-time image changes according to an instruction voice for the face movement direction through the speaker or an image display for moving the face according to the moving direction of the image displayed on the display unit, And a posture criterion judgment step of judging whether the real time face image is a forged face image or a live person's face image.
제 1 항에 있어서,
상기 획득된 제 1 기준 얼굴 이미지 및 상기 획득된 제 M 기준 얼굴 이미지로부터 기준 삼각형들을 형성하는 단계는,
상기 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출하는 단계; 및
상기 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성하는 단계;를 포함하는, 얼굴 라이브니스 검증 방법.
The method according to claim 1,
Wherein forming the reference triangles from the obtained first reference face image and the obtained M reference face image comprises:
Extracting a face landmark for each of the M reference face images; And
And creating a plurality of triangles by connecting the end points of the landmarks extracted for each of the M reference face images to generate a reference triangle.
제 2 항에 있어서,
제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 단계;
상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단하고, 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단하는 비율 변화 기준 판단 단계; 및
상기 자세 기준 판단 단계 및 상기 비율 변화 기준 판단 단계에서 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단하는 단계를 더 포함하는, 얼굴 라이브니스 검증 방법.
3. The method of claim 2,
A first width ratio between the width of the first triangle and the width of the second triangle included in the first real time face image and a second width between the width of the third triangle included in the N real time face image and the width of the fourth triangle, Calculating a ratio;
Judging the first real-time face image and the N-th real-time face image as a forged face image when the difference value between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, A ratio change criterion determining step of determining the first real-time face image and the N-th real-time face image as a face image of a living person when the difference between the ratio and the second width ratio is larger than the reference width ratio difference value; And
And determining that the real-time face image is a living face image of a living person only if the real-time face image is determined to be a living face image of a living person in both of the posture criterion determination step and the rate change criterion determination step How to verify Liveness.
제 1 항에 있어서,
상기 실시간 삼각형을 형성하는 단계는,
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출하는 단계; 및
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성하여 단계;를 포함하는, 얼굴 라이브니스 검증 방법.
The method according to claim 1,
The step of forming the real-
Extracting a face landmark from the obtained first real-time face image and the obtained N-th real-time face image; And
And forming triangles by connecting the obtained first real-time face image and end points of a face landmark extracted from the obtained N-th real-time face image.
제 4 항에 있어서,
상기 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산하는 단계;
상기 제 1 실시간 얼굴 이미지에 포함된 상기 제 1 삼각형 및 상기 제 2 삼각형에 대응되는 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출하는 단계;
상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이를 계산하는 단계; 및
제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 단계;를 더 포함하는, 얼굴 라이브니스 검증 방법.
5. The method of claim 4,
Calculating a width of the first triangle and an area of the second triangle included in the first real time face image;
Extracting a third triangle and a fourth triangle included in the N th real time face image corresponding to the first triangle and the second triangle included in the first real time face image;
Calculating an area of a third triangle included in the Nth real time face image and an area of the fourth triangle; And
Calculating a ratio of a first width between the width of the first triangle and the width of the second triangle and a second width ratio between the width of the third triangle and the width of the fourth triangle, .
제 4 항에 있어서,
상기 제 1 삼각형 및 상기 제 2 삼각형은,
1개의 변을 공유하는 삼각형들인, 얼굴 라이브니스 검증 방법.
5. The method of claim 4,
Wherein the first triangle and the second triangle are arranged such that,
A method for verifying facial liveness, the triangles sharing one side.
서로 다른 각도에서 제 1 기준 얼굴 이미지 및 제 M 기준 얼굴 이미지 및, 서로 다른 각도에서 연속된 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득하는 카메라;
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 M 실시간 얼굴 이미지로부터 기준 삼각형들을 형성하고, 상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 실시간 삼각형들을 형성하는 삼각형 생성부;
M개의 기준 얼굴 이미지별로 생성된 기준 삼각형들 및 실시간 얼굴 이미지별로 생성된 실시간 삼각형의 유사도를 비교하여, 생성된 기준 삼각형들 중 실시간 삼각형과 가장 유사한 기준 삼각형을 추출하는 삼각형 추출부;
상기 가장 유사한 기준 삼각형에 해당되는 기준 얼굴 이미지의 얼굴 자세를 실시간으로 획득된 실시간 이미지의 얼굴 자세로 판단하는 자세 판단부; 및
상기 판단된 실시간 이미지의 얼굴 자세의 변화를 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는 라이브니스 판단부;를 포함하는, 얼굴 라이브니스 검증 장치.
A camera for acquiring in real time a first reference face image and an Mth reference face image at different angles, and a first real-time face image and a Nth real-time face image successive from different angles;
A third real-time facial image forming unit configured to form reference triangles from the obtained first real-time facial image and the obtained M real-time facial image, form real-time triangles from the obtained first real- ;
A triangle extracting unit for comparing the similarities of the reference triangles generated for each of the M reference face images and the real time triangles generated for each real time face image and extracting a reference triangle most similar to the real time triangle among the generated reference triangles;
A posture judging unit for judging the face posture of the reference face image corresponding to the most similar reference triangle as the face posture of the real time image obtained in real time; And
And a liveness determination unit for determining whether a real-time face image is a forged face image or a living person's face image based on a change in the face posture of the determined real-time image.
제 8 항에 있어서,
상기 카메라는,
스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록 하는 이미지 표시에 따라, 사용자가 서로 다른 각도로 얼굴을 움직임에 따라 연속적으로 제 1 실시간 얼굴 이미지 및 제 N 실시간 얼굴 이미지를 실시간으로 획득하고,
상기 라이브니스 판단부는,
상기 판단된 실시간 이미지의 얼굴 자세의 변화가 스피커를 통한 얼굴 움직임 방향에 대한 지시 음성 또는, 디스플레이부에 표시된 이미지의 이동방향에 맞게 얼굴을 움직이도록하는 이미지 표시와 일치되게 변화하는지 여부를 기준으로, 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 자세 기준으로 판단하는, 얼굴 라이브니스 검증 장치.
9. The method of claim 8,
The camera comprises:
According to the instruction voice for the face movement direction through the speaker or the image display for moving the face in accordance with the moving direction of the image displayed on the display unit, the user continuously moves the first real time face image And an Nth real time face image in real time,
Wherein the liveness judging unit judges,
Wherein the change of the face posture of the determined real-time image changes according to an instruction voice for the face movement direction through the speaker or an image display for moving the face according to the moving direction of the image displayed on the display unit, A facial liveness verifying apparatus for judging whether a real-time face image is a forged face image or a living person's face image based on an attitude reference.
제 8 항에 있어서,
상기 획득된 M개의 기준 얼굴 이미지별로 얼굴 랜드마크(landmark)를 추출하는 랜드마크 추출부;를 더 포함하고,
상기 삼각형 생성부는,
상기 M개의 기준 얼굴 이미지별로 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 다수의 삼각형을 형성하여 기준 삼각형을 생성하는, 얼굴 라이브니스 검증 장치.
9. The method of claim 8,
And a landmark extracting unit for extracting a face landmark for each of the obtained M reference face images,
The triangle generation unit may generate,
And connecting the end points of the face landmarks extracted for each of the M reference face images to form a plurality of triangles to generate a reference triangle.
제 9 항에 있어서,
제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는 연산부;를 더 포함하고,
상기 라이브니스 판단부는,
상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 작은 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 위변조된 얼굴 이미지로 판단하고, 상기 제 1 넓이 비율 및 상기 제 2 넓이 비율의 차이값이 기준 넓이 비율 차이값보다 큰 경우, 상기 제 1 실시간 얼굴 이미지 및 상기 제 N 실시간 얼굴 이미지를 살아있는 사람의 얼굴 이미지로 판단하는 비율 변화 기준으로 실시간 얼굴 이미지가 위변조된 얼굴 이미지인지 살아있는 사람의 얼굴 이미지인지를 판단하는, 얼굴 라이브니스 검증 장치.
10. The method of claim 9,
A first width ratio between the width of the first triangle and the width of the second triangle included in the first real time face image and a second width between the width of the third triangle included in the N real time face image and the width of the fourth triangle, And an operation unit for calculating a ratio,
Wherein the liveness judging unit judges,
Judging the first real-time face image and the N-th real-time face image as a forged face image when the difference value between the first width ratio and the second width ratio is smaller than the reference width ratio difference value, And the second width ratio is greater than the reference width ratio difference value, the real-time face image is obtained by using the ratio change reference for determining the first real-time face image and the N-th real- A facial liveness verifying apparatus for judging whether a forged face image or a living person's face image is an image.
제 11 항에 있어서,
상기 라이브니스 판단부는,
상기 자세 기준으로 판단한 결과 및 상기 비율 변화 기준으로 판단한 결과에서 모두 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단되는 경우에만, 최종적으로 실시간 얼굴 이미지가 살아있는 사람의 얼굴 이미지로 판단하는, 얼굴 라이브니스 검증 장치.
12. The method of claim 11,
Wherein the liveness judging unit judges,
The face realization method judges the real-time face image as the face image of the living person only if the real-time face image is judged to be the living face image of the living person, Device.
제 8 항에 있어서,
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 얼굴 랜드마크(landmark)를 추출하는 랜드마크 추출부;를 더 포함하고,
상기 삼각형 생성부는,
상기 획득된 제 1 실시간 얼굴 이미지 및 상기 획득된 제 N 실시간 얼굴 이미지로부터 추출된 얼굴 랜드마크(landmark)의 끝점들을 연결하여 삼각형들을 형성하는, 얼굴 라이브니스 검증 장치.
9. The method of claim 8,
And a landmark extracting unit for extracting a face landmark from the obtained first real-time face image and the obtained N-th real-time face image,
The triangle generation unit may generate,
And forms triangles by connecting the obtained first real-time face image and end points of a face landmark extracted from the obtained N-th real-time face image.
제 11 항에 있어서,
상기 제 1 실시간 얼굴 이미지에 포함된 상기 제 1 삼각형 및 상기 제 2 삼각형에 대응되는 상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형 및 상기 제 4 삼각형을 추출하는 삼각형 추출부;를 더 포함하고,
상기 연산부는,
상기 제 1 실시간 얼굴 이미지에 포함된 제 1 삼각형의 넓이 및 제 2 삼각형의 넓이를 계산하고,
상기 제 N 실시간 얼굴 이미지에 포함된 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이를 계산하고,
제 1 삼각형의 넓이 및 제 2 삼각형의 넓이 간의 제 1 넓이 비율 및, 제 3 삼각형의 넓이 및 상기 제 4 삼각형의 넓이 간의 제 2 넓이 비율을 계산하는, 얼굴 라이브니스 검증 장치.
12. The method of claim 11,
And a triangle extraction unit extracting a third triangle and a fourth triangle included in the N-th real time face image corresponding to the first triangle and the second triangle included in the first real time face image,
The operation unit,
Calculating a first triangle width and a second triangle width included in the first real time face image,
Calculating an area of the third triangle included in the Nth real time face image and an area of the fourth triangle,
A first width ratio between the width of the first triangle and the width of the second triangle, and a second width ratio between the width of the third triangle and the width of the fourth triangle.
제 11 항에 있어서,
상기 제 1 삼각형 및 상기 제 2 삼각형은,
1개의 변을 공유하는 삼각형들인, 얼굴 라이브니스 검증 장치.
12. The method of claim 11,
Wherein the first triangle and the second triangle are arranged such that,
A facial liveness verification device, which is a triangle sharing one side.
KR1020180030354A 2018-03-15 2018-03-15 Method and apparatus for verifying facial liveness in mobile terminal KR101897072B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180030354A KR101897072B1 (en) 2018-03-15 2018-03-15 Method and apparatus for verifying facial liveness in mobile terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180030354A KR101897072B1 (en) 2018-03-15 2018-03-15 Method and apparatus for verifying facial liveness in mobile terminal

Publications (1)

Publication Number Publication Date
KR101897072B1 true KR101897072B1 (en) 2018-10-29

Family

ID=64101290

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180030354A KR101897072B1 (en) 2018-03-15 2018-03-15 Method and apparatus for verifying facial liveness in mobile terminal

Country Status (1)

Country Link
KR (1) KR101897072B1 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200080533A (en) * 2018-12-27 2020-07-07 주식회사 유니온커뮤니티 Apparatus and Method for Recognizing Fake Face By Using Minutia Data Variation
CN112767303A (en) * 2020-08-12 2021-05-07 腾讯科技(深圳)有限公司 Image detection method, device, equipment and computer readable storage medium
KR102318051B1 (en) * 2020-10-23 2021-10-26 동서대학교 산학협력단 Method for examining liveness employing image of face region including margin in system of user identifying
KR102330095B1 (en) * 2020-08-19 2021-11-24 주식회사 셉템 Apparatus for recommending business process using mind map
US20220343617A1 (en) * 2019-09-12 2022-10-27 Nec Corporation Image analysis device, control method, and program
KR20230033811A (en) 2021-09-02 2023-03-09 (주)씨유박스 Method and system for detecting active liveness using face image
KR20230095329A (en) * 2021-12-22 2023-06-29 주식회사 마인드포지 Electronic device for using face recognition and method for operating the same

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200080533A (en) * 2018-12-27 2020-07-07 주식회사 유니온커뮤니티 Apparatus and Method for Recognizing Fake Face By Using Minutia Data Variation
KR102160137B1 (en) * 2018-12-27 2020-09-25 주식회사 유니온커뮤니티 Apparatus and Method for Recognizing Fake Face By Using Minutia Data Variation
US20220343617A1 (en) * 2019-09-12 2022-10-27 Nec Corporation Image analysis device, control method, and program
CN112767303A (en) * 2020-08-12 2021-05-07 腾讯科技(深圳)有限公司 Image detection method, device, equipment and computer readable storage medium
CN112767303B (en) * 2020-08-12 2023-11-28 腾讯科技(深圳)有限公司 Image detection method, device, equipment and computer readable storage medium
KR102330095B1 (en) * 2020-08-19 2021-11-24 주식회사 셉템 Apparatus for recommending business process using mind map
KR102318051B1 (en) * 2020-10-23 2021-10-26 동서대학교 산학협력단 Method for examining liveness employing image of face region including margin in system of user identifying
KR20230033811A (en) 2021-09-02 2023-03-09 (주)씨유박스 Method and system for detecting active liveness using face image
KR20230095329A (en) * 2021-12-22 2023-06-29 주식회사 마인드포지 Electronic device for using face recognition and method for operating the same
KR102578583B1 (en) * 2021-12-22 2023-09-15 주식회사 마인드포지 Electronic device for using face recognition and method for operating the same

Similar Documents

Publication Publication Date Title
KR101897072B1 (en) Method and apparatus for verifying facial liveness in mobile terminal
US10546183B2 (en) Liveness detection
CN106599772B (en) Living body verification method and device and identity authentication method and device
US9940532B2 (en) Liveness detection apparatus and liveness detection method
US7873189B2 (en) Face recognition by dividing an image and evaluating a similarity vector with a support vector machine
US9922237B2 (en) Face authentication system
JP6754642B2 (en) Biodetector
JP2020194608A (en) Living body detection device, living body detection method, and living body detection program
US8983207B1 (en) Mitigating replay attacks using multiple-image authentication
WO2017025573A1 (en) Liveness detection
EP2842075A1 (en) Three-dimensional face recognition for mobile devices
KR20170002892A (en) Method and apparatus for detecting fake fingerprint, method and apparatus for recognizing fingerprint
US11663853B2 (en) Iris authentication device, iris authentication method, and recording medium
KR20190136349A (en) Face verifying method and apparatus based on 3d image
JP2014165565A (en) Television conference device, system and method
WO2018234384A1 (en) Detecting artificial facial images using facial landmarks
EP2701096A2 (en) Image processing device and image processing method
WO2020065954A1 (en) Authentication device, authentication method, and storage medium
US20230306792A1 (en) Spoof Detection Based on Challenge Response Analysis
JP7428242B2 (en) Authentication device, authentication system, authentication method and authentication program
Yuan et al. SALM: smartphone-based identity authentication using lip motion characteristics
WO2017101071A1 (en) Facial gesture captcha
US11507646B1 (en) User authentication using video analysis
JP2001331804A (en) Device and method for detecting image area
US11941911B2 (en) System and method for detecting liveness of biometric information

Legal Events

Date Code Title Description
GRNT Written decision to grant