KR20220136017A

KR20220136017A - Method and apparatus for anti-spoofing

Info

Publication number: KR20220136017A
Application number: KR1020210077373A
Authority: KR
Inventors: 박성언; 김규홍; 한재준
Original assignee: 삼성전자주식회사
Priority date: 2021-03-31
Filing date: 2021-06-15
Publication date: 2022-10-07

Abstract

Disclosed are an anti-spoofing method and an anti-spoofing apparatus. According to one embodiment of the present invention, the anti-spoofing method comprises: a step of extracting an input embedding vector including features of bioinformation of a user from input data including the bioinformation; a step of detecting first forging status of the bioinformation based on a first output vector of a first neural network for detecting forging status of the bioinformation from the input data; a step of calculating a similarity value of the input embedding vector based on a forging embedding vector and at least one between a real embedding vector provided in advance and a registered embedding vector; a step of calculating an integrated forging/falsification score based on the similarity value and a second output vector of the first neural network in accordance with whether the first forging status is detected; and a step of detecting second forging status of the bioinformation based on the integrated forging/falsification score.

Description

Method and apparatus for preventing spoofing

아래 실시예들은 스푸핑 방지 방법 및 장치에 관한 것으로, 보다 구체적으로는 생체 정보가 위조된 것인지 여부를 검출하는 방법에 관한 것이다.The following embodiments relate to a method and apparatus for preventing spoofing, and more particularly, to a method of detecting whether biometric information is forged.

최근, 스마트폰 및 다양한 모바일/웨어러블 기기의 발전으로 생체 정보의 보안 인증 기술에 대한 중요성이 증대되고 있다. 일 예로, 보안 인증 기술 중 하나인 지문 인식 기술은 편리성, 보안성, 경제성 등의 장점으로 인해 널리 이용되고 있다. 지문 인식에서는 일반적으로, 센서를 통하여 사용자의 지문 영상을 획득하고, 획득된 지문 영상과 미리 등록된 지문 영상을 비교하여 사용자를 인증한다. 이 때, 정교하게 조작된 위조(fake) 지문 패턴이 센서에 입력되는 경우, 지문 인식 장치는 위조 지문 패턴을 구별하지 못하고 해당 위조 지문 패턴을 생체 지문으로 인식할 우려가 있다. 예를 들어, 지문이 새겨진, 고무, 실리콘, 젤라틴, 에폭시, 라텍스 등의 물질이 센서에 접촉되는 경우, 해당 물질에 새겨진 지문이 인간의 지문으로 인식될 우려가 있다. 생체 정보의 보안성 측면에서 실제 생체 정보가 아닌 위조 생체 정보를 구분하는 것은 중요하다.Recently, with the development of smart phones and various mobile/wearable devices, the importance of security authentication technology for biometric information is increasing. For example, fingerprint recognition technology, which is one of security authentication technologies, is widely used due to advantages such as convenience, security, and economic feasibility. Generally, in fingerprint recognition, a user's fingerprint image is acquired through a sensor, and the user is authenticated by comparing the acquired fingerprint image with a pre-registered fingerprint image. In this case, when a precisely manipulated fake fingerprint pattern is input to the sensor, the fingerprint recognition device may not distinguish the fake fingerprint pattern and may recognize the fake fingerprint pattern as a biometric fingerprint. For example, when a material engraved with a fingerprint, such as rubber, silicone, gelatin, epoxy, or latex, comes into contact with the sensor, the fingerprint engraved on the material may be recognized as a human fingerprint. In terms of security of biometric information, it is important to distinguish fake biometric information from real biometric information.

일 측에 따른 스푸핑 방지(anti-spoofing) 방법은 사용자의 생체 정보를 포함하는 입력 데이터로부터 상기 생체 정보의 위조 여부를 검출하는 제1 뉴럴 네트워크의 제1 출력 벡터에 기초하여, 상기 생체 정보의 제1 위조 여부를 검출하는 단계; 상기 입력 데이터로부터 상기 생체 정보의 특징을 포함하는 입력 임베딩 벡터(embedding vector)를 추출하는 단계; 미리 구비된 실제 임베딩 벡터와 등록 임베딩 벡터 중 적어도 하나 및 위조 임베딩 벡터에 기초하여, 상기 입력 임베딩 벡터의 유사도 값을 계산하는 단계; 상기 제1 위조 여부가 검출되는지에 따라, 상기 제1 뉴럴 네트워크의 제2 출력 벡터 및 상기 유사도 값에 기초하여 통합 위변조 점수를 계산하는 단계 및 상기 통합 위변조 점수에 기초하여 상기 생체 정보의 제2 위조 여부를 검출하는 단계를 포함한다.In an anti-spoofing method according to one aspect, based on a first output vector of a first neural network that detects whether the biometric information is forged from input data including the user's biometric information, the 1 Detecting whether a forgery; extracting an input embedding vector including a feature of the biometric information from the input data; calculating a similarity value of the input embedding vector based on at least one of a previously provided real embedding vector and a registered embedding vector and a fake embedding vector; calculating an integrated forgery score based on a second output vector of the first neural network and the similarity value according to whether the first forgery is detected; and a second forgery of the biometric information based on the integrated forgery score. detecting whether or not

상기 제1 위조 여부를 검출하는 단계는 상기 제1 뉴럴 네트워크의 중간 레이어로부터 상기 제1 출력 벡터를 추출하는 단계; 및 상기 제1 출력 벡터에 기초하여 중간 위변조 점수를 계산하는 단계를 포함할 수 있다.The step of detecting whether the first forgery may include: extracting the first output vector from an intermediate layer of the first neural network; and calculating an intermediate forgery score based on the first output vector.

상기 제1 위조 여부를 검출하는 단계는 상기 중간 위변조 점수가 상기 제1 위조 여부의 검출을 위한 임계 범위 내에 속하는 점수인지 여부를 결정하는 단계; 및 상기 중간 위변조 점수가 상기 임계 범위 내에 속하는 점수로 결정된 경우, 상기 중간 위변조 점수에 기초하여 상기 제1 위조 여부를 검출하는 단계를 포함할 수 있다.The step of detecting whether the first forgery includes: determining whether the intermediate forgery score is a score that falls within a threshold range for detecting the first forgery; And when the intermediate forgery score is determined to be a score that falls within the threshold range, it may include the step of detecting whether the first forgery based on the intermediate forgery score.

상기 통합 위변조 점수를 계산하는 단계는 상기 제1 위조 여부가 검출되지 않는 경우, 상기 제2 출력 벡터 및 상기 유사도 값에 기초하여 상기 통합 위변조 점수를 계산하는 단계를 포함할 수 있다.Calculating the integrated forgery score may include calculating the integrated forgery score based on the second output vector and the similarity value when the first forgery is not detected.

상기 통합 위변조 점수를 계산하는 단계는 상기 제1 위조 여부가 검출되지 않는 경우, 상기 제1 뉴럴 네트워크의 출력 레이어로부터 출력되는 제2 출력 벡터에 기초하여 최종 위변조 점수를 계산하는 단계; 및 상기 최종 위변조 점수 및 상기 유사도 값에 기초하여 상기 통합 위변조 점수를 계산하는 단계를 포함할 수 있다.Calculating the integrated forgery score may include calculating a final forgery score based on a second output vector output from an output layer of the first neural network when the first forgery is not detected; and calculating the integrated forgery score based on the final forgery score and the similarity value.

상기 통합 위변조 점수를 계산하는 단계는 상기 최종 위변조 점수 및 상기 유사도 값의 가중합을 수행하는 단계; 및 상기 가중합 수행 결과에 미리 정해진 비선형함수를 적용하여 상기 통합 위변조 점수를 계산하는 단계를 포함할 수 있다.Calculating the integrated forgery score includes: performing a weighted sum of the final forgery score and the similarity value; and calculating the integrated forgery score by applying a predetermined nonlinear function to the weighted summation result.

상기 제2 위조 여부를 검출하는 단계는 상기 통합 위변조 점수를 상기 제2 위조 여부의 검출을 위한 제1 임계값과 비교하여, 상기 생체 정보의 제2 위조 여부를 검출하는 단계를 포함할 수 있다.Detecting whether the second forgery may include comparing the integrated forgery score with a first threshold value for detecting the second forgery, and detecting whether the biometric information is forged a second time.

일 측에 따른 스푸핑 방지(anti-spoofing) 방법은 상기 통합 위변조 점수에 기초하여 상기 입력 임베딩 벡터의 임베딩 벡터 업데이트 조건을 만족하는지 판단하는 단계; 및 상기 임베딩 벡터 업데이트 조건을 만족한다는 판단에 기초하여 상기 입력 임베딩 벡터를 이용하여 상기 등록 임베딩 벡터, 상기 실제 임베딩 벡터 및 상기 위조 임베딩 벡터 중 적어도 하나를 업데이트하는 단계를 더 포함할 수 있다.An anti-spoofing method according to one side includes the steps of determining whether an embedding vector update condition of the input embedding vector is satisfied based on the integrated forgery score; and updating at least one of the registered embedding vector, the real embedding vector, and the fake embedding vector using the input embedding vector based on a determination that the embedding vector update condition is satisfied.

일 측에 따른 스푸핑 방지(anti-spoofing) 방법은 상기 등록 임베딩 벡터의 구조적인 특성은 유지하면서, 상기 등록 임베딩 벡터와 다른 환경 특성을 갖는 가상 등록 임베딩 벡터를 생성하는 단계를 더 포함하고, 상기 유사도 값을 계산하는 단계는 상기 실제 임베딩 벡터, 상기 등록 임베딩 벡터 및 상기 가상 등록 임베딩 벡터 중 적어도 하나 및 상기 위조 임베딩 벡터에 기초하여, 상기 유사도 값을 계산하는 단계를 포함할 수 있다.The anti-spoofing method according to one aspect further includes generating a virtual registration embedding vector having environmental characteristics different from the registration embedding vector while maintaining the structural characteristics of the registration embedding vector, the similarity Calculating the value may include calculating the similarity value based on at least one of the real embedding vector, the registration embedding vector, and the virtual registration embedding vector and the fake embedding vector.

상기 유사도 값은 상기 실제 임베딩 벡터, 상기 등록 임베딩 벡터 및 상기 위조 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 사후 확률(posterior probability)들 중 적어도 하나에 기초하여 계산되고, 상기 사후 확률들은 상기 실제 임베딩 벡터, 상기 등록 임베딩 벡터 및 상기 위조 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 거리 또는 유사도에 기초하여 계산될 수 있다.the similarity value is calculated based on at least one of the real embedding vector, the registered embedding vector, and posterior probabilities between the fake embedding vector and the input embedding vector, the posterior probabilities being the real embedding vector; It may be calculated based on a distance or similarity between the registration embedding vector and the fake embedding vector and the input embedding vector.

상기 유사도 값을 결정하는 단계는 상기 실제 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제1 거리 및 상기 등록 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제3 거리에 기초하여, 상기 입력 생체 정보가 위조되지 않은 경우에 해당하는 제1 카테고리의 값을 결정하는 단계; 상기 위조 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제2 거리에 기초하여, 상기 입력 생체 정보가 위조된 경우에 해당하는 제2 카테고리의 값을 결정하는 단계; 및 상기 제1 카테고리의 값과 상기 제2 카테고리의 값에 기초하여, 상기 입력 임베딩 벡터의 신뢰도 값을 결정하는 단계를 포함할 수 있다.In the step of determining the similarity value, the input biometric information is not forged based on a first distance between the actual embedding vector and the input embedding vector and a third distance between the registered embedding vector and the input embedding vector. determining a value of a first category corresponding to determining a value of a second category corresponding to a case in which the input biometric information is forged based on a second distance between the forged embedding vector and the input embedding vector; and determining a reliability value of the input embedding vector based on the value of the first category and the value of the second category.

상기 입력 임베딩 벡터를 추출하는 단계는 상기 제1 뉴럴 네트워크를 이용하여 상기 생체 정보로부터 상기 입력 임베딩 벡터를 추출하는 단계를 포함하고, 상기 뉴럴 네트워크는 실제 생체 정보 및 위조 생체 정보를 이용하여 학습된 것일 수 있다.The step of extracting the input embedding vector includes extracting the input embedding vector from the biometric information using the first neural network, and the neural network is learned using real biometric information and fake biometric information. can

일 측에 따른 스푸핑 방지 장치는 사용자의 생체 정보를 포함하는 입력 데이터로부터 상기 생체 정보의 위조 여부를 검출하는 제1 뉴럴 네트워크의 제1 출력 벡터에 기초하여, 상기 생체 정보의 제1 위조 여부를 검출하고, 상기 입력 데이터로부터 상기 생체 정보의 특징을 포함하는 입력 임베딩 벡터(embedding vector)를 추출하고, 미리 구비된 실제 임베딩 벡터와 등록 임베딩 벡터 중 적어도 하나 및 위조 임베딩 벡터에 기초하여, 상기 입력 임베딩 벡터의 유사도 값을 계산하고, 상기 제1 위조 여부가 검출되는지에 따라, 상기 제1 뉴럴 네트워크의 제2 출력 벡터 및 상기 유사도 값에 기초하여 통합 위변조 점수를 계산하고, 상기 통합 위변조 점수에 기초하여 상기 생체 정보의 제2 위조 여부를 검출하는 프로세서를 포함한다.An apparatus for preventing spoofing according to an aspect detects whether the biometric information is first forged based on a first output vector of a first neural network that detects whether the biometric information is forged from input data including the user's biometric information and extracting an input embedding vector including the characteristics of the biometric information from the input data, and based on at least one of a pre-prepared real embedding vector and a registered embedding vector and a fake embedding vector, the input embedding vector calculates a similarity value of , according to whether the first forgery is detected, calculates an integrated forgery score based on a second output vector of the first neural network and the similarity value, and based on the integrated forgery score, the and a processor for detecting whether the biometric information is forged or not.

상기 프로세서는 상기 제1 뉴럴 네트워크의 중간 레이어로부터 상기 제1 출력 벡터를 추출하고, 상기 제1 출력 벡터에 기초하여 중간 위변조 점수를 계산할 수 있다.The processor may extract the first output vector from the intermediate layer of the first neural network, and calculate an intermediate forgery score based on the first output vector.

상기 프로세서는 상기 중간 위변조 점수가 상기 제1 위조 여부의 검출을 위한 임계 범위 내에 속하는 점수인지 여부를 결정하고, 상기 중간 위변조 점수가 상기 임계 범위 내에 속하는 점수로 결정된 경우, 상기 중간 위변조 점수에 기초하여 상기 제1 위조 여부를 검출할 수 있다.The processor determines whether the intermediate forgery score is a score that falls within a threshold range for detection of whether the first forgery, and when the intermediate forgery score is determined as a score that falls within the threshold range, based on the intermediate forgery score Whether the first forgery may be detected.

상기 프로세서는 상기 제1 위조 여부가 검출되지 않는 경우, 상기 제2 출력 벡터 및 상기 유사도 값에 기초하여 상기 통합 위변조 점수를 계산할 수 있다.When the first forgery is not detected, the processor may calculate the integrated forgery score based on the second output vector and the similarity value.

상기 프로세서는 상기 제1 위조 여부가 검출되지 않는 경우, 상기 제1 뉴럴 네트워크의 출력 레이어로부터 출력되는 제2 출력 벡터에 기초하여 최종 위변조 점수를 계산하고, 상기 최종 위변조 점수 및 상기 유사도 값에 기초하여 상기 통합 위변조 점수를 계산할 수 있다.If the first forgery is not detected, the processor calculates a final forgery score based on a second output vector output from the output layer of the first neural network, and based on the final forgery score and the similarity value The integrated forgery score can be calculated.

상기 프로세서는 상기 최종 위변조 점수 및 상기 유사도 값의 가중합을 수행하고, 상기 가중합 수행 결과에 미리 정해진 비선형함수를 적용하여 상기 통합 위변조 점수를 계산할 수 있다.The processor may perform a weighted sum of the final forgery score and the similarity value, and calculate the integrated forgery score by applying a predetermined non-linear function to the weighted summation result.

상기 프로세서는 상기 통합 위변조 점수를 상기 제2 위조 여부의 검출을 위한 제1 임계값과 비교하여, 상기 생체 정보의 제2 위조 여부를 검출할 수 있다.The processor may compare the integrated forgery score with a first threshold for detecting whether the second forgery is detected, and detect whether the biometric information is forged a second time.

상기 프로세서는 상기 통합 위변조 점수에 기초하여 상기 입력 임베딩 벡터의 임베딩 벡터 업데이트 조건을 만족하는지 판단하고, 상기 임베딩 벡터 업데이트 조건을 만족한다는 판단에 기초하여 상기 입력 임베딩 벡터를 이용하여 상기 등록 임베딩 벡터, 상기 실제 임베딩 벡터 및 상기 위조 임베딩 벡터 중 적어도 하나를 업데이트할 수 있다.The processor determines whether an embedding vector update condition of the input embedding vector is satisfied based on the integrated forgery score, and based on the determination that the embedding vector update condition is satisfied, the registered embedding vector using the input embedding vector, the At least one of the real embedding vector and the fake embedding vector may be updated.

상기 프로세서는 상기 등록 임베딩 벡터의 구조적인 특성은 유지하면서, 상기 등록 임베딩 벡터와 다른 환경 특성을 갖는 가상 등록 임베딩 벡터를 생성하고, 상기 실제 임베딩 벡터, 상기 등록 임베딩 벡터 및 상기 가상 등록 임베딩 벡터 중 적어도 하나 및 상기 위조 임베딩 벡터에 기초하여, 상기 유사도 값을 계산할 수 있다.The processor generates a virtual registration embedding vector having environmental characteristics different from the registration embedding vector while maintaining the structural characteristics of the registration embedding vector, and generates at least one of the real embedding vector, the registration embedding vector, and the virtual registration embedding vector. Based on one and the fake embedding vector, the similarity value may be calculated.

상기 프로세서는 상기 실제 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제1 거리 및 상기 등록 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제3 거리에 기초하여, 상기 입력 생체 정보가 위조되지 않은 경우에 해당하는 제1 카테고리의 값을 결정하고, 상기 위조 임베딩 벡터와 상기 입력 임베딩 벡터 사이의 제2 거리에 기초하여, 상기 입력 생체 정보가 위조된 경우에 해당하는 제2 카테고리의 값을 결정하고, 상기 제1 카테고리의 값과 상기 제2 카테고리의 값에 기초하여, 상기 입력 임베딩 벡터의 신뢰도 값을 결정할 수 있다.The processor is configured to: based on a first distance between the actual embedding vector and the input embedding vector and a third distance between the registered embedding vector and the input embedding vector, a first corresponding to the case in which the input biometric information is not forged. determining a value of a category, and determining a value of a second category corresponding to a case in which the input biometric information is forged, based on a second distance between the forged embedding vector and the input embedding vector, and Based on the value and the value of the second category, a reliability value of the input embedding vector may be determined.

상기 프로세서는 상기 제1 뉴럴 네트워크를 이용하여 상기 생체 정보로부터 상기 입력 임베딩 벡터를 추출하고, 상기 뉴럴 네트워크는 실제 생체 정보 및 위조 생체 정보를 이용하여 학습된 것일 수 있다.The processor may extract the input embedding vector from the biometric information using the first neural network, and the neural network may be learned using real biometric information and fake biometric information.

도 1은 일 실시예에 따른 생체 정보 인식 방법을 설명하기 위한 도면이다.
도 2는 일 실시예에 따른 스푸핑 방지 방법을 설명하기 위한 순서도이다.
도 3a는 일 실시예에 따른 생체 정보의 위조 여부를 검출하는 장치의 네트워크 구조 및 동작을 설명하기 위한 도면이고, 도 3b는 일 실시예에 따라 생체 정보의 제1 위조 여부를 검출하는 방법을 나타낸 흐름도이다.
도 3c는 일 실시예에 따른 제1 임계 범위를 도시한 도면이다.
도 4a 내지 도 4c는 추정된 사후 확률에 기초하여 입력 임베딩 벡터의 유사도 값을 결정하는 방법을 설명하기 위한 도면이다.
도 5a 및 도 5b는 입력 임베딩 벡터에 기초하여 초기 모델 및 등록 모델을 업데이트하는 방법을 설명하기 위한 도면이다.
도 6a 내지 도 6b는 일 실시예에 따른 스푸핑 방지를 통해 생체 정보를 등록하는 방법을 설명하기 위한 도면이다.
도 7a 내지 도 7d는 일 실시예에 따른 가상 임베딩 벡터를 생성하는 방법을 설명하기 위한 도면이다.
도 8a는 일 실시예에 따라 등록을 시도하는 임베딩 벡터들로부터 조합된 임베딩 벡터와 인증을 시도하는 입력 임베딩 벡터 간의 관계를 예시적으로 표현한 3차원 모식도이다.
도 8b은 일 실시예에 따라 입력 데이터를 분류하는 방법을 개념적으로 설명하기 위한 도면이다.
도 9는 일 실시예에 따른 스푸핑 방지 장치의 블록도이다.1 is a diagram for describing a method for recognizing biometric information according to an exemplary embodiment.
2 is a flowchart illustrating a method for preventing spoofing according to an embodiment.
3A is a diagram for explaining a network structure and operation of an apparatus for detecting whether or not biometric information is forged according to an embodiment, and FIG. 3B is a method for first detecting whether or not biometric information is forged according to an embodiment It is a flow chart.
3C is a diagram illustrating a first threshold range according to an embodiment.
4A to 4C are diagrams for explaining a method of determining a similarity value of an input embedding vector based on an estimated posterior probability.
5A and 5B are diagrams for explaining a method of updating an initial model and a registration model based on an input embedding vector.
6A to 6B are diagrams for explaining a method of registering biometric information through spoofing prevention according to an embodiment.
7A to 7D are diagrams for explaining a method of generating a virtual embedding vector according to an embodiment.
8A is a three-dimensional schematic diagram exemplarily expressing a relationship between an embedding vector combined from embedding vectors attempting registration and an input embedding vector attempting authentication according to an embodiment.
8B is a diagram for conceptually explaining a method of classifying input data according to an embodiment.
9 is a block diagram of an anti-spoofing device according to an exemplary embodiment.

본 명세서에서 개시되어 있는 특정한 구조적 또는 기능적 설명들은 단지 기술적 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 실제로 구현된 형태는 다양한 다른 모습을 가질 수 있으며 본 명세서에 설명된 실시예로만 한정되지 않는다. Specific structural or functional descriptions disclosed in this specification are merely illustrative for the purpose of describing embodiments according to technical concepts, and the actual implemented forms may have various other appearances and are limited only to the embodiments described herein doesn't happen

제1 또는 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 이해되어야 한다. 예를 들어 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.Terms such as first or second may be used to describe various elements, but these terms should be understood only for the purpose of distinguishing one element from another element. For example, a first component may be termed a second component, and similarly, a second component may also be termed a first component.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~간의"와 "바로~간의" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.When a component is referred to as being “connected” or “connected” to another component, it may be directly connected or connected to the other component, but it is understood that other components may exist in between. it should be On the other hand, when it is said that a certain element is "directly connected" or "directly connected" to another element, it should be understood that the other element does not exist in the middle. Expressions describing the relationship between elements, for example, "between" and "between" or "neighboring to" and "directly adjacent to", etc. should be interpreted similarly.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The singular expression includes the plural expression unless the context clearly dictates otherwise. As used herein, terms such as “comprise” or “have” are intended to designate that an embodied feature, number, step, action, component, part, or combination thereof exists, and is intended to indicate that one or more other features or numbers are present. , it is to be understood that it does not preclude the possibility of the presence or addition of steps, operations, components, parts, or combinations thereof.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art. Terms such as those defined in a commonly used dictionary should be interpreted as having a meaning consistent with the meaning in the context of the related art, and should not be interpreted in an ideal or excessively formal meaning unless explicitly defined in the present specification. does not

실시예들은 퍼스널 컴퓨터, 랩톱 컴퓨터, 태블릿 컴퓨터, 스마트 폰, 텔레비전, 스마트 가전 기기, 지능형 자동차, 키오스크, 웨어러블 장치 등 다양한 형태의 제품으로 구현될 수 있다. 이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.The embodiments may be implemented in various types of products, such as personal computers, laptop computers, tablet computers, smart phones, televisions, smart home appliances, intelligent cars, kiosks, wearable devices, and the like. Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. Like reference numerals in each figure indicate like elements.

도 1은 일 실시예에 따른 생체 정보 인식 방법을 설명하기 위한 도면이다. 도 1에서 설명의 편의를 위하여 생체 정보가 지문인 경우를 가정하나, 후술하는 실시예들은 정맥, 홍채 등 영상의 형태로 인식 가능한 다양한 생체 정보에도 실질적으로 동일하게 적용될 수 있다.1 is a diagram for describing a method for recognizing biometric information according to an exemplary embodiment. For convenience of explanation in FIG. 1 , it is assumed that the biometric information is a fingerprint, but the embodiments described below may be substantially equally applied to various types of biometric information recognizable in the form of images, such as veins and irises.

도 1을 참조하면, 일 실시예에 따른 지문 인식 장치(100)는 사용자의 지문을 센싱하는 지문 센서(110)를 포함한다. 지문 인식 장치(100)는 지문 센서(110)를 통하여 사용자의 지문이 나타난 입력 지문 영상(115)을 획득할 수 있다.Referring to FIG. 1 , a fingerprint recognition apparatus 100 according to an embodiment includes a fingerprint sensor 110 that senses a user's fingerprint. The fingerprint recognition apparatus 100 may acquire the input fingerprint image 115 in which the user's fingerprint appears through the fingerprint sensor 110 .

일 실시예에서, 지문 인식을 위한 전제로 지문 등록이 수행될 수 있다. 등록 지문 영상들(121, 122, 123)은 지문 등록 과정을 거쳐 등록 지문 데이터베이스(120)에 미리 저장될 수 있다. 개인 정보 보호를 위하여, 등록 지문 데이터베이스(120)는 등록 지문 영상들(121, 122, 123)을 그대로 저장하는 대신, 등록 지문 영상들(121, 122, 123)로부터 추출된 특징들을 저장할 수 있다. 등록 지문 데이터베이스(120)는 지문 인식 장치(100)에 포함된 메모리(미도시)에 저장되거나, 지문 인식 장치(100)와 통신할 수 있는 서버 등의 외부 장치(미도시)에 저장될 수 있다.In an embodiment, fingerprint registration may be performed as a premise for fingerprint recognition. The registered fingerprint images 121 , 122 , and 123 may be pre-stored in the registered fingerprint database 120 through a fingerprint registration process. For personal information protection, the registered fingerprint database 120 may store features extracted from the registered fingerprint images 121 , 122 , and 123 instead of storing the registered fingerprint images 121 , 122 , and 123 as they are. The registered fingerprint database 120 may be stored in a memory (not shown) included in the fingerprint recognition device 100 or stored in an external device (not shown) such as a server capable of communicating with the fingerprint recognition device 100 . .

후속 시점에서, 지문 인식 장치(100)로 인증을 위한 입력 지문 영상(115)이 수신되면, 지문 인식 장치(100)는 입력 지문 영상(115)에 나타난 지문(이하, '입력 지문'이라고 함)과 등록 지문 영상들(121 내지 123)에 나타난 등록 지문들을 비교함으로써 사용자의 지문을 인식할 수 있다. 지문 인식 장치(100)는 입력 지문의 특징과 등록 지문들의 특징들을 비교할 수 있다. 일 실시예에 따른 입력 지문 영상(115)이 위조 지문(fake fingerprint)을 센싱한 것이고, 입력 지문 영상(115)의 지문 패턴이 등록 지문 영상들(121, 122, 123) 중 어느 하나의 지문 패턴과 유사한 경우, 위조 지문에 대한 인증이 성공될 가능성이 있다. 이러한 스푸핑(spoofing) 공격을 방지하기 위해서는 입력 지문 영상(115)에 나타난 입력 지문이 위조 지문인지 아니면 사람의 실제 지문(real fingerprint)인지 여부를 판단하는 과정이 필요하다.At a subsequent time point, when an input fingerprint image 115 for authentication is received by the fingerprint recognition apparatus 100 , the fingerprint recognition apparatus 100 displays a fingerprint (hereinafter, referred to as 'input fingerprint') in the input fingerprint image 115 ). The user's fingerprint may be recognized by comparing the registered fingerprints shown in the registered fingerprint images 121 to 123 with the registered fingerprint images. The fingerprint recognition apparatus 100 may compare the characteristics of the input fingerprint and the characteristics of the registered fingerprints. The input fingerprint image 115 according to an embodiment senses a fake fingerprint, and the fingerprint pattern of the input fingerprint image 115 is any one of the registered fingerprint images 121 , 122 , and 123 . In a case similar to , there is a possibility that the authentication for the fake fingerprint will be successful. In order to prevent such a spoofing attack, it is necessary to determine whether the input fingerprint shown in the input fingerprint image 115 is a forged fingerprint or a real fingerprint of a person.

인식 시스템에서 사용자의 정보가 일치하지 않다는 결과가 나올 경우 불일치 메시지와 함께 그 시점에서 바로 인증 과정을 끝내고, 일치하다는 판단이 나올 경우 위조 여부 검출 과정(anti-spoofing)을 수행하여 해당 생체 정보가 위조된 정보인지를 판별하는 과정을 수행할 수 있다. 해당 위조 여부 검출 과정에서 해당 생체 정보가 실제 생체 정보로 판별이 되어야 최종 인증이 통과될 수 있다.If the recognition system finds that the user's information does not match, the authentication process is immediately terminated with a mismatch message at that point. It is possible to perform a process of determining whether the information has been obtained. In the process of detecting whether the forgery or not, the biometric information must be determined to be real biometric information in order to pass the final authentication.

일 실시예에 따르면, 지문 인식 장치(100)는 스푸핑 방지(anti-spoofing) 장치(미도시)를 포함할 수 있고, 스푸핑 방지 장치를 통해 입력 지문이 위조 지문인지 여부를 검출할 수 있다. 이하, 스푸핑 방지 장치는 위조 지문 검출 장치로 지칭될 수 있다.According to an embodiment, the fingerprint recognition apparatus 100 may include an anti-spoofing device (not shown), and may detect whether the input fingerprint is a forged fingerprint through the anti-spoofing device. Hereinafter, the anti-spoofing device may be referred to as a counterfeit fingerprint detection device.

종래의 위조 지문 검출 시스템은 사전에 준비된 데이터베이스를 활용하여 학습된 뉴럴 네트워크로 실제 지문과 위조 지문을 구분하였다. 따라서 종래의 위조 지문 검출 시스템은 뉴럴 네트워크가 학습하지 않은 특정 상황에서 성능이 저하되는 문제가 있을 수 있다. 예를 들어, 종래의 위조 지문 검출 시스템은 사용자 별 특징을 고려하지 않고 범용적으로 학습된 네트워크의 이분법적인 결과만을 사용하므로 사용자에 따른 생체 특징 차이(예, 지문의 갈라짐, 상대적 옅은 지문 등)로 인하여 성능이 저하될 수 있고, 네트워크 학습에 사용된 생체 정보를 인증시에는 사용하지 않아 네트워크가 학습이 어려운 센싱 상황에서 성능이 저하될 수 있다. 또한, 종래의 위조 지문 검출 시스템은 사용 환경에 따른 오류나 노화 등 시간 변화에 따른 오류 등에 기민하게 대처하지 못하며, 중간 과정에서 빠른 판단 등의 기능도 지원하지 못할 수 있다. 나아가, 위조 지문 검출에 관한 새로운 취약점이 발견되는 경우 뉴럴 네트워크가 반드시 다시 학습되어야 해서 긴급 대응이 어려울 수 있다.The conventional fake fingerprint detection system uses a pre-prepared database to classify an actual fingerprint and a fake fingerprint by a learned neural network. Therefore, the conventional fake fingerprint detection system may have a problem in that the performance is degraded in a specific situation in which the neural network is not trained. For example, the conventional counterfeit fingerprint detection system does not consider the characteristics of each user and uses only the dichotomous result of a universally learned network, so the difference in biometric characteristics according to the user (e.g., cracked fingerprints, relatively thin fingerprints, etc.) Due to this, the performance may be degraded, and the performance may be degraded in a sensing situation where it is difficult for the network to learn because biometric information used for network learning is not used for authentication. In addition, the conventional forged fingerprint detection system may not be able to respond promptly to errors according to time changes, such as errors according to the usage environment or aging, and may not support functions such as quick judgment in the middle process. Furthermore, when a new vulnerability in detecting forged fingerprints is discovered, the neural network must be re-learned, so it may be difficult to respond to an emergency.

아래에서 상세히 설명하겠지만, 일 실시예에 따른 위조 지문 검출 장치는 미리 구비된 불특정 다수의 실제 지문 특징들, 미리 구비된 불특정 다수의 위조 지문 특징들 및/또는 기기 사용자의 등록 지문 특징들을 이용하여 입력 지문이 위조 지문인지 여부를 판단할 수 있다. 또한, 일 실시예에 따른 위조 지문 검출 장치는 위조 여부를 명백하게 판단할 수 있는 지문들에 대하여 우선적으로 위조 여부를 판단하고, 나머지 지문들에 대하여 2차 판단을 수행할 수 있다. 나아가, 일 실시예에 따른 위조 지문 검출 장치는 입력 지문을 이용하여 등록 지문 데이터베이스를 업데이트할 수 있다. 이를 통해, 위조 지문 검출 장치의 스푸핑 방지 성능을 향상시킬 수 있다.As will be described in detail below, the forged fingerprint detecting apparatus according to an embodiment of the present invention uses a plurality of pre-equipped real fingerprint features, an unspecified number of pre-equipped fake fingerprint features, and/or the registered fingerprint features of the device user. It may be determined whether the fingerprint is a forged fingerprint. Also, the forged fingerprint detecting apparatus according to an embodiment may first determine whether the fingerprints are forged or not, and perform secondary determination on the remaining fingerprints. Furthermore, the forged fingerprint detecting apparatus according to an embodiment may update the registered fingerprint database by using the input fingerprint. Through this, it is possible to improve the anti-spoofing performance of the forged fingerprint detection device.

도 2는 일 실시예에 따른 스푸핑 방지 방법을 설명하기 위한 순서도이다.2 is a flowchart illustrating a method for preventing spoofing according to an embodiment.

도 2를 참조하면, 단계들(210 내지 250)은 도 1을 참조하여 전술한 스푸핑 방지 장치에 의해 수행될 수 있다. 일 실시예에 따른 스푸핑 방지 장치는 하드웨어 모듈, 소프트웨어 모듈, 또는 이들의 다양한 조합에 의하여 구현될 수 있다. 나아가, 도 2의 동작은 도시된 순서 및 방식으로 수행될 수 있지만, 도시된 실시예의 사상 및 범위를 벗어나지 않으면서 일부 동작의 순서가 변경되거나 일부 동작이 생략될 수 있고, 도 2에 도시된 다수의 동작은 병렬로 또는 동시에 수행될 수 있다.Referring to FIG. 2 , steps 210 to 250 may be performed by the anti-spoofing device described above with reference to FIG. 1 . The anti-spoofing device according to an embodiment may be implemented by a hardware module, a software module, or various combinations thereof. Furthermore, although the operations of FIG. 2 may be performed in the illustrated order and manner, the order of some operations may be changed or some operations may be omitted without departing from the spirit and scope of the illustrated embodiment, and multiple operations shown in FIG. The operations of may be performed in parallel or concurrently.

단계(210)에서, 일 실시예에 따른 스푸핑 방지 장치는 생체 정보를 포함하는 입력 데이터로부터 생체 정보의 위조 여부를 검출하는 제1 뉴럴 네트워크의 제1 출력 벡터에 기초하여, 생체 정보의 제1 위조 여부를 검출한다.In step 210, the anti-spoofing device according to an embodiment performs a first forgery of biometric information based on a first output vector of a first neural network that detects whether biometric information is forged from input data including biometric information. detect whether

일 실시예에 따른 스푸핑 방지 장치는 다양한 센서(들)에 의해 사용자부터 센싱되는 생체 정보를 포함하는 입력 데이터(예를 들어, 영상)을 수신할 수 있다.The anti-spoofing device according to an embodiment may receive input data (eg, an image) including biometric information sensed from the user by various sensor(s).

일 실시예에 따른 센서(들)는 예를 들어, 초음파 지문 센서, 광학 지문 센서, 정전 방식 지문 센서, 깊이 센서, 홍채 센서, 이미지 센서 등을 포함할 수 있으며, 반드시 이에 한정되지는 않는다. 센서는 이들 중 어느 하나가 사용될 수도 있고, 또는 둘 이상이 사용될 수도 있다. 센서에 의해 감지되는 생체 정보는 예를 들어, 도 1에 도시된 입력 지문 영상(115)일 수도 있고, 홍채 영상 또는 얼굴 영상일 수도 있다.The sensor(s) according to an embodiment may include, for example, an ultrasonic fingerprint sensor, an optical fingerprint sensor, an electrostatic fingerprint sensor, a depth sensor, an iris sensor, an image sensor, and the like, but is not limited thereto. As the sensor, any one of these may be used, or two or more may be used. The biometric information sensed by the sensor may be, for example, the input fingerprint image 115 shown in FIG. 1 , an iris image or a face image.

사용자의 생체 정보를 포함하는 영상은 단수 개일 수도 있고, 또는 복수 개일 수도 있다. 사용자의 생체 정보를 포함하는 영상이 단수 개인 경우, 한 개의 뉴럴 네트워크가 사용되고, 사용자의 생체 정보를 포함하는 영상이 복수 개인 경우, 복수 개의 영상들에 대응하는 개수의 뉴럴 네트워크가 사용될 수 있다. 예를 들어, 스푸핑 방지 장치는 32bit 지문 영상과 8bit 지문 영상을 획득할 수 있다.There may be a single image or a plurality of images including the user's biometric information. When there is a single image including the user's biometric information, one neural network is used, and when there are multiple images including the user's biometric information, a number of neural networks corresponding to the plurality of images may be used. For example, the anti-spoofing device may acquire a 32-bit fingerprint image and an 8-bit fingerprint image.

일 실시예에 따른 스푸핑 방지 장치는 위조 여부 판단이 비교적 확실한 생체 정보에 대하여 선제적으로 위조 여부를 판단(제1 위조 여부 검출)하고, 제1 위조 여부가 검출되지 않는 생체 정보에 대하여 다시 위조 여부를 판단(제2 위조 여부 검출)할 수 있다.The anti-spoofing device according to an embodiment preemptively determines whether to forge biometric information for which a forgery determination is relatively certain (first forgery detection), and whether to forge again for biometric information in which the first forgery is not detected can be determined (detecting whether a second forgery is detected).

일 실시예에 따른 스푸핑 방지 장치는 제1 뉴럴 네트워크의 중간 레이어로부터 제1 출력 벡터를 추출하고, 제1 출력 벡터에 기초하여 중간 위변조 점수를 계산할 수 있다. 나아가, 스푸핑 방지 장치는 중간 위변조 점수가 제1 위조 여부의 검출을 위한 임계 범위 내에 속하는 점수인지 여부를 결정하고, 중간 위변조 점수가 임계 범위 내에 속하는 점수로 결정된 경우, 중간 위변조 점수에 기초하여 제1 위조 여부를 검출할 수 있다. 제1 위조 여부를 검출하는 구체적인 방법은 아래에서 도 3a 내지 도 3c를 참조하여 설명된다.The anti-spoofing apparatus according to an embodiment may extract a first output vector from an intermediate layer of a first neural network, and calculate an intermediate forgery score based on the first output vector. Furthermore, the anti-spoofing device determines whether the intermediate forgery score is a score that falls within a threshold range for detection of whether the first forgery, and when the intermediate forgery score is determined as a score that falls within the threshold range, based on the intermediate forgery score, the first Forgery can be detected. A specific method of detecting whether the first forgery or not is described below with reference to FIGS. 3A to 3C .

도 3a는 일 실시예에 따른 생체 정보의 위조 여부를 검출하는 장치의 네트워크 구조 및 동작을 설명하기 위한 도면이고, 도 3b는 일 실시예에 따라 생체 정보의 제1 위조 여부를 검출하는 방법을 나타낸 흐름도이다.3A is a diagram for explaining a network structure and operation of an apparatus for detecting whether or not biometric information is forged according to an embodiment, and FIG. 3B is a method for first detecting whether or not biometric information is forged according to an embodiment It is a flow chart.

도 3a 및 도 3b를 참조하면, 예를 들어, 쉘로우 심층 신경망들(Shallow DNN)로 구성된 제1-1 분류기(340), 및 제1-2 분류기(350)와 제2 분류기(360)를 포함하는 스푸핑 방지 장치(300)의 구조 및 동작이 도시된다.Referring to FIGS. 3A and 3B , for example, a 1-1 classifier 340 configured by shallow deep neural networks (Shallow DNN), and a 1-2 classifier 350 and a second classifier 360 are included. The structure and operation of the anti-spoofing device 300 is shown.

통상적인 심층 신경망의 분류기가 엔드-투-엔드(End-to-End) 구조로 이루어지는 것과 달리, 일 실시예에 따른 제1-1 분류기(340), 및 제1-2 분류기(350)는 생체 정보를 포함하는 입력 데이터(310)를 입력 받아 네트워크 추론을 수행하는 도중에 심층 신경망(330)의 중간 레이어들로부터 추출한 제1 출력 벡터들로부터 생체 정보의 위조 여부를 분류할 수 있다.Unlike conventional classifiers of deep neural networks having an end-to-end structure, the 1-1 classifier 340 and the 1-2 classifier 350 according to an embodiment are Whether or not biometric information is forged may be classified from first output vectors extracted from intermediate layers of the deep neural network 330 while receiving input data 310 including information and performing network inference.

심층 신경망(330)의 중간 레이어들로부터 추출한 제1 출력 벡터들은 제1-1 분류기(340), 및 제1-2 분류기(350)로 인가되어 생체 정보의 제1 위조 여부를 검출하는 데에 이용될 수 있다. 제1-1 분류기(340), 및 제1-2 분류기(350)는 출력 벡터들을 기반으로 입력된 영상을 분류하도록 트레이닝된 분류기일 수 있다. 제1-1 분류기(340), 및 제1-2 분류기(350)는 예를 들어, 심층 신경망 보다 계산량이 적은 쉘로우 심층 신경망들(Shallow DNN)으로 구성될 수 있으며, 중간 레이어에서의 조기 판단(Early Decision; ED)으로 인한 오버헤드(overhead)가 작아 속도 저하 없이 제1 위조 여부를 빠르게 검출할 수 있다.The first output vectors extracted from the intermediate layers of the deep neural network 330 are applied to the 1-1 classifier 340 and the 1-2 classifier 350 and are used to detect whether the biometric information is first forged. can be The 1-1 classifier 340 and the 1-2 classifier 350 may be classifiers trained to classify an input image based on output vectors. The 1-1 classifier 340 and the 1-2 classifier 350 may be composed of, for example, shallow deep neural networks (Shallow DNN), which require less computation than a deep neural network, and may include early judgment ( Since the overhead due to Early Decision (ED) is small, it is possible to quickly detect whether the first forgery is performed without slowing down the speed.

제1-1 분류기(340), 및 제1-2 분류기(350)가 제1 위조 여부를 검출하는 방법은 일 예시는 다음과 같다. 스푸핑 방지 장치(300)는 제1-1 분류기(340)를 이용하여 심층 신경망(330)의 중간 레이어로부터 제1 출력 벡터(예를 들어, 제1-1 임베딩 벡터)를 추출할 수 있다. 단계(301)에서, 스푸핑 방지 장치(300)는 추출한 제1-1 임베딩 벡터에 기초하여 제1-1 중간 위변조 점수를 산출할 수 있다. 스푸핑 방지 장치(300)는 제1-1 중간 위변조 점수에 의해 제1 위조 여부를 검출할 수 있다. 단계(302)에서, 스푸핑 방지 장치(300)는 미리 트레이닝된 제1-1 분류기(340)를 이용하여 제1-1 중간 위변조 점수가 제1 위조 여부의 판단을 위한 제1 임계 범위 내에 속하는 스코어인지 여부를 결정할 수 있다. 스푸핑 방지 장치(300)는 제1-1 스코어가 제1 위조 정보로 판단되는 범위에 속하는 스코어인지 또는 실제 정보로 판단되는 범위에 속하는 스코어인지를 분류할 수 있다.An example of how the 1-1 classifier 340 and the 1-2 classifier 350 detect whether the first forgery is as follows. The anti-spoofing apparatus 300 may extract a first output vector (eg, a 1-1 embedding vector) from the intermediate layer of the deep neural network 330 using the first-first classifier 340 . In step 301 , the anti-spoofing device 300 may calculate a 1-1 intermediate forgery score based on the extracted 1-1 embedding vector. The anti-spoofing device 300 may detect whether the first forgery is based on the 1-1 intermediate forgery score. In step 302, the anti-spoofing device 300 uses the pre-trained first-first classifier 340, and the first-1-1 intermediate forgery score falls within the first threshold range for determining whether the first forgery or not. You can decide whether or not The anti-spoofing device 300 may classify whether the 1-1 score is a score that falls within a range determined as the first forgery information or a score that falls within a range determined as real information.

예를 들어, 제1-1 스코어가 제1 임계 범위 내에 속하는 스코어로 결정된 경우, 단계(303)에서 스푸핑 방지 장치(300)는 제1-1 스코어에 기초하여 제1 위조 여부를 검출할 수 있다.For example, when the 1-1 score is determined to be a score that falls within the first threshold range, in step 303 , the anti-spoofing device 300 may detect whether the first forgery is based on the 1-1 score. .

제1-1 스코어에 의해 제1 위조 여부가 검출되지 않는 경우, 단계(304)에서, 스푸핑 방지 장치(300)는 제1-2 분류기(350)를 이용하여 심층 신경망(330)의 중간 레이어 이후의 다음 중간 레이어로부터 1-2 임베딩 벡터를 추출할 수 있다.If the first falsification is not detected by the 1-1 score, in step 304 , the anti-spoofing device 300 uses the 1-2 classifier 350 after the middle layer of the deep neural network 330 . 1-2 embedding vectors can be extracted from the next intermediate layer of

단계(305)에서, 스푸핑 방지 장치(300)는 제1-2 임베딩 벡터에 기초하여 제1-2 중간 위변조 점수를 산출할 수 있다.In step 305, the anti-spoofing device 300 may calculate a 1-2 intermediate forgery score based on the 1-2 embedding vector.

단계(306)에서, 스푸핑 방지 장치는 단계(305)에서 산출한 제1-2 중간 위변조 점수에 의해 제1 위조 여부를 검출할 수 있다. 단계(305)에서, 스푸핑 방지 장치(300)는 미리 트레이닝된 제1-2 분류기(350)를 이용하여 제1-2 중간 위변조 점수가 제1 위조 여부의 판단을 위한 제1 임계 범위 내에 속하는 점수인지 여부를 결정할 수 있다. 스푸핑 방지 장치(300)는 제1-2 중간 위변조 점수가 제1 위조 정보로 판단되는 범위에 속하는 점수인지 또는 실제 정보로 판단되는 범위에 속하는 점수인지를 분류할 수 있다. 예를 들어, 제1-2 중간 위변조 점수가 제1 임계 범위 내에 속하는 스코어로 결정된 경우, 스푸핑 방지 장치(300)는 제1-2 중간 위변조 점수에 기초하여 제1 위조 여부를 검출할 수 있다. In step 306 , the anti-spoofing device may detect whether the first forgery is based on the 1-2 intermediate forgery score calculated in step 305 . In step 305, the anti-spoofing device 300 uses the pre-trained 1-2 classifier 350, and the 1-2 intermediate forgery score falls within the first threshold range for determining whether the first forgery or not. You can decide whether or not The anti-spoofing device 300 may classify whether the 1-2 intermediate forgery score is a score belonging to a range determined as the first forgery information or a score belonging to a range determined as the real information. For example, when the 1-2 intermediate forgery score is determined to be a score that falls within the first threshold range, the anti-spoofing device 300 may detect whether the first forgery is based on the 1-2 intermediate forgery score.

스푸핑 방지 장치(300)는 제1-2 중간 위변조 점수에 의해 제1 위조 여부를 검출된 경우, 제1-2 분류기(350)의 분류 결과를 출력할 수 있다. 이외 달리, 제1-2 중간 위변조 점수에 의해 제1 위조 여부를 검출되지 않은 경우, 스푸핑 방지 장치(300)는 심층 신경망(330)의 출력 레이어로부터 출력되는 제2 출력 벡터를 제2 분류기(360)에 인가하여 생체 정보의 제2 위조 여부를 검출할 수 있다.The anti-spoofing device 300 may output a classification result of the 1-2 classifier 350 when whether the first forgery is detected by the 1-2 intermediate forgery score. Otherwise, when the first forgery is not detected by the 1-2 intermediate forgery score, the anti-spoofing device 300 converts the second output vector output from the output layer of the deep neural network 330 into the second classifier 360 . ) to detect whether the second forgery of the biometric information is applied.

스푸핑 방지 장치(300)는 출력 레이어로부터 제2 출력 벡터를 도출하기 전에 조기 결정 분류를 수행하는 제1-1 분류기(340), 및 제1-2 분류기(350)를 통해 생체 정보의 제1 위조 여부가 검출되는 경우, 제2 출력 벡터를 이용하지 않고도 바로 위조 여부를 검출할 수 있으므로 생체 정보의 위조 여부 판단을 수행하는 시간을 단축할 수 있다.The anti-spoofing device 300 performs the first forgery of biometric information through the first-first classifier 340 and the first-second classifier 350 that perform early decision classification before deriving the second output vector from the output layer. When whether the biometric information is forged or not is detected, it is possible to immediately detect whether the forgery has been made without using the second output vector, thereby reducing the time for determining whether the biometric information is forged or not.

생체 정보의 위조 여부를 판단하는 경우, 판단의 정확도와 위조 여부를 검출하는 속도는 트레이드-오프(Trade-off) 관계에 해당할 수 있다. 스푸핑 방지 장치(300)는 빠른 판단을 위해 제1-1 분류기(340), 및 제1-2 분류기(350)들을 이용하되 제1-1 분류기(340), 및 제1-2 분류기(350)들의 검출 신뢰도가 높은 경우, 제1 위조 여부를 바로 활용하되, 검출 신뢰도가 낮은 경우, 제2 분류기(360)에 의해 제2 출력 벡터로부터 제2 위조 여부를 판단할 수 있다.When it is determined whether or not biometric information is forged, the accuracy of the determination and the speed of detecting whether the biometric information is forged may correspond to a trade-off relationship. The anti-spoofing device 300 uses the 1-1 classifier 340 and the 1-2 classifier 350 for quick determination, but the 1-1 classifier 340 and the 1-2 classifier 350 are used. When the detection reliability is high, whether the first forgery or not is directly used, but when the detection reliability is low, the second forgery may be determined from the second output vector by the second classifier 360 .

도 3c는 일 실시예에 따른 제1 임계 범위를 도시한 도면이다.3C is a diagram illustrating a first threshold range according to an embodiment.

도 3c를 참조하면, 위조 정보에 대응하는 제1 중간 위변조 점수의 확률 분포를 나타낸 그래프(307) 및 실제 정보에 대응하는 제1 중간 위변조 점수의 확률 분포를 나타낸 그래프(308)가 도시된다.Referring to FIG. 3C , a graph 307 showing a probability distribution of a first intermediate forgery score corresponding to forgery information and a graph 308 showing a probability distribution of a first intermediate forgery score corresponding to real information are shown.

예를 들어, 제1 출력 벡터에 기초하여 산출한 제1 중간 위변조 점수가 생체 정보가 실제 정보로 판단되는 범위에 속하는지, 또는 생체 정보가 위조 정보로 판단되는 범위에 속하는지 여부를 명확하게 판단할 수 있는 경우, 스푸핑 방지 장치(300)는 제1 중간 위변조 점수에 의해 바로 위조 여부를 검출할 수 있다. 이와 달리, 제1 중간 위변조 점수가 생체 정보가 실제 정보로 결정되는 범위에 속하는지, 또는 생체 정보가 위조 정보로 결정되는 범위에 속하는지를 명확하게 판단할 수 없는 경우, 스푸핑 방지 장치(300)는 제1 중간 위변조 점수에 의해 위조 여부를 바로 결정할 수 없다.For example, it is clearly determined whether the first intermediate forgery score calculated based on the first output vector belongs to a range in which biometric information is determined as real information or whether biometric information is in a range determined to be counterfeit information. If possible, the anti-spoofing device 300 may directly detect whether the forgery is based on the first intermediate forgery score. On the other hand, if the first intermediate forgery score cannot clearly determine whether the biometric information belongs to the range determined by the real information or whether the biometric information belongs to the range determined as the forgery information, the spoofing prevention device 300 is Based on the first intermediate forgery score, it is not possible to immediately determine whether a forgery or not.

일 실시예에서 제1 임계 범위는 제1 중간 위변조 점수로부터 위조 여부를 명확하게 판단할 수 있는 확률 범위에 해당할 수 있다. 제1 임계 범위는 위조 여부가 명확하게 결정되지 않는 제1 중간 위변조 점수를 구분하기 위한 것이다. 제1 중간 위변조 점수에 의해 위조 여부가 바로 결정되지 않는 경우, 스푸핑 방지 장치(300)는 제2 중간 위변조 점수에 의해 위조 여부를 결정할 수 있다.In an embodiment, the first threshold range may correspond to a probability range that can clearly determine whether a forgery is forgery from the first intermediate forgery score. The first threshold range is for discriminating a first intermediate forgery score in which forgery or not is not clearly determined. When forgery is not immediately determined by the first intermediate forgery score, the anti-spoofing device 300 may determine whether forgery is based on the second intermediate forgery score.

그래프(307)에서 거절 임계치(Reject Threshold)(375)는 제1 중간 위변조 점수가, 생체 정보가 명확하게 위조 정보라고 판단되는 범위에 속하는 것으로 결정될 수 있는 확률의 최대값(Max(Spoof Score))에 해당할 수 있다. 또한, 그래프(308)에서 수용 임계치(Accept Threshold)(385)는 제1 중간 위변조 점수가, 생체 정보가 명확하게 실제 정보라고 판단되는 범위에 속하는 것으로 결정될 수 있는 확률의 최소값(Min(Live Score))에 해당할 수 있다.In the graph 307, the rejection threshold (Reject Threshold) 375 is the maximum value of the probability that the first intermediate forgery score can be determined as belonging to the range in which the biometric information is clearly determined to be counterfeit information (Max (Spoof Score)) may correspond to In addition, in the graph 308, the Accept Threshold 385 is the minimum value of the probability that the first intermediate forgery score can be determined as belonging to a range in which the biometric information is clearly determined to be real information (Min (Live Score)) ) may be applicable.

제1 임계 범위는 제1 중간 위변조 점수가 위조 정보로 판단될 최대 확률(Max(Spoof Score))에 대응하는 거절 임계치(375) 및 제1 중간 위변조 점수가 실제 정보로 판단될 최소 확률(Min(Live Score))에 대응하는 수용 임계치(385)에 기초하여 결정될 수 있다. 제1 임계 범위는 그래프(307)에서 거절 임계치(375)보다 크고, 그래프(308)에서 수용 임계치(385)보다 작은 구간(370)에 해당할 수 있다. 그래프(307)에서 제1 중간 위변조 점수가 거절 임계치(375)보다 작거나 같은 구간(370)에 속하는 경우, 제1 중간 위변조 점수는 명확하게 '위조 정보'로 결정될 수 있다. 또한, 그래프(308)에서 제1 중간 위변조 점수가 수용 임계치(385)보다 크거나 같은 구간(390)에 속하는 경우, 제1 중간 위변조 점수는 명확하게 '실제 정보'로 결정될 수 있다. The first threshold range is the rejection threshold 375 corresponding to the maximum probability (Max(Spoof Score)) that the first intermediate forgery score is determined as forgery information, and the minimum probability that the first intermediate forgery score is determined as real information (Min(Spoof Score)) Live Score)) may be determined based on the acceptance threshold 385 . The first threshold range may correspond to an interval 370 greater than the rejection threshold 375 in the graph 307 and less than the acceptance threshold 385 in the graph 308 . If the first intermediate forgery score in the graph 307 is less than or equal to the rejection threshold 375 and belongs to the section 370, the first intermediate forgery score may be clearly determined as 'forgery information'. In addition, when the first intermediate forgery score in the graph 308 belongs to the section 390 equal to or greater than the acceptance threshold 385, the first intermediate forgery score may be clearly determined as 'real information'.

제1 중간 위변조 점수가 구간(380) 및 구간(390)에 속하는 경우, 스푸핑 방지 장치(300)는 제1 중간 위변조 점수가 제1 임계 범위 내에 속한다고 결정하고, 제1 중간 위변조 점수에 의해 바로 위조 여부('제1 위조 여부')를 검출할 수 있다. 이와 달리, 제1 중간 위변조 점수가 구간(370)에 속하는 경우, 스푸핑 방지 장치(300)는 제1 중간 위변조 점수가 제1 임계 범위에 속하지 않는다고 결정하고, 제2 출력 벡터 및 후술할 유사도 값에 기초하여 산출된 통합 위변조 점수에 의해 위조 여부('제2 위조 여부')를 검출할 수 있다.If the first intermediate forgery score belongs to the section 380 and the section 390, the anti-spoofing device 300 determines that the first intermediate forgery score falls within the first threshold range, and immediately by the first intermediate forgery score It is possible to detect whether a forgery ('first forgery or not') is. On the other hand, if the first intermediate forgery score belongs to the section 370, the spoofing prevention device 300 determines that the first intermediate forgery score does not belong to the first threshold range, and the second output vector and the similarity value to be described later. Whether or not forgery ('second forgery or not') can be detected by the integrated forgery score calculated based on it.

다시 도 2를 참조하면, 단계(220)에서, 일 실시예에 따른 스푸핑 방지 장치는 입력 데이터로부터 생체 정보의 특징을 포함하는 입력 임베딩 벡터를 추출한다.Referring back to FIG. 2 , in step 220 , the anti-spoofing device according to an embodiment extracts an input embedding vector including a feature of biometric information from the input data.

사용자로부터 센싱되는 생체 정보를 수신한 스푸핑 방지 장치는, 생체 정보를 포함하는 입력 데이터로부터 입력 임베딩 벡터를 추출할 수 있다.The anti-spoofing device receiving the biometric information sensed from the user may extract an input embedding vector from input data including the biometric information.

일 실시예에 따른 스푸핑 방지 장치는 생체 정보의 특징을 추출하도록 학습된 뉴럴 네트워크를 이용하여, 입력 생체 정보로부터 입력 임베딩 벡터를 추출할 수 있다. 뉴럴 네트워크는 불특정 다수의 실제 생체 정보와 불특정 다수의 위조 생체 정보를 이용하여 학습된 것일 수 있다. 뉴럴 네트워크에 의하여 생성되는 임베딩 벡터는 생체 정보의 특징 정보를 내포(embed)하며, 임베딩 벡터는 특징 벡터(feature vector)로 지칭될 수 있다.The anti-spoofing apparatus according to an embodiment may extract an input embedding vector from the input biometric information by using a neural network trained to extract features of the biometric information. The neural network may be learned using an unspecified number of real biometric information and an unspecified number of fake biometric information. The embedding vector generated by the neural network embeds feature information of biometric information, and the embedding vector may be referred to as a feature vector.

여기서 뉴럴 네트워크는 제1 뉴럴 네트워크를 포함할 수 있다. 도 3a를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 1-1 출력 임베딩 벡터 및 1-1 출력 임베딩 벡터에 기초하여 입력 임베딩 벡터를 추출할 수 있다.Here, the neural network may include a first neural network. Referring to FIG. 3A , an apparatus for preventing spoofing according to an embodiment may extract an input embedding vector based on a 1-1 output embedding vector and a 1-1 output embedding vector.

단계(230)에서, 일 실시예에 따른 스푸핑 방지 장치는 미리 구비된 실제 임베딩 벡터와 등록 임베딩 벡터 중 적어도 하나 및 위조 임베딩 벡터에 기초하여, 입력 임베딩 벡터의 유사도 값을 계산한다.In step 230, the anti-spoofing device according to an embodiment calculates a similarity value of the input embedding vector based on at least one of a pre-equipped real embedding vector and a registered embedding vector and a fake embedding vector.

일 실시예에 따른 스푸핑 방지 장치는 실제 생체 정보를 기초로 미리 구비된 실제 모델(real model)의 실제 임베딩 벡터 및/또는 기 등록된 사용자의 생체 정보를 기초로 생성된 등록 모델의 등록(enroll) 임베딩 벡터를 획득할 수 있다. 실제 모델은 불특정 다수의 실제 생체 정보로부터 추출된 실제 임베딩 벡터들의 집합에 해당할 수 있다. 불특정 다수의 실제 생체 정보는 전술한 뉴럴 네트워크의 학습에 이용된 것과 동일한 것일 수 있다. 실제 모델은 불특정 다수의 실제 임베딩 벡터들을 모두 포함할 수도 있고, 클러스터링을 통하여 대표되는 임베딩 벡터들만을 포함할 수도 있다.The anti-spoofing device according to an embodiment includes a real embedding vector of a real model provided in advance based on real biometric information and/or a registration model generated based on the biometric information of a previously registered user. An embedding vector can be obtained. The actual model may correspond to a set of actual embedding vectors extracted from an unspecified number of actual biometric information. The unspecified plurality of actual biometric information may be the same as that used for learning of the above-described neural network. The real model may include all of an unspecified number of real embedding vectors, or may include only embedding vectors represented through clustering.

일 실시예에 따른 등록 모델은 기 등록된 사용자의 생체 정보(예를 들어, 등록 지문 영상들(121, 122, 123)로부터 추출된 등록 임베딩 벡터들의 집합을 의미할 수 있다. 스푸핑 방지 장치는 지문 등록 과정에서 등록 모델을 등록 지문 데이터베이스(120)에 저장할 수 있다.The registration model according to an embodiment may mean a set of registration embedding vectors extracted from biometric information (eg, registered fingerprint images 121, 122, and 123) of a previously registered user. During the registration process, the registration model may be stored in the registered fingerprint database 120 .

일 실시예에 따른 스푸핑 방지 장치는 위조 생체 정보를 기초로 미리 구비된 위조 모델(fake model)의 위조 임베딩 벡터를 획득할 수 있다. 위조 모델은 불특정 다수의 위조 생체 정보로부터 추출된 위조 임베딩 벡터들의 집합에 해당할 수 있다. 불특정 다수의 위조 생체 정보는 전술한 뉴럴 네트워크의 학습에 이용된 것과 동일한 것일 수 있다. 위조 모델은 불특정 다수의 위조 임베딩 벡터들을 모두 포함할 수도 있고, 클러스터링을 통하여 대표되는 임베딩 벡터들만을 포함할 수도 있다.The anti-spoofing device according to an embodiment may acquire a fake embedding vector of a fake model provided in advance based on the forged biometric information. The forgery model may correspond to a set of fake embedding vectors extracted from a plurality of unspecified fake biometric information. The unspecified plurality of forged biometric information may be the same as that used for learning the above-described neural network. The forgery model may include all of an unspecified number of fake embedding vectors, or may include only embedding vectors represented through clustering.

일 실시예에 따른 스푸핑 방지 장치는 i)실제 임베딩 벡터 및/또는 등록 임베딩 벡터를 ii)위조 임베딩 벡터와 함께 이용하여, 입력 임베딩 벡터의 유사도 값을 결정할 수 있다. 입력 임베딩 벡터의 유사도 값은 입력 지문 영상이 얼마나 실제 지문과 가까운지를 나타내는 지표로, 유사도 값이 높을수록 실제 지문일 확률이 높을 수 있다. 유사도 값을 결정하는 구체적인 방법은 아래에서 도 4a 내지 도 4c를 참조하여 상세히 설명한다.The anti-spoofing device according to an embodiment may determine a similarity value of an input embedding vector by using i) an actual embedding vector and/or a registered embedding vector together with ii) a fake embedding vector. The similarity value of the input embedding vector is an index indicating how close the input fingerprint image is to the actual fingerprint. The higher the similarity value, the higher the probability that the input fingerprint image is an actual fingerprint. A specific method of determining the similarity value will be described in detail below with reference to FIGS. 4A to 4C .

단계(240)에서, 일 실시예에 따른 스푸핑 방지 장치는 제1 위조 여부가 검출되는지에 따라, 제1 뉴럴 네트워크의 제2 출력 벡터 및 유사도 값에 기초하여 통합 위변조 점수를 계산한다. 전술한 바와 같이, 일 실시예에 따른 스푸핑 방지 장치는 제1 위조 여부가 검출되지 않는 경우, 제2 출력 벡터 및 유사도 값에 기초하여 통합 위변조 점수를 계산할 수 있다.In step 240, the anti-spoofing device according to an embodiment calculates an integrated forgery score based on the second output vector of the first neural network and the similarity value according to whether the first forgery is detected. As described above, the anti-spoofing device according to an embodiment may calculate an integrated forgery score based on the second output vector and the similarity value when the first forgery is not detected.

일 실시예에 따른 스푸핑 방지 장치는 제1 위조 여부가 검출되지 않는 경우, 제1 뉴럴 네트워크의 출력 레이어로부터 출력되는 제2 출력 벡터에 기초하여 최종 위변조 점수를 계산할 수 있고, 최종 위변조 점수 및 유사도 값에 기초하여 통합 위변조 점수를 계산할 수 있다. 보다 구체적으로, 일 실시예에 따른 스푸핑 방지 장치는 최종 위변조 점수 및 유사도 값의 가중합을 수행하고, 가중합 수행 결과에 미리 정해진 비선형함수를 적용하여 통합 위변조 점수를 계산할 수 있다.The anti-spoofing device according to an embodiment may calculate a final forgery score based on a second output vector output from an output layer of the first neural network, when first forgery is not detected, and a final forgery score and similarity value An integrated forgery score can be calculated based on . More specifically, the anti-spoofing device according to an embodiment may perform a weighted sum of the final forgery score and the similarity value, and may calculate an integrated forgery score by applying a predetermined nonlinear function to the weighted summation result.

단계(250)에서, 일 실시예에 따른 스푸핑 방지 장치는 통합 위변조 점수에 기초하여 상기 생체 정보의 제2 위조 여부를 검출한다. 통합 위변조 점수를 산출한 일 실시예에 따른 스푸핑 방지 장치는 통합 위변조 점수가 제2 위조 여부의 검출을 위한 제1 임계값과 비교하여, 생체 정보의 제2 위조 여부를 검출할 수 있다.In step 250, the anti-spoofing device according to an embodiment detects whether the biometric information is forged a second time based on the integrated forgery score. The spoofing prevention apparatus according to an embodiment in which the integrated forgery score is calculated may compare the integrated forgery score with a first threshold value for detecting whether the second forgery or not, and detect whether the biometric information is forged a second time.

예를 들어, 스푸핑 방지 장치는 통합 위변조 점수가 제2 위조 여부의 검출을 위한 제1 임계값 보다 클 경우, 해당 생체 정보를 '실제 정보'로 판단할 수 있고, 통합 위변조 점수가 제1 임계값 보다 작거나 같은 경우, 해당 생체 정보를 '위조 정보'로 판단할 수 있다.For example, if the integrated forgery score is greater than the first threshold for detecting whether the second forgery or not, the spoofing prevention device may determine the corresponding biometric information as 'real information', and the integrated forgery score is the first threshold value If less than or equal to, the corresponding biometric information may be determined as 'false information'.

종래의 위조 지문 검출 시스템은 사전에 준비된 훈련 데이터베이스를 기반으로 위조 지문 검출 장치를 설계했으나, 사전에 준비된 훈련 데이터베이스로 실제 사용 환경을 모두 커버하는 것은 시간, 비용적인 측면에서 현실적이지 못할 수 있다.The conventional fake fingerprint detection system designs a fake fingerprint detection device based on a training database prepared in advance, but it may not be realistic in terms of time and cost to cover all the actual use environments with the training database prepared in advance.

예를 들어, 사전에 준비된 훈련 데이터베이스로 실제 사용 환경을 커버하기 어려운 케이스로 위조 지문 검출 장치에 보호필름을 붙이는 경우, 위조 지문 검출 장치에 흠집이 있는 경우와 같이 단말 자체에 변화가 생기는 케이스(이하, '단말 변화 케이스'라고 지칭한다) 또는 사용 환경(예를 들어, 저온, 고온 또는 건조 환경 등)에 따라 지문이 수축하거나 변형되는 케이스(이하, '지문 변화 케이스'라고 지칭한다)가 있을 수 있다. 해당 케이스들의 경우, 사전에 준비된 훈련 데이터베이스로 실제 사용 환경을 커버하기 어렵기 때문에 위조 지문 검출 장치의 성능이 저하되는 문제가 있을 수 있다.For example, in a case where it is difficult to cover the actual use environment with a training database prepared in advance, when a protective film is attached to a counterfeit fingerprint detection device, a case in which a change occurs in the terminal itself, such as when there is a scratch in the counterfeit fingerprint detection device (hereinafter , 'terminal change case') or use environment (eg, low temperature, high temperature, dry environment, etc.), there may be cases in which the fingerprint shrinks or deforms (hereinafter referred to as 'fingerprint change case'). have. In these cases, since it is difficult to cover the actual use environment with the training database prepared in advance, there may be a problem in that the performance of the forged fingerprint detection device is deteriorated.

이에, 일 실시예에 따른 스푸핑 방지 장치는 통합 위변조 점수에 기초하여 입력 임베딩 벡터의 임베딩 벡터 업데이트 조건을 만족하는지 판단하고, 임베딩 벡터 업데이트 조건을 만족한다는 판단에 기초하여 입력 임베딩 벡터를 이용하여 등록 임베딩 벡터, 실제 임베딩 벡터 및 위조 임베딩 벡터 중 적어도 하나를 업데이트할 수 있다. 스푸핑 방지 장치는 생체 정보를 포함하는 입력 데이터를 이용하여 스푸핑 방지 장치를 업데이트함으로써 실제 사용 환경을 반영할 수 있으므로 위조 지문 판단 성능이 향상될 수 있다. 임베딩 벡터를 이용하여 등록 임베딩 벡터, 실제 임베딩 벡터 및 위조 임베딩 벡터 중 적어도 하나를 업데이트하는 구체적인 방법은 아래에서 도 5a 내지 도 5b를 참조하여 설명된다.Accordingly, the spoofing prevention apparatus according to an embodiment determines whether the embedding vector update condition of the input embedding vector is satisfied based on the integrated forgery score, and registers embedding using the input embedding vector based on the determination that the embedding vector update condition is satisfied At least one of a vector, a real embedding vector, and a fake embedding vector may be updated. The anti-spoofing device may reflect the actual use environment by updating the anti-spoofing device using input data including biometric information, so that the performance of determining a forged fingerprint may be improved. A specific method of using the embedding vector to update at least one of a registered embedding vector, a real embedding vector, and a fake embedding vector is described below with reference to FIGS. 5A to 5B.

도 4a 내지 도 4c는 추정된 사후 확률에 기초하여 입력 임베딩 벡터의 유사도 값을 결정하는 방법을 설명하기 위한 도면이다.4A to 4C are diagrams for explaining a method of determining a similarity value of an input embedding vector based on an estimated posterior probability.

도 4a를 참조하면, 스푸핑 방지 장치는 실제 모델(420)의 실제 임베딩 벡터 및 위조 모델(430)의 위조 임베딩 벡터에 기초하여 입력 임베딩 벡터의 유사도 값을 결정할 수 있다. 스푸핑 방지 장치는 제1 뉴럴 네트워크(410)를 이용하여 입력 생체 정보에 대응하는 입력 임베딩 벡터를 추출할 수 있다.Referring to FIG. 4A , the spoofing prevention apparatus may determine a similarity value of the input embedding vector based on the real embedding vector of the real model 420 and the fake embedding vector of the fake model 430 . The anti-spoofing apparatus may extract an input embedding vector corresponding to the input biometric information by using the first neural network 410 .

스푸핑 방지 장치는 실제 모델(420)의 대표 임베딩 벡터와 입력 임베딩 벡터 사이의 제1 사후 확률을 추정할 수 있고, 위조 모델(430)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제2 사후 확률을 추정할 수 있다.The anti-spoofing device may estimate the first posterior probability between the representative embedding vector and the input embedding vector of the real model 420 , and estimate the second posterior probability between the representative embedding vector set and the input embedding vector of the fake model 430 . can do.

스푸핑 방지 장치는 제1 사후 확률과 제2 사후 확률의 확률비인 제1 확률비를 계산할 수 있고, 이를 입력 임베딩 벡터의 유사도 값으로 결정할 수 있다. 제1 확률비는 예를 들어, 수학식 1과 같이 계산될 수 있다.The anti-spoofing apparatus may calculate a first probability ratio, which is a probability ratio of the first posterior probability and the second posterior probability, and may determine it as a similarity value of the input embedding vector. The first probability ratio may be calculated as, for example, Equation (1).

또는, 스푸핑 방지 장치는 실제 모델(420)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제1 사후 확률을 추정할 수 있고, 위조 모델(430)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제2 사후 확률을 추정할 수 있다. 이 경우, 제1 확률비는 예를 들어, 수학식 2와 같이 계산될 수 있다.Alternatively, the anti-spoofing device may estimate a first posterior probability between the representative embedding vector set of the real model 420 and the input embedding vector, and a second posterior probability between the representative embedding vector set and the input embedding vector of the forged model 430 . can be estimated. In this case, the first probability ratio may be calculated as, for example, Equation (2).

수학식 2의 분자는 실제 모델(420)에 속하는 실제 임베딩 벡터들 중 입력 임베딩 벡터와 가장 유사한 N개의 실제 임베딩 벡터들(Nbest)과 입력 임베딩 벡터 간의 사후 확률들의 평균을 의미할 수 있다.The numerator of Equation 2 may mean the average of posterior probabilities between the N real embedding vectors (Nbest) most similar to the input embedding vector among the real embedding vectors belonging to the real model 420 and the input embedding vector.

스푸핑 방지 장치는 입력 임베딩 벡터의 유사도 값인 제1 확률비가 미리 정해진 임계값 이상인 경우 입력 생체 정보를 위조되지 않은 것으로 판단할 수 있고, 제1 확률비가 임계값 미만일 경우 입력 생체 정보를 위조된 것으로 판단할 수 있다.The anti-spoofing device may determine that the input biometric information is not forged if the first probability ratio, which is the similarity value of the input embedding vector, is equal to or greater than a predetermined threshold, and determines that the input biometric information is forged if the first probability ratio is less than the threshold. can

도 4b를 참조하면, 스푸핑 방지 장치는 등록 모델(440)의 등록 임베딩 벡터 및 위조 모델(430)의 위조 임베딩 벡터에 기초하여 입력 임베딩 벡터의 유사도 값을 결정할 수 있다.Referring to FIG. 4B , the spoofing prevention apparatus may determine a similarity value of the input embedding vector based on the registration embedding vector of the registration model 440 and the fake embedding vector of the forgery model 430 .

스푸핑 방지 장치는 등록 모델(440)의 대표 임베딩 벡터와 입력 임베딩 벡터 사이의 제3 사후 확률을 추정할 수 있고, 위조 모델(430)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제2 사후 확률을 추정할 수 있다.The anti-spoofing device may estimate the third posterior probability between the representative embedding vector and the input embedding vector of the registration model 440 , and estimate the second posterior probability between the representative embedding vector set and the input embedding vector of the forgery model 430 . can do.

스푸핑 방지 장치는 제2 사후 확률과 제3 사후 확률의 확률비인 제2 확률비를 계산할 수 있고, 이를 입력 임베딩 벡터의 유사도 값으로 결정할 수 있다. 제2 확률비는 예를 들어, 수학식 3과 같이 계산될 수 있다.The anti-spoofing apparatus may calculate a second probability ratio that is a probability ratio of the second posterior probability and the third posterior probability, and may determine it as a similarity value of the input embedding vector. The second probability ratio may be calculated as, for example, Equation (3).

또는, 스푸핑 방지 장치는 등록 모델(440)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제3 사후 확률을 추정할 수 있고, 위조 모델(430)의 대표 임베딩 벡터 집합과 입력 임베딩 벡터 사이의 제2 사후 확률을 추정할 수 있다. 이 경우, 제2 확률비는 예를 들어, 수학식 4과 같이 계산될 수 있다.Alternatively, the anti-spoofing device may estimate a third posterior probability between the representative embedding vector set of the registration model 440 and the input embedding vector, and a second posterior probability between the representative embedding vector set and the input embedding vector of the forgery model 430 . can be estimated. In this case, the second probability ratio may be calculated as, for example, Equation (4).

수학식 4의 분자는 등록 모델(440)에 속하는 등록 임베딩 벡터들 중 입력 임베딩 벡터와 가장 유사한 N개의 등록 임베딩 벡터들(Nbest)과 입력 임베딩 벡터 간의 사후 확률들의 평균을 의미할 수 있다.The numerator of Equation 4 may mean the average of posterior probabilities between the N registration embedding vectors (Nbest) most similar to the input embedding vector among the registration embedding vectors belonging to the registration model 440 and the input embedding vector.

스푸핑 방지 장치는 입력 임베딩 벡터의 유사도 값인 제2 확률비가 미리 정해진 임계값 이상인 경우 입력 생체 정보를 위조되지 않은 것으로 판단할 수 있고, 제2 확률비가 임계값 미만일 경우 입력 생체 정보를 위조된 것으로 판단할 수 있다.The anti-spoofing device may determine that the input biometric information is not forged if the second probability ratio, which is the similarity value of the input embedding vector, is equal to or greater than a predetermined threshold, and determines that the input biometric information is forged if the second probability ratio is less than the threshold. can

스푸핑 방지 장치는 값의 변동성을 조절하거나 값의 범위를 일정하게 한정하기 위하여 로그나 시그모이드 함수 등을 이용하여 확률비를 정규화 할 수 있다. 예를 들어, 확률비를 정규화한 결과는 수학식 5과 같을 수 있다.The anti-spoofing device may normalize the probability ratio by using a logarithmic function or a sigmoid function in order to control the variability of a value or to uniformly limit the range of a value. For example, the result of normalizing the probability ratio may be the same as in Equation (5).

스푸핑 방지 장치는 입력 임베딩 벡터의 유사도 값인 정규화된 확률비가 미리 정해진 임계값 이상인 경우 입력 생체 정보를 위조되지 않은 것으로 판단할 수 있고, 정규화된 확률비가 임계값 미만일 경우 입력 생체 정보를 위조된 것으로 판단할 수 있다.The anti-spoofing device may determine that the input biometric information is not forged if the normalized probability ratio, which is the similarity value of the input embedding vector, is greater than or equal to a predetermined threshold, and may determine that the input biometric information is forged if the normalized probability ratio is less than the threshold. can

도 4c를 참조하면, 스푸핑 방지 장치는 실제 모델(420)의 실제 임베딩 벡터, 위조 모델(430)의 위조 임베딩 벡터 및 등록 모델(440)의 등록 임베딩 벡터에 기초하여 입력 임베딩 벡터의 유사도 값을 결정할 수 있다. 스푸핑 방지 장치는 도 4a 및 도 4b를 통하여 전술한 것과 같이 제1 확률비 및 상기 제2 확률비를 계산한 뒤, 제1 확률비와 제2 확률비에 기초하여 입력 임베딩 벡터의 유사도 값을 결정할 수 있다. 예를 들어, 스푸핑 방지 장치는 제1 확률비 및 제2 확률비를 가중합한 결과를 입력 임베딩 벡터의 유사도 값으로 결정할 수 있다. 예를 들어, 제1 확률비 및 제2 확률비를 가중합한 결과는 수학식 6와 같을 수 있다.Referring to FIG. 4C , the anti-spoofing device determines the similarity value of the input embedding vector based on the real embedding vector of the real model 420 , the fake embedding vector of the fake model 430 , and the registered embedding vector of the registered model 440 . can The anti-spoofing device calculates the first probability ratio and the second probability ratio as described above with reference to FIGS. 4A and 4B, and determines the similarity value of the input embedding vector based on the first probability ratio and the second probability ratio. can For example, the spoofing prevention apparatus may determine a result of weighted summing the first probability ratio and the second probability ratio as the similarity value of the input embedding vector. For example, a result of weighted summing the first probability ratio and the second probability ratio may be expressed as Equation (6).

스푸핑 방지 장치는 입력 임베딩 벡터의 유사도 값이 미리 정해진 임계값 이상인 경우 입력 생체 정보를 위조되지 않은 것으로 판단할 수 있고, 유사도 값이 임계값 미만일 경우 입력 생체 정보를 위조된 것으로 판단할 수 있다. 예를 들어, 스푸핑 방지 장치는 수학식 7에 따라 입력 생체 정보의 위조 여부를 판단할 수 있다.The anti-spoofing device may determine that the input biometric information is not forged if the similarity value of the input embedding vector is equal to or greater than a predetermined threshold value, and may determine that the input biometric information is forged if the similarity value is less than the threshold value. For example, the anti-spoofing device may determine whether the input biometric information is forged according to Equation (7).

도면에 도시하지 않았으나, 스푸핑 방지 장치는 실제 임베딩 벡터와 입력 임베딩 벡터 사이의 제1 거리 및 등록 임베딩 벡터와 입력 임베딩 벡터 사이의 제3 거리에 기초하여, 입력 생체 정보가 위조되지 않은 경우에 해당하는 제1 카테고리의 값을 결정할 수 있다. 또한, 스푸핑 방지 장치는 위조 임베딩 벡터와 입력 임베딩 벡터 사이의 제2 거리에 기초하여, 입력 생체 정보가 위조된 경우에 해당하는 제2 카테고리의 값을 결정할 수 있다.Although not shown in the drawing, the anti-spoofing device is based on the first distance between the actual embedding vector and the input embedding vector and the third distance between the registered embedding vector and the input embedding vector, corresponding to the case where the input biometric information is not forged. A value of the first category may be determined. Also, the spoofing prevention apparatus may determine a value of the second category corresponding to the case in which the input biometric information is forged based on the second distance between the forged embedding vector and the input embedding vector.

스푸핑 방지 장치는 제1 카테고리의 값과 제2 카테고리의 값에 기초하여, 입력 임베딩 벡터의 유사도 값을 결정할 수 있다. 스푸핑 방지 장치는 제1 카테고리의 값과 제2 카테고리의 값을 소프트맥스(softmax) 함수에 적용함으로써, 입력 임베딩 벡터의 유사도 값을 계산할 수 있다.The anti-spoofing apparatus may determine a similarity value of the input embedding vector based on the value of the first category and the value of the second category. The anti-spoofing apparatus may calculate a similarity value of the input embedding vector by applying the value of the first category and the value of the second category to a softmax function.

보다 구체적으로, 스푸핑 방지 장치는 수학식 8 및 수학식 9에 기초하여 입력 임베딩 벡터의 유사도 값을 결정할 수도 있다.More specifically, the anti-spoofing apparatus may determine a similarity value of the input embedding vector based on Equations (8) and (9).

dist_fake는 입력 임베딩 벡터와 위조 임베딩 벡터 사이의 거리로 제2 카테고리의 값에 해당할 수 있다. dist_enroll/real은 수학식 9에 의하여 계산될 수 있으며, 제1 카테고리의 값에 해당할 수 있다.dist _fake is the distance between the input embedding vector and the fake embedding vector, and may correspond to a value of the second category. dist _enroll/real may be calculated by Equation 9, and may correspond to a value of the first category.

dist_enroll는 입력 임베딩 벡터와 등록 임베딩 벡터 사이의 거리이고, dist_real는 입력 임베딩 벡터와 실제 임베딩 벡터 사이의 거리이다. γ는 가중 합산을 위한 가중치로 0.5일 수 있다.dist _enroll is the distance between the input embedding vector and the enrollment embedding vector, and dist _real is the distance between the input embedding vector and the actual embedding vector. γ may be 0.5 as a weight for weighted summation.

도 5a 및 도 5b는 입력 임베딩 벡터에 기초하여 초기 모델 및 등록 모델을 업데이트하는 방법을 설명하기 위한 도면이다.5A and 5B are diagrams for explaining a method of updating an initial model and a registration model based on an input embedding vector.

도 5a를 참조하면, 일 실시예에 따른 위조 지문 검출 장치는 초기 모델 또는 등록 모델에 저장된 지문 데이터의 수가 저장 한도에 도달했는지 판단할 수 있고, 초기 모델 또는 등록 모델에 저장된 지문 데이터의 수가 저장 한도에 도달한 경우, 해당 모델에서 제외될 제거 지문 데이터를 결정할 수 있다. 도 5a에 따른 업데이트 방법은 단말 변화 케이스에 따라 초기 모델을 업데이트할 때 주로 사용되나, 이에 제한되는 것은 아니다.Referring to FIG. 5A , the device for detecting fake fingerprints according to an embodiment may determine whether the number of fingerprint data stored in the initial model or the registration model has reached the storage limit, and the number of fingerprint data stored in the initial model or the registration model is the storage limit. , it is possible to determine the removed fingerprint data to be excluded from the model. The update method according to FIG. 5A is mainly used when updating an initial model according to a terminal change case, but is not limited thereto.

도 5b를 참조하면, 일 실시예에 따른 위조 지문 검출 장치는 초기 모델 또는 등록 모델에 저장된 지문 데이터의 수가 저장 한도에 도달하지 않은 경우, 저장 한도에 도달할 때까지 입력 임베딩 벡터를 해당 모델에 추가할 수 있다. 도 5b에 따른 업데이트 방법은 지문 변화 케이스에 따라 등록 모델을 업데이트할 때 주로 사용되나, 이에 제한되는 것은 아니다.Referring to FIG. 5B, when the number of fingerprint data stored in the initial model or the registration model does not reach the storage limit, the device for detecting a fake fingerprint according to an embodiment adds an input embedding vector to the corresponding model until the storage limit is reached. can do. The update method according to FIG. 5B is mainly used when updating the registration model according to a fingerprint change case, but is not limited thereto.

전술한 초기 모델 및 등록 모델을 업데이트하는 방법은 수학식 10과 같이 나타낼 수 있다.A method of updating the above-described initial model and registration model may be expressed as Equation (10).

수학식 10에서,

는 업데이트된 초기 모델 또는 등록 모델,

은 업데이트 이전의 초기 모델 또는 등록 모델,

는 제1 신뢰도 값이 제1 임계값 이상인 입력 임베딩 벡터,

는 제거 지문 데이터일 수 있다.In Equation 10,

is the updated initial model or registration model;

is the initial model or registration model before the update;

is the input embedding vector whose first confidence value is greater than or equal to the first threshold,

may be removed fingerprint data.

도 6a 내지 도 6b는 일 실시예에 따른 스푸핑 방지를 통해 생체 정보를 등록하는 방법을 설명하기 위한 도면이다.6A to 6B are diagrams for explaining a method of registering biometric information through spoofing prevention according to an embodiment.

스푸핑 방지 장치는 생체 인증을 위해 등록되는 등록 생체 정보를 기반으로 등록 모델을 생성할 수 있다. 이 때 등록되는 모든 등록 생체 정보가 위조되지 않은 것으로 가정하여 등록 모델을 생성할 수도 있고, 실제 모델 및 위조 모델을 이용하여 위조되지 않은 것으로 판단된 등록 생체 정보만을 이용하여 등록 모델을 생성할 수도 있다.The anti-spoofing device may generate a registration model based on registered biometric information registered for biometric authentication. At this time, a registration model may be created assuming that all registered biometric information to be registered is not forged, or a registration model may be generated using only registered biometric information determined not to be forged using an actual model and a forgery model. .

도 6a를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 등록되는 모든 등록 생체 정보가 위조되지 않은 것으로 가정하여 등록 모델을 생성할 수 있다. 스푸핑 방지 장치는 제1 뉴럴 네트워크(610)를 이용하여 등록 생체 정보에 대응하는 등록 임베딩 벡터를 추출 수 있고, 해당 등록 임베딩 벡터를 등록 모델(620)에 저장할 수 있다.Referring to FIG. 6A , the anti-spoofing device according to an embodiment may generate a registration model assuming that all registered biometric information is not forged. The spoofing prevention apparatus may extract a registration embedding vector corresponding to the registered biometric information using the first neural network 610 , and store the registration embedding vector in the registration model 620 .

도 6b를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 실제 모델 및 위조 모델을 이용하여 위조되지 않은 것으로 등록 생체 정보만을 이용하여 등록 모델을 생성할 수 있다. 스푸핑 방지 장치는 뉴럴 네트워크(610)를 이용하여 등록 생체 정보에 대응하는 등록 임베딩 벡터를 추출할 수 있고, 실제 모델(630)의 실제 임베딩 벡터와 등록 임베딩 벡터 사이의 사후 확률 및 위조 모델(640)의 위조 임베딩 벡터와 등록 임베딩 벡터 사이의 사후 확률을 추정할 수 있고, 추정된 사후 확률들의 확률비에 기초하여 등록 임베딩 벡터의 신뢰도 값을 결정할 수 있다. 스푸핑 방지 장치는 등록 임베딩 벡터의 신뢰도 값이 미리 정해진 임계값 이상인 등록 임베딩 벡터를 등록 모델(620)에 저장할 수 있다.Referring to FIG. 6B , the spoofing prevention apparatus according to an exemplary embodiment may generate a registration model using only registered biometric information that is not forged using a real model and a forgery model. The anti-spoofing device may extract the registration embedding vector corresponding to the registered biometric information using the neural network 610, and the posterior probability between the real embedding vector of the real model 630 and the registration embedding vector and the forgery model 640. It is possible to estimate the posterior probability between the fake embedding vector of , and the registration embedding vector, and determine the reliability value of the registration embedding vector based on the probability ratio of the estimated posterior probabilities. The anti-spoofing apparatus may store the registration embedding vector in which the reliability value of the registration embedding vector is equal to or greater than a predetermined threshold value in the registration model 620 .

스푸핑 방지 장치는 보통 상태의 실제 생체 정보를 포함하는 입력 데이터를 수신하여 위조 여부를 판단할 수 있다. 예를 들어, 스푸핑 방지 장치는 보통 상태의 실제 지문 영상에 대응하는 입력 임베딩 벡터가 위조 지문 영상에 대응하는 위조 임베딩 벡터보다 등록 지문 영상에 대응하는 등록 임베딩 벡터와 더 유사하기 때문에, 보통 상태의 실제 지문 영상에 포함된 입력 지문이 위조가 아닌 실제 사람의 지문으로 판단할 수 있다.The anti-spoofing device may receive input data including actual biometric information in a normal state and determine whether it is forgery. For example, in the anti-spoofing device, since the input embedding vector corresponding to the real fingerprint image in the normal state is more similar to the enrollment embedding vector corresponding to the enrolled fingerprint image than the fake embedding vector corresponding to the fake fingerprint image, the real fingerprint image in the normal state It may be determined that the input fingerprint included in the fingerprint image is not a forgery but a fingerprint of a real person.

다른 예로, 스푸핑 방지 장치는 건조 상태의 실제 지문 영상을 입력 지문 영상으로 수신하여 위조 여부를 판단할 수 있다. 스푸핑 방지 장치는 건조 상태의 실제 지문 영상에 대응하는 입력 임베딩 벡터가 등록 임베딩 벡터보다 오히려 위조 임베딩 벡터와 더 유사하기 때문에, 건조 상태의 실제 지문 영상에 포함된 입력 지문을 위조 지문으로 잘못 판단할 수 있다.As another example, the anti-spoofing device may receive an actual fingerprint image in a dry state as an input fingerprint image and determine whether it is forgery. Since the input embedding vector corresponding to the real fingerprint image in the dry state is more similar to the fake embedding vector than the registered embedding vector, the anti-spoofing device may mistakenly determine the input fingerprint included in the real fingerprint image in the dry state as a fake fingerprint. have.

이와 같이, 지문 등록은 특정 환경에서 단발성으로 수행되기 때문에 위조 지문 검출 장치는 등록 시점의 환경과 다른 환경에서는 실제 사람의 지문을 위조 지문으로 잘못 판단할 수 있다. 아래에서, 도 7a 내지 도 7d를 참조하여 등록 지문 영상에 기초하여 생성된 가상 등록 지문 임베딩 벡터를 이용한 위조 지문 판단 방법을 설명한다. 스푸핑 방지 장치는 보통 상태의 등록 지문 영상을 건조, 저온, 유분 상태 등 다른 스타일로 변화시킬 수 있는 인공 신경망에 입력하여, 등록 지문의 구조적인 특성은 유지하면서 환경 특성만 변화된 가상의 등록 영상을 생성하여, 이를 위조 지문 판단 시에 사용할 수 있다. 가상 위조 임베딩 벡터를 생성하는 구체적인 방법은 아래에서 도 7a 내지 도 7d를 참조하여 설명된다.As such, since fingerprint registration is performed in a single shot in a specific environment, the forged fingerprint detecting apparatus may erroneously determine a real human fingerprint as a forged fingerprint in an environment different from the environment at the time of registration. Hereinafter, a method for determining a forged fingerprint using a virtual registered fingerprint embedding vector generated based on a registered fingerprint image will be described with reference to FIGS. 7A to 7D . The anti-spoofing device generates a virtual registered image in which only the environmental characteristics are changed while maintaining the structural characteristics of the registered fingerprint by inputting the registered fingerprint image in a normal state into an artificial neural network that can change the image to another style such as dry, low temperature, or oily state. Therefore, it can be used when determining a forged fingerprint. A specific method of generating a virtual fake embedding vector is described below with reference to FIGS. 7A to 7D.

도 7a 내지 도 7d는 일 실시예에 따른 가상 임베딩 벡터를 생성하는 방법을 설명하기 위한 도면이다.7A to 7D are diagrams for explaining a method of generating a virtual embedding vector according to an embodiment.

도 7a를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 등록 지문 영상(700)을 인공 신경망으로 구축된 영상 생성기(710)에 입력하여, 가상 등록 지문 영상들(701, 702)을 생성할 수 있다.Referring to FIG. 7A , the anti-spoofing device according to an embodiment may generate virtual registered fingerprint images 701 and 702 by inputting a registered fingerprint image 700 into an image generator 710 constructed with an artificial neural network. have.

스푸핑 방지 장치는 건조 상태 가상 등록 지문 영상(701)을 임베딩 벡터 추출기(715)에 입력하여, 하나 이상의 건조 상태 가상 등록 지문 임베딩 벡터를 포함하는 건조 상태 가상 등록 지문 임베딩 벡터 집합을 생성할 수 있다. 마찬가지로, 스푸핑 방지 장치는 유분 상태 가상 등록 지문 영상(702)을 임베딩 벡터 추출기(715)에 입력하여, 하나 이상의 유분 상태 가상 등록 지문 임베딩 벡터를 포함하는 유분 상태 가상 등록 지문 임베딩 벡터 집합을 생성할 수 있다.The anti-spoofing device may input the dry virtual registered fingerprint image 701 into the embedding vector extractor 715 to generate a dry virtual registered fingerprint embedding vector set including one or more dry virtual registered fingerprint embedding vectors. Similarly, the anti-spoofing device inputs the oily state virtual registered fingerprint image 702 into the embedding vector extractor 715 to generate a set of oily state virtual registered fingerprint embedding vectors including one or more oily state virtual registered fingerprint embedding vectors. have.

스푸핑 방지 장치는 생성된 건조 상태 가상 등록 지문 임베딩 벡터 집합과 유분 상태 가상 등록 지문 임베딩 벡터 집합에 기초하여 가상 등록 지문 임베딩 벡터 모델(721)을 구축할 수 있다.The anti-spoofing device may construct the virtual registered fingerprint embedding vector model 721 based on the generated dry state virtual registered fingerprint embedding vector set and the oily state virtual registered fingerprint embedding vector set.

또한, 스푸핑 방지 장치는 등록 지문 영상(700)을 임베딩 벡터 추출기(715)에 입력하여, 등록 지문 임베딩 벡터를 생성하고, 이에 기초하여 등록 지문 임베딩 벡터 모델(722)을 구축할 수 있다. 가상 등록 지문 임베딩 벡터 모델(721) 및 등록 지문 임베딩 벡터 모델(722)은 등록 지문 데이터베이스에 저장될 수 있다.Also, the anti-spoofing device may input the registered fingerprint image 700 into the embedding vector extractor 715 to generate a registered fingerprint embedding vector, and build a registered fingerprint embedding vector model 722 based thereon. The virtual enrolled fingerprint embedding vector model 721 and the enrolled fingerprint embedding vector model 722 may be stored in an enrolled fingerprint database.

도 7b를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 등록 지문 영상(700)을 영상 생성기(710)에 입력하여, 가상 위조 지문 영상(703)을 더 생성할 수 있다. 스푸핑 방지 장치는 등록 지문 영상(700)의 구조적인 특성은 유지하는 가상 위조 지문 영상(703)을 이용하여 위조 여부를 판단하기 때문에 입력 지문 영상의 위조 여부 판단 성능을 향상시킬 수 있다.Referring to FIG. 7B , the anti-spoofing device according to an embodiment may further generate a virtual forged fingerprint image 703 by inputting the registered fingerprint image 700 into the image generator 710 . Since the anti-spoofing device determines whether a forgery is detected by using the virtual forged fingerprint image 703 that maintains the structural characteristics of the registered fingerprint image 700, the performance of determining whether the input fingerprint image is forgery can be improved.

스푸핑 방지 장치는 가상 위조 지문 영상(703)을 임베딩 벡터 추출기(715)에 입력하여, 하나 이상의 가상 위조 지문 임베딩 벡터를 포함하는 가상 위조 지문 임베딩 벡터를 생성할 수 있고, 이에 기초하여 가상 위조 지문 임베딩 벡터 모델(723)을 구축할 수 있다.The anti-spoofing device may input the virtual forged fingerprint image 703 into the embedding vector extractor 715 to generate a virtual forged fingerprint embedding vector including one or more virtual forged fingerprint embedding vectors, based on the virtual forged fingerprint embedding vector. A vector model 723 may be built.

도 7c를 참조하면, 일 실시예에 따른 스푸핑 방지 장치는 가상 등록 지문 영상을 생성하지 않고, 등록 지문 영상(700)에서 바로 가상 등록 지문 임베딩 벡터를 생성할 수도 있다. 일 실시예에 따른 스푸핑 방지 장치는 등록 지문 영상(700)을 전술한 인공 신경망으로 구축된 임베딩 생성기(740)에 입력하여, 서로 다른 환경 특성을 갖는 복수의 가상 등록 지문 임베딩 벡터 집합들을 생성할 수 있다. 스푸핑 방지 장치는 생성된 복수의 가상 등록 지문 임베딩 벡터 집합들(예를 들어, 건조 상태 가상 등록 지문 임베딩 벡터 집합과 유분 상태 가상 등록 지문 임베딩 벡터 집합)에 기초하여 가상 등록 지문 임베딩 벡터 모델(721)을 구축할 수 있다.Referring to FIG. 7C , the anti-spoofing device according to an embodiment may generate a virtual registered fingerprint embedding vector directly from the registered fingerprint image 700 without generating a virtual registered fingerprint image. The anti-spoofing device according to an embodiment may generate a plurality of virtual registered fingerprint embedding vector sets having different environmental characteristics by inputting the registered fingerprint image 700 into the embedding generator 740 constructed with the aforementioned artificial neural network. have. The anti-spoofing device generates a virtual registered fingerprint embedding vector model 721 based on the generated plurality of virtual registered fingerprint embedding vector sets (eg, a dry state virtual registered fingerprint embedding vector set and an oily state virtual registered fingerprint embedding vector set). can be built

또한, 스푸핑 방지 장치는 등록 지문 영상(700)을 임베딩 벡터 생성기(740)에 입력하여, 하나 이상의 가상 위조 지문 임베딩 벡터를 포함하는 가상 위조 지문 임베딩 벡터를 생성할 수 있고, 이에 기초하여 가상 위조 지문 임베딩 벡터 모델(723)을 구축할 수 있다. 아래에서, 도 7d을 참조하여 영상 생성기(710) 및 임베딩 벡터 생성기(740)의 구체적인 동작 방법을 설명한다.In addition, the anti-spoofing device may input the registered fingerprint image 700 into the embedding vector generator 740 to generate a virtual forged fingerprint embedding vector including one or more virtual forged fingerprint embedding vectors, and based on this, a virtual forged fingerprint An embedding vector model 723 may be built. Hereinafter, detailed operation methods of the image generator 710 and the embedding vector generator 740 will be described with reference to FIG. 7D .

도 7d은 일 실시예에 따른 영상 생성기 및 임베딩 벡터 생성기의 동작을 설명하기 위한 도면이다.7D is a diagram for explaining operations of an image generator and an embedding vector generator according to an exemplary embodiment.

도 7d를 참조하면, 일 실시예에 따른 영상 생성기(710) 및 임베딩 벡터 생성기(740)는 동일한 원리로 동작할 수 있다. 아래에서, 설명의 편의를 위하여 영상 생성기(710)의 동작을 기준으로 설명한다.Referring to FIG. 7D , the image generator 710 and the embedding vector generator 740 according to an embodiment may operate on the same principle. Hereinafter, for convenience of description, the operation of the image generator 710 will be described based on the description.

일 실시예에 따른 영상 생성기(710)는 인공 신경망으로 구현되며, 인공 신경망은 가상 등록 지문 영상이 등록 지문 영상(750)의 구조적인 특성은 유지하면서, 등록 지문 영상(750)과 다른 환경 특성을 갖도록 학습될 수 있다.The image generator 710 according to an embodiment is implemented as an artificial neural network, in which the virtual registered fingerprint image maintains the structural characteristics of the registered fingerprint image 750 while maintaining environmental characteristics different from the registered fingerprint image 750 . can be learned to have.

일 실시예에 따른 인공 신경망은 G 생성기(760), F 생성기(765), D 판별기(770) 및 C 판별기(775)를 포함할 수 있다. 일 실시예에 따른 인공 신경망은 학습 데이터 쌍(pair) 없이 원하는 출력 데이터를 생성할 수 있다.The artificial neural network according to an embodiment may include a G generator 760 , an F generator 765 , a D discriminator 770 , and a C discriminator 775 . The artificial neural network according to an embodiment may generate desired output data without a training data pair.

G 생성기(760)는 등록 지문 영상(750)을 가상 등록 지문 영상(751)으로 변환시킬 수 있고, F 생성기(765)는 가상 등록 지문 영상(751)을 등록 지문 영상으로 복원할 수 있다. 인공 신경망은 학습 단계에서 복원된 등록 지문 영상(752)과 원래 등록 지문 영상(750)의 차이를 최소화하는 모델 파라미터를 결정할 수 있다.The G generator 760 may convert the registered fingerprint image 750 into a virtual registered fingerprint image 751 , and the F generator 765 may restore the virtual registered fingerprint image 751 into a registered fingerprint image. The artificial neural network may determine a model parameter that minimizes the difference between the registered fingerprint image 752 restored in the learning step and the original registered fingerprint image 750 .

D 판별기(770)는 가상 등록 지문 영상(751)을 원하는 환경 특성을 갖도록 만들어 주는 역할을 할 수 있다. D 판별기(770)는 특정 환경 특성을 갖는 지문 영상들(753)에 기초하여 가상 등록 지문 영상(751)을 특정 환경 특성을 갖도록 학습할 수 있다. 예를 들어, 인공 신경망은 가상 등록 지문 영상(751)을 건조 상태 가상 등록 지문 영상으로 학습시키고자 한다면, 건조 상태 지문 영상들과 가상 등록 지문 영상(751)의 차이를 최소화는 모델 파라미터를 결정할 수 있다.The D discriminator 770 may serve to make the virtual registered fingerprint image 751 have desired environmental characteristics. The D discriminator 770 may learn the virtual registered fingerprint image 751 to have a specific environmental characteristic based on the fingerprint images 753 having the specific environmental characteristic. For example, if the artificial neural network wants to train the virtual registered fingerprint image 751 as a dry virtual registered fingerprint image, it can determine a model parameter that minimizes the difference between the dry state fingerprint images and the virtual registered fingerprint image 751 . have.

C 판별기(775)는 가상 등록 지문 영상(751)이 위조 지문 영상이 아닌 실제 지문 영상의 특성을 갖도록 만들어 주는 역할을 할 수 있다. 전술한 바와 같이, 건조 상태의 실제 지문 영상과 목공풀로 위조된 위조 지문 영상은 서로 유사한 특성을 갖을 수 있고, 유분 상태의 실제 지문 영상과 젤라틴으로 위조된 위조 지문 영상은 서로 유사한 특성을 갖을 수 있다. 이에, C 판별기(775)는 가상 등록 지문 영상(751)과 실제 지문 영상의 차이를 최소화는 모델 파라미터를 결정할 수 있다.The C discriminator 775 may serve to make the virtual registered fingerprint image 751 have characteristics of an actual fingerprint image rather than a fake fingerprint image. As described above, the real fingerprint image in the dry state and the fake fingerprint image forged with wood glue may have similar characteristics, and the real fingerprint image in the oil state and the fake fingerprint image forged with gelatin may have similar characteristics. have. Accordingly, the C discriminator 775 may determine a model parameter that minimizes the difference between the virtual registered fingerprint image 751 and the actual fingerprint image.

인공 신경망의 학습의 목적은 손실 함수를 최소화하는 모델 파라미터를 결정하는 것으로 볼 수 있다. 손실 함수는 인공 신경망의 학습 과정에서 최적의 모델 파라미터를 결정하기 위한 지표로 이용될 수 있다. 모델 파라미터는 학습을 통해 결정되는 파라미터를 의미하며, 시냅스 연결의 가중치와 뉴런의 편향 등이 포함될 수 있다. 그리고, 하이퍼 파라미터는 머신 러닝 알고리즘에서 학습 전에 설정되어야 하는 파라미터를 의미하며, 학습률(Learning Rate), 반복 횟수, 미니 배치 크기, 초기화 함수 등이 포함될 수 있다. 일 실시예에 따른 손실 함수는 수학식 11과 같이 표현할 수 있다.The purpose of learning the artificial neural network can be seen as determining the model parameters that minimize the loss function. The loss function may be used as an index for determining optimal model parameters in the learning process of the artificial neural network. The model parameter means a parameter determined through learning, and may include a weight of a synaptic connection and a bias of a neuron. In addition, the hyperparameter refers to a parameter that must be set before learning in a machine learning algorithm, and may include a learning rate, the number of iterations, a mini-batch size, an initialization function, and the like. The loss function according to an embodiment may be expressed as Equation (11).

수학식 11에서, I_E는 등록 지문 영상(750), I_V는 가상 등록 지문 영상(751), I_E'은 복i된 등록 지문 영상(752), G는 등록 지문 영상(750)을 가상 등록 지문 영상(751)으로 변환하는 함수, F는 가상 등록 지문 영상(751)을 복i된 등록 지문 영상(752)으로 변환하는 함수, D는 가상 등록 지문 영상(751)이 특정 환경 특성을 갖는지 판별하는 판별자일 수 있다.In Equation 11, I _E is the registered fingerprint image 750, I _V is the virtual registered fingerprint image 751, I _E' is the copied registered fingerprint image 752, and G is the registered fingerprint image 750 virtual. A function to convert the registered fingerprint image 751, F is a function to convert the virtual registered fingerprint image 751 to the copied registered fingerprint image 752, D is the virtual registered fingerprint image 751 has a specific environmental characteristics It may be a discriminant that discriminates.

도 8a는 일 실시예에 따라 등록을 시도하는 임베딩 벡터들로부터 조합된 임베딩 벡터와 인증을 시도하는 입력 임베딩 벡터 간의 관계를 예시적으로 표현한 3차원 모식도이다.8A is a three-dimensional schematic diagram exemplarily expressing a relationship between an embedding vector combined from embedding vectors attempting registration and an input embedding vector attempting authentication according to an embodiment.

도 8a을 참조하면, 입력 임베딩 벡터(810), 임베딩 클러스터 내의 등록 임베딩 벡터들(820), 및 등록 임베딩 벡터들(820)의 조합에 의해 결정된 입력 임베딩 벡터(810)에 대해 적응적인(Adaptive) 임베딩 벡터(830)가 도시된다. Referring to FIG. 8A , adaptive to an input embedding vector 810 determined by a combination of an input embedding vector 810 , registration embedding vectors 820 in an embedding cluster, and registration embedding vectors 820 . An embedding vector 830 is shown.

예를 들어, 등록 데이터들에 기초한 임베딩 클러스터(Embedding Cluster)에 포함된 복수의 임베딩 벡터들(820)이 성기게(sparse) 배치되었다고 하자. 이 경우, 임베딩 클러스터 내에서 입력 임베딩 벡터(810)와 가장 가까운 어느 하나의 등록 임베딩 벡터와의 유사도, 또는 임베딩 클러스터 내에 포함된 등록 임베딩 벡터들(820)의 평균값 등과 같은 통계적인 대표 임베딩 벡터와의 유사도는 실제 유사도와 다른 결과를 나타낼 수 있다.For example, it is assumed that a plurality of embedding vectors 820 included in an embedding cluster based on registration data are arranged sparsely. In this case, the similarity between the input embedding vector 810 and the nearest registered embedding vector in the embedding cluster, or a statistically representative embedding vector such as the average value of the registration embedding vectors 820 included in the embedding cluster. The similarity may indicate a result different from the actual similarity.

입력 임베딩 벡터(810)와 가장 가까운 어느 하나의 등록 임베딩 벡터와의 유사도는 임베딩 공간 상에서 성긴 등록 임베딩 벡터의 분포로 인해 사각이 존재할 수 있다. 또한, 통계적인 대표 임베딩 벡터와의 유사도는 임베딩 클러스터 내의 개별 등록 임베딩 벡터들의 의미를 희석시킬 수 있다. The similarity between the input embedding vector 810 and one of the nearest registration embedding vectors may be oblique due to the sparse distribution of the registration embedding vectors in the embedding space. In addition, similarity with a statistically representative embedding vector may dilute the meaning of individual registered embedding vectors within an embedding cluster.

일 실시예에서는 복수의 등록 임베딩 벡터들(820)의 조합을 통해 입력 임베딩 벡터(810)에 대해 적응적인 임베딩 벡터(830)를 구성함으로써 임베딩 공간 상에서의 사각을 해소하는 한편, 개별 임베딩 벡터들의 의미가 희석되지 않도록 할 수 있다. 여기서, '적응적인 임베딩 벡터(830)는 임베딩 클러스터 내 등록 임베딩 벡터들(820)의 조합들 중 입력 임베딩 벡터(810)와 가장 유사한 임베딩 벡터에 해당할 수 있다. 이때, 등록 임베딩 벡터들(820)의 조합들 중 입력 임베딩 벡터(810)와 유사한 임베딩 벡터를 조합 임베딩 벡터라고 부를 수 있다. 조합 임베딩 벡터는 적응적인 임베딩 벡터(830)의 후보(들)에 해당할 수 있다. 예를 들어, 조합 임베딩 벡터들 중 최종적으로 결정된 조합 임베딩 벡터가 적응적인 임베딩 벡터(830)가 될 수 있다. 조합 임베딩 벡터가 하나인 경우, 해당 조합 임베딩 벡터가 적응적인 임베딩 벡터(830)가 될 수 있다. In one embodiment, the dead angle in the embedding space is resolved by constructing an embedding vector 830 adaptive to the input embedding vector 810 through a combination of a plurality of registered embedding vectors 820, while the meaning of individual embedding vectors may not be diluted. Here, the 'adaptive embedding vector 830 may correspond to an embedding vector most similar to the input embedding vector 810 among combinations of registered embedding vectors 820 in the embedding cluster. In this case, an embedding vector similar to the input embedding vector 810 among combinations of the registration embedding vectors 820 may be referred to as a combination embedding vector. The combinatorial embedding vector may correspond to candidate(s) of the adaptive embedding vector 830 . For example, the finally determined combination embedding vector among the combination embedding vectors may be the adaptive embedding vector 830 . When there is only one combinational embedding vector, the corresponding combinational embedding vector may be the adaptive embedding vector 830 .

일 실시예에서는 임베딩 클러스터 내에 포함된 등록 임베딩 벡터들(820)의 조합 및/또는 보간을 이용하여 임베딩 클러스터 내에의 물리적인 성김(Sparsity)을 해결할 수 있다. 이때, 등록 임베딩 벡터들(820)의 조합 방식에 따라 많은 실시예가 존재할 수 있다. 예를 들어, 등록 임베딩 벡터들(820)의 임의의 조합 f에 의한 조합 임베딩 벡터를

로 나타내면, 구하고자 하는 최적의 조합

는 아래의 수학식 12과 같이 표현할 수 있다.In an embodiment, physical sparsity in the embedding cluster may be resolved by using a combination and/or interpolation of the registered embedding vectors 820 included in the embedding cluster. In this case, many embodiments may exist according to a combination method of the registration embedding vectors 820 . For example, a combination embedding vector by any combination f of the registration embedding vectors 820 is

If expressed as , the optimal combination to find

can be expressed as in Equation 12 below.

여기서,

는 입력 임베딩 벡터(810)를 나타내고,

는 임베딩 클러스터를 구성하는 등록 임베딩 벡터들(820)을 나타낼 수 있다. 조합 임베딩 벡터

이고,

는 임베딩 벡터

와

간의 유사도를 나타낼 수 있다.

는 유사도에 관련된 손실 함수(loss function)를 나타낼 수 있다. here,

denotes the input embedding vector 810,

may represent the registration embedding vectors 820 constituting the embedding cluster. Combination Embedding Vectors

ego,

is the embedding vector

Wow

It can show the similarity between

may represent a loss function related to similarity.

일 실시예에서는 수학식 12에서와 같이, 입력 임베딩 벡터(

)(210)와 임베딩 클러스터에서 조합된 조합 임베딩 벡터(

) 간의 손실 함수 L 과 조합 함수 f에 대한 정의를 통해 적절하게 조합된 적응적인 임베딩 벡터(830)를 찾아냄으로써 입력 임베딩 벡터(810)와 임베딩 클러스터 내에 포함된 등록 임베딩 벡터들(820) 간의 적절한 유사도를 구할 수 있다. In one embodiment, as in Equation 12, the input embedding vector (

) (210) and the combinatorial embedding vector (

) between the input embedding vector 810 and the registration embedding vectors 820 included in the embedding cluster by finding an appropriately combined adaptive embedding vector 830 through the definition of the combinational function f and the loss function L between can be obtained

도 8b은 일 실시예에 따라 입력 데이터를 분류하는 방법을 개념적으로 설명하기 위한 도면이다.8B is a diagram for conceptually explaining a method of classifying input data according to an embodiment.

도 8b를 참조하면, 일 실시예에 따른 분류 장치가 입력 임베딩 벡터(810)와 임베딩 클러스터(840) 내에 포함된 등록 임베딩 벡터들 간의 유사도를 측정하는 과정이 도시된다. Referring to FIG. 8B , a process of measuring the similarity between the input embedding vector 810 and the registered embedding vectors included in the embedding cluster 840 by the classification apparatus according to an embodiment is illustrated.

분류 장치는 예를 들어, 심층 신경망(Deep Neural Network; DNN)을 이용하여 입력 데이터에 대한 입력 임베딩 벡터(810)를 추출할 수 있다. 분류 장치는 입력 임베딩 벡터(810)를 유사도 측정 및 조합 방식을 최적화하는 최적화 알고리즘(850)의 인자(Argument)로 사용할 수 있다. 이때, 최적화 알고리즘(850)은 입력 임베딩 벡터에 적응적인 임베딩 벡터를 조합한다는 점에서 '적응적 알고리즘'이라고도 불릴 수 있다. The classification apparatus may extract an input embedding vector 810 for input data using, for example, a deep neural network (DNN). The classification apparatus may use the input embedding vector 810 as an argument of the optimization algorithm 850 for optimizing the similarity measurement and combination method. In this case, the optimization algorithm 850 may also be called an 'adaptive algorithm' in that it combines the adaptive embedding vector with the input embedding vector.

분류 장치는 임베딩 클러스터(840) 내에 포함된 등록 데이터들을 심층 신경망에 의해 등록 임베딩 벡터들로 변환될 수 있다. 등록 임베딩 벡터들 또한 최적화 알고리즘 및 조합 방식의 인자로 사용될 수 있다. The classification apparatus may convert registration data included in the embedding cluster 840 into registration embedding vectors by a deep neural network. Registration embedding vectors can also be used as factors of optimization algorithms and combinatorial schemes.

분류 장치는 입력 임베딩 벡터(810)와 임베딩 클러스터(840) 내의 등록 임베딩 벡터들에 대해 최적화 알고리즘(850)을 적용하고, 최적화 알고리즘(850)의 적용 결과에 따라 최적의 조합 방식을 도출(860)할 수 있다. 분류 장치는 입력 임베딩 벡터에 대해 적응적으로 클러스터링된 임베딩 벡터의 조합을 통해 유사도 계산 상 오류를 덜 일으킬 수 있는 조합 임베딩 벡터를 생성할 수 있다. The classification apparatus applies the optimization algorithm 850 to the input embedding vector 810 and the registered embedding vectors in the embedding cluster 840, and derives an optimal combination method according to the application result of the optimization algorithm 850 (860) can do. The classification apparatus may generate a combinatorial embedding vector that may cause less error in similarity calculation through a combination of adaptively clustered embedding vectors with respect to the input embedding vector.

분류 장치는 도출된 최적의 조합 방식에 따라 조합된 조합 임베딩 벡터와 입력 임베딩 벡터(810) 간의 유사도를 측정(870)할 수 있다. 분류 장치는 측정된 유사도 그 자체를 이용하거나, 또는 측정된 유사도를 유사도 스코어(880) 형태로 변환하여 이용할 수 있다. The classification apparatus may measure ( 870 ) the similarity between the combined combination embedding vector and the input embedding vector 810 according to the derived optimal combination method. The classification apparatus may use the measured similarity itself, or convert the measured similarity into a similarity score 880 form.

일 실시예에서 심층 신경망은 선 형태의 에지들(edges)로 연결된 많은 수의 인공 뉴런들을 포함할 수 있다. 인공 뉴런은 노드(node)라고 지칭될 수 있다. 인공 뉴런들은 연결 가중치(connection weight)를 가지는 에지들을 통해 상호 연결될 수 있다. 연결 가중치는 에지들이 갖는 특정한 값으로, 시냅스 가중치(synapse weight) 또는 연결 강도라고 지칭될 수 있다. 심층 신경망은 예를 들어, 입력 레이어(input layer), 히든 레이어(hidden layer), 및 출력 레이어(output layer)를 포함할 수 있다. 입력 레이어, 히든 레이어, 및 출력 레이어는 복수 개의 노드들을 포함할 수 있다. 입력 레이어에 포함된 노드는 입력 노드(input node)라고 지칭되고, 히든 레이어에 포함된 노드는 히든 노드(hidden node)라고 지칭되며, 출력 레이어에 포함된 노드는 출력 노드(output node)라고 지칭될 수 있다.In an embodiment, the deep neural network may include a large number of artificial neurons connected by edges in the form of lines. An artificial neuron may be referred to as a node. Artificial neurons may be interconnected through edges having a connection weight. The connection weight is a specific value of the edges, and may be referred to as a synapse weight or a connection strength. The deep neural network may include, for example, an input layer, a hidden layer, and an output layer. The input layer, the hidden layer, and the output layer may include a plurality of nodes. A node included in the input layer is called an input node, a node included in the hidden layer is called a hidden node, and a node included in the output layer is called an output node. can

입력 레이어는 트레이닝 또는 인식을 수행하기 위한 입력을 수신하여 히든 레이어에 전달할 수 있다. 출력 레이어는 히든 레이어로부터 수신한 신호에 기초하여 심층 신경망의 출력을 생성할 수 있다. 히든 레이어는 입력 레이어와 출력 레이어 사이에 위치하고, 입력 레이어를 통해 전달된 트레이닝 데이터의 트레이닝 입력을 예측하기 쉬운 값으로 변화시킬 수 있다. 입력 레이어에 포함된 입력 노드들과 히든 레이어에 포함된 히든 노드들은 연결 가중치를 가지는 연결선들을 통해 서로 연결될 수 있다. 히든 레이어에 포함된 히든 노드들과 출력 레이어에 포함된 출력 노드들은 연결 가중치를 가지는 연결선들을 통해 서로 연결될 수 있다.The input layer may receive an input for performing training or recognition and transmit it to the hidden layer. The output layer may generate an output of the deep neural network based on a signal received from the hidden layer. The hidden layer is located between the input layer and the output layer, and may change the training input of the training data transmitted through the input layer to a value that is easy to predict. The input nodes included in the input layer and the hidden nodes included in the hidden layer may be connected to each other through connection lines having a connection weight. Hidden nodes included in the hidden layer and output nodes included in the output layer may be connected to each other through connection lines having a connection weight.

분류 장치는 이전 히든 레이어에 포함된 이전 히든 노드들의 출력들을 연결 가중치를 가지는 연결선들을 통해 해당 히든 레이어에 입력할 수 있다. 분류 장치는 이전 히든 노드들의 출력들에 연결 가중치가 적용된 값들 및 활성화 함수(activation function)에 기초하여, 히든 레이어에 포함된 히든 노드들의 출력을 생성할 수 있다. 일 예시에 따르면, 활성화 함수의 결과가 현재 히든 노드의 임계 값을 초과하는 경우, 다음 히든 노드로 출력이 발화될 수 있다. 이 경우, 현재 히든 노드는 입력 벡터들을 통하여 특정 임계 활성화 강도에 도달하기 전에는 다음 히든 노드로 신호를 발화하지 않고, 비활성화 상태를 유지할 수 있다.The classification apparatus may input outputs of previous hidden nodes included in the previous hidden layer to the corresponding hidden layer through connection lines having a connection weight. The classification apparatus may generate outputs of hidden nodes included in the hidden layer based on values to which a connection weight is applied to outputs of previous hidden nodes and an activation function. According to an example, when the result of the activation function exceeds the threshold value of the current hidden node, the output may be ignited to the next hidden node. In this case, the current hidden node may maintain an inactive state without firing a signal to the next hidden node until a specific threshold activation intensity is reached through the input vectors.

일 실시예에 따른 분류 장치는 지도 학습(supervised learning)을 통해 심층 신경망을 트레이닝 시킬 수 있다. 분류 장치는 소프트웨어 모듈, 하드웨어 모듈, 또는 이들의 조합으로 구현될 수 있다. 지도 학습은 트레이닝 데이터의 트레이닝 입력 및 그에 대응하는 트레이닝 출력을 함께 심층 신경망(에 입력하고, 트레이닝 데이터의 트레이닝 출력에 대응하는 출력 데이터가 출력되도록 연결선들의 연결 가중치를 업데이트하는 기법이다. 트레이닝 데이터는 트레이닝 입력 및 트레이닝 출력의 쌍을 포함하는 데이터일 수 있다. The classification apparatus according to an embodiment may train a deep neural network through supervised learning. The classification apparatus may be implemented as a software module, a hardware module, or a combination thereof. Supervised learning is a technique of inputting a training input of training data and a training output corresponding thereto to a deep neural network, and updating the connection weights of the connections so that output data corresponding to the training output of the training data is output. It may be data comprising a pair of input and training output.

도 9는 일 실시예에 따른 스푸핑 방지 장치의 블록도이다.9 is a block diagram of an anti-spoofing device according to an exemplary embodiment.

도 9를 참조하면, 일 실시예에 따른 스푸핑 방지 장치(900)는 프로세서(910)를 포함한다. 스푸핑 방지 장치(900)는 메모리(930), 통신 인터페이스(950), 및 센서들(970)을 더 포함할 수 있다. 프로세서(910), 메모리(930), 통신 인터페이스(950), 및 센서들(970)은 통신 버스(905)를 통해 서로 통신할 수 있다.Referring to FIG. 9 , an apparatus 900 for preventing spoofing according to an embodiment includes a processor 910 . The anti-spoofing device 900 may further include a memory 930 , a communication interface 950 , and sensors 970 . Processor 910 , memory 930 , communication interface 950 , and sensors 970 may communicate with each other via communication bus 905 .

프로세서(910)는 입력 생체 정보에 대응하는 입력 임베딩 벡터를 추출하고, 미리 구비된 위조 모델의 위조 임베딩 벡터를 획득하며, 미리 구비된 실제 모델의 실제 임베딩 벡터 및/또는 등록 모델의 등록 임베딩 벡터를 획득하고, 위조 임베딩 벡터 그리고 실제 임베딩 벡터 및/또는 등록 임베딩 벡터에 기초하여, 입력 임베딩 벡터의 신뢰도 값을 결정함으로써, 입력 생체 정보가 위조된 것인지 여부를 판단한다.The processor 910 extracts an input embedding vector corresponding to the input biometric information, obtains a fake embedding vector of a forged model provided in advance, and obtains a real embedding vector of the real model provided in advance and/or a registration embedding vector of the registration model and determine whether the input biometric information is forged by determining the reliability value of the input embedding vector based on the fake embedding vector and the actual embedding vector and/or the registered embedding vector.

프로세서(910)는 사용자의 생체 정보를 포함하는 입력 데이터로부터 생체 정보의 특징을 포함하는 입력 임베딩 벡터(embedding vector)를 추출하고, 입력 데이터로부터 생체 정보의 위조 여부를 검출하는 제1 뉴럴 네트워크의 제1 출력 벡터에 기초하여, 생체 정보의 제1 위조 여부를 검출하고, 미리 구비된 실제 임베딩 벡터와 등록 임베딩 벡터 중 적어도 하나 및 위조 임베딩 벡터에 기초하여, 입력 임베딩 벡터의 유사도 값을 계산하고, 제1 위조 여부가 검출되는지에 따라, 제1 뉴럴 네트워크의 제2 출력 벡터 및 유사도 값에 기초하여 통합 위변조 점수를 계산하며, 통합 위변조 점수에 기초하여 생체 정보의 제2 위조 여부를 검출할 수 있다.The processor 910 extracts an input embedding vector including features of biometric information from input data including the user's biometric information, and detects whether the biometric information is forged from the input data. 1 Based on the output vector, detecting whether or not the first forgery of the biometric information is falsified, and calculating the similarity value of the input embedding vector based on at least one of a pre-prepared real embedding vector and a registered embedding vector and the fake embedding vector, 1 According to whether or not forgery is detected, an integrated forgery score may be calculated based on the second output vector of the first neural network and a similarity value, and a second forgery of biometric information may be detected based on the integrated forgery score.

메모리(930)는 등록 모델, 실제 모델 및/또는 위조 모델을 저장하는 데이터베이스를 포함할 수 있다. 메모리(930)는 뉴럴 네트워크의 기 학습된 파라미터들을 저장할 수 있다. 센서들(970)은 사용자의 생체 정보를 센싱하는 장치로, 예를 들어, 사용자의 지문을 센싱하는 지문 센서 등을 포함할 수 있다.Memory 930 may include a database that stores registered models, real models, and/or counterfeit models. The memory 930 may store pre-learned parameters of the neural network. The sensors 970 are devices for sensing the user's biometric information, and may include, for example, a fingerprint sensor sensing the user's fingerprint.

프로세서(910)는 실제 임베딩 벡터, 위조 임베딩 벡터 및/또는 등록 임베딩 벡터와 입력 임베딩 벡터 사이의 사후 확률을 추정하고, 사후 확률들에 기초하여 입력 임베딩 벡터의 신뢰도 값을 결정할 수 있다.The processor 910 may estimate a posterior probability between the real embedding vector, the fake embedding vector, and/or the registered embedding vector and the input embedding vector, and determine a confidence value of the input embedding vector based on the posterior probabilities.

이 밖에도, 프로세서(910)는 도 2 내지 도 8b을 통해 전술한 방법 내지 알고리즘을 수행할 수 있다. 프로세서(910)는 프로그램을 실행하고, 스푸핑 방지 장치(900)를 제어할 수 있다. 프로세서(910)에 의하여 실행되는 프로그램 코드는 메모리(930)에 저장될 수 있다. 스푸핑 방지 장치(900)는 입출력 장치(미도시)를 통하여 외부 장치(예를 들어, 퍼스널 컴퓨터 또는 네트워크)에 연결되고, 데이터를 교환할 수 있다. 스푸핑 방지 장치(900)는 스마트 폰, 테블릿 컴퓨터, 랩톱 컴퓨터, 데스크톱 컴퓨터, 텔레비전, 웨어러블 장치, 보안 시스템, 스마트 홈 시스템 등 다양한 컴퓨팅 장치 및/또는 시스템에 탑재될 수 있다.In addition, the processor 910 may perform the method or algorithm described above with reference to FIGS. 2 to 8B . The processor 910 may execute a program and control the anti-spoofing device 900 . The program code executed by the processor 910 may be stored in the memory 930 . The anti-spoofing device 900 may be connected to an external device (eg, a personal computer or a network) through an input/output device (not shown) and exchange data. The anti-spoofing device 900 may be mounted on various computing devices and/or systems, such as a smart phone, a tablet computer, a laptop computer, a desktop computer, a television, a wearable device, a security system, and a smart home system.

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The embodiments described above may be implemented by a hardware component, a software component, and/or a combination of a hardware component and a software component. For example, the apparatus, methods and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate (FPGA). array), a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions, may be implemented using a general purpose computer or special purpose computer. The processing device may execute an operating system (OS) and a software application running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For convenience of understanding, although one processing device is sometimes described as being used, one of ordinary skill in the art will recognize that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that may include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may include a computer program, code, instructions, or a combination thereof, which configures the processing device to operate as desired or independently or collectively configures the processing device to operate as desired. can command The software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or device, to be interpreted by or to provide instructions or data to the processing device. , or may be permanently or temporarily embody in a transmitted signal wave. The software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored in a computer-readable recording medium.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and available to those skilled in the art of computer software. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited drawings, those skilled in the art may apply various technical modifications and variations based on the above. For example, the described techniques are performed in a different order than the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

Claims

detecting whether the biometric information is forged based on a first output vector of a first neural network that detects whether the biometric information is forged from input data including the user's biometric information;
extracting an input embedding vector including a feature of the biometric information from the input data;
calculating a similarity value of the input embedding vector based on at least one of a previously provided real embedding vector and a registered embedding vector and a fake embedding vector;
calculating an integrated forgery score based on a second output vector of the first neural network and the similarity value according to whether the first forgery is detected; and
Detecting whether the biometric information is forged a second time based on the integrated forgery score
An anti-spoofing method comprising a.

According to claim 1,
The step of detecting whether the first forgery is
extracting the first output vector from an intermediate layer of the first neural network; and
calculating an intermediate forgery score based on the first output vector;
Including, anti-spoofing (anti-spoofing) method.

3. The method of claim 2,
The step of detecting whether the first forgery is
determining whether the intermediate forgery score is a score that falls within a threshold range for detecting whether the first forgery or not; and
If the intermediate forgery score is determined to be a score that falls within the threshold range, detecting whether the first forgery based on the intermediate forgery score
A method of preventing spoofing, comprising:

According to claim 1,
The step of calculating the integrated forgery score is
calculating the integrated forgery score based on the second output vector and the similarity value when the first forgery is not detected;
A method of preventing spoofing, comprising:

According to claim 1,
The step of calculating the integrated forgery score is
calculating a final forgery score based on a second output vector output from an output layer of the first neural network when the first forgery is not detected; and
Calculating the integrated forgery score based on the final forgery score and the similarity value
A method of preventing spoofing, comprising:

6. The method of claim 5,
The step of calculating the integrated forgery score is
performing a weighted sum of the final forgery score and the similarity value; and
calculating the integrated forgery score by applying a predetermined nonlinear function to the weighted summation result
A method of preventing spoofing, comprising:

According to claim 1,
The step of detecting whether the second forgery is
Comparing the integrated forgery score with a first threshold value for detecting whether the second forgery or not, detecting whether the second forgery of the biometric information
A method of preventing spoofing, comprising:

8. The method of claim 7,
determining whether an embedding vector update condition of the input embedding vector is satisfied based on the integrated forgery score; and
updating at least one of the registered embedding vector, the real embedding vector, and the fake embedding vector using the input embedding vector based on a determination that the embedding vector update condition is satisfied;
Further comprising a, anti-spoofing method.

The method of claim 1,
generating a virtual registration embedding vector having environmental characteristics different from those of the registration embedding vector while maintaining the structural characteristics of the registration embedding vector;
further comprising,
The step of calculating the similarity value is
calculating the similarity value based on at least one of the real embedding vector, the registration embedding vector, and the virtual registration embedding vector and the fake embedding vector;
A method of preventing spoofing, comprising:

According to claim 1,
The similarity value is
calculated based on at least one of the real embedding vector, the registered embedding vector, and posterior probabilities between the fake embedding vector and the input embedding vector,
wherein the posterior probabilities are calculated based on the distance or similarity between the real embedding vector, the registered embedding vector and the fake embedding vector and the input embedding vector.
How to prevent spoofing.

According to claim 1,
The step of determining the similarity value is
Based on the first distance between the actual embedding vector and the input embedding vector and the third distance between the registered embedding vector and the input embedding vector, the value of the first category corresponding to the case where the biometric information is not forged determining;
determining a value of a second category corresponding to a case in which the biometric information is forged based on a second distance between the forged embedding vector and the input embedding vector; and
determining a reliability value of the input embedding vector based on the value of the first category and the value of the second category;
A method of preventing spoofing, comprising:

According to claim 1,
The step of extracting the input embedding vector is
extracting the input embedding vector from the biometric information using the first neural network
including,
The method for preventing spoofing, wherein the neural network is learned using real biometric information and fake biometric information.

A computer program stored on a medium in combination with hardware to execute the method of any one of claims 1 to 12.

Based on a first output vector of a first neural network that detects whether the biometric information is forged from input data including the user's biometric information, it is detected whether the biometric information is forged or not, and the biometric information is detected from the input data. Extracting an input embedding vector including information features, and calculating a similarity value of the input embedding vector based on at least one of a pre-prepared real embedding vector and a registered embedding vector and a fake embedding vector, and According to whether the first forgery is detected, an integrated forgery score is calculated based on the second output vector of the first neural network and the similarity value, and a second forgery of the biometric information is determined based on the integrated forgery score. processor to detect
Anti-spoofing device comprising a.

15. The method of claim 14,
the processor
Extracting the first output vector from the intermediate layer of the first neural network, and calculating an intermediate forgery score based on the first output vector, anti-spoofing device.

16. The method of claim 15,
the processor
Determine whether the intermediate forgery score is a score that falls within a threshold range for detection of whether the first forgery, and when the intermediate forgery score is determined as a score that falls within the threshold range, based on the intermediate forgery score, the first An anti-spoofing device that detects forgery.

15. The method of claim 14,
the processor
and calculating the integrated forgery score based on the second output vector and the similarity value when the first forgery is not detected.

15. The method of claim 14,
the processor
If the first forgery or not is not detected, a final forgery score is calculated based on a second output vector output from the output layer of the first neural network, and the integrated forgery based on the final forgery score and the similarity value An anti-spoofing device that counts scores.

19. The method of claim 18,
the processor
An apparatus for preventing spoofing, performing a weighted sum of the final forgery score and the similarity value, and calculating the integrated forgery score by applying a predetermined nonlinear function to the weighted summation result.

15. The method of claim 14,
the processor
Comparing the integrated forgery score with a first threshold value for detecting whether the second forgery, and detecting whether the second forgery of the biometric information, anti-spoofing device.

21. The method of claim 20,
the processor
It is determined whether the embedding vector update condition of the input embedding vector is satisfied based on the integrated forgery score, and the registered embedding vector, the actual embedding vector using the input embedding vector based on the determination that the embedding vector update condition is satisfied and updating at least one of the forged embedding vectors.

15. The method of claim 14,
the processor
generating a virtual registration embedding vector having environmental characteristics different from those of the registration embedding vector while maintaining the structural characteristics of the registration embedding vector, at least one of the real embedding vector, the registration embedding vector, and the virtual registration embedding vector; and calculating the similarity value based on a forged embedding vector.

15. The method of claim 14,
The similarity value is
calculated based on at least one of the real embedding vector, the registered embedding vector, and posterior probabilities between the fake embedding vector and the input embedding vector,
and the posterior probabilities are calculated based on the distance or similarity between the real embedding vector, the registered embedding vector, and the fake embedding vector and the input embedding vector.

15. The method of claim 14,
the processor
Based on the first distance between the actual embedding vector and the input embedding vector and the third distance between the registered embedding vector and the input embedding vector, the value of the first category corresponding to the case where the biometric information is not forged determine, based on a second distance between the forged embedding vector and the input embedding vector, a value of a second category corresponding to a case in which the biometric information is forged, and the value of the first category and the second An apparatus for preventing spoofing, which determines a confidence value of the input embedding vector based on a value of a category.

15. The method of claim 14,
the processor
extracting the input embedding vector from the biometric information using the first neural network,
The neural network will be learned using real biometric information and fake biometric information, anti-spoofing device.