KR20160044403A - User Terminal Device and Method for Iris Recognition thereof - Google Patents

User Terminal Device and Method for Iris Recognition thereof Download PDF

Info

Publication number
KR20160044403A
KR20160044403A KR1020150080137A KR20150080137A KR20160044403A KR 20160044403 A KR20160044403 A KR 20160044403A KR 1020150080137 A KR1020150080137 A KR 1020150080137A KR 20150080137 A KR20150080137 A KR 20150080137A KR 20160044403 A KR20160044403 A KR 20160044403A
Authority
KR
South Korea
Prior art keywords
iris
user
image
detected
eye
Prior art date
Application number
KR1020150080137A
Other languages
Korean (ko)
Other versions
KR102438110B1 (en
Inventor
손병준
유진우
백성욱
조현근
곽병훈
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to TW104132314A priority Critical patent/TWI696110B/en
Priority to US14/883,084 priority patent/US9928422B2/en
Priority to EP15189970.5A priority patent/EP3009960B1/en
Priority to CN201510666512.6A priority patent/CN105528573B/en
Priority to CN201910336953.8A priority patent/CN110070054A/en
Priority to EP21172145.1A priority patent/EP3885986B1/en
Priority to PCT/KR2015/010873 priority patent/WO2016060486A1/en
Publication of KR20160044403A publication Critical patent/KR20160044403A/en
Priority to US15/896,748 priority patent/US10262204B2/en
Priority to US16/364,825 priority patent/US10628670B2/en
Application granted granted Critical
Publication of KR102438110B1 publication Critical patent/KR102438110B1/en

Links

Images

Classifications

    • G06K9/00597
    • G06K9/0061
    • G06K9/00617

Abstract

A user terminal device and an iris recognition method using the user terminal device are provided. The user terminal device comprises: an imaging unit which photographs an image of a user; a display unit which displays the photographed image; and a control unit which detects user′s eye from the photographed image, controls the display unit to display a guide image at a position where the detected user′s eye is present in the photographed image, and performs iris recognition when the difference between the size of the iris included in the detected user′s eye and the size of the guide image falls within a preset range.

Description

사용자 단말 장치 및 이의 홍채 인식 방법{User Terminal Device and Method for Iris Recognition thereof}Technical Field [0001] The present invention relates to a user terminal device and an iris recognition method therefor,

본 발명은 사용자 단말 장치 및 이의 홍채 인식 방법에 관한 것으로, 더욱 상세하게는 사용자 홍채를 인식하기 위해 가이드 이미지를 디스플레이하는 단말 장치 및 이의 홍채 인식 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a user terminal and an iris recognition method thereof, and more particularly, to a terminal device and a iris recognition method for displaying a guide image for recognizing a user iris.

개인이 사용하는 사용자 단말 장치에 다양한 개인 정보나 컨텐츠 정보가 저장되면서, 사용자 단말 장치의 보안에 대한 요구가 점점 증가하고 있다. 특히, 기존에는 사용자 단말 장치의 보안을 위해, 패스워드를 입력하는 방식을 이용하였으나, 근래에 들어서, 지문 인식, 음성 인식, 홍채 인식과 같은 다양한 인증 방식이 도입되고 있다.Various personal information and content information are stored in a user terminal device used by an individual, and the demand for security of the user terminal device is increasing. In particular, in the past, a method of inputting a password for security of a user terminal device has been used. Recently, various authentication methods such as fingerprint recognition, speech recognition, and iris recognition have been introduced.

특히, 홍채 인식의 경우, 종래의 사용자 단말 장치에서는 대부분 사용자가 콜드 미러(cold mirror)라 불리는 거울 형태의 적외선 통과 필터를 바라보고 눈을 맞추어 홍채 인식을 시도하고 있다. 그러나, 사용자 단말 장치가 홍채 인식을 하기 위하여 사용자 단말 장치가 인식할 수 있는 홍채의 위치 및 크기가 존재하나, 종래에는 사용자가 사용자 단말 장치를 인식할 수 있는 홍채의 위치 및 크기를 알 수 없어 홍채 인식에 어려움이 존재하였다. 특히, 자동 초점 조절이 안 되는 촬영부가 장착된 사용자 단말 장치의 경우, 홍채 인식을 위한 적절한 인식 거리를 판단하기 어려운 문제점이 발생한다.Particularly, in the case of iris recognition, in a conventional user terminal, a user looks at a mirror-shaped infrared pass filter called a cold mirror and attempts to recognize iris by matching his or her eyes. However, there is a position and size of the iris that can be recognized by the user terminal device in order for the user terminal to perform iris recognition. However, in the past, the user can not recognize the position and size of the iris, There was a difficulty in recognition. Particularly, in the case of a user terminal equipped with a photographing portion which can not be controlled automatically, it is difficult to determine an appropriate recognition distance for iris recognition.

또한, 홍채 인식을 위하여 사용자 단말 장치는 사용자 홍채 코드를 등록하기 위한 과정이 필요로 한다. 특히 사용자 홍채 코드를 등록할 때, 높은 품질의 홍채 영상을 얻기 위해서 여러 장의 홍채 영상을 취득하고 취득된 영상을 분석하여 높은 품질의 영상이라고 판단되는 하나 이상의 홍채 영상으로부터 얻어진 홍채 코드 데이터 베이스에 저장한다. 여러 장의 홍채 영상을 취득하여 선택된 홍채 영상 중 사용자 홍채 코드를 저장하더라도 눈꺼풀, 눈썹에 의해서 가려진 부분 때문에 정확한 홍채 인식에 방해를 주는 문제점이 발생하게 된다.Also, for the iris recognition, the user terminal device needs a process for registering the user iris code. In particular, when registering the user iris code, several iris images are acquired to obtain high quality iris images, and the acquired images are analyzed and stored in an iris code database obtained from one or more iris images judged to be high quality images . Even if the user's iris code is stored in the selected iris image by acquiring a plurality of iris images, there arises a problem that it obstructs the accurate iris recognition due to the portion covered by the eyelid and the eyebrow.

본 발명은 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 사용자가 더욱 편리하고 정확하게 홍채 인식을 수행할 수 있는 사용자 단말 장치 및 이의 홍채 인식 방법을 제공함에 있다.It is an object of the present invention to provide a user terminal device and an iris recognition method therefor which enable a user to perform iris recognition more conveniently and accurately.

상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른, 사용자 단말 장치는, 사용자를 촬영하는 촬영부; 상기 촬영된 영상을 디스플레이하는 디스플레이부; 및 상기 촬영된 영상에서 사용자 눈을 검출하고, 상기 촬영된 영상 중 상기 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하도록 상기 디스플레이부를 제어하며, 상기 검출된 사용자 눈에 포함된 홍채의 크기와 상기 가이드 이미지의 크기의 차이가 기설정된 범위 이내인 경우, 홍채 인식을 수행하는 제어부;를 포함한다.According to an aspect of the present invention, there is provided a user terminal including: a photographing unit photographing a user; A display unit for displaying the photographed image; And controlling the display unit to display a guide image at a position where the detected user eye exists among the photographed images, wherein the size of the iris included in the detected user eye And a controller for performing iris recognition when the size difference of the guide image is within a predetermined range.

그리고, 상기 제어부는, 상기 검출된 사용자 눈에서 홍채 경계선을 검출하며, 상기 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정하고, 상기 인식된 사용자 눈 및 홍채 지름을 바탕으로 상기 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.The control unit detects the iris boundary on the detected user's eye, estimates the iris diameter based on the detected iris boundary, and responds to the user's eyes and iris based on the recognized user's eye and iris diameter The control unit can control the display unit to display the guide image at a position where the guide image is displayed.

또한, 상기 가이드 이미지는, 사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함할 수 있다.In addition, the guide image may include an eye guide image corresponding to the user's eyes and an iris guide image corresponding to the user's irises.

그리고, 상기 가이드 이미지는, 상기 촬영부의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지일 수 있다.The guide image may be an image corresponding to a size of a user's eye and iris existing at a position corresponding to a focal distance of the photographing unit.

또한, 상기 제어부는, 상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 상기 검출된 사용자 홍채가 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행할 수 있다.The control unit detects the user iris in the photographed image, and when the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value, It is possible to perform the iris recognition of the user.

그리고, 상기 제어부는, 상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력할 수 있다.The controller detects the user iris in the photographed image, and when the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value, Messages can be output.

또한, 촬영된 영상을 처리하는 영상 처리부;를 더 포함하며, 상기 제어부는, 홍채 인식을 수행하는 동안 사용자 홍채의 패턴을 확인할 수 없도록 상기 촬영된 영상을 처리하도록 상기 영상 처리부를 제어하며, 상기 처리된 영상을 디스플레이하도록 상기 디스플레이부를 제어할 수 있다.The control unit may control the image processing unit to process the photographed image so that the pattern of the user's iris can not be recognized while the iris recognition is performed, The display unit may be controlled to display the image.

그리고, 상기 제어부는, 검출된 홍채 영역을 직사각형 모양으로 정규화하여 홍채 코드를 생성하고, 상기 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역을 마스킹하며, 상기 마스킹된 영역을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 사용자의 홍채 인식을 수행할 수 있다.The controller may generate an iris code by normalizing the detected iris region into a rectangular shape, mask an area covered by the eyebrow or the eyelid among the iris codes normalized by the rectangle, and determine a remaining region excluding the masked region It is possible to perform the iris recognition of the user by comparing with the previously registered iris code.

또한, 상기 제어부는, 상기 검출된 홍채 영역이 기등록된 사용자로 인식된 경우, 상기 검출된 홍채 영역 중 상기 마스킹된 영역을 제외한 나머지 영역을 이용하여 상기 기등록된 사용자의 홍채 코드를 업데이트할 수 있다.In addition, when the detected iris region is recognized as a pre-registered user, the controller may update the iris code of the previously registered user using the remaining region of the detected iris region excluding the masked region have.

한편, 상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른, 사용자 단말 장치의 홍채 인식 방법은, 사용자를 촬영하는 단계; 상기 촬영된 영상을 디스플레이하는 단계; 상기 촬영된 영상에서 사용자 눈을 검출하는 단계; 상기 촬영된 영상 중 상기 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하는 단계; 및 상기 검출된 사용자 눈에 포함된 홍채의 크기와 상기 가이드 이미지의 크기의 차이가 기설정된 범위 이내인 경우, 홍채 인식을 수행하는 단계;를 포함한다.According to another aspect of the present invention, there is provided an iris recognition method for a user terminal, comprising: capturing a user; Displaying the photographed image; Detecting a user's eye on the photographed image; Displaying a guide image at a position where the detected user eye exists among the photographed images; And performing iris recognition when the difference between the size of the iris included in the detected user's eye and the size of the guide image is within a predetermined range.

그리고, 상기 사용자 눈을 검출하는 단계는, 상기 검출된 사용자 눈에서 홍채 경계선을 검출하는 단계; 상기 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정하는 단계;를 더 포함하고, 상기 가이드 이미지를 디스플레이하는 단계는, 상기 인식된 사용자 눈 및 홍채 지름을 바탕으로 상기 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이할 수 있다.The detecting of the user eye may include detecting an iris boundary on the detected user eye, The method of claim 1, further comprising: estimating an iris diameter based on the detected iris boundary, wherein the step of displaying the guide image includes displaying the iris diameter at a position corresponding to the user's eyes and irises based on the recognized user's eyes and iris diameter A guide image can be displayed.

또한, 상기 가이드 이미지는,  사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함할 수 있다.In addition, the guide image may include an eye guide image corresponding to the user's eyes and an iris guide image corresponding to the user's irises.

그리고, 상기 가이드 이미지는, 촬영부의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지일 수 있다.The guide image may be an image corresponding to a size of a user's eye and iris existing at a position corresponding to a focal distance of the photographing unit.

또한, 상기 수행하는 단계는, 상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 상기 검출된 사용자 홍채가 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행할 수 있다.If the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value, the detecting of the detected user iris It is possible to perform iris recognition of the user by judging whether or not the iris is coincident with the previously registered iris.

그리고, 상기 수행하는 단계는, 상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 사용자의 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력하는 단계;를 더 포함할 수 있다.If the difference between the size of the detected user iris and the size of the guide image corresponding to the iris is less than a preset value, the iris recognition of the user is performed. And outputting a feedback message to guide the user.

또한, 상기 촬영된 영상을 디스플레이하는 단계는, 홍채 인식을 수행하는 동안 사용자 홍채의 패턴을 확인할 수 없도록 상기 촬영된 영상을 처리하는 단계; 및 상기 처리된 영상을 디스플레이하는 단계;를 포함할 수 있다.The step of displaying the photographed image may further include the steps of: processing the photographed image so that the pattern of the user's iris can not be confirmed during the iris recognition; And displaying the processed image.

그리고, 상기 수행하는 단계는, 검출된 홍채 영역을 직사각형 모양으로 정규화하여 홍채 코드를 생성하고, 상기 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역을 마스킹하며, 상기 마스킹된 영역을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 사용자의 홍채 인식을 수행할 수 있다.The performing step may include generating an iris code by normalizing the detected iris area into a rectangular shape, masking an iris code normalized by the rectangle, masked by an eyebrow or an eyelid, Area can be compared with the previously registered iris code to perform the iris recognition of the user.

또한, 상기 검출된 홍채 영역이 기등록된 사용자로 인식된 경우, 상기 검출된 홍채 영역 중 상기 마스킹된 영역을 제외한 나머지 영역을 이용하여 상기 기등록된 사용자의 홍채 코드를 업데이트하는 단계;를 포함한다.And updating the iris code of the previously registered user using the remaining region of the detected iris region excluding the masked region when the detected iris region is recognized as a pre-registered user .

상술한 바와 같은 본 발명의 다양한 실시예에 따라, 사용자는 더욱 편리하고 정확하게 홍채 인식을 수행할 수 있게 된다.According to various embodiments of the present invention as described above, the user can perform iris recognition more conveniently and accurately.

도 1은 본 발명의 일 실시예에 따른, 사용자 단말 장치의 구성을 간략히 도시한 블럭도,
도 2는 본 발명의 일 실시예에 따른, 사용자 단말 장치의 구성을 상세히 도시한 블럭도,
도 3a 및 도 3b는 본 발명의 일 실시예에 따른, 홍채 인식을 위한 가이드 이미지를 도시한 도면,
도 4a 내지 도 4c는 본 발명의 일 실시예에 따른, 눈꺼풀 및 속눈썹을 고려하여 홍채 특징을 추출하는 방법을 설명하기 위한 흐름도,
도 5a 내지 도 5c는 본 발명의 일 실시예에 따른, 보안을 위해 촬영된 영상에 대한 영상 처리를 수행한 도면,
도 6a 및 도 6b는 본 발명의 일 실시예에 따른, 눈꺼풀 또는 눈썹에 의해 홍채가 가려진 경우를 도시한 도면들,
도 7은 본 발명의 일 실시예에 따른, 홍채 코드를 생성하는 방법을 설명하기 위한 도면,
도 8a 내지 도 10은 본 발명의 다양한 실시예에 따른, 홍채 영역을 정규화하는 방법을 설명하기 위한 도면,
도 11은 본 발명의 일 실시예에 따른, 홍채 코드를 업데이트하는 방법을 설명하기 위한 도면
도 12는 본 발명의 일 실시예에 따른, 사용자 단말 장치의 홍채 인식 방법을 설명하기 위한 흐름도,
도 13은 본 발명의 일 실시예에 따른, 사용자 단말 장치의 홍채 코드 저장 및 업데이트 방법을 설명하기 위한 흐름도,
도 14a 내지 도 18은 본 발명의 다른 실시예에 따른, 사용자 단말 장치의 홍채 인식을 통해 화면을 전환하는 실시예를 설명하기 위한 도면들,
도 19a 내지 도 22는 본 발명의 일 실시예에 따른, 눈(eye) 모양의 응시 UI를 통해 홍채 인식을 수행하는 실시예를 설명하기 위한 도면들, 그리고,
도 23 내지 도 29는 본 발명의 다른 실시예에 따른, 사용자 단말 장치가 촬영 조건에 따라 획득된 복수의 참조 영상을 이용하여 홍채 인식을 수행하는 실시예를 설명하기 위한 도면들이다.
1 is a block diagram schematically illustrating a configuration of a user terminal according to an embodiment of the present invention;
2 is a block diagram illustrating a detailed configuration of a user terminal according to an exemplary embodiment of the present invention.
FIGS. 3A and 3B illustrate a guide image for iris recognition according to an embodiment of the present invention;
4A to 4C are flowcharts for explaining a method of extracting iris features in consideration of eyelids and eyelashes according to an embodiment of the present invention,
FIGS. 5A through 5C are diagrams illustrating image processing for an image captured for security according to an embodiment of the present invention; FIGS.
FIGS. 6A and 6B are views showing an iris masked by an eyelid or an eyebrow, according to an embodiment of the present invention,
7 is a diagram for explaining a method of generating an iris code according to an embodiment of the present invention;
Figures 8A-10 illustrate a method for normalizing an iris region according to various embodiments of the present invention,
11 is a diagram for explaining a method for updating an iris code according to an embodiment of the present invention;
FIG. 12 is a flowchart illustrating an iris recognition method of a user terminal according to an embodiment of the present invention. FIG.
13 is a flowchart illustrating an iris code storing and updating method of a user terminal according to an exemplary embodiment of the present invention.
14A to 18 are views for explaining an embodiment of switching a screen through iris recognition of a user terminal according to another embodiment of the present invention,
FIGS. 19A and 22 are diagrams for explaining an embodiment of performing iris recognition through an eye-shaped gaze UI according to an embodiment of the present invention,
23 to 29 are diagrams for explaining an embodiment in which iris recognition is performed using a plurality of reference images acquired according to photographing conditions, according to another embodiment of the present invention.

본 실시예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 개시된 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 실시예들을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. These embodiments are capable of various modifications and various embodiments, and specific embodiments are illustrated in the drawings and described in detail in the description. It is to be understood, however, that it is not intended to limit the scope of the specific embodiments but includes all transformations, equivalents, and alternatives falling within the spirit and scope of the disclosure disclosed. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS In the following description of the embodiments of the present invention,

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. The terms first, second, etc. may be used to describe various elements, but the elements should not be limited by terms. Terms are used only for the purpose of distinguishing one component from another.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 권리범위를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "구성되다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used herein is for the purpose of describing particular embodiments only and is not intended to limit the scope of the claims. The singular expressions include plural expressions unless the context clearly dictates otherwise. In this application, the terms "comprise", "comprising" and the like are used to specify that there is a stated feature, number, step, operation, element, component, or combination thereof, But do not preclude the presence or addition of features, numbers, steps, operations, components, parts, or combinations thereof.

실시예에 있어서 ‘모듈’ 혹은 ‘부’는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의‘모듈’ 혹은 복수의‘부’는 특정한 하드웨어로 구현될 필요가 있는 ‘모듈’ 혹은 ‘부’를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서(미도시)로 구현될 수 있다.In the embodiment, 'module' or 'sub' performs at least one function or operation, and may be implemented in hardware or software, or a combination of hardware and software. In addition, a plurality of 'modules' or a plurality of 'parts' may be integrated into at least one module except for 'module' or 'module' which need to be implemented by specific hardware, and implemented by at least one processor (not shown) .

실시예에 있어서 사용자 단말 장치는 UE(User Equipment), MS(Mobile Station), AMS(Advanced Mobile Station), 디바이스 등 이동 혹은 고정형의 사용자단 기기를 통칭하는 것으로 가정한다. In the embodiment, it is assumed that the user terminal device collectively refers to a mobile stationary or stationary user station device such as a UE (User Equipment), an MS (Mobile Station), an AMS (Advanced Mobile Station)

이하, 실시예를 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. Referring to the accompanying drawings, the same or corresponding elements are denoted by the same reference numerals, and a duplicate description thereof will be omitted.

도 1은 본 발명의 일 실시예에 따른, 사용자 단말 장치(100)의 구성을 간략히 도시한 블럭도이다. 도 1에 도시된 바와 같이, 사용자 단말 장치(100)는 촬영부(110), 디스플레이부(120) 및 제어부(130)를 포함한다. 1 is a block diagram briefly showing a configuration of a user terminal device 100 according to an embodiment of the present invention. 1, the user terminal 100 includes a photographing unit 110, a display unit 120, and a control unit 130. [

촬영부(110)는 사용자를 촬영한다. 특히, 촬영부(110)는 사용자의 홍채를 인식하기 위하여 사용자의 얼굴 영역을 촬영할 수 있다.The photographing unit 110 photographs the user. In particular, the photographing unit 110 may photograph the face region of the user to recognize the iris of the user.

디스플레이부(120)는 제어부(130)의 제어에 의해 영상을 디스플레이한다. 특히, 디스플레이부(120)는 촬영부(110)에 의해 촬영된 영상을 디스플레이할 수 있다. 또한, 디스플레이부(120)는 촬영된 영상에 홍채 인식을 위한 가이드 이미지를 디스플레이할 수 있다.The display unit 120 displays an image under the control of the controller 130. In particular, the display unit 120 can display an image photographed by the photographing unit 110. Also, the display unit 120 may display a guide image for iris recognition on the photographed image.

제어부(130)는 사용자 단말 장치(100)의 전반적인 동작을 제어한다. 특히, 제어부(130)는 촬영부(110)에 의해 촬영된 영상에서 사용자 눈을 검출하고, 촬영된 영상 중 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하도록 디스플레이부(120)를 제어하며, 사용자 눈에서 검출된 홍채의 크기와 가이드 이미지의 크기의 차이가 기설정된 값 이내인 경우, 홍채 인식을 수행할 수 있다.The control unit 130 controls the overall operation of the user terminal device 100. In particular, the control unit 130 detects the user's eyes in the image captured by the photographing unit 110, and controls the display unit 120 to display the guide image at a position where the detected user's eyes exist in the captured image Iris recognition can be performed when the difference between the size of the iris detected by the user's eye and the size of the guide image is within a preset value.

구체적으로, 제어부(130)는 검출된 사용자 눈에서 홍채 경계선을 검출하며, 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정하고, 인식된 사용자 눈 및 홍채 지름을 바탕으로 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이하도록 디스플레이부(120)를 제어할 수 있다. 이때, 가이드 이미지는 사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함하며, 눈 가이드 이미지는 사용자 눈에 대응되는 위치에 디스플레이되고, 홍채 가이드 이미지는 사용자 홍채에 대응되는 위치에 디스플레이될 수 있다.Specifically, the control unit 130 detects the iris boundary on the detected user's eye, estimates the iris diameter based on the detected iris boundary, and calculates a position corresponding to the user's eye and iris based on the recognized user's eye and iris diameter The display unit 120 may be controlled to display the guide image on the display unit 120. [ Here, the guide image includes an eye guide image corresponding to the user's eye and an iris guide image corresponding to the user's iris, the eye guide image is displayed at a position corresponding to the user's eye, the iris guide image is displayed at a position corresponding to the user's iris Lt; / RTI >

특히, 가이드 이미지는 촬영부(110)의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지일 수 있다. 즉, 사용자가 촬영부(110)의 초점거리보다 멀리 위치하는 경우, 눈 가이드 이미지 및 홍채 가이드 이미지는 실제 사용자 눈 및 홍채보다 클 수 있으며, 사용자가 촬영부(110)의 초점거리보다 가깝게 위치하는 경우, 눈 가이드 이미지 및 홍채 가이드 이미지는 실제 사용자 눈 및 홍채보다 작을 수 있다. 따라서, 사용자는 가이드 이미지를 통해 촬영부(110)와의 거리를 조절하여 홍채 인식을 수행할 수 있게 된다.In particular, the guide image may be an image corresponding to the sizes of the user's eyes and irises existing in positions corresponding to the focal length of the photographing unit 110. [ That is, when the user is located farther away from the focal length of the photographing unit 110, the eye guide image and the iris guide image may be larger than the actual user's eye and iris. When the user is located closer to the focal distance of the photographing unit 110 The eye guide image and the iris guide image may be smaller than the actual user's eye and iris. Accordingly, the user can perform the iris recognition by adjusting the distance from the photographing unit 110 through the guide image.

또한, 촬영된 영상에서 사용자 홍채를 검출하고, 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 즉, 사용자가 홍채 인식이 가능한 거리에 위치한 경우, 제어부(130)는 검출된 사용자 홍채가 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행할 수 있다. 특히, 제어부(130)는 검출된 사용자 홍채에서 홍채 코드를 검출하고, 기 등록된 홍채 코드들과 비교하여 사용자 인증을 수행할 수 있다.When the user iris is detected in the photographed image and the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a predetermined value, The controller 130 may determine whether the detected user iris matches the previously registered iris and perform iris recognition of the user. In particular, the controller 130 may detect the iris code in the detected user iris and perform user authentication by comparing the iris code with previously registered iris codes.

이때, 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 즉, 사용자가 홍채 인식이 가능한 거리에 위치하는 경우, 제어부(130)는 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력할 수 있다. 이때, 피드백 메시지는 시각 피드백 메시지(예를 들어, 영상), 청각 피드백 메시지(예를 들어, 오디오), 촉각 피드백 메시지(예를 들어, 진동) 중 적어도 하나로 구현될 수 있다.If the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a predetermined value, that is, if the user is located at a distance at which iris recognition is possible , The control unit 130 may output a feedback message to guide the user to perform iris recognition. At this time, the feedback message may be implemented with at least one of a visual feedback message (e.g., an image), an auditory feedback message (e.g., audio), and a tactile feedback message (e.g., vibration).

또한,  홍채 인식 도중 보안 강화를 위하여, 제어부(130)는 사용자가 홍채 인식을 수행하는 동안 사용자 홍채의 패턴을 확인할 수 없도록 촬영된 영상을 처리하며, 처리된 영상을 디스플레이하도록 디스플레이부(120)를 제어할 수 있다.In order to enhance the security during the iris recognition, the controller 130 processes the photographed image so that the user iris pattern can not be recognized while the user performs the iris recognition, and displays the processed image on the display unit 120 Can be controlled.

또한, 제어부(130)는 검출된 홍채 영역을 직사각형 모양으로 정규화하여 홍채 코드를 생성할 수 있다. 그리고, 제어부(130)는 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역을 마스킹하며, 마스킹된 영역을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 사용자의 홍채 인식을 수행할 수 있다.Also, the controller 130 may generate the iris code by normalizing the detected iris region into a rectangular shape. The controller 130 masks the iris code normalized by the rectangle, masked by the eyebrows or eyelids, and performs iris recognition of the user by comparing the remaining irregularities with the previously registered iris code except for the masked area .

또한, 검출된 홍채 영역이 기등록된 사용자로 인식된 경우, 제어부(130)는 검출된 홍채 영역 중 마스킹된 영역을 제외한 나머지 영역을 이용하여 기등록된 사용자의 홍채 코드를 업데이트할 수 있다.In addition, when the detected iris region is recognized as a pre-registered user, the controller 130 can update the iris code of the previously registered user by using the remaining region excluding the masked region of the detected iris region.

상술한 바와 같은 사용자 단말 장치(100)에 의해, 사용자는 더욱 편리하고 정확하게 홍채 인식을 수행하여 사용자를 인증할 수 있다.With the user terminal device 100 as described above, the user can more easily and accurately perform iris recognition and authenticate the user.

이하에서는 도 2 내지 도 7을 참조하여 본 발명의 다양한 실시예에 대해 설명하기로 한다.Hereinafter, various embodiments of the present invention will be described with reference to FIGS. 2 to 7. FIG.

도 2는 본 발명의 일 실시예에 따른, 사용자 단말 장치(200)의 구성을 상세히 도시한 블럭도이다. 도 2에 도시된 바와 같이, 사용자 단말 장치(200)는 통신부(210), 촬영부(220), 영상 처리부(230), 디스플레이부(240), 저장부(250), 입력부(260) 및 제어부(270)를 포함한다.FIG. 2 is a block diagram illustrating a detailed configuration of a user terminal 200 according to an embodiment of the present invention. 2, the user terminal 200 includes a communication unit 210, a photographing unit 220, an image processing unit 230, a display unit 240, a storage unit 250, an input unit 260, (Not shown).

통신부(210)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 기기와 통신을 수행하는 구성이다. 통신부(210)는 와이 파이 칩, 블루투스 칩, NFC칩, 무선 통신 칩, IR 칩 등과 같은 다양한 통신 칩을 포함할 수 있다. 이때, 와이파이 칩, 블루투스 칩, NFC 칩, IR 칩은 각각 WiFi 방식, 블루투스 방식, NFC 방식, IR 방식으로 통신을 수행한다. 이 중 NFC 칩은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작하는 칩을 의미한다. 와이파이 칩이나 블루투스 칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선 통신 칩은 IEEE, 지그비, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evoloution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다.The communication unit 210 is configured to perform communication with various types of external devices according to various types of communication methods. The communication unit 210 may include various communication chips such as a Wi-Fi chip, a Bluetooth chip, an NFC chip, a wireless communication chip, an IR chip, and the like. At this time, the Wi-Fi chip, the Bluetooth chip, the NFC chip, and the IR chip communicate by WiFi, Bluetooth, NFC, and IR, respectively. Among these, the NFC chip refers to a chip operating in an NFC (Near Field Communication) system using 13.56 MHz band among various RF-ID frequency bands such as 135 kHz, 13.56 MHz, 433 MHz, 860 to 960 MHz and 2.45 GHz. When a Wi-Fi chip or a Bluetooth chip is used, various connection information such as an SSID and a session key may be transmitted and received first, and communication information may be used to transmit and receive various information. The wireless communication chip refers to a chip that performs communication according to various communication standards such as IEEE, ZigBee, 3G (3rd Generation), 3rd Generation Partnership Project (3GPP), LTE (Long Term Evolution)

촬영부(220)는 촬영 동작을 수행한다. 이때, 촬영부(220)는 사용자 단말 장치(100)의 전면에 위치하여 사용자를 촬영할 수 있다. 또한, 촬영부(220)는 콜드 밀러(cold mirror)라 불리는 거울 형태의 적외선 통과 필터를 포함할 수 있다. The photographing unit 220 performs a photographing operation. At this time, the photographing unit 220 is located at the front of the user terminal device 100 and can photograph the user. In addition, the photographing unit 220 may include a mirror-type infrared ray passing filter called a cold mirror.

영상 처리부(230)는 촬영부(220)에 의해 촬영된 영상을 처리한다. 이때, 영상 처리부(230)는 보안성을 강화하기 위하여, 촬영부(220)에 의해 촬영된 영상에 대한 영상 처리를 수행할 수 있다. The image processing unit 230 processes the image captured by the photographing unit 220. At this time, the image processing unit 230 may perform image processing on the image photographed by the photographing unit 220 to enhance security.

디스플레이부(240)는 다양한 소스로부터 입력된 영상 및 UI를 디스플레이한다. 특히, 디스플레이부(240)는 촬영부(220)에 의해 촬영된 영상을 디스플레이할 수 있으며,  촬영된 영상 중 사용자 눈에 대응되는 위치에 홍채 인식을 위한 가이드 이미지를 디스플레이할 수 있다.The display unit 240 displays images and UI input from various sources. In particular, the display unit 240 may display an image photographed by the photographing unit 220, and may display a guide image for iris recognition at a position corresponding to the user's eyes among the photographed images.

저장부(250)는 사용자 단말 장치 장치(200)를 구동하기 위한 다양한 모듈을 저장한다. 예를 들어, 저장부(250)에는 베이스 모듈, 센싱 모듈, 통신 모듈, 프리젠테이션 모듈, 웹 브라우저 모듈, 서비스 모듈을 포함하는 소프트웨어가 저장될 수 있다. 이때, 베이스 모듈은 사용자 단말 장치(200)에 포함된 각 하드웨어들로부터 전달되는 신호를 처리하여 상위 레이어 모듈로 전달하는 기초 모듈이다. 센싱 모듈은 각종 센서들로부터 정보를 수집하고, 수집된 정보를 분석 및 관리하는 모듈로서, 얼굴 인식 모듈, 음성 인식 모듈, 모션 인식 모듈, NFC 인식 모듈 등을 포함할 수도 있다. 프리젠테이션 모듈은 디스플레이 화면을 구성하기 위한 모듈로서, 멀티미디어 컨텐츠를 재생하여 출력하기 위한 멀티미디어 모듈, UI 및 그래픽 처리를 수행하는 UI 렌더링 모듈을 포함할 수 있다. 통신 모듈은 외부와 통신을 수행하기 위한 모듈이다. 웹 브라우저 모듈은 웹 브라우징을 수행하여 웹 서버에 액세스하는 모듈을 의미한다. 서비스 모듈은 다양한 서비스를 제공하기 위한 각종 어플리케이션을 포함하는 모듈이다.The storage unit 250 stores various modules for driving the user terminal device 200. For example, the storage unit 250 may store software including a base module, a sensing module, a communication module, a presentation module, a web browser module, and a service module. At this time, the base module is a base module that processes a signal transmitted from each hardware included in the user terminal device 200 and transfers the processed signal to an upper layer module. The sensing module is a module for collecting information from various sensors and analyzing and managing the collected information, and may include a face recognition module, a voice recognition module, a motion recognition module, and an NFC recognition module. The presentation module is a module for constructing a display screen, and may include a multimedia module for reproducing and outputting multimedia contents, a UI, and a UI rendering module for performing graphics processing. The communication module is a module for performing communication with the outside. A web browser module refers to a module that accesses a web server by performing web browsing. A service module is a module including various applications for providing various services.

상술한 바와 같이, 저장부(250)는 다양한 프로그램 모듈들을 포함할 수 있으나, 각종 프로그램 모듈들은 사용자 단말 장치(200)의 종류 및 특성에 따라 일부 생략되거나 변형 또는 추가될 수 있음은 물론이다. 가령, 상술한 사용자 단말 장치(200)가 태블릿 PC로 구현된 경우, 베이스 모듈에는 GPS 기반의 위치를 판단하기 위한 위치 판단 모듈을 더 포함하며, 센싱 모듈에는 사용자의 동작을 감지하는 센싱 모듈을 더 포함할 수 있다. As described above, the storage unit 250 may include various program modules, but it goes without saying that the various program modules may be omitted, modified or added depending on the type and characteristics of the user terminal device 200. For example, when the user terminal device 200 is implemented as a tablet PC, the base module may further include a position determination module for determining a GPS-based position, and the sensing module may include a sensing module .

또한, 저장부(250)는 적어도 하나의 사용자에 대응되는 홍채 코드를 저장한다. 이때, 홍채 코드는 사용자의 홍채 영역을 직사각형 모양으로 정규화한 데이터로서, 홍채 인식에 이용된다. 이때, 홍채 인식에 성공할 경우, 저장부(250)는 제어부(270)에 의해 사용자의 홍채 코드를 업데이트할 수 있다.Also, the storage unit 250 stores iris codes corresponding to at least one user. At this time, the iris code is data obtained by normalizing the iris region of the user into a rectangular shape, and is used for iris recognition. At this time, if the iris recognition is successful, the storage unit 250 can update the iris code of the user by the control unit 270. [

입력부(260)는 사용자 단말 장치(200)를 제어하기 위한 다양한 사용자 명령을 입력받는다. 이때, 입력부(260)는 터치 스크린으로 구현될 수 있으나, 이는 일 실시예에 불과할 뿐, 다양한 형태의 입력 장치(예를 들어, 리모컨, 키보드, 마우스, 포인팅 디바이스 등)로 구현될 수 있다.The input unit 260 receives various user commands for controlling the user terminal 200. The input unit 260 may be implemented as a touch screen. However, the input unit 260 may be implemented by various types of input devices (e.g., a remote controller, a keyboard, a mouse, and a pointing device)

제어부(270)는 저장부(250)에 저장된 각종 프로그램을 이용하여 사용자 단말 장치(200)의 전반적인 동작을 제어한다.The control unit 270 controls the overall operation of the user terminal 200 using various programs stored in the storage unit 250.

제어부(270)는 도 2에 도시된 바와 같이, RAM(271), ROM(272), 그래픽 처리부(273), 메인 CPU(274), 제1 내지 n 인터페이스(275-1 ~ 275-n), 버스(276)를 포함한다. 이때, RAM(271), ROM(272), 그래픽 처리부(273), 메인 CPU(274), 제1 내지 n 인터페이스(275-1 ~ 275-n) 등은 버스(276)를 통해 서로 연결될 수 있다. 2, the control unit 270 includes a RAM 271, a ROM 272, a graphics processing unit 273, a main CPU 274, first to n interfaces 275-1 to 275-n, Bus 276. < / RTI > At this time, the RAM 271, the ROM 272, the graphic processor 273, the main CPU 274, the first through n interfaces 275-1 through 275-n, etc. may be connected to each other via the bus 276 .

ROM(272)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴 온 명령이 입력되어 전원이 공급되면, 메인 CPU(274)는 ROM(272)에 저장된 명령어에 따라 저장부(250)에 저장된 O/S를 RAM(271)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(274)는 저장부(250)에 저장된 각종 어플리케이션 프로그램을 RAM(271)에 복사하고, RAM(271)에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다. A ROM 272 stores a command set for booting the system and the like. The main CPU 274 copies the O / S stored in the storage unit 250 to the RAM 271 according to the instruction stored in the ROM 272, and executes the O / S To boot the system. When the booting is completed, the main CPU 274 copies various application programs stored in the storage unit 250 to the RAM 271, executes the application program copied to the RAM 271, and performs various operations.

그래픽 처리부(273)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 포인터, 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부는 입력부로부터 수신된 제어 명령을 이용하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부는 연산부에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다. 렌더링부에서 생성된 화면은 디스플레이부(240)의 디스플레이 영역 내에 표시된다. The graphic processing unit 273 generates a screen including various objects such as a pointer, an icon, an image, and a text using an operation unit (not shown) and a rendering unit (not shown). The operation unit calculates an attribute value such as a coordinate value, a shape, a size, a color, and the like to be displayed by each object according to the layout of the screen using the control command received from the input unit. The rendering unit generates screens of various layouts including the objects based on the attribute values calculated by the operation unit. The screen generated by the rendering unit is displayed in the display area of the display unit 240.

메인 CPU(274)는 저장부(250)에 액세스하여, 저장부(250)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 메인 CPU(274)는 저장부(250)에 저장된 각종 프로그램, 컨텐츠, 데이터 등을 이용하여 다양한 동작을 수행한다. The main CPU 274 accesses the storage unit 250 and performs booting using the O / S stored in the storage unit 250. [ The main CPU 274 performs various operations using various programs, contents, data stored in the storage unit 250, and the like.

제1 내지 n 인터페이스(275-1 내지 275-n)는 상술한 각종 구성요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.The first to n-th interfaces 275-1 to 275-n are connected to the various components described above. One of the interfaces may be a network interface connected to an external device via a network.

특히, 제어부(270)는 촬영부(220)에 의해 촬영된 영상에서 사용자 눈을 검출하고, 촬영된 영상 중 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.In particular, the control unit 270 controls the display unit 240 to detect the user's eyes in the image photographed by the photographing unit 220 and display the guide image at a position where the detected user's eyes exist in the photographed image .

특히, 제어부(270)는 촬영부(220)를 통해 촬영된 영상에서 눈을 검출하고, 검출된 눈 위치를 기반으로 홍채 경계선을 검출할 수 있다. In particular, the control unit 270 may detect an eye from an image photographed through the photographing unit 220, and may detect an iris boundary based on the detected eye position.

구체적으로, 제어부(270)는 검출된 눈 영역으로부터 눈의 중심 좌표(x,y)를 산출할 수 있다. 이때, 제어부(270)는 눈 영역으로 추정되는 영역의 중심 좌표를 눈의 중심 좌표로 산출할 수도 있고, 눈 영역에 동공 영역에 맺히는 조명 반사광(즉, 글린트)를 눈의 중심 좌표로 산출할 수 있다.Specifically, the control unit 270 can calculate the center coordinates (x, y) of the eye from the detected eye region. At this time, the control unit 270 may calculate the center coordinates of the region estimated to be the eye region as the center coordinates of the eye, or calculate the illumination reflected light (i.e., glint) that forms the pupil region in the eye region as the center coordinates of the eye .

그리고, 제어부(270)는 눈 중심점을 기준으로 픽셀 값의 변화도를 분석하여 홍채 경계선을 검출할 수 있다. 이때, 픽셀 값의 변화도는 단순히 인접한 픽셀의 휘도 차이뿐만 아니라 1차 미분값 또는 2차 미분값을 활용할 수 있다.The controller 270 can detect the iris boundary by analyzing the degree of change of the pixel value with reference to the center of eye. At this time, the degree of change of the pixel value can utilize the first differential value or the second differential value as well as the luminance difference of the adjacent pixels.

이때, 홍채 경계선을 검출하는 일 실시예로, 제어부(270)는 눈 중심 좌표를 기준으로 홍채 경계 검출을 위해 정해 놓은 특정 방향에 대해서 탐색이 이루어진다. 제어부(270)는 탐색과정에서 픽셀 값의 변화도를 분석하여 얻어진 특징점들에 근사한 원을 추정하는 방법이 사용할 수 있다. 픽셀 값의 변화도를 분석하여 특징점을 결정하는 방법은 픽셀 값의 변화도가 갑자기 커지거나 작아지는 부분을 특징점 위치로 결정할 수 있다. 또, 홍채 경계선을 검출하는 다른 실시예로, 제어부(270)는 눈 중심 좌표를 기준으로 원의 중심점과 크기를 변화시켜가며 원의 내부와 외부의 픽셀 값의 변화도가 최대가 되는 원을 찾아 홍채의 중심과 경계선을 검출할 수도 있다. 제어부(270)는 원이 아닌 타원을 이용할 경우에도 동일하게 눈 중심 좌표를 기준으로 타원의 중심과 타원의 장축과 단축을 변화시켜가면서 타원 내부와 외부의 픽셀 값의 변화도가 최대가 되는 타원으로 홍채의 중심과 경계선을 검출할 수도 있다.In this case, in one embodiment of detecting the iris boundary, the controller 270 searches for a specific direction determined for iris boundary detection based on the eye center coordinate. The control unit 270 may use a method of estimating a circle approximating the minutiae obtained by analyzing the degree of change of pixel values in the searching process. The method of determining the feature point by analyzing the degree of change of the pixel value can determine the portion where the degree of change of the pixel value suddenly increases or decreases as the feature point position. In another embodiment of detecting the iris boundary, the controller 270 finds a circle having the maximum degree of change in the pixel values of the inside and outside of the circle while changing the center point and the size of the circle on the basis of the eye center coordinate The center of the iris and the boundary line may be detected. The control unit 270 may also use an ellipse in which the center of the ellipse and the major axis and minor axis of the ellipse are changed with reference to the center of the eye, The center of the iris and the boundary line may be detected.

그리고, 제어부(270)는 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정할 수 있다.Then, the controller 270 can estimate the iris diameter based on the detected iris boundary line.

그리고, 제어부(270)는 인식된 사용자 눈 및 홍채 지름을 바탕으로 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 가이드 이미지라 함은 촬영부(220)의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지일 수 있다. 또한, 가이드 이미지는 사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함할 수 있다. 눈 가이드 이미지 및 홍채 가이드 이미지는 촬영부(220)의 초점거리에 맞는 위치에 사용자가 존재하는 경우, 통계적인 사용자의 눈 및 홍채의 크기를 가질 수 있다.The control unit 270 may control the display unit 240 to display the guide image at a position corresponding to the user's eyes and irises based on the recognized user's eyes and iris diameter. Here, the guide image may be an image corresponding to the sizes of the user's eyes and the irises existing in positions corresponding to the focal length of the photographing unit 220. [ In addition, the guide image may include an eye guide image corresponding to the user's eyes and an iris guide image corresponding to the user's irises. The eye guide image and the iris guide image may have a statistical size of the user's eyes and irises when the user exists at a position corresponding to the focal distance of the photographing unit 220. [

구체적인 실시예로, 도 3a에 도시된 바와 같이, 제어부(270)는 검출된 눈 주위에 눈 가이드 이미지(310)를 디스플레이하도록 디스플레이부(240)를 제어하고, 사용자의 홍채 주위에 홍채 가이드 이미지(320)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 제어부(270)는 사용자가 눈을 맞춰야 하는 위치 및 거리를 확인하기 위하여 가이드 이미지(310,320)와 함께 실제 검출된 사용자의 홍채 라인(330)을 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.3A, the control unit 270 controls the display unit 240 to display the eye guide image 310 around the detected eye, and displays the iris guide image (FIG. 3A) around the user's iris The display unit 240 may be controlled so as to display the display image. At this time, the controller 270 may control the display unit 240 to display the actually detected user's iris line 330 together with the guide images 310 and 320 in order to check the position and distance at which the user should align his or her eyes .

이때, 사용자는 홍채 라인(330)이 홍채 가이드 이미지(320)보다 작음을 확인할 수 있다. 따라서, 사용자는 가이드 이미지(310,320) 및 홍채 라인(330)을 바탕으로 사용자가 사용자 단말 장치(200)와 멀리 떨어져 있음을 확인하고 사용자 단말 장치(200)와 가까워지는 방향으로 사용자 단말 장치(200)를 움직일 수 있게 된다.At this time, the user can confirm that the iris line 330 is smaller than the iris guide image 320. Accordingly, the user confirms that the user is far away from the user terminal 200 based on the guide images 310 and 320 and the iris line 330 and confirms that the user terminal 200 is far away from the user terminal 200, . ≪ / RTI >

또 다른 실시예로, 도 3b에 도시된 바와 같이, 제어부(270)는 검출된 눈 주위에 눈 가이드 이미지(310)를 디스플레이하도록 디스플레이부(240)를 제어하고, 사용자의 홍채 주위에 홍채 가이드 이미지(320)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 제어부(270)는 사용자가 눈을 맞춰야 하는 위치 및 거리를 확인하기 위하여 가이드 이미지(310,320)와 함께 실제 검출된 사용자의 홍채 라인(340)을 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.3B, the control unit 270 controls the display unit 240 to display the eye guide image 310 around the detected eye, and displays the iris guide image 310 around the iris of the user, The display unit 240 may be controlled so as to display the display unit 320. At this time, the controller 270 may control the display unit 240 to display the actually detected user's iris line 340 together with the guide images 310 and 320 in order to confirm the position and the distance at which the user should align his or her eyes .

이때, 사용자는 홍채 라인(340)이 홍채 가이드 이미지(320)보다 큼을 확인할 수 있다. 따라서, 사용자는 가이드 이미지(310,320) 및 홍채 라인(340)을 바탕으로 사용자가 사용자 단말 장치(200)와 근접한 곳에 있음을 확인하고 사용자 단말 장치(200)와 멀어지는 방향으로 사용자 단말 장치(200)를 움직일 수 있게 된다.At this time, the user can confirm that the iris line 340 is larger than the iris guide image 320. Accordingly, the user confirms that the user is close to the user terminal 200 based on the guide images 310 and 320 and the iris line 340 and confirms that the user terminal 200 is in a direction away from the user terminal 200 You can move.

다만, 홍채 영역이 검출되더라도 눈꺼풀이나 속눈섭에 의해 정확한 홍채 인식을 수행할 수 없는 경우도 존재한다. 도 4a는 본 발명의 일 실시예에 따른, 눈꺼풀 및 속눈썹을 고려하여 홍채 특징을 추출하는 방법을 설명하기 위한 흐름도이다.However, even if the iris region is detected, accurate iris recognition can not be performed due to eyelids or eyelashes. 4A is a flowchart for explaining a method of extracting iris features considering eyelids and eyelashes according to an embodiment of the present invention.

우선, 제어부(270)는 검출된 영상으로부터 홍채 영역을 검출한다(S410). 그리고, 제어부(270)는 검출된 영상으로부터 눈꺼풀을 검출한다(S420). 그리고, 제어부(270)는 홍채 영역에서 눈꺼풀이 차지하는 눈꺼풀 비율이 제1 값 이상(예를 들어, 5%)인지 여부를 판단한다(S430). 눈꺼풀 비율이 제1값 미만인 경우(S430-N), 제어부(270)는 검출된 영상으로부터 속눈썹을 검출한다(S440). 그리고, 제어부(270)는 홍채 영역에서 속눈썹이 차지하는 속눈썹 비율이 제2 값 이상인지 여부를 판단한다(S450). 속눈썹 비율이 제2값 미만인 경우(S450-N), 제어부(270)는 홍채 인식을 위한 홍채 특징을 추출한다(S470). 즉, 제어부(270)는 속눈썹 및 눈꺼풀이 기설정된 값 이하일 경우일 때만 홍채 인식을 수행할 수 있다.First, the controller 270 detects the iris region from the detected image (S410). Then, the controller 270 detects the eyelid from the detected image (S420). Then, the controller 270 determines whether the eyelash occupied by the eyelid in the iris region is equal to or greater than the first value (e.g., 5%) (S430). If the eyelid ratio is less than the first value (S430-N), the controller 270 detects the eyelashes from the detected image (S440). Then, the controller 270 determines whether the eyelashes occupied by the eyelashes in the iris region are equal to or greater than the second value (S450). If the eyelash rate is less than the second value (S450-N), the controller 270 extracts iris features for iris recognition (S470). That is, the controller 270 can perform iris recognition only when the eyelashes and eyelids are less than a predetermined value.

그러나, 눈꺼풀 비율이 제1 값 이상이거나(S430-Y), 속눈썹 비율이 제2 값 이상인 경우(S450-Y), 디스플레이부(240)는 원활한 홍채 인식을 위한 가이드 UI를 디스플레이한다(S460). 구체적으로, 디스플레이부(240)는 도 4b에 도시된 바와 같이,"눈을 크게 뜨세요"라는 안내 메시지가 포함된 가이드 UI(480)를 디스플레이할 수 있다. 즉, 사용자가 눈을 크게 뜨지 않아 눈꺼풀이나 속눈썹에 의해 원활한 홍채 인식을 수행할 수 없을 경우, 제어부(270)는 홍채 인식을 위한 가이드 UI(480)를 디스플레이할 수 있다.However, if the eyelid ratio is equal to or greater than the first value (S430-Y) and the eyelash rate is equal to or greater than the second value (S450-Y), the display unit 240 displays the guide UI for smooth iris recognition (S460). Specifically, the display unit 240 can display a guide UI 480 including a guide message "Open your eyes" as shown in FIG. 4B. That is, when the user does not open his or her eyes and can not perform smooth iris recognition by the eyelid or the eyelashes, the control unit 270 can display the guide UI 480 for iris recognition.

또한, 도 4c에 도시된 바와 같이, 촬영된 사용자의 홍채 영역이 일부만 촬영된 경우, 제어부(270)는 홍채 인식을 수행하기 위한 가이드 이미지를 디스플레이하지 않을 수 있다.Also, as shown in FIG. 4C, when only a part of the photographed user's iris region is photographed, the control unit 270 may not display a guide image for performing iris recognition.

한편, 홍채 영상은 사용자의 개인 정보로서 보안이 매우 중요하다. 특히, 홍채 영상을 그대로 디스플레이할 경우, 디스플레이된 화면을 캡쳐하거나 사진을 찍는 방식으로 사용자의 개인 정보인 홍채 정보가 외부로 유출된 가능성이 있다. 따라서, 제어부(270)는 촬영된 홍채 영상을 그래도 디스플레이하지 않고, 다양한 방법으로 사용자 홍채 정보를 확인할 수 없도록 촬영된 영상을 처리하도록 영상 처리부(230)를 제어하며, 영상 처리부(230)에 의해 처리된 영상을 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 예를 들어, 제어부(270)는 도 5a에 도시된 바와 같이, 촬영된 영상 중 홍채 영역을 제외한 나머지 부분은 그대로 디스플레이하고, 홍채 영역에는 가상의 홍채 이미지(510)를 디스플레이하도록 영상 처리부(230) 및 디스플레이부(240)를 제어할 수 있다.On the other hand, security of the iris image is very important as the personal information of the user. In particular, when the iris image is directly displayed, there is a possibility that iris information, which is personal information of the user, is leaked to the outside by capturing a displayed screen or taking a picture. Accordingly, the control unit 270 controls the image processing unit 230 to process the photographed image so that the iris information can not be confirmed by various methods without displaying the photographed iris image, and is processed by the image processing unit 230 The display unit 240 may be controlled to display the image. For example, as shown in FIG. 5A, the controller 270 displays the remaining irregular parts of the photographed image as it is, and displays the virtual iris image 510 in the iris area. And the display unit 240 can be controlled.

또 다른 예로, 제어부(270)는 도 5b에 도시된 바와 같이, 눈 영역 및 홍채 영역을 검출하여 검출된 눈 영역 및 홍채 영역을 에지 정보로 디스플레이하고, 나머지 영역을 흑백 영상으로 처리하여 디스플레이하도록 영상 처리부(230) 및 디스플레이부(240)를 제어할 수 있다.5B, the control unit 270 may display the detected eye region and iris region as edge information by detecting the eye region and the iris region, process the remaining region as a monochrome image, The processing unit 230 and the display unit 240 can be controlled.

또 다른 예로, 제어부(270)는 도 5c에 도시된 바와 같이, 촬영된 영상 자체를 디스플레이하지 않고, 가이드 이미지(540,550)과 실제 사용자의 홍채 영역에 대응되는 홍채 라인(560)만을 디스플레이하도록 영상 처리부(230) 및 디스플레이부(240)를 제어할 수 있다. 이때, 가이드 이미지(540, 550)는 도 5c에 도시된 바와 같이, 실선으로 디스플레이되고, 홍채 라인(560)은 점선으로 디스플레이될 수 있다.5C, the controller 270 may display only the iris image 560 corresponding to the iris region of the actual user and the guide images 540 and 550 without displaying the photographed image itself, The control unit 230 and the display unit 240 can be controlled. At this time, the guide images 540 and 550 may be displayed as a solid line, and the iris line 560 may be displayed as a dotted line, as shown in FIG. 5C.

또한, 현재 홍채 크기를 나타내는 홍채 이미지를 표현할 때, 사용자 단말 장치(200)의 성능에 따라서 초당 프레임 수(FPS)가 떨어지는 문제가 발생할 수 있다. 이런 경우, 사용자 단말 장치(200)의 움직임에 따라 현재 사용자 홍채의 크기를 나타내는 홍채 이미지가 갑자기 작아지거나 커지는 등과 같은 급격한 변화가 발생할 수 있다. 따라서, 이러한 문제점을 완화하기 위하여, 이전 프레임에서의 홍채 크기 정보를 반영하여 아래의 수학식 1을 바탕으로 현재 프레임의 홍채 크기를 결정할 수 있다.Further, when an iris image representing the current iris size is expressed, a problem that the number of frames per second (FPS) falls may occur depending on the performance of the user terminal 200. [ In this case, an abrupt change such as a sudden decrease or an increase in the iris image indicating the size of the current user iris may occur due to the movement of the user terminal device 200. Accordingly, in order to mitigate this problem, the iris size of the current frame can be determined based on Equation (1) below by reflecting the iris size information in the previous frame.

Figure pat00001
Figure pat00001

이때, Iris_DiameterF는 홍채 이미지의 지름이며, Iris_DiameterC는 현재 프레임에서 추정되는 홍채의 지름이며, Iris_DiameterP는 이전 프레임에서 추정되는 홍채의 지름이다. 이때, a는 현재 프레임에 주어지는 가중치로 0과 1 사이의 값을 가진다.In this case, Iris_Diameter F is the diameter of the iris image, Iris_Diameter C is the diameter of the iris estimated in the current frame, and Iris_Diameter P is the diameter of the iris estimated in the previous frame. In this case, a is a weight given to the current frame and has a value between 0 and 1.

한편, 상술한 실시예에서는 가이드 이미지가 타원 및 원으로 도시되었으나, 이는 일 실시예에 불과할 뿐, 사각형, 삼각형 등과 같은 다양한 도형으로 표현될 수 있다.Meanwhile, although the guide image is shown as ellipses and circles in the above-described embodiment, it may be expressed in various shapes such as a rectangle, a triangle, and the like only as an example.

그리고, 사용자가 촬영부(220)의 초점거리에 위치하여 홍채 인식을 수행하기 적절한 위치에 존재하는 경우, 즉, 검출된 사용자 홍채의 크기와 홍채 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 제어부(270)는 홍채 인식을 수행하기 위해, 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력할 수 있다. 예를 들어, 검출된 사용자 홍채의 크기와 홍채 가이드 이미지의 크기의 차이가 사용자 홍채 크기의 2% 이내인 경우, 제어부(270)는 홍채 인식을 수행하기 위해, 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력할 수 있다.When the user is positioned at a focal distance of the photographing unit 220 and is located at a proper position for performing iris recognition, that is, when the difference between the size of the detected user iris and the size of the iris guide image is less than a predetermined value, The control unit 270 may output a feedback message to guide iris recognition to perform iris recognition. For example, when the difference between the size of the detected user iris and the size of the iris guide image is within 2% of the size of the user iris, the controller 270 performs a feedback process to guide iris recognition Can be output.

구체적으로, 제어부(270)는 시각적인 피드백 메시지를 출력할 수 있다. 본 발명의 일 실시예로, 홍채 가이드 이미지(320)가 홍채 이미지(330)와 크기가 기설정된 값 이하를 가지는 경우, 제어부(270)는 홍채 이미지(330)의 색을 변경하거나 깜빡이도록 디스플레이부(240)를 제어할 수 있다. 또한, 제어부(270)는 화면 전체를 깜빡이거나 홍채 인식이 수행중임을 안내하는 별도의 UI를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.Specifically, the control unit 270 may output a visual feedback message. The controller 270 controls the display unit 330 to change or blink the color of the iris image 330 when the iris guide image 320 has the iris image 330 and a size less than a predetermined value, (240). In addition, the controller 270 may control the display unit 240 to display a separate UI for informing that the entire screen is blinking or iris recognition is being performed.

또한, 제어부(270)는 청각적인 피드백 메시지를 출력할 수 있다. 본 발명의 일 실시예로, 홍채 가이드 이미지(320)가 홍채 이미지(330)와 크기가 기설정된 값 이하를 가지는 경우, 제어부(270)는 알림음을 울리거나 홍채 인식이 수행중임을 안내하는 AUI를 출력할 수 있다.In addition, the controller 270 may output an audible feedback message. In one embodiment of the present invention, when the iris guide image 320 has an iris image 330 and a size smaller than a preset value, the controller 270 displays an AUI Can be output.

그밖에, 제어부(270)는 진동과 같은 촉각적인 피드백 메시지를 출력할 수 있다.In addition, the control unit 270 may output a tactile feedback message such as vibration.

그리고, 사용자가 촬영부(220)의 초점거리에 위치하여 홍채 인식을 수행하기 적절한 위치에 존재하는 경우, 즉, 검출된 사용자 홍채의 크기와 홍채 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 제어부(270)는 검출된 사용자 홍채가 저장부(250)에 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행할 수 있다. When the user is positioned at a focal distance of the photographing unit 220 and is located at a proper position for performing iris recognition, that is, when the difference between the size of the detected user iris and the size of the iris guide image is less than a predetermined value, The control unit 270 may determine whether the detected user iris matches the iris previously registered in the storage unit 250 and perform iris recognition of the user.

이때, 제어부(270)는 홍채 인식을 수행함에 있어서, 도 6a에 도시된 바와 같이, 홍채 전부가 촬영될 수 있으나, 도 6b에 도시된 바와 같이, 눈썹 또는 눈꺼풀에 의해 홍채 일부가 가려질 수 있다. 도 6a에 도시된 바와 같이 홍채 전부가 노출되어 홍채 인식을 수행하는 경우에는 문제가 발생하지 않으나, 도 6b에 도시된 바와 같이, 눈썹 및 눈꺼풀에 의해 홍채가 가려지는 경우, 눈썹 및 눈꺼풀에 의해 홍채 인식의 성공률이 낮아지는 문제점이 발생할 수 있다.At this time, in performing iris recognition, the controller 270 can capture all of the iris as shown in FIG. 6A, but as shown in FIG. 6B, part of the iris may be obscured by eyebrows or eyelids . As shown in FIG. 6A, no problem occurs when the entire iris is exposed and the iris recognition is performed. However, as shown in FIG. 6B, when the iris is covered by the eyebrows and the eyelids, The recognition rate may be lowered.

이러한 문제점을 해결하기 위해, 제어부(270)는 검출된 홍채 영역(700)을 도 7에 도시된 바와 같이, 직사각형 모양으로 정규화하여 홍채 코드를 생성할 수 있다. 그리고, 제어부(270)는 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역(710,720,730)을 마스킹할 수 있다.In order to solve this problem, the controller 270 may generate the iris code by normalizing the detected iris region 700 into a rectangular shape as shown in FIG. Then, the controller 270 may mask the regions 710, 720, and 730 hidden by the eyebrows or the eyelids among the iris codes normalized in the rectangle.

이하에서는 도 8a 내지 도 10을 참조하여 홍채 영역을 정규화하여 홍채 코드를 생성하는 방법에 대해 설명하기로 한다.Hereinafter, a method for generating an iris code by normalizing an iris region will be described with reference to FIGS. 8A to 10. FIG.

도 8a는 본 발명의 일 실시예에 따른, 내안각 및 외안각을 추출하여 정규화하는 방법을 설명하기 위한 흐름도이다. 우선, 제어부(270)는 촬영된 사용자 눈 영역으로부터 홍채 경계를 검출한다(S810). 그리고, 제어부(270)는 홍채 중심점(P)의 좌표를 계산한다(S820). 그리고, 제어부(270)는 도 8b에 도시된 바와 같은, 내안각(880) 및 외안각(870)을 검출한다(S830). 그리고, 제어부(270)는 도 8b에 도시된 바와 같이, 내안각과 외안각을 잇는 직선(L)(890)을 계산한다(S840). 그리고, 제어부(270)는 홍채 중심점(P), 직선(L)과 수직인 직선(S)(895)를 계산한다(S850). 그리고, 제어부(270)는 기준선(S)을 바탕으로 홍채 영역을 극좌표 변환을 수행하여(S860) 정규화를 수행할 수 있다. 8A is a flowchart illustrating a method of extracting and normalizing the inner and outer angles of eyes according to an embodiment of the present invention. First, the control unit 270 detects the iris boundary from the photographed user's eye region (S810). Then, the controller 270 calculates the coordinates of the iris center point P (S820). Then, the control unit 270 detects the inner angle 880 and the outer angle 870 as shown in FIG. 8B (S830). Then, as shown in FIG. 8B, the controller 270 calculates a straight line L (890) connecting the inner and outer angles (S840). Then, the controller 270 calculates a straight line S 895 perpendicular to the iris center point P and the straight line L (S850). Then, the controller 270 performs polar coordinate conversion on the iris region based on the reference line S (S860) and performs normalization.

도 9a는 본 발명의 다른 실시예에 따른, 눈꺼풀 외각선을 추출하여 정규화하는 방법을 설명하기 위한 흐름도이다. 우선, 제어부(270)는 촬영된 사용자 눈 영역으로부터 홍채 경계를 검출한다(S910). 그리고, 제어부(270)는 홍채 중심점(P)의 좌표를 계산한다(S920). 그리고, 제어부(270)는 도 9b에 도시된 바와 같은, 눈꺼풀의 외각선(970-1,970-2) 을 검출한다(S930). 그리고, 제어부(270)는 홍채 중심점(P)에서 눈꺼풀까지의 거리를 측정한다(S940). 그리고, 제어부(270)는 홍채 중심점(P)으로부터 눈꺼풀까지의 거리가 최단거리에 있는 직선을 기준선(S)으로 선정한다(S950). 그리고, 제어부(270)는 기준선(S)을 바탕으로 홍채 영역을 극좌표 변환을 수행하여(S960) 정규화를 수행할 수 있다. FIG. 9A is a flowchart for explaining a method of extracting and normalizing an eyelid outer line according to another embodiment of the present invention. FIG. First, the control unit 270 detects the iris boundary from the photographed user's eye region (S910). Then, the controller 270 calculates the coordinates of the iris center point P (S920). Then, the control unit 270 detects the outline lines 970-1 and 970-2 of the eyelid as shown in FIG. 9B (S930). Then, the controller 270 measures the distance from the iris center point P to the eyelid (S940). Then, the controller 270 selects the straight line having the shortest distance from the iris center point P to the eyelid as the reference line S (S950). Then, the controller 270 performs polar coordinate conversion on the iris region based on the reference line S (S960) and performs normalization.

도 10은 본 발명의 본 발명의 또 다른 실시예에 따른, 도8a 및 도 9a에서 검출된 기준선 모두를 이용하여 홍채 영역을 정규화하는 방법을 설명하기 위한 흐름도이다. 우선, 제어부(270)은 도 8a에서 설명한 바와 같이 외안각 및 내안각을 이용한 기준선(S1)을 계산한다(S1010). 그리고, 제어부(270)는 도 9a에서 설명한 바와 같이 눈꺼풀을 이용한 기준선(S2)를 계산한다(S1020). 그리고, 제어부(270)는 기준선(S1)과 기준선(S2)를 이용하여 최종 기준선(S)를 계산한다(S1030). 이때, 제어부(270)는 기준선(S1)과 기준선(S2)의 평균을 최종 기준선(S)을 계산할 수 있으며, 특정 기준선에 가중치를 두어 최종 기준선(S)을 계산할 수 있다. 그리고, 제어부(270)는 최종 기준선(S)을 바탕으로 홍채 영역을 극좌표 변환을 수행하여(S940) 정규화를 수행할 수 있다.FIG. 10 is a flowchart illustrating a method of normalizing an iris region using all of the reference lines detected in FIGS. 8A and 9A according to another embodiment of the present invention. First, the controller 270 calculates a reference line S1 using the external angle and the internal angle as described with reference to FIG. 8A (S1010). Then, the controller 270 calculates the reference line S2 using the eyelid as described with reference to FIG. 9A (S1020). Then, the controller 270 calculates the final reference line S using the reference line S1 and the reference line S2 (S1030). At this time, the controller 270 can calculate the final reference line S by averaging the reference line S1 and the reference line S2, and calculate the final reference line S by weighting the specific reference line. Then, the controller 270 performs polar coordinate conversion on the iris region based on the final reference line S (S940) and performs normalization.

다시 도 7에 대해 설명하면, 제어부(270)는 정규화된 홍채 코드 중 마스킹된 영역(710,720,730)을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 매칭 스코어를 기록하고, 기설정된 값(예를 들어, 97%) 이상의 매칭 스코어를 가지는 기 등록된 홍채 코드가 있는지 여부를 판단하여 사용자의 홍채 인식을 수행할 수 있다. 즉, 기설정된 값 이상의 매칭 스코어를 가지는 기등록된 홍채 코드가 존재하는 경우, 제어부(270)는 촬영부(220)에 의해 촬영된 사용자를 기설정된 값 이상의 매칭 스코어를 가지는 기등록된 홍채 코드와 대응되는 사용자로 인증할 수 있다. 예를 들어, 마스킹된 영역을 제외한 나머지 영역을 기 등록된 제1 사용자의 홍채 코드와 비교한 결과 매칭 스코어가 98%이고, 마스킹된 영역을 제외한 나머지 영역을 기 등록된 제2 사용자의 홍채 코드와 비교한 결과 매칭 스코어가 33%이고, 마스킹된 영역을 제외한 나머지 영역을 기 등록된 제3 사용자의 홍채 코드와 비교한 결과 매칭 스코어가 17%인 경우, 제어부(270)는 홍채 인식 결과, 촬영된 사용자가 제1 사용자임을 인증할 수 있다.Referring to FIG. 7 again, the controller 270 compares the irregularized irregularity code with the previously registered iris code to record the matching score, and outputs a predetermined value (for example, , 97%) or more of the irregularly-registered iris codes, and perform iris recognition of the user. That is, if there is a pre-registered iris code having a matching score equal to or greater than a preset value, the control unit 270 sets the user photographed by the photographing unit 220 to a pre-registered iris code having a matching score of a preset value or more It can authenticate as a corresponding user. For example, when the remaining area excluding the masked area is compared with the iris code of the first user, the matching score is 98%, and the remaining area excluding the masked area is compared with the iris code of the second user As a result of the comparison, if the matching score is 33% and the remaining area excluding the masked area is compared with the iris code of the third registered user, if the matching score is 17%, the controller 270 calculates the iris recognition result The user can authenticate that the user is the first user.

또한, 홍채 인식에 성공한 경우, 제어부(270)는 기등록된 홍채 코드와 인증에 사용된 홍채 코드의 마스킹된 영역을 분석한다. 분석과정에서 기 등록된 홍채 코드의 마스킹된 부분이 인증에 사용된 홍채 코드에서 마스킹되지 않았다면, 제어부(270)는 인증에 사용자 홍채 코드 중 마스킹 영역을 제외한 나머지 영역에 대한 정보를 이용하여 기 등록된 홍채 코드의 마스킹된 부분을 업데이트한다. 구체적으로, 도 11에 도시된 바와 같이, 기 등록된 홍채 코드(1110)의 마스킹된 영역 중 인증에 성공한 홍채 코드(1120)에서는 마스킹되지 않은 영역(빗금 영역)(1140)이 존재하는 경우, 제어부(270)는 인증에 성공한 홍채 코드 중 마스킹되지 않은 영역(1140)을 업데이트하여 저장할 수 있다. If the iris recognition is successful, the controller 270 analyzes the previously registered iris code and the masked area of the iris code used for authentication. If the masked portion of the previously registered iris code is not masked in the iris code used for authentication, the control unit 270 uses the information of the remaining irregular regions of the user iris code except for the masked region, Update the masked portion of the iris code. 11, in a case where an unmasked area (hatched area) 1140 exists in the iris code 1120 that has been successfully authenticated among the masked areas of the previously registered iris code 1110, The controller 270 can update and store the unmasked area 1140 among the iris codes that have succeeded in authentication.

상술한 바와 같이, 홍채 인식이 반복적으로 수행됨에 따라 저장부(250)에 등록된 홍채 코드의 마스킹된 영역이 점점 줄어들게 되고 인증시 매칭 가능한 홍채 코드 부분이 증가하게 된다. 따라서, 반복적인 홍채 인식을 통해 저장부(250)에 등록된 홍채 코드가 업데이트되어 홍채 인식의 성능이 향상되어 사용자의 신뢰도를 높일 수 있게 된다.As described above, as the iris recognition is repeatedly performed, the masked area of the iris code registered in the storage unit 250 is gradually reduced, and iris code parts that can be matched at the time of authentication increase. Accordingly, the iris code registered in the storage unit 250 is updated through the iterative iris recognition, and the performance of the iris recognition is improved, thereby increasing the reliability of the user.

이하에서는 도 12 및 도 13을 참조하여 사용자 단말 장치(200)의 홍채 인식 방법 및 홍채 코드 업데이트 방법을 설명하기로 한다.Hereinafter, the iris recognition method and iris code update method of the user terminal 200 will be described with reference to FIGS. 12 and 13. FIG.

도 12는 본 발명의 일 실시예에 따른, 사용자 단말 장치(200)의 홍채 인식 방법을 설명하기 위한 흐름도이다.12 is a flowchart illustrating an iris recognition method of the user terminal 200 according to an embodiment of the present invention.

우선, 사용자 단말 장치(200)는 사용자를 촬영하고(S1210), 촬영된 영상을 디스플레이한다(S1220).First, the user terminal device 200 photographs a user (S1210) and displays the photographed image (S1220).

그리고, 사용자 단말 장치(200)는 촬영된 영상으로부터 사용자 눈을 검출한다(S1230). 이때, 사용자 단말 장치(200)는 검출된 사용자 눈으로부터 사용자 홍채를 검출할 수 있다.Then, the user terminal device 200 detects the user's eyes from the photographed image (S1230). At this time, the user terminal 200 can detect the user's iris from the detected user's eyes.

그리고, 사용자 단말 장치(200)는 검출된 사용자 눈에 대응되는 위치에 가이드 이미지를 디스플레이한다(S1240). 이때, 사용자 단말 장치(200)는 사용자 눈에 대응되는 위치에 눈 가이드 이미지를 디스플레이하고, 사용자 홍채에 대응되는 위치에 홍채 가이드 이미지를 디스플레이할 수 있다.Then, the user terminal device 200 displays the guide image at a position corresponding to the detected user's eyes (S1240). At this time, the user terminal device 200 may display the eye guide image at a position corresponding to the user's eyes, and may display the iris guide image at a position corresponding to the user's irises.

그리고, 사용자 단말 장치(200)는 홍채 인식을 수행한다(S1250). 이때, 홍채 가이드 이미지를 통해 사용자가 홍채 인식을 위해 적절한 거리에 위치한 경우, 즉, 검출된 사용자 눈에 포함된 홍채의 크기와 가이드 이미지의 크기의 차이가 기설정된 범위 이내인 경우, 사용자 단말 장치(200)는 홍채 인식을 수행할 수 있다.Then, the user terminal device 200 performs iris recognition (S1250). In this case, when the user is located at an appropriate distance for iris recognition through the iris guide image, that is, when the difference between the size of the iris included in the detected user's eye and the size of the guide image is within a predetermined range, 200) can perform iris recognition.

상술한 바와 같이 검출된 눈 위치에 가이드 이미지를 디스플레이함으로써, 사용자는 더욱 편리하게 홍채 인식을 수행할 수 있게 된다.By displaying the guide image at the detected eye position as described above, the user can perform iris recognition more conveniently.

도 13은 본 발명의 일 실시예에 따른, 사용자 단말 장치의 홍채 코드 저장 및 업데이트 방법을 설명하기 위한 흐름도이다.13 is a flowchart illustrating an iris code storing and updating method of a user terminal according to an exemplary embodiment of the present invention.

우선, 사용자 단말 장치(200)는 사용자를 촬영한다(S1310).First, the user terminal device 200 captures a user (S1310).

그리고, 사용자 단말 장치(200)는 현재 모드가 홍채 코드 등록 모드 인지 홍채 인증 모드인지 여부를 판단한다(S1320).Then, the user terminal device 200 determines whether the current mode is the iris code registration mode or the iris authentication mode (S1320).

홍채 코드 등록 모드인 경우, 사용자 단말 장치(200)는 촬영된 영상으로부터 홍채 코드를 생성한다(S1330). 구체적으로, 사용자 단말 장치(200)는 촬영된 영상으로부터 홍채 영역을 검출하고, 검출된 홍채 영역을 직사각형 형태로 정규화하고, 정규화된 홍채 영역 중 눈썹이나 눈꺼풀과 같은 영역을 마스킹하여 홍채 코드를 생성할 수 있다.In the iris code registration mode, the user terminal device 200 generates an iris code from the photographed image (S1330). Specifically, the user terminal device 200 detects an iris region from a photographed image, normalizes the detected iris region into a rectangular shape, and generates an iris code by masking an area such as eyebrows or eyelids in the normalized iris region .

그리고, 사용자 단말 장치(200)는 생성된 홍채 코드를 데이터베이스(DB)에 저장한다(S1340).Then, the user terminal device 200 stores the generated iris code in the database DB (S1340).

홍채 인증 모드인 경우, 사용자 단말 장치(200)는 홍채 코드를 생성하고, 눈썹 또는 눈꺼풀과 같이 인증에 필요하지 않은 부분에 대한 마스킹 작업을 수행한다(S1350).In the iris authentication mode, the user terminal 200 generates an iris code and performs a masking operation on a part not required for authentication such as eyebrows or eyelids (S1350).

그리고, 사용자 단말 장치(200)는 마스킹 작업이 수행된 홍채 코드에 대해 인증이 성공되었는지 여부를 판단한다(S1360). 구체적으로, 사용자 단말 장치(200)는 데이터베이스(DB)에 기저장된 홍채 코드와 마스킹 작업이 수행된 코드를 비교하여 인증이 성공되었는지 여부를 판단할 수 있다.Then, the user terminal device 200 determines whether the iris code on which the masking operation has been performed has been successfully authenticated (S1360). Specifically, the user terminal 200 can compare the iris code previously stored in the database (DB) with the code for which the masking operation has been performed to determine whether or not the authentication is successful.

인증이 성공된 경우(S1360-Y), 사용자 단말 장치(200)는 인증에 사용된 홍채 코드를 이용하여 기 등록된 홍채 코드를 업데이트한다(S1370). 구체적으로, 기 등록된 홍채 코드의 마스킹된 부분이 인증에 사용된 홍채 드에서 마스킹되지 않았다면, 사용자 단말 장치(200)는 인증에 사용자 홍채 코드 중 마스킹 영역을 제외한 나머지 영역에 대한 정보를 이용하여 데이터베이스(DB)에 기 등록된 홍채 코드의 마스킹된 부분을 업데이트할 수 있다.If the authentication is successful (S1360-Y), the user terminal device 200 updates the previously registered iris code using the iris code used for authentication (S1370). Specifically, if the masked portion of the pre-registered iris code is not masked in the iris pattern used for authentication, the user terminal device 200 uses the information on the remaining region of the user iris code except the masking region, It is possible to update the masked portion of the iris code previously registered in the database DB.

상술한 바와 같이, 홍채 인식 성공시 기등록된 홍채 코드를 업데이트함으로써, 홍채 인식의 성능이 향상되어 사용자의 신뢰도를 높일 수 있게 된다.As described above, by updating the registered iris code when the iris recognition is successful, the performance of the iris recognition can be improved and the reliability of the user can be increased.

이하에서는 도 14a 내지 도 18를 바탕으로 홍채 인식을 통해 화면을 전환하는 실시예를 설명하기로 한다. 제어부(270)는 사용자 인증이 필요한 다양한 화면에 응시 UI 및 가이드 이미지를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 그리고, 응시 UI 및 가이드 이미지를 통해 홍채 인식이 수행된 경우, 제어부(270)는 사용자 인증이 필요한 화면을 다른 화면으로 전환하도록 디스플레이부(240)를 제어할 수 있다. 이때, 제어부(270)는 응시 UI를 확대하여 다른 화면으로 전환하도록 디스플레이부(240)를 제어할 수 있다. Hereinafter, an embodiment in which the screen is switched through iris recognition will be described with reference to FIGS. 14A to 18. The control unit 270 may control the display unit 240 to display the candidate UI and the guide image on various screens requiring user authentication. When the iris recognition is performed through the gazing UI and the guide image, the control unit 270 may control the display unit 240 to switch the screen requiring the user authentication to another screen. At this time, the control unit 270 may control the display unit 240 to enlarge the candidate UI and switch to another screen.

본 발명의 일 실시예로, 제어부(270)는 도 14a에 도시된 바와 같이, 대기 화면(1400)을 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 대기 화면(1400)에는 응시 UI(1410) 및 가이드 이미지(1420)를 포함할 수 있다. 이때, 응시 UI(1410)는 사용자가 쳐다보는 지점을 안내하는 UI이며, 가이드 이미지(1420)는 응시 UI(1410)와의 상대적인 위치 및 크기를 통해 사용자가 바라보는 눈의 위치 및 크기를 안내하는 이미지일 수 있다. 구체적으로, 도 15a에 도시된 바와 같이, 가이드 이미지(1520)가 응시 UI보다 크고, 오른쪽에 위치함을 확인할 수 있다. 이 경우, 사용자의 얼굴이 사용자 단말 장치(200)에 가까이 있고, 오른쪽에 위치함을 안내하는 것으로서, 사용자가 얼굴을 더욱 멀리하고, 왼쪽으로 이동하는 경우, 제어부(270)는 도 15b에 도시된 바와 같이, 응시 UI(1510) 및 가이드 이미지(1520)의 크기를 매칭시킬 수 있다. In an embodiment of the present invention, the control unit 270 may control the display unit 240 to display the idle screen 1400, as shown in FIG. 14A. At this time, the idle screen 1400 may include an examination UI 1410 and a guide image 1420. At this time, the gazing UI 1410 is a UI for guiding the user's point of view, and the guide image 1420 is an image for guiding the position and size of the eyes viewed by the user through the position and size relative to the gazing UI 1410 Lt; / RTI > Specifically, as shown in FIG. 15A, it can be confirmed that the guide image 1520 is larger than the gazing UI and positioned on the right side. In this case, when the user is farther to the left and moves to the left as the user's face is close to the user terminal device 200 and is located on the right side, The size of the staring UI 1510 and the guide image 1520 may be matched.

도 14b에 도시된 바와 같이, 응시 UI(1410)와 가이드 이미지(1420)의 위치 및 크기가 대응되는 경우, 제어부(270)는 가이드 이미지(1420)의 형태(예를 들어, 색, 깜빡임, 투명도 등)을 변경하여 홍채 인식 수행이 시작됨을 안내할 수 있다. 홍채 인식을 통해 사용자 인증이 수행된 경우, 제어부(270)는 도 14c에 도시된 바와 같이, 응시 UI(1410)를 점점 확대하여 시작 화면(1430)의 일부를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 그리고, 제어부(170)는 응시 UI(1410)를 점점 더 확대시켜 도 14d에 도시된 바와 같이, 시작 화면을 전체 화면으로 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.14B, when the position and size of the gaze UI 1410 and the guide image 1420 correspond to each other, the controller 270 displays the shape (e.g., color, flicker, transparency) of the guide image 1420 Etc.) to inform that the iris recognition performance is started. When the user authentication is performed through the iris recognition, the control unit 270 controls the display unit 240 to gradually enlarge the examination UI 1410 and display a part of the start screen 1430, as shown in FIG. 14C can do. The control unit 170 may further enlarge the gaze UI 1410 to control the display unit 240 to display the start screen as a full screen as shown in FIG. 14D.

또 다른 실시예로, 제어부(270)는 도 16a에 도시된 바와 같이, 로그인이 필요한 특정 어플리케이션의 시작 화면(1600)에 응시 UI(1610) 및 가이드 이미지(1620)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 응시 UI(1610) 및 가이드 이미지(1620)를 통해 홍채 인식을 수행하여 사용자 인증이 성공된 경우, 제어부(270)는 도 16b에 도시된 바와 같이, 응시 UI(1610)를 확대하여 특정 어플리케이션의 로그인 후 화면(1630)으로 전환하도록 디스플레이부(240)를 제어할 수 있다.16A, the control unit 270 controls the display unit 240 to display the gazing UI 1610 and the guide image 1620 on the start screen 1600 of a specific application that requires login, Can be controlled. When the user authentication is successful by performing the iris recognition through the gazing UI 1610 and the guide image 1620, the control unit 270 enlarges the gazing UI 1610 as shown in FIG. 16B, The display unit 240 can be controlled to switch to the back screen 1630.

또 다른 실시예로, 제어부(270)는 도 17a에 도시된 바와 같이, 결제 화면(1700)에 응시 UI(1710) 및 가이드 이미지(1720)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 응시 UI(1710) 및 가이드 이미지(1720)를 통해 홍채 인식을 수행하여 사용자 인증이 성공된 경우, 제어부(270)는 도 17b에 도시된 바와 같이, 응시 UI(1710)를 확대하여 인증 성공 화면(1730)으로 전환하도록 디스플레이부(240)를 제어할 수 있다.In another embodiment, the control unit 270 can control the display unit 240 to display the gazing UI 1710 and the guide image 1720 on the settlement screen 1700, as shown in Fig. 17A. 17B, the control unit 270 enlarges the examination UI 1710 and displays an authentication success screen (FIG. 17B). The user UI 1710 displays the authentication success screen The display unit 240 can be controlled so as to switch to the display mode.

도 18은 본 발명의 다른 실시예에 따른, 사용자 단말 장치(200)의 홍채 인식 방법을 설명하기 위한 흐름도이다. 18 is a flowchart illustrating an iris recognition method of the user terminal 200 according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 제1 화면에 응시 UI 및 가이드 이미지를 디스플레이한다(S1810). 이때, 제1 화면은 사용자 인증이 필요한 화면으로서, 대기 화면, 로그인 화면, 결제 화면 등일 수 있다. 그리고, 응시 UI는 사용자가 쳐다보는 지점을 안내하는 UI이며, 가이드 이미지는 응시 UI와의 상대적인 위치 및 크기를 통해 사용자가 바라보는 눈의 위치 및 크기를 안내하는 이미지일 수 있다.First, the user terminal device 200 displays the candidate UI and the guide image on the first screen (S1810). At this time, the first screen is a screen requiring user authentication, and may be a standby screen, a login screen, a payment screen, and the like. The gazing UI is a UI for guiding the user's point of view, and the guide image may be an image for guiding the position and size of the user's eyes through the position and size of the gazing UI.

그리고, 사용자 단말 장치(200)는 응시 UI 및 가이드 이미지를 이용하여 홍채 인식을 수행한다(S1820).Then, the user terminal device 200 performs iris recognition using the candidate UI and the guide image (S1820).

그리고, 사용자 단말 장치(200)는 홍채 인식을 통해 사용자 인증이 성공되었는지 여부를 판단한다(S1830).Then, the user terminal device 200 determines whether user authentication is successful through iris recognition (S1830).

사용자 인증이 성공된 경우(S1830-Y), 사용자 단말 장치(200)는 응시 UI를 확대하여 제2 화면으로 전환한다(S1840). 이때, 제2 화면은 사용자 인증 후 화면으로서, 시작 화면, 로그인 후 화면, 인증 성공 화면 등이 포함될 수 있다.If the user authentication is successful (S1830-Y), the user terminal device 200 enlarges the candidate UI and switches to the second screen (S1840). At this time, the second screen is a screen after user authentication, and may include a start screen, a post-login screen, an authentication success screen, and the like.

사용자 인증이 실패한 경우(S1830-N), 사용자 단말 장치(200)는 인증 실패 메시지를 출력한다(S1850).If the user authentication fails (S1830-N), the user terminal device 200 outputs an authentication failure message (S1850).

상술한 바와 같이, 응시 UI 및 가이드 이미지를 통해 홍채 인식을 더욱 편하게 수행할 수 있으며, 화면 응시를 통해 다른 화면으로 전환하는 새로운 사용자 경험을 제공할 수 있게 된다.As described above, iris recognition can be more easily performed through the gazing UI and the guide image, and a new user experience can be provided by switching to another screen through the screen gazing.

이하에서는 도 19a 내지 도 22를 참조하여 사람 눈 모양의 응시 UI를 통해 홍채 인식을 수행하는 실시예를 설명하기로 한다.Hereinafter, an embodiment in which iris recognition is performed through a human eye-shaped gaze UI will be described with reference to FIGS. 19A to 22. FIG.

홍채 인식의 성공률을 높이기 위해서는 사용자가 눈을 크게 오랫동안 응시해야 한다. 그러나, 이러한 행위자체가 사용자에게 다소 부자연스러운 행위일 수 있다. 따라서, 본 발명의 일 실시예에 따르면, 사용자 단말 장치(200)는 눈 모양의 응시 UI를 디스플레이하여 사용자로 하여금 가상의 인물과 눈싸움을 유발하여 사용자가 눈을 크게 오랫동안 뜰 수 있도록 유도한다.In order to increase the success rate of iris recognition, the user must gaze for a long time. However, this behavior itself may be a somewhat unnatural act to the user. Therefore, according to an embodiment of the present invention, the user terminal 200 displays an eye-shaped gaze UI to induce a user to make a snowball fight with a virtual person, thereby guiding the user to open his eyes for a long time.

본 발명의 일 실시예로, 제어부(270)는 도 19a에 도시된 바와 같이, 디스플레이 화면에 사람 눈 모양의 응시 UI(1910)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 제어부(270)는 눈 모양의 응시 UI(1910)를 크게 떳다 작게 떳다를 반복하면서 눈싸움을 유발할 수 있다.In an embodiment of the present invention, the control unit 270 may control the display unit 240 to display a human eye-shaped gaze UI 1910 on a display screen, as shown in FIG. 19A. At this time, the control unit 270 may cause a snowball game repeatedly by repeatedly displaying the eyeball-like visual UI 1910 in a small size.

홍채 인식이 수행되는 경우, 제어부(270)는 도 19b에 도시된 바와 같이, 눈 모양의 응시 UI(1910)의 색을 변경하거나, 도 19c에 도시된 바와 같이, 눈 모양의 응시 UI(1910)에 인식 진행률을 안내하는 UI(1920)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다.When the iris recognition is performed, the controller 270 changes the color of the eye UI 1910 as shown in FIG. 19B, or changes the color of the eye UI 1910, as shown in FIG. The display unit 240 may be controlled to display the UI 1920 that guides the recognition progress rate to the user.

그리고, 홍채 인식이 수행되는 경우, 제어부(270)는 도 19d에 도시된 바와 같이, 눈 모양의 응시 UI(1930)가 눈을 감도록 하며, 홍채 인식 성공 메시지(1940)를 디스플레이하도록 디스플레이부(240)를 제어할 수 있다. 이때, 홍채 인식 성공 메시지(1940)는 시각적인 형태로 디스플레이될 수 있으나, 이는 일 실시예에 불과할 분, 청각적인 형태 또는 진동 형태로 출력될 수 있다.When the iris recognition is performed, the control unit 270 closes the eyes of the eye UI 1930 and displays the iris recognition success message 1940 on the display unit 1940 240 can be controlled. At this time, the iris recognition success message 1940 may be displayed in a visual form, but it may be outputted in an audible form or a vibration form, which is only an example.

또한, 복수의 사람이 사용자 단말 장치(200)를 이용하는 경우, 제어부(270)는 사용자 단말 장치(200)를 제어하고자 하는 사람을 우선적으로 판단하고, 홍채 인식을 수행할 수 있다.Also, when a plurality of people use the user terminal 200, the controller 270 may preferentially determine a person who wants to control the user terminal 200 and perform iris recognition.

구체적으로, 도 20a에 도시된 바와 같이, 사용자 단말 장치(200)는 홍채 인식 및 제스처를 동시에 인식할 수 있는 카메라(2010)를 포함할 수 있다. 그리고, 도 20b에 도시된 바와 같이, 복수의 사용자가 사용자 단말 장치(200)를 이용하는 경우(예를 들어, 복수의 사용자가 동시에 영화 또는 웹페이지를 시청하는 경우), 제어부(270)는 우선적으로 사용자의 얼굴 움직임을 검출하여 디스플레이 화면을 쳐다보는 사용자를 검출할 수 있다. 그리고, 제어부(270)는 검출된 사용자에 대해 상술한 바와 같은 다양한 방법의 홍채 인식을 수행하여 사용자 단말 장치(200)의 인터렉션 우선권을 부여할 수 있다. Specifically, as shown in FIG. 20A, the user terminal device 200 may include a camera 2010 capable of simultaneously recognizing iris recognition and gesture. 20B, when a plurality of users use the user terminal device 200 (for example, when a plurality of users view a movie or a web page at the same time), the control unit 270 preferentially It is possible to detect the user who looks at the display screen by detecting the movement of the user's face. The control unit 270 can perform iris recognition of the detected user in various ways as described above to give the user terminal 200 the priority of the interaction.

도 21은 본 발명의 또 다른 실시예에 따른, 사용자 단말 장치(200)의 홍채 인식 방법을 설명하기 위한 흐름도이다.21 is a flowchart illustrating an iris recognition method of the user terminal 200 according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 디스플레이 화면에 사람 눈 모양의 응시 UI를 디스플레이한다. 이때, 사람 눈 모양의 응시 UI에 포함된 사람 눈은 눈을 크게 떴다가 작게 떴다가를 반복하여 눈싸움을 유발할 수 있다. First, the user terminal device 200 displays a gaze-like UI on a display screen. At this time, the human eye included in the gazing UI of the human eye may cause a snowball to repeat by repeatedly opening and closing the eyes.

그리고, 사용자 단말 장치(200)는 홍채 인식을 시작하는지 여부를 판단한다(S2120).Then, the user terminal device 200 determines whether iris recognition is started (S2120).

홍채 인식이 시작된 경우(S2120-Y), 사용자 단말 장치(200)는 홍채 인식이 수행 중임을 안내하기 위하여, 눈 모양의 응시 UI의 색을 변경하거나 인식 진행률을 디스플레이한다(S2130).If the iris recognition is started (S2120-Y), the user terminal device 200 changes the color of the eye UI or displays the recognition progress rate to inform that the iris recognition is being performed (S2130).

그리고, 사용자 단말 장치(200)는 홍채 인식을 수행한다(S2140).Then, the user terminal device 200 performs iris recognition (S2140).

도 22는 본 발명의 또 다른 실시예에 따른, 사용자 단말 장치(200)의 홍채 인식 방법을 설명하기 위한 흐름도이다.22 is a flowchart illustrating an iris recognition method of the user terminal 200 according to another embodiment of the present invention.

사용자 단말 장치(200)는 복수의 사용자를 촬영한다(S2210).The user terminal device 200 captures a plurality of users (S2210).

그리고, 사용자 단말 장치(200)는 복수의 사용자의 얼굴 움직임을 검출한다(S2220). 이때, 사용자 단말 장치(200)는 복수의 사용자의 얼굴 움직임의 방향이 사용자 단말 장치(200)를 향하는지 여부를 판단할 수 있다. 또는, 사용자 단말 장치(200)는 사용자 단말 장치(200)의 정면에 위치하는 사용자를 검출할 수 있다.Then, the user terminal device 200 detects the face motions of a plurality of users (S2220). At this time, the user terminal device 200 can determine whether or not the direction of the face movement of a plurality of users is directed to the user terminal device 200. Alternatively, the user terminal device 200 may detect a user located in front of the user terminal device 200.

사용자 단말 장치(200)는 검출된 사용자의 얼굴 움직임을 바탕으로 복수의 사용자 중 인터렉션 우선권자를 판단한다(S2230). 구체적으로, 사용자 단말 장치(200)는 사용자 단말 장치(200)를 응시하는 사용자를 판단할 수 있다.The user terminal device 200 determines the priority of the user among the plurality of users based on the detected face movement of the user (S2230). Specifically, the user terminal device 200 can determine a user who is looking at the user terminal device 200.

그리고, 사용자 단말 장치(200)는 인터렉션 우선권자에 대한 홍채 인식을 수행한다(S2240).Then, the user terminal device 200 performs iris recognition for the interaction priority authority (S2240).

홍채 인식을 수행하여 사용자 인증이 성공된 경우, 사용자 단말 장치(200)는 인터렉션 우선권자에게 인터렉션 우선권을 부여한다(S2250). 구체적으로, 사용자 단말 장치(200)는 인터렉션 우선권자가 입력한 음성, 모션 등을 바탕으로 사용자 단말 장치(200)의 기능을 제외하고, 다른 사용자가 입력한 음성, 모션 등을 무시할 수 있다.If the user authentication is successful by performing the iris recognition, the user terminal device 200 gives the interaction priority right to the interaction priority right (S2250). Specifically, the user terminal device 200 can ignore voice, motion, and the like input by other users, except for the function of the user terminal device 200, on the basis of the voice, motion, etc. inputted by the interaction priority authority.

한편, 본 발명의 다른 실시예에 따르면, 사용자 단말 장치(200)는 촬영 조건에 따라 복수의 참조 영상을 획득하고, 획득된 복수의 참조 영상을 이용하여 홍채 인식을 수행할 수 있다. 구체적으로, 제어부(240)는 촬영 조건에 따라 복수의 참조 영상을 획득할 수 있다. 여기서, 촬영 조건은 사용자 단말 장치(200)와 사용자 사이의 거리, 해상도, 조도, 초점 상태, IR 빛 반사 중 적어도 하나를 포함할 수 있다. 그리고, 홍채 인식을 수행하기 위하여 사용자를 촬영할 경우, 제어부(240)는 촬영된 영상에서 사용자 눈을 검출하고, 복수의 참조 영상 중 검출된 눈과 대응되는 촬영 조건을 가지는 참조 영상과 사용자 눈을 비교하여 홍채 인식을 수행할 수 있다.Meanwhile, according to another exemplary embodiment of the present invention, the user terminal 200 may acquire a plurality of reference images according to an imaging condition, and perform iris recognition using a plurality of reference images obtained. Specifically, the control unit 240 can acquire a plurality of reference images according to the shooting conditions. Here, the photographing condition may include at least one of distance, resolution, illuminance, focus state, and IR light reflection between the user terminal device 200 and the user. When a user is photographed to perform iris recognition, the control unit 240 detects the user's eyes in the photographed image, compares the reference image having the photographing condition corresponding to the detected eyes among the plurality of reference images with the user's eye Thereby performing iris recognition.

특히, 복수의 참조 영상을 등록할 때, 제어부(270)는 복수의 참조 영상을 홍채 코드로 변환하여 저장부(250)에 저장할 수 있다. 그러나, 복수의 참조 영상을 홍채 코드로 변환하여 저장하는 것은 일 실시예에 불과할 뿐, 복수의 참조 영상의 로우(raw) 데이터를 저장부(250)에 저장할 수 있다.In particular, when registering a plurality of reference images, the control unit 270 may convert a plurality of reference images into iris codes and store the iris codes in the storage unit 250. However, converting a plurality of reference images into iris codes and storing them is only an embodiment, and raw data of a plurality of reference images can be stored in the storage unit 250. [

또한, 복수의 참조 영상을 등록할 때, 제어부(240)는 복수의 참조 영상 각각에 대응되는 사용자와의 촬영 조건 정보(예를 들어, 거리 정보)를 복수의 참조 영상 각각에 함께 저장하여 등록할 수 있다. 그리고, 홍채 인식을 수행할 때, 제어부(270)는 감지부(미도시)를 통해 감지된 사용자와의 촬영 조건 정보를 획득하고, 획득된 촬영 조건 정보 및 복수의 참조 영상에 저장된 촬영 조건 정보를 바탕으로 복수의 참조 영상 중 홍채 인식을 수행하기 위한 참조 영상을 선택할 수 있다. 그리고, 제어부(270)는 선택된 참조 영상과 검출된 사용자 눈을 비교하여 홍채 인식을 수행할 수 있다.In addition, when registering a plurality of reference images, the control unit 240 stores shooting condition information (e.g., distance information) with the user corresponding to each of the plurality of reference images in the plurality of reference images and registers them . When performing the iris recognition, the controller 270 acquires the photographing condition information with the user sensed through the sensing unit (not shown), and acquires the photographing condition information and the photographing condition information stored in the plurality of reference images It is possible to select a reference image for performing iris recognition among a plurality of reference images. Then, the controller 270 can perform iris recognition by comparing the selected reference image with the detected user's eye.

한편, 제어부(270)는 복수의 참조 영상을 생성할 때, 촬영 조건 별로 복수의 참조 영상을 각각 획득할 수 있으나, 이는 일 실시예에 불과할 뿐, 이미지 리사이징(image resizing)이나 노이즈 애디션(noise addition)을 통해 복수의 참조 영상을 획득할 수 있다. 구체적으로, 제어부(270)는 촬영부(220)를 통해 제1 참조 영상을 획득하고, 제1 참조 영상에 대한 이미지 리사이징 또는 노이즈 애디션을 통해 촬영 조건에 따른 복수의 참조 영상을 생성하여 저장부(250)에 저장할 수 있다.Meanwhile, when generating the plurality of reference images, the controller 270 may acquire a plurality of reference images for each of the imaging conditions, but this is only an example, and image resizing or noise determination a plurality of reference images can be obtained through addition. Specifically, the control unit 270 acquires the first reference image through the photographing unit 220, generates a plurality of reference images according to the photographing conditions through image resizing or noise addition to the first reference image, (250).

이하에서는 도 23 내지 도 29를 참조하여, 본 발명의 다른 실시예에 따른, 촬영 조건에 따라 획득된 복수의 참조 영상을 이용하여 홍채 인식을 수행하는 방법에 대해 설명하기로 한다. 도 23은 본 발명의 다른 실시예에 따른, 촬영 조건에 따라 획득된 복수의 참조 영상을 이용하여 홍채 인식을 수행하는 방법을 설명하기 위한 흐름도이다.Hereinafter, a method for performing iris recognition using a plurality of reference images acquired according to an imaging condition according to another embodiment of the present invention will be described with reference to FIGS. 23 to 29. FIG. 23 is a flowchart for explaining a method of performing iris recognition using a plurality of reference images acquired according to photographing conditions according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 촬영 조건에 따른 복수의 참조 영상을 등록한다(S2310). 구체적으로, 사용자 단말 장치(200)는 촬영 조건에 따라 복수의 참조 영상을 획득할 수 있다. 예를 들어, 사용자 단말 장치(200)는 사용자 단말 장치(200)와 사용자 사이의 거리에 따라 복수의 참조 영상을 획득할 수 있다. 또 다른 예로, 사용자 단말 장치(200)는 해상도에 따라 복수의 참조 영상을 획득할 수 있다. 또 다른 예로, 사용자 단말 장치(200)는 주변 조도에 따라 복수의 참조 영상을 획득할 수 있다. 또 다른 예로, 사용자 단말 장치(200)는 초점 상태에 따라 복수의 참조 영상을 획득할 수 있다. 또 다른 예로, 사용자 단말 장치(200)는 IR 빛 반사가 발생된 지점에 따라 복수의 참조 영상을 획득할 수 있다. 이때, 사용자 단말 장치(200)는 촬영 조건 정보를 대응되는 복수의 참조 영상에 함께 저장하여 등록할 수 있다. 또한, 사용자 단말 장치(200)는 복수의 참조 영상을 촬영 조건 별로 촬영하여 획득할 수 있으나, 이는 일 실시예에 불과할 뿐, 하나의 참조 영상에 대한 이미지 리사이징이나 노이즈 애디션을 통해 촬영 조건 별 복수의 참조 영상을 생성할 수 있다.First, the user terminal device 200 registers a plurality of reference images according to shooting conditions (S2310). Specifically, the user terminal device 200 can acquire a plurality of reference images according to the shooting conditions. For example, the user terminal device 200 may acquire a plurality of reference images according to the distance between the user terminal device 200 and the user. As another example, the user terminal device 200 may acquire a plurality of reference images according to the resolution. As another example, the user terminal device 200 may acquire a plurality of reference images according to the ambient illuminance. As another example, the user terminal device 200 may acquire a plurality of reference images according to the focus state. As another example, the user terminal device 200 may acquire a plurality of reference images according to the point where the IR light reflection occurs. At this time, the user terminal device 200 may store the photographing condition information together with a plurality of reference images corresponding thereto. In addition, the user terminal device 200 can acquire a plurality of reference images by photographing by photographing conditions, but this is merely an example, and it is possible to obtain a plurality of reference images in accordance with photographing conditions through image resizing or noise addition to one reference image The reference image of FIG.

그리고, 사용자 단말 장치(200)는 사용자 인증을 위한 사용자 눈을 촬영한다(S2320). Then, the user terminal device 200 photographs the user's eyes for user authentication (S2320).

그리고, 사용자 단말 장치(200)는 촬영된 영상으로부터 사용자 눈을 검출하고, 촬영 조건을 검출한다(S2330). 이때, 사용자 단말 장치(200)는 촬영 영상으로부터 홍채의 내외측 경계를 검출하여 사용자 눈(특히, 홍채)을 검출할 수 있다. 그리고, 사용자 단말 장치(200)는 촬영 조건(예를 들어, 사용자 단말 장치(200)와 사용자 사이의 거리 등)을 검출할 수 있다. 이때, 사용자 단말 장치(200)는 거리 감지부를 통해 사용자 단말 장치(200)와 사용자 사이의 거리를 검출할 수 있다.Then, the user terminal device 200 detects the user's eyes from the photographed image and detects the photographing conditions (S2330). At this time, the user terminal 200 can detect the user's eyes (in particular, the iris) by detecting the inner and outer boundaries of the iris from the photographed image. Then, the user terminal device 200 can detect the shooting conditions (e.g., the distance between the user terminal device 200 and the user). At this time, the user terminal 200 can detect the distance between the user terminal 200 and the user through the distance detector.

그리고, 사용자 단말 장치(200)는 검출된 눈과 참조 영상을 비교하여 사용자 인증을 수행한다(S2340). 구체적으로, 사용자 단말 장치(200)는 복수의 참조 영상 중 검출된 촬영 조건과 대응되는 촬영 조건을 가지는 참조 영상을 선택할 수 있다. 그리고, 사용자 단말 장치(200)는 검출된 촬영 조건과 대응되는 촬영 조건을 가지는 참조 영상과 검출된 눈을 비교하여 사용자 인증을 수행할 수 있다.Then, the user terminal 200 compares the detected eye with the reference image to perform user authentication (S2340). Specifically, the user terminal device 200 can select a reference image having a photographing condition corresponding to the photographing condition detected among a plurality of reference images. Then, the user terminal device 200 can perform user authentication by comparing the reference image having the photographing condition corresponding to the detected photographing condition and the detected eye.

상술한 바와 같이, 촬영 조건에 따라 획득된 복수의 참조 영상을 이용하여 홍채 인식을 수행함으로써, 다양한 촬영 조건에 의해 사용자 눈이 촬영되더라도 더욱 신속하고 정확한 홍채이 가능해 질 수 있다. As described above, iris recognition is performed using a plurality of reference images acquired according to photographing conditions, so that even if the user's eyes are photographed under various photographing conditions, quicker and more accurate iris images can be obtained.

도 24는 본 발명의 다른 실시예에 따른, 복수의 참조 영상을 등록하고, 복수의 참조 영상을 이용하여 인증하는 방법을 설명하기 위한 도면이다.24 is a diagram for explaining a method of registering a plurality of reference images and performing authentication using a plurality of reference images, according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 촬영 조건 정보 및 홍채 영상을 획득한다(S2410). 구체적으로, 사용자 단말 장치(200)는 사용자를 포함하는 영상을 촬영하여 홍채 영상을 획득하고, 다양한 센서(예를 들어, 거리 감지 센서, 조도 센서 등) 등을 통해 촬영 조건 정보를 획득할 수 있다.First, the user terminal device 200 acquires the photographing condition information and the iris image (S2410). Specifically, the user terminal 200 can acquire an iris image by capturing an image including a user, and acquire photographing condition information through various sensors (for example, a distance sensor, an illuminance sensor, etc.) .

그리고, 사용자 단말 장치(200)는 홍채의 내외측 경계를 검출한다(S2420). 즉, 사용자 단말 장치(200)는 홍채 영상에서 홍채의 내외측 경계를 검출하여 사용자 홍채를 검출할 수 있다.Then, the user terminal device 200 detects the inner and outer boundaries of the iris (S2420). That is, the user terminal 200 can detect the user's iris by detecting the inner and outer boundaries of the iris in the iris image.

그리고, 사용자 단말 장치(200)는 현 단계가 등록 단계인지 인증 단계인지 여부를 판단한다(S2430).Then, the user terminal device 200 determines whether the current step is a registration step or an authentication step (S2430).

현 단계가 등록 단계인 경우, 사용자 단말 장치(200)는 참조 영상을 생성한다(S2440). 구체적으로, 사용자 단말 장치(200)는 획득된 사용자 홍채와 검출된 촬영 정보 조건을 함께 저장하여 참조 영상을 생성할 수 있다.If the current step is the registration step, the user terminal device 200 generates a reference image (S2440). Specifically, the user terminal 200 may generate a reference image by storing the acquired user iris and the detected photographing information condition together.

그리고, 사용자 단말 장치(200)는 참조 영상을 이용하여 홍채 코드를 생성한다(S2450). 홍채 코드를 생성하는 방법을 상술하였으므로, 자세한 설명은 생략한다.Then, the user terminal device 200 generates an iris code using the reference image (S2450). Since a method of generating an iris code has been described above, a detailed description thereof will be omitted.

그리고, 사용자 단말 장치(200)는 홍채 코드를 데이터베이스에 저장한다(S2460). 즉, 사용자 단말 장치(200)는 사용자 홍채 이미지를 데이터베이스에 저장하는 것이 아니라 홍채 코드를 데이터베이스에 저장할 수 있다.Then, the user terminal device 200 stores the iris code in the database (S2460). That is, the user terminal 200 can store the iris code in a database instead of storing the user iris image in a database.

한편, 현 단계가 인증 단계인 경우, 사용자 단말 장치(200)는 홍채 코드를 생성한다(S2470). 즉, 사용자 단말 장치(200)는 검출된 사용자 홍채를 통해 홍채 코드를 생성할 수 있다.On the other hand, if the current step is the authentication step, the user terminal device 200 generates the iris code (S2470). That is, the user terminal device 200 can generate the iris code through the detected user iris.

그리고, 사용자 단말 장치(200)는 데이터베이스에 저장된 홍채 코드와 생성된 홍채 코드를 비교한다(S2480). 구체적으로, 사용자 단말 장치(200)는 데이터베이스에 저장된 홍채코드 중 S2410 단계에서 획득한 촬영 조건 정보와 대응되는 촬영 조건 정보를 가지는 홍채 코드를 검색할 수 있다. 사용자 단말 장치(200)는 검색된 홍채 코드와 생성된 홍채 코드를 비교할 수 있다.Then, the user terminal device 200 compares the generated iris code with the iris code stored in the database (S2480). Specifically, the user terminal device 200 can search an iris code having imaging condition information corresponding to the imaging condition information obtained in step S2410 among the iris codes stored in the database. The user terminal device 200 can compare the retrieved iris code with the generated iris code.

그리고, 사용자 단말 장치(200)는 비교 결과를 바탕으로 사용자 인증을 수행한다(S2490). 구체적으로, 데이터베이스에서 검색된 홍채 코드와 생성된 홍채 코드의 비교 결과, 유사도가 기설정된 값 이상이라고 판단한 경우, 사용자 단말 장치(200)는 사용자 인증을 수행하고, 유사도가 기설정된 값 미만이라고 판단한 경우, 사용자 단말 장치(200)는 사용자 인증 실패 메시지를 출력할 수 있다.Then, the user terminal device 200 performs user authentication based on the comparison result (S2490). Specifically, when the comparison result between the iris code retrieved from the database and the generated iris code indicates that the degree of similarity is equal to or greater than a preset value, the user terminal 200 performs user authentication. If the degree of similarity is less than a preset value, The user terminal device 200 may output a user authentication failure message.

도 24와 같이, 참조 영상을 등록할 때 참조 영상 자체가 아닌 홍채 코드를 저장함으로써, 인증을 수행할 때마다 참조 영상을 홍채 코드로 변환하는 동작을 수행하지 않을 수 있다. 또한, 홍채 이미지 자체를 저장하지 않고 홍채 코드를 저장함으로써, 데이터베이스가 해킹되더라도 사용자 개인 정보가 보호될 수 있다.As shown in FIG. 24, when the reference image is registered, the iris code is stored instead of the reference image itself, so that the operation of converting the reference image into the iris code may not be performed each time authentication is performed. In addition, by storing the iris code without storing the iris image itself, the user's personal information can be protected even if the database is hacked.

도 25는 본 발명의 또 다른 실시예에 따른, 복수의 참조 영상을 등록하고, 복수의 참조 영상을 이용하여 인증하는 방법을 설명하기 위한 도면이다.25 is a view for explaining a method of registering a plurality of reference images and authenticating using a plurality of reference images, according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 촬영 조건 정보 및 홍채 영상을 획득한다(S2510). 구체적으로, 사용자 단말 장치(200)는 사용자를 포함하는 영상을 촬영하여 홍채 영상을 획득하고, 다양한 센서(예를 들어, 거리 감지 센서, 조도 센서 등) 등을 통해 촬영 조건 정보를 획득할 수 있다.First, the user terminal device 200 acquires the photographing condition information and the iris image (S2510). Specifically, the user terminal 200 can acquire an iris image by capturing an image including a user, and acquire photographing condition information through various sensors (for example, a distance sensor, an illuminance sensor, etc.) .

그리고, 사용자 단말 장치(200)는 홍채의 내외측 경계를 검출한다(S2520). 즉, 사용자 단말 장치(200)는 홍채 영상에서 홍채의 내외측 경계를 검출하여 사용자 홍채를 검출할 수 있다.Then, the user terminal device 200 detects the inner and outer boundaries of the iris (S2520). That is, the user terminal 200 can detect the user's iris by detecting the inner and outer boundaries of the iris in the iris image.

그리고, 사용자 단말 장치(200)는 현 단계가 등록 단계인지 인증 단계인지 여부를 판단한다(S2530).Then, the user terminal device 200 determines whether the present step is a registration step or an authentication step (S2530).

현 단계가 등록 단계인 경우, 사용자 단말 장치(200)는 참조 영상을 생성한다(S2540). 구체적으로, 사용자 단말 장치(200)는 획득된 사용자 홍채와 검출된 촬영 정보 조건을 함께 저장하여 참조 영상을 생성할 수 있다.If the current step is the registration step, the user terminal device 200 generates a reference image (S2540). Specifically, the user terminal 200 may generate a reference image by storing the acquired user iris and the detected photographing information condition together.

그리고, 사용자 단말 장치(200)는 생성된 참조 영상을 데이터베이스에 저장한다(S2550). 즉, 사용자 단말 장치(200)는 홍채 코드를 데이터베이스에 저장하는 것이 아니라 참조 영상 자체를 데이터베이스에 저장할 수 있다.Then, the user terminal device 200 stores the generated reference image in the database (S2550). That is, the user terminal device 200 may store the reference image itself in the database instead of storing the iris code in the database.

한편, 현 단계가 인증 단계인 경우, 사용자 단말 장치(200)는 제1 홍채 코드를 생성한다(S2560). 즉, 사용자 단말 장치(200)는 검출된 사용자 홍채를 통해 제1 홍채 코드를 생성할 수 있다.On the other hand, if the current step is the authentication step, the user terminal device 200 generates the first iris code (S2560). That is, the user terminal device 200 can generate the first iris code through the detected user iris.

그리고, 사용자 단말 장치(200)는 검출된 촬영 조건과 동일한 촬영 조건의 참조 영상에 대한 제2 홍채 코드를 생성한다(S2570). 구체적으로, 사용자 단말 장치(200)는 검출된 촬영 조건과 동일한 촬영 조건을 가지는 참조 영상을 검색한다. 그리고, 사용자 단말 장치(200)는 검색된 참조 영상을 이용하여 제2 홍채 코드를 생성할 수 있다.Then, the user terminal device 200 generates the second iris code for the reference image of the same photographing condition as the detected photographing condition (S2570). Specifically, the user terminal device 200 searches for a reference image having the same photographing condition as the detected photographing condition. Then, the user terminal device 200 can generate the second iris code using the searched reference image.

그리고, 사용자 단말 장치(200)는 제1 홍채 코드와 제2 홍채 코드를 비교한다(S2580). Then, the user terminal device 200 compares the first iris code and the second iris code (S2580).

그리고, 사용자 단말 장치(200)는 비교 결과를 바탕으로 사용자 인증을 수행한다(S2590). 구체적으로, 제1 홍채 코드와 제2 홍채 코드의 비교 결과, 유사도가 기설정된 값 이상이라고 판단한 경우, 사용자 단말 장치(200)는 사용자 인증을 수행하고, 유사도가 기설정된 값 미만이라고 판단한 경우, 사용자 단말 장치(200)는 사용자 인증 실패 메시지를 출력할 수 있다.Then, the user terminal device 200 performs user authentication based on the comparison result (S2590). Specifically, when the comparison result between the first iris code and the second iris code indicates that the degree of similarity is equal to or greater than the preset value, the user terminal device 200 performs the user authentication. If the degree of similarity is less than the predetermined value, The terminal device 200 may output a user authentication failure message.

도 25와 같이, 참조 영상을 등록할 때, 참조 영상 자체를 등록함으로써, 저장하는 데이터의 량을 감소시킬 수 있게 된다.As shown in Fig. 25, when the reference image is registered, the amount of data to be stored can be reduced by registering the reference image itself.

도 26 내지 28b는 본 발명의 다른 실시예에 따른, 적어도 하나의 참조 영상에 대한 이미지 리사이징을 통해 복수의 참조 영상을 생성하는 방법에 대해 설명하기로 한다.26 to 28B illustrate a method for generating a plurality of reference images through image resizing of at least one reference image, according to another embodiment of the present invention.

우선, 사용자 단말 장치(200)는 촬영 조건 정보 및 홍채 영상을 획득한다(S2610). 그리고, 사용자 단말 장치(200)는 홍채의 내외측 경계를 검출한다(S2620). 그리고, 사용자 단말 장치(200)는 검출된 사용자 홍채를 참조 영상으로 등록한다(S2630).First, the user terminal device 200 acquires the photographing condition information and the iris image (S2610). Then, the user terminal device 200 detects the inner and outer boundaries of the iris (S2620). Then, the user terminal device 200 registers the detected user iris as a reference image (S2630).

그리고, 사용자 단말 장치(200)는 참조 영상의 개수가 1개 이상인지 여부를 판단한다(S2640). 참조 영상의 개수가 1개 이상인 경우(S2640-Y), 사용자 단말 장치(200)는 복수의 참조 영상을 저장한다(S2650). 그러나, 참조 영상의 개수가 1개인 경우(S2640-N), 사용자 단말 장치(200)는 단일 참조 영상을 저장한다(S2660).Then, the user terminal device 200 determines whether the number of reference images is one or more (S2640). If the number of reference images is one or more (S2640-Y), the user terminal device 200 stores a plurality of reference images (S2650). However, if the number of reference images is one (S2640-N), the user terminal device 200 stores a single reference image (S2660).

그리고, 사용자 단말 장치(200)는 저장된 복수의 참조 영상 또는 단일 참조 영상을 이용하여 촬영 조건별 이미지 리사이징을 수행한다(S2670). 구체적으로, 도 27a에 도시된 바와 같이, 사용자 단말 장치(200)와 사용자 사이의 거리가 20cm에서 제1 참조 영상(2710)이 획득된 경우, 사용자 단말 장치(200)는 제1 참조 영상(2710)에 대한 이미지 리사이징을 수행하여 도 27b에 도시된 바와 같이, 사용자 단말 장치(200)와 사용자 사이의 거리가 50cm에서 촬영된 것과 같은 제2 참조 영상(2720-1), 사용자 단말 장치(200)와 사용자 사이의 거리가 40cm에서 촬영된 것과 같은 제3 참조 영상(2720-2), 사용자 단말 장치(200)와 사용자 사이의 거리가 20cm에서 촬영된 것과 같은 제4 참조 영상(2720-3)을 획득할 수 있다. 한편, 상술한 실시예에서는 10cm 단위로 이미지를 리사이징하는 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 10cm 이외의 단위(예를 들어, 5cm 등)로 이미지를 리사이징 할 수 있다. 또한, 도 28a에 도시된 바와 같이, 사용자 단말 장치(200)와 사용자 사이의 거리별로 제1 내지 제4 참조 영상(2810-1 내지 2810-4)이 획득된 경우, 사용자 단말 장치(200)는 도 28b에 도시된 바와 같이, 제1 참조 영상(2810-1)에 대한 이미지 리사이징을 수행하여, 사용자 단말 장치(200)와 사용자 사이의 거리가 45cm에서 촬영된 것과 같은 제5 참조 영상(2820-1)을 생성할 수 있다. 이와 마찬가지 방식으로, 사용자 단말 장치(200)는 제2 참조 영상(2810-2)에 대한 이미지 리사이징을 수행하여 사용자 단말 장치(200)와 사용자 사이의 거리가 35cm에서 촬영된 것과 같은 제6 참조 영상(2820-2)을 생성할 수 있다.The user terminal 200 performs image resizing according to the photographing conditions using a plurality of stored reference images or a single reference image (S2670). 27A, when the first reference image 2710 is obtained at a distance of 20 cm between the user terminal 200 and the user, the user terminal 200 transmits the first reference image 2710 27B, a second reference image 2720-1 such as a distance between the user terminal 200 and the user is photographed at 50 cm, a user terminal 200, A third reference image 2720-2 such that the distance between the user and the user is taken at 40 cm and a fourth reference image 2720-3 at which the distance between the user terminal 200 and the user is 20cm, Can be obtained. In the above-described embodiment, the image is resized in units of 10 cm. However, the image may be resized in units other than 10 cm (for example, 5 cm). 28A, when the first through fourth reference images 2810-1 through 2810-4 are obtained for each distance between the user terminal 200 and the user, the user terminal 200 28B, image resizing is performed on the first reference image 2810-1 to obtain a fifth reference image 2820-i such that the distance between the user terminal 200 and the user is 45cm, 1). ≪ / RTI > In the same manner, the user terminal device 200 performs image resizing for the second reference image 2810-2 to obtain a sixth reference image 2810-2, such as a distance between the user terminal device 200 and the user, (2820-2).

한편, 상술한 실시예에서는 촬영 조건이 사용자 단말 장치(200)와 사용자 사이의 거리인 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 해상도 별로 이미지를 리사이징하여 복수의 참조 영상을 생성할 수 있다.Meanwhile, in the above-described embodiment, the shooting condition is the distance between the user terminal 200 and the user. However, this is merely an example, and a plurality of reference images can be generated by resizing an image for each resolution.

그리고, 사용자 단말 장치(200)는 생성된 복수의 참조 영상을 이용하여 복수의 홍채 코드를 생성한다(S2680). 그리고, 사용자 단말 장치(200)는 생성된 홍채 모드를 데이터베이스에 저장한다(S2690).Then, the user terminal device 200 generates a plurality of iris codes using the generated plurality of reference images (S2680). Then, the user terminal device 200 stores the generated iris mode in the database (S2690).

도 29는 본 발명의 일 실시예에 따른, 적어도 하나의 참조 영상에 대한 노이즈 애디션(noise addition)을 통해 복수의 참조 영상을 생성하는 방법에 대해 설명하기로 한다.FIG. 29 illustrates a method of generating a plurality of reference images through noise addition to at least one reference image, according to an embodiment of the present invention. Referring to FIG.

우선, 사용자 단말 장치(200)는 촬영 조건 정보 및 홍채 영상을 획득한다(S2910). 그리고, 사용자 단말 장치(200)는 홍채의 내외측 경계를 검출한다(S2920). 그리고, 사용자 단말 장치(200)는 검출된 사용자 홍채를 참조 영상으로 등록한다(S2930).First, the user terminal device 200 acquires the photographing condition information and the iris image (S2910). Then, the user terminal device 200 detects the inner and outer boundaries of the iris (S2920). Then, the user terminal device 200 registers the detected user iris as a reference image (S2930).

그리고, 사용자 단말 장치(200)는 참조 영상의 개수가 1개 이상인지 여부를 판단한다(S2940). 참조 영상의 개수가 1개 이상인 경우(S2940-Y), 사용자 단말 장치(200)는 복수의 참조 영상을 저장한다(S2950). 그러나, 참조 영상의 개수가 1개인 경우(S2940-N), 사용자 단말 장치(200)는 단일 참조 영상을 저장한다(S2960).Then, the user terminal device 200 determines whether the number of reference images is one or more (S2940). If the number of reference images is one or more (S2940-Y), the user terminal device 200 stores a plurality of reference images (S2950). However, if the number of reference images is one (S2940-N), the user terminal device 200 stores a single reference image (S2960).

그리고, 사용자 단말 장치(200)는 저장된 복수의 참조 영상 또는 단일 참조 영상을 이용하여 촬영 조건별 노이즈 애디션(noise addition)을 수행한다(S2670). 구체적으로, 제1 조도값에서 제1 참조 영상이 획득된 경우, 사용자 단말 장치(200)는 제1 참조 영상(2710)에 대한 노이즈 애디션(예를 들어, 밝기 조절)을 수행하여 제2 조도값에 의해 촬영된 것과 같은 제2 참조 영상, 제3 조도값에서 촬영된 것과 같은 제3 참조 영상, 제4 조도값에서 촬영된 것과 같은 제4 참조 영상을 획득할 수 있다. 복수의 참조 영상이 획득된 경우에도 역시 노이즈 애디션을 통해 더욱 많은 참조 영상을 획득할 수 있다.Then, the user terminal 200 performs noise addition according to shooting conditions using a plurality of stored reference images or a single reference image (S2670). The user terminal 200 performs a noise addition (e.g., brightness adjustment) on the first reference image 2710 to obtain the second reference image 2710. In this case, A third reference image such as that taken at the third illuminance value, and a fourth reference image as taken at the fourth illuminance value. Even when a plurality of reference images are acquired, more reference images can be acquired through the noise addition.

한편, 상술한 실시예에서는 촬영 조건이 조도인 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, IR 빛 반사를 부가하는 노이즈 애디션을 통해 복수의 참조 영상을 생성할 수 있다.Meanwhile, in the above-described embodiment, it is explained that the photographing condition is illuminance. However, it is only an embodiment, and a plurality of reference images can be generated through the noise addition adding IR light reflection.

그리고, 사용자 단말 장치(200)는 생성된 복수의 참조 영상을 이용하여 복수의 홍채 코드를 생성한다(S2980). 그리고, 사용자 단말 장치(200)는 생성된 홍채 모드를 데이터베이스에 저장한다(S2990).Then, the user terminal device 200 generates a plurality of iris codes using the generated plurality of reference images (S2980). Then, the user terminal device 200 stores the generated iris mode in the database (S2990).

도 26 내지 도 29에서 설명한 바와 같이, 이미지 리사이징 또는 노이즈 애디션을 통해 촬영 조건별 복수의 참조 영상을 획득함으로써, 적은 횟수의 홍채 등록을 수행하더라도 더욱 정확한 홍채 인식이 가능해 질 수 있게 된다.As described with reference to FIGS. 26 to 29, by acquiring a plurality of reference images for each photographing condition through image resizing or noise addition, more accurate iris recognition can be performed even if a small number of iris registration is performed.

본 실시예들에 따른 장치는 프로세서, 프로그램 데이터를 저장하고 실행하는 메모리, 디스크 드라이브와 같은 영구 저장부(permanent storage), 외부 장치와 통신하는 통신 포트, 터치 패널, 키(key), 버튼 등과 같은 사용자 인터페이스 장치 등을 포함할 수 있다.  소프트웨어 모듈 또는 알고리즘으로 구현되는 방법들은 상기 프로세서상에서 실행 가능한 컴퓨터가 읽을 수 있는 코드들 또는 프로그램 명령들로서 컴퓨터가 읽을 수 있는 기록 매체 상에 저장될 수 있다.  여기서 컴퓨터가 읽을 수 있는 기록 매체로 마그네틱 저장 매체(예컨대, ROM(read-only memory), RAM(random-access memory), 플로피 디스크, 하드 디스크 등) 및 광학적 판독 매체(예컨대, 시디롬(CD-ROM), 디브이디(DVD: Digital Versatile Disc)) 등이 있다.  컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템들에 분산되어, 분산 방식으로 컴퓨터가 판독 가능한 코드가 저장되고 실행될 수 있다.  매체는 컴퓨터에 의해 판독가능하며, 메모리에 저장되고, 프로세서에서 실행될 수 있다. An apparatus according to the present embodiments may include a processor, a memory for storing and executing program data, a permanent storage such as a disk drive, a communication port for communicating with an external device, a touch panel, a key, User interface devices, and the like. Methods implemented with software modules or algorithms may be stored on a computer readable recording medium as computer readable codes or program instructions executable on the processor. Here, the computer-readable recording medium may be a magnetic storage medium such as a read-only memory (ROM), a random-access memory (RAM), a floppy disk, a hard disk, ), And a DVD (Digital Versatile Disc). The computer-readable recording medium may be distributed over networked computer systems so that computer readable code can be stored and executed in a distributed manner. The medium is readable by a computer, stored in a memory, and executable on a processor.

본 실시 예는 기능적인 블록 구성들 및 다양한 처리 단계들로 나타내어질 수 있다.  이러한 기능 블록들은 특정 기능들을 실행하는 다양한 개수의 하드웨어 또는/및 소프트웨어 구성들로 구현될 수 있다.  예를 들어, 실시 예는 하나 이상의 마이크로프로세서들의 제어 또는 다른 제어 장치들에 의해서 다양한 기능들을 실행할 수 있는, 메모리, 프로세싱, 로직(logic), 룩 업 테이블(look-up table) 등과 같은 직접 회로 구성들을 채용할 수 있다. 구성 요소들이 소프트웨어 프로그래밍 또는 소프트웨어 요소들로 실행될 수 있는 것과 유사하게, 본 실시 예는 데이터 구조, 프로세스들, 루틴들 또는 다른 프로그래밍 구성들의 조합으로 구현되는 다양한 알고리즘을 포함하여, C, C++, 자바(Java), 어셈블러(assembler) 등과 같은 프로그래밍 또는 스크립팅 언어로 구현될 수 있다.  기능적인 측면들은 하나 이상의 프로세서들에서 실행되는 알고리즘으로 구현될 수 있다.  또한, 본 실시 예는 전자적인 환경 설정, 신호 처리, 및/또는 데이터 처리 등을 위하여 종래 기술을 채용할 수 있다. "매커니즘”, “요소”, “수단”, “구성”과 같은 용어는 넓게 사용될 수 있으며, 기계적이고 물리적인 구성들로서 한정되는 것은 아니다.  상기 용어는 프로세서 등과 연계하여 소프트웨어의 일련의 처리들(routines)의 의미를 포함할 수 있다.This embodiment may be represented by functional block configurations and various processing steps. These functional blocks may be implemented in a wide variety of hardware and / or software configurations that perform particular functions. For example, embodiments may include integrated circuit components such as memory, processing, logic, look-up tables, etc., that may perform various functions by control of one or more microprocessors or other control devices Can be employed. Similar to how components may be implemented with software programming or software components, the present embodiments may be implemented in a variety of ways, including C, C ++, Java (" Java), an assembler, and the like. Functional aspects may be implemented with algorithms running on one or more processors. In addition, the present embodiment can employ conventional techniques for electronic environment setting, signal processing, and / or data processing. Terms such as "mechanism", "element", "means", "configuration" are broadly used and are not limited to mechanical and physical configurations. The term refers to a set of routines ). ≪ / RTI >

본 실시 예에서 설명하는 특정 실행들은 예시들로서, 어떠한 방법으로도 기술적 범위를 한정하는 것은 아니다.  명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다.  또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다.  The specific implementations described in this embodiment are illustrative and do not in any way limit the scope of the invention. For brevity of description, descriptions of conventional electronic configurations, control systems, software, and other functional aspects of such systems may be omitted. Also, the connections or connecting members of the lines between the components shown in the figures are illustrative of functional connections and / or physical or circuit connections, which may be replaced or additionally provided by a variety of functional connections, physical Connection, or circuit connections.

본 명세서(특히 특허청구범위)에서 "상기"의 용어 및 이와 유사한 지시 용어의 사용은 단수 및 복수 모두에 해당하는 것일 수 있다.  또한, 범위(range)를 기재한 경우 상기 범위에 속하는 개별적인 값을 포함하는 것으로서(이에 반하는 기재가 없다면), 상세한 설명에 상기 범위를 구성하는 각 개별적인 값을 기재한 것과 같다.  마지막으로, 방법을 구성하는 단계들에 대하여 명백하게 순서를 기재하거나 반하는 기재가 없다면, 상기 단계들은 적당한 순서로 행해질 수 있다.  반드시 상기 단계들의 기재 순서에 한정되는 것은 아니다.  모든 예들 또는 예시적인 용어(예들 들어, 등등)의 사용은 단순히 기술적 사상을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 범위가 한정되는 것은 아니다.  또한, 당업자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터에 따라 구성될 수 있음을 알 수 있다.In this specification (particularly in the claims), the use of the term "above " and similar indication words may refer to both singular and plural. In addition, when a range is described, it includes the individual values belonging to the above range (unless there is a description to the contrary), and the individual values constituting the above range are described in the detailed description. Finally, if there is no explicit description or contradiction to the steps constituting the method, the steps may be performed in an appropriate order. It is not necessarily limited to the description order of the above steps. The use of all examples or exemplary terms (e. G., The like) is merely intended to be illustrative of technical ideas and is not to be limited in scope by the examples or the illustrative terminology, except as by the appended claims. It will also be appreciated by those skilled in the art that various modifications, combinations, and alterations may be made depending on design criteria and factors within the scope of the appended claims or equivalents thereof.

110, 220: 촬영부                    120, 240: 디스플레이부
130, 270: 제어부                    210: 통신부
230: 영상 처리부                    250: 저장부
260: 입력부
110, 220: photographing unit 120, 240:
130, 270: control unit 210:
230: Image processing unit 250:
260: Input unit

Claims (24)

사용자 단말 장치에 있어서,
사용자를 촬영하는 촬영부;
상기 촬영된 영상을 디스플레이하는 디스플레이부; 및
상기 촬영된 영상에서 사용자 눈을 검출하고, 상기 촬영된 영상 중 상기 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하도록 상기 디스플레이부를 제어하며, 상기 검출된 사용자 눈에 포함된 홍채의 크기와 상기 가이드 이미지의 크기의 차이가 기설정된 범위 이내인 경우, 홍채 인식을 수행하는 제어부;를 포함하는 사용자 단말 장치.
In a user terminal,
A photographing unit for photographing a user;
A display unit for displaying the photographed image; And
And controlling the display unit to display a guide image at a position where the detected user eye exists among the photographed images, wherein the size of the iris included in the detected user eye and the size of the iris And a controller for performing iris recognition when the size difference of the guide image is within a predetermined range.
제1항에 있어서,
상기 제어부는,
상기 검출된 사용자 눈에서 홍채 경계선을 검출하며, 상기 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정하고, 상기 인식된 사용자 눈 및 홍채 지름을 바탕으로 상기 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 사용자 단말 장치.
The method according to claim 1,
Wherein,
The method includes detecting an iris boundary on the detected user's eye, estimating an iris diameter based on the detected iris boundary, calculating a guide image at a position corresponding to the user's eye and iris based on the recognized user's eye and iris diameter And controls the display unit to display the image.
제2항에 있어서,
상기 가이드 이미지는,
사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함하는 것을 특징으로 하는 사용자 단말 장치.
3. The method of claim 2,
In the guide image,
An eye guide image corresponding to a user's eye, and an iris guide image corresponding to a user's iris.
제2항에 있어서,
상기 가이드 이미지는,
상기 촬영부의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지인 것을 특징으로 하는 사용자 단말 장치.
3. The method of claim 2,
In the guide image,
And an image corresponding to a size of a user's eye and an iris existing at a position corresponding to a focal distance of the photographing unit.
제4항에 있어서,
상기 제어부는,
상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 상기 검출된 사용자 홍채가 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행하는 것을 특징으로 하는 사용자 단말 장치.
5. The method of claim 4,
Wherein,
The method comprising: detecting a user iris in the photographed image; determining whether the detected user iris matches the previously registered iris if the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value And performs iris recognition of the user.
제4항에 있어서,
상기 제어부는,
상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력하는 것을 특징으로 하는 사용자 단말 장치.
5. The method of claim 4,
Wherein,
And outputting a feedback message to guide the user to perform iris recognition if the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value .
제1항에 있어서,
촬영된 영상을 처리하는 영상 처리부;를 더 포함하며,
상기 제어부는,
홍채 인식을 수행하는 동안 사용자 홍채의 패턴을 확인할 수 없도록 상기 촬영된 영상을 처리하도록 상기 영상 처리부를 제어하며, 상기 처리된 영상을 디스플레이하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 사용자 단말 장치.
The method according to claim 1,
And an image processing unit for processing the photographed image,
Wherein,
Controls the image processing unit to process the photographed image so that the pattern of the user's iris can not be confirmed during the iris recognition, and controls the display unit to display the processed image.
제1항에 있어서,
상기 제어부는,
검출된 홍채 영역을 직사각형 모양으로 정규화하여 홍채 코드를 생성하고, 상기 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역을 마스킹하며, 상기 마스킹된 영역을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 사용자의 홍채 인식을 수행하는 것을 특징으로 하는 사용자 단말 장치.
The method according to claim 1,
Wherein,
The iris code is generated by normalizing the detected iris region into a rectangular shape and the iris code normalized by the rectangle is masked by the eyebrow or the eyelid, and the remaining region excluding the masked region is compared with the previously registered iris code And performs iris recognition of the user.
제1항에 있어서,
상기 제어부는,
상기 검출된 홍채 영역이 기등록된 사용자로 인식된 경우, 상기 검출된 홍채 영역 중 상기 마스킹된 영역을 제외한 나머지 영역을 이용하여 상기 기등록된 사용자의 홍채 코드를 업데이트하는 것을 특징으로 하는 사용자 단말 장치.
The method according to claim 1,
Wherein,
And updates the iris code of the pre-registered user using the remaining region of the detected iris region excluding the masked region when the detected iris region is recognized as a pre-registered user. .
사용자 단말 장치의 홍채 인식 방법에 있어서,
사용자를 촬영하는 단계;
상기 촬영된 영상을 디스플레이하는 단계;
상기 촬영된 영상에서 사용자 눈을 검출하는 단계;
상기 촬영된 영상 중 상기 검출된 사용자 눈이 존재하는 위치에 가이드 이미지를 디스플레이하는 단계; 및
상기 검출된 사용자 눈에 포함된 홍채의 크기와 상기 가이드 이미지의 크기의 차이가 기설정된 범위 이내인 경우, 홍채 인식을 수행하는 단계;를 포함하는 홍채 인식 방법.
A method for recognizing iris of a user terminal,
Photographing a user;
Displaying the photographed image;
Detecting a user's eye on the photographed image;
Displaying a guide image at a position where the detected user eye exists among the photographed images; And
And performing iris recognition when the difference between the size of the iris included in the detected user's eye and the size of the guide image is within a preset range.
제10항에 있어서,
상기 사용자 눈을 검출하는 단계는,
상기 검출된 사용자 눈에서 홍채 경계선을 검출하는 단계;
상기 검출된 홍채 경계선을 바탕으로 홍채 지름을 추정하는 단계;를 더 포함하고,
상기 가이드 이미지를 디스플레이하는 단계는,
상기 인식된 사용자 눈 및 홍채 지름을 바탕으로 상기 사용자 눈 및 홍채에 대응되는 위치에 가이드 이미지를 디스플레이하는 것을 특징으로 하는 홍채 인식 방법.
11. The method of claim 10,
Wherein the step of detecting the user eye comprises:
Detecting an iris boundary on the detected user eye;
And estimating an iris diameter based on the detected iris boundary,
Wherein displaying the guide image comprises:
And displaying a guide image at a position corresponding to the user's eyes and irises based on the recognized user's eyes and iris diameter.
제11항에 있어서,
상기 가이드 이미지는,
사용자 눈에 대응되는 눈 가이드 이미지 및 사용자 홍채에 대응되는 홍채 가이드 이미지를 포함하는 것을 특징으로 하는 홍채 인식 방법.
12. The method of claim 11,
In the guide image,
An eye guide image corresponding to a user's eye, and an iris guide image corresponding to a user's iris.
제11항에 있어서,
상기 가이드 이미지는,
촬영부의 초점거리에 맞는 위치에 존재하는 사용자 눈 및 홍채의 크기에 대응되는 이미지인 것을 특징으로 하는 홍채 인식 방법.
12. The method of claim 11,
In the guide image,
Wherein the image is an image corresponding to a size of a user's eye and an iris existing at a position corresponding to a focal distance of the photographing unit.
제13항에 있어서,
상기 수행하는 단계는,
상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 상기 검출된 사용자 홍채가 기등록된 홍채와 일치하는지 여부를 판단하여 사용자의 홍채 인식을 수행하는 것을 특징으로 하는 홍채 인식 방법.
14. The method of claim 13,
Wherein the performing comprises:
The method comprising: detecting a user iris in the photographed image; determining whether the detected user iris matches the previously registered iris if the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value And performs iris recognition of the user.
제13항에 있어서,
상기 수행하는 단계는,
상기 촬영된 영상에서 사용자 홍채를 검출하고, 상기 검출된 사용자 홍채의 크기와 홍채에 대응되는 가이드 이미지의 크기의 차이가 기설정된 값 이하인 경우, 사용자의 홍채 인식을 수행함을 안내하는 피드백 메시지를 출력하는 단계;를 더 포함하는 것을 특징으로 하는 홍채 인식 방법.
14. The method of claim 13,
Wherein the performing comprises:
And outputs a feedback message to guide the user to perform iris recognition if the difference between the detected size of the user iris and the size of the guide image corresponding to the iris is less than a preset value The method of claim 1, further comprising:
제10항에 있어서,
상기 촬영된 영상을 디스플레이하는 단계는,
홍채 인식을 수행하는 동안 사용자 홍채의 패턴을 확인할 수 없도록 상기 촬영된 영상을 처리하는 단계;및
상기 처리된 영상을 디스플레이하는 단계;를 포함하는 것을 특징으로 하는 홍채 인식 방법.
11. The method of claim 10,
Wherein the step of displaying the photographed image comprises:
Processing the photographed image so that the pattern of the user's iris can not be confirmed during the iris recognition; and
And displaying the processed image.
제10항에 있어서,
상기 수행하는 단계는,
검출된 홍채 영역을 직사각형 모양으로 정규화하여 홍채 코드를 생성하고, 상기 직사각형으로 정규화된 홍채 코드 중 눈썹 또는 눈꺼풀에 의해 가려진 영역을 마스킹하며, 상기 마스킹된 영역을 제외한 나머지 영역을 기 등록된 홍채 코드와 비교하여 사용자의 홍채 인식을 수행하는 것을 특징으로 하는 홍채 인식 방법.
11. The method of claim 10,
Wherein the performing comprises:
The iris code is generated by normalizing the detected iris region into a rectangular shape and the iris code normalized by the rectangle is masked by the eyebrow or the eyelid, and the remaining region excluding the masked region is compared with the previously registered iris code And performs iris recognition of the user.
제10항에 있어서,
상기 검출된 홍채 영역이 기등록된 사용자로 인식된 경우, 상기 검출된 홍채 영역 중 상기 마스킹된 영역을 제외한 나머지 영역을 이용하여 상기 기등록된 사용자의 홍채 정보를 업데이트하는 단계;를 포함하는 것을 특징으로 하는 홍채 인식 방법.
11. The method of claim 10,
And updating the iris information of the previously registered user using the remaining irregular region excluding the masked region when the detected iris region is recognized as a pre-registered user / RTI >
사용자 단말 장치에 있어서,
상이한 촬영 조건에 의해 획득된 복수의 참조 영상(reference image)를 저장하는 저장부;
사용자를 촬영하는 촬영부;
상기 촬영된 영상을 디스플레이하는 디스플레이부; 및
상기 촬영된 영상에서 사용자 눈을 검출하고, 상기 복수의 참조 영상 중 상기 검출된 사용자 눈과 대응되는 촬영 조건을 가지는 참조 영상과 상기 사용자 눈을 비교하여 홍채 인식을 수행하는 제어부;를 포함하는 사용자 단말 장치.
In a user terminal,
A storage unit for storing a plurality of reference images obtained by different shooting conditions;
A photographing unit for photographing a user;
A display unit for displaying the photographed image; And
And a controller for detecting the user's eyes in the photographed image and performing iris recognition by comparing the user's eyes with a reference image having a photographing condition corresponding to the detected user's eyes among the plurality of reference images, Device.
제19항에 있어서,
상기 촬영 조건은,
상기 사용자 단말 장치와 상기 사용자 사이의 거리, 해상도, 조도, 초점 상태, IR 빛 반사 중 적어도 하나인 것을 특징으로 하는 사용자 단말 장치.
20. The method of claim 19,
Wherein,
A distance between the user terminal and the user, resolution, illuminance, focus state, and IR light reflection.
제19항에 있어서,
상기 제어부는,
상기 복수의 참조 영상을 등록할 때, 상기 복수의 참조 영상을 홍채 코드로 변환하여 상기 저장부에 저장하는 것을 특징으로 하는 사용자 단말 장치.
20. The method of claim 19,
Wherein,
Wherein when the plurality of reference images are registered, the plurality of reference images are converted into iris codes and stored in the storage unit.
제19항에 있어서,
상기 제어부는,
상기 복수의 참조 영상을 등록할 때, 상기 복수의 참조 영상 각각에 대응되는 상기 사용자와의 거리 정보를 상기 복수의 참조 영상 각각에 함께 저장하여 등록하는 것을 특징으로 하는 사용자 단말 장치.
20. The method of claim 19,
Wherein,
Wherein when the plurality of reference images are registered, distance information between the plurality of reference images and the user corresponding to each of the plurality of reference images is stored together with the plurality of reference images.
제22항에 있어서,
사용자와의 거리를 감지하는 감지부;를 더 포함하며,
상기 제어부는,
상기 사용자의 홍채를 인식할 때, 상기 감지부에 의해 감지된 사용자와의 거리를 바탕으로 상기 복수의 참조 영상 중 하나를 선택하고, 상기 선택된 참조 영상과 상기 검출된 사용자 눈을 비교하여 홍채 인식을 수행하는 것을 특징으로 하는 사용자 단말 장치.
23. The method of claim 22,
And a sensing unit for sensing a distance to the user,
Wherein,
Wherein when the iris of the user is recognized, one of the plurality of reference images is selected based on the distance from the user sensed by the sensing unit, and the iris recognition is performed by comparing the selected reference image with the detected user's eye. To the user terminal device.
제22항에 있어서,
상기 제어부는,
상기 촬영부를 통해 제1 참조 영상을 획득하고, 상기 제1 참조 영상에 대한 이미지 리사이징을 통해 거리에 따른 복수의 참조 영상을 생성하여 상기 저장부에 저장하는 것을 특징으로 하는 사용자 단말 장치.
23. The method of claim 22,
Wherein,
Acquiring a first reference image through the photographing unit, generating a plurality of reference images along a distance through image resizing of the first reference image, and storing the reference images in the storage unit.
KR1020150080137A 2014-10-15 2015-06-05 User Terminal Device and Method for Iris Recognition thereof KR102438110B1 (en)

Priority Applications (9)

Application Number Priority Date Filing Date Title
TW104132314A TWI696110B (en) 2014-10-15 2015-10-01 User terminal apparatus and iris recognition method thereof
US14/883,084 US9928422B2 (en) 2014-10-15 2015-10-14 User terminal apparatus and IRIS recognition method thereof
CN201510666512.6A CN105528573B (en) 2014-10-15 2015-10-15 Subscriber terminal equipment and its iris identification method
CN201910336953.8A CN110070054A (en) 2014-10-15 2015-10-15 Subscriber terminal equipment and its iris identification method
EP15189970.5A EP3009960B1 (en) 2014-10-15 2015-10-15 User terminal apparatus and iris recognition method thereof
EP21172145.1A EP3885986B1 (en) 2014-10-15 2015-10-15 User terminal apparatus and iris recognition method thereof
PCT/KR2015/010873 WO2016060486A1 (en) 2014-10-15 2015-10-15 User terminal apparatus and iris recognition method thereof
US15/896,748 US10262204B2 (en) 2014-10-15 2018-02-14 User terminal apparatus and iris recognition method thereof
US16/364,825 US10628670B2 (en) 2014-10-15 2019-03-26 User terminal apparatus and iris recognition method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20140139306 2014-10-15
KR1020140139306 2014-10-15

Publications (2)

Publication Number Publication Date
KR20160044403A true KR20160044403A (en) 2016-04-25
KR102438110B1 KR102438110B1 (en) 2022-08-31

Family

ID=55918797

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150080137A KR102438110B1 (en) 2014-10-15 2015-06-05 User Terminal Device and Method for Iris Recognition thereof

Country Status (2)

Country Link
KR (1) KR102438110B1 (en)
TW (1) TWI696110B (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101822883B1 (en) * 2017-09-08 2018-01-29 스케치온 주식회사 Printing guide method for skin printer
WO2018101774A1 (en) * 2016-11-30 2018-06-07 Samsung Electronics Co., Ltd. Electronic device and method for displaying image for iris recognition in electronic device
KR20190135794A (en) * 2018-05-29 2019-12-09 엘지이노텍 주식회사 Mobile terminal
CN111984954A (en) * 2019-05-23 2020-11-24 北京眼神智能科技有限公司 Method, device, equipment and storage medium for improving safety of face recognition system
US10956734B2 (en) 2016-07-08 2021-03-23 Samsung Electronics Co., Ltd Electronic device providing iris recognition based on proximity and operating method thereof
KR20220136510A (en) * 2016-07-14 2022-10-07 매직 립, 인코포레이티드 Deep neural network for iris identification
WO2024019293A1 (en) * 2022-07-19 2024-01-25 삼성전자 주식회사 Wearable electronic device including lensless camera and image processing method using same

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108734063A (en) * 2017-04-20 2018-11-02 上海耕岩智能科技有限公司 A kind of method and apparatus of iris recognition
TWI735821B (en) * 2018-04-12 2021-08-11 神盾股份有限公司 Fingerprint registration method and electronic device using the same
US10755068B2 (en) 2017-10-16 2020-08-25 Egis Technology Inc. Fingerprint registration method and electronic device using the same

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040041778A (en) * 2002-11-11 2004-05-20 삼성전자주식회사 Code recognition apparatus and method
US20060120707A1 (en) * 2003-03-27 2006-06-08 Matsushita Electric Industrial Co., Ltd. Eye image pickup apparatus, iris authentication apparatus and portable terminal device having iris authentication function
KR20070106015A (en) * 2005-01-26 2007-10-31 허니웰 인터내셔널 인코포레이티드 A distance iris recognition system
KR20120088431A (en) * 2011-01-31 2012-08-08 삼성전자주식회사 Photographing apparatus for photographing a panorama image and method thereof

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100783113B1 (en) * 2006-09-18 2007-12-07 삼성전자주식회사 Method for shortened storing of music file in mobile communication terminal
US8521121B2 (en) * 2008-07-03 2013-08-27 Centurylink Intellectual Property Llc System and method for performing an abbreviated power-up sequence on a wireless communications device
KR101160681B1 (en) * 2011-10-19 2012-06-28 배경덕 Method, mobile communication terminal and computer-readable recording medium for operating specific function when activaing of mobile communication terminal

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040041778A (en) * 2002-11-11 2004-05-20 삼성전자주식회사 Code recognition apparatus and method
US20060120707A1 (en) * 2003-03-27 2006-06-08 Matsushita Electric Industrial Co., Ltd. Eye image pickup apparatus, iris authentication apparatus and portable terminal device having iris authentication function
KR20070106015A (en) * 2005-01-26 2007-10-31 허니웰 인터내셔널 인코포레이티드 A distance iris recognition system
KR20120088431A (en) * 2011-01-31 2012-08-08 삼성전자주식회사 Photographing apparatus for photographing a panorama image and method thereof

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10956734B2 (en) 2016-07-08 2021-03-23 Samsung Electronics Co., Ltd Electronic device providing iris recognition based on proximity and operating method thereof
KR20220136510A (en) * 2016-07-14 2022-10-07 매직 립, 인코포레이티드 Deep neural network for iris identification
WO2018101774A1 (en) * 2016-11-30 2018-06-07 Samsung Electronics Co., Ltd. Electronic device and method for displaying image for iris recognition in electronic device
US11113552B2 (en) 2016-11-30 2021-09-07 Samsung Electronics Co., Ltd. Electronic device and method for displaying image for iris recognition in electronic device
KR101822883B1 (en) * 2017-09-08 2018-01-29 스케치온 주식회사 Printing guide method for skin printer
KR20190135794A (en) * 2018-05-29 2019-12-09 엘지이노텍 주식회사 Mobile terminal
CN111984954A (en) * 2019-05-23 2020-11-24 北京眼神智能科技有限公司 Method, device, equipment and storage medium for improving safety of face recognition system
WO2024019293A1 (en) * 2022-07-19 2024-01-25 삼성전자 주식회사 Wearable electronic device including lensless camera and image processing method using same

Also Published As

Publication number Publication date
TWI696110B (en) 2020-06-11
KR102438110B1 (en) 2022-08-31
TW201617836A (en) 2016-05-16

Similar Documents

Publication Publication Date Title
EP3885986B1 (en) User terminal apparatus and iris recognition method thereof
KR102438110B1 (en) User Terminal Device and Method for Iris Recognition thereof
KR102103286B1 (en) User terminal and providing method thereof
US9049983B1 (en) Ear recognition as device input
EP2787463A1 (en) Display apparatus for performing user certification and method thereof
WO2016177154A1 (en) Method and device for switching operation mode of mobile terminal
WO2018177002A1 (en) Social information display method, computer device and storage medium
US9553874B2 (en) Programmable display apparatus, control method, and program with facial authentication
KR102354458B1 (en) Display apparatus and controlling method thereof
JP6096161B2 (en) Information processing apparatus and information processing method
JP2013097760A (en) Authentication system, terminal device, authentication program, and authentication method
US9928399B2 (en) Non-contact palmprint authentication method, device and mobile terminal
WO2021017843A1 (en) Screen brightness adjustment method and apparatus
US20190306334A1 (en) Communication system, image processing method, and recording medium
JP2016081249A (en) Information processing device and information processing method
WO2020041971A1 (en) Face recognition method and apparatus
US11194894B2 (en) Electronic device and control method thereof
JP2024045460A (en) Information processing system, information processing device, information processing method, and program
US20140009385A1 (en) Method and system for rotating display image
TWI528211B (en) Non-contact palmprint authentication method, device and portable terminal
CN112417998A (en) Method and device for acquiring living body face image, medium and equipment
JP2014099175A (en) Display apparatus and method for delivering message thereof
WO2024021251A1 (en) Identity verification method and apparatus, and electronic device and storage medium
WO2019000957A1 (en) Iris recognition security system and method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right