KR101166318B1 - 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법 - Google Patents

얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법 Download PDF

Info

Publication number
KR101166318B1
KR101166318B1 KR1020117003400A KR20117003400A KR101166318B1 KR 101166318 B1 KR101166318 B1 KR 101166318B1 KR 1020117003400 A KR1020117003400 A KR 1020117003400A KR 20117003400 A KR20117003400 A KR 20117003400A KR 101166318 B1 KR101166318 B1 KR 101166318B1
Authority
KR
South Korea
Prior art keywords
face
registered
information
person
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
KR1020117003400A
Other languages
English (en)
Other versions
KR20110042181A (ko
Inventor
사토시 호소이
Original Assignee
오므론 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 오므론 가부시키가이샤 filed Critical 오므론 가부시키가이샤
Publication of KR20110042181A publication Critical patent/KR20110042181A/ko
Application granted granted Critical
Publication of KR101166318B1 publication Critical patent/KR101166318B1/ko
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • A61B5/1171Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • A61B5/1176Recognition of faces
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/178Human faces, e.g. facial parts, sketches or expressions estimating age from face image; using age information for improving recognition
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/179Human faces, e.g. facial parts, sketches or expressions metadata assisted face recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)

Abstract

특별한 영상 기기 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시킨다. 입력된 입력 얼굴화상 데이터와, 미리 등록된 복수의 등록 얼굴특징 정보와의 유사도를 구하고, 입력 얼굴화상 데이터와의 유사도가 소정치 이상이 되는 등록 얼굴특징 정보를 추출하는 얼굴 대조부(56)를 구비하는 얼굴 인증 장치(100)에서, 등록 얼굴특징 정보가, 등록 얼굴특징 정보에 관한 인물에 대한 등록 속성 정보와 함께 등록되어 있고, 얼굴 대조부(56)가 추출한 복수의 등록 얼굴특징 정보로부터, 입력 얼굴화상 데이터에 관한 인물을 포함하는 등록 얼굴특징 정보를 특정하는 얼굴 인증부(50)를 구비하고, 얼굴 인증부(50)는, 입력 얼굴화상 데이터에 관한 인물에 대한 속성을 추정하고, 속성 정보를 출력하는 성별·연령 추정부(54)와, 출력한 속성 정보와, 복수의 등록 얼굴특징 정보의 등록 속성 정보와의 비교를 행하는 성별·연령 비교부(58)를 구비하고, 상기 비교 결과에 의거하여, 등록 얼굴특징 정보를 특정한다.

Description

얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법{FACE AUTHENTIFICATION DEVICE, PERSON IMAGE SEARCH SYSTEM, FACE AUTHENTIFICATION DEVICE CONTROL PROGRAM, COMPUTER READABLE RECORDING MEDIUM, AND METHOD OF CONTROLLING FACE AUTHENTIFICATION DEVICE}
본 발명은, 인물의 얼굴을 나타내는 화상 데이터의 얼굴 인증 처리를 행하는 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법에 관한 것이다.
종래, 얼굴 인증 기술의 분야에서, 검색 대상이 되는 화상으로부터 사람의 얼굴을 검출하고(예를 들면, 특허 문헌 1), 검출한 얼굴을, 미리 등록되어 있는 특징량 등의 얼굴 인증 정보에 의거하여 대조함에 의해, 그 화상에 포함되는 얼굴이 누구의 얼굴인지 인증하는 기술이 알려져 있다(예를 들면, 특허 문헌 2).
또한, 얼굴 인증 처리의 정밀도 향상을 목적으로 하여, 2눈의 스테레오 카메라를 이용하여 피사체의 눈초리(目尻) 사이의 거리를 측정하고, 측정한 눈초리 사이의 거리에 의거하여 인증을 행하는 수법이 제안되어 있다(특허 문헌 3). 이와 같이, 눈초리 사이의 거리 등, 피사체의 신체적 특징을 이용한 얼굴 인증 기술이 제안되어 있다.
그 밖에도, 얼굴 인증 처리를 고속화하는 기술도 제안되어 있다. 이 고속화 기술은, 예를 들면, 성별, 연령·연대 등의 속성 정보에 의해, 미리 얼굴 인증 처리에 이용하는 얼굴 인증 정보를 조여 두고 나서 얼굴 인증을 행하는 것이다(예를 들면, 특허 문헌 4, 5). 또한, 성별, 연령·연대 등의 속성 정보를, 얼굴화상으로부터 정밀도 좋게 추정하는 기술의 연구 개발이 진행되어 있다(예를 들면, 비특허 문헌 1).
[선행 기술 문헌]
특허 문헌
특허 문헌 1 : 일본 공개특허공보 「특개2005-327242호(2005년 11월 24일 공개)」
특허 문헌 2 : 일본 공개특허공보 「특개2007-128262호(2007년 5월 24일 공개)」
특허 문헌 3 : 일본 공개특허공보 「특개2007-114931호(2007년 5월 10일 공개)」
특허 문헌 4 : 일본 공개특허공보 「특개2008-158679호(2008년 7월 10일 공개)」
특허 문헌 5 : 일본 공개특허공보 「특개2006-146413호(2006년 6월 8일 공개)」
비특허 문헌
비특허 문헌 1 : 엄천 에리나, 호소이 성, "얼굴화상에 의한 자동 성별·연대 추정", OMRON TECHNICS, 2003년 3월, 제 43권, 제 1호(통권 145호), pp. 37-41
그러나, 2눈의 스테레오 카메라를 이용하여, 피사체의 눈초리 사이의 거리를 측정하는 수법에 의해, 얼굴 인증 처리의 정밀도 향상을 도모하는 기술에서는, 2눈의 스테레오 카메라를 마련하여야 한다. 또한, 이 수법에서는, 눈초리 사이의 거리를 측정할 필요가 있고, 이미 화상화(畵像化)된 것을 대상으로 하는 얼굴화상 검색에는 사용할 수가 없다는 문제가 있다. 왜냐하면, 화상화된 것으로부터 눈초리 사이의 거리를 측정하면, 얼굴 방향의 변화 등으로, 눈초리 사이의 거리를 정확하게 측정할 수가 없기 때문이다.
또한, 얼굴화상 검색에 있어서, 속성 정보에 의해, 미리 얼굴 인증 처리에 이용하는 인증 정보를 조여 두고 나서 얼굴 인증을 행하는 수법에서는, 얼굴화상 검색의 고속화를 도모할 수가 있어도, 얼굴 인증 그 자체의 정밀도의 향상에는 기여하지 않는다. 이 수법에서는, 오히려 얼굴 인증 처리의 정밀도가 저하되는 경향이 있다. 왜냐하면, 조임이 잘못된 경우, 얼굴 인증에 이용하여야 할 인증 정보가, 검색 대상으로부터 벗어나고 버리고, 그 결과, 인증 결과로 하여야 할 화상에 도달할 수가 없게 될 우려가 있기 때문이다.
본 발명은, 상기한 문제점을 감안하여 이루어진 것으로, 그 목적은, 특별한 영상 기기(예를 들면, 2눈의 스테레오 카메라) 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시키는 것이 가능한, 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법을 실현하는 것에 있다.
본 발명에 관한 얼굴 인증 장치는, 상기 과제를 해결하기 위해, 입력된 입력 얼굴화상과, 미리 등록된 복수의 등록 얼굴 정보와의 유사도를 구하고, 상기 입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 추출하는 추출 수단을 구비하는 얼굴 인증 장치에 있어서, 상기 등록 얼굴 정보는, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고, 상기 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 추출 수단이 추출한 복수의 등록 얼굴 정보로부터, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 수단을 구비하고, 상기 특정 수단은, 상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 수단과, 상기 추정 수단이 추정한 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 수단를 구비하고, 상기 비교 수단의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 것을 특징으로 하고 있다.
본 발명에 관한 얼굴 인증 장치의 제어 방법은, 상기 과제를 해결하기 위해, 입력된 입력 얼굴화상과, 미리 등록된 복수의 등록 얼굴 정보와의 유사도를 구하고, 상기 입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 추출하는 추출 수단을 구비하는 얼굴 인증 장치의 제어 방법에 있어서, 상기 등록 얼굴 정보는, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고, 상기 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 얼굴 인증 장치가 구비하는 특정 수단이, 추출된 복수의 등록 얼굴 정보로부터, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 스텝을 포함하고, 상기 특정 스텝은, 상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 스텝과, 상기 추정 스텝에서 추정된 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 스텝를 포함하고, 상기 비교 스텝에서의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 것을 특징으로 하고 있다.
상기 구성에 의하면, 얼굴 인증 장치는, 입력된 입력 얼굴화상과, 미리 등록된 등록 얼굴 정보와의 유사도를 구하고, 입력 얼굴화상과의 유사도가 소정치 이상이 되는 등록 얼굴 정보를 추출한다.
또한, 입력 얼굴화상, 및 등록 얼굴 정보는, 인물의 얼굴을 포함하는 화상이다. 또한, 유사도는, 입력 얼굴화상과, 등록 얼굴 정보가 얼마만큼 비슷한지를 나타내는 지표이고, 예를 들면, 공지의 얼굴 인증 기술과 같이, 얼굴화상으로부터 특징점을 추출하고, 그것들을 상호 평가함으로써 구할 수 있다. 또한, 상기 등록 얼굴 정보는, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있다.
입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 복수 추출한 경우, 그 복수의 등록 얼굴 정보로부터, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정한다.
종래는, 유사도가 가장 높은 등록 얼굴 정보를 인증 결과로 되는 일이 많았다. 그러나, 출력된 복수의 등록 얼굴 정보는, 서로 잘 닮은 인물을 나타내고 있을 가능성이 높다. 예를 들면, 친자(親子), 형제자매 등은, 얼굴의 조형(造型)이 비슷하기 때문에, 친자, 형제자매에 관해, 얼굴 인증을 행하면 유사도가 가깝게 되는 것이 많다. 또한, 유사도의 산출은, 인물의 표정·얼굴 방향·조명 변화 등의 상황에 의해 영향을 받아, 오차가 생기는 일도 있고, 이 때문에 얼굴 인증 처리에서 유사도가 가깝게 되어 버리는 것도 있다.
이와 같은 경우, 단지 유사도가 가장 높은 등록 얼굴 정보를 인증 결과로 하여 버리면, 서로 잘 닮은 용모의 다른 인물을 잘못된 인증 결과로 하여 버릴 우려가 있다. 따라서, 유사도 이외의 지표에 의한 판단이 얼굴 인증 처리에서 요망된다.
이에 대해, 본 발명에 관한 얼굴 인증 장치에서는, 다음과 같이 하여 등록 얼굴 정보의 특정을 행한다. 즉, 우선, 얼굴 인증 장치는, 상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 정보를 나타내는 추정 속성 정보를 출력한다. 그리고, 얼굴 인증 장치는, 출력한 추정 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행한다. 이와 같이, 본 발명에서는, 단지 유사도에 의거하여 인증을 행하는 것이 아니라, 또한 속성 정보도 판정의 기준으로 하고 있다.
그리고 나서, 본 발명에 관한 얼굴 인증 장치에서는, 속성 정보의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정한다. 이에 의해, 예를 들면, 가족과 같이 용모가 비슷한 인물끼리도, 속성 정보가 다르면, 이들의 인물을 판별할 수 있게 되어, 얼굴 인증 처리의 정밀도가 향상한다.
또한 말하면, 상기한 특정 처리는, 얼굴 인증 장치가, 입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 복수 추출한 경우에 행하기 때문에, 반드시 얼굴 인증 처리할 때마다, 속성의 추정을 실행하지 않아도 된다. 이에 대해, 종래 기술에서는(예를 들면, 특허 문헌 4, 5), 매회 속성의 추정을 실행하는 구성으로 되어 있다. 즉, 종래 기술의 구성보다도, 상기한 바와 같이 얼굴 인증 처리를 실행하고 나서, 속성을 추정하는 본 발명에 관한 얼굴 인증 장치쪽이 추정 처리의 효율의 면에서는 우수하다.
이 결과, 특별한 영상 기기 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시킬 수 있다는 효과를 이룬다.
본 발명에 관한 얼굴 인증 장치는, 등록 얼굴 정보가, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고, 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 추출 수단이 추출한 복수의 등록 얼굴 정보로부터, 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 수단을 구비하고, 상기 특정 수단은, 상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 수단과, 상기 추정 수단이 추정한 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 수단를 구비하고, 상기 비교 수단의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 구성이다.
본 발명에 관한 얼굴 인증 장치의 제어 방법은, 등록 얼굴 정보가, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고, 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 얼굴 인증 장치가 구비하는 특정 수단이, 추출된 복수의 등록 얼굴 정보로부터, 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 스텝을 포함하고, 상기 특정 스텝은, 상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 스텝과, 상기 추정 스텝에서 추정된 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 스텝를 포함하고, 상기 비교 스텝에서의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 방법이다.
이에 의해, 특별한 영상 기기 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시킬 수 있다는 효과를 이룬다.
본 발명의 또다른 목적, 특징, 및 우수한 점은, 이하에 나타내는 기재에 의해 충분히 알 수 있을 것이다. 또한, 본 발명의 이익은, 첨부 도면을 참조한 다음 설명으로 명백하게 될 것이다.
도 1은 본 발명의 실시 형태를 나타내는 것으로, 얼굴 인증 장치의 개략적 구성을 도시하는 블록도.
도 2는 얼굴특징 정보 기억부에 기억되어 있는 등록 얼굴특징 정보의 한 예를 도시하는 도면.
도 3은 속성 정보 기억부에 기억되어 있는 등록 속성 정보의 한 예를 도시하는 도면.
도 4는 얼굴 인증 장치에서의 등록 처리의 흐름에 관해 도시한 플로우 차트.
도 5는 얼굴 인증 장치에서의 얼굴 인증 처리의 흐름에 관해 도시한 플로우 차트.
이하, 발명을 실시하기 위한 형태에 의해, 본 발명을 더욱 상세히 설명하지만, 본 발명은 이들에 의해 전혀 한정되는 것이 아니다.
본 발명의 한 실시 형태에 관해 도 1 내지 도 5에 의거하여 설명하면 이하와 같다.
(얼굴 인증 장치의 구성)
우선, 도 1을 참조하여, 본 실시 형태에 관한 얼굴 인증 장치(인물 화상 검색 시스템1)00의 개략 구성을 설명한다. 도 1은, 얼굴 인증 장치(100)의 개략적 구성을 도시하는 블록도이다. 얼굴 인증 장치(100)는, 인물을 특정하기 위한 얼굴 인증 정보를 미리 등록하여 두고, 등록한 얼굴 인증 정보를 이용하여, 입력된 화상 데이터에 관한 얼굴 인증을 행하는 것이다. 여기서, 얼굴 인증이란, 입력된 화상 데이터가 나타내는 인물이, 등록한 얼굴 인증 정보에 의해 특정되는 인물에 합치하는지를 판정하는 처리이다.
도 1에 도시하는 바와 같이, 얼굴 인증 장치(100)는, 조작부(20), 표시부(30), 제어부(40), 및 기억부(90)를 구비하는 구성이다.
조작부(20)는, 유저로부터 각종의 입력을 접수하는 것이고, 입력용 버튼, 키보드, 텐 키, 마우스 등의 포인팅 디바이스, 터치 패널, 그 밖의 입력 디바이스에 의해 구성된다. 접수한 유저의 조작에 응하여 조작 데이터를 생성하고, 생성한 조작 데이터를 제어부(40)에 송신한다.
표시부(30)는, 유저에 대해, 정보 제공을 행하기 위한 화면 표시를 행하는 것이다. 표시부(30)는, 제어부(40)로부터 수신한 화면 데이터에 의거하여, 표시 화면에 문자나 화상 등의 각종의 정보를 표시한다. 표시부(30)는, 예를 들면, LCD(Liquid Crystal Display), PDP(Plasma Display Panel), EL(Electroluminescence) 디스플레이 등의 표시 디바이스에 의해 구성된다.
제어부(40)는, 얼굴 인증 장치(100)에서의 각종 기능을 통괄적으로 제어하는 것이다. 제어부(40)의 제어 기능은, 제어 프로그램을 CPU(Central Processing Unit) 등의 처리 장치가 실행함에 의해 실현된다. 이 제어 프로그램은, 예를 들면, RAM(Random Access Memory)이나 플래시 메모리 등의 기억 소자로서의 기억부(90)에 기억되어 있어도 좋고, 하드 디스크 등에 마련된 것을 판독하여 사용하는 형태라도 좋다. 또한, 제어부(40)의 상세에 관해서는 후술한다.
기억부(90)는, 각종 데이터 및 프로그램을 기억하는 것이다. 기억부(90)의 구성으로서는, 예를 들면, 하드 디스크 등의 불휘발성의 기억 장치와, 제어부(40)가 동작할 때에 필요한 프로그램이나, 각종 제어에 이용하는 고정 데이터를 기억하는 판독 전용의 반도체 메모리인 ROM(Read Only Memory)과, 연산에 사용하는 데이터, 및 연산 결과 등을 일시적으로 기억하는, 이른바 워킹 메모리로서의 RAM과, 각종의 설정 데이터 등을 기억하는 재기록 가능한 불휘발성 메모리(예를 들면 플래시 메모리)를 들 수 있다. 또한, 기억부(90)의 상세에 관해서는 후술한다.
(제어부·기억부의 상세한 구성)
계속해서, 도 1을 참조하여, 제어부(40) 및 기억부(90)의 주요부 구성에 관해 설명한다. 여기서, 도 1에 관해 보충 설명을 하여 둔다. 전술한 바와 같이, 얼굴 인증 장치(100)는, 미리 등록한 얼굴 인증 정보를 이용하여, 입력된 화상 데이터에 관한 얼굴 인증을 행하는 것이다. 즉, 얼굴 인증 장치(100)의 처리는, 등록 처리와, 얼굴 인증 처리의 2개로 대별된다. 동 도면에서, 각 부분의 사이에서, 점선 화살표로 나타내는 관계(데이터의 흐름)는, 등록 처리할 때만 사용되는 것을 나타내고 있다. 또한, 각 부분의 사이에서, 실선 화살표로 나타내는 관계(데이터의 흐름)는, 얼굴 인증 처리에서만 사용되는 것, 또는, 얼굴 인증 처리 및 등록 처리의 양쪽에서 사용되는 것을 나타내고 있다.
(기억부에 관해)
우선, 기억부(90)에 관해 상세히 설명한다. 도 1에 도시하는 바와 같이, 기억부(90)는, 화상 기억부(91)와, 얼굴 인증 데이터베이스(92)를 구비한다.
화상 기억부(91)는, 얼굴 인증부(특정 수단)(50)가 얼굴 인증을 행하기 위한 화상 데이터를 기억하기 위한 것이다. 본 실시 형태에서는, 화상 데이터는, 인물의 적어도 얼굴의 부분이 나타나고 있는 것으로 한다. 화상 데이터가 나타내는 인물은, 1인이라도, 복수인이라도 상관없다.
화상 데이터는, 예를 들면, 다음과 같은 방법에 의해, 얼굴 인증 장치(100)에 공급하고, 화상 기억부(91)에 기억하여 둘 수 있다. 우선, 얼굴 인증 장치(100)에, 피사체를 촬상하기 위한 촬상부(도시 생략)를 마련하고, 촬상부가 촬상을 행함에 의해 취득한 화상 데이터(10)를 화상 기억부(91)에 기억하고 있어서도 좋다. 촬상부는, CCD(Charge Coupled Device)나, CMOS(Complementary Metal Oxide Semiconductor) 등의 광전 변환 소자 등에 의해 구성할 수 있다.
또한, 얼굴 인증 장치(100)에 외부와 통신을 행하기 위한 통신부(도시 생략)를 마련하여, 얼굴 인증 장치(100)를 네트워크에 접속 가능하게 하고, 네트워크를 통하여, 얼굴 인증 장치(100)가 외부로부터 화상 데이터(10)를 취득하고, 취득한 화상 데이터(10)를 화상 기억부(91)에 기억하고 있어서도 좋다.
얼굴 인증 데이터베이스(92)는, 얼굴 인증부(50)가 얼굴 인증 처리에 이용하는 화상 데이터 및 화상 데이터로부터 추출된 데이터를 등록하여 두는 것이다. 얼굴 인증 데이터베이스(92)는, 얼굴특징 정보 기억부(93) 및 속성 정보 기억부(94)로 구성된다.
이하, 도 2 및 도 3을 참조하면서, 얼굴특징 정보 기억부(93) 및 속성 정보 기억부(94)에 관해 설명한다. 도 2는, 얼굴특징 정보 기억부(93)에 기억되어 있는 등록 얼굴특징 정보(등록 얼굴 정보)의 한 예를 도시하는 도면이다. 도 3은, 속성 정보 기억부(94)에 기억되어 있는 등록 속성 정보의 한 예를 도시하는 도면이다.
얼굴특징 정보 기억부(93)는, 얼굴 대조부(56)가 얼굴 대조 처리를 행하기 위한 얼굴특징 정보를 등록하여 두기 위한 데이터베이스이다. 얼굴특징 정보는, 얼굴특징 추출부(53)가 입력 얼굴화상 데이터에 의거하여 출력하는 것이고, 인증용 정보 등록부(55)에 의해 얼굴특징 정보 기억부(93)에 등록된다. 얼굴특징 정보에는, 기초가 된 입력 얼굴화상 데이터가 포함되어 있어도 좋다.
등록 처리는, 입력 얼굴화상 데이터로부터 얻어진 얼굴특징 정보를 얼굴 인증 데이터베이스(92)에 등록하는 것이다. 본 실시 형태에 관한 얼굴 인증 장치(100)에서는, 입력하는 입력 얼굴화상 데이터(화상 데이터)에 포함되는 얼굴화상으로부터 추출되는 특징점인 얼굴특징 정보를 얼굴 인증 데이터베이스(92)에 미리 등록하여 둘 수 있다.
도 2을 참조하면서, 얼굴특징 정보 기억부(93)에 등록되어 있는 얼굴특징 정보의 한 예에 관해 설명한다.
도 2에 도시하는 바와 같이, 얼굴특징 정보 기억부(93)에는, 특정한 인물(A 및 B)을 얼굴 인증에 의해 특정하기 위한 등록 얼굴특징 정보가 기억되어 있다. 도시하는 예에서는, 인물(A)(모친)은, 인물(B)(딸)과 모친·딸의 관계이다. 또한, 각 등록 얼굴특징 정보에는, 식별 정보가 부착되어 있고, 이 식별 정보에 의해 각 등록 얼굴특징 정보를 일의적으로 특정할 수 있도록 되어 있다. 여기서는, 설명의 편의상, 인물(A)(모친)에 대응하는 식별 정보를 A, 인물(B)(딸)에 대응하는 식별 정보를 B로 한다. 즉, 등록 얼굴특징 정보(A)는, 얼굴 인증에 의해 모친을 특정하기 위한 데이터이고, 등록 얼굴특징 정보(B)는, 얼굴 인증에 의해 딸을 특정하기 위한 데이터이다.
등록 얼굴특징 정보에는, 그 사람물의 얼굴의 특징을 나타내는 정보인 얼굴특징 정보가 복수 포함된다. 도 2의 예에서는, 등록 얼굴특징 정보(A)는, 모친을 특정하기 위한 얼굴특징 정보인 얼굴특징 정보(A1 내지 A4, …)를 포함한다. 이 얼굴특징 정보(A1 내지 A4)는, 하나의 화상 데이터로부터 얼굴특징 추출부(53)가 출력하는 얼굴특징 정보에 대응하고 있다. 또한, 얼굴특징 정보(A1 내지 A4)는, 입력 얼굴화상 데이터 그 자체를 포함하고 있어도 좋다.
도시하는 예와 같이, 등록 얼굴특징 정보(A)를, 복수의 얼굴특징 정보에 의해 구성하고 있는 것은, 얼굴 대조부(56)에서의 대조의 정밀도를 향상시키기 위해서다. 그러나, 상기한 예로 한정되지 않고, 등록 얼굴특징 정보(A)에 포함되는 얼굴특징 정보는 적어도 하나 있으면 좋다. 또한, 얼굴특징 정보(A1)에는, 얼굴특징 추출부(53)가 추출한 복수의 특징점에 관한 정보(a11, a12, …)가 포함되어 있다. 얼굴특징 정보(A2 내지 A4, …)에 관해서도 마찬가지이다. 특징점에 관한 정보(a11, a12, …)에 관해서는, 후에 상세히 기술한다.
또한, 등록 얼굴특징 정보(B)에 관해서는, 등록 얼굴특징 정보(A)와 같은 데이터 구조이기 때문에, 그 설명을 생략한다.
속성 정보 기억부(94)는, 성별·연령 비교부(58)가 성별·연대(年代)의 비교 처리를 행하기 위한 속성 정보를 등록하여 두기 위한 데이터베이스이다. 속성 정보는, 성별·연령 추정부(54)가 입력 얼굴화상 데이터에 의거하여 출력하는 것이고, 인증용 정보 등록부(55)에 의해 속성 정보 기억부(94)에 등록된다. 도 3을 참조하면서, 속성 정보 기억부(94)에 기억되어 있는 속성 정보의 한 예에 관해 설명한다.
도 3에 도시하는 바와 같이, 속성 정보 기억부(94)에는, 인물(A)(모친) 및 인물(B)(딸)의 속성 정보가 기억되어 있다. 얼굴특징 정보 기억부(93)와, 속성 정보 기억부(94)에서는, 공통의 식별 정보가 사용된다. 도시하는 예에서는, 등록 속성 정보(A 및 B)는, 각각, 얼굴특징 정보 기억부(93)에 기억되어 있는 등록 얼굴특징 정보(A 및 B)에 대응하고 있다.
도시하는 예에서, 등록 속성 정보는, 연령(연대) 및 성별으로 구성되어 있다.
도 3이 나타내는 등록 속성 정보(A)에서의, 연령에는, 「40세」가 설정되어 있고, 성별에는, 「여성」이 설정되어 있다.
또한, 등록 속성 정보(B)에서의, 연령에는, 「18」세가 설정되어 있고, 성별에는, 「여성」이 설정되어 있다.
또한, 얼굴특징 정보 기억부(93)에 기억되어 있는 등록 얼굴특징 정보 및 속성 정보 기억부(94)에 기억되어 있는 등록 속성 정보는, 유저가 수동에 의해 입력·설정할 수 있도록 하여도 좋다. 예를 들면, 유저가, 조작부(20)를 통하여, 각 정보를 입력한 것을, 얼굴 인증부(50)가 취득하여, 얼굴 인증 데이터베이스(92)에 등록하도록 하여도 좋다. 또한, 얼굴 인증 데이터베이스(92)에 등록하는 정보를, 얼굴 인증 장치(100)의 외부로부터 공급하여도 좋다. 예를 들면, 착탈 가능한 기록 매체에 의해 얼굴 인증 장치(100)의 외부로부터 정보를 공급하는 방식이나, 네트워크 통신에 의해 얼굴 인증 장치(100)의 외부로부터 정보를 취득하는 방식 등을 들 수 있다.
(제어부에 관해)
계속해서, 제어부(40)에 관해 상세히 설명한다. 도 1에 도시하는 바와 같이, 제어부(40)는, 얼굴 인증 처리를 실행하기 위한 얼굴 인증부(50)를 구비하고 있다. 얼굴 인증부(50)는, 조작부(20)로부터 송신되는 조작 데이터에 응하여 얼굴 인증 처리를 실행하는 것이다. 보다 상세하게는, 얼굴 인증부(50)는, 얼굴화상 취득부(추출 수단)(51), 얼굴 검출부(추출 수단)(52), 얼굴특징 추출부(추출 수단)(53), 성별·연령 추정부(추정 수단)(54), 인증용 정보 등록부(55), 얼굴 대조부(추출 수단)(56), 유사도 판정부(추정 수단)(57), 성별·연령 비교부(비교 수단)(58), 및 인증 결과 출력부(특정 수단)(59)를 구비하는 구성이다.
얼굴화상 취득부(51)는, 등록 처리 및 얼굴 인증 처리에서 사용되는 화상 데이터를 취득하는 것이다. 얼굴화상 취득부(51)는, 등록 처리 및 얼굴 인증 처리에서, 화상 기억부(91)로부터 화상 데이터를 판독하고, 판독 화상 데이터를 얼굴 검출부(52)에 전송한다.
또한, 얼굴화상 취득부(51)는, 등록 처리에서, 전술한 바와 같이 외부로부터 공급되는 화상 데이터(10)를 취득하고, 취득한 화상 데이터(10)를 얼굴 검출부(52)에 전송하여도 좋다. 이 때, 얼굴화상 취득부(51)는, 외부로부터 공급되는 화상 데이터(10)를, 화상 기억부(91)에 기억하여도 좋다.
얼굴 검출부(52)는, 얼굴화상 취득부(51)로부터 전송되는 화상 데이터로부터 사람의 얼굴에 상당하는 부분을 검출하고, 검출된 얼굴 부분에 관한 화상인 입력 얼굴화상 데이터를 출력하는 것이다. 얼굴 검출부(52)는 화상 데이터로부터 복수의 얼굴을 검출하여도 좋고, 얼굴 검출부(52)는, 얼굴의 수나, 화상 데이터에서의 위치 등을 출력하도록 구성되어 있어도 좋다. 또한, 얼굴 검출부(52)는, 화상 데이터로부터 사람의 얼굴을 검출할 수가 없는 경우는, 화상 데이터가 인물을 나타내는 것이 아니라고 판단하여도 좋다. 예를 들면, 화상 데이터가, 풍경사진의 화상이였던 경우 등이 생각된다. 이 때, 얼굴 인증부(50)는, 얼굴 인증 처리를 중지하여도 좋다.
또한, 얼굴 검출부(52)가 실행하는 얼굴 검출 처리에는, 특허 문헌 1의 기술을 적용할 수 있다. 그러나, 얼굴 검출부(52)가 실행하는 얼굴 검출 처리에는, 이것으로 한정되지 않고, 공지의 얼굴 검출 기술을 이용할 수 있다.
얼굴특징 추출부(53)는, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터로부터, 그 입력 얼굴화상 데이터에 포함되는 얼굴의 특징점을 추출하여, 추출한 하나 또는 복수의 특징점에 관한 정보를 얼굴특징 정보로서 출력한다. 얼굴특징 추출부(53)는, 예를 들면, 입력 얼굴화상 데이터에 포함되는 인물의 얼굴에서, 눈, 코, 입으로 인정되는 부위를 특징점으로서 추출한다. 또한, 특징점에 관한 정보로서는, 예를 들면, 상기 각 부위의 위치, 크기 등을 들 수 있다.
여기서, 재차 도 2를 참조하여, 얼굴특징 추출부(53)가 생성하는 얼굴특징 정보에 관해 더욱 구체적으로 설명하면 다음과 같다. 등록 얼굴특징 정보(A)에 관해 예시하면, 하나의 입력 얼굴화상 데이터로부터 얼굴특징 추출부(53)는, 얼굴특징 정보(A1)를 생성하여도 좋다. 이 때, 눈, 코, …의 특징점에 관한 정보가, 각각 a11, a12, …에 해당한다.
또한, 얼굴특징 추출부(53)의 특징점의 추출 및 얼굴특징 정보의 생성에는, 공지의 기술을 이용할 수 있다.
성별·연령 추정부(54)는, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터를 분석하여, 입력 얼굴화상 데이터가 나타내는 인물의 성별 및 연령을 추정하고, 그 추정 결과를 속성 정보로서 출력하는 것이다. 성별·연령 추정부(54)에서는, 예를 들면, 비특허 문헌 1에 개시되어 있는 기술을 이용하여 성별·연령을 추정하여도 좋다. 그러나, 이것에 한정되지 않고, 성별·연령 추정부(54)에서의 성별·연령 추정 처리에서는, 공지의 기술을 적절히 채용할 수 있다. 또한, 성별·연령 추정부(54)는, 10대, 20대, …, 또는, 유년, 청소년, 청장년, 고령이라는 연대를 추정하여도 좋다.
성별·연령 추정부(54)는, 등록 처리의 경우와, 얼굴 인증 처리의 경우의 양쪽에서, 추정 처리를 행한다. 성별·연령 추정부(54)는, 등록 처리의 경우에는, 속성 정보를 인증용 정보 등록부(55)에 출력한다. 한편, 성별·연령 추정부(54)는, 얼굴 인증 처리의 경우에는, 속성 정보를 성별·연령 비교부(58)에 출력한다.
인증용 정보 등록부(55)는, 등록 처리에서, 얼굴 인증 데이터베이스(92)에 얼굴 인증 처리에서 사용되는 정보를 등록하기 위한 것이다. 얼굴 인증 처리에서 사용되는 정보에는, 얼굴특징 추출부(53)가 출력한 얼굴특징 정보와, 성별·연령 추정부(54)가 출력한 속성 정보가 포함된다. 또한, 인증용 정보 등록부(55)는, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터를, 얼굴 인증 데이터베이스(92)에 등록하도록 구성되어 있어도 좋다.
얼굴 대조부(56)는, 얼굴특징 정보 기억부(93)로부터 차례로 등록 얼굴특징 정보를 판독하고, 판독한 등록 얼굴특징 정보에 의거하여, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터를 대조하는 것이다. 얼굴 대조부(56)에서의 대조 처리는, 등록 얼굴특징 정보에 포함되는 하나 또는 복수의 얼굴특징 정보에 의거하여 행하여진다. 또한, 얼굴 대조부(56)는, 등록 속성 정보를 대조 처리에서 이용하는 것도 가능하다.
또한, 본 실시 형태에서는, 얼굴 대조부(56)의 대조 처리에서, 각각의 등록 얼굴특징 정보가 특정하는 인물과, 입력 얼굴화상 데이터가 나타내는 인물과의 유사도를 산출한다. 이 유사도는, 수치로 나타낼 수 있다. 또한, 얼굴 대조부(56)는, 산출한 유사도가, 소정의 임계치 이상인지의 여부를 판정한다.
얼굴 대조부(56)는, 판정의 결과, 유사도가 소정의 임계치 이상인 등록 얼굴특징 정보가 하나도 없는 경우는, 대조 결과로서, 「해당 없음」을 출력한다.
이에 대해, 얼굴 대조부(56)는, 판정의 결과, 유사도가 소정의 임계치 이상인 등록 얼굴특징 정보가 하나 또는 복수였던 경우는, 그 등록 얼굴특징 정보를 대조 결과로서 출력한다.
또한, 얼굴 대조부(56)의 대조 결과에 포함되는 등록 얼굴특징 정보가 하나였던 경우는, 입력 얼굴화상 데이터에 나타나 있는 인물은, 그 등록 얼굴특징 정보에 의해 특정되는 인물로 판정할 수 있었다는 것이다.
또한, 얼굴 대조부(56)에서의 대조 처리에서는, 예를 들면, 특허 문헌 2에 기재되어 있는 공지의 기술을 채용할 수 있다. 또한, 얼굴 대조부(56)는, 상기 구성으로 한정되는 일 없이, 적절히 설계 변경도 가능하다.
유사도 판정부(57)는, 얼굴 대조부(56)가 출력한 대조 결과에, 복수의 등록 얼굴특징 정보가 포함되는 경우, 등록 얼굴특징 정보끼리가 유사 범위에 속하는지를 판정하는 것이다.
유사도 판정부(57)는, 구체적으로는, 얼굴 대조부(56)가 산출한 복수의 유사도중, 가장 높은 유사도와, 2번째로 높은 유사도와의 차를 산출하고, 산출한 차가, 미리 정하여진 유사 범위 설정치 이하인지를 판정한다.
가장 높은 유사도의 등록 얼굴특징 정보와, 2번째로 높은 유사도의 등록 얼굴특징 정보는, 서로 잘 닮은 인물을 나타내고 있을 가능성이 높다. 그리고, 2개의 유사도의 차가 작으면, 그들이 특히 잘 닮은 인물을 나타내고 있는 것이 되고, 보다 얼굴 인증 처리가 잘못될 가능성도 높아진다. 그래서, 유사도 판정부(57)는, 가장 높은 유사도의 등록 얼굴특징 정보와, 2번째로 높은 유사도의 등록 얼굴특징 정보가, 특히 잘 닮은 인물을 나타내고 있는지의 여부를 유사 범위 설정치를 이용하여 판정한다.
즉, 산출한 차가, 유사 범위 설정치 이하이면, 그 2개의 등록 얼굴특징 정보에 의해 특정되는 인물은, 특히 잘 닮은 경우가 생각된다. 따라서, 유사도에 의거한 얼굴 인증 처리만으로는, 판단을 잘못하여 버릴 우려가 있다.
유사도 판정부(57)는, 산출한 유사도의 차가, 미리 정해진 유사 범위 설정치 이하인 경우, 성별·연령 추정부(54)에, 입력 화상 데이터의 성별·연령 추정 처리를 행하도록 지시함과 함께, 「유사 범위 설정치 이하」라는 판정 결과를 출력한다.
한편, 유사도 판정부(57)는, 산출한 차가, 미리 정해진 유사 범위 설정치보다 큰 경우, 「유사 범위 설정치보다 크다」는 판정 결과를 출력한다.
또한, 유사 범위 설정치는, 유저가 임의로 설정 가능한 값이다. 또한, 유사 범위 설정치에는, 초기 설정치를 설정하여 두는 것도 가능하고, 예를 들면, "가장 높은 유사도의 10%의 값"으로 할 수 있다.
성별·연령 비교부(58)는, 얼굴 인증 처리에서, 입력 얼굴화상 데이터의 속성 정보와, 속성 정보 기억부(94)에 기억되어 있는 등록 속성 정보와의 일치·불일치를 판정하고, 그 판정 결과를 출력하는 것이다.
성별·연령 비교부(58)는, 보다 구체적으로는, 다음과 같이 하여, 양자의 속성 정보의 일치도를 판정한다. 우선, 성별·연령 비교부(58)는, 유사도 판정부(57)가 출력한 판정 결과가, 「유사 범위 설정치 이하」였던 경우에, 성별·연령 추정부(54)로부터, 입력 얼굴화상 데이터의 속성 정보를 취득한다.
또한, 성별·연령 비교부(58)는, 가장 높은 유사도의 등록 얼굴특징 정보와, 2번째로 높은 유사도가 산출된 등록 얼굴특징 정보에 대해, 속성 정보 기억부(94)로부터 대응하는 속성 정보를 판독한다.
그리고, 성별·연령 비교부(58)는, 속성 정보 기억부(94)로부터 판독한 각각의 속성 정보와, 입력 얼굴화상 데이터의 속성 정보를 비교한다.
본 실시 형태에서는, 성별·연령 비교부(58)는, 속성 정보의 비교에서, 속성 정보에 포함되는 "연령" 및 "성별"를 각각 비교한다.
여기서, 성별·연령 비교부(58)가 실행한 비교 처리에 관해 설명한다.
성별·연령 비교부(58)는, "연령"의 비교에서는, 연령이 일치하고 있는지의 여부, 및, 등록 속성 정보에 포함되는 연령과, 입력 얼굴화상 데이터의 속성 정보에 포함되는 연령과의 차의 절대치가 소정의 범위 내인지의 여부를 판정한다. 성별·연령 비교부(58)는, 그 차의 절대치가 소정의 범위 내라면, 양자가 나타내는 인물은, 연령이 「동년대이다」라고 판정한다. 이하, 성별·연령 비교부(58)가, 연령이 「동년대이다」라고 판정한 경우에는, 연령이 「일치하고 있다」고 판정하는 경우가 포함되는 것으로 한다. 그러나, 이것으로 한정되지 않고, 성별·연령 비교부(58)는, 연령이 「일치하고 있는」 경우만을 판정하여도 좋다.
이 소정의 범위는, 유저가, 미리 설정하여 둘 수 있다. 또한, 소정의 범위의 초기 설정으로서, 그 차의 절대치가 10 이하면 「동년대이다」라고 성별·연령 비교부(58)가 판정하도록 설정할 수도 있다.
성별·연령 비교부(58)는, "성별"의 비교에서는, 성별이 일치하고 있는지의 여부를 판정한다.
성별·연령 비교부(58)는, 속성 정보의 비교에서, "연령"가 「동년대이다」인 경우, 또한, "성별"가 「일치」하고 있는 경우, 속성 정보가 일치하고 있다고 판정한다.
계속해서, 성별·연령 비교부(58)가 비교 처리의 결과에 의거하여 판정하는 내용에 관해 설명한다. 본 실시 형태에서는, 성별·연령 비교부(58)는, 입력 얼굴화상 데이터의 속성 정보가, 가장 높은 유사도가 산출된 등록 얼굴특징 정보에 대응하는 등록 속성 정보 및 2번째로 높은 유사도를 갖는 등록 얼굴특징 정보에 대응하는 등록 속성 정보의 어느 한쪽에 일치하고 있던 경우, 일치하고 있던 등록 얼굴특징 정보에 의해 특정되는 인물을 판정 결과로서 출력한다.
인증 결과 출력부(59)는, 얼굴 대조부(56)의 대조 결과와, 유사도 판정부(57)의 판정 결과와, 성별·연령 비교부(58)의 비교 결과를 한데 모아, 인증 결과를 출력하기 위한 것이다. 인증 결과 출력부(59)는, 출력한 인증 결과를, 표시부(30)에서 표시시킨다.
(처리의 흐름)
다음에, 도 4 및 도 5를 참조하면서, 얼굴 인증 장치(100)의 각 처리의 흐름에 관해 설명한다. 도 4는, 얼굴 인증 장치(100)에서의 등록 처리의 흐름에 관해 도시한 플로우 차트이다. 또한, 도 5는, 얼굴 인증 장치(100)에서의 얼굴 인증 처리의 흐름에 관해 도시한 플로우 차트이다.
( 등록 처리의 흐름)
우선, 도 4를 참조하면서, 등록 처리의 흐름에 관해 설명한다. 유저가 조작부(20)에서의, 등록 처리를 지시하는 조작을 한 것에 응하여, 얼굴 인증부(50)는, 등록 처리를 시작한다. 등록 처리를 지시하는 조작에서, 등록 처리의 대상이 되는 화상 데이터가 지정된다.
등록 처리가 시작되면, 얼굴화상 취득부(51)가, 화상 기억부(91)로부터, 화상 데이터를 판독하여, 얼굴 검출부(52)에 전송한다(S11). 다음에, 얼굴 검출부(52)가, 화상 데이터로부터 사람의 얼굴을 검출하여, 입력 얼굴화상 데이터를 출력한다(S12). 그리고, 얼굴특징 추출부(53)가, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터로부터, 그 입력 얼굴화상 데이터에 포함되는 얼굴의 특징점을 추출하여, 얼굴특징 정보를 출력한다(S13). 또한, 성별·연령 추정부(54)는, 입력 얼굴화상 데이터를 분석하여, 입력 얼굴화상 데이터가 나타내는 인물의 성별·연령을 추정하고, 추정 결과를 속성 정보로서 출력한다(S14).
최후로, 인증용 정보 등록부(55)가, 얼굴특징 추출부(53) 및 성별·연령 추정부(54)가 출력한 정보를, 얼굴 인증 데이터베이스에 등록한다(S15). 구체적으로는, 인증용 정보 등록부(55)는, 얼굴특징 추출부(53)가 출력한 얼굴특징 정보를 얼굴특징 정보 기억부(93)에 등록하고, 성별·연령 추정부(54)가 출력한 속성 정보를, 속성 정보 기억부(94)에 등록한다. 또한, 인증용 정보 등록부(55)는, 화상 기억부(91)에, 얼굴 검출부(52)가 검출한 입력 화상 데이터를 기억하여도 좋다. 얼굴 인증 장치(100)에서는, 상기한 처리를 반복하여, 얼굴 인증 대상이 되는 복수인의 인물을 얼굴 인증 데이터베이스(92)에 등록하여 둘 수 있다. 또한, 얼굴 인증 장치(100)는, 입력 얼굴화상 데이터를 얼굴 인증 데이터베이스(92)에 등록하여 두는 것도 가능하다.
이상이, 등록 처리의 흐름이다.
(얼굴 인증 처리의 흐름)
다음에, 도 5를 참조하면서, 얼굴 인증 처리의 흐름에 관해 설명한다. 유저가 조작부(20)에서, 얼굴 인증 처리를 지시하는 조작을 한 것에 응하여, 얼굴 인증부(50)는, 얼굴 인증 처리를 시작한다. 얼굴 인증 처리를 지시하는 조작에서, 얼굴 인증 처리의 대상이 되는 화상 데이터가 지정된다.
S21 내지 S23의 처리는, S11 내지 S13의 처리에 준하고 있기 때문에, 그 설명을 생략한다.
얼굴특징 추출부(53)가 입력 화상 데이터의 얼굴특징 정보를 출력하면, 얼굴 대조부(56)가, 대조 처리를 실행한다(S24). 구체적으로는, 얼굴 대조부(56)는, 얼굴특징 정보 기억부(93)에 등록되어 있는 등록 얼굴특징 정보를 차례로 판독하여, 판독한 등록 얼굴특징 정보에 포함되는 얼굴특징 정보와, 입력 화상 데이터의 특징 정보를 이용하여 대조 처리를 행한다. 얼굴 대조부(56)는, 대조 처리의 결과, 등록 얼굴특징 정보에 의해 특정된 인물과, 입력 화상 데이터가 나타내는 인물과의 유사도를 구하고, 계속해서, 얼굴 대조부(56)는, 각 등록 얼굴특징 정보에 관해 구한 유사도가 임계치 이상인지의 여부를 판정한다(S25).
여기서, 얼굴 대조부(56)에서의 판정의 결과, 유사도가 소정의 임계치 이상인 등록 얼굴특징 정보가 1건(件)도 없는 경우(S25에서 NO), 인증 결과 출력부(59)는, 인증 결과로서, 「해당 없음」를 표시부(30)에 출력한다(S31). 또한, 인증 결과 출력부(59)는, 얼굴 대조부(56)에서의 판정의 결과, 유사도가 소정의 임계치 이상인 등록 얼굴특징 정보가 1건 있은 때, 인증 결과로서, 「유사도가 상위 1번째의 등록 얼굴특징 정보에 의해 특정되는 인물」을 표시부(30)에 출력한다. 어느 것에서도, 그 후, 처리는, 종료한다.
한편, 얼굴 대조부(56)에서의 판정의 결과, 유사도가 소정의 임계치 이상인 등록 얼굴특징 정보가 1건 이상 있는 경우(S25에서 YES), 유사도 판정부(57)가, 상위 1번째의 유사도와, 2번째의 유사도와의 차를 산출하고, 산출한 차가, 미리 정해진 유사 범위 설정치 이하인지를 판정한다(S26).
여기서, 유사도 판정부(57)에서의 판정의 결과, 산출된 차가, 미리 정해진 유사 범위 설정치보다 큰 경우(S26에서 NO), 인증 결과 출력부(59)는, 인증 결과로서, 「유사도가 상위 1번째의 등록 얼굴특징 정보에 의해 특정되는 인물」을 출력한다(S30).
여기서, 유사도 판정부(57)에서의 판정의 결과, 산출된 차가, 미리 정해진 유사 범위 설정치 이하인 경우(S26에서 YES), 성별·연령 추정부(54)가, 얼굴 검출부(52)가 출력한 입력 얼굴화상 데이터를 분석하여, 입력 얼굴화상 데이터가 나타내는 인물의 성별 및 연령(연대)을 추정하고, 그 추정 결과를 속성 정보로서 출력한다(S27).
계속해서, 성별·연령 비교부(58)는, 유사도가 상위 1번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보와, 및 2번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보에 관해, 성별·연령 추정부(54)에 의해 입력 얼굴화상 데이터에 관해 추정된 속성 정보와의 일치·불일치를 판정한다. 즉, 성별·연령 추정부(54)에 의해 입력 얼굴화상 데이터에 관해 추정된 성별이, 등록 속성 정보의 것이라고 일치하고 있는지, 및, 양자의 연령의 차가 소정 범위 내인지를 판정한다(S28).
성별·연령 비교부(58)에서의 판정의 결과, 입력 얼굴화상 데이터에 관해 추정된 속성 정보가, 유사도가 1번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보와, 유사도가 2번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보의 양쪽에 일치한 경우, 및, 양쪽 모두 일치하지 않은 경우(S28에서 「양쪽 일치」·「양쪽 불일치」), 인증 결과 출력부(59)는, 인증 결과로서, 유사도가 상위 1번째의 등록 얼굴특징 정보에 의해 특정된 인물을 출력한다(S30). 그 후 처리는 종료한다.
이에 대해, 판정의 결과, 입력 얼굴화상 데이터에 관해 추정된 속성 정보가, 유사도가 1번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보 및 유사도가 2번째의 등록 얼굴특징 정보에 대응하는 등록 속성 정보의 어느 한쪽에 일치한 경우(S28에서 「어느 한쪽에 일치」), 인증 결과 출력부(59)는, 인증 결과로서, 「일치한 쪽의 등록 속성 정보에 대응하는 등록 얼굴특징 정보에 의해 특정되는 인물」을 출력한다(S29). 그 후 처리는 종료한다.
또한, 얼굴 인증 처리의 대상이 되는 화상 데이터에 복수의 인물의 얼굴이 포함되어 있고, 입력 얼굴화상 데이터가 복수 생성된 경우는, 입력 얼굴화상 데이터마다 상기 S23 내지 S31의 처리를 반복하면 좋다.
또한, 얼굴 인증 처리의 대상이 되는 화상 데이터가 복수 지정된 경우는, 화상 데이터마다 상기 S21 내지 S31의 처리를 반복하면 좋다. 이 경우, 얼굴 인증부(50)에서, 인증 결과로서 출력 대상으로 하는 인물을 특정하기 위한 등록 얼굴특징 정보의 지정을 접수하고, 인증 결과 출력부(59)가, 그 등록 얼굴특징 정보가 특정하는 인물과 맞는 인물을 나타내는 화상 데이터를 인증 결과로서 출력하도록 구성으로 할 수도 있다. 이 구성에 의하면, 화상 기억부(91)에 기억되어 있는 화상 데이터중에서, 특정한 인물을 나타내는 화상 데이터를 검색할 수 있다. 즉, 이와 같은 구성에 의해, 이른바 인물 화상 검색 시스템을 구축하는 것도 가능하다.
이상이, 얼굴 인증 처리의 흐름이다.
재차 도 2 및 도 3을 참조하여, 본 실시 형태의 얼굴 인증 처리의 흐름에 관해 더욱 구체적으로 설명하면, 다음과 같다. 도 2 및 3이 나타내는 예에서, 입력 얼굴화상 데이터가 딸의 화상 데이터였던 경우에 관해 설명한다. 일반적으로 모친과, 딸은 얼굴의 조형·용모 등이 비슷하기 때문에, 등록 얼굴특징 정보(A)의 유사도, 등록 얼굴특징 정보(B)의 유사도는, 모두 높아지는 것이 예상된다. 또한, 이 때, 표정·얼굴 방향·조명의 상태 등의 상황이, 유사도의 산출에 영향을 주는 것도 생각된다.
이와 같은 경우, S25에서, 유사도가 임계치 이상이라고 판정되고(S25에서 YES), S26에서, 2개의 유사도의 차가, 설정치 이내(S26에서 YES)인 것이 상정된다.
여기서, S27에서, 입력 얼굴화상 데이터에 관해, 성별·연령을 추정하면, 딸의 화상 데이터이기 때문에, 성별은, 「여성」이고, 연령은, 「18세」로 추정된다.
따라서, 속성 정보의 비교에서, 입력 얼굴화상 데이터에 관해 추정된 속성 정보는, 등록 속성 정보(B)와 일치한 한편으로, 등록 속성 정보(A)와는 일치하지 않는다.
이 결과, 가령 전술한 바와 같은 영향을 받아, 등록 얼굴특징 정보(B)의 유사도가, 등록 얼굴특징 정보(A)의 유사도보다도 낮게 산출되어 있다고 하여도, 인증 결과 출력부(59)는, 속성 정보가 일치한, 「낭」의 쪽을 인증 결과로서 출력한다.
이와 같이, 본 실시 형태에 관한 얼굴 인증 장치(100)에 의하면, 속성 정보를 이용하여, 얼굴 인증에서의 오인식을 막을 수 있다.
(작용·효과)
이상과 같이, 본 실시 형태에 관한 얼굴 인증 장치(100)는, 입력된 입력 얼굴화상 데이터와, 미리 등록된 복수의 등록 얼굴특징 정보와의 유사도를 구하고, 입력 얼굴화상 데이터와의 유사도가 소정치 이상이 되는 등록 얼굴특징 정보를 추출하는 얼굴 대조부(56)를 구비하는 얼굴 인증 장치(100)에 있어서, 등록 얼굴특징 정보가, 등록 얼굴특징 정보에 관한 인물에 대한 등록 속성 정보와 함께 등록되어 있고, 얼굴 대조부(56)가 복수의 등록 얼굴특징 정보를 추출한 경우에, 얼굴 대조부(56)가 추출한 복수의 등록 얼굴특징 정보로부터, 입력 얼굴화상 데이터에 관한 인물을 포함하는 등록 얼굴특징 정보를 특정하는 얼굴 인증부(50)를 구비하고, 얼굴 인증부(50)는, 입력 얼굴화상 데이터에 관한 인물에 대한 속성 정보를 추정하고, 속성 정보를 출력하는 성별·연령 추정부(54)와, 성별·연령 추정부(54)가 출력한 속성 정보와, 복수의 등록 얼굴특징 정보에 관한 인물에 대한 등록 속성 정보와의 비교를 행하는 성별·연령 비교부(58)를 구비하고, 상기 비교 결과에 의거하여, 등록 얼굴특징 정보를 특정한다.
이 결과, 특별한 영상 기기 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시킬 수 있다는 효과를 이룬다.
(변형례)
이하에서, 본 실시 형태의 바람직한 변형례에 관해 설명한다.
본 실시 형태에서는, 유사도 판정부(57)는, 얼굴 대조부(56)가 산출한 복수의 유사도 중, 가장 높은 유사도와, 2번째로 높은 유사도와의 차를 산출하고, 산출한 차가 미리 정해진 유사 범위 설정치 이하인지를 판정하고 있지만, 3번째 이후의 유사도에 대해서도 판정의 대상으로 하여도 상관없다. 즉, 유사도 판정부(57)는, 가장 높은 유사도와의 유사도의 차가, 유사 범위 설정치 이하가 되는 것에 대해 판정의 대상으로 하여도 상관없다.
이 경우, 판정의 대상이 증가함으로써, 얼굴 인증 처리의 부하가 높아지는 것도 생각되는 한편으로, 가장 높은 유사도와, 상위 3번째의 유사도와의 차가, 유사 범위 설정치 이하가 되는 경우, 유사도가 상위 3번째의 등록 얼굴특징 정보에 의해 특정되는 인물에 대해서도, 가장 높은 유사도의 등록 얼굴특징 정보에 의해 특정되는 인물과, 잘 닮은 인물인 것이 상정되기 때문에, 얼굴 인증 처리의 정밀도의 향상을 기대할 수 있다.
이 때문에, 얼굴 인증 처리의 정밀도와, 얼굴 인증 처리의 부하와의 트레이드 오프로, 적절히 유사 범위 설정치 등의 설정을 변경하면 좋다.
또한, 유사도 판정부(57)가, 상위 소정번째까지의 유사도를 갖는 등록 얼굴특징 정보를, 성별·연령 비교부(58)에 통지하고, 성별·연령 비교부(58)에서는, 통지된 유사도가 상위 소정번째까지의 등록 얼굴특징 정보에 관해, 속성 정보의 비교를 실행하여도 좋다. 이 경우, 예를 들면, 상위 3번째까지의 유사도에 관해 판정·비교의 대상으로 할 수가 있다. 또한, 상위 몇번째까지의 유사도에 관해 판정·비교의 대상으로 하는지는, 유저가 임의로 설정할 수 있도록 되어 있어도 상관없다.
또한, 성별·연령 비교부(58)는, "연령" 및 "성별"의 어느 한쪽이, 일치하고 있으면, 속성 정보가 「일부 일치」라고 판정하도록 구성되어 있어도 상관없다. 그리고, S28에서, 속성 정보가 「일부 일치」의 것과, 속성 정보가 「불일치」의 것이 있던 경우, 인증 결과 출력부(59)는, 「속성 정보가 일부 일치하고 있는 쪽의 등록 얼굴특징 정보에 의해 특정되는 인물」을 판정 결과로서 출력하여도 좋다.
또한, 성별·연령 추정부(54)는, 입력 화상 데이터로부터 "연령" 및 "성별"를 추정하고 있지만, 또한 "인종(人種)"를 추정하여도 좋다. 즉, 속성 정보에는, "연령" 및 "성별"에 더하여 "인종"에 관한 정보가 포함되어 있어도 좋다. 이 경우, 성별·연령 비교부(58)가, "인종"에 관해 비교하도록 구성하면 좋다. 이에 의해, 얼굴 인증 데이터베이스(92)에 다른 인종의 인물이 등록되어 있는 경우에 있어서, "인종"에 대해서도 판정할 수 있고, 얼굴 인증 처리의 정밀도 향상을 도모할 수 있다. 또한, 성별·연령 추정부(54)에서의 "인종"의 추정 처리에는, 공지의 기술을 이용할 수 있다.
(그 밖의 변경례)
본 발명에 촬상부를 마련하는 구성을 이용하면, 얼굴 인증 처리에 의해, 인물을 촬영하여 얻어진 사진 화상 데이터를 검색할 수 있는 디지털 카메라를 실현할 수 있다. 이와 같은 디지털 카메라는, 기억 매체의 대용량화에 수반하여, 디지털 카메라에서 기억할 수 있는 사진 화상 데이터의 수도 방대하게 되어 있는 요즘, 용이하게 소망하는 인물에 대한 사진 화상 데이터를 검색할 수 있기 때문에 유익하다.
또한, 본 발명을, 일정 시간마다 또는 리얼타임으로 촬영을 행하는 감시 카메라와 접속하여, 감시 카메라로부터 화상 데이터의 공급을 받도록 하면, 감시 카메라가 촬영한 인물을 얼굴 인증 처리에 의해 특정할 수 있는 얼굴 인증 감시 시스템을 구축할 수도 있다. 이와 같은 얼굴 인증 감시 시스템은, 촬영된 인물이, 등록되어 있는 인물인지의 여부를 정밀도 좋게 특정할 수 있기 때문에, 예를 들면, 입 퇴출 관리 시스템으로서도 유용하다.
본 발명은 상술한 실시 형태로 한정되는 것이 아니고, 청구항에 나타낸 범위에서 여러가지의 변경이 가능하다. 즉, 청구항에 나타낸 범위에서 적절히 변경한 기술적 수단을 조합시켜서 얻어지는 실시 형태에 대해서도 본 발명의 기술적 범위에 포함된다.
또한, 본 발명은 다음과 같이 표현할 수도 있다. 이상과 같이, 본 발명에 관한 얼굴 인증 장치에서는, 상기 추정 수단은, 상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도와의 차가 소정 범위 내가 되는 유사도를 갖는 등록 얼굴 정보에 관해, 상기 추정 속성 정보의 출력을 행하는 것인 것이 바람직하다.
상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도와의 차가 소정 범위 내가 되는 유사도를 갖는 등록 얼굴 정보는, 소정 범위 외가 되는 유사도를 갖는 등록 얼굴 정보보다도, 가장 높은 유사도를 갖는 등록 얼굴 정보와 잘 닮은 인물을 나타내고 있을 가능성이 높다. 따라서, 얼굴 인증에 있어서, 이들의 등록 얼굴 정보가 나타내는 인물을 오인식할 가능성도 높다.
얼굴 인증 처리의 효율이 요구되는 상황에서는, 속성 정보를 비교하는 처리의 부하가 무시할 수 없는 경우도 생각되는 바, 상기 구성에 의하면, 이와 같이, 얼굴 인증에서 오인식이 생길 개연성이 높은 것에 한하여, 추정 속성 정보의 출력을 행한다. 따라서, 입력 얼굴화상의 대조 때마다, 추정 속성 정보를 출력하지 않아도 되기 때문에, 상기 구성은, 매회 추정 속성 정보를 출력하는 구성보다도, 처리 효율의 면에서 유리하다.
그 결과, 얼굴 인증 처리의 효율을 그다지 손상시키는 일 없이, 얼굴 인증 처리의 정밀도를 향상할 수 있다는 효과를 이룬다.
본 발명에 관한 얼굴 인증 장치에서는, 상기 추정 수단은, 상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도와, 소정번째로 높은 유사도를 갖는 등록 얼굴 정보에 관해, 상기 추정 속성 정보의 출력을 행하는 것이 바람직하다.
상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도를 갖는 등록 얼굴 정보와, 소정번째로 높은 유사도를 갖는 등록 얼굴 정보는, 그 밖의 등록 얼굴 정보에 비하여, 서로 잘 닮은 인물을 나타내고 있을 가능성이 높다. 따라서, 얼굴 인증에 있어서, 이들의 등록 얼굴 정보가 나타내는 인물을 오인식할 가능성도 높다.
얼굴 인증 처리의 효율이 요구되는 상황에서는, 속성 정보를 비교하는 처리의 부하가 무시할 수 없는 경우도 생각되는 바, 상기 구성에 의하면, 얼굴 인증에서 오인식이 생길 개연성이 높은 것에 한하여, 추정 속성 정보의 출력을 행한다. 따라서, 입력 얼굴화상의 대조 때마다, 추정 속성 정보를 출력하지 않아도 되기 때문에, 상기 구성은, 매회 속성 정보를 추정하는 구성보다도, 처리 효율의 면에서 유리하다.
이 때문에, 얼굴 인증 처리의 효율을 그다지 손상시키는 일 없이, 얼굴 인증 처리의 정밀도를 향상할 수 있다는 효과를 이룬다.
본 발명에 관한 얼굴 인증 장치에서는, 상기 속성 정보는, 연령, 성별, 및, 인종을 나타내는 정보중, 적어도 하나를 포함하는 것이 바람직하다.
속성 정보는, 연령, 성별, 및, 인종을 나타내는 정보중, 적어도 1개를 포함한다. 즉, 연령, 성별, 및, 인종을 나타내는 정보를 이용하여, 얼굴 인증에서의 오인식을 막을 수 있다.
본 발명에 관한 얼굴 인증 장치를 구비하고, 인물의 적어도 얼굴의 부분이 나타나 있는 인물 화상을 기억하기 위한 인물 화상 기억부와, 복수의 상기 등록 얼굴 정보를 기억하는 등록 얼굴 정보 기억부와, 상기 등록 얼굴 정보 기억부에 기억되어 있는 복수의 상기 등록 얼굴 정보중에서 등록 얼굴 정보를 지정하기 위한 지정 수단과, 상기 인물 화상 기억부로부터 상기 인물 화상을 판독하고, 판독 상기 인물 화상으로부터 얼굴에 상당하는 부분을 검출하여, 검출한 부분을 상기 입력 얼굴화상으로서, 상기 얼굴 인증 장치에 입력하는 화상 입력 수단과, 상기 화상 입력 수단이 입력한 입력 얼굴화상에 대한 얼굴 인증 결과를, 상기 얼굴 인증 장치로부터 취득하는 인증 결과 취득 수단과, 상기 인증 결과 취득 수단이 취득한 결과에 의거하여, 상기 인물 화상 기억부에 기억되어 있는 인물 화상중, 상기 지정 수단에 의해 지정된 상기 등록 얼굴 정보가 나타내는 인물이 포함되는 인물 화상을 검색하는 검색 수단을 구비하는 인물 화상 검색 시스템을 구성하여도 좋다.
상기 구성에 의하면, 인물의 적어도 얼굴의 부분이 나타나 있는 인물 화상을 판독하여, 인물 화상중에서 인물의 얼굴에 맞는 부분을 검출하고, 입력 화상으로서, 얼굴 인증 장치에 입력한다. 그리고, 상기 얼굴 인증 장치로부터 얼굴 인증 결과를 취득한다. 또한, 취득한 얼굴 인증 결과를 이용하여, 지정된 등록 얼굴 정보가 나타내는 인물이 포함되는 인물 화상을 검색한다.
이와 같이, 인물 화상 검색 시스템에, 얼굴 인증 장치를 조립함에 의해, 소망하는 인물을 나타내는 인물 화상을 높은 정밀도로 검색하는 인물 화상 검색 시스템이 실현 가능하다.
또한, 상기 얼굴 인증 장치는, 컴퓨터에 의해 실현하여도 좋고, 이 경우에는, 컴퓨터를 상기 각 수단으로서 동작시킴에 의해 얼굴 인증 장치를 컴퓨터에 실현시키는 얼굴 인증 장치 제어 프로그램 및 그것을 기록한 컴퓨터 판독 가능한 기록 매체도, 본 발명의 범주에 들어간다.
최후로, 얼굴 인증 장치(100)의 각 블록, 특히 얼굴 인증부(50)가 구비하는 얼굴화상 취득부(51), 얼굴 검출부(52), 얼굴특징 추출부(53), 성별·연령 추정부(54), 인증용 정보 등록부(55), 얼굴 대조부(56), 유사도 판정부(57), 성별·연령 비교부(58), 및 인증 결과 출력부(59)는, 하드웨어 로직에 의해 구성하여도 좋고, 다음과 같이 CPU를 이용하여 소프트웨어에 의해 실현하여도 좋다.
즉, 얼굴 인증 장치(100)는, 각 기능을 실현하는 제어 프로그램의 명령을 실행하는 CPU(central processing unit), 상기 프로그램을 격납한 ROM(read only memory), 상기 프로그램을 전개하는 RAM(random access memory), 상기 프로그램 및 각종 데이터를 격납하는 메모리 등의 기억 장치(기록 매체) 등을 구비하고 있다. 그리고, 본 발명의 목적은, 상술한 기능을 실현하는 소프트웨어인 얼굴 인증 장치(100)의 제어 프로그램의 프로그램 코드(실행 형식 프로그램, 중간 코드 프로그램, 소스 프로그램)를 컴퓨터에서 판독 가능하게 기록한 기록 매체를, 상기 얼굴 인증 장치(100)에 공급하고, 그 컴퓨터(또는 CPU나 MPU)가 기록 매체에 기록되어 있는 프로그램 코드를 판독하여 실행함에 의해서도, 달성 가능하다.
상기 기록 매체로서는, 예를 들면, 자기 테이프나 카세트 테이프 등의 테이프계, 플로피(등록상표) 디스크/하드 디스크 등의 자기 디스크나 CD-ROM/MO/MD/DVD/CD-R 등의 광디스크를 포함하는 디스크계, IC 카드(메모리 카드를 포함한다)/광카드) 등의 카드계, 또는 마스크 ROM/EPROM/EEPROM/플래시 ROM 등의 반도체 메모리계 등을 이용할 수 있다.
또한, 얼굴 인증 장치(100)를 통신 네트워크와 접속 가능하게 구성하고, 상기 프로그램 코드를 통신 네트워크를 통하여 공급하여도 좋다. 이 통신 네트워크로서는, 특히 한정되지 않고, 예를 들면, 인터넷, 인트라넷, 엑스트라넷, LAN, ISDN, VAN, CATV 통신망, 가상 전용망(virtual private network), 전화 회선망, 이동체 통신망, 위성 통신망 등이 이용 가능하다. 또한, 통신 네트워크를 구성하는 전송 매체로서는, 특히 한정되지 않고, 예를 들면, IEEE1394, USB, 전력선 반송, 케이블TV 회선, 전화선, ADSL 회선 등의 유선이라도, IrDA나 리모트 콘트롤과 같은 적외선, Bluetooth(등록상표), 802. 11 무선, HDR, 휴대 전화망, 위성 회선, 지상파 디지털망 등의 무선이라도 이용 가능하다. 또한, 본 발명은, 상기 프로그램 코드가 전자적인 전송으로 구현화된, 반송파에 매입된 컴퓨터 데이터 신호의 형태라도 실현될 수 있다.
[산업상의 이용 가능성]
본 발명은, 특별한 영상 기기 등을 마련하는 일 없이, 얼굴 인증 처리의 정밀도를 보다 향상시킬 수 있다. 따라서, 본 발명은, 인물의 얼굴화상 데이터를 처리하는 화상 처리 장치 등에 널리 알맞게 적용 가능하다.
10 : 화상 데이터
20 : 조작부
30 : 표시부
40 : 제어부
50 : 얼굴 인증부(특정 수단)
51 : 얼굴화상 취득부(추출 수단, 화상 입력 수단)
52 : 얼굴 검출부(추출 수단)
53 : 얼굴특징 추출부(추출 수단)
54 : 성별·연령 추정부(추정 수단)
55 : 인증용 정보 등록부
56 : 얼굴 대조부(추출 수단)
57 : 유사도 판정부(추정 수단)
58 : 성별·연령 비교부(비교 수단)
59 : 인증 결과 출력부(특정 수단)
90 : 기억부
91 : 화상 기억부(인물 화상 기억부)
92 : 얼굴 인증 데이터베이스(등록 얼굴 정보 기억부)
93 : 얼굴특징 정보 기억부
94 : 속성 정보 기억부
100 : 얼굴 인증 장치(인물 화상 검색 시스템)

Claims (9)

  1. 입력된 입력 얼굴화상과, 미리 등록된 복수의 등록 얼굴 정보와의 유사도를 구하고, 상기 입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 추출하는 추출 수단을 구비하는 얼굴 인증 장치에 있어서,
    상기 등록 얼굴 정보는, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고,
    상기 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 추출 수단이 추출한 복수의 등록 얼굴 정보로부터, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 수단을 구비하고,
    상기 특정 수단은,
    상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 수단과,
    상기 추정 수단이 출력한 추정 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 수단를 구비하고,
    상기 속성 정보는, 연령, 성별, 및, 인종을 나타내는 정보 중, 적어도 하나를 포함하고,
    상기 비교 수단의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 것을 특징으로 하는 얼굴 인증 장치.
  2. 제 1항에 있어서,
    상기 추정 수단은, 상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도와의 차가 소정 범위 내가 되는 유사도를 갖는 등록 얼굴 정보에 관해, 상기 추정 속성 정보의 출력을 행하는 것을 특징으로 하는 얼굴 인증 장치.
  3. 제 1항에 있어서,
    상기 추정 수단은, 상기 추출 수단이 추출한 상기 등록 얼굴 정보중, 구하여진 유사도중에서 가장 높은 유사도와, 소정번째로 높은 유사도를 갖는 등록 얼굴 정보에 관해, 상기 추정 속성 정보의 출력을 행하는 것을 특징으로 하는 얼굴 인증 장치.
  4. 삭제
  5. 제 1항 내지 제 3항중 어느 한 항에 있어서,
    상기 속성 정보는, 연령, 성별, 및, 인종을 나타내는 정보중의 복수를 포함하고,
    상기 비교 수단은, 상기 비교에서, 상기 복수의 정보의 적어도 하나가 일치하고 있는지의 여부를 판정하는 것을 특징으로 하는 얼굴 인증 장치.
  6. 제 1항 내지 제 3항중 어느 한 항에 기재된 얼굴 인증 장치를 구비하고,
    인물의 적어도 얼굴의 부분이 나타나 있는 인물 화상을 기억하기 위한 인물 화상 기억부와,
    복수의 상기 등록 얼굴 정보를 기억한 등록 얼굴 정보 기억부와,
    상기 등록 얼굴 정보 기억부에 기억되어 있는 복수의 상기 등록 얼굴 정보중에서 등록 얼굴 정보를 지정하기 위한 지정 수단과,
    상기 인물 화상 기억부에서 상기 인물 화상을 판독하고, 판독 상기 인물 화상으로부터 얼굴에 상당하는 부분을 검출하여, 검출한 부분을 상기 입력 얼굴화상으로서, 상기 얼굴 인증 장치에 입력하는 화상 입력 수단과,
    상기 화상 입력 수단이 입력한 입력 얼굴화상에 대한 얼굴 인증 결과를, 상기 얼굴 인증 장치로부터 취득하는 인증 결과 취득 수단과,
    상기 인증 결과 취득 수단이 취득한 결과에 의거하여, 상기 인물 화상 기억부에 기억되어 있는 인물 화상중, 상기 지정 수단에 의해 지정된 상기 등록 얼굴 정보가 나타내는 인물이 포함되는 인물 화상을 검색하는 검색 수단을 구비하는 것을 특징으로 하는 인물 화상 검색 시스템.
  7. 제 1항 내지 제 3항중 어느 한 항에 기재된 얼굴 인증 장치를 동작시키는 얼굴 인증 장치 제어 프로그램으로서, 컴퓨터를 상기한 각 수단으로서 기능시키기 위한 얼굴 인증 장치 제어 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.
  8. 삭제
  9. 입력된 입력 얼굴화상과, 미리 등록된 복수의 등록 얼굴 정보와의 유사도를 구하고, 상기 입력 얼굴화상과의 유사도가 소정치 이상이 되는 상기 등록 얼굴 정보를 추출하는 추출 수단을 구비하는 얼굴 인증 장치의 제어 방법에 있어서,
    상기 등록 얼굴 정보는, 그 등록 얼굴 정보에 관한 인물에 대한 속성 정보와 함께 등록되어 있고,
    상기 추출 수단이 복수의 상기 등록 얼굴 정보를 추출한 경우, 상기 얼굴 인증 장치가 구비하는 특정 수단이, 추출된 복수의 등록 얼굴 정보로부터, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 특정 스텝을 포함하고,
    상기 특정 스텝은,
    상기 입력 얼굴화상을 해석하고, 해석 결과로부터 상기 입력 얼굴화상에 관한 인물에 대한 속성을 추정하고, 추정한 속성을 나타내는 추정 속성 정보를 출력하는 추정 스텝과,
    상기 추정 스텝에서 추정된 속성 정보와, 상기 복수의 등록 얼굴 정보에 관한 인물에 대한 속성 정보와의 비교를 행하는 비교 스텝를 포함하고,
    상기 속성 정보는, 연령, 성별, 및, 인종을 나타내는 정보 중, 적어도 하나를 포함하고,
    상기 비교 스텝에서의 비교 결과에 의거하여, 상기 입력 얼굴화상에 관한 인물을 포함하는 등록 얼굴 정보를 특정하는 것을 특징으로 하는 얼굴 인증 장치의 제어 방법.
KR1020117003400A 2009-03-13 2010-02-22 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법 Expired - Fee Related KR101166318B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPJP-P-2009-062041 2009-03-13
JP2009062041A JP4544363B1 (ja) 2009-03-13 2009-03-13 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法
PCT/JP2010/001140 WO2010103736A1 (ja) 2009-03-13 2010-02-22 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法

Publications (2)

Publication Number Publication Date
KR20110042181A KR20110042181A (ko) 2011-04-25
KR101166318B1 true KR101166318B1 (ko) 2012-07-18

Family

ID=42728035

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020117003400A Expired - Fee Related KR101166318B1 (ko) 2009-03-13 2010-02-22 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법

Country Status (7)

Country Link
US (1) US20110135168A1 (ko)
EP (1) EP2407930A4 (ko)
JP (1) JP4544363B1 (ko)
KR (1) KR101166318B1 (ko)
CN (1) CN102124493B (ko)
TW (1) TWI496092B (ko)
WO (1) WO2010103736A1 (ko)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5924977B2 (ja) * 2011-03-18 2016-05-25 キヤノン株式会社 画像処理装置および画像処理方法
JP5740210B2 (ja) * 2011-06-06 2015-06-24 株式会社東芝 顔画像検索システム、及び顔画像検索方法
JP5713821B2 (ja) * 2011-06-30 2015-05-07 キヤノン株式会社 画像処理装置及び方法、並びに画像処理装置を有するカメラ
TWI457872B (zh) * 2011-11-15 2014-10-21 Univ Nat Taiwan Normal 具人臉表情辨識輔助之測驗系統及方法
JP6040640B2 (ja) * 2012-08-29 2016-12-07 株式会社バッファロー 画像処理装置及びプログラム
CN103873671A (zh) * 2012-12-17 2014-06-18 联想(北京)有限公司 一种信息处理方法及电子设备
TWI485635B (zh) * 2013-01-30 2015-05-21 Nat Univ Tainan 年齡評估系統與方法
US20140266604A1 (en) * 2013-03-13 2014-09-18 Sololnsight, Inc. Apparatus, methods and systems for integrated workforce management and access control
JP6336709B2 (ja) * 2013-03-29 2018-06-06 綜合警備保障株式会社 警備装置、警備方法およびプログラム
WO2015001856A1 (ja) 2013-07-01 2015-01-08 Necソリューションイノベータ株式会社 属性推定システム
US9779527B2 (en) * 2013-08-15 2017-10-03 Xiaomi Inc. Method, terminal device and storage medium for processing image
US10120879B2 (en) 2013-11-29 2018-11-06 Canon Kabushiki Kaisha Scalable attribute-driven image retrieval and re-ranking
US9576135B1 (en) * 2014-03-04 2017-02-21 Amazon Technologies, Inc. Profiling user behavior through biometric identifiers
US9589205B2 (en) 2014-05-15 2017-03-07 Fuji Xerox Co., Ltd. Systems and methods for identifying a user's demographic characteristics based on the user's social media photographs
CN103995997B (zh) * 2014-05-15 2017-09-12 华为技术有限公司 一种用户权限的分配方法和设备
JP6344984B2 (ja) * 2014-06-09 2018-06-20 キヤノン株式会社 人物推定装置、人物推定方法及びプログラム
US10740802B2 (en) 2014-08-18 2020-08-11 Fuji Xerox Co., Ltd. Systems and methods for gaining knowledge about aspects of social life of a person using visual content associated with that person
JP6483485B2 (ja) * 2015-03-13 2019-03-13 株式会社東芝 人物認証方法
JP6582478B2 (ja) * 2015-03-23 2019-10-02 日本電気株式会社 会計装置、会計方法、及び、プログラム
WO2017044910A1 (en) * 2015-09-10 2017-03-16 I'm In It, Llc Methods, devices, and systems for determining a subset for autonomous sharing of digital media
CN107992728B (zh) * 2016-10-27 2022-05-20 腾讯科技(深圳)有限公司 人脸验证方法及装置
JP6241533B2 (ja) * 2016-11-07 2017-12-06 株式会社バッファロー 画像処理装置及びプログラム
WO2018173194A1 (ja) * 2017-03-23 2018-09-27 日本電気株式会社 認証装置及び認証方法
CN110494898B (zh) 2017-04-10 2023-05-12 因温特奥股份公司 具有无线及面部识别的进入监控系统
US10502443B2 (en) 2017-07-18 2019-12-10 Ademco Inc. Smart human machine interface
CN108124157B (zh) * 2017-12-22 2020-08-07 北京旷视科技有限公司 信息交互方法、装置及系统
JP6760318B2 (ja) * 2018-03-14 2020-09-23 オムロン株式会社 顔画像識別システム、識別器生成装置、識別装置、画像識別システム、及び識別システム
CN109145704B (zh) * 2018-06-14 2022-02-22 西安电子科技大学 一种基于人脸属性的人脸画像识别方法
TWI671685B (zh) 2018-09-19 2019-09-11 和碩聯合科技股份有限公司 臉部識別方法與使用此方法的電子裝置
WO2020208745A1 (ja) * 2019-04-10 2020-10-15 楽天株式会社 認証システム、認証端末、ユーザ端末、認証方法、及びプログラム
CN110460617B (zh) * 2019-08-23 2022-01-11 深圳市元征科技股份有限公司 机考考试系统及相关产品
US12316770B2 (en) 2019-11-25 2025-05-27 Telefonaktiebolaget Lm Ericsson (Publ) Blockchain based facial anonymization system
WO2022269683A1 (ja) * 2021-06-21 2022-12-29 楽天グループ株式会社 認証システム、認証方法、及びプログラム
JP7345067B2 (ja) * 2021-06-21 2023-09-14 楽天グループ株式会社 認証システム、認証方法、及びプログラム
US12517990B2 (en) 2021-06-21 2026-01-06 Rakuten Group, Inc. Authentication system, authentication method and program
CN113705537A (zh) * 2021-09-18 2021-11-26 中国银行股份有限公司 用户身份认证方法及装置
WO2023187960A1 (ja) * 2022-03-29 2023-10-05 日本電気株式会社 認証システム、認証方法およびコンピュータ可読媒体

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004265353A (ja) 2003-03-04 2004-09-24 Nippon Signal Co Ltd:The 個人認証システム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08263655A (ja) * 1995-03-17 1996-10-11 Nissan Motor Co Ltd パターン認識方法
JP2003346149A (ja) * 2002-05-24 2003-12-05 Omron Corp 顔照合装置および生体情報照合装置
JP2005165447A (ja) * 2003-11-28 2005-06-23 Toshiba Corp 年齢・性別判別装置、年齢・性別判別方法および人物認識装置
CN100405388C (zh) * 2004-05-14 2008-07-23 欧姆龙株式会社 特定被摄体检测装置
AR051670A1 (es) * 2004-11-16 2007-01-31 Imageware Systems Inc Plataforma biometrica multimodal
JP2006146413A (ja) 2004-11-17 2006-06-08 Mitsubishi Electric Corp 対象追従装置
JP5008269B2 (ja) * 2005-04-08 2012-08-22 キヤノン株式会社 情報処理装置、情報処理方法
US7519200B2 (en) * 2005-05-09 2009-04-14 Like.Com System and method for enabling the use of captured images through recognition
JP2007114931A (ja) 2005-10-19 2007-05-10 Konica Minolta Holdings Inc 認証装置
JP4696857B2 (ja) 2005-11-02 2011-06-08 オムロン株式会社 顔照合装置
KR100738080B1 (ko) * 2005-11-08 2007-07-12 삼성전자주식회사 성별을 이용한 얼굴 인식 방법 및 장치
JP2008158679A (ja) 2006-12-21 2008-07-10 Toshiba Corp 人物認証システムおよび人物認証方法
US20080209227A1 (en) * 2007-02-28 2008-08-28 Microsoft Corporation User Authentication Via Biometric Hashing
TW200907827A (en) * 2007-08-08 2009-02-16 Acer Inc System and method for performing objects with bio-characteristics recognition

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004265353A (ja) 2003-03-04 2004-09-24 Nippon Signal Co Ltd:The 個人認証システム

Also Published As

Publication number Publication date
WO2010103736A1 (ja) 2010-09-16
JP2010218060A (ja) 2010-09-30
JP4544363B1 (ja) 2010-09-15
TWI496092B (zh) 2015-08-11
TW201037611A (en) 2010-10-16
EP2407930A4 (en) 2015-10-21
CN102124493B (zh) 2013-07-24
KR20110042181A (ko) 2011-04-25
EP2407930A1 (en) 2012-01-18
CN102124493A (zh) 2011-07-13
US20110135168A1 (en) 2011-06-09

Similar Documents

Publication Publication Date Title
KR101166318B1 (ko) 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법
JP7132387B2 (ja) 画像処理装置、画像処理方法およびプログラム
KR100996066B1 (ko) 얼굴화상 등록 장치, 얼굴화상 등록 방법, 및 기록 매체
US8335354B2 (en) Apparatus for registering face identification features, method for registering the same, program for registering the same, and recording medium
US8929595B2 (en) Dictionary creation using image similarity
KR100731937B1 (ko) 얼굴 메타 데이터 생성
KR101168546B1 (ko) 얼굴 대조 장치, 전자 기기, 얼굴 대조 장치의 제어 방법 및 얼굴 대조 장치 제어 프로그램
CN103313018B (zh) 登记确定装置及其控制方法、以及电子装置
US8649575B2 (en) Method and apparatus of a gesture based biometric system
KR20170077366A (ko) 얼굴 인식 시스템 및 방법
KR101546137B1 (ko) 인물 인식 장치 및 방법
US20100158319A1 (en) Method and apparatus for fake-face detection using range information
JP5792985B2 (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
JP2007317062A (ja) 人物認識装置及びその方法
JP7694738B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
US9286707B1 (en) Removing transient objects to synthesize an unobstructed image
CN107231519A (zh) 视频处理装置及控制方法
KR101252843B1 (ko) 이동 통신 단말기에서 이미지 관리 방법
CN116152936B (zh) 一种带交互式活体检测的人脸身份认证系统及其方法
US7545983B2 (en) Person image retrieval apparatus
KR100840022B1 (ko) 프리뷰 히스토리를 참조로 디지털 데이터에 포함된 인물을인식하는 방법 및 시스템
JP4944818B2 (ja) 検索装置および検索方法
JP6112346B2 (ja) 情報収集システム、プログラムおよび情報収集方法
JP2005242890A (ja) 人物特定装置
JP2011237910A (ja) 画像処理装置、画像表示方法、及び画像処理プログラム

Legal Events

Date Code Title Description
A201 Request for examination
PA0105 International application

St.27 status event code: A-0-1-A10-A15-nap-PA0105

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U12-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

FPAY Annual fee payment

Payment date: 20150619

Year of fee payment: 4

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

FPAY Annual fee payment

Payment date: 20160617

Year of fee payment: 5

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

FPAY Annual fee payment

Payment date: 20170616

Year of fee payment: 6

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 6

FPAY Annual fee payment

Payment date: 20180619

Year of fee payment: 7

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 7

FPAY Annual fee payment

Payment date: 20190619

Year of fee payment: 8

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 8

FPAY Annual fee payment

Payment date: 20200622

Year of fee payment: 9

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 9

FPAY Annual fee payment

Payment date: 20210618

Year of fee payment: 10

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 10

FPAY Annual fee payment

Payment date: 20220620

Year of fee payment: 11

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 11

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 12

R18-X000 Changes to party contact information recorded

St.27 status event code: A-5-5-R10-R18-oth-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 13

PC1903 Unpaid annual fee

St.27 status event code: A-4-4-U10-U13-oth-PC1903

Not in force date: 20250711

Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

PC1903 Unpaid annual fee

St.27 status event code: N-4-6-H10-H13-oth-PC1903

Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE

Not in force date: 20250711