JP2010218060A - 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法 - Google Patents

顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法 Download PDF

Info

Publication number
JP2010218060A
JP2010218060A JP2009062041A JP2009062041A JP2010218060A JP 2010218060 A JP2010218060 A JP 2010218060A JP 2009062041 A JP2009062041 A JP 2009062041A JP 2009062041 A JP2009062041 A JP 2009062041A JP 2010218060 A JP2010218060 A JP 2010218060A
Authority
JP
Japan
Prior art keywords
face
registered
information
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009062041A
Other languages
English (en)
Other versions
JP4544363B1 (ja
Inventor
Sei Hosoi
聖 細井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2009062041A priority Critical patent/JP4544363B1/ja
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to EP10750495.3A priority patent/EP2407930A4/en
Priority to KR1020117003400A priority patent/KR101166318B1/ko
Priority to PCT/JP2010/001140 priority patent/WO2010103736A1/ja
Priority to US13/059,424 priority patent/US20110135168A1/en
Priority to CN201080002361XA priority patent/CN102124493B/zh
Priority to TW099105236A priority patent/TWI496092B/zh
Application granted granted Critical
Publication of JP4544363B1 publication Critical patent/JP4544363B1/ja
Publication of JP2010218060A publication Critical patent/JP2010218060A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • A61B5/1171Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • A61B5/1176Recognition of faces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/178Human faces, e.g. facial parts, sketches or expressions estimating age from face image; using age information for improving recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/179Human faces, e.g. facial parts, sketches or expressions metadata assisted face recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】特別な映像機器等を設けることなく、顔認証処理の精度をより向上させる。
【解決手段】入力された入力顔画像データと、予め登録された複数の登録顔特徴情報との類似度を求め、入力顔画像データとの類似度が所定値以上となる登録顔特徴情報を抽出する顔照合部56を備える顔認証装置100において、登録顔特徴情報が、登録顔特徴情報に関する人物についての登録属性情報とともに登録されており、顔照合部56が抽出した複数の登録顔特徴情報から、入力顔画像データに関する人物を含む登録顔特徴情報を特定する顔認証部50を備え、顔認証部50は、入力顔画像データに関する人物についての属性を推定し、属性情報を出力する性別・年齢推定部54と、出力した属性情報と、複数の登録顔特徴情報の登録属性情報との比較を行う性別・年齢比較部58と、を備え、上記比較結果に基づいて、登録顔特徴情報を特定する。
【選択図】図1

Description

本発明は、人物の顔を示す画像データの顔認証処理を行う顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法に関する。
従来、顔認証技術の分野において、検索対象となる画像から人の顔を検出し(例えば、特許文献1)、検出した顔を、予め登録されている特徴量などの顔認証情報に基づいて照合することによって、その画像に含まれる顔が誰の顔であるか認証する技術が知られている(例えば、特許文献2)。
また、顔認証処理の精度向上を目的として、2眼のステレオカメラを用いて被写体の目尻間の距離を測定し、測定した目尻間の距離に基づいて認証を行う手法が提案されている(特許文献3)。このように、目尻間の距離等、被写体の身体的特徴を用いた顔認証技術が提案されている。
他にも、顔認証処理を高速化する技術も提案されている。この高速化技術は、例えば、性別、年齢・年代等の属性情報により、予め顔認証処理に用いる顔認証情報を絞り込んでおいてから顔認証を行うものである(例えば、特許文献4,5)。また、性別、年齢・年代等の属性情報を、顔画像から精度よく推定する技術の研究開発が進められている(例えば、非特許文献1)。
特開2005−327242号(2005年11月24日公開) 特開2007−128262号(2007年5月24日公開) 特開2007−114931号(2007年5月10日公開) 特開2008−158679号(2008年7月10日公開) 特開2006−146413号(2006年6月8日公開)
瀧川えりな、細井聖、"顔画像による自動性別・年代推定"、OMRON TECHNICS、2003年3月、第43巻、第1号(通巻145号),pp.37−41
しかしながら、2眼のステレオカメラを用いて、被写体の目尻間の距離を測定する手法により、顔認証処理の精度向上を図る技術では、2眼のステレオカメラを設けなければならない。また、この手法では、目尻間の距離を測定する必要があり、既に画像化されたものを対象とする顔画像検索には使用できないという問題がある。なぜならば、画像化されたものから目尻間の距離を測定すると、顔の向きの変化等で、目尻間の距離を正確に測定することができないからである。
また、顔画像検索にいおいて、属性情報により、予め顔認証処理に用いる認証情報を絞り込んでおいてから顔認証を行う手法では、顔画像検索の高速化を図ることができても、顔認証そのものの精度の向上には寄与しない。この手法では、むしろ顔認証処理の精度が低下する傾向がある。なぜならば、絞り込みが誤っていた場合、顔認証に用いるべき認証情報が、検索対象から外れてしまい、その結果、認証結果とすべき画像に到達することができなくなるおそれがあるからである。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、特別な映像機器等(例えば、2眼のステレオカメラ)を設けることなく、顔認証処理の精度をより向上させることのできる、顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法を実現することにある。
本発明に係る顔認証装置は、上記課題を解決するために、入力された入力顔画像と、予め登録された複数の登録顔情報との類似度を求め、上記入力顔画像との類似度が所定値以上となる上記登録顔情報を抽出する抽出手段を備える顔認証装置において、上記登録顔情報は、該登録顔情報に関する人物についての属性情報とともに登録されており、上記抽出手段が複数の上記登録顔情報を抽出した場合、上記抽出手段が抽出した複数の登録顔情報から、上記入力顔画像に関する人物を含む登録顔情報を特定する特定手段を備え、上記特定手段は、上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定手段と、上記推定手段が推定した属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較手段と、を備え、上記比較手段の比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定することを特徴としている。
本発明に係る顔認証装置の制御方法は、上記課題を解決するために、入力された入力顔画像と、予め登録された複数の登録顔情報との類似度を求め、上記入力顔画像との類似度が所定値以上となる上記登録顔情報を抽出する抽出手段を備える顔認証装置の制御方法において、上記登録顔情報は、該登録顔情報に関する人物についての属性情報とともに登録されており、上記抽出手段が複数の上記登録顔情報を抽出した場合、上記顔認証装置が備える特定手段が、抽出された複数の登録顔情報から、上記入力顔画像に関する人物を含む登録顔情報を特定する特定ステップを含み、上記特定ステップは、上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定ステップと、上記推定ステップにおいて推定された属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較ステップと、を含み、上記比較ステップにおける比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定することを特徴としている。
上記構成によれば、顔認証装置は、入力された入力顔画像と、予め登録された登録顔情報との類似度を求め、入力顔画像との類似度が所定値以上となる登録顔情報を抽出する。
なお、入力顔画像、および登録顔情報は、人物の顔を含む画像である。また、類似度は、入力顔画像と、登録顔情報とがどれだけ似ているかを示す指標であり、例えば、公知の顔認証技術のように、顔画像から特徴点を抽出して、それらを相互に評価することで求めることができる。また、上記登録顔情報は、該登録顔情報に関する人物についての属性情報とともに登録されている。
入力顔画像との類似度が所定値以上となる上記登録顔情報を複数抽出した場合、その複数の登録顔情報から、上記入力顔画像に関する人物を含む登録顔情報を特定する。
従来は、類似度が最も高い登録顔情報を認証結果とされることが多かった。しかしながら、出力された複数の登録顔情報は、互いによく似た人物を示している可能性が高い。例えば、親子、兄弟姉妹等は、顔の造形が似ているため、親子、兄弟姉妹について、顔認証を行うと類似度が近くなることが多い。また、類似度の算出は、人物の表情・顔の向き・照明変化などの状況により影響を受け、誤差を生じることもあり、このため顔認証処理における類似度が近くなってしまうこともある。
このような場合、単に類似度が最も高い登録顔情報を認証結果としてしまうと、互いによく似た容姿の他の人物を誤った認証結果としてしまうおそれがある。よって、類似度以外の指標による判断が顔認証処理において望まれる。
これに対して、本発明に係る顔認証装置では、次のようにして登録顔情報の特定を行う。すなわち、まず、顔認証装置は、上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した情報を示す推定属性情報を出力する。そして、顔認証装置は、出力した推定属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う。このように、本発明では、単に類似度に基づいて認証を行うのではなく、さらに属性情報も判定の基準としている。
それから、本発明に係る顔認証装置では、属性情報の比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定する。これにより、例えば、家族のように容姿が似ている人物同士でも、属性情報が異なっていれば、これらの人物を判別することができるようになり、顔認証処理の精度が向上する。
さらにいえば、上記の特定処理は、顔認証装置が、入力顔画像との類似度が所定値以上となる上記登録顔情報を複数抽出した場合に行うので、必ずしも顔認証処理のたびに、属性の推定を実行しなくても済む。これに対して、従来技術では(例えば、特許文献4,5)、毎回属性の推定を実行する構成になっていた。つまり、従来技術の構成よりも、上記のように顔認証処理を実行してから、属性を推定する本発明に係る顔認証装置のほうが推定処理の効率の面では優れている。
この結果、特別な映像機器等を設けることなく、顔認証処理の精度をより向上させることができるという効果を奏する。
本発明に係る顔認証装置では、上記推定手段は、上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度との差が所定範囲内となる類似度をもつ登録顔情報について、上記推定属性情報の出力を行うものであることが好ましい。
上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度との差が所定範囲内となる類似度をもつ登録顔情報は、所定範囲外となる類似度をもつ登録顔情報よりも、最も高い類似度をもつ登録顔情報とよく似た人物を示している可能性が高い。従って、顔認証において、これらの登録顔情報が示す人物を誤認識する可能性も高い。
顔認証処理の効率が求められるような状況では、属性情報を比較する処理の負荷が無視できないような場合も考えられるところ、上記構成によれば、このように、顔認証において誤認識が生じる蓋然性が高いものに限って、推定属性情報の出力を行う。よって、入力顔画像の照合のたびに、推定属性情報を出力しなくても済むため、上記構成は、毎回推定属性情報を出力する構成よりも、処理効率の面で有利である。
その結果、顔認証処理の効率をそれほど損なうことなく、顔認証処理の精度を向上することができるという効果を奏する。
本発明に係る顔認証装置では、上記推定手段は、上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度と、所定番目に高い類似度をもつ登録顔情報について、上記推定属性情報の出力を行うものであることが好ましい。
上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度をもつ登録顔情報と、所定番目に高い類似度をもつ登録顔情報は、その他の登録顔情報と比べて、互いによく似た人物を示している可能性が高い。従って、顔認証において、これらの登録顔情報が示す人物を誤認識する可能性も高い。
顔認証処理の効率が求められるような状況では、属性情報を比較する処理の負荷が無視できないような場合も考えられるところ、上記構成によれば、顔認証において誤認識が生じる蓋然性が高いものに限って、推定属性情報の出力を行う。よって、入力顔画像の照合のたびに、推定属性情報の出力しなくても済むため、上記構成は、毎回属性情報を推定する構成よりも、処理効率の面で有利である。
このため、顔認証処理の効率をそれほど損なうことなく、顔認証処理の精度を向上することができるという効果を奏する。
本発明に係る顔認証装置では、上記属性情報は、年齢、性別、および、人種を示す情報のうち、少なくとも1つを含むことが好ましい。
属性情報は、年齢、性別、および、人種を示す情報のうち、少なくとも1つを含む。すなわち、年齢、性別、および、人種を示す情報を用いて、顔認証における誤認識を防ぐことができる。
本発明に係る顔認証装置を備え、人物の少なくとも顔の部分が示されている人物画像を記憶するための人物画像記憶部と、複数の上記登録顔情報を記憶する登録顔情報記憶部と、上記登録顔情報記憶部に記憶されている複数の上記登録顔情報の中から登録顔情報を指定するための指定手段と、上記人物画像記憶部から上記人物画像を読み出し、読み出した上記人物画像から顔に相当する部分を検出して、検出した部分を上記入力顔画像として、上記顔認証装置に入力する画像入力手段と、上記画像入力手段が入力した入力顔画像に対する顔認証結果を、上記顔認証装置から取得する認証結果取得手段と、上記認証結果取得手段が取得した結果に基づいて、上記人物画像記憶部に記憶されている人物画像のうち、上記指定手段によって指定された上記登録顔情報が示す人物が含まれる人物画像を検索する検索手段とを備える人物画像検索システムを構成してもよい。
上記構成によれば、人物の少なくとも顔の部分が示されている人物画像を読み出して、人物画像の中から人物の顔にあたる部分を検出し、入力画像として、顔認証装置に入力する。そして、上記顔認証装置から顔認証結果を取得する。また、取得した顔認証結果を用いて、指定された登録顔情報が示す人物が含まれる人物画像を検索する。
このように、人物画像検索システムに、顔認証装置を組み込むことによって、所望の人物を示す人物画像を高い精度で検索する人物画像検索システムが実現可能である。
なお、上記顔認証装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各手段として動作させることにより顔認証装置をコンピュータにて実現させる顔認証装置制御プログラムおよびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明に係る顔認証装置は、登録顔情報が、該登録顔情報に関する人物についての属性情報とともに登録されており、抽出手段が複数の上記登録顔情報を抽出した場合、上記抽出手段が抽出した複数の登録顔情報から、入力顔画像に関する人物を含む登録顔情報を特定する特定手段を備え、上記特定手段は、上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定手段と、上記推定手段が推定した属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較手段と、を備え、上記比較手段の比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定する構成である。
本発明に係る顔認証装置の制御方法は、登録顔情報が、該登録顔情報に関する人物についての属性情報とともに登録されており、抽出手段が複数の上記登録顔情報を抽出した場合、上記顔認証装置が備える特定手段が、抽出された複数の登録顔情報から、入力顔画像に関する人物を含む登録顔情報を特定する特定ステップを含み、上記特定ステップは、上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定ステップと、上記推定ステップにおいて推定された属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較ステップと、を含み、上記比較ステップにおける比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定する方法である。
これにより、特別な映像機器等を設けることなく、顔認証処理の精度をより向上させることができるという効果を奏する。
本発明の実施形態を示すものであり、顔認証装置の概略的構成を示すブロック図である。 顔特徴情報記憶部に記憶されている登録顔特徴情報の一例を示す図である。 属性情報記憶部に記憶されている登録属性情報の一例を示す図である。 顔認証装置における登録処理の流れについて示したフローチャートである。 顔認証装置における顔認証処理の流れについて示したフローチャートである。
本発明の一実施形態について図1〜図5に基づいて説明すると以下の通りである。
(顔認証装置の構成)
まずは、図1を参照して、本実施形態に係る顔認証装置(人物画像検索システム)100の概略構成を説明する。図1は、顔認証装置100の概略的構成を示すブロック図である。顔認証装置100は、人物を特定するための顔認証情報を予め登録しておき、登録した顔認証情報を用いて、入力された画像データについての顔認証を行うものである。ここで、顔認証とは、入力された画像データが示す人物が、登録した顔認証情報よって特定される人物に合致するかを判定する処理である。
図1に示すとおり、顔認証装置100は、操作部20、表示部30、制御部40、および記憶部90を備える構成である。
操作部20は、ユーザから各種の入力を受け付けるものであり、入力用ボタン、キーボード、テンキー、マウスなどのポインティングデバイス、タッチパネル、その他の入力デバイスによって構成される。受け付けたユーザの操作に応じて操作データを生成し、生成した操作データを制御部40に送信する。
表示部30は、ユーザに対して、情報提供を行うための画面表示を行うものである。表示部30は、制御部40から受信した画面データに基づいて、表示画面に文字や画像などの各種の情報を表示する。表示部30は、例えば、LCD(Liquid Crystal Display)、PDP(Plasma Display Panel)、EL(Electroluminescence)ディスプレイなどの表示デバイスによって構成される。
制御部40は、顔認証装置100における各種機能を統括的に制御するものである。制御部40の制御機能は、制御プログラムをCPU(Central Processing Unit)などの処理装置が実行することによって実現される。この制御プログラムは、例えば、RAM(Random Access Memory)やフラッシュメモリなどの記憶素子としての記憶部90に記憶されていてもよいし、ハードディスクなどにインストールされたものを読み込んで使用する形態であってもよい。なお、制御部40の詳細については後述する。
記憶部90は、各種データおよびプログラムを記憶するものである。記憶部90の構成としては、例えば、ハードディスク等の不揮発性の記憶装置と、制御部40が動作するときに必要なプログラムや、各種制御に用いる固定データを記憶する読出し専用の半導体メモリであるROM(Read Only Memory)と、演算に使用するデータ、および演算結果などを一時的に記憶する、いわゆるワーキングメモリとしてのRAMと、各種の設定データなどを記憶する書換え可能な不揮発性メモリ(例えばフラッシュメモリ)とが挙げられる。なお、記憶部90の詳細については後述する。
(制御部・記憶部の詳細な構成)
引き続き、図1を参照して、制御部40および記憶部90の要部構成について説明する。ここで、図1について補足説明をしておく。前述のとおり、顔認証装置100は、予め登録した顔認証情報を用いて、入力された画像データについての顔認証を行うものである。つまり、顔認証装置100の処理は、登録処理と、顔認証処理との2つに大別される。同図において、各部の間で、点線矢印で示す関係(データの流れ)は、登録処理のときのみにおいて用いられるものを示している。また、各部の間で、実線矢印で示す関係(データの流れ)は、顔認証処理のみにおいて用いられるもの、または、顔認証処理および登録処理の両方で用いられるものを示している。
(記憶部について)
まず、記憶部90について詳細に説明する。図1に示すとおり、記憶部90は、画像記憶部91と、顔認証データベース92とを備える。
画像記憶部91は、顔認証部(特定手段)50が顔認証を行うための画像データを記憶するためのものである。本実施形態では、画像データは、人物の少なくとも顔の部分が示されているものとする。画像データが示す人物は、1人でも、複数人でもかまわない。
画像データは、例えば、次のような方法により、顔認証装置100に供給し、画像記憶部91に記憶しておくことができる。まず、顔認証装置100に、被写体を撮像するための撮像部(不図示)を設けて、撮像部が撮像を行うことにより取得した画像データ10を画像記憶部91に記憶しておいてもよい。撮像部は、CCD(Charge Coupled Device)や、CMOS(Complementary Metal Oxide Semiconductor)などの光電変換素子などにより構成することができる。
また、顔認証装置100に外部と通信を行うための通信部(不図示)を設けて、顔認証装置100をネットワークに接続可能にし、ネットワークを介して、顔認証装置100が外部から画像データ10を取得して、取得した画像データ10を画像記憶部91に記憶しておいてもよい。
顔認証データベース92は、顔認証部50が顔認証処理に用いる画像データおよび画像データから抽出されたデータを登録しておくものである。顔認証データベース92は、顔特徴情報記憶部93および属性情報記憶部94から構成される。
以下、図2および図3を参照しながら、顔特徴情報記憶部93および属性情報記憶部94について説明する。図2は、顔特徴情報記憶部93に記憶されている登録顔特徴情報(登録顔情報)の一例を示す図である。図3は、属性情報記憶部94に記憶されている登録属性情報の一例を示す図である。
顔特徴情報記憶部93は、顔照合部56が顔照合処理を行うための顔特徴情報を登録しておくためのデータベースである。顔特徴情報は、顔特徴抽出部53が入力顔画像データに基づいて出力するものであり、認証用情報登録部55によって顔特徴情報記憶部93に登録される。顔特徴情報には、元となった入力顔画像データが含まれていてもよい。
登録処理は、入力顔画像データから得られた顔特徴情報を顔認証データベース92に登録することである。本実施形態に係る顔認証装置100では、入力する入力顔画像データ(画像データ)に含まれる顔画像から抽出される特徴点である顔特徴情報を顔認証データベース92に予め登録しておくことができる。
図2を参照しながら、顔特徴情報記憶部93に登録されている顔特徴情報の一例について説明する。
図2に示すように、顔特徴情報記憶部93には、特定の人物AおよびBを顔認証によって特定するための登録顔特徴情報が記憶されている。図示の例では、人物A(母親)は、人物B(娘)と母親・娘の関係である。また、各登録顔特徴情報には、識別情報が付されており、この識別情報によって各登録顔特徴情報を一意に特定することができるようになっている。ここでは、説明の便宜上、人物A(母親)に対応する識別情報をA、人物B(娘)に対応する識別情報をBとする。すなわち、登録顔特徴情報Aは、顔認証によって母親を特定するためのデータであり、登録顔特徴情報Bは、顔認証によって娘を特定するためのデータである。
登録顔特徴情報には、その人物の顔の特徴を示す情報である顔特徴情報が複数含まれる。図2の例では、登録顔特徴情報Aは、母親を特定するための顔特徴情報である顔特徴情報A〜A、…を含む。この顔特徴情報A〜Aは、1つの画像データから顔特徴抽出部53が出力する顔特徴情報に対応している。なお、顔特徴情報A〜Aは、入力顔画像データそのものを含んでいてもよい。
図示の例のように、登録顔特徴情報Aを、複数の顔特徴情報によって構成しているのは、顔照合部56における照合の精度を向上させるためである。しかしながら、上記の例に限られず、登録顔特徴情報Aに含まれる顔特徴情報は少なくとも1つあればよい。また、顔特徴情報Aには、顔特徴抽出部53が抽出した複数の特徴点に関する情報a11、a12、…が含まれている。顔特徴情報A〜A、…についても同様である。特徴点に関する情報a11、a12、…については、後に詳細に述べる。
なお、登録顔特徴情報Bについては、登録顔特徴情報Aと同様のデータ構造であるので、その説明を省略する。
属性情報記憶部94は、性別・年齢比較部58が性別・年代の比較処理を行うための属性情報を登録しておくためのデータベースである。属性情報は、性別・年齢推定部54が入力顔画像データに基づいて出力するものであり、認証用情報登録部55によって属性情報記憶部94に登録される。図3を参照しながら、属性情報記憶部94に記憶されている属性情報の一例について説明する。
図3に示すように、属性情報記憶部94には、人物A(母親)および人物B(娘)の属性情報が記憶されている。顔特徴情報記憶部93と、属性情報記憶部94とでは、共通の識別情報が用いられる。図示の例では、登録属性情報AおよびBは、それぞれ、顔特徴情報記憶部93に記憶されている登録顔特徴情報AおよびBに対応している。
図示の例において、登録属性情報は、年齢(年代)および性別から構成されている。
図3が示す登録属性情報Aにおいて、年齢には、「40歳」が設定されており、性別には、「女性」が設定されている。
また、登録属性情報Bにおいて、年齢には、「18歳」が設定されており、性別には、「女性」が設定されている。
なお、顔特徴情報記憶部93に記憶されている登録顔特徴情報および属性情報記憶部94に記憶されている登録属性情報は、ユーザが手動によって入力・設定できるようにしてもよい。例えば、ユーザが、操作部20を介して、各情報を入力したものを、顔認証部50が取得して、顔認証データベース92に登録するようにしてもよい。また、顔認証データベース92に登録する情報を、顔認証装置100の外部から供給してもよい。例えば、取り外し可能な記録媒体によって顔認証装置100の外部から情報を供給するやり方や、ネットワーク通信によって顔認証装置100の外部から情報を取得するやり方などが挙げられる。
(制御部について)
続いて、制御部40について詳細に説明する。図1に示すとおり、制御部40は、顔認証処理を実行するための顔認証部50を備えている。顔認証部50は、操作部20から送信される操作データに応じて顔認証処理を実行するものである。より詳細には、顔認証部50は、顔画像取得部(抽出手段)51、顔検出部(抽出手段)52、顔特徴抽出部(抽出手段)53、性別・年齢推定部(推定手段)54、認証用情報登録部55、顔照合部(抽出手段)56、類似度判定部(推定手段)57、性別・年齢比較部(比較手段)58、および認証結果出力部(特定手段)59を備える構成である。
顔画像取得部51は、登録処理および顔認証処理において用いられる画像データを取得するものである。顔画像取得部51は、登録処理および顔認証処理において、画像記憶部91から画像データを読み出し、読み出した画像データを顔検出部52に転送する。
なお、顔画像取得部51は、登録処理において、前述のとおり外部から供給される画像データ10を取得し、取得した画像データ10を顔検出部52に転送してもよい。このとき、顔画像取得部51は、外部から供給される画像データ10を、画像記憶部91に記憶してもよい。
顔検出部52は、顔画像取得部51から転送される画像データから人の顔に相当する部分を検出し、検出された顔部分についての画像である入力顔画像データを出力するものである。顔検出部52は画像データから複数の顔を検出してもよく、顔検出部52は、顔の数や、画像データにおける位置等を出力するように構成されていてもよい。また、顔検出部52は、画像データから人の顔を検出できなかった場合は、画像データが人物を示すものでないと判断してもよい。例えば、画像データが、風景写真の画像だった場合などが考えられる。このとき、顔認証部50は、顔認証処理を中止してもよい。
なお、顔検出部52が実行する顔検出処理には、特許文献1の技術を適用することができる。しかしながら、顔検出部52が実行する顔検出処理には、これに限られず、公知の顔検出技術を用いることができる。
顔特徴抽出部53は、顔検出部52が出力した入力顔画像データから、その入力顔画像データに含まれる顔の特徴点を抽出して、抽出した1または複数の特徴点に関する情報を顔特徴情報として出力する。顔特徴抽出部53は、例えば、入力顔画像データに含まれる人物の顔において、目、鼻、口と認められる部位を特徴点として抽出する。また、特徴点に関する情報としては、例えば、上記各部位の位置、大きさ等が挙げられる。
ここで、再び図2を参照して、顔特徴抽出部53が生成する顔特徴情報についてさらに具体的に説明すると次のとおりである。登録顔特徴情報Aについて例示すると、1つの入力顔画像データから顔特徴抽出部53は、顔特徴情報Aを生成してもよい。このとき、目、鼻、…の特徴点に関する情報が、それぞれa11、a12、…に該当する。
なお、顔特徴抽出部53の特徴点の抽出および顔特徴情報の生成には、公知の技術を用いることができる。
性別・年齢推定部54は、顔検出部52が出力した入力顔画像データを分析して、入力顔画像データが示す人物の性別および年齢を推定し、その推定結果を属性情報として出力するものである。性別・年齢推定部54では、例えば、非特許文献1に開示されている技術を用いて性別・年齢を推定してもよい。しかしながら、これに限られず、性別・年齢推定部54における性別・年齢推定処理では、公知の技術を適宜採用することができる。また、性別・年齢推定部54は、10代、20代、…、あるいは、幼年、青少年、青壮年、高年といった年代を推定してもよい。
性別・年齢推定部54は、登録処理の場合と、顔認証処理の場合との両方において、推定処理を行う。性別・年齢推定部54は、登録処理の場合には、属性情報を認証用情報登録部55に出力する。一方、性別・年齢推定部54は、顔認証処理の場合には、属性情報を性別・年代比較部58に出力する。
認証用情報登録部55は、登録処理において、顔認証データベース92に顔認証処理において用いられる情報を登録するためのものである。顔認証処理において用いられる情報には、顔特徴抽出部53が出力した顔特徴情報と、性別・年齢推定部54が出力した属性情報とが含まれる。なお、認証用情報登録部55は、顔検出部52が出力した入力顔画像データを、顔認証データベース92に登録するように構成されていてもよい。
顔照合部56は、顔特徴情報記憶部93から順に登録顔特徴情報を読み出して、読み出し登録顔特徴情報に基づいて、顔検出部52が出力した入力顔画像データを照合するものである。顔照合部56における照合処理は、登録顔特徴情報に含まれる1または複数の顔特徴情報に基づいて行われる。また、顔照合部56は、登録属性情報を照合処理において用いることも可能である。
また、本実施形態では、顔照合部56の照合処理において、それぞれの登録顔特徴情報が特定する人物と、入力顔画像データが示す人物との類似度を算出する。この類似度は、数値で表すことができる。また、顔照合部56は、算出した類似度が、所定の閾値以上であるか否かを判定する。
顔照合部56は、判定の結果、類似度が所定の閾値以上である登録顔特徴情報が1つも無かった場合は、照合結果として、「該当なし」を出力する。
これに対して、顔照合部56は、判定の結果、類似度が所定の閾値以上である登録顔特徴情報が1または複数であった場合は、その登録顔特徴情報を照合結果として出力する。
なお、顔照合部56の照合結果に含まれる登録顔特徴情報が1つであった場合は、入力顔画像データに示されている人物は、その登録顔特徴情報によって特定される人物と判定できたということである。
なお、顔照合部56における照合処理では、例えば、特許文献2に記載されている公知の技術を採用することができる。また、顔照合部56は、上記構成に限定されることなく、適宜設計変更も可能である。
類似度判定部57は、顔照合部56が出力した照合結果に、複数の登録顔特徴情報が含まれる場合、登録顔特徴情報同士が類似範囲に属するかを判定するものである。
類似度判定部57は、具体的には、顔照合部56が算出した複数の類似度うち、最も高い類似度と、2番目に高い類似度との差を算出し、算出した差が、予め定められた類似範囲設定値以下であるかを判定する。
最も高い類似度の登録顔特徴情報と、2番目に高い類似度の登録顔特徴情報とは、互いによく似た人物を示している可能性が高い。そして、2つの類似度の差が小さければ、それらが特によく似ている人物を示していることになり、より顔認証処理が誤る可能性も高くなる。そこで、類似度判定部57は、最も高い類似度の登録顔特徴情報と、2番目に高い類似度の登録顔特徴情報とが、特によく似ている人物を示しているか否かを類似範囲設定値を用いて判定する。
つまり、算出した差が、類似範囲設定値以下であれば、その2つの登録顔特徴情報により特定される人物は、特によく似ている場合が考えられる。よって、類似度に基づく顔認証処理だけでは、判断を誤ってしまうおそれがある。
類似度判定部57は、算出した類似度の差が、予め定められた類似範囲設定値以下である場合、性別・年齢推定部54に、入力画像データの性別・年齢推定処理を行うよう指示するとともに、「類似範囲設定値以下」という判定結果を出力する。
一方、類似度判定部57は、算出した差が、予め定められた類似範囲設定値より大きい場合、「類似範囲設定値より大きい」という判定結果を出力する。
なお、類似範囲設定値は、ユーザが任意に設定可能な値である。また、類似範囲設定値には、初期設定値を設定しておくこともでき、例えば、“最も高い類似度の10%の値”とすることができる。
性別・年齢比較部58は、顔認証処理において、入力顔画像データの属性情報と、属性情報記憶部94に記憶されている登録属性情報との一致・不一致を判定し、その判定結果を出力するものである。
性別・年齢比較部58は、より具体的には、次のようにして、両者の属性情報の一致度を判定する。まず、性別・年齢比較部58は、類似度判定部57が出力した判定結果が、「類似範囲設定値以下」であった場合に、性別・年齢推定部54から、入力顔画像データの属性情報を取得する。
また、性別・年齢比較部58は、最も高い類似度の登録顔特徴情報と、2番目に高い類似度が算出された登録顔特徴情報とについて、属性情報記憶部94から対応する属性情報を読み出す。
そして、性別・年齢比較部58は、属性情報記憶部94から読み出したそれぞれの属性情報と、入力顔画像データの属性情報とを比較する。
本実施形態では、性別・年齢比較部58は、属性情報の比較において、属性情報に含まれる“年齢”および“性別”をそれぞれ比較する。
ここで、性別・年齢比較部58が実行する比較処理について説明する。
性別・年齢比較部58は、“年齢”の比較においては、年齢が一致しているか否か、および、登録属性情報に含まれる年齢と、入力顔画像データの属性情報に含まれる年齢との差の絶対値が所定の範囲内であるか否かを判定する。性別・年齢比較部58は、その差の絶対値が所定の範囲内であれば、両者が示す人物は、年齢が「同年代である」と判定する。以下、性別・年齢比較部58が、年齢が「同年代である」と判定する場合には、年齢が「一致している」と判定する場合が含まれるものとする。しかしながら、これに限られず、性別・年齢比較部58は、年齢が「一致している」場合のみを判定してもよい。
この所定の範囲は、ユーザが、予め設定しておくことができる。また、所定の範囲の初期設定として、その差の絶対値が10以下であれば「同年代である」と性別・年齢比較部58が判定するように設定することもできる。
性別・年齢比較部58は、“性別”の比較においては、性別が一致しているか否かを判定する。
性別・年齢比較部58は、属性情報の比較において、“年齢”が「同年代である」場合、かつ、“性別”が「一致」している場合、属性情報が一致していると判定する。
続いて、性別・年齢比較部58が比較処理の結果に基づいて判定する内容について説明する。本実施形態においては、性別・年齢比較部58は、入力顔画像データの属性情報が、最も高い類似度が算出された登録顔特徴情報に対応する登録属性情報および2番目に高い類似度をもつ登録顔特徴情報に対応する登録属性情報のいずれか一方に一致していた場合、一致していた登録顔特徴情報により特定される人物を判定結果として出力する。
認証結果出力部59は、顔照合部56の照合結果と、類似度判定部57の判定結果と、性別・年齢比較部58の比較結果とを取り纏めて、認証結果を出力するためのものである。認証結果出力部59は、出力した認証結果を、表示部30において表示させる。
(処理の流れ)
次に、図4および図5を参照しながら、顔認証装置100の各処理の流れについて説明する。図4は、顔認証装置100における登録処理の流れについて示したフローチャートである。また、図5は、顔認証装置100における顔認証処理の流れについて示したフローチャートである。
(登録処理の流れ)
まず、図4を参照しながら、登録処理の流れについて説明する。ユーザが操作部20において、登録処理を指示する操作をしたことに応じて、顔認証部50は、登録処理を開始する。登録処理を指示する操作において、登録処理の対象となる画像データが指定される。
登録処理が開始されると、顔画像取得部51が、画像記憶部91から、画像データを読み出して、顔検出部52に転送する(S11)。次に、顔検出部52が、画像データから人の顔を検出して、入力顔画像データを出力する(S12)。そして、顔特徴抽出部53が、顔検出部52が出力した入力顔画像データから、その入力顔画像データに含まれる顔の特徴点を抽出して、顔特徴情報を出力する(S13)。さらに、性別・年齢推定部54は、入力顔画像データを分析して、入力顔画像データが示す人物の性別・年齢を推定し、推定結果を属性情報として出力する(S14)。
最後に、認証用情報登録部55が、顔特徴抽出部53および性別・年齢推定部54が出力した情報を、顔認証データベースに登録する(S15)。具体的には、認証用情報登録部55は、顔特徴抽出部53が出力した顔特徴情報を顔特徴情報記憶部93に登録し、性別・年齢推定部54が出力した属性情報を、属性情報記憶部94に登録する。なお、認証用情報登録部55は、画像記憶部91に、顔検出部52が検出した入力画像データを記憶してもよい。顔認証装置100では、上記の処理を繰り返して、顔認証対象となる複数人の人物を顔認証データベース92に登録しておくことができる。また、顔認証装置100は、入力顔画像データを顔認証データベース92に登録しておくことも可能である。
以上が、登録処理の流れである。
(顔認証処理の流れ)
次に、図5を参照しながら、顔認証処理の流れについて説明する。ユーザが操作部20において、顔認証処理を指示する操作をしたことに応じて、顔認証部50は、顔認証処理を開始する。顔認証処理を指示する操作において、顔認証処理の対象となる画像データが指定される。
S21〜S23の処理は、S11〜S13の処理に準じているので、その説明を省略する。
顔特徴抽出部53が入力画像データの顔特徴情報を出力すると、顔照合部56が、照合処理を実行する(S24)。具体的には、顔照合部56は、顔特徴情報記憶部93に登録されている登録顔特徴情報を順に読み出して、読み出した登録顔特徴情報に含まれる顔特徴情報と、入力画像データの特徴情報とを用いて照合処理を行う。顔照合部56は、照合処理の結果、登録顔特徴情報により特定される人物と、入力画像データが示す人物との類似度を求め、続いて、顔照合部56は、各登録顔特徴情報について求めた類似度が閾値以上であるか否かを判定する(S25)。
ここで、顔照合部56における判定の結果、類似度が所定の閾値以上である登録顔特徴情報が1件も無かった場合(S25においてNO)、認証結果出力部59は、認証結果として、「該当なし」を表示部30に出力する(S31)。また、認証結果出力部59は、顔照合部56における判定の結果、類似度が所定の閾値以上である登録顔特徴情報が1件であったときも、認証結果として、「類似度が上位1番目の登録顔特徴情報によって特定される人物」を表示部30に出力する。いずれにしても、その後、処理は、終了する。
一方、顔照合部56における判定の結果、類似度が所定の閾値以上である登録顔特徴情報が1件以上あった場合(S25においてYES)、類似度判定部57が、上位1番目の類似度と、2番目の類似度との差を算出し、算出した差が、予め定められた類似範囲設定値以下であるかを判定する(S26)。
ここで、類似度判定部57における判定の結果、算出された差が、予め定められた類似範囲設定値より大きい場合(S26においてNO)、認証結果出力部59は、認証結果として、「類似度が上位1番目の登録顔特徴情報によって特定される人物」を出力する(S30)。
ここで、類似度判定部57における判定の結果、算出された差が、予め定められた類似範囲設定値以下である場合(S26においてYES)、性別・年齢推定部54が、顔検出部52が出力した入力顔画像データを分析して、入力顔画像データが示す人物の性別および年齢(年代)を推定し、その推定結果を属性情報として出力する(S27)。
続いて、性別・年齢比較部58は、類似度が上位1番目の登録顔特徴情報に対応する登録属性情報と、および2番目の登録顔特徴情報に対応する登録属性情報とについて、性別・年齢推定部54によって入力顔画像データについて推定された属性情報との一致・不一致を判定する。すなわち、性別・年齢推定部54によって入力顔画像データについて推定された性別が、登録属性情報のものと一致しているか、および、両者の年齢の差が所定範囲内かを判定する(S28)。
性別・年齢比較部58における判定の結果、入力顔画像データについて推定された属性情報が、類似度が1番目の登録顔特徴情報に対応する登録属性情報と、類似度が2番目の登録顔特徴情報に対応する登録属性情報との両方に一致した場合、および、両方とも一致しなかった場合(S28において「両方一致」・「両方不一致」)、認証結果出力部59は、認証結果として、「類似度が上位1番目の登録顔特徴情報によって特定される人物」を出力する(S30)。その後処理は、終了する。
これに対して、判定の結果、入力顔画像データについて推定された属性情報が、類似度が1番目の登録顔特徴情報に対応する登録属性情報および類似度が2番目の登録顔特徴情報に対応する登録属性情報のいずれか一方に一致した場合(S28において「いずれか一方に一致」)、認証結果出力部59は、認証結果として、「一致したほうの登録属性情報に対応する登録顔特徴情報によって特定される人物」を出力する(S29)。その後処理は、終了する。
なお、顔認証処理の対象となる画像データに複数の人物の顔が含まれており、入力顔画像データが複数生成された場合は、入力顔画像データごとに上記S23〜S31の処理を繰り返せばよい。
また、顔認証処理の対象となる画像データが複数指定された場合は、画像データごとに上記S21〜S31の処理を繰り返せばよい。この場合、顔認証部50において、認証結果として出力対象とする人物を特定するための登録顔特徴情報の指定を受け付け、認証結果出力部59が、その登録顔特徴情報が特定する人物と合致する人物を示す画像データを認証結果として出力するよう構成とすることもできる。この構成によれば、画像記憶部91に記憶されている画像データの中から、特定の人物を示す画像データを検索することができる。つまり、このような構成により、いわゆる人物画像検索システムを構築することも可能である。
以上が、顔認証処理の流れである。
再び図2および図3を参照して、本実施形態の顔認証処理の流れについてさらに具体的に説明すれば、次のとおりである。図2および3が示す例において、入力顔画像データが娘の画像データであった場合について説明する。一般的に母親と、娘とは顔の造形・容姿等が似ているため、登録顔特徴情報Aの類似度、登録顔特徴情報Bの類似度は、いずれも高くなることが予想される。また、このとき、表情・顔向き・照明の加減等の状況が、類似度の算出に影響することも考えられる。
このような場合、S25において、類似度が閾値以上と判定され(S25においてYES)、S26において、2つの類似度の差が、設定値以内(S26においてYES)であることが想定される。
ここで、S27において、入力顔画像データについて、性別・年齢を推定すると、娘の画像データであるので、性別は、「女性」であり、年齢は、「18歳」と推定される。
よって、属性情報の比較において、入力顔画像データについて推定された属性情報は、登録属性情報Bと一致する一方で、登録属性情報Aとは一致しない。
この結果、仮に前述のような影響を受けて、登録顔特徴情報Bの類似度が、登録顔特徴情報Aの類似度よりも低く算出されていたとしても、認証結果出力部59は、属性情報が一致した、「娘」のほうを認証結果として出力する。
このように、本実施形態に係る顔認証装置100によれば、属性情報を用いて、顔認証における誤認識を防ぐことができる。
(作用・効果)
以上のように、本実施形態に係る顔認証装置100は、入力された入力顔画像データと、予め登録された複数の登録顔特徴情報との類似度を求め、入力顔画像データとの類似度が所定値以上となる登録顔特徴情報を抽出する顔照合部56を備える顔認証装置100において、登録顔特徴情報が、登録顔特徴情報に関する人物についての登録属性情報とともに登録されており、顔照合部56が複数の登録顔特徴情報を抽出した場合に、顔照合部56が抽出した複数の登録顔特徴情報から、入力顔画像データに関する人物を含む登録顔特徴情報を特定する顔認証部50を備え、顔認証部50は、入力顔画像データに関する人物についての属性情報を推定し、属性情報を出力する性別・年齢推定部54と、性別・年齢推定部54とが出力した属性情報と、複数の登録顔特徴情報に関する人物についての登録属性情報との比較を行う性別・年齢比較部58と、を備え、上記比較結果に基づいて、登録顔特徴情報を特定する。
この結果、特別な映像機器等を設けることなく、顔認証処理の精度をより向上させることができるという効果を奏する。
(変形例)
以下において、本実施形態の好ましい変形例について説明する。
本実施形態では、類似度判定部57は、顔照合部56が算出した複数の類似度うち、最も高い類似度と、2番目に高い類似度との差を算出し、算出した差が予め定められた類似範囲設定値以下であるかを判定していたが、3番目以降の類似度についても判定の対象としてもかまわない。つまり、類似度判定部57は、最も高い類似度との類似度の差が、類似範囲設定値以下となるものについて判定の対象としてもかまわない。
この場合、判定の対象が増えることで、顔認証処理の負荷が高くなることも考えられる一方で、最も高い類似度と、上位3番目の類似度との差が、類似範囲設定値以下となる場合、類似度が上位3番目の登録顔特徴情報により特定される人物についても、最も高い類似度の登録顔特徴情報により特定される人物と、よく似た人物であることが想定されるため、顔認証処理の精度の向上が見込める。
このため、顔認証処理の精度と、顔認証処理の負荷とのトレードオフで、適宜類似範囲設定値等の設定を変更すればよい。
また、類似度判定部57が、上位所定番目までの類似度をもつ登録顔特徴情報を、性別・年齢比較部58に通知し、性別・年齢比較部58では、通知された類似度が上位所定番目までの登録顔特徴情報について、属性情報の比較を実行してもよい。この場合、例えば、上位3番目までの類似度について判定・比較の対象とすることができる。また、上位何番目までの類似度について判定・比較の対象とするかは、ユーザが任意に設定できるようになっていてもかまわない。
また、性別・年齢比較部58は、“年齢”および“性別”のいずれか一方が、一致していれば、属性情報が「一部一致」と判定するように構成されていてもかまわない。そして、S28において、属性情報が「一部一致」のものと、属性情報が「不一致」のものとがあった場合、認証結果出力部59は、「属性情報が一部一致しているほうの登録顔特徴情報によって特定される人物」を判定結果として出力してもよい。
また、性別・年齢推定部54は、入力画像データから“年齢”および“性別”を推定していたが、さらに“人種”を推定してもよい。すなわち、属性情報には、“年齢”および“性別”に加えて“人種”についての情報が含まれていてもよい。この場合、性別・年齢比較部58が、“人種”について比較するよう構成すればよい。これにより、顔認証データベース92に異なる人種の人物が登録されている場合において、“人種”についても判定することができ、顔認証処理の精度向上を図ることができる。なお、性別・年齢推定部54における“人種”の推定処理には、公知の技術を用いることができる。
(その他の変更例)
本発明に撮像部を設ける構成を用いれば、顔認証処理により、人物を撮影して得られた写真画像データを検索することのできるデジタルカメラを実現することができる。このようなデジタルカメラは、記憶媒体の大容量化に伴って、デジタルカメラにおいて記憶することのできる写真画像データの数も膨大になっている昨今、容易に所望の人物に関する写真画像データを検索することができるので有益である。
また、本発明を、一定時間毎またはリアルタイムで撮影を行う監視カメラと接続して、監視カメラから画像データの供給を受けるようにすれば、監視カメラが撮影した人物を顔認証処理によって特定することのできる顔認証監視システムを構築することもできる。このような顔認証監視システムは、撮影された人物が、登録されている人物であるか否かを精度よく特定することができるので、例えば、入退出管理システムとしても有用である。
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、顔認証装置100の各ブロック、特に顔認証部50が備える顔画像取得部51、顔検出部52、顔特徴抽出部53、性別・年齢推定部54、認証用情報登録部55、顔照合部56、類似度判定部57、性別・年齢比較部58、および認証結果出力部59は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、顔認証装置100は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである顔認証装置100の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記顔認証装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、顔認証装置100を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明は、特別な映像機器等を設けることなく、顔認証処理の精度をより向上させることができる。従って、本発明は、人物の顔画像データを処理する画像処理装置等に広く好適に適用可能である。
10 画像データ
20 操作部
30 表示部
40 制御部
50 顔認証部(特定手段)
51 顔画像取得部(抽出手段、画像入力手段)
52 顔検出部(抽出手段)
53 顔特徴抽出部(抽出手段)
54 性別・年齢推定部(推定手段)
55 認証用情報登録部
56 顔照合部(抽出手段)
57 類似度判定部(推定手段)
58 性別・年齢比較部(比較手段)
59 認証結果出力部(特定手段)
90 記憶部
91 画像記憶部(人物画像記憶部)
92 顔認証データベース(登録顔情報記憶部)
93 顔特徴情報記憶部
94 属性情報記憶部
100 顔認証装置(人物画像検索システム)

Claims (8)

  1. 入力された入力顔画像と、予め登録された複数の登録顔情報との類似度を求め、上記入力顔画像との類似度が所定値以上となる上記登録顔情報を抽出する抽出手段を備える顔認証装置において、
    上記登録顔情報は、該登録顔情報に関する人物についての属性情報とともに登録されており、
    上記抽出手段が複数の上記登録顔情報を抽出した場合、上記抽出手段が抽出した複数の登録顔情報から、上記入力顔画像に関する人物を含む登録顔情報を特定する特定手段を備え、
    上記特定手段は、
    上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定手段と、
    上記推定手段が出力した推定属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較手段と、を備え、
    上記比較手段の比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定することを特徴とする顔認証装置。
  2. 上記推定手段は、上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度との差が所定範囲内となる類似度をもつ登録顔情報について、上記推定属性情報の出力を行うものであることを特徴とする請求項1に記載の顔認証装置。
  3. 上記推定手段は、上記抽出手段が抽出した上記登録顔情報のうち、求められた類似度の中で最も高い類似度と、所定番目に高い類似度をもつ登録顔情報について、上記推定属性情報の出力を行うものであることを特徴とする請求項1または2に記載の顔認証装置。
  4. 上記属性情報は、年齢、性別、および、人種を示す情報のうち、少なくとも1つを含むことを特徴とする請求項1から3のいずれか1項に記載の顔認証装置。
  5. 請求項1から4のいずれか1項に記載の顔認証装置を備え、
    人物の少なくとも顔の部分が示されている人物画像を記憶するための人物画像記憶部と、
    複数の上記登録顔情報を記憶する登録顔情報記憶部と、
    上記登録顔情報記憶部に記憶されている複数の上記登録顔情報の中から登録顔情報を指定するための指定手段と、
    上記人物画像記憶部から上記人物画像を読み出し、読み出した上記人物画像から顔に相当する部分を検出して、検出した部分を上記入力顔画像として、上記顔認証装置に入力する画像入力手段と、
    上記画像入力手段が入力した入力顔画像に対する顔認証結果を、上記顔認証装置から取得する認証結果取得手段と、
    上記認証結果取得手段が取得した結果に基づいて、上記人物画像記憶部に記憶されている人物画像のうち、上記指定手段によって指定された上記登録顔情報が示す人物が含まれる人物画像を検索する検索手段とを備えることを特徴とする人物画像検索システム。
  6. 請求項1から4のいずれか1項に記載の顔認証装置を動作させる顔認証装置制御プログラムであって、コンピュータを上記の各手段として機能させるための顔認証装置制御プログラム。
  7. 請求項6記載の顔認証装置制御プログラムを記録したコンピュータ読み取り可能な記録媒体。
  8. 入力された入力顔画像と、予め登録された複数の登録顔情報との類似度を求め、上記入力顔画像との類似度が所定値以上となる上記登録顔情報を抽出する抽出手段を備える顔認証装置の制御方法において、
    上記登録顔情報は、該登録顔情報に関する人物についての属性情報とともに登録されており、
    上記抽出手段が複数の上記登録顔情報を抽出した場合、上記顔認証装置が備える特定手段が、抽出された複数の登録顔情報から、上記入力顔画像に関する人物を含む登録顔情報を特定する特定ステップを含み、
    上記特定ステップは、
    上記入力顔画像を解析し、解析結果から上記入力顔画像に関する人物についての属性を推定し、推定した属性を示す推定属性情報を出力する推定ステップと、
    上記推定ステップにおいて推定された属性情報と、上記複数の登録顔情報に関する人物についての属性情報との比較を行う比較ステップと、を含み、
    上記比較ステップにおける比較結果に基づいて、上記入力顔画像に関する人物を含む登録顔情報を特定することを特徴とする顔認証装置の制御方法。
JP2009062041A 2009-03-13 2009-03-13 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法 Active JP4544363B1 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2009062041A JP4544363B1 (ja) 2009-03-13 2009-03-13 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法
KR1020117003400A KR101166318B1 (ko) 2009-03-13 2010-02-22 얼굴 인증 장치, 인물 화상 검색 시스템, 얼굴 인증 장치 제어 프로그램, 컴퓨터 판독 가능한 기록 매체, 및 얼굴 인증 장치의 제어 방법
PCT/JP2010/001140 WO2010103736A1 (ja) 2009-03-13 2010-02-22 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法
US13/059,424 US20110135168A1 (en) 2009-03-13 2010-02-22 Face authentication apparatus, person image search system, face authentication apparatus control program, computer-readable recording medium, and method of controlling face authentication apparatus
EP10750495.3A EP2407930A4 (en) 2009-03-13 2010-02-22 FACE AUTHENTICATION DEVICE, PERSON PICTOR SEARCH SYSTEM, FACE AUTHENTICATION DEVICE CONTROL PROGRAM, COMPUTER READABLE RECORDING MEDIA AND METHOD OF CONTROLLING THE FACIAL AUTHENTICATION DEVICE
CN201080002361XA CN102124493B (zh) 2009-03-13 2010-02-22 脸部识别装置、人物图像检索系统、以及脸部识别装置的控制方法
TW099105236A TWI496092B (zh) 2009-03-13 2010-02-24 臉部認證裝置、人物影像檢索系統、臉部認證裝置控制程式、電腦可讀取之記錄媒體、及臉部認證裝置之控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009062041A JP4544363B1 (ja) 2009-03-13 2009-03-13 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法

Publications (2)

Publication Number Publication Date
JP4544363B1 JP4544363B1 (ja) 2010-09-15
JP2010218060A true JP2010218060A (ja) 2010-09-30

Family

ID=42728035

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009062041A Active JP4544363B1 (ja) 2009-03-13 2009-03-13 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法

Country Status (7)

Country Link
US (1) US20110135168A1 (ja)
EP (1) EP2407930A4 (ja)
JP (1) JP4544363B1 (ja)
KR (1) KR101166318B1 (ja)
CN (1) CN102124493B (ja)
TW (1) TWI496092B (ja)
WO (1) WO2010103736A1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012212426A (ja) * 2011-03-18 2012-11-01 Canon Inc 画像処理装置および画像処理方法
JP2012252654A (ja) * 2011-06-06 2012-12-20 Toshiba Corp 顔画像検索システム、及び顔画像検索方法
JP2014048670A (ja) * 2012-08-29 2014-03-17 Buffalo Inc 画像処理装置及びプログラム
JP2014197330A (ja) * 2013-03-29 2014-10-16 綜合警備保障株式会社 警備装置、警備方法およびプログラム
JP2015232759A (ja) * 2014-06-09 2015-12-24 キヤノン株式会社 人物推定装置、人物推定方法及びプログラム
JP2017027628A (ja) * 2016-11-07 2017-02-02 株式会社バッファロー 画像処理装置及びプログラム
CN108124157A (zh) * 2017-12-22 2018-06-05 北京旷视科技有限公司 信息交互方法、装置及系统
CN109145704A (zh) * 2018-06-14 2019-01-04 西安电子科技大学 一种基于人脸属性的人脸画像识别方法
US10296845B2 (en) 2013-07-01 2019-05-21 Nec Solution Innovators, Ltd. Attribute estimation system

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5713821B2 (ja) * 2011-06-30 2015-05-07 キヤノン株式会社 画像処理装置及び方法、並びに画像処理装置を有するカメラ
TWI457872B (zh) * 2011-11-15 2014-10-21 Univ Nat Taiwan Normal 具人臉表情辨識輔助之測驗系統及方法
CN103873671A (zh) * 2012-12-17 2014-06-18 联想(北京)有限公司 一种信息处理方法及电子设备
TWI485635B (zh) * 2013-01-30 2015-05-21 Nat Univ Tainan 年齡評估系統與方法
US20140266604A1 (en) 2013-03-13 2014-09-18 Sololnsight, Inc. Apparatus, methods and systems for integrated workforce management and access control
US9779527B2 (en) * 2013-08-15 2017-10-03 Xiaomi Inc. Method, terminal device and storage medium for processing image
US10120879B2 (en) 2013-11-29 2018-11-06 Canon Kabushiki Kaisha Scalable attribute-driven image retrieval and re-ranking
US9576135B1 (en) * 2014-03-04 2017-02-21 Amazon Technologies, Inc. Profiling user behavior through biometric identifiers
US9589205B2 (en) 2014-05-15 2017-03-07 Fuji Xerox Co., Ltd. Systems and methods for identifying a user's demographic characteristics based on the user's social media photographs
CN103995997B (zh) * 2014-05-15 2017-09-12 华为技术有限公司 一种用户权限的分配方法和设备
US10740802B2 (en) 2014-08-18 2020-08-11 Fuji Xerox Co., Ltd. Systems and methods for gaining knowledge about aspects of social life of a person using visual content associated with that person
JP6483485B2 (ja) * 2015-03-13 2019-03-13 株式会社東芝 人物認証方法
JP6582478B2 (ja) * 2015-03-23 2019-10-02 日本電気株式会社 会計装置、会計方法、及び、プログラム
US10863003B2 (en) * 2015-09-10 2020-12-08 Elliot Berookhim Methods, devices, and systems for determining a subset for autonomous sharing of digital media
CN107992728B (zh) * 2016-10-27 2022-05-20 腾讯科技(深圳)有限公司 人脸验证方法及装置
WO2018173194A1 (ja) * 2017-03-23 2018-09-27 日本電気株式会社 認証装置及び認証方法
MX2019012159A (es) 2017-04-10 2019-11-21 Inventio Ag Sistema de control de acceso teniendo reconocimiento por radio y facial.
US10502443B2 (en) 2017-07-18 2019-12-10 Ademco Inc. Smart human machine interface
JP6760318B2 (ja) * 2018-03-14 2020-09-23 オムロン株式会社 顔画像識別システム、識別器生成装置、識別装置、画像識別システム、及び識別システム
TWI671685B (zh) 2018-09-19 2019-09-11 和碩聯合科技股份有限公司 臉部識別方法與使用此方法的電子裝置
WO2020208745A1 (ja) * 2019-04-10 2020-10-15 楽天株式会社 認証システム、認証端末、ユーザ端末、認証方法、及びプログラム
CN110460617B (zh) * 2019-08-23 2022-01-11 深圳市元征科技股份有限公司 机考考试系统及相关产品
CN114766019A (zh) * 2019-11-25 2022-07-19 瑞典爱立信有限公司 基于区块链的面部匿名化系统
JP7345067B2 (ja) * 2021-06-21 2023-09-14 楽天グループ株式会社 認証システム、認証方法、及びプログラム
JP7335456B2 (ja) * 2021-06-21 2023-08-29 楽天グループ株式会社 認証システム、認証方法、及びプログラム
US20240126850A1 (en) * 2021-06-21 2024-04-18 Rakuten Group, Inc. Authentication system, authentication method and program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08263655A (ja) * 1995-03-17 1996-10-11 Nissan Motor Co Ltd パターン認識方法
JP2004265353A (ja) * 2003-03-04 2004-09-24 Nippon Signal Co Ltd:The 個人認証システム
JP2005165447A (ja) * 2003-11-28 2005-06-23 Toshiba Corp 年齢・性別判別装置、年齢・性別判別方法および人物認識装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003346149A (ja) * 2002-05-24 2003-12-05 Omron Corp 顔照合装置および生体情報照合装置
CN100405388C (zh) * 2004-05-14 2008-07-23 欧姆龙株式会社 特定被摄体检测装置
AR051670A1 (es) * 2004-11-16 2007-01-31 Imageware Systems Inc Plataforma biometrica multimodal
JP2006146413A (ja) 2004-11-17 2006-06-08 Mitsubishi Electric Corp 対象追従装置
JP5008269B2 (ja) * 2005-04-08 2012-08-22 キヤノン株式会社 情報処理装置、情報処理方法
US7519200B2 (en) * 2005-05-09 2009-04-14 Like.Com System and method for enabling the use of captured images through recognition
JP2007114931A (ja) 2005-10-19 2007-05-10 Konica Minolta Holdings Inc 認証装置
JP4696857B2 (ja) 2005-11-02 2011-06-08 オムロン株式会社 顔照合装置
KR100738080B1 (ko) * 2005-11-08 2007-07-12 삼성전자주식회사 성별을 이용한 얼굴 인식 방법 및 장치
JP2008158679A (ja) 2006-12-21 2008-07-10 Toshiba Corp 人物認証システムおよび人物認証方法
US20080209227A1 (en) * 2007-02-28 2008-08-28 Microsoft Corporation User Authentication Via Biometric Hashing
TW200907827A (en) * 2007-08-08 2009-02-16 Acer Inc System and method for performing objects with bio-characteristics recognition

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08263655A (ja) * 1995-03-17 1996-10-11 Nissan Motor Co Ltd パターン認識方法
JP2004265353A (ja) * 2003-03-04 2004-09-24 Nippon Signal Co Ltd:The 個人認証システム
JP2005165447A (ja) * 2003-11-28 2005-06-23 Toshiba Corp 年齢・性別判別装置、年齢・性別判別方法および人物認識装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012212426A (ja) * 2011-03-18 2012-11-01 Canon Inc 画像処理装置および画像処理方法
JP2012252654A (ja) * 2011-06-06 2012-12-20 Toshiba Corp 顔画像検索システム、及び顔画像検索方法
JP2014048670A (ja) * 2012-08-29 2014-03-17 Buffalo Inc 画像処理装置及びプログラム
JP2014197330A (ja) * 2013-03-29 2014-10-16 綜合警備保障株式会社 警備装置、警備方法およびプログラム
US10296845B2 (en) 2013-07-01 2019-05-21 Nec Solution Innovators, Ltd. Attribute estimation system
JP2015232759A (ja) * 2014-06-09 2015-12-24 キヤノン株式会社 人物推定装置、人物推定方法及びプログラム
JP2017027628A (ja) * 2016-11-07 2017-02-02 株式会社バッファロー 画像処理装置及びプログラム
CN108124157A (zh) * 2017-12-22 2018-06-05 北京旷视科技有限公司 信息交互方法、装置及系统
CN108124157B (zh) * 2017-12-22 2020-08-07 北京旷视科技有限公司 信息交互方法、装置及系统
CN109145704A (zh) * 2018-06-14 2019-01-04 西安电子科技大学 一种基于人脸属性的人脸画像识别方法
CN109145704B (zh) * 2018-06-14 2022-02-22 西安电子科技大学 一种基于人脸属性的人脸画像识别方法

Also Published As

Publication number Publication date
WO2010103736A1 (ja) 2010-09-16
US20110135168A1 (en) 2011-06-09
TWI496092B (zh) 2015-08-11
KR101166318B1 (ko) 2012-07-18
EP2407930A4 (en) 2015-10-21
KR20110042181A (ko) 2011-04-25
JP4544363B1 (ja) 2010-09-15
EP2407930A1 (en) 2012-01-18
CN102124493B (zh) 2013-07-24
CN102124493A (zh) 2011-07-13
TW201037611A (en) 2010-10-16

Similar Documents

Publication Publication Date Title
JP4544363B1 (ja) 顔認証装置、人物画像検索システム、顔認証装置制御プログラム、コンピュータ読み取り可能な記録媒体、および顔認証装置の制御方法
US9626551B2 (en) Collation apparatus and method for the same, and image searching apparatus and method for the same
JP5567853B2 (ja) 画像認識装置および方法
JP4497236B2 (ja) 検出用情報登録装置、電子機器、検出用情報登録装置の制御方法、電子機器の制御方法、検出用情報登録装置制御プログラム、電子機器の制御プログラム
JP5383705B2 (ja) 個人的写真集合からの社会的関係の割出し
US8335354B2 (en) Apparatus for registering face identification features, method for registering the same, program for registering the same, and recording medium
JP4636190B2 (ja) 顔照合装置、電子機器、顔照合装置の制御方法、および顔照合装置制御プログラム
US8929595B2 (en) Dictionary creation using image similarity
WO2007105768A1 (ja) 顔画像登録装置、顔画像登録方法、顔画像登録プログラム、および記録媒体
US8626782B2 (en) Pattern identification apparatus and control method thereof
CN104798103B (zh) 面部识别装置、识别方法及其程序和信息设备
JP2007317062A (ja) 人物認識装置及びその方法
JP5087037B2 (ja) 画像処理装置、方法及びプログラム
JP2010118868A (ja) 情報処理装置およびその制御方法
KR20170077366A (ko) 얼굴 인식 시스템 및 방법
US20140064577A1 (en) Image processing device and recording medium storing program
JPWO2006006533A1 (ja) 個人認証システム、個人認証方法、個人認証用プログラムおよび記録媒体
WO2021051602A1 (zh) 基于唇语密码的人脸识别方法、系统、装置及存储介质
WO2022088411A1 (zh) 图像检测及相关模型训练方法、装置、设备、介质及程序
JP5895624B2 (ja) 画像処理装置、画像処理方法、制御プログラムおよび記録媒体
US20230131717A1 (en) Search processing device, search processing method, and computer program product
JP2013069024A (ja) 画像検索プログラム及び画像検索装置
US9390347B2 (en) Recognition device, method, and computer program product
JP2012069039A (ja) ホワイトリスト内外判定装置及び方法
JP6112346B2 (ja) 情報収集システム、プログラムおよび情報収集方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4544363

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D04

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250