JP2017054210A - 人物検索システムおよび人物検索方法 - Google Patents

人物検索システムおよび人物検索方法 Download PDF

Info

Publication number
JP2017054210A
JP2017054210A JP2015176118A JP2015176118A JP2017054210A JP 2017054210 A JP2017054210 A JP 2017054210A JP 2015176118 A JP2015176118 A JP 2015176118A JP 2015176118 A JP2015176118 A JP 2015176118A JP 2017054210 A JP2017054210 A JP 2017054210A
Authority
JP
Japan
Prior art keywords
face image
person
feature amount
image
search
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015176118A
Other languages
English (en)
Other versions
JP6548998B2 (ja
Inventor
廣大 齊藤
Hiroo Saito
廣大 齊藤
佐藤 俊雄
Toshio Sato
俊雄 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2015176118A priority Critical patent/JP6548998B2/ja
Priority to EP16187372.4A priority patent/EP3139308A1/en
Priority to US15/257,225 priority patent/US10303927B2/en
Publication of JP2017054210A publication Critical patent/JP2017054210A/ja
Application granted granted Critical
Publication of JP6548998B2 publication Critical patent/JP6548998B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • G06V40/173Classification, e.g. identification face re-identification, e.g. recognising unknown faces across different face tracks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Collating Specific Patterns (AREA)

Abstract

【課題】所定人物の検索率および検索精度を安定化させる人物検索システム及び方法を提供する。【解決手段】受信部と、検出部と、検索部と、表示部と、を備える。受信部は、第1位置を通過する人物を撮像可能に設けられた撮像部の撮像により得られた画像データを受信する。検出部は、画像データが含む第1顔画像から、顔画像に基づく所定人物の検索の阻害要因を検出する。検索部は、阻害要因が検出されなかった場合、第1顔画像の特徴量と所定人物の第2顔画像の特徴量を求め、第1顔画像の特徴量と第2顔画像の特徴量との類似度に基づいて、所定人物を検索し、阻害要因が検出された場合、第2顔画像と阻害要因とを合成した第3顔画像を生成し、第1顔画像の特徴量および第3顔画像の特徴量を求め、第1顔画像の特徴量と第3顔画像の特徴量との類似度に基づいて、所定人物を検索する。表示部は、検索部による所定人物の検索結果を表示する。【選択図】図1

Description

本発明の実施形態は、人物検索システムおよび人物検索方法に関する。
所定位置を通過する人物を撮像可能に設けられた撮像部の撮像により得られた監視画像に含まれる顔画像と、所定人物の顔画像との類似度を算出し、当該類似度に基づいて、所定人物を検索する人物検索システムがある。
特開2014−182480号公報
しかしながら、従来技術においては、監視画像に含まれる顔画像に、マスクやサングラスなど、顔画像に基づく所定人物の検索を阻害する要因が含まれている場合、顔画像と所定人物の顔画像との類似度が低下して、所定人物の検索精度が低下する。また、所定人物の検索精度の低下を防止するために、所定人物であると判断する類似度の閾値を低下させると、所定人物の誤検索が増加して、所定人物の検索効率が低下する。
実施形態の人物検索システムは、受信部と、検出部と、検索部と、表示部と、を備える。受信部は、第1位置を通過する人物を撮像可能に設けられた撮像部の撮像により得られた画像データを受信する。検出部は、画像データが含む第1顔画像から、顔画像に基づく所定人物の検索の阻害要因を検出する。第2検索部は、阻害要因が検出されなかった場合、第1顔画像の特徴量と所定人物の第2顔画像の特徴量を求め、第1顔画像の特徴量と第2顔画像の特徴量との類似度に基づいて、所定人物を検索し、阻害要因が検出された場合、第2顔画像と阻害要因とを合成した第3顔画像を生成し、第1顔画像の特徴量および第3顔画像の特徴量を求め、第1顔画像の特徴量と第3顔画像の特徴量との類似度に基づいて、所定人物を検索する。表示部は、検索部による所定人物の検索結果を表示する。
図1は、本実施形態にかかる人物検索システムの構成の一例を示す図である。 図2は、本実施形態にかかる人物検索システムにおける所定人物の検索処理の流れの一例を示すフローチャートである。 図3は、本実施形態にかかる人物検索システムにおける合成顔画像の生成処理の一例を説明するための図である。 図4は、本実施形態にかかる人物検索システムにおける所定人物の検索結果の表示例を示す図である。
以下、添付の図面を用いて、本実施形態にかかる人物検索システムおよび人物検索方法について説明する。
図1は、本実施形態にかかる人物検索システムの構成の一例を示す図である。本実施形態にかかる人物検索システムは、公共施設、重要施設、オフィスビル、商業施設等の大量の人が通行する施設における入退室管理システムや映像監視システムに適用される。図1に示すように、本実施形態にかかる人物検索システムは、画像入力部101と、画像条件検出部102と、画像合成部103と、特徴抽出部104と、照合処理部105と、第1生体情報管理部106と、第2生体情報管理部107と、表示制御部108と、検索結果表示部109と、を有している。
画像入力部101は、カメラ等により構成され、人物検索システムが設けられた施設の入口や出口等の所定の位置(第1位置の一例)を通過する人物を撮像可能に設けられている。そして、画像入力部101は、所定の位置を撮像して得られた画像データ(以下、入力画像データと言う)を、画像条件検出部102に出力する。
画像条件検出部102(受信部の一例)は、画像入力部101から出力された入力画像データを受信する。そして、画像条件検出部102(検出部の一例)は、受信した入力画像データが含む顔画像である撮像顔画像(第1顔画像の一例)から、阻害要因を検出する。ここで、阻害要因とは、顔画像に基づく所定人物の検索を阻害する要因であり、笑顔や目つぶり等の表情、髭、前髪による顔画像の隠蔽、人種、顔の向き、帽子、メガネ、サングラス、アクセサリ、照明条件、画質などである。
本実施形態では、画像条件検出部102は、撮像顔画像と、笑顔や目つぶりを含む予め登録された顔画像との関係を分析する回帰分析を行って、当該撮像顔画像が、笑顔や目つぶりを含むか否かを判断する。また、画像条件検出部102は、撮像顔画像の下方の領域の輝度値に基づいて、当該撮像顔画像が、髭を含むか否かを判断する。また、画像条件検出部102は、撮像顔画像と、前髪によって隠蔽された予め登録された顔画像との関係を分析する回帰分析を行って、当該撮像顔画像が、前髪によって隠蔽された顔画像であるか否かを判断する。
また、画像条件検出部102は、撮像顔画像に含まれる目や鼻の位置を検出し、当該目や鼻の位置の検出結果と、三次元モデルにおける目や鼻の位置とを比較して、撮像顔画像の顔の向きが、横向きや下向きなど、所定人物の検索を阻害する向きであるか否かを判断する。また、画像条件検出部102は、SVM(Support Vector Machine)等のパターン認識モデルによって、撮像顔画像に、帽子やメガネやサングラスやアクセサリ等が含まれるか否かを判断する。また、画像条件検出部102は、画像入力部101における画像条件や撮像顔画像の輝度値の分布等に基づいて、画像入力部101の撮像時の照明条件が、所定人物の検索を阻害する照明条件か否かを判断する。さらに、画像条件検出部102は、撮像顔画像を含む入力画像データのJPEG(Joint Photographic Experts Group)等の圧縮方法における圧縮係数に基づいて、撮像顔画像の画質が、所定人物の検索を阻害する画質であるか否かを判断する。
画像合成部103は、画像条件検出部102によって阻害要因が検出された場合、後述する第1生体情報管理部106に記憶された顔画像である登録顔画像(第2顔画像の一例)と、画像条件検出部102によって検出された阻害要因とを合成した顔画像である合成顔画像(第3顔画像の一例)を生成する。そして、画像合成部103は、生成した合成顔画像を特徴抽出部104に出力する。本実施形態では、画像合成部103は、画像条件検出部102によって阻害要因が検出された場合、登録顔画像に対して、当該検出された阻害要因のみを合成した合成顔画像を生成する。これにより、登録顔画像に対して、当該検出された阻害要因以外の他の阻害要因を合成する必要が無くなるので、合成顔画像の生成処理に要する時間を短縮することができる。一方、画像合成部103は、画像条件検出部102によって阻害要因が検出されなかった場合、合成顔画像の生成を行わず、登録顔画像を特徴抽出部104に出力する。
特徴抽出部104は、画像入力部101から受信した入力画像データが含む撮像顔画像の特徴量を求める。本実施形態では、特徴抽出部104は、まず、入力画像データ内で、所定のテンプレートを移動させながら、当該入力画像データ内の各領域とテンプレートとの相関値を求める。ここで、所定のテンプレートは、顔画像を特定するための予め設定されたテンプレートである。特徴抽出部104は、入力画像データ内において、テンプレートとの相関値が最も高い領域を、撮像顔画像として抽出する。本実施形態では、特徴抽出部104は、所定のテンプレートを用いて、入力画像データ内から撮像顔画像を抽出しているが、これに限定するものではなく、例えば、固有区間法や部分空間法等によって、入力画像データ内から撮像顔画像を抽出しても良い。
次いで、特徴抽出部104は、抽出した撮像顔画像から、目や鼻などの顔画像における特徴的な部位(以下、顔部位と言う)の位置を検出する。そして、特徴抽出部104は、検出した顔部位の位置に基づいて、顔画像を数値で表す特徴量を求める。具体的には、特徴抽出部104は、検出した顔部位の位置に基づいて、撮像顔画像内の所定の大きさの領域を切り出す。そして、特徴抽出部104は、切り出した領域の濃淡情報を特徴量として求める。例えば、特徴抽出部104は、検出した顔部位の位置に基づいて、撮像顔画像内におけるm×n画素の領域を切り出し、当該切り出したm×n画素の領域の濃淡を表すm×n次元の特徴ベクトルを特徴量として求める。
また、特徴抽出部104は、画像条件検出部102によって撮像顔画像から阻害要因が検出されなかった場合、画像合成部103から入力された登録顔画像の特徴量を求める。一方、特徴抽出部104は、画像条件検出部102によって撮像顔画像から阻害要因が検出された場合、画像合成部103から入力された合成顔画像の特徴量を求める。本実施形態では、特徴抽出部104は、撮像顔画像の特徴量と同様にして、登録顔画像または合成顔画像の特徴量を求める。
照合処理部105は、画像条件検出部102によって阻害要因が検出されなかった場合、撮像顔画像の特徴量と登録顔画像の特徴量との類似度に基づいて、所定人物を検索する検索処理を実行する。そして、照合処理部105は、検索処理の結果を、第2生体情報管理部107に保存する。本実施形態では、照合処理部105は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度を算出し、当該算出した類似度が、所定閾値を超えた場合、所定人物を検索したと判断する。一方、照合処理部105は、算出した類似度が所定閾値以下である場合、所定人物を検索しないと判断する。ここで、所定閾値は、撮像顔画像が所定人物の顔画像であると判断する類似度の下限である。
本実施形態では、照合処理部105は、撮像顔画像の特徴量の部分空間、および登録顔画像の特徴量の部分空間を求める。そして、照合処理部105は、求めた部分空間同士の類似度を、撮像顔画像の特徴量と登録顔画像の特徴量の類似度とする。具体的には、照合処理部105は、部分空間法や複合類似度法等によって、2つの部分空間のなす角度を、当該2つの部分空間の類似度として算出する。また、照合処理部105は、類似度以外の類似性指標として、特徴空間上でのユークリッド距離やマハラノビス距離といった距離を用いて、撮像顔画像の特徴量と登録顔画像の特徴量の類似度を求めても良い。類似性指標として距離を用いた場合、数値が大きくなるほど類似性が低くなる。
一方、照合処理部105は、画像条件検出部102によって阻害要因が検出された場合、撮像顔画像の特徴量と合成顔画像の特徴量との類似度に基づいて、所定人物を検索する検索処理を実行する。これにより、画像条件検出部102によって阻害要因が検出された場合、登録顔画像に阻害要因を合成した合成顔画像を用いて所定人物の検索が行われるので、阻害要因を含まない登録顔画像を用いて所定人物を検索する場合と比較して、所定人物の検索率および検索精度を安定化させることができる。そして、照合処理部105は、検索処理の結果を、第2生体情報管理部107に保存する。本実施形態では、照合処理部105は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度と同様にして、撮像顔画像の特徴量と合成顔画像の特徴量の類似度を算出する。そして、照合処理部105は、算出した類似度が、所定閾値を超えた場合、所定人物を検索したと判断する。一方、照合処理部105は、算出した類似度が、所定閾値以下である場合、所定人物を検索しないと判断する。本実施形態では、画像合成部103、特徴抽出部104、および照合処理部105が、検索部の一例として機能する。
第1生体情報管理部106は、照合処理部105によって所定人物が検索された場合に、当該所定人物の検索に用いた撮像顔画像を登録顔画像として、当該撮像顔画像の特徴量と、当該所定人物を識別可能とするID情報(例えば、所定人物の氏名、性別、年齢、身長)とを対応付けて記憶する。また、第1生体情報管理部106は、照合処理部105による所定人物の検索に合成顔画像を用いた場合には、当該合成顔画像を登録顔画像として、当該合成顔画像の特徴量と、ID情報とを対応付けて記憶する。第1生体情報管理部106は、撮像顔画像または合成顔画像の特徴量に代えて、撮像顔画像または合成顔画像の部分空間、相関行列等を記憶しても良い。第2生体情報管理部107は、照合処理部105による検索処理の結果を記憶する。
表示制御部108は、照合処理部105による所定人物の検索結果を、検索結果表示部109に表示する。本実施形態では、表示制御部108は、撮像顔画像の特徴量と合成顔画像の特徴量の類似度が所定閾値以上である場合、撮像顔画像と、登録顔画像と、合成顔画像と、を検索結果表示部109に表示する。一方、表示制御部108は、撮像顔画像の特徴量と合成顔画像の特徴量の類似度が所定閾値より低い場合、登録顔画像を除いて、撮像顔画像および合成顔画像を検索結果表示部109に表示する。
検索結果表示部109(表示部の一例)は、LCD(Liquid Crystal Display)等で構成され、各種情報を表示可能である。本実施形態では、検索結果表示部109は、人物検索システムの監視員等によって視認可能に設けられている。そして、人物検索システムの監視員は、検索結果表示部109に表示された情報を見て、所定人物が検索されたか否かを認識することができる。
次に、図2〜4を用いて、本実施形態にかかる人物検索システムにおける所定人物の検索処理について説明する。図2は、本実施形態にかかる人物検索システムにおける所定人物の検索処理の流れの一例を示すフローチャートである。図3は、本実施形態にかかる人物検索システムにおける合成顔画像の生成処理の一例を説明するための図である。図4は、本実施形態にかかる人物検索システムにおける所定人物の検索結果の表示例を示す図である。
画像条件検出部102は、画像入力部101から入力画像データを受信する(ステップS201)。次いで、画像条件検出部102は、受信した入力画像データに含まれる撮像顔画像を検出する(ステップS202)。本実施形態では、画像条件検出部102は、特徴抽出部104と同様に、入力画像データ内において、所定のテンプレートを移動させながら、入力画像データ内の各領域とテンプレートとの相関値を求め、当該相関値が最も高い領域を撮像顔画像として検出する。
画像条件検出部102は、入力画像データから撮像顔画像が検出されなかった場合(ステップS203:No)、当該入力画像データに基づく所定人物の検索処理を終了して、新たな入力画像データを受信するのを待つ。一方、画像条件検出部102は、入力画像データから撮像顔画像が検出された場合(ステップS203:Yes)、検出した撮像顔画像から、サングラス等の阻害要因を検出する(ステップS204)。撮像顔画像から阻害要因が検出された場合(ステップS205:Yes)、画像合成部103は、第1生体情報管理部106に記憶された登録顔画像を読み出し、当該読み出した登録顔画像と当該検出した阻害要因とを合成した合成顔画像を生成する(ステップS206)。
例えば、検出された阻害要因がマスクである場合、画像合成部103は、図3に示すように、登録顔画像Gに、マスクのみを合成した合成顔画像GMを生成する。また、検出された阻害要因がサングラスである場合、画像合成部103は、図3に示すように、登録顔画像Gに、サングラスのみを合成した合成顔画像GSを生成する。また、検出された阻害要因が髭である場合、画像合成部103は、図3に示すように、登録顔画像Gに髭のみを合成した合成顔画像GTを生成する。これにより、登録顔画像Gに対して、当該検出された阻害要因以外の他の阻害要因を合成する必要が無くなるので、合成顔画像の生成処理に要する時間を短縮することができる。
図2に戻り、特徴抽出部104は、画像合成部103により生成された合成顔画像の特徴量および撮像顔画像の特徴量を算出する(ステップS207)。その後、照合処理部105は、撮像顔画像の特徴量と合成顔画像の特徴量との類似度を算出し、当該算出した類似度に基づいて、所定人物を検索する(ステップS208)。これにより、画像条件検出部102によって阻害要因が検出された場合、登録顔画像に阻害要因を合成した合成顔画像を用いて所定人物の検索が行われるので、阻害要因を含まない登録顔画像を用いて所定人物を検索する場合と比較して、所定人物の検索率および検索精度を安定化させることができる。
その後、照合処理部105は、算出した類似度など、所定人物の検索に関わる情報を、所定人物の検索結果として第2生体情報管理部107に保存する(ステップS209)。また、照合処理部105は、算出した類似度に基づいて、所定人物を検索した場合、合成顔画像を登録顔画像として、当該合成顔画像の特徴量と、所定人物のID情報とを対応付けて、第1生体情報管理部106に保存する。
次いで、照合処理部105は、第1生体情報管理部106に記憶された全ての登録顔画像を読み出したか否かを判断する(ステップS210)。全ての登録顔画像を読み出していないと判断した場合(ステップS210:No)、画像合成部103は、ステップS206に戻り、第1生体情報管理部106から他の登録顔画像を読み出し、当該読み出した登録顔画像と当該検出した阻害要因とを合成した合成顔画像を生成する。
全ての登録顔画像を読み出したと判断した場合(ステップS210:Yes)、表示制御部108は、照合処理部105による所定人物の検索結果を、検索結果表示部109に表示する(ステップS211)。本実施形態では、図4に示すように、表示制御部108は、撮像顔画像の特徴量と合成顔画像の特徴量との類似度が所定閾値以上である場合(すわなち、照合処理部105によって所定人物が検索された場合)、撮像顔画像g、画像合成部103によって生成された合成顔画像のうち撮像顔画像との類似度が所定閾値以上の合成顔画像である所定人物画像g1、および当該生成された合成顔画像のうち撮像顔画像との類似度が所定閾値より低いと判断された合成顔画像である候補画像g2を含む画面Mを、検索結果表示部109に表示する。表示制御部108は、複数の候補画像g2を画面Mに含める場合、撮像顔画像gとの類似度が高い順に並べて画面Mに表示させる。
一方、表示制御部108は、撮像顔画像の特徴量と合成顔画像の特徴量との類似度が所定閾値より低い場合(すなわち、照合処理部105によって所定人物が検索されなかった場合)、撮像顔画像と類似する合成顔画像が無いため、所定人物画像g1を画面Mに含めない。これにより、人物検索システムの監視員は、検索結果表示部109に所定人物画像が表示されているか否かを確認することによって、所定人物が検索されたか否かを容易に認識することができる。
図2に戻り、撮像顔画像から阻害要因が検出されなかった場合(ステップS205:No)、特徴抽出部104は、第1生体情報管理部106から登録顔画像を読み出す。そして、特徴抽出部104は、撮像顔画像の特徴量および当該読み出した登録顔画像の特徴量を算出する(ステップS212)。その後、照合処理部105は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度を算出し、当該算出した類似度に基づいて、所定人物を検索する(ステップS213)。これにより、画像条件検出部102によって阻害要因が検出されなかった場合には、合成顔画像の生成が行われず、登録顔画像を用いて所定人物の検索が行われるので、合成顔画像の生成に要する時間を削減することができ、所定人物の検索処理の効率化を図ることができる。さらに、照合処理部105は、算出した類似度など、所定人物の検索に関わる情報を、所定人物の検索結果として第2生体情報管理部107に保存する(ステップS214)。
次いで、照合処理部105は、第1生体情報管理部106に記憶された全ての登録顔画像を読み出したか否かを判断する(ステップS215)。全ての登録顔画像を読み出していないと判断した場合(ステップS215:No)、画像合成部103は、ステップS212に戻り、第1生体情報管理部106から他の登録顔画像を読み出し、当該読み出した登録顔画像を特徴抽出部104に出力する。
一方、全ての登録顔画像を読み出したと判断した場合(ステップS215:Yes)、表示制御部108は、照合処理部105による所定人物の検索結果を、検索結果表示部109に表示する(ステップS211)。表示制御部108は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度に基づいて所定人物の検索を行った場合も、撮像顔画像の特徴量と合成顔画像の特徴量との類似度に基づいて所定人物の検索を行った場合と同様にして、所定人物の検索結果を表示する。
具体的には、表示制御部108は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度が所定閾値以上である場合(すわなち、照合処理部105によって所定人物が検索された場合)、撮像顔画像と、登録顔画像のうち撮像顔画像との類似度が所定閾値以上であると判断された登録顔画像である所定人物画像と、登録顔画像のうち撮像顔画像との類似度が所定閾値より低いと判断された合成顔画像である候補画像とを含む画面を、検索結果表示部109に表示する。表示制御部108は、複数の候補画像を画面に含める場合、撮像顔画像との類似度が高い順に並べて画面に表示させる。
一方、表示制御部108は、撮像顔画像の特徴量と登録顔画像の特徴量との類似度が所定閾値より低い場合(すなわち、照合処理部105によって所定人物が検索されなかった場合)、撮像顔画像と類似する登録顔画像が無いため、所定人物画像を画面に含めない。これにより、人物検索システムの監視員は、検索結果表示部109に所定人物画像が表示されているか否かを確認することによって、所定人物が検索されたか否かを容易に認識することができる。
このように、本実施形態の人物検索システムによれば、撮像顔画像から阻害要因が検出された場合、登録顔画像に阻害要因を合成した合成顔画像を用いて所定人物の検索が行われるので、阻害要因を含まない登録顔画像を用いて所定人物を検索する場合と比較して、所定人物の検索率および検索精度を安定化させることができる。
本発明の実施形態を説明したが、この実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施形態は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
101 画像入力部
102 画像条件検出部
103 画像合成部
104 特徴抽出部
105 照合処理部
106 第1生体情報管理部
107 第2生体情報管理部
108 表示制御部
109 検索結果表示部

Claims (6)

  1. 第1位置を通過する人物を撮像可能に設けられた撮像部の撮像により得られた画像データを受信する受信部と、
    前記画像データが含む第1顔画像から、顔画像に基づく所定人物の検索の阻害要因を検出する検出部と、
    前記阻害要因が検出されなかった場合、前記第1顔画像の特徴量と前記所定人物の第2顔画像の特徴量を求め、前記第1顔画像の特徴量と前記第2顔画像の特徴量との類似度に基づいて、前記所定人物を検索し、前記阻害要因が検出された場合、前記第2顔画像と前記阻害要因とを合成した第3顔画像を生成し、前記第1顔画像の特徴量および前記第3顔画像の特徴量を求め、前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度に基づいて、前記所定人物を検索する検索部と、
    前記検索部による前記所定人物の検索結果を表示する表示部と、
    を備えた人物検索システム。
  2. 前記検索部は、前記第1顔画像から検出した前記阻害要因のみを前記第2顔画像に合成して前記第3顔画像を生成する請求項1に記載の人物検索システム。
  3. 前記表示部は、前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度が所定閾値以上である場合、前記第1顔画像、前記第2顔画像、および前記第3顔画像を表示し、前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度が前記所定閾値より低い場合、前記第2顔画像を除いて、前記第1顔画像および前記第3顔画像を表示する請求項1に記載の人物検索システム。
  4. 第1位置を通過する人物を撮像可能に設けられた撮像部の撮像により得られた画像データを受信し、
    前記画像データが含む第1顔画像から、顔画像に基づく所定人物の検索の阻害要因を検出し、
    前記阻害要因が検出されなかった場合、前記第1顔画像の特徴量と前記所定人物の第2顔画像の特徴量を求め、前記第1顔画像の特徴量と前記第2顔画像の特徴量との類似度に基づいて、前記所定人物を検索し、
    前記阻害要因が検出された場合、前記第2顔画像と前記阻害要因とを合成した第3顔画像を生成し、前記第1顔画像の特徴量および前記第3顔画像の特徴量を求め、前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度に基づいて、前記所定人物を検索し、
    前記所定人物の検索結果を表示部に表示する、
    ことを含む人物検索方法。
  5. 前記第1顔画像から検出した前記阻害要因のみを前記第2顔画像に合成して前記第3顔画像を生成する請求項4に記載の人物検索方法。
  6. 前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度が所定閾値以上である場合、前記第1顔画像、前記第2顔画像、および前記第3顔画像を前記表示部に表示し、
    前記第1顔画像の特徴量と前記第3顔画像の特徴量との類似度が前記所定閾値より低い場合、前記第2顔画像を除いて、前記第1顔画像および前記第3顔画像を前記表示部に表示する請求項4に記載の人物検索方法。
JP2015176118A 2015-09-07 2015-09-07 人物検索システムおよび人物検索方法 Active JP6548998B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015176118A JP6548998B2 (ja) 2015-09-07 2015-09-07 人物検索システムおよび人物検索方法
EP16187372.4A EP3139308A1 (en) 2015-09-07 2016-09-06 People search system and people search method
US15/257,225 US10303927B2 (en) 2015-09-07 2016-09-06 People search system and people search method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015176118A JP6548998B2 (ja) 2015-09-07 2015-09-07 人物検索システムおよび人物検索方法

Publications (2)

Publication Number Publication Date
JP2017054210A true JP2017054210A (ja) 2017-03-16
JP6548998B2 JP6548998B2 (ja) 2019-07-24

Family

ID=56926005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015176118A Active JP6548998B2 (ja) 2015-09-07 2015-09-07 人物検索システムおよび人物検索方法

Country Status (3)

Country Link
US (1) US10303927B2 (ja)
EP (1) EP3139308A1 (ja)
JP (1) JP6548998B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018165980A (ja) * 2017-03-28 2018-10-25 三星電子株式会社Samsung Electronics Co.,Ltd. 顔認証方法及び装置
WO2018203555A1 (ja) * 2017-05-02 2018-11-08 日本電信電話株式会社 信号検索装置、方法、及びプログラム
WO2018203551A1 (ja) * 2017-05-02 2018-11-08 日本電信電話株式会社 信号検索装置、方法、及びプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106658148B (zh) * 2017-01-16 2020-04-10 深圳创维-Rgb电子有限公司 Vr播放方法、vr播放装置及vr播放系统
EP3418944B1 (en) * 2017-05-23 2024-03-13 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and program
CN108039007A (zh) * 2017-12-26 2018-05-15 北斗七星(重庆)物联网技术有限公司 一种安防方法及装置
TWI676136B (zh) * 2018-08-31 2019-11-01 雲云科技股份有限公司 使用雙重分析之影像偵測方法以及影像偵測裝置
WO2021186708A1 (ja) * 2020-03-19 2021-09-23 日本電気株式会社 訪問推進装置、システム、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
US20220237405A1 (en) * 2021-01-28 2022-07-28 Macronix International Co., Ltd. Data recognition apparatus and recognition method thereof

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003623A (ja) * 2010-06-18 2012-01-05 Toshiba Corp 顔画像検索装置および顔画像検索方法
JP2014063251A (ja) * 2012-09-20 2014-04-10 Toshiba Corp 人物認識装置、及び方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9177130B2 (en) * 2012-03-15 2015-11-03 Google Inc. Facial feature detection
JP6013241B2 (ja) 2013-03-18 2016-10-25 株式会社東芝 人物認識装置、及び方法
JP6025690B2 (ja) 2013-11-01 2016-11-16 ソニー株式会社 情報処理装置および情報処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012003623A (ja) * 2010-06-18 2012-01-05 Toshiba Corp 顔画像検索装置および顔画像検索方法
JP2014063251A (ja) * 2012-09-20 2014-04-10 Toshiba Corp 人物認識装置、及び方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
NESE ALYUZ, BERK GOKBERK AND LALE AKARUN: "3-D Face Recognition Under Occlusion Using Masked Projection", IEEE TRANSACTIONS ON INFORMATION FORENSICS AND SECURITY, vol. 8, no. 5, JPN6019008822, 2013, US, pages 789 - 802, XP011500331, ISSN: 0003995116, DOI: 10.1109/TIFS.2013.2256130 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018165980A (ja) * 2017-03-28 2018-10-25 三星電子株式会社Samsung Electronics Co.,Ltd. 顔認証方法及び装置
JP7046625B2 (ja) 2017-03-28 2022-04-04 三星電子株式会社 顔認証方法及び装置
WO2018203555A1 (ja) * 2017-05-02 2018-11-08 日本電信電話株式会社 信号検索装置、方法、及びプログラム
WO2018203551A1 (ja) * 2017-05-02 2018-11-08 日本電信電話株式会社 信号検索装置、方法、及びプログラム
JPWO2018203555A1 (ja) * 2017-05-02 2019-12-19 日本電信電話株式会社 信号検索装置、方法、及びプログラム
JPWO2018203551A1 (ja) * 2017-05-02 2020-01-23 日本電信電話株式会社 信号検索装置、方法、及びプログラム
US11335118B2 (en) 2017-05-02 2022-05-17 Nippon Telegraph And Telephone Corporation Signal retrieval apparatus, method, and program
US11615611B2 (en) 2017-05-02 2023-03-28 Nippon Telegraph And Telephone Corporation Signal retrieval device, method, and program

Also Published As

Publication number Publication date
EP3139308A1 (en) 2017-03-08
US20170068845A1 (en) 2017-03-09
JP6548998B2 (ja) 2019-07-24
US10303927B2 (en) 2019-05-28

Similar Documents

Publication Publication Date Title
JP2017054210A (ja) 人物検索システムおよび人物検索方法
KR102415632B1 (ko) 정보처리장치, 정보처리방법 및 기억매체
JP5755012B2 (ja) 情報処理装置、その処理方法、プログラム及び撮像装置
JP5793353B2 (ja) 顔画像検索システム、及び顔画像検索方法
JP4241763B2 (ja) 人物認識装置及びその方法
KR101546137B1 (ko) 인물 인식 장치 및 방법
US8401254B2 (en) Image search device and image search method
JP5740210B2 (ja) 顔画像検索システム、及び顔画像検索方法
US8929595B2 (en) Dictionary creation using image similarity
JP6369470B2 (ja) 情報処理システム
EP2309454B1 (en) Apparatus and method for detecting motion
JP2014182480A (ja) 人物認識装置、及び方法
KR20110034545A (ko) 화상 처리 장치 및 화상 처리 방법
JP5787686B2 (ja) 顔認識装置、及び顔認識方法
US20070253598A1 (en) Image monitoring apparatus
US9286707B1 (en) Removing transient objects to synthesize an unobstructed image
JP2019146087A (ja) 情報処理装置、撮像装置の制御方法、コンピュータプログラム、及び記憶媒体
JP6789676B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6376403B2 (ja) 同一人物映像に対する顔画像間欠切出し制御機構を用いたターゲット発見システム
JP2009104427A (ja) 顔検出方法及び装置、並びに顔検出プログラム
KR20140102815A (ko) 보행인 개인 고유특성을 판별하는 인텔리전트 cctv 시스템

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20170911

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170912

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190626

R150 Certificate of patent or registration of utility model

Ref document number: 6548998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150