JP6725381B2 - 画像照合装置および画像照合方法 - Google Patents

画像照合装置および画像照合方法 Download PDF

Info

Publication number
JP6725381B2
JP6725381B2 JP2016183231A JP2016183231A JP6725381B2 JP 6725381 B2 JP6725381 B2 JP 6725381B2 JP 2016183231 A JP2016183231 A JP 2016183231A JP 2016183231 A JP2016183231 A JP 2016183231A JP 6725381 B2 JP6725381 B2 JP 6725381B2
Authority
JP
Japan
Prior art keywords
image
best shot
unit
registered
person
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016183231A
Other languages
English (en)
Other versions
JP2018049369A (ja
Inventor
航太 齊藤
航太 齊藤
佑典 田副
佑典 田副
廣大 齊藤
廣大 齊藤
助川 寛
寛 助川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2016183231A priority Critical patent/JP6725381B2/ja
Priority to EP17189112.0A priority patent/EP3301609A1/en
Priority to US15/696,957 priority patent/US10515457B2/en
Priority to RU2017131263A priority patent/RU2679730C1/ru
Publication of JP2018049369A publication Critical patent/JP2018049369A/ja
Application granted granted Critical
Publication of JP6725381B2 publication Critical patent/JP6725381B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/50Maintenance of biometric data or enrolment thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Collating Specific Patterns (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)
  • Studio Devices (AREA)

Description

本発明の実施形態は、画像照合装置および画像照合方法に関する。
撮像部によって部屋の入口等の所定位置を撮像して得られた動画像を構成する複数のフレームそれぞれについて、予め登録された人物等の対象物の画像と照合して、所定位置に存在する対象物が予め登録された対象物か否かを判定する技術がある。また、撮像部によって所定位置を高速に連写して得られる複数の画像から、目が閉じておらず、手振れの影響が無く、明るさが十分であること等の所定の条件を満たす画像を選択し、当該選択した画像を、予め登録された対象物の画像と照合する技術もある。
特許第5753966号公報 特許第5454233号公報
しかしながら、複数のフレームについて、予め登録された対象物の画像と照合する技術においては、当該複数のフレーム全てについて、予め登録された対象物の画像との類似度を算出する処理に時間がかかる。また、複数の画像のうち所定の条件を満たす画像を、予め登録された対象物の画像と照合する技術においては、当該所定の条件を満たす画像が、予め登録された対象物の画像との照合に適していない場合もある。
実施形態の画像照合装置は、撮像部と、検出部と、追跡部と、選択部と、照合部と、表示部と、記憶部と、作成部と、を備える。撮像部は、所定位置を撮像可能に設けられる。検出部は、撮像部の撮像により得られる動画像を構成する複数のフレームそれぞれから対象物の対象物画像を検出する。追跡部は、複数のフレーム間において、同一の対象物の対象物画像を追跡する。選択部は、同一の対象物の対象物画像毎に、所定の評価式に従って、対象物画像が予め登録された対象物の登録画像との照合に適する度合いを表す評価値を算出し、かつ検出した対象物画像のうち、評価値が所定値以上の対象物画像をベストショット画像として選択する。照合部は、ベストショット画像と登録画像とを照合して、所定位置に存在する対象物が予め登録された対象物か否かを判断する照合処理を実行する。表示部は、照合処理の実行結果を表示する。記憶部は、ベストショット画像のうち、予め登録された対象物と判断された対象物のベストショット画像を記憶する。作成部は、記憶部に記憶されたベストショット画像に基づいて、登録画像との照合に適する対象物画像の評価値が高くなるように、評価式を更新または再作成する。
図1は、第1の実施形態にかかる本人照合システムの構成の一例を示す図である。 図2は、第1の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。 図3は、第1の実施形態にかかる本人照合システムにおけるベストショット評価式の構築処理の流れの一例を示すフローチャートである。 図4は、第1の実施形態にかかる本人照合システムにおけるベストショット画像の選択処理の流れの一例を示すフローチャートである。 図5は、第1の実施形態にかかる本人照合システムにおける照合処理の結果の表示例を示す図である。 図6は、第2の実施形態にかかる本人照合システムの構成の一例を示す図である。 図7は、第2の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。 図8は、第3の実施形態にかかる本人照合システムの構成の一例を示す図である。 図9は、第3の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。
以下、本実施形態にかかる画像照合装置および画像照合方法を適用した本人照合システムの一例について説明する。
(第1の実施形態)
図1は、第1の実施形態にかかる本人照合システムの構成の一例を示す図である。図1に示すように、本実施形態にかかる本人照合システムは、画像入力部101と、検出部102と、追跡部103と、ベストショット選択部104と、登録画像データベース105と、照合部106と、表示部107と、教示データベース108と、登録部109と、構築部110と、識別情報入力部111と、を有する。
画像入力部101は、建物や部屋の入口等の所定位置を撮像可能に設けられる撮像部である。検出部102は、画像入力部101により所定位置を撮像して得られる動画像を構成する複数のフレームそれぞれから人物(対象物の一例)の画像(以下、人物画像と言う。対象物画像の一例)を検出する。追跡部103は、動画像を構成する複数のフレーム間において、同一人物の人物画像を追跡する。ベストショット選択部104は、追跡部103によって追跡した同一人物の人物画像毎に、所定の評価式(以下、ベストショット評価式と言う)に従って、当該人物画像が、予め登録された人物の登録画像との照合に適する度合いを表す評価値(以下、ベストショット評価値と言う)を算出する。そして、ベストショット選択部104は、追跡部103によって追跡した同一人物の人物画像のうち、ベストショット評価値が所定値以上の人物画像を、ベストショット画像として選択する。登録画像データベース105は、予め登録された人物の画像である登録画像を記憶する記憶部である。
照合部106は、ベストショット選択部104により選択されたベストショット画像と、登録画像データベース105に記憶された登録画像とを照合して、所定位置を通過する人物が、予め登録された人物か否かを判断する照合処理を実行する。表示部107は、照合部106による照合処理の結果を表示する。教示データベース108は、ベストショット評価式の構築(生成)または更新に用いる人物画像を教示データとして記憶する。登録部109は、ベストショット画像のうち登録画像と一致すると判断された人物のベストショット画像を教示データとして教示データベース108に保存する。構築部110(作成部の一例)は、教示データベース108に記憶される教示データに基づいて、登録画像との照合に適する人物画像のベストショット評価値が高くなるように、ベストショット評価式を更新または再構築(再作成)する。識別情報入力部111は、所定位置を通過する人物のIDカード等から、当該人物を識別可能とする識別情報を読み取る読取部である。
次に、図1を用いて、本実施形態にかかる本人照合システムが有する各部の詳細について説明する。画像入力部101は、照合処理に用いる人物画像を取得するため、所定位置を通過する人物を正面から撮像可能な位置に設けられるカメラである。検出部102は、画像入力部101の撮像により得られる動画像を構成する各フレームから、人物画像を検出する。例えば、検出部102は、複数の顔の画像の平均でありかつ矩形状のテンプレート(以下、顔テンプレートと言う)を予め作成する。そして、検出部102は、フレーム上を、顔テンプレートを移動、回転、拡大、または縮小しながら走査して、フレームにおいて、顔テンプレートとの輝度値の差分が最も小さい領域を、人物画像(例えば、顔画像)として検出する。
追跡部103は、複数のフレーム間において、同一人物の人物画像を追跡する。例えば、追跡部103は、連続する複数のフレームそれぞれから検出された複数の人物画像同士が重なる面積が予め設定された面積以上である場合、当該複数の人物画像が、同一人物の人物画像と判断する。一方、追跡部103は、連続する複数のフレームそれぞれから検出された複数の人物画像が重なる面積が予め設定された面積より小さい場合、当該複数の人物画像が、異なる人物の人物画像と判断して、当該異なる人物の人物画像の追跡へと移行する。ただし、複数の人物画像間において、顔の位置が大きく変わらなかった場合、追跡部103は、異なる人物の人物画像であるにも関わらず、同一人物の人物画像として、当該人物画像の追跡を継続してしまう可能性がある。そのため、追跡部103は、同じ人物の人物画像を、予め設定された数、同一人物の人物画像と判断した場合には、当該人物の人物画像の追跡を終了する。
ベストショット選択部104は、追跡部103によって同一人物の人物画像と判断された人物画像毎に、ベストショット評価式に従って、ベストショット評価値を算出する。本実施形態では、ベストショット選択部104は、同一人物の人物画像と判断された人物画像の中から、算出されたベストショット評価値が所定値以上の1つまたは2つ以上の人物画像を選択する。登録画像データベース105は、所定位置の通過を許可された人物の画像である登録画像を、当該人物の識別情報と対応付けて記憶する。
照合部106は、登録画像データベース105に記憶される登録画像のうち識別情報入力部111により読み取られた識別情報と対応付けて記憶される登録画像(以下、対象人物画像と言う)と、ベストショット選択部104により選択されたベストショット画像とを照合する照合処理を実行する。表示部107は、液晶ディスプレイ等により構成され、照合部106による照合処理の結果を表示する。本実施形態では、表示部107は、対象人物画像、ベストショット選択部104により選択されたベストショット画像、および照合部106による対象人物画像とベストショット画像との照合結果を表示する。
教示データベース108(記憶部の一例)は、ベストショット画像を教示データとして、当該ベストショット画像について算出されたベストショット評価値とを対応付けて記憶する。また、教示データベース108は、ベストショット画像に代えて、当該ベストショット画像の特徴ベクトルを、ベストショット評価値と対応付けて記憶しても良い。また、教示データベース108は、ベストショット画像を、当該ベストショット画像について算出されたベストショット評価値が高い順に並べて記憶する。
登録部109は、ベストショット選択部104により選択されたベストショット画像のうち、人物対象画像との照合処理に成功したベストショット画像を教示データとして、当該ベストショット画像について算出されたベストショット評価値、および当該照合処理の結果と対応付けて、教示データベース108に保存する。
構築部110(作成部の一例)は、教示データベース108に記憶される教示データに基づいて、予め設定された機械学習のアルゴリズムを用いて、ベストショット評価式を更新または再構築する。これにより、画像入力部101により所定位置を撮像して得られる動画像を構成する全てのフレームに含まれる人物画像と、登録画像とを照合する必要がなくなるので、照合処理に要する時間を短縮できる。また、登録画像との照合に適した人物画像がベストショット画像として選択され易くなるので、登録画像との照合精度を向上させることができる。
識別情報入力部111は、登録画像データベース105から、対象人物画像を選択するために必要な情報を取得する。本実施形態では、識別情報入力部111は、所定位置を通過する人物の立ち位置から手の届く範囲に設けられた読取部により構成され、当該所定位置を通過する人物が所持するIDカード等から、当該人物を識別可能とする識別情報を読み取る。ここで、IDカードは、旅券、運転免許証、マイナンバーカード、その他、識別情報を記録可能な記録媒体であれば良い。また、識別情報入力部111は、読取部に代えて、識別情報を入力可能な入力装置、または所定位置を通過する人物の指紋や静脈等の生体情報を識別情報として読取可能な生体情報読取装置であっても良い。
次に、図2〜5を用いて、本実施形態にかかる本人照合システムによる照合処理の流れの一例について説明する。図2は、第1の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。図3は、第1の実施形態にかかる本人照合システムにおけるベストショット評価式の構築処理の流れの一例を示すフローチャートである。図4は、第1の実施形態にかかる本人照合システムにおけるベストショット画像の選択処理の流れの一例を示すフローチャートである。図5は、第1の実施形態にかかる本人照合システムにおける照合処理の結果の表示例を示す図である。
本実施形態では、本人照合システムは、照合処理の実行に先立って、教示データベース108に対して、教示データを保存しておく必要がある。そこで、照合処理が未だ実行されておらず、教示データベース108に対して、教示データが記憶されていない場合、登録部109は、インターネット等のネットワーク上において公開されている人物画像、若しくは画像入力部101の撮像により得られる撮像画像のうち外部装置から指示された撮像画像を、教示データとして教示データベース108に保存する。
次いで、構築部110は、教示データベース108に記憶される教示データに基づいて、ベストショット評価式を構築する(ステップS201)。ただし、構築部110は、ベストショット評価式が予め設定されている場合には、ベストショット評価式を構築しなくても良い。
ここで、図3を用いて、ベストショット評価式の構築処理について詳細に説明する。構築部110は、教示データベース108から、教示データが入力されると、入力された全ての教示データから、特徴ベクトルを抽出する(ステップS301)。次いで、構築部110は、抽出した特徴ベクトルを、ベストショット評価式を構築するために用いるパラメータ(以下、評価式構築パラメータと言う)として用いて、予め設定された機械学習のアルゴリズムに従って、ベストショット評価式を構築(作成)する(ステップS302)。その後、構築部110は、構築したベストショット評価式を、ベストショット選択部104に出力する。
例えば、構築部110は、教示データベース108から入力される各教示データを、mピクセル×nピクセルの矩形状の画像に拡大または縮小し、当該矩形状の画像の輝度値を特徴ベクトルとして抽出する。次いで、構築部110は、当該特徴ベクトルを、線形回帰等を用いてベストショット評価値に回帰させるベストショット評価式を構築する。
図2に戻り、識別情報入力部111は、所定位置を通過する人物が所持するIDカードから、識別情報を読み取る(ステップS202)。画像入力部101は、識別情報入力部111によって識別情報が読み取られると、所定位置を通過する人物の撮像を開始する。検出部102は、画像入力部101の撮像により得られる動画像を構成するフレームを取得する(ステップS203)。検出部102は、取得されたフレームから、人物画像を検出する(ステップS204)。追跡部103は、取得されたフレームから、前のフレームから検出された人物画像と同一人物の人物画像を追跡する(ステップS204)。そして、追跡部103は、最後に検出された人物画像が、前のフレームから検出された人物画像と同一人物の人物画像であるか否かに応じて、人物画像の追跡を終了するか否かを判断する(ステップS205)。最後に検出された人物画像が、前のフレームから検出された人物画像と同一人物の人物画像である場合、追跡部103は、人物画像の追跡を終了しないと判断する(ステップS205:No)。そして、検出部102は、新たなフレームを取得する(ステップS203)。
一方、最後に検出された人物画像が、前のフレームから検出された人物画像とは異なる人物の人物画像である場合、人物画像の追跡を終了すると判断する(ステップS205:Yes)。次に、ベストショット選択部104は、追跡部103により同一人物の人物画像と判断された人物画像から、ベストショット評価式を用いて、ベストショット画像を選択する(ステップS206)。
ここで、図4を用いて、本実施形態にかかる本人照合システムによるベストショット画像の選択処理について詳細に説明する。図4は、第1の実施形態にかかる本人照合システムによるベストショット画像の選択処理の流れの一例を示すフローチャートである。
ベストショット選択部104は、1人の人物の人物画像の追跡が終了する度に、追跡した同一人物の人物画像を取得する。次いで、ベストショット選択部104は、取得した各人物画像の特徴ベクトルを抽出する(ステップS401)。そして、ベストショット選択部104は、ベストショット評価式を用いて、各人物画像から抽出した特徴ベクトルに基づいて、ベストショット評価値を算出する(ステップS402)。ベストショット選択部104は、追跡した同一人物の全ての人物画像について、ステップS401およびステップS402に示す処理を繰り返す。
ベストショット選択部104は、追跡した同一人物の全ての人物画像についてベストショット評価値を算出すると、追跡した同一人物の人物画像を、ベストショット評価値が大きいものから順に並べる(ステップS403)。次いで、ベストショット選択部104は、追跡した同一人物の人物画像のうち、ベストショット評価値が高い人物画像から順に、上位N個の人物画像をベストショット画像として選択する(ステップS404)。または、ベストショット選択部104は、上述したように、同一人物の人物画像と判断された人物画像のうち、ベストショット評価値が所定値以上の人物画像を選択しても良い。そして、ベストショット選択部104は、選択したベストショット画像を、照合部106に出力する。
図2に戻り、照合部106は、登録画像データベース105に記憶される登録画像のうち識別情報入力部111により読み取られた識別情報と対応付けて記憶される対象人物画像と、ベストショット選択部104により選択されたベストショット画像とを照合する照合処理を実行する(ステップS207)。例えば、照合部106は、対象人物画像およびベストショット画像それぞれから特徴ベクトルを抽出する。その際、照合部106は、対象人物画像およびベストショット画像を、mピクセル×nピクセルの矩形状の画像に拡大または縮小する。そして、照合部106は、矩形状の画像に拡大または縮小された対象人物画像またはベストショット画像の輝度値を、特徴ベクトルとして抽出する。
対象人物画像およびベストショット画像から特徴ベクトルが抽出されると、照合部106は、対象人物画像から抽出した特徴ベクトルと、ベストショット画像から抽出した特徴ベクトルとの類似度を算出する。対象人物画像およびベストショット画像が共に複数である場合、照合部106は、対象人物画像およびベストショット画像の全ての組合せについて、類似度を算出する。そして、照合部106は、算出した類似度が所定閾値を超えている場合、所定位置を通過する人物が、識別情報入力部111により読み取られた識別情報により識別される人物であると判断する。ここで、所定閾値は、所定位置を通過する人物が、読み取った識別情報により識別される人物と判断する類似度の閾値である。一方、照合部106は、算出した類似度が所定閾値以下である場合、所定位置を通過する人物が、識別情報入力部111により読み取られた識別情報により識別される人物とは異なると判断する。また、対象人物画像およびベストショット画像が共に複数ある場合、照合部106は、対象人物画像およびベストショット画像の全ての組合せについて算出した類似度の平均が所定閾値を超えたか否かによって、所定位置を通過する人物が、識別情報入力部111により読み取られた識別情報により識別される人物であるか否かを判断しても良い。
次いで、表示部107は、照合部106による照合処理の結果を表示する(ステップS208)。本実施形態では、表示部107は、ベストショット画像、対象人物画像、当該ベストショット画像と当該対象人物画像との類似度、所定閾値等、照合処理に関する情報を表示する。例えば、表示部107は、図5に示すように、ベストショット評価値が高い上位5位までのベストショット画像BG1〜BG5を、当該ベストショット画像それぞれについて算出された対象人物画像との類似度501と共に表示する。また、表示部107は、図5に示すように、対象人物画像Gと、照合処理の結果502、および所定閾値503を表示する。また、表示部107は、ベストショット画像BG1〜BG5が複数ある場合、図5に示すように、各ベストショット画像と対象人物画像Gとの類似度の平均である平均類似度504を表示する。
図2に戻り、登録部109は、ベストショット画像のうち対象人物画像との照合に成功したベストショット画像を教示データとして、当該ベストショット画像と対象人物画像との照合処理の結果(例えば、ベストショット画像と対象人物画像の類似度)と対応付けて教示データベース108に保存する(ステップS209)。次いで、構築部110は、教示データベース108に記憶される教示データに基づいて、ベストショット評価式を更新するか否かを判断する(ステップS210)。構築部110は、ベストショット評価式を最後に更新または再構築してから、教示データベース108に教示データとして保存されたベストショット画像の数が所定数を超えた場合、ベストショット評価式を更新すると判断する(ステップS210:Yes)。一方、ベストショット評価式を最後に更新または再構築してから、教示データベース108に教示データとして保存されたベストショット画像の数が所定数以下である場合、ベストショット評価式を更新しないと判断する(ステップS210:No)。
ベストショット評価式を更新すると判断した場合、構築部110は、ベストショット評価式を最後に更新または再構築してから、教示データベース108に教示データとして保存されたベストショット画像に基づいて、ベストショット評価式を更新または再構築する(ステップS211)。その際、構築部108は、図3に示すベストショット評価式の構築処理と同様にして、ベストショット評価式を構築するものとする。また、構築部108は、ベストショット評価式を更新する場合、例えば、最後に構築または更新されたベストショット評価式を初期値として、ベストショット評価式を構築する。また、構築部108は、最後に構築または更新されたベストショット評価式、および教示データベース108に教示データとして保存されたベストショット画像に基づいて構築したベストショット評価式の両方を記憶しておく。そして、ベストショット選択部104は、上述の2つのベストショット評価式それぞれを用いて算出されるベストショット評価値の平均(または重み付け平均)を、各人物画像のベストショット評価値としても良い。また、構築部108は、ベストショット評価式が最後に更新または再構築された後に画像入力部101の撮像条件(例えば、フレームレート、解像度、画角、照明条件)が変更された場合、若しくは、ベストショット評価式が最後に更新または再構築された後に照合処理が失敗した回数が所定回数を超えた場合にも、教示データベース108に教示データとして保存されたベストショット画像に基づいて、ベストショット評価式を更新または再構築しても良い。これにより、人物画像の照合状況に応じて、登録画像との照合に適した人物画像がベストショット画像として選択され易くなるように、ベストショット評価式を更新または再構築できるので、人物画像と登録画像との照合精度を向上させることができる。
このように、第1の実施形態にかかる本人照合システムによれば、画像入力部101により所定位置を撮像して得られる動画像を構成する全てのフレームに含まれる人物画像と、登録画像とを照合する必要がなくなり、照合処理の処理量を削減できるので、照合処理に要する時間を短縮できる。また、照合処理に要するメモリの容量を削減できる。また、登録画像との照合に適した人物画像がベストショット画像として選択され易くなるので、人物画像と登録画像との照合精度を向上させることができる。
また、本実施形態では、ベストショット選択部104は、識別情報入力部111により読み取られる識別情報により識別される人物、または照合処理を実行する日にちに応じて、ベストショット評価値の算出に用いるベストショット評価式を変更しても良い。具体的には、構築部110は、予め登録された人物、または日にち毎に、ベストショット評価式を構築しておく。そして、ベストショット選択部104は、識別情報入力部11により読み取られる識別情報により識別される人物のベストショット評価式、または照合処理を実行する日にちのベストショット評価式に基づいて、ベストショット評価値を算出する。
また、本実施形態では、照合部106は、追跡部103により追跡した同一人物の人物画像のうち、ベストショット画像以外の人物画像でありかつベストショット評価値が最も高い人物画像を教示データベース108に保存する。そして、構築部110は、ベストショット画像以外の人物画像が、所定数以上、教示データベース108に保存された場合に、当該ベストショット画像以外の人物画像に基づいて、ベストショット評価式を更新または再構築しても良い。または、構築部110は、画像入力部101の撮像により得られる動画像の明るさが変わった場合、若しくは、外部装置から入力される更新指示に応じて、教示データベース108に記憶される、ベストショット画像以外の人物画像に基づいて、ベストショット評価式を更新または再構築しても良い。これにより、人物画像と登録画像との照合精度が低下した場合に、登録画像との照合に適した人物画像がベストショット画像としてより選択され易くすることができるので、人物画像と登録画像との照合精度を向上させることができる。
(第2の実施形態)
本実施形態は、本人照合システムが、通路等の通行する人物の人物画像と、登録画像とを照合する例である。以下の説明では、第1の実施形態と同様の箇所については説明を省略する。
図6は、第2の実施形態にかかる本人照合システムの構成の一例を示す図である。図6に示すように、本実施形態にかかる本人照合システムは、識別情報入力部111を有しない点において、第1の実施形態にかかる本人照合システムと異なる。本実施形態では、画像入力部101は、道路や建物内の監視対象の通路等(所定位置の一例)を通行する人物を撮像可能に設けられる。例えば、画像入力部101は、監視対象の通路から数十メートル離れた位置の天井に設置され、かつ監視対象の通路の床の中央付近を撮像可能に設けられている。
本実施形態では、登録画像データベース105は、指名手配されている人物の画像、行方不明となっている人物の画像、迷子の子供の画像など、検索対象となっている人物の画像を、登録画像として記憶する。そして、照合部601は、登録画像データベース105に記憶される全ての登録画像を、対象人物画像として、ベストショット選択部104により選択されたベストショット画像と照合する照合処理を実行する。さらに、照合部601は、登録画像データベース105に記憶される登録画像から、ベストショット画像との照合に成功した登録画像を検索する。表示部602は、照合部601による登録画像の検索結果を表示する。
図7は、第2の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。本実施形態では、照合部601は、上述したように、登録画像データベース105に記憶される全ての登録画像を対象人物画像として、ベストショット選択部104により選択されたベストショット画像と照合する照合処理を実行する。そして、照合部601は、登録画像データベース105に記憶される登録画像から、ベストショット画像との照合に成功した登録画像を検索する(ステップS701)。本実施形態では、照合部601は、登録画像データベース105に記憶される登録画像から、ベストショット画像との類似度が所定閾値を超えている登録画像を検索する。
そして、表示部602は、照合部601による登録画像の検索結果を表示する(ステップS702)。本実施形態では、表示部602は、ベストショット画像と、検索された登録画像とを表示する。また、ベストショット画像との照合に成功した登録画像が検索されなかった場合(ステップS703:No)、登録部109は、ベストショット画像を、教示データベース108への保存を行わない。一方、ベストショット画像との照合に成功した登録画像が検索された場合(ステップS703:Yes)、登録部109は、ベストショット画像を教示データとして、当該ベストショット画像と登録画像との照合処理の結果と対応付けて教示データベース108に保存する(ステップS209)。
このように、第2の実施形態にかかる本人照合システムによれば、監視対象の通路を通過する人物の人物画像と、登録画像とを照合する場合も、第1の実施形態と同様の作用効果を得ることができる。
(第3の実施形態)
本実施形態は、ベストショット画像と登録画像との照合に失敗した場合に、当該ベストショット画像を登録画像として、登録画像データベースに保存する例である。以下の説明では、第2の実施形態と同様の箇所については説明を省略する。
図8は、第3の実施形態にかかる本人照合システムの構成の一例を示す図である。図8に示すように、本実施形態では、ベストショット選択部801は、ベストショット画像が登録画像との照合に失敗した場合、ベストショット画像を登録画像として登録画像データベース105に保存する。これにより、画像入力部101により撮像された人物が、再度、所定位置を通過した場合に、当該人物を撮像して得られる人物画像(ベストショット画像)との照合に成功する登録画像を検索することができる。
図9は、第3の実施形態にかかる本人照合システムによる照合処理の流れの一例を示すフローチャートである。本実施形態では、ベストショット選択部801は、ステップS703において、ベストショット画像との照合に成功した登録画像が検索されなかった場合(ステップS703:No)、すなわち、ベストショット画像が登録画像との照合に失敗した場合、ベストショット画像を登録画像として登録画像データベース105に保存する(ステップS901)。
このように、第3の実施形態にかかる本人照合システムによれば、画像入力部101により撮像された人物が、再度、所定位置を通過した場合に、当該人物を撮像して得られる人物画像(ベストショット画像)との照合に成功する登録画像を検索することができる。
本実施形態では、教示データベース108および登録画像データベース105は、自システム内においてのみ使用されるが、これに限定するものではなく、他の本人照合ステムによっても使用されても良い。また、登録部109は、教示データベース108に記憶可能な教示データの数の上限を予め設定しておき、教示データベース108に記憶される教示データの数が上限を超えた場合、教示データベース108に記憶された日時が古い教示データから順に削除しても良い。
また、第1〜3の実施形態にかかる本人照合システムにおいては、人物画像と登録画像とを照合する例について説明したが、これに限定するものではなく、例えば、自動車の車体本体やナンバープレート、ブランド品等を対象物とし、当該対象物を撮像して得られる動画像を構成するフレームに含まれる対象物の画像と、登録画像とを照合する場合も、同様に行うことができる。
以上説明したとおり、第1から第3の実施形態によれば、画像入力部101により所定位置を撮像して得られる動画像を構成する全てのフレームに含まれる人物画像と、登録画像とを照合する必要がなくなり、照合処理の処理量を削減できるので、照合処理に要する時間を短縮できる。
なお、本実施形態の本人照合システムで実行されるプログラムは、ROM(Read Only Memory)等に予め組み込まれて提供される。本実施形態の本人照合システムで実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
さらに、本実施形態の本人照合システムで実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の本人照合システムで実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
本実施形態の本人照合システムで実行されるプログラムは、上述した各部(検出部102、追跡部103、ベストショット選択部104,801、照合部106,601、登録部109、および構築部110)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(Central Processing Unit)が上記ROMからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、検出部102、追跡部103、ベストショット選択部104,801、照合部106,601、登録部109、および構築部110が主記憶装置上に生成されるようになっている。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
101 画像入力部
102 検出部
103 追跡部
104,801 ベストショット選択部
105 登録画像データベース
106,601 照合部
107,602 表示部
108 教示データベース
109 登録部
110 構築部
111 識別情報入力部

Claims (5)

  1. 所定位置を撮像可能に設けられる撮像部と、
    前記撮像部の撮像により得られる動画像を構成する複数のフレームそれぞれから対象物の対象物画像を検出する検出部と、
    前記複数のフレーム間において、同一の対象物の前記対象物画像を追跡する追跡部と、
    同一の対象物の前記対象物画像毎に、所定の評価式に従って、前記対象物画像が予め登録された対象物の登録画像との照合に適する度合いを表す評価値を算出し、かつ検出した前記対象物画像のうち、前記評価値が所定値以上の前記対象物画像をベストショット画像として選択する選択部と、
    前記ベストショット画像と前記登録画像とを照合して、前記所定位置に存在する対象物が前記予め登録された対象物か否かを判断する照合処理を実行する照合部と、
    前記照合処理の実行結果を表示する表示部と、
    前記ベストショット画像のうち、前記予め登録された対象物と判断された対象物の前記ベストショット画像を記憶する記憶部と、
    前記記憶部に記憶された前記ベストショット画像に基づいて、前記登録画像との照合に適する前記対象物画像の前記評価値が高くなるように、前記評価式を更新または再作成する作成部と、
    を備える画像照合装置。
  2. 前記照合部は、さらに、同一の対象物の前記対象物画像のうち、前記ベストショット画像以外の前記対象物画像でありかつ前記評価値が最も高い前記対象物画像を前記記憶部に保存し、
    前記作成部は、前記ベストショット画像以外の前記対象物画像が、所定数以上、前記記憶部に保存された場合に、前記ベストショット画像以外の前記対象物画像に基づいて、前記評価式を更新または再作成する請求項1に記載の画像照合装置。
  3. 前記作成部は、前記評価式が最後に更新または再作成された後に前記記憶部に記憶された前記ベストショット画像の数が所定数を超えた場合、前記評価式が最後に更新または再作成された後に前記撮像部の撮像条件が変更された場合、または前記評価式が最後に更新または再作成された後に前記ベストショット画像と前記登録画像との照合に失敗した回数が所定回数を超えた場合、前記記憶部に記憶された前記ベストショット画像に基づいて、前記評価式を更新または再作成する請求項1または2に記載の画像照合装置。
  4. 前記選択部は、前記ベストショット画像と前記登録画像との照合に失敗した場合、当該ベストショット画像を前記登録画像として登録する請求項1から3のいずれか一に記載の画像照合装置。
  5. 撮像部により所定位置を撮像して得られる動画像を構成する複数のフレームそれぞれから対象物の対象物画像を検出し、
    前記複数のフレーム間において、同一の対象物の前記対象物画像を追跡し、
    同一の対象物の前記対象物画像毎に、所定の評価式に従って、前記対象物画像が予め登録された対象物の登録画像との照合に適する度合いを表す評価値を算出し、
    検出した前記対象物画像のうち、前記評価値が所定値以上の前記対象物画像をベストショット画像として選択し、
    前記ベストショット画像と前記登録画像とを照合して、前記所定位置に存在する対象物が前記予め登録された対象物か否かを判断する照合処理を実行し、
    前記照合処理の実行結果を表示し、
    前記ベストショット画像のうち、前記予め登録された対象物と判断された対象物の前記ベストショット画像を記憶部に保存し、
    前記記憶部に記憶された前記ベストショット画像に基づいて、前記登録画像との照合に適する前記対象物画像の前記評価値が高くなるように、前記評価式を更新または再作成する、
    ことを含む画像照合方法。
JP2016183231A 2016-09-20 2016-09-20 画像照合装置および画像照合方法 Active JP6725381B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016183231A JP6725381B2 (ja) 2016-09-20 2016-09-20 画像照合装置および画像照合方法
EP17189112.0A EP3301609A1 (en) 2016-09-20 2017-09-01 Image collation system and image collation method
US15/696,957 US10515457B2 (en) 2016-09-20 2017-09-06 Image collation system and image collation method
RU2017131263A RU2679730C1 (ru) 2016-09-20 2017-09-06 Система сопоставления изображений и способ сопоставления изображений

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016183231A JP6725381B2 (ja) 2016-09-20 2016-09-20 画像照合装置および画像照合方法

Publications (2)

Publication Number Publication Date
JP2018049369A JP2018049369A (ja) 2018-03-29
JP6725381B2 true JP6725381B2 (ja) 2020-07-15

Family

ID=59772481

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016183231A Active JP6725381B2 (ja) 2016-09-20 2016-09-20 画像照合装置および画像照合方法

Country Status (4)

Country Link
US (1) US10515457B2 (ja)
EP (1) EP3301609A1 (ja)
JP (1) JP6725381B2 (ja)
RU (1) RU2679730C1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6700791B2 (ja) * 2016-01-05 2020-05-27 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7034827B2 (ja) * 2018-05-21 2022-03-14 株式会社東芝 監視方法
JP2020154764A (ja) * 2019-03-20 2020-09-24 東芝テック株式会社 情報処理装置及び読取システム
CN112073613B (zh) * 2020-09-10 2021-11-23 广州视源电子科技股份有限公司 会议人像的拍摄方法、交互平板、计算机设备及存储介质

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5454233A (en) 1977-10-07 1979-04-28 Yahata Electric Works High voltage generator
JPS5753966A (ja) 1980-09-17 1982-03-31 Matsushita Electric Ind Co Ltd Kinzokupataannohogohoho
JP3590321B2 (ja) 2000-03-28 2004-11-17 株式会社メディックエンジニアリング 人物照合システム
TWI278782B (en) 2001-08-24 2007-04-11 Toshiba Corp Personal recognition apparatus
JP2005242890A (ja) 2004-02-27 2005-09-08 Mitsubishi Electric Corp 人物特定装置
JP2007206833A (ja) * 2006-01-31 2007-08-16 Toshiba Corp 生体照合方法および生体照合装置
JP4862518B2 (ja) * 2006-06-29 2012-01-25 パナソニック株式会社 顔登録装置、顔認証装置および顔登録方法
JP4389956B2 (ja) * 2007-04-04 2009-12-24 ソニー株式会社 顔認識装置及び顔認識方法、並びにコンピュータ・プログラム
JP5141317B2 (ja) * 2008-03-14 2013-02-13 オムロン株式会社 対象画像検出デバイス、制御プログラム、および該プログラムを記録した記録媒体、ならびに対象画像検出デバイスを備えた電子機器
JP5483863B2 (ja) * 2008-11-12 2014-05-07 キヤノン株式会社 情報処理装置およびその制御方法
JP5476955B2 (ja) * 2009-12-04 2014-04-23 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
JP5454233B2 (ja) 2010-03-04 2014-03-26 日本電気株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5488076B2 (ja) * 2010-03-15 2014-05-14 オムロン株式会社 対象物追跡装置、対象物追跡方法、および制御プログラム
JP2012003326A (ja) * 2010-06-14 2012-01-05 Sony Corp 情報処理装置、情報処理方法、およびプログラム
US8705813B2 (en) * 2010-06-21 2014-04-22 Canon Kabushiki Kaisha Identification device, identification method, and storage medium
JP5753966B2 (ja) 2010-08-05 2015-07-22 パナソニックIpマネジメント株式会社 顔画像登録装置および方法
JP6026119B2 (ja) 2012-03-19 2016-11-16 株式会社東芝 生体情報処理装置
JP2013210845A (ja) * 2012-03-30 2013-10-10 Secom Co Ltd 移動物体照合装置
US9195883B2 (en) * 2012-04-09 2015-11-24 Avigilon Fortress Corporation Object tracking and best shot detection system
US9904852B2 (en) * 2013-05-23 2018-02-27 Sri International Real-time object detection, tracking and occlusion reasoning
WO2014203523A1 (ja) 2013-06-18 2014-12-24 パナソニックIpマネジメント株式会社 撮影位置決定装置及び撮影位置決定方法
JP6369470B2 (ja) * 2013-09-26 2018-08-08 日本電気株式会社 情報処理システム
JP5627811B1 (ja) * 2014-04-16 2014-11-19 新生電子株式会社 遊技場内管理システム
US9639742B2 (en) * 2014-04-28 2017-05-02 Microsoft Technology Licensing, Llc Creation of representative content based on facial analysis
US9514364B2 (en) * 2014-05-29 2016-12-06 Qualcomm Incorporated Efficient forest sensing based eye tracking
RU2578806C1 (ru) 2014-12-30 2016-03-27 Общество с ограниченной ответственностью "Вокорд СофтЛаб" (ООО "Вокорд СофтЛаб") Способ сравнения лица человека с помощью цифрового двумерного изображения лица либо с помощью изображения лица от одной или нескольких стереокамер с двумерным изображением лица из базы данных
JP2017033547A (ja) * 2015-08-05 2017-02-09 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム
JP6700791B2 (ja) * 2016-01-05 2020-05-27 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP6629139B2 (ja) * 2016-05-30 2020-01-15 株式会社東芝 制御装置、制御方法およびプログラム
KR20190062030A (ko) * 2017-11-28 2019-06-05 삼성전자주식회사 영상 표시 장치 및 그 동작 방법

Also Published As

Publication number Publication date
US10515457B2 (en) 2019-12-24
US20180082439A1 (en) 2018-03-22
JP2018049369A (ja) 2018-03-29
EP3301609A1 (en) 2018-04-04
RU2679730C1 (ru) 2019-02-12

Similar Documents

Publication Publication Date Title
JP6725381B2 (ja) 画像照合装置および画像照合方法
JP6977730B2 (ja) 人流推定装置、人流推定方法およびプログラム
US9626551B2 (en) Collation apparatus and method for the same, and image searching apparatus and method for the same
JP7282851B2 (ja) 装置、方法及びプログラム
JP5077164B2 (ja) 追跡装置及び追跡方法
JP5722381B2 (ja) ビデオ解析
JP6280020B2 (ja) 移動物体追跡装置
JP6361775B2 (ja) 対象姿勢特定の方法および装置
JP2018028784A (ja) 移動体群検出プログラム、移動体群検出装置、及び移動体群検出方法
JP2013232060A (ja) 画像認識装置、その制御方法、および制御プログラム、並びに撮像装置および表示装置
JP6527183B2 (ja) 放置物検出装置
US10997398B2 (en) Information processing apparatus, authentication system, method of controlling same, and medium
JP7020567B2 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
US20160117839A1 (en) Image output device, image output method, and computer program product
JP2022058833A (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP7113217B2 (ja) 照合装置、照合方法、及びプログラム
JP2018097707A (ja) 情報処理装置、文字認識方法、コンピュータプログラム、及び記憶媒体
CN106355137A (zh) 检测反复游荡的方法和反复游荡检测装置
JP6132996B1 (ja) 画像処理装置,画像処理方法,画像処理プログラム
JP2021012631A (ja) 映像処理システム、情報処理装置、情報処理方法及びプログラム
JP7371806B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20230351729A1 (en) Learning system, authentication system, learning method, computer program, learning model generation apparatus, and estimation apparatus
JP2016071591A (ja) 照合装置および照合方法
JP6645166B2 (ja) 移動時間記憶システム、移動時間記憶方法および移動時間記憶プログラム
JP6478650B2 (ja) 識別装置及びデータ関係生成装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20170814

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170815

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200625

R150 Certificate of patent or registration of utility model

Ref document number: 6725381

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150