JP2008040781A - 被写体照合装置および被写体照合方法 - Google Patents

被写体照合装置および被写体照合方法 Download PDF

Info

Publication number
JP2008040781A
JP2008040781A JP2006214111A JP2006214111A JP2008040781A JP 2008040781 A JP2008040781 A JP 2008040781A JP 2006214111 A JP2006214111 A JP 2006214111A JP 2006214111 A JP2006214111 A JP 2006214111A JP 2008040781 A JP2008040781 A JP 2008040781A
Authority
JP
Japan
Prior art keywords
subject
collation
subjects
tracking
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006214111A
Other languages
English (en)
Other versions
JP4984728B2 (ja
Inventor
Tatsuji Yamazaki
龍次 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2006214111A priority Critical patent/JP4984728B2/ja
Priority to PCT/JP2007/065392 priority patent/WO2008018423A1/ja
Priority to US12/299,939 priority patent/US8208028B2/en
Publication of JP2008040781A publication Critical patent/JP2008040781A/ja
Application granted granted Critical
Publication of JP4984728B2 publication Critical patent/JP4984728B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C1/00Registering, indicating or recording the time of events or elapsed time, e.g. time-recorders for work people
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C9/00Individual registration on entry or exit
    • G07C9/30Individual registration on entry or exit not involving the use of a pass
    • G07C9/32Individual registration on entry or exit not involving the use of a pass in combination with an identity check
    • G07C9/37Individual registration on entry or exit not involving the use of a pass in combination with an identity check using biometric data, e.g. fingerprints, iris scans or voice recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Collating Specific Patterns (AREA)
  • Studio Devices (AREA)

Abstract

【課題】撮影する被写体の数が多い場合であっても、安価な装置で、被写体の照合を可能とする。
【解決手段】被写体照合装置1は、複数の被写体を撮影するカメラ10と、撮影して得た複数の画像情報それぞれから複数の被写体それぞれの被写体画像を検出する被写体検出部21と、複数の被写体それぞれに対応する被写体画像の動きに基づいて複数の被写体それぞれを追跡し、複数の被写体それぞれの追跡情報を作成する被写体追跡部22と、複数の被写体それぞれの追跡情報を記憶する追跡情報記憶部23と、追跡情報に基づいて複数の被写体の中から照合を行う被写体を選択する被写体選択部30と、選択された被写体を照合する照合部40と、照合された結果を報知する報知部60とを備えている。
【選択図】図1

Description

本発明は、被写体照合装置および被写体照合方法に関し、特に、複数の被写体を撮影して照合するための被写体照合装置および被写体照合方法に関する。
従来、建物、敷地、施設などの構内や街頭において、監視カメラや赤外線センサなどを利用して、入退室者、入場者などの被写体を検出し、入退室者の管理、不審者の監視などを行う監視装置が開発されている。
一方、ICカードなどによる本人確認に加えて、アクセス時の本人認証の方法として、人体の指紋、虹彩、眼底血管、顔の特徴、腕や手などの血管パターンなど、その被認証者固有のいわゆるバイオメトリクス情報を用いた様々な認証方法が実用化されている。
これらのうち、装置の構成の容易さ、認証時の手軽さなどの扱いやすさから、たとえば顔の特徴を利用して生体認証を行う認証方法(以下、「顔認証」という)が建物、建物、敷地、施設などの出入口、構内にある入室管理装置、監視装置などに用いられている。
顔認証とは、被認証者(以下、「被写体」という)の顔を含む領域を撮影して得た顔画像から生成した認証に用いる情報(認証情報)と予め登録された認証情報(登録認証情報)とを比較照合し、互いに一致すると判定された場合には、被写体が予め登録されたものであると認証する方法である。
監視装置では、監視区域内を移動する複数の人物を、監視区域内の背景画像と撮影時点での入力画像との差分から検出し、追跡していた(たとえば、特許文献1を参照)。
また、入退室する人物を監視する監視装置では、入退室する人物を追跡し、人物動線を調べることで、その人物が認証人物かどうかを判定していた(たとえば、特許文献2を参照)。
特開平8−205131号公報 特開2004−185484号公報
しかしながら、従来の監視装置では、撮影範囲内に存在する人物を照合するときに、人物の数に伴って照合に必要な時間も増加していた。さらに、監視装置が設置された場所から、移動する人物を追跡して照合する場合には、撮影時点ごとの照明条件、顔の向き、撮影距離などの撮影環境の違いにより、照合結果を得るまでの時間は大幅にばらついていた。
このような中で、移動する被写体をリアルタイムに追跡しながら照合を行う場合には、監視装置では、監視漏れを防ぐために、被写体の追跡が可能な時間内で、確実に、撮影処理、照合処理を終了する必要があり、高い処理能力が要求される。このために、監視装置は、並列処理、高速処理を実行可能な、回路規模の大きい、高価な装置になってしまうといった課題があった。
本発明は、このような課題を解決するものであり、照合する被写体の数が多くなった場合であっても、安価な装置で、移動している被写体の照合を可能とする被写体照合装置および被写体照合方法を提供することを目的とする。
本発明の被写体照合装置は、複数の被写体を連続して撮影する撮影部と、撮影部により撮影して得た複数の画像情報それぞれから複数の被写体それぞれの被写体画像を検出する被写体検出部と、複数の被写体それぞれに対応する被写体画像の動きに基づいて複数の被写体それぞれを追跡し、複数の被写体それぞれの追跡情報を作成する被写体追跡部と、複数の被写体それぞれの追跡情報を記憶する追跡情報記憶部と、追跡情報記憶部に記憶された追跡情報に基づいて、複数の被写体の中から、照合を行う被写体を選択する被写体選択部と、被写体選択部で選択された被写体を照合する照合部とを備えたことを特徴とする。
この構成によれば、追跡情報に基づいて、複数の被写体の中から、被写体を選択してから照合を行うことができ、撮影する被写体の数が多くなっても、被写体の照合時間を抑えることができ、移動する被写体を追跡して照合することができる。
また、被写体追跡部は、追跡情報に、複数の被写体の情報を、時系列に記録するようにしてもよい。
これによれば、さらに、時間の情報に基づいて、被写体を選択することが可能となる。
また、照合部は、追跡情報に、複数の被写体それぞれの照合の有無を記録するようにしてもよい。
これによれば、さらに、照合回数が少ない被写体から優先的に照合することが可能となる。
また、被写体選択部は、複数の被写体の中で、照合回数の少ない被写体を優先して選択するようにしてもよい。
これによれば、さらに、照合回数が同じとき、先に撮影された被写体を優先的に照合することができる。
また、被写体選択部は、複数の被写体の中で、未照合の被写体を優先して選択するようにしてもよい。
これによれば、さらに、照合されていない被写体を優先して照合することができる。
また、被写体選択部は、複数の被写体の中で、未照合の被写体がないときに、最後に照合した時点から最も時間が経過している被写体を優先して選択するようにしてもよい。
これによれば、さらに、未照合の被写体がないときに、最後に照合した時点から最も時間が経過している被写体を優先して照合することができる。
また、被写体選択部は、同一の被写体に対して、被写体画像の領域の大きさが大きいものから順に選択するようにしてもよい。
これによれば、さらに、照合しやすい画像を用いて、被写体を照合することができる。
また、被写体は、人物の顔であり、被写体選択部は、同一の被写体に対して、顔の向きが正面方向に近いものから順に選択するようにしてもよい。
これによれば、さらに、照合しやすい画像を用いて、被写体を照合することができる。
また、被写体選択部における選択条件を切り換えるための入力を行う入力部をさらに備えてもよい。
これによれば、さらに、選択条件の入力に応じて、照合処理を切り換えることができる。これにより、即時性、照合精度などの優先度に応じて照合処理を切り換えることが可能となる。
本発明の被写体照合装置は、複数の被写体を連続して撮影し、撮影して得た複数の被写体それぞれの被写体画像の動きから複数の被写体それぞれの追跡履歴情報と被写体画像情報とを保持している撮影装置と接続される被写体照合装置であって、撮影装置から追跡履歴情報を受信する受信部と、追跡履歴情報を記憶する受信情報記憶部と、受信情報記憶部に記憶された追跡履歴情報に基づいて、複数の被写体の中から、照合する被写体を選択する被写体選択部と、選択された被写体に対応する被写体画像を撮影装置から取得する画像伝送制御部と、画像伝送制御部で取得された被写体画像を照合する照合部とを備えたことを特徴とする。
この構成によれば、撮影装置から取得した追跡履歴情報から、照合を行う被写体を選択し、選択された被写体に対応する被写体画像情報のみ撮影装置から取得すればよく、撮影された被写体の数が多くなっても、撮影装置から取得するデータ量を抑えることができる。これにより、ネットワークを利用して、被写体画像情報を取得して照合を行う場合であっても、より多くの被写体を追跡して照合することができる。
本発明の被写体照合方法は、被写体を撮影する撮影部と、被写体を追跡して得た追跡情報を記憶する追跡情報記憶部とを有した被写体照合装置を用いて被写体を照合する被写体照合方法であって、撮影部を用いて複数の被写体を連続して撮影する撮影ステップと、撮影部により撮影して得た複数の画像情報それぞれから複数の被写体それぞれの被写体画像を検出する被写体検出ステップと、複数の被写体それぞれに対応する被写体画像の動きに基づいて複数の被写体それぞれを追跡し、複数の被写体それぞれの追跡情報を作成する被写体追跡ステップと、複数の被写体それぞれの追跡情報を追跡情報記憶部に記憶する記憶ステップと、追跡情報記憶部に記憶された追跡情報に基づいて、複数の被写体の中から、照合を行う被写体を選択する被写体選択ステップと、被写体選択ステップで、選択された被写体を照合する照合ステップとを備えたことを特徴とする。
この方法によれば、追跡情報に基づいて、複数の被写体の中から、被写体を選択してから照合を行うため、撮影する被写体の数が多くなっても、被写体の照合時間を抑えることができ、移動する被写体を追跡して照合することができる。
また、被写体追跡ステップで、追跡情報に、複数の被写体の情報を、時系列に記録するようにしてもよい。
これによれば、さらに、時間の情報に基づいて、被写体を選択することが可能となる。
また、照合ステップで、追跡情報に、複数の被写体それぞれの照合の有無を記録するようにしてもよい。
これによれば、さらに、照合回数が少ない被写体から優先的に照合することが可能となる。
また、被写体選択ステップで、複数の被写体の中で、照合回数の少ない被写体を優先して選択するようにしてもよい。
これによれば、さらに、照合回数が同じとき、先に撮影された被写体を優先的に照合することができる。
また、被写体選択ステップで、複数の被写体の中で、未照合の被写体を優先して選択するようにしてもよい。
これによれば、さらに、照合されていない被写体を優先して照合することができる。
また、被写体選択ステップで、複数の被写体の中で、未照合の被写体がないときに、最後に照合した時点から最も時間が経過している被写体を優先して選択するようにしてもよい。
これによれば、さらに、未照合の被写体がないときに、最後に照合した時点から最も時間が経過している被写体を優先して照合することができる。
また、被写体選択ステップで、同一の被写体に対して、被写体画像の領域の大きさが大きいものから順に選択するようにしてもよい。
これによれば、さらに、照合しやすい画像を用いて、被写体を照合することができる。
また、被写体は、人物の顔であり、被写体選択ステップで、同一の被写体に対して、顔の向きが正面方向に近いものから順に選択するようにしてもよい。
これによれば、さらに、照合しやすい画像を用いて、被写体を照合することができる。
本発明によれば、照合する被写体の数が多くなった場合であっても、安価な装置で、移動している被写体の照合を可能とする被写体照合装置および被写体照合方法を提供することができる。
以下、本発明の実施の形態について、図面を用いて詳細に説明する。
(実施の形態1)
本発明の実施の形態1である、被写体照合装置は、移動する複数の被写体を連続して撮影し、その撮影して得た画像情報から複数の被写体それぞれを追跡し、その追跡して得た追跡情報に基づいて、複数の被写体の中から照合を行うための被写体を選択し、選択された被写体の被写体画像を照合するものである。
被写体照合装置において、被写体を撮影して得た画像情報から複数の被写体それぞれを追跡し、その追跡して得た追跡情報を作成するところまでの処理(以下、この処理を「追跡処理」という)は、撮影環境に影響されず、処理時間の変動は小さい。一方、追跡情報に基づいて、複数の被写体の中から照合を行うための被写体を選択し、選択された被写体の被写体画像を照合する処理(以下、この処理を「照合処理」という)は、撮影環境により処理時間の変動が大きく、かつ、照合対象の数が多くなるほど、照合時間も増加する。
よって、被写体照合装置は、撮影範囲内に存在する複数の被写体の中から照合を行う被写体を選択するようにしたことで、被写体の数が多くなっても、照合時間を抑えることが可能となる。この、撮影環境により処理時間の変動が大きい照合処理の時間を抑えることで、撮影範囲内に存在する複数の被写体の追跡処理と照合処理とを、所定の時間内で、確実に行うことが可能となる。
ここで、被写体は、人物の顔、人物の目、人物の虹彩、人物、乗り物、動物などがある。本発明の実施の形態1では、被写体を人物の顔を実施例として説明する。
本発明の実施の形態1である被写体照合装置について、図1を用いて説明する。図1は、本発明の実施の形態1における被写体照合装置1の構成を示すブロック図である。
図1において、被写体照合装置1は、複数の被写体を撮影するカメラ10と、撮影して得た複数の画像情報それぞれから複数の被写体それぞれの被写体画像を検出する被写体検出部21と、複数の被写体それぞれに対応する被写体画像の動きに基づいて複数の被写体それぞれを追跡し、複数の被写体それぞれの追跡情報を作成する被写体追跡部22と、複数の被写体それぞれの追跡情報を記憶する追跡情報記憶部23と、追跡情報に基づいて複数の被写体の中から照合を行う被写体を選択する被写体選択部30と、照合に必要な被写体の照合情報(以下、この照合情報を「登録照合情報」という)を記憶する登録者情報記憶部50と、選択された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する照合部40と、照合結果を報知する報知部60とを備えている。
カメラ10は、撮影範囲内に存在する複数の被写体を連続して撮影する。カメラ10の一例としては、撮像素子としてCCDまたはCMOSなどを用いた白黒カメラまたはカラーカメラを用いることができる。
被写体検出部21は、連続的に撮影して得た複数の画像情報(以下、この画像情報を「フレーム画像」という)それぞれから各被写体に対応する被写体画像を検出する。
被写体追跡部22は、各フレーム画像から検出した被写体画像の座標上の動きを検出し、追跡する。ここで、一致度合いの高い領域を同一被写体の領域とみなす。一致度合いを判断する一例として、濃淡パターンの比較を行い、相互相関法、複合類似度法など公知の比較方法により求める方法を利用することができる。
被写体追跡部22は、複数のフレーム画像それぞれの差分を検出し、被写体画像の動きから、各被写体の動き方向、大きさである動きベクトルを検出し、検出された動きベクトルの軌跡(以下、「動線」という)を順次に記憶することで、各被写体を追跡する。この追跡した追跡履歴情報とそれぞれの被写体の被写体画像情報とを追跡情報として、後に述べる、追跡情報記憶部23に記憶する。追跡情報の追加は、想定される被写体の移動速度によって予め設定され、所定の時間Tの間隔で行われる。なお、被写体が移動する速度に基づいて、時間Tを変更するようにしてもよい。また、後述するように、追跡情報は、照合時に更新される。
追跡情報記憶部23は、公知のハードディスクドライブ(HDD)、ランダムアクセスメモリ(RAM)などの情報記録媒体に、追跡された被写体の追跡情報を記憶する。
被写体選択部30は、追跡情報記憶部23に記憶されている追跡情報に基づいて、照合を行う被写体を選択する。そして、選択された被写体の被写体画像を照合部40に出力する。この被写体の選択方法の詳細については後述する。
登録者情報記憶部50は、公知のハードディスクドライブ(HDD)、ランダムアクセスメモリ(RAM)などの情報記録媒体には、登録者の登録照合情報、たとえば、被写体の統計的な特徴量である濃淡成分情報、周波数成分情報、濃淡画像情報、色情報、形状情報などが予め登録されている。たとえば、公知の固有顔法(M.Turk and A.Pentland,”Eigenfaces for Recognition”,Journal of Cognitive Neuroscience,March 1991.)などの一般に知られた技術を用いて、濃淡情報の主成分分析を行い、特徴量を抽出する。
照合部40は、選択された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合することで、被写体を照合する。また、照合部40は、その照合された被写体の被写体画像に対応する情報(箇所)に、照合済みの情報をさらに付与することで、追跡情報を更新する。
報知部60は、装置の使用者に照合結果を知らせる。たとえば、報知部60は、照合結果が装置に登録したもの(要注意者など)と一致した場合には、アラームなどの警報で使用者に知らせる。なお、表示装置に照合結果を表示して報知するようにしてもよい。これにより、装置の使用者は、照合対象となる被写体の数が多くなった場合であっても、特定の被写体を容易に発見することができる。
次に、被写体照合装置1の追跡処理の動作について、図2を用いて説明する。図2は、本発明の実施の形態1における被写体照合装置1の追跡処理の動作を説明するためのフローチャートである。
図2に示すように、被写体照合装置1は、カメラ10で、移動する被写体を連続して撮影し、フレーム画像を順次に取得する(S100)。
次に、被写体照合装置1は、被写体検出部21で、連続的に撮影して得たフレーム画像それぞれから被写体画像を検出する(S102)。
被写体照合装置1は、フレーム画像に被写体画像が検出されない場合には、再度、ステップS100に戻り、フレーム画像を取得する(S104)。
一方、フレーム画像に被写体画像が検出された場合には(S104)、被写体照合装置1は、被写体追跡部22で、複数のフレーム画像それぞれの差分を検出し、被写体画像の動きを検出する。これにより、被写体照合装置1は、各被写体の動き方向、大きさである動きベクトルを検出でき、動きベクトルの履歴から各被写体の動線を検出する(S106)。
次に、被写体照合装置1は、検出した動きベクトルごとの被写体の位置情報、後述する照合情報などの追跡履歴情報と被写体画像情報とから、図3に示すように、追跡情報500を作成し(S108)、追跡情報記憶部23に記憶する(S110)。次に、追跡情報500を追跡情報記憶部23に記憶した後、新たなフレーム画像をカメラ10から取得するため、ステップS100に戻る。
追跡情報500には、撮影した時間ごとに、撮影されたフレーム情報、各被写体の位置情報、照合情報などの追跡履歴情報と、各フレーム画像から検出された各被写体の被写体画像である被写体画像情報とを、時系列で順次に記録する。また、後述するように、追跡している被写体が、所定の時間以上、停止している場合に、一旦、追跡を完了したことを示す完了情報(図示せず)を追跡情報500に記録する。
ここで、照合情報とは、後述するように、照合処理において、照合部40が付与する、照合処理の有無、照合結果の有無、照合処理の完了時間などの照合処理に係る履歴を記録した情報である。位置情報とは、撮影範囲内における、被写体の被写体画像が検出された位置を示す座標情報である。被写体画像とは、被写体の画像情報であり、たとえば、顔画像である。
この追跡情報500を用いることにより、各被写体の照合回数、各被写体の照合を行った時間などを検出することができ、所定の条件により、被写体を選択し、選択された被写体に対応する被写体画像を検索することができる。所定の条件とは、たとえば、照合回数、照合時間、検出された位置(座標)などである。
次に、被写体照合装置1の照合処理の動作について、図4を用いて説明する。図4は、本発明の実施の形態1における被写体照合装置1の照合処理の動作を説明するためのフローチャートである。
図4において、被写体照合装置1は、被写体選択部30により、追跡情報記憶部23に記憶されている追跡情報500を取得し(S200)、追跡情報500の情報から、照合を行う被写体が複数であるか否かを判断する(S202)。
被写体照合装置1は、被写体選択部30により、照合部40で照合を行う被写体が1人であると判断された場合には、ステップS206に進む。一方、被写体照合装置1は、被写体選択部30により、照合部40で照合を行う被写体が複数であると判断された場合には、複数の被写体の中から、所定の条件に従って、照合を行う被写体の被写体画像を選択する(S204)。所定の条件とは、照合回数の少ない被写体を優先する、または、未照合な被写体を優先するなどである。追跡情報500に記録されているフレーム情報、各被写体の位置情報(被写体が検出された位置の座標情報)、照合情報などの追跡履歴情報および被写体画像情報から、予め設定される所定の条件に応じて、被写体を選択することができる。この被写体の選択方法の詳細については後述する。
次に、被写体照合装置1は、照合部40により、被写体選択部30で選択された被写体画像から照合情報を作成し、登録者情報記憶部50に登録されている登録照合情報と照合情報とを比較照合し、被写体が登録されているものか否かの照合を行う(S206)。被写体照合装置1は、照合部40で照合した被写体の被写体画像に対応する情報(箇所)に、「照合あり」の情報、照合を行った完了時間などの履歴情報を付与することで、追跡情報500を更新する(S208)。
次に、被写体照合装置1は、被写体選択部30で追跡情報500を検索し、まだ照合されていない被写体(未照合な被写体)があるか否かを判断する(S210)。被写体照合装置1は、未照合な被写体がある場合にはステップS204に戻り、ステップS204からステップS208を、再度、実行することで被写体を照合し、「照合あり」の情報、照合を行った完了時間などの履歴情報を付与することで、追跡情報500を更新する。一方、被写体照合装置1は、まだ照合されていない被写体がない場合には、ステップS200に戻る。
このように、被写体照合装置1は、被写体選択部30で選択された被写体の被写体画像を照合部40で照合することで、撮影範囲に存在する被写体の数が多くなっても、照合時間が被写体の数に比例して増加するのを抑えることができる。
また、図1に示すように追跡処理部20で追跡処理した追跡結果を追跡情報500として追跡情報記憶部23に記憶し、この記憶された追跡情報500に基づいて、被写体選択部30および照合部40で照合処理を行うようにしたため、追跡処理と照合処理とを別々の処理装置(図示せず)で処理できる。また、1つの装置に、配分制御部(図示せず)を設け、追跡処理と照合処理との負荷配分を行い、処理を行うこともできる。
次に、被写体の選択方法について図5を用いて詳細に説明する。図5は、本発明の実施の形態1における被写体照合装置1の被写体の選択方法を説明するための説明図である。ここで、所定の条件として、照合回数の少ない被写体を優先した場合について説明する。なお、照合回数が同じ場合には、過去において、照合を行った時間の古い被写体を優先するものとする。
追跡情報500(図3)に基づき、カメラ10で撮影された被写体が、所定の時間ごとに照合処理される様子を示した一例を図5に示す。
図5に示すように、カメラ10の撮影範囲100の中で、時間T0から時間T4の間で検出された被写体は、被写体200、被写体201、被写体202である。被写体200は動線400のように移動し、同様に、被写体201は動線401、被写体202は動線402のように移動したものとする。以下、時系列ごとに、その照合処理の動作を説明する。
時間T0の時点では、カメラ10の撮影範囲100の中には、被写体200が映っている。被写体追跡部22は、被写体検出部21で検出された領域300から、被写体200の被写体画像および位置情報を検出し、その検出した情報を追跡情報500に記録する。
これにより、被写体選択部30は、T0時点での追跡情報500に基づいて、被写体200の被写体画像を選択する。すなわち、領域300から検出された被写体画像を選択する。
照合部40は、領域300から検出した被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する。また、照合部40は、追跡情報記憶部23に記憶されている追跡情報500の被写体200の情報領域に、「照合あり」の照合情報を付与する。
次に、時間T1の時点では、カメラ10の撮影範囲100の中には、被写体200、被写体201が映っている。被写体追跡部22は、被写体検出部21で検出された領域301から被写体200の被写体画像および位置情報を、被写体検出部21で検出された領域305から被写体201の被写体画像および位置情報を検出し、その検出したそれぞれの情報を追跡情報500に記録する。
これにより、被写体選択部30は、時間T1時点での追跡情報500に基づいて、照合回数の少ない、被写体201の被写体画像を選択する。すなわち、領域305から検出された被写体画像を選択する。
照合部40は、領域305から検出された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する。また、照合部40は、追跡情報記憶部23に記憶されている追跡情報500の被写体201の情報領域に、「照合あり」の照合情報を付与する。
次に、時間T2の時点では、カメラ10の撮影範囲100の中には、被写体200、被写体201が映っている。被写体追跡部22は、被写体検出部21で検出された領域302から被写体200の被写体画像および位置情報を、被写体検出部21で検出された領域306から被写体201の被写体画像および位置情報を検出し、その検出したそれぞれの情報を追跡情報500に記録する。
これにより、被写体選択部30は、時間T2の時点での追跡情報500に基づいて、照合回数の少なく、かつ、過去にいて、照合を行った時間の古い被写体200の被写体画像を選択する。すなわち、領域302から検出された被写体画像を選択する。
照合部40は、領域302から検出された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する。また、照合部40は、追跡情報記憶部23に記憶されている追跡情報500の被写体200の情報領域に、「照合あり」の照合情報を付与する。
次に、時間T3の時点では、カメラ10の撮影範囲100の中には、被写体200、被写体201、被写体202が映っている。被写体追跡部22は、被写体検出部21で検出された領域303から被写体200の被写体画像および位置情報を検出し、被写体検出部21で検出された領域307から被写体201の被写体画像および位置情報を検出し、被写体検出部21で検出された領域309から被写体202の被写体画像および位置情報を検出し、その検出したそれぞれの情報を追跡情報500に記録する。
これにより、被写体選択部30は、時間T3の時点での追跡情報500に基づいて、照合回数の少ない、被写体202の被写体画像を選択する。すなわち、領域309から検出された被写体画像を選択する。
照合部40は、領域309から検出された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する。また、照合部40は、追跡情報記憶部23に記憶されている追跡情報500の被写体202の情報領域に、「照合あり」の照合情報を付与する。
次に、時間T4の時点では、カメラ10の撮影範囲100の中には、被写体200、被写体201、被写体202が映っている。被写体追跡部22は、被写体検出部21で検出された領域304から被写体200の被写体画像および位置情報を検出し、被写体検出部21で検出された領域308から被写体201の被写体画像および位置情報を検出し、被写体検出部21で検出された領域310から被写体202の被写体画像および位置情報を検出し、その検出したそれぞれの情報を追跡情報500に記録する。
これにより、被写体選択部30は、時間T4の時点での追跡情報500に基づいて、照合回数の少なく、かつ、過去において、照合を行った時間の古い被写体201の被写体画像を選択する。すなわち、領域308から検出された被写体画像を選択する。
照合部40は、領域308から検出された被写体画像から照合情報を作成し、照合情報と登録照合情報とを比較照合し、照合結果を出力する。また、照合部40は、追跡情報記憶部23に記憶されている追跡情報500の被写体201の情報領域に、「照合あり」の照合情報を付与する。
以上のように、被写体選択部30は、所定の条件に従って、照合を行う被写体の被写体画像を選択することができる。
以上のように、本発明の実施の形態1によれば、被写体照合装置1は、撮影範囲100内に存在する複数の被写体の中から照合を行う被写体を選択するようにしたことで、被写体の数が多くなっても、照合時間を抑えることが可能となる。この、撮影環境により処理時間の変動が大きい照合処理の時間を抑えることで、撮影範囲100内に存在する複数の被写体の追跡処理と照合処理とを、所定の時間内で、確実に行うことが可能となる。
また、追跡処理部20で追跡処理した追跡結果を追跡情報500として追跡情報記憶部23に記憶し、この追跡情報記憶部23に記憶された追跡情報500に基づいて、被写体選択部30および照合部40で照合処理を行うようにしたため、追跡処理と照合処理とを別々の処理装置で処理することも、1つの装置内で追跡処理と照合処理とで装置能力を配分させることもできる。また、1つの装置内で、追跡処理と照合処理とを処理するための装置能力を配分する場合には、照合部40で照合を行う被写体の数に応じて、配分比を制御することができる。これにより、被写体の追跡漏れを防止し、かつ、照合を行うことができる。
さらに、この照合結果より被写体が予め登録されたものである場合に、報知部60により、装置の使用者に警報や照合結果の表示を行うことができ、特定の被写体を容易に発見することができる。
(実施の形態2)
本発明の実施の形態2では、装置の使用者からの入力により、被写体を選択する選択条件を変更し、照合を行うことが可能な被写体照合装置について説明する。
使用者が入力する第1の入力として、即時性を優先する入力がある。即時性を優先するとは、たとえば、被写体照合装置において、主に、被写体を表示装置などに表示し、照合結果を即座に知ることを重視することである。
この第1の入力が行われた場合には、装置として、過去の検出結果を処理する重要性がほとんどなく、検出結果の中で、最新の画像を照合し、その結果を表示する。これにより、過去の被写体の検出結果を表示しないため、混乱を防ぐことができる。
また、別な第2の入力として、即時性と照合精度とを優先する入力がある。即時性と照合精度とを優先するとは、たとえば、照合結果の表示も重視するが、照合結果の蓄積、記録も重視することである。
この第2の入力が行われた場合には、装置として、最新の被写体の検出結果を優先的に照合しながら、最新の被写体の検出結果がない場合、過去の追跡結果に戻って、未照合の被写体に対して照合を行うようにする。
また、別な第3の入力として、照合精度を優先する入力がある。照合精度を優先するとは、たとえば、照合結果をリアルタイムに反映するよりも、蓄積内容を重視し、照合精度を重視することである。
この第3の入力が行われた場合には、装置として、人物の通過を待って照合処理を実行する。これによって、顔が大きく映っている順や、顔の向きが正面に近い順など、撮影条件のよい画像から順番に被写体画像を選択して照合を行うことができ、最もよい照合結果を得ることが可能となる。
以下、図6を用いて、本発明の実施の形態2における被写体照合装置について説明する。図6は、本発明の実施の形態2における被写体照合装置2の構成を示すブロック図である。なお、実施の形態1と同様の部分については、同一符号を付し、その詳細な説明は省略する。ここで、本発明の実施の形態2における被写体照合装置2の人物追跡処理は、本発明の実施の形態1における被写体照合装置1の人物追跡処理(図2)と同じ処理とする。
本発明の実施の形態2の被写体照合装置2において、本発明の実施の形態1の被写体照合装置1と異なる点は、照合時に被写体を選択する選択条件を変更するための入力部70をさらに設けた点である。
装置の使用者は、入力部70から、照合時の優先度に応じて入力を行う。入力部70は、上述した、第1の入力を行うための第1のボタン(図示せず)、第2の入力を行うための第2のボタン(図示せず)、第3の入力を行うための第3のボタン(図示せず)を備えている。被写体照合装置2は、使用者によって押されたボタンに応じて、被写体を選択するための選択条件を決定し、被写体選択部30、照合部40に出力する。
被写体選択部30、照合部40は、後述するように、照合時に、選択条件に応じて、その照合処理の動作を変更する。
まず、図7を用いて、被写体照合装置2の照合処理の全体の動作を説明する。図7は、本発明の実施の形態2における被写体照合装置2の照合処理の全体の動作を説明するためのフローチャートである。
図7において、被写体照合装置2は、入力部70からの入力に応じた、選択条件を決定し(S300)、決定された選択条件に対応する照合処理を実行する。
まず、被写体照合装置2は、入力部70で第1のボタンが押された場合には、照合結果の即時性を優先する入力と判断し(S302)、照合処理Aを実施する(S304)。一方、第1のボタンが押されていない場合には、次のステップS308に進む。
照合処理Aでは、後述するように、検出された被写体画像の中で、最新の被写体の被写体画像を優先的に選択し、照合を行う。
次に、被写体照合装置2は、入力部70で第2のボタンが押された場合には、照合結果の即時性および照合精度を優先する入力と判断し(S308)、照合処理Bを実施する(S310)。一方、第2のボタンが押されていない場合には、次のステップS312に進む。
照合処理Bでは、後述するように、カメラ10で撮影して得た最新の被写体の被写体画像を優先的に照合する。もし、最新の被写体の被写体画像がない場合には、過去の追跡結果に戻って、未照合の被写体の被写体画像を検索し、照合を行う。
次に、被写体照合装置2は、入力部70で第3のボタンが押された場合には、照合精度を優先する入力と判断し(S312)、照合処理Cを実施する(S314)。一方、第3のボタンが押されていない場合には、次のステップS316に進む。
照合処理Cでは、後述するように、被写体の通過を待って照合処理を実行する。被写体が通過した後で、同一の被写体の画像情報の中で、被写体が大きく映っている順や、被写体の顔の向きが正面に近い順に、指定された数の被写体画像を順番に選択し、照合を行う。これにより、被写体照合装置2は、最も精度のよい照合結果を得ることができる。
次に、被写体照合装置2は、入力部70で別なボタンが押され、優先度の入力変更がないかどうかを判断する(S316)。被写体照合装置2は、別なボタンが押された場合には、ステップS300に戻り、入力部70で押されているボタンを検出する。一方、被写体照合装置2は、別なボタンが押されていない場合には、ステップS302に戻り、引き続き、優先度を決定するための入力ボタンに応じた選択条件を決定し、選択条件に対応する照合処理を実行する。
以下、照合処理A、照合処理Bおよび照合処理Cの動作について詳細に説明する。
図8を用いて、照合処理Aの動作について説明する。図8は、本発明の実施の形態2の被写体照合装置2における照合処理Aの動作を説明するためのフローチャートである。
照合処理Aにおいて、図8に示すように、被写体照合装置2は、被写体選択部30により、追跡情報記憶部23から追跡情報500を取得し(S400)、新しい被写体画像の検出の有無を判断する(S402)。
新しい被写体画像の検出がない場合には、処理を終了する。一方、新しい被写体画像の検出がある場合には、被写体照合装置2は、被写体選択部30により追跡情報500を検索し、まだ、照合していない未照合の被写体があるか否かを判断する(S404)。
被写体照合装置2は、未照合の被写体がない場合には、被写体選択部30により、追跡情報500を検索し、最後に照合を行った時点から最も時間が経過している被写体の最新の被写体画像を選択する(S408)。一方、被写体照合装置2は、未照合の被写体がある場合には、被写体選択部30により、追跡情報500を検索し、未照合の被写体の最新の被写体画像を選択する(S406)。
次に、被写体照合装置2は、照合部40により、被写体選択部30で選択された被写体画像に対して照合処理を実行する(S410)。被写体照合装置2は、照合部40により、照合処理が完了した時点で、追跡情報500の中で、対応する被写体の情報領域に対して、「照合あり」の情報を付加し、追跡情報500を更新する(S412)。
このように、照合処理Aでは、最新の被写体画像の検出結果に対して照合を行うことで、即時性をもたせることができる。
次に、図9を用いて、照合処理Bの動作について説明する。図9は、本発明の実施の形態2の被写体照合装置2における照合処理Bの動作を説明するためのフローチャートである。
照合処理Bにおいて、図9に示すように、被写体照合装置2は、被写体選択部30により、追跡情報記憶部23から追跡情報500を取得し(S500)、新しい被写体画像の検出の有無を判断する(S502)。
被写体照合装置2は、ステップS502において、新しい被写体画像の検出がない場合には、ステップS506に進む。一方、被写体照合装置2は、ステップS502において、新しい被写体画像の検出がある場合には、被写体選択部30により、追跡情報500を検索し、まだ、未照合の被写体があるか否かを判断する(S504)。
被写体照合装置2は、ステップS504において、未照合の被写体がない場合には、被写体選択部30により、追跡情報500を検索し、最後に照合を行った時間が最も古い(時間が最も経過している)被写体の最新の被写体画像を選択し(S510)、ステップS514に進む。一方、被写体照合装置2は、ステップS504において、未照合の被写体がある場合には、被写体選択部30により、追跡情報500を検索し、未照合の被写体の最新の被写体画像を選択し(S508)、ステップ514に進む。
ステップS506において、被写体照合装置2は、被写体選択部30により、追跡情報500を検索し、まだ未照合の追跡情報があるか否かを判断する。被写体照合装置2は、未照合の追跡情報がある場合には、被写体選択部30により追跡情報500を検索し、最後に照合を行った時間が最も古い被写体の被写体画像を選択し(S512)、ステップS514に進む。一方、被写体照合装置2は、ステップS506において、未照合の追跡情報がない場合には、処理を終了する。
次に、被写体照合装置2は、照合部40により、被写体選択部30で選択された被写体画像に対して照合処理を実行し(S514)、照合処理が完了した時点で、追跡情報500の中で、対応する被写体の情報領域に対して、「照合あり」の情報を付加し、追跡情報500を更新する(S516)。
このように、照合処理Bでは、最新の被写体の被写体画像を優先的に照合するが、もし、最新の被写体の被写体画像がない場合には、過去の追跡結果に戻って、未照合の被写体の被写体画像を検索し、照合を行う。
これにより、照合処理Bでは、最新の被写体画像の検出が撮影情報から得られない場合に、過去のデータに遡って照合ができ、ある程度の即時性をもたせつつ、照合結果の精度を優先させることができる。
次に、図10を用いて、照合処理Cの動作について説明する。図10は、本発明の実施の形態2の被写体照合装置2における照合処理Cの動作を説明するためのフローチャートである。
照合処理Cにおいて、図10に示すように、被写体照合装置2は、被写体選択部30により、追跡情報記憶部23から追跡情報500を取得し(S600)、追跡処理が完了した被写体の有無を判断する(S602)。被写体照合装置2は、撮影範囲100の外に被写体が消えた時点で、追跡処理を完了し、完了情報を追跡情報500に付与する。この完了情報を検出することで、被写体照合装置2は、追跡処理が完了しているか否かを判断できる。なお、被写体照合装置2は、撮影範囲100内に存在し、所定の時間が経過した被写体に対しても、完了情報を付与し、照合を行うようにしてもよい。これにより、被写体が何かの都合により停止した場合であっても、照合を行うことができる。
次に、被写体照合装置2は、ステップ602において、追跡処理を完了した被写体がない場合は、処理を終了する。
一方、被写体照合装置2は、追跡処理を完了した被写体がある場合は、被写体選択部30により、追跡情報500を検索し、追跡中に検出された被写体画像の中から、所定の条件に従った順番に、被写体画像を指定の数だけ選択する(S604)。
ここで、所定の条件の順番とは、大きく映っている被写体(顔)の順や、被写体(顔)の向きが正面に近い順など、撮影条件がよい画像の順番である。
具体的には、図11を用いて、撮影範囲100内で追跡された被写体200を実施例として説明する。図11は、本発明の実施の形態2における被写体200の追跡結果を説明するための説明図である。
図11に示すように、被写体照合装置2は、被写体選択部30により、追跡情報500を検索することで、被写体200の動線400を検出する。ここで、被写体照合装置2は、領域304で被写体200を検出した時点から所定の時間が経過しているため、追跡情報500に対して完了情報を付与し、照合を行うものとする。
被写体照合装置2は、被写体選択部30により、追跡情報500を検索し、領域300、領域302、領域304の位置(座標)で、それぞれ被写体画像の大きさを検出する。ここで、たとえば、指定の数が「2」であり、所定の条件が「被写体画像(顔)の大きい順番」となっている場合には、領域300から検出される1番に大きい被写体画像を選択し、次に、領域302から検出された2番目に大きい被写体画像を選択する。
他の実施例として、指定の数が「1」であり、所定の条件が「被写体(顔)の向きが正面に近い順番」とした場合について説明する。
図11に示すように、被写体照合装置2は、被写体選択部30により、領域300では、やや左を向いている被写体200が検出される。同様に、領域302からは正面の向いている被写体200が検出され、領域304からは右を向いた被写体200が検出される。この検出結果から、被写体選択部30は、領域302から検出される被写体200、すなわち、正面を向いている被写体200の被写体画像を選択する。
なお、他の所定の条件として、照合部40が照合しやすい輝度分布をもつ順や、画像の鮮鋭度が高い順としてもよい。
次に、被写体照合装置2は、照合部40により、被写体選択部30で選択された被写体画像について、すべてを照合し(S606)、スコアの最も高い照合結果を採用する(S608)。
次に、被写体照合装置2は、照合部40により、照合処理が完了した時点で、追跡情報500の中で、対応する被写体の情報領域に対して、「照合あり」の情報を付加し、追跡情報500を更新する(S610)。
これにより、照合処理Cでは、即時性はあまりないが、複数の照合結果をからスコアの高いものを選択することができるので、照合精度を高めることができる。
以上のように、本発明の実施の形態2によれば、被写体照合装置2は、入力部70からの入力に応じて、選択条件を決定し、選択条件に対応する照合処理を実行することができる。これにより、被写体照合装置2は、即時性および照合精度の優先度に応じて、照合処理を変更することができる。なお、使用者による入力としたが、ソフトウェアからの指示によって照合処理を変更してもよい。
なお、本発明の実施の形態1の被写体照合装置1、本発明の実施の形態2の被写体照合装置2は、追跡結果に基づいて照合する被写体を選択可能であるため、ネットワークを用いて、被写体の追跡処理機能を有する撮影装置と接続し、撮影装置から追跡情報に基づいて、必要な被写体を選択し、選択した被写体の被写体画像を撮影装置より取得するようにしてもよい。これにより、撮影装置と被写体照合装置との間で、送受信するデータ量を少なくすることができ、ネットワーク上の、互いに異なる位置に設置した撮影装置と被写体照合装置とを接続しても、効率よく、多くの被写体の照合を行うことができる。
たとえば、図12を用いて、ネットワーク600に、互いに異なる位置に設置された複数の撮影装置4と、撮影装置4からの追跡情報により被写体を照合する被写体照合装置3とを接続した場合について説明する。図12は、本発明の実施の形態における被写体照合装置の他の変形例の構成を示すブロック図である。ここで、実施の形態1と同様の部分については、同一符号を付し、その詳細な説明は省略する。
図12に示すように、撮影装置4は、複数の被写体を連続して撮影するカメラ10と、撮影して得た複数の被写体それぞれの被写体画像の動きから複数の被写体それぞれを追跡し、追跡履歴情報と被写体画像情報とを追跡情報500として内部に記憶している追跡処理部20と、ネットワーク600上に接続された被写体照合装置3と情報を送受信するためのインターフェース部(IF部)25とを備えている。
撮影装置4は、被写体照合装置3から、データの取得要求があった場合に、追跡情報500の中から被写体画像情報を除いた追跡履歴情報を最初に送信する。次に、撮影装置4は、さらに、被写体画像の取得要求があった場合に、要求のあった被写体の被写体画像を追跡情報500の中から選択し、被写体照合装置3に送信する。
被写体照合装置3は、ネットワーク600を経由して接続される撮影装置4からの情報を送受信するための送受信部80と、撮影装置4から送信された追跡履歴情報を記憶する受信情報記憶部82と、受信情報記憶に記憶された追跡履歴情報に基づいて、複数の被写体の中から照合する被写体を選択する被写体選択部30と、選択された被写体に対応する被写体画像情報を撮影装置4から取得するための画像伝送制御部81と、登録者の登録照合情報を記憶している登録者情報記憶部50と、画像伝送制御部81で取得された被写体画像情報から照合情報を作成し、照合情報と登録者情報とを比較照合する照合部40と、照合結果が一致したときに、装置の使用者に知らせる報知部60とを備えている。
被写体照合装置3は、まず、撮影装置4に対して、追跡情報500の中から被写体画像情報を除いた追跡履歴情報を先に取得し、次に、被写体選択部30で選択された被写体に対応する被写体画像情報を取得する。
被写体照合装置3は、照合部40で、取得した被写体画像から照合情報を作成し、照合情報と登録照合情報とを照合し、被写体が登録されているものか否かを照合する。被写体照合装置3は、照合結果が一致した場合には、報知部60で、アラームによる警告、表示装置による照合結果の表示などにより、装置の使用者に報知する。
これにより、被写体照合装置3は、撮影装置4から取得した追跡履歴情報から、照合する被写体を選択し、選択された被写体に対応する被写体画像情報のみ撮影装置4から取得すればよく、対象となる被写体の数が多くなった場合であっても、撮影装置4から取得するデータ量を抑えることができる。このように、撮影装置4から取得するデータ量を抑えることで、建物、施設、敷地などの構内、街頭などに撮影装置4を設置し、ネットワーク600を利用して、被写体情報を取得して照合を行う場合であっても、より多くの被写体を照合することができる。なお、ネットワーク600は、ローカルな領域を接続するローカルエリアネットワーク(LAN)でもよいし、電話網、通信網を利用する広域ネットワークでもよい。また、被写体照合装置3と撮影装置4が近接して設置された場合には、被写体照合装置3と撮影装置4とをケーブルにより直接に接続するようにしてもよい。
なお、本発明の実施の形態における被写体検出処理機能、被写体選択処理機能、追跡処理機能、照合処理機能などは、集積回路などを用いたハードウェアにより実施してもよいし、中央処理装置(CPU)、デジタル信号処理装置(DSP)などを用いて実行させるソフトウェアにより実施してもよい。
本発明による被写体照合装置および被写体照合方法によれば、移動する複数の被写体を撮影して照合でき、特に、撮影する被写体の数が多い場合であっても、安価な装置で、被写体の照合ができる被写体照合装置および被写体照合方法などとして有用である。
本発明の実施の形態1における被写体照合装置の構成を示すブロック図 同被写体照合装置の追跡処理の動作を説明するためのフローチャート 同被写体照合装置における追跡情報を説明するための説明図 同被写体照合装置の照合処理の動作を説明するためのフローチャート 同被写体照合装置の被写体の選択方法を説明するための説明図 本発明の実施の形態2における被写体照合装置の構成を示すブロック図 同被写体照合装置の全体の動作を説明するためのフローチャート 同被写体照合装置における照合処理Aの動作を説明するためのフローチャート 同被写体照合装置における照合処理Bの動作を説明するためのフローチャート 同被写体照合装置における照合処理Cの動作を説明するためのフローチャート 同被写体の追跡結果を説明するための説明図 本発明の実施の形態における被写体照合装置の他の変形例の構成を示すブロック図
符号の説明
1,2,3 被写体照合装置
4 撮影装置
10 カメラ
20 追跡処理部
21 被写体検出部
22 被写体追跡部
23 追跡情報記憶部
25 インターフェース部(IF部)
30 被写体選択部
40 照合部
50 登録者情報記憶部
60 報知部
70 入力部
80 送受信部
81 画像伝送制御部
82 受信情報記憶部
100 撮影範囲
200,201,202 被写体
400 動線
500 追跡情報
600 ネットワーク

Claims (18)

  1. 複数の被写体を連続して撮影する撮影部と、
    前記撮影部により撮影して得た複数の画像情報それぞれから前記複数の被写体それぞれの被写体画像を検出する被写体検出部と、
    前記複数の被写体それぞれに対応する前記被写体画像の動きに基づいて前記複数の被写体それぞれを追跡し、前記複数の被写体それぞれの追跡情報を作成する被写体追跡部と、
    前記複数の被写体それぞれの前記追跡情報を記憶する追跡情報記憶部と、
    前記追跡情報記憶部に記憶された前記追跡情報に基づいて、前記複数の被写体の中から、照合を行う被写体を選択する被写体選択部と、
    前記被写体選択部で選択された前記被写体を照合する照合部と、
    を備えたことを特徴とする被写体照合装置。
  2. 前記被写体追跡部は、前記追跡情報に、前記複数の被写体の情報を、時系列に記録することを特徴とする請求項1に記載の被写体照合装置。
  3. 前記照合部は、前記追跡情報に、前記複数の被写体それぞれの照合の有無を記録することを特徴とする請求項2に記載の被写体照合装置。
  4. 前記被写体選択部は、前記複数の被写体の中で、照合回数の少ない被写体を優先して選択することを特徴とする請求項3に記載の被写体照合装置。
  5. 前記被写体選択部は、前記複数の被写体の中で、未照合の被写体を優先して選択することを特徴とする請求項3に記載の被写体照合装置。
  6. 前記被写体選択部は、前記複数の被写体の中で、未照合の被写体がないときに、最後に照合した時点から最も時間が経過している被写体を優先して選択することを特徴とする請求項3に記載の被写体照合装置。
  7. 前記被写体選択部は、同一の被写体に対して、前記被写体画像の領域の大きさが大きいものから順に選択することを特徴とする請求項2に記載の被写体照合装置。
  8. 前記被写体は、人物の顔であり、
    前記被写体選択部は、同一の被写体に対して、顔の向きが正面方向に近いものから順に選択することを特徴とする請求項2に記載の被写体照合装置。
  9. 前記被写体選択部における選択条件を切り換えるための入力を行う入力部をさらに備えたことを特徴とする請求項1から請求項8までのいずれか1項に記載の被写体照合装置。
  10. 複数の被写体を連続して撮影し、撮影して得た前記複数の被写体それぞれの被写体画像の動きから前記複数の被写体それぞれの追跡履歴情報と被写体画像情報とを保持している撮影装置と接続される被写体照合装置であって、
    前記撮影装置から前記追跡履歴情報を受信する受信部と、
    前記追跡履歴情報を記憶する受信情報記憶部と、
    前記受信情報記憶部に記憶された前記追跡履歴情報に基づいて、前記複数の被写体の中から、照合する被写体を選択する被写体選択部と、
    選択された前記被写体に対応する前記被写体画像を前記撮影装置から取得する画像伝送制御部と、
    前記画像伝送制御部で取得された前記被写体画像を照合する照合部と、
    を備えたことを特徴とする被写体照合装置。
  11. 被写体を撮影する撮影部と、前記被写体を追跡して得た追跡情報を記憶する追跡情報記憶部とを有した被写体照合装置を用いて被写体を照合する被写体照合方法であって、
    前記撮影部を用いて複数の被写体を連続して撮影する撮影ステップと、
    前記撮影部により撮影して得た複数の画像情報それぞれから前記複数の被写体それぞれの被写体画像を検出する被写体検出ステップと、
    前記複数の被写体それぞれに対応する前記被写体画像の動きに基づいて前記複数の被写体それぞれを追跡し、前記複数の被写体それぞれの前記追跡情報を作成する被写体追跡ステップと、
    前記複数の被写体それぞれの前記追跡情報を前記追跡情報記憶部に記憶する記憶ステップと、
    前記追跡情報記憶部に記憶された前記追跡情報に基づいて、前記複数の被写体の中から、照合を行う被写体を選択する被写体選択ステップと、
    前記被写体選択ステップで、選択された前記被写体を照合する照合ステップと、
    を備えたことを特徴とする被写体照合方法。
  12. 前記被写体追跡ステップで、前記追跡情報に、前記複数の被写体の情報を、時系列に記録することを特徴とする請求項11に記載の被写体照合方法。
  13. 前記照合ステップで、前記追跡情報に、前記複数の被写体それぞれの照合の有無を記録することを特徴とする請求項12に記載の被写体照合方法。
  14. 前記被写体選択ステップで、前記複数の被写体の中で、照合回数の少ない被写体を優先して選択することを特徴とする請求項13に記載の被写体照合方法。
  15. 前記被写体選択ステップで、前記複数の被写体の中で、未照合の被写体を優先して選択することを特徴とする請求項13に記載の被写体照合方法。
  16. 前記被写体選択ステップで、前記複数の被写体の中で、未照合の被写体がないときに、最後の照合が最も古い被写体を優先して選択することを特徴とする請求項13に記載の被写体照合方法。
  17. 前記被写体選択ステップで、同一の被写体に対して、前記被写体画像の領域の大きさが大きいものから順に選択することを特徴とする請求項12に記載の被写体照合方法。
  18. 前記被写体は、人物の顔であり、
    前記被写体選択ステップで、同一の被写体に対して、顔の向きが正面方向に近いものから順に選択することを特徴とする請求項12に記載の被写体照合方法。
JP2006214111A 2006-08-07 2006-08-07 被写体照合装置および被写体照合方法 Active JP4984728B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006214111A JP4984728B2 (ja) 2006-08-07 2006-08-07 被写体照合装置および被写体照合方法
PCT/JP2007/065392 WO2008018423A1 (fr) 2006-08-07 2007-08-07 Dispositif de vérification d'objets et procédé de vérification d'objets
US12/299,939 US8208028B2 (en) 2006-08-07 2007-08-07 Object verification device and object verification method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006214111A JP4984728B2 (ja) 2006-08-07 2006-08-07 被写体照合装置および被写体照合方法

Publications (2)

Publication Number Publication Date
JP2008040781A true JP2008040781A (ja) 2008-02-21
JP4984728B2 JP4984728B2 (ja) 2012-07-25

Family

ID=39032953

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006214111A Active JP4984728B2 (ja) 2006-08-07 2006-08-07 被写体照合装置および被写体照合方法

Country Status (3)

Country Link
US (1) US8208028B2 (ja)
JP (1) JP4984728B2 (ja)
WO (1) WO2008018423A1 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011019013A (ja) * 2009-07-07 2011-01-27 Ricoh Co Ltd 撮像装置、領域検知方法、及びプログラム
JP2012118817A (ja) * 2010-12-01 2012-06-21 Canon Inc 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP2014138275A (ja) * 2013-01-17 2014-07-28 Canon Inc 撮像装置、遠隔操作端末、カメラシステム、撮像装置の制御方法およびプログラム、遠隔操作端末の制御方法およびプログラム
WO2015087820A1 (ja) * 2013-12-09 2015-06-18 株式会社日立製作所 映像検索装置、映像検索方法、および記憶媒体
JP2016012187A (ja) * 2014-06-27 2016-01-21 本田技研工業株式会社 対象物認識装置
JP2018160013A (ja) * 2017-03-22 2018-10-11 株式会社東芝 紙葉類処理システム、紙葉類処理装置、およびプログラム
JPWO2018181968A1 (ja) * 2017-03-31 2020-02-06 日本電気株式会社 顔認証システム、装置、方法、プログラム
JP2020074055A (ja) * 2018-03-05 2020-05-14 日本テレビ放送網株式会社 画像識別装置、分類システム、制作支援システム、それらの方法及びプログラム
JP2021015627A (ja) * 2016-02-26 2021-02-12 日本電気株式会社 顔照合システム、顔照合方法、及びプログラム
US11295457B2 (en) 2017-11-21 2022-04-05 Mitsubishi Electric Corporation Tracking apparatus and computer readable medium
JP2022177267A (ja) * 2018-09-27 2022-11-30 日本電気株式会社 認証システム、認証方法、及び、プログラム
WO2023175803A1 (ja) * 2022-03-16 2023-09-21 日本電気株式会社 カメラ制御装置、制御方法、及び非一時的なコンピュータ可読媒体

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4984728B2 (ja) 2006-08-07 2012-07-25 パナソニック株式会社 被写体照合装置および被写体照合方法
JP5141317B2 (ja) * 2008-03-14 2013-02-13 オムロン株式会社 対象画像検出デバイス、制御プログラム、および該プログラムを記録した記録媒体、ならびに対象画像検出デバイスを備えた電子機器
US9019381B2 (en) * 2008-05-09 2015-04-28 Intuvision Inc. Video tracking systems and methods employing cognitive vision
US8855360B2 (en) * 2008-07-23 2014-10-07 Qualcomm Technologies, Inc. System and method for face tracking
EP2381415A4 (en) * 2008-12-22 2018-01-24 NEC Corporation Person-judging device, method, and program
JP5177284B2 (ja) * 2009-03-30 2013-04-03 富士通株式会社 被写体動き検出装置および方法
CN102939611B (zh) * 2010-05-31 2016-08-03 日本电气株式会社 流动线检测系统、流动线检测方法和流动线检测程序
JP5834232B2 (ja) * 2011-01-17 2015-12-16 パナソニックIpマネジメント株式会社 撮像画像認識装置、撮像画像認識システム及び撮像画像認識方法
US20130101159A1 (en) * 2011-10-21 2013-04-25 Qualcomm Incorporated Image and video based pedestrian traffic estimation
JP6468725B2 (ja) 2013-08-05 2019-02-13 キヤノン株式会社 画像処理装置、画像処理方法、及びコンピュータプログラム
CN104887209A (zh) * 2015-06-26 2015-09-09 京东方科技集团股份有限公司 一种血压测量方法和测量系统
JP6627894B2 (ja) * 2018-01-12 2020-01-08 日本電気株式会社 顔認証装置
JP2019132019A (ja) * 2018-01-31 2019-08-08 日本電気株式会社 情報処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11175730A (ja) * 1997-12-05 1999-07-02 Omron Corp 人間検出追跡システム
JP2004272933A (ja) * 2004-06-03 2004-09-30 Toshiba Corp 顔画像監視システム
WO2005020152A1 (ja) * 2003-08-21 2005-03-03 Matsushita Electric Industrial Co., Ltd. 人物検出装置および人物検出方法
JP2005210369A (ja) * 2004-01-22 2005-08-04 Konica Minolta Photo Imaging Inc 画像処理装置及び画像処理方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08205131A (ja) 1995-01-25 1996-08-09 Toshiba Corp 監視システム及びその移動物体追跡方法
US7634662B2 (en) * 2002-11-21 2009-12-15 Monroe David A Method for incorporating facial recognition technology in a multimedia surveillance system
US6567116B1 (en) * 1998-11-20 2003-05-20 James A. Aman Multiple object tracking system
US6963659B2 (en) * 2000-09-15 2005-11-08 Facekey Corp. Fingerprint verification system utilizing a facial image-based heuristic search method
US6411209B1 (en) * 2000-12-06 2002-06-25 Koninklijke Philips Electronics N.V. Method and apparatus to select the best video frame to transmit to a remote station for CCTV based residential security monitoring
JP4293736B2 (ja) 2001-02-07 2009-07-08 日本放送協会 自動人物特定装置
JP4177598B2 (ja) * 2001-05-25 2008-11-05 株式会社東芝 顔画像記録装置、情報管理システム、顔画像記録方法、及び情報管理方法
JP2003087771A (ja) 2001-09-07 2003-03-20 Oki Electric Ind Co Ltd 監視システム及び方法
JP4036051B2 (ja) * 2002-07-30 2008-01-23 オムロン株式会社 顔照合装置および顔照合方法
US7237024B2 (en) * 2002-10-15 2007-06-26 Aol Llc Cross-site timed out authentication management
JP4135484B2 (ja) 2002-12-05 2008-08-20 沖電気工業株式会社 入出管理方法および入出管理システム
JP2006109119A (ja) * 2004-10-06 2006-04-20 Omron Corp 動画記録装置および動画再生装置
US20060203090A1 (en) * 2004-12-04 2006-09-14 Proximex, Corporation Video surveillance using stationary-dynamic camera assemblies for wide-area video surveillance and allow for selective focus-of-attention
US20060126737A1 (en) * 2004-12-15 2006-06-15 International Business Machines Corporation Method, system and program product for a camera to track an object using motion vector data
US8370639B2 (en) * 2005-06-16 2013-02-05 Sensible Vision, Inc. System and method for providing secure access to an electronic device using continuous facial biometrics
US7526102B2 (en) * 2005-09-13 2009-04-28 Verificon Corporation System and method for object tracking and activity analysis
JP4367424B2 (ja) * 2006-02-21 2009-11-18 沖電気工業株式会社 個人識別装置,個人識別方法
JP4984728B2 (ja) 2006-08-07 2012-07-25 パナソニック株式会社 被写体照合装置および被写体照合方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11175730A (ja) * 1997-12-05 1999-07-02 Omron Corp 人間検出追跡システム
WO2005020152A1 (ja) * 2003-08-21 2005-03-03 Matsushita Electric Industrial Co., Ltd. 人物検出装置および人物検出方法
JP2005210369A (ja) * 2004-01-22 2005-08-04 Konica Minolta Photo Imaging Inc 画像処理装置及び画像処理方法
JP2004272933A (ja) * 2004-06-03 2004-09-30 Toshiba Corp 顔画像監視システム

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011019013A (ja) * 2009-07-07 2011-01-27 Ricoh Co Ltd 撮像装置、領域検知方法、及びプログラム
JP2012118817A (ja) * 2010-12-01 2012-06-21 Canon Inc 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
US8879802B2 (en) 2010-12-01 2014-11-04 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP2014138275A (ja) * 2013-01-17 2014-07-28 Canon Inc 撮像装置、遠隔操作端末、カメラシステム、撮像装置の制御方法およびプログラム、遠隔操作端末の制御方法およびプログラム
WO2015087820A1 (ja) * 2013-12-09 2015-06-18 株式会社日立製作所 映像検索装置、映像検索方法、および記憶媒体
JP2015114685A (ja) * 2013-12-09 2015-06-22 株式会社日立製作所 映像検索装置、映像検索方法、および記憶媒体
JP2016012187A (ja) * 2014-06-27 2016-01-21 本田技研工業株式会社 対象物認識装置
US11631278B2 (en) 2016-02-26 2023-04-18 Nec Corporation Face recognition system, face recognition method, and storage medium
JP7447978B2 (ja) 2016-02-26 2024-03-12 日本電気株式会社 顔照合システム、顔照合方法、及びプログラム
US11948398B2 (en) 2016-02-26 2024-04-02 Nec Corporation Face recognition system, face recognition method, and storage medium
JP2021015627A (ja) * 2016-02-26 2021-02-12 日本電気株式会社 顔照合システム、顔照合方法、及びプログラム
JP2023036690A (ja) * 2016-02-26 2023-03-14 日本電気株式会社 顔照合システム、顔照合方法、及びプログラム
JP7196893B2 (ja) 2016-02-26 2022-12-27 日本電気株式会社 顔照合システム、顔照合方法、及びプログラム
JP2018160013A (ja) * 2017-03-22 2018-10-11 株式会社東芝 紙葉類処理システム、紙葉類処理装置、およびプログラム
US11315375B2 (en) 2017-03-31 2022-04-26 Nec Corporation Facial authentication system, apparatus, method and program
JP2021061030A (ja) * 2017-03-31 2021-04-15 日本電気株式会社 顔認証システム、装置、方法、プログラム
JPWO2018181968A1 (ja) * 2017-03-31 2020-02-06 日本電気株式会社 顔認証システム、装置、方法、プログラム
US11295457B2 (en) 2017-11-21 2022-04-05 Mitsubishi Electric Corporation Tracking apparatus and computer readable medium
JP7122243B2 (ja) 2018-03-05 2022-08-19 日本テレビ放送網株式会社 画像識別装置、分類システム、制作支援システム、それらの方法及びプログラム
JP2020074055A (ja) * 2018-03-05 2020-05-14 日本テレビ放送網株式会社 画像識別装置、分類システム、制作支援システム、それらの方法及びプログラム
JP2022177267A (ja) * 2018-09-27 2022-11-30 日本電気株式会社 認証システム、認証方法、及び、プログラム
US11978282B2 (en) 2018-09-27 2024-05-07 Nec Corporation Authentication system, authentication method, and storage medium
JP7484985B2 (ja) 2018-09-27 2024-05-16 日本電気株式会社 認証システム、認証方法、及び、プログラム
WO2023175803A1 (ja) * 2022-03-16 2023-09-21 日本電気株式会社 カメラ制御装置、制御方法、及び非一時的なコンピュータ可読媒体

Also Published As

Publication number Publication date
US8208028B2 (en) 2012-06-26
US20090189984A1 (en) 2009-07-30
WO2008018423A1 (fr) 2008-02-14
JP4984728B2 (ja) 2012-07-25

Similar Documents

Publication Publication Date Title
JP4984728B2 (ja) 被写体照合装置および被写体照合方法
US8705808B2 (en) Combined face and iris recognition system
JP6674584B2 (ja) 映像監視システム
JP2022082561A (ja) 解析サーバ、監視システム、監視方法及びプログラム
JP5355446B2 (ja) 移動物体追跡システムおよび移動物体追跡方法
JP2019020777A (ja) 情報処理装置、及び、情報処理装置の制御方法、コンピュータプログラム、記憶媒体
JP7196932B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP7484985B2 (ja) 認証システム、認証方法、及び、プログラム
JP7257765B2 (ja) 情報処理装置、認証システムおよびそれらの制御方法、プログラム
JP4862518B2 (ja) 顔登録装置、顔認証装置および顔登録方法
JP5865584B2 (ja) 特定人物検知システムおよび検知方法
JP4985742B2 (ja) 撮影システム、方法及びプログラム
WO2020115910A1 (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP2021056869A (ja) 施設利用者管理システム
JP2017017488A (ja) 監視システム、撮影制御方法及びプログラム
JP7566548B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2022058833A (ja) 情報処理システム、情報処理装置、情報処理方法、およびプログラム
JP2018195992A (ja) 人物グループ追跡装置および人物グループ追跡方法
JP6762754B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP6112346B2 (ja) 情報収集システム、プログラムおよび情報収集方法
JP7480841B2 (ja) イベントの管理方法、イベント管理装置、システム及びプログラム
JP7371806B2 (ja) 情報処理装置、情報処理方法、およびプログラム
TWI642000B (zh) 特定區域中之未識別物件追蹤系統及方法,及相關電腦程式產品
JP2018195872A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP6736340B2 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090619

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20090714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120416

R151 Written notification of patent or utility model registration

Ref document number: 4984728

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3