JP5227911B2 - 監視映像検索装置及び監視システム - Google Patents

監視映像検索装置及び監視システム Download PDF

Info

Publication number
JP5227911B2
JP5227911B2 JP2009170710A JP2009170710A JP5227911B2 JP 5227911 B2 JP5227911 B2 JP 5227911B2 JP 2009170710 A JP2009170710 A JP 2009170710A JP 2009170710 A JP2009170710 A JP 2009170710A JP 5227911 B2 JP5227911 B2 JP 5227911B2
Authority
JP
Japan
Prior art keywords
image
monitoring
face image
similar
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009170710A
Other languages
English (en)
Other versions
JP2011029737A (ja
Inventor
康博 朝
誠一 平井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Priority to JP2009170710A priority Critical patent/JP5227911B2/ja
Priority to US12/840,337 priority patent/US9342744B2/en
Publication of JP2011029737A publication Critical patent/JP2011029737A/ja
Application granted granted Critical
Publication of JP5227911B2 publication Critical patent/JP5227911B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/987Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns with the intervention of an operator
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/40Software arrangements specially adapted for pattern recognition, e.g. user interfaces or toolboxes therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • G06V40/173Classification, e.g. identification face re-identification, e.g. recognising unknown faces across different face tracks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/179Human faces, e.g. facial parts, sketches or expressions metadata assisted face recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、監視映像中から人物の顔画像を検索する監視映像検索装置及び監視システムに関する。
監視映像中から顔画像を用いて人物検索を行うと、検索結果である顔画像あるいはフレーム画像が画面上に一覧表示される。監視映像を監視している監視者は、当該検索結果が間違いなく検索対象人物であるか否かについて、当該検索結果の一覧表示を目視し確認する。ここで、監視者に提示される検索結果画像は必ずしも目視確認に適した画像であるとは限らず、顔画像のサイズが小さかったり、顔の向きが斜めであったり、人物特定が難しい場合が存在する。
特許文献1には、顔画像をデータベースに保存する際、監視映像中の一連の連続する顔画像から客観的に最もバランスの取れた正面画像を選択し保存する最適顔画像記録装置が開示されている。かかる最適顔画像記録装置は、監視映像にて一定時間内に一定範囲に顔画像が存在する場合には同じ顔と判断し、それら同一顔画像から所定の評価手法によってベストショット画像を選択するし記録する。かかる最適顔画像記録装置のデータベースを用いて人物検索を行うと、当該検索結果画像にはベストショットのみが選択されることとなり、必然と監視者が目視確認しやすい画像一覧が得られる。
特開2005−227957
しかしながら、特許文献1に記載された最適顔画像記録装置は、検索に用いる顔画像がベストショット画像である場合には有効かもしれないが、検索に用いる顔画像が目視による人物特定の難しい画像の場合には、当該顔画像と類似した画像をデータベースから検索することが難しく、有効性は低い。本発明は、前記した問題を解決すべく創案されたものであり、人物検索に用いる顔画像が目視による人物特定の難しい画像であっても、監視者が目視確認しやすい検索結果画像を出力することが可能な監視映像検索装置を提供することを課題とする。
前記課題を解決するため、本発明の監視映像検索装置は、撮影装置によって撮影された一連の監視画像からなる監視映像を取得する監視映像取得部と、監視映像中の顔画像を抽出し、当該顔画像の特徴量を生成する特徴量生成部と、取得された特徴量と関連付けられた顔画像、監視画像などのメタデータを記憶する画像特徴量記憶部と、ユーザの入力(外部からの入力)に基づいて、画像特徴量記憶部あるいは監視者用装置に記憶されている顔画像から、人物検索のクエリ画像となる顔画像を指定する顔画像指定部と、画像特徴量記憶部に記憶された前記一連の監視画像から、指定された前記顔画像と類似した顔画像を検索する類似画像検索部と、前記検索結果と撮影時刻の近い監視画像から、監視者が目視確認しやすい、同一人物の顔画像を含む提示用監視画像を選択する提示画像選択部と、前記提示画像選択部による結果として、前記提示画像を出力する画面データ生成出力部と、を備えることを特徴とする。即ち、類似画像検索を用いて提示用画像を選択することに最大の特徴がある。
本発明によれば、監視映像中の人物検索結果に対して、その前後フレームから監視者が目視確認しやすい顔画像を提示することが可能となる。
本発明の実施形態に係る監視映像検索装置を備える監視システムを模式的に示す図である。 本発明の実施形態に係る監視映像検索装置の動作例を説明するためのフローチャートである。 クエリ顔画像指定用画面データによる画面例を示す図である。 (a)〜(e)は、監視映像記憶部に記憶された一連の監視画像の例を示す図である。 人物検索結果表示用画面データによる画面例を示す図である。 本発明の実施形態に係る監視映像検索の動作の説明をする図である。 本発明の実施形態に係る監視映像検索の動作の説明をする図である。 監視画像のデータ構造を示す図である。 類似画像検索部の処理に用いるデータの種類を説明する図である。 顔画像選択部の処理に用いるデータの種類を説明する図である。 実施例で用いられる式を示す図である。
以下、本発明の実施形態について、適宜図面を参照しながら説明する。同様の部分には同一符号を付し、重複する説明を省略する。図1は、本発明の実施形態に係る監視映像検索装置を備える監視システムを模式的に示す図である。
図1に示すように、本発明の実施形態に係る監視システム1は、所定の監視領域を撮影した監視映像をユーザ(監視者)に表示するシステムであり、複数の撮影装置10,10,・・・と、監視者用装置20と、監視映像検索装置30と、を備えている。複数の撮影装置10,10,・・・、監視者用装置20及び監視映像検索装置30は、ネットワークNWによって互いに通信可能に接続されている。
<撮影装置10>
撮影装置10は、所定の監視領域を撮影するための装置であり、カメラ11と、メタデータ生成部12と、を備えている。
カメラ11は、一連の監視画像からなる監視映像をデジタルデータとして取り込むことができるものであり、例えば、カラーCCD(Charge-Coupled device)カメラである。取り込まれたデジタルデータとしての一連の監視画像データは、メタデータ生成部12に出力される。
メタデータ生成部12は、カメラ11から出力された監視画像データのメタデータとして、対応するカメラ11のID(カメラID)、及び、一連の画像データの撮影時刻を関連付け、ネットワークNWを介して監視映像検索装置30に出力される。
<監視者用装置20>
監視者用装置20は、例えばパーソナルコンピュータであり、入力部21と、出力部22と、制御部23と、を備えている。
入力部21は、マウス、キーボード等であり、監視者の操作に基づく入力データを制御部22に出力する。
制御部22は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read-Only Memory)、HDD(Hard Disk Drive)、入出力回路等を備えて構成されており、入力部21及び出力部23の動作を制御したり、ネットワークNWを介してデータを送受信したりする。本実施形態において、制御部22は、監視者による入力部22の入力操作に基づいて、顔画像データや、顔画像選択データを生成してネットワークNWを介して監視映像検索装置30に出力する。
出力部23は、ディスプレイであり、監視映像検索装置30から出力された検索結果等を表示する。
<監視映像検索装置30>
監視映像検索装置30は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read-Only Memory)、HDD(Hard Disk Drive)、入出力回路等を備えて構成されており、機能部として、監視映像取得部31と、特徴量生成部32と、画像特徴量記憶部33と、顔画像指定部34と、類似画像検索部35と、提示画像選択部36と、画面データ生成出力部37と、を備えている。
監視映像取得部31は、監視映像データ、すなわち、撮影装置10によって撮影された一連の監視画像に関する監視画像データおよびメタデータをネットワークNWを介して取得し、特徴量生成部32に出力する。
特徴量生成部32は、監視映像取得部31から出力された監視画像データを処理し、監視画像内における顔画像の特徴量を生成するものであり、機能部として、顔画像生成部32aと、生成部32bと、を備えている。
顔画像生成部32aは、監視映像取得部31から出力された監視画像データに基づいて、監視画像中の顔画像を生成する。そして、顔画像生成部32aは、監視画像内の肌色の部分を抽出し、当該肌色の部分の大きさ、形状等から顔の位置を認識し、認識された顔の位置から顔画像データを生成する。顔画像データは、当該監視画像と関連付けられる。また、前記顔画像データは、メタデータとして監視画像における顔画像の領域情報と、顔IDと、を含んでおり、複数の顔画像データが識別可能に構成され、生成部32bに出力される。
生成部32bは、顔画像生成部32aから出力された顔画像データに基づいて、顔画像データの特徴量データを生成する。前記特徴量データの算出には公知の手法が挙げられる。例えば、特許文献2では、画像データの対象画素とその周辺領域内各画素との輝度勾配と勾配方向を求め、既定の方向毎にヒストグラム化し、そのピーク値 をとる方向を対象画素の特徴量データとしている。前記周辺領域は、単純に対象画素の8近傍としても構わない。
特開2008−257649生成した特徴量データは、当該顔画像データと、当該顔画像データと関連づけられた監視画像をメタデータとして関連付けられ、監視映像記憶部33に記憶させる。
監視映像記憶部33には、特徴量データがメタデータとともに記憶される。
顔画像指定部34は、監視者による入力部21の入力操作に基づいて、人物検索に用いる顔画像を指定する。顔画像は、前記画像特徴量記憶部33あるいは制御部22が備えるRAM、ROM、HDDに記憶されたものから指定される。指定結果は、類似画像検索部35に出力される。ここで、制御部22にある顔画像を指定した場合は、前記生成部32bにより当該顔画像から特徴量データを生成し、類似画像検索部35へ出力される。
類似画像検索部35は、画像特徴量記憶部33に記憶された顔画像データから、指定された顔画像データと類似した画像を検索するものであり、さらに詳細な機能部として、類似度算出部35aと、ソート部35bと、を備えている。
類似度算出部35aは、指定された顔画像の特徴量データと、画像特徴量記憶部33にある各顔画像の特徴量データの類似度を算出する。本発明において、類似度は、二つの特徴量データが類似しているほど小さくなるパラメータである。類似度の算出には公知の手法が挙げられる。例えば、特徴量データに前記輝度勾配を用いた場合、2つの顔画像にて求められる特徴量間の平均2乗距離を用いることができる。ここで、2つの特徴量をf(x,y)、 f(x,y)とする時、その平均2乗距離dは図11の上の式に示す通り、√(x−x+(y−yとなる。算出された類似度は、ソート部35bに出力される。
ソート部35bは、指定された顔画像の特徴量データと、画像特徴量記憶部33にある特徴量データとの全類似度を、小さい順に並べる。すなわち、指定された顔画像に似ている順に、画像特徴量記憶部33にある顔画像を並べる。そして、類似度の小さい順に並べた特徴量データのうち、予め設定された上位件数分を提示画像選択部36に出力する。
提示画像選択部36は、類似画像検索部35から出力された検索結果である顔画像に基づいて、検索結果の前後の監視画像データにおける顔画像から、監視者が目視確認しやすい顔画像を選択するものであり、さらに詳細な機能部として、顔画像選択部36aと、進行方向算出部36bと、決定部36cと、を備えている。
顔画像選択部36aは、検索結果の顔画像に基づいて、当該顔画像を含む監視画像と撮影時刻の近い監視画像の中から、同一人物の顔画像を選択する。より具体的には、顔画像選択部36aは、検索結果の顔画像の特徴量データと、当該顔画像を含む監視画像と撮影時刻の近い監視画像中の顔画像の特徴量データとの類似度を算出し、当該類似度が予め設定した閾値よりも小さい場合、それら2つの顔画像は同一人物の画像と判定する。撮影時刻の近い監視画像の範囲は、検索結果の顔画像を含む監視画像を起点にした前後時刻の監視画像において、同一人物の顔画像が存在する一連の監視画像である。顔画像選択部36aで選択された一連の顔画像は、進行方向算出部36bに出力される。ここで、撮影時刻の近い監視画像とは、該当撮像装置において、同一人物が移っている平均時間が近いことを意味する。但し、この平均時間は、撮影環境に依存する。また、ここで、閾値は、該当撮像装置において、同一人物と判定されるべき顔画像における平均類似度によって、定められる。この閾値は、本装置を用いる目的によって、設定を変更することが可能である。
進行方向算出部36bは、顔画像選択部36aから出力された一連の顔画像に基づいて、当該顔画像の人物の監視映像中における進行方向を算出する。より具体的には、一連の監視画像中の顔画像の位置について、撮影時刻の古い顔画像と新しい顔画像との比較を行いその移動方向を求める。移動方向の算出には公知の手法が挙げられる。例えば、監視画像中の顔画像領域の重心から求まるベクトルを用いることができる。
ここで、顔画像領域の重心となる座標は((1/n)(Σxi),(1/n)(Σyi))であり(nは顔画像領域の全画素数、(xi,yi)(i=0...n)は顔画像領域内の座標値、図11の下の式)、重心から求まるベクトルは、撮影時間の古い顔画像領域の重心を始点とし撮影時間の新しい顔画像領域の重心を終点とするベクトルとなる。一連の顔画像から算出したの各移動方向は、比較した撮影時刻の新しい顔画像に進行方向として関連付けられ、決定部36c に出力される。
決定部36cは、進行方向選択部36bから出力された一連の顔画像と、関連付けられた進行方向、および顔画像の大きさに基づいて、監視者に提示する画像を選択する。より具体的には、一連の顔画像において、顔画像の進行方向が監視画像に対して下方向あるいは下方向との誤差が小さい方向である顔画像を選び、当該顔画像のうち、最も顔画像のサイズが大きいものを選択し、画面データ生成出力部37に出力する。なお、ここでは、サイズが大きいものを選択したが、ボケが少ないものや正面を向いているものを選択してもよい。
画面データ生成出力部37は、類似画像検索部35および提示画像選択部36の結果を出力する検索結果出力部の一例であり、決定部36cによる決定結果、および監視映像記憶部32に記憶された監視画像データに基づいて、類似画像検索部35の検索結果である監視画像、および決定部35cによる決定結果の監視画像を表示するための出現表示用画面データを生成する。
また、画面データ生成出力部37は、監視映像記憶部32に記憶された監視画像データ、あるいは監視者用装置22にある顔画像データに基づいて、監視者に指定させる人物検索のクエリ画像として用いる顔画像を監視者用装置20の出力装置23に表示させるためのクエリ顔画像指定用画面データを生成することもできる。生成された表示用画面データ及びクエリ顔画像指定用画面データは、ネットワークNWを介して監視者用装置20に出力される。
続いて、本発明の実施形態に係る監視映像検索装置30の第一の動作例について、図2〜図10を参照して説明する(適宜図1参照)。図2は、本発明の実施形態に係る監視映像検索装置の動作例を説明するためのフローチャートであり、図6〜図8にて前記動作時におけるデータの流れを示している。図3は、クエリ顔画像指定用画面データによる画面例を示す図である。図4(a)〜(e)は、画像特徴量記憶部に記憶された一連の監視画像の例を示す図である。図5は、人物検索結果表示用画面データによる画面例を示す図である。図8は、画像特徴量記憶部に記憶された監視画像のデータ構造を示す図である。図9は、類似画像検索部35の処理に用いられるデータの種類を示す図である。図10は、顔画像選択部36aの処理に用いられるデータの種類を示す図である。
図6に示すように、まず、監視映像検索装置30の画面データ生成出力部37が、画像特徴量記憶部33に記憶された監視画像データ、顔領域情報、顔画像の登録ID、及び、監視者用装置20の制御部22が備える記憶装置上の顔画像データに基づいて、監視者に人物検索に用いる顔画像を指定させることが可能な画面データを監視者用装置20の出力部23に表示させるためのクエリ顔画像指定用画面データを生成し、ネットワークNWを介して監視者用装置20に出力する(ステップS1)。監視者用装置20の制御部22は、クエリ顔画像指定用画面データを出力部23に出力し、出力部23は、クエリ顔画像指定用画面データを用いて、図3に示すクエリ顔画像指定用画面40を表示する。ここで、画像特徴量記憶部33に記憶された監視画像は、図8に示すようにデータ構造であり、記憶する際のユニークな管理番号である登録ID、撮影装置10が監視画像を撮影した時刻である撮影時刻、撮影装置10の管理用番号であるカメラ番号、監視画像データ、監視画像中に検出した人物顔の領域を示す顔領域情報、顔領域に該当する人物の監視画像内における進行方向を示す進行方向、そして顔領域に基づいて切り出した顔画像の特徴量である画像特徴量とから成る。また、前記監視画像は、顔領域ごとに記憶される。従って、監視画像中に複数の顔領域を検知した場合は、その領域数分だけデータ登録される。
クエリ顔画像指定用画面40は、GUI(Graphic User Interface)操作可能に構成されており、図3に示すように、監視映像表示領域41と、顔画像入力ボタン42と、クエリ顔画像指定用表示領域43と、人物検索ボタン44と、を備えている。
監視映像表示領域41は、複数の撮影装置10,10,・・・によって撮影された監視映像41a〜41eを表示する領域である。監視映像41a〜41eは同期されており、同一時刻に撮影された監視画像が一緒に表示されるようになっている。
また、監視映像表示領域41は、監視映像検索装置30の画像特徴量記憶部33に記憶されている過去の監視映像データを表示することも可能である。
顔画像入力ボタン42は、監視者用装置20の制御部22が備えている記憶装置に記憶された顔画像を指定し、クエリ顔画像指定用表示領域43に表示することができる。
クエリ顔画像指定用表示領域43は、監視者がクエリ顔画像を指定するための顔画像を表示する領域であり、監視映像41a〜41eに表示された顔画像、あるいは、顔画像入力ボタン42から取得した顔画像を表示することができる。本動作例では、クエリ顔画像指定用表示領域43には、監視映像41eにおける顔領域が表示されている。監視映像41eには、複数の顔が映っており、顔検出された顔については検出領域41fが矩形で強調表示されている。監視者は、入力部(マウス)21を操作してポインタPを移動させ、ポインタPが監視映像41a〜41eの顔検出領域41fのいずれかの上に位置した状態で入力部(マウス)21をクリックすると、制御部22は、該当する監視画像中の顔領域をクエリ顔画像指定用表示領域43に表示させることができる。
人物検索ボタン44は、クエリ顔画像指定用表示領域43に表示された顔画像に基づいて人物検索を開始するためのボタンであり、監視者が入力部(マウス)21を操作してポインタPを移動させ、ポインタPが人物検索ボタン44上に位置した状態で入力部(マウス)21をクリックすると、制御部22は、検索対象である顔領域を通知する信号(顔領域通知データ)を生成してネットワークNWを介して監視映像検索装置30に出力する。
ここで、動作例の説明に戻る。監視者が入力部(マウス)21を操作することによって、クエリ顔画像指定用表示領域43内に表示された監視映像41e内の顔領域を選択すると、該当する顔領域情報に基づいて、顔画像を切り出し監視者に提示する。そして、人物検索ボタンが押下されると、制御部22が顔領域通知データを生成してネットワークNWを介して監視映像検索装置30に出力し、監視映像検索装置30の顔画像指定部34が、当該顔領域通知データを取得し(ステップS2)、検索対象となる顔画像の特徴量を取得する。ここで、クエリ顔画像指定用表示領域43内に表示される顔領域が顔画像入力ボタン42による顔画像であった場合は、顔領域通知データとして当該顔画像が監視映像検索装置30に出力され、顔画像指定部34において特徴量生成部32を介して、検索対象となる顔画像の特徴量を取得する。
続いて、図7に示すように、類似画像検索部35の類似度算出部35aが、指定された顔画像の特徴量と画像特徴量記憶部33に記憶している顔画像の特徴量との類似度を算出する(ステップS3)。
続いて、ソート部35bが、算出した全類似度を値の小さい順に並べる(ステップS4)。そして、類似度の小さい順に、監視者が指定した件数分の特徴量を、監視画像や顔画像といったメタデータとともに提示画像選択部36に出力する。ここで、図9に示すように、類似画像検索部35では、指定された顔画像101に対して、画像特徴量記憶部33の全データ102との類似度を算出する。
続いて、提示画像選択部36の顔画像選択部36aが、ソート部35bから出力された顔画像43a(図4参照)を含む監視画像43の一つ前の監視画像42(一つ後の監視画像44)に顔画像が検出されているか否かの確認を行い(ステップS5)、顔画像42a(44a)が検出されている場合は、監視画像42(監視画像44)における顔画像の特徴量を画像特徴量記憶部33から取得し、顔画像43aと顔画像42a(顔画像44a)との類似度を算出する(ステップS6)。そして、算出された類似度が閾値以下であるか否かを判定する(ステップS7)。算出された類似度が閾値以下である場合には、ステップS5に移行し、さらに一つ前の監視画像41(さらに一つ後の監視画像45)に対して同様の処理が行われる。そして、算出された類似度が閾値より大きい場合には、ステップS8に移行する。この閾値も、該当撮像装置において、同一人物と判定されるべき顔画像における平均類似度を意味している。ここで、図10に示すように、顔画像選択部36aでは、指定された顔画像101に対して、画像特徴量記憶部33の中の同一カメラのデータ112から類似度による同一人物判定を行う。
続いて、進行方向算出部36bが、顔画像選択部36aによる選択結果に基づいて、類似度が閾値以下で最も撮影時刻が古い顔画像42aと、類似度が閾値以下で2番目に撮影時刻が古い顔画像43aの監視画像中における移動方向を算出する(ステップS8)。算出された移動方向は、対象となる2つの顔画像のうち撮影時刻の新しい顔画像43aと関連づけられる。移動方向の算出は、選択された顔画像がなくなるまで時系列順に行われる。
続いて、決定部36cが、進行方向算出部36bの結果に基づいて、選択された顔画像の中から、移動方向が監視画像の下向き、あるいは下向きとの誤差が閾値以下である顔画像を選択する(ステップS9)。さらに、当該選択顔画像の中から最も画像サイズの大きいものを監視者への提示画像として決定する(ステップS10)。なお、ここで、下向きとは、人が前に移動しているという意味、即ち該当撮像装置に近づく方向である。方向誤差の閾値とは、撮影できる顔画像の大きさなどの撮像環境に依存するものの、撮像装置毎に「下向き」と判断する方向の平均誤差を意味する。
続いて、画面データ生成出力部37が、決定部36cによる決定結果に基づいて、提示用監視画像、検索結果監視画像を表示するための画面データを生成してネットワークNWを介して監視者用装置20に出力する(ステップS11)。
監視者用装置20の制御部22は、画面データを出力部23に出力し、出力部23は、画面データを用いて、図5に示す検索結果表示画面50を表示する。検索結果表示画面50は、図5に示すように、クエリ顔画像表示領域51と、人物検索結果表示領域52を備えている。
人物検索結果表示領域52は、類似度が小さい順に検索結果の監視画像52b、52dが左上から表示されており、当該検索結果監視画像とともに提示画像選択部36で決定した目視確認しやすい最適画像52a、52cが表示されている。
以上、本発明の実施形態について図面を参照して説明したが、本発明は前記実施形態に限定されず、本発明の要旨を逸脱しない範囲で適宜設計変更可能である。例えば、監視映像検索装置30が備える特徴量生成部32は、撮影装置10および監視用装置2が備える構成であってもよい。また、本発明は、コンピュータを前記監視映像検索装置として機能させる監視映像検索プログラムとしても具現化可能である。
1 監視システム
10 撮影装置
20 監視者用装置
30 監視映像検索装置
31 監視映像取得部
32 特徴量生成部
33 画像特徴量記憶部
34 顔画像指定部
35 類似画像検索部
36 提示画像選択部
37 画面データ生成出力部

Claims (7)

  1. 撮影装置によって撮影された一連の監視画像からなる監視映像を取得する監視映像取得部と、
    監視映像中の顔画像を抽出し、当該顔画像の特徴量を生成する特徴量生成部と、
    取得された特徴量と関連付けられた顔画像を含むメタデータを記憶する画像特徴量記憶部と、
    外部からの入力に基づいて、画像特徴量記憶部あるいは監視者用装置に記憶されている顔画像から、人物検索のクエリ画像となるクエリ顔画像を指定する顔画像指定部と、
    画像特徴量記憶部に記憶された前記一連の監視画像から、前記クエリ顔画像の特徴量と類似する特徴量を画像特徴量記憶部から検索し、前記検索によって得られた特徴量に関連付けられた類似顔画像を取得する類似画像検索部と、
    監視画像のうち前記類似画像を含んだ画像である類似画像と撮影時刻が近い監視画像から、前記類似画像に映っている人物の顔画像の特徴量と類似する特徴量を持つ顔画像を含む提示画像を選択する提示画像選択部と、
    前記提示画像選択部にて決定された前記提示画像を出力する画面データ生成出力部と、
    を備えることを特徴とする監視映像検索装置。
  2. 前記提示画像選択部は、
    前記類似顔画像と、前記類似画像よりも前の監視画像における顔画像と、の類似度を算出し、算出された類似度が閾値以下である場合に、
    前記類似顔画像と、前記類似画像よりも前の監視画像における顔画像とが同一人物であると判定し選択する顔画像選択部と、
    前記顔画像選択部により選択された顔画像領域の監視画像中における移動方向を算出する進行方向算出部と、
    前記進行方向算出部で算出された移動方向と、監視画像の下方向との誤差が閾値以下であり、かつ画像サイズが最も大きい顔画像を含む監視画像を最適画像とする決定部と、
    を備えることを特徴とする請求項1に記載の監視映像検索装置。
  3. 前記提示画像選択部は、
    前記類似顔画像と、前記類似画像よりも後の監視画像における顔画像と、の類似度を算出し、算出された類似度が閾値以下である場合に、
    前記類似顔画像と、前記類似画像よりも後の監視画像における顔画像が同一人物であると判定し選択する顔画像選択部と、
    前記顔画像選択部により選択された顔画像領域の監視画像中における移動方向を算出する進行方向算出部と、
    前記進行方向算出部で算出された移動方向と、監視画像の下方向との誤差が閾値以下であり、かつ画像サイズが最も大きい顔画像を含む監視画像を最適画像とする決定部と、
    を備えることを特徴とする請求項1に記載の監視映像検索装置。
  4. 前記画面生成出力部は、前記類似画像検索部の検索結果である前記類似画像と、前記提示画像選択部で決定された前記提示画像とを同時に提示する画面を生成する
    ことを特徴とする請求項1に記載の監視映像検索装置。
  5. 前記類似画像を撮影した撮影時刻が近い監視画像は、前記類似画像の撮影で用いられているカメラと同一のカメラの画像から取得されることを特徴とする請求項1記載の監視映像検索装置。
  6. 監視画像を撮影する複数のカメラと、
    クエリ画像を指定し、提示画像が出力される監視用装置と、
    監視映像検索装置とを有し、
    前記監視映像検索装置は、
    撮影装置によって撮影された一連の監視画像からなる監視映像を取得する監視映像取得部と、
    監視映像中の顔画像を抽出し、当該顔画像の特徴量を生成する特徴量生成部と、
    取得された特徴量と関連付けられた顔画像を含むメタデータを記憶する画像特徴量記憶部と、
    外部からの入力に基づいて、画像特徴量記憶部あるいは監視者用装置に記憶されている顔画像から、人物検索のクエリ画像となるクエリ顔画像を指定する顔画像指定部と、
    画像特徴量記憶部に記憶された前記一連の監視画像から、前記クエリ顔画像の特徴量と類似した特徴量を持つ類似顔画像を含む監視画像である類似画像を検索する類似画像検索部と、
    記類似画像と撮影時刻が近い監視画像から、前記類似画像に映っている人物の顔画像の特徴量と類似する特徴量を持つ顔画像を含む提示画像を選択する提示画像選択部と
    前記提示画像選択部にて選択された前記提示画像を出力する画面データ生成出力部と、
    を備えることを特徴とする監視システム。
  7. 前記類似画像を撮影した撮影時刻が近い監視画像は、前記類似画像の撮影で用いられているカメラと同一のカメラの画像から取得されることを特徴とする請求項6記載の監視システム。
JP2009170710A 2009-07-22 2009-07-22 監視映像検索装置及び監視システム Active JP5227911B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009170710A JP5227911B2 (ja) 2009-07-22 2009-07-22 監視映像検索装置及び監視システム
US12/840,337 US9342744B2 (en) 2009-07-22 2010-07-21 Surveillance image retrieval apparatus and surveillance system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009170710A JP5227911B2 (ja) 2009-07-22 2009-07-22 監視映像検索装置及び監視システム

Publications (2)

Publication Number Publication Date
JP2011029737A JP2011029737A (ja) 2011-02-10
JP5227911B2 true JP5227911B2 (ja) 2013-07-03

Family

ID=43496951

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009170710A Active JP5227911B2 (ja) 2009-07-22 2009-07-22 監視映像検索装置及び監視システム

Country Status (2)

Country Link
US (1) US9342744B2 (ja)
JP (1) JP5227911B2 (ja)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8512814B2 (en) * 2011-02-14 2013-08-20 Blue Angel Paint and Coatings, Ltd. Coating material for achieving sound dampening and method for the same
JP2012244526A (ja) * 2011-05-23 2012-12-10 Sony Corp 情報処理装置、情報処理方法及びコンピュータプログラム
JP2012256105A (ja) * 2011-06-07 2012-12-27 Sony Corp 表示装置、オブジェクト表示方法、及びプログラム
CN103620621B (zh) * 2011-06-30 2017-10-24 诺基亚技术有限公司 用于利用积分梯度投影的面部跟踪的方法和装置
GB201113633D0 (en) 2011-08-08 2011-09-21 Vision Semantics Ltd User-primed iterative discovery of object associations in distributed multi-source data
US9055201B2 (en) * 2011-10-14 2015-06-09 Samsung Techwin Co., Ltd. Apparatus and method of storing and searching for image
JP5985327B2 (ja) * 2012-09-19 2016-09-06 株式会社東芝 表示装置
JP2014127011A (ja) * 2012-12-26 2014-07-07 Sony Corp 情報処理装置、情報処理方法、およびプログラム
JP5851651B2 (ja) 2013-03-21 2016-02-03 株式会社日立国際電気 映像監視システム、映像監視方法、および映像監視装置
CN105531995B (zh) * 2013-05-10 2019-01-08 罗伯特·博世有限公司 用于使用多个摄像机进行对象和事件识别的系统和方法
US10834290B2 (en) 2013-10-10 2020-11-10 Elwha Llc Methods, systems, and devices for delivering image data from captured images to devices
US20150106627A1 (en) * 2013-10-10 2015-04-16 Elwha Llc Devices, methods, and systems for analyzing captured image data and privacy data
US10102543B2 (en) 2013-10-10 2018-10-16 Elwha Llc Methods, systems, and devices for handling inserted data into captured images
US10346624B2 (en) 2013-10-10 2019-07-09 Elwha Llc Methods, systems, and devices for obscuring entities depicted in captured images
US10289863B2 (en) 2013-10-10 2019-05-14 Elwha Llc Devices, methods, and systems for managing representations of entities through use of privacy beacons
US9715620B2 (en) * 2015-05-15 2017-07-25 Itseez 3D, Inc. Method to position a parallelepiped bounded scanning volume around a person
JP6011833B1 (ja) * 2015-09-14 2016-10-19 パナソニックIpマネジメント株式会社 ウェアラブルカメラシステム及び人物報知方法
JP6503079B2 (ja) * 2015-09-14 2019-04-17 株式会社日立国際電気 特定人物検知システム、特定人物検知方法および検知装置
JP6771897B2 (ja) * 2016-02-02 2020-10-21 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
WO2017151859A1 (en) 2016-03-02 2017-09-08 Tinoq Inc. Systems and methods for efficient face recognition
US10728694B2 (en) 2016-03-08 2020-07-28 Tinoq Inc. Systems and methods for a compound sensor system
CN109479181B (zh) * 2016-03-30 2020-12-01 蒂诺克股份有限公司 用于用户检测和识别的系统和方法
WO2018056355A1 (ja) * 2016-09-23 2018-03-29 株式会社日立国際電気 監視装置
KR102036490B1 (ko) * 2017-10-30 2019-10-24 명홍철 소스 비디오 내에서 관심 동영상을 추출하는 장치 및 방법
JP2021144260A (ja) * 2018-06-15 2021-09-24 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム、および情報処理システム
GB2574670A (en) * 2018-06-15 2019-12-18 The Face Recognition Company Ltd Method of and system for recognising a human face
JP7039409B2 (ja) 2018-07-18 2022-03-22 株式会社日立製作所 映像解析装置、人物検索システムおよび人物検索方法
US11263418B2 (en) 2018-08-21 2022-03-01 Tinoq Inc. Systems and methods for member facial recognition based on context information
RU2731519C1 (ru) * 2019-09-19 2020-09-03 Акционерное общество "Федеральный научно-производственный центр "Производственное объединение "Старт" им. М.В. Проценко" (АО "ФНПЦ ПО "Старт" им. М.В. Проценко") Комбинированная система контроля и управления доступом для системы физической защиты особо важных объектов
JP7494899B2 (ja) 2020-03-10 2024-06-04 日本電気株式会社 撮影制御装置、システム、方法及びプログラム
WO2022264370A1 (ja) * 2021-06-17 2022-12-22 日本電気株式会社 画像処理装置、画像処理方法及びプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5751346A (en) * 1995-02-10 1998-05-12 Dozier Financial Corporation Image retention and information security system
US20020175997A1 (en) * 2001-05-22 2002-11-28 Matsushita Electric Industrial Co., Ltd. Surveillance recording device and method
CA2359269A1 (en) * 2001-10-17 2003-04-17 Biodentity Systems Corporation Face imaging system for recordal and automated identity confirmation
JP3999561B2 (ja) * 2002-05-07 2007-10-31 松下電器産業株式会社 監視システムと監視カメラ
US7525570B2 (en) * 2003-07-17 2009-04-28 Igt Security camera interface
US20080303903A1 (en) * 2003-12-02 2008-12-11 Connexed Technologies Inc. Networked video surveillance system
JP2005227957A (ja) 2004-02-12 2005-08-25 Mitsubishi Electric Corp 最適顔画像記録装置及び最適顔画像記録方法
US7697026B2 (en) * 2004-03-16 2010-04-13 3Vr Security, Inc. Pipeline architecture for analyzing multiple video streams
JP4789658B2 (ja) * 2006-03-14 2011-10-12 富士フイルム株式会社 スライドショー再生方法、スライドショー再生プログラム、及びスライドショー再生装置
JP2008009849A (ja) * 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 人物追跡装置
US7403643B2 (en) * 2006-08-11 2008-07-22 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
JP4943207B2 (ja) * 2007-03-30 2012-05-30 パナソニック株式会社 映像検索装置
US7460149B1 (en) * 2007-05-28 2008-12-02 Kd Secure, Llc Video data storage, search, and retrieval using meta-data and attribute data in a video surveillance system
US8503727B2 (en) * 2009-07-22 2013-08-06 Omron Corporation Monitoring camera terminal

Also Published As

Publication number Publication date
US9342744B2 (en) 2016-05-17
US20110019003A1 (en) 2011-01-27
JP2011029737A (ja) 2011-02-10

Similar Documents

Publication Publication Date Title
JP5227911B2 (ja) 監視映像検索装置及び監視システム
US10810438B2 (en) Setting apparatus, output method, and non-transitory computer-readable storage medium
JP4541316B2 (ja) 映像監視検索システム
US11308777B2 (en) Image capturing apparatus with variable event detecting condition
JP4168940B2 (ja) 映像表示システム
JP5284599B2 (ja) 画像処理装置
EP3016382A1 (en) Monitoring methods and devices
JP5691807B2 (ja) 置き去り又は持ち去り検知システム
JPWO2018198373A1 (ja) 映像監視システム
US11308158B2 (en) Information processing system, method for controlling information processing system, and storage medium
JPWO2014050518A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
US11082634B2 (en) Image processing system, image processing method, and program
JP2011248836A (ja) 滞留検出システム及びプログラム
JP2009027393A (ja) 映像検索システムおよび人物検索方法
WO2015040929A1 (ja) 画像処理システム、画像処理方法及びプログラム
JP6758834B2 (ja) 表示装置、表示方法及びプログラム
JP2011060058A (ja) 撮影装置および監視システム
JP2011018238A (ja) 画像検索システム及び画像検索方法
JP2016015579A (ja) 情報処理装置、情報処理方法及びプログラム
JP4821355B2 (ja) 人物追跡装置、人物追跡方法および人物追跡プログラム
US20200311438A1 (en) Representative image generation device and representative image generation method
JP2019020820A (ja) 映像認識システム
JP2019029747A (ja) 画像監視システム
JP5376403B2 (ja) 映像表示装置及びプログラム
JP6939065B2 (ja) 画像認識用コンピュータプログラム、画像認識装置及び画像認識方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130318

R150 Certificate of patent or registration of utility model

Ref document number: 5227911

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160322

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250