本発明の実施の形態における画像監視装置100は、図1の構成図に示すように、撮影部10、通信部12、画像処理部14、記憶部16及び表示部18を含んで構成される。画像監視装置100は、図2に示す機能ブロックとして機能する。本実施の形態における画像監視装置100は、監視領域において出入り業者やイベントスタッフ等に見せかけて不審な行動をするグループを検出する。
撮影部10は、CCD素子やC−MOS素子等の撮像素子、光学系部品、アナログ/デジタル変換器等を含んで構成される所謂監視カメラ等の撮影装置を備える。撮影部10は、監視領域となる所定のエリアを所定時間間隔にて撮影し、通信部12を介してその画像(以下、撮影画像という)を画像処理部14へ出力する。撮影部10に含まれる撮影装置は、1つに限定されるものではなく、複数の撮影装置によって監視領域を分割して撮影した撮影画像を出力するようにしてもよい。各撮影画像で取得される撮影画像は、モノクロであってもよいし、カラーであってもよい。
通信部12は、撮影部10、画像処理部14及び表示部18の間で情報を伝達する通信手段を備える。通信部12は、撮影部10において取得された撮影画像を画像処理部14へ入力するためのインターフェースを備える画像取得手段20として機能する。また、通信部12は、画像処理部14において処理された情報を表示部18において表示させるためのインターフェースを備える。
画像処理部14は、撮影部10において取得された撮影画像に基づいて出入り業者やイベントスタッフ等の服装を偽装した不審者を検出する処理を行う。画像処理部14は、図2の機能ブロック図における人物画像抽出手段22、着衣類似者計数手段24、制服未着用者検出手段26及び警告手段28として機能する。これらの各手段については後述する。
記憶部16は、半導体メモリやハードディスク等のメモリ装置で構成される。記憶部16は、画像監視装置100で使用される監視プログラムや各種データを記憶している。記憶部16は、図2の機能ブロック図における制服情報記憶手段30として機能する。記憶部16は、監視領域で着用される正規の制服の画像特徴量を制服データベース(制服DB)として予め記憶している。制服DBには、登録される制服毎に、特徴的なデザインを有する領域を注視領域として登録しておくことが好適である。注視領域としては、例えば、胸ポケットのエンブレム、スカーフ、腕章等の形状、模様、色(色分布、色配置を含む)等の画像特徴量が挙げられる。すなわち、警備員なら胸ポケットのエンブレムや腕章、清掃員なら袖と身ごろの色の違い、キャビンアテンダントならスカーフ等の特徴量を予め登録しておくことが好適である。また、制服DBには、注視領域以外にも注視領域よりも大局的な特徴量を制服毎に登録しておく。注視領域以外の特徴量としては、制服全体の及び/又は頭部、頸部、腕部、胴部、脚部といった部位毎の形状、模様、色(色分布、色配置)等の画像特徴量が挙げられる。
表示部18は、ディスプレイ、プリンタ等の表示装置を備え、画像処理部14において処理された情報を出力する。表示部18は、画像処理部14において不審者が存在する可能性を示す検出結果が得られた場合、当該不審者が存在する可能性を監視員等に呈示する。例えば、撮影画像と共に、そこに含まれる不審者の可能性がある人物の画像領域にマークを付して表示する。
以下、画像処理部14における人物画像抽出手段22、着衣類似者計数手段24、制服未着用者検出手段26、警告手段28及び制服情報記憶手段30について説明する。画像処理部14は、通信部12における画像取得手段20によって撮影部10からの撮影画像の入力を受けて、以下の処理を実行する。
人物画像抽出手段22は、撮影画像から人物を撮影した領域である人物画像を抽出する。人物画像抽出手段22は、画像取得手段20により取得した撮影画像と監視領域に人物が居ない状態で撮影された背景画像との差分である変化領域を抽出し、変化領域の大きさや縦横比等が人間らしい特徴を有しているかに基づいて人物が写っている領域の画像を人物画像として抽出する。人物画像抽出手段22における人物画像の抽出処理は、これに限定されるものではなく、画像取得手段20により取得した撮影画像のフレーム間の差分に基づいて人物画像を抽出するフレーム差分法や人物の画像の特徴量を学習した識別器を利用する方法等の種々の方法を選択することができる。
着衣類似者計数手段24は、人物画像抽出手段22において抽出された人物画像に基づいて着衣の画像特徴量の類似度を求め、当該類似度に基づいて類似する着衣の人物を計数する。着衣類似者計数手段24は、人物画像抽出手段22において抽出された人物画像毎に人物を注目人物として順次設定し、注目人物以外の人物を比較対象人物に設定する。そして、注目人物の人物画像と比較対象人物の人物画像とを比較して、その着衣の類似度を着衣間類似度として算出し、注目人物の人物画像と着衣が類似する人物画像を有する比較対象人物の数を計数する。例えば、注目人物に対して比較対象人物を順次変更しながら人物画像同士の着衣類似度が所定の第一閾値thSを超えているときに着衣類似者数を1増加させていって注目人物毎に着衣類似者数を計数する。
着衣間類似度を算出する際、着衣類似者計数手段24は、人物画像から頭部、胴部、腕部、脚部等の部位画像を抽出し、各部位の部位画像から着衣画像を抽出して、部位毎に注目人物の着衣画像と比較対象人物の着衣画像の画像特徴量を比較して類似度を求め、部位毎の類似度を組み合わせて着衣間類似度を算出してもよい。着衣画像の画像特徴量には、形状、模様(テクスチャ)、模様の形状、色(色分布、色配置を含む)等うちの1又は複数の画像特徴量を用いればよい。
人物画像から部位画像を抽出する処理は、例えば、人物の各部位に特有の画像特徴量を予め学習させた識別器を用いればよい。
また、胴部・腕部及び脚部の着衣画像は、例えば、当該各部位の部位画像から肌色領域を除去することで抽出できる。また、頭部の着衣画像は、例えば、頭部の部位画像に対して、帽子に特有の画像特徴量を予め学習させた帽子識別器を用いて抽出できる。
また、部位毎の類似度を組み合わせとしては、例えば、部位毎に算出された類似度の和を全体の類似度としたり、類似度の平均値を全体の類似度としたりすればよい。また、例えば、胴部には着衣の類似性が高く反映されていると考えられる場合には胴部同士の類似度の重み付けを他の部位の類似度の重み付けよりも大きくすればよい。同様に、他の部位間においても類似度の重み付けを変えるようにしてもよい。
なお、本実施の形態では、着衣の類似性が高いほど低い値となる人物画像間の着衣間相違度を用いて処理を行ってもよい。この場合、着衣間相違度と第一閾値thSとの比較では大小関係を反対にして考えればよい。
制服未着用者検出手段26は、撮影画像に写されている人物の着衣が制服DBに登録されている正規の制服の画像特徴量を有する度合いを算出し、当該度合いに基づいて制服を着ていない人物を制服未着用者として検出する。具体的には、制服未着用者検出手段26は、人物画像抽出手段22において抽出された人物画像の画像特徴量と制服情報記憶手段30に制服DBとして登録されている正規の制服の各々の画像特徴量(制服特徴量)とを比較して、当該人物画像の画像特徴量と制服DBに登録されている制服特徴量との類似度を算出する。このとき、制服DBに登録されている制服毎に類似度を算出し、人物毎に最も高い類似度を示した制服の類似度をその人物に対する類似度とする。そして、人物毎に類似度が所定の第二閾値thS’未満である場合には当該人物画像の人物を制服未着用者として検出し、そうでない場合には制服着用者として検出する。
人物画像と制服DBとの類似度を算出する際、制服を構成する所定の装飾の画像特徴量、当該装飾と制服を着用したときの人体における所定の部位との相対位置を含めた制服の画像特徴量を記憶し、人物画像から人体の部位を検出して当該部位を基準とする人物画像内の相対位置に装飾の画像特徴量が現れている度合いを算出することが好適である。具体的には、人物画像から制服DBに登録されている制服毎の注視領域を抽出し、当該注視領域が制服DBに予め登録されている注視領域の形状、模様、色(色分布、色配置を含む)等の画像特徴量を有している度合いを算出すればよい。例えば、制服DBに警備員の制服が登録されており、その注視領域が胸ポケットのエンブレムである場合、処理対象の人物画像から胸ポケットの部分を抽出して登録されている胸ポケットの画像特徴量との比較を行うことで類似度を算出する。また、例えば、制服DBにキャビンアテンダントの制服が登録されており、その注視領域がスカーフである場合、処理対象の人物画像からスカーフの部分を抽出して登録されているスカーフの画像特徴量との比較を行うことで類似度を算出する。1つの制服に対して複数の注視領域が設定されている場合、制服毎に注視領域毎に対して算出された類似度を組み合わせて全体の類似度とすればよい。例えば、制服毎に注視領域毎に対して算出された類似度の和を全体の類似度としたり、類似度の平均値を全体の類似度としたりすればよい。また、例えば、注視領域毎に類似度を重み付けしてもよい。また、制服毎に注視領域と注視領域以外の領域の類似度の両方を考慮して全体の類似度を算出してもよい。この場合、注視領域の類似度をそれ以外の領域の類似度よりも高い重み付けとして全体の類似度を算出することが好適である。
なお、本実施の形態では、人物画像と制服DBとの類似性が高いほど低い値となる相違度を用いて処理を行ってもよい。この場合、相違度と第二閾値thS’との比較では大小関係を反対にして考えればよい。
警告手段28は、着衣類似者計数手段24で求められた着衣類似者数と制服未着用者検出手段26で検出された制服未着用者か否かの情報に基づいて警告を発する。警告手段28は、人物毎に着衣類似者数が下限数thMinNを超えており且つ当該人物が制服未着用者であれば、当該人物を不審者の可能性があると判定する。すなわち、人物毎に、当該人物と類似する着衣である者が下限数thMinNを超える人数のグループとして監視領域内に存在し、当該人物の着衣が正規の制服でない場合に当該グループの人物を不審者として判定する。
また、警告手段28は、人物毎に着衣類似者数が下限数thMinNを超えており且つ上限数thMaxN未満であり、さらに当該人物が制服未着用者であれば、当該人物を不審者の可能性があると判定してもよい。すなわち、類似する着衣の者が上限数thMaxN以上である場合、修学旅行生等の団体である可能性が高く、目立つのでこのような団体に含まれる人物を不審者の可能性がある者として判定する必要がないからである。
なお、下限数thMinN及び上限数thMaxNは、予め設定して、警告手段28のプログラムとともに記憶部16に記憶させておき、警告手段28は設定値を読み出して判定に用いる。また、下限数thMinN及び上限数thMaxNは、制服ごと或いは制服の種類ごとに予め設定してもよい。
ここで、警告手段28は、下限数thMinN及び上限数thMaxNの少なくとも1つを、人物画像抽出手段22によって抽出された人物の数に応じて設定してもよい。例えば、撮影された撮影画像に含まれる人物の数が多いほど下限数thMinN及び上限数thMaxNの少なくとも1つを大きくすることが好適である。すなわち、監視領域に配置される警備員やスタッフの数が、当該監視領域の集客数に応じた数とされることに対応して、記憶部16に記憶している下限数や上限数を更新する。これにより、監視領域に存在する人の数に応じて不審者であると判定するグループの人数の範囲を定めることができる。
また、警告手段28は、下限数thMinN及び上限数thMaxNの少なくとも1つを、人物画像抽出手段22によって抽出された人物の密度(監視領域の面積に対する人物数)に応じて設定してもよい。なお、監視領域の面積は事前に計測して予め記憶部16に記憶させておく。例えば、撮影された撮影画像に含まれる人物の密度が高いほど下限数thMinN及び上限数thMaxNの少なくとも1つを大きくすることが好適である。すなわち、監視領域に配置される警備員やスタッフの数が、当該監視領域の混雑度合いに応じた数とされることに対応して、記憶部16に記憶している下限数や上限数を更新する。これにより、監視領域に存在する人の密度に応じて不審者であると判定するグループの人数の範囲を定めることができる。
また、警告手段28は、下限数thMinN及び上限数thMaxNの少なくとも1つを監視領域に応じて設定してもよい。例えば、予め監視領域ごとの名称を表す複数の名称データのそれぞれと対応付けて、或いは監視領域のカテゴリを表す複数のカテゴリ名データのそれぞれと対応付けて下限数thMinN及び上限数thMaxNを記憶部16に記憶させておく。また、表示部18と不図示のキーボード、マウス等から構成されて、名称データ或いはカテゴリ名データの一覧を表示するとともに一覧の中からの名称データ或いはカテゴリ名データの選択操作を受け付ける設定選択手段を設けておく。そして、監視領域が変更された場合に画像監視装置1の管理者が選択操作を行う。設定選択手段は選択された名称データ或いはカテゴリ名データに対応する下限数及び/または上限数を選択値として記憶部16に記憶させ、警告手段28は選択値を読み出して判定に用いる。これにより、監視領域の変更に応じて不審者であると判定するグループの人数の範囲を定めることができる。
警告手段28は、人物が不審者である可能性があると判定したときに警告を出力する。警告手段28は、例えば、撮影画像において不審者の可能性がある人物の画像領域にマークを付して表示させる。
以下、図3のフローチャートを参照して、画像監視装置100における不審者の可能性がある人物の検出処理について説明する。
撮影部10において撮影された撮影画像が画像処理部14に入力される(ステップS10)。画像処理部14では、人物画像抽出手段22において撮影画像から人物が抽出される(ステップS12)。撮影画像から抽出された人物が1名以下であった場合(ステップS14のno)には処理を終了する。撮影画像から抽出された人物が1名を超える場合(ステップS14のyes)には、抽出された人物を順次注目人物に設定する(ステップS16)と共に注目人物以外の人物を順次比較対象人物に設定して(ステップS18)、ステップS20〜S38の処理を実行する。なお、ステップS16において、注目人物に対する着衣類似者数は0にリセットされる。
画像処理部14では、着衣類似者計数手段24において注目人物の人物画像と比較対象人物の人物画像とから着衣間類似度を計算する(ステップS20)。着衣間類似度が第一閾値thSを超えていれば(ステップS22のyes)、注目人物に対する着衣類似者数を1増加させる(ステップS24)。着衣間類似度が第一閾値thS以下であれば(ステップS22のno)、注目人物に対する着衣類似者数を増加させない。そして、注目人物以外のすべての人物を比較対象人物として処理済みでなければ(ステップS26のno)、次の比較対象人物についての処理を繰り返す(ステップS18に戻る)。注目人物以外のすべての人物を比較対象人物として処理済みであれば(ステップS26のyes)、注目人物に対する着衣類似者数が下限数thMinNを超えており且つ上限数thMaxN未満であるか判定する(ステップS28)。着衣類似者数が下限数thMinN以下である、又は、上限数thMaxN以上であれば(ステップS28のno)、注目人物は不審者である可能性はないものとして、次の人物を注目人物として処理を繰り返す(ステップS16)。
注目人物に対する着衣類似者数が下限数thMinNを超えており且つ上限数thMaxN未満であれば(ステップS28のyes)、画像処理部14の制服未着用者検出手段26において注目人物の着衣と制服DBに登録されている正規の制服との類似度が算出される(ステップS30)。そして、最も高い類似度が所定の第二閾値thS’未満である場合には(ステップS32のyes)、注目人物を制服未着用者として検出し(ステップS36)、そうでない場合には制服着用者として検出する(ステップS34)。
撮影画像から抽出されたすべての人物についてステップS16からの処理を繰り返して行う(ステップS38)。なお、当該ステップにおいて、既に類似度を算出した注目人物と比較対象人物の組み合わせについては重複した類似度算出処理を避けることで、処理負担を軽減させることができる。
また、図4のフローチャートに示すように、着衣類似者計数手段24での処理と制服未着用者検出手段26での処理を入れ替えてもよい。
撮影部10において撮影された撮影画像が画像処理部14に入力される(ステップS10)。画像処理部14では、人物画像抽出手段22において撮影画像から人物が抽出される(ステップS12)。撮影画像から抽出された人物が1名以下であった場合(ステップS14のno)には処理を終了する。撮影画像から抽出された人物が1名を超える場合(ステップS14のyes)には、抽出された人物を順次注目人物に設定する(ステップS16)と共に注目人物に対する着衣類似者数を0にリセットする。
次に、画像処理部14の制服未着用者検出手段26において注目人物の着衣と制服DBに登録されている正規の制服との類似度が算出される(ステップS30)。そして、最も高い類似度が所定の第二閾値thS’以上である場合には(ステップS32のno)、注目人物を制服着用者として検出する(ステップS34)。第二閾値thS’未満である場合には(ステップS32のyes)、注目人物以外の人物を順次比較対象人物に設定して、画像処理部14の着衣類似者計数手段24において注目人物の人物画像と比較対象人物の人物画像とから着衣間類似度を計算する(ステップS20)。着衣間類似度が第一閾値thSを超えていれば(ステップS22のyes)、注目人物に対する着衣類似者数を1増加させる(ステップS24)。着衣間類似度が第一閾値thS以下であれば(ステップS22のno)、注目人物に対する着衣類似者数を増加させない。そして、注目人物以外のすべての人物を比較対象人物として処理済みでなければ(ステップS26のno)、次の比較対象人物についての処理を繰り返す(ステップS18に戻る)。注目人物以外のすべての人物を比較対象人物として処理済みであれば(ステップS26のyes)、注目人物に対する着衣類似者数が下限数thMinNを超えており且つ上限数thMaxN未満であるか判定する(ステップS28)。着衣類似者数が下限数thMinN以下である、又は、上限数thMaxN以上であれば(ステップS28のno)、注目人物は不審者である可能性はないものとして、次の人物を注目人物として(ステップS38)、処理を繰り返す(ステップS16)。注目人物に対する着衣類似者数が下限数thMinNを超えており且つ上限数thMaxN未満であれば(ステップS28のyes)、注目人物を制服未着用者として検出する(ステップS36)。そして、撮影画像から抽出されたすべての人物についてステップS16からの処理を繰り返して行う(ステップS38)。
なお、本実施の形態では、注目人物毎に着衣類似者数を計数したが、着衣の画像特徴量でクラスタリングするようにしてもよい。例えば、着衣類似者計数手段24は、人物画像抽出手段22が抽出した全人物の着衣の画像特徴量を算出して着衣の画像特徴量で人物のクラスタリングを行い、クラスタ(人物のグループに相当)ごとの要素数を着衣類似者数とする。このときのクラスタリングは、例えば、互いに類似する要素(人物に相当)同士、互いに類似するクラスタと要素、互いに類似するクラスタ同士を順次統合すること、すなわち、要素同士の着衣の画像特徴量の類似度、クラスタにおける着衣の画像特徴量の代表値と要素の着衣の画像特徴量の類似度、クラスタ同士での着衣の画像特徴量の代表値の類似度がそれぞれ第一閾値thSを超えるものを順次統合することにより行うことができる。この場合、例えば、着衣類似者計数手段24が全人物を対象にした計数を終えた後に、制服未着用者検出手段26がクラスタ毎に当該クラスタの要素である人物の中から制服未着用者を検出する。そして、警告手段28が、制服未着用者を含んだクラスタ毎に着衣類似者数が下限数thMinNを超え、上限数thMaxN未満であるか否かを判定する。
また、警告手段28は、制服未着用者検出手段26において制服未着用者の判定に使用された制服に対する類似度に応じて下限数thMinNを設定(記憶部16に記憶している下限数を更新)してもよい。例えば、警告手段28は、人物画像抽出手段22によって抽出された全人物の着衣の、制服未着用者検出手段26で算出された制服に対する類似度のうち最も高い値の類似度(最高類似度sMax)に応じて下限数thMinNを設定してもよい。なお、この場合、例えば、制服未着用者検出手段26が全人物を対象に制服未着用者の検出を行った後に、又は制服未着用者の検出と並行して、着衣類似者計数手段24が着衣類似者の計数を行う。そして、警告手段28が、下限数thMinNの設定を行って、制服未着用者を含んだグループ毎に着衣類似者数が下限数thMinNを超え、上限数thMaxN未満であるか否かを判定する。
具体的には、最高類似度sMaxに対して適用する閾値(thS’−Δ)を予め定めておく。ただしΔ>0である。警告手段28は、制服未着用者検出手段26が算出した類似度を集計して最高類似度sMaxを算出し、(thS’−Δ)<sMax<thS’である場合、監視領域には正規の制服に似ているが正規ではない服を着ている不審者が存在している可能性があり正規の制服の着用者と不審者を混同し易い状態であるとしてthMinNを1に設定する。他方、警告手段28はsMax<(thS’−Δ)<thS’である場合、監視領域には正規の制服に似ている着衣の人物は居ないがイベントスタッフなどを偽装して架空のスタッフジャンパーを着た不審者集団などが存在している可能性があるとしてthMinNを5に設定する。
なお、警告手段28は、制服DBに登録されている制服ごとに最高類似度sMaxを算出してもよいし、制服DBに登録されている全ての制服に対して最高類似度sMaxを算出してもよい。
また、制服に対する類似度に代えて、制服に対する相違度を用いる場合、Δは減算値ではなく加算値となり、閾値と最高類似度sMaxの大小関係は反対となる。
これによって、偽装の可能性の程度に応じて不審者らしいと判断するべきグループの人数の範囲を適切に設定することができるため、誤報を減じつつ高精度に不審者を判定することが可能となる。
また、最高類似度sMaxに応じて下限数thMinNを設定する場合に、制服未着用者検出手段26が注視領域を重視した類似度と注視領域を軽視した2通りの類似度を算出して注視領域を重視した類似度を用いて制服未着用者を検出し、警告手段28が注視領域を軽視した類似度を集計して最高類似度sMaxを算出してもよい。注視領域を重視した類似度は、例えば、注視領域以外の類似度よりも注視領域の類似度に大きな重み係数で重み付けてこれらの類似度を加算した類似度であり、または、注視領域以外を用いずに注視領域についてのみ算出した類似度である。注視領域を軽視した類似度は、例えば、注視領域の類似度と注視領域以外の類似度に等しい重み係数で重み付けてこれらの類似度を加算した類似度であり、または、注視領域を用いずに注視領域以外についてのみ算出した類似度である。
これによって、大局的には似て見える制服偽装者を、より確実に不審者と判定することが可能となる。
以上のように、本実施の形態における画像監視装置100によれば、不特定多数の人物が集まるエリアであっても、出入り業者やイベントスタッフ等の服装を偽装した不審者を効率的に監視することが可能になる。