JP4663756B2 - 異常行動検知装置 - Google Patents

異常行動検知装置 Download PDF

Info

Publication number
JP4663756B2
JP4663756B2 JP2008116573A JP2008116573A JP4663756B2 JP 4663756 B2 JP4663756 B2 JP 4663756B2 JP 2008116573 A JP2008116573 A JP 2008116573A JP 2008116573 A JP2008116573 A JP 2008116573A JP 4663756 B2 JP4663756 B2 JP 4663756B2
Authority
JP
Japan
Prior art keywords
unit
learning data
abnormal behavior
abnormal
people
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008116573A
Other languages
English (en)
Other versions
JP2009266052A (ja
Inventor
雅則 三好
博 正嶋
誠人 数井
朗 大貫
伸一朗 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Building Systems Co Ltd
Original Assignee
Hitachi Ltd
Hitachi Building Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd, Hitachi Building Systems Co Ltd filed Critical Hitachi Ltd
Priority to JP2008116573A priority Critical patent/JP4663756B2/ja
Priority to CN2008102110829A priority patent/CN101571914B/zh
Publication of JP2009266052A publication Critical patent/JP2009266052A/ja
Priority to HK10101916.7A priority patent/HK1135785A1/xx
Application granted granted Critical
Publication of JP4663756B2 publication Critical patent/JP4663756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、カメラで撮影した映像を用いて人間などの異常行動を検知する異常行動検知装置に関する。
犯罪発生率の増加など社会不安に対処するために、不審者を監視することを目的としたカメラの設置台数が増加している。多数のカメラを用いた監視では、限られた監視員で監視領域全体を効率的に監視するための監視支援技術が必要になる。
このような監視支援技術として、特開2006−79272号公報(特許文献1)に示されている「異常動作検出装置および異常動作検出方法」がある。ここでは、立体高次局所自己相関特徴という動画の特徴量の抽出手法が開示されている。さらに、映像中の人間の正常行動を学習し、学習した正常行動から逸脱した行動を異常行動として検出する技術が開示されている。
また、特開2007−131382号公報(特許文献2)に示されている「エレベータのかご内監視装置、及び監視プログラム」には、転倒判定,暴行判定等の異常行動を検出する複数の判定手段を事前に準備しておき、エレベータのかご内の乗客数に応じて、検出に用いる判定手段を切り替える技術が開示されている。
特開2006−79272号公報 特開2007−131382号公報
特開2006−79272号公報で開示されている従来技術は、事前に正常行動を学習しておき、その学習データに基づき正常行動から逸脱した行動を異常と見なすものである。この技術には、学習によって正常と異常の境界を柔軟に設定できるという利点がある。しかしながら、この手法の場合、単一の学習データで学習することが前提であるため、様々な条件によって正常行動と異常行動の境界が変動する場合に対応できない。例えば、他人に危害を与えるリスクという観点で考えた場合には、人数によって、正常行動と異常行動の境界が変わることがある。人間が1人しか存在しない場合には、暴れる動作をとっても、他人に危害を与える恐れがない。したがって、正常と考えてもよい。しかしながら、人間が複数人存在する場合には、このような動作は他人に危害を与える恐れが高い。したがって、異常と考えた方が良い。このような問題には、単一の学習データによる学習では対応できない。
また、特開2007−131382号公報で開示されている従来技術では、人数に応じて検出対象を切り替えることが可能である。しかしながら、この技術には、転倒,暴行等、検出対象の異常行動毎に検出手段を開発する必要がある。検出手段の開発は、通常、それぞれの異常行動を発見的にモデル化する必要があり、手間がかかり、難易度も高い。
本発明の目的は、正常と異常の境界が動的に変動する場合にも、正しく異常行動を検出することが可能な異常行動検知装置を提供することである。
上記目的を達成するために、本発明の異常行動検知装置は、監視対象の映像を取得する映像取得部と、映像取得部が取得した映像を基にして人数を検出する人数検出部と、人数検出部が検出した人数情報を基に、人数に応じた適切な正常行動の学習データを選択する学習データ選択部と、学習データ選択部が選択した正常行動の学習データを用いて映像取得部が取得した映像中の非正常行動を異常行動として検出する非正常行動検出部と、非正常行動検出部の検出結果を基に、異常行動が発生している場合には、その旨を外部装置に通知する発報部を備える。
本発明によれば、映像中の人数に応じて適切な正常行動の学習データを選択して、その学習データに基づいて異常行動を判定するので、人数によって行動パターンが大きく異なるような場合でも、異常行動を利用者の意図どおりに精度良く検出できる。
以下では本発明の実施の形態について、図を用いて詳細に説明する。
図1は、本発明における異常行動検知装置全体の機能構成を示すブロック図である。本装置は、映像取得部100,人数検出部102,学習データ選択部104,非正常行動検出部110,発報部112で構成される。以下、順に説明する。
映像取得部100は、ビデオカメラ等の映像撮影機器、またはビデオレコーダ等の映像再生機器であり、本装置の入力となる映像を取得する。映像撮影機器は、現在撮影しているリアルタイム映像を入力とする場合に利用する。映像再生機器は、過去に蓄積した映像を入力とする場合に利用する。
人数検出部102は、映像取得部100で撮影した映像中の人数を検出する。検出した人数をそのまま人数検出部102の出力としても良いし、その粒度の情報が不要な場合は、単数・複数の二値を出力としても良い。
学習データ選択部104は、人数検出部102が検出した人数に応じて適切な学習データを選択する。この例では、単数人学習データ106と複数人学習データ108を事前に準備してある。単数人学習データ106は、人間が単数の場合の正常行動を事前に学習した結果である。一方、複数人学習データ108は、人間が複数の場合の正常行動を事前に学習した結果である。そして、人数検出部102の出力が単数の場合は単数人学習データ106を、複数の場合は複数人学習データ108を選択する。なお、単数人学習データ106および複数人学習データ108は、半導体メモリ等の記憶装置に格納されている。
非正常行動検出部110は、学習データ選択部104が選択した学習データを基にして、映像取得部100の映像が正常行動の範囲内(正常行動)であるのか、それとも正常行動の範囲外(非正常行動)であるのかを判定する。本実施形態では、正常行動の範囲外、すなわち非正常行動の場合には異常行動が発生していると見なす。
発報部112は、非正常行動検出部110の判定結果を基にして、異常行動が発生している場合には、その旨を外部装置に通知する。通知を受け取った外部装置は、警報を音声・監視画面に出力することができる。また、エレベータなどの設備を安全のために停止することもできる。さらには、監視センタや携帯端末など遠隔地に通知して、対応を促すこともできる。
なお、人数検出部102,学習データ選択部104,非正常行動検出部110,発報部112は、マイクロコンピュータ等の各種演算処理装置によって実現される。
次に、図2のフローチャートを使って、本実施形態の異常行動検知装置全体の処理の流れを説明する。
ステップ200では、ステップ202からステップ212までの処理を、あらかじめ定めた所定の頻度で、利用者から終了指示があるまで繰り返す。所定の頻度とは、例えばビデオ映像のフレームレートと同じ、1秒あたり30回等である。
ステップ202では、映像取得部100を用いて、処理対象の映像をデジタルデータとして装置内に取り込む。
ステップ204では、人数検出部102を用いて、ステップ202で取得した映像中に存在する人の数を検出する。
ステップ206では、学習データ選択部104を用いて、ステップ204の検出人数に応じて適切な学習データを選択する。
ステップ208では、非正常行動検出部110を用いて、ステップ202で取得した映像中の異常行動を検出する。
ステップ210では、ステップ208の検出結果を評価し、異常行動が発生していると判定した場合に、ステップ212を実行する。
ステップ212では、発報部112を用いて、異常行動が発生していることを外部装置に通知する。
次に、図3のブロック図を用いて、図1の人数検出部102の内部構成の一例を詳細に説明する。前述のように、人数検出部102は、映像取得部100で撮影した映像中の人数を検出する。ここでは、特開2007−131382号公報に開示されている人物領域の縦横比を利用した人数検出手法の例を示す。判定結果は、単数または複数とする。
人数検出部102は、人物領域抽出部300,領域特徴量算出部302,人数判定部306で構成される。以下、順に説明する。
人物領域抽出部300は、映像取得部100で取得した画像と背景画像304の差分情報を用いて、人が存在する領域を抽出する。背景映像304は、静的な背景だけで構成される無人の画像である。カメラが固定されている場合には、事前に取得した無人時の画像を背景映像304として指定すればよい。また、映像取得部100で取得した画像に長時間変化がない場合に人がいないと判定して、自動的に更新してもよい。
領域特徴量算出部302は、人物領域抽出部300が抽出した人物領域の画像の特徴量を算出する。ここでは、特徴量として、人物領域の縦横比を利用する。縦横比は、人物領域の外接矩形の高さを、外接矩形の横幅で割ったものである。ここで、人物領域の縦横比は、人数が単数の場合よりも複数の場合のほうが小さくなると期待できる。これは、複数の場合には映像中では横並びになることが多く、人物領域が横方向に広がる頻度が高くなるためである。
人数判定部306は、領域特徴量算出部302で算出した人物領域の縦横比を基にして、人数を判定する。ここでは、人物領域の縦横比が、あらかじめ設定した人数判定閾値308よりも大きい場合は複数と判定し、それ以下の場合には単数と判定する。
次に、図4のフローチャートを使って、図2のステップ204における人数の検出処理の流れを説明する。
ステップ400では、図3の人物領域抽出部300を用いて、映像取得部100で取得した映像の中で人が存在する領域を抽出する。
ステップ402では、図3の領域特徴量算出部302を用いて、ステップ400で抽出した人物領域の特徴量を算出する。
最後に、ステップ404では、図3の人数判定部306を用いて、ステップ402で算出した特徴量を基にして、人数を判定する。
次に、図5のテーブルを使って、図2のステップ206における学習データの選択処理の手順を説明する。前述のように、ステップ206では、ステップ204で検出した検出人数に応じて、適切な学習データを選択する。図5に示したのは、学習データ選択の基準となる学習データ選択テーブルであり、学習データ選択部104が備えるものである。このテーブルは、人数と選択する学習データの対応関係を保持している。例えば、セル500とセル502は、検出人数が0または1人の場合には、単数人学習データ106を選択することを意味する。同じく、セル504とセル506は、検出人数が2人以上の場合には、複数人学習データ108を選択することを意味する。
次に、図6のブロック図を用いて、図1の非正常行動検出部110の内部構成の一例を詳細に説明する。前述のように非正常行動検出部110は、学習データ選択部104が選択した学習データを基にして、映像取得部100の映像が正常行動の範囲内(正常行動)であるのか、それとも正常行動の範囲外(非正常行動)であるのかを判定し、非正常行動を異常行動として検出する。ここで学習データとは正常行動を事前に学習した結果であり、線形の変換行列、分布の中心と分散共分散行列で示される。これらの詳細は後述する。
非正常行動検出部110は、動き抽出部600,特徴量算出部602,特徴量変換部604,非正常度算出部606,非正常判定部608で構成される。以下、順に説明する。
動き抽出部600は、映像取得部100で取得した映像の中から動きのある部分を抽出する。これは、背景など異常行動の判定に関係のない静止部分を取り除くために行う。動きの抽出には、公知の画像処理方法を用いることができる。例えば、単純に2つのフレーム間の差分を取る方法や、エッジ抽出処理を施した後でフレーム間の差分をとる方法などが利用できる。動きの抽出後、照明変動等のノイズの影響を取り除くために、画素値が0か1の値を取るように二値化処理を加える。
特徴量算出部602は、動き抽出部600が生成した映像の特徴量を算出する。特徴量としては、例えば、公知の立体高次局所自己相関特徴を利用できる。これは、連続する3フレームの映像からなるボクセルデータの幾何学的な特徴を251次元の特徴ベクトルとして算出する方法である。この特徴量の算出方法については後述する。
特徴量変換部604は、特徴量算出部602で算出した特徴量ベクトルを、学習データ選択部104が選択した学習データの変換行列を用いて座標変換する。この変換は、特徴量ベクトルに含まれる非正常行動の成分を抽出するためのものである。ここで、特徴量算出部602で算出した特徴量ベクトルをx、学習データ選択部104が選択した学習データの変換行列をA、変換後の特徴量ベクトルをx′とおくと、この変換は次式で表すことができる。
x′=Ax (数1)
学習データ選択部104が選択した学習データの変換行列は主成分分析などの多変量解析によって求まる行列であり、算出方法は後述する。映像の特徴量として251次元の高次局所自己相関特徴を用いる場合には、変換行列はn×251(n=1,2,…,251)の大きさの行列となる。そして、この行列で線形変換された特徴量はn次元のベクトルとなる。
非正常度算出部606は、特徴量変換部604で算出した新しい特徴量ベクトルを用いて、学習した正常行動との乖離の度合いを表す非正常度を算出する。ここで非正常度はスカラー量であり、値が小さいほど正常、大きいほど非正常、すなわち異常であることを表す。非正常度の具体的な算出方法については後述する。
非正常判定部608は、非正常度算出部606で算出した非正常度から、異常行動が発生しているのかどうかを判定し、その結果を発報部112に出力する。判定基準として非正常判定閾値610を用いる。非正常度が非正常判定閾値610よりも小さい場合は、正常行動の範囲内であり異常行動が発生していないと判定する。逆に、非正常度が非正常判定閾値310よりも大きい場合は、正常行動の範囲外であり異常行動が発生していると判定する。
次に、図7のフローチャートを使って、図2のステップ208における非正常行動の検出処理の詳細を説明する。
ステップ700では、図6の動き抽出部600を用いて、映像取得部100で取得した映像の中から動きがある部分を抽出する。
ステップ702では、図6の特徴量算出部602を用いて、ステップ700で生成した映像の特徴量を算出する。
ステップ704では、図6の特徴量変換部604を用いて、ステップ702で算出した特徴量ベクトルを、学習データ選択部104が選択した学習データの変換行列で座標変換して新しい特徴量ベクトルを生成する。
ステップ706では、図6の非正常度算出部606を用いて、ステップ704で算出した新しい特徴量ベクトルと正常行動との乖離度合いを表す非正常度を算出する。
ステップ708では、図6の非正常判定部608を用いて、ステップ706で算出した非正常度から、異常行動が発生しているのかどうかを判定し、その結果を発報部112に出力する。
次に、図8から図10を使って図7のステップ702における動画の特徴量算出処理の詳細を説明する。
図8は、前述した立体高次局所自己相関特徴の入力データを説明する図である。特徴量算出の対象となるのは動画、すなわち時系列の連続するフレーム(画像)である。立体高次局所自己相関特徴を算出するためには少なくとも3フレームが必要となる。例えば、フレーム番号nのフレーム800が与えられた場合に、その前後に位置するフレーム802とフレーム804(それぞれフレーム番号n−1とn−2に対応)の3フレームが特徴量算出の対象となる。
いま、フレームの解像度を縦hピクセル、横wピクセルとすると、3フレームを合わせることで、h×w×3のボクセル(立方体)を構成できる。立体高次局所自己相関特徴は、このボクセル全要素に対して、3×3×3のマスクパターン806を順次移動させながら適用することで特徴を抽出する。
なお、ここでは連続する3フレームを処理対象としていたが、任意のfフレームを処理対象としてもよい。この場合はh×w×fのボクセルが処理対象となり、fフレーム分の動画の平均的な特徴量が算出されることになる。
図9は、立体高次局所自己相関特徴の算出に用いるマスクパターンの例を示す図である。マスクパターンは、ボクセルの局所的な相関特徴を算出するために用いるものであり、3×3×3のボクセルで構成される。
パターン1は、入力映像に対するボクセルデータ内を順次走査した場合に、中心のボクセル900に位置する画素が1となる場合の数を数え上げるパターンである。同じく、パターン2は、中心のボクセル902に加えて、ボクセル904も1となる場合の数を数え上げるパターンである。
二値画像に対する立体高次局所自己相関特徴には、251個のマスクパターンが存在し、それぞれのパターンを満たす場合の数を数え上げることで、入力映像の特徴を、251次元の特徴量ベクトルとして抽出することになる。
次に、図10のフローチャートを使って、図7のステップ702における動画の特徴量算出処理の詳細を説明する。
ステップ1000では、特徴量ベクトルをゼロベクトルに初期化する。
ステップ1002では、処理対象となる映像の全ボクセルに対してステップ1004からステップ1008の処理を繰り返す。つまり、図8に示したように処理対象の全てのボクセルに対してマスクパターン806を使って順次走査する。
ステップ1004では、図9に示した251種類の全てのマスクパターンについてステップ1006からステップ1008の処理を繰り返す。
ステップ1006では、処理対象のマスクパターンに対応する画素が全て1であるかどうか判定する。判定結果が真の場合にはステップ1008を実行する。
ステップ1008では、処理対象のマスクパターンに対応する特徴量ベクトルの成分を1だけ加算する。
この一連の処理によって、立体高次局所自己相関による251次元の特徴量ベクトルを算出することができる。
次に図11のフローチャートを使って、図1の単数人学習データ106、および複数人学習データ108の算出手順を説明する。
ステップ1100では、ステップ700からステップ702の処理を、学習用にあらかじめ記録しておいた一つ以上の正常シーンの映像について繰り返す。ここで、単数人学習データ106を算出する際には、単数人の正常シーンだけを用いる。複数人学習データ108を算出する際には、複数人の正常シーンだけを用いる。
ステップ700は、図7に示したステップと同じであり、動き抽出部600を用いて、学習中の映像の中から動きがある部分を抽出する。
ステップ702は、図7に示したステップと同じであり、特徴量算出部602を用いて、ステップ700で生成した映像の特徴量を算出する。
ステップ1102では、ステップ702で算出された正常シーンに対する特徴量の集合に対して主成分分析を実行する。主成分分析は、多変量解析手法の一つである。いくつかの変数から、互いに無相関となるように主成分と呼ばれる合成変数を作り出すことで、複数の変数が持つ情報を要約することが可能である。この主成分分析は、多変量データの解析によく利用されている公知の手法である。251次元の特徴量ベクトルの集合に対して主成分分析を実行することで、251の主成分と固有値が求まる。
ステップ1104では、ステップ1102での主成分分析の結果を基にして、正常行動への寄与率が低い部分空間を算出する。この部分空間に特徴量ベクトルを変換する行列を単数人学習データ106、または複数人学習データ108として記憶装置に格納する。
次に、図12を用いて、図11のステップ1104における部分空間の算出処理の詳細を説明する。この図は、ステップ1102に示した主成分分析で得られる主成分毎の累積寄与率を表すものである。累積寄与率とは、各主成分の寄与率を大きい順に足し込んだものであり、そこまでの主成分で分析対象のデータが本来持っていた情報量をどのくらい説明できているのかを表す指標である。例えば、第3主成分までの累積寄与率1200は90%であり、第1主成分から第3主成分までは、本来のデータの情報量の90%を表現していることを示す。一方、残りとなる第4主成分から第251主成分が保持する情報量は本来のデータの情報量の10%しか表現していないことになる。
このことから、第1主成分から第3主成分で構成される部分空間は、正常行動への寄与率が大きいと考えることができる。同時に、第4主成分から第251主成分で構成される部分空間は、正常行動への寄与率が小さいと考えることができる。
このように累積寄与率を判断基準にして、正常行動への寄与率が小さい部分空間を求めることができる。
次に、図13を用いて、図7のステップ706における非正常度の算出処理の方法を説明する。非正常度の算出は、図12に示した正常行動への寄与率が小さい部分空間で実行する。これは、この部分空間においては、正常行動の特徴量の分散は小さくなることが期待されるのに対して、正常以外の行動、つまり非正常行動の場合には分散が大きくなると考えることができるからである。
いま、この部分空間として、第n+1主成分以降で構成される空間を考える。本来は、この部分空間は251−n次元であるが、図13には便宜上、第n+1主成分と第n+2主成分の2軸を選んで表示している。特徴量の集合1300は、学習に用いた正常行動の特徴量をプロットしたものである。正常行動への寄与率が小さい部分空間では、集合の重心xn1304を中心としてその近傍に分布することが期待される。したがって、現在の評価中の映像に対する特徴量ベクトルx1302が、特徴量の集合1300に近い場合は正常、離れている場合には非正常と考えることができる。ここでは両者の距離1306を非正常度と考えることにする。なお、集合の重心xn1304については、図11に示した正常行動の学習の際に計算して、単数人学習データ106、または複数人学習データ108として記憶装置に格納しておけばよい。
特徴量ベクトルx1302と特徴量の集合1300の距離を算出コストが低いユークリッド距離で算出してもよいが、本実施形態では特徴量の集合1300の分散を考慮したマハラノビス距離を使うことにする。特徴量の集合1300の分散共分散行列の逆行列をS-1とおくとマハラノビス距離Dは次式で算出できる。なお、この分散共分散行列の逆行列S-1については、図11に示した正常行動の学習の際に計算して、単数人学習データ106、または複数人学習データ108として記憶装置に格納しておけばよい。
2=(x−xn)t-1(x−xn) (数2)
以上に述べた実施の形態によれば、映像中の人数に応じて適切な正常行動の学習データを選択して、その学習データに基づいて異常行動を判定できる。これによって、人数によって行動パターンが大きく異なるような場合でも、利用者の意図どおりに異常行動を精度良く検出できる。
以上に説明した実施形態では、図1に示したように、学習データを検出人数を基にして切り替える場合の例を示した。ここで、学習データだけでなく他のデータを人数に応じて切り替えても良い。例えば、図6の非正常判定部608が判定の際に利用する判定閾値610を切り替えても良い。
この場合の構成を図14を使って説明する。図14は、図6の装置構成に対して、閾値選択部1400を新たに追加し、さらに判定閾値610を単数人判定閾値1402と複数人判定閾値1404に置き換えた場合の構成を示している。
閾値選択部1400は、人数検出部102が検出した人数に応じて適切な判定閾値を選択する。この例では、単数人判定閾値1402と複数人判定閾値1404を事前に準備してある。単数人判定閾値1402は、人数が単数の場合の判定閾値である。一方、複数人判定閾値1404、人数が複数の場合の判定閾値である。例えば、単数人判定閾値1402の値を、複数人判定閾値1404の値よりも大きく設定することで、単数の場合の判定感度を低くすることができる。単数人判定閾値1402の値が大きいため、単数の場合に非正常判定の条件が成立しにくくなるためである。
その他の機能ブロックは、図6に示したものと同じである。
次に、図15のフローチャートを使って、図14の実施形態における非正常行動検出部110の処理の流れを説明する。これは、図7のフローチャートにステップ1500を追加したものである。
ステップ1500では、閾値選択部1400を用いて、図2のステップ204で算出した検出人数に応じて適切な判定閾値を選択する。そして、この判定閾値は次のステップ708で利用する。
その他の処理ステップは、図7に示したものと同じである。
図14の実施の形態によれば、映像中の人数に応じて適切な異常判定用の閾値を選択して、その閾値に基づいて異常行動を判定できる。これによって、人数に応じて検出感度を変更することが可能になる。
以上に説明した実施形態では、図1に示したように、人数検出部102が算出した検知人数を基にして学習データ選択部104が学習データを切り替える場合の例を示した。しかし、人数検出部が算出する検知人数に誤りを含む。
この場合、異常行動検知に影響を与える可能性がある。例えば、次に述べる考えに基づいて単数人学習データ106と複数人学習データ108を作成したとする。人が暴れるという行動を考えた場合、単数人の場合は他人に危害を与える恐れがない。したがって、このような行動は正常と考え、単数人学習データ106に学習させる。よって、単数人学習データ106を用いた判定では、異常として検知しないことになる。一方、複数人の場合は他人に危害を与える恐れがある。したがって、このような行動は異常と考え、複数人学習データ108に学習させない。よって、複数人学習データ108を用いた判定では、異常として検知することになる。この場合、実際は複数人であるのに人数検出部が単数と誤判定した場合には、本来は検出すべき人が暴れるという行動を検出できないことになる。
そこで、このような検出漏れを防ぐことを目的として、過去の検知人数の履歴情報から検知人数を決定するようにしてもよい。この場合の構成を図16を使って説明する。図16は、図1の装置構成に対して、人数保持部1602を新たに追加し、さらにエレベータ1600と接続した場合の構成を示している。
ここで、エレベータ1600は、映像取得部100が設置される監視対象である。エレベータ1600には人が出入りするドアが設置されており、ここでは、人がエレベータ1600に入った後でドアが閉まってから、エレベータが目的階に到着しドアが開くまでの期間を、異常行動の検出時限とする。なお、エレベータ1600のドア制御部1601を介して、ドアの開閉状態を知ることができる。
人数保持部1602は、人数検出部102の出力と、人数重要度テーブル1604の人数別の重要度と、前回保持した判定値を基にして、最終的な検知人数を決定し保持する。ドア制御部1601を介して、人数保持部1602に入力される信号は、エレベータ1600のドアの開閉信号である。ドアが閉まった瞬間は、異常行動の検出時限の始まりである。したがって、このタイミングで、人数保持部1602が保持している、前回保持した判定値をクリアする。
その他の機能ブロックは、図1に示したものと同じである。
次に、図17のフローチャートを使って、図16に示した実施形態における人数保持部1602の処理の流れを説明する。これらの処理は人数処理部1602上に実装される。
ステップ1700では、初回の起動時かどうかを判定し、真の場合は、ステップ1702〜ステップ1704の初期化処理を実行する。一方、偽の場合は、ステップ1706〜ステップ1720の人数保持処理を実行する。
ステップ1702では、保持人数をゼロクリアする。
ステップ1704では、エレベータ1600のドア状態を取得し、結果をlsに設定する。
ステップ1706では、人数検出部102の出力を取得し、結果をnに設定する。
ステップ1708では、エレベータ1600のドア状態を取得し、結果をsに設定する。
ステップ1710では、エレベータ1600のドアが閉まった瞬間かどうかを判定する。判定の条件は、前回のドアの状態が“開”であり、今回“閉”に変化した場合とした。真の場合は、ステップ1712を実行する。一方、偽の場合は、ステップ1714〜ステップ1716の処理を実行する。
ステップ1712では、異常行動の検出時限が始まると考え、保持人数をゼロクリアして、新しい検出時限に備える。
ステップ1714では、人数重要度テーブル1604を基にして、人数検出部102の出力nと保持人数に対する重要度をそれぞれ求める。そして、nに対する重要度の方が大きい場合に、ステップ1716を実行する。
ステップ1716では、保持人数に人数検出部102の出力nを代入する。
ステップ1718では、前回のドア状態lsに今回のドア状態sを代入する。
ステップ1720では、保持人数を最終的な判定人数として学習データ選択部104に出力する。
次に、図18のテーブルを使って、図16の人数重要度テーブル1604のデータ構造の一例を説明する。このテーブルは、検出人数とその人数の重要度の対応関係を保持している。ここで、重要度は実数であり、その値が大きいほど対応する検出人数が重要であることを意味する。例えば、セル1800とセル1802は、検出人数が0または1人の場合には、重要度が1であることを意味する。同じく、セル1804とセル1806は、検出人数が2人以上の場合には、重要度が2であることを意味する。人数保持部1602は、このテーブルを使って、検出人数の重要度を決定する。
以上に述べた実施の形態によれば、人数重要度テーブル1604で指定する優先度の高い人数を保持することが可能になる。これによって、人数検出の誤りが、異常行動検知の性能に与える影響を軽減することが可能になる。
以上に説明した実施例では、図1に示したように、人数検出部102は、映像取得部100で取得した映像を用いて人数を算出している。ここで、人数検出には映像だけでなく他のセンサ情報を用いても良い。その一例として、図19にエレベータの荷重センサの情報を元にして人数を算出する実施形態を示す。図19は、図1の装置構成に対して、エレベータ1600と接続し、その荷重センサ1900の出力を人数検出部102に接続した場合の構成を示している。
ここで、エレベータ1600は、図16に示したものと同じであり映像取得部100が設置される監視対象である。エレベータ1600には荷重センサ1900が取り付けられており、乗客の総重量を測定することができる。荷重センサ1900で測定した乗客の総重量は人数検出部102に入力される。
人数検出部102は、測定された乗客の総重量を基にして、人数を算出する。算出方法の一例としては、閾値による判定がある。事前にある閾値を設定しておき、乗客の総重量がその閾値よりも重い場合には複数人、閾値よりも軽い場合には単数人と判定する。
なお、この例では荷重センサ1900の情報だけを用いる例を示したが、この情報と映像取得部100の映像の両方を組合わせて人数を検出してもよい。
以上に述べた図19の実施の形態によれば、エレベータの乗客の総重量を基にして人数を判定できる。これによって、人数検出の精度を高めることが可能になる。
本発明の実施形態である異常行動検知装置全体の機能構成を表すブロック図である。 本発明の実施形態の装置全体の処理の流れを表すフローチャートである。 人数検出部の機能構成を表すブロック図である。 人数検出処理の流れを表すフローチャートである。 学習データ選択テーブルを表す図である。 非正常行動検出部の機能構成を表すブロック図である。 非正常行動検出処理の流れを表すフローチャートである。 立体高次局所自己相関の算出に用いるフレームを説明する図である。 立体高次局所自己相関のマスクパターンを説明する図である。 立体高次局所自己相関特徴の算出処理の流れを表すフローチャートである。 正常行動の学習処理の流れを表すフローチャートである。 部分空間の算出処理を説明する図である。 非正常度の算出方法を説明する図である。 閾値選択部を備える非正常行動検出部の機能構成を表すブロック図である。 閾値選択処理を伴う非正常行動検出処理の流れを表すフローチャートである。 人数保持部を備える装置の全体構成を表すブロック図である。 人数保持処理の流れを表すフローチャートである。 人数重要度テーブルを表す図である。 エレベータの情報を用いた人数検出部を備える装置の全体構成である。
符号の説明
100 映像取得部
102 人数検出部
104 学習データ選択部
106 単数人学習データ
108 複数人学習データ
110 非正常行動検出部
112 発報部

Claims (7)

  1. 監視対象の映像を取得する映像取得部と、
    前記映像取得部が取得した映像中の人数を検出する人数検出部と、
    前記人数検出部の検出人数に応じて正常行動の複数の学習データの中から一つの学習データを選択する学習データ選択部と、
    前記学習データ選択部が選択した正常行動の学習データを用いて前記映像取得部が取得した映像中の非正常行動を異常行動として検出する非正常行動検出部と、
    前記非正常行動検出部の検出結果を基に異常行動が発生している場合にはその旨を外部装置に通知する発報部
    を備えることを特徴とする異常行動検知装置。
  2. 請求項1に記載の異常行動検知装置において、前記非正常行動検出部は、
    前記映像取得部が取得した映像の中から動きのある部分を抽出する動き抽出部と、
    前記動き抽出部が生成した映像の特徴量を算出する特徴量算出部と、
    前記特徴量算出部で算出した特徴量ベクトルを前記学習データ選択部が選択した学習データの変換行列を用いて座標変換する特徴量変換部と、
    前記特徴量変換部で算出した新しい特徴量ベクトルを用いて学習した正常行動との乖離の度合いを表す非正常度を算出する非正常度算出部と、
    前記非正常度算出部で算出した非正常度から異常行動が発生しているのかどうかを判定する非正常判定部からなる
    ことを特徴とする異常行動検知装置。
  3. 請求項1または2に記載の異常行動検知装置において、前記人数検出部は、
    前記映像取得部で取得した画像と背景画像の差分情報を用いて人が存在する領域を抽出する人物領域抽出部と、
    前記人物領域抽出部が抽出した人物領域の画像の特徴量を算出する領域特徴量算出部と、
    前記領域特徴量算出部で算出した人物領域の特徴量を基にして人数を判定する人数判定部からなる
    ことを特徴とする異常行動検知装置。
  4. 監視対象の映像を取得する映像取得部と、
    前記映像取得部が取得した映像中の人数を検出する人数検出部と、
    前記人数検出部の検出人数に応じて正常行動の複数の学習データの中から一つの学習データを選択する学習データ選択部と、
    前記学習データ選択部が選択した正常行動の学習データを用いて前記映像取得部が取得した映像中の非正常行動を異常行動として検出する非正常行動検出部と、
    前記非正常行動検出部の検出結果を基に異常行動が発生している場合にはその旨を外部装置に通知する発報部、
    を備えることを特徴とする異常行動検知装置において、前記非正常行動検出部は、
    前記映像取得部が取得した映像の中から動きのある部分を抽出する動き抽出部と、
    前記動き抽出部が生成した映像の特徴量を算出する特徴量算出部と、
    前記特徴量算出部で算出した特徴量ベクトルを前記学習データ選択部が選択した学習データの変換行列を用いて座標変換する特徴量変換部と、
    前記特徴量変換部で算出した新しい特徴量ベクトルを用いて学習した正常行動との乖離の度合いを表す非正常度を算出する非正常度算出部と、
    人数検出部が算出した人数に応じて複数の判定閾値の中から一つの判定閾値を選択する閾値選択部と、
    前記非正常度算出部で算出した非正常度と閾値選択部が選択した判定閾値を基に異常行動が発生しているのかどうかを判定する非正常判定部からなる
    ことを特徴とする異常行動検知装置。
  5. 請求項1から4に記載の異常行動検知装置において、
    監視対象はエレベータであって、
    前記人数検出部の出力と人数別の重要度を保持する人数重要度テーブルと前回保持した判定値を基にして検知人数を決定し保持人数として保持する人数保持部を備え、
    前記学習データ選択部は前記人数保持部が算出した人数に基づいて学習データを選択する
    ことを特徴とする異常行動検知装置。
  6. 請求項5に記載の異常行動検知装置において、
    監視対象はエレベータであって、
    前記人数保持部は前記エレベータのドアが閉まったときに前記保持人数を0人にリセットする
    ことを特徴とする異常行動検知装置。
  7. 監視対象はエレベータであって、
    監視対象の映像を取得する映像取得部と、
    前記エレベータの荷重情報を基にして人数を検出する人数検出部と、
    前記人数検出部の検出人数に応じて正常行動の複数の学習データの中から一つの学習データを選択する学習データ選択部と、
    前記学習データ選択部が選択した正常行動の学習データを用いて前記映像取得部が取得した映像中の非正常行動を異常行動として検出する非正常行動検出部と、
    前記非正常行動検出部の検出結果を基に異常行動が発生している場合にはその旨を外部装置に通知する発報部
    を備えることを特徴とする異常行動検知装置。
JP2008116573A 2008-04-28 2008-04-28 異常行動検知装置 Active JP4663756B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008116573A JP4663756B2 (ja) 2008-04-28 2008-04-28 異常行動検知装置
CN2008102110829A CN101571914B (zh) 2008-04-28 2008-08-20 异常行为检测装置
HK10101916.7A HK1135785A1 (en) 2008-04-28 2010-02-24 Detecting device of abnormal behavior

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008116573A JP4663756B2 (ja) 2008-04-28 2008-04-28 異常行動検知装置

Publications (2)

Publication Number Publication Date
JP2009266052A JP2009266052A (ja) 2009-11-12
JP4663756B2 true JP4663756B2 (ja) 2011-04-06

Family

ID=41231269

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008116573A Active JP4663756B2 (ja) 2008-04-28 2008-04-28 異常行動検知装置

Country Status (3)

Country Link
JP (1) JP4663756B2 (ja)
CN (1) CN101571914B (ja)
HK (1) HK1135785A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108921399A (zh) * 2018-06-14 2018-11-30 北京新广视通科技有限公司 一种智能监督管理系统及方法
CN110668274A (zh) * 2019-09-30 2020-01-10 山东省环能设计院股份有限公司 一种显示电梯内剩余可载人数的方法和装置
KR20210068243A (ko) 2019-11-29 2021-06-09 한국승강기안전공단 인공지능 기반 승강기 위험상황 자동 예측판단시스템
US11731856B2 (en) 2016-06-08 2023-08-22 Mitsubishi Electric Corporation Monitoring apparatus

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2009243442B2 (en) 2009-11-30 2013-06-13 Canon Kabushiki Kaisha Detection of abnormal behaviour in video objects
JP5590915B2 (ja) * 2010-02-25 2014-09-17 三菱電機株式会社 戸開閉検出装置及び戸開閉検出方法
JP2011236036A (ja) * 2010-05-12 2011-11-24 Toshiba Elevator Co Ltd エレベータかご内異常通報システム
JP5473801B2 (ja) * 2010-06-30 2014-04-16 株式会社日立製作所 監視装置
JP5514680B2 (ja) * 2010-09-16 2014-06-04 株式会社日立ビルシステム エレベータの乗かご照明装置
JP5657377B2 (ja) * 2010-12-28 2015-01-21 セコム株式会社 異常検知装置
CN102324016B (zh) * 2011-05-27 2013-06-05 北京东方奔腾信息技术有限公司 一种高密度人群流量统计方法
CN102364944A (zh) * 2011-11-22 2012-02-29 电子科技大学 一种预防人员聚集的视频监控方法
WO2013088827A1 (ja) * 2011-12-16 2013-06-20 旭硝子株式会社 動画像解析装置、動画像解析方法、動画像解析プログラム
EP2825992B1 (en) * 2012-03-12 2017-06-28 Intel Corporation Method and apparatus for controlling content capture of prohibited content
JP6033695B2 (ja) * 2013-01-28 2016-11-30 株式会社日立製作所 エレベータ監視装置及びエレベータ監視方法
KR101515597B1 (ko) 2013-07-18 2015-04-27 주식회사 에스원 3차원 영상 정보를 이용한 감지 방법 및 장치
JP6163399B2 (ja) * 2013-09-19 2017-07-12 株式会社日立ビルシステム エレベータ用挙動異常監視装置
EP3224177B1 (en) 2014-11-26 2020-01-15 Otis Elevator Company Elevator security and control system based on passenger movement
JP6180667B2 (ja) * 2014-12-26 2017-08-16 三菱電機株式会社 エレベーター点検装置
JP6336952B2 (ja) * 2015-09-30 2018-06-06 セコム株式会社 群衆解析装置
WO2017140365A1 (en) * 2016-02-18 2017-08-24 Otis Elevator Company Elevator access control system
CN105930871B (zh) * 2016-04-26 2019-06-25 浪潮电子信息产业股份有限公司 一种基于改进的智能学习算法的摔倒预警方法
CN106241534B (zh) * 2016-06-28 2018-12-07 西安特种设备检验检测院 多人乘梯异常活动智能监控方法
CN106241533B (zh) * 2016-06-28 2018-10-30 西安特种设备检验检测院 基于机器视觉的电梯乘员综合安全智能监控方法
CN110536854B (zh) * 2017-04-25 2020-12-29 三菱电机株式会社 电梯的防范运转装置
CN111149129A (zh) * 2017-09-21 2020-05-12 株式会社安德科技术 异常检测装置及异常检测方法
CN110835031A (zh) * 2018-08-19 2020-02-25 孙燕 宾馆电梯仪表盘激活机构
CN109052093A (zh) * 2018-09-29 2018-12-21 浙江云安达物联信息技术有限公司 一种预警不当乘梯行为风险的方法及系统
US11312594B2 (en) 2018-11-09 2022-04-26 Otis Elevator Company Conveyance system video analytics
CN111353352B (zh) * 2018-12-24 2023-05-09 杭州海康威视数字技术股份有限公司 异常行为检测方法及装置
CN110472614B (zh) * 2019-08-22 2023-06-30 四川自由健信息科技有限公司 一种晕倒行为的识别方法
CN110606422B (zh) * 2019-09-18 2021-09-21 广州逸安工程机械有限公司 一种施工电梯人数控制的方法
JP7257304B2 (ja) * 2019-10-08 2023-04-13 株式会社アマダ アラーム発報装置およびアラーム発報方法
CN112660953B (zh) * 2019-10-16 2022-08-05 杭州海康威视系统技术有限公司 乘梯异常行为的检测方法、设备及系统
CN110956143A (zh) * 2019-12-03 2020-04-03 交控科技股份有限公司 一种异常行为检测方法、装置、电子设备及存储介质
WO2021161466A1 (ja) * 2020-02-13 2021-08-19 三菱電機株式会社 エレベーターの監視装置およびエレベーターの監視方法
JP7355674B2 (ja) * 2020-02-18 2023-10-03 株式会社日立製作所 映像監視システムおよび映像監視方法
CN111275008B (zh) * 2020-02-24 2024-01-16 浙江大华技术股份有限公司 目标车辆异常的检测方法及装置、存储介质、电子装置
CN111401296B (zh) * 2020-04-02 2023-09-29 浙江大华技术股份有限公司 一种行为分析方法、设备及装置
JP7276992B2 (ja) * 2021-08-06 2023-05-18 東芝エレベータ株式会社 エレベータの利用者検知システム
JP7187629B1 (ja) 2021-08-06 2022-12-12 東芝エレベータ株式会社 エレベータの利用者検知システム
CN117315565A (zh) 2023-08-31 2023-12-29 云南电网有限责任公司德宏供电局 基于增量时空学习的异常行为识别监测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005099920A (ja) * 2003-09-22 2005-04-14 Fuji Photo Film Co Ltd 画像処理装置および画像処理方法ならびにプログラム
JP2006048322A (ja) * 2004-08-04 2006-02-16 Seiko Epson Corp オブジェクト画像検出装置、顔画像検出プログラムおよび顔画像検出方法
JP2007131382A (ja) * 2005-11-09 2007-05-31 Hitachi Building Systems Co Ltd エレベータのかご内監視装置、及び監視プログラム
JP2007219865A (ja) * 2006-02-17 2007-08-30 Hitachi Ltd 異常行動検知装置
JP2007249841A (ja) * 2006-03-17 2007-09-27 Toyota Motor Corp 画像認識装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005099920A (ja) * 2003-09-22 2005-04-14 Fuji Photo Film Co Ltd 画像処理装置および画像処理方法ならびにプログラム
JP2006048322A (ja) * 2004-08-04 2006-02-16 Seiko Epson Corp オブジェクト画像検出装置、顔画像検出プログラムおよび顔画像検出方法
JP2007131382A (ja) * 2005-11-09 2007-05-31 Hitachi Building Systems Co Ltd エレベータのかご内監視装置、及び監視プログラム
JP2007219865A (ja) * 2006-02-17 2007-08-30 Hitachi Ltd 異常行動検知装置
JP2007249841A (ja) * 2006-03-17 2007-09-27 Toyota Motor Corp 画像認識装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11731856B2 (en) 2016-06-08 2023-08-22 Mitsubishi Electric Corporation Monitoring apparatus
CN108921399A (zh) * 2018-06-14 2018-11-30 北京新广视通科技有限公司 一种智能监督管理系统及方法
CN110668274A (zh) * 2019-09-30 2020-01-10 山东省环能设计院股份有限公司 一种显示电梯内剩余可载人数的方法和装置
KR20210068243A (ko) 2019-11-29 2021-06-09 한국승강기안전공단 인공지능 기반 승강기 위험상황 자동 예측판단시스템

Also Published As

Publication number Publication date
JP2009266052A (ja) 2009-11-12
CN101571914B (zh) 2012-04-25
HK1135785A1 (en) 2010-06-11
CN101571914A (zh) 2009-11-04

Similar Documents

Publication Publication Date Title
JP4663756B2 (ja) 異常行動検知装置
JP4369961B2 (ja) 異常検知装置及び異常検知プログラム
JP4701100B2 (ja) 異常行動検知装置
JP4792069B2 (ja) 画像認識装置
JP5001260B2 (ja) オブジェクト追跡方法及びオブジェクト追跡装置
JP2020014210A (ja) 情報処理システム、情報処理方法及びプログラム
JP5701005B2 (ja) 物体検知装置、物体検知方法、監視カメラシステム、およびプログラム
TWI430186B (zh) 影像處理裝置及影像處理方法
KR102195706B1 (ko) 침입 탐지방법 및 그 장치
KR102217253B1 (ko) 행동패턴 분석 장치 및 방법
CA2714603A1 (en) Video sensor and alarm system and method with object and event classification
US20070229663A1 (en) Image processing apparatus, monitoring camera, and image monitoring system
CN107679471A (zh) 基于视频监控平台的室内人员空岗检测方法
CN107122743B (zh) 安防监控方法、装置和电子设备
JPWO2018179202A1 (ja) 情報処理装置、制御方法、及びプログラム
KR102101623B1 (ko) 영상 정보를 이용하여 이상 상황을 감지하는 방법 및 장치
KR101125936B1 (ko) 엘리베이터 보안을 위한 지능형 영상 감시시스템 및 그 방법
JP5334008B2 (ja) 異常動作検出装置
JP2005284652A (ja) 動きベクトルを用いた映像監視方法及び装置
JP5228067B2 (ja) 異常行動検知装置
JP5545977B2 (ja) 画像監視装置
WO2020139071A1 (en) System and method for detecting aggressive behaviour activity
US11574461B2 (en) Time-series based analytics using video streams
KR101794456B1 (ko) 승강기에서의 접촉 행위를 탐지하는 장치 및 방법
JP3994416B1 (ja) 異常検知装置、プログラム及び異常検知方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100831

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101221

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110105

R150 Certificate of patent or registration of utility model

Ref document number: 4663756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140114

Year of fee payment: 3