JP2011215695A - 移動物体検出装置及び方法、並びにプログラム - Google Patents

移動物体検出装置及び方法、並びにプログラム Download PDF

Info

Publication number
JP2011215695A
JP2011215695A JP2010080519A JP2010080519A JP2011215695A JP 2011215695 A JP2011215695 A JP 2011215695A JP 2010080519 A JP2010080519 A JP 2010080519A JP 2010080519 A JP2010080519 A JP 2010080519A JP 2011215695 A JP2011215695 A JP 2011215695A
Authority
JP
Japan
Prior art keywords
image
moving object
histogram
determination
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010080519A
Other languages
English (en)
Inventor
Katsuaki Nishino
勝章 西野
Nobuhiro Tsunashima
宣浩 綱島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010080519A priority Critical patent/JP2011215695A/ja
Publication of JP2011215695A publication Critical patent/JP2011215695A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】誤検出を低減し、充分な検出精度を得られることができるようにする。
【解決手段】 画像入力処理部11は、解析画像のデータを入力し、解析画像内で指定領域を設定する処理を実行する。ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16には、設定された指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものをそれぞれ適用し、適用した判定手法に従って移動物体の像の有無を判定する。結果統合部17は、これらの判定結果のうち任意の数の任意の種類を統合することによって、移動物体の像を検出する。本発明は、監視カメラに適用することができる。
【選択図】図1

Description

本発明は、移動物体検出装置及び方法、並びにプログラムに関し、特に、誤検出を低減し、充分な検出精度を得られるようにする、移動物体検出装置及び方法、並びにプログラムに関する。
従来から、監視カメラにより所定の空間を監視する監視システムが存在する。このような監視システムは、監視カメラの撮像画像を解析画像として、解析画像のデータを解析することによって、当該監視画像内の指定された領域を移動した移動物体の像を検出する。
このような監視システムには、撮像時点と過去の解析画像の相関を用いて移動物体の有無を検出する手法が適用されることがある。従来、このような手法として、次のような第1の手法と第2の手法とが広く用いられている。
第1の手法とは、撮像時点と過去の解析画像をそれぞれヒストグラム化し、それぞれのヒストグラム値から輝度値を除算したものの類似度を求める手法である(例えば特許文献1参照)。
第2の手法とは、撮像時点と過去の解析画像をそれぞれヒストグラム化し、それぞれのヒストグラム値を、平均値と標準偏差値に基づいてフルスケールに伸縮させ、その類似度を求める手法である(例えば、特許文献2参照)。
特許第3506934号公報 特開2007−251721号公報
しかしながら、第1の手法や第2の手法を単体で単純に適用しても、解析画像に複雑な輝度が含まれる場合等に誤検出が発生し、検出精度が低下するおそれがある。
本発明は、このような状況に鑑みてなされたものであり、誤検出を低減し、充分な検出精度を得られるようにするものである。
本発明の一側面の移動物体検出装置は、解析画像のデータを入力し、前記解析画像内で指定領域を設定する処理を実行する画像入力処理手段と、前記画像入力処理手段により設定された前記指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものをそれぞれ適用し、適用した前記判定手法に従って前記移動物体の像の有無を判定する複数の判定手段と、前記複数の判定手段の判定結果のうち任意の数の任意の種類を統合することによって、前記移動物体の像を検出する統合手段と、を備える。
前記判定手段は、現在と過去の各々の前記解析画像内の前記指定領域の輝度値の分布を示すヒストグラムの相関を用いて前記移動物体の像の有無を判定するヒストグラム相関手法を、前記判定手法として適用したヒストグラム相関判定手段と、現在と過去の各々の前記解析画像内の前記指定領域の輝度値の分布を示すヒストグラムのうち、一方のヒストグラムと、輝度値の軸の方向において平均値を前記一方のヒストグラムとあわせるように伸縮させた他方のヒストグラムとの相関を用いて前記移動物体の像の有無を判定する伸縮ヒストグラム相関手法を、前記判定手法として適用した伸縮ヒストグラム相関判定手段と、現在と過去の各々の前記解析画像内の前記指定領域を構成する各画素の輝度値及び平均輝度値に基づく正規化相互相関を用いて前記移動物体の像の有無を判定する正規化相互相関手法を、前記判定手法として適用した正規化相互相関判定手段とを備え、前記統合手段は、前記ヒストグラム相関判定手段、前記伸縮ヒストグラム相関判定手段、及び、前記正規化相互相関判定手段の判定結果のうち、2つ以上を統合することによって、前記移動物体の像を検出することができる。
前記統合手段は、前記ヒストグラム相関判定手段、前記伸縮ヒストグラム相関判定手段、及び、前記正規化相互相関判定手段の全てによって前記移動物体の像が有ると判定された場合に、前記移動物体の像を検出することができる。
前記判定手段は、さらに、前記解析画像に対する背景画像の差分として、前記指定領域内の輝度値の差分を用いて前記移動物体の像の有無を判定する背景画像差分手法を、前記判定手法として適用した背景画像差分判定手段を有することができる。
前記判定手段は、さらに、現在の前記解析画像に対する複数の過去の前記解析画像の各々との差分として、前記指定領域内の輝度値の差分を用いて前記移動物体の像の有無を判定する過去画像群差分手法を、前記判定手法として適用した過去画像群差分判定手段を有することができる。
本発明の一側面の移動物体検出方法及びプログラムは、上述した本発明の一側面の移動物体検出装置に対応する方法及びプログラムである。
本発明の一側面の移動物体装置及び方法並びにプログラムにおいては、解析画像のデータが入力され、前記解析画像内で指定領域を設定する処理が実行される。設定された前記指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものがそれぞれ適用され、適用された前記判定手法に従って前記移動物体の像の有無が判定され、前記複数の判定手段の判定結果のうち任意の数の任意の種類を統合することによって、前記移動物体の像が検出される。
以上のごとく、本発明によれば、誤検出を低減し、充分な検出精度を得ることが可能になる。
画像解析装置の機能的構成を示すブロック図である。 ヒストグラム相関判定処理を説明するための、現在と過去のヒストグラムの一例を示す図である。 伸縮ヒストグラム相関判定処理を説明するための、現在と過去のヒストグラムの一例を示す図である。 各処理の検出精度について説明する図である。 画像解析処理の一例を説明するフローチャートである。 ヒストグラム相関判定処理の一例を説明するフローチャートである。 伸縮ヒストグラム相関判定処理の一例を説明するフローチャートである。 正規化相互相関判定処理の一例を説明するフローチャートである。 画像解析装置の他の機能的構成を示すブロック図である。 移動物体有無判定部の機能的構成を示すブロック図である。 移動物体有無判定部の機能的構成を示すブロック図である。 移動物体有無判定部の機能的構成を示すブロック図である。 各処理の検出精度について説明する図である。 画像解析処理の一例を説明するフローチャートである。 背景画像差分処理の一例を説明するフローチャートである。 過去画像群差分処理の一例を説明するフローチャートである。 本実施形態の画像解析装置を構成要素に含む監視システムの機能的構成例を示すブロック図である。 本実施形態の画像解析装置を構成要素に含むシステムの機能的構成例を示すブロック図である。 本実施形態の画像解析装置を構成要素に含む他のシステムの機能的構成例を示すブロック図である。 本発明が適用される動体検出装置のハードウエアの構成例を示すブロック図である。
本発明が適用される移動物体検出装置の実施形態として、2つの実施形態(以下、それぞれ第1実施形態及び第2実施形態と称する)について説明する。よって、説明は以下の順序で行う。
1.第1実施形態(移動物体の像の有無を判定する構成要素が3つの例)
2.第2実施形態(移動物体の像の有無を判定する構成要素が5つの例)
<1.第1実施形態>
[画像解析装置の機能的構成]
図1は、本発明が適用される移動物体検出装置の一実施の形態としての画像解析装置の機能的構成を示すブロック図である。
図1の画像解析装置1は、監視システムの監視カメラの撮像画像を解析画像として、解析画像のデータを解析することにより、当該解析画像内の指定された領域(以下、指定領域と称する)内を移動物体の像が移動したかを検出する。このような一連の処理を、以下、画像解析処理と称する。
画像解析装置1は、このような画像解析処理を実行すべく、画像入力処理部11、ヒストグラム生成処理部12、輝度値演算処理部13、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、正規化相互相関判定処理部16、結果統合部17、及び結果出力部18から構成されている。また、ヒストグラム生成処理部12は過去ヒストグラム記憶部31を有しており、輝度値演算処理部13は過去輝度値記憶部32を有している。
画像入力処理部11は、外部から解析画像のデータを入力し、当該解析画像のうち、ユーザ等により監視対象として指定された領域を、指定領域として設定する。
なお、画像解析装置1が移動物体の像を検出するために、監視対象としては動画像が採用される。動画像は、フレームやフィールド等を単位画像として、複数の単位画像が所定の順番で配置されて構成される。このような単位画像のデータが、本実施形態では、解析画像のデータとして画像入力処理部11に入力される。すなわち、本実施形態では、動画像を構成する各単位画像の各々が入力される毎に、画像解析処理がその都度実行され、移動物体の像の有無が検出される。
ヒストグラム生成処理部12は、画像入力処理部11から出力された現在の解析画像のデータに基づいて、解析画像内の指定領域の輝度値の分布を示すヒストグラムを生成する。
ヒストグラム生成処理部12によって生成されたヒストグラムは、現在のヒストグラムとしてヒストグラム相関判定処理部14及び伸縮ヒストグラム相関判定処理部15に供給される。
このとき、過去ヒストグラム記憶部31に記憶された過去のヒストグラムも、ヒストグラム相関判定処理部14及び伸縮ヒストグラム相関判定処理部15に供給される。過去のヒストグラムとは、現在のヒストグラムよりも前のタイミングでヒストグラム生成処理部12により生成されたヒストグラムをいう。本実施形態では、現在の解析画像よりも2つ前の解析画像のデータに対して生成されたヒストグラムが、過去のヒストグラムとして過去ヒストグラム記憶部31からヒストグラム相関判定処理部14及び伸縮ヒストグラム相関判定処理部15に供給される。すなわち、ヒストグラム生成処理部12によって生成されたヒストグラムは、次々回に生成されるヒストグラムにとっての過去のヒストグラムとして、過去ヒストグラム記憶部31に記憶される。
ヒストグラム相関判定処理部14は、ヒストグラム生成処理部12から供給された現在のヒストグラムと過去のヒストグラムの相関値を演算する。ヒストグラム相関判定処理部14は、演算した相関値に基づいて、現在の解析画像内の指定領域を移動物体の像が移動したかを検出する。このようなヒストグラム相関判定処理部14による一連の処理を、以下、ヒストグラム相関判定処理と称する。
ヒストグラム相関判定処理において実行される相関値の算出の手法は、特に限定されないが、本実施形態では、現在のヒストグラムと過去のヒストグラムとの内積を相関値として算出する手法が採用されている。そこで、以下、図2を参照して、本実施形態で採用された相関値の算出の手法に従って実行されるヒストグラム相関判定処理の詳細について説明する。
[ヒストグラム相関判定処理の説明]
図2は、ヒストグラム相関判定処理を説明するための、現在のヒストグラムと過去のヒストグラムの一例を示す図である。図2Aは、現在のヒストグラムを示し、図2Bは、過去のヒストグラムを示している。
図2において、横軸は輝度値を示し、縦軸は画素数を示している。
ヒストグラム相関判定処理部14は、このような図2Aの現在のヒストグラムのデータと図2Bの過去のヒストグラムのデータとを用いて、次の式(1)の値Corrhistを演算する。
Figure 2011215695
式(1)において、値Corrhistは、現在のヒストグラムと過去のヒストグラムの相関値を示している。値Niは、図2Aの現在のヒストグラムのうち、i番目の輝度値の画素数を示している。ここで、iは、ヒストグラムの横軸の正方向に順に付された輝度値の番号を示している。値Piは、図2Bの過去のヒストグラムのうち、i番目の輝度値の画素数を示している。相関値Corrhistは、実際に移動物体が検出領域内に含まれたときには小さい値となり、移動物体が検出領域内に含まれていないときには大きい値となる。したがって、ヒストグラム相関判定処理部14は、例えば相関値Corrhistが閾値よりも小さい値となった場合、移動物体の像が存在すると判定することができる。
以上、ヒストグラム相関判定処理部14について説明した。次に、伸縮ヒストグラム相関判定処理部15について説明する。
伸縮ヒストグラム相関判定処理部15は、ヒストグラム生成処理部12から供給された現在と過去のヒストグラムの平均値を演算し、平均の位置(横軸の輝度値)を合わせるように、一方のヒストグラムを横軸方向に引き延ばした状態で、現在と過去のヒストグラムの相関値を演算する。なお、この場合の相関値の演算手法は、ヒストグラム相関判定処理部14に採用された相関値の演算手法と同様である。次に、伸縮ヒストグラム相関判定処理部15は、演算した相関値に基づいて、現在の解析画像内の指定領域を移動物体の像が移動したかを検出する。このような伸縮ヒストグラム相関判定処理部15による一連の処理を、以下、伸縮ヒストグラム相関判定処理と称する。さらに、以下、図3を参照して、伸縮ヒストグラム相関判定処理の詳細について説明する。
[伸縮ヒストグラム相関判定処理の説明]
図3は、伸縮ヒストグラム相関判定処理を説明するための、現在のヒストグラムと過去のヒストグラムの一例を示す図である。図3の上側の図は、現在のヒストグラムを示し、図3の下側の図は、過去のヒストグラムを示している。
図3において、横軸は輝度値を示し、縦軸は画素数を示している。
図3の左上側のヒストグラムは、指定領域に対応する実世界の空間領域が本来の明るさを保っている場合(以下、本来の明るさの場合と称する)の指定領域の輝度値の分布を示している。これに対して、図3の左下側のヒストグラムは、指定領域に対応する実世界の空間領域が影等の影響で暗くなった場合(以下、暗くなった場合と称する)の指定領域の輝度値の分布を示している。図3の左上側と図3の左下側の両者のヒストグラムを比較すると、実世界の同一の空間領域であっても、暗くなった場合のヒストグラムは、本来の明るさの場合よりも、小さい輝度値に偏ってしまうことがわかる。従って、このような暗い場合と明るい場合との両者のヒストグラムを用いて単純な相関を演算しても、正確な相関を得ることはできない。
そこで、伸縮ヒストグラム相関判定処理部15は、現在と過去のヒストグラムの平均値の位置(横軸の輝度値)が合うように、一方のヒストグラムを横軸方向に引き延ばすことによって、暗い場合のヒストグラムを明るい場合の分布となるように補正する。すなわち、伸縮ヒストグラム相関判定処理部15は、現在のヒストグラムと過去のヒストグラムとを、疑似的に明るい場合の分布となるように統一する。
例えば、図3の左上側に示される現在のヒストグラムの平均値の位置(横軸の輝度値)が30であり、図3の左下側に示される過去のヒストグラムの平均値の位置(横軸の輝度値)が20であるとする。この場合、伸縮ヒストグラム相関判定処理部15は、現在と過去のヒストグラムの平均値の位置(横軸の輝度値)を合わせ、図3の左下側に示される過去のヒストグラムを1.5倍に横軸方向に引き延ばし、図3の右下側に示される状態にする。
このようにして、現在と過去のヒストグラムの両者が、疑似的に明るい場合の分布となるように統一される(図3の右側の図参照)。そこで、伸縮ヒストグラム相関判定処理部15は、疑似的に明るい場合の分布となるように統一された現在と過去のヒストグラムの相関値を演算する。伸縮ヒストグラム相関判定処理部15は、演算した相関値に基づいて、現在の解析画像内の指定領域を移動物体の像が移動したかを検出する。
伸縮ヒストグラム相関判定処理部15によって演算される相関値は、実際に移動物体が検出領域内に含まれたときには小さい値となり、移動物体が検出領域内に含まれていないときには大きい値となる。したがって、伸縮ヒストグラム相関判定処理部15は、例えば相関値が閾値よりも小さい値となった場合、移動物体の像が存在すると判定することができる。
以上、画像解析装置1の機能的構成のうち、画像入力処理部11にデータとして入力された解析画像から生成されたヒストグラムを用いて移動物体の像を検出するために必要な機能的構成、すなわち、ヒストグラム生成処理部12、ヒストグラム相関判定処理部14、及び伸縮ヒストグラム相関判定処理部15について説明した。
次に、画像解析装置1の残りの機能的構成、すなわち、輝度値演算処理部13、正規化相互相関判定処理部16、結果統合部17、及び結果出力部18についてその順番に個別に説明していく。
輝度値演算処理部13は、画像入力処理部11から出力された現在の解析画像のデータに基づいて、解析画像内の指定領域の各画素の輝度値及び平均輝度値を演算する。輝度値演算処理部13によって演算された各画素の輝度値及び平均輝度値は、現在の各画素の輝度値及び平均輝度値として正規化相互相関判定処理部16に供給される。
このとき、過去輝度値記憶部32に記憶された過去の各画素の輝度値及び平均輝度値も、正規化相互相関判定処理部16に供給される。過去の各画素の輝度値及び平均輝度値とは、現在の各画素の輝度値及び平均輝度値よりも前のタイミングで輝度値演算処理部13により算出された各画素の輝度値及び平均輝度値をいう。本実施形態では、現在の解析画像よりも2つ前の解析画像のデータに対して演算された各画素の輝度値及び平均輝度値が、過去の各画素の輝度値及び平均輝度値として過去輝度値記憶部32から正規化相互相関判定処理部16に供給される。すなわち、輝度値演算処理部13によって演算された各画素の輝度値及び平均輝度値は、次々回に生成される各画素の輝度値及び平均輝度値にとっての過去の各画素の輝度値及び平均輝度値として、過去輝度値記憶部32に記憶される。
正規化相互相関判定処理部16は、輝度値演算処理部13から供給された現在及び過去の指定領域の各画素の輝度値及び指定領域の平均輝度値の相関値を演算する。正規化相互相関判定処理部16は、演算した相関値に基づいて、当該解析画像内の指定領域を移動物体の像が移動したかを検出する。このような正規化相互相関判定処理部16による一連の処理を、以下、正規化相互相関判定処理と称する。
正規化相互相関判定処理部16は、現在の指定領域の各画素の輝度値及び指定領域の平均輝度値と、過去の指定領域の各画素の輝度値及び指定領域の平均輝度値を用いて、次の式(2)の値ZNCCを演算する。
Figure 2011215695
式(2)において、値ZNCCは、正規化相互相関値を示している。値Niは、現在の指定領域の各画素の輝度値を示しており、正規化相互相関判定処理部16の処理では、輝度値演算処理部13から取得した現在の指定領域の各画素の輝度値を示している。値NAは、現在の指定領域の平均輝度値を示しており、正規化相互相関判定処理部16の処理では、輝度値演算処理部13から取得した現在の指定領域の平均輝度値を示している。値Piは、過去の指定領域の各画素の輝度値を示しており、正規化相互相関判定処理部16の処理では、過去輝度値記憶部32から取得した過去の指定領域の各画素の輝度値を示している。値PAは、過去の指定領域の平均輝度値を示しており、正規化相互相関判定処理部16の処理では、過去輝度値記憶部32から取得した過去の指定領域の平均輝度値を示している。
正規化相互相関値ZNCCは、実際に移動物体が検出領域内に含まれたときには小さい値となり、移動物体が検出領域内に含まれていないときには大きい値となる。したがって、正規化相互相関判定処理部16は、例えば正規化相互相関値ZNCCが閾値よりも小さい値となった場合、移動物体の像が存在すると判定することができる。
以上、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の機能的構成について説明した。図1に示されるように、このようなヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の検出結果は、共に結果統合部17に供給される。
統合手段としての結果統合部17は、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の検出結果を統合して、その統合結果を結果出力部18に供給する。結果出力部18は、統合結果を、画像解析装置1からの最終的な検出結果として出力する。
例えば、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の検出結果の何れからも、移動物体を検出したという結果が出力された場合、「移動物体あり」という統合結果が、結果統合部17によって得られ、結果出力部18から出力される。
これに対して、例えば、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の検出結果のうち、一つでも移動物体を検出していないという結果が出力された場合、「移動物体なし」という統合結果が、結果統合部17によって得られ、結果出力部18から出力される。
このように、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の各検出結果が統合されて、画像解析装置1全体の検出結果が出力される。以下、図4を用いて、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の各処理の検出結果が統合される理由について説明する。
[各処理の検出精度]
図4は、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理の各処理の検出精度について説明する図である。
図4では、検出領域内の背景画像が複雑な場合に、影や木々の揺れまたは輝度変化がある環境下での各処理の移動物体の検出精度と、検出領域内の背景画像が均一な場合に、影や木々の揺れまたは輝度変化がある環境下での各処理の移動物体の検出精度とを、文字OKとNGを用いて示している。図4に示されるOKは、該当する処理による検出精度が高いことを表わし、NGは、該当する処理による検出精度が低いことを表わしている。
まず、ヒストグラム相関判定処理部14により実行されるヒストグラム相関判定処理の検出精度について説明する。図4に示されるように、ヒストグラム相関判定処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、影や木々の揺れがある環境下での移動物体の検出精度が高い。これに対して、ヒストグラム相関判定処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、輝度変化がある環境下での移動物体の検出精度が低い。すなわち、ヒストグラム相関判定処理は、背景画像に関わらず木々の揺れの像等の外乱に対して頑健であるという長所がある。しかしながら、ヒストグラム相関判定処理は、光や影等による輝度変化が発生する場合には、背景画像に関わらず誤検出が発生するおそれがある、という短所がある。
次に、伸縮ヒストグラム相関判定処理部15により実行される伸縮ヒストグラム相関判定処理の検出精度について説明する。図4に示されるように、伸縮ヒストグラム相関判定処理による検出精度は、検出領域内の背景画像が均一であるという条件下では、輝度変化がある環境下での移動物体の検出精度が高い。これに対して、伸縮ヒストグラム相関判定処理による検出精度は、検出領域内の背景画像が複雑である場合には、輝度変化がある環境下での移動物体の検出精度が低い。また、伸縮ヒストグラム相関判定処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、影や木々の揺れがある環境下での移動物体の検出精度が低い。すなわち、伸縮ヒストグラム相関判定処理は、背景画像が均一であるという条件下では、光や影等による輝度変化に対して頑健であるという長所がある。しかしながら、伸縮ヒストグラム相関判定処理は、背景画像が複雑である場合に輝度変化が発生すると、誤検出が発生するおそれがある。また、伸縮ヒストグラム相関判定処理は、影や木々の揺れが発生する場合には、背景画像に関わらず誤検出が発生するおそれがある、という短所がある。
次に、正規化相互相関判定処理部16により実行される正規化相互相関判定処理の検出精度について説明する。図4に示されるように、正規化相互相関判定処理による検出精度は、検出領域内の背景画像が複雑であるという条件下では、輝度変化がある環境下での移動物体の検出精度が高い。これに対して、正規化相互相関判定処理による検出精度は、検出領域内の背景画像が均一であるという条件下では、輝度変化がある環境下での移動物体の検出精度が低い。また、正規化相互相関判定処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、影や木々の揺れがある環境下での移動物体の検出精度が低い。すなわち、正規化相互相関判定処理は、背景画像が複雑であるという条件下では、光や影等による輝度変化に対して頑健であるという長所がある。しかしながら、正規化相互相関判定処理は、背景画像が均一である場合に輝度変化が発生すると、誤検出が発生するおそれがある。また、正規化相互相関判定処理は、影や木々の揺れが発生する場合には、背景画像に関わらず誤検出が発生するおそれがある、という短所がある。
画像解析装置1は、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理のそれぞれの短所を補い、相互の長所を際立たせるべく、3つの処理を組み合わせて使用している。すなわち、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理を組み合わせて使用することにより、移動物体の誤検出を低減することができる、という効果を奏することが可能となる。
特に、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の検出結果の何れもが、移動物体を検出したという結果を出力した場合にのみ、移動物体が検出された判断することによって、当該効果は顕著なものとなる。
[画像解析処理]
次に、図5を参照して、このような機能的構成を有する画像解析装置1の処理として、画像解析処理について説明する。
図5は、画像解析処理の一例を説明するフローチャートである。
上述したように、画像解析装置1が移動物体の像を検出するために、監視対象としては動画像が採用される。このような動画像は、例えば、監視カメラ等により所定時間間隔毎に撮像された複数の単位画像から構成される。このため、このような動画像を構成する複数の単位画像の各々のデータが、監視カメラ等から出力される毎に、画像解析処理はその都度実行される。
ステップS1において、図1の画像解析装置1の画像入力処理部11は、監視カメラ等から出力された単位画像を解析画像として、解析画像のデータを入力して、当該解析画像内に指定領域を設定する。
ステップS2において、ヒストグラム生成処理部12は、画像入力処理部11から出力された現在の解析画像のデータに基づいて、解析画像内の指定領域内のヒストグラムを生成し、過去ヒストグラム記憶部31に記憶する。
ステップS3及びステップS4において、ヒストグラム相関判定処理部14と伸縮ヒストグラム相関判定処理部15は、それぞれヒストグラム相関判定処理と伸縮ヒストグラム相関判定処理を実行する。ヒストグラム相関判定処理と伸縮ヒストグラム相関判定処理の詳細については、それぞれ図6と図7のフローチャートを参照して後述する。
また、ステップS2乃至ステップS4の処理と並列して、ステップS5及びステップS6の処理が実行される。
ステップS5において、輝度値演算処理部13は、画像入力処理部11から出力された現在の解析画像のデータに基づいて、解析画像内の指定領域の各画素の輝度値及び指定領域の平均輝度値を算出し、過去輝度値記憶部32に記憶する。
ステップS6において、正規化相互相関判定処理部16は、正規化相互相関処理を実行する。
ステップS7において、結果統合部17は、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理の結果を統合する。すなわち、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理のすべての検出結果が「移動物体あり」であった場合、統合結果は「移動物体あり」となる。これに対して、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理のうちの一つでも移動物体の像を検出していないという結果が出力された場合、統合結果は「移動物体なし」となる。
ステップS8において、結果出力部18は、ステップS7の統合結果を、画像解析装置1の最終的な検出結果として出力する。すなわち、本実施形態では、結果出力部18は、最終的な検出結果が「移動物体あり」の場合には、「移動物体あり」を示す警報を発生させる信号を出力する。これにより、画像解析処理は終了する。
[ヒストグラム相関判定処理]
次に、図6を参照して、このような画像解析処理のステップS3の処理として、図1の画像解析装置1のヒストグラム相関判定処理部14により実行されるヒストグラム相関判定処理について説明する。
図6は、ヒストグラム相関判定処理の一例を説明するフローチャートである。
ステップS21において、ヒストグラム相関判定処理部14は、ヒストグラム生成処理部12から出力された現在のヒストグラムを取得する。
ステップS22において、ヒストグラム相関判定処理部14は、過去ヒストグラム記憶部31から過去のヒストグラムを取得する。
ステップS23において、ヒストグラム相関判定処理部14は、式(1)に基づいて、現在と過去のヒストグラムの相関値を演算する。
ステップS24において、ヒストグラム相関判定処理部14は、ステップS23において演算された現在と過去のヒストグラムの相関値は閾値以下であるかを判定する。
現在と過去のヒストグラムの相関値が閾値以下であると判定された場合、ステップS24の処理でYESであると判定されて、処理はステップS25に進む。
ステップS25において、ヒストグラム相関判定処理部14は、「移動物体あり」の結果を出力し、ヒストグラム相関判定処理は終了する。
これに対して、ステップS24において、現在と過去のヒストグラムの相関値は閾値を超えていると判定された場合、ステップS24の処理でNOであると判定されて、処理はステップS26に進む。
ステップS26において、ヒストグラム相関判定処理部14は、「移動物体なし」の結果を出力し、ヒストグラム相関判定処理は終了する。
ステップS25またはステップS26の処理の結果が出力されると、処理は図5のステップS7に進む。
以上、図6を参照して、図5の画像解析処理のステップS3の処理として、図1のヒストグラム相関判定処理部14により実行されるヒストグラム相関判定処理について説明した。次に、図7を参照して、画像解析処理のステップS4の処理として、図1の伸縮ヒストグラム相関判定処理部15により実行される伸縮ヒストグラム相関判定処理について説明する。
[伸縮ヒストグラム相関判定処理]
図7は、伸縮ヒストグラム相関判定処理の一例を説明するフローチャートである。
ステップS41において、伸縮ヒストグラム相関判定処理部15は、ヒストグラム生成処理部12から出力された現在のヒストグラムの平均値を演算する。
ステップS42において、伸縮ヒストグラム相関判定処理部15は、過去ヒストグラム記憶部31から出力された過去のヒストグラムの平均値を演算する。
ステップS43において、伸縮ヒストグラム相関判定処理部15は、演算した現在と過去のヒストグラムの平均の位置が合うように、一方のヒストグラムを伸縮させる。すなわち、伸縮ヒストグラム相関判定処理部15は、現在のヒストグラムと過去のヒストグラムとを、疑似的に明るい場合の分布となるように統一する。
ステップS44において、伸縮ヒストグラム相関判定処理部15は、式(1)に基づいて、現在と過去のヒストグラムの相関値を演算する。すなわち、伸縮ヒストグラム相関判定処理部15は、疑似的に明るい場合の分布となるように統一された現在と過去のヒストグラムの相関値を演算する。
ステップS45において、伸縮ヒストグラム相関判定処理部15は、ステップS44において演算された現在と過去のヒストグラムの相関値は閾値以下であるかを判定する。
現在と過去のヒストグラムの相関値が閾値以下であると判定された場合、ステップS45の処理でYESであると判定されて、処理はステップS46に進む。
ステップS46において、伸縮ヒストグラム相関判定処理部15は、「移動物体あり」の結果を出力し、伸縮ヒストグラム相関判定処理は終了する。
これに対して、ステップS45において、現在と過去のヒストグラムの相関値は閾値を超えていると判定された場合、ステップS45の処理でNOであると判定されて、処理はステップS47に進む。
ステップS47において、伸縮ヒストグラム相関判定処理部15は、「移動物体なし」の結果を出力し、伸縮ヒストグラム相関判定処理は終了する。
ステップS46またはステップS47の処理の結果が出力されると、処理は図5のステップS7に進む。
以上、図7を参照して、図5の画像解析処理のステップS4の処理として、図1の伸縮ヒストグラム相関判定処理部15により実行される伸縮ヒストグラム相関判定処理について説明した。次に、図8を参照して、画像解析処理のステップS6の処理として、図1の正規化相互相関判定処理部16により実行される正規化相互相関判定処理について説明する。
[正規化相互相関判定処理]
図8は、正規化相互相関判定処理の一例を説明するフローチャートである。
ステップS61において、正規化相互相関判定処理部16は、輝度値演算処理部13から出力された現在の画像の各画素の画素値と平均輝度値を取得する。
ステップS62において、正規化相互相関判定処理部16は、過去輝度値記憶部32から過去の画像の各画素の画素値と平均輝度値を取得する。
ステップS63において、正規化相互相関判定処理部16は、式(2)に基づいて、正規化相互相関値を演算する。すなわち、正規化相互相関判定処理部16は、現在の指定領域の各画素の輝度値及び指定領域の平均輝度値と、過去の指定領域の各画素の輝度値及び指定領域の平均輝度値の相関値を演算する。
ステップS64において、正規化相互相関判定処理部16は、ステップS63において演算された正規化相互相関値は閾値以下であるかを判定する。
正規化相互相関値が閾値以下であると判定された場合、ステップS64の処理でYESであると判定されて、処理はステップS65に進む。
ステップS65において、正規化相互相関判定処理部16は、「移動物体あり」の結果を出力し、正規化相互相関判定処理は終了する。
これに対して、ステップS64において、正規化相互相関値は閾値を超えていると判定された場合、ステップS64の処理でNOであると判定されて、処理はステップS66に進む。
ステップS66において、正規化相互相関判定処理部16は、「移動物体なし」の結果を出力し、正規化相互相関判定処理は終了する。
ステップS65またはステップS66の処理の結果が出力されると、処理は図5のステップS7に進む。
以上、図8を参照して、図5の画像解析処理のステップS6の処理として、図1の正規化相互相関判定処理部16により実行される正規化相互相関判定処理について説明した。
このように、画像解析装置1は、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理の3つの処理の結果を統合し、移動物体の像の有無を検出する。ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理の3つの処理を組み合わせて使用することにより、それぞれの処理の短所を補い、相互の長所を際立たせることができる。
本実施形態では、移動物体の像の有無を判定する場合に用いた処理は、ヒストグラム相関判定処理、伸縮ヒストグラム相関判定処理、及び正規化相互相関判定処理の3つであった。しかしながら、移動物体の像の有無を判定する処理は、この3つ処理に限定されず、任意の処理を組み合わせて採用することができる。
<2.第2実施形態>
以上説明した第1実施形態の画像解析装置1(図1)は、移動物体の像の有無を判定する構成要素として、ヒストグラム生成処理部12とヒストグラム相関判定処理部14の組、ヒストグラム生成処理部12と伸縮ヒストグラム相関判定処理部15の組、及び輝度値演算処理部13と正規化相互相関判定処理部16の組の3つが存在した。
しかしながら、移動物体の像の有無を判定する構成要素の個数は、第1実施形態の3つに特に限定されず、任意のN個(Nは2以上の整数値)でよい。そこで、第2実施形態では、移動物体の像の有無を判定する構成要素の個数N=5の場合の画像解析装置について説明する。
[画像解析装置の機能的構成]
図9は、本発明が適用される移動物体検出装置の一実施の形態としての画像解析装置であって、移動物体の像の有無を判定する処理が図1の例とは異なる場合の画像解析装置の機能的構成を示すブロック図である。
図9の画像解析装置40は、画像入力処理部41、判定手法選択部42、移動物体有無判定部43−1乃至43−5、結果統合部44、結果出力部45から構成されている。なお、以下、移動物体有無判定部43−1乃至43−5を個々に区別する必要がない場合、これらをまとめて移動物体有無判定部43と称する。
第2実施形態に係る図9の画像解析装置40は、第1実施形態に係る図1の画像解析装置1と、次の点で一致する。すなわち、図9の画像入力処理部41、結果統合部44、及び結果出力部45の各々は、図1の画像入力処理部11、結果統合部17、及び結果出力部18の各々と基本的に同様の構成と機能を有している点で一致する。従って、これらの一致点の説明は繰り返しになるので省略する。
これに対して、次の点で、図9の画像解析装置40は、図1の画像解析装置1と異なっている。
すなわち、図1の画像解析装置1では、移動物体の像の有無を判定するための手法(以下、判定手法と称する)として、次の第1乃至第3の判定手法が採用されていた。すなわち、第1の判定手法とは、ヒストグラムの相関を用いた手法であり、以下、これをヒストグラム相関手法と称する。第2の判定手法とは、伸縮ヒストグラムの相関を用いた手法であり、以下、これを伸縮ヒストグラム相関手法と称する。第3の判定手法とは、正規化相互相関を用いた手法であり、以下、これを正規化相互相関手法と称する。
このため、図1の画像解析装置1は、移動物体の像の有無を判定する構成要素としては、ヒストグラム相関手法、伸縮ヒストグラム相関手法、及び正規化相互相関手法の各々が適用された構成要素を有している。すなわち、ヒストグラム相関手法が適用された構成要素とは、ヒストグラム生成処理部12とヒストグラム相関判定処理部14との組である。伸縮ヒストグラム相関手法が適用された構成要素とは、ヒストグラム生成処理部12と伸縮ヒストグラム相関判定処理部15との組である。正規化相互相関手法が適用された構成要素とは、輝度値演算処理部13と正規化相互相関判定処理部16との組である。
そして、図1の画像解析装置1は、これらのヒストグラム相関手法、伸縮ヒストグラム相関手法、及び正規化相互相関手法の全ての判定手法による判定結果を用いて、総合的に移動物体の像の検出をしていた。このため、図1の画像解析装置1においては、ヒストグラム相関判定処理部14、伸縮ヒストグラム相関判定処理部15、及び正規化相互相関判定処理部16の3つの構成要素からの出力結果はすべて結果統合部17に供給されていた。
これに対して、図9の画像解析装置40においては、判定手法として、これらのヒストグラム相関手法、伸縮ヒストグラム相関手法、及び正規化相互相関手法を含む5つの手法が採用されている。なお、残りの2つの手法については、図11以降の図面を参照して後述する。
このため、図9の画像解析装置40は、移動物体の像の有無を判定する構成要素として、
5つの判定手法の各々が適用された移動物体有無判定部43−1乃至43−5を有している。
そして、図9の画像解析装置40は、5つの判定手法のうち任意の数の任意の種類を適用することができるように、判定手法選択部42が設けられている。すなわち、判定手法選択部42は、5つの判定手法のうち任意の数の任意の種類を選択する。そして、判定手法選択部42は、画像入力処理部11から出力された現在の解析画像のデータを、移動物体有無判定部43−1乃至43−5のうち、選択した2種類以上の判定手法の各々が適用された移動物体有無判定部43にのみ供給する。
移動物体有無判定部43−1乃至43−5のうち、判定手法選択部42から現在の解析画像のデータが供給された1以上の移動物体有無判定部43の各々は、各々に適用された判定手法に従って、当該解析画像内の指定領域を移動物体の像の有無を判定する。移動物体有無判定部43−1乃至43−5のうち、判定手法選択部42から現在の解析画像のデータが供給された1以上の移動物体有無判定部43の各々の判定結果は、結果統合部44に供給される。すなわち、図9の画像解析装置40は、5つの判定手法のうち任意の数の任意の種類による判定結果を用いて、総合的に移動物体の像の検出をすることができる。
さらに、以下、5つの判定手法の各々が適用された移動物体有無判定部43−1乃至43−5について説明する。
[移動物体有無判定部43−1乃至43−3の機能的構成]
図10は、移動物体有無判定部43−1乃至43−3の各々の機能的構成を示すブロック図である。
図10Aは、移動物体有無判定部43−1の機能的構成を示すブロック図である。移動物体有無判定部43−1は、ヒストグラム相関手法に従って移動物体の像の有無を判定すべく、第1実施形態の画像解析装置1のヒストグラム相関手法が適用された構成要素と同様の機能と構成を有している。すなわち、移動物体有無判定部43−1は、ヒストグラム生成処理部12、及びヒストグラム相関判定処理部14から構成される。
図10Bは、移動物体有無判定部43−2の機能的構成を示すブロック図である。移動物体有無判定部43−2は、伸縮ヒストグラム相関手法に従って移動物体の像の有無を判定すべく、第1実施形態の画像解析装置1の伸縮ヒストグラム相関手法が適用された構成要素と同様の機能と構成を有している。すなわち、移動物体有無判定部43−2は、ヒストグラム生成処理部12、及び伸縮ヒストグラム相関判定処理部15から構成される。
図10Cは、移動物体有無判定部43−3の機能的構成を示すブロック図である。移動物体有無判定部43−2は、正規化相互相関手法に従って移動物体の像の有無を判定すべく、第1実施形態の画像解析装置1の正規化相互相関手法が適用された構成要素と同様の機能と構成を有している。すなわち、移動物体有無判定部43−3は、輝度値演算処理部13、及び正規化相互相関判定処理部16から構成される。
このように、移動物体有無判定部43−1乃至43−3の各々には、第1実施形態でも採用されている判定手法、すなわち、ヒストグラム相関手法、伸縮ヒストグラム相関手法、及び正規化相互相関手法の各々が適用されている。これに対して、以下に説明する移動物体有無判定部43−4及び43−5の各々には、第1実施形態では採用されていない判定手法が適用されている。
[移動物体有無判定部43−4の機能的構成]
図11は、移動物体有無判定部43−4の機能的構成を示すブロック図である。
背景画像差分判定手段としての移動物体有無判定部43−4には、現在の解析画像と背景画像との差分を求め、この差分に基づいて移動物体の像の有無を判定する、といった判定手法が適用されている。なお、以下、このような判定手法を、背景画像差分手法と称する。また、背景画像差分手法に従って実行される処理を、以下、背景画像差分処理と称する。
移動物体有無判定部43−4は、このような背景画像差分処理を実行すべく、差分処理部61、背景画像記憶部62、及び変化判定処理部63から構成される。
差分処理部61は、判定手法選択部42から供給された現在の解析画像のデータと、背景画像記憶部62に記憶されている背景画像のデータとに基づいて、指定領域を構成する各画素毎に、解析画像と背景画像の輝度値の差分をそれぞれ演算する。
背景画像記憶部62は、初期の背景画像のデータとして、判定手法選択部42から供給された解析画像のデータを記憶する。その後、背景画像記憶部62は、判定手法選択部42から供給された現在の解析画像のデータと差分処理部61の演算結果とを用いて、次の式(3)に従って、背景画像のデータを適宜更新する。
Figure 2011215695
式(3)において、値Btは、時刻tにおける背景画像の輝度値を示し、値Bt−1は、時刻t−1における背景画像の輝度値を示している。値Itは、時刻tにおける解析画像の輝度値を示している。また、値αは更新係数を示している。更新係数αは、差分処理部61の演算結果が所定の閾値以上の場合には、移動物体の画素が含まれている可能性が高いので小さく設定される。これに対して、差分処理部61の演算結果が所定の閾値未満の場合には、更新係数αは大きく設定される。すなわち、背景画像の輝度値Btは、解析画像と背景画像の輝度値の差分に応じて設定される更新係数αに従って、解析画像と1つ前の背景画像とを重み付け加算して演算される。背景画像記憶部62は、演算された背景画像の輝度値Btを用いて背景画像のデータを更新し、記憶する。
変化判定処理部63は、指定領域内の各画素のうち、差分処理部61によって算出された輝度値の差分が所定の閾値以上となっている画素の数をカウントする。変化判定処理部63は、カウントされた画素の数が一定の基準以上であった場合、移動物体が有りの判定、すなわち指定領域を移動物体の像が通過したという判定をする。
このような背景画像差分手法が適用された移動物体有無判定部43−4は、例えば、混合ガウス分布を用いて背景画像を表現することができる。この場合、差分処理部61が、このような背景画像を用いて解析画像との輝度値の差分を演算し、背景画像記憶部62が、このような背景画像のデータを更新していくことで、背景画像が平均化され、木々などの揺れや、影のゆれ等の誤検知を軽減することが可能になる。
以上、第1実施形態では採用されていない判定手法として、背景画像差分手法が適用された移動物体有無判定部43−4の機能的構成について説明した。次に、第1実施形態では採用されていない判定手法であって、背景画像差分手法とは別の手法が適用された移動物体有無判定部43−5の機能的構成について説明する。
[移動物体有無判定部43−5の機能的構成]
図12は、移動物体有無判定部43−5の機能的構成を示すブロック図である。
過去画像群差分判定手段としての移動物体有無判定部43−5には、現在の解析画像と、予め設定された複数枚の過去画像(以下、過去画像群と称する)の各々との差分を求め、この差分に基づいて移動物体の像の有無を判定する、といった判定手法が適用されている。なお、以下、このような判定手法を、過去画像群差分手法と称する。また、過去画像群差分手法に従って実行される処理を、以下、過去画像群差分処理と称する。
移動物体有無判定部43−5は、このような過去画像群差分処理を実行すべく、差分処理部81、過去画像記憶部82、及び変化判定処理部83から構成される。
差分処理部81は、判定手法選択部42から供給された現在の解析画像のデータと、過去画像記憶部82に記憶されている過去画像群のデータとに基づいて、指定領域を構成する各画素毎に、解析画像と過去画像群(すべての過去画像の各々)との輝度値の差分をそれぞれ演算する。
過去画像記憶部82は、これまでに用いられた解析画像を過去画像として、複数枚の過去画像のデータ、すなわち過去画像群のデータを記憶する。
変化判定処理部83は、指定領域内の各画素のうち、差分処理部81によって演算された輝度値の差分が全ての過去画像について所定の閾値以上となっている画素の数をカウントする。変化判定処理部63は、カウントされた画素の数が一定以上であった場合、移動物体が有りの判定、すなわち指定領域を移動物体の像が通過したという判定をする。
このように、移動物体有無判定部43−5は、過去画像群差分手法が適用されているので、影や木々のゆれ等に対して頑健になる。
次に、以上説明した背景画像差分手法に従って実行される背景画像差分処理と、過去画像群差分手法に従って実行される過去画像群差分処理との各々について、長所と短所について説明する。
[各処理の検出精度]
図13は、背景画像差分処理と過去画像群差分処理の検出精度について説明する図である。
図13では、検出領域内の背景画像が複雑な場合に、影や木々の揺れまたは輝度変化がある環境下での各処理の移動物体の検出精度と、検出領域内の背景画像が均一な場合に、影や木々の揺れまたは輝度変化がある環境下での各処理の移動物体の検出精度とを、文字OKとNGを用いて示している。図13に示されるOKは、該当する処理による検出精度が高いことを表わし、NGは、該当する処理による検出精度が低いことを表わしている。
まず、移動物体有無判定部43−4により実行される背景画像差分処理の検出精度について説明する。図13に示されるように、背景画像差分処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、影や木々の揺れがある環境下での移動物体の検出精度が高い。これに対して、背景画像差分処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、輝度変化がある環境下での移動物体の検出精度が低い。すなわち、背景画像差分処理は、背景画像に関わらず木々の揺れの像等の外乱に対して頑健であるという長所がある。しかしながら、背景画像差分処理は、検出領域内に光や影等による輝度変化が発生する場合には、背景画像に関わらず誤検出が発生するおそれがある、という短所がある。
次に、移動物体有無判定部43−5により実行される過去画像群差分処理の検出精度について説明する。図13に示されるように、過去画像群差分処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、影や木々の揺れがある環境下での移動物体の検出精度が高い。これに対して、過去画像群差分処理による検出精度は、検出領域内の背景画像が複雑な背景画像である場合でも、均一な背景画像である場合でも、輝度変化がある環境下での移動物体の検出精度が低い。すなわち、過去画像群差分処理は、背景画像に関わらず木々の揺れの像等の外乱に対して頑健であるという長所がある。しかしながら、過去画像群差分処理は、検出領域内に光や影等による輝度変化が発生する場合には、背景画像に関わらず誤検出が発生するおそれがある、という短所がある。
図9の画像解析装置40は、このような背景画像差分手法及び過去画像群差分手法と、第1実施形態のヒストグラム相関手法、伸縮ヒストグラム相関手法、及び正規化相互相関手法を含む5つの判定手法のうち2以上の任意の数の任意の種類を適用して、移動物体の像の有無を総合的に判定することができる。画像解析装置40は、これらの各処理のそれぞれの短所を補い、相互の長所を際立たせるべく、5つの処理の中から任意の数の任意の種類の処理を選択することにより、移動物体の誤検出を低減することができる、という効果を奏することが可能となる。
[画像解析処理]
次に、図14を参照して、このような機能的構成を有する画像解析装置40の処理として、画像解析処理について説明する。
図14は、画像解析処理の一例を説明するフローチャートである。
第1実施形態の画像解析装置1による画像解析処理と同様に、画像解析装置40による画像解析処理も、動画像を構成する複数の単位画像の各々のデータが、監視カメラ等から出力される毎にその都度実行される。
ステップS81において、図9の画像解析装置40の画像入力処理部41は、監視カメラ等から出力された単位画像を解析画像として、解析画像のデータを入力して、当該解析画像内に指定領域を設定する。
ステップS82において、判定手法選択部42は、上述した5つの手法、すなわち、ヒストグラム相関手法、伸縮ヒストグラム相関手法、正規化相互相関手法、背景画像差分手法、及び過去画像群差分手法の中から、2以上の任意の数の任意の種類の判定手法を選択する。これにより、移動物体有無判定部43−1乃至43−5のうち、選択された判定手法が適用された移動物体有無判定部43に対して、画像入力処理部11から出力された現在の解析画像のデータが判定手法選択部42を介して供給される。
ステップS83において、移動物体有無判定部43−1乃至43−5のうち、ステップS82の処理で選択された判定手法が適用された移動物体有無判定部43は、解析画像の指定領域を移動物体の像が通過したかの判定、すなわち移動物体有無判定を実行する。
ステップS84において、結果統合部44は、移動物体有無判定部43−1乃至43−5のうち、ステップS82の処理で選択された判定手法が適用された移動物体有無判定部43による、ステップS83の移動物体有無判定の結果を統合する。すなわち、移動物体有無判定部43−1乃至43−5のうち、ステップS82の処理で選択された判定手法が適用された移動物体有無判定部43のすべての検出結果が「移動物体あり」であった場合、統合結果は「移動物体あり」となる。これに対して、移動物体有無判定部43−1乃至43−5のうち、ステップS82の処理で選択された判定手法が適用された移動物体有無判定部43のうちの一つでも移動物体の像を検出していないという結果が出力された場合、統合結果は「移動物体なし」となる。
ステップS85において、結果出力部45は、ステップS44の統合結果を、画像解析装置40の最終的な検出結果として出力する。すなわち、本実施形態では、結果出力部45は、最終的な検出結果が「移動物体あり」の場合には、「移動物体あり」を示す警報を発生させる信号を出力する。これにより、画像解析処理は終了する。
[背景画像差分処理]
次に、図15を参照して、このような画像解析処理のステップS83の処理の一部として、図9の画像解析装置40の移動物体有無判定部43−4により実行される背景画像差分処理について説明する。
図15は、背景画像差分処理の一例を説明するフローチャートである。
ステップS101において、差分処理部61は、現在の解析画像と背景画像の各画素の輝度値の差分を演算する。
ステップS102において、変化判定処理部63は、差分が閾値以上である画素数は、一定の基準以上であるかを判定する。
解析画像と背景画像の各画素の輝度値の差分が閾値以上である画素数が一定の基準以上であると判定された場合、ステップS102の処理でYESであると判定されて、処理はステップS103に進む。
ステップS103において、変化判定処理部63は、「移動物体あり」の結果を出力し、処理はステップS105に進む。なお、ステップS105の処理については後述する。
これに対して、ステップS102において、解析画像と背景画像の各画素の輝度値の差分が閾値以上である画素数が一定の基準未満であると判定された場合、ステップS102の処理でNOであると判定されて、処理はステップS104に進む。
ステップS104において、変化判定処理部63は、「移動物体なし」の結果を出力し、処理はステップS105に進む。
ステップS105において、背景画像記憶部62は、解析画像と差分処理部61によって演算された差分から、背景画像を更新して記憶する。これにより、背景画像差分処理は終了し、処理は図14のステップS84に進む。
以上、図15を参照して、図14のステップS83の処理の一部として、図9の画像解析装置40の移動物体有無判定部43−4により実行される背景画像差分処理について説明した。次に図16を参照して、図14のステップS83の処理の一部として、図9の画像解析装置40の移動物体有無判定部43−5により実行される過去画像群差分処理について説明する。
[過去画像群差分処理]
図16は、過去画像群差分処理の一例を説明するフローチャートである。
ステップS121において、差分処理部81は、解析画像と過去画像群との各画素の輝度値の差分を演算する。すなわち、差分処理部81は、判定手法選択部42から供給された現在の解析画像のデータと、過去画像記憶部82に記憶されている過去画像群のデータとに基づいて、指定領域を構成する各画素毎に、解析画像と過去画像群(すべての過去画像の各々)との輝度値の差分をそれぞれ演算する。
ステップS122において、変化判定処理部83は、すべての過去画像との差分が閾値以上である画素数は、一定の基準以上かを判定する。
すべての過去画像との差分が閾値以上である画素数が一定の基準以上であると判定された場合、ステップS122の処理でYESであると判定されて、処理はステップS123に進む。
ステップS123において、変化判定処理部83は、「移動物体あり」の結果を出力し、過去画像群差分処理は終了する。
これに対して、ステップS122において、すべての過去画像との差分が閾値以上である画素数が一定の基準未満であると判定された場合、ステップS122の処理でNOであると判定されて、処理はステップS124に進む。
ステップS124において、変化判定処理部83は、「移動物体なし」の結果を出力し、過去画像群差分処理は終了する。
ステップS123またはステップS124の処理の結果が出力されると、処理は図14のステップS84に進む。
以上、図16を参照して、図14のステップS83の処理の一部として、図9の画像解析装置40の移動物体有無判定部43−5により実行される過去画像群差分処理について説明した。
以上、移動物体の像の有無を判定する構成要素が5つである第2実施形態について説明した。なお、第2実施形態では、移動物体有無判定部43−1乃至43−5の中から、任意の数の任意の種類が判定手法選択部42によって判定手法として選択されたが、特にこれに限定されない。例えば、判定手法選択部42が選択する移動物体有無判定部43の数と種類は、予めユーザによって判定手法選択部42に設定されていてもよい。
第1及び第2実施形態の画像解析装置は、上述した監視システムに適用できることは勿論のこと、その他各種各様の分野に適用することが可能である。以下、図17乃至図19を参照して、第1及び第2実施形態の画像解析装置の適用の例を幾つか説明する。
[画像解析装置の適用の例1]
図17は、第1実施形態または第2実施形態の画像解析装置を構成要素に含む監視システムの機能的構成例を示すブロック図である。
図17の監視システム101は、撮像部111、撮像信号処理部112、撮像データ処理部113、上述した画像解析装置1または画像解析装置40からなる画像解析部114、及び伝送部115から構成されている。
撮像部111は、主にCCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子やレンズからなり、具体的には例えば監視カメラからなり、移動物体等を撮像し、その結果得られる撮像信号を出力する。
撮像信号処理部112は、撮像信号に対して、各種画像処理、例えば、適切な諧調に補正する処理、ノイズ除去処理、カラー化処理等を施す。その結果、撮像信号処理部112からは、デジタルの撮像信号、すなわち、撮像画像のデータが出力されて、撮像データ処理部113と画像解析部114とに供給される。
撮像データ処理部113は、撮像画像のデータをネットワークに流すための形態に変換する処理、例えば、撮像画像のデータの圧縮符号化処理を施す。
画像解析部114は、画像解析装置1または画像解析装置40の説明として上述したように、撮像信号処理部112から出力される撮像画像のデータを解析画像のデータとして解析することによって、当該解析画像の指定領域内を移動する移動物体の像を検出する。画像解析部114は、移動物体の像を検出した場合には、「移動物体あり」を示す信号を出力する。
伝送部115は、撮像データ処理部113により符号化された画像データ及び画像解析部114の出力信号を多重化してネットワークに伝送する。画像解析部114の出力信号がネットワークを介して伝送された図示せぬ警報装置等は、「移動物体あり」を示す警報を発生させる。
[画像解析装置の適用の例2]
図18は、第1実施形態または第2実施形態の画像解析装置を構成要素に含むシステムであって、監視カメラ以外の外部からの画像信号をネットワーク上のストリームに変更するシステムの機能的構成例を示すブロック図である。
図18のシステム131は、画像入力部141、画像信号処理部142、画像データ処理部143、上述した画像解析装置1または画像解析装置40からなる画像解析部144、及び伝送部145から構成されている。
画像入力部141は、監視カメラ以外の外部からの画像信号、例えばアナログカメラからの画像信号を入力する。
画像信号処理部142は、撮像信号処理部112と同様に、画像信号に対して、各種画像処理、例えば、適切な諧調に補正する処理、ノイズ除去処理、カラー化処理等を施す。その結果、画像信号処理部142からは、デジタルの画像信号、すなわち、画像のデータが出力されて、画像データ処理部143と画像解析部144とに供給される。
画像データ処理部143は、撮像データ処理部113と同様に、画像のデータをネットワークに流すための形態に変換する処理、例えば、画像のデータの圧縮符号化処理を施す。
画像解析部144は、画像解析装置1または画像解析装置40の説明として上述したように、画像信号処理部142から出力される画像のデータを解析画像のデータとして解析することによって、当該解析画像の指定領域内を移動する移動物体の像を検出する。画像解析部144は、移動物体の像を検出した場合には、「移動物体あり」を示す信号を出力する。
伝送部145は、伝送部115と同様に、画像データ処理部143により符号化された画像データ及び画像解析部144の出力信号を多重化してネットワークに伝送する。画像解析部144の出力信号がネットワークを介して伝送された図示せぬ警報装置等は、「移動体あり」を示す警報を発生させる。
[画像解析装置の適用の例3]
図19は、第1実施形態または第2実施形態の画像解析装置を構成要素に含む他のシステムの機能的構成例を示すブロック図である。
図19のシステム161は、アナログ信号とデータ(デジタルの信号)との形態の違いによらず、処理した信号を保存するレコーダや、処理した信号に基づいてアラームを出力する専用装置やパーソナルコンピュータを含むシステムである。
図19のシステム161は、画像入力部171、画像信号処理部172、上述した画像解析装置1または画像解析装置40からなる画像解析部173、及び伝送部174から構成されている。
画像入力部171は、画像入力部141と同様に、監視カメラ以外の外部からの画像信号を入力する。
画像信号処理部172は、撮像信号処理部112や画像信号処理部142と同様に、画像信号に対して、各種画像処理、例えば、適切な諧調に補正する処理、ノイズ除去処理、カラー化処理等を施す。その結果、画像信号処理部172からは、デジタルの画像信号、すなわち、画像のデータが出力されて、画像解析部173に供給される。
画像解析部173は、画像解析装置1または画像解析装置40の説明として上述したように、画像信号処理部172から出力される画像のデータを解析画像のデータとして解析することによって、当該解析画像の指定領域内を移動する移動物体の像を検出する。画像解析部173は、移動物体の像を検出した場合には、「移動物体あり」を示す信号を出力する。
伝送部174は、画像解析部173の出力信号をネットワークに伝送する。画像解析部173の出力信号がネットワークを介して伝送された図示せぬ警報装置等は、「移動物体あり」を示す警報を発生させる。
このような各種各様の分野に適用可能な本発明の実施形態は、上述した実施形態に特に限定されず、様々な実施の形態を取ることが可能である。
[本発明のプログラムへの適用]
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることができる。
この場合、上述した移動物体検出装置の少なくとも一部として、例えば、図20に示されるパーソナルコンピュータを採用してもよい。
図20において、CPU(Central Processing Unit)201は、ROM(Read Only Memory)202に記録されているプログラムに従って各種の処理を実行する。または記憶部208からRAM(Random Access Memory)203にロードされたプログラムに従って各種の処理を実行する。RAM203にはまた、CPU201が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU201、ROM202、及びRAM203は、バス204を介して相互に接続されている。このバス204にはまた、入出力インタフェース205も接続されている。
入出力インタフェース205には、キーボード、マウスなどよりなる入力部206、ディスプレイなどよりなる出力部207が接続されている。また、ハードディスクなどより構成される記憶部208、及び、モデム、ターミナルアダプタなどより構成される通信部209が接続されている。通信部209は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
入出力インタフェース205にはまた、必要に応じてドライブ210が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブルメディア211が適宜装着される。そして、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部208にインストールされる。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
このようなプログラムを含む記録媒体は、図20に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア(パッケージメディア)211により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM202や、記憶部208に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
本発明は、監視カメラ、パーソナルコンピュータ、アラームを出力する専用装置等、画像データを解析する解析部を備えた装置であって、移動物体の像を検出可能な装置に適用することができる。
1 画像解析装置, 11 画像入力処理部, 12 ヒストグラム生成処理部, 13 輝度値演算処理部, 14 ヒストグラム相関判定処理部, 15 伸縮ヒストグラム相関判定処理部, 16 正規化相互相関判定処理部, 17 結果統合部, 18 結果出力部, 40 画像解析装置, 41 画像入力処理部, 42 判定手法選択部, 43 移動物体有無判定部, 44 結果統合部, 45 結果出力部, 61 差分処理部, 62 背景画像記憶部, 63 変化判定処理部, 81 差分処理部, 82 過去画像記憶部, 83 変化判定処理部, 101 監視システム, 111 撮像部, 112 撮像信号処理部, 113 撮像データ処理部, 114 画像解析部, 115 伝送部, 131 システム, 141 画像入力部, 142 画像信号処理部, 143 画像データ処理部, 144 画像解析部, 145 伝送部, 161 システム, 171 画像入力部, 172 画像信号処理部, 173 画像解析部, 174 伝送部

Claims (7)

  1. 解析画像のデータを入力し、前記解析画像内で指定領域を設定する処理を実行する画像入力処理手段と、
    前記画像入力処理手段により設定された前記指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものをそれぞれ適用し、適用した前記判定手法に従って前記移動物体の像の有無を判定する複数の判定手段と、
    前記複数の判定手段の判定結果のうち任意の数の任意の種類を統合することによって、前記移動物体の像を検出する統合手段と、
    を備える移動物体検出装置。
  2. 前記判定手段は、
    現在と過去の各々の前記解析画像内の前記指定領域の輝度値の分布を示すヒストグラムの相関を用いて前記移動物体の像の有無を判定するヒストグラム相関手法を、前記判定手法として適用したヒストグラム相関判定手段と、
    現在と過去の各々の前記解析画像内の前記指定領域の輝度値の分布を示すヒストグラムのうち、一方のヒストグラムと、輝度値の軸の方向において平均値を前記一方のヒストグラムとあわせるように伸縮させた他方のヒストグラムとの相関を用いて前記移動物体の像の有無を判定する伸縮ヒストグラム相関手法を、前記判定手法として適用した伸縮ヒストグラム相関判定手段と、
    現在と過去の各々の前記解析画像内の前記指定領域を構成する各画素の輝度値及び平均輝度値に基づく正規化相互相関を用いて前記移動物体の像の有無を判定する正規化相互相関手法を、前記判定手法として適用した正規化相互相関判定手段と
    を備え、
    前記統合手段は、前記ヒストグラム相関判定手段、前記伸縮ヒストグラム相関判定手段、及び、前記正規化相互相関判定手段の判定結果のうち、2つ以上を統合することによって、前記移動物体の像を検出する
    請求項1に記載の移動物体検出装置。
  3. 前記統合手段は、前記ヒストグラム相関判定手段、前記伸縮ヒストグラム相関判定手段、及び、前記正規化相互相関判定手段の全てによって前記移動物体の像が有ると判定された場合に、前記移動物体の像を検出する
    請求項2に記載の移動物体検出装置。
  4. 前記判定手段は、さらに、
    前記解析画像に対する背景画像の差分として、前記指定領域内の輝度値の差分を用いて前記移動物体の像の有無を判定する背景画像差分手法を、前記判定手法として適用した背景画像差分判定手段
    を有する請求項3に記載の移動物体検出装置。
  5. 前記判定手段は、さらに、
    現在の前記解析画像に対する複数の過去の前記解析画像の各々との差分として、前記指定領域内の輝度値の差分を用いて前記移動物体の像の有無を判定する過去画像群差分手法を、前記判定手法として適用した過去画像群差分判定手段
    を有する請求項4に記載の移動物体検出装置。
  6. 解析画像のデータを入力し、前記解析画像内で指定領域を設定する処理を実行する画像入力処理ステップと、
    前記画像入力処理ステップの処理により設定された前記指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものをそれぞれ適用し、適用した前記判定手法に従って前記移動物体の像の有無を判定する複数の判定ステップと、
    前記複数の判定ステップの処理による判定結果のうち任意の数の任意の種類を統合することによって、前記移動物体の像を検出する統合ステップと
    を含む動体検出方法。
  7. 解析画像のデータを入力し、前記解析画像内で指定領域を設定する処理を実行し、
    設定された前記指定領域を移動する移動物体の像の有無を判定する判定手法として相異なるものをそれぞれ適用し、適用した前記判定手法に従って前記移動物体の像の有無を判定し、
    判定結果のうち任意の数の任意の種類を統合することによって、前記移動物体の像を検出する
    制御処理をコンピュータに実行させるプログラム。
JP2010080519A 2010-03-31 2010-03-31 移動物体検出装置及び方法、並びにプログラム Withdrawn JP2011215695A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010080519A JP2011215695A (ja) 2010-03-31 2010-03-31 移動物体検出装置及び方法、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010080519A JP2011215695A (ja) 2010-03-31 2010-03-31 移動物体検出装置及び方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JP2011215695A true JP2011215695A (ja) 2011-10-27

Family

ID=44945383

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010080519A Withdrawn JP2011215695A (ja) 2010-03-31 2010-03-31 移動物体検出装置及び方法、並びにプログラム

Country Status (1)

Country Link
JP (1) JP2011215695A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110135158A1 (en) * 2009-12-08 2011-06-09 Nishino Katsuaki Image processing device, image processing method and program
JP2014532947A (ja) * 2011-11-09 2014-12-08 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited 人物検出モダリティ結果を融合して人物カウンティングを向上させる方法及びシステム
WO2015005196A1 (ja) * 2013-07-09 2015-01-15 株式会社日立国際電気 画像処理装置及び画像処理方法
WO2016006336A1 (ja) * 2014-07-11 2016-01-14 ソニー株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110135158A1 (en) * 2009-12-08 2011-06-09 Nishino Katsuaki Image processing device, image processing method and program
US8630453B2 (en) * 2009-12-08 2014-01-14 Sony Corporation Image processing device, image processing method and program
JP2014532947A (ja) * 2011-11-09 2014-12-08 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited 人物検出モダリティ結果を融合して人物カウンティングを向上させる方法及びシステム
WO2015005196A1 (ja) * 2013-07-09 2015-01-15 株式会社日立国際電気 画像処理装置及び画像処理方法
US9547890B2 (en) 2013-07-09 2017-01-17 Hitachi Kokusai Electric Inc. Image processing apparatus and image processing method
WO2016006336A1 (ja) * 2014-07-11 2016-01-14 ソニー株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム
JPWO2016006336A1 (ja) * 2014-07-11 2017-04-27 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法、および、プログラム
US10198658B2 (en) 2014-07-11 2019-02-05 Sony Semiconductor Solutions Corporation Image processing device, imaging device, image processing method, and program

Similar Documents

Publication Publication Date Title
US9330446B2 (en) Method and apparatus for processing image
US9524558B2 (en) Method, system and software module for foreground extraction
KR102428127B1 (ko) 움직임 영역 검출 장치 및 방법
KR20130142913A (ko) 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법
JP2011210179A (ja) 移動物体検出装置及び方法、並びにプログラム
US10063779B2 (en) Image processing apparatus, image capturing apparatus, image processing method, and storage medium
KR20170038144A (ko) 어텐션 검출 장치 및 어텐션 검출 방법
JP2013143102A (ja) 移動物体検出装置、移動物体検出方法およびプログラム
KR101537559B1 (ko) 객체 검출 장치, 차량용 객체 검출 장치 및 이들의 방법
JP2011215695A (ja) 移動物体検出装置及び方法、並びにプログラム
JPWO2009096422A1 (ja) 3次元形状測定装置および方法、並びに、プログラム
JP7204052B1 (ja) 周囲光画像補正を実行するためのシステム
JP2016167681A (ja) 画像生成装置および画像生成方法
EP2827580B1 (en) Flicker detection method and flicker detection apparatus
KR101529384B1 (ko) 피사체 검출 장치, 피사체 검출 방법 및 기록 매체
CN113052019A (zh) 目标跟踪方法及装置、智能设备和计算机存储介质
JP2015226326A (ja) 映像解析方法及び映像解析装置
KR20140045834A (ko) 단일객체의 크기를 추정하는 영상 감시장치 및 방법
KR20100073366A (ko) 변화값 템플릿을 이용한 객체 모델링 방법 및 그 시스템
JP6953184B2 (ja) 画像処理装置および画像処理方法
KR101772928B1 (ko) 휘도 평활화와 광흐름 분석을 이용한 이동탐지 시스템 및 방법
KR20200094940A (ko) 히트맵을 생성하는 장치 및 방법
CN108711164A (zh) 一种基于LBP和Color特征的运动检测方法
KR20220057025A (ko) 인공지능 기반의 rgb 채널 잔차 산출을 통한 미세먼지 판독 솔루션 및 시스템
KR20220057026A (ko) 인공지능 기반의 채도 잔차 산출을 통한 미세먼지 판독 솔루션 및 시스템

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20130604