以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1に示すように、本実施の形態に係る監視システム5は、遠赤外カメラ90及び監視装置10を備えている。
遠赤外カメラ90は、例えば、遠赤外線領域に相当する3μm〜1000μmの波長を捉えるカメラである。本発明に従えば、数万ピクセルの高解像度な遠赤外カメラを用いてもよいが、数百〜数千ピクセル程度の低解像度の遠赤外カメラを用いても効果を得られる。ここでは一例として、遠赤外カメラ90は、数百〜数千ピクセル程度の低解像度の遠赤外カメラであるものとして説明する。
遠赤外カメラ90は図2に示すように、例えば、住宅の部屋等の予め定めた箇所に固定して取り付けられ、予め定めた範囲内の遠赤外画像を撮影する。図2の例では、遠赤外カメラ90の撮影範囲内に、エアコン100、暖房器具102、窓104、テレビ106、ペット108、及び人物110が存在している。
図3は、図2に示した部屋の様子を遠赤外カメラ90で撮影した際の遠赤外画像の一例を示した図である。
遠赤外カメラ90は、遠赤外線領域の波長を捉える低解像度のカメラであるため可視光カメラや高解像度の遠赤外カメラとは異なり、図3に示すように、撮影した遠赤外画像に含まれる物体の輪郭はぼやけ、遠赤外画像を目視しただけでは、遠赤外画像に含まれる物体の種別を特定することができない。一方、物体の温度に応じて物体から放射される遠赤外線量が異なるため、遠赤外カメラ90の各画素は、この遠赤外線量から物体の温度を検知し、検知した温度に応じた画素値を出力することで遠赤外画像から物体の温度情報を出力する。なお、一例として、物体の温度が高くなるに従って遠赤外カメラ90の画素が出力する画素値が大きくなる。また、遠赤外カメラ90の各画素は、撮影した遠赤外画像の水平方向の画素数がWimage、垂直方向の画素数がHimageとなるように、矩形に配置されているものとする。
なお、遠赤外カメラ90によって撮影される遠赤外画像は、静止画又は動画の何れであってもよい。
一方、図1における監視装置10は、CPUと、RAMと、後述する背景画像算出ルーチン及び人物判定ルーチンを実行するためのプログラムを記憶したROMとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
監視装置10は、受付部20と、演算部25と、出力部70と、記憶部80とを備えている。また、演算部25は、抽出部30と、取得部40と、蓄積部50、判定部60とを備えている。
受付部20は、遠赤外カメラ90により撮影された遠赤外画像を受け付ける。既に説明したように、遠赤外画像の各画素値は温度を表すため、図4に示すように、遠赤外カメラ90の撮影範囲内の温度分布を示した遠赤外画像が取得できる。なお、図4に示した遠赤外画像の例では、遠赤外画像中央部に周囲の温度とは異なる25℃〜35℃の範囲の温度を有する何らかの物体が認められる。また、図4に示した遠赤外画像の例は、遠赤外画像に含まれる物体の1つに注目したものであり、実際の遠赤外画像には図3に示したように複数の物体が含まれる。
また、受付部20は、例えば監視装置10の起動又は停止等の、監視装置10の動作に関する指示を更に受け付ける。
抽出部30は、受付部20で受け付けた遠赤外画像から背景画像14を生成し、生成した背景画像14と、背景画像生成後に受付部20で受け付けた遠赤外画像である入力画像12とを比較して、入力画像12から背景画像14の温度分布と異なる領域、すなわち、背景画像14の温度より高い或いは低い領域が一定の大きさでまとまっている領域である熱源領域16を抽出する。図5はこの処理を模式的に説明した図であり、背景画像14を用いて入力画像12から熱源領域16を抽出する様子を示している。
ここで背景画像14とは、受付部20で受け付けた、予め定めた枚数Nの遠赤外画像から算出される画像である。
具体的には、遠赤外画像の各画素の配置を、図4に示すように遠赤外画像の左上の頂点に位置する画素を原点とした、遠赤外画像の水平方向をX軸、遠赤外画像の垂直方向をY軸とする(x、y)座標で表した場合、背景画像14は(1)式及び(2)式によって算出される。
ここで、In(x,y)は、N枚の遠赤外画像のうちn枚目(n=1,・・・,N)の遠赤外画像の座標(x,y)における画素の画素値、I^(x,y)は、背景画像14の座標(x,y)における画素の平均値、σ(x,y)は背景画像14の座標(x,y)における画素の標準偏差を表す。
そして、抽出部30は、入力画像12と背景画像14との差分を(3)式に従って計算し、入力画像12から熱源領域16を抽出するためのフィルタF(x,y)を算出する。
ここで、I(x,y)は入力画像12の座標(x,y)における画素の画素値、Mは熱源領域16を抽出するための画素値マージンを表す。これはすなわち、画素の値は温度情報を示すため、画素値マージンは温度マージンを表しているとも言うことができる。
抽出部30は、フィルタF(x,y)の値に基づいて、入力画像12からF(x,y)=1となる領域を熱源領域16として抽出する。そして、抽出部30は、背景画像14及び熱源領域16を記憶部80に記憶する。
取得部40は、抽出部30で抽出された熱源領域16毎に属性情報を取得する。ここで、熱源領域16の属性情報とは、各熱源領域16の温度分布から得られる定量的な値をいう。図6は、熱源領域16の属性情報の一例を示した図であり、取得部40は、熱源領域16から例えば位置、寸法、面積、及び温度に関する情報を属性情報として取得する。
熱源領域16の位置に関する属性情報として、例えば、熱源領域16の中央点PC及び重心点PGがある。熱源領域16の中央点PCとは、図7に示すように、4辺が熱源領域16に接する長方形の対角線が交差する位置における入力画像12上の座標点をいう。また、熱源領域16の重心点PGとは、熱源領域16の質量中心における入力画像12上の座標点をいう。
そして、熱源領域16の寸法に関する属性情報として、例えば、熱源領域16の幅W及び高さHがある。熱源領域16の幅Wとは、図7に示すように、4辺が熱源領域16に接する長方形の水平方向の画素数をいう。また、熱源領域16の高さHとは、当該長方形の垂直方向の画素数をいう。
そして、熱源領域16の面積に関する属性情報として、例えば、熱源領域16の画素数Sがある。なお、熱源領域16の画素数Sは、入力画像12から熱源領域16を抽出する際に算出したフィルタF(x,y)において、F(x,y)=1である画素数を計測することで取得することができる。
そして、熱源領域16の温度に関する属性情報として、例えば、熱源領域16の平均温度Tave、最高温度Tmax、及び最低温度Tminがある。熱源領域16の平均温度Taveは、熱源領域16に含まれる各画素における画素値の平均値、熱源領域16の最高温度Tmaxは、熱源領域16に含まれる画素のうち最大の画素値、熱源領域16の最低温度Tminは、熱源領域16に含まれる画素のうち最小の画素値として取得することができる。
蓄積部50は、取得部40で取得した熱源領域16の属性情報と、当該属性情報の時間経過を表す時刻情報と、を関連付けて、熱源領域16の属性情報及び時刻情報を記憶部80へ蓄積する。
なお、入力画像12に複数の熱源領域16が含まれ、各々の熱源領域16から属性情報が取得された場合、これらの属性情報は同時刻に撮影された入力画像12から得られた属性情報であるため、各々の属性情報に同じ時刻情報を関連づける。このように本実施形態では、一例として時系列を時刻で表すものとして説明を行うが、例えば連番等、他の時系列を表す指標を用いるようにしてもよい。
判定部60は、予め定めた期間に亘って記憶部80に熱源領域16の属性情報が蓄積された後、例えば受付部20で入力画像12を受け付ける毎に、受け付けた入力画像12に含まれる熱源領域16の属性情報、及びこれまで記憶部80に蓄積された過去の入力画像12に含まれる熱源領域16の属性情報に基づいて、新たに受け付けた入力画像12に含まれる熱源領域16が示す物体の種別を判定する。
そのため、まず判定部60は、熱源領域16に対して、取得部40で取得された属性情報に基づいて予備判定を実施する。
予備判定は、熱源領域16が示す物体が人物である可能性、すなわち「人らしさ」を判定する。従って、予備判定により熱源領域16が示す物体が人らしいと判定された場合であっても、直ちに熱源領域16が人物であると確定されるわけではない。
図8は、予備判定の判定項目及び判定条件の一例を示した図である。図8に示すように、例えば、予備判定は属性情報に対して縦横比、面積、及び温度に関する各判定項目を含む。
一般的に、人物の形状は上下方向に長い縦長である場合が多いことから、属性情報に含まれる幅W及び高さHが、判定条件H>αWを満たすか否かを判定する。ここでαは、幅Wと高さHとの大小関係を調整するための予め定めた係数である。
また、人物であれば入力画像12内に一定以上の面積を有し、且つ、通常取りうる体温の範囲も予め予測できることから、属性情報に含まれる面積Sに対してS>Sthの条件を満たし、属性情報に含まれる平均温度Taveに対して、Tth1<Tave<Tth2の条件を満たすか否かを判定する。ここで、Sthは入力画像12において、熱源領域16を人物と判定するのに必要な面積、Tth1は熱源領域16を人物と判定するための下限温度、Tth2は熱源領域16を人物と判定するための上限温度を表す。
ここで、面積Sに対するS>Sthの条件の替わりに、Smax>S>Sthのように面積Sに対して上限値Smaxを設けるようにしてもよい。Smaxは入力画像12において人物の面積として考えられる上限の面積値である。面積Sに対して上限値Smaxを設けることで、人物としてあり得ない大きさの熱源領域16を人らしいと判定してしまうことを防止することができる。
なお、係数α、面積Sth、Smax、下限温度Tth1、上限温度Tth2、は、遠赤外カメラ90の画素数や撮影範囲、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて決定する。一例として、遠赤外カメラ90の水平方向×垂直方向における画素数が50×50、撮影範囲が60度のカメラを室内の天井に設置した場合、α=1.0、Sth=0.008×Wimage×Himage、Tth1=20、Tth2=40となる。
そして、判定部60は縦横比、面積、及び温度に関する全ての判定条件を満足する属性情報に対してR=1、それ以外の属性情報に対してR=0の情報を関連付ける。
そして、判定部60は、あるタイミングにおける熱源領域16の属性情報に関連付けられた時刻情報をtとした場合、当該熱源領域16が示す物体の種別を、物体の種別毎に予め定めた判定式に従って判定する。
図9は、物体の種別毎に予め定めた判定式の一例を示した図である。
図9におけるNo.1の判定式1)は、熱源領域16が示す物体が人物か否かを判定する判定式であり、図10は、判定式1)が表す状況の一例を示した図である。
判定式1)は、最新の時刻tからparam1で表される予め定めた時点nまで過去に遡った範囲に含まれる各時刻における属性情報の「人らしさ」を表すR(t−n)の総和が、param2より大きく、かつ、R(t)=1、すなわち、最新の時刻tにおける熱源領域16が人らしいと判定された場合に、最新の時刻tにおいて抽出された熱源領域16が示す物体の種別を人物と判定するための判定式である。
図10は、R(t−n)の総和が5となった例で、最新の時刻からparam1時点まで遡った範囲のうち、時刻t、(t−n1)、(t−n2)、(t−n3)、及び(t−n4)における熱源領域16が人らしいと判定された例を示している。ここで、n1〜n4は1以上param1以下、かつ、n1<n2<n3<n4の大小関係を有する任意の自然数を表し、図10の“・・・”は、人らしいと判定されなかった時刻の範囲を示す。
判定式1)を満足する場合、入力画像12内に人物がいると判定する。しかし、熱源領域16が示す物体が人物か否かを判定する判定式は判定式1)に限られない。
例えば、図11に示すように、最新の時刻から過去に遡ったparam1A個の各時点での熱源領域16が連続して人らしいと判定された場合に、最新の時刻tから抽出された熱源領域16が示す物体の種別を人物と判定するようにしてもよい。図11の例では、最新の時刻から過去に遡った5個の各時点での熱源領域16が人らしいと連続して判定された状況を示している。
また、例えば、図12に示すように、最新の時刻tからparam1Bで表される時点まで過去に遡った範囲において、熱源領域16が複数回連続して人らしいと判定された回数がparam2B以上となり、かつ、最新の時刻tにおける熱源領域16が人らしいと判定された場合に、最新の時刻tにおいて抽出された熱源領域16が示す物体の種別を人物と判定するようにしてもよい。図12の例では、最新の時刻からparam1Bで表される時点まで過去に遡った範囲において、2回連続して人らしいと判定された回数が3回ある状況を示している。図12における“・・・”は、図10と同様に、人らしいと判定されなかった時刻の範囲を示す。
なお、図12の例では、2回連続して人らしいと判定された回数がparam2B以上か否か判定しているが、人らしいと判定される連続数は2回に限られない。例えばP(Pは2以上の自然数)回連続して人らしいと判定された回数がparam2B以上か否か判定するようにしてもよいことは言うまでもない。
また、図10〜図12におけるparam1、param2、param1A、param1B、及びparam2Bの各パラメータは自然数を表し、遠赤外カメラ90の画素数や撮影範囲、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて予め決定される。
人は住宅の部屋等の住居内においては立って移動するだけでなく、例えば椅子に座ったり、床に寝転がったりするため、遠赤外カメラ90で撮影される人物の形状は、上下方向に長い縦長であるとは限らない。従って、熱源領域16が示す物体が人物であったとしても、図8に示した予備判定の縦横比に関する判定項目が満足されないことから、人物を表す熱源領域16を人物ではないと判定し、入力画像12から人物を見失う可能性が考えられる。また、例えば遠赤外カメラ90の性能が悪い場合や、人物が家具の後ろに隠れてしまった場合等にも、人物を表す熱源領域16を人物ではないと判定し、入力画像12から人物を見失う可能性が考えられる。
しかし、入力画像12から人物を見失ってしまった場合でも、人物が部屋に入るタイミングや出るタイミング等、人物が部屋にいる間には、複数回の期間に亘って人物が立って部屋を移動する状況が発生する。従って、上記図10〜図12に示した人物の判定方法は、人物が部屋に入ってから出るまでの期間の途中で、人物の姿勢の変化等から図8に示した予備判定の判定項目の何れかを満足せずに、入力画像12から人物を見失った場合であっても、最新の時刻tにおいて抽出された熱源領域16が示す物体の種別を人物と判定することができる。
上記の理由から、param1を、1秒〜10秒程度に対応する回数に設定すればよいが、param1Bの値は、10秒〜数分程度のオーダーに対応する回数に設定する。
なお、熱源領域16が示す物体が人物か否かを判定する図9におけるNo.1の判定式1)では、特に熱源領域16の位置の変化に関する判定を行っていないが、例えば、熱源領域16の位置の変化量が予め定めた閾値より大きい場合に、熱源領域16が示す物体の種別を人物と判定する判定条件を追加するようにしてもよい。
状況によっては、人物と後述する窓等の静止物との大きさが同程度となる場合が考えられることから、判定式1)に熱源領域16の位置の変化量に関する判定条件を追加することで、窓等の静止物と人物との誤判定を低減する効果が期待できる。なお、熱源領域16の位置の変化量に関する判定条件は、図11及び図12を用いて説明した人物の判定方法に追加してもよいことは言うまでもない。
また、遠赤外カメラ90の設置位置によっては、遠赤外カメラ90のレンズの真下に人物が来てしまい、人物に対応した熱源領域16の縦横比がほぼ1:1、すなわち熱源領域16の形状が円形に近い形状となることがある。こうした状況は、例えば広角レンズを装着した遠赤外カメラ90を部屋の中央付近の天井に設置して、より広い範囲を撮影しようとする場合に発生しやすい。
従って、遠赤外カメラ90の入力画像12において、遠赤外カメラ90のレンズの真下に相当する範囲を示す情報を予め記憶部80に記憶しておき、当該範囲に熱源領域16が存在する場合には、図8に示した縦横比の判定条件を調整するαの値を、より“1”に近づけた値に変更するようにしてもよい。
この様に、遠赤外カメラ90の設置位置に関する情報、及び遠赤外カメラ90が装着するレンズ等の設定に関する情報からαの値を調整することで、入力画像12に人物が含まれるか否かの判定精度を向上させることができる。
図9におけるNo.2の判定式2)〜4)は、熱源領域16が示す物体がエアコンか否かを判定する判定式である。エアコンは、入力画像12の比較的上部に固定して設置され、夏期には周囲の温度、すなわち室温より低い温度を示し、冬期には室温より高い温度を示す傾向が見られる。
従って、判定式2)は、属性情報の中央点PCが入力画像12の上半分にあることを示した判定式である。ここでPcy(t)は、時刻tにおける属性情報の中央点PCのy座標を表す。以下、何れかの属性情報を表す記号Zに対して、Z(t)は時刻tにおける属性情報を表すものとする。
判定式3)は、属性情報の中央点PCが変動していないことを示した判定式である。ここで、dPcy(t)/dtは、例えば、時刻(t−n)における中央点PCのy座標から時刻tにおける中央点PCのy座標の時間変化を表す値である。なお、時刻(t−n)(nは0以上の整数)は、時刻tよりn個過去に遡った時点の時刻を表す。
判定式4)は、時刻tにおける属性情報の平均温度Taveと、室温Troomとの関係を判定するための判定式である。判定式4)は、季節に応じて判定に用いられる判定式が異なる。例えば、6月から9月までの夏期の間では、(4)式が用いられ、12月から3月までの冬期の間では、(5)式が用いられる。
(4)式は、時刻tにおける属性情報の平均温度Taveが、室温Troomより低いことを示した判定式である。一方、(5)式は、平均温度Taveが室温Troomより高いことを示した判定式である。
ここで、param4は室温Troomを調整するためのマージンである。なお、図9におけるparamβ(βは自然数)及び室温Troomは、遠赤外カメラ90の画素数や撮影範囲、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて予め決定しておく。
そして、判定部60は、時刻tにおける属性情報が判定式2)〜4)を全て満足する場合、当該熱源領域16が示す物体は、エアコンであると判定する。なお、上記に示した夏期及び冬期の期間は一例であり、夏期が6月から9月の期間に、また、冬期が12月から3月の期間に限定されるものではない。
図9におけるNo.3の判定式5)〜8)は、熱源領域16が示す物体が暖房器具か否かを判定する判定式である。
暖房器具は、室内の比較的下部に固定して設置され、周囲の温度、すなわち室温より高い温度を示すと共に、当該室温より高い温度を示す範囲が比較的狭い範囲に限定される傾向が見られる。判定式5)〜8)は、こうした暖房器具に特徴的な属性情報の傾向を定式化したものであり、判定部60は、時刻tにおける熱源領域16の属性情報が判定式5)〜8)を全て満足する場合、当該熱源領域16が示す物体は、暖房器具であると判定する。
また、図9におけるNo.4の判定式9)〜11)は、熱源領域16が示す物体が窓か否かを判定する判定式である。
窓は建物に固定して設置され、昼間の温度が夜間の温度より高く、その大きさは比較的大きいという傾向が見られる。判定式9)〜11)は、こうした窓に特徴的な属性情報の傾向を定式化したものであり、判定部60は、時刻tにおける熱源領域16の属性情報が判定式9)〜11)を全て満足する場合、当該熱源領域16が示す物体は、窓であると判定する。
なお、判定式10)において、平均温度Tave(night)とは、夜間に相当する時刻に対応した時刻における属性情報の平均温度を表し、平均温度Tave(day)とは、昼間に相当する時刻に対応した時刻における属性情報の平均温度を表す。例えば、6時以降から18時未満までの期間を昼間、18時以降から6時未満までの期間を夜間とし、判定式9)を判定するが、昼間及び夜間の期間設定はこれに限定されるものではない。
また、図9におけるNo.5の判定式12)〜14)は、熱源領域16が示す物体がテレビか否かを判定する判定式である。
テレビは室内に固定して設置され、人物がいる場合に電源が投入され視聴される場合が多いことから、人物がいる間、室温より高い温度を示し、その大きさは比較的大きいという傾向が見られる。判定式12)〜14)は、こうしたテレビに特徴的な属性情報の傾向を定式化したものであり、判定部60は、時刻tにおける熱源領域16の属性情報が判定式12)〜14)を全て満足する場合、当該熱源領域16が示す物体は、テレビであると判定する。
なお、判定式13)において、“Tave(t)>param11 if R(t)=1”とは、時刻が同じ属性情報で、且つ、現在注目している物体の種別の判定対象である属性情報、すなわち特定属性情報とは異なる属性情報に予備判定の結果がR=1である属性情報が存在する場合に、特定属性情報の平均温度Tave(t)がparam11より高いか否かを表す判定式である。
また、図9におけるNo.6の判定式15)〜17)は、熱源領域16が示す物体が灰皿か否かを判定する判定式である。
灰皿は、例えば使用中はテーブル等の一定の位置に置かれ、喫煙中に火のついたタバコが置かれる場合が多いことから、人物がいる間、室温よりかなり高い温度を示し、その大きさは小さいという傾向が見られる。判定式15)〜17)は、こうした灰皿に特徴的な属性情報の傾向を定式化したものであり、判定部60は、時刻tにおける熱源領域16の属性情報が判定式15)〜17)を全て満足する場合、当該熱源領域16が示す物体は、灰皿であると判定する。
また、図9におけるNo.7の判定式18)〜22)は、熱源領域16が示す物体がペットか否かを判定する判定式である。
ペットの形状は縦及び横の長さが同一、すなわち縦横比が1、又は左右方向に長い横長であり、ペットは、室内の床を移動することから入力画像12の比較的下部に位置し、移動量が多く、その大きさは人物よりは小さく、かつ、取りうる体温の範囲が決まっているという傾向が見られる。判定式18)〜22)は、こうしたペットに特徴的な属性情報の傾向を定式化したものであり、判定部60は、時刻tにおける熱源領域16の属性情報が判定式18)〜22)を全て満足する場合、当該熱源領域16が示す物体は、ペットであると判定する。
なお、図9の判定結果欄に示したparam1〜param19の値は一例であり、使用する遠赤外カメラ90の種類、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて変更される。
また、図9の例では、No.1〜No.7までの7つの物体の種別を判定する判定式を示したが、判定部60で判定する物体の種別は、これら7つの物体に限られない。遠赤外カメラ90を設置する場所や環境に応じて判定式を追加すれば、判定部60は様々な物体の種別を判定することができる。
出力部70は、例えば判定部60によって入力画像12に人物が含まれると判定された場合に、その旨を監視システム5の管理者等へ通知する。なお、入力画像12に人物が含まれる場合に限らず、その他の物体、例えばペット等が含まれる場合に、その旨を監視システム5の管理者等へ通知するようにしてもよい。
記憶部80は、例えば、遠赤外カメラ90から受け付けた遠赤外画像、背景画像14、時刻情報と関連付けられた熱源領域16の属性情報、及び物体の種別毎に予め定めた判定式等、監視装置10における物体の検出に必要なデータを記憶する。
次に、本実施の形態に係る監視装置10の作用について説明する。なお、ここでは記憶部80に背景画像14はまだ記憶されていないものとする。まず、監視装置10の起動後に図13に示す背景画像算出ルーチンが実行される。
ステップS10では、遠赤外カメラ90で撮影された遠赤外画像を取得する。なお、遠赤外カメラ90から予め定めたフレームレートの動画が出力される場合、1フレーム分の画像を遠赤外画像として受け付ける。
次にステップS20において、ステップS10の処理で取得した遠赤外画像に対して平滑化処理を実施する。平滑化処理とは、遠赤外画像に含まれる画素値の変化を滑らかにし、遠赤外画像の各画素に含まれるノイズ成分を除去する処理である。平滑化処理には、例えば移動平均フィルタやガウシアンフィルタを用いた公知の技術が適用される。
ステップS30では、これまで取得した遠赤外画像の枚数を計測し、遠赤外画像の取得枚数が規定枚数N以上か否かを判定する。肯定判定の場合にはステップS50へ移行し、否定判定の場合にはステップS40へ移行する。
ここで、遠赤外画像の規定枚数Nとは、背景画像14を生成するのに必要な遠赤外画像の枚数を規定した値であり、例えば、使用する遠赤外カメラ90の種類、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて設定する。
ステップS40では、ステップS20の処理により平滑化された遠赤外画像を記憶部80へ記憶し、ステップS10へ移行する。そして、ステップS10〜ステップS40の処理を繰り返すことにより、記憶部80に規定枚数Nに達するまで遠赤外画像が記憶される。
一方、ステップS30の処理において肯定判定、すなわち、規定枚数N以上の遠赤外画像を受け付けた場合、ステップS50で前述した(1)式に基づいて、画素毎にN枚の遠赤外画像の画素値を平均した平均値を算出する。
また、ステップS60では、前述した(2)式に基づいて、画素毎にN枚の遠赤外画像及びステップS50の処理で算出した画素毎の平均値から算出した標準偏差を算出する。
ステップS70では、ステップS50の処理で算出した平均値及びステップS60の処理で算出した標準偏差を有する背景画像14を生成し、記憶部80に記憶する。
以上の処理により、図13に示した背景画像算出ルーチンを終了する。そして、背景画像算出ルーチン終了後に図14に示す人物判定ルーチンが実行される。
ステップS100では、例えば、監視装置10に設けられた図示しない遠赤外画像取得終了ボタンの押下等により、人物判定ルーチンの停止指示を受け付けたか否かを判定し、肯定判定の場合には人物判定ルーチンを終了する。一方、否定判定の場合にはステップS110へ移行する。なお、人物判定ルーチンの停止指示は遠赤外画像取得終了ボタンの押下に限られず、例えば、監視装置10に接続された図示しないインターネット等の通信回線を介して受信されるものであってもよい。
ステップS110では、遠赤外カメラ90で撮影された遠赤外画像を取得する。以降、図13に示した背景画像算出ルーチンのステップS10の処理で取得した遠赤外画像と区別するため、本ステップで取得した遠赤外画像を特に入力画像12と称する。
そして、ステップS120において、図13に示した背景画像算出ルーチンのステップS20の処理と同様に、ステップS110の処理で取得した入力画像12に対して平滑化処理を実施する。
ステップS130では、ステップS70の処理で記憶部80に記憶した背景画像14を読み出し、前述した(3)式に基づいて、画素毎に背景画像14とステップS120の処理で平滑化された入力画像12との差分を算出する。そして、当該差分が“σ(x,y)+M”以上となる座標のフィルタ値を「1」、そうでない座標のフィルタ値を「0」に設定したフィルタF(x,y)を生成する。なお、使用する遠赤外カメラ90の種類、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて画素値マージンMを調整することで、フィルタF(x,y)のフィルタ値が1となる領域の大きさを調整することができる。
そして、ステップS140において、画素毎にステップS120の処理で平滑化された入力画像12に含まれる画素の画素値と、フィルタF(x,y)のフィルタ値とを乗算し、入力画像12から、背景画像14と予め定めた差分、すなわち“σ(x,y)+M”以上離れた画素値を有する画素を抽出する。
このようにして抽出された画素が隣接して形成される領域は、背景画像14の温度分布とは異なる領域であり、遠赤外カメラ90の撮影範囲内に位置する何らかの物体を表す熱源領域16と捉えることができる。なお、入力画像12に背景画像14の温度分布とは異なる複数の物体が含まれる場合には、入力画像12から複数の熱源領域16が抽出される。
ステップS150において、ステップS140の処理で入力画像12から抽出した熱源領域16の各々について、例えば図6に示した属性情報を取得する。そして、熱源領域16の各々に対して、取得した属性情報に基づいて、図8に示した予備判定を実行し、熱源領域16が示す物体が人らしいか否かを判定する。熱源領域16が示す物体が人らしいと判定された場合には、当該熱源領域の属性情報に、R=1に設定した予備判定結果の情報を含める。一方、熱源領域16が示す物体が人らしいと判定されなかった場合には、当該熱源領域の属性情報に、R=0に設定した予備判定結果の情報を含める。
そして、ステップS155において、各熱源領域16の属性情報と現在の時刻情報とを関連付けて記憶部80へ蓄積する。なお、属性情報に関連付ける時刻情報は、入力画像12の時刻を明確に示す時刻であればよく、例えば、入力画像12の受付時刻や、熱源領域16の抽出時刻等であってもよい。また、時刻情報は、例えばCPUに内蔵されるカレンダー機能を利用して取得することができる。
次に、ステップS160において、ステップS120の処理で平滑化された入力画像12を用いて背景画像14を更新する。具体的には、ステップS120の処理で平滑化された入力画像12と、図13に示したステップS40の処理で記憶部80に記憶された遠赤外画像とを用いて、(1)式に基づいて、背景画像14の画素毎の平均値を更新すると共に、(2)式に基づいて、背景画像14の画素毎の標準偏差を更新する。
この際、背景画像14の更新に入力画像12が1枚追加されることから、(1)式及び(2)式におけるNを(N+1)に読み替える。そして、ステップS120の処理で平滑化された入力画像12、及び本ステップで更新した平均値及び標準偏差を有する背景画像14を記憶部80に記憶する。
そして、ステップS170において、これまで取得した入力画像12の枚数を計測し、入力画像12の取得枚数が規定枚数J以上か否かを判定する。否定判定の場合にはステップS100へ移行し、入力画像12の取得枚数が規定枚数J以上になるまでステップS100〜S170の処理を繰り返す。この際、ステップS160の処理では、入力画像12を取得する度に取得した入力画像12の枚数Kを計測し、(1)式及び(2)式におけるNを(N+K)に読み替え、新たに受け付けた入力画像12と、記憶部80に記憶される遠赤外画像及び入力画像12とに基づいて、背景画像14を更新する。
ここで、入力画像12の規定枚数Jとは、後述するステップS180の処理において、入力画像12から精度よく物体を抽出するために必要な入力画像12の枚数を規定した値であり、例えば、使用する遠赤外カメラ90の種類、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて設定する。なお、入力画像12の規定枚数Jの替わりに、例えば1時間や1日といった入力画像12の規定時間を規定し、規定時間以上に亘って入力画像12を取得した場合にステップS180へ移行するようにしてもよい。
一方、ステップS170の判定において、肯定判定となった場合にはステップS180へ移行する。
ステップS180では、最も直近に取得した入力画像12に対応した属性情報に関連付けられた時刻情報をtとした場合、時刻情報tにおける属性情報に対応した熱源領域16が示す物体の種別を、図9に示した判定式に従って判定する。
例えば、まず、規定枚数Jの入力画像12に対して上記ステップS150で判定された判定結果に基づいて、熱源領域16が人物を表すか否かを判定するため、図9におけるNo.1の判定式1)を評価する。その後、規定枚数Jの入力画像12に対して上記ステップS140で抽出された熱源領域16であって、時間が経過しても位置が変動しない熱源領域16について、当該熱源領域16が表す物体の種別を判定する。具体的には、図9のペットを判定するためのNo.7の判定式以外、すなわちNo.2〜No.6の各判定式を評価し、熱源領域16が示す物体の種別を特定する。
なお、本ステップでは熱源領域16が人物を表す熱源領域か否かの判定を、図9における判定式1)、すなわち、図10に示した判定方法に従って判定したが、図11又は図12に示した判定方法に従って判定するようにしてもよい。
そして、規定枚数Jの入力画像12に対して上記ステップS140で抽出された熱源領域16であって、位置が変動している熱源領域16のうち、上記ステップ150の予備判定の結果としてR=0の情報が付加された熱源領域16について、図9におけるNo.7の判定式18)〜22)を評価して、熱源領域16が示す物体がペットであるか否かを判定する。
なお、規定枚数Jの入力画像12に対して上記ステップS140で抽出された熱源領域16について追跡処理を行い、追跡された熱源領域16に対して、上記ステップ180の判定を行うようにしてもよい。追跡処理には、例えば、物体の運動モデルを用いて物体の位置、大きさを推定する手法、又は、熱源領域16の形状の類似性に着目する手法等、公知の追跡処理方法が適用される。
なお、図9に示した判定式3)、6)、9)、12)、15)、及び20)には、属性情報の中央点PCに関して、時間経過に伴う変動を判定するための判定式が含まれている。従って、より多くの時刻における属性情報の中央点PCを用いて時間経過に伴う変動状況を判定した方が、より正確に判定式を満たすか否かを判定することができる。すなわち、ステップS170の処理で参照した規定枚数Jを大きく設定するに従い、物体の判定精度を向上させることができる。
なお、図9に示した物体の種別毎の判定式の例では、中央点PCに関しての時間変化を判定する判定式しか示されていないが、物体の種別によっては属性情報の他の項目、例えば温度に関しての時間変化を判定する判定式が規定される場合がある。
そして、例えば、入力画像12に人物が含まれると判定した場合、監視装置10の外部へ通知する。具体的には、室内に人物がいない時間帯であるにも関わらず入力画像12から人物を検出した場合、監視装置10に内蔵された図示しないスピーカーから警報音を出力すると共に、監視装置10に接続された図示しないインターネット等の通信回線を介して、監視システム5の管理者等へ通報するようにしてもよい。このように、例えば防犯の目的で監視システム5を利用することができる。
なお、入力画像12から人物を検出した場合に限らず、その他の物体、例えばペット等を検出した場合に、その旨を監視システム5の管理者等へ通知するようにしてもよい。
このようにして、時刻tにおける属性情報に対応した熱源領域16が示す物体の種別を判定した後、ステップS100へ移行する。そして、ステップS100〜ステップS180の処理を繰り返すことにより、順次入力画像12に含まれる熱源領域16が示す物体の種別の判定を実行し、ステップS100の判定が肯定判定となった場合に、図14に示す人物判定ルーチンを終了する。
なお、本実施の形態に係る監視装置10は、炎等予め定めた形状を持たない物体であっても物体の種別を判定することができる。炎の特性としては、時間と共に位置及び面積が変動し、温度が高温であることから、例えば炎に対する判定式を(6)式〜(8)式によって表すことができる。
ここで、param20は熱源領域16の中央点PCの移動量、Tfireは物体を炎と特定するために必要な下限温度、param21は熱源領域16の画素数の変動量を規定するパラメータであり、例えば、使用する遠赤外カメラ90の種類、及び遠赤外カメラ90の設置箇所周辺の温度等の環境条件等に応じて設定すればよい。
例えば、図9に示した何れの物体の判定式も満たさず、かつ、予備判定の結果がR=0である熱源領域16に対して、(6)式〜(8)式に示した判定式を評価し、(6)式〜(8)式の全ての判定式を満たす場合に、熱源領域16が示す物体を炎と判定する。この場合、火災が発生している可能性が考えられるため、監視装置10に内蔵された図示しないスピーカーから警報音を出力すると共に、監視装置10に接続された図示しないインターネット等の通信回線を介して、監視システム5の管理者等へ通報してもよい。
以上説明したように、本実施の形態に係る監視装置10によれば、予め定めた期間に亘り予め定めた範囲を定点監視し、入力画像12を取得する度に、入力画像12に含まれる物体の温度から得られる属性情報を取得する。そして、属性情報と、予め定めた期間に亘り蓄積した属性情報の時間変化に基づいて設定された判定式に従って、入力画像12に人物が含まれるか否かを判定する。
従って、撮影された入力画像12からは、入力画像12に含まれる物体の種別を特定することができない程度に物体の輪郭が不鮮明となる低解像度の遠赤外カメラ90を用いた場合であっても、入力画像12に含まれる人物を精度よく検出することができる。また、上記のような低解像度の遠赤外カメラ90は、物体の輪郭から物体の種別を判定することができる赤外線カメラより安価であるため、監視システム5の構築に必要な費用を低減することができる。
更に、本実施の形態に係る監視システム5は、遠赤外カメラ90に一部の波長帯域をカットするフィルタ等を装着する必要がなく、しかも1台の遠赤外カメラ90で構築することができる。従って、監視システム5の構築に必要な費用を低減することができる。
また、属性情報の時間変化に基づいて物体の種別を判定するため、時間の経過と共に属性情報が蓄積されるに従って、物体の検出精度が向上する。更に、入力画像12を取得する毎に、熱源領域16を抽出する際に用いられる背景画像14が更新されるため、図13におけるステップS50及びS60で算出した背景画像14の平均値及び標準偏差を更新せずに入力画像12から物体を抽出する場合と比較して、物体の検出精度が向上する。
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。例えば、発明の要旨を逸脱しない範囲で、図13に示した背景画像算出ルーチン及び図14に示した人物判定ルーチンの各処理の順序を変更してもよい。
また、上記では背景画像算出ルーチン及び人物判定ルーチンを実行するためのプログラムがコンピュータのROMに予め記憶されている態様を説明したが、これに限定されるものではない。本実施の形態に係るプログラムは、コンピュータ読取可能な記録媒体に記録されている形態で提供することも可能である。例えば、本実施の形態に係るプログラムは、CD−ROM、DVD−ROM、及びUSBメモリ等の可搬型記録媒体に記録されている形態で提供することも可能である。また、本実施の形態に係るプログラムは、フラッシュメモリ等の半導体メモリ等に記録されている形態で提供することも可能である。
また、本実施の形態に係る監視装置10では、背景画像算出ルーチン及び人物判定ルーチンをソフトウエア構成によって実現した場合について説明したが、本発明はこれに限定されるものではなく、例えば背景画像算出ルーチン及び人物判定ルーチンを、ASIC(Application Specific Integrated Circuit)等を用いたハードウエア構成により実現するようにしてもよい。この場合、上記実施の形態に比較して、処理の高速化が期待される。