JP2004265291A - 背景差分処理法および装置 - Google Patents
背景差分処理法および装置 Download PDFInfo
- Publication number
- JP2004265291A JP2004265291A JP2003056824A JP2003056824A JP2004265291A JP 2004265291 A JP2004265291 A JP 2004265291A JP 2003056824 A JP2003056824 A JP 2003056824A JP 2003056824 A JP2003056824 A JP 2003056824A JP 2004265291 A JP2004265291 A JP 2004265291A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- state
- background
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】背景差分処理の有効/無効領域の特定および設定に要する人間の手間をなくす。移動体などの検知の実稼働中における背景差分処理の有効/無効領域の設定を常に適切に行えるようにする。
【解決手段】撮像手段1からの時系列の画像(入力画像)をn個確保する。確保した画像の各画素の画素値の変動具合を定量化する。定量化した各画素の画素値の変動具合に基づいてこれら各画素の状態を分類する。分類した各画素の状態に基づいて背景差分画像を求める際の背景差分処理の有効/無効領域を自動的に決定する。この有効/無効領域の自動決定は、移動体などの検出前(実稼働前)に実施する方法(オフライン的実施)と、移動体などの検出中(実稼働中)に実施する方法(オンライン的実施)の2通りがある。
【選択図】 図1
【解決手段】撮像手段1からの時系列の画像(入力画像)をn個確保する。確保した画像の各画素の画素値の変動具合を定量化する。定量化した各画素の画素値の変動具合に基づいてこれら各画素の状態を分類する。分類した各画素の状態に基づいて背景差分画像を求める際の背景差分処理の有効/無効領域を自動的に決定する。この有効/無効領域の自動決定は、移動体などの検出前(実稼働前)に実施する方法(オフライン的実施)と、移動体などの検出中(実稼働中)に実施する方法(オンライン的実施)の2通りがある。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
この発明は、入力画像と背景画像との差分を背景差分画像として求める背景差分処理方法および装置に関し、特に移動体などの検出に用いて好適な背景差分処理方法および装置に関するものである。
【0002】
【従来の技術】
従来より、移動体などの検出では、背景差分処理を行っている。図22(a)はTVカメラなどの撮像手段によって撮像された入力画像、図22(b)はこの入力画像に含まれる背景画像である。入力画像に移動体が写っていなければ入力画像と背景画像とは等しい。背景差分処理では、図22(a)に示された入力画像と図22(b)に示された背景画像との差分をとり、図22(c)に示されるような背景差分画像を得る。この例では、入力画像に移動体として人物Maが写っており、背景画像との差分をとることにより背景画像には含まれていなかった人物Maのみが背景差分画像に現れる。このようにして移動体の像を抽出(検出)することができる。
【0003】
しかしながら、背景には、静止物体だけではなく、動いたり、輝度が頻繁に変化する物体もある。例えば、ネオンなどは、輝度が頻繁にかつ著しく変化する。図23(a)に示す入力画像および図23(b)に示す背景画像にはネオンNeが含まれている。この場合、背景差分処理を行うと、図23(c)に示す背景差分画像には、人物Maに加えて、ネオンNeが現れる。図23(c)に示された背景差分画像中、ネオンNeは、移動体である人物Maの検出において不適切な判断を与える外乱要因となる。
【0004】
そこで、最近の背景差分処理では、背景画像に対して背景差分処理の対象とする有効領域と対象としない無効領域を設定し、有効領域のみの情報に基づいて移動体の検出を行っている。例えば、図24(b)に示すように、ネオンNeが存在する領域を無効領域S2、無効領域S2を除いた残りの領域を有効領域S1とし、有効領域S1についてのみ入力画像(図24(a))と背景画像(図24(b))との差分をとり、図24(c)に示されるような背景差分画像を得るようにしている。これにより、ネオンNeが存在する無効領域S2が背景差分処理の対象から除外され、入力画像中の人物Maのみを含む背景差分画像を得ることができる(例えば、特許文献1参照)。
【0005】
なお、上述した例では、有効領域S1についてのみ入力画像と背景画像との差分をとるようにしたが、全領域を対象として入力画像と背景画像との差分をとり、この差分画像における無効領域S2に対応する部分にマスクをかけて、図24(c)に示されるような背景差分画像を得ることも行われている。このようなマスクをかける方法によっても、無効領域S2を背景差分処理の対象から除外し、有効領域S1のみを背景差分処理の対象として、入力画像中の人物Maだけを移動体として検出することができる。
【0006】
【特許文献1】
特開平9−214938号公報(第4−5頁、図1−図4)
【0007】
【発明が解決しようとする課題】
しかしながら、このような従来の背景差分処理方法によると、人間の判断によるマニュアル操作で、画像フレーム中のどの部分を背景差分処理の有効/無効領域とするかを特定し設定しているため、手間がかかるという問題があった。
また、従来の背景差分処理方法では、一度背景差分処理の有効/無効領域の特定および設定が行われると、移動体などの検出中(実稼働中)はその背景差分処理の有効/無効領域が変更されることがない。このため、無効領域とすべき領域が時々刻々と変化するような場合、実稼働中における背景差分処理の有効/無効領域の設定が不適切となり、結果的に背景差分処理による移動体などの検出性能が劣化することになる。
【0008】
本発明はこのような課題を解決するためになされたもので、その目的とするところは、背景差分処理の有効/無効領域の特定および設定に要する人間の手間をなくすことができる、また移動体などの検出中における背景差分処理の有効/無効領域の設定を常に適切に行うことができる背景差分処理方法および装置を提供することにある。
【0009】
【課題を解決するための手段】
このような目的を達成するために本発明は、画像フレーム内で任意に設定される有効領域を対象として入力画像と背景画像との差分を求め、入力画像の有効領域内における変化物体の像を含む背景差分画像を求める背景差分処理方法において、入力画像を撮像する撮像手段からの時系列の画像を確保する画像確保ステップと、この画像確保ステップによって確保された時系列の画像間で画像フレームを構成する各画素の変動具合を定量化する定量化ステップと、この定量化ステップによって定量化された各画素の変動具合に基づいて背景差分処理の有効領域を自動的に決定する有効領域決定ステップとを設けたものである。
【0010】
この発明によれば、確保された時系列の画像間で画像フレームを構成する各画素の変動具合が定量化され、この定量化された各画素の変動具合に基づいて背景差分処理の有効領域が自動的に決定される。この場合、有効領域を除いた残りの領域が無効領域であり、有効領域を自動的に決定するということは、有効/無効領域を自動的に決定していることに他ならない。
【0011】
なお、撮像手段からの画像(入力画像)には移動体が含まれる場合もあるし、含まれない場合もある。移動体が含まれる場合、その移動体を含む画素については、直前の画素状態を参照し、有効画素/無効画素の判断を行うようにするとよい。
【0012】
【発明の実施の形態】
本発明では、背景差分処理の有効/無効領域を、移動体などの検出に入る前(実稼働前)や移動体などの検出中(実稼働中)に自動的に決定することが可能である。以下、実稼働前の有効/無効領域の自動決定を「オフライン的実施」、実稼働中の有効/無効領域の自動決定を「オンライン的実施」と呼ぶ。
【0013】
〔オフライン的実施〕
オフライン的実施では、実稼働前に、撮像手段からの時系列の画像(移動体を含まない入力画像)を予め規定された特定の量だけ確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合(画素値の変動具合)を定量化(例えば、平均値に対する標準偏差などを算出)する。そして、この定量化した各画素の変動具合に基づいてこれら各画素の状態(画素状態)を分類する。例えば、特定の閾値(以下、特定閾値と呼ぶ)を使用し、画素の変動具合が特定閾値よりも大きければその画素は「不安定状態」、画素の変動具合が特定閾値以下であればその画素は「安定状態」とする。そして、「不安定状態」の画素を無効画素、「安定状態」の画素を有効画素とし、無効画素を集めた領域を無効領域、有効画素を集めた領域を有効領域とする。実稼働中、この実稼働前に自動決定した有効/無効領域を使用して、入力画像と背景画像との背景差分処理を行う。
【0014】
〔オンライン的実施〕
オンライン的実施では、実稼働中、撮像手段からの時系列の画像(入力画像)を予め規定された特定の量だけ確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合(画素値の変動具合)を定量化(例えば、平均値に対する標準偏差などを算出)する。そして、この定量化した各画素の変動具合に基づいてこれら各画素の状態(画素状態)を分類する。例えば、画素の変動具合が特定閾値よりも大きければその画素は「不安定状態」、画素の変動具合が特定閾値以下であればその画素は「安定状態」とする。そして、「不安定状態」の画素を無効画素、「安定状態」の画素を有効画素とし、無効画素を集めた領域を無効領域、有効画素を集めた領域を有効領域とする。
【0015】
撮像手段から新しい画像(入力画像)が得られる毎に、その新しい画像を規定された特定の量だけ確保されている時系列の画像中の最も古い画像と置き換えて、この確保された画像の各画素の変動具合の定量化、定量化した変動具合に基づく各画素の状態の分類、分類した各画素の状態に基づく有効/無効領域の決定を繰り返す。これにより、実稼働中、新しい画像が得られる毎に自動的に決定(自動的に更新)される有効/無効領域を使用して、入力画像と背景画像との背景差分処理が行われる。
【0016】
以下、本発明を図面に基づいて詳細に説明する。
〔オフライン的実施:処理方式1〕
図1は本発明に係る背景差分処理装置の一実施の形態の要部を示すブロック図であり、オフライン的実施の代表例を示したものである。この背景差分処理装置100では、移動体などの検出に入る前(実稼働前)に、背景差分処理の有効/無効領域の自動決定を行う。
【0017】
図1において、1はTVカメラなどの撮像手段、2は切替スイッチ、3は背景情報作成処理部、4は背景差分処理部である。背景情報作成処理部3は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10を備えている。
【0018】
背景情報作成処理部3において、画像確保部5は、撮像手段1からの所定周期で入力される時系列の入力画像I(x,y,t)(以下、I(x,y)と略す)を予め規定された特定の量だけ確保し、その確保した各画像の画像フレームを構成する各画素の画素値を背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0019】
定量化部6は、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。画素状態分類部7は、定量化部7で定量化された各画素の変動具合に基づいて各画素の状態を分類し、その分類した各画素の状態を背景情報保持部8に送り、各画素の背景情報の一部である「画素状態」として保持させる。なお、初期状態において、背景情報保持部8における各画素の「画素状態」はその画素の状態が確定されていないことを示す「未定状態」とされている。また、背景情報保持部8における「時系列データ」はクリアされ、零とされている。
【0020】
背景情報保持部8は、上述した「時系列データ」および「画素状態」を各画素の背景情報として保持する。背景画像生成部9は、背景情報保持部8における各画素の「時系列データ」に基づき、背景画像A(x,y)を生成する。有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、背景差分処理の有効領域S1/無効領域S2を決定する。
【0021】
〔実稼働前の背景画像の生成および有効/無効領域の決定〕
以下、背景情報作成処理部3における各部の詳細な機能を交えながら、実稼働前の背景画像A(x,y)の生成および有効領域S1/無効領域S2の決定手順について説明する。
【0022】
実稼働前に、切替スイッチ2を背景情報作成処理部3側として、移動体の検出対象領域を撮像した撮像手段1からの時系列の入力画像I(x,y)を画像確保部5へ送る。このとき、撮像手段1が撮像する画像には移動体や輝度が変化する物体が含まれないようにする。
【0023】
画像確保部5は、撮像手段1からの時系列の入力画像I(x,y)をn個確保する。そして、この確保したn個の画像の画像フレームを構成する各画素の画素値D1〜Dnを背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0024】
画像確保部5は、n個の画像を確保すると、その旨を定量化部6へ知らせる。定量化部6は、画像確保部5によって確保されたn個の画像の各画素の「時系列データ(D1〜Dn)」を背景情報保持部8より取り出し、この取り出した各画素の「時系列データ(D1〜Dn)」の変動具合を定量化する。ここでは、時系列データとして保持させた画素値D1〜Dnの平均値を求め、この平均値に対する標準偏差σを算出する。
【0025】
定量化部6は算出した各画素の標準偏差σを画素状態分類部7へ送る。画素状態分類部7は、定量化部6から送られてくる各画素の標準偏差σと予め定められている閾値σthとを比較し、σ>σthであればその画素の状態を「不安定状態」と判断する。σ≦σthであればその画素の状態を「安定状態」と判断する。そして、この分類した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素の背景情報の一部として保持させる。
【0026】
これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から画素状態分類部7によって分類された「安定状態」又は「不安定状態」に書き替えられる。図2に画素毎の背景情報の要素名および概要を示す。
【0027】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を求め、保持する。すなわち、各画素の時系列データとして保持されている画素値D1〜Dnを平均し、背景画像A(x,y)の各画素の画素値とし、これを保持する。
【0028】
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0029】
〔実稼働中の背景差分処理〕
実稼働中は、切替スイッチ2を背景差分処理部4側とし、撮像手段1からの移動体の検出対象領域を撮像した時系列の入力画像I(x,y)を背景差分処理部4へ送る。
【0030】
背景差分処理部4は、撮像手段1からの入力画像I(x,y)を取り込み(図3に示すステップ301)、この取り込んだ入力画像I(x,y)(図4(a)参照)と背景画像生成部9に保持されている背景画像A(x,y)(図4(b)参照)との差を計算し(ステップ302)、予め設定されている閾値Ths(x,y)を用いての閾値処理により差分画像S(x,y)(図4(c)参照)を得る(ステップ303)。この閾値処理は、数式表現すると、下記の(1),(2)式で表される。
【0031】
S(x,y)=1〔if |I(x,y)−A(x,y)|>Ths(x,y)〕 ・・・・(1)
S(x,y)=0〔if |I(x,y)−A(x,y)|≦Ths(x,y)〕 ・・・・(2)
【0032】
この処理は、入力画像I(x,y)の画素値と背景画像A(x,y)の画素値(平均値)との差が閾値Ths(x,y)より大きい画素、すなわち背景に大きな変化があった画素の値を「1」とする2値化処理である。
【0033】
そして、背景差分処理部4は、ステップ303で得た差分画像S(x,y)と有効/無効領域決定部10に保持されている有効/無効領域(図4(d)参照)とから、背景差分画像BG(x,y)を得る(ステップ304)。この処理は、数式表現すると、下記の(3),(4)式で表される。
【0034】
BG(x,y)=1〔if S(x,y)=1and(STATE(x,y)=1)〕・・・・(3)
BG(x,y)=0(otherwise)・・・(4)
【0035】
この処理は、差分画像S(x,y)において、その画素値が「1」でかつ有効画素(「安定状態」である画素)である画素の値を「1」、それ以外の画素の値を「0」とする2値化処理である。
この処理により、無効領域S2が背景差分処理の対象から除外され、図4(e)に示されるような背景差分画像BG(x,y)を得ることができる。
【0036】
なお、この実施の形態では、全領域を対象として入力画像I(x,y)と差分画像A(x,y)との差分画像S(x,y)を求め、この差分画像S(x,y)における無効領域S2の部分にマスクをかけることによって、無効領域S2を背景差分処理の対象から除外するようにしているが、有効領域S1についてのみ入力画像I(x,y)と差分画像A(x,y)との差分画像を求め、この差分画像を背景差分画像BG(x,y)として得るようにしてもよい。
【0037】
〔オフライン的実施:処理方式2〕
図1にはオフライン的実施の代表例として分かり易い処理方式を示したが、図5に示すような処理方式としてもよい。なお、この処理方式では、背景情報保持部8に、撮像手段1が撮像する入力画像の画像フレームを構成する各画素に対応して、その画素の背景情報として、「時系列データ」および「画素状態」に加えて、「経過時間ET」(画素状態が未定状態に入ってから経過した時間)を保持する。図6に画素毎の背景情報の要素名および概要を示す。この処理方式2では、「経過時間ET」を背景情報の一部として保持することにより、充分な数の画像(n個の画像)が取り込まれたことを検出し、その検出時点で背景画像の生成および有効/無効領域の自動決定を行う。
【0038】
〔実稼働前の背景画像の生成および有効/無効領域の決定〕
この処理方式においても、実稼働前に、切替スイッチ2を背景情報作成処理部3側として、移動体の検出対象領域を撮像した撮像手段1からの時系列の入力画像(x,y)を画像確保部5へ送る。このとき、撮像手段1が撮像する画像には移動体や輝度が変化する物体が含まれないようにする。
【0039】
画像確保部5は、切替スイッチ2を背景情報作成処理部3側とされると、初期状態として、背景情報保持部8における各画素の背景情報の一部である「画素状態」を「未定状態」とする。また、各画素の「経過時間ET」をリセットし、零とする。また、各画素の「時系列データ」をクリアして、零とする。
【0040】
撮像手段1から最初の入力画像I(x,y)が入力されると、画像確保部5は、定量化部6へ定量化指令を送る。定量化部6は、画像確保部5からの定量化指令を受けて、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。この例では、各画素の変動具合として、取り出した「時系列データ」の平均値に対する標準偏差σを求める。そして、定量化部6は、この求めた各画素の標準偏差σを画素状態分類部7へ送る。
【0041】
最初の入力画像I(x,y)が入力された時点では、背景情報保持部8にはまだ各画素の「時系列データ」は1つも保持されていないので、定量化部6ではまだ各画素の標準偏差σを求めることができない。この場合、定量化部6は、各画素の標準偏差σを零として画素状態分類部7へ送る。
【0042】
画素状態分類部7は、背景情報保持部8に保持されている各画素の「経過時間ET」を確認し、「経過時間ET」が予め定められている上限値ETmaxに達していなければ、定量化部6からの標準偏差σに拘わらず、その画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。なお、この例では、撮像手段1からn個の画像が取り込まれるまでの時間ETnを上限値ETmaxとしている。
【0043】
最初の入力画像I(x,y)が入力された時点では、背景情報保持部8における各画素の「経過時間ET」は零とされている。したがって、この場合、画素状態分類部7は、各画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像(最初の入力画像)I(x,y)における各画素の画素値D1を背景情報保持部8に送り、各画素の「時系列データ」として保持させる。
【0044】
以下、画像確保部5に撮像手段1からの画像I(x,y)が入力される毎に、同様動作を繰り返す。これによって、背景情報保持部8における各画素の背景情報は、「画素状態」を「未定状態」としたまま、「時系列データ」がD1,D2,D3・・・・Dnと保持されて行き、「経過時間ET」がET1,ET2,ET3・・・・ETnとカウントアップされて行く。
【0045】
画像確保部5にn+1個目の画像I(x,y)が入力され、画素状態分類部7へ各画素の標準偏差σが与えられたとき、画素状態分類部7で確認される背景情報保持部8における各画素の「経過時間ET」はETn(=ETmax)となる。この場合、画素状態分類部7は、各画素の「時系列データ」が必要量確保されたと判断し、定量化部6からの標準偏差σを用いての画素状態の分類を行う。
【0046】
すなわち、画素状態分類部7は、定量化部6から送られてくる各画素の標準偏差σと予め定められている閾値σthとを比較し、σ>σthであればその画素を「不安定状態」、σ≦σthであれば「安定状態」と判断する。そして、この判断した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素の「画素状態」として保持させる。これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から「安定状態」又は「不安定状態」に書き替えられる。
【0047】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を生成し、保持する。
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0048】
このような処理方式とした背景差分処理装置100’においても、画像確保部5において撮像手段1からの時系列の画像がn個確保されるし、この確保された画像の各画素の変動具合が定量化部6において定量化されるし、この定量化された各画素の変動具合に基づいてこれら各画素の画素状態が画素状態分類部7で分類されるし、この分類された各画素の画素状態に基づいて背景差分処理の有効/無効領域が有効/無効領域決定部10において自動的に決定されるので、図1に示した背景差分処理装置100と実質的に変わるところはない。
【0049】
〔オンライン的実施:移動体検出装置〕
図7は本発明に係る背景差分処理装置を含む移動体検出装置の一実施の形態の要部を示すブロック図であり、オンライン的実施の一例を示したものである。この移動体検出装置200では、実稼働中(移動体の検出中)に、背景画像A(x,y)の自動生成および背景差分処理の有効領域S1/無効領域S2の自動決定を行う。
【0050】
図7において、1はTVカメラなどの撮像手段、4は背景差分処理部、11は輪郭抽出処理部、12は統合処理部、13は背景情報更新処理部である。この移動体検出装置200においては、撮像手段1からの所定周期で入力される入力画像I(x,y)を背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送るようにし、背景差分処理部4において生成される背景差分画像BG(x,y)と輪郭抽出処理部11において生成される輪郭抽出画像O(x,y)とから統合処理部12において移動体輪郭画像M(x,y)を生成し、この生成した移動体輪郭画像M(x,y)を背景情報更新処理部13へフィードバックし、背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2の更新を行うようにしている。
【0051】
背景差分処理部4は、撮像手段1からの入力画像I(x,y)と、背景情報更新処理部13からの背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2とから、有効領域S1における変化物体の像を含む背景差分画像BG(x,y)を生成する。
輪郭抽出処理部11は、撮像手段1からの入力画像I(x,y)から、入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)を生成する。
【0052】
統合処理部12は、背景差分処理部4からの背景差分画像BG(x,y)と輪郭抽出処理部11からの輪郭抽出画像O(x,y)とから、入力画像I(x,y)中の移動体の全体の輪郭を含む移動体輪郭画像M(x,y)を生成する。
背景情報更新処理部13は、撮像手段1からの入力画像I(x,y)と統合処理部12からの移動体輪郭画像M(x,y)とから、背景差分処理部4への背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2を生成(更新)する。
【0053】
図8は背景情報更新処理部13の内部構成の概略を示すブロック図である。背景情報更新処理部13は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10、移動体有無判定部14、画素状態確認部15、移動時間判定部16を備えている。この背景情報更新処理部13は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10を備えている点で、図5に示した背景差分処理装置100’における背景情報作成処理部3と類似している。
【0054】
〔背景情報更新処理部13の各部の機能の概略〕
背景情報更新処理部13において、画像確保部5は、撮像手段1からの所定周期で入力される時系列の入力画像I(x,y)を予め規定された特定の量だけ確保し、その確保した各画像の画像フレームを構成する各画素の画素値を背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0055】
定量化部6は、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。画素状態分類部7は、定量化部7で定量化された各画素の変動具合に基づいて各画素の状態を分類し、その分類した各画素の状態を背景情報保持部8に送り、各画素の背景情報の一部である「画素状態」として保持させる。
【0056】
なお、「画素状態」には、「未定状態」、「安定状態」、「不安定状態」の他、「移動状態」があり、「移動状態」はさらに「未定状態から移動状態」、「安定状態から移動状態」、「不安定状態から移動状態」に分けられる。これらの「画素状態」については後述する。
【0057】
背景情報保持部8は、上述した「時系列データ」、「画素状態」に加えて、「経過時間ET」(画素状態が未定状態に入ってから経過した時間)、「移動時間TM」(画素状態が移動状態に入ってから経過した時間)を各画素の背景情報として保持する。図9に画素毎の背景情報の要素名および概要を示す。なお、画素の状態の一形態である「移動状態」については後述する。
【0058】
背景画像生成部9は、背景情報保持部9における各画素の「時系列データ」に基づき、背景画像A(x,y)を生成する。有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、背景差分処理の有効領域S1/無効領域S2を決定する。
【0059】
移動体有無判定部14は、統合処理部12からフィードバックされてくる移動体輪郭画像M(x,y)の各画素毎に移動体の有無を判定し、その判定結果を画素状態確認部15へ送る。この場合、その画素の画素値が「1」であれば移動体有りと判定し、その画素の画素値が「0」でれば移動体無しと判定する。
【0060】
画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、その画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認し、移動体有りと判定された画素については、その確認した「画素状態」を画素状態分類部7へ送り、移動体無しと判定された画素については、定量化部6へ定量化指令を送る。
【0061】
移動時間判定部16は、画素状態確認部15からの知らせを受けて、「移動体有り」から「移動体無し」へと変化した画素について、背景情報保持部8における背景情報中の「移動時間TM」をチェックし、その画素に移動体がとどまっていた時間の長短を判定する。
【0062】
〔移動体検出装置200における全体の処理の流れ〕
以下では、説明を簡単とするために、実稼働開始後少なくともn個の入力画像I(x,y)が取り込まれるまでの間は、撮像手段1からの入力画像I(x,y)には移動体や輝度が変化する物体が含まれないものとする。
【0063】
実稼働開始後、n個の入力画像I(x,y)が確保されるまでは、背景差分処理部4への有効/無効領域は、その全ての領域が無効領域S2とされる(後述)。入力画像I(x,y)がn個確保されると、このn個の入力画像I(x,y)に基づく最初の背景画像A(x,y)と有効領域S1/無効領域S2が背景情報更新処理部13において確定され、背景差分処理部4に対して設定される(▲1▼実稼働開始直後の背景画像および有効/無効領域の設定)。
【0064】
そして、背景差分処理部4において、背景画像A(x,y)と有効領域S1/無効領域S2を用いて、入力画像I(x,y)と背景画像A(x,y)との間で背景差分処理が行われ、背景差分画像BG(x,y)が得られる(▲2▼背景差分画像の取得)。
【0065】
また、この背景差分画像BG(x,y)の取得と並行して、輪郭抽出処理部11での入力画像I(x,y)に対する輪郭抽出処理が行われ、入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)が得られる(▲3▼輪郭抽出画像の取得)。
【0066】
そして、統合処理部12において、輪郭抽出処理部11で得られた輪郭抽出画像O(x,y)中の輪郭(変化物体の輪郭)から背景差分処理部4で得られた背景差分画像BG(x,y)中の像(移動体の像)と連続するものが抽出され、移動体の全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)が得られる(▲4▼移動体の輪郭抽出)。
【0067】
また、この移動体輪郭画像M(x,y)が背景情報更新処理部13へフィードバックされ、背景画像A(x,y)および有効領域S1/無効領域S2が自動的に更新される(▲5▼稼働中の背景画像および有効/無効領域の自動更新)。
【0068】
以下、上述した全体の処理の流れに沿って、各部の詳細な機能を交えながら、その処理手順について説明する。なお、本発明は、この全体の処理の流れ中、「▲1▼実稼働開始直後の背景画像および有効/無効領域の設定」、「▲2▼背景差分画像の取得」、「▲5▼稼働中の背景画像および有効/無効領域の自動更新」の各処理に関係し、「▲3▼輪郭抽出画像の取得」、「▲4▼移動体の輪郭抽出」の各処理とは直接関係しない。
【0069】
〔▲1▼実稼働開始直後の背景画像および有効/無効領域の設定〕
実稼働開始の指示が出されると、背景情報更新処理部13における画像確保部5は、初期状態として、背景情報保持部8における各画素の「画素状態」を「未定状態」とする。また、各画素の「経過時間ET」および「移動時間TM」をリセットし、零とする。また、各画素の「時系列データ」をクリアして、零とする。
【0070】
実稼働開始後、撮像手段1からの最初の入力画像I(x,y)は、背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送られる。
背景差分処理部4は、撮像手段1からの最初の入力画像I(x,y)が入力されると、その入力画像I(x,y)と背景情報更新処理部13からの背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2とから背景差分画像BG(x,y)を生成する。
【0071】
この場合、背景情報更新処理部13の背景情報保持部8における背景情報中、各画素の「画素状態」は「未定状態」とされている。背景情報更新処理部13は、「画素状態」が「未定状態」である画素については、その画素を無効画素と判断し、無効画素を集めた領域を背景差分処理の無効領域とする。したがって、この場合、背景差分処理の有効領域S1はなく、全ての領域が無効領域S2とされる。
【0072】
このため、背景差分画像BG(x,y)は入力画像I(x,y)に拘わらず全ての画素が「0」とされ、輪郭抽出処理部11において得られる輪郭抽出画像O(x,y)に変化物体の輪郭が抽出されていたとしても、統合処理部12で得られる移動体輪郭画像M(x,y)は全ての画素が「0」とされる。なお、輪郭抽出処理部11および統合処理部12での具体的な処理内容については後述する。
【0073】
統合処理部12から得られた移動体輪郭画像M(x,y)は背景情報更新処理部13へフィードバックされる。背景情報更新処理部13において、移動体有無判定部14は、統合処理部12からの移動体輪郭画像M(x,y)の各画素について、移動体の有無を判定する。
【0074】
ここで、移動体有無判定部14は、図10に示すフローチャートに従い、M(x,y)が「1」である画素については移動体有りと判定し(ステップ103)、M(x,y)が「0」である画素については移動体無しと判定する(ステップ102)。この場合、統合処理部12からの最初の移動体輪郭画像M(x,y)は全ての画素が「0」とされているので、全ての画素において移動体無しと判定される。
【0075】
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。ここで、移動体有りと判定された画素と移動体無しと判定された画素では、以降の処理が異なる。この場合、全ての画素が移動体無しと判定された画素であるので、図11に示す移動体無し時の処理動作が行われる。
【0076】
画素状態確認部15は、移動体無しと判定された各画素の背景情報保持部8における「画素状態」(直前の画素状態)をチェックし(ステップ102a)、その「画素状態」が「移動状態」であるか否かを確認する。この場合、移動体無しと判定された各画素の「画素状態」は「未定状態」であるので(ステップ102aのNO)、直ちに各画素に対しての定量化指令を定量化部6へ送る(ステップ102b)。
【0077】
定量化部6は、この画素状態確認部15からの定量化指令を受けて、背景情報保持部8に保持されている各画素の「時系列データ」および「経過時間ET」を読み出し、その各画素の「時系列データ」の変動具合を定量化する。この例では、各画素の変動具合として、「時系列データ」として保持されている画素値の平均A(x,y)と分散Varを求める。そして、定量化部6は、この求めた各画素の分散Varを画素状態分類部7へ送る。
【0078】
なお、画像フレーム(入力画像(x,y,t))の画素値をPix(x,y,t)とすると、画素値の平均A(x,y)と分散Var(x,y)はそれぞれ下記の(5)および(6)式で計算される。
【0079】
【数1】
【0080】
最初の移動体輪郭画像M(x,y)が得られた時点では、背景情報保持部8にはまだ各画素の「時系列データ」は1つも保持されていないので、定量化部6ではまだ各画素の分散Varを求めることができない。この場合、定量化部6は、各画素の分散Varを零として画素状態分類部7へ送る。
【0081】
画素状態分類部7は、背景情報保持部8に保持されている各画素の「経過時間ET」を確認し、「経過時間ET」が予め定められている上限値ETmaxに達していなければ(ステップ102cのNO)、定量化部6からの分散Varに拘わらず、その画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる(ステップ102d)。また、背景情報保持部8における各画素の「経過時間ET」を1アップし(ステップ102e)、画像確保部5へデータの保存指令を送る(ステップ102f)。なお、この実施の形態では、撮像手段1からn個の画像が取り込まれるまでの時間ETnを上限値ETmaxとしている。
【0082】
最初の移動体輪郭画像M(x,y)が得られた時点では、背景情報保持部8における各画素の「経過時間ET」は零とされている。したがって、この場合、画素状態分類部7は、各画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像(最初の入力画像)I(x,y)における各画素の画素値D1を背景情報保持部8に送り、各画素の「時系列データ」として保持させる。
【0083】
以下、移動体有無判定部14に統合処理部12からの移動体輪郭画像M(x,y)が入力される毎に、同様動作を繰り返す。これによって、背景情報保持部8における各画素の背景情報は、「画素状態」を「未定状態」としたまま、「時系列データ」がD1,D2,D3・・・・Dnと保持されて行き、「経過時間ET」がET1,ET2,ET3・・・・ETnとカウントアップされて行く。
【0084】
移動体有無判定部14にn+1個目の移動体輪郭画像M(x,y)が入力され、画素状態分類部7へ定量化部6から各画素の分散Varが与えられると、画素状態分類部7で確認される背景情報保持部8における各画素の「経過時間ET」はETnとなり、ステップ102cにおいて経過時間ETが上限値ETmaxに達したことが検出される。この場合、画素状態分類部7は、各画素の「時系列データ」が必要量確保されたと判断し、定量化部6からの分散Varを用いての画素状態の分類を行う。
【0085】
すなわち、画素状態分類部7は、定量化部6から送られてくる各画素の分散Varと予め定められている閾値Varthとを比較し(ステップ102g)、Var>Varthであればその画素を「不安定状態」、Var≦Varthであれば「安定状態」と判断する。そして、この判断した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素「画素状態」として保持させる(ステップ102h,102i)。これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から「安定状態」又は「不安定状態」に書き替えられる。
【0086】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を生成し、保持する。
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0087】
この後、画素状態分類部7は、画像確保部5へデータの保存指令を送る(ステップ102f)。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像I(x,y)(n+1個目の入力画像)における各画素の画素値Dn+1を背景情報保持部8に送り、各画素の「時系列データ」中の最も古い画素値D1と置き換える(ステップ102f)。
【0088】
このようにして、背景情報更新処理部13において、最初の背景画像A(x,y)と有効領域S1/無効領域S2が確定され、背景差分処理部4に対して設定される。
【0089】
〔実稼働中の移動体の検出〕
今、実稼働開始から時間ETn+1を経過した後の現時刻をTとし、例として、この現時刻Tにおける撮像手段1からの入力画像I(x,y)を図12(a)、背景情報更新処理部13からの背景画像A(x,y)を図12(b)、背景情報更新処理部13からの背景差分処理の有効領域S1/無効領域S2を図12(d)に示す。この現時刻Tにおける撮像手段1からの入力画像I(x,y)は、背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送られる。
【0090】
〔▲2▼背景差分画像の取得:背景差分処理〕
背景差分処理部4は、撮像手段1からの現時刻Tにおける入力画像I(x,y)を取り込み、この取り込んだ現時刻Tの入力画像I(x,y)(図12(a))と背景画像更新処理部13からの背景画像A(x,y)(図12(b))との差を計算し、予め設定されている閾値Ths(x,y)を用いての閾値処理により差分画像S(x,y)(図12(c))を得る。この閾値処理は、数式表現すると、前記した(1),(2)式で表される。
【0091】
そして、背景差分処理部4は、この閾値処理によって得た差分画像S(x,y)と背景情報更新処理部13からの有効領域S1/無効領域S2(図12(d)参照)とから、背景差分画像BG(x,y)を得る。この処理は、数式表現すると、前記した(3),(4)式で表される。この処理により、無効領域S2が背景差分処理の対象から除外され、図12(e)に示されるような背景差分画像BG(x,y)が得られる。
【0092】
この例では、差分画像S(x,y)において、移動体である人物Maの大部分が無効領域S2に位置している。したがって、背景差分画像BG(x,y)からは、ネオンNeとともにその無効領域S2に位置する人物Maの大部分が除外されている。背景差分画像BG(x,y)において、「1」とされた画素は、有効領域S1に位置している人物Maを示している。このようにして、背景差分処理によって、有効領域における移動体の像(2値画像)が得られる。
【0093】
〔▲3▼輪郭抽出画像の取得:輪郭抽出処理〕
輪郭抽出処理部11は、撮像手段1からの現時刻Tにおける入力画像I(x,y)を取り込み、この取り込んだ入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)を生成する。この実施の形態では、一般にフレーム間差分と呼ばれている画像処理によって、輪郭抽出画像O(x,y)を生成する。
【0094】
図13は輪郭抽出処理部11の要部を示すブロック図である。輪郭抽出処理部11は、フレーム間差分処理部17と画像メモリ18とを備えている。フレーム間差分処理部17は、撮像手段1からの現時刻Tの入力画像I(x,y)(図12(a):今回の入力画像)と画像メモリ18に保存されている1フレーム前の入力画像F(x,y)(図12(f):前回の入力画像)との差を計算し、予め設定されている閾値Tho(x,y)を用いての閾値処理によりフレーム間差分画像(輪郭抽出画像)O(x,y)(図12(g))を得る。この閾値処理は、数式表現すると、下記の(7),(8)式で表される。
【0095】
O(x,y)=1〔if |I(x,y)−F(x,y)|>Tho(x,y)〕 ・・・・(7)
O(x,y)=0〔if |I(x,y)−F(x,y)|≦Tho(x,y)〕 ・・・・(8)
【0096】
この処理は、今回の入力画像I(x,y)の画素値と前回の入力画像F(x,y)の画素値との差が閾値Tho(x,y)より大きい画素、すなわちフレーム間で大きな変化があった画素の値を「1」とする2値化処理である。「1」とされた画素は、フレーム間で変化した物体を示し、ネオンのように移動体以外の物体も含まれる場合がある。
【0097】
フレーム間差分処理部17でのフレーム間差分処理の実行後、撮像手段1からの現時刻Tの入力画像I(x,y)はF(x,y)として画像メモリ18に格納され、次回行われるフレーム間差分処理において1フレーム前の入力画像として用いられる。なお、この例では、輪郭抽出処理部11においてフレーム間差分処理を行うようにしたが、現時刻Tの入力画像I(x,y)に対して画像処理で一般に知られている微分処理、領域分割などを用いて現時刻の入力画像I(x,y)内の変化物体の輪郭を含む輪郭抽出画像O(x,y)を得るようにしてもよい。また、フレーム間差分や微分処理など、複数の処理手段を併用してもよい。
【0098】
〔▲4▼移動体の輪郭抽出:統合処理〕
統合処理部12は、背景差分処理部4からの背景差分画像BG(x,y)中の移動体の像に基づいて輪郭抽出処理部11からの輪郭抽出画像O(x,y)中の変化物体の輪郭を絞り込み、移動体の全体の輪郭を特定する。
【0099】
基本的な考え方は、輪郭抽出画像O(x,y)に含まれる変化物体の輪郭から背景差分画像BG(x,y)の有効領域内の移動体の情報、すなわち信頼性の高い移動体の像に基づき、無効領域に位置する移動体の輪郭を絞り込んで行くことにある。
【0100】
本実施の形態の統合処理の主要部分である「移動体書き出し処理」(後述)では、以下に説明するように、背景差分画像BG(x,y)の有効領域の画素を探索点として、輪郭抽出画像O(x,y)に対して探索点の周囲の画素の値を繰り返しチェックして行く。その結果、統合処理部12における移動体の輪郭抽出においては、有効領域と無効領域との区別がなくなる。
【0101】
背景差分画像BG(x,y)(図12(e))において、その値が「1」の画素は、移動体(人物Ma)を表す。輪郭抽出画像O(x,y)において、その値が「1」の画素は、フレーム間で変化した物体(人物Maを含む)を表す。
【0102】
背景差分画像BG(x,y)における人物Maの像の輪郭と輪郭抽出画像O(x,y)における人物Maの輪郭とは一致する。従って、背景差分画像BG(x,y)における人物Maの像に基づき、この像の輪郭とつながる輪郭抽出画像O(x,y)における変化物体の輪郭を求めれば、人物Maの全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)(図12(h))を得ることができる。
【0103】
統合処理部12における背景差分画像BG(x,y)と輪郭抽出画像O(x,y)とから移動体輪郭画像M(x,y)を生成する処理の流れを図14に示す。なお、前処理として、背景差分画像BG(x,y)や輪郭抽出画像O(x,y)に対し、収縮・膨張処理などを行いノイズ除去を行ってもよい。
【0104】
統合処理部12では、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、その値が共に「1」であるか否かを順番にチェックする(ステップ401)。背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素の値が共に「1」であれば(ステップ401のYES)、その都度、後述する「移動体書き出し処理」を実行する(ステップ402)。
【0105】
すなわち、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、下記の(9)式に従って順次評価値を求め、評価値が「1」となれば、「移動体書き出し処理」を行う。この「移動体書き出し処理」の繰り返しによって、移動体輪郭画像M(x,y)を生成する。
If〔BG(x,y)=「1」 and O(x,y)=「1」〕then「1」else「0」 ・・・・(9)
【0106】
なお、この(9)式は、(BG(x,y)、O(x,y)共に「1」の画素については評価値を「1」とし、それ以外の画素については評価値を「0」とすることを意味している。評価値が「1」となった画素についてのみ「移動体書き出し処理」を行い、評価値が「0」となった画素については「移動体書き出し処理」は行わない。
【0107】
〔移動体書き出し処理〕
ステップ401において、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素が共に「1」であることが確認されると(図16(a),(b)参照)、すなわち上記(9)式によって求められる評価値が「1」となると、統合処理部12はその画素の座標点(x,y)を探索点として探索点メモリに書き込む(図15に示すステップ501)。
【0108】
また、その探索点(x,y)に対応する移動体輪郭画像M(x,y)における画素の値を「1」とする(ステップ502:図16(c)参照)。また、再度探索点とされないように、その探索点(x,y)に対応する背景差分画像BG(x,y)、輪郭抽出画像O(x,y)における画素の値を「0」とする(ステップ503:図16(d),(e)参照)。
【0109】
そして、探索点(x,y)の周囲の画素について、すなわち探索点(x,y)の周囲に位置する背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、順番にその値をチェックして行く(ステップ504〜508)。なお、本実施の形態では、周囲8画素を処理対象とする。
【0110】
図17(a)は輪郭抽出画像O(x,y)における最初の探索点(x,y)の周囲8画素を示し、図17(b)は背景差分画像BG(x,y)における最初の探索点(x,y)の周囲8画素を示す。この探索点(x,y)の周囲8画素について、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素(周囲画素)の値をチェックし、どちらかが「1」であれば(ステップ504のYES)、その周囲画素の座標点(x,y)を次期探索点として次期探索点メモリに登録する(ステップ505)。図17に示した例では、座標点(x,y+1)と(x,y−1)が次期探索点として登録される。
【0111】
また、次期探索点を登録した後、その次期探索点に対応する移動体輪郭画像M(x,y)における画素の値を「1」とする(ステップ506)。図17に示した例では、図18(a)に示すように、座標点(x,y+1)と(x,y−1)の対応する移動体輪郭画像M(x,y)における画素の値が「1」とされる。そして、再度探索点とされないように、その次期探索点に対応する背景差分画像BG(x,y)および輪郭抽出画像O(x,y)における画素の値を「0」とする(ステップ507:図19(a),(b)参照)。
【0112】
すなわち、探索点(x,y)の周囲の背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素(周囲画素)について、下記の(10)式に従って評価値を求め、評価値が「1」となれば、その周囲画素の座標点(x,y)を次期探索点として次期探索点メモリに登録し、その周囲画素の座標点(x,y)に対応する移動体輪郭画像M(x,y)における画素の値を「1」とし、その周囲画素の座標点(x,y)に対応する背景差分画像BG(x,y)、輪郭抽出画像O(x,y)における画素の値を「0」とする。探索点(x,y)の周囲画素の全てについて処理を終了すれば(ステップ508のYES)、ステップ509へ進む。
If〔BG(x,y)=「1」 or O(x,y)=「1」〕then「1」else「0」 ・・・・(10)
【0113】
ステップ509では、次期探索点が次期探索点メモリに登録されているか否かをチェックし、次期探索点が次期探索点メモリに登録されていれば(ステップ509のYES)、その登録されている次期探索点の1つを新しい探索点として探索点メモリに登録し(ステップ510)、ステップ504へ戻って同様動作を繰り返す。
【0114】
これにより、図18(b)に示すように、移動体輪郭画像M(x,y)において、その値を「1」とする画素が探索点(x,y)を中心としてつながって行く。次期探索点メモリに次期探索点がなくなれば(ステップ509のNO)、一連の移動体書き出し処理を終了する。この移動体書き出し処理は、有効領域S1,無効領域S2の区別なく、ステップ403で全画素が終了するまで繰り返される。
【0115】
この「移動体書き出し処理」の繰り返しによって、背景差分画像BG(x,y)における信頼性の高い人物Maの像とつながる輪郭抽出画像O(x,y)中における変化物体の輪郭が求められて行き、人物Maの全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)(図12(h))が得られるようになる。これにより、自動的に決定(自動的に更新)される無効領域S2が広くなっても、人物Maの検出を高精度で行うことができるようになる。
【0116】
〔▲5▼稼働中の背景画像および有効/無効領域の自動更新〕
統合処理部12で得られた移動体輪郭画像M(x,y)は背景情報更新処理部13へフィードバックされる。背景情報更新処理部13において、移動体有無判定部14は、統合処理部12からの移動体輪郭画像M(x,y)の各画素について、移動体の有無を判定する。すなわち、M(x,y)が「1」である画素については移動体有りと判定し(図10のステップ103)、M(x,y)が「0」である画素については移動体無しと判定する(ステップ102)。
【0117】
〔移動体無しと判定された画素:直前の「画素状態」に「移動状態」が含まれていない場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する(図11のステップ102a)。この例では、説明上、背景情報保持部8における移動体無しと判定された画素の「画素状態」は「移動状態」を含まず、「安定状態」又は「不安定状態」とされているものとする。
【0118】
この場合、画素状態確認部15は、移動体無しと判定された全ての画素について定量化部6へ定量化指令を送る(ステップ102a,102b)。定量化部6は、この定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された各画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める。
【0119】
画素状態分類部7は、移動体無しと判定された各画素の経過時間ETが上限値ETmaxに達していることを確認のうえ(ステップ102cのYES)、定量化部6から送られてくる移動体無しと判定された各画素の分散Varと予め定められている閾値Varthとを比較し、Var>Varthであればその画素を「不安定状態」、Var≦Varthであれば「安定状態」と判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる(ステップ102h,102i)。
【0120】
これにより、今回の過去一定時間(ETn)の画素値の分散VarがVarthを超えた画素(前回はVar≦Varth)については、その背景情報中の「画素状態」が「安定状態」から「不安定状態」へと変更される(図20に示す遷移▲5▼)。また、今回の過去一定時間(ETn)の画素値の分散VarがVarth以下になった画素(前回はVar>Varth)については、その背景情報中の「画素状態」が「不安定状態」から「安定状態」へと変更される(図20に示す遷移▲6▼)。
【0121】
この後、画素状態分類部7は、画像確保部5へデータの保存指令を送る。画像確保部5は、画素状態分類部7からの保存指令を受けて、撮像手段1からの入力画像I(x,y)における移動体無しと判定された各画素の画素値を背景情報保持部8に送り、その各画素の「時系列データ」中の最も古い画素値と置き換えて保存する(ステップ102f)。
【0122】
〔移動体有りと判定された画素:直前の「画素状態」に「移動状態」が含まれていない場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」は「移動状態」を含まず、「安定状態」又は「不安定状態」とされているものとする。
【0123】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「安定状態」であった場合、その画素について「安定状態」から「移動状態」への遷移と判断し(図20に示す遷移▲3▼)、すなわちその「画素状態」を「移動状態」の一形態である「安定状態から移動状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲1▼参照)。これにより、「安定状態」から「移動状態」へ遷移した画素について、その移動時間(移動状態に遷移してからの経過時間)TMのカウントが開始される。
【0124】
画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「不安定状態」であった場合、その画素について「不安定状態」から「移動状態」への遷移と判断し(図20に示す遷移▲4▼)、すなわちその「画素状態」を「移動状態」の一形態である「不安定状態から移動状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲2▼参照)。これにより、「不安定状態」から「移動状態」へ遷移した画素について、その移動時間TMのカウントが開始される。
【0125】
なお、全ての場合において「移動状態」への更新後は、その画素の背景情報における「時系列データ」中の最新の画素値(直前の画素値)を現在の画素値とし、この現在の画素値を最も古い画素値と置き換えて保存する。すなわち、移動体有りと判定された画素については、その移動体を含む画素値を背景情報中の時系列データとしては含めない。
【0126】
〔移動体有りと判定された画素:直前の「画素状態」に「移動状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「移動状態」が含まれているものとする。
【0127】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「移動状態」であった場合、その送られてきた「移動状態」をそのままその画素の「画素状態」として背景情報保持部8に保持(更新)させる。すなわち、直前の「画素状態」が「安定状態から移動状態」であれば更新後の「画素状態」も「安定状態から移動状態」とし、直前の「画素状態」が「不安定状態から移動状態」であれば更新後の「画素状態」も「不安定状態から移動状態」とする。この場合、その画素の背景情報中、「移動時間TM」を1アップする(図21に示す処理内容▲4▼,▲5▼参照)。なお、移動時間TMは、予め定められた上限値TMmaxより上には増やさない。
【0128】
〔移動体無しと判定された画素:移動状態でなくなった場合〕
移動体有無判定部14は、移動体輪郭画像M(x,y)から移動体が無くなると、それまで移動体有りと判定していた画素を移動体無しと判定する。この場合、画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。
【0129】
ここで、移動体無しと判定された画素の直前の「画素状態」は「移動状態」とされているので(図11に示すステップ102aのYES)、画素状態確認部15はその旨を移動時間判定部16へ知らせる。移動時間判定部16は、画素状態確認部15からの知らせを受けて、その移動体無しと判定された画素の背景情報保持部8における「移動時間TM」をチェックする(ステップ102j)。
【0130】
(イ)移動体がとどまっていた時間が短かった場合
「移動時間TM」が上限値TMmaxに達していない場合、すなわち移動体がその画素にとどまっていた時間が短かかった場合、移動時間判定部16はその画素の背景情報中の「移動時間TM」を零に戻し(ステップ102k)、定量化部6へ定量化指令を送る。
【0131】
定量化部6は、移動時間判定部16からの定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める(ステップ102b)。この場合、移動体無しと判定された画素の「経過時間ET」は上限値ETmaxに達しているので(ステップ102cのYES)、ステップ102g以降の処理が実行される。
【0132】
この処理によって、「安定状態」か「不安定状態」かが判断され、「安定状態」と判断された画素の背景情報中の「画素状態」は「移動状態」から「安定状態」へ遷移し(ステップ102i:図20の遷移▲7▼)、「不安定状態」として判断された画素の背景情報中の「画素状態」は「移動状態」から「不安定状態」へ遷移する(ステップ102h:図20の遷移▲8▼)。
【0133】
(ロ)移動体がとどまっていた時間が長かった場合
「移動時間TM」が上限値TMmaxに達していた場合、すなわち移動体がその画素にとどまっていた時間が長かかった場合、移動時間判定部16はその画素の背景情報中の「時系列データ」をクリするとともに(ステップ102m)、その画素の背景情報中の「経過時間ET」および「移動時間TM」を零に戻し(ステップ102n,102k)、定量化部6へ定量化指令を送る。
【0134】
定量化部6は、移動時間判定部16からの定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める(ステップ102b)。この場合、移動体無しと判定された画素の経過時間ETは0に戻されているので(ステップ102cのNO)、ステップ102d以降の処理が実行される。この処理によって、その画素の背景情報中の画素の「画素状態」は、「移動状態」から「未定状態」へ遷移する(ステップ102d:図20の遷移▲9▼)。また、その画素の背景情報中の「経過時間ET」のカウントが開始されるとともに(ステップ102e)、その画素の背景情報中の「時系列データ」の収集が開始される(ステップ102f)。
【0135】
〔移動体有りと判定された画素:直前の「画素状態」に「未定状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「未定状態」が含まれているものとする。
【0136】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「未定状態」であった場合、その画素について「未定状態」から「移動状態」への遷移と判断し(図20の遷移(10))、すなわちその「画素状態」を「移動状態」の一形態である「未定状態から移動状態」であると判断し、この「未定状態から移動状態」をその画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲3▼参照)。これにより、「未定状態」から「移動状態」へ遷移した画素について、その移動時間TMのカウントが開始される。
【0137】
〔移動体有りと判定された画素:直前の「画素状態」に「未定状態から移動状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「未定状態から移動状態」が含まれているものとする。
【0138】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「未定状態から移動状態」であった場合、その送られてきた「未定状態から移動状態」をそのままその画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップする(図21に示す処理内容▲6▼参照)。
【0139】
このようにして自動更新された各画素の背景情報より、移動体輪郭画像M(x,y)が得られる毎に、有効/無効領域決定部10は、「安定状態」である画素、「安定状態から移動状態」である画素を有効画素(STATE(x,y)=1)とし、「未定状態」である画素、「不安定状態」である画素、「未定状態から移動状態」である画素「不安定状態から移動状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定する。また、背景画像生成部9は、各画素の「時系列データ」の平均値として背景画像A(x,y)を生成する。
【0140】
【発明の効果】
以上説明したことから明らかなように本発明によれば、入力画像を撮像する撮像手段からの時系列の画像を確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合を定量化し、この定量化した各画素の変動具合に基づいて背景差分処理の有効領域を自動的に決定するようにしたので、移動体などの検出に入る前に有効領域の自動決定を行ったり(オフライン的実施)、移動体などの検出中に有効領域の自動決定を行ったりすることにより(オンライン的実施)、背景差分処理の有効/無効領域の特定および設定に要する人間の手間をなくすことができる。また、オンライン的実施とすれば、移動体などの検出中における背景差分処理の有効/無効領域の設定を常に適切に行うことが可能となる。
【図面の簡単な説明】
【図1】本発明に係る背景差分処理装置の一実施の形態(オフライン的実施の処理方式1)の要部を示すブロック図である。
【図2】この背景差分処理装置における画素毎の背景情報の要素名および概要を示す図である。
【図3】この背景差分処理装置において決定された有効/無効領域を使用しての背景差分処理を示すフローチャートである。
【図4】このフローチャートに従う背景差分処理を説明するための図である。
【図5】本発明に係る背景差分処理装置の一実施の形態(オフライン的実施の処理方式2)の要部を示すブロック図である。
【図6】この背景差分処理装置における画素毎の背景情報の要素名および概要を示す図である。
【図7】本発明に係る背景差分処理装置を含む移動体検出装置の一実施の形態(オンライン的実施)の要部を示すブロック図である。
【図8】この移動体検出装置における背景情報更新処理部の内部構成の概略を示すブロック図である。
【図9】この移動体検出装置における画素毎の背景情報の要素名および概要を示す図である。
【図10】この移動体検出装置における移動体の有無の判定処理を示すフローチャートである。
【図11】この移動体検出装置における移動体無しと判定された場合の処理を示すフローチャートである。
【図12】この移動体検出装置における移動体の検出処理を説明するための図である。
【図13】この移動体検出装置における輪郭抽出処理部の要部を示すブロック図である。
【図14】この移動体検出装置における統合処理部での背景差分画像と輪郭抽出画像とからの移動体輪郭画像の生成処理を示すフローチャートである。
【図15】この移動体検出装置における統合処理部での移動体輪郭画像を生成する際の移動体書き出し処理を示すフローチャートである。
【図16】このフローチャートに従う移動体書き出し処理を説明するための図である。
【図17】輪郭抽出画像および背景差分画像における最初の探索点(x,y)の周囲8画素を示す図である。
【図18】移動体輪郭画像が出来上がって行く様子を示す図である。
【図19】再度探索点とされないように時期探索点に対応する背景差分画像および輪郭抽出画像における画素の値が「0」とされて行く様子を示す図である。
【図20】画素状態分類部で分類される「画素状態」の遷移図である。
【図21】移動体有りと判定された画素についての処理内容を示す図である。
【図22】従来の背景差分処理を説明する図である。
【図23】頻繁に変化する物体として例えばネオンが含まれている場合の背景差分処理を説明する図である。
【図24】人為的に有効/無効領域を設定して背景差分処理を行うようにした従来例を説明する図である。
【符号の説明】
1…撮像手段、2…切替スイッチ、3…背景情報作成処理部、4…背景差分処理部、5…画像確保部、6…定量化部、7…画素状態分類部、8…背景情報保持部、9…背景画像生成部、10…有効/無効領域決定部、11…輪郭抽出処理部(フレーム間差分処理部)、12…統合処理部、13…背景情報更新処理部、14…移動体有無判定部、15…画素状態確認部、16…移動時間判定部、17…フレーム間差分処理部、18…画像メモリ、100,100’…背景差分処理装置、200…移動体検出装置。
【発明の属する技術分野】
この発明は、入力画像と背景画像との差分を背景差分画像として求める背景差分処理方法および装置に関し、特に移動体などの検出に用いて好適な背景差分処理方法および装置に関するものである。
【0002】
【従来の技術】
従来より、移動体などの検出では、背景差分処理を行っている。図22(a)はTVカメラなどの撮像手段によって撮像された入力画像、図22(b)はこの入力画像に含まれる背景画像である。入力画像に移動体が写っていなければ入力画像と背景画像とは等しい。背景差分処理では、図22(a)に示された入力画像と図22(b)に示された背景画像との差分をとり、図22(c)に示されるような背景差分画像を得る。この例では、入力画像に移動体として人物Maが写っており、背景画像との差分をとることにより背景画像には含まれていなかった人物Maのみが背景差分画像に現れる。このようにして移動体の像を抽出(検出)することができる。
【0003】
しかしながら、背景には、静止物体だけではなく、動いたり、輝度が頻繁に変化する物体もある。例えば、ネオンなどは、輝度が頻繁にかつ著しく変化する。図23(a)に示す入力画像および図23(b)に示す背景画像にはネオンNeが含まれている。この場合、背景差分処理を行うと、図23(c)に示す背景差分画像には、人物Maに加えて、ネオンNeが現れる。図23(c)に示された背景差分画像中、ネオンNeは、移動体である人物Maの検出において不適切な判断を与える外乱要因となる。
【0004】
そこで、最近の背景差分処理では、背景画像に対して背景差分処理の対象とする有効領域と対象としない無効領域を設定し、有効領域のみの情報に基づいて移動体の検出を行っている。例えば、図24(b)に示すように、ネオンNeが存在する領域を無効領域S2、無効領域S2を除いた残りの領域を有効領域S1とし、有効領域S1についてのみ入力画像(図24(a))と背景画像(図24(b))との差分をとり、図24(c)に示されるような背景差分画像を得るようにしている。これにより、ネオンNeが存在する無効領域S2が背景差分処理の対象から除外され、入力画像中の人物Maのみを含む背景差分画像を得ることができる(例えば、特許文献1参照)。
【0005】
なお、上述した例では、有効領域S1についてのみ入力画像と背景画像との差分をとるようにしたが、全領域を対象として入力画像と背景画像との差分をとり、この差分画像における無効領域S2に対応する部分にマスクをかけて、図24(c)に示されるような背景差分画像を得ることも行われている。このようなマスクをかける方法によっても、無効領域S2を背景差分処理の対象から除外し、有効領域S1のみを背景差分処理の対象として、入力画像中の人物Maだけを移動体として検出することができる。
【0006】
【特許文献1】
特開平9−214938号公報(第4−5頁、図1−図4)
【0007】
【発明が解決しようとする課題】
しかしながら、このような従来の背景差分処理方法によると、人間の判断によるマニュアル操作で、画像フレーム中のどの部分を背景差分処理の有効/無効領域とするかを特定し設定しているため、手間がかかるという問題があった。
また、従来の背景差分処理方法では、一度背景差分処理の有効/無効領域の特定および設定が行われると、移動体などの検出中(実稼働中)はその背景差分処理の有効/無効領域が変更されることがない。このため、無効領域とすべき領域が時々刻々と変化するような場合、実稼働中における背景差分処理の有効/無効領域の設定が不適切となり、結果的に背景差分処理による移動体などの検出性能が劣化することになる。
【0008】
本発明はこのような課題を解決するためになされたもので、その目的とするところは、背景差分処理の有効/無効領域の特定および設定に要する人間の手間をなくすことができる、また移動体などの検出中における背景差分処理の有効/無効領域の設定を常に適切に行うことができる背景差分処理方法および装置を提供することにある。
【0009】
【課題を解決するための手段】
このような目的を達成するために本発明は、画像フレーム内で任意に設定される有効領域を対象として入力画像と背景画像との差分を求め、入力画像の有効領域内における変化物体の像を含む背景差分画像を求める背景差分処理方法において、入力画像を撮像する撮像手段からの時系列の画像を確保する画像確保ステップと、この画像確保ステップによって確保された時系列の画像間で画像フレームを構成する各画素の変動具合を定量化する定量化ステップと、この定量化ステップによって定量化された各画素の変動具合に基づいて背景差分処理の有効領域を自動的に決定する有効領域決定ステップとを設けたものである。
【0010】
この発明によれば、確保された時系列の画像間で画像フレームを構成する各画素の変動具合が定量化され、この定量化された各画素の変動具合に基づいて背景差分処理の有効領域が自動的に決定される。この場合、有効領域を除いた残りの領域が無効領域であり、有効領域を自動的に決定するということは、有効/無効領域を自動的に決定していることに他ならない。
【0011】
なお、撮像手段からの画像(入力画像)には移動体が含まれる場合もあるし、含まれない場合もある。移動体が含まれる場合、その移動体を含む画素については、直前の画素状態を参照し、有効画素/無効画素の判断を行うようにするとよい。
【0012】
【発明の実施の形態】
本発明では、背景差分処理の有効/無効領域を、移動体などの検出に入る前(実稼働前)や移動体などの検出中(実稼働中)に自動的に決定することが可能である。以下、実稼働前の有効/無効領域の自動決定を「オフライン的実施」、実稼働中の有効/無効領域の自動決定を「オンライン的実施」と呼ぶ。
【0013】
〔オフライン的実施〕
オフライン的実施では、実稼働前に、撮像手段からの時系列の画像(移動体を含まない入力画像)を予め規定された特定の量だけ確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合(画素値の変動具合)を定量化(例えば、平均値に対する標準偏差などを算出)する。そして、この定量化した各画素の変動具合に基づいてこれら各画素の状態(画素状態)を分類する。例えば、特定の閾値(以下、特定閾値と呼ぶ)を使用し、画素の変動具合が特定閾値よりも大きければその画素は「不安定状態」、画素の変動具合が特定閾値以下であればその画素は「安定状態」とする。そして、「不安定状態」の画素を無効画素、「安定状態」の画素を有効画素とし、無効画素を集めた領域を無効領域、有効画素を集めた領域を有効領域とする。実稼働中、この実稼働前に自動決定した有効/無効領域を使用して、入力画像と背景画像との背景差分処理を行う。
【0014】
〔オンライン的実施〕
オンライン的実施では、実稼働中、撮像手段からの時系列の画像(入力画像)を予め規定された特定の量だけ確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合(画素値の変動具合)を定量化(例えば、平均値に対する標準偏差などを算出)する。そして、この定量化した各画素の変動具合に基づいてこれら各画素の状態(画素状態)を分類する。例えば、画素の変動具合が特定閾値よりも大きければその画素は「不安定状態」、画素の変動具合が特定閾値以下であればその画素は「安定状態」とする。そして、「不安定状態」の画素を無効画素、「安定状態」の画素を有効画素とし、無効画素を集めた領域を無効領域、有効画素を集めた領域を有効領域とする。
【0015】
撮像手段から新しい画像(入力画像)が得られる毎に、その新しい画像を規定された特定の量だけ確保されている時系列の画像中の最も古い画像と置き換えて、この確保された画像の各画素の変動具合の定量化、定量化した変動具合に基づく各画素の状態の分類、分類した各画素の状態に基づく有効/無効領域の決定を繰り返す。これにより、実稼働中、新しい画像が得られる毎に自動的に決定(自動的に更新)される有効/無効領域を使用して、入力画像と背景画像との背景差分処理が行われる。
【0016】
以下、本発明を図面に基づいて詳細に説明する。
〔オフライン的実施:処理方式1〕
図1は本発明に係る背景差分処理装置の一実施の形態の要部を示すブロック図であり、オフライン的実施の代表例を示したものである。この背景差分処理装置100では、移動体などの検出に入る前(実稼働前)に、背景差分処理の有効/無効領域の自動決定を行う。
【0017】
図1において、1はTVカメラなどの撮像手段、2は切替スイッチ、3は背景情報作成処理部、4は背景差分処理部である。背景情報作成処理部3は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10を備えている。
【0018】
背景情報作成処理部3において、画像確保部5は、撮像手段1からの所定周期で入力される時系列の入力画像I(x,y,t)(以下、I(x,y)と略す)を予め規定された特定の量だけ確保し、その確保した各画像の画像フレームを構成する各画素の画素値を背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0019】
定量化部6は、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。画素状態分類部7は、定量化部7で定量化された各画素の変動具合に基づいて各画素の状態を分類し、その分類した各画素の状態を背景情報保持部8に送り、各画素の背景情報の一部である「画素状態」として保持させる。なお、初期状態において、背景情報保持部8における各画素の「画素状態」はその画素の状態が確定されていないことを示す「未定状態」とされている。また、背景情報保持部8における「時系列データ」はクリアされ、零とされている。
【0020】
背景情報保持部8は、上述した「時系列データ」および「画素状態」を各画素の背景情報として保持する。背景画像生成部9は、背景情報保持部8における各画素の「時系列データ」に基づき、背景画像A(x,y)を生成する。有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、背景差分処理の有効領域S1/無効領域S2を決定する。
【0021】
〔実稼働前の背景画像の生成および有効/無効領域の決定〕
以下、背景情報作成処理部3における各部の詳細な機能を交えながら、実稼働前の背景画像A(x,y)の生成および有効領域S1/無効領域S2の決定手順について説明する。
【0022】
実稼働前に、切替スイッチ2を背景情報作成処理部3側として、移動体の検出対象領域を撮像した撮像手段1からの時系列の入力画像I(x,y)を画像確保部5へ送る。このとき、撮像手段1が撮像する画像には移動体や輝度が変化する物体が含まれないようにする。
【0023】
画像確保部5は、撮像手段1からの時系列の入力画像I(x,y)をn個確保する。そして、この確保したn個の画像の画像フレームを構成する各画素の画素値D1〜Dnを背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0024】
画像確保部5は、n個の画像を確保すると、その旨を定量化部6へ知らせる。定量化部6は、画像確保部5によって確保されたn個の画像の各画素の「時系列データ(D1〜Dn)」を背景情報保持部8より取り出し、この取り出した各画素の「時系列データ(D1〜Dn)」の変動具合を定量化する。ここでは、時系列データとして保持させた画素値D1〜Dnの平均値を求め、この平均値に対する標準偏差σを算出する。
【0025】
定量化部6は算出した各画素の標準偏差σを画素状態分類部7へ送る。画素状態分類部7は、定量化部6から送られてくる各画素の標準偏差σと予め定められている閾値σthとを比較し、σ>σthであればその画素の状態を「不安定状態」と判断する。σ≦σthであればその画素の状態を「安定状態」と判断する。そして、この分類した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素の背景情報の一部として保持させる。
【0026】
これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から画素状態分類部7によって分類された「安定状態」又は「不安定状態」に書き替えられる。図2に画素毎の背景情報の要素名および概要を示す。
【0027】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を求め、保持する。すなわち、各画素の時系列データとして保持されている画素値D1〜Dnを平均し、背景画像A(x,y)の各画素の画素値とし、これを保持する。
【0028】
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0029】
〔実稼働中の背景差分処理〕
実稼働中は、切替スイッチ2を背景差分処理部4側とし、撮像手段1からの移動体の検出対象領域を撮像した時系列の入力画像I(x,y)を背景差分処理部4へ送る。
【0030】
背景差分処理部4は、撮像手段1からの入力画像I(x,y)を取り込み(図3に示すステップ301)、この取り込んだ入力画像I(x,y)(図4(a)参照)と背景画像生成部9に保持されている背景画像A(x,y)(図4(b)参照)との差を計算し(ステップ302)、予め設定されている閾値Ths(x,y)を用いての閾値処理により差分画像S(x,y)(図4(c)参照)を得る(ステップ303)。この閾値処理は、数式表現すると、下記の(1),(2)式で表される。
【0031】
S(x,y)=1〔if |I(x,y)−A(x,y)|>Ths(x,y)〕 ・・・・(1)
S(x,y)=0〔if |I(x,y)−A(x,y)|≦Ths(x,y)〕 ・・・・(2)
【0032】
この処理は、入力画像I(x,y)の画素値と背景画像A(x,y)の画素値(平均値)との差が閾値Ths(x,y)より大きい画素、すなわち背景に大きな変化があった画素の値を「1」とする2値化処理である。
【0033】
そして、背景差分処理部4は、ステップ303で得た差分画像S(x,y)と有効/無効領域決定部10に保持されている有効/無効領域(図4(d)参照)とから、背景差分画像BG(x,y)を得る(ステップ304)。この処理は、数式表現すると、下記の(3),(4)式で表される。
【0034】
BG(x,y)=1〔if S(x,y)=1and(STATE(x,y)=1)〕・・・・(3)
BG(x,y)=0(otherwise)・・・(4)
【0035】
この処理は、差分画像S(x,y)において、その画素値が「1」でかつ有効画素(「安定状態」である画素)である画素の値を「1」、それ以外の画素の値を「0」とする2値化処理である。
この処理により、無効領域S2が背景差分処理の対象から除外され、図4(e)に示されるような背景差分画像BG(x,y)を得ることができる。
【0036】
なお、この実施の形態では、全領域を対象として入力画像I(x,y)と差分画像A(x,y)との差分画像S(x,y)を求め、この差分画像S(x,y)における無効領域S2の部分にマスクをかけることによって、無効領域S2を背景差分処理の対象から除外するようにしているが、有効領域S1についてのみ入力画像I(x,y)と差分画像A(x,y)との差分画像を求め、この差分画像を背景差分画像BG(x,y)として得るようにしてもよい。
【0037】
〔オフライン的実施:処理方式2〕
図1にはオフライン的実施の代表例として分かり易い処理方式を示したが、図5に示すような処理方式としてもよい。なお、この処理方式では、背景情報保持部8に、撮像手段1が撮像する入力画像の画像フレームを構成する各画素に対応して、その画素の背景情報として、「時系列データ」および「画素状態」に加えて、「経過時間ET」(画素状態が未定状態に入ってから経過した時間)を保持する。図6に画素毎の背景情報の要素名および概要を示す。この処理方式2では、「経過時間ET」を背景情報の一部として保持することにより、充分な数の画像(n個の画像)が取り込まれたことを検出し、その検出時点で背景画像の生成および有効/無効領域の自動決定を行う。
【0038】
〔実稼働前の背景画像の生成および有効/無効領域の決定〕
この処理方式においても、実稼働前に、切替スイッチ2を背景情報作成処理部3側として、移動体の検出対象領域を撮像した撮像手段1からの時系列の入力画像(x,y)を画像確保部5へ送る。このとき、撮像手段1が撮像する画像には移動体や輝度が変化する物体が含まれないようにする。
【0039】
画像確保部5は、切替スイッチ2を背景情報作成処理部3側とされると、初期状態として、背景情報保持部8における各画素の背景情報の一部である「画素状態」を「未定状態」とする。また、各画素の「経過時間ET」をリセットし、零とする。また、各画素の「時系列データ」をクリアして、零とする。
【0040】
撮像手段1から最初の入力画像I(x,y)が入力されると、画像確保部5は、定量化部6へ定量化指令を送る。定量化部6は、画像確保部5からの定量化指令を受けて、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。この例では、各画素の変動具合として、取り出した「時系列データ」の平均値に対する標準偏差σを求める。そして、定量化部6は、この求めた各画素の標準偏差σを画素状態分類部7へ送る。
【0041】
最初の入力画像I(x,y)が入力された時点では、背景情報保持部8にはまだ各画素の「時系列データ」は1つも保持されていないので、定量化部6ではまだ各画素の標準偏差σを求めることができない。この場合、定量化部6は、各画素の標準偏差σを零として画素状態分類部7へ送る。
【0042】
画素状態分類部7は、背景情報保持部8に保持されている各画素の「経過時間ET」を確認し、「経過時間ET」が予め定められている上限値ETmaxに達していなければ、定量化部6からの標準偏差σに拘わらず、その画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。なお、この例では、撮像手段1からn個の画像が取り込まれるまでの時間ETnを上限値ETmaxとしている。
【0043】
最初の入力画像I(x,y)が入力された時点では、背景情報保持部8における各画素の「経過時間ET」は零とされている。したがって、この場合、画素状態分類部7は、各画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像(最初の入力画像)I(x,y)における各画素の画素値D1を背景情報保持部8に送り、各画素の「時系列データ」として保持させる。
【0044】
以下、画像確保部5に撮像手段1からの画像I(x,y)が入力される毎に、同様動作を繰り返す。これによって、背景情報保持部8における各画素の背景情報は、「画素状態」を「未定状態」としたまま、「時系列データ」がD1,D2,D3・・・・Dnと保持されて行き、「経過時間ET」がET1,ET2,ET3・・・・ETnとカウントアップされて行く。
【0045】
画像確保部5にn+1個目の画像I(x,y)が入力され、画素状態分類部7へ各画素の標準偏差σが与えられたとき、画素状態分類部7で確認される背景情報保持部8における各画素の「経過時間ET」はETn(=ETmax)となる。この場合、画素状態分類部7は、各画素の「時系列データ」が必要量確保されたと判断し、定量化部6からの標準偏差σを用いての画素状態の分類を行う。
【0046】
すなわち、画素状態分類部7は、定量化部6から送られてくる各画素の標準偏差σと予め定められている閾値σthとを比較し、σ>σthであればその画素を「不安定状態」、σ≦σthであれば「安定状態」と判断する。そして、この判断した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素の「画素状態」として保持させる。これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から「安定状態」又は「不安定状態」に書き替えられる。
【0047】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を生成し、保持する。
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0048】
このような処理方式とした背景差分処理装置100’においても、画像確保部5において撮像手段1からの時系列の画像がn個確保されるし、この確保された画像の各画素の変動具合が定量化部6において定量化されるし、この定量化された各画素の変動具合に基づいてこれら各画素の画素状態が画素状態分類部7で分類されるし、この分類された各画素の画素状態に基づいて背景差分処理の有効/無効領域が有効/無効領域決定部10において自動的に決定されるので、図1に示した背景差分処理装置100と実質的に変わるところはない。
【0049】
〔オンライン的実施:移動体検出装置〕
図7は本発明に係る背景差分処理装置を含む移動体検出装置の一実施の形態の要部を示すブロック図であり、オンライン的実施の一例を示したものである。この移動体検出装置200では、実稼働中(移動体の検出中)に、背景画像A(x,y)の自動生成および背景差分処理の有効領域S1/無効領域S2の自動決定を行う。
【0050】
図7において、1はTVカメラなどの撮像手段、4は背景差分処理部、11は輪郭抽出処理部、12は統合処理部、13は背景情報更新処理部である。この移動体検出装置200においては、撮像手段1からの所定周期で入力される入力画像I(x,y)を背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送るようにし、背景差分処理部4において生成される背景差分画像BG(x,y)と輪郭抽出処理部11において生成される輪郭抽出画像O(x,y)とから統合処理部12において移動体輪郭画像M(x,y)を生成し、この生成した移動体輪郭画像M(x,y)を背景情報更新処理部13へフィードバックし、背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2の更新を行うようにしている。
【0051】
背景差分処理部4は、撮像手段1からの入力画像I(x,y)と、背景情報更新処理部13からの背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2とから、有効領域S1における変化物体の像を含む背景差分画像BG(x,y)を生成する。
輪郭抽出処理部11は、撮像手段1からの入力画像I(x,y)から、入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)を生成する。
【0052】
統合処理部12は、背景差分処理部4からの背景差分画像BG(x,y)と輪郭抽出処理部11からの輪郭抽出画像O(x,y)とから、入力画像I(x,y)中の移動体の全体の輪郭を含む移動体輪郭画像M(x,y)を生成する。
背景情報更新処理部13は、撮像手段1からの入力画像I(x,y)と統合処理部12からの移動体輪郭画像M(x,y)とから、背景差分処理部4への背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2を生成(更新)する。
【0053】
図8は背景情報更新処理部13の内部構成の概略を示すブロック図である。背景情報更新処理部13は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10、移動体有無判定部14、画素状態確認部15、移動時間判定部16を備えている。この背景情報更新処理部13は、画像確保部5、定量化部6、画素状態分類部7、背景情報保持部8、背景画像生成部9、有効/無効領域決定部10を備えている点で、図5に示した背景差分処理装置100’における背景情報作成処理部3と類似している。
【0054】
〔背景情報更新処理部13の各部の機能の概略〕
背景情報更新処理部13において、画像確保部5は、撮像手段1からの所定周期で入力される時系列の入力画像I(x,y)を予め規定された特定の量だけ確保し、その確保した各画像の画像フレームを構成する各画素の画素値を背景情報保持部8に送り、各画素の背景情報の一部である「時系列データ」として保持させる。
【0055】
定量化部6は、背景情報保持部8に保持されている各画素の「時系列データ」を取り出し、この取り出した各画素の「時系列データ」の変動具合を定量化する。画素状態分類部7は、定量化部7で定量化された各画素の変動具合に基づいて各画素の状態を分類し、その分類した各画素の状態を背景情報保持部8に送り、各画素の背景情報の一部である「画素状態」として保持させる。
【0056】
なお、「画素状態」には、「未定状態」、「安定状態」、「不安定状態」の他、「移動状態」があり、「移動状態」はさらに「未定状態から移動状態」、「安定状態から移動状態」、「不安定状態から移動状態」に分けられる。これらの「画素状態」については後述する。
【0057】
背景情報保持部8は、上述した「時系列データ」、「画素状態」に加えて、「経過時間ET」(画素状態が未定状態に入ってから経過した時間)、「移動時間TM」(画素状態が移動状態に入ってから経過した時間)を各画素の背景情報として保持する。図9に画素毎の背景情報の要素名および概要を示す。なお、画素の状態の一形態である「移動状態」については後述する。
【0058】
背景画像生成部9は、背景情報保持部9における各画素の「時系列データ」に基づき、背景画像A(x,y)を生成する。有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、背景差分処理の有効領域S1/無効領域S2を決定する。
【0059】
移動体有無判定部14は、統合処理部12からフィードバックされてくる移動体輪郭画像M(x,y)の各画素毎に移動体の有無を判定し、その判定結果を画素状態確認部15へ送る。この場合、その画素の画素値が「1」であれば移動体有りと判定し、その画素の画素値が「0」でれば移動体無しと判定する。
【0060】
画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、その画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認し、移動体有りと判定された画素については、その確認した「画素状態」を画素状態分類部7へ送り、移動体無しと判定された画素については、定量化部6へ定量化指令を送る。
【0061】
移動時間判定部16は、画素状態確認部15からの知らせを受けて、「移動体有り」から「移動体無し」へと変化した画素について、背景情報保持部8における背景情報中の「移動時間TM」をチェックし、その画素に移動体がとどまっていた時間の長短を判定する。
【0062】
〔移動体検出装置200における全体の処理の流れ〕
以下では、説明を簡単とするために、実稼働開始後少なくともn個の入力画像I(x,y)が取り込まれるまでの間は、撮像手段1からの入力画像I(x,y)には移動体や輝度が変化する物体が含まれないものとする。
【0063】
実稼働開始後、n個の入力画像I(x,y)が確保されるまでは、背景差分処理部4への有効/無効領域は、その全ての領域が無効領域S2とされる(後述)。入力画像I(x,y)がn個確保されると、このn個の入力画像I(x,y)に基づく最初の背景画像A(x,y)と有効領域S1/無効領域S2が背景情報更新処理部13において確定され、背景差分処理部4に対して設定される(▲1▼実稼働開始直後の背景画像および有効/無効領域の設定)。
【0064】
そして、背景差分処理部4において、背景画像A(x,y)と有効領域S1/無効領域S2を用いて、入力画像I(x,y)と背景画像A(x,y)との間で背景差分処理が行われ、背景差分画像BG(x,y)が得られる(▲2▼背景差分画像の取得)。
【0065】
また、この背景差分画像BG(x,y)の取得と並行して、輪郭抽出処理部11での入力画像I(x,y)に対する輪郭抽出処理が行われ、入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)が得られる(▲3▼輪郭抽出画像の取得)。
【0066】
そして、統合処理部12において、輪郭抽出処理部11で得られた輪郭抽出画像O(x,y)中の輪郭(変化物体の輪郭)から背景差分処理部4で得られた背景差分画像BG(x,y)中の像(移動体の像)と連続するものが抽出され、移動体の全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)が得られる(▲4▼移動体の輪郭抽出)。
【0067】
また、この移動体輪郭画像M(x,y)が背景情報更新処理部13へフィードバックされ、背景画像A(x,y)および有効領域S1/無効領域S2が自動的に更新される(▲5▼稼働中の背景画像および有効/無効領域の自動更新)。
【0068】
以下、上述した全体の処理の流れに沿って、各部の詳細な機能を交えながら、その処理手順について説明する。なお、本発明は、この全体の処理の流れ中、「▲1▼実稼働開始直後の背景画像および有効/無効領域の設定」、「▲2▼背景差分画像の取得」、「▲5▼稼働中の背景画像および有効/無効領域の自動更新」の各処理に関係し、「▲3▼輪郭抽出画像の取得」、「▲4▼移動体の輪郭抽出」の各処理とは直接関係しない。
【0069】
〔▲1▼実稼働開始直後の背景画像および有効/無効領域の設定〕
実稼働開始の指示が出されると、背景情報更新処理部13における画像確保部5は、初期状態として、背景情報保持部8における各画素の「画素状態」を「未定状態」とする。また、各画素の「経過時間ET」および「移動時間TM」をリセットし、零とする。また、各画素の「時系列データ」をクリアして、零とする。
【0070】
実稼働開始後、撮像手段1からの最初の入力画像I(x,y)は、背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送られる。
背景差分処理部4は、撮像手段1からの最初の入力画像I(x,y)が入力されると、その入力画像I(x,y)と背景情報更新処理部13からの背景画像A(x,y)および背景差分処理の有効領域S1/無効領域S2とから背景差分画像BG(x,y)を生成する。
【0071】
この場合、背景情報更新処理部13の背景情報保持部8における背景情報中、各画素の「画素状態」は「未定状態」とされている。背景情報更新処理部13は、「画素状態」が「未定状態」である画素については、その画素を無効画素と判断し、無効画素を集めた領域を背景差分処理の無効領域とする。したがって、この場合、背景差分処理の有効領域S1はなく、全ての領域が無効領域S2とされる。
【0072】
このため、背景差分画像BG(x,y)は入力画像I(x,y)に拘わらず全ての画素が「0」とされ、輪郭抽出処理部11において得られる輪郭抽出画像O(x,y)に変化物体の輪郭が抽出されていたとしても、統合処理部12で得られる移動体輪郭画像M(x,y)は全ての画素が「0」とされる。なお、輪郭抽出処理部11および統合処理部12での具体的な処理内容については後述する。
【0073】
統合処理部12から得られた移動体輪郭画像M(x,y)は背景情報更新処理部13へフィードバックされる。背景情報更新処理部13において、移動体有無判定部14は、統合処理部12からの移動体輪郭画像M(x,y)の各画素について、移動体の有無を判定する。
【0074】
ここで、移動体有無判定部14は、図10に示すフローチャートに従い、M(x,y)が「1」である画素については移動体有りと判定し(ステップ103)、M(x,y)が「0」である画素については移動体無しと判定する(ステップ102)。この場合、統合処理部12からの最初の移動体輪郭画像M(x,y)は全ての画素が「0」とされているので、全ての画素において移動体無しと判定される。
【0075】
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。ここで、移動体有りと判定された画素と移動体無しと判定された画素では、以降の処理が異なる。この場合、全ての画素が移動体無しと判定された画素であるので、図11に示す移動体無し時の処理動作が行われる。
【0076】
画素状態確認部15は、移動体無しと判定された各画素の背景情報保持部8における「画素状態」(直前の画素状態)をチェックし(ステップ102a)、その「画素状態」が「移動状態」であるか否かを確認する。この場合、移動体無しと判定された各画素の「画素状態」は「未定状態」であるので(ステップ102aのNO)、直ちに各画素に対しての定量化指令を定量化部6へ送る(ステップ102b)。
【0077】
定量化部6は、この画素状態確認部15からの定量化指令を受けて、背景情報保持部8に保持されている各画素の「時系列データ」および「経過時間ET」を読み出し、その各画素の「時系列データ」の変動具合を定量化する。この例では、各画素の変動具合として、「時系列データ」として保持されている画素値の平均A(x,y)と分散Varを求める。そして、定量化部6は、この求めた各画素の分散Varを画素状態分類部7へ送る。
【0078】
なお、画像フレーム(入力画像(x,y,t))の画素値をPix(x,y,t)とすると、画素値の平均A(x,y)と分散Var(x,y)はそれぞれ下記の(5)および(6)式で計算される。
【0079】
【数1】
【0080】
最初の移動体輪郭画像M(x,y)が得られた時点では、背景情報保持部8にはまだ各画素の「時系列データ」は1つも保持されていないので、定量化部6ではまだ各画素の分散Varを求めることができない。この場合、定量化部6は、各画素の分散Varを零として画素状態分類部7へ送る。
【0081】
画素状態分類部7は、背景情報保持部8に保持されている各画素の「経過時間ET」を確認し、「経過時間ET」が予め定められている上限値ETmaxに達していなければ(ステップ102cのNO)、定量化部6からの分散Varに拘わらず、その画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる(ステップ102d)。また、背景情報保持部8における各画素の「経過時間ET」を1アップし(ステップ102e)、画像確保部5へデータの保存指令を送る(ステップ102f)。なお、この実施の形態では、撮像手段1からn個の画像が取り込まれるまでの時間ETnを上限値ETmaxとしている。
【0082】
最初の移動体輪郭画像M(x,y)が得られた時点では、背景情報保持部8における各画素の「経過時間ET」は零とされている。したがって、この場合、画素状態分類部7は、各画素の状態を「未定状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持させる。また、背景情報保持部8における各画素の「経過時間ET」を1アップし、画像確保部5へデータの保存指令を送る。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像(最初の入力画像)I(x,y)における各画素の画素値D1を背景情報保持部8に送り、各画素の「時系列データ」として保持させる。
【0083】
以下、移動体有無判定部14に統合処理部12からの移動体輪郭画像M(x,y)が入力される毎に、同様動作を繰り返す。これによって、背景情報保持部8における各画素の背景情報は、「画素状態」を「未定状態」としたまま、「時系列データ」がD1,D2,D3・・・・Dnと保持されて行き、「経過時間ET」がET1,ET2,ET3・・・・ETnとカウントアップされて行く。
【0084】
移動体有無判定部14にn+1個目の移動体輪郭画像M(x,y)が入力され、画素状態分類部7へ定量化部6から各画素の分散Varが与えられると、画素状態分類部7で確認される背景情報保持部8における各画素の「経過時間ET」はETnとなり、ステップ102cにおいて経過時間ETが上限値ETmaxに達したことが検出される。この場合、画素状態分類部7は、各画素の「時系列データ」が必要量確保されたと判断し、定量化部6からの分散Varを用いての画素状態の分類を行う。
【0085】
すなわち、画素状態分類部7は、定量化部6から送られてくる各画素の分散Varと予め定められている閾値Varthとを比較し(ステップ102g)、Var>Varthであればその画素を「不安定状態」、Var≦Varthであれば「安定状態」と判断する。そして、この判断した各画素の状態(「安定状態」又は「不安定状態」)を背景情報保持部8に送り、各画素「画素状態」として保持させる(ステップ102h,102i)。これにより、それまで背景情報保持部8に保持されていた各画素の「画素状態」は、「未定状態」から「安定状態」又は「不安定状態」に書き替えられる。
【0086】
背景画像生成部9は、背景情報保持部8における各画素の「時系列データ(D1〜Dn)」に基づき、その各画素の「時系列データ(D1〜Dn)」の平均値として背景画像A(x,y)を生成し、保持する。
有効/無効領域決定部10は、背景情報保持部8における各画素の「画素状態」に基づき、「安定状態」である画素を有効画素(STATE(x,y)=1)、「不安定状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定し、保持する。
【0087】
この後、画素状態分類部7は、画像確保部5へデータの保存指令を送る(ステップ102f)。この保存指令を受けて、画像確保部5は、撮像手段1からの入力画像I(x,y)(n+1個目の入力画像)における各画素の画素値Dn+1を背景情報保持部8に送り、各画素の「時系列データ」中の最も古い画素値D1と置き換える(ステップ102f)。
【0088】
このようにして、背景情報更新処理部13において、最初の背景画像A(x,y)と有効領域S1/無効領域S2が確定され、背景差分処理部4に対して設定される。
【0089】
〔実稼働中の移動体の検出〕
今、実稼働開始から時間ETn+1を経過した後の現時刻をTとし、例として、この現時刻Tにおける撮像手段1からの入力画像I(x,y)を図12(a)、背景情報更新処理部13からの背景画像A(x,y)を図12(b)、背景情報更新処理部13からの背景差分処理の有効領域S1/無効領域S2を図12(d)に示す。この現時刻Tにおける撮像手段1からの入力画像I(x,y)は、背景差分処理部4、輪郭抽出処理部11および背景情報更新処理部13へ送られる。
【0090】
〔▲2▼背景差分画像の取得:背景差分処理〕
背景差分処理部4は、撮像手段1からの現時刻Tにおける入力画像I(x,y)を取り込み、この取り込んだ現時刻Tの入力画像I(x,y)(図12(a))と背景画像更新処理部13からの背景画像A(x,y)(図12(b))との差を計算し、予め設定されている閾値Ths(x,y)を用いての閾値処理により差分画像S(x,y)(図12(c))を得る。この閾値処理は、数式表現すると、前記した(1),(2)式で表される。
【0091】
そして、背景差分処理部4は、この閾値処理によって得た差分画像S(x,y)と背景情報更新処理部13からの有効領域S1/無効領域S2(図12(d)参照)とから、背景差分画像BG(x,y)を得る。この処理は、数式表現すると、前記した(3),(4)式で表される。この処理により、無効領域S2が背景差分処理の対象から除外され、図12(e)に示されるような背景差分画像BG(x,y)が得られる。
【0092】
この例では、差分画像S(x,y)において、移動体である人物Maの大部分が無効領域S2に位置している。したがって、背景差分画像BG(x,y)からは、ネオンNeとともにその無効領域S2に位置する人物Maの大部分が除外されている。背景差分画像BG(x,y)において、「1」とされた画素は、有効領域S1に位置している人物Maを示している。このようにして、背景差分処理によって、有効領域における移動体の像(2値画像)が得られる。
【0093】
〔▲3▼輪郭抽出画像の取得:輪郭抽出処理〕
輪郭抽出処理部11は、撮像手段1からの現時刻Tにおける入力画像I(x,y)を取り込み、この取り込んだ入力画像I(x,y)中の変化物体の輪郭を含む輪郭抽出画像O(x,y)を生成する。この実施の形態では、一般にフレーム間差分と呼ばれている画像処理によって、輪郭抽出画像O(x,y)を生成する。
【0094】
図13は輪郭抽出処理部11の要部を示すブロック図である。輪郭抽出処理部11は、フレーム間差分処理部17と画像メモリ18とを備えている。フレーム間差分処理部17は、撮像手段1からの現時刻Tの入力画像I(x,y)(図12(a):今回の入力画像)と画像メモリ18に保存されている1フレーム前の入力画像F(x,y)(図12(f):前回の入力画像)との差を計算し、予め設定されている閾値Tho(x,y)を用いての閾値処理によりフレーム間差分画像(輪郭抽出画像)O(x,y)(図12(g))を得る。この閾値処理は、数式表現すると、下記の(7),(8)式で表される。
【0095】
O(x,y)=1〔if |I(x,y)−F(x,y)|>Tho(x,y)〕 ・・・・(7)
O(x,y)=0〔if |I(x,y)−F(x,y)|≦Tho(x,y)〕 ・・・・(8)
【0096】
この処理は、今回の入力画像I(x,y)の画素値と前回の入力画像F(x,y)の画素値との差が閾値Tho(x,y)より大きい画素、すなわちフレーム間で大きな変化があった画素の値を「1」とする2値化処理である。「1」とされた画素は、フレーム間で変化した物体を示し、ネオンのように移動体以外の物体も含まれる場合がある。
【0097】
フレーム間差分処理部17でのフレーム間差分処理の実行後、撮像手段1からの現時刻Tの入力画像I(x,y)はF(x,y)として画像メモリ18に格納され、次回行われるフレーム間差分処理において1フレーム前の入力画像として用いられる。なお、この例では、輪郭抽出処理部11においてフレーム間差分処理を行うようにしたが、現時刻Tの入力画像I(x,y)に対して画像処理で一般に知られている微分処理、領域分割などを用いて現時刻の入力画像I(x,y)内の変化物体の輪郭を含む輪郭抽出画像O(x,y)を得るようにしてもよい。また、フレーム間差分や微分処理など、複数の処理手段を併用してもよい。
【0098】
〔▲4▼移動体の輪郭抽出:統合処理〕
統合処理部12は、背景差分処理部4からの背景差分画像BG(x,y)中の移動体の像に基づいて輪郭抽出処理部11からの輪郭抽出画像O(x,y)中の変化物体の輪郭を絞り込み、移動体の全体の輪郭を特定する。
【0099】
基本的な考え方は、輪郭抽出画像O(x,y)に含まれる変化物体の輪郭から背景差分画像BG(x,y)の有効領域内の移動体の情報、すなわち信頼性の高い移動体の像に基づき、無効領域に位置する移動体の輪郭を絞り込んで行くことにある。
【0100】
本実施の形態の統合処理の主要部分である「移動体書き出し処理」(後述)では、以下に説明するように、背景差分画像BG(x,y)の有効領域の画素を探索点として、輪郭抽出画像O(x,y)に対して探索点の周囲の画素の値を繰り返しチェックして行く。その結果、統合処理部12における移動体の輪郭抽出においては、有効領域と無効領域との区別がなくなる。
【0101】
背景差分画像BG(x,y)(図12(e))において、その値が「1」の画素は、移動体(人物Ma)を表す。輪郭抽出画像O(x,y)において、その値が「1」の画素は、フレーム間で変化した物体(人物Maを含む)を表す。
【0102】
背景差分画像BG(x,y)における人物Maの像の輪郭と輪郭抽出画像O(x,y)における人物Maの輪郭とは一致する。従って、背景差分画像BG(x,y)における人物Maの像に基づき、この像の輪郭とつながる輪郭抽出画像O(x,y)における変化物体の輪郭を求めれば、人物Maの全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)(図12(h))を得ることができる。
【0103】
統合処理部12における背景差分画像BG(x,y)と輪郭抽出画像O(x,y)とから移動体輪郭画像M(x,y)を生成する処理の流れを図14に示す。なお、前処理として、背景差分画像BG(x,y)や輪郭抽出画像O(x,y)に対し、収縮・膨張処理などを行いノイズ除去を行ってもよい。
【0104】
統合処理部12では、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、その値が共に「1」であるか否かを順番にチェックする(ステップ401)。背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素の値が共に「1」であれば(ステップ401のYES)、その都度、後述する「移動体書き出し処理」を実行する(ステップ402)。
【0105】
すなわち、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、下記の(9)式に従って順次評価値を求め、評価値が「1」となれば、「移動体書き出し処理」を行う。この「移動体書き出し処理」の繰り返しによって、移動体輪郭画像M(x,y)を生成する。
If〔BG(x,y)=「1」 and O(x,y)=「1」〕then「1」else「0」 ・・・・(9)
【0106】
なお、この(9)式は、(BG(x,y)、O(x,y)共に「1」の画素については評価値を「1」とし、それ以外の画素については評価値を「0」とすることを意味している。評価値が「1」となった画素についてのみ「移動体書き出し処理」を行い、評価値が「0」となった画素については「移動体書き出し処理」は行わない。
【0107】
〔移動体書き出し処理〕
ステップ401において、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素が共に「1」であることが確認されると(図16(a),(b)参照)、すなわち上記(9)式によって求められる評価値が「1」となると、統合処理部12はその画素の座標点(x,y)を探索点として探索点メモリに書き込む(図15に示すステップ501)。
【0108】
また、その探索点(x,y)に対応する移動体輪郭画像M(x,y)における画素の値を「1」とする(ステップ502:図16(c)参照)。また、再度探索点とされないように、その探索点(x,y)に対応する背景差分画像BG(x,y)、輪郭抽出画像O(x,y)における画素の値を「0」とする(ステップ503:図16(d),(e)参照)。
【0109】
そして、探索点(x,y)の周囲の画素について、すなわち探索点(x,y)の周囲に位置する背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素について、順番にその値をチェックして行く(ステップ504〜508)。なお、本実施の形態では、周囲8画素を処理対象とする。
【0110】
図17(a)は輪郭抽出画像O(x,y)における最初の探索点(x,y)の周囲8画素を示し、図17(b)は背景差分画像BG(x,y)における最初の探索点(x,y)の周囲8画素を示す。この探索点(x,y)の周囲8画素について、背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する画素(周囲画素)の値をチェックし、どちらかが「1」であれば(ステップ504のYES)、その周囲画素の座標点(x,y)を次期探索点として次期探索点メモリに登録する(ステップ505)。図17に示した例では、座標点(x,y+1)と(x,y−1)が次期探索点として登録される。
【0111】
また、次期探索点を登録した後、その次期探索点に対応する移動体輪郭画像M(x,y)における画素の値を「1」とする(ステップ506)。図17に示した例では、図18(a)に示すように、座標点(x,y+1)と(x,y−1)の対応する移動体輪郭画像M(x,y)における画素の値が「1」とされる。そして、再度探索点とされないように、その次期探索点に対応する背景差分画像BG(x,y)および輪郭抽出画像O(x,y)における画素の値を「0」とする(ステップ507:図19(a),(b)参照)。
【0112】
すなわち、探索点(x,y)の周囲の背景差分画像BG(x,y)と輪郭抽出画像O(x,y)との対応する各画素(周囲画素)について、下記の(10)式に従って評価値を求め、評価値が「1」となれば、その周囲画素の座標点(x,y)を次期探索点として次期探索点メモリに登録し、その周囲画素の座標点(x,y)に対応する移動体輪郭画像M(x,y)における画素の値を「1」とし、その周囲画素の座標点(x,y)に対応する背景差分画像BG(x,y)、輪郭抽出画像O(x,y)における画素の値を「0」とする。探索点(x,y)の周囲画素の全てについて処理を終了すれば(ステップ508のYES)、ステップ509へ進む。
If〔BG(x,y)=「1」 or O(x,y)=「1」〕then「1」else「0」 ・・・・(10)
【0113】
ステップ509では、次期探索点が次期探索点メモリに登録されているか否かをチェックし、次期探索点が次期探索点メモリに登録されていれば(ステップ509のYES)、その登録されている次期探索点の1つを新しい探索点として探索点メモリに登録し(ステップ510)、ステップ504へ戻って同様動作を繰り返す。
【0114】
これにより、図18(b)に示すように、移動体輪郭画像M(x,y)において、その値を「1」とする画素が探索点(x,y)を中心としてつながって行く。次期探索点メモリに次期探索点がなくなれば(ステップ509のNO)、一連の移動体書き出し処理を終了する。この移動体書き出し処理は、有効領域S1,無効領域S2の区別なく、ステップ403で全画素が終了するまで繰り返される。
【0115】
この「移動体書き出し処理」の繰り返しによって、背景差分画像BG(x,y)における信頼性の高い人物Maの像とつながる輪郭抽出画像O(x,y)中における変化物体の輪郭が求められて行き、人物Maの全体の輪郭を含む信頼性の高い移動体輪郭画像M(x,y)(図12(h))が得られるようになる。これにより、自動的に決定(自動的に更新)される無効領域S2が広くなっても、人物Maの検出を高精度で行うことができるようになる。
【0116】
〔▲5▼稼働中の背景画像および有効/無効領域の自動更新〕
統合処理部12で得られた移動体輪郭画像M(x,y)は背景情報更新処理部13へフィードバックされる。背景情報更新処理部13において、移動体有無判定部14は、統合処理部12からの移動体輪郭画像M(x,y)の各画素について、移動体の有無を判定する。すなわち、M(x,y)が「1」である画素については移動体有りと判定し(図10のステップ103)、M(x,y)が「0」である画素については移動体無しと判定する(ステップ102)。
【0117】
〔移動体無しと判定された画素:直前の「画素状態」に「移動状態」が含まれていない場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する(図11のステップ102a)。この例では、説明上、背景情報保持部8における移動体無しと判定された画素の「画素状態」は「移動状態」を含まず、「安定状態」又は「不安定状態」とされているものとする。
【0118】
この場合、画素状態確認部15は、移動体無しと判定された全ての画素について定量化部6へ定量化指令を送る(ステップ102a,102b)。定量化部6は、この定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された各画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める。
【0119】
画素状態分類部7は、移動体無しと判定された各画素の経過時間ETが上限値ETmaxに達していることを確認のうえ(ステップ102cのYES)、定量化部6から送られてくる移動体無しと判定された各画素の分散Varと予め定められている閾値Varthとを比較し、Var>Varthであればその画素を「不安定状態」、Var≦Varthであれば「安定状態」と判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる(ステップ102h,102i)。
【0120】
これにより、今回の過去一定時間(ETn)の画素値の分散VarがVarthを超えた画素(前回はVar≦Varth)については、その背景情報中の「画素状態」が「安定状態」から「不安定状態」へと変更される(図20に示す遷移▲5▼)。また、今回の過去一定時間(ETn)の画素値の分散VarがVarth以下になった画素(前回はVar>Varth)については、その背景情報中の「画素状態」が「不安定状態」から「安定状態」へと変更される(図20に示す遷移▲6▼)。
【0121】
この後、画素状態分類部7は、画像確保部5へデータの保存指令を送る。画像確保部5は、画素状態分類部7からの保存指令を受けて、撮像手段1からの入力画像I(x,y)における移動体無しと判定された各画素の画素値を背景情報保持部8に送り、その各画素の「時系列データ」中の最も古い画素値と置き換えて保存する(ステップ102f)。
【0122】
〔移動体有りと判定された画素:直前の「画素状態」に「移動状態」が含まれていない場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」は「移動状態」を含まず、「安定状態」又は「不安定状態」とされているものとする。
【0123】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「安定状態」であった場合、その画素について「安定状態」から「移動状態」への遷移と判断し(図20に示す遷移▲3▼)、すなわちその「画素状態」を「移動状態」の一形態である「安定状態から移動状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲1▼参照)。これにより、「安定状態」から「移動状態」へ遷移した画素について、その移動時間(移動状態に遷移してからの経過時間)TMのカウントが開始される。
【0124】
画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「不安定状態」であった場合、その画素について「不安定状態」から「移動状態」への遷移と判断し(図20に示す遷移▲4▼)、すなわちその「画素状態」を「移動状態」の一形態である「不安定状態から移動状態」であると判断し、その画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲2▼参照)。これにより、「不安定状態」から「移動状態」へ遷移した画素について、その移動時間TMのカウントが開始される。
【0125】
なお、全ての場合において「移動状態」への更新後は、その画素の背景情報における「時系列データ」中の最新の画素値(直前の画素値)を現在の画素値とし、この現在の画素値を最も古い画素値と置き換えて保存する。すなわち、移動体有りと判定された画素については、その移動体を含む画素値を背景情報中の時系列データとしては含めない。
【0126】
〔移動体有りと判定された画素:直前の「画素状態」に「移動状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「移動状態」が含まれているものとする。
【0127】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「移動状態」であった場合、その送られてきた「移動状態」をそのままその画素の「画素状態」として背景情報保持部8に保持(更新)させる。すなわち、直前の「画素状態」が「安定状態から移動状態」であれば更新後の「画素状態」も「安定状態から移動状態」とし、直前の「画素状態」が「不安定状態から移動状態」であれば更新後の「画素状態」も「不安定状態から移動状態」とする。この場合、その画素の背景情報中、「移動時間TM」を1アップする(図21に示す処理内容▲4▼,▲5▼参照)。なお、移動時間TMは、予め定められた上限値TMmaxより上には増やさない。
【0128】
〔移動体無しと判定された画素:移動状態でなくなった場合〕
移動体有無判定部14は、移動体輪郭画像M(x,y)から移動体が無くなると、それまで移動体有りと判定していた画素を移動体無しと判定する。この場合、画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。
【0129】
ここで、移動体無しと判定された画素の直前の「画素状態」は「移動状態」とされているので(図11に示すステップ102aのYES)、画素状態確認部15はその旨を移動時間判定部16へ知らせる。移動時間判定部16は、画素状態確認部15からの知らせを受けて、その移動体無しと判定された画素の背景情報保持部8における「移動時間TM」をチェックする(ステップ102j)。
【0130】
(イ)移動体がとどまっていた時間が短かった場合
「移動時間TM」が上限値TMmaxに達していない場合、すなわち移動体がその画素にとどまっていた時間が短かかった場合、移動時間判定部16はその画素の背景情報中の「移動時間TM」を零に戻し(ステップ102k)、定量化部6へ定量化指令を送る。
【0131】
定量化部6は、移動時間判定部16からの定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める(ステップ102b)。この場合、移動体無しと判定された画素の「経過時間ET」は上限値ETmaxに達しているので(ステップ102cのYES)、ステップ102g以降の処理が実行される。
【0132】
この処理によって、「安定状態」か「不安定状態」かが判断され、「安定状態」と判断された画素の背景情報中の「画素状態」は「移動状態」から「安定状態」へ遷移し(ステップ102i:図20の遷移▲7▼)、「不安定状態」として判断された画素の背景情報中の「画素状態」は「移動状態」から「不安定状態」へ遷移する(ステップ102h:図20の遷移▲8▼)。
【0133】
(ロ)移動体がとどまっていた時間が長かった場合
「移動時間TM」が上限値TMmaxに達していた場合、すなわち移動体がその画素にとどまっていた時間が長かかった場合、移動時間判定部16はその画素の背景情報中の「時系列データ」をクリするとともに(ステップ102m)、その画素の背景情報中の「経過時間ET」および「移動時間TM」を零に戻し(ステップ102n,102k)、定量化部6へ定量化指令を送る。
【0134】
定量化部6は、移動時間判定部16からの定量化指令を受けて、背景情報保持部8に保持されている移動体無しと判定された画素の「時系列データ」および「経過時間ET」を読み出し、その「時系列データ」の平均と分散を求める(ステップ102b)。この場合、移動体無しと判定された画素の経過時間ETは0に戻されているので(ステップ102cのNO)、ステップ102d以降の処理が実行される。この処理によって、その画素の背景情報中の画素の「画素状態」は、「移動状態」から「未定状態」へ遷移する(ステップ102d:図20の遷移▲9▼)。また、その画素の背景情報中の「経過時間ET」のカウントが開始されるとともに(ステップ102e)、その画素の背景情報中の「時系列データ」の収集が開始される(ステップ102f)。
【0135】
〔移動体有りと判定された画素:直前の「画素状態」に「未定状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「未定状態」が含まれているものとする。
【0136】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「未定状態」であった場合、その画素について「未定状態」から「移動状態」への遷移と判断し(図20の遷移(10))、すなわちその「画素状態」を「移動状態」の一形態である「未定状態から移動状態」であると判断し、この「未定状態から移動状態」をその画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップさせる(図21に示す処理内容▲3▼参照)。これにより、「未定状態」から「移動状態」へ遷移した画素について、その移動時間TMのカウントが開始される。
【0137】
〔移動体有りと判定された画素:直前の「画素状態」に「未定状態から移動状態」が含まれている場合〕
移動体有無判定部14は、各画素についての移動体有無の判定結果を画素状態確認部15へ送る。画素状態確認部15は、移動体有無判定部14からの各画素についての移動体有無の判定結果を受けて、各画素の背景情報保持部8における「画素状態」(直前の画素状態)を確認する。この例では、説明上、背景情報保持部8における移動体有りと判定された画素の「画素状態」に「未定状態から移動状態」が含まれているものとする。
【0138】
この場合、画素状態確認部15は、移動体有りと判定された全ての画素について、その確認した直前の「画素状態」を画素状態分類部7へ送る。画素状態分類部7は、画素状態確認部15から送られてくる「画素状態」が「未定状態から移動状態」であった場合、その送られてきた「未定状態から移動状態」をそのままその画素の「画素状態」として背景情報保持部8に保持(更新)させる。また、これと同時に、その画素の背景情報中の「移動時間TM」を1アップする(図21に示す処理内容▲6▼参照)。
【0139】
このようにして自動更新された各画素の背景情報より、移動体輪郭画像M(x,y)が得られる毎に、有効/無効領域決定部10は、「安定状態」である画素、「安定状態から移動状態」である画素を有効画素(STATE(x,y)=1)とし、「未定状態」である画素、「不安定状態」である画素、「未定状態から移動状態」である画素「不安定状態から移動状態」である画素を無効画素(STATE(x,y)=0)とし、有効画素を集めた領域を背景差分処理の有効領域S1、無効画素を集めた領域を背景差分処理の無効領域S2として決定する。また、背景画像生成部9は、各画素の「時系列データ」の平均値として背景画像A(x,y)を生成する。
【0140】
【発明の効果】
以上説明したことから明らかなように本発明によれば、入力画像を撮像する撮像手段からの時系列の画像を確保し、この確保した時系列の画像間で画像フレームを構成する各画素の変動具合を定量化し、この定量化した各画素の変動具合に基づいて背景差分処理の有効領域を自動的に決定するようにしたので、移動体などの検出に入る前に有効領域の自動決定を行ったり(オフライン的実施)、移動体などの検出中に有効領域の自動決定を行ったりすることにより(オンライン的実施)、背景差分処理の有効/無効領域の特定および設定に要する人間の手間をなくすことができる。また、オンライン的実施とすれば、移動体などの検出中における背景差分処理の有効/無効領域の設定を常に適切に行うことが可能となる。
【図面の簡単な説明】
【図1】本発明に係る背景差分処理装置の一実施の形態(オフライン的実施の処理方式1)の要部を示すブロック図である。
【図2】この背景差分処理装置における画素毎の背景情報の要素名および概要を示す図である。
【図3】この背景差分処理装置において決定された有効/無効領域を使用しての背景差分処理を示すフローチャートである。
【図4】このフローチャートに従う背景差分処理を説明するための図である。
【図5】本発明に係る背景差分処理装置の一実施の形態(オフライン的実施の処理方式2)の要部を示すブロック図である。
【図6】この背景差分処理装置における画素毎の背景情報の要素名および概要を示す図である。
【図7】本発明に係る背景差分処理装置を含む移動体検出装置の一実施の形態(オンライン的実施)の要部を示すブロック図である。
【図8】この移動体検出装置における背景情報更新処理部の内部構成の概略を示すブロック図である。
【図9】この移動体検出装置における画素毎の背景情報の要素名および概要を示す図である。
【図10】この移動体検出装置における移動体の有無の判定処理を示すフローチャートである。
【図11】この移動体検出装置における移動体無しと判定された場合の処理を示すフローチャートである。
【図12】この移動体検出装置における移動体の検出処理を説明するための図である。
【図13】この移動体検出装置における輪郭抽出処理部の要部を示すブロック図である。
【図14】この移動体検出装置における統合処理部での背景差分画像と輪郭抽出画像とからの移動体輪郭画像の生成処理を示すフローチャートである。
【図15】この移動体検出装置における統合処理部での移動体輪郭画像を生成する際の移動体書き出し処理を示すフローチャートである。
【図16】このフローチャートに従う移動体書き出し処理を説明するための図である。
【図17】輪郭抽出画像および背景差分画像における最初の探索点(x,y)の周囲8画素を示す図である。
【図18】移動体輪郭画像が出来上がって行く様子を示す図である。
【図19】再度探索点とされないように時期探索点に対応する背景差分画像および輪郭抽出画像における画素の値が「0」とされて行く様子を示す図である。
【図20】画素状態分類部で分類される「画素状態」の遷移図である。
【図21】移動体有りと判定された画素についての処理内容を示す図である。
【図22】従来の背景差分処理を説明する図である。
【図23】頻繁に変化する物体として例えばネオンが含まれている場合の背景差分処理を説明する図である。
【図24】人為的に有効/無効領域を設定して背景差分処理を行うようにした従来例を説明する図である。
【符号の説明】
1…撮像手段、2…切替スイッチ、3…背景情報作成処理部、4…背景差分処理部、5…画像確保部、6…定量化部、7…画素状態分類部、8…背景情報保持部、9…背景画像生成部、10…有効/無効領域決定部、11…輪郭抽出処理部(フレーム間差分処理部)、12…統合処理部、13…背景情報更新処理部、14…移動体有無判定部、15…画素状態確認部、16…移動時間判定部、17…フレーム間差分処理部、18…画像メモリ、100,100’…背景差分処理装置、200…移動体検出装置。
Claims (4)
- 画像フレーム内で任意に設定される有効領域を対象として所定の背景を含む入力画像と前記背景からなる背景画像との差分を求め、前記入力画像の前記有効領域内における変化物体の像を含む背景差分画像を求める背景差分処理方法において、
前記入力画像を撮像する撮像手段からの時系列の画像を確保する画像確保ステップと、
この画像確保ステップによって確保された前記時系列の画像間で前記画像フレームを構成する各画素の変動具合を定量化する定量化ステップと、
この定量化ステップによって定量化された各画素の変動具合に基づいて前記背景差分画像を求める際の背景差分処理の有効領域を自動的に決定する有効領域決定ステップと
を備えたことを特徴とする背景差分処理方法。 - 請求項1に記載された背景差分処理方法において、
前記有効領域決定ステップは、
前記定量化ステップによって定量化された各画素の変動具合に基づいてこれら各画素の状態を分類する画素状態分類ステップと、
前記撮像手段からの画像に移動体が含まれる場合、その移動体を含む画素について、前記画素状態分類ステップによって分類された直前の画素状態を参照し、有効画素/無効画素の判断を行うステップと
を含むことを特徴とする背景差分処理方法。 - 画像フレーム内で任意に設定される有効領域を対象として所定の背景を含む入力画像と前記背景からなる背景画像との差分を求め、前記入力画像の前記有効領域内における変化物体の像を含む背景差分画像を求める背景差分処理装置において、
前記入力画像を撮像する撮像手段からの時系列の画像を確保する画像確保手段と、
この画像確保手段によって確保された前記時系列の画像間で前記画像フレームを構成する各画素の変動具合を定量化する定量化手段と、
この定量化手段によって定量化された各画素の変動具合に基づいて前記背景差分画像を求める際の背景差分処理の有効領域を自動的に決定する有効領域決定手段と
を備えたことを特徴とする背景差分処理装置。 - 請求項3に記載された背景差分処理装置において、
前記有効領域決定手段は、
前記定量化手段によって定量化された各画素の変動具合に基づいてこれら各画素の状態を分類する画素状態分類手段と、
前記撮像手段からの画像に移動体が含まれる場合、その移動体を含む画素について、前記画素状態分類手段によって分類された直前の画素状態を参照し、有効画素/無効画素の判断を行う手段と
を備えたことを特徴とする背景差分処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003056824A JP2004265291A (ja) | 2003-03-04 | 2003-03-04 | 背景差分処理法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003056824A JP2004265291A (ja) | 2003-03-04 | 2003-03-04 | 背景差分処理法および装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004265291A true JP2004265291A (ja) | 2004-09-24 |
Family
ID=33120396
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003056824A Pending JP2004265291A (ja) | 2003-03-04 | 2003-03-04 | 背景差分処理法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004265291A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012023566A (ja) * | 2010-07-14 | 2012-02-02 | Toshiba Teli Corp | 監視装置および挙動監視用プログラム |
EP2570992A1 (en) | 2011-09-16 | 2013-03-20 | Sony Corporation | Image processing apparatus, image processing method, and program |
JP2013254377A (ja) * | 2012-06-07 | 2013-12-19 | Canon Inc | 情報処理装置、およびその制御方法 |
JP2021176093A (ja) * | 2018-05-04 | 2021-11-04 | グーグル エルエルシーGoogle LLC | 自動化されたアシスタントのための視覚的な手掛かりの選択的検出 |
-
2003
- 2003-03-04 JP JP2003056824A patent/JP2004265291A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012023566A (ja) * | 2010-07-14 | 2012-02-02 | Toshiba Teli Corp | 監視装置および挙動監視用プログラム |
EP2570992A1 (en) | 2011-09-16 | 2013-03-20 | Sony Corporation | Image processing apparatus, image processing method, and program |
CN103198490A (zh) * | 2011-09-16 | 2013-07-10 | 索尼公司 | 图像处理装置、图像处理方法以及程序 |
US9105104B2 (en) | 2011-09-16 | 2015-08-11 | Sony Corporation | Image processing apparatus,image processing method, and program |
JP2013254377A (ja) * | 2012-06-07 | 2013-12-19 | Canon Inc | 情報処理装置、およびその制御方法 |
JP2021176093A (ja) * | 2018-05-04 | 2021-11-04 | グーグル エルエルシーGoogle LLC | 自動化されたアシスタントのための視覚的な手掛かりの選択的検出 |
JP7268093B2 (ja) | 2018-05-04 | 2023-05-02 | グーグル エルエルシー | 自動化されたアシスタントのための視覚的な手掛かりの選択的検出 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009211274A (ja) | 画像処理装置、画像処理方法、プログラム及び記憶媒体 | |
JP5832910B2 (ja) | 画像監視装置 | |
KR20080022189A (ko) | 물체 검출 장치 및 엘리베이터의 물체 검출 장치 | |
US9053355B2 (en) | System and method for face tracking | |
JP2012059076A (ja) | 情報処理装置、その認識方法及びプログラム | |
JPWO2014192441A1 (ja) | 画像処理システム、画像処理方法及びプログラム | |
US20220366691A1 (en) | Object detection | |
JP2004265291A (ja) | 背景差分処理法および装置 | |
JP6527183B2 (ja) | 放置物検出装置 | |
JP2004265292A (ja) | 画像処理方法および装置 | |
JP4740755B2 (ja) | 画像を用いた監視装置 | |
JP2021111228A (ja) | 学習装置、学習方法、及びプログラム | |
JPWO2018179119A1 (ja) | 映像解析装置、映像解析方法およびプログラム | |
CN116189038A (zh) | 一种画面异常判定方法、装置、设备及存储介质 | |
JPH09284702A (ja) | シーン変化フレーム検出方法および装置 | |
JPWO2018037479A1 (ja) | 画像処理装置、ステレオカメラ装置及び画像処理方法 | |
KR20080079506A (ko) | 촬영장치 및 이의 대상 추적방법 | |
JP6603123B2 (ja) | 動物体の検出装置、検出方法及びプログラム | |
JP2004295416A (ja) | 画像処理装置 | |
JP4203648B2 (ja) | 画像処理装置 | |
JP3230509B2 (ja) | 動画像処理装置 | |
JP2004206320A (ja) | 画像認識装置および方法 | |
CN115104136A (zh) | 用于基于利用机器学习模型的输出的视觉证据而检测视频信号中的对象的设备、方法和计算机可读存储介质 | |
KR102589150B1 (ko) | 누적 차영상을 이용한 원거리 객체 검지 시스템 | |
JP2003162724A (ja) | 画像センサ |