JP2004227527A - 画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 - Google Patents
画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 Download PDFInfo
- Publication number
- JP2004227527A JP2004227527A JP2003018053A JP2003018053A JP2004227527A JP 2004227527 A JP2004227527 A JP 2004227527A JP 2003018053 A JP2003018053 A JP 2003018053A JP 2003018053 A JP2003018053 A JP 2003018053A JP 2004227527 A JP2004227527 A JP 2004227527A
- Authority
- JP
- Japan
- Prior art keywords
- image
- background
- moving object
- luminance
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】ノイズを含むようなビデオ画像から良好に移動体を抽出することを可能とする。
【解決手段】時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置10において、複数の画像を平均化することにより背景画像を生成する背景画像生成部3と、複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定部5と、背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成部6と、閾値に基づいて前記差分画像を二値化する二値画像生成部7とを備える。
【選択図】 図1
【解決手段】時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置10において、複数の画像を平均化することにより背景画像を生成する背景画像生成部3と、複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定部5と、背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成部6と、閾値に基づいて前記差分画像を二値化する二値画像生成部7とを備える。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、画像から移動体を抽出する技術に関する。
【0002】
【従来の技術】
高速道路に設置されるカメラ等によって撮影される画像中には、背景と移動体が含まれることが多い。このような画像から移動体のみを抽出する技術として平均背景差分という方式がある。この技術によれば、画像処理装置は、背景と移動体を含む連続する複数の画像の輝度画像を平均化することにより移動体を除去した背景画像を作成し、その背景画像と、背景と移動体を含む画像の輝度画像との差分画像を作成する。ここで、輝度画像とは、色情報を含まない画像をいう。続いて、画像処理装置は、その差分画像を構成する各画素の輝度値を所定の閾値を用いて二値化することにより、画像から移動体を抽出する。以下、背景と移動体を含む画像をビデオ画像ということとする。
【0003】
次に、この閾値の決定方法の一例について説明する。この方法では、まず、背景画像の輝度画像と、ビデオ画像の輝度画像について、互いに対応する位置にある画素の輝度差分値を算出し、同じ輝度差分値を画素の数を計数することにより、輝度差分値のヒストグラムを作成する。
【0004】
図9に、このようにして作成されるヒストグラムの一例を示す。図9において、横軸が輝度差分値を示し、縦軸が等しい輝度差分値を持つ画素の数を示す。図9に示すように、輝度差分値のヒストグラムには、同じ輝度差分値を持つ画素の数が急減する点、(図9中の点B)が存在する。この点Bに対応する輝度差分値を上記の平均背景差分法で採用する閾値として設定することが可能である。しかし、実際には点Bに対応する輝度差分値よりも更に大きな輝度差分値を持つ画素中には、背景画素も含まれるため、このように決定された1つの閾値によってビデオ画像から移動体を完全に抽出することは難しいという問題があった。
【0005】
なお、閾値の決定方法には、上記方法の他に、モード法、P−タイル法、判別分析法、微分ヒストグラム法等がある。ここでは説明を省略するが、いずれの方法も上記問題を有する。
【0006】
以下、図10から図12を用いて、閾値が移動体の抽出結果に与える影響について説明する。図10に、移動体を抽出する前のビデオ画像の一例を示す。図10は高速道路の合流付近のビデオ画像を示し、このビデオ画像内の移動体は、走行している自動車である。図11及び図12に、図10から移動体を抽出した結果を示す。まず、図11について説明する。図11は、閾値が小さすぎる場合に、図10から移動体を抽出した結果を示す。図11において、黒点が移動体として抽出された部分を示す。図10と図11を比較することにより、図11において、移動体、つまり自動車は、部分的にしか抽出されていないことが分かる。次に、図12について説明する。図12は、閾値が大きすぎる場合に、図10から移動体を抽出した結果を示す。図12においても図11と同様に、黒点が移動体として抽出された部分を示す。図10と図12を比較することにより、図12において、移動体、つまり自動車は、良好に抽出されているが、移動体以外の部分、例えば、道路に標された導流帯(ゼブラゾーン)や、白線の輪郭付近も移動体として抽出されていることが分かる。このように、良好に移動体をビデオ画像から抽出するためには、閾値が適切に設定されることが必要である。
【0007】
以下、閾値の決定にかかわる技術について例示する。まず、第1の発明について説明する。第1の発明は、差分画像の背景領域において、各画素差分値が一定でないために、良好に移動体を抽出できる部分とできない部分とが混在してしまうという問題を解決する事を目的とする。そのために、第1の発明によれば、差分画像を構成する画素ごとに閾値を決定する(例えば、特許文献1)。
【0008】
次に、閾値の決定に関する技術についての更なる例示として第2の発明について説明する。第2の発明は、形状が変形することなく、移動体を抽出する事を可能とする事を目的とする。そのために、第2の発明によれば、画像を構成する画素ごとに閾値を設定することとし、各画素の閾値を差分値の半分とする(例えば、特許文献2)。
【0009】
【特許文献1】
特開2000−285244公報(段落0057及び要約)
【特許文献2】
特開平06−222188号公報(段落0006及び0028)
【0010】
【発明が解決しようとする課題】
例えば、NTSC(North America Television Standard C)のようなコンポジット信号では、輝度情報と色情報を複合して伝送している都合上、画像処理系に信号を入力した際に、斜め線模様には虹状ノイズ(クロスカラー)が発生し、色の境界線には点状ノイズ(ドット妨害)が発生する傾向がある。これらのノイズは時間軸で大きく変動するため、画像処理において、移動体として認識されてしまうという問題があった。なお、図12において、導流帯及び白線の輪郭付近が移動体として抽出されているが、これは上記の現象が原因の1つとなっている。
【0011】
従って、上記の従来技術を用いてたとえ適切に閾値を決定しても、上記の現象等によって発生したノイズが多い映像では、ノイズを移動体として抽出してしまうという問題があった。また、ノイズを拾わないようにするために閾値を低くすると今度は移動体がうまく抽出できないという問題もあった。
【0012】
また、夜間に撮影されたビデオ画像と昼間に撮影されたビデオ画像とでは、輝度値のレベルが大きく異なる為、両者に同じ閾値を用いた場合も、移動体を良好に抽出することができないという問題もあった。
【0013】
以上の問題に鑑み、ノイズを含むようなビデオ画像から良好に移動体を抽出することが可能な技術を提供することが、本発明の解決しようとする第1の課題である。また、昼夜の変化或いは天候の変化によって画面全体の輝度値が左右される場合であっても、適切に閾値を決定することが可能な技術を提供する事が、本発明の解決しようとする第2の課題である。
【0014】
【課題を解決するための手段】
上記課題を解決するために、本発明の1態様によれば、時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置において、前記複数の画像を平均化することにより背景画像を生成する背景画像生成手段と、前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定手段と、前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成手段と、前記閾値に基づいて前記差分画像を二値化する二値画像生成手段と、を備えるように構成する。平均背景差分法において、画素値の統計情報に基づいて閾値を決定し、その閾値を用いて二値画像を生成することにより、ノイズの発生頻度に応じて適切な閾値を決定する事が可能となる。延いては背景と移動体を含む画像から移動体を良好に抽出する事が可能となる。
【0015】
上記構成において、閾値決定手段は、背景と移動体が含まれた画像が新たに入力されると、閾値を更新することを更に含むこととしてもよい。新たな画像が入力されるごとに閾値を決定することにより、処理対象となる画像の変化に対応して最適な閾値を決定することを可能とする。
【0016】
また、上記構成において、前記統計情報は、画素値の分散であることとしてもよい。また、前記閾値は、画素値の標準偏差であることとしてもよい。また、前記閾値は、前記画像中の位置別或いは画素ごとに決定されることとしてもよい。また、前記背景と移動体が含まれた画像は輝度画像であることとしてもよい。 なお、上記画像処理装置によって行われる処理と同様の手順を含む画像処理方法によっても、上記の画像処理装置と同様の作用・効果を得ることができるため、上記課題を解決することが可能である。また、上記読者が利用する情報取得装置によって行われる処理と同様の手順を含む情報取得方法によっても、上記情報取得装置と同様の作用・効果を得ることができるため、上記課題を解決することが可能である。
【0017】
また、上記画像処理方法において行われる手順をコンピュータに実行させるコンピュータ・プログラムも、上記コンピュータ・プログラムをコンピュータに備えられたメモリに一旦格納させ、そのコンピュータにそのメモリから上記コンピュータ・プログラムを読み出させて実行させることにより、上記課題を解決する事が可能である。同様に、上記情報取得方法において行われる手順をコンピュータに実行させるコンピュータ・プログラムも、上記課題を解決する事が可能である。
【0018】
また、各コンピュータ・プログラムを記録したコンピュータ読み取り可能な記録媒体から、各プログラムをコンピュータに読み出させて、各プログラムをロードさせ、その後、上記と同様にしてそのコンピュータにそのコンピュータ・プログラムを実行させることによっても、上記課題を解決することができる。
【0019】
【発明の実施の形態】
以下、図を参照しながら本発明の実施形態について説明する。
本実施形態に係わる画像処理装置10は、ビデオ画像から移動体を抽出する。以下、図1を用いて、本実施形態に係わる画像処理装置の構成について説明する。図1に示すように、画像処理装置10は、画像入力部1、輝度画像生成2、背景画像生成部3、バッファ4、閾値決定部5、背景差分画像生成部6、二値画像生成部7を備える。
【0020】
画像入力部1は、ビデオ画像、つまり背景と移動体を含む画像を示すコンポジット信号を入力する。輝度画像生成部2は、画像入力部1から入力されたコンポジット信号から輝度情報を取出すことにより、輝度画像を生成する。背景画像生成部3は、現時点から遡って一定時間内に入力された輝度画像を平均することにより、背景画像を作成する。より具体的には、背景画像生成部3は、バッファ4に蓄積された背景画像を取得して、最新に入力された輝度画像とバッファ4から取得した輝度画像とに基づいて、所定期間内に入力された輝度画像を平均化することにより新たな背景画像を生成する。また、新たに生成された背景画像は、最新の背景画像としてバッファ4に蓄積され、次回に背景画像を生成して背景画像を更新する際に用いられる。
【0021】
閾値決定部5は、入力されたビデオ画像を構成する画素の画素値の統計情報に基づいて閾値を決定する。ここで、画素値を輝度値としてもよい。より具体的には、輝度画像生成部2によって生成された輝度画像と背景画像生成部3によって生成された背景画像とから、画素ごとの閾値を決定する。さらにより具体的には、閾値決定部5は、一定時間内に入力されたビデオ画像を構成する各画素の輝度値の分散又は標準偏差を計算し、その分散又は標準偏差に基づいて各画素についての閾値を決定する。例えば、閾値決定部5は、輝度値の標準偏差を、その画素についての閾値として決定することとしてもよい。
【0022】
背景差分画像生成部6は、輝度画像生成部2によって生成された輝度画像と背景画像生成部3によって生成された背景画像との差分画像を生成する。より具体的には、輝度画像を構成する各画素の画素値と、各画素に対応する背景画像中の画素の画素値との差分を算出することにより、差分画像を生成する。ここで、画素値を輝度値としてもよい。
【0023】
二値画像生成部7は、閾値決定部5によって決定された閾値に基づいて背景差分画像生成部6によって生成された差分画像を二値化する。入力されたビデオ画像から移動体を抽出した結果は、二値画像生成部7によって生成された二値化された画像として得られる。
【0024】
以下、図2及び3を用いて、画像処理装置10によって行われる移動体の抽出処理について説明する。
図2及び図3に示す移動体の抽出処理は、3つに大別することができる。1つが、初期背景画像の生成処理であり、図2のステップS1からS5に相当する。1つが、初期閾値の決定処理であり、図2のステップS6からS11に相当する。1つが、移動体の抽出処理であり、図3のステップS12からS18に相当する。
【0025】
最初に、初期背景画像の生成処理について説明する。初期背景画像の生成処理は、ビデオ画像から移動体を抽出する処理を開始する際に最初に用いる背景画像である初期背景画像を生成する処理である。初期背景画像は、図2に示すステップS1からS4を所定回数繰り返すことによって生成される。
【0026】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS1)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3に出力する(ステップS2)。背景画像生成部3は、バッファ4から平均化された輝度画像を読み出して(初回の場合、バッファ4内は空である)、ステップS2で生成された輝度画像と読み出した平均化された画像を、さらに平均化する(ステップS3)。平均化の際に行われる計算は、(1)式で示される。
【0027】
【数1】
【0028】
(1)式に基づいて、背景画像生成部3は、現在の時刻tまでに入力された複数の輝度画像を構成する各画素の輝度値を平均化する。バッファ4には、ステップS3の結果が書き込まれる。
【0029】
続いて、背景画像生成部3は、所定回数だけステップS3の処理を行ったか否か判定する(ステップS4)。所定回数だけステップS3を行った場合(ステップS4:Yes)、ステップS3の処理で生成された平均化された輝度画像は、初期背景画像として以降の処理に用いられる(ステップS5)。所定回数だけステップS3を行っていない場合(ステップS4:No)、ステップS1に戻る。
【0030】
このようにして初期背景画像が生成されると、次に、初期閾値の決定処理が行われる。初期背景画像の生成処理は、ビデオ画像から移動体を抽出する処理を開始する際に最初に用いる閾値である初期閾値を生成する処理である。初期背景画像は、図2に示すステップS6からS10を所定回数繰り返すことによって生成される。以下、初期閾値の決定処理について説明する。
【0031】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS6)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3及び閾値決定部5に出力する(ステップS7)。背景画像生成部3は、バッファ4から背景画像を読み出して、ステップS7で生成された輝度画像と読み出した背景画像を、さらに平均化することにより新たな背景画像を生成し、生成された背景画像を閾値決定部5に出力する(ステップS8)。平均化の際に行われる計算は、(1)式と同様であるが、この場合、得られる背景画像は、現在の時刻tから所定時間遡った時刻までに入力された輝度画像を平均化した画像である。バッファ4には、ステップS8の結果が書き込まれる。
【0032】
続いて、閾値決定部5は、ステップS7で生成された輝度画像及びステップS8で生成された背景画像とに基づいて、輝度値の分散(あるいは輝度値の分散を示す分散情報)を計算する。輝度値の分散を計算する際に行われる計算は、以下の(2)式で示される。
【0033】
【数2】
【0034】
(2)式に基づいて、閾値決定部5は、時刻tまでに入力された複数の輝度画像を構成する各画素の輝度値の分散を計算する。続いて、閾値決定部5は、ステップS9の分散の算出処理を所定回数だけ行ったか否か判定する(ステップS10)。所定回数だけステップS9を行った場合(ステップS10:Yes)、閾値決定部5は、ステップS9の処理で得られた分散に基づいて閾値を決定し、その閾値は、初期閾値として以降の処理に用いられる(ステップS11)。例えば、閾値決定部5は、分散の平方根を閾値として決定することとしてもよい。この場合、閾値とステップS9で得られた分散の関係は、(3)式で示される。
【0035】
【数3】
【0036】
一方、所定回数だけステップS9を行っていない場合(ステップS10:No)、ステップS6に戻る。
このようにして初期閾値が決定されると、次に、移動体の抽出処理が行われる。移動体の抽出は、図3に示すステップS12からS18を繰り返すことによって行われる。以下、移動体の抽出処理について説明する。
【0037】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS12)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3、閾値決定部5及び背景差分画像生成部6に出力する(ステップS13)。背景画像生成部3は、バッファ4から背景画像を読み出して、ステップS13で生成された輝度画像と読み出した背景画像とを平均化することにより新たな背景画像を生成し、生成された新たな背景画像を閾値決定部5及び背景差分画像生成部6に出力する(ステップS14)。平均化の際に行われる計算は、初期閾値の決定処理と同様である。バッファ4には、ステップS14の結果が書き込まれる。
【0038】
続いて、閾値決定部5は、ステップS13で生成された輝度画像及びステップS14で生成された背景画像とに基づいて、画素ごとに輝度値の分散を計算する。輝度値の分散を計算する際に行われる計算は、(2)式と同様であるが、この場合は、得られる分散は、現在の時刻tから所定時間遡った時刻までに入力された輝度画像を構成する画素の画素値についての分散である。さらに、閾値決定部5は、計算の結果得られた分散に基づいて新たな閾値を決定し、その閾値を二値画像生成部7に出力する(ステップS15)。
【0039】
各画素についての分散は、その画素位置において所定時間内にノイズが発生する頻度を示す。以下、図4及び図5を用いて、ノイズの発生と分散の関係について説明する。図4に、ノイズの発生頻度が高い画素位置での輝度差分値及びその標準偏差の時間変化を示す。また、図5に、ノイズの発生頻度が低い画素位置での輝度差分値及びその標準偏差の時間変化を示す。図4及び図5において、横軸が時刻を示し、縦軸がその画素位置にある画素の輝度差分値を示す。また、細い実線が輝度差分値の時間変化を示し、太い実線が標準偏差の時間変化を示す。ここで、標準偏差は、分散の平方根である。
【0040】
図4及び図5において、輝度差分値変化を示すグラフの鋭いピークは移動体成分を示し、それ以外の成分は背景画像成分を示す。図4に示すように、ノイズの発生頻度が高い画素位置の場合、全体的に差分値の変動幅が大きいため標準偏差も比較的大きな値を持つ。また、図4では、時刻51以降、全体的に輝度値が低下する傾向があり、これにあわせて標準偏差も徐々に小さくなっている。
【0041】
一方、図5に示すように、ノイズの発生頻度が高い画素位置の場合、全体的に輝度差分値の変動幅が小さいため標準偏差は比較的小さな値を持つ。
図4および図5から、ノイズの発生頻度が大きい程、分散は大きくなる傾向があることが分かる。上記のように、閾値は、分散に基づいて決定される。したがって、本実施形態によれば、分散に基づいて閾値を決定することより、ノイズの発生頻度に対応して閾値を適切に決定することが可能となる。より具体的には、ノイズの発生頻度が大きい画素位置では閾値を大きく、ノイズの発生頻度が小さい画素位置では閾値を小さく設定する事が可能となる。延いては、ノイズを含むようなビデオ画像から良好に移動体を抽出することが可能となる。
【0042】
また、本実施形態では、現時点から遡って所定時間内に入力された輝度画像を用いて背景画像を生成するために、差分画像を構成する各画素の輝度値の分散も入力された輝度画像の時間変化に応じて変化する。閾値は分散に基づいて決定されるため、閾値も入力された輝度画像の時間変化に応じて変化する。例えば、図4では時刻51以降、全体的に輝度差分値が低下する傾向がみられるが、それにあわせて閾値も設定される。したがって、昼夜の変化或いは天候の変化によって輝度差分値が左右される場合であっても、適切に閾値を決定することが可能となる。
【0043】
続いて、背景差分画像生成部6は、ステップS13で生成された輝度画像及びステップS14で生成された背景画像との差分画像を生成し、その閾値を二値画像生成部7に出力する(ステップS16)。
【0044】
二値画像生成部7は、ステップS15で決定された閾値に基づいて、S16で生成された差分画像を二値化することにより二値画像を生成する(ステップS17)。このように生成された二値画像は、移動体が抽出された画像となる。その後さらに処理すべきビデオ画像がある場合(ステップS18:No)、処理はステップS12に戻り、そうでない場合、画像処理装置10による処理は終了する。
【0045】
以下、図6を用いて、本実施形態に係わる画像処理方法によって、図10に示すビデオ画像から移動体を抽出した結果について説明する。図6においても図11及び図12と同様に、黒点が、黒点が移動体として抽出された部分を示す。図6と、図11に示す閾値が小さすぎる場合の従来技術による抽出結果とを比較すると、図11では、移動体が部分的にしか抽出されていないため、移動体の形状が不明瞭となっている。一方、図6では、移動体の形状を図11よりも正確に捉えている。
【0046】
次に、図6と、図12に示す閾値が大きすぎる場合の従来技術による抽出結果とを比較すると、図12では、移動体に加えて、導流帯等の白線の輪郭部分に発生しているノイズまで移動体として抽出されている。一方、図6では、移動体のみを正確に抽出しており、白線の輪郭部分等に発生するノイズは抽出されていない。従って、図6、図11及び図12から、本実施形態の方が従来技術と比べて、ビデオ画像から良好に移動体を抽出できていることが分かる。
【0047】
図7に示すようにコンピュータ20は、CPU21、メモリ22、入力装置23、出力装置24、外部記憶装置25、媒体駆動装置26、及びネットワーク接続装置27を備え、それらはバス28により互いに接続されている。
【0048】
メモリ22は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)等を含み、処理に用いられるプログラムとデータを格納する。メモリ44は、バッファ4を実現することも可能である。また、画像処理装置10をコンピュータで構成する場合、輝度画像生成部2、背景画像生成部3、閾値決定部5、背景差分画像生成部6及び二値画像生成部7は、コンピュータ20のメモリ22の特定のプログラムコードセグメントにプログラムとして格納される。
【0049】
CPU21は、メモリ22を利用して上述のプログラムを実行することにより、必要な処理を行う。
入力装置23は、例えば、キーボード、ポインティングデバイス、タッチパネル等であり、ユーザからの指示や情報の入力に用いられる。また、入力装置23は、画像入力部1を実現する。出力装置24は、例えば、ディスプレイやプリンタ等であり、コンピュータのユーザへの問い合わせ、処理結果等の出力に用いられる。また、端末TRをコンピュータで構成する場合、電子透かし情報読み込み部11を実現するための入力装置23として、例えば、スキャナ、デジタルカメラ等が挙げられる。
【0050】
外部記憶装置25は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置等である。さらに、上述のプログラムをコンピュータ20の外部記憶装置25に保存しておき、必要に応じて、それらをメモリ22にロードして使用することもできる。
【0051】
媒体駆動装置26は、可搬記録媒体29を駆動し、その記録内容にアクセスする。可搬記録媒体29としては、メモリカード、メモリスティック、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、光ディスク、光磁気ディスク、DVD(Digital Versatile Disk)等、任意のコンピュータ読み取り可能な記録媒体が用いられる。この可搬記録媒体29に上述のプログラムを格納しておき、必要に応じて、それをコンピュータ20のメモリ22にロードして使用することもできる。
【0052】
ネットワーク接続装置27は、LAN、WAN等の任意のネットワーク(回線)を介して外部の装置と通信し、通信に伴うデータ変換を行う。また、必要に応じて、上述のプログラムを外部の装置から受け取り、それをコンピュータ20のメモリ22にロードして使用することもできる。
【0053】
図8は、図7のコンピュータへのプログラムやデータのローディングを説明している。
上述の実施形態において説明した画像処理装置10に相当する機能をコンピュータに行わせるためには、入力装置23を介してプログラムをコンピュータに入力する方法以外に、記録媒体29を用いる方法もある。そのためには、上述のプログラムを、コンピュータで読み取り可能な記録媒体29に予め記憶させておく。そして、図8に示すようにしてその記録媒体29からプログラムをコンピュータに読み出させて、そのコンピュータのメモリ22や外部記憶装置25に一旦格納させ、この格納されたプログラムをそのコンピュータの有するCPU21に読み出させて実行させるように構成すればよい。
【0054】
また、サーバ30が有するDBから、通信回線(ネットワーク)31を介して、プログラムをダウンロードすることとしてもよい。この場合、例えば、サーバ30が有する送信側コンピュータでは、プログラムを表現するプログラム・データをプログラム・データ・シグナルに変換し、モデムを用いて変換されたプログラム・データ・シグナルを変調することにより伝送信号を得て、得られた伝送信号をネットワークに出力する。プログラムを受信するコンピュータでは、モデムを用いて受信した伝送信号を復調することにより、プログラム・データ・シグナルを得て、得られたプログラム・データ・シグナルを変換することにより、プログラム・データを得る。
【0055】
以上、本発明の実施形態について説明したが、本発明は上述した実施形態及び変形例に限定されるものではなく、その他の様々な変更が可能である。
例えば、上記において、閾値は、画素位置ごとに決定されるとして説明したが、画像中の所定の領域ごとに決定されることとしてもよい。
【0056】
(付記1) コンピュータが、時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理方法であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む画像処理方法。
【0057】
(付記2) 背景と移動体が含まれた画像が新たに入力されると、前記新たに入力された画像を用いて前記背景画像及び閾値を更新する、
ことを更に含むことを特徴とする付記1に記載の画像処理方法。
【0058】
(付記3) 前記統計情報は、画素値の分散である、
ことを特徴とする付記1に記載の画像処理方法。
(付記4) 前記閾値は、画素値の標準偏差である、
ことを特徴とする付記1に記載の画像処理方法。
【0059】
(付記5) 前記閾値は、前記画像中の所定の位置別に決定される、
ことを特徴とする付記1に記載の画像処理方法。
(付記6) 前記背景と移動体が含まれた画像は輝度画像である、
ことを特徴とする付記1に記載の画像処理方法。
【0060】
(付記7) コンピュータが、背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する画像処理方法であって、
各画像の輝度画像を生成し、
前記複数の輝度画像を平均化することにより背景画像を生成し、
前記輝度画像内の各画素位置における輝度値の分散を算出し、
前記分散に基づいて閾値を決定し、
最新の輝度画像と前記背景画像との差分画像を生成し、
前記閾値に基づいて、前記差分画像を二値化する、
ことを含む画像処理方法。
【0061】
(付記8) 時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置であって、
前記複数の画像を平均化することにより背景画像を生成する背景画像生成手段と、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定手段と、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成手段と、
前記閾値に基づいて前記差分画像を二値化する二値画像生成手段と、
を備えることを特徴とする画像処理装置。
【0062】
(付記9) 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるコンピュータ・プログラムであって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせることを特徴とするコンピュータ・プログラム。
【0063】
(付記10) 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるプログラムを記録した、コンピュータで読み取り可能な記録媒体であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせるプログラムを記録することを特徴とする記録媒体。
【0064】
【発明の効果】
以上詳細に説明したように、本発明によれば、背景差分法において用いられる閾値を、画像を構成する画素の画素値の統計情報に基づいて決定することにより、ノイズを含むビデオ画像から良好に移動体を抽出することが可能な技術を提供することが可能となる。
【0065】
また、新たな画像が入力されるたびに、閾値を決定しなおす事とすることにより、昼夜の変化或いは天候の変化によって画面全体の輝度値が左右される場合であっても、適切に閾値を決定することが可能となる。
【図面の簡単な説明】
【図1】本実施形態に係わる画像処理装置の構成図である。
【図2】移動体の抽出処理の手順を示すフローチャート(その1)である。
【図3】移動体の抽出処理の手順を示すフローチャート(その2)である。
【図4】ノイズの発生頻度が高い画素についての時間に対する、輝度差分値及びその標準偏差の変化を示す図である。
【図5】ノイズの発生頻度が低い画素についての時間に対する、輝度差分値及びその標準偏差の変化を示す図である。
【図6】移動体の抽出結果の一例を示す図である。
【図7】コンピュータの構成図である。
【図8】コンピュータへのプログラムのローディングを説明する図である。
【図9】背景画像とビデオ画像の輝度差分値のヒスグラムである。
【図10】ビデオ画像の一例を示す図である。
【図11】従来技術において、閾値が小さすぎる場合の移動体の抽出結果の一例を示す図である。
【図12】従来技術において、閾値が大きすぎる場合の移動体の抽出結果の一例を示す図である。
【符号の説明】
1 画像入力部
2 輝度画像生成部
3 背景画像生成部
4 バッファ
5 閾値決定部
6 背景差分画像生成部
7 二値画像生成部
10 画像処理装置
20 コンピュータ
21 CPU
22 メモリ
23 入力装置
24 出力装置
25 外部記憶装置
26 媒体駆動装置
27 ネットワーク接続装置
28 バス
29 可搬記録媒体
30 サーバ
S ステップ
【発明の属する技術分野】
本発明は、画像から移動体を抽出する技術に関する。
【0002】
【従来の技術】
高速道路に設置されるカメラ等によって撮影される画像中には、背景と移動体が含まれることが多い。このような画像から移動体のみを抽出する技術として平均背景差分という方式がある。この技術によれば、画像処理装置は、背景と移動体を含む連続する複数の画像の輝度画像を平均化することにより移動体を除去した背景画像を作成し、その背景画像と、背景と移動体を含む画像の輝度画像との差分画像を作成する。ここで、輝度画像とは、色情報を含まない画像をいう。続いて、画像処理装置は、その差分画像を構成する各画素の輝度値を所定の閾値を用いて二値化することにより、画像から移動体を抽出する。以下、背景と移動体を含む画像をビデオ画像ということとする。
【0003】
次に、この閾値の決定方法の一例について説明する。この方法では、まず、背景画像の輝度画像と、ビデオ画像の輝度画像について、互いに対応する位置にある画素の輝度差分値を算出し、同じ輝度差分値を画素の数を計数することにより、輝度差分値のヒストグラムを作成する。
【0004】
図9に、このようにして作成されるヒストグラムの一例を示す。図9において、横軸が輝度差分値を示し、縦軸が等しい輝度差分値を持つ画素の数を示す。図9に示すように、輝度差分値のヒストグラムには、同じ輝度差分値を持つ画素の数が急減する点、(図9中の点B)が存在する。この点Bに対応する輝度差分値を上記の平均背景差分法で採用する閾値として設定することが可能である。しかし、実際には点Bに対応する輝度差分値よりも更に大きな輝度差分値を持つ画素中には、背景画素も含まれるため、このように決定された1つの閾値によってビデオ画像から移動体を完全に抽出することは難しいという問題があった。
【0005】
なお、閾値の決定方法には、上記方法の他に、モード法、P−タイル法、判別分析法、微分ヒストグラム法等がある。ここでは説明を省略するが、いずれの方法も上記問題を有する。
【0006】
以下、図10から図12を用いて、閾値が移動体の抽出結果に与える影響について説明する。図10に、移動体を抽出する前のビデオ画像の一例を示す。図10は高速道路の合流付近のビデオ画像を示し、このビデオ画像内の移動体は、走行している自動車である。図11及び図12に、図10から移動体を抽出した結果を示す。まず、図11について説明する。図11は、閾値が小さすぎる場合に、図10から移動体を抽出した結果を示す。図11において、黒点が移動体として抽出された部分を示す。図10と図11を比較することにより、図11において、移動体、つまり自動車は、部分的にしか抽出されていないことが分かる。次に、図12について説明する。図12は、閾値が大きすぎる場合に、図10から移動体を抽出した結果を示す。図12においても図11と同様に、黒点が移動体として抽出された部分を示す。図10と図12を比較することにより、図12において、移動体、つまり自動車は、良好に抽出されているが、移動体以外の部分、例えば、道路に標された導流帯(ゼブラゾーン)や、白線の輪郭付近も移動体として抽出されていることが分かる。このように、良好に移動体をビデオ画像から抽出するためには、閾値が適切に設定されることが必要である。
【0007】
以下、閾値の決定にかかわる技術について例示する。まず、第1の発明について説明する。第1の発明は、差分画像の背景領域において、各画素差分値が一定でないために、良好に移動体を抽出できる部分とできない部分とが混在してしまうという問題を解決する事を目的とする。そのために、第1の発明によれば、差分画像を構成する画素ごとに閾値を決定する(例えば、特許文献1)。
【0008】
次に、閾値の決定に関する技術についての更なる例示として第2の発明について説明する。第2の発明は、形状が変形することなく、移動体を抽出する事を可能とする事を目的とする。そのために、第2の発明によれば、画像を構成する画素ごとに閾値を設定することとし、各画素の閾値を差分値の半分とする(例えば、特許文献2)。
【0009】
【特許文献1】
特開2000−285244公報(段落0057及び要約)
【特許文献2】
特開平06−222188号公報(段落0006及び0028)
【0010】
【発明が解決しようとする課題】
例えば、NTSC(North America Television Standard C)のようなコンポジット信号では、輝度情報と色情報を複合して伝送している都合上、画像処理系に信号を入力した際に、斜め線模様には虹状ノイズ(クロスカラー)が発生し、色の境界線には点状ノイズ(ドット妨害)が発生する傾向がある。これらのノイズは時間軸で大きく変動するため、画像処理において、移動体として認識されてしまうという問題があった。なお、図12において、導流帯及び白線の輪郭付近が移動体として抽出されているが、これは上記の現象が原因の1つとなっている。
【0011】
従って、上記の従来技術を用いてたとえ適切に閾値を決定しても、上記の現象等によって発生したノイズが多い映像では、ノイズを移動体として抽出してしまうという問題があった。また、ノイズを拾わないようにするために閾値を低くすると今度は移動体がうまく抽出できないという問題もあった。
【0012】
また、夜間に撮影されたビデオ画像と昼間に撮影されたビデオ画像とでは、輝度値のレベルが大きく異なる為、両者に同じ閾値を用いた場合も、移動体を良好に抽出することができないという問題もあった。
【0013】
以上の問題に鑑み、ノイズを含むようなビデオ画像から良好に移動体を抽出することが可能な技術を提供することが、本発明の解決しようとする第1の課題である。また、昼夜の変化或いは天候の変化によって画面全体の輝度値が左右される場合であっても、適切に閾値を決定することが可能な技術を提供する事が、本発明の解決しようとする第2の課題である。
【0014】
【課題を解決するための手段】
上記課題を解決するために、本発明の1態様によれば、時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置において、前記複数の画像を平均化することにより背景画像を生成する背景画像生成手段と、前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定手段と、前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成手段と、前記閾値に基づいて前記差分画像を二値化する二値画像生成手段と、を備えるように構成する。平均背景差分法において、画素値の統計情報に基づいて閾値を決定し、その閾値を用いて二値画像を生成することにより、ノイズの発生頻度に応じて適切な閾値を決定する事が可能となる。延いては背景と移動体を含む画像から移動体を良好に抽出する事が可能となる。
【0015】
上記構成において、閾値決定手段は、背景と移動体が含まれた画像が新たに入力されると、閾値を更新することを更に含むこととしてもよい。新たな画像が入力されるごとに閾値を決定することにより、処理対象となる画像の変化に対応して最適な閾値を決定することを可能とする。
【0016】
また、上記構成において、前記統計情報は、画素値の分散であることとしてもよい。また、前記閾値は、画素値の標準偏差であることとしてもよい。また、前記閾値は、前記画像中の位置別或いは画素ごとに決定されることとしてもよい。また、前記背景と移動体が含まれた画像は輝度画像であることとしてもよい。 なお、上記画像処理装置によって行われる処理と同様の手順を含む画像処理方法によっても、上記の画像処理装置と同様の作用・効果を得ることができるため、上記課題を解決することが可能である。また、上記読者が利用する情報取得装置によって行われる処理と同様の手順を含む情報取得方法によっても、上記情報取得装置と同様の作用・効果を得ることができるため、上記課題を解決することが可能である。
【0017】
また、上記画像処理方法において行われる手順をコンピュータに実行させるコンピュータ・プログラムも、上記コンピュータ・プログラムをコンピュータに備えられたメモリに一旦格納させ、そのコンピュータにそのメモリから上記コンピュータ・プログラムを読み出させて実行させることにより、上記課題を解決する事が可能である。同様に、上記情報取得方法において行われる手順をコンピュータに実行させるコンピュータ・プログラムも、上記課題を解決する事が可能である。
【0018】
また、各コンピュータ・プログラムを記録したコンピュータ読み取り可能な記録媒体から、各プログラムをコンピュータに読み出させて、各プログラムをロードさせ、その後、上記と同様にしてそのコンピュータにそのコンピュータ・プログラムを実行させることによっても、上記課題を解決することができる。
【0019】
【発明の実施の形態】
以下、図を参照しながら本発明の実施形態について説明する。
本実施形態に係わる画像処理装置10は、ビデオ画像から移動体を抽出する。以下、図1を用いて、本実施形態に係わる画像処理装置の構成について説明する。図1に示すように、画像処理装置10は、画像入力部1、輝度画像生成2、背景画像生成部3、バッファ4、閾値決定部5、背景差分画像生成部6、二値画像生成部7を備える。
【0020】
画像入力部1は、ビデオ画像、つまり背景と移動体を含む画像を示すコンポジット信号を入力する。輝度画像生成部2は、画像入力部1から入力されたコンポジット信号から輝度情報を取出すことにより、輝度画像を生成する。背景画像生成部3は、現時点から遡って一定時間内に入力された輝度画像を平均することにより、背景画像を作成する。より具体的には、背景画像生成部3は、バッファ4に蓄積された背景画像を取得して、最新に入力された輝度画像とバッファ4から取得した輝度画像とに基づいて、所定期間内に入力された輝度画像を平均化することにより新たな背景画像を生成する。また、新たに生成された背景画像は、最新の背景画像としてバッファ4に蓄積され、次回に背景画像を生成して背景画像を更新する際に用いられる。
【0021】
閾値決定部5は、入力されたビデオ画像を構成する画素の画素値の統計情報に基づいて閾値を決定する。ここで、画素値を輝度値としてもよい。より具体的には、輝度画像生成部2によって生成された輝度画像と背景画像生成部3によって生成された背景画像とから、画素ごとの閾値を決定する。さらにより具体的には、閾値決定部5は、一定時間内に入力されたビデオ画像を構成する各画素の輝度値の分散又は標準偏差を計算し、その分散又は標準偏差に基づいて各画素についての閾値を決定する。例えば、閾値決定部5は、輝度値の標準偏差を、その画素についての閾値として決定することとしてもよい。
【0022】
背景差分画像生成部6は、輝度画像生成部2によって生成された輝度画像と背景画像生成部3によって生成された背景画像との差分画像を生成する。より具体的には、輝度画像を構成する各画素の画素値と、各画素に対応する背景画像中の画素の画素値との差分を算出することにより、差分画像を生成する。ここで、画素値を輝度値としてもよい。
【0023】
二値画像生成部7は、閾値決定部5によって決定された閾値に基づいて背景差分画像生成部6によって生成された差分画像を二値化する。入力されたビデオ画像から移動体を抽出した結果は、二値画像生成部7によって生成された二値化された画像として得られる。
【0024】
以下、図2及び3を用いて、画像処理装置10によって行われる移動体の抽出処理について説明する。
図2及び図3に示す移動体の抽出処理は、3つに大別することができる。1つが、初期背景画像の生成処理であり、図2のステップS1からS5に相当する。1つが、初期閾値の決定処理であり、図2のステップS6からS11に相当する。1つが、移動体の抽出処理であり、図3のステップS12からS18に相当する。
【0025】
最初に、初期背景画像の生成処理について説明する。初期背景画像の生成処理は、ビデオ画像から移動体を抽出する処理を開始する際に最初に用いる背景画像である初期背景画像を生成する処理である。初期背景画像は、図2に示すステップS1からS4を所定回数繰り返すことによって生成される。
【0026】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS1)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3に出力する(ステップS2)。背景画像生成部3は、バッファ4から平均化された輝度画像を読み出して(初回の場合、バッファ4内は空である)、ステップS2で生成された輝度画像と読み出した平均化された画像を、さらに平均化する(ステップS3)。平均化の際に行われる計算は、(1)式で示される。
【0027】
【数1】
【0028】
(1)式に基づいて、背景画像生成部3は、現在の時刻tまでに入力された複数の輝度画像を構成する各画素の輝度値を平均化する。バッファ4には、ステップS3の結果が書き込まれる。
【0029】
続いて、背景画像生成部3は、所定回数だけステップS3の処理を行ったか否か判定する(ステップS4)。所定回数だけステップS3を行った場合(ステップS4:Yes)、ステップS3の処理で生成された平均化された輝度画像は、初期背景画像として以降の処理に用いられる(ステップS5)。所定回数だけステップS3を行っていない場合(ステップS4:No)、ステップS1に戻る。
【0030】
このようにして初期背景画像が生成されると、次に、初期閾値の決定処理が行われる。初期背景画像の生成処理は、ビデオ画像から移動体を抽出する処理を開始する際に最初に用いる閾値である初期閾値を生成する処理である。初期背景画像は、図2に示すステップS6からS10を所定回数繰り返すことによって生成される。以下、初期閾値の決定処理について説明する。
【0031】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS6)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3及び閾値決定部5に出力する(ステップS7)。背景画像生成部3は、バッファ4から背景画像を読み出して、ステップS7で生成された輝度画像と読み出した背景画像を、さらに平均化することにより新たな背景画像を生成し、生成された背景画像を閾値決定部5に出力する(ステップS8)。平均化の際に行われる計算は、(1)式と同様であるが、この場合、得られる背景画像は、現在の時刻tから所定時間遡った時刻までに入力された輝度画像を平均化した画像である。バッファ4には、ステップS8の結果が書き込まれる。
【0032】
続いて、閾値決定部5は、ステップS7で生成された輝度画像及びステップS8で生成された背景画像とに基づいて、輝度値の分散(あるいは輝度値の分散を示す分散情報)を計算する。輝度値の分散を計算する際に行われる計算は、以下の(2)式で示される。
【0033】
【数2】
【0034】
(2)式に基づいて、閾値決定部5は、時刻tまでに入力された複数の輝度画像を構成する各画素の輝度値の分散を計算する。続いて、閾値決定部5は、ステップS9の分散の算出処理を所定回数だけ行ったか否か判定する(ステップS10)。所定回数だけステップS9を行った場合(ステップS10:Yes)、閾値決定部5は、ステップS9の処理で得られた分散に基づいて閾値を決定し、その閾値は、初期閾値として以降の処理に用いられる(ステップS11)。例えば、閾値決定部5は、分散の平方根を閾値として決定することとしてもよい。この場合、閾値とステップS9で得られた分散の関係は、(3)式で示される。
【0035】
【数3】
【0036】
一方、所定回数だけステップS9を行っていない場合(ステップS10:No)、ステップS6に戻る。
このようにして初期閾値が決定されると、次に、移動体の抽出処理が行われる。移動体の抽出は、図3に示すステップS12からS18を繰り返すことによって行われる。以下、移動体の抽出処理について説明する。
【0037】
まず、画像入力部1からビデオ画像を示すコンポジット信号が入力されると(ステップS12)、輝度画像生成部2は、そのコンポジット信号から輝度情報を取出してそのビデオ画像の輝度画像を生成し、背景画像生成部3、閾値決定部5及び背景差分画像生成部6に出力する(ステップS13)。背景画像生成部3は、バッファ4から背景画像を読み出して、ステップS13で生成された輝度画像と読み出した背景画像とを平均化することにより新たな背景画像を生成し、生成された新たな背景画像を閾値決定部5及び背景差分画像生成部6に出力する(ステップS14)。平均化の際に行われる計算は、初期閾値の決定処理と同様である。バッファ4には、ステップS14の結果が書き込まれる。
【0038】
続いて、閾値決定部5は、ステップS13で生成された輝度画像及びステップS14で生成された背景画像とに基づいて、画素ごとに輝度値の分散を計算する。輝度値の分散を計算する際に行われる計算は、(2)式と同様であるが、この場合は、得られる分散は、現在の時刻tから所定時間遡った時刻までに入力された輝度画像を構成する画素の画素値についての分散である。さらに、閾値決定部5は、計算の結果得られた分散に基づいて新たな閾値を決定し、その閾値を二値画像生成部7に出力する(ステップS15)。
【0039】
各画素についての分散は、その画素位置において所定時間内にノイズが発生する頻度を示す。以下、図4及び図5を用いて、ノイズの発生と分散の関係について説明する。図4に、ノイズの発生頻度が高い画素位置での輝度差分値及びその標準偏差の時間変化を示す。また、図5に、ノイズの発生頻度が低い画素位置での輝度差分値及びその標準偏差の時間変化を示す。図4及び図5において、横軸が時刻を示し、縦軸がその画素位置にある画素の輝度差分値を示す。また、細い実線が輝度差分値の時間変化を示し、太い実線が標準偏差の時間変化を示す。ここで、標準偏差は、分散の平方根である。
【0040】
図4及び図5において、輝度差分値変化を示すグラフの鋭いピークは移動体成分を示し、それ以外の成分は背景画像成分を示す。図4に示すように、ノイズの発生頻度が高い画素位置の場合、全体的に差分値の変動幅が大きいため標準偏差も比較的大きな値を持つ。また、図4では、時刻51以降、全体的に輝度値が低下する傾向があり、これにあわせて標準偏差も徐々に小さくなっている。
【0041】
一方、図5に示すように、ノイズの発生頻度が高い画素位置の場合、全体的に輝度差分値の変動幅が小さいため標準偏差は比較的小さな値を持つ。
図4および図5から、ノイズの発生頻度が大きい程、分散は大きくなる傾向があることが分かる。上記のように、閾値は、分散に基づいて決定される。したがって、本実施形態によれば、分散に基づいて閾値を決定することより、ノイズの発生頻度に対応して閾値を適切に決定することが可能となる。より具体的には、ノイズの発生頻度が大きい画素位置では閾値を大きく、ノイズの発生頻度が小さい画素位置では閾値を小さく設定する事が可能となる。延いては、ノイズを含むようなビデオ画像から良好に移動体を抽出することが可能となる。
【0042】
また、本実施形態では、現時点から遡って所定時間内に入力された輝度画像を用いて背景画像を生成するために、差分画像を構成する各画素の輝度値の分散も入力された輝度画像の時間変化に応じて変化する。閾値は分散に基づいて決定されるため、閾値も入力された輝度画像の時間変化に応じて変化する。例えば、図4では時刻51以降、全体的に輝度差分値が低下する傾向がみられるが、それにあわせて閾値も設定される。したがって、昼夜の変化或いは天候の変化によって輝度差分値が左右される場合であっても、適切に閾値を決定することが可能となる。
【0043】
続いて、背景差分画像生成部6は、ステップS13で生成された輝度画像及びステップS14で生成された背景画像との差分画像を生成し、その閾値を二値画像生成部7に出力する(ステップS16)。
【0044】
二値画像生成部7は、ステップS15で決定された閾値に基づいて、S16で生成された差分画像を二値化することにより二値画像を生成する(ステップS17)。このように生成された二値画像は、移動体が抽出された画像となる。その後さらに処理すべきビデオ画像がある場合(ステップS18:No)、処理はステップS12に戻り、そうでない場合、画像処理装置10による処理は終了する。
【0045】
以下、図6を用いて、本実施形態に係わる画像処理方法によって、図10に示すビデオ画像から移動体を抽出した結果について説明する。図6においても図11及び図12と同様に、黒点が、黒点が移動体として抽出された部分を示す。図6と、図11に示す閾値が小さすぎる場合の従来技術による抽出結果とを比較すると、図11では、移動体が部分的にしか抽出されていないため、移動体の形状が不明瞭となっている。一方、図6では、移動体の形状を図11よりも正確に捉えている。
【0046】
次に、図6と、図12に示す閾値が大きすぎる場合の従来技術による抽出結果とを比較すると、図12では、移動体に加えて、導流帯等の白線の輪郭部分に発生しているノイズまで移動体として抽出されている。一方、図6では、移動体のみを正確に抽出しており、白線の輪郭部分等に発生するノイズは抽出されていない。従って、図6、図11及び図12から、本実施形態の方が従来技術と比べて、ビデオ画像から良好に移動体を抽出できていることが分かる。
【0047】
図7に示すようにコンピュータ20は、CPU21、メモリ22、入力装置23、出力装置24、外部記憶装置25、媒体駆動装置26、及びネットワーク接続装置27を備え、それらはバス28により互いに接続されている。
【0048】
メモリ22は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)等を含み、処理に用いられるプログラムとデータを格納する。メモリ44は、バッファ4を実現することも可能である。また、画像処理装置10をコンピュータで構成する場合、輝度画像生成部2、背景画像生成部3、閾値決定部5、背景差分画像生成部6及び二値画像生成部7は、コンピュータ20のメモリ22の特定のプログラムコードセグメントにプログラムとして格納される。
【0049】
CPU21は、メモリ22を利用して上述のプログラムを実行することにより、必要な処理を行う。
入力装置23は、例えば、キーボード、ポインティングデバイス、タッチパネル等であり、ユーザからの指示や情報の入力に用いられる。また、入力装置23は、画像入力部1を実現する。出力装置24は、例えば、ディスプレイやプリンタ等であり、コンピュータのユーザへの問い合わせ、処理結果等の出力に用いられる。また、端末TRをコンピュータで構成する場合、電子透かし情報読み込み部11を実現するための入力装置23として、例えば、スキャナ、デジタルカメラ等が挙げられる。
【0050】
外部記憶装置25は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置等である。さらに、上述のプログラムをコンピュータ20の外部記憶装置25に保存しておき、必要に応じて、それらをメモリ22にロードして使用することもできる。
【0051】
媒体駆動装置26は、可搬記録媒体29を駆動し、その記録内容にアクセスする。可搬記録媒体29としては、メモリカード、メモリスティック、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、光ディスク、光磁気ディスク、DVD(Digital Versatile Disk)等、任意のコンピュータ読み取り可能な記録媒体が用いられる。この可搬記録媒体29に上述のプログラムを格納しておき、必要に応じて、それをコンピュータ20のメモリ22にロードして使用することもできる。
【0052】
ネットワーク接続装置27は、LAN、WAN等の任意のネットワーク(回線)を介して外部の装置と通信し、通信に伴うデータ変換を行う。また、必要に応じて、上述のプログラムを外部の装置から受け取り、それをコンピュータ20のメモリ22にロードして使用することもできる。
【0053】
図8は、図7のコンピュータへのプログラムやデータのローディングを説明している。
上述の実施形態において説明した画像処理装置10に相当する機能をコンピュータに行わせるためには、入力装置23を介してプログラムをコンピュータに入力する方法以外に、記録媒体29を用いる方法もある。そのためには、上述のプログラムを、コンピュータで読み取り可能な記録媒体29に予め記憶させておく。そして、図8に示すようにしてその記録媒体29からプログラムをコンピュータに読み出させて、そのコンピュータのメモリ22や外部記憶装置25に一旦格納させ、この格納されたプログラムをそのコンピュータの有するCPU21に読み出させて実行させるように構成すればよい。
【0054】
また、サーバ30が有するDBから、通信回線(ネットワーク)31を介して、プログラムをダウンロードすることとしてもよい。この場合、例えば、サーバ30が有する送信側コンピュータでは、プログラムを表現するプログラム・データをプログラム・データ・シグナルに変換し、モデムを用いて変換されたプログラム・データ・シグナルを変調することにより伝送信号を得て、得られた伝送信号をネットワークに出力する。プログラムを受信するコンピュータでは、モデムを用いて受信した伝送信号を復調することにより、プログラム・データ・シグナルを得て、得られたプログラム・データ・シグナルを変換することにより、プログラム・データを得る。
【0055】
以上、本発明の実施形態について説明したが、本発明は上述した実施形態及び変形例に限定されるものではなく、その他の様々な変更が可能である。
例えば、上記において、閾値は、画素位置ごとに決定されるとして説明したが、画像中の所定の領域ごとに決定されることとしてもよい。
【0056】
(付記1) コンピュータが、時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理方法であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む画像処理方法。
【0057】
(付記2) 背景と移動体が含まれた画像が新たに入力されると、前記新たに入力された画像を用いて前記背景画像及び閾値を更新する、
ことを更に含むことを特徴とする付記1に記載の画像処理方法。
【0058】
(付記3) 前記統計情報は、画素値の分散である、
ことを特徴とする付記1に記載の画像処理方法。
(付記4) 前記閾値は、画素値の標準偏差である、
ことを特徴とする付記1に記載の画像処理方法。
【0059】
(付記5) 前記閾値は、前記画像中の所定の位置別に決定される、
ことを特徴とする付記1に記載の画像処理方法。
(付記6) 前記背景と移動体が含まれた画像は輝度画像である、
ことを特徴とする付記1に記載の画像処理方法。
【0060】
(付記7) コンピュータが、背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する画像処理方法であって、
各画像の輝度画像を生成し、
前記複数の輝度画像を平均化することにより背景画像を生成し、
前記輝度画像内の各画素位置における輝度値の分散を算出し、
前記分散に基づいて閾値を決定し、
最新の輝度画像と前記背景画像との差分画像を生成し、
前記閾値に基づいて、前記差分画像を二値化する、
ことを含む画像処理方法。
【0061】
(付記8) 時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理装置であって、
前記複数の画像を平均化することにより背景画像を生成する背景画像生成手段と、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定する閾値決定手段と、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成する差分画像生成手段と、
前記閾値に基づいて前記差分画像を二値化する二値画像生成手段と、
を備えることを特徴とする画像処理装置。
【0062】
(付記9) 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるコンピュータ・プログラムであって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせることを特徴とするコンピュータ・プログラム。
【0063】
(付記10) 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるプログラムを記録した、コンピュータで読み取り可能な記録媒体であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせるプログラムを記録することを特徴とする記録媒体。
【0064】
【発明の効果】
以上詳細に説明したように、本発明によれば、背景差分法において用いられる閾値を、画像を構成する画素の画素値の統計情報に基づいて決定することにより、ノイズを含むビデオ画像から良好に移動体を抽出することが可能な技術を提供することが可能となる。
【0065】
また、新たな画像が入力されるたびに、閾値を決定しなおす事とすることにより、昼夜の変化或いは天候の変化によって画面全体の輝度値が左右される場合であっても、適切に閾値を決定することが可能となる。
【図面の簡単な説明】
【図1】本実施形態に係わる画像処理装置の構成図である。
【図2】移動体の抽出処理の手順を示すフローチャート(その1)である。
【図3】移動体の抽出処理の手順を示すフローチャート(その2)である。
【図4】ノイズの発生頻度が高い画素についての時間に対する、輝度差分値及びその標準偏差の変化を示す図である。
【図5】ノイズの発生頻度が低い画素についての時間に対する、輝度差分値及びその標準偏差の変化を示す図である。
【図6】移動体の抽出結果の一例を示す図である。
【図7】コンピュータの構成図である。
【図8】コンピュータへのプログラムのローディングを説明する図である。
【図9】背景画像とビデオ画像の輝度差分値のヒスグラムである。
【図10】ビデオ画像の一例を示す図である。
【図11】従来技術において、閾値が小さすぎる場合の移動体の抽出結果の一例を示す図である。
【図12】従来技術において、閾値が大きすぎる場合の移動体の抽出結果の一例を示す図である。
【符号の説明】
1 画像入力部
2 輝度画像生成部
3 背景画像生成部
4 バッファ
5 閾値決定部
6 背景差分画像生成部
7 二値画像生成部
10 画像処理装置
20 コンピュータ
21 CPU
22 メモリ
23 入力装置
24 出力装置
25 外部記憶装置
26 媒体駆動装置
27 ネットワーク接続装置
28 バス
29 可搬記録媒体
30 サーバ
S ステップ
Claims (5)
- コンピュータが、時間軸上で連続する、背景と移動体とが含まれた複数の画像を処理する画像処理方法であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む画像処理方法。 - 背景と移動体が含まれた画像が新たに入力されると、前記新たに入力された画像を用いて前記背景画像及び閾値を更新する、
ことを更に含むことを特徴とする請求項1に記載の画像処理方法。 - 前記統計情報は、画素値の分散である、
ことを特徴とする請求項1に記載の画像処理方法。 - 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるコンピュータ・プログラムであって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせることを特徴とするコンピュータ・プログラム。 - 背景と移動体とが含まれた時間軸上で連続する複数の画像を処理する制御をコンピュータに実行させるプログラムを記録した、コンピュータで読み取り可能な記録媒体であって、
前記複数の画像を平均化することにより背景画像を生成し、
前記複数の画像を構成する画素の画素値の統計情報に基づいて閾値を決定し、
前記背景画像と、背景と移動体とが含まれた画像との差分画像を生成し、
前記閾値に基づいて前記差分画像を二値化する、
ことを含む制御を前記コンピュータに行わせるプログラムを記録することを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003018053A JP2004227527A (ja) | 2003-01-27 | 2003-01-27 | 画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003018053A JP2004227527A (ja) | 2003-01-27 | 2003-01-27 | 画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004227527A true JP2004227527A (ja) | 2004-08-12 |
Family
ID=32905031
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003018053A Pending JP2004227527A (ja) | 2003-01-27 | 2003-01-27 | 画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004227527A (ja) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100768136B1 (ko) | 2007-02-03 | 2007-10-17 | (주) 인펙 | 주차위반 차량 검지방법 |
JP2007323572A (ja) * | 2006-06-05 | 2007-12-13 | Nec Corp | 物体検出装置、物体検出方法および物体検出プログラム |
JP2008525051A (ja) * | 2004-12-28 | 2008-07-17 | 新世代株式会社 | 反射物体を検出する方法及び装置 |
JP2008250892A (ja) * | 2007-03-30 | 2008-10-16 | Toshiba Teli Corp | 画像処理装置および画像処理プログラム |
JP2010015469A (ja) * | 2008-07-04 | 2010-01-21 | Nippon Telegr & Teleph Corp <Ntt> | 静止領域検出方法とその装置、プログラム及び記録媒体 |
WO2010084902A1 (ja) * | 2009-01-22 | 2010-07-29 | 株式会社日立国際電気 | 侵入警報ビデオ処理装置 |
US8379989B2 (en) | 2008-04-01 | 2013-02-19 | Toyota Jidosha Kabushiki Kaisha | Image search apparatus and image processing apparatus |
KR101583776B1 (ko) * | 2014-10-29 | 2016-01-11 | 동국대학교 산학협력단 | 대상체 검출 장치, 방법 및 컴퓨터프로그램 |
KR101681282B1 (ko) * | 2015-12-03 | 2016-12-02 | 동국대학교 산학협력단 | 대상체 검출 장치 및 방법 |
KR20170130039A (ko) * | 2016-05-18 | 2017-11-28 | 이미화 | 정지된 물체를 소거하는 골프 시뮬레이션장치의 골프공 인식방법 |
CN112616036A (zh) * | 2020-11-23 | 2021-04-06 | 中标慧安信息技术股份有限公司 | 一种智能视频监控系统 |
WO2021210181A1 (ja) * | 2020-04-17 | 2021-10-21 | 日本電気株式会社 | 画像処理方法 |
-
2003
- 2003-01-27 JP JP2003018053A patent/JP2004227527A/ja active Pending
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008525051A (ja) * | 2004-12-28 | 2008-07-17 | 新世代株式会社 | 反射物体を検出する方法及び装置 |
US8311273B2 (en) | 2006-06-05 | 2012-11-13 | Nec Corporation | Object detection based on determination of pixel state |
JP2007323572A (ja) * | 2006-06-05 | 2007-12-13 | Nec Corp | 物体検出装置、物体検出方法および物体検出プログラム |
JP4631806B2 (ja) * | 2006-06-05 | 2011-02-16 | 日本電気株式会社 | 物体検出装置、物体検出方法および物体検出プログラム |
KR100768136B1 (ko) | 2007-02-03 | 2007-10-17 | (주) 인펙 | 주차위반 차량 검지방법 |
JP2008250892A (ja) * | 2007-03-30 | 2008-10-16 | Toshiba Teli Corp | 画像処理装置および画像処理プログラム |
JP4571656B2 (ja) * | 2007-03-30 | 2010-10-27 | 東芝テリー株式会社 | 画像処理装置および画像処理プログラム |
US8379989B2 (en) | 2008-04-01 | 2013-02-19 | Toyota Jidosha Kabushiki Kaisha | Image search apparatus and image processing apparatus |
JP2010015469A (ja) * | 2008-07-04 | 2010-01-21 | Nippon Telegr & Teleph Corp <Ntt> | 静止領域検出方法とその装置、プログラム及び記録媒体 |
WO2010084902A1 (ja) * | 2009-01-22 | 2010-07-29 | 株式会社日立国際電気 | 侵入警報ビデオ処理装置 |
JP5325899B2 (ja) * | 2009-01-22 | 2013-10-23 | 株式会社日立国際電気 | 侵入警報ビデオ処理装置 |
KR101583776B1 (ko) * | 2014-10-29 | 2016-01-11 | 동국대학교 산학협력단 | 대상체 검출 장치, 방법 및 컴퓨터프로그램 |
KR101681282B1 (ko) * | 2015-12-03 | 2016-12-02 | 동국대학교 산학협력단 | 대상체 검출 장치 및 방법 |
KR20170130039A (ko) * | 2016-05-18 | 2017-11-28 | 이미화 | 정지된 물체를 소거하는 골프 시뮬레이션장치의 골프공 인식방법 |
KR101995098B1 (ko) * | 2016-05-18 | 2019-07-01 | 이미화 | 정지된 물체를 소거하는 골프 시뮬레이션장치의 골프공 인식방법 |
WO2021210181A1 (ja) * | 2020-04-17 | 2021-10-21 | 日本電気株式会社 | 画像処理方法 |
JP7509197B2 (ja) | 2020-04-17 | 2024-07-02 | 日本電気株式会社 | 画像処理方法 |
CN112616036A (zh) * | 2020-11-23 | 2021-04-06 | 中标慧安信息技术股份有限公司 | 一种智能视频监控系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110971929B (zh) | 云游戏视频处理方法、电子设备及存储介质 | |
CN100585621C (zh) | 图像处理装置和图像处理方法 | |
JP2002084420A (ja) | 画像処理装置、画像処理方法および画像処理プログラムが格納された記録媒体 | |
JP2004227527A (ja) | 画像処理方法、その方法をコンピュータに行わせるプログラム、そのプログラムを記録する記録媒体 | |
JP2006050551A (ja) | 画像処理装置及びその方法、並びにプログラム及び記憶媒体 | |
JP2008262424A (ja) | 画像処理装置及びその制御方法、並びにコンピュータプログラム | |
JP2007158725A (ja) | 画像処理装置及び画像処理方法並びにプログラム | |
JP2000207489A (ja) | 文字抽出方法、装置および記録媒体 | |
US20060164517A1 (en) | Method for digital recording, storage and/or transmission of information by means of a camera provided on a comunication terminal | |
JP4441300B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよびこのプログラムを記憶した記録媒体 | |
US20030021476A1 (en) | Text discrimination method and related apparatus | |
JP2003303346A (ja) | 目標追跡方法、目標追跡装置、目標追跡プログラム、並びにこのプログラムを記録した記録媒体 | |
JP2004199622A (ja) | 画像処理装置、画像処理方法、記録媒体およびプログラム | |
US20100172595A1 (en) | Image processing method, image processing apparatus, and computer program | |
JP2009044739A (ja) | デジタル画像の背景色を決定するための方法およびシステム | |
JP2001222683A (ja) | 画像処理方法、画像処理装置、文字認識方法、文字認識装置及び記憶媒体 | |
JPH10285399A (ja) | 画像の二値化方法 | |
JP2004062272A (ja) | 媒体画像処理装置、媒体画像処理方法、及びプログラム | |
JP4409713B2 (ja) | 文書画像認識装置及び記録媒体 | |
JP2005063055A (ja) | 画像作成装置、画像作成プログラムおよびこのプログラムが記録された記録媒体 | |
JP2021141383A (ja) | コンピュータプログラム、画像処理装置、および、画像を表示するための表示方法 | |
JP2007109178A (ja) | 画像処理装置及びその制御方法、プログラム | |
JPH10232926A (ja) | 画像処理装置及びその方法 | |
US11778122B2 (en) | Apparatus, method, and storage medium for removing shading dots | |
JP4738645B2 (ja) | 網掛け領域検出装置、網掛け領域検出方法、プログラムおよび記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040624 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060808 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20061205 |