JP4209265B2 - 背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム - Google Patents
背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム Download PDFInfo
- Publication number
- JP4209265B2 JP4209265B2 JP2003170865A JP2003170865A JP4209265B2 JP 4209265 B2 JP4209265 B2 JP 4209265B2 JP 2003170865 A JP2003170865 A JP 2003170865A JP 2003170865 A JP2003170865 A JP 2003170865A JP 4209265 B2 JP4209265 B2 JP 4209265B2
- Authority
- JP
- Japan
- Prior art keywords
- background
- frame
- run
- background region
- inputting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 82
- 238000001514 detection method Methods 0.000 title claims description 39
- 238000004590 computer program Methods 0.000 title claims description 11
- 230000008569 process Effects 0.000 claims description 43
- 238000000605 extraction Methods 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 9
- 108010076504 Protein Sorting Signals Proteins 0.000 claims description 7
- 230000006870 function Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 13
- 238000003384 imaging method Methods 0.000 description 13
- 230000002829 reductive effect Effects 0.000 description 10
- 238000007792 addition Methods 0.000 description 6
- 238000009499 grossing Methods 0.000 description 4
- 230000005055 memory storage Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000008602 contraction Effects 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000011410 subtraction method Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理装置に係り、動画像から動きを持つ物体とそれ以外を実時間で分離する、背景領域検出装置及び方法に関する。
【0002】
最初に、本願明細書の発明の詳細な説明で使用する技術用語について定義する。
[用語の定義]
「二値化閾値」: 多階調画像について、各画素値が、ある与えられた境界値よりも大きいか大きくないかに基づき、それぞれ1と0の二値を与えるという処理を画像全体に施し、1か0の値を持つ二値画像へと変換する際の、境界として用いる値のことを二値化閾値という。
「ラン」: 二値画像において、水平あるいは垂直方向に同一画素値が連続して存在する部分をランという。
「ラン長閾値」: 本発明において、二値化画像において同一の値が水平あるいは垂直方向に連続する部分(ラン)の、端から端までの長さが、ある与えられた境界値よりも大きいか大きくないかに基づき、消去すべきかしないかを判断する際の、境界として用いる値のことをラン長閾値という。
【0003】
【従来の技術】
従来、画像から移動物体および背景領域を分離抽出する手法として「背景差分法」と呼ばれる方法があり、その基本原理は、動画像を含まない画像信号(以下、背景フレームと呼ぶ)をメモリに蓄えておき、連続して入力される画像と、該背景フレームの差分(以下、フレーム間差分と呼ぶ)に二値化閾値処理を施し、差分が比較的小さい部分を背景領域、大きい部分を動物体領域とするものである。
【0004】
この背景差分法を改良した方式が種々存在する。
例えば、背景領域に含まれる雑音について、背景領域(二値画像)の膨張・収縮処理を行うことによりこれを除く方法(例えば、特許文献1参照)や、メディアンフィルタによりこれを除く方法(例えば、特許文献2参照)がある。
【0005】
また、照明条件など輝度の変化に追従するため、背景フレームを複数ブロックに分割し、背景フレームおよび前景フレームそれぞれの平均値を調べ、信号値に定数を加えることにより正規化するいわゆる加減型の方法(例えば、特許文献3参照)や、平均値を元に信号値に定数を乗ずることで正規化するいわゆる乗除型の方法(例えば、特許文献4参照)などの方法がある。
また、入力される画像に対し、縮小処理(平滑化および画素間引き)を施して、全体の処理を高速化する方法がある(例えば特許文献2参照)。
【0006】
【特許文献1】
特開平06−251151号公報
【特許文献2】
特許第3230950号公報
【特許文献3】
特開平07−128200号公報
【特許文献4】
特開2001−325672号公報
【0007】
【発明が解決しようとする課題】
しかしながら、上記の背景領域検出処理においては以下に示すような問題がある。
まず、膨張・収縮処理で除くことができる雑音の大きさは限られている。例えば膨張・収縮をそれぞれ2回ずつ繰り返す場合、縦横の幅いずれかが4画素より大きな雑音は残存する。回数を増やせばより大きな雑音を除くことができるが、正しい領域境界の形状がますます鈍るうえに、処理時間も増大してしまう。メディアンフィルタで除くことができる雑音の大きさも、そのフィルタカーネルのサイズ(通常3×3や5×5)と同等であり、これを大きくすると処理時間が増大してしまう上に、やはり正しい領域境界の微細な形状が鈍るという問題があった。
【0008】
また、撮像機構から入力される画像信号には、デバイスの熱雑音等に由来する雑音成分が必ず重畳されている。フレーム間差分のように信号同士の差分を計算する際、この重畳雑音は抽出される背景領域の精度に悪影響をおよぼす。背景領域のより正確な抽出にはこの雑音の低減が望ましい。しかしながら、従来の技術では入力される背景フレーム信号をそのまま用いており、抽出される背景領域の精度への悪影響は残存したままであった。
【0009】
また、撮像機構が通常備えている自動焦点調節機能が動作した場合、背景撮影時と前景撮影時では合焦点が異なっている可能性が高く、そのような場合は背景フレームと前景フレームのボケ度合が異なるため、同一位置であっても画素値の不一致を招くことがある。従来はこのような場合の対処が考慮されていなかった。上述の特許文献2の方法は平滑化処理を含んでおり、一般に画像の空間平滑化処理はボケを近似可能であるが、該特許文献の平滑化処理は、画像縮小における間引き間隔から定まるナイキスト周波数以下に信号帯域を制限する手段であり、ボケ度合を必ずしも一致させるものではない。
【0010】
また、撮像機構は通常自動利得制御(AGC)および自動オフセット制御(AOC)と呼ばれる、照明や被写体の明暗(平均輝度)および輝度分布(ダイナミックレンジ)に応じて信号値を自動調節する機能を持っている。前者(AGC)は信号のダイナミックレンジを変化させる機能、後者(AOC)は信号の平均輝度を変化させる機能であり、これら機能により、得られる画像のコントラストが調節され、人間にとって見やすくすることができるため、広く用いられているものである。しかしながら背景差分方式にとっては、前景の登場・移動により画像全体の明暗が変化すればAGCあるいはAOC機能が動作し、実際は色や明るさの変化しない背景の同一画素においても、得られる画像信号においては画素値が変動してしまうため、フレーム間差分が0ではなくなるという問題がある。従来の方法では、AOCによる平均輝度変化には追従できるものの、AGCによるダイナミックレンジの変化さらにはAOC,AGC両方による変化には正しく追従ができなかった。
【0011】
本発明は上記問題点に鑑み、処理量を抑えつつ、従来実現できていなかった
▲1▼領域境界の微細形状を残しつつ比較的大きな雑音の除去、
▲2▼背景フレームに含まれる雑音の低減、
▲3▼自動焦点調節機能動作に対する補償、
▲4▼AGC,AOC機能動作に対する補償
を実現することを目的としている。
【0012】
【課題を解決するための手段】
[第1の解決手段]
請求項1に記載の装置では、水平又は垂直雑音除去手段が、二値の背景画像を水平又は垂直方向に1ラインずつ走査し、同じ値が連続する「ラン」の長さを調べ、与えられているラン長閾値よりも長ければそのランは雑音ではないとして保存する。短ければこの短いランは雑音であるとして消去、つまりこの短いランの全画素値を反転させて両端のランと同一の画素値にする。
【0013】
また、直前の短いランが反転された場合は、続くランについてはランの長短によらず反転処理を省略する。この理由を図1を用いて説明すると、1〜数画素の短いランを含む原信号Oの二値信号列を左から右へ水平方向に走査してランの長さを調べ、ラン長閾値=5として、全ランについてその長さに基づき反転する処理を行った場合、処理結果はAのようになり、依然として短いランからなる雑音が残存してしまう。それに対し、直前の短いランを反転させた場合は次のランに対しては反転処理を省略した場合、処理結果Bのように雑音は残存しない。
【0014】
尚、垂直雑音除去手段により垂直方向に同様の処理を行っても、同様に短いランからなる雑音を除去することができる。
従って、請求項1の装置によれば、背景領域画像に含まれるラン長閾値より短いランを雑音として除去するので、選択により任意の大きさの雑音を除去することができる。
短いランは、その性質上、多くが孤立点部分に存在し、領域境界部分においてはほとんど出現しないため、短ラン除去を行っても領域境界形状の鈍化は避けられる。
【0015】
請求項1に記載の装置では、上述した水平雑音除去手段と垂直除去手段を備え、水平方向の雑音除去処理に続いて垂直方向の雑音除去処理を行うので、縦横いずれかがラン長閾値以下の幅を有する任意の大きさの孤立領域を除去することができる。
【0016】
図2〜図4は請求項1の背景領域検出装置における雑音除去処理の具体例を示す。フレーム間差分および二値化閾値処理の結果、図2のような小島状、あるいは小穴状の雑音を含む細長い領域が得られたとする。周囲は黒四角で示す画素値で埋めつくされているとする。
水平雑音除去手段による水平ラン長に基づく雑音除去により、図3のような処理結果が得られる。時おりラン長がラン長閾値を超える部分がある場合、孤立した水平ランが出現することがある。ここで,さらに垂直雑音除去手段により垂直ラン長に基づく雑音除去を行うことにより、図4のように、図3で残存していた雑音が除かれた結果が得られる。
尚、水平雑音除去と垂直雑音除去は、上記と逆の順序、即ち垂直雑音除去、水平雑音除去の順に実行してもよい。
【0017】
[第2の解決手段]
決するものである。
入力映像信号に重畳している雑音の主たる要因である、熱雑音に起因する雑音は、フレーム間での相関は無視できる。ここで、撮像装置から連続して得られる映像信号の、ある画素位置における信号値(雑音を含む)をki(添字iはフレーム番号)とする。重畳雑音は分散(電力)σ2,平均0とする。ki=ko+niと考えられる。ここでkoはこの位置におけるの真の画素値、niは重畳雑音である。
請求項2の発明では、入力背景映像に含まれる熱雑音等に起因する雑音を除去するために、背景映像のフレームを複数枚入力し、これらの平均を背景フレームとして記憶する。
【0018】
着目画素位置における信号値kiのNフレームの平均値E(k)を求めると、
【数1】
である。
平均値E(k)の真値koからのずれをn′とすると、
【数2】
となる。n′の分散は、niの互いの相関が無視できることからσ2/Nとなる。したがってNを大きくとればとるほど平均値E(k)は雑音の低減した、真値により近い信号となっていく。
【0019】
従って、請求項2の発明によれば、背景フレームのように動く物体が含まれない場合において、上記のように、効果的に雑音を除去し、より真値に近い画像を背景フレームとして記憶するので、フレーム間差分により得られる背景領域に含まれる雑音を減らすことができる。
なお前景フレームについては、動く物体が含まれているため、上記のような平均処理をそのまま施しても雑音の低減はできない。したがって従来法と同様に、得られた信号をそのまま用いることになり、重畳している雑音の電力はσ2のままである。
【0020】
以下に、前景フレームでの雑音低減ができなくとも、背景フレームの雑音が低減していれば、フレーム間差分の雑音が低減することを示す。
前景フレームのある位置の画素値をlとする。この画素においては真の画素l0に分散σ2のn0の雑音が重畳していると考えられ、l=l0+n0と書くことができる。背景フレームの、同一位置の画素値をk=k0+n1とする。ここでk0は真の画素値、n1は重畳している雑音である。n1の電力をσ2 1とする。背景フレームの雑音を低減していなければσ2 1=σ2であり、上述のような平均処理により低減していればσ2 1=σ2/Nである。
両者の差分(フレーム間差分)を求めると
となり、真の差分値(l0−k0)に雑音項(n0−n1)が重畳している形となる。n0とn1の相関は無視できるので、該雑音(n0−n1)の電力はσ2+σ2 1となる。したがってσ1が小さいほどフレーム間差分の雑音は低減されることになる。
【0021】
[第3の解決手段]
請求項3に係る発明は、請求項1又は2に記載の背景領域検出装置において上記の課題
光波の重ね合わせの原理から、光学的なボケは線形フィルタにより表現ができる。さらにボケにおいては高周波成分がより減衰することを考慮して、ボケは低域通過型の帯域制限(LPF)と近似することができる。
この場合、合焦・非合焦の度合いは帯域制限の違いと言い換えることができ、自動焦点調節機能をもつ撮像装置から得られる映像におけるあるフレームの合焦部分は、真の画素値に通過帯域幅の広いLPFが施されたもの、別のフレームの非合焦部分は、真の画素値に通過帯域幅の狭いLPFが施されたものと考えられる。これら両フレームに、上記非合焦部分よりも通過帯域幅が狭いあるいは等しいLPFを施せば、合焦・非合焦部分での画素値は一致するはずである。
【0022】
請求項3の発明では、背景フレームと前景フレームとの間で異なるボケの度合いに基づく画素値の不一致を解消するために、フレーム間差分を求めるための背景フレームと前景フレームのそれぞれにLPFを施した後に、フレーム間差分を求める。該LPFの通過帯域幅は、用いる撮像装置および被撮影物に応じた最大ボケの度合いに応じて、フィルタ係数の形式で指定されるものとするのが好ましい。
従って、請求項3の発明によれば、得られるフレームの合焦・非合焦にかかわらず、等しい条件(ともに非合焦)でのフレーム間差分が求められる。
【0023】
[第4の解決手段]
請求項4に係る発明は、請求項2又は3に記載の背景領域検出装置において上記の課題
本発明では、得られた背景領域について、同一位置での背景フレームの画素値(x)と前景フレームの画素値(y)の間に一次式(y=ax+b)の関係を仮定し、最小二乗法により係数a,bを求め、背景フレーム全体に一律にx′=ax+bなる補償を施す。以下、「一次式型」補償という。
一次式型補償の後、フレーム間差分を求め、再度背景領域を抽出する。
【0024】
前述のように、撮像装置のAGC,AOC機能が動作すると、背景自体の明るさや色が不変であっても、前景や照明の変化によって出力される画素値は変動しうる。
これをAGC,AOCによる変更前(入力値)と変更後(出力値)の関係として図5〜図8に図示する。
【0025】
図5の点列は、AGC・AOC機能が動作していないときの入出力プロットである。各信号値は、原点を通る傾き1の直線上に存在する。この場合は信号値補償は不要である。
図6の点列は、AOC機能が動作しているときの入出力プロットである。原点を通らない傾き1の直線上に信号値が存在する。これは従来の「加減型」の補償方法で補償可能である。
図7の点列は、AGC機能が動作しているときの入出力プロットである。原点を通る任意の直線上に信号値が存在する。これは従来の「乗除型」の補償方法で補償可能である。
【0026】
図8の点列は、AGC・AOC機能がともに動作しているときの入出力プロットである。原点を必ずしも通らない任意の直線上に信号値が存在する。これは従来の「加減型」あるいは「乗除型」の方式ではフイツティングすなわち補償できない。
しかしながら、図9に示すように、本発明の「一次式型」補償方法であれば、同じ点列をフイツティングすなわち補償することができる。
【0027】
【発明の実施の形態】
図10は本発明による実施例の背景領域検出装置の実施の形態を示す。
本装置では、まず初期化時に、撮像装置1から入力されるフレーム信号を背景記憶手段2に入力し、背景フレームメモリに記憶させる。次いで動作時、フレーム信号を逐次前景入力手段3へ入力する。この前景フレーム信号と前記背景フレームメモリに記憶された背景フレーム信号を背景領域抽出手段4に入力し、従来の背景差分法と同様にフレーム間差分および二値化閾値処理により二値の背景領域が求められる。
【0028】
信号雑音等が原因でこの背景領域には孤立点等の雑音が含まれるため、この背景領域は雑音除去手段5においてこれらの除去が行われる。まず水平雑音除去手段52において、画像を水平方向に走査しつつ、画素値が変化した点を水平ラン開始位置記憶装置53へ記憶し、そこから、再度画素値が変化するまで、水平位置を、位置画素ずつ進めながら水平ラン終了位置記憶装置54に記憶していく。こうして水平ランの開始点・終点が検出され、しかる後そのラン長がラン長閾値入力手段51から与えられているラン長閾値より短かければ、該水平ランの全画素の値を反転する(0ならば1、1ならば0にする)。但し、反転させた場合は次のランに対しては長短にかかわらず反転処理は省略する。
【0029】
こうして画像を全水平走査し終えた後に、垂直雑音除去手段55において垂直方向について同様の雑音除去を施す。こうして背景領域における、縦横幅いずれかがラン長閾値画素以内の雑音が除去される。
得られた結果は検出背景領域として出力される。
【0030】
尚、請求項1に記載の背景領域検出装置の実施の形態では、図10に示す装置の雑音除去手段5から垂直雑音除去手段又は水平雑音除去手段が省略され、水平雑音除去処理のみ又は垂直雑音除去処理のみを実行する。
【0031】
図11は、本発明による実施例の背景フレーム平均化処理を実行する背景領域検出装置の実施形態を示す。
本装置では、前記背景記憶手段2において、逐次入力されるフレーム信号を、N枚加算手段22で、加算枚数N入力手段21により指定された加算枚数分、画素毎に加算し続ける。加算結果を1/N除算手段23により画素毎にNで除して得られた平均画像を背景フレームメモリ記憶手段24により記憶する。
加算枚数Nはこのように入力手段21で指定できるようにしてもよいし、固定値を用いてもよい。
【0032】
図12は、本発明による実施例のLPF処理を実行する背景領域検出装置の実施形態を示す。
本装置では、まずLPF係数入力手段25より、LPFの係数が入力される。LPFの係数は例えば(1/4,1/2,1/4)のような実数列である。初期化時に、前記背景記憶手段2において、背景フレームが背景フレームメモリ記憶手段24に蓄積される前にLPF適用手段26にて背景フレームに該LPF係数によるLPFを適用する。例えば画素値が…,a,b,c,…のように並んでいる場合、LPF適用後の新しい画素bの画素値は1/4*a+1/2*b+1/4*cとなる。同じLPF係数で、縦方向にも同様の処理を行う。しかる後、LPF処理された背景フレームを背景フレームメモリ記憶手段24に記憶する。
動作時に、前景入力手段3において、同様のLPF適用手段31により前景フレームに同様のLPF処理が逐次施される。
LPF係数はLPF係数入力手段21で任意の係数を入力できるようにしてもよいし、固定値を用いてもよい。
【0033】
図13は、本発明による実施例の一次型補償を実行する背景領域検出装置の実施形態を示す。
本装置では、前記背景領域抽出手段4において背景領域が得られたら、得られた背景領域において、背景フレームの画素値(x)と前景フレームの画素値(y)の間に一次式(y=ax+b)の関係を仮定し、最小二乗パラメータ計算手段41により係数a,bを求める。次いで背景フレームメモリ更新手段42において、背景記憶手段2に記憶されている背景フレーム全体を、該係数に基づきx′=ax+bとして更新する。
このようにして更新された背景フレームについて再度、背景領域抽出手段4により背景領域を得る。得られた背景領域は次いで雑音除去手段5で雑音除去され検出背景領域として出力する。
【0034】
図14は、本発明による実施例の背景領域検出装置で実行される背景領域検出方法の処理手順を示す。
フレーム撮影処理101は逐次行われているものとし、そこからフレーム信号が背景記憶処理ステップ102および前景入力処理ステップ104に随時入力されているものとする。
まず初期化処理として、背景記憶処理ステップ102にて、背景フレーム信号をそのまま、あるいは本発明による実施例の背景フレーム平均化処理又はLPF処理を施して、背景フレームメモリ103に蓄える。
次いで前景入力処理ステップ104にて、フレーム信号をそのまま、あるいは本発明による実施例のLPF処理を施して、前景フレームメモリ105に蓄える。
【0035】
次いで背景領域抽出処理ステップ106において、背景フレームメモリおよび前景フレームメモリのフレーム間差分および二値化閾値処理を行い、二値の背景領域画像を得る。
この背景領域画像には、離れ小島状、あるいは穴状の雑音が含まれていることがあるため、続く雑音除去処理ステップ107においてこれらの雑音を除き、表示処理ステップ108で表示し、
前景入力処理ステップ104以降の処理を、終了判断ステップ109が終了と判断するまで、繰り返す。
【0036】
上記の背景領域検出処理における雑音除去処理ステップ107では、図15〜図18に示す雑音除去処理が実行される。
図15及び図16は本発明による実施例の背景領域検出装置で実行される雑音除去処理の手順を示す。図15では、ラン長閾値入力処理ステップ201にてラン長閾値を得た後、まず水平雑音除去ステップ202にて、水平方向の雑音を除去し、次いで垂直雑音除去ステップ203にて、垂直方向の雑音を除去する。
図16では、垂直雑音除去ステップ302にて、垂直方向の雑音を除去し、次いで水平雑音除去ステップ303にて、水平方向の雑音を除去する。
【0037】
図17及び図18は本発明による実施例の背景領域検出装置で実行される雑音除去処理の手順を示し、図17ではステップ401にてラン長閾値を得た後、ステップ402にて水平雑音除去処理のみを行い、図18ではステップ501にてラン長閾値を得た後、ステップ502にて垂直雑音除去処理のみを行う。
【0038】
図19は、図15〜図18の雑音除去処理における水平雑音除去ステップ202、303,402の処理手順を示す。
ステップ601にて垂直位置を画像端に初期化した後、ステップ602にて水平位置を初期化する。この値は水平ラン終了位置記録部603内に記憶させる。ステップ604にて現在の水平位置を、水平ラン開始位置記録部605内に記憶する。
ステップ606にて、この位置から画素値が同一である限り水平方向へ画素を走査し、水平ランを得ると同時に水平ラン終了位置記録部603にラン終了位置を記録する。
【0039】
ステップ607にて、水平ラン開始位置記録部605から読み出した水平ラン開始位置と水平ラン終了位置記録部603から読み出した水平ラン終了位置から該水平ランの長さを得、これがラン長閾値を超えているかを判断する。
超えていなければステップ608および609を実行する。ステップ608では、発見された水平ランを開始位置から終了位置まで、該ランの値を0ならば1、1ならば0に反転する。
ステップ609では、反転された水平ランの直後に続く水平ランを走査し、現在水平位置をこの後続ランの終点の次へ移動する。
ステップ610にて、現在の水平位置が画像端に達したかを判断し、偽の場合ステップ604に戻る。真の場合ステップ611へ進み、垂直位置を一画素進める。
続いてステップ612では現在の垂直位置が画像端に達したかを判断し、偽の場合ステップ602に戻る。真の場合終了する。
【0040】
図20は、図15〜図18の雑音除去処理における垂直雑音除去ステップ203、302,502の処理手順を示し、図19の水平雑音除去処理ステップとはラン長の検出を垂直方向に行う点が相違するだけで、流れは全く同様である。
【0041】
図21及び図22は、図19及び図20に示す水平雑音除去ステップ及び垂直雑音除去ステップの実施例を示す。
ここで、前提として、背景領域は幅w、高さhの画素の二次元配列a[y][x](y=0…h-1,x=0…w-1)に格納されており、配列要素の値は0か1のいずれかであるものとする。
【0042】
図21の水平雑音除去ステップでは、まず、ステップ801にてy=0,ステップ802にてx=0と初期化し、ステップ803にてx0=xとし、ステップ704にてa[y][x]の値を変数fvに格納する。
次いでステップ805,806にて、画像の端を超えない範囲で水平にfvの値が続く間、xの値を1ずつ増加させる。かくしてx−x0が該水平ランの長さになる。
次いでステップ807にて、fvが1であればfv=0に、fvが0であればfv=1と、fvの値を反転させる。
【0043】
ステップ808にて、該水平ランの長さが、ラン長閾値入力処理ステップで得た値を超えているかを判断し、偽である場合にのみ、次の二処理を行う。
・ステップ809,810,811にてx0の水平位置からxの水平位置までの背景領域を、反転しておいたfvにより埋める処理と、
・ステップ809,813にて、後続の水平ラン(値はfvである)を保存し、その次のランまで進む処理。
【0044】
ステップ814においてxが画像の端を超えていないかを調べ、超えていなければステップ803へ戻り、超えていればステップ815にてyの値を1増加させ、yの値が画像の高さを超えていないかを調べる。超えていなければステップ802へ戻り、超えていれば処理を終了する。
図22の垂直雑音除去ステップの実施例は水平雑音除去ステップの場合のxとy、wとhが交換されているだけであり、流れは全く同様である。
【0045】
以上、本発明の背景領域検出装置及び方法の手段及び処理手順を説明したが、これらの手段及び処理手順は背景領域検出装置を構成するコンピュータにより実現することができ、本発明はこれらの手段及び処理手順を実行させるためのコンピュータプログラム及び該プログラムを記録した記録媒体も本発明の範囲に含むものである。
【0046】
【発明の効果】
以上説明したように、本発明の第1の解決手段によれば、領域境界の微細形状を残しつつ比較的大きな雑音の除去ができる。
本発明は、背景差分方式により得られる二値の背景領域画像において、通常得られることが期待される背景および前景は一定以上の大きさを持っていることから、背景領域画像中に存在する、幅あるいは高さが一定画素数以下の小島状あるいは小穴状の領域の殆んどは雑音である、という経験的事実に鑑み、かかる幅あるいは高さが一定画素数以下の領域を除去することで、得られる背景領域画像の画質向上を図るものである。
更に、本発明の第2の解決手段によれば、背景フレームに含まれる雑音を低減することができ、結果としてより正確な背景領域の抽出ができる。
更に、本発明の第3の解決手段によれば、自動焦点調節機能が動作していてもそれを補償し、結果としてより正確な背景領域の抽出ができる。
更に、本発明の第4の解決手段によれば、AGC,AOC機能動作が動作していてもそれを補償し、結果としてより正確な背景領域の抽出ができる。
【図面の簡単な説明】
【図1】 短いラン(ラン長閾値=5)の除去方法を説明するための図である。
【図2】 小島状又は穴状の雑音を含む背景領域画像(二値画像)の例を示す図である。
【図3】 図2の背景領域画像において、本発明により水平方向の雑音を除去した結果(ラン長閾値=5)を示す図である。
【図4】 図3の廃液領域画像において、本発明により垂直方向の雑音を除去した結果(ラン長閾値=5)を示す図である。
【図5】 AGC,AOC機能が動作していないときの撮像装置の入出力特性を示す図である。
【図6】 AOC機能が動作しているときの撮像装置の入出力特性を示す図である。
【図7】 AGC機能が動作しているときの撮像装置の入出力特性を示す図である。
【図8】 AGC・AOC機能がともに動作しているときの撮像装置の入出力特性を示す図である。
【図9】 一次式型の補償結果を示す図である。
【図10】 本発明による実施例の背景領域検出装置の実施形態を示すブロック図である。
【図11】 本発明による実施例の背景領域検出装置の実施形態を示すブロック図である。
【図12】 本発明による実施例の背景領域検出装置の実施形態を示すブロック図である。
【図13】 本発明による実施例の背景領域検出装置の実施形態を示すブロック図である。
【図14】 本発明による実施例の背景領域検出装置で実行される背景領域検出方法の処理手順を示すフローチャートである。
【図15】 本発明による実施例の背景領域検出装置で実行される雑音除去処理の一例の手順を示すフローチャートである。
【図16】 本発明による実施例の背景領域検出装置で実行される雑音除去処理の他の例の手順を示すフローチャートである。
【図17】 本発明による実施例の背景領域検出装置で実行される雑音除去処理の一例の手順を示すフローチャートである。
【図18】 本発明による実施例の背景領域検出装置で実行される雑音除去処理の他の例の手順を示すフローチャートである。
【図19】 図15〜図18の雑音除去処理における水平雑音除去ステップ202、303,402の処理手順を示すフローチャートである。
【図20】 図15〜図18の雑音除去処理における垂直雑音除去ステップ203、302,502の処理手順を示すフローチャートである。
【図21】 図19の水平雑音除去ステップの実施例を示すフローチャートである。
【図22】 図20の垂直雑音除去ステップの実施例を示すフローチャートである。
【符号の説明】
1 撮像装置
2 背景記憶手段
3 前景入力手段
4 背景領域抽出手段
5 雑音除去手段
51 ラン長閾値入力手段
52 水平雑音除去手段
53 水平ラン開始位置記憶装置
54 水平ラン終了位置記憶装置
55 垂直雑音除去手段
56 垂直ラン開始位置記憶装置
57 垂直ラン終了位置記憶装置
21 加算枚数N入力手段
22 N枚加算手段
23 1/N除算手段
24 背景フレームメモリ記憶手段
25 LPF係数入力手段
26、31 LPF適用手段
41 最小二乗パラメータ計算手段
42 背景フレームメモリ更新手段
Claims (13)
- 動領域を含まない背景映像のフレーム(背景フレーム)を入力し背景フレームメモリに記憶する背景記憶手段と、
動領域を含む処理対象映像のフレーム(前景フレーム)を随時入力する前景入力手段と、
背景フレーム、前景フレームの同一画素位置毎の差分を二値化閾値処理により二値化し背景領域を得る背景領域抽出手段と、
ラン長閾値を入力する手段と、前記背景領域において画素を水平方向に走査し同一値が連続する部分(ラン)を検出する手段と、得られたランの長さが該ラン長閾値よりも小さい場合に、該ランの全画素値を反転させる手段と、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略する手段からなる水平雑音除去手段と、
前記水平雑音除去手段の後段もしくは前段にあって、ラン長閾値を入力する手段と、前記背景領域において画素を垂直方向に走査し同一値が連続する部分(ラン)を検出する手段と、得られたランの長さが該ラン長閾値よりも小さい場合に、該ランの全画素値を反転させる手段と、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略する手段からなる垂直雑音除去手段とを備え、
前記水平雑音除去手段及び前記垂直雑音除去手段の各々は、
前記背景領域における二値化した信号列を一方向から走査して調べたランの長さが該ラン長閾値よりも小さい故に該ランの全画素値を反転させた後、その次の隣接ランについてランの長短によらず反転処理を省略することを、前記背景領域における二値化した信号列の各ラインに対して行うことを特徴とする背景領域検出装置。 - 請求項1に記載の背景領域検出装置において、
前記背景記憶手段は、
加算枚数を入力する手段と、
複数の背景フレームを入力し、これを該加算枚数分加算する手段と、
加算結果を該加算枚数で除して平均フレームを求める手段と、
該平均フレームを背景フレームとして記憶する手段と、
得られた背景領域における、背景フレームと前景フレームの双方の画素値を一次式により最小二乗法で近似するパラメータを求める手段と、
該パラメータを用いて、記憶されている背景フレームメモリの全画素値を変更する手段とを備え、
該変更された背景フレームと現在の前景フレームとから該背景領域抽出手段により再度背景領域を求める、ことを特徴とする背景領域検出装置。 - 請求項1又は2に記載の背景領域検出装置において、
前記背景記憶手段は、低域通過フィルタ(LPF)係数を入力する手段と、背景フレームを背景フレームメモリに記憶する前段階で該LPF係数に基づく低域通過フィルタ(LPF)処理を施す手段とを備え、
前記前景入力手段は、前記低域通過フィルタ(LPF)係数を入力する手段と、処理対象前景フレームに該LPF係数に基づく低域通過フィルタ(LPF)処理を施す手段とを備えていることを特徴とする背景領域検出装置。 - 請求項2又は3に記載の背景領域検出装置において、前記加算枚数入力手段又は前記低域通過フィルタ係数入力手段は省略し、前記加算枚数又は前記低域通過フィルタ係数には予め設定された固定値を用いられることを特徴とする背景領域検出装置。
- 請求項1に記載の背景領域検出装置によって背景領域を検出する方法であって、
前記背景記憶手段によって、動領域を含まない背景映像のフレーム(背景フレーム)を入力し背景フレームメモリに記憶する背景記憶ステップと、
前記前景入力手段によって、動領域を含む処理対象映像のフレーム(前景フレーム)を随時入力する前景入力ステップと、
前記背景領域抽出手段によって、背景フレームと前景フレームの同一画素位置毎の差分を二値化閾値処理により二値化し背景領域を求める背景領域抽出ステップと、
前記水平雑音除去手段によって、ラン長閾値を入力するステップと、前記背景領域において画素を水平方向に走査し、同一値が連続する部分(ラン)を検出するステップ、得られたランの長さが所定のラン長閾値よりも小さい場合に、該ランの全画素値を反転させるステップと、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略するステップからなる水平雑音除去ステップと、
前記垂直雑音除去手段によって、前記水平雑音除去ステップに続いて、あるいは、その前に実行される、ラン長閾値を入力するステップと、前記背景領域において画素を垂直方向に走査し、同一値が連続する部分(ラン)を検出するステップ、得られたランの長さが所定のラン長閾値よりも小さい場合に、該ランの全画素値を反転させるステップと、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略するステップからなる垂直雑音除去ステップとを含み、
前記水平雑音除去ステップ及び前記垂直雑音除去ステップの各々は、
前記背景領域における二値化した信号列を一方向から走査して調べたランの長さが該ラン長閾値よりも小さい故に該ランの全画素値を反転させた後、その次の隣接ランについてランの長短によらず反転処理を省略することを、前記背景領域における二値化した信号列の各ラインに対して行うことを特徴とする背景領域検出方法。 - 請求項5に記載の背景領域検出方法において、
前記背景記憶ステップは、前記背景記憶手段によって、
加算枚数を入力するステップと、
複数の背景フレームを入力し、これを該加算枚数分加算するステップと、
加算結果を該加算枚数で除して平均フレームを求めるステップと、
該平均フレームを背景フレームとして記憶するステップとを含み、
前記背景領域抽出ステップは、前記背景領域抽出手段によって、
得られた背景領域における、背景フレームと前景フレームの双方の画素値を一次式により最小二乗法で近似するパラメータを求めるステップと、
該パラメータを用いて、記憶されている背景フレームメモリの全画素値を変更するステップと、
該変更された背景フレームと現在の前景フレームとから該背景領域抽出ステップにより再度背景領域を求めるステップと、
を含むことを特徴とする背景領域検出方法。 - 請求項5又は6に記載の背景領域検出方法において、
前記背景記憶ステップは、前記背景記憶手段によって、低域通過フィルタ(LPF)係数を入力するステップと、背景フレームを背景フレームメモリに記憶する前段階で該LPF係数に基づく低域通過フィルタ(LPF)処理を施すステップを含み、
前記前景入力ステップは、前記背景領域抽出手段によって、前記低域通過フィルタ(LPF)係数を入力するステップと、処理対象前景フレームに該LPF係数に基づく低域通過フィルタ(LPF)処理を施すステップとを含むことを特徴とする背景領域検出方法。 - 請求項6又は7に記載の背景領域検出方法において、前記加算枚数入力ステップ又は低域通過フィルタ係数入力ステップを省略し、前記加算枚数又は前記低域通過フィルタ係数には予め設定された固定値を用いられることを特徴とする背景領域検出方法。
- 請求項1に記載の背景領域検出装置を構成するコンピュータに、
動領域を含まない背景映像のフレーム(背景フレーム)を入力し背景フレームメモリに記憶する背景記憶ステップと、
動領域を含む処理対象映像のフレーム(前景フレーム)を随時入力する前景入力ステップと、
背景フレームと前景フレームの同一画素位置毎の差分を二値化閾値処理により二値化し背景領域を求める背景領域抽出ステップと、
ラン長閾値を入力するステップと、前記背景領域において画素を水平方向に走査し、同一値が連続する部分(ラン)を検出するステップ、得られたランの長さが所定のラン長閾値よりも小さい場合に、該ランの全画素値を反転させるステップと、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略するステップからなる水平雑音除去ステップと、
前記水平雑音除去ステップに続いて、あるいは、その前に、ラン長閾値を入力するステップと、前記背景領域において画素を垂直方向に走査し、同一値が連続する部分(ラン)を検出するステップ、得られたランの長さが所定のラン長閾値よりも小さい場合に、該ランの全画素値を反転させるステップと、反転させた場合は次の隣接ランについてはランの長短によらず反転処理を省略するステップからなる垂直雑音除去ステップと、
を実行させるためのコンピュータプログラムであって、
前記水平雑音除去ステップ及び前記垂直雑音除去ステップの各々は、
前記背景領域における二値化した信号列を一方向から走査して調べたランの長さが該ラン長閾値よりも小さい故に該ランの全画素値を反転させた後、その次の隣接ランについてランの長短によらず反転処理を省略することを、前記背景領域における二値化した信号列の各ラインに対して行う、コンピュータプログラム。 - 請求項9に記載のコンピュータプログラムであって、前記コンピュータに、
前記背景記憶ステップにおいて、
加算枚数を入力するステップと、
複数の背景フレームを入力し、これを該加算枚数分加算するステップ、
加算結果を該加算枚数で除して平均フレームを求めるステップと、
該平均フレームを背景フレームとして記憶するステップと、
前記背景領域抽出ステップは、
得られた背景領域における、背景フレームと前景フレームの双方の画素値を一次式により最小二乗法で近似するパラメータを求めるステップと、
該パラメータを用いて、記憶されている背景フレームメモリの全画素値を変更するステップと、
該変更された背景フレームと現在の前景フレームとから該背景領域抽出ステップにより再度背景領域を求めるステップと、
を実行させるためのコンピュータプログラム。 - 請求項8又は9に記載のコンピュータプログラムであって、前記コンピュータに、
前記背景記憶ステップにおいて、
低域通過フィルタ(LPF)係数を入力するステップと、
背景フレームを背景フレームメモリに記憶する前段階で該LPF係数に基づく低域通過フィルタ(LPF)処理を施すステップを実行させ、
前記前景入力ステップにおいて、
前記低域通過フィルタ(LPF)係数を入力するステップと、
処理対象前景フレームに該LPF係数に基づく低域通過フィルタ(LPF)処理を施すステップを実行させるためのコンピュータプログラム。 - 請求項10又は11に記載のコンピュータプログラムであって、前記加算枚数入力ステップ又は低域通過フィルタ係数入力ステップを省略し、前記加算枚数又は前記低域通過フィルタ係数には予め設定された固定値を用いられる、コンピュータプログラム。
- 請求項9〜12の何れかに記載のコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003170865A JP4209265B2 (ja) | 2003-06-16 | 2003-06-16 | 背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003170865A JP4209265B2 (ja) | 2003-06-16 | 2003-06-16 | 背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005010840A JP2005010840A (ja) | 2005-01-13 |
JP4209265B2 true JP4209265B2 (ja) | 2009-01-14 |
Family
ID=34095549
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003170865A Expired - Fee Related JP4209265B2 (ja) | 2003-06-16 | 2003-06-16 | 背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4209265B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5663279B2 (ja) * | 2010-11-25 | 2015-02-04 | 株式会社日立メディコ | 画像処理装置 |
-
2003
- 2003-06-16 JP JP2003170865A patent/JP4209265B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005010840A (ja) | 2005-01-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4042563B2 (ja) | 画像ノイズの低減 | |
US7990429B2 (en) | Imaging device with blur enhancement | |
US8744206B2 (en) | Image processing apparatus, image processing method, and program | |
JP4454657B2 (ja) | ぶれ補正装置及び方法、並びに撮像装置 | |
JP3083918B2 (ja) | 画像処理装置 | |
WO2016206087A1 (zh) | 一种低照度图像处理方法和装置 | |
US11538175B2 (en) | Method and apparatus for detecting subject, electronic device, and computer readable storage medium | |
JP5975598B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5158202B2 (ja) | 画像補正装置および画像補正方法 | |
WO2014069103A1 (ja) | 画像処理装置 | |
KR101684990B1 (ko) | 양방향 필터의 시그마 변수를 이용한 차량 영상 디블러 방법 | |
JP4958806B2 (ja) | ぶれ検出装置、ぶれ補正装置及び撮像装置 | |
CN111833367A (zh) | 一种图像处理方法、装置、车辆及存储介质 | |
JP2009088935A (ja) | 画像記録装置、画像補正装置及び撮像装置 | |
JP4209265B2 (ja) | 背景領域検出装置、方法および該方法を実行するためのコンピュータプログラム | |
Graham et al. | Blind restoration of space-variant Gaussian-like blurred images using regional PSFs | |
KR101360411B1 (ko) | 레티넥스 기법을 이용한 영상처리방법 | |
KR102183518B1 (ko) | 이미지 신호로부터 계단 아티팩트들을 감소시키는 이미지 프로세싱 장치 | |
JPH10170817A (ja) | 合焦位置算出装置及びその方法とそれらを使用した電子顕微鏡 | |
Xue et al. | Iterative image restoration using a non-local regularization function and a local regularization operator | |
CN117710250B (zh) | 一种消除纤维镜成像蜂窝状结构的方法 | |
US11115582B2 (en) | Imaging control apparatus, imaging apparatus, and recording medium | |
CN109754370B (zh) | 图像去噪方法及装置 | |
JPH08265572A (ja) | 画像処理装置 | |
JP5853369B2 (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050722 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070613 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070613 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080704 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080708 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080908 |
|
TRDD | Decision of grant or rejection written | ||
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20081017 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081021 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081022 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111031 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111031 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121031 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121031 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131031 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |