JP4878644B2 - 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム - Google Patents

移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム Download PDF

Info

Publication number
JP4878644B2
JP4878644B2 JP2009504041A JP2009504041A JP4878644B2 JP 4878644 B2 JP4878644 B2 JP 4878644B2 JP 2009504041 A JP2009504041 A JP 2009504041A JP 2009504041 A JP2009504041 A JP 2009504041A JP 4878644 B2 JP4878644 B2 JP 4878644B2
Authority
JP
Japan
Prior art keywords
moving object
image frame
luminance value
captured
noise removal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009504041A
Other languages
English (en)
Other versions
JPWO2008111549A1 (ja
Inventor
知正 植村
学 井口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hokkaido University NUC
Original Assignee
Hokkaido University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hokkaido University NUC filed Critical Hokkaido University NUC
Priority to JP2009504041A priority Critical patent/JP4878644B2/ja
Publication of JPWO2008111549A1 publication Critical patent/JPWO2008111549A1/ja
Application granted granted Critical
Publication of JP4878644B2 publication Critical patent/JP4878644B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4097Removing errors due external factors, e.g. dust, scratches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

本発明は、移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラムに係り、特に、手前に移動物体がある場合に撮像された画像フレームから撮像対象に対するノイズである手前の移動対象を除去する移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラムに関する。
撮像カメラによって撮像された画像フレームには、撮像対象に関するデータの他に様々なノイズが含まれている。したがって、撮像対象に関する必要なデータのみを抽出し、あるいは不要なノイズを除去するために、画像フレームを加工する画像処理が行われる。特に移動物体が撮像されるときに、移動物体が撮像対象である場合と、移動物体がノイズである場合がある。前者の場合は、移動検出手段によって撮像対象を抽出できるが、後者の場合は、移動物体がノイズであり、移動物体のデータを除去することになる。移動物体が撮像対象の背後にあるときは、移動物体によって撮像対象が乱されることがないので移動物体はノイズとならない。したがって、移動物体がノイズとなるのは、撮像対象の手前に移動物体がある場合である。このようなとき、移動物体によるノイズを除去し、移動物体の背後にある背景を撮像対象として抽出することが必要となる。
例えば、特許文献1には、画像処理装置及び距離測定装置において、時系列に取得されたn個の画像を記憶し、これらの画像を累積平均して平均背景を求めることが開示されている。ここでは、例えば、移動物体の移動速度が速く、n個の画像のうち1個の画像にのみその移動物体があるときは、n個の画像の平均によって1個の画像にのみ現れる移動物体の濃度の寄与が小さく、閾値以下となり、累積画像上で消失することが述べられている。
また、特許文献2には、画像処理方法として、流し撮りにおいてブレを形成する際に、画像データにおいて所定の強度以上のエッジを検出し、これに基づいて移動体の移動方向、移動量等を求め、背景を抽出することが開示されている。ここでは、検出されたエッジによってエッジプロファイルを作成し、8方向についてのエッジのブレのヒストグラムからブレ方向、すなわち移動体の移動方向を求め、ブレ方向に対するブレ幅、すなわちエッジ幅から移動体の移動量を求める。そして、エッジ幅が所定の閾値より大きいエッジを検出して、そのエッジを含まない領域を背景領域とすることが述べられている。
また、非特許文献1には、時間メディアンフィルタによる降雪ノイズ除去方法が開示されている。ここで時間メディアンフィルタとは、固定監視カメラから得られた映像の複数フレームの各画素について、画素値を輝度値の高い順に並べ、k番目の輝度値を現時刻の出力輝度とするものである。これを全部の画素について実行して、現時刻の出力輝度で画像を作成するもので、例えば雪が2つのフレームにしか撮像されていないとすると、k=3とすれば、現時刻の画像から雪を除去できるフィルタとなることが述べられている。
特開平6−337938号公報 特開2006−50070号公報 三宅他,「時間メディアンフィルタによる降雪ノイズ除去」,画像電子学会誌,第30巻,第3号,2001年,p251−259
このように、移動物体をノイズとして除去する必要がある場合の例の1つは、戸外の状況を監視カメラで撮像するときに、雨や雪等が降っているときである。例えば、降雪が激しいと、人物がおり、あるいは車両が走行していても、その手前の移動物体である雪にかき消されて、撮像された画像フレームからは人物や車両が十分に監視できない。監視を強化するために照明を強くすると、かえって降雪が強く撮像され、肝心の人物や車両等がかき消されることが多くなる。
同様の例は、夜間走行中の車両においても生じる。夜間走行中の車両で、前方の障害物を赤外線カメラあるいは超音波カメラ等で検出することが行われるが、雨や雪が降っているときには、赤外線や超音波はこれらを検出し、前方に歩行者や障害物があっても撮像された画像フレームからはこれらを十分に検出できない。赤外線や超音波の出力を強くしても、かえって降雪等が強く撮像されるだけである。
特許文献1の方法は、画像の累積平均を行うもので、メモリ容量が大きくなり、また処理に時間がかかる。特許文献2の方法は、8方向についてのエッジブレのヒストグラムの処理を要し、やはりメモリ容量が大きくなり、また処理に時間がかかる。また、非特許文献1においては、降雪ノイズ除去が行われているが、映像の複数のフレームのデータから各画素の輝度値のメディアンを求めるもので、複雑な演算を要する。
このように、従来技術によれば、移動物体のノイズ除去に高度な画像処理を要し、そのために大きなメモリ容量を要し、処理に時間がかかる。
本発明の目的は、比較的簡単な方法で効果的に移動物体ノイズを除去することを可能とする移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラムを提供することである。
本発明に係る移動物体ノイズ除去処理装置は、手前に移動物体がある撮像対象を画像フレームとして撮像する固定撮像装置と、撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリと、撮像された画像フレームを加工する加工手段と、を備え、加工手段は、メモリから現在より前の時刻に撮像された画像フレームを読み出す手段と、読み出された画像フレームを構成する各画素と、現在に撮像された画像フレームを構成する各画素とについて、両画像フレームの対応する画素の輝度値を比較する手段と、各画素について、輝度値の高い方をノイズとして除去し、輝度値の低い方を残してその画素の輝度値を更新するノイズ除去手段と、所定の更新基準に基づいて各画素について輝度値が更新された画像フレームを撮像対象の画像フレームとして出力する手段と、を含むことを特徴とする。
また、本発明に係る移動物体ノイズ除去処理装置は、手前に移動物体がある撮像対象を画像フレームとして撮像する固定撮像装置と、撮像された複数の画像フレームを撮像の時系列に関連付けて記憶するメモリと、撮像された画像フレームを加工する加工手段と、を備え、加工手段は、メモリから複数の画像フレームを読み出す手段と、読み出された複数の画像フレームにおける各画素の輝度値に基づいて、画像フレームを構成する各画素ごとに輝度値の頻度分布を生成する手段と、各画素について、輝度値の頻度分布の最も頻度の高い輝度値を残し、それ以外の輝度値をノイズとして除去するノイズ除去手段と、最も頻度の高い輝度値を有する各画素で構成された画像を撮像対象の画像フレームとして出力する手段と、を含むことを特徴とする。
また、本発明に係る移動物体ノイズ除去処理装置は、手前に移動物体がある撮像対象を画像フレームとして撮像する2台の固定撮像装置であって、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される2台の固定撮像装置と、各固定撮像装置によって撮像された2つの画像フレームをそれぞれ記憶するメモリと、撮像された画像フレームを加工する加工手段と、を備え、加工手段は、メモリから2つの画像フレームを読み出す手段と、2つの画像フレームを構成する各画素について、両画像フレームの対応する画素の輝度値を比較する手段と、各画素について、輝度値の高い方をノイズとして除去し、輝度値の低い方を残してその画素の輝度値を更新するノイズ除去手段と、所定の更新基準に基づいて各画素について輝度値が更新された画像フレームを撮像対象の画像フレームとして出力する手段と、を含むことを特徴とする。
また、本発明に係る移動物体ノイズ除去処理装置において、画像フレームを構成する画素の輝度値のデータの総数と、ノイズとして除去された輝度値のデータの数との比較に基づいて、撮像対象の手前の移動物体の存在頻度を推定して、移動物体頻度として出力する手段を含むことが好ましい。
また、本発明に係る移動物体ノイズ除去処理装置において、移動物体は、降雪であってもよい。
また、本発明に係る移動物体ノイズ除去処理装置において、固定撮像装置側から撮像対象側に照明する照明装置を備えていてもよい。
また、本発明に係る移動物体ノイズ除去処理プログラムは、手前に移動物体がある撮像対象を固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行うプログラムであって、コンピュータ上で、固定撮像装置によって撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリから、現在より前の時刻に撮像された画像フレームを読み出す処理手順と、読み出された画像フレームを構成する各画素と、現在に撮像された画像フレームを構成する各画素とについて、両画像フレームの対応する画素の輝度値を比較する処理手順と、各画素について、輝度値の高い方をノイズとして除去し、輝度値の低い方を残してその画素の輝度値を更新するノイズ除去処理手順と、所定の更新基準に基づいて各画素について輝度値が更新された画像フレームを撮像対象の画像フレームとして出力する処理手順と、が実行されることを特徴とする。
また、本発明に係る移動物体ノイズ除去処理プログラムは、手前に移動物体がある撮像対象を固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行うプログラムであって、コンピュータ上で、固定撮像装置によって撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリから、複数の画像フレームを読み出す処理手順と、読み出された複数の画像フレームにおける各画素の輝度値に基づいて、画像フレームを構成する各画素ごとに輝度値の頻度分布を生成する処理手順と、各画素について、輝度値の頻度分布の最も頻度の高い輝度値を残し、それ以外の輝度値をノイズとして除去するノイズ除去処理手順と、最も頻度の高い輝度値を有する各画素で構成された画像を撮像対象の画像フレームとして出力する処理手順と、が実行されることを特徴とする。
また、本発明に係る移動物体ノイズ除去処理プログラムは、手前に移動物体がある撮像対象を画像フレームとして撮像する2台の固定撮像装置であって、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される2台の固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行うプログラムであって、コンピュータ上で、各固定撮像装置によって撮像された2つの画像フレームをそれぞれ記憶するメモリから、2つの画像フレームを読み出す処理手順と、2つの画像フレームを構成する各画素について、両画像フレームの対応する画素の輝度値を比較する処理手順と、各画素について、輝度値の高い方をノイズとして除去し、輝度値の低い方を残してその画素の輝度値を更新するノイズ除去処理手順と、所定の更新基準に基づいて各画素について輝度値が更新された画像フレームを撮像対象の画像フレームとして出力する処理手順と、が実行されることを特徴とする。
上記構成の少なくとも1つにより、移動物体ノイズ除去処理のために、固定撮像装置とメモリと、撮像された画像フレームを加工する加工手段が用いられる。加工手段はコンピュータである。そして、現在より前の時刻に撮像された画像フレームと、現在に撮像された画像フレームについて、対応する画素の輝度値を比較し、各画素について輝度値の高い方をノイズとして除去する。撮像装置に対し手前にある物体は一般的に明るく撮像されるので、手前にある移動物体は背後にある撮像対象よりも輝度値が高い。したがって上記構成により、2つの画像から移動物体ノイズを除去でき、しかも現在に撮像された画像フレームを取得すれば、時刻的にその前に既に撮像された画像フレームとの間の単純な輝度値比較によってほぼリアルタイム的に移動物体ノイズを除去できる。したがって、比較的簡単な方法で効果的に移動物体ノイズを除去することができる。
また、上記構成の少なくとも1つにより、移動物体ノイズ除去処理のために、固定撮像装置とメモリと、撮像された画像フレームを加工する加工手段が用いられる。加工手段はコンピュータである。そして、撮像時刻が異なる複数の画像フレームの間で、対応する画素の輝度値の頻度分布を生成し、各画素について最も頻度の高いデータを残して他をノイズとして除去する。移動物体は時間的に移動するので、各画素に止まっていず、特定の画素における移動物体の輝度値は時刻によって変化する。これに対し、移動物体の背後の撮像対象が固定位置にいるときまたはほぼ静止状態にあるときは、各画素においてほぼ固定的な輝度値を有する。したがって、撮像対象が固定位置にいるときまたはほぼ静止状態にあるときは、複数の画像から移動物体ノイズを除去できる。また、例えば、輝度値の頻度分布の生成を撮像の度に逐次更新するものとすれば、現在に撮像された画像フレームの取得に合わせてほぼリアルタイム的に移動物体ノイズを除去できる。したがって、比較的簡単な方法で効果的に移動物体ノイズを除去することができる。
また、上記構成の少なくとも1つにより、移動物体ノイズ除去処理のために、2台の固定撮像装置とメモリと、撮像された画像フレームを加工する加工手段が用いられる。加工手段はコンピュータである。ここで、2台の固定撮像装置は、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される。そして、2台の固定撮像装置によって同時刻に撮像された2つの画像フレームについて、対応する画素の輝度値を比較し、各画素について輝度値の高い方をノイズとして除去する。上記のように2台の固定撮像装置が配置されるとき、撮像対象が移動しても、2台の固定撮像装置によって撮像された2つの画像フレーム上で、撮像対象の位置は予め定められた任意の画素以内の範囲で一致している。これに対し、撮像対象より手前にある移動物体については、2台の固定撮像装置によって撮像された2つの画像フレーム上で、移動物体の位置は一致しない。そして撮像装置に対し手前にある物体は一般的に明るく撮像されるので、手前にある移動物体は背後にある撮像対象よりも輝度値が高い。したがって上記構成により、2つの画像から移動物体ノイズを除去でき、しかも2台の固定撮像装置による2つの画像フレームを取得すれば、その両画像フレームとの間の単純な輝度値比較によってほぼリアルタイム的に移動物体ノイズを除去できる。したがって、比較的簡単な方法で効果的に移動物体ノイズを除去することができる。
また、上記構成により、画像フレームを構成する画素の輝度値のデータの総数と、ノイズとして除去された輝度値のデータの数との比較に基づいて、撮像対象の手前の移動物体の存在頻度を推定して、移動物体頻度として出力する。したがって、ノイズ除去のみならず、撮像対象の手前の移動物体の存在頻度に関する情報を得ることができる。例えば、移動物体が降雪のときは、単位時間あたりの降雪量等の情報を得ることができる。あるいは、移動物体が道路を走行する車両であるであるときは、単位時間当たりの通過車両数等の情報を得ることができる。
また、固定撮像装置側から撮像対象側に照明する照明装置を設けてもよい。従来技術では、照明装置を設けて照明を強くしても、却って撮像対象の手前の移動物体のノイズが増加するばかりであるが、上記各構成によれば、照明の有無に関らず移動物体のノイズを除去できる。
本発明に係る実施の形態において、移動物体ノイズ除去処理装置の構成を説明する図である。 本発明に係る実施の形態において、移動物体ノイズ除去の手順を示すフローチャートである。 本発明に係る実施の形態において、ある時刻において撮像された画像フレームの例を示す図である。 本発明に係る実施の形態において、図3とは別の時刻において撮像された画像フレームの例を示す図である。 本発明に係る実施の形態において、図3と図4のデータに基づいて降雪によるノイズが除去される様子を示す図である。 本発明に係る実施の形態において、移動物体頻度を算出し、その時間的推移の例を示す図である。 別の実施例において、画素の輝度値の頻度分布に基づいて移動物体ノイズを除去する手順を示すフローチャートである。 別の実施例において、対応する画素のそれぞれについて輝度値の分布を求める様子を示す図である。 他の実施例において、撮像対象が移動する場合に、2台のカメラを用いて撮像対象の手前にある移動物体によるノイズを除去する原理を説明する図である。 別の実施例において、2台のカメラを用いて移動物体ノイズを除去する手順を示すフローチャートである。
符号の説明
4 移動物体、6 撮像対象、8 戸外状況、10 移動物体ノイズ除去処理装置、12,50,52 カメラ、14 照明装置、20 コンピュータ、24 入力部、26 出力部、28 撮像装置インタフェース、30 記憶装置、32 記憶・読出モジュール、34 輝度値処理モジュール、36 ノイズ除去モジュール、38 画像出力モジュール、40 移動物体頻度出力モジュール、42,60,62 画像フレーム、44 輝度値の頻度分布。
以下に図面を用いて本発明に係る実施の形態につき詳細に説明する。以下では、移動物体のノイズ除去の対象として、戸外の状況を監視するシステムにおいて、戸外に降雪があって照明を用いる状況の下で、降雪を移動物体として、これをノイズとして除去する場合について説明するが、これは説明のための一例である。戸外でなく、建物内等の構築物内の監視であってもよい。また、移動物体は降雪以外のもの、例えば降雨であってもよい。あるいは、歩行者、通過車両のように、監視対象の手前を横切る物体であってもよい。
また、固定撮像装置というのは、観察者に対し固定の意味であって、大地等に対し固定の意味ではない。したがって、観察者が乗車している車両に搭載された撮像装置は、ここでは固定撮像装置に当る。例えば、車両に固定された撮像装置を用い、車両を走行させ、ヘッドライト等の照明を用いて、車両の前方の障害物の状況を撮像して監視する場合に、本発明を適用することができる。なお、観察者とは、実際の人間でなくてもよい。その場合には、監視装置に固定された撮像装置がここでいう固定撮像装置に当る。
また、移動物体頻度出力については、移動物体を降雪として説明するが、上記のように移動物体は降雪以外の降雨、歩行者、走行車両等であってもよく、これらの場合に、移動物体頻度は、単位時間当たり降雨量等に関する情報、単位時間当たり通過歩行者数等に関する情報、単位時間当たり通過車両数等に関する情報等になる。これら以外の移動物体についても同様である。
[実施例1]
図1は、移動物体ノイズ除去処理装置10の構成を説明する図である。ここで示される移動物体ノイズ除去処理装置10は、戸外の状況を監視するシステムに搭載されるものである。戸外状況監視システムは、固定撮像装置であるカメラ12と、カメラ12によって撮像されたデータを加工し、監視画像フレームとして出力するコンピュータ20とから構成される。移動物体ノイズ除去処理装置10は、戸外状況監視システムの一部で、ハードウェア的には戸外状況監視システムと同じようにカメラ12とコンピュータ20を含んで構成され、ソフトウェア的には、コンピュータ20によって実行される監視プログラムに含まれる移動物体除去処理プログラムの実行によって実現される。図1は、戸外状況監視システムの中で、移動物体ノイズ除去処理装置10の構成を抜き出して示すものである。
なお、図1には、移動物体ノイズ除去処理装置10の構成要素ではないが、監視対象の戸外状況8が図示されている。ここでは、戸外状況8は、降雪がある戸外に人物がいる状況として示されている。監視対象は、通常は人物もいない戸外風景であり、ここに不審な人物等が現れると、その人物等を撮像して、監視機関等に通報することになるが、図1の場合、人物が現れてこれを撮像しても、その手前に降雪があるため、人物の一部分が降雪によってかき消され、撮像された画像フレームにおいて人物データが不完全なものとなる。すなわち、図1は、降雪が撮像対象の手前の移動物体としてノイズとなっている場合が示されている。
カメラ12は、上記のように、戸外状況監視システムにおいて固定位置として設定される撮像装置で、コンピュータ20の制御の下で、戸外状況8を所定のサンプリング間隔で撮像し、各サンプリングタイムにおける撮像データをそれぞれ1つの画像フレームの電子データとして出力する機能を有する。出力された電子データは、信号線によってコンピュータ20に伝送される。カメラ12には、夜間等の環境に応じて、戸外状況8に対し適当な照明を行うことができる照明装置14を設けることができる。かかるカメラ12としては、CCD(Charge Coupled Device)方式のディジタル電子カメラ等を用いることができる。
コンピュータ20は、カメラ12によって撮像され伝送された画像フレームのデータを加工することで、ここでは、戸外状況8における降雪等の移動物体ノイズを除去する機能等を有する。
コンピュータ20は、CPU22と、キーボード等の入力部24と、ディスプレイあるいはプリンタ等の出力部26と、カメラ12との間のインタフェース回路である撮像装置I/F28と、プログラムを記憶しまたカメラ12から伝送された画像フレームデータ等を記憶する記憶装置30とを含んで構成される。これらの要素は内部バスによって相互に接続される。かかるコンピュータ20は、例えば画像処理に適した専用のコンピュータで構成することができ、場合によっては、PC(Personal Computer)で構成することもできる。
CPU22は、記憶・読出モジュール32と、輝度値処理モジュール34と、ノイズ除去モジュール36と、画像出力モジュール38と、移動物体頻度出力モジュール40とを含む。これらの機能は、画像フレームのデータ加工に関するものである。したがって、CPU22は、撮像された画像フレームを加工する手段としての機能を有する。ここで、記憶・読出モジュール32は、カメラ12から伝送されてきた画像フレームデータを各サンプリングタイムに関連付け、すなわち撮像の時系列に関連付けて記憶装置30に記憶し、また必要に応じ記憶装置30から画像フレームデータを読み出す機能を有する。また、輝度値処理モジュール34は、複数の画像フレームについて、対応する画素ごとに輝度値を比較する機能を有する。またノイズ除去モジュール36は、予め定めた基準によって、比較された輝度値のうち、1つの輝度値を残し、他の輝度値をノイズとして除去する機能を有する。また、画像出力モジュール38は、各画素について残された輝度値に基づいて撮像対象の画像フレームを合成して出力する機能を有し、移動物体頻度出力モジュール40は、除去された輝度値のデータ数と残された輝度値のデータ数の割合に基づいて移動物体の存在頻度を推定してこれを移動物体頻度として出力する機能を有する。これらの機能はソフトウェアによって実現でき、具体的には、上記のように、コンピュータ20によって実行される監視プログラムに含まれる移動物体除去処理プログラムの実行によって実現される。
上記構成の移動物体ノイズ除去処理装置10の作用を図2のフローチャートと、図3から図5に示す画像フレームを用いて説明する。なお、以下では、図1の符号を用いて説明する。図2のフローチャートは、移動物体ノイズ除去の手順を示すフローチャートで、以下の各手順は、移動物体ノイズ除去処理プログラムの各処理手順に対応する。
戸外状況8を監視するために、カメラ12は、所定のサンプリング間隔Δtごとに撮像する(S10)。この工程は、CPU22がカメラ12に対し、Δtごとに撮像し、撮像したデータを画像フレームデータとして伝送するように指令を行い、カメラ12がその指令に従って撮像を行うことで実現される。撮像されたデータは、信号線によって撮像装置I/F28を介し、CPU22に伝送される。
伝送された画像フレームデータは、撮像の時系列に関連付けて、すなわち撮像時刻に関連付けて記憶装置30に記憶される(S12)。この工程は、CPU22の記憶・読出モジュール32の機能によって実行される。
S12とS14は、各サンプリングタイムごとに実行が繰り返される。したがって、記憶装置30には、撮像の時系列に関連付けて、撮像された画像フレームデータが順次記憶されることになるが、実際には、以下に述べるようにノイズ除去がほぼリアルタイム的に実行されるので、ノイズ除去された画像フレームが順次記憶されることになる。
S14以下は、移動物体ノイズ除去及び移動物体頻度に関する手順で、画像データの加工に関する手順である。
まず、現在に撮像された画像フレームが記憶される(S14)。この工程はS12と同じとしてもよく、あるいはS12に代えて一時的メモリに記憶するものとしてもよい。勿論、カメラ12によって撮像された生データを記憶し、これと並列に撮像された画像フレームを加工するものとして、S12と並列に一時的記憶メモリに記憶するものとしてもよい。
そして、現在より前の時刻における画像フレームが記憶装置30から読み出される(S16)。現在より前の時刻は、現在の撮像のサンプリングタイムの1つ前のサンプリングタイムでもよく、あるいは、もっと以前のサンプリングタイムであってもよい。読み出された画像フレームデータは、S14において画像フレームデータが記憶されたメモリと別の一時的メモリに記憶される。S14、S16の工程は、CPU22の記憶・読出モジュール32の機能によって実行される。
次に、両画像フレームのデータについて、対応する各画素の輝度値を比較する(S18)。この工程は、CPU22の輝度値処理モジュール34の機能によって実行される。対応する画素とは、例えば、1つの画像フレームが、水平方向をX方向として400画素、垂直方向をY方向として500画素のマトリクスで構成されている場合、全部で400×500=200,000画素があることになるが、両画像フレームにおいて、X方向の位置座標、Y方向の位置座標が同じ画素が、対応する画素である。輝度値とは、例えば256階調で各画素の輝度値が規定される場合には、0から255までの数値が輝度値となる。
S18においては、両画像フレームの対応する各画素について、それぞれ2つの輝度値が比較されることになるが、つぎに、比較された2つの輝度値の中で、輝度値の高い方をノイズとして除去し、輝度値の低い方を残す(S20)。撮像装置に対し手前にある物体は一般的に明るく撮像されるので、手前にある移動物体は背後にある撮像対象よりも輝度値が高い。したがって、同じ画素において輝度値の高い方が移動物体の輝度値で、輝度値の低い方が移動物体の背後にある撮像対象の輝度値である。そこで、前者をノイズとして除去し、後者を撮像対象の輝度値として残すことができる。この工程は、CPU22のノイズ除去モジュール36の機能によって実行される。
そして、各画素において残された輝度値で、画像フレームの各画素の輝度値を更新する(S22)。更新の対象となる画像フレームは、S14で記憶された画像フレームと、S16で読み出された画像フレームの双方であることが好ましい。具体的には、以下のようにして両画像フレームの輝度値の更新を行うことができる。例えば、S16で読み出された画像フレームを出発点の画像フレームとして、この画像フレームの各画素の1つの画素の輝度値K16と、S14で記憶された画像フレームの対応する1つの画素の輝度値K14とを比較し、K16がK14より低い場合には、K14をK16に更新し、K14がK16より低い場合には、K16をK14に更新する。すなわち、両画像フレームについて、いずれも低い輝度値に更新する。これを全部の画素について順次行うことで、両画像フレームの各画素の輝度値が、低い輝度値の方に統一されて更新される。
一例を上げると、ある画素について、K14=25、K16=126であったとすると、この画素については、S16で読み出された画像フレームの輝度値が更新され、両画像フレームの輝度値がK14=K16=25に統一される。また別の画素について、K14=180、K16=27であったとすると、この画素については、S14で記憶された画像フレームの輝度値が更新され、両画像フレームの輝度値がK14=K16=27に統一される。このように、上記の例では、200,000個の画素のそれぞれについて輝度値の更新が行われる。
画像フレームを構成する全部の画素について輝度値が更新されると、更新された輝度値の画素で構成される画像フレームが、現在に撮像された画像フレームとして、改めて記憶装置30に記憶される。図2のフローチャートにおいては、S22の後でS12に戻り、時系列に記憶される。記憶される時刻は、S14において「現在」とされた時刻である。これにより、S14において、現在に撮像された画像フレームとして一時記憶装置に記憶されたデータが更新されて、記憶装置30に記憶される。
また、更新された輝度値の画素で構成される画像フレームが、撮像対象の画像フレームとして出力される(S24)。この出力された画像フレームは、現在に撮像された画像フレームにおいてノイズ除去が行われたものに対応する。この工程は、CPU22の画像出力モジュール38の機能によって実行される。
その様子を図3から図4に示す。図3は、現在からΔt前に撮像された画像フレームの様子を示す図であり、図2におけるS16の工程で読み出された画像フレームに対応する。ここでは、暗い背景の手前に建物の柱と人物が照明を受けて明るく検出されている。ここでは、背景、建物の柱、人物が戸外状況8における撮像対象に相当するが、降雪があるので、撮像対象の手前、すなわちカメラ12に近い方の降雪によって、撮像対象の一部のデータが欠けている。特に照明があるので、撮像対象の手前の降雪は一段と明るく輝度値が高くなり、撮像対象の一部のデータがより明確に欠けている。
図4は、現在に撮像された画像フレームの様子を示す図である。つまり、図3からΔt経過して撮像された画像フレームが示されており、図2のS14工程において記憶された画像フレームに相当する。カメラ12は固定位置にあるので、図3の画像フレームと図4の画像フレームは、人物がほぼ静止している場合には同じ画像となってよいが、降雪は移動物体であるので、図3と図4とでは、降雪に関する部分が異なっている。
図5は、図3の画像フレームと図4の画像フレームにおいて、対応する画素についてそれぞれの輝度値を比較し、輝度値の高い方を除去し、低い方を残し、各画素について輝度値の低い方の輝度値を用いて構成された画像フレームである。図5に示されるように、降雪のノイズはほとんど除去され、撮像対象である暗い背景、建物の柱、人物がきれいに検出されていることが分かる。
再び図2に戻り、S14で現在とされた時刻からさらにΔt経過すると、そのときが次の現在とされる時刻となり、上記のS14で現在とされた時刻は過去のものとなる。このとき、S14では、現在とされた新しい時刻で撮像された画像フレームが記憶される。そして、S16で読み出されるのは、上記で更新された画像フレームデータとなる。そして、この両画像フレームについて、S18からS22の工程が実行され、各画素について輝度値の低い方の輝度値に基づいて、画像フレームが再び更新され、更新された画像フレームが、新しく現在における撮像対象の画像フレームとして出力される。このようにして、各サンプリングタイムにおいて、ほぼリアルタイム的に、撮像対象の画像フレームが更新されつつ出力される。
このように更新を繰り返すことで、移動物体ノイズである降雪ノイズは次第に除去されてくる。しかし、戸外状況8は、時々刻々変化するので、輝度値を常に低い輝度値で更新し続けると、戸外状況8が変化して、撮像対象の輝度値が変化することを検出できない。そこで、更新については、所定の更新基準を設けることが好ましい。すなわち、更新基準として、更新回数は、降雪ノイズ等の物体ノイズがほぼ除去できる程度の回数に止め、その回数に達すれば、図2のS10から処理を開始することとすることが望ましい。
例えば、2枚から10枚程度の画像フレームを一組として更新処理を行うものとすることができる。一例として現在の画像フレームをiとして、i−3,i−2,i−1,i,i+1,i+2,i+3の時系列で画像フレームが記憶されるものとする。ここで、3枚の画像フレームを一組として更新処理を順次行うものとする。この場合には、まずi−3とi−2とを組み合わせて処理した結果を(i−2)Pとしてメモリに一旦残し、その次は、この(i−2)Pとi−1とで処理を行い、処理で残されたものを(i−1)Pとし、これを3枚一組で更新したものとして出力する。同様にして、次は、i−2,i−1,iの3枚の画像フレームを一組として更新処理を行い、これを(i)Pとして出力する。もちろん、これ以外の更新基準に基づくものとしてもよい。
実験によれば、かなり激しい降雪であっても、3回から5回の更新でほぼ降雪ノイズが除去できる。したがって、監視のサンプリング間隔の1/5から1/10程度に撮像のサンプリング間隔を設定することで、降雪ノイズを効果的に除去しながら監視を行うことができる。例えば、監視のサンプリング間隔を約0.5秒とすれば、撮像のサンプリング間隔を約0.05秒から0.1秒に設定することができる。
次に、降雪頻度、すなわち移動物体頻度の算出とその出力について説明する。図2のS20において、両画像フレームの各画素において、輝度値の高い方のデータはノイズとして除去される。輝度値の高い方のデータは、降雪によるものであるので、降雪が激しいほど、輝度値の高いデータを有する画素数が多くなる。そこで、画像フレームを構成する画素の輝度値のデータの総数と、ノイズとして除去された輝度値のデータの数との比率割合から、降雪の激しさを推定し、これを移動物体頻度として算出する(S26)。
上記の例で、画像フレームを構成する全画素数は、200,000個である。そして、S20において、輝度値が高い方として除去された画素数Nを求め、ある時刻でN=50で、別の時刻でN=1,000であるとすると、N=1,000の時刻の方が単位時間当たりの降雪量が多いことが推定できる。したがって、上記の例で、N/200,000を移動体頻度とし、例えば、降雪の場合には、これを単位時間当たり降雪量に関する情報として出力する(S28)。
図6は、横軸に時間をとり、縦軸に移動物体頻度をとって、移動物体頻度の時間的推移の例を示したものである。移動物体が降雪の場合は、図6を、単位時間当たりの降雪量の時間的推移に関する情報として利用できる。
[実施例2]
上記においては、2つの画像フレームにおいて対応する各画素の輝度値の比較によって移動物体ノイズを除去したが、これに代えて、複数の画像フレームにおいて対応する各画素の輝度値の分布を求め、求められた輝度値の頻度分布に基づいて移動物体ノイズを除去することもできる。
この場合には、図1におけるコンピュータ20のCPU22において、輝度値処理モジュール34の内容が異なるものとなるが、それ以外の構成要素は、図1に関連して説明したものと同様である。したがって、ここでは、図7のフローチャートと、図8を用いて、画素の輝度値の頻度分布に基づいて移動物体ノイズを除去する方法について説明する。この方法は、図1のコンピュータ20によって実行されるソフトウェアによって実現される。
図7は、画素の輝度値の頻度分布に基づいて移動物体ノイズを除去する手順を示すフローチャートで、以下の各手順は、対応する移動物体ノイズ除去処理プログラムの各処理手順に対応する。
戸外状況8を監視するために、カメラ12は、所定のサンプリング間隔Δtごとに撮像する(S30)。撮像されたデータは、信号線によって撮像装置I/F28を介し、CPU22に伝送される。伝送された画像フレームデータは、撮像の時系列に関連付けて、すなわち撮像時刻に関連付けて記憶装置30に記憶される(S32)。S30,S32の工程の内容は、それぞれ、図2において説明したS10,S12の内容と同じであるので、詳細な説明を省略する。
S30とS32は、各サンプリングタイムごとに実行が繰り返される。したがって、記憶装置30には、撮像の時系列に関連付けて、撮像された画像フレームデータが順次記憶されることになる。
S34以下は、移動物体ノイズ除去及び移動物体頻度に関する手順で、画像データの加工に関する手順である。
まず、複数の画像フレームが記憶装置30から読み出される(S34)。複数の画像フレームは、好ましくは、現在に撮像された画像フレームを含んで、サンプリングタイムを過去に連続してさかのぼった複数の画像フレームが望ましい。このように最新の複数の画像フレームを用いることで、画像データの信頼性が向上し、また、リアルタイム的処理が可能となる。複数の画像フレームの数nは、たとえば、n=50からn=100程度とすることができる。勿論、これ以外の数をnとしてもよい。
そして、読み出された複数の画像フレームについて、対応する画素のそれぞれについて、輝度値の分布を求める(S36)。対応する画素の意義、輝度値の意義は、図2のS18に関連して説明した内容と同じである。輝度値の分布を求める処理は、図1におけるCPU22の輝度値処理モジュール34の機能により実行されるが、図2で説明したS18の内容とS36の内容とは異なっている。
図8に、対応する画素のそれぞれについて輝度値の分布を求める様子を示す。図8(a)は、複数の画像フレーム42のそれぞれについて、対応する画素がAで示されている。上記の例では、複数の画像フレームの数nは、50から100の間である。図8(b)には、このn個の画像フレームについて、各画素の輝度値の頻度分布44の様子が示されている。輝度値の頻度分布は、横軸に輝度値がとられ、縦軸に頻度数がとられている。輝度値は、上記の例で、0から255である。頻度数の合計は、上記の例でnとなる。一番手前には、画素Aについての輝度値の分布の様子が示されており、ここでは、輝度値40において最も頻度が高く、次に輝度値150の近辺にやや高い頻度分布が見られ、その他の輝度値の頻度はほぼ一様である。このような輝度値の分布が各画素について求められる。上記の例では、200,000個の画素について輝度値の分布が求められる。
ここで、図8(b)の画素Aの頻度分布について述べると、降雪等のノイズは、輝度値が高いが、輝度分布としてはばらつくものと考えられる。一方、監視対象となる戸外状況8は、上記の例で、暗い背景、建物の柱、人物で、これらがほぼ静止の状態のときは、輝度値はほぼ一定であり、画像フレームの間で相違が少なく、したがって輝度値のばらつきは少なく、鋭いピークの頻度となると考えられる。また、暗い背景、建物の柱、人物等の輝度値は、その手前にある移動物体ノイズより輝度値が低い。これらのことから、図8(a)の例では、最も頻度が高く、また輝度値が比較的低い40のデータは、監視対象となる戸外状況8である暗い背景、建物の柱、人物によるもので、ばらつきがあるが次に頻度の高く、輝度値が比較的高い150近辺のデータは、降雪ノイズによるものと考えることができる。
このように、S36においては、複数の画像フレームについて、対応する画素のそれぞれについて、輝度値の分布を求める。その目的は、各画素において、最大頻度の輝度値を求めることである。したがって、複数の画像フレームの数nは、最大頻度と次の頻度との間に有意差が見出される程度の数でよい。例えば、最大頻度と次の頻度との比が数倍となるnとすることができる。上記の例でn=50から100というのは、降雪が激しいときで、降雪が少ないときはnを数個としても十分に最大頻度の輝度値を抽出することができる。降雪の程度によって、輝度値の頻度分布を求めるための画像フレームの数nを選択できるものとしてもよい。例えば、n=10,50,100のように、三段階で画像フレームの数nを選択できるようにしてもよい。
再び図7に戻り、S36において各画素について輝度値の頻度分布が求められると、次に、各画素について最大頻度の輝度値を残し、他の輝度値のデータを除去する(S38)。この工程は、図1におけるCPU22のノイズ除去モジュール36の機能によって実行される。この場合も、輝度値の頻度分布に用いられた全部の画像フレームについて、輝度値を更新することが好ましい。例えば、上記の例で、画像フレーム数がn=50であるとすると、各画素のそれぞれについて、全ての画像フレームを最大頻度の輝度値に更新する。
一例を上げると、図8の画素Aについて、最大頻度の輝度値がK=40として、その頻度が15/50とする。この場合、15枚の画像フレームの画素AはK=40のままであるが、残りの35枚の画像フレームについては、画素Aの輝度がK=40に更新される。これを全画素について行うことで、50枚の画像フレームのそれぞれは、移動物体ノイズが除去された撮像対象の画像フレームとなる。
そこで、移動物体ノイズが除去された画像フレームを出力する(S40)。そして、除去された輝度値のデータに基づいて、移動物体頻度が算出され(S42)、移動物体頻度として出力される(S44)。
移動物体頻度の算出は次のようにして行うことができる。上記の例で、n=50の画像フレームの画素Aにおいて、最大頻度の輝度値K=40を有する画像フレームの数はn=15であり、n=35の画像フレームは、検出された輝度値が除去されてK=40に更新された。したがって、この画素Aにおいて、輝度値のデータの総数は50で、除去された輝度値のデータ数は35である。これを全画素について計算し、輝度値のデータの総数と、除去された輝度値のデータ数との比に基づいて、移動物体頻度を推定することができる。
[実施例3]
上記の実施例1、実施例2は、戸外状況8において撮像対象が固定状態、ほぼ静止状態或いは移動物体(雪粒)より十分大きい状態である場合に適用できる。ほぼ静止状態とは、移動物体の画面内の移動速度に比較して撮像対象の画面内の移動速度が十分低速であることを指すが、「低速」というのはその物体がある画素を通過する時間が長い状態である。降雪の場合、その落下速度が桁違いに変動することがなく、例えば、非特許文献1においては、戸外における降雪速度が400mm/secから1000mm/secとされている。したがって、戸外における速度の比がそのまま画面内に反映される例では、戸外において、移動物体の移動速度がこの降雪速度の1/2から1/10の速度であれば、移動物体に対し、画像処理上はほぼ静止状態である、とすることができる。
移動物体の移動速度に対し、無視できない速度で撮像対象が移動する場合には、上記実施例1、実施例2の方法では、ノイズ除去及び移動物体頻度算出に誤差が生じる。このような場合、カメラを2台用いて同時に戸外状況を撮像し、その2つの画像フレームから撮像対象の手前の移動物体ノイズを除去することができる。以下では、2台カメラを用いて移動物体ノイズを除去する方法について、図9、図10を用いて説明する。なお、以下では、図1から図8の符号を用いて説明する。
図9は、2台のカメラ50,52を用いて、移動する撮像対象6を同時に撮像し、撮像対象6の手前にある移動物体4によるノイズを除去する原理を説明する図である。図9(a)は、2台のカメラ50,52と撮像対象6と移動物体4の位置関係を示し、図9(b),(c)は、それぞれ、2台のカメラ50,52によって撮像された画像フレームの様子を示す図である。2台のカメラ50,52は、図1で説明したカメラ12と同じものを2台用いるものとでき、照明装置を備えるものとすることもできる。
2台のカメラ50,52の配置は、次のような条件の下で設定が行われる。すなわち、手前に移動物体4がある撮像対象6を画像フレームとして撮像するときに、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、両画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される。ここで、予め任意に定められた画素以下のずれとなる離間距離としては、例えば、画像フレームの中央付近に位置する撮像対象6が、1画素以下のずれとなる距離とすることができる。なお、画像フレームの中央付近以外の位置では数画素以内のずれが起こり得ることは許容される。具体的には、2台のカメラ50,52の光軸の方向を相互に零度から数度傾ける。図9(a)では,その傾きを、2つのカメラ50,52の光軸の間の角度θで示してある。角度θは、2台のカメラ50,52と撮像対象との間の距離、レンズの焦点距離、及び画像フレームの画素解像度によって異なる。例えば、2台のカメラ50,52と撮像対象6との距離が十分離れているときは、小さい角度θでよく、場合によっては、2つの光軸をほぼ平行、即ち角度θをほぼ零度とすることもできる。また、画像フレームの画素解像度が高い場合にも、小さい角度でよい。一例を上げると、画像フレームが数10万画素以上で構成されており、撮像対象6までの距離が5m以上あるときは、角度θは、約5度以下とすることができ、好ましくは、約1度から約2度とすることがよい。
このように2台のカメラ50,52の配置関係を設定することで、2台のカメラ50,52で同時に撮像対象6を撮像したとき、それぞれのカメラ50,52によって撮像された2つの画像フレーム上において、撮像対象6は同じ位置にあり、その手前の移動物体4は異なる位置にあるものとなる。その様子が図9(b),(c)に示される。図9(b)は、カメラ50によって撮像された画像フレーム60を、(c)は、カメラ52によって撮像された画像フレーム62を示す。これらの画像フレーム60,62上において、撮像対象である人物は同じ位置にあり、一方、移動物体4である降雪は、異なる位置にある。なお、2つの画像フレーム60,62は同時に撮像されているので、降雪は、実は同じものが撮像されており、降雪自体が移動しているわけではない。
このように、所定の配置関係に設定された2台のカメラ50,52によって同時撮影することで、両画像フレーム上において、移動する撮像対象6を同じ位置として、撮像対象6の手前の移動物体4を異なる位置として撮像できる。つまり、同時撮影した2枚の画像フレーム上において、撮像対象6は静止しているように、移動物体4は位置を変えているようにできる。これは、静止している撮像対象6と移動物体4とを時系列的に撮像した2枚の画像フレームと同じ関係になる。したがって、所定の配置関係に設定された2台のカメラ50,52によって同時撮影された両画像フレームを、図2で説明した両画像フレームと同じように扱って、移動物体ノイズを除去できることになる。これが、2台のカメラを用いて、移動する撮像対象について移動物体ノイズを除去する原理である。
図10は、2台のカメラを用いて移動物体のノイズを除去する手順を示すフローチャートである。以下の各手順は、移動物体ノイズ除去処理プログラムの各処理手順に対応する。なお、以下では、図1から図9の符号を用いて説明する。
最初に、2台のカメラ50,52を上記の所定配置条件の下で設定する(S50)。そして、戸外状況8を監視するために、カメラ50,52によって、所定のサンプリング間隔Δtごとに同時撮像する(S52)。撮像されたデータは、2つの画像フレームデータとして区別されてそれぞれ、信号線によって撮像装置I/F28を介し、CPU22に伝送される。伝送された画像フレームデータは、撮像の時系列に関連付けて、すなわち撮像時刻に関連付けて記憶装置30に記憶される(S54)。S52,S54の工程は、2つ台のカメラ50,52であること、2つの画像フレームであることを除けば、図2で説明したS10,S12の内容と同じであるので、詳細な説明を省略する。
S56以下は、2台のカメラ50,52によって同時撮影された2つの画像フレームに基づいて移動物体ノイズ除去を実行し、移動物体頻度を算出することに関する手順で、画像データの加工に関する手順である。
まず、現在に撮像された2つの画像フレームが読み出される(S56)。ここで読み出される2つの画像フレームは、上記のように、撮像対象6については同じ位置に、移動物体4については異なる位置にあるので、あたかも、図2におけるS14とS16における両画像フレームと同じ関係にあるように見える。したがって、以後の工程は、図2におけるS18以後の工程と内容が同じとして処理を実行することができる。
すなわち、両画像フレームのデータについて、対応する各画素の輝度値を比較する(S58)。この工程は、CPU22の輝度値処理モジュール34の機能によって実行され、その内容は、図2で説明したS18と同様で、対応する画素の意義、輝度値の意義も、S18で説明した内容と同じである。
つぎに、比較された2つの輝度値の中で、輝度値の高い方をノイズとして除去し、輝度値の低い方を残す(S60)。この工程は、CPU22のノイズ除去モジュール36の機能によって実行され、図2で説明したS20の内容と同じである。
そして、各画素において残された輝度値で、画像フレームの各画素の輝度値を更新する(S62)。更新の方法も、図2のS22で説明した内容と同じである。そして、画像フレームを構成する全部の画素について輝度値が更新されると、更新された輝度値の画素で構成される画像フレームが、現在に撮像された画像フレームとして、改めて記憶装置30に記憶され、S54に戻り、時系列に記憶される。また、更新された輝度値の画素で構成される画像フレームが、撮像対象の画像フレームとして出力される(S64)。これらの処理の内容も、図2においてS22,S24で説明したものと同じである。移動物体頻度算出(S66)、移動物体頻度出力(S68)の内容も、図2におけるS26,S28の内容と同様である。
このようにして、所定の配置関係に設定された2台のカメラによって、監視対象である戸外状況を同時撮影し、得られた2つの画像フレームを加工することで、移動物体ノイズを除去し、また移動物体頻度を算出することができる。
移動物体ノイズ除去処理装置10等は、降雪、降雨、歩行者及び通過車両など監視対象の手前に存在する移動物体をノイズとして除去する必要がある用途、具体的には、戸外などに設置される各種監視カメラや車両に搭載される撮像装置などに好適である。

Claims (10)

  1. 手前に移動物体がある撮像対象を画像フレームとして撮像する固定撮像装置と、
    撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリと、
    撮像された画像フレームを加工する加工手段と、
    所定の更新基準に基づいて加工された画像フレームを出力する出力手段と、
    を備え、
    加工手段は、
    メモリから現在より前の時刻に撮像された画像フレームを読み出す手段と、
    読み出された1つの画像フレーム及び現在に撮像された1つの画像フレームについて、2つの画像フレームの対応する各画素の輝度値を比較する手段と、
    輝度値を比較した2つの画像フレームにおける各画素について、輝度値の高い方の画素データをノイズとして除去し、画素データが除去された画素は、輝度値の低い方の画素データを使用して補完するノイズ除去補完手段と、
    を含むことを特徴とする移動物体ノイズ除去処理装置。
  2. 手前に移動物体がある撮像対象を画像フレームとして撮像する固定撮像装置と、
    撮像された複数の画像フレームを撮像の時系列に関連付けて記憶するメモリと、
    撮像された画像フレームを加工する加工手段と、
    所定の更新基準に基づいて加工された画像フレームを出力する出力手段と、
    を備え、
    加工手段は、
    メモリから複数の画像フレームを読み出す手段と、
    読み出された複数の画像フレームについて、対応する画素ごとに輝度値の頻度分布を生成する手段と、
    輝度値の頻度分布を生成した各画素について、該頻度分布における最大頻度の輝度値以外の輝度値である画素データをノイズとして除去し、画素データが除去された画素は、最大頻度の輝度値である画素データを使用して補完するノイズ除去補完手段と、
    を含むことを特徴とする移動物体ノイズ除去処理装置。
  3. 手前に移動物体がある撮像対象を画像フレームとして撮像する2台の固定撮像装置であって、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される2台の固定撮像装置と、
    各固定撮像装置によって撮像された2つの画像フレームをそれぞれ記憶するメモリと、
    撮像された画像フレームを加工する加工手段と、
    所定の更新基準に基づいて加工された画像フレームを出力する出力手段と、
    を備え、
    加工手段は、
    メモリから各固定撮像装置によって同時刻に撮像された2つの画像フレームを読み出す手段と、
    読み出された2つの画像フレームについて、2つの画像フレームの対応する各画素の輝度値を比較する手段と、
    輝度値を比較した2つの画像フレームにおける各画素について、輝度値の高い方の画素データをノイズとして除去し、画素データが除去された画素は、輝度値の低い方の画素データを使用して補完するノイズ除去補完手段と、
    を含むことを特徴とする移動物体ノイズ除去処理装置。
  4. 請求項1から請求項3のいずれか1に記載の移動物体ノイズ除去処理装置において、
    画像フレームを構成する画素の輝度値のデータの総数と、ノイズとして除去された輝度値のデータの数との比較に基づいて、撮像対象の手前の移動物体の存在頻度を推定して、移動物体頻度として出力する手段を含むことを特徴とする移動物体ノイズ除去処理装置。
  5. 請求項1から請求項4のいずれか1に記載の移動物体ノイズ除去処理装置において、
    移動物体は、降雪であることを特徴とする移動物体ノイズ除去処理装置。
  6. 請求項1から請求項5のいずれか1に記載の移動物体ノイズ除去処理装置において、
    固定撮像装置側から撮像対象側に照明する照明装置を備えることを特徴とする移動物体ノイズ除去処理装置。
  7. 手前に移動物体がある撮像対象を固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行った後、所定の更新基準に基づいて加工された画像フレームを出力するプログラムであって、
    コンピュータ上で、
    固定撮像装置によって撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリから、現在より前の時刻に撮像された画像フレームを読み出す処理手順と、
    読み出された1つの画像フレーム及び現在に撮像された1つの画像フレームについて、2つの画像フレームの対応する各画素の輝度値を比較する処理手順と、
    輝度値を比較した2つの画像フレームにおける各画素について、輝度値の高い方の画素データをノイズとして除去し、画素データが除去された画素は、輝度値の低い方の画素データを使用して補完するノイズ除去補完処理手順と、
    が実行されることを特徴とする移動物体ノイズ除去処理プログラム。
  8. 手前に移動物体がある撮像対象を固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行った後、所定の更新基準に基づいて加工された画像フレームを出力するプログラムであって、
    コンピュータ上で、
    固定撮像装置によって撮像された画像フレームを撮像の時系列に関連付けて記憶するメモリから、複数の画像フレームを読み出す処理手順と、
    読み出された複数の画像フレームについて、対応する画素ごとに輝度値の頻度分布を生成する処理手順と、
    輝度値の頻度分布を生成した各画素について、該頻度分布における最大頻度の輝度値以外の輝度値である画素データをノイズとして除去し、画素データが除去された画素は、最大頻度の輝度値である画素データを使用して補完するノイズ除去補完処理手順と、
    が実行されることを特徴とする移動物体ノイズ除去処理プログラム。
  9. 手前に移動物体がある撮像対象を画像フレームとして撮像する2台の固定撮像装置であって、それぞれによって撮像された各画像フレームにおける撮像対象の位置が、画像フレーム上で予め任意に定められた画素以下のずれとなる離間距離で互いに配置される2台の固定撮像装置によって画像フレームとして撮像し、撮像された画像フレームをコンピュータ上で加工して移動物体ノイズ除去処理を行った後、所定の更新基準に基づいて加工された画像フレームを出力するプログラム であって、
    コンピュータ上で、
    各固定撮像装置によって撮像された2つの画像フレームをそれぞれ記憶するメモリから、各固定撮像装置によって同時刻に撮像された2つの画像フレームを読み出す処理手順と、
    読み出された2つの画像フレームについて、2つの画像フレームの対応する各画素の輝度値を比較する処理手順と、
    輝度値を比較した2つの画像フレームにおける各画素について、輝度値の高い方の画素データをノイズとして除去し、画素データが除去された画素は、輝度値の低い方の画素データを使用して補完するノイズ除去補完処理手順と、
    が実行されることを特徴とする移動物体ノイズ除去処理プログラム。
  10. 請求項1から請求項3のいずれか1に記載の移動物体ノイズ除去処理装置において、
    移動物体は、降雪であって、
    画像フレームを構成する画素の輝度値のデータの総数と、ノイズとして除去された輝度値のデータの数との比較に基づいて、撮像対象の手前の降雪の存在頻度を算出する手段と、
    時間軸に対して降雪の存在頻度をプロットして、単位時間当たりの降雪量の時間的推移を出力する手段と、
    を含むことを特徴とする移動物体ノイズ除去処理装置。
JP2009504041A 2007-03-15 2008-03-10 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム Expired - Fee Related JP4878644B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009504041A JP4878644B2 (ja) 2007-03-15 2008-03-10 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2007066558 2007-03-15
JP2007066558 2007-03-15
PCT/JP2008/054271 WO2008111549A1 (ja) 2007-03-15 2008-03-10 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム
JP2009504041A JP4878644B2 (ja) 2007-03-15 2008-03-10 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2008111549A1 JPWO2008111549A1 (ja) 2010-06-24
JP4878644B2 true JP4878644B2 (ja) 2012-02-15

Family

ID=39759484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009504041A Expired - Fee Related JP4878644B2 (ja) 2007-03-15 2008-03-10 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム

Country Status (4)

Country Link
US (1) US20100141806A1 (ja)
JP (1) JP4878644B2 (ja)
CA (1) CA2680646C (ja)
WO (1) WO2008111549A1 (ja)

Families Citing this family (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011014138A1 (en) * 2009-07-27 2011-02-03 Utc Fire & Security Corporation System and method for video-quality enhancement
JP5855485B2 (ja) * 2012-02-13 2016-02-09 オリンパス株式会社 画像生成装置、画像生成方法、撮像装置、および撮像方法
JP2014010771A (ja) * 2012-07-02 2014-01-20 Toshiba Corp 車両検知装置
DE102012015282B4 (de) * 2012-08-01 2023-03-16 Application Solutions (Electronics and Vision) Ltd. Verfahren zur Detektion eines verdeckten Zustands einer Bilderfassungseinrichtung eines Kraftfahrzeugs, Kamerasystem und Kraftfahrzeug
JP6206732B2 (ja) * 2012-09-27 2017-10-04 パナソニックIpマネジメント株式会社 画像処理装置および画像処理方法
US9380222B2 (en) 2012-12-04 2016-06-28 Symbol Technologies, Llc Transmission of images for inventory monitoring
US10430666B2 (en) * 2013-03-29 2019-10-01 Nec Corporation Target object identifying device, target object identifying method and target object identifying program
JP2015180048A (ja) * 2014-02-25 2015-10-08 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
US10158790B2 (en) 2015-03-20 2018-12-18 Sony Semiconductor Solutions Corporation Image processing apparatus, image processing system, and image processing method
US10352689B2 (en) 2016-01-28 2019-07-16 Symbol Technologies, Llc Methods and systems for high precision locationing with depth values
JP6625446B2 (ja) 2016-03-02 2019-12-25 株式会社神戸製鋼所 外乱除去装置
US11042161B2 (en) 2016-11-16 2021-06-22 Symbol Technologies, Llc Navigation control method and apparatus in a mobile automation system
WO2018204342A1 (en) 2017-05-01 2018-11-08 Symbol Technologies, Llc Product status detection system
US10591918B2 (en) 2017-05-01 2020-03-17 Symbol Technologies, Llc Fixed segmented lattice planning for a mobile automation apparatus
US10949798B2 (en) 2017-05-01 2021-03-16 Symbol Technologies, Llc Multimodal localization and mapping for a mobile automation apparatus
US10663590B2 (en) 2017-05-01 2020-05-26 Symbol Technologies, Llc Device and method for merging lidar data
US10505057B2 (en) 2017-05-01 2019-12-10 Symbol Technologies, Llc Device and method for operating cameras and light sources wherein parasitic reflections from a paired light source are not reflected into the paired camera
US11449059B2 (en) 2017-05-01 2022-09-20 Symbol Technologies, Llc Obstacle detection for a mobile automation apparatus
US11978011B2 (en) 2017-05-01 2024-05-07 Symbol Technologies, Llc Method and apparatus for object status detection
US11367092B2 (en) 2017-05-01 2022-06-21 Symbol Technologies, Llc Method and apparatus for extracting and processing price text from an image set
US10726273B2 (en) 2017-05-01 2020-07-28 Symbol Technologies, Llc Method and apparatus for shelf feature and object placement detection from shelf images
US11600084B2 (en) 2017-05-05 2023-03-07 Symbol Technologies, Llc Method and apparatus for detecting and interpreting price label text
US10572763B2 (en) 2017-09-07 2020-02-25 Symbol Technologies, Llc Method and apparatus for support surface edge detection
US10521914B2 (en) 2017-09-07 2019-12-31 Symbol Technologies, Llc Multi-sensor object recognition system and method
US10740911B2 (en) 2018-04-05 2020-08-11 Symbol Technologies, Llc Method, system and apparatus for correcting translucency artifacts in data representing a support structure
US10809078B2 (en) 2018-04-05 2020-10-20 Symbol Technologies, Llc Method, system and apparatus for dynamic path generation
US10823572B2 (en) 2018-04-05 2020-11-03 Symbol Technologies, Llc Method, system and apparatus for generating navigational data
US10832436B2 (en) 2018-04-05 2020-11-10 Symbol Technologies, Llc Method, system and apparatus for recovering label positions
US11327504B2 (en) 2018-04-05 2022-05-10 Symbol Technologies, Llc Method, system and apparatus for mobile automation apparatus localization
US11010920B2 (en) 2018-10-05 2021-05-18 Zebra Technologies Corporation Method, system and apparatus for object detection in point clouds
US11506483B2 (en) 2018-10-05 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for support structure depth determination
US11003188B2 (en) 2018-11-13 2021-05-11 Zebra Technologies Corporation Method, system and apparatus for obstacle handling in navigational path generation
US11090811B2 (en) 2018-11-13 2021-08-17 Zebra Technologies Corporation Method and apparatus for labeling of support structures
US11079240B2 (en) 2018-12-07 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for adaptive particle filter localization
US11416000B2 (en) 2018-12-07 2022-08-16 Zebra Technologies Corporation Method and apparatus for navigational ray tracing
US11100303B2 (en) 2018-12-10 2021-08-24 Zebra Technologies Corporation Method, system and apparatus for auxiliary label detection and association
US11015938B2 (en) 2018-12-12 2021-05-25 Zebra Technologies Corporation Method, system and apparatus for navigational assistance
US10731970B2 (en) 2018-12-13 2020-08-04 Zebra Technologies Corporation Method, system and apparatus for support structure detection
CA3028708A1 (en) 2018-12-28 2020-06-28 Zih Corp. Method, system and apparatus for dynamic loop closure in mapping trajectories
US11151743B2 (en) 2019-06-03 2021-10-19 Zebra Technologies Corporation Method, system and apparatus for end of aisle detection
US11080566B2 (en) 2019-06-03 2021-08-03 Zebra Technologies Corporation Method, system and apparatus for gap detection in support structures with peg regions
US11402846B2 (en) 2019-06-03 2022-08-02 Zebra Technologies Corporation Method, system and apparatus for mitigating data capture light leakage
US11200677B2 (en) 2019-06-03 2021-12-14 Zebra Technologies Corporation Method, system and apparatus for shelf edge detection
US11341663B2 (en) 2019-06-03 2022-05-24 Zebra Technologies Corporation Method, system and apparatus for detecting support structure obstructions
US11960286B2 (en) 2019-06-03 2024-04-16 Zebra Technologies Corporation Method, system and apparatus for dynamic task sequencing
US11662739B2 (en) 2019-06-03 2023-05-30 Zebra Technologies Corporation Method, system and apparatus for adaptive ceiling-based localization
US11507103B2 (en) 2019-12-04 2022-11-22 Zebra Technologies Corporation Method, system and apparatus for localization-based historical obstacle handling
US11107238B2 (en) 2019-12-13 2021-08-31 Zebra Technologies Corporation Method, system and apparatus for detecting item facings
US11822333B2 (en) 2020-03-30 2023-11-21 Zebra Technologies Corporation Method, system and apparatus for data capture illumination control
US11450024B2 (en) 2020-07-17 2022-09-20 Zebra Technologies Corporation Mixed depth object detection
GB2597671A (en) * 2020-07-29 2022-02-09 Sony Interactive Entertainment Inc Video processing
US11593915B2 (en) 2020-10-21 2023-02-28 Zebra Technologies Corporation Parallax-tolerant panoramic image generation
US11392891B2 (en) 2020-11-03 2022-07-19 Zebra Technologies Corporation Item placement detection and optimization in material handling systems
US11847832B2 (en) 2020-11-11 2023-12-19 Zebra Technologies Corporation Object classification for autonomous navigation systems
US11954882B2 (en) 2021-06-17 2024-04-09 Zebra Technologies Corporation Feature-based georegistration for mobile computing devices

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006109398A1 (ja) * 2005-03-15 2006-10-19 Omron Corporation 画像処理装置および方法、プログラム、並びに記録媒体

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3880759B2 (ja) * 1999-12-20 2007-02-14 富士通株式会社 移動物体検出方法
US7158099B1 (en) * 2003-02-27 2007-01-02 Viisage Technology, Inc. Systems and methods for forming a reduced-glare image
JP4503955B2 (ja) * 2003-08-21 2010-07-14 パナソニック株式会社 固体撮像装置およびカメラ

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006109398A1 (ja) * 2005-03-15 2006-10-19 Omron Corporation 画像処理装置および方法、プログラム、並びに記録媒体

Also Published As

Publication number Publication date
CA2680646C (en) 2014-07-22
US20100141806A1 (en) 2010-06-10
JPWO2008111549A1 (ja) 2010-06-24
WO2008111549A1 (ja) 2008-09-18
CA2680646A1 (en) 2008-09-18

Similar Documents

Publication Publication Date Title
JP4878644B2 (ja) 移動物体ノイズ除去処理装置及び移動物体ノイズ除去処理プログラム
JP6416085B2 (ja) 適用可能な被写界深度を使用するゲーテッド撮像
CN107852465B (zh) 车载环境识别装置
JP4915655B2 (ja) 自動追尾装置
JP5437855B2 (ja) 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
JP3816887B2 (ja) 車両待機行列の長さ測定装置及びその方法
US20060215882A1 (en) Image processing apparatus and method, recording medium, and program
JP2015527761A5 (ja)
WO2019026785A1 (ja) 付着物検出装置、および、それを備えた車両システム
JPH10512694A (ja) 連続画像内での物体の移動を検知する方法及び装置
JP5832910B2 (ja) 画像監視装置
JP2009157087A (ja) 露出制御装置及び露出制御プログラム
KR100820952B1 (ko) 단일 카메라를 이용한 불법 주정차 무인 자동 단속방법 및그 시스템
JP3569163B2 (ja) 移動物体監視装置
JP2004312402A (ja) 道路監視システム,道路監視装置
JP3995671B2 (ja) 画像処理装置
JP5353531B2 (ja) 車両灯火認識装置及びプログラム
JP2004289786A (ja) 撮像装置
JP3853574B2 (ja) 移動体検出システム
JP2002145072A (ja) 踏切障害物検知装置
KR100801989B1 (ko) 번호판 인식 시스템,전처리 장치 및 방법
KR101267279B1 (ko) 영상에서 비를 제거하기 위한 영상 처리 장치 및 방법
JP3736836B2 (ja) 物体検出方法及び物体検出装置及びプログラム
WO2021084818A1 (ja) 物体検出装置、物体検出方法、及び物体検出プログラム
JP2004304303A (ja) 対象物認識装置および対象物認識方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20110304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111128

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141209

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees