JP2012174117A - 移動体検出装置 - Google Patents

移動体検出装置 Download PDF

Info

Publication number
JP2012174117A
JP2012174117A JP2011037225A JP2011037225A JP2012174117A JP 2012174117 A JP2012174117 A JP 2012174117A JP 2011037225 A JP2011037225 A JP 2011037225A JP 2011037225 A JP2011037225 A JP 2011037225A JP 2012174117 A JP2012174117 A JP 2012174117A
Authority
JP
Japan
Prior art keywords
block pixel
power
captured image
block
determination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011037225A
Other languages
English (en)
Other versions
JP5267596B2 (ja
Inventor
Mikio Sasaki
美樹男 笹木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2011037225A priority Critical patent/JP5267596B2/ja
Priority to US13/397,916 priority patent/US8582815B2/en
Publication of JP2012174117A publication Critical patent/JP2012174117A/ja
Application granted granted Critical
Publication of JP5267596B2 publication Critical patent/JP5267596B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/262Analysis of motion using transform domain methods, e.g. Fourier domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20052Discrete cosine transform [DCT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】動きベクトルを用いることなく撮影画像から移動体を検出する
【解決手段】フレームデータを取得する毎に、このフレームデータと、1フレーム前のフレームデータとを差分したフレーム差分画像データ(S40)を、ブロック画素を単位として分割し、ブロック画素毎に離散コサイン変換(DCT)を行うことにより、二次元DCT係数を算出し(S60,S70)、二次元DCT係数を蓄積して記憶する(S100)。そして、二次元DCT係数の各要素の値を配列して特徴ベクトルを構成し、フレーム差分画像データ内における同一位置のブロック画素毎に特徴ベクトルを時系列で並べて時系列ベクトルを生成する(S120)。その後、ブロック画素に移動体が写っている状態で得られる時系列ベクトルのサンプルを主成分分析して得られた主成分ベクトルに、時系列ベクトルを作用させて主成分毎の主成分得点を算出する(S130〜S150)。
【選択図】図2

Description

本発明は、撮影画像から移動体を検出する移動体検出装置に関する。
従来、移動体検出装置としては、カメラの撮影画像に写る歩行者を検出する装置であって、撮影画像のサンプルから動きベクトルを抽出し、動きベクトルに対してパラメトリック固有空間法を適用し固有空間上に投影して得られる参照曲線のデータを予め生成する一方、歩行者検出対象の撮影画像から動きベクトルを抽出し、動きベクトルに対してパラメトリック固有空間法を適用して固有空間上に投影される投影点の情報を得て、この投影点と参照曲線との比較により撮影画像に写る歩行者を検出するものが知られている(特許文献1参照)。
また、撮影画像から特徴点の動きベクトルを算出し、各特徴点の動きベクトルから自車両に接近してくる複数の特徴点のまとまりを接近移動物体として検出し、モニタ上で、撮影画像における接近移動物体の画像領域を強調表示する装置(特許文献2参照)や、各特徴点の動きベクトルから移動ベクトルが略等しい複数の特徴点のまとまりを移動体として検出する装置(特許文献3参照)が知られている。
この他、撮影画像から特徴点を抽出する方法としては、Harris法やKLT(Kanade Lucas Tomasi Tracker)法により特徴点を抽出する方法が知られている。KLT法によれば抽出した特徴点を追跡して特徴点の動きベクトル(オプティカルフロー)を算出することも可能である。
更に、動きベクトルの算出方法としては、勾配法やブロックマッチング法が知られ、これらの技術を利用したものとしては、勾配法に基づき、撮影画像の遠距離に対応する領域の画素の動きベクトルを算出し、ブロックマッチング法に基づき、撮影画像の近距離に対応する領域の画素の動きベクトルを算出するものが知られている(特許文献4参照)。
また、複数の手法を用いて移動体を検出する方法としては、車両が停止していない場合には、ブロックマッチング法により算出した動きベクトルに基づき移動体を検出し、車両が停止している場合には、フレーム間の差分画像に基づき、移動体を検出する方法が知られている(特許文献5参照)。この他、移動体が画面上から消える消失点を検出して、その周囲を解析し移動体を検出するものが知られている(特許文献6参照)。
特開2003−288600号公報 特開2005−123968号公報 特開2005−132170号公報 特開2007−172540号公報 特開2009−146153号公報 特開2009−143385号公報
ところで、本発明者は、車載カメラの撮影画像から、遠方から接近してくる自動車(以下、遠方接近車両という)等の移動体を迅速に検出できるようにすることを考えている。しかし、従来技術では、遠方接近車両における特徴点および動きベクトルを検出できるケースが限られており、フレーム間隔が5フレーム(166ms)以上でないと遠方接近車両の動きベクトルを検出することが困難であった。また、動きベクトルを検出できたとしても、背景の雑音と区別して判断することが困難である場合が多いという問題点があった。
また、動きベクトルを検出する場合には、その演算量が大きいために、ソフトウエアで軽量に実装することが困難であるという問題があった。
本発明は、こうした問題に鑑みてなされたものであり、動きベクトルを用いることなく撮影画像から移動体を検出する技術を提供することを目的とする。
上記目的を達成するためになされた請求項1に記載の発明は、同一の撮影装置を用いて連続して撮影することにより、撮影時刻がそれぞれ異なる複数の撮影画像を取得し、撮影画像内に写る移動体を検出する移動体検出装置であり、まず画像差分手段が、1つの撮影画像を取得すると、この撮影画像と、この撮影画像より前に取得された撮影画像とが差分された画像である差分撮影画像を作成する。そしてDCT係数算出手段が、画像差分手段により作成された差分撮影画像を、予め設定された画素数で構成されたブロック画素を単位として分割し、ブロック画素毎に離散コサイン変換(DCT)を行うことにより、二次元DCT係数を算出し、DCT係数記憶手段が、DCT係数算出手段により二次元DCT係数が算出される毎に、二次元DCT係数を蓄積して記憶する。そして時系列ベクトル生成手段が、DCT係数記憶手段により記憶された二次元DCT係数の各要素の値を配列して特徴ベクトルを構成するとともに、差分撮影画像内における同一位置のブロック画素毎に特徴ベクトルを時系列で並べることにより時系列ベクトルを生成し、主成分分析手段が、ブロック画素に移動体が写っている状態で得られる時系列ベクトルのサンプルを主成分分析して得られた主成分ベクトルに、時系列ベクトル生成手段により生成された時系列ベクトルを作用させて主成分毎の主成分得点を算出する。
このように構成された移動体検出装置では、二次元DCT係数の時系列で構成した特徴ベクトルの主成分分析をブロック画素毎に行う。
ところで、動きのある移動体が撮影画像に写っている場合には、差分撮影画像に移動体の輪郭が現れる。そして、この輪郭がシャープに現れていれば、差分撮影画像に離散コサイン変換(DCT)を行うことにより算出された二次元DCT係数の交流成分が高い値を示す。このため、移動体の検出に差分撮影画像の二次元DCT係数を用いることができる。
そして、ブロック画素に移動体が写っている状態で得られる時系列ベクトルのサンプルを主成分分析して得られた主成分ベクトルに、時系列ベクトル生成手段により生成された時系列ベクトルを作用させると、この時系列ベクトルに対応するブロック画素に移動体が写っている場合に、主成分得点が高い値を示す。このため、主成分得点の大きさに基づいて、ブロック画素に移動体が写っているか否かを判断することができる。
例えば、自動車と二輪車と歩行者のそれぞれについての主成分ベクトルに時系列ベクトルを作用させて、自動車と二輪車と歩行者のそれぞれの主成分得点を算出し、これらの中で最大の主成分得点を有するものがブロック画素に写っていると判断するようにしてもよい。
したがって、請求項1に記載の移動体検出装置により、動きベクトルを用いることなく撮影画像から移動体を検出することができる。
また、請求項1に記載の無線通信装置において、当該移動体検出装置が、車両に搭載され、撮影装置が、車両の前方を撮影し、撮影画像内における水平線の位置である画像内水平線位置が予め設定されている場合には、請求項2に記載のように、交流成分電力算出手段が、DCT係数算出手段により算出された二次元DCT係数における交流成分の和を交流成分電力として、交流成分電力をブロック画素毎に算出し、第1背景判断手段が、撮影画像内において画像内水平線位置よりも上方に位置するブロック画素について、ブロック画素の交流成分電力が、予め設定された上方高電力判定値以上である場合に、ブロック画素は高電力背景であると判断し、第2背景判断手段が、撮影画像内において画像内水平線位置よりも上方に位置するブロック画素について、ブロック画素の交流成分電力が、上方高電力判定値より小さくなるように設定された上方低電力判定値以下である場合に、ブロック画素は低電力背景であると判断し、第3背景判断手段が、撮影画像内において画像内水平線位置よりも下方に位置するブロック画素について、ブロック画素の交流成分電力が、予め設定された下方高電力判定値以上である場合に、ブロック画素は高電力背景であると判断し、第4背景判断手段が、撮影画像内において画像内水平線位置よりも下方に位置するブロック画素について、ブロック画素の交流成分電力が、下方高電力判定値より小さくなるように設定された下方低電力判定値以下である場合に、ブロック画素は低電力背景であると判断し、候補領域設定手段が、撮影画像内における画像内水平線位置の周辺に位置し、且つ、第1,2,3,4背景判断手段により高電力背景または低電力背景であると判断されなかったブロック画素により構成される撮影画像内の領域を遠方移動体候補領域として設定し、主成分分析禁止手段が、候補領域設定手段により設定された遠方移動体候補領域外のブロック画素について、主成分分析手段による主成分得点算出処理の実行を禁止するようにしてもよい。
なお、上記の画像内水平線位置は、撮影装置の取り付け位置、撮影装置の取り付け姿勢、および撮影装置の光学特性によって決定される。
このように構成された移動体検出装置では、第1背景判断手段が、画像内水平線位置よりも上方に位置し、且つ、交流成分電力が上方高電力判定値以上であるブロック画素を、「ビルまたは電柱などに起因する高電力背景」であると判断する。また第2背景判断手段が、画像内水平線位置よりも上方に位置し、且つ、交流成分電力が上方低電力判定値以下であるブロック画素を、「空などに起因する低電力背景」であると判断する。また第3背景判断手段が、画像内水平線位置よりも下方に位置し、且つ、交流成分電力が下方高電力判定値以上であるブロック画素を、「道路の白線または砂利などに起因する高電力背景」であると判断する。また第4背景判断手段が、画像内水平線位置よりも下方に位置し、且つ、交流成分電力が下方低電力判定値以下であるブロック画素を、「道路などに起因する低電力背景」であると判断する。
そして、画像内水平線位置の周辺で、且つ、第1,2,3,4背景判断手段により高電力背景または低電力背景であると判断されなかったブロック画素により構成される撮影画像内の領域は、当該移動体検出装置が搭載された車両(以下、自車両という)の遠方において移動体が存在する可能性がある領域(遠方移動体候補領域)として設定する。これにより、遠方移動体候補領域外のブロック画素について、主成分分析が実行されないようにすることができる。
このように構成された移動体検出装置によれば、自車両の遠方から接近する移動体の検出に主成分分析を用いる場合に、撮影画像内の全ブロック画素について主成分分析を実行することがなくなり、移動体検出装置の演算処理負荷を低減することができる。
また、請求項1または請求項2に記載の移動体検出装置では、請求項3に記載のように、移動体判断手段が、主成分分析手段により算出された主成分得点の大きさに基づいて、ブロック画素に移動体が写っているか否かを判断し、移動度算出手段が、移動体判断手段による判断が行われたブロック画素を含む撮影画像と、撮影画像より前に取得された撮影画像とを用いて、ブロック画素内に写っている移動体について、撮影画像における水平方向への移動度である水平移動度と、撮影画像における垂直方向への移動度である垂直移動度とを算出し、移動体判断修正手段が、移動体が写っていると移動体判断手段により判断されたブロック画素について、移動度算出手段により算出された垂直移動度が予め設定された垂直移動体判定値より大きく、且つ、移動度算出手段により算出された水平移動度が予め設定された水平移動体判定値より小さい場合には、ブロック画素に移動体が写っていないと判断するようにしてもよい。
すなわち、自車両の前方を撮影するように取り付けられた撮影装置が、自車両の走行中に撮影を行うと、撮影画像内に写っている静止物は、撮影画像内において、水平方向にはほとんど移動することなく、垂直方向には、自車両の走行速度に応じて移動するとの考えに基づいて、静止物であるか否かの判断を行う。
このように構成された請求項3に記載の移動体検出装置によれば、撮影画像内に写っている静止物が、主成分分析により移動体であると誤って判断された場合に、その判断を修正することができる。
また、請求項3に記載の移動体検出装置において、請求項4に記載のように、移動度算出手段は、移動体が写っていると移動体判断手段により判断されたブロック画素を判断対象ブロック画素とし、判断対象ブロック画素を含む撮影画像より前に取得された撮影画像内において、判断対象ブロック画素の水平方向に位置するブロック画素のうち判断対象ブロック画素の交流成分電力と同じ値を有するブロック画素を水平同電力ブロック画素とし、撮影画像内における判断対象ブロック画素と水平同電力ブロック画素との間の距離に基づいて、水平移動度を算出するようにしてもよい。
また、請求項3または請求項4に記載の移動体検出装置において、請求項5に記載のように、移動度算出手段は、判断対象ブロック画素を含む撮影画像より前に取得された撮影画像内において、判断対象ブロック画素の垂直方向に位置するブロック画素のうち判断対象ブロック画素の交流成分電力と同じ値を有するブロック画素を垂直同電力ブロック画素とし、撮影画像内における判断対象ブロック画素と垂直同電力ブロック画素との間の距離に基づいて、垂直移動度を算出するようにしてもよい。
このように構成された請求項4または請求項5に記載の移動体検出装置によれば、ブロック画素の交流成分電力という既に算出された値を用いるとともに、判断対象ブロック画素の水平方向または垂直方向に沿って位置するブロック画素のみを探索するという方法で、簡便に水平移動度および垂直移動度を算出することができる。
また、請求項2〜請求項5の何れか1項に記載の移動体検出装置において、請求項6に記載のように、高電力ブロック判断手段が、撮影画像内のブロック画素の交流成分電力が、予め設定された高電力判定値以上か否かを判断し、候補領域外判断手段が、交流成分電力が高電力判定値以上であると高電力ブロック判断手段により判断されたブロック画素が、候補領域設定手段により設定された遠方移動体候補領域外に位置しているか否かを判断し、近距離ブロック判断手段が、候補領域外判断手段により遠方移動体候補領域外に位置していると判断されたブロック画素が、車両から近距離に位置するものが撮影されるブロック画素であるか否かを判断し、水平移動度算出手段が、車両から近距離に位置するブロック画素であると近距離ブロック判断手段により判断されたブロック画素を高電力近距離ブロック画素として、高電力近距離ブロック画素を含む撮影画像と、この撮影画像より前に取得された撮影画像とを用いて、高電力近距離ブロック画素について、撮影画像における水平方向への移動度である水平移動度を算出し、高電力移動体判断手段が、高電力近距離ブロック画素について、移動度算出手段により算出された水平移動度が予め設定された水平移動体判定値以上である場合には、高電力近距離ブロック画素に移動体が写っていると判断するようにしてもよい。
すなわち、ブロック画素の交流成分電力が高い値を示しており、動きのある移動体がブロック画素に写っていると考えられる場合に、移動体であれば、撮影画像内において水平方向に移動するとの考えに基づいて、移動体であるか否かの判断を行う。
なお、車両から近距離に位置するブロック画素であるか否かを近距離ブロック判断手段が判断する方法として、例えば、撮影画像内において画像内水平線位置よりも下方に位置する領域のうち、予め設定された領域を近距離判定領域とし、この近距離判定領域内に位置するブロック画素が、車両から近距離に位置するものであると判断する方法が挙げられる。
このように構成された請求項6に記載の移動体検出装置によれば、自車両の遠方から接近する移動体を検出することに加えて、近距離から接近する移動体も検出することができる。
移動体検出装置1の構成を表すブロック図である。 移動体検出処理の前半部分を示すフローチャートである。 移動体検出処理の後半部分を示すフローチャートである。 遠方移動体候補領域特定処理を示すフローチャートである。 遠方移動体候補領域RFと近・中距離監視領域RNを示す図である。 遠方移動体候補領域RFの設定手順を示す図である。 撮影画像を示す図と、交流成分電力の空間分布を示すヒストグラムである。
以下に本発明の実施形態を図面とともに説明する。
図1は、本発明が適用された移動体検出装置1の構成を表すブロック図である。
移動体検出装置1は、自動車等の車両に搭載されて使用されるものであり、カメラ10と、位置検出器20と、表示装置30と、記憶装置40と、解析ユニット50とを備える。
これらのうちカメラ10は、車両前方を広い範囲で撮影可能な広角カメラで構成され、フレームデータ(静止画像データ)の列により構成される動画データを、撮影画像を表すデータとして出力する。
また位置検出器20は、GPS衛星からの衛星信号を受信するGPS受信機、車輪の回転から自車の走行距離を検出する距離センサおよび方位センサ等のセンサ類の複数により構成され、これらセンサ類から得られる信号に基づき、自車の位置および進行方位を検出する。
また表示装置30は、車両の運転席近傍に取り付けられ、各種情報を車両運転者に提供するものであり、例えば、液晶ディスプレイで構成される。
また記憶装置40は、カメラ10の撮影画像から移動体を検出するのに必要な各種データを記憶するものである。
また解析ユニット50は、各種演算処理を実行してカメラ10の撮影画像に写る移動体を検出するものである。この解析ユニット50は、例えば、専用回路にて構成される。この他、解析ユニット50は、CPU51、ROM53およびRAM55等を備え、ソフトウエアにより移動体の検出に必要な処理を実行する構成にされてもよい。すなわち、解析ユニット50は、ROM53が記憶するプログラムに基づく演算処理をCPU51が実行することにより、移動体検出に係る機能を実現する構成にすることができる。
このように構成された移動体検出装置1において、解析ユニット50は、自車両の遠方に存在する移動体を検出する移動体検出処理を実行する。
ここで、移動体検出装置1の解析ユニット50が実行する移動体検出処理の手順を、図2および図3を用いて説明する。図2は移動体検出処理の前半部分を示すフローチャート、図3は移動体検出処理の後半部分を示すフローチャートである。この移動体検出処理は、解析ユニット50にフレームデータが入力する度に実行される処理である。
この移動体検出処理が実行されると、解析ユニット50は、まずS10にて、今回入力したフレームデータのフレーム番号を示す変数kf(以下、フレーム番号変数kfという)が0であるか否かを判断する。フレーム番号は、カメラ10が出力するフレームデータを識別するための番号であり、出力された時刻が早い順に0,1,2,3,・・・の値が各フレームデータに付される。以下、フレーム番号がkf(kfは0以上の整数)であるフレームデータをフレームデータFD(kf)と表記する。
ここで、フレーム番号変数kfが0である場合には(S10:YES)、移動体検出処理を一旦終了する。一方、フレーム番号変数kfが0でない場合には(S10:NO)、S20にて、フレーム番号変数kfが1であるか否かを判断する。ここで、フレーム番号変数kfが1である場合には(S10:YES)、S40に移行する。一方、フレーム番号変数kfが1でない場合には(S20:NO)、S30にて、遠方移動体候補領域特定処理(後述)を実行し、S40に移行する。
そしてS40に移行すると、前回入力されたフレームデータFD(kf−1)および今回入力したフレームデータFD(kf)に基づいて、これらのフレーム差分画像を表すフレーム差分画像データを作成する。以下、フレーム番号がkfのフレームデータと、フレーム番号が(kf−1)のフレームデータとのフレーム差分画像を表すフレーム差分画像データをフレーム差分画像データFDD(kf)と表記する。
その後S50にて、ブロック画素番号を表す変数kbの値を0に設定する。さらにS60にて、フレーム差分画像におけるkb番目のブロック画素を処理対象ブロック画素に選択する。なお、ここでは、フレーム差分画像全体を縦横8画素単位で分割して得られる8×8画素のブロックを、ブロック画素の単位として、フレーム差分画像全体を構成するK個のブロック画素の内、kb番目のブロック画素を処理対象ブロック画素に選択する。以下、フレーム差分画像データFDD(kf)におけるkb番目のブロック画素をブロック画素BLK(kf,kb)と表記する。
そしてS70にて、フレーム差分画像データFDD(kf)における処理対象ブロック画素BLK(kf,kb)に対応する領域を離散コサイン変換(DCT)することにより、8×8個の配列からなる二次元DCT係数を算出する。以下では、ブロック画素BLK(kf,kb)における二次元DCT係数の各要素の値を配列Cd[kf,kb,i,j]で表現し、二次元DCT係数の直流成分を第0行第0列の要素の値Cd[kf,kb,0,0]で表現する。なお、i,jは、0から7までの値を採る。
その後S80にて、処理対象ブロック画素BLK(kf,kb)の二次元DCT係数に基づき、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)を、下式(1)に従って算出する。
すなわち、ブロック画素BLK(kf,kb)における二次元DCT係数の交流成分(絶対値)の和を、交流成分電力ACP(kf,kb)として算出する。
次にS90にて、交流成分電力ACP(kf,kb)の大きさに基づいて、例えば以下に示すように、交流成分電力ACP(kf,kb)が大きくなるほど、クラスの値が大きくなるように、クラス判定を行う。
クラス0: 100>ACP≧0
クラス1: 200>ACP≧100
クラス2: 500>ACP≧200
クラス3: 1000>ACP≧500
クラス4: 3000>ACP≧1000
クラス5: ACP≧3000
またS100にて、S70にて算出された二次元DCT係数を、記憶装置40に記憶する。そしてS110にて、処理対象ブロック画素BLK(kf,kb)が主成分分析候補領域内に含まれているか否かを判断する。なお主成分分析候補領域は、図5に示すように、S30の処理で特定された遠方移動体候補領域RFと、自車両前方で自車両から近距離または中距離に位置する領域において予め設定された領域RN(以下、近・中距離監視領域RNという)とから構成される。
ここで、主成分分析候補領域内に含まれている場合には(S110:YES)、S120にて、記憶装置40に記憶された二次元DCT係数を用いて、kb番目のブロック画素についての時系列ベクトルxkbを生成する。なお時系列ベクトルxkbは、kb番目のブロック画素の二次元DCT係数を示す特徴ベクトルを時系列で並べて構成したものである。
ここで、ブロック画素における二次元DCT係数の各要素の値をzn1,zn2,zn3,・・・,znPとする。なお、Pはブロック画素の画素数(8×8=64)である。また、ブロック画素における二次元DCT係数の各要素の値を配列Cd[i,j]で表現すると(i,jは、0から7までの値)、二次元DCT係数の各要素の値zns(sは1からPまでの整数)は下式(2)で表される。
二次元DCT係数は本来8行8列の配列であるが、ここでは、各二次元DCT係数を64次元の列ベクトルに置き換えている。
また、n番目(nは0以上の整数)のブロック画素についての二次元DCT係数を示す特徴ベクトルznは、下式(3)で表される。
すなわち、特徴ベクトルznは、8行8列で配列されている二次元DCT係数を64次元の列ベクトルに置き換えたものである。
そして、ブロック画素BLK(kf,kb)についての二次元DCT係数を示す特徴ベクトルをzkb,kfで表現すると、kb番目のブロック画素についての時系列ベクトルxkbは、下式(4)で表される。なお、下式(4)の「M」は、時系列ベクトルを構成するためのフレームデータの数である。
すなわち、S120では、最新のM個(Mは予め設定された値。本実施形態では、例えば10)のフレームデータについて、kb番目のブロック画素の二次元DCT係数を示す特徴ベクトル(列ベクトル)を、時系列に合わせて列方向に配列することにより、時系列ベクトルxkbを生成する。
そしてS130にて、S120で生成した時系列ベクトルxkbについて、自動車の成分に関する主成分分析(PCA)を行う。具体的には、時系列ベクトルxkbを、記憶装置40が記憶する第1から第H(例えばH=3)主成分ベクトルQ1,…,QHに作用させ、主成分毎の主成分得点fを算出する。ここで、第h主成分の主成分得点をfhで表現すると、時系列ベクトルxkbについて、主成分得点fhおよびその総和PCAは、下式(5)で算出される。以下、総和PCAを電力評価値PCAという。
尚、記憶装置40が記憶する主成分ベクトルQ1〜QHは、ブロック画素に自動車が写っている状態で得られる時系列ベクトルのサンプルを収集し、これらのサンプルを主成分分析して得られた主成分ベクトルであり、第h主成分ベクトルQhは、時系列ベクトルのNx(>>H)個のサンプルから得られた共分散行列の固有値・固有ベクトルを算出して得られる固有ベクトルであって、固有値の大きい順に数えてh番目の固有ベクトルに対応する。このことについては主成分分析の基本的な事柄であるため、これ以上の説明は省略する。
その後S140にて、S120で生成した時系列ベクトルxkbについて、S130と同様にして、二輪車の成分に関する主成分分析(PCA)を行い、電力評価値PCAを算出する。但し、S140では、ブロック画素に二輪車が写っている状態で得られる時系列ベクトルのサンプルを収集し、これらのサンプルを主成分分析して得られた主成分ベクトルを用いて、主成分分析を行う。
さらにS150にて、S120で生成した時系列ベクトルxkbについて、S130と同様にして、歩行者の成分に関する主成分分析(PCA)を行い、電力評価値PCAを算出する。但し、S150では、ブロック画素に歩行者が写っている状態で得られる時系列ベクトルのサンプルを収集し、これらのサンプルを主成分分析して得られた主成分ベクトルを用いて、主成分分析を行う。
そしてS160にて、S130〜S150の処理で算出された電力評価値PCAを用いて、自動車と二輪車と歩行者のそれぞれについての評価関数PCACPを下式(6),(7)、(8)に基づいて算出する。ここで、sign[x]は、x>1のときに1、X=0のときに0、x<0のときに−1の値をとる関数である。max(a,b)は、a≧bのときにa、a<bのときにbの値をとる関数である。ClassACPは、処理対象ブロック画素BLK(kf,kb)についてS90の処理で判定されたクラス(以下、ACPクラスともいう)の値である。αは適当なスケール定数である。
なお本実施形態では、α=1,classFAR=2,ACPth(2)=500,PCAth(2)=15.0に設定されている。
次にS170にて、S160で算出された評価関数PCACPに基づいて、処理対象ブロック画素BLK(kf,kb)のインデキシングを行い、S200に移行する。具体的には、自動車と二輪車と歩行者のそれぞれの評価関数PCACPのうち、値が最も大きいものに対応するインデックスを付与する。例えば、自動車と二輪車と歩行者の評価関数PCACPのうち、自動車の評価関数PCACPが最も大きい場合には、処理対象ブロック画素BLK(kf,kb)に対して、自動車を示す「5」のインデックスを付与する。なお、二輪車と歩行者のインデックスはそれぞれ、「6」,「7」である。但し、自動車と二輪車と歩行者の評価関数PCACPのうち最大の評価関数PCACPの値が、予め設定された低電力背景判定値未満である場合には、処理対象ブロック画素BLK(kf,kb)に対して、低電力背景を示す「0」のインデックスを付与する。
またS110にて、主成分分析候補領域内に含まれていない場合には(S110:NO)、S180にて、処理対象ブロック画素BLK(kf,kb)が、自車両前方で自車両から近距離の領域に位置し、且つ、S90の処理でクラス4またはクラス5(すなわち、高電力背景)と判定されているか否かを判断する。ここで、近距離の高電力背景である場合には(S180:YES)、S200に移行する。一方、近距離の高電力背景でない場合には(S180:NO)、S190にて、S90の処理で判定されたクラス(以下、電力クラスともいう)に基づいて、処理対象ブロック画素BLK(kf,kb)のインデキシングを行い、S250に移行する。具体的には、電力クラスが0の場合には、低電力背景を示す「0」のインデックスを付与する。電力クラスが1の場合には、低電力背景を示す「1」のインデックスを付与する。電力クラスが2,3の場合には、その他を示す「8」のインデックスを付与する。電力クラスが4,5の場合には、高電力背景を示す「9」のインデックスを付与する。
そしてS200に移行した場合には、処理対象ブロック画素BLK(kf,kb)が、低電力背景を示すインデックス(すなわち、0,1)を付与されているか否かを判断する。ここで、低電力背景を示すインデックスが付与されている場合には(S200:YES)、S250に移行する。
一方、低電力背景を示すインデックスが付与されていない場合には(S200:NO)、S210にて、処理対象ブロック画素BLK(kf,kb)の水平方向の移動度(以下、水平移動度という)を算出する。具体的には、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)と同じ大きさの交流成分電力を有するブロックが、1フレーム前の処理対象ブロック画素BLK(kf−1,kb)の水平方向近傍(例えば、水平方向に10ブロック画素以内の距離)に存在する場合に、このブロックと処理対象ブロック画素BLK(kf,kb)との間の距離から水平移動度を算出する。例えば、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)が、1フレーム前の交流成分電力ACP(kf−1,kb−kH)と同じ大きさである場合に、水平移動度をkHとする。但し、同じ大きさの交流成分電力ACPが存在しない場合には、水平移動度を0とする。
次にS220にて、S210と同様にして、処理対象ブロック画素BLK(kf,kb)の垂直方向の移動度(以下、垂直移動度という)を算出する。具体的には、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)と同じ大きさの交流成分電力を有するブロックが、1フレーム前の処理対象ブロック画素BLK(kf−1,kb)の垂直方向近傍(例えば、垂直方向に10ブロック画素以内の距離)に存在する場合に、このブロックと処理対象ブロック画素BLK(kf,kb)との間の距離から垂直移動度を算出する。例えば、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)が、1フレーム前の交流成分電力ACP(kf−1,kb−LH×kV)と同じ大きさである場合に(LHは、水平方向のブロック画素数であり、例えば、640×480画素の画像について8×8画素ブロックを想定する場合には、LH=640/8=80となる)、垂直移動度をkVとする。但し、同じ大きさの交流成分電力ACPが存在しない場合には、垂直移動度を0とする。
その後S230にて、S210とS220の処理で算出した水平移動度と垂直移動度とに基づいて、移動体または静止物の判定を行う。具体的には、S210の処理で算出した水平移動度が予め設定された移動体判定値以上である場合には、処理対象ブロック画素BLK(kf,kb)は移動体であると判定する。一方、S220の処理で算出した垂直移動度が0より大きく、且つ、S210の処理で算出した水平移動度が移動体判定値未満である場合には静止物であると判定する。
次に、S230での判定結果に基づいて、インデックスの修正を行い、S250に移行する。具体的には、移動体を示すインデックス(すなわち、5,6,7)をS170の処理で付与されていた処理対象ブロック画素BLK(kf,kb)が、S230にて静止物と判定された場合には、高電力背景を示す「9」のインデックスを付与する。また、S180の処理で近距離の高電力背景と判定されていた処理対象ブロック画素BLK(kf,kb)が、S230にて移動体と判定された場合には、近距離移動体を示す「4」のインデックスを処理対象ブロック画素BLK(kf,kb)に付与する。また、その他の場合には、インデックスの修正を行わない。
そしてS250に移行すると、1フレーム中の全ブロック画素についてインデキシングが完了したか否かを判断する。ここで、全ブロック画素についてインデキシングが完了していない場合には(S250:NO)、S260にて、ブロック画素番号を表す変数kbの値をインクリメント(1加算)して、S60に移行し、上述の処理を繰り返す。一方、全ブロック画素についてインデキシングが完了した場合には(S250:YES)、S270にて、1フレーム中において、移動体を示すインデックス(すなわち、4,5,6,7)が付与されたブロック画素が移動体であることを示す表示を表示装置30に行わせて、移動体検出処理を一旦終了する。
次に、S30で実行される遠方移動体候補領域特定処理の手順を図4を用いて説明する。図4は遠方移動体候補領域特定処理を示すフローチャートである。
この遠方移動体候補領域特定処理が実行されると、解析ユニット50は、まずS310にて、前回フレームデータが入力したときに算出された交流成分電力ACP(kf,kb)について、フレームデータにより構成される表示画面全体の和(以下、交流成分電力和AAC(kf)という)を算出する。
そしてS320にて、S310で算出された交流成分電力和AAC(kf)が、予め設定された停止・徐行モード判定値AACstop以下であるか否かを判断する。ここで、交流成分電力和AAC(kf)が停止・徐行モード判定電力値AACstop以下である場合には(S320:YES)、S330にて、停止・徐行モードを実行して、S340に移行する。停止・徐行モードは、自車両が停止または徐行しているときに移動体を検出するモードである。なお、自車両の停止・徐行時には基本的に、移動体以外の背景に大きな交流成分電力が発生しない。このため、停止・徐行モードでは、交流成分電力の判定のみで移動体の検出を行うことが可能であるが、詳細な説明は省略する。一方、交流成分電力和AAC(kf)が停止・徐行モード判定値AACstopより大きい場合には(S320:NO)、S340に移行する。
そしてS340に移行すると、前回フレームデータが入力したときに算出された交流成分電力ACP(kf,kb)に基づいて、フレームデータにより構成される表示画面における空領域を判定する。具体的には、カメラの取り付け位置姿勢および光学特性で決定される水平線(図7(a)の水平線HZを参照)の上方において、交流成分電力ACP(kf,kb)が、予め設定された空領域判定電力値ACPskyより小さい場合に、kb番目のブロック画素は空であると判定し、空であることを示すインデックスとして例えば「0」をkb番目のブロック画素に割り当てる。
またS350にて、前回フレームデータが入力したときに算出された交流成分電力ACP(kf,kb)に基づいて、フレームデータにより構成される表示画面における水平線上方の高電力背景を判定する。具体的には、上記水平線の上方において、交流成分電力ACP(kf,kb)が、予め設定された高電力背景判定電力値ACPhighより大きい場合に、kb番目のブロック画素は、ビルおよび電柱などに起因する高電力背景であると判定し、高電力背景であることを示すインデックスとして例えば「9」をkb番目のブロック画素に割り当てる。
次にS360にて、フレームデータにより構成される表示画面における水平線下方(すなわち、近距離領域)の移動体を判定する。具体的には、以下に説明する「インデックス伝播処理」と「近距離移動体ブロックのクラスタリング処理」の処理を行う。
まず、「インデックス伝播処理」では、水平線下方において、近距離移動体を示すインデックス(すなわち、4)が付与されたブロック画素が、移動体を示すインデックス(すなわち、5,6,7)が付与された近・中距離監視領域RNに隣接または近接(近接とみなす距離範囲は経験的に設定する)する場合に、近距離移動体を示すインデックスが付与されていたブロック画素のインデックスを、近・中距離監視領域RNに付与されているインデックスの値に変更する。
次に、「近距離移動体ブロックのクラスタリング処理」では、「4」,「5」,「6」,「7」のインデックスが付与されたブロック画素(以下、移動体インデックス付与ブロック画素という)を区別することなく扱い、隣接または近接する移動体インデックス付与ブロック画素を含むように、予め設定された距離範囲でクラスタリングする。そして、このクラスター内で、移動体インデックス付与ブロック画素の個数が、予め設定された近移動体判定値(本実施形態では、例えば8)以上である場合に、このクラスター内に、近距離移動体が存在すると判定する。
なお、インデックスが付与されたブロック画素で形成される移動体領域が歩行者、自動車、二輪車の何れであるのかを判別することは、領域重心の移動軌跡、および、本実施形態で記載していない新たな画像特徴量に経験則を適用することで或る程度可能と見られるが、詳細な説明は省略する。
その後S370にて、S360の処理での判定結果に基づいて、近距離の移動体が存在するか否かを判断する。ここで、近距離の移動体が存在すると判断した場合には(S370:YES)、S380にて、近距離モードを実行して、S390に移行する。近距離モードは、検出した近距離移動体の追尾と警告動作を実行するモードであるが、詳細な説明は省略する。一方、近距離の移動体が存在しないと判断した場合には(S370:NO)、S390に移行する。
そしてS390に移行すると、フレームデータにより構成される表示画面における水平線下方(近・中距離領域)の道路を判定する。具体的には、交流成分電力ACP(kf,kb)が、予め設定された道路判定電力値ACPgroundより小さい場合に、kb番目のブロック画素は道路であると判定し、道路であることを示すインデックスとして例えば「1」をkb番目のブロック画素に割り当てる。
さらにS400にて、フレームデータにより構成される表示画面における水平線下方(近距離領域)の高電力背景を判定する。具体的には、交流成分電力ACP(kf,kb)が、予め設定された高電力背景判定電力値ACPhighより大きい場合に、kb番目のブロック画素は、白線および砂利等に起因する高電力背景であると判定し、高電力背景であることを示すインデックスとして例えば「9」をkb番目のブロック画素に割り当てる。
そして、以下に説明するS410〜S470の処理で、S340,S350,S360,S390,S400の処理においてインデックスが割り当てられなかった領域を、遠方の移動体が存在する可能性がある領域(以下、遠方移動体候補領域RFという)として設定する。具体的には、以下に示す手順で遠方移動体候補領域RFを設定する。
まずS410にて、図6(a)に示すように、「下方の低電力背景である道路と水平線の接合部」に位置づけられるブロックで構成される線分LHfar(以下、水平方向初期線分LHfarともいう)を設定する。なお、線分LHfarの両端位置は、以下の手順で設定される。まず、線分LHfarの長さを予め設定された初期値に設定する。そして、線分LHfarが長くなるように、線分LHfarの両端の位置を1ブロック画素単位で水平方向へ移動させる。そして、線分LHfarの両端のそれぞれについて、端点でのブロック画素の交流成分電力ACPが上記の高電力背景判定電力値ACPhighを超えた時点で水平方向への移動を停止し、この1ブロック画素前の点を線分LHfarの端点の位置とする。
次にS420にて、線分LHfarを1ブロック画素単位で画面垂直上方向に平行移動させる。そして1回の平行移動毎に、線分LHfarが通るブロック画素について交流成分電力ACPの最大値を算出する。この最大値が、上記の空領域判定電力値ACPskyまたは高電力背景判定電力値ACPhighを超えた時点で画面垂直上方向への移動を停止し、このときの線分LHfarの垂直方向の位置を、遠方移動体候補領域RFの上端位置YUfarとして決定する。
その後S430にて、線分LHfarを1ブロック画素単位で画面垂直下方向に平行移動させる。そして1回の平行移動毎に、線分LHfarが通るブロック画素について交流成分電力ACPの最大値を算出する。この最大値が、上記の高電力背景判定電力値ACPhighを超えた時点で画面垂直下方向への移動を停止し、このときの線分LHfarの垂直方向の位置を、遠方移動体候補領域RFの下端位置YDfarとして決定する。
次にS440にて、図6(b)に示すように、水平方向初期線分LHfarの中心位置を、水平方向初期線分LHfarに対して垂直に通る線分LVfar(以下、垂直方向初期線分LVfarともいう)を設定する。なお、線分LVfarの両端位置は、以下の手順で設定される。まず、線分VHfarの長さを予め設定された初期値に設定する。そして、線分LVfarが長くなるように、線分LVfarの両端の位置を1ブロック画素単位で垂直方向へ移動させる。そして、線分LVfarの両端のそれぞれについて、端点でのブロック画素の交流成分電力ACPが上記の高電力背景判定電力値ACPhighを超えた時点で垂直方向への移動を停止し、この1ブロック画素前の点を線分LVfarの端点の位置とする。
その後S450にて、線分LVfarを1ブロック画素単位で画面水平左方向に平行移動させる。そして1回の平行移動毎に、線分LVfarが通るブロック画素について交流成分電力ACPの最大値を算出する。この最大値が、上記の空領域判定電力値ACPskyまたは高電力背景判定電力値ACPhighを超えた時点で画面水平左方向への移動を停止し、このときの線分LVfarの水平方向の位置を、遠方移動体候補領域RFの左端位置XLfarとして決定する。
さらにS460にて、線分LVfarを1ブロック画素単位で画面水平右方向に平行移動させる。そして1回の平行移動毎に、線分LVfarが通るブロック画素について交流成分電力ACPの最大値を算出する。この最大値が、上記の空領域判定電力値ACPskyまたは高電力背景判定電力値ACPhighを超えた時点で画面水平右方向への移動を停止し、このときの線分LVfarの水平方向の位置を、遠方移動体候補領域RFの右端位置XRfarとして決定する。
そしてS470にて、図6(c)に示すように、左上端の座標を(XLfar,YUfar)とし、右下端の座標を(XRfar,YDfar)とした矩形領域を、遠方移動体候補領域RFとして設定し、遠方移動体候補領域特定処理を終了する。
図7(a)は、自車両が道路を走行しているときに移動体が自車両の前方から接近している場合の撮影画像である。図7(b)は、図7(a)に示す撮影画像における交流成分電力の空間分布を示すヒストグラムである。
図7(a)に示すように、水平線HZの下方の高電力背景として「道路の白線または砂利」が、水平線HZの上方の高電力背景として「ビル」、水平線HZの上方の低電力背景として「空」が、撮影画像内に写っている。そして、水平線HZの周囲において、高電力背景でも低電力背景でもない領域に遠方移動体候補領域RFが設定される。
また、図7(b)に示すように、水平線HZの下方に相当するヒストグラム右側において交流成分電力が高い値を示し(図7(b)中の「高電力背景」を参照)、水平線HZの上方に相当するヒストグラム左側において交流成分電力が低い値を示し(図7(b)中の「低電力背景」を参照)、これらの間に遠方移動体候補領域RFが設定される。
このように構成された移動体検出装置1では、1つのフレームデータを取得すると、このフレームデータと、このフレームデータより1フレーム前に取得されたフレームデータとが差分されたフレーム差分画像データを作成する(S40)。そして、作成されたフレーム差分画像データを、縦横8画素で構成されたブロック画素を単位として分割し、ブロック画素毎に離散コサイン変換(DCT)を行うことにより、8×8個の配列からなる二次元DCT係数を算出し(S60,S70)、二次元DCT係数が算出される毎に、二次元DCT係数を記憶装置40に蓄積して記憶する(S100)。そして、記憶装置40に記憶された二次元DCT係数の各要素の値を配列して特徴ベクトルを構成するとともに、フレーム差分画像データ内における同一位置のブロック画素毎に特徴ベクトルを時系列で並べることにより時系列ベクトルxkbを生成する(S120)。その後、ブロック画素に移動体(自動車、二輪車、歩行者)が写っている状態で得られる時系列ベクトルのサンプルを主成分分析して得られた主成分ベクトルに、時系列ベクトルxkbを作用させて主成分毎の主成分得点fhを算出する(S130,S140,S150)。
そして、この時系列ベクトルxkbに対応するブロック画素に移動体(自動車、二輪車、歩行者)が写っている場合に、主成分得点fhが高い値を示す。このため、主成分得点fhの大きさに基づいて、ブロック画素に移動体(自動車、二輪車、歩行者)が写っているか否かを判断することができる。
本実施形態では、自動車と二輪車と歩行者のそれぞれについての第1から第H(例えばH=3)主成分ベクトルQ1,…,QHに時系列ベクトルxkbを作用させることにより得られた主成分得点fhを用いて評価関数PCACPを算出し(S160)、自動車と二輪車と歩行者の中で、評価関数PCACPが最大となるものがブロック画素に写っていると判断する(S170)。
したがって、移動体検出装置1により、動きベクトルを用いることなく撮影画像から移動体を検出することができる。
また、二次元DCT係数における交流成分の和である交流成分電力ACPをブロック画素毎に算出し(S80)、フレームデータ内において水平線HZよりも上方に位置するブロック画素について、交流成分電力ACPが高電力背景判定電力値ACPhighより大きい場合に、ブロック画素は高電力背景であると判断するとともに(S350)、空領域判定電力値ACPskyより小さい場合に、ブロック画素は低電力背景であると判断する(S340)。さらに、フレームデータ内において水平線HZよりも下方に位置するブロック画素について、交流成分電力ACPが高電力背景判定電力値ACPhighより大きい場合に、ブロック画素は高電力背景であると判断するとともに(S400)、交流成分電力ACPが道路判定電力値ACPgroundより小さい場合に、ブロック画素は低電力背景であると判断する(S390)。
そして、上記S340,S350,S390,S400の処理で高電力背景または低電力背景であると判断されなかったブロック画素により構成されるフレームデータ内の領域を遠方移動体候補領域RFとして設定し(S410〜S470)、遠方移動体候補領域RF外のブロック画素について、主成分得点fhを算出する処理の実行を禁止する(S110)。
これにより、自車両の遠方から接近する移動体の検出に主成分分析を用いる場合に、フレームデータ内の全ブロック画素について主成分分析を実行することがなくなり、移動体検出装置1の演算処理負荷を低減することができる。
また、主成分得点fhを用いて算出された評価関数PCACPの大きさに基づいて、ブロック画素に移動体が写っているか否かを判断し(S170)、このブロック画素を含むフレームデータと、このフレームデータより1フレーム前に取得されたフレームデータとを用いて、ブロック画素内に写っている移動体について、フレームデータにおける水平方向への移動度(水平移動度)と垂直方向への移動度(垂直移動度)とを算出する(S210,S220)。そして、垂直移動度が0より大きく、且つ、水平移動度が移動体判定値未満である場合には、ブロック画素に移動体が写っていないと判断する(S230)。
すなわち、自車両の前方を撮影するように取り付けられたカメラ10が、自車両の走行中に撮影を行うと、フレームデータ内に写っている静止物は、フレームデータ内において、水平方向にはほとんど移動することなく、垂直方向には、自車両の走行速度に応じて移動するとの考えに基づいて、静止物であるか否かの判断を行う。
これにより、フレームデータ内に写っている静止物が、主成分分析により移動体であると誤って判断された場合に、その判断を修正することができる。
また、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)と同じ大きさの交流成分電力を有するブロックが、1フレーム前の処理対象ブロック画素BLK(kf−1,kb)の水平方向近傍に存在する場合に、このブロックと処理対象ブロック画素BLK(kf,kb)との間の距離から水平移動度を算出する(S210)。さらに、処理対象ブロック画素BLK(kf,kb)の交流成分電力ACP(kf,kb)と同じ大きさの交流成分電力を有するブロックが、1フレーム前の処理対象ブロック画素BLK(kf−1,kb)の垂直方向近傍に存在する場合に、このブロックと処理対象ブロック画素BLK(kf,kb)との間の距離から垂直移動度を算出する(S220)。
これにより、ブロック画素の交流成分電力という既に算出された値を用いるとともに、処理対象ブロック画素BLK(kf,kb)の水平方向または垂直方向に沿って位置するブロック画素のみを探索するという方法で、簡便に水平移動度および垂直移動度を算出することができる。
また、フレームデータ内のブロック画素の交流成分電力ACPが、クラス4またはクラス5(すなわち、高電力背景)に分類するために設定された値(1000)以上か否かを判断し(S90)、さらに、遠方移動体候補領域RF外に位置しているか否かを判断する(S110)。そして、遠方移動体候補領域RF外に位置していると判断されたブロック画素が、車両から近距離に位置するものが撮影されるブロック画素であるか否かを判断するともに(S180)、近距離の高電力背景と判断されたブロック画素について水平移動度を算出し(S200,S210)、水平移動度が移動体判定値以上である場合には、このブロック画素に移動体が写っていると判断する(S230)。
すなわち、ブロック画素の交流成分電力ACPが高い値を示しており、動きのある移動体がブロック画素に写っていると考えられる場合に、移動体であれば、フレームデータ内において水平方向に移動するとの考えに基づいて、移動体であるか否かの判断を行う。
これにより、自車両の遠方から接近する移動体を検出することに加えて、近距離から接近する移動体も検出することができる。
以上説明した実施形態において、カメラ10は本発明における撮影装置、S40の処理は本発明における画像差分手段、S60およびS70の処理は本発明におけるDCT係数算出手段、S100の処理は本発明におけるDCT係数記憶手段、S120の処理は本発明における時系列ベクトル生成手段、S130〜S150の処理は本発明における主成分分析手段、フレームデータは本発明における撮影画像、フレーム差分画像データは本発明における差分撮影画像である。
また、S80の処理は本発明における交流成分電力算出手段、S350の処理は本発明における第1背景判断手段、S340の処理は本発明における第2背景判断手段、S400の処理は本発明における第3背景判断手段、S390の処理は本発明における第4背景判断手段、S410〜S470の処理は本発明における候補領域設定手段、S110の処理は本発明における主成分分析禁止手段、高電力背景判定電力値ACPhighは本発明における上方高電力判定値、空領域判定電力値ACPskyは本発明における上方低電力判定値、高電力背景判定電力値ACPhighは本発明における下方高電力判定値、道路判定電力値ACPgroundは本発明における下方低電力判定値である。
また、S160およびS170は本発明における移動体判断手段、S210およびS220は本発明における移動度算出手段、S230およびS240は本発明における移動体判断修正手段、S230の処理における垂直移動度に用いる判定値「0」は本発明における垂直移動体判定値、移動体判定値は本発明における水平移動体判定値である。
また、S90の処理は本発明における高電力ブロック判断手段、S110の処理は本発明における候補領域外判断手段、S180の処理は本発明における近距離ブロック判断手段、S200およびS210の処理は本発明における水平移動度算出手段、S230の処理は本発明における高電力移動体判断手段、S90の処理においてクラス4以上に判定されるACPの値(すなわち、1000)は本発明における高電力判定値である。
以上、本発明の一実施例について説明したが、本発明は上記実施例に限定されるものではなく、本発明の技術的範囲に属する限り種々の形態を採ることができる。
例えば上記実施形態では、評価関数PCACPが式(8)に示すように乗算型であるものを示したが、下式(9)に示すように、重み付け加算型としてもよい。
なお、式(9)中のw1は電力評価値PCA側の重み係数、w2はACPクラス側の重み係数である。
また上記実施形態では、水平線HZの周囲に遠方移動体候補領域RFを設定するものを示した。しかし、移動体が存在する可能性がある道路に対して垂直に自車両が進入する場合には、自車両の左右両側から移動体が接近してくる可能性がある。このため、撮影画像内において、自車両の左右両側に対応する領域に、遠方移動体候補領域RFを設定するようにしてもよい。なお、左右両側に遠方移動体候補領域RFを設定するか否かは、例えばナビゲーション装置に記憶されている道路情報を利用するとよい。
また、自車両に搭載されたカメラ10において、自車両の移動に伴う大きな回転(パニング)がないかぎり、交流成分電力の空間分布において、遠方では交流成分電力の値が小さいという性質を利用し、谷間となる道路領域(水平線下方の低電力背景)と空(水平線上方の低電力背景)との接合部に複数の遠方移動体候補領域RFを大まかに設定するようにしてもよい。
また、遠方移動体候補領域RF内のブロック画素についての主成分分析の演算量を低減させるために、遠方移動体候補領域RFの大きさ、数、形状に応じて、主成分分析を行うブロック画素をサンプリングするようにしてもよい。また、そのサンプリングパターンを変更する(例えば、市松模様にサンプリングする)ようにしてもよい。
1…移動体検出装置、10…カメラ、20…位置検出器、30…表示装置、40…記憶装置、50…解析ユニット、

Claims (6)

  1. 同一の撮影装置を用いて連続して撮影することにより、撮影時刻がそれぞれ異なる複数の撮影画像を取得し、前記撮影画像内に写る移動体を検出する移動体検出装置であって、
    1つの前記撮影画像を取得すると、該撮影画像と、該撮影画像より前に取得された撮影画像とが差分された画像である差分撮影画像を作成する画像差分手段と、
    前記画像差分手段により作成された前記差分撮影画像を、予め設定された画素数で構成されたブロック画素を単位として分割し、前記ブロック画素毎に離散コサイン変換(DCT)を行うことにより、二次元DCT係数を算出するDCT係数算出手段と、
    前記DCT係数算出手段により前記二次元DCT係数が算出される毎に、該二次元DCT係数を蓄積して記憶するDCT係数記憶手段と、
    前記DCT係数記憶手段により記憶された前記二次元DCT係数の各要素の値を配列して特徴ベクトルを構成するとともに、前記差分撮影画像内における同一位置の前記ブロック画素毎に前記特徴ベクトルを時系列で並べることにより時系列ベクトルを生成する時系列ベクトル生成手段と、
    前記ブロック画素に前記移動体が写っている状態で得られる時系列ベクトルのサンプルを主成分分析して得られた主成分ベクトルに、前記時系列ベクトル生成手段により生成された前記時系列ベクトルを作用させて主成分毎の主成分得点を算出する主成分得点算出処理を行う主成分分析手段とを備える
    ことを特徴とする移動体検出装置。
  2. 当該移動体検出装置は、車両に搭載され、
    前記撮影装置は、前記車両の前方を撮影し、前記撮影画像内における水平線の位置である画像内水平線位置が予め設定され、
    前記DCT係数算出手段により算出された前記二次元DCT係数における交流成分の和を交流成分電力として、前記交流成分電力を前記ブロック画素毎に算出する交流成分電力算出手段と、
    前記撮影画像内において前記画像内水平線位置よりも上方に位置する前記ブロック画素について、前記ブロック画素の前記交流成分電力が、予め設定された上方高電力判定値以上である場合に、前記ブロック画素は高電力背景であると判断する第1背景判断手段と、
    前記撮影画像内において前記画像内水平線位置よりも上方に位置する前記ブロック画素について、前記ブロック画素の前記交流成分電力が、前記上方高電力判定値より小さくなるように設定された上方低電力判定値以下である場合に、前記ブロック画素は低電力背景であると判断する第2背景判断手段と、
    前記撮影画像内において前記画像内水平線位置よりも下方に位置する前記ブロック画素について、前記ブロック画素の前記交流成分電力が、予め設定された下方高電力判定値以上である場合に、前記ブロック画素は高電力背景であると判断する第3背景判断手段と、
    前記撮影画像内において前記画像内水平線位置よりも下方に位置する前記ブロック画素について、前記ブロック画素の前記交流成分電力が、前記下方高電力判定値より小さくなるように設定された下方低電力判定値以下である場合に、前記ブロック画素は低電力背景であると判断する第4背景判断手段と、
    前記撮影画像内における前記画像内水平線位置の周辺に位置し、且つ、前記第1,2,3,4背景判断手段により高電力背景または低電力背景であると判断されなかったブロック画素により構成される前記撮影画像内の領域を遠方移動体候補領域として設定する候補領域設定手段と、
    前記候補領域設定手段により設定された前記遠方移動体候補領域外の前記ブロック画素について、前記主成分分析手段による前記主成分得点算出処理の実行を禁止する主成分分析禁止手段とを備える
    ことを特徴とする請求項1に記載の移動体検出装置。
  3. 前記主成分分析手段により算出された主成分得点の大きさに基づいて、前記ブロック画素に前記移動体が写っているか否かを判断する移動体判断手段と、
    前記移動体判断手段による判断が行われた前記ブロック画素を含む前記撮影画像と、該撮影画像より前に取得された撮影画像とを用いて、前記ブロック画素内に写っている前記移動体について、前記撮影画像における水平方向への移動度である水平移動度と、前記撮影画像における垂直方向への移動度である垂直移動度とを算出する移動度算出手段と、
    前記移動体が写っていると前記移動体判断手段により判断された前記ブロック画素について、前記移動度算出手段により算出された垂直移動度が予め設定された垂直移動体判定値より大きく、且つ、前記移動度算出手段により算出された水平移動度が予め設定された水平移動体判定値より小さい場合には、前記ブロック画素に前記移動体が写っていないと判断する移動体判断修正手段とを備える
    ことを特徴とする請求項1または請求項2に記載の移動体検出装置。
  4. 前記移動度算出手段は、
    前記移動体が写っていると前記移動体判断手段により判断された前記ブロック画素を判断対象ブロック画素とし、
    前記判断対象ブロック画素を含む撮影画像より前に取得された撮影画像内において、前記判断対象ブロック画素の水平方向に位置する前記ブロック画素のうち前記判断対象ブロック画素の前記交流成分電力と同じ値を有する前記ブロック画素を水平同電力ブロック画素とし、
    前記撮影画像内における前記判断対象ブロック画素と前記水平同電力ブロック画素との間の距離に基づいて、前記水平移動度を算出する
    ことを特徴とする請求項3に記載の移動体検出装置。
  5. 前記移動度算出手段は、
    前記移動体が写っていると前記移動体判断手段により判断された前記ブロック画素を判断対象ブロック画素とし、
    前記判断対象ブロック画素を含む撮影画像より前に取得された撮影画像内において、前記判断対象ブロック画素の垂直方向に位置する前記ブロック画素のうち前記判断対象ブロック画素の前記交流成分電力と同じ値を有する前記ブロック画素を垂直同電力ブロック画素とし、
    前記撮影画像内における前記判断対象ブロック画素と前記垂直同電力ブロック画素との間の距離に基づいて、前記垂直移動度を算出する
    ことを特徴とする請求項3または請求項4に記載の移動体検出装置。
  6. 前記撮影画像内の前記ブロック画素の前記交流成分電力が、予め設定された高電力判定値以上か否かを判断する高電力ブロック判断手段と、
    前記交流成分電力が前記高電力判定値以上であると前記高電力ブロック判断手段により判断された前記ブロック画素が、前記候補領域設定手段により設定された前記遠方移動体候補領域外に位置しているか否かを判断する候補領域外判断手段と、
    前記候補領域外判断手段により前記遠方移動体候補領域外に位置していると判断された前記ブロック画素が、前記車両から近距離に位置するものが撮影される前記ブロック画素であるか否かを判断する近距離ブロック判断手段と、
    前記車両から近距離に位置する前記ブロック画素であると前記近距離ブロック判断手段により判断された前記ブロック画素を高電力近距離ブロック画素として、前記高電力近距離ブロック画素を含む前記撮影画像と、該撮影画像より前に取得された撮影画像とを用いて、前記高電力近距離ブロック画素について、前記撮影画像における水平方向への移動度である水平移動度を算出する水平移動度算出手段と、
    前記高電力近距離ブロック画素について、前記移動度算出手段により算出された水平移動度が予め設定された水平移動体判定値以上である場合には、前記高電力近距離ブロック画素に前記移動体が写っていると判断する高電力移動体判断手段とを備える
    ことを特徴とする請求項2〜請求項5の何れか1項に記載の移動体検出装置。
JP2011037225A 2011-02-23 2011-02-23 移動体検出装置 Expired - Fee Related JP5267596B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011037225A JP5267596B2 (ja) 2011-02-23 2011-02-23 移動体検出装置
US13/397,916 US8582815B2 (en) 2011-02-23 2012-02-16 Moving object detection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011037225A JP5267596B2 (ja) 2011-02-23 2011-02-23 移動体検出装置

Publications (2)

Publication Number Publication Date
JP2012174117A true JP2012174117A (ja) 2012-09-10
JP5267596B2 JP5267596B2 (ja) 2013-08-21

Family

ID=46652764

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011037225A Expired - Fee Related JP5267596B2 (ja) 2011-02-23 2011-02-23 移動体検出装置

Country Status (2)

Country Link
US (1) US8582815B2 (ja)
JP (1) JP5267596B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8582821B1 (en) * 2011-05-23 2013-11-12 A9.Com, Inc. Tracking objects between images
CN103858002B (zh) * 2011-07-28 2016-10-26 保罗·谢勒学院 基于主成分分析的图像融合方法
US9915857B2 (en) * 2013-12-09 2018-03-13 Geo Semiconductor Inc. System and method for automated test-pattern-free projection calibration
JP6331402B2 (ja) * 2014-01-14 2018-05-30 株式会社デンソー 移動体検出装置および移動体検出方法
GB201601142D0 (en) 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for estimating breathing rate
GB201601140D0 (en) * 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for estimating heart rate
GB201601143D0 (en) 2016-01-21 2016-03-09 Oxehealth Ltd Method and apparatus for health and safety monitoring of a subject in a room
GB201601217D0 (en) 2016-01-22 2016-03-09 Oxehealth Ltd Signal processing method and apparatus
JP6975945B2 (ja) * 2016-02-24 2021-12-01 パナソニックIpマネジメント株式会社 判定装置、判定方法、プログラムおよびプログラムを記録した記録媒体
US10380756B2 (en) * 2016-09-08 2019-08-13 Sony Corporation Video processing system and method for object detection in a sequence of image frames
GB201615899D0 (en) 2016-09-19 2016-11-02 Oxehealth Ltd Method and apparatus for image processing
EP3539082A1 (en) 2016-11-08 2019-09-18 Oxehealth Limited Method and apparatus for image processing
GB201706449D0 (en) 2017-04-24 2017-06-07 Oxehealth Ltd Improvements in or realting to in vehicle monitoring
GB201803508D0 (en) 2018-03-05 2018-04-18 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900033D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Mrthod and apparatus for monitoring of a human or animal subject
GB201900032D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject
GB201900034D0 (en) 2019-01-02 2019-02-13 Oxehealth Ltd Method and apparatus for monitoring of a human or animal subject

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004295416A (ja) * 2003-03-26 2004-10-21 Matsushita Electric Works Ltd 画像処理装置
JP2005018675A (ja) * 2003-06-30 2005-01-20 Nippon Hoso Kyokai <Nhk> コンテンツ特徴量抽出装置、コンテンツ特徴量抽出プログラムおよびコンテンツ特徴量抽出方法
JP2006285907A (ja) * 2005-04-05 2006-10-19 Nippon Hoso Kyokai <Nhk> 指定流通コンテンツ特定装置、指定流通コンテンツ特定プログラムおよび指定流通コンテンツ特定方法
JP2006338617A (ja) * 2005-06-06 2006-12-14 Chubu Electric Power Co Inc 移動体識別装置、移動体識別プログラム
JP2008249685A (ja) * 2007-03-06 2008-10-16 Ikegami Tsushinki Co Ltd 速度計測方法
JP2010263327A (ja) * 2009-04-30 2010-11-18 Kddi Corp 特徴量算出装置およびプログラム
JP2010286926A (ja) * 2009-06-09 2010-12-24 Konica Minolta Holdings Inc 周辺監視装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3123587B2 (ja) 1994-03-09 2001-01-15 日本電信電話株式会社 背景差分による動物体領域抽出方法
JP2003288600A (ja) 2002-03-28 2003-10-10 Daihatsu Motor Co Ltd 歩行者認識装置及び認識方法
JP4228212B2 (ja) 2003-10-17 2009-02-25 三菱自動車工業株式会社 ノーズビューモニタ装置
JP2005132170A (ja) 2003-10-29 2005-05-26 Mitsubishi Motors Corp 駐車支援装置
US7804980B2 (en) 2005-08-24 2010-09-28 Denso Corporation Environment recognition device
JP4892965B2 (ja) 2005-12-26 2012-03-07 住友電気工業株式会社 移動体判定システム、移動体判定方法、及びコンピュータプログラム
WO2008007471A1 (fr) * 2006-07-10 2008-01-17 Kyoto University Procédé de suivi d'un marcheur et dispositif de suivi d'un marcheur
US7515740B2 (en) * 2006-08-02 2009-04-07 Fotonation Vision Limited Face recognition with combined PCA-based datasets
JP4687658B2 (ja) 2007-01-29 2011-05-25 株式会社デンソー 画像の認識装置
JP2009146153A (ja) 2007-12-13 2009-07-02 Fujitsu Ltd 移動体検出装置、移動体検出方法および移動体検出プログラム
JP5176523B2 (ja) 2007-12-13 2013-04-03 富士通株式会社 移動体検出装置、移動体検出方法および移動体検出プログラム
JP4623135B2 (ja) 2008-05-08 2011-02-02 株式会社デンソー 画像認識装置
US7809824B2 (en) * 2008-09-29 2010-10-05 Yahoo! Inc. Classification and cluster analysis spam detection and reduction
JP5434861B2 (ja) 2010-09-17 2014-03-05 株式会社デンソー 移動体検出装置及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004295416A (ja) * 2003-03-26 2004-10-21 Matsushita Electric Works Ltd 画像処理装置
JP2005018675A (ja) * 2003-06-30 2005-01-20 Nippon Hoso Kyokai <Nhk> コンテンツ特徴量抽出装置、コンテンツ特徴量抽出プログラムおよびコンテンツ特徴量抽出方法
JP2006285907A (ja) * 2005-04-05 2006-10-19 Nippon Hoso Kyokai <Nhk> 指定流通コンテンツ特定装置、指定流通コンテンツ特定プログラムおよび指定流通コンテンツ特定方法
JP2006338617A (ja) * 2005-06-06 2006-12-14 Chubu Electric Power Co Inc 移動体識別装置、移動体識別プログラム
JP2008249685A (ja) * 2007-03-06 2008-10-16 Ikegami Tsushinki Co Ltd 速度計測方法
JP2010263327A (ja) * 2009-04-30 2010-11-18 Kddi Corp 特徴量算出装置およびプログラム
JP2010286926A (ja) * 2009-06-09 2010-12-24 Konica Minolta Holdings Inc 周辺監視装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG199800657007; 渡辺 睦、外2名: '主成分分析を用いた移動物体認識法の検討' 情報処理学会研究報告 第96巻 第31号, 19960321, pp.51〜58, 社団法人情報処理学会 *
JPN6013004797; 渡辺 睦、外2名: '主成分分析を用いた移動物体認識法の検討' 情報処理学会研究報告 第96巻 第31号, 19960321, pp.51〜58, 社団法人情報処理学会 *

Also Published As

Publication number Publication date
US8582815B2 (en) 2013-11-12
US20120213405A1 (en) 2012-08-23
JP5267596B2 (ja) 2013-08-21

Similar Documents

Publication Publication Date Title
JP5267596B2 (ja) 移動体検出装置
CN107272021B (zh) 使用雷达和视觉定义的图像检测区域的对象检测
Wu et al. Lane-mark extraction for automobiles under complex conditions
US9771080B2 (en) Road surface gradient detection device
JP4553072B1 (ja) 画像統合装置および画像統合方法
US20130286205A1 (en) Approaching object detection device and method for detecting approaching objects
JP5904925B2 (ja) 車両周辺監視装置
JP5754470B2 (ja) 路面形状推定装置
EP2960829A2 (en) Lane boundary estimation device and lane boundary estimation method
JP6139465B2 (ja) 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
WO2017051480A1 (ja) 画像処理装置及び画像処理方法
EP3211368B1 (en) Stereo camera apparatus and vehicle provided with stereo camera apparatus
JP2010085240A (ja) 車両用画像処理装置
JP2018169947A (ja) レーン線認識装置およびレーン線認識プログラム
CN111738033B (zh) 基于平面分割的车辆行驶信息确定方法及装置、车载终端
CN108369739B (zh) 物体检测装置和物体检测方法
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
EP2778603B1 (en) Image processing apparatus and image processing method
JP2010271969A (ja) 車線検出装置
JP4872943B2 (ja) 解析装置
JP6569416B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム
JP6416654B2 (ja) 白線検出装置
JP2015011665A (ja) 走行路面標示検知装置および走行路面標示検知方法
JP2017117038A (ja) 道路面推定装置
JP4075879B2 (ja) 車両用衝突警報装置及び車両用衝突警報方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130321

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130422

R151 Written notification of patent or utility model registration

Ref document number: 5267596

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees