JP2017228131A - 反射物標検出方法及び反射物標検出装置 - Google Patents

反射物標検出方法及び反射物標検出装置 Download PDF

Info

Publication number
JP2017228131A
JP2017228131A JP2016124607A JP2016124607A JP2017228131A JP 2017228131 A JP2017228131 A JP 2017228131A JP 2016124607 A JP2016124607 A JP 2016124607A JP 2016124607 A JP2016124607 A JP 2016124607A JP 2017228131 A JP2017228131 A JP 2017228131A
Authority
JP
Japan
Prior art keywords
image
target
reflection
reflection target
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016124607A
Other languages
English (en)
Inventor
光範 中村
Mitsunori Nakamura
光範 中村
佐藤 宏
Hiroshi Sato
宏 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2016124607A priority Critical patent/JP2017228131A/ja
Publication of JP2017228131A publication Critical patent/JP2017228131A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】急激な画素値の時間軸変動による反射物標の誤検出を抑制する反射物標検出方法及び反射物標検出装置を提供する。【解決手段】反射物標検出方法は、車両に搭載されたカメラが取得したカメラ画像から投光器が投光する光の強度の周期的変化と同期する反射光を抽出する。反射光の輝度に基づいて、画像上の反射物標の存在領域を推定する。そして、画像上の反射物標の存在領域内における画像の空間軸上の前記した輝度の周期的変化に基づいて、反射物標か否かを判別して、反射物標を検出する。【選択図】図9

Description

本発明は、反射物標検出方法及び反射物標検出装置に関するものである。
従来から、道路標識の位置を判定する技術が知られている(特許文献1参照)。特許文献1では、先ず、近赤外線の照射時の画像と及び非照射時の画像との差分を算出することで差分画像を生成する。そして、差分画像から反射強度が所定値以上であり且つ対象標識の面積に相当する標識領域を検出し、道路標識の画像上の位置に基づいて、道路標識の地図上の位置を特定している。
特開2009−163714号公報
しかし、車両の走行に伴って、道路標識を含む反射物標以外の物標、特に、立体物のエッジが画像上を移動する。この移動によりエッジが通過する画素の輝度値がステップ状に変化するため、画素の輝度値に周波数応答が発生ため、エッジの移動部分に周期変化する画素が発生ため、反射物標に周期変化させた光を投光させて、周期変化と同期する反射光を用いて反射物標を検出しようとした場合に、反射物標以外の物標を反射物標として誤って検出してしまう場合があった。
本発明は、上記課題に鑑みて成されたものであり、その目的は、急激な画素の輝度値の周期的変化による反射物標の誤検出を抑制する反射物標検出方法及び反射物標検出装置を提供することである。
本発明の一態様に係わる反射物標検出方法は、車両に搭載されたカメラが取得したカメラ画像から投光器が投光する光の強度の周期的変化と同期する反射光を抽出し、反射光の輝度に基づいて、画像上の反射物標の存在領域を推定し、画像上の反射物標の存在領域内における画像の空間軸上の前記した輝度の周期的変化に基づいて、反射物標か否かを判別して、反射物標を検出する。
本発明によれば、急激な画素値の時間軸変動による反射物標の誤検出を抑制する反射物標検出方法及び反射物標検出装置を提供することができる。
図1は、実施形態に係わる反射物標検出装置の構成を示すブロック図である。 図2は、図1の反射光抽出部15の詳細な構成を示すブロック図である。 図3Aは、直線道路27を車両が走行している時のカメラ画像に写る立体物28の動きを示す模式図である。 図3Bは、反射光抽出部15から出力される反射光抽出画像の一例であって、図3Aの立体物28のエッジ29を含む示す模式図である。 図4Aは、ステップ信号の周波数スペクトルに、LPF23の低域通過(ローパス)特性を重畳したグラフである。 図4Bは、LPF23を通過した図4Aのステップ信号の周波数スペクトルを示すグラフである。 図5Aは、図3Aの立体物28のエッジが通過する部分の画素において、急激な輝度変動(ステップ状の輝度変化)が生じる様子を示すグラフである。 図5Bは、エッジが通過する部分の各画素に関して、反射光抽出部15に図5Aのステップ信号が入力された時に反射光抽出部15から出力される信号(ステップ応答)の波形の一例を示すグラフである。 図6は、カメラにより取得された複数のカメラ画像を時間軸上に並べた図である。 図7は、図6のカメラ画像に対応する反射光抽出画像を示す図である。 図8は、図7の反射光抽出画像の各々から選ばれたベルト領域f、f、f、f、f、・・・を示す図である。 図9は、図8のベルト領域f、f、f、f、f、・・・を合成した合成画像を示す図である。 図10は、道路標識35及び立体物30を包含する反射物標の存在領域の境界線軌跡Laを示す図である。 図11Aは、立体物28の上端のエッジ及び地平線31の垂直方向への移動を示すカメラ画像を示す。 図11Bは、水平方向のエッジの移動領域32に一定間隔の縞状の模様(グラデーション)が現れる合成画像を示す図である。 図12Aは、垂直方向のエッジの移動領域36に一定間隔の縞状の模様(グラデーション)が現れる合成画像を示す図である。 図12Bは、図12Aのベルト領域f、f、f、f、・・・fの幅を広げた変形例を示す図である。 図13は、図1の反射物標検出装置を用いた反射物標検出方法の一例を示すフローチャートである。
図面を参照して、実施形態を説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
(第1実施形態)
図1を参照して、実施形態に係わる反射物標検出装置の構成を説明する。反射物標検出装置は、車両51に搭載されたカメラ11を用いて取得されたカメラ画像から、道路周辺に設置された反射物標を検出する。反射物標は、地上に固定されたものであって、例えば、道路標識が含まれる。本例では、道路標識を例に取り説明を続ける。
反射物標検出装置は、車両周囲に所定の光を投光する投光部11と、投光された領域を含む車両周囲を撮像してカメラ画像を取得するカメラ12と、投光器11を制御する投光制御部13と、カメラ12により取得されたカメラ画像を一時的に記憶するメモリ14と、カメラ12により取得されたカメラ画像に対して画像処理を施すことにより反射物標を検出する電子回路18とを備える。
投光部11は、例えば、車両51に搭載された、プロジェクタヘッドライトやリフレクタを備えたヘッドライトであり、車両周囲に向けて光を照射する。また、投光部11の発光源として、可視光、赤外光、或いは紫外光の発光源を用いることができる。ヘッドライトの光源の種類は、特に問わず、LED、HID、ハロゲンのいずれであってもよい。
投光制御部13は、投光部11が投光する光の強度をPWM制御にて変調する。また、投光制御部13は、カメラ12による撮像タイミングのトリガ信号と、シャッター時間(露出時間)の制御信号とを出力する。更に、投光制御部13は、PWM制御で使用した搬送波信号(参照信号)を電子回路18(反射光抽出部15)に出力する。なお、搬送波信号(参照信号)は、投光部11が投光する光の強度の周期的変化に同期した信号である。
カメラ12は、車両51に搭載され、車両51の周囲を撮像してカメラ画像を取得する撮像部である。カメラ12は、固体撮像素子、例えばCCD及びCMOSを備えるデジタルカメラであって、画像処理が可能なデジタル画像を取得する。カメラ12は、所定の時間間隔で繰り返し車両の前方を撮像して、連続する複数のカメラ画像(フレーム)を取得する。ここでは、カメラ12として、高速度撮影(例えば、毎秒1000フレーム)が可能なハイスピードカメラ(高速度カメラ)を用いる。カメラ12は、投光器11が投光する光の1周期の間に、複数回(例えば、10回)の撮像を行う。取得したカメラ画像は、メモリ14に画像データとして記憶される。
具体的に、カメラ12が備える撮像素子には、投光部11が投光する光が反射物標Pで反射した反射光と、背景光とが入射する。カメラ12が備える撮像素子は、所定の輝度感度特性にしたがって、入射する光の強度に応じた輝度を出力する。また、投光部11より、可視光、赤外光、紫外光等が使用される場合には、カメラ12が備える撮像素子は、可視光、赤外光、紫外光の波長を観測可能な素子を使用したものとする。
メモリ14は、カメラ12より出力されるカメラ画像を所定枚数保存する容量を備えている。メモリ14には、カメラ12より時系列で撮像された複数の画像データが保存される。
電子回路18は、例えば、CPU(中央処理装置)、メモリ、及び入出力部を備える汎用のマイクロコンピュータである。マイクロコンピュータを電子回路18として機能させるためのコンピュータプログラム(反射物標検出プログラム)を、マイクロコンピュータにインストールして実行する。これにより、汎用のマイクロコンピュータは、電子回路18として機能する。なお、ここでは、ソフトウェアによって電子回路18を実現する例を示すが、もちろん、以下に示す各情報処理を実行するための専用のハードウェアを用意して、電子回路18を構成することも可能である。また、電子回路18に含まれる複数のユニット(15、16、17)を個別のハードウェアにより構成してもよい。更に、電子回路18のみならず、投光制御部13の各々も、同様にして、ソフトウェア或いは専用のハードウェアとして実現可能である。更に、電子回路18は、車両にかかわる他の制御に用いる電子制御ユニット(ECU)と兼用してもよい。
電子回路18は、機能的な構成要素として、反射光抽出部15と、領域推定部16と、反射物標検出部17とを備える。
反射光抽出部15は、投光制御部13から出力される参照信号を用いて、メモリ14に保存されたカメラ画像の各画素値に対して同期検波処理を施し、処理後の信号を再び画像(反射光抽出画像)として構成して出力する。これにより、反射光抽出部15は、カメラ12が取得したカメラ画像から光の強度の周期的変化と同期する反射光を抽出することができる。即ち、反射光抽出部15は、投光器11が照射する照射光の強度の周期的変化と同期して輝度が変動する画素のみを抽出した反射光抽出画像を出力する。換言すれば、反射光抽出部15は、カメラ12が備える撮像素子に入射する光のうち背景光を除去し、投光部11が投光する光が反射物標Pで反射した反射光のみを取り出すことができる。
同期検波処理は、既知の方法を用いることができる。同期検波処理は、メモリ14に記憶されている複数のカメラ画像中の全画素、或いは、カメラ画像中に処理領域を制限した場合は、画像処理領域中の全画素において実施される。
図2を参照して、反射光抽出部15の詳細な構成の一例を説明する。反射光抽出部15は、直流成分除去部21と、波形乗算部22と、低域通過フィルタ(LPF)23とを備える。直流成分除去部21は、メモリ14に記憶されているカメラ画像から、投光制御の変調周期に相当する枚数分のカメラ画像を読み出す。そして、読み出したカメラ画像を構成する各画素について、画素値のうち直流成分を除去して交流成分のみを出力する。例えば、読み出したカメラ画像中の画素ごとに時系列に沿った輝度の平均処理を行って、各画素の輝度から平均値を除去する。
波形乗算部22は、各画素値の交流成分に、投光制御部13から送信される参照信号(搬送波信号)を乗算する。LPF23は、乗算後の信号に含まれる参照信号の高調波成分(交流成分)を除去して出力する。参照信号の周期と反射光の変調周期は一致するため、LPF23からは直流成分のみが出力される。LPF23から所定の閾値以上の輝度の信号が出力される場合、投光器11が投光する光の強度の周期的変化と同期する反射光である、即ち画像上に反射物標Pが写っていると推定できる。
しかしながら、輝度が所定の閾値以上の信号は、反射物標Pが写っている部分のみならず、次に示すように、立体物28のエッジの移動部分からも出力されてしまう。
例えば、図3Aに示すように、直線道路27を車両が走行している時、道路27の左脇に設置された立体物(例えば、柱)28は、画像内で左方向に移動する。立体物28の背景には、立体物28の明るさに比べて十分に明るい例えば青空又は路面が写っている。なお、立体物28は反射物標ではない。この場合、画像上の立体物28の輪郭に、ステップ状に輝度が変化するエッジが発生する。この画像の空間軸上のエッジも車両の走行により画像内で移動するため、エッジが移動して通過する部分の画素の画素値或いは輝度は、時間軸上でステップ状に変化する。例えば、図5Aに示すように、図3Aの立体物28のエッジが通過する部分の画素において、時間的に連続する又は所定の時間間隔で連続する複数のフレームの間で、255、10、10、255、・・・という急激な輝度の変動(ステップ状の輝度変化)が生じて、図4Aのような広い周波数スペクトルを含んだ画素値となる。
図5Aに示すステップ信号が反射光抽出部15に入力された時、図4Aのような広い周波数スペクトルを含んでいるため、このため、図3Bに示す反射光抽出画像において、立体物のエッジ29が移動して通過する部分の画素に、投光器11が投光する光の強度の周期的変化と同期する同期画素が発生してしまう。よって、図5Bに示すような波形の信号(同期検波出力)が反射光抽出部15から出力される。反射光抽出部15は、所定の閾値以上の輝度の信号が出力される場合、反射物標以外の物標であるエッジ29の移動部分を反射物標として誤って検出してしまうという課題が生じる。
そこで、第1実施形態では、領域推定部16及び反射物標検出部17が、反射光抽出部15から出力された信号が、投光器11が投光した自発光の反射であるか、或いはエッジの移動であるかを判別する。これにより、急激な画素値の時間軸変動による反射物標Pの誤検知を抑制する。以下に、詳細を説明する。
(ステップ応答について)
先ず、図5A及び図5Bに示したステップ応答について説明する。図5Aに示すステップ信号に参照信号を乗算すると、波形乗算部22から正負を伴う信号が出力され、LPF23に入力される。
図4Aに示すように、ステップ信号の周波数スペクトルUは、周波数軸上で均一な振幅を示す。周波数スペクトルUにLPF23の低域通過特性を重ねると、高周波領域25と、低周波領域26に分かれる。LPF23の低域通過特性により高周波領域25はカットされ、低周波領域26のみが残り、図4Bに示す周波数スペクトルU’となる。よって、図5Bに示すような振動波形を有する信号がLPF23から出力される。ステップ信号の波形は時間軸上で間延びし、且つ、立ち下がりが緩やかになる。
すなわち、投光器11の変調周期と同期する反射光の同期検波出力は、直流成分からなり安定している。一方、立体物28のエッジの移動部分に表れる同期検波出力は、時間軸上において周期的に変化している。したがって、反射光抽出部15から出力される反射光抽出画像において、エッジの移動部分は、“瞬きながら小さくなる”又は“ちらつきながら小さくなる”ように見える。
よって、時間的に連続する又は所定の時間間隔で連続する複数の反射光抽出画像(図3B)において、周期的な輝度変動があれば、投光による反射光であり、周期的な輝度変動がなければ、エッジ29の移動であると判断することができる。詳細には、反射光抽出画像において、時間軸上における周期的な輝度変化が所定の基準以上であれば、反射光ではなく、ステップ応答であると判断することができる。時間軸上における周期的な輝度変化に基づく判断基準は、様々な手法を用いることができる。
(フレームシフトによる画像合成)
次に、ステップ応答による時間軸上における周期的な輝度変化を、画像の空間軸上における周期的な輝度変化として検出する具体的な方法について説明する。
本実施形態ではハイスピードカメラを用いた高速度撮影を行う。このため、ステップ応答による時間軸上における周期的な輝度変化を、リアルタイムに処理して検出することができる。だたし、より計算コストを低く抑えるため、ステップ応答による時間軸上における周期的な輝度変化を、画像の空間軸上における周期的な輝度変化として検出してもよい。その一例として、以下にフレームシフトによる画像合成について、説明する。
領域推定部16は、反射光抽出部15が抽出した反射光の輝度に基づいて、画像上の反射物標の存在領域を推定する。具体的に、領域推定部16は、LPF23から所定の閾値以上の強度の信号が出力された画素に対応する反射光抽出画像上の領域を、反射物標Pの存在領域として推定する。例えば、領域推定部16は、図3Bのエッジ29で囲まれた領域を、反射物標Pの存在領域として推定する。なお、反射物標Pの存在領域は、図3Bのエッジ29のように、線で囲まれた領域とは限らない。これ以外にも、例えば、領域推定部16は、直線状或いは曲線状の線分、或いは複数の線分の集合を、反射物標Pの存在領域として推定する。
反射物標検出部17は、ステップ応答による時間軸上における周期的な輝度変化を、画像の空間軸上における周期的な輝度変化として検出する。図6は、カメラ11により取得された複数のカメラ画像を時間軸上に並べた図である。図6のカメラ画像には、立体物28及び立体物28の上端に固定された反射物標からなる道路標識33が写っている。道路標識33は、投光器11の光を強く反射する。このため、道路標識33から、投光器11の光の強度の周期的変化と同期して点滅する反射光が検出される。一方、立体物28は、投光器11の光を強く反射しない。このため、立体物28から、投光器11の光の強度の周期的変化と同期して点滅する反射光は検出されない。
図7は、図6のカメラ画像に対応する反射光抽出画像を示す。道路標識33は反射物標であるため、安定して反射光が検出され、時間軸上における周期的な輝度変化は観測できない。一方、立体物28は反射物標でないため、立体物28のエッジの移動によって、立体物のエッジ29に時間軸上における周期的な輝度変化が観測される。
領域推定部16は、道路標識33及び立体物28を1つの反射物標の存在領域として推定する。反射物標検出部17は、図7の反射光抽出画像のうち少なくとも反射物標の存在領域を、画像の縦ライン又は横ラインに沿って複数のベルト領域f、f、f、f、f、・・・に分割する。そして、図8に示すように、時間軸上で連続する反射光抽出画像の各々から選ばれたベルト領域f、f、f、f、f、・・・を合成して、図9に示す1つの合成画像(間引き画像)を作成する。図8及び図9の例では、横ラインに沿って分割されたベルト領域f、f、f、f、f、・・・を反射光抽出画像の各々から選択し、時間軸上でベルト領域f、f、f、f、f、・・・を並べ、つなぎ合わせる。これにより、反射物標検出部17は、図7に示す時間軸上におけるエッジ29の周期的な輝度変化を、図9に示す1つの合成画像上において、画像の空間軸上における周期的な輝度変化へ変換することができる。よって、図7の反射光抽出画像において、瞬く又はちらつくエッジ29の様子を、1つの画像(空間軸)上において表現することができる。
なお、ベルト領域f、f、f、f、f、・・・の幅は、例えば、次のようにして画素のライン数として求めることができる。反射物標検出部17は、画像上の反射物標の存在領域の高さ又は幅を算出する。具体的に、反射物標検出部17は、反射物標の存在領域の縦ラインの数又は横ラインの数を計数する。縦ラインの数又は横ラインの数を所定値(既知のインパルス応答分周数)で除して得られたライン数を、ベルト領域f、f、f、f、f、・・・の幅とする。
(画像の空間軸上の輝度の周期的変化の検出)
次に、反射物標検出部17は、図9の合成画像における画像の空間軸上の輝度の周期的変化に基づいて、反射物標か否かを判別して、反射物標を検出する。具体的には、反射物標検出部17は、推定された反射物標の存在領域において、画像の空間軸上の輝度の周期的変化が縞状である場合、反射物標ではないと判別する。例えば、反射物標検出部17は、画像の空間軸上の輝度の周期的変化の振幅中心に対する正負方向の合算値が所定値以下である場合、反射物標ではないと判別する。
先ず、反射物標検出部17は、合成画像の反射物標の存在領域における輝度の総和及び差分和を求める。図10に示すように、輝度の差分和は、反射物標の存在領域の境界線軌跡Laに沿って、隣接する画素間の輝度差の絶対値を積分することにより算出される。輝度の総和は、反射物標の存在領域の境界線軌跡Laに沿って、画素の輝度を積分することにより算出される。
反射物標である場合、輝度は安定し、輝度の周期的変化が無いため、差分和はほとんど生じず、光源のムラに応じてゼロに近い値を取りうる。よって、輝度の差分和を総和で除した値(商)は、おおよそ0.1未満となる。一方、反射物標でない場合、輝度の周期的変化があるため、差分和が生じる。総和は、撮像時の風景の輝度に応じて出力される。よって、前記した商は、おおよそ0.1以上となる。
なお、ここでは、商を基準として差分和を評価したが、これに限らない。例えば、差分和を、撮像時の風景の輝度或いは画像全体の平均輝度に基づいて定められた閾値と比較して、反射物標であるか否かを判断してもよい。差分和と総和との差を基準として差分和を評価してもよい。
反射物標検出部17は、前記した商が所定の閾値よりも大きい場合に、画像の空間軸上の輝度の周期的変化の振幅中心に対する正負方向の合算値は所定値以下であると判断する。そして、この場合、反射物標検出部17は、反射物標の存在領域において、画像の空間軸上の輝度の周期的変化が一定間隔の縞状であるため、反射物標ではないと判別する。
なお、反射物標検出部17は、反射物標の存在領域を囲む境界線軌跡La全体で差分和を取る必要はなく、境界線軌跡Laの一部であってもよい。図10の場合、少なくとも、道路標識35の境界線軌跡の一部と、立体物30の境界線軌跡の一部とを含む範囲を積分すればよい。また、領域推定部16は、道路標識35及び立体物30を異なる反射物標の存在領域として推定してもよい。これにより、道路標識35及び立体物30について、反射物標であるか否かを個別に判別することができる。
以上のように、反射物標検出部17は、画像上の反射物標の存在領域内における画像の空間軸上の反射光の輝度の周期的変化に基づいて、反射物標か否かを判別することができる。
なお、反射物標検出部17は、画像の空間軸上の輝度の周期的変化があるか否かを判断する際に用いる画像は、図9の合成画像には限定されず、例えば、図7に示す反射光抽出画像であってもよい。その理由を以下に述べる。
画像を構成する複数の画素は縦方向及び横方向に配列されている。画素の縦ライン上又は横ライン上に、立体物28の全てのエッジが並ぶ可能性は低い。カメラが備えるレンズの収差により画像に歪みや傾きが生じる。特に、広角レンズを用いた場合や、画像の外周付近では、レンズの収差が大きくなり、画像の歪みや傾きも大きくなる。このため、図3Aに示す立体物28のように、直線で輪郭が構成される人工物であって、目視では垂直に見える物であっても、画素レベルで見ると、その線状のエッジ全体が、画像の同じ縦ライン上に位置する可能性は極めて低い。つまり、画像の縦ラインに対して、図23Bのエッジ29は傾斜している可能性が高い。
立体物28のエッジが傾斜している場合、ステップ応答のタイミングに各画素の微少な時間差が生じ、1つの反射光抽出画像においてエッジ29の輝度差及び時間差が縞模様(グラデーション)で観測される。
立体物28のエッジが傾斜している場合、エッジの画像上の位置に応じて、ステップ応答のタイミングが変化する。すると、図3Bのエッジ29には図5Bの振動波形が反映される。つまり、1つの反射光抽出画像において、エッジ29に沿って輝度の周期的変化が生じ、エッジ29には縞状の輝度変化(グラデーション)が生じる。エッジ29が傾斜した直線状であれば、縞状の輝度変化は一定の間隔で発生する。換言すれば、エッジ29の輝度変化の画像上の空間周波数は一定となる。
このように、図3Bのエッジ29は、立体物28のエッジが移動して通過する部分お画素に表れる同期検波出力であるため、時間軸上において周期的に輝度が変化している。更に、立体物28のエッジが画像の縦ライン又は横ラインから傾斜していれば、1つの反射光抽出画像において、図3Bのエッジ29に、画像の空間軸上の輝度の周期的変化が発生する。
以上説明した理由から、反射物標検出部17は、1つの反射光抽出画像内における画像の空間軸上の反射光の輝度の周期的変化に基づいて、反射物標か否かを判別することができる。反射光抽出画像であっても、図10を参照して説明した合成画像における差分和を用いた判別方法を援用することができる。
(反射物標検出方法の一例)
図13を参照して、図1の反射物標検出装置のうち電子回路18の動作手順の一例を説明する。
先ず、ステップS01において、反射光抽出部15は、カメラ12で取得されたカメラ画像から投光器11が投光する光の強度の周期的変化と同期する反射光を抽出し、図3B又は図7に示す反射光抽出画像を生成する。図7に示すように、反射光抽出部15は、時間的に連続する複数の反射光抽出画像を生成する。
ステップS03に進み、領域推定部16は、抽出した反射光の輝度に基づいて、画像上の反射物標の存在領域を推定する。図3Bの例では、所定の閾値以上の輝度を有するエッジ29を反射物標の存在領域として推定する。図7の例では、所定の閾値以上の輝度を有する道路標識34及び立体物のエッジ29を含む領域を反射物標の存在領域として推定する。
ステップS05に進み、反射物標検出部17は、画像上の反射物標の存在領域内における画像の空間上の輝度の周期的変化に基づいて、反射物標Pか否かを判別して、反射物標Pを検出する。ステップS05は、詳細には、ステップS51〜S65からなる。
先ず、ステップS51において、図10に示したように、境界線軌跡Laに沿って、輝度の総和及び差分和を算出する。ステップS53に進み、差分和を総和で除した値(商)が0.1よりも大きいか否かを判断する。商が0.1よりも大きい場合、境界線軌跡Laに沿って輝度が安定していない、つまり周期的に輝度が変化している、と判断できる。よって、この場合(S53でYES)、反射物標であるとは判断せず、ステップS55以降において、合成画像を用いて、反射物標であるか否かを詳細に検討する。
一方、除算値が0.1以下である場合(S53でNO)、ステップS63に進み、反射光抽出部15は、合成画像を用いた詳細な検討(S55〜)を実施せずに、反射物標であると判断し、フローを終了する。
ステップS55において、先ず、反射物標検出部17は、反射物標の存在領域の高さ又は幅を算出する。具体的には、反射物標の存在領域の縦又は横のライン数を求める。高さ又は幅の選択は、長い方を選択すればよい。
ステップS57に進み、反射物標検出部17は、図7の各反射光抽出画像を、縦ライン又は横ラインに沿って複数のベルト領域f、f、f、f、f、・・・に分割する。そして、図8に示すように、反射光抽出画像の各々から選ばれたベルト領域f、f、f、f、f、・・・を合成して、図9に示す1つの合成画像(間引き画像)を取得する。
ステップS59に進み、ステップS51と同様にして、境界線軌跡Laに沿って、輝度の総和及び差分和を算出する。ステップS61に進み、ステップS53と同様にして、商が0.1よりも大きいか否かを判断する。商が0.1よりも大きい場合、反射光抽出画像だけでなく合成画像においても、周期的に輝度が変化している、と判断できる。よって、この場合(S61でYES)、ステップS65に進み、反射物標Pではなく、立体物28のエッジの移動によるステップ信号の周波数応答であると判断する。一方、商が0.1以下である場合(S61でNO)、合成画像における輝度の周期的変化は認められないため、ステップS63に進み、反射物標Pであると判断する。
以上説明したように、第1実施形態によれば、以下の作用効果が得られる。
反射物標検出部17は、推定された画像上の反射物標の存在領域内における画像の空間軸上の反射光の輝度の周期的変化に基づいて、反射物標Pか否かを判別して、反射物標Pを検出する。これにより、投光による反射光であるか或いはエッジの移動であるかを判別できる。よって、急激な画素値の時間軸変動による反射物標の誤検知を抑制することができる。
反射物標検出部17は、推定された画像上の反射物標の存在領域において、画像の空間軸上の輝度の周期的変化が縞状である場合、反射物標ではないと判別する。エッジの移動があった場合、反射物標の存在領域の輪郭に沿って、画像上に縞状の模様(グラデーション)が表れる。そこで、画像の空間軸上の輝度の周期的変化がある場合、反射物標ではなく、エッジの移動による輝度の周期的変動であると判別できる。
反射物標検出部17は、画像の空間軸上の輝度の周期的変化が一定間隔の縞状である場合、反射物標ではないと判別する。このように、縞状の模様(グラデーション)が画像上の一定間隔で検知された場合、急激な変動があった画素値であることを判定する。より正確に、急激な輝度変動が生じた画素を特定することができる。
反射物標検出部17は、画像の空間軸上の輝度の周期的変化の振幅中心に対する正負方向の合算値が所定値以下である場合、反射物標ではないと判別する。画像上の一定間隔を検知し、急激な変動があった際の低域通過フィルタ23の影響による変動を検知することができる。
(第2実施形態)
第1実施形態では、図3Aの直線道路の走行時を例に取り、一般的な反射物標検出方法を例示した。第2及び第3の実施形態では、車両の姿勢変化に応じた反射物標検出方法を説明する。
第2実施形態では、車両のピッチングを検知した時に、反射物標か否かを判別する方法について説明する。反射物標検出装置は、図1と同じハードウェア構成を有する。更に、反射物標検出装置は、車両からピッチングに関する情報を受信するための入出力制御ユニットを更に備える。例えば、反射物標検出装置は、ブレーキ油圧センサ、サスペンションストロークセンサ、或いはジャイロセンサからのセンサ出力、或いはこれらから算出された車両の姿勢変化(ピッチング)を受信する。
車両の姿勢変化(ピッチング)を算出、或いは受信した場合、反射物標検出装置は、第1実施形態で説明した反射物標検出方法を実行する。具体的には、反射物標検出部17は、推定された画像上の反射物標の存在領域内における画像の空間軸上の輝度の周期的変化に基づいて、反射物標か否かを判別する。換言すれば、反射物標検出部17は、図13のステップS05を実行する。
ここで、車両にピッチングが生じると、画像上でエッジが鉛直方向(縦方向)に移動して急激な画素値の時間軸変動が生じる。このとき、水平方向(横方向)の移動は、鉛直方向(縦方向)の移動に比べて十分に小さい。そこで、領域推定部16は、ステップS03において、画像上のエッジのうち、水平方向に延在するエッジに、反射物標の存在領域を設定する。なお、垂直方向に延在するエッジには反射物標の存在領域を設定しなくてもよい。これにより、演算負荷を軽減できる。例えば、図11Aに示すカメラ画像において、立体物28の上端のエッジ及び地平線31だけに、反射物標の存在領域を設定する。
また、ステップS03で垂直方向のエッジにも反射物標の存在領域を設定した場合、ステップS51において、境界線軌跡Laのうち水平方向の境界線軌跡Laのみに沿って、輝度の差分和を算出してもよい。これにより、演算負荷を軽減できる。このように、反射光抽出部15の同期検波出力のうち、水平方向のエッジのみに反射物標の存在領域を設定してもよいし、或いは、境界線軌跡Laのうち水平方向の境界線軌跡Laのみに沿って差分和を算出してもよい。ステップS59においても同様に実施することができる。
更に、エッジの移動方向が予め特定されているため、画像合成に関しても以下のような処理を実施可能である。ステップS55において、反射物標検出部17は、画像上の水平方向の周期的な輝度変化を検出するために、反射物標の存在領域の幅を算出する。そして、ステップS57において、各反射光抽出画像を、縦ラインに沿って複数のベルト領域f、f、f、f、・・・fに分割する。そして、反射光抽出画像の各々から選ばれたベルト領域f、f、f、f、・・・fを合成して、図11Bに示す1つの合成画像(間引き画像)を取得する。
図11Aの地平線31に対応する合成画像上の領域32に、一定間隔の縞状の模様(グラデーション)が現れる。
なお、ここでは、車両のピッチング検知をトリガとして、図13のステップS03移行を実施する実施例を説明した。つまり、ステップS01の同期検波処理は、車両のピッチングを検知する前から実施する例を示した。しかし、これに限ることはなく、ステップS01の同期検波処理も含めてもよい。さらには、車両周囲への光の投光及び撮像まで含めて、車両のピッチング検知をきっかけとして、各動作を開始してもよい。
以上説明したように、反射物標検出装置は、車両のピッチングを検知した時、推定された画像上の反射物標の存在領域内における画像の空間軸上の輝度の周期的変化に基づいて、反射物標か否かを判別する。車両のピッチングが生じると、画像上でエッジが鉛直方向(縦方向)に移動して急激な画素値の時間軸変動が生じる。車両のピッチングを検知した時に、画像上の水平方向(横方向)に輝度の周期的変化を検知して、反射物標か否かを精度良く判別することができる。
(第3実施形態)
第3実施形態では、車両の旋回を検知した時、反射物標か否かを判別する方法について説明する。反射物標検出装置は、図1と同じハードウェア構成を有する。更に、反射物標検出装置は、車両から旋回に関する情報を受信するための入出力制御ユニットを更に備える。例えば、反射物標検出装置は、操舵角センサ、ヨーレートセンサ或いはジャイロセンサからのセンサ出力、或いはこれらから算出された車両の姿勢変化(旋回:ヨーイング)を受信する。
車両の姿勢変化(旋回)を算出、或いは受信した場合、反射物標検出装置は、第1実施形態で説明した反射物標検出方法を実行する。具体的には、反射物標検出部17は、推定された画像上の反射物標の存在領域内における画像の空間軸上の輝度の周期的変化に基づいて、反射物標か否かを判別する。換言すれば、反射物標検出部17は、図13のステップS05を実行する。
ここで、ステアリングホールの操作により車両が旋回すると、画像上でエッジが水平方向(横方向)に移動して急激な画素値の時間軸変動が生じる。このとき、垂直方向(縦方向)の移動は、水平方向(横方向)の移動に比べて十分に小さい。そこで、領域推定部16は、ステップS03において、画像上のエッジのうち、垂直方向に延在するエッジに、反射物標の存在領域を設定する。なお、水平方向に延在するエッジには反射物標の存在領域を設定しなくてもよい。これにより、演算負荷を軽減できる。
また、ステップS03で水平方向のエッジにも反射物標の存在領域を設定した場合、ステップS51において、境界線軌跡Laのうち垂直方向の境界線軌跡Laのみに沿って、輝度の差分和を算出してもよい。これにより、演算負荷を軽減できる。このように、反射光抽出部15の同期検波出力のうち、垂直方向のエッジのみに反射物標の存在領域を設定してもよいし、或いは、境界線軌跡Laのうち垂直方向の境界線軌跡Laのみに沿って差分和を算出してもよい。ステップS59においても同様に実施することができる。
更に、エッジの移動方向が予め特定されているため、画像合成に関しても以下のような処理を実施可能である。ステップS55において、反射物標検出部17は、画像上の垂直方向の周期的な輝度変化を検出するために、反射物標の存在領域の高さを算出する。そして、ステップS57において、各反射光抽出画像を、横ラインに沿って複数のベルト領域f、f、f、f、・・・fに分割する。そして、反射光抽出画像の各々から選ばれたベルト領域f、f、f、f、・・・fを合成して、図12Aに示す1つの合成画像(間引き画像)を取得する。
図12Aに示すように、合成画像上の垂直方向のエッジの移動領域36に、一定間隔の縞状の模様(グラデーション)が現れる。
更に、車両の旋回半径及び車速に応じて、画像上のエッジの移動速度が変化する。移動速度が速まるほど、同期検波出力の強度が高まり、同期検波出力の周期が短くなる。そこで、ステップS57において、図12Bに示すように、同期検波出力の周期が短いほど、のベルト領域f、f、f、f、・・・fの幅を広くする。或いは、同期検波出力の周期が短いほど、間引く反射光抽出画像の時間間隔を広げる。
以上説明したように、反射物標検出装置は、車両の旋回を検知した時、推定された画像上の反射物標の存在領域内における画像の空間軸上の輝度の周期的変化に基づいて、反射物標か否かを判別する。車両が旋回すると、画像上でエッジが水平方向(横方向)に移動して急激な画素値の時間軸変動が生じる。車両の旋回を検知した時に、画像上の鉛直方向(縦方向)に輝度の周期的変化を検知して、反射物標か否かを精度良く判別することができる。
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
上述の各実施形態で示した各機能は、1又は複数の処理回路により実装され得る。処理回路は、電気回路を含む処理装置等のプログラムされた処理装置を含む。処理装置は、また、実施形態に記載された機能を実行するようにアレンジされた特定用途向け集積回路(ASIC)や従来型の回路部品のような装置を含む。
11 投光器
12 カメラ
13 投光制御部
14 メモリ
15反射光抽出部
16 領域推定部
17 反射物標検出部
18 電子回路
22 波形乗算部
23 低域通過フィルタ(LPF)
28、30 立体物(例えば、柱)
29 エッジ
32、36 移動領域
33〜35 道路標識
La 境界線軌跡
P 反射物標

Claims (7)

  1. 車両周囲に所定の光を投光する投光器と、前記所定の光の強度が周期的に変化するように前記投光器を制御する投光制御部と、前記車両に搭載され、投光された領域を含む車両周囲を撮像してカメラ画像を取得するカメラとを用いて、反射物標を検出する反射物標検出方法であって、
    前記カメラが取得したカメラ画像から前記強度の周期的変化と同期する反射光を抽出し、
    抽出した反射光の輝度に基づいて、画像上の反射物標の存在領域を推定し、
    推定された画像上の反射物標の存在領域内における画像の空間軸上の前記輝度の周期的変化に基づいて、前記反射物標か否かを判別して、前記反射物標を検出する
    ことを特徴とする反射物標検出方法。
  2. 推定された画像上の反射物標の存在領域において、画像の空間軸上の輝度の周期的変化が縞状である場合、反射物標ではないと判別することを特徴とする請求項1に記載の反射物標検出方法。
  3. 画像の空間軸上の輝度の周期的変化が一定間隔の縞状である場合、反射物標ではないと判別することを特徴とする請求項2に記載の反射物標検出方法。
  4. 画像の空間軸上の輝度の周期的変化の振幅中心に対する正負方向の合算値が所定値以下である場合、反射物標ではないと判別することを特徴とする請求項2又は3に記載の反射物標検出方法。
  5. 前記車両の旋回を検知した時、推定された画像上の反射物標の存在領域内における画像の空間軸上の前記輝度の周期的変化に基づいて、前記反射物標か否かを判別することを特徴とする請求項1〜4のいずれか一項に記載の反射物標検出方法。
  6. 車両のピッチングを検知した時、推定された画像上の反射物標の存在領域内における画像の空間軸上の前記輝度の周期的変化に基づいて、前記反射物標か否かを判別することを特徴とする請求項1〜4のいずれか一項に記載の反射物標検出方法。
  7. 車両周囲に所定の光を投光する投光器と、
    前記所定の光の強度が周期的に変化するように前記投光器を制御する投光制御部と、
    前記車両に搭載され、投光された領域を含む車両周囲を撮像してカメラ画像を取得するカメラと、
    前記カメラが取得したカメラ画像から反射物標を検出する電子回路と、
    を備える反射物標検出装置であって、
    前記電子回路は、
    前記カメラが取得したカメラ画像から前記強度の周期的変化と同期する反射光を抽出し、
    抽出した反射光の輝度に基づいて、画像上の反射物標の存在領域を推定し、
    推定された画像上の反射物標の存在領域内における画像の空間軸上の前記輝度の周期的変化に基づいて、前記反射物標か否かを判別して、前記反射物標を検出する
    ことを特徴とする反射物標検出装置。
JP2016124607A 2016-06-23 2016-06-23 反射物標検出方法及び反射物標検出装置 Pending JP2017228131A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016124607A JP2017228131A (ja) 2016-06-23 2016-06-23 反射物標検出方法及び反射物標検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016124607A JP2017228131A (ja) 2016-06-23 2016-06-23 反射物標検出方法及び反射物標検出装置

Publications (1)

Publication Number Publication Date
JP2017228131A true JP2017228131A (ja) 2017-12-28

Family

ID=60891781

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016124607A Pending JP2017228131A (ja) 2016-06-23 2016-06-23 反射物標検出方法及び反射物標検出装置

Country Status (1)

Country Link
JP (1) JP2017228131A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020071133A1 (ja) * 2018-10-04 2020-04-09 日立オートモティブシステムズ株式会社 標識認識装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020071133A1 (ja) * 2018-10-04 2020-04-09 日立オートモティブシステムズ株式会社 標識認識装置
CN112840349A (zh) * 2018-10-04 2021-05-25 日立安斯泰莫株式会社 标志识别装置
JPWO2020071133A1 (ja) * 2018-10-04 2021-09-02 日立Astemo株式会社 標識認識装置
JP7145227B2 (ja) 2018-10-04 2022-09-30 日立Astemo株式会社 標識認識装置

Similar Documents

Publication Publication Date Title
JP6269838B2 (ja) 自己位置算出装置及び自己位置算出方法
CN109496187B (zh) 用于处理视频数据以通过动态曝光控制来检测和消除闪变光源的系统和方法
US9767545B2 (en) Depth sensor data with real-time processing of scene sensor data
KR101494066B1 (ko) 공간 광 패턴에 기초한 깊이 데이터의 생성
US9769461B2 (en) Adaptive structured light patterns
JP6428924B2 (ja) 信号機検出装置及び信号機検出方法
JP6477876B2 (ja) 信号機検出装置及び信号機検出方法
US10354413B2 (en) Detection system and picture filtering method thereof
US10803625B2 (en) Detection system and picturing filtering method thereof
JP6455596B2 (ja) 灯火器検出装置及び灯火器検出方法
JP2017228131A (ja) 反射物標検出方法及び反射物標検出装置
JP2006252363A (ja) 車両周囲物体検出装置、および車両周囲物体検出方法
JP6432601B2 (ja) 信号機検出装置及び信号機検出方法
JP5277650B2 (ja) 光検出装置及び光検出方法
JP2016038287A (ja) 自己位置算出装置及び自己位置算出方法
JP2014126943A (ja) 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法
JP6236955B2 (ja) 距離測定装置
JP2018005391A (ja) 点滅物体検出方法及び点滅物体検出装置
EP3430472B1 (en) Method of producing video images that are independent of the background lighting
JP6459745B2 (ja) 自己位置算出装置及び自己位置算出方法
JP7277205B2 (ja) 信号機検出方法及び信号機検出装置
JP6079342B2 (ja) 画像処理装置および画像処理方法
CN115916034A (zh) 确定像素信息