JP2009259086A - 車両用画像処理装置、立体物判定方法及び画像処理プログラム - Google Patents

車両用画像処理装置、立体物判定方法及び画像処理プログラム Download PDF

Info

Publication number
JP2009259086A
JP2009259086A JP2008108851A JP2008108851A JP2009259086A JP 2009259086 A JP2009259086 A JP 2009259086A JP 2008108851 A JP2008108851 A JP 2008108851A JP 2008108851 A JP2008108851 A JP 2008108851A JP 2009259086 A JP2009259086 A JP 2009259086A
Authority
JP
Japan
Prior art keywords
vehicle
image
image processing
area
position information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008108851A
Other languages
English (en)
Other versions
JP4557041B2 (ja
Inventor
Kenta Hogi
健太 保木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2008108851A priority Critical patent/JP4557041B2/ja
Priority to US12/386,160 priority patent/US8102421B2/en
Publication of JP2009259086A publication Critical patent/JP2009259086A/ja
Application granted granted Critical
Publication of JP4557041B2 publication Critical patent/JP4557041B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

【課題】車両前方の撮影画像に基づく立体物判定を前方物体までの距離に関係なく良好に行う。
【解決手段】立体物判定用処理領域決定部11は、レーダ22により検出された前方物体についての距離、横位置及び反射強度の情報に基づき、カメラ21により撮影された撮影画像における前方物体の存在する領域を処理領域として特定する。そして、特定した処理領域の画像を撮影画像から切り出し、立体物判定部12へ出力する。立体物判定部12は、立体物判定用処理領域決定部11から入力した処理領域の画像から検出されるエッジに基づき、前方物体が立体物であるか否かの判定を行う。
【選択図】図1

Description

本発明は、車両前方の撮影画像に基づき立体物を判定するための車両用画像処理装置、立体物判定方法及び画像処理プログラムに関するものである。
近年、車両の前方を撮影する車載カメラを利用して、前方に存在する障害物を検出する技術が提案されている。
例えば特許文献1には、異なる時刻の撮影画像に基づき画像内の物体が道路上の立体物か平面物かを判定する車両用画像処理装置が示されている。この車両用画像処理装置は、車載カメラから異なる時刻T0,T1の撮影画像を取得し、また、車両挙動測定装置で車速などを検出する。そして、時刻T0で得られた画像と車両の走行状態から、画像内の物体が道路上の平面物であると仮定した場合に時刻T1で得られるであろう位置を算出し、実際に時刻T1で得られた画像と比較する。この比較の結果、両者が一致すれば物体は平面物であると判定し、一致しない場合には物体は立体物であると判定する。
特開平10−222679号公報
しかしながら、前述した特許文献1に記載の構成は、異なる時刻の撮影画像に基づく判定のため、異なる時刻間の時間差が短いと、遠方の物体の画像上の変化量が小さくなり過ぎて、正確な判定結果が得られにくくなってしまう。かといって、時間差を長くすると、近傍の物体の画像上の変化が大きくなり過ぎて、処理負荷が高くなったり正確な判定結果が得られにくくなったりするという問題がある。
本発明は、こうした問題にかんがみてなされたものであり、前方物体までの距離に関係なく良好な判定結果を得ることのできる車両用画像処理装置、立体物判定方法及び画像処理プログラムを提供することを目的としている。
上記目的を達成するためになされた本発明の請求項1に記載の車両用画像処理装置では、画像取得手段が、車両前方の撮影画像を取得し、位置情報取得手段が、車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する。そして、領域特定手段が、撮影画像における前方物体の存在する領域を位置情報に基づき特定し、判定手段が、領域特定手段により特定された領域の画像から検出されるエッジに基づき前方物体が立体物であるか否かを判定する。
このような車両用画像処理装置によれば、撮影画像から検出されるエッジに基づく判定のため、前方物体までの距離に関係なく良好な判定結果を得ることができる。特に、本発明の車両用画像処理装置は、単に撮影画像から検出されるエッジに基づき立体物の判定を行うのではなく、撮影画像における前方物体の存在する領域を特定し、その領域の画像から検出されるエッジに基づき判定を行うようにしているため、高い判定精度を実現することができるとともに、処理負荷を低減することができる。
ここで、車両前方の撮影画像には、道路の白線などのように斜め方向のエッジが存在することが多く、その垂直エッジ成分により誤判定が生じる可能性がある。
そこで、請求項2に記載の車両用画像処理装置では、判定手段は、水平エッジ値を差し引いた垂直エッジ値に基づき前方物体が立体物であるか否かを判定する。このような車両用画像処理装置によれば、斜め方向のエッジの垂直エッジ値は水平エッジ値により相殺されるため、斜め方向のエッジの垂直エッジ成分による誤判定を生じにくくすることができる。
ところで、垂直エッジ値に基づき立体物を判定する場合、車両や電柱などのように横幅の比較的小さい物体については垂直エッジ値の最大値に基づく判定が好ましく、建物や路側物などのように横幅が比較的大きく複雑な物体については垂直エッジ値の平均値に基づく判定が好ましい。
そこで、請求項3に記載の車両用画像処理装置では、判定手段は、領域における各画素の垂直エッジ値を垂直方向の列ごとにそれぞれ合計した合計エッジ値の最大値が最大値判定用のしきい値以上であること、及び、合計エッジ値の平均値が平均値判定用のしきい値以上であること、の少なくともいずれか一方の条件が満たされた場合に、立体物であると判定する。このような車両用画像処理装置によれば、前方物体の種類に関係なく立体物を良好に検出することができる。
特に、請求項4に記載のように、位置情報取得手段が、少なくとも反射波の反射強度を取得するものであり、判定手段が、最大値判定用のしきい値及び平均値判定用のしきい値のうち少なくとも一方を、反射強度に応じて変更するようにすれば、判定精度を向上させることが可能となる。例えば、反射強度が高ければ車両の可能性が高いため、しきい値を低く変更して立体物であると判定されやすくすることができる。
一方、請求項5に記載の車両用画像処理装置では、位置情報取得手段は、請求項4と同様、少なくとも反射波の反射強度を取得するものであり、領域特定手段は、反射強度に基づき領域の大きさを変更する。このような車両用画像処理装置によれば、領域の大きさを適切な大きさに変更することで判定精度を向上させることが可能となる。例えば、反射強度が高ければ大型車(トラック)である可能性が高いため、領域を大きくすることでエッジが確実に領域に含まれるようにすることができる。また、前方物体の接近に伴い反射強度が減少する傾向にある場合には道路の情報に設置された看板等である可能性が高いため、領域を小さくすることで立体物と判定されにくくすることができる。
また、請求項6に記載の車両用画像処理装置では、領域特定手段は、前方物体までの距離に応じて領域の位置を補正する。このような車両用画像処理装置によれば、領域の位置を適切な位置に補正することで判定精度を向上させることが可能となる。例えば、前方物体が先行車両である場合、先行車両後面の下端位置は道路よりも高い位置であり、近傍に存在するほど画像上での先行車両の位置と位置情報との差が大きくなるため、領域を上方へ補正することで先行車両の後面が確実に領域に含まれるようにすることができる。なお、対向車両であっても同様である。
また、請求項7に記載の車両用画像処理装置では、領域特定手段は、前方物体が車両であるとした場合に、前方物体までの距離が、その車両の手前面位置までの距離から、その車両の手前側のタイヤの路面接触位置までの距離に補正されるように、領域の位置を上方へ補正する。このような車両用画像処理装置によれば、領域の位置を適切な位置に補正することで判定精度を向上させることが可能となる。すなわち、前方物体が車両(先行車両又は対向車両)である場合、車両の手前面(先行車両であれば車両後面、対向車両であれば車両前面)の下端位置は道路よりも高い位置であり、単純に車両の手前面までの距離に基づき領域を特定すると、車両の手前面における路面から離れた空間部分までもが領域に含まれることとなり、エッジを検出する対象となる車両本体の領域に含まれる割合が小さくなってしまう(又は全く含まれなくなってしまう)。このため、前方物体までの距離が、その車両の手前面位置までの距離から、その車両の手前側のタイヤ(先行車両であれば後輪タイヤ、対向車両であれば前輪タイヤ)の路面接触位置までの距離に補正されるように領域を上方へ補正することで、車両の手前面が確実に領域に含まれるようにすることができる。
次に、請求項8に記載の立体物判定方法は、車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する位置情報取得ステップと、車両前方の撮影画像における前方物体の存在する領域を位置情報に基づき特定する領域特定ステップと、領域特定ステップで特定した領域の画像から検出されるエッジに基づき前方物体が立体物であるか否かを判定する判定ステップとを備える。
このような立体物判定方法によれば、請求項1に記載の車両用画像処理装置と同様の効果を得ることができる。
次に、請求項9に記載の画像処理プログラムは、車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する位置情報取得手段と、車両前方の撮影画像における前方物体の存在する領域を位置情報に基づき特定する領域特定手段と、領域特定手段により特定された領域の画像から検出されるエッジに基づき前方物体が立体物であるか否かを判定する判定手段としてコンピュータを機能させる。
このような画像処理プログラムによれば、請求項1に記載の車両用画像処理装置としてコンピュータを機能させることができ、これにより前述した効果を得ることができる。
以下、本発明が適用された実施形態について、図面を用いて説明する。
[1.全体構成]
図1は、実施形態の車両用画像処理装置10の構成を表すブロック図である。
この車両用画像処理装置10は、CPU、ROM、RAM、入出力インタフェース等を備える電子制御装置であり、自車両(当該車両用画像処理装置10が搭載された車両)に搭載されている車載カメラ(以下、単に「カメラ」という。)21及びミリ波レーダ(以下、単に「レーダ」という。)22からの情報に基づき、自車両前方に存在する立体物を検出する。
カメラ21は、自車両前方を撮影するためのものであり、自車両の室内における所定位置、例えばルームミラーの裏側に設置されている。なお、カメラ21には、公知のCCDイメージセンサ、あるいはCMOSイメージセンサに加え、増幅部及びA/D変換部が内蔵されている。これら増幅部及びA/D変換部は、イメージセンサによって画像が撮影された際に、その画像の各画素の明るさを示すアナログ信号を所定のゲインで増幅し、かつ増幅したアナログ値をデジタル値に変換する。そして、カメラ21は、このデジタル値に変換した信号(画素値)を画像信号として出力する。
レーダ22は、周波数変調されたミリ波帯のレーダ波を図示しないアンテナから自車両前方へ照射するとともにその反射波をアンテナにて検出し、検出した反射波に基づいて、自車両前方に存在する物体に関する情報、具体的には、自車両からの距離、自車両に対する横位置及び反射波の反射強度を検出する。なお、レーダ22は、自車両前方において水平(左右)方向に広がる所定角度範囲内に存在する物体を検出する。
車両用画像処理装置10は、あらかじめ記憶されているプログラムに従い処理を実行することにより、図1に示す立体物判定用処理領域決定部11及び立体物判定部12として機能する。
立体物判定用処理領域決定部11は、レーダ22により検出された前方物体についての距離、横位置及び反射強度の情報に基づき、カメラ21により撮影された撮影画像における前方物体の存在する領域を処理領域として特定する。そして、特定した処理領域の画像を撮影画像から切り出し、立体物判定部12へ出力する。
立体物判定部12は、立体物判定用処理領域決定部11から入力した処理領域の画像から検出されるエッジに基づき、前方物体が立体物であるか否かの判定を行う。そして、その判定結果を他の車載装置(例えば、プリクラッシュシステムの処理を実行する制御装置)へ出力する。
[2.処理]
次に、車両用画像処理装置10が所定時間ごと(例えば100msごと)に実行する立体物判定処理について、図2のフローチャートを用いて説明する。
車両用画像処理装置10は、この立体物判定処理を開始すると、まずS101で、カメラ21により撮影された撮影画像を入力する。
続いて、S102では、レーダ22により検出された前方物体についての情報(距離、横位置及び反射強度)を入力する。
続いて、S103では、S102で入力した距離及び横位置の情報に基づき、撮影画像における前方物体の位置を計算し、前方物体の存在する領域を処理領域として特定する。
ここで、処理領域の大きさは一定としてもよいが、本実施形態では、S102で入力した反射強度に応じて処理領域の大きさを変更する。図3は、処理領域の大きさを設定するための処理領域設定処理のフローチャートである。
車両用画像処理装置10は、この処理領域設定処理を開始すると、まずS201で、過去10フレーム分の反射強度の平均値を算出する。
続いて、S202では、S201で算出した平均反射強度があらかじめ設定されている第1しきい値以上であるか否かを判定する。
そして、S202で、平均反射強度が第1しきい値以上であると判定した場合には、S203へ移行し、処理領域の大きさを通常の大きさ(図4(b))よりも大きく設定する(図4(a))。その後、本処理領域設定処理を終了する。
一方、S202で、平均反射強度が第1しきい値以上でないと判定した場合には、S204へ移行し、平均反射強度があらかじめ設定されている第2しきい値以上であるか否かを判定する。なお、第2しきい値は、第1しきい値未満の値に設定されている。
そして、S204で、平均反射強度が第2しきい値以上であると判定した場合には、S205へ移行し、処理領域の大きさを通常の大きさに設定する(図4(b))。その後、本処理領域設定処理を終了する。
一方、S204で、平均反射強度が第2しきい値以上でないと判定した場合には、S206へ移行し、処理領域の大きさを通常の大きさ(図4(b))よりも小さく設定する(図4(c))。その後、本処理領域設定処理を終了する。
つまり、この処理領域設定処理では、図4(a)〜(c)に示すように、平均反射強度が高いほど処理領域を大きく設定するようにしている。なお、平均反射強度ではなく、最新の反射強度のみに基づき処理領域を設定することも可能ではあるが、検出値のばらつきの影響を抑えることができるという面では平均反射強度を用いることが好ましい。
図2に戻り、S104では、前方物体までの距離が、あらかじめ設定されている距離判定しきい値未満であるか否かを判定する。つまり、前方物体が自車両の近傍に存在しているか否かを判定する。
そして、S104で、前方物体までの距離が距離判定しきい値未満であると判定した場合には、S105へ移行し、S103で特定した処理領域の撮影画像における位置を、あらかじめ設定されている補正量だけ上方へ移動させる補正処理を行った後、S106へ移行する。
すなわち、図5(a)に示すように、前方物体が車両(先行車両)の場合、レーダ22により自車両からの距離が検出される先行車両の後面と、実際に路面に接触している後輪タイヤのタイヤ面との間には距離差がある。このため、単純に車両後面までの距離に基づき処理領域を設定すると、車両後面における路面から離れた空間部分までもが処理領域に含まれることとなり、エッジを検出する対象となる車両本体の処理領域に含まれる割合が小さくなってしまう(又は全く含まれなくなってしまう)。そして、この現象は、図5(b)に示すように、先行車両までの距離が短いほど顕著となる。また、対向車両についても同様のことが言える。そこで、前方物体までの距離が短い場合には、自車両から前方物体までの距離が、車両の手前面の位置(先行車両であれば後面位置、対向車両であれば前面位置)までの距離から、車両の手前側のタイヤ(先行車両であれば後輪タイヤ、対向車両であれば前輪タイヤ)の路面接触位置までの距離に補正されるように、処理領域の位置を上方へ補正する。
一方、S104で、前方物体までの距離が距離判定しきい値未満でないと判定した場合には、そのままS106へ移行する。
S106では、処理領域の画像を撮影画像から切り出す処理を行う。
続いて、S107では、S106で切り出した処理領域の画像(切り出し画像)に基づき垂直エッジ画像及び水平エッジ画像を作成する。具体的には、図6に示すように、水平方向のエッジを検出するための3×3のSobelフィルタによるフィルタ処理を切り出し画像に対して施すことにより、水平エッジの強調された水平エッジ画像を作成する。同様に、垂直方向のエッジを検出するための3×3のSobelフィルタによるフィルタ処理を切り出し画像に対して施すことにより、垂直エッジの強調された垂直エッジ画像を作成する。
続いて、S108では、S107で作成した垂直エッジ画像の各画素値(垂直エッジ値)から、S107で作成した水平エッジ画像の対応する画素値(水平エッジ値)を差し引く処理を行う(垂直エッジ値−水平エッジ値=処理後の垂直エッジ値)。この処理により、斜め方向のエッジの垂直エッジ値は水平エッジ値により相殺されることとなる。なお、処理後の値がマイナスになる場合(垂直エッジよりも水平エッジの方が大きい場合)には値を0とする。
続いて、S109では、図7に示すように、処理領域の画像において各画素の垂直エッジ値(S108で水平エッジ値を差し引いた後の値)を垂直方向(Y方向)の列ごとに足し合わせて縦列エッジ量(合計エッジ値)を算出し、更にS110では、列ごとに算出した縦列エッジ量の最大値及び平均値を求める。
続いて、S111では、後述するS112及びS114の判定処理に用いる最大値しきい値及び平均値しきい値を設定する。具体的には、図8(a),(b)に示すように、反射強度と最大値しきい値との関係を示す最大値しきい値変換マップと、反射強度と平均値しきい値との関係を示す平均値しきい値変換マップとがあらかじめ記憶されており、S102で入力した反射強度に対応する最大値しきい値及び平均値しきい値を、各変換マップを参照することにより設定する。
なお、図8(a)の最大値しきい値変換マップでは、反射強度が低い場合(この例では−60以下の場合)には最大値しきい値が高く(この例では1000に)設定され、反射強度が高い場合(この例では−35以上の場合)には最大値しきい値が低く(この例では500に)設定される。また、図8(b)の平均値しきい値変換マップでは、反射強度が低い場合(この例では−60以下の場合)には平均値しきい値が高く(この例では140に)設定され、反射強度が高い場合(この例では−35以上の場合)には平均値しきい値が低く(この例では70に)設定される。
続いて、S112では、S110で算出した縦列エッジ量の最大値が、S111で設定した最大値しきい値以上であるか否かを判定する。
そして、S112で、縦列エッジ量の最大値が最大値しきい値以上であると判定した場合には、S113へ移行して立体物と判定する。その後、本立体物判定処理を終了する。
一方、S112で、縦列エッジ量の最大値が最大値しきい値以上でないと判定した場合には、S114へ移行し、S110で算出した縦列エッジ量の平均値が、S111で設定した平均値しきい値以上であるか否かを判定する。
そして、S114で、縦列エッジ量の平均値が平均値しきい値以上であると判定した場合には、S113へ移行して立体物と判定する。その後、本立体物判定処理を終了する。
一方、S114で、縦列エッジ量の平均値が平均値しきい値以上でないと判定した場合には、S1115へ移行して非立体物と判定する。その後、本立体物判定処理を終了する。
[3.効果]
以上説明したように、本実施形態の車両用画像処理装置10は、レーダ22により検出された前方物体についての距離、横位置及び反射強度の情報に基づき、カメラ21により撮影された撮影画像における前方物体の存在する領域を処理領域として特定する(S101〜S106)。そして、特定した処理領域の画像から検出されるエッジに基づき前方物体が立体物であるか否かを判定する(S107〜S113)。
このような車両用画像処理装置10によれば、撮影画像から検出されるエッジに基づき立体物の判定を行うようにしているため、前方物体までの距離に関係なく良好な判定結果を得ることができる。すなわち、図9に示すように、異なる時刻(例えばt[ms]とt+100[ms]の撮影画像に基づき立体物の判定を行う場合には、前方物体までの距離が大きいほど撮影画像における変化量(移動量)が小さくなり、判定が困難となる。加えて、ピッチング等の車両挙動の補正など、多くの画像補正処理が必要となる。これに対し、本実施形態のように単一の撮影画像から検出されるエッジに基づき立体物の判定を行うものでは、遠方の前方物体についても比較的良好な判定結果を得ることができる。また、この判定方法によれば、自車両及び前方物体が共に停止している状態においても立体物の判定を行うことが可能となる。
特に、この車両用画像処理装置10は、単に撮影画像から検出されるエッジに基づき立体物の判定を行うのではなく、撮影画像における前方物体の存在する領域を処理領域として特定し、その処理領域の画像から検出されるエッジに基づき判定を行うようにしているため、高い判定精度を実現することができるとともに、処理負荷を低減することができる。
また、この車両用画像処理装置10では、水平エッジ値を差し引いた垂直エッジ値に基づき前方物体が立体物であるか否かを判定するようにしているため(S107,S108)、斜め方向のエッジの垂直エッジ値は水平エッジ値により相殺されることとなり、道路の白線などのような斜め方向のエッジの垂直エッジ成分による誤判定を生じにくくすることができる。
さらに、この車両用画像処理装置10では、処理領域における各画素の垂直エッジ値を垂直方向の列ごとにそれぞれ合計した縦列エッジ量の最大値が最大値しきい値以上であること、及び、縦列エッジ量の平均値が平均値しきい値以上であること、の少なくともいずれか一方の条件が満たされた場合に、立体物であると判定する(S112〜S114)。このため、前方物体の種類(車両や電柱などのように横幅が比較的小さい物体や、建物や路側物などのように横幅が比較的大きく複雑な物体など)に関係なく、立体物を良好に検出することができる。
特に、この車両用画像処理装置10では、反射強度が高いほど最大値しきい値及び平均値しきい値を低くするようにしているため(S111)、車両のように反射強度の比較的高い物体については立体物と判定されやすくなり、判定精度を向上させることができる。
一方、この車両用画像処理装置10では、反射強度が高いほど処理領域を大きくするようにしているため(S201〜S206)、大型車(トラック)のように反射強度の高い物体については処理領域を大きくすることでエッジが確実に処理領域に含まれるようになり、判定精度を向上させることができる。
加えて、この車両用画像処理装置10では、前方物体までの距離が近い場合には処理領域の位置を上方へ補正するようにしているため(S104,S105)、処理領域の位置が適切な位置となり、判定精度を向上させることができる。
[4.特許請求の範囲との対応]
なお、本実施形態の車両用画像処理装置10では、S101の処理を実行する車両用画像処理装置10が画像取得手段に相当し、S102の処理を実行する車両用画像処理装置10が位置情報取得手段に相当し、S103〜S106の処理を実行する車両用画像処理装置10が領域特定手段に相当し、S107〜S113の処理を実行する車両用画像処理装置10が判定手段に相当する。
[5.他の形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
[5−1.処理領域設定処理]
上記実施形態の車両用画像処理装置10では、平均反射強度が高いほど処理領域を大きく設定するようにしているが、これに限定されるものではなく、例えば反射強度の変化に応じて処理領域を設定するようにしてもよい。具体的には、車両用画像処理装置10が、前述した図3の処理領域設定処理に代えて、図10に示す処理領域設定処理を実行することにより実現される。
車両用画像処理装置10は、この処理領域設定処理を開始すると、まずS301で、自車両が前方物体に近づくにつれて反射強度が減少する傾向にあるか否かを判定する。なお、この判定は、例えば、過去10フレーム分の平均反射強度の増減に基づき行うことができる。
そして、S301で、反射強度が減少する傾向にあると判定した場合には、S302へ移行し、処理領域の大きさを通常の大きさよりも小さく設定する。その後、本処理領域設定処理を終了する。
一方、S301で、反射強度が減少する傾向にないと判定した場合には、S303へ移行し、処理領域の大きさを通常の大きさに設定する。その後、本処理領域設定処理を終了する。
つまり、この処理領域設定処理では、反射強度が減少する傾向にある場合に処理領域を小さく設定するようにしている。例えば、前方物体が道路の上方に設置された看板の場合、距離が近づくにつれて自車両に対する上方への角度が大きくなるため、反射強度が徐々に減少する。そこで、反射強度が減少する傾向にある場合には処理領域を小さくすることで、立体物と判定されにくくしている。この結果、判定精度を向上させることができる。なお、看板と判定した場合には処理領域を上方に延長する(又は移動させる)ようにしてもよい。
[5−2.しきい値設定処理]
上記実施形態の車両用画像処理装置10では、反射強度に対応する最大値しきい値及び平均値しきい値を、最大値しきい値変換マップ及び平均値しきい値変換マップを参照することにより設定するようにしているが、これに限定されるものではなく、例えば、図11に示す処理に従い設定するようにしてもよい。
図11は、最大値しきい値及び平均値しきい値を設定するために車両用画像処理装置10が実行するしきい値設定処理のフローチャートである。
車両用画像処理装置10は、このしきい値設定処理を開始すると、まずS401で、最大値しきい値を500に設定する。
続いて、S402では、平均値しきい値を70に設定する。
続いて、S403では、反射強度があらかじめ設定されているしきい値(例えば−60)以上であるか否かを判定する。
そして、S403で、反射強度がしきい値以上でないと判定した場合には、S404へ移行し、最大値しきい値及び平均値しきい値をそれぞれ2倍した後、本しきい値設定処理を終了する。
一方、S403で、反射強度がしきい値以上であると判定した場合には、そのまま本しきい値設定処理を終了する。
このようなしきい値設定処理を実行することにより、図8(a),(b)に示したような変換マップを用いることなく、最大値しきい値及び平均値しきい値を設定することができる。
[5−3.処理領域の位置の補正]
上記実施形態の車両用画像処理装置10では、前方物体までの距離が距離判定しきい値未満であると判定した場合に、処理領域の撮影画像における位置をあらかじめ設定されている補正量だけ上方へ移動させる補正処理を行うようにしているが、これに限定されるものではない。例えば、撮影画像を解析して前方物体である車両の手前側のタイヤ(先行車両であれば後輪タイヤ、対向車両であれば前輪タイヤ)の路面接触位置を検出し、処理領域の下端がタイヤの路面接触位置となるように処理領域の位置を補正するようにしてもよい。また、タイヤの路面接触位置に代えて、車両の影の位置を検出することにより同様の補正を行うことも可能である。
[5−4.レーダ]
上記実施形態の車両用画像処理装置10では、レーダとしてミリ波レーダを例示したが、これに限定されるものではなく、例えば、レーザ光や超音波を照射するレーダを用いることも可能である。
実施形態の車両用画像処理装置の構成を表すブロック図である。 実施形態の立体物判定処理のフローチャートである。 実施形態の処理領域設定処理のフローチャートである。 平均反射強度が高いほど処理領域を大きく設定する処理の説明図である。 前方物体までの距離が短い場合に処理領域の位置を上方へ補正する処理の説明図である。 垂直エッジ画像及び水平エッジ画像を作成する処理の説明図である。 縦列エッジ量の最大値及び平均値を求める処理の説明図である。 最大値しきい値変換マップ及び平均値しきい値変換マップの説明図である。 異なる時刻の撮影画像に基づき立体物の判定を行う処理の説明図である。 変形例としての処理領域設定処理のフローチャートである。 変形例としてのしきい値設定処理のフローチャートである。
符号の説明
10…車両用画像処理装置、11…立体物判定用処理領域決定部、12…立体物判定部、21…カメラ、22…レーダ

Claims (9)

  1. 車両前方の撮影画像を取得する画像取得手段と、
    車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する位置情報取得手段と、
    前記撮影画像における前記前方物体の存在する領域を前記位置情報に基づき特定する領域特定手段と、
    前記領域特定手段により特定された領域の画像から検出されるエッジに基づき前記前方物体が立体物であるか否かを判定する判定手段と、
    を備えることを特徴とする車両用画像処理装置。
  2. 前記判定手段は、水平エッジ値を差し引いた垂直エッジ値に基づき前記前方物体が立体物であるか否かを判定すること
    を特徴とする請求項1に記載の車両用画像処理装置。
  3. 前記判定手段は、前記領域における各画素の垂直エッジ値を垂直方向の列ごとにそれぞれ合計した合計エッジ値の最大値が最大値判定用のしきい値以上であること、及び、前記合計エッジ値の平均値が平均値判定用のしきい値以上であること、の少なくともいずれか一方の条件が満たされた場合に、立体物であると判定すること
    を特徴とする請求項1又は請求項2に記載の車両用画像処理装置。
  4. 前記位置情報取得手段は、少なくとも前記反射波の反射強度を取得するものであり、
    前記判定手段は、前記最大値判定用のしきい値及び前記平均値判定用のしきい値のうち少なくとも一方を、前記反射強度に応じて変更すること
    を特徴とする請求項3に記載の車両用画像処理装置。
  5. 前記位置情報取得手段は、少なくとも前記反射波の反射強度を取得するものであり、
    前記領域特定手段は、前記反射強度に基づき前記領域の大きさを変更すること
    を特徴とする請求項1から請求項4までのいずれか1項に記載の車両用画像処理装置。
  6. 前記領域特定手段は、前記前方物体までの距離に応じて前記領域の位置を補正すること
    を特徴とする請求項1から請求項5までのいずれか1項に記載の車両用画像処理装置。
  7. 前記領域特定手段は、前記前方物体が車両であるとした場合に、前記前方物体までの距離が、その車両の手前面位置までの距離から、その車両の手前側のタイヤの路面接触位置までの距離に補正されるように、前記領域の位置を上方へ補正すること
    を特徴とする請求項1から請求項5までのいずれか1項に記載の車両用画像処理装置。
  8. 車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する位置情報取得ステップと、
    車両前方の撮影画像における前記前方物体の存在する領域を前記位置情報に基づき特定する領域特定ステップと、
    前記領域特定ステップで特定した領域の画像から検出されるエッジに基づき前記前方物体が立体物であるか否かを判定する判定ステップと、
    を備えることを特徴とする立体物判定方法。
  9. 車両前方に照射された送信波の反射波に基づく前方物体の位置情報を取得する位置情報取得手段と、
    車両前方の撮影画像における前記前方物体の存在する領域を前記位置情報に基づき特定する領域特定手段と、
    前記領域特定手段により特定された領域の画像から検出されるエッジに基づき前記前方物体が立体物であるか否かを判定する判定手段
    としてコンピュータを機能させることを特徴とする画像処理プログラム。
JP2008108851A 2008-04-18 2008-04-18 車両用画像処理装置 Expired - Fee Related JP4557041B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008108851A JP4557041B2 (ja) 2008-04-18 2008-04-18 車両用画像処理装置
US12/386,160 US8102421B2 (en) 2008-04-18 2009-04-14 Image processing device for vehicle, image processing method of detecting three-dimensional object, and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008108851A JP4557041B2 (ja) 2008-04-18 2008-04-18 車両用画像処理装置

Publications (2)

Publication Number Publication Date
JP2009259086A true JP2009259086A (ja) 2009-11-05
JP4557041B2 JP4557041B2 (ja) 2010-10-06

Family

ID=41200786

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008108851A Expired - Fee Related JP4557041B2 (ja) 2008-04-18 2008-04-18 車両用画像処理装置

Country Status (2)

Country Link
US (1) US8102421B2 (ja)
JP (1) JP4557041B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011058822A1 (ja) * 2009-11-12 2011-05-19 クラリオン株式会社 車両周囲表示装置、車両周囲表示方法
CN109872530A (zh) * 2017-12-05 2019-06-11 广州腾讯科技有限公司 一种路况信息的生成方法、车载终端及服务器

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5761451B2 (ja) 2012-03-29 2015-08-12 トヨタ自動車株式会社 路面状態推定装置
JP6550881B2 (ja) * 2014-07-14 2019-07-31 株式会社リコー 立体物検出装置、立体物検出方法、立体物検出プログラム、及び移動体機器制御システム
US10629079B2 (en) * 2016-12-05 2020-04-21 Ford Global Technologies, Llc Vehicle collision avoidance
US20190065878A1 (en) * 2017-08-22 2019-02-28 GM Global Technology Operations LLC Fusion of radar and vision sensor systems
JP7203512B2 (ja) * 2018-05-17 2023-01-13 株式会社小糸製作所 センサデータ生成装置
US11518384B2 (en) * 2018-12-07 2022-12-06 Thinkware Corporation Method for displaying lane information and apparatus for executing the method
CN112017239B (zh) * 2019-05-31 2022-12-20 北京市商汤科技开发有限公司 确定目标对象朝向方法、智能驾驶控制方法和装置及设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003308599A (ja) * 2002-04-17 2003-10-31 Nissan Motor Co Ltd 走行路環境検出装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3123303B2 (ja) 1992-07-21 2001-01-09 日産自動車株式会社 車両用画像処理装置
JPH10222679A (ja) 1997-02-04 1998-08-21 Toyota Motor Corp 車両用画像処理装置
GB9804112D0 (en) * 1998-02-27 1998-04-22 Lucas Ind Plc Road profile prediction
US20020134151A1 (en) * 2001-02-05 2002-09-26 Matsushita Electric Industrial Co., Ltd. Apparatus and method for measuring distances
JP3880837B2 (ja) * 2001-11-02 2007-02-14 富士重工業株式会社 車外監視装置
WO2003093857A2 (en) * 2002-05-03 2003-11-13 Donnelly Corporation Object detection system for vehicle
JP4328692B2 (ja) * 2004-08-11 2009-09-09 国立大学法人東京工業大学 物体検出装置
DE102006005044B4 (de) * 2006-02-03 2011-01-27 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung
JP4956799B2 (ja) * 2006-05-09 2012-06-20 日産自動車株式会社 車両周辺画像提供装置及び車両周辺画像提供方法
JP4797794B2 (ja) * 2006-05-24 2011-10-19 日産自動車株式会社 歩行者検出装置および歩行者検出方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003308599A (ja) * 2002-04-17 2003-10-31 Nissan Motor Co Ltd 走行路環境検出装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011058822A1 (ja) * 2009-11-12 2011-05-19 クラリオン株式会社 車両周囲表示装置、車両周囲表示方法
CN109872530A (zh) * 2017-12-05 2019-06-11 广州腾讯科技有限公司 一种路况信息的生成方法、车载终端及服务器
CN109872530B (zh) * 2017-12-05 2022-02-15 广州腾讯科技有限公司 一种路况信息的生成方法、车载终端及服务器

Also Published As

Publication number Publication date
US20090262188A1 (en) 2009-10-22
US8102421B2 (en) 2012-01-24
JP4557041B2 (ja) 2010-10-06

Similar Documents

Publication Publication Date Title
JP4557041B2 (ja) 車両用画像処理装置
JP5991332B2 (ja) 衝突回避制御装置
JP4608631B2 (ja) 車両用画像処理装置、運転支援装置
JP4858574B2 (ja) 物体検出装置
JP5012718B2 (ja) 画像処理装置
US11014566B2 (en) Object detection apparatus
JP6540009B2 (ja) 画像処理装置、画像処理方法、プログラム、画像処理システム
WO2017057058A1 (ja) 情報処理装置、情報処理方法、およびプログラム
KR101787996B1 (ko) 차선 추정 장치 및 그 방법
JP6363519B2 (ja) 車両制御装置
JP2007024590A (ja) 物体検出装置
US20080106462A1 (en) Object detection system and object detection method
US20090184845A1 (en) Vehicle Detecting System
JP2012058983A (ja) 車線推定装置
WO2020196513A1 (ja) 物体検出装置
JP2009157085A (ja) 露出制御装置及び露出制御プログラム
JP2016218649A (ja) 走行支援装置
JP2014051241A (ja) 車両制御装置
JP6481539B2 (ja) 車両用レーダ装置
US8682033B2 (en) Boundary detection device for vehicles
JP2020066246A (ja) 路面状態推定装置
JP2010006270A (ja) 車両挙動検出装置
JP4823282B2 (ja) 周辺監視センサ
JP4905496B2 (ja) 物体検出装置
EP2919191B1 (en) Disparity value deriving device, equipment control system, movable apparatus, robot, and disparity value producing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100629

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100712

R151 Written notification of patent or utility model registration

Ref document number: 4557041

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees