JPWO2014017601A1 - 立体物検出装置および立体物検出方法 - Google Patents

立体物検出装置および立体物検出方法 Download PDF

Info

Publication number
JPWO2014017601A1
JPWO2014017601A1 JP2014527010A JP2014527010A JPWO2014017601A1 JP WO2014017601 A1 JPWO2014017601 A1 JP WO2014017601A1 JP 2014527010 A JP2014527010 A JP 2014527010A JP 2014527010 A JP2014527010 A JP 2014527010A JP WO2014017601 A1 JPWO2014017601 A1 JP WO2014017601A1
Authority
JP
Japan
Prior art keywords
dimensional object
object detection
lens
turbidity
detection result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014527010A
Other languages
English (en)
Other versions
JP5943077B2 (ja
Inventor
修 深田
修 深田
早川 泰久
泰久 早川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Application granted granted Critical
Publication of JP5943077B2 publication Critical patent/JP5943077B2/ja
Publication of JPWO2014017601A1 publication Critical patent/JPWO2014017601A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

撮像画像に基づいて立体物を検出する第1立体物検出手段33と、自車両後方に存在する光源を検出する光源検出手段34と、光源に基づいて立体物を検出する第2立体物検出手段35と、立体物が隣接車両であるか否かを判断する立体物判断手段37と、撮像画像に基づいて、レンズ白濁度を算出する白濁度算出手段38と、レンズ白濁度が所定の判定値以上である場合には少なくとも第2立体物検出手段による検出結果に基づいて、立体物が隣接車両であるか否かを判断し、レンズ白濁度が判定値未満である場合には、少なくとも第1立体物検出手段による検出結果に基づいて、立体物が隣接車両であるか否かを判断する制御手段37と、を備えることを特徴とする立体物検出装置。

Description

本発明は、立体物検出装置および立体物検出方法に関するものである。
本出願は、2012年7月27日に出願された日本国特許出願の特願2012―166519に基づく優先権を主張するものであり、文献の参照による組み込みが認められる指定国については、上記の出願に記載された内容を参照により本出願に組み込み、本出願の記載の一部とする。
従来より、異なる時刻に撮像された2枚の撮像画像を鳥瞰視画像に変換し、変換した2枚の鳥瞰視画像の差分に基づいて、立体物を検出する技術が知られている(特許文献1参照)。
特開2008−227646号公報
カメラで撮像した撮像画像に基づいて、自車両の走行車線に隣接する隣接車線に存在する立体物を隣接車両として検出する場合に、カメラのレンズに水垢などの異物が付着しており、レンズが白濁している場合には、レンズに付着している水垢などの異物により、被写体からの光束の一部が遮られたり、乱反射してしまい、隣接車両を適切に撮像することができず、その結果、隣接車両を適切に検出できない場合があった。
本発明が解決しようとする課題は、レンズに水垢などの異物が付着しており、レンズが白濁している場合でも、隣接車両を適切に検出できる立体物検出装置を提供することである。
本発明は、撮像画像に基づいて立体物を検出する第1立体物検出手段と、自車両後方に存在する光源に基づいて立体物を検出する第2立体物検出手段と、を備える立体物検出装置において、レンズ白濁度を算出し、レンズ白濁度が所定の判定値以上である場合には、少なくとも第2立体物検出手段による検出結果に基づいて立体物が隣接車両であるか否かを判断し、レンズ白濁度が判定値未満である場合には、少なくとも第1立体物検出手段による検出結果に基づいて立体物が隣接車両であるか否かを判断することで、上記課題を解決する。
通常、レンズが白濁している場合には、第1立体物検出手段による検出結果よりも、第2立体物検出手段による検出結果のほうが検出精度は高くなり、反対に、レンズが白濁していない場合には、第2立体物検出手段による検出結果よりも、第1立体物検出手段による検出結果のほうが検出精度は高くなる。本発明によれば、第1立体物検出手段による検出結果および第2立体物検出手段による検出結果を、レンズ白濁度に応じて用いることができるため、隣接車両をレンズが白濁している度合に応じて適切に検出することができる。
立体物検出装置を搭載した車両の概略構成図である。 図1の車両の走行状態を示す平面図である。 計算機の詳細を示すブロック図である。 位置合わせ部の処理の概要を説明するための図であり、(a)は車両の移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。 立体物検出部による差分波形の生成の様子を示す概略図である。 差分波形および立体物を検出するための閾値αの一例を示す図である。 立体物検出部によって分割される小領域を示す図である。 立体物検出部により得られるヒストグラムの一例を示す図である。 立体物検出部による重み付けを示す図である。 立体物検出部により得られるヒストグラムの他の例を示す図である。 本実施形態に係るレンズ白濁度の算出方法を説明するための図である。 本実施形態に係るレンズの白濁度の一例を説明するための図である。 第1実施形態に係る隣接車両検出処理を示すフローチャートである(その1)。 第1実施形態に係る隣接車両検出処理を示すフローチャートである(その2)。 第1実施形態に係る白濁度算出処理を示すフローチャートである。 第2実施形態に係る計算機の詳細を示すブロック図である。 車両の走行状態を示す図であり、(a)は検出領域等の位置関係を示す平面図、(b)は実空間における検出領域等の位置関係を示す斜視図である。 第2実施形態に係る輝度差算出部の動作を説明するための図であり、(a)は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図、(b)は実空間における注目線、参照線、注目点及び参照点の位置関係を示す図である。 第2実施形態に係る輝度差算出部の詳細な動作を説明するための図であり、(a)は鳥瞰視画像における検出領域を示す図、(b)は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図である。 エッジ検出動作を説明するための画像例を示す図である。 エッジ線とエッジ線上の輝度分布を示す図であり、(a)は検出領域に立体物(隣接車両)が存在している場合の輝度分布を示す図、(b)は検出領域に立体物が存在しない場合の輝度分布を示す図である。 第2実施形態に係る隣接車両検出処理を示すフローチャートである(その1)。 第2実施形態に係る隣接車両検出処理を示すフローチャートである(その2)。 第2実施形態に係る白濁度算出処理を示すフローチャートである。
≪第1実施形態≫
図1は、本実施形態に係る立体物検出装置1を搭載した車両の概略構成図である。本実施形態に係る立体物検出装置1は、自車両V1が車線変更する際に接触の可能性がある隣接車線に存在する他車両(以下、隣接車両V2ともいう)を検出することを目的とする。本実施形態に係る立体物検出装置1は、図1に示すように、カメラ10と、車速センサ20と、計算機30とを備える。
カメラ10は、図1に示すように、自車両V1の後方における高さhの箇所において、光軸が水平から下向きに角度θとなるように車両V1に取り付けられている。カメラ10は、この位置から自車両V1の周囲環境のうちの所定領域を撮像する。車速センサ20は、自車両V1の走行速度を検出するものであって、例えば車輪に回転数を検知する車輪速センサで検出した車輪速から車速度を算出する。計算機30は、自車両後方の隣接車線に存在する隣接車両の検出を行う。
図2は、図1の自車両V1の走行状態を示す平面図である。同図に示すように、カメラ10は、所定の画角aで車両後方を撮像する。このとき、カメラ10の画角aは、自車両V1が走行する車線に加えて、その左右の車線(隣接車線)についても撮像可能な画角に設定されている。撮像可能な領域には、自車両V1の後方であり、自車両V1の走行車線の左右隣の隣接車線上の検出対象領域A1,A2を含む。なお、本実施形態における車両後方には、車両の真後ろだけではなく、車両の後ろ側の側方をも含む。撮像される車両後方の領域は、カメラ10の画角に応じて設定される。一例ではあるが、車長方向に沿う車両の真後ろをゼロ度とした場合に、真後ろ方向から左右0度〜90度、好ましくは0度〜70度等の領域を含むように設定できる。
図3は、図1の計算機30の詳細を示すブロック図である。なお、図3においては、接続関係を明確とするためにカメラ10、車速センサ20についても図示する。
図3に示すように、計算機30は、視点変換部31と、位置合わせ部32と、第1立体物検出部33と、ヘッドライト検出部34と、第2立体物検出部35と、白濁度算出部36と、立体物判断部37とを備える。以下に、それぞれの構成について説明する。
視点変換部31は、カメラ10による撮像にて得られた所定領域の撮像画像データを入力し、入力した撮像画像データを鳥瞰視される状態の鳥瞰画像データに視点変換する。鳥瞰視される状態とは、上空から例えば鉛直下向きに見下ろす仮想カメラの視点から見た状態である。この視点変換は、例えば特開2008−219063号公報に記載されるようにして実行することができる。撮像画像データを鳥瞰視画像データに視点変換するのは、立体物に特有の鉛直エッジは鳥瞰視画像データへの視点変換により特定の定点を通る直線群に変換されるという原理に基づき、これを利用すれば平面物と立体物とを識別できるからである。
位置合わせ部32は、視点変換部31の視点変換により得られた鳥瞰視画像データを順次入力し、入力した異なる時刻の鳥瞰視画像データの位置を合わせる。図4は、位置合わせ部32の処理の概要を説明するための図であり、(a)は自車両V1の移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。
図4(a)に示すように、現時刻の自車両V1がPに位置し、一時刻前の自車両V1がP’に位置していたとする。また、自車両V1の後側方向に隣接車両V2が位置して自車両V1と並走状態にあり、現時刻の隣接車両V2がPに位置し、一時刻前の隣接車両V2がP’に位置していたとする。さらに、自車両V1は、一時刻で距離d移動したものとする。なお、一時刻前とは、現時刻から予め定められた時間(例えば1制御周期)だけ過去の時刻であってもよいし、任意の時間だけ過去の時刻であってもよい。
このような状態において、現時刻における鳥瞰視画像PBは図4(b)に示すようになる。この鳥瞰視画像PBでは、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、隣接車両V2(位置P)については倒れ込みが発生する。また、一時刻前における鳥瞰視画像PBt−1についても同様に、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、隣接車両V2(位置P’)については倒れ込みが発生する。既述したとおり、立体物の鉛直エッジ(厳密な意味の鉛直エッジ以外にも路面から三次元空間に立ち上がったエッジを含む)は、鳥瞰視画像データへの視点変換処理によって倒れ込み方向に沿った直線群として現れるのに対し、路面上の平面画像は鉛直エッジを含まないので、視点変換してもそのような倒れ込みが生じないからである。
位置合わせ部32は、上記のような鳥瞰視画像PB,PBt−1の位置合わせをデータ上で実行する。この際、位置合わせ部32は、一時刻前における鳥瞰画像PBt−1をオフセットさせ、現時刻における鳥瞰視画像PBと位置を一致させる。図4(b)の左側の画像と中央の画像は、移動距離d’だけオフセットした状態を示す。このオフセット量d’は、図4(a)に示した自車両V1の実際の移動距離dに対応する鳥瞰視画像データ上の移動量であり、車速センサ20からの信号と一時刻前から現時刻までの時間に基づいて決定される。
なお、本実施形態において、位置合わせ部32は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像を得るが、この「位置合わせ」処理は、検出対象の種別や要求される検出精度に応じた精度で行うことができる。たとえば、同一時刻及び同一位置を基準に位置を合わせるといった厳密な位置合わせ処理であってもよいし、各鳥瞰視画像の座標を把握するという程度の緩い位置合わせ処理であってもよい。
また、位置合わせ後において位置合わせ部32は、鳥瞰視画像PB,PBt−1の差分をとり、差分画像PDのデータを生成する。ここで、本実施形態において、位置合わせ部32は、照度環境の変化に対応するために、鳥瞰視画像PB,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDの画素値を「0」とすることで、図4(b)の右側に示すような差分画像PDのデータを生成することができる。
第1立体物検出部33は、図4(b)に示す差分画像PDのデータに基づいて、差分波形を生成する。具体的には、第1立体物検出部33は、自車両V1の左右後方に設定された検出領域において、差分波形を生成する。また、本実施形態において、第1立体物検出部33は、撮像画像PDが生成される度に、生成された差分画像PDのデータに基づいて差分波形を生成する。すなわち、第1立体物検出部33は、撮像画像の撮像周期(フレームレート)で、差分波形を繰り返し生成することとなる。
ここで、本例の立体物検出装置1は、自車両V1が車線変更する際に接触の可能性がある隣接車両V2について移動距離を算出することを目的とするものである。このため、本例では、図2に示すように、自車両V1の左右後方に矩形状の検出領域A1,A2が設定される。なお、このような検出領域A1,A2は、自車両V1に対する相対位置から設定してもよいし、白線の位置を基準に設定してもよい。白線の位置を基準に設定する場合に、立体物検出装置1は、例えば既存の白線認識技術等を利用するとよい。
また、本例では、図2に示すように、設定した検出領域A1,A2の自車両V1側における辺(走行方向に沿う辺)が接地線L1,L2として認識される。一般に接地線は立体物が地面に接触する線を意味するが、本実施形態では地面に接触する線でなく上記の如くに設定される。なおこの場合であっても、経験上、本実施形態に係る接地線と、本来の隣接車両V2の位置から求められる接地線との差は大きくなり過ぎず、実用上は問題が無い。
図5は、第1立体物検出部33による差分波形の生成の様子を示す概略図である。図5に示すように、第1立体物検出部33は、位置合わせ部32で算出した差分画像PD(図4(b)の右図)のうち検出領域A1,A2に相当する部分から、差分波形DWを生成する。この際、第1立体物検出部33は、視点変換により立体物が倒れ込む方向に沿って、差分波形DWを生成する。なお、図5に示す例では、便宜上検出領域A1のみを用いて説明するが、検出領域A2についても同様の手順で差分波形DWを生成する。
具体的に説明すると、まず第1立体物検出部33は、差分画像PDのデータ上において立体物が倒れ込む方向上の線Laを定義する。そして、第1立体物検出部33は、線La上において所定の差分を示す差分画素DPの数をカウントする。本実施形態では、所定の差分を示す差分画素DPは、差分画像PDの画素値が「0」「1」で表現されており、「1」を示す画素が、差分画素DPとしてカウントされる。
第1立体物検出部33は、差分画素DPの数をカウントした後、線Laと接地線L1との交点CPを求める。そして、第1立体物検出部33は、交点CPとカウント数とを対応付け、交点CPの位置に基づいて横軸位置、すなわち図5右図の上下方向軸における位置を決定するとともに、カウント数から縦軸位置、すなわち図5右図の左右方向軸における位置を決定し、交点CPにおけるカウント数としてプロットする。
以下同様に、第1立体物検出部33は、立体物が倒れ込む方向上の線Lb,Lc…を定義して、差分画素DPの数をカウントし、各交点CPの位置に基づいて横軸位置を決定し、カウント数(差分画素DPの数)から縦軸位置を決定しプロットする。第1立体物検出部33は、上記を順次繰り返して度数分布化することで、図5右図に示すように差分波形DWを生成する。
ここで、差分画像PDのデータ上における差分画素PDは、異なる時刻の画像において変化があった画素であり、言い換えれば立体物が存在した箇所であるといえる。このため、立体物が存在した箇所において、立体物が倒れ込む方向に沿って画素数をカウントして度数分布化することで差分波形DWを生成することとなる。特に、立体物が倒れ込む方向に沿って画素数をカウントすることから、立体物に対して高さ方向の情報から差分波形DWを生成することとなる。
なお、図5左図に示すように、立体物が倒れ込む方向上の線Laと線Lbとは検出領域A1と重複する距離が異なっている。このため、検出領域A1が差分画素DPで満たされているとすると、線Lb上よりも線La上の方が差分画素DPの数が多くなる。このため、第1立体物検出部33は、差分画素DPのカウント数から縦軸位置を決定する場合に、立体物が倒れ込む方向上の線La,Lbと検出領域A1とが重複する距離に基づいて正規化する。具体例を挙げると、図5左図において線La上の差分画素DPは6つあり、線Lb上の差分画素DPは5つである。このため、図5においてカウント数から縦軸位置を決定するにあたり、第1立体物検出部33は、カウント数を重複距離で除算するなどして正規化する。これにより、差分波形DWに示すように、立体物が倒れ込む方向上の線La,Lbに対応する差分波形DWの値はほぼ同じとなっている。
差分波形DWの生成後、第1立体物検出部33は、生成した差分波形DWに基づいて、隣接車線に存在している立体物の検出を行う。ここで、図6は、第1立体物検出部33による立体物の検出方法を説明するための図であり、差分波形DWおよび立体物を検出するための閾値αの一例を示している。第1立体物検出部33は、図6に示すように、生成した差分波形DWのピークが、当該差分波形DWのピーク位置に対応する所定の閾値α以上であるか否かを判断することで、検出領域A1,A2に立体物が存在するか否かを判断する。そして、第1立体物検出部33は、差分波形DWのピークが所定の閾値α未満である場合には、検出領域A1,A2に立体物が存在しないと判断し、一方、差分波形DWのピークが所定の閾値α以上である場合には、検出領域A1,A2に立体物が存在すると判断する。
立体物を検出した後、第1立体物検出部33は、現時刻における差分波形DWと一時刻前の差分波形DWt−1との対比により、第1立体物検出部33により検出された立体物の相対移動速度を算出する。すなわち、第1立体物検出部33は、差分波形DW,DWt−1の時間変化から、自車両V1に対する立体物の相対移動速度を算出する。
詳細に説明すると、第1立体物検出部33は、図7に示すように差分波形DWを複数の小領域DWt1〜DWtn(nは2以上の任意の整数)に分割する。図7は、第1立体物検出部33によって分割される小領域DWt1〜DWtnを示す図である。小領域DWt1〜DWtnは、例えば図7に示すように、互いに重複するようにして分割される。例えば小領域DWt1と小領域DWt2とは重複し、小領域DWt2と小領域DWt3とは重複する。
次いで、第1立体物検出部33は、小領域DWt1〜DWtn毎にオフセット量(差分波形の横軸方向(図7の上下方向)の移動量)を求める。ここで、オフセット量は、一時刻前における差分波形DWt−1と現時刻における差分波形DWとの差(横軸方向の距離)から求められる。この際、第1立体物検出部33は、小領域DWt1〜DWtn毎に、一時刻前における差分波形DWt−1を横軸方向に移動させた際に、現時刻における差分波形DWとの誤差が最小となる位置(横軸方向の位置)を判定し、差分波形DWt−1の元の位置と誤差が最小となる位置との横軸方向の移動量をオフセット量として求める。そして、第1立体物検出部33は、小領域DWt1〜DWtn毎に求めたオフセット量をカウントしてヒストグラム化する。
図8は、第1立体物検出部33により得られるヒストグラムの一例を示す図である。図8に示すように、各小領域DWt1〜DWtnと一時刻前における差分波形DWt−1との誤差が最小となる移動量であるオフセット量には、多少のバラつきが生じる。このため、第1立体物検出部33は、バラつきを含んだオフセット量をヒストグラム化し、ヒストグラムから移動距離を算出する。この際、第1立体物検出部33は、ヒストグラムの極大値から立体物(隣接車両V2)の移動距離を算出する。すなわち、図8に示す例において、第1立体物検出部33は、ヒストグラムの極大値を示すオフセット量を移動距離τと算出する。このように、本実施形態では、オフセット量にバラつきがあったとしても、その極大値から、より正確性の高い移動距離を算出することが可能となる。なお、移動距離τは、自車両に対する立体物(隣接車両V2)の相対移動距離である。このため、第1立体物検出部33は、絶対移動距離を算出する場合には、得られた移動距離τと車速センサ20からの信号とに基づいて、絶対移動距離を算出することとなる。
このように、本実施形態では、異なる時刻に生成された差分波形DWの誤差が最小となるときの差分波形DWのオフセット量から立体物(隣接車両V2)の移動距離を算出することで、波形という1次元の情報のオフセット量から移動距離を算出することとなり、移動距離の算出にあたり計算コストを抑制することができる。また、異なる時刻に生成された差分波形DWを複数の小領域DWt1〜DWtnに分割することで、立体物のそれぞれの箇所を表わした波形を複数得ることができ、これにより、立体物のそれぞれの箇所毎にオフセット量を求めることができ、複数のオフセット量から移動距離を求めることができるため、移動距離の算出精度を向上させることができる。また、本実施形態では、高さ方向の情報を含む差分波形DWの時間変化から立体物の移動距離を算出することで、単に1点の移動のみに着目するような場合と比較して、時間変化前の検出箇所と時間変化後の検出箇所とが高さ方向の情報を含んで特定されるため立体物において同じ箇所となり易く、同じ箇所の時間変化から移動距離を算出することとなり、移動距離の算出精度を向上させることができる。
なお、ヒストグラム化にあたり第1立体物検出部33は、複数の小領域DWt1〜DWtn毎に重み付けをし、小領域DWt1〜DWtn毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化してもよい。図9は、第1立体物検出部33による重み付けを示す図である。
図9に示すように、小領域DW(mは1以上n−1以下の整数)は平坦となっている。すなわち、小領域DWは所定の差分を示す画素数のカウントの最大値と最小値との差が小さくなっている。第1立体物検出部33は、このような小領域DWについて重みを小さくする。平坦な小領域DWについては、特徴がなくオフセット量の算出にあたり誤差が大きくなる可能性が高いからである。
一方、小領域DWm+k(kはn−m以下の整数)は起伏に富んでいる。すなわち、小領域DWは所定の差分を示す画素数のカウントの最大値と最小値との差が大きくなっている。第1立体物検出部33は、このような小領域DWについて重みを大きくする。起伏に富む小領域DWm+kについては、特徴的でありオフセット量の算出を正確に行える可能性が高いからである。このように重み付けすることにより、移動距離の算出精度を向上することができる。
なお、移動距離の算出精度を向上するために上記実施形態では差分波形DWを複数の小領域DWt1〜DWtnに分割したが、移動距離の算出精度がさほど要求されない場合は小領域DWt1〜DWtnに分割しなくてもよい。この場合に、第1立体物検出部33は、差分波形DWと差分波形DWt−1との誤差が最小となるときの差分波形DWのオフセット量から移動距離を算出することとなる。すなわち、一時刻前における差分波形DWt−1と現時刻における差分波形DWとのオフセット量を求める方法は上記内容に限定されない。
なお、本実施形態において第1立体物検出部33は、自車両V1(カメラ10)の移動速度を求め、求めた移動速度から静止物についてのオフセット量を求める。静止物のオフセット量を求めた後、第1立体物検出部33は、ヒストグラムの極大値のうち静止物に該当するオフセット量を無視したうえで、立体物の移動距離を算出する。
図10は、第1立体物検出部33により得られるヒストグラムの他の例を示す図である。カメラ10の画角内に立体物の他に静止物が存在する場合に、得られるヒストグラムには2つの極大値τ1,τ2が現れる。この場合、2つの極大値τ1,τ2のうち、いずれか一方は静止物のオフセット量である。このため、第1立体物検出部33は、移動速度から静止物についてのオフセット量を求め、そのオフセット量に該当する極大値について無視し、残り一方の極大値を採用して立体物の移動距離を算出する。これにより、静止物により立体物の移動距離の算出精度が低下してしまう事態を防止することができる。
なお、静止物に該当するオフセット量を無視したとしても、極大値が複数存在する場合、カメラ10の画角内に立体物が複数台存在すると想定される。しかし、検出領域A1,A2内に複数の立体物が存在することは極めて稀である。このため、第1立体物検出部33は、移動距離の算出を中止する。これにより、本実施形態では、極大値が複数あるような誤った移動距離を算出してしまう事態を防止することができる。
そして、第1立体物検出部33は、立体物の移動速度に基づいて、隣接車両に存在する立体物が隣接車両V2であるか否かを判断する。たとえば、第1立体物検出部33は、立体物の絶対移動速度が10km/h以上、且つ、自車両V1に対する立体物の相対移動速度が+60km/h以下であるか否かを判断し、双方を満たす場合には、隣接車線に存在する立体物は隣接車両V2であるものと判断して、隣接車両V2を検出する。
なお、第1立体物検出部33が、立体物の絶対移動速度が10km/h以上、且つ、自車両V1に対する立体物の相対移動速度が+60km/h以下であるか否かを判断することで、隣接車線に存在する隣接車両V2を検出する構成としているのは、以下の理由による。すなわち、本実施形態では自車両V1の左右後方を検出領域A1,A2とし、自車両V1が車線変更した場合に接触する可能性があるか否かに重点を置いているため、本実施形態にけるシステムを高速道路で作動させることを前提とすると、隣接車両V2の速度が10km/h未満である場合、たとえ隣接車両V2が存在したとしても、車線変更する際には自車両V1の遠く後方に位置するため、このような立体物を隣接車両V2として検出しなくても問題となることが少ないためである。同様に、隣接車両V2の自車両V1に対する相対移動速度が+60km/hを超える場合(すなわち、隣接車両V2が自車両V1の速度よりも60km/hより大きな速度で移動している場合)、車線変更する際には自車両V1の前方に移動しているため、このような立体物を隣接車両V2として検出しなくても問題となることが少ないためである。
また、カメラ10の取り付け誤差によっては、静止物の絶対移動速度を数km/hであると検出してしまう場合があり得るが、隣接車両V2の絶対移動速度が10km/h以上であるか否かを判断することで、静止物を隣接車両V2であると判断してしまう可能性を低減することができる。さらに、ノイズによっては隣接車両V2の自車両V1に対する相対速度を+60km/hを超える速度に検出してしまうことがあり得るため、相対速度が+60km/h以下であるかを判断することにより、ノイズによる誤検出の可能性を低減できる。なお、第1立体物検出部33は、隣接車両V2の絶対移動速度がマイナスでないことや、0km/hでない場合に、隣接車線に存在する立体物を隣接車両V2と判断してもよい。
図3に戻り、ヘッドライト検出部34は、カメラ10により撮像された撮像画像に基づいて、自車両V1の後方に存在する、隣接車両V2のヘッドライトの候補となる光源を検出する。具体的には、ヘッドライト検出部34は、周辺との明るさの差が所定値以上であり、かつ、所定面積以上の大きさである画像領域を、隣接車両V2のヘッドライトに対応する候補領域として検出することで、隣接車両V2のヘッドライトの候補となる光源を検出する。
第2立体物検出部35は、ヘッドライト検出部34により検出された光源が、隣接車両V2のヘッドライトに対応するものであるか否かを判定する。具体的には、第2立体物検出部35は、まず、ヘッドライト検出部34により検出された光源が、隣接車両V2のヘッドライトに対応するものであることの確からしさを、確信度として算出する。
たとえば、自車両V1の走行車線に隣接する隣接車線を走行する隣接車両V2のヘッドライトと比べて、自車両V1の走行車両の2つ隣の隣隣接車線を走行する隣隣接車両のヘッドライトや、路外に設置された街灯などの光源は、自車両V1から離れた位置で検出される。そのため、第2立体物検出部35は、自車両V1から光源までの車幅方向における距離が短いほど、ヘッドライト検出部34により検出された光源が隣接車両V2のヘッドライトであるとの確信度を高く算出することができる。また、ヘッドライト検出部34により検出された光源の大きさが大きいほど、光源は自車両V1から近い位置に存在するものと判断できるため、第2立体物検出部35は、ヘッドライト検出部34により検出された光源の大きさが大きいほど、ヘッドライト検出部34により検出された光源が隣接車両V2のヘッドライトであるとの確信度を高く算出することができる。さらに、街灯などの光源は静止物であり移動しないのに対して隣接車両V2は移動するため、隣接車両V2のヘッドライトの移動速度は、街灯などの静止物の光源の移動速度よりも速くなる。また、隣接車両V2のヘッドライトよりも隣隣接車両のヘッドライトの方が自車両V1から離れた位置で検出されるため、隣隣接車両のヘッドライトの移動速度よりも、隣接車両V2のヘッドライトの移動速度の方が速くなる傾向にある。そのため、第2立体物検出部35は、ヘッドライト検出部34により検出された光源の位置の変化に基づいて、光源の移動速度を算出し、光源の移動速度が速いほど、該光源が隣接車両V2のヘッドライトであるとの確信度を高く算出することができる。
そして、第2立体物検出部35は、ヘッドライト検出部34により検出された光源が隣接車両V2のヘッドライトであるとの確信度が所定値以上である場合に、隣接車線に隣接車両V2が存在するものと判断し、隣接車両V2を検出する。
白濁度算出部36は、カメラ10のレンズに水垢などの異物が付着し、レンズが白濁している(レンズ表面に白色の薄膜が形成されている)度合いをレンズの白濁度として算出する。以下に、白濁度算出部36によるレンズの白濁度の算出方法について説明する。
まず、白濁度算出部36は、第1立体物検出部33により生成された差分波形DWについて、所定の判定閾値を越えるピークの数を検出する。たとえば、図6に示す例において、判定閾値が閾値αと同じ値である場合、白濁度算出部36は、所定の判定閾値を越える差分波形DWのピークの数を「3」として検出する。なお、本実施形態においては、所定の周期(たとえば、撮像画像の撮像周期)で差分波形DWが生成されており、白濁度算出部36は、差分波形DWが生成される度に、生成された差分波形DWについて所定の判定閾値を越えるピークの数を検出する。すなわち、白濁度算出部36は、差分波形DWが生成される周期(撮像画像の撮像周期)で、所定の判定閾値を越えるピークの数を検出する。なお、上記判定閾値は、閾値αと同じ値に限定されず、予め実験等により適宜設定することができる。
そして、白濁度算出部36は、所定の判定閾値を越える差分波形DWのピークの数に基づいて、該差分波形DWに応じたフレームスコアを算出する。具体的には、白濁度算出部36は、差分波形DWのピークの数が3以上であり、立体物(隣接車両V2)を検出していると判断できる度合いが高いほど、フレームスコアを高く算出する。たとえば、下記の表1に示す例において、白濁度算出部36は、所定のフレームにおいて生成された差分波形DWのピークの数が、0〜2本の場合には、隣接車両V2を検出していないものと判断して、スコアを0点として算出し、3〜4本の場合には、隣接車両V2を検出している可能性があるものと判断して、スコアを1点と算出する。さらに、差分波形DWのピークの数が、5〜6本の場合には、隣接車両V2を検出している可能性が高いものと判断し、スコアを2点として算出し、7本以上の場合には、隣接車両V2を検出している可能性がより高いものと判断し、スコアを3点として算出する。そして、白濁度算出部36により算出されたフレームスコアは、算出された時刻に関連付けられて、計算機30に備えるメモリ(不図示)に記憶される。
Figure 2014017601
次いで、白濁度算出部36は、所定時間内に生成された差分波形DWに対応するフレームスコアを合計し、フレームスコアの合計値を算出する。たとえば、白濁度算出部36は、図11に示すように、差分波形DWの生成が0.1秒周期で行われている場合に、2.5秒間で生成された25フレーム分のフレームスコアをメモリから取得し、この25フレーム分のフレームスコアの合計点を算出することができる。なお、図11は、レンズ白濁度の算出方法を説明するための図であり、各時刻t、時刻t、時刻t・・・において、各差分波形DWに応じたフレームスコアが算出されている。
そして、白濁度算出部36は、所定時間内に算出されたフレームスコアの合計点に基づいて、レンズが白濁している度合いを示す検知スコアを算出する。具体的には、白濁度算出部36は、レンズが白濁している度合いが高いほど、検知スコアが高くなるように、検知スコアを算出する。たとえば、下記の表2に示す例においては、フレームスコアの合計点が0点である場合には、立体物(隣接車両V2)が検出されていないものと判断できるため、白濁度算出部36は、レンズに水垢などの異物が付着しており、レンズが白濁している可能性が高いものと判断して、検知スコアを「+5」として算出する。また、反対に、フレームスコアの合計点が10以上である場合には、隣接車両V2が検出されている可能性が高いものと判断できるため、白濁度算出部36は、レンズが白濁していない可能性が高いものと判断し、検知スコアを「−3」として算出する。
Figure 2014017601
なお、上記の表1,2に示すように、白濁度算出部36は、フレームスコアおよび検知スコアに上限を設けている。すなわち、白濁度算出部36は、表1に示すように、所定の判定閾値以上の差分波形のピークの数が7本以上である場合には、フレームスコアを一律に「3」として算出し、また、表2に示すように、フレームスコアの合計点が10以上である場合には、検知スコアを一律に「−3」として算出する。これにより、たとえば、隣接車両V2が車体の長いトラックなどであり、差分波形のピークの数が多く検出され易い(たとえばレンズが白濁している場合でも7本以上の差分波形のピークが検出されてしまう)場合に、レンズが実際に白濁しているにもかかわらず、検知スコアが低く検出されてしまい、レンズが白濁していないと判断されてしまうことを有効に防止することができる。
さらに、白濁度算出部36は、差分波形DWが生成される周期(たとえば、撮像画像の撮像周期)で、検知スコアを繰り返し算出する。たとえば、図11に示す例において、白濁度算出部36は、まず、時刻t25において、時刻tから時刻t25までの25フレーム分の検知スコアDSを算出し、その後、時刻t26において、時刻tから時刻t26までの25フレーム分の検知スコアDSを算出する。同様に、対応するフレームスコアを1周期分づつずらしながら、検知スコアDS,DS,・・・を算出する。
さらに、白濁度算出部36は、算出した検知スコアを積算し、検知スコアの積算値をレンズの白濁度として算出する。ここで、図12は、レンズの白濁度の一例を示す図であり、図12の上図は、隣接車両V2のヘッドライトの検出タイミングを示しており、図12の下図は、レンズ白濁度の時間推移の一例を示している。本実施形態において、白濁度算出部36は、図12に示すように、ヘッドライト検出部34により隣接車両V2のヘッドライトが検出された場合に、上述した検知スコアの算出を開始し、隣接車両V2のヘッドライトが検出されている間、検知スコアの算出を繰り返し行い、検知スコアの積算値をレンズの白濁度として算出する。なお、図12に示す例では、隣接車両V2のヘッドライトが検出された後の所定時間分(たとえばヘッドライトが検出された後の2秒間分)のフレームスコアを考慮して検知スコアを算出しているため、隣接車両V2のヘッドライトが検出された時刻tよりも少し後の時刻tx+1からレンズの白濁度の算出が開始されている。
すなわち、白濁度算出部36は、隣接車両V2のヘッドライトが検出され、検知スコアの算出を開始する場合、隣接車両V2のヘッドライトが検出された時刻を基準時刻とし、該基準時刻よりも微小時間前の時刻から、基準時刻より所定時間後の時刻までの時間内において算出されたフレームスコアの合計値に基づいて、検知スコアを算出することで、レンズ白濁度の算出を開始する。たとえば、図11に示す例では、フレームスコアの算出が0.1秒周期で行われており、時刻tにおいて隣接車両V2のヘッドライトが検出されている。この場合、白濁度算出部36は、隣接車両V2のヘッドライトが検出された時刻tを基準時刻とし、該基準時刻tよりも0.5秒前(微小時間前)の時刻tから、該基準時刻tよりも2秒後の時刻t25までの2.5秒間で算出された25フレーム分のフレームスコアの合計点に基づいて、検知スコアを算出する。そして、隣接車両V2のヘッドライトが検出された後も、隣接車両V2のヘッドライトが検出されている間は、白濁度算出部36は、基準時刻を、隣接車両V2のヘッドライトが検出された時刻tから、時刻t,t・・・と1周期づつずらしながら、該基準時刻よりも0.5秒前の時刻から、該基準時刻よりも2秒後の時刻までの2.5秒間で算出された25フレーム分のフレームスコアの合計点に基づいて、検知スコアを繰り返し算出する。
また、図12に示すように、隣接車両V2のヘッドライトが検出された後、白濁度算出部36は、隣接車両V2のヘッドライトが非検出となった時刻tx+2で、白濁度の算出を停止し、再度、隣接車両V2のヘッドライトが検出されるまで、白濁度をそのままの値で保持する。その後、2台目の隣接車両V2のヘッドライトが検出されると(時刻tx+3)、レンズの白濁度の算出が再開され、隣接車両V2のヘッドライトが再び非検出となる時刻tx+4まで、レンズの白濁度の算出が繰り返される。
なお、本実施形態では、図12に示すように、レンズの白濁度の値に、下限値Sおよび上限値Sを設けることができる。たとえば、上記の表1,表2に示す例においては、下限値Sを0とし、上限値Sを100とすることができる。このように、レンズの白濁度に下限値Sを設けることで、たとえば、差分波形のピークが多く検出され易いトラックなどの隣接車両V2が検知領域内A1,A2内に存在しているため、レンズが実際に白濁しているにもかかわらず、検知スコアが低い値で算出されてしまい、レンズの白濁度(すなわち検知スコアの積算値)が低い値で推移している場合でも、トラックなどの隣接車両V2が検知領域A1,A2から外れ、算出される検知スコアが高い値に変化した場合には、比較的短い時間で、レンズの白濁度(すなわち検知スコアの積算値)が高い値となるため、レンズが白濁していることを適切に判断することが可能となる。また同様に、レンズの白濁度に上限値Sを設けることで、レンズが実際に白濁していないにもかかわらず、隣接車両V2が周囲に存在しないために、レンズの白濁度が高い値で推移している場合でも、隣接車両V2が検出された場合には、比較的短い時間で、レンズの白濁度が低い値となるため、レンズが白濁していなことを適切に判断することができる。
図3に戻り、立体物判断部37は、第1立体物検出部33により検出された隣接車両V2の検出結果、および、第2立体物検出部35により検出された隣接車両V2の検出結果に基づいて、隣接車両V2が存在するか否かを判断する。
具体的には、立体物判断部37は、第1立体物検出部33により隣接車両V2が検出された場合には、第1立体物検出部33の検出結果を「1」とし、第1立体物検出部33により隣接車両V2が検出されなかった場合には、第1立体物検出部33の検出結果を「0」として算出する。同様に、立体物判断部37は、第2立体物検出部35により隣接車両V2が検出された場合には、第2立体物検出部35の検出結果を「1」とし、第2立体物検出部35により隣接車両V2が検出されなかった場合には、第2立体物検出部35の検出結果を「0」として算出する。
そして、立体物判断部37は、下記式1に示すように、白濁度算出部36により算出されたレンズの白濁度に基づいて、第1立体物検出部33の検出結果(第1検出結果)と、第2立体物検出部35の検出結果(第2検出結果)とに重み付けを行い、重み付した第1立体物検出部33の検出結果(第1検出結果)と、第2立体物検出部35の検出結果(第2検出結果)との合計値が、所定の車両判定閾値s以上であるか否かを判断する。
[式1]
第1検出結果×Wc1 + 第2検出結果×Wc2 ≧ 車両判定閾値s
なお、Wc1は、第1立体物検出部33の検出結果(第1検出結果)に対する重み付けであり、Wc2は、第2立体物検出部35の検出結果(第2検出結果)に対する重み付である。
ここで、レンズの白濁度が高い場合には、レンズに付着した水垢などの異物により、被写体からの光束の一部が遮られたり、乱反射してしまうため、隣接車両V2の像を適切に撮像することができず、その結果、隣接車両V2に起因する差分波形DWを適切に生成することができない。そのため、レンズが白濁している場合には、差分波形DWに基づく第1立体物検出部の検出結果の検出精度は低くなる傾向にある。これに対して、レンズが白濁している場合でも、輝度の高い隣接車両V2のヘッドライトの像はその影響を受け難く、ヘッドライトに基づく第2立体物検出部33の検出結果を比較的高い精度で得ることができる。そのため、立体物判断部37は、レンズの白濁度が高いほど、第1立体物検出部33の検出結果の重み付けWc1を相対的に小さくし、第2立体物検出部35の検出結果の重み付けWc2を相対的に大きくする。また、レンズに水垢などの異物が付着しておらず、レンズが白濁していない場合には、隣接車両V2の車体を差分波形として検出する第1立体物検出部33による検出結果の検出精度の方が、第2立体物検出部35による検出結果の検出精度よりも高くなる傾向にある。そこで、立体物判断部37は、レンズの白濁度が低いほど、第1立体物検出部33の検出結果の重み付けWc1を相対的に大きくし、第2立体物検出部35の検出結果の重み付けWc2を相対的に小さくする。
たとえば、図12に示す例において、下限値Sを0とし、上限値Sを100とした場合に、立体物判断部37は、レンズの白濁度が所定の値S(たとえば50)を超えた場合に、レンズが白濁していると判断し、一方、レンズの白濁度が所定の値S(たとえば50)超えていない場合に、レンズは白濁していないと判断することができる。この場合、立体物判断部37は、レンズの白濁度が所定の値S(たとえば50)を超えた場合には、レンズが白濁していると判断して、レンズの白濁度が高いほど、第1立体物検出部33の検出結果の重み付けWc1を小さくし、第2立体物検出部35の検出結果の重み付けWc2を大きくすることができる。一方、立体物判断部37は、レンズの白濁度が所定の値S(たとえば50)を超えていない場合には、レンズが白濁していないと判断して、レンズの白濁度が低いほど、第1立体物検出部33の検出結果の重み付けWc1を大きくし、第2立体物検出部35の検出結果の重み付けWc2を小さくすることができる。
そして、立体物判断部37は、上記式1に基づく判定の結果、第1立体物検出部33の検出結果(第1検出結果)と、第2立体物検出部35の検出結果(第2検出結果)との合計値が、所定の車両判定閾値s以上である場合には、隣接車両V2が存在するものと判断し、一方、第1立体物検出部33の検出結果(第1検出結果)と、第2立体物検出部35の検出結果(第2検出結果)との合計値が、所定の車両判定閾値s未満である場合には、隣接車両V2は存在しないものと判断する。
次に、図13および図14を参照して、本実施形態に係る隣接車両検出処理について説明する。図13および図14は、第1実施形態の隣接車両検出処理を示すフローチャートである。本実施形態において、この隣接車両検出処理は、後述する白濁度算出処理と並行して実行される。また、本実施形態の隣接車両検出処理は、所定の周期(たとえば、0.1秒周期)で繰り返し行われる。なお、以下においては、便宜上、検出領域A1を対象とする処理について説明するが、検出領域A2についても同様の処理が実行される。
図13に示すように、まず、計算機30により、カメラ10から撮像画像のデータの取得が行われ(ステップS101)、視点変換部31により、取得した撮像画像のデータに基づいて、鳥瞰視画像PBのデータが生成される(ステップS102)。
次いで、位置合わせ部32は、鳥瞰視画像PBのデータと、一時刻前の鳥瞰視画像PBt−1のデータとを位置合わせをし、差分画像PDのデータを生成する(ステップS103)。具体的には、位置合わせ部32は、鳥瞰視画像PB,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDの画素値を「0」とする。その後、第1立体物検出部33は、差分画像PDのデータから、画素値が「1」の差分画素DPの数をカウントして、差分波形DWを生成する(ステップS104)。
ステップS105では、第1立体物検出部33により、ステップS104で生成した差分波形DWのピークが、所定の閾値α以上であるか否かの判断が行われる。差分波形DWのピークが閾値α以上でない場合、すなわち差分が殆どない場合には、撮像画像内には立体物が存在しないと考えられる。このため、差分波形DWのピークが閾値α以上でないと判断した場合には(ステップS105=No)、図14に示すステップS118に進み、第1立体物検出部33は、立体物が存在せず隣接車両V2が存在しないと判断する。そして、ステップS101に戻り、図13および図14に示す処理を繰り返す。
一方、差分波形DWのピークが閾値α以上であると判断した場合には(ステップS105=Yes)、第1立体物検出部33により、隣接車線に立体物が存在すると判断され、ステップS106に進み、第1立体物検出部33により、差分波形DWが、複数の小領域DWt1〜DWtnに分割され(ステップS106)、分割された小領域DWt1〜DWtn毎に重み付けが行われる(ステップS107)。そして、小領域DWt1〜DWtn毎のオフセット量が算出され、重みを加味してヒストグラムが生成される(ステップS108)。
そして、第1立体物検出部33は、ヒストグラムに基づいて自車両V1に対する立体物の移動距離である相対移動距離を算出する(ステップS109)。次に、第1立体物検出部33は、相対移動距離から立体物の絶対移動速度を算出する(ステップS110)。このとき、第1立体物検出部33は、相対移動距離を時間微分して相対移動速度を算出するとともに、車速センサ20で検出された自車速を加算して、絶対移動速度を算出する。
次いで、ステップS111では、第1立体物検出部33により、隣接車両V2の検出が行われる。具体的には、第1立体物検出部33は、立体物の絶対移動速度が10km/h以上であり、かつ、自車両V1に対する立体物の相対移動速度が+60km/h以下であるか否かを判断することで、隣接車線に存在する立体物が隣接車両V2であるか否かを判断する。そして、第1立体物検出部33は、双方を満たす場合には、隣接車線に存在する立体物は隣接車両V2であると判断し、隣接車線に存在する隣接車両V2を検出する。一方、いずれか一方を満たさない場合には、隣接車線に存在する立体物は隣接車両V2であはないと判断し、隣接車両V2を検出しない。
ステップS112では、ヘッドライト検出部34により、隣接車両V2のヘッドライトの候補となる光源の検出が行われる。具体的には、ヘッドライト検出部34は、カメラ10により撮像された撮像画像に基づいて、周辺との明るさの差が所定値以上であり、かつ、所定面積以上の大きさである画像領域を、隣接車両V2のヘッドライトの候補領域として検出することで、隣接車両V2のヘッドライトの候補となる光源を検出する。
ステップS113では、第2立体物検出部により、ステップS112で検出された隣接車両V2のヘッドライトの候補となる光源に基づいて、隣接車両V2の検出が行われる。具体的には、第2立体物検出部35は、ステップS112で検出された光源が、隣接車両V2のヘッドライトであることの確信度を算出し、算出した確信度が所定値以上である場合に、隣接車線に存在する立体物は隣接車両V2であると判断して、隣接車線に存在する隣接車両V2を検出する。なお、ステップS112で隣接車両V2のヘッドライトの候補となる光源が検出されなかった場合、または、ステップS112で検出された光源が隣接車両V2のヘッドライトであることの確信度が所定値未満である場合には、隣接車線に存在する立体物は隣接車両V2ではないと判断して、隣接車両V2を検出しない。
ステップS114では、立体物判断部37により、後述する白濁度算出処理により算出されたレンズ白濁度の取得が行われる。そして、ステップS115では、立体物判断部37により、ステップS114で取得されたレンズ白濁度に基づいて、ステップS111で得られた第1立体物検出部33による検出結果、および、ステップS113で得られた第2立体物検出部35による検出結果に重み付けが行われる。具体的には、立体物判断部37は、上記式1に示すように、レンズ白濁度が高いほど、第1立体物検出部33の検出結果の重み付けWc1を小さくし、第2立体物検出部35の検出結果の重み付けWc2を大きくする。
そして、ステップS116では、立体物判断部37により、上記式1に示すように、ステップS115で重み付した検出結果の合計値が、所定の車両判定閾値sを越えるか否かの判断が行われる。重み付けした第1立体物検出部33の検出結果と第2立体物検出部35の検出結果との合計値が、所定の車両判定閾値sを越える場合には、ステップS117に進み、隣接車両V2が存在すると判断される。一方、所定の車両判定閾値を越えない場合には、ステップS118に進み、隣接車両V2が存在しないと判断される。
なお、本実施形態では自車両V1が車線変更した場合に接触する可能性がある否かに重点を置いているため、ステップS117において隣接車両V2が検出された場合に、自車両の運転者に警告音を発したり、所定の表示装置により警告相当の表示を行ったりしてもよい。
次に、図15を参照して、本実施形態に係る白濁度算出処理について説明する。図15は、第1実施形態に係る白濁度算出処理を示すフローチャートである。なお、以下に説明する白濁度算出処理は、所定の周期(たとえば、0.1秒周期)で実行される。また、以下に説明する白濁度算出処理は、上述した隣接車両検出処理と並行して行われ、この白濁度算出処理において算出されたレンズの白濁度が、上述した隣接車両検出処理において、隣接車両V2を検出する際に用いられることとなる。
まず、ステップS201では、白濁度算出部36により、上述した隣接車両検出処理で生成された差分波形DWについて、所定の判定閾値を越えるピークの数の検出が行われる。たとえば、図6に示す例において、所定の判定閾値を閾値αと同じ値とした場合、白濁度算出部36は、所定の判定閾値を越える差分波形DWのピークの数を「3」として検出する。
そして、ステップS202では、白濁度算出部36により、上記の表1に示すように、ステップS201で検出された差分波形DWのピークの数に基づいて、フレームスコアの算出が行われる。たとえば、ステップS201で、所定の判定閾値を超えるピークの数が「3」として検出された場合、白濁度算出部36は、上記の表1に従って、フレームスコアを「1」として算出する。そして、白濁度算出部36は、算出したフレームスコアを、記憶部30に備えるメモリに記憶する。
ステップS203では、白濁度算出部36により、隣接車両V2のヘッドライトが検出されているか否かの判定が行われる。ここで、本実施形態では、ヘッドライト検出部34により、隣接車両V2のヘッドライトの候補となる光源の検出が繰り返し行われており、白濁度算出部36は、ヘッドライト検出部34の検出の結果、隣接車両V2のヘッドライトの候補となる光源が検出されている場合には、隣接車両V2のヘッドライトが検出されているものとして扱い、ステップS204に進む。一方、ヘッドライト検出部34により隣接車両V2のヘッドライトの候補となる光源が検出されていない場合には、隣接車両V2のヘッドライトが検出されていないものとして扱い、ステップS201に戻り、フレームスコアの算出を繰り返す。
ステップS204では、白濁度算出部36により、所定時間内に算出されたフレームスコアの合計点の算出が行われる。ここで、ステップS202で算出されたフレームスコアは、計算機30に備えるメモリに記憶されているため、白濁度算出部36は、メモリに記憶されているフレームスコアのうち所定時間内に算出されたフレームスコアを抽出して、フレームスコアの合計点を算出することができる。たとえば、白濁度算出部36は、図11に示すように、隣接車両V2のヘッドライトが検出され、レンズの白濁度の算出を開始する際には、隣接車両V2のヘッドライトが検出された時刻tを基準時刻とし、たとえば、この基準時刻tの0.5秒前(微小時間前)の時刻tから、この基準時刻tの2秒後の時刻t25までの2.5秒間における25フレーム分のフレームスコアの合計点を算出する。また、レンズの白濁度の算出が開始された後では、図11に示すように、基準時刻を1周期分づつずらしながら、基準時刻の0.5秒前(微小時間前)の時刻から基準時刻の2秒後までの2.5秒間における25フレーム分のフレームスコアの合計点を順次算出する。
ステップS205では、白濁度算出部36により、ステップS204で算出されたフレームスコアの合計点に基づいて、上記の表2に示すように、検知スコアの算出が行われる。たとえば、上記の表2に示す例では、フレームスコアの合計点が5点である場合に、検知スコアが「+1」として算出されることとなる。
ステップS206では、白濁度算出部36により、図12に示すように、ステップS205で算出された検知スコアの積算が行われ、検知スコアの積算値がレンズの白濁度として算出される。算出されたレンズの白濁度は、後述する隣接車両検出処理で用いられることとなる。
また、本実施形態は、レンズに水垢などの異物が付着しており、レンズが白濁している場合に、差分波形DWに基づいて、自車両V1に対する隣接車両V2を検出することが困難であることに鑑みて、隣接車両V2のヘッドライトを検出し、隣接車両V2のヘッドライトに基づいて、隣接車両V2を検出するものである。そのため、図13および図14に示す白濁度算出処理を、隣接車両V2がヘッドライトを点灯する条件下、たとえば、夜間のみに行う構成とすることができる。これにより、昼間において、隣接車両V2を検出する際の演算負荷を軽減することができる。なお、白濁度算出部36は、たとえば、カメラ10により撮像した撮像画像全体の輝度が所定値以下である場合に、夜間であると判断することができる。また、白濁度算出部36は、照度計や時刻に基づいて、夜間であるか否かを判断することもできる。
以上のように、第1実施形態では、鳥瞰視画像の差分画像から差分波形を生成し、該差分波形に基づいて隣接車両V2を検出する第1立体物検出部33の検出結果と、ヘッドライトに基づいて隣接車両V2を検出する第2立体物検出部35の検出結果とに、レンズの白濁度に応じた重み付けを行い、重み付けした検出結果に基づいて、隣接車両V2が存在するか否かを判断する。ここで、上述したように、レンズが白濁している場合には、差分波形に基づいて隣接車両V2を検出する第1立体物検出部33の検出結果よりも、ヘッドライトに基づいて隣接車両V2を検出する第2立体物検出部35の検出結果の方が信頼性が高く、反対に、レンズが白濁していない場合には、ヘッドライトに基づいて隣接車両V2を検出する第2立体物検出部35の検出結果よりも、差分波形に基づいて隣接車両V2を検出する第1立体物検出部33の検出結果の方が信頼性が高い傾向にある。そのため、本実施形態において、レンズの白濁度が高いほど、第1立体物検出部33の検出結果の重み付けを小さくし、第2立体物検出部35の検出結果の重み付けを大きくして、隣接車両V2が存在するか否かを判断することで、隣接車両V2を適切に検出することが可能となる。
また、第1実施形態では、レンズの白濁度を算出する際に、所定の判定閾値を越える差分波形のピークの数が多いほど、立体物(隣接車両V2)が検出されている可能性が高いものと判断して、フレームスコアを高く算出する。そして、所定時間内に算出されたフレームスコアの合計値が低いほど、レンズが立体物(隣接車両V2)を検出し難い状態、すなわち、レンズが白濁している状態であると判断して、検知スコアを高く算出し、検知スコアの積算値をレンズの白濁度として算出する。このように、本実施形態では、実際に生成された差分波形に基づいて、立体物(隣接車両V2)が検出できるか否かを判断することで、レンズが白濁している度合いをレンズ白濁度として適切に算出することができる。特に、本実施形態では、隣接車両V2のヘッドライトが検出された場合には、隣接車両V2が隣接車線に存在しており、隣接車両V2に起因する差分波形を検出できるものと判断することができるため、隣接車両V2に起因する差分波形に基づいて隣接車両V2が存在するか否かを判断することで、レンズが白濁しているために、隣接車両V2を検出できないのか否かを判断することができ、これにより、レンズの白濁度を適切に算出することができる。
さらに、本実施形態では、隣接車両V2のヘッドライトが検出され、レンズの白濁度の算出を開始する際に、図11に示すように、隣接車両V2のヘッドライトが検出された時刻を基準時刻とし、該基準時刻後に算出されたフレームスコアに基づいて、検知スコアレンズの白濁度を算出する。通常、隣接車両V2のヘッドライトの後方において、隣接車両V2の車体が検出されるため、隣接車両V2のヘッドライトが検出された後に、隣接車両V2に起因する差分波形を検出することができ、隣接車両V2を検出できる度合いをフレームスコアとして算出することができるためである。また、本実施形態では、隣接車両V2のヘッドライトが検出され、レンズの白濁度の算出を開始する際に、図11に示すように、隣接車両V2のヘッドライトが検出される時刻よりも微小時間前に算出されたフレームスコアを考慮して、検知スコアを算出する。隣接車両V2のヘッドライトが検出される前に、隣接車両V2の車体が検出される場合もあるためである。
《第2実施形態》
続いて、第2実施形態に係る立体物検出装置1aについて説明する。第2実施形態に係る立体物検出装置1aは、図16に示すように、第1実施形態の計算機30に代えて、計算機30aを備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図16は、第2実施形態に係る計算機30aの詳細を示すブロック図である。
第2実施形態に係る立体物検出装置1aは、図16に示すように、カメラ10と計算機30aとを備えており、計算機30aは、視点変換部31、輝度差算出部38、エッジ線検出部39、第1立体物検出部33a、ヘッドライト検出部34、第2立体物検出部35、白濁度算出部36a、および立体物判断部37から構成されている。以下に、第2実施形態に係る立体物検出装置1aの各構成について説明する。なお、視点変換部31、ヘッドライト検出部34、第2立体物検出部35、および、立体物判定部37については、第1実施形態と同様の構成であるため、その説明は省略する。
図16は、図16のカメラ10の撮像範囲等を示す図であり、図16(a)は平面図、図16(b)は、自車両V1から後側方における実空間上の斜視図を示す。図16(a)に示すように、カメラ10は所定の画角aとされ、この所定の画角aに含まれる自車両V1から後側方を撮像する。カメラ10の画角aは、図2に示す場合と同様に、カメラ10の撮像範囲に自車両V1が走行する車線に加えて、隣接する車線も含まれるように設定されている。
本例の検出領域A1,A2は、平面視(鳥瞰視された状態)において台形状とされ、これら検出領域A1,A2の位置、大きさ及び形状は、距離d〜dに基づいて決定される。なお、同図に示す例の検出領域A1,A2は台形状に限らず、図2に示すように鳥瞰視された状態で矩形など他の形状であってもよい。
ここで、距離d1は、自車両V1から接地線L1,L2までの距離である。接地線L1,L2は、自車両V1が走行する車線に隣接する車線に存在する立体物が地面に接触する線を意味する。本実施形態においては、自車両V1の後側方において自車両V1の車線に隣接する左右の車線を走行する隣接車両V2等(2輪車等を含む)を検出することが目的である。このため、自車両V1から白線Wまでの距離d11及び白線Wから隣接車両V2が走行すると予測される位置までの距離d12から、隣接車両V2の接地線L1,L2となる位置である距離d1を略固定的に決定しておくことができる。
また、距離d1については、固定的に決定されている場合に限らず、可変としてもよい。この場合に、計算機30aは、白線認識等の技術により自車両V1に対する白線Wの位置を認識し、認識した白線Wの位置に基づいて距離d11を決定する。これにより、距離d1は、決定された距離d11を用いて可変的に設定される。以下の本実施形態においては、隣接車両V2が走行する位置(白線Wからの距離d12)及び自車両V1が走行する位置(白線Wからの距離d11)は大凡決まっていることから、距離d1は固定的に決定されているものとする。
距離d2は、自車両V1の後端部から車両進行方向に伸びる距離である。この距離d2は、検出領域A1,A2が少なくともカメラ10の画角a内に収まるように決定されている。特に本実施形態において、距離d2は、画角aに区分される範囲に接するよう設定されている。距離d3は、検出領域A1,A2の車両進行方向における長さを示す距離である。この距離d3は、検出対象となる立体物の大きさに基づいて決定される。本実施形態においては、検出対象が隣接車両V2等であるため、距離d3は、隣接車両V2を含む長さに設定される。
距離d4は、図16(b)に示すように、実空間において隣接車両V2等のタイヤを含むように設定された高さを示す距離である。距離d4は、鳥瞰視画像においては図16(a)に示す長さとされる。なお、距離d4は、鳥瞰視画像において左右の隣接車線よりも更に隣接する車線(すなわち2車線隣りの隣隣接車線)を含まない長さとすることもできる。自車両V1の車線から2車線隣の車線を含んでしまうと、自車両V1が走行している車線である自車線の左右の隣接車線に隣接車両V2が存在するのか、2車線隣りの隣隣接車線に隣隣接車両が存在するのかについて、区別が付かなくなってしまうためである。
以上のように、距離d1〜距離d4が決定され、これにより検出領域A1,A2の位置、大きさ及び形状が決定される。具体的に説明すると、距離d1により、台形をなす検出領域A1,A2の上辺b1の位置が決定される。距離d2により、上辺b1の始点位置C1が決定される。距離d3により、上辺b1の終点位置C2が決定される。カメラ10から始点位置C1に向かって伸びる直線L3により、台形をなす検出領域A1,A2の側辺b2が決定される。同様に、カメラ10から終点位置C2に向かって伸びる直線L4により、台形をなす検出領域A1,A2の側辺b3が決定される。距離d4により、台形をなす検出領域A1,A2の下辺b4の位置が決定される。このように、各辺b1〜b4により囲まれる領域が検出領域A1,A2とされる。この検出領域A1,A2は、図16(b)に示すように、自車両V1から後側方における実空間上では真四角(長方形)となる。
輝度差算出部38は、鳥瞰視画像に含まれる立体物のエッジを検出するために、視点変換部31により視点変換された鳥瞰視画像データに対して、輝度差の算出を行う。輝度差算出部38は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の2つの画素間の輝度差を算出する。輝度差算出部38は、実空間における鉛直方向に伸びる鉛直仮想線を1本だけ設定する手法と、鉛直仮想線を2本設定する手法との何れかによって輝度差を算出することができる。
ここでは、鉛直仮想線を2本設定する具体的な手法について説明する。輝度差算出部38は、視点変換された鳥瞰視画像に対して、実空間で鉛直方向に伸びる線分に該当する第1鉛直仮想線と、第1鉛直仮想線と異なり実空間で鉛直方向に伸びる線分に該当する第2鉛直仮想線とを設定する。輝度差算出部38は、第1鉛直仮想線上の点と第2鉛直仮想線上の点との輝度差を、第1鉛直仮想線及び第2鉛直仮想線に沿って連続的に求める。以下、この輝度差算出部38の動作について詳細に説明する。
輝度差算出部38は、図17(a)に示すように、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第1鉛直仮想線La(以下、注目線Laという)を設定する。また、輝度差算出部38は、注目線Laと異なり、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第2鉛直仮想線Lr(以下、参照線Lrという)を設定する。ここで参照線Lrは、実空間における所定距離だけ注目線Laから離間する位置に設定される。なお、実空間で鉛直方向に伸びる線分に該当する線とは、鳥瞰視画像においてはカメラ10の位置Psから放射状に広がる線となる。この放射状に広がる線は、鳥瞰視に変換した際に立体物が倒れ込む方向に沿う線である。
輝度差算出部38は、注目線La上に注目点Pa(第1鉛直仮想線上の点)を設定する。また輝度差算出部38は、参照線Lr上に参照点Pr(第2鉛直板想線上の点)を設定する。これら注目線La、注目点Pa、参照線Lr、参照点Prは、実空間上において図17(b)に示す関係となる。図17(b)から明らかなように、注目線La及び参照線Lrは、実空間上において鉛直方向に伸びた線であり、注目点Paと参照点Prとは、実空間上において略同じ高さに設定される点である。なお、注目点Paと参照点Prとは必ずしも厳密に同じ高さである必要はなく、注目点Paと参照点Prとが同じ高さとみなせる程度の誤差は許容される。
輝度差算出部38は、注目点Paと参照点Prとの輝度差を求める。仮に、注目点Paと参照点Prとの輝度差が大きいと、注目点Paと参照点Prとの間にエッジが存在すると考えられる。特に、検出領域A1,A2に存在する立体物を検出するために、鳥瞰視画像に対して実空間において鉛直方向に伸びる線分として鉛直仮想線を設定しているため、注目線Laと参照線Lrとの輝度差が高い場合には、注目線Laの設定箇所に立体物のエッジがある可能性が高い。このため、図16に示すエッジ線検出部39は、注目点Paと参照点Prとの輝度差に基づいてエッジ線を検出する。
この点をより詳細に説明する。図18は、輝度差算出部38の詳細動作を示す図であり、図18(a)は鳥瞰視された状態の鳥瞰視画像を示し、図18(b)は、図18(a)に示した鳥瞰視画像の一部B1を拡大した図である。なお、図18についても検出領域A1のみを図示して説明するが、検出領域A2についても同様の手順で輝度差を算出する。
カメラ10が撮像した撮像画像内に隣接車両V2が映っていた場合に、図18(a)に示すように、鳥瞰視画像内の検出領域A1に隣接車両V2が現れる。図18(b)に図18(a)中の領域B1の拡大図を示すように、鳥瞰視画像上において、隣接車両V2のタイヤのゴム部分上に注目線Laが設定されていたとする。この状態において、輝度差算出部38は、先ず参照線Lrを設定する。参照線Lrは、注目線Laから実空間上において所定の距離だけ離れた位置に、鉛直方向に沿って設定される。具体的には、本実施形態に係る立体物検出装置1aにおいて、参照線Lrは、注目線Laから実空間上において10cmだけ離れた位置に設定される。これにより、参照線Lrは、鳥瞰視画像上において、例えば隣接車両V2のタイヤのゴムから10cm相当だけ離れた隣接車両V2のタイヤのホイール上に設定される。
次に、輝度差算出部38は、注目線La上に複数の注目点Pa1〜PaNを設定する。図18(b)においては、説明の便宜上、6つの注目点Pa1〜Pa6(以下、任意の点を示す場合には単に注目点Paiという)を設定している。なお、注目線La上に設定する注目点Paの数は任意でよい。以下の説明では、N個の注目点Paが注目線La上に設定されたものとして説明する。
次に、輝度差算出部38は、実空間上において各注目点Pa1〜PaNと同じ高さとなるように各参照点Pr1〜PrNを設定する。そして、輝度差算出部38は、同じ高さ同士の注目点Paと参照点Prとの輝度差を算出する。これにより、輝度差算出部38は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置(1〜N)ごとに、2つの画素の輝度差を算出する。輝度差算出部38は、例えば第1注目点Pa1とは、第1参照点Pr1との間で輝度差を算出し、第2注目点Pa2とは、第2参照点Pr2との間で輝度差を算出することとなる。これにより、輝度差算出部38は、注目線La及び参照線Lrに沿って、連続的に輝度差を求める。すなわち、輝度差算出部38は、第3〜第N注目点Pa3〜PaNと第3〜第N参照点Pr3〜PrNとの輝度差を順次求めていくこととなる。
輝度差算出部38は、検出領域A1内において注目線Laをずらしながら、上記の参照線Lrの設定、注目点Pa及び参照点Prの設定、輝度差の算出といった処理を繰り返し実行する。すなわち、輝度差算出部38は、注目線La及び参照線Lrのそれぞれを、実空間上において接地線L1の延在方向に同一距離だけ位置を変えながら上記の処理を繰り返し実行する。輝度差算出部38は、例えば、前回処理において参照線Lrとなっていた線を注目線Laに設定し、この注目線Laに対して参照線Lrを設定して、順次輝度差を求めていくことになる。
このように、実空間上で略同じ高さとなる注目線La上の注目点Paと参照線Lr上の参照点Prとから輝度差を求めることで、鉛直方向に伸びるエッジが存在する場合における輝度差を明確に検出することができる。また、実空間において鉛直方向に伸びる鉛直仮想線同士の輝度比較を行うために、鳥瞰視画像に変換することによって立体物が路面からの高さに応じて引き伸ばされてしまっても、立体物の検出処理が影響されることはなく、立体物の検出精度を向上させることができる。
図16に戻り、エッジ線検出部39は、輝度差算出部38により算出された連続的な輝度差から、エッジ線を検出する。例えば、図18(b)に示す場合、第1注目点Pa1と第1参照点Pr1とは、同じタイヤ部分に位置するために、輝度差は、小さい。一方、第2〜第6注目点Pa2〜Pa6はタイヤのゴム部分に位置し、第2〜第6参照点Pr2〜Pr6はタイヤのホイール部分に位置する。したがって、第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との輝度差は大きくなる。このため、エッジ線検出部39は、輝度差が大きい第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との間にエッジ線が存在することを検出することができる。
具体的には、エッジ線検出部39は、エッジ線を検出するにあたり、先ず下記式1に従って、i番目の注目点Pai(座標(xi,yi))とi番目の参照点Pri(座標(xi’,yi’))との輝度差から、i番目の注目点Paiに属性付けを行う。
[式2]
I(xi,yi)>I(xi’,yi’)+tのとき
s(xi,yi)=1
I(xi,yi)<I(xi’,yi’)−tのとき
s(xi,yi)=−1
上記以外のとき
s(xi,yi)=0
上記式2において、tはエッジ閾値を示し、I(xi,yi)はi番目の注目点Paiの輝度値を示し、I(xi’,yi’)はi番目の参照点Priの輝度値を示す。上記式2によれば、注目点Paiの輝度値が、参照点Priにエッジ閾値tを加えた輝度値よりも高い場合には、当該注目点Paiの属性s(xi,yi)は‘1’となる。一方、注目点Paiの輝度値が、参照点Priからエッジ閾値tを減じた輝度値よりも低い場合には、当該注目点Paiの属性s(xi,yi)は‘−1’となる。注目点Paiの輝度値と参照点Priの輝度値とがそれ以外の関係である場合には、注目点Paiの属性s(xi,yi)は‘0’となる。
次に、エッジ線検出部39は、下記式3に基づいて、注目線Laに沿った属性sの連続性c(xi,yi)から、注目線Laがエッジ線であるか否かを判定する。
[式3]
s(xi,yi)=s(xi+1,yi+1)のとき(且つ0=0を除く)、
c(xi,yi)=1
上記以外のとき、
c(xi,yi)=0
注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じである場合には、連続性c(xi,yi)は‘1’となる。注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じではない場合には、連続性c(xi,yi)は‘0’となる。
次に、エッジ線検出部39は、注目線La上の全ての注目点Paの連続性cについて総和を求める。エッジ線検出部39は、求めた連続性cの総和を注目点Paの数Nで割ることにより、連続性cを正規化する。そして、エッジ線検出部39は、正規化した値が閾値θを超えた場合に、注目線Laをエッジ線と判断する。なお、閾値θは、予め実験等によって設定された値である。
すなわち、エッジ線検出部39は、下記式4に基づいて注目線Laがエッジ線であるか否かを判断する。そして、エッジ線検出部39は、検出領域A1上に描かれた注目線Laの全てについてエッジ線であるか否かを判断する。
[式4]
Σc(xi,yi)/N>θ
このように、第2実施形態では、注目線La上の注目点Paと参照線Lr上の参照点Prとの輝度差に基づいて注目点Paに属性付けを行い、注目線Laに沿った属性の連続性cに基づいて当該注目線Laがエッジ線であるかを判断するので、輝度の高い領域と輝度の低い領域との境界をエッジ線として検出し、人間の自然な感覚に沿ったエッジ検出を行うことができる。この効果について詳細に説明する。図20は、エッジ線検出部39の処理を説明する画像例を示す図である。この画像例は、輝度の高い領域と輝度の低い領域とが繰り返される縞模様を示す第1縞模様101と、輝度の低い領域と輝度の高い領域とが繰り返される縞模様を示す第2縞模様102とが隣接した画像である。また、この画像例は、第1縞模様101の輝度が高い領域と第2縞模様102の輝度の低い領域とが隣接すると共に、第1縞模様101の輝度が低い領域と第2縞模様102の輝度が高い領域とが隣接している。この第1縞模様101と第2縞模様102との境界に位置する部位103は、人間の感覚によってはエッジとは知覚されない傾向にある。
これに対し、輝度の低い領域と輝度が高い領域とが隣接しているために、輝度差のみでエッジを検出すると、当該部位103はエッジとして認識されてしまう。しかし、エッジ線検出部39は、部位103における輝度差に加えて、当該輝度差の属性に連続性がある場合にのみ部位103をエッジ線として判定するので、エッジ線検出部39は、人間の感覚としてエッジ線として認識しない部位103をエッジ線として認識してしまう誤判定を抑制でき、人間の感覚に沿ったエッジ検出を行うことができる。
図16に戻り、第1立体物検出部33aは、エッジ線検出部39により検出されたエッジ線の量に基づいて立体物を検出する。上述したように、本実施形態に係る立体物検出装置1aは、実空間上において鉛直方向に伸びるエッジ線を検出する。鉛直方向に伸びるエッジ線が多く検出されるということは、検出領域A1,A2に立体物が存在する可能性が高いということである。このため、第1立体物検出部33aは、エッジ線検出部39により検出されたエッジ線の量に基づいて立体物を検出する。具体的には、第1立体物検出部33aは、エッジ線検出部39により検出されたエッジ線の量が、所定の閾値β以上であるか否かを判断し、エッジ線の量が所定の閾値β以上である場合には、エッジ線検出部39により検出されたエッジ線は、立体物のエッジ線であるものと判断する。
さらに、第1立体物検出部33aは、立体物を検出するに先立って、エッジ線検出部39により検出されたエッジ線が正しいものであるか否かを判定する。第1立体物検出部33aは、エッジ線上の鳥瞰視画像のエッジ線に沿った輝度変化が所定の閾値tb以上である否かを判定する。エッジ線上の鳥瞰視画像の輝度変化が閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものと判断する。一方、エッジ線上の鳥瞰視画像の輝度変化が閾値tb未満である場合には、当該エッジ線が正しいものと判定する。なお、この閾値tbは、実験等により予め設定された値である。
図21は、エッジ線の輝度分布を示す図であり、図21(a)は検出領域A1に立体物としての隣接車両V2が存在した場合のエッジ線及び輝度分布を示し、図21(b)は検出領域A1に立体物が存在しない場合のエッジ線及び輝度分布を示す。
図21(a)に示すように、鳥瞰視画像において隣接車両V2のタイヤゴム部分に設定された注目線Laがエッジ線であると判断されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化はなだらかなものとなる。これは、カメラ10により撮像された画像が鳥瞰視画像に視点変換されたことにより、隣接車両のタイヤが鳥瞰視画像内で引き延ばされたことによる。一方、図21(b)に示すように、鳥瞰視画像において路面に描かれた「50」という白色文字部分に設定された注目線Laがエッジ線であると誤判定されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化は起伏の大きいものとなる。これは、エッジ線上に、白色文字における輝度が高い部分と、路面等の輝度が低い部分とが混在しているからである。
以上のような注目線La上の輝度分布の相違に基づいて、第1立体物検出部33aは、エッジ線が誤判定により検出されたものか否かを判定する。たとえば、カメラ10により取得された撮像画像を鳥瞰視画像に変換した場合、当該撮像画像に含まれる立体物は、引き伸ばされた状態で鳥瞰視画像に現れる傾向がある。上述したように、隣接車両V2のタイヤが引き伸ばされた場合に、タイヤという1つの部位が引き伸ばされるため、引き伸ばされた方向における鳥瞰視画像の輝度変化は小さい傾向となる。これに対し、路面に描かれた文字等をエッジ線として誤判定した場合に、鳥瞰視画像には、文字部分といった輝度が高い領域と路面部分といった輝度が低い領域とが混合されて含まれる。この場合に、鳥瞰視画像において、引き伸ばされた方向の輝度変化は大きくなる傾向がある。そのため、第1立体物検出部33aは、エッジ線に沿った輝度変化が所定の閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものであり、当該エッジ線は、立体物に起因するものではないと判断する。これにより、路面上の「50」といった白色文字や路肩の雑草等がエッジ線として判定されてしまい、立体物の検出精度が低下することを抑制する。一方、第1立体物検出部33aは、エッジ線に沿った輝度変化が所定の閾値tb未満である場合には、当該エッジ線は、立体物のエッジ線であると判断し、立体物が存在するものと判断する。
具体的には、第1立体物検出部33aは、下記式5,6の何れかにより、エッジ線の輝度変化を算出する。このエッジ線の輝度変化は、実空間上における鉛直方向の評価値に相当する。下記式5は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の二乗の合計値によって輝度分布を評価する。下記式6は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の絶対値の合計値よって輝度分布を評価する。
[式5]
鉛直相当方向の評価値=Σ[{I(xi,yi)−I(xi+1,yi+1)}
[式6]
鉛直相当方向の評価値=Σ|I(xi,yi)−I(xi+1,yi+1)|
なお、上記式6に限らず、下記式7のように、閾値t2を用いて隣接する輝度値の属性bを二値化して、当該二値化した属性bを全ての注目点Paについて総和してもよい。
[式7]
鉛直相当方向の評価値=Σb(xi,yi)
但し、|I(xi,yi)−I(xi+1,yi+1)|>t2のとき、
b(xi,yi)=1
上記以外のとき、
b(xi,yi)=0
注目点Paiの輝度値と参照点Priの輝度値との輝度差の絶対値が閾値t2よりも大きい場合、当該注目点Pa(xi,yi)の属性b(xi,yi)は‘1’となる。それ以外の関係である場合には、注目点Paiの属性b(xi,yi)は‘0’となる。この閾値t2は、注目線Laが同じ立体物上にないことを判定するために実験等によって予め設定されている。そして、第1立体物検出部33aは、注目線La上の全注目点Paについての属性bを総和して、鉛直相当方向の評価値を求めることで、エッジ線が立体物に起因するものであり、立体物が存在するか否かを判定する。
第2実施形態に係る白濁度算出部36aは、所定の周期(フレームレート)で得られた各鳥瞰視画像から検出されたエッジ線の数に基づいて、各フレームごとに、フレームスコアを算出する。たとえば、白濁度算出部36aは、下記の表3に示すように、検出されたエッジ線の数が、0〜2本の場合には、隣接車両V2が検出されないものと判断して、スコアを0点として算出し、3〜4本の場合には、隣接車両V2を検出している可能性があるものと判断して、スコアを1点と算出する。さらに、エッジ線の数が、5〜6本の場合には、隣接車両V2を検出している可能性が高いものと判断し、スコアを2点として算出し、7本以上の場合には、隣接車両V2を検出している可能性がより高いものと判断し、スコアを3点として算出する。
Figure 2014017601
また、白濁度算出部36aは、所定時間内に生成されたフレームスコアに基づいて、検知スコアを算出し、算出した検知スコアを積算していくことで、検知スコアの積算値を、レンズの白濁度として算出する。なお、検知スコアおよびレンズの白濁度の算出方法は、第1実施形態と同様に行うことができる。
次に、図22および図23を参照して、第2実施形態に係る隣接車両検出方法について説明する。図22および図23は、第2実施形態に係る隣接車両検出方法の詳細を示すフローチャートである。本実施形態において、この隣接車両検出処理は、後述する白濁度算出処理と並行して実行される。また、本実施形態の隣接車両検出処理は、所定の周期(たとえば、0.1秒周期)で繰り返し行われる。なお、以下においては、便宜上、検出領域A1を対象とする処理について説明するが、検出領域A2についても同様の処理が実行される。
ステップS301では、カメラ10により、画角a及び取付位置によって特定された所定領域の撮像が行われ、計算機30aにより、カメラ10により撮像された撮像画像Pの画像データが取得される。次に視点変換部31は、ステップS302において、取得した画像データについて視点変換を行い、鳥瞰視画像データを生成する。
次に輝度差算出部38は、ステップS303において、検出領域A1上に注目線Laを設定する。このとき、輝度差算出部38は、実空間上において鉛直方向に伸びる線に相当する線を注目線Laとして設定する。次に輝度差算出部38は、ステップS304において、検出領域A1上に参照線Lrを設定する。このとき、輝度差算出部38は、実空間上において鉛直方向に伸びる線分に該当し、且つ、注目線Laと実空間上において所定距離離れた線を参照線Lrとして設定する。
次に輝度差算出部38は、ステップS305において、注目線La上に複数の注目点Paを設定する。この際に、輝度差算出部38は、エッジ線検出部39によるエッジ検出時に問題とならない程度の数の注目点Paを設定する。また、輝度差算出部38は、ステップS306において、実空間上において注目点Paと参照点Prとが略同じ高さとなるように、参照点Prを設定する。これにより、注目点Paと参照点Prとが略水平方向に並ぶこととなり、実空間上において鉛直方向に伸びるエッジ線を検出しやすくなる。
次に輝度差算出部38は、ステップS307において、実空間上において同じ高さとなる注目点Paと参照点Prとの輝度差を算出する。そして、エッジ線検出部39は、輝度差算出部38により算出された輝度差に基づいて、上記式1に従って、各注目点Paの属性sを算出する。
次にエッジ線検出部39は、ステップS308において、上記式2に従って、各注目点Paの属性sの連続性cを算出する。そして、エッジ線検出部39は、ステップS309において、上記式3に従って、連続性cの総和を正規化した値が閾値θより大きいか否かを判定する。そして、正規化した値が閾値θよりも大きいと判断した場合(ステップS309=Yes)、エッジ線検出部39は、ステップS310において、当該注目線Laをエッジ線として検出する。そして、処理はステップS311に移行する。正規化した値が閾値θより大きくないと判断した場合(ステップS309=No)、エッジ線検出部39は、当該注目線Laをエッジ線として検出せず、処理はステップS311に移行する。
ステップS311において、計算機30aは、検出領域A1上に設定可能な注目線Laの全てについて上記のステップS303〜ステップS310の処理を実行したか否かを判断する。全ての注目線Laについて上記処理をしていないと判断した場合(ステップS311=No)、ステップS303に処理を戻して、新たに注目線Laを設定して、ステップS311までの処理を繰り返す。一方、全ての注目線Laについて上記処理をしたと判断した場合(ステップS311=Yes)、処理はステップS312に移行する。
ステップS312において、第1立体物検出部33aは、ステップS310において検出された各エッジ線について、当該エッジ線に沿った輝度変化を算出する。第1立体物検出部33aは、上記式5,6,7の何れかの式に従って、エッジ線の輝度変化を算出する。次に第1立体物検出部33aは、ステップS313において、エッジ線のうち、輝度変化が所定の閾値tb以上のエッジ線を除外する。すなわち、輝度変化の大きいエッジ線は正しいエッジ線ではないと判定し、エッジ線を立体物の検出には使用しない。これは、上述したように、検出領域A1に含まれる路面上の文字や路肩の雑草等がエッジ線として検出されてしまうことを抑制するためである。したがって、所定の閾値tbとは、予め実験等によって求められた、路面上の文字や路肩の雑草等によって発生する輝度変化に基づいて設定された値となる。一方、第1立体物検出部33aは、エッジ線のうち、輝度変化が所定の閾値tb未満であるエッジ線を、立体物のエッジ線と判断し、これにより、隣接車両に存在する立体物を検出する。
次いで、ステップS314では、第1立体物検出部33aにより、隣接車両V2の検出が行われる。具体的には、第1立体物検出部33aは、ステップS310で検出したエッジ線の量が所定の閾値β以上であるか否かを判断することで、隣接車線に隣接車両V2が存在するか否かを判断する。ここで、閾値βは、予め実験等によって求めておいて設定された値であり、たとえば、検出対象の立体物として四輪車を設定した場合に、当該閾値βは、予め実験等によって検出領域A1内において出現した四輪車のエッジ線の数に基づいて設定される。そして、第1立体物検出部33aは、エッジ線の量が閾値β以上である場合には、検出領域A1内に隣接車両V2が存在すると判断し、隣接車線に存在する隣接車両V2を検出する。一方、第1立体物検出部33aは、エッジ線の量が閾値β以上ではない場合には、検出領域A1内に隣接車両V2が存在しないものと判断し、隣接車両V2を検出しない。
ステップS315〜S317は、第1実施形態のステップS112〜S114と同様に、隣接車両V2のヘッドライトの候補となる光源の検出が行われ(ステップS315)、検出された隣接車両V2のヘッドライトの候補となる光源に基づいて、第2立体物検出部35により、隣接車両V2の検出が行われる(ステップS316)。そして、後述する白濁度算出処理により算出されたレンズ白濁度の取得が行われる(ステップS317)。
そして、ステップS318では、立体物判断部37により、ステップS317で取得されたレンズ白濁度に基づいて、ステップS314で得られた第1立体物検出部33aの検出結果、および、ステップS316で得られた第2立体物検出部35の検出結果の重み付けが行われる。具体的には、立体物判断部37は、上記式1に示すように、レンズ白濁度が高いほど、第1立体物検出部33aの検出結果の重み付けWc1を小さくし、第2立体物検出部35の検出結果の重み付けWc2を大きくする。
次に、ステップS319では、立体物判断部37により、上記式1に示すように、ステップS318で重み付した検出結果の合計値が、所定の車両判定閾値sを越えるか否かの判断が行われ、重み付けした第1立体物検出部33aの検出結果と第2立体物検出部35の検出結果との合計値が、所定の車両判定閾値sを越える場合には、ステップS320に進み、隣接車両V2が存在すると判断される。一方、所定の車両判定閾値sを越えない場合には、ステップS321に進み、隣接車両V2が存在しないと判断される。
続いて、図24を参照して、第2実施形態に係る白濁度算出処理について説明する。図24は、第2実施形態に係る白濁度算出処理を示すフローチャートである。なお、以下に説明する白濁度算出処理は、所定の周期(たとえば、0.1秒周期)で実行される。また、以下に説明する白濁度算出処理は、上述した隣接車両検出処理と並行して行われ、この白濁度算出処理において算出されたレンズの白濁度が、上述した隣接車両検出処理において、隣接車両V2を検出する際に用いられることとなる。
ステップS401では、白濁度算出部36により、上述した隣接車両検出処理で検出されたエッジ線の数の検出が行われる。そして、ステップS402では、上記の表1に示すように、ステップS401で検出されたエッジ線の数に基づいて、フレームスコアの算出が行われる。
ステップS403〜S406は、第1実施形態のステップS203〜S206と同様の処理が行われる。すなわち、隣接車両V2のヘッドライトが検出されているか否かの判定が行われ(ステップS403)、隣接車両V2のヘッドライトが検出されている場合には(ステップS403=Yes)、所定時間内に算出されたフレームスコアの合計点の算出が行われる(ステップS404)。そして、算出されたフレームスコアの合計点に基づいて、上記の表2に示すように、検知スコアの算出が行われ(ステップS405)、検知スコアの積算値がレンズの白濁度として算出される(ステップS406)。なお、隣接車両V2のヘッドライトが検出されていない場合には(ステップS403=No)、フレームスコアの算出が繰り返し行われる。そして、ステップS406で算出されたレンズの白濁度が、図22および図23に示す隣接車両検出処理に用いられることとなる。
以上のように、第2実施形態では、隣接車両V2のエッジを検出し、該エッジに基づいて隣接車両V2を検出する第1立体物検出部33aの検出結果と、ヘッドライトに基づいて隣接車両V2を検出する第2立体物検出部35の検出結果とに、レンズの白濁度に応じた重み付けを行い、重み付けした検出結果に基づいて、隣接車両V2が存在するか否かを判断する。具体的には、レンズの白濁度が高いほど、第1立体物検出部33の検出結果の重み付けを小さくし、第2立体物検出部35の検出結果の重み付けを大きくして、隣接車両V2が存在するか否かを判断する。これにより、第2実施形態においては、第1実施形態の効果に加えて、撮像画像から検出したエッジに基づいて隣接車両V2を検出する場合においても、レンズが白濁している度合いに応じて、隣接車両V2を適切に検出することが可能となる。
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
たとえば、上述した実施形態では、上記式1に示すように、レンズの白濁度に基づいて、第1立体物検出部33の検出結果と、第2立体物検出部35の検出結果とに重み付けを行い、重み付けした第1立体物検出部33の検出結果と第2立体物検出部35の検出結果との合計値が、所定の車両判定閾値s以上である場合に、隣接車両V2が存在するものと判断する構成を例示したが、この構成に限定されず、たとえば、レンズの白濁度に基づいて、立体物を検出するための差分閾値th、エッジ閾値tを変更する構成としてもい。具体的には、レンズの白濁度が高いほど、立体物を検出し易いように、差分閾値thまたはエッジ閾値tを低い値に変更する構成としてもよい。この場合、レンズが白濁している場合でも、立体物を検出し易くなるため、隣接車線に存在する隣接車両V2を適切に検出することが可能となる。また、同様に、レンズの白濁度が高いほど、立体物を検出するための閾値α、閾値βを低くする構成としてもよい。さらに、レンズの白濁度が高いほど、立体物が検出し易くなるように、閾値θ、閾値t2、閾値tbなどを変更する構成としてもよい。また、検出されたレンズの白濁度が高いほど、カメラ10から出力される画素値(または輝度値)を高くする構成としてもよい。この場合、差分画素DPやエッジが検出され易くなるため、立体物(隣接車両V2)の検出が促進され、その結果、レンズが白濁している場合でも、隣接車両V2を適切に検出することができる。
さらに、上述した第1実施形態では、立体物の移動速度が所定の条件を満たす場合に、立体物を隣接車両V2として検出する構成を例示したが、たとえば、レンズの白濁度が高い場合に、上記の条件を緩くすることで、隣接車両V2の検出を促進する構成としてもよい。たとえば、上述した実施形態では、立体物の絶対移動速度が10km/h以上、かつ、自車両V1に対する立体物の相対移動速度が+60km/h以下である場合に、立体物を隣接車両V2と判断しているが、レンズの白濁度が高い場合には、たとえば、立体物の絶対移動速度が5km/h以上、かつ、自車両V1に対する立体物の相対移動速度が+70km/h以下である場合に、立体物は隣接車両V2であると判断する構成とする構成としてもよい。
また、上述した実施形態に加えて、レンズの白濁度が所定値以上となった場合に、レンズが白濁して隣接車両V2を適切に検出することができないものとして、このような場合に、隣接車両V2の検出を行わない構成とすることもできる。たとえば、図12に示す例において、レンズの白濁度が上限値Sである100に達した場合や、レンズの白濁度が上限値Sに近い80以上となった場合に、隣接車両V2の検出を行わない構成とすることもできる。
さらに、上述した実施形態では、隣接車両V2のヘッドライトが検出され、レンズ白濁度の算出を開始する際に、隣接車両V2のヘッドライトが検出された時刻よりも前の微小時間を含む所定時間において算出されたフレームスコアに基づいて、検知スコアを算出する構成を例示したが、この構成に限定されず、たとえば、隣接車両V2のヘッドライトが検出された後の所定時間において算出されたフレームスコアのみに基づいて、検知スコアを算出する構成としてもよい。たとえば、図11に示す例において、隣接車両V2のヘッドライトが検出された時刻tから時刻t30までの25フレーム分のフレームスコアに基づいて、検知スコアを算出することで、検知スコアDSを算出する構成としてもよい。
加えて、上述した実施形態においては、カメラ10のレンズに水垢などの異物が付着しており、レンズが白濁している場合を例示して説明したが、異物は水垢に限定されず、雨滴や泥水なども含むことができる。
なお、上述した実施形態のカメラ10は本発明の撮像手段に相当し、視点変換部31は本発明の画像変換手段に相当し、位置合わせ部32、第1立体物検出部33,33a、輝度差算出部38、エッジ線検出部39は本発明の第1立体物検出手段に相当し、ヘッドライト検出部34は本発明の光源検出手段に相当し、第2立体物検出部35は本発明の第2立体物検出手段に相当し、立体物判断部37は本発明の制御手段に相当し、白濁度算出部36,36aは本発明の白濁度算出手段に相当する。
1,1a…立体物検出装置
10…カメラ
20…車速センサ
30,30a…計算機
31…視点変換部
32…位置合わせ部
33,33a…第1立体物検出部
34…ヘッドライト検出部
35…第2立体物検出部
36,36a…白濁度算出部
37…立体物判断部
38…輝度差算出部
39…エッジ線検出部
a…画角
A1,A2…検出領域
CP…交点
DP…差分画素
DW,DW’…差分波形
DWt1〜DW,DWm+k〜DWtn…小領域
L1,L2…接地線
La,Lb…立体物が倒れ込む方向上の線
P…撮像画像
PB…鳥瞰視画像
PD…差分画像
V1…自車両
V2…隣接車両
本発明は、自車両後方に存在する光源に基づいて立体物を検出する第2立体物検出手段と、撮像画像に基づいて、第2立体物検出と異なる態様で立体物を検出する第1立体物検出手段と、を備える立体物検出装置において、レンズ白濁度を算出し、レンズ白濁度が所定の判定値以上である場合には、第1立体物検出手段の検出結果よりも第2立体物検出手段の検出結果を多く用いて立体物が隣接車両であるか否かを判断し、レンズ白濁度が判定値未満である場合には、第2立体物検出手段の検出結果よりも第1立体物検出手段の検出結果を多く用いて立体物が隣接車両であるか否かを判断することで、上記課題を解決する。

Claims (17)

  1. 自車両後方の映像を結像させるレンズを備えた撮像手段と、
    前記撮像手段により得られた撮像画像に基づいて立体物を検出する第1立体物検出手段と、
    前記撮像手段により得られた前記撮像画像に基づいて、自車両後方に存在する光源を検出する光源検出手段と、
    前記光源検出手段により検出された前記光源に基づいて立体物を検出する第2立体物検出手段と、
    前記撮像画像に基づいて、前記レンズが白濁している度合いをレンズ白濁度として算出する白濁度算出手段と、
    前記レンズ白濁度が所定の判定値以上である場合には、少なくとも前記第2立体物検出手段による検出結果に基づいて、前記立体物が自車両の走行車線に隣接する隣接車線に存在する隣接車両であるか否かを判断し、
    前記レンズ白濁度が前記判定値未満である場合には、少なくとも前記第1立体物検出手段による検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断する制御手段と、を備えることを特徴とする立体物検出装置。
  2. 請求項1に記載の立体物検出装置であって、
    前記第1立体物検出手段は、
    前記撮像手段により得られた前記撮像画像を鳥瞰視画像に視点変換する画像変換手段を有し、
    前記画像変換手段により得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って、所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、該差分波形情報に基づいて、前記立体物を検出し、
    前記白濁度算出手段は、所定時間内に生成された前記差分波形情報のピークのうち、所定閾値以上の値を有するピークの数に基づいて、前記レンズ白濁度を算出することを特徴とする立体物検出装置。
  3. 請求項2に記載の立体物検出装置であって、
    前記制御手段は、前記レンズ白濁度が高いほど、前記第1立体物検出手段の検出結果の重み付けを相対的に小さくし、前記第2立体物検出手段の検出結果の重み付けを相対的に大きくし、重み付けした前記第1立体物検出手段による検出結果および前記第2立体物検出手段による検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断することを特徴とする立体物検出装置。
  4. 請求項2または3に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記光源検出手段が前記光源を検出した場合に、前記レンズ白濁度の算出を開始することを特徴とする立体物検出装置。
  5. 請求項4に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記レンズ白濁度の算出を開始する際に、前記光源が検出された時刻を基準として前記所定時間を設定し、前記所定時間内に生成された前記差分波形情報のピークのうち、前記所定閾値以上の値を有するピークの数に基づいて、前記レンズ白濁度の算出を行うこと特徴とする立体物検出装置。
  6. 請求項4または5に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記レンズ白濁度の算出を開始する際に、前記光源が検出された時刻よりも前の微小時間を前記所定時間に含めて、前記レンズ白濁度を算出することを特徴とする立体物検出装置。
  7. 請求項2〜6のいずれかに記載の立体物検出装置であって、
    前記白濁度算出手段は、前記差分波形情報において前記所定閾値以上の値を有するピークの数に基づいて第1スコアを算出し、前記所定時間内に算出された前記第1スコアの合計値に基づいて第2スコアを算出し、算出された前記第2スコアの積算値を、前記レンズ白濁度として算出することを特徴とする立体物検出装置。
  8. 請求項7に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記第1スコアまたは前記第2スコアに上限を設けることを特徴とする立体物検出装置。
  9. 請求項1に記載の立体物検出装置であって、
    前記第1立体物検出手段は、
    前記撮像手段により得られた前記撮像画像を鳥瞰視画像に視点変換する画像変換手段を有し、
    前記画像変換手段により得られた前記鳥瞰視画像から、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿ってエッジ情報を検出し、該エッジ情報に基づいて立体物を検出し、
    前記白濁度算出手段は、所定時間内に検出された前記エッジ情報に含まれるエッジ線の量に基づいて、前記レンズ白濁度を算出することを特徴とする立体物検出装置。
  10. 請求項9に記載の立体物検出装置であって、
    前記制御手段は、前記レンズ白濁度が高いほど、前記第1立体物検出手段の検出結果の重み付けを相対的に小さくし、前記第2立体物検出手段の検出結果の重み付けを相対的に大きくし、重み付けした前記第1立体物検出手段による検出結果および前記第2立体物検出手段による検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断することを特徴とする立体物検出装置。
  11. 請求項9または10に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記光源検出手段が前記光源を検出した場合に、前記レンズ白濁度の算出を開始することを特徴とする立体物検出装置。
  12. 請求項11に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記レンズ白濁度の算出を開始する際に、前記光源が検出された時刻を基準として前記所定時間を設定し、前記所定時間内に検出された前記エッジ情報に含まれるエッジ線の量に基づいて、前記レンズ白濁度の算出を行うこと特徴とする立体物検出装置。
  13. 請求項11または12に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記レンズ白濁度の算出を開始する際に、前記光源が検出された時刻よりも前の微小時間を前記所定時間に含めて、前記レンズ白濁度を算出することを特徴とする立体物検出装置。
  14. 請求項9〜13のいずれかに記載の立体物検出装置であって、
    前記白濁度算出手段は、前記エッジ情報に含まれる前記エッジ線の量に基づいて第1スコアを算出し、前記所定時間内に算出された前記第1スコアの合計値に基づいて第2スコアを算出し、算出された前記第2スコアの積算値を、前記レンズ白濁度として算出することを特徴とする立体物検出装置。
  15. 請求項14に記載の立体物検出装置であって、
    前記白濁度算出手段は、前記第1スコアまたは前記第2スコアに上限を設けることを特徴とする立体物検出装置。
  16. 自車両後方を撮像した撮像画像を鳥瞰視画像に視点変換し、異なる時刻の前記鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上において、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿って、所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、該差分波形情報に基づいて立体物を検出し、該検出結果を第1検出結果として出力するとともに、前記撮像画像に基づいて自車両後方に存在する光源を検出し、前記光源に基づいて立体物を検出し、該検出結果を第2検出結果として出力し、前記第1検出結果および前記第2検出結果に基づいて、前記立体物が、自車両の走行車線に隣接する隣接車線に存在する隣接車両であるか否かを判断する立体物検出方法であって、
    所定時間内に生成された前記差分波形情報のピークのうち、所定閾値以上の値を有するピークの数に基づいて、前記レンズが白濁している度合いをレンズ白濁度として算出し、前記レンズ白濁度が所定の判定値以上である場合には、前記第1検出結果および前記第2検出結果のうち、少なくとも前記第2検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断し、前記レンズ白濁度が前記判定値未満である場合には、前記第1検出結果および前記第2検出結果のうち、少なくとも前記第1検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断することを特徴とする立体物検出方法。
  17. 自車両後方を撮像した撮像画像を鳥瞰視画像に視点変換し、前記鳥瞰視画像から、前記鳥瞰視画像に視点変換した際に立体物が倒れ込む方向に沿ってエッジ情報を検出し、該エッジ情報に基づいて立体物を検出し、該検出結果を第1検出結果として出力するとともに、前記撮像画像に基づいて自車両後方に存在する光源を検出し、前記光源に基づいて立体物を検出し、該検出結果を第2検出結果として出力し、前記第1検出結果および前記第2検出結果に基づいて、前記立体物が、自車両の走行車線に隣接する隣接車線に存在する隣接車両であるか否かを判断する立体物検出方法であって、
    所定時間内に検出された前記エッジ情報に含まれるエッジ線の量に基づいて、前記レンズが白濁している度合いをレンズ白濁度として算出し、前記レンズ白濁度が所定の判定値以上である場合には、前記第1検出結果および前記第2検出結果のうち、少なくとも前記第2検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断し、前記レンズ白濁度が前記判定値未満である場合には、前記第1検出結果および前記第2検出結果のうち、少なくとも前記第1検出結果に基づいて、前記立体物が前記隣接車両であるか否かを判断することを特徴とする立体物検出方法。
JP2014527010A 2012-07-27 2013-07-25 立体物検出装置および立体物検出方法 Active JP5943077B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012166519 2012-07-27
JP2012166519 2012-07-27
PCT/JP2013/070223 WO2014017601A1 (ja) 2012-07-27 2013-07-25 立体物検出装置および立体物検出方法

Publications (2)

Publication Number Publication Date
JP5943077B2 JP5943077B2 (ja) 2016-06-29
JPWO2014017601A1 true JPWO2014017601A1 (ja) 2016-07-11

Family

ID=49997408

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014527010A Active JP5943077B2 (ja) 2012-07-27 2013-07-25 立体物検出装置および立体物検出方法

Country Status (10)

Country Link
US (1) US9589193B2 (ja)
EP (1) EP2879383B1 (ja)
JP (1) JP5943077B2 (ja)
CN (1) CN104509099B (ja)
BR (1) BR112015001747B1 (ja)
IN (1) IN2015KN00408A (ja)
MX (1) MX336987B (ja)
MY (1) MY156197A (ja)
RU (1) RU2576315C1 (ja)
WO (1) WO2014017601A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX2013001976A (es) * 2010-08-19 2013-04-03 Nissan Motor Dispositivo de deteccion de objetos tridimensionales y el metodo de deteccion de objetos tridimensionales.
JP6330383B2 (ja) * 2014-03-12 2018-05-30 株式会社デンソー 合成画像生成装置、および合成画像生成プログラム
JP6499047B2 (ja) * 2015-09-17 2019-04-10 株式会社東芝 計測装置、方法及びプログラム
JP6975945B2 (ja) * 2016-02-24 2021-12-01 パナソニックIpマネジメント株式会社 判定装置、判定方法、プログラムおよびプログラムを記録した記録媒体
CN108509848B (zh) * 2018-02-13 2019-03-05 视辰信息科技(上海)有限公司 三维物体的实时检测方法及系统
JP7205234B2 (ja) * 2019-01-07 2023-01-17 株式会社デンソーテン 付着物検出装置および付着物検出方法
CN110562178A (zh) * 2019-09-06 2019-12-13 广州扬名信息科技有限公司 车内感应传输系统
DE112019007916T5 (de) * 2019-11-28 2022-10-13 Mitsubishi Electric Corporation Objekterkennungsvorrichtung, Objekterkennungsverfahren und Objekterkennungsprogramm
EP3968274A1 (en) * 2020-09-14 2022-03-16 Tata Consultancy Services Limited Method and system for asset inspection using unmanned aerial vehicles

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001023093A (ja) * 1999-07-08 2001-01-26 Mitsubishi Motors Corp 車両の走行監視装置
JP2008052320A (ja) * 2006-08-22 2008-03-06 Alpine Electronics Inc 周辺監視システム
JP2012003662A (ja) * 2010-06-21 2012-01-05 Nissan Motor Co Ltd 移動距離検出装置及び移動距離検出方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10322087A1 (de) 2003-05-15 2004-12-02 Daimlerchrysler Ag Verfahren zur Erkennung und Lokalisierung von Verschmutzungen auf der Optik eines Kamerasystems
JP4326999B2 (ja) * 2003-08-12 2009-09-09 株式会社日立製作所 画像処理システム
JP3775409B2 (ja) * 2003-10-29 2006-05-17 ブラザー工業株式会社 画像読取装置
JP2006003662A (ja) * 2004-06-17 2006-01-05 Nikon Corp 蛍光顕微鏡装置
JP4130435B2 (ja) * 2004-11-30 2008-08-06 本田技研工業株式会社 撮像装置の異常検知装置
US7720580B2 (en) * 2004-12-23 2010-05-18 Donnelly Corporation Object detection system for vehicle
EP1837803A3 (en) * 2006-03-24 2008-05-14 MobilEye Technologies, Ltd. Headlight, taillight and streetlight detection
CN100440269C (zh) 2006-06-12 2008-12-03 黄席樾 高速公路汽车行驶智能检测预警方法及其预警系统
JP2008064630A (ja) * 2006-09-07 2008-03-21 Hitachi Ltd 付着物検知機能付き車載用撮像装置
JP2008219063A (ja) 2007-02-28 2008-09-18 Sanyo Electric Co Ltd 車両周辺監視装置及び方法
JP2008227646A (ja) 2007-03-09 2008-09-25 Clarion Co Ltd 障害物検知装置
RU2441283C2 (ru) * 2009-04-10 2012-01-27 Учреждение Российской академии наук Центр информационных технологий в проектировании РАН Оптико-электронное устройство предупреждения столкновений транспортного средства
CN102055956B (zh) * 2009-11-02 2017-05-10 通用汽车环球科技运作公司 车载三维视频系统及用其监测车辆周围环境的方法
RU2432276C1 (ru) * 2010-07-07 2011-10-27 Осман Мирзаевич Мирза Способ наблюдения за дорожной ситуацией с движущегося транспортного средства (варианты)
JP5883732B2 (ja) 2012-07-03 2016-03-15 クラリオン株式会社 環境認識装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001023093A (ja) * 1999-07-08 2001-01-26 Mitsubishi Motors Corp 車両の走行監視装置
JP2008052320A (ja) * 2006-08-22 2008-03-06 Alpine Electronics Inc 周辺監視システム
JP2012003662A (ja) * 2010-06-21 2012-01-05 Nissan Motor Co Ltd 移動距離検出装置及び移動距離検出方法

Also Published As

Publication number Publication date
EP2879383B1 (en) 2020-02-26
BR112015001747B1 (pt) 2021-11-16
EP2879383A4 (en) 2015-12-16
CN104509099B (zh) 2016-06-01
EP2879383A1 (en) 2015-06-03
US9589193B2 (en) 2017-03-07
JP5943077B2 (ja) 2016-06-29
BR112015001747A2 (ja) 2019-12-31
CN104509099A (zh) 2015-04-08
IN2015KN00408A (ja) 2015-07-17
RU2576315C1 (ru) 2016-02-27
MX336987B (es) 2016-02-09
MX2015001226A (es) 2015-04-10
WO2014017601A1 (ja) 2014-01-30
US20150324651A1 (en) 2015-11-12
MY156197A (en) 2016-01-20

Similar Documents

Publication Publication Date Title
JP5943077B2 (ja) 立体物検出装置および立体物検出方法
JP5787024B2 (ja) 立体物検出装置
JP5977827B2 (ja) 立体物検出装置および立体物検出方法
JP5981550B2 (ja) 立体物検出装置および立体物検出方法
JP5804180B2 (ja) 立体物検出装置
JP6020567B2 (ja) 立体物検出装置および立体物検出方法
JP5682735B2 (ja) 立体物検出装置
JP5743020B2 (ja) 立体物検出装置
JP5733467B2 (ja) 立体物検出装置
JP5874831B2 (ja) 立体物検出装置
JP5682734B2 (ja) 立体物検出装置
JP5835459B2 (ja) 立体物検出装置
JP5783319B2 (ja) 立体物検出装置及び立体物検出方法
JP5790867B2 (ja) 立体物検出装置
JP5999183B2 (ja) 立体物検出装置および立体物検出方法
JP6020568B2 (ja) 立体物検出装置および立体物検出方法
JP6011110B2 (ja) 立体物検出装置および立体物検出方法
JP5668891B2 (ja) 立体物検出装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160509

R151 Written notification of patent or utility model registration

Ref document number: 5943077

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151