≪第1実施形態≫
図1は、本実施形態に係る立体物検出装置1を搭載した車両の概略構成図である。本実施形態に係る立体物検出装置1は、自車両V1が車線変更する際に接触の可能性がある隣接車線に存在する立体物(他車両V2などの立体物)を検出することを目的とする。本実施形態に係る立体物検出装置1は、図1に示すように、カメラ10と、車速センサ20と、計算機30とを備える。
カメラ10は、図1に示すように、自車両V1の後方における高さhの箇所において、光軸が水平から下向きに角度θとなるように自車両V1に取り付けられている。カメラ10は、この位置から自車両V1の周囲環境のうちの所定領域を撮像する。車速センサ20は、自車両V1の走行速度を検出するものであって、例えば車輪に回転数を検知する車輪速センサで検出した車輪速から車速度を算出する。計算機30は、自車両後方に存在する他車両の検出を行う。
図2は、図1の自車両V1の走行状態を示す平面図である。同図に示すように、カメラ10は、所定の画角aで車両後方側を撮像する。このとき、カメラ10の画角aは、自車両V1が走行する車線に加えて、その左右の車線(隣接車線)についても撮像可能な画角に設定されている。
また、図3に示すように、カメラ10の近傍には、レンズ110に付着した泥や埃などの異物を除去するためのレンズ洗浄装置120や、直射日光などの路面以外から入射する光束を制限するための遮光板130が設けられている。本実施形態においては、カメラ10、レンズ洗浄装置120、および遮光板130からなる装置を、カメラ装置100として説明する。なお、図3は、カメラ装置100の構成を示すブロック図である。
まず、カメラ装置100が備える遮光板130について説明する。遮光板130は、図3に示すように、レンズ110の上側前方に設置されており、レンズ110の上側から入射する光束を制限する。これにより、図4に示すように、カメラ10で撮像した撮像画像の上側に、遮光板130により形成された遮光領域Xが形成されることとなる。なお、図4は、カメラ10により撮像される撮像画像の一例を示す図である。
次に、カメラ装置100が備えるレンズ洗浄装置120の一例を説明する。本実施形態に係るレンズ洗浄装置120は、図3に示すように、洗浄液を蓄積する洗浄液タンク127と、洗浄液タンク127に蓄積された洗浄液を送り出す洗浄液ポンプ126と、圧縮空気を送り出す空気ポンプ123と、カメラ10のレンズ面に向けて洗浄液、圧縮空気、或いは洗浄液と圧縮空気との混合を吐出するノズル121と、を備えている。レンズ洗浄装置120は、洗浄液タンク127に蓄えられた洗浄液を用いて、レンズ110を洗浄する。
さらに、レンズ洗浄装置120は、洗浄液ポンプ126にて送出される洗浄液を、該洗浄液を蓄積する二次タンク124に導く洗浄液配管125と、空気ポンプ123にて送出される圧縮空気を、ノズル121に導く空気配管122と、洗浄液ポンプ126及び空気ポンプ123の動作を制御する制御装置128と、を備えている。
図5(a)は、車両の後部に搭載されるカメラ10に、本実施形態に係るレンズ洗浄装置120を設置した状態を示す斜視図、図5(b)は、図5(a)に示すレンズ洗浄装置120を「A」方向から見た図である。図5(a)に示すように、車両後部に固定されたカメラ10の側部近傍には、やはり車両後部に固定されてレンズ110の表面を洗浄するノズルユニット129が設けられている。ノズルユニット129には、レンズ110の表面に向けて洗浄液及び圧縮空気を噴出するノズル121およびキャップ121cが設けられている。ノズル121には、図5(b)に示すように、その先端部に洗浄液及び圧縮空気を噴出する2つの吐出口121a,121bが設けられている。即ち、ノズル121の吐出口121a,121bよりレンズ110の表面に向けて洗浄液及び圧縮空気を噴出することにより、レンズ110の表面に付着した異物を除去する構成とされている。
図6は、図5(a)に示すノズルユニット129の一部破断斜視図である。図6に示すように、ノズルユニット129の先端側に設けられるノズル121には、その中央部に圧縮空気を導入する空気通路12が設けられ、該空気通路12の左右両側には、洗浄液を導入する洗浄液通路11a,11bが設けられている。また、空気通路12、及び洗浄液通路11a,11bの先端はカメラ10のレンズ110の表面を向くように、略直角に屈曲している。
さらに、洗浄液通路11a,11bの上流側には、洗浄液を一時的に蓄積する二次タンク124が設けられている。該二次タンク124の側部には、洗浄液配管125を接続するためのプラグ124a、及び空気配管122を接続するためのプラグ124bが設けられており、このうちプラグ124bは、二次タンク124の下方に設けられた流路を介して空気通路12に接続されている。即ち、プラグ124bを経由してノズルユニット129内に導入される圧縮空気は直接空気通路12に導入される。
また、プラグ124aは、二次タンク124に接続されており、該プラグ124aを経由して供給される洗浄液は、二次タンク124の上方から内部に流入する。この際、プラグ124aから二次タンク124に接続される配管は、図9(b)の符号23に示すように、鉛直方向を向いている。この配管23の詳細については後述する。
また、図6に示すように、二次タンク124の底部は、2系統の洗浄液通路11a,11bに接続されている。従って、図3に示した空気ポンプ123より送出される圧縮空気は、空気配管122を経由してノズル121の空気通路12に導入され、一方、洗浄液ポンプ126より送出される洗浄液は、二次タンク124に蓄積された後に、2系統の洗浄液通路11a,11bに導入されることになる。
図7(b)は、ノズル先端部の詳細な構成を示す説明図であり、図7(a)に示す符号P1の部分の断面図を示している。図7(b)に示すように、ノズル121の先端部は中央に空気通路12が設けられ、該空気通路12を挟むように、2つの洗浄液通路11a,11bが設けられている。
各洗浄液通路11a,11bは、先端部15a,15bに接続されており、先端部15a,15bの流路面積は洗浄液通路11a,11bの流路面積よりも小さくされている。そのため、洗浄液通路11a,11bを流れる洗浄液は、先端部15a,15b内で流速が速くなる。
一方、空気通路12の先端は、2つの先端部14a,14bに分岐している。先端部14a,14bの流路面積は、空気通路12の流路面積よりも小さくされている。そのため、空気通路12を流れる圧縮空気は、先端部14a,14bを通過する際に流速が速くなる。
そして、一方の洗浄液通路11aの先端部15aと、空気通路12の一方の先端部14aが合流して合流路16aとされ、この先端が吐出口121a(図5(b)参照)とされている。また、他方の洗浄液通路11bの先端部15bと空気通路12の他方の先端部14bが合流して合流路16bとされ、この先端が吐出口121b(図5(b)参照)とされている。この際、合流路14aと合流路14bは、先端側に向けて互いに広がる方向を向いている。
従って、図3に示す洗浄液ポンプ126より送出された洗浄液が二次タンク124内に蓄積され、且つ、空気ポンプ123より圧縮空気が送出されると、圧縮空気が流速を高めて噴射され、更に、圧縮空気が噴射されることにより洗浄液通路11a,11bが負圧となって二次タンク124に蓄積された洗浄液を吸引する。このため、圧縮空気及び洗浄液が2つの合流路16a,16bを経由して吐出口121a,121bから噴射され、レンズ110の表面に吹き付けられる。この際、洗浄液と圧縮空気が混合した液体は図8に示すように、広がる方向に噴射されることになり、レンズ110の表面全体を洗浄することができる。
なお、洗浄液をレンズ110に噴射した場合に、レンズ110に泡が残留してしまい、その結果、カメラ10が路面や路面に存在する立体物を適切に撮影することができない場合がある。そこで、本実施形態に係るカメラ装置100は、レンズ110上に泡が残留しないように、下記のような構成を備えている。
すなわち、図7(b)に示すように、ノズル121の先端部の噴射面17aは、その周囲の側面17bよりも前方に突起した構成とされている。従って、吐出口121a,121bより噴射される洗浄液がノズル121の側面17bに付着することを防止できる。具体的には、図8の符号P2,P3に示す領域に洗浄液が付着することを防止できる。
図9(b)は、図9(a)に示すノズルユニット129を「D」方向から見た断面図である。図9(b)に示すように、ノズル121の底面18と、カメラ10の表面との間には、若干の隙間が設けられている。さらに、隙間の幅は、奥側に向かうに連れて狭くなるように構成されている。このような構成により、ノズル121の底面18とカメラ10の上面10aとの間に洗浄液が侵入した場合でも、この洗浄液は表面張力によってノズル121とカメラ10の隙間部分の奥側に徐々に押し出され、カメラ10の正面視の左右側から外部に放出されることになる。つまり、ノズル121の底面18とカメラ10の上面10aとの間に若干の隙間が存在することにより、洗浄液が滞留して固形化する等の問題を回避できる。
また、図9(b)に示すように、ノズル121の上流側に設けられる二次タンク124の上部には、該二次タンク124内に洗浄液を供給するための供給口124cが設けられ、該供給口124cには、鉛直方向を向く配管23が設けられている。そして、該配管23が図6に示したプラグ124aに接続される。配管23が鉛直方向を向くことにより、洗浄液ポンプ126(図2参照)より洗浄液の供給が停止している場合には、管路中に蓄積された洗浄液が不規則に二次タンク124内に流入することを回避できる。即ち、二次タンク124内が空になった状態で、振動などに起因して二次タンク124内に洗浄液が流入することを防止することができる。
また、二次タンク124の上面には逆止弁24が設けられている。逆止弁24は、例えばアンブレラ弁であり、二次タンク124内の圧力が負圧になった場合には弁が解放されて通気孔25から外気が導入され、二次タンク124内の圧力が正圧になった場合には、弁が閉鎖されて外気への放出を防止する構成とされている。
更に、図9(b)に示すように、二次タンク124の底面124dは前側(図中左側)に向けて下降するように傾斜しており、更に、二次タンク124の出口配管、及びノズル121に設けられる洗浄液通路11a,11b、空気通路12(図6参照)も同様に、前側に向けて下降するように傾斜する構成とされている。このような構成とすることにより、二次タンク124内に蓄積された洗浄液は一定の場所に滞留することがなく、各部位の傾斜により確実に下流側へと流れることになる。
次に、レンズ洗浄装置120の洗浄動作を制御する制御装置128について説明する。
制御装置128は、洗浄液と圧縮空気を噴射してレンズ110を洗浄する洗浄モードと、圧縮空気のみを送出してレンズ110に付着した水滴を除去する乾燥モードと、洗浄液を断続的にレンズ110の表面吐出してレンズ110の表面を湿潤させる湿潤モードの3つのモードを実行することができる。
洗浄モードでは、洗浄液ポンプ126及び空気ポンプ123を共に駆動させることで、洗浄液タンク127に貯留されている洗浄液が洗浄液配管125を経由して二次タンク124に供給され、該二次タンク124内に洗浄液が蓄積される。また、空気ポンプ123より送出される圧縮空気は、空気配管122を経由して図6に示すノズル121内の空気通路12に導入され、その後、この圧縮空気は図7(b)に示す先端部14a,14bから合流路16a,16bに向けて送出される。先端部14a,14bは、空気通路12よりも流路面積が小さく設定されているので、先端部14a,14bでは空気の流速が速くなる。従って、合流路16a,16bの下流側となる先端部15a,15bが負圧となり、二次タンク124内に蓄積された洗浄液が吸引され、吸引された洗浄液は洗浄液通路11a,11bを経由して合流路16a,16bに流入する。
その結果、合流路16a,16bより洗浄液がミスト状となって圧縮空気と共に噴射される。従って、合流路16a,16bの先端となる吐出口121a,121bから、ミスト状の洗浄液を噴射してレンズ110の表面に吹き付けることができる。このため、レンズ110の表面に付着した異物を、ミスト状の洗浄液と空気圧力との相乗作用により除去できる。つまり、洗浄モードでは、空気ポンプ123を作動させて、吐出口121a,121bより圧縮空気を噴射し、且つ、圧縮空気の噴射により生じる負圧にて洗浄液通路11a,11bに供給される洗浄液を吸引して吐出口121a,121bより洗浄液を噴射し、噴射した圧縮空気及び洗浄液によりレンズ面110を洗浄する。
また、二次タンク124内の洗浄液がすべて噴射されると、その後は圧縮空気のみが噴射され、この圧縮空気によりレンズ110に付着した水滴を除去できる。
次に、乾燥モードについて説明する。乾燥モードでは、二次タンク124内に洗浄液が蓄積されていない状態で、空気ポンプ123のみを駆動させる。具体的には、洗浄液ポンプ126を停止させ、空気ポンプ123を所定時間(例えば、2秒間)駆動させる。すると、圧縮空気は空気通路12の先端部14a,14b、及び合流路16a,16bを経由して吐出口121a,121bより噴射され、レンズ110の表面に吹き付けられる。その結果、カメラ10のレンズ110の表面に付着した水滴を空気圧により除去することができる。
この際、二次タンク124に連結される配管23は、図9(b)に示すように、ほぼ鉛直方向を向いており、また、二次タンク124の底面124d、及び洗浄液の配管が下方に向いて傾斜しているので、二次タンク124内、及びその配管に洗浄液が残留しない。このため、圧縮空気が噴射されて二次タンク124内が負圧となった場合でも、洗浄液が合流路16a,16b側に導入されることを防止でき、圧縮空気に洗浄液が混入することを防止できる。このため、圧縮空気を噴射してレンズ110に付着した水滴を除去する際に、圧縮空気に混入した洗浄液が再びレンズ110に付着するという問題の発生を回避することができる。即ち、乾燥モードでは、洗浄液の供給が遮断された状態で空気ポンプ123より空気配管122に圧縮空気を供給し、吐出口121a,121bから圧縮空気を噴射することにより、レンズ110の表面を洗浄する。
次に、レンズ湿潤モードについて説明する。レンズ湿潤モードは、洗浄液ポンプ126から二次タンク124内に洗浄液を供給し、更に、空気ポンプ123を断続的に駆動させることにより、レンズ110の表面に洗浄液を吐出する。具体的には、洗浄液ポンプ126を駆動させて二次タンク124に洗浄液を蓄積し、その後、空気ポンプ126を断続的に複数回駆動させ、洗浄液を少量ずつレンズ110の表面に滴下する。例えば、レンズ110の表面に少量(例えば、0.25ml)ずつ洗浄液を滴下する。
本実施形態におけるレンズ洗浄工程の内容は特に限定されないが、本実施形態のレンズ洗浄工程は、準備工程である洗浄液補充工程と、レンズ湿潤工程と、洗浄工程と、乾燥工程とを含む。
図10は、本実施形態のレンズ洗浄工程を示すタイムチャートである。本実施形態のレンズ洗浄工程では、洗浄工程の実施に必要な洗浄液を予め洗浄液タンク127へ補充する「洗浄液補充工程A」と、レンズ110の表面を湿潤させるために洗浄液Wをレンズ110に吐出する「レンズ湿潤工程B」、洗浄液Wをレンズ110に吐出してレンズ110表面の汚れを洗い流す「洗浄工程C」、洗浄液Wを蒸発させてレンズ110の表面を乾燥させる「乾燥工程D」が、A→B→C→Dの順で繰り返し実行される。本実施形態の「レンズ湿潤工程B」は、洗浄液をレンズ110の表面の全体にいきわたらせるために、洗浄液の吐出及びエアの吹き付けが所定間隔で複数回にわたって行われる。これにより洗浄液はレンズ110の表面に間欠的に吹き付けられる。なお、各工程の具体的な動作は、先述した各モードの動作に準ずる。
図10に示すように、制御装置128は、タイミングTG0で洗浄に必要な洗浄液を洗浄液タンク127に送り込む。本実施形態の洗浄液タンク127は、レンズ洗浄工程に用いられる洗浄液を一時的に蓄える。本実施形態では、1.0mlの洗浄液を洗浄液タンク127に蓄える。洗浄処理が開始されると、まず「レンズ湿潤工程B」を実行する。この「レンズ湿潤工程B」では、20s間隔で洗浄液を間欠的にレンズ110の表面に吐出する。本実施形態では、0.25mlの洗浄液を20s間隔で3回吐出する。また、本実施形態では、洗浄液の吐出に同期させてエアを吐出する。エアの吹き付けのタイミングは洗浄液の吐出のタイミングと同じでもよいし、若干遅延させたタイミングでもよい。
洗浄液タンク127に蓄える洗浄液の量は洗浄工程に応じて適宜に決定する。本実施形態の制御装置128は、レンズ洗浄工程中においてレンズ上に洗浄液を吐出する回数に、1回に吐出さられる洗浄液の量を乗じた吐出総量より大きい量となるように、洗浄液タンク127に蓄える洗浄液の液量を決定する。図10に示す洗浄工程の例では、制御装置128は、レンズ上に洗浄液を吐出する回数(3回)に、1回に吐出される洗浄液の量(0.25ml)を乗じた吐出総量(0.75ml)よりも大きい量である1.0mlの洗浄液を、洗浄液タンク127に蓄える。3回の洗浄液の吐出が終了したタイミングで、0.25mlの洗浄液が洗浄タンク127に残る。この残った洗浄液はエアの吹き付けを伴わず、レンズ110の表面に漏洩する。エアの吹き付けを伴わなければ、洗浄液を吐出したときに生じる泡の量は少ない。また、この最後にレンズ110上に漏れ出る洗浄液は、先のエア吹き付けを伴って吐出された洗浄液によってレンズ110の表面に形成された泡を流し去る。
本実施形態では、このように、レンズ上に洗浄液を吐出する回数に、1回に吐出される洗浄液の量を乗じた吐出総量より大きい量を洗浄液タンク127に蓄えるので、レンズ湿潤工程Bの最後に洗浄液タンク127からレンズ110の表面に洗浄液を漏れ出させることができる。そして、洗浄液タンク127から漏れ出した洗浄液により、レンズ110の表面に残る泡を流し去ることができる。
制御装置128は、「レンズ湿潤工程B」をタイミングTG2で終了させ、その後に「洗浄工程C」を開始し、2秒〜10秒程度の間、洗浄液Wをレンズ110の表面に吐出する。本実施形態では、3秒間の洗浄処理P10を行う。その完了タイミングTG3の後に、「乾燥工程D」を開始し、30秒程度の間、気体をレンズ110の表面に吹き付ける乾燥用エア吹き付け処理P20を行う。
次に、図11に示す計算機30について説明する。図11は、図1の計算機30の詳細を示すブロック図である。なお、図11においては、接続関係を明確とするためにカメラ10、車速センサ20についても図示する。
図11に示すように、計算機30は、視点変換部31と、位置合わせ部32と、立体物検出部33と、遮光領域設定部34と、輝度検出部35と、レンズ状態判断部36とを備える。以下に、それぞれの構成について説明する。
視点変換部31は、カメラ10による撮像にて得られた所定領域の撮像画像データを入力し、入力した撮像画像データを鳥瞰視される状態の鳥瞰画像データに視点変換する。鳥瞰視される状態とは、上空から例えば鉛直下向きに見下ろす仮想カメラの視点から見た状態である。この視点変換は、例えば特開2008−219063号公報に記載されるようにして実行することができる。撮像画像データを鳥瞰視画像データに視点変換するのは、立体物に特有の鉛直エッジは鳥瞰視画像データへの視点変換により特定の定点を通る直線群に変換されるという原理に基づき、これを利用すれば平面物と立体物とを識別できるからである。
位置合わせ部32は、視点変換部31の視点変換により得られた鳥瞰視画像データを順次入力し、入力した異なる時刻の鳥瞰視画像データの位置を合わせる。図12は、位置合わせ部32の処理の概要を説明するための図であり、(a)は自車両V1の移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。
図12(a)に示すように、現時刻の自車両V1がP1に位置し、一時刻前の自車両V1がP1’に位置していたとする。また、自車両V1の後側方向に他車両V2が位置して自車両V1と並走状態にあり、現時刻の他車両V2がP2に位置し、一時刻前の他車両V2がP2’に位置していたとする。さらに、自車両V1は、一時刻で距離d移動したものとする。なお、一時刻前とは、現時刻から予め定められた時間(例えば1制御周期)だけ過去の時刻であってもよいし、任意の時間だけ過去の時刻であってもよい。
このような状態において、現時刻における鳥瞰視画像PBtは図12(b)に示すようになる。この鳥瞰視画像PBtでは、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、他車両V2(位置P2)については倒れ込みが発生する。また、一時刻前における鳥瞰視画像PBt−1についても同様に、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、他車両V2(位置P2’)については倒れ込みが発生する。既述したとおり、立体物の鉛直エッジ(厳密な意味の鉛直エッジ以外にも路面から三次元空間に立ち上がったエッジを含む)は、鳥瞰視画像データへの視点変換処理によって倒れ込み方向に沿った直線群として現れるのに対し、路面上の平面画像は鉛直エッジを含まないので、視点変換してもそのような倒れ込みが生じないからである。
位置合わせ部32は、上記のような鳥瞰視画像PBt,PBt−1の位置合わせをデータ上で実行する。この際、位置合わせ部32は、一時刻前における鳥瞰画像PBt−1をオフセットさせ、現時刻における鳥瞰視画像PBtと位置を一致させる。図12(b)の左側の画像と中央の画像は、移動距離d’だけオフセットした状態を示す。このオフセット量d’は、図12(a)に示した自車両V1の実際の移動距離dに対応する鳥瞰視画像データ上の移動量であり、車速センサ20からの信号と一時刻前から現時刻までの時間に基づいて決定される。
また、位置合わせ後において位置合わせ部32は、鳥瞰視画像PBt,PBt−1の差分をとり、差分画像PDtのデータを生成する。ここで、本実施形態において、位置合わせ部32は、照度環境の変化に対応するために、鳥瞰視画像PBt,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDtの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDtの画素値を「0」とすることで、図12(b)の右側に示すような差分画像PDtのデータを生成することができる。
また、本実施形態において、位置合わせ部32は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像を得るが、この「位置合わせ」処理は、検出対象の種別や要求される検出精度に応じた精度で行うことができる。たとえば、同一時刻及び同一位置を基準に位置を合わせるといった厳密な位置合わせ処理であってもよいし、各鳥瞰視画像の座標を把握するという程度の緩い位置合わせ処理であってもよい。
そして、立体物検出部33は、図12(b)に示す差分画像PDtのデータに基づいて、差分波形を生成する。この際、立体物検出部33は、実空間上における立体物の移動距離についても算出する。立体物の検出および移動距離の算出にあたり、立体物検出部33は、まず差分波形を生成する。
差分波形の生成にあたって立体物検出部33は、差分画像PDtにおいて検出領域(検出枠)を設定する。本例の立体物検出装置1は、自車両V1が車線変更する際に接近する可能性がある他車両V2を検出することを目的とするものである。このため、本例では、図2および図4に示すように自車両V1の後側方に矩形状の検出領域(検出枠)A1,A2を設定する。なお、このような検出領域A1,A2は、自車両V1に対する相対位置から設定してもよいし、白線の位置を基準に設定してもよい。白線の位置を基準に設定する場合に、立体物検出装置1は、例えば既存の白線認識技術等を利用するとよい。
また、立体物検出部33は、図2に示すように、設定した検出領域A1,A2の自車両V1側における辺(走行方向に沿う辺)を接地線L1,L2として認識する。一般に接地線は立体物が地面に接触する線を意味するが、本実施形態では地面に接触する線でなく上記の如くに設定される。なおこの場合であっても、経験上、本実施形態に係る接地線と、本来の他車両V2の位置から求められる接地線との差は大きくなり過ぎず、実用上は問題が無い。
図13は、立体物検出部33による差分波形の生成の様子を示す概略図である。図13に示すように、立体物検出部33は、位置合わせ部32で算出した差分画像PDt(図12(b)の右図)のうち検出領域A1,A2に相当する部分から、差分波形DWtを生成する。この際、立体物検出部33は、視点変換により立体物が倒れ込む方向に沿って、差分波形DWtを生成する。なお、図13に示す例では、便宜上検出領域A1のみを用いて説明するが、検出領域A2についても同様の手順で差分波形DWtを生成する。
具体的に説明すると、まず立体物検出部33は、差分画像PDtのデータ上において立体物が倒れ込む方向上の線Laを定義する。そして、立体物検出部33は、線La上において所定の差分を示す差分画素DPの数をカウントする。本実施形態では、所定の差分を示す差分画素DPは、差分画像PDtの画素値が「0」「1」で表現されており、「1」を示す画素が、差分画素DPとしてカウントされる。
立体物検出部33は、差分画素DPの数をカウントした後、線Laと接地線L1との交点CPを求める。そして、立体物検出部33は、交点CPとカウント数とを対応付け、交点CPの位置に基づいて横軸位置、すなわち図13右図の上下方向軸における位置を決定するとともに、カウント数から縦軸位置、すなわち図13右図の左右方向軸における位置を決定し、交点CPにおけるカウント数としてプロットする。
以下同様に、立体物検出部33は、立体物が倒れ込む方向上の線Lb,Lc…を定義して、差分画素DPの数をカウントし、各交点CPの位置に基づいて横軸位置を決定し、カウント数(差分画素DPの数)から縦軸位置を決定しプロットする。立体物検出部33は、上記を順次繰り返して度数分布化することで、図13右図に示すように差分波形DWtを生成する。
ここで、差分画像PDtのデータ上における差分画素PDは、異なる時刻の画像において変化があった画素であり、言い換えれば立体物が存在した箇所であるといえる。このため、立体物が存在した箇所において、立体物が倒れ込む方向に沿って画素数をカウントして度数分布化することで差分波形DWtを生成することとなる。特に、立体物が倒れ込む方向に沿って画素数をカウントすることから、立体物に対して高さ方向の情報から差分波形DWtを生成することとなる。
なお、図13左図に示すように、立体物が倒れ込む方向上の線Laと線Lbとは検出領域A1と重複する距離が異なっている。このため、検出領域A1が差分画素DPで満たされているとすると、線Lb上よりも線La上の方が差分画素DPの数が多くなる。このため、立体物検出部33は、差分画素DPのカウント数から縦軸位置を決定する場合に、立体物が倒れ込む方向上の線La,Lbと検出領域A1とが重複する距離に基づいて正規化する。具体例を挙げると、図13左図において線La上の差分画素DPは6つあり、線Lb上の差分画素DPは5つである。このため、図13においてカウント数から縦軸位置を決定するにあたり、立体物検出部33は、カウント数を重複距離で除算するなどして正規化する。これにより、差分波形DWtに示すように、立体物が倒れ込む方向上の線La,Lbに対応する差分波形DWtの値はほぼ同じとなっている。
差分波形DWtの生成後、立体物検出部33は、生成した差分波形DWtに基づいて、隣接車線に存在している他車両の検出を行う。ここで、図14は、立体物検出部33による立体物の検出方法を説明するための図であり、差分波形DWtおよび立体物を検出するための閾値αの一例を示している。立体物検出部33は、図14に示すように、生成した差分波形DWtのピークが、当該差分波形DWtのピーク位置に対応する所定の閾値α以上であるか否かを判断することで、検出領域A1,A2に立体物が存在するか否かを判断する。そして、立体物検出部33は、差分波形DWtのピークが所定の閾値α未満である場合には、検出領域A1,A2に立体物が存在しないと判断し、一方、差分波形DWtのピークが所定の閾値α以上である場合には、検出領域A1,A2に立体物が存在すると判断する。
また、立体物検出部33は、現時刻における差分波形DWtと一時刻前の差分波形DWt−1との対比により、立体物の移動速度を算出する。すなわち、立体物検出部33は、差分波形DWt,DWt−1の時間変化から、立体物の移動速度を算出する。
詳細に説明すると、立体物検出部33は、図15に示すように差分波形DWtを複数の小領域DWt1〜DWtn(nは2以上の任意の整数)に分割する。図15は、立体物検出部33によって分割される小領域DWt1〜DWtnを示す図である。小領域DWt1〜DWtnは、例えば図15に示すように、互いに重複するようにして分割される。例えば小領域DWt1と小領域DWt2とは重複し、小領域DWt2と小領域DWt3とは重複する。
次いで、立体物検出部33は、小領域DWt1〜DWtn毎にオフセット量(差分波形の横軸方向(図15の上下方向)の移動量)を求める。ここで、オフセット量は、一時刻前における差分波形DWt−1と現時刻における差分波形DWtとの差(横軸方向の距離)から求められる。この際、立体物検出部33は、小領域DWt1〜DWtn毎に、一時刻前における差分波形DWt−1を横軸方向に移動させた際に、現時刻における差分波形DWtとの誤差が最小となる位置(横軸方向の位置)を判定し、差分波形DWt−1の元の位置と誤差が最小となる位置との横軸方向の移動量をオフセット量として求める。そして、立体物検出部33は、小領域DWt1〜DWtn毎に求めたオフセット量をカウントしてヒストグラム化する。
図16は、立体物検出部33により得られるヒストグラムの一例を示す図である。図16に示すように、各小領域DWt1〜DWtnと一時刻前における差分波形DWt−1との誤差が最小となる移動量であるオフセット量には、多少のバラつきが生じる。このため、立体物検出部33は、バラつきを含んだオフセット量をヒストグラム化し、ヒストグラムから移動距離を算出する。この際、立体物検出部33は、ヒストグラムの極大値から立体物(他車両V2)の移動距離を算出する。すなわち、図16に示す例において、立体物検出部33は、ヒストグラムの極大値を示すオフセット量を移動距離τ*と算出する。このように、本実施形態では、オフセット量にバラつきがあったとしても、その極大値から、より正確性の高い移動距離を算出することが可能となる。なお、移動距離τ*は、自車両に対する立体物(他車両V2)の相対移動距離である。このため、立体物検出部33は、絶対移動距離を算出する場合には、得られた移動距離τ*と車速センサ20からの信号とに基づいて、絶対移動距離を算出することとなる。そして、立体物検出部33は、算出した立体物の相対移動距離および絶対移動距離に基づいて、立体物の相対移動速度および絶対移動速度を算出する。
このように、本実施形態では、異なる時刻に生成された差分波形DWtの誤差が最小となるときの差分波形DWtのオフセット量から立体物(他車両V2)の移動距離を算出することで、波形という1次元の情報のオフセット量から移動距離を算出することとなり、移動距離の算出にあたり計算コストを抑制することができる。また、異なる時刻に生成された差分波形DWtを複数の小領域DWt1〜DWtnに分割することで、立体物のそれぞれの箇所を表わした波形を複数得ることができ、これにより、立体物のそれぞれの箇所毎にオフセット量を求めることができ、複数のオフセット量から移動距離を求めることができるため、移動距離の算出精度を向上させることができる。また、本実施形態では、高さ方向の情報を含む差分波形DWtの時間変化から立体物の移動距離を算出することで、単に1点の移動のみに着目するような場合と比較して、時間変化前の検出箇所と時間変化後の検出箇所とが高さ方向の情報を含んで特定されるため立体物において同じ箇所となり易く、同じ箇所の時間変化から移動距離を算出することとなり、移動距離の算出精度を向上させることができる。
なお、ヒストグラム化にあたり立体物検出部33は、複数の小領域DWt1〜DWtn毎に重み付けをし、小領域DWt1〜DWtn毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化してもよい。図17は、立体物検出部33による重み付けを示す図である。
図17に示すように、小領域DWm(mは1以上n−1以下の整数)は平坦となっている。すなわち、小領域DWmは所定の差分を示す画素数のカウントの最大値と最小値との差が小さくなっている。立体物検出部33は、このような小領域DWmについて重みを小さくする。平坦な小領域DWmについては、特徴がなくオフセット量の算出にあたり誤差が大きくなる可能性が高いからである。
一方、小領域DWm+k(kはn−m以下の整数)は起伏に富んでいる。すなわち、小領域DWmは所定の差分を示す画素数のカウントの最大値と最小値との差が大きくなっている。立体物検出部33は、このような小領域DWmについて重みを大きくする。起伏に富む小領域DWm+kについては、特徴的でありオフセット量の算出を正確に行える可能性が高いからである。このように重み付けすることにより、移動距離の算出精度を向上することができる。
なお、移動距離の算出精度を向上するために上記実施形態では差分波形DWtを複数の小領域DWt1〜DWtnに分割したが、移動距離の算出精度がさほど要求されない場合は小領域DWt1〜DWtnに分割しなくてもよい。この場合に、立体物検出部33は、差分波形DWtと差分波形DWt−1との誤差が最小となるときの差分波形DWtのオフセット量から移動距離を算出することとなる。すなわち、一時刻前における差分波形DWt−1と現時刻における差分波形DWtとのオフセット量を求める方法は上記内容に限定されない。
なお、本実施形態において立体物検出部33は、自車両V1(カメラ10)の移動速度を求め、求めた移動速度から静止物についてのオフセット量を求める。静止物のオフセット量を求めた後、立体物検出部33は、ヒストグラムの極大値のうち静止物に該当するオフセット量を無視したうえで、立体物の移動距離を算出する。
図18は、立体物検出部33により得られるヒストグラムの他の例を示す図である。カメラ10の画角内に立体物の他に静止物が存在する場合に、得られるヒストグラムには2つの極大値τ1,τ2が現れる。この場合、2つの極大値τ1,τ2のうち、いずれか一方は静止物のオフセット量である。このため、立体物検出部33は、移動速度から静止物についてのオフセット量を求め、そのオフセット量に該当する極大値について無視し、残り一方の極大値を採用して立体物の移動距離を算出する。これにより、静止物により立体物の移動距離の算出精度が低下してしまう事態を防止することができる。
なお、静止物に該当するオフセット量を無視したとしても、極大値が複数存在する場合、カメラ10の画角内に立体物が複数台存在すると想定される。しかし、検出領域A1,A2内に複数の立体物が存在することは極めて稀である。このため、立体物検出部33は、移動距離の算出を中止する。これにより、本実施形態では、極大値が複数あるような誤った移動距離を算出してしまう事態を防止することができる。
また、上述したように、カメラ10のレンズ110を洗浄する場合に、洗浄液の種類によっては、洗浄液の泡がレンズ110の表面に残留してしまう場合があり、このような泡の影響により、立体物(他車両V2)の検出精度が低下してしまう場合がある。そこで、本実施形態に係る立体物検出装置1は、レンズ110上に泡が付着している状態か否かを判断し、レンズ110上に泡が付着している場合には、立体物検出部33による立体物の検出が抑制されるように、立体物の検出条件を変更する。
ここで、図19(A)は、レンズ110上に泡が付着していない場合の撮像画像の一例を示す図であり、図19(B)は、レンズ110上に泡が付着している場合の撮像画像の一例を示す図である。図19に示すように、(B)に示すレンズ110上に泡が付着している場合では、泡によって光が乱反射されるため、(A)に示すレンズ110上に泡が付着していない場合と比べて、遮光領域Xの輝度が高くなる傾向にある。そこで、本実施形態では、このような泡の特性を利用することで、レンズ110上に泡が付着しているか否かを判断する。
具体的に、計算機30は、レンズ110上に泡が付着しているか否かを判断するために、図3に示すように、遮光領域設定部34と、輝度検出部35と、レンズ状態判断部36と、を備えている。以下に、これらの構成について説明する。
遮光領域設定部34は、図4に示すように、撮像画像内に撮像された遮光板130(図3参照)を遮光領域Xとして設定する。遮光領域Xは、遮光板130の形状や設置位置、レンズ110の向き、カメラ10の画角、焦点距離、撮像素子の大きさなどに基づいて一義的に決定することができる。本実施形態では、遮光板130の形状や設置位置、レンズ110の向き、カメラ10の画角、焦点距離、撮像素子の大きさなどに基づいて、遮光領域Xが予め特定されており、特定された遮光領域Xの情報が計算機30のメモリに予め記憶されている。そのため、遮光領域設定部34は、計算機30のメモリに記憶された遮光領域の情報を取得することで、撮像画像内の遮光領域Xを設定することができる。なお、遮光領域設定部34により設定された遮光領域Xの情報は、輝度検出部35に送信される。
輝度検出部35は、撮像画像全体の輝度を検出する。具体的には、輝度検出部35は、カメラ10で撮像された撮像画像の全ての画素の輝度の平均値を、撮像画像全体の輝度として算出する。また、輝度検出部35は、撮像画像のうち、遮光領域設定部34により設定された遮光領域Xの各画素の輝度をそれぞれ検出する。なお、輝度検出部35により検出された撮像画像全体の輝度および遮光領域Xの各画素の輝度は、レンズ状態判断部36に送信される。
レンズ状態判断部36は、輝度検出部35により検出された撮像画像全体の輝度と、遮光領域Xの各画素の輝度とに基づいて、レンズ110に泡が付着しているか否かを判断する。以下に、レンズ状態判断部36による判断方法について説明する。
まず、レンズ状態判断部36は、下記式(1)に示すように、輝度検出部35により検出された撮像画像全体の輝度と、遮光領域Xの各画素の輝度との比が所定の第1判定値以上であるか否かを判断する。また、レンズ状態判断部36は、遮光領域Xに対応する全ての画素について、遮光領域Xに対応する画素ごとに、下記式(1)の判断を行う。なお、第1判定値は、特に限定されず、実験などにより適宜設定することができる。
[式1]
(遮光領域Xの画素の輝度/撮像画像全体の輝度)> 第1判定値 ・・・(1)
そして、レンズ状態判断部36は、遮光領域Xの画素のうち上記式(1)を満たす画素を、泡に対応する画素として判断する。たとえば、撮像画像全体の輝度が100であり、第1判定値が0.5である場合に、遮光領域Xのある画素の輝度が40である場合には、当該画素は泡に対応する画素ではないと判断され、一方、遮光領域Xのある画素の輝度が60である場合には、当該画素は泡に対応する画素であると判断される。
続いて、レンズ状態判断部36は、下記式(2)に示すように、遮光領域Xの画素のうち泡に対応すると判断された画素の割合が所定の第2判定値以上であるか否かを判断する。なお、第2判定値も、特に限定されず、実験などにより適宜設定することができる。
[式2]
(泡に対応すると判断された画素の数/遮光領域に対応する画素の数)≧ 第2判定値 ・・・(2)
そして、レンズ状態判断部36は、上記式(2)を満たす場合に、レンズ110に泡が付着していると暫定的に判断する。
さらに、レンズ状態判断部36は、カメラ10により新たな撮像画像が撮像される度に、新たに撮像された撮像画像をカメラ10から取得し、上記式(2)の条件を満たすか否かを繰り返し判断する。そして、レンズ状態判断部36は、下記式(3)に示すように、直近数回(N回)の判断のうち、レンズ110に泡が付着していると判断された回数Mが、所定の第3判定値回数以上であるか否かを判断する。
[式3]
(直近N回の判断のうちレンズ110に泡が付着していると判断された回数M)≧ 第3判定値 ・・・(3)
そして、レンズ状態判断部36は、上記式(3)を満たす場合に、レンズ110に泡が付着していると最終的に判断する。
たとえば、レンズ状態判断部36は、直近に撮影された10枚の撮像画像についてレンズ状態の判断を行う場合において、第3判定値が8回に設定されており、レンズ110に泡が付着していると判断された回数Mが9回である場合には、直近10回の判断のうちレンズ110に泡が付着していると判断された回数が第3判定値以上であると判断し、レンズ110に泡が付着していると最終的に判断することができる。なお、第3判定値は、特に限定されず、実験などにより適宜設定することができる。
また、レンズ状態判断部36は、輝度検出部35により検出された遮光領域Xの全ての画素の輝度が所定値以上である場合、または、遮光領域Xの画素のうち一定割合以上の画素の輝度が所定値以上である場合に、レンズに泡が付着していると最終的に判断する構成としてもよい。
次に、本実施形態に係るレンズ状態判断処理および立体物検出処理について説明する。図20は第1実施形態に係るレンズ状態判断処理を示すフローチャートであり、図21は第1実施形態に係る立体物検出処理を示すフローチャートである。なお、本実施形態において、レンズ状態判断処理および立体物検出処理は並行して行われ、図20に示すレンズ状態判断処理の判断結果に基づいて、図21に示す立体物検出処理において、立体物の検出が制御される。なお、レンズ状態判断処理および立体物検出処理は、カメラ10で撮像された最新の撮像画像に基づいて、計算機30により、繰り返し実行される。
まず、図20に示すレンズ状態判断処理について説明する。まず、ステップS101では、レンズ状態判断部36により、レンズ状態を判断するための判断時間内であるか否かの判断が行われる。ここで、図20に示すレンズ状態判断処理は、レンズ110上に泡が残留しているか否かを判断するものであり、洗浄液がレンズ110に吐出されてから所定時間が経過したタイミングでレンズ110上の泡を検出することで、レンズ110上に残留する泡を検出する。
すなわち、レンズ洗浄に適した洗浄液を使用している場合でも、洗浄液を吐出している間や吐出直後においてはレンズ110上に泡が発生する場合があり、この場合、吐出から所定時間が経過することでレンズ110上の泡が消失する。これに対して、洗浄液によっては、洗浄液の吐出後も泡が長時間消失せずに、レンズ110に泡が付着した状態が継続する場合がある。そして、このような場合に、後述する立体物検出処理により立体物検出を行ってしまうと、泡により立体物を適切に検出できない場合がある。そのため、本実施形態では、レンズ110上に泡が残留しているか否かを判断するために、まず、洗浄液が吐出されてから所定時間Tstopが経過した動作時間Tact内であるか否かの判断が行われる。
ここで、図22は、レンズ状態判断処理の動作時間Tactを説明するための図であり、図10に示すレンズ湿潤工程を表したものである。図22に示すように、本実施形態では、レンズ湿潤工程において洗浄液が吐出されてから所定時間Tstopが経過した後であり、次に洗浄液が吐出されるまでの時間が、レンズ状態判断処理を行う動作時間Tactとして設定されている。そのため、レンズ状態判断部36は、まず、現在が動作時間Tact内であるか否かを判断する。そして、現在が動作時間Tact内であると判断された場合には、レンズ状態の判断を行うためにステップS102に進み、一方、現在が動作時間Tact内ではないと判断された場合には、動作時間TactとなるまでステップS101で待機する。
ステップS102では、輝度検出部35により、カメラ10により撮像された最新の撮像画像が取得される。そして、ステップS103では、輝度検出部35により、ステップS102で取得した撮影画像全体の輝度の平均値が、撮像画像全体の輝度として算出される。また、ステップS104では、輝度検出部35により、ステップS102で取得した撮像画像のうち、遮光領域Xに対応する各画素の輝度が算出される。
なお、本実施形態では、遮光板130の形状や設置位置、レンズ110の向き、カメラ10の画角、焦点距離、撮像素子の大きさなどに基づいて特定される遮光領域Xの情報が計算機30のメモリに予め記憶されている。そして、ステップS104においては、記憶装置30のメモリに記憶された遮光領域の情報が遮光領域設定部34により取得されることで、撮像画像内の遮光領域Xが設定され、これにより、輝度検出部35が、遮光領域設定部34により設定された遮光領域Xの各画素の輝度を対象輝度として検出することができる。
次に、ステップS105〜S108の処理は、遮光領域に対応する画素ごとに実行される。なお、以下においては、処理対処となる遮光領域の画素を対象画素として説明する。
まず、ステップS105では、レンズ状態判断部36により、上記式(1)に示すように、ステップS103で算出された撮像画像全体の輝度とステップS104で算出された対象画素の輝度との比が、第1判定値以上であるか否かの判断が行われる。そして、上記の輝度の比が第1判定値以上であると判断された場合には、ステップS106に進み、レンズ状態判断部36により、対象画素は泡に対応する画素であると判断される。一方、上記の輝度の比が第1判定値未満である場合には、ステップS107に進み、レンズ状態判断部36により、対象画素は泡に対応する画素ではないと判断される。
ステップS108では、レンズ状態判断部36により、遮光領域Xに対応する全ての画素について、ステップS105〜S107の処理が行われたか否かの判断が行われる。遮光領域に対応する全ての画素についてステップS105〜S107の処理が行われた場合には、ステップS109に進む。一方、遮光領域Xに対応する全ての画素についてステップS105〜S107の処理が行われていない場合には、ステップS105に戻り、処理が行われていない遮光領域の画素が対象画素として選択され、ステップS105〜S107の処理が行われる。
ステップS109では、レンズ状態判断部36により、上記式(2)に示すように、遮光領域に対応する全ての画素のうちステップS106において泡に対応すると判断された画素の割合が、所定の第2判定値以上であるか否かの判断が行われる。そして、上記画素の割合が第2判定値以上であると判断された場合には、ステップS110に進み、レンズ状態判断部36により、レンズ110に泡が付着しているとの暫定的な判断が行われる。一方、上記画素の割合が第2判定値未満であると判断された場合には、ステップS110に進み、レンズ状態判断部36により、レンズ110に泡が付着していないとの暫定的な判断が行われる。
ステップS112では、レンズ状態判断部36により、上記式(3)に示すように、直近N回分のレンズ状態判断処理の判断結果に基づいて、レンズ110に泡が付着しているか否かの最終的な判断が行われる。すなわち、本実施形態においては、図10に示す動作時間Tact内において、図20に示すレンズ状態判断処理が繰り返し実行される。そして、このステップS112において、レンズ状態判断部36は、今回のレンズ状態判断処理の判断結果と、過去のレンズ状態判断処理のうち直近数回(N−1)の判断結果とに基づいて、レンズ110に泡が付着していると判断された回数Mが、第3判定値以上であるか否かを判断する。そして、レンズ110に泡が付着していると判断された回数Mが第3判定値以上である場合には、ステップS113に進み、レンズ状態判断部36により、レンズ110上に泡が付着しているとの最終的な判断が行われる。一方、レンズ110に泡が付着していると判断された回数Mが第3判定値未満である場合には、ステップS114に進み、レンズ状態判断部36により、レンズ110上に泡が付着していないとの最終的な判断が行われる。
なお、本実施形態において、第3判定値は、固定値としてもよいし、あるいは、動作時間Tact内において時間の経過とともに変動する変動値としてもよい。また、第3判定値を変動値とする場合には、動作時間Tact内において時間が経過するほど、第3判定値の値を小さい値に変更する構成としてもよい。たとえば、図22に示す例においては、動作時間Tactが十数秒間あり、その間に、図20に示すレンズ状態判断処理が繰り返し行われている。そこで、レンズ状態判断部36は、直近10回のレンズ状態判断処理の判断結果を用いてレンズ110上に泡が付着しているか否かを最終的に判断する場合において、たとえば時刻t1においては第3判定値を8回に設定し、また、時刻t1よりも後の時刻t2においては第3判定値を6回に設定する構成とすることができる。また、レンズ状態判断部36は、第3判定値を固定値とした場合には、レンズ状態の判断結果から、泡が消えているか否かを判断することもできる。なお、第3判定値の値は、特に限定されず、実験などにより適宜設定することができる。
以上のように、図20に示すレンズ状態判断処理においては、レンズ110上に泡が残留していない場合には遮光板130により形成された遮光領域Xの輝度は低くなり、一方、レンズ110上に泡が残留している場合には、泡によって光が乱反射され、遮光板130により形成された遮光領域Xの輝度が高くなることを利用して、レンズ110上に泡が付着しているか否かを判断する。そして、このレンズ状態判断処理における判断結果は、次に説明する図21の立体物検出処理に用いられる。
すなわち、図21に示す立体物検出処理においては、まず、計算機30により、カメラ10から撮像画像のデータの取得が行われ(ステップS201)、視点変換部31により、取得した撮像画像のデータに基づいて、鳥瞰視画像PBtのデータが生成される(ステップS202)。
次いで、位置合わせ部32は、鳥瞰視画像PBtのデータと、一時刻前の鳥瞰視画像PBt−1のデータとを位置合わせをし、差分画像PDtのデータを生成する(ステップS203)。具体的には、位置合わせ部32は、鳥瞰視画像PBt,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDtの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDtの画素値を「0」とする。
なお、ステップS203においては、図20に示すレンズ状態判断処理の判断結果に基づいて、差分閾値thを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、差分閾値thを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
次に、立体物検出部33は、差分画像PDtのデータから、画素値が「1」の差分画素DPの数をカウントして、差分波形DWtを生成する(ステップS204)。そして、立体物検出部33は、差分波形DWtのピークが所定の閾値α以上であるか否かを判断する(ステップS205)。差分波形DWtのピークが閾値α以上でない場合、すなわち差分が殆どない場合には、撮像画像内には立体物が存在しないと考えられる。このため、差分波形DWtのピークが閾値α以上でないと判断した場合には(ステップS205=No)、立体物検出部33は、立体物が存在しないと判断する(ステップS214)。そして、ステップS201に戻り、図21に示す処理を繰り返す。
なお、ステップS205においても、図20に示すレンズ状態判断処理の判断結果に基づいて、閾値αを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、閾値αを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
一方、差分波形DWtのピークが閾値α以上であると判断した場合には(ステップS205=Yes)、立体物検出部33により、隣接車線に立体物が存在すると判断され、ステップS206に進み、立体物検出部33により、差分波形DWtが、複数の小領域DWt1〜DWtnに分割される。次いで、立体物検出部33は、小領域DWt1〜DWtn毎に重み付けを行い(ステップS207)、小領域DWt1〜DWtn毎のオフセット量を算出し(ステップS208)、重みを加味してヒストグラムを生成する(ステップS209)。
そして、立体物検出部33は、ヒストグラムに基づいて自車両V1に対する立体物の移動距離である相対移動距離を算出する(ステップS210)。次に、立体物検出部33は、相対移動距離から立体物の絶対移動速度を算出する(ステップS211)。このとき、立体物検出部33は、相対移動距離を時間微分して相対移動速度を算出するとともに、車速センサ20で検出された自車速を加算して、絶対移動速度を算出する。
ステップS212では、立体物検出部33により、立体物の絶対移動速度が10Km/h以上、且つ、自車両V1に対する立体物の相対移動速度が+60Km/h以下であるか否かの判断が行われる。双方を満たす場合には(ステップS212=Yes)、立体物検出部33は、検出した立体物は隣接車線に存在する他車両V2であり、隣接車線に他車両V2が存在すると判断する(ステップS213)。一方、いずれか一方でも満たさない場合には(ステップS212=No)、立体物検出部33は、隣接車線に他車両V2が存在しないと判断する(ステップS214)。
なお、本実施形態では自車両V1の左右後方を検出領域A1,A2とし、自車両V1が車線変更した場合に接近する可能性があるか否かに重点を置いている。このため、ステップS212の処理が実行されている。すなわち、本実施形態にけるシステムを高速道路で作動させることを前提とすると、他車両V2の速度が10km/h未満である場合、たとえ他車両V2が存在したとしても、車線変更する際には自車両V1の遠く後方に位置するため問題となることが少ない。同様に、他車両V2の自車両V1に対する相対移動速度が+60km/hを超える場合(すなわち、他車両V2が自車両V1の速度よりも60km/hより大きな速度で移動している場合)、車線変更する際には自車両V1の前方に移動しているため問題となることが少ない。このため、ステップS212では車線変更の際に問題となる他車両V2を判断しているともいえる。
また、ステップS212において他車両V2の絶対移動速度が10km/h以上、且つ、他車両V2の自車両V1に対する相対移動速度が+60km/h以下であるかを判断することにより、以下の効果がある。例えば、カメラ10の取り付け誤差によっては、静止物の絶対移動速度を数km/hであると検出してしまう場合があり得る。よって、10km/h以上であるかを判断することにより、静止物を他車両V2であると判断してしまう可能性を低減することができる。また、ノイズによっては他車両V2の自車両V1に対する相対速度を+60km/hを超える速度に検出してしまうことがあり得る。よって、相対速度が+60km/h以下であるかを判断することにより、ノイズによる誤検出の可能性を低減できる。
さらに、ステップS212の処理に代えて、他車両V2の絶対移動速度がマイナスでないことや、0km/hでないことを判断してもよい。また、本実施形態では自車両V1が車線変更した場合に接近する可能性がある否かに重点を置いているため、ステップS213において自車両に接近する他車両V2が検出された場合に、自車両の運転者に警告音を発したり、所定の表示装置により警告相当の表示を行ったりしてもよい。
なお、他車両V2の絶対移動速度が10km/h以上であるか、他車両V2の自車両V1に対する相対移動速度が+60km/h以下であるかを判断する際の各速度は一例であり、この速度に限定されるものではない。たとえば、他車両V2の絶対移動速度が20km/h以上、且つ、自車両V1に対する他車両V2の相対移動速度が+50km/h以下である場合に、立体物は検出対象である他車両V2であると判断することができる。
さらに、本実施形態では、図20に示すレンズ状態判断処理の判断結果に基づいて、立体物が他車両V2であるか否かを判断する際の条件を変更する構成としてもよい。たとえば、レンズ状態判断処理において、レンズ110上に泡が付着していないと判断された場合には、他車両V2の絶対移動速度が10km/h以上、且つ、自車両V1に対する他車両V2の相対移動速度が+60km/h以下である場合に、立体物は検出対象である他車両V2であると判断し、一方、レンズ110上に泡が付着していないと判断された場合には、たとえば、他車両V2の絶対移動速度が20km/h以上、且つ、自車両V1に対する他車両V2の相対移動速度が+50km/h以下である場合に、立体物は検出対象である他車両V2であると判断する構成としてもよい。このように、レンズ110に泡が付着していると判断された場合に、他車両V2の検出が検出され難いように速度条件を変更することで、泡による他車両V2の誤検出を有効に防止することができる。
以上のように、第1実施形態では、撮像画像全体の輝度と遮光領域に対応する各画素の輝度との比に基づいて、レンズ110に泡が付着しているか否かを判断する。ここで、レンズ110に泡が付着しているか否かを判断する方法として他に、撮像画像から泡に対応する円形状のエッジを検出する方法も考えられる。しかしながら、円形状のエッジを検出する場合には、演算量が多くなり、レンズ110の泡を迅速に検出できない場合があった。これに対して、本実施形態では、単に、撮像画像全体の輝度と遮光領域に対応する各画素の輝度との比を求めることで、レンズ110上に泡が付着しているか否かを判断することができるため、演算量を小さくすることができ、レンズ110上の泡を迅速に検出することができる。
また、第1実施形態では、上記式(1)に示すように、撮像画像全体の輝度と遮光領域Xの各画素の輝度との比が第1判定値以上であるか否かを判断することで、遮光領域Xの各画素が泡に対応する画素であるか否かを判断する。そして、上記式(2)に示すように、遮光領域Xに対応する画素のうち泡に対応する画素の割合が第2判定値以上であるか否かを判断することで、レンズ110に泡が付着しているか否かを暫定的に判断する。さらに、上記式(3)に示すように、直近数回分の判断結果のうちレンズ110に泡が付着していると判断された判断結果が、第3判定値以上であるか否かを判断することで、レンズ110に泡が付着していると最終的に判断する。このように、本実施形態では、レンズ110上に付着している泡に対応する画素を判断し、泡に対応する画素の割合に基づいて、レンズ110上に泡が付着しているか否か判断することで、レンズ110上に泡が付着しているか否かを適切に判断することができる。また、直近数回分の判断結果を用いて、レンズ110上に泡が付着しているか否かを判断することで、レンズ110上に泡が付着しているか否かをより高い精度で判断することができる。
さらに、本実施形態では、洗浄液の吐出が行われた後、所定時間Tstopが経過した後に、レンズ110上に泡が付着しているか否かを判断することで、レンズ110上に残留し、立体物検出に影響のある泡の存在を適切に判断することができる。
また、本実施形態では、レンズ110に泡が付着していると判断された場合に、立体物が検出され難いように、差分閾値th、閾値α、あるいは立体物が他車両V2であるか否かを判断するための基準速度を変更することで、立体物の検出を抑制する。これにより、レンズ110に泡が付着している場合に、泡の影響によって立体物を誤検出してしまうことを有効に防止することができる。
《第2実施形態》
続いて、第2実施形態に係る立体物検出装置1について説明する。第2実施形態に係る立体物検出装置1は、第1実施形態に係る立体物検出装置1と同様の構成を備え、以下に説明する点以外は、第1実施形態と同様に動作する。ここで、図23は、第2実施形態において設定される遮光領域Xの一例を示す図である。以下においては、図23を参照して、第2実施形態に係る立体物検出装置1について説明する。
たとえば、走行環境、カメラ10の設置位置、レンズ洗浄装置120のノズル121の吐出口121a,121bの位置などによっては、レンズ110に付着した泡が遮光領域Xの一部に偏る場合がある。このような場合に、遮光領域X全体の画素に対する泡に対応する画素の割合は低くなり、レンズ110上に泡が付着していないと判断されてしまう場合がある。そこで、第2実施形態では、図23に示すように、遮光領域Xを2つの遮光領域X1,X2に分け、それぞれの遮光領域X1, X2ごとに、レンズ110に泡が付着しているか否かを判断する。
以下に、上述した図20を参照して、第2実施形態に係るレンズ状態判断処理の詳細を説明する。なお、第1実施形態のレンズ状態判断処理と処理内容が重複する部分については説明を省略する。
すなわち、第2実施形態では、ステップS104において、遮光領域X1の各画素の輝度および遮光領域X2の各画素の輝度の検出が行われる。そして、ステップS105では、遮光領域X1,X2の画素ごとに、上記式(1)を満たすか否かの判断が行われ、当該判断結果に基づいて、遮光領域X1,X2の各画素が泡に対応する画素であるか否か判断される(ステップS106,S107)。
さらに、第2実施形態では、ステップS109において、遮光領域X1に対応する画素のうち泡に対応すると判断された画素の割合が第2判定値以上であるか否かの判断が行われる。また同様に、もう一方の遮光領域X2に対応する画素のうち泡に対応すると判断された画素の割合が第2判定値以上であるか否かの判断も行われる。このように、第2実施形態では、分割した2つの遮光領域X1,X2のそれぞれについて泡が付着しているか否かの判断が行われる。
そして、レンズ状態判断部36は、遮光領域X1および遮光領域X2のうち少なくとも1つの遮光領域において泡が付着していると判断された場合には、ステップS110に進み、レンズ110に泡が付着していると暫定的に判断する。一方、レンズ状態判断部36は、遮光領域X1および遮光領域X2の両方において泡が付着していないと判断された場合には、ステップS111に進み、レンズ110に泡が付着していないと暫定的に判断する。
これにより、たとえば、遮光領域Xの全体のうち、遮光領域X1に泡が偏って付着している場合には、遮光領域X全体における泡に対応する画素の割合が第2判定値未満となる場合でも、遮光領域X1における泡に対応する画素の割合が第2判定値以上となり、レンズ110に泡が付着していると暫定的に判断される。
なお、ステップS112以降の処理および図21に示す立体物検出処理については、第1実施形態と同様に行うことができる。すなわち、レンズ110に泡が付着していると最終的に判断された場合には、立体物が検出され難いように検出条件を変更することで、立体物の検出を抑制する構成とすることができる。
以上のように、第2実施形態では、遮光領域Xを遮光領域X1と遮光領域X2とに分け、2つの遮光領域X1,X2のそれぞれについて、泡が付着しているか否かを判断する。そして、いずれか一方の遮光領域X1,X2において泡が付着していると判断された場合には、レンズ110に泡が付着していると暫定的に判断する。これにより、第2実施形態では、泡が遮光領域Xの左右一方に偏ってしまうことで遮光領域Xにおいて泡に対応する画素の割合が低くなり、レンズ110に泡が付着していないと判断されてしまうことを有効に防止することができる。
なお、上述した第2実施形態では、遮光領域X1および遮光領域X2のうち少なくとも一方において泡が付着していると判断された場合に、レンズ110に泡が付着していると判断して、立体物の検出を抑制する構成を例示したが、この構成に限定されず、たとえば、以下のような構成とすることもできる。すなわち、撮像画像左側の遮光領域X1において泡が付着していると判断された場合には、撮像画像左側の検出領域A1での立体物の検出を抑制し、一方、撮像画像右側の遮光領域X2において泡が付着していると判断された場合には、撮像画像右側の検出領域A2での立体物の検出を抑制する構成としてもよい。この場合、泡の影響が少ない検出領域においては、立体物を適切に検出することができる。
また、上述した第2実施形態では、遮光領域Xを左右に均等な2つの遮光領域X1,X2に分割する構成を例示したが、この構成に限定されず、分割した遮光領域の数、位置、形状などは特に限定されない。たとえば、遮光領域Xを左右に4つの遮光領域に分割する構成としてもよいし、あるいは、遮光領域Xを上下に分割する構成としてもよい。
《第3実施形態》
続いて、第3実施形態に係る立体物検出装置1について説明する。第3実施形態に係る立体物検出装置1は、第1実施形態に係る立体物検出装置1と同様の構成を備え、以下に説明する点以外は、第1実施形態と同様に動作する。ここで、図24は、直射日光がカメラ10に入射している場面の撮像画像の一例を示す図であり、図25は、第3実施形態に係るレンズ状態判断処理を説明するための図である。以下においては、図24および図25を参照して、第3実施形態に係る立体物検出装置1について説明する。
たとえば、図3に示すように、レンズ110の上側前方に遮光板130を設けている場合でも、カメラ10の設置位置、画角、焦点距離、撮像素子の大きさなどによっては、図24に示すように、遮光領域X内に直射日光が差し込み、遮光領域Xの画素の輝度が高くなる場合がある。この場合、レンズ110に泡が付着していない場合でも、レンズ110に泡が付着していると誤判断される場合がある。
そこで、第3実施形態では、図25に示すように、遮光板130により形成される遮光領域Xよりも下側であり、かつ、地平線よりも上側の領域を空領域Yとして特定し、空領域Yの各画素の輝度に基づいて、遮光領域X内に直射日光が差し込んでいるか否かを判断する。そして、遮光領域X内に直射日光が差し込んでいると判断した場合には、たとえ上記式(1)〜(3)の条件を満たす場面であっても、レンズ110に泡が付着していないと判断する。
以下に、図26を参照して、第3実施形態に係るレンズ状態判断処理の詳細について説明する。図26は、第3実施形態に係るレンズ状態判断処理を示すフローチャートである。
第3実施形態では、第1実施形態と同様に、まず、動作時間Tact内であるか否かの判断が行われ(ステップS301)、動作時間Tact内であると判断された場合に(ステップS301=Yes)、撮像画像の取得が行われる(ステップS302)。
そして、ステップS303では、レンズ状態判断部36により、図25に示す空領域Yの特定が行われる。具体的には、レンズ状態判断部36は、図25に示すように、遮光板130により形成される遮光領域Xよりも下側の領域であり、かつ、地平線よりも上側の領域を、空領域Yとして特定する。なお、レンズ状態判断部36は、遮光領域設定部34から遮光領域Xの情報を取得することができる。また、レンズ状態判断部36は、たとえば、撮像画像から消失点を検出し、当該消失点近傍を通る水平線を地平線として特定することができる。
ステップS304では、輝度検出部35により、ステップS303で特定された空領域Yの各画素の輝度の検出が行われる。そして、ステップS305において、レンズ状態判断部36は、空領域Yに対応する画素のうちステップS304で検出された所定値以上の輝度の画素を直射日光に対応する画素として検出し、空領域Yに対応する全ての画素のうち直射日光に対応する画素の割合が所定割合以上であるか否かを判断する。
直射日光に対応する画素の割合が所定割合以上であると判断された場合には、直射日光が遮光領域X内に差し込んでいると判断して、ステップS317に進み、ステップS317において、レンズ110上に泡が付着していないとの最終的な判断が行われる。一方、直射日光に対応する画素の割合が所定割合未満であると判断された場合には、直射日光が遮光領域X内に差し込んでいないと判断し、ステップS306に進み、第1実施形態と同様に、遮光領域Xの輝度を用いてレンズ110上に泡が付着しているか否かの判断が行われる。
なお、ステップS306〜S317は、第1実施形態に係るステップS103〜S114と同様の処理のため説明は省略する。また、図21に示す立体物検出処理も、第1実施形態と同様に行われる。すなわち、レンズ110に泡が付着していると最終的に判断された場合には、立体物の検出を抑制するように立体物の検出条件が変更される。
以上のように、第3実施形態に係る立体物検出装置1は、遮光板130により形成される遮光領域Xよりも下側であり、かつ、地平線よりも上側の領域を、空領域Yとして特定し、空領域Yの各画素の輝度に基づいて、直射日光が遮光領域X内に差し込んでいるか否かを判断する。そして、直射日光が遮光領域X内に差し込んでいると判断された場合には、レンズ110に泡が付着していないと判断する。これにより、第3実施形態では、第1実施形態の効果に加えて、遮光領域X内に直射日光が差し込み、遮光領域Xの画素の輝度が高くなることで、レンズ110に泡が付着していないのに、レンズ110に泡が付着していると誤判断されることを有効に抑制することができる。
なお、上述した第3実施形態では、直射日光が遮光領域X内に差し込んでいると判断された場合に、レンズ110に泡が付着していないとの判断を行う構成を例示したが、この構成に限定されず、たとえば、直射日光が遮光領域X内に差し込んでいると判断された場合に、レンズ110に泡が付着していると判断し難くなるように、上述した第1判定値から第3判定値までの検出条件を変更する構成としてもよい。
また、空領域Yの各画素の輝度に基づいて、直射日光が遮光領域X内に差し込んでいると判断された場合に、図26に示すレンズ状態判断処理を行わない構成とすることもできる。また、上述した実施形態では、空領域の輝度のうち所定値以上の輝度の画素の割合が所定割合以上である場合に、直射日光が遮光領域X内に差し込んでいると判断する構成を例示したが、この構成に限定されず、たとえば、空領域Yにおいて、所定輝度以上かつ所定範囲以上の画素のまとまりを検出した場合に、直射日光が遮光領域Xに差し込んでいると判断する構成としてもよい。さらに、遮光領域Xのうち直射日光が差し込んでいる部分の画素を除外して、レンズ状態を判断する構成としてもよい。さらに、上述した実施形態は、直射日光に限定されず、街灯などの高輝度な光にも適用することができる。
《第4実施形態》
続いて、第4実施形態に係る立体物検出装置1について説明する。第4実施形態に係る立体物検出装置1は、第1実施形態に係る立体物検出装置1と同様の構成を備え、以下に説明する点以外は、第1実施形態と同様に動作する。
第4実施形態に係るカメラ10は、自動露光補正機能を備えており、撮像画像の輝度を自動で補正することができる。たとえば、カメラ10は、夜間など自車両周辺が暗い場合には、適正な輝度の撮像画像が得られるように、撮像素子のゲインを増幅することで、撮像画素の輝度を補正することができる。
一方、自動露光補正により撮影画像の各画素の輝度を高くした場合には、遮光領域Xに対応する画素の輝度も高くなり、その結果、レンズ110に泡が付着していない場合でも、レンズ110上に泡が付着していると誤判断されてしまう場合がある。
そこで、第4実施形態において、レンズ状態判断部36は、自動露光補正が行われた場合には、自動露光補正が行われる前の撮像画像を用いて、レンズ110に泡が付着しているか否かを判断する。
具体的には、レンズ状態判断部36は、撮像画像とともに、自動露光補正に用いられたパラメータ(露光補正量)をカメラ10から取得する。そして、レンズ状態判断部36は、自動露光補正が行われた撮像画像を、自動露光補正に用いられたパラメータ(露光補正量)を用いて自動露光補正が行われる前の画像に変換する。そして、レンズ状態判断部36は、変換した自動露光補正前の撮像画像に基づいて、レンズ110に泡が付着しているか否かを判断する。
たとえば、上述した図20に示すレンズ状態判断処理において、レンズ状態判断部36は、ステップS102において、撮像画像とともに自動露光補正に用いられたパラメータ(露光補正量)をカメラ10から取得する。そして、レンズ状態判断部36は、撮像画像を、自動露光補正に用いられたパラメータ(露光補正量)を用いて、露光補正前の撮像画像に変換する。そして、レンズ状態判断部36は、変換した露光補正前の撮像画像を用いて、ステップS103〜S114の処理を行うことができる。
以上のように、第4実施形態では、自動露光補正が行われた場合には、自動露光補正が行われた撮像画像を、自動露光補正に用いられたパラメータ(露光補正量)を用いて、自動露光補正前の撮像画像に変換する。そして、変換した自動露光補正前の撮像画像に基づいて、レンズ110に泡が付着しているか否かを判断する。これにより、第4実施形態では、第1実施形態の効果に加えて、カメラ10により自動露光補正が行われた場合でも、レンズ110に泡が付着しているか否かを適切に判断することができる。
なお、上述した第4実施形態では、自動露光補正が行われた場合に、露光補正後の撮像画像を露光補正前の撮像画像に変換し、変換した露光補正前の撮像画像を用いて、レンズ110に泡が付着しているか否かを判断する構成を例示したが、この構成に限定されず、たとえば、自動露光補正により画像の輝度を高くする補正が行われた場合に、レンズ110に泡が付着しているか否かを判断するための条件(たとえば第1判定値から第3判定値)を高くする構成としてもよいし、反対に、自動露光補正により画像の輝度を低くする補正が行われた場合に、レンズ110に泡が付着しているか否かを判断するための条件(たとえば第1判定値から第3判定値)を低くする構成としてもよい。この場合も、自動露光補正によりレンズ110に泡が付着していると誤判断されてしまうことを有効に抑制することができる。
また、自動露光補正後の撮像画像と、自動露光補正前の撮像画像とを出力するカメラ10を備える構成としてもよい。このようなカメラ10としては、たとえば、蛍光看板(または蛍光看板に表示された文字)を検出するために露光補正を行っていない撮像画像を出力するとともに、ユーザに車両周辺の状態を表示するために露光補正を行った撮像画像を出力するカメラなどが挙げられる。そして、このようなカメラ10を備える場合には、自動露光補正が行われた場合に、自動露光補正前の撮像画像を用いて、レンズ状態を判断する構成とすることができる。
なお、カメラ10は、たとえば照度計を備えており、この照度計による計測値に基づいて、自車両V1の周辺が暗いか否かを判断することで、自動露光補正を行うか否かを決定することができる。また、カメラ10は、撮像画像の輝度に基づいて、自車両V1の周辺が暗いか否かを判断することで、自動露光補正を行うか否かを決定することもできる。
《第5実施形態》
続いて、第5実施形態に係る立体物検出装置1aについて説明する。第5実施形態に係る立体物検出装置1aは、図27に示すように、第1実施形態の計算機30に代えて、計算機30aを備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図27は、第5実施形態に係る計算機30aの詳細を示すブロック図である。
第5実施形態にかかる立体物検出装置1aは、図27に示すように、カメラ10と計算機30aとを備えており、計算機30aは、視点変換部31、輝度差算出部37、エッジ線検出部38、立体物検出部33a、遮光領域設定部34、輝度検出部35、およびレンズ状態判断部36を備えている。以下に、第5実施形態に係る立体物検出装置1aの各構成について説明する。なお、視点変換部31、遮光領域設定部34、輝度検出部35、およびレンズ状態判断部36については、第1実施形態と同様の構成であるため、その説明は省略する。
図28は、図27のカメラ10の撮像範囲等を示す図であり、図28(a)は平面図、図28(b)は、自車両V1から後側方における実空間上の斜視図を示す。図28(a)に示すように、カメラ10は所定の画角aとされ、この所定の画角aに含まれる自車両V1から後側方を撮像する。カメラ10の画角aは、図2に示す場合と同様に、カメラ10の撮像範囲に自車両V1が走行する車線に加えて、隣接する車線も含まれるように設定されている。
本例の検出領域A1,A2は、平面視(鳥瞰視された状態)において台形状とされ、これら検出領域A1,A2の位置、大きさ及び形状は、距離d1〜d4に基づいて決定される。なお、同図に示す例の検出領域A1,A2は台形状に限らず、図2に示すように鳥瞰視された状態で矩形など他の形状であってもよい。
ここで、距離d1は、自車両V1から接地線L1,L2までの距離である。接地線L1,L2は、自車両V1が走行する車線に隣接する車線に存在する立体物が地面に接触する線を意味する。本実施形態においては、自車両V1の後側方において自車両V1の車線に隣接する左右の車線を走行する他車両V2等(2輪車等を含む)を検出することが目的である。このため、自車両V1から白線Wまでの距離d11及び白線Wから他車両V2が走行すると予測される位置までの距離d12から、他車両V2の接地線L1,L2となる位置である距離d1を略固定的に決定しておくことができる。
また、距離d1については、固定的に決定されている場合に限らず、可変としてもよい。この場合に、計算機30aは、白線認識等の技術により自車両V1に対する白線Wの位置を認識し、認識した白線Wの位置に基づいて距離d11を決定する。これにより、距離d1は、決定された距離d11を用いて可変的に設定される。以下の本実施形態においては、他車両V2が走行する位置(白線Wからの距離d12)及び自車両V1が走行する位置(白線Wからの距離d11)は大凡決まっていることから、距離d1は固定的に決定されているものとする。
距離d2は、自車両V1の後端部から車両進行方向に伸びる距離である。この距離d2は、検出領域A1,A2が少なくともカメラ10の画角a内に収まるように決定されている。特に本実施形態において、距離d2は、画角aに区分される範囲に接するよう設定されている。距離d3は、検出領域A1,A2の車両進行方向における長さを示す距離である。この距離d3は、検出対象となる立体物の大きさに基づいて決定される。本実施形態においては、検出対象が他車両V2等であるため、距離d3は、他車両V2を含む長さに設定される。
距離d4は、図28(b)に示すように、実空間において他車両V2等のタイヤを含むように設定された高さを示す距離である。距離d4は、鳥瞰視画像においては図28(a)に示す長さとされる。なお、距離d4は、鳥瞰視画像において左右の隣接車線よりも更に隣接する車線(すなわち2車線隣りの隣隣接車線)を含まない長さとすることもできる。自車両V1の車線から2車線隣の車線を含んでしまうと、自車両V1が走行している車線である自車線の左右の隣接車線に他車両V2が存在するのか、2車線隣りの隣隣接車線に隣他車両が存在するのかについて、区別が付かなくなってしまうためである。
以上のように、距離d1〜距離d4が決定され、これにより検出領域A1,A2の位置、大きさ及び形状が決定される。具体的に説明すると、距離d1により、台形をなす検出領域A1,A2の上辺b1の位置が決定される。距離d2により、上辺b1の始点位置C1が決定される。距離d3により、上辺b1の終点位置C2が決定される。カメラ10から始点位置C1に向かって伸びる直線L3により、台形をなす検出領域A1,A2の側辺b2が決定される。同様に、カメラ10から終点位置C2に向かって伸びる直線L4により、台形をなす検出領域A1,A2の側辺b3が決定される。距離d4により、台形をなす検出領域A1,A2の下辺b4の位置が決定される。このように、各辺b1〜b4により囲まれる領域が検出領域A1,A2とされる。この検出領域A1,A2は、図28(b)に示すように、自車両V1から後側方における実空間上では真四角(長方形)となる。
輝度差算出部37は、鳥瞰視画像に含まれる立体物のエッジを検出するために、視点変換部31により視点変換された鳥瞰視画像データに対して、輝度差の算出を行う。輝度差算出部37は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の2つの画素間の輝度差を算出する。輝度差算出部37は、実空間における鉛直方向に伸びる鉛直仮想線を1本だけ設定する手法と、鉛直仮想線を2本設定する手法との何れかによって輝度差を算出することができる。
ここでは、鉛直仮想線を2本設定する具体的な手法について説明する。輝度差算出部37は、視点変換された鳥瞰視画像に対して、実空間で鉛直方向に伸びる線分に該当する第1鉛直仮想線と、第1鉛直仮想線と異なり実空間で鉛直方向に伸びる線分に該当する第2鉛直仮想線とを設定する。輝度差算出部37は、第1鉛直仮想線上の点と第2鉛直仮想線上の点との輝度差を、第1鉛直仮想線及び第2鉛直仮想線に沿って連続的に求める。以下、この輝度差算出部37の動作について詳細に説明する。
輝度差算出部37は、図29(a)に示すように、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第1鉛直仮想線La(以下、注目線Laという)を設定する。また輝度差算出部37は、注目線Laと異なり、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第2鉛直仮想線Lr(以下、参照線Lrという)を設定する。ここで参照線Lrは、実空間における所定距離だけ注目線Laから離間する位置に設定される。なお、実空間で鉛直方向に伸びる線分に該当する線とは、鳥瞰視画像においてはカメラ10の位置Psから放射状に広がる線となる。この放射状に広がる線は、鳥瞰視に変換した際に立体物が倒れ込む方向に沿う線である。
輝度差算出部37は、注目線La上に注目点Pa(第1鉛直仮想線上の点)を設定する。また輝度差算出部37は、参照線Lr上に参照点Pr(第2鉛直板想線上の点)を設定する。これら注目線La、注目点Pa、参照線Lr、参照点Prは、実空間上において図29(b)に示す関係となる。図29(b)から明らかなように、注目線La及び参照線Lrは、実空間上において鉛直方向に伸びた線であり、注目点Paと参照点Prとは、実空間上において略同じ高さに設定される点である。なお、注目点Paと参照点Prとは必ずしも厳密に同じ高さである必要はなく、注目点Paと参照点Prとが同じ高さとみなせる程度の誤差は許容される。
輝度差算出部37は、注目点Paと参照点Prとの輝度差を求める。仮に、注目点Paと参照点Prとの輝度差が大きいと、注目点Paと参照点Prとの間にエッジが存在すると考えられる。特に、第5実施形態では、検出領域A1,A2に存在する立体物を検出するために、鳥瞰視画像に対して実空間において鉛直方向に伸びる線分として鉛直仮想線を設定しているため、注目線Laと参照線Lrとの輝度差が高い場合には、注目線Laの設定箇所に立体物のエッジがある可能性が高い。このため、図27に示すエッジ線検出部38は、注目点Paと参照点Prとの輝度差に基づいてエッジ線を検出する。
この点をより詳細に説明する。図30は、輝度差算出部37の詳細動作を示す図であり、図30(a)は鳥瞰視された状態の鳥瞰視画像を示し、図30(b)は、図30(a)に示した鳥瞰視画像の一部B1を拡大した図である。なお図30についても検出領域A1のみを図示して説明するが、検出領域A2についても同様の手順で輝度差を算出する。
カメラ10が撮像した撮像画像内に他車両V2が映っていた場合に、図30(a)に示すように、鳥瞰視画像内の検出領域A1に他車両V2が現れる。図30(b)に図30(a)中の領域B1の拡大図を示すように、鳥瞰視画像上において、他車両V2のタイヤのゴム部分上に注目線Laが設定されていたとする。この状態において、輝度差算出部37は、先ず参照線Lrを設定する。参照線Lrは、注目線Laから実空間上において所定の距離だけ離れた位置に、鉛直方向に沿って設定される。具体的には、本実施形態に係る立体物検出装置1aにおいて、参照線Lrは、注目線Laから実空間上において10cmだけ離れた位置に設定される。これにより、参照線Lrは、鳥瞰視画像上において、例えば他車両V2のタイヤのゴムから10cm相当だけ離れた他車両V2のタイヤのホイール上に設定される。
次に、輝度差算出部37は、注目線La上に複数の注目点Pa1〜PaNを設定する。図30(b)においては、説明の便宜上、6つの注目点Pa1〜Pa6(以下、任意の点を示す場合には単に注目点Paiという)を設定している。なお、注目線La上に設定する注目点Paの数は任意でよい。以下の説明では、N個の注目点Paが注目線La上に設定されたものとして説明する。
次に、輝度差算出部37は、実空間上において各注目点Pa1〜PaNと同じ高さとなるように各参照点Pr1〜PrNを設定する。そして、輝度差算出部37は、同じ高さ同士の注目点Paと参照点Prとの輝度差を算出する。これにより、輝度差算出部37は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置(1〜N)ごとに、2つの画素の輝度差を算出する。輝度差算出部37は、例えば第1注目点Pa1とは、第1参照点Pr1との間で輝度差を算出し、第2注目点Pa2とは、第2参照点Pr2との間で輝度差を算出することとなる。これにより、輝度差算出部37は、注目線La及び参照線Lrに沿って、連続的に輝度差を求める。すなわち、輝度差算出部37は、第3〜第N注目点Pa3〜PaNと第3〜第N参照点Pr3〜PrNとの輝度差を順次求めていくこととなる。
輝度差算出部37は、検出領域A1内において注目線Laをずらしながら、上記の参照線Lrの設定、注目点Pa及び参照点Prの設定、輝度差の算出といった処理を繰り返し実行する。すなわち、輝度差算出部37は、注目線La及び参照線Lrのそれぞれを、実空間上において接地線L1の延在方向に同一距離だけ位置を変えながら上記の処理を繰り返し実行する。輝度差算出部37は、例えば、前回処理において参照線Lrとなっていた線を注目線Laに設定し、この注目線Laに対して参照線Lrを設定して、順次輝度差を求めていくことになる。
このように、第5実施形態では、実空間上で略同じ高さとなる注目線La上の注目点Paと参照線Lr上の参照点Prとから輝度差を求めることで、鉛直方向に伸びるエッジが存在する場合における輝度差を明確に検出することができる。また、実空間において鉛直方向に伸びる鉛直仮想線同士の輝度比較を行うために、鳥瞰視画像に変換することによって立体物が路面からの高さに応じて引き伸ばされてしまっても、立体物の検出処理が影響されることはなく、立体物の検出精度を向上させることができる。
図27に戻り、エッジ線検出部38は、輝度差算出部37により算出された連続的な輝度差から、エッジ線を検出する。例えば、図30(b)に示す場合、第1注目点Pa1と第1参照点Pr1とは、同じタイヤ部分に位置するために、輝度差は、小さい。一方、第2〜第6注目点Pa2〜Pa6はタイヤのゴム部分に位置し、第2〜第6参照点Pr2〜Pr6はタイヤのホイール部分に位置する。したがって、第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との輝度差は大きくなる。このため、エッジ線検出部38は、輝度差が大きい第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との間にエッジ線が存在することを検出することができる。
具体的には、エッジ線検出部38は、エッジ線を検出するにあたり、先ず下記式4に従って、i番目の注目点Pai(座標(xi,yi))とi番目の参照点Pri(座標(xi’,yi’))との輝度差から、i番目の注目点Paiに属性付けを行う。
[式4]
I(xi,yi)>I(xi’,yi’)+tのとき
s(xi,yi)=1
I(xi,yi)<I(xi’,yi’)−tのとき
s(xi,yi)=−1
上記以外のとき
s(xi,yi)=0
上記式4において、tはエッジ閾値を示し、I(xi,yi)はi番目の注目点Paiの輝度値を示し、I(xi’,yi’)はi番目の参照点Priの輝度値を示す。上記式4によれば、注目点Paiの輝度値が、参照点Priに閾値tを加えた輝度値よりも高い場合には、当該注目点Paiの属性s(xi,yi)は‘1’となる。一方、注目点Paiの輝度値が、参照点Priからエッジ閾値tを減じた輝度値よりも低い場合には、当該注目点Paiの属性s(xi,yi)は‘−1’となる。注目点Paiの輝度値と参照点Priの輝度値とがそれ以外の関係である場合には、注目点Paiの属性s(xi,yi)は‘0’となる。
次にエッジ線検出部38は、下記式5に基づいて、注目線Laに沿った属性sの連続性c(xi,yi)から、注目線Laがエッジ線であるか否かを判定する。
[式5]
s(xi,yi)=s(xi+1,yi+1)のとき(且つ0=0を除く)、
c(xi,yi)=1
上記以外のとき、
c(xi,yi)=0
注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じである場合には、連続性c(xi,yi)は‘1’となる。注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じではない場合には、連続性c(xi,yi)は‘0’となる。
次にエッジ線検出部38は、注目線La上の全ての注目点Paの連続性cについて総和を求める。エッジ線検出部38は、求めた連続性cの総和を注目点Paの数Nで割ることにより、連続性cを正規化する。そして、エッジ線検出部38は、正規化した値が閾値θを超えた場合に、注目線Laをエッジ線と判断する。なお、閾値θは、予め実験等によって設定された値である。
すなわち、エッジ線検出部38は、下記式6に基づいて注目線Laがエッジ線であるか否かを判断する。そして、エッジ線検出部38は、検出領域A1上に描かれた注目線Laの全てについてエッジ線であるか否かを判断する。
[式6]
Σc(xi,yi)/N>θ
このように、第5実施形態では、注目線La上の注目点Paと参照線Lr上の参照点Prとの輝度差に基づいて注目点Paに属性付けを行い、注目線Laに沿った属性の連続性cに基づいて当該注目線Laがエッジ線であるかを判断するので、輝度の高い領域と輝度の低い領域との境界をエッジ線として検出し、人間の自然な感覚に沿ったエッジ検出を行うことができる。この効果について詳細に説明する。図31は、エッジ線検出部38の処理を説明する画像例を示す図である。この画像例は、輝度の高い領域と輝度の低い領域とが繰り返される縞模様を示す第1縞模様101と、輝度の低い領域と輝度の高い領域とが繰り返される縞模様を示す第2縞模様102とが隣接した画像である。また、この画像例は、第1縞模様101の輝度が高い領域と第2縞模様102の輝度の低い領域とが隣接すると共に、第1縞模様101の輝度が低い領域と第2縞模様102の輝度が高い領域とが隣接している。この第1縞模様101と第2縞模様102との境界に位置する部位103は、人間の感覚によってはエッジとは知覚されない傾向にある。
これに対し、輝度の低い領域と輝度が高い領域とが隣接しているために、輝度差のみでエッジを検出すると、当該部位103はエッジとして認識されてしまう。しかし、エッジ線検出部38は、部位103における輝度差に加えて、当該輝度差の属性に連続性がある場合にのみ部位103をエッジ線として判定するので、エッジ線検出部38は、人間の感覚としてエッジ線として認識しない部位103をエッジ線として認識してしまう誤判定を抑制でき、人間の感覚に沿ったエッジ検出を行うことができる。
図27に戻り、立体物検出部33aは、エッジ線検出部38により検出されたエッジ線の量に基づいて立体物を検出する。上述したように、本実施形態に係る立体物検出装置1aは、実空間上において鉛直方向に伸びるエッジ線を検出する。鉛直方向に伸びるエッジ線が多く検出されるということは、検出領域A1,A2に立体物が存在する可能性が高いということである。このため、立体物検出部33aは、エッジ線検出部38により検出されたエッジ線の量に基づいて立体物を検出する。具体的には、立体物検出部33aは、エッジ線検出部38により検出されたエッジ線の量が、所定の閾値β以上であるか否かを判断し、エッジ線の量が所定の閾値β以上である場合には、エッジ線検出部38により検出されたエッジ線は、立体物のエッジ線であるものと判断する。
さらに、立体物検出部33aは、立体物を検出するに先立って、エッジ線検出部38により検出されたエッジ線が正しいものであるか否かを判定する。立体物検出部33aは、エッジ線上の鳥瞰視画像のエッジ線に沿った輝度変化が所定の閾値tb以上である否かを判定する。エッジ線上の鳥瞰視画像の輝度変化が閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものと判断する。一方、エッジ線上の鳥瞰視画像の輝度変化が閾値tb未満である場合には、当該エッジ線が正しいものと判定する。なお、この閾値tbは、実験等により予め設定された値である。
図32は、エッジ線の輝度分布を示す図であり、図32(a)は検出領域A1に立体物としての他車両V2が存在した場合のエッジ線及び輝度分布を示し、図32(b)は検出領域A1に立体物が存在しない場合のエッジ線及び輝度分布を示す。
図32(a)に示すように、鳥瞰視画像において他車両V2のタイヤゴム部分に設定された注目線Laがエッジ線であると判断されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化はなだらかなものとなる。これは、カメラ10により撮像された画像が鳥瞰視画像に視点変換されたことにより、他車両のタイヤが鳥瞰視画像内で引き延ばされたことによる。一方、図32(b)に示すように、鳥瞰視画像において路面に描かれた「50」という白色文字部分に設定された注目線Laがエッジ線であると誤判定されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化は起伏の大きいものとなる。これは、エッジ線上に、白色文字における輝度が高い部分と、路面等の輝度が低い部分とが混在しているからである。
以上のような注目線La上の輝度分布の相違に基づいて、立体物検出部33aは、エッジ線が誤判定により検出されたものか否かを判定する。たとえば、カメラ10により取得された撮像画像を鳥瞰視画像に変換した場合、当該撮像画像に含まれる立体物は、引き伸ばされた状態で鳥瞰視画像に現れる傾向がある。上述したように、他車両V2のタイヤが引き伸ばされた場合に、タイヤという1つの部位が引き伸ばされるため、引き伸ばされた方向における鳥瞰視画像の輝度変化は小さい傾向となる。これに対し、路面に描かれた文字等をエッジ線として誤判定した場合に、鳥瞰視画像には、文字部分といった輝度が高い領域と路面部分といった輝度が低い領域とが混合されて含まれる。この場合に、鳥瞰視画像において、引き伸ばされた方向の輝度変化は大きくなる傾向がある。そのため、立体物検出部33aは、エッジ線に沿った輝度変化が所定の閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものであり、当該エッジ線は、立体物に起因するものではないと判断する。これにより、路面上の「50」といった白色文字や路肩の雑草等がエッジ線として判定されてしまい、立体物の検出精度が低下することを抑制する。一方、立体物検出部33aは、エッジ線に沿った輝度変化が所定の閾値tb未満である場合には、当該エッジ線は、立体物のエッジ線であると判断し、立体物が存在するものと判断する。
具体的には、立体物検出部33aは、下記式7,8の何れかにより、エッジ線の輝度変化を算出する。このエッジ線の輝度変化は、実空間上における鉛直方向の評価値に相当する。下記式7は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の二乗の合計値によって輝度分布を評価する。下記式8は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の絶対値の合計値よって輝度分布を評価する。
[式7]
鉛直相当方向の評価値=Σ[{I(xi,yi)−I(xi+1,yi+1)}2]
[式8]
鉛直相当方向の評価値=Σ|I(xi,yi)−I(xi+1,yi+1)|
なお、上記式8に限らず、下記式9のように、閾値t2を用いて隣接する輝度値の属性bを二値化して、当該二値化した属性bを全ての注目点Paについて総和してもよい。
[式9]
鉛直相当方向の評価値=Σb(xi,yi)
但し、|I(xi,yi)−I(xi+1,yi+1)|>t2のとき、
b(xi,yi)=1
上記以外のとき、
b(xi,yi)=0
注目点Paiの輝度値と参照点Priの輝度値との輝度差の絶対値が閾値t2よりも大きい場合、当該注目点Pa(xi,yi)の属性b(xi,yi)は‘1’となる。それ以外の関係である場合には、注目点Paiの属性b(xi,yi)は‘0’となる。この閾値t2は、注目線Laが同じ立体物上にないことを判定するために実験等によって予め設定されている。そして、立体物検出部33aは、注目線La上の全注目点Paについての属性bを総和して、鉛直相当方向の評価値を求めることで、エッジ線が立体物に起因するものであり、立体物が存在するか否かを判定する。
次に、図33を参照して、第5実施形態に係る立体物検出処理について説明する。図33は、第5実施形態に係る立体物検出処理を示すフローチャートである。なお、図33においては、便宜上、検出領域A1を対象とする処理について説明するが、検出領域A2についても同様の処理が実行される。
また、以下に説明する立体物検出処理は、第1実施形態と同様に、図20に示すレンズ状態判断処理と並行して行われる。そして、図20に示すレンズ状態判断処理の判断結果に基づいて、図33に示す立体物検出処理での立体物の検出の制御が行われる。なお、第2実施形態においても、レンズ状態判断処理および立体物検出処理は、カメラ10で撮像された最新の撮像画像に基づいて、計算機30aにより、繰り返し実行される。
まず、ステップS401では、カメラ10により、画角a及び取付位置によって特定された所定領域の撮像が行われ、計算機30aにより、カメラ10により撮像された撮像画像Pの画像データが取得される。次に視点変換部31は、ステップS402において、取得した画像データについて視点変換を行い、鳥瞰視画像データを生成する。
次に輝度差算出部37は、ステップS403において、検出領域A1上に注目線Laを設定する。このとき、輝度差算出部37は、実空間上において鉛直方向に伸びる線に相当する線を注目線Laとして設定する。次に輝度差算出部37は、ステップS404において、検出領域A1上に参照線Lrを設定する。このとき、輝度差算出部37は、実空間上において鉛直方向に伸びる線分に該当し、且つ、注目線Laと実空間上において所定距離離れた線を参照線Lrとして設定する。
次に輝度差算出部37は、ステップS405において、注目線La上に複数の注目点Paを設定する。この際に、輝度差算出部37は、エッジ線検出部38によるエッジ検出時に問題とならない程度の数の注目点Paを設定する。また、輝度差算出部37は、ステップS406において、実空間上において注目点Paと参照点Prとが略同じ高さとなるように、参照点Prを設定する。これにより、注目点Paと参照点Prとが略水平方向に並ぶこととなり、実空間上において鉛直方向に伸びるエッジ線を検出しやすくなる。
次に輝度差算出部37は、ステップS407において、実空間上において同じ高さとなる注目点Paと参照点Prとの輝度差を算出する。そして、エッジ線検出部38は、輝度差算出部37により算出された輝度差に基づいて、上記式4に従って、各注目点Paの属性sを算出する。
なお、本実施形態では、立体物のエッジを検出するためのエッジ閾値tを用いて、各注目点Paの属性sが算出される。また、本実施形態では、図20に示すレンズ状態判断処理の判断結果に基づいて、エッジ閾値tを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、エッジ閾値tを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
次にエッジ線検出部38は、ステップS408において、上記式5に従って、各注目点Paの属性sの連続性cを算出する。そして、エッジ線検出部38は、ステップS409において、上記式6に従って、連続性cの総和を正規化した値が閾値θより大きいか否かを判定する。そして、正規化した値が閾値θよりも大きいと判断した場合(ステップS409=Yes)、エッジ線検出部38は、ステップS410において、当該注目線Laをエッジ線として検出する。そして、処理はステップS411に移行する。正規化した値が閾値θより大きくないと判断した場合(ステップS409=No)、エッジ線検出部38は、当該注目線Laをエッジ線として検出せず、処理はステップS411に移行する。
なお、本実施形態では、図20に示すレンズ状態判断処理の判断結果に基づいて、閾値θを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、閾値θを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
ステップS411において、計算機30aは、検出領域A1上に設定可能な注目線Laの全てについて上記のステップS403〜ステップS410の処理を実行したか否かを判断する。全ての注目線Laについて上記処理をしていないと判断した場合(ステップS411=No)、ステップS403に処理を戻して、新たに注目線Laを設定して、ステップS411までの処理を繰り返す。一方、全ての注目線Laについて上記処理をしたと判断した場合(ステップS411=Yes)、処理はステップS412に移行する。
ステップS412において、立体物検出部33aは、ステップS410において検出された各エッジ線について、当該エッジ線に沿った輝度変化を算出する。立体物検出部33aは、上記式7,8,9の何れかの式に従って、エッジ線の輝度変化を算出する。次に立体物検出部33aは、ステップS413において、エッジ線のうち、輝度変化が所定の閾値tb以上のエッジ線を除外する。すなわち、輝度変化の大きいエッジ線は正しいエッジ線ではないと判定し、エッジ線を立体物の検出には使用しない。これは、上述したように、検出領域A1に含まれる路面上の文字や路肩の雑草等がエッジ線として検出されてしまうことを抑制するためである。したがって、所定の閾値tbとは、予め実験等によって求められた、路面上の文字や路肩の雑草等によって発生する輝度変化に基づいて設定された値となる。一方、立体物検出部33aは、エッジ線のうち、輝度変化が所定の閾値tb未満であるエッジ線を、立体物のエッジ線と判断し、これにより、隣接車線に存在する立体物を検出する。
なお、本実施形態では、図20に示すレンズ状態判断処理の判断結果に基づいて、閾値tbを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、閾値tbを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
次いで、ステップS414では、立体物検出部33aにより、エッジ線の量が、所定の閾値β以上であるか否かの判断が行われる。ここで、閾値βは、予め実験等によって求めておいて設定された値であり、たとえば、検出対象の立体物として四輪車を設定した場合に、当該閾値βは、予め実験等によって検出領域A1内において出現した四輪車のエッジ線の数に基づいて設定される。エッジ線の量が閾値β以上であると判定された場合(ステップS414=Yes)には、ステップS415に進み、立体物検出部33aにより、検出領域A1内に他車両V2が存在するものと判断される。一方、エッジ線の量が閾値β以上ではないと判定された場合(ステップS414=No)には、ステップS416に進み、立体物検出部33aにより、検出領域A1内に立体物が存在しないものと判断される。
なお、本実施形態では、図20に示すレンズ状態判断処理の判断結果に基づいて、閾値βを変更する構成としてもよい。この場合、レンズ110に泡が付着していると判断された場合には、レンズ110に泡が付着していないと判断された場合よりも、閾値βを高い値に設定することができる。これにより、レンズ110に泡が付着していると判断された場合に、立体物の検出を抑制することができ、泡による立体物の誤検出を有効に防止することができる。
以上のように、第5実施形態では、第1実施形態の効果に加えて、検出領域A1,A2において被写体のエッジを検出し、該エッジに基づいて他車両V2を検出する場合でも、レンズ110に泡が付着しているか否かの判断結果に基づいて、自車両V1に接近する他車両V2の検出を適切に制御することができる。特に、第5実施形態では、レンズ110に泡が付着していると判断された場合に、エッジ閾値t、閾値θ、閾値β、閾値tbを高い値に変更することで、レンズ110に付着した泡による立体物の誤検出を有効に抑制することができる。
《第6実施形態》
続いて、第6実施形態に係る立体物検出装置1について説明する。第6実施形態に係る立体物検出装置1は、第1実施形態に係る立体物検出装置1と同様の構成を備え、以下に説明する点以外は、第1実施形態と同様に動作する。すなわち、第6実施形態においては、レンズ状態判断部36による判断結果が、レンズ洗浄に適した洗浄液を使用しているか否かの判断、または、洗浄液の吐出が正常に動作しているかを判断するために用いられる。
ここで、図34は、第6実施形態に係るレンズ状態判断処理を説明するための図であり、図10に示す洗浄工程を表している。図34に示すように、第6実施形態では、洗浄工程における洗浄動作に合わせてレンズ状態判断処理の動作時間Tactが設定されている。そして、レンズ状態判断部36は、洗浄工程における洗浄動作に合わせて、図20に示すレンズ状態判断処理を繰り返し行い、レンズ状態判断処理の判断結果を、レンズ洗浄に適切な洗浄液が用いられているか否かの判断に用いる。
たとえば、レンズ状態判断部36は、洗浄工程において適切な洗浄液を用いた場合に泡が発生し難いレンズ洗浄装置120を備えている場合には、洗浄工程において泡が検知された場合には、レンズ洗浄に適していない洗浄液が使用されていると判断することができる。一方、レンズ状態判断部36は、洗浄工程において適切な洗浄液を用いた場合に泡が発生し易いレンズ洗浄装置120を使用している場合に、洗浄工程において泡が検知されない場合に、レンズ洗浄に適していない洗浄液が使用されていると判断することもできる。
また、レンズ状態判断部36は、図10に示すレンズ湿潤工程において、図20に示すレンズ状態判断処理を繰り返し行い、レンズ湿潤工程において泡が検知できるか否かを判断することで、洗浄液の吐出が正常に行われているか否かを判断することができる。この場合、図22に示すように、洗浄液の吐出後、一定時間Tstopが経過してから泡を検知するのではなく、レンズ湿潤工程の間中、泡を検知することが好ましい。洗浄液の吐出時や吐出直後は、レンズ洗浄に適した洗浄液を使用している場合でも泡が検出されるが、洗浄液の吐出が正常に行われていない場合には、洗浄液の吐出時や吐出直後であっても泡が検出されない場合があるためである。
以上のように、第6実施形態では、洗浄工程においてレンズ110に泡が付着しているか否かを判断し、この判断結果を、レンズ洗浄に適した洗浄液が使用されているか否かの判断に用いることで、第1実施形態の効果に加えて、レンズ洗浄に適した洗浄液が使用されているか否かを適切に判断することができる。また、第6実施形態では、洗浄工程においてレンズ110に泡が付着しているか否かを判断し、この判断結果を、洗浄液の吐出が正常に行われているか否かの判断に用いることで、第1実施形態の効果に加えて、洗浄液の吐出が正常に行われているか否かを適切に判断することもできる。
《第7実施形態》
続いて、第7実施形態に係る立体物検出装置1について説明する。第7実施形態に係る立体物検出装置1bにおいては、第1実施形態に係るカメラ装置100に代えて、図35に示すカメラ装置100aを備え、以下に説明するように動作すること以外は、第1実施形態に係る立体物検出装置1と同様である。なお、図35は、第7実施形態に係るカメラ装置100aの構成を示すブロック図である。
第7実施形態に係るカメラ装置100aは、図35に示すように、カメラ10と、遮光板130とを備えており、レンズ洗浄装置120は備えていない。そして、第7実施形態では、たとえば、電源がオンになっている間、常時、図20のレンズ状態判断処理を繰り返し実行される。なお、第7実施形態では、レンズ洗浄が行われないため、図20のステップS101の処理は行われず、ステップS102から処理が開始される。
たとえば、路面に水たまりなどが形成されており、自車両V1の走行により、レンズ110に泡や水滴などの透光性の付着物が付着する場合がある。このような場合に、図21に示す立体物検出処理をそのまま行ってしまうと、泡や水滴などの透光性の付着物により立体物を適切に検出できない場合がある。
そこで、第7実施形態では、レンズ洗浄装置120を備えない構成においても、図20に示すレンズ状態判断処理を行い、レンズ110に泡などの透光性付着物が付着しているか否かを判断する。そして、レンズ110に泡などの透光性付着物が付着していると判断された場合に、立体物検出処理による立体物の検出を抑制する。
以上のように、第7実施形態では、図20に示すレンズ状態判断処理の判断結果を、自車両V1の走行によりレンズ110に泡などの透光性付着物が付着したか否かの判断に用いる。そして、レンズ110に泡などの透光性付着物が付着していると判断された場合には、立体物検出処理による立体物の検出を抑制する。これにより、第7実施形態においては、自車両V1の走行によりレンズ110に泡などの付着物が付着した場合でも、立体物を適切に検出することができる。
なお、上述した第7実施形態では、カメラ装置100aがレンズ洗浄装置120を備えない構成を例示したが、この構成に限定されず、たとえば、レンズ洗浄装置120を備えるカメラ装置100において、レンズ洗浄装置120によるレンズ110の洗浄を行っていない場合に、本実施形態にように、レンズ状態判断処理を行い、当該判断結果を、自車両V1の走行によりレンズ110に透光性付着物が付着したか否かの判断に用いることができる。
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。たとえば、本発明の実施形態は、上述した実施形態に限られるものではなく、また上述した第1〜第7実施形態を組み合わせてもよい。
また、上述した実施形態では、上記式(1)〜(3)に示す条件を満たす場合に、レンズ110に泡が付着していると判断する構成を例示したが、この構成に限定されず、たとえば、以下のような構成とすることができる。たとえば、上記式(1),(2)に代えて、遮光領域Xに対応する画素の輝度の平均値を遮光領域全体の輝度として算出し、撮像画像全体の輝度と遮光領域全体の輝度との比が所定の判定値以上である場合に、レンズ110に泡が付着していると判断する構成とすることができる。また、上記式(1)に代えて、遮光領域Xに対応する画素の輝度が所定値以上である場合に、当該画素は泡に対応する画素であると判断する構成としてもよい。また、上記式(3)を行わずに、レンズ110に泡が付着しているか否かを判断する構成としてもよい。
さらに、上述した実施形態では、レンズ状態判断処理の判断結果に基づいて、差分閾値th、エッジ閾値t、閾値α、閾値β、あるいは他車両V2を判定するための判定速度などの検出条件を変更する構成を例示したが、この構成に限定されず、たとえば、レンズ状態判断処理の判断結果に基づいて、各画素から出力される画素値または輝度値を変更する構成としてもよい。たとえば、レンズ110に泡が付着していると判断された場合には、立体物検出に用いるための各画素から出力される画素値または輝度値を低くすることで、立体物の検出を抑制する構成とすることができる。
また、上述した実施形態では、レンズ110に付着している泡を検出する構成を例示したが、本発明はこれに限定されず、たとえば、レンズ110に付着している水滴を検出するために適用することができる。レンズ110に水滴が付着している場合も、光の乱反射などにより遮光領域Xの輝度が高くなるため、この特性に基づいて、レンズ110に付着している水滴をも検出することもできる。
さらに、上述した実施形態では、遮光領域設定部34は、計算機30のメモリに記憶された遮光領域Xの情報を取得することで、遮光領域Xを設定する構成を例示したが、この構成に限定されず、遮光領域設定部34は、所定の画像解析処理により、撮像画像から遮光板130を検出し、遮光板130に対応する領域を遮光領域Xとして設定する構成としてもよい。
なお、上述した実施形態のカメラ10は本発明の撮像手段に、視点変換部31は本発明の画像変換手段に、位置合わせ部32、立体物検出部33,33a、輝度差算出部37、およびエッジ線検出部38は本発明の立体物検出手段および検出条件変更手段に、遮光領域設定部34は本発明の設定手段に、輝度検出部35は本発明の輝度検出手段に、レンズ状態判断部36は本発明の判断手段に、遮光板130は遮光部材にそれぞれ相当する。