JP4987573B2 - 車外監視装置 - Google Patents

車外監視装置 Download PDF

Info

Publication number
JP4987573B2
JP4987573B2 JP2007146922A JP2007146922A JP4987573B2 JP 4987573 B2 JP4987573 B2 JP 4987573B2 JP 2007146922 A JP2007146922 A JP 2007146922A JP 2007146922 A JP2007146922 A JP 2007146922A JP 4987573 B2 JP4987573 B2 JP 4987573B2
Authority
JP
Japan
Prior art keywords
preceding vehicle
environment
vehicle
brightness
adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007146922A
Other languages
English (en)
Other versions
JP2008301342A (ja
Inventor
徹 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2007146922A priority Critical patent/JP4987573B2/ja
Priority to US12/128,187 priority patent/US7839272B2/en
Priority to DE102008025723.0A priority patent/DE102008025723B4/de
Publication of JP2008301342A publication Critical patent/JP2008301342A/ja
Application granted granted Critical
Publication of JP4987573B2 publication Critical patent/JP4987573B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0092Image segmentation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Description

本発明は、車外監視装置に係り、特に、自車両の周囲を撮像するカメラの露光量等を調整可能な車外監視装置に関する。
近年、乗用車等の車両の周囲に存在する物体をCCD(Charge Coupled Device)カメラ等の撮像手段で撮像した画像の画像解析等により検出する技術の開発が進められている(例えば特許文献1等参照)。これらの技術は、例えば検出した物体との衝突の可能性を判断し、警報を鳴らしてドライバの注意を喚起したり衝突を回避するように自動操舵や自動制動制御等を行う車両の安全走行のための技術等に応用される。
このような物体の検出では、先行車両や対向車両、道路上の歩行者や道路わきに停車している停車車両等の障害物を的確に検出することが重要となる。また、検出した障害物に対してはそれとの衝突を回避する衝突回避制御が行われるが、先行車両に対しては、先行車両が信号待ち等で停止した場合に障害物としてその横を通過するのではなく、先行車両の後方で自車両を適切に停車させなければならない。このように、先行車両に対しては他の障害物に対する場合とは異なる制御が要求されるため、先行車両の検出は特に的確に行われる必要がある。
撮像手段で撮像した画像中からこれらの物体、特に先行車両を的確に検出するには、カメラの露光調整等を適切に行って物体を検出し得る画像が撮像されなければならない。CCDカメラ等の撮像手段は、通常、このような適切な露光調整等を自動的に行う機能を有している。
しかし、先行車両がトンネル内に進入したりトンネルから退出する際などのように、撮像手段により撮像されている環境が明るいところと暗いところとが共に存在する環境である場合、すなわち、例えば自車両がトンネルの手前にいて、トンネル内部は暗いがトンネルの手前側は明るいような場合には、撮像手段の自動露光調整では、通常、明るい部分にあわせてシャッタ時間を短くしたりアイリス絞りを絞る方向に調整が行われる。そのため、一般に、トンネル内が非常に暗く撮像される。
そして、このような状態で、先行車両がトンネル内部等の暗い場所に進入すると先行車両自体が暗くなり、先行車両の周囲の暗さと先行車両自体の暗さとの区別がつかなくなって先行車両を検出できなくなる場合がある。そこで、このような問題を解消するために、例えば、先行車両自体の明暗を検出して撮像手段のアイリス調整を行う自動車の走行制御装置が提案されている(特許文献2参照)。
また、トンネルの入口を検出すると自車両のエアコンの空気循環経路を内気循環に切り替えたり、撮像手段の露出量を増加させたりする制御を行って、自車両をトンネルでの走行に適する状態に制御する車両制御装置(特許文献3参照)や、トンネルを検出した場合に車線を検出できるように撮像手段の露光量を制御する露光量制御装置(特許文献4参照)が提案されている。なお、本発明では、追い越し禁止線等の道路中央線や車両通行帯境界線、路側帯と車道とを区画する区画線等の道路面上に標示された連続線や破線を車線という。
特開平7−225892号公報 特開平7−81459号公報 特開平11−139225号公報 特開平11−205663号公報
しかしながら、特許文献2に記載の装置では、明るい場所を走行中の先行車両が偶々木陰に入る等して暗くなると、それによって撮像手段のアイリス調整が行われてしまうが、先行車両自体が暗くなってもその前方が明るく、撮像手段により撮像された画像上で先行車両とその周囲との境界が明確に判別できれば先行車両を検出できる。従って、先行車両を的確に検出するという目的からすれば、このような場合に撮像手段のアイリス調整は不要である。また、車線検出など他の対象物の検出にも影響が出かねないため、むしろこのような場合には調整を行わない方がよい。
また、特許文献3に記載の装置による撮像手段の露出量等の調整は、自車両がトンネルに進入する際の撮像手段の通常の自動露光調整として行われるものである。従って、自車両がまだ明るい環境内にいる場合には露光調整は行われないから、暗い場所に進入した先行車両を周囲の暗い環境と区別して的確に撮像することは困難である。
さらに、特許文献4に記載の装置では、トンネルを検出した場合に、トンネルの手前の明るい環境内でもトンネル内の暗い環境内でも車線が検出できるように、トンネル手前の明るい環境内で車線の輝度がサチュレーションを生じず道路面と区別できる上限まで撮像手段の露光量を上昇させる。しかし、これはあくまで車線検出のための露光量調整であり、このような調整を行うことでトンネル内の暗い環境内に進入した先行車両を周囲の暗い環境と区別して的確に撮像することができるか否かは不明である。
強制的な露光調整等を行う場合には、先行車両を的確に検出できるように調整されることが必要となる。しかし、その一方で、撮像手段が通常有する自動的な露光調整等の機能以外に強制的に調整を行うと、先行車両以外の対象物の検出等に誤検出を生じかねないため、強制的な露光調整等は不要な場合には行わないように自動制御することが望ましい。
本発明は、このような事情に鑑みてなされたものであり、先行車両が存在する環境の明暗が大きく変化する場合に、撮像手段に対して適切な露光調整等の強制的な調整を行って先行車両を的確に検出することができる車外監視装置を提供することを目的とする。
前記の問題を解決するために、第1の発明は、車外監視装置において、
自車両の周囲を撮像する撮像手段と、
撮像された画像中から先行車両を検出する先行車両検出手段と、
前記画像上で前記先行車両の周囲に所定の監視領域を設定する監視領域設定手段と、
前記監視領域内の各画素の輝度に基づいて前記先行車両が進入する環境の明るさを予測する予測手段と、
前記予測手段により予測された前記先行車両が進入する環境の明るさに応じて、予め前記撮像手段の露光量と前記撮像手段から出力される画素の輝度との少なくとも一方の調整を行う調整手段と
を備え
前記監視領域設定手段は、前記画像上で前記先行車両の周囲に複数の監視領域を設定することを特徴とする。
の発明は、第の発明の車外監視装置において、前記監視領域設定手段は、前記画像上で前記先行車両の少なくとも上方および左右のそれぞれに監視領域を設定することを特徴とする。
の発明は、第1又は第2の発明の車外監視装置において、前記予測手段は、前記環境の明るさが予め設定された暗閾値未満である場合に、前記先行車両が暗い環境に進入すると予測することを特徴とする。
の発明は、第の発明の車外監視装置において、前記予測手段は、所定数以上の前記監視領域において、前記環境の明るさが予め設定された前記暗閾値未満である場合に、前記先行車両が暗い環境に進入すると予測することを特徴とする。
の発明は、第1から第のいずれかの発明の車外監視装置において、前記予測手段は、前記環境の明るさが予め設定された明閾値より大きい場合に、前記先行車両が明るい環境に進入すると予測することを特徴とする。
の発明は、第の発明の車外監視装置において、前記予測手段は、所定数以上の前記監視領域において、前記環境の明るさが予め設定された前記明閾値より大きい場合に、前記先行車両が明るい環境に進入すると予測することを特徴とする。
の発明は、第1から第のいずれかの発明の車外監視装置において、前記調整手段は、前記予測手段により前記先行車両が暗い環境に進入すると予測された場合に暗い環境に対する前記調整を行い、その後、前記予測手段により前記先行車両が明るい環境に進入すると予測された場合に明るい環境に対する前記調整を行うことを特徴とする。
の発明は、第1から第のいずれかの発明の車外監視装置において、前記調整手段は、前記予測手段により前記先行車両が暗い環境に進入すると予測された場合、または前記予測手段により前記先行車両が明るい環境に進入すると予測された場合、自車両と前記先行車両との距離および自車両の速度に基づいて自車両が前記先行車両の現在位置を超えるまでの間、前記調整を行うことを特徴とする。
の発明は、第1から第のいずれかの発明の車外監視装置において、
前記監視領域設定手段は、前記画像上で前記先行車両を含む領域をも前記監視領域として設定し、
前記予測手段は、前記先行車両を含む監視領域内の各画素の輝度に基づいて前記先行車両の明るさを予測し、
前記調整手段は、前記予測手段により予測された前記環境の明るさおよび前記先行車両の明るさに応じて、前記調整を行うことを特徴とする。
第1の発明によれば、予測手段が、撮像された画像上で先行車両の周囲に設定された監視領域内の各画素の輝度に基づいて先行車両が進入する環境の明るさを予測し、その予測に基づいて先行車両が例えばトンネル内に進入する場合のように明るい環境から暗い環境に進入すると予測された場合には、撮像手段の露光量の調整のレベルや撮像手段から出力される画素の輝度の調整のレベルを予め暗い環境に対する調整のレベルに強制的に変更する。
このように露光量や出力画像の輝度の調整のレベルを、撮像手段が自動的に決定した調整のレベルから予め強制的に変更することで、画像上の暗い部分におけるコントラストが向上し、先行車両が暗い環境に進入しても、先行車両をその周囲と区別して確実に検出することが可能となる。
また、逆に、先行車両が例えばトンネルから退出する場合のように暗い環境から明るい環境に進入すると予測された場合には、撮像手段の露光量の調整のレベルや撮像手段から出力される画素の輝度の調整のレベルを予め明るい環境に対する調整のレベルに強制的に変更する。このように露光量や出力画像の輝度の調整のレベルを予め強制的に変更することで、画像上の明るい部分におけるコントラストが向上し、先行車両が暗い環境から明るい環境に進入しても、先行車両をその周囲と区別して確実に検出することが可能となる。
さらに、予測手段により先行車両が明るい環境から暗い環境に、あるいは暗い環境から明るい環境に進入すると予測しない限り、上記のような露光量や出力画像の輝度の調整のレベルの強制的な変更は行わない。そのため、先行車両が進入する環境の明るさが大きく変化する場合以外には強制的な調整のレベルの変更は行われず、撮像手段が自ら決定した調整のレベルに基づいて適切な露光量等で撮像することができるから、不要な場合に強制的な調整のレベルの変更を行って先行車両以外の対象物を誤検出することを確実に防止するように自動制御することが可能となる。
また、の発明によれば、画像上で先行車両の周囲に複数の分割された監視領域を設定することで、例えば連続した1つの監視領域を先行車両の周囲に設定する場合と同様に、先行車両の周囲の明るさを的確に把握して先行車両のさらに前方の環境の明るさを確実に把握することが可能となり、前記第1の発明の効果が的確に発揮される。また、それと同時に、上記の場合よりも輝度を監視する画素数を減らすことができるため、予測手段における計算量の軽減を図ることが可能となり、車外監視装置の処理の負担をより低減して処理速度の向上を図ることが可能となる。
の発明によれば、画像上で先行車両の少なくとも上方および左右のそれぞれに監視領域を設定することで、前記各発明の効果が的確に発揮されるとともに、先行車両の周囲の明るさを的確に把握して先行車両のさらに前方の環境の明るさを確実に把握することが可能となり、前記第1の発明の効果がより的確に発揮される。
の発明によれば、環境の明るさが予め設定された暗閾値未満である場合に先行車両が暗い環境に進入すると予測することで、環境の明るさの変化を数量的に把握して容易かつ確実に予測することが可能となり、前記各発明の効果がより的確に発揮される。
の発明によれば、所定数以上の監視領域において、環境の明るさが暗閾値未満である場合に先行車両が暗い環境に進入すると予測することで、環境の明るさの変化を確実に把握して予測することが可能となり、前記各発明の効果がより的確に発揮される。
の発明によれば、環境の明るさが予め設定された明閾値より大きい場合に先行車両が明るい環境に進入すると予測することで、環境の明るさの変化を数量的に把握して容易かつ確実に予測することが可能となり、前記各発明の効果がより的確に発揮される。
の発明によれば、所定数以上の監視領域において、環境の明るさが明閾値より大きい場合に先行車両が明るい環境に進入すると予測することで、環境の明るさの変化を確実に把握して予測することが可能となり、前記各発明の効果がより的確に発揮される。
の発明によれば、例えば先行車両がトンネルに進入するような場合、先行車両は暗い環境に進入した後、トンネルから退出して明るい環境に進入する。そのため、先行車両が暗い環境に進入すると予測された場合に暗い環境に対する調整を行い、その後、先行車両が明るい環境に進入すると予測された場合に明るい環境に対する調整を行うことで、強制的な調整のレベルの変更を確実に行うことが可能となり、また、一旦暗い環境に進入した場合にだけ明るい環境に対する調整を行うことで、不必要に強制的な調整のレベルの変更を行うことを確実に防止することが可能となり、前記各発明の効果がより的確に発揮される。
の発明によれば、暗い環境に対する強制的な調整や、明るい環境に対する強制的な調整を行う時間に制限を設けてそれ以上は行わないようにすることが可能となり、前記各発明の効果、特に不要な場合に強制的な調整のレベルの変更を行うことを確実に防止するという効果がより的確に発揮される。
の発明によれば、先行車両の周囲の監視領域から予測される環境の明るさだけでなく、先行車両を含む監視領域内の各画素の輝度の平均値や各画素の輝度をヒストグラムに投票した場合の最頻値等に基づいて先行車両自体の明るさをも考慮して強制的な調整を行うか否かを決定することが可能となる。そして、このように構成することで、先行車両をその周囲の暗さや明るさと区別して確実に検出し、強制的な調整のレベルの変更が必要か否かを判断することが可能となり、前記各発明の効果、特に不要な場合に強制的な調整のレベルの変更を行うことを確実に防止するという効果がより的確に発揮される。
以下、本発明に係る車外監視装置の実施の形態について、図面を参照して説明する。
なお、本実施形態では、撮像手段2として2台のカメラを用いてステレオ撮像を行う形態が示されるが、撮像手段を例えば単数のカメラ等で構成することも可能である。また、本実施形態における先行車両検出手段である物体検出手段11は、撮像された画像中から先行車両を検出できるものであればよく、本実施形態の構成に限定されない。
本実施形態に係る車外監視装置1は、図1に示すように、主に、撮像手段2や変換手段3、画像処理手段6等で構成される位置情報収集手段9と、調整手段14等を含む監視手段10とで構成されている。
位置情報収集手段9は、自車両の周囲を撮像する撮像手段2を含み、自車両の周囲の物体を撮像するとともに、自車両からそれらの物体までの距離を含む物体の実空間上の位置の情報を収集するようになっている。本実施形態では、位置情報収集手段9は、本願出願人により先に提出された特開平5−114099号公報、特開平5−265547号公報、特開平6−266828号公報、特開平10−283461号公報、特開平10−283477号公報、特開2006−72495号公報等に記載された車外監視装置等をベースに構成されている。以下、簡単に説明する。
位置情報収集手段9は、図1に示すように、車幅方向に一定の距離をあけて配置された一対のメインカメラ2aおよびサブカメラ2bからなる撮像手段2で自車両の周囲を撮像して得られた一対の撮像画像を変換手段3であるA/Dコンバータ3a、3bでそれぞれデジタル画像に変換し、画像補正部4でずれやノイズの除去、輝度値の補正等の画像補正を行って、画像データメモリ5に格納するとともに、監視手段10に送信するようになっている。
本実施形態では、メインカメラ2aおよびサブカメラ2bとして2台のCCDカメラが備えられており、CCDカメラに通常備えられる機能として、自車両の周囲の明るさを自ら判断して適切な露光を得るための露光調整を自動的に行うように構成されている。ここで、本実施形態における露光調整には、少なくともシャッタ時間調整やアンプゲイン切り替え、LUT(Look Up Table)の選択やそれによる輝度値変換などが含まれ、それらが総合的に調整されるようになっている。
なお、本実施形態で用いられるCCDカメラはアイリスを備えないためアイリス絞り調整については述べないが、撮像手段2がアイリス等の露光調整を行うための他の機能を備える場合には、それらも含めて総合的に最適な露光を得るための自動的な露光調整が行われる。
一方、画像補正が行われた一対の撮像画像は、画像処理手段6に送られて、イメージプロセッサ7で、図2に示すようなメインカメラ2aで撮像した撮像画像(以下、基準画像Tという。)が複数の画素ブロックに分割され、各画素ブロックについてそれぞれサブカメラ2bで撮像した撮像画像の対応する画素ブロックがステレオマッチング処理により見出され、各画素ブロックごとに視差が算出される。この視差の算出については、前記各公報に詳述されている。
この視差と実空間上の位置とは三角測量の原理に基づいて対応付けることができ、具体的には、視差をdp、画素ブロックの基準画像T上の座標を(i,j)とし、実空間上で、メインカメラ2aおよびサブカメラ2bの中央真下の道路面上の点を原点とし、自車両の車幅方向すなわち左右方向にX軸、車高方向にY軸、車長方向すなわち距離方向にZ軸を取ると、実空間上の点(X,Y,Z)と、視差dpと画素ブロックの基準画像T上の座標(i,j)との関係は、
X=CD/2+Z×PW×(i−IV) …(1)
Y=CH+Z×PW×(j−JV) …(2)
Z=CD/(PW×(dp−DP)) …(3)
で表すことができる。
ここで、CDはメインカメラ2aとサブカメラ2bとの間隔、PWは1画素当たりの視野角、CHはメインカメラ2aとサブカメラ2bの取り付け高さ、IVおよびJVは自車両正面の無限遠点のi座標およびj座標、DPは消失点視差とも呼ばれるオフセット量を表す。
画像処理手段6は、基準画像Tの各画素ブロックに視差dpを割り当てて距離データメモリ8に格納するとともに、それらの視差dpの情報を監視手段10に送信するようになっている。なお、以下、基準画像の各画素ブロックに視差dpが割り当てられて形成された画像を距離画像Tzという。距離画像Tzは、図3に示すように各画素ブロックに視差dpが割り当てられた画像状のデータである。
なお、本実施形態の他にも、自車両と先行車両との距離Zの測定を、例えば自車両前方にレーザ光や赤外線等を照射してその反射光の情報に基づいて物体までの距離Zを測定するレーダ装置等で構成することも可能であり、物体の位置情報の収集の手法は特定の手法に限定されない。
監視手段10は、図示しないCPUやROM、RAM、入出力インターフェース等がバスに接続されて構成されるコンピュータに構成されている。また、監視手段10には、車速センサやヨーレートセンサ、ステアリングホイールの舵角を測定する舵角センサ等のセンサ類Qが接続されている。なお、ヨーレートセンサの代わりに自車両の車速等からヨーレートを推定する装置等を用いることも可能である。
監視手段10は、図1に示すように、物体検出手段11と、監視領域設定手段12と、予測手段13と、調整手段14とを備えており、さらに図示しないメモリを備えている。また、監視手段10の各手段には、センサ類Qから必要なデータが入力されるようになっている。
物体検出手段11は、撮像手段2により撮像された基準画像T中から物体を検出するようになっており、本実施形態に係る車外監視装置1の中枢をなしている。
また、本実施形態では、物体検出手段11は先行車両検出手段を兼ねており、基準画像T中から物体を検出した後、自車両の挙動に基づいて自車両が今後走行する軌跡(以下、走行軌跡という)を推定し、走行軌跡に基づいて検出した物体の中から先行車両を検出するようになっている。本実施形態では、物体検出手段11は、前記各公報に記載された車外監視装置等をベースに構成されている。以下、簡単に説明する。
物体検出手段11は、まず物体検出処理において、図3に示した距離画像Tzを図示しない所定幅の縦方向の短冊状の区分に分割し、各区分ごとに各区分に含まれる視差dpのうち道路面より上方に存在する視差dpに関するヒストグラムをそれぞれ設けて、その最頻値をその区分の視差dpとする。これを全区分についてそれぞれ行う。このように、本実施形態では、道路面より上方に存在する物体のみが検出されるが、車線等の道路面の標示を同時に検出し、あるいは別途検出するように構成することも可能である。
そして、物体検出手段11は、各区分の視差dpに基づいて前記(1)〜(3)式から物体の実空間上の座標(X,Y,Z)を算出する。算出された物体の座標を実空間上にプロットすると、各物体の座標は図4に示すように前方の物体の自車両Aに面した部分に対応する部分に多少ばらつきを持って各点としてプロットされる。
物体検出手段11は、このようにプロットされる各点について、実空間上の各点の隣接する点とのX軸方向の距離やZ軸方向の距離、グループ化した場合の左端の点から右端の点までのX軸方向の全長等を検索しながら、それらの値がそれぞれ設定された閾値以内である点をそれぞれグループにまとめ、図5に示すようにそれぞれのグループ内の各点を直線近似して物体を検出するようになっている。
また、本実施形態では、物体検出手段11は、このようにして検出した各物体を図6に示すように基準画像T上で矩形状の枠線で包囲するようにして検出するようになっている。なお、図5等において、ラベルOやラベルSは物体の自車両Aに対向する面の種別を表し、ラベルOは物体の背面、ラベルSは物体の側面が検出されていることを表す。
続いて、物体検出手段11は、先行車両検出においては、まず、図7に示すように自車両Aの挙動に基づいて自車両が今後進行するであろう軌跡を走行軌跡Lestとして推定し、その走行軌跡Lestを中心とする自車両の車幅分の領域を自車両の進行路Restとして算出するようになっている。自車両の走行軌跡Lestは、自車両の車速Vやヨーレートγ、ステアリングホイールの舵角δ等に基づいて下記(4)式または下記(5)、(6)式に従って算出される自車両の旋回曲率Cuaに基づいて算出することができる。なお、下記の各式におけるReは旋回半径、Asfは車両のスタビリティファクタ、Lwbはホイールベースである。
Cua=γ/V …(4)
Re=(1+Asf・V)・(Lwb/δ) …(5)
Cua=1/Re …(6)
そして、物体検出手段11は、自車両の進行路Rest上に存在する物体の中で自車両に最も近接する物体を先行車両として検出するようになっている。例えば図6や図7では、乗用車O3が先行車両Vahとして検出される。
なお、本実施形態では、物体検出手段11は、前回のサンプリング周期で検出した先行車両と今回のサンプリング周期で先行車両として検出した物体とが同一の立体物である確率を算出するなどして、整合性を保ちながら先行車両を追跡するようになっている。また、物体検出手段11は、検出した先行車両が自車両の前方から離脱してさらにその前方の車両が新たに先行車両となったり、自車両と先行車両との間に他の車両が割り込んできて当該他の車両が新たな先行車両となることによる先行車両の交替を検出できるようになっている。
監視領域設定手段12は、基準画像T上において、物体検出手段11が検出した先行車両の周囲に、先行車両のさらに前方側が撮像された画像領域を含む所定の監視領域を設定するようになっている。
本実施形態では、前述したように、先行車両は物体検出手段11により基準画像T上で矩形状の枠線で包囲されるようにして検出されるが、監視領域設定手段12は、図8に示すように、基準画像T上において先行車両Vahを包囲する枠線Frの上方および左右のほか、左斜め上方および右斜め上方の計5か所に監視領域P1〜P5を設定するようになっている。
なお、監視領域は、先行車両のさらに前方の環境の明るさをより確実に把握できるように、画像上で先行車両の少なくとも上方および左右に設定されることが好ましい。また、本実施形態では、主に後述する予測手段13における計算量の軽減を図るために監視領域を複数に分割して設定するが、監視領域は必ずしも複数設定される必要はなく、先行車両Vahの周囲に単数設定されるように構成してもよい。
また、監視領域は必ずしも本実施形態のように矩形状に設定される必要はなく、その形状を適宜決定される。さらに、監視領域は、必ずしも先行車両Vahを包囲する枠線Frの上端線Tlineや左端線Lline、右端線Rlineの外側に設定される必要はなく、それらの線に接するように設定されたり、それらの線を一部跨ぐように設定されるように構成することも可能である。
予測手段13は、監視領域設定手段12により基準画像T上に設定され、先行車両Vahのさらに前方の風景が撮像されている各監視領域P1〜P5内の各画素の輝度に基づいて、先行車両Vahが進入する環境の明るさを予測するようになっている。
具体的には、本実施形態では、予測手段13には、例えば0〜255の256階調の輝度階調で表現される各画素の輝度について、図9に示すように、低輝度域に設定された暗閾値br_th1と、高輝度域に設定された明閾値br_th2との2つの輝度閾値が予め設定されている。予測手段13は、各監視領域P1〜P5のそれぞれについて、暗閾値br_th1未満の輝度を有する画素の画素数と、明閾値br_th2より大きい輝度を有する画素の画素数とをカウントするようになっている。
そして、予測手段13は、各監視領域P1〜P5のそれぞれについて、暗閾値br_th1未満の輝度を有する画素の画素数や、その画素数の当該監視領域の全画素数に占める割合が、画素数または割合について予め設定された閾値th1以上である場合に、環境の明るさが予め設定された暗閾値br_th1未満である暗い環境に先行車両Vahが進入すると予測するようになっている。
本実施形態では、予測手段13は、図10に示すように、監視領域P1〜P5の全てにおいて暗閾値br_th1未満の輝度を有する画素の画素数等が閾値th1以上である場合に、先行車両Vahが暗い環境に進入すると予測するようになっている。なお、図10では、一例として、暗閾値br_th1未満の輝度を有する画素の割合と、割合について設定された閾値th1との関係が示されている。
また、予測手段13は、各監視領域P1〜P5のそれぞれについて、明閾値br_th2より大きい輝度を有する画素の画素数や、その画素数の当該監視領域の全画素数に占める割合が、画素数または割合について予め設定された閾値th2以上である場合に、先行車両Vahが進入する環境の明るさが予め設定された明閾値br_th2より大きく、先行車両Vahが明るい環境に進入すると予測するようになっている。
本実施形態では、予測手段13は、図11に示すように、監視領域P1〜P5の全てにおいて明閾値br_th2より大きい輝度を有する画素の画素数等が閾値th2以上である場合に、先行車両Vahが明るい環境に進入すると予測するようになっている。なお、図11においても、一例として、明閾値br_th2未満の輝度を有する画素の割合と、割合について設定された閾値th2との関係が示されている。
なお、画素数または割合について設定される閾値th1と閾値th2とは、同一の値であっても異なる値であってもよく、複数の監視領域P1〜P5ごとに異なっていてもよい。また、上記のように、本実施形態では監視領域P1〜P5の全てにおいて前記の条件を満たす場合に先行車両Vahが暗い環境または明るい環境に進入すると予測するように構成されているが、この他にも、例えば複数の監視領域P1〜P5のうち所定数以上の監視領域において前記の条件を満たせば上記のような予測を行うように構成することも可能である。
調整手段14は、予測手段13により予測された先行車両Vahが進入する環境の明るさに応じて、予め撮像手段1の露光量と撮像手段1から出力される画素の輝度との少なくとも一方を調整する信号を撮像手段2に出力するようになっている。具体的な処理のしかたについては下記に詳しく述べる。
そして、撮像手段2は、調整手段14からの信号に応じてシャッタ時間を調整したり、アンプゲインを切り替えたり、LUTの選択やそれによる輝度値変換等を行い、撮像手段2がアイリスを備える場合にはアイリス絞り調整等を行って、前述した自動的な露光調整とは別の調整手段14による強制的な露光調整を行うようになっている。
以下、図12および図13に示すフローチャートを用いて物体検出手段11から調整手段14までの監視手段10における処理の手順を説明し、あわせて本実施形態に係る車外監視装置1の作用について説明する。
なお、初期状態においては、後述するフラグF、制御距離CR、タイマTa、タイマTbは0に設定されている。
前述したように、先行車両検出手段である物体検出手段11は、上記の手法により先行車両Vahを検出すると(ステップS1;YES)、図8に示したように基準画像T上で先行車両Vahを矩形状の枠線Frで包囲する(図12のステップS2)。続いて、監視領域設定手段12が、基準画像T上で先行車両Vahを包囲する枠線Frの周囲に監視領域P1〜P5を設定する(ステップS3)。
続いて、予測手段13が、各監視領域P1〜P5について、それぞれ暗閾値br_th1未満の輝度を有する画素の画素数、および明閾値br_th2より大きい輝度を有する画素の画素数をカウントする。そして、暗閾値br_th1未満の輝度を有する画素の画素数が画素数について予め設定された閾値th1以上であるか否かを判断し、先行車両Vahが暗い環境に進入するか否かを判断する(ステップS4)。なお、暗閾値br_th1未満の輝度を有する画素の画素数の当該監視領域の全画素数に占める割合について判断してもよいことは前述したとおりである。また、同時に、予測手段13により各監視領域P1〜P5についてそれぞれ明閾値br_th2より大きい輝度を有する画素の画素数がカウントされる。
例えば、図6に示したような場合、先行車両Vahの周囲は明るく、図6では図示しない監視領域の各画素の中で暗閾値br_th1未満の輝度を有する画素の画素数は閾値th1以上にはならないから、予測手段13は、先行車両Vahが暗い環境には進入しないと予測する(ステップS4;NO)。
しかし、図14に示すように、先行車両VahがトンネルTuの入口に差し掛かっているような場合には、各監視領域P1〜P5の暗閾値br_th1未満の輝度を有する画素の各画素数はそれぞれ閾値th1以上となるから、予測手段13は、先行車両Vahが暗い環境に進入すると予測する(図12のステップS4;YES)。
調整手段14は、予測手段13により先行車両Vahが暗い環境に進入すると予測されると、フラグが1にセットされていなければ(ステップS5;NO)、フラグを1にセットし(ステップS6)、制御距離CRを例えば10kmにセットする(ステップS7)。制御距離CRは後述するようにサンプリング周期ごとに減算されるが(図13のステップS17参照)、フラグや制御距離CRについては後で説明する。
調整手段14は、続いて、撮像手段2に出力する信号Sとして「open」をセットする(図12のステップS8)。撮像手段2は、自車両の周囲の明るさを自ら判断して露光量の調整のためのレベルを決定し、あるいは撮像手段2から出力する画素の輝度の調整のためのレベルを決定するが、信号Sは、このように撮像手段2が自動的に決定した調整のレベルをさらに強制的に変更するための信号である。
そして、信号Sがopenの場合は、撮像手段2が自ら判断した周囲の明るさよりさらに暗い環境に対する調整のレベルに強制的に変更することを意味し、信号Sが後述するcloseの場合は、撮像手段2が自ら判断した周囲の明るさよりさらに明るい環境に対する調整のレベルに強制的に変更することを意味する。
調整手段14は、さらに、タイマTaをセットする(ステップS9)。タイマTaは、上記のような撮像手段2に対する強制的な調整が必要以上に長く続かないように、調整手段14による強制的調整の継続時間の上限を画するためにセットされるものである。
本実施形態では、図12や図13のフローチャートから分かるように、予測手段13により先行車両Vahが暗い環境に進入すると予測されている間は(図12のステップS4;YES)、タイマTaが更新され続け、予測手段13により先行車両Vahが暗い環境に進入するわけではないと予測された段階から(ステップS4;NO)、後述するように、最後にセットされたタイマTaの値からの減算が始まるようになっている。
本実施形態では、調整手段14は、タイマTaの値として、前記(3)式から自車両と先行車両Vahとの距離Zを算出し、それを車速センサから入力される自車両の車速Vで除して自車両が現時点における先行車両Vahの位置に到達するまでの時間を算出し、現時点からこの算出した時間を越える時間に相当する値をセットするようになっている。本実施形態では、調整手段14は、算出した時間に2〜3秒程度の時間を加算した時間に相当するサンプリング周期数をタイマTaの値としてセットするようになっている。
続いて、撮像手段2が自車両の周囲の明るさを判断して、次のサンプリング周期に向けてシャッタ時間調整やアンプゲイン切り替え等の露光調整、LUTの選択、輝度値変換等のレベルを決定する(ステップS10)。これは、監視手段10により強制的に行われる露光調整等ではなく、撮像手段2が通常行う自動的な調整である。また、それと同時に強制的な露光調整等の基準を与えるものである。
この自動的な露光調整等のレベルLreは、自車両が例えばトンネルに進入し、トンネルを通過して退出する場合を例にとると、図15に示すように、通常、トンネル内の暗い環境ではそのレベルを下げ、トンネルの手前やトンネル退出後の明るい環境ではそのレベルを上げるように調整される。
調整手段14は、続いて、制御距離CRが0より大きければ(図13のステップS11;YES)、予測手段13に、各監視領域P1〜P5についてそれぞれカウントした明閾値br_th2より大きい輝度を有する画素の画素数が画素数について予め設定された閾値th2以上であるか否かを判断させ、先行車両Vahが明るい環境に進入するか否かを判断させる(ステップS12)。なお、明閾値br_th2より大きい輝度を有する画素の画素数の当該監視領域の全画素数に占める割合について判断させてもよいことは前述したとおりである。
図14に示した状況においては、先行車両Vahが明るい環境に進入するとは判断されないから(図13のステップS12;NO)、調整手段14は、タイマTbが0より大きいか否かを判断する(ステップS13)。タイマTbについては後で説明する。図14の段階ではタイマTbは初期状態のままであり0である(図13のステップS13;NO)。
続いて、調整手段14は、タイマTaが0より大きいか否かを判断し(ステップS14)、上記のようにセットされたタイマTaが0より大きければ(ステップS14;YES)、「open」にセットされている信号Sを撮像手段2に出力し(ステップS15)、タイマTaを1だけ減算するようになっている(ステップS16)。タイマTaが0以下であれば(ステップS14;NO)、撮像手段2に対する強制的な調整を行うための信号Sは出力されない。
撮像手段2は、図16に示すように、調整手段14から出力された信号S「open」に基づいて、トンネルの手前の時点tで次のサンプリング周期に向けてシャッタ時間調整やアンプゲイン切り替え等の露光調整、LUTの選択、輝度値変換等のレベルを強制的に下げる。そのため、図17に示すように、次のサンプリング周期で撮像された基準画像Tでは、もともと明るかった部分ではさらに輝度が高くなりコントラストが低下するが、逆にトンネルTu内部のようにもともと暗かった部分では輝度が高くなってコントラストが向上する。そのため、トンネルTu内部の構造等も撮像されるようになる。
このように、サンプリング周期ごとに撮像手段2が自動的に決定する露光調整等のレベルLreを(図12のステップS10)、撮像手段2に信号S「open」を出力することで強制的にレベルLcoに下げる処理(図13のステップ15)は、図18に示すように、予測手段13により先行車両Vahが暗い環境に進入すると予測されている間(図12のステップS4;YES)、およびその後のタイマTaが0より大きい間(図13のステップS14;YES)続けられる。
そのため、図19に示すように、先行車両VahがトンネルTu内に進入して環境の明るさが大きく変化し、また、先行車両Vah自体の輝度が低下しても、先行車両Vahをその周囲と区別して検出することが可能となる。
なお、図18に示したように、本実施形態では、撮像手段2は、調整手段14からの信号S「open」に応じて露光調整等のレベルをレベルLreからレベルLcoに一気にΔLだけ下げるように構成されているが、例えばサンプリング周期ごとに段階的にレベルを下げるように構成することも可能である。また、本実施形態では、強制的な調整による露光調整等のレベルの低下が、ある一定のレベルLb未満にはならないように設定されている。
調整手段14は、上記の処理を終えると、制御距離CRを減算するようになっている(ステップS17)。本実施形態では、調整手段14は、自車両の車速Vにサンプリング周期に相当する時間を乗算して今回のサンプリング周期において自車両が走行した距離を算出し、メモリから読み出した制御距離CRから前記距離を減算して新たな制御距離CRとしてメモリに記憶する。
このように、本実施形態における制御距離CRとは、本発明の強制的な調整をどの程度まで続けるかを自車両の走行距離に基づいて画するための上限値を与えるものであり、制御距離CRを設定することで、強制的な調整が延々と機能し続行されることを避けることができる。そのため、本実施形態では、前述したように制御距離CRは例えば10kmにセットされる。また、フラグFは、サンプリング周期ごとに制御距離CRがセットし直されることで制御距離CRが実質的に延長されることを防止するために立てられるものである(図12のステップS5;YES)。
そして、制御距離CRの値が0以下となり(図13のステップS11;NO)、本発明の強制的な調整が制御距離CRを走行する間続けられたことが判明すると、調整手段14は、フラグFやタイマTa、Tb、信号S、制御距離CRを全てリセットして(ステップS18)、撮像手段2を、何ら強制的な調整が行われない通常の自動調整の状態に戻すようになっている。これにより、撮像手段2は、自ら自車両の周囲の明るさを判断して露光調整等のレベルLreを決定する状態に戻る。
一方、例えば自車両がトンネルTuの出口に差し掛かると、図20に示す基準画像TのようにトンネルTuの出口を背景にした先行車両Vahが撮像されるようになる。そして、予測手段13が、各監視領域P1〜P5についてそれぞれカウントした明閾値br_th2より大きい輝度を有する画素の画素数が画素数について予め設定された閾値th2以上であると判断し、先行車両Vahが明るい環境に進入すると予測すると(図13のステップS12;YES)、本実施形態では、調整手段14は、撮像手段2に出力する信号Sとして「close」をセットするようになっている(ステップS19)。
そして、調整手段14は、暗い環境用のタイマTaをリセットし(ステップS20)、明るい環境用のタイマTbをセットする(ステップS21)。本実施形態では、タイマTbには、前述したタイマTbと同様にして、自車両と先行車両Vahとの距離Zと自車両の車速Vとから算出した自車両が現時点における先行車両Vahの位置に到達するまでの時間に2〜3秒程度の時間を加算した時間に相当するサンプリング周期数がセットされる。
続いて、調整手段14は、「close」にセットされている信号Sを撮像手段2に出力し(ステップS22)、タイマTbを1だけ減算するようになっている(ステップS23)。また、前記ステップS12の処理で、予測手段13により先行車両Vahが明るい環境に進入すると予測されなくても(ステップS12;NO)、タイマTbが0より大きい間は(ステップS13;YES)、調整手段14は、撮像手段2への信号S「close」の出力(ステップS22)とタイマTbの減算(ステップS23)を続行する。
撮像手段2は、図21に示すように、調整手段14から出力された信号S「close」に基づいて、トンネルの手前の時点tで次のサンプリング周期に向けてシャッタ時間調整やアンプゲイン切り替え等の露光調整、LUTの選択、輝度値変換等のレベルを上げる。そのため、図22に示すように、次のサンプリング周期で撮像された基準画像Tでは、もともと暗かった部分ではさらに輝度が低くなりコントラストが低下するが、トンネルTuの外側のようにもともと明るかった部分では全体的に輝度が低くなってコントラストが向上する。そのため、トンネルTu外部がコントラスト良く撮像されるようになる。
この場合、先行車両Vah自体も暗くなるが、その周囲の明るい背景との境界が明確であるから先行車両Vahは確実に検出される。また、トンネルTu外部でのコントラストが向上されるから、図23に示すように、先行車両VahがトンネルTu外に進入して環境の明るさが大きく変化し、また、先行車両Vah自体の輝度が向上しても、先行車両Vahをその周囲と区別して検出することが可能となる。
なお、図21に示した本実施形態のように調整手段14からの信号S「open」に応じて露光調整等のレベルをΔLだけ一気に上げる代わりに、例えばサンプリング周期ごとに段階的にレベルを上げるように構成することも可能である。また、本実施形態では、強制的な調整による露光調整等のレベルの上昇が、ある一定のレベルLtより大きくならないように設定されている。
調整手段14は、以上の処理が終了すると、制御距離CRを減算するようになっている(ステップS17)。減算の要領は前述したとおりである。
以上のように、本実施形態に係る車外監視装置1によれば、予測手段13が、基準画像T上で先行車両Vahの周囲に設定され先行車両Vahのさらに前方側を含む監視領域P1〜P5内の各画素の輝度に基づいて先行車両Vahが進入する環境の明るさを予測する。そして、その予測に基づいて、先行車両Vahが例えばトンネルTu内に進入する場合のように明るい環境から暗い環境に進入すると予測された場合には、撮像手段2の露光量の調整のレベルや撮像手段2から出力される画素の輝度の調整のレベルを予め暗い環境に対する調整のレベルに強制的に変更する。
このように露光量や出力画像の輝度の調整のレベルを、撮像手段2が自動的に決定した調整のレベルから予め強制的に変更することで、基準画像T上で暗い部分のコントラストが向上し、先行車両Vahが暗い環境に進入しても、先行車両Vahをその周囲と区別して確実に検出することが可能となる。
また、逆に、先行車両Vahが例えばトンネルTuから退出する場合のように暗い環境から明るい環境に進入すると予測された場合には、撮像手段2の露光量の調整のレベルや撮像手段2から出力される画素の輝度の調整のレベルを予め明るい環境に対する調整のレベルに強制的に変更する。このように露光量や出力画像の輝度の調整のレベルを予め強制的に変更することで、基準画像T上で明るい部分のコントラストが向上し、先行車両Vahが暗い環境から明るい環境に進入しても、先行車両Vahをその周囲と区別して確実に検出することが可能となる。
さらに、予測手段13により先行車両Vahが明るい環境から暗い環境に、あるいは暗い環境から明るい環境に進入すると予測しない限り、上記のような露光量や出力画像の輝度の調整のレベルの強制的な変更は行わない。そのため、先行車両Vahが進入する環境の明るさが大きく変化する場合以外には強制的な調整のレベルの変更は行われず、撮像手段2が自ら決定した調整のレベルに基づいて適切な露光量等で撮像することができるから、不要な場合に強制的な調整のレベルの変更を行って先行車両以外の対象物を誤検出することを確実に防止するように自動制御することが可能となる。
なお、本実施形態では、先行車両が明るい環境から暗い環境に進入する際と、暗い環境から明るい環境に進入する際の両方で、強制的な調整のレベルの変更を行う場合について説明したが、必ずしもその両方で行う必要はない。例えば、自車両がトンネル内等の暗い環境にいて明るい環境内の先行車両を撮像した場合に強制的な調整のレベルの変更を行わなくても先行車両を十分確実に検出できるのであれば、少なくとも先行車両が暗い環境から明るい環境に進入する際には強制的な調整のレベルの変更を行わなくてもよい。
また、本実施形態では、図12と図13に示したフローチャートから分かるように、先行車両が暗い環境に進入すると予測された場合に(図12のステップS4;YES)制御距離CRがセットされ(ステップS7)、制御距離CRが0より大きい場合(図13のステップS11;YES)にのみ、先行車両が明るい環境に進入するか否かを予測する(ステップS12)から、調整手段14は、予測手段13により先行車両が暗い環境に進入すると予測された時点で暗い環境に対する強制的な調整を行った後、予測手段13により先行車両が明るい環境に進入すると予測された時点で明るい環境に対する強制的な調整を行うようになっている。
しかし、この構成に限定されず、自車両に搭載する撮像手段2や画像補正部4等の構成により、必要に応じて、先行車両が明るい環境から暗い環境に進入する際に強制的な調整のレベルの変更を行うか、暗い環境から明るい環境に進入する際に強制的な調整のレベルの変更を行うか、あるいはその両方で行うかが適宜決定される。
さらに、本実施形態のように検出した先行車両を包囲する枠線を利用して、例えば、その枠線内の領域も監視領域として設定し、枠線で表される先行車両を含む監視領域内の各画素の輝度の平均値や、各画素の輝度をヒストグラムに投票した場合の最頻値等に基づいて先行車両の明るさを予測し、調整手段14では、先行車両を含む監視領域以外の先行車両の周囲の監視領域P1〜P5の各画素の輝度に基づいて予測される先行車両が進入する環境の明るさだけでなく、その先行車両自体の明るさをも考慮して、予め撮像手段2の露光量や撮像手段2から出力される画素の輝度の強制的な調整を行うか否かを決定するように構成することも可能である。
すなわち、例えば先行車両の周囲が暗くなり、先行車両が暗い環境に進入することが予測されても、先行車両自体が周囲の暗さに対して十分区別できる明るさを有している場合には必ずしも即座に撮像手段2の露光量の調整のレベルや撮像手段2から出力される画素の輝度の調整のレベルを暗い環境に対する調整のレベルに強制的に変更しなくてもよい。このような場合には、例えば、先行車両が暗い環境に進入することが予測された段階でスタンバイし、先行車両自体が暗くなり、周囲の環境の暗さと区別がつき難くなった段階で強制的な調整のレベルの変更を開始するように構成することができる。
そして、このように構成すれば、先行車両をその周囲の暗さや明るさと区別して確実に検出し、調整のレベルの変更が不要の場合には強制的な調整のレベルの変更は行わないという本実施形態に係る車外監視装置1の効果をより的確に発揮させることが可能となる。
本実施形態に係る車外監視装置の構成を示すブロック図である。 基準画像の一例を示す図である。 図2の基準画像等に基づいて形成された距離画像を示す図である。 区分ごとの距離を実空間上にプロットした各点を表す図である。 図4の各点に基づいて実空間上に検出された物体を表す図である。 基準画像上に枠線で包囲されて検出された各物体および先行車両を表す図である。 実空間上の自車両の走行軌跡、進行路および先行車両を表す図である。 先行車両の周囲に設定される監視領域を説明する図である。 低輝度域に設定される暗閾値と高輝度域に設定される明閾値を説明する図である。 全監視領域で暗閾値未満の輝度を有する画素の画素数の割合が閾値以上である状態を表すグラフである。 全監視領域で明閾値より大きい輝度を有する画素の画素数の割合が閾値以上である状態を表すグラフである。 本実施形態に係る車外監視装置の監視手段における処理の手順を表すフローチャートである。 本実施形態に係る車外監視装置の監視手段における処理の手順を表すフローチャートである。 トンネルの入口に差し掛かった先行車両および監視領域を表す図である。 撮像手段により自動的に設定される露光調整等のレベルを表すグラフである。 調整手段により撮像手段の露光調整等のレベルが強制的に下げられた状態を説明するグラフである。 強制的に調整のレベルが下げられてトンネル内部の暗い部分の輝度が向上しコントラストが向上した状態を表す図である。 強制的に調整のレベルが下げる処理が続行される状態を説明するグラフである。 暗いトンネル内に進入しても検出される先行車両を表す図である。 トンネルの出口に差し掛かった先行車両および監視領域を表す図である。 強制的な調整のレベルの変更が続行される状態を説明するグラフである。 強制的に調整のレベルが上げられてトンネル外の明るい部分の輝度が低下しコントラストが向上した状態を表す図である。 明るいトンネル外に進入しても検出される先行車両を表す図である。
符号の説明
1 車外監視装置
2 撮像手段
11 物体検出手段(先行車両検出手段)
12 監視領域設定手段
13 予測手段
14 調整手段
A 自車両
br_th1 暗閾値
br_th2 明閾値
P1〜P5 監視領域
T 基準画像(画像)
V 車速(自車両の速度)
Vah 先行車両
Z 距離

Claims (9)

  1. 自車両の周囲を撮像する撮像手段と、
    撮像された画像中から先行車両を検出する先行車両検出手段と、
    前記画像上で前記先行車両の周囲に所定の監視領域を設定する監視領域設定手段と、
    前記監視領域内の各画素の輝度に基づいて前記先行車両が進入する環境の明るさを予測する予測手段と、
    前記予測手段により予測された前記先行車両が進入する環境の明るさに応じて、予め前記撮像手段の露光量と前記撮像手段から出力される画素の輝度との少なくとも一方の調整を行う調整手段と
    を備え
    前記監視領域設定手段は、前記画像上で前記先行車両の周囲に複数の監視領域を設定することを特徴とする車外監視装置。
  2. 前記監視領域設定手段は、前記画像上で前記先行車両の少なくとも上方および左右のそれぞれに監視領域を設定することを特徴とする請求項に記載の車外監視装置。
  3. 前記予測手段は、前記環境の明るさが予め設定された暗閾値未満である場合に、前記先行車両が暗い環境に進入すると予測することを特徴とする請求項1又は2に記載の車外監視装置。
  4. 前記予測手段は、所定数以上の前記監視領域において、前記環境の明るさが予め設定された前記暗閾値未満である場合に、前記先行車両が暗い環境に進入すると予測することを特徴とする請求項に記載の車外監視装置。
  5. 前記予測手段は、前記環境の明るさが予め設定された明閾値より大きい場合に、前記先行車両が明るい環境に進入すると予測することを特徴とする請求項1から請求項のいずれか一項に記載の車外監視装置。
  6. 前記予測手段は、所定数以上の前記監視領域において、前記環境の明るさが予め設定された前記明閾値より大きい場合に、前記先行車両が明るい環境に進入すると予測することを特徴とする請求項に記載の車外監視装置。
  7. 前記調整手段は、前記予測手段により前記先行車両が暗い環境に進入すると予測された場合に暗い環境に対する前記調整を行い、その後、前記予測手段により前記先行車両が明るい環境に進入すると予測された場合に明るい環境に対する前記調整を行うことを特徴とする請求項1から請求項のいずれか一項に記載の車外監視装置。
  8. 前記調整手段は、前記予測手段により前記先行車両が暗い環境に進入すると予測された場合、または前記予測手段により前記先行車両が明るい環境に進入すると予測された場合、自車両と前記先行車両との距離および自車両の速度に基づいて自車両が前記先行車両の現在位置を超えるまでの間、前記調整を行うことを特徴とする請求項1から請求項のいずれか一項に記載の車外監視装置。
  9. 前記監視領域設定手段は、前記画像上で前記先行車両を含む領域をも前記監視領域として設定し、
    前記予測手段は、前記先行車両を含む監視領域内の各画素の輝度に基づいて前記先行車両の明るさを予測し、
    前記調整手段は、前記予測手段により予測された前記環境の明るさおよび前記先行車両の明るさに応じて、前記調整を行うことを特徴とする請求項1から請求項のいずれか一項に車外監視装置。
JP2007146922A 2007-06-01 2007-06-01 車外監視装置 Active JP4987573B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007146922A JP4987573B2 (ja) 2007-06-01 2007-06-01 車外監視装置
US12/128,187 US7839272B2 (en) 2007-06-01 2008-05-28 Vehicle surroundings monitoring apparatus
DE102008025723.0A DE102008025723B4 (de) 2007-06-01 2008-05-29 Vorrichtung zur Überwachung der Umgebung eines Fahrzeugs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007146922A JP4987573B2 (ja) 2007-06-01 2007-06-01 車外監視装置

Publications (2)

Publication Number Publication Date
JP2008301342A JP2008301342A (ja) 2008-12-11
JP4987573B2 true JP4987573B2 (ja) 2012-07-25

Family

ID=40076182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007146922A Active JP4987573B2 (ja) 2007-06-01 2007-06-01 車外監視装置

Country Status (3)

Country Link
US (1) US7839272B2 (ja)
JP (1) JP4987573B2 (ja)
DE (1) DE102008025723B4 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4812510B2 (ja) * 2006-05-17 2011-11-09 アルパイン株式会社 車両周辺画像生成装置および撮像装置の測光調整方法
JP4757932B2 (ja) * 2009-06-23 2011-08-24 アキュートロジック株式会社 車両用撮像装置の露出制御装置及び露出制御方法
DE102009029439A1 (de) * 2009-09-14 2011-03-24 Robert Bosch Gmbh Verfahren und Vorrichtung zur Darstellung von Hindernissen in einem Einparkhilfesystem von Kraftfahrzeugen
DE102010024415B4 (de) * 2010-06-19 2021-09-16 Volkswagen Ag Verfahren und Vorrichtung zur Aufnahme einer Bilderfolge einer Umgebung eines Fahrzeugs
JP5375814B2 (ja) * 2010-12-22 2013-12-25 株式会社デンソー 露出制御装置
JP5435307B2 (ja) * 2011-06-16 2014-03-05 アイシン精機株式会社 車載カメラ装置
JP6376429B2 (ja) * 2012-11-13 2018-08-22 株式会社リコー 対象地点到達検知装置、対象地点到達検知用プログラム、移動体機器制御システム及び移動体
JP5849040B2 (ja) * 2012-11-28 2016-01-27 富士重工業株式会社 車両の運転支援制御装置
JP6344638B2 (ja) * 2013-03-06 2018-06-20 株式会社リコー 物体検出装置、移動体機器制御システム及び物体検出用プログラム
US10171775B1 (en) 2013-05-31 2019-01-01 Vecna Technologies, Inc. Autonomous vehicle vision system
KR101353052B1 (ko) * 2013-07-31 2014-01-20 주식회사 피엘케이 테크놀로지 교통표지판 인식을 위한 차량용 영상인식시스템
CN105493492B (zh) * 2013-09-09 2018-10-12 奥林巴斯株式会社 显示控制装置
DE102013020952A1 (de) * 2013-12-12 2015-06-18 Connaught Electronics Ltd. Verfahren zum Einstellen eines für die Helligkeit und/oder für den Weißabgleich einer Bilddarstellung relevanten Parameters in einem Kamerasystem eines Kraftfahrzeugs, Kamerasystem und Kraftfahrzeug
KR101631439B1 (ko) * 2014-05-29 2016-06-17 엘지전자 주식회사 카메라, 및 이를 구비한 차량
JP5952859B2 (ja) * 2014-06-23 2016-07-13 富士重工業株式会社 車両の運転支援装置
DE112015006032B4 (de) * 2015-01-22 2021-04-01 Mitsubishi Electric Corporation Vorrichtung und Verfahren zur Bilderfassung eines Objekts, das sich in einem Abbildungsfeld-Winkelbereich befindet, Programm und Aufzeichnungsmedium
DE102015012809A1 (de) 2015-10-02 2017-04-06 Audi Ag Bildaufnahmeeinrichtung für ein Kraftfahrzeug und Verfahren zum Betreiben einer derartigen Bildaufnahmeeinrichtung
CN105530437A (zh) 2016-01-29 2016-04-27 生迪智慧科技有限公司 环境亮度的测算方法及拍摄装置
JP6302519B2 (ja) * 2016-09-06 2018-03-28 株式会社Subaru 車両の運転支援装置
CN106529411B (zh) * 2016-10-11 2020-07-28 北京小米移动软件有限公司 车辆提示方法及装置
JP6654999B2 (ja) * 2016-12-12 2020-02-26 株式会社Soken 物標検出装置
WO2019044625A1 (ja) * 2017-09-01 2019-03-07 株式会社村上開明堂 衝突予測装置、衝突予測方法及びプログラム
DE102017215347A1 (de) * 2017-09-01 2019-03-07 Conti Temic Microelectronic Gmbh Verfahren zur vorhersehbaren Belichtungssteuerung zumindest einer ersten Fahrzeugkamera
EP3852355A4 (en) * 2018-09-13 2021-11-10 Sony Semiconductor Solutions Corporation INFORMATION PROCESSING DEVICE AND METHOD, IMAGING DEVICE, MOBILE BODY DEVICE AND COMPUTER PROGRAM
US11769257B2 (en) * 2019-05-30 2023-09-26 Honeywell International Inc. Systems and methods for image aided navigation
JP7196781B2 (ja) * 2019-06-14 2022-12-27 株式会社デンソー 情報処理装置及び運転支援システム
CN112954192B (zh) * 2021-01-27 2022-06-07 惠州华阳通用电子有限公司 一种摄像头拍摄模式控制方法
CN115311838B (zh) * 2022-07-22 2023-09-26 重庆大学 一种隧道入口区域车辆协同一致性评价方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3167752B2 (ja) 1991-10-22 2001-05-21 富士重工業株式会社 車輌用距離検出装置
JPH05265547A (ja) 1992-03-23 1993-10-15 Fuji Heavy Ind Ltd 車輌用車外監視装置
JP3324821B2 (ja) 1993-03-12 2002-09-17 富士重工業株式会社 車輌用車外監視装置
JP3019684B2 (ja) * 1993-09-20 2000-03-13 三菱自動車工業株式会社 自動車の走行制御装置
JPH07225892A (ja) 1994-02-09 1995-08-22 Fuji Heavy Ind Ltd 車輌の走行制御装置
JPH08116492A (ja) * 1994-10-18 1996-05-07 Sony Corp 固体撮像装置及びこれを搭載したビデオカメラ
JP3315054B2 (ja) 1997-04-04 2002-08-19 富士重工業株式会社 車外監視装置
JP3349060B2 (ja) 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP3612970B2 (ja) 1997-11-07 2005-01-26 日産自動車株式会社 トンネル検出装置及びそれを用いた車両制御装置
JP2001527372A (ja) * 1997-12-31 2001-12-25 ジェンテクス・コーポレーション 車両視覚システム
JPH11205663A (ja) 1998-01-20 1999-07-30 Nissan Motor Co Ltd 車両用撮像装置の露光量制御装置
JP4953498B2 (ja) * 2000-07-12 2012-06-13 富士重工業株式会社 フェールセーフ機能を有する車外監視装置
DE10213917A1 (de) * 2002-03-28 2003-10-23 Bosch Gmbh Robert Verfahren und Vorrichtung zur Regelung eines Bildsensors
JP2004048455A (ja) * 2002-07-12 2004-02-12 Niles Co Ltd 撮像システム
DE10337357A1 (de) * 2003-08-14 2005-03-10 Adc Automotive Dist Control Verfahren und Vorrichtung zur Beleuchtungssteuerung für eine Kamera
JP4738778B2 (ja) * 2003-10-15 2011-08-03 富士通テン株式会社 画像処理装置、運転支援装置および運転支援システム
JP4510554B2 (ja) 2004-08-31 2010-07-28 富士重工業株式会社 立体物監視装置
JP4218670B2 (ja) * 2005-09-27 2009-02-04 オムロン株式会社 前方撮影装置

Also Published As

Publication number Publication date
DE102008025723A1 (de) 2009-01-02
DE102008025723B4 (de) 2016-06-23
US20080309517A1 (en) 2008-12-18
US7839272B2 (en) 2010-11-23
JP2008301342A (ja) 2008-12-11

Similar Documents

Publication Publication Date Title
JP4987573B2 (ja) 車外監視装置
US11318928B2 (en) Vehicular automated parking system
JP2008186342A (ja) 車外監視装置
JP4914234B2 (ja) 先行車両検出装置
JP4990806B2 (ja) 撮像手段の調整装置および車外監視装置
JP2007257449A (ja) 道路区画線検出装置
US10204279B2 (en) Vehicle vision system with object detection
JP2008033750A (ja) 物体傾き検出装置
JP4937844B2 (ja) 歩行者検出装置
JP2008158640A (ja) 移動物体検出装置
KR20080022748A (ko) 스테레오 카메라를 이용한 충돌회피 방법
JP4807733B2 (ja) 車外環境認識装置
JP2008117073A (ja) 割り込み車両検出装置
JP2007280132A (ja) 走行誘導障害物検出装置および車両用制御装置
JP7119317B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム
JP5172422B2 (ja) 運転支援システム
JP2009301495A (ja) 画像処理装置及び画像処理方法
JP2007128460A (ja) 衝突判定システム、衝突判定方法、コンピュータプログラム及び判定装置
JP5411671B2 (ja) 物体検出装置および運転支援システム
KR20150058881A (ko) 영상 인식을 기반으로 하는 차량의 공기순환 제어방법
JP5011186B2 (ja) 運転支援装置および運転支援システム
JP7131131B2 (ja) 車両用ライン検出装置および該方法
JP5149669B2 (ja) 運転支援装置
KR102448164B1 (ko) 차량용 레이더 제어 장치 및 방법
KR20220011825A (ko) 차량 및 그 제어방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120425

R150 Certificate of patent or registration of utility model

Ref document number: 4987573

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250