JP2009157085A - 露出制御装置及び露出制御プログラム - Google Patents

露出制御装置及び露出制御プログラム Download PDF

Info

Publication number
JP2009157085A
JP2009157085A JP2007334934A JP2007334934A JP2009157085A JP 2009157085 A JP2009157085 A JP 2009157085A JP 2007334934 A JP2007334934 A JP 2007334934A JP 2007334934 A JP2007334934 A JP 2007334934A JP 2009157085 A JP2009157085 A JP 2009157085A
Authority
JP
Japan
Prior art keywords
brightness
exposure control
pixels
vehicle
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007334934A
Other languages
English (en)
Other versions
JP4433045B2 (ja
Inventor
Kentaro Mochida
健太郎 望田
Takayuki Kimura
貴之 木村
Kenta Hogi
健太 保木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007334934A priority Critical patent/JP4433045B2/ja
Priority to US12/318,145 priority patent/US8363124B2/en
Priority to DE102008064411.0A priority patent/DE102008064411B4/de
Publication of JP2009157085A publication Critical patent/JP2009157085A/ja
Application granted granted Critical
Publication of JP4433045B2 publication Critical patent/JP4433045B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/28Circuitry to measure or to take account of the object contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Abstract

【課題】明るさ測定用の領域の自由度を高くしつつ、適切な露出制御を行うことが可能な露出制御装置を提供する。
【解決手段】車載カメラの撮影画像における明るさ測定領域から水平方向のライン単位で画素を抽出し(S131)、抽出した画素のうち最も明るい所定数の画素及び最も暗い所定数の画素の除去処理をラインごとに行う(S132)。そして、除去処理後の残りの画素に基づいて撮影対象の明るさを測定し(S133〜S137)、その測定値に基づいて露出制御を行う。このような露出制御装置によれば、白線等の明るい部分や補修部分等の暗い部分を含む領域を明るさ測定領域として設定しても、こうした外乱の影響を抑えて撮影対象の明るさを適切に測定することができる。このため、明るさ測定領域の自由度を高くしつつ、車両の横方向の移動に関係なく適切な露出制御を行うことができる。
【選択図】図6

Description

本発明は、自車前方を撮影する車載カメラの露出制御を行う露出制御装置に関するものである。
近年、車両の前方を撮影する車載カメラを利用して、道路の白線や、他車両等の立体物の認識処理を行い、その認識結果に基づき警報や走行制御等を行う技術が提案されている。こうした技術において、認識対象(白線や立体物)の認識精度を向上させるためには、撮影対象の明るさに応じて車載カメラの露出制御を適切に行うことが重要となる。
そこで、例えば特許文献1に記載の車線認識装置では、車載カメラの撮影画像に基づいて白線を検出するとともに、現在の車速に基づき次回白線検出を行う処理領域を撮影画像において定める。そして、その処理領域内の撮影画像の平均輝度b1を算出し、今回の白線検出のための処理領域に対応する平均輝度b0との差を求める。この差が所定値よりも大きい場合には、平均輝度b1に基づいて次回の受光量を決定し、この受光量に基づいて車載カメラの絞り部を制御する。
このように次回の白線検出領域の平均輝度を求めることで、例えば道路全体が日向から日陰に変化する場合には、次回の白線検出領域に適した露出量(絞り量)で車載カメラを動作させることができる。
しかしながら、実際の道路環境においては、道路全体が日向から日陰に、あるいは日陰から日向に変化する等の単純な変化ばかりではなく、車載カメラの撮影範囲の明るさは種々の態様で変化する。このため、単に次回の白線検出領域の平均輝度を求めても、適切な露出制御を行うことが難しい場合がある。
そこで、特許文献2に記載の露出制御装置では、車載カメラの撮影画像において、道路上の白線を除く部分に対応する複数の領域を設定し、複数の領域の輝度に基づいて、車載カメラの露出制御を行うようにしている。
特開平6−253208号公報 特開2005−148308号公報
前述した特許文献2に記載の露出制御装置のように、路面の明るさを適切に測定するためには、白線を含まないような領域を明るさ測定用の領域として設定する必要がある(図17(a))。しかしながら、このように白線を含まない領域を設定して白線部分の影響を抑える方法では、車両の横方向の移動により明るさ測定用の領域に白線が入ってしまうことにより(図17(b))、露出制御が適切に行われなくなるという問題がある。
かといって、車両の横方向への移動を加味して明るさ測定用の領域に白線が入らないようにしようとすると、明るさ測定用の領域の自由度が極度に制限され、車幅等に応じて明るさ測定用の領域を調整しなければならなくなる。このため、車種展開や車線幅が異なる国への展開を考慮した場合、設計・適合に要する工数が大幅に増大してしまうという問題がある。
本発明は、こうした問題にかんがみてなされたものであり、明るさ測定用の領域の自由度を高くしつつ、適切な露出制御を行うことが可能な露出制御装置を提供することを目的としている。
上記目的を達成するためになされた本発明の請求項1に記載の露出制御装置は、自車前方を撮影する車載カメラの露出制御を行うものである。この露出制御装置では、抽出手段が、車載カメラの撮影画像における明るさ測定用の領域から画素を抽出し、除去手段が、抽出手段により抽出された画素のうち最も明るい所定量の画素の除去処理を行う。そして、測定手段が、除去処理後の残りの画素に基づいて撮影対象の明るさを測定し、露出制御手段が、測定手段による測定値に基づいて露出制御を行う。
このような露出制御装置によれば、例えば図18に示すように、路面における白線等の明るい部分を含む領域を明るさ測定用の領域として設定しても、こうした外乱の影響を抑えて撮影対象の明るさを適切に測定することが可能となる。このため、明るさ測定用の領域の自由度を高くしつつ、車両の横方向の移動に関係なく適切な露出制御を行うことが可能となる。
また、請求項2に記載の露出制御装置では、除去手段は、抽出手段により抽出された画素のうち最も暗い所定量の画素についても除去処理を行う。なお、ここでいう所定量は、請求項1に記載の所定量(明るい画素の除去量)と同一である必要はない。
このような露出制御装置によれば、路面における白線等の明るい部分だけでなく、補修部分や金属継ぎ目等の暗い部分の影響を抑えて撮影対象の明るさを適切に測定することが可能となる。また、影や日向が連続するような局面でも明るさ測定結果を安定させることができる。
ここで、除去手段は、例えば、明るい画素を除去するためのしきい値を設定し、明るさがそのしきい値以上の画素を最も明るい所定量の画素として除去することができる。また、例えば、請求項2のように最も暗い画素についても除去する場合には、暗い画素を除去するためのしきい値についても設定し、明るさがそのしきい値以下の画素を最も暗い所定量の画素として除去することができる。ただし、このような方法では、抽出した画素の明るさ分布に応じて除去される画素の数が変動することになる。
そこで、請求項3に記載の露出制御装置では、除去手段は、所定量として、あらかじめ決められている数の画素を除去する。このような露出制御装置によれば、抽出した画素の明るさ分布に関係なくあらかじめ決められている数の画素を除去することができる。この結果、一定数の画素に基づき撮影対象の明るさを安定して測定することができる。
また、請求項4に記載の露出制御装置では、抽出手段は、明るさ測定用の領域から水平方向のライン単位で画素を抽出し、除去手段は、ラインごとに除去処理を行う。このような露出制御装置によれば、明るさ測定用の領域において、明るい画素をバランスよく除去することができる。
具体的には、例えば請求項5に記載のように、除去手段は、自車近傍のラインほど所定量を大きくするとよい。このような露出制御装置によれば、除去すべき画素を適切に除去することが可能となる。すなわち、自車近傍ほど、白線等の除去すべき部分が適切に区別できるのに対し、遠方になるほど適切な区別が困難となる。そこで、自車近傍ほど画素の除去量を大きくするようにしている。なお、遠方のラインは所定量を0に(つまり除去処理を行わないように)してもよい。
ここで、遠方のラインのばらつきを抑えるためには、例えば請求項6のようにするとよい。すなわち、請求項6に記載の露出制御装置では、測定手段は、ラインごとに画素の平均的な明るさを算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施した後、それらの算出値に基づき撮影対象の明るさを測定するものであり、遠方のラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す。
このような露出制御装置によれば、ばらつきが大きくなりやすい遠方ラインの算出値の時間的変化を抑えることができる。この結果、露出制御を適切に行うことができる。なお、自車近傍のラインはフィルタ効果を0に(つまり時間フィルタ処理を行わないように)してもよい。
次に、請求項7に記載の露出制御プログラムは、自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるためのものである。そして、この露出制御プログラムは、車載カメラの撮影画像における明るさ測定用の領域から画素を抽出する抽出手段と、抽出手段により抽出された画素のうち最も明るい所定量の画素の除去処理を行う除去手段と、除去処理後の残りの画素に基づいて撮影対象の明るさを測定する測定手段と、測定手段による測定値に基づいて露出制御を行う露出制御手段としてコンピュータを機能させる。
このような露出制御プログラムによれば、請求項1の露出制御装置としてコンピュータを機能させることができ、これにより前述した効果を得ることができる。
以下、本発明が適用された実施形態について、図面を用いて説明する。
[1.全体構成]
図1は、実施形態の露出制御装置10の構成を示すブロック図である。
この露出制御装置10は、車両に搭載された状態で用いられるものであり、この車両に搭載されている車載カメラ(以下、単に「カメラ」という。)21、統合判断ECU22、警報部23及び操舵ECU24とともに、前方車両の認識に基づく警報処理及び操舵制御を実現する。
露出制御装置10は、CPU11と、メモリ12と、カメラ21の撮影画像を入力するための画像インタフェース13と、統合判断ECU22との通信を行うための通信インタフェース14とを備えている。
カメラ21は、車室内の所定位置、例えばルームミラーの裏側に設置され、車両の進行方向前方の道路を撮影するものである。なお、カメラ21は、車室内の所定位置に設置されるときに、その撮影範囲が車両の進行方向に対して所定の撮影範囲となるように、その向き等が調整される。
また、カメラ21は、公知のCCDイメージセンサ、あるいはCMOSイメージセンサに加え、増幅部及びA/D変換部を内蔵している。これら増幅部及びA/D変換部は、イメージセンサによって画像を撮影したとき、その画像の各画素の明るさを示すアナログ信号を所定のゲインで増幅し、かつ増幅したアナログ値をデジタル値に変換する。そして、カメラ21は、このデジタル値に変換した信号(画素値)を、画像信号として、画像のラインごとに出力する。
画像インタフェース13には、カメラ21から出力される画素値及び水平・垂直同期信号が入力される。CPU11は、画像インタフェース13に入力された水平・垂直同期信号に基づいて、画像の水平ラインごとに出力される画素値が、いずれの画素位置に対応するものかを認識する。そして、認識した画素位置に対応するように、カメラ21から出力される画素値をメモリ12に記憶する。このようにして、カメラ21から出力される画像信号がメモリ12に保存される。
CPU11は、カメラ21から出力された画像信号を処理することにより、認識対象物(本実施形態では前方車両)の位置の認識を行うとともに、その認識した前方車両の位置を統合判断ECU22に出力する。さらに、CPU11は、前方車両が適切に認識されるようにカメラ21の露出制御を行う。具体的には、CPU11は、カメラ21のシャッタースピード及びフレームレート、更に増幅部のゲインを調整するため、これらの調整指示値を含むカメラ制御値をカメラ21に出力する。
通信インタフェース14は、CPU11と統合判断ECU22との間の通信を調整するものである。本実施形態では、CPU11は、画像信号における前方車両の位置を認識して、この認識した前方車両の位置を統合判断ECU22に送信する。統合判断ECU22は、CPU11から送信された前方車両の位置に基づいて、自車が前方車両と接触する危険性があるか否かを判定し、危険性があると判定した場合には、警報部23に対して警報を発するように指示する。また、危険性が高い場合には、単に警報を発するだけでなく、操舵ECUに対して操舵制御(操舵装置のアシスト量を調節したり、操舵装置を自動的に駆動したりして危険を回避する制御)を行うように指示する。
[2.露出制御の概要]
次に、露出制御の概要について説明する。
図2(a)に示すように、本実施形態の露出制御装置10は、撮影対象の明るさ(輝度)から撮影画像の画素値への変換マップとして、複数種類の明るさ制御マップ(画素輝度変換関係)を記憶しており、状況に応じて最適なものを1つ選択して使用する。図2(a)の例では、明るさ測定値Bの撮影対象を画素値Vで撮影したければ、11番の明るさ制御マップを使用する必要がある。
このように、撮影対象をどの程度の画面の明るさで撮影したいか(明るさ制御目標値V)と撮影対象の明るさ(明るさ測定値B)とに基づき、数あるゲインとシャッターの設定(明るさ制御マップ)の中から1つを選択する作業を露出制御と呼ぶ。
ここで、撮影対象の明るさは、撮影画像の画素値及び使用中の明るさ制御マップに基づき判断することができる。例えば、図2(b)に示すように、7番の明るさ制御マップが使用されており、現在の画面の明るさ(撮影画像の画素値)がKであるとすると、撮影対象の明るさ測定値はBであることが分かる。そして、この撮影対象を明るさ制御目標値V程度の画面の明るさに制御したいのであれば、13番の明るさ制御マップ(ゲインとシャッターの設定)を使用すればよいことが分かる。
なお、詳細については後述するが、本実施形態の露出制御装置10は、次の(1)〜(4)の手順で露出制御を行う。
(1)明るさ制御目標値算出
明るさ制御目標値を昼夜で切り替える(図4)。また、制御状態を急変させないように、昼夜の切り替わり期間においては明るさ制御目標値を徐々に変化させるようにする。
(2)不感帯算出
制御が不安定化しないように、明るさ制御の動作に不感帯を設ける(図5)。
(3)前方明るさ測定
路面用領域と障害物(認識対象物)用領域とからなる明るさ測定用の領域から抽出した画素の明るさの平均値を求める(図7)。
(4)ゲインシャッタースピード制御
上記(3)で算出した明るさ測定値が、上記(2)で算出した不感帯を超えた場合、上記(1)で算出した明るさ制御目標値と上記(3)で算出した明るさ測定値とから、最適な明るさ制御マップを選択する(図2)。
[3.CPUが実行する処理]
次に、前述した露出制御を実現するため、あらかじめ記憶されているプログラムに従いCPU11が定期的に(例えば100msごとに)実行する露出制御処理について、図3のフローチャートを用いて説明する。
CPU11は、露出制御処理を開始すると、まず、S110で、明るさ制御目標値を算出する。具体的には、図4(c)に示すように、明るさ制御マップの番号(横軸)に対する明るさ制御目標値(縦軸)の対応関係(実線で図示)があらかじめ記憶されており、この対応関係に基づき、現在使用中の明るさ制御マップ(前回の露出制御処理で選択したものであり、初回であればあらかじめ設定されているもの)に対応する明るさ制御目標値を参照する。
なお、図4(c)に示す対応関係は、図4(a)に示す明るさ制御マップの番号(横軸)に対する路面用の明るさ制御目標値(縦軸)の対応関係(点線で図示)と、図4(b)に示す明るさ制御マップの番号(横軸)に対する障害物(認識対象物)用の明るさ制御目標値(縦軸)の対応関係(破線で図示)とを混合(具体的には平均)したものである。つまり、認識対象物用の明るさ制御目標値だけでなく、路面の明るさ制御目標値も設定し、双方の目標値を混合した値を露出制御の明るさ制御目標値としている。
また、図4(c)の対応関係から明らかなように、夜間用の明るさ制御目標値は、光源部分のふくらみを抑える理由などから、昼間(日中)用の明るさ制御目標値に比べて低く設定されている。また、朝方や夕方のように、夜間と昼間との間の期間(夜間境界と昼間境界との間の期間)は、画像の明るさの急変を防ぐために、明るさ制御目標値を徐々に変化させる。なお、本実施形態では、昼間や夜間の判断を、使用中の明るさ制御マップの番号に基づき行うようにしている。すなわち、前述した説明(図2(b))から明らかなように、撮影対象の明るさ測定値が大きいほど番号の大きい明るさ制御マップが使用される傾向があり、使用中の明るさ制御マップの番号から外部の明るさを判断することができる。
続いて、S120では、不感帯を算出する。ここで、不感帯とは、明るさ制御状態が頻繁に変化するのを防止するため、露出制御を実行すべきか否かの判定用しきい値として利用されるものである。具体的には、図5に示すように、現在使用中のN番目の明るさ制御マップと、S110で算出した明るさ制御目標値Vとに基づき判断される撮影対象の明るさを基準として、その前後1段分の明るさ制御マップに相当する明るさの範囲Bを不感帯として算出する。つまり、N−1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさから、N+1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさまでの範囲Bを、不感帯として算出する。そして、後述するように、実際の明るさ測定値が不感帯の範囲内であれば、露出制御を行わない(明るさ制御マップを切り替えない)ようにする。
続いて、S130では、カメラ21から取り込んだ画像データにおける特定領域の画素値に基づき、露出制御に用いる前方の明るさ(撮影対象の明るさ)を測定する前方明るさ測定処理を行う。具体的には、図6のフローチャートに示す処理を行う。
すなわち、まず、S131では、撮影画像におけるあらかじめ決められた位置(固定位置)に設定された明るさ測定用の領域(以下「明るさ測定領域」という。)から、水平方向のライン単位で画素を取り込む。
ここで、明るさ測定領域は、図7に示すように、前方車両の明るさを検出するための台形状の障害物(認識対象物)用領域と、路面の明るさを検出するための長方形状の路面用領域とからなる。つまり、前方車両の明るさを測定する領域とは別に、路面の明るさを測定する領域を設定し、双方の明るさを混合した明るさを明るさ測定結果としている。
具体的には、路面用領域は、自車からの前方距離7〜27m程度をカバーする縦幅と、自車が走行する車線を区画する左右両側の2本の白線が含まれる程度の横幅とを有する長方形状の領域に設定されている。
一方、障害物用領域は、上方向の位置がカメラ21の無限遠点(FOE:Focus of Expansion)に設定されている。また、自車前方へレーダ波をスキャンしてその反射波を検出することで前方物体の位置、速度、形状等を求めるミリ波レーダによる検知エリアの幅(±10°)をベースに横幅が設定されている。ただし、割り込み車両などへの露出合わせを早める目的や、路面用領域とシームレスにつなげる目的などから、下方へ広がりをつけた台形状の領域に設定されている。なお、FOEよりも上方は、空や建築構造物など、認識対象とは関係のないものが多いため、それらの影響を抑えるために取り込まないようにしている。
そして、このように設定された明るさ測定領域全域から、水平方向のライン単位で画素を取り込む。本実施形態では、処理負荷軽減のため、明るさ測定領域のすべての画素を取り込むことはせず、ラインを間引いて取り込むことにより、取り込み画素数を減らすようにしている。具体的には、路面用領域については、自車からの距離がほぼ等間隔となるように(撮影画像において上方ほど間隔が狭くなるように)ライン間隔が設定されており、障害物用領域については、撮影画像においてほぼ等間隔となるようにライン間隔が設定されている。
また、図8に示すように、各ライン上においても画素を間引いて取り込むようにしている。本実施形態では、すべてのラインで同数の画素が取り込まれるように、各ラインにおいてほぼ等間隔で画素を間引くようにしている。
続いて、S132では、図9に示すように、ラインごとに、取り込んだ画素を明るさでソートし、最も明るい所定数の画素及び最も暗い所定数の画素を除去する。すなわち、図10にも示すように、例えば、アスファルト路面では、高輝度の白線(路上ペイント)等が邪魔となり、コンクリート路面では、低輝度の補修部分や道路の金属継ぎ目等が邪魔となる。そこで、路面の明るさを求める際に、明るい部分及び暗い部分の画素を除去することで、外乱の影響を除去するようにしている。
ここで、自車近傍では、白線やコールタール等、明るさによって省きたいものを比較的適切に区別できるのに対し、遠方になるほど適切な区別が困難となる。このため、明るい部分や暗い部分の画素の除去量を遠方ほど少なくし、最も遠方のラインではソートによる選別(画素の除去処理)を行わないようにする。
続いて、S133では、S132で明暗部を除去した残りの中間値周辺の画素のみから、図11に示すように、ラインごとに画素の明るさの平均値(上からi番目(1≦i≦L)のラインの平均値をBi,tと表す。)を算出する。このように中間値周辺の画素のみから平均値をとることで、平均値の時間変化を安定させるようにしている。
続いて、S134では、各ラインの明るさ平均値を、次のようにフィルタ用にバッファする(バッファ時間:t〜t−T)。
1番目のライン:B1,t・・・B1,t-T
i番目のライン:Bi,t・・・Bi,t-T
L番目のライン:BL,t・・・BL,t-T
続いて、S135では、S134でバッファした各ラインの明るさ平均値をフィルタリングする。
1番目のライン:B1,t・・・B1,t-T→F1,t
i番目のライン:Bi,t・・・Bi,t-T→Fi,t
L番目のライン:BL,t・・・BL,t-T→FL,t
すなわち、FOE周辺など車両などによる光源が入り込みやすい領域を使用することから、明るさ測定値が不安定となるため、時間フィルタを用いて、明るさ測定値のばらつきを押さえるようにするのである。
具体的には、自車近傍のラインの平均値は、路面程度であり、ばらつきは少ないのに対し、遠方のラインの平均値は、車両のピッチングや光源の高速移動(対向車)など、もっともばらつきが大きく、ある程度長時間(例えば700ms)データをバッファして時間平均をとる必要がある。そこで、図12に示すように、遠方ほどノイズに強い(遅れの大きい)時間フィルタを使用し、近傍のラインでは時間フィルタ処理を行わないようにする。
ただし、トンネル出入口など、明るさが急変する場合にはすばやい追従を可能とするため、各ラインの平均値のばらつき方に応じたフィルタリングを行い、ばらつき削減と反応速度とを両立させるようにしている。具体的には、図13に示すように、平均値の時間変化にトレンドがある(ばらつきがない)と判定した場合には、時間フィルタ処理を行わないようにする。一方、平均値の時間変化に突発的な値が入ったと判定した場合には、加重メディアンフィルタ(重みつきメディアンフィルタ)の時間フィルタ処理を行い、それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。なお、ここでいう加重メディアンフィルタとは、古いデータよりも新しいデータに重みがかかるメディアンフィルタのことである。
ここで、図13の判定方法について更に詳述する。
例えば、バッファ時間(t〜t−T)のT=4であり、i番目のラインの明るさ平均値が次のような関係にあるとする。
i,t-1<Bi,t-3<Bi,t-2<Bi,t-4<Bi,t-0
式(1)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)/2×時間差分離れている場合には、突発的な値が入ったと判定し、加重メディアンフィルタの時間フィルタ処理を行う。
Figure 2009157085
また、式(2)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)×時間差分離れている場合や、式(3)に示すように、バッファ内の最新値と最旧値とが、不感帯幅(DZW)×時間差分離れている場合には、トレンドがあると判定し、時間フィルタ処理を行わない。
Figure 2009157085
それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。
続いて、S136では、式(4)に示すように、各ラインの明るさを平均して、画面全体の明るさを求める。なお、Wは、ラインごとに設定されたウェイトであり、例えば次のような考え方で設定することができる。すなわち、前方車両が存在しうる領域である明るさ測定領域の明るさ平均値(第1の平均値)と、明るさの安定した領域である路面用領域の明るさ平均値(第2の平均値)とを混合(例えば平均)した値を、画面全体の明るさとして求めることが考えられる。この場合、各ラインの明るさから第1の平均値を求める際には、近傍ほど重みを減らして平均をとり、逆に、第2の平均値を求める際には、遠方ほど重みを減らして平均をとるようにすることが好ましい。
Figure 2009157085
続いて、S137で、明るさのハンチング対策として、S136で算出した明るさの平均結果にローパスフィルタ(LPF)をかけて明るさ制御に用いる明るさ測定値とした後、本前方明るさ測定処理を終了する。ただし、ローパスフィルタをかけると反応速度が低下するので、図14に示すように、明るさの平均結果が明るさ制御の不感帯を超えて振動している(ばらついている)場合にのみローパスフィルタをかけ、それ以外の場合にはローパスフィルタをかけないようにする。
具体的には、次の[1]〜[5]の手順で処理を行う。
[1]画面明るさをバッファする(バッファ時間:t〜t−P)。
IMG#Temp,t・・・BIMG#Temp,t-P
[2]式(5)に示すように、画面明るさの差分をバッファする(バッファ時間:0〜P−1)。
Figure 2009157085
[3]変動回数をカウントする。具体的には、Diff0・・・DiffP-1において、隣接するDiffi・・・Diffi-1の符号が異なる回数をカウントする。
[4]不感帯(DZW)の半値幅に対する変動の大きさを評価する。具体的には、式(6)の関係を満たす場合にはC=1.0と判定し、式(7)の関係を満たす場合には図15のグラフに基づき判定する。
Figure 2009157085
[5]式(8)に従いローパスフィルタをかける。
Figure 2009157085
続いて、S140では、S130で測定した前方明るさが、S120で算出した不感帯(図5のB)の範囲内であるか否かを判定する。
そして、S140で、前方明るさが不感帯の範囲内でないと判定した場合には、S150へ移行し、S110で算出した明るさ制御目標値と、S130で測定した明るさ測定値とに基づき、最適な明るさ制御マップを選択するゲイン・シャッタースピード制御を行った後、本露出制御処理を終了する。
具体的には、本実施形態では、図16に示すように、カメラモジュールの持つハイダイナミックレンジ(HDR)設定を用いて、画面のダイナミックレンジを拡大するようにしている。すなわち、イメージャのハイダイナミックレンジ設定を用いて、明るさ制御マップにおける画素値と輝度との相関関係に折れ目がつけられており、画面のダイナミックレンジが拡大されている。ただし、折れ線として設定できる形状は、ゲイン、シャッタースピード等により複雑な制約を受けるので、その制約下で、なるべく各明るさ制御マップ間で大きく折れ線形状が変わらないような形状算出が行われている。このような明るさ制御マップを用いることで、トンネル出口のように路面輝度が非常に大きく変化する場合であっても、カメラ21の露出状態を適正な状態に制御するまでの時間を短縮することができる。
一方、S140で、前方明るさが不感帯の範囲内であると判定した場合には、S150をスキップして本露出制御処理を終了する。
[4.効果]
以上説明したように、本実施形態の露出制御装置10では、カメラ21の撮影画像における明るさ測定領域から水平方向のライン単位で画素を抽出し(S131)、抽出した画素のうち最も明るい所定数の画素及び最も暗い所定数の画素の除去処理をラインごとに行う(S132)。そして、除去処理後の残りの画素に基づいて撮影対象の明るさを測定し(S133〜S137)、その測定値に基づいて露出制御を行う(S150)。
このような露出制御装置10によれば、白線等の明るい部分や補修部分等の暗い部分を含む領域を明るさ測定領域として設定しても、こうした外乱の影響を抑えて撮影対象の明るさを適切に測定することができる。このため、明るさ測定領域の自由度を高くしつつ、車両の横方向の移動に関係なく適切な露出制御を行うことができる。
特に、本実施形態の露出制御装置10では、自車近傍のラインほど画素の除去量を大きくするようにしているため、除去すべき画素を適切に除去することが可能となる。
加えて、本実施形態の露出制御装置10では、ラインごとの明るさ平均値に対して時間フィルタ処理を施した後、それらの平均値に基づき撮影対象の明るさを測定するようにしており、遠方のラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す。このため、ばらつきが大きくなりやすい遠方ラインの平均値の時間的変化を抑えることができ、露出制御を適切に行うことができる。
[5.特許請求の範囲との対応]
なお、本実施形態の露出制御装置10では、S131の処理を実行するCPU11が抽出手段に相当し、S132の処理を実行するCPU11が除去手段に相当し、S133〜S137の処理を実行するCPU11が測定手段に相当し、S150の処理を実行するCPU11が露出制御手段に相当する。
[6.他の形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
上記実施形態の露出制御装置10では、明るさ測定領域から取り込んだ画素をラインごとにソートし、最も明るい所定数の画素及び最も暗い所定数の画素を除去するようにしているが、これに限定されるものではない。
例えば、明るい画素を除去するためのしきい値を設定し、明るさがそのしきい値以上の画素を最も明るい所定量の画素として除去するようにしてもよい。同様に、暗い画素を除去するためのしきい値についても設定し、明るさがそのしきい値以下の画素を最も暗い所定量の画素として除去することができる。ただし、上記実施形態のように、抽出した画素の明るさに関係なくあらかじめ決められている数の画素を除去するようにすれば、一定数の画素に基づき撮影対象の明るさを安定して測定することができる。
また、明るい画素の除去量に比べて暗い画素の除去量を少なくしたり、暗い画素については全く除去せずに明るい画素のみを除去したりすることも有効である。
さらに、明暗部の画素の除去は、ラインごとに行うことに限定されるものではなく、例えば、明るさ測定領域から取り込んだ全画素の明るさ分布に基づき除去することも可能である。
一方、上記実施形態では、前方車両の認識に基づく警報処理及び操舵制御を行うシステムに本発明を適用した構成を例示したが、これに限定されるものではなく、例えば、道路の白線の認識に基づく警報処理や操舵制御等を行うシステムなどに適用することも可能である。
また、上記実施形態で示した明るさ測定領域はあくまでも一例に過ぎず、実行する制御等に応じて最適な領域を設定すればよい。
実施形態の露出制御装置の構成を示すブロック図である。 明るさ制御マップの説明図である。 露出制御処理のフローチャートである。 明るさ制御目標値の設定方法の説明図である。 不感帯の設定方法の説明図である。 前方明るさ測定処理のフローチャートである。 明るさ測定領域の説明図である。 ライン上における画素の間引き方法の説明図である。 各ラインにおける画素の明暗部の除去方法の説明図である。 取り込み画素の分布例を示すグラフである。 ラインごとに画素の明るさ平均値を算出する説明図である。 ラインごとの時間フィルタの設定方法を示す説明図である。 時間フィルタ処理を行うか否かの判定方法の説明図である。 ローパスフィルタをかけるか否かの判定方法の説明図である。 不感帯の半値幅に対する変動の大きさを評価するためのグラフである。 画素値と輝度との相関関係に折れ目がつけられた明るさ制御マップの説明図である。 白線を含まないように設定した明るさ測定領域の説明図である。 白線を含むように設定した明るさ測定領域の説明図である。
符号の説明
10…露出制御装置、11…CPU、12…メモリ、13…画像インタフェース、14…通信インタフェース、21…カメラ、22…統合判断ECU、23…警報部、24…操舵ECU

Claims (7)

  1. 自車前方を撮影する車載カメラの露出制御を行う露出制御装置であって、
    前記車載カメラの撮影画像における明るさ測定用の領域から画素を抽出する抽出手段と、
    前記抽出手段により抽出された画素のうち最も明るい所定量の画素の除去処理を行う除去手段と、
    前記除去処理後の残りの画素に基づいて撮影対象の明るさを測定する測定手段と、
    前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段と、
    を備えることを特徴とする露出制御装置。
  2. 前記除去手段は、前記抽出手段により抽出された画素のうち最も暗い所定量の画素についても除去処理を行うこと
    を特徴とする請求項1に記載の露出制御装置。
  3. 前記除去手段は、前記所定量として、あらかじめ決められている数の画素を除去すること
    を特徴とする請求項1又は請求項2に記載の露出制御装置。
  4. 前記抽出手段は、前記明るさ測定用の領域から水平方向のライン単位で画素を抽出し、
    前記除去手段は、前記ラインごとに前記除去処理を行うこと
    を特徴とする請求項1から請求項3までのいずれか1項に記載の露出制御装置。
  5. 前記除去手段は、自車近傍のラインほど前記所定量を大きくすること
    を特徴とする請求項4に記載の露出制御装置。
  6. 前記測定手段は、前記ラインごとに画素の平均的な明るさを算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施した後、それらの算出値に基づき撮影対象の明るさを測定するものであり、遠方のラインほどフィルタ効果が大きくなるように前記時間フィルタ処理を施すこと
    を特徴とする請求項5に記載の露出制御装置。
  7. 自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるための露出制御プログラムであって、
    前記車載カメラの撮影画像における明るさ測定用の領域から画素を抽出する抽出手段と、
    前記抽出手段により抽出された画素のうち最も明るい所定量の画素の除去処理を行う除去手段と、
    前記除去処理後の残りの画素に基づいて撮影対象の明るさを測定する測定手段と、
    前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段
    としてコンピュータを機能させることを特徴とする露出制御プログラム。
JP2007334934A 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム Expired - Fee Related JP4433045B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007334934A JP4433045B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム
US12/318,145 US8363124B2 (en) 2007-12-26 2008-12-22 Exposure control apparatus and exposure control program for vehicle-mounted electronic camera
DE102008064411.0A DE102008064411B4 (de) 2007-12-26 2008-12-22 Belichtungssteuerungsvorrichtung und Belichtungssteuerungsprogramm für eine in einem Fahrzeug installierte elektronische Kamera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007334934A JP4433045B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム

Publications (2)

Publication Number Publication Date
JP2009157085A true JP2009157085A (ja) 2009-07-16
JP4433045B2 JP4433045B2 (ja) 2010-03-17

Family

ID=40822297

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007334934A Expired - Fee Related JP4433045B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム

Country Status (3)

Country Link
US (1) US8363124B2 (ja)
JP (1) JP4433045B2 (ja)
DE (1) DE102008064411B4 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015019281A (ja) * 2013-07-11 2015-01-29 キヤノン株式会社 撮像装置、制御方法及びそのプログラム
KR101822344B1 (ko) * 2014-10-02 2018-01-25 코너트 일렉트로닉스 리미티드 히스토그램 스프레딩을 갖는 자동차 카메라 장치
JP2020162035A (ja) * 2019-03-27 2020-10-01 マレリ株式会社 画像表示装置
CN112911160A (zh) * 2019-12-03 2021-06-04 浙江宇视科技有限公司 图像拍摄方法、装置、设备及存储介质

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8773577B2 (en) * 2010-10-27 2014-07-08 Qualcomm Incorporated Region of interest extraction
JP5220088B2 (ja) * 2010-12-17 2013-06-26 キヤノン株式会社 原稿読取装置および画像処理方法
JP5375814B2 (ja) 2010-12-22 2013-12-25 株式会社デンソー 露出制御装置
JP6390512B2 (ja) * 2015-05-21 2018-09-19 株式会社デンソー 車載カメラ装置
JP6644509B2 (ja) * 2015-10-01 2020-02-12 アルパイン株式会社 車両検知警報装置および車両検知警報方法
KR20180097966A (ko) * 2017-02-24 2018-09-03 삼성전자주식회사 자율 주행을 위한 영상 처리 방법 및 장치
DE102017215347A1 (de) * 2017-09-01 2019-03-07 Conti Temic Microelectronic Gmbh Verfahren zur vorhersehbaren Belichtungssteuerung zumindest einer ersten Fahrzeugkamera
JP2020104804A (ja) * 2018-12-28 2020-07-09 トヨタ自動車株式会社 電子ミラーシステム
CN113126640B (zh) * 2019-12-31 2022-06-28 北京三快在线科技有限公司 用于无人机的障碍物探测方法、装置、无人机和存储介质
TWI757015B (zh) * 2020-12-29 2022-03-01 財團法人工業技術研究院 取像方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2898986A (en) 1957-02-28 1959-08-11 Kurt T Kiefer Venetian blind and tilt control mechanism therefor
JPS6011475A (ja) 1983-02-21 1985-01-21 Mitsui Pharmaceut Inc カルモフ−ル−シクロデキストリン包接化合物
US5339163A (en) * 1988-03-16 1994-08-16 Canon Kabushiki Kaisha Automatic exposure control device using plural image plane detection areas
JP2898986B2 (ja) 1988-03-16 1999-06-02 キヤノン株式会社 露光制御装置
US5255044A (en) * 1990-06-05 1993-10-19 Nikon Corporation Automatic exposure control apparatus with improved exposure value calculation for photographing a moving object
JP3412174B2 (ja) 1992-05-21 2003-06-03 松下電器産業株式会社 自動露光制御装置
JPH06253208A (ja) 1993-02-26 1994-09-09 Isuzu Motors Ltd 車線認識装置
JPH06253298A (ja) 1993-02-26 1994-09-09 Matsushita Electric Ind Co Ltd 映像合成表示装置
JP3468428B2 (ja) 1993-03-24 2003-11-17 富士重工業株式会社 車輌用距離検出装置
US20050083428A1 (en) 1995-03-17 2005-04-21 Hiroto Ohkawara Image pickup apparatus
EP1074430B1 (en) 1999-08-04 2007-10-17 Iteris, Inc. Imaging system and method with dynamic brightness control
JP2001216520A (ja) 2000-01-31 2001-08-10 Yazaki Corp 車両用周辺監視装置
US7365779B2 (en) * 2000-09-14 2008-04-29 Fujitsu Ten Limited Image processing apparatus for selectively storing specific regions of an image
US7251056B2 (en) 2001-06-11 2007-07-31 Ricoh Company, Ltd. Image processing apparatus, image processing method and information recording medium
JP2005148308A (ja) 2003-11-13 2005-06-09 Denso Corp 白線検出用カメラの露出制御装置
EP1883242B1 (en) 2005-05-20 2014-09-17 Toyota Jidosha Kabushiki Kaisha Image processor for vehicles
JP2007334934A (ja) 2006-06-12 2007-12-27 Shinka Jitsugyo Kk 積層体の研磨量検出素子、ウエファー、および積層体の研磨方法
JP2008028957A (ja) 2006-07-25 2008-02-07 Denso Corp 車両用画像処理装置
KR100918701B1 (ko) * 2007-10-11 2009-09-22 한국과학기술원 강인한 자동 화이트 밸런스 방법

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015019281A (ja) * 2013-07-11 2015-01-29 キヤノン株式会社 撮像装置、制御方法及びそのプログラム
KR101822344B1 (ko) * 2014-10-02 2018-01-25 코너트 일렉트로닉스 리미티드 히스토그램 스프레딩을 갖는 자동차 카메라 장치
JP2020162035A (ja) * 2019-03-27 2020-10-01 マレリ株式会社 画像表示装置
JP7213732B2 (ja) 2019-03-27 2023-01-27 マレリ株式会社 画像表示装置
CN112911160A (zh) * 2019-12-03 2021-06-04 浙江宇视科技有限公司 图像拍摄方法、装置、设备及存储介质
CN112911160B (zh) * 2019-12-03 2022-07-08 浙江宇视科技有限公司 图像拍摄方法、装置、设备及存储介质

Also Published As

Publication number Publication date
US20090251563A1 (en) 2009-10-08
JP4433045B2 (ja) 2010-03-17
US8363124B2 (en) 2013-01-29
DE102008064411A1 (de) 2009-08-06
DE102008064411B4 (de) 2022-01-05

Similar Documents

Publication Publication Date Title
JP4389999B2 (ja) 露出制御装置及び露出制御プログラム
JP4433045B2 (ja) 露出制御装置及び露出制御プログラム
JP4433046B2 (ja) 露出制御装置及び露出制御プログラム
JP5375814B2 (ja) 露出制御装置
JP4248558B2 (ja) 道路区画線検出装置
EP1767960B1 (en) Front image taking device
JP6750519B2 (ja) 撮像装置、撮像表示方法および撮像表示プログラム
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
US8373754B2 (en) Method and system for evaluating brightness values in sensor images of image-evaluating adaptive cruise control systems
EP2770478B1 (en) Image processing unit, imaging device, and vehicle control system and program
JP4990806B2 (ja) 撮像手段の調整装置および車外監視装置
JP2008110715A (ja) 車両用オートライトシステム
JP2012073927A (ja) 運転支援装置
US10462378B2 (en) Imaging apparatus
JP4400512B2 (ja) 車載カメラ制御装置
JP5246254B2 (ja) 車載カメラの露出制御値の決定方法
JP2006080752A (ja) カメラ用露光制御装置および制御方法
JP2005148308A (ja) 白線検出用カメラの露出制御装置
KR102177878B1 (ko) 영상 처리 장치 및 방법
US20170364765A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus and image processing method
JP2005148309A (ja) 白線検出用カメラの露出制御装置
JP2009038463A (ja) 露光調整方法、車両用撮像装置および自動車
JP2006060504A (ja) 白線検出用カメラの露出制御装置
JP4052299B2 (ja) カメラ式車両感知器における露光制御方法及び装置
JP2011228856A (ja) 車載カメラシステム、画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091201

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091214

R151 Written notification of patent or utility model registration

Ref document number: 4433045

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140108

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees