JP2009157087A - 露出制御装置及び露出制御プログラム - Google Patents

露出制御装置及び露出制御プログラム Download PDF

Info

Publication number
JP2009157087A
JP2009157087A JP2007334936A JP2007334936A JP2009157087A JP 2009157087 A JP2009157087 A JP 2009157087A JP 2007334936 A JP2007334936 A JP 2007334936A JP 2007334936 A JP2007334936 A JP 2007334936A JP 2009157087 A JP2009157087 A JP 2009157087A
Authority
JP
Japan
Prior art keywords
brightness
exposure control
value
measurement
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007334936A
Other languages
English (en)
Other versions
JP4389999B2 (ja
Inventor
Kentaro Mochida
健太郎 望田
Takayuki Kimura
貴之 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007334936A priority Critical patent/JP4389999B2/ja
Priority to US12/318,144 priority patent/US8149325B2/en
Priority to DE102008063122.1A priority patent/DE102008063122B4/de
Publication of JP2009157087A publication Critical patent/JP2009157087A/ja
Application granted granted Critical
Publication of JP4389999B2 publication Critical patent/JP4389999B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/28Circuitry to measure or to take account of the object contrast
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Abstract

【課題】明るさの測定結果のばらつきを抑えることのできる露出制御装置を提供する。
【解決手段】車載カメラの撮影画像における明るさ測定領域から水平方向のライン単位で画素を抽出し(S131)、抽出した画素の平均値をラインごとに算出する(S132,S133)。そして、各ラインの平均値に対して、撮影画像における遠方部分を示すラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す(S134,S135)。さらに、各ラインの平均値に基づき撮影対象の明るさを測定し(S136,S137)、その測定値に基づいて露出制御を行う(S150)。このような露出制御装置によれば、画素を間引いて取り込むことによる撮影対象の明るさ測定値のばらつきを効率よく抑えることができる。
【選択図】図6

Description

本発明は、自車前方を撮影する車載カメラの露出制御を行う露出制御装置に関するものである。
近年、車両の前方を撮影する車載カメラを利用して、道路の白線や、他車両等の立体物の認識処理を行い、その認識結果に基づき警報や走行制御等を行う技術が提案されている。こうした技術において、認識対象(白線や立体物)の認識精度を向上させるためには、撮影対象の明るさに応じて車載カメラの露出制御を適切に行うことが重要となる。
そこで、例えば特許文献1に記載の車線認識装置では、車載カメラの撮影画像に基づいて白線を検出するとともに、現在の車速に基づき次回白線検出を行う処理領域を撮影画像において定める。そして、その処理領域内の撮影画像の平均輝度b1を算出し、今回の白線検出のための処理領域に対応する平均輝度b0との差を求める。この差が所定値よりも大きい場合には、平均輝度b1に基づいて次回の受光量を決定し、この受光量に基づいて車載カメラの絞り部を制御する。
このように次回の白線検出領域の平均輝度を求めることで、例えば道路全体が日向から日陰に変化する場合には、次回の白線検出領域に適した露出量(絞り量)で車載カメラを動作させることができる。
しかしながら、実際の道路環境においては、道路全体が日向から日陰に、あるいは日陰から日向に変化する等の単純な変化ばかりではなく、車載カメラの撮影範囲の明るさは種々の態様で変化する。このため、単に次回の白線検出領域の平均輝度を求めても、適切な露出制御を行うことが難しい場合がある。
そこで、特許文献2に記載の露出制御装置では、車載カメラの撮影画像において、道路上の白線を除く部分に対応する複数の領域を設定し、複数の領域の輝度に基づいて、車載カメラの露出制御を行うようにしている。
特開平6−253208号公報 特開2005−148308号公報
ところで、車両においては、処理速度を高速にすることが要求され、処理負荷を低減するため、すべての画素に基づき明るさを測定するのではなく、間引いて抽出した画素から明るさを測定することが有効である。
しかしながら、このようにすると、特に撮影画像における遠方部分で、明るさの測定結果が大きくばらつくという問題がある。すなわち、例えば図17に示すように、水平方向のライン単位で画素を抽出する場合に、車両のピッチング等によって前方車両の光源部分とラインとの位置関係が変化し、光源部分の画素が抽出されたりされなかったりする。これにより、明るさの測定結果がばらついてしまい、適切な露出制御を行うことができない。
本発明は、こうした問題にかんがみてなされたものであり、明るさの測定結果のばらつきを抑えることのできる露出制御装置を提供することを目的としている。
上記目的を達成するためになされた本発明の請求項1に記載の露出制御装置は、自車前方を撮影する車載カメラの露出制御を行うものである。この露出制御装置では、抽出手段が、車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する。そして、算出手段が、抽出手段により抽出された画素の平均的な明るさをグループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施す。ここで、算出手段は、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように時間フィルタ処理を施す。そして、測定手段が、算出手段によるグループごとの算出値に基づき撮影対象の明るさを測定し、露出制御手段が、測定手段による測定値に基づいて露出制御を行う。
このような露出制御装置によれば、撮影対象の明るさの測定結果のばらつきを効率よく抑えることができる。すなわち、撮影画像における遠方部分ほど明るさの測定結果がばらつきやすいという問題があるが、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように時間フィルタ処理を施すことで、ばらつきを効率よく抑えることができるからである。なお、近傍部分を示すグループはフィルタ効果を0に(つまり時間フィルタ処理を行わないように)してもよい。
ここで、画素を抽出するグループは、例えば水平方向のライン単位とすることができる。すなわち、請求項2に記載の露出制御装置では、抽出手段は、明るさ測定用の領域から水平方向のライン単位で画素を抽出し、算出手段は、遠方のラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す。このような露出制御装置によれば、自車からの距離に応じて時間フィルタ処理を効率よく行うことができる。
また、請求項3に記載の露出制御装置では、算出手段は、算出値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、時間フィルタ処理を施す。このような露出制御装置によれば、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。
また、請求項4に記載の露出制御装置では、測定手段は、グループごとの算出値に基づき測定した撮影対象の明るさの測定値に対し、ローパスフィルタによる処理を施す。このような露出制御装置によれば、測定値のばらつきを低減することができる。
また、請求項5に記載の露出制御装置では、測定手段は、測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施す。このような露出制御装置によれば、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。
次に、請求項6に記載の露出制御プログラムは、自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるための露出制御プログラムであって、車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、抽出手段により抽出された画素の平均的な明るさをグループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように施す算出手段と、算出手段によるグループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、測定手段による測定値に基づいて露出制御を行う露出制御手段としてコンピュータを機能させる。
このような露出制御プログラムによれば、請求項1の露出制御装置としてコンピュータを機能させることができ、これにより前述した効果を得ることができる。
以下、本発明が適用された実施形態について、図面を用いて説明する。
[1.全体構成]
図1は、実施形態の露出制御装置10の構成を示すブロック図である。
この露出制御装置10は、車両に搭載された状態で用いられるものであり、この車両に搭載されている車載カメラ(以下、単に「カメラ」という。)21、統合判断ECU22、警報部23及び操舵ECU24とともに、前方車両の認識に基づく警報処理及び操舵制御を実現する。
露出制御装置10は、CPU11と、メモリ12と、カメラ21の撮影画像を入力するための画像インタフェース13と、統合判断ECU22との通信を行うための通信インタフェース14とを備えている。
カメラ21は、車室内の所定位置、例えばルームミラーの裏側に設置され、車両の進行方向前方の道路を撮影するものである。なお、カメラ21は、車室内の所定位置に設置されるときに、その撮影範囲が車両の進行方向に対して所定の撮影範囲となるように、その向き等が調整される。
また、カメラ21は、公知のCCDイメージセンサ、あるいはCMOSイメージセンサに加え、増幅部及びA/D変換部を内蔵している。これら増幅部及びA/D変換部は、イメージセンサによって画像を撮影したとき、その画像の各画素の明るさを示すアナログ信号を所定のゲインで増幅し、かつ増幅したアナログ値をデジタル値に変換する。そして、カメラ21は、このデジタル値に変換した信号(画素値)を、画像信号として、画像のラインごとに出力する。
画像インタフェース13には、カメラ21から出力される画素値及び水平・垂直同期信号が入力される。CPU11は、画像インタフェース13に入力された水平・垂直同期信号に基づいて、画像の水平ラインごとに出力される画素値が、いずれの画素位置に対応するものかを認識する。そして、認識した画素位置に対応するように、カメラ21から出力される画素値をメモリ12に記憶する。このようにして、カメラ21から出力される画像信号がメモリ12に保存される。
CPU11は、カメラ21から出力された画像信号を処理することにより、認識対象物(本実施形態では前方車両)の位置の認識を行うとともに、その認識した前方車両の位置を統合判断ECU22に出力する。さらに、CPU11は、前方車両が適切に認識されるようにカメラ21の露出制御を行う。具体的には、CPU11は、カメラ21のシャッタースピード及びフレームレート、更に増幅部のゲインを調整するため、これらの調整指示値を含むカメラ制御値をカメラ21に出力する。
通信インタフェース14は、CPU11と統合判断ECU22との間の通信を調整するものである。本実施形態では、CPU11は、画像信号における前方車両の位置を認識して、この認識した前方車両の位置を統合判断ECU22に送信する。統合判断ECU22は、CPU11から送信された前方車両の位置に基づいて、自車が前方車両と接触する危険性があるか否かを判定し、危険性があると判定した場合には、警報部23に対して警報を発するように指示する。また、危険性が高い場合には、単に警報を発するだけでなく、操舵ECUに対して操舵制御(操舵装置のアシスト量を調節したり、操舵装置を自動的に駆動したりして危険を回避する制御)を行うように指示する。
[2.露出制御の概要]
次に、露出制御の概要について説明する。
図2(a)に示すように、本実施形態の露出制御装置10は、撮影対象の明るさ(輝度)から撮影画像の画素値への変換マップとして、複数種類の明るさ制御マップ(画素輝度変換関係)を記憶しており、状況に応じて最適なものを1つ選択して使用する。図2(a)の例では、明るさ測定値Bの撮影対象を画素値Vで撮影したければ、11番の明るさ制御マップを使用する必要がある。
このように、撮影対象をどの程度の画面の明るさで撮影したいか(明るさ制御目標値V)と撮影対象の明るさ(明るさ測定値B)とに基づき、数あるゲインとシャッターの設定(明るさ制御マップ)の中から1つを選択する作業を露出制御と呼ぶ。
ここで、撮影対象の明るさは、撮影画像の画素値及び使用中の明るさ制御マップに基づき判断することができる。例えば、図2(b)に示すように、7番の明るさ制御マップが使用されており、現在の画面の明るさ(撮影画像の画素値)がKであるとすると、撮影対象の明るさ測定値はBであることが分かる。そして、この撮影対象を明るさ制御目標値V程度の画面の明るさに制御したいのであれば、13番の明るさ制御マップ(ゲインとシャッターの設定)を使用すればよいことが分かる。
なお、詳細については後述するが、本実施形態の露出制御装置10は、次の(1)〜(4)の手順で露出制御を行う。
(1)明るさ制御目標値算出
明るさ制御目標値を昼夜で切り替える(図4)。また、制御状態を急変させないように、昼夜の切り替わり期間においては明るさ制御目標値を徐々に変化させるようにする。
(2)不感帯算出
制御が不安定化しないように、明るさ制御の動作に不感帯を設ける(図5)。
(3)前方明るさ測定
路面用領域と障害物(認識対象物)用領域とからなる明るさ測定用の領域から抽出した画素の明るさの平均値を求める(図7)。
(4)ゲインシャッタースピード制御
上記(3)で算出した明るさ測定値が、上記(2)で算出した不感帯を超えた場合、上記(1)で算出した明るさ制御目標値と上記(3)で算出した明るさ測定値とから、最適な明るさ制御マップを選択する(図2)。
[3.CPUが実行する処理]
次に、前述した露出制御を実現するため、あらかじめ記憶されているプログラムに従いCPU11が定期的に(例えば100msごとに)実行する露出制御処理について、図3のフローチャートを用いて説明する。
CPU11は、露出制御処理を開始すると、まず、S110で、明るさ制御目標値を算出する。具体的には、図4(c)に示すように、明るさ制御マップの番号(横軸)に対する明るさ制御目標値(縦軸)の対応関係(実線で図示)があらかじめ記憶されており、この対応関係に基づき、現在使用中の明るさ制御マップ(前回の露出制御処理で選択したものであり、初回であればあらかじめ設定されているもの)に対応する明るさ制御目標値を参照する。
なお、図4(c)に示す対応関係は、図4(a)に示す明るさ制御マップの番号(横軸)に対する路面用の明るさ制御目標値(縦軸)の対応関係(点線で図示)と、図4(b)に示す明るさ制御マップの番号(横軸)に対する障害物(認識対象物)用の明るさ制御目標値(縦軸)の対応関係(破線で図示)とを混合(具体的には平均)したものである。つまり、認識対象物用の明るさ制御目標値だけでなく、路面の明るさ制御目標値も設定し、双方の目標値を混合した値を露出制御の明るさ制御目標値としている。
また、図4(c)の対応関係から明らかなように、夜間用の明るさ制御目標値は、光源部分のふくらみを抑える理由などから、昼間(日中)用の明るさ制御目標値に比べて低く設定されている。また、朝方や夕方のように、夜間と昼間との間の期間(夜間境界と昼間境界との間の期間)は、画像の明るさの急変を防ぐために、明るさ制御目標値を徐々に変化させる。なお、本実施形態では、昼間や夜間の判断を、使用中の明るさ制御マップの番号に基づき行うようにしている。すなわち、前述した説明(図2(b))から明らかなように、撮影対象の明るさ測定値が大きいほど番号の大きい明るさ制御マップが使用される傾向があり、使用中の明るさ制御マップの番号から外部の明るさを判断することができる。
続いて、S120では、不感帯を算出する。ここで、不感帯とは、明るさ制御状態が頻繁に変化するのを防止するため、露出制御を実行すべきか否かの判定用しきい値として利用されるものである。具体的には、図5に示すように、現在使用中のN番目の明るさ制御マップと、S110で算出した明るさ制御目標値Vとに基づき判断される撮影対象の明るさを基準として、その前後1段分の明るさ制御マップに相当する明るさの範囲Bを不感帯として算出する。つまり、N−1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさから、N+1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさまでの範囲Bを、不感帯として算出する。そして、後述するように、実際の明るさ測定値が不感帯の範囲内であれば、露出制御を行わない(明るさ制御マップを切り替えない)ようにする。
続いて、S130では、カメラ21から取り込んだ画像データにおける特定領域の画素値に基づき、露出制御に用いる前方の明るさ(撮影対象の明るさ)を測定する前方明るさ測定処理を行う。具体的には、図6のフローチャートに示す処理を行う。
すなわち、まず、S131では、撮影画像におけるあらかじめ決められた位置(固定位置)に設定された明るさ測定用の領域(以下「明るさ測定領域」という。)から、水平方向のライン単位で画素を取り込む。
ここで、明るさ測定領域は、図7に示すように、前方車両の明るさを検出するための台形状の障害物(認識対象物)用領域と、路面の明るさを検出するための長方形状の路面用領域とからなる。つまり、前方車両の明るさを測定する領域とは別に、路面の明るさを測定する領域を設定し、双方の明るさを混合した明るさを明るさ測定結果としている。
具体的には、路面用領域は、自車からの前方距離7〜27m程度をカバーする縦幅と、自車が走行する車線を区画する左右両側の2本の白線が含まれる程度の横幅とを有する長方形状の領域に設定されている。
一方、障害物用領域は、上方向の位置がカメラ21の無限遠点(FOE:Focus of Expansion)に設定されている。また、自車前方へレーダ波をスキャンしてその反射波を検出することで前方物体の位置、速度、形状等を求めるミリ波レーダによる検知エリアの幅(±10°)をベースに横幅が設定されている。ただし、割り込み車両などへの露出合わせを早める目的や、路面用領域とシームレスにつなげる目的などから、下方へ広がりをつけた台形状の領域に設定されている。なお、FOEよりも上方は、空や建築構造物など、認識対象とは関係のないものが多いため、それらの影響を抑えるために取り込まないようにしている。
そして、このように設定された明るさ測定領域全域から、水平方向のライン単位で画素を取り込む。本実施形態では、処理負荷軽減のため、明るさ測定領域のすべての画素を取り込むことはせず、ラインを間引いて取り込むことにより、取り込み画素数を減らすようにしている。具体的には、路面用領域については、自車からの距離がほぼ等間隔となるように(撮影画像において上方ほど間隔が狭くなるように)ライン間隔が設定されており、障害物用領域については、撮影画像においてほぼ等間隔となるようにライン間隔が設定されている。
また、図8に示すように、各ライン上においても画素を間引いて取り込むようにしている。本実施形態では、すべてのラインで同数の画素が取り込まれるように、各ラインにおいてほぼ等間隔で画素を間引くようにしている。
続いて、S132では、図9に示すように、ラインごとに、取り込んだ画素を明るさでソートし、最も明るい所定数の画素及び最も暗い所定数の画素を除去する。すなわち、図10にも示すように、例えば、アスファルト路面では、高輝度の白線(路上ペイント)等が邪魔となり、コンクリート路面では、低輝度の補修部分や道路の金属継ぎ目等が邪魔となる。そこで、路面の明るさを求める際に、明るい部分及び暗い部分の画素を除去することで、外乱の影響を除去するようにしている。
ここで、自車近傍では、白線やコールタール等、明るさによって省きたいものを比較的適切に区別できるのに対し、遠方になるほど適切な区別が困難となる。このため、明るい部分や暗い部分の画素の除去量を遠方ほど少なくし、最も遠方のラインではソートによる選別(画素の除去処理)を行わないようにする。
続いて、S133では、S132で明暗部を除去した残りの中間値周辺の画素のみから、図11に示すように、ラインごとに画素の明るさの平均値(上からi番目(1≦i≦L)のラインの平均値をBi,tと表す。)を算出する。このように中間値周辺の画素のみから平均値をとることで、平均値の時間変化を安定させるようにしている。
続いて、S134では、各ラインの明るさ平均値を、次のようにフィルタ用にバッファする(バッファ時間:t〜t−T)。
1番目のライン:B1,t・・・B1,t-T
i番目のライン:Bi,t・・・Bi,t-T
L番目のライン:BL,t・・・BL,t-T
続いて、S135では、S134でバッファした各ラインの明るさ平均値をフィルタリングする。
1番目のライン:B1,t・・・B1,t-T→F1,t
i番目のライン:Bi,t・・・Bi,t-T→Fi,t
L番目のライン:BL,t・・・BL,t-T→FL,t
すなわち、FOE周辺など車両などによる光源が入り込みやすい領域を使用することから、明るさ測定値が不安定となるため、時間フィルタを用いて、明るさ測定値のばらつきを押さえるようにするのである。
具体的には、自車近傍のラインの平均値は、路面程度であり、ばらつきは少ないのに対し、遠方のラインの平均値は、車両のピッチングや光源の高速移動(対向車)など、もっともばらつきが大きく、ある程度長時間(例えば700ms)データをバッファして時間平均をとる必要がある。そこで、図12に示すように、遠方ほどノイズに強い(遅れの大きい)時間フィルタを使用し、近傍のラインでは時間フィルタ処理を行わないようにする。
ただし、トンネル出入口など、明るさが急変する場合にはすばやい追従を可能とするため、各ラインの平均値のばらつき方に応じたフィルタリングを行い、ばらつき削減と反応速度とを両立させるようにしている。具体的には、図13に示すように、平均値の時間変化にトレンドがある(ばらつきがない)と判定した場合には、時間フィルタ処理を行わないようにする。一方、平均値の時間変化に突発的な値が入ったと判定した場合には、加重メディアンフィルタ(重みつきメディアンフィルタ)の時間フィルタ処理を行い、それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。なお、ここでいう加重メディアンフィルタとは、古いデータよりも新しいデータに重みがかかるメディアンフィルタのことである。
ここで、図13の判定方法について更に詳述する。
例えば、バッファ時間(t〜t−T)のT=4であり、i番目のラインの明るさ平均値が次のような関係にあるとする。
i,t-1<Bi,t-3<Bi,t-2<Bi,t-4<Bi,t-0
式(1)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)/2×時間差分離れている場合には、突発的な値が入ったと判定し、加重メディアンフィルタの時間フィルタ処理を行う。
Figure 2009157087
また、式(2)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)×時間差分離れている場合や、式(3)に示すように、バッファ内の最新値と最旧値とが、不感帯幅(DZW)×時間差分離れている場合には、トレンドがあると判定し、時間フィルタ処理を行わない。
Figure 2009157087
それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。
続いて、S136では、式(4)に示すように、各ラインの明るさを平均して、画面全体の明るさを求める。なお、Wは、ラインごとに設定されたウェイトであり、例えば次のような考え方で設定することができる。すなわち、前方車両が存在しうる領域である明るさ測定領域の明るさ平均値(第1の平均値)と、明るさの安定した領域である路面用領域の明るさ平均値(第2の平均値)とを混合(例えば平均)した値を、画面全体の明るさとして求めることが考えられる。この場合、各ラインの明るさから第1の平均値を求める際には、近傍ほど重みを減らして平均をとり、逆に、第2の平均値を求める際には、遠方ほど重みを減らして平均をとるようにすることが好ましい。
Figure 2009157087
続いて、S137で、明るさのハンチング対策として、S136で算出した明るさの平均結果にローパスフィルタ(LPF)をかけて明るさ制御に用いる明るさ測定値とした後、本前方明るさ測定処理を終了する。ただし、ローパスフィルタをかけると反応速度が低下するので、図14に示すように、明るさの平均結果が明るさ制御の不感帯を超えて振動している(ばらついている)場合にのみローパスフィルタをかけ、それ以外の場合にはローパスフィルタをかけないようにする。
具体的には、次の[1]〜[5]の手順で処理を行う。
[1]画面明るさをバッファする(バッファ時間:t〜t−P)。
IMG#Temp,t・・・BIMG#Temp,t-P
[2]式(5)に示すように、画面明るさの差分をバッファする(バッファ時間:0〜P−1)。
Figure 2009157087
[3]変動回数をカウントする。具体的には、Diff0・・・DiffP-1において、隣接するDiffi・・・Diffi-1の符号が異なる回数をカウントする。
[4]不感帯(DZW)の半値幅に対する変動の大きさを評価する。具体的には、式(6)の関係を満たす場合にはC=1.0と判定し、式(7)の関係を満たす場合には図15のグラフに基づき判定する。
Figure 2009157087
[5]式(8)に従いローパスフィルタをかける。
Figure 2009157087
続いて、S140では、S130で測定した前方明るさが、S120で算出した不感帯(図5のB)の範囲内であるか否かを判定する。
そして、S140で、前方明るさが不感帯の範囲内でないと判定した場合には、S150へ移行し、S110で算出した明るさ制御目標値と、S130で測定した明るさ測定値とに基づき、最適な明るさ制御マップを選択するゲイン・シャッタースピード制御を行った後、本露出制御処理を終了する。
具体的には、本実施形態では、図16に示すように、カメラモジュールの持つハイダイナミックレンジ(HDR)設定を用いて、画面のダイナミックレンジを拡大するようにしている。すなわち、イメージャのハイダイナミックレンジ設定を用いて、明るさ制御マップにおける画素値と輝度との相関関係に折れ目がつけられており、画面のダイナミックレンジが拡大されている。ただし、折れ線として設定できる形状は、ゲイン、シャッタースピード等により複雑な制約を受けるので、その制約下で、なるべく各明るさ制御マップ間で大きく折れ線形状が変わらないような形状算出が行われている。このような明るさ制御マップを用いることで、トンネル出口のように路面輝度が非常に大きく変化する場合であっても、カメラ21の露出状態を適正な状態に制御するまでの時間を短縮することができる。
一方、S140で、前方明るさが不感帯の範囲内であると判定した場合には、S150をスキップして本露出制御処理を終了する。
[4.効果]
以上説明したように、本実施形態の露出制御装置10では、カメラ21の撮影画像における明るさ測定領域から水平方向のライン単位で画素を抽出し(S131)、抽出した画素の平均値をラインごとに算出する(S132,S133)。そして、各ラインの平均値に対して、撮影画像における遠方部分を示すラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す(S134,S135)。さらに、各ラインの平均値に基づき撮影対象の明るさを測定し(S136,S137)、その測定値に基づいて露出制御を行う(S150)。
このような露出制御装置10によれば、画素を間引いて取り込むことによる撮影対象の明るさ測定値のばらつきを効率よく抑えることができる。すなわち、撮影画像における遠方部分ほど明るさ測定値がばらつきやすくなるが、撮影画像における遠方部分を示すラインほどフィルタ効果が大きくなるように時間フィルタ処理を施すことで、ばらつきを効率よく抑えることができるからである。
特に、本実施形態の露出制御装置10では、ラインごとに平均値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ時間フィルタ処理を施すようにしているため、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。
また、本実施形態の露出制御装置10では、ラインごとの平均値に基づき測定した撮影対象の明るさ測定値に対し、ローパスフィルタによる処理を施すようにしているため、測定値のばらつきを低減することができる。
特に、本実施形態の露出制御装置10では、撮影対象の明るさ測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施すようにしているため、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。
[5.特許請求の範囲との対応]
なお、本実施形態の露出制御装置10では、S131の処理を実行するCPU11が抽出手段に相当し、S132〜S135の処理を実行するCPU11が算出手段に相当し、S136,S137の処理を実行するCPU11が測定手段に相当し、S150の処理を実行するCPU11が露出制御手段に相当する。
[6.他の形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
上記実施形態の露出制御装置10では、ラインごとに平均値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ時間フィルタ処理を施すようにしているが、これに限定されるものではない。例えば、ばらついているか否かに関係なく時間フィルタ処理を施すようにしてもよい。逆に、時間フィルタ処理を一切施さないようにしてもよい。
また、上記実施形態の露出制御装置10では、撮影対象の明るさ測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施すようにしているが、これに限定されるものではない。例えば、ばらついているか否かに関係なくローパスフィルタによる処理を施すようにしてもよい。逆に、ローパスフィルタによる処理を一切施さないようにしてもよい。
さらに、上記実施形態の露出制御装置10では、明るさ測定領域から水平方向のライン単位で画素を抽出するようにしているが、これに限定されるものではなく、ライン以外のグループ単位で画素を抽出するようにしてもよい。
一方、上記実施形態では、前方車両の認識に基づく警報処理及び操舵制御を行うシステムに本発明を適用した構成を例示したが、これに限定されるものではなく、例えば、道路の白線の認識に基づく警報処理や操舵制御等を行うシステムなどに適用することも可能である。
また、上記実施形態で示した明るさ測定領域はあくまでも一例に過ぎず、実行する制御等に応じて最適な領域を設定すればよい。
実施形態の露出制御装置の構成を示すブロック図である。 明るさ制御マップの説明図である。 露出制御処理のフローチャートである。 明るさ制御目標値の設定方法の説明図である。 不感帯の設定方法の説明図である。 前方明るさ測定処理のフローチャートである。 明るさ測定領域の説明図である。 ライン上における画素の間引き方法の説明図である。 各ラインにおける画素の明暗部の除去方法の説明図である。 取り込み画素の分布例を示すグラフである。 ラインごとに画素の明るさ平均値を算出する説明図である。 ラインごとの時間フィルタの設定方法を示す説明図である。 時間フィルタ処理を行うか否かの判定方法の説明図である。 ローパスフィルタをかけるか否かの判定方法の説明図である。 不感帯の半値幅に対する変動の大きさを評価するためのグラフである。 画素値と輝度との相関関係に折れ目がつけられた明るさ制御マップの説明図である。 遠方部分の明るさの測定結果がばらつく原理を説明するための説明図である。
符号の説明
10…露出制御装置、11…CPU、12…メモリ、13…画像インタフェース、14…通信インタフェース、21…カメラ、22…統合判断ECU、23…警報部、24…操舵ECU

Claims (6)

  1. 自車前方を撮影する車載カメラの露出制御を行う露出制御装置であって、
    前記車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、
    前記抽出手段により抽出された画素の平均的な明るさを前記グループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施す算出手段と、
    前記算出手段による前記グループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、
    前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段と、
    を備え、
    前記算出手段は、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように前記時間フィルタ処理を施すこと
    を特徴とする露出制御装置。
  2. 前記抽出手段は、前記明るさ測定用の領域から水平方向のライン単位で画素を抽出し、
    前記算出手段は、遠方のラインほどフィルタ効果が大きくなるように前記時間フィルタ処理を施すこと
    を特徴とする請求項1に記載の露出制御装置。
  3. 前記算出手段は、前記算出値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、前記時間フィルタ処理を施すこと
    を特徴とする請求項1又は請求項2に記載の露出制御装置。
  4. 前記測定手段は、前記グループごとの算出値に基づき測定した撮影対象の明るさの測定値に対し、ローパスフィルタによる処理を施すこと
    を特徴とする請求項1から請求項3までのいずれか1項に記載の露出制御装置。
  5. 前記測定手段は、前記測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、前記ローパスフィルタによる処理を施すこと
    を特徴とする請求項4に記載の露出制御装置。
  6. 自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるための露出制御プログラムであって、
    前記車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、
    前記抽出手段により抽出された画素の平均的な明るさを前記グループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように施す算出手段と、
    前記算出手段による前記グループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、
    前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段
    としてコンピュータを機能させることを特徴とする露出制御プログラム。
JP2007334936A 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム Active JP4389999B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007334936A JP4389999B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム
US12/318,144 US8149325B2 (en) 2007-12-26 2008-12-22 Exposure control apparatus and exposure control program for vehicle-mounted electronic camera
DE102008063122.1A DE102008063122B4 (de) 2007-12-26 2008-12-24 Belichtungssteuervorrichtung und Belichtungssteuerprogramm für elektronische Fahrzeugkamera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007334936A JP4389999B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム

Publications (2)

Publication Number Publication Date
JP2009157087A true JP2009157087A (ja) 2009-07-16
JP4389999B2 JP4389999B2 (ja) 2009-12-24

Family

ID=40786060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007334936A Active JP4389999B2 (ja) 2007-12-26 2007-12-26 露出制御装置及び露出制御プログラム

Country Status (3)

Country Link
US (1) US8149325B2 (ja)
JP (1) JP4389999B2 (ja)
DE (1) DE102008063122B4 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010082277A1 (ja) * 2009-01-14 2010-07-22 パナソニック株式会社 撮像装置及び撮像方法
WO2012043063A1 (ja) * 2010-09-30 2012-04-05 日立オートモティブシステムズ株式会社 画像処理装置
WO2013146744A1 (ja) * 2012-03-30 2013-10-03 株式会社デンソー 撮像装置
WO2019194106A1 (ja) * 2018-04-06 2019-10-10 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
WO2022014361A1 (ja) 2020-07-15 2022-01-20 ソニーグループ株式会社 情報処理装置、情報処理方法、及び、プログラム

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010177821A (ja) * 2009-01-27 2010-08-12 Sony Corp 撮像装置及び撮像方法
US8355059B2 (en) * 2009-02-06 2013-01-15 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US9077905B2 (en) * 2009-02-06 2015-07-07 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
JP2011119785A (ja) * 2009-11-30 2011-06-16 Fujitsu Ltd カメラ制御装置及びカメラ制御方法
JP5246254B2 (ja) * 2010-12-24 2013-07-24 株式会社デンソー 車載カメラの露出制御値の決定方法
JP5937832B2 (ja) * 2012-01-30 2016-06-22 クラリオン株式会社 車載カメラ用露出制御装置
JP6087858B2 (ja) * 2014-03-24 2017-03-01 株式会社日本自動車部品総合研究所 走行区画線認識装置及び走行区画線認識プログラム
JP6390512B2 (ja) * 2015-05-21 2018-09-19 株式会社デンソー 車載カメラ装置
JP6657925B2 (ja) 2015-06-04 2020-03-04 ソニー株式会社 車載カメラ・システム並びに画像処理装置
CN105744177A (zh) * 2016-02-17 2016-07-06 广州视睿电子科技有限公司 视频展台灯光控制方法及其系统
KR20180097966A (ko) * 2017-02-24 2018-09-03 삼성전자주식회사 자율 주행을 위한 영상 처리 방법 및 장치
CN112689100B (zh) * 2020-12-25 2022-08-02 北京灵汐科技有限公司 图像检测方法、装置、设备和存储介质
CN114078406B (zh) * 2021-11-23 2024-01-30 中国航空工业集团公司洛阳电光设备研究所 车载ar-hud亮度自适应调节的防抖方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5339163A (en) 1988-03-16 1994-08-16 Canon Kabushiki Kaisha Automatic exposure control device using plural image plane detection areas
US5255044A (en) 1990-06-05 1993-10-19 Nikon Corporation Automatic exposure control apparatus with improved exposure value calculation for photographing a moving object
JP3412174B2 (ja) 1992-05-21 2003-06-03 松下電器産業株式会社 自動露光制御装置
JPH06253208A (ja) 1993-02-26 1994-09-09 Isuzu Motors Ltd 車線認識装置
JP3468428B2 (ja) 1993-03-24 2003-11-17 富士重工業株式会社 車輌用距離検出装置
US20050083428A1 (en) * 1995-03-17 2005-04-21 Hiroto Ohkawara Image pickup apparatus
JP2001216520A (ja) 2000-01-31 2001-08-10 Yazaki Corp 車両用周辺監視装置
US7365779B2 (en) 2000-09-14 2008-04-29 Fujitsu Ten Limited Image processing apparatus for selectively storing specific regions of an image
US7251056B2 (en) * 2001-06-11 2007-07-31 Ricoh Company, Ltd. Image processing apparatus, image processing method and information recording medium
DE10337357A1 (de) 2003-08-14 2005-03-10 Adc Automotive Dist Control Verfahren und Vorrichtung zur Beleuchtungssteuerung für eine Kamera
JP2005148308A (ja) 2003-11-13 2005-06-09 Denso Corp 白線検出用カメラの露出制御装置
WO2006123754A1 (ja) 2005-05-20 2006-11-23 Toyota Jidosha Kabushiki Kaisha 車両用画像処理装置
JP4129031B2 (ja) 2006-06-12 2008-07-30 株式会社日立製作所 近接場光発生器及び記録再生装置
JP2008028957A (ja) 2006-07-25 2008-02-07 Denso Corp 車両用画像処理装置
KR100918701B1 (ko) 2007-10-11 2009-09-22 한국과학기술원 강인한 자동 화이트 밸런스 방법

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010082277A1 (ja) * 2009-01-14 2010-07-22 パナソニック株式会社 撮像装置及び撮像方法
US8531589B2 (en) 2009-01-14 2013-09-10 Panasonic Corporation Image pickup device and image pickup method
WO2012043063A1 (ja) * 2010-09-30 2012-04-05 日立オートモティブシステムズ株式会社 画像処理装置
JP2012075059A (ja) * 2010-09-30 2012-04-12 Hitachi Automotive Systems Ltd 画像処理装置
WO2013146744A1 (ja) * 2012-03-30 2013-10-03 株式会社デンソー 撮像装置
JP2013211756A (ja) * 2012-03-30 2013-10-10 Denso Corp 撮像装置
US9241157B2 (en) 2012-03-30 2016-01-19 Denso Corporation Imaging apparatus
WO2019194106A1 (ja) * 2018-04-06 2019-10-10 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム
US11503982B2 (en) 2018-04-06 2022-11-22 Olympus Corporation Image processing apparatus, image processing method, and computer-readable recording medium for detecting a defective pixel in an image frame
WO2022014361A1 (ja) 2020-07-15 2022-01-20 ソニーグループ株式会社 情報処理装置、情報処理方法、及び、プログラム

Also Published As

Publication number Publication date
JP4389999B2 (ja) 2009-12-24
US8149325B2 (en) 2012-04-03
DE102008063122B4 (de) 2019-02-07
DE102008063122A1 (de) 2009-07-23
US20090174808A1 (en) 2009-07-09

Similar Documents

Publication Publication Date Title
JP4389999B2 (ja) 露出制御装置及び露出制御プログラム
JP4433045B2 (ja) 露出制御装置及び露出制御プログラム
JP4433046B2 (ja) 露出制御装置及び露出制御プログラム
JP5375814B2 (ja) 露出制御装置
EP1767960B1 (en) Front image taking device
KR101367637B1 (ko) 감시장치
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
WO2007111220A1 (ja) 道路区画線検出装置
JP6750519B2 (ja) 撮像装置、撮像表示方法および撮像表示プログラム
JP5950196B2 (ja) 撮像装置、並びに、これを用いる画像解析装置及び移動装置
US8373754B2 (en) Method and system for evaluating brightness values in sensor images of image-evaluating adaptive cruise control systems
EP2770478B1 (en) Image processing unit, imaging device, and vehicle control system and program
JP2008110715A (ja) 車両用オートライトシステム
US10462378B2 (en) Imaging apparatus
JP2012073927A (ja) 運転支援装置
JP2009177309A (ja) 撮像手段の調整装置および車外監視装置
JP5246254B2 (ja) 車載カメラの露出制御値の決定方法
US11159736B2 (en) Camera device and method for capturing a region surrounding a vehicle in a surroundings-adapted manner
JP2006080752A (ja) カメラ用露光制御装置および制御方法
KR102177878B1 (ko) 영상 처리 장치 및 방법
US20170364765A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus and image processing method
JP4539400B2 (ja) ステレオカメラの補正方法、ステレオカメラ補正装置
JP2005148309A (ja) 白線検出用カメラの露出制御装置
JP2009038463A (ja) 露光調整方法、車両用撮像装置および自動車
JP2006060504A (ja) 白線検出用カメラの露出制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090928

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4389999

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131016

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250