JP4389999B2 - Exposure control device and exposure control program - Google Patents

Exposure control device and exposure control program Download PDF

Info

Publication number
JP4389999B2
JP4389999B2 JP2007334936A JP2007334936A JP4389999B2 JP 4389999 B2 JP4389999 B2 JP 4389999B2 JP 2007334936 A JP2007334936 A JP 2007334936A JP 2007334936 A JP2007334936 A JP 2007334936A JP 4389999 B2 JP4389999 B2 JP 4389999B2
Authority
JP
Japan
Prior art keywords
brightness
exposure control
value
measurement
performs
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007334936A
Other languages
Japanese (ja)
Other versions
JP2009157087A (en
Inventor
健太郎 望田
貴之 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007334936A priority Critical patent/JP4389999B2/en
Priority to US12/318,144 priority patent/US8149325B2/en
Priority to DE102008063122.1A priority patent/DE102008063122B4/en
Publication of JP2009157087A publication Critical patent/JP2009157087A/en
Application granted granted Critical
Publication of JP4389999B2 publication Critical patent/JP4389999B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/28Circuitry to measure or to take account of the object contrast
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、自車前方を撮影する車載カメラの露出制御を行う露出制御装置に関するものである。   The present invention relates to an exposure control device that performs exposure control of an in-vehicle camera that photographs the front of the vehicle.

近年、車両の前方を撮影する車載カメラを利用して、道路の白線や、他車両等の立体物の認識処理を行い、その認識結果に基づき警報や走行制御等を行う技術が提案されている。こうした技術において、認識対象(白線や立体物)の認識精度を向上させるためには、撮影対象の明るさに応じて車載カメラの露出制御を適切に行うことが重要となる。   In recent years, a technology has been proposed in which a white line on a road or a three-dimensional object such as another vehicle is recognized using an in-vehicle camera that captures the front of the vehicle, and an alarm or traveling control is performed based on the recognition result. . In such a technique, in order to improve the recognition accuracy of the recognition target (white line or three-dimensional object), it is important to appropriately control the exposure of the in-vehicle camera in accordance with the brightness of the shooting target.

そこで、例えば特許文献1に記載の車線認識装置では、車載カメラの撮影画像に基づいて白線を検出するとともに、現在の車速に基づき次回白線検出を行う処理領域を撮影画像において定める。そして、その処理領域内の撮影画像の平均輝度b1を算出し、今回の白線検出のための処理領域に対応する平均輝度b0との差を求める。この差が所定値よりも大きい場合には、平均輝度b1に基づいて次回の受光量を決定し、この受光量に基づいて車載カメラの絞り部を制御する。   Thus, for example, in the lane recognition device described in Patent Document 1, a white line is detected based on a photographed image of an in-vehicle camera, and a processing region in which the next white line detection is performed based on the current vehicle speed is defined in the photographed image. Then, the average brightness b1 of the captured image in the processing area is calculated, and the difference from the average brightness b0 corresponding to the processing area for the current white line detection is obtained. When this difference is larger than a predetermined value, the next received light amount is determined based on the average luminance b1, and the diaphragm portion of the in-vehicle camera is controlled based on the received light amount.

このように次回の白線検出領域の平均輝度を求めることで、例えば道路全体が日向から日陰に変化する場合には、次回の白線検出領域に適した露出量(絞り量)で車載カメラを動作させることができる。   Thus, by calculating the average brightness of the next white line detection area, for example, when the entire road changes from the sun to the shade, the vehicle-mounted camera is operated with an exposure amount (aperture amount) suitable for the next white line detection area. be able to.

しかしながら、実際の道路環境においては、道路全体が日向から日陰に、あるいは日陰から日向に変化する等の単純な変化ばかりではなく、車載カメラの撮影範囲の明るさは種々の態様で変化する。このため、単に次回の白線検出領域の平均輝度を求めても、適切な露出制御を行うことが難しい場合がある。   However, in an actual road environment, the brightness of the shooting range of the in-vehicle camera changes in various ways as well as a simple change such as the whole road changing from the sun to the shade or from the shade to the sun. For this reason, even if the average brightness of the next white line detection area is simply obtained, it may be difficult to perform appropriate exposure control.

そこで、特許文献2に記載の露出制御装置では、車載カメラの撮影画像において、道路上の白線を除く部分に対応する複数の領域を設定し、複数の領域の輝度に基づいて、車載カメラの露出制御を行うようにしている。
特開平6−253208号公報 特開2005−148308号公報
Therefore, in the exposure control device described in Patent Document 2, a plurality of areas corresponding to portions other than the white line on the road are set in the captured image of the in-vehicle camera, and the exposure of the in-vehicle camera is based on the luminance of the plurality of areas. Control is performed.
JP-A-6-253208 JP 2005-148308 A

ところで、車両においては、処理速度を高速にすることが要求され、処理負荷を低減するため、すべての画素に基づき明るさを測定するのではなく、間引いて抽出した画素から明るさを測定することが有効である。   By the way, in vehicles, it is required to increase the processing speed, and in order to reduce the processing load, instead of measuring the brightness based on all the pixels, measure the brightness from the pixels extracted by thinning out. Is effective.

しかしながら、このようにすると、特に撮影画像における遠方部分で、明るさの測定結果が大きくばらつくという問題がある。すなわち、例えば図17に示すように、水平方向のライン単位で画素を抽出する場合に、車両のピッチング等によって前方車両の光源部分とラインとの位置関係が変化し、光源部分の画素が抽出されたりされなかったりする。これにより、明るさの測定結果がばらついてしまい、適切な露出制御を行うことができない。   However, if this is done, there is a problem that the brightness measurement results vary greatly, particularly in a distant portion of the captured image. That is, for example, as shown in FIG. 17, when pixels are extracted in line units in the horizontal direction, the positional relationship between the light source portion of the vehicle ahead and the line changes due to vehicle pitching or the like, and the pixels of the light source portion are extracted. Or not. As a result, the brightness measurement results vary, and appropriate exposure control cannot be performed.

本発明は、こうした問題にかんがみてなされたものであり、明るさの測定結果のばらつきを抑えることのできる露出制御装置を提供することを目的としている。   The present invention has been made in view of these problems, and an object of the present invention is to provide an exposure control device capable of suppressing variations in brightness measurement results.

上記目的を達成するためになされた本発明の請求項1に記載の露出制御装置は、自車前方を撮影する車載カメラの露出制御を行うものである。この露出制御装置では、抽出手段が、車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する。そして、算出手段が、抽出手段により抽出された画素の平均的な明るさをグループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施す。ここで、算出手段は、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように時間フィルタ処理を施す。そして、測定手段が、算出手段によるグループごとの算出値に基づき撮影対象の明るさを測定し、露出制御手段が、測定手段による測定値に基づいて露出制御を行う。   An exposure control apparatus according to claim 1 of the present invention, which has been made to achieve the above object, performs exposure control of an in-vehicle camera that photographs the front of the vehicle. In this exposure control apparatus, the extracting means extracts pixels in units of a plurality of groups from the brightness measurement region in the captured image of the in-vehicle camera. Then, the calculating means calculates the average brightness of the pixels extracted by the extracting means for each group, and applies a time filter process that alleviates temporal changes to each calculated value. Here, the calculation means performs time filter processing so that the filter effect becomes larger in the group indicating the distant portion in the captured image. Then, the measuring unit measures the brightness of the photographing target based on the value calculated for each group by the calculating unit, and the exposure control unit performs exposure control based on the measured value by the measuring unit.

このような露出制御装置によれば、撮影対象の明るさの測定結果のばらつきを効率よく抑えることができる。すなわち、撮影画像における遠方部分ほど明るさの測定結果がばらつきやすいという問題があるが、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように時間フィルタ処理を施すことで、ばらつきを効率よく抑えることができるからである。なお、近傍部分を示すグループはフィルタ効果を0に(つまり時間フィルタ処理を行わないように)してもよい。   According to such an exposure control device, it is possible to efficiently suppress variations in the measurement result of the brightness of the photographing target. That is, there is a problem that the brightness measurement results are more likely to vary in the far part of the photographed image, but by performing time filter processing so that the filter effect becomes larger in the group indicating the far part in the photographed image, the dispersion can be efficiently performed. This is because it can be suppressed. It should be noted that the group indicating the neighboring portion may have the filter effect of 0 (that is, the time filter process is not performed).

ここで、画素を抽出するグループは、例えば水平方向のライン単位とすることができる。すなわち、請求項2に記載の露出制御装置では、抽出手段は、明るさ測定用の領域から水平方向のライン単位で画素を抽出し、算出手段は、遠方のラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す。このような露出制御装置によれば、自車からの距離に応じて時間フィルタ処理を効率よく行うことができる。   Here, the group from which the pixels are extracted can be, for example, a horizontal line unit. That is, in the exposure control apparatus according to claim 2, the extraction unit extracts pixels in units of horizontal lines from the brightness measurement region, and the calculation unit causes the filter effect to increase as the line is farther away. Apply time filtering. According to such an exposure control device, the time filter process can be efficiently performed according to the distance from the own vehicle.

また、請求項3に記載の露出制御装置では、算出手段は、算出値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、時間フィルタ処理を施す。このような露出制御装置によれば、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。   In the exposure control apparatus according to the third aspect, the calculating unit determines whether or not the temporal change in the calculated value varies, and performs the time filter process only when it is determined that the calculated value varies. According to such an exposure control device, it is possible to prevent an excessive decrease in the reaction speed with respect to a change in brightness.

また、請求項4に記載の露出制御装置では、測定手段は、グループごとの算出値に基づき測定した撮影対象の明るさの測定値に対し、ローパスフィルタによる処理を施す。このような露出制御装置によれば、測定値のばらつきを低減することができる。   In the exposure control apparatus according to the fourth aspect, the measurement unit performs processing by the low-pass filter on the measurement value of the brightness of the photographing target measured based on the calculated value for each group. According to such an exposure control apparatus, it is possible to reduce variations in measured values.

また、請求項5に記載の露出制御装置では、測定手段は、測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施す。このような露出制御装置によれば、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。   Further, in the exposure control apparatus according to the fifth aspect, the measuring means determines whether or not the temporal change of the measurement value varies, and performs the processing by the low-pass filter only when it is determined that the measurement value varies. According to such an exposure control device, it is possible to prevent an excessive decrease in the reaction speed with respect to a change in brightness.

次に、請求項6に記載の露出制御プログラムは、自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるための露出制御プログラムであって、車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、抽出手段により抽出された画素の平均的な明るさをグループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように施す算出手段と、算出手段によるグループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、測定手段による測定値に基づいて露出制御を行う露出制御手段としてコンピュータを機能させる。   Next, an exposure control program according to claim 6 is an exposure control program for causing a computer to function as an exposure control device that performs exposure control of an in-vehicle camera that images the front of the host vehicle. Extraction means for extracting pixels in a plurality of groups from the brightness measurement area, and the average brightness of the pixels extracted by the extraction means is calculated for each group, and temporal changes are made for each calculated value. A calculating means for performing a temporal filtering process for relaxation so that the filter effect becomes larger in a group indicating a distant portion in the captured image; a measuring means for measuring the brightness of the shooting target based on a calculated value for each group by the calculating means; The computer is caused to function as an exposure control means for performing exposure control based on a measurement value obtained by the measurement means.

このような露出制御プログラムによれば、請求項1の露出制御装置としてコンピュータを機能させることができ、これにより前述した効果を得ることができる。   According to such an exposure control program, it is possible to cause the computer to function as the exposure control apparatus according to the first aspect, thereby obtaining the effects described above.

以下、本発明が適用された実施形態について、図面を用いて説明する。
[1.全体構成]
図1は、実施形態の露出制御装置10の構成を示すブロック図である。
Embodiments to which the present invention is applied will be described below with reference to the drawings.
[1. overall structure]
FIG. 1 is a block diagram illustrating a configuration of an exposure control apparatus 10 according to the embodiment.

この露出制御装置10は、車両に搭載された状態で用いられるものであり、この車両に搭載されている車載カメラ(以下、単に「カメラ」という。)21、統合判断ECU22、警報部23及び操舵ECU24とともに、前方車両の認識に基づく警報処理及び操舵制御を実現する。   The exposure control device 10 is used in a state where it is mounted on a vehicle, and an in-vehicle camera (hereinafter simply referred to as “camera”) 21, an integrated determination ECU 22, an alarm unit 23, and a steering mounted on the vehicle. Together with the ECU 24, the alarm processing and the steering control based on the recognition of the preceding vehicle are realized.

露出制御装置10は、CPU11と、メモリ12と、カメラ21の撮影画像を入力するための画像インタフェース13と、統合判断ECU22との通信を行うための通信インタフェース14とを備えている。   The exposure control apparatus 10 includes a CPU 11, a memory 12, an image interface 13 for inputting a captured image of the camera 21, and a communication interface 14 for communicating with the integrated determination ECU 22.

カメラ21は、車室内の所定位置、例えばルームミラーの裏側に設置され、車両の進行方向前方の道路を撮影するものである。なお、カメラ21は、車室内の所定位置に設置されるときに、その撮影範囲が車両の進行方向に対して所定の撮影範囲となるように、その向き等が調整される。   The camera 21 is installed at a predetermined position in the vehicle interior, for example, on the back side of the room mirror, and photographs a road ahead in the traveling direction of the vehicle. Note that when the camera 21 is installed at a predetermined position in the vehicle interior, the direction and the like of the camera 21 are adjusted so that the shooting range is a predetermined shooting range with respect to the traveling direction of the vehicle.

また、カメラ21は、公知のCCDイメージセンサ、あるいはCMOSイメージセンサに加え、増幅部及びA/D変換部を内蔵している。これら増幅部及びA/D変換部は、イメージセンサによって画像を撮影したとき、その画像の各画素の明るさを示すアナログ信号を所定のゲインで増幅し、かつ増幅したアナログ値をデジタル値に変換する。そして、カメラ21は、このデジタル値に変換した信号(画素値)を、画像信号として、画像のラインごとに出力する。   The camera 21 incorporates an amplification unit and an A / D conversion unit in addition to a known CCD image sensor or CMOS image sensor. The amplifying unit and the A / D converting unit amplify an analog signal indicating the brightness of each pixel of the image with a predetermined gain when an image is captured by the image sensor, and convert the amplified analog value into a digital value. To do. And the camera 21 outputs the signal (pixel value) converted into this digital value for every line of an image as an image signal.

画像インタフェース13には、カメラ21から出力される画素値及び水平・垂直同期信号が入力される。CPU11は、画像インタフェース13に入力された水平・垂直同期信号に基づいて、画像の水平ラインごとに出力される画素値が、いずれの画素位置に対応するものかを認識する。そして、認識した画素位置に対応するように、カメラ21から出力される画素値をメモリ12に記憶する。このようにして、カメラ21から出力される画像信号がメモリ12に保存される。   A pixel value and a horizontal / vertical synchronization signal output from the camera 21 are input to the image interface 13. The CPU 11 recognizes which pixel position the pixel value output for each horizontal line of the image corresponds to based on the horizontal / vertical synchronization signal input to the image interface 13. Then, the pixel value output from the camera 21 is stored in the memory 12 so as to correspond to the recognized pixel position. In this way, the image signal output from the camera 21 is stored in the memory 12.

CPU11は、カメラ21から出力された画像信号を処理することにより、認識対象物(本実施形態では前方車両)の位置の認識を行うとともに、その認識した前方車両の位置を統合判断ECU22に出力する。さらに、CPU11は、前方車両が適切に認識されるようにカメラ21の露出制御を行う。具体的には、CPU11は、カメラ21のシャッタースピード及びフレームレート、更に増幅部のゲインを調整するため、これらの調整指示値を含むカメラ制御値をカメラ21に出力する。   The CPU 11 processes the image signal output from the camera 21, thereby recognizing the position of the recognition target object (front vehicle in the present embodiment) and outputting the recognized position of the front vehicle to the integrated determination ECU 22. . Further, the CPU 11 controls the exposure of the camera 21 so that the vehicle ahead is properly recognized. Specifically, the CPU 11 outputs camera control values including these adjustment instruction values to the camera 21 in order to adjust the shutter speed and frame rate of the camera 21 and the gain of the amplification unit.

通信インタフェース14は、CPU11と統合判断ECU22との間の通信を調整するものである。本実施形態では、CPU11は、画像信号における前方車両の位置を認識して、この認識した前方車両の位置を統合判断ECU22に送信する。統合判断ECU22は、CPU11から送信された前方車両の位置に基づいて、自車が前方車両と接触する危険性があるか否かを判定し、危険性があると判定した場合には、警報部23に対して警報を発するように指示する。また、危険性が高い場合には、単に警報を発するだけでなく、操舵ECUに対して操舵制御(操舵装置のアシスト量を調節したり、操舵装置を自動的に駆動したりして危険を回避する制御)を行うように指示する。   The communication interface 14 adjusts communication between the CPU 11 and the integrated determination ECU 22. In the present embodiment, the CPU 11 recognizes the position of the preceding vehicle in the image signal and transmits the recognized position of the preceding vehicle to the integrated determination ECU 22. Based on the position of the preceding vehicle transmitted from the CPU 11, the integrated determination ECU 22 determines whether or not there is a risk that the host vehicle comes into contact with the preceding vehicle. 23 is instructed to issue an alarm. In addition, if the risk is high, not only a warning is issued, but also steering control (adjusting the assist amount of the steering device or automatically driving the steering device is avoided) to the steering ECU. Control).

[2.露出制御の概要]
次に、露出制御の概要について説明する。
図2(a)に示すように、本実施形態の露出制御装置10は、撮影対象の明るさ(輝度)から撮影画像の画素値への変換マップとして、複数種類の明るさ制御マップ(画素輝度変換関係)を記憶しており、状況に応じて最適なものを1つ選択して使用する。図2(a)の例では、明るさ測定値Bの撮影対象を画素値Vで撮影したければ、11番の明るさ制御マップを使用する必要がある。
[2. Overview of exposure control]
Next, an outline of exposure control will be described.
As shown in FIG. 2A, the exposure control apparatus 10 of the present embodiment has a plurality of types of brightness control maps (pixel luminances) as conversion maps from the brightness (luminance) of the shooting target to the pixel values of the shot image. (Conversion relation) is stored, and the most suitable one is selected and used according to the situation. In the example of FIG. 2A, if the subject of brightness measurement value B is to be photographed with the pixel value V, it is necessary to use the 11th brightness control map.

このように、撮影対象をどの程度の画面の明るさで撮影したいか(明るさ制御目標値V)と撮影対象の明るさ(明るさ測定値B)とに基づき、数あるゲインとシャッターの設定(明るさ制御マップ)の中から1つを選択する作業を露出制御と呼ぶ。   Thus, based on how much screen brightness the subject is to be photographed (brightness control target value V) and the brightness of the subject to be photographed (brightness measurement value B), a number of gain and shutter settings are set. The operation of selecting one from the (brightness control map) is called exposure control.

ここで、撮影対象の明るさは、撮影画像の画素値及び使用中の明るさ制御マップに基づき判断することができる。例えば、図2(b)に示すように、7番の明るさ制御マップが使用されており、現在の画面の明るさ(撮影画像の画素値)がKであるとすると、撮影対象の明るさ測定値はBであることが分かる。そして、この撮影対象を明るさ制御目標値V程度の画面の明るさに制御したいのであれば、13番の明るさ制御マップ(ゲインとシャッターの設定)を使用すればよいことが分かる。   Here, the brightness of the shooting target can be determined based on the pixel value of the shot image and the brightness control map in use. For example, as shown in FIG. 2B, if the brightness control map of No. 7 is used and the current screen brightness (pixel value of the shot image) is K, the brightness of the shooting target It can be seen that the measured value is B. Then, if it is desired to control the photographing target so that the screen brightness is about the brightness control target value V, it is understood that the 13th brightness control map (gain and shutter setting) may be used.

なお、詳細については後述するが、本実施形態の露出制御装置10は、次の(1)〜(4)の手順で露出制御を行う。
(1)明るさ制御目標値算出
明るさ制御目標値を昼夜で切り替える(図4)。また、制御状態を急変させないように、昼夜の切り替わり期間においては明るさ制御目標値を徐々に変化させるようにする。
In addition, although mentioned later for details, the exposure control apparatus 10 of this embodiment performs exposure control in the procedure of following (1)-(4).
(1) Brightness control target value calculation The brightness control target value is switched between day and night (FIG. 4). Further, the brightness control target value is gradually changed during the day / night switching period so that the control state does not change suddenly.

(2)不感帯算出
制御が不安定化しないように、明るさ制御の動作に不感帯を設ける(図5)。
(3)前方明るさ測定
路面用領域と障害物(認識対象物)用領域とからなる明るさ測定用の領域から抽出した画素の明るさの平均値を求める(図7)。
(2) Dead Zone Calculation A dead zone is provided in the brightness control operation so that the control does not become unstable (FIG. 5).
(3) Front brightness measurement The average value of the brightness of the pixels extracted from the brightness measurement area consisting of the road area and the obstacle (recognition object) area is obtained (FIG. 7).

(4)ゲインシャッタースピード制御
上記(3)で算出した明るさ測定値が、上記(2)で算出した不感帯を超えた場合、上記(1)で算出した明るさ制御目標値と上記(3)で算出した明るさ測定値とから、最適な明るさ制御マップを選択する(図2)。
(4) Gain shutter speed control When the brightness measurement value calculated in the above (3) exceeds the dead zone calculated in the above (2), the brightness control target value calculated in the above (1) and the above (3) The optimum brightness control map is selected from the brightness measurement values calculated in (2).

[3.CPUが実行する処理]
次に、前述した露出制御を実現するため、あらかじめ記憶されているプログラムに従いCPU11が定期的に(例えば100msごとに)実行する露出制御処理について、図3のフローチャートを用いて説明する。
[3. Processing executed by CPU]
Next, exposure control processing that the CPU 11 executes periodically (for example, every 100 ms) in accordance with a program stored in advance in order to realize the above-described exposure control will be described with reference to the flowchart of FIG.

CPU11は、露出制御処理を開始すると、まず、S110で、明るさ制御目標値を算出する。具体的には、図4(c)に示すように、明るさ制御マップの番号(横軸)に対する明るさ制御目標値(縦軸)の対応関係(実線で図示)があらかじめ記憶されており、この対応関係に基づき、現在使用中の明るさ制御マップ(前回の露出制御処理で選択したものであり、初回であればあらかじめ設定されているもの)に対応する明るさ制御目標値を参照する。   When starting the exposure control process, the CPU 11 first calculates a brightness control target value in S110. Specifically, as shown in FIG. 4C, the correspondence (illustrated by a solid line) of the brightness control target value (vertical axis) to the brightness control map number (horizontal axis) is stored in advance. Based on this correspondence, the brightness control target value corresponding to the brightness control map currently in use (selected in the previous exposure control process and set in advance for the first time) is referred to.

なお、図4(c)に示す対応関係は、図4(a)に示す明るさ制御マップの番号(横軸)に対する路面用の明るさ制御目標値(縦軸)の対応関係(点線で図示)と、図4(b)に示す明るさ制御マップの番号(横軸)に対する障害物(認識対象物)用の明るさ制御目標値(縦軸)の対応関係(破線で図示)とを混合(具体的には平均)したものである。つまり、認識対象物用の明るさ制御目標値だけでなく、路面の明るさ制御目標値も設定し、双方の目標値を混合した値を露出制御の明るさ制御目標値としている。   The correspondence relationship shown in FIG. 4C is the correspondence relationship between the brightness control target value for the road surface (vertical axis) and the brightness control map number (horizontal axis) shown in FIG. ) And the correspondence relationship (illustrated by a broken line) of the brightness control target value (vertical axis) for the obstacle (recognition target object) to the number (horizontal axis) of the brightness control map shown in FIG. (Specifically average). That is, not only the brightness control target value for the recognition target object but also the road brightness control target value is set, and a value obtained by mixing both target values is used as the brightness control target value for exposure control.

また、図4(c)の対応関係から明らかなように、夜間用の明るさ制御目標値は、光源部分のふくらみを抑える理由などから、昼間(日中)用の明るさ制御目標値に比べて低く設定されている。また、朝方や夕方のように、夜間と昼間との間の期間(夜間境界と昼間境界との間の期間)は、画像の明るさの急変を防ぐために、明るさ制御目標値を徐々に変化させる。なお、本実施形態では、昼間や夜間の判断を、使用中の明るさ制御マップの番号に基づき行うようにしている。すなわち、前述した説明(図2(b))から明らかなように、撮影対象の明るさ測定値が大きいほど番号の大きい明るさ制御マップが使用される傾向があり、使用中の明るさ制御マップの番号から外部の明るさを判断することができる。   Further, as is apparent from the correspondence relationship in FIG. 4C, the brightness control target value for nighttime is compared with the brightness control target value for daytime (daytime) for reasons such as suppressing the swelling of the light source part. Is set low. Also, in the morning and evening, during the period between night and daytime (the period between nighttime and daytime boundaries), the brightness control target value is gradually changed to prevent sudden changes in image brightness. Let In the present embodiment, daytime or nighttime determination is performed based on the number of the brightness control map in use. That is, as apparent from the above description (FIG. 2B), the brightness control map having a larger number tends to be used as the brightness measurement value of the photographing target increases, and the brightness control map in use is in use. The brightness of the outside can be determined from the number.

続いて、S120では、不感帯を算出する。ここで、不感帯とは、明るさ制御状態が頻繁に変化するのを防止するため、露出制御を実行すべきか否かの判定用しきい値として利用されるものである。具体的には、図5に示すように、現在使用中のN番目の明るさ制御マップと、S110で算出した明るさ制御目標値Vとに基づき判断される撮影対象の明るさを基準として、その前後1段分の明るさ制御マップに相当する明るさの範囲Bを不感帯として算出する。つまり、N−1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさから、N+1番目の明るさ制御マップと明るさ制御目標値Vとに基づき判断される撮影対象の明るさまでの範囲Bを、不感帯として算出する。そして、後述するように、実際の明るさ測定値が不感帯の範囲内であれば、露出制御を行わない(明るさ制御マップを切り替えない)ようにする。   Subsequently, in S120, a dead zone is calculated. Here, the dead zone is used as a threshold value for determining whether to perform exposure control in order to prevent the brightness control state from changing frequently. Specifically, as shown in FIG. 5, with reference to the brightness of the shooting target determined based on the Nth brightness control map currently in use and the brightness control target value V calculated in S110, A brightness range B corresponding to the brightness control map for one level before and after that is calculated as a dead zone. That is, it is determined based on the (N + 1) th brightness control map and the brightness control target value V from the brightness of the shooting target determined based on the (N-1) th brightness control map and the brightness control target value V. A range B up to the brightness of the shooting target is calculated as a dead zone. Then, as will be described later, if the actual brightness measurement value is within the range of the dead zone, exposure control is not performed (the brightness control map is not switched).

続いて、S130では、カメラ21から取り込んだ画像データにおける特定領域の画素値に基づき、露出制御に用いる前方の明るさ(撮影対象の明るさ)を測定する前方明るさ測定処理を行う。具体的には、図6のフローチャートに示す処理を行う。   Subsequently, in S <b> 130, a forward brightness measurement process for measuring the forward brightness used for exposure control (the brightness of the shooting target) based on the pixel value of the specific area in the image data captured from the camera 21 is performed. Specifically, the processing shown in the flowchart of FIG. 6 is performed.

すなわち、まず、S131では、撮影画像におけるあらかじめ決められた位置(固定位置)に設定された明るさ測定用の領域(以下「明るさ測定領域」という。)から、水平方向のライン単位で画素を取り込む。   That is, first, in S131, pixels are determined in units of horizontal lines from a brightness measurement area (hereinafter referred to as “brightness measurement area”) set at a predetermined position (fixed position) in a captured image. take in.

ここで、明るさ測定領域は、図7に示すように、前方車両の明るさを検出するための台形状の障害物(認識対象物)用領域と、路面の明るさを検出するための長方形状の路面用領域とからなる。つまり、前方車両の明るさを測定する領域とは別に、路面の明るさを測定する領域を設定し、双方の明るさを混合した明るさを明るさ測定結果としている。   Here, as shown in FIG. 7, the brightness measurement area includes a trapezoidal obstacle (recognition target) area for detecting the brightness of the vehicle ahead and a rectangle for detecting the brightness of the road surface. And a road surface area. In other words, a region for measuring the brightness of the road surface is set separately from the region for measuring the brightness of the vehicle ahead, and the brightness obtained by mixing the two brightnesses is used as the brightness measurement result.

具体的には、路面用領域は、自車からの前方距離7〜27m程度をカバーする縦幅と、自車が走行する車線を区画する左右両側の2本の白線が含まれる程度の横幅とを有する長方形状の領域に設定されている。   Specifically, the road surface area has a vertical width that covers a forward distance of about 7 to 27 m from the own vehicle, and a horizontal width that includes two white lines on both the left and right sides that divide the lane in which the own vehicle travels. Is set to a rectangular region having

一方、障害物用領域は、上方向の位置がカメラ21の無限遠点(FOE:Focus of Expansion)に設定されている。また、自車前方へレーダ波をスキャンしてその反射波を検出することで前方物体の位置、速度、形状等を求めるミリ波レーダによる検知エリアの幅(±10°)をベースに横幅が設定されている。ただし、割り込み車両などへの露出合わせを早める目的や、路面用領域とシームレスにつなげる目的などから、下方へ広がりをつけた台形状の領域に設定されている。なお、FOEよりも上方は、空や建築構造物など、認識対象とは関係のないものが多いため、それらの影響を抑えるために取り込まないようにしている。   On the other hand, the obstacle region has an upward position set at an infinite point (FOE: Focus of Expansion) of the camera 21. Also, the horizontal width is set based on the width (± 10 °) of the detection area by the millimeter wave radar that scans the radar wave in front of the vehicle and detects the reflected wave to determine the position, speed, shape, etc. of the front object. Has been. However, it is set to a trapezoidal area that spreads downward for the purpose of speeding up the exposure to an interrupting vehicle or for the purpose of seamless connection with the road surface area. In addition, since there are many things which are not related to recognition objects, such as the sky and a building structure, above FOE, it is not taken in to suppress those influences.

そして、このように設定された明るさ測定領域全域から、水平方向のライン単位で画素を取り込む。本実施形態では、処理負荷軽減のため、明るさ測定領域のすべての画素を取り込むことはせず、ラインを間引いて取り込むことにより、取り込み画素数を減らすようにしている。具体的には、路面用領域については、自車からの距離がほぼ等間隔となるように(撮影画像において上方ほど間隔が狭くなるように)ライン間隔が設定されており、障害物用領域については、撮影画像においてほぼ等間隔となるようにライン間隔が設定されている。   Then, pixels are captured in units of horizontal lines from the entire brightness measurement region set in this way. In this embodiment, in order to reduce the processing load, not all pixels in the brightness measurement region are captured, but the number of captured pixels is reduced by thinning out the lines and capturing them. Specifically, with respect to the road surface area, the line interval is set so that the distance from the own vehicle is substantially equal (so that the distance is narrower toward the top in the captured image). In the captured image, the line interval is set so as to be approximately equal.

また、図8に示すように、各ライン上においても画素を間引いて取り込むようにしている。本実施形態では、すべてのラインで同数の画素が取り込まれるように、各ラインにおいてほぼ等間隔で画素を間引くようにしている。   Further, as shown in FIG. 8, pixels are thinned out and captured on each line. In the present embodiment, pixels are thinned out at almost equal intervals in each line so that the same number of pixels is captured in all lines.

続いて、S132では、図9に示すように、ラインごとに、取り込んだ画素を明るさでソートし、最も明るい所定数の画素及び最も暗い所定数の画素を除去する。すなわち、図10にも示すように、例えば、アスファルト路面では、高輝度の白線(路上ペイント)等が邪魔となり、コンクリート路面では、低輝度の補修部分や道路の金属継ぎ目等が邪魔となる。そこで、路面の明るさを求める際に、明るい部分及び暗い部分の画素を除去することで、外乱の影響を除去するようにしている。   Subsequently, in S132, as shown in FIG. 9, the captured pixels are sorted by brightness for each line, and the brightest predetermined number of pixels and the darkest predetermined number of pixels are removed. That is, as shown in FIG. 10, for example, a high-intensity white line (on-road paint) or the like is an obstacle on an asphalt road surface, and a low-luminance repair portion or a road metal joint is an obstacle on a concrete road surface. Therefore, when determining the brightness of the road surface, the influence of the disturbance is removed by removing the pixels of the bright part and the dark part.

ここで、自車近傍では、白線やコールタール等、明るさによって省きたいものを比較的適切に区別できるのに対し、遠方になるほど適切な区別が困難となる。このため、明るい部分や暗い部分の画素の除去量を遠方ほど少なくし、最も遠方のラインではソートによる選別(画素の除去処理)を行わないようにする。   Here, in the vicinity of the own vehicle, what is to be omitted such as a white line and coal tar can be distinguished relatively appropriately depending on the brightness, but it becomes difficult to distinguish appropriately as the distance increases. For this reason, the removal amount of the pixels in the bright part and the dark part is reduced as the distance increases, and sorting (pixel removal processing) by sorting is not performed in the farthest line.

続いて、S133では、S132で明暗部を除去した残りの中間値周辺の画素のみから、図11に示すように、ラインごとに画素の明るさの平均値(上からi番目(1≦i≦L)のラインの平均値をBi,tと表す。)を算出する。このように中間値周辺の画素のみから平均値をとることで、平均値の時間変化を安定させるようにしている。 Subsequently, in S133, from only the remaining pixels around the intermediate value from which the light and dark portions have been removed in S132, as shown in FIG. 11, the average value of the pixel brightness for each line (i-th (1 ≦ i ≦ 1) from the top) The average value of the line of L) is expressed as Bi, t ). In this way, by taking the average value only from the pixels around the intermediate value, the temporal change of the average value is stabilized.

続いて、S134では、各ラインの明るさ平均値を、次のようにフィルタ用にバッファする(バッファ時間:t〜t−T)。
1番目のライン:B1,t・・・B1,t-T
i番目のライン:Bi,t・・・Bi,t-T
L番目のライン:BL,t・・・BL,t-T
続いて、S135では、S134でバッファした各ラインの明るさ平均値をフィルタリングする。
Subsequently, in S134, the average brightness value of each line is buffered for filtering as follows (buffer time: t to t−T).
First line: B 1, t ... B 1, tT
i-th line: B i, t ... B i, tT
Lth line: B L, t ... B L, tT
Subsequently, in S135, the brightness average value of each line buffered in S134 is filtered.

1番目のライン:B1,t・・・B1,t-T→F1,t
i番目のライン:Bi,t・・・Bi,t-T→Fi,t
L番目のライン:BL,t・・・BL,t-T→FL,t
すなわち、FOE周辺など車両などによる光源が入り込みやすい領域を使用することから、明るさ測定値が不安定となるため、時間フィルタを用いて、明るさ測定値のばらつきを押さえるようにするのである。
First line: B 1, t ... B 1, tT → F 1, t
i-th line: B i, t ... B i, tT → F i, t
Lth line: B L, t ... B L, tT → F L, t
That is, since a brightness measurement value becomes unstable because an area where a light source such as a vehicle is likely to enter, such as around the FOE, a variation in the brightness measurement value is suppressed by using a time filter.

具体的には、自車近傍のラインの平均値は、路面程度であり、ばらつきは少ないのに対し、遠方のラインの平均値は、車両のピッチングや光源の高速移動(対向車)など、もっともばらつきが大きく、ある程度長時間(例えば700ms)データをバッファして時間平均をとる必要がある。そこで、図12に示すように、遠方ほどノイズに強い(遅れの大きい)時間フィルタを使用し、近傍のラインでは時間フィルタ処理を行わないようにする。   Specifically, the average value of the lines in the vicinity of the host vehicle is about the road surface and there is little variation, while the average value of the distant lines is the most, such as vehicle pitching or high-speed movement of the light source (oncoming vehicle). There is a large variation, and it is necessary to take a time average by buffering data for a long time (for example, 700 ms). Therefore, as shown in FIG. 12, a time filter that is more resistant to noise (having a larger delay) is used as it is farther away, and time filter processing is not performed on nearby lines.

ただし、トンネル出入口など、明るさが急変する場合にはすばやい追従を可能とするため、各ラインの平均値のばらつき方に応じたフィルタリングを行い、ばらつき削減と反応速度とを両立させるようにしている。具体的には、図13に示すように、平均値の時間変化にトレンドがある(ばらつきがない)と判定した場合には、時間フィルタ処理を行わないようにする。一方、平均値の時間変化に突発的な値が入ったと判定した場合には、加重メディアンフィルタ(重みつきメディアンフィルタ)の時間フィルタ処理を行い、それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。なお、ここでいう加重メディアンフィルタとは、古いデータよりも新しいデータに重みがかかるメディアンフィルタのことである。   However, in order to enable quick follow-up when the brightness changes suddenly, such as at the entrance and exit of a tunnel, filtering is performed according to how the average value of each line varies, so that both variation reduction and reaction speed are compatible. . Specifically, as shown in FIG. 13, when it is determined that there is a trend (no variation) in the time variation of the average value, the time filter processing is not performed. On the other hand, when it is determined that there is a sudden value in the time variation of the average value, the time filter processing of the weighted median filter (weighted median filter) is performed, and in other cases, the time filter of the average value filter is performed. Process. Note that the weighted median filter here is a median filter in which new data is weighted more than old data.

ここで、図13の判定方法について更に詳述する。
例えば、バッファ時間(t〜t−T)のT=4であり、i番目のラインの明るさ平均値が次のような関係にあるとする。
Here, the determination method of FIG. 13 will be described in more detail.
For example, it is assumed that the buffer time (t to t−T) is T = 4 and the average brightness value of the i-th line has the following relationship.

i,t-1<Bi,t-3<Bi,t-2<Bi,t-4<Bi,t-0
式(1)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)/2×時間差分離れている場合には、突発的な値が入ったと判定し、加重メディアンフィルタの時間フィルタ処理を行う。
B i, t-1 <B i, t-3 <B i, t-2 <B i, t-4 <B i, t-0
As shown in the equation (1), when the latest value and the median value in the buffer are away from the dead band (DZW) / 2 × time difference, it is determined that a sudden value is entered, and the weighted median filter The time filtering process is performed.

Figure 0004389999
また、式(2)に示すように、バッファ内の最新値と中央値とが、不感帯幅(DZW)×時間差分離れている場合や、式(3)に示すように、バッファ内の最新値と最旧値とが、不感帯幅(DZW)×時間差分離れている場合には、トレンドがあると判定し、時間フィルタ処理を行わない。
Figure 0004389999
Further, as shown in Expression (2), when the latest value and the median value in the buffer are separated by the dead band (DZW) × time difference, or as shown in Expression (3), the latest value in the buffer. And the oldest value are in the dead zone width (DZW) × time difference, it is determined that there is a trend, and the time filter process is not performed.

Figure 0004389999
それ以外の場合には、平均値フィルタの時間フィルタ処理を行う。
Figure 0004389999
In other cases, the time filter process of the average value filter is performed.

続いて、S136では、式(4)に示すように、各ラインの明るさを平均して、画面全体の明るさを求める。なお、Wは、ラインごとに設定されたウェイトであり、例えば次のような考え方で設定することができる。すなわち、前方車両が存在しうる領域である明るさ測定領域の明るさ平均値(第1の平均値)と、明るさの安定した領域である路面用領域の明るさ平均値(第2の平均値)とを混合(例えば平均)した値を、画面全体の明るさとして求めることが考えられる。この場合、各ラインの明るさから第1の平均値を求める際には、近傍ほど重みを減らして平均をとり、逆に、第2の平均値を求める際には、遠方ほど重みを減らして平均をとるようにすることが好ましい。   Subsequently, in S136, as shown in Expression (4), the brightness of each line is averaged to obtain the brightness of the entire screen. Note that W is a weight set for each line, and can be set, for example, in the following manner. That is, the average brightness value (first average value) of the brightness measurement area, which is an area where the vehicle ahead can exist, and the average brightness value (second average value) of the road surface area, which is a stable brightness area. It is conceivable to obtain a value obtained by mixing (for example, averaging) with the brightness of the entire screen. In this case, when obtaining the first average value from the brightness of each line, the weight is reduced as the neighborhood is averaged, and conversely, when obtaining the second average value, the weight is reduced as the distance is further away. It is preferable to take an average.

Figure 0004389999
続いて、S137で、明るさのハンチング対策として、S136で算出した明るさの平均結果にローパスフィルタ(LPF)をかけて明るさ制御に用いる明るさ測定値とした後、本前方明るさ測定処理を終了する。ただし、ローパスフィルタをかけると反応速度が低下するので、図14に示すように、明るさの平均結果が明るさ制御の不感帯を超えて振動している(ばらついている)場合にのみローパスフィルタをかけ、それ以外の場合にはローパスフィルタをかけないようにする。
Figure 0004389999
Subsequently, in S137, as a measure for brightness hunting, a brightness measurement value used for brightness control is obtained by applying a low-pass filter (LPF) to the brightness average result calculated in S136, and then the front brightness measurement process. Exit. However, since the reaction speed decreases when the low-pass filter is applied, as shown in FIG. 14, the low-pass filter is used only when the average result of brightness vibrates beyond the dead zone of the brightness control. Otherwise, do not apply a low-pass filter.

具体的には、次の[1]〜[5]の手順で処理を行う。
[1]画面明るさをバッファする(バッファ時間:t〜t−P)。
IMG#Temp,t・・・BIMG#Temp,t-P
[2]式(5)に示すように、画面明るさの差分をバッファする(バッファ時間:0〜P−1)。
Specifically, processing is performed according to the following procedures [1] to [5].
[1] Buffer the screen brightness (buffer time: t to t-P).
B IMG # Temp, t・ ・ ・ B IMG # Temp, tP
[2] As shown in equation (5), the difference in screen brightness is buffered (buffer time: 0 to P-1).

Figure 0004389999
[3]変動回数をカウントする。具体的には、Diff0・・・DiffP-1において、隣接するDiffi・・・Diffi-1の符号が異なる回数をカウントする。
Figure 0004389999
[3] Count the number of fluctuations. Specifically, in Diff 0 ··· Diff P-1, and counts the number of times the code of the neighboring Diff i ··· Diff i-1 are different.

[4]不感帯(DZW)の半値幅に対する変動の大きさを評価する。具体的には、式(6)の関係を満たす場合にはC=1.0と判定し、式(7)の関係を満たす場合には図15のグラフに基づき判定する。   [4] Evaluate the magnitude of the variation with respect to the half width of the dead zone (DZW). Specifically, C = 1.0 is determined when the relationship of Expression (6) is satisfied, and determination is made based on the graph of FIG. 15 when the relationship of Expression (7) is satisfied.

Figure 0004389999
[5]式(8)に従いローパスフィルタをかける。
Figure 0004389999
[5] A low-pass filter is applied according to equation (8).

Figure 0004389999
続いて、S140では、S130で測定した前方明るさが、S120で算出した不感帯(図5のB)の範囲内であるか否かを判定する。
Figure 0004389999
Subsequently, in S140, it is determined whether or not the forward brightness measured in S130 is within the range of the dead zone (B in FIG. 5) calculated in S120.

そして、S140で、前方明るさが不感帯の範囲内でないと判定した場合には、S150へ移行し、S110で算出した明るさ制御目標値と、S130で測定した明るさ測定値とに基づき、最適な明るさ制御マップを選択するゲイン・シャッタースピード制御を行った後、本露出制御処理を終了する。   If it is determined in S140 that the front brightness is not within the dead zone, the process proceeds to S150, and the optimum brightness is determined based on the brightness control target value calculated in S110 and the brightness measurement value measured in S130. After performing gain / shutter speed control for selecting a proper brightness control map, the exposure control process is terminated.

具体的には、本実施形態では、図16に示すように、カメラモジュールの持つハイダイナミックレンジ(HDR)設定を用いて、画面のダイナミックレンジを拡大するようにしている。すなわち、イメージャのハイダイナミックレンジ設定を用いて、明るさ制御マップにおける画素値と輝度との相関関係に折れ目がつけられており、画面のダイナミックレンジが拡大されている。ただし、折れ線として設定できる形状は、ゲイン、シャッタースピード等により複雑な制約を受けるので、その制約下で、なるべく各明るさ制御マップ間で大きく折れ線形状が変わらないような形状算出が行われている。このような明るさ制御マップを用いることで、トンネル出口のように路面輝度が非常に大きく変化する場合であっても、カメラ21の露出状態を適正な状態に制御するまでの時間を短縮することができる。   Specifically, in the present embodiment, as shown in FIG. 16, the dynamic range of the screen is expanded by using a high dynamic range (HDR) setting of the camera module. That is, using the high dynamic range setting of the imager, the correlation between the pixel value and the luminance in the brightness control map is folded, and the dynamic range of the screen is expanded. However, since the shape that can be set as a polygonal line is subject to complicated restrictions due to gain, shutter speed, etc., the shape calculation is performed so that the polygonal line shape does not change greatly between each brightness control map as much as possible. . By using such a brightness control map, even when the road surface brightness changes significantly as in a tunnel exit, the time until the exposure state of the camera 21 is controlled to an appropriate state can be shortened. Can do.

一方、S140で、前方明るさが不感帯の範囲内であると判定した場合には、S150をスキップして本露出制御処理を終了する。
[4.効果]
以上説明したように、本実施形態の露出制御装置10では、カメラ21の撮影画像における明るさ測定領域から水平方向のライン単位で画素を抽出し(S131)、抽出した画素の平均値をラインごとに算出する(S132,S133)。そして、各ラインの平均値に対して、撮影画像における遠方部分を示すラインほどフィルタ効果が大きくなるように時間フィルタ処理を施す(S134,S135)。さらに、各ラインの平均値に基づき撮影対象の明るさを測定し(S136,S137)、その測定値に基づいて露出制御を行う(S150)。
On the other hand, if it is determined in S140 that the front brightness is within the dead zone, S150 is skipped and the exposure control process is terminated.
[4. effect]
As described above, in the exposure control apparatus 10 of the present embodiment, pixels are extracted in units of horizontal lines from the brightness measurement region in the captured image of the camera 21 (S131), and the average value of the extracted pixels is calculated for each line. (S132, S133). Then, a time filter process is performed on the average value of each line so that the line effect indicating the farther part in the captured image has a greater filter effect (S134, S135). Further, the brightness of the photographing target is measured based on the average value of each line (S136, S137), and exposure control is performed based on the measured value (S150).

このような露出制御装置10によれば、画素を間引いて取り込むことによる撮影対象の明るさ測定値のばらつきを効率よく抑えることができる。すなわち、撮影画像における遠方部分ほど明るさ測定値がばらつきやすくなるが、撮影画像における遠方部分を示すラインほどフィルタ効果が大きくなるように時間フィルタ処理を施すことで、ばらつきを効率よく抑えることができるからである。   According to such an exposure control apparatus 10, it is possible to efficiently suppress variations in brightness measurement values of a subject to be photographed by thinning out and capturing pixels. In other words, the brightness measurement value is more likely to vary in the far part of the captured image, but the dispersion can be efficiently suppressed by performing the time filter process so that the filter effect is increased in the line indicating the far part of the captured image. Because.

特に、本実施形態の露出制御装置10では、ラインごとに平均値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ時間フィルタ処理を施すようにしているため、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。   In particular, in the exposure control apparatus 10 of the present embodiment, it is determined whether or not the temporal change in the average value varies for each line, and the time filter process is performed only when it is determined that the variation is present. It is possible to prevent the reaction speed with respect to the change in brightness from excessively decreasing.

また、本実施形態の露出制御装置10では、ラインごとの平均値に基づき測定した撮影対象の明るさ測定値に対し、ローパスフィルタによる処理を施すようにしているため、測定値のばらつきを低減することができる。   Moreover, in the exposure control apparatus 10 of this embodiment, since the brightness measurement value of the object to be photographed measured based on the average value for each line is processed by the low-pass filter, the variation in the measurement value is reduced. be able to.

特に、本実施形態の露出制御装置10では、撮影対象の明るさ測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施すようにしているため、明るさの変化に対する反応速度が過剰に低下してしまうことを防ぐことができる。   In particular, in the exposure control device 10 of the present embodiment, it is determined whether or not the temporal change in the brightness measurement value of the subject to be photographed varies, and only when it is determined that the variation has occurred, the processing by the low-pass filter is performed. Therefore, it is possible to prevent an excessive decrease in the reaction speed with respect to the change in brightness.

[5.特許請求の範囲との対応]
なお、本実施形態の露出制御装置10では、S131の処理を実行するCPU11が抽出手段に相当し、S132〜S135の処理を実行するCPU11が算出手段に相当し、S136,S137の処理を実行するCPU11が測定手段に相当し、S150の処理を実行するCPU11が露出制御手段に相当する。
[5. Correspondence with Claims]
In the exposure control apparatus 10 of the present embodiment, the CPU 11 that executes the process of S131 corresponds to the extracting unit, and the CPU 11 that executes the processes of S132 to S135 corresponds to the calculating unit, and executes the processes of S136 and S137. The CPU 11 corresponds to the measurement unit, and the CPU 11 that executes the process of S150 corresponds to the exposure control unit.

[6.他の形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
[6. Other forms]
As mentioned above, although embodiment of this invention was described, it cannot be overemphasized that this invention can take a various form, without being limited to the said embodiment.

上記実施形態の露出制御装置10では、ラインごとに平均値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ時間フィルタ処理を施すようにしているが、これに限定されるものではない。例えば、ばらついているか否かに関係なく時間フィルタ処理を施すようにしてもよい。逆に、時間フィルタ処理を一切施さないようにしてもよい。   In the exposure control apparatus 10 of the above-described embodiment, it is determined whether or not the temporal change in the average value varies for each line, and the time filter process is performed only when it is determined that the variation is present. It is not limited to. For example, time filter processing may be performed regardless of whether or not there is variation. Conversely, no time filtering process may be performed.

また、上記実施形態の露出制御装置10では、撮影対象の明るさ測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、ローパスフィルタによる処理を施すようにしているが、これに限定されるものではない。例えば、ばらついているか否かに関係なくローパスフィルタによる処理を施すようにしてもよい。逆に、ローパスフィルタによる処理を一切施さないようにしてもよい。   Further, in the exposure control apparatus 10 of the above embodiment, it is determined whether or not the temporal change in the brightness measurement value of the subject to be photographed varies, and only when it is determined that the variation has occurred, the processing by the low-pass filter is performed. However, it is not limited to this. For example, a process using a low-pass filter may be performed regardless of whether there is variation. Conversely, no processing using a low-pass filter may be performed.

さらに、上記実施形態の露出制御装置10では、明るさ測定領域から水平方向のライン単位で画素を抽出するようにしているが、これに限定されるものではなく、ライン以外のグループ単位で画素を抽出するようにしてもよい。   Furthermore, in the exposure control device 10 of the above embodiment, pixels are extracted in units of horizontal lines from the brightness measurement region. However, the present invention is not limited to this, and pixels are extracted in units of groups other than lines. You may make it extract.

一方、上記実施形態では、前方車両の認識に基づく警報処理及び操舵制御を行うシステムに本発明を適用した構成を例示したが、これに限定されるものではなく、例えば、道路の白線の認識に基づく警報処理や操舵制御等を行うシステムなどに適用することも可能である。   On the other hand, in the above embodiment, the configuration in which the present invention is applied to a system that performs alarm processing and steering control based on recognition of a preceding vehicle is illustrated, but the present invention is not limited to this. For example, for recognition of a white line on a road It is also possible to apply to a system that performs alarm processing based on the above, steering control, and the like.

また、上記実施形態で示した明るさ測定領域はあくまでも一例に過ぎず、実行する制御等に応じて最適な領域を設定すればよい。   In addition, the brightness measurement area shown in the above embodiment is merely an example, and an optimal area may be set according to the control to be executed.

実施形態の露出制御装置の構成を示すブロック図である。It is a block diagram which shows the structure of the exposure control apparatus of embodiment. 明るさ制御マップの説明図である。It is explanatory drawing of a brightness control map. 露出制御処理のフローチャートである。It is a flowchart of an exposure control process. 明るさ制御目標値の設定方法の説明図である。It is explanatory drawing of the setting method of a brightness control target value. 不感帯の設定方法の説明図である。It is explanatory drawing of the setting method of a dead zone. 前方明るさ測定処理のフローチャートである。It is a flowchart of a front brightness measurement process. 明るさ測定領域の説明図である。It is explanatory drawing of a brightness measurement area | region. ライン上における画素の間引き方法の説明図である。It is explanatory drawing of the thinning-out method of the pixel on a line. 各ラインにおける画素の明暗部の除去方法の説明図である。It is explanatory drawing of the removal method of the bright-dark part of the pixel in each line. 取り込み画素の分布例を示すグラフである。It is a graph which shows the example of a distribution of an acquisition pixel. ラインごとに画素の明るさ平均値を算出する説明図である。It is explanatory drawing which calculates the brightness average value of a pixel for every line. ラインごとの時間フィルタの設定方法を示す説明図である。It is explanatory drawing which shows the setting method of the time filter for every line. 時間フィルタ処理を行うか否かの判定方法の説明図である。It is explanatory drawing of the determination method of whether to perform a time filter process. ローパスフィルタをかけるか否かの判定方法の説明図である。It is explanatory drawing of the determination method of whether to apply a low-pass filter. 不感帯の半値幅に対する変動の大きさを評価するためのグラフである。It is a graph for evaluating the magnitude | size of the fluctuation | variation with respect to the half value width of a dead zone. 画素値と輝度との相関関係に折れ目がつけられた明るさ制御マップの説明図である。It is explanatory drawing of the brightness control map by which the correlation was made into the correlation of a pixel value and a brightness | luminance. 遠方部分の明るさの測定結果がばらつく原理を説明するための説明図である。It is explanatory drawing for demonstrating the principle from which the measurement result of the brightness of a distant part varies.

符号の説明Explanation of symbols

10…露出制御装置、11…CPU、12…メモリ、13…画像インタフェース、14…通信インタフェース、21…カメラ、22…統合判断ECU、23…警報部、24…操舵ECU   DESCRIPTION OF SYMBOLS 10 ... Exposure control device, 11 ... CPU, 12 ... Memory, 13 ... Image interface, 14 ... Communication interface, 21 ... Camera, 22 ... Integrated judgment ECU, 23 ... Alarm part, 24 ... Steering ECU

Claims (6)

自車前方を撮影する車載カメラの露出制御を行う露出制御装置であって、
前記車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、
前記抽出手段により抽出された画素の平均的な明るさを前記グループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を施す算出手段と、
前記算出手段による前記グループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、
前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段と、
を備え、
前記算出手段は、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように前記時間フィルタ処理を施すこと
を特徴とする露出制御装置。
An exposure control device that performs exposure control of an in-vehicle camera that captures the front of the vehicle,
Extracting means for extracting pixels in units of a plurality of groups from a region for measuring brightness in a photographed image of the in-vehicle camera;
A calculation unit that calculates an average brightness of the pixels extracted by the extraction unit for each of the groups, and that performs a time filter process that relaxes a temporal change with respect to each calculated value;
Measuring means for measuring the brightness of the object to be photographed based on the calculated value for each group by the calculating means;
Exposure control means for performing the exposure control based on a measurement value by the measurement means;
With
The exposure control apparatus characterized in that the calculation means performs the time filtering process so that a filter effect becomes larger in a group indicating a distant portion in a captured image.
前記抽出手段は、前記明るさ測定用の領域から水平方向のライン単位で画素を抽出し、
前記算出手段は、遠方のラインほどフィルタ効果が大きくなるように前記時間フィルタ処理を施すこと
を特徴とする請求項1に記載の露出制御装置。
The extraction means extracts pixels in units of horizontal lines from the brightness measurement region,
The exposure control apparatus according to claim 1, wherein the calculation unit performs the time filtering process so that a farther line has a greater filter effect.
前記算出手段は、前記算出値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、前記時間フィルタ処理を施すこと
を特徴とする請求項1又は請求項2に記載の露出制御装置。
3. The calculation unit according to claim 1, wherein the calculation unit determines whether or not a temporal change in the calculated value varies, and performs the time filter process only when it is determined that the calculation value varies. An exposure control device according to claim 1.
前記測定手段は、前記グループごとの算出値に基づき測定した撮影対象の明るさの測定値に対し、ローパスフィルタによる処理を施すこと
を特徴とする請求項1から請求項3までのいずれか1項に記載の露出制御装置。
The said measurement means performs the process by a low-pass filter with respect to the measured value of the brightness of the imaging | photography object measured based on the calculated value for every said group. The any one of Claim 1- Claim 3 characterized by the above-mentioned. An exposure control device according to claim 1.
前記測定手段は、前記測定値の時間的変化がばらついているか否かを判定し、ばらついていると判定した場合にのみ、前記ローパスフィルタによる処理を施すこと
を特徴とする請求項4に記載の露出制御装置。
5. The method according to claim 4, wherein the measurement unit determines whether or not the temporal change of the measurement value varies, and performs the processing by the low-pass filter only when it is determined that the measurement value varies. Exposure control device.
自車前方を撮影する車載カメラの露出制御を行う露出制御装置としてコンピュータを機能させるための露出制御プログラムであって、
前記車載カメラの撮影画像における明るさ測定用の領域から複数のグループ単位で画素を抽出する抽出手段と、
前記抽出手段により抽出された画素の平均的な明るさを前記グループごとに算出し、各算出値に対して時間的変化を緩和する時間フィルタ処理を、撮影画像における遠方部分を示すグループほどフィルタ効果が大きくなるように施す算出手段と、
前記算出手段による前記グループごとの算出値に基づき撮影対象の明るさを測定する測定手段と、
前記測定手段による測定値に基づいて前記露出制御を行う露出制御手段
としてコンピュータを機能させることを特徴とする露出制御プログラム。
An exposure control program for causing a computer to function as an exposure control device that performs exposure control of an in-vehicle camera that captures the front of the vehicle,
Extracting means for extracting pixels in units of a plurality of groups from a region for measuring brightness in a photographed image of the in-vehicle camera;
The average brightness of the pixels extracted by the extraction means is calculated for each group, and the time filter processing for relaxing the temporal change with respect to each calculated value. Calculating means to be applied to increase,
Measuring means for measuring the brightness of the object to be photographed based on the calculated value for each group by the calculating means;
An exposure control program for causing a computer to function as exposure control means for performing the exposure control based on a measurement value obtained by the measurement means.
JP2007334936A 2007-12-26 2007-12-26 Exposure control device and exposure control program Active JP4389999B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007334936A JP4389999B2 (en) 2007-12-26 2007-12-26 Exposure control device and exposure control program
US12/318,144 US8149325B2 (en) 2007-12-26 2008-12-22 Exposure control apparatus and exposure control program for vehicle-mounted electronic camera
DE102008063122.1A DE102008063122B4 (en) 2007-12-26 2008-12-24 Exposure control device and exposure control program for electronic vehicle camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007334936A JP4389999B2 (en) 2007-12-26 2007-12-26 Exposure control device and exposure control program

Publications (2)

Publication Number Publication Date
JP2009157087A JP2009157087A (en) 2009-07-16
JP4389999B2 true JP4389999B2 (en) 2009-12-24

Family

ID=40786060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007334936A Active JP4389999B2 (en) 2007-12-26 2007-12-26 Exposure control device and exposure control program

Country Status (3)

Country Link
US (1) US8149325B2 (en)
JP (1) JP4389999B2 (en)
DE (1) DE102008063122B4 (en)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5328815B2 (en) * 2009-01-14 2013-10-30 パナソニック株式会社 Imaging apparatus and imaging method
JP2010177821A (en) * 2009-01-27 2010-08-12 Sony Corp Imaging apparatus and imaging method
US9077905B2 (en) * 2009-02-06 2015-07-07 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
US8355059B2 (en) * 2009-02-06 2013-01-15 Canon Kabushiki Kaisha Image capturing apparatus and control method thereof
JP2011119785A (en) * 2009-11-30 2011-06-16 Fujitsu Ltd Camera control apparatus, and method for controlling camera
JP5427744B2 (en) * 2010-09-30 2014-02-26 日立オートモティブシステムズ株式会社 Image processing device
JP5246254B2 (en) * 2010-12-24 2013-07-24 株式会社デンソー Determining the exposure control value for in-vehicle cameras
JP5937832B2 (en) * 2012-01-30 2016-06-22 クラリオン株式会社 In-vehicle camera exposure control system
JP6171264B2 (en) * 2012-03-30 2017-08-02 株式会社デンソー Imaging device
JP6087858B2 (en) * 2014-03-24 2017-03-01 株式会社日本自動車部品総合研究所 Traveling lane marking recognition device and traveling lane marking recognition program
JP6390512B2 (en) * 2015-05-21 2018-09-19 株式会社デンソー In-vehicle camera device
JP6657925B2 (en) * 2015-06-04 2020-03-04 ソニー株式会社 In-vehicle camera system and image processing device
CN105744177A (en) * 2016-02-17 2016-07-06 广州视睿电子科技有限公司 Lighting control method and system for video presenter
KR20180097966A (en) * 2017-02-24 2018-09-03 삼성전자주식회사 Image processing method for autonomous driving and apparatus thereof
WO2019194106A1 (en) 2018-04-06 2019-10-10 オリンパス株式会社 Image processing device, image processing method, and image processing program
WO2022014361A1 (en) 2020-07-15 2022-01-20 ソニーグループ株式会社 Information processing device, information processing method, and program
CN112153360B (en) * 2020-08-24 2022-03-18 青岛小鸟看看科技有限公司 Method, device and equipment for determining exposure parameters of head-mounted equipment
CN112689100B (en) * 2020-12-25 2022-08-02 北京灵汐科技有限公司 Image detection method, device, equipment and storage medium
CN114078406B (en) * 2021-11-23 2024-01-30 中国航空工业集团公司洛阳电光设备研究所 Anti-shake method for self-adaptive adjustment of brightness of vehicle-mounted AR-HUD

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5339163A (en) 1988-03-16 1994-08-16 Canon Kabushiki Kaisha Automatic exposure control device using plural image plane detection areas
US5255044A (en) 1990-06-05 1993-10-19 Nikon Corporation Automatic exposure control apparatus with improved exposure value calculation for photographing a moving object
JP3412174B2 (en) 1992-05-21 2003-06-03 松下電器産業株式会社 Automatic exposure control device
JPH06253208A (en) 1993-02-26 1994-09-09 Isuzu Motors Ltd Lane recognition device
JP3468428B2 (en) 1993-03-24 2003-11-17 富士重工業株式会社 Vehicle distance detection device
US20050083428A1 (en) * 1995-03-17 2005-04-21 Hiroto Ohkawara Image pickup apparatus
JP2001216520A (en) 2000-01-31 2001-08-10 Yazaki Corp Surroundings monitor device for vehicle
US7365779B2 (en) 2000-09-14 2008-04-29 Fujitsu Ten Limited Image processing apparatus for selectively storing specific regions of an image
US7251056B2 (en) * 2001-06-11 2007-07-31 Ricoh Company, Ltd. Image processing apparatus, image processing method and information recording medium
DE10337357A1 (en) 2003-08-14 2005-03-10 Adc Automotive Dist Control Method and device for lighting control for a camera
JP2005148308A (en) 2003-11-13 2005-06-09 Denso Corp Exposure controller for white line detection camera
US20080094471A1 (en) 2005-05-20 2008-04-24 Toyota Jidosha Kabushiki Kaisha Image Processor for Vehicles
JP4129031B2 (en) 2006-06-12 2008-07-30 株式会社日立製作所 Near-field light generator and recording / reproducing apparatus
JP2008028957A (en) 2006-07-25 2008-02-07 Denso Corp Image processing apparatus for vehicle
KR100918701B1 (en) 2007-10-11 2009-09-22 한국과학기술원 Method for robust automatic white balance

Also Published As

Publication number Publication date
JP2009157087A (en) 2009-07-16
US20090174808A1 (en) 2009-07-09
US8149325B2 (en) 2012-04-03
DE102008063122B4 (en) 2019-02-07
DE102008063122A1 (en) 2009-07-23

Similar Documents

Publication Publication Date Title
JP4389999B2 (en) Exposure control device and exposure control program
JP4433045B2 (en) Exposure control device and exposure control program
JP4433046B2 (en) Exposure control device and exposure control program
JP5375814B2 (en) Exposure control device
EP1767960B1 (en) Front image taking device
JP4248558B2 (en) Road marking line detection device
KR101367637B1 (en) Monitoring apparatus
JP5071198B2 (en) Signal recognition device, signal recognition method, and signal recognition program
JP6750519B2 (en) Imaging device, imaging display method, and imaging display program
JP5950196B2 (en) Imaging apparatus, and image analysis apparatus and moving apparatus using the same
US8373754B2 (en) Method and system for evaluating brightness values in sensor images of image-evaluating adaptive cruise control systems
EP2770478B1 (en) Image processing unit, imaging device, and vehicle control system and program
JP2008110715A (en) Vehicular automatic lighting system
JP2012073927A (en) Driving support apparatus
JP2009177309A (en) Adjusting device of imaging means and vehicle surroundings monitoring apparatus
US10462378B2 (en) Imaging apparatus
JP4400512B2 (en) In-vehicle camera control device
JP5246254B2 (en) Determining the exposure control value for in-vehicle cameras
KR102177878B1 (en) Apparatus and method for processing image
US20170364765A1 (en) Image processing apparatus, image processing system, vehicle, imaging apparatus and image processing method
JP4539400B2 (en) Stereo camera correction method and stereo camera correction device
JP2005148309A (en) Exposure controller for white line detection camera
JP2009038463A (en) Exposure adjustment method, vehicular imaging device, and motor vehicle
JP2006060504A (en) Exposure controller of camera for white line detection
JP2014135612A (en) Camera exposure setting device and camera exposure setting program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090928

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4389999

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121016

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131016

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250