JP2001043377A - External monitoring device having failsafe function - Google Patents

External monitoring device having failsafe function

Info

Publication number
JP2001043377A
JP2001043377A JP11216915A JP21691599A JP2001043377A JP 2001043377 A JP2001043377 A JP 2001043377A JP 11216915 A JP11216915 A JP 11216915A JP 21691599 A JP21691599 A JP 21691599A JP 2001043377 A JP2001043377 A JP 2001043377A
Authority
JP
Japan
Prior art keywords
image
luminance
failure
fail
monitoring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11216915A
Other languages
Japanese (ja)
Other versions
JP3272696B2 (en
Inventor
Itaru Seta
至 瀬田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP21691599A priority Critical patent/JP3272696B2/en
Publication of JP2001043377A publication Critical patent/JP2001043377A/en
Application granted granted Critical
Publication of JP3272696B2 publication Critical patent/JP3272696B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an external monitoring device which can secure an assured failsafe by detecting accurately the abnormality of a photographed image that is caused by the influence of light such as the weak backlight. SOLUTION: This external monitoring device can secure a failsafe to a decided fail and includes a pair of cameras 1 and 2 which photograph the outside scenes of a vehicle and a fail deciding part 12. The part 12 calculates the horizontal luminance distribution characteristics of the images photographed by the cameras 1 and 2 and then decides a fail if the calculated luminance distribution characteristics have the characteristic of a luminance distribution which occurs in the horizontal direction of an abnormal image that is to be decided as a fail.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、弱逆光等の光の影
響により、撮像された画像に異常が生じた場合に、フェ
ールセーフを行う車外監視装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an external monitoring apparatus that performs fail-safe when an abnormality occurs in a captured image due to the influence of light such as weak backlight.

【0002】[0002]

【従来の技術】近年、CCD等の固体撮像素子を内蔵し
た車載カメラを用いた車外監視装置が注目されている。
この装置は、車載カメラにより撮像された画像に基づい
て、走行環境(例えば、車外の対象物と自車輌との間の
距離等)を認識し、必要に応じて、ドライバーに注意を
喚起したり、シフトダウン等の車輌制御を行うものであ
る。例えば、ステレオ法による距離計測技術を用いて走
行環境の認識を行う場合、一対の撮像画像におけるある
対象物の位置的な差(視差)を求め、三角測量の原理を
用いて、その対象物までの距離(距離情報)を得ること
ができる。
2. Description of the Related Art In recent years, attention has been paid to a vehicle exterior monitoring device using a vehicle-mounted camera having a solid-state imaging device such as a CCD.
This device recognizes a driving environment (for example, a distance between an object outside the vehicle and the own vehicle) based on an image captured by a vehicle-mounted camera, and calls attention to a driver as necessary. And vehicle control such as downshifting. For example, when recognizing a traveling environment using a distance measurement technique based on a stereo method, a positional difference (parallax) of a certain object in a pair of captured images is obtained, and the target object is determined using the principle of triangulation. (Distance information) can be obtained.

【0003】このような車外監視装置を実用化するにあ
たっては、装置の安全動作を保証するために、フェール
セーフ機能を設ける必要がある。この類の装置で検出す
べきフェールの一つとして、太陽から車載カメラに直接
弱い光が射し込み、画像認識ができない状況(弱逆光状
況)が挙げられる。ここで、図7に示したような車輌前
方の撮像画像について考える。弱逆光状況が生じると、
図8に示したように、リング状の輝度飽和領域(以下、
これを逆光円という)が、画像の一部(同図左側)に発
生する。このような逆光円が画像中に生じると、その画
像領域およびその付近における画素の輝度値が飽和レベ
ルに達してしまうため、正しい画像情報を得ることがで
きなくなってしまう。その結果、その領域内に立体物が
存在していたとしても、それが逆光円によりマスクされ
てしまうため、立体物を正しく認識することが困難にな
る。さらに、逆光円のエッジは、水平方向の隣接画素間
の輝度変化が大きいので、そのエッジ部において誤った
距離情報が算出されてしまうことがある。図9は、図7
のような画像を有するステレオ画像(基準画像と比較画
像)から得られる距離情報を示した図である。同図にお
いて、黒点で示した部分は、画像の水平方向において互
いに隣接した画素間の輝度変化が大きい部分であり、こ
の部分が距離情報(奥行き)を有している。逆光円が発
生したエリア内は、大半の画素の輝度が飽和レベルに達
しているため、本来算出されるべき距離データが算出さ
れない。また、逆光円のエッジでは、水平方向の輝度変
化が大きいため、誤った距離データが算出されてしま
う。車外監視装置の安全性を高い次元で確保するという
観点でいえば、弱逆光により正しい距離画像が得られな
いような状況では、監視制御を一時的に中断させるフェ
ールセーフ機能を働かせる必要がある。
[0003] In order to put such a vehicle exterior monitoring device into practical use, it is necessary to provide a fail-safe function in order to guarantee the safe operation of the device. One of the failures to be detected by this type of device is a situation in which weak light is directly radiated from the sun to an in-vehicle camera and image recognition cannot be performed (a weak backlight situation). Here, a captured image in front of the vehicle as shown in FIG. 7 will be considered. When a weak backlight situation occurs,
As shown in FIG. 8, a ring-shaped luminance saturation region (hereinafter, referred to as a ring-shaped luminance saturation region)
This is called a backlight circle) occurs in a part of the image (the left side in the figure). If such a backlight circle occurs in an image, the luminance value of the pixel in the image area and the vicinity thereof reaches the saturation level, so that correct image information cannot be obtained. As a result, even if a three-dimensional object exists in the area, it is masked by the backlight circle, and it becomes difficult to correctly recognize the three-dimensional object. Further, the edge of the backlight circle has a large luminance change between adjacent pixels in the horizontal direction, so that incorrect distance information may be calculated at the edge portion. FIG. 9 shows FIG.
FIG. 7 is a diagram showing distance information obtained from a stereo image (a reference image and a comparison image) having such an image. In the figure, a portion indicated by a black point is a portion where the luminance change between pixels adjacent to each other in the horizontal direction of the image is large, and this portion has distance information (depth). In the area where the backlight circle has occurred, since the luminance of most pixels has reached the saturation level, the distance data to be calculated originally is not calculated. Further, at the edge of the backlight circle, since the luminance change in the horizontal direction is large, erroneous distance data is calculated. From the viewpoint of ensuring the safety of the exterior monitoring device at a high level, in a situation where a correct distance image cannot be obtained due to weak backlight, it is necessary to operate a fail-safe function for temporarily suspending monitoring control.

【0004】[0004]

【発明が解決しようとする課題】このように、従来、車
外監視装置の実用化において不可欠なフェールセーフ機
能が確立されておらず、装置の安全性を高い次元で確保
するための課題が残されていた。
As described above, a fail-safe function indispensable for the practical use of the vehicle exterior monitoring device has not been established so far, and a problem remains to secure the safety of the device at a high level. I was

【0005】そこで、本発明の目的は、弱逆光等の光の
影響により、撮像された画像に異常が生じた場合に、そ
のような画像異常を正確に検出することにより、確実な
フェールセーフを行い得る車外監視装置を提供すること
である。
[0005] Therefore, an object of the present invention is to provide a fail-safe system in which, when an abnormality occurs in a picked-up image due to the influence of light such as weak backlight or the like, such an image abnormality is accurately detected. It is an object of the present invention to provide a monitoring device outside the vehicle.

【0006】[0006]

【課題を解決するための手段】かかる課題を解決するた
めに、第1の発明は、フェールと判定された場合にフェ
ールセーフを行う車外監視装置において、車外の景色を
撮像する撮像手段と、撮像手段により得られた撮像画像
の水平方向における輝度分布特性を算出する算出手段
と、算出手段により算出された輝度分布特性が、フェー
ルとして判定したい異常画像の水平方向に現れる輝度分
布の特徴を有する場合に、フェールと判定する判定手段
とを有するフェールセーフ機能を有する車外監視装置を
提供する。
According to a first aspect of the present invention, there is provided an external monitoring apparatus for performing fail-safe when a failure is determined, an image capturing means for capturing a scene outside the vehicle, Calculating means for calculating the luminance distribution characteristics in the horizontal direction of the captured image obtained by the means, and the luminance distribution characteristics calculated by the calculating means have characteristics of the luminance distribution appearing in the horizontal direction of the abnormal image to be determined as a failure Further, there is provided an outside monitoring apparatus having a fail-safe function having a determination means for determining a failure.

【0007】また、第2の発明は、フェールと判定され
た場合にフェールセーフを行う車外監視装置において、
車外の景色を撮像する撮像手段と、撮像手段により得ら
れた撮像画像を複数個に分割することにより、画像の垂
直方向に延在する監視領域を複数設定すると共に、監視
領域のそれぞれについて、当該監視領域の全体的な輝度
の大きさを算出する算出手段と、監視領域の位置と各監
視領域が有する輝度の大きさとの関係から得られる関係
から得られる撮像画像の水平方向における輝度分布特性
が、フェールとして判定したい異常画像の水平方向に現
れる輝度分布の特徴を有する場合に、フェールと判定す
る判定手段とを有する。
A second invention is a vehicle exterior monitoring device that performs fail-safe when a failure is determined.
Image capturing means for capturing the scenery outside the vehicle, and by dividing the captured image obtained by the image capturing means into a plurality of pieces, a plurality of monitoring areas extending in the vertical direction of the image are set, and for each of the monitoring areas, Calculating means for calculating the overall brightness level of the monitoring area; and a brightness distribution characteristic in the horizontal direction of the captured image obtained from a relationship obtained from a relationship between the position of the monitoring area and the brightness level of each monitoring area. And determining means for determining a failure when the image has a characteristic of a luminance distribution appearing in the horizontal direction of the abnormal image to be determined as a failure.

【0008】ここで、異常画像の典型的な例としては、
光学的な影響、特に、弱逆光状況により、画像中に逆光
円が存在するような画像が挙げられる。逆光円が存在す
る画像の水平方向における輝度分布の特徴(逆光特性)
としては、以下のものが挙げられる。
Here, a typical example of an abnormal image is as follows.
Due to optical effects, in particular weak backlight situations, there are images in which there is a backlight circle in the image. Characteristics of the luminance distribution in the horizontal direction of the image where the backlight circle exists (backlight characteristic)
Examples include the following.

【0009】(1)輝度分散特性のばらつき 弱逆光状況時の画像における輝度分散特性は、それが発
生していない正常な画像と比べて、ばらつきが大きくな
る傾向がある。このような特性に着目して、判定部は、
撮像画像に関する輝度分散特性の分散値が所定の判定値
よりも大きい場合に、フェールと判定する。また、判定
部は、撮像された画像に関して、その輝度分散特性の最
大値と最小値との差が所定の判定値よりも大きい場合
に、フェールと判定するようにしてもよい。
(1) Variation in luminance dispersion characteristics The luminance dispersion characteristics of an image in a weak backlight situation tend to be larger than that of a normal image in which the image does not occur. Focusing on such characteristics, the determination unit:
When the variance value of the luminance variance characteristic of the captured image is larger than a predetermined determination value, it is determined that a failure has occurred. In addition, the determination unit may determine that a failure has occurred when the difference between the maximum value and the minimum value of the luminance dispersion characteristics of the captured image is larger than a predetermined determination value.

【0010】(2)輝度分散特性のピーク近傍の変化 弱逆光状況時の画像における輝度分散特性のピーク近傍
では、それが発生していない正常な画像と比べて、輝度
和がなだらかに変化する傾向がある。このような特徴に
鑑み、判定部は、撮像画像における輝度分散特性のピー
ク近傍の二次微分値の和が、所定の判定値よりも小さい
場合に、フェールと判定する。
(2) Change near the peak of the luminance dispersion characteristic In the vicinity of the peak of the luminance dispersion characteristic in an image in a weak backlight situation, the luminance sum tends to change more smoothly than in a normal image in which it does not occur. There is. In view of such a feature, the determination unit determines that a failure has occurred when the sum of the secondary differential values near the peak of the luminance dispersion characteristic in the captured image is smaller than a predetermined determination value.

【0011】(3)輝度分散特性のピーク値 弱逆光状況時の画像における輝度分散特性のピークは、
それが発生していない正常な画像と比べて、大きくなる
傾向がある。このような特徴から、判定部は、撮像画像
における輝度分散特性のピーク値が、所定の判定値より
も大きい場合に、フェールと判定する。
(3) Peak value of luminance dispersion characteristic The peak of the luminance dispersion characteristic in an image in a weak backlight condition is as follows:
It tends to be larger than a normal image in which it has not occurred. From such a feature, the determination unit determines that a failure has occurred when the peak value of the luminance dispersion characteristic in the captured image is larger than a predetermined determination value.

【0012】(4)監視領域の上側領域と下側領域との
輝度和の相違 それぞれの監視領域の中間部分にマスク領域を設定す
る。算出手段は、このマスク領域を除いた上側領域の輝
度和と下側領域の輝度和とをそれぞれ算出する。判定手
段は、上側領域の方が下側領域よりも輝度和が所定の判
定値よりも大きい場合に、フェールと判定する。
(4) Difference in luminance sum between upper and lower areas of the monitoring area A mask area is set at an intermediate portion of each monitoring area. The calculating means calculates the sum of the luminance of the upper region excluding the mask region and the sum of the luminance of the lower region. The judging means judges a failure when the sum of the luminances in the upper region is larger than the predetermined judgment value in the lower region.

【0013】(5)ステレオカメラの視差 さらに、撮像手段として、複数のカメラで構成されたス
テレオカメラを用いて、弱逆光状況において画像に生じ
る逆光円の距離を算出すると、その距離は無限遠とな
る。したがって、一対のステレオ画像における逆光円の
位置は、理論上は同一となる。このような特徴に鑑み、
判定部は、カメラの一方の撮像画像における輝度和のピ
ーク位置と、カメラの他方の撮像画像における輝度和の
ピーク位置との差が、所定のしきい値以内の場合に、フ
ェールと判定する。
(5) Parallax of stereo camera Further, when a stereo camera composed of a plurality of cameras is used as an imaging means and the distance of a backlight circle generated in an image in a weak backlight situation is calculated, the distance is determined to be infinity. Become. Therefore, the positions of the backlight circles in the pair of stereo images are theoretically the same. In view of these characteristics,
The determining unit determines a failure when the difference between the peak position of the luminance sum in one captured image of the camera and the peak position of the luminance sum in the other captured image of the camera is within a predetermined threshold value.

【0014】以上のような各特徴に考慮して、上記
(1)から(5)を適宜組み合わせることにより、弱逆
光状況の検出精度を一層向上させることができる。
By appropriately combining the above (1) to (5) in consideration of the above features, the detection accuracy of the weak backlight situation can be further improved.

【0015】[0015]

【発明の実施の形態】図1は、本実施例にかかる車外監
視装置のブロック図である。CCD等のイメージセンサ
を内蔵した一対のカメラ1,2は、自動車等の車輌の車
幅方向において所定の間隔で取り付けられており、車輌
前方の景色を撮像する。メインカメラ1は、ステレオ処
理を行う際に必要な基準画像(右画像)を撮像し、サブ
カメラ2は、この処理における比較画像(左画像)を撮
像する。互いの同期している状態において、カメラ1,
2から出力された各アナログ画像は、A/Dコンバータ
3,4により、所定の輝度階調(例えば、256階調の
グレースケール)のデジタル画像に変換される。デジタ
ル化された画像は、画像補正部5において、輝度の補正
や画像の幾何学的な変換等が行われる。通常、一対のカ
メラ1,2の取付位置は、程度の差こそあれ誤差がある
ため、それに起因したずれが左右の画像に存在してい
る。このずれを補正するために、アフィン変換等を用い
て、画像の回転や平行移動等の幾何学的な変換が行われ
る。このようにして補正された基準画像および比較画像
は、元画像メモリ8に格納される。
FIG. 1 is a block diagram of a vehicle exterior monitoring apparatus according to this embodiment. A pair of cameras 1 and 2 having a built-in image sensor such as a CCD are attached at predetermined intervals in a vehicle width direction of a vehicle such as an automobile, and capture an image of a scene in front of the vehicle. The main camera 1 captures a reference image (right image) necessary for performing stereo processing, and the sub camera 2 captures a comparison image (left image) in this processing. In a state where the cameras 1 and 2 are synchronized with each other,
Each of the analog images output from 2 is converted into a digital image of a predetermined luminance gradation (for example, 256 gray scales) by A / D converters 3 and 4. The digitized image is subjected to luminance correction, geometric conversion of the image, and the like in the image correction unit 5. Usually, since the mounting positions of the pair of cameras 1 and 2 have an error to some extent, a shift caused by the error exists in the left and right images. In order to correct this displacement, geometric transformation such as rotation or translation of the image is performed using affine transformation or the like. The reference image and the comparative image corrected in this way are stored in the original image memory 8.

【0016】一方、ステレオ画像処理部6は、画像補正
部5により補正された基準画像および比較画像から、画
像中の同一対象物の三次元位置(自車輌から対象物まで
の距離を含む)を算出する。この距離は、左右画像にお
ける同一対象物の位置に関する相対的なずれから、三角
測量の原理に基づき算出することができる。このように
して算出された画像の距離情報は、距離データメモリ7
に格納される。
On the other hand, the stereo image processing unit 6 calculates the three-dimensional position (including the distance from the vehicle to the object) of the same object in the image from the reference image and the comparison image corrected by the image correction unit 5. calculate. This distance can be calculated based on the principle of triangulation from the relative displacement of the position of the same object in the left and right images. The distance information of the image thus calculated is stored in the distance data memory 7.
Is stored in

【0017】マイコン9は、元画像メモリ8および距離
データメモリ7に格納された各情報に基づき、車輌前方
の道路状態等を認識したり(道路認識部10)、車輌前
方の立体物(走行車)等を認識する(立体物認識部1
1)。そして、処理部13は、これらの認識部10,1
1からの情報から警報が必要と判定された場合、モニタ
やスピーカー等の警報装置19によりドライバーに対し
て注意を促したり、或いは、必要に応じて、各種制御部
14〜18を制御する。例えば、AT(自動変速機)制
御部14に対して、シフトダウンを実行する旨を指示す
る。また、エンジン制御部18に対してエンジン出力を
低下する旨指示してもよい。その他にも、アンチロック
ブレーキシステム(ABS)制御部15、トラクション
コントロールシステム(TCS)制御部16、或いは、
各車輪のトルク配分や回転数を制御する車輌挙動制御部
17に対して、適切な車輌制御を指示することも可能で
ある。
The microcomputer 9 recognizes a road condition or the like in front of the vehicle based on the information stored in the original image memory 8 and the distance data memory 7 (road recognition unit 10), or a three-dimensional object (vehicle) in front of the vehicle. (Three-dimensional object recognition unit 1)
1). Then, the processing unit 13 outputs these recognition units 10, 1
When it is determined from the information from 1 that an alarm is required, the driver is alerted by an alarm device 19 such as a monitor or a speaker, or the various control units 14 to 18 are controlled as necessary. For example, it instructs an AT (automatic transmission) control unit 14 to execute downshifting. Further, it may instruct the engine control unit 18 to reduce the engine output. In addition, an anti-lock brake system (ABS) controller 15, a traction control system (TCS) controller 16, or
Appropriate vehicle control can also be instructed to the vehicle behavior control unit 17 that controls the torque distribution and rotation speed of each wheel.

【0018】さらに、フェール判定部12は、元画像メ
モリ8に記憶された元画像情報と距離データメモリ7に
記憶された距離情報とに基づいて、後述するルーチンに
したがいフェール判定を行う。フェールと判定されてい
る期間、すなわち、後述するフェール判定ルーチンによ
りフェールフラグNGが1にセットされている期間は、
道路や立体物の誤認識にともなう装置の誤動作等を防ぐ
ために、上述した車輌制御等が一時的に中断される。
Further, the fail determining unit 12 performs a fail determination based on the original image information stored in the original image memory 8 and the distance information stored in the distance data memory 7 in accordance with a routine described later. During a period in which a failure is determined, that is, a period in which the fail flag NG is set to 1 by a failure determination routine described later,
In order to prevent malfunction of the device due to erroneous recognition of a road or a three-dimensional object, the above-described vehicle control or the like is temporarily suspended.

【0019】図2は、弱逆光によるフェールの判定手順
を説明するためのフローチャートである。このルーチン
は、フェール判定部12において、所定の制御周期(例
えば100ms)ごとに繰り返し実行される。以下、ス
テレオカメラのうちの一方のカメラで撮像された一つの
画像について説明するが、他方のカメラで撮像された画
像についても同様の判定が行われる。また、このフェー
ル判定は、シャッタースピードが比較的小さい状況(昼
間または車外が明るい状況)であることを前提としてい
る。そして、いずれか一方の画像に関して、フェールフ
ラグNGが1にセットされた場合、処理部13は、本車
外監視装置のフェールセーフを実行する。
FIG. 2 is a flowchart for explaining a procedure for determining a failure due to weak backlight. This routine is repeatedly executed by the fail determination unit 12 at a predetermined control cycle (for example, 100 ms). Hereinafter, one image captured by one of the stereo cameras will be described, but the same determination is performed on an image captured by the other camera. This fail determination is based on the assumption that the shutter speed is relatively low (daytime or the outside of the vehicle is bright). Then, when the fail flag NG is set to 1 with respect to any one of the images, the processing unit 13 executes the fail safe of the monitoring apparatus outside the vehicle.

【0020】まず、フェール判定部12は、元画像メモ
リ8中に格納された元画像の輝度値に基づいて、画像領
域中に設定された各監視領域の輝度和Aを算出する(ス
テップ1)。弱逆光状況による逆光円が画像領域中に発
生しているか否かは、各監視領域における全体的な輝度
の分布特性に基づいて判断される。ここで、監視領域
は、画像領域において、図3のように設定される。20
0×512画素のサイズを有する画像領域を、水平方向
に16画素ずつ分割して、それぞれが200×16画素
のサイズを有する長方形状(画像の垂直方向に延在)の
監視領域Ni(1≦i≦32)を設定する。そして、各監
視領域Niの中間部をマスク領域(同図においてハッチ
ングで示した領域)とする。これらのマスク領域内の画
素の輝度値は、フェール判定においては考慮されない。
したがって、フェール判定は、マスク領域を除いた画像
上下領域内の画素の輝度値に基づいて行われる。マスク
領域を設けた第1の理由は、弱逆光状況の検出精度を向
上させるためである。輝度が非常に大きな立体物(例え
ば白い外装の車)または先行車からの反射光が存在して
も、画像の中間部をマスクしてしまえば、立体物の影響
で監視領域の輝度が大きくなってしまうのを避けること
ができる。また、マスク領域を演算対象から外すこと
で、フェール判定に要する演算量を減らすことができ
る。
First, the failure determining unit 12 calculates the luminance sum A of each monitoring area set in the image area based on the luminance value of the original image stored in the original image memory 8 (step 1). . Whether or not a backlight circle due to a weak backlight situation occurs in the image area is determined based on the overall luminance distribution characteristics in each monitoring area. Here, the monitoring area is set in the image area as shown in FIG. 20
An image area having a size of 0 × 512 pixels is divided into 16 pixels in the horizontal direction, and a rectangular (extends in the vertical direction of the image) monitoring area Ni (1 ≦ 1) each having a size of 200 × 16 pixels. i ≦ 32) is set. Then, an intermediate portion of each monitoring area Ni is defined as a mask area (an area indicated by hatching in the figure). The luminance values of the pixels in these mask areas are not considered in the fail determination.
Therefore, the fail determination is performed based on the luminance values of the pixels in the image upper and lower regions excluding the mask region. The first reason for providing the mask region is to improve the detection accuracy of a weak backlight situation. Even if there is a three-dimensional object with extremely high brightness (for example, a car with a white exterior) or reflected light from a preceding vehicle, if the middle part of the image is masked, the brightness of the monitoring area increases due to the effect of the three-dimensional object. Can be avoided. In addition, by excluding the mask area from the calculation target, the amount of calculation required for fail determination can be reduced.

【0021】このようにして設定された監視領域Nごと
に輝度和Aが算出される。ある監視領域Niにおける輝
度和Aiは、その領域内において均一に分散するような
複数の画素をサンプルとして抽出し、それらの輝度値を
加算した値(またはそれらの平均値)として算出するこ
とができる。例えば、水平/垂直方向ともに4画素ごと
にサンプルを抽出してもよい。監視領域内において均一
に分散するようなサンプルを用いれば、その監視領域内
の輝度状態の特徴が適切に反映された輝度和Aを、少な
い演算量で算出することができる。演算量を考慮しない
のであれば、監視領域内に含まれるすべての画素の輝度
値を加算することにより、輝度値Aを算出することも当
然可能である。
The luminance sum A is calculated for each monitoring area N set as described above. The luminance sum Ai in a certain monitoring region Ni can be calculated as a value obtained by extracting a plurality of pixels uniformly distributed in the region as a sample and adding their luminance values (or their average value). . For example, a sample may be extracted every four pixels in both the horizontal and vertical directions. If a sample that is uniformly dispersed in the monitoring area is used, the luminance sum A in which the characteristics of the luminance state in the monitoring area are appropriately reflected can be calculated with a small amount of calculation. If the calculation amount is not considered, it is naturally possible to calculate the luminance value A by adding the luminance values of all the pixels included in the monitoring area.

【0022】つぎに、ステップ2において、ステップ1
において算出された輝度和Aに関して、その分布特性を
求め、所定の判定しきい値Athを超える輝度和ピークA
peakがあるか否かが探索される。輝度和ピークとしての
必要条件は、輝度和Aが判定しきい値Ath以上の極大値
であることである。ここで、逆光円と輝度和Aの分布特
性との関係を、図4と図5とに基づいて説明する。図5
は、図7に示した画像(正常画像)における輝度和Aの
特性を示した図である。また、図4は、図8に示したよ
うに逆光円が生じた画像(異常画像)における輝度和A
の特性を示した図である。これらの特性は、画像の水平
方向における輝度分布の特性であるといってもよい。こ
れらの輝度分布特性からわかるように、逆光円が生じた
異常画像の特徴の一つとして、逆光円が存在する監視領
域の輝度和Aが、通常画像と比べて、非常に大きくなる
ことが挙げられる。そこで、輝度の大きな逆光円が生じ
ている場合に、輝度和Aがそれを越えるような適切な値
を、判定しきい値Athとして設定しておく。その結果、
このステップで否定判定された場合(例えば図5の分布
特性の場合)は、その画像は正常画像であると判断し
て、フェールフラグNGは0にセットされる(ステップ
10)。フェールフラグNGが0である期間は、通常の
監視制御を継続して行われる。
Next, in step 2, step 1
, A distribution characteristic of the calculated sum A is calculated, and a sum of peaks A exceeds a predetermined threshold value Ath.
It is searched whether there is a peak. A necessary condition for the luminance sum peak is that the luminance sum A is a local maximum value equal to or larger than the determination threshold value Ath. Here, the relationship between the backlight circle and the distribution characteristic of the luminance sum A will be described with reference to FIGS. FIG.
8 is a diagram showing characteristics of a luminance sum A in the image (normal image) shown in FIG. FIG. 4 shows a luminance sum A in an image (abnormal image) in which a backlight circle is generated as shown in FIG.
FIG. 4 is a diagram showing characteristics of the present invention. These characteristics may be said to be the characteristics of the luminance distribution in the horizontal direction of the image. As can be seen from these luminance distribution characteristics, one of the features of the abnormal image in which the backlight circle occurs is that the luminance sum A of the monitoring area where the backlight circle exists is much larger than that of the normal image. Can be Therefore, when a backlight circle having a large luminance occurs, an appropriate value such that the luminance sum A exceeds it is set as the determination threshold value Ath. as a result,
If a negative determination is made in this step (for example, in the case of the distribution characteristics in FIG. 5), the image is determined to be a normal image, and the fail flag NG is set to 0 (step 10). During the period when the fail flag NG is 0, the normal monitoring control is continued.

【0023】ステップ2において肯定判断された場合
(例えば図4の分布特性の場合)は、画像中に逆光円が
存在する可能性があると判断して、それをさらに検証す
るためにステップ3に進む。このステップにおいて、上
述したピーク値Apeakの近傍の二次微分値の和SUM
(以下、微分和という)が算出される。図6は、微分和
SUMの算出方法を説明するための図である。まず、輝
度和がピークとなる監視領域n1の輝度和Apeakと、こ
の領域n1よりも一つ左側の監視領域(n1−1)の輝度
和Aとの差ΔA2を求める。次に、監視領域(n1−1)
の輝度和Aと、この領域(n1−1)よりも一つ左側の
監視領域(n1−2)の輝度和Aとの差ΔA1を求める。
これと同様に、監視領域n1の右側についても差ΔA3,
ΔA4を求める。これら4つの値(絶対値)を加算する
ことにより、微分和SUMが算出される。このようにし
て算出された微分和SUMより、ピーク付近の変化のな
だらかさを評価することができる。すなわち、正常画像
におけるピーク特性としては、判定しきい値Athを越え
るようなピーク近傍が存在したとしても、その近傍にお
ける輝度和Aは急激に変化する(すなわちピークが急峻
になる)傾向がある(図5参照)。したがって、正常画
像であれば、微分和SUMは比較的大きな値となる。こ
れに対して、異常画面では、逆光円の位置になだらかな
ピークを有し、裾広な特性となる。したがって、ピーク
近傍における輝度和Aの変化が比較的小さくなるため、
微分和SUMは、比較的小さな値となる。
If an affirmative determination is made in step 2 (for example, in the case of the distribution characteristics in FIG. 4), it is determined that there is a possibility that a backlight circle exists in the image, and the process proceeds to step 3 in order to further verify this. move on. In this step, the sum SUM of the second derivative values near the peak value Apeak described above
(Hereinafter referred to as a differential sum) is calculated. FIG. 6 is a diagram for explaining a method of calculating the differential sum SUM. First, a difference ΔA2 between the luminance sum Apeak of the monitoring area n1 at which the luminance sum peaks and the luminance sum A of the monitoring area (n1-1) one to the left of the area n1 is determined. Next, the monitoring area (n1-1)
And a difference ΔA1 between the luminance sum A of the monitoring area (n1-2) and the luminance sum A of the monitoring area (n1-2) one side to the left of the area (n1-1).
Similarly, the difference ΔA3,
Find ΔA4. The differential sum SUM is calculated by adding these four values (absolute values). The gentleness of the change near the peak can be evaluated from the differential sum SUM calculated in this manner. That is, as a peak characteristic in a normal image, even if there is a vicinity of a peak exceeding the determination threshold value Ath, the luminance sum A in the vicinity thereof tends to change rapidly (that is, the peak becomes steep) ( (See FIG. 5). Therefore, for a normal image, the differential sum SUM has a relatively large value. On the other hand, the abnormal screen has a gentle peak at the position of the backlight circle, and has broad characteristics. Therefore, since the change of the luminance sum A near the peak becomes relatively small,
The differential sum SUM has a relatively small value.

【0024】そこで、ピーク近傍における輝度和Aの変
化が滑らかか否かを区別し得る適切な判定しきい値SU
Mthを設定しておけば、ステップ3で算出された微分和
SUMの値から、ピークのなだらかさを評価することが
できる(ステップ4)。このステップで否定判定された
場合、すなわち、微分和SUMがしきい値SUMth以下
である場合には、ピークが急峻であり、そのピークは逆
光円によるものではないと判断して、フェールフラグN
Gは0にセットされる(ステップ10)。逆に、微分和
SUMがしきい値SUMthよりも小さい場合には、ピー
クがなだらかで、逆光円が存在する可能性があるとし
て、輝度の分布特性をさらに詳しく調べるためにステッ
プ5に進む。なお、分布特性中に上述したピークが複数
存在するような場合は、ピーク毎に微分和SUMを算出
する。そして、判定しきい値SUMthよりも大きな微分
和SUMが一つでも存在すれば、逆行円が存在する可能
性があるとして、ステップ5以降の手順が実行される。
Therefore, an appropriate determination threshold value SU that can distinguish whether the change of the luminance sum A near the peak is smooth or not.
If Mth is set, the gentleness of the peak can be evaluated from the value of the differential sum SUM calculated in step 3 (step 4). If a negative determination is made in this step, that is, if the differential sum SUM is equal to or less than the threshold value SUMth, it is determined that the peak is steep and the peak is not due to the backlight circle, and the failure flag N
G is set to 0 (step 10). Conversely, if the differential sum SUM is smaller than the threshold value SUMth, it is determined that the peak is gentle and there is a possibility that a backlight circle exists, and the process proceeds to step 5 in order to examine the distribution characteristics of the luminance in more detail. When there are a plurality of peaks described above in the distribution characteristics, the differential sum SUM is calculated for each peak. Then, if there is at least one differential sum SUM larger than the determination threshold value SUMth, it is determined that there is a possibility that a retrograde circle exists, and the procedure from step 5 is performed.

【0025】ステップ5以降の手順において、逆光円の
有無をさらに検討するために、輝度和Aのばらつきの程
度を示す、撮像画像の輝度分布特性の分散値VARが下
式に基づいて算出される(ステップ5)。
In step 5 and subsequent steps, in order to further examine the presence or absence of a backlight circle, the variance VAR of the luminance distribution characteristic of the captured image, which indicates the degree of variation of the luminance sum A, is calculated based on the following equation. (Step 5).

【数1】VAR2={(A1−Aave2+(A2−Aave
2+ ・・・ +(An−Aave2}/n=Σ(Ai2)/n−
(ΣAi/n)2 n:監視領域の数(=32) Aave:輝度和の平均値
VAR 2 = {(A 1 −A ave ) 2 + (A 2 −A ave )
2 +... + (An−A ave ) 2 } / n = Σ (Ai 2 ) / n−
(ΣA i / n) 2 n: number of monitoring areas (= 32) A ave : average value of luminance sum

【0026】正常画像は、輝度和Aのばらつきが比較的
少ない傾向にあるため、分散値VARも小さくなる(図
5参照)。これに対して、逆光円が存在する異常画像で
は、そのばらつきが大きくなる傾向にあるため、分散値
VARも大きくなる。そこで、輝度和Aが逆光円の影響
によりばらついているか否かを判断し得る適切なしきい
値VARthを設定しておけば、ステップ5で算出された
分散値VARの値から、画像の異常を判断することがで
きる(ステップ6)。このステップで否定判定された場
合、すなわち、分散値VARが判定しきい値VARth以
下である場合には、逆光円は存在しないものと判断し
て、ステップ4の場合と同様に、ステップ10において
フェールフラグNGを0にセットする。一方、ステップ
6において肯定判定された場合は、画像の水平方向の輝
度分散が大きく、逆光円が画像中に存在する可能性があ
るため、ステップ7へ進む。
Since the normal image tends to have a relatively small variation in the luminance sum A, the variance value VAR also becomes small (see FIG. 5). On the other hand, in an abnormal image in which a backlight circle exists, the dispersion tends to increase, and the variance VAR also increases. Therefore, if an appropriate threshold value VARth capable of judging whether or not the luminance sum A fluctuates due to the backlight circle is set, the abnormality of the image is judged from the value of the variance value VAR calculated in Step 5. (Step 6). If a negative determination is made in this step, that is, if the variance value VAR is equal to or smaller than the determination threshold value VARth, it is determined that there is no backlight circle, and a failure is determined in step 10 as in step 4. The flag NG is set to 0. On the other hand, if an affirmative determination is made in step 6, the luminance variance in the horizontal direction of the image is large, and there is a possibility that a backlight circle exists in the image.

【0027】上述したステップを経てステップ7に到達
したということは、画像中に逆光円が存在する可能性が
かなり高いことを意味している。上述したようにフェー
ルセーフは、車外監視を一時的に中断するものであるか
ら、不必要なフェールセーフの作動を避けるために、逆
光円の存在を正確に検証しておくことが好ましい。そこ
で、ステップ7およびステップ8の判断が実行される。
まず、ステップ7では、輝度分布特性における最大値A
max(図4および図5における監視領域n1の輝度和A)
とAmin(監視領域n2の輝度和A)との差が、判定値と
してのしきい値ΔAthよりも大きいか否かが判断され
る。これにより、車輌前方の全体が比較的明るい場合に
撮像され得る正常画像を異常画像と判断してしまうこと
を防ぐことができる。さらに、ステップ8において、左
右の画像、すなわち基準画像のピーク位置n1と比較画
像におけるピーク位置n1とがほぼ同位置にあるか否か
が判断される。ステレオ方式を用いた場合、逆光円の距
離は無限遠として現れる。それゆえに、逆光円が発生し
ている場合には、両画像におけるピーク位置の水平方向
のずれ(視差)は、理論的には0となる。逆に、輝度の
非常に高い立体物の存在によりピークが発生している場
合には、自車輌から立体物までの距離に応じた視差が発
生する。そこで、適切なしきい値を設け、左右の画像か
ら算出されたピーク位置のずれ量としきい値との差が小
さい場合のみ、逆光円が発生しているものと判断する。
Reaching step 7 through the above-described steps means that the possibility that a backlight circle exists in the image is considerably high. As described above, the fail-safe temporarily suspends monitoring outside the vehicle, and therefore it is preferable to accurately verify the existence of the backlight circle in order to avoid unnecessary operation of the fail-safe. Therefore, the determinations in steps 7 and 8 are performed.
First, in step 7, the maximum value A in the luminance distribution characteristics
max (sum of brightness A of monitoring area n1 in FIGS. 4 and 5)
It is determined whether or not the difference between Amin and Amin (the luminance sum A of the monitoring area n2) is greater than a threshold value ΔAth as a determination value. As a result, it is possible to prevent a normal image that can be captured when the entire area in front of the vehicle is relatively bright from being determined as an abnormal image. Further, in step 8, it is determined whether or not the left and right images, that is, the peak position n1 of the reference image and the peak position n1 of the comparison image are substantially at the same position. When using the stereo method, the distance of the backlight circle appears as infinity. Therefore, when a backlight circle occurs, the horizontal displacement (parallax) of the peak positions in both images is theoretically zero. Conversely, when a peak is generated due to the presence of a three-dimensional object with extremely high luminance, parallax is generated according to the distance from the vehicle to the three-dimensional object. Therefore, an appropriate threshold value is provided, and it is determined that a backlight circle has occurred only when the difference between the peak position shift amount calculated from the left and right images and the threshold value is small.

【0028】上述したステップ2,4,6,7,8にお
いてすべて肯定判断された場合に、フェールフラグNG
が1にセットされ、フェールセーフが行われ、通常の車
外監視が一時的に停止される。
If the determinations in steps 2, 4, 6, 7, and 8 are all affirmative, the failure flag NG
Is set to 1, fail-safe is performed, and normal outside monitoring is temporarily stopped.

【0029】なお、車外監視の信頼性および制御の安定
性の双方を確保する観点でいえば、NGフラグの切り換
えは、上述した正常/異常の判断がそれぞれ所定のサイ
クル分だけ継続した場合に行うことが好ましい。例え
ば、フェールフラグNGを0から1にセットする場合、
異常(フェール)判断が5サイクル(0.5秒相当)継続
した場合に変更する。また、フェールフラグNGを1か
ら0にセットする場合、正常判断が20サイクル(2.0
秒)に渡って継続した場合に変更する。
From the viewpoint of ensuring both the reliability of the monitoring outside the vehicle and the stability of the control, the switching of the NG flag is performed when the above-mentioned determination of normality / abnormality is continued for each predetermined cycle. Is preferred. For example, when setting the fail flag NG from 0 to 1,
Change when the abnormality (failure) judgment continues for 5 cycles (corresponding to 0.5 seconds). When the fail flag NG is set from 1 to 0, the normal judgment is made for 20 cycles (2.0 cycles).
Second).

【0030】このように、本実施例における弱逆光検出
手法は、画像を分割することにより、画像の垂直方向に
延在する長方形状の監視領域を複数設定し、各監視領域
の輝度和の特性、すなわち、撮像画像の水平方向(横方
向)の輝度分布特性を求めている。弱逆光により逆光円
が画像中に発生すると、画像の横方向において、輝度が
比較的緩やかに変化するようなグラデーションが生じる
(図4参照)。そのような知得に基づいて、逆光円によ
り生じた横方向の変化パターンのうち特徴的な条件(分
布特性)として抽出し、それを検出対象となっている撮
像画像の輝度分布特性と比較することにより、逆光円の
有無を判断している。逆光円の有無を判断するのに有効
な分布特性をまとめると、以下の事項が挙げられる。
As described above, in the weak backlight detection method according to the present embodiment, a plurality of rectangular monitoring areas extending in the vertical direction of the image are set by dividing the image, and the characteristic of the luminance sum of each monitoring area is set. That is, the luminance distribution characteristics in the horizontal direction (lateral direction) of the captured image are obtained. When a backlight circle is generated in an image due to weak backlight, a gradation occurs in which the luminance changes relatively slowly in the horizontal direction of the image (see FIG. 4). Based on such knowledge, a characteristic change (distribution characteristic) is extracted from a lateral change pattern generated by the backlight circle, and the extracted characteristic is compared with the luminance distribution characteristic of the captured image to be detected. Thus, the presence or absence of the backlight circle is determined. The following is a summary of the distribution characteristics that are effective for determining the presence or absence of a backlight circle.

【0031】(1)輝度和Aの分散が大きい (2)輝度和Aのピークが大きい (3)輝度和Aのピーク近傍の変化がなだらかである(1) The variance of the luminance sum A is large. (2) The peak of the luminance sum A is large. (3) The change near the peak of the luminance sum A is gentle.

【0032】基本的には、上記(1)〜(3)の事項を
検証すれば、異常画像か否かを判断することが可能であ
る。ただし、一つの事項だけで判断しようとすると、誤
った判断が生じる可能性があるので、これらを組み合わ
せて用いることが好ましい。また、弱逆光状況の検出精
度をさらに高めるために、以下の事項も参酌することが
好ましい。
Basically, if the items (1) to (3) are verified, it can be determined whether or not the image is an abnormal image. However, if an attempt is made to judge only one item, an erroneous judgment may occur. Therefore, it is preferable to use these in combination. In addition, in order to further increase the detection accuracy of the weak backlight situation, it is preferable to consider the following items.

【0033】 (4)輝度和Aの最大値と最小値との差が大きい (5)ステレオ方式において基準画像と比較画像とにお
けるピーク位置がほぼ同じである
(4) The difference between the maximum value and the minimum value of the luminance sum A is large. (5) In the stereo system, the peak positions of the reference image and the comparison image are almost the same.

【0034】なお、(1)〜(4)自体はステレオカメ
ラ固有の事項ではない。したがって、これらを適宜組み
合わせて弱逆光状況を検出しようとする限り、単眼カメ
ラ等による車外監視装置に適用することができるのは当
然である。
The items (1) to (4) are not specific to the stereo camera. Therefore, as long as the weak backlight situation is detected by appropriately combining them, the present invention can be applied to a vehicle exterior monitoring device using a monocular camera or the like.

【0035】さらに、図2のフローチャートでは判断事
項とはしていないが、以下の事項を参照することも有効
である。
Further, although not determined in the flowchart of FIG. 2, it is also effective to refer to the following items.

【0036】(6)監視領域の上側エリア(マスク領域
の上側部分)における平均輝度値(または輝度飽和率)
の方が、下側エリア(マスク領域の下側部分)よりも平
均輝度値(または輝度飽和率)が大きい
(6) Average luminance value (or luminance saturation rate) in the upper area of the monitoring area (upper part of the mask area)
Has a larger average luminance value (or luminance saturation rate) than the lower area (the lower part of the mask area).

【0037】ここで、輝度飽和率とは、所定領域内にお
ける画素全体における、飽和レベル(例えば、輝度値2
56階調において240以上)に達した画素が占める割
合をいう。
Here, the luminance saturation rate refers to a saturation level (for example, a luminance value of 2) for the entire pixel in a predetermined area.
It means the ratio occupied by pixels that have reached 240 or more in 56 tones.

【0038】以上の説明から明らかなように、本発明の
主たる特徴は、画像の横方向の輝度分布特性を、フェー
ルとして判定すべき異常画像(例えば、逆光円が存在す
るような画像)の水平方向に現れる輝度分布の特徴とし
て予め設定された逆光特性と比較することにより、異常
画像であるか否かを検出する点にある。上述した実施例
のように、異常画像の特徴を示すような判定条件(判定
値との大小関係)を設定する手法は、演算量を低減する
観点では最も好ましい手法ではある。しかしながら、本
発明はそれに限定されるものではなく、他の手法にも適
用することができるのは当然である。例えば、弱逆光に
おける輝度分散特性のパターンをテンプレートとして複
数用意しておき、撮像画像がいずれかのパターンにマッ
チした場合に、逆光円が画像中に存在するものと判断し
て、フェールセーフを行うようにしてもよい。
As is clear from the above description, the main feature of the present invention is that the horizontal luminance distribution characteristics of an image are determined in the horizontal direction of an abnormal image to be judged as a failure (for example, an image having a backlight circle). The feature is to detect whether or not the image is an abnormal image by comparing with a backlight characteristic set in advance as a feature of the luminance distribution appearing in the direction. As in the above-described embodiment, a method of setting a determination condition (a magnitude relationship with a determination value) indicating a feature of an abnormal image is the most preferable method from the viewpoint of reducing the amount of calculation. However, the present invention is not limited to this, and can be naturally applied to other methods. For example, a plurality of patterns of the luminance dispersion characteristic in weak backlight are prepared as a template, and when a captured image matches any of the patterns, it is determined that a backlight circle exists in the image, and fail-safe is performed. You may do so.

【0039】なお、本実施例では、フェールとすべき異
常画像として、弱逆光状況により逆光円が画像の一部に
存在するような画像を例に説明した。逆光円が存在する
ような画像は、本発明にかかる手法により、最も精度よ
く検出し得る典型例ではある。しかしながら、本発明
は、それ以外の光学的な影響を受けた画像(例えば、ス
ミアの発生等)に適用することも可能である。
In this embodiment, an example in which a backlight circle is present in a part of the image due to a weak backlight condition has been described as an example of an abnormal image to be failed. An image in which a backlight circle is present is a typical example that can be most accurately detected by the method according to the present invention. However, the present invention can also be applied to other optically affected images (for example, generation of smear).

【0040】[0040]

【発明の効果】このように、本発明では、光学的な影響
などによって、撮像された画像に異常が生じた場合であ
っても、そのような画像異常を正確に検出することがで
きる。したがって、撮像された画像にそのような異常が
生じたとしても、それに的確に応答してフェールセーフ
を行えるため、車外監視装置の安全性をより高い次元で
確保することが可能となる。
As described above, according to the present invention, even if an abnormality occurs in a captured image due to an optical influence or the like, such an image abnormality can be accurately detected. Therefore, even if such an abnormality occurs in a captured image, fail-safe can be performed in response to the abnormality, so that the safety of the vehicle exterior monitoring device can be ensured at a higher level.

【図面の簡単な説明】[Brief description of the drawings]

【図1】実施例にかかる車外監視装置のブロック図FIG. 1 is a block diagram of a vehicle exterior monitoring device according to an embodiment;

【図2】弱逆光によるフェールの判定手順を説明するた
めのフローチャート
FIG. 2 is a flowchart illustrating a procedure for determining a failure due to weak backlight.

【図3】画像領域中に設定された監視領域を説明するた
めの図
FIG. 3 is a diagram for explaining a monitoring area set in an image area;

【図4】逆光円が生じた異常画像における輝度和Aの特
性を示した図
FIG. 4 is a diagram showing characteristics of a luminance sum A in an abnormal image in which a backlight circle has occurred;

【図5】正常画像における輝度和Aの特性を示した図FIG. 5 is a diagram showing a characteristic of a luminance sum A in a normal image.

【図6】二次微分値の和SUMの算出方法を説明するた
めの図
FIG. 6 is a diagram for explaining a method of calculating a sum SUM of second derivative values;

【図7】正常な画像の一例を示した図FIG. 7 shows an example of a normal image.

【図8】逆光円が発生した異常画像の一例を示した図FIG. 8 is a diagram showing an example of an abnormal image in which a backlight circle has occurred.

【図9】逆光円により誤った距離情報を含む距離画像を
示した図
FIG. 9 is a diagram showing a distance image including erroneous distance information due to a backlight circle;

【符号の説明】[Explanation of symbols]

1 メインカメラ、 2 サブカメラ、3,
4 A/Dコンバータ、 5 画像補正部、6 ステ
レオ画像処理部、 7 距離データメモリ、8 元
画像メモリ、 9 マイコン、10 道路認
識部、 11 立体物認識部、12 フェー
ル判定部、 13 処理部、14 AT制御部、
15 ABS制御部、16 TCS制御
部、 17 トルクバランス制御部、18 エ
ンジン制御部、 19 警報装置
1 main camera, 2 sub camera, 3,
4 A / D converter, 5 image correction unit, 6 stereo image processing unit, 7 distance data memory, 8 source image memory, 9 microcomputer, 10 road recognition unit, 11 three-dimensional object recognition unit, 12 failure determination unit, 13 processing unit, 14 AT control unit,
15 ABS control unit, 16 TCS control unit, 17 torque balance control unit, 18 engine control unit, 19 alarm device

フロントページの続き Fターム(参考) 2F065 AA04 AA06 BB13 CC40 DD00 DD04 DD12 EE08 FF05 FF61 JJ03 JJ26 NN17 NN18 NN20 PP01 QQ00 QQ08 QQ13 QQ23 QQ24 QQ25 QQ27 QQ29 QQ37 QQ41 QQ42 RR00 RR08 RR10 SS09 5B057 AA16 CA08 CA13 CA16 CB08 CB13 CB16 CE09 CH08 DA15 DB03 DB09 DC19 DC25 Continued on front page F-term (reference) 2F065 AA04 AA06 BB13 CC40 DD00 DD04 DD12 EE08 FF05 FF61 JJ03 JJ26 NN17 NN18 NN20 PP01 QQ00 QQ08 QQ13 QQ23 QQ24 QQ25 QQ27 QQ29 QQ37 QQ41 QQ42 RR00ACB CB08 CB08 CH08 DA15 DB03 DB09 DC19 DC25

Claims (10)

【特許請求の範囲】[Claims] 【請求項1】フェールと判定された場合にフェールセー
フを行う車外監視装置において、 車外の景色を撮像する撮像手段と、 撮像手段により得られた撮像画像の水平方向における輝
度分布特性を算出する算出手段と、 前記算出手段により算出された輝度分布特性が、フェー
ルとして判定したい異常画像の水平方向に現れる輝度分
布の特徴を有する場合に、フェールと判定する判定手段
とを有することを特徴とするフェールセーフ機能を有す
る車外監視装置。
An outside monitoring apparatus that performs fail-safe when it is determined that a failure has occurred, an imaging unit that captures a scene outside the vehicle, and a calculation that calculates a luminance distribution characteristic in a horizontal direction of a captured image obtained by the imaging unit. Means, and a determination means for determining a failure when the luminance distribution characteristic calculated by the calculation means has a characteristic of a luminance distribution appearing in the horizontal direction of the abnormal image to be determined as a failure. Outside monitoring device with safe function.
【請求項2】フェールと判定された場合にフェールセー
フを行う車外監視装置において、 車外の景色を撮像する撮像手段と、 前記撮像手段により得られた撮像画像を複数個に分割す
ることにより、前記画像の垂直方向に延在する監視領域
を複数設定すると共に、前記監視領域のそれぞれについ
て、当該監視領域の全体的な輝度の大きさを算出する算
出手段と、 前記監視領域の位置と前記輝度の大きさとの関係から得
られる前記撮像画像の水平方向における輝度分布特性
が、フェールとして判定したい異常画像の水平方向に現
れる輝度分布の特徴を有する場合に、フェールと判定す
る判定手段とを有することを特徴とするフェールセーフ
機能を有する車外監視装置。
2. An outside-vehicle monitoring device that performs fail-safe when it is determined that a failure has occurred, wherein: an imaging unit that captures a scene outside the vehicle; and a captured image obtained by the imaging unit is divided into a plurality of images. Calculating means for setting a plurality of monitoring areas extending in the vertical direction of the image, and calculating, for each of the monitoring areas, the magnitude of the overall luminance of the monitoring area; and When the luminance distribution characteristic in the horizontal direction of the captured image obtained from the relationship with the size has the characteristic of the luminance distribution appearing in the horizontal direction of the abnormal image to be determined as a failure, it has a determination unit for determining a failure. An external monitoring device with a fail-safe function.
【請求項3】前記異常画像は、弱逆光状況により、画像
中に逆光円が存在するような画像であることを特徴とす
る請求項1または2に記載されたフェールセーフ機能を
有する車外監視装置。
3. The outside monitoring apparatus having a fail-safe function according to claim 1, wherein the abnormal image is an image in which a backlight circle exists in the image due to a weak backlight situation. .
【請求項4】前記判定部は、前記撮像画像に関する前記
輝度分散特性の分散値が、判定値よりも大きい場合に、
フェールと判定することを特徴とする請求項1から3の
いずれかに記載されたフェール機能を有する車外監視装
置。
4. The method according to claim 1, wherein the determining unit determines that a variance of the luminance variance characteristic of the captured image is larger than a criterion value.
The outside monitoring device having a fail function according to any one of claims 1 to 3, wherein it is determined that the vehicle has failed.
【請求項5】前記判定部は、前記撮像画像に関する前記
輝度分散特性のピーク近傍の二次微分値の和が、判定値
よりも小さい場合に、フェールと判定することを特徴と
する請求項1から4のいずれかに4に記載されたフェー
ル機能を有する車外監視装置。
5. The method according to claim 1, wherein the determination unit determines a failure when the sum of the secondary differential values near the peak of the luminance dispersion characteristic of the captured image is smaller than a determination value. 4. An external monitoring device having a fail function according to any one of the above items 4 to 4.
【請求項6】前記判定部は、前記撮像画像に関する前記
輝度分散特性のピーク値が、判定値よりも大きい場合
に、フェールと判定することを特徴とする請求項1から
請求項4のいずれかに記載されたフェール機能を有する
車外監視装置。
6. The image processing apparatus according to claim 1, wherein the determination unit determines a failure when a peak value of the luminance dispersion characteristic of the captured image is larger than a determination value. 2. An external monitoring device having a fail function according to claim 1.
【請求項7】前記判定部は、前記撮像画像に関する前記
輝度分散特性の最大値と最小値との差が、判定値よりも
大きい場合に、フェールと判定することを特徴とする請
求項1から請求項6のいずれかに記載されたフェール機
能を有する車外監視装置。
7. The method according to claim 1, wherein the determination unit determines a failure when a difference between a maximum value and a minimum value of the luminance dispersion characteristic of the captured image is larger than a determination value. A vehicle exterior monitoring device having the fail function according to claim 6.
【請求項8】前記監視領域の中間部分にはマスク領域が
設定されており、 前記算出手段は、前記マスク領域を除いた上側領域と下
側領域とに基づいて、前記監視領域の前記輝度和を求め
ることを特徴とする請求項1から請求項7のいずれかに
記載されたフェールセーフ機能を有する車外監視装置。
8. A mask area is set in an intermediate portion of the monitor area, and the calculating means calculates the luminance sum of the monitor area based on an upper area and a lower area excluding the mask area. The outside monitoring device having a fail-safe function according to any one of claims 1 to 7, wherein:
【請求項9】前記判定部は、前記上側領域内の画素の輝
度飽和率が、前記下側領域内の画素の輝度飽和率よりも
大きい場合に、フェールと判定することを特徴とする請
求項8に記載されたフェール機能を有する車外監視装
置。
9. The method according to claim 1, wherein the determining unit determines a failure when a luminance saturation rate of a pixel in the upper area is larger than a luminance saturation rate of a pixel in the lower area. 8. A vehicle exterior monitoring device having a fail function described in 8.
【請求項10】前記撮像手段は、複数のカメラで構成さ
れたステレオカメラであって、 前記判定部は、前記カメラの一方の撮像画像における前
記輝度分散特性のピーク位置と、前記カメラの他方の撮
像画像における前記輝度分散特性のピーク位置との差
が、しきい値以内の場合に、フェールと判定することを
特徴とする請求項1から請求項9のいずれかに記載され
たフェール機能を有する車外監視装置。
10. The stereo camera comprising a plurality of cameras, wherein the determination unit is configured to determine a peak position of the luminance dispersion characteristic in one captured image of the camera and the other of the cameras. 10. A failure function according to claim 1, wherein a failure is determined when a difference between a peak position of the luminance dispersion characteristic and a peak position of the captured image is within a threshold value. Outside monitoring device.
JP21691599A 1999-07-30 1999-07-30 Outside monitoring device with fail-safe function Expired - Fee Related JP3272696B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP21691599A JP3272696B2 (en) 1999-07-30 1999-07-30 Outside monitoring device with fail-safe function

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP21691599A JP3272696B2 (en) 1999-07-30 1999-07-30 Outside monitoring device with fail-safe function

Publications (2)

Publication Number Publication Date
JP2001043377A true JP2001043377A (en) 2001-02-16
JP3272696B2 JP3272696B2 (en) 2002-04-08

Family

ID=16695924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP21691599A Expired - Fee Related JP3272696B2 (en) 1999-07-30 1999-07-30 Outside monitoring device with fail-safe function

Country Status (1)

Country Link
JP (1) JP3272696B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030794A (en) * 2001-07-17 2003-01-31 Fuji Heavy Ind Ltd Outside monitoring device
US7174041B2 (en) 2002-04-25 2007-02-06 Fujitsu Ten Limited Diagnostic apparatus for abnormalities in image recognition system
DE102009005861A1 (en) 2008-01-25 2009-10-08 Fuji Jukogyo Kabushiki Kaisha Vehicle environment recognition system
JP2009237938A (en) * 2008-03-27 2009-10-15 Fuji Heavy Ind Ltd Driving support device and driving support system
DE102009015142A1 (en) 2008-03-27 2009-12-17 Fuji Jukogyo K.K. Vehicle environment recognition device and control system for tracking a preceding vehicle
US8437536B2 (en) 2008-01-25 2013-05-07 Fuji Jukogyo Kabushiki Kaisha Environment recognition system
WO2014054328A1 (en) * 2012-10-02 2014-04-10 株式会社 東芝 Vehicle detection apparatus
WO2016002418A1 (en) * 2014-07-04 2016-01-07 日立オートモティブシステムズ株式会社 Information processing device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3462467B2 (en) 2000-11-14 2003-11-05 富士重工業株式会社 Outside monitoring device

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030794A (en) * 2001-07-17 2003-01-31 Fuji Heavy Ind Ltd Outside monitoring device
US7174041B2 (en) 2002-04-25 2007-02-06 Fujitsu Ten Limited Diagnostic apparatus for abnormalities in image recognition system
DE102009005861A1 (en) 2008-01-25 2009-10-08 Fuji Jukogyo Kabushiki Kaisha Vehicle environment recognition system
US8244027B2 (en) 2008-01-25 2012-08-14 Fuji Jukogyo Kabushiki Kaisha Vehicle environment recognition system
US8437536B2 (en) 2008-01-25 2013-05-07 Fuji Jukogyo Kabushiki Kaisha Environment recognition system
DE102009005861B4 (en) 2008-01-25 2023-04-20 Subaru Corporation Vehicle environment detection system
JP2009237938A (en) * 2008-03-27 2009-10-15 Fuji Heavy Ind Ltd Driving support device and driving support system
DE102009015142A1 (en) 2008-03-27 2009-12-17 Fuji Jukogyo K.K. Vehicle environment recognition device and control system for tracking a preceding vehicle
US8175334B2 (en) 2008-03-27 2012-05-08 Fuji Jukogyo Kabushiki Kaisha Vehicle environment recognition apparatus and preceding-vehicle follow-up control system
WO2014054328A1 (en) * 2012-10-02 2014-04-10 株式会社 東芝 Vehicle detection apparatus
JP2014074939A (en) * 2012-10-02 2014-04-24 Toshiba Corp Vehicle detection device
WO2016002418A1 (en) * 2014-07-04 2016-01-07 日立オートモティブシステムズ株式会社 Information processing device

Also Published As

Publication number Publication date
JP3272696B2 (en) 2002-04-08

Similar Documents

Publication Publication Date Title
US6310546B1 (en) Stereo type vehicle monitoring apparatus with a fail-safe function
JP4953498B2 (en) Outside vehicle monitoring device with fail-safe function
JP3312729B2 (en) Outside monitoring device with fail-safe function
EP2919197B1 (en) Object detection device and object detection method
US9704404B2 (en) Lane detection apparatus and operating method for the same
US6658150B2 (en) Image recognition system
US20090237491A1 (en) Object Detecting System
JP3092105B1 (en) Outside monitoring device with fail-safe function
JP3272696B2 (en) Outside monitoring device with fail-safe function
WO2014148161A1 (en) Fault detection device
JP3301995B2 (en) Stereo exterior monitoring device
US6697146B2 (en) Range finder for finding range by image realization
JP3272694B2 (en) Outside monitoring device with fail-safe function
JP3235831B2 (en) Stereo exterior monitoring device
JP3344627B2 (en) Stereo exterior monitoring device
JP2002027447A (en) Vehicle surrounding monitoring device having fail safe function
JP3649327B2 (en) Stereo exterior monitoring system with fail-safe function
CN113884068A (en) Obstacle detection device, obstacle detection method, and storage medium
WO2022254795A1 (en) Image processing device and image processing method
JP4794764B2 (en) Outside monitoring device
JP3349077B2 (en) Image processing system
JP2007083922A (en) Collision avoidance support system, collision avoidance support method, and computer program
JP7460282B2 (en) Obstacle detection device, obstacle detection method, and obstacle detection program
JP2001043352A (en) Vehicle external monitoring device having failsafe function
JP7456716B2 (en) Obstacle detection device and moving body

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20020115

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090125

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090125

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100125

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110125

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110125

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120125

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120125

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130125

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130125

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140125

Year of fee payment: 12

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees