JP2002109549A - White road line recognition device - Google Patents

White road line recognition device

Info

Publication number
JP2002109549A
JP2002109549A JP2000301150A JP2000301150A JP2002109549A JP 2002109549 A JP2002109549 A JP 2002109549A JP 2000301150 A JP2000301150 A JP 2000301150A JP 2000301150 A JP2000301150 A JP 2000301150A JP 2002109549 A JP2002109549 A JP 2002109549A
Authority
JP
Japan
Prior art keywords
road
white line
window
area
road white
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000301150A
Other languages
Japanese (ja)
Other versions
JP3731464B2 (en
Inventor
Hiroyuki Kosho
裕之 古性
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2000301150A priority Critical patent/JP3731464B2/en
Publication of JP2002109549A publication Critical patent/JP2002109549A/en
Application granted granted Critical
Publication of JP3731464B2 publication Critical patent/JP3731464B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a white road line recognition device capable of recognizing a white road line accurately by setting thresholds for recognizing the white road line in consideration of a road surface area and a white road line area in plural windows provided on a road image for searching for the white road line. SOLUTION: The plural windows 20 for searching for the white road line 18 are provided on the road image acquired by an image acquisition means 14, and candidate points 21 of the white road line 18 are recognized by the thresholds vn set on each window 20 respectively, and a road model is estimated from the assembly of the white line candidate points 21. The area of the white road line 18 supposed to occupy inside the next window 20 from a preceding road model estimation value in repeated white road line recognition is estimated. The thresholds vn are set so that the area of pixels having brightness equal to or higher than the threshold vn becomes equal to or larger than the area of the white road line 18 estimated by a road area estimation means 103 relative to each window 20.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、例えば車両の自動
操縦や予防安全運転などのために、車両の進行方向前方
の道路を画像として取得して道路白線を認識し、この道
路白線から道路形状を推定するようにした道路白線認識
装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method for acquiring a road ahead in the traveling direction of a vehicle as an image and recognizing a road white line, for example, for automatic driving of a vehicle and preventive safe driving, and the like. The present invention relates to a road white line recognition device for estimating the white line.

【0002】[0002]

【従来の技術】この種の画像により道路白線を認識する
従来の手法としては、特開平7−244717号に開示
される車両用走行環境認識装置や特開平9−35065
号に開示される車載用画像処理装置などがある。前者の
特開平7−244717号ではエッジ検知の問題点を空
間積分で克服しようとするものであり、また、後者の特
開平9−35065号では時間積分で問題点を克服する
ものである。更に、これら以外にも取得した画像上に設
けられるウインドウの輝度値の平均値をもってそのウイ
ンドウのしきい値とし、このしきい値以上の輝度をもっ
て道路白線と見なす手法が知られている。
2. Description of the Related Art As a conventional method for recognizing a road white line from an image of this kind, a vehicle traveling environment recognition apparatus disclosed in Japanese Patent Application Laid-Open No. 7-244717 and a Japanese Patent Application Laid-Open No.
On-board image processing apparatus. The former JP-A-7-244717 attempts to overcome the problem of edge detection by spatial integration, and the latter JP-A-9-35065 overcomes the problem by time integration. Further, in addition to these methods, a method is known in which the average value of the luminance values of the windows provided on the acquired image is used as the threshold value of the window, and the luminance value equal to or higher than the threshold value is regarded as a road white line.

【0003】[0003]

【発明が解決しようとする課題】しかしながら、かかる
従来の白線認識の方法では、特開平7−244717号
の空間積分する場合は結果的に積分の変化を計算するも
のであり、満足のいくノイズの除去性能に劣り、また、
特開平9−35065号の時間積分する場合は道路が時
間とともに画像上を移動するため、時間積分の出力画像
はぼかし状態となって道路白線の検知性能が劣化するこ
とになる。
However, in such a conventional method of recognizing white lines, when spatial integration is performed as disclosed in Japanese Patent Application Laid-Open No. Hei 7-244717, a change in integration is calculated as a result. Poor removal performance,
In the case of time integration in Japanese Patent Application Laid-Open No. 9-35065, the road moves on the image with time, so that the output image of the time integration becomes blurred and the performance of detecting road white lines deteriorates.

【0004】更に、ウインドウにしきい値を設けて道路
白線を検知する手法では、実際の道路白線の輝度と路面
の輝度との間にしきい値となる平均値が来ないことが多
い。図14はそのときの累積輝度分布の一例を示し、こ
れは右軸に輝度、縦軸に輝度の分布度数をそれぞれ表
し、輝度は右に行くほど高くなって0〜255まで変化
するとともに、度数は上に行くほど大きくなって100
パーセントまで到達している。同図中輝度V0に対して
度数T0が対応しているが、これは輝度V0以上の度数が
T0パーセントであることを意味する。また、輝度0
(黒)以上は全ての輝度を意味するため、縦軸の切片は
必ず100パーセントとなる。
Further, in a method of detecting a road white line by setting a threshold value in a window, an average value serving as a threshold value often does not come between the luminance of an actual road white line and the luminance of a road surface. FIG. 14 shows an example of the cumulative luminance distribution at that time, in which the right axis represents the luminance and the vertical axis represents the distribution frequency of the luminance, and the luminance increases from the right side and changes from 0 to 255. Is 100
Percent has been reached. In the figure, the frequency T0 corresponds to the luminance V0, which means that the frequency equal to or higher than the luminance V0 is T0%. In addition, luminance 0
(Black) Since the above means all luminances, the intercept on the vertical axis is always 100%.

【0005】ここで、上記輝度分布の平均輝度をVav
e、道路白線輝度をVref(Vave<Vref)とした場合、
画面全体は黒っぽく、道路白線の占める部分が少ないこ
とから、輝度の平均が黒寄りに設定されることになる。
従って、この場合はVaveとVrefとの間に存在する輝度
は誤検知の対象となる。
[0005] Here, the average luminance of the luminance distribution is Vav
e, when the road white line luminance is Vref (Vave <Vref),
Since the entire screen is dark and the road white line occupies a small portion, the average brightness is set closer to black.
Therefore, in this case, the luminance existing between Vave and Vref is a target of erroneous detection.

【0006】また、これとは逆にVave>Vrefとなる同
様の累積輝度分布を図15に示すが、これは一部のノイ
ズの輝度が高くて平均輝度を押し上げている場合で、V
aveとVrefとの間に存在する輝度は道路白線として認識
することができなくなる。
[0006] On the contrary, FIG. 15 shows a similar cumulative luminance distribution in which Vave> Vref. In the case where the luminance of some noises is high and the average luminance is raised, Vdd> Vref is obtained.
The luminance existing between ave and Vref cannot be recognized as a road white line.

【0007】本発明はかかる従来の課題に鑑みて成され
たもので、道路白線を探索するために道路画像上に設け
た複数のウインドウ内で、道路白線を認識するためのし
きい値を路面面積と道路白線面積とを考慮して設定する
ことにより、道路白線を精度良く認識できるようにした
道路白線認識装置を提供することを目的とする。
The present invention has been made in view of such a conventional problem, and sets a threshold value for recognizing a road white line in a plurality of windows provided on a road image for searching for a road white line. An object of the present invention is to provide a road white line recognizing apparatus which can set road white lines with high accuracy by setting the area in consideration of the area and the road white line area.

【0008】[0008]

【課題を解決するための手段】請求項1に記載の本発明
は、車両前方の道路画像を取得する画像取得手段と、取
得した道路画像内に道路白線を探索する複数のウインド
ウを設けるウインドウ設定手段と、各ウインドウそれぞ
れに設定されたしきい値によって道路白線の候補点を認
識する白線候補点選択手段とを備え、この白線候補点の
集合から道路モデルを推定するようにした道路白線認識
装置であって、繰り返し行われる道路白線認識で前回の
道路モデル推定値から次回のウインドウ内に占めると想
定される道路白線の面積を推定する道路面積推定手段
と、それぞれのウインドウに対してしきい値以上の輝度
を持つ画素の面積が上記道路面積推定手段で推定された
道路白線の面積以上となるように上記しきい値を個々に
設定するしきい値設定手段と、を設けたことを要旨とす
る。
According to a first aspect of the present invention, there is provided an image acquisition means for acquiring a road image ahead of a vehicle, and a window setting for providing a plurality of windows for searching for a road white line in the acquired road image. And a white line candidate point selecting means for recognizing a road white line candidate point based on a threshold value set for each window, and estimating a road model from a set of white line candidate points. A road area estimating means for estimating an area of a road white line assumed to be occupied in the next window from a previous road model estimation value by repeated road white line recognition, and a threshold value for each window The threshold value is set individually to set the threshold value such that the area of the pixel having the above brightness is equal to or larger than the area of the road white line estimated by the road area estimation means. And summarized in that provided with means.

【0009】請求項2に記載の本発明は、車両前方の道
路画像を取得する画像取得手段と、取得した道路画像内
に道路白線を探索する複数のウインドウを設けるウイン
ドウ設定手段と、各ウインドウに設定されたしきい値に
よって道路白線の候補点を認識する白線候補点選択手段
とを備え、この白線候補点の集合から道路モデルを推定
するようにした道路白線認識装置であって、繰り返し行
われる道路白線認識で前回の道路モデル推定値から次回
のウインドウ内に占めると想定される道路白線の面積を
推定する道路面積推定手段と、所定のウインドウにおい
てしきい値以上の輝度を持つ画素の面積が上記道路面積
推定手段で推定された道路白線の面積以上となるように
上記しきい値を設定するしきい値設定手段とを設け、こ
のしきい値を全ウインドウに適用することを要旨とす
る。
According to a second aspect of the present invention, there is provided an image acquiring means for acquiring a road image ahead of a vehicle, a window setting means for providing a plurality of windows for searching for a road white line in the acquired road image, A white line candidate point selecting means for recognizing road white line candidate points based on a set threshold value, wherein a road model is estimated from a set of white line candidate points, and the road white line recognition device is repeatedly executed. Road area estimating means for estimating the area of the road white line assumed to occupy the next window from the previous road model estimation value in road white line recognition; and Threshold value setting means for setting the threshold value so as to be equal to or larger than the area of the road white line estimated by the road area estimation means; And gist applying to window.

【0010】請求項3に記載の本発明は、請求項2の道
路白線認識装置にあって、所定のウインドウを、画像取
得手段に近い道路白線を透視するウインドウに選定した
ことを要旨とする。
According to a third aspect of the present invention, in the road white line recognizing device of the second aspect, a predetermined window is selected as a window through which a road white line close to the image acquisition means is seen.

【0011】請求項4に記載の本発明は、請求項1〜3
のいずれか1つの道路白線認識装置にあって、道路認識
を繰り返し行い、前回の道路モデル推定値から次回のウ
インドウ位置を想定することを要旨とする。
The present invention described in claim 4 is the first to third aspects of the present invention.
In any one of the road white line recognition devices, the gist is to repeat the road recognition and assume the next window position from the previous road model estimation value.

【0012】請求項5に記載の本発明は、請求項1〜4
のいずれか1つの道路白線認識装置にあって、ウインド
ウの上下両端が道路白線と重なると想定されるそれぞれ
の幅を上底および下底として道路白線を台形と見立て、
その面積を近似的に求めることを要旨とする。
The present invention according to claim 5 provides the invention according to claims 1-4.
In any one of the road white line recognition device, the upper and lower ends of the window are assumed to overlap with the road white line, and the width of the road is assumed to be a trapezoid, with the upper and lower bottoms as respective widths.
The gist is to approximately determine the area.

【0013】請求項6に記載の本発明は、請求項1〜4
のいずれか1つの道路白線認識装置にあって、ウインド
ウの上下一方の端が道路白線と重なると想定される幅を
1辺として道路白線を平行四辺形と見立て、その面積を
近似的に求めることを要旨とする。
[0013] The present invention described in claim 6 provides the invention according to claims 1-4.
The road white line is recognized as a parallelogram, with the width of one of the upper and lower edges of the window assumed to overlap the road white line, as one side, and its area is approximately determined. Is the gist.

【0014】[0014]

【発明の効果】請求項1に記載の本発明によれば、道路
白線は、車両前方の道路画像上に設けた複数のウインド
ウ内で探索されるようになっており、各ウインドウに個
々に設定されるしきい値以上の輝度(以下、高輝度とい
う)をもって道路白線を判別できる。このとき、各ウイ
ンドウの道幅方向の幅は、道路が存在すると想定される
画像上の領域を含むように複数個設定しておけばよく、
また、上記高輝度の画素は道路白線以外にも道路条件、
例えば水の反射やランプおよび太陽光の直射・反射光な
どによって現れる場合があり、これが疑似白線となって
本来の道路白線と混同する要因となる。従って、この疑
似白線を含めて上記高輝度の画素を道路白線候補点と見
なして取り込んだ上で、この道路白線候補点の連続性な
どから道路白線を検知することができる。
According to the first aspect of the present invention, the road white line is searched in a plurality of windows provided on the road image in front of the vehicle, and is set individually in each window. The road white line can be determined based on the luminance equal to or higher than the threshold value (hereinafter, referred to as high luminance). At this time, a plurality of widths in the road width direction of each window may be set so as to include an area on the image where a road is assumed to exist.
In addition, the high-luminance pixels include road conditions other than road white lines,
For example, it may appear due to reflection of water or direct or reflected light of a lamp or sunlight, which becomes a pseudo white line and is confused with an original road white line. Therefore, the high brightness pixels including the pseudo white line are taken in as road white line candidate points, and then the road white line can be detected from the continuity of the road white line candidate points.

【0015】このとき、それぞれのウインドウでは高輝
度を持つ画素の面積、つまり疑似白線を含む道路白線候
補点の画素の面積が、ウインドウ内に占めると想定され
る道路白線の面積以上となるようにそのしきい値が設定
されるため、高輝度を持つ画素の集合に道路白線が確実
に含まれることになる。そして、このようにしきい値が
高輝度を持つ画素の面積と道路白線の面積との対比で決
定されるため、ウインドウ内の路面面積が占める割合が
大きくなった場合にも、しきい値が黒寄り、つまり低輝
度側に設定されるのが防止される。また、ウインドウ内
の一部に高輝度のノイズが現れた場合にも、その面積が
小さければしきい値にほとんど影響されることは無い。
つまり、しきい値はウインドウ内全体の路面面積に対し
て、そのウインドウ内に占める道路白線面積を考慮して
決定されるものであり、これによってウインドウ内の道
路白線候補点を確実に認識でき、ひいては、この道路白
線候補点から道路白線を精度良く認識することができ
る。
At this time, in each window, the area of a pixel having high luminance, that is, the area of a pixel of a road white line candidate point including a pseudo white line is set to be equal to or larger than the area of a road white line assumed to occupy the window. Since the threshold value is set, a set of pixels having high brightness includes a road white line without fail. Since the threshold value is determined by the comparison between the area of the pixel having high luminance and the area of the road white line, even when the ratio of the road surface area in the window becomes large, the threshold value becomes black. Deviation, that is, setting to the low luminance side is prevented. Also, when high-luminance noise appears in a part of the window, the threshold value is hardly affected if the area is small.
That is, the threshold value is determined in consideration of the road white line area occupied in the window with respect to the entire road surface area in the window, whereby the road white line candidate point in the window can be reliably recognized, As a result, the road white line can be accurately recognized from the road white line candidate points.

【0016】請求項2に記載の本発明によれば、上記請
求項1の道路白線認識装置と同様の手法をもってしきい
値が設定されるが、この請求項2の道路白線認識装置の
場合は、所定のウインドウで設定したしきい値を共通の
しきい値として、複数のウインドウ全てに設定するよう
になっているため、このしきい値の設定計算が全てのウ
インドウに対して1回、つまり1画面に付き1回で済む
ことになる。従って、しきい値を高速で設定できるため
道路白線の認識をよりリアルタイムで実行できる。従っ
て、高速処理を要求されるシステムに有利となり、例え
ば高速走行する車両の走行案内を確実かつ安全に行うこ
とができるようになる。
According to the second aspect of the present invention, the threshold value is set in the same manner as in the road white line recognition device of the first aspect. Since the threshold value set in a predetermined window is set as a common threshold value and is set in all of a plurality of windows, the setting calculation of this threshold value is performed once for all windows, that is, Only one time is required for one screen. Therefore, since the threshold value can be set at a high speed, the recognition of the road white line can be performed in more real time. Therefore, it is advantageous for a system that requires high-speed processing. For example, it is possible to reliably and safely guide a vehicle traveling at high speed.

【0017】請求項3に記載の本発明によれば、上記請
求項2の道路白線認識装置にあって、所定のウインドウ
を、画像取得手段に近い道路白線を透視するウインドウ
に選定したので、この画像取得手段に近いウインドウで
は、より遠くにあるウインドウに比較して道路白線が拡
大されているため、道路白線面積の変化が抑制されるこ
とになる。従って、ノイズがしきい値に影響しづらくな
るため、繰り返し行われるしきい値設定をより高速に対
応させることができるようになり、高速処理を要求され
るシステムで有利となる。
According to the third aspect of the present invention, in the road white line recognizing device of the second aspect, the predetermined window is selected as a window through which the road white line close to the image acquisition means is seen. In a window close to the image acquisition unit, the road white line is enlarged compared to a window farther away, so that a change in the road white line area is suppressed. Accordingly, since the noise is less likely to affect the threshold value, the threshold value setting that is repeatedly performed can be made faster, which is advantageous in a system that requires high-speed processing.

【0018】請求項4に記載の本発明よれば、上記請求
項1〜3のいずれか1つの道路白線認識装置にあって、
道路認識を繰り返し行い、前回の道路モデル推定値から
次回のウインドウ位置を想定するようにしたので、ウイ
ンドウ位置を道路モデルに応じてその都度適切に設定で
きるようになる。従って、ウインドウを固定的に設けた
場合は道路の存在しうる領域を全てカバーする必要があ
るが、その都度設定するウインドウでは道路白線を取得
するに十分な面積を確保すればよく、ウインドウの面積
を小さくことができる。つまり、このようにウインドウ
を小さくすることにより、道路白線以外の疑似白線が取
り込まれる確率が少なくなるため、しきい値の設定精度
が向上される。
According to a fourth aspect of the present invention, there is provided the road white line recognition device according to any one of the first to third aspects,
Since the road recognition is repeatedly performed and the next window position is assumed from the previous road model estimation value, the window position can be appropriately set each time according to the road model. Therefore, when the window is fixedly provided, it is necessary to cover all the areas where the road can exist. However, the window to be set each time needs only to secure a sufficient area for acquiring the road white line, and the area of the window Can be reduced. In other words, by reducing the window in this way, the probability that a pseudo white line other than the road white line is captured is reduced, and the setting accuracy of the threshold value is improved.

【0019】請求項5に記載の本発明によれば、上記請
求項1〜4のいずれか1つの道路白線認識装置にあっ
て、ウインドウの上下両端が道路白線と重なると想定さ
れるそれぞれの幅を上底および下底として道路白線を台
形と見立て、その面積を近似的に求めるようにしたの
で、ウインドウの上下高さが既知であるため、道路白線
の面積は上記上底と下底の2箇所の長さを求めるのみで
高速に演算できるようになる。
According to a fifth aspect of the present invention, there is provided the road white line recognizing device according to any one of the first to fourth aspects, wherein each of the upper and lower ends of the window is assumed to overlap the road white line. Is assumed to be a trapezoid, and the area of the white line is approximately determined. Therefore, since the vertical height of the window is known, the area of the road white line is equal to the upper bottom and the lower bottom. The calculation can be performed at high speed only by obtaining the length of the portion.

【0020】請求項6に記載の本発明によれば、請求項
1〜4のいずれか1つの道路白線認識装置にあって、ウ
インドウの上下一方の端が道路白線と重なると想定され
る幅を1辺として道路白線を平行四辺形と見立て、その
面積を近似的に求めるようにしたので、この場合は道路
白線が重なるウインドウの上下一方の端の1箇所の長さ
を求めるのみで道路白線の面積を決定でき、演算の更な
る高速化を達成できるようになる。
According to a sixth aspect of the present invention, there is provided the road white line recognition device according to any one of the first to fourth aspects, wherein one of the upper and lower ends of the window is assumed to overlap with the road white line. The road white line is regarded as a parallelogram as one side, and its area is approximately determined. In this case, only the length of one of the upper and lower ends of the window where the road white line overlaps is determined, and the road white line is determined. The area can be determined, and the operation can be further speeded up.

【0021】[0021]

【発明の実施の形態】以下、本発明の実施形態を添付図
面を参照して詳細に説明する。
Embodiments of the present invention will be described below in detail with reference to the accompanying drawings.

【0022】図1は本発明にかかる道路白線認識装置1
0の一実施形態を示す基本的な構成で、車両前方の道路
画像を取得する画像取得手段14と、取得した道路画像
内に道路白線18を探索する複数のウインドウ20を設
けるウインドウ設定手段101と、各ウインドウ20そ
れぞれに設定されたしきい値vnによって道路白線18
の候補点21を認識する白線候補点選択手段102とを
備え、この白線候補点21の集合から道路モデルを推定
するようになっており、繰り返し行われる道路白線認識
で前回の道路モデル推定値から次回のウインドウ20内
に占めると想定される道路白線18の面積snを推定す
る道路面積推定手段103と、それぞれのウインドウ2
0に対してしきい値vn以上の輝度を持つ画素の面積が
上記道路面積推定手段103で推定された道路白線18
の面積sn以上となるように上記しきい値vnを個々に設
定するしきい値設定手段104とを設けて構成される。
FIG. 1 is a road white line recognition apparatus 1 according to the present invention.
0, a basic configuration showing one embodiment, an image acquisition unit 14 for acquiring a road image ahead of a vehicle, and a window setting unit 101 for providing a plurality of windows 20 for searching for a road white line 18 in the acquired road image. The road white line 18 is determined by the threshold value vn set for each window 20.
And a white line candidate point selecting means 102 for recognizing the candidate point 21 of the road line. The road model is estimated from the set of the white line candidate points 21. A road area estimating means 103 for estimating an area sn of the road white line 18 assumed to occupy the next window 20;
The area of a pixel having a luminance equal to or greater than the threshold value vn with respect to 0 is the road white line 18 estimated by the road area estimation unit 103.
And a threshold value setting means 104 for individually setting the threshold value vn so as to be equal to or more than the area sn.

【0023】図2は上記道路白線認識装置10を搭載し
た車両12の一実施形態を示す概略図で、画像取得手段
14とこの画像取得手段14で取得した画像信号(以
下、単に画像という)を処理するプロセッサ16とが車
両12に設置される。画像取得手段14は高感度撮像が
可能なCCDカメラなどが好ましく、この画像取得手段
(以下、カメラという)14は室内天井12aの前方中
央部に前方下方を指向して取り付けられ、フロントガラ
ス12bを通して車両12前方の道路R画像を取得する
ようになっている。上記プロセッサ16は車両12の熱
や風雨の影響のない適宜箇所に設置され、上記カメラ1
4で取得した道路R画像から道路白線18を認識して道
路モデル(道路形状)を推定する制御が実行される。
FIG. 2 is a schematic view showing an embodiment of the vehicle 12 equipped with the road white line recognition device 10. The image acquisition means 14 and an image signal (hereinafter simply referred to as an image) acquired by the image acquisition means 14 are shown. A processor 16 for processing is installed in the vehicle 12. The image acquisition means 14 is preferably a CCD camera or the like capable of high-sensitivity imaging, and this image acquisition means (hereinafter, referred to as a camera) 14 is attached to the front central portion of the indoor ceiling 12a so as to face forward and downward, and passes through the windshield 12b. A road R image ahead of the vehicle 12 is acquired. The processor 16 is provided at an appropriate location where the vehicle 12 is not affected by heat or wind and rain.
Control for recognizing the road white line 18 from the road R image acquired in 4 and estimating a road model (road shape) is executed.

【0024】図3はプロセッサ16によって道路モデル
を想定するプログラムP1を実行するためのフローチャ
ートを示す。即ち、このフローチャートでは前方画像取
込処理により車両前方画像を取り込んだ後(ステップS
1)、ウインドウ設定処理により画像内に複数のウイン
ドウを設ける(ステップS2)。次にステップS4〜S
7の処理を完了したかどうかを判断(ステップS3)し
た後、道路パラメータ推定処理により道路モデルを想定
する(ステップS8)ようになっている。
FIG. 3 shows a flowchart for executing a program P1 for assuming a road model by the processor 16. That is, in this flowchart, after a vehicle front image is captured by the front image capture process (step S
1), a plurality of windows are provided in an image by a window setting process (step S2). Next, steps S4 to S
After it is determined whether or not the processing of Step 7 is completed (Step S3), a road model is assumed by the road parameter estimation processing (Step S8).

【0025】ステップS4は画像内に設けられた上記複
数のウインドウ全てにステップS5〜7の処理が実行さ
れるように順に次のウインドウを選択する。そして、ス
テップS5の白線候補点選択処理によってしきい値より
高輝度の画素を取り込んだ後、ステップS6の白線候補
線算出処理によりステップS5で取り込んだ白線候補点
の連続性から白線と見なすことができる線を算出し、ス
テップS7の道路座標算出処理では白線候補線とウイン
ドウの上辺との交点座標を求める。また、ステップS8
の処理後はステップS1に戻り、一連のプログラムP1
が所定時間毎に実行されることになる。
In step S4, the next window is selected in order so that the processing in steps S5 to S7 is performed on all of the plurality of windows provided in the image. Then, after capturing pixels having a luminance higher than the threshold value by the white line candidate point selection processing in step S5, the white line can be regarded as a white line from the continuity of the white line candidate points captured in step S5 in the white line candidate line calculation processing in step S6. A possible line is calculated, and the intersection coordinates between the white line candidate line and the upper side of the window are obtained in the road coordinate calculation process in step S7. Step S8
After returning to step S1, the program returns to step S1 to
Is executed every predetermined time.

【0026】以下、上記プログラムP1の処理を各ステ
ップS1〜S8毎に詳述する。
Hereinafter, the processing of the program P1 will be described in detail for each of steps S1 to S8.

【0027】(1)前方画像取込(S1) 上記カメラ14によって撮像された画像信号を、プログ
ラムP1を処理する所定時間毎に取り込む。
(1) Capture of Forward Image (S1) An image signal captured by the camera 14 is captured every predetermined time for processing the program P1.

【0028】(2)ウインドウ設定(S2) ウインドウ20は、図4に示すように道路白線18の延
長方向に沿って複数が設けられ、前回の画像処理結果に
よって得られた道路モデルにより、それぞれのウインド
ウ20に道路白線18が取り込まれるように、それぞれ
の位置が設定される。図中の縦方向は画像座標y軸方向
を示し、図中下方がyプラスである。また、図中の横方
向は画像座標x軸方向を示し、図中右方がxプラスであ
る。図5に示すようにウインドウ20のx方向の幅Wは
道路が存在すると想定される画像上の領域をカバーする
ように、各ウインドウ20(同図では1つのウインドウ
20を例にとって示してある。)が設定される。各ウイ
ンドウ20の上辺20aの座標y0と下辺20bの座標
y1とは固定とする。また、道路モデルは式1によって
得られる(特開平6−20189号参照)。
(2) Window Setting (S2) As shown in FIG. 4, a plurality of windows 20 are provided along the extension direction of the road white line 18, and each of the windows 20 is determined by a road model obtained by the previous image processing result. Each position is set so that the road white line 18 is taken into the window 20. The vertical direction in the figure indicates the y-axis direction of the image coordinates, and the lower part in the figure is y plus. The horizontal direction in the figure indicates the image coordinate x-axis direction, and the right side in the figure is x-plus. As shown in FIG. 5, each window 20 (one window 20 is shown as an example in FIG. 5) so that the width W of the window 20 in the x direction covers an area on an image where a road is assumed to exist. ) Is set. The coordinates y0 of the upper side 20a and the coordinates y1 of the lower side 20b of each window 20 are fixed. The road model is obtained by Equation 1 (see Japanese Patent Application Laid-Open No. 6-20189).

【0029】[0029]

【数1】 パラメータA、B、C、D、Hはそれぞれ自車両の車線
に対する横位置、道路曲率、自車両の車線に対するヨー
角、ピッチ角、カメラ高さに相当する。E0は車線幅
(左右白線の内側間の距離)、fV、fhはカメラ透視変
換定数で縦方向、横方向をそれぞれ表す。(x,y)は
自車両に対して白線内側の画像上の座標(以下、道路座
標という)であり、以下においてx,yは画像上の座標
を意味するものとする。また、iは左白線では「0」、
右白線では「1」を表す。
(Equation 1) The parameters A, B, C, D, and H correspond to the lateral position of the own vehicle with respect to the lane, the road curvature, the yaw angle, the pitch angle, and the camera height of the own vehicle with respect to the lane, respectively. E0 is the lane width (the distance between the inner sides of the left and right white lines), and fV and fh are camera perspective transformation constants representing the vertical direction and the horizontal direction, respectively. (X, y) is the coordinates on the image inside the white line with respect to the own vehicle (hereinafter referred to as road coordinates), and in the following, x and y mean the coordinates on the image. Also, i is “0” on the left white line,
The right white line represents “1”.

【0030】また、式1は道路モデルを表す一手法を示
したものであり、例えば、E0を変数にしたもの、Hを
固定したもの、車線幅を左白線中央と見自白線中央の距
離とし、(x,y)を白線中央の画像座標として定義す
ることもできる。
Equation 1 shows one method of representing a road model. For example, a method in which E0 is a variable, H is fixed, and the lane width is the distance between the center of the left white line and the center of the self-white line. , (X, y) can be defined as the image coordinates of the center of the white line.

【0031】ここで、N番目のウインドウの上辺20a
のy座標をynとし、前回のパラメータ推定結果を{A
(−1),B(−1),C(−1),D(−1),H
(−1)}とすると、式1より今回のウインドウ20の
中心座標xestは式2で示される。
Here, the upper side 20a of the N-th window
Let y be the y coordinate of A, and let the previous parameter estimation result be {A
(-1), B (-1), C (-1), D (-1), H
If (−1)}, the center coordinate xest of the current window 20 is expressed by Equation 2 from Equation 1.

【0032】[0032]

【数2】 ウインドウ20のx方向の幅は固定値もあれば、特開平
8−261756号に示されるように、パラメータの分
散から合理的に設定する方法も提示されている。
(Equation 2) There is also proposed a method of setting the width of the window 20 in the x direction in a fixed manner, or rationally setting the dispersion of parameters as disclosed in Japanese Patent Application Laid-Open No. 8-261756.

【0033】(3)すべてのウインドウ完了?(S3) ステップS3〜S7のループ内処理を各ウインドウ20
全てに対して実行したかどうかを判断する。
(3) All windows completed? (S3) The processing in the loop of steps S3 to S7 is
It is determined whether or not execution has been performed for all.

【0034】(4)次のウインドウへ(S4) ステップS3〜S7のループ内処理が各ウインドウ20
全てに対して実行されない場合に、処理していないウイ
ンドウ20を順次選択する。
(4) To the next window (S4) The processing in the loop of steps S3 to S7 is performed for each window 20.
If the processing is not executed for all the windows, the unprocessed windows 20 are sequentially selected.

【0035】(5)白線候補点選択(S5) この白線候補点選択を処理するプログラムP2は、図6
に示すフローチャートによって実行される。即ち、この
プログラムP2は、道路面積を推定(ステップS10)
した後に度数分布を算出(ステップS11)し、これら
からしきい値を設定する(ステップS12)とともに、
しきい値による選択が行われる(ステップS13)。
(5) White Line Candidate Point Selection (S5) The program P2 for processing this white line candidate point selection is shown in FIG.
This is executed according to the flowchart shown in FIG. That is, the program P2 estimates the road area (step S10).
After that, a frequency distribution is calculated (step S11), and a threshold value is set from these (step S12).
Selection based on a threshold value is performed (step S13).

【0036】ここで、上記プログラムP2の処理を各ス
テップS10〜S13毎に詳述する。(5−1)道路面
積推定(S10) 前回処理の結果から該当するウインドウ20での道路面
積を推定する。N番目となるウインドウ20の上辺20
aのy座標をynとする。道路モデルを表す式1より、
このウインドウ20での予想x座標xnは式3で示され
る。
Here, the processing of the program P2 will be described in detail for each of steps S10 to S13. (5-1) Road Area Estimation (S10) The road area in the corresponding window 20 is estimated from the result of the previous processing. The upper side 20 of the N-th window 20
Let y be the y coordinate of a. From Equation 1 representing the road model,
The expected x-coordinate xn in this window 20 is shown by Expression 3.

【0037】[0037]

【数3】 Aは自車両の車線に対する横変位を表す。車両が白線幅
だけずれた場合の画像上のずれは、白線幅の画像上での
幅を表している。従って、widthを実際の白線の幅(例
えば15cm)とすると、式3より画像上の白線の幅wn
は式4で示される。この場合、添え字nはN番目を表す。
(Equation 3) A represents the lateral displacement of the host vehicle with respect to the lane. The displacement on the image when the vehicle is displaced by the white line width represents the width of the white line width on the image. Therefore, assuming that the width is the actual width of the white line (for example, 15 cm), the width wn of the white line on the image is obtained from Expression 3.
Is shown by equation 4. In this case, the subscript n represents the N-th.

【0038】[0038]

【数4】 道路面積はウインドウ20の面積で正規化される。即
ち、ウインドウ20面積と一致した場合には、面積=1
00パーセントとする。ウインドウ20の面積はプログ
ラムP1のステップS2で既知であり、それをunとす
る。この場合、道路白線18を上底と下底がウインドウ
枠に接した平行四辺形と見なす。つまり、ウインドウ2
0の上辺20aと下辺20bの一方が道路白線18と重
なると想定される幅を1辺としてこの道路白線18を平
行四辺形と見立て、その面積を近似的に求めるようにな
っている。この場合の正規化された道路白線面積snは
式5で表される。ただし、dnはウインドウ20のy方
向の幅を表す。
(Equation 4) The road area is normalized by the area of the window 20. That is, if the window area matches the area, the area = 1
00 percent. The area of the window 20 is known in step S2 of the program P1, and is defined as un. In this case, the road white line 18 is regarded as a parallelogram whose upper and lower bases are in contact with the window frame. That is, window 2
The width of one of the upper side 20a and the lower side 20b of 0 is assumed to overlap the road white line 18, and the road white line 18 is regarded as a parallelogram, and the area thereof is approximately determined. The normalized road white line area sn in this case is expressed by Expression 5. Here, dn represents the width of the window 20 in the y direction.

【0039】[0039]

【数5】 (5−2)度数分布算出(S11) ウインドウ20の画素をすべて走査して輝度分布を調べ
る。ところで、この輝度分布を調べるにあたって、図1
5の累積輝度分布によって輝度が0〜255まで変化す
る従来技術を説明したが、このように輝度カウンタを0
〜255まで別々に用意すると、プロセッサ16のメモ
リが膨大となる。このため、本実施形態では図7に示す
ようにカウンタを10毎にまとめ、輝度0〜9をカウン
タ0として置き換えるとともに、輝度10から19をカ
ウンタ10として順次置き換えてある。この場合、同図
ではカウンタを一部省略してある。
(Equation 5) (5-2) Frequency Distribution Calculation (S11) The luminance distribution is checked by scanning all the pixels in the window 20. By the way, in examining this luminance distribution, FIG.
The prior art in which the luminance changes from 0 to 255 according to the accumulated luminance distribution of 5 has been described.
If ~ 255 are prepared separately, the memory of the processor 16 becomes enormous. For this reason, in the present embodiment, as shown in FIG. 7, the counters are grouped for every 10, and the luminances 0 to 9 are replaced as the counter 0, and the luminances 10 to 19 are sequentially replaced as the counter 10. In this case, the counter is partially omitted in FIG.

【0040】(5−3)しきい値設定(S12) 図7に示した各カウンタの合計、つまりウインドウ20
の画素数の合計をbnとすると、道路白線18上の画素
数knは式6によって与えられる。
(5-3) Threshold value setting (S12) The sum of each counter shown in FIG.
Is the total number of pixels of the road bn, the number of pixels kn on the road white line 18 is given by Expression 6.

【0041】[0041]

【数6】 また、各輝度のカウンタ数をc0〜c25とする。ただ
し、c1は輝度0〜9の画素のカウンタのように定義す
る。また、c25だけは250〜255の画素のカウンタ
とする。次に、輝度の高い方のカウンタからカウンタ値
を累積する変数jnを用意し、式7をmが25から初め
て1づつ下げて繰り返し実行する。そして、その繰り返
し最中に(jn≧kn)の条件が満たされた場合に計算を
停止する。
(Equation 6) Further, the number of counters for each luminance is assumed to be c0 to c25. However, c1 is defined like a counter of pixels of luminance 0-9. Also, only c25 is a counter for 250 to 255 pixels. Next, a variable jn for accumulating the counter value is prepared from the counter with the higher luminance, and the equation 7 is repeatedly executed, starting from 25 for m, decreasing by one. Then, when the condition (jn ≧ kn) is satisfied during the repetition, the calculation is stopped.

【0042】[0042]

【数7】 その繰り返し最中に以下の式8に示す条件が満たされた
場合に計算を停止する。
(Equation 7) If the condition shown in the following Expression 8 is satisfied during the repetition, the calculation is stopped.

【0043】[0043]

【数8】 このときに、始めて道路白線面積がしきい値以上の領域
に包含されたことを意味する。そして、計算が中止され
た時のmの値をもってしきい値vnを式9によって計算
する。
(Equation 8) At this time, it means that the road white line area is included in the area equal to or larger than the threshold value for the first time. Then, the threshold value vn is calculated by Expression 9 using the value of m at the time when the calculation is stopped.

【0044】[0044]

【数9】 (5−4)しきい値による選択(S13) ウインドウ20内の画素を再走査し、上記vn以上の輝
度を白線候補点21とする。これによって図8に示すよ
うに白線候補点21がウインドウ20に多数プロットさ
れた集合群として表される。
(Equation 9) (5-4) Selection Based on Threshold Value (S13) The pixels in the window 20 are re-scanned, and a luminance equal to or higher than vn is set as a white line candidate point 21. Thereby, as shown in FIG. 8, the white line candidate points 21 are represented as a set group in which a large number of plotted points are plotted in the window 20.

【0045】次に、上記プログラムP1に戻って説明を
進める。
Next, the description returns to the program P1.

【0046】(6)白線候補線算出(S6) ウインドウ20内にプロットされた白線候補点21の連
続性から白線候補線22を探索する。この探索にはハフ
変換や最小自乗法などを用いることができる。例えば、
ハフ変換直線近似では図9に示すようにウインドウ20
内を通過する直線のうち、最も白線候補点21を多く貫
いたものが選択される。
(6) White Line Candidate Line Calculation (S6) A white line candidate line 22 is searched from the continuity of the white line candidate points 21 plotted in the window 20. For this search, a Hough transform, a least squares method, or the like can be used. For example,
In the Hough transform linear approximation, as shown in FIG.
Of the straight lines passing through the inside, the one passing through the white line candidate point 21 most is selected.

【0047】(7)道路座標算出(S7) 図10に示すように白線候補線21とウインドウ20の
上辺20aとの交点座標(xn,yn)を求める。これが
そのウインドウ20での道路座標となり、白線候補線2
1の数に応じて道路座標の集合(x0,y0)〜(xn0,
yn0)が得られる。
(7) Calculation of Road Coordinates (S7) As shown in FIG. 10, the intersection coordinates (xn, yn) between the white line candidate line 21 and the upper side 20a of the window 20 are obtained. This becomes the road coordinates in the window 20, and the white line candidate line 2
A set of road coordinates (x0, y0) to (xn0,
yn0) is obtained.

【0048】(8)道路パラメータ推定(S8) 道路座標の集合(x0,y0)〜(xn0,yn0)と上記式
1の構造に基づいて、道路モデル(A,B,C,D,
H)の推定が行われる。この推定を行う方式の代表的な
ものとして、最小自乗法やカルマンフィルタを用いるこ
とができる。
(8) Road Parameter Estimation (S8) Based on the set of road coordinates (x0, y0) to (xn0, yn0) and the structure of the above equation 1, the road model (A, B, C, D,
H) is estimated. As a representative method of performing this estimation, a least square method or a Kalman filter can be used.

【0049】以下、本実施形態の道路白線認識装置10
の作用を述べる。即ち、この道路白線認識装置10は、
各ウインドウ20に設定されるしきい値が、カメラ14
によって取得した道路画面内の路面面積と道路白線面積
とを考慮に入れて適切に決定され、これにより道路白線
18を精度良く認識できるものであり、これを用いるこ
とによって道路モデル(形状)を正確に推定することが
できる。
Hereinafter, the road white line recognition device 10 of the present embodiment will be described.
The operation of will be described. That is, the road white line recognition device 10
The threshold value set for each window 20 is the camera 14
It is determined appropriately taking into consideration the road surface area and the road white line area in the road screen acquired by the above, and the road white line 18 can be recognized with high accuracy. By using this, the road model (shape) can be accurately determined. Can be estimated.

【0050】即ち、上記道路白線認識装置10はプログ
ラムP1のステップS5によって白線候補点21が選択
されるが、この白線候補点21はプログラムP2の道路
面積推定(ステップS10)と度数分布算出(ステップ
S11)とを経て設定されるしきい値vnを基準として
検出される。このとき、画面に取り込まれる高輝度なも
のは道路白線18とは限ることなく、例えば、前方車両
の窓の照り返し、ランプ、その他太陽光の直射・反射光
などは輝度が高いものである。しかし、ウインドウ20
内に限定した場合、それらが入る確率は大幅に現象す
る。即ち、ウインドウ20内で道路白線18が高輝度を
示す可能性が高くなり、よって、所定値以上の輝度を有
する画素の集合に道路白線18が確実に含まれることに
なる。ここで、上記しきい値vnの設定が問題となるこ
とは従来に述べた通りであり、これを本発明が解決する
ことにより精度良く道路白線18を認識できるのであ
る。
That is, the road white line recognition device 10 selects the white line candidate point 21 in step S5 of the program P1, and the white line candidate point 21 is used to estimate the road area (step S10) and calculate the frequency distribution (step S10) in the program P2. It is detected based on the threshold value vn set through S11). At this time, the high-brightness captured on the screen is not limited to the road white line 18, and, for example, a backlit window of a vehicle ahead, a lamp, and other direct or reflected light of sunlight have high brightness. However, window 20
If they are restricted to within, the probability that they will enter greatly phenomena. That is, the possibility that the road white line 18 shows high luminance in the window 20 increases, and thus the road white line 18 is surely included in a set of pixels having a luminance equal to or higher than a predetermined value. Here, the setting of the threshold value vn is problematic as described above, and by solving this problem according to the present invention, the road white line 18 can be recognized with high accuracy.

【0051】即ち、本実施形態では図11に示すように
道路白線18の最低輝度をVrefとすると、Vref以上の
輝度を有する画素の度数はTrefパーセントとなる。こ
のことは、例えば道路白線18以上の輝度を持つものが
無い場合、ウインドウ20に占める白線面積がTrefパ
ーセントであることを意味する。従って、ウインドウ2
0内に限定したことにより、白線以上の輝度を持つ画素
は存在する可能性が低くなり、また、ウインドウ20の
面積は既知であるため、道路白線18の面積が判ってい
れば、図11を逆に利用して分布がTrefパーセント以
下になる輝度をしきい値vnとして設定すればよいこと
なる。
That is, in the present embodiment, assuming that the minimum luminance of the road white line 18 is Vref as shown in FIG. 11, the frequency of a pixel having luminance equal to or higher than Vref is Tref percentage. This means that the white line area occupying the window 20 is Tref percent, for example, when there is no road line having a luminance higher than the white line 18. Therefore, window 2
By limiting to 0, it is unlikely that there is a pixel having luminance higher than the white line, and since the area of the window 20 is known, if the area of the road white line 18 is known, FIG. Conversely, the luminance at which the distribution is equal to or less than Tref percent may be set as the threshold value vn.

【0052】つまり、従来例として図15に示した従来
の平均手法は黒寄りのしきい値を採るため誤認識を起こ
すことを既に述べたが、本実施形態の手法では路面(ア
スファルト)面積と道路白線面積を考慮に入れてしきい
値vnを設定しているため、いくら路面が占める面積が
大きくても、しきい値vnが黒寄りに設定されることは
無い。
In other words, although the conventional averaging method shown in FIG. 15 as a conventional example takes a blackish threshold value and thus causes erroneous recognition, the method of this embodiment has a problem in that the road surface (asphalt) area and Since the threshold value vn is set in consideration of the white line area of the road, the threshold value vn is not set to the black side, no matter how much the area occupied by the road surface.

【0053】また、従来例として図16の場合では白寄
りのしきい値を採るためロストを起こすが、この場合に
あっても本実施形態では、上述したように路面面積と道
路白線面積を考慮に入れてしきい値vnを設定している
ため、一部に高輝度のノイズが現れてもその面積が小さ
ければ影響は出にくくなる。例えば、図12に示すよう
に1画素の輝度が極端に高いと、平均輝度はそれに応じ
て変化するが、度数分布は極端に高い輝度の値のみが変
わるのであって、白線近傍のしきい値vnは変化しな
い。
As a conventional example, in the case of FIG. 16, a loss occurs in order to take a threshold value for whitening, but even in this case, in this embodiment, the road surface area and the road white line area are considered as described above. , The threshold value vn is set, so that even if high-luminance noise appears in a part, the influence is less likely to occur if the area is small. For example, when the luminance of one pixel is extremely high as shown in FIG. 12, the average luminance changes accordingly, but only the extremely high luminance value changes in the frequency distribution. vn does not change.

【0054】更に、本実施形態の道路白線認識装置10
にあっては、プログラムP1の処理によって道路認識を
繰り返し行い、前回の道路モデル推定値から次回のウイ
ンドウ20位置を想定することができるようになり、ウ
インドウ20位置を道路モデルに応じてその都度適切に
設定できるようになる。このため、ウインドウ20を固
定的に設けた場合は道路の存在しうる領域を全てカバー
する必要があるが、その都度設定するウインドウ20で
は道路白線18を取得するに十分な面積を確保すればよ
く、ウインドウの面積20を小さくことができる。つま
り、このようにウインドウ20を小さくすることによ
り、道路白線18以外の疑似白線が取り込まれる確率が
少なくなるため、しきい値vnの設定精度を向上するこ
とができる。
Further, the road white line recognition device 10 of the present embodiment
In this case, road recognition is repeatedly performed by the processing of the program P1, and the position of the next window 20 can be assumed from the previous road model estimation value. Can be set to For this reason, when the window 20 is fixedly provided, it is necessary to cover all areas where a road may exist, but in the window 20 set each time, it is sufficient to secure an area sufficient to acquire the road white line 18. The area 20 of the window can be reduced. That is, by making the window 20 smaller in this way, the probability that a pseudo white line other than the road white line 18 will be captured is reduced, so that the setting accuracy of the threshold value vn can be improved.

【0055】また、本実施形態では道路白線18の面積
を推定するために式4および式5を用いて、道路白線1
8の面積を平行四辺形として近似したので、道路白線1
8が重なるウインドウ20の上下一方の端の1箇所の長
さを求めるのみで道路白線18の面積を決定できるた
め、演算の高速化を達成できる。
In the present embodiment, equations 4 and 5 are used to estimate the area of the road white line 18, and the road white line 1 is estimated.
8 was approximated as a parallelogram, so the road white line 1
Since the area of the road white line 18 can be determined only by obtaining the length of one of the upper and lower ends of the window 20 where the window 8 overlaps, the calculation can be speeded up.

【0056】ところで、上記実施形態では各ウインドウ
20それぞれに対して道路白線18を認識するためのし
きい値vnを設定した場合を開示したが、これに限るこ
となく全ウインドウ20に対して共通のしきい値vnを
設定することができる。即ち、この共通のしきい値vn
を設定する場合の道路白線認識装置10は、上記実施形
態に示した図1と同様の構成となるが、ただ、しきい値
設定手段104で設定されるしきい値vnが、複数のウ
インドウ20のうちの1つのウインドウ20で実行され
ることになる。そして、この1つのウインドウ20で設
定されたしきい値vnが、その他の全ウインドウ20に
適用されるようになっている。
In the above-described embodiment, the case where the threshold value vn for recognizing the road white line 18 is set for each window 20 is disclosed. The threshold value vn can be set. That is, the common threshold value vn
Is set in the same way as in FIG. 1 shown in the above embodiment, except that the threshold value vn set by the threshold value setting means 104 is set to a plurality of windows 20. Will be executed in one of the windows 20. The threshold value vn set in one window 20 is applied to all other windows 20.

【0057】従って、このように共通のしきい値vnを
全ウインドウ20に適用することにより、このしきい値
の設定計算が1画面に付き1回で済むことになる。従っ
て、しきい値を高速で設定できるため道路白線18の認
識をよりリアルタイムで実行できるようになり、高速処
理を要求されるシステムに有利となり、例えば高速走行
する車両の走行案内を確実かつ安全に行うことができる
ようになる。
Therefore, by applying the common threshold value vn to all windows 20 in this manner, the calculation for setting this threshold value can be performed only once for one screen. Therefore, since the threshold value can be set at a high speed, the recognition of the road white line 18 can be executed in more real time, which is advantageous for a system that requires high-speed processing. Will be able to do it.

【0058】また、上記実施形態では道路白線18の面
積を平行四辺形として近似して推定した場合を開示した
が、この道路面積の推定は平行四辺形に限ることは無
く、例えば、画面に取り込まれる道路白線18を台形状
として捉えることができる。図13は道路白線18を台
形状として捉える場合の手法を示し、N番目のウインド
ウ20の上辺20aのy座標をyun、下辺20bの同
座標をydnとすると、ウインドウ上辺20aでの白線
の幅wunは式10で示される。
In the above embodiment, the case where the area of the road white line 18 is estimated by approximating the area as a parallelogram is disclosed. However, the estimation of the road area is not limited to the parallelogram. Road 18 can be regarded as a trapezoid. FIG. 13 shows a method of capturing the road white line 18 as a trapezoid. When the y coordinate of the upper side 20a of the N-th window 20 is yun and the same coordinate of the lower side 20b is ydn, the width wun of the white line at the window upper side 20a is shown. Is shown in Equation 10.

【0059】[0059]

【数10】 同様に画像上、ウインドウ下辺20bでの白線の幅wd
nは式11で示される。
(Equation 10) Similarly, on the image, the width wd of the white line at the lower side 20b of the window
n is represented by Expression 11.

【0060】[0060]

【数11】 そして、道路面積をウインドウ20の面積で正規化す
る。即ち、ウインドウ20の面積と一致した場合には面
積=100パーセントとする。ウインドウ20の面積は
プログラムP1で既に設定されており、その面積をunと
する。そして、道路白線18の上底および下底がウイン
ドウ枠に接した台形となるように近似すると、正規化さ
れた道路白線面積Snは式12で表される。このとき、
dnはウインドウ20のy方向の幅を表す。
[Equation 11] Then, the road area is normalized by the area of the window 20. That is, if the area matches the area of the window 20, the area is set to 100%. The area of the window 20 is already set in the program P1, and the area is defined as un. Then, when the upper and lower bases of the road white line 18 are approximated to be trapezoids in contact with the window frame, the normalized road white line area Sn is expressed by Expression 12. At this time,
dn represents the width of the window 20 in the y direction.

【0061】[0061]

【数12】 従って、この場合は道路白線18を画面に現れるより実
際に近い形として捉え、より正確な白線面積を求めるこ
とができ、ひいては、しきい値の最適化を図ることがで
きる。
(Equation 12) Therefore, in this case, the road white line 18 is regarded as a shape closer to the actual one than appears on the screen, and a more accurate white line area can be obtained, and the threshold value can be optimized.

【0062】図14は更に他の実施形態を示し、カメラ
14に最も近い道路白線18を透視するウインドウ20
でしきい値設定し、これを全てのウインドウ20に適用
するようにしたプログラムP3である。即ち、このプロ
グラムP3は、図2に示したプログラムP1のステップS
5で処理される白線候補点選択に代えて実行され、まず
ステップS20で探索1番目のウインドウ20かどうか
を判断する。つまり、この1番目のウインドウ20はカ
メラ14に最も近くに設定されたものである。
FIG. 14 shows still another embodiment, in which a window 20 through which the road white line 18 closest to the camera 14 is seen.
Is a program P3 which sets a threshold value and applies it to all windows 20. That is, this program P3 is the same as step S of program P1 shown in FIG.
The process is executed in place of the white line candidate point selection processed in step 5, and it is first determined in step S20 whether the window 20 is the first window 20 to be searched. That is, the first window 20 is set closest to the camera 14.

【0063】そして、ウインドウ20が1番目の場合は
ステップS21の道路面積推定と、ステップS22の度
数分布算出と、ステップS23のしきい値設定とが順に
実行される。そして、この設定されたしきい値がステッ
プS24によって選択されて高輝度の画素が画面にプロ
ットされる。一方、ステップS20で2番目以降である
と判断した場合は、ステップS21〜23をジャンプし
てステップS24に進み、1番目のウインドウ20で設
定したしきい値によって白線候補点が選択される。
If the window 20 is the first window, the road area estimation in step S21, the frequency distribution calculation in step S22, and the threshold setting in step S23 are sequentially executed. Then, the set threshold value is selected in step S24, and high-luminance pixels are plotted on the screen. On the other hand, if it is determined in step S20 that it is the second or later, jump to steps S21 to S23 and proceed to step S24, where a white line candidate point is selected based on the threshold value set in the first window 20.

【0064】従って、このようにカメラ14に最も近い
一番目のウインドウ20で設定したしきい値を全ウイン
ドウ20で用いることにより、より遠くにあるウインド
ウ20に比較して道路白線18が拡大されているため、
道路白線面積の変化が抑制されることになる。従って、
ノイズがしきい値に影響しづらくなるため、繰り返し行
われるしきい値設定をより高速に対応させることができ
るようになり、高速処理を要求されるシステムで有利と
なる。
Accordingly, by using the threshold value set in the first window 20 closest to the camera 14 in all the windows 20, the road white line 18 is enlarged compared to the window 20 located farther away. Because
The change in the road white line area is suppressed. Therefore,
Since the noise hardly affects the threshold value, the threshold value setting that is repeatedly performed can be made faster, which is advantageous in a system that requires high-speed processing.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明にかかる道路白線認識装置の一実施形態
の基本構造を示す概略構成図である。
FIG. 1 is a schematic configuration diagram showing a basic structure of an embodiment of a road white line recognition device according to the present invention.

【図2】本発明にかかる道路白線認識装置を搭載した車
両の一実施形態を示す概略構成図である。
FIG. 2 is a schematic configuration diagram showing one embodiment of a vehicle equipped with a road white line recognition device according to the present invention.

【図3】本発明にかかる道路白線認識装置の一実施形態
による画像処理プログラムを実行するためのフローチャ
ートである。
FIG. 3 is a flowchart for executing an image processing program according to an embodiment of the road white line recognition device according to the present invention.

【図4】本発明にかかる道路白線認識装置の一実施形態
で画面に設定される複数のウインドウの配列状態を示す
説明図である。
FIG. 4 is an explanatory diagram showing an arrangement state of a plurality of windows set on a screen in an embodiment of the road white line recognition device according to the present invention.

【図5】本発明にかかる道路白線認識装置の一実施形態
で設定されるウインドウの配置状態を示す説明図であ
る。
FIG. 5 is an explanatory diagram showing an arrangement state of windows set in an embodiment of the road white line recognition device according to the present invention.

【図6】本発明にかかる道路白線認識装置の一実施形態
による白線候補点選択を実行するためのフローチャート
である。
FIG. 6 is a flowchart for executing a white line candidate point selection by an embodiment of the road white line recognition device according to the present invention.

【図7】本発明にかかる道路白線認識装置の一実施形態
で設定されるウインドウの輝度分布を示す説明図であ
る。
FIG. 7 is an explanatory diagram showing a luminance distribution of a window set in an embodiment of the road white line recognition device according to the present invention.

【図8】本発明にかかる道路白線認識装置の一実施形態
で設定されるウインドウ内の白線候補点のプロット状態
を示す説明図である。
FIG. 8 is an explanatory diagram showing a plot state of white line candidate points in a window set in one embodiment of the road white line recognition device according to the present invention.

【図9】本発明にかかる道路白線認識装置の一実施形態
で設定されるウインドウ内の白線候補線の選択状態を示
す説明図である。
FIG. 9 is an explanatory diagram showing a selection state of a white line candidate line in a window set in one embodiment of the road white line recognition device according to the present invention.

【図10】本発明にかかる道路白線認識装置の一実施形
態で設定されるウインドウに白線候補線が接する道路座
標を示す説明図である。
FIG. 10 is an explanatory diagram showing road coordinates at which a white line candidate line comes into contact with a window set in an embodiment of the road white line recognition device according to the present invention.

【図11】本発明にかかる道路白線認識装置の一実施形
態で設定されるウインドウの輝度分布に対するしきい値
の選定状態を示す説明図である。
FIG. 11 is an explanatory diagram showing a selection state of a threshold value for a luminance distribution of a window set in an embodiment of the road white line recognition device according to the present invention.

【図12】本発明にかかる道路白線認識装置の一実施形
態で設定されるウインドウの輝度分布に作用する高輝度
ノイズの影響を示す説明図である。
FIG. 12 is an explanatory diagram showing the effect of high luminance noise acting on the luminance distribution of a window set in one embodiment of the road white line recognition device according to the present invention.

【図13】本発明にかかる道路白線認識装置の他の実施
形態で設定されるウインドウに道路白線を台形に近似さ
せた状態を示す説明図である。
FIG. 13 is an explanatory diagram showing a state in which a road white line is approximated to a trapezoid in a window set in another embodiment of the road white line recognition device according to the present invention.

【図14】本発明にかかる道路白線認識装置の他の実施
形態による白線候補点選択を実行するためのフローチャ
ートである。
FIG. 14 is a flowchart for executing white line candidate point selection by another embodiment of the road white line recognition device according to the present invention.

【図15】従来の道路白線認識により得られる輝度分布
に対する平均輝度の位置関係を示す説明図である。
FIG. 15 is an explanatory diagram showing a positional relationship of average luminance with respect to a luminance distribution obtained by conventional road white line recognition.

【図16】従来の道路白線認識により得られる輝度分布
に対する平均輝度の他の位置関係を示す説明図である。
FIG. 16 is an explanatory diagram showing another positional relationship between the average luminance and the luminance distribution obtained by the conventional road white line recognition.

【符号の説明】 10 道路白線認識装置 12 車両 14 カメラ(画像取得手段) 16 プロセッサ 18 道路白線 20 ウインドウ 21 白線候補点 22 白線候補線 101 ウインドウ設定手段 102 白線候補点選択手段 103 道路面積推定手段 104 しきい値設定手段DESCRIPTION OF SYMBOLS 10 Road white line recognition device 12 Vehicle 14 Camera (image acquisition means) 16 Processor 18 Road white line 20 Window 21 White line candidate point 22 White line candidate line 101 Window setting means 102 White line candidate point selection means 103 Road area estimation means 104 Threshold setting means

───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 AA06 AA16 BA02 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC03 DA08 DB02 DB06 DB09 DC04 DC23 5H180 AA01 CC04 CC24 LL01 LL08 LL09 5L096 AA02 AA06 BA04 BA18 CA02 CA14 FA05 FA37 FA46 FA59 GA17 GA41 GA51  ──────────────────────────────────────────────────続 き Continued on the front page F term (reference) 5B057 AA06 AA16 BA02 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC03 DA08 DB02 DB06 DB09 DC04 DC23 5H180 AA01 CC04 CC24 LL01 LL08 LL09 5L096 AA02 AA06 BA04 BA18 FA02 FA17 GA41 GA51

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 車両前方の道路画像を取得する画像取得
手段と、取得した道路画像内に道路白線を探索する複数
のウインドウを設けるウインドウ設定手段と、各ウイン
ドウそれぞれに設定されたしきい値によって道路白線の
候補点を認識する白線候補点選択手段とを備え、この白
線候補点の集合から道路モデルを推定するようにした道
路白線認識装置であって、繰り返し行われる道路白線認
識で前回の道路モデル推定値から次回のウインドウ内に
占めると想定される道路白線の面積を推定する道路面積
推定手段と、それぞれのウインドウに対してしきい値以
上の輝度を持つ画素の面積が上記道路面積推定手段で推
定された道路白線の面積以上となるように上記しきい値
を個々に設定するしきい値設定手段と、を設けたことを
特徴とする道路白線認識装置。
1. An image acquisition means for acquiring a road image ahead of a vehicle, a window setting means for providing a plurality of windows for searching for a road white line in the acquired road image, and a threshold value set for each window. A road white line recognition device comprising a white line candidate point selecting means for recognizing a road white line candidate point, and estimating a road model from a set of white line candidate points. A road area estimating means for estimating an area of a road white line assumed to be occupied in the next window from the model estimation value; Threshold value setting means for individually setting the threshold values so as to be equal to or larger than the area of the road white line estimated in the above. Recognition device.
【請求項2】 車両前方の道路画像を取得する画像取得
手段と、取得した道路画像内に道路白線を探索する複数
のウインドウを設けるウインドウ設定手段と、各ウイン
ドウに設定されたしきい値によって道路白線の候補点を
認識する白線候補点選択手段とを備え、この白線候補点
の集合から道路モデルを推定するようにした道路白線認
識装置であって、繰り返し行われる道路白線認識で前回
の道路モデル推定値から次回のウインドウ内に占めると
想定される道路白線の面積を推定する道路面積推定手段
と、所定のウインドウにおいてしきい値以上の輝度を持
つ画素の面積が上記道路面積推定手段で推定された道路
白線の面積以上となるように上記しきい値を設定するし
きい値設定手段とを設け、このしきい値を全ウインドウ
に適用することを特徴とする道路白線認識装置。
2. An image acquiring means for acquiring a road image ahead of a vehicle, a window setting means for providing a plurality of windows for searching for a road white line in the acquired road image, and a road set by a threshold value set in each window. A white line candidate point selecting means for recognizing a white line candidate point, wherein a road model is estimated from a set of white line candidate points. The road area estimating means for estimating the area of the road white line assumed to be occupied in the next window from the estimated value, and the area of a pixel having a luminance equal to or higher than a threshold value in a predetermined window is estimated by the road area estimating means. Threshold setting means for setting the threshold so as to be equal to or larger than the area of the road white line, and applying the threshold to all windows. Road white line recognition device.
【請求項3】 請求項2において、所定のウインドウ
を、画像取得手段に近い道路白線を透視するウインドウ
に選定したことを特徴とする道路白線認識装置。
3. The road white line recognition device according to claim 2, wherein the predetermined window is selected as a window through which a road white line close to the image acquisition means is seen.
【請求項4】 請求項1〜3のいずれか1つにおいて、
道路認識を繰り返し行い、前回の道路モデル推定値から
次回のウインドウ位置を想定することを特徴とする道路
白線認識装置。
4. The method according to claim 1, wherein
A road white line recognition device characterized by repeatedly performing road recognition and assuming a next window position from a previous road model estimation value.
【請求項5】 請求項1〜4のいずれか1つにおいて、
ウインドウの上下両端が道路白線と重なると想定される
それぞれの幅を上底および下底として道路白線を台形と
見立て、その面積を近似的に求めることを特徴とする道
路白線認識装置。
5. The method according to claim 1, wherein:
An apparatus for recognizing a road white line, wherein the width of the upper and lower ends of the window is assumed to overlap the road white line, and the width of the road white line is regarded as a trapezoid, and the area thereof is approximately determined.
【請求項6】 請求項1〜4のいずれか1つにおいて、
ウインドウの上下一方の端が道路白線と重なると想定さ
れる幅を1辺として道路白線を平行四辺形と見立て、そ
の面積を近似的に求めることを特徴とする道路白線認識
装置。
6. In any one of claims 1 to 4,
A road white line recognition device, characterized in that a width assumed to be one of the upper and lower ends of a window and a road white line is regarded as one side, and the road white line is regarded as a parallelogram, and its area is approximately determined.
JP2000301150A 2000-09-29 2000-09-29 Road white line recognition device Expired - Fee Related JP3731464B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000301150A JP3731464B2 (en) 2000-09-29 2000-09-29 Road white line recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000301150A JP3731464B2 (en) 2000-09-29 2000-09-29 Road white line recognition device

Publications (2)

Publication Number Publication Date
JP2002109549A true JP2002109549A (en) 2002-04-12
JP3731464B2 JP3731464B2 (en) 2006-01-05

Family

ID=18782730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000301150A Expired - Fee Related JP3731464B2 (en) 2000-09-29 2000-09-29 Road white line recognition device

Country Status (1)

Country Link
JP (1) JP3731464B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271969A (en) * 2009-05-22 2010-12-02 Fuji Heavy Ind Ltd Traffic-lane detecting device
JP2014146326A (en) * 2013-01-25 2014-08-14 Ricoh Co Ltd Detecting method and detecting system for multiple lane
EP2927054A4 (en) * 2012-11-27 2016-02-24 Clarion Co Ltd On-vehicle control device
JP2016206721A (en) * 2015-04-15 2016-12-08 日産自動車株式会社 Road mark detection apparatus and road mark detection method
JP2021535399A (en) * 2018-09-06 2021-12-16 ルノー エス.ア.エス.Renault S.A.S. Methods for detecting false positives in camera image processing devices

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010271969A (en) * 2009-05-22 2010-12-02 Fuji Heavy Ind Ltd Traffic-lane detecting device
EP2927054A4 (en) * 2012-11-27 2016-02-24 Clarion Co Ltd On-vehicle control device
US9734581B2 (en) 2012-11-27 2017-08-15 Clarion Co., Ltd. On-vehicle control device
JP2014146326A (en) * 2013-01-25 2014-08-14 Ricoh Co Ltd Detecting method and detecting system for multiple lane
JP2016206721A (en) * 2015-04-15 2016-12-08 日産自動車株式会社 Road mark detection apparatus and road mark detection method
JP2021535399A (en) * 2018-09-06 2021-12-16 ルノー エス.ア.エス.Renault S.A.S. Methods for detecting false positives in camera image processing devices
JP7391947B2 (en) 2018-09-06 2023-12-05 ルノー エス.ア.エス. Method for detecting false positives of camera image processing devices

Also Published As

Publication number Publication date
JP3731464B2 (en) 2006-01-05

Similar Documents

Publication Publication Date Title
JP3759429B2 (en) Obstacle detection apparatus and method
US7209832B2 (en) Lane recognition image processing apparatus
US9378425B2 (en) On-vehicle image processing device
JP5551595B2 (en) Runway monitoring system and method
US7957559B2 (en) Apparatus and system for recognizing environment surrounding vehicle
JP3816887B2 (en) Apparatus and method for measuring length of vehicle queue
JP3083918B2 (en) Image processing device
US20180137375A1 (en) Onboard environment recognition device
KR19980701568A (en) METHOD AND APPARATUS FOR DETECTING OBJECT MOVEMENT WITHIN AN IMAGE SEQUENCE
JP2008158958A (en) Road surface determination method and road surface determination device
JP7095640B2 (en) Object detector
JP6569280B2 (en) Road marking detection device and road marking detection method
JPH0792423B2 (en) Headlight optical axis adjustment method
JP3656056B2 (en) Interrupting vehicle detection device and method
JPH11139225A (en) Tunnel detector device and vehicle control device using it
KR102062579B1 (en) Vehicle license-plate recognition system that recognition of Vehicle license-plate damaged by shadow and light reflection through the correction
CN116413725A (en) Barrier detection method based on camera and millimeter wave radar data fusion
JP4270183B2 (en) White line detector
JP2005157731A (en) Lane recognizing device and method
CN110738867A (en) parking space detection method, device, equipment and storage medium
JP2002109549A (en) White road line recognition device
JP2006285564A (en) Road area detection device and road area detection method
JP3319401B2 (en) Roadway recognition device
JP4023333B2 (en) Lane detection device
JP4804202B2 (en) Stereo monitoring device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051003

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees