JP5452518B2 - Vehicle white line recognition device - Google Patents

Vehicle white line recognition device Download PDF

Info

Publication number
JP5452518B2
JP5452518B2 JP2011026337A JP2011026337A JP5452518B2 JP 5452518 B2 JP5452518 B2 JP 5452518B2 JP 2011026337 A JP2011026337 A JP 2011026337A JP 2011026337 A JP2011026337 A JP 2011026337A JP 5452518 B2 JP5452518 B2 JP 5452518B2
Authority
JP
Japan
Prior art keywords
white line
candidate point
vehicle
white
recognition device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011026337A
Other languages
Japanese (ja)
Other versions
JP2012164288A (en
Inventor
悠一郎 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2011026337A priority Critical patent/JP5452518B2/en
Publication of JP2012164288A publication Critical patent/JP2012164288A/en
Application granted granted Critical
Publication of JP5452518B2 publication Critical patent/JP5452518B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車載カメラで撮像した画像に基づいて白線を認識する車両用白線認識装置に関する。   The present invention relates to a vehicle white line recognition device that recognizes a white line based on an image captured by an in-vehicle camera.

近年、車両の安全性の向上を図るため、積極的にドライバの運転操作を支援する運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像等に基づいて白線認識が行われ、認識した白線に基づいて自車走行レーンの推定等が行われる。この種の白線認識の技術として、例えば、特許文献1には、自車両の前方を撮像した画像上を水平方向に延びるライン毎に検索して輝度値及び輝度微分値についてそれぞれ設定された閾値以上である画素を車線候補点(白線候補点)として検出し、検索により検出された複数の白線候補点に基づいて車線(白線)位置を検出する技術が開示されている。   In recent years, in order to improve the safety of vehicles, driving support devices that actively support driving operations of drivers have been developed. In general, in order to realize a lane departure prevention function or the like, this driving support device recognizes a white line based on a captured image or the like ahead of the host vehicle, and estimates a driving lane or the like based on the recognized white line. . As this type of white line recognition technology, for example, in Patent Document 1, a search is made for each line extending in the horizontal direction on an image obtained by imaging the front of the host vehicle, and a threshold value set for each of the luminance value and the luminance differential value is set. Is disclosed as a lane candidate point (white line candidate point), and a lane (white line) position is detected based on a plurality of white line candidate points detected by the search.

ところで、自車走行路上の遠方に曲率の大きなカーブが存在する場合、自車走行路の左右の白線は、画像上では遠方の領域が限りなく近接する位置に撮像される場合がある。このような場合、画像上の遠方においては、左右の白線に対する検索領域が互いに重畳されて白線候補点が左右入り交じった状態で検出される場合がある。すなわち、例えば、本来なら左側のものとして検出されるべき白線候補点が右側のものとして検出されたり、右側のものとして検出されるべき白線候補点が左側のものとして検出される等の虞がある。そして、これら左右の白線候補点が的確に分離されないままの状態で白線認識を行った場合、算出された白線形状(曲率、傾き等)のパラメータに大きな誤差が生ずる虞がある。   By the way, when a curve with a large curvature exists far away on the own vehicle travel path, the left and right white lines on the own vehicle travel path may be imaged at positions where distant areas are as close as possible on the image. In such a case, in a distant place on the image, the search areas for the left and right white lines may be superimposed on each other and the white line candidate points may be detected in a mixed state. That is, for example, there is a possibility that a white line candidate point that should be detected as the left side is detected as the right side, or a white line candidate point that should be detected as the right side is detected as the left side. . When white line recognition is performed in a state where the left and right white line candidate points are not accurately separated, a large error may occur in the parameters of the calculated white line shape (curvature, inclination, etc.).

これに対処し、例えば、特許文献2には、撮像面上に投影した左右レーン境界位置の推定範囲が重なる場合、この重なった範囲内の線分は左右のレーン境界のどちらであるか判定困難であると判断して、当該部分のエッジ(白線候補点)線分はレーン境界候補として採用しない技術が開示されている。   To cope with this, for example, in Patent Document 2, when the estimated ranges of the left and right lane boundary positions projected on the imaging surface overlap, it is difficult to determine which of the left and right lane boundaries the line segment in the overlapped range is. Therefore, a technique is disclosed in which the edge (white line candidate point) line segment of the part is not adopted as a lane boundary candidate.

特開2007−264955号公報JP 2007-264955 A 特許第3288566号公報Japanese Patent No. 3288656

しかしながら、上述の特許文献2に開示された技術のように白線候補点を削除すると、例えば、高速道路のジャンクション等のような曲率の大きいカーブでは、自車に対して比較的近距離においても白線候補点を棄却することとなり、好適な運転支援を実現することが困難となる虞がある。   However, if the white line candidate point is deleted as in the technique disclosed in Patent Document 2 described above, for example, in a curve with a large curvature such as a junction of an expressway, the white line is also at a relatively short distance from the vehicle. The candidate points will be rejected, and it may be difficult to realize suitable driving support.

本発明は上記事情に鑑みてなされたもので、遠方で左右の白線候補点が入り交じった状態においても各候補点を左右に正しく分離することができ、遠方まで白線を精度よく認識することができる車両用白線認識装置を提供することを目的とする。   The present invention has been made in view of the above circumstances, and even in a state where the left and right white line candidate points are mixed at a distance, each candidate point can be correctly separated to the left and right, and the white line can be accurately recognized to the distance. An object of the present invention is to provide a vehicular white line recognition device.

本発明の一態様による車両用白線認識装置は、自車走行路を撮像した画像上に設定した左右の各白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点をそれぞれ白線候補点として検出する候補点検出手段と、左右の前記白線検出領域毎に、互いに隣接する前記白線候補点の連続性を順次判定し、予め設定された連続性を有して所定数以上連続する前記白線候補点の点群をそれぞれグループ化するグループ化手段と、左右の前記白線検出領域毎に、グループ化された前記白線候補点のみを用いて仮白線近似線を演算する仮白線近似線演算手段と、左右の前記仮白線近似線を基準とする候補点選定領域をそれぞれ設定し、左右の前記白線検出領域で検出した全ての前記白線候補点の中から前記各候補点選定領域内に存在する前記白線候補点をそれぞれ選定する候補点選定手段と、左右の前記各候補点選定領域内で選定した前記白線候補点を用いて左右の白線近似線をそれぞれ演算する白線近似線演算手段と、を備える。   The white line recognition device for a vehicle according to one aspect of the present invention performs a change in luminance in the vehicle width direction for each search line extending in the horizontal direction within each of the left and right white line detection regions set on an image obtained by imaging the host vehicle travel path. A candidate point detecting means for detecting and detecting edge points whose luminance changes from dark to bright over a predetermined level as white line candidate points, and sequentially determining the continuity of the adjacent white line candidate points for each of the left and right white line detection areas Grouping means for grouping point groups of the white line candidate points that have a predetermined continuity and continue a predetermined number or more, and the white line candidates grouped for each of the left and right white line detection areas Temporary white line approximate line calculation means for calculating a temporary white line approximate line using only points, and candidate point selection areas based on the left and right temporary white line approximate lines are set, and all detected in the left and right white line detection areas The white line of Using candidate point selection means for selecting the white line candidate points existing in the candidate point selection areas from the complement points, and using the white line candidate points selected in the left and right candidate point selection areas, White line approximate line calculating means for calculating each white line approximate line.

本発明の車両用白線認識装置によれば、遠方で左右の白線候補点が入り交じった状態においても各候補点を左右に正しく分離することができ、遠方まで白線を精度よく認識することができる。   According to the vehicle white line recognition device of the present invention, each candidate point can be correctly separated to the left and right even in a state where the left and right white line candidate points are mixed at a distance, and the white line can be accurately recognized to a distance. .

車両用運転支援装置の概略構成図Schematic configuration diagram of a vehicle driving support device 白線認識ルーチンを示すフローチャートFlow chart showing white line recognition routine 白線候補点のグループ化処理サブルーチンを示すフローチャートFlowchart showing white line candidate point grouping processing subroutine 車外環境の撮像画像の一例を模式的に示す説明図Explanatory drawing which shows typically an example of the captured image of the environment outside the vehicle 図4の画像から検出される白線候補点を示す説明図Explanatory drawing which shows the white line candidate point detected from the image of FIG. 検索ライン上における輝度の変化の一例を示す説明図Explanatory drawing which shows an example of the change of the brightness | luminance on a search line 自車走行路が急カーブしている場合の遠方での左右の白線と右側の白線検出領域との関係を示す説明図Explanatory drawing which shows the relationship between the white line on the left and right and the white line detection area on the right side in the distance when the own vehicle travel path is sharp 撮像画像上の画素に基づく連続性の判定方法を示す説明図Explanatory drawing which shows the determination method of continuity based on the pixel on a captured image 実空間に投影された白線候補点の一例を示す説明図Explanatory drawing which shows an example of the white line candidate point projected on real space グループ化された白線候補点の一例を示す説明図Explanatory drawing which shows an example of the grouped white line candidate point 仮白線近似線及び候補点選定領域を示す説明図Explanatory drawing which shows temporary white line approximate line and candidate point selection area 選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図Explanatory drawing which shows the white line approximate line calculated using the selected white line candidate point, and the white line detection area used in the next frame

以下、図面を参照して本発明の形態を説明する。図面は本発明の一実施形態に係わり、図1は車両用運転支援装置の概略構成図、図2は白線認識ルーチンを示すフローチャート、図3は白線候補点のグループ化処理サブルーチンを示すフローチャート、図4は車外環境の撮像画像の一例を模式的に示す説明図、図5は図4の画像から検出される白線候補点を示す説明図、図6は検索ライン上における輝度の変化の一例を示す説明図、図7は自車走行路が急カーブしている場合の遠方での左右の白線と右側の白線検出領域との関係を示す説明図、図8は撮像画像上の画素に基づく連続性の判定方法を示す説明図、図9は実空間に投影された白線候補点の一例を示す説明図、図10はグループ化された白線候補点の一例を示す説明図、図11は仮白線近似線及び候補点選定領域を示す説明図、図12は選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図である。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The drawings relate to an embodiment of the present invention, FIG. 1 is a schematic configuration diagram of a vehicle driving support device, FIG. 2 is a flowchart showing a white line recognition routine, and FIG. 3 is a flowchart showing a white line candidate point grouping subroutine. 4 is an explanatory view schematically showing an example of a captured image of the environment outside the vehicle, FIG. 5 is an explanatory view showing white line candidate points detected from the image of FIG. 4, and FIG. 6 shows an example of a change in luminance on the search line. FIG. 7 is an explanatory diagram showing the relationship between the left and right white lines and the right white line detection area in the distance when the vehicle traveling path is sharply curved, and FIG. 8 is a continuity based on pixels on the captured image. FIG. 9 is an explanatory diagram illustrating an example of white line candidate points projected in real space, FIG. 10 is an explanatory diagram illustrating an example of grouped white line candidate points, and FIG. 11 is a provisional white line approximation. Explanatory drawing and figure which show line and candidate point selection area 2 is an explanatory view showing a white detection region for use in white approximate line and the next frame, which is calculated using the white line candidate point selected.

図1において、符号1は自動車等の車両(自車両)であり、この車両1には運転支援装置2が搭載されている、この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5等を有して要部が構成されている。   In FIG. 1, reference numeral 1 denotes a vehicle such as an automobile (own vehicle), and a driving support device 2 is mounted on the vehicle 1. The driving support device 2 includes, for example, a stereo camera 3 and a stereo image recognition device. 4, the control unit 5 and the like are included in the main part.

また、自車両1には、自車速Vを検出する車速センサ11、ヨーレートγを検出するヨーレートセンサ12、運転支援制御の各機能のON−OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角θstを検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)θaccを検出するアクセル開度センサ15等が設けられている。   The host vehicle 1 is connected to a vehicle speed sensor 11 that detects the host vehicle speed V, a yaw rate sensor 12 that detects the yaw rate γ, a main switch 13 that performs ON / OFF switching of each function of the driving support control, and the like, and a steering wheel. A steering angle sensor 14 that detects the steering angle θst that is opposed to the steering shaft, an accelerator opening sensor 15 that detects an accelerator pedal depression amount (accelerator opening) θacc by the driver, and the like are provided.

ステレオカメラ3は、ステレオ光学系として、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組のCCDカメラで構成されている。これら左右のCCDカメラは、ぞれぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。   The stereo camera 3 is constituted by a set of CCD cameras using a solid-state imaging device such as a charge coupled device (CCD) as a stereo optical system. These left and right CCD cameras are respectively mounted at a certain distance in front of the ceiling in the vehicle interior, take a stereo image of an object outside the vehicle from different viewpoints, and output image data to the stereo image recognition device 4. In the following description, one image (for example, the right image) of the stereo images is referred to as a reference image, and the other image (for example, the left image) is referred to as a comparative image.

ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジ点として抽出するとともに、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶しておいた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。   First, the stereo image recognition device 4 divides the reference image into small areas of 4 × 4 pixels, for example, compares the luminance or color pattern of each small area with the comparison image, finds a corresponding area, and performs the entire reference image. Find the distance distribution over. Further, the stereo image recognition device 4 examines the luminance difference between each pixel on the reference image and an adjacent pixel, extracts those whose luminance difference exceeds a threshold value as an edge point, and extracts the extracted pixel (edge A distance image (a distribution image of edge points having distance information) is generated by giving distance information to (point). Then, the stereo image recognition device 4 performs a well-known grouping process on the generated distance image and compares it with a pre-stored three-dimensional frame (window), so that a white line and a side wall in front of the vehicle Recognize three-dimensional objects.

ここで、本実施形態において認識対象となる白線とは、例えば、単一の車線区画線や車線区画線の内側に視線誘導線等が併設された多重線(二重線等)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線等を問わず、更に、黄色線等をも含む。また、本実施形態の白線認識においては、道路上に実在する白線が二重白線等であっても、左右それぞれ単一の直線或いは曲線等で近似して認識するものとする。   Here, the white line to be recognized in the present embodiment is, for example, a single lane line or a multiple line (double line or the like) in which a line of sight guide line is provided inside the lane line, Lines that extend on the road and divide the vehicle lane are collectively referred to, and the form of each line includes a solid line, a broken line, and the like, and further includes a yellow line and the like. In the white line recognition of this embodiment, even if the white line that exists on the road is a double white line or the like, the white line is approximated and recognized by a single straight line or a curved line.

ところで、実際の道路上に敷設された白線には上述のように各種バリエーションが存在する他、白線の形態は走行路の分岐や合流等に伴って変化する。加えて、道路上には路面補修跡や、水溜まり、雪等の各種ノイズが存在する。従って、画一的な処理によって、全ての場面で精度よく白線を認識することは困難となる。そこで、ステレオ画像認識装置4は、上述のような距離画像に基づくパターンマッチングを用いた白線認識のみに頼ることなく、各種方式を用いた白線認識を補完的に行い、これらの認識結果を総合的に判断して最終的な白線を認識する。   By the way, the white line laid on the actual road has various variations as described above, and the form of the white line changes with the branching or merging of the traveling road. In addition, there are various noises such as road surface repair marks, water pools and snow on the road. Therefore, it is difficult to accurately recognize the white line in all scenes by uniform processing. Therefore, the stereo image recognition device 4 complementarily performs white line recognition using various methods without relying only on white line recognition using pattern matching based on the distance image as described above, and comprehensively recognizes these recognition results. Judgment to recognize the final white line.

このような白線認識の一つとして、ステレオ画像認識装置4は、自車前方を撮像した一方の画像(例えば、図4に示す基準画像)上の水平方向の輝度変化に基づいて左右の白線認識を行う。具体的に説明すると、例えば、図5に示すように、ステレオ画像認識装置4は、画像上に左右の白線検出領域A(Al,Ar)を設定し、各白線検出領域A内で水平方向に延在する複数の検索ラインlに対し、検索ラインl毎に車幅方向内側から外側に向けて輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域A内の各検索ラインl上において、輝度が暗から明に所定以上変化する最初のエッジ点を白線候補点Pd(Pdl,Pdr)としてそれぞれ検出する。   As one of such white line recognition, the stereo image recognition device 4 recognizes left and right white lines based on a change in luminance in the horizontal direction on one image (for example, a reference image shown in FIG. 4) taken in front of the host vehicle. I do. More specifically, for example, as shown in FIG. 5, the stereo image recognition device 4 sets left and right white line detection areas A (Al, Ar) on the image, and horizontally in each white line detection area A. For a plurality of search lines 1 extending, a change in luminance is examined from the inside to the outside in the vehicle width direction for each search line l. Then, the stereo image recognition device 4 detects, as white line candidate points Pd (Pdl, Pdr), on the respective search lines 1 in the respective white line detection areas A, the first edge points whose luminance changes from dark to bright by a predetermined amount or more. To do.

ここで、自車走行路上の遠方に曲率の大きなカーブが存在する場合、左右の白線検出領域Al,Arが画像上で重畳され、例えば、図7に示すように、一方の白線検出領域A(図示の例では、右側の白線検出領域Al)内に左右の白線が含まれる場合がある。このような場合、本実施形態のように車幅方向内側から外側に向けての輝度変化を調べると、他方の白線のエッジ点が一方の白線の白線候補点Pdとして誤検出される場合がある。そこで、ステレオ画像認識装置4は、左右の白線検出領域Al,Ar内で検出された各白線候補点Pdl,Pdrの中から、真に左右の各白線をそれぞれ示す白線候補点P(Pl,Pr)の選定を行い、選定した白線候補点Pに基づいて白線近似線Lを演算する。   Here, when a curve with a large curvature exists in the distance on the vehicle traveling road, the left and right white line detection areas Al and Ar are superimposed on the image. For example, as shown in FIG. In the illustrated example, the right and left white lines may be included in the right white line detection area Al). In such a case, when the luminance change from the inner side to the outer side in the vehicle width direction is examined as in this embodiment, the edge point of the other white line may be erroneously detected as the white line candidate point Pd of one white line. . Accordingly, the stereo image recognition device 4 has white line candidate points P (Pl, Pr) that truly indicate the left and right white lines, respectively, among the white line candidate points Pdl, Pdr detected in the left and right white line detection areas Al, Ar. ) And a white line approximate line L is calculated based on the selected white line candidate point P.

具体的に説明すると、ステレオ画像認識装置4は、左右の白線検出領域A毎に、互いに隣接する白線候補点Pdの連続性を、手前側(自車側)から遠方側へと向けて順次判定する。そして、ステレオ画像認識装置4は、予め設定された連続性を有して設定数以上連続する白線候補点Pdの点群が存在する場合には当該点群を第1のグループとしてグループ化し、連続性を有する白線候補点Pdの数が設定数未満の場合には当該点群を第2のグループとしてグループ化する(図10参照)。ここで、本実施形態において、ステレオ画像認識装置4は、白線候補点Pdのグループ化に際し、距離画像上の距離情報等に基づいて各白線候補点Pdの実空間上への投影を行う(図9参照)。そして、ステレオ画像認識装置4は、例えば、撮像画像上で隣接する各白線候補点Pd間の画素単位の誤差量、及び、実空間上で隣接する白線候補点Pd間の距離の誤差量に基づいて各白線候補点Pd間の連続性を総合的に判断する。   More specifically, the stereo image recognition device 4 sequentially determines the continuity of adjacent white line candidate points Pd from the front side (vehicle side) to the far side for each of the left and right white line detection areas A. To do. Then, when there are point groups of white line candidate points Pd having a preset continuity and continuing for a set number or more, the stereo image recognition device 4 groups the point groups as a first group, and continuously When the number of white line candidate points Pd having the characteristic is less than the set number, the point group is grouped as a second group (see FIG. 10). Here, in the present embodiment, when the white line candidate points Pd are grouped, the stereo image recognition device 4 projects each white line candidate point Pd onto the real space based on the distance information on the distance image (FIG. 9). Then, the stereo image recognition device 4 is based on, for example, an error amount in pixel units between the adjacent white line candidate points Pd on the captured image and an error amount of the distance between the adjacent white line candidate points Pd in the real space. Thus, the continuity between the white line candidate points Pd is comprehensively determined.

全ての白線候補点Pdについてのグループ化処理が行われると、ステレオ画像認識装置4は、左右の白線検出領域A毎に、第1のグループとしてグループ化された白線候補点Pdのみを用いて仮の白線近似線(仮白線近似線)Lt(Ltl,Ltr)を演算する(図11参照)。すなわち、第1のグループとしてグループ化された各白線候補点Pdは、所定の連続性を有しているため、左右の各白線をぞれぞれ示すものとして信頼性が高い。そこで、ステレオ画像認識装置4は、これら信頼性の高い白線候補点のみを用いて、仮白線近似線Ltを演算することにより、実際の白線形状から大きく逸脱することのない、白線の概略形状を把握する。   When the grouping process for all white line candidate points Pd is performed, the stereo image recognition device 4 uses only the white line candidate points Pd grouped as the first group for each of the left and right white line detection areas A. The white line approximate line (temporary white line approximate line) Lt (Ltl, Ltr) is calculated (see FIG. 11). That is, since each white line candidate point Pd grouped as the first group has a predetermined continuity, it is highly reliable to indicate the left and right white lines, respectively. Therefore, the stereo image recognition device 4 calculates the provisional white line approximate line Lt using only these highly reliable white line candidate points, thereby obtaining a rough shape of the white line that does not greatly deviate from the actual white line shape. To grasp.

そして、ステレオ画像認識装置4は、左右の仮白線近似線Ltを基準とする各候補点選定領域As(Asl,Asr)をそれぞれ設定し、左右の白線検出領域内Al,Ar内で検出した全ての白線候補点Pdの中から各候補点選定領域As内に存在する白線候補点Pdを、左右の各白線についての最終的な白線候補点P(Pl,Pr)としてそれぞれ選定する。   Then, the stereo image recognition device 4 sets each candidate point selection area As (Asl, Asr) with reference to the left and right provisional white line approximate lines Lt, respectively, and detects all within the left and right white line detection areas Al and Ar. White line candidate points Pd existing in each candidate point selection region As are selected as final white line candidate points P (Pl, Pr) for the left and right white lines.

そして、ステレオ画像認識装置4は、左右の各候補点選定領域As内で選定した白線候補点Pを用いて最終的な左右の白線近似線L(Ll,Lr)をそれぞれ演算するとともに、演算した各白線近似線Lに基づいて次フレームでの白線検出領域Aを設定する(図12参照)。   Then, the stereo image recognition device 4 calculates the final left and right white line approximate lines L (Ll, Lr) using the white line candidate points P selected in the left and right candidate point selection regions As and performs the calculation. Based on each white line approximate line L, a white line detection area A in the next frame is set (see FIG. 12).

このように、本実施形態において、ステレオ画像認識装置4は、候補点検出手段、グループ化手段、仮白線近似線演算手段、候補点選定手段、及び、白線近似線演算手段としての各機能を実現する。   As described above, in this embodiment, the stereo image recognition device 4 realizes functions as candidate point detection means, grouping means, provisional white line approximate line calculation means, candidate point selection means, and white line approximate line calculation means. To do.

なお、ステレオ画像認識装置4は、その他の種々の方法によって白線認識を行うことが可能となっている。そして、ステレオ画像認識装置4は、例えば、各白線認識において認識した白線の近似線と当該認識に用いられたエッジ点等の白線候補点との関係(例えば、近似線に対する白線候補点の分散等)に基づき、認識した各近似線の中から最も適切な近似線を選択し、当該近似線を最終的な白線の近似線として制御ユニット5に出力する。   Note that the stereo image recognition device 4 can perform white line recognition by various other methods. Then, for example, the stereo image recognition apparatus 4 has a relationship between an approximate line of a white line recognized in each white line recognition and a white line candidate point such as an edge point used for the recognition (for example, dispersion of white line candidate points with respect to the approximate line, etc.) ) Is selected from the recognized approximate lines, and the approximate line is output to the control unit 5 as the final approximate line of the white line.

制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、自車両1の走行情報として、車速センサ11からの車速V、ヨーレートセンサ12からのヨーレートγ等が入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角θst、アクセル開度センサ15からのアクセル開度θacc等が入力される。   The control unit 5 receives driving environment information in front of the host vehicle 1 recognized by the stereo image recognition device 4. Further, the vehicle speed V from the vehicle speed sensor 11, the yaw rate γ from the yaw rate sensor 12, and the like are input to the control unit 5 as travel information of the host vehicle 1, and operation input information by the driver from the main switch 13. An operation signal, a steering angle θst from the steering angle sensor 14, an accelerator opening θacc from the accelerator opening sensor 15, and the like are input.

そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に追従対象の先行車が走行しているか否かを識別する。   For example, when an execution of an ACC (Adaptive Cruise Control) function which is one of the functions of the driving support control is instructed through the operation of the main switch 13 by the driver, the control unit 5 recognizes the stereo image recognition device 4. The direction of the preceding vehicle is read, and it is identified whether or not the preceding vehicle to be followed is traveling on the own vehicle traveling path.

その結果、追従対象の先行車が検出されていない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に自車両1の車速Vを維持させる定速走行制御を実行する。   As a result, when the preceding vehicle to be tracked is not detected, the constant speed traveling control for maintaining the vehicle speed V of the host vehicle 1 at the set vehicle speed set by the driver through the opening / closing control (engine output control) of the throttle valve 16. Execute.

一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。   On the other hand, when a preceding vehicle that is a tracking target vehicle is detected and the vehicle speed of the preceding vehicle is equal to or lower than the set vehicle speed, the following traveling control is performed in which the following distance is converged to the target inter-vehicle distance. Executed. During this follow-up running control, the control unit 5 basically converges the inter-vehicle distance to the target inter-vehicle distance through the opening / closing control of the throttle valve 16 (engine output control). Furthermore, when it is determined that sufficient deceleration cannot be obtained only by controlling the throttle valve 16 due to sudden deceleration of the preceding vehicle, the control unit 5 controls the output hydraulic pressure from the active booster 17 (automatic braking intervention). Control) to converge the inter-vehicle distance to the target inter-vehicle distance.

また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の白線(ステレオ画像認識装置4で認識した白線の近似線)に基づいて警報判定用ラインを設定するとともに、自車両1の車速Vとヨーレートγとに基づいて自車進行経路を推定する。そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10〜16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、自車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。   Further, when execution of the lane departure prevention function, which is one of the functions of the driving support control, is instructed through the operation of the main switch 13 by the driver, the control unit 5 will, for example, the left and right white lines that define the own vehicle traveling lane. A warning determination line is set based on (approximate white line recognized by the stereo image recognition device 4), and the own vehicle traveling path is estimated based on the vehicle speed V and the yaw rate γ of the own vehicle 1. Then, for example, when the control unit 5 determines that the host vehicle travel route crosses either the left or right alarm determination line within a set distance (for example, 10 to 16 [m]) ahead of the host vehicle, It is determined that the host vehicle 1 is likely to depart from the current host vehicle lane, and a lane departure warning is issued.

次に、ステレオ画像認識装置4において実行される、基準画像上の輝度変化に基づく白線認識について、図2に示す白線認識ルーチンのフローチャートに従って説明する。なお、本ルーチンによる処理は、左右の白線検出領域Al,Arそれぞれに対して同様の処理が個別に行われるものであるが、説明を簡略化するため、以下の説明において特に必要な場合を除き、例えば白線検出領域Al,Arを総称して白線検出領域Aと標記する等、左右の属性を示す添字”l”及び”r”を適宜省略して説明する。   Next, white line recognition based on the luminance change on the reference image, which is executed in the stereo image recognition device 4, will be described with reference to the white line recognition routine shown in FIG. In this routine, the same processing is performed separately for the left and right white line detection areas Al and Ar. However, to simplify the description, unless otherwise required in the following description. For example, the white line detection areas Al and Ar are collectively referred to as the white line detection area A, and the subscripts “l” and “r” indicating the left and right attributes are omitted as appropriate.

このルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS101において、前フレームの画像に対するステップS107の処理で設定された白線検出領域A内の各検索ラインl毎に白線候補点Pdの検出を行う。具体的には、例えば、図6に示すように、ステレオ画像認識装置4は、車幅方向内側から外側に向けて、各検索ラインl上でのエッジ検出を行い、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定閾値以上となる点(エッジ点)を検出する。そして、ステレオ画像認識装置4は、白線検出領域A内の各検索ラインl上において、最初に検出されたエッジ点を白線候補点Pdとして抽出する(図5,7参照)。なお、図5,7においては、説明を簡略化するため、検索ラインl及び白線候補点Pd等が所定に間引かれて表示されている。   When this routine starts, the stereo image recognition device 4 first detects a white line candidate point Pd for each search line l in the white line detection area A set in the process of step S107 for the image of the previous frame in step S101. I do. Specifically, for example, as illustrated in FIG. 6, the stereo image recognition device 4 performs edge detection on each search line l from the inner side to the outer side in the vehicle width direction, and detects pixels on the outer side in the vehicle width direction. A point (edge point) in which the luminance is relatively high with respect to the luminance of the inner pixel and the differential value of the luminance indicating the amount of change is equal to or greater than the set threshold on the plus side is detected. Then, the stereo image recognition device 4 extracts the edge point first detected as the white line candidate point Pd on each search line l in the white line detection area A (see FIGS. 5 and 7). In FIGS. 5 and 7, the search line l, the white line candidate point Pd, and the like are thinned out and displayed in a predetermined manner in order to simplify the description.

続くステップS102において、ステレオ画像認識装置4は、ステップS101で検出した各白線候補点Pdを、距離画像上で該当する画素の距離情報、及び、基準画像上で該当する画素の水平方法の画素位置等に基づいて、実空間上に投影する(図9参照)。   In subsequent step S102, the stereo image recognition device 4 uses each white line candidate point Pd detected in step S101 as the distance information of the corresponding pixel on the distance image and the pixel position of the horizontal method of the corresponding pixel on the reference image. Based on the above, the image is projected onto the real space (see FIG. 9).

そして、ステップS102からステップS103に進むと、ステレオ画像認識装置4は、左右の白線検出領域Alで検出された白線候補点Pd毎に、白線候補点Pdのグループ化処理を行う。   Then, when the process proceeds from step S102 to step S103, the stereo image recognition device 4 performs a white line candidate point Pd grouping process for each white line candidate point Pd detected in the left and right white line detection areas Al.

このグループ化処理は、例えば、図3に示す白線候補点のグループ化処理サブルーチンに従って行われる。サブルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS201において、現時点でグループ化されていない白線候補点Pdの中で最も自車1側に位置する白線候補点Pdを抽出し、抽出した白線候補点Pdを最初の白線候補点Pdとして組み込んだ新たなグループを作成する。   This grouping processing is performed, for example, according to a white line candidate point grouping processing subroutine shown in FIG. When the subroutine starts, the stereo image recognition device 4 first extracts and extracts the white line candidate point Pd positioned closest to the own vehicle 1 among the white line candidate points Pd that are not currently grouped in step S201. A new group is created in which the white line candidate point Pd is incorporated as the first white line candidate point Pd.

そして、ステップS201からステップS202に進むと、ステレオ画像認識装置4は、現在グループ内に組み込まれている最後尾の白線候補点Pdよりも遠方に白線候補点(次の白線候補点)Pdが存在するか否かを調べる。   Then, when the process proceeds from step S201 to step S202, the stereo image recognition apparatus 4 has a white line candidate point (next white line candidate point) Pd farther than the last white line candidate point Pd incorporated in the current group. Investigate whether or not to do.

そして、ステップS202において、次の白線候補点Pdが存在すると判定すると、ステレオ画像認識装置4は、ステップS203に進み、当該次の白線候補点Pdを注目する白線候補点Pd(n)とする従前の白線候補点Pdとの比較により、画素に基づく誤差判定を行う。すなわち、ステレオ画像認識装置4は、例えば、図8に示すように、注目する白線候補点Pd(n)と、1つ手前の白線候補点Pd(n−1)との画像上における水平方向(i方向)及び垂直方向(j方向)の画素のずれ量(水平方向誤差Δi、及び、垂直方向誤差Δj)を演算する。さらに、ステレオ画像認識装置4は、1つ手前の白線候補点Pd(n−1)と、2つ手前の白線候補点Pd(n−2)との画像上における水平方向誤差Δi_old、及び、垂直方向誤差Δj_oldを演算し、以下の(1)式を用いて、水平方向誤差変化量Δsを演算する。
Δs=(Δi/Δj)−(Δi_old/Δj_old) …(1)
そして、ステレオ画像認識装置4は、水平方向誤差Δi、垂直方向誤差Δj、及び、水平方向誤差変化量Δsの全てが予め設定された閾値内である場合、白線候補点Pd(n)は1つ手前の白線候補点Pd(n−1)に対して画像上における連続性を有すると判断する。一方、水平方向誤差Δi、垂直方向誤差Δj、或いは、水平方向誤差変化量Δsの少なくとも何れか1つが予め設定された閾値内にない場合、白線候補点Pd(n)は1つ手前の白線候補点Pd(n−1)に対して画像上における連続性を有さないと判断する。
If it is determined in step S202 that the next white line candidate point Pd exists, the stereo image recognition device 4 proceeds to step S203, and sets the next white line candidate point Pd as the white line candidate point Pd (n) of interest. The pixel-based error determination is performed by comparison with the white line candidate point Pd. That is, for example, as shown in FIG. 8, the stereo image recognizing device 4 has a horizontal direction on the image of the white line candidate point Pd (n) of interest and the previous white line candidate point Pd (n−1) ( The pixel shift amount (horizontal error Δi and vertical error Δj) in the i direction) and vertical direction (j direction) is calculated. Further, the stereo image recognition device 4 has a horizontal error Δi_old on the image of the previous white line candidate point Pd (n−1) and the previous white line candidate point Pd (n−2), and vertical. The direction error Δj_old is calculated, and the horizontal direction error change amount Δs is calculated using the following equation (1).
Δs = (Δi / Δj) − (Δi_old / Δj_old) (1)
Then, when all of the horizontal direction error Δi, the vertical direction error Δj, and the horizontal direction error change amount Δs are within a preset threshold, the stereo image recognition device 4 has one white line candidate point Pd (n). It is determined that the preceding white line candidate point Pd (n−1) has continuity on the image. On the other hand, when at least one of the horizontal direction error Δi, the vertical direction error Δj, and the horizontal direction error change amount Δs is not within a preset threshold, the white line candidate point Pd (n) is the previous white line candidate. It is determined that there is no continuity on the image with respect to the point Pd (n−1).

ステップS203からステップS204に進むと、ステレオ画像認識装置4は、注目する白線候補点Pd(n)と従前の白線候補点Pdとの距離に基づく誤差判定を行う。すなわち、ステレオ画像認識装置4は、注目する白線候補点Pd(n)と1つ手前の白線候補点Pd(n−1)との実空間上における水平方向(X方向)と垂直方向(Z方向)の距離のずれ量(水平方向距離誤差ΔX、及び、垂直方向距離誤差ΔZ)を演算する。   When the process proceeds from step S203 to step S204, the stereo image recognition device 4 performs error determination based on the distance between the white line candidate point Pd (n) of interest and the previous white line candidate point Pd. That is, the stereo image recognition device 4 uses the horizontal direction (X direction) and the vertical direction (Z direction) in the real space between the target white line candidate point Pd (n) and the previous white line candidate point Pd (n−1). ) Distance deviation (horizontal distance error ΔX and vertical distance error ΔZ).

そして、ステレオ画像認識装置4は、水平方向距離誤差ΔX、及び、垂直方向距離誤差ΔZの全てが予め設定された閾値内である場合、白線候補点Pd(n)は1つ手前の白線候補点Pd(n−1)に対して実空間距離上における連続性を有すると判断する。一方、水平方向距離誤差ΔX、或いは、垂直方向距離誤差ΔZの少なくとも何れか1つが予め設定された閾値内にない場合、白線候補点Pd(n)は1つ手前の白線候補点Pd(n−1)に対して実空間距離上における連続性を有さないと判断する。   Then, when all of the horizontal direction distance error ΔX and the vertical direction distance error ΔZ are within a preset threshold, the stereo image recognition device 4 determines that the white line candidate point Pd (n) is the previous white line candidate point. It is determined that Pd (n−1) has continuity on the real space distance. On the other hand, when at least one of the horizontal direction distance error ΔX and the vertical direction distance error ΔZ is not within a preset threshold, the white line candidate point Pd (n) is the previous white line candidate point Pd (n− In contrast to 1), it is determined that there is no continuity on the real space distance.

ステップS204からステップS205に進むと、ステレオ画像認識装置4は、ステップS203の画素に基づく誤差判定、及び、ステップS204の距離の基づく誤差判定の何れもにおいて、注目する白線候補点Pd(n)が1つ手前の白線候補点Pd(n−1)に対して連続性を有すると判定されたか否かを調べる。   When the process proceeds from step S204 to step S205, the stereo image recognition device 4 determines whether the white line candidate point Pd (n) to be noticed is in the error determination based on the pixel in step S203 and the error determination based on the distance in step S204. It is checked whether or not it is determined that the previous white line candidate point Pd (n−1) has continuity.

そして、ステップS203或いはステップS204の少なくとも何れか一方において白線候補点Pd(n)が白線候補点Pd(n−1)に対して連続性なしと判定されている場合、ステレオ画像認識装置4は、現在の注目する白線候補点Pd(n)を現在のグループに組み込むことなくステップS205からステップS206に進み、現在のグループを第1のグループ或いは第2のグループの何れかに分類した後、ステップS201に戻る。すなわち、ステップS206において、ステレオ画像認識装置4は、現在のグループに属する白線候補点Pdの数が予め設定された閾値以上である場合、各白線候補点Pdは現在認識対象として注目している白線(自車1の右側の白線、或いは、左側の白線)を示すものである可能性が高いと判断して、当該グループを第1のグループに分類する。一方、現在のグループに属する白線候補点Pdの数が予め設定された閾値未満である場合、各白線候補点Pdは現在認識対象として注目している白線を示すものと判定するには不十分であると判断して、当該グループを第2のグループに分類する(図10参照)。   If the white line candidate point Pd (n) is determined not to be continuous with the white line candidate point Pd (n−1) in at least one of step S203 and step S204, the stereo image recognition device 4 The process advances from step S205 to step S206 without incorporating the current white line candidate point Pd (n) of interest into the current group, and after classifying the current group as either the first group or the second group, step S201 is performed. Return to. That is, in step S206, when the number of white line candidate points Pd belonging to the current group is equal to or greater than a preset threshold value, the stereo image recognition device 4 recognizes each white line candidate point Pd as a current recognition target. It is determined that there is a high possibility that the vehicle 1 shows the white line on the right side of the own vehicle 1 or the white line on the left side, and the group is classified into the first group. On the other hand, when the number of white line candidate points Pd belonging to the current group is less than a preset threshold value, each white line candidate point Pd is not sufficient to determine that it indicates a white line currently focused on as a recognition target. It is determined that there is a group, and the group is classified into the second group (see FIG. 10).

一方、ステップS203及びステップS204の何れにおいても白線候補点Pd(n)が白線候補点Pd(n−1)に対して連続性ありと判定されている場合、ステレオ画像認識装置4は、現在の注目する白線候補点Pd(n)を現在のグループに取り込んだ後、ステップS205からステップS202に戻る。   On the other hand, if the white line candidate point Pd (n) is determined to be continuous with the white line candidate point Pd (n−1) in both step S203 and step S204, the stereo image recognition device 4 After taking the noticed white line candidate point Pd (n) into the current group, the process returns from step S205 to step S202.

また、ステップS202において、次の白線候補点Pdが存在しないと判定すると、ステレオ画像認識装置4は、ステップS207に進み、上述のステップS206と同様の処理により、現在のグループを第1のグループ或いは第2のグループの何れかに分類した後、サブルーチンを抜ける。   If it is determined in step S202 that the next white line candidate point Pd does not exist, the stereo image recognition device 4 proceeds to step S207, and performs the same process as in step S206 described above to change the current group to the first group or After classification into any of the second group, the subroutine is exited.

図2のメインルーチンにおいて、ステップS103からステップS104に進むと、ステレオ画像認識装置4は、左右の白線検出領域A毎に、ステップS103で第1のグループとしてグループ化された白線候補点Pdのみを用いて仮白線近似線Ltを演算する(図11参照)。ここで、本実施形態の仮白線近似線Ltは、以下の(2)式に示すように、車両1に対する鉛直方向Z距離に対し、a,b,cの各パラメータによって白線の車両水平方向距離Xが同定されるものである。
X=aZ+bZ+c …(2)
ここで、(2)式に示す仮白線近似線Ltのパラメータa,b,cは、例えば、第1のグループに属する白線候補点Pdを用いた最小二乗法によって求めることが可能であり、各パラメータa,b,cは、仮白線近似線Ltに対する各白線候補点Pdの分散が最小となる値に決定される。なお、(2)式においては、便宜上、パラメータを左右共通の記号a,b,cで表記しているが、これらは、左右の仮白線近似線Ltl,Ltrについて個別に設定されるものであることは云うまでもない。
In the main routine of FIG. 2, when the process proceeds from step S103 to step S104, the stereo image recognition device 4 applies only the white line candidate point Pd grouped as the first group in step S103 for each left and right white line detection region A. Then, a temporary white line approximate line Lt is calculated (see FIG. 11). Here, the provisional white line approximate line Lt of the present embodiment is the distance in the horizontal direction of the white line depending on the parameters a, b, and c with respect to the vertical Z distance to the vehicle 1 as shown in the following equation (2). X is identified.
X = aZ 2 + bZ + c (2)
Here, the parameters a, b, and c of the provisional white line approximate line Lt shown in the equation (2) can be obtained by, for example, the least square method using the white line candidate points Pd belonging to the first group, The parameters a, b, and c are determined to values that minimize the variance of each white line candidate point Pd with respect to the provisional white line approximate line Lt. In the equation (2), for the sake of convenience, the parameters are represented by the left and right common symbols a, b, and c, but these are set individually for the left and right provisional white line approximate lines Ltl and Ltr. Needless to say.

続くステップS105において、ステレオ画像認識装置4は、ステップS104で演算した仮近似曲線Ltに基づき、左右の各白線についての最終的な白線候補点Pdの選定を行う。すなわち、ステレオ画像認識装置4は、ステップS104で求めた仮白線近似線Ltを車幅方向内側及び外側にそれぞれΔEオフセットさせることにより、以下の(3)式及び(4)式で規定される候補点選定領域Asを設定する(図11参照)。
X1=aZ+bZ+c−ΔE …(3)
X2=aZ+bZ+c+ΔE …(4)
そして、ステレオ画像認識装置4は、左右の各白線検出領域Al,Arで検出された全ての白線候補点Pdl,Pdrの中から、左側の候補点選定領域Asl内に存在する白線候補点Pdl及びPdrを、左側の白線についての最終的な白線候補点Plとして選定すると共に、右側の候補点選定領域Asr内に存在する白線候補点Pdl及びPdrを、右側の白線についての最終的な白線候補点Prとして選定する(図12参照)。
In subsequent step S105, the stereo image recognition device 4 selects a final white line candidate point Pd for each of the left and right white lines based on the temporary approximate curve Lt calculated in step S104. That is, the stereo image recognition device 4 offsets the provisional white line approximate line Lt obtained in step S104 by ΔE to the inside and the outside in the vehicle width direction, respectively, so that the candidates defined by the following expressions (3) and (4) A point selection area As is set (see FIG. 11).
X1 = aZ 2 + bZ + c−ΔE (3)
X2 = aZ 2 + bZ + c + ΔE (4)
The stereo image recognition device 4 then selects the white line candidate points Pdl present in the left candidate point selection area Asl from among all the white line candidate points Pdl, Pdr detected in the left and right white line detection areas Al, Ar. Pdr is selected as the final white line candidate point Pl for the left white line, and the white line candidate points Pdl and Pdr existing in the right candidate point selection area Asr are the final white line candidate points for the right white line. Select as Pr (see FIG. 12).

続くステップS106において、ステレオ画像認識装置4は、左右の各候補点選定領域Asで選定した白線候補点Pを用いて左右の白線近似線Lをそれぞれ演算する(図12参照)。ここで、本実施形態の白線近似線Lは、上述の仮白線近似線Ltと同様、以下の(5)式に示すように、車両1に対する鉛直方向Z距離に対し、A,B,Cの各パラメータによって白線の車両水平方向距離Xが同定されるものである。
X=AZ+BZ+C …(5)
ここで、(2)式に示す仮白線近似線LtのパラメータA,B,Cは、例えば、最終的な白線候補点Pを用いた最小二乗法によって求めることが可能であり、各パラメータA,B,Cは、白線近似線Lに対する各白線候補点Pの分散が最小となる値に決定される。なお、(5)式においては、便宜上、パラメータを左右共通の記号A,B,Cで表記しているが、これらは、左右の仮白線近似線Ltl,Ltrについて個別に設定されるものであることは云うまでもない。
In subsequent step S106, the stereo image recognition device 4 calculates the left and right white line approximate lines L using the white line candidate points P selected in the left and right candidate point selection regions As (see FIG. 12). Here, the white line approximate line L of the present embodiment is similar to the provisional white line approximate line Lt described above, with respect to the vertical Z distance with respect to the vehicle 1, as shown in the following equation (5). The vehicle horizontal direction distance X of the white line is identified by each parameter.
X = AZ 2 + BZ + C (5)
Here, the parameters A, B, and C of the provisional white line approximate line Lt shown in the equation (2) can be obtained by, for example, the least square method using the final white line candidate point P. B and C are determined to be values that minimize the variance of each white line candidate point P with respect to the white line approximate line L. In the equation (5), for the sake of convenience, the parameters are represented by common symbols A, B, and C on the left and right, but these are set individually for the left and right provisional white line approximate lines Ltl and Ltr. Needless to say.

そして、ステップS107に進むと、ステレオ画像認識装置4は、ステップS106で演算した白線近似線Lを車幅方向内側及び外側にそれぞれΔEオフセットされることにより、以下の(6)式及び(7)式で規定される次フレームでの白線検出領域Aを設定した後(図12参照)、ルーチンを抜ける。
X1=AZ+BZ+C−ΔE …(6)
X2=AZ+BZ+C+ΔE …(7)
このような実施形態によれば、左右の白線検出領域A毎に、互いに隣接する白線候補点Pdの連続性を順次判定し、予め設定された連続性を有して所定数以上連続する白線候補点の点群を第1のグループとしてグループ化し、グループ化された白線候補点のみを用いて仮白線近似線Ltを演算することにより、左右の各白線をそれぞれ示すものとして信頼性の高い白線候補点Pdのみを用いて、実際の白線形状から大きく逸脱することのない白線形状を把握することができる。そして、左右の仮白線近似線Ltを基準とする候補点選定領域Asをそれぞれ設定し、左右の白線検出領域Aで検出した全ての白線候補点Pdの中から各候補点選定呂域As内に存在する白線候補点Pdを最終的な白線候補点Pとしてそれぞれ選定することにより、左右の白線候補点Pdが入り交じって検出された場合にも、これらを精度よく分離することができる。そして、このように精度よく左右に分離した白線候補点Pに基づいて白線近似線Lをそれぞれ演算することにより、自車走行路前方にカーブが存在する場合にも白線を遠方まで精度よく認識することができる。
In step S107, the stereo image recognition device 4 offsets the white line approximate line L calculated in step S106 by ΔE to the inside and the outside in the vehicle width direction, so that the following equations (6) and (7) After setting the white line detection area A in the next frame defined by the equation (see FIG. 12), the routine is exited.
X1 = AZ 2 + BZ + C−ΔE (6)
X2 = AZ 2 + BZ + C + ΔE (7)
According to such an embodiment, the continuity of the white line candidate points Pd adjacent to each other is sequentially determined for each of the left and right white line detection areas A, and the white line candidates having a predetermined continuity and continuing for a predetermined number or more. A point group of points is grouped as a first group, and by calculating the provisional white line approximate line Lt using only the grouped white line candidate points, white line candidates that are highly reliable as indicating the left and right white lines respectively. By using only the point Pd, it is possible to grasp a white line shape that does not greatly deviate from the actual white line shape. Then, candidate point selection areas As are set with reference to the left and right temporary white line approximate lines Lt, respectively, and within each candidate point selection area As among all the white line candidate points Pd detected in the left and right white line detection areas A. By selecting the existing white line candidate points Pd as the final white line candidate points P, even when the left and right white line candidate points Pd are detected in a mixed manner, they can be separated with high accuracy. Then, by calculating the white line approximate line L based on the white line candidate points P separated right and left with high accuracy in this way, the white line can be accurately recognized far away even when there is a curve ahead of the host vehicle travel path. be able to.

その際、連続性の判定を、白線候補点Pdの検出精度の高い自車1の手前側から遠方側に向けて順次行うことにより、精度のよい判定結果を得ることができる。   At this time, the determination of continuity is sequentially performed from the near side to the far side of the own vehicle 1 with high detection accuracy of the white line candidate point Pd, whereby an accurate determination result can be obtained.

なお、上述の実施形態においては、ステレオカメラを用いて各画素の距離情報を演算する一例について説明したが、本発明はこれに限定されるものではなく、例えば、自車走行路が平坦路であると仮定して、単眼のカメラで捉えた画像から各白線候補点の距離情報を演算することも可能である。   In the above-described embodiment, an example in which the distance information of each pixel is calculated using a stereo camera has been described. However, the present invention is not limited to this, and for example, the vehicle traveling road is a flat road. It is also possible to calculate the distance information of each white line candidate point from an image captured by a monocular camera.

1 … 車両(自車両)
2 … 運転支援装置
3 … ステレオカメラ
4 … ステレオ画像認識装置(候補点検出手段、グループ化手段、仮白線近似線演算手段、候補点選定手段、白線近似線演算手段)
5 … 制御ユニット
11 … 車速センサ
12 … ヨーレートセンサ
13 … メインスイッチ
14 … 舵角センサ
15 … アクセル開度センサ
16 … スロットル弁
17 … アクティブブースタ
1 ... Vehicle (own vehicle)
2 ... Driving support device 3 ... Stereo camera 4 ... Stereo image recognition device (candidate point detecting means, grouping means, provisional white line approximate line calculating means, candidate point selecting means, white line approximate line calculating means)
DESCRIPTION OF SYMBOLS 5 ... Control unit 11 ... Vehicle speed sensor 12 ... Yaw rate sensor 13 ... Main switch 14 ... Steering angle sensor 15 ... Accelerator opening sensor 16 ... Throttle valve 17 ... Active booster

Claims (1)

自車走行路を撮像した画像上に設定した左右の各白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点をそれぞれ白線候補点として検出する候補点検出手段と、
左右の前記白線検出領域毎に、互いに隣接する前記白線候補点の連続性を順次判定し、予め設定された連続性を有して所定数以上連続する前記白線候補点の点群をそれぞれグループ化するグループ化手段と、
左右の前記白線検出領域毎に、グループ化された前記白線候補点に基づいて仮白線近似線を演算する仮白線近似線演算手段と、
左右の前記仮白線近似線を基準とする候補点選定領域をそれぞれ設定し、左右の前記白線検出領域で検出した前記白線候補点の中から前記各候補点選定領域内に存在する前記白線候補点をそれぞれ選定する候補点選定手段と、
左右の前記各候補点選定領域内で選定した前記白線候補点を用いて左右の白線近似線をそれぞれ演算する白線近似線演算手段と、を備えたことを特徴とする車両用白線認識装置。
An edge where the luminance changes in the vehicle width direction for each search line extending in the horizontal direction within each of the left and right white line detection areas set on the image obtained by capturing the vehicle's driving path, and the luminance changes from dark to bright over a predetermined level. Candidate point detecting means for detecting each point as a white line candidate point;
For each of the white line detection areas on the left and right, the continuity of the white line candidate points adjacent to each other is sequentially judged, and the point groups of the white line candidate points having a predetermined continuity and continuing for a predetermined number or more are grouped respectively. Grouping means to
Temporary white line approximate line calculating means for calculating a temporary white line approximate line based on the grouped white line candidate points for each of the left and right white line detection areas;
Candidate point selection areas based on the left and right provisional white line approximate lines are respectively set, and the white line candidate points existing in the candidate point selection areas from the white line candidate points detected in the left and right white line detection areas Candidate point selection means for selecting each,
A white line recognition device for a vehicle, comprising: white line approximate line calculating means for calculating left and right white line approximate lines using the white line candidate points selected in the left and right candidate point selection regions.
JP2011026337A 2011-02-09 2011-02-09 Vehicle white line recognition device Active JP5452518B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011026337A JP5452518B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011026337A JP5452518B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Publications (2)

Publication Number Publication Date
JP2012164288A JP2012164288A (en) 2012-08-30
JP5452518B2 true JP5452518B2 (en) 2014-03-26

Family

ID=46843590

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011026337A Active JP5452518B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Country Status (1)

Country Link
JP (1) JP5452518B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101472787B1 (en) * 2013-05-22 2014-12-15 숭실대학교산학협력단 Lane detection system and method thereof
KR102310279B1 (en) * 2014-09-23 2021-10-07 현대모비스 주식회사 Method and apparatus for detecting lane

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3760426B2 (en) * 1997-09-10 2006-03-29 矢崎総業株式会社 Traveling lane detection method and apparatus
JP3722637B2 (en) * 1999-02-24 2005-11-30 三菱電機株式会社 White line recognition device
JP3603836B2 (en) * 2001-11-20 2004-12-22 日産自動車株式会社 Road white line recognition device
JP3956926B2 (en) * 2003-09-24 2007-08-08 アイシン精機株式会社 Road lane detection device

Also Published As

Publication number Publication date
JP2012164288A (en) 2012-08-30

Similar Documents

Publication Publication Date Title
JP5603687B2 (en) Vehicle white line recognition device
JP5363921B2 (en) Vehicle white line recognition device
US10345443B2 (en) Vehicle cruise control apparatus and vehicle cruise control method
US11021155B2 (en) Vehicle control apparatus and vehicle control method
JP3860061B2 (en) Outside-of-vehicle monitoring device and travel control device equipped with this out-of-vehicle monitoring device
JP5363920B2 (en) Vehicle white line recognition device
US10246038B2 (en) Object recognition device and vehicle control system
CN111937002A (en) Obstacle detection device, automatic braking device using obstacle detection device, obstacle detection method, and automatic braking method using obstacle detection method
JP6331811B2 (en) Signal detection device and signal detection method
JP2018048949A (en) Object recognition device
JP7007856B2 (en) White line recognition device for vehicles
JP5538098B2 (en) Vehicle white line recognition device
JP5444130B2 (en) Vehicle white line recognition device
JP6609292B2 (en) Outside environment recognition device
JP6322024B2 (en) Outside monitoring device
JP5452518B2 (en) Vehicle white line recognition device
JP6200780B2 (en) Lane recognition determination device
US20220375231A1 (en) Method for operating at least one environment sensor on a vehicle
JP6259239B2 (en) Vehicle white line recognition device
JP5568029B2 (en) Vehicle white line recognition device
JP6879881B2 (en) White line recognition device for vehicles
US11679769B2 (en) Traffic signal recognition method and traffic signal recognition device
JP4807763B1 (en) Outside monitoring device
JP6259238B2 (en) Vehicle white line recognition device
JP6014534B2 (en) Vehicle white line recognition device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131227

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5452518

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250