JP5568029B2 - Vehicle white line recognition device - Google Patents

Vehicle white line recognition device Download PDF

Info

Publication number
JP5568029B2
JP5568029B2 JP2011026336A JP2011026336A JP5568029B2 JP 5568029 B2 JP5568029 B2 JP 5568029B2 JP 2011026336 A JP2011026336 A JP 2011026336A JP 2011026336 A JP2011026336 A JP 2011026336A JP 5568029 B2 JP5568029 B2 JP 5568029B2
Authority
JP
Japan
Prior art keywords
white line
line
approximate
white
coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011026336A
Other languages
Japanese (ja)
Other versions
JP2012164287A (en
Inventor
悠一郎 田村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2011026336A priority Critical patent/JP5568029B2/en
Publication of JP2012164287A publication Critical patent/JP2012164287A/en
Application granted granted Critical
Publication of JP5568029B2 publication Critical patent/JP5568029B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車載カメラで撮像した画像に基づいて白線を認識する車両用白線認識装置に関する。   The present invention relates to a vehicle white line recognition device that recognizes a white line based on an image captured by an in-vehicle camera.

近年、車両の安全性の向上を図るため、積極的にドライバの運転操作を支援する運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像等に基づいて白線認識が行われ、認識した白線に基づいて自車走行レーンの推定等が行われる。この種の白線認識の技術として、例えば、特許文献1には、自車両の前方を撮像した画像上を水平方向に延びるライン毎に検索して輝度値及び輝度微分値についてそれぞれ設定された閾値以上である画素を車線候補点として検出し、検索により検出された複数の車線候補点に基づいて車線(白線)位置を検出する技術が開示されている。   In recent years, in order to improve the safety of vehicles, driving support devices that actively support driving operations of drivers have been developed. In general, in order to realize a lane departure prevention function or the like, this driving support device recognizes a white line based on a captured image or the like ahead of the host vehicle, and estimates a driving lane or the like based on the recognized white line. . As this type of white line recognition technology, for example, in Patent Document 1, a search is made for each line extending in the horizontal direction on an image obtained by imaging the front of the host vehicle, and a threshold value set for each of the luminance value and the luminance differential value is set. Is detected as a lane candidate point, and a lane (white line) position is detected based on a plurality of lane candidate points detected by the search.

ところで、道路上には、白線以外にもノイズとなる雪や、道路の模様、路面の補修跡、水溜まり等が多く存在し、真正な白線候補点のみを検出することは容易でない状況が多く存在する。そこで、例えば、上述の特許文献1には、撮像された画像上の候補点群に対してハフ変換を行い、最も候補点が多くフィッティングする直線(ハフ直線)を求め、その直線から外れた候補点をノイズとして除外する技術が開示されている。   By the way, in addition to the white line, there are many snows that cause noise, road patterns, road surface repair marks, water pools, etc., and there are many situations where it is not easy to detect only genuine white line candidate points. To do. Therefore, for example, in Patent Document 1 described above, Hough transform is performed on a candidate point group on a captured image, a straight line (Hough straight line) that fits most candidate points is obtained, and a candidate that deviates from the straight line is obtained. A technique for excluding points as noise is disclosed.

特開2007−264955号公報JP 2007-264955 A

しかしながら、道路形状は直線のみで近似できるものばかりではなく、曲率を持ったカーブ区間を含む場合には、白線候補点の適切な選定を行うことが困難な場合がある。   However, the road shape is not only a straight line that can be approximated, but when a curved curve section is included, it may be difficult to appropriately select white line candidate points.

これに対し、公知の手法として、曲線や円等を規定するハフ変換手法が存在しており、例えば、実空間における白線候補点を2次の関数で近似する際に、曲率、傾き、切片等のパラメータをハフ変換を用いて統計的に同定し、これに基づいて白線候補点の選定を行うことは原理的には可能である。   On the other hand, as a known method, there is a Hough transform method for defining a curve, a circle, or the like. For example, when approximating a white line candidate point in real space by a quadratic function, a curvature, an inclination, an intercept, etc. It is theoretically possible to statistically identify the parameters of the above using Hough transform and select white line candidate points based on the parameters.

しかしながら、全てのパラメータをハフ変換によって同定する計算処理は、膨大な演算処理を必要とし、リアルタイムで処理するという観点からは現実的でない。   However, the calculation process for identifying all parameters by the Hough transform requires an enormous calculation process and is not realistic from the viewpoint of processing in real time.

本発明は上記事情に鑑みてなされたもので、演算時間を軽減しつつ、精度よく白線近似線を求めることができる車両用白線認識装置を提供することを目的とする。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a vehicular white line recognition device that can accurately obtain a white line approximate line while reducing the calculation time.

本発明の一態様による車両用白線認識装置は、自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、前記仮白線近似線について前記低次側係数同定手段で同定されていない複数の高次側係数の組合せに関し、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記零次の係数によって定まる座標とを通る曲線を規定する前記高次側係数の組合せを複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備えたものである。 A vehicle white line recognition apparatus according to an aspect of the present invention examines a luminance change in a vehicle width direction for each search line extending in a horizontal direction within a white line detection region set on an image obtained by imaging a host vehicle traveling road, Based on candidate point detection means that detects edge points that change from dark to bright over a predetermined value as white line candidate points, and higher-order approximation formulas that approximate the approximate shape of white lines in real space based on past white line detection results a plurality of high-order side provisional white approximate line for the low-order side coefficient identification means for identifying the low-order side coefficients including zero order coefficient, wherein the non-identified in the low-order side coefficient identification unit for temporary white approximate line comprising Regarding a combination of coefficients, for each of the white line candidate points projected onto the real space , a plurality of combinations of the higher-order coefficients defining a curve passing through the coordinates of the white line candidate points and the coordinates determined by the zero-order coefficient Calculate and calculate the most A higher-order coefficient identifying means for identifying the combination of the higher-order coefficients as a higher-order coefficient of the provisional white line approximation line, and candidate point selection based on the provisional white-line approximation line in which each coefficient is identified A candidate point selection means for setting an area and selecting the white line candidate point existing in the candidate point selection area from the white line candidate points detected in the white line detection area; White line approximate line calculation means for calculating a white line approximate line using the selected white line candidate point.

本発明の車両用白線認識装置によれば、演算時間を軽減しつつ、精度よく白線近似線を求めることができる。   According to the white line recognition device for a vehicle of the present invention, the white line approximate line can be obtained with high accuracy while reducing the calculation time.

車両用運転支援装置の概略構成図Schematic configuration diagram of a vehicle driving support device 白線認識ルーチンを示すフローチャートFlow chart showing white line recognition routine 係数同定サブルーチンを示すフローチャートFlow chart showing coefficient identification subroutine 車外環境の撮像画像の一例を模式的に示す説明図Explanatory drawing which shows typically an example of the captured image of the environment outside the vehicle 図4の画像から検出される白線候補点を示す説明図Explanatory drawing which shows the white line candidate point detected from the image of FIG. 検索ライン上における輝度の変化の一例を示す説明図Explanatory drawing which shows an example of the change of the brightness | luminance on a search line 実空間に投影された白線候補点の一例を示す説明図Explanatory drawing which shows an example of the white line candidate point projected on real space (a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図(A) is explanatory drawing which shows the movement amount of the own vehicle by driving | running | working, (b) is explanatory drawing which shows the relative movement amount with respect to the own vehicle of the white line candidate point detected by the front frame. 基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図Explanatory drawing which shows each pattern of the quadratic curve which passes between two points of a reference point and the white line candidate point to pay attention to 各1次係数に基づいて演算された2次係数を示す説明図Explanatory drawing which shows the secondary coefficient calculated based on each primary coefficient (a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図(A) is explanatory drawing which shows an example of the coefficient distribution table | surface which normalized and voted the secondary coefficient calculated based on each primary coefficient about 1 white line candidate point, (b) is a some white line candidate point Explanatory drawing which shows an example of the coefficient distribution table which normalized and voted the secondary coefficient computed based on each primary coefficient about 仮白線近似線及び候補点選定領域を示す説明図Explanatory drawing which shows temporary white line approximate line and candidate point selection area 選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図Explanatory drawing which shows the white line approximate line calculated using the selected white line candidate point, and the white line detection area used in the next frame

以下、図面を参照して本発明の形態を説明する。図面は本発明の一実施形態に係わり、図1は車両用運転支援装置の概略構成図、図2は白線認識ルーチンを示すフローチャート、図3は係数同定サブルーチンを示すフローチャート、図4は車外環境の撮像画像の一例を模式的に示す説明図、図5は図4の画像から検出される白線候補点を示す説明図、図6は検索ライン上における輝度の変化の一例を示す説明図、図7は実空間に投影された白線候補点の一例を示す説明図、図8(a)は走行による自車の移動量を示す説明図であって(b)は前フレームで検出した白線候補点の自車に対する相対的な移動量を示す説明図、図9は基準点と注目する白線候補点との2点間を通る2次曲線の各パターンを示す説明図、図10は各1次係数に基づいて演算された2次係数を示す説明図、図11(a)は1の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図であって(b)は複数の白線候補点について各1次係数に基づいて演算された2次係数を規格化して投票した係数分布表の一例を示す説明図、図12は仮白線近似線及び候補点選定領域を示す説明図、図13は選定した白線候補点を用いて演算された白線近似線及び次フレームで用いる白線検出領域を示す説明図である。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The drawings relate to an embodiment of the present invention, FIG. 1 is a schematic configuration diagram of a vehicle driving support device, FIG. 2 is a flowchart showing a white line recognition routine, FIG. 3 is a flowchart showing a coefficient identification subroutine, and FIG. FIG. 5 is an explanatory diagram schematically illustrating an example of a captured image, FIG. 5 is an explanatory diagram illustrating white line candidate points detected from the image in FIG. 4, and FIG. 6 is an explanatory diagram illustrating an example of a change in luminance on the search line. Is an explanatory diagram showing an example of white line candidate points projected in real space, FIG. 8 (a) is an explanatory diagram showing the amount of movement of the vehicle by traveling, and (b) is a white line candidate point detected in the previous frame. FIG. 9 is an explanatory diagram showing a relative amount of movement with respect to the own vehicle, FIG. 9 is an explanatory diagram showing each pattern of a quadratic curve passing between two points of a reference point and a target white line candidate point, and FIG. 10 shows each primary coefficient FIG. 11 (a) is an explanatory diagram showing secondary coefficients calculated based on FIG. FIG. 4 is an explanatory diagram showing an example of a coefficient distribution table obtained by standardizing and voting secondary coefficients calculated based on each primary coefficient for one white line candidate point, and (b) shows each one for a plurality of white line candidate points. FIG. 12 is an explanatory diagram showing an example of a provisional white line approximation line and a candidate point selection area, and FIG. 13 is a selected white line. It is explanatory drawing which shows the white line approximated line calculated using the candidate point, and the white line detection area | region used by the following frame.

図1において、符号1は自動車等の車両(自車両)であり、この車両1には運転支援装置2が搭載されている、この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5等を有して要部が構成されている。   In FIG. 1, reference numeral 1 denotes a vehicle such as an automobile (own vehicle), and a driving support device 2 is mounted on the vehicle 1. The driving support device 2 includes, for example, a stereo camera 3 and a stereo image recognition device. 4, the control unit 5 and the like are included in the main part.

また、自車両1には、自車速Vを検出する車速センサ11、ヨーレートγを検出するヨーレートセンサ12、運転支援制御の各機能のON−OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角θstを検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)θaccを検出するアクセル開度センサ15等が設けられている。   The host vehicle 1 is connected to a vehicle speed sensor 11 that detects the host vehicle speed V, a yaw rate sensor 12 that detects the yaw rate γ, a main switch 13 that performs ON / OFF switching of each function of the driving support control, and the like, and a steering wheel. A steering angle sensor 14 that detects the steering angle θst that is opposed to the steering shaft, an accelerator opening sensor 15 that detects an accelerator pedal depression amount (accelerator opening) θacc by the driver, and the like are provided.

ステレオカメラ3は、ステレオ光学系として、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組のCCDカメラで構成されている。これら左右のCCDカメラは、ぞれぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。   The stereo camera 3 is constituted by a set of CCD cameras using a solid-state imaging device such as a charge coupled device (CCD) as a stereo optical system. These left and right CCD cameras are respectively mounted at a certain distance in front of the ceiling in the vehicle interior, take a stereo image of an object outside the vehicle from different viewpoints, and output image data to the stereo image recognition device 4. In the following description, one image (for example, the right image) of the stereo images is referred to as a reference image, and the other image (for example, the left image) is referred to as a comparative image.

ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジ点として抽出するとともに、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶しておいた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。   First, the stereo image recognition device 4 divides the reference image into small areas of 4 × 4 pixels, for example, compares the luminance or color pattern of each small area with the comparison image, finds a corresponding area, and performs the entire reference image. Find the distance distribution over. Further, the stereo image recognition device 4 examines the luminance difference between each pixel on the reference image and an adjacent pixel, extracts those whose luminance difference exceeds a threshold value as an edge point, and extracts the extracted pixel (edge A distance image (a distribution image of edge points having distance information) is generated by giving distance information to (point). Then, the stereo image recognition device 4 performs a well-known grouping process on the generated distance image and compares it with a pre-stored three-dimensional frame (window), so that a white line and a side wall in front of the vehicle Recognize three-dimensional objects.

ここで、本実施形態において認識対象となる白線とは、例えば、単一の車線区画線や車線区画線の内側に視線誘導線等が併設された多重線(二重線等)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線等を問わず、更に、黄色線等をも含む。また、本実施形態の白線認識においては、道路上に実在する白線が二重白線等であっても、左右それぞれ単一の直線或いは曲線等で近似して認識するものとする。   Here, the white line to be recognized in the present embodiment is, for example, a single lane line or a multiple line (double line or the like) in which a line of sight guide line is provided inside the lane line, Lines that extend on the road and divide the vehicle lane are collectively referred to, and the form of each line includes a solid line, a broken line, and the like, and further includes a yellow line and the like. In the white line recognition of this embodiment, even if the white line that exists on the road is a double white line or the like, the white line is approximated and recognized by a single straight line or a curved line.

ところで、実際の道路上に敷設された白線には上述のように各種バリエーションが存在する他、白線の形態は走行路の分岐や合流等に伴って変化する。加えて、道路上には路面補修跡や、水溜まり、雪等の各種ノイズが存在する。従って、画一的な処理によって、全ての場面で精度よく白線を認識することは困難となる。そこで、ステレオ画像認識装置4は、上述のような距離画像に基づくパターンマッチングを用いた白線認識のみに頼ることなく、各種方式を用いた白線認識を補完的に行い、これらの認識結果を総合的に判断して最終的な白線を認識する。   By the way, the white line laid on the actual road has various variations as described above, and the form of the white line changes with the branching or merging of the traveling road. In addition, there are various noises such as road surface repair marks, water pools and snow on the road. Therefore, it is difficult to accurately recognize the white line in all scenes by uniform processing. Therefore, the stereo image recognition device 4 complementarily performs white line recognition using various methods without relying only on white line recognition using pattern matching based on the distance image as described above, and comprehensively recognizes these recognition results. Judgment to recognize the final white line.

このような白線認識の一つとして、ステレオ画像認識装置4は、自車前方を撮像した一方の画像(例えば、図4に示す基準画像)上の水平方向の輝度変化に基づいて左右の白線認識を行う。具体的に説明すると、例えば、図5に示すように、ステレオ画像認識装置4は、画像上に左右の白線検出領域A(Al,Ar)を設定し、各白線検出領域A内で水平方向に延在する複数の検索ラインlに対し、検索ラインl毎に車幅方向内側から外側に向けて輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域A内の各検索ラインl上において、輝度が暗から明に所定以上変化する最初のエッジ点を白線候補点Pd(Pdl,Pdr)としてそれぞれ検出する。   As one of such white line recognition, the stereo image recognition device 4 recognizes left and right white lines based on a change in luminance in the horizontal direction on one image (for example, a reference image shown in FIG. 4) taken in front of the host vehicle. I do. More specifically, for example, as shown in FIG. 5, the stereo image recognition device 4 sets left and right white line detection areas A (Al, Ar) on the image, and horizontally in each white line detection area A. For a plurality of search lines 1 extending, a change in luminance is examined from the inside to the outside in the vehicle width direction for each search line l. Then, the stereo image recognition device 4 detects, as white line candidate points Pd (Pdl, Pdr), on the respective search lines 1 in the respective white line detection areas A, the first edge points whose luminance changes from dark to bright by a predetermined amount or more. To do.

そして、ステレオ画像認識装置4は、各白線候補点Pdを実空間上に投影し(図7参照)、投影した左右の白線候補点Pdの各点群に対して、高次の近似式(関数)からなる仮白線近似線Lt(Ltl,Ltr)を演算し、当該仮白線近似線を基準とする候補点選定領域As(Asl,Asr)を設定する(図12参照)。   Then, the stereo image recognition device 4 projects each white line candidate point Pd on the real space (see FIG. 7), and applies a higher-order approximation formula (function) to each point group of the projected left and right white line candidate points Pd. ) And a candidate point selection area As (Asl, Asr) based on the temporary white line approximate line is set (see FIG. 12).

そして、ステレオ画像認識装置4は、白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点P(Pl,Pr)として選定する(図12参照)。   Then, the stereo image recognition device 4 selects the white line candidate point Pd existing in the candidate point selection area As from the white line candidate points Pd as the final white line candidate point P (Pl, Pr) (see FIG. 12). ).

そして、ステレオ画像認識装置4は、左右の各候補点選定領域As内で選定した白線候補点Pを用いて最終的な左右の白線近似線L(Ll,Lr)をそれぞれ演算するとともに、演算した仮白線近似線Lに基づいて次フレームでの白線検出領域Aを設定する(図13参照)。   Then, the stereo image recognition device 4 calculates the final left and right white line approximate lines L (Ll, Lr) using the white line candidate points P selected in the left and right candidate point selection regions As and performs the calculation. Based on the provisional white line approximate line L, the white line detection area A in the next frame is set (see FIG. 13).

ここで、ステレオ画像認識装置4は、仮白線近似線Ltの設定に際し、先ず、過去の白線検出結果に基づき、零次の係数(定数)を含む低次側係数を同定する。例えば、本実施形態における仮白線近似線Ltは2次の近似式で規定されるようになっており、この場合、ステレオ画像認識装置4は、前フレームで認識した白線近似線に基づいて、0次の係数(定数)を同定する。   Here, when setting the provisional white line approximate line Lt, the stereo image recognition device 4 first identifies low-order coefficients including zero-order coefficients (constants) based on past white line detection results. For example, the provisional white line approximate line Lt in the present embodiment is defined by a quadratic approximate expression. In this case, the stereo image recognition device 4 is based on the white line approximate line recognized in the previous frame. Identify the following coefficients (constants):

また、低次側係数を同定すると、ステレオ画像認識装置4は、同定されていない複数の高次側係数の同定を行う。この高次側係数の同定において、ステレオ画像認識装置4は、実空間上に投影された白線候補点Pd毎に、当該白線候補点Pdの座標と低次側係数とを用いて、高次側係数の組合せを複数パターン演算する。そして、最も多く演算された高次側係数の組合せを抽出し、抽出した高次側係数を仮白線近似線Ltの係数として同定する。例えば、仮白線近似線Ltが2次の近似式で規定される本実施形態において、ステレオ画像認識装置4は、0次係数が同定された仮白線近似線Ltに白線候補点Pdの座標を代入することにより、白線候補点Pd毎に、2次係数と1次係数との組合せを複数パターン演算する。そして、全ての白線候補点Pdについて、2次係数と1次係数との組合せを複数パターン演算すると、ステレオ画像認識装置4は、演算した2次係数と1次係数との組合せの中から、最も多く演算された組合せを抽出し、当該組合せを仮白線近似線Ltの高次側係数として同定する。   When the low-order side coefficient is identified, the stereo image recognition device 4 identifies a plurality of unordered high-order coefficients. In the identification of the higher-order side coefficient, the stereo image recognition device 4 uses the coordinates of the white line candidate point Pd and the lower-order side coefficient for each white line candidate point Pd projected on the real space. A plurality of combinations of coefficients are calculated. Then, the combination of higher-order coefficients calculated the most is extracted, and the extracted higher-order coefficients are identified as the coefficients of the provisional white line approximate line Lt. For example, in the present embodiment in which the provisional white line approximate line Lt is defined by a quadratic approximation formula, the stereo image recognition device 4 substitutes the coordinates of the white line candidate point Pd for the provisional white line approximation line Lt for which the zeroth order coefficient has been identified. By doing this, a plurality of patterns of combinations of secondary coefficients and primary coefficients are calculated for each white line candidate point Pd. When a plurality of combinations of secondary coefficients and primary coefficients are calculated for all the white line candidate points Pd, the stereo image recognition device 4 selects the most from the combinations of the calculated secondary coefficients and primary coefficients. A large number of calculated combinations are extracted, and the combinations are identified as higher-order coefficients of the provisional white line approximate line Lt.

このように、本実施形態において、ステレオ画像認識装置4は、候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、及び、白線近似線演算手段としての各機能を実現する。   As described above, in this embodiment, the stereo image recognition device 4 includes candidate point detection means, low-order side coefficient identification means, high-order side coefficient identification means, candidate point selection means, and white line approximate line calculation means. Realize the function.

なお、ステレオ画像認識装置4は、その他の種々の方法によって白線認識を行うことが可能となっている。そして、ステレオ画像認識装置4は、例えば、各白線認識において認識した白線の近似線と当該認識に用いられたエッジ点等の白線候補点との関係(例えば、近似線に対する白線候補点の分散等)に基づき、認識した各近似線の中から最も適切な近似線を選択し、当該近似線を最終的な白線の近似線として制御ユニット5に出力する。   Note that the stereo image recognition device 4 can perform white line recognition by various other methods. Then, for example, the stereo image recognition apparatus 4 has a relationship between an approximate line of a white line recognized in each white line recognition and a white line candidate point such as an edge point used for the recognition (for example, dispersion of white line candidate points with respect to the approximate line, etc.) ) Is selected from the recognized approximate lines, and the approximate line is output to the control unit 5 as the final approximate line of the white line.

制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、自車両1の走行情報として、車速センサ11からの車速V、ヨーレートセンサ12からのヨーレートγ等が入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角θst、アクセル開度センサ15からのアクセル開度θacc等が入力される。   The control unit 5 receives driving environment information in front of the host vehicle 1 recognized by the stereo image recognition device 4. Further, the vehicle speed V from the vehicle speed sensor 11, the yaw rate γ from the yaw rate sensor 12, and the like are input to the control unit 5 as travel information of the host vehicle 1, and operation input information by the driver from the main switch 13. An operation signal, a steering angle θst from the steering angle sensor 14, an accelerator opening θacc from the accelerator opening sensor 15, and the like are input.

そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に追従対象の先行車が走行しているか否かを識別する。   For example, when an execution of an ACC (Adaptive Cruise Control) function which is one of the functions of the driving support control is instructed through the operation of the main switch 13 by the driver, the control unit 5 recognizes the stereo image recognition device 4. The direction of the preceding vehicle is read, and it is identified whether or not the preceding vehicle to be followed is traveling on the own vehicle traveling path.

その結果、追従対象の先行車が検出されていない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に自車両1の車速Vを維持させる定速走行制御を実行する。   As a result, when the preceding vehicle to be tracked is not detected, the constant speed traveling control for maintaining the vehicle speed V of the host vehicle 1 at the set vehicle speed set by the driver through the opening / closing control (engine output control) of the throttle valve 16. Execute.

一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。   On the other hand, when a preceding vehicle that is a tracking target vehicle is detected and the vehicle speed of the preceding vehicle is equal to or lower than the set vehicle speed, the following traveling control is performed in which the following distance is converged to the target inter-vehicle distance. Executed. During this follow-up running control, the control unit 5 basically converges the inter-vehicle distance to the target inter-vehicle distance through the opening / closing control of the throttle valve 16 (engine output control). Furthermore, when it is determined that sufficient deceleration cannot be obtained only by controlling the throttle valve 16 due to sudden deceleration of the preceding vehicle, the control unit 5 controls the output hydraulic pressure from the active booster 17 (automatic braking intervention). Control) to converge the inter-vehicle distance to the target inter-vehicle distance.

また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の白線(ステレオ画像認識装置4で認識した白線の近似線)に基づいて警報判定用ラインを設定するとともに、自車両1の車速Vとヨーレートγとに基づいて自車進行経路を推定する。そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10〜16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、自車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。   Further, when execution of the lane departure prevention function, which is one of the functions of the driving support control, is instructed through the operation of the main switch 13 by the driver, the control unit 5 will, for example, the left and right white lines that define the own vehicle traveling lane. A warning determination line is set based on (approximate white line recognized by the stereo image recognition device 4), and the own vehicle traveling path is estimated based on the vehicle speed V and the yaw rate γ of the own vehicle 1. Then, for example, when the control unit 5 determines that the host vehicle travel route crosses either the left or right alarm determination line within a set distance (for example, 10 to 16 [m]) ahead of the host vehicle, It is determined that the host vehicle 1 is likely to depart from the current host vehicle lane, and a lane departure warning is issued.

次に、ステレオ画像認識装置4において実行される、基準画像上の輝度変化に基づく白線認識について、図2に示す白線認識ルーチンのフローチャートに従って説明する。なお、本ルーチンによる処理は、左右の白線検出領域Al,Arそれぞれに対して同様の処理が個別に行われるものであるが、説明を簡略化するため、以下の説明において特に必要な場合を除き、例えば白線検出領域Al,Arを総称して白線検出領域Aと標記する等、左右の属性を示す添字”l”及び”r”を適宜省略して説明する。   Next, white line recognition based on the luminance change on the reference image, which is executed in the stereo image recognition device 4, will be described with reference to the white line recognition routine shown in FIG. In this routine, the same processing is performed separately for the left and right white line detection areas Al and Ar. However, to simplify the description, unless otherwise required in the following description. For example, the white line detection areas Al and Ar are collectively referred to as the white line detection area A, and the subscripts “l” and “r” indicating the left and right attributes are omitted as appropriate.

このルーチンがスタートすると、ステレオ画像認識装置4は、先ず、ステップS101において、前フレームの画像に対するステップS108の処理で設定された白線検出領域A内の各検索ラインl毎に白線候補点Pdの検出を行う。具体的には、例えば、図6に示すように、ステレオ画像認識装置4は、車幅方向内側から外側に向けて、各検索ラインl上でのエッジ検出を行い、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定閾値以上となる点(エッジ点)を検出する。そして、ステレオ画像認識装置4は、白線検出領域A内の各検索ラインl上において、最初に検出されたエッジ点を白線候補点Pdとして抽出する(図5参照)。なお、図5においては、説明を簡略化するため、検索ラインl及び白線候補点Pd等が所定に間引かれて表示されている。   When this routine starts, the stereo image recognition device 4 first detects a white line candidate point Pd for each search line l in the white line detection area A set in the process of step S108 for the image of the previous frame in step S101. I do. Specifically, for example, as illustrated in FIG. 6, the stereo image recognition device 4 performs edge detection on each search line l from the inner side to the outer side in the vehicle width direction, and detects pixels on the outer side in the vehicle width direction. A point (edge point) in which the luminance is relatively high with respect to the luminance of the inner pixel and the differential value of the luminance indicating the amount of change is equal to or greater than the set threshold on the plus side is detected. Then, the stereo image recognition device 4 extracts the edge point first detected as the white line candidate point Pd on each search line l in the white line detection area A (see FIG. 5). In FIG. 5, the search line l, the white line candidate point Pd, and the like are thinned out and displayed in a predetermined manner in order to simplify the description.

続くステップS102において、ステレオ画像認識装置4は、ステップS101で検出した各白線候補点Pdを、距離画像上で該当する画素の距離情報、及び、基準画像上で該当する画素の水平方法の画素位置等に基づいて、実空間に投影する(図7参照)。   In subsequent step S102, the stereo image recognition device 4 uses each white line candidate point Pd detected in step S101 as the distance information of the corresponding pixel on the distance image and the pixel position of the horizontal method of the corresponding pixel on the reference image. Based on the above, the image is projected into the real space (see FIG. 7).

ステップS102からステップS103に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの0次係数(定数項c)の同定処理を行う。すなわち、ステレオ画像認識装置4は、例えば、図8(a)に示す関係から、自車1の車速Vと、ヨーレートγから求まるヨー角θとに基づき、撮像画像の1フレームあたり(撮像画像が1フレーム更新されるまでの間t)の自車1の移動量Δx,Δzを、以下の(1)式及び(2)式を用いて演算する。
Δx=V×sinθ …(1)
Δz=V×cosθ …(2)
そして、ステレオ画像認識装置4は、自車の移動量Δx,Δzを用い、前フレームで検出された白線候補点(選定が行われた後の最終的な白線候補点Pの前回値)Pprの、自車1を基準とするX−Z座標系上での移動量dX,dZ(図8(b)参照)を、以下の(3)式及び(4)式を用いて演算する。
dX=Δx×cosθ−Δz×sinθ …(3)
dZ=Δx×sinθ+Δz×cosθ …(4)
そして、ステレオ画像認識装置4は、移動量dX,dZを用いてX−Z座標系上で移動させた前フレームの各白線候補点Ppr’を用い、現在の自車位置を基準とする現フレームでの白線近似線Lpr’を、最小二乗法によって推定する。そして、求めた白線近似線Lpr’の0次の係数を、仮白線近似線Ltの0次の係数として同定する。
When the process proceeds from step S102 to step S103, the stereo image recognition device 4 performs identification processing of the zeroth order coefficient (constant term c) of the provisional white line approximate line Lt made of the quadratic approximate expression. That is, for example, the stereo image recognition device 4 is based on the vehicle speed V of the host vehicle 1 and the yaw angle θ obtained from the yaw rate γ based on the relationship shown in FIG. The movement amounts Δx and Δz of the host vehicle 1 during the period until one frame is updated are calculated using the following equations (1) and (2).
Δx = V × sin θ (1)
Δz = V × cos θ (2)
Then, the stereo image recognition device 4 uses the movement amounts Δx, Δz of the own vehicle, and the white line candidate point detected in the previous frame (the previous value of the final white line candidate point P after selection) Ppr Then, the movement amounts dX, dZ (see FIG. 8B) on the XZ coordinate system based on the own vehicle 1 are calculated using the following equations (3) and (4).
dX = Δx × cos θ−Δz × sin θ (3)
dZ = Δx × sin θ + Δz × cos θ (4)
Then, the stereo image recognition device 4 uses each white line candidate point Ppr ′ of the previous frame moved on the XZ coordinate system using the movement amounts dX and dZ, and uses the current frame position as a reference. The white line approximate line Lpr ′ at is estimated by the least square method. Then, the obtained 0th order coefficient of the white line approximate line Lpr ′ is identified as the 0th order coefficient of the provisional white line approximate line Lt.

すなわち、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することは考えにくい。そこで、仮白線近似線Ltの低次側係数は、前フレームの白線候補点Ppr’から自車移動量をもとに推定した現フレームでの白線近似線Lpr’に基づいて同定される。   That is, it is unlikely that the position of the vehicle suddenly changes in the vehicle width direction with respect to the white line except when the vehicle 1 changes lanes. Therefore, the low-order coefficient of the provisional white line approximate line Lt is identified based on the white line approximate line Lpr 'in the current frame estimated from the white line candidate point Ppr' of the previous frame based on the amount of movement of the vehicle.

ここで、低次側係数の同定を簡略化する場合には、例えば、前フレームで演算した白線近似線Lprの低次係数をそのまま仮白線近似線Ltの低次係数として用いることも可能である。   Here, in order to simplify the identification of the low-order side coefficient, for example, the low-order coefficient of the white line approximate line Lpr calculated in the previous frame can be used as it is as the low-order coefficient of the temporary white line approximate line Lt. .

そして、ステップS103からステップS104に進むと、ステレオ画像認識装置4は、前フレームで認識した白線候補点から自車移動量をもとに推定した現フレームでの白線近似線Lpr’を構成する白線候補点Ppr’の数が予め設定された閾値以上であるか否かを調べる。   Then, when the process proceeds from step S103 to step S104, the stereo image recognition device 4 configures the white line that forms the white line approximate line Lpr ′ in the current frame estimated based on the movement amount of the vehicle from the white line candidate points recognized in the previous frame. It is checked whether or not the number of candidate points Ppr ′ is equal to or greater than a preset threshold value.

そして、ステップS104において、白線候補点Ppr’の数が閾値未満であると判定した場合、ステレオ画像認識装置4は、上述のステップS103において同定した低次側係数の精度が低い可能性が高いと判断して、そのままルーチンを抜ける。   If it is determined in step S104 that the number of white line candidate points Ppr ′ is less than the threshold value, the stereo image recognition device 4 has a high possibility that the accuracy of the low-order coefficient identified in step S103 described above is low. Judge and exit the routine.

一方、ステップS104において白線候補点Ppr’の数が閾値以上であると判定した場合、ステレオ画像認識装置4は、ステップS105に進む。   On the other hand, when it is determined in step S104 that the number of white line candidate points Ppr ′ is equal to or greater than the threshold, the stereo image recognition device 4 proceeds to step S105.

ステップS104からステップS105に進むと、ステレオ画像認識装置4は、2次の近似式からなる仮白線近似線Ltの2次係数a及び1次係数bの同定処理を行う。この同定処理は、例えば、図3に示す係数同定サブルーチンのフローチャートに従って実行される。なお、以下の説明において、各白線検出領域A内で検出された白線候補点Pdには、自車1に最も近い白線候補点Pdから順に、n=1〜nmaxの番号が付されているものとする。   When the process proceeds from step S104 to step S105, the stereo image recognition device 4 performs identification processing of the secondary coefficient a and the primary coefficient b of the provisional white line approximate line Lt made of a quadratic approximate expression. This identification processing is executed, for example, according to the flowchart of the coefficient identification subroutine shown in FIG. In the following description, white line candidate points Pd detected in each white line detection area A are numbered n = 1 to nmax in order from the white line candidate point Pd closest to the vehicle 1. And

サブルーチンがスタートすると、ステレオ画像認識同値4は、先ず、ステップS201において、白線検出領域A内で検出された白線候補点Pdのうち、自車1に最も近い白線候補点Pd(n=1)を今回注目する白線候補点として抽出し、当該白線候補点Pdの実空間上における座標(X、Z)を、定数項cが同定された仮白線近似線Ltの近似式に代入する。   When the subroutine starts, the stereo image recognition equivalence 4 first determines the white line candidate point Pd (n = 1) closest to the vehicle 1 among the white line candidate points Pd detected in the white line detection area A in step S201. The extracted white line candidate point of interest is extracted and the coordinates (X, Z) in the real space of the white line candidate point Pd are substituted into the approximate expression of the temporary white line approximate line Lt in which the constant term c is identified.

続くステップS202において、ステレオ画像認識装置4は、1次係数bを、当該係数bに許容され得る範囲(例えば、b=−β〜β)の最低値(−β)にセットした後、ステップS203に進む。   In subsequent step S202, the stereo image recognition device 4 sets the primary coefficient b to the lowest value (−β) of a range (for example, b = −β to β) that is allowable for the coefficient b, and then in step S203. Proceed to

ステップS202からステップS203に進むと、ステレオ画像認識装置4は、現在セットされている1次係数bを用い、仮白線近似線Ltの近似式を変形した以下の(5)式を用いて、2次係数aを算出する(図10参照)。
a=(X−bZ−c)/Z …(5)
そして、ステップS204に進むと、ステップS203で算出した1次係数aを予め設定されたΔα刻みの値にデジタル化(規格化)し、続くステップS205において、図11に示す係数分布表の該当箇所に投票する(図11参照)。
When the process proceeds from step S202 to step S203, the stereo image recognition device 4 uses the following equation (5) obtained by modifying the approximate expression of the temporary white line approximate line Lt using the currently set primary coefficient b. The next coefficient a is calculated (see FIG. 10).
a = (X−bZ−c) / Z 2 (5)
In step S204, the primary coefficient a calculated in step S203 is digitized (normalized) into a preset Δα step value. In step S205, the corresponding part of the coefficient distribution table shown in FIG. (See FIG. 11).

ステップS205からステップS206に進むと、ステレオ画像認識装置4は、1次係数bの値が当該係数bのとり得る最大値βに達したか否かを調べる。   When the process proceeds from step S205 to step S206, the stereo image recognition device 4 checks whether or not the value of the primary coefficient b has reached the maximum value β that the coefficient b can take.

そして、ステップS206において、1次係数bが未だ最大値βに達していない(すなわち、b≠βである)と判断した場合、ステレオ画像認識装置4は、ステップ207に進み、1次係数bの値をΔβだけ高値側の値に更新した後、ステップS203に戻る。   If it is determined in step S206 that the primary coefficient b has not yet reached the maximum value β (that is, b ≠ β), the stereo image recognition apparatus 4 proceeds to step 207 and determines the primary coefficient b. After the value is updated to a higher value by Δβ, the process returns to step S203.

そして、ステップS203〜ステップS207の処理が繰り返し実行されることにより、例えば、図9に示すように、0次係数cと注目する白線候補点Pdとを通る複数パターンの2次曲線(係数a,b)が演算される。   Then, by repeatedly executing the processing of step S203 to step S207, for example, as shown in FIG. 9, a plurality of patterns of quadratic curves (coefficients a, a, which pass through the zeroth order coefficient c and the target white line candidate point Pd as shown in FIG. b) is computed.

一方、ステップS206において、1次係数bが最大値βに達した(すなわち、b=βである)と判断した場合、ステレオ画像認識装置4は、ステップS208に進み、今回注目している白線候補点Pdが自車1から最も遠方に位置する白線候補点Pdであるか否か(すなわち、n=nmaxであるか否か)を調べる。   On the other hand, when it is determined in step S206 that the primary coefficient b has reached the maximum value β (that is, b = β), the stereo image recognition device 4 proceeds to step S208, and the white line candidate focused on this time It is examined whether or not the point Pd is the white line candidate point Pd located farthest from the own vehicle 1 (that is, whether or not n = nmax).

そして、ステップS208において、n≠nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS209に進み、注目する白線候補点Pdを現在のものから1つ遠方の白線候補点Pdに更新(n=n+1)した後、ステップS202に戻る。   If it is determined in step S208 that n ≠ nmax, the stereo image recognition apparatus 4 proceeds to step S209, and updates the white line candidate point Pd of interest to a white line candidate point Pd one distant from the current one ( After n = n + 1), the process returns to step S202.

一方、ステップS208において、n=nmaxであると判定した場合、ステレオ画像認識装置4は、ステップS210に進み、2次係数aと1次係数bとの組合せの全てについて投票した係数分布表(図11(b)参照)の中から、最も多く投票された2次係数aと1次係数bとの組合せを抽出し、当該組合せの各係数a,bを仮白線近似線Ltの近似式の係数として同定した後、サブルーチンを抜ける。   On the other hand, if it is determined in step S208 that n = nmax, the stereo image recognition apparatus 4 proceeds to step S210, and a coefficient distribution table (see FIG. 10) voted for all combinations of the secondary coefficient a and the primary coefficient b. 11 (b)), the most frequently voted combination of the secondary coefficient a and the primary coefficient b is extracted, and the coefficients a and b of the combination are coefficients of the approximate expression of the provisional white line approximate line Lt. And then exit the subroutine.

これにより、仮白線近似線を示し近似式として、以下の(6)式に示す近似式が同定される。
X=aZ+bZ+c …(6)
なお、(6)式においては、便宜上、パラメータを左右共通の記号a,b,cで表記しているが、これらは、左右の仮白線近似線Ltl,Ltrについて個別に設定されるものであることは云うまでもない。
As a result, the approximate expression shown in the following expression (6) is identified as an approximate expression indicating the provisional white line approximate line.
X = aZ 2 + bZ + c (6)
In the equation (6), for convenience, the parameters are represented by the left and right common symbols a, b, and c, but these are set individually for the left and right temporary white line approximate lines Ltl and Ltr. Needless to say.

図2のメインルーチンにおいて、ステップS105からステップS106に進むと、ステレオ画像認識装置4は、各係数を同定した仮近似曲線Ltに基づき、最終的な白線候補点Pの選定を行う。すなわち、ステレオ画像認識装置4は、仮白線近似線Ltを車幅方向内側及び外側にそれぞれΔEオフセットさせることにより、以下の(7)式及び(8)式で規定される候補点選定領域Asを設定する(図12参照)。
X1=aZ+bZ+c−ΔE …(7)
X2=aZ+bZ+c+ΔE …(8)
そして、ステレオ画像認識装置4は、白線検出領域Aで検出された全ての白線候補点Pdの中から、候補点選定領域As内に存在する白線候補点Pdを、最終的な白線候補点Pとして選定する(図13参照)。なお、便宜上、候補点Pに関しても、左右の仮白線でそれぞれPl、Prと個別に設定されるものであることは云うまでもない。
In the main routine of FIG. 2, when the process proceeds from step S105 to step S106, the stereo image recognition device 4 selects a final white line candidate point P based on the temporary approximate curve Lt in which each coefficient is identified. That is, the stereo image recognition device 4 offsets the temporary white line approximate line Lt by ΔE to the inside and the outside in the vehicle width direction, respectively, so that the candidate point selection area As defined by the following expressions (7) and (8) is obtained. Set (see FIG. 12).
X1 = aZ 2 + bZ + c−ΔE (7)
X2 = aZ 2 + bZ + c + ΔE (8)
Then, the stereo image recognition device 4 uses, as the final white line candidate point P, the white line candidate point Pd existing in the candidate point selection area As among all the white line candidate points Pd detected in the white line detection area A. Select (see FIG. 13). For the sake of convenience, it goes without saying that the candidate points P are also individually set as Pl and Pr respectively on the left and right temporary white lines.

続くステップS107において、ステレオ画像認識装置4は、左右の各候補点選定領域Asで選定した白線候補点Pを用いて白線近似線Lを演算する(図13参照)。ここで、本実施形態の白線近似線Lは、以下の(9)式に示すように、車両1に対する鉛直方向Z距離に対し、A,B,Cの各パラメータによって白線の車両水平方向距離Xが同定されるものである。
X=AZ+BZ+C …(9)
ここで、(9)式に示す仮白線近似線LtのパラメータA,B,Cは、例えば、最終的な白線候補点Pを用いた最小二乗法によって求めることが可能であり、各パラメータA,B,Cは、白線近似線Lに対する各白線候補点Pの分散が最小となる値に決定される。なお、(9)式においては、便宜上、パラメータを左右共通の記号A,B,Cで表記しているが、これらは、左右の白線近似線Ll,Lrについて個別に設定されるものであることは云うまでもない。
In subsequent step S107, the stereo image recognition device 4 calculates the white line approximate line L using the white line candidate points P selected in the left and right candidate point selection regions As (see FIG. 13). Here, the white line approximate line L of the present embodiment is represented by the following formula (9). The white line vehicle horizontal direction distance X is determined by the parameters A, B, and C with respect to the vertical direction Z distance to the vehicle 1. Is identified.
X = AZ 2 + BZ + C (9)
Here, the parameters A, B, and C of the temporary white line approximate line Lt shown in the equation (9) can be obtained by, for example, the least square method using the final white line candidate point P. B and C are determined to be values that minimize the variance of each white line candidate point P with respect to the white line approximate line L. In Equation (9), for convenience, parameters are represented by common symbols A, B, and C on the left and right, but these are set individually for the left and right white line approximate lines Ll and Lr. Needless to say.

そして、ステップS108に進むと、ステレオ画像認識装置4は、ステップS107で演算した白線近似線Lを車幅方向内側及び外側にそれぞれΔE´(ΔEと同じ値でも異なる値でもよい)オフセットされることにより、以下の(10)式及び(11)式で規定される次フレームでの白線検出領域Aを設定した後(図12参照)、ルーチンを抜ける。
X1=AZ+BZ+C−ΔE´ …(10)
X2=AZ+BZ+C+ΔE´ …(11)
このような実施形態によれば、実空間上での白線の概略形状を近似する仮白線近似線の各係数を同定するに際し、前フレームで認識した白線近似線に基づいて低次側係数を同定し、同定されていない複数の高次側係数の組合せを、実空間上に投影された白線候補点Pd毎に当該白線候補点Pdの座標と低次側係数とを用いて複数パターン演算し、最も多く演算された高次側係数の組合せを仮白線近似線Ltの高次側係数として同定することにより、演算時間を軽減した簡単な演算により、精度よく高次の近似式で仮白線近似線Ltを求めることができる。そして、仮白線近似線Ltを基準とする候補点選定領域Asを設定するとともに、当該候補点選定領域As内に存在する白線候補点Pdを最終的な白線候補点Pとして選定し、選定した白線候補点Pに基づいて白線近似線Lを演算することにより、白線近似線Lを精度よく求めることができる。
In step S108, the stereo image recognition apparatus 4 offsets the white line approximate line L calculated in step S107 by ΔE ′ (which may be the same or different from ΔE) to the inside and outside in the vehicle width direction. Thus, after setting the white line detection area A in the next frame defined by the following equations (10) and (11) (see FIG. 12), the routine is exited.
X1 = AZ 2 + BZ + C−ΔE ′ (10)
X2 = AZ 2 + BZ + C + ΔE ′ (11)
According to such an embodiment, when identifying each coefficient of the temporary white line approximate line that approximates the approximate shape of the white line in real space, the low-order side coefficient is identified based on the white line approximate line recognized in the previous frame. A plurality of unidentified combinations of higher-order coefficients are calculated for each white-line candidate point Pd projected in real space using the coordinates of the white-line candidate points Pd and lower-order coefficients, By identifying the combination of the higher-order coefficients calculated most frequently as the higher-order coefficient of the provisional white line approximation line Lt, the provisional white line approximation line can be accurately obtained with a high-order approximation expression by simple computation with reduced computation time. Lt can be obtained. Then, the candidate point selection area As is set with reference to the provisional white line approximate line Lt, and the white line candidate point Pd existing in the candidate point selection area As is selected as the final white line candidate point P, and the selected white line is selected. By calculating the white line approximate line L based on the candidate point P, the white line approximate line L can be obtained with high accuracy.

すなわち、仮白線候補点Ltを設定するに際し、自車1が車線変更等を行う場合以外、白線に対して自車位置が車幅方向に急激に変動することが考えにくいという観点のもと、低次側係数を前フレームで認識した白線候補点から推定した現フレームでの白線近似線Lprに基づいて同定することにより、高次側係数において白線の曲率変動等に対応する余地を残しつつ、各白線候補点Pdとのフィッティングによって同定する係数(パラメータ)の数を効率よく減らすことができ、演算負荷を格段に低減することができる。   That is, when setting the provisional white line candidate point Lt, it is unlikely that the position of the own vehicle suddenly changes in the vehicle width direction with respect to the white line, except when the own vehicle 1 performs lane change or the like. By identifying the low-order coefficient based on the white line approximation line Lpr in the current frame estimated from the white line candidate point recognized in the previous frame, while leaving room for the white line curvature fluctuation or the like in the high-order coefficient, The number of coefficients (parameters) identified by fitting with each white line candidate point Pd can be efficiently reduced, and the calculation load can be significantly reduced.

この場合において、前フレームの白線候補点から推定した白線近似線Lprと、1フレームあたりの自車1の移動量とに基づいて低次側係数を同定することにより、自車1と白線との相対位置の変化も加味して低次側係数を同定することができる。   In this case, by identifying the low-order coefficient based on the white line approximate line Lpr estimated from the white line candidate point of the previous frame and the amount of movement of the vehicle 1 per frame, the vehicle 1 and the white line A low-order coefficient can be identified in consideration of a change in relative position.

また、白線近似線Lの各係数A,B,Cの同定は、選定した白線候補点Pの点群に基づき、最小二乗法を用いて行うことにより、簡単な演算で各係数A,B,Cを同定することができる。   Further, the identification of the coefficients A, B, and C of the white line approximate line L is performed by using the least square method based on the selected point group of the white line candidate points P, so that each coefficient A, B, C can be identified.

なお、上述の実施形態においては、ステレオカメラを用いて各画素の距離情報を演算する一例について説明したが、本発明はこれに限定されるものではなく、例えば、自車走行路が平坦路であると仮定して、単眼のカメラで捉えた画像から各白線候補点の距離情報を演算することも可能である。   In the above-described embodiment, an example in which the distance information of each pixel is calculated using a stereo camera has been described. However, the present invention is not limited to this, and for example, the vehicle traveling road is a flat road. It is also possible to calculate the distance information of each white line candidate point from an image captured by a monocular camera.

また、上述の実施形態においては、白線近似線L(及び、仮白線近似線Lt)を2次の近似式で近似した一例について説明したが、本発明はこれに限定されるものではなく、3次以上の近似式で近似することも可能である。   In the above-described embodiment, an example in which the white line approximate line L (and the provisional white line approximate line Lt) is approximated by a quadratic approximate expression has been described, but the present invention is not limited to this. It is also possible to approximate with the following approximation formulas.

この場合において、例えば、3次の近似式で仮白線近似線Ltを演算する場合には、例えば、低次側係数として0次係数(定数)及び1次係数を過去の白線検出結果に基づいて同定し、高次側係数として2次係数及び3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。或いは、低次側係数として0次係数(定数)のみを過去の白線検出結果に基づいて同定し、高次側係数として1次係数、2次係数、及び、3次係数を白線候補点Pdとのフィッティングによって同定することが可能である。   In this case, for example, when calculating the provisional white line approximate line Lt with a cubic approximation formula, for example, the zeroth order coefficient (constant) and the first order coefficient are used as the low order side coefficients based on the past white line detection results. It is possible to identify and identify the secondary coefficient and the cubic coefficient as higher-order coefficients by fitting with the white line candidate point Pd. Alternatively, only the 0th order coefficient (constant) is identified as the lower order coefficient based on the past white line detection result, and the first order coefficient, the second order coefficient, and the third order coefficient are used as the white line candidate point Pd as the higher order coefficient. It is possible to identify by fitting.

1 … 車両(自車両)
2 … 運転支援装置
3 … ステレオカメラ
4 … ステレオ画像認識装置(候補点検出手段、低次側係数同定手段、高次側係数同定手段、候補点選定手段、白線近似線演算手段)
5 … 制御ユニット
11 … 車速センサ
12 … ヨーレートセンサ
13 … メインスイッチ
14 … 舵角センサ
15 … アクセル開度センサ
16 … スロットル弁
17 … アクティブブースタ
1 ... Vehicle (own vehicle)
2 ... Driving support device 3 ... Stereo camera 4 ... Stereo image recognition device (candidate point detection means, low order side coefficient identification means, high order side coefficient identification means, candidate point selection means, white line approximate line calculation means)
DESCRIPTION OF SYMBOLS 5 ... Control unit 11 ... Vehicle speed sensor 12 ... Yaw rate sensor 13 ... Main switch 14 ... Steering angle sensor 15 ... Accelerator opening sensor 16 ... Throttle valve 17 ... Active booster

Claims (3)

自車走行路を撮像した画像上に設定した白線検出領域内で水平方向に延在する検索ライン毎に車幅方向の輝度変化を調べ、輝度が暗から明に所定以上変化するエッジ点を白線候補点として検出する候補点検出手段と、
過去の白線検出結果に基づき、実空間上での白線の概略形状を近似する高次の近似式からなる仮白線近似線について零次の係数を含む低次側係数を同定する低次側係数同定手段と、
前記仮白線近似線について前記低次側係数同定手段で同定されていない複数の高次側係数の組合せに関し、実空間上に投影された前記白線候補点毎に当該白線候補点の座標と前記零次の係数によって定まる座標とを通る曲線を規定する前記高次側係数の組合せを複数パターン演算し、最も多く演算された前記高次側係数の組合せを、前記仮白線近似線の高次側係数として同定する高次側係数同定手段と、
前記各係数が同定された前記仮白線近似線を基準とする候補点選定領域を設定し、前記白線検出領域内で検出された前記白線候補点の中から前記候補点選定領域内に存在する前記白線候補点を選定する候補点選定手段と、
前記候補点選定領域内で選定した前記白線候補点を用いて白線近似線を演算する白線近似線演算手段と、を備えたことを特徴とする車両用白線認識装置。
The brightness change in the vehicle width direction is examined for each search line that extends in the horizontal direction within the white line detection area set on the image of the vehicle's travel path, and the edge point where the brightness changes from dark to bright over a predetermined level is indicated by a white line. Candidate point detection means for detecting as candidate points;
Low-order coefficient identification that identifies low-order coefficients including zero-order coefficients for temporary white-line approximate lines that consist of high-order approximations that approximate the approximate shape of white lines in real space based on past white line detection results Means,
Regarding the combination of a plurality of higher-order coefficients that are not identified by the lower-order coefficient identifying means for the provisional white line approximate line, for each of the white line candidate points projected on real space, the coordinate of the white line candidate point and the zero A plurality of higher-order coefficient combinations that define a curve passing through a coordinate determined by the next coefficient are calculated, and the highest-order coefficient combination calculated most frequently is used as the higher-order coefficient of the provisional white line approximation line. Higher-order coefficient identification means for identifying as:
A candidate point selection area based on the provisional white line approximate line in which each coefficient is identified is set, and the white line candidate points detected in the white line detection area are present in the candidate point selection area. Candidate point selection means for selecting white line candidate points;
A white line recognition device for a vehicle, comprising: white line approximate line calculation means for calculating a white line approximate line using the white line candidate point selected in the candidate point selection region.
前記低次側係数同定手段は、前フレームで演算した白線近似線と、1フレームあたり自車の移動量とに基づいて前記低次側係数を同定することを特徴とする請求項1記載の車両用白線認識装置。 2. The vehicle according to claim 1, wherein the low-order coefficient identifying unit identifies the low-order coefficient based on a white line approximation line calculated in a previous frame and a movement amount of the vehicle per frame. White line recognition device. 前記白線近似線演算手段は、選定した前記白線候補点の点群に基づき、最小二乗法を用いて前記白線近似線を演算することを特徴とする請求項1または請求項2に記載の車両用白線認識装置。   3. The vehicle according to claim 1, wherein the white line approximate line calculating unit calculates the white line approximate line using a least square method based on the selected point group of the white line candidate points. White line recognition device.
JP2011026336A 2011-02-09 2011-02-09 Vehicle white line recognition device Active JP5568029B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011026336A JP5568029B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011026336A JP5568029B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Publications (2)

Publication Number Publication Date
JP2012164287A JP2012164287A (en) 2012-08-30
JP5568029B2 true JP5568029B2 (en) 2014-08-06

Family

ID=46843589

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011026336A Active JP5568029B2 (en) 2011-02-09 2011-02-09 Vehicle white line recognition device

Country Status (1)

Country Link
JP (1) JP5568029B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108885831A (en) * 2016-03-24 2018-11-23 日产自动车株式会社 Traveling road detection method and traveling road detection device

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021199104A1 (en) * 2020-03-30 2021-10-07 三菱電機株式会社 Object detection system and object detection method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06124398A (en) * 1992-10-12 1994-05-06 Nissan Motor Co Ltd Road shape recognizing device
JP3288566B2 (en) * 1994-11-10 2002-06-04 株式会社豊田中央研究所 Travel lane recognition device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108885831A (en) * 2016-03-24 2018-11-23 日产自动车株式会社 Traveling road detection method and traveling road detection device

Also Published As

Publication number Publication date
JP2012164287A (en) 2012-08-30

Similar Documents

Publication Publication Date Title
JP5603687B2 (en) Vehicle white line recognition device
JP5363921B2 (en) Vehicle white line recognition device
JP5363920B2 (en) Vehicle white line recognition device
US9708004B2 (en) Method for assisting a driver in driving an ego vehicle and corresponding driver assistance system
JP6805965B2 (en) Collision avoidance control device
US7542835B2 (en) Vehicle image processing device
US10246038B2 (en) Object recognition device and vehicle control system
JP5145585B2 (en) Target detection device
US11565698B2 (en) Obstacle detection apparatus, automatic braking apparatus using obstacle detection apparatus, obstacle detection method, and automatic braking method using obstacle detection method
US11119210B2 (en) Vehicle control device and vehicle control method
JP4937844B2 (en) Pedestrian detection device
JP2018036796A (en) Environment information processing device
JP2022523769A (en) Control units and methods for recognizing vehicles that are interrupting or exiting
JP2022060074A (en) Driving support device for vehicle
JP5538098B2 (en) Vehicle white line recognition device
JP7007856B2 (en) White line recognition device for vehicles
JP6322024B2 (en) Outside monitoring device
JP5444130B2 (en) Vehicle white line recognition device
JP7071154B2 (en) Road boundary detector
JP5568029B2 (en) Vehicle white line recognition device
JP6200780B2 (en) Lane recognition determination device
JP6259239B2 (en) Vehicle white line recognition device
JP5452518B2 (en) Vehicle white line recognition device
JP6879881B2 (en) White line recognition device for vehicles
JP6259238B2 (en) Vehicle white line recognition device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130327

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140527

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140620

R150 Certificate of patent or registration of utility model

Ref document number: 5568029

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250