JP2005190375A - White line detector - Google Patents

White line detector Download PDF

Info

Publication number
JP2005190375A
JP2005190375A JP2003433702A JP2003433702A JP2005190375A JP 2005190375 A JP2005190375 A JP 2005190375A JP 2003433702 A JP2003433702 A JP 2003433702A JP 2003433702 A JP2003433702 A JP 2003433702A JP 2005190375 A JP2005190375 A JP 2005190375A
Authority
JP
Japan
Prior art keywords
white line
lane
line data
mode
detection device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003433702A
Other languages
Japanese (ja)
Other versions
JP4075800B2 (en
Inventor
Makoto Nishida
誠 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2003433702A priority Critical patent/JP4075800B2/en
Publication of JP2005190375A publication Critical patent/JP2005190375A/en
Application granted granted Critical
Publication of JP4075800B2 publication Critical patent/JP4075800B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a white line detector which provides white line data corresponding to control characteristics which a plurality of traveling support systems request, respectively. <P>SOLUTION: A white line detector 1 is provided with; a camera 10 for picking up an image around a vehicle; a white line extraction part 12 for processing image data picked up by the camera 10 to extract the candidate point of a white line position on a road; a white line data calculation part 13 for obtaining white line data like a lane width on the basis of the extracted candidate point; and a mode discrimination part 14 for discriminating which of a lane deviation alarm mode and a lane maintenance support mode is selected. When the lane deviation alarm mode is selected, the white line data calculation part 13 reduces the time constant of a filter for obtaining white line data and increases an erroneous detection guard value, in comparison with the lane maintenance support mode. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、白線検出装置に関する。   The present invention relates to a white line detection device.

運転者の運転負荷を軽減するための走行支援システムとして、車線のほぼ中央を走行するために必要な補助操舵トルクを付加する車線維持支援システムや運転者の運転状況からその後の車両位置を予測し、車線から逸脱するおそれがあると判断された場合に警告を発して運転者に警告を促す車線逸脱警報システムが開発されている。   As a driving support system to reduce the driver's driving load, the lane maintenance support system that adds the auxiliary steering torque necessary to drive almost in the center of the lane and the subsequent vehicle position are predicted from the driving situation of the driver. A lane departure warning system has been developed that warns the driver by issuing a warning when it is determined that the vehicle may deviate from the lane.

このような走行支援システムにおいては、自車両の走行すべき車線を認識する必要がある。そのための技術として、カメラで撮像した車両前方画像を画像処理することによって車線を区画する境界線(白線)を検出する装置が知られている(例えば、特許文献1参照)。   In such a driving support system, it is necessary to recognize the lane in which the host vehicle is to travel. As a technique for this, an apparatus that detects a boundary line (white line) that divides a lane by performing image processing on a vehicle front image captured by a camera is known (see, for example, Patent Document 1).

特許文献1に記載の走行路検出装置は、ビデオカメラにより撮影された道路画像から輝度変化の大きいエッジを検出して二値化されたエッジ画像を取得し、直線路やカーブ路等の白線形状に合わせて設定されたサーチ範囲内で白線と判断されるエッジを探索することにより白線を検出するものである。
特開平9−35198号公報(第4−6頁、第1図)
The traveling road detection device described in Patent Document 1 detects a edge having a large luminance change from a road image photographed by a video camera, acquires a binarized edge image, and forms a white line shape such as a straight road or a curved road. The white line is detected by searching for an edge that is determined to be a white line within the search range set in accordance with.
JP-A-9-35198 (page 4-6, FIG. 1)

車両の運動が運転者の操舵に委ねられる車線逸脱警報システムでは、道路形状や車両挙動の変化に対して高い追従性が要求される。一方、車線のほぼ中央を走行するように制御される車線維持支援システムでは、車線逸脱警報システムよりも穏やかな追従性が要求される。このように、車線逸脱警報システムと車線維持支援システムとでは要求される追従性等の制御特性が異なる。   In a lane departure warning system in which the movement of the vehicle is left to the driver's steering, high followability is required for changes in road shape and vehicle behavior. On the other hand, a lane keeping support system that is controlled to travel substantially in the center of the lane requires a gentler follow-up than the lane departure warning system. As described above, required control characteristics such as followability differ between the lane departure warning system and the lane keeping support system.

しかしながら、上記走行路検出装置では、複数の走行支援システムそれぞれにおいて要求される制御特性に応じて、白線候補点から各走行支援システムで用いられる白線データを求めることは考慮されていない。そのため、要求される追従性が異なる複数のシステムにおいて、同一の白線検出ロジックで求められた同一の白線データに基づいて制御が実行された場合、高い追従性の要求される車線逸脱警報システムでは警報に遅れが生じ、一方、車線維持支援システムではロバスト性が低下して誤作動が生じる恐れがある。   However, the above-described travel path detection device does not consider obtaining white line data used in each travel support system from white line candidate points according to control characteristics required in each of the plurality of travel support systems. Therefore, when control is executed based on the same white line data obtained by the same white line detection logic in a plurality of systems that require different follow-up characteristics, a warning is issued in a lane departure warning system that requires high follow-up characteristics. On the other hand, in the lane keeping support system, there is a possibility that the robustness is lowered and malfunction occurs.

本発明は、上記問題点を解消する為になされたものであり、複数の走行支援システムそれぞれが要求する制御特性に応じた白線データを提供することができる白線検出装置を提供することを目的とする。   The present invention has been made to solve the above problems, and an object of the present invention is to provide a white line detection device capable of providing white line data according to control characteristics required by each of a plurality of driving support systems. To do.

本発明に係る白線検出装置は、択一的に選択される複数の走行支援制御モードを有する車両における白線検出装置において、車両周囲の画像を撮像する撮像手段と、撮像手段により撮像された画像データを画像処理することにより、道路上の白線位置の候補点を抽出する白線抽出手段と、抽出された候補点に基づいて、白線データを求める白線データ算出手段と、複数の走行支援制御モードの中から選択されている走行支援制御モードを判別する判別手段とを備え、白線データ算出手段が、判別手段により判別された走行支援制御モードに応じて、白線データを求めるための演算定数及び検出対象のうちの少なくとも一方を変更することを特徴とする。   According to the present invention, there is provided a white line detection device including: an imaging unit that captures an image around a vehicle; and image data captured by the imaging unit in a white line detection device in a vehicle having a plurality of driving support control modes that are alternatively selected. White line extraction means for extracting candidate points for white line positions on the road, white line data calculation means for obtaining white line data based on the extracted candidate points, and a plurality of driving support control modes. And a white line data calculating means for calculating the white line data according to the driving support control mode determined by the determining means and the detection target. It is characterized by changing at least one of them.

本発明に係る白線検出装置によれば、選択されている走行支援制御モードに応じて白線データを求めるための演算定数及び検出対象のうちの少なくとも一方が変更される。そのため、抽出された白線候補点から、選択された走行支援制御モードの制御特性に応じて白線データを求めることができる。   According to the white line detection device of the present invention, at least one of a calculation constant for obtaining white line data and a detection target is changed according to the selected driving support control mode. Therefore, white line data can be obtained from the extracted white line candidate points according to the control characteristics of the selected driving support control mode.

上記複数の走行支援制御モードには、自車両が白線により区画される車線から逸脱するおそれがあるときに警報を発し、運転者に警告を促す車線逸脱警報モードと、自車両が車線内を走行するように支援する車線維持支援モードとが含まれることが好ましい。   The driving support control modes described above include a lane departure warning mode that issues a warning when the vehicle may deviate from the lane marked by the white line, and alerts the driver, and the vehicle travels in the lane. It is preferable that a lane keeping support mode for supporting the vehicle to be included is included.

この場合、車線逸脱警報モード及び車線維持支援モードそれそれが要求する制御特性に応じて、各モードにおいて用いられる白線データが求められる。   In this case, white line data used in each mode is determined in accordance with the lane departure warning mode and the lane keeping support mode and the control characteristics required by the mode.

本発明に係る白線検出装置では、白線データ算出手段が、車線維持支援モードが選択されている場合に、車線逸脱警報モードが選択されている場合と比較して、候補点のうち、より自車両側の候補点を検出対象として認識して白線データを求めることが好ましい。   In the white line detection device according to the present invention, when the lane keeping support mode is selected, the white line data calculating unit is more likely to be the own vehicle among the candidate points, compared to the case where the lane departure warning mode is selected. It is preferable to obtain white line data by recognizing the candidate point on the side as a detection target.

車線維持支援モードでは、車線逸脱警報モードと異なり、複合線を構成する各白線を区別して検出する必要はなく、車線の中央を検出することができればよい。車線維持支援モードが選択されている場合には、抽出された白線の候補点のうち、より自車両側の候補点、即ち複合線の自車両側を検出対象として認識することによって、車線の中央を検出することができる。   In the lane keeping support mode, unlike the lane departure warning mode, it is not necessary to distinguish and detect each white line constituting the composite line, as long as the center of the lane can be detected. When the lane keeping support mode is selected, the center point of the lane is determined by recognizing the candidate point on the own vehicle side among the extracted white line candidate points, that is, the own vehicle side of the composite line as the detection target. Can be detected.

本発明に係る白線検出装置では、車線逸脱警報モードが選択されている場合に、車線維持支援モードが選択されている場合よりも、白線データが大きく変動することが認容されるように、白線データ算出手段が演算定数を設定することが好ましい。   In the white line detection device according to the present invention, when the lane departure warning mode is selected, the white line data is allowed to fluctuate more greatly than when the lane keeping support mode is selected. It is preferable that the calculation means sets an operation constant.

このようにすれば、車線逸脱警報モードが選択されている場合に、道路形状や車両挙動の変化に対して追従性を向上させることができる。   In this way, when the lane departure warning mode is selected, it is possible to improve followability with respect to changes in road shape and vehicle behavior.

また、本発明に係る白線検出装置では、車線逸脱警報モードが選択されている場合に、白線データ算出手段が、誤警報を抑制することができるように演算定数を設定する構成としてもよい。   In the white line detection device according to the present invention, when the lane departure warning mode is selected, the white line data calculating unit may set the calculation constant so that the false alarm can be suppressed.

本発明に係る白線検出装置では、演算定数が、白線データの変動を抑制するフィルタの時定数及び白線データの取り得る範囲を設定する誤検出ガード値であり、白線データ算出手段が、車線逸脱警報モードが選択されている場合に、車線維持支援モードが選択されている場合よりも、フィルタの時定数を小さくすると共に、誤検出ガード値を大きくすることが好ましい。   In the white line detection device according to the present invention, the calculation constant is a time constant of a filter that suppresses fluctuation of the white line data and a false detection guard value that sets a range that the white line data can take, and the white line data calculation means includes a lane departure warning. When the mode is selected, it is preferable to reduce the time constant of the filter and increase the false detection guard value than when the lane keeping assist mode is selected.

車線逸脱警報モードが選択されている場合には、フィルタの時定数が小さくされると共に誤検出ガード値が大きくされることにより、道路形状や車両挙動の変化に対して追従性が向上される。   When the lane departure warning mode is selected, the time constant of the filter is reduced and the false detection guard value is increased, thereby improving the followability to changes in road shape and vehicle behavior.

本発明によれば、選択されている走行支援制御モードに応じて白線データを求めるための演算定数及び検出対象のうちの少なくとも一方が変更される構成としたので、複数の走行支援システムそれぞれが要求する制御特性に応じた白線データを提供することが可能になる。   According to the present invention, since at least one of the calculation constant for obtaining the white line data and the detection target is changed according to the selected driving support control mode, each of the plurality of driving support systems requires It is possible to provide white line data corresponding to the control characteristics to be performed.

以下、図面を参照して本発明の好適な実施形態について詳細に説明する。図中、同一又は相当部分には同一符号を用いることとする。   DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings. In the figure, the same reference numerals are used for the same or corresponding parts.

まず、図1を用いて、実施形態に係る白線検出装置1の全体構成について説明する。図1は、白線検出装置1を用いた走行支援システム2の全体構成を示す図である。本実施形態に係る白線検出装置1は、車線を区画する白線の候補点を抽出し、この候補点に基づいて走行支援システム2で用いられる白線データを出力するものである。走行支援システム2は、白線検出装置1から入力された白線データに基づいて、自車両が走行車線から逸脱するおそれがあると判断されたときに警報を発し、運転者に警告を促す車線逸脱警報機能と、自車両が走行車線内を走行するように支援する車線維持支援機能とを有し、運転者の運転負荷を軽減するものである。詳細は後述する。   First, the overall configuration of the white line detection device 1 according to the embodiment will be described with reference to FIG. FIG. 1 is a diagram showing an overall configuration of a driving support system 2 using a white line detection device 1. The white line detection device 1 according to the present embodiment extracts white line candidate points that divide a lane, and outputs white line data used in the driving support system 2 based on the candidate points. The driving support system 2 issues a warning when it is determined that the host vehicle may deviate from the driving lane based on the white line data input from the white line detection device 1, and a lane departure warning that prompts the driver to warn It has a function and a lane maintenance support function that supports the host vehicle to travel in the travel lane, and reduces the driving load on the driver. Details will be described later.

なお、本明細書では、道路上において、各車線の区切りを示すために描画されている白色や黄色などの線(点線等も含む)を全て「白線」と称するものとする。   In the present specification, all white lines and yellow lines (including dotted lines) drawn on the road in order to show the separation of each lane are referred to as “white lines”.

白線検出装置1は、車両前方の風景を撮像して画像データを取得するカメラ(撮像手段)10と、該画像データに対して画像処理を施すことにより車線を区画する白線の候補点を抽出すると共に、抽出された候補点に基づいて走行支援システム2で用いられる白線データを求める白線検出ECU11とを備えている。   The white line detection device 1 extracts a white line candidate point that divides a lane by performing image processing on a camera (imaging unit) 10 that captures an image of a landscape in front of the vehicle and acquires image data. In addition, a white line detection ECU 11 that obtains white line data used in the driving support system 2 based on the extracted candidate points is provided.

カメラ10は、自車両のフロントウィンドウ上部(例えば、バックミラーの裏側)に配置されており、車両前方の画像、つまり、車両前方の走行車線の画像を取得するものである。カメラ10により取得された画像データは、白線検出ECU11に出力される。なお、カメラ10は、前方画像が取り込める場所であれば、車体のどの位置に設けてもよい。   The camera 10 is disposed on the upper part of the front window of the host vehicle (for example, the back side of the rearview mirror), and acquires an image in front of the vehicle, that is, an image of a traveling lane in front of the vehicle. The image data acquired by the camera 10 is output to the white line detection ECU 11. The camera 10 may be provided at any position on the vehicle body as long as the front image can be captured.

白線検出ECU11は、演算を行うマイクロプロセッサ、マイクロプロセッサに各処理を実行させるためのプログラム等を記憶するROM、演算結果などの各種データを記憶するRAM及び12Vバッテリによってその記憶内容が保持されるバックアップRAM等により構成されている。   The white line detection ECU 11 includes a microprocessor that performs calculations, a ROM that stores a program for causing the microprocessor to execute each process, a RAM that stores various data such as calculation results, and a backup in which the stored contents are held by a 12V battery. It is comprised by RAM etc.

白線検出ECU11は、カメラ10により取得された画像データから道路上の白線位置の候補点を抽出する白線抽出部12と、白線抽出部12により抽出された白線候補点に基づいて走行支援システム2で用いられる白線データを求める白線データ算出部13と、後述するモード切替えスイッチ21の操作状態に応じて、選択されている制御モードを判別するモード判別部14とを備えている。白線抽出部12は白線抽出手段として機能し、白線データ算出部13は白線データ算出手段として機能し、モード判別部14は判別手段として機能する。   The white line detection ECU 11 is a white line extraction unit 12 that extracts candidate points of the white line position on the road from the image data acquired by the camera 10, and the driving support system 2 based on the white line candidate points extracted by the white line extraction unit 12. A white line data calculation unit 13 for obtaining white line data to be used, and a mode determination unit 14 for determining a selected control mode according to an operation state of a mode changeover switch 21 described later. The white line extraction unit 12 functions as a white line extraction unit, the white line data calculation unit 13 functions as a white line data calculation unit, and the mode determination unit 14 functions as a determination unit.

なお、白線データ算出部13で求められる白線データとしては、図3に示されるように、車両60の車線中央からの横変位X、横速度dX/dt、車線70の車線幅W、車両60の車線70に対するヨー角度θ、車線70のカーブ曲率R及びカメラ10の光軸に対するピッチ角ψ等が挙げられる。   As shown in FIG. 3, the white line data obtained by the white line data calculation unit 13 includes the lateral displacement X from the center of the lane of the vehicle 60, the lateral speed dX / dt, the lane width W of the lane 70, the lane width W of the vehicle 60, and the like. The yaw angle θ with respect to the lane 70, the curve curvature R of the lane 70, the pitch angle ψ with respect to the optical axis of the camera 10, and the like.

白線検出ECU11は、後述する走行支援ECU20と通信回線15で接続されており、相互にデータの交換が可能となるように構成されている。白線検出ECU11で求められた白線データは、通信回線15を介して走行支援ECU20に読み込まれる。   The white line detection ECU 11 is connected to a travel support ECU 20 (to be described later) via a communication line 15, and is configured to be able to exchange data with each other. The white line data obtained by the white line detection ECU 11 is read into the travel support ECU 20 via the communication line 15.

一方、走行支援ECU20には、走行支援ECU20の主電源をオン・オフするメインスイッチ22及び制御モードを切替えるためのモード切替えスイッチ21が接続されている。走行支援ECU20に入力されたモード切替えスイッチ21の操作状態及びメインスイッチ22の開閉状態は、通信回線15を介して白線検出ECU11に読み込まれる。   On the other hand, the driving support ECU 20 is connected to a main switch 22 for turning on and off the main power of the driving support ECU 20 and a mode switch 21 for switching the control mode. The operating state of the mode changeover switch 21 and the open / closed state of the main switch 22 input to the travel support ECU 20 are read into the white line detection ECU 11 via the communication line 15.

走行支援システム2は、走行支援ECU20、ステアリングに付与されるアシスト力を制御する電動パワーステアリングECU(以下「EMPS ECU」という)30、エンジンを統合的に制御するエンジンECU(以下「EFI ECU」という)40及びメータパネルの表示等を制御するメータECU50を備えて構成されている。   The travel support system 2 includes a travel support ECU 20, an electric power steering ECU (hereinafter referred to as “EMPS ECU”) 30 that controls the assist force applied to the steering, and an engine ECU (hereinafter referred to as “EFI ECU”) that integrally controls the engine. ) 40 and a meter ECU 50 for controlling the display of the meter panel and the like.

走行支援ECU20、EMPS ECU30、EFI ECU40及びメータECU50は通信回線25を介して相互に接続されている。そして、通信回線25を介して走行支援ECU20、EMPS ECU30、EFI ECU40及びメータECU50相互間でデータの交換を行うことが可能とされている。   The travel support ECU 20, the EMPS ECU 30, the EFI ECU 40, and the meter ECU 50 are connected to each other via a communication line 25. Data can be exchanged among the travel support ECU 20, the EMPS ECU 30, the EFI ECU 40, and the meter ECU 50 via the communication line 25.

走行支援ECU20は、演算を行うマイクロプロセッサ、マイクロプロセッサに各処理を実行させるためのプログラム等を記憶するROM及び演算結果などの各種データを記憶するRAM等により構成されている。   The driving support ECU 20 includes a microprocessor that performs calculations, a ROM that stores programs for causing the microprocessor to execute each process, and a RAM that stores various data such as calculation results.

走行支援ECU20は、白線検出ECU11から通信回線15を介して入力された白線データ及び運転者の運転状況からその後の車両位置を予測し、自車両が走行車線から逸脱するおそれがあると判断された場合に警報信号をメータECU50に出力する車線逸脱警報制御を実行する車線逸脱警報制御部23を備えている。車線逸脱警報制御部23は、車線逸脱判断時に所定の時間小操舵力を逸脱回避側に加える制御も併せて実行する。   The driving assistance ECU 20 predicts the subsequent vehicle position from the white line data input from the white line detection ECU 11 via the communication line 15 and the driving situation of the driver, and it is determined that the host vehicle may deviate from the driving lane. In this case, a lane departure warning control unit 23 that executes lane departure warning control for outputting a warning signal to the meter ECU 50 is provided. The lane departure warning control unit 23 also executes control to apply a small steering force to the departure avoidance side for a predetermined time when determining lane departure.

また、走行支援ECU20は、白線検出ECU11から入力された白線データに基づいて算出された前方推定自車位置、操舵角センサ42で検出されEFI ECU及び通信回線25を介して読み込まれた操舵角、車速センサ41で検出されEFI ECU及び通信回線25を介して読み込まれた車両速度より、自車両が車線のほぼ中央を走行するための操舵力をアシストするためのトルク(電流)値を算出してEMPS ECU30に出力する車線維持支援制御を実行する車線維持支援制御部24を備える。   Further, the driving support ECU 20 includes a front estimated vehicle position calculated based on the white line data input from the white line detection ECU 11, a steering angle detected by the steering angle sensor 42 and read via the EFI ECU and the communication line 25, Based on the vehicle speed detected by the vehicle speed sensor 41 and read through the EFI ECU and the communication line 25, a torque (current) value for assisting the steering force for the host vehicle to travel substantially in the center of the lane is calculated. A lane keeping support control unit 24 that executes lane keeping support control that is output to the EMPS ECU 30 is provided.

走行支援ECU20には、制御モードを切替えるモード切替えスイッチ21が接続されている。そして、走行支援ECU20は、モード切替えスイッチ21の操作状態に応じて、車線逸脱警報制御と車線維持支援制御とを切替えて実行する。   A mode changeover switch 21 for switching the control mode is connected to the travel support ECU 20. Then, the driving assistance ECU 20 performs switching between lane departure warning control and lane keeping assistance control according to the operation state of the mode changeover switch 21.

メータECU50には、警告音を発するブザー51及び警告時に点滅する警告ランプ52が接続されている。メータECU50は、通信回線25を介して走行支援ECU20から入力された警報信号に基づいて、ブザー51から警告音を発すると共に、警告ランプ52を点滅させる。なお、警報は、ブザー51及び警告ランプ52のいずれか一方のみにより行うこととしてもよい。   The meter ECU 50 is connected to a buzzer 51 that emits a warning sound and a warning lamp 52 that blinks at the time of warning. The meter ECU 50 emits a warning sound from the buzzer 51 and blinks the warning lamp 52 based on an alarm signal input from the travel support ECU 20 via the communication line 25. Note that the alarm may be performed by only one of the buzzer 51 and the warning lamp 52.

EMPS ECU30には、ステアリングに対してアシスト力を付与するステアリングアクチュエータ31が接続されている。EMPS ECUは、通信回線25を介して走行支援ECU20から入力されたトルク(電流)値に応じて、ステアリングアクチュエータ31を駆動する。なお、ステアリングアクチュエータ31としては電動モータ等が用いられる。   The EMPS ECU 30 is connected to a steering actuator 31 that applies assist force to the steering. The EMPS ECU drives the steering actuator 31 according to the torque (current) value input from the travel support ECU 20 via the communication line 25. An electric motor or the like is used as the steering actuator 31.

EFI ECU40には、車両速度を検出する車速センサ41及びステアリングの操舵角を検出する操舵角センサ42等が接続されている。EFI ECU40は、車速センサ41で検出された車両速度及び操舵角センサ42で検出された操舵角等を通信回線25を介して走行支援ECU20に出力する。   Connected to the EFI ECU 40 are a vehicle speed sensor 41 for detecting the vehicle speed, a steering angle sensor 42 for detecting the steering angle of the steering, and the like. The EFI ECU 40 outputs the vehicle speed detected by the vehicle speed sensor 41 and the steering angle detected by the steering angle sensor 42 to the travel support ECU 20 via the communication line 25.

次に、図2を参照して、白線検出装置1の動作について説明する。図2は、白線検出装置1による白線データ算出処理の処理手順を示すフローチャートである。本処理は所定時間毎に繰り返して実行される。なお、以下に説明する処理は、特に記載のない限り、白線検出ECU11によって行われる。   Next, the operation of the white line detection device 1 will be described with reference to FIG. FIG. 2 is a flowchart showing a processing procedure of white line data calculation processing by the white line detection device 1. This process is repeatedly executed every predetermined time. Note that the processing described below is performed by the white line detection ECU 11 unless otherwise specified.

ステップS100では、通信回線25を介して走行支援ECU20から、制御許可フラグ及び選択されている制御モードの読み込みが行われる。   In step S100, the control permission flag and the selected control mode are read from the travel support ECU 20 via the communication line 25.

次に、ステップS102では、カメラ10で撮像された画像データが読み込まれる。   In step S102, image data captured by the camera 10 is read.

続くステップS104では、ステップS100で読み込まれた制御許可フラグがセットされているか否かについての判断が行われる。ここで、制御許可フラグは、メインスイッチ22がオン状態であり且つ車両速度が所定値以上である等、車線逸脱警報制御又は車線維持支援制御を実行できる条件がすべて満足された場合にセットされる。   In the subsequent step S104, it is determined whether or not the control permission flag read in step S100 is set. Here, the control permission flag is set when all the conditions for executing the lane departure warning control or the lane keeping support control are satisfied, such as the main switch 22 being in the ON state and the vehicle speed being equal to or higher than a predetermined value. .

ここで、制御許可フラグがセットされていない場合には、車線逸脱警報制御又は車線維持支援制御を実行できる条件が満足されていないので、一旦本フローチャートから抜ける。一方、制御許可フラグがセットされている場合、即ち車線逸脱警報制御又は車線維持支援制御を実行することが可能な場合には、ステップS106に処理が移行する。   Here, when the control permission flag is not set, the conditions for executing the lane departure warning control or the lane keeping support control are not satisfied, and the process is temporarily exited. On the other hand, when the control permission flag is set, that is, when it is possible to execute the lane departure warning control or the lane keeping support control, the process proceeds to step S106.

ステップS106では、選択されている制御モードが車線逸脱警報モードであるか否かについての判断が行われる。ここで、車線逸脱警報モードが選択されていると判別された場合にはステップS110に処理が移行する。一方、車線逸脱警報モードが選択されていないと判別される場合、即ち車線維持支援モードが選択されている場合にはステップS108に処理が移行する。   In step S106, it is determined whether or not the selected control mode is a lane departure warning mode. If it is determined that the lane departure warning mode is selected, the process proceeds to step S110. On the other hand, if it is determined that the lane departure warning mode is not selected, that is, if the lane keeping support mode is selected, the process proceeds to step S108.

ステップS108では、白線候補点を抽出する抽出対象(検出対象)、ノイズやデータのばらつきを抑制しつつ白線候補点から白線データを算出するカルマンフィルタの定数(フィルタの時定数)及びカルマンフィルタから出力された白線データの取り得る範囲を設定する誤検出ガード値が設定される。ここで、白線が、区画線、視線誘導線及び合流線等により構成される複合線である場合、複合線のうちの自車両側の白線が抽出対象とされる。フィルタの時定数は、車線逸脱警報モードが選択されている場合に比べて大きい値(例えば1秒)が設定される。また、誤検出ガード値は、妥当でない白線データの算出を防止するために、車線逸脱警報モードが選択されている場合に比べて小さい値(例えば、横速度では0.5m/s)が設定される。その後、処理がステップS112に移行する。   In step S108, an extraction target (detection target) for extracting white line candidate points, a Kalman filter constant (filter time constant) for calculating white line data from white line candidate points while suppressing noise and data variation, and the Kalman filter are output. A false detection guard value for setting a range that white line data can take is set. Here, when the white line is a composite line composed of a division line, a line-of-sight guide line, a merge line, and the like, the white line on the own vehicle side of the composite line is an extraction target. The filter time constant is set to a larger value (for example, 1 second) than when the lane departure warning mode is selected. In addition, the false detection guard value is set to a smaller value (for example, 0.5 m / s at the lateral speed) than when the lane departure warning mode is selected in order to prevent calculation of invalid white line data. The Thereafter, the process proceeds to step S112.

ステップS110では、白線候補点を抽出する抽出対象、白線候補点から白線データを算出するカルマンフィルタの定数及びカルマンフィルタから出力された白線データの取り得る範囲を設定する誤検出ガード値が設定される。ここで、白線が、区画線、視線誘導線及び合流線等により構成される複合線である場合、複合線のうちの中央に位置する白線が抽出対象とされる。フィルタ時定数は、道路形状や車両挙動の変化に対して追従性を向上させるために、車線維持支援モードが選択されている場合に比べて小さい値(例えば0.5秒)が設定される。また、誤検出ガード値は、車線逸脱警報モードが選択されている場合に比べて大きい値(例えば、横速度では1.0m/s)が設定される。なお、誤警報を防止することができるように、より大きな値のフィルタ時定数を設定し、且つより小さな値の誤検出ガード値を設定してもよい。   In step S110, an extraction target for extracting white line candidate points, a Kalman filter constant for calculating white line data from the white line candidate points, and a false detection guard value for setting a possible range of the white line data output from the Kalman filter are set. Here, when the white line is a composite line composed of a division line, a line-of-sight guide line, a merge line, and the like, the white line located at the center of the composite line is an extraction target. The filter time constant is set to a smaller value (for example, 0.5 seconds) than when the lane keeping support mode is selected in order to improve followability with respect to changes in road shape and vehicle behavior. Further, the false detection guard value is set to a larger value (for example, 1.0 m / s at the lateral speed) than when the lane departure warning mode is selected. In order to prevent false alarms, a larger filter time constant may be set, and a smaller false detection guard value may be set.

ステップS112では、ステップS102で読み込まれたが画像データをエッジ抽出処理することによって画像内の白線候補点を抽出する。例えば、画像内の平均輝度をしきい値とし、左側の画素の輝度がしきい値未満で右側の画素の輝度がしきい値以上の画素をエッジとして抽出する。これにより、白線の左側境界線に対応する位置の画素位置が抽出される。エッジ抽出はこれに限られるものではなく、例えば、左側の画素との輝度の差がしきい値以上となる画素をエッジとして抽出してもよい。これらは暗から明に変化するエッジを抽出することで白線の左側境界線に対応する位置の画素位置を抽出するものであったが、逆に明から暗に変化するエッジを抽出することで白線の右側境界線に対応する位置の画素位置を抽出してもよい。   In step S112, white line candidate points in the image are extracted by performing edge extraction processing on the image data read in step S102. For example, the average luminance in the image is used as a threshold value, and the pixels whose left pixel luminance is lower than the threshold value and whose right pixel luminance is equal to or higher than the threshold value are extracted as edges. As a result, the pixel position corresponding to the left boundary line of the white line is extracted. The edge extraction is not limited to this. For example, a pixel whose luminance difference with the left pixel is equal to or greater than a threshold value may be extracted as an edge. In these, the pixel position at the position corresponding to the left boundary line of the white line is extracted by extracting the edge that changes from dark to light, but the white line is extracted by extracting the edge that changes from light to dark. Alternatively, the pixel position at the position corresponding to the right boundary line may be extracted.

次に、ステップS114では、ステップS108又はステップS110で設定された検出対象、フィルタ時定数及び誤検出ガード値に基づいて、ステップS112で抽出された白線候補点から自車両の車線中央からの横変位X、横速度dX/dt、車線幅W、自車両の車線に対するヨー角度θ、カーブ曲率R及びカメラの光軸に対するピッチ角ψ等の白線データが求められる。   Next, in step S114, the lateral displacement from the center of the lane of the vehicle from the white line candidate point extracted in step S112 based on the detection target, the filter time constant and the false detection guard value set in step S108 or step S110. White line data such as X, lateral velocity dX / dt, lane width W, yaw angle θ with respect to the lane of the host vehicle, curve curvature R, and pitch angle ψ with respect to the optical axis of the camera are obtained.

続くステップS116では、ステップS114で求められた、横変位X、横速度dX/dt、車線幅W、ヨー角度θ、カーブ曲率R及びピッチ角ψ等の白線データが、通信回線15を介して走行支援ECU20に出力される。その後、本処理から一旦抜ける。   In subsequent step S116, the white line data such as the lateral displacement X, the lateral speed dX / dt, the lane width W, the yaw angle θ, the curve curvature R, and the pitch angle ψ obtained in step S114 travels via the communication line 15. It is output to the support ECU 20. Thereafter, the process is temporarily exited.

白線検出装置1では、車線逸脱警報制御が選択されている場合、車線維持支援制御が選択されている場合よりも、フィルタの時定数が小さくされると共に、誤検出ガード値が大きくされる。そのため、道路形状や車両挙動の変化に対する追従性を向上することができる。   In the white line detection device 1, when the lane departure warning control is selected, the time constant of the filter is made smaller and the false detection guard value is made larger than when the lane keeping assist control is selected. Therefore, it is possible to improve the followability to changes in road shape and vehicle behavior.

一方、車線維持支援制御が選択されている場合には、車線逸脱警報制御が選択されている場合よりも、フィルタの時定数が大きくされると共に、誤検出ガード値が小さくされる。そのため、妥当でない白線データの算出を防止することができる。   On the other hand, when the lane keeping assist control is selected, the time constant of the filter is increased and the false detection guard value is decreased as compared with the case where the lane departure warning control is selected. Therefore, calculation of invalid white line data can be prevented.

このように、白線検出装置1によれば、車線逸脱警報制御及び車線維持支援制御それそれが要求する制御特性に応じて、各制御において用いられる白線データが求められるので、車線逸脱警報制御及び車線維持支援制御それぞれが要求する制御特性に応じた白線データを提供することが可能になる。   Thus, according to the white line detection device 1, the white line data used in each control is obtained according to the control characteristics required by the lane departure warning control and the lane maintenance support control. It is possible to provide white line data corresponding to the control characteristics required by each maintenance support control.

走行支援ECU20では、通信回線15を介して受信された白線データ等に基づいて、車線逸脱警報制御及び車線維持支援制御が実行される。次に、白線データを利用した車線逸脱警報制御及び車線維持支援制御について説明する。   The driving assistance ECU 20 executes lane departure warning control and lane keeping assistance control based on white line data received via the communication line 15. Next, lane departure warning control and lane keeping support control using white line data will be described.

走行支援ECU20では、モード切替えスイッチ21の操作状態が読み込まれる。走行支援ECU20は、読み込まれたモード切替えスイッチ21の操作状態に応じて、車線逸脱警報制御と車線維持支援制御とを択一的に選択し、実行する。   The driving support ECU 20 reads the operation state of the mode switch 21. The driving assistance ECU 20 selectively selects and executes lane departure warning control and lane keeping assistance control according to the read operation state of the mode changeover switch 21.

車線逸脱警報制御が選択された場合、走行支援ECU20は、白線検出ECU11から入力された白線データ及びEFI ECUから入力された操舵角等の運転状況から所定時間後の車両位置を予測し、自車両が走行車線から逸脱するおそれがあると判断された場合に警報信号をメータECU50に出力する。また、走行支援ECU20は、車線逸脱判断時に逸脱回避側に付与するアシストトルク値を算出してEMPS ECU30に出力する。   When the lane departure warning control is selected, the driving support ECU 20 predicts the vehicle position after a predetermined time from the driving condition such as the white line data input from the white line detection ECU 11 and the steering angle input from the EFI ECU, and the own vehicle Is output to the meter ECU 50 when it is determined that there is a risk of deviating from the travel lane. In addition, the driving assistance ECU 20 calculates an assist torque value to be given to the departure avoidance side at the time of lane departure determination and outputs it to the EMPS ECU 30.

メータECU50は、走行支援ECU20から入力された警報信号に基づいて、ブザー51から警告音を発すると共に、警告ランプ52を点滅させる。また、EMPS ECUは、走行支援ECU20から入力されたアシストトルク値に応じて、ステアリングアクチュエータ31を駆動する。このようにして、運転者に対して警告が促される。   The meter ECU 50 emits a warning sound from the buzzer 51 and blinks the warning lamp 52 based on the warning signal input from the driving support ECU 20. Further, the EMPS ECU drives the steering actuator 31 according to the assist torque value input from the travel support ECU 20. In this way, the driver is warned.

一方、車線維持支援制御が選択された場合、走行支援ECU20は、白線検出ECU11から入力された白線データに基づいて算出された前方推定自車位置、EFI ECU40から読み込まれた操舵角及び車両速度に基づいて、自車両が車線のほぼ中央を走行するための操舵力をアシストするためのトルク値を算出してEMPS ECU30に出力する。   On the other hand, when the lane keeping assist control is selected, the travel assist ECU 20 determines the estimated vehicle position calculated based on the white line data input from the white line detection ECU 11, the steering angle and the vehicle speed read from the EFI ECU 40. Based on this, a torque value for assisting the steering force for the host vehicle to travel substantially in the center of the lane is calculated and output to the EMPS ECU 30.

そして、EMPS ECU30が、走行支援ECU20から入力されたアシストトルク値に応じて、ステアリングアクチュエータ31を駆動することにより、走行車線内の走行が維持される。   And EMPS ECU30 drives the steering actuator 31 according to the assist torque value input from driving assistance ECU20, and driving | running | working in a driving lane is maintained.

以上、本発明の実施の形態について説明したが、本発明は、上記実施形態に限定されるものではなく種々の変形が可能である。例えば、白線検出装置1及び走行支援システム2を構成する各ECUの接続形態や機能分担等は上記実施形態に限られるものではない。   Although the embodiment of the present invention has been described above, the present invention is not limited to the above embodiment, and various modifications can be made. For example, the connection form and function sharing of the ECUs constituting the white line detection device 1 and the driving support system 2 are not limited to the above embodiment.

本実施形態に係る白線検出装置を用いた走行支援システムの全体構成を示すブロック図である。It is a block diagram which shows the whole structure of the driving assistance system using the white line detection apparatus which concerns on this embodiment. 本実施形態に係る白線検出装置による白線データ算出処理の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the white line data calculation process by the white line detection apparatus which concerns on this embodiment. 本実施形態に係る白線検出装置により求められる白線データを説明するための図である。It is a figure for demonstrating the white line data calculated | required by the white line detection apparatus which concerns on this embodiment.

符号の説明Explanation of symbols

1…白線検出装置、2…走行支援システム、10…カメラ、11…白線検出 ECU、12…白線抽出部、13…白線データ算出部、15,25…通信回線、20…走行支援ECU、21…モード切替えスイッチ、22…メインスイッチ、30…EMPS ECU、31…ステアリングアクチュエータ、40…EFI ECU、41…車速センサ、42…操舵角センサ、50…メータECU、51…ブザー、52…警告ランプ。   DESCRIPTION OF SYMBOLS 1 ... White line detection apparatus, 2 ... Driving assistance system, 10 ... Camera, 11 ... White line detection ECU, 12 ... White line extraction part, 13 ... White line data calculation part, 15, 25 ... Communication line, 20 ... Driving assistance ECU, 21 ... Mode switching switch, 22 ... main switch, 30 ... EMPS ECU, 31 ... steering actuator, 40 ... EFI ECU, 41 ... vehicle speed sensor, 42 ... steering angle sensor, 50 ... meter ECU, 51 ... buzzer, 52 ... warning lamp.

Claims (6)

択一的に選択される複数の走行支援制御モードを有する車両における白線検出装置において、
前記車両周囲の画像を撮像する撮像手段と、
前記撮像手段により撮像された画像データを画像処理することにより、道路上の白線位置の候補点を抽出する白線抽出手段と、
前記抽出された候補点に基づいて、白線データを求める白線データ算出手段と、
前記複数の走行支援制御モードの中から選択されている走行支援制御モードを判別する判別手段と、を備え、
前記白線データ算出手段は、前記判別手段により判別された前記走行支援制御モードに応じて、前記白線データを求めるための演算定数及び検出対象のうちの少なくとも一方を変更することを特徴とする白線検出装置。
In a white line detection device in a vehicle having a plurality of driving support control modes that are alternatively selected,
Imaging means for capturing an image around the vehicle;
White line extraction means for extracting candidate points of white line positions on the road by performing image processing on the image data captured by the imaging means;
White line data calculating means for obtaining white line data based on the extracted candidate points;
Discriminating means for discriminating a driving support control mode selected from the plurality of driving support control modes,
The white line data calculating means changes at least one of an operation constant for obtaining the white line data and a detection target according to the driving support control mode determined by the determining means. apparatus.
前記複数の走行支援制御モードには、自車両が白線により区画される車線から逸脱するおそれがあるときに警報を発し、運転者に警告を促す車線逸脱警報モードと、前記自車両が車線内を走行するように支援する車線維持支援モードとが含まれることを特徴とする請求項1に記載の白線検出装置。   The plurality of driving support control modes include a lane departure warning mode that issues a warning when the host vehicle is likely to depart from a lane defined by a white line, and alerts the driver, and the host vehicle travels in the lane. The white line detection device according to claim 1, further comprising: a lane keeping support mode for assisting the vehicle to travel. 前記白線データ算出手段は、前記車線維持支援モードが選択されている場合に、前記車線逸脱警報モードが選択されている場合と比較して、前記候補点のうち、より自車両側の候補点を検出対象として認識して前記白線データを求める、ことを特徴とする請求項2に記載の白線検出装置。   The white line data calculating means calculates the candidate points on the own vehicle side among the candidate points when the lane keeping support mode is selected and compared with the case where the lane departure warning mode is selected. The white line detection device according to claim 2, wherein the white line data is obtained by recognizing as a detection target. 前記白線データ算出手段は、前記車線逸脱警報モードが選択されている場合に、前記車線維持支援モードが選択されている場合よりも、前記白線データが大きく変動することが認容されるように前記演算定数を設定する、ことを特徴とする請求項2又は3に記載の白線検出装置。   The white line data calculating means calculates the white line data so that the white line data is allowed to fluctuate more significantly when the lane departure warning mode is selected than when the lane keeping support mode is selected. 4. The white line detection device according to claim 2, wherein a constant is set. 前記白線データ算出手段は、前記車線逸脱警報モードが選択されている場合に、誤警報を抑制することができるように前記演算定数を設定する、ことを特徴とする請求項2又は3に記載の白線検出装置。   The said white line data calculation means sets the said operation constant so that a false alarm can be suppressed, when the said lane departure warning mode is selected, The said calculation constant is characterized by the above-mentioned. White line detection device. 前記演算定数は、前記白線データの変動を抑制するフィルタの時定数及び前記白線データの取り得る範囲を設定する誤検出ガード値であり、
前記白線データ算出手段は、前記車線逸脱警報モードが選択されている場合に、前記車線維持支援モードが選択されている場合よりも、前記フィルタの時定数を小さくすると共に、前記誤検出ガード値を大きくすることを特徴とする請求項2〜5のいずれか1項に記載の白線検出装置。
The calculation constant is a false detection guard value that sets a time constant of a filter that suppresses fluctuation of the white line data and a range that the white line data can take,
When the lane departure warning mode is selected, the white line data calculation means makes the time constant of the filter smaller than when the lane keeping support mode is selected, and sets the false detection guard value. The white line detection device according to claim 2, wherein the white line detection device is enlarged.
JP2003433702A 2003-12-26 2003-12-26 White line detector Expired - Fee Related JP4075800B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003433702A JP4075800B2 (en) 2003-12-26 2003-12-26 White line detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003433702A JP4075800B2 (en) 2003-12-26 2003-12-26 White line detector

Publications (2)

Publication Number Publication Date
JP2005190375A true JP2005190375A (en) 2005-07-14
JP4075800B2 JP4075800B2 (en) 2008-04-16

Family

ID=34791009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003433702A Expired - Fee Related JP4075800B2 (en) 2003-12-26 2003-12-26 White line detector

Country Status (1)

Country Link
JP (1) JP4075800B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009014574A (en) * 2007-07-05 2009-01-22 Aisin Aw Co Ltd Road information generator, road information generation method, and road information generation program
JP2009143546A (en) * 2007-12-17 2009-07-02 Hyundai Motor Co Ltd Vehicular travel speed controller and control method
JP2016162323A (en) * 2015-03-04 2016-09-05 株式会社日本自動車部品総合研究所 Travelling section line recognition device
WO2018194016A1 (en) * 2017-04-20 2018-10-25 マツダ株式会社 Vehicle driving assistance device
JP2018181208A (en) * 2017-04-20 2018-11-15 マツダ株式会社 Driving support device for vehicle
JP2018181209A (en) * 2017-04-20 2018-11-15 マツダ株式会社 Driving support device for vehicle
CN112406535A (en) * 2020-11-23 2021-02-26 上海伟世通汽车电子系统有限公司 Driving assistance method based on black-white-grey screen instrument
CN114579417A (en) * 2022-03-23 2022-06-03 小米汽车科技有限公司 Performance test method and device for lane line identification and electronic equipment

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110580804B (en) * 2019-09-16 2021-06-22 睿云联(厦门)网络通讯技术有限公司 Security alarm method for indoor unit multi-mode multi-defense area

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009014574A (en) * 2007-07-05 2009-01-22 Aisin Aw Co Ltd Road information generator, road information generation method, and road information generation program
JP4506790B2 (en) * 2007-07-05 2010-07-21 アイシン・エィ・ダブリュ株式会社 Road information generation apparatus, road information generation method, and road information generation program
US8209123B2 (en) 2007-07-05 2012-06-26 Aisin Aw Co., Ltd. Road information generating apparatus, road information generating method, and road information generating program
JP2009143546A (en) * 2007-12-17 2009-07-02 Hyundai Motor Co Ltd Vehicular travel speed controller and control method
JP2016162323A (en) * 2015-03-04 2016-09-05 株式会社日本自動車部品総合研究所 Travelling section line recognition device
WO2018194016A1 (en) * 2017-04-20 2018-10-25 マツダ株式会社 Vehicle driving assistance device
JP2018181208A (en) * 2017-04-20 2018-11-15 マツダ株式会社 Driving support device for vehicle
JP2018181209A (en) * 2017-04-20 2018-11-15 マツダ株式会社 Driving support device for vehicle
CN112406535A (en) * 2020-11-23 2021-02-26 上海伟世通汽车电子系统有限公司 Driving assistance method based on black-white-grey screen instrument
CN114579417A (en) * 2022-03-23 2022-06-03 小米汽车科技有限公司 Performance test method and device for lane line identification and electronic equipment
CN114579417B (en) * 2022-03-23 2023-02-21 小米汽车科技有限公司 Performance test method and device for lane line identification and electronic equipment

Also Published As

Publication number Publication date
JP4075800B2 (en) 2008-04-16

Similar Documents

Publication Publication Date Title
US10328932B2 (en) Parking assist system with annotated map generation
JP6592074B2 (en) Vehicle control device, vehicle control method, program, and information acquisition device
US8896687B2 (en) Lane departure prevention support apparatus, method of displaying a lane boundary line and program
JP4811025B2 (en) Vehicle control device
EP3188156B1 (en) Object recognition device and vehicle control system
US20210403037A1 (en) Arithmetic operation system for vehicles
WO2013011952A1 (en) Traffic lane recognition apparatus
JP4134891B2 (en) Collision possibility judgment device
JP5146243B2 (en) Lane departure control device
US10127460B2 (en) Lane boundary line information acquiring device
JP2005301603A (en) Traveling lane detection device
JP4876772B2 (en) Interrupting vehicle determination device
US10611240B2 (en) Vehicle cruise control apparatus and cruise control method
CN110167813B (en) Travel route recognition device and travel route recognition method
JP2009143309A (en) Lane maintaining support system
JP2007164671A (en) Device for deciding approaching obstacle and system for warning collision with obstacle
US20220363250A1 (en) Vehicular driving assistance system with lateral motion control
JP2005309797A (en) Warning device for pedestrian
JP2005196590A (en) Pedestrian extractor
JP4075800B2 (en) White line detector
JP4193740B2 (en) Nose view monitor device
JP2019217846A (en) Vehicle control device, vehicle control method, and program
CN110281925B (en) Travel control device, vehicle, and travel control method
JP2008143387A (en) Surrounding area monitoring device and surrounding area monitoring method
JP2005182753A (en) Vehicle driving assisting apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051021

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070904

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110208

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110208

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120208

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120208

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130208

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130208

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140208

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees