JP4416000B2 - Parking assistance device - Google Patents
Parking assistance device Download PDFInfo
- Publication number
- JP4416000B2 JP4416000B2 JP2007094614A JP2007094614A JP4416000B2 JP 4416000 B2 JP4416000 B2 JP 4416000B2 JP 2007094614 A JP2007094614 A JP 2007094614A JP 2007094614 A JP2007094614 A JP 2007094614A JP 4416000 B2 JP4416000 B2 JP 4416000B2
- Authority
- JP
- Japan
- Prior art keywords
- parking
- target
- vehicle
- display
- parking frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Steering Control In Accordance With Driving Conditions (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Closed-Circuit Television Systems (AREA)
Description
本発明は、ユーザが設定した駐車目標位置まで車両を目標軌跡に沿って導く駐車支援制御を行う駐車支援装置に関する。 The present invention relates to a parking assistance device that performs parking assistance control for guiding a vehicle along a target locus to a parking target position set by a user.
従来から、表示モニタ上の車両周辺の実画像に、ユーザにより位置の調整が可能な目標駐車枠表示(自動駐車終了後の車両の画像)を重畳表示する駐車支援装置が知られている(例えば、特許文献1参照)。この従来技術によれば、駐車目標位置の設定をユーザに委ねることにより、駐車枠内で右寄せや左寄せして駐車させたい場合等のユーザの意図が反映されるので、センサ等による検出結果や画像認識結果等に基づいてシステム側が自動的に駐車目標位置を決定する構成とは異なり、ユーザの意図に反する駐車目標位置まで車両が誘導されることを防止することができる。 2. Description of the Related Art Conventionally, there is known a parking assist device that superimposes and displays a target parking frame display (an image of a vehicle after completion of automatic parking) that can be adjusted by a user on a real image around the vehicle on a display monitor (for example, , See Patent Document 1). According to this prior art, by leaving the setting of the parking target position to the user, the intention of the user such as when the vehicle is desired to be parked by being right-justified or left-justified within the parking frame is reflected. Unlike the configuration in which the system side automatically determines the parking target position based on the recognition result or the like, it is possible to prevent the vehicle from being guided to the parking target position contrary to the user's intention.
また、車両を駐車目標位置まで自動的に導く駐車支援システムにおいて、駐車支援制御実行中に、車輪速センサにより検出された各車輪速と、ヨーレートセンサにより検出されたヨーレートとに基づいて現在の車両位置を推定し、現在の車両位置が目標軌跡から逸脱している場合に、目標軌跡からの逸脱量に応じて後輪を修正転舵させることにより、目標軌跡から逸脱を修正する技術が知られている(例えば、特許文献2参照)。
しかしながら、一般的な駐車支援システムにおいては、上述の従来の駐車支援システムと同様、駐車支援制御実行中に監視されている現在の車両位置は、車輪速センサやヨーレートセンサ等からの情報に基づく推定値である。このため、路面外乱やシステム異常や(例えばヨーレートセンサに故障等の異常)等が発生した場合、推定した現在の車両位置と実際の車両位置との間に誤差が生じているにも拘らず、目標経路上に現在の車両位置が存在しているとシステム上認識される場合がある。この場合、かかる誤差が生じている状態が検出できない限り、駐車支援制御が継続されることになり、ユーザが設定した所期の駐車目標位置とは異なる位置に車両が導かれるという不都合が生じる。 However, in a general parking assistance system, as in the conventional parking assistance system described above, the current vehicle position monitored during execution of the parking assistance control is estimated based on information from a wheel speed sensor, a yaw rate sensor, or the like. Value. For this reason, when road disturbances, system abnormalities (for example, abnormalities such as failure in the yaw rate sensor), etc. occur, there is an error between the estimated current vehicle position and the actual vehicle position, The system may recognize that the current vehicle position exists on the target route. In this case, unless the state in which such an error has occurred can be detected, the parking support control is continued, and there is a problem that the vehicle is led to a position different from the intended parking target position set by the user.
そこで、本発明は、現在の車両位置の推定誤差に起因して所期の駐車目標位置とは異なる位置に車両が導かれるのを確実に防止することができる、駐車支援装置の提供を目的とする。 Accordingly, an object of the present invention is to provide a parking assist device that can reliably prevent a vehicle from being led to a position different from an intended parking target position due to an estimation error of the current vehicle position. To do.
上記目的を達成するため、第1の発明は、車両周辺の実画像上に、ユーザによる表示位置の調整が可能な目標駐車枠表示を重畳表示する手段と、実画像上の前記目標駐車枠表示の表示位置に基づいて駐車目標位置を決定する手段とを備え、前記駐車目標位置まで目標軌跡に沿って車両を導く駐車支援制御を行う駐車支援装置であって、
前記実画像中の特徴点を画像認識する特徴点認識手段と、
前記駐車目標位置と前記特徴点との相対関係を記憶する記憶手段と、
駐車支援制御実行中の車両位置を推定する車両位置推定手段と、
前記車両位置推定手段の推定結果と、駐車支援制御実行中の前記特徴点認識手段による前記特徴点の認識結果とに基づいて、前記記憶手段に記憶された相対関係が駐車支援制御実行中に維持されるように、前記目標軌跡を自動的に修正する軌跡修正手段とを更に含むことを特徴とする。
In order to achieve the above object, the first invention provides means for superimposing and displaying a target parking frame display capable of adjusting a display position by a user on a real image around the vehicle, and the target parking frame display on the real image. Means for determining a parking target position based on the display position, and a parking support device that performs parking support control for guiding a vehicle along a target locus to the parking target position,
Feature point recognition means for recognizing feature points in the real image;
Storage means for storing a relative relationship between the parking target position and the feature point;
Vehicle position estimation means for estimating a vehicle position during execution of parking assist control;
Based on the estimation result of the vehicle position estimation means and the recognition result of the feature points by the feature point recognition means during execution of parking support control, the relative relationship stored in the storage means is maintained during execution of parking support control. And a trajectory correcting means for automatically correcting the target trajectory.
第2の発明に係る駐車支援装置は、車両周辺の風景を撮像する撮像手段と、
前記撮像手段から得られる実画像上に目標駐車枠表示を重畳して表示する手段と、
入力手段を介して入力される指示に応じて前記目標駐車枠表示の表示位置を変更する第1表示位置変更手段と、
前記目標駐車枠表示の表示位置に基づいて、駐車目標位置を決定する駐車目標位置決定手段と、
前記駐車目標位置までの目標軌跡を演算する目標軌跡演算手段と、
前記目標軌跡演算手段により演算された目標軌跡に基づいて、前記駐車目標位置まで目標軌跡に沿って車両を導く駐車支援制御を行う制御手段と、
駐車支援制御実行中の車両位置を推定する車両位置推定手段と、
前記車両位置推定手段による車両位置の推定結果に基づいて、駐車支援制御実行中の車両位置の変化に応じて前記目標駐車枠表示の表示位置を変化させる第2表示位置変更手段と、
前記撮像手段から得られる実画像中の特徴点を画像認識する特徴点認識手段と、
前記駐車目標位置が決定された際の目標駐車枠表示と、前記特徴点との相対関係を参照相対関係として記憶する記憶手段と、
駐車支援制御実行中の前記特徴点認識手段による前記特徴点の認識結果に基づいて、前記第2表示位置変更手段により表示位置が変化された後の前記目標駐車枠表示と、前記特徴点との相対関係を算出する相対関係算出手段と、
前記相対関係算出手段により算出された相対関係と、前記記憶手段に記憶された参照相対関係とを比較する比較手段と、
前記比較手段の比較結果に基づいて、前記目標軌跡を修正する軌跡修正手段とを含むことを特徴とする。
The parking assist device according to the second invention comprises an imaging means for imaging the scenery around the vehicle,
Means for superimposing and displaying the target parking frame display on the actual image obtained from the imaging means;
First display position changing means for changing the display position of the target parking frame display in response to an instruction input via the input means;
Parking target position determining means for determining a parking target position based on the display position of the target parking frame display;
Target trajectory calculating means for calculating a target trajectory up to the parking target position;
Control means for performing parking support control for guiding the vehicle along the target locus to the parking target position based on the target locus calculated by the target locus calculating means;
Vehicle position estimation means for estimating a vehicle position during execution of parking assist control;
Second display position changing means for changing the display position of the target parking frame display in accordance with a change in the vehicle position during execution of parking support control based on the estimation result of the vehicle position by the vehicle position estimating means;
Feature point recognition means for recognizing a feature point in an actual image obtained from the imaging means;
Storage means for storing a target parking frame display when the parking target position is determined and a relative relationship between the feature points as a reference relative relationship;
The target parking frame display after the display position is changed by the second display position changing unit based on the recognition result of the feature point by the feature point recognizing unit that is executing the parking support control, and the feature point A relative relationship calculating means for calculating the relative relationship;
Comparing means for comparing the relative relation calculated by the relative relation calculating means with the reference relative relation stored in the storage means;
Trajectory correcting means for correcting the target trajectory based on the comparison result of the comparing means.
本発明によれば、現在の車両位置の推定に誤差が生じた場合であっても、所期の駐車目標位置まで確実に車両を導くことができる。 According to the present invention, even if an error occurs in the estimation of the current vehicle position, the vehicle can be reliably guided to the intended parking target position.
以下、図面を参照して、本発明を実施するための最良の形態の説明を行う。 The best mode for carrying out the present invention will be described below with reference to the drawings.
図1は、本発明による駐車支援装置の一実施例を示すシステム構成図である。図1に示す如く、駐車支援装置は、電子制御ユニット12(以下、「駐車支援ECU12」と称す)を中心に構成されている。駐車支援ECU12は、図示しないバスを介して互いに接続されたCPU、ROM、及びRAM等からなるマイクロコンピュータとして構成されている。ROMには、CPUが実行するプログラム等が格納されている。 FIG. 1 is a system configuration diagram showing an embodiment of a parking assistance apparatus according to the present invention. As shown in FIG. 1, the parking assistance device is configured around an electronic control unit 12 (hereinafter referred to as “parking assistance ECU 12”). Parking assistance ECU12 is comprised as a microcomputer which consists of CPU, ROM, RAM, etc. which were mutually connected via the bus | bath which is not shown in figure. The ROM stores a program executed by the CPU.
駐車支援ECU12には、高速通信バス等の適切なバスを介して、ステアリングホイール(図示せず)の舵角Haを検出する舵角センサ16、及び、車両の速度Vを検出する車速センサ18が接続されている。車速センサ18は、各輪に配設され、車輪速に応じた周期でパルス信号を発生する車輪速センサであってよい。舵角センサ16及び車速センサ18の出力信号は、駐車支援ECU12に対して供給される。
The parking assist ECU 12 includes a
駐車支援ECU12には、シフトポジションセンサ50及び駐車スイッチ52が接続されている。シフトポジションセンサ50は、シフトレバーの操作位置に応じた電気信号を駐車支援ECU12に供給する。また、駐車スイッチ52は、車室内に設けられ、ユーザによる操作が可能となっている。駐車スイッチ52は、常態でオフ状態に維持されており、ユーザの操作によりオン状態となる。駐車支援ECU12は、シフトポジションセンサ50の出力信号に基づいてシフトレバーがRレンジにあるか否かを判別すると共に、駐車スイッチ52の出力信号に基づいてユーザが駐車支援を必要としているか否かを判別する。
A
駐車支援ECU12には、車両後部のバンパ中央部に配設されたバックモニタカメラ20、及び、車室内に設けられた表示モニタ22が接続されている。バックモニタカメラ20は、車両後方の所定角度領域における風景を撮影するCCDカメラであり、その撮影した画像信号を駐車支援ECU12に供給する。駐車支援ECU12は、シフトレバーがRレンジにあり且つ駐車スイッチ52がオン状態にある場合に、表示モニタ22上にバックモニタカメラ20の撮像画像(実画像)を表示させる。このとき、表示モニタ22上には、図2(車庫入れ駐車用の画面)に示すように、撮像画像上に目標駐車枠表示が重畳表示されると共に、駐車目標位置設定用のタッチスイッチが表示される。
The parking assist ECU 12 is connected to a
駐車目標位置設定用のタッチスイッチには、図2に示すように、目標駐車枠表示を上下左右方向の並進移動及び回転移動させるための調整用スイッチ、実行すべき駐車の種類(縦列駐車又は車庫入れ駐車)を選択するための駐車選択スイッチ(図示せず)、及び、目標駐車枠表示の位置(向きを含む。以下同じ)の確定を行うための確定スイッチが含まれてよい。これらの各タッチスイッチは、その目的に応じて適切な段階で表示モニタ22上に表示される。目標駐車枠表示は、図2中に破線により示すように、実際の駐車枠や車両の外形を模した図形であってよい。目標駐車枠表示は、また、その位置及び向きがユーザにより視認可能である形態を有し、車庫入れ駐車用の表示と縦列駐車用の表示の2種類が用意されてよい。
As shown in FIG. 2, the touch switch for setting the parking target position includes an adjustment switch for moving the target parking frame display in the vertical and horizontal directions and rotating, and the type of parking to be executed (parallel parking or garage A parking selection switch (not shown) for selecting “parking parking” and a confirmation switch for confirming the position of the target parking frame display (including the orientation; the same applies hereinafter) may be included. Each of these touch switches is displayed on the
ユーザは、駐車目標位置設定用のタッチスイッチ(調整用スイッチ)を用いて、表示モニタ22上で目標駐車枠表示の位置を変化させることで、目標駐車枠表示を実際の駐車枠に適合させる設定操作を表示モニタ22上で行う。即ち、ユーザは、調整用スイッチを用いて、表示モニタ22上で目標駐車枠表示を上下左右方向の並進移動及び回転移動させることで、目標駐車枠表示の位置を実際の駐車枠の位置に適合させる。このようにして位置が調整された目標駐車枠表示は、ユーザが例えば確定スイッチを押すことにより、最終的な目標駐車枠表示の位置として確定される(即ち、ユーザによる駐車目標位置の設定が完了する)。
The user changes the position of the target parking frame display on the
このようにして、最終的な目標駐車枠表示の位置がユーザにより確定されると、駐車支援ECU12は、当該目標駐車枠表示の位置に対応した駐車目標位置を決定し、駐車目標位置に対する駐車開始位置の関係に基づいて、目標軌跡(図3参照)を演算すると共に、目標軌跡上の各位置で転舵されるべき車輪の目標転舵角を演算する。尚、目標駐車枠表示の位置と駐車目標位置とは、常に一対一で対応している。以下、目標駐車枠表示の位置がユーザにより確定された際に決定される駐車目標位置を、「所期の駐車目標位置」という。
Thus, when the final target parking frame display position is determined by the user, the parking assist
駐車支援ECU12には、自動操舵手段30、自動制動手段32及び自動駆動手段34が適切なバスを介して接続されている。駐車支援ECU12は、車両が目標軌跡に沿って導かれるように、自動操舵手段30、自動制動手段32及び自動駆動手段34を制御する。具体的には、運転者がブレーキペダルの踏み込み量を緩めることでクリープ力が発生し、車両の後退が開始されると、駐車支援ECU12は、目標軌跡上の各車両位置において自動操舵手段30により車輪を自動的に目標転舵角だけ転舵させる。そして、最終的に車両が駐車目標位置に到達した際に、運転者に車両の停止を要求し(若しくは、自動制動手段32により車両を自動的に停止させ)、駐車支援制御が完了する。
An automatic steering means 30, an automatic braking means 32, and an automatic drive means 34 are connected to the parking assist
本実施例の駐車支援ECU12は、目標駐車枠表示と実画像上の特徴点との関係が、上述の駐車支援制御の実行中に維持されているか否かを監視する。具体的には、駐車支援ECU12は、ユーザにより確定スイッチが操作された際、目標駐車枠表示と実画像上の特徴点との相対関係を演算する。この特徴点は、画像認識が可能で、且つ、目標駐車枠表示の近傍にある実画像上の特徴点であり、好ましくは、目標駐車枠表示に対応する実際の駐車枠の白線であるが、画像認識が可能な限り、目標駐車枠表示の近傍にある路肩や車輪止め等のような他の特徴点であってもよい。また、目標駐車枠表示と実画像上の特徴点との相対関係は、目標駐車枠表示の所定の基準点と実画像上の特徴点との距離(若しくは、実画像上の特徴点と目標駐車枠表示の所定の基準点とを結ぶ2次元ベクトル)を含むが、車庫入れ駐車の場合には、目標駐車枠表示の所定のラインと実画像上の所定の特徴点が画成するライン(典型的には、白線)とのなす角度を更に含んでよい。このように駐車支援ECU12により演算される、目標駐車枠表示の位置がユーザにより確定された際の当該目標駐車枠表示と実画像上の特徴点との関係を、以下、“参照相対関係”と称する。駐車支援ECU12は、参照相対関係を所定の記憶手段(例えば、駐車支援ECU12のRAM)に記憶する。
The
尚、表示モニタ22上の座標系の座標値と実座標系の座標値は、所定の変換式により一対一で対応するため、上述の参照相対関係は、表示モニタ22上の座標系に基づく関係、又は、実座標系に基づく関係のいずれであってもよい。
In addition, since the coordinate value of the coordinate system on the
ところで、上述のような駐車支援制御においては、目標転舵角が目標軌跡上の各車両位置で予め決定されているため、駐車支援制御実行中に車両位置が正確に推定されている限り、所期の駐車目標位置まで車両を確実に導くことができる。しかしながら、駐車支援制御実行中の車両位置は、車速センサ18及び舵角センサ16から得られた情報に基づいて推定されているに過ぎず、従って、システム異常(例えば、センサ自体の故障)や環境的外乱(路面外乱)等に起因して推定車両位置と実際の車両位置との間に誤差が生じた場合には、所期の駐車目標位置とは異なる駐車目標位置まで車両を導いてしまうという不都合が生ずる(図3参照)。従って、推定車両位置と実際の車両位置との間に誤差が生じている状態(即ち、目標軌跡からの逸脱)を検出できることは、駐車支援制御の信頼性及び精度を高める観点から有用となる。
By the way, in the parking support control as described above, since the target turning angle is determined in advance at each vehicle position on the target locus, as long as the vehicle position is accurately estimated during the execution of the parking support control, The vehicle can be reliably guided to the parking target position of the period. However, the vehicle position during the execution of the parking assist control is only estimated based on information obtained from the
これに対して、本実施例の駐車支援ECU12は、駐車支援制御実行中、上述と同様に、目標駐車枠表示と実画像上の特徴点との関係を所定周期毎に演算し、当該演算結果と上述の参照相対関係とを比較する。即ち、本実施例では、画像認識に基づく絶対的な特徴点の位置を基準とした目標駐車枠表示の相対位置が、駐車支援制御実行中に監視されている。ここで、駐車支援制御実行中における表示モニタ22上の目標駐車枠表示の位置は、駐車支援制御実行中の車両位置と同様、車速センサ18及び舵角センサ16からの情報に基づく推定により決定されている。従って、本実施例によれば、駐車支援制御の実行中に生じうる目標駐車枠表示と実画像上の特徴点との相対関係の参照相対関係からの逸脱(即ち、絶対的な特徴点に対する目標駐車枠表示の相対位置関係の変動)を検出することにより、システム異常等に起因して推定車両位置と実際の車両位置との間に誤差が生じていること(即ち、目標軌跡からの逸脱)を検出することができる。
On the other hand, the
また、本実施例では、駐車支援制御実行中の目標駐車枠表示と実画像上の特徴点との相対関係が、参照相対関係から逸脱していることが検出された場合、駐車支援ECU12は、当該逸脱を修正すべく、表示モニタ22上の目標駐車枠表示の位置を自動的に変更する。また、駐車支援ECU12は、新たな目標駐車枠表示の位置に対応した目標軌跡及び目標転舵角を演算し直すと共に、当該目標軌跡等に従った駐車支援制御を再開する。従って、本実施例によれば、システム異常等に起因して目標軌跡からの車両の逸脱が生じた場合であっても、当該逸脱が修正されて参照相対関係が常に確保されるので、所期の駐車目標位置まで車両を確実に導くことができる。換言すると、本実施例によれば、駐車支援制御実行中にユーザにより駐車目標位置が新たに設定し直されない限り、システム異常等が生じた場合でも、ユーザが所期の駐車目標位置まで車両を確実に導くことができる。
Further, in this embodiment, when it is detected that the relative relationship between the target parking frame display during execution of the parking assist control and the feature point on the actual image deviates from the reference relative relationship, the parking assist
また、本実施例では、画像認識により得られる実際の駐車枠の白線情報に直接的に基づいて駐車支援制御が実行されるのではなく、上述の如く、あくまでユーザが設定した目標駐車枠表示に基づいて駐車支援制御が実行されている。従って、本実施例では、周辺の障害物状況やドア開閉の際の都合等により、実際の駐車枠の中心線に対して左右に偏った位置や傾斜した向きで駐車したいとユーザが考える場合にも、当該ユーザの意図に対応可能である。 Further, in this embodiment, the parking assist control is not executed directly based on the white line information of the actual parking frame obtained by the image recognition, but as described above, the target parking frame display set by the user is only displayed. Based on this, parking assistance control is executed. Therefore, in the present embodiment, when the user wants to park in a position that is biased to the left or right with respect to the center line of the actual parking frame or in an inclined direction due to surrounding obstacle conditions or the convenience of opening and closing the door. Can also respond to the user's intention.
尚、代替的に、本実施例において、駐車支援制御実行中における実画像上の特徴点に対する相対的な車両の移動ベクトルと、駐車支援制御実行中における車両の絶対的な移動ベクトルとを比較し、これらの移動ベクトルにずれが生じた際に、目標軌跡からの車両の逸脱を検出する構成も可能である。また、移動ベクトルにずれが生じた際、そのずれ量に応じて目標軌跡及び目標転舵角を演算し直すことで、所期の駐車目標位置まで車両を確実に導くことができる。尚、この場合、実画像上の特徴点の移動ベクトルは、画像認識に基づいて算出され、車両の移動ベクトルは、車速センサ18及び舵角センサ16の出力信号に基づいて駐車支援制御実行中の車両の移動距離及び車両の向きの変化量を算出することにより、推定される。また、これらの移動ベクトルは、車両が所定の移動距離(例えば、0.5m)だけ走行する毎に算出及び推定され、互いに比較されてよい。
Alternatively, in this embodiment, the vehicle movement vector relative to the feature point on the real image during execution of parking support control is compared with the absolute movement vector of the vehicle during execution of parking support control. A configuration is also possible in which deviation of the vehicle from the target locus is detected when a deviation occurs in these movement vectors. Further, when a shift occurs in the movement vector, the vehicle can be reliably guided to the intended parking target position by recalculating the target locus and the target turning angle according to the shift amount. In this case, the movement vector of the feature point on the actual image is calculated based on the image recognition, and the movement vector of the vehicle is being subjected to parking assist control based on the output signals of the
また、同様に、駐車開始位置を基準とした駐車支援制御実行中の車両位置を、画像認識に基づいて検出すると共に、駐車支援制御実行中の車両の移動量(車速センサ18及び舵角センサ16の出力信号により算出可能)に基づいて推定する構成も可能である。かかる構成では、それぞれ独立に検出・推定された車両位置を比較し、それらが互いに相違した際に、目標軌跡からの車両の逸脱を検出することができる。また、上記車両位置が互いに相違した際、その相違量に応じて目標軌跡及び目標転舵角を演算し直すことで、所期の駐車目標位置まで車両を確実に導くことができる。
Similarly, the position of the vehicle that is executing the parking support control based on the parking start position is detected based on the image recognition, and the movement amount of the vehicle that is executing the parking support control (the
また、本実施例において、目標軌跡からの車両の逸脱を検出した場合に、目標軌跡及び目標転舵角を演算し直すことなく、単に駐車支援制御を中断する構成も可能である。また、目標軌跡からの車両の逸脱を検出した場合であって、再演算の結果、適切な目標軌跡が得られない場合に、駐車支援制御を中断する構成も可能である。 Further, in the present embodiment, it is possible to simply interrupt the parking support control without recalculating the target locus and the target turning angle when the deviation of the vehicle from the target locus is detected. Further, it is possible to adopt a configuration in which parking support control is interrupted when a deviation of the vehicle from the target locus is detected and an appropriate target locus cannot be obtained as a result of recalculation.
次に、図4を参照して、上述の如く目標軌跡からの車両の逸脱を検出し、当該逸脱を修正することを目的として実行される処理について説明する。図4は、本実施例の駐車支援ECU12が実行する処理ルーチンのフロチャートである。本処理ルーチンは、例えば、シフトレバーがRレンジになり且つ駐車スイッチ52がオン状態になった際に起動される。
Next, with reference to FIG. 4, a process executed for the purpose of detecting a deviation of the vehicle from the target locus as described above and correcting the deviation will be described. FIG. 4 is a flowchart of a processing routine executed by the parking assist
ステップ100では、表示モニタ22上にバックモニタカメラ20の撮像画像を表示させると共に、当該撮像画像上に目標駐車枠表示を重畳表示させる処理が実行される。この際、表示モニタ22上に表示される目標駐車枠表示の初期位置は、例えば、駐車開始位置に至るまでの車両の走行状態に基づく推定により決定されてもよい。或いは、目標駐車枠表示の初期位置は、ユーザが表示モニタ22のタッチスクリーンを直接タッチすることにより指定されてもよく、かかる場合、目標駐車枠表示の初期位置は、タッチ位置周辺の撮像画像中の白線の認識結果に基づいて決定されてもよい。
In step 100, a process of displaying the captured image of the
続くステップ110では、ユーザによるタッチスイッチ(確定スイッチを除く)の操作に応じて目標駐車枠表示の表示位置を変更する処理が実行される。本ステップ110の処理は、ユーザにより確定スイッチが操作されるまで実行される。尚、ユーザによるタッチスイッチの操作がなされることなく、確定スイッチが操作された場合には、本ステップ110において何ら処理が実行されることなく、続くステップ120に進む。尚、本ステップ110では、上述の調整用スイッチの操作態様に応じて目標駐車枠表示が移動されることになる。
In the
続くステップ120では、確定スイッチが操作された際の目標駐車枠表示周辺の白線を探索し、目標駐車枠表示と実画像上の特徴点(本例では、白線上の特徴点)との相対関係を参照相対関係として決定・記憶する処理が実行される。この際、参照相対関係は、上述の如く、目標駐車枠表示の所定の基準点(例えば、目標駐車枠表示の頂点や交点)と白線の所定点との距離であってよく、また、車庫入れ駐車の場合には、目標駐車枠表示の向きと実際の駐車枠(白線枠)の向きのなす角度を更に含んでよい。
In the
続くステップ130では、上記ステップ120で確定された目標駐車枠表示に基づいて駐車目標位置を決定し、現在の車両位置(即ち、駐車開始位置)から駐車目標位置まで車両を導くための目標軌跡を演算すると共に、目標軌跡上の各位置で転舵されるべき車輪の目標転舵角を演算する処理が実行される。本ステップ130の処理が終了すると、駐車支援制御を実行するための前処理が完了する。本ステップ130の終了後、車両の後退が開始されると、駐車支援制御の実行が開始され、駐車目標位置に到達するまで(ステップ180にて判断)ステップ140乃至170の処理が繰り返し実行される。尚、ステップ140乃至170の処理は、例えば車両の移動距離0.5m毎に実行されてよい。
In the
ステップ140では、前回の処理ルーチンで推定した車両位置(初回の場合は、駐車開始位置)と今回の処理ルーチンで推定した車両位置の相対関係に基づいて、表示モニタ22上の目標駐車枠表示の位置(移動後の位置)を決定する処理が実行される。尚、車両位置の推定は、車両の移動距離及び当該移動距離の間に生ずる車両の向きの変化量を算出することにより実現されてよい。この場合、車両の移動距離は、車速センサ18の出力信号(車輪速パルス)を時間積分することにより算出され、車両の向きの変化量は、路面曲率(車両の旋回半径の逆数に相当し、舵角センサ16から得られる舵角に基づいて決定される)を移動距離で積分する(積分区間は、算出された車両の移動距離(本例では、0.5m))ことにより算出されてよい。尚、車両の向きの変化量は、微小移動距離(例えば、0.01m)毎に得られる路面曲率に当該微小移動距離(0.01)を乗算し、これらの乗算値を移動距離0.5m分積算することによって算出されてもよい。尚、路面曲率と舵角との関係は、予め車両毎に取得された相関データに基づいて作成されたマップとして、駐車支援ECU12のROMに格納されていてよい。
In
続くステップ150では、表示モニタ22上の目標駐車枠表示の位置を更新すると共に、当該目標駐車枠表示の位置周辺の実画像中の白線を探索し、目標駐車枠表示の所定の基準点(上記ステップ120と同一の基準点)と実画像上の特徴点(上記ステップ120と同一の特徴点)との相対関係を算出する処理が実行される。
In the
続くステップ160では、上記ステップ150で算出した相対関係が、上記ステップ120で算出した参照相対関係に対して、所定の範囲内にある否かを判断する処理が実行される。例えば、本ステップ160では、上記ステップ150で算出した基準点及び特徴点間の距離と、参照相対関係に係る同距離との差の絶対値が、所定の閾値より小さいか否かが判断されてよい。
In the
本ステップ160の判断が肯定された場合、参照相対関係が維持されていると判断して(即ち、目標軌跡からの車両の逸脱がないと判断して)、上記ステップ140に戻る。一方、本ステップ160の判断が否定された場合、何らかの原因(例えば、システム異常)により参照相対関係が乱れた(即ち、目標軌跡からの車両の逸脱が発生した)と判断して、ステップ170に進む。
If the determination in
ステップ170では、上記ステップ150で算出した相対関係の、参照相対関係に対する逸脱量に応じて、表示モニタ22上の目標駐車枠表示の位置を修正する処理が実行される。本ステップ170では、更に、修正後の目標駐車枠表示の位置に応じて、目標軌跡及び目標転舵角を演算し直す処理が実行される。この結果、本ステップ150の終了後には、車両は、新たに演算された目標軌跡及び目標転舵角に応じて制御されることになる。また、修正後の目標駐車枠表示の基準点と実画像上の特徴点との相対関係は、参照相対関係に一致することになる(尚、修正後の目標駐車枠表示に対応する駐車目標位置は、上記ステップ130で決定された駐車目標位置(所期の駐車目標位置)と同じである)。本ステップ170の処理が終了すると、上記ステップ140に戻る。
In step 170, processing for correcting the position of the target parking frame display on the display monitor 22 is executed in accordance with the amount of deviation of the relative relationship calculated in
以上説明したように、本実施例によれば、駐車支援制御の実行中の目標駐車枠表示と実画像上の特徴点との相対関係を、参照相対関係を基準として監視し、両相対関係のずれを検出することにより、システム異常等に起因した目標軌跡からの車両の逸脱を検出することができる。また、目標軌跡からの車両の逸脱を検出した際、参照相対関係が維持されるように目標軌跡及び目標転舵角を演算し直すことにより、所期の駐車目標位置(即ち、ステップ130で決定された駐車目標位置)まで車両を確実に導くことができる。 As described above, according to the present embodiment, the relative relationship between the target parking frame display during execution of the parking assistance control and the feature point on the real image is monitored based on the reference relative relationship, and By detecting the deviation, it is possible to detect a deviation of the vehicle from the target trajectory caused by a system abnormality or the like. In addition, when the deviation of the vehicle from the target locus is detected, the target locus and the target turning angle are recalculated so that the reference relative relationship is maintained, thereby determining the intended parking target position (ie, determined in step 130). The vehicle can be reliably guided to the parking target position).
次に、図5を参照して、駐車支援制御の実行中にユーザの操作により目標駐車枠表示が変更された場合の処理について説明する。図5は、本実施例の駐車支援ECU12が実行する処理ルーチンのフロチャートである。本処理ルーチンは、図4のステップ140乃至170の処理の実行中、ユーザの操作により目標駐車枠表示が変更された際に実行される割り込みルーチンである。
Next, a process when the target parking frame display is changed by a user operation during the execution of the parking assistance control will be described with reference to FIG. FIG. 5 is a flowchart of a processing routine executed by the parking assist
駐車支援制御実行中にユーザにより上述の調整用スイッチが操作されると、先ず、ステップ300において、確定スイッチが再び操作されるまで、調整用スイッチの操作に応じて目標駐車枠表示の表示位置を変更する処理が実行される。
When the above-described adjustment switch is operated by the user during the execution of the parking assist control, first, in
続くステップ310では、確定スイッチが再び操作された際の、目標駐車枠表示の所定の基準点(上記ステップ120と同一の基準点)と実画像上の特徴点(上記ステップ120と同一の特徴点)との相対関係を、算出する処理が実行される。また、本ステップ310では、更に、算出した上記相対関係を新たな参照相対関係として更新・記憶する処理が実行される。
In the
続くステップ320では、上記ステップ310で確定された目標駐車枠表示に基づいて駐車目標位置を新たに決定し、現在の車両位置から新たな駐車目標位置まで車両を導くための目標軌跡を演算すると共に、目標軌跡上の各位置で転舵されるべき車輪の目標転舵角を演算する処理が実行される。本ステップ320の処理が終了すると、本割り込みルーチンが終了され、上記ステップ140以下の処理が再開される(即ち、駐車支援制御が再開される)。従って、上記ステップ160の判断処理では、上記ステップ310で算出した新たな参照相対関係が利用されることになる。
In the
ところで、車両が後退するに従って表示モニタ22上での目標駐車枠表示と実際の駐車枠との関係が明確となるので、目標駐車枠表示の位置がユーザの設定当初の意図に正確に対応していないことに、ユーザが駐車支援制御実行中に事後的に気付く場合がある。これに対して、本実施例によれば、上述の如く、駐車支援制御実行中に目標駐車枠表示の再設定が許容されるので、設定当初の意図に対応した駐車目標位置まで車両を確実に導くことが可能となる。
By the way, since the relationship between the target parking frame display on the
次に、図6及び図7を参照して、駐車支援制御実行中の目標駐車枠表示の再調整、即ち上記ステップ300の処理中にユーザにより実行される目標駐車枠表示の再調整に好適な調整用スイッチについて説明する。
Next, referring to FIG. 6 and FIG. 7, it is suitable for readjustment of the target parking frame display during execution of the parking assistance control, that is, readjustment of the target parking frame display executed by the user during the processing of
図6に示すように、本実施例の調整用スイッチは、目標駐車枠表示の標準的な移動(即ち、上下左右移動及び回転移動)を実現する標準スイッチ70と、実画像中の実際の駐車枠の白線に沿った目標駐車枠表示の平行移動を実現する補助スイッチ72とを含む。従って、補助スイッチ72が操作されると、目標駐車枠表示が、図6中の矢印で示すように、実際の駐車枠の白線の長手方向に沿って移動することになる。これにより、実際の駐車枠に対して向きが対応しているが前後方向の位置が対応していない目標駐車枠表示の前後方向の位置修正を補助スイッチ72により容易に実現することが可能となる。
As shown in FIG. 6, the adjustment switch of this embodiment includes a
尚、本実施例の調整用スイッチは、駐車支援制御実行中(例えば、図4のステップ140乃至170の処理の実行中)に、表示モニタ22上に表示されてよい。或いは、本実施例の調整用スイッチは、駐車支援制御実行前、即ち目標駐車枠表示を設定する段階で表示モニタ22上に表示されてもよい。また、目標駐車枠表示の位置が、ユーザがタッチした位置の周辺領域における白線の認識結果に基づいて決定される構成においては、画像認識により白線の前後端の位置を正確に特定することが困難であることから、目標駐車枠表示が実際の駐車枠に対して前後方向にずれる場合がある(向きは一致する傾向にある)。従って、かかる構成においては、白線に沿った目標駐車枠表示の前後方向の移動を実現する補助スイッチ72が特に好適となる。
Note that the adjustment switch according to the present embodiment may be displayed on the display monitor 22 during execution of parking assist control (for example, during execution of the processing of
また、本実施例の補助スイッチ72は、図7に示すように、実画像上の目標駐車枠表示の周辺位置に重畳表示されてもよい。また、補助スイッチ72は、図7に示すように、実現する移動方向に対応した向きを有する矢印図形であってよい。これにより、ユーザに補助スイッチ72の機能を直感的に理解させることが可能となる。
Moreover, as shown in FIG. 7, the
尚、本実施例において、補助スイッチ72は、白線の長手方向に平行な方向の目標駐車枠表示の移動のみならず、白線の長手方向に垂直な方向の移動をも実現してもよい。また、補助スイッチ72は、白線の長手方向に代わって、目標駐車枠表示の長手方向を基準として上述のような各種移動を実現してもよい。
In this embodiment, the
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなく、上述した実施例に種々の変形及び置換を加えることができる。 The preferred embodiments of the present invention have been described in detail above. However, the present invention is not limited to the above-described embodiments, and various modifications and substitutions can be made to the above-described embodiments without departing from the scope of the present invention. Can be added.
例えば、上述した実施例では、駐車支援制御実行中の表示モニタ22上の目標駐車枠表示の位置及び車両位置(並びに、車両の移動ベクトル)は、舵角センサ16及び車速センサ18の出力信号に基づいて推定されているが、ヨーレートセンサ及び車速センサ18の出力信号に基づいて推定することも可能である。
For example, in the above-described embodiment, the target parking frame display position and the vehicle position (and the vehicle movement vector) on the display monitor 22 during the execution of the parking assistance control are output from the
12 駐車支援ECU
16 舵角センサ
18 車速センサ
20 バックモニタカメラ
22 表示モニタ
30 自動操舵手段
32 自動制動手段
34 自動駆動手段
50 シフトポジションセンサ
52 駐車スイッチ
70 標準スイッチ
72 補助スイッチ
12 Parking assistance ECU
16
Claims (7)
前記実画像中の特徴点を画像認識する特徴点認識手段と、
前記駐車目標位置と前記特徴点との相対関係を記憶する記憶手段と、
駐車支援制御実行中の車両位置を推定する車両位置推定手段と、
前記車両位置推定手段の推定結果と、駐車支援制御実行中の前記特徴点認識手段による前記特徴点の認識結果とに基づいて、前記記憶手段に記憶された相対関係が駐車支援制御実行中に維持されるように、前記目標軌跡を自動的に修正する軌跡修正手段とを更に含むことを特徴とする、駐車支援装置。 Means for superimposing and displaying a target parking frame display that allows the user to adjust the display position on a real image around the vehicle, and means for determining a parking target position based on the display position of the target parking frame display on the real image A parking assistance device that performs parking assistance control for guiding the vehicle along a target locus to the parking target position,
Feature point recognition means for recognizing feature points in the real image;
Storage means for storing a relative relationship between the parking target position and the feature point;
Vehicle position estimation means for estimating a vehicle position during execution of parking assist control;
Based on the estimation result of the vehicle position estimation means and the recognition result of the feature points by the feature point recognition means during execution of parking support control, the relative relationship stored in the storage means is maintained during execution of parking support control. As described above, the parking assist apparatus further includes trajectory correcting means for automatically correcting the target trajectory.
前記撮像手段から得られる実画像上に目標駐車枠表示を重畳して表示する手段と、
入力手段を介して入力される指示に応じて前記目標駐車枠表示の表示位置を変更する第1表示位置変更手段と、
前記目標駐車枠表示の表示位置に基づいて、駐車目標位置を決定する駐車目標位置決定手段と、
前記駐車目標位置までの目標軌跡を演算する目標軌跡演算手段と、
前記目標軌跡演算手段により演算された目標軌跡に基づいて、前記駐車目標位置まで目標軌跡に沿って車両を導く駐車支援制御を行う制御手段と、
駐車支援制御実行中の車両位置を推定する車両位置推定手段と、
前記車両位置推定手段による車両位置の推定結果に基づいて、駐車支援制御実行中の車両位置の変化に応じて前記目標駐車枠表示の表示位置を変化させる第2表示位置変更手段と、
前記撮像手段から得られる実画像中の特徴点を画像認識する特徴点認識手段と、
前記駐車目標位置が決定された際の目標駐車枠表示と、前記特徴点との相対関係を参照相対関係として記憶する記憶手段と、
駐車支援制御実行中の前記特徴点認識手段による前記特徴点の認識結果に基づいて、前記第2表示位置変更手段により表示位置が変化された後の前記目標駐車枠表示と、前記特徴点との相対関係を算出する相対関係算出手段と、
前記相対関係算出手段により算出された相対関係と、前記記憶手段に記憶された参照相対関係とを比較する比較手段と、
前記比較手段の比較結果に基づいて、前記目標軌跡を修正する軌跡修正手段とを含むことを特徴とする、駐車支援装置。 Imaging means for imaging the scenery around the vehicle;
Means for superimposing and displaying the target parking frame display on the actual image obtained from the imaging means;
First display position changing means for changing the display position of the target parking frame display in response to an instruction input via the input means;
Parking target position determining means for determining a parking target position based on the display position of the target parking frame display;
Target trajectory calculating means for calculating a target trajectory up to the parking target position;
Control means for performing parking support control for guiding the vehicle along the target locus to the parking target position based on the target locus calculated by the target locus calculating means;
Vehicle position estimation means for estimating a vehicle position during execution of parking assist control;
Second display position changing means for changing the display position of the target parking frame display in accordance with a change in the vehicle position during execution of parking support control based on the estimation result of the vehicle position by the vehicle position estimating means;
Feature point recognition means for recognizing a feature point in an actual image obtained from the imaging means;
Storage means for storing a target parking frame display when the parking target position is determined and a relative relationship between the feature points as a reference relative relationship;
The target parking frame display after the display position is changed by the second display position changing unit based on the recognition result of the feature point by the feature point recognizing unit that is executing the parking support control, and the feature point A relative relationship calculating means for calculating the relative relationship;
Comparing means for comparing the relative relation calculated by the relative relation calculating means with the reference relative relation stored in the storage means;
A parking assistance apparatus comprising: a trajectory correcting means for correcting the target trajectory based on a comparison result of the comparing means.
前記入力手段は、第1表示位置変更手段に前記目標駐車枠表示の表示位置を前記白線と平行な方向に沿って変更させる指示を入力するための入力手段を含む、請求項4記載の駐車支援装置。 The feature point in the real image is a white line of the parking frame,
The parking support according to claim 4, wherein the input means includes an input means for inputting an instruction to the first display position changing means to change the display position of the target parking frame display along a direction parallel to the white line. apparatus.
前記駐車目標位置決定手段は、駐車支援制御実行中に前記第1表示位置変更手段により前記目標駐車枠表示の表示位置が変更された場合に、それに応じて変更後の前記目標駐車枠表示の表示位置に基づいて、前記駐車目標位置を再決定し、
前記目標軌跡演算手段は、駐車支援制御実行中に前記駐車目標位置決定手段により前記駐車目標位置が再決定された場合には、それに応じて再決定後の前記駐車目標位置までの前記目標軌跡を再演算する、請求項4又は6記載の駐車支援装置。 The first display position changing unit changes the display position of the target parking frame display according to the instruction when an instruction is input through the input unit during the execution of parking support control.
When the display position of the target parking frame display is changed by the first display position changing unit during execution of parking support control, the parking target position determining unit displays the target parking frame display after the change according to the change. Re-determine the parking target position based on the position;
When the parking target position is re-determined by the parking target position determining unit during execution of parking support control, the target locus calculating unit calculates the target locus to the parking target position after re-determination accordingly The parking assistance device according to claim 4 or 6, wherein recalculation is performed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007094614A JP4416000B2 (en) | 2007-03-30 | 2007-03-30 | Parking assistance device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007094614A JP4416000B2 (en) | 2007-03-30 | 2007-03-30 | Parking assistance device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003123202A Division JP4235026B2 (en) | 2003-04-28 | 2003-04-28 | Parking assistance device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007210612A JP2007210612A (en) | 2007-08-23 |
JP4416000B2 true JP4416000B2 (en) | 2010-02-17 |
Family
ID=38489393
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007094614A Expired - Fee Related JP4416000B2 (en) | 2007-03-30 | 2007-03-30 | Parking assistance device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4416000B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5660073B2 (en) | 2012-04-19 | 2015-01-28 | トヨタ自動車株式会社 | Parking assistance device, parking assistance method, and parking assistance program |
JP6755362B2 (en) * | 2019-04-25 | 2020-09-16 | 株式会社デンソーテン | Parking support device and parking support system |
JP6755361B2 (en) * | 2019-04-25 | 2020-09-16 | 株式会社デンソーテン | Parking support device and parking support system |
JP6755360B2 (en) * | 2019-04-25 | 2020-09-16 | 株式会社デンソーテン | Parking support device and parking support system |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3828655B2 (en) * | 1998-01-26 | 2006-10-04 | 本田技研工業株式会社 | Automatic vehicle steering system |
JPH11208420A (en) * | 1998-01-27 | 1999-08-03 | Nissan Motor Co Ltd | Parking guiding device and automatic parking device |
JP4104252B2 (en) * | 1999-06-22 | 2008-06-18 | 本田技研工業株式会社 | Automatic vehicle steering system |
JP4129101B2 (en) * | 1999-07-02 | 2008-08-06 | 本田技研工業株式会社 | Automatic vehicle steering system |
JP4615766B2 (en) * | 2000-12-15 | 2011-01-19 | 本田技研工業株式会社 | Parking assistance device |
JP3882565B2 (en) * | 2001-10-05 | 2007-02-21 | 三菱自動車工業株式会社 | Parking assistance device |
JP2004098729A (en) * | 2002-09-05 | 2004-04-02 | Yazaki Corp | Parking support device |
JP2004108944A (en) * | 2002-09-18 | 2004-04-08 | Nissan Motor Co Ltd | Obstacle detection device |
JP2004114879A (en) * | 2002-09-27 | 2004-04-15 | Clarion Co Ltd | Parking assisting device, and image display device |
JP4235026B2 (en) * | 2003-04-28 | 2009-03-04 | トヨタ自動車株式会社 | Parking assistance device |
-
2007
- 2007-03-30 JP JP2007094614A patent/JP4416000B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2007210612A (en) | 2007-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4235026B2 (en) | Parking assistance device | |
EP3124361B1 (en) | Parking assistance device, parking assistance method, and non-transitory computer readable medium storing program | |
JP3949073B2 (en) | Parking assistance device | |
JP4557817B2 (en) | Driving support device | |
JP6573795B2 (en) | Parking assistance device, method and program | |
EP1950097B1 (en) | Parking support device | |
JP4604703B2 (en) | Parking assistance device | |
US10179608B2 (en) | Parking assist device | |
JP2005313710A (en) | Parking assist device | |
US20130173148A1 (en) | Parking assistance apparatus | |
JP2008285083A (en) | Parking support device | |
JP2008296639A (en) | Parking support device | |
JP6318204B2 (en) | Parking exit support device | |
JP7152889B2 (en) | Steering control device, steering control method, and steering control system | |
CA3036762A1 (en) | Parking assist method and device | |
JP5257138B2 (en) | Parking assistance device and parking assistance method | |
JP2019051822A (en) | Parking support device | |
JP2019081473A (en) | Driving support device | |
JP4416000B2 (en) | Parking assistance device | |
JP6373916B2 (en) | Parking exit support device | |
JP4193780B2 (en) | Parking assistance device | |
JP3885043B2 (en) | Parking assistance device | |
JP2009269462A (en) | Parking support device | |
JP4193769B2 (en) | Parking assistance device and parking assistance method | |
KR100908421B1 (en) | Car parking assistance device and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20070511 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090331 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090528 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091104 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091117 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131204 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |