JP4457664B2 - Parking assistance device - Google Patents

Parking assistance device Download PDF

Info

Publication number
JP4457664B2
JP4457664B2 JP2003430158A JP2003430158A JP4457664B2 JP 4457664 B2 JP4457664 B2 JP 4457664B2 JP 2003430158 A JP2003430158 A JP 2003430158A JP 2003430158 A JP2003430158 A JP 2003430158A JP 4457664 B2 JP4457664 B2 JP 4457664B2
Authority
JP
Japan
Prior art keywords
vehicle
distance
parking
image
parking position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003430158A
Other languages
Japanese (ja)
Other versions
JP2005186758A (en
Inventor
英夫 山田
誠一 鈴木
敦 佐藤
俊宏 森
和昭 澤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2003430158A priority Critical patent/JP4457664B2/en
Publication of JP2005186758A publication Critical patent/JP2005186758A/en
Application granted granted Critical
Publication of JP4457664B2 publication Critical patent/JP4457664B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

この発明は、車両に搭載された駐車支援装置に係り、詳しくは、車両のイメージを3次元で表示する駐車支援装置に関するものである。   The present invention relates to a parking support device mounted on a vehicle, and more particularly to a parking support device that displays a vehicle image in three dimensions.

従来、駐車エリアに後進駐車をする際、運転者は、最初に駐車する位置を確認し、ハンドルの切返しを行いつつ、前進後退を繰り返しながら、車両を駐車位置へ導いている。このような駐車操作は、視界の悪い後方を肉眼で見ながら、また、切返す際には、車両の前部左右も確認しつつ行われるように、多数の注意するべき個所があり、運転経験が豊富な者にとっても困難な操作となっている。   Conventionally, when performing reverse parking in the parking area, the driver guides the vehicle to the parking position while confirming the position to be parked first, turning the steering wheel, and repeating forward and backward movements. This kind of parking operation has many points to watch out for, such as looking at the back with poor visibility with the naked eye and checking the front left and right of the vehicle when turning back. It is a difficult operation even for those who are rich.

このような困難な駐車操作を補助するために、車両後部に設けられたカメラによって車両の後方を撮影し、その画像をバックガイドモニターに表示するシステムがある。このシステムでは、死角領域の広い車両後方のカメラ画像を車内のバックガイドモニターに映し出すことによって、死角領域を減らし、運転者による後方の状況確認を容易なものとしている。
このようなバックガイドモニターシステムについては、例えば、以下に挙げる文献がある。
特開2002−321581号
In order to assist such a difficult parking operation, there is a system that captures the rear of the vehicle with a camera provided at the rear of the vehicle and displays the image on a back guide monitor. In this system, the camera image of the rear of the vehicle with a wide blind spot area is displayed on the back guide monitor in the vehicle, thereby reducing the blind spot area and making it easier for the driver to check the rear situation.
Regarding such a back guide monitor system, for example, there are the following documents.
JP 2002-321581

しかし、バックガイドモニターに映し出される画像は、カメラのレンズを介して取得された像であり、また、バックガイドモニター画面及び車両の移動予想軌跡は2次元の平面であることから、画面に表示された画像に立体感がなく、バックガイドモニターの画面を介して駐車位置と現在位置との距離感や、駐車位置に対する現在の車両の向きなどを感覚的に把握することが困難であるという問題がある。上記特許文献1などでは、バックガイドモニター画面に車両が移動する予想軌跡が表示される構成となっているが、輪止などの障害物までの距離感や駐車場に対する自車両の幅等の位置関係を画面から把握することはやはり難しい。
この発明は、バックガイドモニターにおいて、駐車位置に対する車両の位置や姿勢を、より直感的に把握できる駐車支援装置を提供することを目的とする。
However, the image displayed on the back guide monitor is an image acquired through the lens of the camera, and since the back guide monitor screen and the predicted movement trajectory of the vehicle are two-dimensional planes, they are displayed on the screen. There is a problem in that there is no stereoscopic effect and it is difficult to sensuously sense the distance between the parking position and the current position and the current vehicle orientation with respect to the parking position via the back guide monitor screen. is there. In Patent Document 1 and the like, an expected trajectory for the vehicle to move is displayed on the back guide monitor screen. However, a position such as a sense of distance to an obstacle such as a wheel stop or the width of the own vehicle with respect to a parking lot. It is still difficult to grasp the relationship from the screen.
An object of the present invention is to provide a parking assist device that can more intuitively grasp the position and posture of a vehicle with respect to a parking position in a back guide monitor.

以上のような問題を解決する本発明は、以下のような構成を有する。
(1)車両後方の画像を撮像する撮像手段と、
表示装置と、
車位置を入力する駐車位置入力手段と、
自車両から前記入力された駐車位置までの距離を算出する距離算出手段と、
前記車両の輪郭線図を記憶する記憶手段と、
自車両位置から前記入力された駐車位置までの予想軌跡を演算する軌跡演算手段と、
前記演算された予想軌跡と前記車両の輪郭線図とを前記撮像された画像に重畳して前記表示装置に表示するとともに、表示された輪郭線図は、車両から一定の距離離れた位置に表示される重畳表示手段と
車両の現在位置から駐車位置までの距離が、前記一定の距離に到達したか判断する判断手段と、
前記判断手段が到達したと判断した場合には、前記距離算出手段によって算出された距離が短くなるに従って、表示する前記車両の輪郭線図の奥行きを小さく設定して前記車両の輪郭線図の像を変更する奥行き設定手段とを備えることを特徴とする駐車支援装置。
The present invention for solving the above problems has the following configuration.
(1) imaging means for capturing an image of the rear of the vehicle;
A display device;
A parking position input means for inputting a parked car position,
Distance calculating means for calculating a distance from the host vehicle to the input parking position;
Storage means for storing an outline diagram of the vehicle;
Trajectory calculation means for calculating an expected trajectory from the own vehicle position to the input parking position;
And displays on the display device by superimposing the contour diagram of the computed predicted locus and the previous SL wheel both in the captured image, the displayed contour diagram, apart a predetermined distance from the vehicle position Superimposed display means displayed on
Determining means for determining whether the distance from the current position of the vehicle to the parking position has reached the certain distance;
If the determination means determines that the distance has been reached, the depth of the contour map of the vehicle to be displayed is set to be smaller as the distance calculated by the distance calculation means becomes shorter . A parking assist device comprising: depth setting means for changing the distance.

(2)前記軌跡演算手段で演算された予想軌跡上に存在する障害物があるか否かを検出する障害物検出手段とを備え、
前記障害物検出手段により障害物の存在が検出された場合、当該検出された障害物の手前に、前記車両の輪郭線図を重畳することを特徴とする上記(1)に記載の駐車支援装置。
(2) and a obstacle detection means for detecting whether there is an obstacle present on the calculated pre So軌 traces in the locus calculating means,
The parking assistance apparatus according to (1), wherein when the obstacle detection unit detects the presence of an obstacle, the outline diagram of the vehicle is superimposed in front of the detected obstacle. .

(3)前記距離算出手段により算出された距離に応じて、前記車両の輪郭線図を重畳する位置を決定することを特徴とする上記(1)に記載の駐車支援装置。
(4) 前記駐車位置入力手段は、前記表示装置に表示された前記撮像画像に基づき駐車位置を入力する上記(1)〜(3)のいずれか1に記載の駐車支援装置。
(3) pre-Symbol distance according to the distance calculated by the calculation means, the parking assist apparatus according to the above (1), characterized in that to determine the position of superimposing the contour diagram of the vehicle.
(4) The parking assistance device according to any one of (1) to (3), wherein the parking position input unit inputs a parking position based on the captured image displayed on the display device.

請求項1に記載の発明によれば、画面上には、実際の車両の輪郭が表示されるので、駐車のために後進した際の車両の位置や姿勢及び駐車場幅に対する自車幅等が画面上で把握することが容易となる。
請求項2に記載の発明によれば、障害物の手前に駐車完了時の車両輪郭図が表示されるため、障害物に接触することなく、適正な位置に車両を駐車させることができる。
請求項3に記載の発明によれば、駐車を欲する位置に応じて車両輪郭図が表示される位置が変化するので、駐車位置に向けて車両を進める際に、駐車姿勢や駐車した際の車両のイメージが把握し易く、車両操舵が一層容易となる。
請求項4に記載の発明によれば、カメラ画像を表示装置の表示画面に表示し、表示された画面に基づいて、駐車位置を運転者が入力する。つまり、画面に表示された画像の中から、運転者が駐車を欲する位置を駐車位置として指定する。
According to the invention described in claim 1, on the screen, because the contour of the actual vehicle is displayed, the vehicle width, etc. with respect to the position and posture and parking width of the vehicle when the backward for parking It becomes easy to grasp on the screen.
According to the second aspect of the present invention, since the vehicle outline diagram when parking is completed is displayed in front of the obstacle, the vehicle can be parked at an appropriate position without contacting the obstacle.
According to the third aspect of the present invention, the position at which the vehicle outline is displayed changes depending on the position where parking is desired. Therefore, when the vehicle is advanced toward the parking position, the vehicle is in a parking position or parked. This makes it easier to grasp the image and makes vehicle steering easier.
According to invention of Claim 4, a camera image is displayed on the display screen of a display apparatus, and a driver | operator inputs a parking position based on the displayed screen. That is, the position where the driver wants to park is designated as the parking position from the image displayed on the screen.

以下、本発明の好適実施形態について、添付図面に基づいて詳細に説明する。図1は本発明の駐車支援装置1の構成を示すブロック図である。駐車支援装置1は、画像処理及び演算処理等を行う演算処理装置12と、車体後部に取り付けられた撮像手段としてのカメラ13と、自車位置検出装置11と、画像を表示する表示手段としての表示装置14と、画像等の記憶手段としての記憶装置16と、舵角検出センサ15と、入力装置18と、障害物センサ19とを備え、これらの装置は、システムバス17を介して相互に接続されている。   DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments of the invention will be described in detail with reference to the accompanying drawings. FIG. 1 is a block diagram showing a configuration of a parking assistance apparatus 1 according to the present invention. The parking assist device 1 includes an arithmetic processing device 12 that performs image processing, arithmetic processing, and the like, a camera 13 as an imaging unit attached to the rear part of the vehicle body, a host vehicle position detection device 11, and a display unit that displays an image. A display device 14, a storage device 16 as a storage means for images and the like, a steering angle detection sensor 15, an input device 18, and an obstacle sensor 19 are provided, and these devices are mutually connected via a system bus 17. It is connected.

図2は、駐車位置と車両との位置関係を示す俯瞰図である。撮像手段として機能するカメラ13は、図2に示されているように、本実施形態では、車両の後端部中央部において、レンズの光軸が車両の中心線に一致するように、後方へ向けて配置されている。カメラ13は、広角レンズを使用してもよく、広角レンズを使用した場合は、より多くの車両後方の画像情報を取得することが可能となる。カメラ13は、A/D変換器131を介してシステムバス17に接続される。カメラ13から出力された画像信号は、画像処理を行うためにA/D変換器131によってデジタル信号に変換される。また、接続されたカメラ13が、デジタル信号出力が可能なものである場合には、A/D変換器131は不要である。カメラ13には、例えば、CCD素子や、CMOS素子が用いられ、電気信号として画像が取得される。   FIG. 2 is an overhead view showing the positional relationship between the parking position and the vehicle. As shown in FIG. 2, the camera 13 that functions as an imaging unit is rearward in this embodiment so that the optical axis of the lens coincides with the center line of the vehicle at the center of the rear end of the vehicle. It is arranged toward. The camera 13 may use a wide-angle lens. When a wide-angle lens is used, more image information behind the vehicle can be acquired. The camera 13 is connected to the system bus 17 via the A / D converter 131. The image signal output from the camera 13 is converted into a digital signal by the A / D converter 131 for image processing. Further, when the connected camera 13 is capable of outputting a digital signal, the A / D converter 131 is not necessary. For example, a CCD element or a CMOS element is used for the camera 13, and an image is acquired as an electric signal.

表示手段としての表示装置14は、例えば液晶ディスプレイ等で構成され、表示画像データメモリ166に格納された合成画像が表示される。表示装置14では、必要な場合には、D/A変換を行い、画像を画面に出力する。
舵角検出センサ15は、車両の移動方向を検出するための、ステアリング角度を検出するセンサである。
The display device 14 as a display means is configured by a liquid crystal display, for example, and displays a composite image stored in the display image data memory 166. If necessary, the display device 14 performs D / A conversion and outputs an image to the screen.
The steering angle detection sensor 15 is a sensor for detecting a steering angle for detecting the moving direction of the vehicle.

入力装置18は、駐車支援装置1の起動スイッチ若しくは駐車位置を入力するために用いられ、表示装置14の表示画面の表面に重ねて貼り付けられた、透明なタッチパネルセンサ板で構成されている。この表示画面に表示された領域に重なった範囲内で、画面表面に指を接触させることにより、タッチパネルセンサ板が圧力の感知と、感知位置を特定し、感知位置に応じたオン/オフのセンシングを行う。   The input device 18 is used to input an activation switch or a parking position of the parking assistance device 1 and is configured by a transparent touch panel sensor plate that is attached to the surface of the display screen of the display device 14 in an overlapping manner. By touching the screen surface with a finger within a range that overlaps the area displayed on the display screen, the touch panel sensor plate detects pressure and identifies the sensing position, and on / off sensing according to the sensing position. I do.

障害物検出手段としての障害物センサ19は、車両後方に位置する障害物を検出し、車両から障害物までの距離を測定するセンサである。この障害物センサ19は、例えば、超音波発信装置と超音波受信装置とを備え、超音波発信装置から発信され、障害物に反射して戻ってきた超音波を受信し、障害物の有無、及び障害物までの距離を測定する。   The obstacle sensor 19 as an obstacle detection means is a sensor that detects an obstacle located behind the vehicle and measures a distance from the vehicle to the obstacle. The obstacle sensor 19 includes, for example, an ultrasonic transmission device and an ultrasonic reception device, receives ultrasonic waves transmitted from the ultrasonic transmission device and reflected back to the obstacle, And measure the distance to the obstacle.

自車位置検出装置11は、自車の絶対位置を検出する装置として、例えばGPS装置を用いられ、計測開始位置(始動した地点)からの相対位置を検出する装置としては、移動距離を測定する移動距離センサ、車両の向きを検出する地磁気センサ、その他ジャイロセンサなどで構成することができる。この装置によって、自車位置と駐車位置(目標位置)との相対的な位置関係を検出する(距離検出手段)ことができる。つまり、現在の位置と駐車位置との距離、現在の位置を基準点として如何なる方向に駐車位置があるか、である。また、移動距離センサには、例えば、ABSパルスセンサ等を用いることができる。自車位置検出装置11の検出値は、システムバス17を介して演算処理装置12に供給される。   The own vehicle position detection device 11 uses, for example, a GPS device as a device that detects the absolute position of the own vehicle, and measures a movement distance as a device that detects a relative position from the measurement start position (started point). A moving distance sensor, a geomagnetic sensor for detecting the direction of the vehicle, and other gyro sensors can be used. With this device, the relative positional relationship between the vehicle position and the parking position (target position) can be detected (distance detection means). That is, the distance between the current position and the parking position, and in what direction the parking position is located with the current position as a reference point. Moreover, an ABS pulse sensor etc. can be used for a movement distance sensor, for example. The detection value of the vehicle position detection device 11 is supplied to the arithmetic processing device 12 via the system bus 17.

記憶装置16は、主として画像を記憶する装置で、例えば、ハードディスクドライブ装置や、メモリーチップなどにより構成される。記憶装置16は、画像データを記録する画像データメモリ16Aと、演算された予想軌跡データを記憶する演算軌跡データメモリ16Bとを有している。画像データメモリ16Aは、カメラ13の取得した画像をそのまま記録するカメラ画像データメモリ161、車両の車体輪郭線図を示す3次元輪郭線図データを記憶する輪郭画像データ162、車両と駐車位置との位置関係に応じて3次元輪郭データを画像処理した画像を記憶する輪郭変換画像データメモリ164、駐車位置に自車が駐車したと想定した場合の、現在位置から視認した場合の像に変換した画像を記憶する駐車位置輪郭画像データメモリ165とを備えている。輪郭画像データメモリ162は、本発明における記憶手段ととして機能する。   The storage device 16 is a device that mainly stores images, and includes, for example, a hard disk drive device or a memory chip. The storage device 16 includes an image data memory 16A that records image data, and a calculated trajectory data memory 16B that stores calculated expected trajectory data. The image data memory 16A is a camera image data memory 161 that directly records an image acquired by the camera 13, contour image data 162 that stores three-dimensional contour map data indicating a vehicle body contour diagram of the vehicle, and a vehicle and a parking position. Contour conversion image data memory 164 that stores an image obtained by performing image processing on the three-dimensional contour data according to the positional relationship, an image converted into an image when viewed from the current position when it is assumed that the vehicle is parked at the parking position Parking position contour image data memory 165 is stored. The contour image data memory 162 functions as storage means in the present invention.

演算処理装置12は、中央処理装置[CPU(Central Processing Unit)]121と、リードオンリーメモリ[ROM]122と、ランダムアクセスメモリ[RAM]123とを備えている。中央処理装置121は、カメラ13で取得した画像に対して車両の輪郭線図を示す3次元画像の重畳処理、車両の輪郭を示す3次元画像データの表示すべき位置及び方向や大きさを変えた画像に変換する処理、現在位置から駐車位置までの予想軌跡を演算する処理、仮想車両21と障害物との接触判定処理などを行う。   The arithmetic processing unit 12 includes a central processing unit [CPU (Central Processing Unit)] 121, a read-only memory [ROM] 122, and a random access memory [RAM] 123. The central processing unit 121 superimposes a three-dimensional image indicating a vehicle contour diagram on the image acquired by the camera 13, and changes the position, direction, and size of the three-dimensional image data indicating the vehicle contour. A process for converting to an image, a process for calculating an expected trajectory from the current position to the parking position, a contact determination process for the virtual vehicle 21 and the obstacle, and the like are performed.

以上のように構成された本発明の駐車支援装置1の作用を図3に示されているフローチャートに基づき説明する。
演算処理装置12は、入力装置18からの本装置の起動スイッチがオンに基づき、初期化を行う(ステップS101)。初期化とは、前回使用した際に決定した自車両の現在位置を基準位置にリセットするなどの動作がある。また、起動スイッチのオンに限らず、シフトレバーをバックに入れたときに起動する構成としてもよい。
The operation of the parking assistance apparatus 1 of the present invention configured as described above will be described based on the flowchart shown in FIG.
The arithmetic processing unit 12 performs initialization based on the start switch of the apparatus being turned on from the input device 18 (step S101). Initialization includes operations such as resetting the current position of the host vehicle determined at the previous use to a reference position. Moreover, it is good also as a structure which starts not only when an activation switch is turned on but when a shift lever is put in the back.

カメラ13により撮像を開始する(ステップS103)。撮像された画像は、カメラ画像データメモリ161に記録される。同時に、カメラ画像を表示装置14の表示画面に表示する(ステップS105)。表示された画面に基づいて、駐車位置P0を運転者が入力する(ステップS107)。つまり、画面に表示された画像の中から、運転者が駐車を欲する位置を駐車位置として指定する。この位置の指定は、画面に映し出された車両後方の画像の中で、駐車する位置に指を触れることにより行われる。これにより、画面に重ねて設けられているタッチパネルセンサ板が、指が触れた位置を検出する。カメラ13は車両に固定されている為、画面に表示される画像の倍率、画角から、画面に指が触れた位置に応じた位置情報、つまり、自車両から入力された駐車位置までの相対的な距離を算出することができる。つまり、画面上のタッチ位置により現在の車両位置P1から駐車位置P0へ向かう方向と、距離を算出する(距離算出手段)ことができる。ステップS107により駐車位置入力手段が構成される。   Imaging is started by the camera 13 (step S103). The captured image is recorded in the camera image data memory 161. At the same time, the camera image is displayed on the display screen of the display device 14 (step S105). Based on the displayed screen, the driver inputs the parking position P0 (step S107). That is, the position where the driver wants to park is designated as the parking position from the image displayed on the screen. The designation of this position is performed by touching the position where the vehicle is parked in the image behind the vehicle displayed on the screen. As a result, the touch panel sensor plate provided on the screen detects the position touched by the finger. Since the camera 13 is fixed to the vehicle, the relative position from the magnification and the angle of view of the image displayed on the screen to the position information corresponding to the position where the finger touches the screen, that is, the parking position input from the own vehicle. The effective distance can be calculated. That is, the direction from the current vehicle position P1 to the parking position P0 and the distance can be calculated by the touch position on the screen (distance calculation means). A parking position input means is comprised by step S107.

次に、舵角検出センサ15から自車両の舵角を取得する(ステップS109)。ステップS107で入力した駐車位置P0と、ステップS109で取得した舵角から、その舵角で車両を後退させた場合には、どのような移動軌跡になるかを表示するための予想軌跡31、32を演算する(ステップS111)。予想軌跡の演算方法は、公知の方法を用いる。算出された予想軌跡は、演算軌跡データメモリ16Bに格納される。ステップS111により軌跡演算手段が構成される。   Next, the steering angle of the host vehicle is acquired from the steering angle detection sensor 15 (step S109). Expected trajectories 31 and 32 for displaying the moving trajectory when the vehicle is moved backward at the rudder angle from the parking position P0 input in step S107 and the rudder angle acquired in step S109. Is calculated (step S111). A known method is used as a method for calculating the expected trajectory. The calculated expected trajectory is stored in the calculation trajectory data memory 16B. Step S111 constitutes a locus calculation means.

駐車位置P0と現在の車両位置P1との位置関係とは、車両位置P1から駐車位置P0へ向かう方向と、駐車位置P0と現在の車両位置P1とを結ぶ直線距離によって規定される。例えば、カメラ13の設置位置を通る車両の中心線から、右方向に30°の方向で、車両位置P1から5m離れた位置に駐車位置P0が設定される。そして、設定された駐車位置P0と現在の車両位置P1との間の、移動予測軌跡が演算される。予想軌跡は、左右後輪の予想軌跡が演算される。この他、左右前輪の予想軌跡を演算してもよい。又は、左右前後輪の予想軌跡を演算してもよい。或は、車両の重心の予想軌跡を演算してもよい。   The positional relationship between the parking position P0 and the current vehicle position P1 is defined by a direction from the vehicle position P1 toward the parking position P0 and a linear distance connecting the parking position P0 and the current vehicle position P1. For example, the parking position P 0 is set at a position 5 m away from the vehicle position P 1 in the direction of 30 ° to the right from the center line of the vehicle passing through the installation position of the camera 13. Then, a movement predicted trajectory between the set parking position P0 and the current vehicle position P1 is calculated. As the expected trajectory, the expected trajectories of the left and right rear wheels are calculated. In addition, the predicted trajectory of the left and right front wheels may be calculated. Alternatively, predicted trajectories of the left and right front and rear wheels may be calculated. Alternatively, an expected trajectory of the center of gravity of the vehicle may be calculated.

次に、車両の3次元輪郭線図データを、輪郭画像データメモリ162から読み出す(ステップS113)。この実施形態では、車両の3次元データは、車両輪郭を3次元的に示すワイヤーフレームであり、車体の輪郭や、窓、ヘッドライト、テールランプ、車輪等を線で表す画像に関するデータである。輪郭画像で表される仮想車両21は、ワイヤーフレームに限らず、半透明の車両画像としてもよい。つまり、車両の画像を重ねた時に、車両に重なる部分の後部画像が見えるような輪郭画像であることが好ましい。これは、後述する障害物との位置関係を把握することが容易となるからである。   Next, the three-dimensional contour diagram data of the vehicle is read from the contour image data memory 162 (step S113). In this embodiment, the three-dimensional data of the vehicle is a wire frame that three-dimensionally represents the vehicle contour, and is data relating to an image representing the contour of the vehicle body, windows, headlights, tail lamps, wheels, and the like with lines. The virtual vehicle 21 represented by the contour image is not limited to a wire frame, and may be a translucent vehicle image. That is, it is preferable that the contour image is such that when the vehicle images are superimposed, the rear image overlapping the vehicle can be seen. This is because it becomes easy to grasp the positional relationship with an obstacle described later.

次に演算処理を行う(ステップS115)。図4は、演算処理の内容を示すフローチャートである。障害物センサ19によって障害物を検出する(ステップS201)。障害物の位置は、撮像した画像からの情報から、画像処理により検出する構成とすることもできる。障害物は、例えば、塀、輪止め、他の車両などがある。ステップS201により障害物検出手段が構成される。   Next, arithmetic processing is performed (step S115). FIG. 4 is a flowchart showing the contents of the arithmetic processing. An obstacle is detected by the obstacle sensor 19 (step S201). The position of the obstacle may be detected by image processing from information from the captured image. Examples of the obstacle include a bag, a wheel stopper, and other vehicles. Step S201 constitutes an obstacle detection means.

障害物が検出されるとステップS201で取得した障害物の位置及び距離から、予想軌跡31、32上を車両が移動した場合、障害物に接触するか否かを判断する(ステップS203)。接触判定は、例えば、予想軌跡上(予想軌跡31、32上、若しくは予想軌跡31、32の間)に障害物4が位置しているか否かにより判定する。また、左右の車輪の軌跡を求めている場合には、左右の内、いずれか一方の予想軌跡31(32)に障害物4の一部が接触している場合にも、接触しているものと判定する。   When an obstacle is detected, it is determined from the position and distance of the obstacle acquired in step S201 if the vehicle moves on the expected trajectories 31 and 32, whether or not the obstacle is touched (step S203). The contact determination is performed based on, for example, whether or not the obstacle 4 is located on the predicted trajectory (on the predicted trajectories 31 and 32 or between the predicted trajectories 31 and 32). Further, when the trajectories of the left and right wheels are obtained, even when a part of the obstacle 4 is in contact with either one of the left and right expected trajectories 31 (32) Is determined.

接触する、と判定された場合には、輪郭線図で表される仮想車両21の表示位置を、ステップS201で検出された障害物4の手前の位置に決定する(ステップS205)。後進時に障害物4との接触を防止するためである。従って、このステップS205は、指定された駐車位置P0に優先して決定される。   If it is determined that they are in contact with each other, the display position of the virtual vehicle 21 represented by the outline diagram is determined to be a position before the obstacle 4 detected in step S201 (step S205). This is to prevent contact with the obstacle 4 during reverse travel. Therefore, this step S205 is determined with priority over the designated parking position P0.

さらに、予想軌跡31、32に基づき、仮想車両21の向きを決定する(ステップS207)。即ち、予想軌跡31、32に沿って仮想車両21の中心線が位置するように、仮想車両21の向きを決定する。このように決定された仮想車両21のデータは、輪郭変換画像データメモリ164に格納される。   Furthermore, the direction of the virtual vehicle 21 is determined based on the expected trajectories 31 and 32 (step S207). That is, the orientation of the virtual vehicle 21 is determined so that the center line of the virtual vehicle 21 is positioned along the expected trajectories 31 and 32. The data of the virtual vehicle 21 determined in this way is stored in the contour conversion image data memory 164.

次に、車両と、決定された駐車位置との距離を判定し、その距離に基づき、仮想車両21の画面内での大きさを決定する。距離が長ければ、小さく、短ければ、大きく表示される。このように最終的に画像に重畳される輪郭データが駐車位置輪郭画像データメモリ165に格納される。   Next, the distance between the vehicle and the determined parking position is determined, and the size of the virtual vehicle 21 in the screen is determined based on the distance. If the distance is long, it is small, and if it is short, it is displayed large. Thus, the contour data finally superimposed on the image is stored in the parking position contour image data memory 165.

駐車位置輪郭画像データメモリ162に格納されている車両2の3次元データを画像に合成する(ステップS117)。合成された画像は、表示画像データメモリ166に格納され、表示装置14に表示される(ステップS119)。図5は、画像が表示されている状態の表示画面141の平面図である。駐車位置P0には、仮想車両21のワイヤーフレームによる輪郭像が表示され、後輪の予想軌跡31、32が表示される。ステップS117、S119により、重畳表示手段が構成される。
なお、ステップS107で駐車位置P0を指定しない場合には、ステップS109で取得した舵角に基づき予想軌跡を算出することができ、ステップS205において、駐車位置が決定される。
The three-dimensional data of the vehicle 2 stored in the parking position contour image data memory 162 is combined with an image (step S117). The synthesized image is stored in the display image data memory 166 and displayed on the display device 14 (step S119). FIG. 5 is a plan view of the display screen 141 in a state where an image is displayed. At the parking position P0, a contour image of the virtual vehicle 21 by the wire frame is displayed, and the expected trajectories 31 and 32 of the rear wheels are displayed. Steps S117 and S119 constitute superimposing display means.
If the parking position P0 is not designated in step S107, an expected trajectory can be calculated based on the steering angle acquired in step S109, and the parking position is determined in step S205.

次に第2実施形態の駐車支援装置1の作用について、図6に示されているフローチャートに基づき説明する。演算処理装置12は、入力装置18から本装置の起動スイッチがオンに基づき、初期値の読み込み及び、初期化を行う(ステップS301)。初期値の読み込みは、例えば、表示される車両の輪郭画像の選択がある。車両全体の輪郭画像を表示するか、又は車両後部の輪郭画像のみを表示するか等の選択ができる。この実施形態では、図7に示されているように、車体全体像、図8に示されているような後部半分の像、図9に示されているような後端部の像の3つが入力装置18により選択できる。このような像の選択は、駐車位置と車両の現在位置との距離に応じて、自動的に変更する構成とすることもできる。例えば、距離が短くなるに従って、表示される像の奥行きも小さく設定される。具体的には、駐車位置までの距離が、車両の全長Lより長い場合には、全体像、全長より短く、全長の半分より短い場合には、後部半分の像、全長の半分よりも短くなった場合は、後端部の像に切り替わる。   Next, the effect | action of the parking assistance apparatus 1 of 2nd Embodiment is demonstrated based on the flowchart shown by FIG. The arithmetic processing unit 12 reads and initializes the initial value based on the activation switch of the apparatus being turned on from the input device 18 (step S301). The reading of the initial value includes, for example, selection of a vehicle contour image to be displayed. It is possible to select whether to display the contour image of the entire vehicle or only the contour image of the rear part of the vehicle. In this embodiment, as shown in FIG. 7, there are three images: the entire vehicle body image, the rear half image as shown in FIG. 8, and the rear end image as shown in FIG. It can be selected by the input device 18. The selection of such an image can be automatically changed according to the distance between the parking position and the current position of the vehicle. For example, as the distance becomes shorter, the depth of the displayed image is also set smaller. Specifically, when the distance to the parking position is longer than the full length L of the vehicle, the whole image is shorter than the full length, and when the distance is shorter than half the full length, the rear half image is shorter than the full length half. If it is, the image is switched to the rear end image.

また、初期化とは、自車位置検出装置11において現在位置を基準位置にリセットするなどの動作がある。また、起動スイッチのオンに限らず、シフトレバーをバックに入れたときに起動する構成としてもよい。   The initialization includes an operation such as resetting the current position to the reference position in the vehicle position detection device 11. Moreover, it is good also as a structure which starts not only when an activation switch is turned on but when a shift lever is put in the back.

カメラ13により撮像を開始する(ステップS303)。画像は、カメラ画像データメモリ161に記録される。同時に、カメラ画像を表示装置14の画面に表示する(ステップS305)。表示された画面に基づいて、駐車位置P0を運転者が入力する(ステップS307)。つまり、画面に表示された画像の中から、運転者が駐車を欲する位置を駐車位置として指定する。この指定方法は、前実施形態のステップS107と同様であるので、説明を省略する。図10に示されているように、駐車位置P0と車両の現在位置P1の位置関係が特定される。   Imaging is started by the camera 13 (step S303). The image is recorded in the camera image data memory 161. At the same time, the camera image is displayed on the screen of the display device 14 (step S305). Based on the displayed screen, the driver inputs the parking position P0 (step S307). That is, the position where the driver wants to park is designated as the parking position from the image displayed on the screen. Since this designation method is the same as step S107 in the previous embodiment, the description thereof is omitted. As shown in FIG. 10, the positional relationship between the parking position P0 and the current position P1 of the vehicle is specified.

次に、駐車支援処理(ステップS309)を行う。図11は、駐車支援処理の内容を示すフローチャートである。カメラ13より車両後方の画像を取得し(ステップS401)、舵角検出センサ15より舵角を検出する(ステップS403)。ステップS307で取得した駐車位置P0及び舵角により、現在位置P1から駐車位置P0へ至る予想軌跡を演算する(ステップS405)。この予想軌跡は、左右後輪の軌跡である。演算方法、軌跡の内容については、前記実施形態のステップS111の内容と同様である。
次に、前実施形態のステップS113と同様に車両3次元データを輪郭画像データメモリ162から読み出す(ステップS407)。
Next, parking support processing (step S309) is performed. FIG. 11 is a flowchart showing the contents of the parking support process. An image behind the vehicle is acquired from the camera 13 (step S401), and the steering angle is detected by the steering angle detection sensor 15 (step S403). An expected trajectory from the current position P1 to the parking position P0 is calculated from the parking position P0 and the steering angle acquired in step S307 (step S405). This expected trajectory is a trajectory of the left and right rear wheels. The calculation method and the content of the trajectory are the same as the content of step S111 in the embodiment.
Next, the vehicle three-dimensional data is read from the contour image data memory 162 as in step S113 of the previous embodiment (step S407).

次に仮想車両画像の表示位置を設定するための演算処理を行う(ステップS409)。図12は、演算処理の内容を示すフローチャートである。演算処理では、自車位置P1と駐車位置P0との距離を算出する(ステップS501)。この距離の算出は、最初に駐車位置P0を設定した際に算出された駐車位置P0までの距離から、車両が移動した距離を差し引くことで、求められる。車両の移動距離は、自車位置検出装置11から得られる。このステップS501によって距離算出手段が構成される。   Next, calculation processing for setting the display position of the virtual vehicle image is performed (step S409). FIG. 12 is a flowchart showing the contents of the arithmetic processing. In the calculation process, the distance between the vehicle position P1 and the parking position P0 is calculated (step S501). This distance is calculated by subtracting the distance traveled by the vehicle from the distance to the parking position P0 calculated when the parking position P0 is initially set. The travel distance of the vehicle is obtained from the vehicle position detection device 11. This step S501 constitutes a distance calculation means.

表示装置14の画面に表示される仮想車両の輪郭画像は、ワイヤーフレームで構成されているが、その内容は、初期値設定(ステップS301)の説明で既述のように、予め設定されている。そして、表示画面141内では、車両が一定の距離X離れた位置に仮想車両が位置するように設定されている。   The contour image of the virtual vehicle displayed on the screen of the display device 14 is composed of a wire frame, and the content is set in advance as described above in the description of the initial value setting (step S301). . And in the display screen 141, it sets so that a virtual vehicle may be located in the position where the vehicle was separated from the fixed distance X.

車両が後進し、駐車位置P0に近づくと、最初に仮想車両が駐車位置P0に到達する。そこで、車両の現在位置P1から駐車位置P0までの距離が、距離Xに到達したか判断する(ステップS503)。到達した場合には、仮想車両211の位置を駐車位置P0上で固定する(ステップS505)。仮想車両211の位置を固定したので、車両2と仮想車両211の距離Xは、車両2の後進に伴って、短くなる。そこで、距離Xが車両の全長より短いか判断し(ステップS507)、短い場合には、仮想車両を後部半分の仮想車両212に変更する(ステップS509)。又、さらに短くなり、距離Xが車両全長の半分の長さよりも短くなったか判断し(ステップS507)、短い場合には、車両後端部の輪郭画像213に変更する(ステップS509)。このように、駐車位置P0までの距離に応じて、表示内容を変更する。   When the vehicle moves backward and approaches the parking position P0, the virtual vehicle first reaches the parking position P0. Therefore, it is determined whether the distance from the current position P1 of the vehicle to the parking position P0 has reached the distance X (step S503). If it has arrived, the position of the virtual vehicle 211 is fixed on the parking position P0 (step S505). Since the position of the virtual vehicle 211 is fixed, the distance X between the vehicle 2 and the virtual vehicle 211 becomes shorter as the vehicle 2 moves backward. Therefore, it is determined whether the distance X is shorter than the total length of the vehicle (step S507). If it is shorter, the virtual vehicle is changed to the rear half virtual vehicle 212 (step S509). Further, it is further determined whether or not the distance X is shorter than half the total vehicle length (step S507). If the distance X is shorter, the contour image 213 at the rear end of the vehicle is changed (step S509). Thus, the display content is changed according to the distance to the parking position P0.

このように決定された仮想車両の輪郭画像を、カメラ画像に合成し(ステップS411)、表示装置14の表示画面141に表示する(ステップS413)。表示画面141には、図13に示されているように、予想軌跡31、32、3次元輪郭画像211が表示される。   The contour image of the virtual vehicle thus determined is combined with the camera image (step S411) and displayed on the display screen 141 of the display device 14 (step S413). As shown in FIG. 13, predicted trajectories 31 and 32 and a three-dimensional contour image 211 are displayed on the display screen 141.

駐車支援終了トリガがあったか判断する(ステップS415)。ない場合には、ステップS401にリターンし、ステップS415までの処理を繰り返す。終了トリガがあった場合には、駐車支援ルーチンを終了する。終了トリガは、例えば、シフトレバーのパーキング位置以外へのセット、イグニッションオフ等が挙げられる。
このように、車両が後退し、仮想車両が駐車位置に固定されると、車両が駐車位置に接近するに従って、表示画面に表示される仮想車両(輪郭画像)の内容が変化し、最終的に、車両2の後部と仮想車両213の後部が重なる位置で、駐車位置への移動が完了する。
It is determined whether there has been a parking assistance end trigger (step S415). If not, the process returns to step S401 and repeats the process up to step S415. If there is an end trigger, the parking support routine is ended. Examples of the end trigger include setting the shift lever to a position other than the parking position, and turning off the ignition.
Thus, when the vehicle moves backward and the virtual vehicle is fixed at the parking position, the content of the virtual vehicle (contour image) displayed on the display screen changes as the vehicle approaches the parking position, and finally The movement to the parking position is completed at the position where the rear part of the vehicle 2 and the rear part of the virtual vehicle 213 overlap.

駐車支援装置の構成を示すブロック図である。It is a block diagram which shows the structure of a parking assistance apparatus. 駐車位置と車両の位置関係を示す俯瞰図である。It is an overhead view which shows the positional relationship of a parking position and a vehicle. 駐車支援装置の作用を示すフローチャートである。It is a flowchart which shows an effect | action of a parking assistance apparatus. 演算処理の内容を示すフローチャートである。It is a flowchart which shows the content of the arithmetic processing. 表示画面に表示された画像の内容を示す平面図である。It is a top view which shows the content of the image displayed on the display screen. 他の実施形態のフローチャートである。It is a flowchart of other embodiment. 車両と仮想車両との位置関係による、輪郭画像の表示内容を示す平面図である。It is a top view which shows the display content of the outline image by the positional relationship of a vehicle and a virtual vehicle. 車両と仮想車両との位置関係による、輪郭画像の表示内容を示す平面図である。It is a top view which shows the display content of the outline image by the positional relationship of a vehicle and a virtual vehicle. 車両と仮想車両との位置関係による、輪郭画像の表示内容を示す平面図である。It is a top view which shows the display content of the outline image by the positional relationship of a vehicle and a virtual vehicle. 駐車位置と車両の位置関係を示す俯瞰図である。It is an overhead view which shows the positional relationship of a parking position and a vehicle. 駐車支援処理内容を示すフローチャートである。It is a flowchart which shows the parking assistance process content. 他の実施形態の演算処理の内容を示すフローチャートである。It is a flowchart which shows the content of the arithmetic processing of other embodiment. 表示画面に表示された画像の内容を示す平面図である。It is a top view which shows the content of the image displayed on the display screen.

符号の説明Explanation of symbols

1 駐車支援装置
12 演算処理装置
13 カメラ
14 表示装置
16 記憶装置
21 仮想車両(輪郭画像)
31、32 予想軌跡
P0 駐車位置
DESCRIPTION OF SYMBOLS 1 Parking assistance apparatus 12 Arithmetic processing apparatus 13 Camera 14 Display apparatus 16 Memory | storage device 21 Virtual vehicle (contour image)
31, 32 Expected locus P0 Parking position

Claims (4)

車両後方の画像を撮像する撮像手段と、
表示装置と、
車位置を入力する駐車位置入力手段と、
自車両から前記入力された駐車位置までの距離を算出する距離算出手段と、
前記車両の輪郭線図を記憶する記憶手段と、
自車両位置から前記入力された駐車位置までの予想軌跡を演算する軌跡演算手段と、
前記演算された予想軌跡と前記車両の輪郭線図とを前記撮像された画像に重畳して前記表示装置に表示するとともに、表示された輪郭線図は、車両から一定の距離離れた位置に表示される重畳表示手段と
車両の現在位置から駐車位置までの距離が、前記一定の距離に到達したか判断する判断手段と、
前記判断手段が到達したと判断した場合には、前記距離算出手段によって算出された距離が短くなるに従って、表示する前記車両の輪郭線図の奥行きを小さく設定して前記車両の輪郭線図の像を変更する奥行き設定手段とを備えることを特徴とする駐車支援装置。
Imaging means for capturing an image of the rear of the vehicle;
A display device;
A parking position input means for inputting a parked car position,
Distance calculating means for calculating a distance from the host vehicle to the input parking position;
Storage means for storing an outline diagram of the vehicle;
Trajectory calculation means for calculating an expected trajectory from the own vehicle position to the input parking position;
And displays on the display device by superimposing the contour diagram of the computed predicted locus and the previous SL wheel both in the captured image, the displayed contour diagram, apart a predetermined distance from the vehicle position Superimposed display means displayed on
Determining means for determining whether the distance from the current position of the vehicle to the parking position has reached the certain distance;
If the determination means determines that the distance has been reached, the depth of the contour map of the vehicle to be displayed is set to be smaller as the distance calculated by the distance calculation means becomes shorter . A parking assist device comprising: depth setting means for changing the distance.
前記軌跡演算手段で演算された予想軌跡上に存在する障害物があるか否かを検出する障害物検出手段とを備え、
前記障害物検出手段により障害物の存在が検出された場合、当該検出された障害物の手前に、前記車両の輪郭線図を重畳することを特徴とする請求項1に記載の駐車支援装置。
Obstacle detection means for detecting whether there is an obstacle present on the expected trajectory calculated by the trajectory calculation means,
The parking assistance device according to claim 1, wherein when an obstacle is detected by the obstacle detection unit, an outline diagram of the vehicle is superimposed in front of the detected obstacle.
前記距離算出手段により算出された距離に応じて、前記車両の郭線図を重畳する位置を決定することを特徴とする請求項1に記載の駐車支援装置。 It said distance calculated according to the distance calculated by means parking assist apparatus according to claim 1, characterized in that to determine the position of superimposing the contour diagram of the vehicle. 前記駐車位置入力手段は、前記表示装置に表示された前記撮像画像に基づき駐車位置を入力する請求項1〜3のいずれか1に記載の駐車支援装置。 The parking assistance device according to any one of claims 1 to 3, wherein the parking position input means inputs a parking position based on the captured image displayed on the display device.
JP2003430158A 2003-12-25 2003-12-25 Parking assistance device Expired - Fee Related JP4457664B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003430158A JP4457664B2 (en) 2003-12-25 2003-12-25 Parking assistance device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003430158A JP4457664B2 (en) 2003-12-25 2003-12-25 Parking assistance device

Publications (2)

Publication Number Publication Date
JP2005186758A JP2005186758A (en) 2005-07-14
JP4457664B2 true JP4457664B2 (en) 2010-04-28

Family

ID=34788613

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003430158A Expired - Fee Related JP4457664B2 (en) 2003-12-25 2003-12-25 Parking assistance device

Country Status (1)

Country Link
JP (1) JP4457664B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007118922A (en) * 2005-09-27 2007-05-17 Clarion Co Ltd Vehicular reverse operation assisting device
FR3056325B1 (en) * 2016-09-20 2018-10-05 Renault S.A.S. METHOD FOR DETERMINING AN ASSEMBLY DIMENSION OF A VEHICLE EQUIPPED WITH AN EXTERNAL LOAD
JP7030438B2 (en) * 2017-07-26 2022-03-07 日産自動車株式会社 Vehicle display method and vehicle display device
JP7172309B2 (en) * 2018-09-06 2022-11-16 株式会社アイシン Perimeter monitoring device
JP7183117B2 (en) * 2019-06-06 2022-12-05 エムケー精工株式会社 car wash equipment
DE102019209813B4 (en) * 2019-07-04 2022-06-30 Zf Friedrichshafen Ag Device for navigating an actual vehicle through at least a portion of a target trajectory, method and use

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3508665B2 (en) * 1999-12-24 2004-03-22 株式会社豊田自動織機 Steering support device
JP3693912B2 (en) * 2000-05-30 2005-09-14 アイシン精機株式会社 Relative position detection device and parking assist device provided with the relative position detection device
JP4493885B2 (en) * 2000-06-30 2010-06-30 パナソニック株式会社 Driving support system
JP3645196B2 (en) * 2001-02-09 2005-05-11 松下電器産業株式会社 Image synthesizer
JP3882517B2 (en) * 2001-03-21 2007-02-21 日産自動車株式会社 Parking position setting device
JP4861574B2 (en) * 2001-03-28 2012-01-25 パナソニック株式会社 Driving assistance device
JP2003072495A (en) * 2001-09-06 2003-03-12 Yazaki Corp Parking support device and parking support method
JP3933935B2 (en) * 2002-01-10 2007-06-20 トヨタ自動車株式会社 Parking assistance device

Also Published As

Publication number Publication date
JP2005186758A (en) 2005-07-14

Similar Documents

Publication Publication Date Title
JP3945467B2 (en) Vehicle retraction support apparatus and method
CN107097721B (en) Driving support device
JP4815993B2 (en) Parking support method and parking support device
EP2464113B1 (en) Vehicle peripheral image generation device
EP1803602A1 (en) Driving assist method and driving assist apparatus
JP6110349B2 (en) Parking assistance device
US20100156671A1 (en) Device and method for assisting a parking maneuver of a vehicle
JP6096155B2 (en) Driving support device and driving support system
JP5104171B2 (en) Parking assistance device and parking assistance method
JP4945177B2 (en) Vehicle driving support device
JP5182137B2 (en) Vehicle periphery display device
JP6918203B2 (en) Parking support device
JP6760122B2 (en) Peripheral monitoring device
JP2007223338A (en) Display system, moving body, display method, display program and storage medium thereof
JP5067169B2 (en) Vehicle parking assistance apparatus and image display method
JP2012073836A (en) Image display system, image processing apparatus, and image display method
JP2003300444A (en) Drive support device for moving body
JPWO2019003530A1 (en) Driving support device
JP4457664B2 (en) Parking assistance device
JPWO2017179206A1 (en) Parking assistance display control apparatus and parking assistance display control method
WO2019073872A1 (en) Parking assistance device
JP2004213489A (en) Driving support device for vehicle
JP5408482B2 (en) Peripheral recognition support device
JP5709460B2 (en) Driving support system, driving support method, and driving support program
JP2004123057A (en) Parking support device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080930

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080930

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100201

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140219

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees