JP5605606B2 - Parking assistance device - Google Patents

Parking assistance device Download PDF

Info

Publication number
JP5605606B2
JP5605606B2 JP2010056356A JP2010056356A JP5605606B2 JP 5605606 B2 JP5605606 B2 JP 5605606B2 JP 2010056356 A JP2010056356 A JP 2010056356A JP 2010056356 A JP2010056356 A JP 2010056356A JP 5605606 B2 JP5605606 B2 JP 5605606B2
Authority
JP
Japan
Prior art keywords
obstacle
vehicle body
image
display
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010056356A
Other languages
Japanese (ja)
Other versions
JP2011193137A (en
Inventor
昇 長嶺
圭吾 池田
広康 細井
浩一郎 本多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2010056356A priority Critical patent/JP5605606B2/en
Publication of JP2011193137A publication Critical patent/JP2011193137A/en
Application granted granted Critical
Publication of JP5605606B2 publication Critical patent/JP5605606B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0275Parking aids, e.g. instruction means by overlaying a vehicle path based on present steering angle over an image without processing that image

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は駐車支援装置に関し、詳しくは、車体の後進時に車体の後方を撮影した撮影画像を車内のモニタに表示し、この撮影画像に対して駐車を支援するための情報を重畳表示する駐車支援装置の改良に関し、詳しくは、障害物を報知する技術に関する。   The present invention relates to a parking support device, and more particularly, a parking support that displays a captured image obtained by capturing the rear of the vehicle body when the vehicle is moving backward on a monitor in the vehicle and displays information for assisting parking on the captured image. More specifically, the present invention relates to a technique for notifying an obstacle.

上記のように構成された駐車支援装置として特許文献1には、車輌(車体)を後進させて駐車目標位置に導入する際にカメラユニットで撮影した後方の画像をディスプレイに表示すると共に、このディスプレイに対してステアリング角度に応じた進行予測曲線表示する点が記載されている。この特許文献1には、超音波バックソナーによって障害物を検出した場合には、警報音を発生させ障害物を強調表示することや、障害物の接近に合わせて進行予測曲線の色を変化させることや、進行予測曲線の背景の画像の色を変化させる等の点が記載されている。   As a parking assistance device configured as described above, Patent Document 1 discloses a rear image captured by a camera unit when a vehicle (vehicle body) is moved backward and introduced into a parking target position. On the other hand, a point of displaying a progress prediction curve corresponding to the steering angle is described. In Patent Document 1, when an obstacle is detected by an ultrasonic back sonar, an alarm sound is generated to highlight the obstacle, or the color of the progress prediction curve is changed in accordance with the approach of the obstacle. And points such as changing the color of the background image of the progress prediction curve.

上記のように構成された駐車支援装置として特許文献2には、車輌(車体)には後方を撮影する撮像装置としてのカメラと、距離検出装置として複数の超音波センサとを備えた点が記載されている。この特許文献1には、超音波センサで障害物を検出した場合には、ディスプレイの画面上に障害物を含む円状の領域が表示され、この領域では、領域原点からの距離に対して赤色の明度が減少する変調画像が撮影画像に重畳表示される点が記載されている。   As a parking assistance device configured as described above, Patent Document 2 describes that a vehicle (vehicle body) includes a camera as an imaging device that captures the rear and a plurality of ultrasonic sensors as distance detection devices. Has been. In Patent Document 1, when an obstacle is detected by an ultrasonic sensor, a circular area including the obstacle is displayed on the screen of the display. In this area, the red color is displayed with respect to the distance from the area origin. It is described that a modulated image whose brightness is reduced is superimposed on the captured image.

特開2000‐177512号公報JP 2000-177512 A 特許第3608527号公報Japanese Patent No. 3608527

特許文献1に記載されるように、車体の後方の撮影画像をモニタに表示し、これに進行予測曲線を表示するものは、進行予測曲線に基づいてステアリング操作を行うことで駐車目標位置への車体の移動の精度を高め得るものとなる。   As described in Patent Document 1, an image taken behind the vehicle body is displayed on a monitor, and a progress prediction curve is displayed on the monitor. The accuracy of the movement of the vehicle body can be improved.

車体を後進させながら駐車目標位置に車体を移動する際には、車体が障害物に接触する不都合を避けるために注意を払う必要がある。このような必要性があるものの、車体の後方を撮影画像で確認する場合には、モニタに表示される駐車位置や、車体が走行すべき経路に意識を集中し過ぎるため、例えば、モニタに表示される領域外から車体の後方に自転車が進入する場合や子供が走り込む場合には、これらがモニタの表示領域内に表示されていても障害物の存在を認識するまでに時間を要するという課題があった。   When moving the vehicle body to the parking target position while moving the vehicle body backward, care must be taken to avoid the inconvenience of the vehicle body coming into contact with the obstacle. Although there is such a need, when confirming the rear of the vehicle body with a captured image, since the consciousness is too concentrated on the parking position displayed on the monitor and the route on which the vehicle body should travel, for example, it is displayed on the monitor When a bicycle enters the back of the vehicle body from outside the area or a child runs, there is a problem that it takes time to recognize the presence of an obstacle even if these are displayed in the display area of the monitor. there were.

これに対し、特許文献1では障害物を検出した場合には、モニタにおいて障害物を強調表示することや、進行予測曲線の色を変化させることで運転者に対して障害物の存在を認知させる表示制御が行われる。しかしながら、このような表示では障害物の存否や距離の把握が可能になるだけで前述の課題は解決できないものであった。   On the other hand, in patent document 1, when an obstacle is detected, the driver is made aware of the presence of the obstacle by highlighting the obstacle on the monitor or changing the color of the progress prediction curve. Display control is performed. However, such a display only makes it possible to grasp the existence of an obstacle and a distance, and cannot solve the above-described problems.

更に、特許文献2には、運転者に障害物の存在を認識させるために障害物が存在する領域に変調画像を表示することで注意喚起を行えるものであるが、前述の課題は解決できないものであった。   Furthermore, in Patent Document 2, a warning can be given by displaying a modulated image in a region where an obstacle exists in order to make the driver recognize the presence of the obstacle, but the above-mentioned problem cannot be solved. Met.

本発明の目的は、車体の後方を撮影するカメラの撮影画像をモニタに表示し、これに駐車支援情報を表示する有効性を損なうことなく、障害物が接近した場合には、適切に運転者に認識させる装置を合理的に構成する点にある。   An object of the present invention is to display a captured image of a camera that captures the rear of the vehicle body on a monitor, and when an obstacle approaches, without impairing the effectiveness of displaying parking assistance information on the monitor, the driver is appropriately The reason is to rationally configure the device to be recognized.

本発明の特徴は、車体に、この車体の後方を撮影するカメラと、路面上の障害物を検出する障害物検出手段とが備えられ、
前記車体を後進させる際に前記カメラの撮影画像をモニタに表示すると共に、操舵角に基づいて車体が移動する領域を予想した予想進路イメージを生成して前記撮影画像に重畳表示する画像処理部と、
前記障害物検出手段が検出した前記障害物が移動している場合に、前記障害物の移動軌跡を演算する移動軌跡演算手段とを備え、
前記障害物検出手段で検出した前記障害物が、前記車体の後側で、前記予想進路イメージの領域外に存在することを判定し、前記移動軌跡の延長線が、前記予想進路イメージに交わる又は前記予想進路イメージの側端縁の延長ラインに交わることを判定した場合には、その交点を基準にして、前記予想進路イメージの領域内で、前記障害物に近い領域に警報表示を行う警報出力部を備えている点にある。
A feature of the present invention is that the vehicle body is provided with a camera that captures the rear of the vehicle body, and obstacle detection means that detects an obstacle on the road surface,
An image processing unit that displays a captured image of the camera on the monitor when the vehicle body moves backward, generates an expected course image that predicts an area in which the vehicle body moves based on a steering angle, and displays the predicted image on the captured image ; ,
When the obstacle detected by the obstacle detection means is moving, the movement locus calculating means for calculating the movement locus of the obstacle ,
The obstacle detected by the obstacle detection means, at the rear side of the vehicle body, determines that there out of the region of the predicted course images, an extension of the moving track, intersect the predicted course image or When it is determined that it intersects with the extension line of the side edge of the predicted course image, an alarm output that displays a warning in an area close to the obstacle in the area of the predicted course image based on the intersection The point is that it has a part.

この構成によると、例えば、車体を後進させて駐車目標位置に移動する際にはカメラの撮影画像に含まれる駐車目標位置と、これに重畳表示される予想進路イメージとの相対的な位置関係から車体を駐車目標位置に移動する精度を高めることができる。また、車体を後進させている際に障害物が車体の後方に接近していることを障害物検出手段が検出した場合には、その障害物が予想進路イメージの領域外に存在する状況であっても、警報出力部が、予想進路イメージの領域内で障害物に近い部位に警報表示を行う。
また、障害物の移動軌跡の延長線が、予想進路イメージ交わる交点又は予想進路イメージの側端縁の延長ラインと交わる交点を基準にして警報表示を行うことにより、予想進路イメージにおける警報表示の位置から障害物と接触する可能性の高い位置を認識できる。
このように予想進路イメージの領域内に警報表示を行うことにより、障害物がモニタに表示されていない状況であっても、運転者は警報表示から障害物の存在と、その障害物が存在する方向とを把握でき、停車することや速度を減ずる等の対応が可能となる。
従って、車体の後方を撮影するカメラの撮影画像をモニタに表示し、これに対し駐車支援情報を表示する有効性を損なうことなく、障害物が接近した場合には、障害物の存在を適切に運転者に認識させる装置が構成された。
According to this configuration, for example, when moving the vehicle body backward to move to the parking target position, from the relative positional relationship between the parking target position included in the captured image of the camera and the predicted course image superimposed on the parking target position. The accuracy of moving the vehicle body to the parking target position can be increased. In addition, when the obstacle detection means detects that the obstacle is approaching the rear of the vehicle body while the vehicle body is moving backward, the obstacle exists outside the area of the expected course image. Even in this case, the warning output unit displays a warning at a location close to the obstacle in the region of the expected course image.
The position of the warning display in the predicted course image is indicated by displaying the warning on the basis of the intersection of the extension of the movement trajectory of the obstacle with the intersection of the predicted path image or the extension line of the side edge of the predicted path image. Can recognize a position that is likely to contact an obstacle.
By displaying the warning in the area of the predicted course image in this way, even if the obstacle is not displayed on the monitor, the driver can see the presence of the obstacle and the obstacle from the warning display. It is possible to grasp the direction, and it is possible to respond such as stopping or reducing the speed.
Therefore, if the image of the camera that captures the back of the vehicle body is displayed on the monitor and the parking assistance information is displayed on the monitor without impairing the effectiveness, the presence of the obstacle is appropriately determined. A device was constructed that allowed the driver to recognize.

本発明は、前記警報出力部が、前記障害物の移動速度が高速であるほど、前記警報表示の輝度を高める、あるいは、前記警報表示の領域を拡大しても良い。   In the present invention, the alarm output unit may increase the brightness of the alarm display or enlarge the area of the alarm display as the moving speed of the obstacle increases.

これによると、警報表示の輝度や、警報表示の領域のサイズから障害物の移動速度を把握して、早期のブレーキ操作や減速操作等の対応も可能となる。   According to this, it is possible to grasp the moving speed of the obstacle based on the brightness of the alarm display and the size of the area of the alarm display, and to cope with an early brake operation or a deceleration operation.

本発明は、前記警報出力部が、前記警報表示として、前記予想進路イメージの領域内で前記障害物に近い領域ほど輝度、あるいは、彩度を高め、前記障害物から離れる領域ほど前記輝度、あるいは、彩度を低下させるグラデーション表示を行っても良い。   In the present invention, the warning output unit may increase the luminance or saturation of a region closer to the obstacle in the region of the predicted course image as the warning display, and increase the luminance or saturation as the region away from the obstacle. Further, gradation display for reducing the saturation may be performed.

これによると、警報表示の輝度、あるいは、彩度のグラデーションから障害物が存在する方向を一層正確に把握できる。   According to this, it is possible to more accurately grasp the direction in which the obstacle exists from the brightness of the alarm display or the gradation of saturation.

本発明は、前記予想進路イメージが、前記車体の幅に対応した面状に形成されても良い。   In the present invention, the predicted course image may be formed in a planar shape corresponding to the width of the vehicle body.

これによると、表示面積が狭いモニタであっても予想進路イメージの視認性を高めることが可能で、警報表示も予想進路イメージに取り囲まれる配置となり障害物の位置の把握も容易になる。   According to this, even if the monitor has a small display area, it is possible to improve the visibility of the predicted route image, and the alarm display is also surrounded by the predicted route image, and the position of the obstacle can be easily grasped.

本発明は、前記予想進路イメージが、前記車体の幅に対応した縦ラインと、車体を設定距離だけ後進させた際に到達する位置を示す横ラインとを備えた枠状に形成されても良い。   In the present invention, the predicted course image may be formed in a frame shape including a vertical line corresponding to the width of the vehicle body and a horizontal line indicating a position reached when the vehicle body is moved backward by a set distance. .

これによると、縦ラインから予想進路上の車体幅を認識でき、予想進路イメージの横ラインから車体を後進させる際の移動量の把握が容易になり、障害物の位置の把握も可能となる。   According to this, the width of the vehicle body on the predicted course can be recognized from the vertical line, the amount of movement when the vehicle body is moved backward from the horizontal line of the predicted course image can be easily grasped, and the position of the obstacle can also be grasped.

車両の構成を示す斜視図である。It is a perspective view which shows the structure of a vehicle. 車内のパネル部を示す斜視図である。It is a perspective view which shows the panel part in a vehicle. 車両の構成の概略を示す平面図である。It is a top view which shows the outline of a structure of a vehicle. 制御系のブロック回路図である。It is a block circuit diagram of a control system. 駐車支援制御の概要を示すフローチャートである。It is a flowchart which shows the outline | summary of parking assistance control. 駐車目標位置の設定開始時のモニタの表示を示す図である。It is a figure which shows the display of the monitor at the time of the setting start of a parking target position. 駐車目標位置の設定完了時のモニタの表示を示す図である。It is a figure which shows the display of the monitor at the time of completion of the setting of a parking target position. 障害物が接近した際のモニタの表示を示す図である。It is a figure which shows the display of a monitor when an obstruction approaches. 障害物と予想進路イメージとの位置関係を示す図である。It is a figure which shows the positional relationship of an obstruction and an expected course image. 障害物と予想進路イメージとの位置関係を示す図である。It is a figure which shows the positional relationship of an obstruction and an expected course image. 別実施の形態(a)で障害物が接近した際のモニタの表示を示す図である。It is a figure which shows the display of a monitor when an obstruction approaches in another embodiment (a). 別実施の形態(b)で障害物が接近した際のモニタの表示を示す図である。It is a figure which shows the display of a monitor when an obstruction approaches in another embodiment (b). 別実施の形態(c)で障害物と予想進路イメージとの位置関係を示す図である。It is a figure which shows the positional relationship of an obstruction and an expected course image in another embodiment (c).

以下、本発明の実施の形態を図面に基づいて説明する。
〔基本構成〕
本実施の形態では、乗用車の車体30に車体後方を撮影するカメラ23と、障害物Xを検出する障害物センサユニット10とを備え、車体30を後進させて駐車目標位置Fに誘導するための情報をモニタ21に表示する駐車支援装置として機能するECU20を備えている。このECU20は、車体30の後進時に車体30の後方位置に自転車が侵入する場合や、子供が走り込む場合に、モニタ21に警報表示を行うことで、運転者が自転車や子供等の障害物Xの存在を早期に認識して、障害物Xに車体30が接触する不都合を回避できるようにするものであり、これらの詳細を以下に説明する。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[Basic configuration]
In the present embodiment, the vehicle body 30 of the passenger car includes a camera 23 that captures the rear of the vehicle body and the obstacle sensor unit 10 that detects the obstacle X, and the vehicle body 30 is moved backward to be guided to the parking target position F. An ECU 20 that functions as a parking assist device that displays information on the monitor 21 is provided. The ECU 20 displays a warning on the monitor 21 when the bicycle enters the rear position of the vehicle body 30 when the vehicle body 30 moves backward, or when a child runs, so that the driver can detect obstacles X such as bicycles and children. The presence of the vehicle body 30 is recognized at an early stage so as to avoid the inconvenience of the vehicle body 30 coming into contact with the obstacle X. Details of these will be described below.

図1〜図3に示すように、車体30には、前車輪31及び後車輪32を有し、ルーム内には運転座席33とステアリングホイール34が備えられ、運転座席33の前部にメータ類を有したパネル35が配置され、運転座席33の側部に変速を行うシフトレバー36が配置されている。   As shown in FIGS. 1 to 3, the vehicle body 30 has a front wheel 31 and a rear wheel 32, and a driving seat 33 and a steering wheel 34 are provided in the room. Meters are provided at the front of the driving seat 33. And a shift lever 36 for shifting gears is disposed on the side of the driver's seat 33.

ステアリングホイール34は回転操作力を前車輪31に伝えて駆動操向(操舵)を行うパワーステアリングユニットPSと連動している。車体前部にはエンジンEと、このエンジンEからの動力を変速して前車輪31に伝えるにトルクコンバータやCVT等で成る変速機構Tとが備えられている。運転座席33の前方には走行速度を制御するアクセルペダル37と、前車輪31と後車輪32とのブレーキ装置BKを操作して前車輪31、後車輪32に制動力を作用させるブレーキペダル38とが並列配置されている。   The steering wheel 34 is linked to a power steering unit PS that transmits a rotational operation force to the front wheels 31 to perform driving steering (steering). The front part of the vehicle body is provided with an engine E and a speed change mechanism T composed of a torque converter, CVT or the like for shifting the power from the engine E and transmitting it to the front wheels 31. In front of the driver's seat 33, an accelerator pedal 37 for controlling the traveling speed, a brake pedal 38 for operating the brake device BK of the front wheel 31 and the rear wheel 32 to apply a braking force to the front wheel 31 and the rear wheel 32, Are arranged in parallel.

運転座席33の近傍、コンソールの上部位置には、表示装置として表示面にタッチパネル21Tが形成されたモニタ21が備えられている。モニタ21は、バックライトを備えた液晶式のものである。もちろん、プラズマ表示型のものやCRT型のものであっても良い。また、タッチパネル21Tは、指などによる接触位置をロケーションデータとして出力することができる感圧式や静電式の指示入力装置である。モニタ21にはスピーカ22も備えられているが、スピーカ22はドアの内側など、他の場所に備えられても良い。尚、モニタ21はナビゲーションシステムの表示装置として用いるものを兼用しているが、駐車支援のために専用のものを備えても良い。   A monitor 21 having a touch panel 21T formed on the display surface is provided as a display device in the vicinity of the driver seat 33 and in the upper position of the console. The monitor 21 is a liquid crystal type equipped with a backlight. Of course, a plasma display type or a CRT type may be used. The touch panel 21T is a pressure-sensitive or electrostatic instruction input device that can output a contact position by a finger or the like as location data. The monitor 21 is also provided with a speaker 22, but the speaker 22 may be provided at other places such as the inside of a door. The monitor 21 is also used as a display device of the navigation system. However, a dedicated monitor 21 may be provided for parking assistance.

本実施の形態では、車体後方を撮影する撮影装置として、車体30の後端にカメラ23が備えられ、この車体30の後端位置には、車体30の側方から後方に亘る比較的広い領域における障害物Xの位置を検出する障害物検出手段としてのソナー型の障害物センサユニット10が備えられている。   In the present embodiment, a camera 23 is provided at the rear end of the vehicle body 30 as a photographing device for photographing the rear of the vehicle body, and the rear end position of the vehicle body 30 is a relatively wide region extending from the side of the vehicle body 30 to the rear. Is provided with a sonar-type obstacle sensor unit 10 as an obstacle detection means for detecting the position of the obstacle X in FIG.

カメラ23はCCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を内蔵するデジタルカメラであり、撮影した情報を動画情報としてリアルタイムに出力する。カメラ23は、広角レンズを有しており、水平方向に120〜140度の視野角が確保されている。また、カメラ23は、光軸に約30度程度の俯角を有して設置され、車体30の後方8m程度までの領域を撮影可能である。   The camera 23 is a digital camera having a built-in image sensor such as a CCD (charge coupled device) or CIS (CMOS image sensor), and outputs captured information as moving image information in real time. The camera 23 has a wide-angle lens, and a viewing angle of 120 to 140 degrees is ensured in the horizontal direction. The camera 23 is installed with an included angle of about 30 degrees on the optical axis, and can capture an area up to about 8 m behind the vehicle body 30.

障害物センサユニット10は、複数の超音波発信器と、複数の超音波受信器とを備えることにより、車体30を基準にした障害物Xの位置を座標情報として検出できる性能のものが用いられている。尚、障害物センサユニット10として赤外線の発光素子と、複数の受光素子とを備え、反射角から障害物Xまでの距離を取得する赤外線型のものを用いても良い。   The obstacle sensor unit 10 includes a plurality of ultrasonic transmitters and a plurality of ultrasonic receivers, so that the obstacle sensor unit 10 can detect the position of the obstacle X with reference to the vehicle body 30 as coordinate information. ing. The obstacle sensor unit 10 may be an infrared sensor that includes an infrared light emitting element and a plurality of light receiving elements, and obtains the distance from the reflection angle to the obstacle X.

特に、障害物検出手段としてカメラ23で撮影された撮影画像の複数のフレームからオプティカルフロー処理により抽出された移動体を障害物Xとして判定するように構成したものを用いても良い。このように障害物検出手段を構成することにより、距離センサ等の特別のハードウエアを備えず、ソフトウエア的な処理を実行することで障害物Xの検出が可能となり、コストの低減に繋がる。   In particular, an obstacle detection unit configured to determine a moving body extracted by optical flow processing from a plurality of frames of a photographed image taken by the camera 23 as an obstacle X may be used. By configuring the obstacle detection means in this way, special hardware such as a distance sensor is not provided, and the obstacle X can be detected by executing software processing, leading to cost reduction.

車体30には運転操作や移動状態を検出するための各種センサが備えられている。具体的に説明すると、ステアリングホイール34の操作系にはステアリング方向(操舵方向)と操作量(操舵量)とを計測するステアリングセンサ24が備えられている。シフトレバー36の操作系にはシフト位置を判別するシフト位置センサ25が備えられている。アクセルペダル37の操作系には操作量を計測するアクセルセンサ26が備えられ、前記ブレーキペダル38の操作系には操作の有無を検出するブレーキセンサ27が備えられている。   The vehicle body 30 is provided with various sensors for detecting driving operations and moving states. More specifically, the operation system of the steering wheel 34 is provided with a steering sensor 24 that measures a steering direction (steering direction) and an operation amount (steering amount). The operating system of the shift lever 36 is provided with a shift position sensor 25 for determining the shift position. The operation system of the accelerator pedal 37 is provided with an accelerator sensor 26 that measures the operation amount, and the operation system of the brake pedal 38 is provided with a brake sensor 27 that detects the presence or absence of the operation.

後車輪32の近傍には後車輪32の回転量から車体30の移動量を計測する移動距離センサ28が備えられている。尚、この移動距離センサ28として、変速機構Tの回転系の回転量から移動量を取得するものを用いても良い。また、この移動距離センサ28は、前車輪31の回転量を計測するものでも良く、フォトインタラプタ型やピックアップ型のセンサを用いることが可能である。   In the vicinity of the rear wheel 32, a movement distance sensor 28 that measures the movement amount of the vehicle body 30 from the rotation amount of the rear wheel 32 is provided. As the movement distance sensor 28, a sensor that acquires the movement amount from the rotation amount of the rotation system of the transmission mechanism T may be used. The moving distance sensor 28 may measure the amount of rotation of the front wheel 31, and a photo interrupter type or pickup type sensor can be used.

そして、車体30の中央部には、本発明の駐車支援装置の中核をなすECU20が配置されている。このECU20は、図4に示すように、情報の入出力を行うようにセンサ入力インターフェース19aと通信インターフェース19bとで成るインターフェースを備えている。更に、このインターフェースを介して得られる情報を処理するマイクロプロセッサや、DSP(digital signal processor)を備えている。ECU20は、当該プロセッサを中核部品とする電子回路により構成されている。尚、ECU20は、当該プロセッサに内蔵され、あるいは別部品として搭載されるメモリやレジスタなどによって構成される記憶部を有している。   And in the center part of the vehicle body 30, ECU20 which makes | forms the core of the parking assistance apparatus of this invention is arrange | positioned. As shown in FIG. 4, the ECU 20 includes an interface including a sensor input interface 19a and a communication interface 19b so as to input and output information. Furthermore, a microprocessor for processing information obtained through this interface and a digital signal processor (DSP) are provided. The ECU 20 is configured by an electronic circuit having the processor as a core component. Note that the ECU 20 has a storage unit configured by a memory, a register, or the like built in the processor or mounted as a separate component.

〔制御系の構成〕
センサ入力インターフェース19aには、運転操作や移動状態を検出するためのステアリングセンサ24等の各種センサからの情報を取得し、通信インターフェース19bはタッチパネル21T、カメラ23、パワーステアリングユニットPS、変速機構T、ブレーキ装置BKとの間で通信を行う。また、モニタ21に対しては画像処理モジュール8aを介して画像が出力され、スピーカ22に対しては音声処理モジュール8bを介して音声が出力される。
[Control system configuration]
The sensor input interface 19a obtains information from various sensors such as a steering sensor 24 for detecting driving operation and moving state, and the communication interface 19b is a touch panel 21T, a camera 23, a power steering unit PS, a transmission mechanism T, Communication is performed with the brake device BK. Further, an image is output to the monitor 21 via the image processing module 8a, and a sound is output to the speaker 22 via the audio processing module 8b.

図4に示す如く、ECU20は画像処理部として機能するものであり、このECU20は、センサ入力インターフェース19aを介して信号を取得する系と、通信インターフェース19bを介して情報のアクセスを行う信号を取得する系と、前述した画像処理モジュール8aと、音声処理モジュール8bとを備えている。更に、ECU20には、画像情報取得部1と、駐車目標設定部2と、車体位置情報取得部3と、駐車支援処理部4(画像処理部の一例)と、障害物情報処理部5と、警報出力部6を備えている。   As shown in FIG. 4, the ECU 20 functions as an image processing unit, and the ECU 20 acquires a signal acquisition system via the sensor input interface 19a and a signal for accessing information via the communication interface 19b. And the above-described image processing module 8a and sound processing module 8b. Further, the ECU 20 includes an image information acquisition unit 1, a parking target setting unit 2, a vehicle body position information acquisition unit 3, a parking support processing unit 4 (an example of an image processing unit), an obstacle information processing unit 5, An alarm output unit 6 is provided.

駐車支援処理部4は、予想進路イメージ生成手段4Aと、誘導情報出力手段4Bとを備えている。障害物情報処理部5は、位置特定手段5Aと、移動軌跡演算手段5Bと、移動速度演算手段5Cとを備えている。警報出力部6は、表示領域設定手段6Aと、表示色設定手段6Bとを備えている。   The parking assistance processing unit 4 includes a predicted route image generation unit 4A and a guidance information output unit 4B. The obstacle information processing unit 5 includes position specifying means 5A, movement trajectory calculation means 5B, and movement speed calculation means 5C. The alarm output unit 6 includes display area setting means 6A and display color setting means 6B.

尚、画像情報取得部1、駐車目標設定部2、車体位置情報取得部3、駐車支援処理部4、障害物情報処理部5、警報出力部6夫々はソフトウエアで構成されるものであるが、例えば、ソフトウエアとハードウエアとの組み合わせで構成されるものであっても、ハードウエアのみで構成されるものでも良い。   The image information acquisition unit 1, the parking target setting unit 2, the vehicle body position information acquisition unit 3, the parking support processing unit 4, the obstacle information processing unit 5, and the alarm output unit 6 are each configured by software. For example, it may be configured by a combination of software and hardware, or may be configured only by hardware.

画像情報取得部1は、カメラ23によって撮影された撮影画像(画像情報)を取得し、この撮影画像から左右を入れ替えた鏡面反転画像が生成する。このように生成された鏡面反転は画像処理モジュール8aがモニタ21に表示することになり、運転者はルームミラーによって車体後方を確認する際と同様の感覚でモニタ21に表示された撮影画像から情報を把握できる。   The image information acquisition unit 1 acquires a captured image (image information) captured by the camera 23, and generates a mirror-inverted image in which the left and right are switched from the captured image. The mirror reversal generated in this way is displayed on the monitor 21 by the image processing module 8a, and the driver can obtain information from the captured image displayed on the monitor 21 with the same feeling as when checking the rear of the vehicle body with the rearview mirror. Can be grasped.

駐車目標設定部2は、画像情報取得部1で取得された撮影画像に基づいて車体30を駐車する際に人為操作に基づき停車位置から駐車目標位置Fを設定する。この処理では、図6及び図7に示すように、車体30の停車位置と所定の位置関係にある場所(領域)が駐車目標位置Fとして設定される。尚、この実施の形態では駐車目標位置Fとして路面に記された2つの区画線W(駐車区画線)によって挟まれる領域が設定される。   The parking target setting unit 2 sets the parking target position F from the stop position based on an artificial operation when the vehicle body 30 is parked based on the captured image acquired by the image information acquisition unit 1. In this process, as shown in FIGS. 6 and 7, a place (area) having a predetermined positional relationship with the stop position of the vehicle body 30 is set as the parking target position F. In this embodiment, an area sandwiched between two lane markings W (parking lane lines) marked on the road surface as the parking target position F is set.

駐車支援処理部4は、停車位置から駐車目標位置Fに車体30を後進させて直接的に誘導する際に、予想進路イメージ生成手段4Aが、図6や図8に示す予想進路イメージY(駐車支援情報)を生成し、この予想進路イメージYを画像処理モジュール8aがモニタ21に表示されている撮影画像に重畳表示する。また、誘導情報出力手段4Bは、車体30の現在位置と現在の姿勢と駐車目標位置Fとの情報から誘導情報を生成し、文字情報としてモニタ21に表示する、あるいは、スピーカ22から音声によって出力する。   When the parking assistance processing unit 4 moves the vehicle body 30 backward from the stop position to the parking target position F and directly guides it, the predicted course image generation unit 4A performs the expected course image Y (parking) shown in FIGS. Support information), and the predicted course image Y is superimposed on the captured image displayed on the monitor 21 by the image processing module 8a. Further, the guidance information output means 4B generates guidance information from information on the current position of the vehicle body 30, the current posture, and the parking target position F, and displays it on the monitor 21 as character information, or outputs it by voice from the speaker 22. To do.

予想進路イメージYは、現在のステアリング量で後進した場合に車体30が移動する経路を表すものであり、モニタ21に表示される撮影画像に対応する遠近感でモニタ21に表示されるように、路面と同じ仮想平面上に生成される。具体的には、図9に示すように、予想進路イメージ生成手段4Aが、ステアリングセンサ24から取得したステアリング量(操舵角)に基づき車体30の幅と一致する間隔に配置される一対の側端縁Yaと、車体30が設定距離(5M〔メートル〕程度)だけ後進した時点における車体30の後端位置が達する後端縁Ybとを有した平面イメージとして生成する。そして、この平面イメージを路面と同じレベルの仮想平面上に投射変換することで、図8に示すように半透明で路面とは異なる色相に着色した予想進路イメージYが生成される。   The expected course image Y represents a path along which the vehicle body 30 moves when the vehicle travels backward with the current steering amount, and is displayed on the monitor 21 with a perspective corresponding to the captured image displayed on the monitor 21. It is generated on the same virtual plane as the road surface. Specifically, as shown in FIG. 9, a pair of side ends where the predicted course image generation unit 4 </ b> A is arranged at an interval that matches the width of the vehicle body 30 based on the steering amount (steering angle) acquired from the steering sensor 24. The image is generated as a planar image having the edge Ya and the rear end edge Yb at which the rear end position of the vehicle body 30 reaches when the vehicle body 30 moves backward by a set distance (about 5 M [meter]). Then, by projecting and transforming this plane image onto a virtual plane at the same level as the road surface, as shown in FIG. 8, an expected path image Y that is translucent and colored in a hue different from the road surface is generated.

この予想進路イメージYは、カメラ23が撮影画像のフレームを出力するタイミング(例えば、1秒間に30フレーム)と同期してモニタ21に表示され、車体30を後進させた場合には、車体30の移動に伴い、モニタ21に表示されている撮影画像の路面を背景として車体30と一体的に移動する形態で表示される。従って、ステアリング操作が行われた場合には、モニタ21に表示される予想進路イメージYは、車体30の移動経路に沿うように一対の側端縁Yaが湾曲し、後端縁Ybが傾斜する。   The predicted course image Y is displayed on the monitor 21 in synchronization with the timing at which the camera 23 outputs a frame of the captured image (for example, 30 frames per second). Along with the movement, it is displayed in a form that moves integrally with the vehicle body 30 with the road surface of the captured image displayed on the monitor 21 as the background. Therefore, when the steering operation is performed, the predicted course image Y displayed on the monitor 21 is such that the pair of side edges Ya are curved and the rear edge Yb is inclined along the movement path of the vehicle body 30. .

障害物情報処理部5は、障害物センサユニット10からの情報から障害物Xが存在することを判定した場合には、位置特定手段5Aが障害物Xの位置を特定し、その障害物Xが移動している場合には移動軌跡演算手段5Bが移動軌跡Lを演算すると共に、移動速度演算手段5Cが移動速度を演算する。   When the obstacle information processing unit 5 determines that the obstacle X exists from the information from the obstacle sensor unit 10, the position specifying unit 5A specifies the position of the obstacle X, and the obstacle X When moving, the movement trajectory calculation means 5B calculates the movement trajectory L, and the movement speed calculation means 5C calculates the movement speed.

警報出力部6は、予想進路イメージYがモニタ21に表示されている状況において障害物Xが予想進路イメージYに接近したことを障害物情報処理部5からの情報で判定した場合には、警報出力部6が、予想進路イメージYのうち障害物Xが存在する方向の領域に警報表示を行う。   If the warning output unit 6 determines from the information from the obstacle information processing unit 5 that the obstacle X has approached the predicted route image Y in a situation where the predicted route image Y is displayed on the monitor 21, The output unit 6 displays a warning in an area in the direction where the obstacle X exists in the predicted course image Y.

具体的には、警報出力部6が、障害物情報処理部5の移動軌跡演算手段5Bで演算された障害物Xの移動軌跡L(図8、図9を参照)を取得する。次に、この移動軌跡Lが予想進路イメージYと交わる場合や、予想進路イメージYの近傍を通過する場合に、表示領域設定手段6Aが予想進路イメージYの領域内に警報表示のための警報表示領域Qを設定する。そして、表示色設定手段6Bが警報表示領域Qに予想進路イメージYと異なる色相で半透明の着色を行う。   Specifically, the alarm output unit 6 acquires the movement locus L (see FIGS. 8 and 9) of the obstacle X calculated by the movement locus calculation means 5B of the obstacle information processing unit 5. Next, when this movement trajectory L intersects with the expected course image Y or when it passes through the vicinity of the expected course image Y, the display area setting means 6A displays an alarm for displaying an alarm in the area of the expected course image Y. Region Q is set. Then, the display color setting means 6B colors the alarm display area Q translucently with a hue different from the expected course image Y.

特に、警報出力部6は、位置特定手段5Aで取得した障害物Xと予想進路イメージYとの相対距離が短いほど、障害物情報処理部5の移動速度演算手段5Cで演算された障害物Xの移動速度が高速であるほど、前述した警報表示領域Qの表示面積を広く設定する。尚、移動速度演算手段5Cで移動速度を演算する際には、障害物Xと車体30との相対速度が演算されることになるが、車体30の移動速度を反映させて障害物Xの実移動速度(対地移動速度)を演算するように処理形態を設定しても良い。   In particular, the alarm output unit 6 determines that the obstacle X calculated by the moving speed calculation unit 5C of the obstacle information processing unit 5 is shorter as the relative distance between the obstacle X acquired by the position specifying unit 5A and the predicted course image Y is shorter. The display area of the alarm display area Q described above is set wider as the moving speed of is higher. Note that when the moving speed is calculated by the moving speed calculating means 5C, the relative speed between the obstacle X and the vehicle body 30 is calculated, but the actual speed of the obstacle X is reflected by reflecting the moving speed of the vehicle body 30. The processing mode may be set so as to calculate the movement speed (ground movement speed).

このような制御構成から車体30を後進させて駐車目標位置Fに移動する場合には、モニタ21にはカメラ23の撮影画像と、予想進路イメージYとが表示される。この状態で車体30を後進させ、予想進路イメージYが駐車目標位置Fに入り込むようにステアリング操作を行うことにより、駐車が実現する。   When the vehicle body 30 is moved backward to the parking target position F from such a control configuration, the captured image of the camera 23 and the expected course image Y are displayed on the monitor 21. Parking is realized by moving the vehicle body 30 backward in this state and performing a steering operation so that the expected course image Y enters the parking target position F.

また、車体30を後進させて駐車目標位置Fに車体30を移動する場合に、運転者の視線はモニタ21の予想進路イメージYの部位に集中する。このような理由から車体30の後方に自転車が進入する場合や子供が走り込む場合には、これらがモニタ21の周辺部に表示されていても運転者が認識するまでに時間を要することも多い。   Further, when the vehicle body 30 is moved backward to move the vehicle body 30 to the parking target position F, the driver's line of sight concentrates on the portion of the predicted course image Y of the monitor 21. For this reason, when a bicycle enters behind the vehicle body 30 or when a child runs, it often takes time for the driver to recognize even if these are displayed on the periphery of the monitor 21.

このような不都合を解消するために、本発明の駐車支援装置では、障害物Xが車体30の後方に接近する状況を把握した場合には、予想進路イメージYに警報表示領域Qを設定し、この警報表示領域Qに対して警報表示を行うことで、障害物Xの接近を運転者が早期に認識して、停車することや速度を減ずる等の対応を可能にしている。   In order to eliminate such inconvenience, in the parking assistance device of the present invention, when grasping the situation where the obstacle X approaches the rear of the vehicle body 30, the warning display area Q is set in the predicted course image Y, By performing warning display on this warning display area Q, the driver can recognize the approach of the obstacle X at an early stage, and can respond such as stopping or reducing the speed.

尚、警報表示領域Qは、障害物Xと予想進路イメージYとの相対距離が近い場合、及び、障害物Xが予想進路イメージYに接近する速度が高速である場合には、危険度が高いと判定する。そして、危険度が高い場合で広い面積の警報表示領域Qを設定し、この警報表示領域Qに予想進路イメージYと異なる色の着色を危険度が高いほど高い輝度又は彩度(輝度と彩度とをともに設定しても良い)で行うものであり、その制御形態を以下に説明する。   The alarm display area Q has a high degree of danger when the relative distance between the obstacle X and the predicted course image Y is short, and when the speed at which the obstacle X approaches the predicted course image Y is high. Is determined. Then, when the danger level is high, a warning display area Q having a large area is set, and the warning display area Q is colored with a color different from the expected course image Y. The higher the danger level, the higher the brightness or saturation (brightness and saturation). And the control mode will be described below.

〔制御形態〕
この制御の概要を図5のフローチャートに示し、この駐車支援制御においてモニタ21に表示される画像と、車体30の位置関係とを図6〜図9に示している。
[Control form]
The outline of this control is shown in the flowchart of FIG. 5, and the image displayed on the monitor 21 and the positional relationship of the vehicle body 30 in this parking assistance control are shown in FIGS.

つまり、駐車スペースの近傍位置で車体30を停車させ、運転者がシフトレバー36を後進位置(リバース)にセットすることで、この操作をトリガーとして駐車支援制御が開始される。この開始時には、図6に示すようにカメラ23の撮影画像がモニタ21に表示されると共に、この撮影画像に対して予想進路イメージYと、一対の枠状の注目領域Vとが重畳表示される。更に、この画面には「駐車目標位置をセットして下さい」のメッセージが文字情報として表示される(音声によってメッセージを出力しても良い)(#01ステップ)。   That is, when the vehicle body 30 is stopped at a position near the parking space and the driver sets the shift lever 36 to the reverse position (reverse), the parking assist control is started using this operation as a trigger. At the start, the captured image of the camera 23 is displayed on the monitor 21 as shown in FIG. 6, and the predicted course image Y and a pair of frame-like attention areas V are superimposed on the captured image. . Further, a message “Please set parking target position” is displayed on this screen as text information (a message may be output by voice) (# 01 step).

この初期表示では、カメラ23の撮影画像を画像情報取得部1が取得し、この撮影画像から左右を入れ替えた鏡面反転画像が生成されモニタ21に表示される。予想進路イメージYは予想進路イメージ生成手段4Aが生成し、枠状となる一対の注目領域Vを駐車目標設定部2が生成し、これらはモニタ21に重畳表示される。この予想進路イメージYと注目領域Vとはモニタ21に表示されている路面と同じ仮想平面上において、撮影画像に対応した遠近感を持つ画像に変換されると共に、カメラ23の歪曲を反映した画像として生成される。   In this initial display, the image information acquisition unit 1 acquires a captured image of the camera 23, and a mirror-inverted image in which left and right are switched from the captured image is generated and displayed on the monitor 21. The predicted route image Y is generated by the predicted route image generation means 4A, and the parking target setting unit 2 generates a pair of attention areas V having a frame shape, and these are superimposed on the monitor 21. The predicted course image Y and the attention area V are converted into an image having a perspective corresponding to the photographed image on the same virtual plane as the road surface displayed on the monitor 21, and an image reflecting the distortion of the camera 23. Is generated as

この初期表示において、ステアリングホイール34が操作された場合には、駐車目標設定部2が、その操作量に対応した方向に、対応した距離だけ注目領域Vを仮想平面上で移動させる。駐車目標位置Fを設定する際には、運転者がステアリングホイール34を操作することで、図7に示すように、注目領域Vを区画線W(路面上の白線)に重複する位置まで移動させることが可能となる。このような位置関係に達すると、区画線Wに挟まれる領域に矩形の駐車目標位置Fと、確定ボタン41とがモニタ21に表示される。   In this initial display, when the steering wheel 34 is operated, the parking target setting unit 2 moves the attention area V on the virtual plane by a corresponding distance in a direction corresponding to the operation amount. When setting the parking target position F, the driver operates the steering wheel 34 to move the attention area V to a position overlapping the lane marking W (white line on the road surface) as shown in FIG. It becomes possible. When such a positional relationship is reached, a rectangular parking target position F and a confirmation button 41 are displayed on the monitor 21 in an area sandwiched between the lane markings W.

この表示状態で駐車目標位置Fが、運転者が意図とする駐車位置である場合には、確定ボタン41を運転者が操作することでモニタ21に表示されているエリアを駐車目標位置Fとして記憶され、一対の注目領域Vは消去され、駐車目標位置Fの設定が完了する(#02ステップ)。   When the parking target position F is the parking position intended by the driver in this display state, the area displayed on the monitor 21 is stored as the parking target position F by the driver operating the confirmation button 41. Then, the pair of attention areas V are deleted, and the setting of the parking target position F is completed (Step # 02).

このように駐車目標位置Fが設定されると、駐車目標設定部2は、モニタ21に表示される駐車目標位置Fと、停車状態の車体30の位置と、車体30の姿勢とを2次元座標系の情報として取得してECU20のストレージ(図示せず)に保存する。   When the parking target position F is set in this way, the parking target setting unit 2 uses the two-dimensional coordinates of the parking target position F displayed on the monitor 21, the position of the stopped vehicle body 30, and the posture of the vehicle body 30. Obtained as system information and stored in a storage (not shown) of the ECU 20.

初期表示においても、予想進路イメージYがモニタ21に表示されていたが、この予想進路イメージYは駐車目標位置Fが設定された後も継続して表示する(#03ステップ)。   Even in the initial display, the expected course image Y is displayed on the monitor 21, but this expected course image Y is continuously displayed after the parking target position F is set (step # 03).

この予想進路イメージYは、前述したように車体30の幅と一致する間隔に配置される一対の側端縁Yaと、車体30が設定距離(5M〔メートル〕程度)だけ後進した時点における車体30の後端位置が達する後端縁Ybとを有した平面イメージとして生成され、モニタ21に表示される。この状態で運転者は車体30を後進させて駐車目標位置Fに移動させることが可能となる。   As described above, the predicted course image Y includes the pair of side edge Yas arranged at intervals corresponding to the width of the vehicle body 30, and the vehicle body 30 when the vehicle body 30 moves backward by a set distance (about 5M [meter]). Is generated as a planar image having a rear end edge Yb at which the rear end position reaches, and is displayed on the monitor 21. In this state, the driver can move the vehicle body 30 backward to move to the parking target position F.

このように予想進路イメージYが表示されている状況において障害物センサユニット10が、例えば、図8及び図9に示す位置の障害物Xを検出した場合には、障害物情報処理部5の位置特定手段5Aが障害物Xの位置情報(車体30を基準にする座標情報)を取得する。更に、移動軌跡演算手段5Bが障害物Xの移動軌跡Lを演算し、移動速度演算手段5Cが移動速度を演算する。これらの処理により障害物Xの現在位置と、移動方向と、移動速度と、移動軌跡Lとが取得される(#04、#05ステップ)。   When the obstacle sensor unit 10 detects the obstacle X at the position shown in FIGS. 8 and 9, for example, in the situation where the predicted course image Y is displayed, the position of the obstacle information processing unit 5 is detected. The specifying unit 5A acquires position information of the obstacle X (coordinate information based on the vehicle body 30). Further, the movement trajectory calculation means 5B calculates the movement trajectory L of the obstacle X, and the movement speed calculation means 5C calculates the movement speed. Through these processes, the current position, moving direction, moving speed, and moving locus L of the obstacle X are acquired (steps # 04 and # 05).

このように取得した情報から、障害物Xの移動軌跡Lが予想進路イメージYの方向に向かって移動し、移動軌跡Lが予想進路イメージYと交わることを判定した場合には、移動軌跡Lと予想進路イメージYとが交わる交点Pを求める。そして、この交点Pを基準にして予想進路イメージYの領域内に警報表示領域Qを設定する(#06、#07ステップ)。   When it is determined from the information acquired in this way that the movement locus L of the obstacle X moves in the direction of the expected course image Y and the movement locus L intersects the expected course image Y, the movement locus L and Find the intersection point P where the expected course image Y intersects. Then, an alarm display area Q is set in the area of the predicted course image Y with reference to the intersection P (steps # 06 and # 07).

この障害物Xとしては、自転車や、駆ける子供のように移動するものを想定している。警報出力部6の表示領域設定手段6Aは、仮想平面上で移動軌跡Lと予想進路イメージYの側端縁Yaとが交わる交点Pを求め、交点Pを中心にして危険度に正比例した半径rの表示円を予想進路イメージYが存在する仮想平面の領域が警報表示領域Qとして設定される。   The obstacle X is assumed to move like a bicycle or a running child. The display area setting means 6A of the alarm output unit 6 obtains an intersection point P where the movement locus L and the side edge Ya of the predicted course image Y intersect on the virtual plane, and a radius r that is directly proportional to the risk around the intersection point P. The area of the virtual plane in which the predicted course image Y exists is set as the warning display area Q.

この警報表示領域Qに対して危険度が高いほど、交点Pの位置の輝度を高く設定し、この交点Pから離れるほど輝度を低下させるグラデーションで半透明の着色を行い、このグラデーションに従って着色された警報表示領域Qがモニタに表示される(#08、#09ステップ)。   The higher the degree of danger with respect to the warning display area Q, the higher the luminance at the position of the intersection P, and the semi-transparent coloring with a gradation that decreases the luminance as the distance from the intersection P increases. The alarm display area Q is displayed on the monitor (steps # 08 and # 09).

グラデーション表示を行う際に、交点Pの位置の彩度を高く設定し、交点Pから離れるほど彩度を低下させても良い。また、グラデーション表示を行う際に、交点Pの位置の輝度と彩度とを高く設定し、交点Pから離れるほど輝度と彩度とを低下させても良い。特に、本発明では、危険度が高い場合に警報表示領域Qの表示を明滅させる制御を併せて行うように制御形態を設定しても良い。   When performing gradation display, the saturation at the position of the intersection P may be set high, and the saturation may be lowered as the distance from the intersection P increases. In addition, when performing gradation display, the luminance and saturation at the position of the intersection P may be set high, and the luminance and saturation may be decreased as the distance from the intersection P increases. In particular, in the present invention, the control mode may be set so as to perform control for blinking the display of the alarm display area Q when the degree of danger is high.

特に、この制御では、障害物Xが予想進路イメージYの領域内に進入した後の表示形態を示していないが、障害物Xが予想進路イメージYの領域内に進入した場合にも同様な表示を行っても良い。その一例として、予想進路イメージYの領域内で障害物Xが存在する位置を中心にして設定半径となる円形の警報表示領域Qを設定し、この警報表示領域Qの中心位置(障害物Xの位置)の輝度や彩度を最も高くし、この中心位置から離れるほど輝度や彩度を低下させるグラデーションで半透明の着色を行っても良い。   In particular, in this control, the display form after the obstacle X enters the area of the expected course image Y is not shown, but the same display is also provided when the obstacle X enters the area of the expected course image Y. May be performed. As an example, a circular alarm display area Q having a set radius around the position where the obstacle X exists in the area of the predicted course image Y is set, and the center position of the alarm display area Q (the obstacle X of the obstacle X The brightness and saturation of the position) may be maximized, and translucent coloring may be performed with a gradation that decreases the brightness and saturation as the distance from the center position increases.

危険度とは、障害物Xと予想進路イメージYの側端縁Yaとの相対距離が近いほど、障害物Xの移動速度が高速であるほど高くするルールに従って設定される。つまり、危険度が高い場合に表示領域設定手段6Aは、仮想平面上において交点Pを中心にして半径rの表示円を想定し、この表示円と予想進路イメージYとが重複する領域を警報表示領域Qに設定する。   The degree of danger is set according to a rule that increases as the relative distance between the obstacle X and the side edge Ya of the predicted course image Y is shorter, and the movement speed of the obstacle X is higher. That is, when the degree of risk is high, the display area setting unit 6A assumes a display circle with a radius r centering on the intersection P on the virtual plane, and displays an alarm display for an area where the display circle and the expected course image Y overlap. Set to region Q.

危険度が高い場合に表示色設定手段6Bが表示色の輝度を高く設定し、この輝度を交点Pの位置の輝度に設定すると共に、交点Pから外周に向かう領域ほど輝度が低下するグラデーション表示を行う。このような表示が行われることにより輝度が最も高い位置において障害物Xと接触する可能性が高いことを認識できる。表示色設定手段6Bは、予想進路イメージYの表示色と異なる色相で警報表示領域Qの表示色を設定する。尚、表示色は半透明で表示せず不透明に表示しても良い。   When the degree of danger is high, the display color setting means 6B sets the luminance of the display color high, sets this luminance to the luminance at the position of the intersection P, and displays a gradation display in which the luminance decreases from the intersection P toward the outer periphery. Do. By performing such display, it can be recognized that there is a high possibility of contact with the obstacle X at a position where the luminance is highest. The display color setting means 6B sets the display color of the alarm display area Q with a hue different from the display color of the expected course image Y. It should be noted that the display color may be translucent and non-transparent.

特に、図10に示すように、移動軌跡Lが予想進路イメージYの側端縁Yaと交わらない場合でも、仮想平面上において側端縁Yaの延長ラインYa’との交点Pを求め、交点Pを中心にして仮想平面上に警報表示領域Qを設定する。そして、この警報表示領域Qに対して危険度に応じた表示が行われる。このような表示を行う場合にも前述した危険度が高いほど表示円の半径rを大きく設定(拡大)し、この表示円と予想進路イメージYとが重複する領域が警報表示領域Qに設定される。更に、危険度が高いほど交点Pの輝度を高める(この交点Pの部位は表示されない)グラデーション表示が行われる。   In particular, as shown in FIG. 10, even when the movement locus L does not intersect with the side edge Ya of the expected course image Y, the intersection P with the extension line Ya ′ of the side edge Ya is obtained on the virtual plane, and the intersection P An alarm display area Q is set on a virtual plane centering on. Then, display according to the degree of danger is performed on the warning display area Q. Even when such a display is performed, the radius r of the display circle is set larger (enlarged) as the degree of risk described above is higher, and an area where the display circle and the expected course image Y overlap is set as the alarm display area Q. The Further, gradation display is performed such that the higher the degree of risk, the higher the brightness of the intersection P (the part of the intersection P is not displayed).

このように警報表示領域Qを設定してグラデーション表示が行われることにより、予想進路イメージYの幅方向において障害物Xが存在する側(左右何れか)に警報表示領域Qが形成される。これにより障害物Xが存在する方向を運転者が把握でき、警報表示領域Qの面積と輝度とから、障害物Xが車体30に接触する可能性を認識できるようにしている。   By setting the warning display area Q in this way and performing gradation display, the warning display area Q is formed on the side where the obstacle X exists (either left or right) in the width direction of the expected course image Y. Thus, the driver can grasp the direction in which the obstacle X exists, and the possibility that the obstacle X contacts the vehicle body 30 can be recognized from the area and brightness of the warning display region Q.

尚、警報表示領域Qは表示円に基づいて設定する必要はなく、例えば、移動軌跡Lに長軸を一致させた楕円や、移動軌跡Lに一方の対角線を一致させた菱形を想定し、この楕円あるいは菱形が重複する領域を警報表示領域Qに設定しても良い。また、警報表示領域Qは、矩形や任意の形状を設定しても良い。   Note that the alarm display area Q does not need to be set based on the display circle. For example, it is assumed that an ellipse having the long axis coincident with the movement locus L or a rhombus having one diagonal line coincident with the movement locus L. An area where ellipses or rhombuses overlap may be set as the alarm display area Q. The alarm display area Q may be set to a rectangle or an arbitrary shape.

このようにモニタ21に対して、駐車目標位置Fと予想進路イメージYとが表示される状況で車体30を後進させた場合には、誘導情報出力手段4Bが誘導情報を出力する(#010ステップ)。   Thus, when the vehicle body 30 is moved backward in a situation where the parking target position F and the expected course image Y are displayed on the monitor 21, the guidance information output means 4B outputs guidance information (step # 010). ).

具体的には、車体30と駐車目標位置Fとの相対的な位置関係、及び、ステアリング量(操舵角)に基づいて、ステアリング操作を必要とする場合には、誘導情報出力手段4Bが、ステアリング方向をモニタ21に対してイメージ情報や文字情報を出力すると同時にスピーカ22から音声によっても出力する。また、予想進路イメージYが区画線Wと重複する位置を通過する場合には誘導情報出力手段4Bが駐車が不能であると判断し、駐車が不能であることを示すイメージ情報や文字情報がモニタ21に表示され、スピーカ22から音声で出力される。   Specifically, when steering operation is required based on the relative positional relationship between the vehicle body 30 and the parking target position F and the steering amount (steering angle), the guidance information output unit 4B The direction of the image is output to the monitor 21 as well as the image information and the character information, and at the same time is output from the speaker 22 by sound. Further, when the predicted course image Y passes through a position overlapping the lane marking W, the guidance information output means 4B determines that parking is impossible, and image information and character information indicating that parking is impossible are monitored. 21 and output from the speaker 22 by voice.

そして駐車不能である情報が出力されない限り、車体30を駐車目標位置Fに移動させることで駐車が完了し、例えば、シフトレバー36をパーキング位置に操作することで駐車支援制御も終了する(#011ステップ)。   Unless the information indicating that parking is impossible is output, the parking is completed by moving the vehicle body 30 to the parking target position F. For example, the parking assist control is ended by operating the shift lever 36 to the parking position (# 011). Step).

また、駐車が不能である情報が出力された場合には、運転者は車体30の後進を一旦中断し、車体30を前進して車体30の姿勢を改めた後に、駐車目標位置Fの設定を行うことで駐車支援制御を再度行うことになる。   When the information indicating that parking is impossible is output, the driver temporarily stops the backward movement of the vehicle body 30, advances the vehicle body 30, changes the posture of the vehicle body 30, and then sets the parking target position F. By doing so, the parking support control is performed again.

このように、本発明では、車体30を後進させて駐車目標位置Fに移動する際にはカメラ23の撮影画像に含まれる駐車目標位置Fと、これに重畳表示される予想進路イメージYとの相対的な位置関係からステアリング操作を容易に行える。また、車体30を後進させている際に障害物Xが車体30の後方に接近していることを障害物センサユニット10が検出した場合には、その障害物Xがモニタ21に表示されない位置であっても、障害物Xが予想進路イメージYに接近する方向に移動していることが判断された場合には、警報出力部6が、予想進路イメージYの領域内で障害物Xに近い部位に警報表示領域Qを設定して警報表示が行われる。   As described above, in the present invention, when the vehicle body 30 is moved backward to move to the parking target position F, the parking target position F included in the captured image of the camera 23 and the predicted course image Y superimposed on the target image are displayed. Steering operation can be easily performed from the relative positional relationship. When the obstacle sensor unit 10 detects that the obstacle X is approaching the rear of the vehicle body 30 when the vehicle body 30 is being moved backward, the obstacle X is not displayed on the monitor 21. If it is determined that the obstacle X is moving in the direction approaching the predicted course image Y, the alarm output unit 6 is located near the obstacle X in the region of the predicted course image Y. The alarm display area Q is set to, and alarm display is performed.

警報表示は、車体30と障害物Xとの位置関係、障害物Xの移動速度から判定される危険度に基づいて行われるものであり、危険度が高いほど警報表示領域Qの面積が広く設定され、輝度が高く設定される。この警報表示が行われることにより、駐車のために運転者が予想進路イメージYに注視している状況でも、障害物Xの接近と、危険度とを同時に認識でき、早期にブレーキ操作や減速操作などの対向が可能となる。   The alarm display is performed based on the degree of danger determined from the positional relationship between the vehicle body 30 and the obstacle X and the moving speed of the obstacle X. The higher the degree of danger, the wider the area of the alarm display region Q is set. And the brightness is set high. This warning display makes it possible to recognize the approach of the obstacle X and the degree of danger at the same time, even when the driver is gazing at the expected course image Y for parking, so that braking and deceleration operations can be performed at an early stage. It is possible to face each other.

〔別実施の形態〕
本発明は、上記した実施の形態以外に以下のように構成しても良い
[Another embodiment]
The present invention may be configured as follows in addition to the embodiment described above.

(a)図11に示すように、予想進路イメージYを車体30の幅に対応した縦ライン51と、車体30を設定距離だけ後進させた際に到達する位置を示す複数の横ライン52とを備えた枠状に形成するように予想進路イメージ生成手段4Aの制御形態を設定しても良い。障害物情報処理部5は、障害物Xの接近を判定した場合には、実施の形態と同様の処理により予想進路イメージYの領域の内部に警報表示領域Qを形成し、危険度に応じた面積と輝度で所定の色相を所定のグラデーションとなるように警報表示を行っても良い。 (A) As shown in FIG. 11, a vertical line 51 corresponding to the width of the vehicle body 30 in the predicted course image Y, and a plurality of horizontal lines 52 indicating positions reached when the vehicle body 30 is moved backward by a set distance. You may set the control form of 4 A of estimated course image generation means so that it may form in the provided frame shape. When the obstacle information processing unit 5 determines the approach of the obstacle X, the obstacle information processing unit 5 forms an alarm display area Q in the area of the predicted course image Y by the same processing as in the embodiment, and according to the risk level. An alarm display may be performed so that a predetermined hue is a predetermined gradation in terms of area and luminance.

特に、警報表示を行う場合に、不透明の表示でも良いが、透明感を持たせた表示でも良い。   In particular, when an alarm display is performed, an opaque display may be used, but a display with a sense of transparency may be used.

(b)前述したように、予想進路イメージYを枠状に形成されるものに警報表示を行うものの変形例として、図12に示すように縦ライン51と横ライン52との上にのみ警報表示領域Qを形成し、この警報表示領域Qに警報表示を行っても良い。 (B) As described above, as a modified example of the display of the warning on the predicted course image Y formed in a frame shape, the warning is displayed only on the vertical line 51 and the horizontal line 52 as shown in FIG. An area Q may be formed, and an alarm display may be performed on the alarm display area Q.

(c)図13に示すように、警報表示領域Qを設定する際に、交点を求めずに、予想進路イメージYの表示領域において、障害物Xを中心にして半径dを中心にした表示円を設定し、この表示円と予想進路イメージYとが重なる領域を警報表示領域Qに設定する。この警報表示領域Qのうち障害物Xに近い位置(側端縁Ya)を基準点Sとしてグラデーション表示を行う。 (C) As shown in FIG. 13, when setting the alarm display area Q, the display circle centered on the radius d with the obstacle X as the center in the display area of the expected course image Y without obtaining the intersection. And an area where the display circle and the expected course image Y overlap is set as the warning display area Q. A gradation display is performed with the position (side edge Ya) near the obstacle X in the alarm display area Q as a reference point S.

このような表示を行うことにより、予想進路イメージYのうち障害物Xに最も近い領域を容易に把握できる。   By performing such display, it is possible to easily grasp the region closest to the obstacle X in the predicted course image Y.

(d)警報表示領域Qを設定する際に、障害物Xの中心位置と、車体30の後端の中央位置等の車体30の特定位置とを結ぶ仮想ラインを想定し、この仮想ラインと予想進路イメージYとの交点位置を求め、この交点位置を中心にする円等の領域と予想進路イメージYとが重なり合う領域を警報表示領域Qに設定する。このように警報表示領域Qを形成することにより、障害物Xと車体30との相対的な位置関係を把握できることになる。 (D) When setting the alarm display area Q, a virtual line connecting the center position of the obstacle X and a specific position of the vehicle body 30 such as the center position of the rear end of the vehicle body 30 is assumed, and this virtual line is predicted. An intersection position with the course image Y is obtained, and an area where the expected course image Y overlaps with an area such as a circle around the intersection position is set as the warning display area Q. By forming the warning display area Q in this way, the relative positional relationship between the obstacle X and the vehicle body 30 can be grasped.

(e)駐車支援装置として、駐車支援情報を出力するものではなく、予想進路イメージYだけを単純に表示するだけの制御を行うものであっても良い。換言すると、駐車目標位置を設定するようなことはせずに予想進路イメージYを表示する駐車支援装置である。これとは逆に、駐車支援装置として、駐車目標位置Fが設定された後には、車体の後進時に自動操舵できるように駐車支援制御系が構成されたものでも良い。 (E) As a parking assistance device, the parking assistance information may not be output, and control for simply displaying only the predicted course image Y may be performed. In other words, the parking assistance device displays the expected course image Y without setting the parking target position. On the contrary, after the parking target position F is set, the parking assistance control system may be configured so that automatic steering can be performed when the vehicle body moves backward as the parking assistance device.

本発明は、車体の後部にカメラを備えた車輌全般に利用することができる。   The present invention can be used for all vehicles equipped with a camera at the rear of the vehicle body.

4 画像処理部(駐車支援処理部)
6 警報出力部
10 障害物検出手段(障害物センサユニット)
23 カメラ
30 車体
51 縦ライン
52 横ライン
F 駐車目標位置
L 移動軌跡
P 交点
Y 予想進路イメージ
X 障害物
4 Image processing unit (parking support processing unit)
6 Alarm output unit 10 Obstacle detection means (obstacle sensor unit)
23 Camera 30 Car body 51 Vertical line 52 Horizontal line F Parking target position L Movement locus P Intersection Y Expected course image X Obstacle

Claims (5)

車体に、この車体の後方を撮影するカメラと、路面上の障害物を検出する障害物検出手段とが備えられ、
前記車体を後進させる際に前記カメラの撮影画像をモニタに表示すると共に、操舵角に基づいて車体が移動する領域を予想した予想進路イメージを生成して前記撮影画像に重畳表示する画像処理部と、
前記障害物検出手段が検出した前記障害物が移動している場合に、前記障害物の移動軌跡を演算する移動軌跡演算手段とを備え、
前記障害物検出手段で検出した前記障害物が、前記車体の後側で、前記予想進路イメージの領域外に存在することを判定し、前記移動軌跡の延長線が、前記予想進路イメージに交わる又は前記予想進路イメージの側端縁の延長ラインに交わることを判定した場合には、その交点を基準にして、前記予想進路イメージの領域内で、前記障害物に近い領域に警報表示を行う警報出力部を備えている駐車支援装置。
The vehicle body is provided with a camera for photographing the rear of the vehicle body and obstacle detection means for detecting an obstacle on the road surface,
An image processing unit that displays a captured image of the camera on the monitor when the vehicle body moves backward, generates an expected course image that predicts an area in which the vehicle body moves based on a steering angle, and displays the predicted image on the captured image ; ,
When the obstacle detected by the obstacle detection means is moving, the movement locus calculating means for calculating the movement locus of the obstacle ,
The obstacle detected by the obstacle detection means, at the rear side of the vehicle body, determines that there out of the region of the predicted course images, an extension of the moving track, intersect the predicted course image or When it is determined that it intersects with the extension line of the side edge of the predicted course image, an alarm output that displays a warning in an area close to the obstacle in the area of the predicted course image based on the intersection Parking assistance device comprising a unit.
前記警報出力部が、前記障害物の移動速度が高速であるほど、前記警報表示の輝度を高める、あるいは、前記警報表示の領域を拡大する請求項記載の駐車支援装置。 The alarm output unit, as the moving speed of the obstacle is at a high speed, increasing the brightness of the alarm display, or the parking assist apparatus according to claim 1, wherein enlarging the area of the alarm display. 前記警報出力部が、前記警報表示として、前記障害物に近い領域ほど輝度、あるいは、彩度を高め、前記障害物から離れる領域ほど前記輝度、あるいは、彩度を低下させるグラデーション表示を行う請求項1又は2に記載の駐車支援装置。 The warning output unit performs gradation display, in which the brightness or saturation is increased in a region closer to the obstacle, and the luminance or saturation is decreased in a region away from the obstacle, as the warning display. The parking assistance apparatus according to 1 or 2 . 前記予想進路イメージが、前記車体の幅に対応した面状に形成されている請求項1〜のいずれか一項に記載の駐車支援装置。 The parking assistance device according to any one of claims 1 to 3 , wherein the predicted course image is formed in a planar shape corresponding to a width of the vehicle body. 前記予想進路イメージが、前記車体の幅に対応した縦ラインと、車体を設定距離だけ後進させた際に到達する位置を示す横ラインとを備えた枠状に形成されている請求項1〜のいずれか一項に記載の駐車支援装置。 The predicted course image, a vertical line corresponding to the width of the vehicle body, claim is formed in a frame shape that includes a horizontal line indicating the position reached upon by backward of the vehicle body a set distance 1-3 The parking assistance device according to any one of the above.
JP2010056356A 2010-03-12 2010-03-12 Parking assistance device Expired - Fee Related JP5605606B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010056356A JP5605606B2 (en) 2010-03-12 2010-03-12 Parking assistance device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010056356A JP5605606B2 (en) 2010-03-12 2010-03-12 Parking assistance device

Publications (2)

Publication Number Publication Date
JP2011193137A JP2011193137A (en) 2011-09-29
JP5605606B2 true JP5605606B2 (en) 2014-10-15

Family

ID=44797632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010056356A Expired - Fee Related JP5605606B2 (en) 2010-03-12 2010-03-12 Parking assistance device

Country Status (1)

Country Link
JP (1) JP5605606B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11077794B2 (en) 2019-07-16 2021-08-03 Aisin Seiki Kabushiki Kaisha Vehicle periphery display device
US11180084B2 (en) 2019-07-16 2021-11-23 Aisin Seiki Kabushiki Kaisha Vehicle periphery display device
US11620834B2 (en) 2019-09-12 2023-04-04 Aisin Corporation Periphery monitoring device

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013118772A1 (en) * 2012-02-10 2013-08-15 日産自動車株式会社 Travel control device and travel control method
JP2013209063A (en) * 2012-03-30 2013-10-10 Equos Research Co Ltd Travel control device
JP5935655B2 (en) * 2012-10-24 2016-06-15 株式会社デンソー Information display device
GB2525653A (en) * 2014-05-01 2015-11-04 Jaguar Land Rover Ltd Apparatus and method for providing information within a vehicle
KR101840927B1 (en) * 2016-02-24 2018-05-04 (주)베라시스 Apparatus and method for evading collision of vehicle and rear side approach object
JP7030438B2 (en) * 2017-07-26 2022-03-07 日産自動車株式会社 Vehicle display method and vehicle display device
KR102060070B1 (en) * 2017-10-24 2019-12-27 엘지전자 주식회사 Device for automatically parking vehicle and method for controlling the same
JP7189695B2 (en) * 2018-08-07 2022-12-14 日立Astemo株式会社 Driving support device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3915200B2 (en) * 1997-10-18 2007-05-16 マツダ株式会社 Vehicle obstacle warning device
JP4108210B2 (en) * 1998-12-11 2008-06-25 富士通テン株式会社 Vehicle parking assist device
JP3608527B2 (en) * 2001-05-15 2005-01-12 株式会社豊田中央研究所 Peripheral status display device
JP2004295596A (en) * 2003-03-27 2004-10-21 Honda Motor Co Ltd Traveling support information display device of vehicle
JP2009265803A (en) * 2008-04-23 2009-11-12 Panasonic Corp Vehicle visual field support device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11077794B2 (en) 2019-07-16 2021-08-03 Aisin Seiki Kabushiki Kaisha Vehicle periphery display device
US11180084B2 (en) 2019-07-16 2021-11-23 Aisin Seiki Kabushiki Kaisha Vehicle periphery display device
US11620834B2 (en) 2019-09-12 2023-04-04 Aisin Corporation Periphery monitoring device

Also Published As

Publication number Publication date
JP2011193137A (en) 2011-09-29

Similar Documents

Publication Publication Date Title
JP5605606B2 (en) Parking assistance device
KR101332932B1 (en) Parking assistance device
US10479275B2 (en) Vehicle peripheral observation device
JP5454934B2 (en) Driving assistance device
US9862319B2 (en) Vehicle peripheral observation device using cameras and an emphasized frame
KR101326364B1 (en) Vehicle peripheral display device
JP6413207B2 (en) Vehicle display device
EP2623376B1 (en) Parking assistance device
JP2010202010A (en) Parking support device
JP5459553B2 (en) Parking assistance device
JP5136950B2 (en) In-vehicle device operation device
KR20180067600A (en) Display control method and display control device
JP5618138B2 (en) Parking assistance device
JP2015139128A (en) Vehicular periphery monitoring device
JP7047586B2 (en) Vehicle display control device
JP6617462B2 (en) Vehicle periphery visual recognition device
JP2011255812A (en) Parking support device
WO2020148957A1 (en) Vehicle control device and method
JP2004051063A (en) Device for visual recognition around vehicle
JP2016197312A (en) Drive support display device
JP2021160667A (en) Parking support device, parking support system, and parking support method
KR20120117263A (en) Apparatus and method for parking assist
JP2017001493A (en) Image processor and image processing method
JP2006182322A (en) Drive assist apparatus and drive assist graphics display method
KR20200135663A (en) Vehicle Parking Assist Apparatus And Method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131205

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140813

R151 Written notification of patent or utility model registration

Ref document number: 5605606

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees