JP4421410B2 - Driving support information providing apparatus and method - Google Patents

Driving support information providing apparatus and method Download PDF

Info

Publication number
JP4421410B2
JP4421410B2 JP2004221707A JP2004221707A JP4421410B2 JP 4421410 B2 JP4421410 B2 JP 4421410B2 JP 2004221707 A JP2004221707 A JP 2004221707A JP 2004221707 A JP2004221707 A JP 2004221707A JP 4421410 B2 JP4421410 B2 JP 4421410B2
Authority
JP
Japan
Prior art keywords
image
information providing
vehicle
display
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004221707A
Other languages
Japanese (ja)
Other versions
JP2006040119A (en
Inventor
博 宍戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2004221707A priority Critical patent/JP4421410B2/en
Publication of JP2006040119A publication Critical patent/JP2006040119A/en
Application granted granted Critical
Publication of JP4421410B2 publication Critical patent/JP4421410B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は運転支援情報提供装置および方法に関し、特に、車両が交差点に近づいたときに、前方からの対向車や進入道路の横断歩道上にいる歩行者の存在をディスプレイに表示して運転者に警告を与えるように成された装置に用いて好適なものである。   The present invention relates to an apparatus and method for providing driving assistance information, and in particular, when a vehicle approaches an intersection, the presence of an oncoming vehicle from the front or a pedestrian on a pedestrian crossing on an approach road is displayed on a display to the driver. It is suitable for use in a device designed to give a warning.

従来、車両が交差点に入ったときに、横断歩道にいる歩行者を検出して歩行者情報を画像として画面表示するようにした技術が提案されている(例えば、特許文献1参照)。この特許文献1に記載の技術では、CCDカメラによる撮影画像を処理して横断歩行者情報を得るとともに、道路に沿って設けられたAHS(走行支援道路システム)からの無線信号を処理して横断歩行者情報を得て、CCDカメラの検出範囲以外の横断歩行者情報を選択的に画面表示する。
特開2003−327065号公報
Conventionally, when a vehicle enters an intersection, a technique has been proposed in which a pedestrian at a pedestrian crossing is detected and pedestrian information is displayed on the screen as an image (see, for example, Patent Document 1). In the technique described in Patent Document 1, a captured image by a CCD camera is processed to obtain crossing pedestrian information, and a radio signal from an AHS (driving support road system) provided along the road is processed to cross the road. Pedestrian information is obtained, and crossing pedestrian information outside the detection range of the CCD camera is selectively displayed on the screen.
JP 2003-327065 A

また、車両が交差点や曲がり角などの見通しの利かない領域に接近したときに、車々間通信を利用して、周辺車両の位置や進行方向、速度を画面表示するようにした技術も提案されている(例えば、特許文献2参照)。この特許文献2に記載の技術では、各周辺車両の表示優先順位をドライバの注意すべき度合いに基づいて決定し、その優先順位に基づいて周辺車両の表示を制御(明度制御、表示/非表示制御など)する。
特開2004−77281号公報
In addition, a technique has been proposed in which the position, traveling direction, and speed of surrounding vehicles are displayed on the screen using inter-vehicle communication when the vehicle approaches an unsightly area such as an intersection or a corner ( For example, see Patent Document 2). In the technique described in Patent Document 2, the display priority of each surrounding vehicle is determined based on the degree to which the driver should be careful, and the display of the surrounding vehicle is controlled based on the priority (lightness control, display / non-display). Control).
JP 2004-77281 A

上記特許文献1および特許文献2に記載の技術は、歩行者情報または周辺車両情報の何れか一方のみを単独で運転者に提供するものであるが、これら2種類の情報を共に運転者に提供した方が好ましい場面もある。例えば、車両が交差点を右折しようとしているときには、前方からの対向車の情報と、進入道路の横断歩道を歩いている歩行者の情報との2種類を提供するのが好ましい。車両が交差点内で停車しているときは主に対向車に注意を払い、対向車がいなくなって動き出した後は横断歩道の歩行者に注意を向けなければいけないからである。   The technologies described in Patent Document 1 and Patent Document 2 provide only one of the pedestrian information and the surrounding vehicle information to the driver, but both of these two types of information are provided to the driver. There are some situations where this is preferable. For example, when the vehicle is going to turn right at an intersection, it is preferable to provide two types of information: an oncoming vehicle from the front and information on a pedestrian walking on a pedestrian crossing on the approach road. This is because when the vehicle is stopped at the intersection, attention should be paid mainly to the oncoming vehicle, and attention should be paid to the pedestrian crossing pedestrian after the oncoming vehicle disappears and starts moving.

ここで、対向車の情報を提供する情報提供画面の最適な地図縮尺と、歩行者の情報を提供する情報提供画面の最適な地図縮尺とは、異なる。すなわち、対向車表示画面の最適縮尺は50mスケール程度であり、交差点から前方の対向道路を100m程度の範囲で表示するのが好ましい。一方、歩行者表示画面の最適縮尺は10mスケール程度であり、自車進行方向の交差点を含む20m程度の範囲を表示するのが好ましい。   Here, the optimal map scale of the information providing screen for providing information on the oncoming vehicle is different from the optimal map scale of the information providing screen for providing information on pedestrians. That is, the optimum scale of the oncoming vehicle display screen is about 50 m, and it is preferable to display the oncoming road ahead from the intersection in a range of about 100 m. On the other hand, the optimal scale of the pedestrian display screen is about 10 m scale, and it is preferable to display a range of about 20 m including the intersection in the traveling direction of the vehicle.

このように最適な地図縮尺が異なるため、対向車表示画面と歩行者表示画面とを適切に切り替えて提供しなければならない。例えば、自車が交差点内で停車しているときは、対向車に注意を払う必要があるため対向車表示画面を提供し、対向車がいなくなって動き出した後は、横断歩道の歩行者に注意を向けなければいけないため歩行者表示画面を提供する。   Since the optimal map scales are different in this way, the oncoming vehicle display screen and the pedestrian display screen must be switched appropriately and provided. For example, when your vehicle is stopped at an intersection, you need to pay attention to the oncoming vehicle, so provide an oncoming vehicle display screen, and watch out for pedestrians on the pedestrian crossing after the oncoming vehicle disappears and starts moving. Provide a pedestrian display screen.

ところが、このように2種類の画面を切り替えて表示する場合には、次のような問題を生じる。車両は、交差点内で周囲の交通状況に合わせて細かく停止と進行を繰り返すことが多い。この場合には、その細かい停止と進行に合わせて表示画面が頻繁に切り替わってしまう。このように表示画面が短時間で何度も切り替わると、運転者に却って混乱を与えてしまう。   However, when two types of screens are switched and displayed as described above, the following problems occur. A vehicle often repeats stopping and advancing finely within an intersection according to surrounding traffic conditions. In this case, the display screen is frequently switched according to the detailed stop and progress. If the display screen is switched many times in a short time in this way, the driver is confused on the contrary.

また、対向車表示画面から歩行者表示画面へと全く異なる内容の画面に切り替わったときに、運転者は、新しい表示画面内の全ての情報を頭に取り込んで内容を認識しなければならず、その認識に0.5〜2秒程度の時間がかかってしまう。頻繁に交通状況が変わる交差点内において、このように長い認識時間を要するのは好ましくない。   In addition, when switching from the oncoming vehicle display screen to the pedestrian display screen, the driver must recognize all the information in the new display screen and recognize the content. The recognition takes about 0.5 to 2 seconds. It is not preferable to require such a long recognition time in an intersection where traffic conditions frequently change.

これらの問題を解消するための1つの方法として、表示画面を2分割し、対向車表示画面と歩行者表示画面とを同時に表示するという方法がある。しかしながら、この方法では、それぞれの画像が半分に小さくなってしまう。画像が小さくなると表示内容を読み取りにくくなり、運転者による読み取り時間が余計にかかってしまうという問題を生じる。   One method for solving these problems is to divide the display screen into two and display the oncoming vehicle display screen and the pedestrian display screen simultaneously. However, this method makes each image half smaller. When the image becomes smaller, it becomes difficult to read the display content, which causes a problem that it takes extra time for the driver to read.

本発明は、このような問題を解決するために成されたものであり、対向車表示画面と歩行者表示画面とを提供する際に、運転者に与える混乱を極力小さくし、かつ、表示画面の内容を運転者ができるだけ短い時間で認識できるようにすることを目的とする。   The present invention has been made to solve such problems, and minimizes confusion to the driver when providing an oncoming vehicle display screen and a pedestrian display screen, and the display screen. The purpose is to allow the driver to recognize the contents of the vehicle in as short a time as possible.

上記した課題を解決するために、本発明では、自車の前方からの対向車の情報を提供する画像である第1の情報提供画像と進入道路における歩行者の情報を提供する画像である第2の情報提供画像とを共に全画面に同時に表示し、その表示の際に、車両が停止しているか進行しているかに応じて、両画像の濃度を変えるようにしている。例えば、車両が停止しているときは第1の情報提供画像を第2の情報提供画像よりも濃くし、車両が進行しているときは第2の情報提供画像を第1の情報提供画像よりも濃くして表示する。 In order to solve the above-described problem, in the present invention , a first information providing image that is an image that provides information on an oncoming vehicle from the front of the host vehicle and an image that provides pedestrian information on an approach road are provided . The two information providing images are simultaneously displayed on the entire screen, and the density of both images is changed depending on whether the vehicle is stopped or moving. For example, when the vehicle is stopped, the first information providing image is darker than the second information providing image, and when the vehicle is traveling, the second information providing image is displayed from the first information providing image. Also darken and display.

なお、自車が進行すべき方向を示す矢印図形を、カメラで得られた前方画像に重畳して表示する場合に、自車前方に車両等の障害物が存在するときは、その障害物による案内対象分岐点の遮蔽度に応じて矢印図形の透過率を変化させて表示するようにした技術が存在する(例えば、特許文献3参照)。しかし、この特許文献3に記載の技術は、車両の停止/進行に合わせて表示画像の濃度を変化させるものではない。
特開平10−281794号公報
In addition, when an arrow graphic indicating the direction in which the vehicle should travel is displayed superimposed on the front image obtained by the camera, if there is an obstacle such as a vehicle in front of the vehicle, the obstacle There is a technique in which the transmittance of an arrow graphic is changed according to the degree of shielding at a guidance target branch point (for example, see Patent Document 3). However, the technique described in Patent Document 3 does not change the density of the display image in accordance with the stop / advance of the vehicle.
JP-A-10-281794

上記のように構成した本発明によれば、第1の情報提供画像も第2の情報提供画像も全画面表示されるので、表示画面を2分割してそれぞれの画像を半画面ずつ表示する場合に比べて表示が大きくなり、表示内容を読み取りやすくすることができる。また、例えば第1の情報提供画像が濃く表示されているときでも、第2の情報提供画像が薄く表示されているので、切り替わり後の画像の先行手がかりを得ることができる。これにより、第2の情報提供画像が濃く表示されるように切り替えられたときでも、第2の情報提供画像の表示が全くない状態から切り替えられる場合に比べて内容を認識しやすくすることができる。したがって、交差点内で周囲の交通状況に合わせて車両が細かく停止と進行を繰り返したとしても、運転者に与える混乱を極力小さくし、かつ、表示画面の内容を運転者ができるだけ短い時間で認識することができるようになる。   According to the present invention configured as described above, both the first information providing image and the second information providing image are displayed on the full screen. Therefore, when the display screen is divided into two and each image is displayed on a half screen. The display becomes larger than the above, and the display contents can be easily read. Further, for example, even when the first information providing image is displayed dark, the second information providing image is displayed lightly, so that it is possible to obtain a leading clue of the image after switching. Thereby, even when the second information providing image is switched so as to be displayed darkly, the contents can be recognized more easily than when the second information providing image is switched from a state where there is no display of the second information providing image. . Therefore, even if the vehicle repeatedly stops and advances in detail at the intersection according to the surrounding traffic conditions, the disruption to the driver is minimized and the driver recognizes the contents of the display screen in the shortest possible time. Will be able to.

以下、本発明の一実施形態を図面に基づいて説明する。図1は、本実施形態による運転支援情報提供装置100およびその周辺装置の構成例を示すブロック図である。図1において、11は地図データバッファメモリであり、記録媒体101から読み出された地図データを一時的に格納する。ここで読み出される地図データは、地図表示や交差点表示等に必要なデータである。記録媒体101としては、例えばDVD−ROM、CD−ROM、ハードディスク等が用いられる。   Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram illustrating a configuration example of the driving support information providing apparatus 100 and its peripheral devices according to the present embodiment. In FIG. 1, reference numeral 11 denotes a map data buffer memory, which temporarily stores map data read from the recording medium 101. The map data read out here is data necessary for map display, intersection display, and the like. As the recording medium 101, for example, a DVD-ROM, a CD-ROM, a hard disk or the like is used.

12は地図画像描画部であり、地図データバッファメモリ11に格納された地図データに基づいて、表示装置107への地図表示に必要な地図画像データを生成する。ここで生成する地図画像データは、自車の前方から向かってくる対向車等の情報を提供するための対向車表示画像(本発明による第1の情報提供画像に相当する)を生成するためのデータである。   A map image drawing unit 12 generates map image data necessary for displaying a map on the display device 107 based on the map data stored in the map data buffer memory 11. The map image data generated here generates an oncoming vehicle display image (corresponding to the first information providing image according to the present invention) for providing information such as an oncoming vehicle coming from the front of the host vehicle. It is data.

13は対向車表示画像合成部であり、地図画像描画部12により生成された地図画像データと、前方監視カメラ102および前方レーダ103を用いて認識した対向車を表すアイコン画像データとを合成することにより、図2に示すような対向車表示画像を生成する。図2において、51は自車両のアイコン画像、52は対向車のアイコン画像である。   An oncoming vehicle display image combining unit 13 combines the map image data generated by the map image drawing unit 12 with icon image data representing an oncoming vehicle recognized using the front monitoring camera 102 and the front radar 103. Thus, an oncoming vehicle display image as shown in FIG. 2 is generated. In FIG. 2, 51 is an icon image of the own vehicle, and 52 is an icon image of an oncoming vehicle.

ここで、前方監視カメラ102は、車両の前方を撮影するカメラである。前方レーダ103は、車両の前方に赤外線や超音波、ミリ波などの電波を発射し、反射して返ってくる電波を受信して前方の物体を検出するものである。この前方レーダ103を用いることにより、車両の前方にある物体(対向車等)の自車両からの方向と距離とを検出することが可能である。   Here, the front monitoring camera 102 is a camera that captures the front of the vehicle. The front radar 103 emits radio waves such as infrared rays, ultrasonic waves, and millimeter waves in front of the vehicle, receives the radio waves that are reflected back, and detects an object ahead. By using the front radar 103, it is possible to detect the direction and distance from the own vehicle of an object (such as an oncoming vehicle) in front of the vehicle.

対向車表示画像合成部13は、前方監視カメラ102で撮影された画像データを処理して対向車の車種を認識し、その車種に合ったアイコン画像データを取得する。アイコン画像データは、例えば、ROM等の記録媒体にあらかじめ格納されている。対向車表示画像合成部13は、前方レーダ103で検出された方向と距離に応じた地図上の位置に、取得したアイコン画像データを合成することによって、対向車表示画像を生成する。   The oncoming vehicle display image composition unit 13 processes the image data captured by the front monitoring camera 102 to recognize the vehicle type of the oncoming vehicle, and acquires icon image data suitable for the vehicle type. The icon image data is stored in advance in a recording medium such as a ROM. The oncoming vehicle display image combining unit 13 generates an oncoming vehicle display image by combining the acquired icon image data with a position on the map corresponding to the direction and distance detected by the forward radar 103.

なお、本実施形態では前方監視カメラ102と前方レーダ103とを用いて対向車を認識し、認識した位置に対向車のアイコン画像52を合成して表示しているが、この例に限定されない。例えば、車々間通信を利用して他車両から情報を取得することにより、対向車以外の他車両も認識し、その対向車以外の他車両のアイコン画像53を地図上に合成して表示するようにしても良い。   In the present embodiment, the oncoming vehicle is recognized using the front monitoring camera 102 and the front radar 103, and the icon image 52 of the oncoming vehicle is synthesized and displayed at the recognized position. However, the present invention is not limited to this example. For example, by acquiring information from other vehicles using inter-vehicle communication, other vehicles other than the oncoming vehicle are also recognized, and icon images 53 of other vehicles other than the oncoming vehicle are combined and displayed on the map. May be.

次いで、14は交差点描画部であり、地図データバッファメモリ11に格納された地図データに基づいて、表示装置107への交差点表示に必要な交差点画像データを生成する。ここで生成する交差点画像データは、交差点にいる自車が進入しようとする道路の横断歩道に存在する歩行者の情報を提供するための歩行者表示画像(本発明による第2の情報提供画像に相当する)を生成するためのものである。   Next, 14 is an intersection drawing unit, which generates intersection image data necessary for the intersection display on the display device 107 based on the map data stored in the map data buffer memory 11. The intersection image data generated here is a pedestrian display image (in the second information providing image according to the present invention) for providing information on pedestrians existing on the pedestrian crossing of the road where the vehicle at the intersection is about to enter. Equivalent).

15は歩行者表示画像合成部であり、交差点描画部14により生成された交差点画像データと、トップビューカメラ104および右側面監視カメラ105により撮影される画像データを認識処理して得られる車両や歩行者のアイコン画像データとを合成することにより、図3に示すような歩行者表示画像、すなわち、自車両や他車両の他に横断歩道における歩行者を含む交差点のトップビュー画像を生成する。   Reference numeral 15 denotes a pedestrian display image composition unit, which recognizes the intersection image data generated by the intersection drawing unit 14 and the image data photographed by the top view camera 104 and the right side monitoring camera 105 and walks the vehicle or walking. By combining the icon image data of the person, a pedestrian display image as shown in FIG. 3, that is, a top view image of an intersection including a pedestrian in a pedestrian crossing in addition to the own vehicle and other vehicles is generated.

図3において、61は自車両のアイコン画像であり、ROM等の記録媒体に記憶された自車両画像データに基づいて、トップビュー画像の所定の位置(例えば、トップビュー画像の左端付近の略中央)に上方の仮想視点から見た状態で表示される。62は他車両のアイコン画像、63は歩行者のアイコン画像であり、トップビューカメラ104および右側面監視カメラ105により撮影された画像に基づいて認識された他車両や歩行者を表すものである。   In FIG. 3, reference numeral 61 denotes an icon image of the host vehicle. Based on the host vehicle image data stored in a recording medium such as a ROM, a predetermined position of the top view image (for example, approximately the center near the left end of the top view image). ) Displayed from the upper virtual viewpoint. 62 is an icon image of another vehicle, 63 is an icon image of a pedestrian, and represents another vehicle or a pedestrian recognized based on images taken by the top view camera 104 and the right side monitoring camera 105.

ここで、トップビューカメラ104は、例えば複数台のカメラにより構成され、自車両の周囲を撮影する。また、右側面監視カメラ105は、トップビューカメラ104で撮影し切れない範囲を補助的に撮影する。自車両が交差点で右折するときに提供する歩行者表示画像を生成するために、右側面監視カメラ105は車両の右側面に設置され、右側方を撮影する。   Here, the top view camera 104 is composed of a plurality of cameras, for example, and photographs the surroundings of the host vehicle. Further, the right side monitoring camera 105 supplementarily captures a range that cannot be completely captured by the top view camera 104. In order to generate a pedestrian display image provided when the host vehicle turns right at an intersection, the right side monitoring camera 105 is installed on the right side of the vehicle and photographs the right side.

歩行者表示画像合成部15は、トップビューカメラ104および右側面監視カメラ105により撮影された画像データを処理して他車両の車種や位置を認識するとともに、横断歩道における歩行者の位置を認識する。そして、交差点描画部14により生成された交差点画像データ上において、自車両のアイコン画像61を所定の位置に合成するとともに、認識した車種に応じた他車両のアイコン画像62を認識した位置に合成する。さらに、歩行者のアイコン画像63を認識した位置に合成する。これにより、歩行者表示画像を生成する。他車両や歩行者のアイコン画像62,63も、ROM等の記録媒体にあらかじめ記憶されている。   The pedestrian display image synthesizing unit 15 processes image data captured by the top view camera 104 and the right side monitoring camera 105 to recognize the type and position of another vehicle, and also recognizes the position of the pedestrian on the pedestrian crossing. . And on the intersection image data produced | generated by the intersection drawing part 14, while combining the icon image 61 of the own vehicle to a predetermined position, it combines with the position which recognized the icon image 62 of the other vehicle according to the recognized vehicle type. . Further, the pedestrian icon image 63 is synthesized at the recognized position. Thereby, a pedestrian display image is generated. The icon images 62 and 63 of other vehicles and pedestrians are also stored in advance in a recording medium such as a ROM.

16は車両位置・方位計算部であり、自立航法センサ106から出力される自車の相対的な位置および方位のデータに基づいて、絶対的な自車位置(推定車両位置)および車両方位を計算する。ここで、自立航法センサ106は、車両の現在位置を測定するためのものであり、所定走行距離毎に1個のパルスを出力して車両の移動距離を検出する距離センサ(車速センサ)と、車両の回転角度(移動方位)を検出する振動ジャイロ等の角速度センサ(相対方位センサ)とを含んでいる。自立航法センサ106は、これらの距離センサおよび角速度センサによって車両の相対位置および方位を検出し、その情報を車両位置・方位計算部16に出力する。   Reference numeral 16 denotes a vehicle position / orientation calculation unit that calculates an absolute own vehicle position (estimated vehicle position) and vehicle direction based on the relative position and direction data of the own vehicle output from the self-contained navigation sensor 106. To do. Here, the self-contained navigation sensor 106 is for measuring the current position of the vehicle, and outputs a single pulse for each predetermined travel distance to detect the travel distance of the vehicle (vehicle speed sensor); And an angular velocity sensor (relative azimuth sensor) such as a vibrating gyroscope that detects a rotation angle (moving direction) of the vehicle. The self-contained navigation sensor 106 detects the relative position and direction of the vehicle using these distance sensors and angular velocity sensors, and outputs the information to the vehicle position / orientation calculation unit 16.

17は主表示画像決定部であり、以下のような処理を実行する。第1に、車両位置・方位計算部16により求められた車両位置情報に基づいて、自車両が交差点で停止しているのか進行しているのかを検出する。第2に、その停止/進行の検出結果に応じて、対向車表示画像合成部13により生成された対向車表示画像と歩行者表示画像合成部15により生成された歩行者表示画像とのどちらを主画像として表示するかを決定する。このように、主表示画像決定部17は、本発明の停止/進行検出手段および主表示画像決定手段を構成する。   Reference numeral 17 denotes a main display image determination unit, which executes the following processing. First, based on the vehicle position information obtained by the vehicle position / orientation calculation unit 16, it is detected whether the host vehicle is stopped at the intersection or traveling. Secondly, either the oncoming vehicle display image generated by the oncoming vehicle display image combining unit 13 or the pedestrian display image generated by the pedestrian display image combining unit 15 depending on the detection result of the stop / progress. Decide whether to display as the main image. As described above, the main display image determination unit 17 constitutes the stop / progress detection means and the main display image determination means of the present invention.

18は画像合成部であり、対向車表示画像合成部13により生成された対向車表示画像と歩行者表示画像合成部15により生成された歩行者表示画像とを重ねて画像合成を行い、表示装置107に出力する。これにより、対向車表示画像と歩行者表示画像とが共に表示装置107の全画面に同時に表示される。この表示の際に、画像合成部18は、主表示画像決定部17による主表示画像の決定結果に応じて、対向車表示画像および歩行者表示画像の濃度を変えて表示するように制御する。この画像合成部18は、本発明の表示制御手段を構成する。   An image composition unit 18 superimposes the oncoming vehicle display image generated by the oncoming vehicle display image composition unit 13 and the pedestrian display image generated by the pedestrian display image composition unit 15 to perform image composition, and displays the display device. It outputs to 107. As a result, both the oncoming vehicle display image and the pedestrian display image are simultaneously displayed on the entire screen of the display device 107. At the time of this display, the image composition unit 18 controls to change the density of the oncoming vehicle display image and the pedestrian display image according to the determination result of the main display image by the main display image determination unit 17. This image composition unit 18 constitutes the display control means of the present invention.

具体的には、画像合成部18は、主表示画像決定部17により決定された主表示画像よりも他方の画像の表示濃度を低くして表示するように制御する。ここで、主表示画像決定部17は、自車両が停止していると判断したときは対向車表示画像を主表示画像に決定し、自車両が進行していると判断したときは歩行者表示画像を主表示画像に決定する。これにより、自車両が停止中のときは、対向車表示画像が普通の濃度、歩行者表示画像がそれより薄い濃度で表示される。一方、自車両が進行中のときは、歩行者表示画像が普通の濃度、対向車表示画像がそれより薄い濃度で表示される。   Specifically, the image composition unit 18 performs control so that the display density of the other image is lower than that of the main display image determined by the main display image determination unit 17. Here, the main display image determination unit 17 determines the oncoming vehicle display image as the main display image when determining that the host vehicle is stopped, and displays the pedestrian when determining that the host vehicle is moving. The image is determined as the main display image. Thereby, when the host vehicle is stopped, the oncoming vehicle display image is displayed at a normal density and the pedestrian display image is displayed at a lower density. On the other hand, when the host vehicle is in progress, the pedestrian display image is displayed at a normal density and the oncoming vehicle display image is displayed at a lower density.

例えば、図4のような状況を考える。図4では、信号が青になって交差点中央まで進行し(状況A)、そこで対向車を確認するために一時停止した後(状況B)、対向車がいなくなって進行し始めた(状況C)という一連の状態を示している。まず、状況Aでは自車両が進行しているので、主表示画像は歩行者表示画像となり、その歩行者表示画像が通常の濃度で全画面表示されるとともに、対向車表示画像が歩行者表示画像よりも濃度を低くして全画面表示される。つまり、表示装置107には、図5(b)のような画像が表示される。   For example, consider the situation as shown in FIG. In FIG. 4, the signal turns blue and proceeds to the center of the intersection (Situation A), where after stopping temporarily to confirm the oncoming vehicle (Situation B), the oncoming vehicle disappears and begins to proceed (Situation C). It shows a series of states. First, since the host vehicle is moving in the situation A, the main display image is a pedestrian display image, the pedestrian display image is displayed in full screen at a normal density, and the oncoming vehicle display image is a pedestrian display image. Is displayed at full screen at a lower density. That is, an image as shown in FIG. 5B is displayed on the display device 107.

次に、状況Bでは自車両が停止しているので、主表示画像は対向車表示画像となり、その対向車表示画像が通常の濃度で全画面表示されるとともに、歩行者表示画像が対向車表示画像よりも濃度を低くして全画面表示される。つまり、表示装置107には、図5(a)のような画像が表示される。その後、状況Cで自車両が進行し始めると、表示装置107には、図5(b)のような画像が再び表示される。   Next, since the host vehicle is stopped in the situation B, the main display image becomes an oncoming vehicle display image, the oncoming vehicle display image is displayed in full screen at a normal density, and a pedestrian display image is displayed on the oncoming vehicle Displayed at full screen at a lower density than the image. That is, an image as shown in FIG. 5A is displayed on the display device 107. Thereafter, when the host vehicle starts to advance in the situation C, an image as shown in FIG. 5B is displayed again on the display device 107.

次に、上記のように構成した運転支援情報提供装置100の動作について説明する。図6は、本実施形態による運転支援情報提供方法の処理手順を示すフローチャートである。なお、この図6のフローチャートに示す処理は、自車両が交差点に近づいたときに実行される。   Next, the operation of the driving support information providing apparatus 100 configured as described above will be described. FIG. 6 is a flowchart showing a processing procedure of the driving support information providing method according to the present embodiment. The process shown in the flowchart of FIG. 6 is executed when the host vehicle approaches the intersection.

図6において、まず、対向車表示画像合成部13は、地図画像描画部12により生成された地図画像データと、前方監視カメラ102により撮影された画像データと、前方レーダ103から取得した情報とに基づいて、図2に示すような対向車表示画像を合成する(ステップS1)。   In FIG. 6, first, the oncoming vehicle display image composition unit 13 converts the map image data generated by the map image drawing unit 12, the image data captured by the front monitoring camera 102, and the information acquired from the front radar 103. Based on this, an oncoming vehicle display image as shown in FIG. 2 is synthesized (step S1).

また、歩行者表示画像合成部15は、交差点描画部14により生成された交差点画像データと、トップビューカメラ104および右側面監視カメラ105により撮影された画像データとに基づいて、図3に示すような歩行者表示画像を合成する(ステップS2)。なお、このステップS1の処理とステップS2の処理は順番が逆でも良いし、同時に行っても良い。   Further, the pedestrian display image synthesis unit 15 is based on the intersection image data generated by the intersection drawing unit 14 and the image data photographed by the top view camera 104 and the right side monitoring camera 105 as shown in FIG. A pedestrian display image is synthesized (step S2). Note that the order of step S1 and step S2 may be reversed or may be performed simultaneously.

次に、主表示画像決定部17は、車両位置・方位計算部16により求められる車両位置情報に基づいて、自車両が停止しているか進行しているかを検出し、その検出結果に応じて、対向車表示画像と歩行者表示画像とのどちらを主表示画像とするかを決定する(ステップS3)。   Next, the main display image determination unit 17 detects whether the host vehicle is stopped or traveling based on the vehicle position information obtained by the vehicle position / orientation calculation unit 16, and according to the detection result, It is determined which of the oncoming vehicle display image and the pedestrian display image is the main display image (step S3).

画像合成部18は、対向車表示画像合成部13から対向車表示画像を入力し、歩行者表示画像合成部15から歩行者表示画像を入力する。また、画像合成部18は、対向車表示画像と歩行者表示画像とのどちらが主表示画像であるかの情報を主表示画像決定部17から入力する。そして、主表示画像でない方の画像の表示濃度を薄く調整する(ステップS4)。例えば、通常の濃度で表示する主表示画像の明度をL、濃度を薄くして表示する画像の明度をL’とした場合、
L’=L+(最大階調数−L×0.8)
の演算によって明度を高めることで、主表示画像でない画像の濃度を薄くする。
The image composition unit 18 inputs an oncoming vehicle display image from the oncoming vehicle display image composition unit 13 and inputs a pedestrian display image from the pedestrian display image composition unit 15. Further, the image composition unit 18 inputs information indicating which of the oncoming vehicle display image and the pedestrian display image is the main display image from the main display image determination unit 17. Then, the display density of the image that is not the main display image is lightly adjusted (step S4). For example, when the brightness of a main display image displayed at a normal density is L and the brightness of an image displayed at a low density is L ′,
L ′ = L + (maximum number of gradations−L × 0.8)
By increasing the brightness by this calculation, the density of the image that is not the main display image is reduced.

そして、画像合成部18は、対向車表示画像と歩行者表示画像(何れかの画像はステップS4で濃度を調整済み)を半透明処理で合成して表示装置107に出力する(ステップS5)。ここでの合成比は1:1である。最後に、図示しないコントローラは、車両位置・方位計算部16により求められる車両位置情報に基づいて、自車両が進入道路の横断歩道を越えたか否かを判定し(ステップS6)、超えた場合には本フローチャートの処理を終了する。   Then, the image composition unit 18 synthesizes the oncoming vehicle display image and the pedestrian display image (one of the images whose density has been adjusted in step S4) by translucent processing and outputs it to the display device 107 (step S5). The synthesis ratio here is 1: 1. Finally, the controller (not shown) determines whether or not the host vehicle has crossed the pedestrian crossing of the approach road based on the vehicle position information obtained by the vehicle position / orientation calculation unit 16 (step S6). Ends the process of this flowchart.

一方、まだ進入道路の横断歩道を越えていない場合はステップS1に戻り、本フローチャートの処理を継続する。この場合、道路状況の変化に応じて、ステップS1およびステップS2で生成される対向車表示画像および歩行者表示画像の内容が更新される。また、自車両の停止/進行の状況変化に応じて、ステップS3において決定される主表示画像が適宜変更され、図5のように表示画像も切り替えられる。   On the other hand, if the pedestrian crossing of the approach road has not been crossed, the process returns to step S1 to continue the process of this flowchart. In this case, the contents of the oncoming vehicle display image and the pedestrian display image generated in step S1 and step S2 are updated in accordance with changes in road conditions. Further, the main display image determined in step S3 is appropriately changed according to the change in the stop / progress status of the host vehicle, and the display image is also switched as shown in FIG.

以上詳しく説明したように、本実施形態では、対向車表示画像と歩行者表示画像とを共に全画面に同時に表示し、その表示の際に、車両が停止しているか進行しているかに応じて、両画像の濃度を変えるようにしている。これにより、表示画面を2分割して対向車表示画像と歩行者表示画像とを半画面ずつ表示する場合に比べて、それぞれの画像の表示が大きくなり、表示内容を読み取りやすくすることができる。また、自車両の停止/進行に応じて画像が切り替えられたときでも、切り替わり後の画像は、切り替わり前においても薄く表示されているので、それを先行手がかりとして表示内容を認識することができる。そのため、切り替わり後の画像の表示が全くない状態から切り替えられる場合に比べて内容を認識しやすくすることができる。以上ことから、交差点内で周囲の交通状況に合わせて自車両が細かく停止と進行を繰り返したとしても、運転者に与える混乱を極力小さくし、かつ、表示画面の内容を運転者ができるだけ短い時間で認識できるようにすることが可能である。   As described above in detail, in the present embodiment, both the oncoming vehicle display image and the pedestrian display image are displayed on the entire screen at the same time, and depending on whether the vehicle is stopped or traveling at the time of the display. The density of both images is changed. Thereby, compared with the case where the display screen is divided into two and the oncoming vehicle display image and the pedestrian display image are displayed in half screens, the display of each image becomes larger and the display contents can be easily read. Even when the image is switched according to the stop / progress of the host vehicle, the image after the switching is displayed lightly before the switching, so that the display content can be recognized using this as a leading clue. Therefore, it is possible to make it easier to recognize the content than when switching from a state where there is no image display after switching. From the above, even if the host vehicle repeatedly stops and advances repeatedly according to the surrounding traffic conditions within the intersection, the disruption to the driver is minimized and the content of the display screen is as short as possible for the driver. Can be recognized.

なお、上記実施形態では、主表示画像の濃度を基準として、他方の画像の濃度を薄くなるように調整しているが、逆に、主表示画像でない方の画像の濃度を基準として、主表示画像の濃度を濃くなるように調整しても良い。   In the above-described embodiment, the density of the other image is adjusted to be lower with the density of the main display image as a reference. Conversely, the density of the image that is not the main display image is used as the reference. You may adjust so that the density of an image may become deep.

また、上記実施形態では、図5(a)に示す合成画像と図5(b)に示す合成画像との2つの画像を適宜切り替える例について説明したが、図5(a)に示す合成画像から図5(b)に示す合成画像へ、また、図5(b)に示す合成画像から図5(a)に示す合成画像へと徐々に濃度を変えながら切り替えるようにしても良い。   Moreover, although the said embodiment demonstrated the example which switches suitably two images, the synthesized image shown to Fig.5 (a), and the synthesized image shown to FIG.5 (b), from the synthesized image shown to Fig.5 (a). It is also possible to switch to the composite image shown in FIG. 5B or from the composite image shown in FIG. 5B to the composite image shown in FIG. 5A while gradually changing the density.

また、上記実施形態では、自車両の停止/進行に応じてまず主表示画像を決定し、その決定結果に基づいて対向車表示画像または歩行者表示画像の何れか一方の画像の濃度を調整する例について説明したが、この例に限定されない。例えば、対向車表示画像よりも歩行者表示画像の表示濃度を低くして両画像を共に全画面に同時に表示する図5(a)のような合成画像(本発明による第1の表示画像に相当)と、歩行者表示画像よりも対向車表示画像の表示濃度を低くして両画像を共に全画面に同時に表示する図5(b)のような合成画像(本発明による第2の表示画像に相当)とを画像合成部18においてあらかじめ生成しておく。そして、画像合成部18が自車両の停止/進行を検出し、その検出結果に応じて何れかの合成画像を選択的に表示装置107に出力するようにしても良い。   In the above embodiment, the main display image is first determined according to the stop / advance of the host vehicle, and the density of either the oncoming vehicle display image or the pedestrian display image is adjusted based on the determination result. Although an example has been described, it is not limited to this example. For example, a composite image as shown in FIG. 5A (corresponding to the first display image according to the present invention) in which the display density of the pedestrian display image is made lower than the oncoming vehicle display image and both images are simultaneously displayed on the entire screen. ) And a composite image as shown in FIG. 5B (in the second display image according to the present invention) in which both the images are simultaneously displayed on the entire screen by lowering the display density of the oncoming vehicle display image than the pedestrian display image. In the image composition unit 18 in advance. Then, the image composition unit 18 may detect stop / advance of the host vehicle and selectively output any composite image to the display device 107 according to the detection result.

また、上記実施形態では、表示濃度を画像の明度によって調整する例について説明したが、明度以外の手法によって濃度を調整するようにしても良い。   In the above embodiment, the example in which the display density is adjusted by the brightness of the image has been described. However, the density may be adjusted by a method other than the brightness.

その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその精神、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。   In addition, each of the above-described embodiments is merely an example of actualization in carrying out the present invention, and the technical scope of the present invention should not be construed in a limited manner. In other words, the present invention can be implemented in various forms without departing from the spirit or main features thereof.

本発明は、車両が交差点に近づいたときに、前方からの対向車や進入道路の横断歩道上にいる歩行者の存在をディスプレイに表示する機能を備えた運転支援情報提供装置、例えばナビゲーション装置に有用である。   The present invention relates to a driving assistance information providing device, for example, a navigation device, having a function of displaying on the display the presence of an oncoming vehicle from the front or a pedestrian on the pedestrian crossing of an approach road when the vehicle approaches an intersection. Useful.

本実施形態による運転支援情報提供装置およびその周辺装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the driving assistance information provision apparatus by this embodiment, and its peripheral device. 本実施形態による対向車表示画像の例を示す図である。It is a figure which shows the example of the oncoming vehicle display image by this embodiment. 本実施形態による歩行者表示画像の例を示す図である。It is a figure which shows the example of the pedestrian display image by this embodiment. 交差点における自車両のモデル走行例を示す図である。It is a figure which shows the model running example of the own vehicle in an intersection. 本実施形態による表示画面の変化例を示す図である。It is a figure which shows the example of a change of the display screen by this embodiment. 本実施形態による運転支援情報提供方法の処理手順を示すフローチャートである。It is a flowchart which shows the process sequence of the driving assistance information provision method by this embodiment.

符号の説明Explanation of symbols

11 地図データバッファメモリ
12 地図画像描画部
13 対向車表示画像合成部
14 交差点描画部
15 歩行者表示画像合成部
16 車両位置・方位計算部
17 主表示画像決定部
18 画像合成部
100 運転支援情報提供装置
102 前方監視カメラ
103 前方レーダ
104 トップビューカメラ
105 右側面監視カメラ
106 自立航法センサ
107 表示装置
DESCRIPTION OF SYMBOLS 11 Map data buffer memory 12 Map image drawing part 13 Oncoming vehicle display image composition part 14 Intersection drawing part 15 Pedestrian display image composition part 16 Vehicle position and direction calculation part 17 Main display image determination part 18 Image composition part 100 Driving assistance information provision Device 102 Front monitoring camera 103 Forward radar 104 Top view camera 105 Right side monitoring camera 106 Self-contained navigation sensor 107 Display device

Claims (6)

車両が停止しているか進行しているかを検出する停止/進行検出手段と、
上記停止/進行検出手段による検出の結果に応じて、自車の前方からの対向車の情報を提供する画像である第1の情報提供画像と進入道路における歩行者の情報を提供する画像である第2の情報提供画像とのどちらを主画像として表示するかを決定する主表示画像決定手段と、
上記第1の情報提供画像と上記第2の情報提供画像とを共に全画面に同時に表示し、その表示の際に、上記主表示画像決定手段による決定結果に応じて、上記第1の情報提供画像および上記第2の情報提供画像の濃度を変えて表示するように制御する表示制御手段とを備えたことを特徴とする運転支援情報提供装置。
Stop / progress detection means for detecting whether the vehicle is stopped or moving;
According to the detection result by the stop / progress detection means , a first information providing image which is an image providing information on an oncoming vehicle from the front of the host vehicle and an image providing pedestrian information on the approach road. Main display image determination means for determining which of the second information providing images is to be displayed as the main image;
Both the first information providing image and the second information providing image are simultaneously displayed on the entire screen, and at the time of display, the first information providing image is displayed according to the determination result by the main display image determining means. A driving support information providing apparatus, comprising: a display control unit configured to control the image and the second information providing image to be displayed with different densities.
上記表示制御手段は、上記主表示画像決定手段により決定された主表示画像よりも他方の画像の表示濃度を低くして表示するように制御することを特徴とする請求項1に記載の運転支援情報提供装置。 The driving support according to claim 1, wherein the display control unit performs control so that the display density of the other image is lower than that of the main display image determined by the main display image determination unit. Information providing device. 上記主表示画像決定手段は、上記停止/進行検出手段により車両が停止していると判断されたときは上記第1の情報提供画像を主表示画像に決定し、上記停止/進行検出手段により車両が進行していると判断されたときは上記第2の情報提供画像を主表示画像に決定することを特徴とする請求項1または2に記載の運転支援情報提供装置。 The main display image determination means determines the first information providing image as a main display image when the stop / progress detection means determines that the vehicle is stopped, and the stop / progress detection means determines the vehicle. 3. The driving support information providing apparatus according to claim 1, wherein the second information providing image is determined as a main display image when it is determined that the vehicle is in progress. 自車の前方からの対向車の情報を提供する画像である第1の情報提供画像を生成する第1のステップと、
進入道路における歩行者の情報を提供する画像である第2の情報提供画像を生成する第2のステップと、
車両が停止しているか進行しているかを検出する第3のステップと、
上記第3のステップでの検出の結果に応じて、上記第1の情報提供画像と上記第2の情報提供画像とのどちらを主画像として表示するかを決定する第4のステップと、
上記第1の情報提供画像と上記第2の情報提供画像とを共に全画面に同時に表示し、その表示の際に、上記第4のステップによる決定結果に応じて、上記第1の情報提供画像および上記第2の情報提供画像の濃度を変えて表示するように制御する第5のステップとを有することを特徴とする運転支援情報提供方法。
A first step of generating a first information providing image, which is an image providing information on an oncoming vehicle from the front of the host vehicle ;
A second step of generating a second information providing image which is an image providing information of a pedestrian on the approach road ;
A third step of detecting whether the vehicle is stopped or moving;
A fourth step of determining which of the first information providing image and the second information providing image is to be displayed as a main image in accordance with the detection result in the third step;
The first information providing image and the second information providing image are displayed simultaneously on the entire screen, and the first information providing image is displayed according to the determination result in the fourth step. And a fifth step of controlling to change the density of the second information providing image for display .
上記第5のステップは、上記第4のステップにより決定された主表示画像よりも他方の画像の表示濃度を低くして表示するように制御することを特徴とする請求項4に記載の運転支援情報提供方法。5. The driving support according to claim 4, wherein the fifth step performs control so that the display density of the other image is lower than that of the main display image determined in the fourth step. Information provision method. 上記第4のステップは、上記第3のステップにより車両が停止していると判断されたときは上記第1の情報提供画像を主表示画像に決定し、上記第3のステップにより車両が進行していると判断されたときは上記第2の情報提供画像を主表示画像に決定することを特徴とする請求項4または5に記載の運転支援情報提供方法。In the fourth step, when it is determined in the third step that the vehicle is stopped, the first information providing image is determined as a main display image, and the vehicle advances in the third step. 6. The method of providing driving assistance information according to claim 4, wherein the second information providing image is determined as a main display image when it is determined that the second information providing image is present.
JP2004221707A 2004-07-29 2004-07-29 Driving support information providing apparatus and method Expired - Fee Related JP4421410B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004221707A JP4421410B2 (en) 2004-07-29 2004-07-29 Driving support information providing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004221707A JP4421410B2 (en) 2004-07-29 2004-07-29 Driving support information providing apparatus and method

Publications (2)

Publication Number Publication Date
JP2006040119A JP2006040119A (en) 2006-02-09
JP4421410B2 true JP4421410B2 (en) 2010-02-24

Family

ID=35905020

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004221707A Expired - Fee Related JP4421410B2 (en) 2004-07-29 2004-07-29 Driving support information providing apparatus and method

Country Status (1)

Country Link
JP (1) JP4421410B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4923647B2 (en) * 2006-03-17 2012-04-25 株式会社デンソー Driving support image display device and program
JP4943257B2 (en) * 2007-07-23 2012-05-30 パイオニア株式会社 Information display device, navigation device, information display method, information display program, and recording medium
JP2013032082A (en) * 2011-08-01 2013-02-14 Denso Corp Vehicle display device
JP5807911B2 (en) * 2011-11-21 2015-11-10 アルパイン株式会社 Navigation device
JP2013200819A (en) * 2012-03-26 2013-10-03 Hitachi Consumer Electronics Co Ltd Image receiving and displaying device

Also Published As

Publication number Publication date
JP2006040119A (en) 2006-02-09

Similar Documents

Publication Publication Date Title
KR101983957B1 (en) Display support device and display support method
JP4855158B2 (en) Driving assistance device
US7642931B2 (en) Driving support image-display apparatus and program therefor
JP2006240449A (en) Drive assist device
EP3650285A1 (en) Parking assistance method and parking assistance device
JP6939789B2 (en) Image control device and display device
JP2008276642A (en) Traveling lane recognition device and traveling lane recognition method
JP2007272350A (en) Driving support device for vehicle
JP2008280026A (en) Driving assistance device
JPH07223488A (en) Situation information display device for vehicle
JP2008015758A (en) Driving support device
JP2009029203A (en) Driving support device
JP2010026759A (en) Driving support device for vehicle
JP3915766B2 (en) Driving assistance device
JP2005135025A (en) Collision possibility determination system
JP4797849B2 (en) Driving support image display system and in-vehicle device
JP2012153256A (en) Image processing apparatus
JP2009020569A (en) Vehicle traveling support apparatus
JP4277678B2 (en) Vehicle driving support device
JP4421410B2 (en) Driving support information providing apparatus and method
JP6363393B2 (en) Vehicle periphery monitoring device
JP3968720B2 (en) Image display device for vehicle
JP2007323178A (en) Merge support device and merge support method
JP2006268224A (en) Vehicular driving assistance system
JP2005050220A (en) Confirmation support device for vehicle surroundings

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091201

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091202

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121211

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131211

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees