JPH10181447A - System for confirming surrounding of vehicle - Google Patents

System for confirming surrounding of vehicle

Info

Publication number
JPH10181447A
JPH10181447A JP8355246A JP35524696A JPH10181447A JP H10181447 A JPH10181447 A JP H10181447A JP 8355246 A JP8355246 A JP 8355246A JP 35524696 A JP35524696 A JP 35524696A JP H10181447 A JPH10181447 A JP H10181447A
Authority
JP
Japan
Prior art keywords
vehicle
camera
image
display
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8355246A
Other languages
Japanese (ja)
Other versions
JP3448443B2 (en
Inventor
Takashi Tokuyama
孝 徳山
Toru Ezaki
徹 江崎
Morio Yamanobe
守夫 山野辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP35524696A priority Critical patent/JP3448443B2/en
Publication of JPH10181447A publication Critical patent/JPH10181447A/en
Application granted granted Critical
Publication of JP3448443B2 publication Critical patent/JP3448443B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a system for confirming surrounding of a vehicle, which can be attached to any of several kinds of vehicles, and which can facilitate the setting upon attachment, and which includes an image of the instant vehicle in a part of a screen so as to facilitate the confirmation. SOLUTION: A data processing part 22 of a system 1 of confirming the surrounding of a vehicle is composed of a table storage memory 24 storing therein various data in the form of a table and relating to vehicles to which the system can be installed, a set value memory 26 storing therein various set data, a control part 28 for creating a distance mark image, and a superimpose process part 30 for superposing an image picked up by a camera 10 with the distance mark image. A synthetic image displayed on an LCD 12 includes a rear bumper of the vehicle in addition to the distance mark and accordingly, distance feeling can be easily obtained. Since the rear bumper is indicated in a screen at a predetermined position, the camera 10 can be easily installed. A position where the distance mark is installed, can be read from the table storage memory 24 in accordance with the corresponding kind of vehicles.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、運転者の死角とな
る車両周辺の状況を車内の表示装置に表示する車両周辺
監視システムに関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a vehicle periphery monitoring system for displaying a situation around a vehicle, which is a blind spot of a driver, on a display device in the vehicle.

【0002】[0002]

【従来の技術】従来から車両後方にカメラを設置して、
運転者から見えにくい後方の映像を車内のモニタ画面に
表示する各種の車両後方監視システムが知られている。
例えば、特開平5−213113号公報に開示された
「多目的表示装置」は、シフトレバーをバック位置に操
作したときに、車両後方を映した映像に切り替えるとと
もに、この表示画面に距離目盛りを合成するものであ
り、距離目盛りによって後方の障害物の位置が判断でき
る。また、特開平7−239999号公報に開示された
「車両後方監視装置」は、シフトレバーをバック位置に
操作したときに、ディスプレイの表示を車両後方の映像
に切り替え、しかも記憶しておいたマーキングポイント
を表示画面内にスーパーインポーズするものであり、運
転者は画面に表示されたマーキングポイントを目印にし
て車両を後退させることができる。
2. Description of the Related Art Conventionally, a camera is installed behind a vehicle,
2. Description of the Related Art Various types of vehicle rear monitoring systems that display a rear image that is difficult for a driver to see on a monitor screen in a vehicle are known.
For example, a "multipurpose display device" disclosed in Japanese Patent Application Laid-Open No. 5-213113 switches to an image showing the rear of a vehicle when a shift lever is operated to a back position, and synthesizes a distance scale on this display screen. The position of the obstacle behind can be determined based on the distance scale. Further, the "vehicle rear monitoring device" disclosed in Japanese Patent Application Laid-Open No. 7-239999 switches the display on the display to an image of the rear of the vehicle when the shift lever is operated to the back position, and furthermore, stores the stored marking. The points are superimposed on the display screen, and the driver can retreat the vehicle using the marking points displayed on the screen as marks.

【0003】[0003]

【発明が解決しようとする課題】ところで、上述した
「多目的表示装置」は、表示画面内の距離目盛りが固定
されているため、カメラの取り付け位置を一定の高さに
合わせる必要があり、種類が異なる複数の車種に適用す
ることができない。また、同公報の図4に示された表示
画面には、一例として1m前後から約10mまでの範囲
で車両後方が映し出されているが、実際の車両後方位置
と表示画面内の距離目盛りとを一致させるためには、カ
メラ取り付け時に路上に何らかの目標物を置いてこの画
像と距離目盛りとが一致するように取り付け角度を調整
する等の工夫が必要であり、カメラの取り付けが容易で
はない。
However, in the above-mentioned "multipurpose display device", since the distance scale in the display screen is fixed, it is necessary to adjust the mounting position of the camera to a certain height. It cannot be applied to different car models. In addition, the display screen shown in FIG. 4 of the same publication shows, for example, the rear of the vehicle in a range from about 1 m to about 10 m, but the actual rear position of the vehicle and the distance scale in the display screen are displayed. In order to match them, it is necessary to devise a method such as placing a target on the road at the time of mounting the camera and adjusting the mounting angle so that this image matches the distance scale, and the mounting of the camera is not easy.

【0004】また、上述した「車両後方監視装置」は、
カメラの取付角度、高さ、被写体までの距離のいずれか
2つがわかったときに画面に表示するマーキングポイン
トの位置を演算により求めているが、取付角度を正確に
設定することは容易ではなく、被写体までの距離を求め
るために距離計測器を用いた場合には構成が複雑にな
る。
[0004] The above-mentioned "vehicle rear monitoring device"
Although the position of the marking point to be displayed on the screen when any two of the mounting angle, height, and distance to the subject of the camera are known is calculated, it is not easy to set the mounting angle accurately. When a distance measuring device is used to obtain the distance to the subject, the configuration becomes complicated.

【0005】また、実際に車庫入れ等を行う場合には、
自分の車両の後部バンパーと他の車両あるいは障害物と
が接触しそうかどうかを画面で見て確認することができ
れば便利であるが、上述した「多目的表示装置」や「車
両後方監視装置」の各表示画面には、自車の車体の一部
が含まれておらず、このような確認は困難である。
[0005] In addition, when actually putting the garage, etc.,
It is convenient if you can see on the screen whether the rear bumper of your vehicle and the other vehicle or obstacle are likely to come into contact with each other, but it is convenient to use the above-mentioned `` multipurpose display device '' or `` vehicle rear monitoring device '' Since the display screen does not include a part of the vehicle body of the own vehicle, such confirmation is difficult.

【0006】本発明は、このような点に鑑みて創作され
たものであり、その目的は複数の車種に取り付けること
ができ、その取付時の設定が容易であり、しかも画面の
一部に自車を含ませることにより確認作業を容易に行う
ことができる車両周辺確認システムを提供することにあ
る。
[0006] The present invention has been made in view of the above points, and its object is that it can be attached to a plurality of types of vehicles, the setting at the time of attachment is easy, and moreover, a part of the screen is self-contained. An object of the present invention is to provide a vehicle periphery confirmation system that can easily perform a confirmation operation by including a vehicle.

【0007】[0007]

【課題を解決するための手段】上述した課題を解決する
ために、本発明の車両周辺確認システムは、車両に取り
付けたカメラによって車体の一部を含むように車両周辺
を撮影するとともに、撮影した画像に車体からの距離を
示す所定の指標を重ねて画像合成を行い、この合成画像
を車内に設置された表示部に表示している。したがっ
て、車内の運転者は、表示画面を見るだけで自車と障害
物との距離および障害物が自車に接触しそうかどうかを
判断でき、車両周辺の状況の確認作業が容易となる。
SUMMARY OF THE INVENTION In order to solve the above-mentioned problems, a vehicle periphery confirmation system according to the present invention uses a camera mounted on the vehicle to photograph the periphery of the vehicle so as to include a part of the vehicle body and to photograph the periphery. Image synthesis is performed by superimposing a predetermined index indicating the distance from the vehicle body on the image, and the synthesized image is displayed on a display unit installed in the vehicle. Therefore, the driver in the vehicle can determine the distance between the own vehicle and the obstacle and whether the obstacle is likely to come into contact with the own vehicle only by looking at the display screen, and can easily check the situation around the vehicle.

【0008】特に、車体の一部として後部バンパーを含
むように車両後部にカメラを取り付けた場合には、車両
後退時の後方確認が可能となり、車庫入れ等が容易とな
る。この場合に、車両のシフトレバーが後退位置にある
ときに表示部の表示を上述した合成画像に切り替えるよ
うにすれば、車両後退時には後方確認を行い、それ以外
では表示部を他の用途に(例えばナビゲーション装置や
FM多重放送受信機の表示部として)使用することがで
き、装置の有効利用が可能となる。
In particular, when a camera is attached to the rear of the vehicle so as to include the rear bumper as a part of the vehicle body, it is possible to confirm the vehicle backward when the vehicle retreats, and it is easy to enter the garage. In this case, if the display on the display unit is switched to the above-described composite image when the shift lever of the vehicle is in the reverse position, the rearward confirmation is performed when the vehicle reverses, and otherwise the display unit is used for other purposes ( For example, it can be used as a navigation device or a display unit of an FM multiplex broadcast receiver, and the device can be effectively used.

【0009】また、上述したカメラは、車両への取り付
けを、表示部の表示画面の所定位置に車体の一部が映る
ようにして行えばよいため、取り付け角度の調整が簡単
であり、取り付け時の設定が容易となる。特に、カメラ
を取り付ける車体形状と取り付け位置に対応させて、合
成画像内の指標の表示位置を記憶部に記憶しておくこと
により、車両形状と取り付け位置を指定するだけでカメ
ラ取り付け時の各種設定が終了するため、複数の車種に
適用可能であり、しかも各車種毎の煩雑な設定作業が不
要となる。
In the above-described camera, since it is only necessary to mount the camera on a vehicle so that a part of the vehicle body is reflected at a predetermined position on the display screen of the display unit, the adjustment of the mounting angle is simple, and Setting becomes easy. In particular, by storing the display position of the index in the composite image in the storage unit corresponding to the body shape and mounting position where the camera is mounted, various settings when mounting the camera simply by specifying the vehicle shape and mounting position Is completed, the method can be applied to a plurality of vehicle types, and complicated setting work for each vehicle type is not required.

【0010】[0010]

【発明の実施の形態】本発明を適用した一実施形態の車
両後方確認システムは、車両後方をカメラで映してその
映像を車内に設置された表示装置の画面に表示するもの
であり、車両のシフトレバーが後退位置にあるときにだ
け、映像の一部に車両後方のバンパーが含まれるように
撮影された映像に表示が切り替わる。しかも、この映像
にバンパーからの距離を示す指標としての距離マークが
重ね合わされ、この合成画像が表示されることに特徴が
ある。以下、本発明を適用した一実施形態の車両後方確
認システムについて図面を参照しながら説明する。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS A vehicle rear view confirmation system according to an embodiment of the present invention applies a rear view of a vehicle to a camera and displays the image on a screen of a display device installed in the vehicle. Only when the shift lever is in the reverse position, the display is switched to an image captured such that a part of the image includes the bumper behind the vehicle. In addition, a distance mark as an index indicating the distance from the bumper is superimposed on this image, and this combined image is displayed. Hereinafter, a vehicle rear confirmation system according to an embodiment of the present invention will be described with reference to the drawings.

【0011】図1は、一実施形態の車両後方確認システ
ムの構成を示す図である。同図に示す車両後方確認シス
テム1は、車両の後方上段中央あるいは中段中央に取り
付け固定された車両後方撮影用のカメラ10と、車内の
運転席横のダッシュボードに設置された表示部としての
LCD(液晶表示装置)12と、外部入力端子を有する
テレビチューナ14と、カメラ10の取り付け時に利用
者が各種の設定を行うために操作するリモートコントロ
ールユニット(以下、「リモコン」と称する)16と、
LCD12の近傍に設けられてリモコンユニット16か
ら送られてくる赤外光を受光する受光部18と、車両の
シフトレバーが後退位置にあってトランスミッションが
リバースギア位置にあることを検出するギア位置センサ
20と、この車両後方確認システム1の全体を制御する
データ処理部22とを備えている。
FIG. 1 is a diagram showing a configuration of a vehicle rear confirmation system according to one embodiment. A vehicle rear confirmation system 1 shown in FIG. 1 includes a camera 10 for photographing a vehicle rear mounted and fixed at the center of the upper rear or middle of the vehicle, and an LCD as a display unit installed on a dashboard beside a driver's seat in the vehicle. (Liquid crystal display) 12, a television tuner 14 having an external input terminal, a remote control unit (hereinafter referred to as "remote controller") 16 operated by a user to perform various settings when the camera 10 is mounted,
A light receiving unit 18 provided near the LCD 12 for receiving infrared light transmitted from the remote control unit 16; and a gear position sensor for detecting that the shift lever of the vehicle is in the reverse position and the transmission is in the reverse gear position. 20 and a data processing unit 22 that controls the entire vehicle rear confirmation system 1.

【0012】また、上述したデータ処理部22は、この
車両後方確認システム1を取り付け可能な車両に関する
各種データをテーブルの形で記憶するテーブル記憶メモ
リ24と、実際にこの車両後方確認システム1を取り付
ける車両に関する各種設定データを記憶する設定値記憶
メモリ26と、LCD12に表示するカメラ10の映像
に重ねる距離マーク画像を作成する制御部28と、カメ
ラ10から入力される映像に制御部28で作成した距離
マーク画像を重ねて画像合成を行うスーパーインポーズ
処理部30を備えている。
The data processing unit 22 described above has a table storage memory 24 for storing various data relating to a vehicle to which the vehicle rear confirmation system 1 can be attached in the form of a table, and the vehicle rear confirmation system 1 is actually attached. A setting value storage memory 26 for storing various setting data relating to the vehicle, a control unit 28 for creating a distance mark image to be superimposed on the image of the camera 10 displayed on the LCD 12, and a control unit 28 for creating an image input from the camera 10. The image processing apparatus includes a superimpose processing unit 30 that superimposes distance mark images and synthesizes images.

【0013】上述した制御部28が表示切替部、指標位
置設定部に、スーパーインポーズ処理部30が画像合成
部に、テーブル記憶メモリ24が指標の表示位置を記憶
する記憶部にそれぞれ対応している。
The control unit 28 corresponds to a display switching unit and an index position setting unit, the superimpose processing unit 30 corresponds to an image synthesizing unit, and the table storage memory 24 corresponds to a storage unit for storing display positions of indices. I have.

【0014】図2は、上述したカメラ10の取り付け位
置を示す図である。同図に示すように、カメラ10は、
車両30の後方上段中央に下方斜め方向を向けて取り付
けられている。また、その取り付け角度は、撮影範囲内
である上下方向画角内に後部バンパー32が含まれるよ
うに設定されている。カメラ10の取り付け時の各種設
定の詳細については後述する。
FIG. 2 is a diagram showing a mounting position of the camera 10 described above. As shown in FIG.
It is attached to the rear upper center of the vehicle 30 in a diagonally downward direction. The mounting angle is set so that the rear bumper 32 is included in the vertical angle of view which is within the shooting range. Details of various settings when the camera 10 is attached will be described later.

【0015】図3は、LCD12の表示画面の一例を示
す図であり、シフトレバーを後退位置に入れた場合に表
示される後方確認画面が示されている。同図に示すよう
に、LCD12に表示される後方確認画面の下辺近傍に
は自車の後部バンパー32が部分的に表示される。ま
た、この後部バンパー32から所定間隔離れた位置に、
後部バンパー32からの距離が1mであることを示す指
標としての距離マーク34が、後部バンパー32からの
距離が2mであることを示す指標としての距離マーク3
6がそれぞれ表示される。これらの距離マーク34、3
6は、撮影対象である路面上の実際の距離に対応するも
のである。例えば、後部バンパー32から後方1mの位
置に障害物があった場合に、この障害物の画像位置に距
離マーク34が表示されるように、この距離マーク34
の表示位置が設定されている。
FIG. 3 is a view showing an example of the display screen of the LCD 12, and shows a rear confirmation screen displayed when the shift lever is moved to the backward position. As shown in the figure, the rear bumper 32 of the vehicle is partially displayed near the lower side of the rear confirmation screen displayed on the LCD 12. Also, at a position away from the rear bumper 32 by a predetermined distance,
The distance mark 34 as an index indicating that the distance from the rear bumper 32 is 1 m, and the distance mark 3 as an index indicating that the distance from the rear bumper 32 is 2 m.
6 are displayed. These distance marks 34, 3
Reference numeral 6 corresponds to an actual distance on the road surface to be photographed. For example, when an obstacle is located at a position 1 m behind the rear bumper 32, the distance mark 34 is displayed at the image position of the obstacle.
Display position is set.

【0016】なお、カメラ10の取り付け位置が高い場
合には、その撮影範囲が広くなるため、図3に示す後方
確認画面内に後部バンパー32から後方3mの位置であ
ることを示す3番目の距離マーク、後方4mの位置であ
ることを示す4番目の距離マーク等が表示されることも
ある。また、距離マーク34等の近傍に対応する距離を
示す文字データを合わせて表示させたり、文字データ自
体を指標として用いて距離マーク34等と置き換えるよ
うにしてもよい。また、一例として各距離マーク34、
36を1m間隔で表示するようにしたが、この間隔は適
宜変更することができる。
When the mounting position of the camera 10 is high, the photographing range is widened. Therefore, a third distance indicating that the camera 10 is located 3 m behind the rear bumper 32 in the rear confirmation screen shown in FIG. A mark, a fourth distance mark indicating that the position is 4 m behind, or the like may be displayed. Further, character data indicating a distance corresponding to the vicinity of the distance mark 34 or the like may be displayed together, or the character data itself may be used as an index to replace the distance mark 34 or the like. As an example, each distance mark 34,
36 are displayed at 1 m intervals, but this interval can be changed as appropriate.

【0017】図4は、データ処理部22に含まれるテー
ブル記憶メモリ24に記憶されている車種データの一例
を示す図である。テーブル記憶メモリ24に記憶されて
いる車種データは、主に車両形状、カメラ10の取り付
け位置、距離マークの表示位置の3種類である。車両形
状は、代表的なものとして1ボックスカー、ジープタイ
プ、ワゴン、セダンが含まれる。また、カメラ10の取
り付け位置は、車両後方の上段中央を示す「上」、中段
中央を示す「中」が含まれる。距離マークの表示位置
は、車両形状とカメラ10の取り付け位置が指定された
ときに、図3に示した表示画面のどの位置に距離マーク
を表示するかを、画面内の座標値で示したものである。
車両形状とカメラ10の取り付け位置が決まれば、カメ
ラの取り付け高さが決まり、しかも図3に示すように後
部バンパー32を表示画面の一部に含むようにしている
ためカメラ10の取り付け角度も固定的に決まる。した
がって、これらの条件下で図3に示した距離マーク3
4、36の表示座標を予め計算により求めることがで
き、このようにして計算された各距離マーク34等の表
示座標が、車両形状とカメラ10の取り付け位置に対応
づけられて、テーブル記憶メモリ24に記憶されてい
る。
FIG. 4 is a diagram showing an example of vehicle type data stored in the table storage memory 24 included in the data processing section 22. The vehicle type data stored in the table storage memory 24 is mainly of three types: vehicle shape, camera 10 mounting position, and distance mark display position. Typical vehicle shapes include a one-box car, a jeep type, a wagon, and a sedan. In addition, the mounting position of the camera 10 includes “upper” indicating the upper center of the rear of the vehicle and “middle” indicating the middle of the middle. The display position of the distance mark indicates the position of the distance mark to be displayed on the display screen shown in FIG. 3 when the vehicle shape and the mounting position of the camera 10 are designated by the coordinate values in the screen. It is.
If the shape of the vehicle and the mounting position of the camera 10 are determined, the mounting height of the camera is determined, and the rear bumper 32 is included in a part of the display screen as shown in FIG. Decided. Therefore, under these conditions, the distance mark 3 shown in FIG.
The display coordinates of the distance marks 34 and the like can be obtained in advance by calculation, and the display coordinates of each of the distance marks 34 and the like calculated in this manner are associated with the vehicle shape and the mounting position of the camera 10, and are stored in the table storage memory 24. Is stored in

【0018】次に、上述した構成を有する車両後方確認
システム1の動作を説明する。図5は、本実施形態の車
両後方確認システム1を車両に取り付ける際の初期設定
の動作手順を示す流れ図であり、最初にカメラ10の位
置合わせをした後に距離マーク表示に必要な各種入力指
示を行う場合の動作手順が示されている。
Next, the operation of the vehicle rear confirmation system 1 having the above-described configuration will be described. FIG. 5 is a flowchart showing an initial setting operation procedure when the vehicle rear confirmation system 1 of the present embodiment is attached to a vehicle. After the camera 10 is first positioned, various input instructions necessary for displaying a distance mark are input. The operation procedure for performing the operation is shown.

【0019】制御部28は、利用者によるリモコン16
の操作によってカメラ10の位置合わせが指示されたか
否かを監視しており(ステップ500)、位置合わせ指
示に対応するリモコン16の所定の操作キーが押下され
ると、車両の後部バンパー32の位置を指示するバンパ
ー位置合わせラインの画像をスーパーインポーズ処理部
30に向けて出力する。スーパーインポーズ処理部30
は、カメラ10から入力される車両後方の映像に制御部
28から入力されるバンパー位置合わせラインの画像を
重ねて画像合成を行い、この合成画像がテレビチューナ
14を介してLCD12に送られて表示される(ステッ
プ501)。図6はカメラ10の位置合わせ時の表示画
面を示す図であり、同図(A)に示すように、画面の下
辺近傍の所定位置にバンパー位置合わせライン40が表
示される。
The control unit 28 is used by the user to control the remote controller 16.
It is monitored whether or not the positioning of the camera 10 is instructed by the operation of (Step 500). When a predetermined operation key of the remote controller 16 corresponding to the positioning instruction is pressed, the position of the rear bumper 32 of the vehicle is adjusted. Is output to the superimpose processing unit 30. Superimpose processing unit 30
Performs image synthesis by superimposing an image of a bumper alignment line input from the control unit 28 on an image behind the vehicle input from the camera 10, and transmits the synthesized image to the LCD 12 via the television tuner 14 for display. Is performed (step 501). FIG. 6 is a view showing a display screen when the camera 10 is positioned. As shown in FIG. 6A, a bumper positioning line 40 is displayed at a predetermined position near the lower side of the screen.

【0020】なお、通常動作時にはテレビチューナ14
による受信映像等がLCD12から表示されており、制
御部28は、バンパー位置合わせライン表示に先立って
テレビチューナ14に指示を送って、テレビチューナ1
4の外部入力端子に入力されるデータ処理部22からの
映像をLCD12に表示するように切り替えが行われ
る。
During normal operation, the TV tuner 14
The control unit 28 sends an instruction to the television tuner 14 prior to the bumper alignment line display, and displays an image received by the
Switching is performed so that the image from the data processing unit 22 input to the external input terminal 4 is displayed on the LCD 12.

【0021】カメラ10の位置合わせは、このようにし
てカメラ10の映像にバンパー位置合わせライン40を
表示させた状態で行われる。例えば、図2に示す位置に
カメラ10を取り付けたときに、カメラ10の取り付け
方向が上を向きすぎている場合には、図6(A)に示す
ようにバンパー位置合わせライン40のみが見えて後部
バンパー32は表示画面から外れる。反対に、カメラ1
0の取り付け方向が下を向きすぎている場合には、図6
(B)に示すようにバンパー位置合わせライン40より
上方まで後部バンパー32が映し出されることになる。
表示画面を見ながらカメラ10の取り付け方向を調整し
て、図6(C)に示すように後部バンパー32の先端位
置とバンパー位置合わせラインとを一致させることによ
り、カメラ10の位置合わせが終了する。
The positioning of the camera 10 is performed with the bumper positioning line 40 displayed on the image of the camera 10 in this manner. For example, when the camera 10 is mounted at the position shown in FIG. 2 and the mounting direction of the camera 10 is too upward, only the bumper alignment line 40 is visible as shown in FIG. The rear bumper 32 is off the display screen. Conversely, camera 1
If the mounting direction of 0 is too downward, FIG.
As shown in (B), the rear bumper 32 is projected above the bumper alignment line 40.
The position of the camera 10 is adjusted by adjusting the mounting direction of the camera 10 while looking at the display screen, and matching the tip position of the rear bumper 32 with the bumper alignment line as shown in FIG. 6C. .

【0022】カメラ10の位置合わせが終了すると(ス
テップ502)、次に制御部28は、テーブル記憶メモ
リ24からカメラ10の取り付け対象として予め用意さ
れている複数の車両形状を選択候補として読み出して、
これらの文字画像をスーパーインポーズ処理部30に送
り、選択候補となる車両形状を画面上に表示させる(ス
テップ503)。例えば、図4に示した「1ボックスカ
ー」、「ジープタイプ」、「ワゴン」、「セダン」が選
択候補としてLCD12に表示される。
When the positioning of the camera 10 is completed (step 502), the control unit 28 reads a plurality of vehicle shapes prepared in advance as mounting targets of the camera 10 from the table storage memory 24 as selection candidates, and
These character images are sent to the superimposition processing unit 30 to display vehicle shapes as selection candidates on the screen (step 503). For example, “one box car”, “jeep type”, “wagon”, and “sedan” shown in FIG. 4 are displayed on the LCD 12 as selection candidates.

【0023】このような表示が行われた後、制御部28
は、利用者によっていずれかの候補が選択されたか否か
を監視しており(ステップ504)、利用者がリモコン
16を操作して、いずれかの車両形状が選択されると、
次にテーブル記憶メモリ24からカメラ10の取り付け
位置として予め用意されている選択肢を読み出して、こ
れらの文字画像をスーパーインポーズ処理部30に送
り、選択候補となる取り付け位置を画面上に表示させる
(ステップ505)。例えば、図4に示した「上」およ
び「中」が選択候補としてLCD12に表示される。
After such display is performed, the control unit 28
Monitors whether any candidate has been selected by the user (step 504), and when the user operates the remote controller 16 to select any vehicle shape,
Next, an option prepared in advance as a mounting position of the camera 10 is read from the table storage memory 24, and these character images are sent to the superimpose processing unit 30 to display mounting positions as selection candidates on the screen ( Step 505). For example, “up” and “middle” shown in FIG. 4 are displayed on the LCD 12 as selection candidates.

【0024】このような表示が行われた後、制御部28
は、利用者によっていずれかの候補が選択されたか否か
を監視しており(ステップ506)、利用者がリモコン
16を操作して、いずれかの取り付け位置が選択される
と、次に、これまでに選択した車両形状およびカメラ1
0の取り付け位置を組み合わせることにより特定される
距離マークの表示位置のデータをテーブル記憶メモリ2
4から読み出して、設定値記憶メモリ26に保存し(ス
テップ507)、一連の初期設定が終了する。なお、設
定値記憶メモリ26に対するデータの保存は、テーブル
記憶メモリ24に記憶されている距離マークの表示位置
のデータをそのまま保存してもよく、あるいは図4に示
す各データに1対1に対応させた番号を保存するように
してもよい。
After such display is performed, the control unit 28
Monitors whether or not any of the candidates has been selected by the user (step 506). When the user operates the remote controller 16 to select one of the mounting positions, Vehicle shape and camera 1 selected up to
The data of the display position of the distance mark specified by combining the mounting positions of 0
4 and stored in the set value storage memory 26 (step 507), and a series of initial settings is completed. The data stored in the set value storage memory 26 may be stored as it is at the distance mark display position data stored in the table storage memory 24, or may correspond to each data shown in FIG. The assigned number may be stored.

【0025】図7は、本実施形態の車両後方確認システ
ム1の通常動作時の動作手順を示す流れ図である。制御
部28は、ギア位置センサ20の出力を調べることによ
りシフトレバーが後退位置にあるか否かを監視しており
(ステップ700)、後退位置にセットされると、次に
設定値記憶メモリ26から距離マークの表示位置のデー
タを読み出し(ステップ701)、このデータに基づい
て所定位置に表示すべき距離マークの画像を作成する
(ステップ702)。この作成した距離マークの画像は
スーパーインポーズ処理部30に送られ、カメラ10に
よって撮影した車両後方の映像に重ね合わされて画像合
成が行われる(ステップ703)。
FIG. 7 is a flowchart showing the operation procedure of the vehicle rear view confirmation system 1 of the present embodiment at the time of normal operation. The control unit 28 monitors whether or not the shift lever is at the reverse position by checking the output of the gear position sensor 20 (Step 700). The data of the display position of the distance mark is read out from (step 701), and an image of the distance mark to be displayed at a predetermined position is created based on this data (step 702). The created image of the distance mark is sent to the superimposition processing unit 30, where it is superimposed on the image behind the vehicle captured by the camera 10 and image synthesis is performed (step 703).

【0026】次に、あるいは上述したステップ701
(距離マークの表示位置のデータ読み出し)以降の処理
と並行して、制御部28は、テレビチューナ14に指示
を送って、テレビチューナ14の外部入力端子に入力さ
れるデータ処理部22からの映像をLCD12に表示す
るように切り替えを行った後、ステップ703で合成し
た画像をLCD12の画面に表示する(ステップ70
4)。
Next, or in step 701 described above.
In parallel with the subsequent processing (reading out the data of the display position of the distance mark), the control unit 28 sends an instruction to the TV tuner 14 and the video from the data processing unit 22 input to the external input terminal of the TV tuner 14. Is switched to be displayed on the LCD 12, and then the image synthesized in step 703 is displayed on the screen of the LCD 12 (step 70).
4).

【0027】このように、本実施形態の車両後方確認シ
ステム1は、図3に表示画面の一例を示したように、自
車の後部バンパー32を部分的に表示するとともに、こ
の後部バンパー32から1mあるいは2mの距離に相当
する位置に距離マーク34、36を表示している。距離
マークとともに自車の後部バンパー32を表示すること
により距離感がつかみやすく、車両を後退させて車庫入
れを行う場合等においては、各距離マークを見ながら障
害物等の状況確認ができると同時に、障害物等と自車と
の相対位置を確認することができ、自車に障害物等が接
触するかどうかを確実に知ることができる。
As described above, the vehicle rear confirmation system 1 of the present embodiment partially displays the rear bumper 32 of the own vehicle as shown in an example of the display screen in FIG. Distance marks 34 and 36 are displayed at positions corresponding to a distance of 1 m or 2 m. By displaying the rear bumper 32 of the own vehicle together with the distance mark, it is easy to grasp the sense of distance. In the case of moving the vehicle backward and entering the garage, it is possible to check the status of obstacles and the like while looking at each distance mark. It is possible to confirm the relative position between the obstacle and the like and the own vehicle, and to surely know whether the obstacle and the like contact the own vehicle.

【0028】また、カメラ10を車両に取り付ける際に
は、画面にバンパー位置合わせライン40を表示させ
て、このライン40と後部バンパー32の先端とが一致
するようにカメラ10の取り付け方向を設定すればよい
ため、カメラ10の取り付けが容易であり、距離計測器
のような特別な装置も不要であるため構成を簡略化する
ことができる。
When the camera 10 is mounted on a vehicle, a bumper alignment line 40 is displayed on the screen, and the mounting direction of the camera 10 is set so that the line 40 and the tip of the rear bumper 32 coincide. Therefore, the camera 10 can be easily attached, and a special device such as a distance measuring device is not required, so that the configuration can be simplified.

【0029】また、テーブル記憶メモリ24に車両形状
とカメラ10の取り付け位置に対応させて距離マークの
表示位置のデータを記憶しているため、利用者は選択候
補として表示される何種類かの車両形状とカメラ10の
取り付け位置の中から該当するものを選ぶだけで必要な
設定を行うことができ、距離マークを各種の車種に合っ
た正しい位置に表示させることができる。
Further, since the table storage memory 24 stores the data of the display position of the distance mark corresponding to the vehicle shape and the mounting position of the camera 10, the user can select several types of vehicles displayed as selection candidates. Necessary settings can be made only by selecting the appropriate one from the shape and the mounting position of the camera 10, and the distance mark can be displayed at a correct position suitable for various types of vehicles.

【0030】なお、本発明は上記実施形態に限定される
ものではなく、本発明の要旨の範囲内で種々の変形実施
が可能である。例えば、上述した実施形態では、車両後
方の状況を表示画面を見ながら確認するようにしたが、
車両の前方や助手席の横方向の状況を表示画面を見なが
ら確認する場合にも本発明を適用することができる。こ
の場合には、表示画面の一部に後部バンパーを表示させ
る代わりに、前部バンパーあるいは車体側面を表示させ
ればよい。
The present invention is not limited to the above embodiment, and various modifications can be made within the scope of the present invention. For example, in the above-described embodiment, the situation behind the vehicle is checked while looking at the display screen.
The present invention can also be applied to a case where the situation in the front of the vehicle or in the lateral direction of the passenger seat is checked while looking at the display screen. In this case, instead of displaying the rear bumper on a part of the display screen, the front bumper or the side of the vehicle body may be displayed.

【0031】また、テーブル記憶メモリ24には、一例
として図4に示したような内容のデータを記憶しておい
たが、車両形状やカメラ10の取り付け位置の各分類の
仕方は適宜変更することができる。また、車両の製造メ
ーカ名、車種、カメラの取り付け位置に対応させて距離
マークの表示位置の詳細データを記憶しておいてもよ
い。
The table storage memory 24 stores data having contents as shown in FIG. 4 as an example. However, the manner of classifying the vehicle shape and the mounting position of the camera 10 may be changed as appropriate. Can be. Further, detailed data of the display position of the distance mark may be stored in association with the name of the manufacturer of the vehicle, the type of the vehicle, and the mounting position of the camera.

【0032】また、上述した実施形態では、図6に示し
たような表示画面を見ながらカメラ10の位置合わせを
行って、正常な位置にセットできたことを目視により確
認するようにしたが、画像処理によってこの確認動作を
自動化するようにしてもよい。図8は、上述した実施形
態の変形例を示す図である。図1に示した構成に比べ
て、画像処理部50が追加された点が異なっている。こ
の画像処理部50は、カメラ10から出力される映像信
号をデジタル化し、このデジタル化した画像データに基
づいて後部バンパー32についての輪郭線抽出を行う。
制御部28は、画像処理部50によって抽出された1あ
るいは複数の輪郭線の中から、図6(A)に示したバン
パー位置合わせラインとほぼ一致した輪郭線が存在する
場合にカメラ10の正常な位置合わせが終了したものと
判断する。あるいは、制御部28は、上述したほぼ一致
した輪郭線が存在しない場合に、位置合わせが完了して
いない旨のアラームをLCD12の画面上に表示するよ
うにしてもよい。
In the above-described embodiment, the camera 10 is positioned while viewing the display screen as shown in FIG. 6, and it is visually confirmed that the camera 10 has been set to a normal position. This confirmation operation may be automated by image processing. FIG. 8 is a diagram showing a modification of the above-described embodiment. The difference from the configuration shown in FIG. 1 is that an image processing unit 50 is added. The image processing unit 50 digitizes a video signal output from the camera 10 and extracts a contour of the rear bumper 32 based on the digitized image data.
The control unit 28 determines that the camera 10 is normal when one of the one or a plurality of contour lines extracted by the image processing unit 50 substantially matches the bumper alignment line shown in FIG. It is determined that proper alignment has been completed. Alternatively, the control unit 28 may display an alarm indicating that the alignment is not completed on the screen of the LCD 12 when there is no substantially matching contour line described above.

【0033】[0033]

【発明の効果】上述したように、本発明によれば、車両
に取り付けたカメラによって車体の一部を含むように車
両周辺を撮影するとともに、撮影した映像に車体からの
距離を示す所定の指標を重ねて画像合成を行って表示部
に表示しており、車内の運転者は、表示画面を見るだけ
で自車と障害物との距離および障害物が自車に接触しそ
うかどうかを判断でき、車両周辺の状況の確認作業が容
易となる。
As described above, according to the present invention, the periphery of the vehicle is photographed so as to include a part of the vehicle body by the camera attached to the vehicle, and the photographed image has a predetermined index indicating the distance from the vehicle body. The image in the car is superimposed and displayed on the display.The driver in the car can determine the distance between the car and the obstacle and whether the obstacle is likely to touch the car just by looking at the display screen. This makes it easy to check the situation around the vehicle.

【0034】また、上述したカメラは、表示画面の所定
位置に車体の一部が映るようにして取り付ければよいた
め、取り付け角度の調整が簡単であり、取り付けが容易
となる。特に、カメラを取り付ける車体形状と取り付け
位置に対応させて、合成画像内の指標の表示位置を記憶
部に記憶しておくことにより、車両形状と取り付け位置
を指定するだけで各種設定が終了するため、各車種毎の
煩雑な設定作業を行うことなく、複数の車種に適用する
ことができる。
Further, the camera described above may be mounted so that a part of the vehicle body is reflected at a predetermined position on the display screen, so that the mounting angle can be easily adjusted and the mounting is easy. In particular, by storing the display position of the index in the composite image in the storage unit in correspondence with the vehicle body shape and the mounting position where the camera is mounted, various settings can be completed simply by specifying the vehicle shape and the mounting position. The present invention can be applied to a plurality of vehicle types without performing complicated setting work for each vehicle type.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明を適用した一実施形態の車両後方確認シ
ステムの構成図である。
FIG. 1 is a configuration diagram of a vehicle rear confirmation system according to an embodiment of the present invention.

【図2】カメラの取り付け位置を示す図である。FIG. 2 is a diagram showing a mounting position of a camera.

【図3】LCDの表示画面の一例を示す図である。FIG. 3 is a diagram showing an example of a display screen of an LCD.

【図4】テーブル記憶メモリに記憶されている車種デー
タの一例を示す図である。
FIG. 4 is a diagram showing an example of vehicle type data stored in a table storage memory.

【図5】本実施形態の車両後方確認システムを車両に取
り付ける際の初期設定の動作手順を示す流れ図である。
FIG. 5 is a flowchart showing an operation procedure of an initial setting when the vehicle rear confirmation system of the embodiment is attached to a vehicle.

【図6】カメラの位置合わせ時の表示画面を示す図であ
る。
FIG. 6 is a diagram showing a display screen at the time of camera positioning.

【図7】本実施形態の車両後方確認システムの通常動作
時の動作手順を示す流れ図である。
FIG. 7 is a flowchart showing an operation procedure during a normal operation of the vehicle rear confirmation system of the embodiment.

【図8】本実施形態の変形例を示す図である。FIG. 8 is a diagram showing a modification of the present embodiment.

【符号の説明】[Explanation of symbols]

1 車両後方確認システム 10 カメラ 12 LCD(液晶表示装置) 14 テレビチューナ 18 受光部 20 ギア位置センサ 22 データ処理部 24 テーブル記憶メモリ 26 設定値記憶メモリ 28 制御部 30 スーパーインポーズ処理部 DESCRIPTION OF SYMBOLS 1 Vehicle back confirmation system 10 Camera 12 LCD (Liquid Crystal Display) 14 TV tuner 18 Light receiving unit 20 Gear position sensor 22 Data processing unit 24 Table storage memory 26 Set value storage memory 28 Control unit 30 Superimpose processing unit

Claims (5)

【特許請求の範囲】[Claims] 【請求項1】 車体の一部が撮影範囲に含まれるように
車両に取り付けられたカメラと、 車内に設置された表示部と、 前記カメラによって撮影された車体の一部が含まれる画
像に、前記車体の一部からの距離を示す所定の指標を重
ねて画像合成を行い、この合成画像を前記表示部に表示
する画像合成部と、 を備えることを特徴とする車両周辺確認システム。
1. A camera mounted on a vehicle such that a part of the vehicle body is included in a shooting range, a display unit installed in the vehicle, and an image including a part of the vehicle body captured by the camera, An image synthesizing unit, comprising: an image synthesizing unit that superimposes a predetermined index indicating a distance from a part of the vehicle body to perform image synthesis, and displays the synthesized image on the display unit.
【請求項2】 請求項1において、 前記カメラの撮影範囲に含まれる前記車体の一部は車両
後部に取り付けられたバンパーであり、前記カメラによ
って撮影される車両後方の所定範囲を前記表示部に表示
することを特徴とする車両周辺確認システム。
2. The vehicle according to claim 1, wherein a part of the vehicle body included in a photographing range of the camera is a bumper attached to a rear part of the vehicle, and a predetermined range behind the vehicle photographed by the camera is displayed on the display unit. A vehicle periphery confirmation system characterized by displaying.
【請求項3】 請求項2において、 車両のシフトレバーが後退位置にあるときに前記表示部
による表示を前記合成画像に切り替える表示切替部をさ
らに備え、車両後退時に車両後方の状況確認を行うこと
を特徴とする車両周辺確認システム。
3. The vehicle according to claim 2, further comprising: a display switching unit configured to switch a display by the display unit to the composite image when a shift lever of the vehicle is in a reverse position, and to confirm a situation behind the vehicle when the vehicle retreats. A vehicle periphery confirmation system characterized by the following.
【請求項4】 請求項1〜3のいずれかにおいて、 前記カメラを前記車両に取り付ける際に、前記表示部の
表示画面の所定位置に前記車体の一部が映るように取り
付け位置を設定することを特徴とする車両周辺確認シス
テム。
4. The mounting position according to claim 1, wherein, when the camera is mounted on the vehicle, a mounting position is set such that a part of the vehicle body is shown at a predetermined position on a display screen of the display unit. A vehicle periphery confirmation system characterized by the following.
【請求項5】 請求項1〜4のいずれかにおいて、 前記カメラを取り付ける車両形状と前記カメラの取り付
け位置とが指定されたときに、対応する前記合成画像内
の前記指標の表示位置を記憶部から読み出して設定する
指標位置設定部をさらに備えることを特徴とする車両周
辺確認システム。
5. The storage unit according to claim 1, wherein when a vehicle shape to which the camera is mounted and a mounting position of the camera are specified, a display position of the index in the composite image corresponding to the vehicle shape is stored. A vehicle periphery confirmation system, further comprising an index position setting unit that sets by reading from a vehicle.
JP35524696A 1996-12-20 1996-12-20 Vehicle periphery confirmation system Expired - Lifetime JP3448443B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP35524696A JP3448443B2 (en) 1996-12-20 1996-12-20 Vehicle periphery confirmation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP35524696A JP3448443B2 (en) 1996-12-20 1996-12-20 Vehicle periphery confirmation system

Publications (2)

Publication Number Publication Date
JPH10181447A true JPH10181447A (en) 1998-07-07
JP3448443B2 JP3448443B2 (en) 2003-09-22

Family

ID=18442824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35524696A Expired - Lifetime JP3448443B2 (en) 1996-12-20 1996-12-20 Vehicle periphery confirmation system

Country Status (1)

Country Link
JP (1) JP3448443B2 (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001322491A (en) * 2000-05-15 2001-11-20 Mitsubishi Electric Corp On-vehicle display method and on-vehicle display
JP2008301227A (en) * 2007-05-31 2008-12-11 Sanyo Electric Co Ltd Vehicle-mounted display
JP2009239782A (en) * 2008-03-28 2009-10-15 Kenwood Corp Driving assist device, method of controlling driving assist display, and program
JP2011135373A (en) * 2009-12-24 2011-07-07 Kyocera Corp In-vehicle imaging apparatus
KR101271639B1 (en) * 2011-12-13 2013-06-17 (주)팜비젼 A extrinsic parameter calibration method and system for camera on mobile device
WO2013125206A1 (en) 2012-02-24 2013-08-29 京セラ株式会社 Camera device, camera system, and camera calibration method
JP2013175064A (en) * 2012-02-24 2013-09-05 Kyocera Corp Video processing device, video processing method, and video display system
WO2018151151A1 (en) * 2017-02-20 2018-08-23 京セラ株式会社 Image processing device, image-capture device, and mobile body
JP2020113888A (en) * 2019-01-11 2020-07-27 株式会社豊田自動織機 Vehicle imaging device
JP2021054561A (en) * 2019-09-27 2021-04-08 新明和工業株式会社 Dust collecting vehicle

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5316805B2 (en) 2009-03-16 2013-10-16 株式会社リコー In-vehicle camera device image adjustment device and in-vehicle camera device

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001322491A (en) * 2000-05-15 2001-11-20 Mitsubishi Electric Corp On-vehicle display method and on-vehicle display
JP2008301227A (en) * 2007-05-31 2008-12-11 Sanyo Electric Co Ltd Vehicle-mounted display
JP2009239782A (en) * 2008-03-28 2009-10-15 Kenwood Corp Driving assist device, method of controlling driving assist display, and program
JP2011135373A (en) * 2009-12-24 2011-07-07 Kyocera Corp In-vehicle imaging apparatus
KR101271639B1 (en) * 2011-12-13 2013-06-17 (주)팜비젼 A extrinsic parameter calibration method and system for camera on mobile device
WO2013125206A1 (en) 2012-02-24 2013-08-29 京セラ株式会社 Camera device, camera system, and camera calibration method
JP2013175064A (en) * 2012-02-24 2013-09-05 Kyocera Corp Video processing device, video processing method, and video display system
US8687067B2 (en) 2012-02-24 2014-04-01 Kyocera Corporation Camera device, camera system and camera calibration method
US8792007B2 (en) 2012-02-24 2014-07-29 Kyocera Corporation Calibration operation device and calibration operation method
WO2018151151A1 (en) * 2017-02-20 2018-08-23 京セラ株式会社 Image processing device, image-capture device, and mobile body
JP2020113888A (en) * 2019-01-11 2020-07-27 株式会社豊田自動織機 Vehicle imaging device
JP2021054561A (en) * 2019-09-27 2021-04-08 新明和工業株式会社 Dust collecting vehicle

Also Published As

Publication number Publication date
JP3448443B2 (en) 2003-09-22

Similar Documents

Publication Publication Date Title
US9077861B2 (en) Image processing apparatus, electronic apparatus, and image processing method
US9725039B2 (en) Vehicular visibility support apparatus
US7212653B2 (en) Image processing system for vehicle
US7088262B2 (en) Method of operating a display system in a vehicle for finding a parking place
EP1377062B1 (en) Method and device for image display on rear view camera
US9706175B2 (en) Image processing device, image processing system, and image processing method
JP4364471B2 (en) Image processing apparatus for vehicle
JP4593070B2 (en) Image processing apparatus for vehicle
EP1115250B1 (en) Method and apparatus for displaying image
US8010283B2 (en) Driving evaluation system and server
JP5341789B2 (en) Parameter acquisition apparatus, parameter acquisition system, parameter acquisition method, and program
US20070057816A1 (en) Parking assist method and parking assist apparatus
US20120287282A1 (en) Image processing apparatus, image processing system, and image processing method
US20030030724A1 (en) Park-assisting apparatus
WO2001058164A1 (en) Vicinity display for car
JP2002308029A (en) Driving support system
JP2005136561A (en) Vehicle peripheral picture display device
JP3448443B2 (en) Vehicle periphery confirmation system
US20040150589A1 (en) Drive support display apparatus
JP3876761B2 (en) Vehicle periphery monitoring device
KR101980966B1 (en) Method and device for representing the surroundings of a motor vehicle
JP4552525B2 (en) Image processing apparatus for vehicle
JP2003259356A (en) Apparatus for monitoring surrounding of vehicle
JP2007302238A (en) Vehicular image processing device
JP2008141622A (en) Vehicle surrounding information display apparatus

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030624

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080704

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090704

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100704

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100704

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110704

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120704

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130704

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130704

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140704

Year of fee payment: 11

EXPY Cancellation because of completion of term