JP3608527B2 - 周辺状況表示装置 - Google Patents

周辺状況表示装置 Download PDF

Info

Publication number
JP3608527B2
JP3608527B2 JP2001145616A JP2001145616A JP3608527B2 JP 3608527 B2 JP3608527 B2 JP 3608527B2 JP 2001145616 A JP2001145616 A JP 2001145616A JP 2001145616 A JP2001145616 A JP 2001145616A JP 3608527 B2 JP3608527 B2 JP 3608527B2
Authority
JP
Japan
Prior art keywords
image
distance
region
display device
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001145616A
Other languages
English (en)
Other versions
JP2002344958A (ja
Inventor
啓一 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2001145616A priority Critical patent/JP3608527B2/ja
Priority to US10/145,042 priority patent/US7126460B2/en
Publication of JP2002344958A publication Critical patent/JP2002344958A/ja
Application granted granted Critical
Publication of JP3608527B2 publication Critical patent/JP3608527B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Description

【0001】
【産業上の利用分野】
本発明は、移動体の周辺状況を表示する装置、特に、周辺に障害物が存在する場合に、表示画像上においてその障害物が存在する領域を表示するようにしたものに関する。
【0002】
【従来技術】
従来、移動体である車両の周辺状況を表示する装置として、特開平3−85069号、特開平2−299944号、特開2000−184368号公報に記載された装置が知られている。特開平3−85069号の装置は、車両の後方画像を表示した画面の下領域に障害物までの距離をグラフ表示したものである。特開平2−299944号の装置は、車両の後方画像において障害物の輪郭を抽出して、その輪郭の幅から障害物の距離を推定すると共に、障害物までの距離に応じて変化する色で障害物を着色するものである。そして、特開2000−184368号の装置は、車両の後方画像において、障害物の輪郭画像やシンボル画像を重畳するようにしたものである。
【0003】
【発明が解決しようとする課題】
しかし、上記の特開平2−299944号、特開2000−184368号公報の装置は、障害物自体を特定表示するものであり、特開平3−85069号公報の装置は、3個の検出センサのうちで、障害物に最も近いセンサの位置を後方画像の下領域において水平に伸びた短冊状の領域で表示するようにしたものであり、後方画像上において、障害物が内部に存在する領域を表示するようにしたものではない。
ところが、車両に最も接近している障害物を正確に特定することは、現実問題として、困難である場合が多い。
又、後方画像を確認しながら、車両を後退させる場合には、最も接近した障害物を正確に特定するよりは、障害物が内部に存在するおおよその領域を画像上に示す方が良い場合がある。即ち、運転者は、どの辺の領域に注意を向ければ良いかが分かり、障害物に接触する前に、事前に適切な回避動作をすることができる。
さらに、障害物が内部に存在する領域の境界を明確にするのではなく、いわば、危険度を表す明度値が領域原点から周辺に向かって徐々に減衰していくような領域表示をすることで、注意を向ける箇所にウエイトを持たせることができる。このような表示をすることで、危険領域を概略的に把握することができ、画像を見てする車両の操作を容易にすることができる。
【0004】
本発明は、このような課題に基づき、上記の発想に基づいて成されたものである。
従って、本発明の目的は、移動体の周辺を撮像して得られた画像上において、内部に障害物が存在する領域を他の領域と区画し得る状態で表示することで、接触危険領域をより的確に把握できるようにすることである。
又、他の目的は、その領域を2値的に明確に区画するのではなく、輪郭をぼかした状態とすることで、概略的に接触可能性領域を運転者に知らせることである。そして、これにより、事前に、的確な接触回避動作ができるようにすることである。
又、他の目的は、その領域を表示するに当たり、領域原点から周辺部に向かうにつれて、重畳する画像を連続的に変化させることで、接触危険度を位置の関数として運転者に知らせることである。これにより、運転者が、位置の関数として接触危険度を認識でき、より的確な事前の接触回避を可能とすることである。
又、他の目的は、障害物までの距離の認識を可能とすることである。
これらの1つまたは複数の目的は、個々の発明が達成する目的であって、それぞれの発明が上記の全ての目的を達成するものと認識されるべきではない。
【0005】
【課題を解決するための手段及び作用効果】
上記課題を解決するために、次の構成が採用される。
請求項1乃至請求項6の発明は、次の共通する構成を有する。
移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、移動体の周辺の状況を撮像する撮像装置と、移動体の周辺の障害物までの距離を検出する距離検出装置と、撮像装置で撮像された状況の画像を表示する表示装置と、距離検出装置により検出された障害物までの距離に応じて、表示装置により表示された画像上において、障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成る周辺状況表示装置である。
【0006】
区画し得る状態で重畳表示するとは、次のことを意味している。第1は、円、楕円、四角、多角形等の任意形状の明確な輪郭線で領域を区画するするように、輪郭線を重畳する方法である。
第2は、その領域をある色に着色したり、その領域の画像の明度値を所定比率倍だけ明るくしたり、その領域の明度値の所定比率倍だけの明度値を画像の明度値に加算したりする方法である。
第3は、後述するように、領域の輪郭を明確に表示させないで、領域を表示する方法である。
このように撮像された移動体の周辺状況の画像上において、障害物が存在する領域を表示するようにしているので、移動体の運転者は障害物が存在し得る領域を概略的に知ることができ、接触前の適切な回避操作が容易となる。
又、対象障害物自体を明確に特定して警告する訳ではないので、障害物までの距離測定の誤差があった場合やさらに近い障害物が検出されなかった場合にも、障害物に対する安全な警報となり得る。
【0007】
更に、重畳手段は、領域の境界をぼかして表示する手段である。
領域の境界を臨界的に明確に表示するのではなく境界を曖昧にして、障害物を含む領域がどの辺にあるかを全体判断として理解させるようにしている。これにより、移動体の運転者は接触危険領域を概略的に把握できるために、障害物に完全接触する前の接触予備状態を把握でき、接触前に適切に回避操作を行なうことが可能となる。
尚、境界をぼかす具体的な方法としては、以下の方法を採用することが可能である。
【0008】
更に、重畳手段は、領域原点からの距離に応じて変調された変調画像を重畳する手段である。
重畳すべき画像を領域原点からの距離に応じて変調していることから、いわば接触危険度が場所の関数として分かることになる。この結果、接触前に適切に回避操作を行なうことが可能となる。
【0009】
上記共通の構成に加えて、請求項1の発明は、変調画像は、領域原点から遠ざかるに従って明度値が低くなる色画像であることを特徴とする。
これにより色明度値が場所の関数となり、領域原点から遠ざかるに連れて、色明度値が低くなる。従って、移動体の運転者は、色明度から接触危険度を概略的に把握することが可能となり、事前に、障害物への接触回避操作を適切に行なうことが可能となる。
【0010】
上記共通の構成に加えて、請求項2の発明は、変調画像は、領域原点から遠ざかるに従って明度値が低くなる濃淡画像であることを特徴とする。
請求項1の発明が色の明度値を変調するようにしたのに対して、この発明は、濃淡画像(グレイ画像)の明度値(輝度値)を変調するようにしたものである。よって、撮像された周辺画像の色相を変化させることなく、明度変化により領域が表示される。請求項1の発明と同様に、移動体の運転者は、明度値から接触危険度を概略的に把握することが可能となり、事前に、障害物への接触回避操作を適切に行なうことが可能となる。
【0011】
上記共通の構成に加えて、請求項3の発明は、変調画像は、領域原点から遠ざかるに従って明度値が高くなる色画像であることを特徴とする。
請求項1の発明とは逆に、色画像の明度値が領域原点から外に向けて大きくなるように変調される。よって、請求項1と同様な効果を生じる。
【0012】
上記共通の構成に加えて、請求項4の発明は、変調画像は、領域原点から遠ざかるに従って明度値が高くなる濃淡画像であることを特徴とする。
請求項2の発明とは逆に、濃淡画像の明度値が領域原点から外に向けて大きくなるように変調される。よって、請求項2と同様な効果を生じる。
【0013】
上記共通の構成に加えて、請求項5の発明は、変調画像は、領域の内部では一定か、又は、大きく変化せず、領域の境界付近で変化が大きい画像であることを特徴とする。
この発明では、変調画像は、領域の境界付近において色画像の明度値の変化が大きいか、濃淡画像の明度値の変化が大きい画像である。このように、領域の境界付近をぼかすことが可能であり、運転者は障害物との接触可能性のある範囲を概略的に認識でき、事前に適切な接触回避動作を行うことが可能となる。
【0014】
上記共通の構成に加えて、請求項6の発明は、重畳手段は、距離検出装置により検出された距離に応じて、変調画像の明度値、明度値の領域原点からの距離に対する変化割合、及び、領域の大きさのうち少なくとも1種を変化させた画像を重畳する手段であることを特徴とする。
運転者は、重畳される色画像や濃淡画像の明度値、明度値の勾配、重畳する領域の大きさのうちの少なくとも1種によって、移動体と障害物までの距離を認識することができる。例えば、障害物を含む領域だけが、移動体が障害物に接近するに連れて明るくなったり、明度値の勾配が大きくなって領域の境界が明確なったり、領域が狭くなったりする。これにより、運転者は、移動体が障害物により接近したこを的確に知ることが可能となり、事前の接触回避操作を的確に実行することが可能となる。
尚、一般的には、明度値の勾配を一様に大きくすることは、重畳される変調画像の領域が狭くなることと等価である。また、明度値が変化する幅を狭くすることで、明度値の勾配を大きくすれば、領域の境界がより明確になるようになる。
【0015】
請求項7の発明は、重畳手段は、距離検出装置により検出された距離に応じて、変調画像の領域原点の明度値、明度値の領域原点からの距離に対する変化割合、及び、領域の大きさのうち少なくとも1種を変化させた画像を重畳する手段であることを特徴とする請求項1乃請求項5のいずれか1項に記載の周辺状況表示装置である。
請求項1を引用する請求項7の発明において、明度勾配を変化させずに、領域原点の明度値を大きくすると、色が付された領域が全体的に明るくなり、領域が拡大されたとの等価となる。又、明度勾配を大きくして領域を狭くすることも可能である。さらに、領域原点の明度値を高くすると共に明度勾配を大きくして領域を狭くすることも可能である。要するに、領域原点からの距離に対する変調特性を変化させることで、領域を狭くしたり、明るくしたり、境界を明確にしたりすることが可能となる。これにより、運転者は、移動体が障害物により接近したことを、領域の表示状態に応じて把握することが可能となり、より適切な接触回避が可能となる。
請求項2を引用する請求項7の発明は、変調画像が濃淡画像となるだけで、上述した色画像の変調画像と同様な作用効果がある。
請求項3を引用する請求項7の発明は、領域の外に色が付けられる。よって、変調された色画像の領域原点の明度値を低くしたり、明度勾配を大きくしたり、両者を採用したりして、領域を狭くすることが可能となる。又、明度勾配を大きくして、領域の境界を明確にすることも可能である。これにより、運転者は、移動体が障害物により接近したことを、領域の表示状態に応じて把握することが可能となり、より適切な接触回避が可能となる。
請求項4を引用する請求項7の発明は、変調画像が濃淡画像となるだけで、上述した色画像の変調画像と同様な作用効果がある。
【0016】
請求項8の発明は、重畳手段は、距離検出装置により検出された距離に応じて、変調画像の色相を変化させた画像を重畳する手段であることを特徴とする請求項1、請求項3、又は、請求項7に記載の周辺状況表示装置である。
本発明は、変調画像が色画像である場合に、移動体と障害物までの距離に応じて、重畳される画像の色相が変化する。これにより、運転者は、移動体が障害物により接近したことを、領域の表示状態に応じて把握することが可能となり、より適切な接触回避が可能となる。
【0017】
請求項9の発明は、重畳手段は、距離検出装置により検出された距離に応じて、画像の重畳表示をオンオフする周期を変化させて重畳表示する手段であることを特徴とする請求項1乃至請求項8のいずれか1項に記載の周辺状況表示装置である。
これにより重畳される変調画像が、移動体と障害物との距離に応じて変化する周期でフラッシュするので、運転者は、移動体が障害物により接近したこと的確に把握することが可能となる。
【0018】
【望ましい実施の形態】
以下、本発明を望ましい実施の形態に基づいて説明する。尚、本発明は、以下の実施の形態に限定されるものではない。
第1実施形態
本実施形態は、移動体としての車両の後方画像を撮像して、その画像上に障害物が含まれる領域を表示するようにして、運転車に警告を与える装置である。
【0019】
図1は、実施の形態にかかる周辺状況表装置の構成を示したブロック図であり、図2は、本装置に使用されている撮像装置としてのCCDカメラ、距離検出装置としての超音波センサの車両の取り付け位置を示した斜視図である。
【0020】
図2において、車両50のトランクドアの上方に、光軸が路面に向かうように傾斜して、CCDカメラ10が後方路面を撮像するように配設されている。CCDカメラ10が撮像した後方画像が図5に示されている。図5において、61〜65が路面に立っている障害物である。51が自己の車両のリアバンパである。リアバンパ51には、車両後方の障害物までの距離を検出する超音波センサD1、D2、D3が配設されている。超音波センサは、障害物までの距離を超音波の反射により測定するセンサである。超音波センサD1、D2、D3は、それぞれ、リアバンパ51の左端、中央、右端に設けられている。そられのセンサは、図5に示すように、それぞれの検出領域A1、A2、A3を有している。そして、それらの検出領域A1、A2、A3に障害物が存在する場合に、その障害物までの距離が、各超音波センサD1、D2、D3により測定される。
【0021】
超音波センサD1が障害物61を検出すると、画像上に円状の領域B1が表示される。図6に示すように領域原点O1からの距離Lに対して赤色の明度値が減少する変調画像が撮像画像上に重畳れることによって、この領域B1が表示される。赤色明度値Rは、次式で与えられる。
【数1】
R=k・exp(−L/r) (1)
【0022】
同様に、超音波センサD2、D3が障害物を検出すると、画像上に円状の領域B2、B3が、それぞれ、表示される。図6に示すように領域原点O2、O3からの距離Lに対して、(1)式によって赤色の明度値が減少する変調画像を撮像画像上に重畳れることによって、この領域A2、A3が、それぞれ、表示される。
【0023】
図1において、超音波センサD1、D2、D3から出力される距離検出信号は、それぞれ、スイッチ回路21、22、23に入力している。又、パターンメモリ31、32、33には、それぞれ、撮像された画像に重畳する(1)式で赤色の明度値が変化する変調画像がビットマップ形式で記憶されている。パターンメモリ31、32、33は、それぞれ、変調画像を3原色のRGBデータとして記憶している。パターンメモリ31は超音波センサD1が障害物を検出した時に、撮像画像上に重畳表示される変調画像を記憶し、パターンメモリ32は超音波センサD2が障害物を検出した時に、撮像画像上に重畳表示される変調画像を記憶し、パターンメモリ33は超音波センサD3が障害物を検出した時に、撮像画像上に重畳表示される変調画像を記憶している。それぞれの変調画像は、図6(b)に示すように、赤色の円状画像であり、図6(a)に示すようにその明度値が原点からの距離に対して指数関数で減少する画像である。
【0024】
CCDカメラ10は、同期回路11からの同期信号を入力して、3原色のRGB信号をA/D変換器12に出力する。A/D変換器12は、3つのRGB信号を個別にA/D変換する3つの変換器で構成されている。A/D変換器12の出力するRGB信号は加算回路13に入力する。加算回路13もRGBの各信号毎に3つ設けられている。
【0025】
一方、超音波センサD1、D2、D3の出力する障害物までの距離を示す信号S1、S2、S3は、それぞれ、スイッチ回路21、22、23に入力する。又、パターンメモリ31、32、33は、同期回路11の出力信号に同期して、変調画像データをスイッチ回路21、22、23に、それぞれ、出力する。スイッチ回路21、22、23は、図4に示すように、距離信号S1、S2、S3に応じて、パターンメモリ31、32、33からの変調画像データを通過させる期間と通過させない期間との周期を変化させる回路である。
【0026】
スイッチ回路21、22、23を通過したそれぞれの変調画像であるRGBデータは、加算回路13に入力し、A/D変換器12の出力するRGB信号と加算される。R、G、B毎に加算処理が実行される。そして、加算されたRGBデータは、R、G、Bデータ毎に設けられた3つのD/A変換器14によりR、G、B毎にアナログ信号に変換されて、液晶ディスプレイ15に出力される。表示装置は、D/A変換器14、液晶ディスプレイ15で構成されている。又、重畳手段は、パターンメモリ31、32、33、スイッチ回路21、22、23、加算回路13で構成されている。
【0027】
次に、本実施形態の装置の作用について説明する。
車両が後退している時、CCDカメラ10により撮像された画像は、液晶ディスプレイ15の画面上に表示される。この時、超音波センサD1〜D3のいずれもが障害物をリアバンパ51から1m以内に検出しない時には、スイッチ回路21〜23はオフ状態となり、それらから変調画像データは出力されず、0出力の状態となっている。従って、加算回路13では、CCDカメラ10から出力されるRGB信号がA/D変換器12によりディジタル信号に変換され、加算回路13でスイッチ回路21〜23の出力である0値が加算されて、D/A変換器14に出力される。よって、液晶ディスプレイ15にはCCDカメラ10により撮像された画像がそのまま表示される。
【0028】
次に、超音波センサD1〜D3のいずれかが障害物をリアバンパ51から1m以内に検出すると、対応するスイッチ回路がアクティブとなる。例えば、超音波センサD1が障害物61をリアバンパ51から0.5〜1mの範囲に検出すると、スイッチ回路21は図4(b)に示すような周期でオンオフを繰り返す。これにより、パターンメモリ31からCCDカメラ10の出力信号に同期して出力される変調画像データが、スイッチ回路21のオン時間の間だけスイッチ回路21を通過する。尚、スイッチ回路21のオン時間は、画像の1フレームの出力時間(16.7msec)よりも遥かに長い時間である。例えば、0.5秒程度である。すると、スイッチ回路21のオン期間の間だけ、変調画像が撮像画像の上に重畳される。超音波センサD1が障害物を検出した時に重畳される変調画像の画像上の位置は、図3(a)に示すように、予め決定されている。変調画像は、図6に示すように、赤色の明度値が円周方向には同一で半径方向には領域原点からの距離Lに対して指数関数で減衰する特性である。このような円状の変調画像の約1/4領域が、図3(a)に示すように、撮像画像上に重畳される。変調画像の明度値は図6(a)に示すように変化しているので、領域の境界の位置は明確には存在せずにぼけた状態となる。即ち、図3(a)で示すように、撮像画像上の左下の円領域が、半径が大きくなるに従って赤色が薄くなるように着色される。次に、スイッチ回路21のオフ期間では、変調画像データはスイッチ回路21からは出力されない。このために、撮像画像上において赤色の領域表示は消滅し、液晶ディスプレイ15にはCCDカメラ10が撮像したままの画像が表示される。このような表示が、図4(b)に示すように、繰り返される。即ち、撮像画像上において、赤色の領域表示が点滅する。
【0029】
さらに、車両が後退して、超音波センサD1が障害物61をリアバンパ51から0.3〜0.5m以内の範囲に検出すると、スイッチ回路21は、図4(c)に示す周期でオンオフを繰り返す。これにより、上記の赤色の領域表示が前よりも短周期で点滅する。さらに、車両が後退して、超音波センサD1が障害物61をリアバンパ51から0.3m以内の範囲に検出すると、スイッチ回路21は、図4(d)に示す周期でオンオフを繰り返す。これにより、上記の赤色の領域表示が前よりもさらに短周期で点滅する。このように撮像画像上に頂上された変調画像が点滅し、この点滅周期が車両が障害物に接近するに連れて短くなる。これにより運転者は、車両が障害物に対してどの程度接近しているかを認識することが可能となる。
【0030】
超音波センサD2が障害物を検出した場合には、図3(b)に示す位置に変調画像が重畳される。即ち、約1/2円の領域表示が画面中央下で行われる。車両が障害物に接近するに連れて、領域表示の点滅周期が短くなるのは上記と同様である。超音波センサD3が障害物を検出した場合には、図3(c)に示す位置に変調画像が重畳される。即ち、約1/4円の領域表示が画面右下で行われる。車両が障害物に接近するに連れて、領域表示の点滅周期が短くなるのは上記と同様である。又、超音波センサD1〜D3のうち、複数のセンサが同時に障害物を検出した場合には、図5に示すように、それぞれの超音波センサに対応する画面上の位置に、障害物までの距離に対応した周期で点滅する領域表示がなされる。
【0031】
このようにして、本実施形態では、赤色の明度値が半径方向に沿って減少する変調画像が撮像画像上に重畳されて、障害物を含む領域が表示される。この領域は、領域原点から遠ざかるに連れて赤色の明度値が低くなるために、領域の境界がぼけたように見える。そして、運転者は、障害物の周辺も接触可能性があり、その危険度を赤色の明度により認識することが可能となる。これにより、車両が障害物に接触する前に的確な回避動作を行うことが可能となる。
【0032】
尚、上記実施例では、障害物を含む領域を赤色で表示したが、その表示色は任である。
【0033】
次に、第2実施形態について説明する。
本実施形態は、コンピュータシステムによって構成されている。距離方位測定装置75は、レーダ、レーザレーダ等で、反射により障害物までの距離と方位を測定する装置である。この距離方位測定装置75は、距離と方位のディジタルデータを出力する。このデータは、インタフェース78を介して、CPU70に入力される。CCDカメラ76は、CCD制御装置77により走査されて、1画素毎のRGB値がフレームメモリA71に記憶される。このフレームメモリA71に記憶されている1フレームの画像データに基づいて、DSP(ジィジタルシグナルプロセッサ)73により、液晶ディスプレイ74に、撮像画像がリアルタイムで表示される。CPU70は距離方位測定装置75の出力する距離方位から重畳すべき変調画像を生成する。この変調画像はインタフェース79を介してフレームメモリB72に記憶される。DSP73は、アリルタイムで、その瞬間に記憶されているフレームメモリA71に記憶されている撮像画像とフレームメモリB72に記憶されている変調画像とを加算して、加算画像を液晶ディスプレイ74に表示する。この構成により、撮像画像に変調画像を重畳するのに、同期をとる必要がなく、変調画像の生成周期は、CCDカメラ76の出力する1フレームの画像生成周期に比べて、十分に長い周期とすることができる。
【0034】
次に、CPU70の処理手順を図8のフローチャートに基づいて説明する。ステップ100において、距離方位測定装置75から障害物までの距離zと方位θのデータが入力される。次に、ステップ102において、距離zと方位θから、障害物が車両の後退方向上の所定範囲に存在するか否かが判定される。この所定範囲は、運転者に警報を与える必要があると判断される範囲である。所定範囲に障害物が存在しないと判定された場合には、ステップ110でフレームメモリB72がクリアされて、ステップ100に戻り、距離方位測定装置75から次のタイミングでの距離方位データが入力される。
【0035】
次に、ステップ104において、距離zと方位θとから、障害物の撮像画像上の位置Oが決定される。次に、ステップ106に移行して、次式により変調画像が生成される。
【数2】
I=A(z)・exp〔−L/r(z)〕 (2)
尚、Lは、上記の特定された障害物の位置Oからの距離であり、A(z)、r(z)は、障害物までの距離zにより変化する定数である。
【0036】
図9に示すように、明度値は、領域原点からの距離Lに対して指数関数で減少する。そして、車両と障害物間の距離zが小さくなるほど、領域原点の明度値A(z)は大きくなり、減衰距離r(z)は小さくなる。よって、撮像画像上に表示される領域は障害物までの距離zが小さくなるほど、小さくなり、且つ、領域原点の明度値が高くなる。従って、距離Lに対する明度値の勾配が大きくなる。このような変調画像を生成することで、車両が障害物に接近するに連れて、領域の明度値が高く、領域範囲は狭く、領域境界をより明確にすることができる。これにより、運転者は車両の障害物への接近の制度をより正確に認定することが可能となる。
【0037】
ステップ108では、このようにして生成された変調画像が、フレームメモリB72に出力されることで、撮像画像と変調画像の重畳が実現する。
【0038】
このような処理の繰り返しにより、障害物が所定範囲内に存在する場合には、変調画像が生成され、撮像画像上に重畳される。この変調画像は撮像画像の生成とは同期をとる必要がないため、変調画像の生成の自由度が向上する。所定領域内に複数の障害物が検出された場合には、それぞれの障害物を含むそれぞれの変調画像を生成するようにしても良い。即ち、撮像画像上に複数の領域が表示される。又、ステップ108において、障害物までの距離zに応じた周期で、フレームメモリB72へのステップ106で得られた変調画像の出力と、フレームメモリB72のクリアとを繰り返すようにしても良い。このようにすることで、障害物までの距離zに応じて変調画像が変化すると共に、距離zに応じた周期で領域が点滅することになる。これにより、運転者は、車両の障害物への接近をより的確に認識することが可能となる。
尚、上記の実施形態において、変調画像の色は任意である。又、RGB値の明度値を調整することで、変調画像をグレイ画像とすることも可能である。
又、距離方位測定装置75として、第1実施形態で使用した超音波センサD1〜D3を用いることも可能である。
又、第2実施形態では、撮像装置は、CCDカメラ76とCCD制御装置77、距離検出装置は距離方位測定装置75、表示装置は液晶ディスプレイ74で実現されている。又、重畳手段は、CPU70、フレームメモリA71、フレームメモリB72、DSP73で構成されている。
【0039】
変形例
上記の全ての実施形態において、次の変形例を採用することが可能である。
1)変調画像の領域原点からの距離Lに対する明度値は、図10に示すように、境界付近でのみ変化させるようにしても良い。
2)障害物を含む領域には色を付けずに、他の領域に色を付けるようにしても良い。即ち、図9に示す特性とは逆に、図11の曲線a1に示す特性で変調画像を生成しても良い。障害物を含む領域は撮像画像となり、障害物から遠ざかるにつれて、色の付された画像となる。又、障害物までの距離zに応じて、領域外の飽和明度値、明度値の勾配、領域の大きさを変化させても良い。図10に示す特性とは、逆に、図11の曲線a2で変調画像を生成しても良い。
3)障害物までの距離zに応じて、変調画像の色相を変化させても良い。
4)障害物までの距離zに応じて、変調画像の明度値を変化させても良い。
これを実現する場合の装置構成が図12に示されている。図1と同一構成部分には同一番号が付されている。テーブル81、82、83には、障害物までの検出距離zに応じて図13のように重みwが変化する特性が記憶されている。そして、超音波センサD1、D2、D3の検出する検出距離zから重みwが求められ、パターンメモリ31、32、33の出力する明度値に重みwが乗算される。そして、その乗算値が加算回路13において、CCDカメラ10から出力される輝度Yに加算される。これにより、検出距離zに応じた明度変調が行なわれる。色差信号I,Qは、そのままD/A変換器14に出力されるので、色差の変調は行なわれない。このようにして、明度変調を行なっても良い。
5)車両の後方の撮像でなく、前方や側方を撮像しても良い。
6)距離検出装置は、障害物までの距離や方位を超音波やレーダの反射で直接測定する装置で構成したが、撮像装置で得られた画像から、特開平2−299944号公報のように障害物の輪郭の幅から障害物までの距離を測定するものであっても良い。さらに、2眼によるステレオ画像を撮像して、画像解析により障害物までの距離や方位を測定するようにしても良い。
7)移動体として、車両、特に、自動車等、任意の移動体に本件発明は適用可能である。
【図面の簡単な説明】
【図1】本発明の第1実施形態にかかる周辺状況表示装置を示した構成図。
【図2】同実施形態におけるCCDカメラ、超音波センサの設置位置を示した斜視図。
【図3】同実形態における変調画像の撮像画像上への重畳位置を示した説明図。
【図4】同実施形態における領域の点滅方法を示したタイミングチャート。
【図5】同実施形態の撮像画像及び変調画像を撮像画像上に重畳して得られた領域表示を示す説明図。
【図6】同実施形態の変調画像を生成するための領域原点からの距離に対する明度値の変化を示した特性図。
【図7】第2実施形態にかかる周辺状況表示装置を示した構成図。
【図8】同実施形態のCPUの処理手順を示したフローチャート。
【図9】同実施形態の変調画像を生成するための領域原点からの距離に対する明度値の変化を示した特性図。
【図10】変形例にかかる周辺状況表示装置による変調画像を生成するための領域原点からの距離に対する明度値の変化を示した特性図。
【図11】他の変形例にかかる周辺状況表示装置による変調画像を生成するための領域原点からの距離に対する明度値の変化を示した特性図。
【図12】他の変形例にかかる周辺状況表示装置を示した構成図。
【図13】同実施例装置による明度変調の特性を示した特性図。
【符号の簡単な説明】
D1〜D3…超音波センサ
10…CCDカメラ
31〜32…パターンメモリ
21〜23…スイッチ回路
13…加算回路
15…液晶ディスプレイ
70…CPU
71,72…フレームメモリ
75…距離方位測定装置

Claims (9)

  1. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置により表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記変調画像は、領域原点から遠ざかるに従って明度値が低くなる色画像であることを特徴とする周辺状況表示装置。
  2. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置により表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記変調画像は、領域原点から遠ざかるに従って明度値が低くなる濃淡画像であることを特徴とする周辺状況表示装置。
  3. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置により表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記変調画像は、領域原点から遠ざかるに従って明度値が高くなる色画像であることを特徴とする周辺状況表示装置。
  4. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置により表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記変調画像は、領域原点から遠ざかるに従って明度値が高くなる濃淡画像であることを特徴とする周辺状況表示装置。
  5. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置によ り表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記変調画像は、前記領域の内部では一定か、又は、大きく変化せず、前記領域の境界付近で変化が大きい画像であることを特徴とする周辺状況表示装置。
  6. 移動体の周辺状況を撮像して画像表示する周辺状況表示装置において、
    移動体の周辺の状況を撮像する撮像装置と、
    移動体の周辺の障害物までの距離を検出する距離検出装置と、
    前記撮像装置で撮像された状況の画像を表示する表示装置と、
    前記距離検出装置により検出された前記障害物までの距離に応じて、前記表示装置により表示された画像上において、前記障害物が存在する領域を他の画像領域と区画し得る状態で画像を重畳表示する重畳手段とから成り、
    前記重畳手段は、前記領域の境界をぼかして表示し、領域原点からの距離に応じて変調された変調画像を重畳する手段であって、
    前記重畳手段は、前記距離検出装置により検出された距離に応じて、前記変調画像の明度値、明度値の領域原点からの距離に対する変化割合、及び、領域の大きさのうち少なくとも1種を変化させた画像を重畳する手段であることを特徴とする周辺状況表示装置。
  7. 前記重畳手段は、前記距離検出装置により検出された距離に応じて、前記変調画像の領域原点の明度値、明度値の領域原点からの距離に対する変化割合、及び、領域の大きさのうち少なくとも1種を変化させた画像を重畳する手段であることを特徴とする請求項1乃請求項5のいずれか1項に記載の周辺状況表示装置。
  8. 前記重畳手段は、前記距離検出装置により検出された距離に応じて、前記変調画像の色相を変化させた画像を重畳する手段であることを特徴とする請求項1、請求項3、又は、請求項7に記載の周辺状況表示装置。
  9. 前記重畳手段は、前記距離検出装置により検出された距離に応じて、画像の重畳表示をオンオフする周期を変化させて重畳表示する手段であることを特徴とする請求項1乃至請求項8のいずれか1項に記載の周辺状況表示装置。
JP2001145616A 2001-05-15 2001-05-15 周辺状況表示装置 Expired - Fee Related JP3608527B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001145616A JP3608527B2 (ja) 2001-05-15 2001-05-15 周辺状況表示装置
US10/145,042 US7126460B2 (en) 2001-05-15 2002-05-15 Surrounding conditions display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001145616A JP3608527B2 (ja) 2001-05-15 2001-05-15 周辺状況表示装置

Publications (2)

Publication Number Publication Date
JP2002344958A JP2002344958A (ja) 2002-11-29
JP3608527B2 true JP3608527B2 (ja) 2005-01-12

Family

ID=18991397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001145616A Expired - Fee Related JP3608527B2 (ja) 2001-05-15 2001-05-15 周辺状況表示装置

Country Status (2)

Country Link
US (1) US7126460B2 (ja)
JP (1) JP3608527B2 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004252756A (ja) * 2003-02-20 2004-09-09 Fujitsu Ltd 物体干渉表現装置
JPWO2004083889A1 (ja) * 2003-03-20 2006-06-22 松下電器産業株式会社 障害物検知装置
DE10318111A1 (de) * 2003-04-22 2004-11-11 Continental Aktiengesellschaft Verfahren und Vorrichtung zur Erkennung eines Fahrzustands
DE10347168A1 (de) * 2003-10-06 2005-04-21 Valeo Schalter & Sensoren Gmbh Manövrierhilfe für Kraftfahrzeuge
US7868913B2 (en) * 2003-10-10 2011-01-11 Nissan Motor Co., Ltd. Apparatus for converting images of vehicle surroundings
DE102004009924A1 (de) * 2004-02-23 2005-09-01 Valeo Schalter Und Sensoren Gmbh Verfahren und Warnvorrichtung zum grafischen Aufbereiten eines Bildes einer Kamera
US7397496B2 (en) * 2004-04-15 2008-07-08 Kenneth Eugene Arant Apparatus system for recovering evidence of extrinsic wrongful acts in vehicular incidents
US7679497B1 (en) 2004-04-15 2010-03-16 Kenneth Eugene Arant Recovering legal evidence of unfavorable events or conditions during vehicle operations
EP1748654A4 (en) * 2004-04-27 2013-01-02 Panasonic Corp VISUALIZATION OF CIRCUMFERENCE OF A VEHICLE
DE202004007063U1 (de) * 2004-05-04 2005-09-15 Liebherr Werk Nenzing Gmbh Nen Reachstacker
GB2414128B (en) * 2004-05-13 2006-04-26 Shih-Hsiung Li Vehicular monitoring system with a multi-window display
JP4773080B2 (ja) * 2004-12-17 2011-09-14 株式会社デンソー 視認力向上支援装置
DE102005018408A1 (de) * 2005-04-20 2006-10-26 Valeo Schalter Und Sensoren Gmbh Verfahren und Vorrichtung zur Auswertung von Abstandsmessdaten eines Abstandsmesssystems eines Kraftfahrzeugs
EP1717757A1 (de) * 2005-04-28 2006-11-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur grafischen Darstellung der Umgebung eines Kraftfahrzeugs
JP2007024770A (ja) * 2005-07-20 2007-02-01 Denso Corp 障害物検出装置
US7528703B2 (en) * 2005-07-26 2009-05-05 Aisin Seiki Kabushiki Kaisha Obstacle detecting system for vehicle
JP4826355B2 (ja) * 2006-06-20 2011-11-30 日産自動車株式会社 車両周囲表示装置
FR2910680B1 (fr) * 2006-12-21 2009-01-30 Eurocopter France Procede et systeme de traitement et de visualisation d'images de l'environnement d'un aeronef
EP3624086A1 (en) * 2007-01-25 2020-03-18 Magna Electronics Inc. Radar sensing system for vehicle
TW200836953A (en) * 2007-03-07 2008-09-16 shi-xiong Li Uni-directional signal-transmitting and multi-receiving method of detecting obstacle for use in a parking radar and its device
JP4404103B2 (ja) * 2007-03-22 2010-01-27 株式会社デンソー 車両外部撮影表示システムおよび画像表示制御装置
JP5120880B2 (ja) * 2007-10-15 2013-01-16 アルパイン株式会社 画像処理装置及び画像処理方法
US8972034B2 (en) * 2007-11-29 2015-03-03 Airbus Operations Gmbh Diagnosis system
DE102009029439A1 (de) * 2009-09-14 2011-03-24 Robert Bosch Gmbh Verfahren und Vorrichtung zur Darstellung von Hindernissen in einem Einparkhilfesystem von Kraftfahrzeugen
DE102009045233A1 (de) * 2009-10-01 2011-04-28 Robert Bosch Gmbh Verfahren und Vorrichtung zur kombinierten visuellen Anzeige von Video- und Abstandsdaten einer Verkehrssituation
JP5605606B2 (ja) * 2010-03-12 2014-10-15 アイシン精機株式会社 駐車支援装置
WO2012077367A1 (ja) * 2010-12-08 2012-06-14 トヨタ自動車株式会社 車両用情報伝達装置
WO2012077202A1 (ja) * 2010-12-08 2012-06-14 トヨタ自動車株式会社 車両用情報伝達装置
JP5857579B2 (ja) * 2011-09-26 2016-02-10 日産自動車株式会社 車輌用情報呈示装置
JP6017782B2 (ja) * 2011-12-09 2016-11-02 株式会社タダノ 吊荷周辺の物体の高さ情報通知システム
DE102012001554A1 (de) * 2012-01-26 2013-08-01 Connaught Electronics Ltd. Verfahren zum Betreiben einer Fahrerassistenzeinrichtung eines Kraftfahrzeugs,Fahrerassistenzeinrichtung und Kraftfahrzeug
JP6295868B2 (ja) * 2014-07-18 2018-03-20 日産自動車株式会社 車両用表示装置
CN105717927A (zh) * 2016-04-13 2016-06-29 京东方科技集团股份有限公司 承载装置及用于所述承载装置的控制方法
JP6867023B2 (ja) * 2017-06-16 2021-04-28 ディーピーティー株式会社 移動体用映像表示装置およびその方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02299944A (ja) 1989-05-15 1990-12-12 Clarion Co Ltd 車載用後方確認装置
JPH0385069A (ja) 1989-08-28 1991-04-10 Toshiba Corp 車載用後方確認カメラシステム
US5670935A (en) * 1993-02-26 1997-09-23 Donnelly Corporation Rearview vision system for vehicle including panoramic view
JPH08263784A (ja) * 1995-03-23 1996-10-11 Honda Motor Co Ltd 道路状況認識装置
JPH0948282A (ja) 1995-08-08 1997-02-18 Mazda Motor Corp 車両用間接視認装置
JP3787218B2 (ja) * 1997-05-14 2006-06-21 クラリオン株式会社 車輌後方監視装置
JP3626613B2 (ja) * 1998-11-13 2005-03-09 日産車体株式会社 障害物検出表示装置
JP2000184368A (ja) 1998-12-14 2000-06-30 Matsushita Electric Ind Co Ltd センサー信号重畳車載カメラシステム
JP3855552B2 (ja) * 1999-08-26 2006-12-13 松下電工株式会社 車両周辺障害物監視装置
JP2002230698A (ja) * 2001-01-30 2002-08-16 Clarion Co Ltd 車両周囲画像表示方法及び車両周囲画像表示装置

Also Published As

Publication number Publication date
US7126460B2 (en) 2006-10-24
US20020171739A1 (en) 2002-11-21
JP2002344958A (ja) 2002-11-29

Similar Documents

Publication Publication Date Title
JP3608527B2 (ja) 周辺状況表示装置
KR101106547B1 (ko) 이미지 기반의 차량 조작 보조 방법 및 그 시스템
US8330816B2 (en) Image processing device
US9895974B2 (en) Vehicle control apparatus
JP7077616B2 (ja) 表示制御装置および表示制御方法
JP2011091549A (ja) 車両用夜間視界支援装置
JP6548900B2 (ja) 画像生成装置、画像生成方法及びプログラム
WO2016002006A1 (ja) 車両用表示装置及び車両用表示方法
US11299113B2 (en) Device for assisting safe exit from vehicle, system having the same, and method thereof
JP2013183298A (ja) 車両用後方視界支援装置及び車両用後方視界支援方法
US10495458B2 (en) Image processing system for vehicle
WO2018008061A1 (ja) 表示制御方法および表示制御装置
JP2010257282A (ja) 障害物検知装置、および当該装置を搭載した車両
WO2016152755A1 (ja) 物体認識装置
JP2016063390A (ja) 画像処理装置、及び画像表示システム
KR20190012607A (ko) 차량의 후방 충돌 경고장치 및 그 제어방법
EP3294611B1 (en) Predicted position display for vehicle
US11292387B2 (en) Towing assistance apparatus
JP2006352368A (ja) 車両周囲監視装置及び車両周囲監視方法
JP2011087037A (ja) 車両用障害物検出装置
JP3885930B2 (ja) 障害物検知装置
JP3626613B2 (ja) 障害物検出表示装置
JP2011191859A (ja) 車両の周辺監視装置
KR101849326B1 (ko) 차량용 카메라 시스템
CN109286783A (zh) 车辆图像处理系统

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040921

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041004

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071022

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081022

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091022

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091022

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101022

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111022

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121022

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121022

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121022

Year of fee payment: 8

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131022

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees