JP3830025B2 - 描画装置 - Google Patents
描画装置 Download PDFInfo
- Publication number
- JP3830025B2 JP3830025B2 JP2001193533A JP2001193533A JP3830025B2 JP 3830025 B2 JP3830025 B2 JP 3830025B2 JP 2001193533 A JP2001193533 A JP 2001193533A JP 2001193533 A JP2001193533 A JP 2001193533A JP 3830025 B2 JP3830025 B2 JP 3830025B2
- Authority
- JP
- Japan
- Prior art keywords
- viewpoint
- image
- vehicle
- range
- viewed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、描画装置に関し、より特定的には、車両の運転を支援する運転支援装置に組み込むことが可能な描画装置に関する。さらに詳しく述べると、車両に固定される撮像装置により取り込まれた画像を基礎として、車両の周囲を表す運転支援画像を生成する描画装置に関する。
【0002】
【従来の技術】
従来の運転支援装置の一つが、米国特許第5,670,935号公報に開示されている。従来の運転支援装置は、大略的に、複数のカメラと、画像処理部と、表示装置とを備えている。各カメラは、車両の前進方向を基準として後に向けて取り付けられており、互いに異なる車両の後方画像を取り込む。画像処理部は、各カメラにより取り込まれた複数の後方画像を1つに合成して、合成画像を生成する。以上の合成画像は、表示装置に転送され、当該表示装置で表示される。以上の合成画像を通じて、ドライバは、車両の後方がどのような状況であるかを視認することができる。
【0003】
【発明が解決しようとする課題】
しかしながら、ドライバは、上述の合成画像から得られる情報だけでは、運転支援には不十分であると感じるという問題点があった。例えば、駐車時のように、繊細なステアリング操作が要求される状況では、ドライバは、自車両がその周囲に存在する立体物と接触するか否かを容易に判定したいと考える。したがって、かかる状況では、自車両と立体物との距離感が直感的に分かるような画像が要求される。しかしながら、合成画像は、カメラが撮影した後方画像をつなぎ合わせただけであるから、自車両と立体物との距離感が分かりづらい。
【0004】
それゆえに、本発明は、運転支援装置に組み込むことが可能であり、十分な情報をドライバに提供可能な運転支援画像を生成できる描画装置を提供することを目的とする。
【0005】
【課題を解決するための手段および発明の効果】
上記目的を達成するために、第1の発明は、車両の運転を支援するための運転支援画像を生成する描画装置であって、車両に設置された撮像装置により取り込まれた撮影画像を受け取る取得部と、取得部が受け取った撮影画像に基づいて、車両の周囲における第1の範囲を、第1の視点から見たときの様子を表す下方視点画像を生成する第1の画像生成部と、取得部が受け取った撮影画像に対して視点変換処理を行って、車両の周囲において、第1の範囲より狭い第2の範囲を、撮像装置が設置されている位置及び第1の視点のそれぞれと異なりかつ車両の上方に仮想的に設定された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成部と、第1の画像生成部で生成された下方視点画像と、第2の画像生成部で生成された上方視点画像とを含む運転支援画像を生成する第3の画像生成部とを備える。ここで、第1の視点から車両の周囲を見るときの方向と路面とがなす第1の角度は、第2の視点から車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、第1の範囲は、車両から第1の距離までの範囲であり、第2の範囲は、車両から第2の距離までの範囲であり、第2の距離は、第1の距離よりも小さくかつ路面上に立体物がないと考え得る距離である。
【0006】
以上のように、第1の発明では、互いに視点の異なる下方視点画像および上方視点画像を含む運転支援画像が生成される。下方視点画像は、ドライバが車両の周囲の状況を把握するのに好適である。一方、上方視点画像は、ドライバが車両とその周囲にある立体物との接触判定に好適である。そのため、ドライバは、運転支援画像を構成する複数の画像を、必要に応じて、使い分けることができる。このように、第1の発明によれば、ドライバが必要とする十分な情報を提供することができる。
また、上方視点画像は、上述のように車両と立体物との接触判定に向くので、車両の近傍の狭い範囲の様子を表せば十分である。また、上方視点画像が表す範囲は、車両に対して、第1の距離よりも小さくかつ路面上に障害物がないと想定される距離に制限される。したがって、第1の発明によれば、ドライバに不要な情報が提供されることを防止することができる。また、下方視点画像は、ドライバが車両の周囲の様子を把握するのに好適である。第1の発明では、下方視点画像は上方視点画像よりも広い範囲の様子を表すので、ドライバにより十分な情報を提供することが可能となる。
【0007】
第2の発明は、第1の発明に従属しており、第1の視点は、撮像装置の近傍に予め設定されている仮想視点である。そして、第1の画像生成部は、取得部が受け取った撮影画像に視点変換処理を行って、仮想視点から見た車両の周囲の様子を表す下方視点画像を生成する。
【0008】
第3の発明は、第1の発明に従属しており、第1の視点は、車両のドライバの目の位置近傍に予め設定されている仮想視点である。ここで、第1の画像生成部は、取得部が受け取った撮影画像に視点変換処理を行って、仮想視点から見た車両の周囲の様子を表す下方視点画像を生成する。
【0009】
第2および第3の発明によれば、下方視点画像は視点変換処理により生成される。これによって、ドライバにとってより好ましい視点から車両の周囲を見た下方視点画像を生成することができる。
【0010】
第4の発明は、第1の発明に従属しており、第3の画像生成部は、第2の画像生成部で生成された上方視点画像を、運転支援画像において車両の運転席に近い側に配置する。
第4の発明によれば、上方視点画像がドライバから見やすい位置に配置されるので、ドライバにとってより好ましい運転支援画像を生成することができる。
【0011】
第5の発明は、第1の発明に従属しており、第3の画像生成部は、第2の画像生成部で生成された上方視点画像を、運転支援画像における上部に配置する。
第5の発明では、上方視点画像が運転支援画像における上部に配置される。つまり、上
方視点画像は、下方視点画像において、ドライバがあまり必要としない部分に合成されることになる。これによって、ドライバにとってより好ましい運転支援画像を生成することができる。
【0012】
第6の発明は、第1の発明に従属しており、描画装置は、車両に設置された操舵角センサにより検出された当該車両の操舵角に基づいて、車両がこれから辿ると想定される予測軌跡を導出する導出部と、導出部により導出された予測軌跡を表すオブジェクトを、第3の画像生成部により生成された運転支援画像を構成する上方視点画像および/または下方視点画像に描画する軌跡描画部とをさらに備える。
【0013】
第6の発明によれば、予測軌跡のオブジェクトが上方視点画像および/または下方視点画像に描画されるので、運転支援のためにより多くの情報をドライバに提供することができる。
【0014】
第7の発明は、車両の運転を支援するための運転支援画像を生成する描画方法であって、車両に設置された撮像装置により取り込まれた撮影画像を受け取る取得ステップと、取得ステップで受け取られた撮影画像に基づいて、車両の周囲における第1の範囲を、第1の視点から見たときの様子を表す下方視点画像生成する第を1の画像生成ステップと、取得ステップで受け取られた撮影画像に対して視点変換処理を行って、車両の周囲において、第1の範囲よりも狭い第2の範囲を、撮像装置が設置されている位置及び第1の視点のそれぞれと異なりかつ車両の上方に仮想的に設置された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成ステップと、第1の画像生成ステップで生成された下方視点画像と、第2の画像生成ステップで生成された上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップとを備える。ここで、第1の視点から車両の周囲を見るときの方向と路面とがなす第1の角度は、第2の視点から車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、第1の範囲は、車両から第1の距離までの範囲であり、第2の範囲は、車両から第2の距離までの範囲であり、第2の距離は、第1の距離よりも小さくかつ路面上に障害物がないと想定される距離である。
【0015】
第8の発明は、第7の発明に従属しており、第1の視点は、撮像装置の近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0016】
第9の発明は、第8の発明に従属しており、第1の視点は、車両のドライバの目の位置近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0017】
第10の発明は、車両の運転を支援するための運転支援画像を生成するためのプログラムが記録された記録媒体に向けられる。ここで、プログラムは、車両に設置された撮像装置により取り込まれた撮影画像を受け取る取得ステップと、取得ステップで受け取られた撮影画像に基づいて、車両の周囲における第1の範囲を、第1の視点から見た車両の周囲の様子を表す下方視点画像を生成する第1の画像生成ステップと、取得ステップで受け取られた撮影画像に対して視点変換処理を行って、車両の周囲において、第1の範囲より狭い第2の範囲を、撮像装置が設置されている位置及び第1の視点のそれぞれと異なりかつ車両の上方に仮想的に設定された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成ステップと、第1の画像生成ステップで生成された下方視点画像と、第2の画像生成ステップで生成された上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップとを備える。ここで、第1の視点から車両の周囲を見るときの方向と路面とがなす第1の角度は、第2の視点から車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、第1の範囲は、車両から第1の距離までの範囲であり、第2の範囲は、車両から第2の距離までの範囲であり、第2の距離は、第1の距離よりも小さくかつ路面上に障害物がないと想定される距離である。
【0018】
第11の発明は、第10の発明に従属しており、第1の視点は、撮像装置の近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0019】
第12の発明は、第10の発明に従属しており、第1の視点は、車両のドライバの目の位置近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0020】
第13の発明は、車両の運転を支援するための運転支援画像を生成するためのプログラムであって、車両に設置された撮像装置により取り込まれた撮影画像を受け取る取得ステップと、取得ステップで受け取られた撮影画像に基づいて、車両の周囲における第1の範囲を、第1の視点から見たときの様子を表す下方視点画像を生成する第1の画像生成ステップと、取得ステップで受け取られた撮影画像に対して視点変換処理を行って、車両の周囲において、第1の範囲より狭い第2の範囲を、撮像装置が設置されている位置及び第1の視点のそれぞれと異なる第2の視点から見た車両の周囲の様子を表す上方視点画像を生成する第2の画像生成ステップと、第1の画像生成ステップで生成された下方視点画像と、第2の画像生成ステップで生成された上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップとを備える。ここで、第1の視点から車両の周囲を見るときの方向と路面とがなす第1の角度は、第2の視点から車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、第1の範囲は、車両から第1の距離までの範囲であり、第2の範囲は、車両から第2の距離までの範囲であり、第2の距離は、第1の距離よりも小さくかつ路面上に障害物がないと想定される距離である。
【0021】
第14の発明は、第13の発明に従属しており、第1の視点は、撮像装置の近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0022】
第15の発明は、第13の発明に従属しており、第1の視点は、車両のドライバの目の位置近傍に予め設定されている仮想視点である。第1の画像生成ステップでは、取得ステップで受け取られた撮影画像に視点変換処理が行われ、仮想視点から見た車両の周囲の様子を表す下方視点画像が生成される。
【0023】
【発明の実施の形態】
図1は、本発明の第1の実施形態に係る描画装置Urnd1を組み込んだ運転支援装置Uast1のハードウェア構成を示すブロック図である。図1において、運転支援装置Uast1は、
車両Vusr (図2(a)および(b)参照)に設置され、2台の撮像装置1および2と、操舵角センサ3と、表示装置4と、描画装置Urnd1とを備えている。
【0024】
ここで、図2(a)および(b)は、撮像装置1および2を詳細に説明するための図である。図2(a)および(b)には、車両Vusr を真上および斜め後ろから見たときの姿が描かれている。図2(a)に示すように、撮像装置1および2は、両者で車両Vusr の後方の領域R12を撮影できるように、当該車両Vusr にそれぞれ固定される。ここで、本実施形態では、後方領域R12は、車両Vusr の後退時にドライバが視認しづらい死角領域R121 (典型的には、車両Vusr のリアバンパーの直下近傍)を含む。後方領域R12は、さらに、車両Vusr から見て、上述の死角領域R121 よりも遠方の領域R122 を含む。撮像装置1は、特に、車両Vusr の縦中心面Flm(一点鎖線参照)を基準として、後方領域R12の左半分である領域R1 の様子を撮影する。上記縦中心面Flmを境として、領域R1 の逆側にある領域R2 の様子は、撮像装置2により撮影される。
【0025】
また、撮像装置1は、図2(b)に示すように、車両Vusr の後端部分(例えば、リアバンパー)において、当該車両Vusr の縦中心面Flm(一点鎖線参照)を基準として、予め定められた量だけ右側にずらされた位置に固定される。また、その光軸Apt1 が領域R1 に向かいかつ路面Frdと角度θ1 で交わる、レンズ101を撮像装置1は有する。撮像装置1は、図3に示すように、レンズ101の位置から見た上述の領域R1 の様子を表す撮影画像S101 を生成する。なお、以上のレンズ101の位置は請求項における第1の視点の一例である。また、角度θ1 は、請求項における第1の角度の一例である。
【0026】
また、撮像装置2は、図2(a)および(b)に示すように、車両Vusr の縦中心面Flmを基準として、撮像装置1と面対称な位置に設置されるので、その詳細な説明を省略する。なお、以下の説明では、撮像装置2により撮影されるものを、撮影画像S102 と称する。
【0027】
次に、角度θ1 の適切な値について説明する。上述の角度θ1 が0度に近づけば近づく程、撮影画像S101 およびS102 に上述の死角領域R121 が映らなくなる。逆に、角度θ1 が90度に近づく程、撮影画像S101 およびS102 には、狭い範囲の遠方領域R122 しか映らなくなる。以上の2点に加え、撮像装置1および2の路面Frdからの高さを考慮して、角度θ1 は適切な値に設定される。
【0028】
図1において、操舵角センサ3は、車両Vusr の操舵角φを検出して、CPU7に送信する。本実施形態では、操舵角φとは、車両Vusr のステアリングが初期位置を基準として回転した角度を意味する。以上の初期位置は、一般的に、ステアリングが切られていない状態、つまり、車両Vusr が直進姿勢にある状態におけるステアリングの位置を意味する。また、操舵角φとは、ステアリングの操作に応答して、車両Vusr の車輪が回転した時の角度でもよい。
表示装置4は、典型的には液晶ディスプレイであり、描画装置Urnd1により生成される運転支援画像S201 を表示する。
【0029】
描画装置Urnd1は、CPU7、ROM8およびRAM9から構成される。ROM8は、CPU7の処理手順を規定するプログラムPG1 が格納される。CPU7は、以上のプログラムPG1 に従って、運転支援画像S201 を生成する。また、プログラムPG1 の実行時、RAM9は、作業領域として、CPU7により使用される。
【0030】
ここで、図4は、運転支援画像S201 の一例を示している。図4において、運転支援画像S201 は、下方視点画像S202 および上方視点画像S203 を少なくとも1つずつ含んでいる。下方視点画像S202 は、本実施形態では、便宜上、撮影画像S101 およびS102 を
つなぎ合わせることにより生成されるとする。したがって、下方視点画像S202 は、撮像装置1および2の視点から見た後方領域R12の様子を表す。それに対して、上方視点画像S203 は、本実施形態では、図5に示すように、車両Vusr の上方に仮想的に置かれた仮想カメラCv から、上述の後方領域R12を見たときの画像である。ここで、仮想カメラCv の視線、つまり仮想的な光軸Aptv は、後方領域R12に向かい、かつ路面Frdと角度θv で交わる。以上の角度θv は、角度θ1 よりも大きく設定される。
【0031】
なお、以上の仮想カメラCv の視点が、請求項における第2の視点の一例である。また、角度θv は請求項における第2の角度の一例である。また、以上のような上方視点画像S203 は、公知の視点変換処理(例えば、国際公開WO00−07373号公報参照)を使って、撮影画像S101 およびS102 に基づいて生成される。
【0032】
以上のように上方視点画像S203 は、車両Vusr の後方領域R12を直上から見下ろしたような画像である。そのため、上方視点画像S203 を見れば、ドライバは、車両Vusr の周囲に存在する立体物(他の車両に代表される障害物)に当該車両Vusr が接触するか否かを判断し易い。つまり、上方視点画像S203 は、ドライバが接触判定をし易いという利点がある。さらに、駐車スペースを規定する白線と車両Vusr との位置関係を、ドライバが把握し易いという利点もある。しかしながら、上述の視点変換処理では、CPU7の処理負担を軽くするため、各撮影画像S101 およびS102 に映る立体物は全て路面上に存在すると仮定される。そのため、上述の視点変換処理では、撮像装置1および2を視点として、立体物を路面に投影して、空間データが作成される。以上の空間データが上方視点画像S203 の作成に使われるので、当該上方視点画像S203 には、以下に述べるような欠点がある。
【0033】
今、図6(a)に示すように、領域R1 内の路面Frd上に、逆「L」字型の断面を有する立体物Bがあると想定する。以上の立体物Bを撮像装置1で撮影した時、撮影画像S101 に映る、立体物Bの鉛直方向の部分Bv の高さと、水平方向の部分Bh との長さの比を、Hb :Lb と仮定する。また、上述の視点変換処理では、立体物Bが撮像装置1を視点として路面Frdに投影される。図6(a)にはさらに、上記部分Bv が路面Frdに投影された投影部分Bv'が描かれている。したがって、視点変換処理では、上述の仮想カメラCv は、上記部分Bh と投影部分Bv'とから構成される仮想物体B' を見ることとなる。まず、図6(b)に示すように、仮想カメラCv の視線方向が光軸Apt1 (図示せず)の方向に近い場合、当該仮想カメラCv から見た仮想物体B' は、撮像装置1から見た立体物B(図6(a)参照)と大きく変わらない。具体的には、当該仮想カメラCv から見た仮想物体B' において、投影部分Bv'の長さと、水平方向の部分Bh の長さとの比をHb':Lb'とすると、Hb':Lb'≒Hb :Lb の関係が成り立つ。
【0034】
しかしながら、図6(c)に示すように、仮想カメラCv が車両Vusr の上方に設定される場合、その視線方向は光軸Apt1 (図示せず)の方向と大きく異なる。かかる場合、当該仮想カメラCv から見た仮想物体B' は、撮像装置1から見た立体物B(図6(a)参照)と比べると大きく変形して見える。具体的には、当該仮想カメラCv から見た仮想物体B' において、投影部分Bv'の長さと、水平方向の部分Bh の長さとの比をHb":Lb"とすると、Hb":Lb"≒Hb :Lb の関係は成り立たず、Hb"/Lb"≫Hb /Lb となる。以上のことから、立体物Bが映っている上方視点画像S203 は、ドライバに違和感を与えてしまうという欠点がある。言い換えれば、上方視点画像S203 には、立体物Bが映っていないことが好ましい。なお、以上の説明では、撮影画像S101 を例に採りあげて説明したが、立体物Bの変形については、撮影画像S102 にも同様に当てはまる。
【0035】
ところで、一般的に、ドライバは、立体物(障害物)を避けて運転するので、車両Vusr の近くには、当該立体物が存在しない場合が多いと考えることができる。つまり、上方
視点画像S203 に映る範囲R203 を、図7に示すように、相対的に狭く設定すれば、当該上方視点画像S203 には、立体物Bは映らないと考えることができる。以上の観点から、例えば、上方視点画像S203 における範囲R203 は、例えば、車両Vusr の後端(斜線部分)から2m程度離れた位置まで映るように設定される。なお、以上の範囲R203 は、請求項における第2の範囲の一例である。
【0036】
また、下方視点画像S202 は、以上の上方視点画像S203 に対して、以下のような欠点と利点がある。まず、下方視点画像S202 は、ドライバが前述の接触判定をし難いという欠点を持っている。逆に、長所としては、下方視点画像S202 には、立体物Bは実質的に変形せずに映るので、相対的に広範囲の様子が映っていても、ドライバは、上方視点画像S203 を見たときのような違和感を感じない点である。したがって、下方視点画像S202 に映る範囲R202 を、図7に示すように、相対的に広く設定しても構わない。その一例として、下方視点画像S202 の範囲R202 は、車両Vusr の後端(斜線部分)から10m程度離れた位置まで映るように、予め設定される。なお、以上の範囲R203 は、請求項における第1の範囲の一例である。
【0037】
また、本実施形態では、図4に示すように、上方視点画像S203 は好ましくは、運転支援画像S201 における右側に配置される。この理由は以下の通りである。日本で製造された車両Vusr は、その右側に運転席を有している。また、上方視点画像S203 は相対的に狭い範囲の様子を表す。以上のことから、上方視点画像S203 は、運転席に近い側に配置される方が、ドライバから見え易いからである。また、もし、運転席が車両Vusr の左側にある場合には、同様の理由により、上方視点画像S203 は運転支援画像S201 の左側に配置されることが好ましい。なお、以上のようなドライバからの見やすさを考慮しないのであれば、上方視点画像S203 は別の位置に配置されても良い。
【0038】
また、本実施形態では、上方視点画像S203 は好ましくは、運転支援画像S201 の上端に配置される。なぜなら、一般的に、ドライバが下方視点画像S202 に求めるのは路面上の様子であり、路面から離れた部分(つまり、運転支援画像S201 の上端近傍)の様子の要求度は低いからである。
【0039】
次に、以上の運転支援装置Uast1の動作について説明する。ドライバが運転支援装置Uast1による支援が必要なタイミング(例えば、車両Vusr を後退させながら駐車スペースに入れる時)で、CPU7は、プログラムPG1 の実行を開始する。ここで、図8は、プログラムPG1 に記述されているCPU7の処理手順を示すフローチャートである。図8において、CPU7はまず、撮像指示Icpt を生成し、撮像装置1および2に送信する(ステップS1)。撮像指示Icpt は、各撮像装置1および2に撮像を指示するための信号である。各撮像装置1および2は、受信指示Icpt に応答して、前述の撮影画像S101 およびS102 を取り込み、それらをRAM9に格納する(ステップS2)。
【0040】
次に、CPU7は、上述の運転支援画像S201 を構成する下方視点画像S202 を生成する(ステップS3)。ステップS3をより具体的に説明すると、CPU7は、ステップS2で格納された撮影画像S101 およびS102 をRAM9上でつなぎ合わせ、これによって、撮像装置1および2の視点から見た上述の範囲R202 の様子を表す下方視点画像S202 (図4参照)を生成する。
【0041】
また、CPU7は、上述の運転支援画像S201 を構成する上方視点画像S203 を生成する(ステップS4)。より具体的にステップS4を説明すると、まず、上述の視点変換処理が行われる。視点変換処理では、まず、ステップS2で格納された撮影画像S101 およびS102 から、それらに含まれるすべての立体物が路面上に投影され、空間データが生成される。次に、生成された空間データに基づいて、車両Vusr の上方に仮想的に置かれて
いる仮想カメラCv (図5参照)から上述の範囲R203 を見た時の様子を表す上方視点画像S203 (図4参照)が生成される。
【0042】
さらに、CPU7は、以上の上方視点画像S203 をRAM9上の下方視点画像S202 と合成し、これによって、図4に示す運転支援画像S201 を生成する(ステップS5)。
【0043】
次に、CPU7は、検出指示Idtc を生成して、操舵角センサ3に送信する(ステップS6)。検出指示Idtc は、操舵角φの検出を操舵角センサ3に指示するための信号である。操舵角センサ3は、受信検出指示Idct に応答して、操舵角φを検出する。検出された操舵角φは、RAM9に格納される(ステップS7)。次に、CPU7は、アッカーマンモデルに代表される手法に従って、ステップS7で格納された操舵角φに基づいて、車両Vusr の予測軌跡を導出する(ステップS8)。ここで、予測軌跡とは、ドライバがステアリングの操作量を現在の操舵角φのまま保った場合に、車両Vusr がこれから辿ると想定される軌跡を意味する。
【0044】
次に、CPU7は、ステップS8で導出された予測軌跡を示すオブジェクトJ202 およびJ203 を、ステップS5で生成された運転支援画像S201 を構成する下方視点画像S202 および上方視点画像S203 上に描画して、図9に示すような軌跡描画画像S301 を生成する(ステップS9)。以上のように、2種類のオブジェクトJ202 およびJ203 が描画されることにより、まず、ドライバは、予測軌跡が描かれた上方視点画像S203 を見ることにより、車両Vusr のこれからの軌跡を視認できるので、より直感的に前述の接触判定を行うことができる。また、ドライバは、相対的に広範囲の様子を表す下方視点画像S202 上の予測軌跡を見ることにより、車両Vusr が駐車スペースに納まるかどうかをいち早く確認することができる。なお、ステップS9では、下方視点画像S202 のみにオブジェクトJ202 が描かれても良いし、上方視点画像S203 のみにオブジェクトJ203 が描かれても良い。
【0045】
次に、CPU7は、RAM9上の軌跡描画画像S301 を表示装置4に転送する(ステップS10)。表示装置4は、受信軌跡描画画像S301 を表示して、ドライバに見せる。以上の軌跡描画画像S301 が表示されることにより、ドライバには、互いに異なる性質の下方視点画像S202 および上方視点画像S203 が同時に提供される。その結果、本運転支援装置Uast1は、以下のような技術的効果を奏する。まず、上方視点画像S203 は、前述のように車両Vusr の後方領域R12を真上から見た画像であるから、ドライバは、自分の視線を当該上方視点画像S203 に合わせれば、前述の接触判定を容易に行うことができ、さらには、車両Vusr と駐車スペースの白線との位置関係を容易に把握できる。また、下方視点画像S202 は、相対的に広範囲の様子を表す。さらに、下方視点画像S202 には、範囲R202 内にある立体物がほとんど変形することなく映る。以上のことから、ドライバは、自分の視線を、軌跡描画画像S301 を構成する下方視点画像S202 に合わせれば、車両Vusr の後方の様子を広い範囲にわたって正確に確認することができる。以上のように、本運転支援装置Uast1によれば、ドライバは、必要に応じて、下方視点画像S202 および上方視点画像S203 を使い分けることにより、車両Vusr の運転操作が飛躍的に容易になる。
【0046】
ステップS10の次に、CPU7は、図8の処理を終了するか否かを判断する(ステップS11)。終了判断の方法はいろいろあるが、その一例として、CPU7は、車両Vusr の速度が0になったか否かをチェックする。かかる速度が0であれば、CPU7は、車両Vusr が駐車し終わったとみなして、図8の処理を終了する。逆に0でなければ、新しい軌跡描画画像S301 を生成するために、ステップS1に戻る。
【0047】
なお、以上の実施形態では、ドライバが車両Vusr を後退させつつ駐車スペースに入れ
るような状況に向くように、撮像装置1および2は、車両Vusr の後端部分に固定されていた(図2(a)および(b)参照)。他にも、本運転支援装置Uast1は、ドライバが車両Vusr を後退させつつ駐車スペースから出す時にも利用することができる。
【0048】
また、車両Vusr の後端部分以外に、撮像装置は取り付けられていても良い。例えば、車両Vusr の前端部分、左端部分および/または右端部分に取り付けられていても良い。つまり、運転支援画像S201 には、車両Vusr の後方領域R12だけでなく、その前方領域、左方領域または右方領域の様子を表す画像から構成されていても良い。特に、上方視点画像S203 は、車両Vusr の全周囲方向の様子を表していても良い。
【0049】
また、以上の実施形態では、運転支援画像S201 は、車両Vusr の後方領域R12を表す下方視点画像S202 および上方視点画像S203 から構成されていた。しかし、これに限らず、例えば、運転支援画像S201 は、車両Vusr の左方領域の様子を表す下方視点画像S202 、およびその後方領域R12の様子を表す上方視点画像S203 から構成されていても良い。包括的に言えば、下方視点画像S202 および上方視点画像S203 が互いに相違する領域の様子を表すような運転支援画像S201 を、描画装置Urnd1は生成しても良い。さらに、運転支援画像S201 は、図10(a)および(b)に示すように、それぞれが互いに相違する領域の様子を表すような複数の下方視点画像S202 を含んでいても良い。図10(a)の例では、運転支援画像S201 は、2つの下方視点画像S202 を含む。一方の下方視点画像S202 は、運転支援画像S201 における左上方に合成されており、車両Vusr の左側後方の領域の様子を表す。他方は、運転支援画像S201 における右上方に合成されており、車両Vusr の右側後方の領域の様子を表す。また、図10(b)の例でも、運転支援画像S201 は、2つの下方視点画像S202 を含む。ただし、一方の下方視点画像S202 は、運転支援画像S201 における左下方に合成されており、車両Vusr の左側後方の領域の様子を表す。他方は、運転支援画像S201 における右下方に合成されており、車両Vusr の左側前方の領域の様子を表す。なお、図10(b)のような運転支援画像S201 を生成するには、少なくとも2つの撮像装置が車両Vusr の左側面に設置されることが必要である。
【0050】
また、以上の実施形態では、下方視点画像S202 は、撮影画像S101 およびS102 をつなぎ合わせることにより生成されていた。しかし、これに限らず、描画装置Urnd1は、撮影画像S101 およびS102 の双方から、部分的な画像を切り出し、切り出した画像同士をつなぎ合わせて、下方視点画像S202 を生成しても良い。さらに、描画装置Urnd1は、前述の視点変換処理を使って、撮像装置1および2の近傍に置かれた仮想カメラから、範囲R202 を見た時の様子を表す下方視点画像S202 を作成しても良い。他にも、車両Vusr のヘッドレストの近傍(つまり、ドライバの目の位置辺り)に置かれた仮想カメラから、範囲R202 を見た時の様子を表す下方視点画像S202 を作成するようにしても良い。以上の仮想カメラの視点は、請求項における第1の視点の他の例である。
【0051】
また、以上の実施形態では、車両Vusr の後方領域R12を撮影するために2台の撮像装置1および2を使っていた。しかし、これに限らず、そのレンズが広い視野角を有するのであれば、1台の撮像装置が後方領域R12を撮影するようにしても良い。
【0052】
また、以上の実施形態では、表示装置4に軌跡描画画像S301 が表示されていたが、これに限らず、運転支援画像S201 をそのまま表示装置4に表示するように、運転支援装置Uast1を構成しても良い。
【0053】
さらに、以上の実施形態では、プログラムPG1 は、ROM8に格納されていた。しかし、これに限らず、プログラムPG1 は、CD−ROMに代表される記録媒体に記録された状態で頒布されても良いし、インターネットに代表される通信ネットワークを通じて頒布されても良い。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る描画装置Urnd1を組み込んだ運転支援装置Uast1のハードウェア構成を示すブロック図である。
【図2】図1に示す撮像装置1および2を詳細に説明するための図である。
【図3】図1の撮像装置1により生成される撮影画像S101 の一例を示す図である。
【図4】図1のCPU7により生成される運転支援画像S201 の一例を示す図である。
【図5】図4に示す上方視点画像S203 を生成するために必要となる仮想カメラCv の位置を示す図である。
【図6】図4に示す上方視点画像S203 の欠点を説明するための図である。
【図7】図4に示す上方視点画像S203 に映る範囲R203 および下方視点画像S202 に映る範囲R202 を示す図である。
【図8】図1に示すプログラムPG1 に記述されているCPU7の処理手順を示すフローチャートである。
【図9】図8のステップS9で生成される軌跡描画画像S301 を示す図である。
【図10】CPU7により生成される運転支援画像S201 の他の例を示す図である。
【符号の説明】
1,2…撮像装置
3…操舵角センサ
4…表示装置
Urnd1…描画装置
7…CPU
8…ROM
9…RAM
Claims (15)
- 車両の運転を支援するための運転支援画像を生成する運転支援装置であって、
前記車両に設置された撮像装置により取り込まれた、車両の後退時にドライバが視認しづらい死角領域を含む後方領域が撮影された撮影画像を受け取る取得部と、
前記取得部が受け取った撮影画像に基づいて、前記車両の周囲における第1の範囲を、前記撮像装置が設置されている位置またはその近傍にある第1の視点から前記後方領域を見たときの様子を表す下方視点画像を生成する第1の画像生成部と、
前記取得部が受け取った撮影画像に対して視点変換処理を行って、前記車両の周囲において、前記第1の範囲より狭い、前記死角領域を含む第2の範囲を、前記撮像装置が設置されている位置及び前記第1の視点のそれぞれと異なり、かつ前記車両の上方に仮想的に設定された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成部と、
前記第1の画像生成部で生成された、前記後方領域を含む下方視点画像と、前記第2の画像生成部で生成された、前記死角領域を含む上方視点画像とを含む運転支援画像を生成する第3の画像生成部と、
前記第3の画像生成部で生成された前記運転支援画像を表示する表示部と
を備え、
前記第1の視点から前記車両の周囲を見るときの方向と路面とがなす第1の角度は、前記第2の視点から前記車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、
前記第1の範囲は、前記車両から第1の距離までの範囲であり、前記第2の範囲は、前記車両から第2の距離までの範囲であり、前記第2の距離は、前記第1の距離よりも小さくかつ前記路面上に障害物がないと想定される距離である、運転支援装置。 - 前記第1の視点は、前記撮像装置の近傍に予め設定されている仮想視点であって、
前記第1の画像生成部は、前記取得部が受け取った撮影画像に視点変換処理を行って、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像を生成する、請求項1に記載の運転支援装置。 - 前記第1の視点は、前記車両のドライバの目の位置近傍に予め設定されている仮想視点であって、
前記第1の画像生成部は、前記取得部が受け取った撮影画像に視点変換処理を行って、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像を生成する、請求項1に記載の運転支援装置。 - 前記第3の画像生成部は、前記第2の画像生成部で生成された上方視点画像を、運転支援画像において前記車両の運転席に近い側に配置する、請求項1に記載の運転支援装置。
- 前記第3の画像生成部は、前記第2の画像生成部で生成された上方視点画像を、運転支援画像における上部に配置する、請求項1に記載の運転支援装置。
- 前記車両に設置された操舵角センサにより検出された当該車両の操舵角に基づいて、前記車両がこれから辿ると想定される予測軌跡を導出する導出部と、
前記導出部により導出された予測軌跡を表すオブジェクトを、前記第3の画像生成部により生成された運転支援画像を構成する上方視点画像および/または下方視点画像に描画する軌跡描画部とをさらに備える、請求項1に記載の運転支援装置。 - 車両の運転を支援するための運転支援画像を生成する運転支援方法であって、
前記車両に設置された撮像装置により取り込まれた、車両の後退時にドライバが視認しづらい死角領域を含む後方領域が撮影された撮影画像を受け取る取得ステップと、
前記取得ステップで受け取られた撮影画像に基づいて、前記車両の周囲における第1の範囲を、前記撮像装置が設置されている位置またはその近傍にある第1の視点から前記後 方領域を見たときの様子を表す下方視点画像を生成する第1の画像生成ステップと、
前記取得ステップで受け取られた撮影画像に対して視点変換処理を行って、前記車両の周囲において、前記第1の範囲よりも狭い、前記死角領域を含む第2の範囲を、前記撮像装置が設置されている位置及び前記第1の視点のそれぞれと異なりかつ前記車両の上方に仮想的に設定された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成ステップと、
前記第1の画像生成ステップで生成された、前記後方領域を含む下方視点画像と、前記第2の画像生成ステップで生成された、前記死角領域を含む上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップと、
前記第3の画像生成ステップで生成された前記運転支援画像を表示する表示ステップと
を備え、
前記第1の視点から前記車両の周囲を見るときの方向と路面とがなす第1の角度は、前記第2の視点から前記車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、
前記第1の範囲は、前記車両から第1の距離までの範囲であり、前記第2の範囲は、前記車両から第2の距離までの範囲であり、前記第2の距離は、前記第1の距離よりも小さくかつ前記路面上に障害物がないと想定される距離である、運転支援方法。 - 前記第1の視点は、前記撮像装置の近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項7に記載の運転支援方法。 - 前記第1の視点は、前記車両のドライバの目の位置近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項7に記載の運転支援方法。 - 車両の運転を支援するための運転支援画像を生成するためのプログラムが記録された記録媒体であって、
前記車両に設置された撮像装置により取り込まれた、車両の後退時にドライバが視認しづらい死角領域を含む後方領域が撮影された撮影画像を受け取る取得ステップと、
前記取得ステップで受け取られた撮影画像に基づいて、前記車両の周囲における第1の範囲を、前記撮像装置が設置されている位置またはその近傍にある第1の視点から前記後方領域を見たときの様子を表す下方視点画像を生成する第1の画像生成ステップと、
前記取得ステップで受け取られた撮影画像に対して視点変換処理を行って、前記車両の周囲において、前記第1の範囲より狭い、前記死角領域を含む第2の範囲を、前記撮像装置が設置されている位置及び前記第1の視点のそれぞれと異なりかつ前記車両の上方に仮想的に設定された第2の視点から見たときの様子を表す上方視点画像を生成する第2の画像生成ステップと、
前記第1の画像生成ステップで生成された、前記後方領域を含む下方視点画像と、前記第2の画像生成ステップで生成された、前記死角領域を含む上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップと、
前記第3の画像生成ステップで生成された前記運転支援画像を表示する表示ステップと
を備え、
前記第1の視点から前記車両の周囲を見るときの方向と路面とがなす第1の角度は、前記第2の視点から前記車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、
前記第1の範囲は、前記車両から第1の距離までの範囲であり、前記第2の範囲は、前記車両から第2の距離までの範囲であり、前記第2の距離は、前記第1の距離よりも小さくかつ前記路面上に障害物がないと想定される距離である、プログラムが記録された記録媒体。 - 前記第1の視点は、前記撮像装置の近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項10に記載のプログラムが記録された記録媒体。 - 前記第1の視点は、前記車両のドライバの目の位置近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項10に記載のプログラムが記録された記録媒体。 - 車両の運転を支援するための運転支援画像を生成するためのプログラムであって、
前記車両に設置された撮像装置により取り込まれた、車両の後退時にドライバが視認しづらい死角領域を含む後方領域が撮影された撮影画像を受け取る取得ステップと、
前記取得ステップで受け取られた撮影画像に基づいて、前記車両の周囲における第1の範囲を、前記撮像装置が設置されている位置またはその近傍にある第1の視点から前記後方領域を見たときの様子を表す下方視点画像を生成する第1の画像生成ステップと、
前記取得ステップで受け取られた撮影画像に対して視点変換処理を行って、前記車両の周囲において、前記第1の範囲より狭い、前記死角領域を含む第2の範囲を、前記撮像装置が設置されている位置及び前記第1の視点のそれぞれと異なり、かつ前記車両の上方に仮想的に設定された第2の視点から見た前記車両の周囲の様子を表す上方視点画像を生成する第2の画像生成ステップと、
前記第1の画像生成ステップで生成された、前記後方領域を含む下方視点画像と、前記第2の画像生成ステップで生成された、前記死角領域を含む上方視点画像とを含む運転支援画像を生成する第3の画像生成ステップと、
前記第3の画像生成ステップで生成された前記運転支援画像を表示する表示ステップと
を備え、
前記第1の視点から前記車両の周囲を見るときの方向と路面とがなす第1の角度は、前記第2の視点から前記車両の周囲を見るときの方向と当該路面とがなす第2の角度よりも小さく、さらに、
前記第1の範囲は、前記車両から第1の距離までの範囲であり、前記第2の範囲は、前記車両から第2の距離までの範囲であり、前記第2の距離は、前記第1の距離よりも小さくかつ前記路面上に障害物がないと考え得る距離である、プログラム。 - 前記第1の視点は、前記撮像装置の近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項13に記載のプログラム。 - 前記第1の視点は、前記車両のドライバの目の位置近傍に予め設定されている仮想視点であって、
前記第1の画像生成ステップでは、前記取得ステップで受け取られた撮影画像に視点変換処理が行われ、前記仮想視点から見た前記車両の周囲の様子を表す下方視点画像が生成される、請求項13に記載のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001193533A JP3830025B2 (ja) | 2000-06-30 | 2001-06-26 | 描画装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000-199515 | 2000-06-30 | ||
JP2000199515 | 2000-06-30 | ||
JP2001193533A JP3830025B2 (ja) | 2000-06-30 | 2001-06-26 | 描画装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002083284A JP2002083284A (ja) | 2002-03-22 |
JP3830025B2 true JP3830025B2 (ja) | 2006-10-04 |
Family
ID=26595168
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001193533A Expired - Fee Related JP3830025B2 (ja) | 2000-06-30 | 2001-06-26 | 描画装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3830025B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008087706A1 (ja) * | 2007-01-16 | 2008-07-24 | Pioneer Corporation | 車両用表示装置、車両用表示方法及び車両用表示プログラム |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050002545A1 (en) * | 2001-10-10 | 2005-01-06 | Nobuhiko Yasui | Image processor |
JP2005242606A (ja) * | 2004-02-26 | 2005-09-08 | Olympus Corp | 画像生成装置、画像生成プログラム、及び画像生成方法 |
WO2005107261A1 (ja) * | 2004-04-27 | 2005-11-10 | Matsushita Electric Industrial Co., Ltd. | 車両周囲表示装置 |
JP4907883B2 (ja) * | 2005-03-09 | 2012-04-04 | 株式会社東芝 | 車両周辺画像表示装置および車両周辺画像表示方法 |
WO2012017560A1 (ja) * | 2010-08-06 | 2012-02-09 | 富士通株式会社 | 画像処理装置および画像処理プログラム |
JP7000980B2 (ja) * | 2018-05-08 | 2022-01-19 | トヨタ自動車株式会社 | 駐車支援装置 |
CN111314523B (zh) | 2020-03-23 | 2021-05-14 | 维沃移动通信有限公司 | 电子设备及其功能模块 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2696516B2 (ja) * | 1987-11-09 | 1998-01-14 | 三菱自動車工業株式会社 | 車輌の安全監視装置 |
JPH06953U (ja) * | 1992-06-09 | 1994-01-11 | 市光工業株式会社 | 自動車用後方視認装置 |
JP3575279B2 (ja) * | 1998-05-22 | 2004-10-13 | アイシン精機株式会社 | 駐車補助装置 |
EP2259220A3 (en) * | 1998-07-31 | 2012-09-26 | Panasonic Corporation | Method and apparatus for displaying image |
-
2001
- 2001-06-26 JP JP2001193533A patent/JP3830025B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008087706A1 (ja) * | 2007-01-16 | 2008-07-24 | Pioneer Corporation | 車両用表示装置、車両用表示方法及び車両用表示プログラム |
JPWO2008087706A1 (ja) * | 2007-01-16 | 2010-05-06 | パイオニア株式会社 | 車両用表示装置、車両用表示方法及び車両用表示プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2002083284A (ja) | 2002-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6369701B1 (en) | Rendering device for generating a drive assistant image for drive assistance | |
US9050931B2 (en) | Vehicle periphery monitoring system | |
JP4596978B2 (ja) | 運転支援システム | |
JP5341789B2 (ja) | パラメータ取得装置、パラメータ取得システム、パラメータ取得方法、及び、プログラム | |
JP5858650B2 (ja) | 画像生成装置、画像表示システム、及び、画像生成方法 | |
WO2003107273A1 (ja) | 運転支援装置 | |
JP6548900B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP2005311868A (ja) | 車両周辺視認装置 | |
JP2009017462A (ja) | 運転支援システム及び車両 | |
JP5914114B2 (ja) | 駐車支援装置、及び駐車支援方法 | |
CN111095921B (zh) | 显示控制装置 | |
EP3967554B1 (en) | Vehicular display system | |
JP4927514B2 (ja) | 運転支援装置 | |
JP3830025B2 (ja) | 描画装置 | |
JP7000383B2 (ja) | 画像処理装置および画像処理方法 | |
JP5020621B2 (ja) | 運転支援装置 | |
JP6130118B2 (ja) | 画像処理システム、画像処理装置、画像処理方法、及び、プログラム | |
JP5226621B2 (ja) | 車両用画像表示装置 | |
JP2008213647A (ja) | 駐車支援方法及び駐車支援装置 | |
JP3620647B2 (ja) | 描画装置 | |
JP2006279511A (ja) | 周辺監視システム | |
JP7217090B2 (ja) | 情報提供装置及び情報提供方法 | |
JP2007028442A (ja) | 画像表示システム | |
JP3625059B2 (ja) | 描画装置 | |
JP4310987B2 (ja) | 移動体周辺監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040310 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20040315 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20040423 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060612 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060706 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |