JP3625059B2 - 描画装置 - Google Patents
描画装置 Download PDFInfo
- Publication number
- JP3625059B2 JP3625059B2 JP2001199978A JP2001199978A JP3625059B2 JP 3625059 B2 JP3625059 B2 JP 3625059B2 JP 2001199978 A JP2001199978 A JP 2001199978A JP 2001199978 A JP2001199978 A JP 2001199978A JP 3625059 B2 JP3625059 B2 JP 3625059B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- steering angle
- vehicle
- pixel
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、描画装置に関し、より特定的には、運転支援装置に組み込むことが可能な描画装置に関する。さらに詳しく述べると、車両に固定される撮像装置により取り込まれた撮影画像を基礎として、車両の周辺の状況を表す運転支援画像を生成する描画装置に関する。
【0002】
【従来の技術】
従来の運転支援装置の一つが、特開平11−78692号公報に開示されている。図18は、運転支援装置の大略的な構成を示すブロック図である。図18において、運転支援装置は、車両Vurに設置されており、撮像装置1001〜1008と、画像メモリ1009〜1016と、画像処理部1017と、表示装置1018とを備えている。
【0003】
各撮像装置1001〜1008は、車両Vurの全周囲方向において、互いに異なる方向を撮影して、撮影画像S101 〜S108 を生成する。画像メモリ1009〜1016は、撮像装置1001〜1008の撮影画像S101 〜S108 を格納する。画像処理部1017は、画像メモリ1009〜1016の内、予め定められたものに格納されている複数の撮影画像から必要な部分を切り出した後、それらを1つに合成して、周辺画像S200 (図19参照)を生成する。表示装置1018は、画像処理部1017で生成された周辺画像S200 を表示する。
【0004】
ここで、図19は、上述の画像処理部1017により生成される周辺画像S200 の一例を示している。図19において、周辺画像S200 は、撮影画像S106 〜S108 から切り出された部分的な画像S106’〜S108’からなる。部分画像S108’は、周辺画像S200 において、左側の領域R2001に描画される。また、部分画像S107’およびS106’は、周辺画像S200 における中央の領域R2002および右側の領域R2003に描画される。ここで、以下の説明の便宜のため、左側領域R2001と中央領域R2002との境界を合成境界B2001と称し、図19中の点線で示されている。
【0005】
また、従来の運転支援装置の他の例として、国際公開WO00/07373号公報に開示されている車両周囲監視装置がある。車両周囲監視装置において、複数の撮像装置には、互いに異なる撮影領域が割り当てられる。ここで、撮影領域とは車両の周辺の一部分であって、すべての撮影領域で、車両の全周囲方向がカバーされる。以上の各撮像装置は、自身の撮影領域の状況を表す画像(以下、撮影画像と称する)を取り込む。
【0006】
さらに、車両周囲監視装置では、各撮像装置により取り込まれた撮影画像を基礎として、車両の周辺を直上から見た1つの周辺画像が生成される。より具体的には、まず、各撮影画像は、各撮像装置から見た撮影領域の様子を表すので、視点変換処理が行われ、それによって、車両周辺を真上から見下ろした周辺画像を生成することが可能となる。上記視点変換処理では、車両周囲監視装置の処理負担を軽くするため、各撮影画像に映る立体物は全て路面上に存在すると仮定される。そのため、それぞれの撮像装置を視点として、立体物を路面に投影して、空間データが作成される。以上の空間データが周辺画像の生成時に使われる。以上の空間データを基礎として、複数の撮影画像が1つの周辺画像に合成される。
【0007】
【発明が解決しようとする課題】
次に、上述の2つの運転支援装置が抱えている問題点について説明する。まず、上記公開特許公報に開示された運転支援装置に関しては、車両Vurの周辺には様々な立体物(代表的には、壁や他車両)が存在し、周辺画像S200 において、例えば、合成境界B2001上に乗ってしまう場合がある。ここで、図19には、立体物の一例として、壁W200 が描かれている。以上のような壁W200 は、撮影画像S107 およびS108 に映る。しかしながら、上述の撮像装置1007および1008の設置位置は異なるので、撮影画像S107 およびS108 における壁W200 の見え方は相違する。この見え方の相違により、壁W200 は、周辺画像S200 における合成境界B2001上で不連続な形状、つまり、当該合成領域B2001を境に歪んだ状態で描画される。その結果、ドライバに違和感を与える周辺画像S200 が表示装置1018上に表示されるという問題点があった。
【0008】
また、上記国際公開公報に開示された車両周囲監視装置に関しては、車両の周辺に存在する立体物が周辺画像上に正しく描かれない場合があるという問題点があった。より具体的には、今、図20(a)に示すように、路面Frd上に逆「L」字型の断面を有する立体物Bがあると想定する。かかる想定下では、上述の視点変換処理において、立体物Bは、複数の撮像装置2001および2002を視点として路面Frdに投影される。ここで、図20(b)は、撮像装置2001および2002から見て路面Frdに投影された立体物Bは仮想立体物B' およびB" とを真上から見た状態を示している。以上のことから、視点変換処理において、撮像装置2001から得られる撮影画像から生成される空間データは、立体物Bとして、仮想立体物B' を含んでいるが、撮影画像2002から得られる空間データは、仮想立体物B" を含んでいる。
【0009】
車両周囲監視装置は、以上の2つの空間データを使って、1つの周辺画像を生成する。しかしながら、2つの空間データは、互いに異なる形状の仮想立体物B’ およびB” を含んでいるので、車両周囲監視装置は、立体物Bを周辺画像上に正しく描けない場合がある。その結果、ドライバに違和感を与える周辺画像を、車両周囲監視装置は生成してしまうという問題点があった。
【0010】
それゆえに、本発明は、ドライバに違和感を与えにくい運転支援画像を生成する描画装置を提供することを目的とする。
【0011】
【課題を解決するための手段および発明の効果】
上記目的を達成するために、本願の第1の発明は、車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成する描画装置であって、車両の周辺において互いに重複する重複領域を撮像し、車両に固定される複数の撮像装置により撮像された撮影画像を取得する画像取得部と、車両の操舵角を検出するために車両に固定される操舵角センサから、車両の現在の操舵角を取得する操舵角取得部と、画像取得部で取得された複数の撮影画像から、操舵角取得部で取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、運転支援画像を生成する画像処理部とを備え、画像処理部は、操舵角センサにより取得された操舵角に基づいて決定されかつ車両が辿ると想定される予測軌跡が重複領域を横切る場合、所定の仮想線を基準として、画像取得部で取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、運転支援画像を生成し、所定の仮想線は、予測軌跡、予測軌跡から所定量だけ平行移動された線、及び予測軌跡の弦を含むグループから選ばれた1つである。
【0012】
一般的に、ドライバは、車両の周辺に存在する立体物を避けて、当該車両を運転する。そのため、車両の進路上に立体物が存在する可能性は低く、当該進路から離れた位置に存在する可能性の方がはるかに高い。また、車両がこれから辿る進路は、操舵角により予測することができる。以上の観点から、第1の発明のように、操舵角に応じて、複数の撮影画像から画素を選択することにより、立体物が運転支援画像における合成境界に乗る確率を低減することができる。これによって、ドライバに違和感を与えにくい運転支援画像を生成する描画装置を提供することができる。
【0013】
また、第2の発明は第1の発明に従属しており、描画装置はさらに、運転支援画像の画素毎に、撮影画像の画素が記述されたマッピングテーブルを格納するテーブル格納部を備えている。ここで、マッピングテーブルにおいて、運転支援画像において重複領域に含まれる画素には、操舵角取得部により取得される操舵角に応じて、撮影画像の画素が複数個記述されている。画像処理部は、テーブル格納部に格納されるマッピングテーブルに従って、画像取得部で取得された各撮影画像から画素を選択する。
【0014】
第2の発明によれば、マッピングテーブルには、操舵角に応じて、撮影画像の画素が複数個記述されている。そのため、画像処理部は、運転支援画像における1つの画素の値を決定する際に、操舵角に応じて、異なる撮影画像から画素を選択することができる。これによって、立体物が運転支援画像における合成境界に乗る確率を低減することができ、ドライバに違和感を与えにくい運転支援画像を生成する描画装置を提供することができる。
【0015】
第3の発明は第1の発明に従属しており、描画装置はさらに、操舵角取得部により取得された操舵角に基づいて、車両が辿ると想定される軌跡を導出する軌跡導出部と、軌跡導出部により導出された軌跡を、画像処理部で生成された運転支援画像に描画する軌跡描画部とを備えている。
【0016】
第4の発明は第1の発明に従属しており、描画装置はさらに、車両を表す車両画像を格納する画像格納部と、画像格納部に格納された車両画像を、画像処理部で生成された運転支援画像に描画する車両描画部とを備えている。
【0017】
第3および第4の発明によれば、運転支援画像に、車両が辿ると想定される軌跡および車両画像が運転支援画像に描画されるので、ドライバは、自車両が立体物にぶつかるかどうかを判定し易くなる。
【0018】
第5の発明は第1の発明に従属しており、画像処理部は、予め定められた仮想カメラから、車両の周辺を見たときの運転支援画像を生成する。
第5の発明によれば、さらにドライバにとって見やすい運転支援画像をドライバに提供することができる。
【0019】
第6の発明は、車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成する描画方法であって、車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、描画方法は、各撮像装置により撮像された撮影画像を取得する画像取得ステップと、操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、画像取得ステップで取得された複数の撮影画像から、操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、運転支援画像を生成する画像処理ステップとを備え、画像処理ステップは、操舵角取得ステップにより取得された操舵角に基づいて決定されかつ車両が辿ると想定される予測軌跡が重複領域を横切る場合、所定の仮想線を基準として、画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、運転支援画像を生成し、所定の仮想線は、予測軌跡、予測軌跡から所定量だけ平行移動された線、及び予測軌跡の弦を含むグループから選ばれた1つである。
【0020】
第7の発明は第6の発明に従属しており、描画方法は、運転支援画像の画素毎に、撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備えている。マッピングテーブルにおいて、運転支援画像において重複領域に含まれる画素には、操舵角取得部により取得される操舵角に応じて、撮影画像の画素が複数個記述されている。画像処理ステップでは、テーブル格納部に格納されるマッピングテーブルに従って、画像取得部で取得された各撮影画像から画素が選択される。
【0021】
第8の発明は、車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成するためのプログラムを記録した記録媒体であって、車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、プログラムは、各撮像装置により撮像された撮影画像を取得する画像取得ステップと、操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、画像取得ステップで取得された複数の撮影画像から、操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、運転支援画像を生成する画像処理ステップとを備え、画像処理ステップは、操舵角取得ステップにより取得された操舵角に基づいて決定されかつ車両が辿ると想定される予測軌跡が重複領域を横切る場合、所定の仮想線を基準として、画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、運転支援画像を生成し、所定の仮想線は、予測軌跡、予測軌跡から所定量だけ平行移動された線、及び予測軌跡の弦を含むグループから選ばれた1つである。
【0022】
第9の発明は第8の発明に従属しており、上記プログラムは、運転支援画像の画素毎に、撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備えている。マッピングテーブルにおいて、運転支援画像において重複領域に含まれる画素には、操舵角取得部により取得される操舵角に応じて、撮影画像の画素が複数個記述されている。画像処理ステップでは、テーブル格納部に格納されるマッピングテーブルに従って、画像取得部で取得された各撮影画像から画素が選択される。
【0023】
第10の発明は、車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成するためのプログラムであって、車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、プログラムは、各撮像装置により撮像された撮影画像を取得する画像取得ステップと、操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、画像取得ステップで取得された複数の撮影画像から、操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、運転支援画像を生成する画像処理ステップとを備え、画像処理ステップは、操舵角取得ステップにより取得された操舵角に基づいて決定されかつ車両が辿ると想定される予測軌跡が重複領域を横切る場合、所定の仮想線を基準として、画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、運転支援画像を生成し、所定の仮想線は、予測軌跡、予測軌跡から所定量だけ平行移動された線、及び予測軌跡の弦を含むグループから選ばれた1つである。
【0024】
第11の発明は第10の発明に従属しており、プログラムは、運転支援画像の画素毎に、撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備えている。マッピングテーブルにおいて、運転支援画像において重複領域に含まれる画素には、操舵角取得部により取得される操舵角に応じて、撮影画像の画素が複数個記述されている。画像処理ステップでは、テーブル格納部に格納されるマッピングテーブルに従って、画像取得部で取得された各撮影画像から画素が選択される。
【0025】
【発明の実施の形態】
図1は、本発明の一実施形態に係る描画装置Urnd1を組み込んだ運転支援装置Uast1のハードウェア構成を示すブロック図である。図1において、運転支援装置Uast1は、車両Vur(図2参照)に設置され、2台の撮像装置1および2と、操舵角センサ3と、表示装置4と、描画装置Urnd1とを備えている。
【0026】
ここで、図2は、車両Vurの上面図であり、以降の運転支援装置Uast1の説明で必要となる縦中心面Flmおよび横基準面Ftrを説明するための図である。図2において、縦中心面Flmは、車両Vurが有する2つの前輪Wfrt1およびWfrt2の回転中心を結ぶ線分Lfrt の中点と、両後輪Wrr1 およびWrr2 の回転中心を結ぶ線分Lrrの中点とを通る鉛直面である。横基準面Ftrは、少なくとも、縦中心面Flmに直交し、かつ車両Vurを横切る鉛直面である。本実施形態では、便宜上、横基準面Ftrは、2つのドアミラーMdr1 およびMdr2 を通るとする。
【0027】
上述の撮像装置1および2はそれぞれ、図3に示すように、90度を超える視野角θv を有する。運転支援装置Uast1における実用性およびコストを考慮して、視野角θv は、好ましくは、110度〜130度である。なお、撮像装置1および2の間で視野角θv は異なっていても良いが、本実施形態では便宜上、双方は同一の視野角θv を有するとする。また、以降の説明では、撮像装置1および2の視野角θv の範囲内を視野Fv1およびFv2と称する。
【0028】
また、撮像装置1および2は、車両Vurの周囲に固定される。まず、撮像装置1は、図4に示すように、車両Vurの後端近傍(例えば、リアバンパー)に固定される。より具体的には、撮像装置1は、自身のレンズ101の頂点が、上述の縦中心面Flmから、予め定められた距離Δd1だけ右方向に離れて位置するように固定される。以上のレンズ101の頂点から、撮像装置1の光軸Apt1 は、車両Vurの左側後方の領域に向かい、路面Frdと角度φ1 で交差する。これによって、路面Frdと視野Fv1(図3参照)との交差面Fc1ができる。撮像装置1は、以上の交差面Fc1の様子を撮影して、図5に示すような撮影画像Scpt1を生成する。図5において、撮影画像Scpt1は、予め定められた個数の画素Pcpt1からなる。各画素Pcpt1の位置は、Ua 軸およびVa 軸を有する第1の視平面座標系における座標値(ua ,va )により特定される。なお、図5には、代表的に、1つの画素Pcpt1のみが図示されている。
【0029】
ここで、以上の角度φ1 の好ましい値について説明する。もし、角度φ1 が0度に近ければ、撮像装置1は、車両Vurの遠くしか撮影できない。つまり、撮像装置1は、路面Frdにおいて車両Vurの後端直下近傍、つまりドライバの死角領域を撮影できなくなる。ところで、一般的に、ドライバは、車両Vurの進路を遮る障害物を避けて運転するので、当該障害物は、当該車両Vurからある程度離れて存在する。したがって、上述とは逆に、角度φ1 が90度に近ければ、路面Frdにおいて車両Vurから離れた領域を、撮像装置1は撮影できなくなる。言い換えれば、角度φ1 が90度に近ければ、撮影画像Scpt1には障害物が映りにくくなる。以上の2点に加え、路面Frdからのレンズ101の高さ、および視野角θv を考慮して、角度φ1 は適切な値に設定される。
【0030】
次に、上述の光軸Apt1 の好ましい方向について説明する。ここで、図6は、図4に示すレンズ101の近傍を真上から見下ろした時の図である。図6(a)には、上述の視野Fv1の他に、ボディラインLurと、成分Cptとが描かれている。ボディラインLurは、車両Vurの後端のものであり、便宜上、本実施形態では、曲線ではなく、直線と仮定する。成分Cptは、上述の光軸Apt1 (図示せず)の方向を示すベクトルの水平方向成分である。以上の成分CptとボディラインLurとがなす角度θlcがθv /2以下になるように、光軸Apt1 の方向は設定される。その結果、視野Fv1がボディラインLurにかかるか、沿うかするようになる。これによって、撮像装置1は、路面Frdにおいて車両Vurの後端直下近傍(ドライバの死角領域)を確実に撮影できるようになる。つまり、もし、上述の角度θlcがθv /2を超えた場合、図6(b)に示すように、車両Vurの後端直下近傍において撮像装置1により撮影されない領域Rncp (斜線部分参照)ができてしまうので、好ましくない。
【0031】
また、撮像装置2は、図7に示すように、車両Vurの左側面(例えば、左側のドアミラー近傍)に固定される。より具体的には、撮像装置2は、好ましくは、自身のレンズ201の頂点が、上述の横基準面Ftrから、予め定められた距離Δd2だけ車両Vurの前方方向に離れて位置するように固定される。以上のレンズ201の頂点から、撮像装置2の光軸Apt2 は、車両Vurの左側後方の領域に向かい、路面Frdと角度φ2 で交差する。これによって、路面Frdと視野Fv2(図3参照)との交差面Fc2ができる。撮像装置2は、交差面Fc2の様子を撮影して、撮影画像Scpt2を生成する。ここで、撮影画像Scpt2は、撮影画像Scpt1と比較すると、交差面Fc2の様子を表す点でのみ相違するので、その図示を省略する。また、撮影画像Scpt2を構成する画素を、以降の説明では、画素Pcpt2と称する。各画素Pcpt2もまた、前述の座標値(ua ,va )により特定される。
【0032】
ここで、角度φ2 の好ましい値は、角度φ1 と同様に、撮像装置2が車両Vurの左端直下近傍を撮影でき、さらに、当該車両Vurからある程度離れて位置する障害物を撮影できるように設定される。他にも、角度φ2 の好ましい値には、路面Frdからのレンズ201の高さ、および視野角θv が考慮される。
【0033】
また、上述の光軸Apt2 の好ましい方向は、光軸Apt1 のそれと同様に、視野Fv2が車両Vurの左側面にかかるか、沿うかするように設定され、これによって、撮像装置2は、路面Frdにおいて車両Vurの左側面直下近傍(ドライバの死角領域)を確実に撮影できるようになる。
【0034】
上述したように、撮像装置1および2の視野角θv は90度を超えるので、図8に示すように、交差面Fc1(右下がりの斜線部分参照)は、交差面Fc2(左下がりの斜線部分参照)と部分的に重なり、重複領域Rr1(格子状の部分参照)が形成される。重複領域Rr1の光景は、撮影画像Scpt1およびScpt2の双方に映る。なお、以降の説明では、交差面Fc1において、重複領域Rr1を除いた領域を、非重複領域Rn1と称する。同様に、非重複領域Rn2は、交差面Fc2において、交差面Fc1と重なっていない領域である。
【0035】
運転支援装置Uast1は、後で説明するように、描画領域Rrnd を、真上から見たときの様子を表す運転支援画像Sast (図10参照)を生成する。描画領域Rrnd は、車両Vurの周辺の路面Frdにおいて、縦中心面Flmと、横基準面Ftrと、2つの辺L1st およびL2nd とで囲まれる領域である。辺L1st は、横基準面Ftrに直交し、かつ縦中心面Flmに平行である。また、辺L1st は、縦中心面Flmから予め定められた距離Δd3だけ離れている。辺L2nd は、横基準面Ftrに平行であり、かつ縦中心面Flmに直交する。辺L2nd は、横基準面Ftrから予め定められた距離Δd4 だけ離れている。ここで、距離Δd3およびΔd4は、運転支援装置Uast1の設計仕様に応じて適切な値に設定され、例えば、4mおよび7mに選ばれる。以上のような距離Δd3およびΔd4を選ぶことにより、描画領域Rrnd には、上述の重複領域Rr1 ならびに非重複領域Rn1およびRn2の一部を含むこととなる。
【0036】
また、図1において、操舵角センサ3は、実車両Vurの操舵角ρを検出して、プロセッサ1に送信する。操舵角ρとは、初期位置を基準として、ステアリングホイールが回転した角度を意味する。初期位置は、どこに選ばれても良いが、好ましくは、車両Vurのステアリングホイールが切られていない状態、つまり、車両Vurが直進姿勢にある状態におけるステアリングホイールの位置を意味する。また、本実施形態では、ステアリングホイールが左方向に切られた時、つまり、車両Vurが後退しながら左方向に旋回する時、正の値の操舵角ρが操舵角センサ3により検出される。なお、ステアリングホイールが逆方向(右方向)に切られた時、操舵角ρは負の値になるが、本実施形態では、操舵角ρが負の場合については、実施形態の末尾で言及する。
【0037】
また、図1において、表示装置4は、典型的には液晶ディスプレイである。
また、描画装置Urnd1は、CPU7と、ROM8と、RAM9とを含んでいる。CPU7は、上述の撮影画像Scpt1およびScpt2に画像処理を行って、1フレームの運転支援画像Sast を作成する。
【0038】
RAM9は、CPU7が画像処理を行う際に、作業領域として使用される。また、RAM9には、図9に示すように、画像バッファIBcpt1およびIBcpt2と、フレームメモリFMast とが予約される。画像バッファIBcpt1は、撮像装置1に固定的に割り当てられており、撮影画像Scpt1(図5参照)を格納する。つまり、画像バッファIBcpt1は、前述の第1の視平面座標系の座標値(ua ,va )毎に、撮影画像Scpt1の各画素Pcpt1の値を格納できるように構成される。画像バッファIBcpt2は、撮像装置2に割り当てられており、撮影画像Scpt2を格納できるように、画像バッファIBcpt1と同様に構成される。
また、以上の画像バッファIBcpt1およびIBcpt2には、互いに重複しない識別番号IDが割り当てられる。本実施形態では、画像バッファIBcpt1およびIBcpt2には識別番号IDとして#1および#2が割り当てられるとして、以降の説明を続ける。なお、以上の画像バッファIBcpt1およびIBcpt2は、撮像装置1および2に割り当てられるので、識別番号IDとしての#1および#2は当該撮像装置1および2も特定する。
【0039】
また、運転支援画像Sast は、図10に示すように、車両Vurの左後方の様子を表し、より具体的には、図11に示すように、車両Vurの真上に仮想的に置かれた仮想カメラCv から、描画領域Rrnd を見た時の様子を表す。以上の運転支援画像Sast により、車両Vurの左後方にできるドライバの死角領域の様子や、当該車両Vurの左後方に存在する障害物の有無がドライバに示される。また、図10に示すように、運転支援画像Sast においては、第2の視平面座標系のUb 軸方向にNu 個の画素Pstが並び、さらに、そのVb 軸方向にNv 個の画素Pstが並んでいる。つまり、運転支援画像Sast は、合計(Nu ×Nv )個の画素Pstから構成される。各画素Pstは、座標値(ub ,vb )により特定される。ここで、座標値ub は、1≦ub ≦Nu を満たす自然数であり、座標値vb は、1≦vb ≦Nv を満たす自然数である。
【0040】
また、本実施形態では、好ましい一例として、運転支援画像Sast には、図10に示すように、車両Vurを真上から見た時の姿を表す車両画像Svhc が合成される。これにより、運転支援画像Sast が表示された時に、ドライバは、車両Vurから障害物への距離感をつかむことができる。以上のような車両画像Svhc の合成位置Pvyは、上述の第2の視平面座標系において、図示しない少なくとも1つの座標値(uvy,vvy)で特定される。ここで、Ub 軸上の座標値uvyは、1≦uvy≦Nu を満たし、Vb 軸上の座標値vvyは、1≦vvy≦Nu を満たす。
【0041】
さらに、運転支援画像Sast には、好ましくは、図10に示すように、後で説明するような車両Vurの左後輪の予測軌跡Tvhc が描画される。ここで、予測軌跡Tvhc は、操舵角センサ3により検出される操舵角ρを基礎として、アッカーマンモデルに代表される手法で導出され、ドライバが当該操舵角ρを保った場合に、車両Vurの左後輪が今から辿ると想定される進路を意味する。以上のような予測軌跡Tvhc により、運転支援画像Sast が表示された時、ドライバは、車両Vurの左後部がその周囲に存在する障害物に接触するか否かを判断し易くなる。
【0042】
フレームメモリFMast は、以上の運転支援画像Sast を作成するために使用され、上述の描画領域Rrnd を構成する(Nu ×Nv )個の画素Pstの値を格納できるように構成される。
【0043】
また、図1において、ROM8は、プログラムPG1 と、車両画像Svhc と、マッピングテーブルTmpとを格納している。プログラムPG1 には、CPU7が運転支援画像Sast を生成するための処理手順が記述されている。車両画像Svhc は、前述した通り、車両Vurを真上から見た時の姿を表す画像である。
【0044】
次に、マッピングテーブルTmpについて説明する。CPU7は、上述の画像処理において、撮影画像Scpt1およびScpt2からいくつかの画素Pcpt1およびPcpt2を選択する。かかる選択時に、マッピングテーブルTmpが参照される。例えば、図12中の矢印A1 で示すように、撮影画像Scpt1における座標値(ua1,va1)の画素Pcpt1の値から、運転支援画像Sast における座標値(ub1,vb1)の画素Pstの値が決定される。
【0045】
また、マッピングテーブルTmpに関し注意を要するのは、撮影画像Scpt1と運転支援画像Sast とでは互いに視点が異なる。つまり、撮影画像Scpt1の視点は、撮像装置1のレンズ101の位置であり、運転支援画像Sast のそれは前述の仮想カメラCv (図11参照)のレンズ位置である。そのため、運転支援画像Sast の生成時には視点変換処理が行われる必要があるが、運転支援装置Uast1では、国際公開WO00/07373号公報に開示されている技術を応用する。その結果、マッピングテーブルTmpを参照して、いくつかの画素Pcpt1およびPcpt2を選択すると同時に、上述の視点変換処理が行われる。
【0046】
マッピングテーブルTmpには、運転支援画像Sast の各画素Pstの値が、撮影画像Scpt1およびScpt2を構成するどの画素Pcpt1およびPcpt2の値から決定されるかが記述され、図13に示すように、(Nu ×Nv )個の単位レコードRntが並んでいる。各単位レコードRntは、運転支援画像Sast が有する各画素Pstに一意に割り当てられ、レコードタイプTrcd と、第2の視平面座標系の座標値(ub ,vb )と、識別番号IDと、第1の視平面座標系の座標値(ua ,va )と、操舵角の範囲Rrng と、ブレンド比Rbrd とからなる。
【0047】
レコードタイプTrcd は、自身を含む単位レコードRntの種類を、番号「1」および「2」のいずれかを示す。レコードタイプTrcd の番号「1」は、上述の非重複領域Rn1およびRn2を特定するために使用され、番号「2」は重複領域Rr1を特定するために使用される。つまり、マッピングテーブルTmpにおいて、非重複領域Rn1およびRn2を構成する画素Pstに割り当てられた単位レコードRntには、番号「1」が記述される。一方、重複領域Rr1の画素Pstに割り当てられた単位レコードRntには、番号「2」が記述される。
【0048】
座標値(ub ,vb )は、これを含む単位レコードRntがどの画素Pstに割り当てられているかを示す。例えば、座標値(501,109)を含むものは、Ub 軸方向に501番目で、Vb 軸方向に109番目の画素Pstに割り当てられる。また、座標値(324,831)を含むものは、Ub 軸方向に324番目で、Vb 軸方向に831番目の画素Pstに割り当てられる。
【0049】
また、識別番号IDは、前述した通り、#1および#2のいずれかであり、撮像装置1および2を特定する。同じ単位レコードRntに記述される座標値(ub ,vb )と識別番号IDとの関係は、以下のようになる。つまり、座標値(ub ,vb )の画素Pstの値は、識別番号IDにより特定される撮影画像Scpt1またはScpt2を使って決定される。ここで、識別番号IDに関しては、以下の点に注意を要する。つまり、単位レコードRntにおいて、レコードタイプTrcd として番号「1」が記述される場合には、当該単位レコードRntには、1つの識別番号IDしか記述されない。逆に、レコードタイプTrcd が番号「2」の場合には、単位レコードRntには、2つの識別番号IDが記述される。
【0050】
例えば、上述の座標値(501,109)が記述される単位レコードRntには、識別番号IDとして#2が記述されている。したがって、座標値(501,109)で特定される画素Pstの値は、画素Pcpt2の値から決定される。また、上述の座標値(324,831)が記述される単位レコードRntには、識別番号IDとして#1および#2が記述されている。したがって、座標値(324,831)の画素Pstの値は、画素Pcpt1および/またはPcpt2から決定される。
【0051】
また、座標値(ua ,va )は、前述したように、撮影画像Scpt1およびScpt2における画素Pcpt1およびPcpt2を特定する。同じ単位レコードRntに記述される座標値(ub ,vb )と座標値(ua ,va )との関係は、以下のようになる。つまり、座標値(ub ,vb )の画素Pstの値は、座標値(ua ,va )により特定される画素Pcpt1および/またはPcpt2を使って決定される。ここで、座標値(ua ,va )に関しては、以下の点に注意を要する。つまり、座標値(ua ,va )は、上述の識別番号ID毎に記述される。したがって、1つの識別番号IDしか記述されていない単位レコードRntには、1つの座標値(ua ,va )しか記述されない。2つの識別番号IDを持つ場合、その単位レコードRntには、2つの座標値(ua ,va )が記述される。この場合、座標値(uv ,vb )の画素Pstの値は、画素Pcpt1およびPcpt2を使って決定される。
【0052】
上述の座標値(ub ,vb )の画素Pstの値は、さらに詳しく述べると、同一の単位レコードRntに含まれる識別番号IDおよび座標値(ua ,va )の組み合わせに基づいて決定される。例えば、座標値(501,109)を含む単位レコードRntには、識別番号IDとしての#2と、1つの座標値(ua ,va )としての(551,303)とが記述されている。したがって、図14に示すように、座標値(501,109)の画素Pstの値は、撮影画像Scpt2において座標値(551,303)で特定される画素Pcpt2から決定される。
【0053】
また、座標値(324,831)を含む単位レコードRntには、まず、識別番号IDとしての#1と、1つの座標値(ua ,va )としての(1011,538)とが記述されている。さらに、この単位レコードRntには、別の識別番号IDとしての#2と、別の座標値(ua ,va )としての(668,629)とが記述されている。したがって、図14に示すように、座標値(324,831)の画素Pstの値は、撮影画像Scpt1において座標値(1011,538)で特定される画素Pcpt1と、撮影画像Scpt2において座標値(668,629)で特定される画素Pcpt2とから決定することができる。
【0054】
さらに、座標値(971,1043)を含む単位レコードRntには、まず、識別番号IDとしての#1と、1つの座標値(ua ,va )としての(1189,999)とが記述されている。さらに、この単位レコードRntには、識別番号IDとしての#2と、1つの座標値(ua ,va )としての(798,1135)とが記述されている。したがって、図14に示すように、座標値(971,1043)の画素Pstの値は、撮影画像Scpt1において座標値(1189,999)で特定される画素Pcpt1と、撮影画像Scpt2において座標値(798,1135)で特定される画素Pcpt2からも決定することができる。
【0055】
前述したように、重複領域Rr2に属する画素Pstに割り当てられた単位レコードRntには、レコードタイプTrcd として番号「2」が記述される。図13において、操舵角の範囲Rrng は、少なくとも、番号「2」が記述される単位レコードRntに記述される。具体的には、各識別番号ID毎に、2つの範囲Rrng1およびRrng2が記述される。範囲Rrng1は、操舵角ρが0度以上でしきい値ρth度以下の範囲であり、範囲Rrng2は、操舵角ρがしきい値ρthを超える範囲である。ただし、しきい値ρthは、各単位レコードRntに記述されるしきい値ρthは互いに同じ値ではなく、以下のようにして定められる。
【0056】
ところで、前述の予測軌跡Tvhc は、周知のアッカーマンモデルに代表される手法で前もって知ることができ、操舵角ρに応じて定まる。以上の予測軌跡Tvhc は、実空間を規定するワールド座標系上で表されるので、座標変換処理により、第2の視平面座標系で表されれば、運転支援画像Sast における予測軌跡Tvhc の描画位置を予め知ることができる。今、操舵角ρを0度からΔρ度(Δρは正の値)の増分で変化させると仮定すると、図15(a)に示すように、第2の視平面座標系で表されたいくつか(図示は2本)の予測軌跡Tvhc1,Tvhc2,…を得ることができる。ここで、Δρの値は運転支援装置Uast1の設計要件に基づいて定められるが、可能な限り小さい値であることが好ましい。
【0057】
図15(a)において、予測軌跡Tvhc1およびTvhc2は、操舵角ρがΔρ度、2×Δρ度の時に得られる予測軌跡Tvhc である。その結果、操舵角ρがΔρ度の時、描画領域Rrnd には、図15(b)に示すように、当該描画領域Rrnd の外周Lout と、縦中心面Flmと、予測軌跡Tvhc1とで囲まれる部分描画領域PRrnd1が形成される。ここで、外周Lout は、図8に示す縦中心面Flm、横基準面Ftr、ならびに辺L1st およびL2nd で規定される。また、操舵角ρが2×Δρ度の時、描画領域Rrnd には、図15(c)に示すように、外周Lout と、予測軌跡Tvhc1およびTvhc2とで囲まれる部分描画領域PRrnd2が形成される。操舵角ρがj×Δρの場合にも、部分描画領域PRrnd2と同様の部分描画領域PRrndj(図示せず)が得られる。ここで、jは3以上の自然数である。
【0058】
図13のマッピングテーブルTmpにおいて、上述の部分描画領域PRrnd1に属する座標値(ub ,vb )を有する単位レコードRntには、範囲Rrng1およびRrng2として、操舵角ρが0度以上Δρ度以下、およびΔρ度を超えると記述される。なお、以上の単位レコードRntにおいて、しきい値ρthはΔρ度である。以上の部分描画領域PRrnd1に属するものの一例として、図13には、座標値(324,831)を有する単位レコードRntが示されている。
【0059】
また、上述の部分描画領域PRrnd2に属する座標値(ub ,vb )を有する単位レコードRntには、範囲Rrng1およびRrng2として、操舵角ρが0度以上2×Δρ度以下、および2×Δρ度を超えると記述される。なお、かかる単位レコードRntにおいて、しきい値ρthは2×Δρ度である。図13には、以上の部分描画領域Rrnd2に属するものの一例として、座標値(971,1043)を有する単位レコードRntが示されている。
以降、部分描画領域PRrndjに属する座標値(ub ,vb )を有する単位レコードRntには、範囲Rrng1およびRrng2として、操舵角ρが0度以上j×Δρ度以下、およびj×Δρ度を超えると記述される。
【0060】
また、ブレンド比Rbrd は、それを含む単位レコードRntに記述される座標値(ub ,vb )で特定される画素Pstの値を決定する際のパラメータであり、座標値(ua ,va )で特定される画素Pcpt1またはPcpt2の値に乗じられる。本実施形態では、便宜上、ブレンド比Rbrd は、0または1の値を有する。特に、レコードタイプTrcd としての「2」を持つ単位レコードRntに関しては、各範囲Rrng1およびRrng2毎に、ブレンド比Rbrd の値が1つずつが設定される。つまり、番号「2」が記述されるものには、4つのブレンド比Rbrd1〜Rbrd4が記述される。より具体的には、識別番号IDとしての#1に割り当てられた範囲Rrng1には、2つのブレンド比Rbrd1およびRbrd3が割り当てられる。また、#2の範囲Rrng2には、2つのブレンド比Rbrd2およびRbrd4が割り当てられる。
【0061】
例えば、図13に示すように、座標値(501,109)の画素Pstの値は、撮影画像Scpt2の座標値(551,303)の画素Pcpt2の値に、ブレンド比Rbrd としての1を乗じることで算出される。また、座標値(324,831)の画素Pstの値は、操舵角ρの値が範囲Rrng1に入っている場合には、撮影画像Scpt1において座標値(1011,538)の画素Pcpt1の値にブレンド比Rbrd1としての0を乗じた値と、撮影画像Scpt2において座標値(668,629)の画素Pcpt2の値にブレンド比Rbrd3としての1を乗じた値とを加算することにより算出される。逆に、操舵角ρの値が範囲Rrng2に入っている場合には、座標値(324,831)の画素Pstの値は、撮影画像Scpt1において座標値(1011,538)の画素Pcpt1の値にブレンド比Rbrd2としての1を乗じた値と、撮影画像Scpt2において座標値(668,629)の画素Pcpt2の値にブレンド比Rbrd4としての0を乗じた値とを加算することにより算出される。
【0062】
以上のような算出方法を実現するために、図13に示す1つの単位レコードRntにおいて、一方の範囲Rrng1に、ブレンド比Rbrd1としての1を割り当てる場合、同じ識別番号IDに割り当てられる範囲Rrng2には、ブレンド比Rbrd2としては0が割り当てられる。また、他方の範囲Rrng1に、ブレンド比Rbrd3としての0を記述した場合には、同じ識別番号IDに割り当てられる範囲Rrng2には、ブレンド比Rbrd4としては1が割り当てられる。
【0063】
例えば、座標値(324,831)を有する単位レコードRntにおいて、識別番号IDが#1の場合には、ブレンド比Rbrd1およびRbrd2として0および1が記述される。一方、この単位レコードRntにおいて、識別番号IDが♯2の場合には、ブレンド比Rbrd3およびRbrd4として1および0が記述される。また、座標値(971,1043)を有する単位レコードRntにおいても、識別番号IDが#1の場合には、ブレンド比Rbrd1およびRbrd2として0および1が記述され、♯2の場合には、ブレンド比Rbrd3およびRbrd4として1および0が記述される。
【0064】
次に、以上の運転支援装置Uast1の動作について説明する。ドライバが車両Vurの左側後方の状況を確認したい時、CPU7は、プログラムPG1 の実行を開始する。ここで、図16は、プログラムPG1 に記述されているCPU7の処理手順を示すフローチャートである。CPU7はまず、ROM8から、車両画像Svhc と、マッピングテーブルTmpとをRAM9に読み出す(ステップS1)。以上のように、RAM9は、マッピングテーブルTmpおよび車両画像Svhc を格納するので、請求項におけるテーブル格納部および画像格納部の一例として働く。
【0065】
次に、CPU7は、撮像指示Icpt を生成し、各撮像装置1および2に送信する(ステップS2)。撮像指示Icpt は、各撮像装置1および2に撮像を指示するための信号である。各撮像装置1および2は、受信指示Icpt に応答して、上述の撮影画像Scpt1およびScpt2を取り込み、画像バッファIBcpt1およびIBcpt2に格納する(ステップS3)。以上のように、ステップS3において、CPU7は、撮影画像Scpt1およびScpt2を取得するので、請求項における画像取得部の一例として働く。
【0066】
次に、CPU7は、検出指示Idtc を生成して、操舵角センサ3に送信する(ステップS4)。検出指示Idtc は、操舵角ρの検出を操舵角センサ3に指示するための信号である。操舵角センサ3は、受信検出指示Idct に応答して、操舵角ρを検出する。検出された操舵角ρは、RAM9に格納される(ステップS5)。以上のように、ステップS5において、CPU7は、操舵角ρを取得するので、請求項における操舵角取得部の一例として働く。
【0067】
次に、CPU7は、RAM9上のマッピングテーブルTmpに従って画像処理を行って、画像バッファIBcpt1およびIBcpt2内の撮影画像Scpt1およびScpt2から、運転支援画像Sast を生成する(ステップS6)。ステップS6において、CPU7は、請求項における画像処理部の一例として働く。
より具体的には、CPU7は、ステップS4で検出された操舵角ρに基づいて、撮影画像Scpt1およびScpt2から、マッピングテーブルTmpに従っていくつかの画素Pcpt1およびPcpt2を選択し、選択したものから、運転支援画像Sast における各画素Pstの値を決定する。ここで、図17は、ステップS6の詳細な手順を示すフローチャートである。図17において、CPU7は、マッピングテーブルTmpの中から、単位レコードRntを1つ選択し(ステップS21)、選択したものから識別番号IDおよび座標値(ua ,va )の組み合わせをすべて取り出す(ステップS22)。次に、CPU7は、取り出した識別番号IDが特定する画像バッファIBcpt1および/またはIBcpt2から、取り出した座標値(ua ,va )で特定される画素Pcpt1および/またはPcpt2の値を取り出す(ステップS23)。
【0068】
ここで、例えば、ステップS21で、座標値(ub ,vb )が(501,109)の単位レコードRntが選択されたと仮定する。この仮定下では、ステップS22で、識別番号IDとしての#2と、座標値(ua ,va )としての(551,303)との組み合わせが取り出される。したがって、ステップS23では、画像バッファIBcpt2に格納されている撮影画像Scpt2から、(551,303)で特定される画素Pcpt2の値が取り出される。
【0069】
また、ステップS21で選択されるのが、座標値(324,831)の単位レコードRntであると仮定する。この仮定下では、ステップS22において、識別番号IDとしての#1と、座標値(1011,538)との組み合わせと、識別番号IDとしての#2と、座標値(668,629)との組み合わせとが取り出される。この場合、ステップS23では、(1011,538)で特定される画素Pcpt1の値と、(668,629)で特定される画素Pcpt2の値が取り出される。
【0070】
また、ステップS21で選択されるのが、座標値(971,1043)の単位レコードRntであると仮定する。この仮定下では、ステップS22において、識別番号IDとしての#1と、座標値(1189,999)との組み合わせと、識別番号IDとしての#2と、座標値(1135,798)との組み合わせとが取り出される。この場合、ステップS23では、(1189,999)で特定される画素Pcpt1の値と、(1135,798)で特定される画素Pcpt2の値が取り出される。
【0071】
ステップS23の次に、CPU7は、ステップS21で選択した単位レコードRntから、レコードタイプTrcd の番号を取り出し(ステップS24)、今回取り出した番号が「1」か否かを判断する(ステップS25)。番号が「1」であると判断した場合、CPU7は、ステップS23で取り出した画素Pcpt1またはPcpt2の値に、ブレンド比Rbrd としての1を乗じて、ステップS1で選択した単位レコードRntで特定される画素Pst(座標値(ub ,vb ))の値を決定する(ステップS26)。CPU7は、ステップS26で決定した画素Pstの値を、フレームメモリFMast (図9参照)に格納する(ステップS27)。
【0072】
ここで、ステップS21で、座標値(ub ,vb )が(501,109)の単位レコードRntが選択される場合には、ステップS26が実行される。ステップS26では、撮影画像Scpt2において座標値(551,303)を有する画素Pcpt2の値に、ブレンド比Rbrd としての1が乗じられる。かかる乗算によって、座標値(501,109)の画素Pstの値が決定され、フレームメモリFMast に格納される。
【0073】
また、ステップS25で、レコードタイプTrcd の番号が「2」であると判断された場合、CPU7は、ステップS21で選択された単位レコードRntから範囲Rrng1を取り出す(ステップS28)。次に、CPU7は、ステップS5で得られた操舵角ρが、ステップS28で得られた範囲Rrng1に入っているか否かを判断する(ステップS29)。操舵角ρが範囲Rrng1に入っていると判断した場合、CPU7は、ステップS1で選択した単位レコードRntから、範囲Rrng1に割り当てられているブレンド比Rbrd1およびRbrd3を取り出す(ステップS210)。
【0074】
ここで、レコードタイプTrcd の番号が「2」であるということは、ステップS22で、2つの画素Pcpt1およびPcpt2が選択されていることに等しい。また、図13を参照して説明したように、画素Pcpt1およびPcpt2には、範囲Rrng1の時に使用すべきブレンド比Rbrd1およびRbrd3が割り当てられている。ステップS210の次に、CPU7は、画素Pcpt1の値にブレンド比Rbrd1を乗じた値と、画素Pcpt2の値にブレンド比Rbrd3を乗じた値とを加算して、ステップS21で選択した単位レコードRntで特定される画素Pst(座標値(ub ,vb ))の値を決定する(ステップS211)。次に、CPU7は、上述のステップS27に進んで、ステップS211で決定した画素Pstの値を、フレームメモリFMast (図9参照)に格納する。
【0075】
例えば、ステップS21で、座標値(ub ,vb )が(324,831)の単位レコードRntが選択される場合には、ステップS28が実行される。ここで、ステップS5で得られた操舵角ρが0以上Δρ以下を満たすとすると、ステップS210で、ブレンド比Rbrd1およびRbrd3として、0および1が取り出される。さらに、ステップS211で、座標値(1011,538)で特定される画素Pcpt1の値にブレンド比Rbrd1としての0を乗じた値と、座標値(668,629)で特定される画素Pcpt2の値にブレンド比Rbrd3としての1を乗じた値とが加算され、座標値(324,831)で特定される画素Pstの値が決定され、ステップS27でフレームメモリFMast に格納される。
【0076】
また、ステップS21で、座標値(ub ,vb )が(971,1043)の単位レコードRntが選択される場合には、ステップS28が実行される。ここで、ステップS5で得られた操舵角ρが0以上Δρ以下を満たすとすると、ステップS210で、ステップS28でブレンド比Rbrd1およびRbrd3として、0および1が取り出される。さらに、ステップS211で、座標値(1189,999)で特定される画素Pcpt1の値にブレンド比Rbrd1としての0を乗じた値と、座標値(1135,798)で特定される画素Pcpt2の値にブレンド比Rbrd3としての1を乗じた値とが加算され、座標値(971,1043)で特定される画素Pstの値が決定され、ステップS27でフレームメモリFMast に格納される。
【0077】
一方、ステップS29で操舵角ρが範囲Rrng1に入っていないと判断した場合、CPU7は、ステップS21で選択した単位レコードRntから、範囲Rrng2に割り当てられているブレンド比Rbrd2およびRbrd4を取り出す(ステップS212)。図14を参照して前述したように、ブレンド比Rbrd2およびRbrd4は、操舵角ρが範囲Rrng2に入っている時に、画素Pcpt1およびPcpt2に乗じられる。ステップS212の次に、CPU7は、画素Pcpt1の値にブレンド比Rbrd2を乗じた値と、画素Pcpt2の値にブレンド比Rbrd4を乗じた値とを加算して、ステップS21で選択した単位レコードRntで特定される画素Pst(座標値(ub ,vb ))の値を決定する(ステップS213)。次に、CPU7は、上述のステップS27に進んで、ステップS213で決定した画素Pstの値を、フレームメモリFMast (図9参照)に格納する。
【0078】
CPU7は、以上のステップS21〜S213の処理を、マッピングテーブルTmp内の単位レコードRntをすべて選択し終えるまで繰り返す(ステップS214)。これによって、1フレームの運転支援画像Sast (図10参照)が生成される。以上の処理により、ステップS4で格納された操舵角ρがΔρであると仮定すると、運転支援画像Sast において部分描画領域Rrnd1に属する画素Pstの値は撮影画像Scpt1のみから決定され、それ以外の領域は撮影画像Scpt2のみから決定される。言い換えれば、運転支援画像Sast では、予測軌跡Tvhc1を境として、異なる撮影画像Scpt1およびScpt2を使って、画素Pstの値が決定される。そのため、運転支援画像Sast は、以下のような特徴を有する。一般的に、ドライバは、車両Vurが障害物に当たらないように運転する。そのため、車両Vurの進路上に障害物がある可能性は少なく、車両Vurの進路から少し離れた位置に障害物がある可能性が高い。そのため、上述のように、CPU7が、部分描画領域Rrnd1の画素Pstの値を撮影画像Scpt1から決定し、それ以外の領域は撮影画像Scpt2から決定すれば、予測軌跡Tvhc1上に障害物が乗る可能性が小さい。その結果、運転支援画像Sast において、障害物が歪んだ状態で描かれる可能性が小さくなる。これによって、従来の運転支援装置(特開平11−78692号公報および国際公開WO00/07373号公報に開示されているもの)が抱えていた問題点を解消して、ドライバに違和感を与えにくい運転支援画像Sast を生成する描画装置Urnd1を提供することができる。
【0079】
CPU7は、ステップS214ですべての単位レコードRntを選択したと判断すると、図17の処理から抜けて、図16のステップS7に進む。ところで、撮像装置1および2の設置位置の関係上、撮影画像Scpt1〜Scpt2には車両Vurがほとんど映らない。ゆえに、ステップS6で生成される運転支援画像Sast には車両Vurが描かれていない。そこで、CPU7は、図17の処理から抜けると、RAM9上の車両画像Svhc を、運転支援画像Sast における合成位置Pvyに描画する(ステップS7)。ステップS7において、CPU7は、請求項における車両描画部の一例として働く。
【0080】
次に、CPU7は、アッカーマンモデルに代表される手法に従って、ステップS7で格納された操舵角ρに基づいて、前述の予測軌跡Tvhc を導出する(ステップS8)。次に、CPU7は、ステップS8で導出された予測軌跡Tvhc を、ステップS7で処理された運転支援画像Sast に描画する(ステップS9)。ステップS8およびS9において、CPU7は、請求項における軌跡導出部および軌跡描画部の一例として働く。今、ステップS4で格納された操舵角ρがΔρであると仮定すると、図15を参照して説明したような予測軌跡Tvhc1が描画され、これによって、図10に示すような運転支援画像Sast を得ることができる。
【0081】
次に、CPU7は、フレームメモリFMast 上の運転支援画像Sast を表示装置4に転送する(ステップS10)。表示装置4は、受信運転支援画像Sast を表示する。以上の運転支援画像Sast を見ることにより、ドライバは、車両Vurの左側後方の状況、特に自身の死角領域を、表示装置4を介して視認することができるので、安全に車両Vurを運転する事ができる。
【0082】
次に、CPU11は、図16の処理を終了するか否かを判断し(ステップS11)、終了しないと判断した場合には、フレームメモリFMast に新しい運転支援画像Sast を作成するために、ステップS2に戻る。
【0083】
この時点において、ドライバがステアリングを操作して、操舵角ρが2×Δρになったと仮定して、上述の図16の処理が行われた場合、生成される運転支援画像Sast では、部分描画領域PRrnd1およびPRrnd2に属する画素Pstの値は撮影画像Scpt1のみから決定され、それ以外の領域は撮影画像Scpt2のみから決定される。言い換えれば、運転支援画像Sast では、予測軌跡Tvhc2を境として、異なる撮影画像Scpt1およびScpt2を使って、画素Pstの値が決定される。例えば、図13に示すように、座標値(501,109)の画素Pstの値としては、操舵角ρに関わらず、座標値(551,303)を有する画素Pcpt2の値がそのまま使用される。
【0084】
また、座標値(324,831)の画素Pstに関しては、操舵角ρが2×Δρであれば、範囲Rrng1に入らなくなってしまうので、ステップS212が実行される。かかる場合、上記画素Pstの値は、座標値(1101,538)の画素Pcpt1の値にブレンド比Rbrd2としての1を乗じた値と、座標値(668,629)の画素Pcpt2の値にブレンド比Rbrd4としての0を乗じた値とを加算することにより算出される。
また、座標値(971,1043)の画素Pstに関しては、操舵角ρが2×Δρであれば、まだ範囲Rrng1に入っているので、ステップS26が実行される。
【0085】
なお、以上の実施形態では、説明を簡素化するために、運転支援画像Sast は、仮想カメラCv (図11参照)から車両Vurの左側後方を見たときの状況を表すとして説明した。しかしこれに限らず、運転支援画像Sast が表す範囲は、運転支援装置Uast1の設計要件に応じて自由に決定することができる。例えば、運転支援装置Uast1は、車両Vurの全周囲方向の状況を表してもよいし、当該車両Vurの後方のみを表してもよい。さらに、運転支援画像Sast は、視点変換処理を行わずに、従来技術の欄で挙げた特開平11−78692号公報に記載されているように、撮影画像Scpt1およびScpt2を単純につなぎ合わせたものでもよい。
【0086】
また、以上の実施形態では、画素Pstの値を決定するために、予測軌跡Tvhcを境にして異なる画素Pcpt1およびPcpt2の値が使用されていた。しかし、予測軌跡Tvhc に限らず、当該予測軌跡Tvhc から予め定められた量だけ平行移動した線を境にして異なる画素Pcpt1およびPcpt2の値が使用されてもよい。さらに、予測軌跡Tvhc の弦を境にして異なる画素Pcpt1およびPcpt2の値が使用されてもよい。
【0087】
また、以上の実施形態では、プログラムPG1 は、描画装置Urnd1に格納されていた。しかし、これに限らず、プログラムPG1 は、CD−ROMに代表される記録媒体に記録された状態で頒布されてもよいし、インターネットに代表される通信ネットワークを通じて頒布されてもよい。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る運転支援装置Uast1のハードウェア構成を示すブロック図である。
【図2】図1の運転支援装置Uast1が設置される車両Vurの上面図である。
【図3】図1の撮像装置1および2の視野角θv および視野Fv を示す図である。
【図4】図1の撮像装置1の設置位置を示す図である。
【図5】図1の撮像装置1により取り込まれる撮影画像Scpt1の一例を示す図である。
【図6】同図(a)および(b)は、図5に示すレンズ101の好ましい向きおよび好ましくない向きを示す図である。
【図7】図1の撮像装置2の設置位置を示す図である。
【図8】図1の撮像装置1および2の視野Fv に関連して形成される重複領域Rr1ならびに非重複領域Rn1および非重複領域Rn2を示す図である。
【図9】図1のRAM9に予約される画像バッファIBcpt1およびIBcpt2ならびにフレームメモリFMast を示す図である。
【図10】図1のCPU7により生成される運転支援画像Sast の一例を示す図である。
【図11】図10の運転支援画像Sast を生成するために必要となる仮想カメラCv を示す図である。
【図12】図1のCPU7が行う画像処理の概要を説明するための図である。
【図13】図1のマッピングテーブルTmpの詳細な構成を示す図である。
【図14】図1のCPU7が行う画像処理の具体例を説明するための図である。
【図15】同図(a)は、運転支援画像Sast における予測軌跡Tvhc を例示する図である。さらに、同図(b)および(c)は、部分描画領域PRrnd1およびPRrnd2を示す図である。
【図16】図1のプログラムPG1 に記述される処理手順を示すフローチャートである。
【図17】図16のステップS6の詳細な手順を示すフローチャートである。
【図18】特開平11−78692号公報に開示されている運転支援装置の構成を示すブロック図である。
【図19】図18の運転支援装置により生成される周辺画像S200 の例を示す図である。
【図20】国際公開WO00/07373号公報に開示されている運転支援装置が抱えている問題点を説明するための図である。
【符号の説明】
Uast …運転支援装置
1,2…撮像装置
3…操舵角センサ
4…表示装置
Urnd1…描画装置
7…CPU
8…ROM
9…RAM
Claims (11)
- 車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成する描画装置であって、
前記車両の周辺において互いに重複する重複領域を撮像し、前記車両に固定される複数の撮像装置により撮像された撮影画像を取得する画像取得部と、
前記車両の操舵角を検出するために前記車両に固定される操舵角センサから、前記車両の現在の操舵角を取得する操舵角取得部と、
前記画像取得部で取得された複数の撮影画像から、前記操舵角取得部で取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、前記運転支援画像を生成する画像処理部とを備え、
前記画像処理部は、前記操舵角センサにより取得された操舵角に基づいて決定されかつ前記車両が辿ると想定される予測軌跡が前記重複領域を横切る場合、所定の仮想線を基準として、前記画像取得部で取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、前記運転支援画像を生成し、
前記所定の仮想線は、前記予測軌跡、前記予測軌跡から所定量だけ平行移動された線、及び前記予測軌跡の弦を含むグループから選ばれた1つである、描画装置。 - 前記描画装置は、前記運転支援画像の画素毎に、前記撮影画像の画素が記述されたマッピングテーブルを格納するテーブル格納部をさらに備え、
前記マッピングテーブルにおいて、前記運転支援画像において前記重複領域に含まれる画素には、前記操舵角取得部により取得される操舵角に応じて、前記撮影画像の画素が複数個記述されており、
前記画像処理部は、前記テーブル格納部に格納されるマッピングテーブルに従って、前記画像取得部で取得された各撮影画像から画素を選択する、請求項1に記載の描画装置。 - 前記操舵角取得部により取得された操舵角に基づいて、前記車両が辿ると想定される軌跡を導出する軌跡導出部と、
前記軌跡導出部により導出された軌跡を、前記画像処理部で生成された運転支援画像に描画する軌跡描画部とをさらに備える、請求項1に記載の描画装置。 - 前記車両を表す車両画像を格納する画像格納部と、
前記画像格納部に格納された車両画像を、前記画像処理部で生成された運転支援画像に描画する車両描画部とをさらに備える、請求項1に記載の描画装置。 - 前記画像処理部は、予め定められた仮想カメラから、前記車両の周辺を見たときの運転支援画像を生成する、請求項1に記載の描画装置。
- 車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成する描画方法であって、
前記車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、
前記描画方法は、
各前記撮像装置により撮像された撮影画像を取得する画像取得ステップと、
前記操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、
前記画像取得ステップで取得された複数の撮影画像から、前記操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、前記運転支援画像を生成する画像処理ステップとを備え、
前記画像処理ステップは、前記操舵角取得ステップにより取得された操舵角に基づいて決定されかつ前記車両が辿ると想定される予測軌跡が前記重複領域を横切る場合、所定の仮想線を基準として、前記画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、前記運転支援画像を生成し、
前記所定の仮想線は、前記予測軌跡、前記予測軌跡から所定量だけ平行移動された線、及び前記予測軌跡の弦を含むグループから選ばれた1つである、描画方法。 - 前記描画方法は、前記運転支援画像の画素毎に、前記撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備え、
前記マッピングテーブルにおいて、前記運転支援画像において前記重複領域に含まれる画素には、前記操舵角取得部により取得される操舵角に応じて、前記撮影画像の画素が複数個記述されており、
前記画像処理ステップでは、前記テーブル格納部に格納されるマッピングテーブルに従って、前記画像取得部で取得された各撮影画像から画素が選択される、請求項6に記載の描画方法。 - 車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成するためのプログラムを記録した記録媒体であって、
前記車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、
前記プログラムは、
各前記撮像装置により撮像された撮影画像を取得する画像取得ステップと、
前記操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、
前記画像取得ステップで取得された複数の撮影画像から、前記操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、前記運転支援画像を生成する画像処理ステップとを備え、
前記画像処理ステップは、前記操舵角取得ステップにより取得された操舵角に基づいて決定されかつ前記車両が辿ると想定される予測軌跡が前記重複領域を横切る場合、所定の仮想線を基準として、前記画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、前記運転支援画像を生成し、
前記所定の仮想線は、前記予測軌跡、前記予測軌跡から所定量だけ平行移動された線、及び前記予測軌跡の弦を含むグループから選ばれた1つである、プログラムを記録した記録媒体。 - 前記プログラムは、前記運転支援画像の画素毎に、前記撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備え、
前記マッピングテーブルにおいて、前記運転支援画像において前記重複領域に含まれる画素には、前記操舵角取得部により取得される操舵角に応じて、前記撮影画像の画素が複数個記述されており、
前記画像処理ステップでは、前記テーブル格納部に格納されるマッピングテーブルに従って、前記画像取得部で取得された各撮影画像から画素が選択される、請求項8に記載のプログラムを記録した記録媒体。 - 車両の運転支援のために、当該車両の周辺を表す運転支援画像を生成するためのプログラムであって、
前記車両には、当該車両の周辺において、互いに重複する領域を撮像する複数の撮像装置と、当該車両の操舵角を検出する操舵角センサが固定されており、
前記プログラムは、
各前記撮像装置により撮像された撮影画像を取得する画像取得ステップと、
前記操舵角センサにより検出された操舵角を取得する操舵角取得ステップと、
前記画像取得ステップで取得された複数の撮影画像から、前記操舵角取得ステップで取得された操舵角に応じて画素を選択し、当該選択した画素に基づいて、前記運転支援画像を生成する画像処理ステップとを備え、
前記画像処理ステップは、前記操舵角取得ステップにより取得された操舵角に基づいて決定されかつ前記車両が辿ると想定される予測軌跡が前記重複領域を横切る場合、所定の仮想線を基準として、前記画像取得ステップで取得された複数の撮影画像のうち、互いに異なるものから選ばれた画素使って、前記運転支援画像を生成し、
前記所定の仮想線は、前記予測軌跡、前記予測軌跡から所定量だけ平行移動された線、及び前記予測軌跡の弦を含むグループから選ばれた1つである、プログラム。 - 前記プログラムは、前記運転支援画像の画素毎に、前記撮影画像の画素が記述されたマッピングテーブルを取得する取得ステップをさらに備え、
前記マッピングテーブルにおいて、前記運転支援画像において前記重複領域に含まれる画素には、前記操舵角取得部により取得される操舵角に応じて、前記撮影画像の画素が複数個記述されており、
前記画像処理ステップでは、前記テーブル格納部に格納されるマッピングテーブルに従って、前記画像取得部で取得された各撮影画像から画素が選択される、請求項10に記載のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001199978A JP3625059B2 (ja) | 2000-06-30 | 2001-06-29 | 描画装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000-199514 | 2000-06-30 | ||
JP2000199514 | 2000-06-30 | ||
JP2001199978A JP3625059B2 (ja) | 2000-06-30 | 2001-06-29 | 描画装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002114098A JP2002114098A (ja) | 2002-04-16 |
JP3625059B2 true JP3625059B2 (ja) | 2005-03-02 |
Family
ID=26595167
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001199978A Expired - Fee Related JP3625059B2 (ja) | 2000-06-30 | 2001-06-29 | 描画装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3625059B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004147210A (ja) * | 2002-10-25 | 2004-05-20 | Matsushita Electric Ind Co Ltd | 運転支援装置 |
JP4674814B2 (ja) * | 2006-03-20 | 2011-04-20 | アルパイン株式会社 | 車両用画像表示装置および画像合成方法 |
JP5091882B2 (ja) * | 2009-01-21 | 2012-12-05 | 三洋電機株式会社 | 画像処理装置並びに視界支援装置及び方法 |
JP2010250640A (ja) * | 2009-04-17 | 2010-11-04 | Sanyo Electric Co Ltd | 画像処理装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07250268A (ja) * | 1994-03-14 | 1995-09-26 | Yazaki Corp | 車両周辺監視装置 |
JP3661957B2 (ja) * | 1995-06-09 | 2005-06-22 | 矢崎総業株式会社 | 車両周辺監視装置 |
JPH09305796A (ja) * | 1996-05-16 | 1997-11-28 | Canon Inc | 画像情報処理装置 |
JP3328478B2 (ja) * | 1995-10-18 | 2002-09-24 | 日本電信電話株式会社 | カメラシステム |
JPH1178692A (ja) * | 1997-09-03 | 1999-03-23 | Nissan Motor Co Ltd | 車両用映像提示装置 |
JP3834967B2 (ja) * | 1997-11-25 | 2006-10-18 | 日産自動車株式会社 | 死角範囲表示装置 |
JP3575279B2 (ja) * | 1998-05-22 | 2004-10-13 | アイシン精機株式会社 | 駐車補助装置 |
JP3286306B2 (ja) * | 1998-07-31 | 2002-05-27 | 松下電器産業株式会社 | 画像生成装置、画像生成方法 |
-
2001
- 2001-06-29 JP JP2001199978A patent/JP3625059B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002114098A (ja) | 2002-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3886376B2 (ja) | 車両周辺監視システム | |
EP1158803A2 (en) | Rendering device for generating a display image | |
US10093247B2 (en) | Enhanced front curb viewing system | |
JP4907883B2 (ja) | 車両周辺画像表示装置および車両周辺画像表示方法 | |
EP2739050B1 (en) | Vehicle surroundings monitoring system | |
US9886636B2 (en) | Enhanced top-down view generation in a front curb viewing system | |
JP3695319B2 (ja) | 車両周辺モニタ装置 | |
US7266219B2 (en) | Monitoring system | |
JP5165631B2 (ja) | 車両周囲画像表示システム | |
US9834143B2 (en) | Enhanced perspective view generation in a front curb viewing system | |
EP1383332A1 (en) | Method and apparatus for displaying pickup image of camera installed in vehicle | |
EP1167120B1 (en) | Rendering device for parking aid | |
US6999602B2 (en) | Image generation for assistance of drivers of vehicles | |
JP2004114977A (ja) | 移動体周辺監視装置 | |
JP4844323B2 (ja) | 駐車支援装置および駐車支援方法 | |
JP2005001570A (ja) | 駐車支援装置 | |
JP2003044996A (ja) | 障害物検出装置 | |
JP2022048455A (ja) | 車両用表示装置 | |
JP4595902B2 (ja) | 車両周辺画像表示システム及び車両周辺画像表示方法 | |
JP2004203068A (ja) | 移動体周辺監視装置 | |
JP2003182489A (ja) | 駐車支援装置 | |
JP5092330B2 (ja) | 駐車支援装置および駐車支援方法 | |
JP2010183234A (ja) | 描画装置 | |
JP3625059B2 (ja) | 描画装置 | |
JPH11151975A (ja) | 死角範囲表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040903 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040907 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041028 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041124 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071210 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081210 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091210 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |