JP3972722B2 - 車載画像処理装置 - Google Patents
車載画像処理装置 Download PDFInfo
- Publication number
- JP3972722B2 JP3972722B2 JP2002123192A JP2002123192A JP3972722B2 JP 3972722 B2 JP3972722 B2 JP 3972722B2 JP 2002123192 A JP2002123192 A JP 2002123192A JP 2002123192 A JP2002123192 A JP 2002123192A JP 3972722 B2 JP3972722 B2 JP 3972722B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- image
- data
- viewpoint
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 59
- 239000002131 composite material Substances 0.000 claims description 20
- 238000003384 imaging method Methods 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 7
- 238000003702 image correction Methods 0.000 claims description 4
- 230000037237 body shape Effects 0.000 claims description 3
- 230000015572 biosynthetic process Effects 0.000 claims description 2
- 238000003786 synthesis reaction Methods 0.000 claims description 2
- 230000002194 synthesizing effect Effects 0.000 claims 3
- 238000000605 extraction Methods 0.000 claims 2
- 238000006243 chemical reaction Methods 0.000 description 42
- 238000013500 data storage Methods 0.000 description 26
- 238000000034 method Methods 0.000 description 17
- 238000009434 installation Methods 0.000 description 11
- 239000000203 mixture Substances 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は、車両の画像処理装置にかかり、詳しくは、前方車両によって生じる死角領域の画像を生成する車載画像処理装置に関するものである。
【0002】
【従来の技術】
走行している車両の運転者は、視界に入る進行方向の景色を確認し、認識した情況に応じて、適宜車両の運転操作を行う。例えば、運転者は、遠方の交差点の信号を認識し、自車両が通過する時の信号の色を予測して、車両の走行速度を調節する。
一方、混雑時には、自車両の前方に他車両が存在することもあり、このような場合には、前方の視界は、前方の車両によって遮られ、死角が生じることとなる。特に、前方車両がトラックやバスなど、車高の高い大型車両である場合には、特に、広範囲で視界が遮られ、運転者が認識することのできない死角領域が広くなってしまう。このような場合に、運転者は、視覚情報を視界の中に入れるために、頭部を左右を大きく動かし、或いは、車両を若干左右に移動させて視点を変えてなるなどの動作を試みる。また、前方車両のウインドー越しに前方の情況を認識し、又は車間距離を広げるなどの方法を採らざるを得ない。
【0003】
【発明が解決しようとする課題】
しかし、運転者が頭部を左右に動かす行為は、運転操作への意識が散漫になり、運転操作を損なう恐れがあり、又、そのような行為によって、必ずしも所望の情報が得られるものでもない。さらに、混雑時には、前方車両との車間距離を広く採ることは、後続車に不快感を与え、割り込みを誘発することにもなる。
一方、前方の情報が得られないために、直前の信号を認識できず、信号が赤に変わっているにもかかわらず、交差点に進入してしまう恐れがある。また、同様に、案内板を見ることができずに、意図しないレーンに進入してしまう可能性もある。
【0004】
さらに、運転者側においても、必要な情報が得られないことによるストレスが重なり、通常運転時に比較して、過度の疲労が蓄積するといった問題もある。
この発明は、前方車両によって生成される死角領域を補完することができる画像処理装置を提供することを目的とするものである。
【0005】
【課題を解決するための手段】
以上のような目的は、以下の本発明により達成される。
(1) 自車両の進行方向の画像を取得する撮像手段と、該撮像手段により取得した自車両の進行方向の画像を、運転者から見た視点の画像に補正する自車両画像補正手段と、前方車両が取得した進行方向の画像を、前方車両から受信する前方車両画像受信手段と、前記前方車両画像受信手段により受信した画像の撮像位置までの距離を算出する距離算出手段と、前記距離算出手段により算出した前方車両との距離に基いて、前記前方車両画像受信手段によって受信した画像を、運転者から見た視点の画像に補正する前方車両画像補正手段と、前記自車両画像補正手段により補正された画像における前記前方車両によって死角領域となっている部分に、前記前方車両補正手段により補正された画像を重ね合わせることで、前記前方車両を透過した合成画像を生成する画像合成手段とを備えることを特徴とする車載画像処理装置。
【0007】
(2) 前記自車両画像補正手段により補正された画像から前方車両の輪郭線を抽出する輪郭線抽出手段を備え、該輪郭線抽出手段により抽出された輪郭線を、前記画像合成手段により生成された合成画像に重ねることを特徴とする上記(1)に記載の車載画像処理装置。
【0008】
(3) 前方車両の車体、バンパー、ライト、ワイパー、タイヤ、座席、及び窓の形状のうち少なくとも1つを含む車体形状の輪郭線を受信する輪郭線受信手段を備え、該輪郭線受信手段により受信した前方車両の輪郭線を、前記画像合成手段により生成された合成画像に重ねることを特徴とする上記(1)に記載の車載画像処理装置。
【0009】
(4) 前記画像合成手段により生成された合成画像を、後方車両に送信する後方送信手段を備えることを特徴とする上記(1)から(3)のいずれか1に記載の車載画像処理装置。
【0010】
【発明の実施の形態】
以下、本発明の好適実施形態について、添付図面に基づいて詳細に説明する。
【0011】
図1は本発明の車載画像処理装置1の構成を示すブロック図である。車載画像処理装置1は、画像処理を行う演算処理装置12と、車体に取り付けられた撮像手段としてのカメラ13と、画像を表示する表示手段としての表示装置14と、現在位置検出装置15と、データ通信装置19と、記憶装置10とを備え、これらの装置は、システムバス11を介して相互に接続されている。
【0012】
カメラ13は、A/D変換器131を介してシステムバス11に接続される。カメラ13は、車両の前方(前進する場合の進行方向)に向けて取り付けられ、車両の進行方向の画像が撮影できるように取り付けられている。
カメラ13から出力された画像信号は、A/D変換器131によってデジタル信号に変換される。また、接続されたカメラ13が、デジタル信号出力が可能なものである場合には、A/D変換器は不要である。カメラ13は魚眼レンズを用いている。
【0013】
現在位置検出装置15は、舵角センサ151、車速センサ152、GPS受信装置153、方位センサ154、距離センサ155とを備えている。舵角センサ151は、車の操舵角を検出する。操舵角は、ハンドルの回転角または前輪の角度を検出して得られる。車速センサ152は、車両の走行速度を検出する。GPS受信装置153は、車両の絶対位置を検出する。方位センサ154は、車両の向きを検出する。距離センサ155は、車両の移動距離を検出する。
【0014】
記憶装置10は、自車データを記憶する自車データ記憶部16と、前方車両から受信したデータを記憶する受信データ記憶部17と、自車データと受信データとを合成したデータを記憶する合成データ記憶部18とを備えている。
【0015】
自車データ記憶部16は、位置データメモリ161と、画象データメモリ162と、車両データメモリ163と、カメラ設定データメモリ164と、運転者視点データメモリ165と、視点変換パラメータメモリ166と、視点変換画像データメモリ167とを備えている。位置データメモリ161は、現在位置検出装置15で検出された自車両の位置データが記憶されるメモリである。画像データメモリ162は、カメラ13が写した画像を記憶するメモリで、カメラ13から出力される画像が連続して記憶される。車両データメモリ163は、車体の輪郭を表現した輪郭線データ、全長、全幅、全高などの寸法データが記憶されるメモリである。
【0016】
カメラ設定データメモリ164は、カメラ13のレンズ特性、画角、車体の基準位置からの相対位置等により特定される設置位置、同様に、車体の基準位置からの相対位置等により特定される視点位置、撮影方角等が記憶されるメモリである。レンズ特性には、例えば、撮影方式やレンズ種類、画角の範囲の像のひずみ率などが挙げられる。撮影方角は、方位センサ若しくは位置データを2つ以上取得することにより決定することができる。車体の基準位置とは、例えば、GPS受信装置のアンテナの位置、前輪又は後輪の位置、その他方位センサ等のセンサの設置位置などが挙げられる。運転者視点データメモリ165は、上記車体の基準位置からの相対位置として規定される運転者の視点の位置が記憶されるメモリである。視点変換パラメータメモリ166は、カメラ設定データ164に含まれるカメラの視点位置と、運転者視点データに含まれる運転者の視点位置とから算出された相対距離が記憶されるメモリである。視点変換画像データメモリ167は、画像データに視点変換処理を行った後の画像データを記憶するメモリである。
【0017】
上記車両データメモリ163、カメラ設定データメモリ164、運転者視点データメモリ165に記憶されている、数値が変更されることのないデータについては、後述する演算処理装置12のリードオンリーメモリ[ROM]122に記憶してあってもよい。
【0018】
受信データ記憶部17は、位置データメモリ171と、画象データメモリ172と、車両データメモリ173と、カメラ設定データメモリ174と、視点変換パラメータメモリ175と、視点変換画像データメモリ176とを備えている。位置データメモリ171は、前方車両の位置データが記憶されるメモリである。画像データメモリ172は、前方車両のカメラが取得した画像データが記憶されるメモリである。車両データメモリ173は、前方車両の車体の輪郭を表現した輪郭線データ、全長、全幅、全高などの寸法データが記憶されるメモリである。この輪郭線データは、例えば、車両を後方から見たときの輪郭線を表現した線画情報である。輪郭線の例としては、車体を象徴する部位の輪郭線であればよく、例えば、車体、バンパー、テールランプ、リヤウインドーの形状、リヤウインドウワイパー及び後部車輪等の少なくとも一つを含む輪郭線である。
【0019】
カメラ設定データ174は、カメラのレンズ特性、画角、車体の基準位置からの相対位置等により特定される設置位置、同様に、車体の基準位置からの相対位置等により特定される視点位置、撮影方角等が記憶されるメモリである。視点変換パラメータメモリ175は、カメラ設定データ174に含まれる前方車両のカメラの視点位置と、運転者の視点位置とから算出された相対距離を記憶するメモリである。視点変換画像データメモリ176は、画像データに視点変換処理を行った後の画像データを記憶するメモリである。
【0020】
合成データ記憶部18は、位置データメモリ181と、画象データメモリ182と、車両データメモリ183と、カメラ設定データメモリ184とを備えている。
【0021】
位置データメモリ181には、自車位置データが記憶される。画像データメモリ182には、自車が取得した画像データと、受信した前方車両の画像データとを合成した合成画像データが記憶される。車両データメモリ183には、自車データの車両データ163が記憶され、カメラ設定データメモリ184は、後に詳しく説明するが、前方車両からデータを受信し、合成が可能であった場合は、運転者視点データ165が記憶され、合成が不可能であった場合にはカメラ設定データ164が記憶される。
【0022】
画像表示装置14は、例えば液晶ディスプレイ等で構成され、合成データ記憶部18の画像データ182に格納された合成画像が表示される。画像表示装置14へ送られるデータは、D/A変換器141を介してアナログ信号に変換される。また、画像表示装置14がデジタル信号入力可能な場合には、D/A変換器は不要となる。
【0023】
データ通信装置19は、前方車両が無線通信手段を用いて発信しているデータを受信し、受信したデータをバッファ191に蓄積する。蓄積された前方車両データは、バスライン11を介して受信データ記憶部17の各メモリへ送られる。さらに通信可能な車両が後方に存在する場合には、送信すべきデータを後方の車両に送信する。送信すべきデータについては後に詳しく説明する。
【0024】
演算処理装置12は、中央処理装置[CPU(Central Processing Unit)]121と、リードオンリーメモリ[ROM]122と、ランダムアクセスメモリ[RAM]123とを備えている。中央処理装置121は、例えば、現在位置検出装置15から得られた位置データや車両の向きと、受信した前方車両に関する位置データから、前方車両と自車両との相対位置についての情報を算出し、或いは、記憶装置10から自車両の画像データ、受信した前方車両の画像データを取得し、これらのデータから合成画像データを生成するなどの作用を有する。
ROM122には、例えば、中央処理装置121が画像処理を行うためのソフトウエア等が格納されており、RAM123は、例えば、ワーキングエリアとして使用される。
【0025】
本発明の画像処理装置は、次のような作用をする。図2は、本発明の画像処理装置を搭載した自車両21と、その進行方向(前方)に位置する前方車両22の位置関係を示す側面全体図である。自車両21の前方を映すカメラ13aの撮影領域a内には、自車両21の進行方向(前方)と同じ方向に進む前方車両22が位置している。このような前方車両22は、自車両21と同様に前方を映すカメラ13bを備えている。また、この前方車両22は、自車両21と同じ車載画像処理装置を備えており、カメラ13bで取得した画像は、視点変換処理等の画像処理を行うことも可能である。また、前方車両22は、カメラ13bで撮影した画像を、後方の自車両21へ無線通信手段を介して送信している。
【0026】
自車両21の撮影領域a内には、前方車両22によって遮られた死角領域bが生成される。この死角領域bは、さらに、前方車両22のカメラ13bの撮影領域cと重なっている。従って、前方車両22の前方に位置する信号23は、死角領域bに含まれ、自車両21側の運転者は、認識できないが、前方車両22のカメラ13bには映し出されているので、前方車両22の画像データを取得することによって、死角領域bにある信号23の色の状態を把握することができる。
カメラ13a、13bの設置位置は、運転者の視点の位置が最も好ましいが、この視点の位置に近い位置でもよい。例えば、バックミラーの位置の他、ダッシュボードの中央付近、座席の肩口の位置などか挙げられる。
【0027】
以上のように構成された本発明の画像処理装置1の作用について説明する。図3は、処理装置12の動作を示すフローチャートである。
処理の開始は、例えば、イグニッションオン、若しくは装置スイッチオン等の操作による。スイッチオンのきっかけは、この他、シフトチェンジレバーをD位置にセットしたときとしてもよい。
最初に、初期化処理が行われる(ステップS101)。図4は、初期化処理のサブルーチンを示すフローチャートである。初期化処理では、最初に自車データのチェックを行う(ステップS201)。この自車データとしては、車両データ、カメラ設定データ、運転者視点データである。チェックしたデータに不足データがあるか判断し(ステップS203)、不足データがある場合には、不足データの入力および記憶装置10への書き込みを行う(ステップS205)。
【0028】
データ不足がない場合には、視点変換パラメータを算出する(ステップS207)。視点変換パラメータは、カメラ設定データに含まれるカメラの視点位置と、運転者視点データに含まれる運転者の視点位置とから算出される。算出された視点変換パラメータを視点変換パラメータメモリ166に書き込む(ステップS209)。
【0029】
画像データなどを記憶領域に書き込みができるように、画像データメモリ162に記憶されているデータを検索し、記憶可能領域がない場合は、次に取得するデータを上書き可能にする準備をし、また画像データと共に記憶された距離や時間などを参照して、今後使用しないデータを消去する等の、データを書き込む準備をする(ステップS211)。例えば、視点変換用画像データメモリ167等に格納された画像の記憶データを更新するかを判断するための設定値を監視する変数などを初期化する。
【0030】
以上のように初期化処理(ステップS101)が終了すると、次に現在位置検出装置15と、カメラ13aから、データを取得する(ステップS103)。現在位置検出装置15からは、位置データを取得し、カメラ13aからは画像データを取得する。上述のように、自車両内の進行方向の画像を取得することをもって、本発明の撮像手段とする。
【0031】
取得された位置データは、自車データ記憶部16の、位置データメモリ161に書き込まれ、取得された画像データは、同じく、画象データメモリ162に書き込まれる(ステップS105)。自車データ記憶部16の視点変換パラメータメモリ166から、視点変換パラメータを読み出す(ステップS107)。読み出した視点変換パラメータに従い、自車画像データを自車運転者視点画像に変換する(ステップS109)。例えば、カメラ設置位置と運転者視点位置との、上下方向及び左右方向における距離が予め規定されており、その距離に応じて画像データの中心点(レンズの光軸が直交する位置)から、前述の規定値に基いて補正された位置が中心となるように補正する。この補正された中心点を画像の中心位置とした画像を視点変換画像とする。このように、自車両の画像と運転者から見た視点の画像に補正することをもって、本発明の自車両画像補正手段とする。
視点変換された画像データを、視点変換画像データメモリ167へ書き込む(ステップS111)。
【0032】
前方車両22からデータ受信が可能か否か判断する(ステップS113)。データ通信が可能な距離か否かは、例えば、予め距離センサを設け、前方車両22との距離を測定し、この測定距離から、通信の可・不可を判断する。
受信が可能である場合には、前方車両22からデータを受信する(ステップS115)。受信するデータは、前方車両22の位置データ、前方車両22のカメラ13bが取得した画像データ、前方車両22のカメラ設定データ及び車両データである。車両データには、前方車両の車体、バンパー、ライト、ワイパー、タイヤ、座席、及び窓の形状のうち少なくとも1つを含む車体形状の輪郭線であり、上記車体形状の輪郭線を受信することをもって本発明の輪郭線受信手段とする。
【0033】
受信したこれらのデータを、データ通信装置19を介して受信バッファ191に受信データを格納する(ステップS117)。受信バッファ191からデータを読み出し、受信データ記憶部17の位置データメモリ171、画象データメモリ172、車両データメモリ173、カメラ設定データメモリ174に、それぞれ対応するデータを受信データとして書き込む(ステップS119)。このように、前方車両が取得した進行方向の画像を、前方車両から受信することをもって、本発明の前方車両画像受信手段とする。
【0034】
受信した画像データについて、受信画像データ視点変換処理を行う(ステップS121)。図5は、受信画像データ視点変換処理サブルーチンを示すフローチャートである。以下、受信画像データ視点変換処理について説明する。自車データ記憶部16から、自車の位置データと運転者視点データを読み出す(ステップS301)。
【0035】
読み出した位置データと運転者視点データに基いて、運転者視点の座標を算出する(ステップS303)。具体的には、位置データとして、GPS受信装置153のアンテナの座標値が得られる。そして、GPS受信装置153のアンテナを基準位置とし、この基準位置からの相対位置として規定されている運転者視点データにより、運転者視点の座標値が算出される。
【0036】
受信データ記憶部17から、前方車両22の位置データとカメラ設定データを読み出す(ステップS305)。読み出した位置データとカメラ設定データから、前方車両のカメラ視点の座標値を算出する(ステップS307)。具体的には、位置データとして、前方車両22のGPS受信装置のアンテナの座標値が得られる。そして、GPS受信装置のアンテナを基準位置とし、この基準位置からの相対位置として規定されているカメラ設置位置(視点位置)データにより、カメラ視点の座標値が算出される。上述のように、受信した画像の撮像位置までの距離を算出することをもって、本発明の距離算出手段とする。
【0037】
ステップS303で算出された自車両21の運転者の視点位置の座標値と、ステップS307で算出された前方車両22のカメラ視点座標値とから、視点変換パラメータを算出する(ステップS309)。算出された視点変換パラメータを視点変換パラメータメモリ175に書き込む(ステップS311)。
【0038】
次に、受信データ記憶部17の画像データメモリ172から、前方車両22の画象データを読み出し(ステップS313)、視点変換パラメータメモリ175に記憶されている視点変換パラメータに基づいて、受信画像データを自車両の運転者視点画像に変換する(ステップS315)。視点変換した画像データを視点変換画像データとして、視点変換画像データメモリ176に書き込む(ステップS317)。上述のように、距離算出手段により算出した距離に基いて、受信した前方車両の画像を、運転者から見た視点の画像に補正することをもって、本発明の前方車両画像補正手段とする。
【0039】
以上のような受信画像データ視点変換処理が終了すると、自車データ記憶部16の視点変換画像データメモリ167と、受信データ記憶部17の視点変換画像データメモリ176とから、それぞれ視点変換画像データを読み出す(ステップS123)。2つの視点変換画像データを合成する(ステップS125)。図6は、画像合成方法を示す図である。受信データ記憶部17の視点変換画像データメモリ176から、視点変換画像B0を読み出して、自車両の運転者視点と、前方車両のカメラ視点との距離に応じた倍率で、視点変換画像B0を縮小する(画像B12)。縮小した画像を自車視点変換画像A0に対応する領域に重ね合わせて合成する。合成された画像AB0からは、前方車両の姿は消えている。
【0040】
次に、輪郭線表示位置・サイズ算出処理が行われる(ステップS127)。図7は、輪郭線表示位置・サイズ算出処理サブルーチンを示すフローチャートである。受信データ記憶部17の車両データメモリ173から車両データを、カメラ設定データメモリ174からカメラ設定データを、視点変換パラメータメモリ175から視点変換パラメータを読み出す(ステップS401)。さらに、自車データ記憶部16のカメラ設置データメモリ164からモニターに映る視野の画角を読み出す(ステップS403)。
【0041】
そして、ステップS309で算出した視点変換パラメータと、受信データ記憶部17の車両データ173から取得した輪郭線データとによって、前方車両のカメラ視点位置を基準とした三次元輪郭線を描画生成し、画面内での輪郭線の表示位置と、表示サイズを算出する(ステップS405)。
【0042】
図8(A)は、自車両の運転者視点位置T1と、前方車両22との位置関係を示す平面図であり、図8(B)は、同じ状態を自車両の表示画面に表示した合成画像の状態を示すものである。
【0043】
受信した車両データから、前方車両22の全長(9m)、全幅(3m)が、またカメラ設置データから、カメラ13bの位置情報(幅方向の中央部で、前端から0.5mの位置)が取得される。また、カメラ13bの座標値と、運転者視点位置の座標値から、両者の前後方向の距離(15m)と左右方向の距離(2m)も算出される。また、自車両のカメラ設置データから、画面に表示される範囲のカメラ画角(60度)が取得される。そして、以上の値から、自車両のカメラ13aが撮影した画像における前方車両22後端位置での幅aが算出される。つまり、画面に表示される範囲のカメラ画角は60度であるから、正三角形の辺の比率√3:1より
a=[{15−(9−0.5)}/√3]×2=7.5(m)
また、輪郭線の画像左端からの距離bは、
b=7.5/2−2−3/2=0.25(m)
となる。
【0044】
従って、バス後部の輪郭線は画面左端から画面幅の3.3%(=0.25/7.5)の位置から、画面幅の40%(=3/7.5)の長さに大きさを調整(拡大又は縮小)すればよい。
なお、生成される輪郭線は、三次元に描画されるので、図8(B)では、前方車両の側面も画面に映し出されている。
【0045】
なお、前方車両の輪郭線は、受信データから取得するのではなく、自車のカメラ13aで撮影した画像データから、前方車両22の輪郭線のみを抽出する輪郭線抽出手段により、輪郭線を取得する構成としてもよい。輪郭線抽出手段とは、例えば、Sobelフィルタ処理やラプラシアンフィルタ処理などにより輪郭を強調する処理を行い、輪郭線のみを抽出する処理をすることができる。
【0046】
以上のようにして算出された輪郭線画像Fを、ステップS125で生成された合成画像に重ね合わせる(ステップS129)。図6に示されているように、輪郭線Fが画面に加えられ、あたかも前方車両を透過して、前方が認識できる画像ABとなる。
重ね合わせて生成された画像は、合成データとして合成データ記憶部18の画像データメモリ182に書き込まれ、自車両の位置データは、位置データメモリ181に書き込まれ、自車両の車両データは、車両データメモリ183に書き込まれ、自車両のカメラ設定データと、自車運転者視点データは、カメラ設定データメモリ184に書き込まれる(ステップS131)。自車運転者視点データは、合成画像が生成された場合に書き込まれる。
【0047】
合成画像データについて正像変換処理を行う(ステップS133)。図6では、説明を解かりやすくするために、正像変換処理後の画像を用い、輪郭線も立体的なものでなく平面的な表示とした。ステップS129までの画像処理は、魚眼レンズ画像のままで行われる。なお、カメラ13a、13bで取得した画像を最初に正像変換処理した後、ステップS129までの画像処理を行ってもよい。
【0048】
正像変換された合成画像データは、表示装置14へ出力される(ステップS134)。表示装置14に出力された画像を視認することによって、運転者は、前方車両22の向こう側の状態を視覚で把握することができる。輪郭線が重ねて表示されているので、あたかも前方車両22を透過したように認識でき、前方車両22との位置関係を含めて前方の情況を把握することができる。
【0049】
また、合成データ記憶部18に記憶されている位置データ、画像データ、車両データ、カメラ設定データは、送信バッファ191に格納された(ステップS135)後、データ通信装置19によりデータ送信される(ステップS137)。上述のように、合成された画像を後方車両に送信することをもって、本発明の後方送信手段とする。送信されたデータは、自車両の後続車に受信され、後続車の受信データとして処理される。
【0050】
一方、ステップS113で、前方車両からデータ受信が不可能であると判断した場合には、自車両の視点変換画像データを視点変換画像データメモリ167から読み出して、これを正像変換する(ステップS141)。正像変換された画像データは、表示装置14へ出力される(ステップS143)。そして、自車データ記憶部16に記憶されている位置データ、画像データ、車両データ、カメラ設定データは、送信バッファ191に格納され(ステップS135)、ステップS137が実行される。
【0051】
以上のように作用する本発明の車載画像処理装置では、全ての車に搭載されるカメラの設置高さを、最も車高の低い普通車のカメラの設置高さに合わせる構成とすることができる。この場合には、視点変換処理に対する装置の負担が軽減されるので、画像処理時間が短縮できる。また、実際の画像と変換画像との差も少なくなる。
【0052】
また、大型車両に取り付けるカメラは、車体の上部に取り付けた構成とすることもできる。この場合には、遠くまで見通した画像を得ることができる。さらに、バスやトラックのフロントガラスの内側に取り付けてもよい。この場合には、取り付けが容易となり、また、車内に設置されているために、外部からの衝撃や風雨にさらされることがないので、故障の発生を抑制できる。
【0053】
特に輪郭線を視覚で識別できるように、輪郭線の色は、合成画像ABの背景の色に対応して変化させる構成としてもよい。例えば,背景色に対して補色となる色に設定する。赤や黄色のように、特に鮮やかな色(目立つ色)を用いてもよい。夜の場合には、明度の高い色、昼間の場合には明度の低い色とする。この場合には,車幅灯のオン/オフに応じて色を切り替えればよい。さらに、色の変化は、各画素毎に行っても良いし、ある領域毎に含まれる画素の平均値に対して行っても良い。また、背景が明るいところは黒、暗いところは白といったようにもモノクロ2値で輪郭線を表現してもよい。さらに、輪郭線の表示を点滅させて、背景から際立たせるように構成することもできる。また、車間距離が一定の距離以下となった場合には、色を赤に変化させて警告する構成としてもよい。また、輪郭線のみを合成する構成に限らず、前方車両を半透明にして合成してもよい。
【0054】
図9は、複数車線の道路を走行している状態で、後方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。各車両21a、21b、21cは、それぞれ独自に前方車両22から送信されるデータを受信し、画像処理を行い、前方車両22を輪郭線に置き換え、合成画像に重ね合わせて表示する。
【0055】
図10は、複数車線の道路を走行している状態で、前方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。この場合、後方の自車両21は、前方車両22a、22b、22cからデータを受信した順に画像処理を行う。また、各車両毎に識別信号を付し、受信された信号によって前方車両を識別できるように構成すれば、直前に位置する前方車両22aの処理を優先して行う構成とすることもできる。
【0056】
図11は、対向車線を走行する車両がある場合の道路の平面図である。この場合には、送信データが、対向車線を走行する車両に拾われることのないように、送信データにカメラの撮影方向や、走行方向についてのデータも加える。そして、受信する側は、走行方向と同じ方向のデータのみ受信する構成とすることにより、対向車線の車両側の画像処理を防止できる。
【0057】
図12は、渋滞している状態を示す道路の平面図である。前方車両22の前にも、車両23が存在し、連続して車両24が存在する場合、先頭車両24から送信したデータを次の車両23で受信し、合成処理、輪郭線付与処理を行った後、更に後方車両22に送信するというプロセスを繰り返すことで、最後方の車両21も、最前車両の画像を取得することができる。特に渋滞の場合に、前方の情況を把握するのに有益である。ここで、前方のつながっている車両が処理した全ての輪郭線を表示すると、後方の車両では輪郭線過多になり、十分な情報を表示画像から得られない恐れがある。そこで、車両毎に輪郭線の色を変更したり、直前の車両の輪郭線のみを表示する構成とすることができる。
【0058】
【発明の効果】
請求項1に記載の発明によれば、前方車両を透過した画像が得られるので、道路状況や道路標識の見落としや死角への不安感を低減できる。また、撮像手段が、あたかも運転者の視点の位置に設置されているように画像を処理するので、表示画像が運転者の視界に近い画像となり、進行方向の道路状況が、画像から把握し易くなる。
【0059】
請求項2に記載の発明によれば、画像から前方車両の輪郭線を抽出するので、実際の前方車両の状態に合致した輪郭線を重ねることができる。請求項3に記載の発明によれば、既に形成されている輪郭線の画像情報を受信するので、輪郭線を検出する処理が不要となり画像処理時間を短縮できる。
【0060】
請求項4に記載の発明によれば、生成された合成画像をさらに後方車両に送信する手段を設けることで、前後方向に縦列して走行する車両間で、最前に位置する車両の画像情報を最後部の車両が受信することが可能となり、取得できる前方情況の範囲を拡大することができる。
【図面の簡単な説明】
【図1】本発明の画像処理装置の構成を示すブロック図である。
【図2】本発明の画像処理装置を搭載した2つの車両の側面図である。
【図3】本発明の画像処理装置の作用を示すフローチャートである。
【図4】本発明の画像処理装置の作用を示すフローチャートである。
【図5】本発明の画像処理装置の作用を示すフローチャートである。
【図6】画像処理の手順を示す流れ図である。
【図7】本発明の画像処理装置の作用を示すフローチャートである。
【図8】自車両の運転者視点位置と前方車両との位置関係を示す平面図と合成画面の図である。
【図9】複数車線の道路を走行している状態で、後方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。
【図10】複数車線の道路を走行している状態で、前方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。
【図11】対向車線を走行する車両がある場合の道路の平面図である。
【図12】渋滞している状態を示す道路の平面図である。
【符号の説明】
1 画像処理装置
10 記憶装置
12 演算処理装置
13 カメラ
14 画像表示装置
15 現在位置検出装置
16 自車データ記憶部
17 受信データ記憶部
18 合成データ記憶部
19 データ通信装置
21 自車両
22 前方車両
Claims (4)
- 自車両の進行方向の画像を取得する撮像手段と、
該撮像手段により取得した自車両の進行方向の画像を、運転者から見た視点の画像に補正する自車両画像補正手段と、
前方車両が取得した進行方向の画像を、前方車両から受信する前方車両画像受信手段と、
前記前方車両画像受信手段により受信した画像の撮像位置までの距離を算出する距離算出手段と、
前記距離算出手段により算出した前方車両との距離に基いて、前記前方車両画像受信手段によって受信した画像を、運転者から見た視点の画像に補正する前方車両画像補正手段と、
前記自車両画像補正手段により補正された画像における前記前方車両によって死角領域となっている部分に、前記前方車両補正手段により補正された画像を重ね合わせることで、前記前方車両を透過した合成画像を生成する画像合成手段とを備えることを特徴とする車載画像処理装置。 - 前記自車両画像補正手段により補正された画像から前方車両の輪郭線を抽出する輪郭線抽出手段を備え、該輪郭線抽出手段により抽出された輪郭線を、前記画像合成手段により生成された合成画像に重ねることを特徴とする請求項1に記載の車載画像処理装置。
- 前方車両の車体、バンパー、ライト、ワイパー、タイヤ、座席、及び窓の形状のうち少なくとも1つを含む車体形状の輪郭線を受信する輪郭線受信手段を備え、該輪郭線受信手段により受信した前方車両の輪郭線を、前記画像合成手段により生成された合成画像に重ねることを特徴とする請求項1に記載の車載画像処理装置。
- 前記画像合成手段により生成された合成画像を、後方車両に送信する後方送信手段を備えることを特徴とする請求項1から3のいずれか1に記載の車載画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002123192A JP3972722B2 (ja) | 2002-04-24 | 2002-04-24 | 車載画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002123192A JP3972722B2 (ja) | 2002-04-24 | 2002-04-24 | 車載画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003319383A JP2003319383A (ja) | 2003-11-07 |
JP3972722B2 true JP3972722B2 (ja) | 2007-09-05 |
Family
ID=29538603
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002123192A Expired - Fee Related JP3972722B2 (ja) | 2002-04-24 | 2002-04-24 | 車載画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3972722B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8395490B2 (en) | 2008-03-27 | 2013-03-12 | Panasonic Corporation | Blind spot display apparatus |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3932127B2 (ja) * | 2004-01-28 | 2007-06-20 | マツダ株式会社 | 車両用画像表示装置 |
JP4744823B2 (ja) * | 2004-08-05 | 2011-08-10 | 株式会社東芝 | 周辺監視装置および俯瞰画像表示方法 |
JP4507886B2 (ja) * | 2005-01-14 | 2010-07-21 | 株式会社デンソー | 車両用走行制御装置 |
JP4769557B2 (ja) * | 2005-11-28 | 2011-09-07 | トヨタ自動車株式会社 | 接線作成方法および死角領域設定方法および視認可能領域設定方法および視認可能判定方法並びに設計支援装置および記録媒体 |
JP4930187B2 (ja) * | 2007-05-22 | 2012-05-16 | 株式会社デンソー | 運転支援システム |
JP4952421B2 (ja) * | 2007-07-18 | 2012-06-13 | 株式会社デンソー | 運転支援システム |
JP5053776B2 (ja) | 2007-09-14 | 2012-10-17 | 株式会社デンソー | 車両用視界支援システム、車載装置、及び、情報配信装置 |
JP2009101718A (ja) * | 2007-10-19 | 2009-05-14 | Toyota Industries Corp | 映像表示装置及び映像表示方法 |
JP2009251671A (ja) * | 2008-04-01 | 2009-10-29 | Toyota Motor Corp | 白線認識装置 |
JP5278108B2 (ja) * | 2009-03-30 | 2013-09-04 | マツダ株式会社 | 移動体検出システム及び移動体検出方法 |
JP5210994B2 (ja) * | 2009-08-18 | 2013-06-12 | 東芝アルパイン・オートモティブテクノロジー株式会社 | 車両用画像表示装置 |
WO2012131871A1 (ja) * | 2011-03-28 | 2012-10-04 | パイオニア株式会社 | 情報表示装置、制御方法、プログラム、及び記憶媒体 |
JP5962083B2 (ja) * | 2012-03-14 | 2016-08-03 | オムロン株式会社 | 領域抽出結果の表示方法及び画像処理装置 |
JP6014442B2 (ja) | 2012-09-27 | 2016-10-25 | 富士通テン株式会社 | 画像生成装置、画像表示システム、および、画像生成方法 |
KR101994721B1 (ko) * | 2013-08-16 | 2019-07-01 | 삼성전기주식회사 | 어라운드 이미지 제공 시스템 및 어라운드 이미지 제공 방법 |
JP6445808B2 (ja) * | 2014-08-26 | 2018-12-26 | 三菱重工業株式会社 | 画像表示システム |
JP6387744B2 (ja) * | 2014-08-28 | 2018-09-12 | 株式会社デンソー | 車載器及び運転支援システム |
KR102375411B1 (ko) * | 2015-05-11 | 2022-03-18 | 삼성전자주식회사 | 차량 주변 영상 제공 방법 및 장치 |
JP6787729B2 (ja) * | 2016-09-09 | 2020-11-18 | 株式会社タダノ | 俯瞰画像システム、俯瞰画像表示方法およびプログラム |
JP7069692B2 (ja) * | 2017-12-20 | 2022-05-18 | トヨタ自動車株式会社 | 画像表示装置 |
JP6753915B2 (ja) * | 2018-11-28 | 2020-09-09 | 株式会社東芝 | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム |
CN114782295A (zh) * | 2022-04-01 | 2022-07-22 | 合众新能源汽车有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN115426440B (zh) * | 2022-07-27 | 2024-03-15 | 深圳市富中奇科技有限公司 | 车辆环视系统的实现方法、装置、设备及计算机存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH079886A (ja) * | 1993-06-29 | 1995-01-13 | Hitachi Ltd | 車両の運転情報装置 |
JP4019182B2 (ja) * | 1995-07-19 | 2007-12-12 | 本田技研工業株式会社 | 視覚装置 |
JP3405165B2 (ja) * | 1997-12-26 | 2003-05-12 | トヨタ自動車株式会社 | 車載情報提供装置 |
JP4643860B2 (ja) * | 2001-06-12 | 2011-03-02 | クラリオン株式会社 | 車両用視覚支援装置及び支援方法 |
-
2002
- 2002-04-24 JP JP2002123192A patent/JP3972722B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8395490B2 (en) | 2008-03-27 | 2013-03-12 | Panasonic Corporation | Blind spot display apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP2003319383A (ja) | 2003-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3972722B2 (ja) | 車載画像処理装置 | |
JP4702348B2 (ja) | 車載画像表示装置 | |
JP4914458B2 (ja) | 車両周辺表示装置 | |
US8514282B2 (en) | Vehicle periphery display device and method for vehicle periphery image | |
JP4103518B2 (ja) | 車載画像表示装置 | |
JP5172314B2 (ja) | ステレオカメラ装置 | |
US7212653B2 (en) | Image processing system for vehicle | |
JP5099451B2 (ja) | 車両周辺確認装置 | |
JP4992755B2 (ja) | 交差点運転支援システム、車載器、及び、路側機 | |
US10875452B2 (en) | Driving assistance device and driving assistance method | |
CN110877572A (zh) | 周边监视装置 | |
JP2008230296A (ja) | 車両用運転支援システム | |
JP2008001182A (ja) | 車両用視覚情報呈示装置及び車両用視覚情報呈示方法 | |
JP2008222153A (ja) | 合流支援装置 | |
JP5966513B2 (ja) | 車両の後側方撮影装置 | |
US11601621B2 (en) | Vehicular display system | |
WO2016129552A1 (ja) | カメラパラメータ調整装置 | |
JP2004310522A (ja) | 車両用画像処理装置 | |
JPH08253059A (ja) | 車両用運転支援システム | |
JP2009214831A (ja) | 車両用表示装置 | |
JP2007302238A (ja) | 車両の画像処理装置 | |
JP3988551B2 (ja) | 車両周囲監視装置 | |
JP3870409B2 (ja) | 車両用表示装置 | |
JP4110561B2 (ja) | 車両の障害物警報装置 | |
JP5831331B2 (ja) | 車両の後側方撮影装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050331 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070320 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070522 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070604 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3972722 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100622 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100622 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110622 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110622 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120622 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120622 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130622 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140622 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |