JP2007251880A - 車両用画像表示装置および画像合成方法 - Google Patents

車両用画像表示装置および画像合成方法 Download PDF

Info

Publication number
JP2007251880A
JP2007251880A JP2006076022A JP2006076022A JP2007251880A JP 2007251880 A JP2007251880 A JP 2007251880A JP 2006076022 A JP2006076022 A JP 2006076022A JP 2006076022 A JP2006076022 A JP 2006076022A JP 2007251880 A JP2007251880 A JP 2007251880A
Authority
JP
Japan
Prior art keywords
vehicle
trajectory
boundary line
image
travel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006076022A
Other languages
English (en)
Other versions
JP4674814B2 (ja
Inventor
Mitsuaki Watanabe
光章 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2006076022A priority Critical patent/JP4674814B2/ja
Publication of JP2007251880A publication Critical patent/JP2007251880A/ja
Application granted granted Critical
Publication of JP4674814B2 publication Critical patent/JP4674814B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】 車両に設置された複数の撮像カメラの撮像画像を合成表示する車載用画像表示装置において、障害物を表示する際、表示画像上で違和感が生じないようにする。
【解決手段】 出力制御部8はハンドル舵角検出部6より検出されるハンドル舵角と車両情報記憶部7に記憶される車両情報とに基づいて車両の進行予測軌跡を算出し、この進行予測軌跡に基づき画像境界線を設定し、撮像カメラ画像の撮像画像を合成し、ディスプレイ9で表示する。
【選択図】図11

Description

本発明は、車両の複数の個所にそれぞれ設置された撮像カメラにより撮像された画像を基に、所定の視点から見た合成画像を生成して表示する車両用画像表示装置に関し、特に、車両の真上方向から見下ろすように車両の全周囲を表示する技術に関する。
車両は構造上、車体自体が運転者の視線を遮蔽し、死角を生ずることは避けられない。しかし、障害物の回避や歩行者、他車との接触を避けるためには、こうした死角を可能な限り低減することが好ましい。
死角を低減する方法として、車の前後左右に複数の撮像カメラ(例えば魚眼カメラ)を取り付け、撮影した画像信号を視点変換(座標変換)し、あたかも自車を真上方向から見たように、自車周囲の画像をモニタに映し出す表示(トップビュー表示)が知られている。トップビュー表示は、例えば図15に示すように、車両の前方の撮像カメラ1で撮像された画像信号A、車両の左方の撮像カメラ2で撮像された画像信号B、車両の右方の撮像カメラ3で撮像された画像信号C、および車両の後方の撮像カメラ4で撮像された画像信号Dにおいて基準点をOとして視点変換し、画像信号Aおよび画像信号Bの合成境界線を35、画像信号Aおよび画像信号Cの合成境界線を36、画像信号Bおよび画像信号Dの合成境界線を37、画像信号Cおよび画像信号Dの合成境界線を38として車両の真上方向から見下ろすように合成された画像である。
トップビュー表示により真上方向から見下ろした合成画像を生成する際、撮像カメラ間の画像を合成する境界線の位置により障害物の表示に違和感が生じるという問題がある。例えば図16に示すように、車両の側部に沿ってガードレール39などが存在するとき、画像信号Aと画像信号Bの合成境界線35や、画像信号Bと画像信号Dの合成境界線37において、ガードレール39の大きさにズレが生じてしまい、表示に違和感を与えてしまう。これは、画像信号Aや画像信号Dを生成する撮像カメラ1、4と画像信号Bを生成する撮像カメラ2の取り付け位置や撮像方向が異なるためである。
また、車両40の左後方に障害物41が存在し、車両が後進しながら左折する場合において、車両40が進行予測軌跡42に沿って走行するならば、合成画像は時間変化に伴い、図17(a)〜(c)の順で表示される。図17(a)において車両40の左後方に障害物41があると、障害物41が撮像カメラ4の画像信号Dを用いて視点変換するため、左後方に引きのばされたように表示される。その後、図17(b)に示すように、障害物41が画像境界線37上に到達すると、障害物41は視点変換の際に生じる誤差の影響により、画像合成の際にボケて表示されたり、消失したりする。そして、障害物41が合成境界線37上を通過すると、図17(c)に示すように、障害物41が撮像カメラ2の画像信号Bを用いて視点変換するため、後方に引きのばされたように再表示される。
したがって、トップビュー表示により真上方向から見下ろした合成画像を生成する際に、障害物が合成境界線をまたがるように合成境界線を設定すると、障害物が合成境界線上に存在した場合に、ボケて表示されたり、消失したりするため、表示に違和感を与えてしまう。
この課題を解決するために、従来、ハンドル舵角に基づいて撮像カメラ間の画像の合成境界線を設定し、車両周辺の状況を運転者に確実に認知させることが可能な車両用画像表示装置が提案されている。
特許文献1では、複数のカメラで取得した画像を基にして視点変換と画像合成を行う車両周辺モニタ装置に関し、ハンドル舵角に基づいて車両の進行予測軌跡を算出し、算出された進行予測軌跡側では進行予測軌跡から離れた位置に画像合成時の合成境界線を設定するものである。
特開2002−166802号公報
特許文献2では、画像処理装置に関し、合成画像の画素と、各カメラ画像の画素データとの対応関係が記述されたマッピングテーブルを用いて、ハンドル舵角やウインカーなどの車両の状態に応じて自動的にマッピングテーブルを選択し、表示態様を切り替えるものである。
特開2003−264827号公報
ここで、特許文献1の車両周辺モニタ装置の画像合成方法を説明する。
図18(a)に示すように、車両43の左後方に障害物44が存在し、車両が後進しながら左折する場合において、車両43の左後部が障害物44に最も接近し、接触するおそれがある。まず、ハンドル舵角に基づいて車両43の左後部の進行予測軌跡45を算出する。運転者に対してこの車両43の左後部の進行予測軌跡45上の障害物44を正確に表示することが望ましいため、進路上の画像信号を取得している撮像カメラ4の画像信号Dを表示するよう合成境界線を設定する。すなわち合成境界線46をこの進行予測軌跡から最も離れた位置(撮像カメラ4側)に設定する。
しかしながら、特許文献1の車両周辺モニタ装置では、車両43が地点18に到達した際、図18(b)に示すように、合成境界線46上に障害物44が存在することから、障害物44はボケて表示されたり、消失したりしてしまう。
特許文献2では、ハンドル舵角やウインカーなどの車両の状態に応じて自動的にマッピングテーブルを選択し、表示態様を切り替えるものであるが、ハンドル舵角やウインカーの車両状態を利用したマッピングテーブルの自動選択に関する具体的手法については記載されていない。
本発明は、画像合成時に障害物のボケて表示されたり、消失したりすることを防止し、車両周囲に存在する障害物等の物体をより正確に見易く表示することができる車両用画像表示装置および画像合成方法の提供を目的とする。
上記課題は本発明によれば、車両の複数の個所にそれぞれ設置されたカメラにより撮像された画像を基に、所定の視点から見た合成画像を生成して表示する車両用画像表示装置において、車両の進行予測軌跡を算出する予測軌跡算出手段と該予測軌跡算出手段により算出された進行予測軌跡が直進であるか否かを判定する直進判定手段と、該予測軌跡算出手段により算出された予測軌跡と前記直進判定手段の判定結果とに基づいて、前記複数のカメラで撮像された画像を合成する際の画像の合成境界線を設定する合成境界線設定手段と、該合成境界線設定手段により設定された合成境界線に基づいて前記複数のカメラで撮像した画像を合成する画像合成手段と、前記画像合成手段により合成された車両周辺の画像を表示する表示手段とを備えることにより達成される。
前記直進判定手段により進行予測軌跡が直進であると判定された場合、前記合成境界線設定手段は、前記進行予測軌跡を前記合成境界線として設定するとよい。
前記直進判定手段により進行予測軌跡が直進以外であると判定された場合、前記合成境界線設定手段は、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡を前記合成境界線として設定すると共に、前記進行予測軌跡における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定するとよい。
前記合成境界線設定手段は、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線を前記合成境界線として設定すると共に、前記進行予測線における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定するとよい。
車両のハンドル舵角を検出するハンドル舵角検出手段と、車両情報を記憶する車両情報記憶手段とを更に備え、前記予測軌跡算出手段は、前記ハンドル舵角検出手段の検出結果と、前記車両情報記憶手段の車両情報とに基づいて、前記進行予測軌跡を算出するとよい。
車両の複数の個所にそれぞれ設置された撮像カメラにより撮像された画像を基に、所定の視点から見た合成画像を生成して表示する車両用画像表示装置の画像表示方法において、車両の進行予測軌跡を算出し、該進行予測軌跡が直進であるか否かを判定し、該進行予測軌跡と該進行予測軌跡が直進であるか否かの判定結果とに基づいて、前記複数の撮像カメラで撮像された画像を合成する際の画像の合成境界線を設定し、該合成境界線に基づいて前記複数の撮像カメラで撮像した画像を合成する画像合成方法により達成される。
本発明によれば、複数のカメラで撮像された画像を合成する際の画像の合成境界線を車両の進行予測軌跡と進行予測軌跡が直進であるか否かの判定結果とに基づいて設定し、その合成境界線に基づいて合成処理を行うため、障害物が消失したりボケたりすることを防ぐことができる。
本発明によれば、進行予測軌跡が直進であると判定された場合、進行予測軌跡を合成境界線として設定するため、障害物が消失したりボケたりすることを防ぐことができる。
本発明によれば、進行予測軌跡が直進以外であると判定された場合、進行予測軌跡における車両内輪側のニ隅の進行予測軌跡を合成境界線として設定すると共に、進行予測軌跡における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を合成境界線として設定するため、車両内輪側は障害物が合成画像の合成境界線上を通過することを避けることができると共に、車両外輪側は障害物のボケて表示されたり、消失したりする時間を最小限に抑えることができる。
本発明によれば、進行予測軌跡が直進以外であると判定された場合、進行予測軌跡における車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線を合成境界線として設定すると共に、進行予測線における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定するため、画像合成時において車両内輪側の合成処理の演算量を、車両内輪側のニ隅の進行予測軌跡を合成境界線として設定する場合と比較して削減することができる。
本発明の最良の実施の形態について図面を参照して詳細に説明する。
図1は、本発明における車両用画像表示装置の構成を示すブロック図である。本実施例の車両用画像表示装置の制御装置は、全体の制御を行う出力制御部8と、画像信号を処理する画像処理部5を備えている。画像処理部5には、車両の複数の箇所、例えば後述する4箇所、に設置された撮像カメラ1〜4それぞれの画像信号が入力される。一方、出力制御部8には、運転席に設置されているディスプレイ9が接続されるとともに、ハンドル舵角検出部6により検出されたハンドル舵角信号と車両情報記憶部7に記憶された車両情報が入力される。
図2は本発明における撮像カメラの設置例と撮像領域を示す図である。ここでは4台の撮像カメラが設置されているものとする。
撮像カメラ1〜4は、CCDやCMOSイメージセンサを用いて構成される。撮像カメラ1は、車両前方のバンパーなどに取り付けられ、車両の前方を視野角θ1で撮像する。撮像カメラ2、3は、車両の側部を視野角θ2、θ3で撮像する。撮像カメラ4は、車両の後部バンパーなどに取り付けられ、車両の後方を視野角θ4で撮像する。撮像カメラの視野角θ1、θ2、θ3、θ4は、隣接する撮像カメラの視野角と端部がオーバーラップし、撮像カメラ1〜4により車両の全周囲を撮像できるようになっている。また、本実施例では全ての撮像カメラの視野角は180度に設定しているものとする。
画像処理部5は、図2に示す撮像カメラ1〜4の画像信号を入力し、入力した画像信号をディジタル信号に変換するとともに、トップビュー表示を行うため、画像信号を視点変換(座標変換)し、あたかも自車を真上から見たように画像を生成する。視点変換の処理は、ソフトウェアにより実行するものでも、ハードウェア回路により実行するものであってもよい。
ハンドル舵角検出部6は、車内用通信バス等に接続された舵角センサーを用いて、バス通信を介してハンドル舵角信号を検出する。このハンドル舵角信号は出力制御部8に出力される。
車両情報記憶部7はホイールベース情報、車両の全長、車両の全幅等の車両情報を記憶している。これらの情報は車両の進行予測軌跡を算出するために使用され、出力制御部8に出力される。
出力制御部8は、例えばマイクロコンピュータを用いて構成され、画像の合成方法を制御するためのプログラムをROMやRAM等を含んでいる。出力制御部8は、ハンドル舵角検出部6により検出されたハンドル舵角と車両情報記憶部7に記憶されたホイールベース情報、車両の全長、車両の全幅等の車両情報とに基づいて車両の進行予測軌跡を算出する。そして、車両の進行予測軌跡に基づいて合成境界線を設定し、その合成境界線に基づいて、画像処理部5で視点変換された画像の合成を行い、ディスプレイ9に表示する。
図3は、アッカーマン理論曲線に基づき車両の進行予測軌跡を算出する例を示す図である。10は車両、θはハンドル舵角検出部により検出されたハンドル舵角、Lは車両情報記憶部7に記憶されたホイールベース情報、11は車両10の進行予測軌跡の回転中心、Xは車両10の進行予測軌跡の回転中心11から内輪側の前輪までの距離である。
また、車両10の内輪側の前輪と車両10の進行予測軌跡の回転中心11と車両10の内輪側の後輪がなす角度は、ハンドル舵角検出部により検出されたハンドル舵角θとなる。
したがって、車両の進行予測軌跡の回転中心11から車両内輪側の前輪までの距離Xは、ハンドル舵角検出部により検出されたハンドル舵角θ、車両情報記憶部7に記憶されたホイールベース情報Lを用いると、数1により算出することができる。
Figure 2007251880
輪までの距離Xおよび車両情報記憶部7に記憶された車両の全長や車両の全幅等の車両情報とに基づいて、車両10の進行予測軌跡の回転中心11を中心とした車両10の隅を通る円弧12〜15を算出する。この円弧12〜15を車両10が進行すると予測される進行予測軌跡とする。
図4は、本発明における車両用画像表示装置の画像合成処理のフローチャートを示すものであり、この制御は主として出力制御部8によって実行されるものであり、この制御は車両のイグニッションキーがオンにされてからオフにされるまで繰り返し実行される。
車両の動作開始に伴い、撮像カメラ1〜4は車両周囲を撮像し、その画像信号が画像処理部5に出力される。画像処理部5は、それぞれの画像信号を車両の真上方向から見下ろした視点に変換し、その変換された画像信号を出力制御部8へ供給する(ステップ101)。出力制御部8は、舵角センサーの出力値を読み取り、ハンドル舵角を読み込む(ステップ102)。出力制御部8は、車両情報記憶部7からホイールベース情報、車両の全長、車両の全幅等の車両情報を読み出す(ステップ103)。
ステップ102で読み込んだハンドル舵角とステップ103で読み出したホイールベース情報、車両の全長、車両の全幅等の車両情報に基づき車両の進行予測軌跡を算出する(ステップ104)。
出力制御部8は、ステップ104で算出した進行予測軌跡に基づき合成境界線の設定を行う(ステップ105)。出力制御部8はステップ105で設定した合成境界線とステップ101により入力された視点変換画像を合成し、得られた合成画像をディスプレイ9に表示する(ステップ106)。
次に、ステップ105による合成境界線の設定の詳細について説明する。図5は合成境界線設定において出力制御部8が実行する具体的動作を示すフローチャートである。
まず、出力制御部8は、ステップ102で読み込んだハンドル舵角情報から車両の進行予測軌跡12〜15が直進であるか否かを判定する(ステップ107)。
ステップ107により、車両の進行予測軌跡12〜15が直進であると判定された場合、出力制御部8は、ステップ104において算出された車両の進行予測軌跡12〜15を合成境界線として設定する(ステップ108)。したがって、図6に示すように、車両の前方となる領域を、撮像カメラ1により撮像された画像信号Aで表示し、車両の側方となる領域を、撮像カメラ2、3により撮像された画像信号B、Cでそれぞれ表示し、車両の後方となる領域を、撮像カメラ4により撮像された画像信号Dで表示する。すなわち、ステップ106により、画像信号Aと画像信号Bは合成境界線12で合成され、画像信号Aと画像信号Cは合成境界線13で合成され、画像信号Bと画像信号Dは合成境界線14で合成され、画像信号Cと画像信号Dは合成境界線15で合成され、ディスプレイ9により表示される。
例えば、車両が前進しながら直進するとき場合、車両の前方を遮るような障害物は少なく、主に車両の側部に縁石、ガードレール、隣の車などが存在する。従来では図16に示すように、車両の側部に沿ってガードレール39などが存在するとき、画像信号Aと画像信号Bの合成境界線35や、画像信号Bと画像信号Dの合成境界線37において、ガードレール39の大きさにズレが生じてしまい、表示に違和感を与えてしまっていた。本発明では、図7に示すように、画像合成の際の合成境界線を車両の進行予測軌跡12〜15に設定するため、車両の側部の全域が撮像カメラ2により撮像された画像信号Bで表示される。したがって、ガードレール16が画像の境界にまたがることが解消もしくは減少され、合成境界線12〜15においてガードレールの形状が不連続となるような違和感を抑制することができる。
ステップ107により、車両の進行予測軌跡12〜15が直進以外であると判定された場合、車両内輪側の合成境界線の設定について、出力制御部8は、ステップ104により算出された車両内輪側のニ隅の進行予測軌跡を合成境界線として設定する(ステップ109)。
例えば、車両の左後方に障害物17が存在し、車両が後進しながら左折する場合において、車両内輪側のニ隅の進行予測軌跡12および14を合成境界線として設定することにより、車両内輪側の合成画像は時間変化に伴い、図8(a)〜(c)の順で表示される。よって、特許文献1の車両周辺モニタ装置では、図18(b)に示されるように、車両が地点18に到達した際、合成境界線46上に障害物44が存在することから、障害物44はボケて表示されたり、消失したりしてしまうことがあるが、本発明では、図8(b)に示されるように、車両が地点18に到達した際、障害物17が合成境界線14上を通過することがない。そのため、トップビュー表示において立体的な障害物を違和感なく、正確に表示することができる。
また、車両外輪側の合成境界線の設定について、出力制御部8は、ステップ104により算出された車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な直線を算出し(ステップ110)、その直線を合成境界線として設定する(ステップ111)。
例えば、ステップ107により車両の進行予測軌跡12〜15が左方向であると判定された場合、図9に示すように、出力制御部8は、ステップ104により算出された車両外輪側のニ隅の進行予測軌跡13および15において車両の隅を接点とした接線19および20を算出し、その接線に垂直な直線21および22を合成境界線として設定する。これにより、合成画像を表示する際にボケて表示されたり、消失したりする時間を最小に抑えることができる。
ここで、合成境界線を車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な直線と設定した場合に合成画像を表示する際にボケて表示されたり、消失したりする時間を最小に抑えることができる原理について説明する。
図10(a)〜(c)は車両が一定速度で微小時間、後進しながら左折している図であり、図10(a)は合成境界線を車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線を算出し、その接線に垂直な直線と設定した場合、図10(b)は合成境界線を車両の後部バンパーに対して垂直な直線で設定した場合、図10(c)は合成境界線を車両の後部バンパーに対して平行な直線で設定した場合である。
23は車両、24は障害物、25はステップ104で算出した車両右後部の隅の進行予測軌跡である。但し、進行予測軌跡25は実際には曲線となるが、微小時間の進行予測軌跡であるため、車両右後部の隅を接点とした接線で近似している。
図10(a)に示すように合成境界線を車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な直線26と設定した場合、合成境界線が障害物24上に存在するのは車両23がEF区間を走行している時である。一方、合成境界線を車両23の後部バンパーに対して垂直な直線27で設定した場合、合成境界線が障害物24上に存在するのは、図10(b)に示すように、車両23がGH区間を走行している時となる。また、合成境界線を車両23の後部バンパーに対して平行な直線28で設定した場合、合成境界線が障害物24上に存在するのは、図10(c)に示すように、車両23がIJ区間を走行している時となる。以上より、障害物24が合成境界線上に存在する区間の長さが最小となる場合は、合成境界線を車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な直線26と設定した場合である。したがって、合成境界線を車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な直線26と設定することにより、障害物24が合成画像を表示する際にボケて表示されたり、消失したりする時間を最小にすることができる。
以上、上記フローチャートにより、ハンドルを左に回した場合は、図11に示すように、画像信号Aと画像信号Bは車両内輪側の進行予測軌跡12を合成境界線として合成され、画像信号Aと画像信号Cは車両外輪側の進行予測軌跡において車両の隅を接点とした接線に垂直な直線21を合成境界線として合成され、画像信号Bと画像信号Dは車両内輪側の進行予測軌跡14を合成境界線として合成され、画像信号Cと画像信号Dは車両外輪側の進行予測軌跡において車両の隅を接点とした接線に垂直な直線22を合成境界線として合成され、ディスプレイ9により表示される。
また、ハンドルを右に回した場合は、図12に示すように、画像信号Aと画像信号Bは車両外輪側の進行予測軌跡12において車両の隅を接点とした接線に垂直な直線29を合成境界線として合成され、画像信号Aと画像信号Cは車両内輪側の進行予測軌跡13を合成境界線として合成され、画像信号Bと画像信号Dは車両外輪側の進行予測軌跡において車両の隅を接点とした接線に垂直な直線30を合成境界線として合成され、画像信号Cと画像信号Dは車両内輪側の進行予測軌跡15を合成境界線として合成され、ディスプレイ9により表示される。
本実施例では、車両内輪側の合成境界線の設定において、車両内輪側の隅の進行予測軌跡を合成境界線として設定としたが、車両の進行予測軌跡のような曲線を合成境界線として設定すると、ステップ106による画像合成処理の演算量が増大してしまい、車両用画像表示装置の性能により、リアルタイムでディスプレイ9に表示することが困難となる可能性がある。その際には、ハンドルを左に回した場合は、図13に示すように、車両内輪側の合成境界線を、ステップ104により算出される車両内輪側のニ隅の進行予測軌跡12および14において車両の隅を接点とした接線31および32に設定し、ハンドルを右に回した場合は、図14に示すように、車両内輪側の合成境界線を、ステップ104により算出される車両内輪側のニ隅の進行予測軌跡13および15において車両の隅を接点とした接線33および34に設定する。これにより、画像合成時において合成境界線を直線とすることができ、車両内輪側の合成処理の演算量を、車両内輪側のニ隅の進行予測軌跡を合成境界線として設定する場合と比較して削減することができると共に、トップビュー表示において立体的な障害物を違和感なく、正確に表示することができる。
上記実施例では、4台の撮像カメラ1〜4を用いてトップビュー表示を行う例を示したが、撮像カメラの数はこれに限定されるものではない。
上記実施例では、車両の全周囲の合成画像を生成する例を示したが、これに限らず、車両の前方、後方または側部など車両周辺の一部の画像を生成するシステムであってもよい。
以上、本発明の実施の形態について詳述したが、本発明に係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
本実施例の車両用画像表示装置によれば、車両の進行予測軌跡に応じて画像の合成境界線を変更するようにしたので、トップビュー表示において立体的な障害物を違和感なく、正確に表示することができ、事前に危険を報知することができる。
本発明に係る車両用画像表示装置は、車両等の安全運転支援システムとして利用することができる。利用態様として、ナビゲーション装置や他のコンピュータ等の電子装置と機能的に結合することが可能である。
本発明に係る車両用画像表示装置の構成図である。 本発明における撮像カメラの設置例と撮像領域を示す図である。 車両の進行予測軌跡を算出する例を示す図である。 本発明における車両用画像表示装置の画像合成処理のフローチャートである。 合成境界線設定の動作を示すフローチャートである。 車両の進行予測軌跡が直進である場合の合成境界線の設定方法を示す図である。 車両の進行予測軌跡が直進である場合の表示結果の一例を示す図である。 車両内輪側のニ隅の進行予測軌跡を合成境界線した場合の車両内輪側における合成画像の表示結果の一例を示す図である。 車両の進行予測軌跡が直進以外であると判定された場合の車両内輪側の合成境界線の設定方法を示す図である。 合成境界線を車両外輪側の進行予測軌跡において車両の隅を接点とした接線に垂直な直線と設定した場合に障害物がボケて表示されたり、消失したりする時間を最小に抑えることができる原理を説明する図である。 ハンドルを左に回した場合の合成境界線の設定方法を示す図である。 ハンドルを右に回した場合の合成境界線の設定方法を示す図である。 ハンドルを左に回し、車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に設定した場合の合成境界線の設定方法を示す図である。 ハンドルを右に回し、車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に設定した場合の合成境界線の設定方法を示す図である。 従来の合成境界線の設定方法を示す図である。 従来の画像合成方法において合成境界線上でガードレールが消失して表示される図である。 従来の画像合成方法において車両が後進しながら左折する場合に障害物が消失して表示される図である。 特許文献1の車両周辺モニタ装置の画像合成方法を説明する図である。
符号の説明
10、23、40、43・・車両
11・・進行予測軌跡の回転中心
12、13、14、15、25、42、45・・進行予測軌跡
16、39・・ガードレール
17、24、41、44・・障害物
18・・進行予測軌跡上の地点
19、20、26・・車両外輪側の進行予測軌跡における車両の隅を接点とした接線
21、22、29、30・・車両外輪側の合成境界線
27・・後部バンパーに対して垂直な直線
28・・後部バンパーに対して平行な直線
31、32、33、34・・車両内輪側の進行予測軌跡における車両の隅を接点とした接線
35、36、37、38・・従来の画像合成方法における合成境界線
46・・特許文献1の車両用モニタ装置の合成境界線

Claims (10)

  1. 車両の複数の個所にそれぞれ設置された撮像カメラにより撮像された画像を基に、所定の視点から見た合成画像を生成して表示する車両用画像表示装置において、
    車両の進行予測軌跡を算出する予測軌跡算出手段と、
    該予測軌跡算出手段により算出された進行予測軌跡が直進であるか否かを判定する直進判定手段と、
    該予測軌跡算出手段により算出された予測軌跡と前記直進判定手段の判定結果とに基づいて、前記複数の撮像カメラで撮像された画像を合成する際の画像の合成境界線を設定する合成境界線設定手段と、
    該合成境界線設定手段により設定された合成境界線に基づいて前記複数の撮像カメラで撮像した画像を合成する画像合成手段と、
    前記画像合成手段により合成された車両周辺の画像を表示する表示手段と、
    を備えたことを特徴とする車両用画像表示装置。
  2. 前記直進判定手段により進行予測軌跡が直進であると判定された場合、前記合成境界線設定手段は、前記進行予測軌跡を前記合成境界線として設定することを特徴とする請求項1記載の車両用画像表示装置。
  3. 前記直進判定手段により進行予測軌跡が直進以外であると判定された場合、前記合成境界線設定手段は、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡を前記合成境界線として設定すると共に、前記進行予測軌跡における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定することを特徴とする請求項1記載の車両用画像表示装置。
  4. 前記合成境界線設定手段は、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線を前記合成境界線として設定すると共に、前記進行予測線における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定することを特徴とする請求項1記載の車両用画像表示装置。
  5. 車両のハンドル舵角を検出するハンドル舵角検出手段と、車両情報を記憶する車両情報記憶手段とを更に備え、
    前記予測軌跡算出手段は、前記ハンドル舵角検出手段の検出結果と、前記車両情報記憶手段の車両情報に基づいて、前記進行予測軌跡を算出することを特徴とする請求項1〜4のいずれか一項に記載の車両用画像表示装置。
  6. 車両の複数の個所にそれぞれ設置された撮像カメラにより撮像された画像を基に、所定の視点から見た合成画像を生成して表示する車両用画像表示装置の画像表示方法において、
    車両の進行予測軌跡を算出し、
    該進行予測軌跡が直進であるか否かを判定し、
    該進行予測軌跡と該進行予測軌跡が直進であるか否かの判定結果とに基づいて、前記複数の撮像カメラで撮像された画像を合成する際の画像の合成境界線を設定し、
    該合成境界線に基づいて前記複数の撮像カメラで撮像した画像を合成することを特徴とした車両用画像表示装置の画像合成方法。
  7. 該進行予測軌跡が直進であると判定された場合、該進行予測軌跡を前記合成境界線に設定することを特徴とする請求項6記載の車両用画像表示装置の画像合成方法。
  8. 該進行予測軌跡が直進以外であると判定された場合、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡を前記合成境界線として設定すると共に、前記進行予測軌跡における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定することを特徴とする請求項6記載の車両用画像表示装置の画像合成方法。
  9. 該進行予測軌跡が直進以外であると判定された場合、前記進行予測軌跡における車両内輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線を前記合成境界線として設定すると共に、前記進行予測線における車両外輪側のニ隅の進行予測軌跡において車両の隅を接点とした接線に垂直な線を前記合成境界線として設定することを特徴とする請求項6記載の車両用画像表示装置の画像合成方法。
  10. 車両のハンドル舵角を検出し、
    車両情報記憶データから車両情報を取得し、
    前記進行予測軌跡は、前記ハンドル舵角の検出結果と、前記車両情報に基づいて算出することを特徴とする請求項6〜9のいずれか一項に記載の車両用画像表示装置の画像合成方法。
JP2006076022A 2006-03-20 2006-03-20 車両用画像表示装置および画像合成方法 Expired - Fee Related JP4674814B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006076022A JP4674814B2 (ja) 2006-03-20 2006-03-20 車両用画像表示装置および画像合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006076022A JP4674814B2 (ja) 2006-03-20 2006-03-20 車両用画像表示装置および画像合成方法

Publications (2)

Publication Number Publication Date
JP2007251880A true JP2007251880A (ja) 2007-09-27
JP4674814B2 JP4674814B2 (ja) 2011-04-20

Family

ID=38595659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006076022A Expired - Fee Related JP4674814B2 (ja) 2006-03-20 2006-03-20 車両用画像表示装置および画像合成方法

Country Status (1)

Country Link
JP (1) JP4674814B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011036892A1 (ja) * 2009-09-24 2011-03-31 パナソニック株式会社 運転支援表示装置
JP2011155490A (ja) * 2010-01-27 2011-08-11 Honda Motor Co Ltd 運転支援装置
EP2431227A1 (en) * 2010-09-17 2012-03-21 Nissan Motor Co., Ltd. Vehicle image display apparatus and method
US10046700B2 (en) 2012-05-22 2018-08-14 Mitsubishi Electric Corporation Image processing device
JP2019074850A (ja) * 2017-10-13 2019-05-16 株式会社デンソー 画像処理装置
JP2023076997A (ja) * 2021-11-24 2023-06-05 本田技研工業株式会社 制御装置、制御方法、及び制御プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002114098A (ja) * 2000-06-30 2002-04-16 Matsushita Electric Ind Co Ltd 描画装置
JP2002166802A (ja) * 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002114098A (ja) * 2000-06-30 2002-04-16 Matsushita Electric Ind Co Ltd 描画装置
JP2002166802A (ja) * 2000-11-30 2002-06-11 Toyota Motor Corp 車両周辺モニタ装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011036892A1 (ja) * 2009-09-24 2011-03-31 パナソニック株式会社 運転支援表示装置
US8655019B2 (en) 2009-09-24 2014-02-18 Panasonic Corporation Driving support display device
JP2011155490A (ja) * 2010-01-27 2011-08-11 Honda Motor Co Ltd 運転支援装置
EP2431227A1 (en) * 2010-09-17 2012-03-21 Nissan Motor Co., Ltd. Vehicle image display apparatus and method
US10046700B2 (en) 2012-05-22 2018-08-14 Mitsubishi Electric Corporation Image processing device
JP2019074850A (ja) * 2017-10-13 2019-05-16 株式会社デンソー 画像処理装置
JP2023076997A (ja) * 2021-11-24 2023-06-05 本田技研工業株式会社 制御装置、制御方法、及び制御プログラム
JP7366982B2 (ja) 2021-11-24 2023-10-23 本田技研工業株式会社 制御装置、制御方法、及び制御プログラム

Also Published As

Publication number Publication date
JP4674814B2 (ja) 2011-04-20

Similar Documents

Publication Publication Date Title
JP3695319B2 (ja) 車両周辺モニタ装置
EP2974909B1 (en) Periphery surveillance apparatus and program
JP4687160B2 (ja) 周辺監視装置
JP5337878B2 (ja) 運転支援装置
US11528413B2 (en) Image processing apparatus and image processing method to generate and display an image based on a vehicle movement
JP4883977B2 (ja) 車両用画像表示装置
JP4914458B2 (ja) 車両周辺表示装置
JP5099451B2 (ja) 車両周辺確認装置
WO2016002163A1 (ja) 画像表示装置、画像表示方法
US10179608B2 (en) Parking assist device
JP5810773B2 (ja) 二輪車の後方映像表示装置
JP4662832B2 (ja) 車両用画像表示装置
CN108886602B (zh) 信息处理装置
JP2005112004A (ja) 車両後退支援装置および方法
JP2008013015A (ja) 車両周辺画像生成装置および画像切替方法
JP5516988B2 (ja) 駐車支援装置
JP2007223338A (ja) 表示システム、移動体、表示方法、表示プログラムおよびその記録媒体
JP6760122B2 (ja) 周辺監視装置
JP2006131213A (ja) 自動二輪車の後方視認装置
JP4674814B2 (ja) 車両用画像表示装置および画像合成方法
JP2012056428A (ja) 運転支援装置
JP5309891B2 (ja) 駐車支援装置
JP2020068515A (ja) 画像処理装置
JP7006460B2 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法、およびプログラム
JP2007124097A (ja) 車両周辺視認装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080417

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110120

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110120

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140204

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4674814

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees