JP6946963B2 - 重畳画像表示装置及びコンピュータプログラム - Google Patents

Description

本発明は、車両の走行支援を行う重畳画像表示装置及びコンピュータプログラムに関する。

従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、ヘッドアップディスプレイ（以下、ＨＵＤという）やウインドウシールドディスプレイ（以下、ＷＳＤという）のように運転者の周辺環境（風景）に重畳する画像を表示することによって、情報の提供を行う装置がある。

例えば、特開２０１３−７９９３０号公報には、案内経路に沿って車両の進行方向を示す矢印や施設のジャンルを示すマーク等の複数種類の案内画像を、ＨＵＤを用いて路面から離れた運転者の頭上に表示することについて開示されている。

特開２０１３−７９９３０号公報（図４）

ここで、上記特許文献１に記載の技術では、運転者に運転動作の変更を促す案内画像（例えば右左折を案内する矢印）と運転者に運転動作の変更を促さない案内画像（例えば直進を案内する矢印）は、いずれも同じ表示態様で運転者の頭上に表示されていた。その結果、運転者に運転動作の変更を促さない案内画像、即ち、運転操作を行うにあたって視認する必要性の薄い案内画像についても運転者の頭上に表示されることとなるので、運転者が案内を煩わしいと感じる問題があった。

本発明は前記従来における問題点を解消するためになされたものであり、運転操作を行うにあたって視認すべき案内画像についてはより明確に運転者に視認させる一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者が煩わしさを感じさせることのない重畳画像表示装置及びコンピュータプログラムを提供することを目的とする。

前記目的を達成するため本発明に係る重畳画像表示装置は、車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置であって、前記周辺環境における光源からの光の照射態様を取得する照射態様取得手段を有し、前記画像は、運転者に運転動作の変更を促す第１の案内画像と運転者に運転動作の変更を促さない第２の案内画像との少なくとも一方を含み、前記第１の案内画像の明るさについては前記光源からの光が照射される範囲を考慮せず、前記第２の案内画像の明るさについては前記光源からの光が照射される範囲において照射されない範囲よりも明るく表示する。

また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置を、前記周辺環境における光源からの光の照射態様を取得する照射態様取得手段と、前記画像として運転者に運転動作の変更を促す第１の案内画像と運転者に運転動作の変更を促さない第２の案内画像との少なくとも一方を表示する案内画像表示手段と、して機能させる為のコンピュータプログラムであって、前記第１の案内画像の明るさについては前記光源からの光が照射される範囲を考慮せず、前記第２の案内画像の明るさについては前記光源からの光が照射される範囲において照射されない範囲よりも明るく表示する。

前記構成を有する本発明に係る重畳画像表示装置及びコンピュータプログラムによれば、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき案内画像については光源に依存しない明るさとすることでより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。

本実施形態に係る重畳画像表示装置の概略構成図である。 本実施形態に係るナビゲーション装置を示したブロック図である。 本実施形態に係る走行支援処理プログラムのフローチャートである。 ３次元地図情報に基づいて生成される３次元立体地図を示した図である。 第１案内画像を配置した後の３次元立体地図を示した図である。 第２案内画像及び光源を配置した後の３次元立体地図を示した図である。 ＨＵＤに対して表示する第１案内画像及び第２案内画像の生成方法を説明した図である。 車両の乗員から視認される第１案内画像及び第２案内画像の虚像の例を示した図である。 表示範囲決定処理のサブ処理プログラムのフローチャートである。

以下、本発明に係る重畳画像表示装置を具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係る重畳画像表示装置１の概略構成について図１を用いて説明する。図１は本実施形態に係る重畳画像表示装置１の概略構成図である。

図１に示すように重畳画像表示装置１は、車両２に搭載されたナビゲーション装置３と、同じく車両２に搭載されるとともにナビゲーション装置３と接続されたヘッドアップディスプレイ装置（以下、ＨＵＤという）４とを基本的に有する。

ここで、ナビゲーション装置３は、目的地までの推奨経路を探索したり、サーバから取得したりメモリに格納された地図データに基づいて車両２の現在位置周辺の地図画像を表示したり、設定された案内経路に沿った走行案内をＨＵＤ４とともに行う機能を有する。尚、上記機能の全てをナビゲーション装置３が備えている必要はなく、少なくとも案内経路に沿った走行案内を行う機能を有していれば本願発明を構成することが可能である。尚、ナビゲーション装置３の構造の詳細については後述する。

一方、ＨＵＤ４は、車両２のダッシュボード５内部に設置されており、内部には映像が表示される映像表示面である液晶ディスプレイ６を有する。そして、液晶ディスプレイ６に投射された映像を、後述のようにＨＵＤ４が備える凹面鏡７等を介し、更に運転席の前方のフロントウィンドウ８に反射させて車両２の乗員９に視認させるように構成されている。尚、液晶ディスプレイ６に表示される映像としては、車両２に関する情報や乗員９の運転の支援の為に用いられる各種情報がある。例えば乗員９に対して警告対象となる対象物（他車両や歩行者）に対する警告、ナビゲーション装置３で設定された案内経路や案内経路に基づく案内情報（右左折方向を示す矢印等）、路面に表示する警告（追突注意、制限速度等）、現在車速、広告画像、施設情報、案内標識、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組等がある。

また、本実施形態のＨＵＤ４では、フロントウィンドウ８を反射して乗員９が液晶ディスプレイ６に表示された映像を視認した場合に、乗員９にはフロントウィンドウ８の位置ではなく、フロントウィンドウ８の先の遠方の位置に液晶ディスプレイ６に表示された映像が虚像１０として視認されるように構成される。また、虚像１０は車両前方の周辺環境（風景、実景）に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物（路面、建築物、警告対象となる動体物等）に重畳させて表示させることも可能である。尚、乗員９が視認できる虚像１０は液晶ディスプレイ６に表示された映像であるが、凹面鏡７やその他のミラーを介することによって上下方向や左右方向が反転する場合があり、それらの反転を考慮して液晶ディスプレイ６の映像の表示を行う必要がある。また、凹面鏡７を介することによってサイズも変更する。

ここで、虚像１０を生成する位置、より具体的には乗員９から虚像１０までの距離（以下、結像距離という）Ｌについては、ＨＵＤ４が備える凹面鏡７の曲率、液晶ディスプレイ６と凹面鏡７との相対位置等によって適宜設定することが可能である。例えば、凹面鏡７の曲率が固定であれば、液晶ディスプレイ６において映像の表示された位置から凹面鏡７までの光路に沿った距離（光路長）によって結像距離Ｌが決定される。例えば結像距離Ｌが２．５ｍとなるように光路長が設定されている。

また、本実施形態では車両前方の周辺環境に重畳する画像を表示する手段としてＨＵＤ４を用いているが、他の手段を用いても良い。例えば、フロントウィンドウ８に対して映像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。ＷＳＤでは、フロントウィンドウ８をスクリーンとしてプロジェクタから映像を表示しても良いし、フロントウィンドウ８を透過液晶ディスプレイとしても良い。ＷＳＤによってフロントウィンドウ８に対して表示された画像は、ＨＵＤ４と同様に車両前方の周辺環境に重畳する画像となる。

更に、後述のフロントカメラ１１で撮像した車両前方の周辺環境を車内の液晶ディスプレイに表示し、同一の液晶ディスプレイ内において表示された周辺環境に重畳する画像を表示することも可能である。その場合においても液晶ディスプレイに表示された画像は、ＨＵＤ４と同様に車両前方の周辺環境に重畳する画像となる。

また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ１１が設置される。フロントカメラ１１は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ１１により撮像された撮像画像に対して画像処理が行われることによって、フロントウィンドウ８越しに乗員９に視認される前方環境（即ち虚像１０が重畳される環境）の状況等が検出される。尚、フロントカメラ１１の代わりにミリ波レーダ等のセンサを用いても良い。

また、車両のインストルメントパネルの上面には車内カメラ１２が設置される。車内カメラ１２は、例えばＣＣＤ等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。そして、運転席に座った乗員９の顔を撮像する。そして、車内カメラ１２により撮像された撮像画像に対して画像処理が行われることによって、乗員９の目の位置（視線開始点）や視線方向を検出する。

次に、上記重畳画像表示装置１を構成するナビゲーション装置３の概略構成について図２を用いて説明する。図２は本実施形態に係るナビゲーション装置３を示したブロック図である。

図２に示すように本実施形態に係るナビゲーション装置３は、ナビゲーション装置３が搭載された車両２の現在位置を検出する現在位置検出部１３と、各種のデータが記録されたデータ記録部１４と、入力された情報に基づいて、各種の演算処理を行うナビゲーションＥＣＵ１５と、ユーザからの操作を受け付ける操作部１６と、ユーザに対して車両周辺の地図や施設の関する施設情報を表示する液晶ディスプレイ１７と、経路案内に関する音声ガイダンスを出力するスピーカ１８と、記憶媒体であるＤＶＤを読み取るＤＶＤドライブ１９と、ＶＩＣＳ（登録商標：Vehicle Information and Communication System）センタ等の情報センタとの間で通信を行う通信モジュール２０と、を有する。また、ナビゲーション装置３はＣＡＮ等の車載ネットワークを介して、前述したＨＵＤ４、フロントカメラ１１及び車内カメラ１２等が接続されている。

以下に、ナビゲーション装置３が有する各構成要素について順に説明する。
現在位置検出部１３は、ＧＰＳ２１、車速センサ２２、ステアリングセンサ２３、ジャイロセンサ２４等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ２２は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションＥＣＵ１５に出力する。そして、ナビゲーションＥＣＵ１５は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記４種類のセンサをナビゲーション装置３が全て備える必要はなく、これらの内の１又は複数種類のセンサのみをナビゲーション装置３が備える構成としても良い。

また、データ記録部１４は、外部記憶装置及び記録媒体としてのハードディスク（図示せず）と、ハードディスクに記録された地図情報ＤＢ３１や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド（図示せず）とを備えている。尚、データ記録部１４はハードディスクの代わりにフラッシュメモリやメモリーカードやＣＤやＤＶＤ等の光ディスクを有していても良い。また、地図情報ＤＢ３１は外部のサーバに格納させ、ナビゲーション装置３が通信により取得する構成としても良い。

ここで、地図情報ＤＢ３１は、２次元地図情報３３と３次元地図情報３４とがそれぞれ記憶される。２次元地図情報３３は、一般的なナビゲーション装置３において用いられる地図情報であり、例えば、道路（リンク）に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。

一方、３次元地図情報３４は、平面だけではなく高さ情報についても有し、３次元で地図を表現する為の地図情報である。特に本実施形態では３次元で道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等を表現する為の地図情報とする。尚、３次元地図情報３４としては上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板以外の情報についても含めても良い。例えば、街路樹や路面標示等についても３次元で表現する為の情報を含めても良い。特に本実施形態では地図上に存在する光源（例えば道路周辺に配置された街路灯、発光する看板など）の位置を特定する情報についても含まれる。また、３次元地図情報３４としては３次元空間上に上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の各オブジェクトを配置した地図そのものを記憶しても良いし、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）を記憶しても良い。３次元で地図を表現する為に必要な情報が格納されている場合には、ナビゲーション装置３は、必要なタイミングで３次元地図情報３４として記憶された情報を用いて、対象エリアを３次元で表現した地図を生成する。

そして、ナビゲーション装置３は、液晶ディスプレイ１７における地図画像の表示、案内経路の探索等の一般的な機能については２次元地図情報３３を用いて行う。また、後述のように案内画像の表示に係る処理については２次元地図情報３３に加えて３次元地図情報３４についても用いて行う。

一方、ナビゲーションＥＣＵ（エレクトロニック・コントロール・ユニット）１５は、ナビゲーション装置３の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのＣＰＵ４１、並びにＣＰＵ４１が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるＲＡＭ４２、制御用のプログラムのほか、後述の走行支援処理プログラム（図３）等が記録されたＲＯＭ４３、ＲＯＭ４３から読み出したプログラムを記憶するフラッシュメモリ４４等の内部記憶装置を備えている。尚、ナビゲーションＥＣＵ１５は、処理アルゴリズムとしての各種手段を有する。例えば、撮像画像取得手段は、車両の運転者の視線前方の周辺環境を撮像した撮像画像を取得する。地図情報取得手段は、３次元地図情報３４を取得する。光源位置取得手段は、光源の位置を取得する。照合手段は、撮像画像と３次元地図情報３４を照合する。画像配置手段は、照合手段の照合結果に基づいて、３次元地図情報３４内において案内画像と光源とを配置する。視認態様取得手段は、３次元地図情報内における車両の位置から案内画像を視認した場合の案内画像の視認態様を取得する。

操作部１６は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ（図示せず）を有する。そして、ナビゲーションＥＣＵ１５は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部１６は液晶ディスプレイ１７の前面に設けたタッチパネルを有していても良い。また、マイクと音声認識装置を有していても良い。

また、液晶ディスプレイ１７には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、本実施形態では情報の表示手段としてＨＵＤ４を備えているので、上記地図画像等の表示をＨＵＤ４で行う構成とすれば液晶ディスプレイ１７は省略しても良い。

また、スピーカ１８は、ナビゲーションＥＣＵ１５からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。

また、ＤＶＤドライブ１９は、ＤＶＤやＣＤ等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報ＤＢ３１の更新等が行われる。尚、ＤＶＤドライブ１９に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。

また、通信モジュール２０は、交通情報センタ、例えば、ＶＩＣＳセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やＤＣＭが該当する。

続いて、前記構成を有する重畳画像表示装置１の内、特にナビゲーション装置３において実行する走行支援処理プログラムについて図３に基づき説明する。図３は本実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のＡＣＣ電源(accessory power supply)がＯＮされた後に実行され、ＨＵＤ４を用いて車両２の乗員９に案内経路に沿った車両の進行方向の案内等の各種情報を提供するプログラムである。尚、以下の図３にフローチャートで示されるプログラムは、ナビゲーション装置３が備えているＲＡＭ４２やＲＯＭ４３に記憶されており、ＣＰＵ４１により実行される。

先ず、走行支援処理プログラムでは、ステップ（以下、Ｓと略記する）１においてＣＰＵ４１は、フロントカメラ１１によって車両前方の周辺環境（風景）を撮像した撮像画像を取得する。更に、ＣＰＵ４１は、地図情報ＤＢ３１から車両の現在位置周辺の３次元地図情報３４を読み出す。尚、３次元地図情報３４には、３次元で地図を表現する為に必要な情報（道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の３次元の座標データなど）が記憶される。

次に、Ｓ２においてＣＰＵ４１は、前記Ｓ１で読み出した３次元地図情報３４に基づいて、車両の現在位置周辺を示す３次元立体地図（３次元で建物や道路等を表現した地図）を生成する。具体的には、以下の処理を実行することにより３次元立体地図を生成する。

先ず、ＣＰＵ４１は、３次元地図情報３４から３次元空間上に道路、建築物、道路標識、看板等をモデリングしたオブジェクト（形状データ）を取得する。尚、ＣＰＵ４１は、予めモデリングしてＤＢに格納しておいたオブジェクトの内、該当するオブジェクトを取得する構成としても良いし、Ｓ２においてモデリングを実施してオブジェクトを新たに作成する構成としても良い。モデリングを実施する場合には、３次元地図情報３４から道路及び道路周辺にある構造物（建築物、道路標識、看板等）の形状や位置を特定する情報を取得し、取得した情報に基づいてモデリング処理を行う。

ここで、モデリングとは３次元空間上においてモデル（物体）の形状を作成する処理であり、より具体的には各頂点の座標の決定や、境界線、面を表現する方程式のパラメータの決定などを行う。尚、モデリングについては公知の技術であるので詳細は省略する。そして、モデリングされたオブジェクト（形状データ）は、用途に応じて辺のみ表示する「ワイヤーフレームモデル」、面を表示する「サーフィスモデル」等の形で表現される。そして各オブジェクトが形成された３次元空間を３次元立体地図とする。

また、前記Ｓ２でＣＰＵ４１は、現在位置検出部１３で検出されたパラメータに基づいて、生成された３次元立体地図における自車両の現在位置及び方位についても特定する。尚、後述の３次元立体地図と撮像画像との照合の処理を容易化する為に、自車両の現在位置は特に自車両に設置されたフロントカメラ１１の設置位置とし、自車両の方位はフロントカメラ１１の光軸方向とするのが望ましい。

ここで、図４は前記Ｓ３で生成される３次元立体地図５１の一例を示した図である。図４に示すように３次元立体地図５１には、３次元空間に対して、道路や構造物（建築物、道路標識、看板等）を示す各オブジェクト５２が配置される。特に車両の現在位置周辺の道路や構造物を示す各オブジェクト５２が配置される。また、３次元立体地図５１には自車両の現在位置と方位を示す自車位置マーク５３についても配置される。

続いてＳ３においてＣＰＵ４１は、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図とを照合し、両者の間にズレが生じていないかを判定する。具体的にはＣＰＵ４１は、３次元立体地図に設定されている自車両の現在位置（より具体的にはフロントカメラ１１の設置位置であり高さも考慮する）を視点とし、自車両の方位を視線方向に設定し、設定された視点及び視線方向によって３次元立体地図を視認した際の像と、撮像画像とを照合する。尚、３次元立体地図には、歩行者や他車両等の動体物、樹木などの一部の固定物については含まれないので、それらに起因するズレは基本的には無視して判定する。また、ズレが生じていないとは両者が完全に一致する場合のみに限らず、ある程度の許容範囲内のズレが生じている場合においてもズレが生じていないとみなすのが望ましい。

そして、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図との間にズレが生じていないと判定された場合（Ｓ３：ＹＥＳ）には、Ｓ５へと移行する。それに対して、前記Ｓ１で取得した撮像画像と前記Ｓ２で生成された３次元立体地図との間にズレが生じていると判定された場合（Ｓ３：ＮＯ）には、Ｓ４へと移行する。

Ｓ４においてＣＰＵ４１は、前記Ｓ２で生成された３次元立体地図について、前記Ｓ１で取得した撮像画像と間のズレが小さくなるように３次元立体地図内に設定された自車両の現在位置及び方位を補正する。尚、３次元立体地図における自車両の現在位置及び方位は固定してオブジェクト側を補正しても良い。それによって、３次元立体地図内における正確な自車両の現在位置及び方位（より具体的にはフロントカメラ１１の設置位置と光軸方向）を特定することが可能となる。その後、Ｓ３へと戻る。

一方、Ｓ５においてＣＰＵ４１は、自車両や周辺の現在の状況に基づいて、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促す案内画像をＨＵＤ４により表示するか否かを判定する。ここで、本実施形態においてＨＵＤ４により表示対象となる案内画像としては、（１）運転者に運転動作の変更を促す案内画像（以下、第１案内画像という）と、（２）運転者に運転動作の変更を促さない案内画像（以下、第２案内画像という）とを含む。

（１）第１案内画像は、運転者が視認することによって運転動作の変更（例えばステアリング角の変更、アクセルやブレーキの踏み量の変更）を行わせることとなる案内画像である。例えば案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像、歩行者等の警告対象物に対する警告の画像等が該当する。
一方、（２）第２案内画像は、運転者が視認したとしても運転動作の変更（例えばステアリング角の変更、アクセルやブレーキの踏み量の変更）を行わせることが基本的に無い案内画像である。例えば案内経路に沿った今後の車両の走行経路を示すマークの画像、周辺にある施設を案内する画像等が該当する。

従って、前記Ｓ５では、例えば自車両が案内分岐点から所定距離以内に位置する場合や、自車両の周辺に警告対象となる警告対象物が存在する場合等に、運転動作の変更を促す第１案内画像をＨＵＤ４により表示すると判定される。

そして、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促す第１案内画像をＨＵＤ４により表示すると判定された場合（Ｓ５：ＹＥＳ）には、Ｓ６へと移行する。一方で、車両の走行支援を行う為の案内画像として、運転動作の変更を促す第１案内画像をＨＵＤ４により表示しないと判定された場合（Ｓ５：ＮＯ）には、Ｓ８へと移行する。

先ずＳ６においてＣＰＵ４１は、第１案内画像を重畳させる対象となる周辺環境の情報として、特に重畳させる領域の『位置』、『明るさ』、『色』を取得する。例えば、第１案内画像を路面に対して重畳させて表示する場合には、重畳させる路面の位置（３次元の位置座標）、路面の明るさ（輝度、明度）、路面（区画線等の路面に配置されたものも含む）の色（ＲＧＢ値）を取得する。一方、第１案内画像を建築物の壁面に対して重畳させて表示する場合には、重畳させる壁面の位置（３次元の位置座標）、壁面の明るさ（輝度、照度）、壁面の色（ＲＧＢ値）を取得する。尚、上記周辺環境の『位置』については３次元地図情報３４に基づいて特定し、『明るさ』、『色』についてはフロントカメラ１１で撮像した撮像画像に基づいて特定する。

次に、Ｓ７においてＣＰＵ４１は、表示対象となる第１案内画像を、前記Ｓ２で生成された３次元立体地図に対して配置する。ここで、第１案内画像については後述の第２案内画像と比較して重畳対象となる周辺環境に対して『位置』、『明るさ』、『色』が調和しない態様で配置する。

例えば、第１案内画像が案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像である場合には、案内分岐点を退出した後に車両が進行する進行路（例えば案内分岐点で左折する場合には、案内分岐点の左側に接続される道路）の路面に対して所定距離（例えば１ｍ）上方に離間した位置に鉛直方向に立てた状態で案内画像を配置する。即ち、第１案内画像を路面から離間して配置することにより、『位置』を重畳対象である路面と調和させないようにする。

また、配置される第１案内画像は、重畳対象となる周辺環境の色及び明るさと異なる表示色及び明るさで表示される。例えば、第１案内画像の重畳対象が路面である場合には、第１案内画像のＲＧＢ値や輝度を重畳させる路面（区画線等の路面に配置されたものも含む）と大きく異なる値とする。具体的には、第１案内画像を、路面の色とＲＧＢ値の数値差分が所定値以上（例えば５０以上）の色、或いは路面の色と反対色（例えば路面が青色であれば第１案内画像は黄色）で表示し、輝度が路面よりも所定値以上高く又は低くなるように表示する方法等が挙げられる。それによって、『明るさ』や『色』を重畳対象である路面と調和させないようにする。

ここで、図５は３次元立体地図５１に対して第１案内画像５４を配置した図である。図５に示すように第１案内画像５４は、案内分岐点５５を退出した後に車両が左側に接続される道路に進行することを案内する矢印の画像であるが、案内分岐点５５の左側に接続される道路の路面５６に対して所定距離（例えば１ｍ）上方に離間した位置に鉛直方向に立てた状態で配置される。また、第１案内画像５４は路面５６の色及び明るさと異なる表示色及び明るさで表示される。

その後、Ｓ８においてＣＰＵ４１は、自車両や周辺の現在の状況に基づいて、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促さない第２案内画像をＨＵＤ４により表示するか否かを判定する。

尚、第２案内画像は、上述したように運転者が視認したとしても運転動作の変更（例えばステアリング角の変更、アクセルやブレーキの踏み量の変更）を行わせることが基本的に無い案内画像である。例えば案内経路に沿った今後の車両の走行経路を示すマークの画像、周辺にある施設を案内する画像等が該当する。従って、前記Ｓ８では、例えばナビゲーション装置３において案内経路が設定されている場合や、自車両の周辺に案内対象となる施設が存在する場合等に、運転動作の変更を促さない第２案内画像をＨＵＤ４により表示すると判定される。

そして、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促さない第２案内画像をＨＵＤ４により表示すると判定された場合（Ｓ８：ＹＥＳ）には、Ｓ９へと移行する。一方で、車両の走行支援を行う為の案内画像として、運転動作の変更を促さない第２案内画像をＨＵＤ４により表示しないと判定された場合（Ｓ８：ＮＯ）には、Ｓ１１へと移行する。

先ずＳ９においてＣＰＵ４１は、第２案内画像を重畳させる対象となる周辺環境の情報として、特に重畳させる領域の『位置』、『明るさ』、『色』を取得する。詳細については前記Ｓ６と同様であるので説明は省略する。また、前記Ｓ９では周辺環境に光を照射する光源の位置についても取得する。光源としては、太陽、街路灯、発光する看板等がある。尚、太陽の位置は、例えば現在の日付や時刻から特定する。街路灯や発光する看板の位置は、３次元地図情報３４から特定する。

次に、Ｓ１０においてＣＰＵ４１は、表示対象となる第２案内画像を、前記Ｓ２で生成された３次元立体地図に対して配置する。ここで、第２案内画像については前述の第１案内画像と比較して重畳対象となる周辺環境に対して『位置』、『明るさ』、『色』が調和する態様で配置する。

例えば、第２案内画像が案内経路に沿った今後の車両の走行経路を示すマークの画像である場合には、車両が進行する道路の路面に重畳（路面上に位置）して案内画像を配置する。即ち、第２案内画像を路面上に配置することにより、『位置』を重畳対象である路面と調和するようにする。

また、配置される第２案内画像は、重畳対象となる周辺環境の色及び明るさと同一又は類似する表示色及び明るさで表示される。例えば、第２案内画像の重畳対象が路面である場合には、第２案内画像のＲＧＢ値や輝度を重畳させる路面（区画線等の路面に配置されたものも含む）と同一又は類似する値とする。具体的には、第２案内画像を、路面の色とＲＧＢ値の数値差分が所定値未満（例えば５０未満）の色、或いは路面の色と色相環において隣接又は所定角度以内にある色（例えば路面が青色であれば第２案内画像は紫色）で表示し、輝度の差が路面と所定値以内となるように表示する方法等が挙げられる。第２案内画像の表示色については、重畳対象となる路面に配置された区画線と同一又は類似する色（例えば、乳白色、黄色）とすることも可能である。それによって、『明るさ』や『色』を重畳対象である路面と調和するようにする。

また、第２案内画像の明るさを特定する場合には、ＣＰＵ４１は３次元立体地図に対して第２案内画像とともに前記Ｓ９で取得した光源についても配置する。そして、光源から第２案内画像への光の照射態様を３次元立体地図において特定し、特定された照射態様に基づいて第２案内画像の明るさを特定する。具体的には、光源からの光が照射される範囲については、光が照射されない範囲よりも明るい画像とする。

ここで、図６は３次元立体地図５１に対して第２案内画像６１を配置した図である。図６に示すように第２案内画像６１は、案内経路に沿った今後の車両の走行経路を示すマークの画像であるが、車両が走行する道路の路面６２上に平行に配置される。また、第２案内画像６１は路面６２の色及び明るさと同一又は類似する表示色及び明るさで表示される。更に、第２案内画像６１の内、３次元立体地図５１に対して配置された光源（例えば太陽）６３によって光が照射される範囲は照射されない範囲よりも明るく表示される。図６に示す例では、車両の右側に位置する建物によって陰になる範囲が、他の範囲よりも暗く表示されている。

次に、Ｓ１１においてＣＰＵ４１は、先ず第１案内画像や第２案内画像が配置された３次元立体地図を、車両（乗員）の視点から車両の進行方向に視認した画像（以下、視認画像という）を取得する。特に車両の視点は車両の乗員の目の位置とする。尚、乗員の目の位置については車内カメラ１２によって検出することが可能であり、前記Ｓ３での撮像画像と３次元立体地図の照合の結果、最終的に特定された車両の現在位置及び方位と、車内カメラ１２の検出結果を組み合わせることによって、３次元立体地図における乗員の目の位置を特定する。そして、視認画像は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、第１案内画像、第２案内画像等）を車両（乗員）の視点から車両の進行方向に視認した際に視認できる像であり、車両の乗員の視界に相当する。尚、視認画像については車両（乗員）の視点から視認した画像であれば、必ずしも車両の進行方向に視認した画像である必要は無い。但し、少なくとも視認画像に第１案内画像や第２案内画像が含まれる必要はある。

続いて、前記Ｓ１１においてＣＰＵ４１は、視認画像に含まれる第１案内画像及び第２案内画像の視認態様（色、明るさ、形状）を、ＨＵＤ４により表示対象とする第１案内画像及び第２案内画像の表示態様として記憶する。尚、視認画像に含まれる第１案内画像及び第２案内画像の色、明るさ及び形状は、３次元立体地図に配置された各オブジェクト（道路、建築物、道路標識、看板、第１案内画像、第２案内画像等）を車両（乗員）の視点から視認した際に視認できる第１案内画像及び第２案内画像の色、明るさ及び形状である。ここで、前記Ｓ１１で記憶される第１案内画像及び第２案内画像の形状は、図７に示すように第１案内画像５４及び第２案内画像６１が手前側に位置する各オブジェクト６８（例えば道路標識、建築物など）と重なって視認される場合には、重なる部分を除いた形状となる。一方で、第１案内画像５４及び第２案内画像６１が奥側に位置する各オブジェクト６９と重なって視認される場合には、重なる部分についても含む形状となる。

更に、Ｓ１２においてＣＰＵ４１は、３次元立体地図において配置された第１案内画像及び第２案内画像の位置を取得する。

その後、Ｓ１３においてＣＰＵ４１は、後述の表示範囲決定処理（図９）を行う。表示範囲決定処理では、ＨＵＤ４において第１案内画像及び第２案内画像を表示する範囲（フロントウィンドウ８に対して第１案内画像及び第２案内画像を投影する範囲、或いはＨＵＤ４の液晶ディスプレイ６に対して案内画像を表示する範囲）を決定する。

続いて、Ｓ１４においてＣＰＵ４１は、ＨＵＤ４に対して制御信号を送信し、ＨＵＤ４の液晶ディスプレイ６に対して前記Ｓ１１で記憶された色、明るさ及び形状の第１案内画像及び第２案内画像を、前記Ｓ１３で決定された表示範囲に表示する。その結果、第１案内画像及び第２案内画像の虚像が、車両の乗員から車両前方の風景に重畳して視認される。

ここで、図８は特に案内分岐点を退出した後の車両が進行する進行路の進行方向が左方向（即ち左折）である場合に、車両の乗員から視認される第１案内画像及び第２案内画像の虚像を示した図である。
図８に示すように、車両のフロントウィンドウ８越しには、案内分岐点５５を左折した後の進行路の路面に対して上方に離間した位置に重畳して、左方へ進むことを示す矢印の第１案内画像５４が虚像として表示されている。更に、車両が走行する道路の路面に重畳して、案内経路に沿った今後の車両の走行経路を示すマークの第２案内画像６１が虚像として表示されている。また、第１案内画像５４は重畳対象となる路面とは異なる色や明るさで表示される。従って、車両の乗員は周囲の景色とは区別して明確に第１案内画像５４の虚像を視認することが可能となる。一方、第２案内画像６１は重畳対象となる路面と同一又は類似する色や明るさで表示される。従って、車両の乗員は周囲の景色と調和して第２案内画像６１の虚像を視認することとなり、運転者に煩わしさを感じさせることが無い。
尚、図８に示す例では、第１案内画像５４の虚像と第２案内画像６１の虚像の両方を同時に表示しているが、車両の状況によっては第１案内画像５４の虚像のみを表示する状況もあれば第２案内画像６１の虚像のみを表示する状況もある。

次に、前記Ｓ１３において実行される表示範囲決定処理のサブ処理について図９に基づき説明する。図９は表示範囲決定処理のサブ処理プログラムのフローチャートである。

先ず、Ｓ２１においてＣＰＵ４１は、車両の乗員の目の位置を車内カメラ１２で撮像した撮像画像に基づいて検出する。尚、検出された目の位置は３次元の位置座標で特定される。

次に、Ｓ２２においてＣＰＵ４１は、ＨＵＤ４の表示がＯＮになっているか否かを判定する。尚、ＨＵＤ４の表示のＯＮ又はＯＦＦの切り替えは車両の乗員の操作によって行うことが可能である。また、周辺状況や車両の状態に基づいてＯＮ又はＯＦＦを自動で切り替えても良い。

そして、ＨＵＤ４の表示がＯＮになっていると判定された場合（Ｓ２２：ＹＥＳ）には、Ｓ２３へと移行する。一方、ＨＵＤ４の表示がＯＦＦになっていると判定された場合（Ｓ２２：ＮＯ）には、ＨＵＤ４による第１案内画像及び第２案内画像の虚像の表示を行うことなく終了する。

Ｓ２３においてＣＰＵ４１は、ＨＵＤ４によって画像を投影する対象となるフロントウィンドウ８の位置座標を取得する。尚、フロントウィンドウ８の位置座標は３次元の位置座標で特定される。

次に、Ｓ２４においてＣＰＵ４１は、前記Ｓ１２で取得された３次元立体地図において配置された第１案内画像及び第２案内画像の位置を特定する座標を、第１案内画像及び第２案内画像の位置座標として取得する。尚、第１案内画像及び第２案内画像の位置座標は同じく３次元の位置座標で特定される。

続いて、Ｓ２５においてＣＰＵ４１は、前記Ｓ２１、Ｓ２３及びＳ２４で取得された各位置座標に基づいて、フロントウィンドウ８における第１案内画像及び第２案内画像の投影範囲を決定する。更に、決定された投影範囲からＨＵＤ４の内部の液晶ディスプレイ６における第１案内画像及び第２案内画像の表示範囲についても決定する。その後、Ｓ１４へと移行し、決定された投影範囲や表示範囲に基づいてＨＵＤ４を用いた虚像の表示を行う。尚、ＨＵＤの表示がオフになるまで繰り返しＳ１１〜Ｓ１４の処理を行うこととなる。

以上詳細に説明した通り、本実施形態に係る重畳画像表示装置及び重畳画像表示装置において実行されるコンピュータプログラムによれば、運転者に運転動作の変更を促す第１案内画像と運転者に運転動作の変更を促さない第２案内画像を車両前方の周辺環境に重畳して視認させる場合において、第２案内画像を、第１案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる周辺環境に調和した表示態様で表示する（Ｓ５〜Ｓ１４）ので、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき第１案内画像についてはより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い第２案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。

尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、上記本実施形態では、ＨＵＤ４によって車両２のフロントウィンドウ８の前方に虚像を生成する構成としているが、フロントウィンドウ８以外のウィンドウの前方に虚像を生成する構成としても良い。また、ＨＵＤ４により映像を反射させる対象はフロントウィンドウ８自身ではなくフロントウィンドウ８の周辺に設置されたバイザー（コンバイナー）であっても良い。

また、本実施形態では、周辺環境に重畳する画像を表示する手段としてＨＵＤ４を用いているが、フロントウィンドウ８に対して画像を表示するウインドウシールドディスプレイ（ＷＳＤ）を用いても良い。或いはナビゲーション装置３の液晶ディスプレイ１７に表示した実景に、案内画像を重畳させる表示装置でもよい。

また、本実施形態では、『位置』、『明るさ』及び『色』の３つの要素について、第２案内画像を、第１案内画像よりも重畳対象となる周辺環境に調和した表示態様で表示しているが、『位置』、『明るさ』及び『色』の内、いずれか１又は２のみの要素を対象としても良い。

また、第１案内画像は運転者に運転動作の変更を促す案内に関する画像であれば上記例に限られない。同じく、第２案内画像は運転者に運転動作の変更を促さない案内に関する画像であれば上記例に限られない。

また、本実施形態では、走行支援処理プログラム（図３）の処理をナビゲーション装置３のナビゲーションＥＣＵ１５が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、ＨＵＤ４の制御部、車両制御ＥＣＵ、その他の車載器が実行する構成としても良い。尚、ＨＵＤ４の制御部が実行する場合には、本発明に係る重畳画像表示装置はＨＵＤ４のみで構成することも可能である。

また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、重畳画像表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。

例えば、第１の構成は以下のとおりである。
車両（２）に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置（１）であって、前記周辺環境における光源からの光の照射態様を取得する照射態様取得手段を有し、前記画像は、運転者に運転動作の変更を促す第１の案内画像（５４）と運転者に運転動作の変更を促さない第２の案内画像（６１）との少なくとも一方を含み、前記第１の案内画像の明るさについては前記光源からの光が照射される範囲を考慮せず、前記第２の案内画像の明るさについては前記光源からの光が照射される範囲において照射されない範囲よりも明るく表示する。
上記構成を有する重畳画像表示装置によれば、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき案内画像については光源に依存しない明るさとすることでより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。

また、第２の構成は以下のとおりである。
前記第１の案内画像（５４）は、路面に対して上方に離間して視認させる位置に表示され、前記第２の案内画像（６１）は、路面上に視認させる位置に表示されることで、位置を重畳対象となる前記路面に調和させる。
上記構成を有する重畳画像表示装置によれば、特に案内画像の表示位置に関して、運転操作を行うにあたって視認すべき案内画像については路面から離れた位置に表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については路面上に表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。

また、第３の構成は以下のとおりである。
前記第２の案内画像（６１）は、重畳対象となる前記路面の明るさ又は色と調和した表示態様で表示される。
上記構成を有する重畳画像表示装置によれば、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する路面の明るさ又は色と調和した表示態様で表示することによって、運転者に煩わしさを感じさせることについて防止することが可能となる。

また、第４の構成は以下のとおりである。
前記第１の案内画像（５４）は、重畳対象となる前記周辺環境の色と異なる表示色で表示され、前記第２の案内画像（６１）は、重畳対象となる前記周辺環境の色と同一又は類似する表示色で表示されることで、色を重畳対象となる前記周辺環境と調和させる。
上記構成を有する重畳画像表示装置によれば、特に案内画像の表示色に関して、運転操作を行うにあたって視認すべき案内画像については重畳する場所と異なる色で表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する場所と同一又は類似する色で表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。

また、第５の構成は以下のとおりである。
前記第１の案内画像（５４）は、重畳対象となる前記周辺環境の明るさとは異なる明るさで表示され、前記第２の案内画像（６１）は、重畳対象となる前記周辺環境の明るさと同一又は類似する明るさで表示されることで、明るさを重畳対象となる前記周辺環境と調和させる。
上記構成を有する重畳画像表示装置によれば、特に案内画像の明るさに関して、運転操作を行うにあたって視認すべき案内画像については重畳する場所と異なる明るさで表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する場所と同一又は類似する明るさで表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。

また、第６の構成は以下のとおりである。
３次元地図情報（３４）を取得する地図情報取得手段（４１）と、光源（６３）の位置を取得する光源位置取得手段（４１）と、前記撮像画像と３次元地図情報を照合する照合手段（４１）と、前記照合手段の照合結果に基づいて、３次元地図情報内において前記第１の案内画像と前記第２の案内画像と光源とを配置する画像配置手段（４１）と、３次元地図情報内における車両の位置から視認した場合の前記第１の案内画像（５４）と前記第２の案内画像（６１）の視認態様を取得する視認態様取得手段（４１）と、を有し、前記第１の案内画像及び前記第２の案内画像は、前記視認態様取得手段によって取得された視認態様に対応する表示態様で表示される。
上記構成を有する重畳画像表示装置によれば、車両前方の風景を撮像した撮像画像と３次元地図情報とを用いることによって、車両の運転者から視認できる形状及び明るさを有する第１の案内画像と第２の案内画像を容易に生成することが可能となる。

また、第７の構成は以下のとおりである。
前記第１の案内画像（５４）及び前記第２の案内画像（６１）は虚像として表示される。
上記構成を有する重畳画像表示装置によれば、車両の乗員の視線を進行方向前方からできる限り移動させることなく、案内画像を視認させることが可能となる。

１ 重畳画像表示装置
２ 車両
３ ナビゲーション装置
４ ＨＵＤ
８ フロントウィンドウ
９ 乗員
４１ ＣＰＵ
４２ ＲＡＭ
４３ ＲＯＭ
５１ ３次元立体地図
５２ オブジェクト
５４ 第１案内画像
６１ 第２案内画像
６３ 光源

Claims (8)

1. 車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置であって、
   前記周辺環境における光源からの光の照射態様を取得する照射態様取得手段を有し、
   前記画像は、運転者に運転動作の変更を促す第１の案内画像と運転者に運転動作の変更を促さない第２の案内画像との少なくとも一方を含み、
   前記第１の案内画像の明るさについては前記光源からの光が照射される範囲を考慮せず、前記第２の案内画像の明るさについては前記光源からの光が照射される範囲において照射されない範囲よりも明るく表示する重畳画像表示装置。
2. 前記第１の案内画像は、路面に対して上方に離間して視認させる位置に表示され、
   前記第２の案内画像は、路面上に視認させる位置に表示されることで、位置を重畳対象となる前記路面に調和させる請求項１に記載の重畳画像表示装置。
3. 前記第２の案内画像は、重畳対象となる前記路面の明るさ又は色と調和した表示態様で表示される請求項２に記載の重畳画像表示装置。
4. 前記第１の案内画像は、重畳対象となる前記周辺環境の色と異なる表示色で表示され、
   前記第２の案内画像は、重畳対象となる前記周辺環境の色と同一又は類似する表示色で表示されることで、色を重畳対象となる前記周辺環境と調和させる請求項１乃至請求項３のいずれかに記載の重畳画像表示装置。
5. 前記第１の案内画像は、重畳対象となる前記周辺環境の明るさとは異なる明るさで表示され、
   前記第２の案内画像は、重畳対象となる前記周辺環境の明るさと同一又は類似する明るさで表示されることで、明るさを重畳対象となる前記周辺環境と調和させる請求項１乃至請求項４のいずれかに記載の重畳画像表示装置。
6. 前記車両の運転者の視線前方の周辺環境を撮像した撮像画像を取得する撮像画像取得手段と、
   ３次元地図情報を取得する地図情報取得手段と、
   前記周辺環境における前記光源の位置を取得する光源位置取得手段と、
   前記撮像画像と３次元地図情報を照合する照合手段と、
   前記照合手段の照合結果に基づいて、３次元地図情報内において前記第１の案内画像と前記第２の案内画像と前記光源とを配置する画像配置手段と、
   ３次元地図情報内における車両の位置から視認した場合の前記第１の案内画像と前記第２の案内画像の視認態様を取得する視認態様取得手段と、を有し、
   前記第１の案内画像及び前記第２の案内画像は、前記視認態様取得手段によって取得された視認態様に対応する表示態様で表示される請求項１乃至請求項５のいずれかに記載の重畳画像表示装置。
7. 前記第１の案内画像及び前記第２の案内画像は虚像として表示される請求項１乃至請求項６のいずれかに記載の重畳画像表示装置。
8. 車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置を、
   前記周辺環境における光源からの光の照射態様を取得する照射態様取得手段と、
   前記画像として運転者に運転動作の変更を促す第１の案内画像と運転者に運転動作の変更を促さない第２の案内画像との少なくとも一方を表示する案内画像表示手段と、して機能させる為のコンピュータプログラムであって、
   前記第１の案内画像の明るさについては前記光源からの光が照射される範囲を考慮せず、前記第２の案内画像の明るさについては前記光源からの光が照射される範囲において照射されない範囲よりも明るく表示するコンピュータプログラム。

Images