JP2020085897A - 重畳画像表示装置及びコンピュータプログラム - Google Patents

重畳画像表示装置及びコンピュータプログラム Download PDF

Info

Publication number
JP2020085897A
JP2020085897A JP2019200358A JP2019200358A JP2020085897A JP 2020085897 A JP2020085897 A JP 2020085897A JP 2019200358 A JP2019200358 A JP 2019200358A JP 2019200358 A JP2019200358 A JP 2019200358A JP 2020085897 A JP2020085897 A JP 2020085897A
Authority
JP
Japan
Prior art keywords
image
vehicle
guide
guide image
image display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019200358A
Other languages
English (en)
Other versions
JP7484132B2 (ja
Inventor
賢二 渡邊
Kenji Watanabe
賢二 渡邊
鋭典 竹内
Toshinori Takeuchi
鋭典 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Publication of JP2020085897A publication Critical patent/JP2020085897A/ja
Application granted granted Critical
Publication of JP7484132B2 publication Critical patent/JP7484132B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Navigation (AREA)
  • Instrument Panels (AREA)

Abstract

【課題】案内画像と対象物との位置関係を正確に認識させることが可能となり、案内画像を用いた案内をより適切に行うことを可能にした重畳画像表示装置及びコンピュータプログラムを提供する。【解決手段】案内画像を車両前方の風景に重畳して視認させる場合に、3次元空間内に案内画像とともに車両の周辺に存在する対象物を模した仮想体を配置し、3次元空間内における車両の位置から案内画像及び仮想体を視認した場合の案内画像と仮想体の形状を夫々取得し、取得された形状の案内画像とともに、取得された仮想体の形状を示す対象物画像をフロントディスプレイ4や液晶ディスプレイ17に表示するように構成する。【選択図】図8

Description

本発明は、車両の走行支援を行う重畳画像表示装置及びコンピュータプログラムに関する。
従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、運転者の周辺環境(風景、実景)に重畳する画像を表示することによって、情報の提供を行う装置がある。例えば、ヘッドアップディスプレイ、ウインドウシールドディスプレイの他、液晶ディスプレイに表示した車両周辺の撮像画像に重畳して画像を表示する方法等が該当する。
例えば、特開2005−69800号公報には、車両用のヘッドアップディスプレイ装置において、右左折する対象となる交差点の位置に丸印や人のマークの虚像を重畳して視認させることによって、右左折対象となる交差点の位置を車両の乗員に正確に把握させる技術について開示されている。
特開2005−69800号公報(図4、図7)
ここで、上記特許文献1に記載の技術では、丸印や人のマークの虚像を右左折対象となる案内交差点の位置に重畳して視認されるように表示を行っている。しかしながら、重畳対象となる案内交差点の周辺には、対象物(例えば、人工的な構造物、他車両、歩行者等)が存在する場合も多くあり、その場合において虚像とそれらの対象物が重なって視認される場合もある。例えば図13に示すように車両の進行方向前方にある案内交差点で右折することを示す矢印の虚像101を表示する場合において、右折の対象となる案内交差点周辺に他車両102が存在する場合には、矢印の虚像101と他車両102が重なって視認されることとなる。
その場合には、矢印の虚像101は他車両102よりも手前側に存在するように視認されるので、矢印の虚像101によって示す案内交差点の退出路103が他車両102よりも奥側にあるにもかかわらず、他車両102よりも手前側で右折するものと誤認識されたり、右折する位置が特定できなくなる等の問題があった。尚、液晶ディスプレイに表示した車両周辺の撮像画像に重畳して矢印の画像を表示する場合も同様の問題がある。
本発明は前記従来における問題点を解消するためになされたものであり、案内画像を車両前方の風景に重畳して視認させる場合において、案内画像と対象物との位置関係を正確に認識させることが可能となり、案内画像を用いた案内をより適切に行うことを可能にした重畳画像表示装置及びコンピュータプログラムを提供することを目的とする。
前記目的を達成するため本発明に係る重畳画像表示装置は、車両の周辺に対応した3次元空間内に案内画像を配置する案内画像配置手段と、車両の周辺に存在する対象物について、前記3次元空間内において前記対象物が存在する位置に前記対象物を模した仮想体を配置する仮想体配置手段と、現在の車両の位置に対応する前記3次元空間内の位置に視点を設定する視点設定手段と、前記視点から視認される前記案内画像と前記仮想体の形状を夫々取得する形状取得手段と、前記形状取得手段によって取得された形状の前記案内画像を、車両前方の風景に重畳して表示する案内画像表示手段と、前記形状取得手段によって取得された前記仮想体の形状を示す画像である対象物画像を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する対象物画像表示手段と、を有する。
尚、「対象物」とは、車両の周辺に存在する静止物や動体物を含む。静止物としては例えば人工的な構造物(建築物、道路標識、看板等)や自然物(樹木等)があり、動体物としては例えば他車両、人、自転車等がある。
また、「風景」とは、実際に車両から視認される風景(実景)に加えて、風景を撮像した画像、風景を再現した画像等も含む。
また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、コンピュータを、車両の周辺に対応した3次元空間内に案内画像を配置する案内画像配置手段と、車両の周辺に存在する対象物について、前記3次元空間内において前記対象物が存在する位置に前記対象物を模した仮想体を配置する仮想体配置手段と、現在の車両の位置に対応する前記3次元空間内の位置に視点を設定する視点設定手段と、前記視点から視認される前記案内画像と前記仮想体の形状を夫々取得する形状取得手段と、前記形状取得手段によって取得された形状の前記案内画像を、車両前方の風景に重畳して表示する案内画像表示手段と、前記形状取得手段によって取得された前記仮想体の形状を示す画像である対象物画像を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する対象物画像表示手段と、して機能させる。
前記構成を有する本発明に係る重畳画像表示装置及びコンピュータプログラムによれば、案内画像を車両前方の風景に重畳して視認させる場合において、案内画像よりも車両側に位置する対象物と重複する範囲については車両の乗員から案内画像を視認させないことができるので、案内画像と対象物との位置関係を正確に示す案内画像を車両の乗員に視認させることが可能となる。その結果、案内画像の虚像を用いた案内をより適切に行うことが可能となる。
第1実施形態に係る重畳画像表示装置の概略構成図である。 第1実施形態に係るナビゲーション装置を示したブロック図である。 第1実施形態に係る走行支援処理プログラムのフローチャートである。 3次元地図情報に基づいて生成される3次元立体地図を示した図である。 3次元地図情報に配置される案内画像の一例を示した図である。 3次元地図情報に配置される対象物仮想体の一例を示した図である。 3次元地図情報の車両位置から視認される案内画像の形状と重複対象物仮想体の形状を示した図である。 案内画像と黒色画像の表示例を示した図である。 車両の乗員から視認される案内画像の虚像の例を示した図である。 表示範囲決定処理のサブ処理プログラムのフローチャートである。 第2実施形態に係る重畳画像表示装置において液晶ディスプレイに対して表示される案内画像の一例を示した図である。 案内画像と透過画像の表示例を示した図である。 従来技術の問題点について説明した図である。
以下、本発明に係る重畳画像表示装置を具体化した第1実施形態及び第2実施形態について図面を参照しつつ詳細に説明する。
[第1実施形態]
先ず、第1実施形態に係る重畳画像表示装置1の概略構成について図1を用いて説明する。図1は第1実施形態に係る重畳画像表示装置1の概略構成図である。
図1に示すように重畳画像表示装置1は、車両2に搭載されたナビゲーション装置3と、同じく車両2に搭載されるとともにナビゲーション装置3と接続されたフロントディスプレイ4とを基本的に有する。尚、フロントディスプレイ4は後述のように車両2のフロントガラス5とともにヘッドアップディスプレイとして機能し、車両2の乗員6に対して様々な情報の提供を行う情報提供手段となる。
ここで、ナビゲーション装置3は、目的地までの推奨経路を探索したり、サーバから取得したりメモリに格納された地図データに基づいて車両2の現在位置周辺の地図画像を表示したり、設定された案内経路に沿った走行案内や障害物に対する警告等をフロントディスプレイ4とともに行う機能を有する。尚、上記機能の全てをナビゲーション装置3が備えている必要はなく、少なくとも案内経路に沿った走行案内や障害物に対する警告等を行う機能を有していれば本願発明を構成することが可能である。尚、ナビゲーション装置3の構造の詳細については後述する。
一方、フロントディスプレイ4は、車両2のダッシュボード7内部に設置され、前面に設けられた画像表示面に対して画像を表示する機能を有する液晶ディスプレイである。バックライトとしては例えばCCFL(冷陰極管)や白色LEDが用いられる。尚、フロントディスプレイ4としては、液晶ディスプレイ以外に、有機ELディスプレイや液晶プロジェクタとスクリーンの組み合わせを用いても良い。
そして、フロントディスプレイ4は車両2のフロントガラス5とともにヘッドアップディスプレイとして機能し、フロントディスプレイ4から出力される画像を、運転席の前方のフロントガラス5に反射させて車両2の乗員6に視認させるように構成されている。尚、フロントディスプレイ4に表示される画像としては、車両2に関する情報や乗員6の運転の支援の為に用いられる各種情報がある。例えば乗員6に対して警告対象となる対象物(他車両、歩行者、案内標識)に対する警告、ナビゲーション装置3で設定された案内経路や案内経路に基づく案内情報(右左折方向を示す矢印等)、路面に表示する警告(追突注意、制限速度等)、車両が走行する車線の区画線、現在車速、シフト位置、エネルギ残量、広告画像、施設情報、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組等がある。
また、フロントガラス5を反射して乗員6がフロントディスプレイ4に表示された映像を視認した場合に、乗員6にはフロントガラス5の位置ではなく、フロントガラス5の先の遠方の位置にフロントディスプレイ4に表示された映像が虚像10として視認されるように構成される。また、虚像10は車両前方の周辺環境(風景、実景)に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物(路面、建築物、警告対象となる物等)に重畳させて表示させることも可能である。
ここで、虚像10を生成する位置、より具体的には乗員6から虚像10までの距離(以下、結像距離という)Lについては、フロントディスプレイ4の位置によって決定される。例えば、フロントディスプレイ4において映像の表示された位置からフロントガラス5までの光路に沿った距離(光路長)によって結像距離Lが決定される。例えば結像距離Lが1.5mとなるように光路長が設定されている。
また、第1実施形態では車両周辺の風景に重畳する画像を表示する手段としてダッシュボード7内部に設置されたフロントディスプレイ4を用いているが、他の手段を用いても良い。例えば、ヘッドアップディスプレイ(HUD)装置を車載器として有しても良いし、フロントガラス5に対して画像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。WSDでは、フロントガラス5をスクリーンとしてプロジェクタから映像を表示しても良いし、フロントガラス5を透過液晶ディスプレイとしても良い。WSDによってフロントガラス5に対して表示された画像は、HUDと同様に車両周辺の風景に重畳する画像となる。
更に、後述のフロントカメラ11で撮像した車両周辺の風景を車内の液晶ディスプレイに表示し、同一の液晶ディスプレイ内において表示された風景に重畳する画像を表示することも可能である。その場合においても液晶ディスプレイに表示された画像は、HUDと同様に車両周辺の風景に重畳する画像となる。
また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ11が設置される。フロントカメラ11は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ11により撮像された撮像画像に対して画像処理が行われることによって、フロントガラス越しに乗員6に視認される前方環境(即ち虚像10が重畳される環境)の状況等が検出される。尚、フロントカメラ11の代わりにミリ波レーダ等のセンサを用いても良い。
また、車両のインストルメントパネルの上面には車内カメラ12が設置される。車内カメラ12は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。車内において一般的に乗員の顔が位置すると予想される範囲を検出範囲(車内カメラ12の撮像範囲)として設定し、運転席に座った乗員6の顔を撮像する。そして、車内カメラ12により撮像された撮像画像に対して画像処理が行われることによって、乗員6の左右の目の位置(視線開始点)や視線方向を検出する。
次に、上記重畳画像表示装置1を構成するナビゲーション装置3の概略構成について図2を用いて説明する。図2は第1実施形態に係るナビゲーション装置3を示したブロック図である。
図4に示すように第1実施形態に係るナビゲーション装置3は、ナビゲーション装置3が搭載された車両2の現在位置を検出する現在位置検出部13と、各種のデータが記録されたデータ記録部14と、入力された情報に基づいて、各種の演算処理を行うナビゲーションECU15と、ユーザからの操作を受け付ける操作部16と、ユーザに対して車両周辺の地図や施設の関する施設情報を表示する液晶ディスプレイ17と、経路案内に関する音声ガイダンスを出力するスピーカ18と、記憶媒体であるDVDを読み取るDVDドライブ19と、VICS(登録商標:Vehicle Information and Communication System)センタ等の情報センタとの間で通信を行う通信モジュール20と、を有する。また、ナビゲーション装置3はCAN等の車載ネットワークを介して、前述したフロントディスプレイ4、フロントカメラ11及び車内カメラ12等が接続されている。
以下に、ナビゲーション装置3が有する各構成要素について順に説明する。
現在位置検出部13は、GPS21、車速センサ22、ステアリングセンサ23、ジャイロセンサ24等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ22は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションECU15に出力する。そして、ナビゲーションECU15は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記4種類のセンサをナビゲーション装置3が全て備える必要はなく、これらの内の1又は複数種類のセンサのみをナビゲーション装置3が備える構成としても良い。
また、データ記録部14は、外部記憶装置及び記録媒体としてのハードディスク(図示せず)と、ハードディスクに記録された地図情報DB31や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド(図示せず)とを備えている。尚、データ記録部14はハードディスクの代わりにフラッシュメモリやメモリーカードやCDやDVD等の光ディスクを有していても良い。また、地図情報DB31は外部のサーバに格納させ、ナビゲーション装置3が通信により取得する構成としても良い。
ここで、地図情報DB31は、2次元地図情報33と3次元地図情報34とがそれぞれ記憶される。2次元地図情報33は、一般的なナビゲーション装置3において用いられる地図情報であり、例えば、道路(リンク)に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
一方、3次元地図情報34は、平面だけではなく高さ情報についても有し、3次元で地図を表現する為の地図情報である。特に第1実施形態では3次元で道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等を表現する為の地図情報とする。尚、3次元地図情報34としては上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板以外の情報についても含めても良い。例えば、街路樹や路面標示等についても3次元で表現する為の情報を含めても良い。また、3次元地図情報34としては3次元空間上に上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の各オブジェクトを配置した地図そのものを記憶しても良いし、3次元で地図を表現する為に必要な情報(道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の3次元の座標データなど)を記憶しても良い。3次元で地図を表現する為に必要な情報が格納されている場合には、ナビゲーション装置3は、必要なタイミングで3次元地図情報34として記憶された情報を用いて、対象エリアを3次元で表現した地図を生成する。
そして、ナビゲーション装置3は、液晶ディスプレイ17における地図画像の表示、案内経路の探索等の一般的な機能については2次元地図情報33を用いて行う。また、後述のように案内画像の表示に係る処理については2次元地図情報33に加えて3次元地図情報34についても用いて行う。
一方、ナビゲーションECU(エレクトロニック・コントロール・ユニット)15は、ナビゲーション装置3の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのCPU41、並びにCPU41が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるRAM42、制御用のプログラムのほか、後述の走行支援処理プログラム(図3)等が記録されたROM43、ROM43から読み出したプログラムを記憶するフラッシュメモリ44等の内部記憶装置を備えている。尚、ナビゲーションECU15は、処理アルゴリズムとしての各種手段を有する。例えば、案内画像配置手段は、車両の周辺に対応した3次元空間内に案内画像を配置する。仮想体配置手段は、車両の周辺に存在する対象物について、3次元空間内において対象物が存在する位置に対象物を模した仮想体を配置する。視点設定手段は、現在の車両の位置に対応する3次元空間内の位置に視点を設定する。形状取得手段は、視点から視認される案内画像と仮想体の形状を夫々取得する。案内画像表示手段は、形状取得手段によって取得された形状の案内画像を、車両前方の風景に重畳して表示する。対象物画像表示手段は、形状取得手段によって取得された仮想体の形状を示す画像である対象物画像を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する。
操作部16は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ(図示せず)を有する。そして、ナビゲーションECU15は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部16は液晶ディスプレイ17の前面に設けたタッチパネルを有していても良い。また、マイクと音声認識装置を有していても良い。
また、液晶ディスプレイ17には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、第1実施形態では情報の表示手段としてフロントディスプレイ4を備えているので、上記地図画像等の表示をフロントディスプレイ4で行う構成とすれば液晶ディスプレイ17は省略しても良い。
また、スピーカ18は、ナビゲーションECU15からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
また、DVDドライブ19は、DVDやCD等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報DB31の更新等が行われる。尚、DVDドライブ19に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
また、通信モジュール20は、交通情報センタ、例えば、VICSセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やDCMが該当する。
続いて、前記構成を有する重畳画像表示装置1の内、特にナビゲーション装置3において実行する走行支援処理プログラムについて図3に基づき説明する。図3は第1実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のACC電源(accessory power supply)がONされた後に実行され、フロントディスプレイ4に表示された画像を車両周辺の周辺環境に重畳して視認させることによって、車両の乗員に対する各種情報の提供を行うプログラムである。尚、以下の図3及び図10にフローチャートで示されるプログラムは、ナビゲーション装置3が備えているRAM42やROM43に記憶されており、CPU41により実行される。
以下の説明では特にフロントディスプレイ4を用いて、ナビゲーション装置3で設定された案内経路に沿った車両の進行方向を示す案内矢印の提供を行う例について説明する。但し、上記以外の案内や情報提供を行うことも可能である。例えば、車両2の乗員6への警告対象となる対象物(例えば他車両、歩行者、案内標識)に対する警告、路面に表示する警告(追突注意、制限速度等)、車両が走行する車線の区画線、広告画像、施設情報、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組の表示等が可能である。
先ず、走行支援処理プログラムでは、ステップ(以下、Sと略記する)1においてCPU41は、フロントカメラ11によって車両前方の風景を撮像した撮像画像を取得する。更に、CPU41は、地図情報DB31から車両の現在位置周辺の3次元地図情報34を読み出す。尚、3次元地図情報34には、3次元で地図を表現する為に必要な情報(道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の3次元の座標データなど)が記憶される。
次に、S2においてCPU41は、前記S1で読み出した3次元地図情報34に基づいて、車両の現在位置周辺を示す3次元立体地図(3次元で建物や道路等を表現した地図)を生成する。具体的には、以下の処理を実行することにより3次元立体地図を生成する。
先ず、CPU41は、3次元地図情報34から3次元空間上に道路、建築物、道路標識、看板等をモデリングしたオブジェクト(形状データ)を取得する。尚、CPU41は、予めモデリングしてDBに格納しておいたオブジェクトの内、該当するオブジェクトを取得する構成としても良いし、S2においてモデリングを実施してオブジェクトを新たに作成する構成としても良い。モデリングを実施する場合には、3次元地図情報34から道路及び道路周辺にある構造物(建築物、道路標識、看板等)の形状や位置を特定する情報を取得し、取得した情報に基づいてモデリング処理を行う。但し、道路、建築物、道路標識、看板の全てをモデリングする必要は無く、例えば道路のみ、或いは道路と建築物のみをモデリングしても良い。
ここで、モデリングとは3次元空間上においてモデル(物体)の形状を作成する処理であり、より具体的には各頂点の座標の決定や、境界線、面を表現する方程式のパラメータの決定などを行う。尚、モデリングについては公知の技術であるので詳細は省略する。そして、モデリングされたオブジェクト(形状データ)は、用途に応じて辺のみ表示する「ワイヤーフレームモデル」、面を表示する「サーフィスモデル」等の形で表現される。そして各オブジェクトが形成された3次元空間を3次元立体地図とする。
尚、前記S2においてCPU41は3次元地図情報34を用いずに、一般的な2次元地図情報33と車両の現在位置とに基づいて車両の現在位置周辺(特に車両進行方向の前方)に対応した3次元空間を生成し、3次元立体地図としても良い。また、フロントカメラ11で撮像した画像に基づいて3次元空間を生成しても良い。例えばフロントカメラ11で撮像した撮像画像に対して点群マッチングを行うことによって、道路や道路周辺にある構造物を検出し、3次元空間を生成することが可能である。
また、前記S2でCPU41は、現在位置検出部13で検出されたパラメータに基づいて、生成された3次元立体地図における自車両の現在位置及び方位についても特定する。尚、後述の3次元立体地図と撮像画像との照合の処理を容易化する為に、自車両の現在位置は特に自車両に設置されたフロントカメラ11の設置位置とし、自車両の方位はフロントカメラ11の光軸方向とするのが望ましい。また、3次元空間内の自車両の現在位置や方位は自車両の移動に伴って適宜更新される。
更に、CPU41は、前記S1で取得した車両前方の風景を撮像した撮像画像に対して画像処理を行うことによって、車両前方周辺に存在する静止物や動体物の位置や形状について検出する。尚、静止物としては例えば人工的な構造物(建築物、道路標識、看板等)や自然物(樹木等)が該当し、動体物としては例えば他車両、人、自転車等が該当する。そして、3次元地図情報34に対して含まれない静止物や動体物が検出された場合には、検出された静止物や動体物について、位置や形状を特定する情報を3次元立体地図に含める。尚、S2では検出された静止物や動体物について3次元立体地図上にモデリングする必要は無いが、モデリングまで行っても良い。
ここで、図4は前記S2で生成される3次元立体地図51の一例を示した図である。図4に示すように3次元立体地図51には、3次元空間に対して、道路や構造物(建築物、道路標識、看板等)を示す各オブジェクト52が配置される。特に車両の現在位置周辺に位置する道路や構造物を示す各オブジェクト52が配置される。また、3次元立体地図51には自車両の現在位置と方位を示す自車位置マーク53についても配置される。
続いてS3においてCPU41は、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図とを照合し、両者の間にズレが生じていないかを判定する。具体的にはCPU41は、3次元立体地図に設定されている自車両の現在位置(より具体的にはフロントカメラ11の設置位置であり高さも考慮する)を視点とし、自車両の方位を視線方向に設定し、設定された視点及び視線方向によって3次元立体地図を視認した際の像と、撮像画像とを照合する。尚、3次元立体地図には、歩行者や他車両等の動体物、樹木などの一部の固定物については含まれないので、それらに起因するズレは基本的には無視して判定する。また、ズレが生じていないとは両者が完全に一致する場合のみに限らず、ある程度の許容範囲内のズレが生じている場合においてもズレが生じていないとみなすのが望ましい。
そして、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図との間にズレが生じていないと判定された場合(S3:YES)には、S5へと移行する。それに対して、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図との間にズレが生じていると判定された場合(S3:NO)には、S4へと移行する。
S4においてCPU41は、前記S2で生成された3次元立体地図について、前記S1で取得した撮像画像と間のズレが小さくなるように3次元立体地図内に設定された自車両の現在位置及び方位を補正する。尚、3次元立体地図における自車両の現在位置及び方位は固定してオブジェクト側を補正しても良い。それによって、3次元立体地図内における正確な自車両の現在位置及び方位(より具体的にはフロントカメラ11の設置位置と光軸方向)を特定することが可能となる。その後、S3へと戻る。
一方、S5においてCPU41は、ナビゲーション装置3で設定されている案内経路を取得し、前記S2で生成された3次元立体地図に基づいて車両の今後の進行方向を示す案内矢印を、フロントディスプレイ4に表示する対象となる案内画像として生成する。尚、第1実施形態では案内画像は車両の案内経路に沿って道路の路面上(例えば車両の現在位置から100m先までの道路の路面上)に配置される矢印の画像とする。例えば、図5に示すように車両の今後の進行方向が進行方向前方にある案内交差点54で右折する場合には、案内交差点54までは直進し、案内交差点54で右折して退出道路へと進む矢印が案内画像55として生成されることとなる。尚、案内画像の形状は適宜変更可能であり、例えば矢印ではなく案内経路に沿って配置される線分としても良い。
続いて、S6においてCPU41は、S5で生成された案内画像を、前記S2で生成された3次元立体地図に対して配置する。尚、案内画像を配置する位置は、案内画像を重畳して視認させる位置であり、例えば案内経路に沿って車両の現在位置から100m先までの道路(案内交差点がある場合には案内交差点も含む)の路面とする。その結果、図5に示すように3次元立体地図51に案内画像55が配置されることとなる。
次に、S7においてCPU41は、3次元立体地図に含まれる各オブジェクト(建築物、道路標識、看板、案内画像、歩行者、他車両、案内画像等)の内、案内画像以外のオブジェクトについて、車両周辺に存在する対象物として抽出する。尚、対象物には人工的な構造物(建築物、道路標識、看板等)や自然物(樹木等)等の静止物に加えて、他車両、人、自転車等の動体物も含む。但し、道路(路面)については抽出対象となる対象物から除外する。
続いて、S8においてCPU41は、前記S7で抽出された対象物のモデル(対象物の仮想体であり、以下、対象物仮想体という)を、前記S2で生成された3次元立体地図に対して該当の対象物が存在する位置に配置する。対象物の位置を特定する情報は対象物が動体物である場合を含めて3次元立体地図に格納されている。尚、3次元立体地図に対して配置される対象物仮想体は実際の対象物の形状を模した形状とする。例えば歩行者であれば人の形状を有する対象物仮想体とし、車両であれば車両の形状を有する対象物仮想体とする。サイズについても実際の対象物のサイズと対応させる。
但し、車両に生じる振動等によって乗員から視認できる対象物の位置がブレることを考慮して、対象物仮想体のサイズは実際の対象物のサイズよりもやや大きいサイズ(例えば110%)とするのが望ましい。また、全体的に均等にサイズを広げるのではなく、相対的な移動方向(車両の乗員からみて対象物が移動する方向)に対して大きくサイズを広げるのが望ましい。尚、対象物が不定形である(形状や種類を特定できない)場合には、例外的に対象物仮想体は該対象物の全てを含む最小の直方体とする。
次に、S9においてCPU41は、先ず案内画像や対象物仮想体が配置された3次元立体地図を、車両(乗員)の視点から車両の進行方向に視認した画像(以下、視認画像という)を取得する。特に車両の視点は車両の乗員の目の位置とする。尚、乗員の目の位置については車内カメラ12によって検出することが可能である。即ち、取得された視認画像は3次元立体地図に配置された各オブジェクト(案内画像、対象物仮想体等)を車両(乗員)の視点から車両の進行方向に視認した際に視認できる像であり、車両の乗員の視界に相当する。尚、視認画像については車両(乗員)の視点から視認した画像であれば、必ずしも車両の進行方向に視認した画像である必要は無い。但し、少なくとも視認画像に案内画像と案内画像の周辺にある対象物仮想体が含まれる必要はある。
その後、S9においてCPU41は、前記S8で3次元立体地図に配置された対象物仮想体の内、視認画像において案内画像と重複する対象物仮想体、即ち案内画像と重複して車両の乗員から視認される対象物に対応する対象物仮想体(以下、重複対象物仮想体という)があるか否かを判定する。そして、重複対象物仮想体があると判定された場合には、重複対象物仮想体を黒色で表示する。尚、案内画像よりも手前側(自車両側)に位置するか奥側に位置するかについては問わず、視認画像において少なくとも一部が案内画像と重複する対象物仮想体は重複対象物仮想体とする。
ここで、図6は3次元立体地図51に対して案内画像55及び対象物仮想体56〜59を配置した図である。例えば、図6に示すように3次元立体地図51に建物の対象物仮想体56、他車両の対象物仮想体57、自転車の対象物仮想体58、道路標識の対象物仮想体59がそれぞれ配置されている場合には、他車両の対象物仮想体57が案内画像55と重複して視認されることとなる。従って、他車両の対象物仮想体57が重複対象物仮想体に該当し、黒色で表示されることとなる。
続いて、S10においてCPU41は、視認画像に含まれる案内画像の形状及び重複対象物仮想体の形状を、フロントディスプレイ4により表示対象とする画像の形状として夫々記憶する。ここで、前記S10で記憶される案内画像の形状は、3次元立体地図に配置された各オブジェクト(案内画像、対象物仮想体等)を車両(乗員)の視点から視認した際に視認できる案内画像の形状である。一方、視認画像に含まれる重複対象物仮想体の形状は、3次元立体地図に配置された各オブジェクト(案内画像、対象物仮想体等)を車両(乗員)の視点から視認した際に視認できる重複対象物仮想体の形状である。従って、例えば前記S10で記憶される案内画像の形状は、図7に示すように案内画像55よりも手前側に位置する重複対象物仮想体57と重なって視認される場合には、重なる部分については除かれた形状となる。一方、前記S10で記憶される重複対象物仮想体の形状は、重複対象物仮想体よりも手前側に位置する案内画像と重なって視認される場合には、重なる部分については除かれた形状となる。
更に、S11においてCPU41は、3次元立体地図において配置された案内画像の位置を取得する。例えば車両の現在位置から100m先までの道路の路面上となる。同じく、CPU41は3次元立体地図において配置された重複対象物仮想体の位置についても取得する。具体的には案内画像と重複して視認される対象物が存在する位置となる。
その後、S12においてCPU41は、後述の表示範囲決定処理(図10)を行う。表示範囲決定処理では、フロントディスプレイ4において案内画像及び黒色画像を表示する範囲(フロントガラス5に対して案内画像及び黒色画像を投影する範囲、或いはフロントディスプレイ4に対して案内画像及び黒色画像を表示する範囲)を決定する。
続いて、S13においてCPU41は、フロントディスプレイ4に対して制御信号を送信し、フロントディスプレイ4に対して前記S10で記憶された形状の案内画像を、前記S12で決定された表示範囲に表示する。同じく、CPU41は前記S10で記憶された重複対象物仮想体の形状を有する黒色画像(対象物画像)を、前記S12で決定された表示範囲に表示する。尚、案内画像と黒色画像は基本的に一体の画像として表示する。また、3次元立体地図に対して配置される重複対象物仮想体は必ずしも黒色である必要は無いが、その場合であっても重複対象物仮想体に応じてフロントディスプレイ4に表示する画像は黒色の画像とする。
ここで、フロントディスプレイ4に表示された画像を車両の乗員が視認する場合において、フロントディスプレイ4に表示された画像が黒色画像である場合には黒色画像の虚像は視認できない(透過状態となる)。従って、黒色画像が対象物と重畳する位置に表示されていたとしても、車両の乗員からは黒色画像の虚像は視認されず(より正確には透過状態で視認される)、対象物のみが視認されることとなる。
その結果、図8に示すようにフロントディスプレイ4に表示された案内画像55及び黒色画像66を車両の乗員が視認した場合には、黒色画像66に対応する部分(即ち実景の対象物と重複する部分)については虚像が視認されない(透過状態となる)。また、案内画像55の虚像67については、対象物68に隠れて視認できない部分(図8右図の破線部分)については黒色画像66によって視認できない一方、それ以外の部分(図8右図の実線部分)については視認される。
それによって、車両の乗員は案内画像55の虚像67を視認した場合に、虚像67の形状から虚像67と重複して視認される対象物68との間で、前後関係を認識することが可能となる。例えば、図9はフロントディスプレイ4に表示される画像と、車両の乗員からフロントガラス5を介して視認される案内画像55の虚像67の一例である。図9に示す例では、案内画像55の虚像67は対象物(図9に示す例では他車両)68よりも奥側(遠方側)にある案内交差点69に重畳していることが明確となる。従って、案内画像55の虚像67によって示される右左折対象となる案内交差点69の位置や、案内交差点69における退出道路を正確に把握できる。
尚、フロントディスプレイ4に対して案内画像及び黒色画像を描画する場合に、異なるレイヤで描画するようにしても良い。順序として、手前側(自車両側)に位置するものをより上位(上層)のレイヤで描画する。例えば図9に示す例では、重複対象物仮想体よりも奥側(自車両から離れた側)に位置する案内画像55を最も下位のレイヤで描画する。次に重複対象物仮想体に対応する黒色画像66をより上位のレイヤで描画する。その場合には、案内画像55や黒色画像66の全形を描画したとしても、図9に示す案内画像55の虚像67を車両の乗員に視認させることが可能となる。
次に、前記S12において実行される表示範囲決定処理のサブ処理について図10に基づき説明する。図10は表示範囲決定処理のサブ処理プログラムのフローチャートである。
先ず、S21においてCPU41は、車両の乗員の目の位置を車内カメラ12で撮像した撮像画像に基づいて検出する。尚、検出された目の位置は3次元の位置座標で特定される。
次に、S22においてCPU41は、フロントディスプレイ4の表示がONになっているか否かを判定する。尚、フロントディスプレイ4の表示のON又はOFFの切り替えは車両の乗員の操作によって行うことが可能である。また、周辺状況や車両の状態に基づいてON又はOFFを自動で切り替えても良い。
そして、フロントディスプレイ4の表示がONになっていると判定された場合(S22:YES)には、S23へと移行する。一方、フロントディスプレイ4の表示がOFFになっていると判定された場合(S22:NO)には、フロントディスプレイ4による案内画像の表示を行うことなく終了する。
S23においてCPU41は、フロントディスプレイ4によって画像を投影する対象となるフロントガラス5の位置座標を取得する。尚、フロントガラス5の位置座標は3次元の位置座標で特定される。
次に、S24においてCPU41は、前記S11で取得された3次元立体地図において配置された案内画像と重複対象物仮想体の位置を特定する座標を、案内画像と重複対象物仮想体の位置座標として夫々取得する。尚、案内画像と重複対象物仮想体の位置座標は同じく3次元の位置座標で特定される。
続いて、S25においてCPU41は、前記S21、S23及びS24で取得された各位置座標に基づいて、フロントガラス5における案内画像と黒色画像の投影範囲を決定する。更に、決定された投影範囲からフロントディスプレイ4における案内画像と黒色画像の表示範囲についても決定する。尚、案内画像の表示範囲は、前記S10で記憶される形状を有する案内画像が、車両の乗員から3次元立体地図において配置された案内画像と重畳して視認される範囲となる。また、黒色画像の表示範囲は、前記S10で記憶される重複対象物仮想体の形状を有する黒色画像が、車両の乗員から3次元立体地図において配置された重複対象物仮想体(即ち実景の対象物)と重畳して視認される範囲となる。その後、S13へと移行し、決定された投影範囲や表示範囲に基づいてフロントディスプレイ4を用いた虚像の表示を行う。尚、フロントディスプレイ4の表示がオフになるまで繰り返しS6〜S13の処理を行うこととなる。
以上詳細に説明した通り、第1実施形態に係る重畳画像表示装置1及び重畳画像表示装置1で実行されるコンピュータプログラムによれば、案内画像の虚像を車両前方の風景に重畳して視認させる場合に、3次元空間内に案内画像とともに車両の周辺に存在する対象物を模した仮想体を配置し(S8)、3次元空間内における車両の位置から案内画像及び仮想体を視認した場合の案内画像と仮想体の形状を夫々取得し(S10)、取得された形状の案内画像とともに、取得された仮想体の形状を示す黒色画像をフロントディスプレイ4に表示する(S13)ので、案内画像の虚像と対象物との位置関係を正確に示す案内画像の虚像を車両の乗員に視認させることが可能となる。その結果、案内画像の虚像を用いた案内をより適切に行うことが可能となる。
[第2実施形態]
次に、第2実施形態に係る重畳画像表示装置について図11及び図12に基づいて説明する。尚、以下の説明において上記図1乃至図10の第1実施形態に係る重畳画像表示装置1の構成と同一符号は、前記第1実施形態に係る重畳画像表示装置1等の構成と同一あるいは相当部分を示すものである。
この第2実施形態に係る重畳画像表示装置の概略構成は、第1実施形態に係る重畳画像表示装置1とほぼ同じ構成である。また、各種制御処理も第1実施形態に係る重畳画像表示装置1とほぼ同じ制御処理である。
ただし、第1実施形態に係る重畳画像表示装置1が、車両周辺の風景に重畳する画像を表示する手段としてフロントディスプレイ4によるヘッドアップディスプレイシステムを用いているのに対して、第2実施形態に係る重畳画像表示装置はナビゲーション装置3の液晶ディスプレイ17に対してフロントカメラ11で撮像した撮像画像を表示し、表示した撮像画像に案内画像を重畳させて表示する点で異なる。尚、撮像画像を表示するディスプレイとしては車両内に配置されたディスプレイであれば、液晶ディスプレイ17以外のディスプレイであっても良い。
図11は第2実施形態に係る重畳画像表示装置において、液晶ディスプレイ17に表示される走行案内画面91の一例を示した図である。図11に示すように液晶ディスプレイ17には、フロントカメラ11により撮像された現時点の車両前方の風景が表示される。そして、車両前方の風景に対して前記S10で記憶された形状の案内画像92を表示する。尚、案内画像92の表示範囲は、車両の乗員の位置から3次元立体地図において配置された案内画像が視認される範囲となる。また、車両前方の風景に対して前記S10で記憶された重複対象物仮想体の形状を有する透過画像(対象物画像)93についても表示する。尚、透過画像93の表示範囲は、車両の乗員の位置から3次元立体地図において配置された重複対象物仮想体が視認される範囲、即ち液晶ディスプレイ17に表示された対象物94と重畳する範囲となる。尚、透過画像93は透過率100%の画像であり、車両の乗員には視認できない画像とする。
ここで、液晶ディスプレイ17に表示された画像を車両の乗員が視認する場合において、液晶ディスプレイ17に表示された透過画像93は視認できない(透過状態となる)。従って、透過画像93が対象物94と重畳する位置に表示されていたとしても、車両の乗員からは透過画像93は視認されず(より正確には透過状態で視認される)、対象物94のみが実質的に視認されることとなる。
その結果、図12に示すように液晶ディスプレイ17に表示された案内画像92及び透過画像93を車両の乗員が視認した場合には、透過画像93に対応する部分(即ち実景の対象物と重複する部分)については画像が視認されない(透過状態となる)。また、案内画像92については、対象物に隠れて視認できない部分(図12右図の破線部分)については透過画像93によって視認できない(透過される)一方、それ以外の部分(図12右図の実線部分)については視認される。
それによって、車両の乗員は案内画像92を視認した場合に、案内画像92の形状から案内画像92と重複して視認される対象物94との間で、前後関係を認識することが可能となる。例えば、図11に示す例では、案内画像92は対象物(図11に示す例では他車両)94よりも奥側(遠方側)にある案内交差点95に重畳していることが明確となる。従って、案内画像92によって示される右左折対象となる案内交差点95の位置や、案内交差点95における退出道路を正確に把握できる。
尚、液晶ディスプレイ17に対して案内画像及び透過画像を描画する場合に、異なるレイヤで描画するようにしても良い。順序として、手前側(自車両側)に位置するものをより上位(上層)のレイヤで描画する。例えば図11に示す例では、重複対象物仮想体よりも奥側(自車両から離れた側)に位置する案内画像92を最も下位のレイヤで描画する。次に重複対象物仮想体に対応する透過画像93をより上位のレイヤで描画する。その場合には、案内画像92や透過画像93の全形を描画したとしても、図11に示す案内画像92を車両の乗員に視認させることが可能となる。
尚、第2実施形態に係る重畳画像表示装置では、S12の表示範囲決定処理は不要であり、液晶ディスプレイ17における案内画像の表示範囲は、上述したように車両の乗員の位置から3次元立体地図において配置された案内画像が視認される範囲となる。また、液晶ディスプレイ17における透過画像の表示範囲は、車両の乗員の位置から3次元立体地図において配置された重複対象物仮想体が視認される範囲となる。
尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
例えば、上記第1実施形態では、フロントディスプレイ4によって車両2のフロントガラス5の前方に虚像を生成する構成としているが、フロントガラス5以外のウィンドウの前方に虚像を生成する構成としても良い。また、フロントディスプレイ4により映像を反射させる対象はフロントガラス5自身ではなくフロントガラス5の周辺に設置されたバイザー(コンバイナー)であっても良い。
また、第1実施形態では、車両周辺の風景に重畳する画像を表示する手段としてヘッドアップディスプレイシステムを用いているが、フロントガラス5に対して画像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。その場合には、重複対象物仮想体に対応して表示する対象物画像は黒色画像ではなく第2実施形態のように透過画像とするのが望ましい。
また、第1実施形態及び第2実施形態では案内画像はナビゲーション装置3で設定された案内経路に沿った車両の進行方向を示す矢印の画像としているが、他の画像としても良い。例えば、車両の乗員への警告対象となる対象物(例えば他車両、歩行者、案内標識)に対する警告画像、車両が走行する車線の区画線の画像などでも良い。
また、第1実施形態及び第2実施形態では案内画像は、車両から視認される風景に含まれる特定の対象物(例えば路面)に重畳した状態を維持することが必要な画像としているが、特定の対象物に重畳した状態を維持することが不要な画像(例えばスマートフォンの画像、地図画像等)としても良い。
また、第1実施形態及び第2実施形態では、車両の周辺に存在する対象物の内、案内画像と重複して車両の乗員から視認される対象物に対応する黒色画像又は透過画像のみをフロントディスプレイ4又は液晶ディスプレイ17に表示しているが、車両の周辺に存在する全ての対象物に対応する黒色画像又は透過画像をフロントディスプレイ4又は液晶ディスプレイ17に表示しても良い。
また、第1実施形態では、フロントディスプレイ4に表示する対象物画像としては透過率0%の黒色画像を表示することとしているが、半透過(例えば透過率50%)の黒色画像を表示しても良い。更に、その場合には黒色画像によって隠れる位置にある案内画像(図8右図の破線部分)についても同じく半透過で表示する。その結果、対象物によって隠れる位置にある案内画像の虚像についても車両の乗員に視認させることが可能となる。また、特に重要度の高い案内画像(例えば右左折を示す矢印)を表示する場合にのみ、上述した半透過による画像表示を行うようにしても良い。
一方、第2実施形態では、液晶ディスプレイ17に表示する対象物画像としては透過率100%の画像を表示することとしているが、半透過(例えば透過率80%)或いは不透過(透過率0%)の画像を表示しても良い。尚、対象物画像を不透過の画像とすると液晶ディスプレイ17に表示された風景に含まれる対象物が対象物画像に隠れて視認できなくなるが、車両の乗員はフロントガラス越しに対象物を視認できるので大きな問題はない。
また、第1実施形態及び第2実施形態では、走行支援処理プログラム(図3)の処理をナビゲーション装置3のナビゲーションECU15が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、フロントディスプレイ4の制御部、車両制御ECU、その他の車載器が実行する構成としても良い。尚、フロントディスプレイ4の制御部が実行する場合には、本発明に係る重畳画像表示装置はフロントディスプレイ4のみで構成することも可能である。
また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、重畳画像表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
例えば、第1の構成は以下のとおりである。
車両(2)の周辺に対応した3次元空間内(51)に案内画像(55、92)を配置する案内画像配置手段(41)と、車両の周辺に存在する対象物(68、94)について、前記3次元空間内において前記対象物が存在する位置に前記対象物を模した仮想体(57)を配置する仮想体配置手段(41)と、現在の車両の位置に対応する前記3次元空間内の位置に視点を設定する視点設定手段(41)と、前記視点から視認される前記案内画像と前記仮想体の形状を夫々取得する形状取得手段(41)と、前記形状取得手段によって取得された形状の前記案内画像を、車両前方の風景に重畳して表示する案内画像表示手段(41)と、前記形状取得手段によって取得された前記仮想体の形状を示す画像である対象物画像(66、93)を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する対象物画像表示手段(41)と、を有する。
上記構成を有する重畳画像表示装置によれば、案内画像を車両前方の風景に重畳して視認させる場合において、案内画像よりも車両側に位置する対象物と重複する範囲については車両の乗員から案内画像を視認させないことができるので、案内画像と対象物との位置関係を正確に示す案内画像を車両の乗員に視認させることが可能となる。その結果、案内画像の虚像を用いた案内をより適切に行うことが可能となる。
また、第2の構成は以下のとおりである。
前記対象物画像(66)は、黒色の画像であって、前記案内画像(55)及び前記対象物画像は車両に設けられた画像表示面(4)に表示され、前記画像表示面に表示された前記案内画像及び前記対象物画像を車両(2)のフロントガラス(5)に反射して車両の乗員に視認させることによって、前記画像表示面に表示された前記案内画像の虚像を前記車両前方の風景に重畳して視認させる。
上記構成を有する重畳画像表示装置によれば、案内画像の虚像を車両前方の風景に重畳して視認させる場合において、対象物の実像に対応する範囲に黒色画像を表示することによって、案内画像の虚像と対象物との位置関係を正確に示す案内画像の虚像を車両の乗員に視認させることが可能となる。その結果、案内画像の虚像を用いた案内をより適切に行うことが可能となる。
また、第3の構成は以下のとおりである。
前記対象物画像(93)は、乗員に視認できない透過色の画像であって、前記案内画像(92)及び前記対象物画像は車両(2)に設けられて前記車両前方の風景が表示された画像表示面(17)に表示されることによって、前記案内画像を前記車両前方の風景に重畳して表示する。
上記構成を有する重畳画像表示装置によれば、案内画像を車両前方の風景に重畳して視認させる場合において、案内画像の内、車両側にある対象物と重複するに範囲については透過させることによって、案内画像と対象物との位置関係を正確に示す案内画像を車両の乗員に視認させることが可能となる。その結果、案内画像を用いた案内をより適切に行うことが可能となる。
また、第4の構成は以下のとおりである。
前記案内画像表示手段(41)は、前記案内画像を所定の重畳位置に重畳して視認させる為の前記画像表示面の表示位置に表示する。
上記構成を有する重畳画像表示装置によれば、車両前方の風景において案内画像を重畳させたい位置に案内画像を重畳して視認させることが可能となる。
また、第5の構成は以下のとおりである。
前記対象物画像表示手段(41)は、前記対象物画像(66、93)を前記対象物(68、94)に重畳して視認させる為の前記画像表示面(4)の表示位置に表示する。
上記構成を有する重畳画像表示装置によれば、対象物に関しては対象物画像によって視認性が阻害されることなく、車両の乗員に対象物を視認させることが可能となる。また、案内画像については、対象物に隠れて視認できない部分については対象物画像によって視認できない一方、それ以外の部分については視認させることが可能となる。その結果、案内画像と対象物との位置関係を正確に示す案内画像を車両の乗員に視認させることが可能となる。
また、第6の構成は以下のとおりである。
前記仮想体配置手段(41)は、前記対象物(68)よりも大きいサイズを有する前記仮想体(57)を配置する。
上記構成を有する重畳画像表示装置によれば、車両に生じる振動等によって乗員から視認できる対象物の位置にブレが生じたとしても、案内画像と対象物との位置関係を正確に示す案内画像を車両の乗員に視認させることが可能となる。
また、第7の構成は以下のとおりである。
前記対象物画像表示手段(41)は、車両の周辺に存在する対象物の内、前記案内画像と重複して車両の乗員から視認される前記対象物に対応する前記対象物画像を表示する。
上記構成を有する重畳画像表示装置によれば、案内画像と関連する対象物のみを対象として対象物画像の表示処理を行うので、対象物画像の表示処理に係る処理負担を軽減することが可能となる。
1 重畳画像表示装置
2 車両
3 ナビゲーション装置
4 フロントディスプレイ
5 フロントガラス
6 乗員
7 ダッシュボード
17 液晶ディスプレイ
41 CPU
42 RAM
43 ROM
55 案内画像
56〜59 対象物仮想体
66 黒色画像
68 対象物
91 走行案内画面
92 案内画像
93 透過画像
94 対象物

Claims (8)

  1. 車両の周辺に対応した3次元空間内に案内画像を配置する案内画像配置手段と、
    車両の周辺に存在する対象物について、前記3次元空間内において前記対象物が存在する位置に前記対象物を模した仮想体を配置する仮想体配置手段と、
    現在の車両の位置に対応する前記3次元空間内の位置に視点を設定する視点設定手段と、
    前記視点から視認される前記案内画像と前記仮想体の形状を夫々取得する形状取得手段と、
    前記形状取得手段によって取得された形状の前記案内画像を、車両前方の風景に重畳して表示する案内画像表示手段と、
    前記形状取得手段によって取得された前記仮想体の形状を示す画像である対象物画像を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する対象物画像表示手段と、を有する重畳画像表示装置。
  2. 前記対象物画像は、黒色の画像であって、
    前記案内画像及び前記対象物画像は車両に設けられた画像表示面に表示され、
    前記画像表示面に表示された前記案内画像及び前記対象物画像を車両のフロントガラスに反射して車両の乗員に視認させることによって、前記画像表示面に表示された前記案内画像の虚像を前記車両前方の風景に重畳して視認させる請求項1に記載の重畳画像表示装置。
  3. 前記対象物画像は、乗員に視認できない透過色の画像であって、
    前記案内画像及び前記対象物画像は、車両に設けられて前記車両前方の風景が表示された画像表示面に表示されることによって、前記案内画像を前記車両前方の風景に重畳して表示する請求項1に記載の重畳画像表示装置。
  4. 前記案内画像表示手段は、前記案内画像を所定の重畳位置に重畳して視認させる為の前記画像表示面の表示位置に表示する請求項2又は請求項3に記載の重畳画像表示装置。
  5. 前記対象物画像表示手段は、前記対象物画像を前記対象物に重畳して視認させる為の前記画像表示面の表示位置に表示する請求項2又は請求項3に記載の重畳画像表示装置。
  6. 前記仮想体配置手段は、前記対象物よりも大きいサイズを有する前記仮想体を配置する請求項1乃至請求項5のいずれかに記載の重畳画像表示装置。
  7. 前記対象物画像表示手段は、車両の周辺に存在する対象物の内、前記案内画像と重複して車両の乗員から視認される前記対象物に対応する前記対象物画像を表示する請求項1乃至請求項6のいずれかに記載の重畳画像表示装置。
  8. コンピュータを、
    車両の周辺に対応した3次元空間内に案内画像を配置する案内画像配置手段と、
    車両の周辺に存在する対象物について、前記3次元空間内において前記対象物が存在する位置に前記対象物を模した仮想体を配置する仮想体配置手段と、
    現在の車両の位置に対応する前記3次元空間内の位置に視点を設定する視点設定手段と、
    前記視点から視認される前記案内画像と前記仮想体の形状を夫々取得する形状取得手段と、
    前記形状取得手段によって取得された形状の前記案内画像を、車両前方の風景に重畳して表示する案内画像表示手段と、
    前記形状取得手段によって取得された前記仮想体の形状を示す画像である対象物画像を、車両の乗員が視認できない態様で車両前方の風景に重畳して表示する対象物画像表示手段と、して機能させる為のコンピュータプログラム。
JP2019200358A 2018-11-15 2019-11-04 重畳画像表示装置及びコンピュータプログラム Active JP7484132B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018214317 2018-11-15
JP2018214317 2018-11-15

Publications (2)

Publication Number Publication Date
JP2020085897A true JP2020085897A (ja) 2020-06-04
JP7484132B2 JP7484132B2 (ja) 2024-05-16

Family

ID=70907704

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019200358A Active JP7484132B2 (ja) 2018-11-15 2019-11-04 重畳画像表示装置及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP7484132B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005069799A (ja) * 2003-08-22 2005-03-17 Denso Corp 車両用ナビゲーションシステム
JP2007198962A (ja) * 2006-01-27 2007-08-09 Matsushita Electric Ind Co Ltd 車両用案内表示装置
DE102014008153A1 (de) * 2014-05-30 2014-10-23 Daimler Ag Anzeigevorrichtung sowie Verfahren zur augmentierten Darstellung eines Bildobjektes
JP2018173315A (ja) * 2017-03-31 2018-11-08 アイシン・エィ・ダブリュ株式会社 表示装置
JP2018173399A (ja) * 2017-03-31 2018-11-08 アイシン・エィ・ダブリュ株式会社 表示装置及びコンピュータプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005069799A (ja) * 2003-08-22 2005-03-17 Denso Corp 車両用ナビゲーションシステム
JP2007198962A (ja) * 2006-01-27 2007-08-09 Matsushita Electric Ind Co Ltd 車両用案内表示装置
DE102014008153A1 (de) * 2014-05-30 2014-10-23 Daimler Ag Anzeigevorrichtung sowie Verfahren zur augmentierten Darstellung eines Bildobjektes
JP2018173315A (ja) * 2017-03-31 2018-11-08 アイシン・エィ・ダブリュ株式会社 表示装置
JP2018173399A (ja) * 2017-03-31 2018-11-08 アイシン・エィ・ダブリュ株式会社 表示装置及びコンピュータプログラム

Also Published As

Publication number Publication date
JP7484132B2 (ja) 2024-05-16

Similar Documents

Publication Publication Date Title
JP6700623B2 (ja) 走行支援装置及びコンピュータプログラム
WO2019097763A1 (ja) 重畳画像表示装置及びコンピュータプログラム
US11511627B2 (en) Display device and computer program
JP6946963B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7151073B2 (ja) 表示装置及びコンピュータプログラム
JP5327025B2 (ja) 車両用走行案内装置、車両用走行案内方法及びコンピュータプログラム
JP2017094882A (ja) 虚像生成システム、虚像生成方法及びコンピュータプログラム
JP7476568B2 (ja) 重畳画像表示装置、重畳画像描画方法及びコンピュータプログラム
JP2019010919A (ja) 走行支援装置及びコンピュータプログラム
JP2019056884A (ja) 重畳画像表示装置
CN117809589A (zh) 显示系统
JP7143728B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7484132B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP6984341B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2019082382A (ja) 重畳画像表示装置
JP7400356B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2020139802A (ja) 重畳画像表示装置及びコンピュータプログラム
WO2020084827A1 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023008462A (ja) 重畳画像表示装置
JP2021076415A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2021081232A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023038558A (ja) 重畳画像表示装置
JP2022110828A (ja) 重畳画像表示装置
JP2020040617A (ja) 重畳画像表示装置及びコンピュータプログラム
TWM521172U (zh) 行車導航裝置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20210423

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415

R150 Certificate of patent or registration of utility model

Ref document number: 7484132

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150