<第1実施形態>
以下、本発明の第1実施形態を図面に基づいて説明する。図1は、本実施形態に係るヘッドアップディスプレイ1の装置構成例を示す図である。本実施形態に係るヘッドアップディスプレイ1は、投射装置2と、反射ミラー3aと、凹面ミラー3bとを備えている。ヘッドアップディスプレイ1は、投射装置2が投射した画像光(光)を反射ミラー3aで折り返し、凹面ミラー3bで拡大して車両のフロントウィンドシールド4に投射し、車両に搭乗する運転手の前方に虚像を表示する装置である。
より詳細には、投射装置2は、光源と、光源が発する光を後述する表示画像データに基づいて変調して出力する変調機構と、変調後の光に焦点調整や、拡大/縮小等の各種調整を施して、画像光として投射する投射光学系とを備えている。投射装置2が投射した画像光は、反射ミラー3aで折り返され、凹面ミラー3bで拡大されて、車両のフロントウィンドシールド4に投射される。画像光は、フロントウィンドシールド4により運転者側に反射され、これにより、運転手から見てフロントウィンドシールド4の前方に虚像が結像される。図1に示すように、ヘッドアップディスプレイ1の投射装置2には、本実施形態に係る表示制御装置5が接続されている。
図2は、フロントウィンドシールド4側に形成される虚像表示領域7を説明するため、運転席の前方のフロントウィンドシールド4を、車内側から見た様子を模式的に示す図である。図2に示すように、虚像表示領域7は、車両のハンドル8の前方、つまり、運転席に着座する運転手の前方に形成される。虚像表示領域7は、運転手が虚像を視認可能な最大の領域のことであり、投射装置2が投射した画像光により表示される虚像は、運転手から見たときに虚像表示領域7を最大領域として、虚像表示領域7内に表示される。つまり、虚像表示領域7は、フロントウィンドシールド4の特定の領域を意味するのではなく、投射装置2が投射した投射光により結像する虚像を運転手が視認可能な領域を意味する。ヘッドアップディスプレイ1は、虚像表示領域7内の任意の位置に虚像を表示することができる。なお、本実施形態において、虚像表示領域7に虚像を表示するとは、運転手により虚像表示領域7内で虚像が視認されるように、ヘッドアップディスプレイ2が画像光を投射して虚像を結像させることを意味する。
図2に示すように、虚像表示領域7は、運転席に着座する運転手の前方に形成された略矩形の領域であり、運転手が通常の姿勢で車両を直進させる運転をしているときにフロントウィンドシールド4を介して前方を視認したときの、運転手の視界の広い領域に延在している。このため、運転手は、車両の運転中、視線を逸らすことなく、虚像表示領域7に表示された虚像を視認することができる。
図3は、本実施形態に係る表示制御装置5の機能構成例を示すブロック図である。図3に示すように、表示制御装置5は、前方カメラ9(特許請求の範囲の「カメラ」に相当)およびヘッドアップディスプレイ1に接続されている。
前方カメラ9は、車両の前方を撮影するカメラ装置であり、所定の周期で、車両の前方を撮影し、撮影結果に基づく撮影画像データ(特許請求の範囲の「画像データ」に相当)を表示制御装置5に出力する。前方カメラ9は、車内のフロントウィンドシール4の近傍の天井に設けられ、運転手がフロントウィンドシールド4を介して視認可能な領域を含む領域を撮影する。
図3に示すように、表示制御装置5は、その機能構成として、撮影画像取得部10、標識画像取得部11および表示制御部12を備えている。上記各機能ブロック10〜12は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック10〜12は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。以上のことは、後述する他の機能ブロックについても同様である。
撮影画像取得部10は、前方カメラ9が所定の周期で出力する撮影画像データを入力し、取得する。撮影画像取得部10は、取得した撮影画像データを、標識画像取得部11および表示制御部12に出力する。
標識画像取得部11は、車両の走行に応じて、運転手の視界の中で虚像表示領域7に出現した後、虚像表示領域7内を移動し、虚像表示領域7を外れ、その後、運転手の視界を外れる標識について、標識画像データ(後述)を取得する。以下、標識画像取得部11の処理について詳述する。
本実施形態において、標識とは、道路に設けられ、道路、交通に関する情報が記録されたオブジェクトであり、例えば、交通標識や、案内標識等である。交通標識は、例えば、制限速度や、一方通行、通行止め等の情報が記録された標識であり、案内標識は、高速道路の出口や、特定の施設、目的地、通過地等への方向、距離等の情報が記録された標識である。通常、標識には、運転手が車両を運転するにあたって有益な情報が記録されているが、運転手が標識の内容を確認しないまま、車両が標識を通過してしまい、運転手が標識を見過ごしてしまう場合がある。
車両の走行中、標識は、以下の態様で、運転手の視界の中に出現し、視界から外れる。図4の各図は、車両の走行中、運転手の視界の中で標識の状態が変移する様子を示す図である。以下の説明において、第1範囲H1は、運転手が通常の姿勢で車両を直進させる運転をしているときの虚像表示領域7を介した運転手の視界の範囲を示している。また、第2範囲H2は、上記の態様で運転をしているときのフロントウィンドシールド4を介した運転手の視界の範囲を示している。なお、運転手の視界は、運転手の姿勢、視線、顔の向き等により変動するが、第1範囲H1および第2範囲H2は、運転手が通常の姿勢で車両を直進させる運転をしているときに想定される視界の範囲として、その形状が固定的に規定されるものである。なお、説明の便宜のため、図4の各図では、第1範囲H1および第2範囲H2の形状を、単純化して示している。
車両の前方に標識が存在する場合において、標識と車両とが相当に離間している場合は、標識は運転手の視界に出現しない。この状態から、車両が前方に向かって走行し、標識と車両とが近づくと、所定のタイミングで、運転手の視界の中で第1範囲H1に標識が出現する。図4(A)は、第1範囲H1に標識OJ1が出現した様子を示している。運転手の視界の中で第1範囲H1に標識が出現した状態は、特許請求の範囲において、「車両の走行に応じて、運転手の視界の中で標識が虚像表示領域7に出現した」状態に相当する。
第1範囲H1に標識が出現した後、更に車両の走行が進むと、標識は、車両の走行に応じて、第1範囲H1内で大きさを大きくさせながら所定方向に向かって移動する。以下、運転手の視界の中で、車両の走行に応じて標識が移動する方向を「標識移動方向」という。標識移動方向は、標識と車両との位置関係によって変動する。例えば、標識と車両とが最も近接した状態とのときに、標識が車両の上方に位置する場合には、標識は第1範囲H1内で上方に向かって移動する。また、標識と車両とが最も近接した状態のときに、標識が車両の左斜め上に位置する場合には、標識は第1範囲H1内で左斜め上へ向かって移動する。運転手の視界の中で第1範囲H1内で標識が標識移動方向に移動することは、特許請求の範囲において、「車両の走行に応じて、運転手の視界の中で標識が虚像表示領域7内を所定方向に向かって移動すること」に相当する。
車両の走行に応じて第1範囲H1における標識移動方向への標識の移動が進むと、いずれ、標識は第1範囲H1の内側において、第1範囲H1の端部に至る。標識が第1範囲H1の端部に至るとは、運転手の視界の中で、第1範囲H1の外縁に標識が内側から接した状態のことである。図4(B)は、標識OJ1が、図4(A)の状態から方向K1(標識移動方向)に移動し、第1範囲H1の端部に至った様子を示している。
標識が第1範囲H1の端部に至った後、更に車両の走行が進むと、いずれ、標識は第1範囲H1から外れ、第1範囲H1の外側に位置した状態となる。図4(C)は、図4(B)の状態から車両の走行が進み、標識が第1範囲H1から外れた状態を示している。運転手の視界の中で標識が第1範囲H1から外れた状態は、特許請求の範囲において、「車両の走行に応じて、運転手の視界の中で標識が虚像表示領域7内を外れた」状態に相当する。
標識が第1範囲H1から外れた後、更に車両の走行が進むと、いずれ、標識は第2範囲H2から外れ、フロントウィンドシールド4を介した運転手の視界から外れた状態となる。図4(D)は、図4(C)の状態から車両の走行が進み、標識が第2範囲H1から外れた状態を示している。この状態となると、運転手は、標識を直接視認することができない。
さて、上述したように撮影画像取得部10は、所定の周期で、撮影画像データを標識画像取得部11に出力する。標識画像取得部11は、撮影画像データを入力し、入力した撮影画像データを所定の座標系に展開する。なお、撮影画像データは、色に関する情報を保持するドットがドットマトリックス状に配置されたビットマップデータである。撮影画像データが所定の座標系に展開されることにより、撮影画像データを構成する各ドットの位置は、所定の座標系における座標によって表される。
図5の各図は、撮影画像データが所定の座標系に展開された様子を示す図である。所定の座標系に展開された撮影画像データにおいて、第1範囲H1に対応する第1領域AR1(図5の各図、参照)が事前に定義されている。撮影画像データの第1領域AR1内に一のオブジェクトの画像が存在する場合、運転手の視界の中で第1範囲H1に当該一のオブジェクトが存在している状態である。第1領域AR1の位置、サイズは事前のテストやシミュレーションに基づいて適切に定められている。同様に、所定の座標系に展開された撮影画像データにおいて、第2範囲H2に対応する第2領域AR2(図5の各図、参照)が事前に定義されている。
撮影画像データを所定の座標系に展開した後、標識画像取得部11は、撮影画像データの第1領域AR1を画像認識し、第1領域AR1に標識の画像が新たに出現したか否かを判定する。当該判定は、既存の技術を用いて適切に行われる。一例として、表示制御装置5に、種々の標識について、形状の特徴や、色の特徴、大きさの特徴、標識内に記録される文字や図形等の特徴、模様の特徴、その他の特徴を反映したテンプレートデータが記憶される。そして、標識画像取得部11は、テンプレートデータを用いたパターンマッチングにより、第1領域AR1に標識の画像が含まれるか否かを判定し、判定結果に基づいて第1領域AR1に標識の画像が新たに出現したか否かを判定する。以下、撮影画像データに含まれる標識の画像を「対応標識画像」という。
図5(A)は、第1領域AR1に対応標識画像NG1が新たに出現した様子を示している。上述したように、第1領域AR1に一の標識の対応標識画像が出現したということは、運転手の視界の中で第1範囲H1に当該一の標識が出現したということである。なお、標識画像取得部11が対応標識画像を認識するためには、撮影画像データにおいて対応標識画像が画像認識による認識が可能な程度のサイズとなる必要がある。このため、標識画像取得部11が第1領域AR1に一の標識の対応標識画像が出現したと判定するタイミングと、運転手の視界の中で第1範囲H1に当該一の標識が出現するタイミングとには、タイムラグが生じる。
第1領域AR1に対応標識画像が新たに出現したと判定した場合、標識画像取得部11は、以後、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、その対応標識画像を追跡して認識すると共に、その対応標識画像が第1領域AR1の端部に至ったか否かを判定する。対応標識画像が第1領域AR1の端部に至るとは、略矩形の第1領域AR1の外縁に対応標識画像が内側から接した状態のことである。上述したように、車両の走行に応じて第1範囲H1における標識の位置、大きさは変移するが、第1範囲H1における標識の位置、大きさの変移に連動して、撮影画像データにおける対応標識画像の位置、大きさは変移する。対応標識画像が第1領域AR1の端部に至った場合、運転手の視界の中で標識が第1範囲H1の端部に至った状態(図4(B)で例示した状態)となっている。図5(B)は、撮影画像データにおいて、第1領域AR1の端部に対応標識画像NG1が至った様子を示している。
一の撮影画像データにおいて、対応標識画像が第1領域AR1の端部に至ったと判定した場合、標識画像取得部11は、当該一の撮影画像データにおける対応標識画像の領域を切り取ることによって、対応標識画像が記録された画像データ(以下、「標識画像データ」という。)を取得する。標識画像データは、特許請求の範囲の「標識画像」に相当する。以上のようにして標識画像取得部11により取得された標識画像データは、運転手の視界の中で標識が第1範囲H1の端部に至ったときに前方カメラ9により撮影された標識の画像が記録された画像データである。従って、仮に、運転手が、標識が第1範囲H1の端部に至ったときに標識を視認した場合、標識画像データに記録された標識の画像と同様の状態で、標識を視認していたことになる。
なお、後述するように、標識画像データは、虚像の表示に用いられる。そして、第1範囲H1に標識が至ったとき(=第1領域AR1の対応標識画像が至ったとき)に撮影された撮影画像データから対応標識画像を切り取って標識画像データを取得することにより以下の効果を奏する。すなわち、標識画像データに基づく虚像の大きさを、第1範囲H1内で運転手が実際に見ることが可能であった標識の最大の大きさに対応させることができ、運転手が、的確にその内容を確認できるようにすることができる。
標識画像取得部11は、一の標識について、標識画像データを取得した場合、取得した標識画像データを表示制御部12に出力し、以後、当該一の標識についての撮影画像データの分析を停止する。
表示制御部12は、少なくとも運転手の視界から標識が外れているときに、標識画像データに基づく虚像を虚像表示領域7に表示する。以下、表示制御部12の処理について詳述する。
上述したように、撮影画像取得部10は、所定の周期で、撮影画像データを表示制御部12に出力する。表示制御部12は、撮影画像取得部10が出力する撮影画像データを所定の周期で入力し、所定の座標系に展開する。表示制御部12は、入力した撮影画像データを分析し、標識画像取得部11と同様の方法で、第1領域AR1に、対応標識画像が新たに出現したか否かを判定する。第1領域AR1に対応標識画像が新たに出現したと判定した場合、表示制御部12は、以後、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、その対応標識画像を追跡して認識すると共に、その対応標識画像が第1領域AR1を外れたか否かを判定する。対応標識画像が第1領域AR1を外れた場合、運転手の視界の中で標識が第1範囲H1を外れた状態(図4(C)で例示した状態)となっている。図5(C)は、第1領域AR1から対応標識画像NG1が外れた様子を示している。
第1領域AR1から一の標識の対応標識画像が外れたと判定した場合、表示制御部12は、第1領域AR1から当該一の標識の対応標識画像が外れたと判定したタイミングで、当該一の標識の標識画像データに基づいて虚像表示領域7への虚像の表示を開始する。第1領域AR1から当該一の標識の対応標識画像が外れたと判定したタイミングは、特許請求の範囲の「標識が虚像表示領域に出現した後の所定のタイミング」および「標識が虚像表示領域7から外れたタイミング」に相当する。以下、一の標識の標識画像データに基づいて、当該一の標識に対応する虚像を表示するときの表示制御部12の処理について詳述する。
上述したように、標識画像取得部11は、標識画像データを取得した場合、取得した標識画像データを表示制御部12に出力する。表示制御部12は、一の標識に対応する虚像を表示する場合、標識画像取得部11から入力した当該一の標識の標識画像データを取得する。次いで、表示制御部12は、一の標識の標識画像データに基づく虚像が、標識移動方向と逆方向に向かって虚像表示領域7内に徐々に現れるようなアニメーションを行った上で、虚像表示領域7に当該一の標識に対応する虚像を表示する。
図6は、図4に示す態様で、運転手の視界の中を方向K1(図4(B)参照)に向かって移動した一の標識について、表示制御部12が、当該一の標識に対応する虚像KZ1を表示するときに行うアニメーションの一例を示す図である。図6の各図では、図6(A)から図6(D)に向かって時間が経過している。図6(A)〜(C)に示すように、表示制御部12は、方向K1と逆方向の方向K1’に向かって、当該一の標識の標識画像データに基づく虚像KZ1が、第1範囲H1(虚像表示領域7)内に徐々に現れるようなアニメーションを行い、図6(D)に示すように、標識画像データに基づく虚像KZ1の全域が第1範囲H1(虚像表示領域7)の内側に収まった時点でアニメーションを終了する。この結果、図6(D)に示すように、当該一の標識に対応する虚像KZ1は、最終的に、虚像表示領域7の端部であって、虚像表示領域7における標識移動方向寄りの位置に表示された状態となる。
なお、表示制御部12による虚像の表示は、以下のようにして行われる。すなわち、表示制御部12は、虚像表示領域7における虚像の態様に応じて標識画像データの一部または全部が適切な位置に付加された表示画像データの生成、および、生成した表示画像データの投射装置2への送信を、所定の周期で行うことにより、虚像表示領域7に虚像を表示する。なお、表示画像データの生成に際し、表示制御部12は、標識画像データに対して必要な画像処理を施す。例えば、説明の便宜のため、図6で例示したアニメーションが、図6(A)〜(D)のそれぞれに対応する4フレームで行われるものとすると、まず、表示制御部12は、図6(A)で示す虚像の態様に応じて標識画像データの一部が付加された表示画像データを生成し投射装置2に送信する。以後、表示制御部12は、所定の周期で、図6(B)に対応する表示画像データの生成および送信、図6(C)に対応する表示画像データの生成および送信、図6(D)に対応する表示画像データの生成および送信を行う。この結果、図6に示す態様で、アニメーションが行われて虚像が表示される。
さて、第1領域AR1から一の標識の対応標識画像が外れたと判定したタイミングで当該一の標識に対応する虚像の表示を開始した後、表示制御部12は、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、当該一の標識の対応標識画像が第2領域AR2を外れたか否かを判定する。当該一の標識の対応標識画像が第2領域AR2を外れた場合、運転手の視界から標識がはずれた状態(図4(D)で例示した状態)となっている。図5(D)は、撮影画像データにおいて、第2領域AR2から対応標識画像NG1が外れた様子を示している。
第2領域AR2から一の標識の対応標識画像が外れたと判定した場合、表示制御部12は、第2領域AR2から対応標識画像が外れたと判定したタイミングを起点として経過時間をカウントし、経過時間が予め定めた時間となったときに、虚像表示領域7に表示した標識画像データに基づく虚像の表示を停止する。このように、表示制御部12は、一の標識の標識画像データに基づく虚像を表示した後、少なくとも運転手の視界から当該一の標識が外れてから予め定めた時間(所定期間)が経過するまでは当該虚像を表示する。この結果、少なくとも運転手の視界から標識が外れているときに、標識画像データに基づく虚像が虚像表示領域7に一定期間は表示された状態となる。このようにして表示された虚像は、運転手の視界から外れ、運転手が直接視認できなくなった標識の内容と同一の内容の虚像である。
以上のように、本実施形態では、表示制御部12は、少なくとも運転手の視界から標識が外れているときに、標識画像データに基づく虚像を虚像表示領域7に表示する。これにより、以下の効果を奏する。すなわち、運転手は、標識を見過ごした場合であっても、自身が内容を確認していない標識に対応する虚像が虚像表示領域7に表示されていることを認識することにより、自身が見過ごした標識があることを的確に認識できる。その上で、運転手は、標識を見過ごした場合であっても、視線を前方から逸らすことなく車両の運転を継続しつつ虚像を視認することにより、標識の内容を確認できる。
さらに、本実施形態では、表示制御部12は、標識画像データに基づく虚像を、虚像表示領域7における標識移動方向寄りの位置に表示する。これにより、以下の効果を奏する。すなわち、上記構成のため、一の標識に対応する虚像は、虚像表示領域7において、当該一の標識の実景が運転手により視認される位置に対応する位置に表示される。このため、運転手は、当該一の標識の実景を視認する感覚で、違和感なく自然に当該一の標識に対応する虚像を視認することができる。また、虚像表示領域7において、虚像が中央部を避けた位置に表示されることになるため、表示された虚像が車両を運転する運転手の視界の邪魔になりにくい。なお、本実施形態では、標識画像データに基づく虚像は、虚像表示領域7の端部に表示されるが、必ずしも、当該虚像は、虚像表示領域7の端部に表示される必要は無く、端部よりもある程度内側の位置に表示されてもよい。この場合であっても、上述した効果を奏することができる。
さらに、本実施形態では、表示制御部12は、一の標識に対応する虚像を表示した後、運転手の視界から当該一の標識が外れてから所定期間が経過するまでは当該一の標識に対応する虚像を表示する。この構成のため、運転手が標識の実景を確認できないような状況となった後に、運転手が虚像の内容を確認する期間を確実に確保できる。
さらに、本実施形態では、表示制御部12は、標識が虚像表示領域7から外れた後、標識画像データに基づく虚像が標識移動方向と逆方向に向かって虚像表示領域7内に徐々に現れるようなアニメーションを行って、虚像を表示する。この構成のため、運転手に、一旦、視認できなくなった標識が、再び、元の位置に戻ってきたような感覚を抱かせることができ、運転手は、的確に虚像を視認することができる。
さらに、本実施形態では、標識画像取得部11は、車両の前方を撮影するカメラの撮影結果に基づく撮影画像データを取得し、取得した撮影画像データに記録された標識の画像を、標識画像データとして取得する。この構成によれば、表示制御部12は、一の標識に対応する虚像として、当該一の標識の内容と完全に同一の内容の虚像を表示することができる。また、運転手は、当該一の標識の実景を視認する感覚で、違和感なく自然に当該一の標識に対応する虚像を視認することができる。
なお、表示制御部12は、複数の標識に対応する虚像を同時に虚像表示領域7に表示することが可能である。表示制御部12は、1の虚像を表示している場合に、当該1の虚像が表示された領域と重なる領域に、他の虚像を表示することになった場合、いずれか一方の虚像の位置をずらす(双方の虚像をずらしてもよい)ことにより、双方の虚像を表示する。また、表示制御部12は、一の標識に対応する虚像を表示している状態のときに、当該一の標識の内容と同一の内容の他の標識に対応する虚像を表示することになった場合に、いずれか一方の標識については、虚像を表示しないでもよい。
図7は、本実施形態に係る表示制御装置5の処理の一例を示すフローチャートである。特に、図7は、車両の走行中、運転手の視界の中で虚像表示領域7に標識が出現した場合(=第1範囲H1に標識が出現した場合)の表示制御装置5の処理の一例を示している。
図7に示すように、表示制御装置5の標識画像取得部11は、第1範囲H1に出現した標識について、標識画像データを取得する(ステップSA1)。標識画像取得部11は、取得した標識画像データを表示制御部12に出力する。
表示制御部12は、少なくとも運転手の視界から標識が外れているときに、ステップSA1で標識画像取得部11が取得した標識画像データに基づく虚像を虚像表示領域7に表示する(ステップSA2)。
図8(A)は、図7のフローチャートのステップSA1の処理の詳細を示すフローチャートである。図8(A)に示すように、標識画像取得部11は、撮影画像取得部10から所定の周期で入力する撮影画像データを分析し、第1領域AR1に対応標識画像が新たに出現したか否かを判定する(ステップSB1)。標識画像取得部11は、ステップSB1の処理を、第1領域AR1に対応標識画像が新たに出現したと判定するまで繰り返して実行する。
第1領域AR1に対応標識画像が新たに出現した場合(ステップSB1:YES)、標識画像取得部11は、以後、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、対応標識画像を追跡して認識すると共に、対応標識画像が第1領域AR1の端部に至ったか否かを判定する(ステップSB2)。標識画像取得部11は、ステップSB2の処理を、対応標識画像が第1領域AR1の端部に至ったと判定するまで繰り返して実行する。
対応標識画像が第1領域AR1の端部に至った場合(ステップSB2:YES)、標識画像取得部11は、対応標識画像が第1領域AR1の端部に至ったときの撮影画像データにおける対応標識画像の領域を切り取ることによって、対応標識画像が記録された標識画像データを取得する(ステップSB3)。
図8(B)は、図7のフローチャートのステップSA2の処理の詳細を示すフローチャートである。図8(B)に示すように、表示制御部12は、撮影画像取得部10から所定の周期で入力する撮影画像データを分析し、第1領域AR1に対応標識画像が新たに出現したか否かを判定する(ステップSC1)。表示制御部12は、ステップSC1の処理を、第1領域AR1に対応標識画像が新たに出現したと判定するまで繰り返して実行する。
第1領域AR1に対応標識画像が新たに出現した場合(ステップSC1:YES)、表示制御部12は、以後、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、対応標識画像を追跡して認識すると共に、対応標識画像が第1領域AR1から外れたか否かを判定する(ステップSC2)。表示制御部12は、ステップSC2の処理を、対応標識画像が第1領域AR1から外れたと判定するまで繰り返して実行する。
対応標識画像が第1領域AR1から外れた場合(ステップSC2:YES)、表示制御部12は、標識画像取得部11が取得した標識画像データに基づいて、虚像表示領域7への虚像の表示を開始する(ステップSC3)。上述したように、表示制御部12は、所定のアニメーション(図6参照)を行って、虚像を表示する。
虚像の表示を開始した後、表示制御部12は、所定の周期で撮影画像取得部10から入力する撮影画像データを追跡して分析し、対応標識画像が第2領域AR2を外れたか否かを判定する(ステップSC4)。表示制御部12は、ステップSC4の処理を、対応標識画像が第2領域AR2から外れたと判定するまで繰り返して実行する。
対応標識画像が第2領域AR2から外れた場合(ステップSC4:YES)、表示制御部12は、経過時間の計測を開始する(ステップSC5)。次いで、表示制御部12は、経過時間が、予め定めた時間となったか否かを判定する(ステップSC6)。表示制御部12は、ステップSC6の処理を、経過時間が予め定めた時間となったと判定するまで繰り返して実行する。経過時間が、予め定めた時間となった場合(ステップSC6:YES)、表示制御部12は、虚像の表示を停止する(ステップSC7)。
以上詳しく説明したように、本実施形態に係る表示制御装置5は、車両の走行に応じて、運転手の視界の中で虚像表示領域7に出現した後、虚像表示領域7内を移動し、虚像表示領域7を外れ、その後、運転手の視界を外れる標識について、標識の画像である標識画像データを取得し、少なくとも運転手の視界から標識が外れているときに、標識画像データに基づく虚像を虚像表示領域7に表示する。この構成によれば、上述のとおり、運転手は、車両の走行中、運転手が標識を見過ごした場合であっても、見過ごした標識があることを的確に認識した上で、簡易にその内容を確認できる。
<第1実施形態の第1変形例>
次に、第1実施形態の第1変形例について説明する。上述した第1実施形態では、表示制御部12は、撮影画像データにおいて第1領域AR1から対応標識画像が外れたタイミング、換言すれば、運転手の視界の中で標識が虚像表示領域7から外れたタイミングで、標識に対応する虚像の表示を開始した。この点について、本変形例に係る表示制御部12は、以下のタイミングで標識に対応する虚像の表示を開始する。
すなわち、表示制御部12は、撮影画像データにおいて第1領域AR1の端部に対応標識画像が至ったタイミングで、標識に対応する虚像の表示を開始する。撮影画像データにおいて第1領域AR1の端部に対応標識画像が至ったタイミングとは、運転手の視界の中で標識が虚像表示領域7の端部に至ったタイミングに相当する。
図9の各図は、本変形例において、標識に対応する虚像が表示される様子を、運転手の視界の中で標識の状態が変移する様子と共に示す図である。図9は、図4を援用しており、同一の構成要素について同一の符号を付している。
図9に示すように、標識OJ1は、第1範囲H1に出現した後(図9(A))、車両の走行に応じて第1範囲H1の端部に至る(図9(B))。本変形例に係る表示制御部12は、このタイミングで、標識OJ1に対応する虚像KZ2を表示する。図9(B)(後述する図9(C)、(D)も)では、実景である標識OJ1と区別するため、虚像KZ2に網掛けをしている。特に、表示制御部12は、運転手の視界の中で、標識OJ1(運転手から見える標識の実景)に重なるように、虚像KZ2を表示する。
標識OJ1は、第1範囲H1の端部に至った後、車両の走行に応じて、第1範囲H1を外れ(図9(C))、その後、第2範囲H2を外れる(図9(D))。その間も、図9(C)、(D)に示すように、標識OJ1に対応する虚像KZ2は、虚像表示領域7に継続して表示される。
本変形例の構成によれば、運転手に対して、普通は車両の走行に伴って運転手の視界から消えていく標識が、虚像表示領域7内に残像のように留まっているような感覚を抱かせることができ、運転手は、的確に虚像を視認することができる。なお、本変形例は、後述する第2実施形態にも適用可能である。
<第1実施形態の第2変形例>
次に、第1実施形態の第2変形例について説明する。上述した第1実施形態では、表示制御部12は、第1範囲H1に標識が出現したこと、第1範囲H1の端部に標識が至ったこと、第1範囲H1から標識が外れたこと、および、第2範囲H2から標識が外れたことを、撮影画像データを画像認識することにより、検出していた。一方で、本変形例に係る表示制御部12は、車両と、標識との位置関係に基づいて、上記事象を検出する。以下、本変形例に係る表示制御部12の処理の一例について詳述する。
本変形例では、表示制御部12は、随時、車両の現在位置(以下、「自車位置」という)および車両の進行方向(以下、単に「進行方向」という)を取得する。表示制御部12が自車位置および進行方向を取得する方法はどのような方法でもよい。例えば、表示制御装置5に、GPS等の自車位置および進行方向を検出するセンサが設けられ、表示制御部12は、センサの検出結果に基づいて、自ら自車位置および進行方向を算出し、取得する。また例えば、表示制御部12は、自車位置および進行方向を検出する機能を有する外部の装置(例えば、車両に設けられたナビゲーション装置)と通信し、取得する。
また、本変形例では、表示制御装置5には、虚像の表示対象となる標識ごとに、標識の立体的な位置を示す情報を有する標識データベースが記憶されている。標識の立体的な位置とは、標識の平面地図における位置と、標識の高さとの組み合わせである。なお、表示制御装置5が標識データベースを記憶する構成ではなく、他の装置(車両に設けられた装置に限らず、ネットワークを介して通信可能なサーバ装置等であってもよい)が記憶し、表示制御部12が、適宜、当該他の装置と通信し、後述する処理を実行するために必要な情報を取得する構成でもよい。
本変形例では、自車位置から、運転手が虚像表示領域7を介して視認可能な範囲である第1対応範囲Q1、および、運転手がフロントウィンドシールド4を介して視認可能な範囲である第2対応範囲Q2が予め定義されている。図10は、第1対応範囲Q1および第2対応範囲Q2の一例を模式的に示す図である。図10の例では、自車位置における運転手の目を想定したポイントP1を基点とする四角錐状の立体的な範囲が第1対応範囲Q1である。また、図10の例では、第1対応範囲Q1を包含し、ポイントP1を基点とする四角錐状の立体的な範囲が第2対応範囲Q2である。第1対応範囲Q1は、この範囲にオブジェクトが存在する場合、運転手の虚像表示領域7を介した視界の中にそのオブジェクトが存在するという観点から適切に設定される。同様に、第2対応範囲Q2は、この範囲にオブジェクトが存在する場合、運転手のフロントウィンドシールド4を介した視界の中にそのオブジェクトが存在するという観点から適切に設定される。
さて、表示制御部12は、一の標識について、当該一の標識の立体的な位置、自車位置および進行方向に基づいて、当該一の標識が、第1対応範囲Q1の外側にある状態から内側に入った状態となったか否かを判定し、第1対応範囲Q1の外側にある状態から内側に入った状態となった場合、第1範囲H1に標識が出現したことを検出する。また、表示制御部12は、当該一の標識が、第1対応範囲Q1の外縁に内側から接触した状態となった場合、第1範囲H1の端部に標識が至ったことを検出する。また、表示制御部12は、当該一の標識が、第1対応範囲Q1の内側にある状態から外側に出た状態となった場合、第1範囲H1から標識が外れたことを検出する。また、表示制御部12は、当該一の標識が、第2対応範囲Q2の内側にある状態から外側に出た状態となった場合、第2範囲H2から標識が外れたことを検出する。
本変形例であっても、表示制御部12は、適切に、第1範囲H1に標識が出現したこと、第1範囲H1の端部に標識が至ったこと、第1範囲H1から標識が外れたこと、および、第2範囲H2から標識が外れたことを検出できる。なお、本変形例は、後述する第2実施形態にも適用可能である。
<第2実施形態>
次に、第2実施形態に説明する。図11は、第2実施形態に係る表示制御装置5Aの機能構成例を示すブロック図である。図11と図3との比較で明らかなとおり、本実施形態に係る表示制御装置5Aには、ヘッドアップディスプレイ1のほか、サブヘッドアップディスプレイ15が接続されている。また、表示制御装置5Aは、機能構成として、表示制御部12に代えて表示制御部12Aを有している。
サブヘッドアップディスプレイ15は、虚像表示領域7とは別の領域であるサブ虚像表示領域20に、虚像を表示する装置である。図12は、フロントウィンドシールド4に形成されるサブ虚像表示領域20を説明するため、運転席の前方のフロントウィンドシールド4を、車内側から見た様子を模式的に示す図である。図12は、図2を援用しており、同一の構成要素については同一の符号を付している。
図12に示すように、サブ虚像表示領域20は、虚像表示領域7の上方に形成された領域である。虚像表示領域7は、運転手の視界の中で、標識や、車両が走行中の道路、前方の車両、標識、信号機等が出現する領域であるが、サブ虚像表示領域20は、このようなオブジェクトが出現する領域ではない。通常、運転手がサブ虚像表示領域20を介して視認する対象は、車両から遠方に位置する建物や、山、空等である。このため、車両の運転中に、サブ虚像表示領域20に虚像が表示された場合であっても、運転手による運転への影響が少ない。なお、本実施形態において、虚像表示領域7は、特許請求の範囲の「第1の領域」に相当し、サブ虚像表示領域20は、特許請求の範囲の「第2の領域」に相当する。
上述した第1実施形態に係る表示制御部12は、一の標識に対応する虚像を表示した後、当該一の標識が運転手の視界から外れてから予め定めた時間が経過したときに、虚像表示領域7への虚像の表示を停止する。本実施形態に係る表示制御部12Aについて、虚像の表示を停止するまでの処理は、第1実施形態に係る表示制御部12と同一である。
そして、本実施形態に係る表示制御部12Aは、虚像表示領域7への虚像の表示を停止したときに、サブヘッドアップディスプレイ15を制御して、表示を停止した虚像と同一の内容の虚像をサブ虚像表示領域20に表示する。サブ虚像表示領域20への虚像の表示に際し、表示制御部12Aは、虚像表示領域7における虚像の左右方向の位置と、サブ虚像表示領域20における虚像の左右方向の位置とを対応させる。例えば、表示制御部12Aは、虚像表示領域7において左寄りに表示されていた虚像については、サブ虚像表示領域20において左寄りに表示する。
図13の各図は、虚像表示領域7における虚像の表示が停止されると共に、サブ虚像表示領域20で対応する虚像が表示される様子を示す図である。図13の各図において、第3範囲H3は、運転手が通常の姿勢で車両を直進させる運転をしているときのサブ虚像表示領域20を介した運転手の視界の範囲を示している。図13(A)に示す態様で、虚像表示領域7に虚像KZ3を表示している場合において、表示制御部12Aは、所定のタイミングで、虚像表示領域7への虚像KZ3の表示を停止すると共に、例えば、図13(B)に示す態様で、サブ虚像表示領域20に虚像KZ3を表示する。なお、表示制御部12Aは、サブ虚像表示領域20に虚像を表示した後、一定期間が経過したときに、虚像の表示を停止する。
本実施形態によれば、以下の効果を奏する。すなわち、上述したように、一の標識について、運転手が直接視認できない状態となった場合であっても、所定期間は、虚像表示領域7に当該一の標識に対応する虚像が表示されるため、運転手は、その所定期間の間に、当該一の標識に対応する虚像を視認することにより、当該一の標識の内容を確認できる。しかしながら、例えば、前方の車両を追い越し中であったりする等して、運転手が、その所定期間の間に、当該一の標識に対応する虚像を視認できないケースがある。このようなケースを想定して、所定期間を、非常に長い時間とすることが可能であるが、上述したように、虚像表示領域7は、運転手の視界の中で、標識や、車両が走行中の道路、前方の車両、標識、信号機等のオブジェクトが出現する領域であるため、虚像表示領域7に表示された虚像が、これらオブジェクトを運転手が視認するときに影響を与える可能性があり、この領域に、不必要に長い間、虚像を表示すべきでない。また、虚像を長時間表示する構成とすると、虚像表示領域7に同時に表示される虚像が多数となるリスクが高くなり、この点でも、オブジェクトを運転手が視認するときに影響を与える可能性がある。
以上を踏まえ、本実施形態によれば、虚像表示領域7への虚像の表示の停止に応じて、サブ虚像表示領域20に対応する虚像が表示される構成のため、虚像表示領域7に不必要に長い間、虚像が表示されることを防止した上で、運転手が標識を見過ごした場合であっても、より確実に、運転手が標識の内容を確認できるようにすることができる。
なお、虚像表示領域7への虚像の表示を停止し、対応する虚像をサブ虚像表示領域20に表示するときに、表示制御部12は、以下のようなアニメーションを行ってもよい。すなわち、表示制御部12は、虚像表示領域7に表示されている虚像について、虚像表示領域7内を、サブ虚像表示領域20に向かって移動させる。そして、表示制御部12は、虚像が虚像表示領域7の上端部に至ったときに、虚像表示領域7への虚像の表示を停止し、対応する虚像をサブ虚像表示領域20に表示する。このようなアニメーションを行うことにより、運転手に対して、虚像表示領域7に表示されていた虚像が、虚像表示領域7に代えてサブ虚像表示領域20に表示されたことを的確に認識させることができる。
また、サブ虚像表示領域20の位置は、本実施形態で説明した位置に限らず、サブ虚像表示領域20は、虚像表示領域7と別の領域であればよい。一例として、サブ虚像表示領域20は、フロントウィンドシールド4の左端部や右端部に形成された領域であってもよい。また、本実施形態では、虚像表示領域7とサブ虚像表示領域20とに虚像を表示するヘッドアップディスプレイ装置は、それぞれ、別々であった。この点について、1つのヘッドアップディスプレイ装置により、虚像表示領域7とサブ虚像表示領域20とに虚像を表示する構成でもよい。
以上、本発明の実施形態について説明したが、上記各実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
例えば、上述した各実施形態では、ヘッドアップディスプレイ1は、フロントウィンドシールド4に画像光を投射して虚像を表示するウィンドシールド型のヘッドアップディスプレイ装置であった。この点に関し、コンバイナ型のヘッドアップディスプレイ装置であってもよい。第2実施形態では、サブヘッドアップディスプレイ15についても同様である。
また、第1実施形態では、表示制御部12は、撮影画像データを分析することによって、標識が運転手の視界から外れたか否かを判定し、運転手の視界から外れたと判定した後、予め定められた時間だけ、標識に対応する虚像を表示していた。この構成によれば、確実に、運転手の視界から標識が外れた後に、標識に対応する虚像が表示された期間を確保することができる。ただし、運転手の視界から標識が外れた後に、標識に対応する虚像が表示された期間を確保する方法は、第1実施形態で説明した方法に限らない。一例として、表示制御部12は、自車位置と、標識の位置とに基づいて、車両が標識を通り過ぎたか否かを判定し、通り過ぎたと判定してから一定期間の間、その標識に対応する虚像を表示してもよい。以上のことは第2実施形態についても同様である。
また、上述した第1実施形態では、撮影画像データにおいて、第1領域AR1の端部に対応標識画像が至ったタイミングで、撮影画像データから対応標識画像を切り取って標識画像データを生成する構成であった。しかしながら、撮影画像データから対応標識画像を切り取って標識画像データを生成するタイミングは、上記タイミングに限らない。すなわち、表示制御部12により、虚像の表示が開始される前のタイミングであればよい。この場合、標識画像データに基づいて虚像を表示する際に、標識画像データに記録された標識の画像について、拡大等の画像処理が適切に実行される。以上のことは第2実施形態についても同様である。
また、上述した第1実施形態では、虚像の表示を開始するタイミングについて説明した。しかしながら、虚像の表示を開始するタイミングは、第1実施形態で説明したタイミングに限らない。例えば、対応標識画像が第1領域AR1を外れたタイミングで、虚像の表示を開始する構成でもよい。この場合、表示制御部12は、虚像の表示を開始した後、所定期間、虚像の表示を継続し、運転手が標識を視認できなくなった後に、標識に対応する虚像が表示される期間を確保する。また例えば、夜間において、車両が前方に向かって照射するライトの範囲から一の標識が外れ、当該一の標識について画像認識ができなくなったことをトリガとして、表示制御部12が、当該一の標識に対応する虚像の表示を開始する構成でもよい。
また、上述した第1実施形態では、表示制御部12は、標識画像データに基づく虚像を、虚像表示領域7における標識移動方向寄りの位置に表示した。この点に関し、表示制御部12が、虚像表示領域7における標識移動方向寄りの位置ではない位置に虚像を表示する構成でもよい。これらのことは第2実施形態についても同様である。
また、上述した第1実施形態では、標識画像取得部11は、撮影画像データから対応標識画像を切り取ることにより、標識画像データを生成し、取得した。つまり、標識画像データは、前方カメラ9によって撮影された標識の画像が記録された画像データであった。この点に関し、標識画像データは、撮影された標識の画像が記録された画像データでなくてもよい。例えば、標識画像データは事前に用意された画像データ(例えば、パターンマッチング用に用意された画像データ)であってもよい。また例えば、標識画像データは、必要な情報が記述されたテキストデータであってもよい。テキストデータの場合、例えば、事前に、標識ごとにテキストデータである標識画像データが表示制御装置5に記憶される。そして、標識画像取得部11は、画像認識により虚像を表示しようとしている標識を特定し、事前に記憶された標識画像データのうち、特定した標識に対応する標識画像データを取得する。この場合において、画像認識で標識を特定するのではなく、標識の位置と、標識に対応する標識画像データ(テキストデータ)とを対応づけて記憶するようにした上で、標識の位置を特定し、標識に対応する標識画像データを取得する構成でもよい。
また、上述した第1実施形態では、虚像を表示する際、アニメーションを行った。ただし、アニメーションを行わずに、虚像をポップアップ表示する構成でもよい。このことは第2実施形態についても同様である。