JP7459883B2 - 表示制御装置、ヘッドアップディスプレイ装置、及び方法 - Google Patents

表示制御装置、ヘッドアップディスプレイ装置、及び方法 Download PDF

Info

Publication number
JP7459883B2
JP7459883B2 JP2021567664A JP2021567664A JP7459883B2 JP 7459883 B2 JP7459883 B2 JP 7459883B2 JP 2021567664 A JP2021567664 A JP 2021567664A JP 2021567664 A JP2021567664 A JP 2021567664A JP 7459883 B2 JP7459883 B2 JP 7459883B2
Authority
JP
Japan
Prior art keywords
area
display
image
vehicle
real object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021567664A
Other languages
English (en)
Other versions
JPWO2021132555A1 (ja
Inventor
勇希 舛屋
博 平澤
崇 中村
一夫 諸橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Seiki Co Ltd
Original Assignee
Nippon Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Seiki Co Ltd filed Critical Nippon Seiki Co Ltd
Publication of JPWO2021132555A1 publication Critical patent/JPWO2021132555A1/ja
Application granted granted Critical
Publication of JP7459883B2 publication Critical patent/JP7459883B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F9/00Indicating arrangements for variable information in which the information is built-up on a support by selection or combination of individual elements
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本開示は、車両で使用され、車両の前景に画像を重畳して視認させる表示制御装置、ヘッドアップディスプレイ装置、及び方法に関する。
特許文献1には、自車両の前景(実景)にあたかも実際に存在するかのような仮想オブジェクトを遠近感のある画像で表現し、拡張現実(AR:Augmented Reality)を生成し、仮想オブジェクト(画像)が示す情報と実景に存在する実オブジェクト(道路、他車両、又は歩行者など。)とのつながりを向上させ、視認者(自車両の運転者)の視覚的負荷を軽減しつつ、情報を認識させるヘッドアップディスプレイ装置が記載されている。
国際公開第2018/216553号
ヘッドアップディスプレイ装置は、典型的には、視認者から見た限られた領域(虚像表示領域)にだけ画像の虚像を表示することができる。自車両の運転者の目高さ(目位置)が変化しても虚像表示領域の位置が固定だとする(実質的には、目高さ(目位置)が変化すると虚像表示領域の位置は多少変化する。)と、自車両の運転者の目高さ(目位置)の違いにより、視認者から見た虚像表示領域と重なる自車両の外側の実景の領域とが異なる。具体的には、基準となる目高さで虚像表示領域が重なる実景の領域を基準実景領域とすると、基準となる目高さより高い位置から見た虚像表示領域が重なる実景領域は、視認者から見て基準実景領域よりも下側の領域となる(遠近で言えば、基準実景領域よりも近傍側の実景領域となる)。逆に、基準となる目高さより低い位置から見た虚像表示領域が重なる実景領域は、視認者から見て基準実景領域よりも上側の領域となる(遠近で言えば、基準実景領域よりも遠方側の実景領域となる)。
虚像表示領域が重なる実景領域が、目高さ(目位置)の違いにより異なることで、例え、自車両と実オブジェクトの関係が一定であっても、視認者の目高さが低い人に対し、虚像表示領域内に実オブジェクトが含まれ、当該実オブジェクトに対応した仮想オブジェクトが表示されるが、視認者の目高さが高い人に対しては、虚像表示領域内に実オブジェクトが含まれずに、当該実オブジェクトに対応した仮想オブジェクトが表示されないということも想定される。
また、視認者の目位置から見て虚像表示領域が重なる実景領域の周辺に、実オブジェクトが存在する場合、虚像表示領域内に当該実オブジェクトを指示するような画像を表示するが、視認者の目位置から見て虚像表示領域が重なる実景領域と、実オブジェクトの位置とが離れてしまった場合、実オブジェクトが画像(虚像)の表示対象から外されてしまうことも想定される。すなわち、虚像表示領域の位置が所定の位置、又は目位置が所定の位置などで、視認者から見た虚像表示領域が重なる実景領域が変わってしまうため、実オブジェクトの位置が一定であっても、虚像表示領域の位置や目位置が所定の位置であった場合でも、実オブジェクトが画像(虚像)の表示対象から外されてしまうことも想定される。
本明細書に開示される特定の実施形態の要約を以下に示す。これらの態様が、これらの特定の実施形態の概要を読者に提供するためだけに提示され、この開示の範囲を限定するものではないことを理解されたい。実際に、本開示は、以下に記載されない種々の態様を包含し得る。
本開示の概要は、虚像の表示領域の位置や目位置が変化しても実オブジェクトに関する情報を認識させやすくする、より具体的には、虚像の表示領域の位置や視認者の目位置が異なっていても提示される情報のばらつきを抑えることにも関する。
したがって、本明細書に記載される表示制御装置は、車両内のアイボックスから見て前景に重なる表示領域内に、画像の虚像を表示する画像表示部を制御する表示制御装置であって、情報を取得可能な1つ又は複数のI/Oインタフェースと、1つ又は複数のプロセッサと、メモリと、前記メモリに格納され、前記1つ又は複数のプロセッサによって実行されるように構成される1つ又は複数のコンピュータ・プログラムと、を備え、前記1つ又は複数のI/Oインタフェースは、車両の周辺に存在する実オブジェクトの位置と、前記表示領域の位置、前記アイボックス内の観察者の目位置、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つと、を取得し、前記1つ又は複数のプロセッサは、前記実オブジェクトの位置が、第1判定実景領域内に入るか否か、及び第2判定実景領域内に入るか否かを判定し、前記実オブジェクトの位置が、前記第1判定実景領域内に入る場合、前記実オブジェクトに対応する第1態様の画像の虚像を表示させ、前記実オブジェクトの位置が、前記第2判定実景領域内に入る場合、前記実オブジェクトに対応する第2態様の画像の虚像を表示させ、前記表示領域の位置、前記目位置、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記第2判定実景領域の範囲を拡大する、命令を実行する。
図1は、車両用表示システムの適用例を示す図である。 図2は、画像表示部の構成を示す図である。 図3は、車両内のアイボックスから前方を向いた際に視認される、前景と、第1の態様の画像の虚像と、を示す図である。 図4は、車両内のアイボックスから前方を向いた際に視認される、前景と、第1の態様の画像の虚像と、を示す図である。 図5は、車両内のアイボックスから前方を向いた際に視認される、前景と、第2の態様の画像の虚像と、を示す図である。 図6は、車両内のアイボックスから前方を向いた際に視認される、前景と、第2の態様の画像の虚像と、を示す図である。 図7Aは、車両内のアイボックスから前方を向いた際に視認される、実オブジェクトと、第2の態様の画像の虚像と、を示す図である。 図7Bは、図7Aよりさらに実オブジェクトが車両に接近した状況であり、車両内のアイボックスから前方を向いた際に視認される、実オブジェクトと、第2の態様の画像の虚像と、を示す図である。 図7Cは、図7Bよりさらに実オブジェクトが車両に接近した状況であり、車両内のアイボックスから前方を向いた際に視認される、実オブジェクトと、第2の態様の画像の虚像と、を示す図である。 図8Aは、車両内のアイボックスから前方を向いた際に視認される、実オブジェクトと、第2の態様の画像の虚像と、を示す図である。 図8Bは、図8Aよりも実オブジェクトが車両に接近した状況を示す図である。 図8Cは、図8Bよりも実オブジェクトが車両に接近した状況を示す図である。 図9は、車両内のアイボックスから前方を向いた際に視認される、前景と、第2の態様の画像の虚像と、を示す図である。 図10は、車両内のアイボックスから前方を向いた際に視認される、前景と、第2の態様の画像の虚像と、を示す図である。 図11は、車両用表示システムのブロック図である。 図12Aは、車両の左右方向(X軸方向)から見た場合の、アイボックスと、第1の態様の画像の虚像を表示する第1表示領域、第1判定実景領域、及び第2判定実景領域、の位置関係を示す図である。 図12Bは、車両の左右方向(X軸方向)から見た場合の、アイボックスと、第1の態様の画像の虚像を表示する第1表示領域、第1判定実景領域、及び第2判定実景領域、の位置関係を示す図である。 図13Aは、車両の左右方向(X軸方向)から見た場合の、第1表示領域、第1判定実景領域、及び第2判定実景領域、の位置関係を示す図である。 図13Bは、図13Aよりも第1表示領域が下側に配置された状況を示す図である。 図13Cは、図13Bよりも第1表示領域が下側に配置された状況を示す図である。 図14Aは、車両の左右方向(X軸方向)から見た場合の、第1表示領域、第1判定実景領域、及び第2判定実景領域、の位置関係を示す図である。 図14Bは、図14Aよりも視認者の目位置が上側に配置された状況を示す図である。 図14Cは、図14Bよりも視認者の目位置が上側に配置された状況を示す図である。 図145は、車両の左右方向(X軸方向)から見た場合の、第1表示領域、第1判定実景領域、及び第2判定実景領域、の位置関係を示す図である。 図15Bは、図15Aよりも車両の姿勢が前傾になった状況を示す図である。 図16Aは、図13Bと同じであり、図13Aの第1表示領域の位置を基準表示領域として、当該基準表示領域よりも第1表示領域が下に配置された際の、第2判定実景領域の拡大された一態様を示している。 図16Bは、第2判定実景領域の拡大された一態様を示している。 図16Cは、第2判定実景領域の拡大された一態様を示している。 図16Dは、第2判定実景領域の拡大された一態様を示している。 図17Aは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Bは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Cは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Dは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Eは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Fは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図17Gは、アイボックスから前方を向いた際の第1判定実景領域、及び第2判定実景領域、の位置関係を模式的に示す図である。 図18Aは、いくつかの実施形態に従って、車両の外側の実景に存在する実オブジェクトに対して、第1態様又は第2態様の画像の虚像を表示する動作を実行する方法を示すフローチャートである。 図18Bは、図18Aに続くフローチャートである。
以下、図1、図2、及び図11では、例示的な車両用表示システムの構成の説明を提供する。図3ないし図10では、表示例の説明を提供する。図12Aないし図18では、例示的な動作について説明する。なお、本発明は以下の実施形態(図面の内容も含む)によって限定されるものではない。下記の実施形態に変更(構成要素の削除も含む)を加えることができるのはもちろんである。また、以下の説明では、本発明の理解を容易にするために、公知の技術的事項の説明を適宜省略する。
図1を参照する。本実施形態の車両用表示システム10は、画像表示部20と、画像表示部20を制御する表示制御装置30と、表示制御装置30に連結される電子機器401ないし417と、で構成される。
車両用表示システム10における画像表示部20は、車両1のダッシュボード5内に設けられたヘッドアップディスプレイ(HUD:Head-Up Display)装置である。画像表示部20は、表示光40をフロントウインドシールド2(被投影部の一例である)に向けて出射し、フロントウインドシールド2は、画像表示部20が表示する画像Mの表示光40をアイボックス200へ反射する。視認者は、アイボックス200内に目4を配置することで、フロントウインドシールド2を介して視認される現実空間である前景に重なる位置に、画像表示部20が表示する画像Mの虚像Vを視認することができる。なお、本実施形態に用いる図面において、車両1の左右方向をX軸方向(車両1の前方を向いた際の左側がX軸正方向)とし、上下方向をY軸方向(路面を走行する車両1の上側がY軸正方向)とし、車両1の前後方向をZ軸方向(車両1の前方がZ軸正方向)とする。
本実施形態の説明で用いる「アイボックス」とは、(1)領域内では画像Mの虚像Vの少なくとも一部が視認でき、領域外では画像Mの虚像Vの一部分も視認されない領域、(2)領域内では画像Mの虚像Vの少なくとも一部が所定の輝度以上で視認でき、領域外では画像Mの虚像Vの全体が前記所定の輝度未満である領域、又は(3)画像表示部20が立体視可能な虚像Vを表示可能である場合、虚像Vの少なくとも一部が立体視でき、領域外では虚像Vの一部分も立体視されない領域である。すなわち、視認者が目(両目)4をアイボックス200外に配置すると、視認者は、画像Mの虚像Vの全体が視認できない、画像Mの虚像Vの全体の視認性が非常に低く知覚しづらい、又は画像Mの虚像Vが立体視できない。前記所定の輝度とは、例えば、アイボックスの中心で視認される画像Mの虚像の輝度に対して1/50程度である。
表示領域100は、画像表示部20の内部で生成された画像Mが、虚像Vとして結像する平面、曲面、又は一部曲面の領域であり、結像面とも呼ばれる。表示領域100は、画像表示部20の後述する表示器21の表示面(例えば、液晶ディスプレイパネルの出射面)21aが虚像として結像される位置であり、すなわち、表示領域100は、画像表示部20の後述する表示面21aに対応し(言い換えると、表示領域100は、後述する表示器21の表示面21aと、共役関係となる。)、そして、表示領域100で視認される虚像は、画像表示部20の後述する表示面21aに表示される画像に対応している、と言える。表示領域100自体は、実際に視認者の目4に視認されない、又は視認されにくい程度に視認性が低いことが好ましい。表示領域100には、車両1の左右方向(X軸方向)を軸とした水平方向(XZ平面)とのなす角度(図1のチルト角θt)と、アイボックス200の中心205と表示領域100の上端101とを結ぶ線分と、アイボックス中心と表示領域100の下端102とを結ぶ線分とのなす角度を表示領域100の縦画角として、この縦画角の二等分線と水平方向(XZ平面)とのなす角度(図1の縦配置角θv)と、が設定される。
本実施形態の表示領域100は、前方(Z軸正方向)を向いた際に概ね正対するように、概ね90[degree]のチルト角θtを有する。但し、チルト角θtは、これに限定されるものではなく、0≦θt<90[degree]の範囲で変更し得る。この場合、例えば、チルト角θtは、60[degree]に設定され、表示領域100は、視認者から見て上側の領域が下側の領域より遠方になるように配置されてもよい。
図2は、本実施形態のHUD装置20の構成を示す図である。HUD装置20は、画像Mを表示する表示面21aを有する表示器21と、リレー光学系25と、を含む。
図2の表示器21は、液晶ディスプレイパネル22と、光源ユニット24と、から構成される。表示面21aは、液晶ディスプレイパネル22の視認側の表面であり、画像Mの表示光40を出射する。表示面21aの中心からリレー光学系25及び前記被投影部を介してアイボックス200(アイボックス200の中央)へ向かう表示光40の光軸40pに対する、表示面21aの角度の設定により、表示領域100の角度(チルト角θtを含む。)が設定され得る。
リレー光学系25は、表示器21から出射された表示光40(表示器21からアイボックス200へ向かう光。)の光路上に配置され、表示器21からの表示光40をHUD装置20の外側のフロントウインドシールド2に投影する1つ又はそれ以上の光学部材で構成される。図2のリレー光学系25は、1つの凹状の第1ミラー26と、1つの平面の第2ミラー27と、を含む。
第1ミラー26は、例えば、正の光学的パワーを有する自由曲面形状である。換言すると、第1ミラー26は、領域毎に光学的パワーが異なる曲面形状であってもよく、すなわち、表示光40が通る領域(光路)に応じて表示光40に付加される光学的パワーが異なってもよい。具体的には、表示面21aの各領域からアイボックス200へ向かう第1画像光41、第2画像光42、第3画像光43(図2参照)とで、リレー光学系25によって付加される光学的パワーが異なってもよい。
なお、第2ミラー27は、例えば、平面ミラーであるが、これに限定されるものではなく、光学的パワーを有する曲面であってもよい。すなわち、リレー光学系25は、複数のミラー(例えば、本実施形態の第1ミラー26、第2ミラー27。)を合成することで、表示光40が通る領域(光路)に応じて付加される光学的パワーを異ならせてもよい。なお、第2ミラー27は、省略されてもよい。すなわち、表示器21から出射される表示光40は、第1ミラー26により被投影部(フロントウインドシールド)2に反射されてもよい。
また、本実施形態では、リレー光学系25は、2つのミラーを含んでいたが、これに限定されるものではなく、これらに追加又は代替で、1つ又はそれ以上の、レンズなどの屈折光学部材、ホログラムなどの回折光学部材、反射光学部材、又はこれらの組み合わせを含んでいてもよい。
また、本実施形態のリレー光学系25は、この曲面形状(光学的パワーの一例。)により、表示領域100までの距離を設定する機能、及び表示面21aに表示された画像を拡大した虚像を生成する機能、を有するが、これに加えて、フロントウインドシールド2の湾曲形状により生じ得る虚像の歪みを抑制する(補正する)機能、を有していてもよい。
また、リレー光学系25は、表示制御装置30により制御されるアクチュエータ28、29が取り付けられ、回転可能であってもよい。これについては、後述する。
液晶ディスプレイパネル22は、光源ユニット24から光を入射し、空間光変調した表示光40をリレー光学系25(第2ミラー27)へ向けて出射する。液晶ディスプレイパネル22は、例えば、視認者から見た虚像Vの上下方向(Y軸方向)に対応する画素が配列される方向が短辺である矩形状である。視認者は、液晶ディスプレイパネル22の透過光を、虚像光学系90を介して視認する。虚像光学系90は、図2で示すリレー光学系25とフロントウインドシールド2とを合わせたものである。
光源ユニット24は、光源(不図示)と、照明光学系(不図示)と、によって構成される。
光源(不図示)は、例えば、複数のチップ型のLEDであり、液晶ディスプレイパネル(空間光変調素子の一例)22へ照明光を出射する。光源ユニット24は、例えば、4つの光源で構成されており、液晶ディスプレイパネル22の長辺に沿って一列に配置される。光源ユニット24は、表示制御装置30からの制御のもと、照明光を液晶ディスプレイパネル22に向けて出射する。光源ユニット24の構成や光源の配置などはこれに限定されない。
照明光学系(不図示)は、例えば、光源ユニット24の照明光の出射方向に配置された1つ又は複数のレンズ(不図示)と、1つ又は複数のレンズの出射方向に配置された拡散板(不図示)と、によって構成される。
なお、表示器21は、自発光型ディスプレイであってもよく、又は、スクリーンに画像を投影するプロジェクション型ディスプレイであってもよい。この場合、表示面21aは、プロジェクション型ディスプレイのスクリーンである。
また、表示器21は、表示制御装置30により制御されるモータなどを含む不図示のアクチュエータが取り付けられ、表示面21aを移動、及び/又は回転可能であってもよい。
リレー光学系25は、アイボックス200を上下方向(Y軸方向)に移動させる2つの回転軸(第1の回転軸AX1、第2の回転軸AX2)を有する。第1の回転軸AX1、第2の回転軸AX2それぞれは、HUD装置20が車両1に取り付けられた状態で、車両1の左右方向(X軸方向)と垂直とならない(換言すると、YZ平面と平行にならない)ように設定される。具体的には、第1の回転軸AX1、第2の回転軸AX2は、車両1の左右方向(X軸方向)との間の角度が、45[degree]未満に設定され、さらに好ましくは、20[degree]未満に設定される。
第1の回転軸AX1でのリレー光学系25の回転によれば、表示領域100の上下方向の移動量が比較的小さく、アイボックス200の上下方向の移動量が比較的大きい。また、第2の回転軸AX2でのリレー光学系25の回転によれば、表示領域100の上下方向の移動量が比較的大きく、アイボックス200の上下方向の移動量が比較的小さい。すなわち、第1の回転軸AX1と第2の回転軸AX2とを対比すると、第1の回転軸AX1の回転による『アイボックス200の上下方向の移動量/表示領域100の上下方向の移動量』は、第2の回転軸AX2の回転による『アイボックス200の上下方向の移動量/表示領域100の上下方向の移動量』より大きくなる。言い換えると、第1の回転軸AX1でのリレー光学系25の回転による表示領域100の上下方向の移動量とアイボックス200の上下方向の移動量との相対量が、第2の回転軸AX2でのリレー光学系25の回転による表示領域100の上下方向の移動量とアイボックス200の上下方向の移動量との相対量とが異なる。
HUD装置20は、第1の回転軸AX1で第1ミラー26を回転させる第1アクチュエータ28と、第2の回転軸AX2で第1ミラー26を回転させる第2アクチュエータ29と、を含む。言い換えると、HUD装置20は、1つのリレー光学系25を2つの軸(第1の回転軸AX1、第2の回転軸AX2)で回転させる。なお、第1アクチュエータ28と第2アクチュエータ29は、統合された1つの2軸アクチュエータで構成されてもよい。
また、他の実施形態におけるHUD装置20は、2つのリレー光学系25を2つの軸(第1の回転軸AX1、第2の回転軸AX2)で回転させる。例えば、HUD装置20は、第1の回転軸AX1で第1ミラー26を回転させる第1アクチュエータ28と、第2の回転軸AX2で第2ミラー27を回転させる第2アクチュエータ29と、を含んでいてもよい。
なお、第1の回転軸AX1の回転により、アイボックス200の上下方向の移動量が比較的大きくなり、第2の回転軸AX2の回転により、表示領域100の上下方向の移動量が比較的大きくなるのであれば、第1の回転軸AX1と第2の回転軸AX2との配置は、これらに限定されない。また、アクチュエータによる駆動は、回転に加えて又は代えて、移動を含んでいてもよい。
また、他の実施形態におけるHUD装置20は、リレー光学系25を駆動しなくてもよい。換言すると、HUD装置20は、リレー光学系25を回転、及び/又は回転させるアクチュエータを有していなくてもよい。この実施形態のHUD装置20は、車両1の使用が想定される運転者の目高さのレンジをカバーする広いアイボックス200を備え得る。
画像表示部20は、後述する表示制御装置30の制御に基づいて、車両1のフロントウインドシールド2を介して視認される現実空間(実景)である前景に存在する、走行レーンの路面310、分岐路330、道路標識、障害物(歩行者320、自転車、自動二輪車、他車両など)、及び地物(建物、橋など)などの実オブジェクト300の近傍、実オブジェクト300に重なる位置、又は実オブジェクト300を基準に設定された位置に画像を表示することで、視覚的な拡張現実(AR:Augmented Reality)を視認者(典型的には、車両1の運転席に着座する視認者)に知覚させることもできる。本実施形態の説明では、実景に存在する実オブジェクト300の位置に応じて、表示される位置を変化させ得る画像をAR画像と定義し、実オブジェクト300の位置によらず、表示される位置が設定される画像を非AR画像と定義することとする。以下に、AR画像の例を説明する。
図3、図4は、車両の内側から視認者が前方を向いた際に視認する前景と、前景に重なって視認される第1の態様のAR画像とを示す図である。第1の態様のAR画像は、視認者から見て表示領域100の内側に見える実オブジェクト300に対して表示される。本明細書では、『画像の第1の態様』は、表示領域100内の後述する第1表示領域150内に表示される画像であり、アイボックス200内の所定の位置(例えば、中心205であるが、これに限定されない。)から見て、第1表示領域150と重なる実景領域に存在する実オブジェクトに対して表示される際の画像の態様である。すなわち、第1の態様の画像の虚像は、視認者から見ると、実オブジェクトに重なる、実オブジェクトを囲む、実オブジェクトに近接する、などの表現をし得る。他方、『画像の第1の態様』に対する後述する『画像の第2の態様』は、視認者から見て、後述の第1表示領域150と重なる実景領域の外側に存在する実オブジェクトに対して表示される際の画像の態様である。
まず、図3を参照する。図3では、実オブジェクト(歩行者)320が、視認者から見た表示領域100(第1表示領域150)と重なる実景領域内に存在する。本実施形態の画像表示部20は、視認者から見た表示領域100と重なる実景領域内に存在する歩行者320に対して、第1の態様のAR画像の虚像V10(V11,V12,V13)を表示する。虚像V11は、歩行者320の位置を指示する歩行者320を外側から囲むように位置する矩形の画像であり(実オブジェクト300の近傍に配置される一例。)、虚像V12は、実オブジェクト300の種類(歩行者)を示すイラストレーションであり、実オブジェクト300に重ねて配置される画像であり(実オブジェクト300に重なるように配置される一例。)、そして、第3虚像V13は、歩行者320の移動方向を示す矢印形状であり、歩行者320を基準に、歩行者320が移動する方向側にずれた位置に表示される画像である(実オブジェクト300を基準に設定された位置に配置される一例。)。なお、図3において、表示領域100を矩形状で図示してあるが、前述したように、表示領域100は、実際に視認者に視認されない、又は視認されにくい程度に視認性が低い。すなわち、表示器21の表示面21aで表示された画像Mの虚像V11,V12,V13が明確に視認され、表示器21の表示面21a自体の虚像(画像Mが表示されていない領域の虚像)は視認されない(視認されにくい)。
次に、図4を参照する。図4では、実オブジェクト(分岐路)330が、視認者から見た表示領域100と重なる実景領域内に存在する。本実施形態の画像表示部20は、視認者から見た表示領域100と重なる実景領域内に存在する分岐路330に対して、第1の態様のAR画像の虚像V10(V14)を表示する。虚像V14は、視認者から見て、案内経路を示す矢印形状の仮想オブジェクトを、車両1の前景における路面310及び分岐路330に重なる位置に配置される。また、虚像V14は、路面310とのなす角度が0[degree](換言すると、路面310と平行)であるように視認されるように配置(角度)が設定された画像である。案内経路は、直進した後に分岐路330で右折することを示しており、視認者から見て車両1の走行レーンの路面310に重なり、前方の分岐路330に向かうように直進方向(Z軸正方向)を指示し、分岐路330から先の案内経路を示す部分は、視認者から見て右折方向の分岐路の路面310に重なるように右方向(X軸負方向)を指示する。
図5、図6、及び図7は、車両の内側から視認者が前方を向いた際に視認する前景と、前景に重なって視認される第2の態様のAR画像の虚像とを示す図である。第2の態様のAR画像の虚像は、視認者から見て表示領域100(後述する第1表示領域150の一例)の外側に見える実オブジェクト300に対して表示される。
まず、図5を参照する。図5の例では、画像表示部20は、第2の態様のAR画像である虚像V20(V21)を、表示領域100の上下左右の外縁の幅のある領域(外縁領域)110に表示する。後述する表示制御装置30は、視認者から見て、表示領域100の外側に存在する歩行者320の近くに虚像V21を配置する。虚像V21は、例えば、歩行者320の位置を基準とした波紋画像であり、静止画、又は動画であってもよい。虚像V21は、歩行者320の方向を指示するような形状や動きを有していてもよいが、当該形状や動き有していなくてもよい。また、第2の態様のAR画像である虚像V21の態様は、これに限定されるものではなく、矢印、テキスト、及び/又はマークなどであってもよい。このように、表示制御装置30は、歩行者320に近い、表示領域100内の外縁領域110に第2の態様のAR画像である虚像V21を表示させることで、虚像V21と結びつく実オブジェクトを視認者に把握させやすくすることができる。
次に、図6を参照する。図6の例では、画像表示部20は、第2の態様のAR画像である虚像V20(V22)を、表示領域100内の予め定められた所定の領域(固定領域)120に表示する。図6の例では、固定領域120は、表示領域100の中央の下側の領域に設定されている。後述する表示制御装置30は、固定領域120に、視認者から見て、表示領域100の外側に存在する歩行者320を指示する形状、及び/又は動きを有する虚像V22を配置する。虚像V22は、例えば、歩行者320の位置を基準とした波紋画像であり、静止画、又は動画であってもよい。また、第2の態様のAR画像である虚像V22の態様は、表示領域100の外側に存在する歩行者320を指示する形状、及び/又は動きを含むものであれば、これに限定されるものではなく、1つ又はそれ以上の矢印、テキスト、及び/又はマークなどで構成されてもよい。このように、表示制御装置30は、予め定められた固定領域120に、表示領域100の外側に存在する歩行者320を指示する形状、及び/又は動きを含む第2の態様のAR画像である虚像V22を表示させることで、視認者の目位置の移動量を抑えつつ、虚像V22と結びつく実オブジェクトを視認者に把握させやすくすることができる。なお、固定領域120は、完全に固定という訳ではなく、画像表示部20に表示する複数の画像のレイアウトによって変更されてもよく、後述するI/Oインタフェースから取得する実景の状態や車両1の状態によって変更されてもよい。
図7A、図7B、及び図7Cは、第2の態様のAR画像である虚像V20(V23)の大きさ(表示態様の一例)が、視認者から見た表示領域100の外側に位置する実オブジェクト340の位置に応じて変化する推移を示す図である。視認者から見た実オブジェクト340の位置は、車両1の前進に伴い、図7A、図7B、図7Cの順に、左側(X軸正方向)かつ手前側(Z正負方向)へ徐々に移動していく。この際、後述する画像表示部20は、実オブジェクト340の左側(X軸正方向)への移動に追従するように、虚像23も左側(X軸正方向)への徐々に移動させてもよい。また、後述する画像表示部20は、実オブジェクト340の手前側(Z軸負方向)への移動に追従するように、虚像23の大きさを徐々に大きくさせてもよい。すなわち、後述する画像表示部20は、実オブジェクト340の位置に応じて、第2の態様のAR画像である虚像V23の位置、及び/又は大きさ(表示態様の一例)を変化させてもよい。
図8A、図8B、及び図8Cは、第2の態様のAR画像である虚像V20(V23)の輝度(表示態様の一例)が、視認者から見た表示領域100の外側に位置する実オブジェクト340の位置に応じて変化する推移を示す図である。視認者から見た実オブジェクト340の位置は、車両1の前進に伴い、図8A、図8B、図8Cの順に、左側(X軸正方向)かつ手前側(Z正負方向)へ徐々に移動していく。この際、後述する画像表示部20は、実オブジェクト340の左側(X軸正方向)への移動に追従するように、虚像23も左側(X軸正方向)への徐々に移動させてもよい。また、後述する画像表示部20は、実オブジェクト340の手前側(Z軸負方向)への移動に追従するように、虚像23の輝度を徐々に低くさせてもよい。なお、この説明は、画像表示部20が、実オブジェクト340の手前側(Z軸負方向)への移動に追従するように、虚像23の輝度を徐々に高くすることを否定するものではない。後述する画像表示部20は、実オブジェクト340の位置に応じて、第2の態様のAR画像である虚像V23の位置、及び/又は輝度(表示態様の一例)を変化させてもよい。後述する画像表示部20は、実オブジェクト340の位置情報に加えて、車両1の情報、車両1の乗員に関する情報、虚像の表示対象である実オブジェクトの位置以外の情報、及び/又は虚像の表示対象ではない実オブジェクトの位置などの情報に応じて、第2の態様のAR画像である虚像V23の表示態様を変化させてもよい。なお、ここでいう虚像の表示態様の変化は、上述したもの以外に、色の変化、明度の変化、点灯と点滅との切り替え、及び/又は表示と非表示との切り替えを含み得る。
図9は、第2の態様の非AR画像の虚像を説明する図である。図9では、実オブジェクト(分岐路)330が、視認者から見た表示領域100と重なる実景領域の外側に存在する。本実施形態の画像表示部20は、視認者から見た表示領域100と重ならない実景領域に存在する分岐路330に対して、表示領域100内の予め定められた所定の領域(固定領域)120に、第2の態様の非AR画像の虚像V30(V31、V32)を表示する。後述する表示制御装置30は、固定領域120に、案内経路(ここでは、右折を示す。)を示す非AR画像である虚像V31と、分岐路までの距離を示す非AR画像である虚像V32を配置する。ここでいう『非AR画像』とは、実景に存在する実オブジェクトの実空間上の位置に応じて、画像の位置や指示する方向を変化させない画像である。虚像V31は、右折方向を示す矢印画像であるが、分岐路330の位置に応じて(換言すると、車両1と分岐路330との位置関係に応じて)、表示される位置や指示する方向を変化させない場合(具体的には、固定領域120に同じ形状を維持する場合)、非AR画像と分類する。なお、第2の態様の非AR画像は、表示領域100の外側に存在する歩行者320に関する情報を含むものであれば、これに限定されるものではなく、1つ又はそれ以上のテキスト、及び/又はマークなどで構成されてもよい。
図10は、視認者から見た表示領域100と重なる実景領域の外側に存在する歩行者320に対して、第2の態様の非AR画像であるマークで構成された虚像V33を表示する例を示す図である。本実施形態の画像表示部20は、固定領域120に、視認者から見た表示領域100と重なる実景領域の外側に存在する歩行者320に対して、第2の態様の非AR画像の虚像V30(V33)を表示する。このように、表示制御装置30は、予め定められた固定領域120に、表示領域100の外側に存在する実オブジェクト(歩行者320,分岐路330)の存在を報知する第2の態様の非AR画像である虚像V30(V31,V32,V33)を表示させることで、視認者の目位置の移動量を抑えつつ、表示領域100外の実オブジェクトの存在(接近)を視認者に把握させやすくすることができる。
図11は、いくつかの実施形態に係る、車両用表示システム10のブロック図である。表示制御装置30は、1つ又は複数のI/Oインタフェース31、1つ又は複数のプロセッサ33、1つ又は複数の画像処理回路35、及び1つ又は複数のメモリ37を備える。図11に記載される様々な機能ブロックは、ハードウェア、ソフトウェア、又はこれら両方の組み合わせで構成されてもよい。図11は、1つの実施形態に過ぎず、図示された構成要素は、より数の少ない構成要素に組み合わされてもよく、又は追加の構成要素があってもよい。例えば、画像処理回路35(例えば、グラフィック処理ユニット)が、1つ又は複数のプロセッサ33に含まれてもよい。
図示するように、プロセッサ33及び画像処理回路35は、メモリ37と動作可能に連結される。より具体的には、プロセッサ33及び画像処理回路35は、メモリ37に記憶されているプログラムを実行することで、例えば画像データを生成、及び/又は送信するなど、車両用表示システム10(画像表示部20)の操作を行うことができる。プロセッサ33及び/又は画像処理回路35は、少なくとも1つの汎用マイクロプロセッサ(例えば、中央処理装置(CPU))、少なくとも1つの特定用途向け集積回路(ASIC)、少なくとも1つのフィールドプログラマブルゲートアレイ(FPGA)、又はそれらの任意の組み合わせを含むことができる。メモリ37は、ハードディスクのような任意のタイプの磁気媒体、CD及びDVDのような任意のタイプの光学媒体、揮発性メモリのような任意のタイプの半導体メモリ、及び不揮発性メモリを含む。揮発性メモリは、DRAM及びSRAMを含み、不揮発性メモリは、ROM及びNVRAMを含んでもよい。
図示するように、プロセッサ33は、I/Oインタフェース31と動作可能に連結されている。I/Oインタフェース31は、例えば、車両に設けられた後述の車両ECU401、又は他の電子機器(後述する符号403~417)と、CAN(Controller Area Network)の規格に応じて通信(CAN通信とも称する)を行う。なお、I/Oインタフェース31が採用する通信規格は、CANに限定されず、例えば、CANFD(CAN with Flexible Data Rate)、LIN(Local Interconnect Network)、Ethernet(登録商標)、MOST(Media Oriented Systems Transport:MOSTは登録商標)、UART、もしくはUSBなどの有線通信インタフェース、又は、例えば、Bluetooth(登録商標)ネットワークなどのパーソナルエリアネットワーク(PAN)、802.11x Wi-Fi(登録商標)ネットワークなどのローカルエリアネットワーク(LAN)等の数十メートル内の近距離無線通信インタフェースである車内通信(内部通信)インタフェースを含む。また、I/Oインタフェース31は、無線ワイドエリアネットワーク(WWAN0、IEEE802.16-2004(WiMAX:Worldwide Interoperability for Microwave Access))、IEEE802.16eベース(Mobile WiMAX)、4G、4G-LTE、LTE Advanced、5Gなどのセルラー通信規格により広域通信網(例えば、インターネット通信網)などの車外通信(外部通信)インタフェースを含んでいてもよい。
図示するように、プロセッサ33は、I/Oインタフェース31と相互動作可能に連結されることで、車両用表示システム10(I/Oインタフェース31)に接続される種々の他の電子機器等と情報を授受可能となる。I/Oインタフェース31には、例えば、車両ECU401、道路情報データベース403、自車位置検出部405、車外センサ407、操作検出部409、目位置検出部411、視線方向検出部413、携帯情報端末415、及び外部通信機器417などが動作可能に連結される。なお、I/Oインタフェース31は、車両用表示システム10に接続される他の電子機器等から受信する情報を加工(変換、演算、解析)する機能を含んでいてもよい。
表示器21は、プロセッサ33及び画像処理回路35に動作可能に連結される。したがって、画像表示部20によって表示される画像は、プロセッサ33及び/又は画像処理回路35から受信された画像データに基づいてもよい。プロセッサ33及び画像処理回路35は、I/Oインタフェース31から取得される情報に基づき、画像表示部20が表示する画像を制御する。
車両ECU401は、車両1に設けられたセンサやスイッチから、車両1の状態(例えば、走行距離、車速、アクセルペダル開度、ブレーキペダル開度、エンジンスロットル開度、インジェクター燃料噴射量、エンジン回転数、モータ回転数、ステアリング操舵角、シフトポジション、ドライブモード、各種警告状態、姿勢(ロール角、及び/又はピッチング角を含む)、車両の振動(振動の大きさ、頻度、及び/又は周波数を含む))などを取得し、車両1の前記状態を収集、及び管理(制御も含んでもよい。)するものであり、機能の一部として、車両1の前記状態の数値(例えば、車両1の車速。)を示す信号を、表示制御装置30のプロセッサ33へ出力することができる。なお、車両ECU401は、単にセンサ等で検出した数値(例えば、ピッチング角が前傾方向に3[degree]。)をプロセッサ33へ送信することに加え、又はこれに代わり、センサで検出した数値を含む車両1の1つ又は複数の状態に基づく判定結果(例えば、車両1が予め定められた前傾状態の条件を満たしていること。)、若しくは/及び解析結果(例えば、ブレーキペダル開度の情報と組み合わせされて、ブレーキにより車両が前傾状態になったこと。)を、プロセッサ33へ送信してもよい。例えば、車両ECU401は、車両1が車両ECU401のメモリ(不図示)に予め記憶された所定の条件を満たすような判定結果を示す信号を表示制御装置30へ出力してもよい。なお、I/Oインタフェース31は、車両ECU401を介さずに、車両1に設けられた車両1に設けられたセンサやスイッチから、上述したような情報を取得してもよい。
また、車両ECU401は、車両用表示システム10が表示する画像を指示する指示信号を表示制御装置30へ出力してもよく、この際、画像の座標、サイズ、種類、表示態様、画像の報知必要度、及び/又は報知必要度を判定する元となる必要度関連情報を、前記指示信号に付加して送信してもよい。
道路情報データベース403は、車両1に設けられた図示しないナビゲーション装置、又は車両1と車外通信インタフェース(I/Oインタフェース31)を介して接続される外部サーバー、に含まれ、後述する自車位置検出部405から取得される車両1の位置に基づき、車両1の周辺の情報(車両1の周辺の実オブジェクト関連情報)である車両1が走行する道路情報(車線,白線,停止線,横断歩道,道路の幅員,車線数,交差点,カーブ,分岐路,交通規制など)、地物情報(建物、橋、河川など)の、有無、位置(車両1までの距離を含む)、方向、形状、種類、詳細情報などを読み出し、プロセッサ33に送信してもよい。また、道路情報データベース403は、出発地から目的地までの適切な経路(ナビゲーション情報)を算出し、当該ナビゲーション情報を示す信号、又は経路を示す画像データをプロセッサ33へ出力してもよい。
自車位置検出部405は、車両1に設けられたGNSS(全地球航法衛星システム)等であり、現在の車両1の位置、方位を検出し、検出結果を示す信号を、プロセッサ33を介して、又は直接、道路情報データベース403、後述する携帯情報端末415、及び/もしくは外部通信機器417へ出力する。道路情報データベース403、後述する携帯情報端末415、及び/又は外部通信機器417は、自車位置検出部405から車両1の位置情報を連続的、断続的、又は所定のイベント毎に取得することで、車両1の周辺の情報を選択・生成して、プロセッサ33へ出力してもよい。
車外センサ407は、車両1の周辺(前方、側方、及び後方)に存在する実オブジェクト300を検出する。車外センサ407が検知する実オブジェクト300は、例えば、障害物(歩行者、自転車、自動二輪車、他車両など)、後述する走行レーンの路面310、区画線、路側物、及び/又は地物(建物など)などを含んでいてもよい。車外センサとしては、例えば、ミリ波レーダ、超音波レーダ、レーザレーダ等のレーダセンサ、カメラ、又はこれらの組み合わせからなる検出ユニットと、当該1つ又は複数の検出ユニットからの検出データを処理する(データフュージョンする)処理装置と、から構成される。これらレーダセンサやカメラセンサによる物体検知については従来の周知の手法を適用する。これらのセンサによる物体検知によって、三次元空間内での実オブジェクトの有無、実オブジェクトが存在する場合には、その実オブジェクトの位置(車両1からの相対的な距離、車両1の進行方向を前後方向とした場合の左右方向の位置、上下方向の位置等)、大きさ(横方向(左右方向)、高さ方向(上下方向)等の大きさ)、移動方向(横方向(左右方向)、奥行き方向(前後方向))、移動速度(横方向(左右方向)、奥行き方向(前後方向))、及び/又は種類等を検出してもよい。1つ又は複数の車外センサ407は、各センサの検知周期毎に、車両1の前方の実オブジェクトを検知して、実オブジェクト情報の一例である実オブジェクト情報(実オブジェクトの有無、実オブジェクトが存在する場合には実オブジェクト毎の位置、大きさ、及び/又は種類等の情報)をプロセッサ33に出力することができる。なお、これら実オブジェクト情報は、他の機器(例えば、車両ECU401)を経由してプロセッサ33に送信されてもよい。また、夜間等の周辺が暗いときでも実オブジェクトが検知できるように、センサとしてカメラを利用する場合には赤外線カメラや近赤外線カメラが望ましい。また、センサとしてカメラを利用する場合、視差で距離等も取得できるステレオカメラが望ましい。
操作検出部409は、例えば、車両1のCID(Center Information Display)、インストルメントパネルなどに設けられたハードウェアスイッチ、又は画像とタッチセンサなどとを兼ね合わされたソフトウェアスイッチなどであり、車両1の乗員(運転席の着座するユーザ、及び/又は助手席に着座するユーザ)による操作に基づく操作情報を、プロセッサ33へ出力する。例えば、操作検出部409は、ユーザの操作により、表示領域100を移動させる操作に基づく表示領域設定情報、アイボックス200を移動させる操作に基づくアイボックス設定情報、視認者の目位置4を設定する操作に基づく情報(目位置情報の一例)などを、プロセッサ33へ出力する。
目位置検出部411は、車両1の運転席に着座する視認者の目の位置を検出する赤外線カメラなどのカメラを含み、撮像した画像を、プロセッサ33に出力してもよい。プロセッサ33は、目位置検出部411から撮像画像(目の位置を推定可能な情報の一例)を取得し、この撮像画像を解析することで視認者の目の位置を特定することができる。目位置検出部411は、カメラの撮像画像を解析し、解析結果である視認者の目の位置を示す信号をプロセッサ33に出力してもよい。なお、車両1の視認者の目の位置、又は視認者の目の位置を推定可能な情報を取得する方法は、これらに限定されるものではなく、既知の目位置検出(推定)技術を用いて取得されてもよい。プロセッサ33は、視認者の目の位置に基づき、画像の位置を少なくとも調整することで、前景の所望の位置(実オブジェクトとの特定の位置関係になる位置)に重畳した画像を、目位置を検出した視認者(視認者)に視認させてもよい。
視線方向検出部413は、車両1の運転席に着座する視認者の顔を撮像する赤外線カメラ、又は可視光カメラを含み、撮像した画像を、プロセッサ33に出力してもよい。プロセッサ33は、視線方向検出部413から撮像画像(視線方向を推定可能な情報の一例)を取得し、この撮像画像を解析することで視認者の視線方向(及び/又は前記注視位置)を特定することができる。なお、視線方向検出部413は、カメラからの撮像画像を解析し、解析結果である視認者の視線方向(及び/又は前記注視位置)を示す信号をプロセッサ33に出力してもよい。なお、車両1の視認者の視線方向を推定可能な情報を取得する方法は、これらに限定されるものではなく、EOG(Electro-oculogram)法、角膜反射法、強膜反射法、プルキンエ像検出法、サーチコイル法、赤外線眼底カメラ法などの他の既知の視線方向検出(推定)技術を用いて取得されてもよい。
携帯情報端末415は、スマートフォン、ノートパソコン、スマートウォッチ、又は視認者(又は車両1の他の乗員)が携帯可能なその他の情報機器である。I/Oインタフェース31は、携帯情報端末415とペアリングすることで、携帯情報端末415と通信を行うことが可能であり、携帯情報端末415(又は携帯情報端末を通じたサーバ)に記録されたデータを取得する。携帯情報端末415は、例えば、上述の道路情報データベース403及び自車位置検出部405と同様の機能を有し、前記道路情報(実オブジェクト関連情報の一例)を取得し、プロセッサ33に送信してもよい。また、携帯情報端末415は、車両1の近傍の商業施設に関連するコマーシャル情報(実オブジェクト関連情報の一例)を取得し、プロセッサ33に送信してもよい。なお、携帯情報端末415は、携帯情報端末415の所持者(例えば、視認者)のスケジュール情報、携帯情報端末415での着信情報、メールの受信情報などをプロセッサ33に送信し、プロセッサ33及び画像処理回路35は、これらに関する画像データを生成及び/又は送信してもよい。
外部通信機器417は、車両1と情報のやりとりをする通信機器であり、例えば、車両1と車車間通信(V2V:Vehicle To Vehicle)により接続される他車両、歩車間通信(V2P:Vehicle To Pedestrian)により接続される歩行者(歩行者が携帯する携帯情報端末)、路車間通信(V2I:Vehicle To roadside Infrastructure)により接続されるネットワーク通信機器であり、広義には、車両1との通信(V2X:Vehicle To Everything)により接続される全てのものを含む。外部通信機器417は、例えば、歩行者、自転車、自動二輪車、他車両(先行車等)、路面、区画線、路側物、及び/又は地物(建物など)の位置を取得し、プロセッサ33へ出力してもよい。また、外部通信機器417は、上述の自車位置検出部405と同様の機能を有し、車両1の位置情報を取得し、プロセッサ33に送信してもよく、さらに上述の道路情報データベース403の機能も有し、前記道路情報(実オブジェクト関連情報の一例)を取得し、プロセッサ33に送信してもよい。なお、外部通信機器417から取得される情報は、上述のものに限定されない。
メモリ37に記憶されたソフトウェア構成要素は、実オブジェクト情報検出モジュール502、実オブジェクト位置特定モジュール504、報知必要度判定モジュール506、目位置検出モジュール508、車両姿勢検出モジュール510、表示領域設定モジュール512、実オブジェクト位置判定モジュール514、実景領域区分モジュール516、画像種類設定モジュール518、画像配置設定モジュール520、画像サイズ設定モジュール522、視線方向判定モジュール524、グラフィックモジュール526、及び駆動モジュール528を含む。
実オブジェクト情報検出モジュール502は、車両1の前方に存在する実オブジェクト300の少なくとも位置を含む情報(実オブジェクト情報とも呼ぶ)を取得する。実オブジェクト情報検出モジュール502は、例えば、車外センサ407から、車両1の前景に存在する実オブジェクト300の位置(車両1の運転席にいる視認者から車両1の進行方向(前方)を視認した際の高さ方向(上下方向)、横方向(左右方向)の位置であり、これらに、奥行き方向(前方向)の位置(距離)が追加されてもよい。)、及び実オブジェクト300のサイズ(高さ方向、横方向のサイズ。)、車両1に対する相対速度(相対的な移動方向も含む。)、を含む情報(実オブジェクト情報の一例)を取得してもよい。また、実オブジェクト情報検出モジュール502は、外部通信機器417を介して実オブジェクト(例えば、他車両)の位置、相対速度、種類、他車両の方向指示器の点灯状態、舵角操作の状態、及び/又は運転支援システムによる進行予定経路、進行スケジュール、を示す情報(実オブジェクト関連情報の一例)を取得してもよい。
また、実オブジェクト情報検出モジュール502は、車外センサ407から、車両1の走行レーンの路面310(図3参照)の左側の区画線311(図3参照)の位置と、右側の区画線312(図3参照)の位置とを取得し、それら左右の区画線311,312の間の領域(走行レーンの路面310)を認識してもよい。
また、実オブジェクト情報検出モジュール502は、後述する虚像Vのコンテンツ(以下では、適宜「画像の種類」ともいう)を決定する元となる、車両1の前景に存在する実オブジェクトに関する情報(実オブジェクト関連情報)を検出してもよい。実オブジェクト関連情報は、例えば、実オブジェクトが、歩行者、建物、又は他車両であるなどの実オブジェクトの種類を示す種類情報、実オブジェクトの移動方向を示す移動方向情報、実オブジェクトまでの距離や到達時間を示す距離時間情報、又は駐車場(実オブジェクトの一例。)の料金などの実オブジェクトの個別詳細情報、である(但し、これらに限定されない)。例えば、実オブジェクト情報検出モジュール502は、道路情報データベース403又は携帯情報端末415から種類情報、距離時間情報、及び/もしくは個別詳細情報を取得し、車外センサ407から種類情報、移動方向情報、及び/もしくは距離時間情報を取得し、並びに/又は外部通信機器417から種類情報、移動方向情報、距離時間情報、及び/もしくは個別詳細情報を検出してもよい。
実オブジェクト位置特定モジュール504は、I/Oインタフェース31を介して、車外センサ407、若しくは外部通信機器417から実オブジェクト300の現在の位置を示す観測位置を取得し、又はこれら2つ以上の観測位置をデータフュージョンした実オブジェクトの観測位置を取得し、取得した観測位置に基づいて実オブジェクト300の位置(特定位置とも呼ぶ。)を設定する。後述する画像配置設定モジュール520は、この実オブジェクト位置特定モジュール504が設定した実オブジェクト300の特定位置を基準に画像の位置を決定する。
実オブジェクト位置特定モジュール504は、直前に取得した実オブジェクト300の観測位置に基づいて実オブジェクト300の位置を特定してもよいが、これに限定されず、少なくとも直前に取得した実オブジェクト300の観測位置を含む過去に取得した1つ又は複数の実オブジェクト300の観測位置を元に予測される所定の時刻における実オブジェクトの予測位置に基づいて実オブジェクト300の位置を特定(推定)してもよい。すなわち、実オブジェクト位置特定モジュール504と後述する画像配置設定モジュール520を実行することで、プロセッサ33は、直前に取得した実オブジェクト300の観測位置に基づいて虚像Vの位置を設定し得るし、少なくとも直前に取得した実オブジェクト300の観測位置を含む過去に取得した1つ又は複数の実オブジェクト300の観測位置を元に予測される虚像Vの表示更新タイミングにおける実オブジェクト300の予測位置に基づいて虚像Vの位置を設定し得る。なお、実オブジェクト位置特定モジュール504による予測位置の算出方法に特段の制約はなく、実オブジェクト位置特定モジュール504が処理対象とする表示更新タイミングよりも過去に取得された観測位置に基づいて予測を行う限り、如何なる手法を用いてもよい。実オブジェクト位置特定モジュール504は、例えば、最小二乗法や、カルマンフィルタ、α-βフィルタ、又はパーティクルフィルタなどの予測アルゴリズムを用いて、過去の1つ又は複数の観測位置を用いて、次回の値を予測するようにしてもよい。なお、車両用表示システム10は、実オブジェクトの観測位置、及び/又は予測位置を取得できればよく、実オブジェクトの予測位置を設定する(算出する)機能を有していなくてもよく、実オブジェクトの予測位置を設定する(算出する)機能の一部又は全部は、車両用表示システム10の表示制御装置30とは別(例えば、車両ECU401)に設けられてもよい。
報知必要度判定モジュール506は、車両用表示システム10が表示する各虚像Vのコンテンツが視認者に報知するべき内容であるかを判定する。報知必要度判定モジュール506は、I/Oインタフェース31に接続される種々の他の電子機器から情報を取得し、報知必要度を算出してもよい。また、図11でI/Oインタフェース31に接続された電子機器が車両ECU401に情報を送信し、受信した情報に基づき車両ECU401が決定した報知必要度を、報知必要度判定モジュール506が検出(取得)してもよい。『報知必要度』は、例えば、起こり得る自体の重大さの程度から導き出される危険度、反応行動を起こすまでに要求される反応時間の長短から導き出される緊急度、車両1や視認者(又は車両1の他の乗員)の状況から導き出される有効度、又はこれらの組み合わせなどで決定され得る(報知必要度の指標はこれらに限定されない)。報知必要度判定モジュール506は、報知必要度を推定する元となる必要度関連情報を検出し、これから報知必要度を推定してもよい。画像の報知必要度を推定する元となる必要度関連情報は、例えば、実オブジェクトや交通規制(道路情報の一例)の位置、種類などで推定されてもよく、I/Oインタフェース31に接続される種々の他の電子機器から入力される他の情報に基づいて、又は他の情報を加味して推定されてもよい。すなわち、報知必要度判定モジュール506は、視認者に報知すべきかを判定し、後述する画像を表示しないことも選択し得る。なお、車両用表示システム10は、報知必要度を取得できればよく、報知必要度を推定する(算出する)機能を有していなくてもよく、報知必要度を推定する機能の一部又は全部は、車両用表示システム10の表示制御装置30とは別(例えば、車両ECU401)に設けられてもよい。
目位置検出モジュール508は、車両1の視認者の目の位置を検出する。目位置検出モジュール508は、複数段階で設けられた高さ領域のどこに視認者の目の高さがあるかの判定、視認者の目の高さ(Y軸方向の位置)の検出、視認者の目の高さ(Y軸方向の位置)及び奥行方向の位置(Z軸方向の位置)の検出、及び/又は視認者の目の位置(X,Y,Z軸方向の位置)の検出、に関係する様々な動作を実行するための様々なソフトウェア構成要素を含む。目位置検出モジュール508は、例えば、目位置検出部411から視認者の目の位置を取得する、又は、目位置検出部411から視認者の目の高さを含む目の位置を推定可能な情報を受信し、視認者の目の高さを含む目の位置を推定する。目の位置を推定可能な情報は、例えば、車両1の運転席の位置、視認者の顔の位置、座高の高さ、視認者による図示しない操作部での入力値などであってもよい。
車両姿勢検出モジュール510は、車両1に搭載され、車両1の姿勢を検出する。車両姿勢検出モジュール510は、複数段階で設けられた姿勢領域のどこに車両1の姿勢があるかの判定、車両1の地球座標系における角度(ピッチング角、ローリング角)の検出、車両1の路面に対する角度(ピッチング角、ローリング角)の検出、及び/又は車両1の路面に対する高さ(Y軸方向の位置)の検出、に関係する様々な動作を実行するための様々なソフトウェア構成要素を含む。車両姿勢検出モジュール510は、例えば、車両1に設けられた三軸加速度センサ(不図示)と、前記三軸加速度センサが検出した三軸加速度を解析することで、水平面を基準とした車両1のピッチング角(車両姿勢)を推定し、車両1のピッチング角に関する情報を含む車両姿勢情報をプロセッサ33に出力する。なお、車両姿勢検出モジュール510は、前述した三軸加速度センサ以外に、車両1のサスペンション近傍に配置されるハイトセンサ(不図示)で構成されてもよい。このとき、車両姿勢検出モジュール510は、前記ハイトセンサが検出する車両1の地面からの高さを解析することで、前述したように車両1のピッチング角を推定し、車両1のピッチング角に関する情報を含む車両姿勢情報をプロセッサ33に出力する。なお、車両姿勢検出モジュール510が、車両1のピッチング角を求める方法は、上述した方法に限定されず、公知のセンサや解析方法を用いて車両1のピッチング角を求めてもよい。
表示領域設定モジュール512は、入力する視認者の目位置4の情報や設定情報に基づき、第1アクチュエータ28の回転量(角度)、及び第2アクチュエータ29の回転量(角度)、を設定する。表示領域100の位置は、当該アクチュエータの回転量(角度)により決定され得る。したがって、当該アクチュエータの回転量(角度)は、表示領域100の位置を推定可能な情報の一例である。例えば、表示領域設定モジュール512は、目位置検出モジュール508で検出した目位置情報、目位置検出モジュール508で推定した目位置推定情報に基づき、第1アクチュエータ28の回転量(角度)、及び第2アクチュエータ29の回転量(角度)、を設定すること、に関係する様々な動作を実行するための様々なソフトウェア構成要素を含む。すなわち、表示領域設定モジュール512は、目位置、又は目の位置を推定可能な情報から、第1の回転軸AX1を軸とした回転量(角度)、及び第2の回転軸AX2を軸とした回転量(角度)、を設定するためのテーブルデータ、演算式、などを含み得る。
また、表示領域設定モジュール512は、入力する視認者の目位置4の情報や設定情報に基づき、表示器21の表示面21aのうち使用する領域を変更してもよい。すなわち、表示領域設定モジュール512は、表示器21の表示面21aで画像の表示に使用する領域を変更することで、虚像Vの表示に使用される表示領域100の位置を変更することもできる。したがって、表示器21の表示面21aで画像の表示に使用する領域を示す情報は、表示領域100の位置を推定可能な情報の一例と言える。
また、表示領域設定モジュール512は、操作検出部409による操作や車両ECU401からの指示に基づき、第1の回転軸AX1を軸とした回転量(角度)、及び第2の回転軸AX2を軸とした回転量(角度)、を設定してもよい。例えば、表示領域設定モジュール512は、(1)図示しない視認者識別部から取得した視認者の好みのアイボックスの位置情報(アイボックス位置設定情報の一例)、好みの表示領域の位置情報(表示領域設定情報の一例)、(2)車両1に設けられた操作検出部(付随)から取得した、ユーザの操作に基づく、表示領域100を移動させる操作に基づく表示領域設定情報、アイボックス200を移動させる操作に基づくアイボックス設定情報、(3)車両ECU401から取得した、車両ECU401が決定した表示領域100の位置を示す表示領域設定情報、アイボックス200の位置を示すアイボックス設定情報などから、第1の回転軸AX1を軸とした第1アクチュエータ28の回転量(角度)、及び第2の回転軸AX2を軸とした第2アクチュエータ29の回転量(角度)、を設定すること、に関係する様々な動作を実行するための様々なソフトウェア構成要素を含む。
なお、表示領域設定モジュール512は、表示領域100を所定の位置に移動させるための表示領域設定情報を取得した場合、アイボックス200の位置を維持する、又はアイボックス200の移動量を小さく抑えるように、表示領域100を所定の位置に移動させるための駆動量に加え、第1の回転軸AX1を軸とした回転量(角度)、及び第2の回転軸AX2を軸とした回転量(角度)、を設定(補正)し得る。また、逆に、表示領域設定モジュール512は、アイボックス200を所定の位置に移動させるためのアイボックス設定情報のみを取得した場合、表示領域100の位置を維持する、又は表示領域100の移動量を小さく抑えるように、アイボックス200を所定の位置に移動させるための駆動量に加え、第1の回転軸AX1を軸とした回転量(角度)、及び第2の回転軸AX2を軸とした回転量(角度)、を設定(補正)し得る。
このように、複数のアクチュエータを用いて、表示領域100及びアイボックス200を移動させる方法(装置)としては、例えば、本出願人による特願2019-178812号に記載の方法(装置)を採用してもよい。また、他の実施形態におけるHUD装置20が、リレー光学系25を移動させるアクチュエータを有する場合、表示領域設定モジュール512は、1つ又は複数のアクチュエータによるリレー光学系25の移動量を設定し得る。
また、表示領域設定モジュール512は、車両用表示システムが搭載される車両1の種類に応じて設定され、予めメモリ37に記憶される、表示領域100(及び/又は後述する第1表示領域150)の位置を基準に、上述した表示領域100を推定可能な情報に基づき補正することで、現在の表示領域100の位置を推定し、メモリ37に記憶させてもよい。
実オブジェクト位置判定モジュール514は、実オブジェクト300の位置が、第1判定実景領域R10内に入るか否か、及び第2判定実景領域R20内に入るか否か、を判定する。すなわち、表示領域設定モジュール512は、実オブジェクトの観測位置、及び/又は予測位置から、その実オブジェクトが第1判定実景領域R10内に入るか否か、及び第2判定実景領域R20内に入るか否か、を判定するための判定値、テーブルデータ、演算式などを含み得る。例えば、実オブジェクト位置判定モジュール514は、実オブジェクトの観測位置、及び/又は予測位置と比較するための、第1判定実景領域R10内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)、及び第2判定実景領域R20内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)、などを含み得る。これら第1判定実景領域R10内に入るか否かの判定値、及び第2判定実景領域R20内に入るか否かの判定値は、後述する実景領域区分モジュール516により設定される(変更される)。
実景領域区分モジュール516は、実オブジェクトが、第1判定実景領域R10内に入るか否かの判定値の範囲、及び第2判定実景領域R20内に入るか否かの判定値の範囲を設定する。
実景領域区分モジュール516及び実オブジェクト位置判定モジュール514による第1乃至第5の判定方法は、以下に説明されるが、後述するように、視認者の目位置4、表示領域100(第1表示領域150)の位置、車両1の姿勢などに応じて、第2判定実景領域R20内に入ると判定される範囲が変更されるのであれば、これらに限定されない。
(第1の設定方法)
第1の設定方法において、実オブジェクト位置判定モジュール514は、実オブジェクト位置特定モジュール504から取得する実オブジェクトの観測位置、及び/又は予測位置と、メモリ37に予め記憶された判定値とに基づき、実オブジェクト300の位置が、第1判定実景領域R10内に入るか否か、及び第2判定実景領域R20内に入るか否か、を判定する。
図12A、図12Bは、車両1の左右方向(X軸方向)から見た場合の、アイボックス200と、第1の態様の画像の虚像V10を表示する第1表示領域150、第1判定実景領域R10、及び第2判定実景領域R20、の位置関係を示す図である。図12Aは、実オブジェクト300が、第1判定実景領域R10内に入る場合を示し、図12Bは、実オブジェクト300が、第2判定実景領域R20内に入る場合を示す。
一実施形態において、第1判定実景領域R10は、表示領域100内で第1の態様の画像の虚像V10を表示する第1表示領域150の上端150aとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、第1表示領域150の下端150bとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、の間の領域である。また、第2判定実景領域R20は、第1判定実景領域R10の上側(Y軸正方向)に隣接する所定範囲の領域である。ここでいう、第1の態様の画像の虚像V10を表示する第1表示領域150は、表示領域100内の表示領域100より小さい所定の領域であってもよく、表示領域100と一致していてもよい(図3~図10の例では、第1表示領域150と表示領域100とが一致している。)。典型的には、アイボックス200と、第1表示領域150とは、車両用表示システム10が搭載される車両1の種類に応じて設定されるため、第1判定実景領域R10、及び第2判定実景領域R20は、車両1の種類毎に予め一定の値に設定され、メモリ37に記憶される。但し、第1判定実景領域R10、及び第2判定実景領域R20は、車両1の個体差、HUD装置20の個体差(車両1への組付け誤差も含む。)、車両1に設けられた車外センサ407の個体差(車両1への組付け誤差も含む。)などを考慮したキャリブレーションにより、車両用表示システム10の個体毎に、予め設定され、メモリ37に記憶されてもよい。
具体的には、図12Aに示すように、アイボックス200の中心205と、実オブジェクト300とを結ぶ直線が、実景の第1判定実景領域R10の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第1判定実景領域R10内に入っていると判定する。他方で、図12Bに示すように、アイボックス200の中心205と、実オブジェクト300とを結ぶ直線が、第2判定実景領域R20の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R20内に入っていると判定する。
(第2の設定方法)
実オブジェクト位置判定モジュール514は、上述の第1の設定方法に加えて、又は代えて、以下の第2の設定方法を実行し得る。第2の設定方法において、実オブジェクト位置判定モジュール514は、実オブジェクト位置特定モジュール504から取得する実オブジェクトの観測位置、及び/又は予測位置と、表示領域設定モジュール512から取得する表示領域100の位置(又は表示領域100の位置を推定可能な情報)と、に基づき、実オブジェクト300が、第1判定実景領域R10内に入るか否か、及び第2の態様の画像の虚像Vを表示する第2判定実景領域R20内に入るか否か、を判定する。第2の設定方法では、実景領域区分モジュール516は、表示領域100の位置に応じて、第1判定実景領域R10の範囲と、第2判定実景領域R20の範囲とを変更するする。すなわち、実景領域区分モジュール516は、表示領域設定モジュール512から取得する表示領域100の位置(又は表示領域100の位置を推定可能な情報)から、第1判定実景領域R10、及び第2判定実景領域R20を設定するためのテーブルデータ、演算プログラムなどを含み得る。当該テーブルデータは、例えば、表示領域100の位置と、第1判定実景領域R10内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)とを対応付けたデータ、及び表示領域100の位置と、第2判定実景領域R20内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)とを対応付けたデータである。
図13A、図13B、図13Cは、車両1の左右方向(X軸方向)から見た場合の、表示領域100の位置の変化に応じた、第1判定実景領域R10、及び第2判定実景領域R20の範囲の変化を示す図である。表示領域100は、HUD装置20の第1ミラー26を回転させることで、図13A、図13B、図13Cの順に、徐々に下側(Y軸負方向)に移動されている。
実景領域区分モジュール516は、表示領域100の位置に応じて、第1判定実景領域R10、及び第2判定実景領域R20の範囲を変更し、実オブジェクト位置判定モジュール514は、実オブジェクト300が、実景領域区分モジュール516で変更された第1判定実景領域R10内に入るか否か、及び適宜変更された第2判定実景領域R20内に入るか否かを判定する。一実施形態において、第1判定実景領域R10は、表示領域100内で第1の態様の画像の虚像V10を表示する第1表示領域150の上端150aとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、第1表示領域150の下端150bとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、の間の領域である。また、第2判定実景領域R20は、第1判定実景領域R10の上側(Y軸正方向)に隣接する所定範囲の領域である。
具体的には、実景領域区分モジュール516は、図13Bに示すように、第1表示領域151が、図13Aに示す第1表示領域150より下に配置される場合、第1判定実景領域R12も、第1判定実景領域R10より下に配置する。この際、実景領域区分モジュール516は、第1判定実景領域R12の上側(Y軸正方向)に隣接する第2判定実景領域R22の範囲を拡大して設定する(R22>R21)。換言すると、表示領域100(第1表示領域150)の位置が基準の位置からずれる場合、実景領域区分モジュール516は、第2判定実景領域R20を拡大する。図13Bに示すように、アイボックス200の中心205と、実オブジェクト300とを結ぶ直線が、第2判定実景領域R22の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R22内に入っていると判定する。
さらに、図13Cに示すように、第1表示領域152が、図13Bに示す第1表示領域151より下に配置される場合、第1判定実景領域R13も、第1判定実景領域R12より下に配置される。この際、実オブジェクト位置判定モジュール514は、第1判定実景領域R13の上側(Y軸正方向)に隣接する第2判定実景領域R23の範囲をさらに拡げる(R23>R22)。図13Cに示すように、アイボックス200の中心205と、実オブジェクト300とを結ぶ直線が、第2判定実景領域R23の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R23内に入っていると判定する。
すなわち、第2の設定方法では、図13Aに示す第1表示領域150(表示領域100)が重なる第1判定実景領域R11を基準表示領域とした場合、表示領域100の位置の変更に伴い、第1表示領域150(表示領域100)が重なる第1判定実景領域R10が、第1標準実景領域R10sから離れるに従い、第2判定実景領域R20を拡げる。これによれば、実オブジェクト300に対する画像を第2態様で表示させる領域が拡大されるため、第1態様で画像を表示する領域から外れてしまった実オブジェクト300に対して第2態様の画像で視認者に認識させやすくすることができる。また、表示領域100の位置が違っていても、特定の第1標準実景領域R10s、又はその近傍に存在する実オブジェクト300に対して、第2の態様の画像の虚像V20、V30で視認者に認識させやすくすることができる。
(第3の設定方法)
実オブジェクト位置判定モジュール514は、上述の第1の設定方法、及び/又は第2の設定方法に加えて、又は代えて、以下の第3の設定方法を実行し得る。第3の設定方法において、実オブジェクト位置判定モジュール514は、実オブジェクト位置特定モジュール504から取得する実オブジェクトの観測位置、及び/又は予測位置と、目位置検出モジュール508から取得する視認者の目位置4(又は目位置を推定可能な情報)と、に基づき、実オブジェクト300が、第1判定実景領域R10内に入るか否か、及び第2の態様の画像の虚像Vを表示する第2判定実景領域R20内に入るか否か、を判定する。第3の設定方法では、視認者の目位置4に応じて、第1判定実景領域R10の範囲と、第2判定実景領域R20の範囲とが変化し、実オブジェクト300が、適宜変更された第1判定実景領域R10内に入っているか否か、第2判定実景領域R20内に入っているか否かを判定する。すなわち、実オブジェクト位置判定モジュール514は、目位置検出モジュール508から取得する視認者の目位置4(又は目位置を推定可能な情報)から、第1判定実景領域R10と、第2判定実景領域R20と、を設定するためのテーブルデータ、演算プログラム、などを含み得る。当該テーブルデータは、例えば、視認者の目位置4と、第1判定実景領域R10内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)とを対応付けたデータである。
図14A、図14B、図14Cは、車両1の左右方向(X軸方向)から見た場合の、視認者の目位置(目高さ)4の変化に応じた、第1判定実景領域R10、第2判定実景領域R20の範囲の変化を示す図である。視認者の目位置4は、図14Aに示す符号4a、図14Bに示す符号4b、図14Cに示す符号4cの順に、徐々に高くなっている。
実オブジェクト位置判定モジュール514は、視認者の目位置4に応じて、第1判定実景領域R10、第2判定実景領域R20を変更し、実オブジェクト300が、適宜変更された第1判定実景領域R10内に入るか否か、及び適宜変更された第2判定実景領域R20内に入るか否か、を判定する。一実施形態において、第1判定実景領域R10は、図14Aに示すように、表示領域100内で第1の態様の画像の虚像V10を表示する第1表示領域150の上端150aと観測された目位置4a(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、第1表示領域150の下端150bと観測された目位置4a(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、の間の領域である。また、第2判定実景領域R20は、第1判定実景領域R10の上側(Y軸正方向)に隣接する所定範囲の領域である。
具体的には、図14Bに示すように、目位置4bが、図14Aに示す目位置4aより上に配置される場合、第1判定実景領域R12は、図14Aに示す第1判定実景領域R11より下に配置される。この際、実オブジェクト位置判定モジュール514は、第1判定実景領域R12の上側(Y軸正方向)に隣接する第2判定実景領域R22の範囲を拡げる(R22>R21)。換言すると、目位置4が移動した場合、実オブジェクト位置判定モジュール514は、第2判定実景領域R20を拡大する。図14Bに示すように、目位置4bと、実オブジェクト300とを結ぶ直線が、第2判定実景領域R22の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R22内に入っていると判定する。
さらに、図14Cに示すように、目位置4cが、図14Bに示す目位置4bより上に配置される場合、第1判定実景領域R13は、図14Bに示す第1判定実景領域R12より下に配置される。この際、実オブジェクト位置判定モジュール514は、第1判定実景領域R13の上側(Y軸正方向)に隣接する第2判定実景領域R23の範囲をさらに拡げる(R23>R22)。図14Cに示すように、目位置4cと、実オブジェクト300とを結ぶ直線が、第2判定実景領域R23の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R23内に入っていると判定する。
すなわち、第3の設定方法では、図14Aに示す第1表示領域150(表示領域100)が重なる第1判定実景領域R11を基準表示領域とした場合、目位置4の変更に伴い、第1表示領域150(表示領域100)が重なる第1判定実景領域R10が、第1標準実景領域R10sから離れるに従い、第2判定実景領域R20を拡げる。これによれば、実オブジェクト300に対する画像を第2態様で表示させる領域が拡大されるため、第1態様で画像を表示する領域から外れてしまった実オブジェクト300に対して第2態様の画像で視認者に認識させやすくすることができる。また、表示領域100の位置の違っていても、特定の第1標準実景領域R10s、又はその近傍に存在する実オブジェクト300に対して、第2の態様の画像で視認者に認識させやすくすることができる。
(第4の設定方法)
実オブジェクト位置判定モジュール514は、上述の第1乃至第3の設定方法に加えて、又は代えて、以下の第4の設定方法を実行し得る。第4の設定方法において、実オブジェクト位置判定モジュール514は、実オブジェクト位置特定モジュール504から取得する実オブジェクトの観測位置、及び/又は予測位置と、車両ECU401から取得する車両1の姿勢(例えば、チルト角)と、に基づき、実オブジェクト300が、第1判定実景領域R10内に入るか否か、及び第2の態様の画像の虚像Vを表示する第2判定実景領域R20内に入るか否か、を判定する。第4の設定方法では、車両1の姿勢に応じて、第1判定実景領域R10の範囲と、第2判定実景領域R20の範囲とが変化し、実オブジェクト300が、適宜変更された第1判定実景領域R10内に入っているか否か、第2判定実景領域R20内に入っているか否かを判定する。すなわち、実オブジェクト位置判定モジュール514は、車両ECU401から取得する車両1の姿勢(又は車両1の姿勢を推定可能な情報)から、第1判定実景領域R10と、第2判定実景領域R20と、を設定するためのテーブルデータ、演算プログラム、などを含み得る。当該テーブルデータは、例えば、視認者の目位置4と、第1判定実景領域R10内に入るか否かの判定値(左右方向(X軸方向)の位置、上下方向(Y軸方向)の位置)とを対応付けたデータである。
図15A、図15Bは、車両1の左右方向(X軸方向)から見た場合の、車両1のチルト角θtの変化に応じた、第1判定実景領域R10、第2判定実景領域R20の範囲の変化を示す図である。車両1の姿勢は、図15Bに示すチルト角θt2の方が、図15Aに示すチルト角θt1より前傾している。
実オブジェクト位置判定モジュール514は、車両1の姿勢に応じて、第1判定実景領域R10、第2判定実景領域R20を変更し、実オブジェクト300が、適宜変更された第1判定実景領域R10内に入るか否か、及び適宜変更された第2判定実景領域R20内に入るか否か、を判定する。一実施形態において、第1判定実景領域R10は、表示領域100内で第1の態様の画像の虚像V10を表示する第1表示領域150の上端150aとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、第1表示領域150の下端150bとアイボックス200の中心205(アイボックス200内の所定の位置の一例であり、これに限定されない。)とを結ぶ線と、の間の領域である。また、第2判定実景領域R20は、第1判定実景領域R10の上側(Y軸正方向)に隣接する所定範囲の領域である。
具体的には、図15Bに示すように、第1表示領域151が、図15Aに示す第1表示領域150より下に配置される場合、第1判定実景領域R12も、第1判定実景領域R11より下に配置される。この際、実オブジェクト位置判定モジュール514は、第1判定実景領域R11の上側(Y軸正方向)に隣接する第2判定実景領域R21の範囲を拡げる(R22>R21)。換言すると、表示領域100の位置が所定の位置からずれる場合、実オブジェクト位置判定モジュール514は、第2判定実景領域R20を拡大する。図15Bに示すように、アイボックス200の中心205と、実オブジェクト300とを結ぶ直線が、第2判定実景領域R22の範囲内を通る場合には、実オブジェクト位置判定モジュール514は、実オブジェクト300が第2判定実景領域R22内に入っていると判定する。
すなわち、第4の設定方法では、図15Aに示す第1表示領域150(表示領域100)が重なる第1判定実景領域R11を基準表示領域とした場合、図15Bに示すように、表示領域100の位置のずれに伴い、第1表示領域150(表示領域100)が重なる第1判定実景領域R10が、第1標準実景領域R10sから離れるに従い、第2判定実景領域R20を拡げる。これによれば、実オブジェクト300に対する画像を第2態様で表示させる領域が拡大されるため、第1態様で画像を表示する領域から外れてしまった実オブジェクト300に対して第2態様の画像で視認者に認識させやすくすることができる。また、表示領域100の位置の違っていても、特定の第1標準実景領域R10s、又はその近傍に存在する実オブジェクト300に対して、第2の態様の画像で視認者に認識させやすくすることができる。
図16A、図16B、図16C、及び図16Dを用いて、実景領域区分モジュール516が行う第2判定実景領域R20の拡大設定の態様の例を説明する。図16Aは、図13Bと同じであり、図13Aの第1表示領域150の位置を基準表示領域として、当該基準表示領域よりも第1表示領域151が下に配置された際に拡大された第2判定実景領域R22を示している。
図16Bは、図16Aと同じ状況であっても第2判定実景領域R20を更に拡大した態様を示している。具体的には、拡大された第2判定実景領域R22の一部が、第2標準実景領域R20sの一部と重なる。すなわち、一実施形態において、実景領域区分モジュール516は、基準となる第2判定実景領域R21の一部に重なるように、第2判定実景領域R20を拡大して設定する。
図16Cは、図16Bと同じ状況であっても第2判定実景領域R20を更に拡大した態様を示している。具体的には、拡大された第2判定実景領域R23の一部が、第2標準実景領域R20sの全体と重なる。すなわち、一実施形態において、実景領域区分モジュール516は、基準となる第2判定実景領域R21の全体を含むように、第2判定実景領域R20を拡大して設定する。
図16Dは、図16Cと同じ状況であっても第2判定実景領域R20を更に拡大した態様を示している。具体的には、拡大された第2判定実景領域R23の一部が、第2標準実景領域R20sの全体とさらに広い範囲を含む。すなわち、一実施形態において、実景領域区分モジュール516は、基準となる第2判定実景領域R21の全体とさらに広い範囲を含むように、第2判定実景領域R20を拡大して設定する。
図17Aないし図17Fは、アイボックス200から前方を向いた際の第1判定実景領域R10、及び第2判定実景領域R20、の位置関係を模式的に示す図である。これらの図では、第1表示領域150は、形状であるが、これに限定されるものではない。
図17Aでは、第2判定実景領域R20は、第1判定実景領域R10の左端より左側に隣接する領域と、第1判定実景領域R10の右端より右側に隣接する領域と、第1判定実景領域R10の上端より上側に隣接する領域と、を含む下側がへこんだ領域である。なお、第2判定実景領域R20は、狭く図示しているが、もっと広い範囲であることが好ましい(図17Aないし図17Fも同様)。
また、いくつかの実施形態では、図17Bに示すように、第2判定実景領域R20は、図17Aでの領域に加え、第1判定実景領域R10の下端より下側に隣接する領域をさらに含む中空の領域であってもよい。
また、いくつかの実施形態では、図17Cに示すように、第2判定実景領域R20は、第1判定実景領域R10の左端より左側に隣接する領域と、第1判定実景領域R10の右端より右側に隣接する領域と、を含んでいなくてもよい。
また、いくつかの実施形態では、図17Dに示すように、第2判定実景領域R20は、分離した複数の領域で構成されていてもよい。
上記の図17Aないし図17Dでは、表示領域100と第1態様の画像の虚像V10を表示する第1表示領域150とを一致させて図示してあるが、これらに限定されない。第1表示領域150は、表示領域100より小さい領域となり得る。図17Eでは、第2判定実景領域R20は、第1判定実景領域R10の左端より左側に隣接する領域と、第1判定実景領域R10の右端より右側に隣接する領域と、第1判定実景領域R10の上端より上側に隣接する領域と、を含む下側がへこんだ領域に設定され得る。この場合、第2判定実景領域R20は、第1判定実景領域R10と隣接する領域が、表示領域100内に配置され得る。
上記の図17Aないし図17Eでは、第1判定実景領域R10と第2判定実景領域R20とが隣接していたが、これらに限定されない。この場合、第1表示領域150は、表示領域100より小さい領域となり得る。図17Fでは、第2判定実景領域R20は、第1判定実景領域R10の左端より左側に隣接しない領域と、第1判定実景領域R10の右端より右側に隣接しない領域と、第1判定実景領域R10の上端より上側に隣接しない領域と、を含む下側がへこんだ領域に設定され得る。なお、図17Gでは、第2判定実景領域R20は、第1判定実景領域R10の左端より左側に隣接する領域と、第1判定実景領域R10の右端より右側に隣接する領域と、第1判定実景領域R10の上端より上側に隣接しない領域と、を含む下側がへこんだ領域に設定され得る。すなわち、第1判定実景領域R10と第2判定実景領域R20とは、一部のみ隣接しており、他の部分では隣接しなくてもよい(第1判定実景領域R10又は第2判定実景領域R20ではない領域を間に含んでもよい)。また、図17F、図17Gの例を変更して、表示領域100と第1態様の画像の虚像V10を表示する第1表示領域150とを一致させてもよい。
画像種類設定モジュール518は、実オブジェクト位置判定モジュール514で、第1判定実景領域R10内に入る実オブジェクトに対し、第1の態様の画像を設定し、第2判定実景領域R20内に入る実オブジェクトに対し、第2の態様の画像を設定する。
また、画像種類設定モジュール518は、例えば、実オブジェクト情報検出モジュール502により検出された実オブジェクトの種類、位置、実オブジェクト情報検出モジュール502で検出された実オブジェクト関連情報の種類、数、及び/又は報知必要度判定モジュール506で検出された(推定された)報知必要度の大きさに基づいて、実オブジェクトに対して表示する画像の種類を決定(変更)してもよい。また、画像種類設定モジュール518は、後述する視線方向判定モジュール524による判定結果により、表示する画像の種類を増減させてもよい。具体的には、実オブジェクト300が視認者によって視認されにくい状態である場合、実オブジェクトの近傍に視認者によって視認される画像の種類を多くしてもよい。
画像配置設定モジュール520は、虚像Vが、実オブジェクト300と特定の位置関係になって視認されるように、実オブジェクト位置特定モジュール504が特定した実オブジェクト300の位置(観測位置又は予測位置)に基づき、虚像Vの座標(視認者が車両1の運転席から表示領域100の方向を見た際の左右方向(X軸方向)、及び上下方向(Y軸方向)を少なくとも含む)を決定する。これに加え、画像配置設定モジュール520は、実オブジェクト位置特定モジュール504が設定した実オブジェクト300の決定位置に基づき、視認者が車両1の運転席から表示領域100の方向を見た際の前後方向(Z軸方向)を決定してもよい。なお、画像配置設定モジュール520は、目位置検出部411が検出した視認者の目の位置に基づいて、虚像Vの位置を調整する。例えば、画像配置設定モジュール520は、虚像Vのコンテンツが区画線311,312の間の領域(路面310)に視認されるように、虚像Vの左右方向、及び上下方向の位置を決定する。
また、画像配置設定モジュール520は、虚像Vの角度(X方向を軸としたピッチング角、Y方向を軸としたヨーレート角、Z方向を軸としたローリング角)を設定し得る。なお、虚像Vの角度は、予め設定された角度であり、車両1の前後左右方向(XZ面)と平行となるように設定され得る。
画像サイズ設定モジュール522は、対応付ける実オブジェクト300の位置、形状、及び/又はサイズに合わせて、虚像Vのサイズを変更してもよい。例えば、画像サイズ設定モジュール522は、対応付ける実オブジェクト300の位置が遠方であれば、虚像Vのサイズを小さくし得る。また、画像サイズ設定モジュール522は、対応付ける実オブジェクト300のサイズが大きければ、虚像Vのサイズを大きくし得る。
また、画像サイズ設定モジュール522は、報知必要度判定モジュール506で検出された(推定された)報知必要度の大きさに基づいて、虚像Vのサイズを決定し得る。
画像サイズ設定モジュール522は、過去の所定の回数の実オブジェクト300のサイズに基づいて、今回の表示更新周期で表示する虚像Vのコンテンツを表示するサイズを予測算出する機能を有してもよい。第1の手法として、画像サイズ設定モジュール522は、カメラ(車外センサ407の一例)による過去の2つの撮像画像間で、例えば、Lucas-Kanade法を使用して、実オブジェクト300の画素を追跡することで、今回の表示更新周期における実オブジェクト300のサイズを予測し、予測した実オブジェクト300のサイズに合わせて虚像Vのサイズを決定してもよい。第2手法として、過去の2つの撮像画像間での実オブジェクト300のサイズの変化に基づき、実オブジェクト300のサイズの変化率を求めて、実オブジェクト300のサイズの変化率に応じて虚像Vのサイズを決定してもよい。なお、時系列で変化する視点からの実オブジェクト300のサイズ変化を推定する方法は、上記に限られず、例えば、Horn-Schunck法、Buxton-Buxton、Black-Jepson法などのオプティカルフロー推定アルゴリズムを含む公知の手法を用いてもよい。
視線方向判定モジュール524は、車両1の視認者が、虚像V又は虚像Vが対応付けられた実オブジェクトを見ていること、及び/並びに虚像V又は虚像Vが対応付けられた実オブジェクトを見ていないこと、の判定に関する様々な動作を実行するための様々なソフトウェア構成要素を含む。
また、視線方向判定モジュール524は、視認者が虚像Vのコンテンツ以外の何を視認しているかを検出してもよい。例えば、視線方向判定モジュール524は、実オブジェクト情報検出モジュール502が検出した車両1の前景に存在する実オブジェクト300の位置と、視線方向検出部413から取得した視認者の視線方向と、を比較することで、注視している実オブジェクト300を特定し、視認された実オブジェクト300を特定する情報を、プロセッサ33に送信してもよい。
グラフィックモジュール526は、レンダリングなどの画像処理をして画像データを生成し、表示器21を駆動するための様々な既知のソフトウェア構成要素を含む。また、グラフィックモジュール526は、表示される画像の、種類、配置(位置座標、角度)、サイズ、表示距離(3Dの場合。)、視覚的効果(例えば、輝度、透明度、彩度、コントラスト、又は他の視覚特性)、を変更するための様々な既知のソフトウェア構成要素を含んでいてもよい。グラフィックモジュール526は、画像種類設定モジュール518が設定した種類、画像配置設定モジュール520が設定した位置座標(視認者が車両1の運転席から表示領域100の方向を見た際の左右方向(X軸方向)、及び上下方向(Y軸方向)の位置座標を少なくとも含む位置座標。)画像配置設定モジュール520が設定した角度(X方向を軸としたピッチング角、Y方向を軸としたヨーレート角、Z方向を軸としたローリング角)、及び画像サイズ設定モジュール522が設定したサイズで視認者に視認されるように画像データを生成し、画像表示部20に表示する。
駆動モジュール528は、表示器21を駆動すること、光源ユニット24を駆動すること、並びに第1アクチュエータ28及び/又は第2アクチュエータ29を駆動すること、を実行するための様々な既知のソフトウェア構成要素を含む。駆動モジュール528は、表示領域設定モジュール512、及びグラフィックモジュール526が生成した駆動データに基づき、液晶ディスプレイパネル22、光源ユニット24、並びに第1アクチュエータ28及び第2アクチュエータ29を駆動する。
図18A、図18Bは、いくつかの実施形態に従って、車両の外側の実景に存在する実オブジェクトに対して、第1態様又は第2態様の画像の虚像を表示する動作を実行する方法S100を示すフロー図である。方法S100は、ディスプレイを含む画像表示部20と、この画像表示部20を制御する表示制御装置30と、において実行される。方法S100内のいくつかの動作は任意選択的に組み合わされ、いくつかの動作の手順は任意選択的に変更され、いくつかの動作は任意選択的に省略される。
以下で説明するように、方法S100は、実オブジェクトの認知性を高める画像(虚像)の提示方法を提供する。
ブロックS110において、表示制御装置30は、第1判定実景領域R10の範囲を設定する。いくつかの実施形態では、表示制御装置30のプロセッサ33は、実景領域区分モジュール516を実行し、メモリ37に予め記憶された第1判定実景領域R10を読み出すことで設定する(S111)。また、いくつかの実施形態では、プロセッサ33は、表示領域設定モジュール512を実行し、取得したリレー光学系の状態(S113)、表示器の使用領域(S115)、視認者の目位置(S117)、車両1の姿勢(S119)、又はこれらの組み合わせに基づき、第1判定実景領域R10の範囲を設定する。
ブロックS120において、表示制御装置30は、第2判定実景領域R20の範囲を拡大するための所定の条件を満たすことを検出する。表示制御装置30は、アイボックス200の所定の位置(例えば、中心205)から見て(又は視認者の目位置4から見て)表示領域100が重なる実景領域が、第1標準実景領域R10sからずれていること(ずれていると推定されること)、を検出した場合、所定の条件を満たしたと判定する。例えば、表示制御装置30は、リレー光学系の状態(S122)、表示器の使用領域(S124)、視認者の目位置(S126)、車両1の姿勢(S128)などからアイボックス200の所定の位置(例えば、中心205)から見て(又は視認者の目位置4から見て)表示領域100が重なる実景領域が、第1標準実景領域R10sからずれていること(ずれていると推定されること)を検出することができる。すなわち、いくつかの実施形態では、表示制御装置30のプロセッサ33は、実景領域区分モジュール516を実行し、取得したリレー光学系の状態(S122)、表示器の使用領域(S124)、視認者の目位置(S126)、車両1の姿勢(S128)、又はこれらの組み合わせ、に基づき、第2判定実景領域R20の範囲を拡大するための所定の条件を満たすことを検出することができる。
ブロックS130において、表示制御装置30は、S120で所定の条件が満たされていた場合、第2判定実景領域R20の範囲を拡大して設定する。例えば、いくつかの実施形態では、表示制御装置30のプロセッサ33は、実景領域区分モジュール516により、第2判定実景領域の範囲を標準範囲より拡大すること(S132)、第2判定実景領域R20が第2標準実景領域R20sの一部に重なるように拡大すること(S134)、第2判定実景領域R20が第2標準実景領域R20sの全体を含むように拡大すること(S136)、又は第2判定実景領域R20が第2標準実景領域R20sの全体と、さらに広い範囲を含むように拡大すること(S138)のいずれか1つを実行する。なお、表示制御装置30は、第2判定実景領域R20の拡大の程度を、実オブジェクト情報検出モジュール502で取得する実オブジェクト300の種類毎に異ならせてもよい。例えば、いくつかの実施形態では、表示制御装置30は、走行レーン、障害物、及び地物で、第2判定実景領域R20の拡大の程度を変えてもよい。なお、いくつかの実施形態では、表示制御装置30は、S120で所定の条件が満たされていない場合、第2判定実景領域R20の範囲を、ブロックS110で設定された第1判定実景領域R10を基準に、メモリ37に予め記憶された第2標準実景領域R20sに設定する。
ブロックS140において、表示制御装置30は、実オブジェクト位置特定モジュール504を実行することで、実オブジェクト位置を取得する。
ブロックS150において、表示制御装置30は、ブロックS140で取得した実オブジェクトの位置が、ブロックS110で設定された第1判定実景領域R10内に入るか否か、及びブロックS130で設定された第2判定実景領域R20内に入るか否か、を判定する。いくつかの実施形態では、表示制御装置30のプロセッサ33は、実オブジェクト位置特定モジュール504を実行し、
実オブジェクト位置特定モジュール504から取得した実オブジェクトの位置が、ブロックS110で設定された第1判定実景領域R10内に入るか否か、及びブロックS130で設定された第2判定実景領域R20内に入るか否か、を判定し、この判定結果に基づき、画像種類設定モジュール518が、実オブジェクトに対応する画像を第1態様、又は第2態様に設定し、画像表示部20に画像(虚像)を表示させる(ブロックS152,S154)。
上述の処理プロセスの動作は、汎用プロセッサ又は特定用途向けチップなどの情報処理装置の1つ以上の機能モジュールを実行させることにより実施することができる。これらのモジュール、これらのモジュールの組み合わせ、及び/又はそれらの機能を代替えし得る公知のハードウェアとの組み合わせは全て、本発明の保護の範囲内に含まれる。
車両用表示システム10の機能ブロックは、任意選択的に、説明される様々な実施形態の原理を実行するために、ハードウェア、ソフトウェア、又はハードウェア及びソフトウェアの組み合わせによって実行される。図11で説明する機能ブロックが、説明される実施形態の原理を実施するために、任意選択的に、組み合わされ、又は1つの機能ブロックを2以上のサブブロックに分離されてもいいことは、当業者に理解されるだろう。したがって、本明細書における説明は、本明細書で説明されている機能ブロックのあらゆる可能な組み合わせ若しくは分割を、任意選択的に支持する。
以上に説明したように、本実施形態の表示制御装置30は、車両内のアイボックス200から見て前景に重なる表示領域100内に、画像の虚像Vを表示する画像表示部20を制御する表示制御装置30であって、情報を取得可能な1つ又は複数のI/Oインタフェース31と、1つ又は複数のプロセッサ33と、メモリ37と、メモリ37に格納され、1つ又は複数のプロセッサ33によって実行されるように構成される1つ又は複数のコンピュータ・プログラムと、を備え、1つ又は複数のI/Oインタフェース31は、車両の周辺に存在する実オブジェクトの位置と、表示領域100の位置、アイボックス200内の観察者の目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つと、を取得し、1つ又は複数のプロセッサ33は、実オブジェクトの位置が、第1判定実景領域R10内に入るか否か、及び第2判定実景領域R20内に入るか否かを判定し、実オブジェクトの位置が、第1判定実景領域R10内に入る場合、実オブジェクトに対応する第1態様の画像の虚像V10を表示させ、実オブジェクトの位置が、第2判定実景領域R20内に入る場合、実オブジェクトに対応する第2態様の画像の虚像V20(V30)を表示させ、表示領域100の位置、目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、第2判定実景領域R20の範囲を拡大する、命令を実行する。
また、いくつかの実施形態では、1つ又は複数のプロセッサ33は、表示領域100の位置、目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、アイボックス200から見て表示領域100の少なくとも一部と重なる前景の領域を第1判定実景領域R10に設定し、第2判定実景領域R20は、アイボックス200から見て第1判定実景領域R10の上側に視認される前景の領域を含むように設定する、命令を実行する。
また、いくつかの実施形態では、1つ又は複数のプロセッサ33は、第1判定実景領域R10の一部と第2判定実景領域R20の一部とが、隣接するように設定する、命令を実行する。
また、いくつかの実施形態では、メモリ37は、前景の特定の領域を、第1標準実景領域R10sとして記憶しており、1つ又は複数のプロセッサ33は、表示領域100の位置、目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、アイボックス200から見て表示領域100の少なくとも一部と重なる前景の領域が、第1標準実景領域R10sに対してずれると推定される場合、第2判定実景領域R20の範囲を拡大する、命令を実行する。
また、いくつかの実施形態では、メモリ37は、前景の特定の領域を、第1標準実景領域R10sとして記憶しており、1つ又は複数のプロセッサ33は、表示領域100の位置、目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、アイボックス200から見て表示領域100の少なくとも一部と重なる前景の領域を第1判定実景領域R10に設定し、第1判定実景領域R10が、第1標準実景領域R10sに対してずれているか判定し、第1判定実景領域R10が、第1標準実景領域R10sに対してずれていると判定される場合、第2判定実景領域R20の範囲を拡大する、命令を実行する。
また、いくつかの実施形態では、1つ又は複数のプロセッサ33は、表示領域100の位置、目位置4、車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、第2判定実景領域R20の範囲の拡大幅を変更する、命令を実行する。
また、いくつかの実施形態では、1つ又は複数のプロセッサ33は、第2態様の画像の虚像V20(V30)を、表示領域100の外縁領域110に表示させる、命令を実行する。
また、いくつかの実施形態では、1つ又は複数のI/Oインタフェース31で取得する実オブジェクトの位置は、アイボックス200から前景を向いた際の左右方向の位置を含み、1つ又は複数のプロセッサ33は、アイボックス200から見た第2態様の画像の虚像V20(V30)の左右方向の位置を、実オブジェクトの左右方向の位置に追従するように移動させる、命令を実行する。
また、いくつかの実施形態では、メモリ37は、前景の特定の領域を、第2標準実景領域R20sとして記憶しており、1つ又は複数のプロセッサ33は、第2判定実景領域R20が、第2標準実景領域R20sの少なくとも一部を含むように範囲を拡大する、命令を実行する。
また、いくつかの実施形態では、メモリ37は、前景の特定の領域を、第2標準実景領域R20sとして記憶しており、1つ又は複数のプロセッサ33は、第2判定実景領域R20が、第2標準実景領域R20sの全体を含むまで範囲を拡大する、命令を実行する。
1 :車両
2 :フロントウインドシールド
4 :目位置
10 :車両用表示システム
20 :HUD装置(画像表示部)
21 :表示器
21a :表示面
22 :液晶ディスプレイパネル
23 :虚像
24 :光源ユニット
25 :リレー光学系
26 :第1ミラー
27 :第2ミラー
30 :表示制御装置
31 :I/Oインタフェース
33 :プロセッサ
35 :画像処理回路
37 :メモリ
40 :表示光
40p :光軸
41 :第1画像光
42 :第2画像光
43 :第3画像光
90 :虚像光学系
100 :表示領域
101 :上端
102 :下端
110 :外縁領域
120 :固定領域
150 :第1表示領域
150a :上端
150b :下端
151、152 :第1表示領域
200 :アイボックス
205 :中心
300 :実オブジェクト
502 :実オブジェクト情報検出モジュール
504 :実オブジェクト位置特定モジュール
506 :報知必要度判定モジュール
508 :目位置検出モジュール
510 :車両姿勢検出モジュール
512 :表示領域設定モジュール
514 :実オブジェクト位置判定モジュール
516 :実景領域区分モジュール
518 :画像種類設定モジュール
520 :画像配置設定モジュール
522 :画像サイズ設定モジュール
524 :視線方向判定モジュール
526 :グラフィックモジュール
528 :駆動モジュール
M :画像
R10、R11、R12、R13 :第1判定実景領域
R10s :第1標準実景領域
R20s :第2標準実景領域
R20、R21、R22、R23:第2判定実景領域
V :虚像
θt :チルト角
θv :縦配置角

Claims (13)

  1. 車両内のアイボックス(200)から見て前景に重なる表示領域(100)内に、画像の虚像(V)を表示する画像表示部(20)を制御する表示制御装置(30)において、
    情報を取得可能な1つ又は複数のI/Oインタフェース(31)と、
    1つ又は複数のプロセッサ(33)と、
    メモリ(37)と、
    前記メモリ(37)に格納され、前記1つ又は複数のプロセッサ(33)によって実行されるように構成される1つ又は複数のコンピュータ・プログラムと、を備え、
    前記1つ又は複数のI/Oインタフェース(31)は、
    車両の周辺に存在する実オブジェクトの位置と、
    前記表示領域(100)の位置、前記アイボックス(200)内の観察者の目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つと、を取得し、
    前記1つ又は複数のプロセッサ(33)は、
    前記実オブジェクトの位置が、第1判定実景領域(R10)内に入るか否か、及び第2判定実景領域(R20)内に入るか否かを判定し、
    前記実オブジェクトの位置が、前記第1判定実景領域(R10)内に入る場合、前記実オブジェクトに対応する第1態様の画像の虚像(V10)を表示させ、前記実オブジェクトの位置が、前記第2判定実景領域(R20)内に入る場合、前記実オブジェクトに対応する第2態様の画像の虚像(V20;V30)を表示させ、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記第2判定実景領域(R20)の範囲を拡大する、命令を実行する、
    表示制御装置(30)。
  2. 前記1つ又は複数のプロセッサ(33)は、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記アイボックス(200)から見て前記表示領域(100)の少なくとも一部と重なる前記前景の領域を前記第1判定実景領域(R10)に設定し、
    前記第2判定実景領域(R20)は、前記アイボックス(200)から見て前記第1判定実景領域(R20)の上側に視認される前記前景の領域を含むように設定する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  3. 前記1つ又は複数のプロセッサ(33)は、
    前記第1判定実景領域(R10)の一部と前記第2判定実景領域(R20)の一部とが、隣接するように設定する、命令を実行する、
    請求項2に記載の表示制御装置(30)。
  4. 前記メモリ(37)は、前記前景の特定の領域を、第1標準実景領域(R10s)として記憶しており、
    前記1つ又は複数のプロセッサ(33)は、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記アイボックス(200)から見て前記表示領域(100)の少なくとも一部と重なる前記前景の領域が、前記第1標準実景領域(R10s)に対してずれると推定される場合、前記第2判定実景領域(R20)の範囲を拡大する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  5. 前記メモリ(37)は、前記前景の特定の領域を、第1標準実景領域(R10s)として記憶しており、
    前記1つ又は複数のプロセッサ(33)は、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記アイボックス(200)から見て前記表示領域(100)の少なくとも一部と重なる前記前景の領域を前記第1判定実景領域(R10)に設定し、
    前記第1判定実景領域(R10)が、前記第1標準実景領域(R10s)に対してずれているか判定し、前記第1判定実景領域(R10)が、前記第1標準実景領域(R10s)に対してずれていると判定される場合、前記第2判定実景領域(R20)の範囲を拡大する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  6. 前記1つ又は複数のプロセッサ(33)は、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記第2判定実景領域(R20)の範囲の拡大幅を変更する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  7. 前記1つ又は複数のプロセッサ(33)は、
    前記第2態様の画像の虚像(V20;V30)を、前記表示領域(100)の外縁領域(110)に表示させる、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  8. 前記1つ又は複数のI/Oインタフェース(31)で取得する前記実オブジェクトの位置は、前記アイボックス(200)から前記前景を向いた際の左右方向の位置を含み、
    前記1つ又は複数のプロセッサ(33)は、
    前記アイボックス(200)から見た前記第2態様の画像の虚像(V20;V30)の左右方向の位置を、前記実オブジェクトの左右方向の位置に追従するように移動させる、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  9. 前記メモリ(37)は、前記前景の特定の領域を、第2標準実景領域(R20s)として記憶しており、
    前記1つ又は複数のプロセッサ(33)は、
    前記第2判定実景領域(R20)が、前記第2標準実景領域(R20s)の少なくとも一部を含むように範囲を拡大する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  10. 前記メモリ(37)は、前記前景の特定の領域を、第2標準実景領域(R20s)として記憶しており、
    前記1つ又は複数のプロセッサ(33)は、
    前記第2判定実景領域(R20)が、前記第2標準実景領域(R20s)の全体を含むまで範囲を拡大する、命令を実行する、
    請求項1に記載の表示制御装置(30)。
  11. 表示面に画像を表示する表示器(21)と、
    前記表示器(21)が表示する前記画像の表示光を、外部の被投影部に投影することで、アイボックス(200)から見て前景に重なる表示領域(100)内に、画像の虚像(V)を表示する1つ又は複数のリレー光学系(25)と、
    情報を取得可能な1つ又は複数のI/Oインタフェース(31)と、
    1つ又は複数のプロセッサ(33)と、
    メモリ(37)と、
    前記メモリ(37)に格納され、前記1つ又は複数のプロセッサ(33)によって実行されるように構成される1つ又は複数のコンピュータ・プログラムと、を備え、
    前記1つ又は複数のI/Oインタフェース(31)は、
    車両の周辺に存在する実オブジェクトの位置と、
    前記表示領域(100)の位置、前記表示面において前記画像を表示する使用領域の位置、前記アイボックス(200)内の観察者の目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つと、を取得し、
    前記1つ又は複数のプロセッサ(33)は、
    前記実オブジェクトの位置が、第1判定実景領域(R10)内に入るか否か、及び第2判定実景領域(R20)内に入るか否かを判定し、
    前記実オブジェクトの位置が、前記第1判定実景領域(R10)内に入る場合、前記実オブジェクトに対応する第1態様の画像の虚像(V10)を表示させ、前記実オブジェクトの位置が、前記第2判定実景領域(R20)内に入る場合、前記実オブジェクトに対応する第2態様の画像の虚像(V20;V30)を表示させ、
    前記表示領域(100)の位置、前記使用領域の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記第2判定実景領域(R20)の範囲を拡大する、命令を実行する、
    ヘッドアップディスプレイ装置(20)。
  12. 前記1つ又は複数のリレー光学系(25)を、回転及び/又は移動させる1つ又は複数のアクチュエータ(28,29)をさらに備え、
    前記表示領域(100)の位置を推定可能な情報は、前記1つ又は複数のアクチュエータ(28,29)の駆動量を含む、
    請求項11に記載のヘッドアップディスプレイ装置(20)。
  13. 車両内のアイボックス(200)から見て前景に重なる表示領域(100)内に、画像の虚像(V)を表示する画像表示部(20)を制御する方法であって、
    車両の周辺に存在する実オブジェクトの位置を取得することと、
    前記表示領域(100)の位置、前記アイボックス(200)内の観察者の目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つを取得することと、
    前記実オブジェクトの位置が、第1判定実景領域(R10)内に入るか否か、及び第2判定実景領域(R20)内に入るか否かを判定することと、
    前記実オブジェクトの位置が、前記第1判定実景領域(R10)内に入る場合、前記実オブジェクトに対応する第1態様の画像の虚像(V10)を表示させ、前記実オブジェクトの位置が、前記第2判定実景領域(R20)内に入る場合、前記実オブジェクトに対応する第2態様の画像の虚像(V20;V30)を表示させることと、
    前記表示領域(100)の位置、前記目位置(4)、前記車両の姿勢、又はこれらを推定可能な情報、の少なくともいずれか1つに基づき、前記第2判定実景領域(R20)の範囲を拡大することと、を含む、
    方法。
JP2021567664A 2019-12-27 2020-12-25 表示制御装置、ヘッドアップディスプレイ装置、及び方法 Active JP7459883B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019238220 2019-12-27
JP2019238220 2019-12-27
PCT/JP2020/048680 WO2021132555A1 (ja) 2019-12-27 2020-12-25 表示制御装置、ヘッドアップディスプレイ装置、及び方法

Publications (2)

Publication Number Publication Date
JPWO2021132555A1 JPWO2021132555A1 (ja) 2021-07-01
JP7459883B2 true JP7459883B2 (ja) 2024-04-02

Family

ID=76575998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021567664A Active JP7459883B2 (ja) 2019-12-27 2020-12-25 表示制御装置、ヘッドアップディスプレイ装置、及び方法

Country Status (2)

Country Link
JP (1) JP7459883B2 (ja)
WO (1) WO2021132555A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11798240B2 (en) * 2022-03-24 2023-10-24 GM Global Technology Operations LLC System and method for social networking using an augmented reality display
CN115202476B (zh) * 2022-06-30 2023-04-11 泽景(西安)汽车电子有限责任公司 显示图像的调整方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015004784A1 (ja) 2013-07-11 2015-01-15 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
JP2016222061A (ja) 2015-05-28 2016-12-28 日本精機株式会社 車両用表示システム
JP2018146912A (ja) 2017-03-09 2018-09-20 クラリオン株式会社 車載表示装置、及び車載表示方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015004784A1 (ja) 2013-07-11 2015-01-15 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
JP2016222061A (ja) 2015-05-28 2016-12-28 日本精機株式会社 車両用表示システム
JP2018146912A (ja) 2017-03-09 2018-09-20 クラリオン株式会社 車載表示装置、及び車載表示方法

Also Published As

Publication number Publication date
JPWO2021132555A1 (ja) 2021-07-01
WO2021132555A1 (ja) 2021-07-01

Similar Documents

Publication Publication Date Title
JP7006235B2 (ja) 表示制御装置、表示制御方法および車両
JP2020032866A (ja) 車両用仮想現実提供装置、方法、及びコンピュータ・プログラム
JP7459883B2 (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び方法
JP2019012238A (ja) 表示システム、情報提示システム、表示システムの制御方法、プログラム、及び移動体
JP7255608B2 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2023077857A (ja) ヘッドアップディスプレイ装置
WO2022230995A1 (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
WO2021200914A1 (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び方法
JP2020117105A (ja) 表示制御装置、方法、及びコンピュータ・プログラム
WO2020158601A1 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP7014206B2 (ja) 表示制御装置および表示制御プログラム
JP2020121607A (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2020121704A (ja) 表示制御装置、ヘッドアップディスプレイ装置、方法、及びコンピュータ・プログラム
JP7434894B2 (ja) 車両用表示装置
WO2021200913A1 (ja) 表示制御装置、画像表示装置、及び方法
JP2021056358A (ja) ヘッドアップディスプレイ装置
WO2023145852A1 (ja) 表示制御装置、表示システム、及び表示制御方法
JP2022113292A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
JP2022077138A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
JP2022057051A (ja) 表示制御装置、虚像表示装置
WO2023003045A1 (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
JP2021160409A (ja) 表示制御装置、画像表示装置、及び方法
JP2020199883A (ja) 表示制御装置、ヘッドアップディスプレイ装置、方法、及びコンピュータ・プログラム
JP2022190724A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
WO2023210682A1 (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240304

R150 Certificate of patent or registration of utility model

Ref document number: 7459883

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150